技术控

    今日:104| 主题:49431
收藏本版 (1)
最新软件应用技术尽在掌握

[其他] [工具资源] koth/kcws: Deep Learning Chinese Word Segment

[复制链接]
kc117 发表于 2016-11-29 09:20:01
84 1

立即注册CoLaBug.com会员,免费获得投稿人的专业资料,享用更多功能,玩转个人品牌!

您需要 登录 才可以下载或查看,没有帐号?立即注册

x
背景

   97.5%准确率的深度学习中文分词(字嵌入+Bi-LSTM+CRF)
  构建

  
       
  • 安装好bazel代码构建工具,clone下来tensorflow项目代码,配置好(./configure)   
  • clone 本项目地址到tensorflow同级目录,切换到本项目代码目录,运行./configure   
  • 编译后台服务
    bazel build //kcws/cc:seg_backend_api
      
  训练

  
       
  • 关注待字闺中公众号 回复 kcws 获取语料下载地址:
      
    [工具资源] koth/kcws: Deep Learning Chinese Word Segment-1 (deep,learning,工具,deep,learning,deeplearning4j,deep,learning,pdf)

       
  • 解压语料到一个目录
       
  • 切换到代码目录,运行:
    python kcws/train/process_anno_file.py <语料目录> chars_for_w2v.txt
    bazel build third_party/word2vec:word2vec
    使用word2vec 训练 chars_for_w2v (注意-binary 0),得到字嵌入结果vec.txt
    ./bazel-bin/third_party/word2vec/word2vec -train chars_for_vec.txt -output kcws/models/vec.txt -size 50 -sample 1e-4 -negative 5 -hs 1 -binary 0 -iter 5
    bazel build kcws/train:generate_training
    ./bazel-bin/kcws/train/generate_training vec.txt <语料目录> all.txt
    python kcws/train/filter_sentence.py all.txt (得到train.txt , test.txt)
       
  • 安装好tensorflow,切换到kcws代码目录,运行:
    python kcws/train/train_cws_lstm.py --word2vec_path vec.txt --train_data_path <绝对路径到train.txt> --test_data_path test.txt --max_sentence_len 80 --learning_rate 0.001
      
  demo

   http://45.32.100.248:9090/
  深度学习交流群

  为了 控制群质量 大家先加我微信号 kothme 加群时备注自己从事的方向 最好提了2,3个深度学习术语 我拉大家 进群
友荐云推荐




上一篇:Flume架构与源码分析-核心组件分析-2
下一篇:Spring框架下的 “接口调用、MVC请求” 调用参数、返回值、耗时信息输出 ...
酷辣虫提示酷辣虫禁止发表任何与中华人民共和国法律有抵触的内容!所有内容由用户发布,并不代表酷辣虫的观点,酷辣虫无法对用户发布内容真实性提供任何的保证,请自行验证并承担风险与后果。如您有版权、违规等问题,请通过"联系我们"或"违规举报"告知我们处理。

Robertol 发表于 3 天前
记得回帖!!
回复 支持 反对

使用道具 举报

*滑动验证:
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

我要投稿

推荐阅读

扫码访问 @iTTTTT瑞翔 的微博
回页顶回复上一篇下一篇回列表手机版
手机版/CoLaBug.com ( 粤ICP备05003221号 | 文网文[2010]257号 )|网站地图 酷辣虫

© 2001-2016 Comsenz Inc. Design: Dean. DiscuzFans.

返回顶部 返回列表