一个纯php分词

Related tags

Strings php word split segmentation
Overview

VicWord 一个纯php的分词

QQ交流群: 731475644

安装

composer require lizhichao/word

分词说明

  • 含有3种切分方法
    • getWord 长度优先切分 。最快
    • getShortWord 细粒度切分。比最快慢一点点
    • getAutoWord 自动切分 。效果最好
  • 可自定义词典，自己添加词语到词库，词库支持文本格式json和二级制格式igb 二进制格式词典小，加载快
  • dict.igb含有175662个词，欢迎大家补充词语到 dict.txt ，格式(词语 \t idf \t 词性)
    • idf 获取方法 百度搜索这个词语 Math.log(100000001/结果数量)，如果你有更好的方法欢迎补充。
    • 词性 [标点符号,名词,动词,形容词,区别词,代词,数词,量词,副词,介词,连词,助词,语气词,拟声词,叹词] 取index ；标点符号取0
  • 三种分词结果对比
$fc = new VicWord();
$arr = $fc->getWord('北京大学生喝进口红酒，在北京大学生活区喝进口红酒');
//北京大学|生喝|进口|红酒|，|在|北京大学|生活区|喝|进口|红酒
//$arr 是一个数组 每个单元的结构[词语,词语位置,词性,这个词语是否包含在词典中] 这里只值列出了词语

$arr =  $fc->getShortWord('北京大学生喝进口红酒，在北京大学生活区喝进口红酒');
//北京|大学|生喝|进口|红酒|，|在|北京|大学|生活|区喝|进口|红酒

$arr = $fc->getAutoWord('北京大学生喝进口红酒，在北京大学生活区喝进口红酒');
//北京|大学生|喝|进口|红酒|，|在|北京大学|生活区|喝|进口|红酒

//对比
//qq的分词 http://nlp.qq.com/semantic.cgi#page2 
//百度的分词 http://ai.baidu.com/tech/nlp/lexical

分词速度

机器阿里云 Intel(R) Xeon(R) Platinum 8163 CPU @ 2.50GHz
getWord 每秒140w字
getShortWord 每秒138w字
getAutoWord 每秒40w字
测试文本在百度百科拷贝的一段5000字的文本

制作词库

  • 词库支持utf-8的任意字符
  • 词典大小不影响 分词速度

只有一个方法 VicDict->add(词语,词性 = null)

require __DIR__.'/Lib/VicDict.php';

//目前可支持 igb 和 json 两种词典库格式；igb需要安装igbinary扩展，igb文件小，加载快
$path = ''; //词典地址
$dict = new VicDict($path);

//添加词语词库 add(词语,词性) 不分语言，可以是utf-8编码的任何字符
$dict->add('中国','n');

//保存词库
$dict->save();

demo

demo

该作者的其他软件

Comments
  • PHP 5.6.36 composer安装报错

    PHP 5.6.36 composer安装报错

    A PHP Error was encountered Severity: Notice

    Message: Use of undefined constant VIC_WORD_DICT_PATH - assumed 'VIC_WORD_DICT_PATH'

    Filename: Lib/VicWord.php

    Line Number: 28

    opened by uutool 1
  • 运行 composer require lizhichao/word出错

    运行 composer require lizhichao/word出错

    Using version ^1.3 for lizhichao/word ./composer.json has been updated Root package 'lizhichao/word' cannot require itself in its composer.json Did you accidentally name your root package after an external package? QQ图片20190404102150

    opened by bunian 1
  • 无法正确的获取分词

    无法正确的获取分词

    use Lizhichao\Word\VicWord;

    $data = []; $fc = new VicWord('igb'); $data = $fc->getWord("我看看有什么分词效果");

    返回结果：

    [ [ "我看看有什么分词效果", 30, null, 0 ]

    opened by guihouchang 1
  • Uninitialized string offset: 45

    Uninitialized string offset: 45

    VicWord.php line 96

    `private function getD(&$str, $i){ $o = \ord($str[$i]); if ($o < 128) { $d = $str[$i]; } else { $o = $o >> 4; if (12 === $o) { $d = $str[$i] . $str[++$i]; } elseif (14 === $o) { $d = $str[$i] . $str[++$i] . $str[++$i]; } elseif (15 === $o) { $d = $str[$i] . $str[++$i] . $str[++$i] . $str[++$i]; } else { throw new \Exception('Error: unknow charset.'); } }

        return [$d, $i];
}`

    这里会报错，Uninitialized string offset， if (14 === $o) { $d = $str[$i] . $str[++$i] . $str[++$i]; }

    输入的是字符串，json、igb 这两个都是一样的报错，我加了判断就会返回空值

    opened by acclea 0
  • undefined igbinary_unserialize()

    undefined igbinary_unserialize()

    PHP Fatal error: Uncaught Error: Call to undefined function Lizhichao\Word\igbinary_unserialize() in C:\inetpub\wwwroot\VicWord\Lib\VicWord.php:31 Stack trace: #0 C:\inetpub\wwwroot\VicWord\demo.php(19): Lizhichao\Word\VicWord->__construct('igb') #1 {main} thrown in C:\inetpub\wwwroot\VicWord\Lib\VicWord.php on line 31

    opened by WildXBird 0
Owner
vic
大道至简
vic
GitHub