分词算法matlab用正向最大匹配算法实现中文分词!急!!!

分词算法  时间:2021-09-01  阅读:()

什么是“分词发”?

“分词发”主要是针对搜索引擎的,因为搜索引擎是老外开发的,老外只懂英文,而且由于英文的书写方式单词与单词之间是空格隔开的,所以计算机很容易把一句英文句子分个成一个一个的单词,但是中文是以字为单位的,一个一个分开就失去了他的意义,举个简单的例子:英文句子I am a student,中文的意思是“我是一个学生”,通过空格搜索引擎能够很容易的知道student是一个单词,但是无法知道需要学和生合起来才表达一个意思,为了让搜索引擎从一个句子中分割出有意义的词,所以就引入了分词这一概念……

请问:计算中文短文本相似性需要对短文本进行分词吗?如果需要的话,有什么分词方法?

要看你选择的相似性算法有什么样的要求了,一般都是用词汇空间距离,这样肯定要进行分词操作的。

分词方法现在有很多,你可以在网上找一些现成的代码来做,不管哪一种分词方法都不能做到100%的分词准确性,还是要加入人工干预的。

哪个高手有中文分词逆向最大匹配算法?

逆向最大匹配法通常简称为RMM法。

RMM法的基本原理与MM法相同 ,不同的是分词切分的方向与MM法相反,而且使用的分词辞典也不同。

逆向最大匹配法从被处理文档的末端开始匹配扫描,每次取最末端的2i个字符(i字字串)作为匹配字段,若匹配失败,则去掉匹配字段最前面的一个字,继续匹配。

相应地,它使用的分词词典是逆序词典,其中的每个词条都将按逆序方式存放。

在实际处理时,先将文档进行倒排处理,生成逆序文档。

然后,根据逆序词典,对逆序文档用正向最大匹配法处理即可。

例子:’我一个人吃饭’ 反向最大匹配方式,最大长度为5

java编个中文分词的程序

import?java.io.Reader; import?java.io.StringReader; .apache.lucene.analysis.*; .apache.lucene.analysis.cjk.CJKAnalyzer; .ChineseAnalyzer; .apache.lucene.analysis.standard.StandardAnalyzer; .mira.lucene.analysis.MIK_CAnalyzer; public?class?JeAnalyzer?{ ????public?static?void?testStandard(String?testString)?{ ????????try?{ ????????????Analyzer?analyzer?=?new?StandardAnalyzer(); ????????????Reader?r?=?new?StringReader(testString); ????????????Filter?sf?=?(Filter)?analyzer.tokenStream("",?r); ????????????System.err.println("=====standard?analyzer===="); ????????????Token?t; ????????????while?((t?=?sf.next())?!=?null)?{ ????????????????System.out.println(t.termText()); ????????????} ????????}?catch?(Exception?e)?{ ????????????e.printStackTrace(); ????????} ????} ????public?static?void?testCJK(String?testString)?{ ????????try?{ ????????????Analyzer?analyzer?=?new?CJKAnalyzer(); ????????????Reader?r?=?new?StringReader(testString); ????????????Filter?sf?=?(Filter)?analyzer.tokenStream("",?r); ????????????System.err.println("=====cjk?analyzer===="); ????????????Token?t; ????????????while?((t?=?sf.next())?!=?null)?{ ????????????????System.out.println(t.termText()); ????????????} ????????}?catch?(Exception?e)?{ ????????????e.printStackTrace(); ????????} ????} ????public?static?void?testChiniese(String?testString)?{ ????????try?{ ????????????Analyzer?analyzer?=?new?ChineseAnalyzer(); ????????????Reader?r?=?new?StringReader(testString); ????????????TokenFilter?tf?=?(TokenFilter)?analyzer.tokenStream("",?r); ????????????System.err.println("=====chinese?analyzer===="); ????????????Token?t; ????????????while?((t?=?tf.next())?!=?null)?{ ????????????????System.out.println(t.termText()); ????????????} ????????}?catch?(Exception?e)?{ ????????????e.printStackTrace(); ????????} ????} ????public?static?String?transJe(String?testString,?String?c1,?String?c2)?{ ????????String?result?=?""; ????????try?{ ????????????Analyzer?analyzer?=?new?MIK_CAnalyzer(); ????????????Reader?r?=?new?StringReader(testString); ????????????TokenStream?ts?=?(TokenStream)?analyzer.tokenStream("",?r); ????????????Token?t; ????????????while?((t?=?ts.next())?!=?null)?{ ????????????????result?+=?t.termText()?+?","; ????????????} ????????}?catch?(Exception?e)?{ ????????????e.printStackTrace(); ????????} ????????return?result; ????} ????public?static?void?main(String[]?args)?{ ????????try?{ ????????????String?testString?=?"中文分词的方法其实不局限于中文应用,也被应用到英文处理,如手写识别,单词之间的空格就很清楚,中文分词方法可以帮助判别英文单词的边界"; ????????????System.out.println("测试的语句????"+testString); ????????????String?sResult[]?=?transJe(testString,?"gb2312",?"utf-8").split(","); ????????????for?(int?i?=?0;?i?<?sResult.length;?i++)?{ ????????????????System.out.println(sResult[i]); ????????????} ????????}?catch?(Exception?e)?{ ????????????e.printStackTrace(); ????????} ????} } jar包?? lucene-analyzers-2.4.1.jar lucene-core-2.4.1.jar IKAnalyzer2.0.2OBF.jar

matlab用正向最大匹配算法实现中文分词!急!!!

SqlConnection con = new SqlConnection con.Open(); string sqlstr = "sql语句"; SqlDataAdapter da = new SqlDataAdapter(sqlstr, con); DataSet ds= new DataSet(); da.Fill(ds); dataGridView1.DataSource = ds.Tables[0]; con.Close();

licloud:$39/月,香港物理服务器,30M带宽,e3-1230v3/16G内存/1T硬盘

licloud官方消息:当前对香港机房的接近100台物理机(香港服务器)进行打折处理,30Mbps带宽,低至不到40美元/月,速度快,性价比高,跑绝大多数项目都是绰绰有余了。该款香港服务器自带启动、关闭、一键重装功能,正常工作日内30~60分钟交货(不包括非工作日)。 官方网站:https://licloud.io 特价香港物理服务器 CPU:e3-1230v2(4核心、8线程、3.3GH...

Megalayer(159元 )年付CN2优化带宽VPS

Megalayer 商家我们还算是比较熟悉的,商家主要业务方向是CN2优化带宽、国际BGP和全向带宽的独立服务器和站群服务器,且后来也有增加云服务器(VPS主机)业务。这次中秋节促销活动期间,有发布促销活动,这次活动力度认为还是比较大的,有提供香港、美国、菲律宾的年付VPS主机,CN2优化方案线路的低至年付159元。这次活动截止到10月30日,如果我们有需要的话可以选择。第一、特价限量年付VPS主...

LOCVPS:美国XEN架构VPS七折,全场八折,日本/新加坡XEN架构月付29.6元起

LOCVPS发来了针对XEN架构VPS的促销方案,其中美国洛杉矶机房7折,其余日本/新加坡/中国香港等机房全部8折,优惠后日本/新加坡机房XEN VPS月付仅29.6元起。这是成立较久的一家国人VPS服务商,目前提供美国洛杉矶(MC/C3)、和中国香港(邦联、沙田电信、大埔)、日本(东京、大阪)、新加坡、德国和荷兰等机房VPS主机,基于XEN或者KVM虚拟架构,均选择国内访问线路不错的机房,适合建...

分词算法为你推荐
方便快捷请问普通中国人选择什么交通方式方便快捷安全价格咨询米兰心理张桂茹价格: 咨询一次的费用是多少最好的电脑操作系统电脑系统哪个比较好用,运行流畅?软件更新不可用为什么我用流量更新软件更新不了请问是什么原因????wps表格数据恢复Wps表格怎么恢复数据wps表格数据恢复WPS表格如果变成这样怎么恢复mysql数据库迁移MYSQL数据怎么从一个电脑转移到另一个电脑?什么是3g3G到底是什么啊 解释的详细点可以吗?md播放机MD的音质和CD相比哪个好?????????md播放机MD,播放机
老域名 传奇服务器租用 美国和欧洲vps 最新代理服务器ip 息壤主机 韩国俄罗斯 正版win8.1升级win10 刀片服务器的优势 爱奇艺vip免费领取 上海服务器 创建邮箱 上海电信测速网站 架设邮件服务器 徐州电信 SmartAXMT800 镇江高防服务器 accountsuspended 美国主机 restart 标准机柜 更多