• 图说2016保险业成绩单 2017监管如何"对症下药" 2019-11-09
  • 好,那我领教一下,回答我提出的问题 2019-11-08
  • 回复@缘起的心星:你肯定是五级! 2019-11-04
  • 你问对了,但没有说到点子上。我告诉你吧,最根本的问题是私有制。私有制不除,腐败问题就不会消灭。懂了吧,哈哈。 2019-11-04
  • 浙江舟山定海区一国企非党管理人员涉嫌受贿被查 2019-11-03
  • 海南宣讲十九大:春风化雨入琼岛,海涛拍岸谋新篇 2019-11-02
  • 大悟城市形象征集投票结束,共征集作品1万6千件 2019-11-02
  • [理上网来·辉煌十九大]陈曙光:为发展中国家走向现代化提供全新选择 2019-10-26
  • 推进58个重点项目 杭州加快钱塘江金融港湾建设 2019-10-15
  • 马来西亚总理马哈蒂尔 我要去中国看一看,感受无现金社会 2019-10-09
  • 静待电动汽车时代的到来 2019-10-07
  • 2018年5月后期资助项目结项名单 2019-10-07
  • 《春天读诗·5》预告片:理智与情感的旅程 2019-09-12
  • 人民日报:中国经济稳步迈向高质量 2019-09-01
  • 兄弟,别以为在体制内就觉得很牛掰...就是混吃等死,这辈子消磨完拉倒。 2019-08-31
  • 欢迎光临四川省巨高科技有限公司

    联系我们|网站地图|巨高资讯

    13880394188

    网站优化 WEBSITE CONSTRUCTION

    巨高科技专业从事网站优化的服务团队,专注提供成都网站优化、成都SEO、成都网站关键词优化、成都网站优化培训、成都网站优化公司、成都网站优化推广

    当前位置:大乐透开奖>网站优化 >网站优化技术 >探索百度搜索引擎算法技巧分析系列(二) >

    青海福彩快三走势图:探索百度搜索引擎算法技巧分析系列(二)

    来源:成都网站建设 时间:2016-11-22 点击次数:1422

    大乐透开奖 www.mqgw.net   接着我们上回的话题,百度搜索引擎算法技巧分析,接下来我们要讲的是中文分词技术,大家都知道百度是全球唯一最大的中文搜索引擎。下文针对百度对用户查询关键词分词做了一个实践分析,希望对更多的seoer有帮助。百度这个搜索引擎对关键词如何切分呢?

      中文分词

      首先,讲讲百度的分词时机或者条件问题,是否是个中文字符串百度就拿来切一下呢?非也,要想被百度的分词程序荣幸的切割一下也是要讲条件的,哪能是个字符串就切割啊?你当百度是卖锯条的么?

      那么什么样的字符串才满足被切割的条件呢?简单说来,如果字符串只包含小于等于3个中文字符的话,那就保留不动,当字符串长度大于4个中文字符的时候,百度的分词程序才出马大干快上,把这个字符串肢解掉。

      怎么证明呢?我们向百度提交“电影下载”,看看返回结果中标为红字的地方,不难看出来,查询已经被切割成<电影,下载>两个单词了,说明分词程序已经开工了,如果是比4个中文字符更长的字符串,那分词程序就更不客气了,一定大卸八块而后快。我们来看看三个字符的情况,提交查询“当然择”,看起来这个查询不伦不类,那是因为我希望看到这个字符串被切分为<当然,择>,返回结果看多少篇相关页面,翻到最后一页,发现标红的关键字都是” 当然择”连续出现的情况,好像没有切分,但是还不确定,那么再提交人工分好的查询“当然择”看看,返回结果又会显示多少篇,基本上可以确定没有进行分词了,当然另外一种解释是:对于三个字符先切分,然后将切分后的结果当作一个短语查询,这样看到的效果和没有切分是相似的。

      但是我倾向于判断百度对于少于3个字符的串没有切分,奥卡姆不是说了么“如无必要,勿增实体”,干吗做无用功呢。那么如果没有切分,会有一个随之而来的问题,怎么从索引库里面提取未切分的字符串呢?这牵扯到索引的问题,我觉得百度应该采取了两套索引机制,一种是按照单词索引,一种是按照N-GRAM索引, 至于索引的具体问题,以后在详细论述。

      下面我们看看百度是采取的何种分词算法,现在分词算法已经算是比较成熟了,有简单的有复杂的,比如正向最大匹配,反向最大匹配,双向最大匹配,语言模型方法,最短路径算法等等,有兴趣的可以用GOOGLE去搜索一下以增加理解。这里就不展开说了。但是要记住一点的是:判断一个分词系统好不好,关键看两点, 一个是消除歧义能力;一个是词典未登录词的识别比如人名,地名,机构名等。

      那么百度用的是什么方法?我的判断是用双向最大匹配算法。至于怎么推理得出的,让我们一步步来看。当然,这里首先有个假设,百度不会采取比较复杂的算法,因为考虑到速度问题。

      我们提交一个查询“毛泽东北京华烟云”,又一个不知所云的查询,尽管不知所云但是自有它的道理,我想看看百度的分词是如何消歧以及是否有词典未登录词的识别的功能,如果是正向最大匹配算法的话,

      那么输出应该是:”毛泽东/北京/华/烟云”,

      如果是反向最大匹配算法的话,那么输出应该是:”毛/泽/东北/京华烟云”,

      我们看看百度的分词结果:”毛泽东/北/京华烟云”,一个很奇怪的输出,跟我们的期望相差较多,

      但是从中我们可以获得如下信息:百度分词可以识别人名,也可以识别”京华烟云”,这说明有词典未登录词的识别的功能,我们可以假设分词过程分为两个阶段: 第一阶段,先查找一个特殊词典,这个词典包含一些人名,部分地名以及一些普通词典没有的新词,这样首先将”毛泽东”解析出来,剩下了字符串”北京华烟云”,而”北/京华烟云”,可以看作是反向最大匹配的分词结果。这样基本说得通。为了证明这一点,我们提交查询”发毛泽东北”,我们期望两种分词结果,一个是正向最大匹配<发毛,泽,东北>,一个是上述假设的结果<发,毛泽东,北>,事实上百度输出是第二种情况,这样基本能确定百度分词采取了至少两个词典,一个是普通词典,一个是专用词典(人名等)。而且是专用词典先切分,然后将剩余的片断交由普通词典来切分。

      继续测验,提交查询“古巴比伦理”,如果是正向最大匹配,那么结果应该是<古巴比伦,理>,如果是反向最大匹配,那么结果应该是 <古巴,比,伦理>,事实上百度的分词结果是<古巴比伦,理>,从这个例子看,好像用了正向最大匹配算法;

      此外还有一些例子表明好像是使用正向最大匹配的;但是且慢,我们看这个查询“北京华烟云”,正向最大匹配期望的结果是<北京,华,烟云>,而反向最大匹配期望的结果是 <北,京华烟云>,事实上百度输出的是后者,这说明可能采用的反向最大匹配;

      从这点我们可以猜测百度采用的是双向最大匹配分词算法,如果正向和反向匹配分词结果一致当然好办,直接输出即可;但是如果两者不一致,正向匹配一种结果,反向匹配一种结果,此时该如何是好呢?

      从上面两个例子看,在这种情况下,百度采取最短路径方法,也就是切分的片断越少越好,比如<古巴,比,伦理>和<古巴比伦,理> 相比选择后者,<北京,华,烟云>和<北,京华烟云>相比选择后者?;褂欣嗨频囊恍├?,这样基本可以解释这些输出结果。

      但是仍然遗留的问题是:如果正向反向分词不一致,而且最短路径也相同,那怎么办?输出正向的还是反向的结果?

      我们再来看一个例子。提交查询“遥远古古巴比伦”,这个查询被百度切分为<遥远,古古,巴比伦>,说明词典里面有”巴比伦”,但是是否有”古 巴比伦”这个词汇不确定,此时看不出是正向切分还是反向切分得出的结果,换查询为“遥远古巴比伦”,此时被切分为“遥远/古巴比伦”,这说明词典里面有” 古巴比伦”这个词汇,这说明了“遥远古古巴比伦”是正向最大匹配的结果。那为什么“遥远古古巴比伦”不会被反向切分为”遥/远古/古巴比伦”呢,百度的可能选择是这种情况下选择单字少的那组切分结果。

      当然还可以继续追问:如果切分后单字也一样多,那怎么办?最后看一个例子,查询“王强大小”,百度将其切分为“王/强大/小”,是正向切分的结果,如果是反向的会被切分为“王/强/大小”,这说明有歧义而且单字也相同则选择正向切分结果。

      OK,看到这里可能头已经有些晕了,最后总结一下百度的分词算法,当然里面还是有猜测的成分,算法如下:

      首先查询专用词典(人名,部分地名等),将专有名称切出,剩下的部分采取双向分词策略,如果两者切分结果相同,说明没有歧义,直接输出分词结果。如果不一致,则输出最短路径的那个结果,如果长度相同,则选择单字词少的那一组切分结果。如果单字也相同,则选择正向分词结果。

      百度一直宣传自己在中文处理方面的优势,从上面看,分词算法并无特殊之处,消歧效果并不理想,即使百度采取比上述分词算法复杂些的算法也难以说成是优势,如果说百度有优势的话,唯一的优势就是那个很大的专用词典,这个专用词典登录了人名(比如大长今),称谓(比如老太太),部分地名(比如阿联酋等),估计百度采用学术界公布的比较新的命名实体识别算法从语料库里面不断识别出词典未登录词,逐渐扩充这个专门词典。如果这就是优势的话,那么这个优势能够保持多久就是个很明显的问题。

      到此,我们讲述了百度搜索引擎算法的查询处理及中文分词技术,技巧很多,希望seoer能够认真揣摩,在搜索引擎道路上越走越顺畅。

  • 图说2016保险业成绩单 2017监管如何"对症下药" 2019-11-09
  • 好,那我领教一下,回答我提出的问题 2019-11-08
  • 回复@缘起的心星:你肯定是五级! 2019-11-04
  • 你问对了,但没有说到点子上。我告诉你吧,最根本的问题是私有制。私有制不除,腐败问题就不会消灭。懂了吧,哈哈。 2019-11-04
  • 浙江舟山定海区一国企非党管理人员涉嫌受贿被查 2019-11-03
  • 海南宣讲十九大:春风化雨入琼岛,海涛拍岸谋新篇 2019-11-02
  • 大悟城市形象征集投票结束,共征集作品1万6千件 2019-11-02
  • [理上网来·辉煌十九大]陈曙光:为发展中国家走向现代化提供全新选择 2019-10-26
  • 推进58个重点项目 杭州加快钱塘江金融港湾建设 2019-10-15
  • 马来西亚总理马哈蒂尔 我要去中国看一看,感受无现金社会 2019-10-09
  • 静待电动汽车时代的到来 2019-10-07
  • 2018年5月后期资助项目结项名单 2019-10-07
  • 《春天读诗·5》预告片:理智与情感的旅程 2019-09-12
  • 人民日报:中国经济稳步迈向高质量 2019-09-01
  • 兄弟,别以为在体制内就觉得很牛掰...就是混吃等死,这辈子消磨完拉倒。 2019-08-31
  • 大乐透开奖 辽宁35选7走势图 幸运之门 香港最快开奖现场直播结果 梦幻长寿钓鱼 cashfiesta网络赚钱帮手 百乐彩票 二八杠比大小规则 骰子游戏规则 谁有四海龙王捕鱼的棋牌 爱彩乐官方网站 射龙门玩法作弊方法 扑克绝技认牌绝技 七乐彩走势图嗲连线 dalt大乐透开奖结果 广西快乐双彩走势图软件下载
    在线客服
    在线客服
    服务热线