<![CDATA[张宴的博客]]> http://zyan.cc/index.php zh-cn http://zyan.cc/sphinx_search/ <![CDATA[基于Sphinx构建准实时更新的分布式通用搜索引擎平台[原创]]]> 张宴 <net@s135.com> Fri, 05 Feb 2010 00:50:25 +0000 http://zyan.cc/sphinx_search/ http://blog.zyan.cc/sphinx_search/]

　　前言：

　　2008年7月，我写过一篇文章《基于Sphinx+MySQL的千万级数据全文检索（搜索引擎）架构设计》。有不少网友希望阅读全文，我将该文档整理了一下，分享出来。文档解压后大小为7.33M，共19页。

　　本站下载地址： http://blog.zyan.cc/book/sphinx/sphinx_mysql.zip

　　新浪下载分流： http://ishare.iask.sina.com.cn/f/6728201.html

　　上述文档架构存在的局限，我在2008年12月的文章《亿级数据的高并发通用搜索引擎架构设计》中已经指出：一是MySQL本身的并发能力有限，在200～300个并发连接下，查询和更新就比较慢了；二是由于MySQL表的主键与Sphinx索引的ID一一对应，从而无法跨多表建立整站查询，而且新增加类别还得修改配置文件，比较麻烦；三是因为和MySQL集成，无法发挥出Sphinx的优势。虽然如此，但对于一些写入量不大的搜索应用，已经足够了，或许对很多人会有帮助。


　　正文：

　　在这之后，本人基于《亿级数据的高并发通用搜索引擎架构设计》开发的Sphinx分布式通用站内搜索引擎平台，已经在生产环境运行9个月以上，经过运营中的不断完善与改进，目前已形成了一套可扩展的分布式通用站内搜索引擎框架。CMS、视频、论坛等产品发生的增、删、改操作，文本内容实时写入自行开发的 HTTPSQS 高性能简单消息队列服务，通过队列控制器更新索引和存储。提供支持XML、JSON的API查询接口，支持亿级数据的索引、分布式、中文分词、高亮显示、自动摘要、准实时（1分钟内）增量索引更新。

　　点击在新窗口中浏览此图片

　　下面是Sphinx新的搜索架构中技术关键点实现方式的一些介绍，与大家分享、交流一下：

　　1、一元分词和中文分词的结合：

　　①、一元分词位于索引更新模块。Sphinx索引引擎对于CJK（中日韩）语言（必须是UTF-8编码）支持一元切分，假设【反恐行动是国产主视角射击网络游戏】这段文字，Sphinx会将其切成【反 恐 行 动 是 国 产 主 视 角 射 击 网 络 游 戏】，然后对每个字建立反向索引。如果用这句话中包含的字组成一个不存在的词语，例如【恐动】，也会被搜索到，所以搜索时，需要加引号，例如搜索【"反恐行动"】，就能完全匹配连在一起的四个字，不连续的【"恐动"】就不会被搜索到。但是，这样还有一个问题，搜索【"反恐行动游戏"】或【"国产网络游戏"】就会搜索不到。对于这个问题，采用位于搜索查询模块的中文分词来处理。

　　sphinx.conf配置文件中关于UTF-8中文一元分词的配置如下：
...省略...
index t_source_main
{
        source                  = t_source_main
        path                    = /data0/search/sphinx/data/t_source_main
        docinfo                 = extern
        mlock                   = 0
        morphology              = none
        min_word_len            = 1
        charset_type            = utf-8
        min_prefix_len          = 0
        html_strip              = 1
        charset_table           = 0..9, A..Z->a..z, _, a..z, U+410..U+42F->U+430..U+44F, U+430..U+44F
        ngram_len               = 1
        ngram_chars             = U+3000..U+2FA1F
}
...省略...


　　②、中文分词位于搜索查询模块。搜索“反恐行动游戏”、“国产网络游戏”，先调用独立的中文分词系统，分别切分为“反恐行动 游戏”、“国产 网络游戏”，这时候，再给以空格分隔的词语加上引号，去Sphinx搜索【"反恐行动" "游戏"】或【"国产" "网络游戏"】，就能搜索到这条记录了。中文分词词库发生增、删、改，无需重建整个Sphinx搜索索引。


　　2、使用自行开发的HTTPSQS（http://code.google.com/p/httpsqs）开源简单队列服务程序，来缓冲高并发数据写入

　　新闻、论坛帖子、客服公告、SNS社区等发生的增、删、改操作，文本内容通过更新接口实时写入HTTPSQS队列，再通过队列控制器更新到Sphinx搜索引擎索引中。


　　3、Sphinx不能严格按照字段排序的小问题

　　如果不想使用权重，只希望严格按照时间、主键等排序，而匹配模式（Matching modes）又为非SPH_MATCH_BOOLEAN时（比较常用的是SPH_MATCH_ALL、SPH_MATCH_EXTENDED），Sphinx搜索结果在某一页中的排序会不太准确。例如：按照UNIX时间戳倒序排序，0,20为第一页，20,40为第二页，第一页的最小时间戳一定会大于第二页的最大时间戳，但是，第一页中的0,20条记录却不会严格按照时间戳排序，第二页亦是如此。因此，如果需要精确排序，用户翻到搜索结果的某一页，就需要对Sphinx在某一搜索结果页中的记录另行再排序，在我的这套搜索架构中，这一再排序操作由search.php查询接口使用array_multisort()函数处理。一般情况下，一页只会显示5～30条记录，因此，只对几十条记录采用PHP再排序，速度也是非常快的。


　　4、队列控制器中“时间控制”与“数量控制”相结合，实现搜索索引的1分钟内准实时更新：

　　①、Sphinx 0.9.9生产环境的建索引速度大约在5.5 Mbytes/秒、6400文档/秒。队列控制器可以设置10秒钟更新一次增量索引，只要Sphinx增量索引数据源的文档数在38万以内，就能保证增量索引在1～60秒内得到更新，这是从“时间”上进行控制。

　　②、为了避免增量索引数据源的文档数增长到38万，队列控制器在增量索引数据源的文档数超过1万时，还将激活增量索引合并入主索引的操作，合并完成的文档将从增量索引数据源中删除，这是从“数量”上进行控制。

............

Tags - , , ]]> http://zyan.cc/sphinx_search/#blogcomment4937 <![CDATA[[评论] 基于Sphinx构建准实时更新的分布式通用搜索引擎平台[原创]]]> 燕南天 <user@domain.com> Fri, 05 Feb 2010 01:30:27 +0000 http://zyan.cc/sphinx_search/#blogcomment4937 http://zyan.cc/sphinx_search/#blogcomment4939 <![CDATA[[评论] 基于Sphinx构建准实时更新的分布式通用搜索引擎平台[原创]]]> marker <marker_xu@fim.com.cn> Fri, 05 Feb 2010 02:02:08 +0000 http://zyan.cc/sphinx_search/#blogcomment4939 http://zyan.cc/sphinx_search/#blogcomment4940 <![CDATA[[评论] 基于Sphinx构建准实时更新的分布式通用搜索引擎平台[原创]]]> Jason Yu <user@domain.com> Fri, 05 Feb 2010 02:14:57 +0000 http://zyan.cc/sphinx_search/#blogcomment4940 http://zyan.cc/sphinx_search/#blogcomment4941 <![CDATA[[评论] 基于Sphinx构建准实时更新的分布式通用搜索引擎平台[原创]]]> frankboy <user@domain.com> Fri, 05 Feb 2010 02:29:33 +0000 http://zyan.cc/sphinx_search/#blogcomment4941 http://zyan.cc/sphinx_search/#blogcomment4943 <![CDATA[[评论] 基于Sphinx构建准实时更新的分布式通用搜索引擎平台[原创]]]> glovebx <user@domain.com> Fri, 05 Feb 2010 03:49:39 +0000 http://zyan.cc/sphinx_search/#blogcomment4943 http://zyan.cc/sphinx_search/#blogcomment4945 <![CDATA[[评论] 基于Sphinx构建准实时更新的分布式通用搜索引擎平台[原创]]]> 怪物宝 <user@domain.com> Fri, 05 Feb 2010 05:14:23 +0000 http://zyan.cc/sphinx_search/#blogcomment4945 http://zyan.cc/sphinx_search/#blogcomment4946 <![CDATA[[评论] 基于Sphinx构建准实时更新的分布式通用搜索引擎平台[原创]]]> dikiking <user@domain.com> Fri, 05 Feb 2010 05:24:43 +0000 http://zyan.cc/sphinx_search/#blogcomment4946 http://zyan.cc/sphinx_search/#blogcomment4947 <![CDATA[[评论] 基于Sphinx构建准实时更新的分布式通用搜索引擎平台[原创]]]> niniwzw <user@domain.com> Fri, 05 Feb 2010 05:30:22 +0000 http://zyan.cc/sphinx_search/#blogcomment4947 http://zyan.cc/sphinx_search/#blogcomment4948 <![CDATA[[评论] 基于Sphinx构建准实时更新的分布式通用搜索引擎平台[原创]]]> niniwzw <user@domain.com> Fri, 05 Feb 2010 05:42:23 +0000 http://zyan.cc/sphinx_search/#blogcomment4948 http://zyan.cc/sphinx_search/#blogcomment4949 <![CDATA[[评论] 基于Sphinx构建准实时更新的分布式通用搜索引擎平台[原创]]]> enjoy <user@domain.com> Fri, 05 Feb 2010 07:05:48 +0000 http://zyan.cc/sphinx_search/#blogcomment4949 http://zyan.cc/sphinx_search/#blogcomment4951 <![CDATA[[评论] 基于Sphinx构建准实时更新的分布式通用搜索引擎平台[原创]]]> kylingood <kylingood@gmail.com> Fri, 05 Feb 2010 07:57:59 +0000 http://zyan.cc/sphinx_search/#blogcomment4951 http://zyan.cc/sphinx_search/#blogcomment4952 <![CDATA[[评论] 基于Sphinx构建准实时更新的分布式通用搜索引擎平台[原创]]]> solomon <sucrede@gmail.com> Fri, 05 Feb 2010 08:01:29 +0000 http://zyan.cc/sphinx_search/#blogcomment4952 http://zyan.cc/sphinx_search/#blogcomment4955 <![CDATA[[评论] 基于Sphinx构建准实时更新的分布式通用搜索引擎平台[原创]]]> luoke <user@domain.com> Fri, 05 Feb 2010 08:54:31 +0000 http://zyan.cc/sphinx_search/#blogcomment4955 http://zyan.cc/sphinx_search/#blogcomment4961 <![CDATA[[评论] 基于Sphinx构建准实时更新的分布式通用搜索引擎平台[原创]]]> chris <user@domain.com> Sat, 06 Feb 2010 02:23:57 +0000 http://zyan.cc/sphinx_search/#blogcomment4961 http://zyan.cc/sphinx_search/#blogcomment4964 <![CDATA[[评论] 基于Sphinx构建准实时更新的分布式通用搜索引擎平台[原创]]]> 心若止水 <user@domain.com> Sun, 07 Feb 2010 04:24:05 +0000 http://zyan.cc/sphinx_search/#blogcomment4964