《MysqL必读深度解析MysqL 5.7之中文全文检索》要点:
本文介绍了MysqL必读深度解析MysqL 5.7之中文全文检索,希望对您有用。如果有疑问,可以联系我们。
前言MysqL必读
其实全文检索在MysqL里面很早就支持了,只不过一直以来只支持英文.缘由是他从来都使用空格来作为分词的分隔符,而对于中文来讲,显然用空格就不合适,需要针对中文语义进行分词.这不,从MysqL 5.7开始,MysqL内置了ngram全文检索插件,用来支持中文分词,并且对MyISAM和InnoDB引擎有效.MysqL必读
在使用中文检索分词插件ngram之前,先得在MysqL配置文件里面设置他的分词大小,比如,MysqL必读
[MysqLd]ngram_token_size=2
这里把分词大小设置为2.要记住,分词的SIZE越大,索引的体积就越大,所以要根据自身情况来设置合适的大小.MysqL必读
示例表结构:MysqL必读
CREATE table articles ( ID INTUNSIGNED auto_INCREMENT NOT NulL PRIMARY KEY,TitleVARCHAR(200),body TEXT,FulLTEXT (Title,body) WITH PARSER ngram ) ENGINE=InnoDBCHaraCTER SET utf8mb4;
示例数据,有6行记录.MysqL必读
MysqL> select * from articles\G***************************1. row *************************** ID: 1Title: 数据库管理 body: 在本教程中我将向你展示如何管理数据库***************************2. row *************************** ID: 2Title: 数据库应用开发 body: 学习开发数据库应用程序***************************3. row *************************** ID: 3Title: MysqL完全手册 body: 学习MysqL的一切***************************4. row *************************** ID: 4Title: 数据库与事务处理 body: 系统的学习数据库的事务概论***************************5. row *************************** ID: 5Title: Nosql精髓 body: 学习了解各种非结构化数据库***************************6. row *************************** ID: 6Title: sql 语言详解 body: 详细了解如果使用各种sql6 rows inset (0.00 sec)
显式指定全文检索表源MysqL必读
MysqL> SETGLOBAL innodb_ft_aux_table="new_feature/articles";query OK,0 rows affected (0.00 sec)
通过系统表,就可以查看到底是怎么划分articles里的数据.MysqL必读
MysqL> SELECT *FROM information_schema.INNODB_FT_INDEX_CACHE liMIT 20,10;+------+--------------+-------------+-----------+--------+----------+| WORD | FirsT_DOC_ID | LAST_DOC_ID | DOC_COUNT | DOC_ID| position |+------+--------------+-------------+-----------+--------+----------+| 中我 | 2 | 2 | 1 | 2 | 28 || 习m | 4 | 4 | 1 | 4 | 21 || 习了 | 6 | 6 | 1 | 6 | 16 || 习开 | 3 | 3 | 1 | 3 | 25 || 习数 | 5 | 5 | 1 | 5 | 37 || 了解 | 6 | 7 | 2 | 6 | 19 || 了解 | 6 | 7 | 2 | 7 | 23 || 事务 | 5 | 5 | 1 | 5 | 12 || 事务 | 5 | 5 | 1 | 5 | 40 || 何管 | 2 | 2 | 1 | 2 | 52 |+------+--------------+-------------+-----------+--------+----------+10 rows in set (0.00 sec)
这里可以看到,把分词长度设置为2,所有的数据都只有两个一组.上面数据还包含了行的位置,ID等等信息.
MysqL必读
接下来,我来进行一系列检索示范,使用方法和原来英文检索一致.MysqL必读
一、自然语言模式下检索:
MysqL必读
1、得到符合条件的个数,
MysqL必读
MysqL>SELECT COUNT(*) FROM articles-> WHERE MATCH (Title,body) AGAINST ('数据库' IN NATURALLANGUAGE MODE);+----------+| COUNT(*) |+----------+| 4 |+----------+1 row in set (0.05 sec)
2、得到匹配的比率,
MysqL必读
MysqL>SELECT ID,MATCH (Title,body) AGAINST ('数据库' IN NATURAL LANGUAGE MODE) AS score FROM articles;+----+----------------------+| ID| score |+----+----------------------+| 1 | 0.12403252720832825 || 2 | 0.12403252720832825 || 3 | 0 || 4 | 0.12403252720832825 || 5 | 0.062016263604164124|| 6 | 0 |+----+----------------------+6rows in set (0.00 sec)
二、布尔模式下搜索,这个就相对于自然模式搜索来的复杂些:
MysqL必读
1、匹配既有管理又有数据库的记录,
MysqL必读
MysqL> SELECT * FROM articles WHERE MATCH (Title,body) -> AGAINST ('+数据库 +管理' IN BOolEAN MODE);+----+------------+--------------------------------------+| ID| Title | body |+----+------------+--------------------------------------+| 1 | 数据库管理 | 在本教程中我将向你展示如何管理数据库 |+----+------------+--------------------------------------+1 rowin set (0.00 sec)
2、匹配有数据库,但是没有管理的记录,
MysqL必读
MysqL> SELECT * FROM articles WHERE MATCH (Title,body) -> AGAINST ('+数据库 -管理' IN BOolEAN MODE);+----+------------------+----------------------------+| ID| Title | body |+----+------------------+----------------------------+| 2 | 数据库应用开发 | 学习开发数据库应用程序 || 4 | 数据库与事务处理 | 系统的学习数据库的事务概论 || 5 | Nosql 精髓 | 学习了解各种非结构化数据库 |+----+------------------+----------------------------+3 rows in set (0.00 sec)
3、匹配MysqL,但是把数据库的相关性降低,body) -> AGAINST ('>数据库 +MysqL' INBOolEAN MODE);+----+---------------+-----------------+| ID| Title | body |+----+---------------+-----------------+| 3 | MysqL完全手册 |学习MysqL的一切 |+----+---------------+-----------------+1 rowin set (0.00 sec)
三、查询扩展模式,比如要搜索数据库,那么MysqL,oracle,DB2也都将会被搜索到,MysqL必读
MysqL> SELECT * FROM articles -> WHERE MATCH (Title,body) -> AGAINST ('数据库' WITH query EXPANSION);+----+------------------+--------------------------------------+| ID| Title | body |+----+------------------+--------------------------------------+| 1 | 数据库管理 | 在本教程中我将向你展示如何管理数据库 || 4 | 数据库与事务处理 | 系统的学习数据库的事务概论 || 2 | 数据库应用开发 | 学习开发数据库应用程序 || 5 | Nosql 精髓 | 学习了解各种非结构化数据库 || 6 | sql 语言详解 | 详细了解如果使用各种sql || 3 | MysqL完全手册 | 学习MysqL的一切 |+----+------------------+--------------------------------------+6 rows in set (0.01 sec)
当然,我这里只是功能演示,更多的性能测试,大家有兴趣可以进行详细测试.由于N-grm是中文检索常用的分词算法,已经在互联网大量使用,这次集成到MysqL中,想必效果上不会有太大的问题.MysqL必读
总结MysqL必读
以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作能带来一定的帮助,如果有疑问大家可以留言交流.MysqL必读
总结以上是内存溢出为你收集整理的Mysql必读深度解析MySQL 5.7之中文全文检索全部内容,希望文章能够帮你解决Mysql必读深度解析MySQL 5.7之中文全文检索所遇到的程序开发问题。
如果觉得内存溢出网站内容还不错,欢迎将内存溢出网站推荐给程序员好友。
欢迎分享,转载请注明来源:内存溢出
评论列表(0条)