MySQL 5.7 中文全文檢索使用教程

在MySQL 5.7.6以前,全文索引只支持英文全文索引,不支持中文全文索引,須要利用分詞器把中文段落預處理拆分紅單詞,而後存入數據庫。
從MySQL 5.7.6開始,MySQL內置了ngram全文解析器,用來支持中文、日文、韓文分詞。
本文使用的MySQL 版本是5.7.22,InnoDB數據庫引擎。javascript

ngram全文解析器

ngram就是一段文字裏面連續的n個字的序列。ngram全文解析器可以對文本進行分詞,每一個單詞是連續的n個字的序列。例如,用ngram全文解析器對「生日快樂」進行分詞:php

n=1: '生', '日', '快', '樂' n=2: '生日', '日快', '快樂' n=3: '生日快', '日快樂' n=4: '生日快樂' 

MySQL 中使用全局變量ngram_token_size來配置ngram中n的大小,它的取值範圍是1到10,默認值是2。一般ngram_token_size設置爲要查詢的單詞的最小字數。若是須要搜索單字,就要把ngram_token_size設置爲1。在默認值是2的狀況下,搜索單字是得不到任何結果的。由於中文單詞最少是兩個漢字,推薦使用默認值2。java

全局變量ngram_token_size的兩種設置方法:
一、啓動mysqld命令時mysql

mysqld --ngram_token_size=2

二、修改MySQL配置文件sql

[mysqld] 
ngram_token_size=2

建立全文索引

一、建立表的同時建立全文索引數據庫

CREATE TABLE articles (
    id INT UNSIGNED AUTO_INCREMENT NOT NULL PRIMARY KEY, title VARCHAR (200), body TEXT, FULLTEXT (title, body) WITH PARSER ngram ) ENGINE = INNODB; 

二、經過 alter table 的方式來添加bash

ALTER TABLE articles ADD FULLTEXT INDEX ft_index (title,body) WITH PARSER ngram; 

三、直接經過create index的方式app

CREATE FULLTEXT INDEX ft_index ON articles (title,body) WITH PARSER ngram; 

全文檢索模式

經常使用的全文檢索模式有兩種:
一、天然語言模式(NATURAL LANGUAGE MODE) ,
天然語言模式是MySQL 默認的全文檢索模式。天然語言模式不能使用操做符,不能指定關鍵詞必須出現或者必須不能出現等複雜查詢。
二、BOOLEAN模式(BOOLEAN MODE)
BOOLEAN模式可使用操做符,能夠支持指定關鍵詞必須出現或者必須不能出現或者關鍵詞的權重高仍是低等複雜查詢。dom

示例

SELECT * FROM articles WHERE MATCH (title,body) AGAINST ('一路 一帶' IN NATURAL LANGUAGE MODE); // 不指定模式,默認使用天然語言模式 SELECT * FROM articles WHERE MATCH (title,body) AGAINST ('一路 一帶'); 
 
示例

上面的示例返回結果會自動按照相關性排序,相關性高的在前面。相關性的值是一個非負浮點數,0表示無相關性。函數

// 獲取相關性的值 SELECT id,title, MATCH (title,body) AGAINST ('手機' IN NATURAL LANGUAGE MODE) AS score FROM articles ORDER BY score DESC; 
 
示例
// 獲取匹配結果記錄數 SELECT COUNT(*) FROM articles WHERE MATCH (title,body) AGAINST ('一路 一帶' IN NATURAL LANGUAGE MODE); 

可使用BOOLEAN模式執行高級查詢。

// 必須包含"騰訊" SELECT * FROM articles WHERE MATCH (title,body) AGAINST ('+騰訊' IN BOOLEAN MODE); 
 
示例
// 必須包含"騰訊",可是不能包含"通信工具" SELECT * FROM articles WHERE MATCH (title,body) AGAINST ('+騰訊 -通信工具' IN BOOLEAN MODE); 
 
示例

下面的例子演示了BOOLEAN模式下運算符的使用方式:

'apple banana' 無操做符,表示或,要麼包含apple,要麼包含banana '+apple +juice' 必須同時包含兩個詞 '+apple macintosh' 必須包含apple,可是若是也包含macintosh的話,相關性會更高。 '+apple -macintosh' 必須包含apple,同時不能包含macintosh。 '+apple ~macintosh' 必須包含apple,可是若是也包含macintosh的話,相關性要比不包含macintosh的記錄低。 '+apple +(>juice <pie)' 查詢必須包含apple和juice或者apple和pie的記錄,可是apple juice的相關性要比apple pie高。 'apple*' 查詢包含以apple開頭的單詞的記錄,如apple、apples、applet。 '"some words"' 使用雙引號把要搜素的詞括起來,效果相似於like '%some words%', 例如「some words of wisdom」會被匹配到,而「some noise words」就不會被匹配。 

注意

  • 只能在類型爲CHAR、VARCHAR或者TEXT的字段上建立全文索引。
  • 全文索引只支持InnoDB和MyISAM引擎。
  • MATCH (columnName) AGAINST ('keywords')。MATCH()函數使用的字段名,必需要與建立全文索引時指定的字段名一致。如上面的示例,MATCH (title,body)使用的字段名與全文索引ft_articles(title,body)定義的字段名一致。若是要對title或者body字段分別進行查詢,就須要在title和body字段上分別建立新的全文索引。
  • MATCH()函數使用的字段名只能是同一個表的字段,由於全文索引不可以跨多個表進行檢索。
  • 若是要導入大數據集,使用先導入數據再在表上建立全文索引的方式要比先在表上建立全文索引再導入數據的方式快不少,因此全文索引是很影響TPS的。
做者:jessehua 連接:https://www.jianshu.com/p/c48106149b6a 來源:簡書 簡書著做權歸做者全部,任何形式的轉載都請聯繫做者得到受權並註明出處。
相關文章
相關標籤/搜索