- 熱門文章
-
- 江蘇省行政區(qū)域重新劃分了 江蘇未來(lái)重點(diǎn)發(fā)展城市 未來(lái)蘇北*大城市
- 10元一畝農(nóng)場(chǎng)土地出租 無(wú)人村*出租荒地 100畝荒山18萬(wàn)出售
- 遼寧省88鄉(xiāng)鎮(zhèn)個(gè)合村并鎮(zhèn) 遼寧合村并鎮(zhèn)試點(diǎn)名單 遼寧省合村并鎮(zhèn)時(shí)間表
- 周林頻譜治療儀的危害(周林頻譜治療儀的功效)
- 退伍軍人補(bǔ)貼新政策2020 退伍軍人每月發(fā)1200元 5類退伍軍人有福了
- 上海水果店裝修效果圖
- 香港房子一尺等于多少平方
- 九牧與九牧王的區(qū)別 不僅僅一字之差
- 農(nóng)村蓋房有什么風(fēng)水講究 農(nóng)村吉宅順口溜 建房十大忌諱
- 2023全國(guó)取消燃?xì)獬跹b費(fèi)嗎
- 隨機(jī)文章
什么是全文檢索
全文檢索是指對(duì)于一個(gè)文本庫(kù)中的每個(gè)文檔,利用特定的搜索算法,在文本庫(kù)中查找滿足用戶查詢要求的所有文檔的過(guò)程。
全文檢索的原理是先將文本庫(kù)中的所有文檔進(jìn)行分詞處理,再將每個(gè)單詞與文檔庫(kù)中的索引進(jìn)行匹配,將匹配到的文檔返回給用戶。
全文檢索的好處是可以根據(jù)關(guān)鍵詞很快地找到想要的文檔,節(jié)省用戶的時(shí)間,提高用戶的工作效率。
全文檢索技術(shù)廣泛應(yīng)用于文本搜索引擎、電子商務(wù)網(wǎng)站商品搜索、企業(yè)內(nèi)部信息檢索、數(shù)字圖書館等領(lǐng)域。
同時(shí),全文檢索也需要考慮分詞算法、索引結(jié)構(gòu)、查詢優(yōu)化等技術(shù)問(wèn)題。
全文檢索在MySQL里面很早就支持了,只不過(guò)一直以來(lái)只支持英文。緣由是他從來(lái)都使用空格來(lái)作為分詞的分隔符,而對(duì)于中文來(lái)講,顯然用空格就不合適,需要針對(duì)中文語(yǔ)義進(jìn)行分詞。
這不,從MySQL5.7開始,MySQL內(nèi)置了ngram全文檢索插件,用來(lái)支持中文分詞,并且對(duì)MyISAM和InnoDB引擎有效。
在使用中文檢索分詞插件ngram之前,先得在MySQL配置文件里面設(shè)置他的分詞大小,比如,[mysqld]ngram_token_size=2這里把分詞大小設(shè)置為2。要記住,分詞的SIZE越大,索引的體積就越大,所以要根據(jù)自身情況來(lái)設(shè)置合適的大小。示例表結(jié)構(gòu):
CREATE TABLE articles (id INTUNSIGNED AUTO_INCREMENT NOT NULL PRIMARY KEY,titleVARCHAR(200),body TEXT,FULLTEXT (title,body) WITH PARSER ngram) ENGINE=InnoDBCHARACTER SET utf8mb4;示例數(shù)據(jù),有6行記錄。mysql> select * from articles\G**************************
*1. row ***************************id: 1title: 數(shù)據(jù)庫(kù)管理body: 在本教程中我將向你展示如何管理數(shù)據(jù)庫(kù)***************************2. row ***************************id: 2title: 數(shù)據(jù)庫(kù)應(yīng)用開發(fā)body: 學(xué)習(xí)開發(fā)數(shù)據(jù)庫(kù)應(yīng)用程序***************************3. row ***************************id: 3title: MySQL完全手冊(cè)body: 學(xué)習(xí)MySQL的一切***************************4. row ***************************id: 4title: 數(shù)據(jù)庫(kù)與事務(wù)處理body: 系統(tǒng)的學(xué)習(xí)數(shù)據(jù)庫(kù)的事務(wù)概論***************************5. row ***************************id: 5title: NoSQL精髓body: 學(xué)習(xí)了解各種非結(jié)構(gòu)化數(shù)據(jù)庫(kù)***************************6. row ***************************id: 6title: SQL 語(yǔ)言詳解body: 詳細(xì)了解如果使用各種SQL6 rows inset (0.00 sec)顯式指定全文檢索表源mysql> SETGLOBAL innodb_ft_aux_table="new_feature/articles";Query OK, 0 rows affected (0.00 sec)通過(guò)系統(tǒng)表,就可以查看到底是怎么劃分articles里的數(shù)據(jù)。
mysql> SELECT *FROM information_schema.INNODB_FT_INDEX_CACHE LIMIT 20,10;+------+--------------+-------------+-----------+--------+----------+| WORD | FIRST_DOC_ID | LAST_DOC_ID | DOC_COUNT | DOC_ID| POSITION |+------+--------------+-------------+-----------+--------+----------+| 中我 | 2 | 2 | 1 | 2 | 28 || 習(xí)m | 4 | 4 | 1 | 4 | 21 || 習(xí)了 | 6 | 6 | 1 | 6 | 16 || 習(xí)開 | 3 | 3 | 1 | 3 | 25 || 習(xí)數(shù) | 5 | 5 | 1 | 5 | 37 || 了解 | 6 | 7 | 2 | 6 | 19 || 了解 | 6 | 7 | 2 | 7 | 23 || 事務(wù) | 5 | 5 | 1 | 5 | 12 || 事務(wù) | 5 | 5 | 1 | 5 | 40 || 何管 | 2 | 2 | 1 | 2 | 52 |+------+--------------+-------------+-----------+--------+----------+10 rows in set (0.00 sec)這里可以看到,把分詞長(zhǎng)度設(shè)置為2,所有的數(shù)據(jù)都只有兩個(gè)一組。上面數(shù)據(jù)還包含了行的位置,ID等等信息。
接下來(lái),我來(lái)進(jìn)行一系列檢索示范,使用方法和原來(lái)英文檢索一致。1. 自然語(yǔ)言模式下檢索:A,得到符合條件的個(gè)數(shù),mysql>SELECT COUNT(*) FROM articles-> WHERE MATCH (title,body) AGAINST ('數(shù)據(jù)庫(kù)' IN NATURALLANGUAGE MODE);+----------+| COUNT(*) |+----------+| 4 |+----------+1 row in set (0.05 sec)B,得到匹配的比率,mysql>SELECT id, MATCH (title,body) AGAINST ('數(shù)據(jù)庫(kù)' IN NATURAL LANGUAGE MODE)AS score FROM articles;+----+----------------------+| id| score |+----+----------------------+| 1 | 0.12403252720832825 || 2 | 0.12403252720832825 || 3 | 0 || 4 | 0.12403252720832825 || 5 | 0.062016263604164124 || 6 | 0 |+----+----------------------+6rows in set (0.00 sec)2. 布爾模式下搜索,這個(gè)就相對(duì)于自然模式搜索來(lái)的復(fù)雜些:A,匹配既有管理又有數(shù)據(jù)庫(kù)的記錄,mysql> SELECT * FROM articles WHERE MATCH (title,body)-> AGAINST ('+數(shù)據(jù)庫(kù) +管理' IN BOOLEAN MODE);+----+------------+--------------------------------------+| id| title | body |+----+------------+--------------------------------------+| 1 | 數(shù)據(jù)庫(kù)管理 | 在本教程中我將向你展示如何管理數(shù)據(jù)庫(kù)|+----+------------+--------------------------------------+1 rowin set (0.00 sec)B,匹配有數(shù)據(jù)庫(kù),但是沒(méi)有管理的記錄,mysql> SELECT * FROM articles WHERE MATCH (title,body)-> AGAINST ('+數(shù)據(jù)庫(kù) -管理' IN BOOLEAN MODE);+----+------------------+----------------------------+| id| title | body |+----+------------------+----------------------------+| 2 | 數(shù)據(jù)庫(kù)應(yīng)用開發(fā) | 學(xué)習(xí)開發(fā)數(shù)據(jù)庫(kù)應(yīng)用程序 || 4 | 數(shù)據(jù)庫(kù)與事務(wù)處理 | 系統(tǒng)的學(xué)習(xí)數(shù)據(jù)庫(kù)的事務(wù)概論 || 5 | NoSQL 精髓 | 學(xué)習(xí)了解各種非結(jié)構(gòu)化數(shù)據(jù)庫(kù) |+----+------------------+----------------------------+3rows in set (0.00 sec)C,匹配MySQL,但是把數(shù)據(jù)庫(kù)的相關(guān)性降低,mysql> SELECT * FROM articles WHERE MATCH (title,body)-> AGAINST ('>數(shù)據(jù)庫(kù) +MySQL' INBOOLEAN MODE);+----+---------------+-----------------+| id| title | body |+----+---------------+-----------------+| 3 | MySQL完全手冊(cè) |學(xué)習(xí)MySQL的一切 |+----+---------------+-----------------+1 rowin set (0.00 sec)3,查詢擴(kuò)展模式,比如要搜索數(shù)據(jù)庫(kù),那么MySQL,oracle,DB2也都將會(huì)被搜索到,mysql> SELECT * FROM articles-> WHERE MATCH (title,body)-> AGAINST ('數(shù)據(jù)庫(kù)' WITH QUERY EXPANSION);+----+------------------+--------------------------------------+| id| title | body |+----+------------------+--------------------------------------+| 1 | 數(shù)據(jù)庫(kù)管理 | 在本教程中我將向你展示如何管理數(shù)據(jù)庫(kù)| 4 | 數(shù)據(jù)庫(kù)與事務(wù)處理 | 系統(tǒng)的學(xué)習(xí)數(shù)據(jù)庫(kù)的事務(wù)概論| 2 | 數(shù)據(jù)庫(kù)應(yīng)用開發(fā) | 學(xué)習(xí)開發(fā)數(shù)據(jù)庫(kù)應(yīng)用程序 || 5 | NoSQL 精髓 | 學(xué)習(xí)了解各種非結(jié)構(gòu)化數(shù)據(jù)庫(kù) || 6 | SQL 語(yǔ)言詳解 | 詳細(xì)了解如果使用各種SQL|| 3 | MySQL完全手冊(cè) | 學(xué)習(xí)MySQL的一切 |+----+------------------+--------------------------------------+6rows in set (0.01 sec)當(dāng)然,我這里只是功能演示,更多的性能測(cè)試,大家有興趣可以進(jìn)行詳細(xì)測(cè)試。由于N-grm是中文檢索常用的分詞算法,已經(jīng)在互聯(lián)網(wǎng)大量使用,這次集成到mysql中,想必效果上不會(huì)有太大的問(wèn)題。
其他文章
- 張國(guó)榮感情語(yǔ)錄
- 烏當(dāng)中學(xué)怎么樣
- 黃家駒的AMANI是什么意思
- yu是聲母韻母還是整體認(rèn)讀
- 什么是農(nóng)業(yè)示范園
- 嘉睿的意思 佳睿的意思 晟睿的意思
- 雄姿英發(fā)是什么意思
- 怎么仿寫詩(shī)歌
- 短時(shí)評(píng)怎么寫
- 廁所里的搞笑詩(shī)
- 陌上初熏 是什么意思
- 什么叫戲歌
- 成語(yǔ)成語(yǔ)什么化雨
- 青島大學(xué)膠州校區(qū)介紹
- or的中文是什么意思
- 關(guān)于童年的詩(shī)
- Hanson或Hansen做英文名怎樣
- 引吭高歌讀音
- 餃子的來(lái)歷和由來(lái)
- 相的組詞有哪些詞語(yǔ)
- 烏衣巷的解釋
- 用 勤 組成的詞語(yǔ)有哪些
- 阜陽(yáng)市城郊中學(xué)怎么樣
- 去海邊穿什么鞋兒童
- 十九繁體
- 硫酸霧化學(xué)式
- 你們知道味字可以組什么詞嗎
- 美人魚怎么畫
- 艾子教孫 文言文翻譯
- 黑龍江財(cái)經(jīng)大學(xué)怎么樣