使用lucene實現全文搜索
講解以前，先來分享一些資料
首先呢，學習任何一門新的亦或是舊的開源技術，百度其中一二是最簡單的辦法，先了解其中的大概，思想等等。這裏就貢獻一個講解很到位的ppt。已經被我轉成了PDF，便於蒐藏。html
其次，關於第一次編程初探，建議仍是查看官方資料。百度到的資料，目前Lucene已經更新到4.9版本，這個版本須要1.7以上的JDK，因此若是還用1.6甚至是1.5的小盆友，請參考低版本，因爲我用的1.6，所以在使用Lucene4.0。數據庫
這是Lucene4.0的官網文檔：http://lucene.apache.org/core/4_0_0/core/overview-summary.html
apache
這裏很是佩服Lucene的開元貢獻者，能夠閱讀Lucene in Action，做者最初想要寫軟件賺錢，最後貢獻給了Apache，跑題了。編程
最後，提醒學習Lucene的小盆友們，這個開源軟件的版本更新不慢，版本之間的編程風格亦是不一樣，因此若是百度到的帖子，可能這段代碼，用了4.0或者3.6就會很差使。架構
好比，之前版本的申請IndexWriter時，是這樣的：學習
IndexWriter indexWriter = new IndexWriter(indexDir,luceneAnalyzer, true );
可是4.0，咱們須要配置一個conf，把配置內容放到這個對象中：this
IndexWriterConfig config = new IndexWriterConfig(Version.LUCENE_CURRENT, analyzer); IndexWriter iwriter = new IndexWriter(directory, config);
因此，請必定要參考官方文檔的編程風格，進行代碼的書寫。spa
最後的最後，從官網上面下載下來的文件，已經上傳至百度網盤，歡迎下載。架構設計
這是其中最經常使用的五個文件：設計
第一個，也是最重要的，Lucene-core-4.0.0.jar,其中包括了經常使用的文檔，索引，搜索，存儲等相關核心代碼。
第二個，Lucene-analyzers-common-4.0.0.jar，這裏麪包含了各類語言的詞法分析器，用於對文件內容進行關鍵字切分，提取。
第三個，Lucene-highlighter-4.0.0.jar，這個jar包主要用於搜索出的內容高亮顯示。
第四個和第五個，Lucene-queryparser-4.0.0.jar，提供了搜索相關的代碼，用於各類搜索，好比模糊搜索，範圍搜索，等等。
廢話說到這裏，下面咱們簡單的講解一下什麼是全文檢索。
好比，咱們一個文件夾中，或者一個磁盤中有不少的文件，記事本、world、Excel、pdf，咱們想根據其中的關鍵詞搜索包含的文件。例如，咱們輸入Lucene，全部內容含有Lucene的文件就會被檢查出來。這就是所謂的全文檢索。
所以，很容易的咱們想到，應該創建一個關鍵字與文件的相關映射，盜用ppt中的一張圖，很明白的解釋了這種映射如何實現。
在Lucene中，就是使用這種「倒排索引」的技術，來實現相關映射。
有了這種映射關係，咱們就來看看Lucene的架構設計。
下面是Lucene的資料必出現的一張圖，但也是其精髓的歸納。
咱們能夠看到，Lucene的使用主要體如今兩個步驟：
1 建立索引，經過IndexWriter對不一樣的文件進行索引的建立，並將其保存在索引相關文件存儲的位置中。
2 經過索引查尋關鍵字相關文檔。
下面針對官網上面給出的一個例子，進行分析：
1 Analyzer analyzer = new StandardAnalyzer(Version.LUCENE_CURRENT); 2 3 // Store the index in memory: 4 Directory directory = new RAMDirectory(); 5 // To store an index on disk, use this instead: 6 //Directory directory = FSDirectory.open("/tmp/testindex"); 7 IndexWriterConfig config = new IndexWriterConfig(Version.LUCENE_CURRENT, analyzer); 8 IndexWriter iwriter = new IndexWriter(directory, config); 9 Document doc = new Document();10 String text = "This is the text to be indexed.";11 doc.add(new Field("fieldname", text, TextField.TYPE_STORED));12 iwriter.addDocument(doc);13 iwriter.close();14 15 // Now search the index:16 DirectoryReader ireader = DirectoryReader.open(directory);17 IndexSearcher isearcher = new IndexSearcher(ireader);18 // Parse a simple query that searches for "text":19 QueryParser parser = new QueryParser(Version.LUCENE_CURRENT, "fieldname", analyzer);20 Query query = parser.parse("text");21 ScoreDoc[] hits = isearcher.search(query, null, 1000).scoreDocs;22 assertEquals(1, hits.length);23 // Iterate through the results:24 for (int i = 0; i < hits.length; i++) {25 Document hitDoc = isearcher.doc(hits[i].doc);26 assertEquals("This is the text to be indexed.", hitDoc.get("fieldname"));27 }28 ireader.close();29 directory.close();
索引的建立
首先，咱們須要定義一個詞法分析器。
好比一句話，「我愛咱們的中國！」，如何對他拆分，扣掉停頓詞「的」，提取關鍵字「我」「咱們」「中國」等等。這就要藉助的詞法分析器Analyzer來實現。這裏面使用的是標準的詞法分析器，若是專門針對漢語，還能夠搭配paoding，進行使用。
1 Analyzer analyzer = new StandardAnalyzer(Version.LUCENE_CURRENT);
參數中的Version.LUCENE_CURRENT，表明使用當前的Lucene版本，本文環境中也能夠寫成Version.LUCENE_40。
第二步，肯定索引文件存儲的位置，Lucene提供給咱們兩種方式：
1 本地文件存儲
Directory directory = FSDirectory.open("/tmp/testindex");
2 內存存儲
Directory directory = new RAMDirectory();
能夠根據本身的須要進行設定。
第三步，建立IndexWriter，進行索引文件的寫入。
IndexWriterConfig config = new IndexWriterConfig(Version.LUCENE_CURRENT, analyzer); IndexWriter iwriter = new IndexWriter(directory, config);
這裏的IndexWriterConfig，據官方文檔介紹，是對indexWriter的配置，其中包含了兩個參數，第一個是目前的版本，第二個是詞法分析器Analyzer。
第四步，內容提取，進行索引的存儲。
Document doc = new Document();
String text = "This is the text to be indexed.";
doc.add(new Field("fieldname", text, TextField.TYPE_STORED));
iwriter.addDocument(doc);
iwriter.close();
第一行，申請了一個document對象，這個相似於數據庫中的表。
第二行，是咱們即將索引的字符串。
第三行，把字符串存儲起來（由於設置了TextField.TYPE_STORED,若是不想存儲，可使用其餘參數，詳情參考官方文檔），並存儲「代表」爲"fieldname".
第四行，把doc對象加入到索引建立中。
第五行，關閉IndexWriter,提交建立內容。
這就是索引建立的過程。
關鍵字查詢：
第一步，打開存儲位置
DirectoryReader ireader = DirectoryReader.open(directory);
第二步，建立搜索器
IndexSearcher isearcher = new IndexSearcher(ireader);
第三步，相似SQL，進行關鍵字查詢
QueryParser parser = new QueryParser(Version.LUCENE_CURRENT, "fieldname", analyzer);
Query query = parser.parse("text");
ScoreDoc[] hits = isearcher.search(query, null, 1000).scoreDocs;
assertEquals(1, hits.length);for (int i = 0; i < hits.length; i++) {
Document hitDoc = isearcher.doc(hits[i].doc);
assertEquals("This is the text to be indexed.",hitDoc.get("fieldname"));
}
這裏，咱們建立了一個查詢器，並設置其詞法分析器，以及查詢的「表名「爲」fieldname「。查詢結果會返回一個集合，相似SQL的ResultSet，咱們能夠提取其中存儲的內容。
關於各類不一樣的查詢方式，能夠參考官方手冊，或者推薦的PPT
第四步，關閉查詢器等。
ireader.close(); directory.close();
最後，博豬本身寫了個簡單的例子，能夠對一個文件夾內的內容進行索引的建立，並根據關鍵字篩選文件，並讀取其中的內容。
建立索引：
/**
* 建立當前文件目錄的索引
* @param path 當前文件目錄
* @return 是否成功 */
public static boolean createIndex(String path){
Date date1 = new Date();
List<File> fileList = getFileList(path); for (File file : fileList) {
content = ""; //獲取文件後綴
String type = file.getName().substring(file.getName().lastIndexOf(".")+1); if("txt".equalsIgnoreCase(type)){
content += txt2String(file);
}else if("doc".equalsIgnoreCase(type)){
content += doc2String(file);
}else if("xls".equalsIgnoreCase(type)){
content += xls2String(file);
}
System.out.println("name :"+file.getName());
System.out.println("path :"+file.getPath());// System.out.println("content :"+content); System.out.println();
try{
analyzer = new StandardAnalyzer(Version.LUCENE_CURRENT);
directory = FSDirectory.open(new File(INDEX_DIR));
File indexFile = new File(INDEX_DIR); if (!indexFile.exists()) {
indexFile.mkdirs();
}
IndexWriterConfig config = new IndexWriterConfig(Version.LUCENE_CURRENT, analyzer);
indexWriter = new IndexWriter(directory, config);
Document document = new Document();
document.add(new TextField("filename", file.getName(), Store.YES));
document.add(new TextField("content", content, Store.YES));
document.add(new TextField("path", file.getPath(), Store.YES));
indexWriter.addDocument(document);
indexWriter.commit();
closeWriter();
}catch(Exception e){
e.printStackTrace();
}
content = "";
}
Date date2 = new Date();
System.out.println("建立索引-----耗時：" + (date2.getTime() - date1.getTime()) + "ms\n"); return true;
}
進行查詢：
/**
* 查找索引，返回符合條件的文件
* @param text 查找的字符串
* @return 符合條件的文件List */
public static void searchIndex(String text){
Date date1 = new Date(); try{
directory = FSDirectory.open(new File(INDEX_DIR));
analyzer = new StandardAnalyzer(Version.LUCENE_CURRENT);
DirectoryReader ireader = DirectoryReader.open(directory);
IndexSearcher isearcher = new IndexSearcher(ireader);
QueryParser parser = new QueryParser(Version.LUCENE_CURRENT, "content", analyzer);
Query query = parser.parse(text);
ScoreDoc[] hits = isearcher.search(query, null, 1000).scoreDocs;
for (int i = 0; i < hits.length; i++) {
Document hitDoc = isearcher.doc(hits[i].doc);
System.out.println("____________________________");
System.out.println(hitDoc.get("filename"));
System.out.println(hitDoc.get("content"));
System.out.println(hitDoc.get("path"));
System.out.println("____________________________");
}
ireader.close();
directory.close();
}catch(Exception e){
e.printStackTrace();
}
Date date2 = new Date();
System.out.println("查看索引-----耗時：" + (date2.getTime() - date1.getTime()) + "ms\n");
}
所有代碼:
View Code
運行結果：
全部包含man關鍵字的文件，都被篩選出來了。
- 1. 利用Lucene實現全文搜索
- 2. Lucene及全文搜索實現原理
- 3. lucene全文搜索
- 4. Lucene全文搜索原理與使用
- 5. 三、使用Lucene實現千度搜索
- 6. Lucene實現全文檢索
- 7. 全文搜索lucene簡介
- 8. 全文搜索技術—Lucene
- 9. 【Lucene】全文搜索技術
- 10. Lucene 分頁搜索實現
- 更多相關文章...
- • PHP 實例 - AJAX 實時搜索 - PHP教程
- • SEO - 搜索引擎優化 - 網站建設指南
- • ☆基於Java Instrument的Agent實現
- • Java Agent入門實戰（一）-Instrumentation介紹與使用
-
每一个你不满意的现在，都有一个你没有努力的曾经。
- 1. 利用Lucene實現全文搜索
- 2. Lucene及全文搜索實現原理
- 3. lucene全文搜索
- 4. Lucene全文搜索原理與使用
- 5. 三、使用Lucene實現千度搜索
- 6. Lucene實現全文檢索
- 7. 全文搜索lucene簡介
- 8. 全文搜索技術—Lucene
- 9. 【Lucene】全文搜索技術
- 10. Lucene 分頁搜索實現