lucene进行总结

一，知识点总结

1，什么是Lucene

​ Lucene是全文检索框架

2，Lucene能做什么

​ 就是你给Lucene提供若干个字符串，然后他为你提供一个全文搜索服务，告诉你你要搜索的关键词出现在了哪里

3，Lucene为什么能这么快

​ 采用了倒排索引的查询方法（倒排所以就是根据属性的值来查询记录该值的属性）

4，Lucene的工作方式

包括两部分：创建索引，读取索引

1，创建索引

​ 包括四个步骤：

​ 第一步：我们需要定义一个分词器

​ Analyzer analyzer = new StandardAnalyzer(Version.LUCENE_CURRENT);

​ 第二步：确定索引文件存储的位置，Lucene提供两种方式：

​ （a）:本地存储

​ Directory directory = FSDirectory.open(“/tmp/testindex”);

​ （b）内存存储：

​ Directory directory = new RAMDirectory();

​ 第三步：创建indexWriter，进行索引文件的写入

​ IndexWriterConfig config = new IndexWriterConfig(Version.LUCENE_CURRENT,analyzer);//包括两个参数第一个是目前的版本，第二个是词法分词器

​ IndexWriter indexwriter = new IndexWriter(directory,config);

​ 第四步：内容提取，进行索引的存储

​ Document doc = new Document();//申请了一个document对象，类似于数据库表中的一行

​ String text = “This is the text to be indexed”;//使我们即将索引的字符串

​ doc.add(new Field(“fieldname”,text,TextField.TYPE_STORED));//把字符串存储起来

​ indexWriter.addDocument(doc);//把doc对象加入到索引创建中

​ indexWriter.close();//关闭流

2，读取索引

​ 包括四部分：

​ 第一步：打开存储位置

​ DirectoryReader directoryReader = DirectoryRreader.open(directory);

​ 第二步：创建索引所以器

​ IndexSearcher indexSearcher = new IndexSearcher(directoryReader);

​ 第三步：类似于SQL,进行关键字查询

​ QueryParse parse = new QueryParser(Version.LUCENE_CURRENT,”fieldname”,analyzer);

​ Query query = parse.parse(“text”);

​ ScoreDoc[] hits = indexSearch.search(query,null,1000).scoreDocs;

​ assertEquals(1,hits.length);

​ for(int i = 0; i

二，面试中容易提到的知识点

​

三，具体的实例

package test;

import java.io.BufferedReader; import java.io.File; import java.io.FileInputStream; import java.io.FileReader; import java.util.ArrayList; import java.util.Date; import java.util.List;

import jxl.Cell; import jxl.Sheet; import jxl.Workbook;

import org.apache.lucene.analysis.Analyzer; import org.apache.lucene.analysis.standard.StandardAnalyzer; import org.apache.lucene.document.Document; import org.apache.lucene.document.LongField; import org.apache.lucene.document.TextField; import org.apache.lucene.document.Field.Store; import org.apache.lucene.index.DirectoryReader; import org.apache.lucene.index.IndexWriter; import org.apache.lucene.index.IndexWriterConfig; import org.apache.lucene.queryparser.classic.QueryParser; import org.apache.lucene.search.IndexSearcher; import org.apache.lucene.search.Query; import org.apache.lucene.search.ScoreDoc; import org.apache.lucene.store.Directory; import org.apache.lucene.store.FSDirectory; import org.apache.lucene.util.Version; import org.apache.poi.hwpf.HWPFDocument; import org.apache.poi.hwpf.usermodel.Range;

/** * @author xinghl * */ public class IndexManager{ private static IndexManager indexManager; private static String content=”“;

private static String INDEX_DIR = "D:\\luceneIndex"; private static String DATA_DIR = "D:\\luceneData"; private static Analyzer analyzer = null; private static Directory directory = null; private static IndexWriter indexWriter = null; /** * 创建索引管理器 * @return 返回索引管理器对象 */ public IndexManager getManager(){ if(indexManager == null){ this.indexManager = new IndexManager(); } return indexManager; } /** * 创建当前文件目录的索引 * @param path 当前文件目录 * @return 是否成功 */ public static boolean createIndex(String path){ Date date1 = new Date(); List<File> fileList = getFileList(path); for (File file : fileList) { content = ""; //获取文件后缀 String type = file.getName().substring(file.getName().lastIndexOf(".")+1); if("txt".equalsIgnoreCase(type)){ content += txt2String(file); }else if("doc".equalsIgnoreCase(type)){ content += doc2String(file); }else if("xls".equalsIgnoreCase(type)){ content += xls2String(file); } System.out.println("name :"+file.getName()); System.out.println("path :"+file.getPath()); // System.out.println("content :"+content); System.out.println(); ​ try{ analyzer = new StandardAnalyzer(Version.LUCENE_CURRENT); directory = FSDirectory.open(new File(INDEX_DIR)); File indexFile = new File(INDEX_DIR); if (!indexFile.exists()) { indexFile.mkdirs(); } IndexWriterConfig config = new IndexWriterConfig(Version.LUCENE_CURRENT, analyzer); indexWriter = new IndexWriter(directory, config); Document document = new Document(); document.add(new TextField("filename", file.getName(), Store.YES)); document.add(new TextField("content", content, Store.YES)); document.add(new TextField("path", file.getPath(), Store.YES)); indexWriter.addDocument(document); indexWriter.commit(); closeWriter(); }catch(Exception e){ e.printStackTrace(); } content = ""; } Date date2 = new Date(); System.out.println("创建索引-----耗时：" + (date2.getTime() - date1.getTime()) + "ms\n"); return true; } /** * 读取txt文件的内容 * @param file 想要读取的文件对象 * @return 返回文件内容 */ public static String txt2String(File file){ String result = ""; try{ BufferedReader br = new BufferedReader(new FileReader(file));//构造一个BufferedReader类来读取文件 String s = null; while((s = br.readLine())!=null){//使用readLine方法，一次读一行 result = result + "\n" +s; } br.close(); }catch(Exception e){ e.printStackTrace(); } return result; } /** * 读取doc文件内容 * @param file 想要读取的文件对象 * @return 返回文件内容 */ public static String doc2String(File file){ String result = ""; try{ FileInputStream fis = new FileInputStream(file); HWPFDocument doc = new HWPFDocument(fis); Range rang = doc.getRange(); result += rang.text(); fis.close(); }catch(Exception e){ e.printStackTrace(); } return result; } /** * 读取xls文件内容 * @param file 想要读取的文件对象 * @return 返回文件内容 */ public static String xls2String(File file){ String result = ""; try{ FileInputStream fis = new FileInputStream(file); StringBuilder sb = new StringBuilder(); jxl.Workbook rwb = Workbook.getWorkbook(fis); Sheet[] sheet = rwb.getSheets(); for (int i = 0; i < sheet.length; i++) { Sheet rs = rwb.getSheet(i); for (int j = 0; j < rs.getRows(); j++) { Cell[] cells = rs.getRow(j); for(int k=0;k<cells.length;k++) sb.append(cells[k].getContents()); } } fis.close(); result += sb.toString(); }catch(Exception e){ e.printStackTrace(); } return result; } /** * 查找索引，返回符合条件的文件 * @param text 查找的字符串 * @return 符合条件的文件List */ public static void searchIndex(String text){ Date date1 = new Date(); try{ directory = FSDirectory.open(new File(INDEX_DIR)); analyzer = new StandardAnalyzer(Version.LUCENE_CURRENT); DirectoryReader ireader = DirectoryReader.open(directory); IndexSearcher isearcher = new IndexSearcher(ireader); QueryParser parser = new QueryParser(Version.LUCENE_CURRENT, "content", analyzer); Query query = parser.parse(text); ScoreDoc[] hits = isearcher.search(query, null, 1000).scoreDocs; for (int i = 0; i < hits.length; i++) { Document hitDoc = isearcher.doc(hits[i].doc); System.out.println("____________________________"); System.out.println(hitDoc.get("filename")); System.out.println(hitDoc.get("content")); System.out.println(hitDoc.get("path")); System.out.println("____________________________"); } ireader.close(); directory.close(); }catch(Exception e){ e.printStackTrace(); } Date date2 = new Date(); System.out.println("查看索引-----耗时：" + (date2.getTime() - date1.getTime()) + "ms\n"); } /** * 过滤目录下的文件 * @param dirPath 想要获取文件的目录 * @return 返回文件list */ public static List<File> getFileList(String dirPath) { File[] files = new File(dirPath).listFiles(); List<File> fileList = new ArrayList<File>(); for (File file : files) { if (isTxtFile(file.getName())) { fileList.add(file); } } return fileList; } /** * 判断是否为目标文件，目前支持txt xls doc格式 * @param fileName 文件名称 * @return 如果是文件类型满足过滤条件，返回true；否则返回false */ public static boolean isTxtFile(String fileName) { if (fileName.lastIndexOf(".txt") > 0) { return true; }else if (fileName.lastIndexOf(".xls") > 0) { return true; }else if (fileName.lastIndexOf(".doc") > 0) { return true; } return false; } public static void closeWriter() throws Exception { if (indexWriter != null) { indexWriter.close(); } } /** * 删除文件目录下的所有文件 * @param file 要删除的文件目录 * @return 如果成功，返回true. */ public static boolean deleteDir(File file){ if(file.isDirectory()){ File[] files = file.listFiles(); for(int i=0; i<files.length; i++){ deleteDir(files[i]); } } file.delete(); return true; } public static void main(String[] args){ File fileIndex = new File(INDEX_DIR); if(deleteDir(fileIndex)){ fileIndex.mkdir(); }else{ fileIndex.mkdir(); } createIndex(DATA_DIR); searchIndex("man"); } }