使用POI可以導出大數據保證內存不溢出的一個重要緣由是SXSSFWorkbook生成的EXCEL爲2007版本,修改EXCEL2007文件後綴爲ZIP打開能夠看到,每個Sheet都是一個xml文件,單元格格式和單元格座標均用標籤表示。直接使用SXSSFWorkbook來到導出EXCEL自己就是POI爲了大數據量導出而量身定製的,因此導出能夠直接使用SXSSFWorkbook方式。java
爲了保險起見能夠採用多Sheet的方式保證內存不溢出。須要注意的是Sheet名稱不能重複;下載的時候須要定義好返回頭。apache
response.setContentType("application/vnd.openxmlformats-officedocument.spreadsheetml.sheet");
導出EXCEL較爲簡單,建立Workbook對象和Sheet對象往裏塞值就好了。可是導入讀取EXCEL的時候SXSSFWorkbook沒有讀取文件流的方法,只能使用XSSFWorkbook來讀取,幾千條數據可能就內存溢出了。數據結構
這時候就要使用OPCPackageapp
public static OPCPackage open(java.io.InputStream in) throws InvalidFormatException, java.io.IOException Open a package. Note - uses quite a bit more memory than open(String), which doesn't need to hold the whole zip file in memory, and can take advantage of native methods Parameters: in - The InputStream to read the package from Returns: A PackageBase object Throws: InvalidFormatException java.io.IOException
POI給出的API表示使用OPCPackage不須要將文件徹底讀取到內存中。fetch
調用方法大數據
File file = uploadFile.getFile(); InputStream is = new FileInputStream(file); excelReader.readInputStream(is); excelReader.process();
ExcelReader.javaui
/** * 抽象Excel2007讀取器,excel2007的底層數據結構是xml文件,採用SAX的事件驅動的方法解析 * xml,須要繼承DefaultHandler,在遇到文件內容時,事件會觸發,這種作法能夠大大下降 * 內存的耗費,特別使用於大數據量的文件。 * */ public class Excel2007Reader extends DefaultHandler { //共享字符串表 private SharedStringsTable sst; //上一次的內容 private String lastContents; private boolean nextIsString; private int sheetIndex = -1; private List<String> rowlist = new ArrayList<String>(); //當前行 private int curRow = 0; //當前列 private int curCol = 0; //日期標誌 private boolean dateFlag; //數字標誌 private boolean numberFlag; private boolean isTElement; private IRowReader rowReader; public void setRowReader(IRowReader rowReader){ this.rowReader = rowReader; } /**只遍歷一個電子表格,其中sheetId爲要遍歷的sheet索引,從1開始,1-3 * @param filename * @param sheetId * @throws Exception */ public void processOneSheet(String filename,int sheetId) throws Exception { OPCPackage pkg = OPCPackage.open(filename); XSSFReader r = new XSSFReader(pkg); SharedStringsTable sst = r.getSharedStringsTable(); XMLReader parser = fetchSheetParser(sst); // 根據 rId# 或 rSheet# 查找sheet InputStream sheet2 = r.getSheet("rId"+sheetId); sheetIndex++; InputSource sheetSource = new InputSource(sheet2); parser.parse(sheetSource); sheet2.close(); } /** * 遍歷工做簿中全部的電子表格 * @param filename * @throws Exception */ public void process(String filename) throws Exception { OPCPackage pkg = OPCPackage.open(filename); XSSFReader r = new XSSFReader(pkg); SharedStringsTable sst = r.getSharedStringsTable(); XMLReader parser = fetchSheetParser(sst); Iterator<InputStream> sheets = r.getSheetsData(); while (sheets.hasNext()) { curRow = 0; sheetIndex++; InputStream sheet = sheets.next(); InputSource sheetSource = new InputSource(sheet); parser.parse(sheetSource); sheet.close(); } } public XMLReader fetchSheetParser(SharedStringsTable sst) throws SAXException { XMLReader parser = XMLReaderFactory .createXMLReader("org.apache.xerces.parsers.SAXParser"); this.sst = sst; parser.setContentHandler(this); return parser; } public void startElement(String uri, String localName, String name, Attributes attributes) throws SAXException { // c => 單元格 if ("c".equals(name)) { // 若是下一個元素是 SST 的索引,則將nextIsString標記爲true String cellType = attributes.getValue("t"); if ("s".equals(cellType)) { nextIsString = true; } else { nextIsString = false; } //日期格式 String cellDateType = attributes.getValue("s"); if ("1".equals(cellDateType)){ dateFlag = true; } else { dateFlag = false; } String cellNumberType = attributes.getValue("s"); if("2".equals(cellNumberType)){ numberFlag = true; } else { numberFlag = false; } } //當元素爲t時 if("t".equals(name)){ isTElement = true; } else { isTElement = false; } // 置空 lastContents = ""; } public void endElement(String uri, String localName, String name) throws SAXException { // 根據SST的索引值的到單元格的真正要存儲的字符串 // 這時characters()方法可能會被調用屢次 if (nextIsString) { try { int idx = Integer.parseInt(lastContents); lastContents = new XSSFRichTextString(sst.getEntryAt(idx)) .toString(); } catch (Exception e) { } } //t元素也包含字符串 if(isTElement){ String value = lastContents.trim(); rowlist.add(curCol, value); curCol++; isTElement = false; // v => 單元格的值,若是單元格是字符串則v標籤的值爲該字符串在SST中的索引 // 將單元格內容加入rowlist中,在這以前先去掉字符串先後的空白符 } else if ("v".equals(name)) { String value = lastContents.trim(); value = value.equals("")?" ":value; //日期格式處理 if(dateFlag){ Date date = HSSFDateUtil.getJavaDate(Double.valueOf(value)); SimpleDateFormat dateFormat = new SimpleDateFormat( "dd/MM/yyyy"); value = dateFormat.format(date); } //數字類型處理 if(numberFlag){ BigDecimal bd = new BigDecimal(value); value = bd.setScale(3,BigDecimal.ROUND_UP).toString(); } rowlist.add(curCol, value); curCol++; }else { //若是標籤名稱爲 row ,這說明已到行尾,調用 optRows() 方法 if (name.equals("row")) { rowReader.getRows(sheetIndex,curRow,rowlist); rowlist.clear(); curRow++; curCol = 0; } } } public void characters(char[] ch, int start, int length) throws SAXException { //獲得單元格內容的值 lastContents += new String(ch, start, length); } }