POI實現大數據EXCLE導入導出,解決內存溢出問題

  使用POI可以導出大數據保證內存不溢出的一個重要緣由是SXSSFWorkbook生成的EXCEL爲2007版本,修改EXCEL2007文件後綴爲ZIP打開能夠看到,每個Sheet都是一個xml文件,單元格格式和單元格座標均用標籤表示。直接使用SXSSFWorkbook來到導出EXCEL自己就是POI爲了大數據量導出而量身定製的,因此導出能夠直接使用SXSSFWorkbook方式。java

  爲了保險起見能夠採用多Sheet的方式保證內存不溢出。須要注意的是Sheet名稱不能重複;下載的時候須要定義好返回頭。apache

response.setContentType("application/vnd.openxmlformats-officedocument.spreadsheetml.sheet");

  導出EXCEL較爲簡單,建立Workbook對象和Sheet對象往裏塞值就好了。可是導入讀取EXCEL的時候SXSSFWorkbook沒有讀取文件流的方法,只能使用XSSFWorkbook來讀取,幾千條數據可能就內存溢出了。數據結構

  這時候就要使用OPCPackageapp

public static OPCPackage open(java.io.InputStream in)
                       throws InvalidFormatException,
                              java.io.IOException

Open a package. Note - uses quite a bit more memory than open(String), which doesn't need to hold the whole zip file in memory, and can take advantage of native methods

Parameters:
    in - The InputStream to read the package from
Returns:
    A PackageBase object
Throws:
    InvalidFormatException
    java.io.IOException

  POI給出的API表示使用OPCPackage不須要將文件徹底讀取到內存中。fetch

  調用方法大數據

File file = uploadFile.getFile();
InputStream is = new FileInputStream(file);
excelReader.readInputStream(is);
excelReader.process();

  ExcelReader.javaui

/**
 * 抽象Excel2007讀取器,excel2007的底層數據結構是xml文件,採用SAX的事件驅動的方法解析
 * xml,須要繼承DefaultHandler,在遇到文件內容時,事件會觸發,這種作法能夠大大下降
 * 內存的耗費,特別使用於大數據量的文件。
 *
 */
public class Excel2007Reader extends DefaultHandler {
    //共享字符串表
    private SharedStringsTable sst;
    //上一次的內容
    private String lastContents;
    private boolean nextIsString;

    private int sheetIndex = -1;
    private List<String> rowlist = new ArrayList<String>();
    //當前行
    private int curRow = 0;
    //當前列
    private int curCol = 0;
    //日期標誌
    private boolean dateFlag;
    //數字標誌
    private boolean numberFlag;
    
    private boolean isTElement;
    
    private IRowReader rowReader;
    
    public void setRowReader(IRowReader rowReader){
        this.rowReader = rowReader;
    }
    
    /**只遍歷一個電子表格,其中sheetId爲要遍歷的sheet索引,從1開始,1-3
     * @param filename
     * @param sheetId
     * @throws Exception
     */
    public void processOneSheet(String filename,int sheetId) throws Exception {
        OPCPackage pkg = OPCPackage.open(filename);
        XSSFReader r = new XSSFReader(pkg);
        SharedStringsTable sst = r.getSharedStringsTable();
        XMLReader parser = fetchSheetParser(sst);
        
        // 根據 rId# 或 rSheet# 查找sheet
        InputStream sheet2 = r.getSheet("rId"+sheetId);
        sheetIndex++;
        InputSource sheetSource = new InputSource(sheet2);
        parser.parse(sheetSource);
        sheet2.close();
    }

    /**
     * 遍歷工做簿中全部的電子表格
     * @param filename
     * @throws Exception
     */
    public void process(String filename) throws Exception {
        OPCPackage pkg = OPCPackage.open(filename);
        XSSFReader r = new XSSFReader(pkg);
        SharedStringsTable sst = r.getSharedStringsTable();
        XMLReader parser = fetchSheetParser(sst);
        Iterator<InputStream> sheets = r.getSheetsData();
        while (sheets.hasNext()) {
            curRow = 0;
            sheetIndex++;
            InputStream sheet = sheets.next();
            InputSource sheetSource = new InputSource(sheet);
            parser.parse(sheetSource);
            sheet.close();
        }
    }

    public XMLReader fetchSheetParser(SharedStringsTable sst)
            throws SAXException {
        XMLReader parser = XMLReaderFactory
                .createXMLReader("org.apache.xerces.parsers.SAXParser");
        this.sst = sst;
        parser.setContentHandler(this);
        return parser;
    }

    public void startElement(String uri, String localName, String name,
            Attributes attributes) throws SAXException {
        
        // c => 單元格
        if ("c".equals(name)) {
            // 若是下一個元素是 SST 的索引,則將nextIsString標記爲true
            String cellType = attributes.getValue("t");
            if ("s".equals(cellType)) {
                nextIsString = true;
            } else {
                nextIsString = false;
            }
            //日期格式
            String cellDateType = attributes.getValue("s");
            if ("1".equals(cellDateType)){
                dateFlag = true;
            } else {
                dateFlag = false;
            }
            String cellNumberType = attributes.getValue("s");
            if("2".equals(cellNumberType)){
                numberFlag = true;
            } else {
                numberFlag = false;
            }
            
        }
        //當元素爲t時
        if("t".equals(name)){
            isTElement = true;
        } else {
            isTElement = false;
        }
        
        // 置空
        lastContents = "";
    }

    public void endElement(String uri, String localName, String name)
            throws SAXException {
        
        // 根據SST的索引值的到單元格的真正要存儲的字符串
        // 這時characters()方法可能會被調用屢次
        if (nextIsString) {
            try {
                int idx = Integer.parseInt(lastContents);
                lastContents = new XSSFRichTextString(sst.getEntryAt(idx))
                        .toString();
            } catch (Exception e) {

            }
        } 
        //t元素也包含字符串
        if(isTElement){
            String value = lastContents.trim();
            rowlist.add(curCol, value);
            curCol++;
            isTElement = false;
            // v => 單元格的值,若是單元格是字符串則v標籤的值爲該字符串在SST中的索引
            // 將單元格內容加入rowlist中,在這以前先去掉字符串先後的空白符
        } else if ("v".equals(name)) {
            String value = lastContents.trim();
            value = value.equals("")?" ":value;
            //日期格式處理
            if(dateFlag){
                 Date date = HSSFDateUtil.getJavaDate(Double.valueOf(value));
                 SimpleDateFormat dateFormat = new SimpleDateFormat(
                 "dd/MM/yyyy");
                 value = dateFormat.format(date);
            } 
            //數字類型處理
            if(numberFlag){
                BigDecimal bd = new BigDecimal(value);
                value = bd.setScale(3,BigDecimal.ROUND_UP).toString();
            }
            rowlist.add(curCol, value);
            curCol++;
        }else {
            //若是標籤名稱爲 row ,這說明已到行尾,調用 optRows() 方法
            if (name.equals("row")) {
                rowReader.getRows(sheetIndex,curRow,rowlist);
                rowlist.clear();
                curRow++;
                curCol = 0;
            }
        }
        
    }

    public void characters(char[] ch, int start, int length)
            throws SAXException {
        //獲得單元格內容的值
        lastContents += new String(ch, start, length);
    }
}
相關文章
相關標籤/搜索