java大数据处理-大量数据到Excel

 

在Java Web开发中，经常需要导出大量的数据到Excel，使用POI、JXL直接生成Excel，很容易就造成内存溢出了。

　　1、有一种方式，就是把数据写成csv格式文件。

　　1）csv文件可以直接用Excel打开。

　　2）写csv文件的效率和写txt文件的效率一样高。

　　3）同样的数据内容，生成的csv文件的大小远远小于生成的Excel文件。

　　从以上优点就可以看出生成csv文件消耗的内存绝对小于生成Excel文件。

　　2、按一定的格式去生成csv文件，在Excel中打开的时候就是完整的行和列格式。

　　例如：在Excel中的格式：

                                   

　　那么，在csv文件中格式就必须为：

                                  

　　就是说，列和列之间，需要用英文输入法状态下的逗号","间隔：风云第一刀,古龙。

　　3、在Struts2中导出数据到Excel，一个简单的例子。

　　CsvAction，生成csv文件，并且将生成的csv文件完整路径传递到下载Action。

 

package cn.luxh.struts2.action;

import java.io.FileWriter;
import java.io.IOException;
import java.text.SimpleDateFormat;
import java.util.ArrayList;
import java.util.Date;
import java.util.List;

import cn.luxh.struts2.entity.Novel;

import com.opensymphony.xwork2.ActionSupport;


/**
 * 导出数据到csv文件
 * @author Luxh
 */
public class CsvAction extends ActionSupport {

    private static final long serialVersionUID = -2862629695443964658L;
    
    /**
     * 包含完整路径的文件名
     * 传递给下载Action进行下载
     */
    private String fileName;
    
    
    /**
     * 导出数据
     */
    public String exportData2CSV() {
        List<Novel> novels = getNovels();
        fileName = "D:/novels.csv";
        writeData2CSV(novels,fileName);
        return SUCCESS;
        
    }
    
    /**
     * 构造一些数据
     * 实际上可能是从数据库中把大量的数据查出来
     */
    private List<Novel> getNovels() {
        List<Novel> novels = new ArrayList<Novel>();
        
        Novel novel1 = new Novel("风云第一刀","古龙",new Date());
        Novel novel2 = new Novel("书剑恩仇录","金庸",new Date());
        Novel novel3 = new Novel("陆小凤传奇","古龙",new Date());
        Novel novel4 = new Novel("鹿鼎记","金庸",new Date());
        
        novels.add(novel1);
        novels.add(novel2);
        novels.add(novel3);
        novels.add(novel4);
        
        return novels;
    }
    
    /**
     * 把数据按一定的格式写到csv文件中
     * @param novels     数据集合
     * @param fileName  csv文件完整路径
     */
    public void writeData2CSV(List<Novel> novels,String fileName) {
        FileWriter fw = null;
        try {
            fw = new FileWriter(fileName);
            //输出标题头
            //注意列之间用","间隔,写完一行需要回车换行"\r\n"
            String title = "序号,小说名称,作者,出版日期\r\n";
            fw.write(title);
            
            String content = null;
            SimpleDateFormat sdf = new SimpleDateFormat("yyyy-MM-dd");
            for(int i=0;i<novels.size();i++) {
                Novel novel = novels.get(i);
                //注意列之间用","间隔,写完一行需要回车换行"\r\n"
                content =(i+1)+","+novel.getName()+","+novel.getAuthor()+","+sdf.format(novel.getPublishDate())+"\r\n";
                fw.write(content);
            }
        }catch(Exception e) {
            e.printStackTrace();
            throw new RuntimeException(e);
        }finally {
            try {
                if(fw!=null) {
                    fw.close();
                }
            } catch (IOException e) {
                e.printStackTrace();
            }
        }
    }

}

 

 配置文件：

 

<!--将csv文件路径传递到公共的下载Action进行下载  -->
         <action name="exportData2CSV" class="cn.luxh.struts2.action.CsvAction" method="exportData2CSV">
            <result type="redirectAction">
                <param name="actionName">download</param>
                <param name="nameSpace">/download</param>
                <!--附件的完整路径 ,传递给下载Action -->
                <param name="fileName">${fileName}</param>
            </result>
        </action>

 　4、看一下同样的数据内容，csv文件和Excel文件的大小对比：　

                                        

 

 

 

 

评论

12 楼 renzhen 2012-07-11  

原来我们有一个系统导出也用csv，其他的没有什么，只是excel默认打开编码为gbk的csv，其他编码显示乱码。这样导出的csv就不能包含如日文等特殊字符，还有如果对方的电脑是繁体版的，gbk编码的csv在他们的excel中会显示乱码。后来只好改用xlsx。

11 楼 tuyuan 2012-07-11  

devroller2 写道

有没有考虑数据量达到50w的情况？

我自己写了一个工具，excel单sheet  支持多大的数据量， 就能导出多少数据。 测试速度非常快。

10 楼 w156445045 2012-07-10  

我一般用BCP~

9 楼 devroller2 2012-07-10  

有没有考虑数据量达到50w的情况？

8 楼 liulijun.cn.2011 2012-07-10  

doudou586 写道

单元格的内容中如有逗号存在时，会造成EXCEL打开后错列。。。需处理。

标准的CSV格式应该是这个样子：
"xxx","xxx","xxxx","xxxxxx"
也就是每个值都在""中央，这样是不会出现因为,打开错列的现象。
特别对日外包中大量使用CSV文件导出数据，很少很少有使用楼主这种只使用,而不使用双引号的。

7 楼 liulijun.cn.2011 2012-07-10  

wjch_111 写道

doudou586 写道

单元格的内容中如有逗号存在时，会造成EXCEL打开后错列。。。需处理。

确实。

标准的CSV格式应该是这个样子：
"xxx","xxx","xxxx","xxxxxx"
也就是每个值都在""中央，这样是不会出现因为,打开错列的现象。
特别对日外包中大量使用CSV文件导出数据，很少很少有使用楼主这种只使用,而不使用双引号的。

6 楼 wjch_111 2012-07-10  

doudou586 写道

单元格的内容中如有逗号存在时，会造成EXCEL打开后错列。。。需处理。

确实。

5 楼 wjch_111 2012-07-10  

archy123 写道

复杂表头的可以实现吗？

+1同问

4 楼 Dead_knight 2012-07-10  

我总觉得大数据量的导出，需要对表格美观、导出性能有所取舍。如果是数据统计，在美观上有要求是正常的。既然是大数据量导出，至少也是万级别以上的，没必要那么美观。

3 楼 jade_phenix 2012-07-10  

纯文本输入的话还可以用ooxml格式的xml文本来显示带格式的大量记录输出。

如果要减少内在占用的话，可以每100条记录输出一次

2 楼 doudou586 2012-07-10  

单元格的内容中如有逗号存在时，会造成EXCEL打开后错列。。。需处理。

1 楼 archy123 2012-07-10  

复杂表头的可以实现吗？