熱線電話:13121318867

登錄
首頁精彩閱讀大數據量導出到Excel時需要注意的問題
大數據量導出到Excel時需要注意的問題
2017-11-15
收藏

大數據量導出到Excel時需要注意的問題

1、現象:問題描述
我們發現當統計的數量超大時候,在統計總量明細時,導出到Excel表格的時候就會拋出如下表格的異常
(1)內存溢出異常
javax.servlet.ServletException: Servlet execution threw an exception
com.huawei.insa2.filter.EncodingFilter.doFilter(EncodingFilter.java:67)
java.lang.OutOfMemoryError

(2)超過邊界值
jxl.write.biff.RowsExceededException: The maximum number of rows permitted on
a
worksheet been exceeded at
jxl.write.biff.WritableSheetImpl.getRowRecord(WritableSheetImpl.java:
779)
2、關鍵過程:根本原因分析
(1) 內存溢出問題,是因為一次性將大量數據載入到內存中,導致虛擬內存不足
(2) 對邊界值問題,對該現象進行分析。
private void exportSMDownData(HttpServletRequest request,
HttpServletResponse response) throws IOException
{
response.setContentType("application/vnd.ms-excel");
try
{
jxl.write.WritableWorkbook workbook =
jxl.Workbook.createWorkbook(response.getOutputStream());
jxl.write.WritableSheet sheet = workbook.createSheet("發送短
信統計", 0);
…………………………..
sheet.addCell(new jxl.write.Label(0, 0, "開始時間:"));
sheet.addCell(new jxl.write.Label(1, 0, s1));
}
看下日志拋異常的地方,在向Excel表格寫數據時,超過了Excel表格所允許的最大容量,導致異常發生
3、結論:解決方案及效果
(1) 對第一個問題:可以在系統的環境變量中加入虛擬內存即可。
(2) 對第二個問題
Int maxRowCount = 60000;//不能夠超過Excel的最大容量
for(int i=0;i<mqb.getRowCount()/maxRowCount;i++)
{

workbook.copySheet(0,"發送短信統計"+i+1,i+1);
}
。。。。。。。。。。。
if(index> maxRowCount)
{
sheet=workbook.getSheet(++currentSheetId);
index=0;
}
一個Excel頁的最大行數為65536。程序中需要加入對Excel最大容量的限制,可對每個sheet設定的顯示的最大數量,當達到設定的數量時,便更換Excel的sheel寫入(即使對Excel進行分頁)
4、經驗總結:預防措施和規范建議
該問題的出現暴露出值得關注的幾點:
(1)將大量數據加載到內存中,會使虛擬內存不足,導致程序無法運行,可以通過增加
虛擬內存來解決此問題,但不推薦此方式,建議將大量數據的操作劃分成小量數據
進行操作
(2) 需要注意Excel的行數限制,在導入文件的時候對大數據量導入進行分頁處理。

數據分析咨詢請掃描二維碼

若不方便掃碼,搜微信號:CDAshujufenxi

數據分析師資訊
更多

OK
客服在線
立即咨詢
日韩人妻系列无码专区视频,先锋高清无码,无码免费视欧非,国精产品一区一区三区无码
客服在線
立即咨詢