熱線電話：13121318867

登錄
首頁精彩閱讀Python多進程分塊讀取超大文件的方法
Python多進程分塊讀取超大文件的方法
2018-02-18
收藏

Python多進程分塊讀取超大文件的方法

本文實例講述了Python多進程分塊讀取超大文件的方法。分享給大家供大家參考，具體如下：

讀取超大的文本文件，使用多進程分塊讀取，將每一塊單獨輸出成文件

# -*- coding: GBK -*-
importurlparse
importdatetime
importos
frommultiprocessingimportProcess,Queue,Array,RLock
"""
多進程分塊讀取文件
"""
WORKERS=4
BLOCKSIZE=100000000
FILE_SIZE=0
defgetFilesize(file):
  """
    獲取要讀取文件的大小
  """
  globalFILE_SIZE
  fstream=open(file,'r')
  fstream.seek(0,os.SEEK_END)
  FILE_SIZE=fstream.tell()
  fstream.close()
defprocess_found(pid,array,file,rlock):
  globalFILE_SIZE
  globalJOB
  globalPREFIX
  """
    進程處理
    Args:
      pid:進程編號
      array:進程間共享隊列，用于標記各進程所讀的文件塊結束位置
      file:所讀文件名稱
    各個進程先從array中獲取當前最大的值為起始位置startpossition
    結束的位置endpossition (startpossition+BLOCKSIZE) if (startpossition+BLOCKSIZE)<FILE_SIZE else FILE_SIZE
    if startpossition==FILE_SIZE則進程結束
    if startpossition==0則從0開始讀取
    if startpossition!=0為防止行被block截斷的情況，先讀一行不處理，從下一行開始正式處理
    if 當前位置 <=endpossition 就readline
    否則越過邊界，就從新查找array中的最大值
  """
  fstream=open(file,'r')
  whileTrue:
    rlock.acquire()
    print'pid%s'%pid,','.join([str(v)forvinarray])
    startpossition=max(array)     
    endpossition=array[pid]=(startpossition+BLOCKSIZE)if(startpossition+BLOCKSIZE)<FILE_SIZEelseFILE_SIZE
    rlock.release()
    ifstartpossition==FILE_SIZE:#end of the file
      print'pid%s end'%(pid)
      break
    elifstartpossition !=0:
      fstream.seek(startpossition)
      fstream.readline()
    pos=ss=fstream.tell()
    ostream=open('/data/download/tmp_pid'+str(pid)+'_jobs'+str(endpossition),'w')
    whilepos<endpossition:
      #處理line
      line=fstream.readline()
      ostream.write(line)
      pos=fstream.tell()
    print'pid:%s,startposition:%s,endposition:%s,pos:%s'%(pid,ss,pos,pos)
    ostream.flush()
    ostream.close()
    ee=fstream.tell()
  fstream.close()
defmain():
  globalFILE_SIZE
  printdatetime.datetime.now().strftime("%Y/%d/%m %H:%M:%S")
  file="/data/pds/download/scmcc_log/tmp_format_2011004.log"
  getFilesize(file)
  printFILE_SIZE
  rlock=RLock()
  array=Array('l',WORKERS,lock=rlock)
  threads=[]
  foriinrange(WORKERS):
    p=Process(target=process_found, args=[i,array,file,rlock])
    threads.append(p)
  foriinrange(WORKERS):
    threads[i].start()
  foriinrange(WORKERS):
    threads[i].join()
  printdatetime.datetime.now().strftime("%Y/%d/%m %H:%M:%S")
if__name__=='__main__':
  main()


CDA數據分析師考試相關入口一覽（建議收藏）：

? 想報名CDA認證考試，點擊>>>   “CDA報名” 了解CDA考試詳情；

? 想學習CDA考試教材，點擊>>> “CDA教材” 了解CDA考試詳情；

? 想加入CDA考試題庫，點擊>>> “CDA題庫” 了解CDA考試詳情；

? 想了解CDA考試含金量，點擊>>> “CDA含金量” 了解CDA考試詳情；

數據分析咨詢請掃描二維碼

若不方便掃碼，搜微信號：CDAshujufenxi

上一篇python逐行讀取文件內容的三種方法
下一篇Python按行讀取文件的簡單實現方法
數據分析師考試動態
CDA報考指南
數據分析學習
數據分析師資訊
更多

CDA教育閉環

常見問題

關于我們

CDA數據分析師公眾號

  • CDA數據分析師公眾號

CDA考試中心小程序

  • CDA考試中心服務號

CDA數據分析師App下載

  • CDA數據分析師App下載
Copyright © 2015-2021, www.ruiqisteel.com All Rights Reserved. CDA數據分析師(北京國富如荷網絡科技有限公司) 版權所有 京ICP備11001960號-9 京公網安備 11010802034615號 經營許可證編號：京B2-20210330
聯系電話：13321103290 (微信同號)

OK
客服在線
立即咨詢
日韩人妻系列无码专区视频,先锋高清无码,无码免费视欧非,国精产品一区一区三区无码
客服在線
立即咨詢