Python 等分切分數據及規則命名

將一份一億多條數據的csv文件等分爲10份,代碼以下所示:

import pandas as pd
data = pd.read_csv('C:\\Users\\PycharmProjects\\SplitData\\data\\UserBehavior.csv') # 路徑則根據我的存放項目文件的習慣
num = 0
for i in range(1, 11):
start = num
num = num + int(data.shape[0] / 10)
file = data.iloc[start:num,]
file.to_csv("C:\\Users\\PycharmProjects\\SplitData\\newData\\" + str(i) + "_data.csv", index=False) # index=False是不想切分後的文件出現序號

注意:若是此時文件的路徑包含有中文,則必須改爲如下的代碼:

import pandas as pd
f = open('C:\\Users\\PycharmProjects\\數據切分\\data\\UserBehavior.csv')
data = pd.read_csv(f)
num = 0
for i in range(1, 11):
start = num
num = num + int(data.shape[0] / 10)
file = data.iloc[start:num,]
file.to_csv("C:\\Users\\PycharmProjects\\SplitData\\newData\\" + str(i) + "_data.csv", index=False)
可是使用這種方法調用文件進內存,加劇了內存的負擔,兩次賦值至關於內存佔用乘2,此方法不建議使用,仍是將路徑改成英文名。
相關文章
相關標籤/搜索