python pandas 中文件的讀寫——read_csv（）讀取文件

read_csv()讀取文件
1.python讀取文件的幾種方式
read_csv 從文件，url，文件型對象中加載帶分隔符的數據。默認分隔符爲逗號
read_table 從文件，url，文件型對象中加載帶分隔符的數據。默認分隔符爲製表符（「\t」）
read_fwf 讀取定寬列格式數據（也就是沒有分隔符）
read_cliboard 讀取剪切板中的數據，能夠看作read_table的剪切板。在將網頁轉換爲表格時頗有用
2.讀取文件的簡單實現
程序代碼：

df=pd.read_csv('D:/project/python_instruct/test_data1.csv')
print('用read_csv讀取的csv文件：', df)
df=pd.read_table('D:/project/python_instruct/test_data1.csv', sep=',')
print('用read_table讀取csv文件：', df)
df=pd.read_csv('D:/project/python_instruct/test_data2.csv', header=None)
print('用read_csv讀取無標題行的csv文件：', df)
df=pd.read_csv('D:/project/python_instruct/test_data2.csv', names=['a', 'b', 'c', 'd', 'message'])
print('用read_csv讀取自定義標題行的csv文件：', df)
names=['a', 'b', 'c', 'd', 'message']
df=pd.read_csv('D:/project/python_instruct/test_data2.csv', names=names, index_col='message')
print('read_csv讀取時指定索引：', df)
parsed=pd.read_csv('D:/project/python_instruct/test_data3.csv', index_col=['key1', 'key2'])
print('read_csv將多個列作成一個層次化索引：')
print(parsed)
print(list(open('D:/project/python_instruct/test_data1.txt')))
result=pd.read_table('D:/project/python_instruct/test_data1.txt', sep='\s+')
print('read_table利用正則表達式處理文件讀取：')
print(result)
 

輸出結果：

用read_csv讀取的csv文件： a b c d message
0 1 2 3 4 hello
1 5 6 7 8 world
2 9 10 11 12 foo
用read_table讀取csv文件： a b c d message
0 1 2 3 4 hello
1 5 6 7 8 world
2 9 10 11 12 foo
用read_csv讀取無標題行的csv文件： 0 1 2 3 4
0 1 2 3 4 hello
1 5 6 7 8 world
2 9 10 11 12 foo
用read_csv讀取自定義標題行的csv文件： a b c d message
0 1 2 3 4 hello
1 5 6 7 8 world
2 9 10 11 12 foo
read_csv讀取時指定索引： a b c d
message
hello 1 2 3 4
world 5 6 7 8
foo 9 10 11 12
read_csv將多個列作成一個層次化索引：
value1 value2
key1 key2
one a 1 2
b 3 4
c 5 6
d 7 8
two a 9 10
b 11 12
c 13 14
d 15 16
[' A B C \n', 'aaa -0.26 -0.1 -0.4\n', 'bbb -0.92 -0.4 -0.7\n', 'ccc -0.34 -0.5 -0.8\n', 'ddd -0.78 -0.3 -0.2']
read_table利用正則表達式處理文件讀取：
A B C
aaa -0.26 -0.1 -0.4
bbb -0.92 -0.4 -0.7
ccc -0.34 -0.5 -0.8
ddd -0.78 -0.3 -0.2
 

3分塊讀取大型數據集
先看代碼：

reslt=pd.read_csv('D:\project\python_instruct\weibo_network.txt')
print('原始文件：', result)
 

輸出：

Traceback (most recent call last):

File "<ipython-input-5-6eb71b2a5e94>", line 1, in <module>
runfile('D:/project/python_instruct/Test.py', wdir='D:/project/python_instruct')
File "D:\Anaconda3\lib\site-packages\spyder\utils\site\sitecustomize.py", line 866, in runfile
execfile(filename, namespace)
File "D:\Anaconda3\lib\site-packages\spyder\utils\site\sitecustomize.py", line 102, in execfile
exec(compile(f.read(), filename, 'exec'), namespace)
File "D:/project/python_instruct/Test.py", line 75, in <module>
reslt=pd.read_csv('D:\project\python_instruct\weibo_network.txt')
File "D:\Anaconda3\lib\site-packages\pandas\io\parsers.py", line 562, in parser_f
return _read(filepath_or_buffer, kwds)
File "D:\Anaconda3\lib\site-packages\pandas\io\parsers.py", line 325, in _read
return parser.read()
File "D:\Anaconda3\lib\site-packages\pandas\io\parsers.py", line 815, in read
ret = self._engine.read(nrows)
File "D:\Anaconda3\lib\site-packages\pandas\io\parsers.py", line 1314, in read
data = self._reader.read(nrows)
File "pandas\parser.pyx", line 805, in pandas.parser.TextReader.read (pandas\parser.c:8748)
File "pandas\parser.pyx", line 827, in pandas.parser.TextReader._read_low_memory (pandas\parser.c:9003)
File "pandas\parser.pyx", line 881, in pandas.parser.TextReader._read_rows (pandas\parser.c:9731)
File "pandas\parser.pyx", line 868, in pandas.parser.TextReader._tokenize_rows (pandas\parser.c:9602)
File "pandas\parser.pyx", line 1865, in pandas.parser.raise_parser_error (pandas\parser.c:23325)
CParserError: Error tokenizing data. C error: out of memory
 

發現數據集大得已經超出內存。咱們能夠讀取幾行看看，如前10行：

result=pd.read_csv('D:\project\python_instruct\weibo_network.txt', nrows=10)
print('只讀取幾行：')
print(result)
 

 

輸出結果：

1787443\t413503687
0 0\t296\t3\t1\t10\t1\t12\t1\t13\t1\t14\t1\t16\t...
1 1\t271\t8\t1\t17\t1\t22\t1\t31\t0\t34\t1\t6742...
2 2\t158\t0\t0\t5\t1\t10\t1\t11\t1\t13\t1\t16\t0...
3 3\t413\t0\t1\t5\t1\t194\t1\t354\t1\t3462\t1\t8...
4 4\t142\t1\t0\t5\t1\t7\t1\t11\t1\t14\t1\t18\t1\...
5 5\t272\t2\t1\t3\t1\t4\t1\t12\t1\t13\t1\t14\t1\...
6 6\t59\t9\t1\t13\t1\t46991\t0\t66930\t0\t85672\...
7 7\t131\t4\t1\t11\t1\t20\t1\t24\t1\t26\t0\t30\t...
8 8\t326\t0\t0\t1\t1\t12\t1\t13\t1\t17\t1\t19\t1...
9 9\t12\t0\t0\t6\t1\t10\t1\t13\t1\t18\t0\t466527...

python pandas.read_csv參數詳解

filepath_or_buffer : str，pathlib。str, pathlib.Path, py._path.local.LocalPath or any object with a read() method (such as a file handle or StringIO) 
能夠是URL，可用URL類型包括：http, ftp, s3和文件。對於多文件正在準備中 
本地文件讀取實例：://localhost/path/to/table.csv

sep : str, default ‘,’ 
指定分隔符。若是不指定參數，則會嘗試使用逗號分隔。分隔符長於一個字符而且不是‘\s+’,將使用Python的語法分析器。而且忽略數據中的逗號。正則表達式例子：’\r\t’

delimiter : str, default None 
定界符，備選分隔符（若是指定該參數，則sep參數失效）

delim_whitespace : boolean, default False. 
指定空格(例如’ ‘或者’ ‘)是否做爲分隔符使用，等效於設定sep=’\s+’。若是這個參數設定爲Ture那麼delimiter 參數失效。 
在新版本0.18.1支持

header : int or list of ints, default ‘infer’ 
指定行數用來做爲列名，數據開始行數。若是文件中沒有列名，則默認爲0，不然設置爲None。若是明確設定header=0 就會替換掉原來存在列名。header參數能夠是一個list例如：[0,1,3]，這個list表示將文件中的這些行做爲列標題（意味着每一列有多個標題），介於中間的行將被忽略掉（例如本例中的2；本例中的數據1,2,4行將被做爲多級標題出現，第3行數據將被丟棄，dataframe的數據從第5行開始。）。 
注意：若是skip_blank_lines=True 那麼header參數忽略註釋行和空行，因此header=0表示第一行數據而不是文件的第一行。

names : array-like, default None 
用於結果的列名列表，若是數據文件中沒有列標題行，就須要執行header=None。默認列表中不能出現重複，除非設定參數mangle_dupe_cols=True。

index_col : int or sequence or False, default None 
用做行索引的列編號或者列名，若是給定一個序列則有多個行索引。 
若是文件不規則，行尾有分隔符，則能夠設定index_col=False 來是的pandas不適用第一列做爲行索引。

usecols : array-like, default None 
返回一個數據子集，該列表中的值必須能夠對應到文件中的位置（數字能夠對應到指定的列）或者是字符傳爲文件中的列名。例如：usecols有效參數多是 [0,1,2]或者是 [‘foo’, ‘bar’, ‘baz’]。使用這個參數能夠加快加載速度並下降內存消耗。

as_recarray : boolean, default False 
不同意使用：該參數會在將來版本移除。請使用pd.read_csv(…).to_records()替代。 
返回一個Numpy的recarray來替代DataFrame。若是該參數設定爲True。將會優先squeeze參數使用。而且行索引將再也不可用，索引列也將被忽略。

squeeze : boolean, default False 
若是文件值包含一列，則返回一個Series

prefix : str, default None 
在沒有列標題時，給列添加前綴。例如：添加‘X’ 成爲 X0, X1, …

mangle_dupe_cols : boolean, default True 
重複的列，將‘X’…’X’表示爲‘X.0’…’X.N’。若是設定爲false則會將全部重名列覆蓋。

dtype : Type name or dict of column -> type, default None 
每列數據的數據類型。例如 {‘a’: np.float64, ‘b’: np.int32}

engine : {‘c’, ‘python’}, optional 
Parser engine to use. The C engine is faster while the python engine is currently more feature-complete. 
使用的分析引擎。能夠選擇C或者是python。C引擎快可是Python引擎功能更加完備。

converters : dict, default None 
列轉換函數的字典。key能夠是列名或者列的序號。

true_values : list, default None 
Values to consider as True

false_values : list, default None 
Values to consider as False

skipinitialspace : boolean, default False 
忽略分隔符後的空白（默認爲False，即不忽略）.

skiprows : list-like or integer, default None 
須要忽略的行數（從文件開始處算起），或須要跳過的行號列表（從0開始）。

skipfooter : int, default 0 
從文件尾部開始忽略。 (c引擎不支持)

skip_footer : int, default 0 
不推薦使用：建議使用skipfooter ，功能同樣。

nrows : int, default None 
須要讀取的行數（從文件頭開始算起）。

na_values : scalar, str, list-like, or dict, default None 
一組用於替換NA/NaN的值。若是傳參，須要制定特定列的空值。默認爲‘1.#IND’, ‘1.#QNAN’, ‘N/A’, ‘NA’, ‘NULL’, ‘NaN’, ‘nan’`.

keep_default_na : bool, default True 
若是指定na_values參數，而且keep_default_na=False，那麼默認的NaN將被覆蓋，不然添加。

na_filter : boolean, default True 
是否檢查丟失值（空字符串或者是空值）。對於大文件來講數據集中沒有空值，設定na_filter=False能夠提高讀取速度。

verbose : boolean, default False 
是否打印各類解析器的輸出信息，例如：「非數值列中缺失值的數量」等。

skip_blank_lines : boolean, default True 
若是爲True，則跳過空行；不然記爲NaN。

parse_dates : boolean or list of ints or names or list of lists or dict, default False 
boolean. True -> 解析索引 
list of ints or names. e.g. If [1, 2, 3] -> 解析1,2,3列的值做爲獨立的日期列； 
list of lists. e.g. If [[1, 3]] -> 合併1,3列做爲一個日期列使用 
dict, e.g. {‘foo’ : [1, 3]} -> 將1,3列合併，並給合併後的列起名爲」foo」

infer_datetime_format : boolean, default False 
若是設定爲True而且parse_dates 可用，那麼pandas將嘗試轉換爲日期類型，若是能夠轉換，轉換方法並解析。在某些狀況下會快5~10倍。

keep_date_col : boolean, default False 
若是鏈接多列解析日期，則保持參與鏈接的列。默認爲False。

date_parser : function, default None 
用於解析日期的函數，默認使用dateutil.parser.parser來作轉換。Pandas嘗試使用三種不一樣的方式解析，若是遇到問題則使用下一種方式。 
1.使用一個或者多個arrays（由parse_dates指定）做爲參數； 
2.鏈接指定多列字符串做爲一個列做爲參數； 
3.每行調用一次date_parser函數來解析一個或者多個字符串（由parse_dates指定）做爲參數。

dayfirst : boolean, default False 
DD/MM格式的日期類型

iterator : boolean, default False 
返回一個TextFileReader 對象，以便逐塊處理文件。

chunksize : int, default None 
文件塊的大小， See IO Tools docs for more informationon iterator and chunksize.

compression : {‘infer’, ‘gzip’, ‘bz2’, ‘zip’, ‘xz’, None}, default ‘infer’ 
直接使用磁盤上的壓縮文件。若是使用infer參數，則使用 gzip, bz2, zip或者解壓文件名中以‘.gz’, ‘.bz2’, ‘.zip’, or ‘xz’這些爲後綴的文件，不然不解壓。若是使用zip，那麼ZIP包中國必須只包含一個文件。設置爲None則不解壓。 
新版本0.18.1版本支持zip和xz解壓

thousands : str, default None 
千分位分割符，如「，」或者「.」

decimal : str, default ‘.’ 
字符中的小數點 (例如：歐洲數據使用’，‘).

float_precision : string, default None 
Specifies which converter the C engine should use for floating-point values. The options are None for the ordinary converter, high for the high-precision converter, and round_trip for the round-trip converter. 
指定

lineterminator : str (length 1), default None 
行分割符，只在C解析器下使用。

quotechar : str (length 1), optional 
引號，用做標識開始和解釋的字符，引號內的分割符將被忽略。

quoting : int or csv.QUOTE_* instance, default 0 
控制csv中的引號常量。可選 QUOTE_MINIMAL (0), QUOTE_ALL (1), QUOTE_NONNUMERIC (2) or QUOTE_NONE (3)

doublequote : boolean, default True 
雙引號，當單引號已經被定義，而且quoting 參數不是QUOTE_NONE的時候，使用雙引號表示引號內的元素做爲一個元素使用。

escapechar : str (length 1), default None 
當quoting 爲QUOTE_NONE時，指定一個字符使的不受分隔符限值。

comment : str, default None 
標識着多餘的行不被解析。若是該字符出如今行首，這一行將被所有忽略。這個參數只能是一個字符，空行（就像skip_blank_lines=True）註釋行被header和skiprows忽略同樣。例如若是指定comment=’#’ 解析‘#empty\na,b,c\n1,2,3’ 以header=0 那麼返回結果將是以’a,b,c’做爲header。

encoding : str, default None 
指定字符集類型，一般指定爲’utf-8’. List of Python standard encodings

dialect : str or csv.Dialect instance, default None 
若是沒有指定特定的語言，若是sep大於一個字符則忽略。具體查看csv.Dialect 文檔

tupleize_cols : boolean, default False 
Leave a list of tuples on columns as is (default is to convert to a Multi Index on the columns)

error_bad_lines : boolean, default True 
若是一行包含太多的列，那麼默認不會返回DataFrame ，若是設置成false，那麼會將改行剔除（只能在C解析器下使用）。

warn_bad_lines : boolean, default True 
若是error_bad_lines =False，而且warn_bad_lines =True 那麼全部的「bad lines」將會被輸出（只能在C解析器下使用）。

low_memory : boolean, default True 
分塊加載到內存，再低內存消耗中解析。可是可能出現類型混淆。確保類型不被混淆須要設置爲False。或者使用dtype 參數指定類型。注意使用chunksize 或者iterator 參數分塊讀入會將整個文件讀入到一個Dataframe，而忽略類型（只能在C解析器中有效）

buffer_lines : int, default None 
不推薦使用，這個參數將會在將來版本移除，由於他的值在解析器中不推薦使用

compact_ints : boolean, default False 
不推薦使用，這個參數將會在將來版本移除 
若是設置compact_ints=True ，那麼任何有整數類型構成的列將被按照最小的整數類型存儲，是否有符號將取決於use_unsigned 參數

use_unsigned : boolean, default False 不推薦使用：這個參數將會在將來版本移除 若是整數列被壓縮(i.e. compact_ints=True)，指定被壓縮的列是有符號仍是無符號的。 memory_map : boolean, default False 若是使用的文件在內存內，那麼直接map文件使用。使用這種方式能夠避免文件再次進行IO操做。原文：https://blog.csdn.net/qq_24084925/article/details/79608684