前言pandas 的 io api 是一组顶层的 reader 函数，比如 pandas.read_csv()，会返回一个 pandas 对象。
而相应的 writer 函数是对象方法，如 dataframe.to_csv()。
注意：后面会用到 stringio，请确保导入
# python3from io import stringio# python2from stringio import stringio
1 csv 和文本文件读取文本文件的主要函数是 read_csv()
1 参数解析read_csv() 接受以下常用参数:
1.1 基础filepath_or_buffer: 变量
可以是文件路径、文件 url 或任何带有 read() 函数的对象
sep: str，默认 ,，对于 read_table 是 \t
文件分隔符，如果设置为 none，则 c 引擎无法自动检测分隔符，而 python 引擎可以通过内置的嗅探器工具自动检测分隔符。
此外，如果设置的字符长度大于 1，且不是 '\s+'，那么该字符串会被解析为正则表达式，且强制使用 python 解析引擎。
例如 '\\r\\t'，但是正则表达式容易忽略文本中的引用数据。
delimiter: str, 默认为 none
sep 的替代参数，功能一致
1.2 列、索引、名称header: int 或 list, 默认为 'infer'
用作列名的行号，默认行为是对列名进行推断：
如果未指定 names 参数其行为类似于 header=0，即从读取的第一行开始推断。
如果设置了 names，则行为与 header=none 相同。
也可以为 header 设置列表，表示多级列名。如 [0,1,3]，未指定的行（这里是 2）将会被跳过，如果 skip_blank_lines=true，则会跳过空行和注释的行。因此 header=0 并不是代表文件的第一行
names: array-like, 默认为 none
需要设置的列名列表，如果文件中不包含标题行，则应显式传递 header=none，且此列表中不允许有重复值。
index_col: int, str, sequence of int/str, false, 默认为 none
用作 dataframe 的索引的列，可以字符串名称或列索引的形式给出。如果指定了列表，则使用 multiindex
注意：index_col=false 可用于强制 pandas 不要将第一列用作索引。例如，当您的文件是每行末尾都带有一个分隔符的错误文件时。
usecols: 列表或函数, 默认为 none
只读取指定的列。如果是列表，则所有元素都必须是位置（即文件列中的整数索引）或字符串，这些字符串必须与 names 参数提供的或从文档标题行推断出的列名相对应。
列表中的顺序会被忽略，即 usecols=[0, 1] 等价于 [1, 0]
如果是可调用函数，将会根据列名计算，返回可调用函数计算为 true 的名称
in [1]: import pandas as pdin [2]: from io import stringioin [3]: data = "col1,col2,col3\na,b,1\na,b,2\nc,d,3"in [4]: pd.read_csv(stringio(data))out[4]: col1 col2 col30 a b 11 a b 22 c d 3in [5]: pd.read_csv(stringio(data), usecols=lambda x: x.upper() in ["col1", "col3"])out[5]: col1 col30 a 11 a 22 c 3
使用此参数可以大大加快解析时间并降低内存使用
squeeze: boolean, 默认为 false
如果解析的数据只包含一列，那么返回一个 series
prefix: str, 默认为 none
当没有标题时，添加到自动生成的列号的前缀，例如 'x' 表示 x0, x1...
mangle_dupe_cols: boolean, 默认为 true
重复的列将被指定为 'x','x.1'…'x.n'，而不是 'x'... 。如果在列中有重复的名称，传递 false 将导致数据被覆盖
1.3 常规解析配置dtype: 类型名或类型字典（column -> type）, 默认为 none
数据或列的数据类型。例如。 {'a'：np.float64，'b'：np.int32}
engine: {'c', 'python'}
要使用的解析器引擎。c 引擎更快，而 python 引擎目前功能更完整
converters: dict, 默认为 none
用于在某些列中对值进行转换的函数字典。键可以是整数，也可以是列名
true_values: list, 默认为 none
数据值解析为 true
false_values: list, 默认为 none
数据值解析为 false
skipinitialspace: boolean, 默认为 false
跳过分隔符之后的空格
skiprows: 整数或整数列表, 默认为 none
在文件开头要跳过的行号（索引为 0）或要跳过的行数
如果可调用函数，则对索引应用函数，如果返回 true，则应跳过该行，否则返回 false
in [6]: data = "col1,col2,col3\na,b,1\na,b,2\nc,d,3"in [7]: pd.read_csv(stringio(data))out[7]: col1 col2 col30 a b 11 a b 22 c d 3in [8]: pd.read_csv(stringio(data), skiprows=lambda x: x % 2 != 0)out[8]: col1 col2 col30 a b 2
skipfooter: int, 默认为 0
需要跳过文件末尾的行数（不支持 c 引擎）
nrows: int, 默认为 none
要读取的文件行数，对于读取大文件很有用
memory_map: boolean, 默认为 false
如果为 filepath_or_buffer 参数指定了文件路径，则将文件对象直接映射到内存中，然后直接从那里访问数据。使用此选项可以提高性能，因为不再有任何 i/o 开销
1.4 na 和缺失数据处理na_values: scalar, str, list-like, dict, 默认为 none
需要转换为 na 值的字符串
keep_default_na: boolean, 默认为 true
解析数据时是否包含默认的 nan 值。根据是否传入 na_values，其行为如下
keep_default_na=true, 且指定了 na_values, na_values 将会与默认的 nan 一起被解析
keep_default_na=true, 且未指定 na_values, 只解析默认的 nan
keep_default_na=false, 且指定了 na_values, 只解析 na_values 指定的 nan
keep_default_na=false, 且未指定 na_values, 字符串不会被解析为 nan
注意：如果 na_filter=false，那么 keep_default_na 和 na_values 参数将被忽略
na_filter: boolean, 默认为 true
检测缺失值标记（空字符串和 na_values 的值）。在没有任何 na 的数据中，设置 na_filter=false 可以提高读取大文件的性能
skip_blank_lines: boolean, 默认为 true
如果为 true，则跳过空行，而不是解释为 nan 值
1.5 日期时间处理parse_dates: 布尔值、列表或嵌套列表、字典, 默认为 false.
如果为 true -> 尝试解析索引
如果为 [1, 2, 3] -> 尝试将 1, 2, 3 列解析为分隔的日期
如果为 [[1, 3]] -> 将 1, 3 列解析为单个日期列
如果为 {'foo': [1, 3]} -> 将 1, 3 列作为日期并设置列名为 foo
infer_datetime_format: 布尔值, 默认为 false
如果设置为 true 且设置了 parse_dates，则尝试推断 datetime 格式以加快处理速度
date_parser: 函数, 默认为 none
用于将字符串序列转换为日期时间实例数组的函数。默认使用 dateutil.parser.parser 进行转换，pandas 将尝试以三种不同的方式调用 date_parser
传递一个或多个数组（parse_dates 定义的列）作为参数;
将 parse_dates 定义的列中的字符串值连接到单个数组中，并将其传递;
使用一个或多个字符串(对应于 parse_dates 定义的列)作为参数，对每一行调用 date_parser 一次。
dayfirst: 布尔值, 默认为 false
dd/mm 格式的日期
cache_dates: 布尔值, 默认为 true
如果为 true，则使用唯一的、经过转换的日期缓存来应用 datetime 转换。
在解析重复的日期字符串，特别是带有时区偏移量的日期字符串时，可能会显著提高速度。
1.6 迭代iterator: boolean, 默认为 false
返回 textfilereader 对象以进行迭代或使用 get_chunk() 来获取块
1.7 引用、压缩和文件格式compression: {'infer', 'gzip', 'bz2', 'zip', 'xz', none, dict}, 默认为 'infer'
用于对磁盘数据进行即时解压缩。如果为 "infer"，则如果 filepath_or_buffer 是文件路径且以 ".gz"，".bz2"，".zip" 或 ".xz" 结尾，则分别使用 gzip，bz2，zip 或 xz 解压，否则不进行解压缩。
如果使用 "zip"，则 zip 文件必须仅包含一个要读取的数据文件。设置为 none 表示不解压
也可以使用字典的方式，键为 method 的值从 {'zip', 'gzip', 'bz2'} 中选择。例如
compression={'method': 'gzip', 'compresslevel': 1, 'mtime': 1}
thousandsstr, 默认为 none
数值在千位的分隔符
decimal: str, 默认为 '.'
小数点
float_precision: string, 默认为 none
指定 c 引擎应该使用哪个转换器来处理浮点值。普通转换器的选项为 none，高精度转换器的选项为 high，双向转换器的选项为 round_trip。
quotechar: str (长度为 1)
用于表示被引用数据的开始和结束的字符。带引号的数据里的分隔符将被忽略
comment: str, 默认为 none
用于跳过该字符开头的行，例如，如果 comment='#'，将会跳过 # 开头的行
encoding: str, 默认为 none
设置编码格式
1.8 错误处理error_bad_linesboolean, 默认为 true
默认情况下，字段太多的行（例如，带有太多逗号的 csv 文件）会引发异常，并且不会返回任何 dataframe。
如果设置为 false，则这些坏行将会被删除
warn_bad_linesboolean, 默认为 true
如果 error_bad_lines=false 且 warn_bad_lines=true，每个坏行都会输出一个警告
2. 指定数据列的类型您可以指示整个 dataframe 或各列的数据类型
in [9]: import numpy as npin [10]: data = "a,b,c,d\n1,2,3,4\n5,6,7,8\n9,10,11"in [11]: print(data)a,b,c,d1,2,3,45,6,7,89,10,11in [12]: df = pd.read_csv(stringio(data), dtype=object)in [13]: dfout[13]: a b c d0 1 2 3 41 5 6 7 82 9 10 11 nanin [14]: df["a"][0]out[14]: '1'in [15]: df = pd.read_csv(stringio(data), dtype={"b": object, "c": np.float64, "d": "int64"})in [16]: df.dtypesout[16]: a int64b objectc float64d int64dtype: object
你可以使用 read_csv() 的 converters 参数，统一某列的数据类型
in [17]: data = "col_1\n1\n2\n'a'\n4.22"in [18]: df = pd.read_csv(stringio(data), converters={"col_1": str})in [19]: dfout[19]: col_10 11 22 'a'3 4.22in [20]: df["col_1"].apply(type).value_counts()out[20]: <class 'str'> 4name: col_1, dtype: int64
或者，您可以在读取数据后使用 to_numeric() 函数强制转换类型
in [21]: df2 = pd.read_csv(stringio(data))in [22]: df2["col_1"] = pd.to_numeric(df2["col_1"], errors="coerce")in [23]: df2out[23]: col_10 1.001 2.002 nan3 4.22in [24]: df2["col_1"].apply(type).value_counts()out[24]: <class 'float'> 4name: col_1, dtype: int64
它将所有有效的数值转换为浮点数，而将无效的解析为 nan
最后，如何处理包含混合类型的列取决于你的具体需要。在上面的例子中，如果您只想要将异常的数据转换为 nan，那么 to_numeric() 可能是您的最佳选择。
然而，如果您想要强制转换所有数据，而无论类型如何，那么使用 read_csv() 的 converters 参数会更好
注意
在某些情况下，读取包含混合类型列的异常数据将导致数据集不一致。
如果您依赖 pandas 来推断列的类型，解析引擎将继续推断数据块的类型，而不是一次推断整个数据集。
in [25]: col_1 = list(range(500000)) + ["a", "b"] + list(range(500000))in [26]: df = pd.dataframe({"col_1": col_1})in [27]: df.to_csv("foo.csv")in [28]: mixed_df = pd.read_csv("foo.csv")in [29]: mixed_df["col_1"].apply(type).value_counts()out[29]: <class 'int'> 737858<class 'str'> 262144name: col_1, dtype: int64in [30]: mixed_df["col_1"].dtypeout[30]: dtype('o')
这就导致 mixed_df 对于列的某些块包含 int 类型，而对于其他块则包含 str，这是由于读取的数据是混合类型。
以上就是python数据处理pandas中使用csv作为io工具的读写操作的详细内容。