pandas提供了多种方法来确保列仅包含一个dtype。例如,可以使用read_csv()的converters参数:
或者,可以在读取数据后使用to_numeric()函数强进行类型转换。
可以通过指定dtype ='category'或dtype = CategoricalDtype(类别,有序)直接解析类别列。
可以使用dict指定将某列为Category类型:
指定dtype ='category'将导致无序分类,其类别是数据中观察到的唯一值。
要更好地控制类别和顺序,可以创建CategoricalDtype,然后将其传递给该列的dtype。
使用dtype = CategoricalDtype时,dtype.categories之外的“意外”值将被视为缺失值。
文件可能包含标题行,也可能没有标题行。 pandas假定第一行应用作列名:
通过指定name与header,可以重命名列以及是否丢弃标题行:
如果标题不在第一行中,则将行号传递给标题,将跳过header前面的行:
如果文件或标题包含重复的名称,默认情况下,pandas会将它们区分开,以防止覆盖数据.
usecols参数允许您使用列名,位置号或可调用的方法选择文件中列的任何子集.
如果指定了comment参数,则将忽略注释行。 默认情况下,空行也将被忽略。
如果skip_blank_lines = False,则read_csv将不会忽略空行:
警告:被忽略的行的存在可能会导致涉及行号的歧义; 参数标题使用行号(忽略注释/空行),而行首使用行号(包括注释/空行).
如果同时指定了skiprows和header,则header将相对于skiprows的末尾。 例如:
为了更好地使用日期时间数据,read_csv()使用关键字参数parse_dates和date_parser允许用户指定列的日期/时间格式,将string转换为日期时间对象。
通常,我们可能希望分别存储日期和时间数据,或分别存储各种日期字段。 parse_dates关键字可用于指定列的组合,以从中解析日期和/或时间。 您可以指定要parse_dates的列或嵌套列表,结果日期列将被添加到输出的前面(以便不影响现有的列顺序),新的列名为各列Name的连接。
默认情况下,解析器会删除组件日期列,可以选择通过keep_date_col关键字保留它们:
请注意,如果您希望将多个列合并为一个日期列,则必须使用嵌套列表。 换句话说,parse_dates = [1,2]表示第二和第三列应分别解析为单独的日期列,而parse_dates = [[1,2]]意味着应将这两列解析为单个列。
还可以使用字典来指定自定义名称列:
重要的是要记住,如果要将多个文本列解析为单个日期列,则在数据前添加一个新列。
index_col参数基于这组新列而不是原始数据列:
注意:如果列或索引包含不可解析的日期,则整个列或索引将作为对象数据类型原样返回。 对于非标准日期时间解析,请在pd.read_csv之后使用to_datetime()。
注意:read_csv具有用于解析iso8601格式的日期时间字符串的fast_path,例如“ 2000-01-01T00:01:02 + 00:00”和类似的变体。 如果可以安排数据以这种格式存储日期时间,则加载时间将明显缩短,约20倍。
最后,解析器允许您指定自定义date_parser函数,以充分利用日期解析API的灵活性:
Pandas不能原生表示具有混合时区的列或索引。 如果CSV文件包含带有时区混合的列,则默认结果将是带有字符串的object-dtype列,即使包含parse_dates。
要将混合时区值解析为datetime列,请将部分应用的to_datetime()传递给utc = True作为date_parser。
出现打不开了,如下出现两个报错:
csv文件默认的是以逗号为分隔符,但是中文中逗号的使用率很高,爬取中文数据时就容易造成混淆,所以使用pandas写入csv时可以设置参数 sep=’\t’ ,即以tab为分隔符写入。毕竟tab在中文习惯里用的很少嘛。
那这样在后面读取csv进行数据处理时,一定记得加上一个参数delimiter:
不然你把dataframe打印出来看看就是挤在一团,没有分列的,后面对csv进行处理的时候还可能会出现标题那样的错误
此时报错2解决
参考: https://blog.csdn.net/yj928674542/article/details/75634197?utm_source=blogxgwz5
但是在通过上述方法打开csv文件后,文件打开后的样子很魔鬼。delimiter参数的加入导致所有pandas 获取列表的 *** 作都不能使用,因为所有的列表标签都被解读为了名字为所有标签的组合的一个标签,即['labee1',label2','label3',...]。如下
然后,获取列表标签报错:
这个问题,花费2天也没有找到解决办法
欢迎分享,转载请注明来源:内存溢出
评论列表(0条)