Json文件因其简洁精炼,在网上特别流行,我们写爬虫时经常碰到网站使用Json格式传输数据。但是如果要存储的数据有1G,那么读取一个Json文件需要一次性读入,这需要占用很大的内存,对电脑压力过大。所以我们需要将数据存储为很多个对象,通过逐行读取方式减轻内存占用压力。所以今天就讲到Jsonlines这个库,希望大家能有所收获。
Jsonlines
每一行都是一个Json或python对象 采用utf-8编码Jsonlines库的特性
便捷的open()功能
易于写入 传入文件名和写入方式mode 返回Reader或Writer实例 能被用做上下文管理器安装
pip install Jsonlines
使用方法
Jsonlines可以保存python的各种数据类型对象,如列表、字典、数字、元组、集合等等。
例如以python字典类型逐行写入到Jsonl文件里
加群:960410445 一起学习一起交流!
import Jsonlineswith Jsonlines.open('data.Jsonl',mode='w') as writer: writer.write({'a':5}) writer.write({'a':6}) writer.write({'a':7})
发现当前工作路径下已经生成了一个Jsonl文件。
以逐行的方式读取Jsonl文件里的多个字典
with Jsonlines.open('data.Jsonl',mode='r') as reader: for row in reader: print(type(row),row)
运行
总结{'a': 5} {'a': 6} {'a': 7}
以上是内存溢出为你收集整理的高效率地保存多个 Python 对象!你学会了吗?全部内容,希望文章能够帮你解决高效率地保存多个 Python 对象!你学会了吗?所遇到的程序开发问题。
如果觉得内存溢出网站内容还不错,欢迎将内存溢出网站推荐给程序员好友。
欢迎分享,转载请注明来源:内存溢出
评论列表(0条)