json.loads(json)
把json格式的字符串转为Python数据类型
html_json = json.loads(res.text)
json.dumps(python)
把 python 类型 转为 json 类型
import json # json.dumps()之前 item = {'name':'QQ','app_id':1} print('before dumps',type(item)) # json.dumps之后 item = json.dumps(item) print('after dumps',type(item))
json.load(f)
将json文件读取,并转为python类型
import json with open('D:\\spider_test\\xiaomi.json','r') as f: data = json.load(f) print(data)
json.dump(python,f,ensure_ascii=False)
把python数据类型 转为 json格式的字符串，一般让你把抓取的数据保存为json文件时使用
参数
- python: python类型的数据(字典，列表等)
- f: 文件对象
- ensure_ascii: ensure_ascii=False # 序列化时编码
import json # 示例1 item = {'name': '金毛狮王', 'card': '屠龙刀'} with open('yt.json', 'a') as f: json.dump(item, f, ensure_ascii=False) # 示例2 item_list = [ {'name': '紫衫龙王', 'card': '123'}, {'name': '青翼蝠王', 'card': '456'} ] with open('ystlj.json', 'a') as f: json.dump(item_list, f, ensure_ascii=False)
练习: 将腾讯招聘数据存入到json文件
# 1. __init__() self.f = open('tencent.json','a') self.item_list = [] # 2. parse_page() self.item_list.append(item) # 3. main() json.dump(self.item_list,self.f,ensure_ascii=False) self.f.close()
json模块总结
爬虫用到json最多
1、数据抓取 – json.loads(html)
将响应内容由: json 转为 python
2、数据保存 – json.dump(item_list,f,ensure_ascii=False)
将抓取的数据保存到本地 json文件
抓取数据一般处理方式
- txt文件
- csv文件
- json文件
- MySQL数据库
- MongoDB数据库
- Redis数据库
版权声明：本文内容由互联网用户自发贡献，该文观点仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容， 请发送邮件至 举报，一经查实，本站将立刻删除。
文章由极客之音整理，本文链接：https://www.bmabk.com/index.php/post/159196.html
