从scrapy导出csv文件(不通过命令行)

从scrapy导出csv文件(不通过命令行),第1张

从scrapy导出csv文件(不通过命令行)

为什么不使用项目管道?

WriteToCsv.py

   import csv   from YOUR_PROJECT_NAME_HERE import settings   def write_to_csv(item):       writer = csv.writer(open(settings.csv_file_path, 'a'), lineterminator='n')       writer.writerow([item[key] for key in item.keys()])   class WriteToCsv(object):        def process_item(self, item, spider): write_to_csv(item) return item

settings.py

   ITEM_PIPELINES = { 'project.pipelines_path.WriteToCsv.WriteToCsv' : A_NUMBER_HIGHER_THAN_ALL_OTHER_PIPELINES}   csv_file_path = PATH_TO_CSV

如果您希望将项目分别写入单独的csv以获取单独的蜘蛛,则可以为蜘蛛指定CSV_PATH字段。然后,在管道中使用Spiders字段,而不是setttigs的路径。



欢迎分享,转载请注明来源:内存溢出

原文地址: http://outofmemory.cn/zaji/4925129.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2022-11-12
下一篇 2022-11-12

发表评论

登录后才能评论

评论列表(0条)

保存