为什么不使用项目管道?
WriteToCsv.py
import csv from YOUR_PROJECT_NAME_HERE import settings def write_to_csv(item): writer = csv.writer(open(settings.csv_file_path, 'a'), lineterminator='n') writer.writerow([item[key] for key in item.keys()]) class WriteToCsv(object): def process_item(self, item, spider): write_to_csv(item) return item
settings.py
ITEM_PIPELINES = { 'project.pipelines_path.WriteToCsv.WriteToCsv' : A_NUMBER_HIGHER_THAN_ALL_OTHER_PIPELINES} csv_file_path = PATH_TO_CSV
如果您希望将项目分别写入单独的csv以获取单独的蜘蛛,则可以为蜘蛛指定CSV_PATH字段。然后,在管道中使用Spiders字段,而不是setttigs的路径。
欢迎分享,转载请注明来源:内存溢出
评论列表(0条)