特牛生活网

舆情分析 - JD数据抓取优化_京东 舆情监控-CSDN博客

网友收藏
文章浏览阅读1.1k次。JD数据抓取优化我们期望是在文件中指定制定产品信息和表名,程序可以依据这些信息自动抓取到对应的表中。方案我们的想法是:定义config.json文件存放产品信息和表名PySpider Project文件负责定时抓取封装Operation基类负责解析网页和存储1. config.jsonconfig文件信息如下:{ "configs": [ {..._京东 舆情监控