八爪鱼·云采集服务平台
www.bazhuayu.com
京东商品爬虫实现方法
八爪鱼采集器通过自研的爬虫引擎,轻松采集京东商品最新信息,一手掌握京东商品价格、销量动态。简单操作,批量抓取,高效爬虫。
本文介绍采集使用八爪鱼7.0采集京东商品数据的方法(以京东图书类商品页为例)
采集网站:
https://list.jd.com/list.html?cat=1713,3258,3304&page=1&sort=sort_totalsales15_desc&trans=1&JL=4_2_0#J_main
使用功能点: ? 分页列表内容提取
步骤1:创建采集任务
1)进入主界面选择,选择自定义模式
八爪鱼·云采集服务平台
www.bazhuayu.com
京东商品爬虫实现方法图1
2)将上面网址的网址复制粘贴到网站输入框中,点击“保存网址”
京东商品爬虫实现方法图2
八爪鱼·云采集服务平台
www.bazhuayu.com
3)保存网址后,页面将在八爪鱼采集器中打开,红色方框中的图书数据是这次演示采集的信息
京东商品爬虫实现方法图3
步骤2:创建翻页循环
? 找到翻页按钮,设置翻页循环
1)将页面下拉到底部,找到下一页按钮,鼠标点击,在右侧操作提示框中, 选择“循环点击下一页”
八爪鱼·云采集服务平台
www.bazhuayu.com
京东商品爬虫实现方法图4
步骤3:图书信息采集
? 选中需要采集的字段信息,创建采集列表 ? 编辑采集字段名称
1)如图,移动鼠标选中列表中图书的名称,右键点击,需采集的内容会变成绿色
八爪鱼·云采集服务平台
www.bazhuayu.com
京东商品爬虫实现方法图5
注意:点击右上角的“流程”按钮,即可展现出可视化流程图。
2)移动鼠标选中红色方框里任意文本字段后,列表中所有适配内容会变成绿色,在右侧操作提示框中,查看提取的字段,可以将不需要的字段删除,然后点击“选中全部”
八爪鱼·云采集服务平台
www.bazhuayu.com
京东商品爬虫实现方法图6
注意: 鼠标放在该字段上会出现一个删除标识,点击即可删除该字段。
京东商品爬虫实现方法图7
八爪鱼·云采集服务平台
www.bazhuayu.com
3)点击“采集以下数据”
京东商品爬虫实现方法图8
4)修改采集字段名称
京东商品爬虫实现方法图9
5)点击下方红色方框中的“保存并开始采集”
八爪鱼·云采集服务平台
www.bazhuayu.com
京东商品爬虫实现方法图10
6)根据采集的情况选择合适的采集方式,这里选择“启动本地采集”
京东商品爬虫实现方法图11
八爪鱼·云采集服务平台
www.bazhuayu.com
说明:本地采集占用当前电脑资源进行采集,如果存在采集时间要求或当前电脑无法长时间进行采集可以使用云采集功能,云采集在网络中进行采集,无需当前电脑支持,电脑可以关机,可以设置多个云节点分摊任务,10个节点相当于10台电脑分配任务帮你采集,速度降低为原来的十分之一;采集到的数据可以在云上保存三个月,可以随时进行导出操作。
步骤4:数据采集及导出
1)采集完成后,会跳出提示,选择导出数据
京东商品爬虫实现方法图12
2)选择合适的导出方式,将采集好的数据导出
八爪鱼·云采集服务平台
www.bazhuayu.com
京东商品爬虫实现方法图13
相关采集教程:
八爪鱼提取数据备用位置用法,以京东商铺采集为例 http://www.bazhuayu.com/tutorial/bxwz_7 京东商品爬虫实现(以京东图书类商品页为例) http://www.bazhuayu.com/tutorial/jdsp_7 京东商品图片采集详细教程
http://www.bazhuayu.com/tutorial/jdpiccj 京东商品评价信息采集
http://www.bazhuayu.com/tutorial/jdpl_7 京东列表页信息采集教程
http://www.bazhuayu.com/tutorial/jdlistxxcj
八爪鱼·云采集服务平台
www.bazhuayu.com
京东商品评论采集方法 http://www.bazhuayu.com/tutorial/jdsppljyms 京东商品爬虫实现(通过搜索关键词) http://www.bazhuayu.com/tutorial/jdspsscj 京东采集器 http://www.bazhuayu.com/tutorial/jdjyzjs-7 京东商品列表采集 http://www.bazhuayu.com/tutorial/video-jd
八爪鱼——百万用户选择的网页数据采集器。
1、操作简单,任何人都可以用:无需技术背景,会上网就能采集。完全可视化流程,点击鼠标完成操作,2分钟即可快速入门。
2、功能强大,任何网站都可以采:对于点击、登陆、翻页、识别验证码、瀑布流、Ajax脚本异步加载数据的网页,均可经过简单设置进行采集。
3、云采集,关机也可以。配置好采集任务后可关机,任务可在云端执行。庞大云采集集群24*7不间断运行,不用担心IP被封,网络中断。
4、功能免费+增值服务,可按需选择。免费版具备所有功能,能够满足用户的基本采集需求。同时设置了一些增值服务(如私有云),满足高端付费企业用户的需要。
相关推荐: