八爪鱼·云采集网络爬虫软件
www.bazhuayu.com
1688数据采集方法
目前电商网站采集需求特别大,本文介绍使用八爪鱼采集1688-某店铺全部商品信息的方法。 采集网站:
https://hooozen.1688.com/page/offerlist_63753737.htm?spm=a2615.2177701.0.0.35688ae8LEOoIT示例规则
使用功能点:
? 分页列表信息采集
http://www.bazhuayu.com/tutorial/fylb-70.aspx?t=1 ? Xpath
http://www.bazhuayu.com/search?query=XPath ? AJAX点击和翻页
八爪鱼·云采集网络爬虫软件
www.bazhuayu.com
http://www.bazhuayu.com/tutorial/ajaxdjfy_7.aspx?t=1
步骤1:创建采集任务
1)进入主界面,选择“自定义模式”
采集1688店铺的全部商品信息图1
2)将要采集的网址复制粘贴到网站输入框中,点击“保存网址”
八爪鱼·云采集网络爬虫软件
www.bazhuayu.com
采集1688店铺的全部商品信息图2
步骤2:创建翻页循环
1)在页面右上角,打开“流程”,以展现出“流程设计器”和“定制当前操作”两个板块。将页面下拉到底部,点击“下一页”按钮,在右侧的操作提示框中,选择“循环点击下一页”,以建立一个翻页循环
八爪鱼·云采集网络爬虫软件
www.bazhuayu.com
采集1688店铺的全部商品信息图3
步骤3:创建列表循环并提取数据
1)移动鼠标,选中页面里的第一条商品信息的区块。系统会识别此区块中的子元素,在操作提示框中,选择“选中子元素”
八爪鱼·云采集网络爬虫软件
www.bazhuayu.com
采集1688店铺的全部商品信息图4
2)系统会自动识别出页面中的其他同类元素,在操作提示框中,选择“选中全部”,以建立一个列表循环
八爪鱼·云采集网络爬虫软件
www.bazhuayu.com
采集1688店铺的全部商品信息图5
3)我们可以看到,页面中企业信息区块里的所有元素均被选中,变为绿色。右侧操作提示框中,出现字段预览表,将鼠标移到表头,点击垃圾桶图标,可删除不需要的字段。字段选择完成后,选择“采集以下数据”
八爪鱼·云采集网络爬虫软件
www.bazhuayu.com
采集1688店铺的全部商品信息图6
4)字段选择完成后,选中相应的字段,可以进行字段的自定义命名
八爪鱼·云采集网络爬虫软件
www.bazhuayu.com
采集1688店铺的全部商品信息图7
步骤4:修改Xpath
1)我们继续观察,在“列表循环”步骤中,我们要建立的是整个页面18个商品链接的循环。选中整个“循环步骤”,打开“高级选项”,不固定元素列表中的这条Xpath:
//DIV[@id='wp-all-offer-tab']/DIV[1]/DIV[2]/DIV[1]/DIV[1]/DIV[1]/UL[1]/LI,对应的只有3个循环项。将此条Xpath,复制粘贴到火狐浏览器中的相应位置
八爪鱼·云采集网络爬虫软件
www.bazhuayu.com
采集1688店铺的全部商品信息图8
Xpath:是一种路径查询语言,简单的说就是利用一个路径表达式找到我们需要的数据位置。
Xpath是用于XML中沿着路径查找数据用的,但是八爪鱼采集器内部有一套针对HTML的Xpath引擎,使得直接用XPATH就能精准的查找定位网页里面的数据。
2)在火狐浏览器中,我们发现,通过这条Xpath:
八爪鱼·云采集网络爬虫软件
www.bazhuayu.com
//DIV[@id='wp-all-offer-tab']/DIV[1]/DIV[2]/DIV[1]/DIV[1]/DIV[1]/UL[1]/LI,页面中被定位的是3个商品信息区块。而我们需要的是,本页中18个商品信息区块,均被选中
采集1688店铺的全部商品信息图9
3)将Xpath修改为:
//DIV[@id='wp-all-offer-tab']/DIV[1]/DIV[2]/DIV[1]/DIV[1]/DIV[1]/UL/LI,我们发现页面中所有要采集的18个商品信息区块,均被选中了
八爪鱼·云采集网络爬虫软件
www.bazhuayu.com
采集1688店铺的全部商品信息图10
4)将修改后的Xpath:
//DIV[@id='wp-all-offer-tab']/DIV[1]/DIV[2]/DIV[1]/DIV[1]/DIV[1]/UL/LI,复制粘贴到图片中所示的位置,然后点击“确定”
八爪鱼·云采集网络爬虫软件
www.bazhuayu.com
采集1688店铺的全部商品信息图11
5)点击左上角的“保存并启动”,选择“启动本地采集”
八爪鱼·云采集网络爬虫软件
www.bazhuayu.com
采集1688店铺的全部商品信息图12
步骤4:数据采集及导出
1)采集完成后,会跳出提示,选择“导出数据”。选择“合适的导出方式”,将采集好的数据导出
八爪鱼·云采集网络爬虫软件
www.bazhuayu.com
采集1688店铺的全部商品信息图13
2)这里我们选择excel作为导出为格式,数据导出后如下图
采集1688店铺的全部商品信息图14
八爪鱼·云采集网络爬虫软件
www.bazhuayu.com
相关采集教程 淘宝卖家信息采集
http://www.bazhuayu.com/tutorial/tbmjinfocj 饿了么商家信息采集
http://www.bazhuayu.com/tutorial/elmsjinfocj 新浪博客文章采集
http://www.bazhuayu.com/tutorial/sinablogcj uc头条文章采集
http://www.bazhuayu.com/tutorial/ucnewscj 百家号爆文采集
http://www.bazhuayu.com/tutorial/bjharticlecj 词库网关键词采集
http://www.bazhuayu.com/tutorial/cikucrawl 爱站关键词采集
http://www.bazhuayu.com/tutorial/azkeywordcj 个人房源采集网站以及方法
http://www.bazhuayu.com/tutorial/grfangyuancj 自媒体文章怎么采集
http://www.bazhuayu.com/tutorial/zmtwzcj
八爪鱼——70万用户选择的网页数据采集器。
1、操作简单,任何人都可以用:无需技术背景,会上网就能采集。完全可视化流程,点击鼠标完成操作,2分钟即可快速入门。
2、功能强大,任何网站都可以采:对于点击、登陆、翻页、识别验证码、瀑布流、Ajax脚本异步加载数据的网页,均可经过简单设置进行采集。
3、云采集,关机也可以。配置好采集任务后可关机,任务可在云端执行。庞大云采集集群24*7不间断运行,不用担心IP被封,网络中断。
八爪鱼·云采集网络爬虫软件
www.bazhuayu.com
4、功能免费+增值服务,可按需选择。免费版具备所有功能,能够满足用户的基本采集需求。同时设置了一些增值服务(如私有云)的需要。
,满足高端付费企业用户
相关推荐: