第一范文网 - 专业文章范例文档资料分享平台

1688数据采集方法 

来源:用户分享 时间:2025/5/30 4:05:02 本文由loading 分享 下载这篇文档手机版
说明:文章内容仅供预览,部分内容可能不全,需要完整文档或者需要复制内容,请下载word后使用。下载word有问题请添加微信号:xxxxxxx或QQ:xxxxxx 处理(尽可能给您提供完整文档),感谢您的支持与谅解。

八爪鱼·云采集网络爬虫软件

www.bazhuayu.com

1688数据采集方法

目前电商网站采集需求特别大,本文介绍使用八爪鱼采集1688-某店铺全部商品信息的方法。 采集网站:

https://hooozen.1688.com/page/offerlist_63753737.htm?spm=a2615.2177701.0.0.35688ae8LEOoIT示例规则

使用功能点:

? 分页列表信息采集

http://www.bazhuayu.com/tutorial/fylb-70.aspx?t=1 ? Xpath

http://www.bazhuayu.com/search?query=XPath ? AJAX点击和翻页

八爪鱼·云采集网络爬虫软件

www.bazhuayu.com

http://www.bazhuayu.com/tutorial/ajaxdjfy_7.aspx?t=1

步骤1:创建采集任务

1)进入主界面,选择“自定义模式”

采集1688店铺的全部商品信息图1

2)将要采集的网址复制粘贴到网站输入框中,点击“保存网址”

八爪鱼·云采集网络爬虫软件

www.bazhuayu.com

采集1688店铺的全部商品信息图2

步骤2:创建翻页循环

1)在页面右上角,打开“流程”,以展现出“流程设计器”和“定制当前操作”两个板块。将页面下拉到底部,点击“下一页”按钮,在右侧的操作提示框中,选择“循环点击下一页”,以建立一个翻页循环

八爪鱼·云采集网络爬虫软件

www.bazhuayu.com

采集1688店铺的全部商品信息图3

步骤3:创建列表循环并提取数据

1)移动鼠标,选中页面里的第一条商品信息的区块。系统会识别此区块中的子元素,在操作提示框中,选择“选中子元素”

八爪鱼·云采集网络爬虫软件

www.bazhuayu.com

采集1688店铺的全部商品信息图4

2)系统会自动识别出页面中的其他同类元素,在操作提示框中,选择“选中全部”,以建立一个列表循环

八爪鱼·云采集网络爬虫软件

www.bazhuayu.com

采集1688店铺的全部商品信息图5

3)我们可以看到,页面中企业信息区块里的所有元素均被选中,变为绿色。右侧操作提示框中,出现字段预览表,将鼠标移到表头,点击垃圾桶图标,可删除不需要的字段。字段选择完成后,选择“采集以下数据”

八爪鱼·云采集网络爬虫软件

www.bazhuayu.com

采集1688店铺的全部商品信息图6

4)字段选择完成后,选中相应的字段,可以进行字段的自定义命名

八爪鱼·云采集网络爬虫软件

www.bazhuayu.com

采集1688店铺的全部商品信息图7

步骤4:修改Xpath

1)我们继续观察,在“列表循环”步骤中,我们要建立的是整个页面18个商品链接的循环。选中整个“循环步骤”,打开“高级选项”,不固定元素列表中的这条Xpath:

//DIV[@id='wp-all-offer-tab']/DIV[1]/DIV[2]/DIV[1]/DIV[1]/DIV[1]/UL[1]/LI,对应的只有3个循环项。将此条Xpath,复制粘贴到火狐浏览器中的相应位置

八爪鱼·云采集网络爬虫软件

www.bazhuayu.com

采集1688店铺的全部商品信息图8

Xpath:是一种路径查询语言,简单的说就是利用一个路径表达式找到我们需要的数据位置。

Xpath是用于XML中沿着路径查找数据用的,但是八爪鱼采集器内部有一套针对HTML的Xpath引擎,使得直接用XPATH就能精准的查找定位网页里面的数据。

2)在火狐浏览器中,我们发现,通过这条Xpath:

八爪鱼·云采集网络爬虫软件

www.bazhuayu.com

//DIV[@id='wp-all-offer-tab']/DIV[1]/DIV[2]/DIV[1]/DIV[1]/DIV[1]/UL[1]/LI,页面中被定位的是3个商品信息区块。而我们需要的是,本页中18个商品信息区块,均被选中

采集1688店铺的全部商品信息图9

3)将Xpath修改为:

//DIV[@id='wp-all-offer-tab']/DIV[1]/DIV[2]/DIV[1]/DIV[1]/DIV[1]/UL/LI,我们发现页面中所有要采集的18个商品信息区块,均被选中了

八爪鱼·云采集网络爬虫软件

www.bazhuayu.com

采集1688店铺的全部商品信息图10

4)将修改后的Xpath:

//DIV[@id='wp-all-offer-tab']/DIV[1]/DIV[2]/DIV[1]/DIV[1]/DIV[1]/UL/LI,复制粘贴到图片中所示的位置,然后点击“确定”

八爪鱼·云采集网络爬虫软件

www.bazhuayu.com

采集1688店铺的全部商品信息图11

5)点击左上角的“保存并启动”,选择“启动本地采集”

八爪鱼·云采集网络爬虫软件

www.bazhuayu.com

采集1688店铺的全部商品信息图12

步骤4:数据采集及导出

1)采集完成后,会跳出提示,选择“导出数据”。选择“合适的导出方式”,将采集好的数据导出

八爪鱼·云采集网络爬虫软件

www.bazhuayu.com

采集1688店铺的全部商品信息图13

2)这里我们选择excel作为导出为格式,数据导出后如下图

采集1688店铺的全部商品信息图14

八爪鱼·云采集网络爬虫软件

www.bazhuayu.com

相关采集教程 淘宝卖家信息采集

http://www.bazhuayu.com/tutorial/tbmjinfocj 饿了么商家信息采集

http://www.bazhuayu.com/tutorial/elmsjinfocj 新浪博客文章采集

http://www.bazhuayu.com/tutorial/sinablogcj uc头条文章采集

http://www.bazhuayu.com/tutorial/ucnewscj 百家号爆文采集

http://www.bazhuayu.com/tutorial/bjharticlecj 词库网关键词采集

http://www.bazhuayu.com/tutorial/cikucrawl 爱站关键词采集

http://www.bazhuayu.com/tutorial/azkeywordcj 个人房源采集网站以及方法

http://www.bazhuayu.com/tutorial/grfangyuancj 自媒体文章怎么采集

http://www.bazhuayu.com/tutorial/zmtwzcj

八爪鱼——70万用户选择的网页数据采集器。

1、操作简单,任何人都可以用:无需技术背景,会上网就能采集。完全可视化流程,点击鼠标完成操作,2分钟即可快速入门。

2、功能强大,任何网站都可以采:对于点击、登陆、翻页、识别验证码、瀑布流、Ajax脚本异步加载数据的网页,均可经过简单设置进行采集。

3、云采集,关机也可以。配置好采集任务后可关机,任务可在云端执行。庞大云采集集群24*7不间断运行,不用担心IP被封,网络中断。

八爪鱼·云采集网络爬虫软件

www.bazhuayu.com

4、功能免费+增值服务,可按需选择。免费版具备所有功能,能够满足用户的基本采集需求。同时设置了一些增值服务(如私有云)的需要。

,满足高端付费企业用户

搜索更多关于: 1688数据采集方法  的文档
1688数据采集方法 .doc 将本文的Word文档下载到电脑,方便复制、编辑、收藏和打印
本文链接:https://www.diyifanwen.net/c0t6nc383pf0h1ll01eyq0a6ri16osu014e5_1.html(转载请注明文章来源)
热门推荐
Copyright © 2012-2023 第一范文网 版权所有 免责声明 | 联系我们
声明 :本网站尊重并保护知识产权,根据《信息网络传播权保护条例》,如果我们转载的作品侵犯了您的权利,请在一个月内通知我们,我们会及时删除。
客服QQ:xxxxxx 邮箱:xxxxxx@qq.com
渝ICP备2023013149号
Top