如何翻页抓取网页数据

如何翻页抓取网页数据

我们在抓取数据时，通常不会只抓取网页当前页面的数据，往往都会继续抓取翻页后的数据。本文就为大家介绍，集搜客GooSeeker网络爬虫如何在进行数据抓取时，自动抓取翻页后的数据。
在MS谋数台的爬虫路线工作台有三种线索方式可以实现自动抓取翻页后的数据，分别是定点线索、记号线索、相对线索。本文主要介绍比较常用的记号线索。
一、完成抓取内容映射
理箱中创建抓取内容，并完成映射。


具体操作步骤如下：

在整理箱中创建抓取内容，并完成映射，选择网页上要抓取的内容映射到整理箱后，跳转到爬虫路线工作台设置翻页线索。
做完抓取内容基本操作后，为了抓取网页上所有相同产品的数据本规则还使用了样例复制管理功能
二、创建翻页线索

在爬虫路线工作台新建一条记号线索
具体操作步骤如下：

跳转到爬虫路线工作台。
点击新建，创建一条线索。
选择线索类型，设置翻页线索时通常选择记号线索，本文主要介绍的就是记号线索。
勾选连贯抓取，表示在执行抓取任务时，爬虫可以在同一个DS打数机窗口内抓取完当前页面后直接跳转到下一个页面进行抓取。
勾选连贯抓取后，目标主题名自动填写当前规则主题名，在本规则内不应修改，表示翻页后继续使用当前规则进行抓取。

选择线索定位选项具体操作步骤如下：
在爬虫路线工作台中点击定位选项。
线索定位选择偏好class。
网页结构中的@id属性每个页面不同的几率较大，如果线索定位偏好@id，容易导致在后续的抓取中翻页失败。所以一般我们手工修改选择较为稳定不变的@class属性，作为线索定位的首选项。

定位翻页标志，并在网页结构中找到对应节点


具体操作步骤如下：

1.在网页上点击翻页标志“下一页”，会弹出该信息的定位提示框，通常是定位到模块节点（即包含多个下层节点，可双击展开，例如A节点）
2.展开A节点，找到“下一页”对应text节点（text节点即为文本节点）
3.点击对应text节点会在显示工作台中显示。
在网页结构窗口中找到，对应节点后，即开始进行线索映射。

线索映射——记号映射


具体操作步骤如下：

选择对应节点进行记号映射，右击对应的text节点，选择线索映射后点击记号映射，在可爬虫路线工作台记号值中看到“下一页”，记号定位编号显示“下一页”text在网页结构窗口中的对应编号。

线索映射——线索定位映射
在做完记号映射之后，要进行线索定位映射，就是选择包含记号标志的范围进行映射。


具体操作步骤如下：

1.选择线索定位区块，线索定位的区块一般是包含"下一页"翻页标志的区块节点，也就是网页上的翻页区块（在网页结构窗口中点击包含 “下一页”翻页标志的区块节点，会在浏览器窗口中显示）。
2.进行线索定位映射，右击翻页区块节点，选择线索映射→定位→线索1 。完成后定位编号会显示翻页区块节点的定位编号。
这样就完成了网站翻页规则的定义，可以使用DS打数机进行翻页数据抓取。

翻页抓取网页数据，现在很少只抓取采集一页数据吧。 不用管软件机器人工具还是爬虫工具采集网页的公开数据，都是会采集很多页，我自己在用的是软件机器人工具小帮，是通过用鼠标在页面上框选要采集的字段和框选翻页按钮，就能实现翻页采集网页数据。

如以上回答内容为低俗、色情、不良、暴力、侵权、涉及违法等信息，可以点下面链接进行举报！

点此我要举报以上问答信息