发明专利已授权

一种基于代工模式的动态网页爬虫方法及系统

📄 申请号：CN202010488720.2 📄 发布日：2026/07/23

著录项目信息

申请日

2020-06-02

公开号

CN111651656B

公开日

2023-02-24

申请人

重庆邮电大学

法律状态

已下证

专利类型

发明

主分类号

G06F16_951

IPC 分类号

G06F16_951 , G06F16_955 ,

技术画像

所属领域

网络爬虫网络爬虫动态网页解析网页数据采集

应用场景

搜索引擎, 大数据分析, 舆情监测, 电商信息监测, 数据服务

AI 智能推荐 · 同申请人专利 · 搜索相似专利

摘要

本发明公开了一种基于代工模式的动态网页爬虫方法及系统，包括：接收业务信息，配置爬虫参数，业务评估，做准备工作；分配系统资源，发起多个独立进程的业务爬虫；采用模拟浏览器模式，对动态网页原始URL进行爬取，并返回目标静态数据内容的URL；审查URL的有效性和非重复性，并审查后的爬取任务，构造生产任务消息列表，发起多个线程的生产爬虫；采用自动化程序模式，对静态的URL页面进行爬取，并返回目标数据和附件文件；对返回内容处理并存储；导出数据。本发明分别构造了业务爬虫和生产爬虫，基于代工模式对动态网页和静态内容采取不同的爬取策略，最大限度地利用系统资源，实现对动态网页数据进行大规模、快速爬取。

权利要求书 (12项) 说明书附图

……

图1

图2

图3

法律状态时间线

20230224

✅ 授权

20201013

?? 实质审查的生效：

20200911

📄 公开

一种雾计算网络中基于雾节点协作的负载均衡方法

当前第 / 件

一种同时制备D-脯氨酸和L-1-吡咯啉-5-羧酸的生物法

同领域国内专利 · IPC: (G06F16_951)

G06F16_00 G06F16_11 G06F16_13 G06F16_14 G06F16_16 G06F16_17 G06F16_172 G06F16_174 G06F16_176 G06F16_178 G06F16_18 G06F16_182 G06F16_20 G06F16_21 G06F16_215 G06F16_22 G06F16_23 G06F16_24 G06F16_242 G06F16_245 G06F16_2452 G06F16_2453 G06F16_2455 G06F16_2457 G06F16_2458 G06F16_248 G06F16_25 G06F16_26 G06F16_27 G06F16_28 G06F16_29 G06F16_31 G06F16_33 G06F16_332 G06F16_3329 G06F16_3331 G06F16_3332 G06F16_334 G06F16_335 G06F16_338 G06F16_34 G06F16_35 G06F16_353 G06F16_355 G06F16_36 G06F16_383 G06F16_387 G06F16_41 G06F16_43 G06F16_432 G06F16_435 G06F16_438 G06F16_44 G06F16_45 G06F16_48 G06F16_483 G06F16_50 G06F16_51 G06F16_53 G06F16_532 G06F16_535 G06F16_54 G06F16_55 G06F16_56 G06F16_58 G06F16_583 G06F16_587 G06F16_61 G06F16_63 G06F16_632 G06F16_635 G06F16_638 G06F16_64 G06F16_65 G06F16_68 G06F16_683 G06F16_71 G06F16_73 G06F16_732 G06F16_735 G06F16_738 G06F16_74 G06F16_75 G06F16_78 G06F16_783 G06F16_787 G06F16_81 G06F16_832 G06F16_835 G06F16_90 G06F16_901 G06F16_903 G06F16_9032 G06F16_9035 G06F16_904 G06F16_906 G06F16_907 G06F16_93 G06F16_95 G06F16_951 G06F16_953 G06F16_9532 G06F16_9535 G06F16_9536 G06F16_9537 G06F16_9538 G06F16_954 G06F16_955 G06F16_957 G06F16_958 覆盖110个领域

相似专利推荐 AI 驱动 · 同领域

暂无同领域相似专利推荐

议价

不含过户费

📋 交易方式： 委托待转让 📌 交易状态：在售 👁️ 浏览次数：11 ❤️ 收藏人数：93 📋 项目申报： 未申报

资金托管权属尽调包过户

🏢 淄博智来知识产权服务有限公司

✓ 企业认证✓ 手机绑定历史成交 0件好评率 98.5%

📊 出价记录 (3条)

王**¥-10万

李** 企业¥-8万

陈**¥-3万

查看全部出价

我要出价 (议价)