发明专利 已授权

一种动态检测失效流量的网络爬虫方法

📄 申请号:CN202110086472.3 📄 发布日:2026/08/04

著录项目信息

申请日
2021-01-22
申请人
浙江工业大学
法律状态
已下证
专利类型
发明
主分类号

技术画像

应用场景

互联网广告反作弊, 网络数据采集, 流量监控, 搜索引擎数据更新, 网站运营分析

摘要

本发明涉及一种动态检测失效流量的网络爬虫方法,包括以下步骤,首先通过分析网络请求信息构建动态检测失效流量模型的数据集,然后设计出动态检测失效流量的方法,接着对URL队列中的信息进行读取并且对Cookie等信息进行封装后发送请求,提取返回数据信息,并对返回数据信息进行失效流量检测,最后对重复返回数据信息进行处理,如是有效数据则持久化存储。本发明弥补了现有聚焦爬虫和增量爬虫在Cookie失效问题的处理上和数据重复处理上的不足之处,降低了爬取数据的失效和重复概率,对爬虫系统的设计提供了可借鉴的方案,提高了爬虫系统的整体性能。
权利要求书 (12项) 说明书 附图

……

……

图1
图2
图3

法律状态时间线

20220517
✅ 授权
20210525
?? 实质审查的生效 :
20210507
📄 公开

相似专利推荐 AI 驱动 · 同领域

暂无同领域相似专利推荐
议价
不含过户费

📋 交易方式: 委托待转让 📌 交易状态: 在售 👁️ 浏览次数:21 ❤️ 收藏人数:93 📋 项目申报: 未申报

资金托管 权属尽调 包过户
🏢 淄博智来知识产权服务有限公司
✓ 企业认证✓ 手机绑定历史成交 0件好评率 98.5%

📊 出价记录 (3条)
王**¥-10万
李** 企业¥-8万
陈**¥-3万
查看全部出价