发明专利已授权

基于神经通路的中毒模型测试方法、装置及系统

📄 申请号：CN202110128978.6 📄 发布日：2026/08/04

著录项目信息

申请日

2021-01-29

公开号

CN112948237B

公开日

2024-08-20

申请人

浙江工业大学

法律状态

已下证

专利类型

发明

主分类号

G06F11_36

IPC 分类号

G06F11_36 , G06F21_56 , G06N3_04 , G06N3_08 ,

技术画像

所属领域

人工智能算法人工智能算法神经网络模型安全

应用场景

人工智能模型安全检测, 数据投毒防护, 神经网络鲁棒性评估, 智能系统安全, 机器学习安全

AI 智能推荐 · 同申请人专利 · 搜索相似专利

摘要

本发明公开了一种基于神经通路的中毒模型测试方法、装置及系统，包括以下步骤：(1)获取待检测模型，并将测试样本输入至待检测模型中，计算待检测模型的Top‑k神经通路；(2)依据Top‑k神经通路和测试样本的预测值与真实标签的交叉熵构建损失函数，并将损失函数的梯度值作为扰动添加到测试样本得到扰动样本；(3)利用待检测模型获得测试样本的预测标签和扰动样本的预测标签后，并根据预测标签计算测试样本的标签变化率，依据标签变化率判断待检测模型是否中毒。根据模型内部神经元与神经元、层与层之间的联系，探索中毒模型潜在的后门，实现对中毒模型的检测。

权利要求书 (12项) 说明书附图

……

图1

图2

图3

法律状态时间线

具有丰富缺陷的共价三嗪骨架材料及其制备方法和应用

当前第 / 件

基于含长程连边的曼哈顿城市网络的路网交通流特性仿真方法

同领域国内专利 · IPC: (G06F11_36)

G06F11_00 G06F11_07 G06F11_08 G06F11_10 G06F11_14 G06F11_1446 G06F11_20 G06F11_22 G06F11_26 G06F11_263 G06F11_267 G06F11_27 G06F11_273 G06F11_30 G06F11_32 G06F11_34 G06F11_36 G06F11_3604 G06F11_362 G06F11_3668 覆盖20个领域

相似专利推荐 AI 驱动 · 同领域

暂无同领域相似专利推荐

议价

不含过户费

📋 交易方式： 委托待转让 📌 交易状态：在售 👁️ 浏览次数：20 ❤️ 收藏人数：93 📋 项目申报： 未申报

资金托管权属尽调包过户

🏢 淄博智来知识产权服务有限公司

✓ 企业认证✓ 手机绑定历史成交 0件好评率 98.5%

📊 出价记录 (3条)

王**¥-10万

李** 企业¥-8万

陈**¥-3万

查看全部出价

我要出价 (议价)