本发明公开了一种基于神经元激活率的对抗攻击防御方法，包括：1)获取图像数据集并进行预处理，构建训练集和测试集；2)构建CNN网络结构的分类器模型；3)构建二分类判别器D，对分类器模型关于输入本x的输出N进行判定；4)根据分类器模型和二分类判别器D的损失函数构建整体的损失函数，确定整体优化目标；采用训练集对整体模型进行联合训练，当整体的损失函数收敛时，停止训练并保存模型；5)输入测试集对训练后的分类器模型进行测试，若分类准确率低于阈值，则修改整体损失函数的λ，按步骤4)再次进行训练，直至分类准确率高于阈值。本发明的防御方法具有良好的适用性和准确率，对对抗攻击有良好的防御效果。
📄 2021106579253
📂 G06N3_094
👤 浙江工业大学
📅 2021-06-11
本发明公开了一种基于中毒神经元抑制的图生成模型鲁棒性增强方法，本发明方法首先构建中毒样本和混合数据集，再利用混合数据集对目标模型进行中毒训练，得到训练后的中毒模型，查找中毒模型每一层的中毒神经元，构建中毒神经通路，生成能实现抑制中毒通路的子图结构，迭代得到结构多样化的最终的新的图结构，并将最终的新的图结构转化成深度模型结构，最后对深度模型结构进行重训练，得到增强对抗中毒攻击鲁棒性后的鲁棒模型结构。本发明得到一个不容易受到中毒攻击的新的深度模型，实现对抗中毒攻击的目的，从而达到增强模型对抗中毒攻击的鲁棒性的目的。
📄 2021112873367
📂 G06N3_094
👤 浙江工业大学
📅 2021-11-02
本发明涉及人工智能技术领域，具体公开一种面向后门攻击的防御方法，包括如下步骤：步骤1，获取图神经网络模型Moracle及其训练数据集Dataoracle；步骤2，对训练数据集Dataoracle进行预处理；步骤3，构建生成器网络G，得到预测图Ypred；步骤4，构建鉴别器网络D，并输出图数据二分类的结果；步骤5，防御模型的训练，完成后门攻击的防御网络模型搭建；步骤6，将删减连边处理后的任务数据Dreal输入到生成器网络G中进行数据重建，得到任务结果。本发明的防御方法能直接破坏插入在图数据中的触发器结构，导致它无法取得该有的效果，但又不影响正常样本，模型对于输入正常样本仍然可以表现出应有的性能。
📄 2021106561334
📂 G06N3_094
👤 浙江工业大学
📅 2021-06-11
本发明属于对抗机器学习技术领域，公开了一种基于样本预处理的低成本对抗样本防御方法及系统，包括：接收输入样本，调整样本大小；对样本进行切割处理，剔除部分干扰区域；使用图像放缩模块来处理切割模块处理完的样本；对放缩后的样本进行像素值统一化操作；对处理完的样本进行图像放缩操作，将尺寸放缩到模型识别干净样本时可获得的最佳样本准确率的样本尺寸；将处理后的样本输入目标模型，通过评价指标来评价算法防御能力。本发明的核心是图像中非重要信息切割、部分像素值统一化和图像放缩三个模块，均是简单的图像处理操作，满足低成本的要求，通过这三个模块的组合式使用可以达到满足不同防御需求所需的动态防御效果。
📄 2023117250997
📂 G06N3_094
👤 成都信息工程大学
📅 2023-12-15
本发明涉及计算机技术应用领域，特别是涉及一种用于自然语言处理模型后门攻击防御的处理方法和装置，方法包括：利用数据增强方式生成文本样本的不同视图对自然语言处理模型进行第一阶段训练以及利用干净文本数据对模型进行第二阶段训练。本发明能够让模型学习文本样重要的特征，忽略小扰动对样本内容的干扰，破坏攻击者构建的触发器与目标类别之间的强联系，能够降低触发器对模型决策的干扰和增强模型鲁棒性，确保有效防御后门攻击的同时，保持模型分类任务的性能。
📄 2025109136467
📂 G06N3_094
👤 中国民航大学
📅 2025-07-03
本发明属于信息安全领域，提供一种破坏中间层特征的对抗样本生成方法，验证发现现有的特征级攻击本质上是在特征空间内沿着特征重要性的方向扰动一次特征，导致有限的迁移性，然后提出像素空间到特征空间攻击方法(P2FA)，通过将扰动的空间从像素空间直接转移至特征空间以提高破坏重要特征的效率，即在特征空间内沿着特征重要性的方向多次扰动特征，然后将扰动后的特征反演到图像上来生成可迁移更强的对抗样本。本发明能够生成更具可迁移性的对抗样本。
📄 202510619864X
📂 G06N3_094
👤 南京信息工程大学
📅 2025-05-14
本发明提供了代理模型辅助的演化生成对抗网络架构搜索方法和系统，所述方法对生成对抗神经网络中的生成器网络架构进行编码，并对网络架构进行演化搜索。通过初始化若干网络架构并进行训练，构建数据集并训练基于两两比较关系的代理模型。然后，使用代理模型协助进行生成对抗神经网络的演化搜索过程，从而避免了部分架构的训练过程，并直接对神经架构进行非支配排序。最后，在全局最优解中挑选出适合任务需求的网络架构。与传统演化生成对抗网络架构搜索，本发明的代理模型辅助的演化生成对抗网络架构搜索具有稳定、快速的优点。这种方法相比传统的优化方法具有更高的效率和更好的搜索性能，能够更快地找到适合任务的最优神经网络架构。
📄 2024113005670
📂 G06N3_094
👤 南京信息工程大学
📅 2024-09-18
本发明公开一种针对JPEG量化步长估计的对抗样本生成方法，JPEG压缩后的原始样本输入生成器生成对抗样本，根据直接攻击或预先攻击的不同攻击目标，将对抗样本或经JPEG压缩后的对抗样本输入JPEG量化步长估计网络，计算量化步长估计损失；将对抗样本及对应的原始样本输入判别器，分别计算二者判别损失，基于量化步长估计损失、扰动强度损失和逆对抗样本判别损失优化生成器参数。本发明以强度更高的对抗攻击引导JPEG量化步长估计方法的性能提升，从而提高基于量化步长估计的篡改取证方法的鲁棒性和可靠性。
📄 2024105731651
📂 G06N3_094
👤 南京信息工程大学
📅 2024-05-10
柿子坊 · 知识产权运营
柿子坊知识产权运营平台