专利交易市场

基于对比学习的深度学习模型蒸馏中毒防御方法，包括以下步骤：数据集准备；中毒模型准备；使用干净样本生成正例；构建学生模型蒸馏损失函数和学习样本的损失函数；模型蒸馏。本发明具有良好的适用性，能够有效的防御中毒攻击，并且不影响模型蒸馏后正常样本的正确率。

一种基于动态修正向量的图像增量学习方法，包括以下步骤：S1构造以ResNet‑32网络层结构为模型的主干网络，采用Adam训练优化器，同时，基础分类损失函数是Kullback‑Leibler Divergence相对熵损失函数；S2损失函数引入知识蒸馏，结合分类损失函数，帮助新模型学习旧类别中的知识，缓解灾难性遗忘问题；S3训练方式采用代表性记忆方法和动态修正向量方法训练ResNet‑32模型；S4重载上一增量阶段训练的最佳模型，重复步骤S2～S3，评估在所有测试集上的性能，直到训练完所有增量数据。本发明提高了增量学习任务的识别能力，具有较高的实用价值。

本发明公开了一种面向深度迁移学习的去偏方法及其装置，包括：获取源域数据集和目标域数据集，提取类别标签和敏感属性标签；构建全连接神经网络作为迁移模型的教师模型，采用源域数据集优化教师模型的网络参数；固定参数优化的教师模型的前n层全连接层的网络参数作为特征提取器，并在教师模型的最后一层添加m层全连接层，形成迁移模型的学生模型，采用目标域数据集优化学生模型的网络参数；在参数优化的学生模型的特征提取器的输出添加注意力机制层，用于从特征提取器中的输出特征中提取敏感属性并确定敏感属性的权重；将敏感属性对应的特征向量与其他特征向量进行正交操作，以去除深度迁移学习的敏感属性带来的偏见，以实现预测结果的公平。

本发明提供一种基于持续学习的小样本事件检测方法和系统，方法包括：获取事件检测初始数据集并进行预处理，根据预处理后的事件检测初始数据集建立包括若干个阶段的小样本事件检测增量任务集合，建立基于持续学习的小样本事件检测框架，在面对相继到来的新任务的持续学习时，首先学习新类型的原型表示并保存为新类型知识，然后通过经验回放机制、知识蒸馏和旧类型与新类型之间的知识转移来获得新类型的事件检测结果，本发明的方法能够解决传统模型的遗忘问题，同时丰富新类型和旧类型之间的联系，提高事件检测的效率和精度。

本发明公开了一种基于D3QN的边缘赋能IIoT在线计算迁移方法，涉及计算机技术领域，包括：将当前工业环境抽象为边缘赋能的IIoT网络模型，同时对IIoT内的任务进行建模获得多约束任务模型；根据本地设备的功率、信道传输带宽和服务器的计算能力建立包括时延和能耗的多约束任务计算卸载问题模型；基于多约束任务模型和多约束任务计算卸载问题模型设计D3QN网络，将IIoT任务在线计算迁移问题处理成马尔可夫决策过程，包括状态State、动作Action和奖励Reward；在D3QN网络中加入噪声，根据模型建立基于深度强化学习的算法Noisy D3QN，求解得到最优的任务卸载决策。本发明考虑工业数据的大规模和高复杂性，采用Noisy D3QN算法获取最佳迁移策略，对系统时延和能耗进行高效优化。

本发明实施例提供了一种数据标注方法、装置及电子设备。其中，方法包括：基于新增训练数据和历史训练数据，对预先经过训练的训练网络进行增量式训练；将待标注数据，和经过训练后的所述训练网络的模型参数输入至测试网络，得到所述测试网路的输出结果，作为预测值，所述测试网络的网络结构与所述训练网络的网络结构相同；基于针对所述预测值的调整指令，对所述预测值进行调整，得到调整后的预测值，作为真值；将标注有所述真值的所述待标注数据作为新的新增训练数据，并返回执行所述基于新增训练数据和历史训练数据，对训练网络进行增量式训练，得到经过训练后的所述训练网络的模型参数的步骤。可以降低数据标注的人工成本。

本申请公开了一种目标模型的获取方法及装置、电子设备和存储介质，其中，目标模型的获取方法包括：利用第一训练样本预训练原始模型，以调整原始模型的网络参数；其中，原始模型包括用于特征提取的第一子网络；利用第二子网络和经预训练的第一子网络的至少部分结构，得到目标模型；其中，第二子网络用于基于第一子网络提取的特征执行目标任务；利用与目标任务对应的第二训练样本训练目标模型，以调整目标模型的网络参数。上述方案，能够提高目标模型的性能。

本发明公开了一种基于拓扑熵分解的深度记忆迁移学习方法，S1.获取源任务数据集和目标任务数据集；S2.生成源任务训练模型；S3.对源任务训练模型进行拓扑熵分析；S4.获得剪枝后的优化源任务模型；S5.调整优化源任务模型的权重初始化方式和结构参数；S6.生成初步迁移模型；S7.生成目标任务网络模型；S8.在目标任务网络模型中嵌入深度记忆模块；S9.调整深度记忆模块的使用策略和剪枝规则；S10.输出训练完成的目标任务网络模型，并对剪枝优化过程进行记录，形成可重复使用的模型优化模板。本发明提升了迁移学习的鲁棒性、效率和适应性。