咨询电话:13280638997
传真:0533-3110363
邮箱:kefu@shizifang.com
著 录 项 目:
专利/申请号: | CN202211156215.3 | 专利名称: | 基于Gate-Mixup数据增强的知识蒸馏化工文本分类方法及装置 |
申请日: | 2022-09-22 | 申请/专利权人 | 淮阴工学院 |
专利类型: | 发明 | 地址: | 江苏省淮安市经济技术开发区枚乘东路1号 |
专利状态: | 已下证 查询审查信息 | 分类号: | G06F16/353分类检索 人工智能专利转让搜索 |
公开/公告日: | 2025-07-01 | 转让价格: | 【平台担保交易】 |
公开/公告号: | CN115481249B | 交易状态: | 等待洽谈 搜索相似专利 |
摘 要:本发明公开一种基于Gate‑Mixup数据增强的知识蒸馏化工文本分类方法及装置,首先同时对图神经网络教师模型以及Transformer学生模型进行初始训练;然后进行一阶段蒸馏训练,通过指标函数与门控单元对教师模型输出进行筛选,满足预设条件,则直接作为logits输入蒸馏损失函数指导学生模型,否则对文本表示进行数据增强,最后将输出残差叠加输入蒸馏损失函数指导学生模型训练;将教师模型与学生模型角色进行对调作为二阶段蒸馏训练,循环执行上述一阶段和二阶段蒸馏训练,最终获得蒸馏好的学生模型;实际应用时,将化工文本样本输入学生模型,获得预测输出文本类别。本发明通过构建的数据增强方法有效增强相互学习困难样本知识蒸馏效果,提升学生模型文本分类性能。
交易方 | 企业 | 个人 |
买家 | 营业执照副本复印件(需盖公章) | 身份证复印件(签字) |
专利转让委托书(需盖公章)一式两份 | 专利转让委托书(需签字)一式两份 | |
专利转让协议(需盖公章)一式两份 | 专利转让协议(需签字)一式两份 | |
卖家 | 营业执照副本复印件(需盖公章) | 身份证复印件(需申请人签字) |
解除代理委托书(需盖公章)一式两份(如专利通过代理机构申请) | 解除代理委托书(需签字)一式两份(如专利通过代理机构申请) | |
专利转让协议(需盖公章)一式两份 | 专利转让协议(需签字)一式两份 | |
专利请求书或手续合格通知书、授权通知书复印件 | 专利请求书或手续合格通知书、专利授权通知书复印件 | |
专利证原件(若授权下证) | 专利证原件(若授权下证) |
日期 | 法律信息 | 备注 |