发明专利已授权

基于教师模型分类层权重的输出正则化方法

📄 申请号：CN202210357826.8 📄 发布日：2026/08/04

著录项目信息

申请日

2022-04-06

公开号

CN114782742B

公开日

2025-07-22

申请人

浙江工业大学

法律状态

已下证

专利类型

发明

主分类号

G06V10_764

IPC 分类号

G06V10_764 , G06V10_82 , G06N3_045 , G06N3_09 , G06N3_096 , G06N3_084 ,

技术画像

所属领域

知识蒸馏知识蒸馏深度学习模型压缩

应用场景

人工智能模型训练, 图像识别, 自然语言处理, 模型压缩与加速, 边缘计算

AI 智能推荐 · 同申请人专利 · 搜索相似专利

摘要

本发明涉及一种基于教师模型分类层权重的输出正则化方法，将完成监督训练的教师模型的分类层的权重转化为类别之间的相关性矩阵，以矩阵中的每一行作为对应类别的软标签，为学生模型提供额外的信息并参与学生模型的训练；选择准确率最高的学生模型作为最终目标模型。本发明充分利用教师模型所提供的信息，减少在训练过程中教师模型占用训练资源过大、整体训练时间过长的问题，即使某些神经网络模型仅能够提供教师模型分类器层的权重，也可以通过本方法进行学生模型的训练，具有更高的分类准确率与更广的模型适用性，具有更快的训练速度，且只需要更少的训练资源，能够在资源较少的情况下，对网络模型做进一步的正则化。

权利要求书 (12项) 说明书附图

……

图1

图2

图3

法律状态时间线

一种注塑机压铸电液系统及其控制方法

当前第 / 件

基于邻域重建和图对比学习的交通轨迹异常检测方法和装置

同领域国内专利 · IPC: (G06V10_764)

G06V10_10 G06V10_12 G06V10_14 G06V10_141 G06V10_143 G06V10_147 G06V10_20 G06V10_22 G06V10_24 G06V10_25 G06V10_26 G06V10_28 G06V10_30 G06V10_32 G06V10_34 G06V10_40 G06V10_42 G06V10_44 G06V10_46 G06V10_50 G06V10_52 G06V10_54 G06V10_56 G06V10_58 G06V10_62 G06V10_70 G06V10_72 G06V10_74 G06V10_75 G06V10_762 G06V10_764 G06V10_766 G06V10_77 G06V10_771 G06V10_772 G06V10_774 G06V10_776 G06V10_778 G06V10_80 G06V10_82 G06V10_84 G06V10_86 G06V10_94 G06V10_98 覆盖44个领域

相似专利推荐 AI 驱动 · 同领域

暂无同领域相似专利推荐

议价

不含过户费

📋 交易方式： 委托待转让 📌 交易状态：在售 👁️ 浏览次数：19 ❤️ 收藏人数：93 📋 项目申报： 未申报

资金托管权属尽调包过户

🏢 淄博智来知识产权服务有限公司

✓ 企业认证✓ 手机绑定历史成交 0件好评率 98.5%

📊 出价记录 (3条)

王**¥-10万

李** 企业¥-8万

陈**¥-3万

查看全部出价

我要出价 (议价)