发明专利已授权

基于知识蒸馏的多层神经网络语言模型训练方法与装置

📄 申请号：CN202010322267.8 📄 发布日：2026/08/04

著录项目信息

申请日

2020-04-22

公开号

CN111611377A

公开日

2020-09-01

申请人

淮阴工学院

法律状态

已下证

专利类型

发明

主分类号

G06F16_35

IPC 分类号

G06F16_35 , G06F40_289 , G06F40_30 , G06F40_211 , G06N3_04 , G06N3_08 , G06N5_02 ,

技术画像

所属领域

知识蒸馏神经网络知识蒸馏

应用场景

智能客服, 机器翻译, 文本生成, 语音识别, 信息检索

AI 智能推荐 · 同申请人专利 · 搜索相似专利

摘要

本发明公开了一种基于知识蒸馏的多层神经网络语言模型训练方法与装置，该方法首先构建BERT语言模型和多层BILSTM模型作为教师模型和学生模型，其中所构建的BERT语言模型中有六层transformer，多层BILSTM模型中有三层BILSTM网络；然后将文本语料集进行预处理后，对BERT语言模型进行训练得到训练好的教师模型；再基于知识蒸馏技术将预处理后的文本语料集输入到多层BILSTM模型训练学生模型，在学习教师模型中的嵌入层、隐藏层以及输出层之时，通过线性变换将不同空间表示进行计算。基于训练好的学生模型，可将文本进行向量转换，进而训练下游网络更好地进行文本分类。本发明可以有效提升文本预训练效率以及文本分类任务的精确度。

权利要求书 (12项) 说明书附图

……

图1

图2

图3

法律状态时间线

20251021

⏳ 专利实施许可合同备案的注销：

20220114

⏳ 专利实施许可合同备案的生效：

20211029

✅ 授权

20200925

?? 实质审查的生效：

20200901

📄 公开

一种具有消炎功能的吻合钉及其制备方法

当前第 / 件

一种丰原素合成代谢调控基因FenSr3及其应用

同领域国内专利 · IPC: (G06F16_35)

G06F16_00 G06F16_11 G06F16_13 G06F16_14 G06F16_16 G06F16_17 G06F16_172 G06F16_174 G06F16_176 G06F16_178 G06F16_18 G06F16_182 G06F16_20 G06F16_21 G06F16_215 G06F16_22 G06F16_23 G06F16_24 G06F16_242 G06F16_245 G06F16_2452 G06F16_2453 G06F16_2455 G06F16_2457 G06F16_2458 G06F16_248 G06F16_25 G06F16_26 G06F16_27 G06F16_28 G06F16_29 G06F16_31 G06F16_33 G06F16_332 G06F16_3329 G06F16_3331 G06F16_3332 G06F16_334 G06F16_335 G06F16_338 G06F16_34 G06F16_35 G06F16_353 G06F16_355 G06F16_36 G06F16_383 G06F16_387 G06F16_41 G06F16_43 G06F16_432 G06F16_435 G06F16_438 G06F16_44 G06F16_45 G06F16_48 G06F16_483 G06F16_50 G06F16_51 G06F16_53 G06F16_532 G06F16_535 G06F16_54 G06F16_55 G06F16_56 G06F16_58 G06F16_583 G06F16_587 G06F16_61 G06F16_63 G06F16_632 G06F16_635 G06F16_638 G06F16_64 G06F16_65 G06F16_68 G06F16_683 G06F16_71 G06F16_73 G06F16_732 G06F16_735 G06F16_738 G06F16_74 G06F16_75 G06F16_78 G06F16_783 G06F16_787 G06F16_81 G06F16_832 G06F16_835 G06F16_90 G06F16_901 G06F16_903 G06F16_9032 G06F16_9035 G06F16_904 G06F16_906 G06F16_907 G06F16_93 G06F16_95 G06F16_951 G06F16_953 G06F16_9532 G06F16_9535 G06F16_9536 G06F16_9537 G06F16_9538 G06F16_954 G06F16_955 G06F16_957 G06F16_958 覆盖110个领域

相似专利推荐 AI 驱动 · 同领域

暂无同领域相似专利推荐

¥25000.0 元

不含过户费

📋 交易方式： 委托待转让 📌 交易状态：在售 👁️ 浏览次数：7 ❤️ 收藏人数：93 📋 项目申报： 未申报

资金托管权属尽调包过户

🏢 淄博智来知识产权服务有限公司

✓ 企业认证✓ 手机绑定历史成交 0件好评率 98.5%

📊 出价记录 (3条)

王**¥-10万

李** 企业¥-8万

陈**¥-3万

查看全部出价

我要出价 (议价)