欢迎使用淄博智来知识产权服务有限公司的柿子坊知识产权运营平台,本站提供专利转让转化、技术转移转化、商标买卖等服务
1328063899724小时咨询热线
13280638997
  • 检索范围
  • 专利名称:语言模型训练系统、语音识别系统及相应方法      申请号:2012105338871     转让价格:面议  收藏
    法律状态:已下证   类型:发明   关键词:人工智能 模型训练 识别系统 语音识别系统 语言模型训练   相似专利 发布日:2023/08/14  
    摘要: 本发明提供了语言模型训练系统、语音识别系统及相应方法,涉及语音识别领域,用以解决现有语言模型训练技术及语音识别技术的识别准确率不够高的问题。语言模型训练系统包括:第一收集单元用于收集语音搜索的标注结果日志;第一训练单元用于对标注结果日志进行训练,并生成标注结果语言模型;第一语言模型库用于存储所述标注结果语言模型;第二收集单元用于收集文本搜索的检索日志;第二训练单元用于对检索日志进行训练,并生成检索日志语言模型;第二语言模型库用于存储所述检索日志语言模型;结合单元用于通过插值法,将标注结果语言模型以及检索日志语言模型相结合;第三语言模型库用于存储结合后得到的语言模型。
  • 专利名称:基于知识蒸馏的多层神经网络语言模型训练方法与装置      申请号:2020103222678     转让价格:面议  收藏
    法律状态:已下证   类型:发明   关键词:网络传输 语言模型训练   相似专利 发布日:2025/08/11  
    摘要: 本发明公开了一种基于知识蒸馏的多层神经网络语言模型训练方法与装置,该方法首先构建BERT语言模型和多层BILSTM模型作为教师模型和学生模型,其中所构建的BERT语言模型中有六层transformer,多层BILSTM模型中有三层BILSTM网络;然后将文本语料集进行预处理后,对BERT语言模型进行训练得到训练好的教师模型;再基于知识蒸馏技术将预处理后的文本语料集输入到多层BILSTM模型训练学生模型,在学习教师模型中的嵌入层、隐藏层以及输出层之时,通过线性变换将不同空间表示进行计算。基于训练好的学生模型,可将文本进行向量转换,进而训练下游网络更好地进行文本分类。本发明可以有效提升文本预训练效率以及文本分类任务的精确度。
  • 第1页/共1页;本页2条记录/共2条记录 1       
    用户指南
    交易方式
    关于柿子坊
    关注微信公众号
    智来知识产权公众号
    联系我们
    咨询电话:13280638997  
    传真:0533-3110363
    邮箱:kefu@shizifang.com
    CopyRight©2016 by 淄博智来知识产权服务有限公司  All Rights Reserved  专利转让_商标转让_知识产权转让评估买卖_智来柿子坊专利交易平台
    地址:山东省淄博市张店区人民路与北京路路口银街3号华侨大厦
    鲁ICP备16031200号   鲁公网安备 37030302000778号