咨询电话:13280638997
传真:0533-3110363
邮箱:kefu@shizifang.com
摘 要:本发明提供了一种基于预训练语言模型与多重词信息嵌入的字向量生成方法,根据已标注数据主题,爬取相关无标注数据;构建预训练语言模型,对已标注数据与未标注数据进行预训练,基于预训练语言模型对输入句子进行处理,获得字向量;对已标注数据提取多重词信息特征;将得到的字向量与多重词信息特征进行融合,得到最终字向量。本发明通过预训练语言模型来表征字向量,可以更好的引入多义性信息;构建多重词信息特征并将其添加到字向量中,为字向量带来了词信息与单词分割信息,提高自然语言处理效果。
著 录 项:
专利/申请号: | CN202110511388.1 | 专利名称: | 基于预训练语言模型与多重词信息嵌入的字向量生成方法 |
申请日: | 2021-05-11 | 申请/专利权人 | 济南大学,山东思正信息科技有限公司 |
专利类型: | 发明 | 地址: | 山东省济南市市中区南辛庄西路336号 |
专利状态: | 已下证 查询审查信息 | 分类号: | G06F40/205搜分类 其他搜索 |
公开/公告日: | 2022-06-21 | 转让价格: | 面议 |
公开/公告号: | CN113128199B | 交易状态: | 等待洽谈 搜索相似专利 |
交易方 | 企业 | 个人 |
买家 | 营业执照副本复印件(需盖公章) | 身份证复印件(签字) |
专利转让委托书(需盖公章)一式两份 | 专利转让委托书(需签字)一式两份 | |
专利转让协议(需盖公章)一式两份 | 专利转让协议(需签字)一式两份 | |
卖家 | 营业执照副本复印件(需盖公章) | 身份证复印件(需申请人签字) |
解除代理委托书(需盖公章)一式两份(如专利通过代理机构申请) | 解除代理委托书(需签字)一式两份(如专利通过代理机构申请) | |
专利转让协议(需盖公章)一式两份 | 专利转让协议(需签字)一式两份 | |
专利请求书或手续合格通知书、授权通知书复印件 | 专利请求书或手续合格通知书、专利授权通知书复印件 | |
专利证原件(若授权下证) | 专利证原件(若授权下证) |
日期 | 法律信息 | 备注 |