发明专利 已授权

一种基于Unilm优化语言模型的中文问题生成方法

📄 申请号:CN202111244389.0 📄 发布日:2026/03/05

著录项目信息

申请日
2021-10-25
公开号
CN114328853B
公开日
2024-02-06
申请人
西安理工大学
法律状态
已下证
专利类型
发明
主分类号

技术画像

应用场景

智能问答, 智能客服, 教育辅助, 文本生成, 搜索引擎

摘要

本发明公开了一种基于Unilm优化语言模型的中文问题生成方法,本发明在Unilm模型中加入每个单字和领域词汇的相对位置信息时设置了一种相对位置遮盖矩阵,将该矩阵融入模型不仅能学到更多的位置关系也可以在针对目标领域输入生成问题时具有更好的效果。同时使用copy机制,使得输出在一定程度上能从原句中拷贝,提高了输出语句和原句的相关性。为了提高训练数据样本,使用了回译与实体词替换相结合的策略实现数据的增强。领域预训练也被应用于模型用于增强模型在特定领域的推断能力。基于这三个策略同样的问答数据集本发明提出模型具有更好的效果。
权利要求书 (12项) 说明书 附图

……

……

图1
图2
图3

法律状态时间线

20240206
✅ 授权
20220429
?? 实质审查的生效 :
20220412
📄 公开

相似专利推荐 AI 驱动 · 同领域

暂无同领域相似专利推荐
议价
不含过户费

📋 交易方式: 委托待转让 📌 交易状态: 在售 👁️ 浏览次数:62 ❤️ 收藏人数:93 📋 项目申报: 未申报

资金托管 权属尽调 包过户
🏢 淄博智来知识产权服务有限公司
✓ 企业认证✓ 手机绑定历史成交 0件好评率 98.5%

📊 出价记录 (3条)
王**¥-10万
李** 企业¥-8万
陈**¥-3万
查看全部出价