一种面向人机对话系统的命名实体识别方法,首先去除大语言模型的因果掩码以充分挖掘大语言模型的双向语义嵌入表征能力,使其更适用于精准的令牌分类任务;然后计算大语言模型语义嵌入的语义相似度并作为新的监督信息融合到大语言模型的语义嵌入中,以改善去掩码大语言模型在恢复双向注意力时标签监督能力不足的问题,从而使模型获得更好的语义嵌入来计算对应的实体分数;最后分别计算实体和类型分数来识别命名实体。本发明考虑了大语言模型的双向语义理解信息和语义相似度信息,提高了大语言模型在人机对话系统中的命名实体识别的准确度。
📄 2025100094878
📂 G06F40_295
👤 浙江工业大学
📅 2025-01-03
本公开提供了一种基于自学习对话模型的人机对话方法及系统;所述方案利用预定义的角色信息训练一个角色信息记忆网络,预测回复时首先利用角色信息记忆网络生成与当前语境相关程度最高的角色信息,并将角色信息输入到对话生成网络中;通过适当地融入角色信息更符合用户之间的对话习惯,使模型生成的回复更加具有个性和多样性;同时,本公开所述方案将基于马尔可夫决策过程的强化学习方式融入模型的学习过程中,对模型的参数进行微调和优化,利用对话生成的模型初始化两个学习体,让它们进行多轮的对话探索;随着学习体的探索,每个学习体的角色信息记忆选择网络会完善对对方的印象描述,一组成功的对话可以让对话双方通过对话的内容和对话者的特点增强对对方的了解。
📄 202011422486X
📂 G06F16_332
👤 山东师范大学
📅 2020-12-08
本发明属于人机交互对话系统领域,具体涉及一种基于时序知识图谱的人机对话兴趣感知方法;该方法包括:获取用户输入内容和机器人对话库数据;根据用户输入内容和对话库数据得到至少两个候选回复;将用户输入内容和候选回复输入到采用基于时序知识图谱的人机对话兴趣感知模型中,得到用户对所有候选回复感兴趣的概率,选择概率最高的候选回复作为机器人的回复内容;本发明既考虑了人机交互过程中外部知识,又考虑了用户兴趣偏好,解决了当前人机交互系统存在机器人背景知识缺乏、用户在对话过程中兴趣度不高的问题,使人机对话更自然,具有广阔的应用前景。
📄 2022100302631
📂 G06F16_3329
👤 重庆邮电大学
📅 2022-01-12