本发明公开了一种句法信息注意力引导的图卷积网络关系抽取方法，包括以下步骤：1)基于BERT预训练模型的字向量表示；2)基于双向长短期记忆网络来对每个单词进行上下文编码，得到包含上下文信息的每个单词的向量表示；3)融合句法依赖类型信息的图卷积网络词节点特征表示；4)通过得到的句子向量的特征表示进行关系抽取。本发明在关系抽取模型建模中考虑了依存类型信息，提高了关系抽取模型的性能。
📄 202210290585X
📂 G06F40_211
👤 浙江工业大学
📅 2022-03-23
本发明公开了一种服务流程抽取方法，首先用Bert进行语义编码得到词向量表示，然后通过BILSTM获取句子中的上下文特征，同时通过multi‑head attention机制获取跨句子之间的特征，即从不同的粒度对信息进行编码，之后通过门机制融合句子中和跨句子之间的特征，获得文档中丰富的上下文语义编码信息，然后通过多任务优化从局部和全局角度学习事件之间的顺序关系最终得到有序事件序列。本发明能够在文档级别上实现有序事件的提取，从不同的粒度即句子中和跨句子之间获取丰富的上下文语义编码信息，最后通过局部事件对排序任务以及全局任务对事件进行打分并排序得到有序事件序列。
📄 202110623083X
📂 G06F40_211
👤 浙江工业大学
📅 2021-06-04
本发明公开了一种汉语法律判决摘要生成方法及系统，属于法律文书数据处理的技术领域，该生成方法包括：S1：从原始法律判决中提取重要的语句；S2：根据上述各个语句的语篇结构分别对其进行分词；S3：根据分词后所获取的关键语句生成抽象摘要，并将抽象摘要融合为法律判决摘要，以达到解决法律判决存在输入长度长、语篇结构特殊以及显著内容分布均匀的问题，能有效生成汉语法律判决的目的。
📄 2021109804836
📂 G06F40_211
👤 西华大学
📅 2021-08-25
本发明公开了一种神经网络、训练方法、方面级情感分析方法、装置及存储介质，神经网络包括：BERT词嵌入模块获得输入文本的语义信息和输入文本中待分析语句所有单词的词向量；第一全连接层基于语义信息获得语义特征向量；第二全连接层基于词向量获取单词特征向量；潜在狄利克雷分布模块分别提取待分析语句的主题分布和方面情感对的主题分布；特征融合层判断待分析语句是否与方面情感对匹配；解码标注模块在解码序列中标记出目标词语位置获得标记序列；输出层为基于特征融合层输出的判断结果输出情感分析结果。实现多任务输出，通过特征融合层将语义信息与主题分布进行特征融合，学习到特定领域的词汇，提升模型的情感分类任务效果。
📄 2021116595002
📂 G06F40_211
👤 重庆大学
📅 2021-12-30
本发明提出一种集成句法信息的嵌套命名实体识别方法及系统，所述方法包括如下步骤：抽取给定句子中每个当前词对应的短语句法特征，集合短语句法特征以得到短语句法信息；以短语句法信息作为额外输入，并基于注意力机制构建得到边界检测模型，用于筛选出给定句子中包含命名实体的文本片段并加入到候选文本片段集中；抽取给定句子中每个当前词对应的依存句法特征，集合依存句法特征以得到依存句法信息；以依存句法信息作为额外输入，并基于注意力机制构建得到类别预测模型，类别预测模型用于预测候选文本片段为特定类别实体的概率以及不是实体的概率。本发明提出的集成句法信息的嵌套命名实体识别方法，可提高实际识别准确度。
📄 2021107725543
📂 G06F40_211
👤 华东交通大学
📅 2021-07-08
本发明提供了一种聚焦属性相关文本的属性级情感分类方法，包括：步骤1，对数据进行预处理使得数据中的每个样本包含属性Xa和上下文Xc，通过Bert预训练模型来获得属性和上下文的文本表征序列和其中，M和N分别代表输入样本中属性的个数和上下文的长度。本发明所提供的聚焦属性相关文本的属性级情感分类方法，使用了本发明设计的掩盖方法来缓解注意力分散问题。本发明充分利用了属性相关上下文信息，缓解了传统Attention‑LSTM网络在处理多属性多情感的文本时，由于注意力会分散到整个句子中，引入了噪声而导致模型的分类性能下降的问题。
📄 2020102842029
📂 G06F40_211
👤 中南大学
📅 2020-04-13
本发明涉及一种文本风格的自动化评判方法，属于人工智能技术领域，通过特定的风格标签提取、基于深度学习模型训练调优等进行文本风格判断的流程，得到自动化文本风格的判别模型，并将其部署在文本判别系统中，增加文本过筛的效率，在新的标签加入时无需对模型进行重新训练，且更符合人类理解，具有很好的可扩展性。
📄 2022104755128
📂 G06F40_211
👤 电子科技大学
📅 2022-04-29
本申请涉及人工智能技术领域，揭示了一种句子向量生成方法、装置、设备及存储介质，其中方法包括：获取目标文本数据；将所述目标文本数据输入句子向量生成模型进行句子向量生成，得到所述目标文本数据对应的目标句子向量，其中，所述句子向量生成模型是采用多个训练样本对神经网络训练得到的模型，每个所述训练样本包括：语料片段和语料片段定义。从而实现基于语料片段和语料片段定义对神经网络训练进行训练得到句子向量生成模型，降低了训练难度，避免了采用无监督学习的方法或基于对比学习的方法构建句子向量。
📄 2021112504678
📂 G06F40_211
👤 平安科技(深圳)有限公司
📅 2021-10-26
本发明提出了一种融合词屏蔽数据增强与对抗学习的特定目标情感分析方法，包括以下步骤：S1，运用屏蔽目标实体的方式对句子进行同义词替换和随机插入单词生成有效的样本并与原始样本进行融合，从而实现词屏蔽数据增强；S2，构建了基于BERT‑BASE的对抗学习特定目标情感分类模型，运用干净样本和对抗样本一起训练情感分类模型，使模型具有对抗防御的功能；S3，分别将原始样本和数据增强后的样本进行对抗学习。本发明采用了数据增强与对抗训练，具有较强鲁棒性，能够取得更优的结果。
📄 2021109992197
📂 G06F40_211
👤 重庆理工大学
📅 2021-08-28
本发明提出一种基于依存语义注意力机制的词对上下位关系训练方法。该训练方法依次遍历词对语料库中的所有词对，对于每组词对，在文本语料库中找到所有的词对共现句，对这些共现句进行依存句法分析得到最短依存路径；利用BERT模型和依存语义注意力机制生成最短依存路径的路径向量，然后利用打分函数调整这些路径向量，将它们进行平均池化处理并融合词对的词向量得到分类器输入向量，最后将分类器输入向量通入Softmax函数进行训练。本发明能够有效挖掘句子中隐含的上下位关系，进而提高分类器的识别准确率。
📄 2020113314981
📂 G06F40_211
👤 杭州电子科技大学
📅 2020-11-24
本发明提出了一种基于词屏蔽数据增强与对抗学习的特定目标情感分析方法，该方法包括以下步骤：S1，运用屏蔽目标实体的方式对句子进行同义词替换和随机插入单词生成有效的样本并与原始样本进行融合，从而实现词屏蔽数据增强；S2，构建了基于BERT‑BASE的对抗学习特定目标情感分类模型，运用干净样本和对抗样本一起训练情感分类模型，使模型具有对抗防御的功能；S3，分别将原始样本和数据增强后的样本进行对抗学习。本发明采用了数据增强与对抗训练，具有较强鲁棒性，能够取得更优的结果。
📄 2021109992318
📂 G06F40_211
👤 重庆理工大学
📅 2021-08-28
本发明请求保护一种基于深度学习语言模型融合语义特征的关键词提取方法，属于于文本处理中的关键词提取研究领域，对于目标文本，首先使用文本处理工具对其进行处理，仅保留其中的形容词和名词，作为目标文本的候选关键词，然后将这些候选关键词输入到预训练语言模型，得到每个候选关键词的向量表示，接着将目标文档进行分句处理，按句子为单位，同样输入到预训练语言模型中，得到每个句子的向量表示，对于每个候选关键词，计算其与文本中每个句子的相似度之和的均值，作为该候选关键词的最终得分，最后根据候选关键词的得分高低排序，得到文本的关键词。
📄 2020112168757
📂 G06F40_211
👤 重庆邮电大学
📅 2020-11-04
柿子坊 · 知识产权运营
柿子坊知识产权运营平台