专利名称：基于注意力机制的多时间尺度卷积神经网络软测量方法      申请号：2019106679184     转让价格：面议  收藏
法律状态：已下证   类型：发明   关键词：网络传输 注意力 卷积神经网络 注意力机制   相似专利 发布日：2024/07/05  
摘要： 本发明涉及基于注意力机制的多时间尺度卷积神经网络软测量方法，软测量技术领域。包括以下步骤：1、确定辅助变量并且进行数据处理，选取与难测参量相关的易测变量作为软测量模型的辅助变量并采集辅助变量与难测参量的时间序列；然后对采集到的时间序列进行异常值剔除；2、注意力机制及关注区域的选择，根据各辅助变量相对于难测参量的时延和有效时间尺度划分出关注区域；3、构建软测量模型的输入，将各辅助变量的时间序列构成矩阵，并结合注意力机制的关注区域确定软测量模型的输入；4、建立时序卷积神经网络软测量模型；5、训练时序卷积神经网络软测量模型；6、利用步骤5训练好的时序卷积神经网络模型对难测参量进行实时估计。

专利名称：基于残差收缩模块与注意力机制的岩石薄片图像识别方法      申请号：2021106745751     转让价格：面议  收藏
法律状态：已下证   类型：发明   关键词：注意力 注意力机制   相似专利 发布日：2024/06/28  
摘要： 本发明公开了一种基于残差收缩模块与注意力机制的岩石薄片图像识别方法，该方法包括同时输入岩石薄片的正交偏光图像与单偏光图像；两张图像在通道维度连接；通过分组卷积的方式分别独立提取两张图像的低层次特征；将两组低层次特征融合后，共同提取高层次特征；输入全连接层与softmax分类层完成岩石薄片图像的识别与分类。通过在残差收缩模块中引入软阈值函数抑制和消除特征中的噪音和冗余信息；经过卷积操作后，将不重要的冗余信息等拟合至零附近，通过软阈值化将特征通道中不重要的信息置为零；使用正交偏光图像和单偏光图像进行分类，提取两张图像的高层次特征，利用岩石薄片在不同偏光下反映出的特征，提高算法模型的识别分类效果。

专利名称：一种基于注意力机制的刑期预测方法、设备及存储设备      申请号：2020104309005     转让价格：面议  收藏
法律状态：已下证   类型：发明   关键词：计算机硬件 注意力 注意力机制   相似专利 发布日：2024/06/28  
摘要： 本发明提供了一种基于注意力机制的刑期预测方法、设备及存储设备，首先，根据每个犯罪事实的罪名标签查到相应的罪名量刑标准；其次，将犯罪事实和罪名量刑标准转为词向量矩阵；然后，将词向量矩阵输入长短时记忆网络，输出包含上下文语义特征的向量；之后，通过注意力机制选取重要部分的特征向量，并将两部分向量进行拼接；最后，将拼接后的特征矩阵输入到卷积神经网络中，经过全连接层后进行分类预测。一种基于注意力机制的刑期预测设备及存储设备，用于实现基于注意力机制的刑期预测方法。本发明的有益效果是：本发明的技术方案，方法简单，能够快速的预测某一犯罪事实的刑期，且预测精度较高。

专利名称：一种基于注意力机制与门控循环单元的图像去雨方法      申请号：2020107213127     转让价格：面议  收藏
法律状态：已下证   类型：发明   关键词：注意力 注意力机制   相似专利 发布日：2024/01/30  
摘要： 本发明提出了一种基于注意力机制与门控循环单元的图像去雨方法，首先，构建基于注意力机制与门控循环单元的图像去雨网络架构，包含6个模块，前五个模块每个模块中都包含门控循环单元、空间注意力模块和激活函数；模块1作为编码器，模块2到模块5中分别使用扩张因子为1、2、4和8的膨胀卷积，对应的接受域大小分别为5×5，9×9，17×17，33×33；模块6包含卷积层、通道注意力模块和激活函数，模块6后连接一个1×1的卷积层，作为解码器生成残差映射；然后，选择MSE和SSIM作为损失函数；最后对构建的网络架构进行训练。本发明地解决了在处理含密集雨条纹图像中出现的雨条纹残留和细节模糊的问题，在去除图像中雨线的同时保留了图像的细节部分，使得图像清晰度大幅提高。

专利名称：一种融合多损失函数及注意力机制的知识库问答方法      申请号：2019113698974     转让价格：面议  收藏
法律状态：已下证   类型：发明   关键词：注意力 注意力机制   相似专利 发布日：2024/03/07  
摘要： 本发明公开了一种融合多损失函数及注意力机制的知识库问答方法，该方法将问题和候选答案作为输入，采用Bi‑LSTM、Bi‑GRU作为主要特征提取器，同时融入注意力机制，并使用两个损失函数对模型进行优化，通过采用计算损失值反向传播来更新模型参数，训练网络模型直至该模型收敛。经过网络的训练，最终将问题和候选答案映射到维数相同的特征空间上，并用问题和候选答案特征向量间的内积计算二者的语义相似度，同时利用候选答案之间的余弦相似度来扩大不同答案之间的差异性。通过在SimpleQuestions数据集上进行测试，体现了该模型具有较强的特征映射能力及较高的准确率，从而证明了本方法的优越性。

专利名称：一种基于要素关联注意力机制的汉越新闻文档摘要生成方法      申请号：2019106358709     转让价格：面议  收藏
法律状态：已下证   类型：发明   关键词：注意力 文档 注意力机制   相似专利 发布日：2023/10/23  
摘要： 本发明涉及一种基于要素关联注意力机制的汉越新闻文档摘要生成方法，属于自然语言处理技术领域。本发明首先构建汉越双语词向量，将两种语言的词向量转换到同一语义空间。然后，构建了多特征融合向量，将双语新闻要素共现程度、词频特征、句子位置和句子相关度特征等统计特征融入到双语词向量中。最后，构建了基于要素关联注意力机制的LSTM神经网络模型，计算出句子的重要性分值，依据相关性分析算法，可选取分值较高的句子删除冗余信息生成摘要。本发明在汉越双语新闻文档集上取得了较好的摘要生成效果。

专利名称：基于词性软模板注意力机制的短文本自动摘要方法      申请号：2020103667421     转让价格：面议  收藏
法律状态：已下证   类型：发明   关键词：注意力 注意力机制   相似专利 发布日：2023/10/23  
摘要： 本发明涉及基于词性软模板注意力机制的短文本自动摘要方法，属于自然语言处理技术领域。本发明首先对文本进行词性标记，将标出的词性序列视为文本的词性软模板，指导模型学习构造摘要句的结构规范，在模型的编码端实现词性软模板的表征，然后引入词性软模板注意力机制，将文中名词、动词等词性序列以注意力的方式增强模型对核心词性的关注，最后在解码端联合词性软模板注意力与传统注意力产生摘要句；本发明提出在构建神经网络摘要生成框架时，加入词性软模板注意力机制，指导模型学习合理的词性组合方式，辅助生成结构清晰且语义完整的摘要。本发明有效提升了生成式摘要的性能，在当前ROUGE评价指标上取得了较好的效果。

专利名称：基于多头注意力机制的涉案微博评论的评价对象抽取方法      申请号：2020102541182     转让价格：面议  收藏
法律状态：已下证   类型：发明   关键词：评论 微 微生物采样 注意力 注意力机制   相似专利 发布日：2023/10/23  
摘要： 本发明涉及基于多头注意力机制的涉案微博评论的评价对象抽取方法，首先收集涉案微博正文和微博评论；标记涉案微博评论的评价对象；获取涉案微博评论的字符向量、获取词向量、名词词性相关的词性向量、上下文向量和案件要素向量；将获取的字符向量和词向量进行拼接，并采用多头注意力机制获取词性向量和上下文向量的相关性，同时计算最大的案件要素和词性向量的相似概率权重；将获取得到的拼接向量、相关性权重和最大相似度概率权重进行点乘，得到的结果作为BiLSTM模型的输入，然后经过条件随机场CRF得到最后的序列标签，即抽取结果。本发明取得了较好的抽取效果，在两个典型的涉案微博评论数据集比基线模型分别提高了1％和1.9％。

专利名称：基于自注意力机制的多尺度特征光流学习计算方法      申请号：2020101109187     转让价格：面议  收藏
法律状态：已下证   类型：发明   关键词：注意力 注意力机制   相似专利 发布日：2024/02/21  
摘要： 本发明公开了一种基于自注意力机制的多尺度特征光流学习计算方法，首先选择输入图像序列中的任意连续两帧图像，对选择的上述两帧图像进行金字塔特征提取，并求解序列初始光流场。其次对初始光流场和其对应特征进行特征融合，通过叠加融合特征与其对应的金字塔每层特征，并利用自注意力机制分别捕捉注意力依赖关系；进行通道层面的叠加后，进行特征提取计算求解残差光流场；从而进一步提高模型在大位移运动状态下图像边界或运动边缘处的光流计算精度。改善了图像序列光流计算中因大位移运动产生的边界模糊现象，对于复杂场景和大位移图像序列具有更高的计算精度和更好的适用性。

专利名称：融合信任不信任关系和注意力机制深度推荐方法及系统      申请号：2020100545600     转让价格：面议  收藏
法律状态：已下证   类型：发明   关键词：注意力 注意力机制   相似专利 发布日：2024/02/21  
摘要： 本发明公开了一种融合信任不信任关系和注意力机制深度推荐方法及系统。首先，建立用户信任网络与不信任网络，通过现有的用户评分和社交关系，预测用户间信任关系与不信任关系，使运用到融合信任不信任社交关系和注意力机制的深度推荐模型(TDA_DRM)中的信任值和不信任值更为精准可靠。然后，以深度学习方法为基础，融合注意力机制，不仅考虑了传统方法中用户评分信息对推荐结果的影响，还充分挖掘用户社交行为，为用户选择固定有影响力的社交关系，使评分结果更为精确。最后，将用户信任不信任关系和注意力机制融合到推荐模型中，使得推荐结果可解释性更强。

专利名称：基于双向交叉注意力机制的汉越新闻事件时序关系识别方法      申请号：2019106131184     转让价格：面议  收藏
法律状态：已下证   类型：发明   关键词：注意力 注意力机制   相似专利 发布日：2023/10/23  
摘要： 本发明涉及基于双向交叉注意力机制的汉越新闻事件时序关系识别方法，属于自然语言处理技术领域。本发明利用双向循环神经网络捕获句子语义信息，通过注意力机制增强事件语义信息中的触发词语义信息，通过交叉注意力机制获得时序逻辑语义信息，将三部分语义信息嵌入为事件编码，最后将事件编码与事件间规则特征融合输入至分类层，输出事件时序关系，进而实现事件时序关系识别。本发明目前事件时序关系识别需要大量人力设计基于时间轴的模板，句中的隐含语义信息难以获取，并且不同语言文本很难表示在同一特征空间下等问题，以及解决了获取跨语言新闻事件时序关系较为困难问题。

专利名称：基于句子关联注意力机制的文本摘要生成方法      申请号：2019106355096     转让价格：面议  收藏
法律状态：已下证   类型：发明   关键词：注意力 注意力机制   相似专利 发布日：2023/10/23  
摘要： 本发明涉及基于句子关联注意力机制的文本摘要生成方法，属于自然语言处理技术领域。本发明首先使用分层的双向长短期记忆Bi‑LSTM网络对文档进行编码，获取句子语义向量，然后借助门控网络分析句子间的关联关系，实现句子级别的重要性及冗余性评估，最后提出基于句子关联性注意力机制的解码算法生成摘要；本发明提出在构建神经网络摘要生成框架时，融入句子关联性分析，提升模型对原文中句子重要性及冗余性的评估能力。本发明有效提升了生成式摘要的性能，在当前ROUGH评价指标上取得了较好的效果。

专利名称：一种基于注意力机制的毫米波雷达与视觉传感器融合方法      申请号：202110282139X     转让价格：面议  收藏
法律状态：已下证   类型：发明   关键词：通信技术 传感 注意力 注意力机制   相似专利 发布日：2023/10/23  
摘要： 本发明公开了一种基于注意力机制的毫米波雷达与视觉传感器融合方法，属于人工智能技术领域。本方法首先在数据层的空间上利用雷达的空间信息确定重点检测区域，并且突出重点检测区域的特征，形成空间上的软注意力；其次，在特征层的通道上用通道注意力权重学习方法，对毫米波雷达与视觉权重进行合理的分配，解决了毫米波雷达与视觉融合的权重分配的问题。本方法与现有技术相比，在空间和通道上分别利用空间软注意力和通道注意力权重学习，解决了传统数据层融合的行人和小物体检测效果不佳，以及特征层融合时毫米波雷达与视觉的权重分配的问题。

专利名称：利用局部多头注意力机制融合词-音节对的泰文和缅甸文词性标注方法      申请号：202111078804X     转让价格：面议  收藏
法律状态：已下证   类型：发明   关键词：注意力 注意力机制   相似专利 发布日：2023/10/23  
摘要： 本发明涉及利用局部多头注意力机制融合词‑音节对的泰文和缅甸文词性标注方法，属自然语言处理领域。本发明包括：预处理泰文或者缅甸文文本数据集；使用窗口化的方式选择词语‑音节对特征作为模型输入；之后利用局部多头注意力机制从词语‑音节对序列中学习上下文特征；最后通过条件随机场建模词性依赖关系，进行词性标签的预测。针对泰文和缅甸文词性标注数据集的实验结果表明，与当前最优模型相比，本发明将音节作为词语的形态学特征进行融入，有助于学习未知词的上下文特征，缓解未知词错误标注对模型性能的影响。并且本发明采用局部多头自注意力机制可以使模型获取更丰富的局部依赖特征，在词性标注任务中取得更好的标注结果。

专利名称：基于注意力机制的目标变换方法      申请号：2018108662770     转让价格：面议  收藏
法律状态：已下证   类型：发明   关键词：注意力 注意力机制   相似专利 发布日：2023/10/23  
摘要： 本发明涉及一种基于注意力机制的目标变换方法，包括：训练神经网络模型：步骤1，使用随机数初始化神经网络模型的参数；步骤2，输入一张属于类别X的图像x到模型的生成器G中，进入编码阶段，x经过一个卷积层来计算出第一层特征图f1。利用上述训练得到的神经网络模型进行图像的目标变换，通过在模型中引入注意力机制，使模型能够在目标变化任务中识别出需要转换的目标物体，从而将目标和背景区分开。同时，通过构建注意力一致损失函数和背景一致损失函数来保证原始图像和转换图像的背景一致性。

专利名称：基于实体相关注意力机制的实体关系联合抽取方法      申请号：2021106008083     转让价格：面议  收藏
法律状态：已下证   类型：发明   关键词：注意力 注意力机制   相似专利 发布日：2023/10/17  
摘要： 本发明涉及互联网络人工智能技术和自然语言处理技术领域，具体涉及基于实体相关注意力机制的实体关系联合抽取方法，其包括：获取待处理文本；将待处理文本输入经过预先训练的实体关系联合抽取神经网络模型中；实体关系联合抽取神经网络模型首先识别所述待处理文本中的所有实体；然后将各个实体分别作为目标头实体去识别对应的目标尾实体；最后识别各个目标头实体与对应目标尾实体之间的关系，并根据目标头实体、目标尾实体和相应关系构建对应的三元组；输出所有的三元组。本发明中的实体关系联合抽取方法能够保证实体关系联合抽取关联性并解决重叠关系问题，从而能够提升实体关系联合抽取的效果。

专利名称：基于改进深度残差网络和注意力机制的实体关系抽取方法      申请号：2019108801640     转让价格：面议  收藏
法律状态：已下证   类型：发明   关键词：网络传输 改 实体关系抽取 注意力 注意力机制   相似专利 发布日：2023/10/17  
摘要： 本发明公开了一种基于改进深度残差网络和关系词注意力机制的实体关系抽取方法，包括如下步骤：通过对远程监督实体关系数据集的处理，将英文转换为词向量；获取关系词，并计算余弦相似度提取句子的关系词权重；分别引入分段和门控机制，形成分段的具有门模块的残差网络，采用分段门控残差网络对特征通道进行分段；在残差网络的后段最大池化层的基础上拼接平均池化层形成双池化层，用于保留句子结构特征；得到模型最终的句子特征；将得到的句子特征进行关系分类，得到输出实体关系。本发明将深度残差网络应用到关系提取的远程监督数据集上，通过加深网络层数，有效提高模型降噪能力，同时，提出了分段门控残差模块，有效提高了深度残差网络的性能。

专利名称：一种基于残差注意力机制的指静脉识别方法      申请号：2021103262133     转让价格：面议  收藏
法律状态：已下证   类型：发明   关键词：静脉识别 注意力 注意力机制   相似专利 发布日：2023/10/17  
摘要： 本发明提出了一种基于残差注意力机制的指静脉识别方法，包括以下方法步骤：对原始指静脉图像进行边缘检测，得到单像素宽的手指边缘线后，对原始指静脉图像进行旋转矫正；获取不包含背景信息的指静脉前景图像；确定指静脉感兴趣区域ROI；对数据集各类别中的指静脉图像样本重复以上步骤得到每张指静脉图像的ROI；对处理后的指静脉数据集进行训练集和测试集的划分；使用改进的残差注意力网络进行融合特征提取；对所述改进的残差注意力网络进行训练即可得到指静脉图像分类网络；将对获取到的原始指静脉图像输入已训练好的基于残差注意力机制的指静脉图像分类网络，即可输出识别结果。

专利名称：一种基于注意力机制和全局检索的药物推荐方法      申请号：2023104288360     转让价格：面议  收藏
法律状态：已下证   类型：发明   关键词：生物医药 注意力 注意力机制   相似专利 发布日：2023/10/17  
摘要： 本发明公开了一种基于注意力机制和全局检索的药物推荐方法，所述药物推荐方法包括患者信息编码、药物信息图编码、患者记忆模块和药物推荐模块，患者信息编码的目标是基于诊断代码和手术代码以及这两者之间的关系来表示患者的健康状况，药物信息图编码旨在模拟两种药物之间的关系，通过EHR图和DDI图之间的运算，最大程度的控制DDI在控制范围内，以保证推荐药物的安全性，患者记忆模块是获取了其他患者访问医院的健康情况与当前患者的健康情况的相似性，再通过计算当前患者的健康状态与所有病人之间的权重，以提高药物推荐的准确性，药物推荐模块会基于患者的健康状态以及安全的药物为患者推荐药物。

专利名称：一种基于注意力机制的LSTM-CNN策略的安全药物推荐方法      申请号：2023104973697     转让价格：面议  收藏
法律状态：已下证   类型：发明   关键词：生物医药 C L LED芯片 注意力 注意力机制   相似专利 发布日：2023/10/17  
摘要： 本发明涉及一种基于注意力机制的LSTM‑CNN策略的药物推荐方法。本方法具体包括S1：对数据集中的数据进行预处理操作，以获得可供模型进行特征处理的基础数据；S2：将基础数据作为输入，通过LSTM‑CNN策略对患者进行特征提取，以获得患者表示；S3：通过MolCode模块获取药物组合向量；S4：将药物组合向量输入全连接神经网络进行预测；S5：利用损失函数对整体模型进行训练；S6：通过整体模型预测每种药物组合和患者疾病或症状的关联程度，并将结果按照一定的规则进行排序，获得最终的预测结果。经过实验证明，本方法能有效提高为患者推荐药物的准确性并降低药物组合间的相互作用。