一种基于全局注意力机制表征学习的社交网络服务平台好友推荐方法,建立网络模型,利用LINE方法将社交网络转化为欧式空间中的结构嵌入向量,基于相邻节点的属性向量,利用CNN网络计算特征矩阵,考虑相邻节点间的注意力权重,得到两个节点的相关性矩阵,随后对相关性矩阵做行和列的平均池化和softmax函数得到节点对的信息嵌入向量;将网络结构嵌入和信息嵌入向量按比例相加,计算节点的嵌入向量,当目标函数达到设定的目标值时,得到所有节点的嵌入向量,使用节点的嵌入向量计算皮尔逊系数,皮尔逊系数高的用户对被推荐为好友。本发明引入全局注意力机制来考虑社交网络用户间的信息,使得表征向量精度提高,提升好友推荐算法的性能。
📄 2020108941742
📂 G06F16_9536
👤 浙江工业大学
📅 2020-08-31
本发明公开了一种基于双注意力机制与语义约束角的高分辨率遥感图像的道路提取方法,包括以下步骤:S1,对Massachusetts数据集里面的遥感道路图像进行操作来进行数据集的数据扩增,对数据集里面的遥感道路图像的标签图像进行语义约束角计算的数据预处理操作;S2,使用卷积神经网络提取遥感道路图像的特征图,并在卷积神经网络中加入位置注意力机制和通道注意力机制来计算不同通道和位置的特征权重,让网络模型能够更好的获取不同位置和不同通道的语义信息;S3,设计主损失函数,辅助损失函数来优化网络参数;S4,用训练好的模型在测试样本集上进行测试,经过网络模型的特征提取和特征上采样来得到最终的分割图像。
📄 2020105219186
📂 G06K9_00
👤 杭州电子科技大学
📅 2020-06-10
本发明涉及一种结合注意力机制与动态时空卷积模型的车辆流量预测方法,针对现有模型无法有效利用道路间车流量转移关系的问题,提出了道路级流量转移嵌入模块,学习到道路间的流量转移时间序列的张量表示;针对现有方法无法捕获动态变化的空间依赖的问题,提出了动态空间注意力模块,用于计算动态变化的空间依赖矩阵;针对现有模型无法有效对时序重要性有效建模的问题,提出了动态时间注意力模块,用于计算时序注意力权重。通过上述组件,本模型可以有效利用道路流量转移数据、捕获道路间动态变化的时空依赖关系,从而提高道路电动自行车流量预测的准确性。
📄 2021116807701
📂 G08G1_065
👤 杭州电子科技大学
📅 2021-12-29
本发明公开了基于双向多粒度注意力的无监督学习关键词抽取方法,包括以下步骤:提取所述原生文本D中的短语,构建关键词候选集合;将原生文本D和关键词候选集合向量化;使用自注意力机制处理细粒度向量Xi以提高细粒度向量的自身表征能力,得到与细粒度向量Xi相同维度的强化细粒度向量X′;强化粗粒度向量;获得评分矩阵和关键词张量序列,得到编码器模型结果表明,训练模型并得到关键词。这种方法在关键词筛选时,提供一种通过双向多粒度注意力调节模型训练过程中进行特征选择的有效机制,以帮助关键词抽取模型在训练过程中,尽可能地利用关键词提供的信息进行下游任务。
📄 2022115938476
📂 G06F40_289
👤 杭州来赛科技有限公司
📅 2022-12-13
本发明公开了一种基于多头注意力机制的事件论元角色抽取方法。本发明实现步骤如下:步骤(1)数据集文本预处理,输出预处理好的文本和对应的标签;步骤(2)训练融合多头监督注意力机制的双向GRU网络;步骤(3)对文本进行语义依存分析,输出触发词与候选论元之间的语义依存路径;步骤(4)将预处理好的文本输入步骤(2)中网络训练后输出每个词的编码,融合步骤(3)中的语义依存路径输出<触发词编码,候选论元编码,语义依存路径>论元分类结构;步骤(5)将论元分类结构输入分类网络训练并进行分类。本发明利用融合多头监督注意力机制的神经网络方法对文本进行分析,对事件句中存在多个事件情形具有良好的论元角色抽取能力。
📄 2019103159489
📂 G06F16_31
👤 杭州电子科技大学
📅 2019-04-19
本发明公开了一种基于空谱联合注意力机制的医学高光谱图像分类方法,属于图像处理领域,该方法为:将全部N张高光谱图像数据构成数据集D,将数据集D划分为训练集和测试集;为高光谱图像的每个波段赋予重要性权重;构建可保留空间分辨率的高光谱图像重构网络,学习高光谱图像的低维特征;将低维特征输入到金字塔池化双注意力轻量化残差分类网络,计算得到最终的分类结果。本发明在图像降维和分类过程中充分利用高光谱图像的波段信息和空间信息,实现医学高光谱图像的准确分类,有效提升了最终的分类精度。
📄 2023108763433
📂 G06V10_764
👤 山东科技大学
📅 2023-07-18
本发明属于社交网络分析传播领域,特别涉及一种基于注意力机制的网络舆情事件演化趋势预测方法,包括从基于Web的研究型推荐系统下载或者利用社交平台的公共API获取原始数据;对于获取的数据进行预处理,并去除数据中的噪声和冗余数据,提取在信息传播过程中用户之间的注意力;构建基于注意力机制的GRU模型;利用历史数据通时间反向传播算法过对模型进行训练,在训练过程中最小化损失函数,训练参数通过使用小批量的Momentum优化器来更新;将待预测的数据输入训练好的模型,即可预测信息下一阶段可能传播的用户;本发明可以对信息传播过程进行有效干预和实时控制。
📄 2020110984430
📂 G06F16_9536
👤 重庆邮电大学
📅 2020-10-14
本发明公开了一种基于ChineseBERT模型和注意力机制的化工突发事件新闻分类方法,首先对文本数据进行文本预处理;然后,对词语进行注意力机制处理,提取单词和子序列的信息依赖关系;与此同时,基于改进ChineseBERT预训练模型进行拼音信息和字符信息的提取;之后对拼音信息和字符信息进行矩阵融合,同时加上位置信息,保持上下文语义的完整性,通过经典的Bert模型进行处理,使用参数共享机制,得到最终的信息特征向量;对得到的上下文语义向量和信息依赖关系向量融合,作为CNN的输入,得到最终的化工新闻分类结果。本发明充分优化了文本的拼音字符语义信息;提取词语的依赖关系和局部依赖关系的问题;通过Bert模型参数共享机制降低时间复杂度的问题,有效的提高文本分类的精确度。
📄 2022100308248
📂 G06F16_353
👤 淮阴工学院
📅 2022-01-12
本发明涉及一种基于多头注意力机制的交通流预测方法,包括获取目标道路所在目标区域的路网地理图及其历史交通流数据;构建地理邻域子图和语义相似性子图;利用多头注意力机制分别计算地理邻域子图和语义相似性子图中道路节点与其相邻节点之间的权重,更新地理邻域子图和语义相似性子图的邻接矩阵;利用参数融合法将更新后的地理邻域子图和语义相似性子图的邻接矩阵进行融合得到融合矩阵,根据融合矩阵利用GCN提取目标道路节点的时空特征序列;将目标道路节点的时空特征序列和目标道路节点的交通流数据输入双向GRU模型,根据双向GRU模型的正向输出和反向输出通过全连接层得到目标道路节点的交通流预测结果。
📄 2023109952644
📂 G08G1_01
👤 重庆邮电大学
📅 2023-08-09