发明专利已授权

用于文本匹配的BERT模型的预训练方法、计算机装置和存储介质

Name: 用于文本匹配的BERT模型的预训练方法、计算机装置和存储介质
Brand: 平安科技(深圳)有限公司
SKU: 2021107450184
Availability: InStock

📄 申请号：CN202110745018.4 📄 发布日：2026/10/04

著录项目信息

申请日

2021-06-30

公开号

CN113434699B

公开日

2023-07-18

申请人

平安科技(深圳)有限公司

法律状态

已下证

专利类型

发明

主分类号

G06F16_36

IPC 分类号

G06F16_36 , G06F40_247 , G06F40_30 , G06F18_27 , G06N3_047 , G06N3_045 , G06N3_08 ,

技术画像

所属领域

其他分类其他

应用场景

文本匹配, 信息检索, 智能问答, 语义理解

AI 智能推荐 · 同申请人专利 · 搜索相似专利

摘要

本发明公开了一种BERT模型的预训练方法，包括加载BERT模型，BERT模型调用多个注意力机制模块，获取掩模矩阵，将训练数据、知识矩阵以及掩模矩阵分别输入至各注意力机制模块进行处理，获取各注意力机制模块的输出，对各注意力机制模块的输出进行字符串拼接和线性化处理，获得语义向量，根据语义向量与掩模矩阵的比较结果，确定训练损失值，对注意力机制模块的网络参数进行调整等步骤。本发明可以将知识矩阵直接嵌入到BERT模型的多头注意力机制中，即使不引入使用外部知识的预训练任务对BERT模型进行预训练，也可以增强BERT模型在文本匹配任务中的同义词理解和识别能力。本发明可广泛应用于自然语言技术领域。

常见问题

这项专利是否已经下证？

是的，该专利已下证，法律状态为“已下证”，公开号： CN113434699B

购买这项专利需要经过哪些流程？

平台提供担保交易、全程代办转让手续。买家可委托平台代购，平台协助完成权属尽调、合同签署、国家知识产权局著录项目变更等流程。

该专利的转让价格是多少？

当前标价为议价，可委托平台代购或预约谈判。

权利要求书 (12项) 说明书附图

……

图1

图2

图3

法律状态时间线

漏洞扫描方法、装置、计算机设备及介质

当前第 / 件

产品推荐路径生成方法、装置、设备及存储介质

同领域国内专利 · IPC: (G06F16_36)

G06F16_00 G06F16_11 G06F16_13 G06F16_14 G06F16_16 G06F16_17 G06F16_172 G06F16_174 G06F16_176 G06F16_178 G06F16_18 G06F16_182 G06F16_20 G06F16_21 G06F16_215 G06F16_22 G06F16_23 G06F16_24 G06F16_242 G06F16_245 G06F16_2452 G06F16_2453 G06F16_2455 G06F16_2457 G06F16_2458 G06F16_248 G06F16_25 G06F16_26 G06F16_27 G06F16_28 G06F16_29 G06F16_31 G06F16_33 G06F16_332 G06F16_3329 G06F16_3331 G06F16_3332 G06F16_334 G06F16_335 G06F16_338 G06F16_34 G06F16_35 G06F16_353 G06F16_355 G06F16_36 G06F16_38 G06F16_383 G06F16_387 G06F16_41 G06F16_43 G06F16_432 G06F16_435 G06F16_44 G06F16_45 G06F16_48 G06F16_483 G06F16_50 G06F16_51 G06F16_53 G06F16_532 G06F16_535 G06F16_54 G06F16_55 G06F16_56 G06F16_58 G06F16_583 G06F16_587 G06F16_61 G06F16_63 G06F16_632 G06F16_635 G06F16_638 G06F16_64 G06F16_65 G06F16_68 G06F16_683 G06F16_71 G06F16_73 G06F16_732 G06F16_735 G06F16_738 G06F16_74 G06F16_75 G06F16_78 G06F16_783 G06F16_787 G06F16_81 G06F16_832 G06F16_835 G06F16_90 G06F16_901 G06F16_903 G06F16_9032 G06F16_9035 G06F16_904 G06F16_906 G06F16_907 G06F16_93 G06F16_95 G06F16_951 G06F16_953 G06F16_9532 G06F16_9535 G06F16_9536 G06F16_9537 G06F16_9538 G06F16_954 G06F16_955 G06F16_957 G06F16_958 覆盖110个领域

议价

不含过户费

📋 交易方式： 委托待转让 📌 交易状态：在售 👁️ 浏览次数：7 ❤️ 收藏人数：93 📋 项目申报： 未申报

资金托管权属尽调包过户

🏢 淄博智来知识产权服务有限公司

✓ 企业认证✓ 手机绑定历史成交 2657件好评率 98.5%

📊 出价记录 (3条)

王**¥-10万

李** 企业¥-8万

陈**¥-3万

查看全部出价

我要出价 (议价)

用于文本匹配的BERT模型的预训练方法、计算机装置和存储介质

著录项目信息

技术画像

所属领域

应用场景

摘要

常见问题

这项专利是否已经下证？

购买这项专利需要经过哪些流程？

该专利的转让价格是多少？

法律状态时间线

同领域国内专利 · IPC: (G06F16_36)

相似专利推荐 AI 驱动 · 同领域

基于剪枝预训练模型与人工特征编码融合的4mC位点识别方法

结合图像处理技术与红外传感器的火灾探测方法及系统

基于A-Star算法是森林火灾指示逃生路径方法及系统

服务项目

资源中心

关于柿子坊