发明专利已授权

一种神经网络模型动态分层梯度压缩方法

📄 申请号：CN202410387893.3 📄 发布日：2026/06/05

著录项目信息

申请日

2024-04-01

公开号

CN118052260B

公开日

2024-08-02

申请人

兰州交通大学

法律状态

已下证

专利类型

发明

主分类号

G06N3_0495

IPC 分类号

G06N3_0495 , G06N3_084 , G06N3_0464 , G06N3_0442 ,

技术画像

所属领域

神经网络模型神经网络梯度压缩模型压缩神经网络模型

应用场景

分布式训练, 边缘计算, 人工智能模型部署, 云计算, 联邦学习

AI 智能推荐 · 同申请人专利 · 搜索相似专利

摘要

一种深度神经网络模型动态分层梯度压缩方法，将梯度稀疏化压缩方法与流水线并行技术相结合，为每层神经网络匹配一个合适的阈值，通过在后续迭代时动态调整该阈值，实现对每层网络传输梯度的自适应压缩。之后，结合给定的模型结构和硬件配置信息，利用启发式动态规划算法求解最佳的层梯度组合通信方式，将多层小尺度梯度张量合并为一层通信。最后，将求解出的最优的层梯度合并组合应用于具体的训练迭代过程，在保证模型训练精度的同时，提升大规模深度神经网络模型训练速度，实现计算与通信最大化重叠，提高计算资源利用率，为充分利用硬件计算资源，提升深度神经网络模型训练速度提供一个有效的解决方法。

权利要求书 (12项) 说明书附图

……

图1

图2

图3

法律状态时间线

一种智能发电减速带

当前第 / 件

铁路轨道磨损量评估方法及系统

同领域国内专利 · IPC: (G06N3_0495)

G06N3_00 G06N3_006 G06N3_008 G06N3_02 G06N3_04 G06N3_042 G06N3_043 G06N3_044 G06N3_0442 G06N3_045 G06N3_0455 G06N3_0464 G06N3_0475 G06N3_048 G06N3_049 G06N3_0495 G06N3_0499 G06N3_06 G06N3_063 G06N3_065 G06N3_067 G06N3_08 G06N3_082 G06N3_084 G06N3_086 G06N3_088 G06N3_0895 G06N3_09 G06N3_092 G06N3_094 G06N3_096 G06N3_098 G06N3_0985 G06N3_12 G06N3_126 覆盖35个领域

¥14000.0 元

不含过户费

📋 交易方式： 委托待转让 📌 交易状态：在售 👁️ 浏览次数：77 ❤️ 收藏人数：93 📋 项目申报： 未申报

资金托管权属尽调包过户

🏢 深圳万知达技术转移中心有限公司

✓ 企业认证✓ 手机绑定历史成交 13件好评率 98.5%

📊 出价记录 (3条)

王**¥-10万

李** 企业¥-8万

陈**¥-3万

查看全部出价

我要出价 (议价)

一种神经网络模型动态分层梯度压缩方法

著录项目信息

技术画像

所属领域

应用场景

摘要

法律状态时间线

同领域国内专利 · IPC: (G06N3_0495)

相似专利推荐 AI 驱动 · 同领域

关键点标注方法、装置、电子设备及存储介质

零部件的检测方法、装置、电子设备及存储介质

对象的识别方法、装置、电子设备

服务项目

资源中心

关于柿子坊