发明专利 已授权

一种基于Pytorch框架的数据并行优化方法

📄 申请号:CN202310750946.9 📄 发布日:2025/12/10

著录项目信息

申请日
2023-06-25
公开号
CN116501502B
公开日
2023-09-05
申请人
电子科技大学
法律状态
已下证
专利类型
发明
主分类号
IPC 分类号

技术画像

应用场景

人工智能模型训练, 云计算, 高性能计算, 数据中心, 大规模机器学习

摘要

本发明公开了一种基于Pytorch框架的数据并行优化方法,属于计算机技术领域,具体为:加载模型阶段;按照前一轮训练后各节点之间的性能比例,将对应份的数据划分并加载至对应节点中;各节点将加载的数据按照当前轮批大小,对待训练模型进行当前轮训练;第一轮训练中的批大小为总批大小与节点数的比值,第二轮训练中的批大小根据第一轮训练后的性能比例分配总批大小,第三轮及之后的训练中根据前一轮训练所占用的时间计算时间波动率,若大于波动率阀值,根据第一轮训练后的性能比例分配总批大小;否则,采用前一轮训练的批大小。本发明可及时应对集群性能波动,同时避免由于节点性能微小波动而频繁调整批大小,进而带来的额外性能损耗。
权利要求书 (12项) 说明书 附图

……

……

图1
图2
图3

法律状态时间线

议价
不含过户费

📋 交易方式: 委托待转让 📌 交易状态: 在售 👁️ 浏览次数:105 ❤️ 收藏人数:93 📋 项目申报: 未申报

资金托管 权属尽调 包过户
🏢 淄博智来知识产权服务有限公司
✓ 企业认证✓ 手机绑定历史成交 0件好评率 98.5%

📊 出价记录 (3条)
王**¥-10万
李** 企业¥-8万
陈**¥-3万
查看全部出价