专利交易市场

本发明公开了一种降低大规模分布式机器学习系统能耗的方法。本发明通过分类器对分布式机器学习系统的负载进行分类识别、状态预测，并通过减少分布式参数服务器间的通信加速任务运行来降低整个分布式机器学习系统的能耗。本发明的方法包含两部分：机器学习负载预测与类型识别方法、分布式机器学习节点间参数“懒同步”机制。本发明通过只将显著更新传递到远程数据中心来减少广域网通信的参数同步机制可以有效减少系统等待时长，加快机器学习收敛速率。对机器学习负载的预测和类型的判别有助于提高工作机的利用率，避免大量工作机开启后处于闲置状态。以上方法缩短了机器学习任务的执行时间，提高了工作机利用率，大大降低了系统能耗。

本发明请求保护一种优化网络延迟的分布式ADMM机器学习方法。一个凸优化问题可以分解成许多子凸优化问题，每个子凸优化问题可以通过ADMM算法在对应的子节点解决。针对基于桥节点和工作节点的分布式ADMM算法的整体运行速度受限于网络连接延迟的影响，本发明提出了一种优化网络延迟的分布式ADMM机器学习算法，即在进行ADMM迭代运算前，考虑网络延迟的影响，动态地规划桥节点的位置以及个数，在相当程度上可以克服网络延迟、动态性、拓扑形态、带宽限制、数据分布化存储等网络特性对算法性能造成的影响。