本发明公开了一种基于自适应半异步联邦学习的模型训练系统、方法及设备，系统包括客户端、服务器，客户端和服务器通过多轮交互实现模型的迭代更新以完成全局模型训练。在整个过程中客户端数据始终保存在客户端本地，同时客户端可以随时加入或退出本系统的模型训练。由于客户端的性能差异，不同客户端完成一次本地训练的用时不同，为了提高全局模型训练的效率，服务器在收到一定数量的本地模型参数后即刻开始进行局部模型参数的更新，并在等待一定时间后根据其余客户端本地模型的达到情况，自适应地决定是进行一次全局同步模型更新还是一次全局异步模型更新。本发明可灵活应用于分布式机器学习、分布式深度学习的应用场景中，具有很高的实用性。
📄 202310872459X
📂 G06N20_00
👤 湖北工业大学
📅 2023-07-14
本发明公开了一种基于宽度学习的联邦学习策略优化方法和装置，包括：(1)对边缘端的本地模型进行模型初始化，同时在服务器端部署宽度学习网络；(2)对本地模型进行预训练，采用主动学习策略筛选出信息熵含量前n大的n个较优特征向量上传至服务器端；(3)服务器端以n个较优特征向量作为宽度学习网络的输入数据，获得输出宽度学习网络对输出数据的预测置信度，并根据预测置信度更新宽度学习网络的参数，同时返回预测置信度至边缘端；(4)边缘端利用返回的预测置信度更新本地模型的参数；(5)迭代(2)～(4)，参数确定的本地模型作为特征提取器，参数确定的宽度学习网络作为分类器，组成联邦学习模型，以提高模型的训练速度。
📄 2021102202756
📂 G06N20_00
👤 浙江工业大学
📅 2021-02-26
本发明公开了一种基于神经元分布特征的联邦学习中毒检测方法，包括以下步骤：(1)获取在客户端训练并上传的多个边缘模型，依据每个客户端对应的相邻几次上传的边缘模型的相似度，从每次上传的多个边缘模型筛选满足筛选要求的多个边缘模型作为候选中毒模型；(2)依据模型参数的分布状态，从候选中毒模型中筛选至少1个模型作为中毒模型，并剔除中毒模型，(3)根据样本数据和标签对中毒模型进行反演以得到中毒补丁数据，依据中毒补丁数据优化服务端的聚合模型参数，得到优化后的聚合模型，将优化后的聚合模型由服务端下发到客户端作为客户端的边缘模型，用于下一轮次的边缘训练。该联邦学习中毒检测方法能够快速检测中毒模型。
📄 2020114592325
📂 G06N20_00
👤 浙江工业大学
📅 2020-12-11
本发明公开了一种基于对比学习的联邦学习个性化方法，通过权衡在整个数据集上训练的全局模型，与在本地子集上训练的本地模型，来实现个性化。通过当前本地模型学习到的表征与全局模型学习到的表征的一致性损失，来修正本地更新，进而实现联邦学习的个性化。将同时计算全局模型的表征、本地数据训练得到模型的表征，以及当前模型训练的本地模型的表征，然后通过个性化参数，规范这三个表征之间的距离，即在模型层面实现对比学习，以此来修正全局模型适应不同客户端上的任务。本发明能够适应客户端不同的任务，达到联邦学习个性化定制的要求。
📄 202210956833X
📂 G06N20_00
👤 浙江工业大学
📅 2022-08-10
本发明涉及电子鼻技术领域，具体公开了一种对混合气体浓度进行回归预测的电子鼻宽度学习方法，包括步骤：S1.选择不同的稀疏正则化参数、特征节点收缩参数和初始随机映射矩阵赋值方法，构建基于宽度学习模型的多个增强宽度学习模型；S2.获取样本集，并按照预设比例划分为训练数据集和测试数据集；S3.采用训练数据集对多个增强宽度学习模型进行训练，并记录对应的训练时间；S4.采用测试数据集对训练后的多个增强宽度学习模型进行测试，记录回归预测错误率；S5.综合训练时间和回归预测错误率，决出性能最优的增强宽度学习模型作为电子鼻回归预测模型。和其他回归预测算法相比，基于宽度学习的回归预测模型不仅缩短了训练时间，还降低了回归预测错误率。
📄 2020108590017
📂 G06N20_00
👤 广西大学
📅 2020-08-24
本发明公开了一种联邦学习的能耗优化方法。该方法首先使用聚类将多个客户端聚类得到多个聚类簇，然后将聚类簇中客户端的数量与阈值比较，得到最小能耗客户端集合；该集合进行联邦学习后，进行第二次聚类，得到多个子聚类簇；最终根据子聚类簇进行联邦学习，得到总模型。该方法训练能耗低，模型收敛快。
📄 2024116192113
📂 G06N20_00
👤 广东工业大学
📅 2024-11-13
本发明公开了一种面向异构智慧交通系统的联邦学习客户端选择方法及系统，包括以下步骤：S1、建立基于联邦学习协议的全局预测模型，将客户端选择问题建模为二维完全背包问题；S2、获取所有客户端的CPU执行频率和客户端与边缘服务器的物理距离；S3、根据客户端的CPU执行频率和与边缘服务器的物理距离通过异构感知聚类方法将客户端聚类；S4、将得到的聚类结果通过客户端选择方法最大化截止时间内参与训练的客户端数量。本方法与传统技术相比，通过提高截止时间内参与训练的客户端数量，能够在有限时间内，提高训练效率和预测精度。
📄 202310035218X
📂 G06N20_00
👤 广东工业大学
📅 2023-01-10
本发明涉及一种基于雾计算的联邦学习方法，属于移动通信技术领域。位于云端的运营商作为联邦学习任务的发布者，位于边缘的雾节点作为区块链共识节点为联邦学习提供安全的协调服务，同时物联网设备如智能手机和平板电脑作为联邦学习的客户端，通过区块链提供的安全验证服务和给出的分簇联邦学习方法，提出的联邦学习刚刚可以有效地提高联邦学习效率和稳定性。为解决联邦学习存在的单点故障问题和模型恶意攻击问题，提出了基于区块链的客户端协作学习方式，并且为减少引入区块链技术所产生的额外时延，雾节点所维护的区块链共识方式为PBFT，将区块链网络划分为多个子网，每个子网内基于不同的联邦学习任务进行共识验证以减少共识时延。
📄 2021106466170
📂 G06N20_00
👤 重庆邮电大学
📅 2021-06-10
本发明公开了一种基于超限学习机及到达距离的周期振动信号定位方法。本发明包括如下步骤：步骤1、基于已知准确基频和到达距离，获取训练距离预测模型。步骤2、分别获取同一时间段内3个及以上的节点处采集得到的未知基频与到达距离的周期振动信号；步骤3、针对任一节点处的周期振动信号，进行准确基频fi的提取，并基于得到的准确基频进行FBED特征向量的提取；步骤4、对任一节点处周期振动信号，提取得到FBED特征向量W，利用训练好的ELM预测模型对特征向量W进行距离估计，得到对应的距离估计值di；步骤5、计算振动源的估计坐标。本发明实现单节点下高精度的距离估计且具有极快的训练和实时估计的速度，降低了传感器网络布设的成本。
📄 2016112050443
📂 G06N20_00
👤 杭州电子科技大学
📅 2016-12-23
本发明请求保护一种spark下的机器学习快速大规模样本签名方法，涉及数据挖掘技术和计算机信息处理技术。本方法为：1)读入样本数据，将样本数据转换成独有的样本格式；2)对样本数据中的高频特征进行划分，得到FeatureMap；3)设置最大广播数量，根据最大广播数量计算FeatureMap的partition；4)根据partition数量进行循环迭代，分片广播大量特征；5)最后对样本进行格式转换，得到libsvm格式的数据。本发明可以解决模型训练过程中样本签名性能瓶颈的问题，特别适用于在spark集群下训练模型。本发明虽然解决的是样本签名问题，但是由于本方法定制数据结构和分片广播可以很好的避免shuffle从而同样适用于大数据工程中的数据倾斜问题。
📄 2019109831588
📂 G06N20_00
👤 深圳楷乔科技有限公司
📅 2019-10-16
本发明属于人工智能中的分布式机器学习领域，特别涉及一种基于不可知论的公平联邦学习异步训练方法；包括：构建联邦学习系统，在第t轮次中，随机选择用户组成训练集，中央服务器向训练集下发全局模型参数；用户进行本地训练并向中央服务器上传用户模型参数和测试准确率；当中央服务器采集到所有的用户模型参数和测试准确率，更新全局模型参数并计算全局准确率；当全局准确率大于目标准确率，则向所有用户下发更新后的全局模型参数，完成训练；本发明利用不可知论来提高联邦学习关于公平优化目标的构建能力，设计训练调整机制以缓解全局优化方向关于部分用户的偏离程度，在面对数据异构的用户群体时，能取得良好的表现公平性和模型公平性。
📄 2023105743743
📂 G06N20_00
👤 重庆邮电大学
📅 2023-05-19
本发明涉及联邦学习技术领域，具体为基于泛化参数的安全聚类联邦学习方法及系统，其中，客户端基于本地数据集对全局模型进行训练期间，根据本地数据集的数据分布，生成与本地模型中待上传参数维度相同的噪声向量，并与本地模型中的至少一部分参数叠加得到加噪模型参数；服务器接收多个客户端的加噪模型参数，计算任意两个客户端之间的参数相似度并构建邻近度矩阵；通过对所有客户端进行聚类和分组聚合，生成对应的簇级全局模型参数并下发给相应簇中的各个客户端实现全局模型更新。利用与本地数据分布相关联的噪声来保护隐私，并基于加噪后的参数进行聚类，使得噪声在聚类时被“抵消”，在保护隐私的同时不损害模型性能。
📄 2025118316172
📂 G06N20_00
👤 济南大学,山东正中信息技术股份有限公司
📅 2025-12-08
柿子坊 · 知识产权运营
柿子坊知识产权运营平台