(19)中华 人民共和国 国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202111657295.6 (22)申请日 2021.12.3 0 (71)申请人 浙江工业大 学 地址 310014 浙江省杭州市下城区潮王路 18号 (72)发明人 陈晋音　李明俊　刘涛　李荣昌　 黄国瀚　赵云波　 (74)专利代理 机构 杭州求是专利事务所有限公 司 33200 代理人 邱启旺 (51)Int.Cl. G06N 20/20(2019.01) G06K 9/62(2022.01) (54)发明名称 基于模型权重更迭的联邦学习搭便车防御 方法和装置 (57)摘要 本发明公开了一种基于模型权重更迭的联 邦学习搭便车防御方法和装置， 首先初始化联邦 学习训练环 境； 服务器将初始的全局模型下发给 各个客户端， 开始联邦学习训练； 各个客户端进 行联邦训练， 并生成本地模型， 训练结束后保存 模型参数并计算更新变化频率F矩阵； 各个客户 端将本地模型参数和权重变化频率矩 阵上传至 服务端； 服务端通过聚合算法得到全局模型， 并 计算各个客户端间的欧式距离和计算各自权重 的平均变化频率， 并对欧式距离和平均频率异常 的客户端进行标记； 服务端下发给各个客户端更 新后的全局模 型； 重复上述步骤客户端每上传一 次参数， 服务端进行一次筛查， 当某客户端被异 常标记3次， 则认为其是搭便 车攻击者， 将其踢出 联邦学习训练。 权利要求书2页 说明书7页 附图2页 CN 114266361 A 2022.04.01 CN 114266361 A 1.一种基于模型权重更迭的联邦学习搭便车防御方法， 其特征在于， 具体包括以下步 骤： (1)初始化联邦学习训练环境； (2)服务器将初始的全局模型 下发给各个客户端， 开始联邦学习训练； (3)各个客户端进行联邦训练， 并生成本地模型， 在本地训练结束后， 保存模型参数并 计算本地模型倒数第二层的权 重W在每次训练时的更新变化频率F矩阵； (4)各个客户端本地训练完成后将本地模型参数和权重变化频率矩阵上传至服务端； 服务端通过聚合算法得到全局模型， 并计算各个客户端间的欧式距离和计算各自权重的平 均变化频率， 并对欧式距离和平均频率异常的客户端 进行标记； (5)服务端下发给 各个客户端更新后的全局模型， 继续进行 联邦学习训练； (6)重复上述步骤(2)～(5)， 客户端每上传一次参数， 服务端进行一次筛查， 当某客户 端被异常标记3次， 则认为 其是搭便车攻击者， 将其踢出 联邦学习训练。 2.根据权利要求1所述的基于模型权重更迭的联邦学习搭便车防御 方法， 其特征在于， 步骤(3)中各个客户端 进行联邦训练， 并生成本地模型， 得到模型参数的步骤具体为： 参与训练的正常客户端， 进行每 轮训练， 得到更新的本地训练的模型参数为： 其中， (x,y)分别是Dk数据集中的数据和标签， L用来计算预测结果与真实结果的交叉熵 损失函数， 为本地训练后 模型的权 重参数， 为下发的后的客户端本地模型； 参与训练的恶意客户端， 前三轮正常的训练， 三轮后通过添加当前服务器下发的全局 模型Mj和上一轮服务器下发的全局模型Mj‑1参数差； 得到搭便车攻击客户端模型的更新参 数Gf为： Gf＝Mj‑Mj‑1 将更新参数添加到本轮服务器下发的模型中进行伪装； 生成新的本地模 型 公式如 下： 3.根据权利要求1所述的基于模型权重更迭的联邦学习搭便车防御 方法， 其特征在于， 所述计算本地模型倒数第二层的权 重W在每次训练时的更新变化频率F矩阵的步骤具体为： 首先选取本地模型倒数第二层的权重， 根据权重数量初始化一个数值全为0的矩阵用 来记录每次本地模型训练时的权 重变化频率次数； 然后本地训练每一轮记录每个权重在每轮训练中的更新参数的绝对值； 对所有权重更 新参数的绝对值 求和并除以权 重个数来计算动态阈值TV； 再统计每个权重的变化频率， 权重变化数值大于阈值则 本轮该权重变化频次加1， 小于 阈值则本轮该权 重变化频次不变， 以此 更新频率矩阵； 最后更新本地权重变化的总体频率矩阵， 第i轮的权重变化频率矩阵等于前i轮的权重 变化频率矩阵的总和。 4.根据权利要求1所述的基于模型权重更迭的联邦学习搭便车防御 方法， 其特征在于，权　利　要　求　书 1/2 页 2 CN 114266361 A 2步骤(4)中所述的模型聚合公式如下： 其中， Gt+1为服务器端聚合后的聚合模型， Gt为上一轮训练聚合后的聚合模型， 为本 地训练模型， 为模型权 重缩放。 5.根据权利要求1所述的基于模型权重更迭的联邦学习搭便车防御 方法， 其特征在于， 所述步骤(4)中计算各个客户端间的欧式距离 d和计算各自权重的平均变化频率favg， 具体 公式如下： 其中， x和y是两个不同的客户端权 重变化频率矩阵； 其中， Fi是矩阵中每一个权 重的变化次数， n 为权重的个数。 6.一种基于模型权重更迭的联邦学习搭便车防御装置， 其特征在于， 包括一个或多个 处理器， 用于实现权利要求1 ‑5中任一项所述的基于模型权重更迭的联邦学习搭便车防御 方法。 7.一种计算机可读存储介质， 其上存储有程序， 其特征在于， 该程序被处理器执行时， 用于实现权利要求1 ‑5中任一项所述的基于模型权 重更迭的联邦学习搭便车防御方法。权　利　要　求　书 2/2 页 3 CN 114266361 A 3