logo好方法网

联邦学习建模方法、设备及可读存储介质


技术摘要:
本申请公开了一种联邦学习建模方法、设备及可读存储介质,所述联邦学习建模方法包括:接收各第二设备发送的加密模型参数和所述加密模型参数对应的验证参数,进而基于各所述验证参数,分别对各所述加密模型参数进行零知识验证,以在各所述加密模型参数中确定虚假加密模  全部
背景技术:
随着金融科技,尤其是互联网科技金融的不断发展,越来越多的技术(如分布式、 区块链Blockchain、人工智能等)应用在金融领域,但金融业也对技术提出了更高的要求, 如对金融业对应待办事项的分发也有更高的要求。 随着计算机软件和人工智能的不断发展,联邦学习建模发展的也越来越成熟,目 前,联邦学习建模的各参与者通常将己方的加密模型参数反馈至联邦学习建模的协调者, 进而协调方者各加密模型参数进行聚合,并将聚合后聚合参数反馈至各参与者,以进行联 邦学习建模,但是,若有若恶意参与方在训练过程中提供虚假的加密模型参数,会直接影响 联邦学习建模获得的联邦模型的整体模型质量,甚至会导致整个联邦学习建模过程失效, 进而使得联邦学习建模的效率和精确度偏低。
技术实现要素:
本申请的主要目的在于提供一种联邦学习建模方法、设备及可读存储介质,旨在 解决现有技术中联邦学习建模效率低且精确度差的技术问题。 为实现上述目的,本申请提供一种联邦学习建模方法,所述联邦学习建模方法应 用于第一设备,所述联邦学习建模方法包括: 接收各第二设备发送的加密模型参数和所述加密模型参数对应的验证参数; 基于各所述验证参数,分别对各所述加密模型参数进行零知识验证,以在各所述 加密模型参数中确定虚假加密模型参数,获得零知识验证结果; 基于所述零知识验证结果和各所述加密模型参数,协调各所述第二设备进行联邦 学习建模。 可选地,所述基于所述零知识验证结果和各所述加密模型参数,协调各所述第二 设备进行联邦学习建模的步骤包括: 基于所述零知识验证结果,在各所述加密模型参数中剔除所述虚假加密模型参 数,获得各可信模型参数; 对各所述可信模型参数进行聚合处理,获得聚合参数,并将所述聚合参数分别反 馈至各所述第二设备,以供各所述第二设备更新各自的本地训练模型,直至所述本地训练 模型达到预设训练结束条件。 可选地,所述基于各所述验证参数,分别对各所述加密模型参数进行零知识验证, 以在各所述加密模型参数中确定虚假加密模型参数,获得零知识验证结果的步骤包括: 分别计算各所述验证参数对应的第一零知识证明结果和第二零知识证明结果; 基于各所述第一零知识证明结果和各所述第二零知识证明结果,分别验证各所述 4 CN 111598254 A 说 明 书 2/15 页 加密模型参数是否为虚假加密模型参数,获得零知识验证结果。 可选地,所述验证参数包括验证模型参数和验证随机参数, 所述分别计算各所述验证参数对应的第一零知识证明结果和第二零知识证明结 果的步骤包括: 基于预设验证挑战参数,对各所述加密模型参数进行合法性验证,获得各所述第 一零知识验证结果; 基于预设协调方公钥和各所述验证随机参数,对各所述验证模型参数进行加密处 理,获得各所述第二零知识验证结果。 可选地,所述预设验证挑战参数包括第一验证挑战参数和第二验证挑战参数; 所述基于预设验证挑战参数,对各所述加密模型参数进行合法性验证,获得各所 述第一零知识验证结果的步骤包括: 分别将所述第一验证挑战参数与各所述加密模型参数进行幂操作,获得各所述加 密模型参数对应的第一幂操作结果; 分别将所述第二验证挑战参数与各所述加密模型参数进行幂操作,获得各所述加 密模型参数对应的第二幂操作结果; 基于各所述第一幂操作结果和各所述第二幂操作结果,生成各所述第一零知识验 证结果。 可选地,所述基于各所述第一零知识证明结果和各所述第二零知识证明结果,分 别验证各所述加密模型参数是否为虚假加密模型参数的步骤包括: 将各所述加密模型参数对应的所述第一零知识证明结果与所述第二零知识证明 结果分别进行对比; 若所述加密模型参数对应的所述第一零知识证明结果和所述第二零知识证明结 果不一致,则判定所述加密模型参数为所述虚假加密模型参数; 若所述加密模型参数对应的所述第一零知识证明结果和所述第二零知识证明结 果一致,则判定所述加密模型参数不为所述虚假加密模型参数。 为实现上述目的,本申请还提供一种联邦学习建模方法,所述联邦学习建模方法 应用于第二设备,所述联邦学习建模方法包括: 获取模型训练参数和第一验证随机参数,并基于所述第一验证随机参数和预设公 钥,对所述模型训练参数进行加密处理,获得加密模型参数; 基于所述第一验证随机参数、所述模型训练参数和预设验证挑战参数,生成验证 模型参数和第二验证随机参数; 将所述加密模型参数、所述验证模型参数和所述第二验证随机参数发送至第一设 备,以供所述第一设备进行零知识验证,获得零知识验证结果; 接收所述第一设备基于所述零知识验证结果和所述加密模型参数反馈的聚合参 数,并基于所述聚合参数,对所述模型训练参数对应的本地训练模型进行更新,直至所述本 地训练模型达到预设训练结束条件。 可选地,所述模型训练参数包括当前模型参数和辅助模型参数, 所述获取模型训练参数的步骤包括: 对所述模型训练参数对应的本地训练模型进行迭代训练,直至所述本地训练模型 5 CN 111598254 A 说 明 书 3/15 页 达到预设迭代次数阀值,获取所述本地训练模型的所述当前模型参数; 获取所述本地训练模型的在前模型参数,并基于所述在前模型参数,生成所述辅 助模型参数。 本申请还提供一种联邦学习建模装置,所述联邦学习建模装置为虚拟装置,且所 述联邦学习建模装置应用于第一设备,所述联邦学习建模装置包括: 接收模块,用于接收各第二设备发送的加密模型参数和所述加密模型参数对应的 验证参数; 零知识验证模块,用于基于各所述验证参数,分别对各所述加密模型参数进行零 知识验证,以在各所述加密模型参数中确定虚假加密模型参数,获得零知识验证结果; 协调模块,用于基于所述零知识验证结果和各所述加密模型参数,协调各所述第 二设备进行联邦学习建模。 可选地,所述协调模块包括: 剔除子模块,用于基于所述零知识验证结果,在各所述加密模型参数中剔除所述 虚假加密模型参数,获得各可信模型参数; 聚合子模块,用于对各所述可信模型参数进行聚合处理,获得聚合参数,并将所述 聚合参数分别反馈至各所述第二设备,以供各所述第二设备更新各自的本地训练模型,直 至所述本地训练模型达到预设训练结束条件。 可选地,所述零知识验证模块包括: 计算子模块,用于分别计算各所述验证参数对应的第一零知识证明结果和第二零 知识证明结果; 零知识验证子模块,用于基于各所述第一零知识证明结果和各所述第二零知识证 明结果,分别验证各所述加密模型参数是否为虚假加密模型参数,获得零知识验证结果。 可选地,所述计算子模块包括: 合法性验证单元,用于基于预设验证挑战参数,对各所述加密模型参数进行合法 性验证,获得各所述第一零知识验证结果; 加密单元,用于基于预设协调方公钥和各所述验证随机参数,对各所述验证模型 参数进行加密处理,获得各所述第二零知识验证结果。 可选地,所述合法性验证单元包括: 第一幂操作子单元,用于分别将所述第一验证挑战参数与各所述加密模型参数进 行幂操作,获得各所述加密模型参数对应的第一幂操作结果; 第二幂操作子单元,用于分别将所述第二验证挑战参数与各所述加密模型参数进 行幂操作,获得各所述加密模型参数对应的第二幂操作结果; 生成子单元,用于基于各所述第一幂操作结果和各所述第二幂操作结果,生成各 所述第一零知识验证结果。 可选地,所述零知识验证子模块包括: 对比单元,用于将各所述加密模型参数对应的所述第一零知识证明结果与所述第 二零知识证明结果分别进行对比; 第一判定单元,用于若所述加密模型参数对应的所述第一零知识证明结果和所述 第二零知识证明结果不一致,则判定所述加密模型参数为所述虚假加密模型参数; 6 CN 111598254 A 说 明 书 4/15 页 第二判定单元,用于若所述加密模型参数对应的所述第一零知识证明结果和所述 第二零知识证明结果一致,则判定所述加密模型参数不为所述虚假加密模型参数。 为实现上述目的,本申请还提供一种联邦学习建模装置,所述联邦学习建模装置 为虚拟装置,且所述联邦学习建模装置应用于第二设备,所述联邦学习建模装置包括: 加密模块,用于获取模型训练参数和第一验证随机参数,并基于所述第一验证随 机参数和预设公钥,对所述模型训练参数进行加密处理,获得加密模型参数; 生成模块,用于基于所述第一验证随机参数、所述模型训练参数和预设验证挑战 参数,生成验证模型参数和第二验证随机参数; 发送模块,用于将所述加密模型参数、所述验证模型参数和所述第二验证随机参 数发送至第一设备,以供所述第一设备进行零知识验证,获得零知识验证结果; 模型更新模块,用于接收所述第一设备基于所述零知识验证结果和所述加密模型 参数反馈的聚合参数,并基于所述聚合参数,对所述模型训练参数对应的本地训练模型进 行更新,直至所述本地训练模型达到预设训练结束条件。 可选地,所述加密模块包括: 获取子模块,用于对所述模型训练参数对应的本地训练模型进行迭代训练,直至 所述本地训练模型达到预设迭代次数阀值,获取所述本地训练模型的所述当前模型参数; 生成子模块,用于获取所述本地训练模型的在前模型参数,并基于所述在前模型 参数,生成所述辅助模型参数。 本申请还提供一种联邦学习建模设备,所述联邦学习建模设备为实体设备,所述 联邦学习建模设备包括:存储器、处理器以及存储在所述存储器上并可在所述处理器上运 行的所述联邦学习建模方法的程序,所述联邦学习建模方法的程序被处理器执行时可实现 如上述的联邦学习建模方法的步骤。 本申请还提供一种可读存储介质,所述可读存储介质上存储有实现联邦学习建模 方法的程序,所述联邦学习建模方法的程序被处理器执行时实现如上述的联邦学习建模方 法的步骤。 本申请通过接收各第二设备发送的加密模型参数和所述加密模型参数对应的验 证参数,进而基于各所述验证参数,分别对各所述加密模型参数进行零知识验证,以在各所 述加密模型参数中确定虚假加密模型参数,获得零知识验证结果,进而基于所述零知识验 证结果,协调各所述第二设备进行联邦学习建模。也即,本申请在接收各第二设备发送的加 密模型参数和所述加密模型参数对应的验证参数之后,基于各所述验证参数,分别对各所 述加密模型参数进行零知识验证,以在各所述加密模型参数中确定虚假加密模型参数,获 得零知识验证结果,进一步地,基于所述零知识验证结果,可在各所述加密模型参数中剔除 所述虚假加密模型参数,以协调各所述第二设备进行联邦学习建模。也即,本申请提供了一 种基于零知识证明在各所述本地模型中确定虚假加密模型参数的方法,进而当有若恶意参 与方在训练过程中提供虚假加密模型参数时,可准确识别并剔除虚假加密模型参数,进而 避免了基于混合有虚假加密模型参数的各加密模型参数进行联邦学习建模的情况发生,进 而提高了通过联邦学习建模获得的联邦模型的整体模型质量,进而提高了联邦学习建模的 效率和精确度,进而解决了联邦学习建模效率低且精确度差的技术问题。 7 CN 111598254 A 说 明 书 5/15 页 附图说明 此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本申请的实施 例,并与说明书一起用于解释本申请的原理。 为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例或现 有技术描述中所需要使用的附图作简单地介绍,显而易见地,对于本领域普通技术人员而 言,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。 图1为本申请联邦学习建模方法第一实施例的流程示意图; 图2为本申请联邦学习建模方法第二实施例的流程示意图; 图3为本申请联邦学习建模方法第三实施例的流程示意图; 图4为本申请实施例方案涉及的硬件运行环境的设备结构示意图。 本申请目的实现、功能特点及优点将结合实施例,参照附图做进一步说明。
分享到:
收藏