CN111222181A

CN111222181A - Ai模型的监管方法、系统、服务器及存储介质

Info

Publication number: CN111222181A
Application number: CN202010144241.9A
Authority: CN
Inventors: 林俊杰; 周胜平; 吴栋; 梁乔忠; 仲景武
Original assignee: Alpha Cloud Computing Shenzhen Co Ltd
Current assignee: Alpha Cloud Computing Shenzhen Co Ltd
Priority date: 2020-03-04
Filing date: 2020-03-04
Publication date: 2020-06-02
Anticipated expiration: 2040-03-04
Also published as: CN111222181B

Abstract

本发明实施例公开了一种AI模型的监管方法、系统、服务器及存储介质，包括：获取待监管的AI模型的开发所需信息；根据所述AI模型的开发所需信息进行模型开发以得到所述AI模型；将所述AI模型记录至区块链上。本发明实施例还公开了一种AI模型的监管方法，包括：获取待监管的AI模型的使用信息；将所述AI模型的使用信息记录至区块链上。采用该手段，可以实现AI模型各生命周期中关键信息的可信、透明监管。同时，可实现对于AI模型相关信息进行监控、追溯。

Description

AI模型的监管方法、系统、服务器及存储介质

技术领域

本发明涉及计算机技术领域，尤其涉及一种AI模型的监管方法、系统、服务器及存储介质。

背景技术

人工智能：即Artificial Intelligence，简称AI。其为通过计算机系统模拟人类智能的方法、技术、软硬件及系统的泛称。

通常情况下，AI模型的全生命周期包含模型开发、模型交付和模型服务三个阶段。现有AI模型管理系统对AI模型的开发、交付和服务普遍采用中心化方式进行集中管理。由于采用中心化的方式进行集中管理，因此现有手段对于模型监管不能做到可信化、透明化。

发明内容

本申请实施例提供一种AI模型的监管方法、系统、服务器及存储介质，能够实现AI模型全生命周期中相关信息的可信、透明监管。

本申请实施例的第一方面提供了一种AI模型的监管方法，包括：

获取待监管的AI模型的开发所需信息；

根据所述AI模型的开发所需信息进行模型开发以得到所述AI模型；

将所述AI模型记录至区块链上。

其中，所述将所述AI模型记录至区块链上，可包括将所述模型开发中产出的开发信息以及所得到的AI模型均记录至区块链上。

可选的，所述根据所述AI模型的开发所需信息进行模型开发之前，包括：

获取所述AI模型的训练数据，并对所述训练数据进行第一哈希算法处理以得到所述训练数据的第一哈希值；

从所述区块链上获取所述训练数据的第二哈希值；

确认所述训练数据的第一哈希值和第二哈希值之间的误差是否在预设范围内；

若是，则确认所述训练数据可信。

可选的，所述根据所述AI模型的开发所需信息进行模型开发以得到所述AI模型，包括：

获取与所述AI模型对应的AI算法；

根据所述AI算法以及所述训练数据对所述AI模型进行训练，以得到所述AI模型的静态信息和动态信息。

可选的，所述将所述AI模型记录至区块链上，包括：

根据模型信息与分数之间的映射关系，分别获取所述AI模型的静态信息和动态信息对应的分数；

获取超出阈值的分数所对应的信息，并记为第一信息；

获取与所述第一信息对应的上链方式，按照所述上链方式将所述第一信息记录至区块链上。

可选的，所述按照所述上链方式将所述第一信息记录至区块链上，具体包括：

对所述第一信息进行处理以得到与所述上链方式对应的处理后的第一信息；

对所述处理后的第一信息进行加密，以得到加密后的第一信息；

将所述加密后的第一信息记录至区块链上。

进一步地，所述方法还包括：

获取所述AI模型交付信息，并将所述AI模型交付信息记录至所述区块链上。

可选的，所述获取所述AI模型交付信息，包括：

分别获取交付的AI模型与记录在区块链上的AI模型的数字身份签名；

确认所述交付的AI模型的数字身份签名是否与所述记录在区块链上的AI模型的数字身份签名一致；

若一致，则确认所述AI模型为正确的。

可选的，所述方法包括：

获取所述AI模型的静态信息和所述AI模型的运行结果；

分别对所述静态信息、所述运行结果进行第二哈希算法处理，以得到所述静态信息、所述运行结果分别对应的哈希值；

对所述静态信息、所述运行结果分别对应的哈希值进行第三哈希算法处理，以得到所述AI模型的数字身份签名。

本申请实施例的第二方面提供了一种AI模型的监管方法，包括：

获取待监管的AI模型的使用信息；

将所述AI模型的使用信息记录至区块链上。

进一步地，所述方法还包括：

获取运行所述AI模型的使用者的身份信息；

从所述区块链上获取所述AI模型的使用权信息；

确认所述AI模型的使用权信息是否包含所述使用者的身份信息；

若是，则确认所述使用者具备使用权限。

可选的，所述方法包括：

获取所述AI模型的静态信息和所述AI模型的运行结果；

所述方法还包括：

从所述区块链上获取与所述AI模型的数字身份签名对应的AI模型的权能构成加密信息和/或权利变更加密信息；

对所述权能构成加密信息和/或权利变更加密信息进行解密以得到权能构成信息和/或权利变更信息；

从所述权能构成信息和/或权利变更信息中提取所述AI模型的使用权信息。

本申请实施例的第三方面提供了一种AI模型的监管系统，包括：

获取模块，用于获取待监管的AI模型的开发所需信息；

开发模块，用于根据所述AI模型的开发所需信息进行模型开发以得到所述AI模型；

记录模块，用于将所述AI模型记录至区块链上；

其中，所述开发模块，用于：

获取与所述AI模型对应的AI算法；根据所述AI算法以及训练数据对所述AI模型进行训练，以得到所述AI模型的静态信息和动态信息；

所述记录模块，具体用于：

根据模型信息与分数之间的映射关系，分别获取所述AI模型的静态信息和动态信息对应的分数；获取超出阈值的分数所对应的信息，并记为第一信息；获取与所述第一信息对应的上链方式，按照所述上链方式将所述第一信息记录至区块链上。

本申请实施例的第四方面提供了一种AI模型的监管系统，包括：

第一获取模块，用于获取AI模型的开发所需信息进行模型开发以得到所述AI模型；

第一记录模块，用于将所述AI模型记录至区块链上；

第二获取模块，用于获取待监管的AI模型的使用信息；

第二记录模块，用于将所述AI模型的使用信息记录至区块链上；

其中，所述第一获取模块，具体用于：获取与所述AI模型对应的AI算法；

根据所述AI算法以及训练数据对所述AI模型进行训练，以得到所述AI模型的静态信息和动态信息；

所述第一记录模块，具体用于：根据模型信息与分数之间的映射关系，分别获取所述AI模型的静态信息和动态信息对应的分数；

获取超出阈值的分数所对应的信息，并记为第一信息；

获取与所述第一信息对应的上链方式，按照所述上链方式将所述第一信息记录至所述区块链上。

本申请实施例的第五方面提供了一种AI模型的监管服务器，包括处理器、输入设备、输出设备和存储器，所述处理器、输入设备、输出设备和存储器相互连接，其中，所述存储器用于存储计算机程序，所述计算机程序包括程序指令，所述处理器被配置用于调用所述程序指令，执行所述的方法。

本申请实施例的第六方面提供了一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，所述计算机程序被处理器执行以实现所述的方法。

实施本申请实施例，至少具有如下有益效果：

通过本申请实施例，通过获取待监管的AI模型的开发所需信息，然后根据所述AI模型的开发所需信息进行模型开发以得到该AI模型；最后将所述AI模型记录至区块链上。采用该手段，可以实现AI模型各生命周期中关键信息的可信、透明监管。同时，可实现对于AI模型相关信息进行监控、追溯。

另一方面，本申请实施例通过获取待监管的AI模型的使用信息，并将所述AI模型的使用信息也记录至区块链上；进而可以实现AI模型生命周期中的使用信息的安全监管，十分方便、可信。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

其中：

图1为本发明实施例提供的一种AI模型的监管方法的流程示意图;

图2是本发明实施例提供的一种AI模型开发的监管方法的示意图;

图3是本发明实施例提供的一种AI模型开发的监管系统的结构示意图；

图4是本发明实施例提供的一种AI模型的监管方法的流程示意图；

图5是本发明实施例提供的一种AI模型的监管方法的流程示意图；

图6是本发明实施例提供的一种AI模型服务/使用的监管方法的示意图;

图7是本发明实施例提供的一种AI模型服务/使用的监管系统的结构示意图；

图8是本发明实施例提供的一种AI模型的监管方法的流程示意图；

图9是本发明实施例提供的一种AI模型的监管装置的结构示意图；

图10是本发明实施例提供的一种AI模型的监管服务器的结构示意图；

图11是本发明实施例提供的一种AI模型的监管系统的结构示意图。

具体实施方式

下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。

本申请的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别不同对象，而不是用于描述特定顺序。此外，术语“包括”和“具有”以及它们任何变形，意图在于覆盖不排他的包含。例如包含了一系列步骤或单元的过程、方法、系统、产品或设备没有限定于已列出的步骤或单元，而是可选地还包括没有列出的步骤或单元，或可选地还包括对于这些过程、方法、产品或设备固有的其他步骤或单元。

在本申请中提及“实施例”意味着，结合实施例描述的特定特征、结构或特性可以包含在本申请的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例，也不是与其它实施例互斥的独立的或备选的实施例。本领域技术人员显式地和隐式地理解的是，本申请所描述的实施例可以与其它实施例相结合。

请参阅图1，图1为本申请实施例提供了一种AI模型的监管方法的流程示意图。如图1所示，其可包括步骤101-103，具体如下：

101、获取待监管的AI模型的开发所需信息；

首先获取待监管的AI模型开发所需信息。其中，所述模型的开发所需信息可包括关键信息和非关键信息。关键信息可以是训练数据、训练算法等。非关键信息可以是除关键信息以外的其他信息。

基于区块链数据的防篡改特性保证所获取的关键数据可信，对于关键信息的获取，可包含两种获取方式：获取原始数据和获取元数据。其中，原始数据是未经处理的数据。元数据可以是经过处理后的数据。对于原始数据可直接从区块链上获取所需关键数据的原始数据。对于元数据可仅从区块链上获取关键数据的元数据或哈希值，原始数据通过其它渠道获得，通过比对区块链上元数据与所获得原始数据的元数据或哈希值，以确保所获取原始数据合法、可信。对于非关键信息，可从区块链外获取等。

、根据所述AI模型的开发所需信息进行模型开发以得到所述AI模型；

利用所获取到的开发所需信息进行模型开发。可如图2所示，图2是本发明实施例提供的一种AI模型开发的监管方法的示意图。

其中，在根据所述AI模型的开发所需信息进行模型开发之前，包括：

从所述区块链上获取所述训练数据的第二哈希值；

若是，则确认所述训练数据可信。

其中，上述训练数据的获取可以是任意的，如可以是系统预先设定好的，也可以是从其他地方获取的。然后，可对上述训练数据进行哈希算法处理，并从区块链上获取该训练数据的哈希值。然后对比该训练数据的链上哈希值与当前哈希值，以判断该训练数据是否可信。其中，上述哈希算法处理此处不做具体限定。

上述确认所述训练数据的第一哈希值和第二哈希值之间的误差是否在预设范围内，可包括：

按照预设的字符串对与分数之间的映射关系计算所述第一哈希值和第二哈希值之间的误差，确认所述训练数据的第一哈希值和第二哈希值之间的误差是否在预设范围内。

通过对上述训练数据进行校验，以确保上述训练数据的可靠性。

其中，上述步骤102可包括以下步骤1021-1022，具体如下：

1021、获取与所述AI模型对应的AI算法；

上述与所述AI模型对应的AI算法，可以是基于模型的分类来进行区分，或者基于模型的用途进行区分，也可以是基于预设的特定的AI算法。

、根据所述AI算法以及所述训练数据对所述AI模型进行训练，以得到所述AI模型的静态信息和动态信息。

其中，提取训练得到的AI模型的静态信息，可以是：AI模型结构、模型参数取值、模型训练算法、模型开发者、所有权、使用权、交易权、数字身份签名等；提取训练得到的AI模型的动态信息，可以是：模型开发日志、模型动态输入数据与输出结果、模型交付日志、模型服务日志、模型权利变更日志等。上述静态信息/动态信息可以是一项或者多项，此处不做限定。

、将所述AI模型记录至区块链上。

模型开发完成后，可将所述AI模型记录至区块链上。

其中，步骤103可包括步骤1031-1033，具体如下：

1031、根据模型信息与分数之间的映射关系，分别获取所述AI模型的静态信息和动态信息对应的分数；

其中，如可以设定静态信息的分数的计算规则为简单的单一算法，设定动态信息的分数的计算规则为复杂化的；或者，可以设定静态信息的分数较低于动态信息。或者，也可以通过设定分数列表，针对不同的信息对应不同的分数或者权重等。上述仅为举例说明，此处不做具体限定。

、获取超出预设阈值的分数所对应的信息，并记为第一信息；

通过获取其中分数超出预设阈值的信息将其记为第一信息或者关键信息等。上述第一信息可以是多个信息的统称。如该第一信息包含有多个静态信息和多个动态信息等。其中，也可以基于实际业务场景，采用人工介入方式，或基于AI分类器的自动方式，从AI模型的静态信息与动态信息中遴选模型关键信息。

、获取与所述第一信息对应的上链方式，按照所述上链方式将所述第一信息记录至区块链上。

其中，对于第一信息对应的上链方式，可以是综合考虑上述第一信息中各项信息对应的数据量、敏感程度等因素，根据预定义的上链方式遴选规则，确定上述第一信息或关键信息的上链方式。具体地，可对于第一信息中各项信息的数据量、敏感程度等分别设定不同的权重以及不同的分数，通过获取最终评分，进而根据预设的评分与上链方式之间的映射关系，来确定与所述第一信息对应的上链方式。

上述上链方式可包括原始数据上链或哈希数据上链等方式。其中，若选择哈希数据上链，则需要对上述第一信息做哈希处理，得到第一信息对应的哈希值，然后利用AI模型开发者的公钥对上述第一信息或者其对应的哈希值进行加密；并将加密后的上述第一信息或者其对应的哈希值记录到区块链上，进而完成AI模型的开发。

其中，上述所述所记录的AI模型包括模型涉及的相关信息。此处不做具体限定。进一步地，也可将模型开发过程中产出的关键信息记录到区块链上。上述开发过程中产出的关键信息可包括：开发操作日志、模型效果变化等。同时，将开发得到的AI模型信息也记录到区块链上。上述AI模型信息可包括：模型结构、模型参数取值、测试数据、模型评估指标、开发者、权能构成与权利信息等。

相应的，如图3所示，本申请实施例还提供了一种AI模型的监管系统的示意图。其中，AI模型信息提取单元用于实现AI模型静态信息与动态信息的提取，该静态信息包括：模型开发者、模型结构、模型参数等；动态信息包括：模型测试输入与输出、模型开发日志等；模型信息遴选单元用于实现对模型关键信息和上链方式的遴选。链上数据交互单元用于实现AI模型信息上链以及从区块链上获取所需信息。在AI模型信息提取单元中，AI模型静态信息提取模块和AI模型动态信息提取模块分别负责对开发得到的AI模型的静态信息和动态信息进行提取。在模型信息遴选单元，AI模型关键信息遴选模块负责结合业务应用场景、采用人工或自动方式区分AI模型的各项静态信息和动态信息是否为关键信息；AI模型上链方式遴选模块负责根据所上链AI模型关键信息的数据量、敏感程度等特征确定是否需要将原始数据先哈希处理再上链。在链上数据交互单元，AI模型信息分发模块用于将遴选出的AI模型关键信息按照确定的上链方式记录到区块链上；AI模型信息接收模块用于从区块链上获得AI模型开发所需相关信息。

请参阅图4，图4为本申请实施例提供了一种AI模型的监管方法的流程示意图。如图4所示，其可包括步骤401-408，具体如下：

401、获取待监管的AI模型的开发所需信息；

其中，所述模型的开发所需信息可包括关键信息和非关键信息。关键信息可以是训练数据、训练算法等。非关键信息可以是除关键信息以外的其他信息。

、从预设算法数据库获取与所述AI模型对应的AI算法；

、根据所述AI算法以及所述训练数据对所述AI模型进行训练，以得到所述AI模型的静态信息和动态信息；

、根据预设的模型信息与预设分数之间的映射关系，分别获取所述静态信息和动态信息对应的分数；

405、获取超出预设阈值的分数所对应的信息，并记为第一信息；

如该第一信息包含有多个静态信息和多个动态信息等。其中，也可以基于实际业务场景，采用人工介入方式，或基于AI分类器的自动方式，从AI模型的静态信息与动态信息中遴选模型关键信息。

、获取与所述第一信息对应的上链方式，按照所述上链方式将所述第一信息记录至区块链上，并完成所述AI模型的开发；

具体地，可对于第一信息中各项信息的数据量、敏感程度等分别设定不同的权重以及不同的分数，通过获取最终评分，进而根据预设的评分与上链方式之间的映射关系，来确定与所述第一信息对应的上链方式。上述上链方式可包括原始数据上链或哈希数据上链等方式。

、将所述模型开发中产出的开发信息以及所得到的AI模型均记录至区块链上；

上述开发过程中产出的关键信息可包括：开发操作日志、模型效果变化等。同时，将开发得到的AI模型信息也记录到区块链上。上述AI模型信息可包括：模型结构、模型参数取值、测试数据、模型评估指标、开发者、权能构成与权利信息等。

、获取所述AI模型交付信息，并将所述AI模型交付信息记录至所述区块链上。

其中，在AI模型开发完成后，可进行AI模型的交付。

系统可对交付的AI模型的准确性进行校验，可包括：

若一致，则确认所述AI模型为正确的。

上述校验可以是交付前开发方进行校验，也可以是交付后模型应用方进行校验。此处不做具体限定。

其中，当检测到运行所述AI模型时，获取所述AI模型的静态信息、所述AI模型运行过程中的中间运行结果以及最终输出结果；

分别对所述静态信息、所述中间运行结果以及所述最终输出结果进行哈希算法处理，以得到所述静态信息、所述中间运行结果以及所述最终输出结果分别对应的哈希值；

对所述静态信息、所述中间运行结果以及所述最终输出结果分别对应的哈希值再次进行哈希算法处理，以得到所述AI模型的数字身份签名。

进而根据该数字身份签名进行上述AI模型的准确性的校验。其中，上述各哈希算法可以是相同的，也可以是不同的。

其中，在AI模型交付时，首先获得AI模型相关信息，该相关信息可包括关键信息和非关键信息。其中，关键信息的获取可基于区块链获取，非关键信息可通过其它渠道获取。同时，获取模型交付所需信息，如：交付对象、交付要求、模型部署的设备等。然后实施AI模型的交付过程，并将交付过程的关键信息记录到区块链上。AI模型交付后，模型应用方可通过比对链上AI模型与所获得AI模型的数字身份签名等信息进行AI模型确权，获取模型的所有权、使用权、交易权等权利信息。

参照图5，是本申请实施例提供了一种AI模型的监管方法的流程示意图。如图5所示，其可包括步骤501-510，具体如下：

501、获取待监管的AI模型的使用信息；

其中，部署AI模型的服务端接收应用系统发来的AI模型服务请求，该服务请求携带的信息可包括：需要调用的AI模型、模型输入、使用者身份信息等。

、获取所述AI模型的静态信息和所述AI模型的运行结果；

其中，该静态信息可包括模型开发者、模型结构、模型参数等。所述AI模型的运行结果包括所述AI模型运行过程中的中间运行结果以及最终输出结果。

上述可通过获取AI模型的测试数据，然后将测试数据作为输入，运行AI模型，进而获取AI模型运行过程中的中间运行结果以及最终输出结果。

、分别对所述静态信息、所述运行结果进行哈希算法处理，以得到所述静态信息、所述运行结果分别对应的哈希值；

504、对所述静态信息、所述运行结果分别对应的哈希值进行第三哈希算法处理，以得到所述AI模型的数字身份签名；

通过拼接AI模型的静态信息的哈希值、中间运行结果的哈希值、最终输出结果的哈希值，并进行第三哈希计算进而得到AI模型的数字身份签名。

该手段仅作为一种示例，其中，哈希算法的次数以及具体算法并不做限定。

、从所述区块链上获取与所述AI模型的数字身份签名对应的AI模型的权能构成加密信息和/或权利变更加密信息；

根据AI模型的数字身份签名从区块链上获取AI模型的所有权、交易权、使用权等权能构成与权利变更等加密信息。其中，上述权能构成可包含各种可行使的权利。

、根据所述使用者的身份信息确认所述使用者的等级；

507、当所述使用者的等级超出预设等级时，向所述使用者发送私钥，以实现对所述权能构成加密信息和/或权利变更加密信息进行解密；

通过利用AI模型开发者的私钥对所获得的AI模型权能构成与权利变更等加密信息进行解密，进而可获取到AI模型权能构成与权利变更等信息。通过从所述解密后的权能构成信息和/或权利变更信息中提取所述AI模型的使用权信息，进而通过信息比对可确认使用者是否具备对该AI模型的使用权。如果该使用者不具备使用权，则直接向应用系统返回AI模型调用失败信息。如果该使用者具备使用权，则可执行模型的运行。

、根据AI模型服务请求中携带的模型输入，运行AI模型；

509、返回AI模型的运行输出结果；

510、将所述AI模型的使用信息记录至区块链上。

可替代的，其中，在监测到使用请求时，所述方法可包括：

获取运行所述AI模型的使用者的身份信息；

从所述区块链上获取所述AI模型的使用权信息；

若是，则确认所述使用者具备使用权限。

当使用者具备使用权限，则可具备加载AI模型的权限等。

该实施例中AI模型应用方可选择先对AI模型的合法性进行校验，即：判断所持有的AI模型是否被篡改。该手段可通过所持有AI模型与链上AI模型的数字身份签名等相关信息进行比对以便确认是否被篡改。然后，通过依次提交AI模型输入数据、执行AI模型、得到AI模型输出结果。在该运行过程中，可将AI模型的输入与输出、运行环境等关键信息记录到区块链上。

具体地，如图6所示，是本发明实施例提供的一种AI模型服务/使用的监管方法的示意图。其中，部署AI模型的服务端接收应用系统发来的AI模型服务请求，其携带的请求信息包括：需要调用的AI模型、模型输入、调用者身份信息等。服务端加载AI模型，并提取AI模型的静态信息，如：模型开发者、模型结构、模型参数等；然后对AI模型的每项静态信息分别进行哈希；并获取AI模型的测试数据；将测试数据作为输入，运行AI模型；并计算AI模型运行过程中的中间运行结果；将中间运行结果进行哈希。同时，计算AI模型运行过程中的最终运行输出；将最终运行输出进行哈希处理。然后拼接AI模型的静态信息、中间运行结果、最终输出的哈希值，再次进行哈希计算得到AI模型的数字身份签名。

然后，根据AI模型的数字身份签名从区块链上获取AI模型的所有权、交易权、使用权等权能构成与权利变更加密信息。利用AI模型开发者的私钥对所获得的AI模型权能构成与权利变更信息进行解密。然后解析链上记录的AI模型使用权信息，判断调用者是否对该AI模型有使用权，若无使用权则直接向应用系统返回AI模型调用失败信息。若调用者对该AI模型有使用权，则根据AI模型服务请求中携带的模型输入，执行AI模型；并向应用系统返回AI模型的运行输出结果。

相应的，如图7所示，为本发明实施例提供的一种AI模型服务/使用的监管系统的结构示意图。其中，AI模型信息提取单元用于实现对AI模型的静态信息和动态信息的提取。AI模型确权单元用于实现AI算法数字身份签名的生成、权能构成与权利信息的获取和判定。AI模型服务单元用于实现服务端AI模型的加载和执行。在AI算法信息提取单元中，AI算法静态信息提取模块用于提取AI算法的开发者、发布时间、开发语言等静态信息；AI算法动态信息提取模块用于提取AI算法的测试数据，并调用AI模型服务单元的AI模型执行模块得到模型运行的中间结果、最终输出等运行时的动态信息。在AI模型确权单元中，数字身份签名生成模块用于利用AI模型的静态信息与动态信息合成AI模型的数字身份签名；权能信息获取模块用于根据AI模型的数字身份签名从区块链上获取AI模型的所有权、使用权等权能结构与权利信息；权能判定模块用于根据AI模型的使用权判断AI模型服务请求是否合法。在AI模型执行单元，AI模型加载模块用于获得AI模型的模型结构、模型参数等信息，以便后续执行AI模型以及提取其静态与动态信息；AI模型执行模块用于根据给定的模型输入数据并运行模型，进而计算得到模型输出。

本申请实施例通过获取待监管的AI模型的使用信息，并将所述AI模型的使用信息也记录至区块链上；进而可以实现AI模型生命周期中的使用信息的安全监管，十分方便、可信。

另一方面，本方案中根据AI模型的数字身份签名等唯一标识信息在区块链上查找AI模型的所有权、使用权、交易权等权能构成与权利信息，以及模型开发者、开发日志、更新日志等模型变更相关信息，实现了AI模型权能构成与权利的可信监管和全生命周期溯源。

如图8所示，本申请实施例还提供一种AI模型的监管方法。

该监管方法包括获取待监管的AI模型的开发所需信息；根据所述AI模型的开发所需信息进行模型开发以得到所述AI模型，并将所述模型开发中产出的开发信息以及所得到的AI模型均记录至区块链上。该方法还包括获取所述AI模型交付信息，并将所述AI模型交付信息记录至所述区块链上。该方法进一步还包括获取待监管的AI模型的使用信息，并将所述AI模型的使用信息记录至区块链上。

其中，具体实现手段可参阅图1至图7的介绍，此处不再赘述。

如图9所示，为本申请实施例提供一种AI模型的监管装置。其包括区块链和AI模型监管系统。其中，AI模型监管系统可包括AI模型开发单元901、AI模型交付单元902、AI模型服务单元903和AI模型区块链单元904。其中，AI模型区块链单元904还包括链上数据获取模块9041、AI模型上链模块9042和AI模型确权模块9043。其中，链上数据获取模块9041用于实现从区块链上获取AI模型开发、交付、服务过程中需要使用的信息；AI模型上链模块9042用于实现将AI模型及其相关的静态与动态信息记录到区块链上。AI模型确权模块9043用于根据AI模型的数字身份签名等唯一身份标识从区块链上获取模型所有权、使用权、交易权等权能构成与权利信息。AI模型开发单元901用于利用上述链上数据获取模块得到模型开发使用的关键数据（如：训练数据、训练算法等），并将开发过程关键信息和开发的AI模型记录到区块链上。AI模型交付单元902利用上述链上数据获取模块得到模型交付使用的关键数据（如：交付的AI模型、模型效果、交付要求、模型部署设备等），并将交付相关信息记录到区块链上。AI模型服务单元903利用上述链上数据获取模块得到模型服务使用的关键数据（如：模型服务API等），并将模型服务相关信息记录到区块链上。

本方案利用区块链数据的防篡改特性确保AI模型开发、交付、服务的数据来源可信，结合AI模型开发、交付、服务过程中关键信息与结果的上链监管，保证AI模型开发、交付、服务过程可信，实现AI模型全生命周期的可信、透明监管。

与上述实施例一致的，请参阅图10，图10为本申请实施例提供的一种AI模型的监管服务器的结构示意图，如图所示，包括处理器、输入设备、输出设备和存储器，所述处理器、输入设备、输出设备和存储器相互连接，其中，所述存储器用于存储计算机程序，所述计算机程序包括程序指令，所述处理器被配置用于调用所述程序指令，上述程序包括用于执行以下步骤的指令；

获取待监管的AI模型的开发所需信息；

将所述AI模型记录至区块链上。

和/或，获取待监管的AI模型的使用信息；

将所述AI模型的使用信息记录至区块链上。

通过本申请实施例，通过获取待监管的AI模型的开发所需信息，然后根据所述AI模型的开发所需信息进行模型开发以得到该AI模型；最后将所述模型开发中产出的开发信息以及所得到的AI模型均记录至区块链上。采用该手段，可以实现AI模型各生命周期中关键信息的可信、透明监管。同时，可实现对于AI模型相关信息进行监控、追溯。

上述主要从方法侧执行过程的角度对本申请实施例的方案进行了介绍。可以理解的是，终端为了实现上述功能，其包含了执行各个功能相应的硬件结构和/或软件模块。本领域技术人员应该很容易意识到，结合本文中所提供的实施例描述的各示例的单元及算法步骤，本申请能够以硬件或硬件和计算机软件的结合形式来实现。某个功能究竟以硬件还是计算机软件驱动硬件的方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用使用不同方法来实现所描述的功能，但是这种实现不应认为超出本申请的范围。

本申请实施例可以根据上述方法示例对终端进行功能单元的划分，例如，可以对应各个功能划分各个功能单元，也可以将两个或两个以上的功能集成在一个处理单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。需要说明的是，本申请实施例中对单元的划分是示意性的，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式。

与上述一致的，请参阅图11，图11为本申请实施例提供了一种AI模型的监管系统的结构示意图。其包括获取模块1101、开发模块1102、记录模块1103，其中，具体如下：

获取模块1101，用于获取待监管的AI模型的开发所需信息；

开发模块1102，用于根据所述AI模型的开发所需信息进行模型开发以得到所述AI模型；

记录模块1103，用于将所述AI模型记录至区块链上；

其中，所述开发模块1102，用于：

所述记录模块1103，具体用于：

可以看出，通过本申请实施例，通过获取待监管的AI模型的开发所需信息，然后根据所述AI模型的开发所需信息进行模型开发以得到该AI模型；最后将所述模型开发中产出的开发信息以及所得到的AI模型均记录至区块链上。采用该手段，可以实现AI模型各生命周期中关键信息的可信、透明监管。同时，可实现对于AI模型相关信息进行监控、追溯。

本申请实施例还提供一种AI模型的监管系统，包括：

第一记录模块，用于将所述AI模型记录至区块链上；

第二获取模块，用于获取待监管的AI模型的使用信息；

获取超出阈值的分数所对应的信息，并记为第一信息；

本申请实施例还提供一种计算机存储介质，其中，该计算机存储介质存储用于电子数据交换的计算机程序，该计算机程序使得计算机执行如上述方法实施例中记载的任何一种AI模型的监管方法的部分或全部步骤。

本申请实施例还提供一种计算机程序产品，所述计算机程序产品包括存储了计算机程序的非瞬时性计算机可读存储介质，该计算机程序使得计算机执行如上述方法实施例中记载的任何一种AI模型的监管方法的部分或全部步骤。

需要说明的是，对于前述的各方法实施例，为了简单描述，故将其都表述为一系列的动作组合，但是本领域技术人员应该知悉，本申请并不受所描述的动作顺序的限制，因为依据本申请，某些步骤可以采用其他顺序或者同时进行。其次，本领域技术人员也应该知悉，说明书中所描述的实施例均属于优选实施例，所涉及的动作和模块并不一定是本申请所必须的。

在上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述的部分，可以参见其他实施例的相关描述。

在本申请所提供的几个实施例中，应该理解到，所揭露的装置，可通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，装置或单元的间接耦合或通信连接，可以是电性或其它的形式。

所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。

另外，在申请明各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用软件程序模块的形式实现。

所述集成的单元如果以软件程序模块的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储器中。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储器中，包括若干指令用以使得一台计算机设备（可为个人计算机、服务器或者网络设备等）执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储器包括：U盘、只读存储器（read-only memory，ROM）、随机存取存储器（random access memory， RAM）、移动硬盘、磁碟或者光盘等各种可以存储程序代码的介质。

本领域普通技术人员可以理解上述实施例的各种方法中的全部或部分步骤是可以通过程序来指令相关的硬件来完成，该程序可以存储于一计算机可读存储器中，存储器可以包括：闪存盘、只读存储器、随机存取器、磁盘或光盘等。

以上对本申请实施例进行了详细介绍，本文中应用了具体个例对本申请的原理及实施方式进行了阐述，以上实施例的说明只是用于帮助理解本申请的方法及其核心思想；同时，对于本领域的一般技术人员，依据本申请的思想，在具体实施方式及应用范围上均会有改变之处，综上所述，本说明书内容不应理解为对本申请的限制。

Claims

1.一种AI模型的监管方法，其特征在于，包括：

获取待监管的AI模型的开发所需信息；

将所述AI模型记录至区块链上；

其中，所述根据所述AI模型的开发所需信息进行模型开发以得到所述AI模型，包括：

获取与所述AI模型对应的AI算法；

所述将所述AI模型记录至区块链上，包括：

获取超出阈值的分数所对应的信息，并记为第一信息；

2.根据权利要求1所述的方法，其特征在于，所述根据所述AI模型的开发所需信息进行模型开发之前，包括：

从所述区块链上获取所述训练数据的第二哈希值；

若是，则确认所述训练数据可信。

3.根据权利要求2所述的方法，其特征在于，所述按照所述上链方式将所述第一信息记录至区块链上，具体包括：

将所述加密后的第一信息记录至区块链上。

4.根据权利要求1至3任一项所述的方法，其特征在于，所述方法还包括：

5.根据权利要求4所述的方法，其特征在于，所述获取所述AI模型交付信息，包括：

若一致，则确认所述AI模型为正确的。

6.根据权利要求5所述的方法，其特征在于，包括：

获取所述AI模型的静态信息和所述AI模型的运行结果；

7.一种AI模型的监管方法，其特征在于，包括：

获取AI模型的开发所需信息进行模型开发以得到所述AI模型，并将所述AI模型记录至区块链上；

获取待监管的AI模型的使用信息；

将所述AI模型的使用信息记录至区块链上；

其中，所述获取AI模型的开发所需信息进行模型开发以得到所述AI模型，包括：

获取与所述AI模型对应的AI算法；

所述将所述AI模型记录至区块链上，包括：

获取超出阈值的分数所对应的信息，并记为第一信息；

8.根据权利要求7所述的方法，其特征在于，所述方法还包括：

获取运行所述AI模型的使用者的身份信息；

从所述区块链上获取所述AI模型的使用权信息；

若是，则确认所述使用者具备使用权限。

9.根据权利要求7所述的方法，其特征在于，所述方法包括：

获取所述AI模型的静态信息和所述AI模型的运行结果；

10.根据权利要求9所述的方法，其特征在于，所述方法还包括：

11.一种AI模型的监管系统，其特征在于，包括：

获取模块，用于获取待监管的AI模型的开发所需信息；

记录模块，用于将所述AI模型记录至区块链上；

其中，所述开发模块，用于：

所述记录模块，具体用于：

12.根据权利要求11所述的系统，其特征在于，还包括确认模块，用于：

获取所述AI模型的训练数据，并对所述训练数据进行第一哈希算法处理以得到所述训练数据的第一哈希值；从所述区块链上获取所述训练数据的第二哈希值；确认所述训练数据的第一哈希值和第二哈希值之间的误差是否在预设范围内；若是，则确认所述训练数据可信。

13.根据权利要求12所述的系统，其特征在于，所述按照所述上链方式将所述第一信息记录至区块链上，具体包括：

将所述加密后的第一信息记录至区块链上。

14.根据权利要求11至13任一项所述的系统，其特征在于，还包括交付模块，用于：

15.根据权利要求14所述的系统，其特征在于，所述交付模块，用于：

分别获取交付的AI模型与记录在区块链上的AI模型的数字身份签名；确认所述交付的AI模型的数字身份签名是否与所述记录在区块链上的AI模型的数字身份签名一致；若一致，则确认所述AI模型为正确的。

16.根据权利要求15所述的系统，其特征在于，包括：

获取所述AI模型的静态信息和所述AI模型的运行结果；

17.一种AI模型的监管系统，其特征在于，包括：

第一记录模块，用于将所述AI模型记录至区块链上；

第二获取模块，用于获取待监管的AI模型的使用信息；

获取超出阈值的分数所对应的信息，并记为第一信息；

18.根据权利要求17所述的系统，其特征在于，还包括确认模块，用于：

获取运行所述AI模型的使用者的身份信息；

从所述区块链上获取所述AI模型的使用权信息；

若是，则确认所述使用者具备使用权限。

19.根据权利要求17所述的系统，其特征在于，还包括处理模块，所述处理模块，用于：

获取所述AI模型的静态信息和所述AI模型的运行结果；

20.根据权利要求19所述的系统，其特征在于，还包括解密模块，用于：

21.一种AI模型的监管服务器，其特征在于，包括处理器、输入设备、输出设备和存储器，所述处理器、输入设备、输出设备和存储器相互连接，其中，所述存储器用于存储计算机程序，所述计算机程序包括程序指令，所述处理器被配置用于调用所述程序指令，执行如权利要求1至6任一项所述的方法，和/或如权利要求7至10任一项所述的方法。

22.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质存储有计算机程序，所述计算机程序被处理器执行以实现权利要求1至6任一项所述的方法，和/或如权利要求7至10任一项所述的方法。