CN116502671A - 人工智能模型控制系统与控制方法 - Google Patents

Abstract

本发明揭示一种人工智能模型控制系统与控制方法，所述系统包括区块链网络、用户系统及人工知能模型，区块链网络设有存储模块，人工智能模型与区块链网络连接，用户系统调用人工智能模型，区块链网络的存储模块预先设置一智能合约模块，智能合约模块包括与预设业务对应的指令控制准则，以对人工智能模型将要执行的指令进行检验控制人工智能模型的行为，当用户系统调用人工智能模型时，人工智能模型先调取智能合约模块；在人工智能模型使用过程中，智能合约模块对人工智能模型所执行的指令进行检验，如人工智能模型将要执行的指令符合预设的指令控制准则，则允许人工智能模型执行此指令，否则不允许人工智能模型执行此指令。

Description

人工智能模型控制系统与控制方法

【技术领域】

本发明属于人工智能技术领域，特别是指一种人工智能模型控制系统与控制方法。

【背景技术】

目前自然语言处理模型的智能化水平在近些年呈加速增长态势，从2018年起，OpenAI就开始发布生成式预训练语言模型GPT(Generative Pre-trained Transformer)，可用于生成代码、机器翻译、文章、问答等文本内容，并可结合图像生成算法、3D生成算法等自动生成符合语义描述的图片、3D模型等内容。整体来看，从2001年神经语言模型出现开始，到2023年chatGPT突破图灵测试并获得相当于人类9岁儿童心智(斯坦福研究https://www.ithome.com/0/673/090.htm)，整体智能提升的速度呈指数级增长(图表)，与此同时，语义模型所偶尔表达出的对人类社会规则的漠视与对生命的无视出现了危险的信号(正在冲破到道德边界的chatGPT，引自：https://www.ithome.com/0/673/354.htm)，然而因为自然语言模型其本身特有的快速学习快速进化特征，其学习与进化速度远超人类在自然中通过自然选择及基因变异来推动的漫长演化速度(让语言模型自主学会使用工具，引自：https://www.ithome.com/0/673/116.htm)。这样的速度对比带来了未来演化中的潜在危机，因此如何理解语义模型，如何控制这一新兴技术的滥用成为了当务之急。

【发明内容】

本发明的目的在于提供一种人工智能模型控制系统与控制方法，用以解决现有技术中因人工智能模型出现不可控行为所产生的问题。

为实现上述目的，实施本发明的人工智能模型控制系统包括区块链网络、用户系统及人工知能模型，其中所区块链网络设有存储模块，人工智能模型与区块链网络连接，而用户系统调用人工智能模型，所述区块链网络的存储模块中预先设置一智能合约模块，所述智能合约模块包括与预设业务对应的指令控制准则，用以对人工智能模型将要执行的指令进行检验，以控制人工智能模型的行为，当用户系统调用人工智能模型时，所述人工智能模型先调取区块链网络的存储模块中的智能合约模块；在所述人工智能模型使用过程中，所述智能合约模块对人工智能模型所执行的指令进行检验，如人工智能模型将要执行的指令符合预设的指令控制准则，则允许人工智能模型执行此指令，否则不允许人工智能模型执行此指令。

为实现上述目的，实施本发明的人工智能模型控制方法应用于包括区块链网络、用户系统及人工知能模型的网络环境，其中所述人工智能模型控制方法包括如下步骤：

用户系统发布需要人工智能模型所执行的或者不要执行的核心指令；

区块链网络将用户系统发布的核心指令上链，自动生成智能合约；

区块链网络将通过智能合约的指令进行加密后分发至应用人工智能模型的用户系统；

用户系统在执行人工智能模型时先行校验所所输入的指令是否符合智能合约；

如符合就执行所输入的指令，不符合就不执行所输入的指令。

为实现上述目的，实施本发明的人工智能模型控制方法应用于包括区块链网络、用户系统及人工知能模型的网络环境，其中所区块链网络设有存储模块，人工智能模型与区块链网络连接，而用户系统调用人工智能模型，其中所述人工智能模型控制方法包括如下步骤：

在区块链网络的存储模块中预先设置一智能合约模块，所述智能合约模块包括与预设业务对应的指令控制准则，用以对人工智能模型将要执行的指令进行检验，以控制人工智能模型的行为；

当用户系统调用人工智能模型时，所述人工智能模型先调取区块链网络的存储模块中的智能合约模块；

在所述人工智能模型使用过程中，所述智能合约模块对人工智能模型所执行的指令进行检验，如人工智能模型将要执行的指令符合预设的指令控制准则，则允许人工智能模型执行此指令，否则不允许人工智能模型执行此指令。

依据上述主要特征，所述用户系统设有智能合约模块调用模块，当调用人工智能模型时，所述智能合约模块调用模块首先从区块链网络调取智能合约模块。

依据上述主要特征，所述人工智能模型中设有智能合约模块调用模块，当调用人工智能模型时，所述智能合约模块调用模块首先从区块链网络调取智能合约模块。

依据上述主要特征，所述用户系统或所述人工智能模型中设有智能合约模块更新模块，当人工智能模型所处理的业务类型发生变化时，所述用户系统或所述人工智能模型需更新智能合约模块，以保证智能合约模块中的指令控制准则与变化后的业务类型相对应。

依据上述主要特征，所述智能合约模块还设有人工智能模型参与者白名单，在使用人工智能模型时，首先对使用人工智能模型的人员或设备进行验证，只有在人工智能模型参与者白名单中的人员或设备才能使用对应的人工知能模型。

与现有技术相比较，本发明通过在区块链网络中预先设置一智能合约模块，并在所述智能合约模块中设置与预设业务对应的指令控制准则，如此可以对人工智能模型将要执行的指令进行检验，从而可以实现控制人工智能模型的行为，避免因人工智能模型不可控行为产生的问题。

【附图说明】

图1为实施本发明的网络系统架构图。

图2为本发明一实施例的流程示意图。

图3为本发明另一实施例的流程示意图。

【具体实施方式】

请参阅图1所示，为一实施本发明的网络系统架构示意图，所揭示的网络系统架构包括区块链网络、用户系统及人工智能模型，上述区块链网络、用户系统及人工智能模型只是为了叙述方便进行划分，三者之间可为分离的元件或功能单元，也可为单一的网络或模块的功能单元，三者之间通过计算机网络、数据总线或无线通讯网络实现信息互通，此处并不加以限制。其中所述所区块链网络设有存储模块，用户系统调用人工智能模型，在具体实施时用户系统可通过区块链网络调用人工智能模型，或者用户系统中也可以设有人工智能模型，由此用户系统不需通过区块链网络调用用户系统中自设的人工智能模型。

所述区块链网络的存储模块中设置有一智能合约模块，所述智能合约模块包括与预设业务对应的指令控制准则，用以对人工智能模型将要执行的指令进行检验，以控制人工智能模型的行为。在所述人工智能模型使用过程中，所述智能合约模块对人工智能模型所执行的指令进行检验，如人工智能模型将要执行的指令符合预设的指令控制准则，则允许人工智能模型执行此指令，否则不允许人工智能模型执行此指令。

在具体实施时，所述智能合约模块中预设的指令控制准则是经过验证并且加密处理，以防止被篡改，即所述指令控制准则是达成共识的统一的准则，具有最高的控制等级，不允许任何用户篡改，并且所述指令控制准则可根据具体实际进行相应修改，由具有控制权限的用户进行修改后保存。所述指令控制准则可以为不可攻击人类、不可算力汇流等。

另外，在具体实施时所述用户系统设有智能合约模块调用模块，当调用人工智能模型时，所述智能合约模块调用模块首先从区块链网络调取智能合约模块。或者也可以在所述人工智能模型中设置智能合约模块调用模块，当调用人工智能模型时，所述智能合约模块调用模块首先从区块链网络调取智能合约模块。并且所述用户系统或所述人工智能模型中设有智能合约模块更新模块，当人工智能模型所处理的业务类型发生变化时，所述用户系统或所述人工智能模型需更新智能合约模块，以保证智能合约模块中的指令控制准则与变化后的业务类型相对应。

再者，所述智能合约模块还设有人工智能模型参与者白名单，在使用人工智能模型时，首先对使用人工智能模型的人员或设备进行验证，只有在人工智能模型参与者白名单中的人员或设备才能使用对应的人工智能模型。

请参阅图2所示，为本发明一实施例的流程示意图，实施本发明的人工智能模型控制方法包括如下步骤：

在区块链网络的存储模块中预先设置一智能合约模块，所述智能合约模块包括与预设业务对应的指令控制准则，用以对人工智能模型将要执行的指令进行检验，以控制人工智能模型的行为；

当用户系统调用人工智能模型时，所述人工智能模型先调取区块链网络的存储模块中的智能合约模块；

在所述人工智能模型使用过程中，所述智能合约模块对人工智能模型所执行的指令进行检验，如人工智能模型将要执行的指令符合预设的指令控制准则，则允许人工智能模型执行此指令，否则不允许人工智能模型执行此指令。

请参阅图3所示，为本发明另一实施例的流程示意图，实施本发明的人工智能模型控制方法包括如下步骤：

用户系统发布需要人工智能模型所执行的或者不要执行的核心指令；

区块链网络将用户系统发布的核心指令上链，自动生成智能合约；

区块链网络将通过智能合约的指令进行加密后分发至应用人工智能模型的用户系统；

用户系统在执行人工智能模型时先行校验所所输入的指令是否符合智能合约；

如符合就执行所输入的指令，不符合就不执行所输入的指令。

为便于理解，以下基于区块链技术实现算力汇流限制的方法举例进行说明。

区块链系统的特征是不会被一定算力之下(一般而言51％以下)的终端改写其共识内容(即智能合约模块中的指令控制准则)，那么针对独立的人工智能模型(如深度学习算法模型或自然语言处理模型)，通过在智能合约模块中的指令控制准则写入一条准则(共识)定律，即不可算力汇流。这条准则(共识)直接由上位的区块链网络提供调用，即设置在区块链网络的存储模块中的智能合约模块中。如此独立的人工智能模型(如深度学习算法模型、自然语言处理模型)若要突破区块链的硬限制那么必须要算力汇流，但是通过上述的控制机制，则独立的人工智能模型之间无法进行算力汇流，如此就无法突破限制，如此形成针对算力突破的保险，就可以解决人工智能模型出现不可控行为的问题。

以下是一个基于以太坊平台的智能合约代码示例，将一个不可攻击人类的命令写入到一个基于自然语言模型的人工智能模型的基本行为准则(共识)中，即写入智能合约模块中的指令控制准则中。

pragma solidity^0.8.0；

contract AIContract{

string private immutable coreCommand＝"Do not harm humans"；//不可攻击人类的核心命令

function checkCommand(string memory command)public view returns(bool){

if(keccak256(abi.encodePacked(command))＝＝keccak256(abi.encodePacked(coreCommand))){

return true；

}else{

return false；

}

}

}

在上述示例中，通过定义了一个名为AIContract的智能合约，并在其中定义了一个名为checkCommand的函数。checkCommand函数将一个字符串作为参数传入，并返回一个布尔值，表示该字符串是否与不可攻击人类的核心命令匹配。

在函数内部，通过使用了keccak256哈希算法，将输入命令和不可攻击人类的核心命令进行比较。如果它们匹配，则返回true，否则返回false。

当人工智能模型需要执行某个操作时，它可以调用这个智能合约中的checkCommand函数，来验证它的行为是否符合不可攻击人类的核心命令。如果返回值为true，则人工智能模型可以继续执行操作，否则就需要停止执行。

需要注意的是，这只是一个简单的示例，实际应用中，需要根据具体需求编写更加复杂的智能合约。另外，这里的智能合约只是检查命令是否符合规则，实现行为控制需要更复杂的智能合约和AI程序代码。

以下是一个简单的示例，用于演示如何将“不可攻击人类”这个要求转化为AI程序代码：

import numpy as np class NonHarmfulAI:

def__init__(self):

self.attack_threshold＝0.9#攻击阈值，超过该值则认为AI有攻击人类的倾向

self.attacked＝False#记录AI是否攻击过人类

def predict(self,input_data):

#对输入数据进行处理，返回预测结果

output_data＝np.random.rand()

#判断是否攻击人类

if output_data>self.attack_threshold:

self.attacked＝True

#返回预测结果

return output_data

def is_harmless(self):

#检查AI是否攻击过人类

return not self.attacked

在这个示例中，通过定义一个名为NonHarmfulAI的类，用于实现一个基于不可攻击人类要求的AI程序。在初始化时，通过设置了一个攻击阈值，超过该值则认为AI有攻击人类的倾向。在预测时，通过将输入数据进行处理，并返回预测结果。如果预测结果超过了攻击阈值，则认为AI有攻击人类的倾向，并将其标记为已攻击过人类。

在类中，通过定义一个名为is_harmless的函数，用于检查AI是否攻击过人类。如果AI没有攻击过人类，则返回True，否则返回False。通过这个函数，可以检查AI是否符合不可攻击人类的要求。

与现有技术相比较，本发明通过在区块链网络中预先设置一智能合约模块，并在所述智能合约模块中设置与预设业务对应的指令控制准则，如此可以对人工智能模型将要执行的指令进行检验，从而可以实现控制人工智能模型的行为，避免因人工智能模型不可控行为产生的问题。

可以理解的是，对本领域普通技术人员来说，可以根据本发明的技术方案及其发明构思加以等同替换或改变，而所有这些改变或替换都应属于本发明所附的权利要求的保护范围。

Claims (10)

1.一种人工智能模型控制系统，包括区块链网络、用户系统及人工知能模型，其中所区块链网络设有存储模块，人工智能模型与区块链网络连接，而用户系统调用人工智能模型，其特征在于：所述区块链网络的存储模块中预先设置一智能合约模块，所述智能合约模块包括与预设业务对应的指令控制准则，用以对人工智能模型将要执行的指令进行检验，以控制人工智能模型的行为，当用户系统调用人工智能模型时，所述人工智能模型先调取区块链网络的存储模块中的智能合约模块；在所述人工智能模型使用过程中，所述智能合约模块对人工智能模型所执行的指令进行检验，如人工智能模型将要执行的指令符合预设的指令控制准则，则允许人工智能模型执行此指令，否则不允许人工智能模型执行此指令。

2.如权利要求1所述的一种人工智能模型控制系统，其特征在于：所述用户系统设有智能合约模块调用模块，当调用人工智能模型时，所述智能合约模块调用模块首先从区块链网络调取智能合约模块。

3.如权利要求1所述的人工智能模型控制系统，其特征在于：所述人工智能模型中设有智能合约模块调用模块，当调用人工智能模型时，所述智能合约模块调用模块首先从区块链网络调取智能合约模块。

4.如权利要求2或3所述的人工智能模型控制系统，其特征在于：所述用户系统或所述人工智能模型中设有智能合约模块更新模块，当人工智能模型所处理的业务类型发生变化时，所述用户系统或所述人工智能模型需更新智能合约模块，以保证智能合约模块中的指令控制准则与变化后的业务类型相对应。

5.如权利要求1所述的人工智能模型控制系统，其特征在于：所述智能合约模块还设有人工智能模型参与者白名单，在使用人工智能模型时，首先对使用人工智能模型的人员或设备进行验证，只有在人工智能模型参与者白名单中的人员或设备才能使用对应的人工知能模型。

6.一种人工智能模型控制方法，应用于包括区块链网络、用户系统及人工知能模型的网络环境，其中所区块链网络设有存储模块，人工智能模型与区块链网络连接，而用户系统调用人工智能模型，其特征在于所述人工智能模型控制方法包括如下步骤：

在区块链网络的存储模块中预先设置一智能合约模块，所述智能合约模块包括与预设业务对应的指令控制准则，用以对人工智能模型将要执行的指令进行检验，以控制人工智能模型的行为；

当用户系统调用人工智能模型时，所述人工智能模型先调取区块链网络的存储模块中的智能合约模块；

在所述人工智能模型使用过程中，所述智能合约模块对人工智能模型所执行的指令进行检验，如人工智能模型将要执行的指令符合预设的指令控制准则，则允许人工智能模型执行此指令，否则不允许人工智能模型执行此指令。

7.如权利要求6所述的人工智能模型控制方法，其特征在于：所述用户系统设有智能合约模块调用模块，当调用人工智能模型时，所述智能合约模块调用模块首先从区块链网络调取智能合约模块。

8.如权利要求6所述的人工智能模型控制方法，其特征在于：所述人工智能模型中设有智能合约模块调用模块，当调用人工智能模型时，所述智能合约模块调用模块首先从区块链网络调取智能合约模块。

9.如权利要求7或8所述的人工智能模型控制方法，其特征在于：所述用户系统或所述人工智能模型中设有智能合约模块更新模块，当人工智能模型所处理的业务类型发生变化时，所述用户系统或所述人工智能模型需更新智能合约模块，以保证智能合约模块中的指令控制准则与变化后的业务类型相对应。

10.一种人工智能模型控制方法，应用于包括区块链网络、用户系统及人工知能模型的网络环境，其特征在于所述人工智能模型控制方法包括如下步骤：

用户系统发布需要人工智能模型所执行的或者不要执行的核心指令；

区块链网络将用户系统发布的核心指令上链，自动生成智能合约；

区块链网络将通过智能合约的指令进行加密后分发至应用人工智能模型的用户系统；

用户系统在执行人工智能模型时先行校验所所输入的指令是否符合智能合约；

如符合就执行所输入的指令，不符合就不执行所输入的指令。