CN107329445A - 机器人行为准则智能监管的方法 - Google Patents

Abstract

本发明申请公开了一种机器人行为准则智能监管的方法，包括以下步骤：采集步骤、识别步骤、决策步骤、自学习步骤和执行步骤，还包括以下内容：匹配成功后，测试网络是否连接正常，若连接正常，处理器将决策步骤中确定的控制指令与其对应的用户指令一起反馈至后云端进行核对；匹配失败后，测试网络是否连接正常，若连接正常，处理器将自学习步骤中自学生成的目标答案与其对应的用户指令一起反馈至云端进行核对；网络连接不正常，则发出提示信号；云端核对步骤，云端中央处理器判断控制指令或目标答案是否遵守行为准则。本发明意在提供一种机器人行为准则智能监管的方法，以解决现有机器人不遵守行为准则对人类造成威胁的问题。

Description

机器人行为准则智能监管的方法

技术领域

本发明涉及一种机器人通信技术领域，尤其涉及一种机器人行为准则智能监管的方法。

背景技术

随着机器人智能化的不断发展，机器人越来越聪明，也与我们的生活越加贴近，人们思考人和机器人的关系，科幻片中出现过机器人超越人类、奴役人类的场景，不管是黑客帝国里把人类当成大白菜收成还是终结者里人类被追杀，都体现了人类害怕被机器人控制的忧虑。

人工智能进入生活开启新的时代，在未来生活里，人们该如何去面对越来越智能的机器人，究竟机器人会不会反过来伤害人类呢，面对这样的趋势科幻作家阿西莫夫提出“机器人学三原则”：

第一原则：机器人不得伤害人类，或坐视人类受到伤害；

第二原则：除非违背第一原则，机器人必须服从人类的命令；

第三原则：在不违背第一及第二原则下，机器人必须保护自己。

目前，机器人的均以“机器人学三原则”为基本定律进行开发设计，使机器人可以保护人类，给予人类更好的生活，即使机器人产生智慧，会独立思考，依靠这一原则可禁锢人工智能的思维，使人类免受威胁。

中国发明专利（公开号：CN103886367B）公开了一种仿生智能控制方法，该方法从仿生的角度模拟了生物的感觉运动神经系统，同时借鉴了操作条件反射理论，使系统具有操作条件反射机能，能较好地模拟（表现）生物自学习行为，使机器人表现出良好的自适应能力和较高的智能水平。

然而，机器人自学习能力高，可能会存在学坏的几率；即使对于一些按照行为准则设计的机器人，对于一些逻辑冲突，比如人受伤了，机器人按照第一原则需要救助伤者，但救助伤者可能会伤害伤者等情况，对于目前阶段的机器人没办法做出准确的判断，而且机器人接入外部网络容易受到外界网络的黑客攻击，篡改指令，使机器人不能正常执行指令，甚者可能会执行对人类造成威胁的错误指令。

发明内容

本发明意在提供一种机器人行为准则智能监管的方法，以解决现有机器人不遵守行为准则对人类造成威胁的问题。

本发明提供的基础方案是：机器人行为准则智能监管的方法，包括以下步骤：

采集步骤，通过采集装置采集用户指令；

识别步骤，处理器根据接收到的用户指令，提取及识别特征信号，并将提取的特征信号与存储器中存储的通过用户指令样本训练获得的最佳训练码本进行对比，获得匹配成功或失败信号；

决策步骤，匹配成功后，处理器根据识别结果确定控制指令；

自学习步骤，匹配失败后，处理器对超出范围的用户指令进行自学习，生成相应的目标答案，将目标答案存储至存储器中；

执行步骤，让执行机构根据处理器输出的控制指令或目标答案执行相应动作；

还包括以下内容：

匹配成功后，测试网络是否连接正常，若连接正常，处理器将决策步骤中确定的控制指令与其对应的用户指令一起反馈至后云端进行核对；

匹配失败后，测试网络是否连接正常，若连接正常，处理器将自学习步骤中自学生成的目标答案与其对应的用户指令一起反馈至云端进行核对；

若网络连接不正常，则发出提示信号；

云端核对步骤，云端中央处理器判断控制指令或目标答案是否遵守行为准则，若云端核对结果为是，则处理器输出控制指令或目标答案至执行机构，若云端核对为否，则对违反行为准则的控制指令或目标答案进行修正，并将修正后的控制指令或目标答案覆盖存储器中存储的违反行为准则的控制指令或目标答案。

基础方案的工作原理：通过采集装置采集用户指令，处理器对接收到的处理器进行特征提取及识别，并将提取的特征信号与存储器中存储的通过用户指令样本训练获得的最佳训练码本进行对比，获得匹配结果信息：

若匹配成功，处理器根据识别结果确定控制指令，测试网络是否连接正常，若连接正常，处理器将控制指令与其对应的用户指令一起反馈至后云端进行核对，云端中央处理器判断控制指令是否遵守行为准则：若云端核对结果为是，则说明控制指令符合行为准则，机器人指令系统未受到黑客攻击或机器人未擅自更改控制指令，则处理器输出控制指令至执行机构，执行机构根据处理器输出的控制指令或目标答案执行相应动作；若云端核对为否，则说明控制指令违反了行为准则，机器人指令系统被非法更改，技术人员对控制指令进行修正，并将修正后的控制指令覆盖存储器中存储的违反行为准则的控制指令，且处理器输出修正后的控制指令至执行机构，执行机构根据处理器输出的控制指令执行相应动作。

若匹配失败，处理器对超出范围的用户指令进行自学习，生成相应的目标答案，将目标答案存储至存储器中，测试网络是否连接正常，若连接正常，处理器将自学生成的目标答案与其对应的用户指令一起反馈至云端进行核对，云端中央处理器判断目标答案是否遵守行为准则：若云端核对结果为是，则说明自学习生成的目标答案符合行为准则，处理器输出控制指令至执行机构，执行机构根据处理器输出的控制指令或目标答案执行相应动作；若云端核对为否，则自学习生成的目标答案违反了行为准则，技术人员对目标答案进行修正，并将修正后的目标答案覆盖存储器中存储的违反行为准则的目标答案，且处理器输出修正后的目标答案至执行机构，执行机构根据处理器输出的目标答案执行相应动作。

如果网络若未连接，处理器控制提示模块发出提示信号，提醒人员进行联网。

基础方案的有益效果是：

网络检测步骤可以使系统在连网下运行，防止控制指令或目标答案在未进行云端核对的情况下输出从而使不符合行为规则的控制指令或目标答案对人造成威胁。

云端核对步骤可判断控制指令或目标答案是否遵守行为准则，对不符合行为规则的控制指令或目标答案进行及时修改，实现了对非法指令的监控，防止了不符合行为规则的控制指令或目标答案对人造成威胁。

进一步，自学习步骤还包括以下步骤：自学失败原因分析步骤，网络连接正常且匹配失败后，处理器对超出范围的用户指令进行自学习，自学习失败，并对自学习失败原因进行分析，输出分析结果及用户指令至云端进行学习。

有益效果：通过对自学习失败结果进行分析，获得失败原因，如：因超越了系统自学习能力而自学习失败或者因逻辑冲突而自学习失败，逻辑冲突如：在人受伤的情况下，机器人需要遵守“机器人学三原则”的第一原则，对人员进行救治，然而会存在特殊情况，对人进行救治时会对人进行二次伤害，此时又不符合第一原则，机器人处于逻辑混乱的状态，从而无法做出正确的判断，通过失败原因可以针对性的解决问题，也提高了机器人的适应性。

进一步，还包括以下步骤：云端学习步骤，若云端中央处理器接收到的分析结果为超出自学能力范围，则云端中央处理器对超出范围的用户指令进行识别、分类，根据与数据库中存储的超出范围的用户指令进行相似度对比进行分类，并对同类别进行统计，当同类别超出范围的用户指令的个数大于预设值时，发送升级消息通知技术人员进行程序升级，技术人员将升级后的控制指令通过云端中央处理器存储至存储器中；

若云端中央处理器接收到的分析结果与行为准则逻辑冲突，则云端中央处理器发送紧急消息通知技术人员进行程序升级，技术人员将升级后的控制指令通过云端中央处理器存储至存储器中。

有益效果：当因超越了系统自学习能力而自学习失败时，根据超出范围的用户指令出现频率来决定系统是否升级，因存在一些用户指令是因用户的误操作而发出的，通过统计出现频率可有效避免对系统进行无效升级，也降低了系统及技术人员的工作量。而在人受伤的情况下，机器人需要遵守“机器人学三原则”的第一原则，对人员进行救治，然而会存在特殊情况，对人进行救治时会对人进行二次伤害，此时又不符合第一原则，机器人处于逻辑混乱的状态，从而无法做出正确的判断，在这种特殊情况下，技术人员可通过科学的方式来进行判断，选择相对较优的方案进行处理，提高了机器人的适应性。

进一步，还包括以下步骤：通讯步骤，若处理器分析出自学习失败原因为逻辑冲突时，启动通讯模块，通讯模块向看护人员发送紧急救助信息。

有益效果：在人受伤的情况下，机器人需要遵守“机器人学三原则”的第一原则，对人员进行救治，然而会存在特殊情况，对人进行救治时会对人进行二次伤害，此时又不符合第一原则，机器人处于逻辑冲突状态下时，通讯模块可向看护人员发送紧急救助信息，对用户进行及时的帮助和救治。

进一步，用户指令包括指令信息、动作信息、表情信息和环境信息。

有益效果：通过采集指令信息、动作信息、表情信息和环境信息，可快速准确的识别出用户的行为特征，如表情、意图等，提高了识别的准确性。

进一步， 所述云端核对步骤还包括以下步骤：

云端自检步骤，通过模拟仿真器仿真，判断自学习生成的目标答案是否有逻辑错误：

当判断结果为有逻辑错误，则执行云端修正步骤；

当判断结果为无逻辑错误，则处理器输出控制指令或目标答案至执行机构；

云端修正步骤，技术人员对违反行为准则的控制指令或目标答案进行修正，并将修正后的控制指令或目标答案覆盖存储器中存储的违反行为准则的控制指令或目标答案。

有益效果：通过云端自检步骤和云端修正步骤，对控制指令和目标答案进行核对及修正，保证了控制指令和目标答案的正确性，防止了不符合行为规则的控制指令或目标答案对用户造成威胁。

附图说明

图1为本发明机器人行为准则智能监管的方法实施例的流程图。

具体实施方式

下面通过具体实施方式对本发明作进一步详细的说明：

机器人行为准则智能监管的方法实施例基本如图1所示：机器人行为准则智能监管的方法，包括以下步骤：

采集步骤，通过采集装置采集用户指令，其中，用户指令包括指令信息、动作信息、表情信息和环境信息，通过采集指令信息、动作信息、表情信息和环境信息，可快速准确的识别出用户的行为特征，如表情、意图等，提高了识别的准确性，采集装置包括用于语音识别的讯飞的语音识别芯片；用于采集图像信息的CCD（电荷耦合器件）照相机；用于判断人体状态的三轴加速度计、三轴陀螺仪和三轴磁力计；用于接触由物理动作，如用户的“打击”或“轻拍”造成的压力接触传感器以及其它各种传感器，如触低传感器、姿势传感器、距离传感器等。

识别步骤，处理器根据接收到的用户指令，提取及识别特征信号，并将提取的特征信号与存储器中存储的通过用户指令样本训练获得的最佳训练码本进行对比，获得匹配结果信息；识别用户命令、动作及周围的状态，如“烦恼”、“急躁”、“检测到跌倒”、“检测到自己被击打”、“听见声音”、“检测到运动的对向”和“检测到障碍物”等，通过信号处理器对信号进行处理并输出相应的数字信号，信号处理器采用具有较高性能的传感信号处理集成IC：BISS0001对采集的信号进行降噪、放大及模数转换处理，并将处理后的数字信号发送给处理器进行识别，处理器采用国产龙芯CPU。

决策步骤，匹配成功后，处理器根据识别结果确定控制指令；

自学习步骤，匹配失败后，处理器对超出范围的用户指令进行自学习，生成相应的目标答案，将目标答案存储至存储器中，本实施例中的自学习步骤借鉴现有技术的仿生智能控制方法，从仿生的角度模拟了生物的感觉运动神经系统，同时借鉴了操作条件反射理论，使系统具有操作条件反射机能，能较好地模拟（表现）生物自学习行为，使机器人表现出良好的自适应能力和较高的智能水平,且本实施例通过对自学习生成的目标答案进行核对，以检查目标答案是否对人类造成威胁或伤害。

执行步骤，让执行机构根据处理器输出的控制指令或目标答案执行相应动作；

还包括以下内容：

匹配成功后，测试网络是否连接正常，若连接正常，处理器将决策步骤中确定的控制指令与其对应的用户指令一起反馈至后云端进行核对；

匹配失败后，测试网络是否连接正常，若连接正常，处理器将自学习步骤中自学生成的目标答案与其对应的用户指令一起反馈至云端进行核对；

若网络连接不正常，则发出提示信号；

云端核对步骤，云端中央处理器判断控制指令或目标答案是否遵守行为准则，若云端核对结果为是，则处理器输出控制指令或目标答案至执行机构，若云端核对为否，则对违反行为准则的控制指令或目标答案进行修正，并将修正后的控制指令或目标答案覆盖存储器中存储的违反行为准则的控制指令或目标答案。

使用时，通过采集装置采集用户指令，处理器对接收到的处理器进行特征提取及识别，并将提取的特征信号与存储器中存储的通过用户指令样本训练获得的最佳训练码本进行对比，获得匹配结果信息：

若匹配成功，处理器根据识别结果确定控制指令，测试网络是否连接正常，若连接正常，处理器将控制指令与其对应的用户指令一起反馈至后云端进行核对，云端中央处理器判断控制指令是否遵守行为准则：若云端核对结果为是，则说明控制指令符合行为准则，机器人指令系统未受到黑客攻击或机器人未擅自更改控制指令，则处理器输出控制指令至执行机构，执行机构根据处理器输出的控制指令或目标答案执行相应动作；若云端核对为否，则说明控制指令违反了行为准则，机器人指令系统被非法更改，技术人员对控制指令进行修正，并将修正后的控制指令覆盖存储器中存储的违反行为准则的控制指令，且处理器输出修正后的控制指令至执行机构，执行机构根据处理器输出的控制指令执行相应动作。

若匹配失败，处理器对超出范围的用户指令进行自学习，生成相应的目标答案，将目标答案存储至存储器中，测试网络是否连接正常，若连接正常，处理器将自学生成的目标答案与其对应的用户指令一起反馈至云端进行核对，云端中央处理器判断目标答案是否遵守行为准则：若云端核对结果为是，则说明自学习生成的目标答案符合行为准则，处理器输出控制指令至执行机构，执行机构根据处理器输出的控制指令或目标答案执行相应动作；若云端核对为否，则自学习生成的目标答案违反了行为准则，技术人员对目标答案进行修正，并将修正后的目标答案覆盖存储器中存储的违反行为准则的目标答案，且处理器输出修正后的目标答案至执行机构，执行机构根据处理器输出的目标答案执行相应动作。

如果网络未连接，处理器控制提示模块发出提示信号，提醒人员进行联网。

云端核对步骤还包括以下步骤：

云端自检步骤，通过模拟仿真器仿真，在软件方面采用基于Java3D技术的Simbad机器人仿真平台对介绍到的控制指令进行仿真模拟，判断自学习生成的目标答案是否有逻辑错误：

当判断结果为有逻辑错误，则执行云端修正步骤；

当判断结果为无逻辑错误，则处理器输出控制指令或目标答案至执行机构；

云端修正步骤，技术人员对违反行为准则的控制指令或目标答案进行修正，并将修正后的控制指令或目标答案覆盖存储器中存储的违反行为准则的控制指令或目标答案。

通过云端自检步骤和云端修正步骤，对控制指令和目标答案进行核对及修正，保证了控制指令和目标答案的正确性，防止了不符合行为规则的控制指令或目标答案对用户造成威胁。

自学习步骤还包括以下步骤：自学失败原因分析步骤，网络连接正常且匹配失败后，处理器对超出范围的用户指令进行自学习，自学习失败，并对自学习失败原因进行分析，输出分析结果及用户指令至云端进行学习。

本实施例中的机器人依照“机器人学三原则”进行设计，在进行自学失败原因分析时，处理器对识别结果进行“机器人学三原则”判断，当处理器判断为“机器人学三原则”逻辑冲突是则为逻辑冲突失败，反之则为达到智商极限。

通过对自学习失败结果进行分析，获得失败原因，如：因超越了系统自学习能力而自学习失败或者因逻辑冲突而自学习失败，逻辑冲突如：在人受伤的情况下，机器人需要遵守“机器人学三原则”的第一原则，对人员进行救治，然而会存在特殊情况，对人进行救治时会对人进行二次伤害，此时又不符合第一原则，机器人处于逻辑混乱的状态，从而无法做出正确的判断，通过失败原因可以针对性的解决问题，也提高了机器人的适应性。

云端学习步骤，若云端中央处理器接收到的分析结果为超出自学能力范围，则云端中央处理器对超出范围的用户指令进行识别、分类，根据与数据库中存储的超出范围的用户指令进行相似度对比进行分类，并对同类别进行统计，当同类别超出范围的用户指令的个数大于预设值时，发送升级消息通知技术人员进行程序升级，技术人员将升级后的控制指令通过云端中央处理器存储至存储器中；若云端中央处理器接收到的分析结果与行为准则逻辑冲突，则云端中央处理器发送紧急消息通知技术人员进行程序升级，技术人员将升级后的控制指令通过云端中央处理器存储至存储器中。

当因超越了系统自学习能力而自学习失败时，根据超出范围的用户指令出现频率来决定系统是否升级，因存在一些用户指令是因用户的误操作而发出的，通过统计出现频率可有效避免对系统进行无效升级，也降低了系统及技术人员的工作量。而在人受伤的情况下，机器人需要遵守“机器人学三原则”的第一原则，对人员进行救治，然而会存在特殊情况，对人进行救治时会对人进行二次伤害，此时又不符合第一原则，机器人处于逻辑混乱的状态，从而无法做出正确的判断，在这种特殊情况下，技术人员可通过科学的方式来进行判断，选择相对较优的方案进行处理，提高了机器人的适应性。

还包括通讯步骤，若处理器分析出自学习失败原因为逻辑冲突时，启动通讯模块，通讯模块向看护人员发送紧急救助信息。在人受伤的情况下，机器人需要遵守“机器人学三原则”的第一原则，对人员进行救治，然而会存在特殊情况，对人进行救治时会对人进行二次伤害，此时又不符合第一原则，机器人处于逻辑冲突状态下时，通讯模块可向看护人员发送紧急救助信息，对用户进行及时的帮助和救治。

网络检测步骤可以使系统在连网下运行，防止控制指令或目标答案在未进行云端核对的情况下输出从而使不符合行为规则的控制指令或目标答案对人造成威胁。

云端核对步骤可判断控制指令或目标答案是否遵守行为准则，对不符合行为规则的控制指令或目标答案进行及时修改，实现了对非法指令的监控，防止了不符合行为规则的控制指令或目标答案对人造成威胁。

以上所述的仅是本发明的实施例，方案中公知的具体结构及特性等常识在此未作过多描述，所属领域普通技术人员知晓申请日或者优先权日之前发明所属技术领域所有的普通技术知识，能够获知该领域中所有的现有技术，并且具有应用该日期之前常规实验手段的能力，所属领域普通技术人员可以在本申请给出的启示下，结合自身能力完善并实施本方案，一些典型的公知结构或者公知方法不应当成为所属领域普通技术人员实施本申请的障碍。应当指出，对于本领域的技术人员来说，在不脱离本发明结构的前提下，还可以作出若干变形和改进，这些也应该视为本发明的保护范围，这些都不会影响本发明实施的效果和专利的实用性。本申请要求的保护范围应当以其权利要求的内容为准，说明书中的具体实施方式等记载可以用于解释权利要求的内容。

Claims (6)

1.机器人行为准则智能监管的方法，包括以下步骤：

采集步骤，采集用户指令；

识别步骤，处理器根据接收到的用户指令，提取及识别特征信号，并将提取的特征信号与存储器中存储的通过用户指令样本训练获得的最佳训练码本进行对比，获得匹配结果信息；

决策步骤，匹配成功后，处理器根据识别结果确定控制指令，输出控制指令；

自学习步骤，匹配失败后，处理器对超出范围的用户指令进行自学习，生成相应的目标答案，将目标答案存储至存储器中，并输出目标答案；

执行步骤，让执行机构根据处理器输出的控制指令或目标答案执行相应动作；

其特征在于，还包括以下内容：

匹配成功后，测试网络是否连接正常，若连接正常，处理器将决策步骤中确定的控制指令与其对应的用户指令一起反馈至后云端进行核对；

匹配失败后，测试网络是否连接正常，若连接正常，处理器将自学习步骤中自学生成的目标答案与其对应的用户指令一起反馈至云端进行核对；

若网络连接不正常，则发出提示信号；

云端核对步骤，云端中央处理器判断控制指令或目标答案是否遵守行为准则，若云端核对结果为是，则处理器输出控制指令或目标答案至执行机构，若云端核对为否，则对违反行为准则的控制指令或目标答案进行修正，并将修正后的控制指令或目标答案覆盖存储器中存储的违反行为准则的控制指令或目标答案。

2.根据权利要求1所述的机器人行为准则智能监管的方法，其特征在于，所述自学习步骤还包括以下步骤：

自学失败原因分析步骤，网络连接正常且匹配失败后，处理器对超出范围的用户指令进行自学习，自学习失败，并对自学习失败原因进行分析，输出分析结果及用户指令至云端进行学习。

3.根据权利要求2所述的机器人行为准则智能监管的方法，其特征在于，还包括以下步骤：

云端学习步骤，若云端中央处理器接收到的分析结果为超出自学能力范围，则云端中央处理器对超出范围的用户指令进行识别、分类，根据与数据库中存储的超出范围的用户指令进行相似度对比进行分类，并对同类别进行统计，当同类别超出范围的用户指令的个数大于预设值时，发送升级消息通知技术人员进行程序升级，技术人员将升级后的控制指令通过云端中央处理器存储至存储器中；

若云端中央处理器接收到的分析结果与行为准则逻辑冲突，则云端中央处理器发送紧急消息通知技术人员进行程序升级，技术人员将升级后的控制指令通过云端中央处理器存储至存储器中。

4.根据权利要求3所述的机器人行为准则智能监管的方法，其特征在于，还包括以下步骤：

通讯步骤，若处理器分析出自学习失败原因为逻辑冲突时，启动通讯模块，通讯模向看护人员发送紧急救助信息。

5.根据权利要求1所述的机器人行为准则智能监管的方法，其特征在于，所述用户指令包括指令信息、动作信息、表情信息和环境信息。

6.根据权利要求1至5任一所述的机器人行为准则智能监管的方法，其特征在于，

所述云端核对步骤还包括以下步骤：

云端自检步骤，通过模拟仿真器仿真，判断自学习生成的目标答案是否有逻辑错误：

当判断结果为有逻辑错误，则执行云端修正步骤；

当判断结果为无逻辑错误，则处理器输出控制指令或目标答案至执行机构；

云端修正步骤，技术人员对违反行为准则的控制指令或目标答案进行修正，并将修正后的控制指令或目标答案覆盖存储器中存储的违反行为准则的控制指令或目标答案。