CN114114954B - 一种无人设备的控制方法及装置 - Google Patents
一种无人设备的控制方法及装置 Download PDFInfo
- Publication number
- CN114114954B CN114114954B CN202111313646.1A CN202111313646A CN114114954B CN 114114954 B CN114114954 B CN 114114954B CN 202111313646 A CN202111313646 A CN 202111313646A CN 114114954 B CN114114954 B CN 114114954B
- Authority
- CN
- China
- Prior art keywords
- environment
- control instruction
- simulation
- instruction set
- tester
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 97
- 238000004088 simulation Methods 0.000 claims abstract description 219
- 238000012360 testing method Methods 0.000 claims abstract description 122
- 230000002159 abnormal effect Effects 0.000 claims abstract description 69
- 230000007613 environmental effect Effects 0.000 claims description 82
- 238000004590 computer program Methods 0.000 claims description 19
- 238000003860 storage Methods 0.000 claims description 18
- 238000012163 sequencing technique Methods 0.000 claims description 15
- 230000008859 change Effects 0.000 claims description 8
- 230000008569 process Effects 0.000 description 27
- 238000012545 processing Methods 0.000 description 13
- 238000010586 diagram Methods 0.000 description 12
- 230000006870 function Effects 0.000 description 10
- 230000006872 improvement Effects 0.000 description 8
- 238000012549 training Methods 0.000 description 7
- 238000005516 engineering process Methods 0.000 description 5
- 238000013527 convolutional neural network Methods 0.000 description 3
- 238000012544 monitoring process Methods 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 238000013528 artificial neural network Methods 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 2
- 238000004519 manufacturing process Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000000306 recurrent effect Effects 0.000 description 2
- 206010039203 Road traffic accident Diseases 0.000 description 1
- 230000001133 acceleration Effects 0.000 description 1
- 230000004075 alteration Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 230000005055 memory storage Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 229920001296 polysiloxane Polymers 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 239000010979 ruby Substances 0.000 description 1
- 229910001750 ruby Inorganic materials 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B17/00—Systems involving the use of models or simulators of said systems
- G05B17/02—Systems involving the use of models or simulators of said systems electric
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Automation & Control Theory (AREA)
- Testing And Monitoring For Control Systems (AREA)
Abstract
本说明书公开了一种无人设备的控制方法及装置，所述方法应用于无人驾驶领域。首先，获取无人设备处于异常状态下无人设备所处环境的环境数据转化的环境描述语句发送给各测试机。其次，针对每个测试机，获取该控制该测试机的测试员在无人设备处于异常状态下，该测试员对应的控制指令集。而后，通过预设的仿真平台，模拟环境数据所对应的环境，并对各测试员对应的控制指令集进行仿真测试。最后，根据得到的仿真测试结果，从各测试员对应的控制指令集中，选取出目标控制指令集，以使无人设备遇到与目标环境相匹配的环境时，控制自身进行行驶。本方法能够从各测试员对应的控制指令集中，选取出目标控制指令集，来增强无人设备对异常事件的解决能力。
Description
技术领域
本说明书涉及无人驾驶领域，尤其涉及一种无人设备的控制方法及装置。
背景技术
目前，在无人驾驶的技术领域中，无人设备在自动驾驶过程中遇到复杂交通场景时，可能出现急刹、远程驾驶员进行临时接管以及交通事故等异常事件。
在现有技术中，对异常事件的解决方案往往是由单个技术人员根据自身的复杂交通场景处理经验制定的，然而，仅依靠单个技术人员的复杂交通场景处理经验，可能出现技术人员自身对异常事件的解决方案的理解存在一定的局限性，从而导致不能给出对异常事件的最优的解决方案，导致无人设备对异常事件的解决能力并不强，从而，致使无人设备的行驶过程中依然会出现安全隐患。
因此，如何有效地提高无人设备对异常事件的解决能力，则是一个亟待解决的问题。
发明内容
本说明书提供一种无人设备的控制方法及装置，以部分的解决现有技术存在的上述问题。
本说明书采用下述技术方案：
本说明书提供了一种无人设备的控制方法，所述方法应用于无人驾驶领域，包括：
获取无人设备处于异常状态下所述无人设备所处环境的环境数据，并将所述环境数据转化为用于描述所述环境数据对应环境的环境描述语句发送给各测试机；
针对每个测试机，获取该控制该测试机的测试员在所述无人设备处于所述异常状态下，在该测试机上基于所述环境描述语句控制所述无人设备所采用的控制指令集，作为该测试员对应的控制指令集；
通过预设的仿真平台，模拟所述环境数据所对应的环境，作为目标环境，并在所述目标环境下，对各测试员对应的控制指令集进行仿真测试；
根据得到的仿真测试结果，从各测试员对应的控制指令集中，选取出目标控制指令集，以使无人设备遇到与所述目标环境相匹配的环境时，基于获取到的所述目标控制指令集，在所述目标环境下控制自身进行行驶。
可选地，将所述环境数据转化为用于描述所述环境数据对应环境的环境描述语句发送给各测试机，具体包括：
将所述环境数据转化为用于描述所述环境数据对应环境的环境描述语句，并将所述环境数据转化为用于展示所述无人设备采集的周围环境的环境视频数据；
将所述环境描述语句以及所述环境视频数据，发送给各测试机。
可选地，将所述环境数据转化为用于描述所述环境数据对应环境的环境描述语句发送给各测试机，具体包括：
将所述环境数据输入到预设的语义模型中，得到用于描述所述环境数据对应环境的环境描述语句，并发送给各测试机。
可选地，针对每个测试机，获取该控制该测试机的测试员在所述无人设备处于所述异常状态下，在该测试机上基于所述环境描述语句控制所述无人设备所采用的控制指令集，具体包括：
针对每个测试机，将所述环境数据发送给该测试机，以使该测试机基于所述环境数据，构建所述环境数据对应的虚拟环境，并展示给控制该测试机的测试员；
将所述环境描述语句发送给该测试机，以使该测试机基于所述环境描述语句，确定出在所述虚拟环境下对所述无人设备进行控制的各候选控制选项；
根据控制该测试机的测试员在所述各候选控制选项中选择的控制选项，获取所述控制指令集。
可选地，针对每个测试机，获取该控制该测试机的测试员在所述无人设备处于所述异常状态下，在该测试机上基于所述环境描述语句控制所述无人设备所采用的控制指令集，作为该测试员对应的控制指令集，具体包括：
针对在该测试机中的每一轮次行驶模拟，将该轮次行驶模拟的基础数据，输入到预先训练的决策模型中，得到针对该轮次行驶模拟的若干候选控制选项，其中，第一轮次行驶模拟的基础数据为所述环境数据；
根据该测试员从针对该轮次行驶模拟的若干个候选控制选项中选取出的控制选项，得到该轮行驶模拟的优选控制指令，并模拟无人设备按照该轮次行驶模拟的优选控制指令进行行驶后，所能采集到的环境数据，作为该轮次行驶模拟对应的模拟环境数据；
若确定该轮次行驶模拟对应的模拟环境数据不满足第一预设条件，将该轮次行驶模拟对应的模拟环境数据，作为下一轮次行驶模拟的基础数据，输入到所述决策模型中，直到满足所述第一预设条件为止；
将满足所述第一预设条件的行驶模拟的轮次，作为目标轮次，并通过所述目标轮次的行驶模拟的优选控制指令，以及位于所述目标轮次的行驶模拟之前的其他轮次的行驶模拟的优选控制指令，构建该测试员对应的控制指令集。
可选地，确定该轮次行驶模拟对应的模拟环境数据是否满足第一预设条件，具体包括：
若根据该轮次行驶模拟对应的模拟环境数据，确定所述无人设备不再处于所述异常状态，确定该轮次行驶模拟对应的模拟环境数据满足所述第一预设条件，否则，确定该轮次行驶模拟对应的模拟环境数据不满足所述第一预设条件。
可选地，根据得到的仿真测试结果，从各测试员对应的控制指令集中，选取出目标控制指令集，具体包括：
针对每个测试员，根据该测试员对应的控制指令集经过仿真测试后得到的仿真测试结果，确定该测试员对应的仿真行驶数据，所述仿真行驶数据包括：在仿真所述无人设备行驶过程中，所述无人设备与周围的障碍物之间的距离、在仿真所述无人设备行驶过程中，所述无人设备的行驶状态变化程度，以及在仿真所述无人设备行驶过程中，所述无人设备的行驶效率中的至少一种；
根据该测试员对应的仿真行驶数据，确定该测试员对应的控制指令集经过仿真测试后得到的仿真评分；
按照仿真评分从大到小的顺序，对每个测试员对应的控制指令集经过仿真测试后得到的仿真评分进行排序，得到排序结果；
根据所述排序结果，从各测试员对应的控制指令集中确定目标控制指令集。
可选地，根据所述排序结果，从各测试员对应的控制指令集中确定目标控制指令集，具体包括：
根据所述排序结果，按照从高到低的顺序，依次判断每个测试员对应的控制指令集是否满足第二预设条件，直至选取出满足所述第二预设条件的控制指令集为止，并将满足所述第二预设条件的控制指令集，作为所述目标控制指令集，其中，针对每个测试员，若确定该测试员对应的控制指令集与无人设备所处实际环境的契合度不低于设定契合度，确定该测试员对应的控制指令集满足所述第二预设条件。
可选地，确定该测试员对应的控制指令集与无人设备所处实际环境的契合度，具体包括：
确定按照该测试员对应的控制指令集控制无人设备在实际环境中行驶时，所得到的实际行驶数据；
根据所述实际行驶数据，确定该测试员对应的控制指令集的实际行驶评分；
根据所述实际行驶评分与该测试员对应的控制指令集经过仿真测试后得到的仿真评分之间的差值，确定该测试员对应的控制指令集与无人设备所处实际环境的契合度，其中，若所述差值越大，所述契合度越低。
本说明书提供了一种无人设备的控制方法，所述方法应用于无人驾驶领域，包括：
无人设备监测是否处于异常状态；
若监测到所述无人设备处于所述异常状态，确定所述无人设备处于异常状态时所处的环境，作为目标环境，并获取所述目标环境的环境数据；
根据所述环境数据，从预先确定出的各环境下的控制指令集中，确定出与所述目标环境相匹配的控制指令集，作为目标控制指令集，其中，各环境下的控制指令集是通过上述无人设备的控制方法得到的；
通过所述目标控制指令集，控制所述无人设备在所述目标环境下进行行驶。
本说明书提供了一种无人设备的控制装置，所述装置应用于无人驾驶领域，包括：
获取模块，用于获取无人设备处于异常状态下所述无人设备所处环境的环境数据，并将所述环境数据转化为用于描述所述环境数据对应环境的环境描述语句发送给各测试机；
指令模块，用于针对每个测试机，获取该控制该测试机的测试员在所述无人设备处于所述异常状态下，在该测试机上基于所述环境描述语句控制所述无人设备所采用的控制指令集，作为该测试员对应的控制指令集；
仿真模块，用于通过预设的仿真平台，模拟所述环境数据所对应的环境，作为目标环境，并在所述目标环境下，对各测试员对应的控制指令集进行仿真测试；
控制模块，用于根据得到的仿真测试结果，从各测试员对应的控制指令集中，选取出目标控制指令集，以使无人设备遇到与所述目标环境相匹配的环境时，基于获取到的所述目标控制指令集，在所述目标环境下控制自身进行行驶。
本说明书提供了一种无人设备的控制装置，所述装置应用于无人驾驶领域，包括：
监测模块，用于无人设备监测是否处于异常状态；
获取模块，用于若监测到所述无人设备处于所述异常状态，确定所述无人设备处于异常状态时所处的环境，作为目标环境，并获取所述目标环境的环境数据；
确定模块，用于根据所述环境数据，从预先确定出的各环境下的控制指令集中，确定出与所述目标环境相匹配的控制指令集，作为目标控制指令集，其中，各环境下的控制指令集是通过上述无人设备的控制方法得到的；
控制模块，用于通过所述目标控制指令集，控制所述无人设备在所述目标环境下进行行驶。
本说明书提供了一种计算机可读存储介质，所述存储介质存储有计算机程序，所述计算机程序被处理器执行时实现上述无人设备的控制方法。
本说明书提供了一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现上述对无人设备的控制方法。
本说明书提供了一种无人设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现上述对无人设备的控制方法。
本说明书采用的上述至少一个技术方案能够达到以下有益效果：
在本说明书提供的对无人设备的控制方法中，首先，获取无人设备处于异常状态下无人设备所处环境的环境数据，并将环境数据转化为用于描述环境数据对应环境的环境描述语句发送给各测试机。其次，针对每个测试机，获取该控制该测试机的测试员在无人设备处于异常状态下，在该测试机上基于环境描述语句控制无人设备所采用的控制指令集，作为该测试员对应的控制指令集。而后，通过预设的仿真平台，模拟环境数据所对应的环境，作为目标环境，并在目标环境下，对各测试员对应的控制指令集进行仿真测试。最后，根据得到的仿真测试结果，从各测试员对应的控制指令集中，选取出目标控制指令集，以使无人设备遇到与目标环境相匹配的环境时，基于获取到的目标控制指令集，在目标环境下控制自身进行行驶。
从上述对无人设备的控制方法中可以看出，本方法可以通过预设的仿真平台对各测试员对应的控制指令集进行仿真测试，根据得到的仿真测试结果，从各测试员对应的控制指令集中，选取出目标控制指令集，以使无人设备遇到与目标环境相匹配的环境时，通过目标控制指令集，控制自身进行行驶。相比于现有技术中仅由单个技术人员根据自身的复杂交通场景处理经验来制定对异常事件的解决方案，本方法能够通过仿真平台对多个拥有丰富的复杂交通场景处理经验的测试员所确定出的控制指令集进行仿真测试，这样能够有效地保证无人设备按照选取出的目标控制指令集进行行驶时，能够显著的提高对异常事件的解决能力，从而避免无人设备的行驶出现安全隐患。
附图说明
此处所说明的附图用来提供对本说明书的进一步理解，构成本说明书的一部分，本说明书的示意性实施例及其说明用于解释本说明书，并不构成对本说明书的不当限定。在附图中：
图1为本说明书中一种无人设备的控制方法的流程示意图；
图2为本说明书中一种无人设备的控制方法的流程示意图；
图3为本说明书提供的一种无人设备的控制装置的示意图；
图4为本说明书提供的一种无人设备的控制装置的示意图；
图5为本说明书提供的对应于图1的电子设备的示意结构图；
图6为本说明书提供的对应于图2的无人设备的示意结构图。
具体实施方式
为使本说明书的目的、技术方案和优点更加清楚，下面将结合本说明书具体实施例及相应的附图对本说明书技术方案进行清楚、完整地描述。显然，所描述的实施例仅是本说明书一部分实施例，而不是全部的实施例。基于本说明书中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本说明书保护的范围。
以下结合附图，详细说明本说明书各实施例提供的技术方案。
图1为本说明书中一种无人设备的控制方法的流程示意图，具体包括以下步骤：
S100：获取无人设备处于异常状态下所述无人设备所处环境的环境数据，并将所述环境数据转化为用于描述所述环境数据对应环境的环境描述语句发送给各测试机。
本说明书中涉及的无人设备的控制方法的执行主体可以是服务器，也可以是诸如台式电脑、笔记本电脑等电子设备，为了便于描述，下面仅以服务器为执行主体，对本说明书提供的无人设备的控制方法进行说明。
在本说明书实施例中，服务器可以获取无人设备处于异常状态下无人设备所处环境的环境数据，并将环境数据转化为用于描述环境数据对应环境的环境描述语句发送给各测试机。这里提到的异常状态可以是指无人设备在正常行驶状态下，根据无人设备所处环境的环境数据，无法得到控制无人设备进行行驶的行驶决策的状态。这里提到的异常状态也可以是指无人设备的行驶过程中的行驶状态发生极大的变化，例如，无人设备在行驶过程中出现急刹、急转弯等。
环境数据可以是通过无人设备上设置的诸如摄像机、激光雷达获取到的环境数据，例如，摄像机获取到的图像数据、激光雷达获取到的点云数据等。这里提到的测试机可以是指用于模拟测试员操控车辆的设备。测试机具有接收环境描述语句、接收控制指令、展示环境描述语句、生成控制选项等功能。这里提到的测试员可以是指具有丰富的复杂交通场景处理经验的驾驶员，也可以是无人驾驶技术的专家。
在本说明书实施例中，服务器可以将环境数据转化为用于描述环境数据对应环境的环境描述语句，并将环境数据转化为用于展示无人设备采集的周围环境的环境视频数据。再将环境描述语句以及环境视频数据，发送给各测试机。
例如，服务器可以将环境数据转化为环境描述语句(当前天气为雨天、无人设备前方的红绿灯为红灯、无人设备两侧的道路交通线为虚线、无人设备左前方有车辆等)。再例如，服务器可以将环境数据中的激光雷达获取到的点云数据转化为点云形式的环境视频数据。
再例如，服务器可以根据无人设备上的若干个摄像头拍摄的无人设备周围道路环境的视频数据，将多个视频数据进行拼接，确定出环绕视角下的视频数据。并根据环境数据中的激光雷达获取到的点云数据、接收到的高精地图数据，对环绕视角下的视频数据中的画面进行标记(对画面中的障碍物进行标记，以提醒测试员注意障碍物等标记)。
在本说明书实施例中，服务器可以将环境数据输入到预设的语义模型中，得到用于描述环境数据对应环境的环境描述语句，并发送给各测试机。这里提到的环境描述语句可以是指用于描述无人设备周围的环境信息的语句。例如，当前车速为40km/h、当前天气为雨天、无人设备前方的红绿灯为红灯、无人设备两侧的道路交通线为虚线、无人设备左前方有车辆等环境信息。
在本说明书提到的无人设备可以是指无人机、无人车、机器人、自动配送设备等能够实现自动驾驶的设备。基于此，应用本说明书提供的无人设备的控制方法的无人设备可以用于执行配送领域的配送任务，如，使用无人设备进行快递、物流、外卖等配送的业务场景。
需要说明的是，本方法可以应用在无人设备行驶在机动车道的业务场景，也可以应用在无人设备行驶在非机动车道的业务场景。
S102：针对每个测试机，获取该控制该测试机的测试员在所述无人设备处于所述异常状态下，在该测试机上基于所述环境描述语句控制所述无人设备所采用的控制指令集，作为该测试员对应的控制指令集。
在本说明书实施例中，服务器可以针对每个测试机，获取该控制该测试机的测试员在无人设备处于异常状态下，在该测试机上基于环境描述语句控制无人设备所采用的控制指令集，作为该测试员对应的控制指令集。这里提到的控制指令集可以是指测试员根据无人设备处于异常状态下无人设备所处环境的环境数据，确定出的无人设备在接下来的行驶过程中连续的若干个控制指令的集合。
在本说明书实施例中，为了帮助测试员更好的理解无人设备周围的环境信息，服务器针对每个测试机，将环境数据发送给该测试机，以使该测试机基于环境数据，构建环境数据对应的虚拟环境，并展示给控制该测试机的测试员。这里提到的虚拟环境可以是指驾驶员第一视角下的3D动画道路环境。
其次，在测试机中存储有若干个控制选项，在不同的虚拟环境下，可能出现部分的控制选项会导致无人设备出现异常状态。因此，服务器可以将环境描述语句发送给该测试机，以使该测试机基于环境描述语句，确定出在虚拟环境下对无人设备进行控制的各候选控制选项。也就是说，服务器可以基于环境描述语句，确定出在虚拟环境下不会导致无人设备出现异常状态的控制选项。
最后，根据控制该测试机的测试员在各候选控制选项中选择的控制选项，获取控制指令集。
在实际应用中，无人设备在自动驾驶过程中遇到复杂交通场景时，可能出现无法解决的异常事件，需要测试员给出该复杂交通场景下的解决方案，而仅依靠测试员的复杂交通场景处理经验，可能出现测试员因为思维定式而不能给出最优的解决方案的情况。因此，服务器可以根据无人设备处于异常状态下所处环境的环境数据，通过决策模型得到若干个控制选项并向测试员提供，测试员可以从若干个候选控制选项中，选取出控制选项，得到优选控制指令，并根据优选控制指令，模拟无人设备接下来所处环境的环境数据，通过上述方法，再次选取出控制选项，以此构建该环境数据对应的控制指令集。
在本说明书实施例中，可以通过多轮次的行驶模拟，依次确定出一个控制指令集中的各个控制指令。具体的，服务器可以针对在该测试机中的每一轮次行驶模拟，将该轮次行驶模拟的基础数据，输入到预先训练的决策模型中，得到针对该轮次行驶模拟的若干候选控制选项，其中，第一轮次行驶模拟的基础数据为环境数据。这里提到的候选控制选项可以是指服务器通过预先训练的决策模型，基于无人设备周围的环境信息，确定出的无人设备接下来的行驶策略，例如，跟随前方车辆、超车、变道行驶等控制选项。
其次，根据该测试员从针对该轮次行驶模拟的若干个候选控制选项中选取出的控制选项，得到该轮行驶模拟的优选控制指令，并模拟无人设备按照该轮次行驶模拟的优选控制指令进行行驶后，所能采集到的环境数据，作为该轮次行驶模拟对应的模拟环境数据。这里提到的优选控制指令可以是指选取出的控制选项控制无人设备进行行驶的控制参数，例如，刹车踏板的深度、油门踏板的深度、方向盘转角等。
而后，若确定该轮次行驶模拟对应的模拟环境数据不满足第一预设条件，将该轮次行驶模拟对应的模拟环境数据，作为下一轮次行驶模拟的基础数据，输入到决策模型中，直到满足第一预设条件为止。
其中，若根据该轮次行驶模拟对应的模拟环境数据，确定无人设备不再处于异常状态，确定该轮次行驶模拟对应的模拟环境数据满足第一预设条件，否则，确定该轮次行驶模拟对应的模拟环境数据不满足第一预设条件。
当然，上述第一预设条件也可以是其他的形式，如，服务器还可以根据行驶模拟对应的轮次，确定无人设备是否处于异常状态，其中，若该轮次行驶模拟对应的轮次达到设定轮次，则认为无人设备不再处于异常状态，确定该轮次行驶模拟对应的模拟环境数据满足第一预设条件，否则，确定该轮次行驶模拟对应的模拟环境数据不满足第一预设条件。其他形式在此就不详细举例说明了。
最后，将满足第一预设条件的行驶模拟的轮次，作为目标轮次，并通过目标轮次的行驶模拟的优选控制指令，以及位于目标轮次的行驶模拟之前的其他轮次的行驶模拟的优选控制指令，构建该测试员对应的控制指令集。也就是说，通过无人设备所处环境的环境数据对应的控制指令集控制无人设备进行行驶，可以使得无人设备从异常状态转变为正常行驶状态。
上述提到的决策模型可以是常规模型，例如，递归神经网络(Recurrent NeuralNetworks，RNN)、卷积神经网络(Convolutional Neural Network，CNN)等，在此不对决策模型进行限定。
在本说明书实施例中，决策模型包含有驾驶决策层以及控制参数层。驾驶决策层是根据无人设备周围的环境信息，通过专家经验、交通法规确定出的各种规则，进而确定出无人设备接下来可以执行的若干个控制选项。控制参数层是根据无人设备周围的环境信息以及驾驶决策层确定出的控制选项，确定无人设备接下来对应的控制参数。
具体的，服务器可以获取训练样本，这里提到的训练样本可以包含无人设备所处环境的环境数据。将环境数据输入到驾驶决策层中，确定环境数据对应的若干个控制选项。针对每个控制选项，将环境数据以及该控制选项输入到待训练的控制参数层中，确定该控制选项对应的控制参数。最后，以最小化该控制选项对应的控制参数与训练样本对应的标签信息之间的偏差为优化目标，对决策模型进行训练。经过多轮迭代训练，需要使偏差不断减小，并收敛在一个数值范围内，进而完成决策模型的训练过程。其中，服务器还可以将确定出的控制指令作为训练样本，对决策模型进行训练。
S104：通过预设的仿真平台，模拟所述环境数据所对应的环境，作为目标环境，并在所述目标环境下，对各测试员对应的控制指令集进行仿真测试。
在本说明书实施例中，服务器可以通过预设的仿真平台，模拟环境数据所对应的环境，作为目标环境，并在目标环境下，对各测试员对应的控制指令集进行仿真测试。
S106：根据得到的仿真测试结果，从各测试员对应的控制指令集中，选取出目标控制指令集，以使无人设备遇到与所述目标环境相匹配的环境时，通过所述目标控制指令集，控制自身进行行驶。
在本说明书实施例中，服务器可以根据得到的仿真测试结果，从各测试员对应的控制指令集中，选取出目标控制指令集，以使无人设备遇到与目标环境相匹配的环境时，通过目标控制指令集，控制自身进行行驶。
在实际应用中，仅依靠单个测试员的复杂交通场景处理经验，可能出现测试员由于自身对驾驶策略的理解存在一定的局限性，从而导致不能给出的复杂交通场景下的最优的解决方案。因此，服务器可以通过仿真平台对多个测试员对应的控制指令集进行仿真测试，从多个控制指令集中选取出最优的控制指令集。
在本说明书实施例中，服务器可以针对每个测试员，根据该测试员对应的控制指令集经过仿真测试后得到的仿真测试结果，确定该测试员对应的仿真行驶数据，这里提到的仿真行驶数据包括：在仿真无人设备行驶过程中，无人设备与周围的障碍物之间的距离、在仿真无人设备行驶过程中，无人设备的行驶状态变化程度，以及在仿真无人设备行驶过程中，无人设备的行驶效率中的至少一种。这里提到的仿真测试结果可以是指通过控制指令集控制无人设备进行行驶的仿真轨迹。也就是说，服务器可以根据该控制指令集对应的仿真测试结果的仿真行驶数据，确定无人设备在实际行驶过程中的安全性、平稳性以及行驶效率。
具体的，服务器可以根据仿真行驶数据中包含的在仿真无人设备行驶过程中，无人设备与周围的障碍物之间的距离，确定无人设备在仿真轨迹中是否会与周围的障碍物发生碰撞。若在仿真无人设备行驶过程中，无人设备与周围的障碍物之间的距离越近，则认为无人设备与周围的障碍物发生碰撞的概率越高。
服务器还可以根据在仿真无人设备行驶过程中，无人设备的行驶状态变化程度，确定无人设备在仿真轨迹中是否会出现诸如突然加速、突然减速、方向盘转角较大等导致无人设备的行驶不平稳的情况。若在仿真无人设备行驶过程中，无人设备的行驶状态变化程度越大，则认为无人设备在行驶过程中的平稳性越低。
服务器还可以根据在仿真无人设备行驶过程中，无人设备的行驶效率，确定无人设备根据仿真轨迹执行任务的效率。若在仿真无人设备行驶过程中，无人设备的行驶效率越高，则确定无人设备根据仿真轨迹执行任务的效率越高。
进一步地，服务器可以根据该测试员对应的仿真行驶数据，确定该测试员对应的控制指令集经过仿真测试后得到的仿真评分。在仿真无人设备行驶过程中，无人设备与周围的障碍物之间的距离越近，仿真评分越低。在仿真无人设备行驶过程中，无人设备的行驶状态变化程度越大，仿真评分越低。在仿真无人设备行驶过程中，无人设备的行驶效率越高，仿真评分越高。
而后，按照仿真评分从大到小的顺序，对每个测试员对应的控制指令集经过仿真测试后得到的仿真评分进行排序，得到排序结果。最后，根据排序结果，从各测试员对应的控制指令集中确定目标控制指令集。
在实际应用中，由于仿真平台并不能完美的仿真出现实世界中的所有影响无人设备进行行驶的因素，例如，无人设备在行驶过程中轮胎与地面的摩擦系数、无人设备接收控制指令的响应时间等。因此，基于仿真平台得到的仿真测试结果与无人设备进行实际行驶的行驶数据可能出现较大误差。所以，服务器需要对控制指令集进行验证，确定通过控制指令集控制无人设备进行实际行驶的行驶数据与仿真测试结果之间的契合度，以确定出能够在实际行驶中正常使用，且能够保证无人设备从异常状态转变为正常状态的控制指令集。
在本说明书实施例中，由于仿真平台中需要进行验证的控制指令集较多，数据量巨大，对每个无人设备所处的环境对应的若干个控制指令集依次进行验证会花费大量的时间，使得服务器确定出目标控制指令集的效率较低。因此，服务器可以根据排序结果，按照从高到低的顺序，依次判断每个测试员对应的控制指令集是否满足第二预设条件，直至选取出满足第二预设条件的控制指令集为止，并将满足第二预设条件的控制指令集，作为所述目标控制指令集，其中，针对每个测试员，若确定该测试员对应的控制指令集与无人设备所处实际环境的契合度不低于设定契合度，确定该测试员对应的控制指令集满足第二预设条件。
在本说明书实施例中，确定按照该测试员对应的控制指令集控制无人设备在实际环境中行驶时，所得到的实际行驶数据。再根据实际行驶数据，确定该测试员对应的控制指令集的实际行驶评分。根据实际行驶评分与该测试员对应的控制指令集经过仿真测试后得到的仿真评分之间的差值，确定该测试员对应的控制指令集与无人设备所处实际环境的契合度，其中，若差值越大，契合度越低。
例如，服务器可以从各控制指令集在选取出仿真评分最高的控制指令集，并通过该控制指令集控制无人设备进行实际行驶，得到该控制指令集对应的实际行驶评分。根据该控制指令集对应的实际行驶评分与该控制指令集对应的仿真评分之间的差值，确定该测试员对应的控制指令集与无人设备所处实际环境的契合度，若契合度不低于设定契合度，则认为该控制指令集为目标控制指令集。
若契合度低于设定契合度，则舍弃该优选控制指令集。从各控制指令集在选取出仿真评分第二高的控制指令集，控制无人设备进行实际行驶，得到仿真评分第二高的控制指令集对应的实际行驶评分。再根据仿真评分第二高的控制指令集对应的实际行驶评分，与仿真评分第二高的控制指令集对应的仿真评分之间的差值，确定仿真评分第二高的控制指令集与无人设备所处实际环境的契合度，若判断契合度不低于设定契合度，则将仿真评分第二高的控制指令集作为目标控制指令集，否则继续判断下一个控制指令集是否满足第二预设条件。直至通过上述方式，确定出目标控制指令集，并通过目标控制指令集控制无人设备进行行驶。
在本说明书实施例中，服务器可以通过测试员确定出的控制指令集对应的仿真评分，评价测试员对本方法做出的贡献。与此同时，可能发生部分无人设备所处的环境在实际应用出现的概率较大，部分无人设备所处的环境在实际应用中出现的概率较小的情况。因此，服务器还需要确定出无人设备所处的环境在实际应用中的出现概率。
在本说明书实施例中，服务器可以根据无人设备所处的环境，确定无人设备所处的环境对应的环境评分，这里提到的环境评分用于表征无人设备所处的环境的出现概率，出现概率越高，环境评分越高。再针对每个测试员，根据该测试员对应的控制指令集的仿真评分以及无人设备所处环境对应的环境评分，确定该测试员对应的奖励，并将奖励发送给该测试员。
在本说明书实施例中，无人设备可以通过上述无人设备的控制方法，得到控制指令集，用于无人设备处于异常状态时，通过控制指令集控制自身进行行驶，如图2所示：
图2为本说明书中一种无人设备的控制方法的流程示意图，具体包括以下步骤：
S200：无人设备监测是否处于异常状态。
S202：若监测到所述无人设备处于所述异常状态，确定所述无人设备处于异常状态时所处的环境，作为目标环境，并获取所述目标环境的环境数据。
S204：根据所述环境数据，从预先确定出的各环境下的控制指令集中，确定出与所述目标环境相匹配的控制指令集，作为目标控制指令集，其中，各环境下的控制指令集是通过上述无人设备的控制方法得到的。
S206：通过所述目标控制指令集，控制所述无人设备在所述目标环境下进行行驶。
在本说明书实施例中，无人设备在行驶过程中有两种状态：正常行驶状态以及异常状态。其中，当无人设备处于正常行驶状态时，无人设备可以通过决策模型，确定出正常行驶状态下的控制指令，来控制无人设备进行行驶。若无人设备处于异常状态，则需要通过上述无人设备的控制方法所确定出的控制指令集，来控制无人设备进行行驶。
需要说明的是，上述仿真测试过程中所使用的决策模型，与无人设备处于正常状态时所使用的决策模型是相同的。其中，该决策模型可以用于确定上述控制选项，以及用于确定出具体如何控制无人设备的控制参数。而对于已经出现异常状态的无人设备来说，决策模型输出的控制参数往往也是不准确(换句话说，如果决策模型输出的控制参数是有效的，无人设备也不会处于异常状态)，所以，在针对无人设备如何摆脱异常状态的仿真测试过程中，并不需要参考决策模型输出的控制参数，只需要用到决策模型提供上述控制选项，供各测试员制定出相应的控制指令集即可。而在实际的正常行驶过程中，无人设备则需要使用决策模型所输出的控制参数，对自身实施控制。
进一步的，若监测到无人设备处于异常状态，确定无人设备处于异常状态时所处的环境，作为目标环境，并获取目标环境的环境数据。其次，根据环境数据，从预先确定出的各环境下的控制指令集中，确定出与目标环境相匹配的控制指令集，作为目标控制指令集。通过目标控制指令集，控制无人设备在目标环境下进行行驶。
具体的，服务器可以根据目标数据与各控制指令集对应的环境，确定目标数据与各控制指令集对应的环境之间的匹配度。从各控制指令集中选取出匹配度最高的控制指令集，作为目标控制指令集。其中，无人设备所处的目标环境与控制指令集对应的环境越相似，匹配度越高。
需要说明的是，若无人设备通过目标控制指令集，控制无人设备在目标环境下进行行驶，使得无人设备从异常状态转变为正常状态。无人设备将通过决策模型确定出的控制指令，控制无人设备在正常状态下进行行驶。
从上述方法可以看出，本方法可以通过预设的仿真平台对各测试员对应的控制指令集进行仿真测试，根据得到的仿真测试结果，从各测试员对应的控制指令集中，选取出目标控制指令集，以使无人设备遇到与所述目标环境相匹配的环境时，通过目标控制指令集，控制自身进行行驶。本方法能够通过仿真平台对多个拥有丰富的复杂交通场景处理经验的测试员所确定出的控制指令集进行仿真测试，这样能够有效地保证无人设备按照选取出的目标控制指令集进行行驶时，能够显著的提高对异常事件的解决能力。并且，服务器还可以确定出与目标环境相匹配的控制指令集，作为目标控制指令集，并通过目标控制指令集，控制无人设备在目标环境下进行行驶。从而，避免无人设备的行驶出现安全隐患。
以上为本说明书的一个或多个实施例提供的无人设备的控制方法，基于同样的思路，本说明书还提供了相应的无人设备的控制装置，如图3所示。
图3为本说明书提供的一种无人设备的控制装置的示意图，所述装置应用于无人驾驶领域，具体包括：
获取模块300，用于获取无人设备处于异常状态下所述无人设备所处环境的环境数据，并将所述环境数据转化为用于描述所述环境数据对应环境的环境描述语句发送给各测试机；
指令模块302，用于针对每个测试机，获取该控制该测试机的测试员在所述无人设备处于所述异常状态下，在该测试机上基于所述环境描述语句控制所述无人设备所采用的控制指令集，作为该测试员对应的控制指令集；
仿真模块304，用于通过预设的仿真平台，模拟所述环境数据所对应的环境，作为目标环境，并在所述目标环境下，对各测试员对应的控制指令集进行仿真测试；
控制模块306，用于根据得到的仿真测试结果，从各测试员对应的控制指令集中，选取出目标控制指令集，以使无人设备遇到与所述目标环境相匹配的环境时，基于获取到的所述目标控制指令集，在所述目标环境下控制自身进行行驶。
可选地，所述获取模块300具体用于，将所述环境数据转化为用于描述所述环境数据对应环境的环境描述语句，并将所述环境数据转化为用于展示所述无人设备采集的周围环境的环境视频数据，将所述环境描述语句以及所述环境视频数据，发送给各测试机。
可选地，所述获取模块300具体用于，将所述环境数据输入到预设的语义模型中，得到用于描述所述环境数据对应环境的环境描述语句，并发送给各测试机。
可选地，所述指令模块302具体用于，针对每个测试机，将所述环境数据发送给该测试机，以使该测试机基于所述环境数据，构建所述环境数据对应的虚拟环境，并展示给控制该测试机的测试员，将所述环境描述语句发送给该测试机，以使该测试机基于所述环境描述语句，确定出在所述虚拟环境下对所述无人设备进行控制的各候选控制选项，根据控制该测试机的测试员在所述各候选控制选项中选择的控制选项，获取所述控制指令集。
可选地，所述指令模块302具体用于，针对在该测试机中的每一轮次行驶模拟，将该轮次行驶模拟的基础数据，输入到预先训练的决策模型中，得到针对该轮次行驶模拟的若干候选控制选项，其中，第一轮次行驶模拟的基础数据为所述环境数据，根据该测试员从针对该轮次行驶模拟的若干个候选控制选项中选取出的控制选项，得到该轮行驶模拟的优选控制指令，并模拟无人设备按照该轮次行驶模拟的优选控制指令进行行驶后，所能采集到的环境数据，作为该轮次行驶模拟对应的模拟环境数据，若确定该轮次行驶模拟对应的模拟环境数据不满足第一预设条件，将该轮次行驶模拟对应的模拟环境数据，作为下一轮次行驶模拟的基础数据，输入到所述决策模型中，直到满足所述第一预设条件为止，将满足所述第一预设条件的行驶模拟的轮次，作为目标轮次，并通过所述目标轮次的行驶模拟的优选控制指令，以及位于所述目标轮次的行驶模拟之前的其他轮次的行驶模拟的优选控制指令，构建该测试员对应的控制指令集。
可选地，所述指令模块302具体用于，若根据该轮次行驶模拟对应的模拟环境数据，确定所述无人设备不再处于所述异常状态，确定该轮次行驶模拟对应的模拟环境数据满足所述第一预设条件，否则，确定该轮次行驶模拟对应的模拟环境数据不满足所述第一预设条件。
可选地，所述控制模块306具体用于，针对每个测试员，根据该测试员对应的控制指令集经过仿真测试后得到的仿真测试结果，确定该测试员对应的仿真行驶数据，所述仿真行驶数据包括：在仿真所述无人设备行驶过程中，所述无人设备与周围的障碍物之间的距离、在仿真所述无人设备行驶过程中，所述无人设备的行驶状态变化程度，以及在仿真所述无人设备行驶过程中，所述无人设备的行驶效率中的至少一种，根据该测试员对应的仿真行驶数据，确定该测试员对应的控制指令集经过仿真测试后得到的仿真评分，按照仿真评分从大到小的顺序，对每个测试员对应的控制指令集经过仿真测试后得到的仿真评分进行排序，得到排序结果，根据所述排序结果，从各测试员对应的控制指令集中确定目标控制指令集。
可选地，所述控制模块306具体用于，根据所述排序结果，按照从高到低的顺序，依次判断每个测试员对应的控制指令集是否满足第二预设条件，直至选取出满足所述第二预设条件的控制指令集为止，并将满足所述第二预设条件的控制指令集，作为所述目标控制指令集，其中，针对每个测试员，若确定该测试员对应的控制指令集与无人设备所处实际环境的契合度不低于设定契合度，确定该测试员对应的控制指令集满足所述第二预设条件。
可选地，所述控制模块306具体用于，确定按照该测试员对应的控制指令集控制无人设备在实际环境中行驶时，所得到的实际行驶数据，根据所述实际行驶数据，确定该测试员对应的控制指令集的实际行驶评分，根据所述实际行驶评分与该测试员对应的控制指令集经过仿真测试后得到的仿真评分之间的差值，确定该测试员对应的控制指令集与无人设备所处实际环境的契合度，其中，若所述差值越大，所述契合度越低。
以上为本说明书的一个或多个实施例提供的无人设备的控制方法，基于同样的思路，本说明书还提供了相应的无人设备的控制装置，如图4所示。
图4为本说明书提供的一种无人设备的控制装置的示意图，所述装置应用于无人驾驶领域，具体包括：
监测模块400，用于无人设备监测是否处于异常状态；
获取模块402，用于若监测到所述无人设备处于所述异常状态，确定所述无人设备处于异常状态时所处的环境，作为目标环境，并获取所述目标环境的环境数据；
确定模块404，用于根据所述环境数据，从预先确定出的各环境下的控制指令集中，确定出与所述目标环境相匹配的控制指令集，作为目标控制指令集，其中，各环境下的控制指令集是通过上述无人设备的控制方法得到的；
控制模块406，用于通过所述目标控制指令集，控制所述无人设备在所述目标环境下进行行驶。
本说明书还提供了一种计算机可读存储介质，该存储介质存储有计算机程序，计算机程序可用于执行上述图1提供的无人设备的控制方法以及上述图2提供的无人设备的控制方法。
本说明书还提供了图5所示的电子设备的示意结构图。如图5所述，在硬件层面，该电子设备包括处理器、内部总线、网络接口、内存以及非易失性存储器，当然还可能包括其他业务所需要的硬件。处理器从非易失性存储器中读取对应的计算机程序到内存中然后运行，以实现上述图1所述的无人设备的控制方法。
本说明书还提供了图6所示的无人设备的示意结构图。如图6所述，在硬件层面，该无人设备包括处理器、内部总线、网络接口、内存以及非易失性存储器，当然还可能包括其他业务所需要的硬件。处理器从非易失性存储器中读取对应的计算机程序到内存中然后运行，以实现上述图1所述的无人设备的控制方法。当然，除了软件实现方式之外，本说明书并不排除其他实现方式，比如逻辑器件抑或软硬件结合的方式等等，也就是说以下处理流程的执行主体并不限定于各个逻辑单元，也可以是硬件或逻辑器件。
在20世纪90年代，对于一个技术的改进可以很明显地区分是硬件上的改进(例如，对二极管、晶体管、开关等电路结构的改进)还是软件上的改进(对于方法流程的改进)。然而，随着技术的发展，当今的很多方法流程的改进已经可以视为硬件电路结构的直接改进。设计人员几乎都通过将改进的方法流程编程到硬件电路中来得到相应的硬件电路结构。因此，不能说一个方法流程的改进就不能用硬件实体模块来实现。例如，可编程逻辑器件(Programmable Logic Device,PLD)(例如现场可编程门阵列(Field Programmable GateArray，FPGA))就是这样一种集成电路，其逻辑功能由用户对器件编程来确定。由设计人员自行编程来把一个数字系统“集成”在一片PLD上，而不需要请芯片制造厂商来设计和制作专用的集成电路芯片。而且，如今，取代手工地制作集成电路芯片，这种编程也多半改用“逻辑编译器(logic compiler)”软件来实现，它与程序开发撰写时所用的软件编译器相类似，而要编译之前的原始代码也得用特定的编程语言来撰写，此称之为硬件描述语言(Hardware Description Language，HDL)，而HDL也并非仅有一种，而是有许多种，如ABEL(Advanced Boolean Expression Language)、AHDL(Altera Hardware DescriptionLanguage)、Confluence、CUPL(Cornell University Programming Language)、HDCal、JHDL(Java Hardware Description Language)、Lava、Lola、MyHDL、PALASM、RHDL(RubyHardware Description Language)等，目前最普遍使用的是VHDL(Very-High-SpeedIntegrated Circuit Hardware Description Language)与Verilog。本领域技术人员也应该清楚，只需要将方法流程用上述几种硬件描述语言稍作逻辑编程并编程到集成电路中，就可以很容易得到实现该逻辑方法流程的硬件电路。
控制器可以按任何适当的方式实现，例如，控制器可以采取例如微处理器或处理器以及存储可由该(微)处理器执行的计算机可读程序代码(例如软件或固件)的计算机可读介质、逻辑门、开关、专用集成电路(Application Specific Integrated Circuit，ASIC)、可编程逻辑控制器和嵌入微控制器的形式，控制器的例子包括但不限于以下微控制器：ARC 625D、Atmel AT91SAM、Microchip PIC18F26K20以及Silicone Labs C8051F320，存储器控制器还可以被实现为存储器的控制逻辑的一部分。本领域技术人员也知道，除了以纯计算机可读程序代码方式实现控制器以外，完全可以通过将方法步骤进行逻辑编程来使得控制器以逻辑门、开关、专用集成电路、可编程逻辑控制器和嵌入微控制器等的形式来实现相同功能。因此这种控制器可以被认为是一种硬件部件，而对其内包括的用于实现各种功能的装置也可以视为硬件部件内的结构。或者甚至，可以将用于实现各种功能的装置视为既可以是实现方法的软件模块又可以是硬件部件内的结构。
上述实施例阐明的系统、装置、模块或单元，具体可以由计算机芯片或实体实现，或者由具有某种功能的产品来实现。一种典型的实现设备为计算机。具体的，计算机例如可以为个人计算机、膝上型计算机、蜂窝电话、相机电话、智能电话、个人数字助理、媒体播放器、导航设备、电子邮件设备、游戏控制台、平板计算机、可穿戴设备或者这些设备中的任何设备的组合。
为了描述的方便，描述以上装置时以功能分为各种单元分别描述。当然，在实施本说明书时可以把各单元的功能在同一个或多个软件和/或硬件中实现。
本领域内的技术人员应明白，本发明的实施例可提供为方法、系统、或计算机程序产品。因此，本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本发明是参照根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
在一个典型的配置中，计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。
内存可能包括计算机可读介质中的非永久性存储器，随机存取存储器(RAM)和/或非易失性内存等形式，如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括，但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带，磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质，可用于存储可以被计算设备访问的信息。按照本文中的界定，计算机可读介质不包括暂存电脑可读媒体(transitory media)，如调制的数据信号和载波。
还需要说明的是，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。
本领域技术人员应明白，本说明书的实施例可提供为方法、系统或计算机程序产品。因此，本说明书可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且，本说明书可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本说明书可以在由计算机执行的计算机可执行指令的一般上下文中描述，例如程序模块。一般地，程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本说明书，在这些分布式计算环境中，由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中，程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。
本说明书中的各个实施例均采用递进的方式描述，各个实施例之间相同相似的部分互相参见即可，每个实施例重点说明的都是与其他实施例的不同之处。尤其，对于系统实施例而言，由于其基本相似于方法实施例，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。
以上所述仅为本说明书的实施例而已，并不用于限制本说明书。对于本领域技术人员来说，本说明书可以有各种更改和变化。凡在本说明书的精神和原理之内所作的任何修改、等同替换、改进等，均应包含在本说明书的权利要求范围之内。
Claims (11)
1.一种无人设备的控制方法，其特征在于，所述方法应用于无人驾驶领域，包括：
获取无人设备处于异常状态下所述无人设备所处环境的环境数据，并将所述环境数据转化为用于描述所述环境数据对应环境的环境描述语句发送给各测试机；
针对每个测试机，获取该控制该测试机的测试员在所述无人设备处于所述异常状态下，在该测试机上基于所述环境描述语句控制所述无人设备所采用的控制指令集，作为该测试员对应的控制指令集；
通过预设的仿真平台，模拟所述环境数据所对应的环境，作为目标环境，并在所述目标环境下，对各测试员对应的控制指令集进行仿真测试；
根据得到的仿真测试结果，从各测试员对应的控制指令集中，选取出目标控制指令集，以使无人设备遇到与所述目标环境相匹配的环境时，基于获取到的所述目标控制指令集，在所述目标环境下控制自身进行行驶；
其中，根据得到的仿真测试结果，从各测试员对应的控制指令集中，选取出目标控制指令集，具体包括：
针对每个测试员，根据该测试员对应的控制指令集经过仿真测试后得到的仿真测试结果，确定该测试员对应的仿真行驶数据，所述仿真行驶数据包括：在仿真所述无人设备行驶过程中，所述无人设备与周围的障碍物之间的距离、在仿真所述无人设备行驶过程中，所述无人设备的行驶状态变化程度，以及在仿真所述无人设备行驶过程中，所述无人设备的行驶效率中的至少一种；
根据该测试员对应的仿真行驶数据，确定该测试员对应的控制指令集经过仿真测试后得到的仿真评分；
按照仿真评分从大到小的顺序，对每个测试员对应的控制指令集经过仿真测试后得到的仿真评分进行排序，得到排序结果；
根据所述排序结果，从各测试员对应的控制指令集中确定目标控制指令集。
2.如权利要求1所述的方法，其特征在于，将所述环境数据转化为用于描述所述环境数据对应环境的环境描述语句发送给各测试机，具体包括：
将所述环境数据转化为用于描述所述环境数据对应环境的环境描述语句，并将所述环境数据转化为用于展示所述无人设备采集的周围环境的环境视频数据；
将所述环境描述语句以及所述环境视频数据，发送给各测试机。
3.如权利要求1所述的方法，其特征在于，将所述环境数据转化为用于描述所述环境数据对应环境的环境描述语句发送给各测试机，具体包括：
将所述环境数据输入到预设的语义模型中，得到用于描述所述环境数据对应环境的环境描述语句，并发送给各测试机。
4.如权利要求1所述的方法，其特征在于，针对每个测试机，获取该控制该测试机的测试员在所述无人设备处于所述异常状态下，在该测试机上基于所述环境描述语句控制所述无人设备所采用的控制指令集，具体包括：
针对每个测试机，将所述环境数据发送给该测试机，以使该测试机基于所述环境数据，构建所述环境数据对应的虚拟环境，并展示给控制该测试机的测试员；
将所述环境描述语句发送给该测试机，以使该测试机基于所述环境描述语句，确定出在所述虚拟环境下对所述无人设备进行控制的各候选控制选项；
根据控制该测试机的测试员在所述各候选控制选项中选择的控制选项，获取所述控制指令集。
5.如权利要求1或4所述的方法，其特征在于，针对每个测试机，获取该控制该测试机的测试员在所述无人设备处于所述异常状态下，在该测试机上基于所述环境描述语句控制所述无人设备所采用的控制指令集，作为该测试员对应的控制指令集，具体包括：
针对在该测试机中的每一轮次行驶模拟，将该轮次行驶模拟的基础数据，输入到预先训练的决策模型中，得到针对该轮次行驶模拟的若干候选控制选项，其中，第一轮次行驶模拟的基础数据为所述环境数据；
根据该测试员从针对该轮次行驶模拟的若干个候选控制选项中选取出的控制选项，得到该轮次行驶模拟的优选控制指令，并模拟无人设备按照该轮次行驶模拟的优选控制指令进行行驶后，所能采集到的环境数据，作为该轮次行驶模拟对应的模拟环境数据；
若确定该轮次行驶模拟对应的模拟环境数据不满足第一预设条件，将该轮次行驶模拟对应的模拟环境数据，作为下一轮次行驶模拟的基础数据，输入到所述决策模型中，直到满足所述第一预设条件为止；
将满足所述第一预设条件的行驶模拟的轮次，作为目标轮次，并通过所述目标轮次的行驶模拟的优选控制指令，以及位于所述目标轮次的行驶模拟之前的其他轮次的行驶模拟的优选控制指令，构建该测试员对应的控制指令集。
6.如权利要求5所述的方法，其特征在于，确定该轮次行驶模拟对应的模拟环境数据是否满足第一预设条件，具体包括：
若根据该轮次行驶模拟对应的模拟环境数据，确定所述无人设备不再处于所述异常状态，确定该轮次行驶模拟对应的模拟环境数据满足所述第一预设条件，否则，确定该轮次行驶模拟对应的模拟环境数据不满足所述第一预设条件。
7.如权利要求1所述的方法，其特征在于，根据所述排序结果，从各测试员对应的控制指令集中确定目标控制指令集，具体包括：
根据所述排序结果，按照从高到低的顺序，依次判断每个测试员对应的控制指令集是否满足第二预设条件，直至选取出满足所述第二预设条件的控制指令集为止，并将满足所述第二预设条件的控制指令集，作为所述目标控制指令集，其中，针对每个测试员，若确定该测试员对应的控制指令集与无人设备所处实际环境的契合度不低于设定契合度，确定该测试员对应的控制指令集满足所述第二预设条件。
8.如权利要求7所述的方法，其特征在于，确定该测试员对应的控制指令集与无人设备所处实际环境的契合度，具体包括：
确定按照该测试员对应的控制指令集控制无人设备在实际环境中行驶时，所得到的实际行驶数据；
根据所述实际行驶数据，确定该测试员对应的控制指令集的实际行驶评分；
根据所述实际行驶评分与该测试员对应的控制指令集经过仿真测试后得到的仿真评分之间的差值，确定该测试员对应的控制指令集与无人设备所处实际环境的契合度，其中，若所述差值越大，所述契合度越低。
9.一种无人设备的控制方法，其特征在于，所述方法应用于无人驾驶领域，包括：
无人设备监测是否处于异常状态；
若监测到所述无人设备处于所述异常状态，确定所述无人设备处于异常状态时所处的环境，作为目标环境，并获取所述目标环境的环境数据；
根据所述环境数据，从预先确定出的各环境下的控制指令集中，确定出与所述目标环境相匹配的控制指令集，作为目标控制指令集，其中，各环境下的控制指令集是通过上述权利要求1～8任一项所述的方法得到的；
通过所述目标控制指令集，控制所述无人设备在所述目标环境下进行行驶。
10.一种计算机可读存储介质，其特征在于，所述存储介质存储有计算机程序，所述计算机程序被处理器执行时实现上述权利要求1～9任一项所述的方法。
11.一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，其特征在于，所述处理器执行所述程序时实现上述权利要求1～9任一项所述的方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202111313646.1A CN114114954B (zh) | 2021-11-08 | 2021-11-08 | 一种无人设备的控制方法及装置 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202111313646.1A CN114114954B (zh) | 2021-11-08 | 2021-11-08 | 一种无人设备的控制方法及装置 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN114114954A CN114114954A (zh) | 2022-03-01 |
| CN114114954B true CN114114954B (zh) | 2024-04-19 |
Family
ID=80381268
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202111313646.1A Active CN114114954B (zh) | 2021-11-08 | 2021-11-08 | 一种无人设备的控制方法及装置 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN114114954B (zh) |
Families Citing this family (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN116991084B (zh) * | 2023-09-28 | 2023-12-19 | 北京斯年智驾科技有限公司 | 一种无人驾驶模拟仿真系统、方法、装置和存储介质 |
Citations (9)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN108334055A (zh) * | 2018-01-30 | 2018-07-27 | 赵兴华 | 车辆自动驾驶算法的检验方法、装置、设备及存储介质 |
| CN108931927A (zh) * | 2018-07-24 | 2018-12-04 | 百度在线网络技术（北京）有限公司 | 无人驾驶仿真场景的创建方法及装置 |
| CN109690606A (zh) * | 2016-09-10 | 2019-04-26 | 瑞士再保险有限公司 | 对相关联的自动化系统的自动指导操作进行评分驱动测量、触发和发信号的智能、自适应、基于远程信息处理的系统及其相应的方法 |
| CN110174274A (zh) * | 2019-05-28 | 2019-08-27 | 初速度（苏州）科技有限公司 | 一种智能驾驶算法的修正方法及装置 |
| CN110597086A (zh) * | 2019-08-19 | 2019-12-20 | 深圳元戎启行科技有限公司 | 仿真场景生成方法和无人驾驶系统测试方法 |
| CN111856969A (zh) * | 2020-08-06 | 2020-10-30 | 北京赛目科技有限公司 | 自动驾驶仿真测试方法及装置 |
| CN112180921A (zh) * | 2020-09-22 | 2021-01-05 | 安徽江淮汽车集团股份有限公司 | 自动驾驶算法训练系统及方法 |
| CN212903320U (zh) * | 2020-08-21 | 2021-04-06 | 长春一汽富晟集团有限公司 | 一种用于驾驶员状态监测系统测试的虚拟驾驶系统 |
| CN112732585A (zh) * | 2021-01-19 | 2021-04-30 | 北京三快在线科技有限公司 | 一种仿真测试的方法及装置 |
Family Cites Families (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US11574468B2 (en) * | 2020-03-31 | 2023-02-07 | Toyota Research Institute, Inc. | Simulation-based learning of driver interactions through a vehicle window |
-
2021
- 2021-11-08 CN CN202111313646.1A patent/CN114114954B/zh active Active
Patent Citations (9)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109690606A (zh) * | 2016-09-10 | 2019-04-26 | 瑞士再保险有限公司 | 对相关联的自动化系统的自动指导操作进行评分驱动测量、触发和发信号的智能、自适应、基于远程信息处理的系统及其相应的方法 |
| CN108334055A (zh) * | 2018-01-30 | 2018-07-27 | 赵兴华 | 车辆自动驾驶算法的检验方法、装置、设备及存储介质 |
| CN108931927A (zh) * | 2018-07-24 | 2018-12-04 | 百度在线网络技术（北京）有限公司 | 无人驾驶仿真场景的创建方法及装置 |
| CN110174274A (zh) * | 2019-05-28 | 2019-08-27 | 初速度（苏州）科技有限公司 | 一种智能驾驶算法的修正方法及装置 |
| CN110597086A (zh) * | 2019-08-19 | 2019-12-20 | 深圳元戎启行科技有限公司 | 仿真场景生成方法和无人驾驶系统测试方法 |
| CN111856969A (zh) * | 2020-08-06 | 2020-10-30 | 北京赛目科技有限公司 | 自动驾驶仿真测试方法及装置 |
| CN212903320U (zh) * | 2020-08-21 | 2021-04-06 | 长春一汽富晟集团有限公司 | 一种用于驾驶员状态监测系统测试的虚拟驾驶系统 |
| CN112180921A (zh) * | 2020-09-22 | 2021-01-05 | 安徽江淮汽车集团股份有限公司 | 自动驾驶算法训练系统及方法 |
| CN112732585A (zh) * | 2021-01-19 | 2021-04-30 | 北京三快在线科技有限公司 | 一种仿真测试的方法及装置 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN114114954A (zh) | 2022-03-01 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN113032285B (zh) | 一种高精地图测试方法、装置、电子设备及存储介质 | |
| CN110796856B (zh) | 车辆变道意图预测方法及变道意图预测网络的训练方法 | |
| JP7075366B2 (ja) | 運転場面データを分類するための方法、装置、機器及び媒体 | |
| US10642268B2 (en) | Method and apparatus for generating automatic driving strategy | |
| Tettamanti et al. | Vehicle-in-the-loop test environment for autonomous driving with microscopic traffic simulation | |
| CN111795832B (zh) | 一种智能驾驶车辆测试方法、装置及设备 | |
| WO2022105394A1 (en) | Simulation method and system, device, readable storage medium, and platform for autonomous driving | |
| CN112703459A (zh) | 对抗场景的迭代生成 | |
| KR20200094643A (ko) | 최근 주행 경로에 대한 궤적 기반 행동 분석을 수행하여 차량의 모드를 수동 주행 모드에서 자율 주행 모드로 변경할 지 여부를 판단하는 학습 방법 및 학습 장치 | |
| CN110162003B (zh) | 一种行车主动服务系统测试验证平台及其测试方法 | |
| CN113535569B (zh) | 自动驾驶的控制效果确定方法 | |
| US11919530B2 (en) | Method and system for validating an autonomous vehicle stack | |
| CN112506170B (zh) | 一种基于驾驶员模型的测试方法及装置 | |
| CN114114954B (zh) | 一种无人设备的控制方法及装置 | |
| CN114475656B (zh) | 行驶轨迹预测方法、装置、电子设备以及存储介质 | |
| CN113032261A (zh) | 一种仿真测试的方法及装置 | |
| CN116686028A (zh) | 一种驾驶辅助的方法以及相关设备 | |
| CN115855531A (zh) | 自动驾驶汽车的测试场景构建方法、设备和介质 | |
| US20230256999A1 (en) | Simulation of imminent crash to minimize damage involving an autonomous vehicle | |
| CN115092186A (zh) | 一种车辆自动驾驶方法及装置、电子设备、存储介质 | |
| CN115346288A (zh) | 仿真行车记录采集方法、系统、电子设备及存储介质 | |
| CN111126365A (zh) | 一种数据采集方法及装置 | |
| CN112684720A (zh) | 一种仿真测试的方法及装置 | |
| CN113793523B (zh) | 一种指挥交通的方法、装置、车载设备及车辆 | |
| Komavec et al. | Simulation Environment for Testing Autonomous Vehicles |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |