CN115330276B - 基于强化学习的机器人自动选择电梯的方法及装置 - Google Patents

基于强化学习的机器人自动选择电梯的方法及装置 Download PDF

Info

Publication number
CN115330276B
CN115330276B CN202211254835.0A CN202211254835A CN115330276B CN 115330276 B CN115330276 B CN 115330276B CN 202211254835 A CN202211254835 A CN 202211254835A CN 115330276 B CN115330276 B CN 115330276B
Authority
CN
China
Prior art keywords
elevator
target robot
robot
target
optimal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202211254835.0A
Other languages
English (en)
Other versions
CN115330276A (zh
Inventor
兰婷婷
支涛
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Yunji Technology Co Ltd
Original Assignee
Beijing Yunji Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Yunji Technology Co Ltd filed Critical Beijing Yunji Technology Co Ltd
Priority to CN202211254835.0A priority Critical patent/CN115330276B/zh
Publication of CN115330276A publication Critical patent/CN115330276A/zh
Application granted granted Critical
Publication of CN115330276B publication Critical patent/CN115330276B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • G06Q10/063—Operations research, analysis or management
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning

Landscapes

  • Engineering & Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Human Resources & Organizations (AREA)
  • Theoretical Computer Science (AREA)
  • Software Systems (AREA)
  • Strategic Management (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Physics & Mathematics (AREA)
  • Economics (AREA)
  • General Physics & Mathematics (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Game Theory and Decision Science (AREA)
  • Development Economics (AREA)
  • Computing Systems (AREA)
  • Medical Informatics (AREA)
  • Data Mining & Analysis (AREA)
  • Mathematical Physics (AREA)
  • Educational Administration (AREA)
  • Marketing (AREA)
  • Operations Research (AREA)
  • Quality & Reliability (AREA)
  • Tourism & Hospitality (AREA)
  • General Business, Economics & Management (AREA)
  • Elevator Control (AREA)

Abstract

本公开涉及机器人技术领域，提供了一种基于强化学习的机器人自动选择电梯的方法及装置。该方法包括：获取目标机器人在当前时刻对应的择梯相关信息；基于择梯相关信息，利用择梯模型的近似值函数计算目标机器人乘坐每一部电梯的近似值；基于目标机器人乘坐每部电梯的近似值，通过择梯模型为目标机器人选择最优电梯；在为目标机器人选择最优电梯之后，利用奖励值函数计算本次为目标机器人选择最优电梯的奖励值；根据奖励值和本次为目标机器人选择的最优电梯的近似值，利用择梯模型的损失值函数计算本次为目标机器人选择最优电梯所对应的损失值，并通过损失值更新近似值函数的参数，以为下一次目标机器人选择最优电梯提供支持。

Description

基于强化学习的机器人自动选择电梯的方法及装置
技术领域
本公开涉及机器人技术领域，尤其涉及一种基于强化学习的机器人自动选择电梯的方法及装置。
背景技术
随着机器人技术的发展和人工智能研究的不断深入，服务机器人逐渐发成人类生活中不可或缺的角色，其功能越来越智能化，且被广泛应用在餐饮、货物运输等领域中。在一些实际的应用场景中，电梯环境作为一种动态不确定的复杂环境，研究高层建筑中的机器人自适应乘梯决策问题是十分必要的。目前常根据专家知识库中的专家经验为机器人选择乘梯方案，这种方法完全依赖于过去积累下的经验，而电梯环境复杂多变，所以该方法准确度和效率较低。
在实现本公开构思的过程中，发明人发现相关技术中至少存在如下技术问题：目前机器人无法自动选择最优电梯的问题。
发明内容
有鉴于此，本公开实施例提供了一种基于强化学习的机器人自动选择电梯的方法、装置、电子设备及计算机可读存储介质，以解决现有技术中，目前机器人无法自动选择最优电梯的问题。
本公开实施例的第一方面，提供了一种基于强化学习的机器人自动选择电梯的方法，包括：获取目标机器人在当前时刻对应的择梯相关信息；基于择梯相关信息，利用择梯模型的近似值函数计算目标机器人乘坐每一部电梯的近似值；基于目标机器人乘坐每部电梯的近似值，通过择梯模型为目标机器人选择最优电梯；在为目标机器人选择最优电梯之后，利用奖励值函数计算本次为目标机器人选择最优电梯的奖励值；根据奖励值和本次为目标机器人选择的最优电梯的近似值，利用择梯模型的损失值函数计算本次为目标机器人选择最优电梯所对应的损失值，并通过损失值更新近似值函数的参数，以为下一次目标机器人选择最优电梯提供支持。
本公开实施例的第二方面，提供了一种基于强化学习的机器人自动选择电梯的装置，包括：获取模块，被配置为获取目标机器人在当前时刻对应的择梯相关信息；第一计算模块，被配置为基于择梯相关信息，利用择梯模型的近似值函数计算目标机器人乘坐每一部电梯的近似值；择梯模块，被配置为基于目标机器人乘坐每部电梯的近似值，通过择梯模型为目标机器人选择最优电梯；第二计算模块，被配置为在为目标机器人选择最优电梯之后，利用奖励值函数计算本次为目标机器人选择最优电梯的奖励值；更新模块，被配置为根据奖励值和本次为目标机器人选择的最优电梯的近似值，利用择梯模型的损失值函数计算本次为目标机器人选择最优电梯所对应的损失值，并通过损失值更新近似值函数的参数，以为下一次目标机器人选择最优电梯提供支持。
本公开实施例的第三方面，提供了一种电子设备，包括存储器、处理器以及存储在存储器中并且可在处理器上运行的计算机程序，该处理器执行计算机程序时实现上述方法的步骤。
本公开实施例的第四方面，提供了一种计算机可读存储介质，该计算机可读存储介质存储有计算机程序，该计算机程序被处理器执行时实现上述方法的步骤。
本公开实施例与现有技术相比存在的有益效果是：获取目标机器人在当前时刻对应的择梯相关信息；基于择梯相关信息，利用择梯模型的近似值函数计算目标机器人乘坐每一部电梯的近似值；基于目标机器人乘坐每部电梯的近似值，通过择梯模型为目标机器人选择最优电梯；在为目标机器人选择最优电梯之后，利用奖励值函数计算本次为目标机器人选择最优电梯的奖励值；根据奖励值和本次为目标机器人选择的最优电梯的近似值，利用择梯模型的损失值函数计算本次为目标机器人选择最优电梯所对应的损失值，并通过损失值更新近似值函数的参数，以为下一次目标机器人选择最优电梯提供支持。采用上述技术手段，可以解决现有技术中，目前机器人无法自动选择最优电梯的问题，进而提供一种机器人自动选择最优电梯的方法。
附图说明
为了更清楚地说明本公开实施例中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本公开的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其它的附图。
图1是本公开实施例提供的一种基于强化学习的机器人自动选择电梯的方法的流程示意图；
图2是本公开实施例提供的一种基于强化学习的机器人自动选择电梯的装置的结构示意图；
图3是本公开实施例提供的一种电子设备的结构示意图。
具体实施方式
以下描述中，为了说明而不是为了限定，提出了诸如特定系统结构、技术之类的具体细节，以便透彻理解本公开实施例。然而，本领域的技术人员应当清楚，在没有这些具体细节的其它实施例中也可以实现本公开。在其它情况中，省略对众所周知的系统、装置、电路以及方法的详细说明，以免不必要的细节妨碍本公开的描述。
下面将结合附图详细说明根据本公开实施例的一种基于强化学习的机器人自动选择电梯的方法和装置。
图1是本公开实施例提供的一种基于强化学习的机器人自动选择电梯的方法的流程示意图。如图1所示，该基于强化学习的机器人自动选择电梯的方法包括：
S101，获取目标机器人在当前时刻对应的择梯相关信息；
S102，基于择梯相关信息，利用择梯模型的近似值函数计算目标机器人乘坐每一部电梯的近似值；
S103，基于目标机器人乘坐每部电梯的近似值，通过择梯模型为目标机器人选择最优电梯；
S104，在为目标机器人选择最优电梯之后，利用奖励值函数计算本次为目标机器人选择最优电梯的奖励值；
S105，根据奖励值和本次为目标机器人选择的最优电梯的近似值，利用择梯模型的损失值函数计算本次为目标机器人选择最优电梯所对应的损失值，并通过损失值更新近似值函数的参数，以为下一次目标机器人选择最优电梯提供支持。
在对择梯模型进行训练，类似于择梯模型的使用过程，在此不再赘述。本公开实施例中模型训练和模型的使用实际是基于强化学习的，模型训练和模型的使用均可以理解为一个循环，在为目标机器人选择最优电梯中的步骤为模型的使用过程，在为目标机器人选择最优电梯之后的步骤为模型的训练过程。
通过本公开实施例，获取目标机器人在当前时刻对应的择梯相关信息；基于择梯相关信息，利用择梯模型的近似值函数计算目标机器人乘坐每一部电梯的近似值；基于目标机器人乘坐每部电梯的近似值，通过择梯模型为目标机器人选择最优电梯；在为目标机器人选择最优电梯之后，利用奖励值函数计算本次为目标机器人选择最优电梯的奖励值；根据奖励值和本次为目标机器人选择的最优电梯的近似值，利用择梯模型的损失值函数计算本次为目标机器人选择最优电梯所对应的损失值，并通过损失值更新近似值函数的参数，以为下一次目标机器人选择最优电梯提供支持。采用上述技术手段，可以解决现有技术中，目前机器人无法自动选择最优电梯的问题，进而提供一种机器人自动选择最优电梯的方法。
择梯相关信息，包括：各部电梯的运行状态、目标机器人的状态和时间信息；每部电梯的运行状态，包括：电梯所在楼层、电梯当前的速度和电梯当前的方向和电梯当前梯内人数；目标机器人的状态，包括：目标机器人的起始位置和目标位置、目标机器人的机器人参数；时间信息，包括：不同时间段内各部电梯的使用频率、不同时间段内各部电梯运行状态以及不同时间段内各部电梯内的人数。
机器人参数可以包括机器人的尺寸和重量等信息。
奖励值函数为：
Figure 338918DEST_PATH_IMAGE001
其中，R为奖励值，Tac为当前时刻目标机器人从起始位置到目标位置所需的平均时间，T1为目标机器人从起始位置出发到电梯所需的时间，T2为目标机器人乘电梯到目标位置所需的时间，α为预设的权重参数。
Tac可以根据机器人通行的历史数据库确定，T1与T2为目标机器人实际花费的时间。
基于目标机器人乘坐每部电梯的近似值，通过择梯模型为目标机器人选择最优电梯之后，方法还包括：在目标机器人从起始位置开始并通过选择的最优电梯到达目标位置之后，根据目标机器人从起始位置到达目标位置所花费的时长，利用奖励值函数计算本次为目标机器人选择最优电梯的奖励值；根据奖励值和本次为目标机器人选择的最优电梯的近似值，利用择梯模型的损失值函数计算本次为目标机器人选择最优电梯所对应的损失值，并通过损失值更新近似值函数的参数，以为下一次目标机器人选择最优电梯提供支持。
损失值函数为：
Figure 368054DEST_PATH_IMAGE002
其中，s为择梯相关信息，a 为目标机器人从起始位置到达所选择的最优电梯的过程中目标机器人的动作，θ为近似值函数的参数，
Figure 156012DEST_PATH_IMAGE003
为近似值，R为奖励值，E[ ]为求数学期望的函数。
Figure 637809DEST_PATH_IMAGE004
为强化学习中的近似值函数。
基于目标机器人乘坐每部电梯的近似值，通过择梯模型为目标机器人选择最优电梯之后，方法还包括：当目标机器人到达所选择的最优电梯时，更新择梯相关信息；基于更新后的择梯相关信息，通过择梯模型判断目标机器人是否需要更换最优电梯。
当更新后的择梯相关信息与原择梯相关信息差别大时，需要更换最优电梯。比如更新后的择梯相关信息表明电梯内人数过多时，可以基于更新后的择梯相关信息，通过择梯模型判断目标机器人是否需要更换最优电梯。
在一个可选实施例中，包括：当目标机器人从起始位置到目标位置且需要乘电梯时，为目标机器人规划任务如下：第一导航任务，为目标机器人从起始位置到电梯提供导航；择梯决策任务，根据第一择梯相关信息和第二择梯相关信息为目标机器人选择最优电梯；感知任务，通过判断电梯的开关，确定目标机器人进入电梯的时机和出电梯的时机；第二导航任务，为目标机器人从电梯到目标位置提供导航。
上述所有可选技术方案，可以采用任意结合形成本申请的可选实施例，在此不再一一赘述。
下述为本公开装置实施例，可以用于执行本公开方法实施例。对于本公开装置实施例中未披露的细节，请参照本公开方法实施例。
图2是本公开实施例提供的一种基于强化学习的机器人自动选择电梯的装置的示意图。如图2所示，该基于强化学习的机器人自动选择电梯的装置包括：
获取模块201，被配置为获取目标机器人在当前时刻对应的择梯相关信息；
第一计算模块202，被配置为基于择梯相关信息，利用择梯模型的近似值函数计算目标机器人乘坐每一部电梯的近似值；
择梯模块203，被配置为基于目标机器人乘坐每部电梯的近似值，通过择梯模型为目标机器人选择最优电梯；
第二计算模块204，被配置为在为目标机器人选择最优电梯之后，利用奖励值函数计算本次为目标机器人选择最优电梯的奖励值；
更新模块205，被配置为根据奖励值和本次为目标机器人选择的最优电梯的近似值，利用择梯模型的损失值函数计算本次为目标机器人选择最优电梯所对应的损失值，并通过损失值更新近似值函数的参数，以为下一次目标机器人选择最优电梯提供支持。
在对择梯模型进行训练，类似于择梯模型的使用过程，在此不再赘述。本公开实施例中模型训练和模型的使用实际是基于强化学习的，模型训练和模型的使用均可以理解为一个循环，在为目标机器人选择最优电梯中的步骤为模型的使用过程，在为目标机器人选择最优电梯之后的步骤为模型的训练过程。
通过本公开实施例，获取目标机器人在当前时刻对应的择梯相关信息；基于择梯相关信息，利用择梯模型的近似值函数计算目标机器人乘坐每一部电梯的近似值；基于目标机器人乘坐每部电梯的近似值，通过择梯模型为目标机器人选择最优电梯；在为目标机器人选择最优电梯之后，利用奖励值函数计算本次为目标机器人选择最优电梯的奖励值；根据奖励值和本次为目标机器人选择的最优电梯的近似值，利用择梯模型的损失值函数计算本次为目标机器人选择最优电梯所对应的损失值，并通过损失值更新近似值函数的参数，以为下一次目标机器人选择最优电梯提供支持。采用上述技术手段，可以解决现有技术中，目前机器人无法自动选择最优电梯的问题，进而提供一种机器人自动选择最优电梯的方法。
择梯相关信息，包括：各部电梯的运行状态、目标机器人的状态和时间信息；每部电梯的运行状态，包括：电梯所在楼层、电梯当前的速度和电梯当前的方向和电梯当前梯内人数；目标机器人的状态，包括：目标机器人的起始位置和目标位置、目标机器人的机器人参数；时间信息，包括：不同时间段内各部电梯的使用频率、不同时间段内各部电梯运行状态以及不同时间段内各部电梯内的人数。
机器人参数可以包括机器人的尺寸和重量等信息。
奖励值函数为：
Figure 51473DEST_PATH_IMAGE001
其中，R为奖励值，Tac为当前时刻目标机器人从起始位置到目标位置所需的平均时间，T1为目标机器人从起始位置出发到电梯所需的时间，T2为目标机器人乘电梯到目标位置所需的时间，α为预设的权重参数。
Tac可以根据机器人通行的历史数据库确定，T1与T2为目标机器人实际花费的时间。
可选地，第二计算模块204还被配置为在目标机器人从起始位置开始并通过选择的最优电梯到达目标位置之后，根据目标机器人从起始位置到达目标位置所花费的时长，利用奖励值函数计算本次为目标机器人选择最优电梯的奖励值；根据奖励值和本次为目标机器人选择的最优电梯的近似值，利用择梯模型的损失值函数计算本次为目标机器人选择最优电梯所对应的损失值，并通过损失值更新近似值函数的参数，以为下一次目标机器人选择最优电梯提供支持。
损失值函数为：
Figure 669536DEST_PATH_IMAGE002
其中，s为择梯相关信息，a 为目标机器人从起始位置到达所选择的最优电梯的过程中目标机器人的动作，θ为近似值函数的参数，
Figure 143243DEST_PATH_IMAGE003
为近似值，R为奖励值。
Figure 597489DEST_PATH_IMAGE004
为强化学习中的近似值函数，E[ ]为求数学期望的函数。
可选地，择梯模块203还被配置为当目标机器人到达所选择的最优电梯时，更新择梯相关信息；基于更新后的择梯相关信息，通过择梯模型判断目标机器人是否需要更换最优电梯。
当更新后的择梯相关信息与原择梯相关信息差别大时，需要更换最优电梯。比如更新后的择梯相关信息表明电梯内人数过多时，可以基于更新后的择梯相关信息，通过择梯模型判断目标机器人是否需要更换最优电梯。
可选地，择梯模块203还被配置为当目标机器人从起始位置到目标位置且需要乘电梯时，为目标机器人规划任务如下：第一导航任务，为目标机器人从起始位置到电梯提供导航；择梯决策任务，根据第一择梯相关信息和第二择梯相关信息为目标机器人选择最优电梯；感知任务，通过判断电梯的开关，确定目标机器人进入电梯的时机和出电梯的时机；第二导航任务，为目标机器人从电梯到目标位置提供导航。
应理解，上述实施例中各步骤的序号的大小并不意味着执行顺序的先后，各过程的执行顺序应以其功能和内在逻辑确定，而不应对本公开实施例的实施过程构成任何限定。
图3是本公开实施例提供的电子设备3的示意图。如图3所示，该实施例的电子设备3包括：处理器301、存储器302以及存储在该存储器302中并且可在处理器301上运行的计算机程序303。处理器301执行计算机程序303时实现上述各个方法实施例中的步骤。或者，处理器301执行计算机程序303时实现上述各装置实施例中各模块/单元的功能。
示例性地，计算机程序303可以被分割成一个或多个模块/单元，一个或多个模块/单元被存储在存储器302中，并由处理器301执行，以完成本公开。一个或多个模块/单元可以是能够完成特定功能的一系列计算机程序指令段，该指令段用于描述计算机程序303在电子设备3中的执行过程。
电子设备3可以是桌上型计算机、笔记本、掌上电脑及云端服务器等电子设备。电子设备3可以包括但不仅限于处理器301和存储器302。本领域技术人员可以理解，图3仅仅是电子设备3的示例，并不构成对电子设备3的限定，可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件，例如，电子设备还可以包括输入输出设备、网络接入设备、总线等。
处理器301可以是中央处理单元（Central Processing Unit，CPU），也可以是其它通用处理器、数字信号处理器（Digital Signal Processor，DSP）、专用集成电路（Application Specific Integrated Circuit，ASIC）、现场可编程门阵列（Field-Programmable Gate Array，FPGA）或者其它可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
存储器302可以是电子设备3的内部存储单元，例如，电子设备3的硬盘或内存。存储器302也可以是电子设备3的外部存储设备，例如，电子设备3上配备的插接式硬盘，智能存储卡（Smart Media Card，SMC），安全数字（Secure Digital，SD）卡，闪存卡（Flash Card）等。进一步地，存储器302还可以既包括电子设备3的内部存储单元也包括外部存储设备。存储器302用于存储计算机程序以及电子设备所需的其它程序和数据。存储器302还可以用于暂时地存储已经输出或者将要输出的数据。
所属领域的技术人员可以清楚地了解到，为了描述的方便和简洁，仅以上述各功能单元、模块的划分进行举例说明，实际应用中，可以根据需要而将上述功能分配由不同的功能单元、模块完成，即将装置的内部结构划分成不同的功能单元或模块，以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中，上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。另外，各功能单元、模块的具体名称也只是为了便于相互区分，并不用于限制本申请的保护范围。上述系统中单元、模块的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。
在上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述或记载的部分，可以参见其它实施例的相关描述。
本领域普通技术人员可以意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本公开的范围。
在本公开所提供的实施例中，应该理解到，所揭露的装置/电子设备和方法，可以通过其它的方式实现。例如，以上所描述的装置/电子设备实施例仅仅是示意性的，例如，模块或单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口，装置或单元的间接耦合或通讯连接，可以是电性，机械或其它的形式。
作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外，在本公开各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。
集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读存储介质中。基于这样的理解，本公开实现上述实施例方法中的全部或部分流程，也可以通过计算机程序来指令相关的硬件来完成，计算机程序可以存储在计算机可读存储介质中，该计算机程序在被处理器执行时，可以实现上述各个方法实施例的步骤。计算机程序可以包括计算机程序代码，计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。计算机可读介质可以包括：能够携带计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器（Read-Only Memory，ROM）、随机存取存储器（Random Access Memory，RAM）、电载波信号、电信信号以及软件分发介质等。需要说明的是，计算机可读介质包含的内容可以根据司法管辖区内立法和专利实践的要求进行适当的增减，例如，在某些司法管辖区，根据立法和专利实践，计算机可读介质不包括电载波信号和电信信号。
以上实施例仅用以说明本公开的技术方案，而非对其限制；尽管参照前述实施例对本公开进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本公开各实施例技术方案的精神和范围，均应包含在本公开的保护范围之内。

Claims (8)

1.一种基于强化学习的机器人自动选择电梯的方法，其特征在于，包括：
获取目标机器人在当前时刻对应的择梯相关信息；
基于所述择梯相关信息，利用择梯模型的近似值函数计算所述目标机器人乘坐每一部电梯的近似值；
基于所述目标机器人乘坐每部电梯的近似值，通过所述择梯模型为所述目标机器人选择最优电梯；
在为所述目标机器人选择最优电梯之后，利用奖励值函数计算本次为所述目标机器人选择最优电梯的奖励值；
根据所述奖励值和本次为所述目标机器人选择的最优电梯的近似值，利用所述择梯模型的损失值函数计算本次为所述目标机器人选择最优电梯所对应的损失值，并通过所述损失值更新所述近似值函数的参数，以为下一次目标机器人选择最优电梯提供支持；
其中，所述奖励值函数为：
Figure 668DEST_PATH_IMAGE002
其中，R为所述奖励值，Tac为当前时刻所述目标机器人从起始位置到目标位置所需的平均时间，T1为所述目标机器人从所述起始位置出发到电梯所需的时间，T2为所述目标机器人乘电梯到所述目标位置所需的时间，α为预设的权重参数；
其中，所述损失值函数为：
Figure 917808DEST_PATH_IMAGE003
其中，s为所述择梯相关信息，a 为所述目标机器人从起始位置到达所选择的最优电梯的过程中所述目标机器人的动作，θ为所述近似值函数的参数，
Figure 635228DEST_PATH_IMAGE005
为所述近似值，R为所述奖励值，E[ ]为求数学期望的函数。
2.根据权利要求1所述的方法，其特征在于，所述择梯相关信息，包括：各部电梯的运行状态、所述目标机器人的状态和时间信息；
每部电梯的运行状态，包括：电梯所在楼层、电梯当前的速度和电梯当前的方向和电梯当前梯内人数；
所述目标机器人的状态，包括：所述目标机器人的起始位置和目标位置、所述目标机器人的机器人参数；
所述时间信息，包括：不同时间段内各部电梯的使用频率、不同时间段内各部电梯运行状态以及不同时间段内各部电梯内的人数。
3.根据权利要求1所述的方法，其特征在于，所述基于所述目标机器人乘坐每部电梯的近似值，通过所述择梯模型为所述目标机器人选择最优电梯之后，所述方法还包括：
在所述目标机器人从起始位置开始并通过选择的最优电梯到达目标位置之后，根据所述目标机器人从所述起始位置到达所述目标位置所花费的时长，利用所述奖励值函数计算本次为所述目标机器人选择最优电梯的奖励值；
根据所述奖励值和本次为所述目标机器人选择的最优电梯的近似值，利用所述择梯模型的损失值函数计算本次为所述目标机器人选择最优电梯所对应的损失值，并通过所述损失值更新所述近似值函数的参数，以为下一次目标机器人选择最优电梯提供支持。
4.根据权利要求1所述的方法，其特征在于，所述基于所述目标机器人乘坐每部电梯的近似值，通过所述择梯模型为所述目标机器人选择最优电梯之后，所述方法还包括：
当所述目标机器人到达所选择的最优电梯时，更新所述择梯相关信息；
基于更新后的择梯相关信息，通过所述择梯模型判断所述目标机器人是否需要更换所述最优电梯。
5.根据权利要求1所述的方法，其特征在于，包括：
当所述目标机器人从起始位置到目标位置且需要乘电梯时，为所述目标机器人规划任务如下：
第一导航任务，为所述目标机器人从所述起始位置到电梯提供导航；
择梯决策任务，根据所述择梯相关信息为所述目标机器人选择最优电梯；
感知任务，通过判断电梯的开关，确定所述目标机器人进入电梯的时机和出电梯的时机；
第二导航任务，为所述目标机器人从电梯到所述目标位置提供导航。
6.一种基于强化学习的机器人自动选择电梯的装置，其特征在于，包括：
获取模块，被配置为获取目标机器人在当前时刻对应的择梯相关信息；
第一计算模块，被配置为基于所述择梯相关信息，利用择梯模型的近似值函数计算所述目标机器人乘坐每一部电梯的近似值；
择梯模块，被配置为基于所述目标机器人乘坐每部电梯的近似值，通过所述择梯模型为所述目标机器人选择最优电梯；
第二计算模块，被配置为在为所述目标机器人选择最优电梯之后，利用奖励值函数计算本次为所述目标机器人选择最优电梯的奖励值；
更新模块，被配置为根据所述奖励值和本次为所述目标机器人选择的最优电梯的近似值，利用所述择梯模型的损失值函数计算本次为所述目标机器人选择最优电梯所对应的损失值，并通过所述损失值更新所述近似值函数的参数，以为下一次目标机器人选择最优电梯提供支持；
其中，所述奖励值函数为：
Figure 30438DEST_PATH_IMAGE002
其中，R为所述奖励值，Tac为当前时刻所述目标机器人从起始位置到目标位置所需的平均时间，T1为所述目标机器人从所述起始位置出发到电梯所需的时间，T2为所述目标机器人乘电梯到所述目标位置所需的时间，α为预设的权重参数；
其中，所述损失值函数为：
Figure 782493DEST_PATH_IMAGE003
其中，s为所述择梯相关信息，a 为所述目标机器人从起始位置到达所选择的最优电梯的过程中所述目标机器人的动作，θ为所述近似值函数的参数，
Figure 604956DEST_PATH_IMAGE005
为所述近似值，R为所述奖励值，E[ ]为求数学期望的函数。
7.一种电子设备，包括存储器、处理器以及存储在所述存储器中并且可在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现如权利要求1至5中任一项所述方法的步骤。
8.一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1至5中任一项所述方法的步骤。
CN202211254835.0A 2022-10-13 2022-10-13 基于强化学习的机器人自动选择电梯的方法及装置 Active CN115330276B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202211254835.0A CN115330276B (zh) 2022-10-13 2022-10-13 基于强化学习的机器人自动选择电梯的方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202211254835.0A CN115330276B (zh) 2022-10-13 2022-10-13 基于强化学习的机器人自动选择电梯的方法及装置

Publications (2)

Publication Number Publication Date
CN115330276A CN115330276A (zh) 2022-11-11
CN115330276B true CN115330276B (zh) 2023-01-06

Family

ID=83914207

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202211254835.0A Active CN115330276B (zh) 2022-10-13 2022-10-13 基于强化学习的机器人自动选择电梯的方法及装置

Country Status (1)

Country Link
CN (1) CN115330276B (zh)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108803321A (zh) * 2018-05-30 2018-11-13 清华大学 基于深度强化学习的自主水下航行器轨迹跟踪控制方法
CN112356830A (zh) * 2020-11-25 2021-02-12 同济大学 一种基于模型强化学习的智能泊车方法

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2187369A3 (en) * 2008-06-04 2012-03-28 Roads and Traffic Authority of New South Wales Traffic signals control system
EP3467717A1 (en) * 2017-10-04 2019-04-10 Prowler.io Limited Machine learning system
CA3060900A1 (en) * 2018-11-05 2020-05-05 Royal Bank Of Canada System and method for deep reinforcement learning

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108803321A (zh) * 2018-05-30 2018-11-13 清华大学 基于深度强化学习的自主水下航行器轨迹跟踪控制方法
CN112356830A (zh) * 2020-11-25 2021-02-12 同济大学 一种基于模型强化学习的智能泊车方法

Also Published As

Publication number Publication date
CN115330276A (zh) 2022-11-11

Similar Documents

Publication Publication Date Title
CN110955242B (zh) 机器人导航方法、系统、机器人及存储介质
US11783227B2 (en) Method, apparatus, device and readable medium for transfer learning in machine learning
CN109191312A (zh) 一种理赔反欺诈风控方法及装置
CN113515382B (zh) 云资源的分配方法、装置、电子设备及存储介质
CN110134215A (zh) 数据处理方法、装置、电子设备及可读存储介质
US11966208B2 (en) Methods and systems for greenspace cultivation and management in smart cities based on Internet of Things
CN114862209A (zh) 运力调度方法、装置、电子设备及存储介质
CN109934389A (zh) 基于预测模型的绩效预测方法、装置及存储介质
CN110032437A (zh) 一种基于信息时效性的计算任务处理方法及装置
CN111739283B (zh) 一种基于聚类的路况计算方法、装置、设备及介质
CN115330276B (zh) 基于强化学习的机器人自动选择电梯的方法及装置
CN110309946A (zh) 物流路径规划方法及装置、计算机可读介质以及物流系统
CN115640986B (zh) 基于奖励的机器人调度方法、装置、设备及介质
CN108898648A (zh) 一种k线图构造方法、系统及相关设备
CN112185530A (zh) 一种医院排号管理方法及系统
CN111046156A (zh) 奖励数据的确定方法、装置和服务器
CN109600245B (zh) 服务器自动配置方法及装置
CN112514352A (zh) 更新调度规则的方法、设备、系统、存储介质和终端
CN111953533B (zh) 目标网络节点的工作时长调控方法、装置、设备及存储介质
CN112561166A (zh) 车辆的调度方法和装置、存储介质、电子装置
CN115330277B (zh) 机器人自动选择电梯的方法及装置
CN113689125A (zh) 信息推送方法和装置
CN112669099A (zh) 用于处理订单的方法和装置
CN116521199B (zh) 一种部件升级方法、装置、设备及存储介质
CN111159626B (zh) 微型机器人的磁场值计算方法、装置、设备和存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant