CN109843752B - 机器人驱动单元及其系统 - Google Patents

机器人驱动单元及其系统 Download PDF

Info

Publication number
CN109843752B
CN109843752B CN201780062530.0A CN201780062530A CN109843752B CN 109843752 B CN109843752 B CN 109843752B CN 201780062530 A CN201780062530 A CN 201780062530A CN 109843752 B CN109843752 B CN 109843752B
Authority
CN
China
Prior art keywords
storage unit
drive unit
image
legs
rdu100
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201780062530.0A
Other languages
English (en)
Other versions
CN109843752A (zh
Inventor
小罗伯特·迈克尔·谢杜
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Amazon Technologies Inc
Original Assignee
Amazon Technologies Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Amazon Technologies Inc filed Critical Amazon Technologies Inc
Publication of CN109843752A publication Critical patent/CN109843752A/zh
Application granted granted Critical
Publication of CN109843752B publication Critical patent/CN109843752B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0212Control of position or course in two dimensions specially adapted to land vehicles with means for defining a desired trajectory
    • G05D1/0214Control of position or course in two dimensions specially adapted to land vehicles with means for defining a desired trajectory in accordance with safety or protection criteria, e.g. avoiding hazardous areas
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0231Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
    • G05D1/0234Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using optical markers or beacons
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1694Programme controls characterised by use of sensors other than normal servo-feedback from position, speed or acceleration sensors, perception control, multi-sensor controlled systems, sensor fusion
    • B25J9/1697Vision controlled systems
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B19/00Programme-control systems
    • G05B19/02Programme-control systems electric
    • G05B19/18Numerical control [NC], i.e. automatically operating machines, in particular machine tools, e.g. in a manufacturing environment, so as to execute positioning, movement or co-ordinated operations by means of programme data in numerical form
    • G05B19/406Numerical control [NC], i.e. automatically operating machines, in particular machine tools, e.g. in a manufacturing environment, so as to execute positioning, movement or co-ordinated operations by means of programme data in numerical form characterised by monitoring or safety
    • G05B19/4061Avoiding collision or forbidden zones
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0231Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
    • G05D1/0246Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using a video camera in combination with image processing means
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00Program-control systems
    • G05B2219/30Nc systems
    • G05B2219/39Robotics, robotics to robotics hand
    • G05B2219/39046Compare image of plate on robot with reference, move till coincidence, camera
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y10TECHNICAL SUBJECTS COVERED BY FORMER USPC
    • Y10STECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y10S901/00Robots
    • Y10S901/01Mobile robot

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Automation & Control Theory (AREA)
  • Remote Sensing (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Electromagnetism (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Manufacturing & Machinery (AREA)
  • Human Computer Interaction (AREA)
  • Mechanical Engineering (AREA)
  • Robotics (AREA)
  • Manipulator (AREA)
  • Warehouses Or Storage Devices (AREA)
  • Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)
  • Image Analysis (AREA)

Abstract

公开了用于集成式障碍物检测和有效负载定心传感器系统的各种实施例。机器人驱动单元(RDU)通过安装到其自身的下视摄像头来捕获位于地面上的基准点的图像。然后,所述RDU将其自身定位在所述基准点上方并随后旋转。当所述RDU旋转时,它捕获安装到其自身的前视三维摄像头附近的周围环境的点云。然后,所述RDU在所述点云中识别位于所述机器人驱动单元上方的存储单元的至少两个支腿。随后,所述RDU确定所述至少两个支腿中的每一者相对于所述基准点的位置,并且至少部分地基于所述至少两个支腿中的每一者的所述位置来对所述存储单元的中心进行三角测量。然后,所述RDU将其自身在所述存储单元下方居中。

Description

机器人驱动单元及其系统
相关申请的交叉引用
本申请要求于2016年9月15日提交的第15/265,925号美国申请的优先权和权益,所述申请的全部内容以引用方式并入本文。
技术领域
本申请涉及机器人驱动单元及其系统。
背景技术
自主机器人通常用于在仓库或类似环境中执行任务。此类任务可以包括移动物品、货架、盒子或其他存储容器;给(例如,其他自主机器人的)电池再充电;以及其他任务。自主机器人的使用具有许多优点。例如,仓库中的物品可以更紧密地堆放在一起,因为机器人可以被设计成所需要的空间比人类执行类似任务所需的空间更少。较大和较重的物品可以存储在仓库中,因为机器人可以运输比人类可以运输的物品更重的物品。同样,由于使用自主机器人,与操作仓库相关联的劳动力成本也降低了。
发明内容
一种系统,其包括:下视摄像头;前视摄像头;处理器;以及存储机器可读指令的存储器,所述机器可读指令在由所述处理器执行时使所述系统至少:在存储单元下方移动;使用所述下视摄像头来捕获位于地面上的基准点的图像;使所述系统在所述基准点上居中;将所述系统围绕所述基准点旋转就位;当所述系统旋转时通过所述前视摄像头来捕获全景图像;识别所述全景图像中的所述存储单元的多个支腿;至少部分地基于所述全景图像中的所述多个支腿来对所述存储单元的所述中心相对于所述基准点的位置进行三角测量;确定所述系统相对于所述存储单元居中;升起所述存储单元;响应于使所述系统升起所述存储单元而使用所述前视摄像头来捕获所述存储单元的所述多个支腿中的至少两者的第一图像;将所述存储单元移动到新位置;当所述系统处于运动中时使用所述前视摄像头来捕获所述存储单元的所述多个支腿中的所述至少两者的第二图像;测量所述存储单元的所述多个支腿中的所述至少两者在所述第二图像中相对于所述第一图像的位置变化;以及至少部分地基于所述位置变化来确定所述存储单元改变了在所述系统的顶部上的位置或定向。
如前面所述的系统,其中所述前视摄像头包括被配置为捕获点云的三维摄像头,并且所述全景图像包括点云。
如前面所述的系统,其中所述下视摄像头位于所述系统的底表面上。
一种机器人驱动单元,其包括:前视摄像头;下视摄像头;处理器;存储器;以及包括存储在所述存储器中的机器可读指令的应用程序,所述机器可读指令在由所述处理器执行时使所述机器人驱动单元:在存储单元下方移动;使用所述下视摄像头来捕获位于地面上的基准点的图像;将所述机器人驱动单元相对于所述基准点定位;将所述机器人驱动单元旋转就位;通过所述前视摄像头来捕获全景图像;识别所述全景图像中的所述存储单元的多个支腿;测量从所述存储单元的所述多个支腿中的每一者到所述基准点的距离;计算在所述存储单元下方相对于所述基准点的位置;确定所述机器人驱动单元相对于所述存储单元下方的所述计算位置不在适当位置;行进到所述存储单元下方的所述计算位置;以及升起所述存储单元。
如前面所述的机器人驱动单元,其还包括网络接口,并且其中:所述基准点包括第一基准点;并且所述应用程序还包括存储在所述存储器中的机器可读指令,所述机器可读指令在由所述处理器执行时使所述机器人驱动单元:在所述全景图像中识别所述存储单元的所述多个支腿中的一者上的第二基准点;从所述第二基准点中提取所述存储单元的标识符;以及经由所述网络接口向远程计算装置发送请求,其中所述请求包括所述存储单元的所述标识符。
如前面所述的机器人驱动单元,其中所述应用程序还包括存储在所述存储器中的机器可读指令,所述机器可读指令在由所述处理器执行时使所述机器人驱动单元:响应于使所述机器人驱动单元升起所述存储单元而使用所述前视摄像头来捕获所述存储单元的所述多个支腿中的至少两者的第一图像;将所述存储单元移动到新位置;当所述机器人驱动单元处于运动中时使用所述前视摄像头来捕获所述存储单元的所述多个支腿中的所述至少两者的第二图像;测量所述存储单元的所述多个支腿中的所述至少两者在所述第二图像中相对于所述第一图像的位置变化;以及至少部分地基于所述位置变化来确定所述存储单元改变了在所述机器人驱动单元的顶部上的位置或定向。
如前面所述的机器人驱动单元,其还包括网络接口,并且其中所述应用程序还包括存储在所述存储器中的机器可读指令,所述机器可读指令在由所述处理器执行时使所述机器人驱动单元:响应于使所述机器人驱动单元升起所述存储单元而使用所述前视摄像头来捕获第一图像;确定所述存储单元的所述多个支腿中的至少两者位于所述第一图像中;将所述存储单元移动到新位置;当所述机器人驱动单元处于运动中时使用所述前视摄像头来捕获第二图像;确定所述第二图像中缺少所述存储单元的所述多个支腿中的所述至少两者;以及经由所述网络接口向远程计算系统发送警报,其中所述警报指示所述存储单元已从所述机器人驱动单元上掉落。
如前面所述的机器人驱动单元,其中所述应用程序还包括存储在所述存储器中的机器可读指令,所述机器可读指令在由所述处理器执行时使所述机器人驱动单元:当所述机器人驱动单元处于运动中时使用所述前视摄像头来捕获所述存储单元的所述多个支腿中的至少两者的第一图像;当所述机器人驱动单元处于运动中时使用所述前视摄像头来捕获所述存储单元的所述多个支腿中的所述至少两者的第二图像;以及测量所述存储单元的所述多个支腿中的所述至少两者在所述第二图像中相对于所述第一图像的竖直位置变化。
如前面所述的机器人驱动单元,其中所述应用程序还包括存储在所述存储器中的机器可读指令,所述机器可读指令在由所述处理器执行时使所述机器人驱动单元至少部分地基于所述存储单元的所述多个支腿中的所述至少两者的所述竖直位置变化来计算所述存储单元将会翻倒的可能性。
如前面所述的机器人驱动单元,其中所述应用程序还包括存储在所述存储器中的机器可读指令,所述机器可读指令在由所述处理器执行时使所述机器人驱动单元计算当所述机器人驱动单元处于运动中时所述存储单元的摇摆量。
如前面所述的机器人驱动单元,其中所述应用程序还包括存储在所述存储器中的机器可读指令,所述机器可读指令在由所述处理器执行时使所述机器人驱动单元计算当机器人驱动单元处于运动中时所述存储单元的竖直位移量。
如前面所述的机器人驱动单元,其中所述下视摄像头位于所述机器人驱动单元的所述底表面上。
如前面所述的机器人驱动单元,其中所述前视摄像头包括被配置为捕获点云的三维摄像头。
如前面所述的机器人驱动单元,其中所述全景图像包括所述点云。
如前面所述的机器人驱动单元,其中所述应用程序还包括存储在所述存储器中的机器可读指令,所述机器可读指令在由所述处理器执行时使所述机器人驱动单元:移动所述存储单元;使用所述前视摄像头来捕获图像;以及识别所述图像中阻挡所述机器人驱动单元的当前路径的障碍物。
如前面所述的机器人驱动单元,其中所述应用程序还包括存储在所述存储器中的机器可读指令,所述机器可读指令在由所述处理器执行时使所述机器人驱动单元响应于识别出所述图像中的所述障碍物而从远程计算装置请求所述机器人驱动单元的新路径。
一种系统,其包括:计算装置,所述计算装置包括处理器和存储器;机器人驱动单元(RDU),所述RDU经由网络与所述计算装置进行数据通信并且包括前视摄像头和下视摄像头;以及包括存储在所述存储器中的机器可读指令的应用程序,所述机器可读指令在由所述处理器执行时使计算装置至少:命令所述RDU在存储单元下方移动;命令所述RDU使用所述下视摄像头来捕获位于地面上的基准点的图像;命令所述RDU将其自身相对于所述基准点定位;命令所述RDU旋转就位;命令所述RDU通过所述前视摄像头来捕获全景图像;从所述RDU接收所述全景图像;识别所述全景图像中的所述存储单元的多个支腿;测量从所述存储单元的所述多个支腿中的每一者到所述基准点的距离;计算在所述存储单元下方相对于所述基准点的位置;确定所述RDU相对于所述存储单元下方的所述计算位置不在适当位置;命令所述RDU行进到所述存储单元下方的所述计算位置;以及命令所述RDU升起所述存储单元。
如前面所述的系统,其中所述基准点包括第一基准点,并且所述应用程序包括第一应用程序,所述第一应用程序还包括存储在所述存储器中的机器可读指令,所述机器可读指令在由所述处理器执行时使所述计算装置至少:在所述全景图像中识别所述存储单元的所述多个支腿中的一者上的第二基准点;从所述第二基准点中提取所述存储单元的标识符;以及向第二应用程序发送请求,其中所述请求包括所述存储单元的所述标识符。
如前面所述的系统,其中所述应用程序还包括存储在所述存储器中的机器可读指令,所述机器可读指令在由所述处理器执行时使所述计算装置至少:命令所述RDU响应于所述RDU升起所述存储单元而使用所述前视摄像头来捕获所述存储单元的所述多个支腿中的至少两者的第一图像;命令所述RDU将所述存储单元移动到新位置;命令所述RDU在所述RDU处于运动中时使用所述前视摄像头来捕获所述存储单元的所述多个支腿中的所述至少两者的第二图像;从所述RDU接收所述第一图像和所述第二图像;测量所述存储单元的所述多个支腿中的所述至少两者在所述第二图像中相对于所述第一图像的位置变化;以及至少部分地基于所述位置变化来确定所述存储单元改变了在所述RDU的顶部上的位置或定向。
如前面所述的系统,其中所述应用程序还包括存储在所述存储器中的机器可读指令,所述机器可读指令在由所述处理器执行时使所述计算装置至少:命令所述RDU在所述RDU处于运动中时使用所述前视摄像头来捕获所述存储单元的所述多个支腿中的至少两者的第一图像;命令所述RDU在所述RDU处于运动中时使用所述前视摄像头来捕获所述存储单元的所述多个支腿中的所述至少两者的第二图像;以及测量所述存储单元的所述多个支腿中的所述至少两者在所述第二图像中相对于所述第一图像的竖直位置变化。
附图说明
参考以下附图可以更好地理解本公开的许多方面。附图中的部件不一定按比例绘制,而是强调清楚地示出本公开的原理。此外,在附图中,相似的附图标记在全部几个视图中指定对应的部件。
图1是本公开的各种实施例的示例性实施方式的图。
图2是本公开的各种实施例的示例性实施方式的图。
图3是根据各种本公开的各种实施例的联网环境的图。
图4A至图4C描绘了根据本公开的各种实施例的示出实施为图3的联网环境中的机器人驱动单元的部分的功能性的一个示例的流程图。
图5A至图5C描绘了根据本公开的各种实施例的示出实施为在图3的联网环境中执行的应用程序的部分的功能性的一个示例的流程图。
图6是根据各种本公开的各种实施例的一个示意框图,所述框图提供在图3的联网环境中采用的计算环境的一个示例性图示。
具体实施方式
自主机器人通常用于在仓库或类似环境中执行任务。这些自主机器人通常具有许多传感器以允许它们执行其功能。例如,自主机器人可以具有用于收集数据以确定自主机器人的位置的摄像头。自主机器人还可以使用第二摄像头来检测当前在自主机器人的路径中的物体以便避免碰撞。自主机器人还可以使用单独的摄像头来识别要运输的物品或物品所在的存储单元。
公开了用于运输在仓库或类似环境中的物品的机器人驱动单元的各种实施例。机器人驱动单元被配置为使用集成传感器系统来进行障碍物检测和避障以及有效负载定心。在其他版本的机器人驱动单元中,可以使用单独的传感器系统来执行这些功能。例如,可以使用一个摄像头来执行障碍物检测,同时有效负载定心可以依赖于单独的摄像头。然而,图像处理技术的改进和摄像头技术的改进使得将同一摄像头用于多种功能成为可能。在机器人驱动单元的构造中使用较少的摄像头降低了成本。然而,需要不同的技术来使用同一摄像头执行避障和有效负载定心功能。
从图1开始,描绘了机器人驱动单元(“RDU”)100的示例。RDU100可以将其自身定位在存储单元103下方。存储单元103可以包括可以在仓库环境中使用以存储多个物品的各种存储货架、架子、托盘、箱子、容器或类似的存储装置。在将其自身定位在存储单元103下方之后,RDU 100可以将存储单元103升起离开地面,从而允许RDU将存储单元103移动到新位置。
RDU 100还可以包括各种图像捕获装置,诸如摄像头、三维摄像头、点云扫描仪或类似装置。例如,RDU 100可以包括一个或多个前视图像捕获装置106。前视图像捕获装置106通常可以安装在RDU 100前方。然而,前视图像捕获装置106可以安装在RDU 100的顶部、侧面或其他表面上并且被定位成面向前方。然而,在一些实施例中,第二后视图像捕获装置107可以安装在RDU 100上。在这些实施例中,后视图像捕获装置107通常可以安装在RDU100的后部。然而,后视图像捕获装置107也可以安装在RDU 100的顶部、侧面或其他表面上并且被定位成面向RDU 100的后部。RDU 100还可以包括一个或多个下视图像捕获装置109。下视图像捕获装置109可以位于RDU 100的底盘或底部。然而,在其他实施例中,下视图像捕获装置109可以位于RDU 100上的其他位置并被且定位成面向下。
RDU 100还可以包括附加电路,诸如处理器、存储器和网络接口。这些部件使得RDU100能够以自主方式进行操作。例如,存储器可以是可由处理器执行以使RDU 100执行特定任务的数据和机器可读指令两者。RDU 100的存储器在本文中被定义为包括易失性和非易失性存储器两者以及数据存储部件。易失性部件是在断电时不保留数据值的那些部件。非易失性部件是在断电时保留数据的那些部件。因此,RDU 100的存储器可以包括各种类型的随机存取存储器(RAM)、只读存储器(ROM)、硬盘驱动器、固态驱动器、USB随身碟、经由记忆卡读取器访问的记忆卡、经由相关软盘驱动器访问的软盘、经由光盘驱动器访问的光盘、经由适当的磁带驱动器访问的磁带,或其他存储器部件,或这些存储器部件的任何两者或更多者的组合。另外地,RAM可以包括例如静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)或磁性随机存取存储器(MRAM)以及其他此类装置。ROM可以包括例如可编程只读存储器(PROM)、可擦除可编程只读存储器(EPROM)、电可擦除可编程只读存储器(EEPROM)或其他类似的存储器装置。而且,处理器可以表示多个处理器或多个处理器核心,并且存储器可以表示分别在并行处理电路中操作的多个存储器。处理器可以是电气的或某种其他可用结构。网络接口可以对应于允许RDU 100与另一个装置(诸如远程计算装置(例如,服务器))保持数据通信的任何光学或电气装置。例如,网络接口可以对应于电气电子工程师协会(“IEEE”)802.11(即“WI-FI”)接口、微波联网接口、短程无线接口(例如,蓝牙)或其他网络接口。
进入图2,提供了RDU 100的操作的示例性图示。在此,RDU 100将其自身定位在存储单元103下方。然后,RDU 100在存储单元103下方旋转以生成存储单元103附近的全景图像。在RDU 100仅具有前视图像捕获装置106或后视图像捕获装置107的实施例中,RDU 100可以旋转360度。全景图像可以包括单个图像、重叠并且可以拼接在一起以形成单个图像的一系列图像,捕获RDU 100的可视邻近区域的相邻部分、视频或其他表示的一系列图像。在RDU 100具有前视图像捕获装置106和后视图像捕获装置107两者的实施例中,RDU 100可以更少地旋转(例如,旋转180度)。在生成全景图像之后,RDU 100然后可以识别存储单元103的至少两个支腿并且基于所识别的两个支腿来确定其相对于存储单元103的中心的位置。如果RDU 100确定其偏离中心,则RDU 100可以在尝试升起并移动存储单元103之前将其自身在存储单元103下方居中。
在一些情况下,RDU 100还可以识别全景图像内的存储单元基准点316以便确定存储单元103的标识或存储单元103的内容物。存储单元基准点316可以位于存储单元103的支腿上。然而,存储单元基准点316可以放置在其他可见位置中,或者多个存储单元基准点316可以固定到存储单元103。
参考图3,示出了根据各种实施例的联网环境300。联网环境300包括计算环境303和机器人驱动单元100,它们经由网络306彼此进行数据通信。网络306可以包括因特网、内联网、外联网、广域网(WAN)、局域网(LAN)或者两个或更多个此类网络的任何组合。例如,此类网络可以包括有线网络(例如,有线电视网路、以太网、光纤网络、电话网络、数字用户线路网络或其他有线网络技术)或无线网络(例如,卫星网络、IEEE 802.11“WI-FI”网络、网状网络、蜂窝网络或其他无线网络技术)。
计算环境303可以包括服务器计算机或提供计算能力的任何其他系统。另选地,计算环境303可以采用可以被布置在例如一个或多个服务器组或计算机组或其他布置中的多个计算装置。此类计算装置可以位于单个安装部分中,或者可以分布在许多不同的地理位置中。例如,计算环境303可以包括共同形成被托管的计算资源、网格计算资源或任何其他分布式计算布置的多个计算装置。在一些情况下,计算环境303可以对应于弹性计算资源,其中处理资源、网络资源、存储资源或其他计算相关资源的分配容量可以随时间变化。
而且,各种数据存储在计算环境303可访问的数据存储区309中。可以明白,数据存储区309可以表示多个数据存储区309,诸如关系数据库、键值存储区、分层数据库、面向对象的数据库、逗号或制表符分隔的文本文件、配置文件以及可能的其他数据存储区。例如,存储在数据存储区309中的数据与以下描述的各种应用或功能实体的操作相关联。存储在数据存储区309中的数据包括例如地面基准点313、存储单元103和存储单元基准点316、仓库地图319以及可能的其他数据。
地面基准点313对应于位于地面上且其上编码有标识符的标记。每个地面基准点313对应于仓库地图319上的唯一位置,从而允许RDU 100基于一个或多个附近的地面基准点313来确定其位置。地面基准点313可以包括条形码或其他易于成像的光学、机器可读的数据表示。条形码可以包括例如线性条形码或二维条形码。二维条形码的示例包括矩阵式条形码,诸如SPARQCode的快速响应(“QR”)码、圆形条形码(例如,“ShotCode”),或用于以二维形状光学编码数据的其他方案。
关于每个存储单元103的信息也可以存储在数据存储区309中。该信息可以包括存储单元103的内容物、存储单元103的位置以及可能的其他数据。存储单元基准点316也可以与每个存储单元103相关联。存储单元基准点316对应于位于存储单元103上且其上编码有标识符的标记。每个存储单元基准点316可以用于唯一地识别存储单元基准点316所附接的存储单元103。例如,RDU 100可以通过扫描存储单元基准点316以获得存储单元103的标识符并查询数据存储区309来识别存储单元103以及存储单元103的内容物。
仓库地图319存储仓库或类似结构的空间表示。例如,仓库地图319可以包括关于相应仓库中的结构的位置、仓库内的特定区域或区(例如,应存储有存储单元103的位置)、单独物品或实体的位置(例如,单独的存储单元103或RDU 100的当前位置)的数据以及可能的其他数据。该数据可以按多种格式存储,诸如笛卡尔坐标系、极坐标系或其他适当的二维或三维坐标系。
根据各种实施例,可以在计算环境303中执行各种应用程序和/或其他功能性。在计算环境303上执行的部件可以包括RDU调度应用程序321、驱动代理322、路径生成应用程序323,以及本文未详细讨论的其他应用程序、服务、过程、系统、引擎或功能性。
RDU调度应用程序321用于组织一个或多个RDU 100的操作。例如,RDU调度应用程序321可以命令RDU 100将特定存储单元103移动到新位置,至少部分地基于从RDU 100接收的包含存储单元103的标识符的消息来验证RDU 100已经检索到正确的存储单元103,以及可能的其他功能。
在一些实施例中,可以执行驱动代理322以充当用于RDU 100的控制器。驱动代理322可以从RDU 100接收或查询数据,诸如传感器读数或数据。然后,驱动代理322可以确定要由RDU 100执行的适当动作,并向RDU 100发送导致RDU 100执行所述动作的一个或多个指令。在一些情况下,可以执行驱动代理322的单独实例以控制每个RDU 100。在其他情况下,可以执行单个驱动代理322以控制或以其他方式管理多个RDU 100的动作。
执行路径生成应用程序323以至少部分地基于由RDU 100提供的信息来识别并提供到RDU 100的两个点之间的路径。路径生成应用程序323可以使用各种方法来确定RDU100的仓库地图319上的两个点之间的路径。此类方法可以包括依赖于地面基准点313在仓库内的放置的基于网格的方法,诸如任意角度路径规划方法、A*图遍历方法或类似方法。路径生成应用程序323还可以在生成路径时考虑已知障碍物的存在。这些障碍物可能是永久的(例如,墙壁、柱子、排水斜槽或其他建筑物特征)或临时的(例如,落在地板上的物品、被禁用的RDU 100或其他障碍物)。
然后,提供对联网环境300的各种部件的操作的一般描述。首先,RDU 100接近存储单元103并在存储单元103下方移动。然后,RDU 100使用下视图像捕获装置109来捕获地面基准点313的图像,并使其自身在地面基准点313上居中。随后,RDU 100围绕地面基准点313旋转就位以通过前视图像捕获装置106来捕获全景图像。在捕获全景图像之后,RDU 100识别全景图像中的存储单元103的多个支腿,并测量从存储单元103的多个支腿中的每一者到地面基准点313的距离。然后,RDU 100可以计算存储单元103的中心相对于地面基准点313的位置,并确定它是否相对于存储单元103偏离中心。如果RDU 100相对于存储单元103偏离中心,则RDU 100可以调整其位置使得RDU 100位于存储单元103的中心下方。在将其自身在存储单元103下方居中之后,RDU 100然后升起存储单元103。
在一些情况下,RDU 100还可以识别全景图像中的存储单元基准点316。如果RDU100这样做,则它可以从存储单元基准点316的图像中提取存储单元103的标识符,并通过网络306向RDU调度应用程序321发送包含存储单元103的标识符的请求。RDU 100可以执行该步骤以验证它正在与正确的存储单元103交互。然后,RDU调度应用程序321可以经由网络306提供响应以向RDU 100指示RDU 100是否在正确的存储单元103下方或正与正确的存储单元103交互。
然后,在升起存储单元103之后,RDU 100可以开始将存储单元103移动到新位置。在移动存储单元103之前,RDU 100可以首先使用前视图像捕获装置106来捕获图像。然后,当RDU 100与存储单元103一起运动时,RDU 100可以使用前视图像捕获装置106来周期性地捕获附加图像。在移动时,RDU 100可以将最近捕获的图像与一个或多个先前捕获的图像进行比较以便确保存储单元103安全地移动。例如,RDU 100可以测量出现在图像中的存储单元103的一个或多个支腿的位置变化以确定存储单元是否已经改变在RDU 100的顶部上的位置或定向。同样地,RDU 100可以确定在存储单元103的一个或多个支腿出现在先前图像中但是没有一个支腿出现在当前图像中的情况下,存储单元103从RDU 100上掉落。在这种情况下,RDU 100可以向RDU调度应用程序321发送警报以指示存储单元103已经掉落。作为另一个示例,RDU 100可以测量存储单元103的单独支腿在图像之间的竖直位移量。基于这些测量值,RDU 100可以确定存储单元103在运输期间是否摇摆以及存储单元103是否处于倾斜和掉落的危险中。RDU 100可以调整其速度或从路径生成应用程序323请求新路径以便防止摇摆存储单元103掉落。
当RDU 100处于运动中时,RDU 100还可以分析通过前视图像捕获装置106捕获的图像以检测并识别RDU 100所遵循的路径中的潜在障碍物。障碍物可以包括其他RDU 100、人、存储单元103或RDU 100的路径中的任何其他意外物体。响应于识别出障碍物,RDU 100可以通过网络306向路径生成应用程序323发送对新路径的请求。然后,RDU 100可以遵循由路径生成应用程序323提供的新路径,所述新路径将RDU 100引导到其最终目的地。
然而,在一个或多个可选实施例中,这些功能中的一者或多者可以可选地由驱动代理322来实施。例如,驱动代理322可以命令RDU 100接近存储单元103并在存储单元103下方移动。在RDU 100已经指示已经在存储单元103下方移动之后,驱动代理322可以命令RDU100使用下视图像捕获装置109来捕获地面基准点313的图像。然后,驱动代理322可以命令RDU 100将其自身在地面基准点313上居中。然后,RDU 100可以在其自身居中并请求附加指令之后向驱动代理322报告。然后,驱动代理322可以命令RDU 100围绕地面基准点313旋转就位以通过前视图像捕获装置106来捕获全景图像。然后,RDU 100可以将捕获的图像提供给驱动代理322。然后,驱动代理322可以处理图像以识别全景图像中的存储单元103的多个支腿,并测量从存储单元103的多个支腿中的每一者到地面基准点313的距离。然而,在一些情况下,驱动代理322可以请求图像处理应用程序执行这些计算。然后,驱动代理322可以然后计算存储单元103的中心相对于地面基准点313的位置,并确定RDU 100是否相对于存储单元103偏离中心。如果RDU 100相对于存储单元103偏离中心,则驱动代理322可以命令RDU100调整其位置使得RDU 100位于存储单元103的中心下方。在RDU 100将其自身在存储单元103下方居中之后,驱动代理322然后可以命令RDU 100升起存储单元103。
在一些情况下,驱动代理322还可以识别全景图像中的存储单元基准点316。如果驱动代理322这样做,则它可以从存储单元基准点316的图像中提取存储单元103的标识符,并向RDU调度应用程序321发送包含存储单元103的标识符的请求。驱动代理322可以执行该步骤以便验证RDU 100正与正确的存储单元103交互。然后,RDU调度应用程序321可以提供响应以向驱动代理322指示RDU 100是否在正确的存储单元103下方或正与正确的存储单元103交互。
然后,驱动代理322可以命令RDU 100在升起存储单元103之后开始将存储单元103移动到新位置。在移动存储单元103之前,驱动代理322可以首先命令RDU 100使用前视图像捕获装置106来捕获图像。驱动代理322可以进一步命令RDU 100当RDU 100与存储单元103一起运动时使用前视图像捕获装置106来周期性地捕获附加图像。然后,当RDU 100运动时,RDU 100可以将这些图像中的一者或多者提供给驱动代理322。然后,驱动代理322可以将最近捕获的图像与一个或多个先前捕获的图像进行比较以确保存储单元103安全地移动。例如,驱动代理322可以测量出现在图像中的存储单元103的一个或多个支腿的位置变化以确定存储单元是否已经改变RDU 100的顶部上的位置或定向。同样地,驱动代理322可以确定存储单元103的一个或多个支腿出现在先前图像中但是没有一个支腿出现在当前图像中的情况下,然后存储单元103从RDU 100上掉落。在这种情况下,驱动代理322可以向RDU调度应用程序321发送警报以指示存储单元103已经掉落并向RDU 100发送停止的指令。作为另一个示例,驱动代理322可以测量存储单元103的单独支腿在图像之间的竖直位移量。基于这些测量值,驱动代理322可以确定存储单元103在运输期间是否摇摆以及存储单元103是否处于倾斜和掉落的危险中。然后,驱动代理322可以命令RDU 100调整其速度。可选地,驱动代理333可以从路径生成应用程序323请求新路径以便防止正摇摆的存储单元103掉落。
当RDU 100处于运动中时,驱动代理322还可以分析通过前视图像捕获装置106捕获的图像以检测并识别RDU 100所遵循的路径中的潜在障碍物。障碍物可以包括其他RDU100、人、存储单元103或RDU 100的路径中的任何其他意外物体。响应于识别出障碍物,驱动代理322可以向路径生成应用程序323发送对新路径的请求。然后,驱动代理322可以命令RDU 100遵循由路径生成应用程序323提供的新路径以使RDU 100到达其最终目的地。
接下来参考图4A至图4C,示出了根据各种实施例的提供RDU 100的一部分的操作的一个示例的流程图。应当理解,图4A至图4C的流程图仅提供了可以用于实施如本文所述的RDU 100的部分的操作的许多不同类型的功能布置的示例。作为替代方案,图4A至图4C的流程图可以被视为描绘根据一个或多个实施例的在RDU 100中实施的方法的要素的示例。
从框403开始,RDU 100接近存储单元103。例如,RDU 100可以沿预定或预定义路径(例如,沿存储单元行之间的定义通道)接近存储单元103。例如,RDU 100可以响应于从RDU调度应用程序321接收的指令而接近存储单元103。
接下来参考框406,RDU 100在存储单元103下方移动。虽然最初将其自身定位在存储单元103下方,但是RDU 100可以使用前视图像捕获装置106来捕获一个或多个图像。然后,RDU 100可以执行图像分析以识别存储单元103的支腿以便在RDU 100在存储单元103下方移动时避免撞击存储单元103的支腿。RDU 100还可以执行图像分析以识别其他障碍物,诸如地板上的物品、箱子或盒子,这要求RDU 100在RDU 100在存储单元103下方移动时改变其接近。
移到框409,RDU 100使用下视图像捕获装置107来捕获地面基准点313的图像。在一些情况下,RDU 100可以执行图像分析以识别捕获图像中的地面基准点313。如果在捕获图像中未识别出地面基准点313,则RDU 100可以尝试捕获地面基准点313的另一个图像,或者可以在捕获另一个图像之前稍微将其自身重新定位在存储单元103下方,以防地面基准点313最初在下视图像捕获装置109的视野外。
前进到框413,RDU 100将其自身放置在相对于地面基准点313的预定位置处。例如,RDU 100在其识别捕获图像中的地面基准点313之后可以使其自身在地面基准点313的顶部居中。为了准确地定位其自身,当RDU 100移动时,RDU 100可以使用下视图像捕获装置109来重复捕获一系列图像。这允许RDU 100通过确定它是朝向还是远离地面基准点313移动以及是否需要任何校正来引导其自身。
接下来参考框416,RDU 100在使用前视图像捕获装置106捕获全景图像(例如,单个图像、一系列重叠图像、一系列相邻图像、视频或其他视觉表示)的同时自身旋转。在一些情况下,RDU 100可以在捕获RDU 100周围区域的全景图像的同时旋转多达360度(即,一整圈)。然而,在其他情况下,如果不需要完整的360度旋转,则RDU 100可以旋转较短圆弧。
在一些情况下,RDU 100可以结合前视图像捕获装置106使用后视图像捕获装置107。在这些情况下,可以使用较短的旋转圆弧捕获较大的全景图像。例如,当后视图像捕获装置107与前视图像捕获装置106结合使用时,RDU 100可以在仅旋转180度的同时通过组合利用后视图像捕获装置107获得的全景图像与从前视图像捕获装置106获得的全景图像来捕获360度全景图像。
移动到框419,RDU 100识别下方当前定位有RDU 100的存储单元103的一个或多个支腿。例如,RDU 100可以使用各种计算机视觉技术来识别先前在框416中捕获的全景图像中的存储单元103的一个或多个支腿。然后,如进一步描述的,RDU 100可以存储所述存储单元103的支腿相对于其自身以及相对于存储单元103的位置以便在运输存储单元103时防止事故。
在一些实施例中,RDU 100还可以在框419处识别固定到存储单元103的一个或多个存储单元基准点316。然后,RDU 100可以提取在一个或多个存储单元基准点316中编码的信息,并将其发送到RDU调度应用程序321以确认RDU 100在正确的存储单元103下方。如果RDU 100在正确的存储单元103下方,则所述过程将继续前进到框423。如果RDU 100不在正确的存储单元103下方,则RDU 100可以移动到正确的存储单元103(例如,基于由RDU调度应用程序321提供的新位置)并重新开始所述过程。
前进到框423,RDU 100计算从存储单元103的每个支腿到RDU 100当前在其上方居中的地面基准点313的距离。这可以通过几种方式来实现。这些方法中的任何一种或多种方法可以在本公开的各种实施例中使用。
例如,如果前视图像捕获装置106是三维摄像头,则距离信息可能已经嵌入在框416中捕获的全景图像中了。在这些情况下,可以从全景图像中提取从前视图像捕获装置106到支腿的距离的值。调整从前视图像捕获装置到存储单元103的支腿的距离的值以补偿RDU 100的尺寸。
在前视图像捕获装置106包括二维摄像头的示例中,可以使用其他方法。例如,安装到RDU 100的测距仪可以用于测量存储单元103的支腿与RDU 100之间的距离。可以调整从前视图像捕获装置106到存储单元103的支腿的距离的值以补偿RDU 100的尺寸。
接下来参考图4B的框426,RDU 100计算存储单元103的中心的位置。这可以通过确定存储单元103的支腿的相对位置并计算存储单元103的中心相对于存储单元103的支腿的位置应位于何处来完成。例如,RDU 100可以使用三角测量或类似方法来识别存储单元103的中心相对于存储单元103的两个或更多个支腿的位置的位置。
移动到框429,RDU 100确定它当前是否在存储单元103下方居中,或者RDU 100是否定位成相对于存储单元103的中心位于偏离中心。这可以将地面基准点313的位置与先前在框426处计算的存储单元103的中心进行比较来确定。如果地面基准点313的位置不能与存储单元103的中心的位置匹配,则RDU 100可以确定相对于存储单元103的位置偏离中心,因为RDU 100当前在地面基准点313上方居中。在这种情况下,所述过程前进到框433。然而,如果地面基准点313的位置与存储单元103的中心的位置匹配,则所述过程跳到框436。
前进到框433,RDU 100在存储单元103下方移动以将其自身相对于存储单元103的中心重新定位。在一些情况下,RDU 100在移动之后可以通过重复框416至429中的一者或多者来确认它位于存储单元103的中心。如果RDU 100保持偏离中心,则RDU将会再次朝向存储单元103的中心的位置移动并重复所述过程直到RDU 100在存储单元103下方居中。
接下来参考框436,RDU 100升起存储单元103。例如,RDU 100可以使用集成升降机或类似机构将存储单元103抬离地面。
移动到框439,RDU 100然后通过前视图像捕获装置106来捕获另一个图像。捕获的图像可以在所述过程中稍后使用以确保在RDU 100移动时安全地搬运存储单元103。
前进到图4C的框443,RDU 100携带存储单元103沿路径移动。在一些情况下,当RDU100最初被调度到存储单元103时,RDU 100可能先前已经从RDU调度应用程序321接收到所述路径。在其他情况下,RDU 100可以在该阶段从路径生成应用程序323请求路径。在这些情况下,来自RDU 100的请求可以包括RDU 100的当前位置和先前从RDU调度应用程序321接收的RDU 100的目的地。
接下来参考框446,RDU 100使用前视图像捕获装置106来捕获第二图像。
移动到框449,RDU 100将在框439处捕获的图像与在框446处捕获的图像进行比较以确定存储单元103在运输期间是否已在RDU 100上移位。然而,如果RDU 100已经在框446的先前迭代中捕获了图像,则RDU 100可以将当前图像与在先前迭代中捕获的图像进行比较。在任一情况下,可以使用许多方法来确定存储单元103的移位。取决于本公开的特定实施例,这些方法可以单独使用或组合使用。
在第一种方法中,RDU 100可以将通过前视图像捕获装置106获得的两个图像进行比较以识别存储单元103的位置在RDU 100顶部上的横向移位。例如,当存储单元103搁置在RDU 100的顶部上时,RDU 100可以在第一图像中识别位于RDU 100前方的存储单元103的一个或多个支腿。然后,RDU 100可以将第一图像中的存储单元103的支腿的位置与第二图像中的存储单元103的支腿的相应位置进行比较。如果存储单元的支腿的位置向左或向右移位,则RDU 100可以确定RDU 100顶上的存储单元103已经相应地向左或向右或前后移位。
在第二种方法中,RDU 100可以将通过前视图像捕获装置106获得的两个图像进行比较以识别存储单元103的位置的竖直移位。例如,RDU 100可以在第一图像中识别存储单元103的一个或多个支腿,并且类似地在第二图像中识别存储单元103的一个或多个支腿。在每个图像中,RDU 100可以识别存储单元103的支腿的区别特性(例如,支腿的底部、支腿的侧面上的标记等)。如果一个图像中的存储单元103的支腿的区别特性处于不同于(例如,高于或低于)其他图像的竖直高度处,则RDU 100可以确定存储单元103正在发生竖直位移。此类竖直位移可以包括摇摆、倾斜、推撞或其他竖直位移。
此时,所述过程可以沿两条路径分支。在第一分支中,RDU 100确定存储单元103在RDU 100移动的同时没有移位,并且所述过程前进到框453。在第二分支中,RDU 100确定存储单元103已经移位(例如,竖直位移、水平位移或两者),并且所述过程前进到框459。
前进到框453,RDU 100确定其路径中是否存在障碍物。RDU 100可以例如处理先前在框446处捕获的图像以使用各种计算机视觉技术来识别障碍物。这些技术可以包括潜在物体的边缘检测、潜在物体的灰度级或梯度匹配,以及类似方法。如果没有检测到障碍物,则所述过程循环回到框443,并且再次重复框443至449的过程。然而,如果检测到障碍物,则所述过程前进到框456。
接下来参考框456,RDU 100从路径生成应用程序323请求或以其他方式获得新路径。可以使用网络接口通过网络306发送请求。对新路径的请求可以包括RDU 100的当前位置、阻挡当前路径的障碍物的本质、阻挡当前路径的障碍物的位置,以及可能的其他信息。作为响应,RDU 100从路径生成应用程序323接收遵循其目的地的新路径。RDU 100更新其内部路线选择以遵循新路径。所述过程循环回到框443,并且当RDU 100遵循其新路径时再次重复框443至449的过程。
然而,如果在框449处,所述过程转而前进到框459,则RDU 100确定RDU 100继续与存储单元103一起移动是否安全。该确定可以至少部分地基于各种因素。例如,RDU 100可以至少部分地基于竖直位移或水平位移是否超过与存储单元103倾斜和掉落的不可接受的可能性相关的预定义阈值允许位移量来确定存储单元103倾斜和从RDU 100上掉落的可能性。竖直或水平位移的下限阈值也可以用于考虑存储单元103的移动,所述移动虽然不太可能导致存储单元103掉落,但是有可能改变存储单元103内的物品的布置,这可能导致损坏存储单元103中的物品或者导致物品103的位置在存储单元中移位(例如,从存储单元103中掉出,在存储单元103的货架上移动位置等)。类似地,RDU 100可以基于一系列图像来确定当RDU 100移动时在存储单元103中引起的摇摆的量或程度。如果摇摆的量或程度超过预定义阈值水平,则RDU 100可以确定存储单元103的摇摆有可能导致不允许存储在存储单元103中的物品的位置移位。
此时所述过程可以再次分支。如果RDU 100确定与存储单元103一起移动仍然是安全的,则所述过程循环回到框443并重复其自身。然而,如果RDU 100确定移动不再安全,则所述过程前进到框463。
前进到框463,RDU 100停止移动以便防止进一步损坏存储单元103中的物品或者防止存储单元103更加摇摆或倾斜。为了停止移动,RDU 100可以逐渐减速以便避免突然停止而导致存储单元103由于惯性而移位、倾斜或翻倒。
接下来参考框466,RDU 100向RDU调度应用程序321发送警报。所述警报可以包括诸如RDU 100的当前位置、RDU 100停止的原因、存储单元103的状态(例如,仍然位于RDU100的顶部、从RDU 100上掉落,或其他状态)的信息以及潜在的其他信息。该信息将会允许RDU调度应用程序321向RDU 100发送帮助(例如,技术人员)。所述过程随后结束。
接下来参考图5A至图5C,示出了根据各种实施例的提供驱动代理322的一部分的操作的一个示例的流程图。应当理解,图5A至图5C的流程图仅提供了可以用于实施如本文所述的驱动代理322的部分的操作的许多不同类型的功能布置的示例。作为替代方案,图5A至图5C的流程图可以被视为描绘根据一个或多个实施例的在驱动代理322中实施的方法的要素的示例。
从框503开始,驱动代理322命令RDU 100接近存储单元103。例如,驱动代理322可以命令RDU 100沿预定或预定义路径(例如,沿存储单元行之间的定义通道)接近存储单元103。
接下来参考框506,驱动代理322向RDU 100发送一个或多个命令或指令以在存储单元103下方移动。在一些情况下,当RDU 100将其自身定位在存储单元103下方时,驱动代理322可以向RDU 100发送一个或多个命令或指令以使用前视图像捕获装置106来捕获一个或多个图像。然后,RDU 100可以向驱动代理322发送图像以执行图像分析以识别存储单元103的支腿以便向RDU 100发送进一步的移动指令,以在RDU 100在存储单元103下方移动时使RDU 100避免撞击到存储单元103的支腿。驱动代理322还可以执行图像分析以识别其他障碍物,诸如地板上的物品、箱子或盒子,这要求RDU 100在RDU 100在存储单元103下方移动时改变其接近。
移动到框509,驱动代理322可以向RDU 100发送一个或多个命令或指令以使用下视图像捕获装置107来捕获地面基准点313的图像,并将捕获的图像发送到驱动代理322。在一些情况下,驱动代理322可以执行图像分析以识别捕获图像中的地面基准点313。如果在捕获图像中未识别出地面基准点313,则驱动代理322可以命令RDU 100尝试捕获地面基准点313的另一个图像,或者在捕获另一个图像之前稍微将其自身重新定位在存储单元103下方,以防地面基准点313最初在下视图像捕获装置109的视野外。
前进到框513,驱动代理322可以指导或命令RDU 100将其自身置于相对于地面基准点313的预定位置处。例如,在驱动代理322识别捕获图像中的地面基准点313之后,驱动代理322可以命令RDU 100将其自身在地面基准点313的顶部上居中。为了准确地定位RDU100,当RDU 100移动时,驱动代理322可以命令RDU 100使用下视图像捕获装置109重复捕获一系列图像,并将这些图像发送到驱动代理322。这允许驱动代理322通过确定它是朝向还是远离地面基准点313移动以及是否需要任何校正来引导RDU 100。
接下来参考框516,驱动代理322可以命令RDU 100在使用前视图像捕获装置106捕获全景图像(例如,单个图像、一系列重叠图像、一系列相邻图像、视频或其他视觉表示)的同时自身旋转。在一些情况下,驱动代理322可以在捕获RDU 100周围区域的全景图像的同时命令RDU 100旋转多达360度(即,一整圈)。然而,在其他情况下,如果不需要完整的360度旋转,则驱动代理322可以命令RDU 100旋转较短圆弧。
在一些情况下,驱动代理322可以进一步命令RDU 100结合前视图像捕获装置106使用后视图像捕获装置107。在这些情况下,可以使用较短的旋转圆弧捕获较大的全景图像。例如,当后视图像捕获装置107与前视图像捕获装置106结合使用时,RDU 100可以在仅旋转180度的同时通过组合利用后视图像捕获装置107获得的全景图像与从前视图像捕获装置106获得的全景图像来捕获360度全景图像。
移动到框519,驱动代理322可以至少部分地基于从RDU 100接收的图像来识别下方当前定位有RDU 100的存储单元103的一个或多个支腿。例如,驱动代理322可以使用各种计算机视觉技术来识别先前在框516中捕获的全景图像中的存储单元103的一个或多个支腿。然后,如进一步描述的,驱动代理322可以存储所述存储单元103的支腿相对于RDU 100的位置以及相对于存储单元103的位置以便在运输存储单元103时防止事故。
在一些实施例中,驱动代理322还可以在框519处识别固定到存储单元103的一个或多个存储单元基准点316。然后,驱动代理322可以提取在一个或多个存储单元基准点316中编码的信息,并将其发送到RDU调度应用程序321以确认RDU 100在正确的存储单元103下方。如果RDU 100在正确的存储单元103下方,则所述过程将继续前进到框523。如果RDU 100不在正确的存储单元103下方,则驱动代理322可以向RDU 100发送命令或指令以移动到正确的存储单元103(例如,基于由RDU调度应用程序321提供的新位置)并重新开始所述过程。
前进到框523,驱动代理322计算从存储单元103的每个支腿到RDU 100当前在其上方居中的地面基准点313的距离。这可以通过几种方式来实现。这些方法中的任何一种或多种方法可以在本公开的各种实施例中使用。
例如,如果前视图像捕获装置106是三维摄像头,则距离信息可能已经嵌入在框516中捕获的全景图像中了。在这些情况下,可以从全景图像中提取从前视图像捕获装置106到支腿的距离的值。调整从前视图像捕获装置到存储单元103的支腿的距离的值以补偿RDU 100的尺寸。
在前视图像捕获装置106包括二维摄像头的示例中,可以使用其他方法。例如,安装到RDU 100的测距仪可以用于测量存储单元103的支腿与RDU 100之间的距离。可以调整从前视图像捕获装置106到存储单元103的支腿的距离的值以补偿RDU 100的尺寸。
接下来参考图5B的框526,驱动代理322计算存储单元103的中心的位置。这可以通过确定存储单元103的支腿的相对位置并计算存储单元103的中心相对于存储单元103的支腿的位置应位于何处来完成。例如,驱动代理322可以使用三角测量或类似方法来识别存储单元103的中心相对于存储单元103的两个或更多个支腿的位置的位置。
移动到框529,驱动代理322确定RDU 100当前是否在存储单元103下方居中,或者RDU 100是否定位成相对于存储单元103的中心位于偏离中心。这可以将地面基准点313的位置与先前在框526处计算的存储单元103的中心进行比较来确定。如果地面基准点313的位置不能与存储单元103的中心的位置匹配,则驱动代理322可以确定RDU 100相对于存储单元103的位置偏离中心,因为RDU 100当前在地面基准点313上方居中。在这种情况下,所述过程前进到框533。然而,如果地面基准点313的位置与存储单元103的中心的位置匹配,则所述过程跳到框536。
前进到框533,驱动代理322指导或命令RDU 100在存储单元103下方移动以相对于存储单元103的中心重新定位其自身。在一些情况下,驱动代理322在移动之后可以通过重复框516至529中的一者或多者来确认RDU 100位于存储单元103的中心。如果RDU 100保持偏离中心,则驱动代理322可以命令RDU 100再次朝向存储单元103的中心的位置移动。驱动代理322可以重复所述过程直到RDU 100在存储单元103下方居中。
接下来参考框536,驱动代理322命令RDU 100升起存储单元103。作为响应,RDU100可以使用集成升降机或类似机构来将存储单元103抬离地面。
移动到框539,驱动代理322然后指导或命令RDU 100通过前视图像捕获装置106来捕获另一个图像。然后,RDU 100捕获图像并作为响应而将所述图像提供给驱动代理322。捕获的图像可以在所述过程中稍后使用以确保在RDU 100移动时安全地搬运存储单元103。
前进到图5C的框543,驱动代理322命令RDU 100携带存储单元103沿路径移动。在一些情况下,驱动代理322向RDU 100供应路径。当RDU 100最初被调度到存储单元103时,RDU 100可以先前已经从RDU调度应用程序321接收到所述路径。在其他情况下,驱动代理322可以在该阶段从路径生成应用程序323请求路径并将路径供应给RDU 100。在这些情况下,来自RDU 100的请求可以包括RDU 100的当前位置和先前从RDU调度应用程序321接收的RDU 100的目的地。
接下来参考框546,驱动代理322命令RDU 100使用前视图像捕获装置106来捕获第二图像。作为响应,RDU 100捕获第二图像并将其提供给驱动代理322。
移动到框549,驱动代理322将在框539处捕获的图像与在框546处捕获的图像进行比较以确定存储单元103在运输期间是否已在RDU 100上移位。然而,如果RDU 100已经在框546的先前迭代中捕获了图像,则驱动代理322可以将当前图像与在先前迭代中捕获的图像进行比较。在任一情况下,可以使用多种方法来确定存储单元103的移位。取决于本公开的特定实施例,这些方法可以单独使用或组合使用。
在第一种方法中,驱动代理322可以将通过前视图像捕获装置106获得的两个图像进行比较以识别存储单元103的位置在RDU 100顶部上的横向移位。例如,当存储单元103搁置在RDU 100的顶部上时,驱动代理322可以在第一图像中识别位于RDU 100前方的存储单元103的一个或多个支腿。然后,驱动代理322可以将第一图像中的存储单元103的支腿的位置与第二图像中的存储单元103的支腿的相应位置进行比较。如果存储单元的支腿的位置向左或向右移位,则驱动代理322可以确定RDU 100顶上的存储单元103已经相应地向左或向右或前后移位。
在第二种方法中,驱动代理322可以将通过前视图像捕获装置106获得的两个图像进行比较以识别存储单元103的位置的竖直移位。例如,驱动代理322可以在第一图像中识别存储单元103的一个或多个支腿,并且类似地在第二图像中识别存储单元103的一个或多个支腿。在每个图像中,驱动代理322可以识别存储单元103的支腿的区别特性(例如,支腿的底部、支腿的侧面上的标记等)。如果一个图像中的存储单元103的支腿的区别特性处于不同于(例如,高于或低于)其他图像的竖直高度处,则驱动代理322可以确定存储单元103正在发生竖直位移。此类竖直位移可以包括摇摆、倾斜、推撞或其他竖直位移。
此时,所述过程可以沿两条路径分支。在第一分支中,驱动代理322确定存储单元103在RDU 100移动的同时没有移位,并且所述过程前进到框553。在第二分支中,驱动代理322确定存储单元103已经移位(例如,竖直位移、水平位移或两者),并且所述过程前进到框559。
前进到框553,驱动代理322确定RDU 100的路径中是否存在障碍物。驱动代理322可以例如处理先前在框546处捕获的图像以使用各种计算机视觉技术来识别障碍物。这些技术可以包括潜在物体的边缘检测、潜在物体的灰度级或梯度匹配,以及类似方法。如果没有检测到障碍物,则所述过程循环回到框543,并且再次重复框543至549的过程。然而,如果检测到障碍物,则所述过程前进到框556。
接下来参考框556,驱动代理322从路径生成应用程序323请求或以其他方式获得新路径。对新路径的请求可以包括RDU 100的当前位置、阻挡当前路径的障碍物的本质、阻挡当前路径的障碍物的位置,以及可能的其他信息。作为响应,驱动代理322从路径生成应用程序323接收RDU 100遵循其目的地的新路径。然后,驱动代理322开始向RDU 100发出命令以遵循新路径。所述过程循环回到框543,并且当RDU 100遵循新路径时再次重复框543至549的过程。
然而,如果在框549处,所述过程转而前进到框559,则驱动代理322确定RDU 100继续与存储单元103一起移动是否安全。该确定可以至少部分地基于各种因素。例如,驱动代理322可以至少部分地基于竖直位移或水平位移是否超过与存储单元103倾斜和掉落的不可接受的可能性相关的预定义阈值允许位移量来确定存储单元103倾斜和从RDU 100上掉落的可能性。竖直或水平位移的下限阈值也可以用于考虑存储单元103的移动,所述移动虽然不太可能导致存储单元103掉落,但是有可能改变存储单元103内的物品的布置,这可能导致损坏存储单元103中的物品或者导致物品103的位置在存储单元中移位(例如,从存储单元103中掉出,在存储单元103的货架上移动位置等)。类似地,驱动代理322可以基于一系列图像来确定当RDU 100移动时在存储单元103中引起的摇摆的量或程度。如果摇摆的量或程度超过预定义阈值水平,则驱动代理322可以确定存储单元103的摇摆有可能导致不允许存储在存储单元103中的物品的位置移位。
此时所述过程可以再次分支。如果驱动代理322确定RDU 100与存储单元103一起移动仍然是安全的,则所述过程循环回到框543并重复其自身。然而,如果驱动代理322确定RDU 100移动不再安全,则所述过程前进到框563。
前进到框563,驱动代理322命令RDU 100停止移动以便防止进一步损坏存储单元103中的物品或者防止存储单元103更加摇摆或倾斜。为了停止移动,驱动代理322可以命令RDU 100逐渐减速以便避免突然停止而导致存储单元103由于惯性而移位、倾斜或翻倒。
接下来参考框566,驱动代理322向RDU调度应用程序321发送警报。所述警报可以包括诸如RDU 100的当前位置、RDU 100停止的原因、存储单元103的状态(例如,仍然位于RDU 100的顶部、从RDU 100上掉落,或其他状态)的信息以及潜在的其他信息。该信息将会允许RDU调度应用程序321向RDU 100发送帮助(例如,技术人员)。所述过程随后结束。
参考图6,示出了根据本公开的实施例的计算环境303的示意框图。计算环境303包括一个或多个计算装置600。每个计算装置600包括至少一个处理器电路,例如具有处理器603和存储器606,这两者都耦合到本地接口609。为此目的,每个计算装置600可以包括例如至少一个服务器计算机或类似装置。可以明白,本地接口609可以包括例如具有伴随地址的数据总线/控制总线或其他总线结构。
数据和可由处理器603执行的若干部件两者存储在存储器606中。具体地,RDU调度应用程序321、路径生成应用程序323以及可能的其他应用程序存储在存储器606中并且可由处理器603执行。数据存储区309和其他数据也可以存储在存储器606中。另外地,操作系统可以存储在存储器606中并且可由处理器603执行。
应当理解,可以明白的是,可以存在存储在存储器606中并且可由处理器执行的其他应用程序603。在本文讨论的任何部件以软件形式实施的情况下,可以采用多种编程语言中的任何一种,诸如例如C、C++、C#、Objective C、
Figure GDA0002633108640000291
Figure GDA0002633108640000292
Perl、PHP、
Figure GDA0002633108640000293
Figure GDA0002633108640000294
或其他编程语言。
许多软件部件存储在存储器606中并且可由处理器603执行。在这方面,术语“可执行”表示处理器603最终可运行的形式的程序文件。可执行程序的示例可以是例如可以按加载到存储器606的随机存取部分中并且由处理器603运行的格式转换成机器代码的编译程序;可以按诸如能够加载到存储器606的随机存取部分中并且由处理器603执行的目标代码的正确格式来表达的源代码;或者可以由另一个可执行程序解释以在存储器606的随机存取部分中生成指令以由处理器603执行的源代码;等等。可执行程序可以存储在存储器606的任何部分或部件中,包括例如随机存取存储器(RAM)、只读存储器(ROM)、硬盘驱动器、固态驱动器、USB随身碟、记忆卡、诸如致密光盘(CD)或数字多功能光盘(DVD)等光盘、软盘、磁带或其他存储器部件。
存储器606在本文中被定义为包括易失性和非易失性存储器两者以及数据存储部件。易失性部件是在断电时不保留数据值的那些部件。非易失性部件是在断电时保留数据的那些部件。因此,存储器606可以包括例如随机存取存储器(RAM)、只读存储器(ROM)、硬盘驱动器、固态驱动器、USB随身碟、经由记忆卡读取器访问的记忆卡、经由相关软盘驱动器访问的软盘、经由光盘驱动器访问的光盘、经由适当的磁带驱动器访问的磁带,或其他存储器部件,或这些存储器部件的任何两者或更多者的组合。另外地,RAM可以包括例如静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)或磁性随机存取存储器(MRAM)以及其他此类装置。ROM可以包括例如可编程只读存储器(PROM)、可擦除可编程只读存储器(EPROM)、电可擦除可编程只读存储器(EEPROM)或其他类似的存储器装置。
而且,处理器603可以表示多个处理器603或多个处理器核心,并且存储器606可以表示分别在并行处理电路中操作的多个存储器606。在此类情况下,本地接口609可以是促进多个处理器603中的任何两者之间、任何处理器603与存储器606中的任一者之间、或任何两个存储器606之间等的通信的适当网络。本地接口609可以包括被设计为协调该通信(包括例如执行负载平衡)的附加系统。处理器603可以是电气的或某种其他可用结构。
虽然RDU调度应用程序321、驱动代理322、路径生成应用程序323以及本文描述的其他各种系统可以在由如上面讨论的通用硬件执行的软件或代码中体现,但是作为替代方案,这也可以在专用硬件中或在软件/通用硬件和专用硬件的组合中体现。如果体现在专用硬件中,则它们各自可以被实施为采用许多技术中的任一种或其组合的电路或状态机。这些技术可以包括但不限于具有用于在施加一个或多个数据信号时实施各种逻辑功能的逻辑门的分立逻辑电路、具有适当逻辑门的专用集成电路(ASIC)、现场可编程门阵列(FPGA)或其他部件等。此类技术通常为所属领域技术人员所熟知,因此在此不再详述。
图4A至图4C的流程图示出了RDU 100的部分的实施方式的功能性和操作。如果体现在软件中,则每个框都可以表示包括用于实施一个或多个指定逻辑功能的程序指令的代码的模块、代码段或部分。所述程序指令可以体现为以下形式:源代码,所述源代码包括以编程语言编写的人类可读语句;或机器代码,所述机器代码包括可由合适的执行系统(诸如包括在RDU 100中的处理器)识别的数字指令。所述机器代码可以从源代码转换而来等。如果体现在硬件中,则每个框都可以表示用于实施一个或多个指定逻辑功能的电路或许多互连电路。
虽然图4A至图4C的流程图示出了特定执行顺序,但是应当理解,执行顺序可以不同于所描绘的顺序。例如,两个或更多个框的执行顺序可以相对于所示的顺序被扰乱。而且,在图4A至图4C中连续示出的两个或更多个框可以同时执行或部分同时执行。此外,在一些实施例中,可以跳过或省略图4A至图4C中所示的一个或多个框。另外地,为了增强实用性、计费、性能测量或提供故障排除帮助等,可以向本文所述的逻辑流添加任何数量的计数器、状态变量、警告信号或消息。应当理解,所有此类变化都在本公开的范围内。
图5A至图5C的流程图示出了驱动代理322的部分的实施方式的功能性和操作。如果体现在软件中,则每个框都可以表示包括用于实施一个或多个指定逻辑功能的程序指令的代码的模块、代码段或部分。所述程序指令可以体现为以下形式:源代码,所述源代码包括以编程语言编写的人类可读语句;或机器代码,所述机器代码包括可由合适的执行系统(诸如计算机系统或其他系统中的处理器603)识别的数字指令。所述机器代码可以从源代码转换而来等。如果体现在硬件中,则每个框都可以表示用于实施一个或多个指定逻辑功能的电路或许多互连电路。
虽然图5A至图5C的流程图示出了特定执行顺序,但是应当理解,执行顺序可以不同于所描绘的顺序。例如,两个或更多个框的执行顺序可以相对于所示的顺序被扰乱。而且,在图5A至图5C中连续示出的两个或更多个框可以同时执行或部分同时执行。此外,在一些实施例中,可以跳过或省略图5A至图5C中所示的一个或多个框。另外地,为了增强实用性、计费、性能测量或提供故障排除帮助等,可以向本文所述的逻辑流添加任何数量的计数器、状态变量、警告信号或消息。应当理解,所有此类变化都在本公开的范围内。
而且,本文描述的包括软件或代码的任何逻辑或应用程序(包括RDU调度应用程序321、驱动代理322和路径生成应用程序323)可以体现在任何非暂时性计算机可读介质中以供指令执行系统(诸如例如计算机系统或其他系统中的处理器603)使用或与所述指令执行系统结合使用。在这个意义上,所述逻辑可以包括例如包括指令和声明的语句,所述指令和声明可以从计算机可读介质取得并且由指令执行系统执行。在本公开的上下文中,“计算机可读介质”可以是可以包含、存储或维护本文描述的供指令执行系统使用或与指令执行系统结合使用的逻辑或应用程序的任何介质。
计算机可读介质可以包括许多物理介质中的任何一种,诸如例如磁性介质、光学介质或者半导体介质。合适的计算机可读介质的更具体示例包括但不限于磁带、磁性软盘、磁性硬盘驱动器、记忆卡、固态驱动器、USB随身碟或光盘。而且,计算机可读介质可以是随机存取存储器(RAM),其包括例如静态随机存取存储器(SRAM)和动态随机存取存储器(DRAM)或磁性随机存取存储器(MRAM)。另外地,计算机可读介质可以是只读存储器(ROM)、可编程只读存储器(PROM)、可擦除可编程只读存储器(EPROM)、电可擦除可编程只读存储器(EEPROM))或其他类型的存储器装置。
此外,本文描述的任何逻辑或应用程序(包括RDU调度应用程序321、驱动代理322和路径生成应用程序323)可以通过各种方式实施和构造。例如,所描述的一个或多个应用程序可以被实施为单个应用程序的模块或部件。此外,本文描述的一个或多个应用程序可以在共享或单独的计算装置或其组合中执行。例如,本文描述的多个应用程序可以在同一计算装置600中执行,或者在同一计算环境303中的多个计算装置中执行。
除非另外具体说明,否则诸如短语“X、Y或Z中的至少一者”的析取语言在上下文中通常应理解为用于呈现物品、项等可以是X、Y或Z或其任意组合(例如,X、Y和/或Z)。因此,此类析取语言通常并不意图并且不应暗示某些实施例要求至少一个X、至少一个Y或至少一个Z各自都存在。
本公开的实施例可以根据以下条款来描述。
条款1.一种系统,其包括:下视摄像头;前视摄像头;处理器;以及存储机器可读指令的存储器,所述机器可读指令在由所述处理器执行时使所述系统至少:在存储单元下方移动;使用所述下视摄像头来捕获位于地面上的基准点的图像;使所述系统在所述基准点上居中;将所述系统围绕所述基准点旋转就位;当所述系统旋转时通过所述前视摄像头来捕获全景图像;识别所述全景图像中的所述存储单元的多个支腿;至少部分地基于所述全景图像中的所述多个支腿来对所述存储单元的所述中心相对于所述基准点的位置进行三角测量;确定所述系统相对于所述存储单元居中;升起所述存储单元;响应于使所述系统升起所述存储单元而使用所述前视摄像头来捕获所述存储单元的所述多个支腿中的至少两者的第一图像;将所述存储单元移动到新位置;当所述系统处于运动中时使用所述前视摄像头来捕获所述存储单元的所述多个支腿中的所述至少两者的第二图像;测量所述存储单元的所述多个支腿中的所述至少两者在所述第二图像中相对于所述第一图像的位置变化;以及至少部分地基于所述位置变化来确定所述存储单元改变了在所述系统的顶部上的位置或定向。
条款2.如条款1所述的系统,其中所述前视摄像头包括被配置为捕获点云的三维摄像头,并且所述全景图像包括点云。
条款3.如条款1或2所述的系统,其中所述下视摄像头位于所述系统的底表面上。
条款4.一种机器人驱动单元,其包括:前视摄像头;下视摄像头;处理器;存储器;以及包括存储在所述存储器中的机器可读指令的应用程序,所述机器可读指令在由所述处理器执行时使所述机器人驱动单元:在存储单元下方移动;使用所述下视摄像头来捕获位于地面上的基准点的图像;将所述机器人驱动单元相对于所述基准点定位;将所述机器人驱动单元旋转就位;通过所述前视摄像头来捕获全景图像;识别所述全景图像中的所述存储单元的多个支腿;测量从所述存储单元的所述多个支腿中的每一者到所述基准点的距离;计算在所述存储单元下方相对于所述基准点的位置;确定所述机器人驱动单元相对于所述存储单元下方的所述计算位置不在适当位置;行进到所述存储单元下方的所述计算位置;以及升起所述存储单元。
条款5.如前述条款中任一项所述的机器人驱动单元,其还包括网络接口,并且其中:所述基准点包括第一基准点;并且所述应用程序还包括存储在所述存储器中的机器可读指令,所述机器可读指令在由所述处理器执行时使所述机器人驱动单元:在所述全景图像中识别所述存储单元的所述多个支腿中的一者上的第二基准点;从所述第二基准点中提取所述存储单元的标识符;以及经由所述网络接口向远程计算装置发送请求,其中所述请求包括所述存储单元的所述标识符。
条款6.如前述条款中任一项所述的机器人驱动单元,其中所述应用程序还包括存储在所述存储器中的机器可读指令,所述机器可读指令在由所述处理器执行时使所述机器人驱动单元:响应于使所述机器人驱动单元升起所述存储单元而使用所述前视摄像头来捕获所述存储单元的所述多个支腿中的至少两者的第一图像;将所述存储单元移动到新位置;当所述机器人驱动单元处于运动中时使用所述前视摄像头来捕获所述存储单元的所述多个支腿中的所述至少两者的第二图像;测量所述存储单元的所述多个支腿中的所述至少两者在所述第二图像中相对于所述第一图像的位置变化;以及至少部分地基于所述位置变化来确定所述存储单元改变了在所述机器人驱动单元的顶部上的位置或定向。
条款7.如前述条款中任一项所述的机器人驱动单元,其还包括网络接口,并且其中所述应用程序还包括存储在所述存储器中的机器可读指令,所述机器可读指令在由所述处理器执行时使所述机器人驱动单元:响应于使所述机器人驱动单元升起所述存储单元而使用所述前视摄像头来捕获第一图像;确定所述存储单元的所述多个支腿中的至少两者位于所述第一图像中;将所述存储单元移动到新位置;当所述机器人驱动单元处于运动中时使用所述前视摄像头来捕获第二图像;确定所述第二图像中缺少所述存储单元的所述多个支腿中的所述至少两者;以及经由所述网络接口向远程计算系统发送警报,其中所述警报指示所述存储单元已从所述机器人驱动单元上掉落。
条款8.如前述条款中任一项所述的机器人驱动单元,其中所述应用程序还包括存储在所述存储器中的机器可读指令,所述机器可读指令在由所述处理器执行时使所述机器人驱动单元:当所述机器人驱动单元处于运动中时使用所述前视摄像头来捕获所述存储单元的所述多个支腿中的至少两者的第一图像;当所述机器人驱动单元处于运动中时使用所述前视摄像头来捕获所述存储单元的所述多个支腿中的所述至少两者的第二图像;以及测量所述存储单元的所述多个支腿中的所述至少两者在所述第二图像中相对于所述第一图像的竖直位置变化。
条款9.如前述条款中任一项所述的机器人驱动单元,其中所述应用程序还包括存储在所述存储器中的机器可读指令,所述机器可读指令在由所述处理器执行时使所述机器人驱动单元至少部分地基于所述存储单元的所述多个支腿中的所述至少两者的所述竖直位置变化来计算所述存储单元将会翻倒的可能性。
条款10.如前述条款中任一项所述的机器人驱动单元,其中所述应用程序还包括存储在所述存储器中的机器可读指令,所述机器可读指令在由所述处理器执行时使所述机器人驱动单元计算当所述机器人驱动单元处于运动中时所述存储单元的摇摆量。
条款11.如前述条款中任一项所述的机器人驱动单元,其中所述应用程序还包括存储在所述存储器中的机器可读指令,所述机器可读指令在由所述处理器执行时使所述机器人驱动单元计算当机器人驱动单元处于运动中时所述存储单元的竖直位移量。
条款12.如前述条款中任一项所述的机器人驱动单元,其中所述下视摄像头位于所述机器人驱动单元的所述底表面上。
条款13.如前述条款中任一项所述的机器人驱动单元,其中所述前视摄像头包括被配置为捕获点云的三维摄像头。
条款14.如前述条款中任一项所述的机器人驱动单元,其中所述全景图像包括所述点云。
条款15.如前述条款中任一项所述的机器人驱动单元,其中所述应用程序还包括存储在所述存储器中的机器可读指令,所述机器可读指令在由所述处理器执行时使所述机器人驱动单元:移动所述存储单元;使用所述前视摄像头来捕获图像;以及识别所述图像中阻挡所述机器人驱动单元的当前路径的障碍物。
条款16.如前述条款中任一项所述的机器人驱动单元,其中所述应用程序还包括存储在所述存储器中的机器可读指令,所述机器可读指令在由所述处理器执行时使所述机器人驱动单元响应于识别出所述图像中的所述障碍物而从远程计算装置请求所述机器人驱动单元的新路径。
条款17.一种系统,其包括:计算装置,所述计算装置包括处理器和存储器;机器人驱动单元(RDU),所述RDU经由网络与所述计算装置进行数据通信并且包括前视摄像头和下视摄像头;以及包括存储在所述存储器中的机器可读指令的应用程序,所述机器可读指令在由所述处理器执行时使计算装置至少:命令所述RDU在存储单元下方移动;命令所述RDU使用所述下视摄像头来捕获位于地面上的基准点的图像;命令所述RDU将其自身相对于所述基准点定位;命令所述RDU旋转就位;命令所述RDU通过所述前视摄像头来捕获全景图像;从所述RDU接收所述全景图像;识别所述全景图像中的所述存储单元的多个支腿;测量从所述存储单元的所述多个支腿中的每一者到所述基准点的距离;计算在所述存储单元下方相对于所述基准点的位置;确定所述RDU相对于所述存储单元下方的所述计算位置不在适当位置;命令所述RDU行进到所述存储单元下方的所述计算位置;以及命令所述RDU升起所述存储单元。
条款18.如前述条款中任一项所述的系统,其中所述基准点包括第一基准点,并且所述应用程序包括第一应用程序,所述第一应用程序还包括存储在所述存储器中的机器可读指令,所述机器可读指令在由所述处理器执行时使所述计算装置至少:在所述全景图像中识别所述存储单元的所述多个支腿中的一者上的第二基准点;从所述第二基准点中提取所述存储单元的标识符;以及向第二应用程序发送请求,其中所述请求包括所述存储单元的所述标识符。
条款19.如前述条款中任一项所述的系统,其中所述应用程序还包括存储在所述存储器中的机器可读指令,所述机器可读指令在由所述处理器执行时使所述计算装置至少:命令所述RDU响应于所述RDU升起所述存储单元而使用所述前视摄像头来捕获所述存储单元的所述多个支腿中的至少两者的第一图像;命令所述RDU将所述存储单元移动到新位置;命令所述RDU在所述RDU处于运动中时使用所述前视摄像头来捕获所述存储单元的所述多个支腿中的所述至少两者的第二图像;从所述RDU接收所述第一图像和所述第二图像;测量所述存储单元的所述多个支腿中的所述至少两者在所述第二图像中相对于所述第一图像的位置变化;以及至少部分地基于所述位置变化来确定所述存储单元改变了在所述RDU的顶部上的位置或定向。
条款20.如前述条款中任一项所述的系统,其中所述应用程序还包括存储在所述存储器中的机器可读指令,所述机器可读指令在由所述处理器执行时使所述计算装置至少:命令所述RDU在所述RDU处于运动中时使用所述前视摄像头来捕获所述存储单元的所述多个支腿中的至少两者的第一图像;命令所述RDU在所述RDU处于运动中时使用所述前视摄像头来捕获所述存储单元的所述多个支腿中的所述至少两者的第二图像;以及测量所述存储单元的所述多个支腿中的所述至少两者在所述第二图像中相对于所述第一图像的竖直位置变化。
应强调,本公开的上述实施例仅仅是为了清楚地理解本公开的原理而阐述的实施方式的可能实例。在实质上未脱离本公开的精神和原理的情况下,可以对上述一个或多个实施例进行许多变化和修改。所有此类修改和变化都意图包括在本公开的范围内并且由以下权利要求保护。

Claims (15)

1.一种机器人驱动单元,其特征在于,其包括:
前视摄像头;
下视摄像头;
处理器;
存储器;以及
应用程序,所述应用程序包括存储在所述存储器中的机器可读指令,所述机器可读指令在由所述处理器执行时使所述机器人驱动单元:
在存储单元下方移动;
使用所述下视摄像头来捕获位于地面上的基准点的图像;
将所述机器人驱动单元相对于所述基准点定位;
将所述机器人驱动单元旋转就位;
通过所述前视摄像头来捕获全景图像;
识别所述全景图像中的所述存储单元的多个支腿;
测量从所述存储单元的所述多个支腿中的每一者到所述基准点的距离;
计算在所述存储单元下方相对于所述基准点的位置;
确定所述机器人驱动单元相对于所述存储单元下方的计算的所述位置不在适当位置;
行进到所述存储单元下方的计算的所述位置;以及
升起所述存储单元。
2.如权利要求1所述的机器人驱动单元,其特征在于,其还包括网络接口,并且其中:
所述基准点包括第一基准点;并且
所述应用程序还包括存储在所述存储器中的机器可读指令,所述机器可读指令在由所述处理器执行时使所述机器人驱动单元:
在所述全景图像中识别所述存储单元的所述多个支腿中的一者上的第二基准点;
从所述第二基准点中提取所述存储单元的标识符;以及
经由所述网络接口向远程计算装置发送请求,其中所述请求包括所述存储单元的所述标识符。
3.如权利要求1或2所述的机器人驱动单元,其特征在于,其中所述应用程序还包括存储在所述存储器中的机器可读指令,所述机器可读指令在由所述处理器执行时使所述机器人驱动单元:
响应于使所述机器人驱动单元升起所述存储单元而使用所述前视摄像头来捕获所述存储单元的所述多个支腿中的至少两者的第一图像;
将所述存储单元移动到新位置;
当所述机器人驱动单元处于运动中时使用所述前视摄像头来捕获所述存储单元的所述多个支腿中的所述至少两者的第二图像;
测量所述存储单元的所述多个支腿中的所述至少两者在所述第二图像中相对于所述第一图像的位置变化;以及
至少部分地基于所述位置变化来确定所述存储单元改变了在所述机器人驱动单元的顶部上的位置或定向。
4.如权利要求3所述的机器人驱动单元,其特征在于,其还包括网络接口,并且其中所述应用程序还包括存储在所述存储器中的机器可读指令,所述机器可读指令在由所述处理器执行时使所述机器人驱动单元:
响应于使所述机器人驱动单元升起所述存储单元而使用所述前视摄像头来捕获第一图像;
确定所述存储单元的所述多个支腿中的至少两者位于所述第一图像中;
将所述存储单元移动到新位置;
当所述机器人驱动单元处于运动中时使用所述前视摄像头来捕获第二图像;
确定所述第二图像中缺少所述存储单元的所述多个支腿中的所述至少两者;以及
经由所述网络接口向远程计算系统发送警报,其中所述警报指示所述存储单元已从所述机器人驱动单元上掉落。
5.如权利要求4所述的机器人驱动单元,其特征在于,其中所述应用程序还包括存储在所述存储器中的机器可读指令,所述机器可读指令在由所述处理器执行时使所述机器人驱动单元:
当所述机器人驱动单元处于运动中时使用所述前视摄像头来捕获所述存储单元的所述多个支腿中的至少两者的第一图像;
当所述机器人驱动单元处于运动中时使用所述前视摄像头来捕获所述存储单元的所述多个支腿中的所述至少两者的第二图像;以及
测量所述存储单元的所述多个支腿中的所述至少两者在所述第二图像中相对于所述第一图像的竖直位置变化。
6.如权利要求5所述的机器人驱动单元,其特征在于,其中所述应用程序还包括存储在所述存储器中的机器可读指令,所述机器可读指令在由所述处理器执行时使所述机器人驱动单元至少部分地基于所述存储单元的所述多个支腿中的所述至少两者的所述竖直位置变化来计算所述存储单元将会翻倒的可能性。
7.如权利要求6所述的机器人驱动单元,其特征在于,其中所述应用程序还包括存储在所述存储器中的机器可读指令,所述机器可读指令在由所述处理器执行时使所述机器人驱动单元计算当机器人驱动单元处于运动中时所述存储单元的竖直位移量。
8.如权利要求7所述的机器人驱动单元,其特征在于,其中所述前视摄像头包括被配置为捕获点云的三维摄像头。
9.如权利要求8所述的机器人驱动单元,其特征在于,其中所述全景图像包括所述点云。
10.如权利要求9所述的机器人驱动单元,其特征在于,其中所述应用程序还包括存储在所述存储器中的机器可读指令,所述机器可读指令在由所述处理器执行时使所述机器人驱动单元:
移动所述存储单元;
使用所述前视摄像头来捕获图像;以及
识别所述图像中阻挡所述机器人驱动单元的当前路径的障碍物。
11.如权利要求10所述的机器人驱动单元,其特征在于,其中所述应用程序还包括存储在所述存储器中的机器可读指令,所述机器可读指令在由所述处理器执行时使所述机器人驱动单元响应于识别出所述图像中的所述障碍物而从远程计算装置请求所述机器人驱动单元的新路径。
12.一种系统,其特征在于,其包括:
计算装置,所述计算装置包括处理器和存储器;
机器人驱动单元,所述机器人驱动单元经由网络与所述计算装置进行数据通信并且包括前视摄像头和下视摄像头;以及
应用程序,所述应用程序包括存储在所述存储器中的机器可读指令,所述机器可读指令在由所述处理器执行时使计算装置至少:
命令所述机器人驱动单元在存储单元下方移动;
命令所述机器人驱动单元使用所述下视摄像头来捕获位于地面上的基准点的图像;
命令所述机器人驱动单元将其自身相对于所述基准点定位;
命令所述机器人驱动单元旋转就位;
命令所述机器人驱动单元通过所述前视摄像头来捕获全景图像;
从所述机器人驱动单元接收所述全景图像;
识别所述全景图像中的所述存储单元的多个支腿;
测量从所述存储单元的所述多个支腿中的每一者到所述基准点的距离;
计算在所述存储单元下方相对于所述基准点的位置;
确定所述机器人驱动单元相对于所述存储单元下方的计算的所述位置不在适当位置;
命令所述机器人驱动单元行进到所述存储单元下方的计算的所述位置;以及
命令所述机器人驱动单元升起所述存储单元。
13.如权利要求12所述的系统,其特征在于,其中所述基准点包括第一基准点,并且所述应用程序包括第一应用程序,所述第一应用程序还包括存储在所述存储器中的机器可读指令,所述机器可读指令在由所述处理器执行时使所述计算装置:
在所述全景图像中识别所述存储单元的所述多个支腿中的一者上的第二基准点;
从所述第二基准点中提取所述存储单元的标识符;以及
向第二应用程序发送请求,其中所述请求包括所述存储单元的所述标识符。
14.如权利要求12或13所述的系统,其特征在于,其中所述应用程序还包括存储在所述存储器中的机器可读指令,所述机器可读指令在由所述处理器执行时使所述计算装置:
命令所述机器人驱动单元响应于所述机器人驱动单元升起所述存储单元而使用所述前视摄像头来捕获所述存储单元的所述多个支腿中的至少两者的第一图像;
命令所述机器人驱动单元将所述存储单元移动到新位置;
命令所述机器人驱动单元在所述机器人驱动单元处于运动中时使用所述前视摄像头来捕获所述存储单元的所述多个支腿中的所述至少两者的第二图像;
从所述机器人驱动单元接收所述第一图像和所述第二图像;
测量所述存储单元的所述多个支腿中的所述至少两者在所述第二图像中相对于所述第一图像的位置变化;以及
至少部分地基于所述位置变化来确定所述存储单元改变了在所述机器人驱动单元的顶部上的位置或定向。
15.如权利要求14所述的系统,其特征在于,其中所述应用程序还包括存储在所述存储器中的机器可读指令,所述机器可读指令在由所述处理器执行时使所述计算装置:
命令所述机器人驱动单元在所述机器人驱动单元处于运动中时使用所述前视摄像头来捕获所述存储单元的所述多个支腿中的至少两者的第一图像;
命令所述机器人驱动单元在所述机器人驱动单元处于运动中时使用所述前视摄像头来捕获所述存储单元的所述多个支腿中的所述至少两者的第二图像;以及
测量所述存储单元的所述多个支腿中的所述至少两者在所述第二图像中相对于所述第一图像的竖直位置变化。
CN201780062530.0A 2016-09-15 2017-09-14 机器人驱动单元及其系统 Active CN109843752B (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US15/265,925 2016-09-15
US15/265,925 US10012992B2 (en) 2016-09-15 2016-09-15 Integrated obstacle detection and payload centering sensor system
PCT/US2017/051623 WO2018053171A1 (en) 2016-09-15 2017-09-14 Integrated obstacle detection and payload centering sensor system

Publications (2)

Publication Number Publication Date
CN109843752A CN109843752A (zh) 2019-06-04
CN109843752B true CN109843752B (zh) 2021-01-15

Family

ID=59974873

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201780062530.0A Active CN109843752B (zh) 2016-09-15 2017-09-14 机器人驱动单元及其系统

Country Status (5)

Country Link
US (1) US10012992B2 (zh)
EP (1) EP3512785B1 (zh)
JP (1) JP6722348B2 (zh)
CN (1) CN109843752B (zh)
WO (1) WO2018053171A1 (zh)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109018810B (zh) * 2018-10-18 2020-02-21 北京极智嘉科技有限公司 对接货物容器的方法、装置、机器人和存储介质
WO2020123445A1 (en) 2018-12-11 2020-06-18 Autonomous Shelf, Inc. Mobile inventory transport unit and autonomous operation of mobile inventory transportation unit networks
US11338444B2 (en) * 2019-04-04 2022-05-24 Marmon Foodservice Technologies, Inc. Robotic carrier device and system for preparing food products
WO2020227379A1 (en) 2019-05-07 2020-11-12 Autonomous Shelf, Inc. System and method for directing a supply chain control territory in an autonomous inventory management system
CN110557541A (zh) * 2019-09-23 2019-12-10 维沃移动通信(杭州)有限公司 电子设备、器件控制方法及计算机可读存储介质
JP7355614B2 (ja) * 2019-11-21 2023-10-03 株式会社大林組 台車、搬送支援システム及び搬送支援方法
US11932490B2 (en) 2020-03-09 2024-03-19 Prime Robotics, Inc. Autonomous mobile inventory transport unit

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102007016802B3 (de) * 2007-04-05 2008-05-15 Miele & Cie. Kg Verfahren zur Navigation eines selbstfahrenden Bodenbearbeitungsgerätes
CN202494922U (zh) * 2012-03-08 2012-10-17 陶重犇 一种安卓操作系统控制的移动机器人平台
CN104246788A (zh) * 2012-04-18 2014-12-24 迈克菲公司 检测并防止恶意移动应用程序的安装
CN204280472U (zh) * 2014-12-03 2015-04-22 西安科技大学 基于射频识别的三维立体物流系统
WO2015188193A1 (en) * 2014-06-06 2015-12-10 Amazon Technologies, Inc. Robotic communication with fiber-optics or fiducial markers with a small set of values

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7402018B2 (en) 2004-10-14 2008-07-22 Kiva Systems, Inc. Inventory system with mobile drive unit and inventory holder
US7826919B2 (en) 2006-06-09 2010-11-02 Kiva Systems, Inc. Method and system for transporting inventory items
US7912574B2 (en) * 2006-06-19 2011-03-22 Kiva Systems, Inc. System and method for transporting inventory items
US8220710B2 (en) * 2006-06-19 2012-07-17 Kiva Systems, Inc. System and method for positioning a mobile drive unit
US8239291B2 (en) * 2007-01-05 2012-08-07 Kiva Systems, Inc. System and method for communicating status information of inventory-related tasks using a status indicator
US8798786B2 (en) * 2009-12-23 2014-08-05 Amazon Technologies, Inc. System and method for processing waste material
US9785911B2 (en) * 2013-07-25 2017-10-10 I AM Robotics, LLC System and method for piece-picking or put-away with a mobile manipulation robot
CA2923474C (en) * 2013-09-09 2022-06-21 Dematic Corp. Autonomous mobile picking
EP3056454A4 (en) * 2013-10-11 2017-05-17 Hitachi, Ltd. Transfer robot system
JP5982729B2 (ja) 2013-10-21 2016-08-31 株式会社日立製作所 搬送管理装置、搬送システム、および、搬送管理プログラム
US9656806B2 (en) * 2015-02-13 2017-05-23 Amazon Technologies, Inc. Modular, multi-function smart storage containers
US10280054B2 (en) 2015-03-06 2019-05-07 Walmart Apollo, Llc Shopping facility assistance systems, devices and methods
JP6247796B2 (ja) * 2015-11-25 2017-12-13 株式会社日立製作所 棚配置システム、搬送ロボット及び棚配置方法

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102007016802B3 (de) * 2007-04-05 2008-05-15 Miele & Cie. Kg Verfahren zur Navigation eines selbstfahrenden Bodenbearbeitungsgerätes
CN202494922U (zh) * 2012-03-08 2012-10-17 陶重犇 一种安卓操作系统控制的移动机器人平台
CN104246788A (zh) * 2012-04-18 2014-12-24 迈克菲公司 检测并防止恶意移动应用程序的安装
WO2015188193A1 (en) * 2014-06-06 2015-12-10 Amazon Technologies, Inc. Robotic communication with fiber-optics or fiducial markers with a small set of values
CN204280472U (zh) * 2014-12-03 2015-04-22 西安科技大学 基于射频识别的三维立体物流系统

Also Published As

Publication number Publication date
JP6722348B2 (ja) 2020-07-15
CN109843752A (zh) 2019-06-04
JP2019533621A (ja) 2019-11-21
US20180074504A1 (en) 2018-03-15
EP3512785B1 (en) 2020-08-12
EP3512785A1 (en) 2019-07-24
US10012992B2 (en) 2018-07-03
WO2018053171A1 (en) 2018-03-22

Similar Documents

Publication Publication Date Title
CN109843752B (zh) 机器人驱动单元及其系统
US9574883B2 (en) Associating semantic location data with automated environment mapping
US8688275B1 (en) Positive and negative obstacle avoidance system and method for a mobile robot
US9950587B2 (en) Inclination detection method, inclination detection apparatus, and equipment for detecting inclination
US7864302B2 (en) Method for detecting objects with a pivotable sensor device
US10330480B1 (en) Deployable sensors
TW202220915A (zh) 貨物取放方法、裝置、倉儲機器人和倉儲系統
WO2021004483A1 (zh) 一种导航方法、移动载体及导航系统
US11687086B2 (en) Autonomous robotic navigation in storage site
US11559895B2 (en) Predictive robotic obstacle detection
US10731970B2 (en) Method, system and apparatus for support structure detection
KR102564408B1 (ko) 모바일 자동화 장치의 광 방출기의 제어를 위한 방법 및 장치
CN113002399A (zh) 货架搬运方法及其装置、机器可读介质和系统
US11847832B2 (en) Object classification for autonomous navigation systems
US20240142985A1 (en) De-centralized traffic-aware navigational planning for mobile robots
WO2023076708A1 (en) Precision height estimation using sensor fusion
CN116793276A (zh) 货箱位置检测方法、检测系统及计算设备
KR20230109714A (ko) 로봇 및 위치 결정 방법

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant