JP7180613B2 - 情報処理装置および情報処理方法 - Google Patents

情報処理装置および情報処理方法 Download PDF

Info

Publication number
JP7180613B2
JP7180613B2 JP2019558900A JP2019558900A JP7180613B2 JP 7180613 B2 JP7180613 B2 JP 7180613B2 JP 2019558900 A JP2019558900 A JP 2019558900A JP 2019558900 A JP2019558900 A JP 2019558900A JP 7180613 B2 JP7180613 B2 JP 7180613B2
Authority
JP
Japan
Prior art keywords
information
autonomous
action
control unit
output control
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019558900A
Other languages
English (en)
Other versions
JPWO2019116643A1 (ja
Inventor
啓 福井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Sony Group Corp
Original Assignee
Sony Corp
Sony Group Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp, Sony Group Corp filed Critical Sony Corp
Publication of JPWO2019116643A1 publication Critical patent/JPWO2019116643A1/ja
Application granted granted Critical
Publication of JP7180613B2 publication Critical patent/JP7180613B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0231Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
    • G05D1/0246Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using a video camera in combination with image processing means
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/20Scenes; Scene-specific elements in augmented reality scenes
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J13/00Controls for manipulators
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0212Control of position or course in two dimensions specially adapted to land vehicles with means for defining a desired trajectory
    • G05D1/0221Control of position or course in two dimensions specially adapted to land vehicles with means for defining a desired trajectory involving a learning process
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20Movements or behaviour, e.g. gesture recognition
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00Program-control systems
    • G05B2219/30Nc systems
    • G05B2219/40Robotics, robotics mapping to robotics vision
    • G05B2219/40414Man robot interface, exchange of information between operator and robot
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Automation & Control Theory (AREA)
  • Remote Sensing (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Health & Medical Sciences (AREA)
  • Robotics (AREA)
  • Mechanical Engineering (AREA)
  • Electromagnetism (AREA)
  • Human Computer Interaction (AREA)
  • Social Psychology (AREA)
  • Psychiatry (AREA)
  • General Health & Medical Sciences (AREA)
  • Manipulator (AREA)
  • Traffic Control Systems (AREA)
  • Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)

Description

本開示は、情報処理装置および情報処理方法に関する。
近年、機械学習技術などを用いて自律的な動作を実行する種々の装置が開発されている。上記のような装置は、例えば、認識した状況に基づいて、当該状況に則した自律動作を行うことができる。例えば、特許文献1には、設定された地点まで人物を誘導する人物誘導ロボットが開示されている。
特開2013-107184号公報
ところで、自律動作を行う装置の行動は、認識した状況などの種々の要因により動的に変容し得る。しかし、特許文献1に開示される人物誘導ロボットは、上記のような要因や変容する行動に係る情報を提示する手段を有していない。このため、人物誘導ロボットに誘導される人物などは、人物誘導ロボットの内部状態や今後の行動を把握することが困難である。
そこで、本開示では、自律動作体の内部状態や行動計画を周囲に認知させることが可能な、新規かつ改良された情報処理装置および情報処理方法を提案する。
本開示によれば、自律動作体の行動に影響する内部情報の提示を制御する出力制御部、を備え、前記出力制御部は、前記内部情報、および前記内部情報に基づく前記自律動作体の行動計画に係る行動計画情報の動的な提示を制御し、前記行動計画情報は、時系列における前記自律動作体の行動の流れを示す情報を含む、情報処理装置が提供される。
また、本開示によれば、プロセッサが、自律動作体の行動に影響する内部情報の提示を制御すること、を含み、前記提示を制御することは、前記内部情報、および前記内部情報に基づく前記自律動作体の行動計画に係る行動計画情報の動的な提示を制御すること、をさらに含み、前記行動計画情報は、時系列における前記自律動作体の行動の流れを示す情報を含む、情報処理方法が提供される。
以上説明したように本開示によれば、自律動作体の内部状態や行動計画を周囲に認知させることが可能となる。
なお、上記の効果は必ずしも限定的なものではなく、上記の効果とともに、または上記の効果に代えて、本明細書に示されたいずれかの効果、または本明細書から把握され得る他の効果が奏されてもよい。
本開示の一実施形態の概要について説明するための図である。 同実施形態に係る情報処理システムの構成例を示すブロック図である。 同実施形態に係る自律動作体の機能構成例を示すブロック図である。 同実施形態に係る情報処理サーバの機能構成例を示すブロック図である。 同実施形態に係る内部情報および行動計画情報の提示制御の具体例を示す図である。 同実施形態に係る内部情報および行動計画情報の提示制御の具体例を示す図である。 同実施形態に係る内部情報および行動計画情報の提示制御の具体例を示す図である。 同実施形態に係る内部情報および行動計画情報の提示制御の具体例を示す図である。 同実施形態に係る内部情報および行動計画情報の提示制御の具体例を示す図である。 同実施形態に係る協調行動における提示制御の例を示す図である。 同実施形態に係る協調行動における提示制御の例を示す図である。 同実施形態に係る協調行動における提示制御の例を示す図である。 同実施形態に係る協調行動における提示制御の例を示す図である。 同実施形態に係る協調行動における提示制御の例を示す図である。 同実施形態に係る協調行動における提示制御の例を示す図である。 同実施形態に係る協調行動における提示制御の例を示す図である。 同実施形態に係る協調行動における提示制御の例を示す図である。 同実施形態に係る協調行動に係る時系列の行動順序を示す情報提示について説明するための図である。 同実施形態に係る情報処理サーバによる制御の流れを示すフローチャートである。 本開示の一実施形態に係るハードウェア構成例を示す図である。
以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
なお、説明は以下の順序で行うものとする。
1.実施形態
1.1.概要
1.2.システム構成例
1.3.自律動作体10の機能構成例
1.4.情報処理サーバ20の機能構成例
1.5.提示制御の具体例
1.6.制御の流れ
2.ハードウェア構成例
3.まとめ
<1.実施形態>
<<1.1.概要>>
上述したように、近年においては、自律動作を行う種々の装置が開発され、また実用化されてきている。上記のような装置は、例えば、認識した状況に対し最適であると判断した行動を自律的に行うことで、操作者による操作を伴わず、種々のタスクを実行することが可能である。
しかし、上記のような装置は、人間と同一の空間を、同一の時間において共有しないことを前提とする場合が多い。例えば、自律動作型の掃除ロボットは、人間がいない時間に掃除を行う。また、自律動作型の監視ロボットは、夜間の病院など、活動している人間の数が至極限定される空間で監視動作を行い、また人間を検出した際には、安全性の確保のために動作を停止する場合もある。
一方、技術の発展に伴い、今後は、種々の自律動作体が、一般人が存在する環境においてタスクを実行したり、人間と目的を共有して協調行動を行うことが想定される。一例としては、空港や病院などにおいて一般利用者の行動を妨害しないように走行する搬送ロボットや、家庭などにおいて高齢者と相互的なインタラクションを行いながら当該高齢者の補助を行う介護ロボットなどが挙げられる。
ここで、上記の搬送ロボットのような自律動作体は、例えば、半自動操縦型の装置であってもよい。例えば、搬送ロボットは、比較的単純な環境においては操作者の直接操作を要しない自律走行を行い、道幅が狭いなどの複雑な地形においてのみ監視者や搭乗者の操作または指示に基づく動作を行ってもよい。この場合であっても、完全操作型のロボットと比較して、操作者の人数や作業負荷を大幅に低減することができる。
しかし、この際、上記の一般利用者や高齢者、また自律動作体を監視する監視者などが、自律動作体の内部状態や次の行動を予測できない場合、自律動作体の挙動の一つひとつが各者の不安を煽る要因や、利便性の低下を招く要因となり得る。
本開示に係る技術思想は上記の点に着目して発想されたものであり、自律動作体の内部状態や行動計画を周囲に認知させることを可能とする。このために、本開示の一実施形態に係る情報処理方法を実現する情報処理装置は、自律動作体の行動に影響する内部情報の提示を制御する出力制御部を備え、また出力制御部は、上記の内部情報、また内部情報に基づく自律動作体の行動計画に係る行動計画情報の動的な提示を制御することを特徴の一つとする。また、上記の行動計画情報は、時系列における自律動作体の行動の流れを示す情報を含む。
図1は、本開示の一実施形態の概要について説明するための図である。図1には、一般利用者が存在する空港内において、自律走行を行う搬送ロボットである自律動作体10と、自律動作体10を監視する監視者Wが示されている。
ここで、監視者Wは、自律動作体10の緊急停止などのコントロールを行うことが可能な人物であり、自律動作体10の挙動がおかしいと判断した場合には、自律動作体10を緊急停止させ、周囲や自律動作体10の安全を確保する役目を持つ。なお、監視者Wは、例えば、自律動作体10の周囲ではなく、遠隔地から自律動作体10の遠隔監視や遠隔操作を行ってもよい。
また、図1に示す自律動作体10は、認識した状況に基づいて、発進、加速、減速、停止、また方向転換などの種々の移動動作を行う搬送ロボットである。しかし、ここで、自律動作体10が監視者Wに対して、内部状態や行動計画に係る情報を提示する手段を有しない場合、自律動作体10が行う動作が合理的である場合であっても、監視者Wにとっては、当該動作が不安要素となり得る自体も想定される。
例えば、自律動作体10が進入方向における交差路において死角を検出し、当該死角から歩行者などが飛び出してくる場合を想定し、減速や停止を行った場合、当該動作は自律動作体10の合理的な行動計画に基づく動作といえる。
しかし、特に、上記死角を認識していない監視者Wにとっては、上記の減速が停止が不合理な動作に感じられる場合も想定される。この場合、監視者Wは、当該動作を誤作動として誤認し、正常に動作している自律動作体10を緊急停止させ、不必要なメンテナンスの実施を行う可能性もある。
上記のような事態を回避するため、本開示の一実施形態に係る自律動作体10を制御する情報処理サーバ20は、自律動作体10の自律動作に係る内部情報、および当該内部情報に基づく行動計画情報を、自律動作体10に動的に提示させる機能を有する。
ここで、上記の行動計画情報は、少なくとも時系列における自律動作体10の行動の流れを示す情報を含んでよい。また、上記の内部情報には、自律動作体10の周囲環境に係る種々の認識情報が含まれる。
図1に示す一例の場合、情報処理サーバ20は、自律動作体10に、検出した死角に係る認識情報を視覚情報I1として出力させ、また減速に係る行動計画情報を視覚情報I2として出力させている。さらに、情報処理サーバ20は、自律動作体10の移動に伴い死角が消失した場合には、加速を行うことを示す行動計画情報を視覚情報I3として、自律動作体10に表示させている。
なお、本実施形態に係る情報処理サーバ20は、例えば、図1に示す視覚情報I1~I3を、プロジェクション(投影)により周囲の人間に対し提示させてもよい。係る表示制御によれば、表示装置の向きに依存せず多くの人間に対して効率的な情報提示を行うことが可能である。また、情報処理サーバ20は、AR(Augmented Reality)技術やVR(Virtual Reality)技術を用いてウェアラブルデバイスを装着する監視者Wなどの対象者にのみ視覚情報I1~I3を提示させることも可能である。
このように、本実施形態に係る情報処理サーバ20によれば、単純に認識結果を表示させるのではなく、学習によって獲得した自律動作体10の行動変容の要因となる内部情報、および当該内部情報に基づいて変容する行動計画を、周囲に存在する監視者Wなどに対し提示させることができる。
本実施形態に係る情報処理サーバ20および自律動作体10が有する上記の機能によれば、周囲に存在する監視者Wなどが、自律動作体10の内部状態や、行動計画を明確に把握することができる。これによれば、自律動作体10の挙動に対する周囲の人間の不安を解消するとともに、誤作動などに係る誤認を効果的に防止することが可能となる。また、自律動作体10が認識すべき物体に係る情報などが提示されない場合、監視者Wは、迅速かつ正確に自律動作体10を緊急停止させることなどができ、自律動作体10や周囲の安全を確保することが可能となる。
以下、本開示の一実施形態に係る情報処理サーバ20が有する機能と当該機能が奏する効果について具体例を示しながら詳細に説明する。
<<1.2.システム構成例>>
まず、本開示の一実施形態に係る情報処理システムの構成例について説明する。図2は、本実施形態に係る情報処理システムの構成例を示すブロック図である。図2を参照すると、本実施形態に係る情報処理システムは、自律動作体10および情報処理サーバ20を備える。また、自律動作体10および情報処理サーバ20は、互いに通信が行えるようにネットワーク30を介して接続される。
(自律動作体10)
本実施形態に係る自律動作体10は、情報処理サーバ20による制御に基づいて自律動作を行う情報処理装置である。上述したように、本実施形態に係る自律動作体10は、周囲に存在する人間に、自律動作に係る内部情報や行動計画情報を提示する機能を有する。
本実施形態に係る自律動作体10は、例えば、図1に示したように、空港、病院、ホテル、ショッピングモール、工場、倉庫などにおいて物品を搬送する搬送ロボットであってもよい。一方、本実施形態に係る自律動作体10は、係る例に限定されず、自律動作を行う種々の装置であり得る。
本実施形態に係る自律動作体10は、例えば、工場や倉庫においてタスクを実行するマニピュレータや各種のロボットアームなどであってもよい。また、本実施形態に係る自律動作体10は、例えば、ドローンなどの無人航空機(UAV:Unmanned aerial vehicle)、また医療用ロボットなどであってもよい。本実施形態に係る情報処理方法によれば、自律動作に係る内部状態や行動計画を、監視者、周囲に存在する一般人、また協調行動を行う作業者などに明確に把握させることが可能である。このため、本実施形態に係る情報処理方法は、自律動作を行う種々の装置に対し、同様に有効である。
(情報処理サーバ20)
本実施形態に係る情報処理サーバ20は、自律動作体10の動作を制御する情報処理装置である。また、本実施形態に係る情報処理サーバ20は、自律動作体10の行動に影響する内部情報、および当該内部情報に基づく行動計画情報を、自律動作体10に動的に提示させること、を特徴の一つとする。本実施形態に係る情報処理サーバ20が有する機能の詳細については、別途後述する。
(ネットワーク30)
ネットワーク30は、自律動作体10と情報処理サーバ20、自律動作体10同士を接続する機能を有する。ネットワーク30は、インターネット、電話回線網、衛星通信網などの公衆回線網や、Ethernet(登録商標)を含む各種のLAN(Local Area Network)、WAN(Wide Area Network)などを含んでもよい。また、ネットワーク30は、IP-VPN(Internet Protocol-Virtual Private Network)などの専用回線網を含んでもよい。また、ネットワーク30は、Wi-Fi(登録商標)、Bluetooth(登録商標)など無線通信網を含んでもよい。
以上、本開示の一実施形態に係る情報処理システムの構成例について説明した。なお、図2を用いて説明した上記の構成はあくまで一例であり、本実施形態に係る情報処理システムの構成は係る例に限定されない。例えば、本実施形態に係る自律動作体10および情報処理サーバ20が有する機能は、単一の装置により実現されてもよい。本実施形態に係る情報処理システムの構成は、仕様や運用に応じて柔軟に変形可能である。
<<1.3.自律動作体10の機能構成例>>
次に、本開示の一実施形態に係る自律動作体10の機能構成例について説明する。図3は、本実施形態に係る自律動作体10の機能構成例を示すブロック図である。図3を参照すると、本実施形態に係る自律動作体10は、センサ部110、撮像部120、音声入力部130、表示部140、音声出力部150、駆動部160、制御部170、およびサーバ通信部180を備える。
(センサ部110)
本実施形態に係るセンサ部110は、周囲環境や自律動作体10に係る種々のセンサ情報を収集する。センサ部110が収集したセンサ情報は、情報処理サーバ20による各種の認識処理に用いられる。このために、センサ部110は、例えば、慣性センサ、地磁気センサ、レーダ、LIDAR、光センサ、熱センサ、振動センサ、GNSS(Global Navigation Satellite System)信号受信装置などの種々のセンサ装置を備える。
(撮像部120)
本実施形態に係る撮像部120は、周囲に存在する歩行者などの動体を含む周囲環境の画像を撮像する。撮像部120が撮像した画像は、情報処理サーバ20による物体認識処理などに用いられる。このために、撮像部120は、画像を撮像することが可能な撮像装置を備える。なお、上記の画像には、静止画像のほか動画像が含まれる。
(音声入力部130)
本実施形態に係る音声入力部130は、周囲に存在する監視者や歩行者などによる発話や、周囲で発生する環境音などの音情報を収集する機能を有する。音声入力部130が収集した音情報は、情報処理サーバ20による音声認識や、周囲環境の認識などに用いられる。このために、本実施形態に係る音声入力部130は、音情報を収集するためのマイクロフォンを備える。
(表示部140)
本実施形態に係る表示部140は、視覚情報を表示する機能を有する。本実施形態に係る表示部140は、例えば、情報処理サーバ20による制御に基づいて、自律動作体10の自律動作に係る内部情報や行動計画情報を表示する。本実施形態に係る表示部140は、上記の内部情報および行動計画情報のディスプレイ表示、投影表示、AR表示、VR表示などを行ってよい。このために、本実施形態に係る表示部140は、採用する表示手段に対応する種々の表示装置を備える。
(音声出力部150)
本実施形態に係る音声出力部150は、音声を含む種々の音を出力する機能を有する。本実施形態に係る音声出力部150は、例えば、情報処理サーバ20による制御に基づいて、内部情報や行動計画情報に対応する音声出力を行ってもよい。このために、本実施形態に係る音声出力部150は、スピーカやアンプなどの音声出力装置を備える。
(駆動部160)
本実施形態に係る駆動部160は、情報処理サーバ20による制御に基づいて、自律動作体10の種々の動作を実現する。このために、本実施形態に係る駆動部160は、自律動作体10の動作を実現するための種々の構成を備える。駆動部160は、例えば、自律動作体10の移動を実現するための車輪やモータ、エンジン、アクチュエータなどを備える。
(制御部170)
本実施形態に係る制御部170は、自律動作体10が備える各構成を制御する機能を有する。制御部170は、例えば、各構成の起動や停止を制御する。また、制御部170は、情報処理サーバ20により生成される制御信号を表示部140や音声出力部150、駆動部160に入力する。また、本実施形態に係る制御部170は、後述する情報処理サーバ20の出力制御部240と同等の機能を有してもよい。
(サーバ通信部180)
本実施形態に係るサーバ通信部180は、ネットワーク30を介して情報処理サーバ20との情報通信を行う。具体的には、サーバ通信部180は、センサ情報、画像、音情報を情報処理サーバ20に送信し、自律動作体10の自律動作に係る種々の制御信号を情報処理サーバ20から受信する。
以上、本実施形態に係る自律動作体10の機能構成例について説明した。なお、図3を用いて説明した上記の構成はあくまで一例であり、本実施形態に係る自律動作体10の機能構成は係る例に限定されない。例えば、自律動作体10は、振動や物理刺激、電気刺激、温度変化などをユーザに知覚させるための構成をさらに備えてもよい。本実施形態に係る内部情報および行動計画情報は、上記のような皮膚感覚情報、また駆動部160の動作などによりユーザに提示することも可能である。また、上述したように、本実施形態に係る制御部170は、情報処理サーバ20の出力制御部240と同等の機能を有してもよい。本実施形態に係る自律動作体10の機能構成は、仕様や運用に応じて柔軟に変形可能である。
<<1.4.情報処理サーバ20の機能構成例>>
次に、本開示の一実施形態に係る情報処理サーバ20の機能構成例について説明する。図4は、本実施形態に係る情報処理サーバ20の機能構成例を示すブロック図である。図4を参照すると、本実施形態に係る情報処理サーバ20は、認識部210、学習部220、行動計画部230、出力制御部240、および通信部250を備える。
(認識部210)
本実施形態に係る認識部210は、自律動作体10が収集したセンサ情報、画像、音情報に基づく種々の認識処理を実行する。認識部210は、例えば、物体認識、地形認識、距離認識、行動認識、音声認識などを行い、自律動作体10が置かれる状況を総合的に推定する。
(学習部220)
本実施形態に係る学習部220は、認識部210が認識した状況と、当該状況において自律動作体10に実行させる動作を関連付けて学習を行う。本実施形態に係る学習部220は、例えば、ディープラーニングなどの機械学習アルゴリズムを用いて上記の学習を行ってよい。
本実施形態に係る学習部220は、例えば、認識した物体や地形に対するアテンションに基づいて、衝突を避けるような報酬を用いた強化学習などを行ってよい。この場合、衝突しそうな物体や地形にアテンションが集まるため、出力制御部240は、アテンションが集まる領域を内部情報の一つとして自律動作体10に提示させることができる。また、出力制御部240は、学習部220が学習時に各特した周辺環境のコストマップからルールベースで障害物を定義して切り出すなどし、当該障害物の認識に係る内部情報を自律動作体10に提示させてもよい。
(行動計画部230)
本実施形態に係る行動計画部230は、認識部210が認識した状況と、学習部220による学習知識とに基づいて、自律動作体10の動作に係る行動計画を行う。行動計画部230は、例えば、子供などの、動的な障害物で動きの予測誤差が大きい物体を避けるような動作を計画することができる。
(出力制御部240)
本実施形態に係る出力制御部240は、行動計画部230が決定した行動計画に基づいて、自律動作体10の表示部140、音声出力部150、および駆動部160を制御する。また、本実施形態に係る出力制御部240は、自律動作体10の行動に影響する内部情報の提示を制御することを特徴の一つとする。より具体的には、本実施形態に係る出力制御部240は、上記の内部情報、および当該内部情報に基づく自律動作体10の行動計画情報を、自律動作体10に動的に提示させることができる。上述したように、上記の行動計画情報は、時系列における自律動作体10の行動の流れを示す情報を含んでよい。
また、本実施形態に係る出力制御部240は、内部情報に基づいて変化する自律動作体10の行動の流れを、自律動作体10に動的に提示させてよい。例えば、本実施形態に係る内部情報には、周囲環境に係る認識情報が含まれる。この際、本実施形態に係る出力制御部240は、認識された状況の変化により変化した行動の流れを、明示的に自律動作体10に提示させることが可能である。本実施形態に係る出力制御部240が有する機能の詳細につては、別途後述する。
(通信部250)
本実施形態に係る通信部250は、ネットワーク30を介して自律動作体10との情報通信を行う。具体的には、通信部250は、自律動作体10からセンサ情報、画像、音情報を受信し、出力制御部240が生成した各種の制御信号を自律動作体10に送信する。
以上、本開示の一実施形態に係る情報処理サーバ20の機能構成例について説明した。なお、図4を用いて説明した上記の構成はあくまで一例であり、本実施形態に係る情報処理サーバ20の機能構成は係る例に限定されない。例えば、上記に示した各機能は、複数の装置に分散されて実現されてもよい。また、例えば、情報処理サーバ20が有する機能は、自律動作体10の機能として実現されてもよい。本実施形態に係る情報処理サーバ20の機能構成は、仕様や運用に応じて柔軟に変形され得る。
<<1.5.提示制御の具体例>>
次に、本実施形態に係る出力制御部240による内部情報および行動計画情報の提示制御について具体例を挙げながら詳細に説明する。上述したように、本実施形態に係る出力制御部240は、自律動作体10の行動に影響する内部情報、および当該内部情報に基づく行動計画情報を、自律動作体10に動的に提示させる機能を有する。
また、本実施形態に係る内部情報には、周囲環境に係る種々の認識情報や、計画される行動の意図が含まれる。この際、本実施形態に係る出力制御部240は、例えば、状況の変化が認識されたことにより行動計画の変更が行われた場合に、変化した行動計画に係る情報を動的に自律動作体10に提示させてもよい。
図5~図9は、本実施形態に係る内部情報および行動計画情報の提示制御の具体例を示す図である。例えば、図5には、出力制御部240が、死角の認識に基づいて変更された行動計画に係る情報を自律動作体10に提示させる場合の一例が示されている。このように、本実施形態に係る認識情報には、周囲地形に係る情報が含まれる。より具体的には、上記周囲地形に係る情報は、自律動作体10や歩行者、設置物などの安全性の低下を招く要因となる地形の検出情報を含んでよい。
図5に示す一例の場合、出力制御部240は、死角に係る認識情報を視覚情報I1として自律動作体10に表示させ、当該認識情報に基づいて変更された行動計画情報を視覚情報I2およびI3として自律動作体10に表示させている。具体的には、出力制御部240は、死角が存在する交差路の手前で減速を行うことを示す視覚情報I2と、歩行者などの飛び出しに備え、死角から遠ざかるようルート変更を行う意図を示す視覚情報I3を自律動作体10に表示させてもよい。
このように、本実施形態に係る内部情報には、計画される行動の意図が含まれてよい。この際、出力制御部240は、例えば、「歩行者の飛び出しに備え、移動ルートを変更します」などの音声発話を自律動作体10に出力させてもよい。本実施形態に係る出力制御部240が有する上記の機能によれば、内部情報に基づいて変更された行動の意図を明確に監視者Wなどに把握させることができ、不安要素の排除など対し、より高い効果を得ることができる。
また、図6には、出力制御部240が、下り階段などの段差の認識に基づいて変更された行動計画に係る情報を自律動作体10に提示させる場合の一例が示されている。図6に示す一例の場合、出力制御部240は、段差に係る認識情報を視覚情報I1として自律動作体10に表示させ、当該認識情報に基づいて変更された行動計画情報を視覚情報I2およびI3として自律動作体10に表示させている。
具体的には、出力制御部240は、段差の手前で減速を行うことを示す視覚情報I2と、停止予定位置を示す視覚情報I3とを自律動作体10に表示させている。このように、本実施形態に係る行動計画情報には、時系列における自律動作体10の位置情報の遷移に係る種々の情報が含まれる。行動計画情報には、例えば、自律動作体10の移動開始、停止、減速や加速などの移動速度に係る情報が含まれてよい。
本実施形態に係る出力制御部240が有する上記の機能によれば、例えば、予め減速や停止に係る行動計画を監視者Wなどに示すことで、監視者Wが、自律動作体10が段差から落下しないよう正常に動作していることを明確に把握し、自律動作体10の不要な緊急停止などを行う事態を回避することが可能となる。
なお、本実施形態に係る周囲地形に係る情報は、図6や図7で示したような死角や段差に限定されない。出力制御部240は、例えば、自律動作体10の直進方向に存在する壁を認識しており、手前で停止を行うことや、水たまりや熱源、またはパンクの要因となる落下物を迂回することなどを自律動作体10に提示させてもよい。
また、図7には、出力制御部240が、歩行者などの動体の認識に基づいて変更された行動計画に係る情報を自律動作体10に提示させる場合の一例が示されている。このように、本実施形態に係る認識情報は、自律動作体10の周囲に存在する歩行者などの動体の検出情報を含む。図7に示す一例の場合、出力制御部240は、子供である歩行者Pを認識していることを示す認識情報を視覚情報I1として自律動作体10に表示させている。また、出力制御部240は、歩行者Pの手前で減速し、また迂回することを示す行動計画情報を視覚情報I2およびI3として自律動作体10に表示させている。
さらには、出力制御部240は、所定時間内に歩行者Pが移動する可能性のある範囲を視覚情報I4として自律動作体10に表示させている。このように、本実施形態に係る認識情報には、歩行者などの動体の行動予測に係る情報が含まれる。
また、このように、例えば、子供のような動きの予測誤差が大きい動体を検出した場合、行動計画部230は、動体の性質に基づいて当該動体を回避するために充分な行動を計画し、出力制御部240は、当該計画に係る行動計画情報を動的に出力させることができる。
本実施形態に係る出力制御部240が有する上記の機能によれば、例えば、予め減速や迂回に係る行動計画を監視者Wに示すことで、監視者Wが、自律動作体10が子供などの歩行者Pを認識していることや、歩行者Pが移動し得る範囲を避けて行動していること、を明確に把握することが可能となる。
なお、本実施形態に係る出力制御部240は、上記のような動体の他、静止物の認識や当該認識に基づく行動計画の変化を自律動作体10に提示させることが可能である。出力制御部240は、例えば、高価な物体や衝突の際に自律動作体10の破損を招き得る物体を認識していることや、当該物体を回避するよう迂回することを自律動作体10に提示させてよい。
また、図8には、出力制御部240が、過去の行動に基づいて変更された行動計画に係る情報を自律動作体10aに提示させる場合の一例が示されている。なお、図8に示す一例の場合、自律動作体10aは、本来図中左の方向へ進路を取ることが正しいとする。この際、出力制御部240は、例えば、過去に実際に左方向へ移動したものの左方向は行き止まりであったことを示す認識情報を視覚情報I1として自律動作体10aに表示させている。また、出力制御部240は、上記の理由から進路を右方向に取ることを示す行動計画情報を視覚情報I2として自律動作体10aに提示させている。
このように、本実施形態に係る認識情報は、過去の行動に基づいて取得された事項を含み、出力制御部240は、当該事項に係る内部情報を自律動作体10に提示させることができる。本実施形態に係る出力制御部240が有する上記の機能によれば、監視者Wが、自律動作体10が誤った目的地に向かっていると誤認することなどを避けることができ、不安要素を効果的に排除することが可能となる。
また、図8に示す一例では、自律動作体10aにより表示される内部情報に基づいて、他の自律動作体10bが方向転換を行う行動計画を立て、当該方向転換に係る行動計画情報を視覚情報I3として表示している。このように、本実施形態に係る内部情報や行動計画情報は、他の自律動作体10の行動計画に用いられてもよい。
また、図9には、出力制御部240が、自律動作体10が位置情報を喪失していることを示す内部情報を自律動作体10に提示させる場合の一例が示している。このように、本実施形態に係る内部情報には、自律動作体10の自己位置推定に係る情報が含まれてよい。
具体的には、出力制御部240は、位置情報を喪失している内部状態を示す視覚情報I1と、直後の行動計画を示す視覚情報I2を自律動作体10に表示させている。位置情報の喪失に係る視覚情報I1は、例えば、図示するように自律動作体10の周囲を囲む円形のシンボルと「?」マークにより表示されてもよい。この際、出力制御部240は、視覚情報I1が有する「?」マークを、監視者Wに見えやすい位置に表示させることで、位置情報を喪失していることを、監視者Wが把握しやすいように配慮してもよい。
このように、本実施形態に係る出力制御部240は、監視者Wなどの提示対象者の状態に基づいて、内部情報や行動計画情報の提示を制御することが可能である。例えば、出力制御部240は、上記の情報を自律動作体10に定常的に表示させるのではなく、周囲に提示対象者が存在する場合にのみ表示させる、などの制御を行ってもよい。係る制御によれば、情報提示に要する消費電力を効果的に低減することができる。
また、例えば、出力制御部240は、提示対象者が別の物体などを注視している場合や、眠っているなど、表示される情報を視認する確率が低いと想定される場合には、情報の提示を行わないよう自律動作体10を制御してもよい。また、出力制御部240は、監視者Wなどが書類などを確認している場合には、音声による情報提示を自律動作体10に行わせるなどの制御を行うことも可能である。
さらには、出力制御部240は、提示対象者の属性に基づいて、内部情報や行動計画情報に係る提示内容および提示方法を制御してもよい。例えば、出力制御部240は、提示対象者が高齢者の場合、表示させる要素を大きくしたり、コントラストを強めることで視認性を高めるなどの制御を行ってもよい。一方、提示対象者が子供の場合、出力制御部240は、キャラクターなどを用いた情報提示を自律動作体10に行わせてもよい。
以上、本実施形態に係る出力制御部240による内部情報および行動計画情報の出力制御について例を挙げて説明した。なお、図5~図9を用いた上記の説明では、出力制御部240が、自律動作体10に、矢印や記号などのシンボルを用いた内部情報および行動計画情報の提示を行わせる場合を例に述べたが、本実施形態に係る提示情報の制御は係る例に限定されない。
出力制御部240は、図示するようなシンボルのほか、文字、絵、色、光の点滅、アニメーションなどの種々の視覚情報を用いた提示を制御してよい。また、上述したように、出力制御部240は、音声を含む種々の音や、振動、刺激、温度変化などの皮膚感覚を用いた情報提示を自律動作体10に実行させることができる。
続いて、本実施形態に係る協調行動に係る内部情報および行動計画情報の提示制御について説明する。ここで、上記の協調行動とは、自律動作体10と人間、または自律動作体10同士が、互いの意思疎通を要する何らかの行動を協調して行う場合を指す。
本実施形態に係る協調行動としては、例えば、通路におけるすれ違いが一例として挙げられる。この際、人間同士であれば、アイコンタクトやその他のノンバーバル動作、また会話などにより互いの意思を確認、または行動を予測し、衝突を避けることが可能である。
一方、歩行者が、自律動作を行うロボットなどとすれ違う際、当該ロボットが内部状態や行動計画に係る情報を提示する手段を有しない場合には、歩行者はロボットの進路を予測することが困難であり、両者が衝突する可能性も否定できない。
このため、本実施形態に係る出力制御部240は、自律動作体10と他の動体との協調行動における行動の流れを示す行動計画情報を、自律動作体10に表示させることで、自律動作体10と他の動体との協調行動の効率的な達成を補助することが可能である。ここで、上記の他の動体には、歩行者や監視者、作業者、動物、また他の自律動作体などが広く含まれる。
図10~図17は、本実施形態に係る協調行動における提示制御の例を示す図である。例えば、図10には、自律動作体10が、空港や病院、駅などの屋内通路において、歩行者Pとのすれ違いに係る協調行動を行う場合の一例が示されている。
図10に示す一例の場合、出力制御部240は、歩行者P1およびP2を認識していることを示す内部情報を視覚情報I1として、また歩行者P1およびP2の予測歩行ルートを視覚情報I2として、自律動作体10に表示させている。
このように、本実施形態に係る出力制御部240は、予測された歩行者などの動体に係る歩行ルートを認識情報の一つとして自律動作体10に動的に提示させることができる。また、出力制御部240は、予測された歩行者の歩行ルートとともに、当該歩行ルートに基づいて変更された自律動作体10の移動ルートを、自律動作体10に歩行者に対して提示させてよい。図10に示す一例の場合、出力制御部240は、すれ違いを行う歩行者P1の手前で減速し、歩行者P1を避けて進行することを示す行動計画情報を視覚情報I3およびI4として自律動作体10に表示させている。
このように、本実施形態に係る出力制御部240は、自律動作体10の内部情報や行動計画に係る情報を、自律動作体10と協調行動を行う対象に対して提示させることで、当該対象が自律動作体が次に行う行動を把握し、当該行動に応じた動作を行えるよう補助することができる。
また、この際、出力制御部240は、図示するように、予測された歩行者P1の歩行ルートに係る情報などを音声発話SO1により、歩行者P1に対して通知させてもよい。出力制御部240は、例えば、学習部220が学習時に獲得した衝突防止に係る最適パスを行動計画情報として自律動作体10に表示させ、また同時に学習された未来予測に係る結果を歩行者P1に対して提示させることで、歩行者P1が予測どおりに歩行する誘導してもよい。係る制御によれば、歩行者P1が、自律動作体10が自身を避けるように移動することを把握し、衝突の心配なく本来の歩行ルートを歩くことができる。
また、本実施形態に係る自律動作体10は、協調行動を行う対象の属性などに応じた動作および情報提示を行ってよい。図11には、自律動作体10が病院などにおける通路において、車椅子に乗った歩行者P1とすれ違う場合の一例が示されている。
この際、本実施形態に係る行動計画部230は、一般の歩行者Pとすれ違いを行う場合に比べ、より事前に回避行動に入る計画を立ててよい。また、出力制御部240は、歩行者の認識に係る認識情報を視覚情報I1およびI2として自律動作体10に表示させるとともに、上記の回避行動に係る行動計画情報を視覚情報I3およびI4として表示させる。
このように、本実施形態に係る情報処理サーバ20は、協調行動の対象に係る属性に応じて自律動作体10の動作を制御することで、当該対象の不安をより一層に軽減することが可能である。なお、本実施形態に係る情報処理サーバ20は、例えば、上記対象の感情、体温、所属、妊娠、年齢、性別、人種などの種々の属性に応じた動作を自律動作体10に実行させてよい。
また、図12には、自律動作体10が、空港や病院、駅などの屋内通路において、高齢者である歩行者Pとのすれ違いを行う際に、減速や一時停止動作を行う場合の一例が示されている。図示するように、本実施形態に係るすれ違いには、自律動作体10が歩行者P1の歩行ルートを妨害しない場合も含まれる。
この際、行動計画部230は、歩行者P1の手前で減速および一時停止を行い、すれ違い後に加速して元の移動速度に復帰する行動を計画してもよい。また、出力制御部240は、歩行者P1の認識に係る認識情報を視覚情報I1およびI2として自律動作体10に表示させるとともに、上記の減速、一時停止、および加速に係る行動計画情報を視覚情報I3~I5として表示させている。
本実施形態に係る情報処理サーバ20による上記の制御によれば、本来衝突の危険がない場合においても、例えば、自律動作体10が突然進路を変更するかもしれない、などの歩行者Pの不安を払拭し、より効果的な協調行動を実現することが可能である。
なお、この際、情報処理サーバ20は、例えば、歩行者Pの属性や、自律動作体10の状態などに応じて、上記の行動計画や出力制御を行ってもよい。情報処理サーバ20は、例えば、歩行者P1が高齢者である場合や、自律動作体10が主に荷物を積んでいる場合などに、上記の減速や一時停止、および当該行動に係る情報提示を自律動作体10に実行させてもよい。このように、本実施形態に係る出力制御部240は、対象や自律動作体10に係る種々の認識情報に基づいて、自律動作体10に係る出力制御を行うことが可能である。
なお、図10~図12に示した一例では、自律動作体10が協調行動を行う歩行者Pの行動、すなわち歩行を妨げないよう動作する場合について説明した。このように、本実施形態に係る自律動作体10は、基本的に歩行者などの周囲の人間の行動を妨害しないように動作してよい。一方、状況によっては、自律動作体10が歩行者などに道を譲ってもらう場合も想定される。
例えば、図13には、屋内通路において、歩行者と対向する自律動作体10が示されている。ここで、図13に示す自律動作体10は、重い荷物を搬送中であるとする。この場合、歩行者Pの認識に基づいて急な減速や停止を行うと、荷物が落下するなどの事態も想定される。このように、より安全なすれ違いを行うためには、歩行者Pに回避行動をとってもらうことが適切な場合も存在する。
この際、出力制御部240は、例えば、歩行者Pを認識していることを示す認識情報を視覚情報I1として自律動作体10に表示させるとともに、安全を確保するために最適と予測された歩行ルートに係る認識情報を視覚情報I2として表示させる。また、出力制御部240は、自律動作体10が直進することを示す行動計画情報を視覚情報I3として自律動作体10に表示させ、回避行動を取ってほしい旨を示す音声発話SO2を出力させる。
係る制御によれば、状況に応じたより効率的な協調行動を実現するとともに、歩行者Pの安全を確保する歩行ルートを歩行者Pに対して提示し誘導することで、両者にとってより安全な協調行動を実現することが可能となる。
また、図14には、空港や駅などにおいて、複数の歩行者Pが存在する状況で自律動作体10が動作を行う場合の一例が示されている。このように、通路が混雑している場合などにおいては、複数の歩行者Pの歩行を妨害しない自律動作体10の移動ルートを見つけることが困難な場合もある。この場合、出力制御部240は、例えば、行動計画に基づいて自律動作体10に壁際を低速で移動させ、当該行動に係る行動計画情報を視覚情報I1として表示させてもよい。また、出力制御部240は、例えば、低速運転中であることや、道を譲ってほしい旨に係る音声発話SO3を自律動作体10に出力させてもよい。
また、この際、通路に複数の自律動作体10が存在する場合には、当該複数の自律動作体10が集合し縦列に進行するなどの動作を行うことで、歩行者Pの歩行の妨げを最小限に抑えることが可能である。
このように、本実施形態に係る情報処理サーバ20は、種々の状況に応じたより効率的かつ安全な行動を自律動作体10に実行させ、また内部状態や行動計画に係る情報を周囲の人間に提示させることができる。
なお、図10~図14では、自律動作体10または歩行者のいずれかが回避行動を行う場合を例に述べたが、通路におけるすれ違いにおいては、自律動作体10と歩行者Pの両者がともに回避行動を行った方が効率的な場合も想定される。
図15には、対向する歩行者Pと道の譲りあい状態となってしまった自律動作体10が示されている。この際、出力制御部240は、歩行者Pを認識していることを示す認識情報を視覚情報I1として自律動作体10に表示させるとともに、効率的なすれ違いを実現するために最適な歩行ルートを視覚情報I2として表示させる。また、出力制御部240は、自律動作体の回避行動に係る行動計画情報を視覚情報I3およびI4として自律動作体10に表示させるとともに、「こちらに避けます」、などの音声発話SO4を出力させる。
このように、本実施形態に係る出力制御部240によれば、歩行者Pおよび自律動作体10に係る両者の回避ルートを同時に示すことで、より効果的に道の譲りあい状態から脱出することが可能となる。また、本実施形態に係る出力制御部240は、上記の回避ルートを視覚情報として自律動作体10に出力させることで、歩行者Pがより直観的に自身の回避ルートを把握し行動に移れるよう誘導することが可能である。
また、図10~図15では、自律動作体10が歩行者Pなどの人間と協調行動を行う場合を例に述べたが、本実施形態に係る協調行動は、自律動作体10と他の動作体との間における協調行動であってもよい。図16には、複数の自律動作体10が協調行動を行う場合の一例が示されている。
図16に示す一例の場合、出力制御部240は、自律動作体10bが表示する直進行動に係る視覚情報I3を認識したことにより、自律動作体10aが自律動作体10bを回避する行動を行うことを示す行動計画情報を視覚情報I1およびI2として自律動作体10aに表示させている。
このように、本実施形態に係る情報処理サーバ20は、他の自律動作体10が提示する内部情報や行動計画情報に基づいて、制御対象である自律動作体10の行動を計画し、当該行動に係る情報を当該制御対象である自律動作体10に提示させることができる。
協調行動が自律動作体10の間で行われる場合、本来、各々の自律動作体10は、上記のような情報提示を介さずとも互いの状態や行動計画を無線通信などにより通知し合うことで、協調行動を実現することが可能である。しかし、自律動作体10を監視する監視者Wには、上記のような通信が行われていることが知覚できないため、内部情報や行動計画情報に係る情報提示が行われない場合、監視者Wは、自律動作体10同士が衝突する可能性などを考慮しながら複数の自律動作体10を監視する必要がある。
一方、本実施形態に係る情報処理方法によれば、協調行動を行う複数の自律動作体10に係る内部情報や行動計画情報を監視者Wなどの周囲の人間に対して提示することで、監視者Wなどが不必要に衝突を恐れることを防止することができる。また、反対に、回避行動に係る情報提示が行われない場合には、監視者Wは、自律動作体10の緊急停止を行うなどの判断を正確かつ迅速に行うことができ、監視者Wの作業効率や自律動作体10の安全を確保することが可能となる。
なお、複数の自律動作体10が協調行動を行う場合、各々の自律動作体10の動作に係る優先度は、例えば、タスクの重要度や緊急性などに応じて決定されてもよい。このために、本実施形態に係る出力制御部240は、自律動作体10が有するタスクに係る情報を視覚情報などにより提示させることができる。このように、本実施形態に係る内部情報には、自律動作体10が実行するタスクの情報が含まれてよい。係る制御によれば、より急いでいる自律動作体10に他の自律動作体10が道を譲るなどの制御を実現することができ、全体のタスク効率を効果的に高めることが可能となる。
また、本実施形態に係る内部情報には、自律動作体10の行動計画に係る信頼度の情報が含まれてもよい。図17には、自律動作体10が上記の信頼度に係る情報を監視者Wに提示する場合の一例が示されている。
図17に示す一例の場合、出力制御部240は、行動計画部230による進路選択に係る信頼度が低いことに基づいて、当該信頼度に係る内部情報を視覚情報I1として自律動作体10に表示させている。具体的には、出力制御部240は、右方向へ移動する判断に係る信頼度と、左方向へ移動する判断に係る信頼度とが拮抗していることを示す内部情報を自律動作体10に提示させている。
上記の制御によれば、監視者Wに対し、自律動作体10の行動に係る信頼度が低いことを示すとともに、自律動作体10が取るべき行動の指示を仰ぐことができ、より効率のよいタスク実行を行うことが可能となる。なお、この際、情報処理サーバ20は、監視者Wの発話UO1などに基づいて行動計画を行い、進むべき進路を決定してもよい。また、出力制御部240は、例えば、「指示をお願いします」などの音声発話を自律動作体10に出力させることで、より明示的に監視者Wの指示を仰いでもよい。
以上、本実施形態に係る協調行動における情報提示について具体例を挙げながら説明した。上述した出力制御部240による情報提示の制御によれば、自律動作体10の周囲に存在する人間が、自律動作体10の内部状態や行動計画、また当該行動計画の意図を明確に把握し、自律動作体10の行動に応じた適切な応答を行うことが可能となる。
なお、上記では、本実施形態に係る自律動作体10が、空港や駅、病院などにおいてタスクを実行する搬送ロボットであり、出力制御部240が自律動作体10の移動ルートに係る情報提示を制御する場合を主な例として述べた。一方、本実施形態に係る自律動作体10、および情報提示の制御は係る例に限定されない。本実施形態に係る自律動作体10は、例えば、工場や物流倉庫などにおいて、作業者や他の自律動作体と協調行動を実行する作業ロボットであってもよい。また、本実施形態に係る出力制御部240は、上記協調行動に係る時系列の行動順序を示す行動計画情報を自律動作体10に提示させてもよい。
図18は、本実施形態に係る協調行動に係る時系列の行動順序を示す情報提示について説明するための図である。図18には、工場や物流倉庫において作業者Lと協調行動を行う自律動作体10aおよび10bが示されている。ここで、上記の協調行動は、例えば、混在する複数の商品を、それぞれに定められた保管場所へ搬送、保管するタスクであってよい。
また、図18に示す一例の場合、自律動作体10aは、主に重い商品の搬送および保管を担当する作業ロボットであり、自律動作体10bは、作業者Lによる搬送が困難な高所に商品を保管する役割を持つ作業ロボットである。また、作業者Lは、自律動作体10aおよび10bに把持や搬送が困難な商品の搬送、保管を担当する。当該商品には、例えば、形状の変化しやすい洋服や布、壊れやすい商品や高価な商品、また把持する領域が小さい例えばゴルフクラブなどの商品が挙げられる。
なお、自律動作体10aは、例えば、工場や物流倉庫内を自律移動するフォークリフト型などの作業ロボットであってもよいし、固定設置されるロボットアームなどであってもよい。また、自律動作体10bは、例えば、ドローンなどであってもよい。
このように、工場や物流倉庫などでは、複数の作業者Lや自律動作体10による協調行動を以ってタスクが実行される場合も想定される。この際、本実施形態に係る出力制御部240は、自律動作体10と他の動体との時系列における行動順序を示す行動計画情報を自律動作体10に提示させることで、上記タスクの効率を効果的に高めることが可能である。ここで、上記の動体には、自律動作体10と協調行動を行う作業者や、他の自律動作体が含まれる。
例えば、図18に示す一例の場合、出力制御部240は、タスク実行に最適と判断した、自律動作体10a、自律動作体10b、および作業者Lの行動順序を視覚情報I1~I4として自律動作体10aに表示させている。このように、出力制御部240は、タスクの効率化に係る情報提示を協調動作を行う作業者などに対して提示させてよい。
ここで、行動順序を示す視覚情報I1~I4の形状や色、パターンは、対応する商品を担当するタスク実行主体別に設定されてよい。図18に示す一例では、出力制御部240は、作業者Lが担当する洋服やゴルフクラブに対応する視覚情報I1およびI3を円形のシンボル、自律動作体10bが担当する商品に対応する視覚情報I2を三角形のシンボル、自律動作体10aが担当する商品に対応する視覚情報I4を四角形のシンボルを用いて表示させている。
また、視覚情報I1~I4が包含する数字は、タスク実行に係る行動順序を示すための情報である。すなわち、視覚情報I1~I4は、まず、作業者Lが洋服を搬送した後、自律動作体10bが袋状の商品を搬送し、続いて、作業者Lがゴルフクラブを搬送した後、自律動作体10aが箱状の商品を搬送するべきことを示している。
このように、本実施形態に係る出力制御部240によれば、制御対象となる自律動作体10の行動に加え、協調行動を行う作業者Lや他の自律動作体10bの行動に順序を時系列に提示することで、協調行動の効率を大きく向上させるとともに、各タスク実行主体が同時に作業を行おうとして怪我や破損を負う危険性を排除することが可能となる。
以上説明したように、本実施形態に係る出力制御部240は、自律動作体10の移動ルートに限定されず、時系列における自律動作体10や作業者の行動の流れを示す種々の行動計画情報の提示を制御することができる。例えば、上記に挙げた例のほか、出力制御部240は、マニピュレータのアーム動作に係る3次元的な動作軌跡を行動計画情報として出力させることも可能である。本実施形態に係る出力制御部240が有する上記の機能によれば、自律動作体10が実行するタスクをより安全かつ効率的に完遂し、また周囲の人間の不安を排除し作業効率を向上させることなどが可能となる。
<<1.6.制御の流れ>>
次に、本実施形態に係る情報処理サーバ20による制御の流れについて説明する。図19は、本実施形態に係る情報処理サーバ20による制御の流れを示すフローチャートである。
図19を参照すると、まず、情報処理サーバ20の通信部250が、自律動作体10が収集した情報を受信する(S1101)。上記の情報には、センサ情報、画像、音情報などが含まれる。
次に、認識部210が、ステップS1101において受信した収集情報に基づいて、各種の認識処理を実行し、状況の推定を行う(S1102)。
次に、行動計画部230が、ステップS1102において推定された状況に基づく行動計画を行う(S1103)。
次に、出力制御部240が、ステップS1103において決定された行動計画に基づいて内部情報および行動計画情報の提示制御を行い(S1104)、また行動計画に応じた動作を自律動作体10に実行させる(S1105)。
<2.ハードウェア構成例>
次に、本開示の一実施形態に係る自律動作体10および情報処理サーバ20に共通するハードウェア構成例について説明する。図20は、本開示の一実施形態に係る自律動作体10および情報処理サーバ20のハードウェア構成例を示すブロック図である。図20を参照すると、自律動作体10および情報処理サーバ20は、例えば、プロセッサ871と、ROM872と、RAM873と、ホストバス874と、ブリッジ875と、外部バス876と、インターフェース877と、入力装置878と、出力装置879と、ストレージ880と、ドライブ881と、接続ポート882と、通信装置883と、を有する。なお、ここで示すハードウェア構成は一例であり、構成要素の一部が省略されてもよい。また、ここで示される構成要素以外の構成要素をさらに含んでもよい。
(プロセッサ871)
プロセッサ871は、例えば、演算処理装置又は制御装置として機能し、ROM872、RAM873、ストレージ880、又はリムーバブル記録媒体901に記録された各種プログラムに基づいて各構成要素の動作全般又はその一部を制御する。
(ROM872、RAM873)
ROM872は、プロセッサ871に読み込まれるプログラムや演算に用いるデータ等を格納する手段である。RAM873には、例えば、プロセッサ871に読み込まれるプログラムや、そのプログラムを実行する際に適宜変化する各種パラメータ等が一時的又は永続的に格納される。
(ホストバス874、ブリッジ875、外部バス876、インターフェース877)
プロセッサ871、ROM872、RAM873は、例えば、高速なデータ伝送が可能なホストバス874を介して相互に接続される。一方、ホストバス874は、例えば、ブリッジ875を介して比較的データ伝送速度が低速な外部バス876に接続される。また、外部バス876は、インターフェース877を介して種々の構成要素と接続される。
(入力装置878)
入力装置878には、例えば、マウス、キーボード、タッチパネル、ボタン、スイッチ、及びレバー等が用いられる。さらに、入力装置878としては、赤外線やその他の電波を利用して制御信号を送信することが可能なリモートコントローラ(以下、リモコン)が用いられることもある。また、入力装置878には、マイクロフォンなどの音声入力装置が含まれる。
(出力装置879)
出力装置879は、例えば、CRT(Cathode Ray Tube)、LCD、又は有機EL等のディスプレイ装置、スピーカ、ヘッドホン等のオーディオ出力装置、プリンタ、携帯電話、又はファクシミリ等、取得した情報を利用者に対して視覚的又は聴覚的に通知することが可能な装置である。また、本開示に係る出力装置879は、触覚刺激を出力することが可能な種々の振動デバイスを含む。
(ストレージ880)
ストレージ880は、各種のデータを格納するための装置である。ストレージ880としては、例えば、ハードディスクドライブ(HDD)等の磁気記憶デバイス、半導体記憶デバイス、光記憶デバイス、又は光磁気記憶デバイス等が用いられる。
(ドライブ881)
ドライブ881は、例えば、磁気ディスク、光ディスク、光磁気ディスク、又は半導体メモリ等のリムーバブル記録媒体901に記録された情報を読み出し、又はリムーバブル記録媒体901に情報を書き込む装置である。
(リムーバブル記録媒体901)
リムーバブル記録媒体901は、例えば、DVDメディア、Blu-ray(登録商標)メディア、HD DVDメディア、各種の半導体記憶メディア等である。もちろん、リムーバブル記録媒体901は、例えば、非接触型ICチップを搭載したICカード、又は電子機器等であってもよい。
(接続ポート882)
接続ポート882は、例えば、USB(Universal Serial Bus)ポート、IEEE1394ポート、SCSI(Small Computer System Interface)、RS-232Cポート、又は光オーディオ端子等のような外部接続機器902を接続するためのポートである。
(外部接続機器902)
外部接続機器902は、例えば、プリンタ、携帯音楽プレーヤ、デジタルカメラ、デジタルビデオカメラ、又はICレコーダ等である。
(通信装置883)
通信装置883は、ネットワークに接続するための通信デバイスであり、例えば、有線又は無線LAN、Bluetooth(登録商標)、又はWUSB(Wireless USB)用の通信カード、光通信用のルータ、ADSL(Asymmetric Digital Subscriber Line)用のルータ、又は各種通信用のモデム等である。
<3.まとめ>
以上説明したように、本開示の一実施形態に係る情報処理方法を実現する情報処理サーバ20は、自律動作体10の行動に影響する内部情報の提示を制御する出力制御部240を備える。また、本開示の一実施形態に係る出力制御部240は、内部情報、および当該内部情報に基づく自律動作体10の行動計画に係る行動計画情報の動的な提示を制御することを特徴の一つとする。また、上記の行動計画情報は、時系列における自律動作体10の行動の流れを示す情報を含む。係る構成によれば、自律動作体の内部状態や行動計画を周囲に認知させることが可能となる。
以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
例えば、上記実施形態では、自律動作体10が実空間において自律動作を行うロボットである場合を主な例として説明したが、本開示の一実施形態に係る自律動作体10は、例えば、仮想空間において自律動作を行う動作体であってもよい。この場合、出力制御部240は、例えば、ゲーム空間においてユーザと協調行動を行う自律動作体10の内部状態や行動計画、また当該行動計画の意図をユーザに提示することが可能である。
また、本明細書に記載された効果は、あくまで説明的または例示的なものであって限定的ではない。つまり、本開示に係る技術は、上記の効果とともに、または上記の効果に代えて、本明細書の記載から当業者には明らかな他の効果を奏しうる。
また、コンピュータに内蔵されるCPU、ROMおよびRAMなどのハードウェアに、情報処理サーバ20が有する構成と同等の機能を発揮させるためのプログラムも作成可能であり、当該プログラムを記録した、コンピュータに読み取り可能な記録媒体も提供され得る。
また、本明細書の情報処理サーバ20の処理に係る各ステップは、必ずしもフローチャートに記載された順序に沿って時系列に処理される必要はない。例えば、情報処理サーバ20の処理に係る各ステップは、フローチャートに記載された順序と異なる順序で処理されても、並列的に処理されてもよい。
なお、以下のような構成も本開示の技術的範囲に属する。
(1)
自律動作体の行動に影響する内部情報の提示を制御する出力制御部、
を備え、
前記出力制御部は、前記内部情報、および前記内部情報に基づく前記自律動作体の行動計画に係る行動計画情報の動的な提示を制御し、
前記行動計画情報は、時系列における前記自律動作体の行動の流れを示す情報を含む、
情報処理装置。
(2)
前記出力制御部は、前記内部情報に基づいて変化する前記自律動作体の行動の流れを動的に提示させる、
前記(1)に記載の情報処理装置。
(3)
前記内部情報は、計画される行動の意図を含む、
前記(1)または(2)に記載の情報処理装置。
(4)
前記行動計画情報は、前記自律動作体と他の動体との協調行動における行動の流れを示す情報を含む、
前記(1)~(3)のいずれかに記載の情報処理装置。
(5)
前記内部情報は、周囲環境に係る認識情報を含む、
前記(1)~(4)のいずれかに記載の情報処理装置。
(6)
前記認識情報は、前記自律動作体の周囲に存在する動体の検出情報を含む、
前記(5)に記載の情報処理装置。
(7)
前記認識情報は、前記動体の行動予測に係る情報を含む、
前記(6)に記載の情報処理装置。
(8)
前記動体は、前記自律動作体の周囲に存在する歩行者であり、
前記出力制御部は、予測された前記歩行者の歩行ルートを動的に提示させる、
前記(6)または(7)に記載の情報処理装置。
(9)
前記認識情報は、前記自律動作体の周囲地形に係る情報を含む、
前記(5)~(8)のいずれかに記載の情報処理装置。
(10)
前記周囲地形に係る情報は、前記自律動作体または周囲物体の安全性の低下を招く要因となる地形の検出情報を含む、
前記(9)に記載の情報処理装置。
(11)
前記周囲地形に係る情報は、死角に係る情報を含む、
前記(9)または(10)に記載の情報処理装置。
(12)
前記内部情報は、前記自律動作体の自己位置推定に係る情報を含む、
前記(1)~(11)のいずれかに記載の情報処理装置。
(13)
前記内部情報は、前記自律動作体の行動に係る信頼度を含む、
前記(1)~(12)のいずれかに記載の情報処理装置。
(14)
前記自律動作体は、自律移動を行う装置であり、
前記行動計画情報は、時系列における前記自律動作体の位置情報の遷移に係る情報を含む、
前記(1)~(13)のいずれかに記載の情報処理装置。
(15)
前記行動計画情報は、前記自律動作体の移動開始、停止、または移動速度に係る情報のうち少なくともいずれかを含む、
前記(14)に記載の情報処理装置。
(16)
前記出力制御部は、前記自律動作体の周囲を歩行する歩行者に対し、予測された前記歩行者の歩行ルートと、当該歩行ルートに基づいて変更された前記自律動作体の移動ルートとを提示させる、
前記(1)~(15)のいずれかに記載の情報処理装置。
(17)
前記行動計画情報は、前記自律動作体と他の動体との時系列における行動順序を示す情報を含む、
前記(1)~(16)のいずれかに記載の情報処理装置。
(18)
前記内部情報は、前記自律動作体が実行するタスクに係る情報を含む、
前記(1)~(17)のいずれかに記載の情報処理装置。
(19)
前記出力制御部は、前記内部情報および前記行動計画情報の投影、AR表示、またはVR表示を制御する、
前記(1)~(18)のいずれかに記載の情報処理装置。
(20)
プロセッサが、自律動作体の行動に影響する内部情報の提示を制御すること、
を含み、
前記提示を制御することは、前記内部情報、および前記内部情報に基づく前記自律動作体の行動計画に係る行動計画情報の動的な提示を制御すること、
をさらに含み、
前記行動計画情報は、時系列における前記自律動作体の行動の流れを示す情報を含む、
情報処理方法。
10 自律動作体10
110 センサ部
120 撮像部
130 音声入力部
140 表示部
150 音声出力部
160 駆動部
170 制御部
180 サーバ通信部
20 情報処理サーバ
210 認識部
220 学習部
230 行動計画部
240 出力制御部
250 通信部

Claims (17)

  1. 自律動作体の行動に影響する内部情報の提示を制御する出力制御部、
    を備え、
    前記出力制御部は、前記内部情報、および前記内部情報に基づく前記自律動作体の行動計画に係る行動計画情報の動的な提示を制御し、
    前記行動計画情報は、
    時系列における前記自律動作体の行動の流れを示す情報と、
    前記自律動作体と他の動体との協調行動における行動の流れを示す情報と、
    を含む、
    情報処理装置。
  2. 自律動作体の行動に影響する内部情報の提示を制御する出力制御部、
    を備え、
    前記出力制御部は、前記内部情報、および前記内部情報に基づく前記自律動作体の行動計画に係る行動計画情報の動的な提示を制御し、
    前記行動計画情報は、時系列における前記自律動作体の行動の流れを示す情報を含み、
    前記内部情報は、周囲環境に係る認識情報を含み、
    前記認識情報は、前記自律動作体の周囲に存在する動体の検出情報を含み、
    前記動体は、前記自律動作体の周囲に存在する歩行者であり、
    前記出力制御部は、予測された前記歩行者の歩行ルートを動的に提示させる
    報処理装置。
  3. 前記認識情報は、前記動体の行動予測に係る情報を含む、
    請求項に記載の情報処理装置。
  4. 前記認識情報は、前記自律動作体の周囲地形に係る情報を含む、
    請求項2または3に記載の情報処理装置。
  5. 前記周囲地形に係る情報は、前記自律動作体または周囲物体の安全性の低下を招く要因となる地形の検出情報を含む、
    請求項に記載の情報処理装置。
  6. 前記周囲地形に係る情報は、死角に係る情報を含む、
    請求項4または5に記載の情報処理装置。
  7. 自律動作体の行動に影響する内部情報の提示を制御する出力制御部、
    を備え、
    前記出力制御部は、前記内部情報、および前記内部情報に基づく前記自律動作体の行動計画に係る行動計画情報の動的な提示を制御し、
    前記行動計画情報は、時系列における前記自律動作体の行動の流れを示す情報を含み、
    前記内部情報は、前記自律動作体の行動に係る信頼度を含む
    報処理装置。
  8. 自律動作体の行動に影響する内部情報の提示を制御する出力制御部、
    を備え、
    前記出力制御部は、前記内部情報、および前記内部情報に基づく前記自律動作体の行動計画に係る行動計画情報の動的な提示を制御し、
    前記行動計画情報は、時系列における前記自律動作体の行動の流れを示す情報を含み、
    前記出力制御部は、前記自律動作体の周囲を歩行する歩行者に対し、予測された前記歩行者の歩行ルートと、当該歩行ルートに基づいて変更された前記自律動作体の移動ルートとを提示させる
    報処理装置。
  9. 自律動作体の行動に影響する内部情報の提示を制御する出力制御部、
    を備え、
    前記出力制御部は、前記内部情報、および前記内部情報に基づく前記自律動作体の行動計画に係る行動計画情報の動的な提示を制御し、
    前記行動計画情報は、
    時系列における前記自律動作体の行動の流れを示す情報と、
    前記自律動作体と他の動体との時系列における行動順序を示す情報と、
    を含む
    報処理装置。
  10. 前記出力制御部は、前記内部情報に基づいて変化する前記自律動作体の行動の流れを動的に提示させる、
    請求項1から9のいずれか一項に記載の情報処理装置。
  11. 前記内部情報は、計画される行動の意図を含む、
    請求項1から10のいずれか一項に記載の情報処理装置。
  12. 前記内部情報は、前記自律動作体の自己位置推定に係る情報を含む、
    請求項1から11のいずれか一項に記載の情報処理装置。
  13. 前記自律動作体は、自律移動を行う装置であり、
    前記行動計画情報は、時系列における前記自律動作体の位置情報の遷移に係る情報を含む、
    請求項1から12のいずれか一項に記載の情報処理装置。
  14. 前記行動計画情報は、前記自律動作体の移動開始、停止、または移動速度に係る情報のうち少なくともいずれかを含む、
    請求項13に記載の情報処理装置。
  15. 前記内部情報は、前記自律動作体が実行するタスクに係る情報を含む、
    請求項1から14のいずれか一項に記載の情報処理装置。
  16. 前記出力制御部は、前記内部情報および前記行動計画情報の投影、AR表示、またはVR表示を制御する、
    請求項1から15のいずれか一項に記載の情報処理装置。
  17. プロセッサが、自律動作体の行動に影響する内部情報の提示を制御すること、
    を含み、
    前記提示を制御することは、前記内部情報、および前記内部情報に基づく前記自律動作体の行動計画に係る行動計画情報の動的な提示を制御すること、
    をさらに含み、
    前記行動計画情報は、
    時系列における前記自律動作体の行動の流れを示す情報と、
    前記自律動作体と他の動体との協調行動における行動の流れを示す情報と、
    を含む、
    情報処理方法。
JP2019558900A 2017-12-12 2018-08-31 情報処理装置および情報処理方法 Active JP7180613B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2017237428 2017-12-12
JP2017237428 2017-12-12
PCT/JP2018/032297 WO2019116643A1 (ja) 2017-12-12 2018-08-31 情報処理装置および情報処理方法

Publications (2)

Publication Number Publication Date
JPWO2019116643A1 JPWO2019116643A1 (ja) 2020-12-03
JP7180613B2 true JP7180613B2 (ja) 2022-11-30

Family

ID=66819619

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019558900A Active JP7180613B2 (ja) 2017-12-12 2018-08-31 情報処理装置および情報処理方法

Country Status (4)

Country Link
US (1) US20200394405A1 (ja)
EP (1) EP3726328A4 (ja)
JP (1) JP7180613B2 (ja)
WO (1) WO2019116643A1 (ja)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115039048A (zh) * 2020-02-10 2022-09-09 三菱电机株式会社 控制装置和学习装置
WO2021245892A1 (ja) * 2020-06-04 2021-12-09 三菱電機株式会社 自動走行制御装置、自動走行制御システム、及び警告情報決定方法
JP7480698B2 (ja) 2020-12-24 2024-05-10 トヨタ自動車株式会社 自律移動システム、自律移動方法及び自律移動プログラム
CN112809696B (zh) * 2020-12-31 2022-03-15 山东大学 面向高传染性隔离病区的全方位智能护理系统及方法
US11975954B2 (en) 2021-01-22 2024-05-07 Rapyuta Robotics Co., Ltd. Autonomous vehicles management in an operating environment
JP7484758B2 (ja) 2021-02-09 2024-05-16 トヨタ自動車株式会社 ロボット制御システム
WO2022176481A1 (ja) * 2021-02-16 2022-08-25 オムロン株式会社 機械学習用データ生成方法、メタ学習方法、機械学習用データ生成装置及びプログラム
CN113428176B (zh) * 2021-06-25 2023-11-14 阿波罗智联(北京)科技有限公司 无人车驾驶策略的调整方法、装置、设备和存储介质
JP7328463B1 (ja) * 2021-11-12 2023-08-16 株式会社日立製作所 ロボットシステム、ロボットの制御装置、及びロボットの制御方法

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006092253A (ja) 2004-09-24 2006-04-06 Matsushita Electric Works Ltd 自律移動装置
JP2006313476A (ja) 2005-05-09 2006-11-16 Fuji Heavy Ind Ltd 作業状況自動報知システム
JP2010191876A (ja) 2009-02-20 2010-09-02 Koyo Electronics Ind Co Ltd 自動搬送装置
JP2011204145A (ja) 2010-03-26 2011-10-13 Sony Corp 移動装置、移動方法およびプログラム
JP2017162264A (ja) 2016-03-10 2017-09-14 トヨタ自動車株式会社 移動体遠隔操作システム

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5059978B2 (ja) * 2010-01-25 2012-10-31 パナソニック株式会社 危険提示装置、危険提示システム、危険提示方法およびプログラム
JP5892588B2 (ja) 2011-11-24 2016-03-23 学校法人東京電機大学 人物誘導ロボット
US9481287B2 (en) * 2014-01-21 2016-11-01 Harman International Industries, Inc. Roadway projection system
US9283678B2 (en) * 2014-07-16 2016-03-15 Google Inc. Virtual safety cages for robotic devices
US9682477B2 (en) * 2015-03-24 2017-06-20 Toyota Jidosha Kabushiki Kaisha Robot communication of intent and functioning
US9663025B2 (en) * 2015-09-18 2017-05-30 Clearpath Robotics, Inc. Lighting control system and method for autonomous vehicles

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006092253A (ja) 2004-09-24 2006-04-06 Matsushita Electric Works Ltd 自律移動装置
JP2006313476A (ja) 2005-05-09 2006-11-16 Fuji Heavy Ind Ltd 作業状況自動報知システム
JP2010191876A (ja) 2009-02-20 2010-09-02 Koyo Electronics Ind Co Ltd 自動搬送装置
JP2011204145A (ja) 2010-03-26 2011-10-13 Sony Corp 移動装置、移動方法およびプログラム
JP2017162264A (ja) 2016-03-10 2017-09-14 トヨタ自動車株式会社 移動体遠隔操作システム

Also Published As

Publication number Publication date
US20200394405A1 (en) 2020-12-17
EP3726328A4 (en) 2021-01-13
EP3726328A1 (en) 2020-10-21
WO2019116643A1 (ja) 2019-06-20
JPWO2019116643A1 (ja) 2020-12-03

Similar Documents

Publication Publication Date Title
JP7180613B2 (ja) 情報処理装置および情報処理方法
US11953339B2 (en) Systems and methods for generating an interactive user interface
US20210346557A1 (en) Robotic social interaction
US11556844B2 (en) Artificial intelligence robot for determining cleaning route using sensor data and method for the same
US9796093B2 (en) Customer service robot and related systems and methods
US11455792B2 (en) Robot capable of detecting dangerous situation using artificial intelligence and method of operating the same
Correa et al. Multimodal interaction with an autonomous forklift
US11307593B2 (en) Artificial intelligence device for guiding arrangement location of air cleaning device and operating method thereof
WO2018121283A1 (zh) 服务提供方法及装置、移动服务设备及存储介质
US11330951B2 (en) Robot cleaner and method of operating the same
CN112401747B (zh) 通过人工智能避开卡住情况的机器人清洁器及其操作方法
KR102297655B1 (ko) 외부 기기를 제어하기 위한 인공 지능 장치
US20200097011A1 (en) Interactive autonomous robot configured with in-character safety response protocols
US20190392382A1 (en) Refrigerator for managing item using artificial intelligence and operating method thereof
KR20180074404A (ko) 공항용 로봇 및 그의 동작 방법
KR20190104488A (ko) 인공 지능을 이용하여, 오브젝트의 이동을 관리하는 인공 지능 로봇 및 그의 동작 방법
KR20190094311A (ko) 인공 지능 로봇 및 그의 동작 방법
KR20190096854A (ko) 인공 지능을 이용하여, 복수의 로봇들을 제어하는 인공 지능 서버
WO2023102319A1 (en) Robotic cart
KR102635535B1 (ko) 인공 지능 장치 및 그의 동작 방법
WO2021131797A1 (ja) 情報処理装置、情報処理システム及び情報処理方法
US20230135955A1 (en) Information processing apparatus, information processing method, and program
Kafle Human aware robot navigation
CN115904082A (zh) 多模态交互系统及交互方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210721

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220628

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220812

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20221018

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221031

R151 Written notification of patent or utility model registration

Ref document number: 7180613

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151