JP7272521B2 - ロボット教示装置、ロボット制御システム、ロボット教示方法、及びロボット教示プログラム - Google Patents

ロボット教示装置、ロボット制御システム、ロボット教示方法、及びロボット教示プログラム Download PDF

Info

Publication number
JP7272521B2
JP7272521B2 JP2023513359A JP2023513359A JP7272521B2 JP 7272521 B2 JP7272521 B2 JP 7272521B2 JP 2023513359 A JP2023513359 A JP 2023513359A JP 2023513359 A JP2023513359 A JP 2023513359A JP 7272521 B2 JP7272521 B2 JP 7272521B2
Authority
JP
Japan
Prior art keywords
information
robot
instruction
instruction information
missing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2023513359A
Other languages
English (en)
Other versions
JPWO2022249226A5 (ja
JPWO2022249226A1 (ja
Inventor
聖崇 加藤
康 洲鎌
勇之 相川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Publication of JPWO2022249226A1 publication Critical patent/JPWO2022249226A1/ja
Publication of JPWO2022249226A5 publication Critical patent/JPWO2022249226A5/ja
Application granted granted Critical
Publication of JP7272521B2 publication Critical patent/JP7272521B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J13/00Controls for manipulators
    • B25J13/06Control stands, e.g. consoles, switchboards
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J13/00Controls for manipulators
    • B25J13/08Controls for manipulators by means of sensing devices, e.g. viewing or touching devices
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1656Programme controls characterised by programming, planning systems for manipulators
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B19/00Programme-control systems
    • G05B19/02Programme-control systems electric
    • G05B19/42Recording and playback systems, i.e. in which the programme is recorded from a cycle of operations, e.g. the cycle of operations being manually controlled, after which this record is played back on the same machine

Landscapes

  • Engineering & Computer Science (AREA)
  • Robotics (AREA)
  • Mechanical Engineering (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Automation & Control Theory (AREA)
  • Human Computer Interaction (AREA)
  • Manipulator (AREA)

Description

本開示は、ロボット教示装置、ロボット制御システム、ロボット教示方法、及びロボット教示プログラムに関する。
現在、性能向上及びコスト低下により、ロボットは、製造、組立て、梱包、移送、搬送、輸送等の多くの分野で広く使用され、工場の現場における生産性向上や労働者の負担軽減を実現している。例えば、部品の並び替えや梱包、食品梱包や盛り付け、塗装・溶接などの分野では、多関節のアームを備えたロボットが知られている。これらのロボットの動作プログラムは、教示装置をキー操作して作成・編集するのが一般的であり、ロボットの動きを教示する方法として、ティーチングペンダント等を用いて、位置情報や移動情報などを記録する方法が知られている。また、ロボットの教示操作を容易にするために、音声入力を活用したロボット教示装置が知られている(例えば、特許文献1)。
特開2020-19127号公報
従来の技術では、音声を活用したロボット教示において、ロボットへの動作指示として、ロボットを動作させるために必要となる制御コマンドや制御パラメータを作業者が発話し、パラメータ設定変更や追加を行う。これらの作業を熟練者や専門家が行う場合には、ロボットが動作として受け付けられる、予め定められた表現を把握しているため、音声によるロボットへの教示が可能である。一方、習熟度の低い操作者や教示に慣れない操作者の場合には、決められた音声コマンドやパラメータを完全には把握していないため、教示に使う音声コマンドとは異なる、普段の日常会話で使用している表現を無意識に使用して操作指示(教示)を行ってしまう可能性がある。この場合、予め格納された一般的な指示パターンと異なる発話が行われるため、ロボットは、指示内容を解釈できず、ロボットへの教示ができないという問題点があった。
この発明は上記のような問題点を解決するためになされたもので、音声指示によるロボット教示において、移動対象物を所定の場所へ移動する教示の際に、習熟度の低い操作者や教示に慣れない操作者による音声操作指示が行われても、ロボットへの教示を行えるロボット教示装置を得ることを目的とする。
本開示に係るロボット教示装置は、マイクによって収集された音声信号に対して音声認識処理を行い、移動対象物を所定の移動先に配置するロボットへの指示内容を示す指示情報を取得する音声認識部と、ロボットの周辺環境を検知するセンサによって取得されたセンサ情報に基づき、移動先周辺に存在する物体の位置を示す周辺物体位置情報を取得する環境情報取得部と、周辺物体位置情報に基づき、ロボットの動作指示に不足している情報を指示情報に補完する指示情報推定部と、を備え、指示情報推定部は、予め設定されたロボットの動作指示に必要な情報である必須情報と、指示情報とを比較し、ロボットの動作指示に不足している情報を不足情報として特定する不足情報特定部と、周辺物体位置情報に基づき、指示情報に不足情報を補完する指示情報補完部と、を備え、不足情報特定部が、移動対象物の配置位置を示す情報が不足していると特定した場合、指示情報補完部は、周辺物体位置情報に基づき、指示情報に移動対象物の配置位置を示す情報を補完することを特徴とする。
本開示に係るロボット教示装置は、周辺物体位置情報に基づき、ロボットの動作指示に不足している情報を指示情報に補完する指示情報推定部を備えたので、ロボット周辺に存在する物体の位置情報に基づいて不足している情報を補完することで、習熟度の低い操作者や教示に慣れない操作者による音声操作指示が行われても、ロボットへの教示を行うことができる。
実施の形態1に係るロボット教示装置100及びロボット制御システム1000の構成を示す構成図である。 実施の形態1に係るロボット教示装置100のハードウェア構成を示すハードウェア構成図である。 実施の形態1に係るロボット制御システム1000にて実行されるロボット制御を示す概念図である。 実施の形態1に係るロボット制御システム1000の動作を示すフローチャートである。 実施の形態1に係るロボット制御システム1000の動作を示すフローチャートである。 実施の形態1に係るロボット制御システム1000にて実行されるロボット教示の動作内容(制御コマンド)、制御情報、制御パラメータの具体例を示す図である。 実施の形態1に係るロボット制御システム1000にて実行されるロボット制御を示す概念図である。 実施の形態1に係る環境情報取得部120が取得した環境情報の具体例を示す概念図である。 実施の形態1に係る指示情報補完部132の指示情報補完処理のフローチャートである。 実施の形態1に係る入出力部150による移動対象物の移動先表示例を示す図である。 実施の形態1に係る指示情報補完部132の指示情報補完処理の変形例のフローチャートである。 実施の形態1に係る指示情報補完部132の重なり処理のフローチャートである。 実施の形態2に係るロボット教示装置200及びロボット制御システム2000の構成を示す構成図である。 実施の形態2に係るロボット制御システム2000にて実行されるロボット制御を示す概念図である。 実施の形態2に係る環境情報取得部220が取得した環境情報の具体例を示す概念図である。 実施の形態2に係る指示情報補完部232の指示情報補完処理のフローチャートである。 実施の形態2に係る入出力部250よる移動対象物の移動量情報表示例を示す図である 実施の形態3に係るロボット教示装置300及びロボット制御システム3000の構成を示す構成図である。 実施の形態3に係る環境情報取得部320が取得した環境情報の具体例を示す概念図である。 実施の形態3に係る指示情報補完部332の指示情報補完処理のフローチャートである。
実施の形態1.
図1は、実施の形態1に係るロボット教示装置100及びロボット制御システム1000の構成を示す構成図である。
ロボット制御システム1000は、ロボット10を制御するものであり、ロボット教示装置100、マイク11、センサ12、及びロボット制御装置13を備える。
ロボット教示装置100は、ロボット10が人の代わりに対象物を“把持、運搬、配置”するために、ロボット10の動作に必要な各種指令(動作制御コマンドおよびパラメータ)をロボット制御装置13に設定する装置であって、例えば、教示操作盤、或いはスマートフォン、タブレットPC等の携帯型情報端末により実現される。ロボット教示装置100は、CPU、ROM、RAM、記憶装置、表示部、操作部、外部機器インタフェース、ネットワークインタフェース等を有する一般的なコンピュータとしての構成を有していても良い。また、ロボット教示装置100は、操作者の操作用端末と各処理の実行端末を分離した構成としても良い。
マイク11は、作業者が発声した音声を収集し音声信号を出力するものである。マイク11は有線又は無線によりロボット教示装置100に接続されている。マイク11は、ヘッドセットタイプでも良いし、首掛け式やピン止め式のものでも良い。また、マイク11は、ノイズキャセル機能を有してもよいし、複数マイクで構成されたアレイマイクでも良い。また、ロボット教示装置100に内蔵されていても良い。
センサ12は、ロボット10の周辺環境を検知し、センサ情報を取得するものであり、空間情報や移動対象物の画像情報を取得するカメラや視覚センサ、温度情報を測定・取得する温度センサ(非接触式もしくは接触式)などである。センサ12は、ロボット10に直接搭載してもよいし、ロボット10周辺に設置してもよい。
ロボット10の周辺環境とは、例えば、ロボット10のアーム移動領域、移動対象物、移動対象物保管領域、移動対象物配置領域などである。センサ情報とは、センサの検知結果を示すデータであり、画像情報、温度情報などである。画像情報とは、例えば2次元画像や、距離画像を含む3次元画像である。視覚センサは、三角測量の原理で距離情報を得るLight Coding方式を用いる。もしくは、投光した赤外線パルスが反射して戻ってくるまでの時間から距離情報を得るTime of Flight(ToF)方式を用いてもよい。或いは、三角測量の原理によりステレオカメラを使った視差情報から距離情報を得る方式を用いてもよいし、その他の方式を用いてもよい。カメラは、カラー画像やモノクロ画像を撮像するカメラであって、レンズ、ミラー等から構成される光学機構と、CCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)のイメージセンサ等の撮像素子(いずれも図示せず)を備えている。夜間撮影が可能な赤外線センサ、発光素子を持たせても良い。動画撮影機能を持たせても良い。センサ12は、取得したセンサ情報をロボット教示装置100に出力する。
ロボット制御装置13は、ロボット教示装置100から入力される各種指令(動作制御コマンドおよびパラメータ)に応じてロボット10の動作を制御するものである。ロボット制御装置13は、CPU、ROM、RAM、記憶装置、表示部、操作部、外部機器インタフェース、ネットワークインタフェース等を有する一般的なコンピュータにより実現される。ロボット制御装置13は、ロボット教示装置100と一体として構成してもよいし、ロボット10と一体として構成してもよい。
ロボット10は、ロボット制御装置13の動作指令に従い動作するものであり、例えば、垂直多関節ロボットである。ロボット10として他のタイプのロボットが用いられても良い。ロボット10は、図示しないロボットアーム等のマニピュレータや、ロボットハンド等の把持装置、マニピュレータと把持装置を制御するコントローラを備える。ロボット10は、マニピュレータの各関節の角度を変更することで把持装置の位置姿勢を変更可能な位置姿勢変更機構を備える。
また、ロボット10は、多関節ロボットに限定されるものではない。ロボット10は、数値制御(Numerical Control:NC)可能な可動式の機械であってもよい。把持装置は、ロボット10による対象物体の種類に応じて、物体を把持するためのツールである。例えば、駆動機構を有した把持ハンド(二本指掴み、三本指掴み、複数指掴み等)、真空エアーや磁石による吸着パッドを用いたハンド、ショベルタイプのすくい上げハンド等である。なお、把持装置は、マニピュレータに対して着脱可能に取り付けられており、対象物体の種類に応じて交換可能である。ロボット制御装置13とロボット10は、無線もしくは有線のネットワークやUSB(Universal Serial Bus)等の汎用のインタフェースで接続される。
ロボット教示装置100は、音声認識部110、環境情報取得部120、指示情報推定部130、制御信号出力部140、及び入出力部150を備える。
音声認識部110は、マイク11によって収集された音声信号に対して音声認識処理を行い、移動対象物を所定の移動先に配置するロボットへの指示内容を示す指示情報を取得するものである。実施の形態1において、音声認識部110は、無線又は有線通信により、マイク11から音声データを取得する。
音声認識部110は、操作者が発話した音声信号に対し音声認識処理を行い、音声入力された動作指示を、文字、単語およびそれらで構成された文章となるテキスト情報として出力する。音声認識部110において、指示情報はテキスト情報として得られるが、本開示において、指示情報とは、テキスト情報だけでなく、テキスト情報を分割して得られる文字列や、文字列から学習モデル等の推定により得られた動作内容及び制御情報等を含むものを意味する。
音声認識部110は、音響モデル、言語モデル等の音声認識に必要な辞書データを複数種類の言語について有していても良い。また、音声認識処理をロボット教示装置100内で実施(ローカル音声認識)しても良いし、ネットワーク越しのサーバー側(クラウド音声認識)で実施する構成としても良い。パターンマッチング、隠れマルコフモデル(Hidden Markov Model:HMM)やディープラーニング等を活用した公知の音声認識技術を利用しても良い。
環境情報取得部120は、ロボット10の周辺環境の状態を示す環境情報を取得するものであり、特に、ロボットの周辺環境を検知するセンサ12によって取得されたセンサ情報に基づき、移動先周辺に存在する物体の位置を示す周辺物体位置情報を取得するものである。ここで、周辺物体位置情報は環境情報の一種である。
環境情報取得部120は、センサ12から得られたセンサ情報を解析し、ロボット10が対象物を把持・移動・配置するために必要となるロボット周辺環境および移動対象物に関する環境情報を取得する。環境情報とは、例えば、移動対象物保管領域にある移動対象物に関する情報(種類・大きさ・位置・色・温度)、移動対象物配置領域の配置空間に関する情報(配置可能領域の位置、大きさ)、移動対象物配置領域に既に配置された物体(移動済みの移動対象物)に関する情報(種類・大きさ・位置・色・温度)などである。また、本開示において、周辺物体位置情報とは、ロボット周辺に存在する物体そのものの位置だけでなく、空き空間(配置可能領域)の位置に関する情報、すなわち物体が存在しない空間の位置を示す位置情報も含むものとする。
なお、画像解析には、パターンマッチングやディープラーニング等を活用した公知の画像解析技術を利用する。なお、センサ12から得られた画像情報を解析すると記載したが、センサ12でこれらの画像解析処理を実施し、環境情報取得部120は、その結果の環境情報を取得する構成としても良い。
指示情報推定部130は、環境情報取得部120で得られた周辺物体位置情報に基づき、ロボットの動作指示に不足している情報を指示情報に補完するものである。ここで、指示情報推定部130は、音声認識部110で得られた指示情報にロボットの動作指示に必要な情報が不足している場合に、指示情報の補完を行うが、不足している場合に常に補完を行う必要は無く、例えば、作業者に指示内容の再発声依頼を出し、それでもなお指示情報が不足している場合に補完を行うようにしてもよい。
実施の形態1において、指示情報推定部130は、不足情報特定部131と指示情報補完部132を備える。
不足情報特定部131は、予め設定されたロボットの動作指示に必要な情報である必須情報と、指示情報とを比較し、ロボットの動作指示に不足している情報を不足情報として特定するものである。
不足情報特定部131は、音声認識部110からのテキスト情報(指示情報)に形態素解析、構文解析を行い、1つ以上の単語列(以降、音声入力単語列)に変換する。そして、不足情報特定部131は、得られた単語列から動作内容および制御情報(種別と値)を抽出し、この動作内容および制御情報を必須情報と比較し、不足している情報が無いかを判定する。また、上記のように、本開示では、音声認識部110で得られたテキスト情報だけでなく、単語列に変換され、動作内容および制御情報として抽出された後の情報も含む、ロボットへの動作指示を示す情報の総称を指示情報と呼ぶ。
また、不足情報特定部131は、抽出された動作内容または制御情報に関して、ロボット10の動作指示に必要な情報が不足していると判定した場合、その不足している情報を不足情報として特定する。
指示情報補完部132は、環境情報、特に周辺物体位置情報に基づき、指示情報に不足情報を補完するものである。例えば、不足情報特定部131が、移動対象物の配置位置を示す情報が不足していると特定した場合、指示情報補完部132は、周辺物体位置情報に基づき、指示情報に移動対象物の配置位置を示す情報を補完する。また、不足情報特定部131が、配置位置を示す情報のうち、移動対象物の配置方向を示す情報が不足していると特定した場合、指示情報補完部132は、周辺物体位置情報に基づき、指示情報に前記移動対象物の配置方向を示す情報を補完する。
ここでの補完とは、不足している情報を補うことにより、ロボットの動作指示に必要な情報を揃えた指示情報を生成することを意味し、例えば、移動対象物の配置方向が”未指定”となっている情報に対して、配置方向を”右”に補正する処理等を意味する。
また、実施の形態1において、環境情報取得部120は、さらに、センサ情報に基づき、移動先周辺に存在する物体の大きさを示す形状情報や移動先周辺の配置可能領域の大きさを示す空間情報を取得し、指示情報推定部130は、周辺物体位置情報に加え、形状情報や空間情報に基づき、指示情報に不足している情報を補完するようにしてもよい。
そして、指示情報補完部132は、補完済みの指示情報、すなわち、ロボットの動作指示に必要な情報が揃った指示情報(動作内容及び制御情報)を制御情報出力部に出力する。
制御信号出力部140は、指示情報推定部130からの動作内容および制御情報を制御コマンドおよび制御パラメータへ変換し、ロボット制御装置13へ出力するものである。制御信号出力部140は、制御信号送受信部を備え、無線又は有線ネットワークにより、ロボット制御装置13と信号の送受信を行う。制御信号の送受信は、USB(Universal Serial Bus)等の汎用のインタフェースで構成して実施しても良い。
入出力部150は、ユーザへの表示を行う表示部と、ユーザからの入力を受け付ける操作部を備え、ユーザインターフェースとして機能するものである。表示部は、ロボット教示装置100を操作するためのアプリケーションの操作画面や各種情報を表示する表示デバイスである。表示デバイスは、例えば、液晶ディスプレイ(LCD)や有機ELディスプレイ(OLED:Organic Electro-Luminescence Display)などである。操作部は、操作者によるタッチやスライド、キー入力といった操作を検出する。例えば、タッチパネル、ボタン、キーボード、マウス等である。ロボット教示装置100の操作者は、ハードキー(ハードウェアキー)操作や、入出力部150に表示されたボタンやメニュー等の表示項目を指やタッチペンを用いてタッチまたはスライドさせることにより、ロボット教示装置100を操作することができる。また、音声入力による操作画面変更や項目設定も可能である。また、ロボット教示装置100の操作者は、ロボット教示装置100の各処理の状況を確認することができる。入出力部150は表示部と操作部を一体型で構成しても良いし、分離型で構成しても良い。
改めて、ロボット教示装置100のハードウェア構成について説明する。
図2は、実施の形態1に係るロボット教示装置100のハードウェア構成を示すハードウェア構成図である。
ロボット教示装置100が備える音声認識部110、環境情報取得部120、指示情報推定部130、制御信号出力部140、入出力部150の各機能は、記憶装置3に格納されたプログラムが処理装置2で実行されることにより実現される。処理装置2は、CPU(Central Processing Unit)中央処理装置、演算装置、マイクロプロセッサ、マイクロコンピュータ、またはDSP(Digital Signal Processor)等のプロセッサである。また、複数のプロセッサにより、ロボット教示装置100の各機能を実現しても良い。また、FPGA(Field Programmable Gate Array)やASIC等でロボット教示装置100の各機能を実現しても良い。
記憶装置3は、例えば、RAM(Random Access Memory)、ROM(Read Only Memory)、フラッシュメモリ、EPROM(Erasable Programmable ROM)、EEPROM(Electrically EPROM)等の不揮発性または揮発性の半導体メモリであっても良いし、ハードディスク、フレキシブルディスク等の磁気ディスクであっても良いし、ミニディスク、CD(Compact Disc)、DVD(Digital Versatile Disc)等の光ディスクでも良い。
また、音声認識部110、環境情報取得部120、入出力部150の操作部はキーボード等の入力装置1によって実現され、入出力部150の表示部はディスプレイ等の出力装置5によって実現され、制御信号出力部140の制御信号送受信部は通信装置4によって実現される。
次に、ロボット制御システム1000及びロボット教示装置100の動作について説明する。操作者が音声を使って、移動対象物を“把持、運搬、配置”する動作をロボットへ教示する場合を例として説明する。
図3は、実施の形態1に係るロボット制御システム1000にて実行されるロボット制御の概要を示す例である。図3(a)は対象物の移動前の状態を示し、図3(b)は対象物の移動後の状態を示したものである。また、図3(c)は初期設定時のロボット制御システム1000を構成する各要素の位置関係を示したものである。各要素の位置関係は3次元の座標で定義され、初期設定時に以下の座標情報をロボット教示装置100からロボット制御装置13へ設定する。例えば、原点をP_0(0,0,0)として、各要素の位置関係は、移動元ケース50の位置座標をP_50、移動元ケース50内の配置枠50aの位置座標をP_50a、移動先ケース60の位置座標をP_60、移動先ケース60内の配置枠60aの位置座標をP_60a、配置枠60bの位置座標をP_60b、配置枠60cの位置座標をP_60cに設定する。
また、ロボット10の位置座標をP_10に設定する。ロボット制御システム1000に含まれる機器、移動対象物、移動元ケース、移動先ケースまたそれらケース内の枠位置など、ロボット10のアーム軌道の移動範囲に含まれる物体の位置座標が設定される。この初期設定時の各要素の位置設定には、従来のダイレクトティーチング、ビジュアルティーチングおよび音声入力を活用して設定しても良い。また、位置情報を登録したい地点に識別用マーカーを置き、ロボット10の周辺に設置したセンサ12でその識別用マーカーを取得し、環境情報取得部120にて画像認識処理を行い、各位置情報を設定しても良い。
図3に示す通り、操作者が、ロボット10に対して、移動元ケース50の配置枠50aに配置した移動対象物2個(50a1、50a2)を移動先ケース60の配置枠60bに配置するための動作を教示する際のロボット教示装置100の動作を説明する。ここでは、移動対象物50a1、50a2、50a3は同一種の物として“物A”と表現する。また、配置枠50aを“枠A”とし、配置枠60bを“枠B”とする。
図4および図5は、実施の形態1に係るロボット制御システム1000及びロボット教示装置100にて実行されるロボット教示の処理フローを示すフローチャートである。
ここで、ロボット教示装置100の動作がロボット教示方法に対応し、ロボット教示装置100の動作をコンピュータに実行させるプログラムがロボット教示プログラムに対応する。また、「部」は「工程」に適宜読み替えてもよい。
まず、熟練者や専門家がロボット10への指示を行い、音声信号から得られた指示情報に必須情報が揃っている場合について説明する。
図4に示す通り、操作者は、ロボット教示装置100の教示用アプリケーションを使用し、初期設定を行う(ST000)。初期設定では、各処理機能の初期化と、ロボット教示を行うための周辺環境の設定を行う。周辺環境の設定として、各物体(例えば、移動元ケース50および移動元ケース50内の配置枠50a、移動先ケース60および移動先ケース60内の配置枠60b)の位置情報を設定する。また、移動元(開始点)の座標情報(P_50:移動元ケース50)、移動先(終点)の座標情報(P_60:移動元ケース60、P_60b:移動先ケース60内の配置枠60b)などである。また、制御情報を事前に設定しても良い。例えば、移動元ケースを“ケース50”に、移動元枠を“枠A”に、移動先ケースを“ケース60”にそれぞれ設定してもよい。また移動対象物と制御パラメータの紐づけを設定する。例えば、“物A”は“Obj1”、“物B”は“Obj2”、“物C”は“Obj3”などである。
ロボット教示装置100は、操作者からの入力により、音声入力を有効にする(ST001)。ロボット教示装置100は、音声入力を受け付ける状態になり(ST002)、音声入力が行われない場合(ST002 “No”)には、その状態を維持する。
操作者が、ロボット10への動作指示として「物Aを枠Bに2個配置して下さい」と音声発話すると、音声入力が行われたため(ST002 “Yes”)、発話された音声は、マイク11で収集され、音声認識部110に渡される。
音声認識部110は、入力された音声信号に音声認識処理を行い、認識結果をテキスト情報として指示情報推定部130へ出力する(ST003)。テキスト情報とは、たとえば、「物Aを枠Bに2個配置して下さい」である。
不足情報特定部131は、音声認識結果であるテキスト情報に、形態素解析、構文解析、単語列化を行い、1つ以上の単語列である音声入力単語列に変換する(ST004)。音声入力単語列とは、たとえば、「“物A”、“を”、“枠B”、“に”、“2”、“個”、“配置”、“して”、“下さい”」である。続いて、不足情報特定部131は、音声入力単語列に含まれる動作内容と制御情報を推定し、抽出する(ST005)。
音声入力単語列に含まれる動作内容および制御情報の推定には、ルールベースによる抽出手法やディープラーニング等を活用した公知の推定技術を利用することができる。例えば、事前にロボット動作制御で使用する単語列(動作内容および制御情報を示すキーワード)を登録しておき、音声入力単語列内の単語と一致するものを抽出する。もしくは、操作指示文(動作内容と制御情報で構成された単語列)と正解ラベルを学習データとして準備し、サポートベクターマシンやディープニューラルネットワークなどの機械学習手法を用いて、動作内容および制御情報を推定する推定モデルを構築し、音声入力単語列内の単語と一致するものもしくは一致する確率が高いものを推定した上で動作内容および制御情報として抽出しても良い。
図6は、実施の形態1に係るロボット制御システム1000にて実行されるロボット教示の動作内容(制御コマンド)、制御情報、制御パラメータの例である。
図6に示す通り、各動作内容(制御コマンド)と動作に必要な制御情報(種別、値)および制御パラメータが紐づけられている。たとえば、ケース間移動制御1では、制御情報の種別として、移動元ケース、移動元枠、移動先ケース、移動先枠、対象物および数量がある。また、これらの各種別に対して、値を設定する。例えば、ケース間移動制御1では、動作内容は移動元ケース50から移動先ケース60間の移動で移動先を絶対位置(移動先枠:枠B)で指定する移動制御であり、制御コマンドは、PickPlaceCntl1である。また、制御情報が移動元ケースの場合、対応する制御パラメータは、種別:Src_pos_1、値:P_50となる。同様に、各制御パラメータは、移動元枠の場合には種別:Src_pos_2、値:P_50aとなり、移動先ケースの場合には種別:Dst_pos_1、値:P_60となり、移動先枠の場合には種別:Dst_pos_2、値:P_60aとなり、対象物の場合には種別:Target_pos、値:Obj1となり、数量の場合には種別:Move_rep、値:2となる。
同様に、ケース間移動制御2では、動作内容は、移動元ケース50から移動先ケース60間の移動で移動先を相対位置(配置起点と配置方向)で指定する移動制御であり、動作コマンドはPickPlaceCntl2である。同様に、枠内移動調整1では、動作内容は、移動先の枠内での配置位置の調整制御であり、動作コマンドはAdjustCntl1である。また、これら以外に、図には記していない同一ケース内枠間移動制御(移動先ケース60内で異なる枠間の移動制御)、移動速度制御等の各動作内容(制御コマンド)と動作に必要な制御情報(種別、値)および制御パラメータが紐づけられても良い。
これらの動作内容および制御情報と、動作コマンドおよび制御パラメータ、および両者の紐づけは、初期設定(ST000)で行われ、指示情報推定部130に紐づけリストとして設定・記憶される。この紐づけリストに示される動作内容毎の制御情報が必須情報の一例である。制御情報の種別は、移動元ケース、移動元枠、移動先ケース、移動先枠、数量、相対的な配置位置を示す場合の配置起点および配置方向、枠内移動調整制御の移動先枠、配置方向および配置移動量などである。
図4に戻り、処理フローの説明を続ける。不足情報特定部131は、音声入力文から抽出した動作内容および制御情報が、初期設定時に記憶された紐づけリストに含まれているか否かを判定する(ST006)。たとえば、音声入力単語列「“物A”、“を”、“枠B”、“に”、“2”、“個”、“配置”、“して”、“下さい”」が入力された場合、不足情報特定部131は、入力された単語列から、事前学習した動作内容および制御情報の推定モデルにより、動作内容をケース間移動制御1と推定し、制御情報をそれぞれ“物A”、“枠B”、“2”、と推定・抽出する。音声入力単語列に動作内容および制御情報が含まれているので、「動作内容および制御情報が含まれている」と判定(ST006 Yes)する。
続いて、図5に移り、不足情報特定部131は、抽出した制御情報が動作内容(ケース間移動制御1)に必要な制御情報を満たしているか、制御情報が不足していないか判定を行う(ST008)。動作内容がケース間移動制御1の場合、必要となる制御情報は、図6に示すとおり、移動元ケース、移動元枠、移動先ケース、移動先枠、数量である。指示情報推定部130は、初期設定(ST000)で、移動元ケースはケース50、移動先ケースはケース60と設定しており、さらに、音声入力から抽出した対象物“物A”、移動先枠“枠B”、数量“2”の制御情報を得て、動作内容(ケース間移動制御1)の制御情報に「不足なし」と判定する(ST008 No)。指示情報補完部132は、不足情報特定部131から動作内容および制御情報を受け取り、受け取った動作内容および制御情報をそのまま制御信号出力部140に出力する。
制御信号出力部140は、指示情報(動作内容および制御情報)を紐づけリストに従い、制御コマンド(PickPlaceCntl1)および制御パラメータ(Src_pos_1:P_50、Src_pos_2:P_50a、Dst_pos_1:P_60、Dst_pos_2:P_60b、Target_pos:Obj1、Move_rep:2)に変換して、ロボット制御装置13へ出力する。
ロボット制御装置13は、ロボット教示装置100から教示された制御コマンドおよび制御パラメータをロボット制御プログラムに反映し、ロボット10の動作を制御する。
ロボット10は、ロボット制御装置13の動作指令に従い、移動元ケース50内の配置枠50a(“枠A”)から、移動対象物50a1(“物A”)をピックアップし、移動先ケース60の配置枠60b(“枠B”)内に移動する。また、移動数量は“2個”であるため、この動作をもう1回行う。
次に、熟練者や専門家がロボットへの指示を行っているが、指示情報のうち動作内容が不足している場合の動作について説明する。
図4のST002から説明する。ロボット教示装置100は、音声入力を受け付ける状態で(ST002)、操作者が、「2個配置して下さい」と発話した場合、不足情報特定部131では、得られた音声入力単語列は「 “2”、“個”、“配置”、“して”、“下さい”」となる(ST004)。
不足情報特定部131は、入力された音声入力単語列から、事前学習した動作内容および制御情報の推定モデルにより動作内容の推定を行う。この音声入力単語列には、移動対象物、移動先配置位置を示す単語および配置位置に相当する単語が含まれていないため、動作内容を“不明”と推定する。また、制御情報の推定は“移動対象物”を“未指定”、“配置位置“未指定”、“数量”を“2”と推定する。その結果、動作内容および制御情報が音声指示内容に含まれるか否かの判定結果は“No”となり(ST006 No)、入出力部150の表示部に動作制御の音声再入力の依頼を提示(ST007)し、操作者へ音声操作の再入力を促す。入出力部150は、音声再入力の提示の他、ワーニングや注意等の表示を行っても良い。
図7は、実施の形態1に係るロボット制御システム1000にて実行されるロボット教示の概要を示す例である。図7(a)は対象物の移動前を示し、図7(b)は対象物の移動後を示したものである。
図7に示す通り、操作者が、ロボット10に対して、移動元ケース50内の移動対象物50a1を移動先ケース60の配置枠60b内のすでに配置された“物B”70a1の左スペース60b_Lに移動・配置するための動作を教示する際のロボット教示装置100の動作を説明する。
図4に戻り、処理フローの説明を行う。ロボット教示装置100は、音声入力を受け付ける状態(ST002)にあり、操作者は、例えば、「物Aを物Bの左に1個配置して下さい」とロボット教示装置100に音声入力する。音声認識部110で音声認識処理を行い、不足情報特定部131は、音声認識結果を音声入力単語列「“物A”、“を”、“物B”、“の”、“左”、“に”、“1”、“個”、“配置”、“して”、“下さい”」に変換する(ST004)。続いて音声入力単語列に含まれる動作内容と制御情報を推定し、抽出する(ST005)。
不足情報特定部131は、入力された単語列から、事前学習した動作内容および制御情報の推定モデルにより、動作内容はケース間移動制御2と推定し、制御情報の推定では、“対象物”を“物A”、“移動先配置起点”を“物B”、“移動先配置方向”を“左”、“数量”を“1”と推定・抽出する。音声入力単語列に動作内容および制御情報が含まれているので、「動作内容および制御情報が含まれている」と判定(ST006 Yes)する。
続いて、図5に移り、不足情報特定部131は、抽出した制御情報が動作内容(ケース間移動制御2)に必要な制御情報を満たしているか、制御情報が不足していないか判定を行う(ST008)。動作内容がケース間移動制御2の場合、必要となる制御情報は、図5に示すとおり、移動元ケース、移動元枠、移動先ケース、移動先配置起点、移動先配置方向、対象物、数量である。指示情報推定部130では、初期設定(ST000)で、移動元ケースはケース50、移動先ケースはケース60と設定しており、さらに、音声入力から抽出した“対象物”は“物A”、“移動先配置起点”は“物B”、“移動先配置方向”は“左”、“数量”は“1”の制御情報を得て、制御情報に「不足なし」と判定する(ST008 No)。指示情報補完部132は、不足情報特定部131から動作内容および制御情報を受け取り、受け取った動作内容および制御情報をそのまま制御信号出力部140に出力する。
制御信号出力部140は、制御情報(動作内容および制御情報)を紐づけリストに従い、制御コマンド(PickPlaceCntl2)および制御パラメータ(Src_pos_1:P_50、Src_pos_2:P_50a、Dst_pos_1:P_60、Dst_pos_obj_start:P_70b、Dst_pos_obj_dir:Left、Target_pos:Obj1、Move_rep:1)に変換して、ロボット制御装置13へ出力する。
ロボット制御装置13は、ロボット教示装置100から教示された制御コマンドおよび制御パラメータをロボット制御プログラムに反映し、ロボット10の動作を制御する。
図7(a)の対象物移動前および図7(b)の対象物移動後に示す通り、ロボット10は、ロボット制御装置13の動作指令に従い、移動元ケース50内の配置枠50a(“枠A”)から、移動対象物50a1(“物A”)をピックアップし、移動先ケース60の配置枠60b内にある移動先配置起点70a1(”物B“)の移動先配置方向(”左“)に移動する。
次に、専門的な知識がない現場作業者や不慣れな初心者が操作者としてロボット10への動作指示を行い、指示情報のうち制御情報が不足している場合のロボット教示装置100の動作について説明する。
操作者は、ロボット10への音声で動作指示を行う際に、音声入力用のコマンドやパラメータを完全には把握していないため、時には通常の人との会話で使用する表現を用いてしまう場合がある。配置先の特定に必要な情報である“配置方向”を具体的な“左”や“右”などではなく、起点とした対象物の“横”、“隣”、“そば”など、方向が明示されない曖昧な表現を用いてしまう場合などである。たとえば、「物Aを物Bの“左”に1個配置して下さい」と指示する際に、「物Aを物Bの“横”に1個配置して下さい」と指示する場合などである。
図4のST002から再度説明する。ロボット教示装置100は、音声入力を受け付ける状態(ST002)にあり、操作者により、「物Aを物Bの横に1個配置して下さい」とロボット教示装置100に音声入力される。
音声認識部110で音声認識処理を行う(ST003)。不足情報特定部131は、音声認識結果「物Aを物Bの横に1個配置して下さい」を音声入力単語列「“物A”、“を”、“物B”、“の”、“横”、“に”、“1”、“個”、“配置”、“して”、“下さい”」に変換する(ST004)。続いて音声入力単語列に含まれる動作内容と制御情報を推定し、抽出する(ST005)。
不足情報特定部131は、入力された単語列から、事前学習した動作内容および制御情報の推定モデルにより、動作内容:ケース間移動制御2、制御情報:“対象物”は“物A”、“移動先配置起点”は“物B”、“移動先配置方向”は“未指定”、“移動先配置方向関連ワード”は“横”、“数量”は“1”と推定・抽出する。音声入力単語列に動作内容および制御情報が含まれているので、「動作内容および制御情報が含まれている」と判定(ST006 Yes)する。なお、“移動先配置方向関連ワード”とは“横”の他に、“隣”、“そば”、“周辺”、“近く”など、移動先配置方向に関連する意味を持つワードである。
続いて、図5に移り、不足情報特定部131は、抽出した制御情報が動作内容(ケース間移動制御2)に必要な制御情報を満たしているか、制御情報が不足していないか判定を行う(ST008)。動作内容がケース間移動制御2の場合、必要となる制御情報は、図5に示すとおり、移動元ケース、移動元枠、移動先ケース、移動先配置起点、移動先配置方向、対象物、数量である。なお、指示情報推定部130は、初期設定(ST000)で、移動元ケースはケース50、移動先ケースはケース60と設定している。不足情報特定部131は音声入力から抽出した“対象物”は“物A”、“移動先配置起点”は“物B”、“移動先配置方向”は“未指定”、“移動先配置方向関連ワード”は“横”、“数量”は“1”の制御情報を得る。ここで制御情報の“移動先配置方向”が“未指定”のため、制御情報が不足していると判定し、不足している情報が”移動先配置方向”であると特定する(ST008 Yes)。
続いて、不足情報特定部131は、“移動先配置方向関連ワード”を含んでいるか確認する(ST010)。関連語を含まない場合(ST010 No)には、図4に戻り、入出力部150の表示部へ再入力依頼を提示し、操作者に再音声入力を促す(ST007)。
“移動先配置方向関連ワード”である、“横”を含んでいる場合(ST010 Yes)、環境情報取得部120は、センサ12から得られたセンサ情報を解析し、ロボット周辺環境に関する環境情報を取得する(ST011)。
図8は、環境情報取得部120が取得した環境情報の具体例を示したものである。
図8に示す通り、環境情報取得部120では、移動先の配置空間に関する情報としてすでに配置済みの移動先配置起点70a1(“物B”)の環境情報が得られている。ここでの環境情報は、例えば、移動先配置起点70a1(位置:P_70a1、幅:P_70a1_w、高さ:P_70a1_h)、空間L(位置:P_60b_Sp_L、幅:P_60b_Sp_L_w、高さ:P_60b_Sp_L_h)および空間R(位置:P_60b_Sp_R、幅:P_60b_Sp_R_w、高さ:P_60b_Sp_R_h)である。図5に戻り、指示情報推定部130は、制御情報および環境情報を用いて指示情報補完処理を行う(ST012)。
図9は、実施の形態1に係るロボット教示装置100における指示情報補完部132の指示情報補完処理のフローチャートである。
図9に示す通り、指示情報補完部132は、空間Lと空間Rのサイズを計算する(ST100)。例えば、空間Lのサイズ(P_60b_Sp_L_Size)は、幅(P_60b_Sp_L_w)×高さ(P_60b_Sp_L_h)で計算する。同様に、空間Rのサイズ(P_60b_Sp_R_Size)は、幅(P_60b_Sp_R_w)×高さ(P_60b_Sp_R_h)で計算する。
次に、指示情報補完部132は、取得した空間Lのサイズ(P_60b_Sp_L_Size)と空間Rのサイズ(P_60b_Sp_R_Size)、および閾値TH_LR、閾値TH_RLを使用し、補完処理を制御する。閾値TH_LRおよび閾値TH_RLは、空間Lのサイズと空間Rのサイズを比較する際に重みづけとなる閾値である。閾値より超える差があるとき、補完処理を行う。サイズの単位は、センサから得られた位置情報の単位である。画素単位でも良いし、長さに補正したcm(センチメートル)やmm(ミリメートル)などの単位としても良い。
まず、空間Lのサイズ‐空間Rのサイズが閾値TH_LRより大きいか否かを判定する(ST101)。空間Lのサイズ‐空間RのサイズがTH_LRより大きい場合(ST101 Yes)には、制御情報の“移動先配置方向”を“未指定”から“左”に補正する(ST102)。
TH_LRより小さい場合(ST101 No)には、空間Rのサイズ‐空間Lのサイズが閾値TH_RLより大きいか否かを判定する(ST103)。空間Rのサイズ‐空間LのサイズがTH_RLより大きい場合(ST103 Yes)には、制御情報の“移動先配置方向”を“未指定”から“右”に補正する(ST104)。
空間Rのサイズ‐空間LのサイズがTH_RLより小さい場合(ST103 No)には、制御情報の補正を行わず、図4に戻り、入出力部150の表示部へ再入力依頼を提示し、操作者に再音声入力を促す(ST007)。
例えば、閾値TH_LRを10、閾値TH_RLを10と設定し、センサ情報として、空間Lの幅(P_60b_Sp_L_w)が5cm、高さ(P_60b_Sp_L_h)が3cm、空間Rの幅(P_60b_Sp_R_w)が1.5cm、高さ(P_60b_Sp_R_h)が3cmと得られた場合には、空間Lのサイズ(P_60b_Sp_L_Size)は、5×3=15、空間Rのサイズ(P_60b_Sp_R_Size)は、1.5×3=4.5となり、この場合、空間Lのサイズ‐空間Rのサイズ=10.5>閾値TH_LR(10)より大きいため、制御情報の“移動先配置方向”を“未指定”から“左”に補正する。
図5に戻り、指示情報補完部132は、動作内容と、それに対応する補完済みの制御情報を制御信号出力部140に出力する。例えば、指示情報補完部132は、音声入力から抽出した制御情報の“移動先配置方向” を“未指定”から“左”に補正した制御情報である、“対象物”は“物A”、“移動先配置起点”は“物B”、“移動先配置方向”は“左”、“数量”は“1”の制御情報と、動作内容とを制御信号出力部140に出力する。
制御信号出力部140は、指示情報(動作内容および制御情報)を紐づけリストに従い、制御コマンド(PickPlaceCntl2)および制御パラメータ(Src_pos_1:P_50、Src_pos_2:P_50a、Dst_pos_1:P_60、Dst_pos_obj_start:P_70b、Dst_pos_obj_dir:Left、Target_pos:Obj1、Move_rep:1)に変換して、ロボット制御装置13へ出力する。
ロボット制御装置13は、ロボット教示装置100から教示された制御コマンドおよび制御パラメータをロボット制御プログラムに反映し、ロボット10の動作を制御する。例えば、移動元ケースSrc_pos_1:P_50、移動元枠Src_pos_2:P_50a、移動対象物Target_pos:Obj1等から移動元の移動対象物の位置情報を算出する。また、移動先枠位置Dst_pos_1:P_60、移動先枠内の移動先起点Dst_pos_obj_start:P_70b、起動先方向Dst_pos_obj_dir:Left等から移動先の配置位置を算出する。移動元位置と移動先位置および移動対象物を設定し、ロボット10の動作を制御する。
図7(a)の対象物移動前および図7(b)の対象物移動後に示す通り、ロボット10は、ロボット制御装置13の動作指令に従い、移動元ケース50内の配置枠50a(“枠A”)から、移動対象物50a1(“物A”)をピックアップし、移動先ケース60の配置枠60b内にある移動先配置起点70a1(”物B“)の移動先配置方向(”左“)に配置する。
以上のような動作により、ロボット教示装置100は、周辺物体位置情報に基づき、ロボットの動作指示に不足している情報を指示情報に補完するようにしたので、習熟度の低い操作者や教示に慣れない操作者による音声操作指示が行われても、ロボットへの教示を行うことができる。
より具体的には、音声によるロボット教示において、移動対象物を所定の場所へ移動する教示の際に、習熟度の低い操作者や教示に慣れない操作者による曖昧な言葉を含む動作制御指示が行われても、曖昧な制御情報を具体的な移動方向の制御情報に補正することで、操作者の意図に沿ったロボット教示を行うことができる。
なお、移動先の制御パラメータとして、枠位置Dst_pos_1:P_60、枠内の移動先起点Dst_pos_obj_start:P_70b、起動先方向Dst_pos_obj_dir:Leftをロボット制御装置13へ出力し、それらの情報からロボット制御装置13で、配置先の位置情報を算出するように記載しているが、空間L(位置:P_60b_Sp_L)の位置情報を使い、直接移動先位置を指定してロボット制御装置13へ出力するようにしても良い。
なお、実施の形態1に係るロボット制御システム1000では、ロボット教示装置100とロボット制御装置13およびロボット10がそれぞれ独立した構成としているが、ロボット教示装置100とロボット制御装置13の構成を一体型の構成としても良い。また、ロボット制御装置13およびロボット10の構成を一体型としても良い。
なお、指示情報補完部132の処理において、“移動先配置方向”として左右方向(x軸方向)の例について記載したが、上下方向(y軸方向)、斜め方向(x、y軸方向)についても同様に、環境情報取得部120にて、センサ12からのセンサ情報を解析し、移動先配置起点70a1(“物B”)の環境情報として、上下方向もしくは斜め方向の周辺物体位置情報(位置P、高さh、幅w)を得ることで、制御情報および環境情報を用いて指示情報補完処理を行っても良い。
例えば、 移動先配置起点70a1(”物B“)の移動先配置方向として“上”の動作制御指示が行われた場合、環境情報取得部120にて、センサ12からのセンサ情報を解析し、移動先配置起点70a1(“物B”)の環境情報として、3次元での上方向(z軸)と2次元での上方向(y軸)の空間情報(位置、面積、容積)を得ることで、移動先配置起点70a1(“物B”)に並べて配置する、もしくは、移動先配置起点70a1(“物B”)の上に重ねて配置するなど、指示情報補完処理を行っても良い。
なお、実施の形態1に係るロボット制御システム1000におけるロボット教示装置100の指示情報推定部130の動作として、制御情報の“数量”が“1”の場合について記載したが、制御情報の“数量”が2以上の場合には、環境情報取得部120の解析で得られた“物A”の大きさ情報と移動先配置起点70a1(“物B”)の移動先配置方向(左)の配置空間Lの中で、指定された数量の対象物が配置できるように、各対象物の配置位置を変更しても良い。
すなわち、音声認識部110は、音声信号から、移動対象物の数量を示す数量情報を含む指示情報を取得し、指示情報推定部130は、周辺物体位置情報と数量情報とに基づき、指示情報に不足している情報を補完するようにしてもよい。
例えば、指示情報補完部132は、“数量”が1の場合には、配置スペースの中央に移動対象物を配置するように指示情報を補完し、“数量”が2以上の場合には、1つ目の移動対象物を配置スペースの端に配置するように指示情報を補完し、2つ目の移動対象物を1つ目の移動対象物の隣に配置するように指示情報を補完するようにしてもよい。
なお、実施の形態1に係るロボット制御システム1000におけるロボット教示装置100の指示情報補完部132の動作として空間Lと空間Rのサイズを比較して、移動先配置方向を推定しているが、操作者から連続で入力された次の音声動作指示内容を確認し、その内容が否定的な指示か、肯定的な指示かを判定して、補正処理を行っても良い。例えば、操作者から、次の音声動作指示で、否定的な指示(「違う」とか「そうじゃない」とか)が行われた場合には、環境情報取得部120から得た空間Lもしくは空間Rの大きさに重みづけを行い、空間L‐空間Rの大きさ判定を行っても良い。空間L>空間Rのため、移動先配置方向をL(左)と推定した場合でも、その逆の方向R(右を)推定結果とする、もしくは、空間Rのサイズを1未満の係数で縮小して後で、比較を行っても良い。また、同様に、操作者より、次の音声動作指示で肯定的な指示(「そうそう」とか「いいね」とか)が行われた場合には、空間Lのサイズを1未満の係数で縮小し、比較を行っても良い。この場合、操作指示者がロボットと向かい合う位置関係の場合でも、音声操作で、配置位置を教示することができる。
すなわち、音声認識部110は、第一の音声信号から第一の指示情報を取得し、第二の音声信号から第二の指示情報を取得し、指示情報推定部130は、第二の指示情報が肯定的な指示であるか、否定的な指示であるかを判定し、その判定結果に基づき第一の指示情報に不足している情報を補完するようにしてもよい。
なお、実施の形態1に係るロボット制御システム1000におけるロボット教示装置100の指示情報補完部132の補完結果に基づいて、ロボット10の制御を行っているが、指示情報補完部132の補完結果を入出力部150の表示部へ提示し、移動対象物を配置する移動先の位置を操作者に画面上で確認できるようにしても良い。また、操作者の確認・了承を受けた後にロボット教示を行うように制御しても良い。
図10は、実施の形態1に係る入出力部150による移動対象物の移動先表示例である。図10に示すように、移動量情報の目安を表示することで、操作者に移動対象物の移動先をわかりやすく伝えることができる。
次に、ロボット教示装置100が移動対象物の種類や温度に応じて指示情報を補完する変形例について説明する。
実施の形態1に係るロボット制御システム1000におけるロボット教示装置100の指示情報補完部132では、“移動先配置方向”の補正結果に基づいて移動対象物50a1(“物A”)を、移動先配置起点70a1(”物B“)の移動先配置方向(”左“)である空間L内に配置する例について記載しているが、移動対象物50a1(“物A”)を空間L内に配置する際に、移動対象物50a1(“物A”)および移動先配置起点70a1(”物B“)の種類や温度等を加味して両者の配置位置を決める場合がある。
例えば、物Aと物Cを枠B内に配置することを考えた場合には、物Aと物Cを2つの距離を空けて配置する、一部の領域を重ねて配置する、重ねて配置するなど、いくつかの配置指定が想定される。例えば、機械部品などの移動・配置では、同一種類のものは重ねて配置する、異なる種類のものは重ねず配置するなどである。また、異なる種類の物体を並べて配置する場合でも、例えば、部品と部品の上に載せるグリースや油などが対象物の場合には、重ねて配置するように制御を行う。
食品の盛り付け等であれば、例えば、ご飯の上にカレー、餡かけ、ふりかけ、梅干しなどを配置する際には、重ねて配置する、コロッケとキャベツであれば、一部重ねて配置する、唐揚げや焼売などの固形物同士であれば、重ねずに並べて配置するなどである。また、移動対象物の温度によっても、高温のものと低温のものは重ねない、近づけずに離して置く、などの制御が必要な場合もある。それらの場合の処理について説明する。
以下の変形例では、環境情報取得部120は、さらに、移動対象物の温度を示す温度情報を取得し、指示情報推定部130は、周辺物体位置情報と温度情報とに基づき、指示情報に不足している情報を補完する。
また、指示情報推定部130は、移動対象物の種類を示す種類情報を取得し、周辺物体位置情報と種類情報とに基づき、指示情報に不足している情報を補完する。
図11は、実施の形態1に係る指示情報補完部132の指示情報補完処理のフローチャートで図9のフローチャートに重なり処理(ST105)を追加したものである。
また、図12は、実施の形態1に係る指示情報補完部132の重なり処理(ST105)の処理の詳細を示すフローチャートである。
図12に示す通り、指示情報補完部132は、対象物(物Aおよび物B)の種類情報リストから物体種類情報を取得する(ST200)。種類情報リストとは、移動先配置起点対象物名、移動対象物名、それぞれの状態(固形物/流動物)、重ね可否(物Aは物Bに重ねる対象か否か)、重なり値(物Aを物Bにどの程度重ねるか)等、対象物(物Aおよび物B)に関する情報を記載したリストである。例えば、機械部品などであれば、部品Bの上に部品Aを配置する場合には、移動先配置起点対象物:部品B、移動先配置起点対象物の状態:固形物、移動対象物:部品A、移動対象物の状態:固形物、重ね可否:可、重なり値:Overlap_Aと登録する。部品Bの上に油Aを配置する場合には、移動先配置起点対象物:部品B、移動先配置起点対象物の状態:固形物、移動対象物:油A、移動対象物の状態:流動物、重ね可否:可、重なり値:Overlap_Bを登録する。同様に食品等であれば、食品B(固形物)の上に食品A(固形物)を配置する場合には、移動先配置起点対象物:食品B、移動先配置起点対象物の状態:固形物、移動対象物:食品A、移動対象物の状態:固形物、重ね可否:可、重なり値:Overlap_Bと登録する。食品B(固形物)の上に食品C(流動物)を配置する場合には、移動先配置起点対象物:食品B、移動先配置起点対象物の状態:固形物、移動対象物:食品C、移動対象物の状態:流動物、重ね可否:可、重なり値:Overlap_Bを登録する。
指示情報補完部132は、得られた物体種類情報から、移動対象物50a1(“物A”)および移動先配置起点70a1(”物B“)を重ねる対象か否か(重ね可否)を判定する(ST201)。重ねる対象である(重ね可否が“可”)場合(ST201 Yes)、種類情報リストから該当する対象物の重なり値(例えば、Overlap_A)を取得し、重なり値V_overlapに設定する(ST202)。重ねる対象でない(重ね可否が“否”)場合(ST201 No)、重なり値を“0”に設定する(ST203)。
続いて、指示情報補完部132は、移動対象物50a1(“物A”)および移動先配置起点70a1(”物B“)の温度情報を環境情報取得部120から取得する(ST204)。両者の温度差が温度差閾値Th_tempよりも大きいか否かを判定する(ST205)。温度差が閾値Th_tempを超えた場合(ST205 Yes)、移動対象物50a1(“物A”)と移動先配置起点70a1(”物B“)の配置距離D_distanceを大きな距離D_farに設定する(ST206)。また、温度差が閾値Th_tempを超えない場合(ST205 No)、配置距離D_distanceを小さな距離D_nearに設定する(ST207)。
指示情報補完部132は、音声入力から抽出した制御情報のうち、“移動先配置方向” を“未指定”から“左”に補正した制御情報である、“対象物”は“物A”、“移動先配置起点”は“物B”、“移動先配置方向”は“左”、“数量”は“1”の制御情報と動作内容に加えて、重なり値V_overlapと配置距離D_distanceを指示情報として制御信号出力部140に出力する。
制御信号出力部140は、指示情報(動作内容および制御情報)を紐づけリストに従い、制御コマンド(PickPlaceCntl2)および制御パラメータ(Src_pos_1:P_50、Src_pos_2:P_50a、Dst_pos_1:P_60、Dst_pos_obj_start:P_70b、Dst_pos_obj_dir:Left、Target_pos:Obj1、Move_rep:1)に変換して、ロボット制御装置13へ出力する。また、重なり値V_overlapと配置距離D_distanceをロボット制御装置13へ出力する。
ロボット制御装置13は、ロボット教示装置100から教示された制御コマンドおよび制御パラメータをロボット制御プログラムに反映し、ロボット10の動作を制御する。例えば、移動元ケースSrc_pos_1:P_50、移動元枠Src_pos_2:P_50a、移動対象物Target_pos:Obj1等から移動元の移動対象物の位置情報を算出する。また、移動先枠位置Dst_pos_1:P_60、移動先枠内の移動先起点Dst_pos_obj_start:P_70b、起動先方向Dst_pos_obj_dir:Left、重なり値V_overlapと配置距離D_distance等から移動先の配置位置を算出する。移動元位置と移動先位置および移動対象物を設定し、ロボット10の動作を制御する。
なお、環境情報取得部120は、温度情報をセンサ12から取得しているが、種類情報リストにあらかじめ登録しておき、例えば、移動対象物の種類に紐づけられた温度情報を取得するようにしても良い。また、この場合にも、種類情報リストに登録されていない物体については、センサ12で取得したセンサ情報を用いて物体の状態情報を取得しても良い。また、各物体のセンサ情報から重なり度合いを推定しても良い。
以上のように、音声によるロボット教示において、移動対象物を所定の場所へ移動する教示の際に、習熟度の低い操作者や教示に慣れない操作者による曖昧な言葉を含む動作制御指示が行われても、曖昧な制御情報を具体的な移動方向の制御情報に補正し、また、移動対象物および移動起点物の種類や温度に応じた適切な配置位置に補正を行うことで、操作者の意図に沿ったロボット教示を行うことができる。
実施の形態2.
実施の形態2に係るロボット制御システム2000は、実施の形態1に係るロボット教示装置100の指示情報補完部132の指示情報補完処理フローのステップ(ST012)内の処理について、一部変更・追加される以外は、実施の形態1に係るロボット制御システム1000の構成と同じである。実施の形態2では、ロボット教示装置200が、移動対象物の移動量を推定する例について説明する。
図13は実施の形態2に係るロボット教示装置200及びロボット制御システム2000の構成を示す構成図である。また、ハードウェア構成については、実施の形態1に係るロボット教示装置100と同様である。
実施の形態2では、不足情報特定部231が、配置位置を示す情報のうち、移動対象物の移動量を示す情報が不足していると特定した場合、指示情報補完部232は、周辺物体位置情報に基づき、指示情報に移動対象物の移動量を示す情報を補完する。
また、環境情報取得部220は、センサ情報に基づき、移動対象物の位置を示す対象物位置情報を周辺物体位置情報の一つとして取得し、指示情報推定部230は、対象物位置情報に基づき、指示情報に不足している情報を補完する。
図14は、実施の形態2に係るロボット制御システム2000及びロボット教示装置200にて実行されるロボット教示の概要を示す例である。図14(a)は対象物移動後(1回目:移動対象物50a1を移動した後)の状態を示し、図14(b)は対象物移動後(2回目:移動対象物50a2を移動した後)を示したものである。
図14(a)に示す通り、操作者は、音声入力で「物Aを枠Bに1個配置して下さい」と1回目のロボット教示を行う。その教示を受けてロボット20は、移動元ケース50内の移動対象物50a1を移動先ケース60の配置枠60b内に移動・配置したとする(1回目の移動・配置)。ここで、配置位置は、配置枠60b内であるが、操作者の意図した枠内配置位置が、配置枠60b内の他の位置である場合、2回目以降の配置位置を調整するための枠内移動調整の教示を行う。
ここでは、2回目以降に実施する同一枠内の移動調整を教示する際のロボット教示装置200の動作を説明する。操作者の1回目の配置指示にて、“物A”を“枠B”に配置した結果、操作者が意図した配置場所(60b_req)に対して、配置枠60bの同一枠内ではあるが、枠内の右寄りの位置(60b_1st_placed)に配置されたとする。ここで、2回目以降の配置位置を配置位置(60b_req)調整するための枠内移動調整の教示を行う。
例えば、操作者の1回目の配置指示にて、“物A”を“枠B”に配置した結果に対して、2回目以降の配置位置を1回目の配置位置より5cm左に配置調整を行う場合について説明する。
ステップ012(ST012)以外の処理は実施の形態1と同様であるので、図4及び図5のフローチャートを用いて、ロボット教示装置200及びロボット制御システム2000の動作について説明する。
図4に示す通り、ロボット教示装置200は、音声入力を受け付ける状態(ST002)にあり、操作者は、ロボット20に対して、調整する移動方向を“左”、調整する移動量DXの値として“5cm”を教示するため、「物Aを左に5cmずらして下さい」とロボット教示装置200に音声入力する。音声認識部210で音声認識処理を行い、不足情報特定部231は、音声認識結果を音声入力単語列「“物A”、“を”、“左”、“に”、“5”、“cm”、“ずらし”、“て”、“下さい”」に変換する(ST004)。続いて音声入力単語列に含まれる動作内容と制御情報を推定し、抽出する(ST005)。
不足情報特定部231は、入力された単語列から、事前学習した動作内容および制御情報の推定モデルにより、動作内容:枠内移動調整1、制御情報:“対象物”は“物A”、“移動先枠”は“枠B”、“移動先配置方向”は“左”、“移動先配置移動量”は“5cm”を推定・抽出する。音声入力単語列に動作内容および制御情報が含まれているので、「動作内容および制御情報が含まれている」と判定(ST006 Yes)する。
続いて、図5に移り、不足情報特定部231は、抽出した制御情報が動作内容(枠内移動調整1)に必要な制御情報を満たしているか、制御情報が不足していないか判定を行う(ST008)。動作内容が枠内移動調整1の場合、必要となる制御情報は、図6に示すとおり、移動元ケース、移動元枠、移動先ケース、移動先枠、移動先配置方向、対象物、移動先配置移動量である。なお、指示情報推定部230は、初期設定(ST000)で、“移動元ケース”は“ケース50”、“移動先ケース”は“ケース60”、と設定しており、また、1回目の音声入力で “移動先枠”は“枠B”が設定されている。さらに、2回目の音声入力から抽出した “対象物”は“物A”、“移動先配置方向”は“左”、“移動先配置移動量”は“5cm”の制御情報を得て、必要な制御情報が含まれていると判定する(ST008 No)。指示情報補完部232は、不足情報特定部231から動作内容および制御情報を受け取り、受け取った動作内容および制御情報をそのまま制御信号出力部240に出力する。なお、配置移動量の“Dx”の指定は、“ミリメートル(mm)”“センチメートル(cm)”など、長さ単位で指定しても良いし、あらかじめ移動量を紐づけた番号などで指定しても良い。
制御信号出力部240は、指示情報(動作内容および制御情報)を紐づけリストに従い、制御コマンド(AdjustCntl1)および制御パラメータ(Dst_pos_2:P_60b、Dst_pos_obj_dir:Left、Target_pos:Obj1、Dst_pos_obj_amt:5cm)に変換して、ロボット制御装置23へ出力する。
ロボット制御装置23は、ロボット教示装置200から教示された制御コマンドおよび制御パラメータをロボット制御プログラムに反映し、ロボット20の動作を制御する。
図14(b)に示す通り、ロボット20は、ロボット制御装置23の動作指令に従い、2回目以降、移動元ケース50内の配置枠50a(“枠A”)から、移動対象物50a2(“物A”)をピックアップし、移動先ケース60の配置枠60b(“枠B”)内の1回目に置いた配置位置(60b_1st_placed)より左に5cmだけ移動した位置(60b_2nd_placed)に配置する。
次に、専門的な知識がない現場作業者や不慣れな初心者が操作者としてロボット20への動作指示を行い、指示情報が不足している場合のロボット教示装置200の動作について説明する。
操作者は、ロボット20への音声で移動調整の動作指示を行う際に、音声入力用のコマンドやパラメータを完全には把握していないため、移動調整に必要な情報である“配置移動量”を具体的な数値“2cm”や“5cm”などではなく、枠内の位置を示す “右端”、“左端”、“左隅”、“右隅”、“中央”、“真ん中”、“中心”など、移動量が明示されない曖昧な表現を用いてしまう場合がある。たとえば、「物Aを左に5cmずらして下さい」と指示する際に、「物Aを左端にずらして下さい」と指示する場合などである。
図4に戻り説明する。ロボット教示装置200は、音声入力を受け付ける状態(ST002)にあり、操作者は、「物Aを左端にずらして下さい」とロボット教示装置200に音声入力する。
音声認識部210で音声認識処理を行う(ST003)。不足情報特定部231は、音声認識結果「物Aを左端に移動して下さい」を音声入力単語列「“物A”、“を”、“左端”、“に”、 “ずらし”、“て”、“下さい”」に変換する(ST004)。続いて音声入力単語列に含まれる動作内容と制御情報を推定し、抽出する(ST005)。
不足情報特定部231は、入力された単語列から、事前学習した動作内容および制御情報の推定モデルにより、動作内容:枠内移動調整1、制御情報:“対象物”は“物A”、“移動先枠”は“枠B”、“移動先配置方向”は“未指定”、“移動先配置移動量”は“未指定”、“移動先配置移動量関連ワード”を“左端”と推定・抽出する。音声入力単語列に動作内容および制御情報が含まれているので、「動作内容および制御情報が含まれている」と判定(ST006 Yes)する。なお、“移動先配置移動量関連ワード”とは“左端”の他に、“右端”、“左隅”、“右隅”、“中央”、“真ん中”、“中心”など、枠内の位置を示す同様の意味を持つワードである。
続いて、図5に移り、不足情報特定部231は、抽出した制御情報が動作内容(枠内移動調整1)に必要な制御情報を満たしているか、制御情報が不足していないか判定を行う(ST008)。動作内容が枠内移動調整1の場合、必要となる制御情報は、図6に示すとおり、移動元ケース、移動元枠、移動先ケース、移動先枠、移動先配置方向、対象物、移動先配置移動量である。なお、指示情報推定部230は、初期設定(ST000)で、“移動元ケース”は“ケース50”、“移動先ケース”は“ケース60”、と設定しており、また、1回目の音声入力で “移動先枠”は“枠B”が設定されている。さらに、2回目の音声入力から抽出した “対象物”は“物A”、“移動先配置方向”は“未指定”、“移動先配置移動量”は“未指定”の制御情報を得る。ここで、不足情報特定部231は、必要な制御情報の“移動先配置移動量”は“未指定”、“移動先配置方向”は“未指定”のため、制御情報が不足していると判定し、不足情報は”移動先配置移動量”と”移動先配置方向”であると特定する(ST008 Yes)。
続いて、不足情報特定部231は、“移動先配置移動量関連ワード”を含んでいるか確認する(ST010)。関連語を含まない場合(ST010 No)には、図4に戻り、入出力部250の表部へ再入力依頼を提示し、操作者に再音声入力を促す(ST007)。
不足情報特定部231が、関連語を含んでいると判定した場合(ST010 Yes)には、次のステップへ進む。ここでは、“移動先配置移動量関連ワード”である、“左端”を含んでいるため(ST010 Yes)、次のステップに進み、センサ22からセンサ情報を取得する(ST011)。環境情報取得部220は、センサ22から得られたセンサ情報を解析し、ロボット周辺環境に関する環境情報を取得する。
図15は、環境情報取得部220が取得した環境情報の具体例を示したものである。
図15に示す通り、環境情報取得部220では、移動先の配置空間および移動先枠60bの環境情報が得られている。環境情報は、例えば、1回目に移動先枠60bに配置済みの移動対象物50a1の位置情報(P_60b_1st_placed)、移動先枠60bの枠に関する位置情報として、移動先枠60bの枠の左端位置P_60b_L_edge、中心位置P_60b_Center、右端位置P_60b_R_edgeなどである。
図5に戻り、指示情報補完部132は、制御情報および環境情報を用いて指示情報補完処理を行う(ST012)。
図16は、実施の形態2に係るロボット教示装置200における指示情報補完部232の指示情報補完処理のフローチャートである。
図16に示す通り、指示情報補完部232は、環境情報から、1回目に移動先枠60bに配置済みの移動対象物50a1の位置情報(P_60b_1st_placed)を取得する(ST300)。次に、音声入力文字列から“移動先配置移動量関連ワード”を取得する(ST301)。取得した“移動先配置移動量関連ワード”に基づいて、制御を分岐する。
まず、指示情報補完部232は、“移動先配置移動量関連ワード”に“左”を含むか否かを判定する(ST302)。“左”を含む場合には(ST302 Yes)、制御情報の配置方向“未指定”を“左”に補正する(ST303)。次に移動量Dxの算出を行う。移動量Dxは、1回目に移動先枠60bに配置済みの移動対象物50a1の位置情報(P_60b_1st_placed)と、音声入力文字列から抽出した移動先枠60bの枠の指定位置の差分の絶対値にて求める(ST304)。ここでは、“移動先配置移動量関連ワード”が“左端”である場合、枠の指定位置を、移動先枠60bの枠の左端位置P_60b_L_edgeと移動対象物50a1の位置情報(P_60b_1st_placed)で移動量Dxを求める。
例えば、移動対象物50a1の位置情報P_60b_1st_placedのx座標の値が、100として、移動先枠60bの枠の左端位置P_60b_L_edgeのx座標の値が、95の場合、移動量Dxは、5となる。単位がcmの場合、2回目以降は、1回目の配置した位置から5cm左の位置に配置するように教示される。
“移動先配置移動量関連ワード”に“左”を含まない場合には(ST302 No)、指示情報補完部232は、続いて“移動先配置移動量関連ワード”に“右”を含むか否かを判定する(ST305)。“右”を含む場合には(ST305 Yes)、制御情報の配置方向“未指定”を“右”に補正する(ST306)。左の場合と同様に、移動量Dxの算出を行う。移動先枠60bの枠の右端位置P_60b_R_edgeと移動対象物50a1の位置情報(P_60b_1st_placed)で移動量Dxを求める。
次に、“移動先配置移動量関連ワード”に“右”を含まない場合には(ST305 No)、指示情報補完部232は、続いて、“移動先配置移動量関連ワード”に“中”を含むか否かを判定する(ST307)。“中”を含む場合には(ST307 Yes)、1回目に移動先枠60bに配置済みの移動対象物50a1の位置情報(P_60b_1st_placed)と移動先枠60bの枠の中心位置P_60b_Centerから、まず、現在の対象物の位置と枠中心位置が一致するか確認する(ST308)。一致した場合(ST308 Yes)には、図4に戻り、入出力部250の表示部へ再入力依頼を提示し、操作者に再音声入力を促す(ST007)。一致しない場合(ST308 No)には、現在の対象物の位置は枠中心より右か否かを判定する(ST309)。枠中心位置より右ならば(ST309 Yes)、制御情報の配置方向“未指定”を“左”に補正する(ST210)。枠中心位置より左ならば(ST309 No)、制御情報の配置方向“未指定”を“右”に補正する(ST310)。移動量Dxの算出は、1回目に移動先枠60bに配置済みの移動対象物50a1の位置情報(P_60b_1st_placed)と、音声入力文字列から抽出した移動先枠60bの枠の指定位置(中心位置P_60b_Center)の差分の絶対値にて求める(ST311)。
図5に移り、指示情報補完部232は、2回目の音声入力から抽出した制御情報のうち、“移動先配置方向” を“未指定”から“左”に補正し、“移動先配置移動量”を“未指定”から“Dx”に補正し、制御情報は、“対象物”は“物A”、 “移動先配置方向”は“左”、“移動先配置移動量”は“Dx”となる。指示情報補完部232は、動作内容および補正後の制御情報を補完済みの指示情報として制御信号出力部240に出力する。
制御信号出力部240は、指示情報(動作内容および制御情報)を紐づけリストに従い、制御コマンド(AdjustCntl1)および制御パラメータ(Dst_pos_2:P_60b、Dst_pos_obj_dir:Left、Target_pos:Obj1、Dst_pos_obj_amt:Dx)に変換して、ロボット制御装置23へ出力する。
ロボット制御装置23は、ロボット教示装置200から教示された制御コマンドおよび制御パラメータをロボット制御プログラムに反映し、ロボット20の動作を制御する。
図14に示す通り、ロボット20は、ロボット制御装置23の動作指令に従い、移動元ケース50内の配置枠50a(“枠A”)から、移動対象物50a2(“物A”)をピックアップし、移動先ケース60の配置枠60b(“枠B”)内の1回目に置いた配置位置P_50a1より左にDxだけ移動した位置を2回目以降の配置場所(60b_2nd_placed)として、移動対象物50a2(“物A”)を配置する。
以上のような動作により、ロボット教示装置200は、音声によるロボット教示において、移動対象物を所定の場所へ移動する教示の際に、習熟度の低い操作者や教示に慣れない操作者による曖昧な言葉を含む動作制御指示が行われても、曖昧な制御情報を具体的な移動方向および移動量の制御情報に補正することで、操作者の意図に沿ったロボット教示を行うことができる。
なお、実施の形態2に係る指示情報推定部230では、環境情報取得部220から周辺物体位置情報として、各枠内の左端、中心、右端の位置情報を取得して、移動量を算出しているが、各枠内の左端、中心、右端の位置情報を初期設定時に設定しておき、その値と、配置済みの移動対象物50a1の位置情報(P_60b_1st_placed)から、移動量を算出しても良い。
なお、実施の形態2に係る指示情報推定部230の補完結果に基づいて、ロボット20の制御を行っているが、指示情報推定部230の補完結果を入出力部250の表示部へ提示し、移動対象物の移動量の目安となる定規、目盛りなどの寸法のわかる情報を操作者に画面上で確認できるようにしても良い。また、操作者の確認・了承を受けた後にロボット教示を行うように制御しても良い。
図17は、実施の形態2に係る入出力部250よる移動対象物の移動量情報(目安)表示例である。図17に示すように、移動量情報の目安を表示することで、操作者に移動対象物の移動時の移動量をわかりやすく伝えることができる。
また、実施の形態1に係るロボット教示装置100の変形例は、実施の形態2に係るロボット教示装置200にも適用可能である。また、実施の形態2に係るロボット教示装置200の構成を実施の形態1に係るロボット教示装置100に組み合わせても良い。
実施の形態3.
実施の形態3に係るロボット制御システム3000は、ロボット教示装置300の指示情報補完部332の指示情報補完処理フローのステップ(ST012)内の処理について、実施の形態1、2から一部変更・追加される以外は、実施の形態1、2に係るロボット制御システム1000,2000、ロボット教示装置100,200の構成と同じである。実施の形態3では、指示情報補完部332が移動対象物の移動量を推定する別の例について説明する。
図18は、実施の形態3に係るロボット教示装置300及びロボット制御システム3000の構成を示す構成図である。また、ロボット教示装置300のハードウェア構成については、実施の形態1、2に係るロボット教示装置100,200と同様である。
実施の形態3では、実施の形態2に示した専門的な知識がない現場作業者や不慣れな初心者が操作者としてロボット30への動作指示を行う場合のもう1つの例について、ロボット教示装置300の動作を説明する。操作者は、ロボット30への音声で移動調整の動作指示を行う際に、音声入力用のコマンドやパラメータを完全には把握していないため、移動調整に必要な情報である“配置移動量”を具体的な数値“2cm”や“5cm”などではなく、既に配置された移動対象物を基準として、その対象物からのずらしたい“程度”と“方向”を示す“やや左”、“少し左”、“ちょっと右”、“もう少し右”など、移動量が明示されない曖昧な表現を用いてしまう場合がある。たとえば、「物Aを左に5cmずらして下さい」と指示する際に、「物Aを少し左にずらして下さい」と指示する場合などである。
ロボット教示装置300の動作は、ステップ012(ST012)を除いて、実施の形態1、2と同様であるため、図4及び図5のフローチャートを用いて説明する。
これまでと同様に、図4のステップ002(ST002)に戻り説明する。ロボット教示装置300は、音声入力を受け付ける状態(ST002)にあり、操作者は、2回目の音声教示として「物Aを少し左にずらして下さい」とロボット教示装置300に音声入力する。
音声認識部310で音声認識処理を行う(ST003)。不足情報特定部331は、音声認識結果「物Aを少し左に移動して下さい」を音声入力単語列「“物A”、“を”、“少し”、“左”“に”、 “ずらし”、“て”、“下さい”」に変換する(ST004)。続いて音声入力単語列に含まれる動作内容と制御情報を推定し、抽出する(ST005)。
不足情報特定部331は、入力された単語列から、事前学習した動作内容および制御情報の推定モデルにより、動作内容:枠内移動調整1、制御情報:“対象物”は“物A”、“移動先枠”は“枠B”、“移動先配置方向”は“左”、“移動先配置移動量”は“未指定”、“移動先配置移動量関連ワード”は“少し”と推定・抽出する。音声入力単語列に動作内容および制御情報が含まれているので、「動作内容および制御情報が含まれている」と判定(ST006 Yes)する。なお、“移動先配置移動量関連ワード”とは“少し”の他に、“やや”、“大きく”、“ちょっと”、“もう少し”、“少々”、“わずか”、“少しだけ”、“こころもち”など、枠内の移動量の程度を示す同様の意味を持つワードである。
続いて、図5に移り、不足情報特定部331は、抽出した制御情報が動作内容(枠内移動調整1)に必要な制御情報を満たしているか、制御情報が不足していないか判定を行う(ST008)。2回目の音声入力から抽出した “対象物”は“物A”、“移動先配置方向”は“左”、“移動先配置移動量”は“未指定”の制御情報を得る。ここで必要な制御情報の“移動先配置移動量”は“未指定”のため、制御情報が不足していると判定し、不足情報は”移動先配置移動量”であると特定する(ST008 Yes)。
続いて、不足情報特定部331は、“移動先配置移動量関連ワード”を含んでいるか確認する(ST010)。“移動先配置移動量関連ワード”を含まない場合(ST010 No)には、図4に戻り、入出力部350の表示部へ再入力依頼を提示し、操作者に再音声入力を促す(ST007)。
不足情報特定部331が、“移動先配置移動量関連ワード”を含んでいると判定した場合(ST010 Yes)には、次のステップへ進む。ここでは、“移動先配置移動量関連ワード”である、“少し”を含んでいるため(ST010 Yes)、次のステップに進み、センサ32からセンサ情報を取得する(ST011)。環境情報取得部320は、センサ32から得られたセンサ情報を解析し、ロボット周辺環境および移動対象物に関する環境情報を取得する。
図19は、環境情報取得部320が取得した環境情報を示したものである。
図19に示す通り、環境情報取得部320では、移動先の配置空間および移動先枠60bの環境情報が得られている。周辺物体位置情報は、例えば、1回目に移動先枠60bに配置済みの移動対象物50a1の位置情報(P_60b_1st_placed)や、2回目の発話に含まれる移動先方向“左”を元にセンサ32から得た移動先枠60bの枠内の移動対象物50a1の“左側”に関する空間情報(位置:P_60b_Sp_L、幅:P_60b_Sp_L_w、高さ:P_60b_Sp_L_h)である。
図5に戻り、指示情報補完部332は、制御情報および環境情報を用いて制御情報補正処理を行う(ST012)。
図20は、実施の形態3に係る指示情報補完部332の指示情報補完処理のフローチャートである。
図20に示す通り、指示情報補完部332は、周辺物体位置情報として得られた、1回目に移動先枠60bに配置済みの移動対象物50a1の位置情報(P_60b_1st_placed)および移動先枠60bの枠内の移動対象物50a1の“左側”に関する位置情報及び空間情報(位置:P_60b_Sp_L、幅:P_60b_Sp_L_w、高さ:P_60b_Sp_L_h)を取得(ST400)する。次に、指示情報補完部332は、左側の空間サイズを分割数(任意の数値)で除算し、移動量の単位となる移動量幅Wxを算出する(ST401)。たとえば、x方向の移動量増減を2段階とする場合には、x方向の分割数を2とする、移動量増減を4段階とする場合には、x方向の分割数を4とする。ここでは、3段階とし、移動量幅Wxは、P_60b_Sp_L_w/3となる。
次に、指示情報補完部332は、音声入力文字列から“移動先配置移動量関連ワード”を取得する(ST402)。続いて、指示情報補完部332は、“移動先配置移動量関連ワード”が“少し”など、“小さな”移動量を示すワードか否かを判定する(ST403)。“移動先配置移動量関連ワード”が“小さな”移動量を示すワードの場合には(ST403 Yes)、移動量係数Kを小さな値に設定する(ST404)。また、“移動先配置移動量関連ワード”が“小さな”移動量を示すワードではない場合には(ST403 No)、移動量係数Kを大きな値に設定する(ST405)。最終的な移動量は、移動量幅Wxと移動量係数Kより算出する(ST406)。
例えば、小さな移動量を示すワードの場合(ST403 Yes)、指示情報補完部332は、移動量係数Kに“1”を設定する(ST404)。小さな移動量を示すワードを含まない場合(ST403 No)、移動量係数Kに“3”を設定する(ST405)。次に移動量幅Wxと移動量係数Kから、移動量Dxを算出する(移動量Dx=移動量幅Wx×移動量係数K:ST406)。例えば、P_60b_Sp_L_w=9cmの場合、移動量増減を3段階とすると、移動量幅Wxは、P_60b_Sp_L_w/3=3cmとなる。また、移動量係数Kを、例えば、1~3の範囲の値とすると、“移動先配置移動量関連ワード”が“少し”の場合には、移動量係数K=1を設定する。その結果、移動量Dxは、移動量幅Wx×移動量係数K=3cm×1=3cmと算出される。また、“移動先配置移動量関連ワード”が“大きく”の場合には、移動量係数K=3を設定する。その結果、移動量Dxは、移動量幅Wx×移動量係数K=3cm×3=9cmと算出される。このように“移動先配置移動量関連ワード”の内容により、移動量Dxを制御する。
図5に移り、指示情報補完部332は、2回目の音声入力から抽出した制御情報のうち、 “移動先配置移動量”を“未指定”から“Dx”に補正し、制御情報は、“対象物”は“物A”、 “移動先配置方向”は“左”、“移動先配置移動量”は“Dx”となる。指示情報補完部332は、動作内容および補正後の制御情報を補完済みの指示情報として制御信号出力部340に出力する。
制御信号出力部340は、指示情報(動作内容および制御情報)を紐づけリストに従い、制御コマンド(AdjustCntl1)および制御パラメータ(Dst_pos_2:P_60b、Dst_pos_obj_dir:Left、Target_pos:Obj1、Dst_pos_obj_amt:Dx)に変換して、ロボット制御装置33へ出力する。
ロボット制御装置33は、ロボット教示装置300から教示された制御コマンドおよび制御パラメータをロボット制御プログラムに反映し、ロボット30の動作を制御する。
図14に示す通り、ロボット30は、ロボット制御装置33の動作指令に従い、移動元ケース50内の配置枠50a(“枠A”)から、移動対象物50a2(“物A”)をピックアップし、移動先ケース60の配置枠60b(“枠B”)内の1回目に置いた配置位置P_50a1より左にDxだけ移動した位置を2回目以降の配置場所(60b_2nd_placed)として、移動対象物50a2(“物A”)を配置する。
以上のような動作により、ロボット教示装置300は、音声によるロボット教示において、移動対象物を所定の場所へ移動する教示の際に、習熟度の低い操作者や教示に慣れない操作者による曖昧な言葉を含む動作制御指示が行われても、曖昧な制御情報を具体的な移動量の制御情報に補正することで、操作者の意図に沿ったロボット教示を行うことができる。
なお、実施の形態3に係る指示情報補完部332は、“移動先配置移動量関連ワード”を含んでいるか確認し、“移動先配置移動量関連ワード”を含まない場合には、入出力部350の表示部へ再入力依頼を提示し、操作者に再音声入力を促すよう制御しているが、“小さな”移動量を示すワードを含まない場合と同様に、移動量係数Kを所定の値に設定しておき、移動量Dxを算出するように制御しても良い。
なお、実施の形態3に係る指示情報補完部332は、分割数(移動量増減)を3段階、移動量係数Kを1~3の範囲の値としたが、任意の値に設定し、制御しても良い。分割数を増やすことで、移動量の指定を細かく設定することが可能になる。
なお、実施の形態3では、操作者による曖昧な移動調整指示が行われた場合について記載しているが、指示情報補完部332は、2回目の教示で行われた発話内容(「物Aを少し左にずらして下さい」)と、その指示の補正結果(移動量幅Wx、移動量係数K、移動量Dx)の値を保存し、3回目の教示でもう一度同じ発話が実施された場合には、移動量係数Kの値を既存値より大きく設定するように制御しても良い。この制御により、これ以降、同様の曖昧な量的表現による音声指示が行われた場合に、同じ移動調整操作の発話回数を減らす効果が得られる。
すなわち、指示情報推定部330は、音声指示が連続で行われた場合、周辺物体位置情報と音声指示の回数とに基づき、指示情報に不足している情報を補完するようにしてもよい。
また、実施の形態1に係るロボット教示装置100の変形例は、実施の形態3に係るロボット教示装置300にも適用可能である。また、実施の形態3に係るロボット教示装置300の構成を実施の形態1,2に係るロボット教示装置100,200に組み合わせても良い。
本開示に係るロボット教示装置は、FA(Factory Automation)機器に用いるのに適している。
100,200,300 ロボット教示装置、110,210,310 音声認識部、120,220,320 環境情報取得部、130,230,330 指示情報推定部、131,231,331 不足情報特定部、132,232,332 指示情報補完部、140,240,340 制御信号出力部、150,250,350 入出力部、1000,2000,3000 ロボット制御システム、10,20,30 ロボット、11,21,31 マイク、12,22,32 センサ、13,23,33 ロボット制御装置、1 入力装置、2 処理装置、3 記憶装置、4 通信装置、5 出力装置。

Claims (26)

  1. マイクによって収集された音声信号に対して音声認識処理を行い、移動対象物を所定の移動先に配置するロボットへの指示内容を示す指示情報を取得する音声認識部と、
    前記ロボットの周辺環境を検知するセンサによって取得されたセンサ情報に基づき、前記移動先周辺に存在する物体の位置を示す周辺物体位置情報を取得する環境情報取得部と、
    前記周辺物体位置情報に基づき、前記ロボットの動作指示に不足している情報を前記指示情報に補完する指示情報推定部と、
    を備え
    前記指示情報推定部は、
    予め設定された前記ロボットの動作指示に必要な情報である必須情報と、前記指示情報とを比較し、前記ロボットの動作指示に不足している情報を不足情報として特定する不足情報特定部と、
    前記周辺物体位置情報に基づき、前記指示情報に前記不足情報を補完する指示情報補完部と、を備え、
    前記不足情報特定部が、前記移動対象物の配置位置を示す情報が不足していると特定した場合、
    前記指示情報補完部は、前記周辺物体位置情報に基づき、前記指示情報に前記移動対象物の配置位置を示す情報を補完する
    ことを特徴とするロボット教示装置。
  2. マイクによって収集された音声信号に対して音声認識処理を行い、移動対象物を所定の移動先に配置するロボットへの指示内容を示す指示情報を取得する音声認識部と、
    前記ロボットの周辺環境を検知するセンサによって取得されたセンサ情報に基づき、前記移動先周辺に存在する物体の位置を示す周辺物体位置情報を取得する環境情報取得部と、
    前記周辺物体位置情報に基づき、前記ロボットの動作指示に不足している情報を前記指示情報に補完する指示情報推定部と、
    を備え
    前記環境情報取得部は、さらに、前記センサ情報に基づき、前記移動先周辺に存在する物体の大きさを示す形状情報を取得し、前記指示情報推定部は、前記周辺物体位置情報と前記形状情報とに基づき、前記指示情報に不足している情報を補完する
    ことを特徴とするロボット教示装置。
  3. マイクによって収集された音声信号に対して音声認識処理を行い、移動対象物を所定の移動先に配置するロボットへの指示内容を示す指示情報を取得する音声認識部と、
    前記ロボットの周辺環境を検知するセンサによって取得されたセンサ情報に基づき、前記移動先周辺に存在する物体の位置を示す周辺物体位置情報を取得する環境情報取得部と、
    前記周辺物体位置情報に基づき、前記ロボットの動作指示に不足している情報を前記指示情報に補完する指示情報推定部と、
    を備え
    前記環境情報取得部は、さらに、前記センサ情報に基づき、前記移動先周辺に存在する配置可能領域の大きさを示す空間情報を取得し、前記指示情報推定部は、前記周辺物体位置情報と前記空間情報とに基づき、前記指示情報に不足している情報を補完する
    ことを特徴とするロボット教示装置。
  4. マイクによって収集された音声信号に対して音声認識処理を行い、移動対象物を所定の移動先に配置するロボットへの指示内容を示す指示情報を取得する音声認識部と、
    前記ロボットの周辺環境を検知するセンサによって取得されたセンサ情報に基づき、前記移動先周辺に存在する物体の位置を示す周辺物体位置情報を取得する環境情報取得部と、
    前記周辺物体位置情報に基づき、前記ロボットの動作指示に不足している情報を前記指示情報に補完する指示情報推定部と、
    を備え
    前記環境情報取得部は、さらに、前記移動対象物の温度を示す温度情報を取得し、
    前記指示情報推定部は、前記周辺物体位置情報と前記温度情報とに基づき、前記指示情報に不足している情報を補完する
    ことを特徴とするロボット教示装置。
  5. マイクによって収集された音声信号に対して音声認識処理を行い、移動対象物を所定の移動先に配置するロボットへの指示内容を示す指示情報を取得する音声認識部と、
    前記ロボットの周辺環境を検知するセンサによって取得されたセンサ情報に基づき、前記移動先周辺に存在する物体の位置を示す周辺物体位置情報を取得する環境情報取得部と、
    前記周辺物体位置情報に基づき、前記ロボットの動作指示に不足している情報を前記指示情報に補完する指示情報推定部と、
    を備え
    前記音声認識部は、前記音声信号から、前記移動対象物の数量を示す数量情報を含む前記指示情報を取得し、
    前記指示情報推定部は、前記周辺物体位置情報と前記数量情報とに基づき、前記指示情報に不足している情報を補完する
    ことを特徴とするロボット教示装置。
  6. マイクによって収集された音声信号に対して音声認識処理を行い、移動対象物を所定の移動先に配置するロボットへの指示内容を示す指示情報を取得する音声認識部と、
    前記ロボットの周辺環境を検知するセンサによって取得されたセンサ情報に基づき、前記移動先周辺に存在する物体の位置を示す周辺物体位置情報を取得する環境情報取得部と、
    前記周辺物体位置情報に基づき、前記ロボットの動作指示に不足している情報を前記指示情報に補完する指示情報推定部と、
    を備え
    前記指示情報推定部は、音声指示が連続で行われた場合、前記周辺物体位置情報と前記音声指示の回数とに基づき、前記指示情報に不足している情報を補完する
    ことを特徴とするロボット教示装置。
  7. マイクによって収集された音声信号に対して音声認識処理を行い、移動対象物を所定の移動先に配置するロボットへの指示内容を示す指示情報を取得する音声認識部と、
    前記ロボットの周辺環境を検知するセンサによって取得されたセンサ情報に基づき、前記移動先周辺に存在する物体の位置を示す周辺物体位置情報を取得する環境情報取得部と、
    前記周辺物体位置情報に基づき、前記ロボットの動作指示に不足している情報を前記指示情報に補完する指示情報推定部と、
    を備え
    前記音声認識部は、第一の音声信号から第一の指示情報を取得し、第二の音声信号から第二の指示情報を取得し、
    前記指示情報推定部は、前記第二の指示情報が肯定的な指示であるか、否定的な指示であるかを判定し、その判定結果に基づき前記第一の指示情報に不足している情報を補完する
    ことを特徴とするロボット教示装置。
  8. 前記不足情報特定部が、前記配置位置を示す情報のうち、前記移動対象物の配置方向を示す情報が不足していると特定した場合、
    前記指示情報補完部は、前記周辺物体位置情報に基づき、前記指示情報に前記移動対象物の配置方向を示す情報を補完する
    ことを特徴とする請求項に記載のロボット教示装置。
  9. 前記不足情報特定部が、前記配置位置を示す情報のうち、前記移動対象物の移動量を示す情報が不足していると特定した場合、
    前記指示情報補完部は、前記周辺物体位置情報に基づき、前記指示情報に前記移動対象物の移動量を示す情報を補完する
    ことを特徴とする請求項に記載のロボット教示装置。
  10. 前記環境情報取得部は、前記センサ情報に基づき、前記移動対象物の位置を示す対象物位置情報を前記周辺物体位置情報として取得し、
    前記指示情報推定部は、前記対象物位置情報に基づき、前記指示情報に不足している情報を補完する
    ことを特徴とする請求項1からのいずれか一項に記載のロボット教示装置。
  11. 前記指示情報推定部は、前記移動対象物の種類を示す種類情報を取得し、前記周辺物体位置情報と前記種類情報とに基づき、前記指示情報に不足している情報を補完する
    ことを特徴とする請求項1から10のいずれか一項に記載のロボット教示装置。
  12. 作業者が発声した音声を収集し、音声信号を出力するマイクと、
    移動対象物を所定の移動先に配置するロボットの周辺環境を検知し、検知結果を示すセンサ情報を出力するセンサと、
    前記音声信号に対して音声認識処理を行い、前記ロボットへの指示内容を示す指示情報を取得する音声認識部と、
    前記センサ情報に基づき、前記移動先周辺に存在する物体の位置を示す周辺物体位置情報を取得する環境情報取得部と、
    前記周辺物体位置情報に基づき、前記ロボットの動作指示に不足している情報を前記指示情報に補完する指示情報推定部と、
    を備え
    前記指示情報推定部は、
    予め設定された前記ロボットの動作指示に必要な情報である必須情報と、前記指示情報とを比較し、前記ロボットの動作指示に不足している情報を不足情報として特定する不足情報特定部と、
    前記周辺物体位置情報に基づき、前記指示情報に前記不足情報を補完する指示情報補完部と、を備え、
    前記不足情報特定部が、前記移動対象物の配置位置を示す情報が不足していると特定した場合、
    前記指示情報補完部は、前記周辺物体位置情報に基づき、前記指示情報に前記移動対象物の配置位置を示す情報を補完する
    ことを特徴とするロボット制御システム。
  13. 作業者が発声した音声を収集し、音声信号を出力するマイクと、
    移動対象物を所定の移動先に配置するロボットの周辺環境を検知し、検知結果を示すセンサ情報を出力するセンサと、
    前記音声信号に対して音声認識処理を行い、前記ロボットへの指示内容を示す指示情報を取得する音声認識部と、
    前記センサ情報に基づき、前記移動先周辺に存在する物体の位置を示す周辺物体位置情報を取得する環境情報取得部と、
    前記周辺物体位置情報に基づき、前記ロボットの動作指示に不足している情報を前記指示情報に補完する指示情報推定部と、
    を備え
    前記環境情報取得部は、さらに、前記センサ情報に基づき、前記移動先周辺に存在する物体の大きさを示す形状情報を取得し、前記指示情報推定部は、前記周辺物体位置情報と前記形状情報とに基づき、前記指示情報に不足している情報を補完する
    ことを特徴とするロボット制御システム。
  14. 作業者が発声した音声を収集し、音声信号を出力するマイクと、
    移動対象物を所定の移動先に配置するロボットの周辺環境を検知し、検知結果を示すセンサ情報を出力するセンサと、
    前記音声信号に対して音声認識処理を行い、前記ロボットへの指示内容を示す指示情報を取得する音声認識部と、
    前記センサ情報に基づき、前記移動先周辺に存在する物体の位置を示す周辺物体位置情報を取得する環境情報取得部と、
    前記周辺物体位置情報に基づき、前記ロボットの動作指示に不足している情報を前記指示情報に補完する指示情報推定部と、
    を備え
    前記環境情報取得部は、さらに、前記センサ情報に基づき、前記移動先周辺に存在する配置可能領域の大きさを示す空間情報を取得し、前記指示情報推定部は、前記周辺物体位置情報と前記空間情報とに基づき、前記指示情報に不足している情報を補完する
    ことを特徴とするロボット制御システム。
  15. 作業者が発声した音声を収集し、音声信号を出力するマイクと、
    移動対象物を所定の移動先に配置するロボットの周辺環境を検知し、検知結果を示すセンサ情報を出力するセンサと、
    前記音声信号に対して音声認識処理を行い、前記ロボットへの指示内容を示す指示情報を取得する音声認識部と、
    前記センサ情報に基づき、前記移動先周辺に存在する物体の位置を示す周辺物体位置情報を取得する環境情報取得部と、
    前記周辺物体位置情報に基づき、前記ロボットの動作指示に不足している情報を前記指示情報に補完する指示情報推定部と、
    を備え
    前記環境情報取得部は、さらに、前記移動対象物の温度を示す温度情報を取得し、
    前記指示情報推定部は、前記周辺物体位置情報と前記温度情報とに基づき、前記指示情報に不足している情報を補完する
    ことを特徴とするロボット制御システム。
  16. 作業者が発声した音声を収集し、音声信号を出力するマイクと、
    移動対象物を所定の移動先に配置するロボットの周辺環境を検知し、検知結果を示すセンサ情報を出力するセンサと、
    前記音声信号に対して音声認識処理を行い、前記ロボットへの指示内容を示す指示情報を取得する音声認識部と、
    前記センサ情報に基づき、前記移動先周辺に存在する物体の位置を示す周辺物体位置情報を取得する環境情報取得部と、
    前記周辺物体位置情報に基づき、前記ロボットの動作指示に不足している情報を前記指示情報に補完する指示情報推定部と、
    を備え
    前記音声認識部は、前記音声信号から、前記移動対象物の数量を示す数量情報を含む前記指示情報を取得し、
    前記指示情報推定部は、前記周辺物体位置情報と前記数量情報とに基づき、前記指示情報に不足している情報を補完する
    ことを特徴とするロボット制御システム。
  17. 作業者が発声した音声を収集し、音声信号を出力するマイクと、
    移動対象物を所定の移動先に配置するロボットの周辺環境を検知し、検知結果を示すセンサ情報を出力するセンサと、
    前記音声信号に対して音声認識処理を行い、前記ロボットへの指示内容を示す指示情報を取得する音声認識部と、
    前記センサ情報に基づき、前記移動先周辺に存在する物体の位置を示す周辺物体位置情報を取得する環境情報取得部と、
    前記周辺物体位置情報に基づき、前記ロボットの動作指示に不足している情報を前記指示情報に補完する指示情報推定部と、
    を備え
    前記指示情報推定部は、音声指示が連続で行われた場合、前記周辺物体位置情報と前記音声指示の回数とに基づき、前記指示情報に不足している情報を補完する
    ことを特徴とするロボット制御システム。
  18. 作業者が発声した音声を収集し、音声信号を出力するマイクと、
    移動対象物を所定の移動先に配置するロボットの周辺環境を検知し、検知結果を示すセンサ情報を出力するセンサと、
    前記音声信号に対して音声認識処理を行い、前記ロボットへの指示内容を示す指示情報を取得する音声認識部と、
    前記センサ情報に基づき、前記移動先周辺に存在する物体の位置を示す周辺物体位置情報を取得する環境情報取得部と、
    前記周辺物体位置情報に基づき、前記ロボットの動作指示に不足している情報を前記指示情報に補完する指示情報推定部と、
    を備え
    前記音声認識部は、第一の音声信号から第一の指示情報を取得し、第二の音声信号から第二の指示情報を取得し、
    前記指示情報推定部は、前記第二の指示情報が肯定的な指示であるか、否定的な指示であるかを判定し、その判定結果に基づき前記第一の指示情報に不足している情報を補完する
    ことを特徴とするロボット制御システム。
  19. マイクによって収集された音声信号に対して音声認識処理を行い、移動対象物を所定の移動先に配置するロボットへの指示内容を示す指示情報を取得する音声認識工程と、
    前記ロボットの周辺環境を検知するセンサによって取得されたセンサ情報に基づき、前記移動先周辺に存在する物体の位置を示す周辺物体位置情報を取得する環境情報取得工程と、
    前記周辺物体位置情報に基づき、前記ロボットの動作指示に不足している情報を前記指示情報に補完する指示情報推定工程と、
    を含み
    前記指示情報推定工程は、
    予め設定された前記ロボットの動作指示に必要な情報である必須情報と、前記指示情報とを比較し、前記ロボットの動作指示に不足している情報を不足情報として特定する不足情報特定工程と、
    前記周辺物体位置情報に基づき、前記指示情報に前記不足情報を補完する指示情報補完工程と、を含み、
    前記不足情報特定工程で、前記移動対象物の配置位置を示す情報が不足していると特定した場合、
    前記指示情報補完工程で、前記周辺物体位置情報に基づき、前記指示情報に前記移動対象物の配置位置を示す情報を補完する
    ことを特徴とするロボット教示方法。
  20. マイクによって収集された音声信号に対して音声認識処理を行い、移動対象物を所定の移動先に配置するロボットへの指示内容を示す指示情報を取得する音声認識工程と、
    前記ロボットの周辺環境を検知するセンサによって取得されたセンサ情報に基づき、前記移動先周辺に存在する物体の位置を示す周辺物体位置情報を取得する環境情報取得工程と、
    前記周辺物体位置情報に基づき、前記ロボットの動作指示に不足している情報を前記指示情報に補完する指示情報推定工程と、
    を含み
    前記環境情報取得工程では、さらに、前記センサ情報に基づき、前記移動先周辺に存在する物体の大きさを示す形状情報を取得し、前記指示情報推定工程では、前記周辺物体位置情報と前記形状情報とに基づき、前記指示情報に不足している情報を補完する
    ことを特徴とするロボット教示方法。
  21. マイクによって収集された音声信号に対して音声認識処理を行い、移動対象物を所定の移動先に配置するロボットへの指示内容を示す指示情報を取得する音声認識工程と、
    前記ロボットの周辺環境を検知するセンサによって取得されたセンサ情報に基づき、前記移動先周辺に存在する物体の位置を示す周辺物体位置情報を取得する環境情報取得工程と、
    前記周辺物体位置情報に基づき、前記ロボットの動作指示に不足している情報を前記指示情報に補完する指示情報推定工程と、
    を含み
    前記環境情報取得工程では、さらに、前記センサ情報に基づき、前記移動先周辺に存在する配置可能領域の大きさを示す空間情報を取得し、前記指示情報推定工程では、前記周辺物体位置情報と前記空間情報とに基づき、前記指示情報に不足している情報を補完する
    ことを特徴とするロボット教示方法。
  22. マイクによって収集された音声信号に対して音声認識処理を行い、移動対象物を所定の移動先に配置するロボットへの指示内容を示す指示情報を取得する音声認識工程と、
    前記ロボットの周辺環境を検知するセンサによって取得されたセンサ情報に基づき、前記移動先周辺に存在する物体の位置を示す周辺物体位置情報を取得する環境情報取得工程と、
    前記周辺物体位置情報に基づき、前記ロボットの動作指示に不足している情報を前記指示情報に補完する指示情報推定工程と、
    を含み
    前記環境情報取得工程では、さらに、前記移動対象物の温度を示す温度情報を取得し、
    前記指示情報推定工程では、前記周辺物体位置情報と前記温度情報とに基づき、前記指示情報に不足している情報を補完する
    ことを特徴とするロボット教示方法。
  23. マイクによって収集された音声信号に対して音声認識処理を行い、移動対象物を所定の移動先に配置するロボットへの指示内容を示す指示情報を取得する音声認識工程と、
    前記ロボットの周辺環境を検知するセンサによって取得されたセンサ情報に基づき、前記移動先周辺に存在する物体の位置を示す周辺物体位置情報を取得する環境情報取得工程と、
    前記周辺物体位置情報に基づき、前記ロボットの動作指示に不足している情報を前記指示情報に補完する指示情報推定工程と、
    を含み
    前記音声認識工程では、前記音声信号から、前記移動対象物の数量を示す数量情報を含む前記指示情報を取得し、
    前記指示情報推定工程では、前記周辺物体位置情報と前記数量情報とに基づき、前記指示情報に不足している情報を補完する
    ことを特徴とするロボット教示方法。
  24. マイクによって収集された音声信号に対して音声認識処理を行い、移動対象物を所定の移動先に配置するロボットへの指示内容を示す指示情報を取得する音声認識工程と、
    前記ロボットの周辺環境を検知するセンサによって取得されたセンサ情報に基づき、前記移動先周辺に存在する物体の位置を示す周辺物体位置情報を取得する環境情報取得工程と、
    前記周辺物体位置情報に基づき、前記ロボットの動作指示に不足している情報を前記指示情報に補完する指示情報推定工程と、
    を含み
    前記指示情報推定工程では、音声指示が連続で行われた場合、前記周辺物体位置情報と前記音声指示の回数とに基づき、前記指示情報に不足している情報を補完する
    ことを特徴とするロボット教示方法。
  25. マイクによって収集された音声信号に対して音声認識処理を行い、移動対象物を所定の移動先に配置するロボットへの指示内容を示す指示情報を取得する音声認識工程と、
    前記ロボットの周辺環境を検知するセンサによって取得されたセンサ情報に基づき、前記移動先周辺に存在する物体の位置を示す周辺物体位置情報を取得する環境情報取得工程と、
    前記周辺物体位置情報に基づき、前記ロボットの動作指示に不足している情報を前記指示情報に補完する指示情報推定工程と、
    を含み
    前記音声認識工程では、第一の音声信号から第一の指示情報を取得し、第二の音声信号から第二の指示情報を取得し、
    前記指示情報推定工程では、前記第二の指示情報が肯定的な指示であるか、否定的な指示であるかを判定し、その判定結果に基づき前記第一の指示情報に不足している情報を補完する
    ことを特徴とするロボット教示方法。
  26. 請求項19から25のいずれか一項に記載の全工程をコンピュータに実行させるロボット教示プログラム。
JP2023513359A 2021-05-24 2021-05-24 ロボット教示装置、ロボット制御システム、ロボット教示方法、及びロボット教示プログラム Active JP7272521B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2021/019536 WO2022249226A1 (ja) 2021-05-24 2021-05-24 ロボット教示装置、ロボット制御システム、ロボット教示方法、及びロボット教示プログラム

Publications (3)

Publication Number Publication Date
JPWO2022249226A1 JPWO2022249226A1 (ja) 2022-12-01
JPWO2022249226A5 JPWO2022249226A5 (ja) 2023-05-02
JP7272521B2 true JP7272521B2 (ja) 2023-05-12

Family

ID=84229601

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2023513359A Active JP7272521B2 (ja) 2021-05-24 2021-05-24 ロボット教示装置、ロボット制御システム、ロボット教示方法、及びロボット教示プログラム

Country Status (2)

Country Link
JP (1) JP7272521B2 (ja)
WO (1) WO2022249226A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116312147B (zh) * 2023-05-11 2023-07-21 深圳市亚博智能科技有限公司 基于教学机器人的编程教学方法及系统

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001188555A (ja) 1999-12-28 2001-07-10 Sony Corp 情報処理装置および方法、並びに記録媒体
JP2002264058A (ja) 2001-03-09 2002-09-18 Japan Science & Technology Corp ロボット視聴覚システム
JP2005059185A (ja) 2003-08-19 2005-03-10 Sony Corp ロボット装置及びその制御方法
JP2006289543A (ja) 2005-04-08 2006-10-26 Mitsubishi Heavy Ind Ltd ロボット教示装置
JP2011054088A (ja) 2009-09-04 2011-03-17 National Institute Of Information & Communication Technology 情報処理装置、情報処理方法、プログラム及び対話システム
US20140372116A1 (en) 2013-06-13 2014-12-18 The Boeing Company Robotic System with Verbal Interaction
WO2019146586A1 (ja) 2018-01-25 2019-08-01 川崎重工業株式会社 ロボットの教示装置
JP2021030407A (ja) 2019-08-29 2021-03-01 キヤノン株式会社 情報処理装置、情報処理方法及びプログラム

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001188555A (ja) 1999-12-28 2001-07-10 Sony Corp 情報処理装置および方法、並びに記録媒体
JP2002264058A (ja) 2001-03-09 2002-09-18 Japan Science & Technology Corp ロボット視聴覚システム
JP2005059185A (ja) 2003-08-19 2005-03-10 Sony Corp ロボット装置及びその制御方法
JP2006289543A (ja) 2005-04-08 2006-10-26 Mitsubishi Heavy Ind Ltd ロボット教示装置
JP2011054088A (ja) 2009-09-04 2011-03-17 National Institute Of Information & Communication Technology 情報処理装置、情報処理方法、プログラム及び対話システム
US20140372116A1 (en) 2013-06-13 2014-12-18 The Boeing Company Robotic System with Verbal Interaction
WO2019146586A1 (ja) 2018-01-25 2019-08-01 川崎重工業株式会社 ロボットの教示装置
JP2021030407A (ja) 2019-08-29 2021-03-01 キヤノン株式会社 情報処理装置、情報処理方法及びプログラム

Also Published As

Publication number Publication date
JPWO2022249226A1 (ja) 2022-12-01
WO2022249226A1 (ja) 2022-12-01

Similar Documents

Publication Publication Date Title
Zhang et al. An indoor wayfinding system based on geometric features aided graph SLAM for the visually impaired
Du et al. Markerless kinect-based hand tracking for robot teleoperation
JP4850984B2 (ja) 動作空間提示装置、動作空間提示方法およびプログラム
KR102068216B1 (ko) 이동형 원격현전 로봇과의 인터페이싱
JP6927938B2 (ja) クラウドサービスシステムを組み込んだロボットシステム
US9613505B2 (en) Object detection and localized extremity guidance
US7653458B2 (en) Robot device, movement method of robot device, and program
US10864633B2 (en) Automated personalized feedback for interactive learning applications
US11559902B2 (en) Robot system and control method of the same
KR102109697B1 (ko) 시각 정보와 촉각 정보를 함께 이용하여 객체를 파지하는 로봇 핸드 및 그 제어방법
Kandalan et al. Techniques for constructing indoor navigation systems for the visually impaired: A review
KR102109696B1 (ko) 정보가 없는 객체를 파지하는 로봇 핸드 및 그 제어방법
US20190102377A1 (en) Robot Natural Language Term Disambiguation and Entity Labeling
JP7272521B2 (ja) ロボット教示装置、ロボット制御システム、ロボット教示方法、及びロボット教示プログラム
CN114800535B (zh) 机器人的控制方法、机械臂控制方法、机器人及控制终端
JP2018153874A (ja) 提示装置、提示方法およびプログラム、ならびに作業システム
Grewal et al. Autonomous wheelchair navigation in unmapped indoor environments
WO2021033509A1 (ja) 情報処理装置、情報処理方法、及びプログラム
WO2021171353A1 (ja) 制御装置、制御方法及び記録媒体
Miura et al. Development of a personal service robot with user-friendly interfaces
US20220314432A1 (en) Information processing system, information processing method, and nonvolatile storage medium capable of being read by computer that stores information processing program
JP2023099603A (ja) オブジェクト姿勢制御プログラムおよびオブジェクト姿勢制御システム
US11654573B2 (en) Methods and systems for enabling human robot interaction by sharing cognition
CN115063879A (zh) 手势识别装置、移动体、手势识别方法及存储介质
CN115213884A (zh) 机器人的交互控制方法、装置、存储介质及机器人

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230224

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230224

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20230224

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230328

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230410

R151 Written notification of patent or utility model registration

Ref document number: 7272521

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151