JP2021011001A - 演算装置、機械学習方法及び制御プログラム - Google Patents

Abstract

【課題】モバイルマニピュレータにより今所定の位置まで移動するのに最適な移動対象物品を適切に決定することができる演算装置を提供する。【解決手段】複数の移動対象物品をマニピュレータにより保持して所定の位置まで移動する作業を行うモバイルマニピュレータの動作を制御するための演算を行う演算装置は、予め取得された状態変数及び状態変数に対応した判定データの組み合わせによって構成される訓練データセットが複数入力されることにより学習する学習済みの機械学習器を記憶した記憶部と、記憶部から読み出した学習済みの機械学習器に状態変数を入力することによって今所定の位置まで移動するべき物品を出力する演算部と、を備え、状態変数には、モバイルマニピュレータの特定部位と移動対象物品との相対位置が含まれ、状態変数に対応した判定データを今所定の位置まで移動するべき移動対象物品とする。【選択図】図３

Description

本発明は、複数の移動対象物品をマニピュレータにより保持して所定の位置に移動させる作業を行うモバイルマニピュレータの動作を制御するための演算を行う演算装置に関する。

マニピュレータにより移動対象物品を保持するロボットが知られている。例えば特許文献１には、ロボットが所定の位置に固定され、コンベヤ上の所定領域に配置された複数の物品を当該マニピュレータで保持する順番を機械学習器で学習させる技術が開示されている。

特開２０１８−０５１６６４号公報

しかしながら、特許文献１に開示された技術は、ロボットが所定の位置に固定された状態であることを前提としており、マニピュレータを備えたロボット自身が移動するモバイルマニピュレータには適用できない。

本発明は、以上の背景に鑑みなされたもので、モバイルマニピュレータにより今所定の位置まで移動するのに最適な移動対象物品を適切に決定することができる演算装置を提供することを目的とする。

本発明の一態様にかかる演算装置は、複数の移動対象物品をマニピュレータにより保持して所定の位置まで移動する作業を行うモバイルマニピュレータの動作を制御するための演算を行う演算装置であって、予め取得された、状態変数、及び、前記状態変数に対応した判定データの組み合わせによって構成される訓練データセットが複数入力されることにより学習する学習済みの機械学習器を記憶した記憶部と、前記記憶部から読み出した前記学習済みの機械学習器に前記状態変数を入力することによって今所定の位置まで移動するべき移動対象物品を出力する演算部と、を備え、前記状態変数には、前記モバイルマニピュレータの特定部位と前記移動対象物品との相対位置が含まれ、前記状態変数に対応した判定データは、前記今所定の位置まで移動するべき移動対象物品であるものである。

モバイルマニピュレータの特定部位と移動対象物品との相対位置を機械学習器の状態変数に含めると、モバイルマニピュレータの特定部位を基準としたそれぞれの移動対象物品の位置関係が分かる。これにより、自身の絶対位置が変わるモバイルマニピュレータにより今所定の位置まで移動するのに最適な移動対象物品を適切に決定することができる。

また、前記状態変数には、前記モバイルマニピュレータの特定部位と障害物との相対位置が含まれることが好ましい。モバイルマニピュレータの特定部位と移動対象物品との相対位置が同じでも、モバイルマニピュレータと移動対象物品との間に障害物があるか、ないか、によって所定の位置までの移動しやすさは変わってくる。状態変数にモバイルマニピュレータの特定部位と障害物との相対位置を含めることで、今所定の位置まで移動するのに最適な移動対象物品をより適切に決定することができる。

前記モバイルマニピュレータの特定部位と前記移動対象物品との相対位置と、前記モバイルマニピュレータの特定部位と障害物との相対位置は、マップ上またはビットマップ画像上に表されるデータであることが好ましい。これによって、機械学習器を学習させる過程において、隣接する障害物を一体物としてまとめて扱うことが可能になる。

前記今所定の位置まで移動するべき移動対象物品の出力は、前記マップ上またはビットマップ画像上に表される前記移動対象物品の相対位置データであることが好ましい。これによって出力を統一的に表記することが出来るので、機械学習器の学習性能をより向上させることが期待できる。また、マップ上またはビットマップ画像上に表される、移動対象物品のモバイルマニピュレータの特定部位に対する相対位置データが出力されるようにすると、移動対象物品を改めて特定する必要がないので、演算量の削減が期待できる。

さらに、前記状態変数には、経路計画で得られた、前記モバイルマニピュレータから前記移動対象物品へ至る経路における、経路長が含まれることが好ましい。モバイルマニピュレータの特定部位と移動対象物品との相対位置が同じでも、モバイルマニピュレータから移動対象物品へ至る経路における、経路長によって所定の位置までの移動しやすさは変わってくる。このようにすることで、今所定の位置に移動するのに最適な移動対象物品をより適切に決定することができる。

さらに、前記状態変数には、前記移動対象物品から当該移動対象物品に対応する所定の位置へ至る経路長が含まれることが好ましい。モバイルマニピュレータの特定部位と移動対象物品との相対位置が同じでも、移動対象物品から当該移動対象物品に対応する収納位置へ至る経路長によって所定の位置までの移動しやすさは変わってくる。このようにすることで、今所定の位置まで移動するのに最適な移動対象物品をより適切に決定することができる。

さらに、前記モバイルマニピュレータの特定部位と前記移動対象物品及び前記障害物との相対位置は、重力方向の情報を含むことが好ましい。モバイルマニピュレータに対して、移動対象物品の手前にある障害物が当該障害物と比べて重力方向の長さが長い場合、モバイルマニピュレータは障害物よりも当該移動対象物品が手前に来るような位置へ移動しなければ当該移動対象物品を保持することができない。一方、モバイルマニピュレータに対して、移動対象物品の手前にある障害物が当該障害物と比べて重力方向の長さが短い場合、障害物が当該移動対象物品より手前にあっても、当該移動対象物品の重力方向上部を保持位置とすれば当該移動対象物品を保持することができる。このように、モバイルマニピュレータの特定部位と移動対象物品及び障害物との相対位置が重力方向の情報を含んでいると、今所定の位置まで移動するのに最適な移動対象物品をより適切に決定することができる。

さらに、前記モバイルマニピュレータの特定部位と前記移動対象物品との相対位置は、当該移動対象物品の保持可能領域の情報を含むことが好ましい。モバイルマニピュレータの特定部位と移動対象物品との相対位置が同じであっても、移動対象物品の保持可能領域がモバイルマニピュレータの位置に対して正面側にあるか、裏側にあるか、で所定の位置までの移動しやすさは変わってくる。モバイルマニピュレータの特定部位と移動対象物品との相対位置は、移動対象物品の保持可能領域の情報を含めることで、今所定の位置に移動するのに最適な移動対象物品をより適切に決定することができる。

本発明の一態様に係る機械学習方法は、モバイルマニピュレータの有するマニピュレータにより複数の移動対象物品を保持して所定の位置まで移動する作業で、今所定の位置まで移動するべき移動対象物品を出力するようコンピュータを機能させるための機械学習器の機械学習方法であって、前記モバイルマニピュレータの特定部位と前記移動対象物品との相対位置が含まれる状態変数、及び、判定データとしての前記状態変数に対応した今所定の位置まで移動するべき移動対象物品の組み合わせによって構成される訓練データセットを複数入力して前記機械学習器を学習させる。これによれば、モバイルマニピュレータの有するマニピュレータにより複数の移動対象物品を保持して所定の位置まで移動する作業において、今所定の位置まで移動するのに最適な移動対象物品をより適切に決定するように機械学習器を学習させることができる。

本発明の一態様に係る制御プログラムは、複数の移動対象物品をマニピュレータにより保持して所定の位置まで移動する作業を行うモバイルマニピュレータの動作を制御する制御プログラムであって、前記モバイルマニピュレータの特定部位と前記移動対象物品との相対位置が含まれる状態変数、及び、判定データとしての前記状態変数に対応した今所定の位置まで移動するべき移動対象物品の組み合わせによって構成される訓練データセットを予め取得し、前記訓練データセットを複数入力して機械学習器を学習させるステップと、学習済みの前記機械学習器に前記状態変数を入力することによって、今所定の位置まで移動するべき移動対象物品を出力するステップと、をコンピュータに実行させるものである。これによれば、モバイルマニピュレータの有するマニピュレータにより複数の移動対象物品を保持して所定の位置まで移動する作業において、今所定の位置まで移動するのに最適な移動対象物品をより適切に決定することができる。

本発明によれば、モバイルマニピュレータにより今所定の位置まで移動するのに最適な移動対象物品を適切に決定することができる。

本実施形態に係る演算装置を適用するモバイルマニピュレータの外観斜視図である。 モバイルマニピュレータの制御構成を示すブロック図である。 演算装置の構成を示すブロック図である。 機械学習器の状態変数について説明する模式図である。 モバイルマニピュレータの特定部位と移動対象物品との相対位置とともに機械学習器の状態変数に含めるのが好ましい変量を示す模式図である。 モバイルマニピュレータの特定部位と移動対象物品との相対位置とともに機械学習器の状態変数に含めるのが好ましい変量を示す模式図である。 モバイルマニピュレータの特定部位と移動対象物品との相対位置とともに機械学習器の状態変数に含めるのが好ましい変量を示す模式図である。 教師あり学習によって未学習ＮＮに片付け作業を学習させる方法について具体的に説明する模式図である。 学習済みＮＮの入力、出力のイメージについて示す模式図である。 演算装置の処理の流れを示すフローチャートである。 モバイルマニピュレータにおいて実行する処理の流れを示すフローチャートである。

以下、発明の実施の形態を通じて本発明を説明するが、特許請求の範囲に係る発明を以下の実施形態に限定するものではない。また、実施形態で説明する構成の全てが課題を解決するための手段として必須であるとは限らない。説明の明確化のため、以下の記載及び図面は、適宜、省略、及び簡略化がなされている。各図面において、同一の要素には同一の符号が付されており、必要に応じて重複説明は省略されている。

本実施形態に係る演算装置は、例えば家庭内や工場内において、複数の移動対象物品をマニピュレータにより所定の位置に移動させる作業を行うモバイルマニピュレータの動作を制御するための演算を行うものである。ここで、モバイルマニピュレータは、台車などを備えた移動することが可能なものである。また、複数の移動対象物品をマニピュレータにより所定の位置に移動させる作業は、例えば、片付け作業である。

まず、本実施形態に係る演算装置を適用するモバイルマニピュレータの構成について説明する。
図１は、本実施形態に係る演算装置を適用するモバイルマニピュレータ１００の外観斜視図である。図において、ｘｙ平面はモバイルマニピュレータ１００の走行面であり、ｚ軸プラス方向は天頂方向を示す。図１に示すように、モバイルマニピュレータ１００は、大きく分けて、走行面を移動するための移動機構としての台車部１１０と、本体部１２０と、マニピュレータ１５０を構成するロボットアーム１３０及びロボットハンド１４０と、によって構成される。

台車部１１０は、円筒形状の筐体内に、それぞれが走行面に接地する２つの駆動輪１１１と１つのキャスター１１２とを支持している。２つの駆動輪１１１は、互いに回転軸芯が一致するように配設されている。それぞれの駆動輪１１１は、不図示のモータによって独立して回転駆動される。キャスター１１２は、従動輪であり、台車部１１０から鉛直方向に延びる旋回軸が車輪の回転軸から離れて車輪を軸支するように設けられており、台車部１１０の移動方向に倣うように追従する。モバイルマニピュレータ１００は、例えば、２つの駆動輪１１１が同じ方向に同じ回転速度で回転されれば直進し、逆方向に同じ回転速度で回転されれば台車部１１０の２つの駆動輪１１１の中央を通る鉛直軸周りに旋回する。

本体部１２０は、ロボットアーム１３０を支持すると共に、ユーザインタフェースの一部を成す表示パネル１２３を有する。表示パネル１２３は、例えば液晶パネルであり、キャラクターの顔を表示したり、モバイルマニピュレータ１００に関する情報を提示したりする。表示パネル１２３は、表示面にタッチパネルを有し、ユーザからの指示入力を受け付けることができる。

本体部１２０は、マニピュレータ１５０の動作範囲を含む前方の環境空間を見渡せる位置に環境カメラ１２１を有する。環境カメラ１２１は、例えばＣＭＯＳイメージセンサである撮像素子と画像データ生成部を含み、前方の環境空間を撮像して生成した画像データを出力する。また、本体部１２０には、コントロールユニット１９０が設けられている。コントロールユニット１９０は、後述の制御部とメモリ等を含む。

本体部１２０に支持されたロボットアーム１３０は、複数のリンク、例えば図示するように２つのリンクを有し、各リンクを回動可能に連結する関節部１３１（手首関節、肘関節、肩関節など）に設けられたアクチュエータを駆動させることにより様々な姿勢を取り得る。各関節部１３１には、減速機構が設けられている。ロボットアーム１３０の先端部にはロボットハンド１４０が接続されており、ロボットハンド１４０の全体は、ロボットアーム１３０の先端リンクの伸延方向と平行な旋回軸周りに、アクチュエータの駆動によって旋回し得る。ロボットハンド１４０は、先端部に設けられたアクチュエータによって駆動される第１フィンガー１４０ａと第２フィンガー１４０ｂを備える。第１フィンガー１４０ａと第２フィンガー１４０ｂは、点線矢印で示すようにそれぞれが互いに接近するように動作して、対象物を挟持することにより保持を実現する。なお、ロボットハンド１４０による移動対象物品の保持には、ロボットハンド１４０の第１フィンガー１４０ａと第２フィンガー１４０ｂにより移動対象物品を把持する場合に限らず、ロボットハンド１４０の先端に吸着機構が設けられている場合に当該吸着機構により吸着する場合なども含まれる。また、ロボットハンド１４０による移動対象物品の保持には、ロボットハンド１４０で把持・吸着を併用して移動対象物品の保持する場合も含まれる。ロボットハンド１４０にはハンドカメラ１４１が配設されている。ハンドカメラ１４１は、例えばＣＭＯＳイメージセンサである撮像素子と画像データ生成部を含み、ロボットハンド１４０の前方空間を撮像して生成した画像データを出力する。

図２は、モバイルマニピュレータ１００の制御構成を示すブロック図である。制御部２００は、例えばＣＰＵであり、本体部１２０のコントロールユニット１９０（図１参照）に格納されている。駆動輪ユニット２１０は、駆動輪１１１（図１参照）を駆動するための駆動回路やモータを含み、台車部１１０（図１参照）に設けられている。

センサユニット２２０は、移動中に障害物を検出したり、外部からの接触を検出したりする各種センサを含み、台車部１１０及び本体部１２０（図１参照）に分散して配置されている。制御部２００は、センサユニット２２０に制御信号を送ることにより、各種センサを駆動してその出力を取得する。

環境カメラ１２１は、上述のように、ロボットアーム１３０及びロボットハンド１４０の動作範囲を含む前方の環境空間を観察するために利用され、制御部２００の撮像指示に従って撮像を実行する。環境カメラ１２１は、生成した画像データを制御部２００へ引き渡す。ハンドカメラ１４１は、上述のように、ロボットハンド１４０の前方空間を観察するために利用され、制御部２００の撮像指示に従って撮像を実行する。ハンドカメラ１４１は、生成した画像データを制御部２００へ引き渡す。

メモリ２４０は、不揮発性の記憶媒体であり、例えばソリッドステートドライブが用いられる。メモリ２４０は、モバイルマニピュレータ１００を制御するための制御プログラムの他、制御に用いられる様々なパラメータ値、関数、ルックアップテーブル等を記憶している。

ロボットアーム１３０は、図１を用いて説明した構造体の他に、各関節部１３１を駆動するアクチュエータ１３２と、各関節部１３１の回転情報を検出する回転センサ１３４と、各関節部１３１の操作力（トルク）を検出する力センサ１３３と、を有する。アクチュエータ１３２は、例えばサーボモータなどである。回転センサ１３４は、例えばエンコーダなどである。力センサ１３３は、例えば、各関節部１３１のトルクを検出するトルクセンサなどである。ロボットハンド１４０は、第１フィンガー１４０ａと第２フィンガー１４０ｂ（図１参照）を駆動するアクチュエータ１４２と、ロボットハンド１４０の操作力を検出する力センサ１４３と、を有する。

制御部２００は、駆動輪ユニット２１０へ駆動信号を送ることにより、駆動輪１１１の回転制御を実行する。また、制御部２００は、本実施の形態にかかる演算装置３００による演算結果に基づいて、ロボットアーム１３０及びロボットハンド１４０の動作を制御する。すなわち、制御部２００は、本実施の形態にかかる演算装置３００による演算結果に基づいて、ロボットアーム１３０のアクチュエータ１３２及びロボットハンド１４０のアクチュエータ１４２へ駆動信号を送信する。

次に、本実施の形態にかかる演算装置３００の構成について説明する。
図３は、演算装置３００の構成を示すブロック図である。図３に示すように、演算装置３００は、主に、取得部３１０と、記憶部３２０と、演算部３３０と、を備える。

取得部３１０は、状態変数を取得し、演算部３３０へ引き渡す。ここで、取得部３１０は、環境カメラ１２１またはハンドカメラ１４１（図２参照）により撮像された作業環境の画像データを分析することにより、モバイルマニピュレータ１００の特定部位と移動対象物品との相対位置を取得する。モバイルマニピュレータ１００の特定部位は、例えば、重心位置や、ロボットハンド１４０を床面に投影した位置など、演算によって算出される位置であっても良い。取得部３１０は、インターネットと接続するための通信インターフェースを含む。通信インターフェースは、例えば無線ＬＡＮユニットである。

記憶部３２０は、例えばハードディスクドライブであり、学習済み機械学習器を記憶している。ここで、機械学習器は、例えばニューラルネットワーク（Ｎｅｕｒａｌ Ｎｅｔｗｏｒｋ）である。学習済み機械学習器（以下、「学習済みＮＮ３２０ａ」などと記す）は、予め取得された状態変数及び状態変数に対応した判定データの組み合わせによって構成される訓練データセットが複数入力されることにより学習を行ったものである。学習済みＮＮ３２０ａにおいて、機械学習器を学習させる具体的な方法については後述する。記憶部３２０は、学習済みＮＮ３２０ａの他に、演算部３３０が実行する各種ソフトウェアプログラムを記憶している。

演算部３３０は、例えばＣＰＵであり、演算部３３０から読み出した学習済みＮＮ３２０ａに取得部３１０から受け取った状態変数を入力することによって、今片付けるべき移動対象物品を出力する。

次に、機械学習器の状態変数について説明する。なお、以下の説明では図３についても適宜参照する。
図４は、機械学習器の状態変数について説明する模式図である。ここで、作業環境のマップＥにおいて、移動対象物品は丸印で表されている。機械学習器の状態変数は、図４において矢印で示されている、モバイルマニピュレータ１００の特定部位と移動対象物品（図中に丸印で示す）との相対位置が含まれている。すなわち、モバイルマニピュレータ１００の特定部位Ｐ１と移動対象物品との相対位置は、モバイルマニピュレータ１００の特定部位Ｐ１から移動対象物品へ至るベクトルである。モバイルマニピュレータ１００の特定部位Ｐ１と移動対象物品との相対位置を状態変数に含めると、モバイルマニピュレータ１００の特定部位Ｐ１に対するそれぞれの移動対象物品の位置関係が分かる。これにより、移動可能な本実施の形態に係るモバイルマニピュレータ１００のように、モバイルマニピュレータ１００自身が移動することによりモバイルマニピュレータ１００の絶対位置が変わる場合にも、今所定の位置に移動するのに最適な移動対象物品を適切に決定することができる。

モバイルマニピュレータ１００の特定部位と移動対象物品との相対位置は、移動対象物品の保持可能領域の情報を含んでいてもよい。移動対象物品の保持可能領域の情報は、環境カメラ１２１またはハンドカメラ１４１により撮像された作業環境の画像データから移動対象物品を認識することにより取得する。モバイルマニピュレータ１００の特定部位と移動対象物品との相対位置が同じであっても、移動対象物品の保持可能領域がモバイルマニピュレータ１００の位置に対して正面側にあるか、裏側にあるか、で片付けやすさは変わってくる。モバイルマニピュレータ１００の特定部位Ｐ１と移動対象物品との相対位置は、移動対象物品の保持可能領域の情報を含めることで、今所定の位置に移動するのに最適な移動対象物品をより適切に決定することができる。

図５は、モバイルマニピュレータ１００の特定部位と移動対象物品との相対位置とともに機械学習器の状態変数に含めるのが好ましい変量を示す模式図である。ここで、作業環境のマップＥにおいて、移動対象物品は丸印で、障害物は斜線で囲まれた領域で表されている。なお、障害物は、斜線で囲まれた領域に含まれる点群情報によって表されていてもよい。機械学習器の状態変数には、図５において矢印で示されている、モバイルマニピュレータ１００の特定部位Ｐ１と障害物との相対位置が含まれるのが好ましい。モバイルマニピュレータ１００の特定部位Ｐ１と障害物との相対位置は、モバイルマニピュレータ１００の特定部位Ｐ１から障害物の点群のそれぞれに至るベクトルである。モバイルマニピュレータ１００の特定部位Ｐ１と移動対象物品との相対位置が同じでも、モバイルマニピュレータ１００と移動対象物品との間に障害物があるか、ないか、によって、で片付けやすさは変わってくる。このようにすることで、今所定の位置に移動するのに最適な移動対象物品をより適切に決定することができる。

モバイルマニピュレータ１００の特定部位と移動対象物品及び障害物との相対位置は、重力方向の情報を含んでいてもよい。すなわち、モバイルマニピュレータ１００の特定部位と移動対象物品及び障害物との相対位置は、３次元ベクトルである。モバイルマニピュレータ１００に対して、移動対象物品の手前にある障害物が当該障害物と比べて重力方向の長さが長い場合、モバイルマニピュレータ１００は障害物よりも当該移動対象物品が手前に来るような位置へ移動しなければ当該移動対象物品を保持することができない。一方、モバイルマニピュレータ１００に対して、移動対象物品の手前にある障害物が当該障害物と比べて重力方向の長さが短い場合、障害物が当該移動対象物品より手前にあっても、当該移動対象物品の重力方向上部を保持位置とすれば当該移動対象物品を保持することができる。このようにすることで、今所定の位置に移動するのに最適な移動対象物品をより適切に決定することができる。

モバイルマニピュレータ１００の特定部位と移動対象物品との相対位置と、モバイルマニピュレータ１００の特定部位と障害物との相対位置は、マップ上またはビットマップ画像上に表されるデータであることが好ましい。このようにすると、隣接する空間に他の物体や障害物が存在するという状態、あるいは物体が無いという状態を統一的に表現し、それらの位置関係を統一的に考慮しながら学習することが可能になり、学習精度が高められる。

図６は、モバイルマニピュレータ１００の特定部位と移動対象物品との相対位置とともに機械学習器の状態変数に含めるのが好ましい変量を示す模式図である。ここで、作業環境のマップＥにおいて、移動対象物品は丸印で、障害物は斜線で囲まれた領域で表されている。機械学習器の状態変数には、図６において破線で示されている、モバイルマニピュレータ１００から移動対象物品へ至る経路における、経路長が含まれるのが好ましい。ここで、モバイルマニピュレータ１００から移動対象物品へ至る経路における、経路長は、経路計画により得られたものである。ここで、経路計画には、ＲＲＴ（Ｒａｐｉｄｌｙ−ｅｘｐｌｏｒｉｎｇ Ｒａｎｄｏｍ Ｔｒｅｅ）などの公知の手法を用いることができる。モバイルマニピュレータ１００の特定部位Ｐ１と移動対象物品との相対位置が同じでも、モバイルマニピュレータ１００から移動対象物品へ至る経路における、経路長によって片付けやすさは変わってくる。このようにすることで、今所定の位置に移動するのに最適な移動対象物品をより適切に決定することができる。

図７は、モバイルマニピュレータ１００の特定部位と移動対象物品との相対位置とともに機械学習器の状態変数に含めるのが好ましい変量を示す模式図である。ここで、作業環境のマップＥにおいて、移動対象物品は丸印で、所定の位置である収納位置は三角印で表されている。機械学習器の状態変数には、図７において破線で示されている、移動対象物品から当該移動対象物品に対応する収納位置へ至る経路長が含まれるのが好ましい。モバイルマニピュレータ１００の特定部位Ｐ１と移動対象物品との相対位置が同じでも、移動対象物品から当該移動対象物品に対応する収納位置へ至る経路長によって片付けやすさは変わってくる。このようにすることで、今所定の位置に移動するのに最適な移動対象物品をより適切に決定することができる。なお、図７には、それぞれの移動対象物品から最も近い位置にある収納位置に収納する場合について示すが、移動対象物品ごとに収納位置Ｃ１、Ｃ２、Ｃ３、Ｃ４のどこに収納するかが決められている場合であってもよい。

なお、図４から図７を参照して説明した状態変数は、適宜組み合わせても良い。

次に、学習済みＮＮ３２０ａにおいて、機械学習器を学習させる具体的な方法について説明する。なお、以下の説明では、モバイルマニピュレータ１００の制御構成については図２を、演算装置３００の構成については図３を適宜参照する。

図８は、教師あり学習によって未学習ＮＮ３２０ｂに片付け作業を学習させる方法について具体的に説明する模式図である。ここで、学習前の機械学習器（以下、「未学習ＮＮ３２０ｂ」などと記す）に片付け作業を学習させる手法は、教師あり学習であるとする。教師あり学習は、学習対象のデータに正解があらかじめ決まっている場合に、学習対象のデータ（入力）と正解（出力）の組み合わせによって構成される訓練データセットを事前に大量に与えて、入力と出力の関係を学習させる方法である。

図８に示すように、入力としての状態変数１６１と、出力としての判定データ１６２の組み合わせによって構成される訓練データセット１６０を、未学習ＮＮ３２０ｂに与える。ここで、状態変数は、上述した、モバイルマニピュレータ１００の特定部位と移動対象物品との相対位置を含むものであり、判定データ１６２は、今片付けるべき移動対象物品である。訓練データセット１６０は、予め複数取得されたものである。これにより、片付け作業における、状態変数１６１と判定データ１６２との関係を未学習ＮＮ３２０ｂに学習させる。訓練データセット１６０の取得数ｎを増やすことによって学習済みＮＮ３２０ａの判定精度を高めることができる。

図９は、学習済みＮＮ３２０ａの入力、出力のイメージについて示す模式図である。図９に示すように、学習済みＮＮ３２０ａは、作業環境のマップＥにおける、モバイルマニピュレータ１００の特定部位Ｐ１と移動対象物品（図中に丸印で示す）との相対位置（図中に実線矢印で示す）を入力することによって、今片付けるべき移動対象物品（図中に黒丸印で示す）を出力する。なお、学習済みＮＮ３２０ａは、今片付けるべき移動対象物品とともに、今片付けても良い移動対象物品（図中に二重丸印で示す）や今片付けない方が良い移動対象物品（図中にバツ印で示す）を出力するようにしてもよい。

今所定の位置まで移動するべき移動対象物品の出力は、マップ上またはビットマップ画像上に表される、移動対象物品のモバイルマニピュレータ１００の特定部位に対する相対位置データであることが好ましい。これによって出力を統一的に表記することが出来るので、機械学習器の学習性能をより向上させることが期待できる。また、マップ上またはビットマップ画像上に表される、移動対象物品のモバイルマニピュレータ１００の特定部位に対する相対位置データが出力されるようにすると、移動対象物品を改めて特定する必要がないので、演算量の削減が期待できる。

次に、演算装置３００が実行する処理の流れについて説明する。
図１０は、演算装置３００の処理の流れを示すフローチャートである。図１０に示すように、まず、取得部３１０が、環境カメラ１２１などにより撮像された作業環境の画像データを分析することにより、モバイルマニピュレータ１００の特定部位と移動対象物品との相対位置を含む状態変数を取得し、状態変数を演算部３３０へ引き渡す（ステップＳ１）。続いて、演算部３３０が、記憶部３２０から学習済みＮＮ３２０ａを読み出す（ステップＳ２）。そして、読み出した学習済みＮＮ３２０ａに取得した状態変数（モバイルマニピュレータ１００の特定部位と移動対象物品との相対位置を含むもの）を入力して、今所定の位置に移動するべき移動対象物品を出力する（ステップＳ３）する。そして一連の処理を終了する。

次に、モバイルマニピュレータ１００において実行する処理の流れについて説明する。
図１１は、モバイルマニピュレータ１００において実行する処理の流れを示すフローチャートである。図１１に示すように、まず、学習済みＮＮを用いてどの移動対象物品から所定の位置に移動するか決定する（ステップＳ１０１）。この処理は、図１０を参照して説明した演算装置３００における処理である。続いて、決定した移動対象物品について、保持計画・経路計画を実行する（ステップＳ１０２）。保持計画、経路計画には、公知の技術を用いることができる。

ステップＳ１０２に続いて、保持計画・経路計画において解が求まった否かを判定する（ステップＳ１０３）。ステップＳ１０３において保持計画・経路計画において解が求まったと判定された場合、決定した移動対象物品の保持・移動を実行する（ステップＳ１０４）。ステップＳ１０３において保持計画・経路計画において解が求まらなかったと判定された場合、処理をステップＳ１０１に戻す。

ステップＳ１０４に続いて、決定した移動対象物品を所定の位置に移動できたか否かを判定する（ステップＳ１０５）。ステップＳ１０５において決定した移動対象物品を所定の位置に移動できなかったと判定された場合、決定した移動対象物品が元の位置から意図しない位置に移動したか否かを判定する（ステップＳ１０６）。ステップＳ１０６において決定した移動対象物品が元の位置から意図しない位置に移動していないと判定された場合、処理をステップＳ１０１に戻す。ステップＳ１０６において決定した移動対象物品が元の位置から意図しない位置に移動したと判定された場合、決定した移動対象物品を移動対象から一旦除外し（ステップＳ１０７）、処理をステップＳ１０１に戻す。

ステップＳ１０５において決定した移動対象物品を所定の位置に収納できたと判定された場合、一旦除外されていた移動対象物品を移動対象に含める（ステップＳ１０８）。続いて、移動対象物品を全て所定の位置に移動したか否か判定する（ステップＳ１０９）。ステップＳ１０９において移動対象物品のうち所定の位置に移動していないものがあると判定された場合、処理をステップＳ１０１に戻す。ステップＳ１０９において移動対象物品を全て所定の位置に移動したと判定された場合、処理を終了する。

以上のように、演算装置３００によれば、モバイルマニピュレータ自身が移動する場合にも、今所定の位置に移動するのに最適な移動対象物品を適切に決定することができるようになる。

なお、本発明は上記実施の形態に限られたものではなく、趣旨を逸脱しない範囲で適宜変更することが可能である。例えば、上記実施の形態では、複数の移動対象物品をマニピュレータにより所定の位置に移動させる作業が、片付け作業である場合を例に説明したが、これに限るものではない。例えば、複数の移動対象物品をマニピュレータにより所定の位置に移動させる作業が、１箇所または複数箇所から物品を取り出しながら特定の場所に並べるような準備作業であってもよい。

上記実施の形態では、演算装置をロボットとは別体として構成したが、演算装置がモバイルマニピュレータに組み込まれた構成であってもよい。

上記実施の形態にかかる演算装置で用いる機械学習器として、リカレントニューラルネットワーク（ＲＮＮ：Ｒｅｃｕｒｒｅｎｔ Ｎｅｕｒａｌ Ｎｅｔｗｏｒｋ）やシーケンストゥシーケンスモデル（Ｓｅｑｕｅｎｃｅ−ｔｏ−Ｓｅｑｕｅｎｃｅ）モデルなど時系列データを扱うものを用いることができる。上記実施の形態では、未学習ＮＮの学習のさせ方について、複数の移動対象物品をマニピュレータにより所定の位置に移動させる作業を教師あり学習で学習させる例について説明したが、これに限るものではない。複数の移動対象物品をマニピュレータにより所定の位置に移動させる作業を、例えば強化学習などの他の機械学習の手法で実施しても良い。

上記実施の形態における演算装置が実現する各構成要素は、例えば、コンピュータに制御プログラムを実行させることによっても実現することができる。より具体的には、コンピュータにおいて、記憶部（図示せず）に格納された制御プログラムを主記憶装置（図示せず）にロードし、主記憶装置で当該制御プログラムを実行することによって実現することができる。また、各構成要素は、プログラムによるソフトウェアで実現することに限ることなく、ハードウェア、ファームウェア及びソフトウェアのうちのいずれかの組み合わせ等により実現しても良い。

上述したプログラムは、様々なタイプの非一時的なコンピュータ可読媒体（ｎｏｎ−ｔｒａｎｓｉｔｏｒｙ ｃｏｍｐｕｔｅｒ ｒｅａｄａｂｌｅ ｍｅｄｉｕｍ）を用いて格納され、コンピュータに供給することができる。非一時的なコンピュータ可読媒体は、様々なタイプの実体のある記録媒体（ｔａｎｇｉｂｌｅ ｓｔｏｒａｇｅ ｍｅｄｉｕｍ）を含む。非一時的なコンピュータ可読媒体の例は、磁気記録媒体（例えばフレキシブルディスク、磁気テープ、ハードディスクドライブ）、光磁気記録媒体（例えば光磁気ディスク）、ＣＤ−ＲＯＭ（Ｒｅａｄ Ｏｎｌｙ Ｍｅｍｏｒｙ）、ＣＤ−Ｒ、ＣＤ−Ｒ／Ｗ、半導体メモリ（例えば、マスクＲＯＭ、ＰＲＯＭ（Ｐｒｏｇｒａｍｍａｂｌｅ ＲＯＭ）、ＥＰＲＯＭ（Ｅｒａｓａｂｌｅ ＰＲＯＭ）、フラッシュＲＯＭ、ＲＡＭ（Ｒａｎｄｏｍ Ａｃｃｅｓｓ Ｍｅｍｏｒｙ））を含む。また、プログラムは、様々なタイプの一時的なコンピュータ可読媒体（ｔｒａｎｓｉｔｏｒｙ ｃｏｍｐｕｔｅｒ ｒｅａｄａｂｌｅ ｍｅｄｉｕｍ）によってコンピュータに供給されてもよい。一時的なコンピュータ可読媒体の例は、電気信号、光信号、及び電磁波を含む。一時的なコンピュータ可読媒体は、電線及び光ファイバ等の有線通信路、又は無線通信路を介して、プログラムをコンピュータに供給できる。

１００ モバイルマニピュレータ
１１０ 台車部
１１１ 駆動輪
１１２ キャスター
１２０ 本体部
１２１ 環境カメラ
１２３ 表示パネル
１３０ ロボットアーム
１３１ 関節部
１３２ アクチュエータ
１３３ 力センサ
１３４ 回転センサ
１４０ ロボットハンド
１４０ａ 第１フィンガー
１４０ｂ 第２フィンガー
１４１ ハンドカメラ
１４２ アクチュエータ
１５０ マニピュレータ
１９０ コントロールユニット
２００ 制御部
２１０ 駆動輪ユニット
２２０ センサユニット
２４０ メモリ
３００ 演算装置
３１０ 取得部
３２０ 記憶部
３２０ａ 学習済みＮＮ
３３０ 演算部
３２０ｂ 未学習ＮＮ

Claims (10)

1. 複数の移動対象物品をマニピュレータにより保持して所定の位置まで移動する作業を行うモバイルマニピュレータの動作を制御するための演算を行う演算装置であって、
   予め取得された、状態変数、及び、前記状態変数に対応した判定データの組み合わせによって構成される訓練データセットが複数入力されることにより学習する学習済みの機械学習器を記憶した記憶部と、
   前記記憶部から読み出した前記学習済みの機械学習器に前記状態変数を入力することによって今所定の位置まで移動するべき移動対象物品を出力する演算部と、を備え、
   前記状態変数には、前記モバイルマニピュレータの特定部位と前記移動対象物品との相対位置が含まれ、
   前記状態変数に対応した判定データは、前記今所定の位置まで移動するべき移動対象物品である、演算装置。
2. 前記状態変数には、前記モバイルマニピュレータの特定部位と障害物との相対位置が含まれる、請求項１に記載の演算装置。
3. 前記モバイルマニピュレータの特定部位と前記移動対象物品との相対位置と、前記モバイルマニピュレータの特定部位と障害物との相対位置は、マップまたはビットマップ画像上に表されるデータである、請求項１または請求項２に記載の演算装置。
4. 前記今所定の位置まで移動するべき移動対象物品の出力は、前記マップまたはビットマップ画像上に表される、前記移動対象物品の前記モバイルマニピュレータの特定部位に対する相対位置データである、請求項３に記載の演算装置。
5. 前記状態変数には、経路計画で得られた、前記モバイルマニピュレータから前記移動対象物品へ至る経路における、経路長が含まれる、請求項１に記載の演算装置。
6. 前記状態変数には、前記移動対象物品から当該移動対象物品に対応する所定の位置へ至る経路長が含まれる、請求項５に記載の演算装置。
7. 前記モバイルマニピュレータの特定部位と前記移動対象物品及び前記障害物との相対位置は、重力方向の情報を含む、請求項２に記載の演算装置。
8. 前記モバイルマニピュレータの特定部位と前記移動対象物品との相対位置は、当該移動対象物品の保持可能領域の情報を含む、請求項１に記載の演算装置。
9. モバイルマニピュレータの有するマニピュレータにより複数の移動対象物品を保持して所定の位置まで移動する作業で、今所定の位置まで移動するべき移動対象物品を出力するようコンピュータを機能させるための機械学習器の機械学習方法であって、
   前記モバイルマニピュレータの特定部位と前記移動対象物品との相対位置が含まれる状態変数、及び、判定データとしての前記状態変数に対応した今所定の位置まで移動するべき移動対象物品の組み合わせによって構成される訓練データセットを複数入力して前記機械学習器を学習させる、機械学習方法。
10. 複数の移動対象物品をマニピュレータにより保持して所定の位置まで移動する作業を行うモバイルマニピュレータの動作を制御する制御プログラムであって、
    前記モバイルマニピュレータの特定部位と前記移動対象物品との相対位置が含まれる状態変数、及び、判定データとしての前記状態変数に対応した今所定の位置まで移動するべき移動対象物品の組み合わせによって構成される訓練データセットを予め取得し、前記訓練データセットを複数入力して機械学習器を学習させるステップと、
    学習済みの前記機械学習器に前記状態変数を入力することによって、今所定の位置まで移動するべき移動対象物品を出力するステップと、をコンピュータに実行させる制御プログラム。

Images