JP6869060B2 - Manipulator controls, control methods and programs, and work systems - Google Patents
Manipulator controls, control methods and programs, and work systems Download PDFInfo
- Publication number
- JP6869060B2 JP6869060B2 JP2017050098A JP2017050098A JP6869060B2 JP 6869060 B2 JP6869060 B2 JP 6869060B2 JP 2017050098 A JP2017050098 A JP 2017050098A JP 2017050098 A JP2017050098 A JP 2017050098A JP 6869060 B2 JP6869060 B2 JP 6869060B2
- Authority
- JP
- Japan
- Prior art keywords
- manipulator
- signal
- score
- operation signal
- unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims description 18
- 238000004364 calculation method Methods 0.000 claims description 16
- 230000007274 generation of a signal involved in cell-cell signaling Effects 0.000 claims description 8
- 238000006243 chemical reaction Methods 0.000 description 18
- 230000008054 signal transmission Effects 0.000 description 15
- 230000035807 sensation Effects 0.000 description 7
- 238000010586 diagram Methods 0.000 description 6
- 230000033001 locomotion Effects 0.000 description 6
- 230000006870 function Effects 0.000 description 4
- 238000012545 processing Methods 0.000 description 3
- 238000004891 communication Methods 0.000 description 2
- 210000003128 head Anatomy 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 230000032258 transport Effects 0.000 description 2
- 210000000707 wrist Anatomy 0.000 description 2
- 230000001133 acceleration Effects 0.000 description 1
- 238000010009 beating Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000007689 inspection Methods 0.000 description 1
- 238000003062 neural network model Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000012856 packing Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
Images
Landscapes
- Manipulator (AREA)
Description
本発明は、マニピュレータの制御装置、制御方法およびプログラム、ならびに作業システムに関する。 The present invention relates to manipulator controls, control methods and programs, and work systems.
特許文献1には、操作者による擬人的な動きを検出し、これを複数の信号に変換してロボットデバイスを駆動させる技術が開示されている。特許文献2には、センサによって検知された製品をピックアップするようにピッカーを自動制御する技術が開示されている。
ロボットデバイスや自動ピッカーなどのマニピュレータを手作業で動作させる場合、オペレータごとにマニピュレータの作業の精度が異なり、不慣れなオペレータには操作が困難となる。他方、マニピュレータを自動制御する場合、作業対象となる対象物に応じて制御を異ならせる必要があるところ、全ての種類の対象物について予め制御情報を記憶することは現実的でない。また機械学習を用いて自動制御する場合にも、学習が不十分である場合に作業の精度が低下する可能性がある。
本発明の目的は、上述した課題を解決するマニピュレータの制御装置、制御方法およびプログラム、ならびに作業システムを提供することにある。
When a manipulator such as a robot device or an automatic picker is manually operated, the accuracy of the manipulator work differs for each operator, which makes it difficult for an inexperienced operator to operate the manipulator. On the other hand, when the manipulator is automatically controlled, it is necessary to make the control different depending on the object to be worked on, but it is not realistic to store the control information in advance for all kinds of objects. Further, even in the case of automatic control using machine learning, the accuracy of the work may decrease if the learning is insufficient.
An object of the present invention is to provide a manipulator control device, a control method and a program, and a working system that solve the above-mentioned problems.
本発明の第1の態様によれば、制御装置は、入力装置の操作に基づいてマニピュレータに操作信号を出力するマニピュレータの制御装置であって、前記マニピュレータの操作の履歴に基づいて前記マニピュレータの第1の操作信号を生成する信号生成部と、前記第1の操作信号の妥当性を示すスコアを算出するスコア算出部と、前記スコアに基づいて、前記入力装置の操作に従った第2の操作信号を出力するか、前記スコアに係る前記第1の操作信号を出力するかを決定する信号出力部とを備える。 According to the first aspect of the present invention, the control device is a control device of a manipulator that outputs an operation signal to the manipulator based on the operation of the input device, and the first of the manipulators is based on the history of the operation of the manipulator. A signal generation unit that generates the operation signal of 1, a score calculation unit that calculates a score indicating the validity of the first operation signal, and a second operation according to the operation of the input device based on the score. A signal output unit for determining whether to output a signal or to output the first operation signal related to the score is provided.
本発明の第2の態様によれば、第1の態様に係る制御装置は、前記マニピュレータによる作業の対象となる対象物を認識する認識部と、前記認識部によって認識された対象物と、前記マニピュレータが前記対象物についての作業をするときの前記入力装置の操作の履歴とに基づいて、前記対象物と前記マニピュレータの位置とから前記第1の操作信号を求めるためのモデルを更新する学習部とをさらに備え、前記信号生成部は前記モデルに基づいて前記第1の操作信号を生成し、前記スコア算出部は前記モデルに基づいて前記スコアを算出するものであってよい。 According to the second aspect of the present invention, the control device according to the first aspect includes a recognition unit that recognizes an object to be worked by the manipulator, an object recognized by the recognition unit, and the object. A learning unit that updates a model for obtaining the first operation signal from the object and the position of the manipulator based on the operation history of the input device when the manipulator works on the object. The signal generation unit may generate the first operation signal based on the model, and the score calculation unit may calculate the score based on the model.
本発明の第3の態様によれば、第1または第2の態様に係る制御装置は、前記信号出力部は、一定時間ごとに生成される前記第1の操作信号に係る前記スコアが前記閾値未満になるまで、前記第1の操作信号を出力し、前記スコアが前記閾値未満になった以降、前記第2の操作信号を出力するものであってよい。 According to the third aspect of the present invention, in the control device according to the first or second aspect, the signal output unit has the threshold value of the score related to the first operation signal generated at regular intervals. The first operation signal may be output until the score becomes less than the threshold value, and the second operation signal may be output after the score becomes less than the threshold value.
本発明の第4の態様によれば、第1から第3の何れかの態様に係る制御装置は、前記マニピュレータは複数の関節を備え、前記信号生成部は、前記複数の関節それぞれを操作する第1の操作信号を生成し、前記信号出力部は、前記複数の関節のうち前記スコアが前記閾値以上の関節に、前記第1の操作信号を出力するものであってよい。 According to a fourth aspect of the present invention, in the control device according to any one of the first to third aspects, the manipulator includes a plurality of joints, and the signal generation unit operates each of the plurality of joints. The first operation signal may be generated, and the signal output unit may output the first operation signal to the joint having the score equal to or higher than the threshold value among the plurality of joints.
本発明の第5の態様によれば、第4の態様に係る制御装置は、前記スコアが閾値未満の関節のうち最も基端側に設けられるものである基準関節を特定する関節特定部と、前記信号出力部は、前記複数の関節のうち、前記基準関節より基端側に設けられた関節に、前記第1の操作信号を出力し、前記基準関節および前記基準関節より先端側に設けられた関節に、前記第2の操作信号を出力するものであってよい。According to the fifth aspect of the present invention, the control device according to the fourth aspect includes a joint specifying portion that identifies a reference joint that is provided on the most proximal side of the joints having a score less than the threshold value. The signal output unit outputs the first operation signal to the joint provided on the proximal end side of the reference joint among the plurality of joints, and is provided on the reference joint and the distal end side of the reference joint. The second operation signal may be output to the joint.
本発明の第6の態様によれば、作業システムは、操作信号に基づいて駆動するマニピュレータと、ユーザによる操作の入力を受け付ける入力装置と、第1から第5の何れかの態様に係る制御装置とを備える。 According to the sixth aspect of the present invention, the working system includes a manipulator driven based on an operation signal, an input device for receiving an input of an operation by a user, and a control device according to any one of the first to fifth aspects. And.
本発明の第7の態様によれば、制御方法は、マニピュレータの制御方法であって、前記マニピュレータの操作の履歴に基づいて前記マニピュレータの第1の操作信号を生成するステップと、前記第1の操作信号の妥当性を示すスコアを算出するステップと、前記スコアに基づいて、ユーザによる操作の入力を受け付ける入力装置の操作に従った第2の操作信号を出力するか、前記スコアに係る前記第1の操作信号を出力するかを決定するステップとを有する。 According to the seventh aspect of the present invention, the control method is a control method of the manipulator, the step of generating the first operation signal of the manipulator based on the operation history of the manipulator, and the first operation signal. A step of calculating a score indicating the validity of the operation signal and, based on the score, output a second operation signal according to the operation of the input device that accepts the input of the operation by the user, or output the second operation signal related to the score . It has a step of determining whether to output the operation signal of 1.
本発明の第8の態様によれば、プログラムは、マニピュレータを制御するコンピュータに、前記マニピュレータの操作の履歴に基づいて前記マニピュレータの第1の操作信号を生成するステップと、前記第1の操作信号の妥当性を示すスコアを算出するステップと、前記スコアに基づいて、ユーザによる操作の入力を受け付ける入力装置の操作に従った第2の操作信号を出力するか、前記スコアに係る前記第1の操作信号を出力するかを決定するステップとを実行させる。
According to an eighth aspect of the present invention, the program causes a computer controlling the manipulator to generate a first operation signal of the manipulator based on the operation history of the manipulator, and the first operation signal. A step of calculating a score indicating the validity of the above, and based on the score, a second operation signal according to the operation of the input device that accepts the input of the operation by the user is output, or the first operation signal related to the score is output. To execute the step of determining whether to output the operation signal.
上記態様のうち少なくとも1つの態様によれば、制御装置は、生成された操作信号のスコアに基づいて、入力装置の操作に基づく操作信号と、操作の履歴に基づいて生成された操作信号とからマニピュレータに出力する操作信号を決定する。これにより、制御装置は、操作の履歴から生成された操作信号によってオペレータごとの操作のばらつきを抑制しつつ、学習が不十分な作業についてはオペレータによる操作によりマニピュレータを動作させることで、作業の精度を保つことができる。 According to at least one of the above aspects, the control device comprises an operation signal based on the operation of the input device based on the score of the generated operation signal and an operation signal generated based on the history of the operation. Determine the operation signal to be output to the manipulator. As a result, the control device suppresses the variation in the operation for each operator by the operation signal generated from the operation history, and operates the manipulator by the operation by the operator for the work with insufficient learning, so that the accuracy of the work is improved. Can be kept.
《第1の実施形態》
以下、図面を参照しながら実施形態について詳しく説明する。
図1は、第1の実施形態に係る作業システムの構成を示す概略図である。
作業システム1は、入出力グローブ10と、ヘッドマウントディスプレイ20と、マスタコントローラ30と、スレーブコントローラ40と作業ロボット50とを備える。入出力グローブ10とヘッドマウントディスプレイ20とはオペレータOに装着され、作業ロボット50はオペレータOと遠隔に設置される。マスタコントローラ30は、入出力グローブ10およびヘッドマウントディスプレイ20と電気的に接続される。スレーブコントローラ40は、作業ロボット50と電気的に接続される。マスタコントローラ30とスレーブコントローラ40とは、ネットワークNを介して通信可能に構成される。
<< First Embodiment >>
Hereinafter, embodiments will be described in detail with reference to the drawings.
FIG. 1 is a schematic view showing a configuration of a work system according to the first embodiment.
The
第1の実施形態に係る作業システム1は、倉庫から物品を運搬するピッキングシステムに適用される。ピッキングシステムは、コンベアや運搬ロボットによって、物品を収容するビンを作業ロボット50が設置された作業スペースに運搬するシステムである。オペレータOは、作業ロボット50を遠隔から操作し、ビンに収容された対象物品を、出荷用コンベアや仕分け箱などの他の位置に移転させる。なお、他の実施形態においては、作業システム1は、ピッキングシステム以外のシステムに適用されてもよい。例えば、作業システム1は、たねまき、仕分け、開梱や梱包、検品、組立などの他の遠隔作業(倉庫内に限らずオフィス、スーパー、病院、図書館、実験室等における遠隔作業を含む)に用いられてもよい。
The
入出力グローブ10は、オペレータOの手に取り付けられる手袋状の入出力装置である。入出力グローブ10は、オペレータOの姿勢を検出する姿勢センサと、作業ロボット50の動作をフィードバックするフィードバックデバイスとを備える。入出力グローブ10は、姿勢センサが生成する信号を、操作信号としてマスタコントローラ30に出力する。姿勢センサは、少なくともオペレータOの関節の角度を算出可能に構成される。姿勢センサは、モーションキャプチャによりオペレータOの動きを検出するものであってよい。フィードバックデバイスは、作業ロボット50のマニピュレータ51が触れた物の触感を再現可能な素子(アクチュエータや電極など)である。フィードバックデバイスは、マスタコントローラ30から入力されるフィードバック信号に従って動作する。
The input /
ヘッドマウントディスプレイ20は、オペレータOの頭部に装着されることでオペレータOに画像を提示する装置である。画像の提示方法としては、オペレータの目に対向するディスプレイに画像を表示する方法や、プロジェクタによってオペレータの目に画像を投影する方法が挙げられる。ヘッドマウントディスプレイ20は、マスタコントローラ30から入力される映像信号に従って映像を提示する。ヘッドマウントディスプレイ20は、自身の姿勢を検出する姿勢センサ(例えば、加速度センサやジャイロスコープなど)を備える。ヘッドマウントディスプレイ20は、姿勢センサの検出結果を示す姿勢信号をマスタコントローラ30に出力する。
The head-mounted
作業ロボット50は、マニピュレータ51とカメラ52とを備える。
マニピュレータ51は、複数のリンクが複数の関節を介して互いに接続されている。マニピュレータ51は、スレーブコントローラ40から入力される制御信号に従って関節ごとに設けられたアクチュエータを駆動させることによって各関節の角度を調整する。マニピュレータ51の関節とオペレータOの関節とは必ずしも一対一に対応しない。例えば、マニピュレータ51は、5本未満の指(指に相当するリンクと関節との組み合わせ)を備えるものであってよい。また例えばマニピュレータ51は、2つ以上の肘(肘に相当する関節)を備えるものであってよい。マニピュレータ51には、触覚センサと姿勢センサとが設けられている。触覚センサは、マニピュレータ51の表面(特に指に相当するリンクの先端)に設けられ、接触した物体の触感を検出する。姿勢センサは、マニピュレータ51の関節ごとに設けられており、各関節の角度および角速度を検出する。姿勢センサの例としては、アクチュエータの運動量を計測するセンサ(回転数センサやストロークセンサ)が挙げられる。
カメラ52は、関節を介してマニピュレータ51と接続される。カメラ52は、撮像した画像を表す映像情報をスレーブコントローラ40に出力する。カメラ52の姿勢は、スレーブコントローラ40から入力される制御信号に従って調整される。つまり、カメラ52とマニピュレータ51とに接続されたアクチュエータが制御信号に従って駆動することで、カメラ52の姿勢が調整される。
The working
In the
The
マスタコントローラ30は、入出力グローブ10から入力される操作信号に基づいて、作業ロボット50のマニピュレータ51の制御信号を生成する。またマスタコントローラ30は、作業ロボット50からマニピュレータ51が検出する触感を示す触感信号に基づいて、当該触覚を入出力グローブ10のフィードバックデバイスに再現させるためのフィードバック信号を生成する。また、マスタコントローラ30は、スレーブコントローラ40から映像信号を受信し、これをヘッドマウントディスプレイ20に出力する。またマスタコントローラ30は、ヘッドマウントディスプレイ20から入力された姿勢信号に基づいて、作業ロボット50のカメラ52の制御信号を生成し、スレーブコントローラ40に送信する。
The
スレーブコントローラ40は、マスタコントローラ30から制御信号を受信し、これに従ってマニピュレータ51を駆動させる。またスレーブコントローラ40は、触覚センサ、姿勢センサ、カメラ52から信号を取得し、これをマスタコントローラ30に送信する。
The
図2は、第1の実施形態に係るコントローラの構成を示す概略ブロック図である。
マスタコントローラ30は、信号受信部301、映像信号出力部302、触感信号変換部303、フィードバック信号出力部304、姿勢記憶部305、姿勢更新部306、指示入力部307、認識部308、作業モデル記憶部309、制御信号算出部310、操作信号入力部311、操作信号変換部312、制御信号送信部313、作業判定部314、学習部315を備える。
FIG. 2 is a schematic block diagram showing a configuration of the controller according to the first embodiment.
The
信号受信部301は、スレーブコントローラ40を介して、作業ロボット50から映像信号、触感信号および姿勢信号を受信する。
映像信号出力部302は、受信した映像信号をヘッドマウントディスプレイ20に出力する。このとき、映像信号出力部302は、作業指示に含まれる対象物品Iの画像や、認識部308による認識結果を映像信号に重畳させてもよい。
触感信号変換部303は、受信した触感信号をフィードバック信号に変換する。つまり、触感信号変換部303は、作業ロボット50のマニピュレータ51が触れた物体の触感を、フィードバックデバイスに再現させるためのフィードバック信号を生成する。触感信号からフィードバック信号への変換は、例えば触感信号を予め求められた関数に入力することで実現することができる。
フィードバック信号出力部304は、フィードバック信号を入出力グローブ10に出力する。
The
The video
The tactile
The feedback
姿勢記憶部305は、作業ロボット50の姿勢を記憶する。作業ロボット50の姿勢には、各関節の位置、角度、角速度が含まれる。
姿勢更新部306は、受信した姿勢信号に基づいて姿勢記憶部305が記憶する情報を更新する。
The
The
指示入力部307は、ピッキングシステム等から作業指示の入力を受け付ける。作業指示には、作業対象となる対象物品Iの形状を特定可能な情報が含まれる。形状を特定可能な情報の例としては、立体形状を示す三次元形状データ、複数の視点から撮影された二次元画像データ、三次元形状データや二次元画像データから抽出された特徴量情報などが挙げられる。
The
認識部308は、作業指示に基づいて、映像信号に写った対象物品Iの位置および姿勢を認識する。認識部308は、例えばパターンマッチング法により対象物品Iを認識する。
The
作業モデル記憶部309は、対象物品Iの種類、位置および姿勢、ならびにマニピュレータ51の姿勢からマニピュレータ51の操作信号を特定するための作業モデルを記憶する。作業モデルは、学習部315による機械学習によって更新される。作業モデルの例としては、ニューラルネットワークモデルやベイジアンネットワークなどが挙げられる。
The work
制御信号算出部310は、作業モデル記憶部309が記憶する作業モデルに対象物品Iの種類、位置および姿勢、ならびにマニピュレータ51の姿勢を入力することで、制御信号(第1の制御信号)を算出する。このとき、制御信号算出部310は、制御信号の妥当性を示すスコアを算出する。スコアの例としては、作業モデルの導出過程で算出される制御信号の尤度が挙げられる。本実施形態に係るスコアは値が大きいほど妥当性が高いことを示す。つまり、制御信号算出部310は信号生成部およびスコア算出部の一例である。
The control
操作信号入力部311は、入出力グローブ10から操作信号(第2の操作信号)の入力を受け付ける。また操作信号入力部311は、ヘッドマウントディスプレイ20から姿勢信号の入力を受け付ける。
操作信号変換部312は、操作信号および姿勢信号を制御信号に変換する。つまり、操作信号変換部312は、オペレータOと同じ動作を作業ロボット50に実行させるための制御信号を生成する。操作信号および姿勢信号から制御信号への変換は、例えば操作信号および姿勢信号を予め求められた関数に入力することで実現することができる。なお、入出力グローブ10の操作信号は、マニピュレータ51の制御信号に変換され、ヘッドマウントディスプレイ20の姿勢信号は、カメラ52の制御信号に変換される。
The operation
The operation
制御信号送信部313は、制御信号算出部310が生成した制御信号のスコアに基づいて、作業ロボット50の制御に用いる制御信号を決定する。具体的には、制御信号送信部313は、スコアが閾値以上である場合に、制御信号算出部310が生成したマニピュレータ51の制御信号をスレーブコントローラ40に送信し、スコアが閾値未満である場合に、操作信号変換部312が変換したマニピュレータ51の制御信号をスレーブコントローラ40に送信する。また制御信号送信部313は、スコアに関わらず操作信号変換部312が生成したカメラ52の制御信号をスレーブコントローラ40に送信する。
The control
作業判定部314は、信号受信部301が受信した映像信号に基づいて、作業ロボット50による作業が成功したか否かを判定する。例えば、作業判定部314は、対象物品Iが目標位置にあり、かつ対象物品Iがマニピュレータ51に把持されていない場合に、作業が成功したと判定する。他方、作業判定部314は、対象物品Iが目標位置になく、かつ対象物品Iがマニピュレータ51に把持されていない場合に、作業が失敗したと判定する。
学習部315は、認識部308による認識結果と、作業判定部314による判定結果と、作業開始から判定までに出力された制御信号とを用いて作業モデル記憶部309が記憶する作業モデルを更新する。
The work determination unit 314 determines whether or not the work by the
The
図3は、第1の実施形態に係るマスタコントローラの動作を示す第1のフローチャートである。
ピッキングシステムが対象物を作業スペースに運搬すると、ピッキングシステムは、マスタコントローラ30に作業指示を出力する。
マスタコントローラ30の指示入力部307は、ピッキングシステムから作業指示の入力を受け付ける(ステップS1)。次に、信号受信部301は、スレーブコントローラ40を介して作業ロボット50から、カメラ52が撮像した映像信号、触覚センサが検出した触感信号、および姿勢センサが検出した姿勢信号を受信する(ステップS2)。
FIG. 3 is a first flowchart showing the operation of the master controller according to the first embodiment.
When the picking system transports the object to the work space, the picking system outputs a work instruction to the
The
映像信号出力部302は、信号受信部301が受信した映像信号をヘッドマウントディスプレイ20に出力する(ステップS3)。ヘッドマウントディスプレイ20は、映像信号が入力されると当該映像信号に基づいて画像をオペレータOに提示する。これにより、オペレータOは、作業ロボット50のマニピュレータ51と対象物品Iとの位置関係を確認することができる。
The video
姿勢更新部306は、受信した姿勢信号に基づいて姿勢記憶部305が記憶する情報を更新する(ステップS4)。また触感信号変換部303は、受信した触感信号をフィードバック信号に変換する(ステップS5)そして、フィードバック信号出力部304は、フィードバック信号を入出力グローブ10に出力する(ステップS6)。これにより、オペレータOは、マニピュレータ51が触れるものの触感を得ることができる。
The
次に、認識部308は、作業指示に含まれる対象物品Iの情報に基づいて、映像信号に写った対象物品Iの位置および姿勢を認識する(ステップS7)。制御信号算出部310は、作業モデル記憶部309が記憶する作業モデルに、対象物品Iの種類、位置および姿勢、ならびにマニピュレータ51の姿勢を入力することで、マニピュレータ51の制御信号と、当該制御信号の妥当性を示すスコアとを算出する(ステップS8)。対象物品Iの種類は、作業指示に含まれる。また対象物品Iの位置および姿勢は、認識部308によって認識される。またマニピュレータ51の姿勢は、姿勢記憶部305に記憶される。当該制御信号は、マニピュレータ51を単位時間の間動作させるための信号である。
Next, the
制御信号送信部313は、制御信号算出部310が生成した制御信号のスコアが閾値以上であるか否かを判定する(ステップS9)。スコアが閾値以上である場合(ステップS9:YES)、制御信号送信部313は、ステップS8で算出されたマニピュレータ51の制御信号を、スレーブコントローラ40に送信する(ステップS10)。これにより、スレーブコントローラ40は、作業モデルに基づいて生成された制御信号に従ってマニピュレータ51を動作させる。
The control
他方、スコアが閾値未満である場合(ステップS9:NO)、制御信号送信部313は、オペレータOによる操作に基づく制御信号をスレーブコントローラ40に送信することを決定する。このとき、マスタコントローラ30は、ヘッドマウントディスプレイ20に入出力グローブ10の操作の指示を表示させてもよい。オペレータOによって入出力グローブ10が操作されると、操作信号入力部311は、入出力グローブ10から操作信号の入力を受け付ける(ステップS11)。操作信号変換部312は、操作信号をマニピュレータ51の制御信号に変換する(ステップS12)。そして、制御信号送信部313は、ステップS12で変換されたマニピュレータ51の制御信号を、スレーブコントローラ40に送信する(ステップS13)。これにより、スレーブコントローラ40は、オペレータOの操作に基づいて生成された制御信号に従ってマニピュレータ51を動作させる。
On the other hand, when the score is less than the threshold value (step S9: NO), the control
マニピュレータ51の制御信号を送信すると、操作信号入力部311は、ヘッドマウントディスプレイ20から姿勢信号の入力を受け付ける(ステップS14)。操作信号変換部312は、姿勢信号をカメラ52の制御信号に変換する(ステップS15)。そして、制御信号送信部313は、スコアに関わらず操作信号変換部312が生成したカメラ52の制御信号を作業ロボット50に送信する(ステップS16)。これにより、スレーブコントローラ40は、オペレータOの視線の動きとカメラ52の視線の動きが一致するように、カメラ52の姿勢を制御する。
When the control signal of the
図4は、第1の実施形態に係るマスタコントローラの動作を示す第2のフローチャートである。
作業判定部314は、信号受信部301が受信した映像信号に基づいて、対象物品Iがマニピュレータ51に把持されているか否かを判定する(ステップS17)。対象物品Iがマニピュレータ51に把持されている場合(ステップS17:YES)、作業判定部314は、作業中であると判定し、ステップS2に処理を戻す。他方、対象物品Iがマニピュレータ51に把持されていない場合(ステップS17:NO)、作業判定部314は、信号受信部301が受信した映像信号に基づいて、対象物品Iが目標位置にあるか否かを判定する(ステップS18)。対象物品Iが目標位置にある場合(ステップS18:YES)、作業判定部314は、作業が成功したと判定する(ステップS19)。他方、対象物品Iが目標位置にない場合(ステップS18:NO)、作業判定部314は、作業が失敗したと判定する(ステップS20)。
FIG. 4 is a second flowchart showing the operation of the master controller according to the first embodiment.
The work determination unit 314 determines whether or not the target article I is gripped by the
そして、学習部315は、認識部308による認識結果と、作業判定部314による判定結果と、作業開始から判定までに出力された制御信号とを用いて作業モデル記憶部309が記憶する作業モデルを更新する(ステップS21)。
Then, the
このように、第1の実施形態によれば、マスタコントローラ30は、マニピュレータ51の操作の履歴に基づいてマニピュレータ51の操作信号とその妥当性を示すスコアを算出し、当該スコアに基づいて、入出力グローブ10の操作に従った操作信号を出力するか、算出した操作信号を出力するかを決定する。これにより、マスタコントローラ30は、操作の履歴から生成された操作信号によってオペレータOごとの操作のばらつきを抑制しつつ、学習が不十分な作業についてはオペレータOによる操作によりマニピュレータ51を動作させることで、作業の精度を保つことができる。
As described above, according to the first embodiment, the
《第2の実施形態》
第1の実施形態に係る作業システム1は、作業ロボット50の単位制御時間ごとに、作業モデルから算出された制御信号と入出力グローブ10の操作に基づく制御信号との何れを採用するかを決定する。これに対し、第2の実施形態に係る作業システム1は、スコアが閾値未満になるまでは作業モデルから算出された制御信号を採用し、スコアが閾値未満になった以降は、入出力グローブ10の操作に基づく制御信号を採用する。
<< Second Embodiment >>
The
具体的には、第1の実施形態に係る制御信号送信部313は、ステップS9において、ステップS8で算出したスコアが閾値以上であるか否かを判定したが、第2の実施形態に係る制御信号送信部313は、以前に算出したスコアが全て閾値以上であるか否かを判定する。これにより、制御信号送信部313は、スコアが閾値未満になるまでは作業モデルから算出された制御信号を採用し、スコアが閾値未満になった以降は、入出力グローブ10の操作に基づく制御信号を採用することができる。これにより、第2の実施形態に係る作業システム1は、作業の大まかな工程を自動制御により実現し、妥当性の低い最終工程だけをオペレータOの操作に基づいて調整することができる。
Specifically, the control
《第3の実施形態》
第1、第2の実施形態に係る作業システム1は、マニピュレータ51の全ての関節を作業モデルから算出された制御信号によって制御するか、入出力グローブ10の操作に基づく制御信号によって制御するかを決定する。これに対し、第3の実施形態に係る作業システム1は、マニピュレータ51の複数の関節の中から、作業モデルから算出された制御信号によって制御する関節と、入出力グローブ10の操作に基づく制御信号によって制御する関節とを決定する。
<< Third Embodiment >>
The
図5は、第3の実施形態に係るマスタコントローラの構成を示す概略ブロック図である。
第3の実施形態に係るマスタコントローラ30は、第1の実施形態の構成に加え、さらに関節特定部316を備える。関節特定部316は、マニピュレータ51が備える複数の関節のうち、制御信号のスコアが閾値未満であって最も基端側に設けられるものを、基準関節として特定する。例えば、制御信号算出部310が、各関節の制御信号を生成した場合に、肩に相当する関節のスコアが0.8、肘に相当する関節のスコアが0.7、手首に相当する関節のスコアが0.6、指の第三関節に相当する関節のスコアが0.4、指の第二関節に相当する関節のスコアが0.3、指の第一関節に相当する関節のスコアが0.1であって、閾値が0.5である場合、関節特定部316は、指の第三関節に相当する関節を基準関節とする。
FIG. 5 is a schematic block diagram showing a configuration of a master controller according to a third embodiment.
The
第3の実施形態に係る制御信号送信部313は、基準関節より基端側に設けられた関節に、制御信号算出部310が算出した操作信号を出力し、基準関節および基準関節より先端側に設けられた関節に、操作信号変換部312が変換した操作信号を出力する。上記例に倣うと、制御信号送信部313は、肩に相当する関節、肘に相当する関節、および手首に相当する関節に、制御信号算出部310が算出した操作信号を出力する。また制御信号送信部313は、指の第三関節に相当する関節、指の第二関節に相当する関節、指の第一関節に相当する関節に、操作信号変換部312が変換した操作信号を出力する。Control
このように、第3の実施形態に係る作業システム1は、マニピュレータ51の基端側の動作を自動制御し、学習が不十分な先端部分についてはオペレータOによる操作によりマニピュレータ51を動作させる。これにより、作業システム1は、オペレータOごとの操作のばらつきを抑制しつつ、作業の精度を保つことができる。
As described above, the
以上、図面を参照して一実施形態について詳しく説明してきたが、具体的な構成は上述のものに限られることはなく、様々な設計変更等をすることが可能である。
例えば、上述した実施形態においては、自動制御するか手動制御とするかを判定する閾値が固定値であるが、これに限られない。例えば、他の実施形態においては、当該閾値がオペレータOの習熟度に応じて異なってもよい。例えば、オペレータOが作業に習熟しているほど、閾値を高くすることで、習熟度の高いオペレータOの手動制御の割合を増加させることができる。これにより、習熟度の高いオペレータOの操作を適切に作業モデルに学習させることができる。また、他の実施形態においては、オペレータOが当該閾値を自由に変更してもよい。また、他の実施形態においては、対象物品Iの種類に応じて閾値を異ならせてもよい。
Although one embodiment has been described in detail with reference to the drawings, the specific configuration is not limited to the above, and various design changes and the like can be made.
For example, in the above-described embodiment, the threshold value for determining whether to perform automatic control or manual control is a fixed value, but the present invention is not limited to this. For example, in other embodiments, the threshold value may differ depending on the proficiency level of the operator O. For example, the more proficient the operator O is in the work, the higher the threshold value is, so that the ratio of manual control of the operator O having a high proficiency level can be increased. As a result, the operation of the operator O, who has a high degree of proficiency, can be appropriately learned by the working model. Further, in another embodiment, the operator O may freely change the threshold value. Further, in other embodiments, the threshold value may be different depending on the type of the target article I.
また、上述の実施形態では、マスタコントローラ30がオペレータOの近傍に設けられるが、これに限られない。例えば、他の実施形態では、ネットワークN上のサーバ装置において、上述の制御がなされてもよいし、マスタコントローラ30とスレーブコントローラ40の位置関係が入れ替わってもよい。つまり、他の実施形態においては、オペレータOの近傍に設けられたスレーブコントローラ40が、信号の転送のみを行い、作業ロボット50の近傍に設けられたマスタコントローラ30が、上記処理を行ってもよい。
Further, in the above-described embodiment, the
また、第3の実施形態では、マスタコントローラ30がスコアに基づいて複数の関節のうち基準関節より基端側の関節を自動制御し、基準関節およびこれより先端側の関節を手動制御するが、これに限られない。例えば、他の実施形態においては、マスタコントローラ30は、複数の関節のうち、スコアが閾値以上の関節を自動制御し、スコアが閾値未満の関節を手動制御してもよい。
Further, in the third embodiment, the
図6は、少なくとも1つの実施形態に係るコンピュータの構成を示す概略ブロック図である。
コンピュータ90は、CPU91、メインメモリ92、ストレージ93、インタフェース94を備える。
上述のマスタコントローラ30は、コンピュータ90に実装される。そして、上述した各処理部の動作は、プログラムの形式でストレージ93に記憶されている。CPU91は、プログラムをストレージ93から読み出してメインメモリ92に展開し、当該プログラムに従って上記処理を実行する。また、CPU91は、プログラムに従って、上述した各記憶部に対応する記憶領域をメインメモリ92に確保する。
FIG. 6 is a schematic block diagram showing a configuration of a computer according to at least one embodiment.
The
The
ストレージ93の例としては、HDD(Hard Disk Drive)、SSD(Solid State Drive)、磁気ディスク、光磁気ディスク、CD−ROM(Compact Disc Read Only Memory)、DVD−ROM(Digital Versatile Disc Read Only Memory)、半導体メモリ等が挙げられる。ストレージ93は、コンピュータ90のバスに直接接続された内部メディアであってもよいし、インタフェース94または通信回線を介してコンピュータ90に接続される外部メディアであってもよい。また、このプログラムが通信回線によってコンピュータ90に配信される場合、配信を受けたコンピュータ90が当該プログラムをメインメモリ92に展開し、上記処理を実行してもよい。少なくとも1つの実施形態において、ストレージ93は、一時的でない有形の記憶媒体である。
Examples of the
また、当該プログラムは、前述した機能の一部を実現するためのものであってもよい。さらに、当該プログラムは、前述した機能をストレージ93に既に記憶されている他のプログラムとの組み合わせで実現するもの、いわゆる差分ファイル(差分プログラム)であってもよい。
Further, the program may be for realizing a part of the above-mentioned functions. Further, the program may be a so-called difference file (difference program) that realizes the above-mentioned function in combination with another program already stored in the
1 作業システム
10 入出力グローブ
20 ヘッドマウントディスプレイ
30 マスタコントローラ
40 スレーブコントローラ
50 作業ロボット
51 マニピュレータ
52 カメラ
301 信号受信部
302 映像信号出力部
303 触感信号変換部
304 フィードバック信号出力部
305 姿勢記憶部
306 姿勢更新部
307 指示入力部
308 認識部
309 作業モデル記憶部
310 制御信号算出部
311 操作信号入力部
312 操作信号変換部
313 制御信号送信部
314 作業判定部
315 学習部
316 関節特定部
1
Claims (8)
前記マニピュレータの操作の履歴に基づいて前記マニピュレータの第1の操作信号を生成する信号生成部と、
前記第1の操作信号の妥当性を示すスコアを算出するスコア算出部と、
前記スコアに基づいて、前記入力装置の操作に従った第2の操作信号を出力するか、前記スコアに係る前記第1の操作信号を出力するかを決定する信号出力部と
を備える制御装置。 A manipulator control device that outputs an operation signal to the manipulator based on the operation of the input device.
A signal generation unit that generates a first operation signal of the manipulator based on the operation history of the manipulator, and a signal generation unit.
A score calculation unit that calculates a score indicating the validity of the first operation signal, and
A control device including a signal output unit that determines whether to output a second operation signal according to the operation of the input device or to output the first operation signal related to the score based on the score.
前記認識部によって認識された対象物と、前記マニピュレータが前記対象物についての作業をするときの前記入力装置の操作の履歴とに基づいて、前記対象物と前記マニピュレータの位置とから前記第1の操作信号を求めるためのモデルを更新する学習部と
をさらに備え、
前記信号生成部は前記モデルに基づいて前記第1の操作信号を生成し、
前記スコア算出部は前記モデルに基づいて前記スコアを算出する
請求項1に記載の制御装置。 A recognition unit that recognizes an object to be worked on by the manipulator,
Based on the object recognized by the recognition unit and the history of the operation of the input device when the manipulator works on the object, the first position of the object and the manipulator is determined. It also has a learning unit that updates the model for obtaining operation signals.
The signal generation unit generates the first operation signal based on the model, and generates the first operation signal.
The control device according to claim 1, wherein the score calculation unit calculates the score based on the model.
請求項1または請求項2に記載の制御装置。 The signal output unit outputs the first operation signal until the score related to the first operation signal generated at regular intervals becomes less than the threshold value, and after the score becomes less than the threshold value. The control device according to claim 1 or 2, which outputs the second operation signal.
前記信号生成部は、前記複数の関節それぞれを操作する第1の操作信号を生成し、
前記信号出力部は、前記複数の関節のうち前記スコアが前記閾値以上の関節に、前記第1の操作信号を出力する
請求項3に記載の制御装置。 The manipulator has multiple joints and
The signal generation unit generates a first operation signal for operating each of the plurality of joints, and generates a first operation signal.
The signal output unit outputs the first operation signal to the joint having the score equal to or higher than the threshold value among the plurality of joints.
The control device according to claim 3.
前記信号出力部は、前記複数の関節のうち、前記基準関節より基端側に設けられた関節に、前記第1の操作信号を出力し、前記基準関節および前記基準関節より先端側に設けられた関節に、前記第2の操作信号を出力する
請求項4に記載の制御装置。 A joint identification part that identifies a reference joint, which is provided on the most proximal side of the joints whose score is less than the threshold value, and
The signal output unit outputs the first operation signal to the joint provided on the proximal end side of the reference joint among the plurality of joints, and is provided on the reference joint and the tip side of the reference joint. The control device according to claim 4, wherein the second operation signal is output to the joint.
ユーザによる操作の入力を受け付ける入力装置と、
請求項1から請求項5の何れか1項に記載の制御装置と
を備える作業システム。 A manipulator that drives based on operation signals and
An input device that accepts user input for operations and
A work system including the control device according to any one of claims 1 to 5.
前記マニピュレータの操作の履歴に基づいて前記マニピュレータの第1の操作信号を生成するステップと、
前記第1の操作信号の妥当性を示すスコアを算出するステップと、
前記スコアに基づいて、ユーザによる操作の入力を受け付ける入力装置の操作に従った第2の操作信号を出力するか、前記スコアに係る前記第1の操作信号を出力するかを決定するステップと
を有する制御方法。 It ’s a manipulator control method.
A step of generating a first operation signal of the manipulator based on the operation history of the manipulator, and
A step of calculating a score indicating the validity of the first operation signal, and
Based on the score, a step of determining whether to output the second operation signal according to the operation of the input device that receives the input of the operation by the user or to output the first operation signal related to the score. Control method to have.
前記マニピュレータの操作の履歴に基づいて前記マニピュレータの第1の操作信号を生成するステップと、
前記第1の操作信号の妥当性を示すスコアを算出するステップと、
前記スコアに基づいて、ユーザによる操作の入力を受け付ける入力装置の操作に従った第2の操作信号を出力するか、前記スコアに係る前記第1の操作信号を出力するかを決定するステップと
を実行させるためのプログラム。 To the computer that controls the manipulator
A step of generating a first operation signal of the manipulator based on the operation history of the manipulator, and
A step of calculating a score indicating the validity of the first operation signal, and
Based on the score, a step of determining whether to output the second operation signal according to the operation of the input device that receives the input of the operation by the user or to output the first operation signal related to the score. A program to run.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017050098A JP6869060B2 (en) | 2017-03-15 | 2017-03-15 | Manipulator controls, control methods and programs, and work systems |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017050098A JP6869060B2 (en) | 2017-03-15 | 2017-03-15 | Manipulator controls, control methods and programs, and work systems |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2018153873A JP2018153873A (en) | 2018-10-04 |
JP6869060B2 true JP6869060B2 (en) | 2021-05-12 |
Family
ID=63716072
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017050098A Active JP6869060B2 (en) | 2017-03-15 | 2017-03-15 | Manipulator controls, control methods and programs, and work systems |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6869060B2 (en) |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7252787B2 (en) | 2019-02-28 | 2023-04-05 | 川崎重工業株式会社 | Machine learning model operation management system and machine learning model operation management method |
CN111002294A (en) * | 2019-12-30 | 2020-04-14 | 中国地质大学(武汉) | Two fingers grab demonstrator and teaching system of robot |
JP7493876B2 (en) | 2020-06-18 | 2024-06-03 | 株式会社オカムラ | Automated Warehouse System |
JP2022139742A (en) * | 2021-03-12 | 2022-09-26 | オムロン株式会社 | Instruction description support system, instruction description support method and instruction description support program |
JP2022139741A (en) * | 2021-03-12 | 2022-09-26 | オムロン株式会社 | Instruction description support system, instruction description support method and instruction description support program |
EP4309859A1 (en) * | 2021-07-21 | 2024-01-24 | Samsung Electronics Co., Ltd. | Manipulator and control method therefor |
WO2024009359A1 (en) * | 2022-07-04 | 2024-01-11 | ファナック株式会社 | Laser machining head and laser machining system |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0789286B2 (en) * | 1986-02-28 | 1995-09-27 | 株式会社日立製作所 | Work origin determination method for articulated manipulator |
JPH02212087A (en) * | 1989-02-14 | 1990-08-23 | Toshiba Corp | Control device for robot arm |
JPH07246581A (en) * | 1994-03-14 | 1995-09-26 | Fujitsu Ltd | Grasping position and attitude control method of manipulator |
JP3924495B2 (en) * | 2002-04-24 | 2007-06-06 | 株式会社日立製作所 | Remote control device |
JP2007276052A (en) * | 2006-04-06 | 2007-10-25 | Sony Corp | Control system, record system, information processor and method, program, and recording medium |
JP2013158869A (en) * | 2012-02-03 | 2013-08-19 | Seiko Epson Corp | Robot control device, robot system, and robot control method |
CN106457569B (en) * | 2014-04-10 | 2019-03-12 | 宽射咨询公司 | Robot system and the method for operating robot system |
JP6522488B2 (en) * | 2015-07-31 | 2019-05-29 | ファナック株式会社 | Machine learning apparatus, robot system and machine learning method for learning work taking-out operation |
KR102094439B1 (en) * | 2015-08-25 | 2020-03-27 | 카와사키 주코교 카부시키 카이샤 | Industrial remote control robot system |
-
2017
- 2017-03-15 JP JP2017050098A patent/JP6869060B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
JP2018153873A (en) | 2018-10-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6869060B2 (en) | Manipulator controls, control methods and programs, and work systems | |
JP6902369B2 (en) | Presentation device, presentation method and program, and work system | |
US12064876B2 (en) | Determining and utilizing corrections to robot actions | |
JP7213934B2 (en) | Updating Local Feature Models Based on Modifications to Robot Actions | |
JP6540472B2 (en) | Simulation apparatus, simulation method, and simulation program | |
JP2018051652A (en) | Robot system | |
US11052541B1 (en) | Autonomous robot telerobotic interface | |
JP6931585B2 (en) | Work system, work system control method and program | |
JP2020025992A (en) | Control device, control method, and program | |
JP7200610B2 (en) | POSITION DETECTION PROGRAM, POSITION DETECTION METHOD, AND POSITION DETECTION DEVICE | |
US10933526B2 (en) | Method and robotic system for manipulating instruments | |
JP7481205B2 (en) | ROBOT SYSTEM, ROBOT CONTROL METHOD, INFORMATION PROCESSING APPARATUS, COMPUTER PROGRAM, LEARNING APPARATUS, AND METHOD FOR GENERATING TRAINED MODEL | |
EP4301559A2 (en) | Robotic system | |
WO2020166509A1 (en) | Control device and program | |
JP2022060003A (en) | Information processing device, method for controlling information processing device and program | |
US20210271791A1 (en) | Simulation method and simulation system | |
US20230286159A1 (en) | Remote control system | |
JP7286524B2 (en) | Picking robot, picking method and program | |
KR20240081551A (en) | System and method for acquisition dataset of robot control | |
KR20240081550A (en) | System and method for remotely controlling robot based on xtended reality | |
JP2020097072A (en) | Control device and learning device |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD03 | Notification of appointment of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7423 Effective date: 20181012 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200115 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20201210 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20201222 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210205 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20210406 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20210413 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6869060 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |