JP2018169660A - オブジェクト姿勢検出装置、制御装置、ロボットおよびロボットシステム - Google Patents

オブジェクト姿勢検出装置、制御装置、ロボットおよびロボットシステム Download PDF

Info

Publication number
JP2018169660A
JP2018169660A JP2017064549A JP2017064549A JP2018169660A JP 2018169660 A JP2018169660 A JP 2018169660A JP 2017064549 A JP2017064549 A JP 2017064549A JP 2017064549 A JP2017064549 A JP 2017064549A JP 2018169660 A JP2018169660 A JP 2018169660A
Authority
JP
Japan
Prior art keywords
template image
image
contour
posture
control device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2017064549A
Other languages
English (en)
Inventor
ラヴィンシュタイン アレックス
Levinshtein Alex
ラヴィンシュタイン アレックス
ジョセフ 子泰 林
Chitai Lam Joseph
ジョセフ 子泰 林
ブラスニッツェン ミカイル
Mikhail Brusnitsyn
ブラスニッツェン ミカイル
國益 符
Guoyi Fu
國益 符
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Seiko Epson Corp
Original Assignee
Seiko Epson Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Seiko Epson Corp filed Critical Seiko Epson Corp
Priority to JP2017064549A priority Critical patent/JP2018169660A/ja
Priority to US15/935,685 priority patent/US10740649B2/en
Publication of JP2018169660A publication Critical patent/JP2018169660A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1694Programme controls characterised by use of sensors other than normal servo-feedback from position, speed or acceleration sensors, perception control, multi-sensor controlled systems, sensor fusion
    • B25J9/1697Vision controlled systems
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1628Programme controls characterised by the control loop
    • B25J9/163Programme controls characterised by the control loop learning, adaptive, model based, rule based expert control
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/22Matching criteria, e.g. proximity measures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/75Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
    • G06V10/751Comparing pixel values or logical combinations thereof, or feature values having positional relevance, e.g. template matching
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00Program-control systems
    • G05B2219/30Nc systems
    • G05B2219/40Robotics, robotics mapping to robotics vision
    • G05B2219/40563Object detection
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y10TECHNICAL SUBJECTS COVERED BY FORMER USPC
    • Y10STECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y10S901/00Robots
    • Y10S901/02Arm motion controller
    • Y10S901/03Teaching system
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y10TECHNICAL SUBJECTS COVERED BY FORMER USPC
    • Y10STECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y10S901/00Robots
    • Y10S901/46Sensing device
    • Y10S901/47Optical

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Mechanical Engineering (AREA)
  • Robotics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Physics & Mathematics (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Physics & Mathematics (AREA)
  • Databases & Information Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Medical Informatics (AREA)
  • Computing Systems (AREA)
  • Multimedia (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Software Systems (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • General Engineering & Computer Science (AREA)
  • Image Analysis (AREA)
  • Manipulator (AREA)

Abstract

【課題】オブジェクトが適正に検出できる可能性を向上させる技術の提供。
【解決手段】オブジェクトの撮像画像を取得する撮像画像取得部と、前記オブジェクトの
姿勢毎のテンプレート画像を取得するテンプレート画像取得部と、前記撮像画像内で輪郭
を形成する画素と前記テンプレート画像の輪郭を形成する画素との距離が第1閾値より短
く、前記撮像画像内で輪郭を形成する画素の勾配と前記テンプレート画像の輪郭を形成す
る画素の勾配との類似度が第2閾値より大きい画素を有する前記テンプレート画像に基づ
いて前記オブジェクトの姿勢を決定する姿勢決定部と、を備えるオブジェクト姿勢検出装
置が構成される。
【選択図】図1

Description

本発明は、オブジェクト姿勢検出装置、制御装置、ロボットおよびロボットシステムに
関する。
従来、撮像されたオブジェクトの画像とテンプレートの画像とを比較してオブジェクト
を検出する技術が知られている。例えば、非特許文献1においては、オブジェクトとテン
プレートの輪郭の勾配を比較することでオブジェクトを検出する技術が開示されている。
Stefan Hinterstoisser他著, "Gradient Response Maps for Real-Time
Detection of Texture-Less Objects", IEEE TRANSACTIONS ON PATTERN ANALYSIS AND MA
CHINE INTELLIGENCE, 2012, Volume: 34, Issue: 5, Pages: 876 - 888
上述のようなテンプレートマッチングによるオブジェクトの検出技術は各種の技術が知
られているが、従来、テンプレートマッチングによってオブジェクトが適正に検出できな
い場合があった。
本発明は、オブジェクトが適正に検出できる可能性を向上させることを目的とする。
上記目的を達成するためのオブジェクト姿勢検出装置は、オブジェクトの撮像画像を取
得する撮像画像取得部と、前記オブジェクトの姿勢毎のテンプレート画像を取得するテン
プレート画像取得部と、前記撮像画像内で輪郭を形成する画素と前記テンプレート画像の
輪郭を形成する画素との距離が第1閾値より短く、前記撮像画像内で輪郭を形成する画素
の勾配と前記テンプレート画像の輪郭を形成する画素の勾配との類似度が第2閾値より大
きい前記テンプレート画像に基づいて前記オブジェクトの姿勢を決定する姿勢決定部と、
を備える。
すなわち、オブジェクト姿勢検出装置においては、オブジェクトの撮像画像内で輪郭を
形成する画素とテンプレート画像の輪郭を形成する画素とに着目する。そして、オブジェ
クト姿勢検出装置においては、撮像画像内で輪郭の画素とテンプレート画像における輪郭
の画素との距離が近く、勾配が類似している場合に、撮像画像内で形成された輪郭がオブ
ジェクトの輪郭であると見なし、撮像されたオブジェクトの姿勢をテンプレート画像に基
づいて決定する。この構成によれば、誤検出が発生する可能性を低減し、オブジェクトが
適正に検出できる可能性を向上させることができる。
また、テンプレート画像の輪郭の曲率が大きくなるほど第2閾値が小さくなる構成が採
用されてもよい。この構成によれば、勾配の差異に対する許容範囲が広くなり、オブジェ
クトが検出されたとみなして良い状態を非検出であると見なしてしまう可能性を低減する
ことができる。
さらに、姿勢決定部は、撮像画像で形成される輪郭内の一様な部位とテンプレート画像
の輪郭内の一様な部位との一致度が第3閾値より大きいテンプレート画像に基づいてオブ
ジェクトの姿勢を決定する構成であっても良い。この構成によれば、オブジェクトの表面
の特徴に基づいてオブジェクトの姿勢を決定することができ、オブジェクトが適正に検出
できる可能性を向上させることができる。
さらに、一様な部位は、エッジまでの最小距離が最小基準値以上の画素によって構成さ
れていてもよい。この構成によれば、一様な部位を画像から容易に抽出することができる
さらに、姿勢決定部は、複数のテンプレート画像の位置を変化させ、変化後のテンプレ
ート画像のそれぞれと撮像画像との関連度を取得し、関連度の分布の急峻度が第4閾値よ
り大きいテンプレート画像に基づいてオブジェクトの姿勢を決定する構成であっても良い
。この構成によれば、撮像画像内でテンプレート画像に類似するオブジェクトが特定され
た後に、テンプレート画像がオブジェクトの画像に対して微妙にずれているか否かを検証
し、オブジェクトが適正に検出できる可能性を向上させることができる。
さらに、関連度は、撮像画像内で輪郭を形成する画素の勾配とテンプレート画像の輪郭
を形成する画素の勾配との類似度である構成であっても良い。この構成によれば、オブジ
ェクトの画像とテンプレート画像の特徴によって関連度を定義し、オブジェクトの姿勢を
検出することができる。
さらに、関連度は、撮像画像に基づいて算出された値と、テンプレート画像に基づいて
算出された値との相関度である構成であっても良い。この構成によれば、撮像画像内のオ
ブジェクトの画像とテンプレート画像との間で関連し得る各種の情報に基づいてオブジェ
クトの姿勢を検出することができる。
本発明の実施形態を示す斜視図である。 制御装置のブロック図である。 オブジェクトの3次元モデルの例を示す図である。 テンプレート画像の例を示す図である。 オブジェクト姿勢検出処理のフローチャートである。 撮像画像の例を示す図である。 オブジェクトの画像の解析例を示す図である。 姿勢候補取得処理のフローチャートである。 信頼度の取得例を示す図である。 一様性による検証処理のフローチャートである。 関連度による検証処理のフローチャートである。 関連度の分布を示す図である。
以下、本発明の実施形態について添付図面を参照しながら以下の順に説明する。なお、
各図において対応する構成要素には同一の符号が付され、重複する説明は省略される。
(1)ロボットシステムの構成:
(2)制御装置の構成:
(3)オブジェクト姿勢検出処理:
(4)姿勢候補取得処理:
(5)一様性による検証処理:
(6)関連度による検証処理:
(7)他の実施形態:
(1)ロボットシステムの構成:
図1は本発明の一実施形態にかかる制御装置で制御されるロボットを示す斜視図である
。本発明の一実施例としてのロボットシステムは、図1に示すように、ロボット1と制御
装置10とカメラ20を備えている。ロボット1はエンドエフェクターを備える6軸ロボ
ットである。
ロボット1は、制御装置10によって制御される。制御装置10はケーブルによりロボ
ット1と通信可能に接続される。なお、制御装置10の構成要素がロボット1に備えられ
ていても良い。また、制御装置10は複数の装置によって構成されても良い。制御装置1
0は、図示しない教示装置をケーブル、または無線通信によって接続可能である。教示装
置は、専用のコンピューターであってもよいし、ロボット1を教示するためのプログラム
がインストールされた汎用のコンピューターであってもよい。さらに、制御装置10と教
示装置とは、一体に構成されていてもよい。
ロボット1は、アームに各種のエンドエフェクターを装着して使用される単腕ロボット
である。ロボット1は、6軸のアームを駆動させることによって、可動範囲内においてエ
ンドエフェクターを任意の位置に配置し、任意の姿勢(角度)とすることができる。図1
においては、エンドエフェクターがグリッパーである例が示されている。また、ロボット
1の作業エリアには、オブジェクトW1,W2が例示されている。本例において、ロボッ
ト1は、グリッパーでオブジェクトW1を把持し、オブジェクトW1をオブジェクトW2
の穴Hに挿入する作業を行う。
本実施形態において、カメラ20は、ロボット1の可動範囲を視野に含むようにロボッ
ト1の可動範囲の上方(鉛直上方)に固定されており、オブジェクトW1,W2を撮像す
ることができる。なお、カメラ20が固定される位置は可動範囲の上方に限定されず、例
えば、ロボット1に取り付けられていても良い。本実施形態においては、カメラ20で撮
像された画像に基づいてオブジェクトW1の姿勢が検出され、検出された姿勢に基づいて
ロボット1が動作し、オブジェクトW1を把持する。
ロボット1においては、ロボット1が固定された空間の位置を規定するロボット座標系
(図1に示す直交xyz座標系)や、カメラ20を基準としたカメラ座標系や、ロボット
1に作用する力を規定する力制御座標系など、種々の座標系が定義される。これらの座標
系の関係は互いに決められており、互いに変換可能である。本明細書においては、簡単の
ため、ロボット座標系を用いてオブジェクトW1やロボット1の姿勢を記述する。なお、
本明細書において、姿勢には位置も含まれ得る。例えば、オブジェクトW1の姿勢は、ロ
ボット座標系であるxyz座標系におけるx軸、y軸、z軸に沿った位置と、x軸、y軸
、z軸に対する回転角とで表現され得る。
(2)制御装置の構成:
図2は、ロボット1を制御する制御装置10の構成を示す図である。制御装置10は、
図示しないCPU、ROM,RAM等のプログラム実行環境と記録媒体15とを備えてい
る。制御装置10がROMまたは記録媒体15に記録されたプログラムを実行することに
より、制御装置10は、ロボット1を制御するための各種の機能を実行する。
図2においては、当該プログラムによって実行される機能を撮像画像取得部10a、テ
ンプレート画像取得部10b、姿勢決定部10c、ロボット制御部10dとして示してい
る。撮像画像取得部10aは、オブジェクトの撮像画像を取得する機能を制御装置10に
実行させる。すなわち、制御装置10は、撮像画像取得部10aの機能により、カメラ2
0を制御して撮像画像を取得し、RAMに記録する。従って、カメラ20の視野に少なく
ともオブジェクトW1が含まれる状態で制御装置10がカメラ20を制御し、撮像画像を
取得することで、制御装置10は、姿勢検出対象であるオブジェクトW1の撮像画像を取
得する。
テンプレート画像取得部10bは、オブジェクトの姿勢毎のテンプレート画像を取得す
る機能を制御装置10に実行させる。すなわち、制御装置10は、記録媒体15に記録さ
れたテンプレート画像情報15aに基づいて、テンプレート画像を取得する。本実施形態
において、テンプレート画像は、オブジェクトW1の3次元モデルを2次元平面(撮像平
面)に投影した画像であり、当該画像において輪郭を形成する複数の画素と当該画素にお
ける勾配ベクトルとを示す情報が含まれている。
図3はオブジェクトW1を特定の方向から見た状態を示しており、図4は当該オブジェ
クトW1が2次元平面に投影された状態を示している。なお、図4においては、投影され
たオブジェクトW1の輪郭を破線で示し、輪郭内に存在する線(立方体の稜の投影線)を
一点鎖線で示している。輪郭内の白丸は後述の説明で使用される図形であり、オブジェク
トW1が投影された画像ではない。また、オブジェクトW1の輪郭を形成する画素を黒丸
で示し当該画素の勾配ベクトルを矢印で示している。本実施形態においてテンプレート画
像情報15aは、図4に示すような、輪郭を形成する画素と当該画素の勾配ベクトルと輪
郭内の模様を示す情報である。
このようなテンプレート画像情報15aは、3次元モデルの姿勢毎に異なり得るため、
本実施形態においては、テンプレート画像情報15aに対して姿勢が対応づけられて記録
媒体15に記録される。本実施形態において、テンプレート画像情報15aは、オブジェ
クトW1の3次元モデルから生成される。当該テンプレート画像情報15aの生成タイミ
ングは、少なくともテンプレート画像情報15aを利用する以前であれば良く、各種のタ
イミングであって良い。
例えば、ロボット1による動作や、カメラ20による撮像やロボット1によるオブジェ
クトW1の把持動作が開始される前に、予めオブジェクトW1の3次元モデルに基づいて
テンプレート画像情報15aが生成されても良い。また、カメラ20による撮像やロボッ
ト1によるオブジェクトW1の把持動作が開始された後に、記録媒体15に記録されたオ
ブジェクトW1の3次元モデルデータからテンプレート画像情報15aが生成されても良
い。さらに、代表的な複数の姿勢について予めテンプレート画像情報15aが生成されて
おり、オブジェクトW1の撮像画像に基づいてオブジェクトW1の姿勢に最も近い代表的
な姿勢が特定された後、当該代表的な姿勢に近い姿勢のテンプレート画像情報15aが生
成されても良い。
さらに、テンプレート画像情報15aを構成する勾配ベクトルは、種々の手法によって
取得されて良い。例えば、3次元モデルに基づいて3次元空間で勾配ベクトルが取得され
た後に勾配ベクトルが2次元平面に対して投影されても良いし、3次元モデルが2次元平
面に投影された後に勾配ベクトルが算出されても良い。
姿勢決定部10cは、撮像画像内で輪郭を形成する画素とテンプレート画像の輪郭を形
成する画素との距離が第1閾値より短く、撮像画像内で輪郭を形成する画素の勾配とテン
プレート画像の輪郭を形成する画素の勾配との類似度が第2閾値より大きいテンプレート
画像に基づいてオブジェクトの姿勢を決定する機能を制御装置10に実行させる。すなわ
ち、制御装置10は、撮像画像取得部10aの機能によって取得したカメラ20の撮像画
像からオブジェクトW1の画像と推定される部位を抽出する。
また、制御装置10は、当該部位と、テンプレート画像取得部10bの機能によって取
得したテンプレート画像とを比較し、最もマッチするテンプレート画像に対応する姿勢を
オブジェクトW1の姿勢として決定する。このために制御装置10は、輪郭の画素の距離
と輪郭の画素の勾配とを取得する。すなわち、制御装置10は、姿勢決定部10cの機能
により、撮像画像内のエッジを抽出してオブジェクトW1の画像と推定される部位の輪郭
を形成する画素を抽出する。また、制御装置10は、テンプレート画像の輪郭を形成する
画素を抽出する。そして、制御装置10は、距離が第1閾値より短く、勾配ベクトルの類
似度が第2閾値より大きい画素の個数多いほど高くなる信頼度を算出する(詳細は後述)
むろん、カメラ20とオブジェクトW1との距離が異なると撮像画像内におけるオブジ
ェクトW1の画像の大きさが異なる。カメラ20とオブジェクトW1との距離に応じた画
像の大きさの差異を考慮するためには、テンプレート画像が拡大または縮小される構成で
あっても良いし、カメラ20とオブジェクトW1との距離が異なる場合には姿勢が異なる
と見なされ、各距離におけるテンプレート画像が予め用意される構成であっても良い。
本実施形態においては信頼度が極めて高い場合、制御装置10は、そのテンプレート画
像に対応する姿勢がオブジェクトの姿勢であると決定する。一方、信頼度が極めて高くは
ないが、低くもない場合、他の指標に基づいてテンプレート画像がオブジェクト画像にマ
ッチしているか否かを検証する。
すなわち、制御装置10は、姿勢決定部10cの機能により、撮像画像で形成される輪
郭内の一様な部位を特定する。一様な部位は種々の手法で特定可能であるが、本実施形態
において制御装置10は、姿勢決定部10cの機能により、オブジェクトW1の画像と推
定される部位の輪郭内でエッジである画素とエッジでない画素とを特定する。そして、制
御装置10は、エッジでない画素によって構成される部位を、撮像画像で形成される輪郭
内の一様な部位と見なす。
一方、制御装置10は、テンプレート画像情報15aが示すテンプレート画像の輪郭内
で、エッジ画素からの最小距離が予め規定された最小基準値以上である画素を特定する。
さらに、制御装置10は、当該画素をテンプレート画像の輪郭内の一様な部位と見なす。
そして、制御装置10は、撮像画像内で形成される輪郭内の一様な部位と、テンプレート
画像の輪郭内の一様な部位とが一致する比率を一致度として特定し、一致度が予め決めら
れた第3閾値より大きい場合に、当該テンプレート画像に対応づけられた姿勢は一様な部
位の一致度からみて妥当であると見なす(検証されたと見なす)。
一様な部位の一致度からみて妥当であると検証された場合、制御装置10は、姿勢決定
部10cの機能により、テンプレート画像の位置を変化させ、変化後のテンプレート画像
のそれぞれと撮像画像との関連度を取得する。本実施形態において、関連度は、撮像画像
内で輪郭を形成する画素の勾配とテンプレート画像の輪郭を形成する画素の勾配との類似
度である。すなわち、制御装置10は、テンプレート画像の位置を変化させ、変化後の各
位置について勾配の類似度を取得する。
テンプレート画像がオブジェクト画像とマッチしている場合、マッチしていない場合よ
りもテンプレート画像を移動させて得られた類似度が低下する。従って、類似度が最大値
となる位置においてテンプレート画像がオブジェクト画像とマッチしている可能性が高い
。また、適正なテンプレート画像が選択されている場合、テンプレート画像がオブジェク
ト画像とマッチしている場合には類似度が大きい値となるが、テンプレート画像が移動す
ると急激に類似度が低下する。
そこで、制御装置10は、類似度の分布(関連度の分布)の急峻度を特定し、急峻度が
第4閾値より大きい場合に、当該テンプレート画像に対応づけられた姿勢は関連度の分布
からみて妥当であると見なす(検証されたと見なす)。一様な部位の一致度と、関連度の
分布とによって妥当であると検証された場合、制御装置10は、検証されたテンプレート
画像がオブジェクトW1の姿勢であると見なす。
以上の構成によれば、撮像画像内で輪郭の画素との輪郭の画素の距離が近いテンプレー
ト画像が選択されることにより、オブジェクト画像の輪郭と近い輪郭を有するテンプレー
ト画像を選択することができる。さらに、撮像画像内で輪郭を形成する画素の勾配と類似
した勾配の画素が輪郭を形成しているテンプレート画像が選択されることにより、オブジ
ェクト画像と整合しないテンプレート画像(例えば、輪郭の形状が偶然に似ているテンプ
レート画像)を除外することができる。
そして、テンプレート画像には姿勢が対応づけられているため、以上のようなテンプレ
ート画像が選択されることにより、容易にオブジェクトの姿勢を正確に特定することがで
きる。従って、誤検出が発生する可能性を低減し、オブジェクトが適正に検出できる可能
性を向上させることができる。
さらに、撮像画像内で形成される輪郭内の一様な部位と、テンプレート画像の輪郭内の
一様な部位との一致度に基づいてテンプレート画像が検証されることにより、オブジェク
ト画像と整合しないテンプレート画像(例えば、輪郭の形状が偶然に似ており、輪郭の勾
配が偶然に似ているテンプレート画像)を除外することができる。さらに、関連度の分布
の急峻度に基づいてテンプレート画像が検証されることにより、オブジェクト画像と整合
しないテンプレート画像(例えば、輪郭の形状が偶然に似ており、輪郭の勾配が偶然に似
ており、輪郭内の一様な部位が偶然に一致しているテンプレート画像)を除外することが
できる。
ロボット制御部10dは、ロボット1を制御して動作させる機能を制御装置10に実行
させる。すなわち、ロボット1は、ロボット1は、教示を行うことにより各種作業が可能
となる汎用ロボットであり、アクチュエーターとしての図示しないモーターと、センサー
1aとしてのエンコーダーとを備える。ロボット制御部10dは、センサー1aの出力に
基づいてロボット1の各部の姿勢を特定し、ロボット1に制御信号を出力することにより
ロボット1の各部を所望の姿勢となるように制御することができる。
本実施形態においては、ロボット1が任意の作業を実行するようにロボット1に対する
教示を行うことができる。また、本実施形態において、制御装置10は、オブジェクトW
1の姿勢を検出し、当該姿勢のオブジェクトW1を把持するようにロボット1を制御する
ことができる。従って、本実施形態の利用者は、オブジェクトW1の把持を行うための詳
細な動作(把持のための位置等)を教示しなくてもよく、把持を行うように指示するのみ
でカメラ20で撮像されたオブジェクトW1をロボット1に把持させることができる。
(3)オブジェクト姿勢検出処理:
次に、制御装置10が実行するオブジェクト姿勢検出処理を詳細に説明する。図5は、
オブジェクト姿勢検出処理のフローチャートである。オブジェクト姿勢検出処理は、ロボ
ット1においてオブジェクトW1の姿勢を検出する必要がある場合に実行される。オブジ
ェクト姿勢検出処理が開始されると、制御装置10は、撮像画像取得部10aの機能によ
り、撮像画像を取得する(ステップS100)。すなわち、制御装置10は、カメラ20
を制御してオブジェクトW1を含む撮像画像を取得し、RAMに保存する。図6は、カメ
ラ20の撮像画像を模式的に示す図である。当該図6にはオブジェクトW1の画像20a
が含まれている。
次に、制御装置10は、姿勢決定部10cの処理により、撮像画像の輪郭および勾配を
取得する(ステップS105)。すなわち、制御装置10は、RAMに保存された撮像画
像に対してエッジ検出フィルタを作用させ、エッジ画素を抽出する。また、エッジ画素に
基づいてオブジェクトW1の輪郭と推定される部位を取得する。当該部位は、種々の処理
によって取得されて良く、エッジが連続的に配置されて閉じた図形を形成している部位が
取得されても良いし、カメラ20の特定の部位にオブジェクトW1が配置される構成にお
いて、撮像画像の特定の部位が取得されても良く、種々の構成を採用可能である。図6に
示す例であれば、オブジェクトW1の画像20aの外周線がオブジェクトW1の輪郭と推
定される部位として取得される。図7は、図6に示すオブジェクトW1の画像20aから
取得された輪郭を模式的に破線で示した図である。
輪郭と推定される部位が取得されると、制御装置10は、当該輪郭を形成している画素
の勾配ベクトルを取得する。勾配ベクトルは種々の手法によって取得可能であり、例えば
、方向の異なるエッジ検出フィルタを適用することによって勾配ベクトルを取得する構成
等を採用可能である。図7においては、勾配ベクトルを実線の矢印によって示している。
輪郭を形成している画素と勾配ベクトルが取得されると、制御装置10は、輪郭において
特徴的な勾配を有する画素が輪郭においてできるだけ均等に分布するようにしてN個(N
は2以上の整数:例えば100個)の画素を抽出し、輪郭を形成する画素と見なす。
図7においては、一部の画素を黒丸で示しているが、本実施形態においてステップS1
05では、輪郭を形成する画素の全てについて勾配ベクトルが計算され、その中のN個が
抽出され、輪郭を形成する画素とされる。このような画素は種々の手法で抽出されて良く
、例えば、最近接画素の距離の二乗和と勾配の大きさの積をN個の画素に渡って累積した
場合に累積値が最大化されるように画素を抽出する構成等が挙げられる。
次に、制御装置10は、テンプレート画像取得部10bの処理により、テンプレート画
像の輪郭および勾配を取得する(ステップS110)。すなわち、制御装置10は、テン
プレート画像情報15aを参照し、特定の姿勢が対応づけられたテンプレート画像の輪郭
を構成する画素および勾配ベクトルを取得する。
次に、制御装置10は、姿勢決定部10cの処理により、テンプレートマッチングを実
行する(ステップS115)。すなわち、制御装置10は、ステップS105で取得され
た輪郭を構成する画素と、ステップS110で取得されたテンプレート画像の輪郭を構成
する画素とを比較し、両輪郭において対応する画素を特定する。対応する画素は、種々の
手法で特定可能であり、例えば、最隣接画素同士の勾配ベクトルの類似度(ベクトルの内
積等)が最大化されるようにテンプレート画像の位置を選択し、類似度が最大化する画素
同士を対応する画素とみなす構成や、画素間の距離の和が最小化される状態において最も
近い画素を対応する画素とみなす構成等が挙げられる。
対応する画素が取得されると、制御装置10は、対応する画素同士の距離を取得し、全
画素についての和を取得する。例えば、図6に示す例であれば、図7のようにして取得さ
れたオブジェクトW1の画像の輪郭を形成する画素Po等と、図4に示すテンプレート画
像の輪郭を形成する画素Pt等とが比較され、最も近い画素同士の距離の和が取得される
。そして、当該和が基準より小さい場合に、制御装置10は、テンプレート画像がオブジ
ェクト画像にマッチしたと見なす。
なお、ここでは、予め用意された全姿勢についてのテンプレート画像についてステップ
S105において輪郭および勾配が取得される処理が想定されている。従って、オブジェ
クト画像にマッチし得るテンプレート画像は複数個演出され得る。むろん、テンプレート
画像の輪郭および勾配の取得とテンプレートマッチングが1個のテンプレート画像につい
て実行され、マッチしない場合に他のテンプレート画像について同等の処理が繰り返され
る構成であっても良い。また、テンプレートマッチングでマッチした姿勢を3次元モデル
に基づいてさらに変化させ、よりマッチする姿勢が特定されても良い。
テンプレートマッチングによってオブジェクト画像にマッチするテンプレート画像が1
個以上検出されると、制御装置10は、姿勢決定部10cの処理により、姿勢候補取得処
理を実行する(ステップS120)。すなわち、制御装置10は、ステップS115で特
定したテンプレート画像がオブジェクト画像にマッチする度合い示す信頼度を取得し、信
頼度が高い姿勢を姿勢候補として抽出する処理を実行する(詳細は後述)。
次に、制御装置10は、姿勢決定部10cの処理により、姿勢候補が存在するか否かを
判定し(ステップS125)、姿勢候補が存在する場合、信頼度が最も高い姿勢候補を検
出結果として取得する(ステップS130)。すなわち、制御装置10は、信頼度が最も
高いテンプレート画像に対応づけられた姿勢をオブジェクトW1の姿勢であると見なす。
ステップS125において、姿勢候補が存在すると判定されない場合、制御装置10は、
オブジェクトW1の姿勢を検出できなかったと見なす。
(4)姿勢候補取得処理:
次に、制御装置10が実行する姿勢候補取得処理を詳細に説明する。図8は、図5のス
テップS120における姿勢候補取得処理を示すフローチャートである。姿勢候補取得処
理において制御装置10は、ステップS115においてオブジェクト画像にマッチすると
されたテンプレート画像に対応づけられた全姿勢の中から1個を処理対象として選択して
順次処理を行っていく。すなわち、制御装置10は、全姿勢の中からステップS205〜
S245の処理対象となっていない姿勢を1個、処理対象の姿勢候補として取得する(ス
テップS200)。
次に、制御装置10は、距離および勾配の類似度による信頼度を取得する(ステップS
205)。すなわち、制御装置10は、オブジェクトW1の画像20aと、処理対象の姿
勢候補に対応するテンプレート画像との輪郭を形成する画素であって、対応する画素を抽
出する。そして、制御装置10は、対応する画素間の距離と各画素の勾配の類似度を取得
する。
図9は、オブジェクトW1の画像20aの輪郭を形成する画素Poとテンプレート画像
の輪郭を形成する画素Ptとが対応している場合において、両画素を拡大して示す模式図
である。これらの画素が対応している場合、制御装置10は、両画素の距離Liを取得す
る。また、制御装置10は、両画素の勾配ベクトルVoi,Vtiの内積を類似度として取得
する。そして、制御装置10は、画素iについての距離の指標を、距離Liが第1閾値よ
り短い場合に1,第1閾値以上である場合に0とする。さらに、制御装置10は、画素i
についての勾配の類似度の指標を、勾配ベクトルVoi,Vtiの内積が第2閾値より大きい
場合に1、第2閾値以上である場合に0とする。
なお、本実施形態において第1閾値は予め決められた固定値であり、例えば、3画素な
どのように決定される。本実施形態において第2閾値は可変値であり、テンプレート画像
の輪郭の曲率に依存する。すなわち、本実施形態においては、テンプレート画像の輪郭の
曲率が大きくなるほど第2閾値が小さくなる。画像の輪郭がジャギーであるなど、オブジ
ェクト画像およびテンプレート画像の輪郭が急峻に変化し、曲率が大きい場合、輪郭を形
成する画素の勾配が、小さい面積内で大きく変化する。この場合において、勾配に関する
閾値である第2閾値を小さくすれば、勾配の差異に対する許容範囲が広くなり、オブジェ
クトが検出されたとみなして良い状態を非検出であると見なしてしまう可能性を低減する
ことができる。
制御装置10は、以上のような距離の指標と類似度の指標とを各画素について算出し、
その和によって信頼度を取得する。具体的には、式(1)によって信頼度Cを取得する。
Figure 2018169660
ここで、[]は、括弧内の条件を充足する場合に1、充足しない場合に0となる演算子で
ある。また、th1は第1閾値、th2は第2閾値、Liは対応する画素間の距離、Voiはオブ
ジェクトW1の画像20aの輪郭を形成する画素Poの勾配ベクトル、Vtiはテンプレー
ト画像の輪郭を形成する画素Ptの勾配ベクトル、iは対応する画素の組を示す番号、N
は画素の組の数である。なお、ステップS205において距離および勾配ベクトルが取得
される画素の数は、ステップS115におけるテンプレートマッチングで取得される画像
の数より多くても良い。
以上のようにして、処理対象の姿勢候補のテンプレート画像に基づいて信頼度が取得さ
れると、制御装置10は、信頼度が基準1より大きいか否かを判定する(ステップS21
0)。本実施形態において基準1は、対応する画素間の距離および勾配ベクトルに基づい
てテンプレート画像がオブジェクトW1の画像にマッチしたと見なして良いほど充分に高
い信頼度を示している。そこで、ステップS210において信頼度が基準1より大きいと
判定された場合、制御装置10は、姿勢候補と信頼度とをRAMに保存する(ステップS
240)。
ステップS210において、信頼度が基準1より大きいと判定されない場合、制御装置
10は、信頼度が基準2より大きいか否かを判定する(ステップS215)。本実施形態
において基準2は、信頼度の下限値を示している。そこで、ステップS215において信
頼度が基準2より大きいと判定されない場合、制御装置10は、ステップS220〜S2
40をスキップする。
一方、ステップS215において、信頼度が基準2より大きいと判定された場合、制御
装置10は、一様性による検証処理を実行する(ステップS220)。すなわち、制御装
置10は、撮像画像内で形成される輪郭内の一様な部位と、テンプレート画像の輪郭内の
一様な部位との一致度に基づいて、処理対象の姿勢候補に対応するテンプレート画像が適
切であるか否かを検証する(詳細は後述)。次に、制御装置10は、一様性による検証処
理によって検証されたか否かを判定し(ステップS225)、検証されたと判定されない
場合、ステップS225〜S240をスキップする。
ステップS225において、一様性による検証処理によって検証されたと判定された場
合、制御装置10は、関連度による検証処理を実行する(ステップS230)。すなわち
、制御装置10は、関連度の分布の急峻度に基づいて、処理対象の姿勢候補に対応するテ
ンプレート画像が適正であるか否かを検証する(詳細は後述)。次に、制御装置10は、
関連度による検証処理によって検証されたか否かを判定し(ステップS235)、検証さ
れたと判定されない場合、ステップS240をスキップする。
一方、ステップS235において、関連度による検証処理によって検証されたと判定さ
れた場合、制御装置10は、処理対象の姿勢候補と信頼度を保存する(ステップS240
)。姿勢は、座標系に基づいて(座標軸に対する角度や位置によって)表現され、姿勢候
補は座標系に基づいて特定されても良いし、予め決められた姿勢に対応づけられたID等
によって特定されても良い。
ステップS240が実行された場合、または、ステップS215で信頼度が基準2より
大きいと判定されなかった場合、またはステップS225,S230によって検証された
と判定されなかった場合、制御装置10は、全姿勢候補が終了したか否かを判定する(ス
テップS245)。すなわち、制御装置10は、ステップS115においてオブジェクト
画像にマッチするとされたテンプレート画像に対応づけられた全姿勢について処理が終了
したか否かを判定する。
ステップS245において、全姿勢候補が終了したと判定されない場合、制御装置10
は、処理対象の姿勢候補を未処理の候補に変更し(ステップS250)、ステップS20
5以降の処理を繰り返す。ステップS245において、全姿勢候補が終了したと判定され
た場合、制御装置10は、信頼度取得処理を終了する。
(5)一様性による検証処理:
次に、制御装置10が実行する一様性による検証処理を詳細に説明する。図10は、図
8のステップS220における一様性による検証処理を示すフローチャートである。一様
性による検証処理において制御装置10は、処理対象の姿勢候補におけるテンプレート画
像を取得する(ステップS300)。すなわち、制御装置10は、テンプレート画像情報
15aを参照し、処理対象の姿勢候補に対応づけられたテンプレート画像を取得する。
次に、制御装置10は、テンプレート画像の輪郭内の一様な部位を取得する(ステップ
S305)。すなわち、制御装置10は、2次元平面に投影された状態のテンプレート画
像からエッジ画素を抽出する。また、制御装置10は、エッジ画素からの最小距離が予め
規定された最小基準値以上である画素を特定する。さらに、制御装置10は、当該画素を
テンプレート画像の輪郭内の一様な部位と見なす。本実施形態においては、一様な部位に
よる検証を行うため、テンプレート画像の輪郭内の一様な部位から検証に利用する複数の
画素をサンプリングする。
図4に示すテンプレート画像においては、サンプリングされた画素を白丸で示している
。以上の構成によれば、テンプレート画像から一様な部位を容易に検出することができる
。なお、テンプレート画像の輪郭内の一様な部位は、予め取得されてテンプレート画像情
報15aに含められていても良い。
次に、制御装置10は、撮像画像の輪郭内の一様な部位を取得する(ステップS310
)。すなわち、制御装置10は、オブジェクトW1の画像と推定される部位にエッジ検出
フィルタを適用し、輪郭内でエッジである画素とエッジでない画素とを特定する。そして
、制御装置10は、エッジでない画素によって構成される部位を、撮像画像で形成される
輪郭内の一様な部位と見なす。図7に示す例であれば、破線および一点鎖線で囲まれた領
域が一様な部位として取得される。
次に、制御装置10は、一様な部位の一致度を取得する(ステップS315)。すなわ
ち、制御装置10は、ステップS305でサンプリングされた画素の位置に相当する画素
をオブジェクトW1の画像から抽出し、両者が一様な部位であるか否かを判定する。制御
装置10は、サンプリングされた画素のそれぞれについて当該判定を行い、両者が一様な
部位であった画素の数をサンプリングされた画素の数で除した値を一致度として取得する
次に、制御装置10は、一致度が第3閾値より大きいか否かを判定する(ステップS3
20)。当該第3閾値は、テンプレート画像とオブジェクトW1の画像とが偶然に一致し
ている場合の一致度を除外できる可能性が高くなるように予め設定されていれば良く、例
えば、70%等の値に設定される。
ステップS320において、一致度が第3閾値より大きいと判定された場合、制御装置
10は、一様性による検証処理によって検証されたことを登録する(ステップS325)
。すなわち、制御装置10は、処理対象の姿勢候補において一様性による検証が行われた
ことを示すフラグ等をRAMに記録する。ステップS320において、一致度が第3閾値
より大きいと判定されない場合、制御装置10は、ステップS325をスキップする。
(6)関連度による検証処理:
次に、制御装置10が実行する関連度による検証処理を詳細に説明する。図10は、図
8のステップS230における関連度による検証処理を示すフローチャートである。関連
度による検証処理において制御装置10は、テンプレート画像を移動させ、移動後の各位
置における関連度を取得する(ステップS400)。すなわち、処理対象の姿勢候補が特
定されている状態は、オブジェクトW1の画像に対してテンプレート画像が特定の相対位
置になっている状態である。ステップS400において、制御装置10は、この状態にお
けるテンプレート画像の位置を基準位置として、テンプレート画像を相対的に移動させる
本実施形態において制御装置10は、基準位置を中心とし、オブジェクトW1の画像の
各座標軸に沿ってテンプレート画像を正負の方向に一定範囲だけ移動させる。図12は、
関連度の例を示す図である。同図12においては、オブジェクトW1の画像の位置を示す
座標軸をX軸、Y軸として示しており、X軸、Y軸に垂直な軸によって関連度の大きさを
示している。
また、図12においては、基準位置における関連度を(X,Y)=(0,0)の位置に
示しており、X軸方向に±5、Y軸方向に±5の範囲がテンプレート画像の相対移動範囲
である。この相対移動範囲内でテンプレート画像の位置を変化させ、変化後のテンプレー
ト画像のそれぞれと撮像画像との関連度を取得してプロットした棒グラフが関連度である
。なお、本実施形態において関連度は、撮像画像内で輪郭を形成する画素の勾配とテンプ
レート画像の輪郭を形成する画素の勾配との類似度である。
すなわち、制御装置10は、ステップS205と同様にして、オブジェクトW1の画像
20aの輪郭を形成する画素と、テンプレート画像の輪郭を形成する画素とにおいて対応
する画素間の勾配の類似度を取得する。そして、制御装置10は、各画素の勾配の類似度
の総和を取得し、当該テンプレート画像の位置に関する関連度と見なす。制御装置10は
、以上のような関連度の取得処理を、位置変化後のテンプレート画像のそれぞれについて
取得する。
以上のように、勾配の類似度によって関連度が定義されると、テンプレート画像の位置
がオブジェクトW1の画像にマッチしている場合には関連度が大きくなり、マッチしてい
ないと関連度が急激に小さくなる。従って、関連度の分布を解析することにより、テンプ
レート画像の位置を検証することが可能になる。
具体的には、制御装置10は、最大値となる位置と基準位置との距離が基準距離以下で
あるか否かを判定する(ステップS405)。すなわち、制御装置10は、ステップS4
00で取得された関連度の分布を参照し、関連度が最大値となるテンプレート画像の位置
(オブジェクトW1の画像に対するテンプレート画像の相対位置)を取得する。また、制
御装置10は、関連度が最大値となる位置と基準位置との距離を取得し、予め決められた
基準距離以下であるか否かを判定する。基準距離は、処理対象の姿勢候補に対応するテン
プレート画像の相対位置がオブジェクトW1の画像にマッチしていると見なすことができ
る程度に近いか否かを判定するための閾値であり、予め決められる。
ステップS405において、最大値となる位置と基準位置との距離が基準距離以下であ
ると判定されない場合、制御装置10は、ステップS410、S415をスキップする。
すなわち、関連度によって検証されなかったと見なされる。一方、ステップS405にお
いて、最大値となる位置と基準位置との距離が基準距離以下であると判定された場合、制
御装置10は、分布の急峻度が第4閾値より大きいか否かを判定する(ステップS410
)。第4閾値は、基準位置以外の位置において関連度が急激に低下するか否かを判定する
ための指標である。
すなわち、相対位置が基準位置からずれることによって関連度が急激に低下すると、基
準位置においてテンプレート画像がオブジェクトW1の画像にマッチしている可能性が高
く、他の位置でマッチしている可能性が低いことが明らかである。そこで、本実施形態に
おいては、関連度の分布の急峻度に対して予め第4閾値が定義される。急峻度は、種々の
態様で定義可能であり、本実施形態は、関連度の最大値を最小値で除した値が急峻度であ
る。
ステップS410において、分布の急峻度が第4閾値より大きいと判定されると、制御
装置10は、制御装置10は、関連度による検証処理によって検証されたことを登録する
(ステップS415)。すなわち、制御装置10は、処理対象の姿勢候補において関連度
による検証が行われたことを示すフラグ等をRAMに記録する。ステップS410におい
て、分布の急峻度が第4閾値より大きいと判定されない場合、制御装置10は、ステップ
S415をスキップする。
(7)他の実施形態:
以上の実施形態は本発明を実施するための一例であり、他にも種々の実施形態を採用可
能である。例えば、制御装置は、ロボットに内蔵されていても良いし、ロボットの設置場
所と異なる場所、例えば外部のサーバー等に備えられていても良い。また、制御装置は、
複数の装置で構成されていても良い。また、制御装置は、ロボットコントローラー、ティ
ーチングペンダント、PC、ネットワークにつながるサーバー等であっても良いし、これ
らが含まれていても良い。さらに、上述の実施形態の一部の構成が省略されてもよいし、
処理の順序が変動または省略されてもよい。例えば、図8に示す処理において、ステップ
S205〜S215における信頼度に基づく判定や、ステップS220およびS225に
おける一様性に基づく判定、ステップS230およびS235における関連度による判定
の少なくとも1個が省略されても良いし、処理順序が変化しても良い。
撮像画像取得部は、オブジェクトの撮像画像を取得することができればよく、撮像態様
は任意である。例えば、ロボットに取り付けられたカメラで撮像が行われても良いし、ロ
ボットとともに利用されるカメラ以外のカメラでオブジェクトが撮像されても良い。後者
としては、任意の位置に取り付けられたカメラ(例えば、車両に取り付けられたカメラ)
によってオブジェクトが撮像される構成等が挙げられる。また、検出対象のオブジェクト
は予め既知のオブジェクトであり、大きさや形状も限定されない。すなわち、姿勢毎のテ
ンプレート画像が予め生成できればよく、任意の物体を検出対象のオブジェクトとするこ
とができる。
テンプレート画像取得部は、オブジェクトの姿勢毎のテンプレート画像を取得すること
ができればよい。すなわち、各種の姿勢において撮像されたオブジェクトの画像が予めテ
ンプレート画像とされ、あるテンプレート画像にマッチするオブジェクトが当該テンプレ
ート画像に対応づけられた姿勢であると見なすことができればよい。
テンプレート画像は、検出対象のオブジェクトを撮像した場合の画像を示していれば良
く、上述のように3Dモデルから生成されても良いし、オブジェクトを複数の姿勢で撮像
した結果であっても良い。また、テンプレート画像においては,少なくとも輪郭の画素と
輪郭の勾配が定義されていればよく、輪郭に関する情報によって定義されても良いし、輪
郭内部に関する情報が含まれていても良い。テンプレート画像の輪郭の外部に関する情報
は含まれていなくて良く、存在しなくてもよいし、一定の階調値の画素によって構成され
てもよい。
なお、画像内でのオブジェクトの大きさ(オブジェクトのカメラ光軸方向の位置)の変
化は、予め大きさの異なるテンプレート画像が用意されることによって検出されても良い
し、特定の大きさのテンプレート画像に対して拡大や縮小が行われることによって検出さ
れても良く、種々の構成を採用可能である。また、姿勢は、特定の基準(例えば、カメラ
)に対する相対的な姿勢であれば良く、各種の座標系で定義されて良い。むろん、当該姿
勢にはオブジェクトの位置が含まれても良い。
姿勢決定部は、撮像画像内で輪郭を形成する画素とテンプレート画像の輪郭を形成する
画素との距離が第1閾値より短く、撮像画像内で輪郭を形成する画素の勾配とテンプレー
ト画像の輪郭を形成する画素の勾配との類似度が第2閾値より大きいテンプレート画像に
基づいてオブジェクトの姿勢を決定することができればよい。すなわち、姿勢決定部は、
オブジェクトの候補となる画像の輪郭とテンプレート画像の輪郭の距離が短いことと、オ
ブジェクトの候補となる画像の輪郭の勾配とテンプレート画像の輪郭の勾配とが類似して
いることとを条件としてテンプレートがマッチしているか否かを決定することができれば
よい。
撮像画像内で輪郭を形成する画素は、オブジェクトの外周部分である可能性がある画素
であればよく、上述の実施形態のようなエッジ検出フィルタによって検出されたエッジ画
素を輪郭と見なす構成であっても良いし、エッジ画素が一定距離以上連続している部位に
おいて当該エッジ画素を輪郭と見なしても良いし、エッジ画素によって閉じた図形が形成
されている場合に当該エッジ画素を輪郭と見なしても良く、種々の構成を採用可能である
撮像画像内で輪郭を形成する画素とテンプレート画像の輪郭を形成する画素との距離は
、両輪郭の一致度や重なり具合等を評価する指標であれば良く、両輪郭で対応する画素同
士の距離が計測されても良いし、両輪郭を構成する画素の最短の画素によって距離が計測
されても良いし、種々の構成が採用可能である。距離を評価するためにサンプリングされ
る画素の数は限定されず、種々の値等することができる。
第1閾値は、撮像画像内で形成された輪郭がテンプレート画像の輪郭にマッチしていな
い状態を排除することのできる値として、予め定義されていれば良い。なお、第1閾値は
、固定値であっても良いし可変値であっても良い。また、第1閾値は画素同士の距離を計
測する際にサンプリングされる画素の数に応じて変化しても良い。
勾配は、上述の実施形態のように各種のフィルタ等によって検出され、大きさおよび方
向を有するベクトル情報であっても良いし、大きさおよび方向の一方であっても良い。勾
配の類似度は、勾配が近いほど類似度が高いと見なされる指標であれば良く、数値で類似
度が表現される場合、数値が大きいほど類似度が高くても良いし、数値が小さいほど類似
度が高くても良い。
また、類似度は、上述の実施形態のように勾配ベクトルの内積によって表現されても良
いし、勾配の大きさが一致している度合いによって表現されても良いし、勾配ベクトル同
士の角度や勾配ベクトル同士の距離によって表現されても良い。第2閾値は、撮像画像内
で形成された輪郭の勾配がテンプレート画像の輪郭の勾配にマッチしていない状態を排除
することのできる値として、予め定義されていれば良い。なお、第2閾値は、固定値であ
っても良いし、可変値であっても良い。可変値としては、上述の実施形態のように、テン
プレート画像の輪郭の曲率が大きくなるほど第2閾値が小さくなる構成が挙げられる。
上述の実施形態において撮像画像で形成される輪郭内の一様な部位は、エッジまでの最
小距離が最小基準値以上の画素であるが、このような構成以外にも種々の手法で一様な部
位が特定されて良い。例えば、画素の階調値の変化が所定範囲内である部位を一様な部位
としてもよい。いずれにしても、一様な部位が特定されると、画像の複雑な部位(エッジ
や輪郭)ではなく、画像の変化が少ない部位に基づいてテンプレートマッチングを行うこ
とが可能である。
また、一致度は、上述の実施形態のように、撮像画像とテンプレート画像とにおける一
様な部位とされた画素の一致率で定義されても良いし、他の手法で定義されても良い。例
えば、一様な部位の2次元的な重複率によって定義されても良いし、一様な部位として検
出された部位の個数が計測され、一致または重複した部位の個数が評価されても良い。第
3閾値は、撮像画像内に形成される輪郭内の一様な部位と、テンプレート画像の輪郭内の
一様な部位とが一致していない状態を排除することのできる値として、予め定義されてい
れば良い。なお、第3閾値は固定値であっても良いし可変値であっても良い。
関連度の分布の急峻度は、上述の実施形態のように最小値と最大値との比で評価されて
も良いし、他の指標、例えば、分散や標準偏差等によって評価されても良く、種々の構成
を採用可能である。移動後のテンプレート画像のそれぞれと撮像画像との関連度は、勾配
の類似度以外にも種々の値によって定義可能である。すなわち、関連度は、テンプレート
画像と撮像画像との相対的な位置に応じて関連度が変化し、テンプレート画像が撮像画像
内のオブジェクトの位置にマッチした場合に関連度が上昇するように定義されていればよ
い。むろん、関連度の解析は、分布の急峻度以外の要素、例えば、上述のように関連度が
最大値となる位置と基準位置との距離や、関連度の分布形状等による指標に基づいて行わ
れてもよい。
このような関連度は、例えば、撮像画像に基づいて算出された値と、テンプレート画像
に基づいて算出された値との相関度であっても良い。すなわち、撮像画像の位置毎に定義
可能なある特性と、テンプレート画像の位置毎に定義可能なある特性とが互いに相関して
いる場合、この相関を示す相関度を計算することにより、テンプレート画像がオブジェク
トW1の画像にマッチしているか否かを判定することが可能になる。
このような特性としては、例えば、オブジェクトの表面構造に関する特性が挙げられる
。より具体的には、6面体などの平面を有するオブジェクトにおいて、平面からの反射が
ランバート反射等の拡散反射である場合、同一平面の画像は一様であるとともに平面の姿
勢毎に陰影が異なり得る。一方、3次元モデルにおいて平面上の法線ベクトルを定義すれ
ば、同一平面内において当該法線ベクトルは一定の方向を向いたベクトルとなる。
そこで、当該法線ベクトルを2次元平面に投影して画素毎の特性とし、オブジェクトW
1の画像における輝度を画素毎の特性とすれば、これらの画素毎の特性の相関度を、テン
プレート画像と撮像画像との関連度と見なすことができる。なお、このような相関度は種
々の手法で算出可能であり、画素毎の各特性の相関係数等によって取得する構成等を採用
可能である。以上の構成によれば、撮像画像とテンプレート画像の各種の特性に基づいて
テンプレート画像が撮像画像にマッチしているか否かを検証することができ、オブジェク
トが適正に検出できる可能性を向上させることができる。
1…ロボット、1a…センサー、10…制御装置、10a…撮像画像取得部、10b…テ
ンプレート画像取得部、10c…姿勢決定部、10d…ロボット制御部、15…記録媒体
、15a…テンプレート画像情報、20…カメラ、20a…画像

Claims (10)

  1. オブジェクトの撮像画像を取得する撮像画像取得部と、
    前記オブジェクトの姿勢毎のテンプレート画像を取得するテンプレート画像取得部と、
    前記撮像画像内で輪郭を形成する画素と前記テンプレート画像の輪郭を形成する画素と
    の距離が第1閾値より短く、前記撮像画像内で輪郭を形成する画素の勾配と前記テンプレ
    ート画像の輪郭を形成する画素の勾配との類似度が第2閾値より大きい画素を有する前記
    テンプレート画像に基づいて前記オブジェクトの姿勢を決定する姿勢決定部と、
    を備えるオブジェクト姿勢検出装置。
  2. 前記テンプレート画像の輪郭の曲率が大きくなるほど前記第2閾値が小さくなる、
    請求項1に記載のオブジェクト姿勢検出装置。
  3. 前記姿勢決定部は、
    前記撮像画像で形成される輪郭内の一様な部位と前記テンプレート画像の輪郭内の一
    様な部位との一致度が第3閾値より大きい前記テンプレート画像に基づいて前記オブジェ
    クトの姿勢を決定する、
    請求項1または請求項2のいずれかに記載のオブジェクト姿勢検出装置。
  4. 前記一様な部位は、
    エッジまでの最小距離が最小基準値以上の画素によって構成される、
    請求項3に記載のオブジェクト姿勢検出装置。
  5. 前記姿勢決定部は、
    前記テンプレート画像の位置を変化させ、変化後の前記テンプレート画像のそれぞれ
    と前記撮像画像との関連度を取得し、
    前記関連度の分布の急峻度が第4閾値より大きい前記テンプレート画像に基づいて前
    記オブジェクトの姿勢を決定する、
    請求項1〜4のいずれか一項に記載のオブジェクト姿勢検出装置。
  6. 前記関連度は、
    前記撮像画像内で輪郭を形成する画素の勾配と前記テンプレート画像の輪郭を形成す
    る画素の勾配との類似度である、
    請求項5に記載のオブジェクト姿勢検出装置。
  7. 前記関連度は、
    前記撮像画像に基づいて算出された値と、前記テンプレート画像に基づいて算出され
    た値との相関度である、
    請求項5または請求項6のいずれか一項に記載のオブジェクト姿勢検出装置。
  8. 請求項1〜請求項7のいずれかに記載されたオブジェクト姿勢検出装置によって検出さ
    れた前記オブジェクトの姿勢に基づいてロボットを制御する制御装置。
  9. 請求項8に記載された制御装置によって制御されるロボット。
  10. 請求項8に記載された制御装置と、請求項9に記載されたロボットと、を備えるロボッ
    トシステム。
JP2017064549A 2017-03-29 2017-03-29 オブジェクト姿勢検出装置、制御装置、ロボットおよびロボットシステム Pending JP2018169660A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2017064549A JP2018169660A (ja) 2017-03-29 2017-03-29 オブジェクト姿勢検出装置、制御装置、ロボットおよびロボットシステム
US15/935,685 US10740649B2 (en) 2017-03-29 2018-03-26 Object attitude detection device, control device, and robot system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017064549A JP2018169660A (ja) 2017-03-29 2017-03-29 オブジェクト姿勢検出装置、制御装置、ロボットおよびロボットシステム

Publications (1)

Publication Number Publication Date
JP2018169660A true JP2018169660A (ja) 2018-11-01

Family

ID=63670646

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017064549A Pending JP2018169660A (ja) 2017-03-29 2017-03-29 オブジェクト姿勢検出装置、制御装置、ロボットおよびロボットシステム

Country Status (2)

Country Link
US (1) US10740649B2 (ja)
JP (1) JP2018169660A (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019235067A1 (ja) * 2018-06-05 2019-12-12 ソニー株式会社 情報処理装置、情報処理システム、プログラム、及び情報処理方法
US11241795B2 (en) * 2018-09-21 2022-02-08 Beijing Jingdong Shangke Information Technology Co., Ltd. Soft package, robot system for processing the same, and method thereof
JP7453762B2 (ja) * 2019-08-26 2024-03-21 川崎重工業株式会社 画像処理装置、撮像装置、ロボット及びロボットシステム
CN111915898B (zh) * 2020-07-24 2022-07-08 杭州金通科技集团股份有限公司 一种停车监控ai电子驿站
US11597078B2 (en) * 2020-07-28 2023-03-07 Nvidia Corporation Machine learning control of object handovers
CN113240739B (zh) * 2021-04-29 2023-08-11 三一重机有限公司 一种挖掘机、属具的位姿检测方法、装置及存储介质

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5742701A (en) * 1994-02-15 1998-04-21 Matsushita Electric Industrial Co., Ltd. Alignment detection apparatus
US8744122B2 (en) * 2008-10-22 2014-06-03 Sri International System and method for object detection from a moving platform
US20150329217A1 (en) * 2014-05-19 2015-11-19 Honeywell International Inc. Aircraft strike zone display
WO2016004330A1 (en) * 2014-07-03 2016-01-07 Oim Squared Inc. Interactive content generation
US9424470B1 (en) * 2014-08-22 2016-08-23 Google Inc. Systems and methods for scale invariant 3D object detection leveraging processor architecture
WO2017103682A2 (en) * 2015-12-16 2017-06-22 Mbl Limited Robotic manipulation methods and systems for executing a domain-specific application in an instrumented environment with containers and electronic minimanipulation libraries
EP3458919B1 (en) * 2016-05-19 2022-08-24 Deep Learning Robotics Ltd. Robot assisted object learning vision system
DE102016124549B4 (de) * 2016-12-15 2019-11-07 Carl Zeiss Industrielle Messtechnik Gmbh Messsystem

Also Published As

Publication number Publication date
US20180285684A1 (en) 2018-10-04
US10740649B2 (en) 2020-08-11

Similar Documents

Publication Publication Date Title
CN110692082B (zh) 学习装置、学习方法、学习模型、推算装置以及夹持系统
JP2018169660A (ja) オブジェクト姿勢検出装置、制御装置、ロボットおよびロボットシステム
US9616569B2 (en) Method for calibrating an articulated end effector employing a remote digital camera
JP6271953B2 (ja) 画像処理装置、画像処理方法
RU2700246C1 (ru) Способ и система захвата объекта с помощью роботизированного устройства
JP6635690B2 (ja) 情報処理装置、情報処理方法及びプログラム
JP5671281B2 (ja) 位置姿勢計測装置、位置姿勢計測装置の制御方法及びプログラム
CN110378325B (zh) 一种机器人抓取过程中的目标位姿识别方法
CN114556268B (zh) 一种姿势识别方法及装置、存储介质
JP7275759B2 (ja) 物体検出方法、物体検出装置およびロボットシステム
JP7051751B2 (ja) 学習装置、学習方法、学習モデル、検出装置及び把持システム
CN109508707B (zh) 基于单目视觉的机器人稳定抓取物体的抓取点获取方法
JP2004054684A (ja) 物体検出装置及び方法
JP6192088B2 (ja) 物体検出方法および物体検出装置
CN114310892B (zh) 基于点云数据碰撞检测的物体抓取方法、装置和设备
JP5976089B2 (ja) 位置姿勢計測装置、位置姿勢計測方法、およびプログラム
JP7264247B2 (ja) 情報処理装置及び情報処理方法
JP2010184300A (ja) 姿勢変更システムおよび姿勢変更方法
CN113034526A (zh) 一种抓取方法、抓取装置及机器人
JP7349423B2 (ja) 学習装置、学習方法、学習モデル、検出装置及び把持システム
JP2019105588A (ja) 情報処理装置、システム、情報処理方法及びプログラム
JP6719925B2 (ja) 情報処理装置、情報処理方法、プログラム
RU2800443C1 (ru) Способ выполнения манипуляции с объектом
US11348280B2 (en) Method and computer readable medium for pose estimation
WO2022190534A1 (ja) 認識装置、ロボット制御システム、認識方法、およびプログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20171012

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20171012

RD05 Notification of revocation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7425

Effective date: 20180910