JP2016156750A - 視差画像生成システム、ピッキングシステム、視差画像生成方法およびプログラム - Google Patents

視差画像生成システム、ピッキングシステム、視差画像生成方法およびプログラム Download PDF

Info

Publication number
JP2016156750A
JP2016156750A JP2015035850A JP2015035850A JP2016156750A JP 2016156750 A JP2016156750 A JP 2016156750A JP 2015035850 A JP2015035850 A JP 2015035850A JP 2015035850 A JP2015035850 A JP 2015035850A JP 2016156750 A JP2016156750 A JP 2016156750A
Authority
JP
Japan
Prior art keywords
pattern
parallax image
object information
parallax
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015035850A
Other languages
English (en)
Other versions
JP6500493B2 (ja
Inventor
洋義 関口
Hiroyoshi Sekiguchi
洋義 関口
大内田 茂
Shigeru Ouchida
茂 大内田
健司 永島
Kenji Nagashima
健司 永島
栄太 渡邊
Eita Watanabe
栄太 渡邊
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2015035850A priority Critical patent/JP6500493B2/ja
Priority to EP16156159.2A priority patent/EP3062516B1/en
Publication of JP2016156750A publication Critical patent/JP2016156750A/ja
Application granted granted Critical
Publication of JP6500493B2 publication Critical patent/JP6500493B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • G01B11/25Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
    • G01B11/2545Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object with one projection direction and several detection directions, e.g. stereo
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/521Depth or shape recovery from laser ranging, e.g. using interferometry; from the projection of structured light
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/254Image signal generators using stereoscopic image cameras in combination with electromagnetic radiation sources for illuminating objects

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Electromagnetism (AREA)
  • Optics & Photonics (AREA)
  • Theoretical Computer Science (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Processing Or Creating Images (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)
  • Measurement Of Optical Distance (AREA)

Abstract

【課題】精度のよい視差画像を短時間で生成する。
【解決手段】物体の特性を反映した物体情報を取得する物体情報取得部410と、予め定められた複数のパターンのうち、物体情報取得部410により取得された物体情報に対応するパターンを選択するパターン選択部420と、パターン選択部420により選択されたパターンを物体に照射するパターン投光器3と、パターンが照射された物体を撮像する基準画像撮像部210および比較画像撮像部220と、基準画像撮像部210および比較画像撮像部220により撮像された撮像画像から視差画像を生成する視差画像生成部230と、を備える。
【選択図】図7

Description

本発明は、視差画像生成システム、ピッキングシステム、視差画像生成方法およびプログラムに関する。
ステレオカメラを用いたステレオマッチング処理により、画素ごとの視差値を求めて視差画像(距離画像)を生成する技術が知られている。ステレオマッチング処理とは、撮影位置が異なる2つのカメラのうちの一方で撮像された画像(基準画像)と、他方で撮像された画像(比較画像)との間で対応する画素を探索することにより、画素ごとの視差値を求める処理である。
しかし、ステレオマッチング処理の多くは局所的な輝度変化を手がかりとして基準画像と比較画像との間の画素の対応付けを行うため、被写体となる物体のテクスチャが弱いと視差値を求められない画素が多く発生し、精度のよい視差画像を生成することが難しい。そこで、被写体となる物体に対してパターンを照射することで人工的にテクスチャを付与し、基準画像と比較画像との間の画素の対応付けを行い易くする技術が種々提案されている。例えば特許文献1には、被写体に対して複数のパターンを切り替えて照射し、あるパターンを照射して生成した視差画像におけるミスマッチング領域(視差値が得られない領域)を、別のパターンを照射して生成した視差画像の視差値により置換する技術が記載されている。
しかし、被写体となる物体に照射されるパターンがその物体の特性に合っていない場合、信頼性の高い視差値(以下、「有効視差」と呼ぶ。)が得られる画素の数(以下、「有効視差点数」と呼ぶ。)が少なくなり、精度のよい視差画像が得られない。また、特許文献1に記載の技術のように、複数のパターンを切り替えて照射する構成では、最終的に視差画像を得るまでの所要時間が長くなる。
上述した課題を解決するために、本発明は、物体の特性を反映した物体情報を取得する取得手段と、予め定められた複数のパターンのうち、前記取得手段により取得された前記物体情報に対応するパターンを選択する選択手段と、前記選択手段により選択されたパターンを前記物体に照射するパターン照射手段と、パターンが照射された前記物体を撮像する2以上の撮像手段と、前記2以上の撮像手段により撮像された2以上の撮像画像から視差画像を生成する生成手段と、を備える。
本発明によれば、精度のよい視差画像を短時間で生成することができるという効果を奏する。
図1は、ステレオカメラを用いて物体までの距離を算出する原理を説明する図である。 図2は、ステレオマッチング処理の概要を説明する図である。 図3は、候補画素のコスト値とシフト量との関係を示す図である。 図4は、物体の光透過率とパターンの粒度との関係を説明する図である。 図5は、実施形態のピッキングシステムの概略構成図である。 図6は、実施形態のピッキングシステムのハードウェア構成例を示すブロック図である。 図7は、ステレオカメラおよび情報処理装置の機能的な構成例を示すブロック図である。 図8は、視差画像生成部の詳細な構成例を示すブロック図である。 図9は、整数視差および小数視差の算出方法を説明する図である。 図10は、光透過率が高めの物体に最適なパターンと光透過率が低めの物体に最適なパターンのそれぞれの明度分布を表す図である。 図11は、光透過率が高めの物体に最適なパターンの一例を示す図である。 図12は、光透過率が低めの物体に最適なパターンの一例を示す図である。 図13は、ピッキングシステムによる動作の流れを説明するフローチャートである。 図14は、第1変形例の構成を説明するブロック図である。 図15は、第2変形例の構成を説明するブロック図である。 図16は、第3変形例の構成を説明するブロック図である。 図17は、パターン記憶部に格納されるテーブルの一例を示す図である。
以下に添付図面を参照しながら、本発明に係る視差画像生成システム、ピッキングシステム、視差画像生成方法およびプログラムの実施形態について詳しく説明する。
本実施形態の視差画像生成システムは、被写体となる物体の特性を反映した物体情報を取得し、予め定められた複数のパターンの中から、取得した物体情報に対応するパターンを選択して物体に照射する。そして、このパターンが照射された物体を撮像した2以上の撮像画像から視差画像を生成する。このように、物体の特性を反映した物体情報に基づいて選択したパターンを物体に照射して視差画像を生成することで、精度のよい視差画像を短時間で生成することができる。
[測距の原理]
まず、本実施形態において適用される測距の原理について、図1を参照して説明する。図1は、ステレオカメラを用いて物体までの距離を算出する原理を説明する図である。ここでは、ステレオマッチング処理によりステレオカメラにおける物体に対する視差値を求め、この視差値によって、ステレオカメラから物体までの距離を測定する。なお、以下では、説明を簡略化するため、複数の画素からなる所定領域のマッチングではなく、画素単位のマッチングを行うものとして説明する。
図1に示すステレオカメラは、平行等位に配置された2つの撮像部10a,10bを有する。撮像部10a,10bは、それぞれ、被写体となる物体Eの像をイメージセンサに結像させるレンズ11a,11bを有する。ここで、撮像部10aにより撮像された撮像画像(輝度画像)を基準画像Iaとし、撮像部10bにより撮像された撮像画像(輝度画像)を比較画像Ibとする。
図1において、3次元空間内の物体E上の点Sは、基準画像Iaおよび比較画像Ibそれぞれにおいて、レンズ11aとレンズ11bとを結ぶ直線と平行な直線上の位置に写像される。基準画像Iaにおいて物体E上の点Sが写像される位置を点Sa(x,y)とし、比較画像Ibにおいて物体E上の点Sが写像される位置を点Sb(X,y)とする。このとき、視差値dpは、基準画像Iaにおける点Sa(x,y)の座標値と、比較画像Ibにおける点Sb(X,y)の座標値とを用いて、下記式(1)のように表される。
dp=X−x ・・・(1)
また、図1において、基準画像Iaにおける点Sa(x,y)と撮像レンズ11aから撮像面上に下した垂線の交点との距離をΔaとし、比較画像Ibにおける点Sb(X,y)と撮像レンズ11bから撮像面上に下した垂線の交点との距離をΔbとすると、視差値dpは、dp=Δa+Δbと表すこともできる。
視差値dpを用いることにより、ステレオカメラと物体Eとの間の距離Zを算出することができる。距離Zは、レンズ11aの焦点位置とレンズ11bの焦点位置とを結ぶ直線から物体E上の点Sまでの距離である。図1に示すように、撮像レンズ11a,11bの焦点距離f、撮像レンズ11aと撮像レンズ11bとの間の長さである基線長B、および視差値dpを用いて、下記式(2)により、距離Zを算出することができる。
Z=(B×f)/dp ・・・(2)
この式(2)から分かるように、視差値dpが大きいほど距離Zは小さく、視差値dpが小さいほど距離Zは大きくなる。
[ステレオマッチング処理]
次に、基準画像Iaに対して比較画像Ibにおける対応画素を求めるステレオマッチング処理の概要について説明する。ここで、対応画素とは、基準画像Iaにおける画素(以下、「基準画素」と呼ぶ。)に最も類似する比較画像Ib内の画素のことをいう。ステレオマッチング処理では、比較画像Ibにおける対応画素の候補について、それぞれ基準画素に対する非類似度を表すコスト値Cを算出し、コスト値Cが最小値となる候補を対応画素として求める。基準画素に対応する対応画素が一意に求まれば、例えば上記式(1)により、その画素について信頼性の高い視差値dpを算出することができる。視差画像は、基準画素を視差値dpで表した画像である。したがって、信頼性の高い視差値dp(有効視差)を算出できた基準画素の数(有効視差点数)が多いほど、精度のよい視差画像となる。なお、有効視差を算出できない基準画素については、例えば視差値dpを「0」として視差画像が構成される。
図2は、ステレオマッチング処理の概要を説明する図である。図2(a)は、基準画像Iaにおける基準画素pの一例p(x,y)を示す概念図であり、図2(b)は、図2(a)に示す基準画素p(x,y)に対応する比較画像Ibにおける対応画素の候補(以下、「候補画素」と呼ぶ。)の一例q(x+d,y)を示す概念図である。図2に示すように、基準画素p(x,y)に対応する比較画像Ib内のエピポーラ線EL上の各候補画素q(x+d,y)の輝度値を求めて基準画素p(x,y)の輝度値と比較することにより、各候補画素q(x+d,y)のコスト値C(p,d)が算出される。dは、基準画素pに対する候補画素qのシフト量(ずれ量)であり、ここでは画素単位のシフト量を表している。すなわち、図2では、候補画素q(x+d,y)を予め指定された範囲(例えば、0<d<25)において順次1画素ずつシフトさせながら、候補画素q(x+d,y)と基準画素p(x,y)との輝度値の非類似度を表すコスト値C(p,d)が算出される。
なお、上述のように、撮像部10a,10bは平行等位に配置されるため、基準画像Iaにおける基準画素pに対応する比較画像Ibにおける対応画素は、図2に示すエピポーラ線EL上に存在することになる。したがって、比較画像Ibにおける対応画素を求めるためには、比較画像Ib内のエピポーラ線EL上の画素を探索すればよい。
このようにして算出されたコスト値Cは、シフト量dとの関係で、図3に示すようなグラフによって表すことができる。図3の例では、コスト値Cは、シフト量d=5,12,19の場合が「0」となるため、最小値を求めることができない。例えば、テクスチャが弱い物体を被写体とする場合には、基準画素pと同じ輝度値を持つ候補画素qが多く存在するため、このようにコスト値Cの最小値を求めることが困難となる。その結果、基準画素pに対応する対応画素を一意に特定することができず(ミスマッチが生じ)、信頼性の高い視差値dpを算出することができない。
このような問題は、被写体となる物体にパターンを照射して人工的にテクスチャを付与することにより改善される。ここでの「テクスチャ」とは、例えば画像上の各画素の明暗として現れ得る模様、柄、パターン、色、ドットなどをいう。物体に照射するパターンは、複数の明度を有するパターンや二次元の乱数パターンであることが好ましい。ただし、繰返し周期を持つパターンはコスト値Cの値が繰り返す場合があるため、好ましくない。
また、物体に照射するパターンは、物体の特性に応じて最適なパターンが異なることが分かってきた。例えば、光透過率が高い物体に対して粒度が細かすぎるパターンを照射した場合、物体の表面で拡散反射した光と物体を透過して別の面で拡散反射した光とが干渉することの影響などによりテクスチャが消滅することがある。その結果、類似した輝度値がステレオマッチング処理における探索方向に並んでしまうことが多くなり、有効視差点数が減少して視差画像の精度が低下する。また、例えば、光透過率が低い物体に対してコントラストが高すぎるパターンを照射した場合、物体表面の反射光量が大きいために明度が高いテクスチャに対応する画素の輝度値が飽和してしまう場合がある。その結果、正しい輝度値が得られない画素が多くなり、有効視差点数が減少して視差画像の精度が低下する。
図4は、物体の光透過率とパターンの粒度との関係を説明する図である。図4では、光透過率が低い物体である不透明体と、光透過率が高い物体である半透明体とに対して、粒度が細かいパターンを照射したときに得られる輝度画像(基準画像または比較画像)および視差画像と、粒度が粗いパターンを照射したときに得られる輝度画像および視差画像とをそれぞれ示している。図4に示す視差画像は、便宜上、有効視差が得られた画素をグレーで示し、有効視差が得られなかった画素を黒で示している。
図4に示すように、被写体となる物体が不透明体の場合、粒度が粗いパターンを照射した場合よりも粒度が細かいパターンを照射した場合の方が、視差画像における有効視差点数が多くなり、精度のよい視差画像を得ることができる。一方、被写体となる物体が半透明体の場合には、粒度が細かいパターンを照射すると輝度画像がぼやけてテクスチャが消滅し、視差画像における有効視差点数が大幅に減少するが、粒度の粗いパターンを照射するとテクスチャが塊として残るため、有効視差点数が多くなり、精度のよい視差画像を得ることができる。
以上の例で示すように、精度のよい視差画像を得るために最適なパターンは、被写体となる物体の透過率などの特性に応じて異なっている。被写体となる物体の特性に合った最適なパターンを照射する方法としては、複数のパターンを切り替えながら視差画像を評価して最適なパターンを探す方法もあるが、この方法では最終的に精度のよい視差画像を得るまでの所要時間が長くなる。そこで、本実施形態では、被写体となる物体の特性を反映した物体情報を取得し、予め定められた複数のパターンの中から、取得した物体情報に対応するパターンを選択して物体に照射することで、精度のよい視差画像を短時間で生成できるようにしている。
[ピッキングシステム]
次に、本発明に係る視差画像生成システムを適用した具体的なシステムの一例として、製品の組み立て工場などにおいて、前工程から搬送された部品や半完成品、完成品などの物体を自動認識し、ロボットアームを用いて物体のピッキングを行うピッキングシステムについて説明する。このピッキングシステムでは、例えば、搬送用トレイ内に平置き、あるいはバラ積みされた状態で、ベルトコンベアなどにより前工程から搬送された物体を被写体としてステレオカメラによる撮像を行って視差画像を生成し、この視差画像をもとに物体の三次元の位置を認識してピッキング(物体を掴む(拾う)動作)を行う。このピッキングシステムは、ピッキング対象となる物体の特性に合った最適なパターンを物体に照射してステレオカメラによる撮像を行うことで、精度のよい視差画像を短時間で生成することができ、ピッキング動作のタクトタイムを短縮することができる。
(全体構成)
図5は、本実施形態のピッキングシステム1の概略構成図である。このピッキングシステム1は、図5に示すように、ステレオカメラ2と、パターン投光器3(パターン照射手段の一例)と、情報処理装置4と、アーム制御装置5(ピッキング手段の一例)とを備える。
ステレオカメラ2は、2つの撮像部により被写体である物体を撮像し、上述した基準画像および比較画像となる2つの撮像画像(輝度画像)から視差画像を生成して出力する。ステレオカメラ2の機能の詳細については後述する。なお、ステレオカメラ2は3つ以上の撮像部により物体を撮像して視差画像を生成する構成であってもよいが、本実施形態では2つの撮像部を有する構成であるものとする。
パターン投光器3は、被写体となる物体に対してパターンを照射して、物体にテクスチャを付与する。本実施形態では、このパターン投光器3が物体に照射するパターンが、物体の特性を反映した物体情報に基づいて選択されたパターンとなる。物体情報に基づいて選択されたパターンを物体に照射し、この物体をステレオカメラ2により撮像することにより、精度のよい視差画像が生成される。また、パターン投光器3は、物体情報を取得できるようにするための物体情報取得用の光を物体に照射する機能も有する。
情報処理装置4は、ステレオカメラ2により生成された視差画像と輝度画像を用いて物体の認識処理を行う。また、情報処理装置4は、物体情報を取得して、パターン投光器3から物体に照射する最適なパターンを選択する機能も有する。情報処理装置4の機能の詳細については後述する。
アーム制御装置5は、情報処理装置4による物体に対する認識結果に基づいて、多関節ロボットであるロボットアーム6の動作を制御し、搬送用トレイ7内の物体のピッキングを行う。
(ハードウェア構成)
図6は、本実施形態のピッキングシステム1のハードウェア構成例を示すブロック図である。図6に示すように、ステレオカメラ2は、2つの撮像部10a,10bと、FPGA(Field−Programmable Gate Array)11とを備える。FPGA11には、2つの撮像部10a,10bによる撮像画像から視差画像を生成するためのプログラムが実装されている。
情報処理装置4は、図6に示すように、CPU12、ROM13、RAM14、ROMI/F15、RAMI/F16、およびI/F17〜19などを備えた汎用のコンピュータ装置として構成される。CPU12は、情報処理装置4の各機能を実現させるための演算を実行する演算装置である。ROM13は、プログラムやデータを記憶する不揮発性メモリである。RAM14は、CPU12がプログラムを実行するためのワークエリアとして利用されるメインメモリである。また、RAM14は、ステレオカメラ2から情報処理装置4に送られた撮像画像(輝度画像)や視差画像を一時的に格納する画像メモリとしても用いられる。
ROMI/F15は、CPU12がROM13にアクセスするためのインターフェースであり、RAMI/F16は、CPU12がRAM14にアクセスするためのインターフェースである。I/F17〜19は、情報処理装置4とステレオカメラ2、パターン投光器3およびアーム制御装置5とを接続するためのインターフェースである。なお、情報処理装置4には、例えばハードディスク装置などの大容量記憶装置が内蔵または外付けで設けられていてもよい。
情報処理装置4の主要な機能は、例えば、CPU12がRAM14をワークエリアとして利用して、ROM13やハードディスク装置に格納されたプログラムを実行することにより実現される。例えば、後述の物体情報取得部410およびパターン選択部420(図7参照)の機能は、以下のように実現される。すなわち、CPU12が、ROM13やハードディスク装置から読み出したプログラムの制御フローの命令に従って、物体情報取得用の光をパターン投光器3から物体に照射させたときに撮像された物体の輝度画像をステレオカメラ2から取得する。そして、取得した輝度画像を評価して評価値を算出し、ROM13やハードディスク装置により実現されるパターン記憶部430(図7参照)に格納された複数のパターンのうち、輝度画像の評価値に応じたパターンを選択する。
(ステレオカメラおよび情報処理装置の機能構成)
図7は、ステレオカメラ2および情報処理装置4の機能的な構成例を示すブロック図である。図7に示すように、ステレオカメラ2は、上述した2つの撮像部10a,10bにより実現される基準画像撮像部210(第1の撮像手段)および比較画像撮像部220(第2の撮像手段)と、上述したFPGA11により実現される視差画像生成部230(生成手段)とを備える。また、情報処理装置4は、例えば上述したCPU12がプログラムを実行することにより実現される機能的な構成要素として、物体情報取得部410(取得手段)と、パターン選択部420(選択手段)と、認識処理部440(認識手段)とを備える。また、情報処理装置4は、ROM13やハードディスク装置により実現されるパターン記憶部430を備える。
基準画像撮像部210は、被写体となる物体を撮像し、上述した基準画像Iaとなる輝度画像を撮像画像として出力する。また、比較画像撮像部220は、基準画像撮像部210とは異なる位置から被写体となる物体を撮像し、上述した比較画像Ibとなる輝度画像を撮像画像として出力する。これら基準画像撮像部210および比較画像撮像部220からの輝度画像は、視差画像生成部230に入力される。また、基準画像撮像部210からの輝度画像(基準画像Ia)は、情報処理装置4の認識処理部440にも入力される。さらに、物体情報取得用の光が照射された物体を基準画像撮像部210が撮像することで得られる輝度画像は、情報処理装置4の物体情報取得部410に入力される。
視差画像生成部230は、基準画像撮像部210からの輝度画像(基準画像Ia)と、比較画像撮像部220からの輝度画像(比較画像Ib)とを用いて、視差画像を生成する。図8は、視差画像生成部230の詳細な構成例を示すブロック図である。図8に示すように、視差画像生成部230は、フィルタ部231,232と、コスト算出部233と、整数視差算出部234と、少数視差算出部235とを備える。
フィルタ部231,232は、それぞれ、基準画像撮像部210からの輝度画像(基準画像Ia)と、比較画像撮像部220からの輝度画像(比較画像Ib)に対し、ノイズの除去や高域を強調するためのフィルタリング処理を行う。
コスト算出部233は、上述したように、基準画像Iaにおける基準画素pの輝度値と、比較画像Ibにおける各候補画素qの輝度値とに基づき、各候補画素qのコスト値Cを算出する。コスト算出部233によるコスト値Cの算出方法としては、例えば、SAD(Sum of Absolute Difference)、SSD(Sum of Squared Difference)、またはNCC(Normalized Cross−Correlation)などの公知の方法を用いることができる。
整数視差算出部234および小数視差算出部235は、コスト算出部233により算出された各候補画素qのコスト値Cに基づき、1画素よりも小さいサブピクセル単位で視差値dpを算出する。以下では、1画素単位で算出される視差値dpを整数視差Δと呼び、サブピクセル単位で算出される視差値dpを小数視差δと呼ぶ。図9は、整数視差Δおよび小数視差δの算出方法を説明する図である。
整数視差算出部234では、図9に示すように、各候補画素qごと(つまり基準画素pからのシフト量dごと)に算出されるコスト値Cが最小となるシフト量dが探索される。そして、コスト値Cが最小となるシフト量dの値が整数視差Δとして算出される。小数視差算出部235では、視差値dpを小数まで追求するために、サブピクセル推定手法を使って図9に示す小数視差δが算出される。例えば等角直線法では、整数視差算出部234により算出された整数視差Δを中心として、dの値がひとつ小さいΔ−1とdの値がひとつ大きいΔ+1の合計3つの候補画素に対応する3つのコスト値Cを使って、小数視差δが算出される。また、パラボラフィット法や多項式による近似手法では、上記の3つのコスト値Cを使って小数視差δを算出してもよいし、図9のΔ−2、Δ−1、Δ、Δ+1、Δ+2に対応する5つのコスト値Cを使って小数視差δを算出してもよい。これらに限らず、所望のサブピクセル推定手法を用いて小数視差δを算出してもよい。
視差画像生成部230では、基準画像Ia内の基準画素pのそれぞれについて、コスト算出部233で候補画素qのコスト値Cを算出し、整数視差算出部234および小数視差算出部235で少数視差δを算出する。これにより、物体の三次元情報を表す視差画像が生成される。なお、視差画像生成部230は、基準画像撮像部210から入力した基準画像Iaや比較画像撮像部220から入力した比較画像Ibに対して、歪み補正処理などの処理を施す前処理部を備えていてもよい。基準画像Iaと比較画像Ibの歪み状態はコスト算出部233で算出するコスト値Cの結果に大きな影響を与える場合があるため、コスト値Cの算出前に歪み補正処理を行うことが有効である。また、基準画像撮像部210や比較画像撮像部220におけるレンズとセンサの光軸ずれや、レンズの光学的歪み状態が基準画像Iaと比較画像Ibとで異なる場合は、その歪みを補正するための歪み補正パラメータを前処理部において保持し、キャリブレーション結果を歪み補正パラメータに反映させるといった対策を講じることも有効である。
図7に戻り、物体情報取得部410は、ピッキングの対象となる物体、つまりステレオカメラ2の被写体となる物体の特性を反映した物体情報を取得する。本実施形態では、物体の特性として、物体の光透過率(もしくは反射率などの光透過率を代替する特性値)を反映した物体情報を取得することを想定する。物体情報としては、例えば、明度分布を持たない所定の明るさの一様の光を物体情報取得用の光としてパターン投光器3から物体に照射した状態で、ステレオカメラ2の基準画像撮像部210(あるいは比較画像撮像部220)により撮像された物体の輝度画像を用いることができる。
物体情報取得用の光が照射された物体の輝度画像は、物体が映っている領域の画素値が物体の光透過率を反映した値となる。つまり、物体の光透過率が低いほど物体表面の反射光が強くなるため、輝度画像の画素値は大きくなり、物体の光透過率が高いほど物体表面の反射光が弱くなるため、輝度画像の画素値は小さくなる。なお、物体情報としてこのような物体の輝度画像を用いる場合は、物体の背景となる部分(図5に示したように物体が搬送用トレイ7内に置かれている場合は搬送用トレイ7の底面部)に、光を吸収する材質のもの(例えば黒い幕など)を設置しておくことが望ましい。これにより、物体の背景となる部分での反射が抑制されるため、輝度画像から物体が映っている領域を特定しやすくなるとともに、物体を透過した光は背景となる部分で吸収されるため、物体の光透過率を忠実に反映した撮像画像を取得することができる。
物体情報取得部410は、例えば、ピッキングシステム1による物体のピッキング動作が開始される前、あるいはピッキング対象の物体が切り替わった際に、パターン投光器3に対して物体情報取得用の光の照射を指示する制御命令を出力するとともに、ステレオカメラ2に対して輝度画像の撮像を指示する制御命令を出力する。そして、パターン投光器3から物体情報取得用の光が照射された物体の輝度画像がステレオカメラ2の基準画像撮像部210から出力されると、物体情報取得部410は、この基準画像撮像部210から出力された輝度画像を物体情報として取得する。物体情報取得部410により物体情報として取得された輝度画像は、パターン選択部420に渡される。
パターン選択部420は、物体情報取得部410により物体情報として取得された輝度画像から物体が映っている領域を特定し、この領域の画素値をもとに輝度画像の評価値を算出する。例えばパターン選択部420は、輝度画像の物体が映っている領域の画素値の平均値を求め、その平均値の逆数を輝度画像の評価値として算出することができる。そして、パターン選択部420は、パターン記憶部430に予め格納されている複数のパターンのうち、算出した評価値に対応するパターンを選択する。上述の輝度画像から算出した評価値は、物体の光透過率を反映した値である。したがって、パターン選択部420は、パターン記憶部430に予め格納されている複数のパターンのうち、評価値に対応する光透過率を持つ物体に照射するパターンとして最適なパターンを選択することになる。
パターン記憶部430は、物体の光透過率に応じて粒度やコントラストが最適化された複数のパターンを記憶している。物体の光透過率に応じたパターンの最適な粒度やコントラストは、予め実験などによって求められている。以下では、説明を簡略化するため、光透過率が高めの物体に対して最適なパターンと、光透過率が低めの物体に対して最適なパターンとの2つのパターンについて説明する。ただし、パターン記憶部430には、ピッキング対象となり得る物体の光透過率に応じた複数のパターンが格納されていればよく、3つ以上のパターンが格納されていてもよい。
図10は、光透過率が高めの物体に最適なパターンP1と光透過率が低めの物体に最適なパターンP2のそれぞれの明度分布を表す図である。また、図11は、光透過率が高めの物体に最適なパターンP1の一例を示す図であり、図12は、光透過率が低めの物体に最適なパターンP2の一例を示す図である。
図10乃至図12に示すように、光透過率が高めの物体に最適なパターンP1は、光透過率が低めの物体に最適なパターンP2よりも、粒度が粗く、且つ、コントラストが高いパターンとなっている。光透過率が高めの物体に対して粒度が細かいパターンを照射すると、上述したようにテクスチャが消滅して視差画像における有効視差点数が減少する。また、光透過率が高めの物体に対してコントラストが低いパターンを照射すると、輝度画像におけるコントラストがさらに低下するためテクスチャが消滅し、視差画像における有効視差点数が減少する。このため、光透過率が高めの物体に最適なパターンP1は、光透過率が低めの物体に最適なパターンP2と比較して、粒度が粗く、且つ、コントラストが高いパターンとしている。一方、光透過率が高めの物体に対しては、粒度が細かいパターンを照射した方が視差画像における有効視差点数が増加する。また、光透過率が低めの物体に対してコントラストが高いパターンを照射すると、上述したように輝度画像において画素値(輝度値)が飽和する画素が多くなり、視差画像における有効視差点数が減少する。このため、光透過率が低めの物体に対して最適なパターンP2は、光透過率が高めの物体に最適なパターンP1と比較して、粒度が細かく、且つ、コントラストが低いパターンとしている。
パターン選択部420は、例えば、物体情報取得部410により物体情報として取得された輝度画像から算出した評価値(物体の光透過率を反映した値)が所定の閾値よりも高いときは、パターン記憶部430に格納された複数のパターンのうち、例えば図11に例示したパターンP1を選択し、算出した評価値が閾値以下のときは、例えば図12に例示したパターンP2を選択する。パターン記憶部430に3つ以上のパターンが格納されている場合は、2つ以上の閾値を設定して各パターンの選択基準とすればよい。
パターン選択部420によりパターンが選択されると、その選択されたパターンの映像が情報処理装置4からパターン投光器3に転送される。これにより、パターン投光器3から物体に対して、精度のよい視差画像を生成するために最適なパターンが照射される。そして、最適なパターンが照射された物体に対し、ステレオカメラ2による撮像および視差画像の生成が行われ、生成された視差画像が基準画像Iaとともに認識処理部440に送られる。なお、パターンの粒度やコントラストといったパラメータをパターン選択部420に格納しておき、選択されたパターンのパラメータを映像が情報処理装置4からパターン投光器3に転送して、パターン投光器3において、転送されたパラメータに基づくパターンの映像を生成して照射する構成であってもよい。
物体の光透過率に応じたパターンの最適な粒度やコントラストを実験的に求める方法としては、例えば、光透過率が異なる物体に対し、粒度やコントラストを変化させながらパターンを照射して、視差画像の有効視差点数が最も多くなるパターンの粒度やコントラストを物体ごとに求める方法を用いることができる。ピッキング対象となり得る物体のそれぞれに対して、このような方法でパターンの最適な粒度やコントラストを求めておくことで、ピッキング対象となり得る物体ごとに、事前に最適なパターンを決定してパターン記憶部430に記憶させておくことができる。このとき、各物体に対応する最適なパターンを、例えば上述のように物体情報取得用の光を照射したときの物体の輝度画像の評価値をもとに設定した閾値と関連付けてパターン記憶部430に記憶させておくことにより、物体の特性に合った最適なパターンを選択することができる。
図7に戻り、認識処理部440は、ステレオカメラ2が出力する基準画像Iaおよび視差画像に基づいて、ステレオカメラ2により撮像された物体の形状、位置および距離などを認識する。認識処理部440の認識結果はアーム制御装置5に送られる。これにより、アーム制御装置5によりロボットアーム6の動作が制御され、物体のピッキングが行われる。
(ピッキングシステムの動作)
次に、本実施形態のピッキングシステム1の動作について、図13を参照して説明する。図13は、ピッキングシステム1による動作の流れを説明するフローチャートである。
ピッキングシステム1の動作が開始されると、まず、ピッキング対象の物体に対して、パターン投光器3から物体情報取得用の光が照射される(ステップS101)。そして、物体情報取得用の光が照射された物体を被写体としてステレオカメラ2による撮像が行われ(ステップS102)、情報処理装置4の物体情報取得部410により、ステップS102で撮像された物体の輝度画像が物体情報として取得される(ステップS103)。
次に、情報処理装置4のパターン選択部420により、ステップS103で取得された輝度画像の評価値が算出され(ステップS104)、パターン記憶部430が記憶する複数のパターンのうち、ステップS104で算出された評価値に対応するパターンが選択される(ステップS105)。
次に、ピッキング対象の物体に対して、パターン投光器3からステップS105で選択されたパターンが照射され(ステップS106)、パターンが照射された物体を被写体としてステレオカメラ2による撮像が行われる(ステップS107)。そして、ステレオカメラ2の視差画像生成部230により、ステップS107で撮像された2つの撮像画像(基準画像および比較画像)をもとに、視差画像が生成される(ステップS108)。
次に、情報処理装置4の認識処理部440により、ステップS107で撮像された撮像画像とステップS108で生成された視差画像とに基づいて物体の認識処理が行われ(ステップS109)、その認識結果に基づいて、アーム制御装置5によりロボットアーム6の動作が制御されることで、物体のピッキングが行われる(ステップS110)。
その後、ピッキング対象の物体が変わったか否かが判定され(ステップS111)、ピッキング対象の物体が変わった場合は(ステップS111:Yes)、ステップS101に戻って以降の処理が繰り返される。また、ピッキング対象の物体が変わっていなければ(ステップS111:No)、すべての物体のピッキングが終了したか否かが判定され(ステップS112)、ピッキングが終了していない物体があれば(ステップS112:No)、ステップS106に戻って以降の処理が繰り返される。そして、すべての物体のピッキングが終了すると(ステップS112:Yes)、ピッキングシステム1の動作が終了する。
以上、具体的な例を挙げながら詳細に説明したように、本実施形態のピッキングシステム1は、ピッキング対象となる物体の特性を反映した物体情報を取得し、予め定められた複数のパターンのうち、取得した物体情報に対応するパターンを選択して物体に照射し、このパターンが照射された物体を撮像した2以上の撮像画像から視差画像を生成する。したがって、本実施形態のピッキングシステム1によれば、ピッキング対象となる物体の特性に合った最適なパターンを照射して精度のよい視差画像を短時間で生成できるため、物体のピッキング動作に要するタクトタイムを短縮して、作業効率を高めることができる。特に、従来技術のように、精度のよい視差画像を生成するために複数のパターンを切り替えながら照射して複数の視差画像を合成する構成では、物体のピッキング動作中にパターンの切り替えや複数の視差画像の生成、合成などの処理を行うため、精度のよい視差画像を得るための所要時間が長くなり、ピッキング動作のタクトタイムが長時間化する。これに対し、本実施形態のピッキングシステム1では、物体のピッキング動作が開始される前にパターンの最適化が行われ、ピッキング動作が開始された後は精度のよい視差画像を短時間で生成できるため、ピッキング動作のタクトタイムを短くすることができる。
(第1変形例)
次に、本実施形態の第1変形例を説明する。本変形例は、物体情報取得用の光が照射された物体の反射光または透過光を受光する光検出器を別途設け、この光検出器が受光した光量を物体情報として取得する例である。その他の構成は上述した実施形態と同様であるため、以下では上述した実施形態との差分のみを説明する。
図14は、第1変形例の構成を説明するブロック図である。図14に示すように、本変形例では、上述した実施形態のピッキングシステム1の構成(図7参照)に対し、光検出器20(受光手段)が追加されている。
光検出器20は、物体情報取得用の光が照射された物体の反射光または透過光を受光して受光量に応じた電気信号を出力する。この光検出器20により物体の反射光を検出する場合は、パターン投光器3から物体に照射された物体情報取得用の光の正反射光を受光する位置に光検出器20が配置される。また、光検出器20により物体の透過光を検出する場合は、物体の背景となる部分(図5に示したように物体が搬送用トレイ7内に置かれている場合は搬送用トレイ7の底面部)に光検出器20が配置される。光検出器20が出力する電気信号、すなわち物体の反射光または透過光の光量を示す信号は、情報処理装置4に入力される。
本変形例では、情報処理装置4の物体情報取得部410が、光検出器20により受光された物体の反射光または透過光の光量を、物体情報として取得する。すなわち、物体情報取得部410は、例えば、ピッキングシステム1による物体のピッキング動作が開始される前、あるいはピッキング対象の物体が切り替わった際に、パターン投光器3に対して物体情報取得用の光の照射を指示する制御命令を出力するとともに、光検出器20を動作させる。そして、パターン投光器3から物体情報取得用の光が物体に照射されたときに光検出器20から出力される信号を読み込んで、この信号によって示される物体の反射光または透過光の光量を、物体情報として取得する。
物体情報取得用の光が照射されたときの物体の反射光または透過光の光量は、物体の光透過率を反映したものとなっている。つまり、物体の光透過率が低いほど物体の反射光が強くなるため、反射光の光量が大きくなり、透過光の光量は小さくなる。逆に、物体の光透過率が高いほど物体表面の反射光が弱くなるため、反射光の光量は小さくなり、透過光の光量は大きくなる。したがって、光検出器20により受光された物体の反射光または透過光の光量を物体情報として取得することにより、上述した実施形態と同様に、物体の光透過率に応じて最適なパターンを選択することができる。
(第2変形例)
次に、本実施形態の第2変形例を説明する。本変形例は、ピッキング対象となる物体に検査用のレーザ光を照射するレーザ光源と、物体で反射または物体を透過したレーザ光を受光するレーザ光検出器を別途設け、レーザ光検出器が受光したレーザ光の光量を物体情報として取得する例である。その他の構成は上述した実施形態と同様であるため、以下では上述した実施形態との差分のみを説明する。
図15は、第2変形例の構成を説明するブロック図である。図15に示すように、本変形例では、上述した実施形態のピッキングシステム1の構成(図7参照)に対し、レーザ光源21(レーザ照射手段)と、レーザ光検出器22(レーザ受光手段)とが追加されている。
レーザ光源21は、例えば、情報処理装置4の物体情報取得部410から出力される発光指令に従ってレーザ光を発光し、ピッキング対象の物体に照射する。レーザ光源21からのレーザ光を物体に照射する際、その物体をステレオカメラ2で撮像する位置とは異なる位置に置くようにしてもよい。つまり、レーザ光源21は、ステレオカメラ2で撮像する位置とは異なる位置に置かれた物体に対し、レーザ光を照射する構成であってもよい。
レーザ光検出器22は、物体で反射または物体を透過したレーザ光を受光して受光量に応じた電気信号を出力する。レーザ光検出器22により物体で反射したレーザ光を検出する場合は、レーザ光源21から物体に照射されたレーザ光の正反射光を受光する位置にレーザ光検出器22が配置される。また、レーザ光検出器22により物体を透過したレーザ光を検出する場合は、物体を挟んでレーザ光源21と対向する位置にレーザ光検出器22が配置される。レーザ光検出器22が出力する電気信号、すなわち物体で反射したレーザ光の光量または物体を透過したレーザ光の光量を示す信号は、情報処理装置4に入力される。
本変形例では、情報処理装置4の物体情報取得部410が、レーザ光検出器22により受光されたレーザ光の光量を、物体情報として取得する。すなわち、物体情報取得部410は、例えば、ピッキングシステム1による物体のピッキング動作が開始される前、あるいはピッキング対象の物体が切り替わった際に、レーザ光源21に対し発光指令を出力するとともに、レーザ光検出器22を動作させる。そして、レーザ光源21から物体にレーザ光が照射されたときにレーザ光検出器22から出力される信号を読み込んで、この信号によって示されるレーザ光の光量(レーザ光検出器22による受光量)を、物体情報として取得する。
物体で反射するレーザ光の光量または物体を透過するレーザ光の光量は、物体の光透過率を反映したものとなっている。つまり、物体の光透過率が低いほど物体で反射するレーザ光の光量が大きくなり、物体を透過するレーザ光の光量は小さくなる。逆に、物体の光透過率が高いほど物体で反射するレーザ光の光量は小さくなり、物体を透過するレーザ光の光量は大きくなる。したがって、レーザ光検出器22により受光されたレーザ光の光量を物体情報として取得することにより、上述した実施形態と同様に、物体の光透過率に応じて最適なパターンを選択することができる。
(第3変形例)
次に、本実施形態の第3変形例を説明する。本変形例は、物体の特性としてサイズ、形状、色のうち少なくともいずれかを反映した物体情報を取得する例である。このような物体情報としては、例えば上述した実施形態と同様に、パターン投光器3から物体情報取得用の光を物体に照射した状態でステレオカメラ2により撮像された物体の輝度画像を用いることができる。物体の輝度画像に対して公知の画像処理技術によりエッジ画像を生成することで、物体のサイズや形状を判定することができる。また、例えばRGBの3チャンネルの輝度画像をもとに、物体の色を判定することができる。
本変形例では、ピッキング対象となり得るすべての物体に対し、最適なパターンのパラメータとなる粒度やコントラストの情報が、各物体のサイズ、形状、色などの特性と対応付けてパターン記憶部430に格納されているものとする。そして、パターン選択部420は、物体の輝度画像などの物体情報から判定される物体のサイズ、形状、色などに対応付けられた粒度やコントラストを持つパターンを、物体に照射するパターンとして選択する。その他の構成は上述した実施形態と同様であるため、以下では上述した実施形態との差分のみを説明する。
図16は、第3変形例の構成を説明するブロック図である。図16に示すように、本変形例では、上述した実施形態のピッキングシステムの構成(図7参照)に対し、情報処理装置4で実現される機能的な構成要素として、物体判定部450が追加されている。
物体判定部450は、物体情報取得部410がステレオカメラ2から物体情報として取得した物体の輝度画像をもとに、例えば上述の方法により、ピッキング対象となる物体のサイズ、形状、色の少なくともいずれかの特性を判定する。物体判定部450による判定の結果は、パターン選択部420に渡される。
本変形例では、情報処理装置4のパターン選択部420が、物体判定部450による判定の結果を用いて、パターン記憶部430が記憶する複数のパターンのうち、ピッキング対象の物体に最適なパターンを選択する。パターン記憶部430には、例えば図17に示すように、ピッキング対象となり得る物体として事前に登録されたすべての物体について、物体を識別するための物体ID、その物体のサイズの情報、形状の情報、色の情報、その物体に最適なパターンの粒度およびコントラストの情報を対応付けたテーブルTbが格納されている。パターン選択部420は、パターン記憶部430に格納されたテーブルTbを参照して物体判定部450により判定された特性を持つ物体を特定し、その物体に対応する粒度やコントラストを持つパターンを、ピッキング対象の物体に最適なパターンとして選択する。
なお、ここでは物体情報としてステレオカメラ2により撮像された物体の輝度画像を例示したが、物体情報取得部410が取得する物体情報は、物体のサイズ、形状、色のうち少なくともいずれかを反映した情報であれよく、物体の輝度画像に限らない。オペレータがピッキング対象の物体の情報を入力できるユーザインターフェースを持つ構成の場合、このオペレータによって入力された情報を物体情報として取得するようにしてもよい。例えば、ピッキング対象となり得る物体として事前に登録された物体の一覧をディスプレイの画面に表示して、その一覧の中から任意の物体を指定するオペレータの操作を受け付け、図17に例示したようなテーブルTbを参照して、オペレータにより指定された物体に対応する粒度やコントラストを持つパターンを、ピッキング対象の物体に最適なパターンとして選択するようにしてもよい。
(補足説明)
上述した実施形態および各変形例において説明した情報処理装置4の機能的な構成要素(物体情報取得部410、パターン選択部420、認識処理部440、物体判定部450など)は、例えば、図6のCPU12がRAM14をワークエリアとして利用して、ROM13やハードディスク装置に格納されたプログラムを実行することにより実現することができる。この場合、上記プログラムは、情報処理装置4にインストール可能な形式または実行可能な形式のファイルでCD−ROM、フレキシブルディスク(FD)、CD−R、DVDなどのコンピュータで読み取り可能な記録媒体に記録して提供される。また、上記プログラムを、インターネットなどのネットワークに接続されたコンピュータ上に格納し、ネットワーク経由で情報処理装置4にダウンロードさせることにより提供するように構成してもよい。さらに、上記プログラムを、インターネットなどのネットワーク経由で提供または配布するように構成してもよい。また、上記プログラムを、例えば情報処理装置4内のROM13などに予め組み込んで提供するようにしてもよい。
また、上述した実施形態および各変形例において説明した情報処理装置4の機能的な構成要素は、その一部または全部を、例えばASIC(Application Specific Integrated Circuit)やFPGAなどの専用のハードウェアを用いて実現することもできる。また、上述した実施形態および各変形例において説明した情報処理装置4の機能的な構成要素は、その一部または全部を、例えばステレオカメラ2やパターン投光器3など、情報処理装置4とは別の装置に設けるようにしてもよい。
以上、本発明の具体的な実施形態について説明したが、上述した実施形態は本発明の一適用例を示したものである。本発明は、上述した実施形態そのままに限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で様々な変形や変更を加えて具体化することができる。例えば、上述した実施形態では、ステレオカメラ2内の2つの撮像部10a,10bにより基準画像撮像部210および比較画像撮像部220を実現する構成を例示したが、視差画像生成部230を有するステレオカメラ2とは別体のカメラをステレオカメラ2に接続し、この別体のカメラにより基準画像撮像部210と比較画像撮像部220の少なくとも一方を実現する構成としてもよい。また、ステレオカメラ2の有する視差画像生成部230の機能は、情報処理装置4やパターン投光器3など、ステレオカメラ2とは別の装置に設けるようにしてもよい。すなわち、視差画像生成部230の機能を有する情報処理装置4に、基準画像撮像部210と比較画像撮像部220が接続される構成としてもよい。
1 ピッキングシステム
2 ステレオカメラ
3 パターン投光器
4 情報処理装置
5 アーム制御装置
20 光検出器
21 レーザ光源
22 レーザ光検出器
210 基準画像撮像部
220 比較画像撮像部
230 視差画像生成部
410 物体情報取得部
420 パターン選択部
430 パターン記憶部
440 認識処理部
450 物体判定部
特開2001−91232号公報

Claims (13)

  1. 物体の特性を反映した物体情報を取得する取得手段と、
    予め定められた複数のパターンのうち、前記取得手段により取得された前記物体情報に対応するパターンを選択する選択手段と、
    前記選択手段により選択されたパターンを前記物体に照射するパターン照射手段と、
    パターンが照射された前記物体を撮像する2以上の撮像手段と、
    前記2以上の撮像手段により撮像された2以上の撮像画像から視差画像を生成する生成手段と、を備える視差画像生成システム。
  2. 前記取得手段は、前記物体の特性として光透過率を反映した前記物体情報を取得する、請求項1に記載の視差画像生成システム。
  3. 前記選択手段は、光透過率を反映した前記物体情報の評価値が閾値よりも高いときは、前記閾値以下のときと比べて粒度が粗いパターンを選択する、請求項2に記載の視差画像生成システム。
  4. 前記選択手段は、光透過率を反映した前記物体情報の評価値が閾値よりも高いときは、前記閾値以下のときと比べてコントラストが高いパターンを選択する、請求項2または3に記載の視差画像生成システム。
  5. 前記パターン照射手段は、前記選択手段により選択されたパターンを前記物体に照射する前に、物体情報取得用の光を前記物体に照射し、
    前記取得手段は、前記撮像手段により撮像された、前記物体情報取得用の光が照射された前記物体の撮像画像を前記物体情報として取得する、請求項1乃至4のいずれか一項に記載の視差画像生成システム。
  6. 前記パターン照射手段は、前記選択手段により選択されたパターンを前記物体に照射する前に、物体情報取得用の光を前記物体に照射し、
    前記物体情報取得用の光が照射された前記物体の反射光または透過光を受光する受光手段をさらに備え、
    前記取得手段は、前記受光手段により受光された前記物体の反射光または透過光の光量を前記物体情報として取得する、請求項1乃至4のいずれか一項に記載の視差画像生成システム。
  7. 前記物体にレーザ光を照射するレーザ照射手段と、
    前記物体で反射または前記物体を透過した前記レーザ光を受光するレーザ受光手段と、をさらに備え、
    前記取得手段は、前記レーザ受光手段により受光された前記レーザ光の光量を、前記物体情報として取得する、請求項1乃至4のいずれか一項に記載の視差画像生成システム。
  8. 前記取得手段は、前記物体の特性としてサイズ、形状、色のうち少なくともいずれかを反映した前記物体情報を取得する、請求項1に記載の視差画像生成システム。
  9. 前記パターン照射手段は、前記選択手段により選択されたパターンを前記物体に照射する前に、物体情報取得用の光を前記物体に照射し、
    前記取得手段は、前記撮像手段により撮像された、前記物体情報取得用の光が照射された前記物体の撮像画像を、前記物体のサイズ、形状、色のうち少なくともいずれかを反映した前記物体情報として取得する、請求項8に記載の視差画像生成システム。
  10. 請求項1乃至9のいずれか一項に記載の視差画像生成システムと、
    前記視差画像生成システムにより生成された視差画像に基づいて前記物体を認識する認識手段と、
    前記認識手段の出力に基づいて前記物体のピッキングを行うピッキング手段と、を備えるピッキングシステム。
  11. 物体の特性を反映した物体情報を取得する工程と、
    予め定められた複数のパターンのうち、取得した前記物体情報に対応するパターンを選択する工程と、
    選択したパターンを前記物体に照射する工程と、
    パターンが照射された前記物体を2以上の撮像手段により撮像する工程と、
    前記2以上の撮像手段により撮像された2以上の撮像画像から視差画像を生成する工程と、を含む視差画像生成方法。
  12. 物体にパターンを照射し、パターンが照射された前記物体を2以上の撮像手段により撮像して、2以上の撮像画像から視差画像を生成する視差画像生成システムが備える情報処理装置に、
    前記物体の特性を反映した物体情報を取得する機能と、
    予め定められた複数のパターンのうち、取得した前記物体情報に対応するパターンを、前記物体に照射するパターンとして選択する機能と、を実現させるためのプログラム。
  13. 物体の特性を反映した物体情報を取得する取得手段と、
    予め定められた複数のパターンのうち、前記取得手段により取得された前記物体情報に対応するパターンを選択する選択手段と、
    前記選択手段により選択されたパターンが照射された前記物体を撮像する2以上の撮像手段と、
    前記2以上の撮像手段により撮像された2以上の撮像画像から視差画像を生成する生成手段と、を備える視差画像生成システム。
JP2015035850A 2015-02-25 2015-02-25 視差画像生成システム、ピッキングシステム、視差画像生成方法およびプログラム Expired - Fee Related JP6500493B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2015035850A JP6500493B2 (ja) 2015-02-25 2015-02-25 視差画像生成システム、ピッキングシステム、視差画像生成方法およびプログラム
EP16156159.2A EP3062516B1 (en) 2015-02-25 2016-02-17 Parallax image generation system, picking system, parallax image generation method, and computer-readable recording medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015035850A JP6500493B2 (ja) 2015-02-25 2015-02-25 視差画像生成システム、ピッキングシステム、視差画像生成方法およびプログラム

Publications (2)

Publication Number Publication Date
JP2016156750A true JP2016156750A (ja) 2016-09-01
JP6500493B2 JP6500493B2 (ja) 2019-04-17

Family

ID=55411242

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015035850A Expired - Fee Related JP6500493B2 (ja) 2015-02-25 2015-02-25 視差画像生成システム、ピッキングシステム、視差画像生成方法およびプログラム

Country Status (2)

Country Link
EP (1) EP3062516B1 (ja)
JP (1) JP6500493B2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020149162A (ja) * 2019-03-11 2020-09-17 富士通株式会社 情報処理装置、画像処理プログラム及び画像処理方法
JP2022105771A (ja) * 2017-12-22 2022-07-14 株式会社デンソー 距離測定装置

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20120236288A1 (en) * 2009-12-08 2012-09-20 Qinetiq Limited Range Based Sensing
JP2012247364A (ja) * 2011-05-30 2012-12-13 Panasonic Corp ステレオカメラ装置、ステレオカメラシステム、プログラム
JP2014225220A (ja) * 2013-02-18 2014-12-04 株式会社リコー 移動面情報検出装置、及びこれを用いた移動体機器制御システム並びに移動面情報検出用プログラム
JP2015222220A (ja) * 2014-05-23 2015-12-10 セイコーエプソン株式会社 制御装置、ロボット、及び制御方法

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001091232A (ja) 1999-09-24 2001-04-06 Sony Corp 3次元形状計測装置および方法、並びに記録媒体
US9769461B2 (en) * 2013-07-16 2017-09-19 Texas Instruments Incorporated Adaptive structured light patterns

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20120236288A1 (en) * 2009-12-08 2012-09-20 Qinetiq Limited Range Based Sensing
JP2012247364A (ja) * 2011-05-30 2012-12-13 Panasonic Corp ステレオカメラ装置、ステレオカメラシステム、プログラム
JP2014225220A (ja) * 2013-02-18 2014-12-04 株式会社リコー 移動面情報検出装置、及びこれを用いた移動体機器制御システム並びに移動面情報検出用プログラム
JP2015222220A (ja) * 2014-05-23 2015-12-10 セイコーエプソン株式会社 制御装置、ロボット、及び制御方法

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2022105771A (ja) * 2017-12-22 2022-07-14 株式会社デンソー 距離測定装置
JP7347585B2 (ja) 2017-12-22 2023-09-20 株式会社デンソー 距離測定装置
JP2020149162A (ja) * 2019-03-11 2020-09-17 富士通株式会社 情報処理装置、画像処理プログラム及び画像処理方法

Also Published As

Publication number Publication date
EP3062516A1 (en) 2016-08-31
EP3062516B1 (en) 2018-09-26
JP6500493B2 (ja) 2019-04-17

Similar Documents

Publication Publication Date Title
JP6184289B2 (ja) 三次元画像処理装置、三次元画像処理方法、三次元画像処理プログラム及びコンピュータで読み取り可能な記録媒体並びに記録した機器
US9659379B2 (en) Information processing system and information processing method
JP5342413B2 (ja) 画像処理方法
JP6435661B2 (ja) 物体識別システム、情報処理装置、情報処理方法及びプログラム
JP6214036B2 (ja) 硬貨識別装置及び硬貨識別方法
JP2016075658A (ja) 情報処理システムおよび情報処理方法
JP7093915B2 (ja) 表面形状測定方法
JP6585793B2 (ja) 検査装置、検査方法およびプログラム
JP6405124B2 (ja) 検査装置、検査方法およびプログラム
US10853935B2 (en) Image processing system, computer readable recording medium, and image processing method
JP2007508557A (ja) 三次元物体を走査するための装置
JP6500493B2 (ja) 視差画像生成システム、ピッキングシステム、視差画像生成方法およびプログラム
JP5336325B2 (ja) 画像処理方法
JP2011064617A (ja) 三次元情報計測装置および三次元情報計測方法
JP6554832B2 (ja) ピッキングシステムおよびピッキング方法
JP2020038215A (ja) 検査装置およびその制御方法
JP2019045510A (ja) 検査装置
US10091404B2 (en) Illumination apparatus, imaging system, and illumination method
JP2011133360A (ja) 距離計測装置、距離計測方法、及びプログラム
KR101465996B1 (ko) 선택적 큰 주기를 이용한 고속 3차원 형상 측정 방법
JP7028814B2 (ja) 外形認識装置、外形認識システム及び外形認識方法
JP6939501B2 (ja) 画像処理システム、画像処理プログラム、および画像処理方法
JP2021063700A (ja) 三次元計測装置、コンピュータプログラム、制御システム及び物品の製造方法
JP5981353B2 (ja) 3次元計測装置
JP2020064034A (ja) 計測装置、その校正方法、およびプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180119

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20181122

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20181211

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20181228

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190219

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190304

R151 Written notification of patent or utility model registration

Ref document number: 6500493

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees