JP2016156750A - 視差画像生成システム、ピッキングシステム、視差画像生成方法およびプログラム - Google Patents
視差画像生成システム、ピッキングシステム、視差画像生成方法およびプログラム Download PDFInfo
- Publication number
- JP2016156750A JP2016156750A JP2015035850A JP2015035850A JP2016156750A JP 2016156750 A JP2016156750 A JP 2016156750A JP 2015035850 A JP2015035850 A JP 2015035850A JP 2015035850 A JP2015035850 A JP 2015035850A JP 2016156750 A JP2016156750 A JP 2016156750A
- Authority
- JP
- Japan
- Prior art keywords
- pattern
- parallax image
- object information
- parallax
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B11/00—Measuring arrangements characterised by the use of optical techniques
- G01B11/24—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
- G01B11/25—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
- G01B11/2545—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object with one projection direction and several detection directions, e.g. stereo
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/521—Depth or shape recovery from laser ranging, e.g. using interferometry; from the projection of structured light
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/254—Image signal generators using stereoscopic image cameras in combination with electromagnetic radiation sources for illuminating objects
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Electromagnetism (AREA)
- Optics & Photonics (AREA)
- Theoretical Computer Science (AREA)
- Length Measuring Devices By Optical Means (AREA)
- Processing Or Creating Images (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
- Measurement Of Optical Distance (AREA)
Abstract
【解決手段】物体の特性を反映した物体情報を取得する物体情報取得部410と、予め定められた複数のパターンのうち、物体情報取得部410により取得された物体情報に対応するパターンを選択するパターン選択部420と、パターン選択部420により選択されたパターンを物体に照射するパターン投光器3と、パターンが照射された物体を撮像する基準画像撮像部210および比較画像撮像部220と、基準画像撮像部210および比較画像撮像部220により撮像された撮像画像から視差画像を生成する視差画像生成部230と、を備える。
【選択図】図7
Description
まず、本実施形態において適用される測距の原理について、図1を参照して説明する。図1は、ステレオカメラを用いて物体までの距離を算出する原理を説明する図である。ここでは、ステレオマッチング処理によりステレオカメラにおける物体に対する視差値を求め、この視差値によって、ステレオカメラから物体までの距離を測定する。なお、以下では、説明を簡略化するため、複数の画素からなる所定領域のマッチングではなく、画素単位のマッチングを行うものとして説明する。
dp=X−x ・・・(1)
Z=(B×f)/dp ・・・(2)
この式(2)から分かるように、視差値dpが大きいほど距離Zは小さく、視差値dpが小さいほど距離Zは大きくなる。
次に、基準画像Iaに対して比較画像Ibにおける対応画素を求めるステレオマッチング処理の概要について説明する。ここで、対応画素とは、基準画像Iaにおける画素(以下、「基準画素」と呼ぶ。)に最も類似する比較画像Ib内の画素のことをいう。ステレオマッチング処理では、比較画像Ibにおける対応画素の候補について、それぞれ基準画素に対する非類似度を表すコスト値Cを算出し、コスト値Cが最小値となる候補を対応画素として求める。基準画素に対応する対応画素が一意に求まれば、例えば上記式(1)により、その画素について信頼性の高い視差値dpを算出することができる。視差画像は、基準画素を視差値dpで表した画像である。したがって、信頼性の高い視差値dp(有効視差)を算出できた基準画素の数(有効視差点数)が多いほど、精度のよい視差画像となる。なお、有効視差を算出できない基準画素については、例えば視差値dpを「0」として視差画像が構成される。
次に、本発明に係る視差画像生成システムを適用した具体的なシステムの一例として、製品の組み立て工場などにおいて、前工程から搬送された部品や半完成品、完成品などの物体を自動認識し、ロボットアームを用いて物体のピッキングを行うピッキングシステムについて説明する。このピッキングシステムでは、例えば、搬送用トレイ内に平置き、あるいはバラ積みされた状態で、ベルトコンベアなどにより前工程から搬送された物体を被写体としてステレオカメラによる撮像を行って視差画像を生成し、この視差画像をもとに物体の三次元の位置を認識してピッキング(物体を掴む(拾う)動作)を行う。このピッキングシステムは、ピッキング対象となる物体の特性に合った最適なパターンを物体に照射してステレオカメラによる撮像を行うことで、精度のよい視差画像を短時間で生成することができ、ピッキング動作のタクトタイムを短縮することができる。
図5は、本実施形態のピッキングシステム1の概略構成図である。このピッキングシステム1は、図5に示すように、ステレオカメラ2と、パターン投光器3(パターン照射手段の一例)と、情報処理装置4と、アーム制御装置5(ピッキング手段の一例)とを備える。
図6は、本実施形態のピッキングシステム1のハードウェア構成例を示すブロック図である。図6に示すように、ステレオカメラ2は、2つの撮像部10a,10bと、FPGA(Field−Programmable Gate Array)11とを備える。FPGA11には、2つの撮像部10a,10bによる撮像画像から視差画像を生成するためのプログラムが実装されている。
図7は、ステレオカメラ2および情報処理装置4の機能的な構成例を示すブロック図である。図7に示すように、ステレオカメラ2は、上述した2つの撮像部10a,10bにより実現される基準画像撮像部210(第1の撮像手段)および比較画像撮像部220(第2の撮像手段)と、上述したFPGA11により実現される視差画像生成部230(生成手段)とを備える。また、情報処理装置4は、例えば上述したCPU12がプログラムを実行することにより実現される機能的な構成要素として、物体情報取得部410(取得手段)と、パターン選択部420(選択手段)と、認識処理部440(認識手段)とを備える。また、情報処理装置4は、ROM13やハードディスク装置により実現されるパターン記憶部430を備える。
次に、本実施形態のピッキングシステム1の動作について、図13を参照して説明する。図13は、ピッキングシステム1による動作の流れを説明するフローチャートである。
次に、本実施形態の第1変形例を説明する。本変形例は、物体情報取得用の光が照射された物体の反射光または透過光を受光する光検出器を別途設け、この光検出器が受光した光量を物体情報として取得する例である。その他の構成は上述した実施形態と同様であるため、以下では上述した実施形態との差分のみを説明する。
次に、本実施形態の第2変形例を説明する。本変形例は、ピッキング対象となる物体に検査用のレーザ光を照射するレーザ光源と、物体で反射または物体を透過したレーザ光を受光するレーザ光検出器を別途設け、レーザ光検出器が受光したレーザ光の光量を物体情報として取得する例である。その他の構成は上述した実施形態と同様であるため、以下では上述した実施形態との差分のみを説明する。
次に、本実施形態の第3変形例を説明する。本変形例は、物体の特性としてサイズ、形状、色のうち少なくともいずれかを反映した物体情報を取得する例である。このような物体情報としては、例えば上述した実施形態と同様に、パターン投光器3から物体情報取得用の光を物体に照射した状態でステレオカメラ2により撮像された物体の輝度画像を用いることができる。物体の輝度画像に対して公知の画像処理技術によりエッジ画像を生成することで、物体のサイズや形状を判定することができる。また、例えばRGBの3チャンネルの輝度画像をもとに、物体の色を判定することができる。
上述した実施形態および各変形例において説明した情報処理装置4の機能的な構成要素(物体情報取得部410、パターン選択部420、認識処理部440、物体判定部450など)は、例えば、図6のCPU12がRAM14をワークエリアとして利用して、ROM13やハードディスク装置に格納されたプログラムを実行することにより実現することができる。この場合、上記プログラムは、情報処理装置4にインストール可能な形式または実行可能な形式のファイルでCD−ROM、フレキシブルディスク(FD)、CD−R、DVDなどのコンピュータで読み取り可能な記録媒体に記録して提供される。また、上記プログラムを、インターネットなどのネットワークに接続されたコンピュータ上に格納し、ネットワーク経由で情報処理装置4にダウンロードさせることにより提供するように構成してもよい。さらに、上記プログラムを、インターネットなどのネットワーク経由で提供または配布するように構成してもよい。また、上記プログラムを、例えば情報処理装置4内のROM13などに予め組み込んで提供するようにしてもよい。
2 ステレオカメラ
3 パターン投光器
4 情報処理装置
5 アーム制御装置
20 光検出器
21 レーザ光源
22 レーザ光検出器
210 基準画像撮像部
220 比較画像撮像部
230 視差画像生成部
410 物体情報取得部
420 パターン選択部
430 パターン記憶部
440 認識処理部
450 物体判定部
Claims (13)
- 物体の特性を反映した物体情報を取得する取得手段と、
予め定められた複数のパターンのうち、前記取得手段により取得された前記物体情報に対応するパターンを選択する選択手段と、
前記選択手段により選択されたパターンを前記物体に照射するパターン照射手段と、
パターンが照射された前記物体を撮像する2以上の撮像手段と、
前記2以上の撮像手段により撮像された2以上の撮像画像から視差画像を生成する生成手段と、を備える視差画像生成システム。 - 前記取得手段は、前記物体の特性として光透過率を反映した前記物体情報を取得する、請求項1に記載の視差画像生成システム。
- 前記選択手段は、光透過率を反映した前記物体情報の評価値が閾値よりも高いときは、前記閾値以下のときと比べて粒度が粗いパターンを選択する、請求項2に記載の視差画像生成システム。
- 前記選択手段は、光透過率を反映した前記物体情報の評価値が閾値よりも高いときは、前記閾値以下のときと比べてコントラストが高いパターンを選択する、請求項2または3に記載の視差画像生成システム。
- 前記パターン照射手段は、前記選択手段により選択されたパターンを前記物体に照射する前に、物体情報取得用の光を前記物体に照射し、
前記取得手段は、前記撮像手段により撮像された、前記物体情報取得用の光が照射された前記物体の撮像画像を前記物体情報として取得する、請求項1乃至4のいずれか一項に記載の視差画像生成システム。 - 前記パターン照射手段は、前記選択手段により選択されたパターンを前記物体に照射する前に、物体情報取得用の光を前記物体に照射し、
前記物体情報取得用の光が照射された前記物体の反射光または透過光を受光する受光手段をさらに備え、
前記取得手段は、前記受光手段により受光された前記物体の反射光または透過光の光量を前記物体情報として取得する、請求項1乃至4のいずれか一項に記載の視差画像生成システム。 - 前記物体にレーザ光を照射するレーザ照射手段と、
前記物体で反射または前記物体を透過した前記レーザ光を受光するレーザ受光手段と、をさらに備え、
前記取得手段は、前記レーザ受光手段により受光された前記レーザ光の光量を、前記物体情報として取得する、請求項1乃至4のいずれか一項に記載の視差画像生成システム。 - 前記取得手段は、前記物体の特性としてサイズ、形状、色のうち少なくともいずれかを反映した前記物体情報を取得する、請求項1に記載の視差画像生成システム。
- 前記パターン照射手段は、前記選択手段により選択されたパターンを前記物体に照射する前に、物体情報取得用の光を前記物体に照射し、
前記取得手段は、前記撮像手段により撮像された、前記物体情報取得用の光が照射された前記物体の撮像画像を、前記物体のサイズ、形状、色のうち少なくともいずれかを反映した前記物体情報として取得する、請求項8に記載の視差画像生成システム。 - 請求項1乃至9のいずれか一項に記載の視差画像生成システムと、
前記視差画像生成システムにより生成された視差画像に基づいて前記物体を認識する認識手段と、
前記認識手段の出力に基づいて前記物体のピッキングを行うピッキング手段と、を備えるピッキングシステム。 - 物体の特性を反映した物体情報を取得する工程と、
予め定められた複数のパターンのうち、取得した前記物体情報に対応するパターンを選択する工程と、
選択したパターンを前記物体に照射する工程と、
パターンが照射された前記物体を2以上の撮像手段により撮像する工程と、
前記2以上の撮像手段により撮像された2以上の撮像画像から視差画像を生成する工程と、を含む視差画像生成方法。 - 物体にパターンを照射し、パターンが照射された前記物体を2以上の撮像手段により撮像して、2以上の撮像画像から視差画像を生成する視差画像生成システムが備える情報処理装置に、
前記物体の特性を反映した物体情報を取得する機能と、
予め定められた複数のパターンのうち、取得した前記物体情報に対応するパターンを、前記物体に照射するパターンとして選択する機能と、を実現させるためのプログラム。 - 物体の特性を反映した物体情報を取得する取得手段と、
予め定められた複数のパターンのうち、前記取得手段により取得された前記物体情報に対応するパターンを選択する選択手段と、
前記選択手段により選択されたパターンが照射された前記物体を撮像する2以上の撮像手段と、
前記2以上の撮像手段により撮像された2以上の撮像画像から視差画像を生成する生成手段と、を備える視差画像生成システム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015035850A JP6500493B2 (ja) | 2015-02-25 | 2015-02-25 | 視差画像生成システム、ピッキングシステム、視差画像生成方法およびプログラム |
EP16156159.2A EP3062516B1 (en) | 2015-02-25 | 2016-02-17 | Parallax image generation system, picking system, parallax image generation method, and computer-readable recording medium |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015035850A JP6500493B2 (ja) | 2015-02-25 | 2015-02-25 | 視差画像生成システム、ピッキングシステム、視差画像生成方法およびプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2016156750A true JP2016156750A (ja) | 2016-09-01 |
JP6500493B2 JP6500493B2 (ja) | 2019-04-17 |
Family
ID=55411242
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015035850A Expired - Fee Related JP6500493B2 (ja) | 2015-02-25 | 2015-02-25 | 視差画像生成システム、ピッキングシステム、視差画像生成方法およびプログラム |
Country Status (2)
Country | Link |
---|---|
EP (1) | EP3062516B1 (ja) |
JP (1) | JP6500493B2 (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2020149162A (ja) * | 2019-03-11 | 2020-09-17 | 富士通株式会社 | 情報処理装置、画像処理プログラム及び画像処理方法 |
JP2022105771A (ja) * | 2017-12-22 | 2022-07-14 | 株式会社デンソー | 距離測定装置 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20120236288A1 (en) * | 2009-12-08 | 2012-09-20 | Qinetiq Limited | Range Based Sensing |
JP2012247364A (ja) * | 2011-05-30 | 2012-12-13 | Panasonic Corp | ステレオカメラ装置、ステレオカメラシステム、プログラム |
JP2014225220A (ja) * | 2013-02-18 | 2014-12-04 | 株式会社リコー | 移動面情報検出装置、及びこれを用いた移動体機器制御システム並びに移動面情報検出用プログラム |
JP2015222220A (ja) * | 2014-05-23 | 2015-12-10 | セイコーエプソン株式会社 | 制御装置、ロボット、及び制御方法 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2001091232A (ja) | 1999-09-24 | 2001-04-06 | Sony Corp | 3次元形状計測装置および方法、並びに記録媒体 |
US9769461B2 (en) * | 2013-07-16 | 2017-09-19 | Texas Instruments Incorporated | Adaptive structured light patterns |
-
2015
- 2015-02-25 JP JP2015035850A patent/JP6500493B2/ja not_active Expired - Fee Related
-
2016
- 2016-02-17 EP EP16156159.2A patent/EP3062516B1/en not_active Not-in-force
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20120236288A1 (en) * | 2009-12-08 | 2012-09-20 | Qinetiq Limited | Range Based Sensing |
JP2012247364A (ja) * | 2011-05-30 | 2012-12-13 | Panasonic Corp | ステレオカメラ装置、ステレオカメラシステム、プログラム |
JP2014225220A (ja) * | 2013-02-18 | 2014-12-04 | 株式会社リコー | 移動面情報検出装置、及びこれを用いた移動体機器制御システム並びに移動面情報検出用プログラム |
JP2015222220A (ja) * | 2014-05-23 | 2015-12-10 | セイコーエプソン株式会社 | 制御装置、ロボット、及び制御方法 |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2022105771A (ja) * | 2017-12-22 | 2022-07-14 | 株式会社デンソー | 距離測定装置 |
JP7347585B2 (ja) | 2017-12-22 | 2023-09-20 | 株式会社デンソー | 距離測定装置 |
JP2020149162A (ja) * | 2019-03-11 | 2020-09-17 | 富士通株式会社 | 情報処理装置、画像処理プログラム及び画像処理方法 |
Also Published As
Publication number | Publication date |
---|---|
EP3062516A1 (en) | 2016-08-31 |
EP3062516B1 (en) | 2018-09-26 |
JP6500493B2 (ja) | 2019-04-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6184289B2 (ja) | 三次元画像処理装置、三次元画像処理方法、三次元画像処理プログラム及びコンピュータで読み取り可能な記録媒体並びに記録した機器 | |
US9659379B2 (en) | Information processing system and information processing method | |
JP5342413B2 (ja) | 画像処理方法 | |
JP6435661B2 (ja) | 物体識別システム、情報処理装置、情報処理方法及びプログラム | |
JP6214036B2 (ja) | 硬貨識別装置及び硬貨識別方法 | |
JP2016075658A (ja) | 情報処理システムおよび情報処理方法 | |
JP7093915B2 (ja) | 表面形状測定方法 | |
JP6585793B2 (ja) | 検査装置、検査方法およびプログラム | |
JP6405124B2 (ja) | 検査装置、検査方法およびプログラム | |
US10853935B2 (en) | Image processing system, computer readable recording medium, and image processing method | |
JP2007508557A (ja) | 三次元物体を走査するための装置 | |
JP6500493B2 (ja) | 視差画像生成システム、ピッキングシステム、視差画像生成方法およびプログラム | |
JP5336325B2 (ja) | 画像処理方法 | |
JP2011064617A (ja) | 三次元情報計測装置および三次元情報計測方法 | |
JP6554832B2 (ja) | ピッキングシステムおよびピッキング方法 | |
JP2020038215A (ja) | 検査装置およびその制御方法 | |
JP2019045510A (ja) | 検査装置 | |
US10091404B2 (en) | Illumination apparatus, imaging system, and illumination method | |
JP2011133360A (ja) | 距離計測装置、距離計測方法、及びプログラム | |
KR101465996B1 (ko) | 선택적 큰 주기를 이용한 고속 3차원 형상 측정 방법 | |
JP7028814B2 (ja) | 外形認識装置、外形認識システム及び外形認識方法 | |
JP6939501B2 (ja) | 画像処理システム、画像処理プログラム、および画像処理方法 | |
JP2021063700A (ja) | 三次元計測装置、コンピュータプログラム、制御システム及び物品の製造方法 | |
JP5981353B2 (ja) | 3次元計測装置 | |
JP2020064034A (ja) | 計測装置、その校正方法、およびプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180119 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20181122 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20181211 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20181228 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20190219 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20190304 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6500493 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
LAPS | Cancellation because of no payment of annual fees |