JP2020139767A - 3次元撮影装置および3次元撮影条件調整方法 - Google Patents

3次元撮影装置および3次元撮影条件調整方法 Download PDF

Info

Publication number
JP2020139767A
JP2020139767A JP2019033607A JP2019033607A JP2020139767A JP 2020139767 A JP2020139767 A JP 2020139767A JP 2019033607 A JP2019033607 A JP 2019033607A JP 2019033607 A JP2019033607 A JP 2019033607A JP 2020139767 A JP2020139767 A JP 2020139767A
Authority
JP
Japan
Prior art keywords
exposure condition
distance image
additional
exposure
distance
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019033607A
Other languages
English (en)
Other versions
JP6959277B2 (ja
Inventor
順一郎 吉田
Junichiro Yoshida
順一郎 吉田
象太 滝澤
Shota Takizawa
象太 滝澤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fanuc Corp
Original Assignee
Fanuc Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fanuc Corp filed Critical Fanuc Corp
Priority to JP2019033607A priority Critical patent/JP6959277B2/ja
Priority to US16/778,070 priority patent/US11398045B2/en
Priority to DE102020104137.3A priority patent/DE102020104137A1/de
Priority to CN202010102514.3A priority patent/CN111629153B/zh
Publication of JP2020139767A publication Critical patent/JP2020139767A/ja
Application granted granted Critical
Publication of JP6959277B2 publication Critical patent/JP6959277B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/239Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C11/00Photogrammetry or videogrammetry, e.g. stereogrammetry; Photographic surveying
    • G01C11/02Picture taking arrangements specially adapted for photogrammetry or photographic surveying, e.g. controlling overlapping of pictures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/521Depth or shape recovery from laser ranging, e.g. using interferometry; from the projection of structured light
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • G06T7/593Depth or shape recovery from multiple images from stereo images
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/254Image signal generators using stereoscopic image cameras in combination with electromagnetic radiation sources for illuminating objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/296Synchronisation thereof; Control thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/73Circuitry for compensating brightness variation in the scene by influencing the exposure time
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image
    • G06T2207/10012Stereo images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10028Range image; Depth image; 3D point clouds
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10141Special mode during image acquisition
    • G06T2207/10144Varying exposure
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N2013/0074Stereoscopic image analysis
    • H04N2013/0081Depth or disparity estimation from stereoscopic image signals

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • Optics & Photonics (AREA)
  • Electromagnetism (AREA)
  • Remote Sensing (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Measurement Of Optical Distance (AREA)
  • Studio Devices (AREA)
  • Image Processing (AREA)

Abstract

【課題】計測対象物の撮影にかかる時間を低減しつつ、無効画素を十分に低減した距離画像を取得する3次元撮影装置を提供する。
【解決手段】露光条件を切り替えて距離画像を取得可能な距離画像取得部2と、取得された距離画像において距離値を有する有効画素の数である有効画素数を算出する有効画素数算出部10と、距離画像の有効画素以外の無効画素を特定する無効画素特定部11と、計測対象物の距離画像の取得に使用される露光条件を設定する露光条件調整部12とを備え、露光条件調整部が、基準露光条件を設定し、取得された基準距離画像の基準有効画素数を算出する。基準有効画素数が第1閾値以下である場合に、設定された露光条件と異なる追加露光条件にて追加距離画像を取得する。追加距離画像と基準距離画像との論理和である合計距離画像を作成し、合計有効画素数が第1閾値よりも大きくなるまで、新たな露光条件の追加設定を繰り返す。
【選択図】図1

Description

本発明は、3次元撮影装置および3次元撮影条件調整方法に関するものである。
複数の距離画像間で対応する画素の複数の距離値を合成した距離値を、合成距離画像の画素の距離とする距離画像生成装置が知られている(例えば、特許文献1参照。)。
距離画像生成装置の制御部は、撮像フレーム毎に変化させる撮影条件に合わせて、発光部および受光センサを制御して画像取得処理をする。撮影条件は、発光部の発光量、受光センサの露光時間などで構成される。
特開2017−181488号公報
計測対象物を3次元カメラで計測する場合に、計測対象物の表面における反射光によるハレーション等により、距離を計算できない無効画素が発生する。このような無効画素の数を極力低減するためには、撮影条件を変化させて複数回撮影し、取得された複数の距離画像を合成することが行われる。
しかしながら、無効画素を所望の割合以下に低減した距離画像を取得するための撮影条件の調整には多大な時間を要する。また、より多くの距離画像を合成することにより無効画素を十分に低減し得るが、必要のない距離画像を取得する可能性が高くなる。したがって、計測対象物の撮影にかかる時間を低減しつつ、無効画素を十分に低減した距離画像を取得することが望まれている。
本開示の一態様は、露光条件を切り替えて距離画像を取得可能な距離画像取得部と、取得された前記距離画像において距離値を有する有効画素の数である有効画素数を算出する有効画素数算出部と、前記距離画像の前記有効画素以外の無効画素を特定する無効画素特定部と、計測対象物の前記距離画像の取得に使用される前記露光条件を設定する露光条件調整部とを備え、該露光条件調整部が、基準となる前記露光条件である基準露光条件を設定し、該基準露光条件において取得された基準距離画像の前記有効画素数である基準有効画素数が第1閾値以下であるか否かを判定し、前記基準有効画素数が前記第1閾値以下である場合に、既に設定された前記露光条件とは異なる追加露光条件であって、該追加露光条件において取得された追加距離画像と前記基準距離画像との論理和である合計距離画像の前記有効画素数である合計有効画素数が最大となる追加露光条件を追加設定し、前記合計有効画素数が前記第1閾値よりも大きくなるまで、前記合計距離画像を新たな前記基準距離画像として、前記追加露光条件の追加設定を繰り返す3次元撮影装置である。
本開示の第1実施形態に係る3次元撮影装置を示すブロック図である。 図1の3次元撮影装置における視差を説明する図である。 図1の3次元撮影装置における距離画像の生成を説明する図である。 図1の3次元撮影装置による3次元撮影条件調整方法を説明するフローチャートである。 図1の3次元撮影装置による3次元撮影条件調整方法を説明する図4のフローチャートに続くフローチャートである。 第2実施形態に係る3次元撮影装置を示すブロック図である。 図6の3次元撮影装置による3次元撮影条件調整方法を説明するフローチャートである。 図6の3次元撮影装置による3次元撮影条件調整方法を説明する図7のフローチャートに続くフローチャートである。
本開示の第1実施形態に係る3次元撮影装置1および3次元撮影条件調整方法について、図面を参照して以下に説明する。
本実施形態に係る3次元撮影装置1は、図1に示されるように、距離画像を取得する距離画像取得部2と、距離画像取得部2に接続され、取得された距離画像に基づいて撮影条件を調整する撮影条件調整部3と、取得された距離画像を合成する距離画像合成部4とを備えている。
距離画像取得部2は、3次元センサ5と画像処理部6とを備えている。
3次元センサ5は、光軸に交差する方向に間隔をあけて配置され、重複する視野範囲を備える2つの2次元カメラ7,8と、両2次元カメラ7,8の視野範囲に照明光を照射するプロジェクタ9とを備えている。
プロジェクタ9は計測対象物Oの表面にパターンを投影する。
画像処理部6は、プロセッサおよびメモリにより構成され、3次元センサ5から出力された2枚の2次元画像G1,G2を処理して、各画素の距離値を算出することにより距離画像を生成する。
3次元センサ5の2つの2次元カメラ7,8は、図2に示されるように、画像G1,G2の縦方向をx、横方向をyとして、x位置を完全に一致させた相対位置に配置されている。2つの2次元カメラ7,8によって同一の計測対象物Oを撮影すると、画像G1,G2上において、計測対象物Oは、y位置のみが視差dyだけ異なる位置に配置される。
これにより、3次元センサ5から計測対象物Oまでの距離が、視差dyを用いて下式の通りに算出することができる。
距離=2次元カメラ7,8の光軸のy方向間隔×焦点距離/視差dy
画像処理部6においては、2つの2次元カメラ7,8によって同一の計測対象物Oを撮影することにより取得された2枚の2次元画像G1,G2が入力されてくると、これら2枚の2次元画像G1,G2間で対応領域の探索が行われる。
対応領域は、一方の2次元画像G1,G2内の小領域の画像をテンプレートとして、テンプレートと同じパターンの対応領域を他方の2次元画像G1,G2の探索領域から探索するテンプレートマッチングを用いて探索される。
上述したように、2つの2次元画像G1,G2はx位置を完全に一致させた2つの2次元カメラ7,8によって取得されているので、探索領域は、図3に示されるように、テンプレートとなる小領域を含みy方向に延びる領域となる。
本実施形態においては、SAD(Sum of Absolute Difference)を用いて一致度の評価を行う。SADは小領域と対応領域との誤差の絶対値の和である。したがって、探索領域中においてSADが最も小さい領域を対応領域として抽出することができる。
ここでは、SADの閾値を予め設定しておき、探索領域内においてSADが最小となり、かつ、SADが閾値を下回る対応領域のみが距離値を有する対応領域として出力される。一方の2次元画像G1において設定する小領域を縦横に1画素ずつ移動させながら全画素を網羅することにより、画像全体の距離値が算出され、距離画像が生成される。
撮影条件調整部3は、プロセッサおよびメモリにより構成されている。撮影条件調整部3は、画像処理部6において生成された距離画像において距離値を有する有効画素の数である有効画素数を算出する有効画素数算出部10と、距離値を有しない無効画素を特定する無効画素特定部11とを備えている。また、撮影条件調整部3は、計測対象物Oの撮影に使用される露光条件を設定する露光条件調整部12と、設定された露光条件を記憶する露光条件記憶部13とを備えている。
露光条件調整部12は、新規の露光条件を設定する旨の指令を外部から入力されることにより、図4および図5のフローチャートによって示される露光条件調整方法に従って、計測対象物Oの距離画像の取得に使用される露光条件を設定する。
最初に、基準となる露光条件である基準露光条件を設定する。
基準露光条件の設定は、露光条件を切り替えて、各露光条件のもとで、3次元センサ5により距離画像を取得することにより行われる。露光条件としては、プロジェクタ9からの照明光の光量Iを複数段階に切り替えるとともに、2次元カメラ7,8の露光時間Eを複数段階に切り替えて、照明光の光量Iと露光時間Eとの全ての組み合わせからなる複数の露光条件を実現する。
具体的には、露光条件調整部12は、図4に示されるように、3次元センサ5のプロジェクタ9の光量Iを最小値Iに設定し(ステップS1)、2次元カメラ7,8の露光時間Eを最小値Eに設定する(ステップS2)。
設定された露光条件において、距離画像取得部2により距離画像が取得される(ステップS3)。
距離画像取得部2において取得された距離画像は、露光条件調整部12に送られる。露光条件調整部12は、距離画像を有効画素数算出部10に送る。有効画素数算出部10においては、送られてきた距離画像が有効な距離値を有するか否かが画素毎に判定され、有効な距離値を有する有効画素の数である有効画素数が算出される(ステップS4)。
距離画像および算出された有効画素数は露光条件に対応付けられて、露光条件調整部12内に記憶される(ステップS5)。そして、露光条件調整部12は、2次元カメラ7,8の露光時間Eが最大値であるか否かを判定し(ステップS6)、最大値ではない場合には、露光時間Eを1段階(例えば、ΔE=+1%)増大させて(ステップS7)、露光時間Eが最大値となるまで、ステップS3からの工程を繰り返す。
ステップS6において、露光時間Eが最大値となった場合には、プロジェクタ9の光量Iが最大値であるか否かが判定され(ステップS8)、最大値ではない場合には、光量Iを1段階(例えば、ΔI=+1%)増大させて(ステップS9)、光量Iが最大値となるまで、ステップS2からの工程を繰り返す。
これにより、照明光の光量Iと露光時間Eとの全て組み合わせからなる複数の露光条件についての距離画像と有効画素数とが取得され、それぞれ露光時間Eに対応付けられて記憶される。
全ての露光条件に対応する距離画像および有効画素数が取得された時点で、露光条件調整部12は、記憶された露光条件の中で、対応する有効画素数が最も大きな露光条件を抽出し、基準露光条件として露光条件記憶部13に記憶する(ステップS10)。これにより基準露光条件が設定される。
次に、基準露光条件において取得された距離画像である基準距離画像における有効画素数(基準有効画素数)Nsが所定の閾値(第1閾値)Th以下であるか否かが判定される(ステップS11)。
ステップS11において基準有効画素数Nsが閾値Thよりも大きい場合には、露光条件の調整処理が終了する。この場合、計測対象物Oの距離画像を取得する際に使用される露光条件は基準露光条件のみとなる。
ステップS11において基準有効画素数Nsが閾値Th以下である場合には、追加の露光条件の設定が行われる。
追加の露光条件の設定は、具体的には、図5に示されるように、合計有効画素数の初期値NT0をゼロに設定し(ステップS12)、既に設定された露光条件とは異なるいずれかの露光条件を選択する(ステップS13)。そして、選択された露光条件において取得された距離画像と基準距離画像との論理和である合計距離画像を生成する(ステップS14)。その後、生成された合計距離画像を有効画素数算出部10に入力し、合計距離画像の有効画素数(合計有効画素数N)を算出させる(ステップS15)。
合計有効画素数Nが初期値NT0よりも大きいか否かが判定され(ステップS16)、合計有効画素数Nが初期値NT0より大きい場合には、選択された露光条件が一時的に記憶され(ステップS17)、合計有効画素数Nが新たな初期値NT0に置き換えられる(ステップS18)。そして、全ての露光条件が終了したか否かが判定され(ステップS19)、終了していない場合には、ステップS13からの工程が繰り返される。
ステップS16において、合計有効画素数Nが初期値NT0以下である場合には、ステップS19からの工程が実行される。そして、ステップS19において全ての露光条件が終了したと判定された場合には、最終的に記憶されていた露光条件が追加露光条件として露光条件記憶部13に記憶(追加設定)される(ステップS20)。
このとき、追加露光条件において取得された追加距離画像と基準距離画像との論理和である合計距離画像の合計有効画素数Nが最も大きくなる。
さらに、合計有効画素数Nが閾値Th以下であるか否かが判定され(ステップS21)、合計有効画素数Nが閾値Th以下である場合には、合計距離画像が新たな基準距離画像に置き換えられて(ステップS22)、ステップS12からの工程が繰り返される。
そして、ステップS21において、合計有効画素数Nが閾値Thよりも大きい場合には、露光条件の調整処理が終了し、露光条件記憶部13に記憶された基準露光条件を含む2以上の露光条件が、計測対象物Oの距離画像を取得する際に使用される露光条件となる。
露光条件が設定された後には、実際の計測対象物Oの距離画像の取得の指令が入力されると、3次元撮影装置1は、設定された1以上の露光条件において距離画像を取得し、取得された距離画像を距離画像合成部4において合成する。これにより、基準露光条件のみでは距離値を取得できなかった画素を含め、より多くの有効画素を有する合成距離画像を出力することができる。
このように、本実施形態に係る3次元撮影装置1および撮影条件調整方法によれば、計測対象物Oの距離画像を取得する前に、使用する露光条件を設定することができ、その後の計測対象物Oの距離画像を短時間で取得することができる。すなわち、従来、計測対象物Oの距離画像を、露光時間Eを網羅的に切り替えながら計測対象物Oの距離画像を取得していたのと比較して、計測に要する時間を大幅に短縮することができるという利点がある。
なお、本実施形態においては、基準露光条件として、有効画素数Nsが最も大きくなる露光条件を選択したが、これに限定されるものではない。例えば、露光条件を切り替えながら、有効画素数Nsが第2閾値を超えた任意の露光条件を基準露光条件として設定してもよい。第2閾値を適当に設定しておくことにより、全ての露光条件について有効画素数を検出することなく、短時間で基準露光条件を設定することができる。
また、有効画素であるか否かを判定する際に、有効画素である場合には、その画素のSAD値を対応付けて記憶しておいてもよい。そして、距離画像合成部4における合成距離画像の生成に際して、合成しようとする距離画像の有効画素が重複する場合には、より小さいSAD値を有する距離値、すなわち、一致度が高い方の距離値を合成距離画像の画素値として採用することにしてもよい。これにより、より信頼性の高い距離値を有する合成距離画像を取得することができる。
次に、第2実施形態に係る3次元撮影装置21について、図面を参照して以下に説明する。
本実施形態の説明において、上述した第1実施形態に係る3次元撮影装置1と構成を共通とする箇所には同一符号を付して説明を省略する。
本実施形態に係る3次元撮影装置21は、図6に示されるように、距離画像取得部2と、撮影条件調整部22と、距離画像合成部4とを備えている。
距離画像取得部2および距離画像合成部4は第1実施形態と同様である。
撮影条件調整部22は、プロセッサおよびメモリにより構成されている。
撮影条件調整部22は、露光条件調整部12と、露光条件記憶部13と、各露光条件において取得された複数の距離画像における、距離画像から画像処理にて計測対象物Oの位置を認識した際の計測対象物Oの位置のばらつきを露光条件毎に算出する位置精度算出部23とを備えている。
露光条件調整部12は、新規の露光条件を設定する旨の指令を外部から入力されることにより、図7および図8のフローチャートによって示される露光条件調整方法に従って、計測対象物Oの距離画像の取得に使用される露光条件を設定する。
最初に、基準となる露光条件である基準露光条件を設定する。
基準露光条件の設定は、露光条件を切り替えて、各露光条件のもとで、3次元センサ5により距離画像を取得することにより行われる。露光条件としては、プロジェクタ9からの照明光の光量Iを複数段階に切り替えるとともに、2次元カメラ7,8の露光時間を複数段階に切り替えて、照明光の光量Iと露光時間Eとの全ての組み合わせからなる複数の露光条件を実現する。
具体的には、露光条件調整部12は、図7に示されるように、3次元センサ5のプロジェクタ9の光量Iを最小値Iに設定し(ステップSA1)、2次元カメラ7,8の露光時間Eを最小値Eに設定する(ステップSA2)。また、撮影回数Nが初期化される(ステップSA3)。
設定された露光条件において、距離画像取得部2により距離画像が取得される(ステップSA4)。
取得された距離画像は位置精度算出部23に送られて記憶される(ステップSA5)。
撮影回数Nが所定値である所定回数Naに達したか否かが判定され(ステップSA6)、所定回数Naに達していない場合には、撮影回数Nが1回インクリメントされ(ステップSA7)、ステップSA4からの工程が繰り返される。
位置精度算出部23は、所定回数Naの撮影によるNa個の距離画像が送られてきた場合には、これらの距離画像に基づいて距離のばらつき(繰り返し認識精度)を算出する(ステップSA8)。
距離のばらつきは、例えば、以下の通りに算出する。
例えば、予め計測対象物Oの形状をモデルとして登録しておき、距離画像取得部2によって取得した距離画像に対してパターンマッチングを行ってモデルと同じ形状を探索する。探索した結果、認識された計測対象物Oの画像上での位置を一時的に記憶する。Na回の撮像、探索および位置の記憶を繰り返す。そして、記憶したNa個の位置からばらつきを算出する。好ましくは、計測対象物Oの位置(X,Y,R)のそれぞれの成分ごとに標準偏差を計算し、ばらつきの評価を行う。
算出された距離のばらつきは露光条件に対応付けられて、露光条件調整部12内に記憶される(ステップSA9)。そして、露光条件調整部12は、2次元カメラ7,8の露光時間Eが最大値であるか否かを判定し(ステップSA10)、最大値ではない場合には、露光時間Eを1段階(例えば、ΔE=+1%)増大させて(ステップSA11)、露光時間Eが最大値となるまで、ステップSA3からの工程を繰り返す。
ステップSA7において、露光時間Eが最大値となった場合には、プロジェクタ9の光量Iが最大値であるか否かが判定され(ステップSA12)、最大値ではない場合には、光量Iを1段階(例えば、ΔI=+1%)増大させて(ステップSA13)、光量Iが最大値となるまで、ステップSA2からの工程を繰り返す。
これにより、照明光の光量Iと露光時間Eとの全て組み合わせからなる複数の露光条件についての距離画像の距離のばらつきが算出され、それぞれ露光時間Eに対応付けられて記憶される。
全ての露光条件に対応する距離画像および距離のばらつきが取得された時点で、露光条件調整部12は、記憶された露光条件の中で、対応するばらつきが最も小さな露光条件を抽出し、基準露光条件として露光条件記憶部13に記憶する(ステップSA14)。これにより基準露光条件が設定される。
次に、基準露光条件において取得された距離画像である基準距離画像におけるばらつきである基準ばらつきBsが所定の閾値Th以下であるか否かが判定される(ステップSA15)。
ステップSA12において基準ばらつきBsが閾値Th以下である場合には、露光条件の調整処理が終了する。この場合、計測対象物Oの距離画像を取得する際に使用される露光条件は基準露光条件のみとなる。
ステップSA12において基準ばらつきBsが閾値Thよりも大きい場合には、追加の露光条件の設定が行われる。
追加の露光条件の設定は、具体的には、図8に示されるように、ばらつきの初期値BT0を任意の値(例えば、ばらつきの範囲ではありえないような大きな値)Mに設定し(ステップSA16)、既に設定された露光条件とは異なるいずれかの露光条件を選択する(ステップSA17)。そして、選択された露光条件において取得された距離画像と基準距離画像とを合成して合成距離画像を生成する(ステップSA18)。その後、生成された合成距離画像を位置精度算出部23に入力し、合成距離画像のばらつきである合成ばらつきBを算出させる(ステップSA19)。
合成ばらつきBが初期値BT0以下であるか否かが判定され(ステップSA20)、合成ばらつきBが初期値BT0以下である場合には、選択された露光条件が一時的に記憶され(ステップSA21)、合成ばらつきBが新たな初期値BT0として置き換えられる(ステップSA22)。そして、全ての露光条件が終了したか否かが判定され(ステップSA23)、終了していない場合には、ステップSA17からの工程が繰り返される。
ステップSA20において、合成ばらつきBが初期値BT0よりも小さい場合には、ステップSA23からの工程が実行される。そして、ステップSA23において全ての露光条件が終了したと判定された場合には、最終的に記憶されていた露光条件が追加露光条件として露光条件記憶部13に記憶(追加設定)される(ステップSA24)。
さらに、合成ばらつきBが閾値Th以下であるか否かが判定され(ステップSA25)、合成ばらつきBが閾値Thよりも小さい場合には、合成距離画像が新たな基準距離画像に置き換えられて(ステップSA26)、ステップSA16からの工程が繰り返される。
そして、ステップSA25において、合成ばらつきBが閾値Th以下である場合には、露光条件の調整処理が終了し、露光条件記憶部13に記憶された基準露光条件を含む2以上の露光条件が、計測対象物Oの距離画像を取得する際に使用される露光条件となる。
本実施形態に係る3次元撮影装置21および撮影条件調整方法によっても、計測対象物Oの距離画像を取得する前に、使用する露光条件を設定することができ、その後の計測対象物Oの距離画像を短時間で取得することができる。すなわち、従来、計測対象物Oの距離画像を、露光時間Eを網羅的に切り替えながら計測対象物Oの距離画像を取得していたのと比較して、計測に要する時間を大幅に短縮することができるという利点がある。
また、計測対象物Oの位置のばらつきの小さい距離画像を取得可能な露光条件を選択しているので、見つけたいもの、すなわち、計測対象物Oの距離を精度よく測定した距離画像を得ることができる。
なお、本実施形態においては、基準露光条件として、計測対象物Oの位置のばらつきが最も小さくなる露光条件を選択したが、これに限定されるものではない。例えば、露光条件を切り替えながら、ばらつきが所定の閾値未満の任意の露光条件を基準露光条件として設定してもよい。閾値を適当に設定しておくことにより、全ての露光条件についてばらつきを検出することなく、短時間で基準露光条件を設定することができる。
また、距離画像を生成する際に、各画素のSAD値を画素毎に記憶しておいてもよい。そして、距離画像合成部4における合成距離画像の生成に際して、合成しようとする距離画像の有効画素が重複する場合には、より小さいSAD値を有する距離値、すなわち、一致度が高い方の距離値を合成距離画像の画素値として採用することにしてもよい。これにより、より信頼性の高い距離値を有する合成距離画像を取得することができる。
1,21 3次元撮影装置
2 距離画像取得部
4 距離画像合成部
10 有効画素数算出部
11 無効画素特定部
12 露光条件調整部
23 位置精度算出部
Bs 基準ばらつき
合成ばらつき
G1,G2 2次元画像
Ns 有効画素数(基準有効画素数)
合計有効画素数
O 計測対象物
Th 閾値(第1閾値)

Claims (9)

  1. 露光条件を切り替えて距離画像を取得可能な距離画像取得部と、
    取得された前記距離画像において距離値を有する有効画素の数である有効画素数を算出する有効画素数算出部と、
    前記距離画像の前記有効画素以外の無効画素を特定する無効画素特定部と、
    計測対象物の前記距離画像の取得に使用される前記露光条件を設定する露光条件調整部とを備え、
    該露光条件調整部が、
    基準となる前記露光条件である基準露光条件を設定し、
    該基準露光条件において取得された基準距離画像の前記有効画素数である基準有効画素数が第1閾値以下であるか否かを判定し、
    前記基準有効画素数が前記第1閾値以下である場合に、既に設定された前記露光条件とは異なる追加露光条件であって、該追加露光条件において取得された追加距離画像と前記基準距離画像との論理和である合計距離画像の前記有効画素数である合計有効画素数が最大となる追加露光条件を追加設定し、
    前記合計有効画素数が前記第1閾値よりも大きくなるまで、前記合計距離画像を新たな前記基準距離画像として、前記追加露光条件の追加設定を繰り返す3次元撮影装置。
  2. 前記露光条件調整部は、前記露光条件を切り替えて取得された複数の前記距離画像のうち、前記有効画素数が最も大きくなる前記露光条件を前記基準露光条件として設定する請求項1に記載の3次元撮影装置。
  3. 前記露光条件調整部は、前記有効画素数が第2閾値よりも大きくなる前記露光条件を前記基準露光条件として設定する請求項1に記載の3次元撮影装置。
  4. 前記距離画像取得部が、前記露光条件毎に、視差を有する2枚の2次元画像を取得し、該2次元画像間の一致度を画素毎に評価し、該一致度が所定の閾値よりも高い画素に距離値を与えることにより前記距離画像を取得する請求項1から請求項3のいずれかに記載の3次元撮影装置。
  5. 前記基準有効画素数または前記合計有効画素数が前記第1閾値よりも大きくなった場合に、前記露光条件調整部により設定された全ての前記露光条件毎に取得された前記距離画像に基づいて合成距離画像を生成する距離画像合成部を備える請求項4に記載の3次元撮影装置。
  6. 各前記距離画像において、前記有効画素となる画素については前記一致度を対応付けて記憶し、
    前記距離画像合成部が、合成しようとする前記距離画像の前記有効画素が重複する場合には、前記一致度が高い方の距離値を前記合成距離画像の画素値として採用する請求項5に記載の3次元撮影装置。
  7. 露光条件を切り替えて距離画像を取得可能な距離画像取得部と、
    前記露光条件において取得された複数の前記距離画像における前記計測対象物の位置のばらつきを前記露光条件毎に算出する位置精度算出部と、
    計測対象物の前記距離画像の取得に使用される前記露光条件を設定する露光条件調整部とを備え、
    該露光条件調整部が、
    基準となる前記露光条件である基準露光条件を設定し、
    該基準露光条件において取得された基準距離画像における前記計測対象物の位置のばらつきが閾値よりも大きいか否かを判定し、
    前記ばらつきが前記閾値よりも大きい場合に、既に設定された前記露光条件とは異なる追加の追加露光条件であって、該追加露光条件において取得された追加距離画像と前記基準距離画像とを合成して得られた複数の合成距離画像における前記計測対象物の位置のばらつきが最小となる追加露光条件を追加設定し、
    前記合成距離画像の前記計測対象物の位置のばらつきが前記閾値以下になるまで、前記合成距離画像を新たな前記基準距離画像として、前記追加露光条件の追加設定を繰り返す3次元撮影装置。
  8. 基準となる露光条件である基準露光条件を設定し、
    該基準露光条件において取得された基準距離画像において距離値を有する有効画素の数である基準有効画素数を算出し、
    該基準有効画素数が閾値以下であるか否かを判定し、
    前記基準有効画素数が前記閾値以下である場合に、既に設定された前記露光条件とは異なる追加露光条件であって、該追加露光条件において取得された追加距離画像と前記基準距離画像との論理和である合計距離画像の合計有効画素数が最も大きくなる追加露光条件を追加設定し、
    該合計有効画素数が前記閾値よりも大きくなるまで、前記合計距離画像を新たな前記基準距離画像として、前記追加露光条件の追加設定を繰り返す3次元撮影条件調整方法。
  9. 基準となる露光条件である基準露光条件を設定し、
    該基準露光条件において取得された複数の基準距離画像における計測対象物の位置のばらつきが閾値よりも大きいか否かを判定し、
    前記ばらつきが前記閾値よりも大きい場合に、既に設定された前記露光条件とは異なる追加の追加露光条件であって、該追加露光条件において取得された複数の追加距離画像と前記基準距離画像とを合成して得られた複数の合成距離画像における前記計測対象物の位置のばらつきが最小となる追加露光条件を追加設定し、
    前記合成距離画像における前記計測対象物の位置のばらつきが前記閾値以下になるまで、前記合成距離画像を新たな前記基準距離画像とし、前記追加露光条件の追加設定を繰り返す3次元撮影条件調整方法。
JP2019033607A 2019-02-27 2019-02-27 3次元撮影装置および3次元撮影条件調整方法 Active JP6959277B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2019033607A JP6959277B2 (ja) 2019-02-27 2019-02-27 3次元撮影装置および3次元撮影条件調整方法
US16/778,070 US11398045B2 (en) 2019-02-27 2020-01-31 Three-dimensional imaging device and three-dimensional imaging condition adjusting method
DE102020104137.3A DE102020104137A1 (de) 2019-02-27 2020-02-18 Dreidimensionale Abbildungseinrichtung und dreidimensionales Abbildungsbedingungsanpassverfahren
CN202010102514.3A CN111629153B (zh) 2019-02-27 2020-02-19 三维拍摄装置及三维拍摄条件调整方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019033607A JP6959277B2 (ja) 2019-02-27 2019-02-27 3次元撮影装置および3次元撮影条件調整方法

Publications (2)

Publication Number Publication Date
JP2020139767A true JP2020139767A (ja) 2020-09-03
JP6959277B2 JP6959277B2 (ja) 2021-11-02

Family

ID=72139066

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019033607A Active JP6959277B2 (ja) 2019-02-27 2019-02-27 3次元撮影装置および3次元撮影条件調整方法

Country Status (4)

Country Link
US (1) US11398045B2 (ja)
JP (1) JP6959277B2 (ja)
CN (1) CN111629153B (ja)
DE (1) DE102020104137A1 (ja)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012013514A (ja) * 2010-06-30 2012-01-19 Canon Inc 情報処理装置、3次元位置算出方法及びプログラム
JP2012032305A (ja) * 2010-07-30 2012-02-16 Omron Corp 変位センサ
JP2016134723A (ja) * 2015-01-19 2016-07-25 株式会社リコー 撮像装置、撮像方法及び撮像動作制御プログラム
JP2017181488A (ja) * 2016-03-23 2017-10-05 パナソニックIpマネジメント株式会社 距離画像生成装置、距離画像生成方法及びプログラム
JP2019027947A (ja) * 2017-07-31 2019-02-21 株式会社キーエンス 形状測定装置及び形状測定方法

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5161052B2 (ja) * 2008-12-04 2013-03-13 オリンパス株式会社 顕微鏡システム、標本観察方法およびプログラム
US5530514A (en) * 1994-07-19 1996-06-25 Eastman Kodak Company Direct focus feedback autofocus system
US6791722B1 (en) * 2003-05-28 2004-09-14 Kabushiki Kaisha Toshiba Light beam scanning apparatus and image forming apparatus
WO2008124397A1 (en) 2007-04-03 2008-10-16 David Fishbaine Inspection system and method
US8026955B2 (en) * 2007-08-30 2011-09-27 Honda Motor Co., Ltd. Camera exposure controller including imaging devices for capturing an image using stereo-imaging
JP5283667B2 (ja) * 2010-07-07 2013-09-04 パナソニック株式会社 画像処理装置、画像処理方法およびプログラム
JP5411842B2 (ja) * 2010-12-07 2014-02-12 シャープ株式会社 撮像装置
JP5496162B2 (ja) * 2011-09-26 2014-05-21 富士フイルム株式会社 凸版印刷版の製造方法、凸版印刷版作成装置、並びにプログラム
US10303945B2 (en) * 2012-12-27 2019-05-28 Panasonic Intellectual Property Corporation Of America Display method and display apparatus
CN107229056A (zh) 2016-03-23 2017-10-03 松下知识产权经营株式会社 图像处理装置、图像处理方法以及记录介质
JP6707022B2 (ja) 2016-12-26 2020-06-10 日立オートモティブシステムズ株式会社 ステレオカメラ
GB2569656B (en) * 2017-12-22 2020-07-22 Zivid Labs As Method and system for generating a three-dimensional image of an object
US11922639B2 (en) * 2018-06-07 2024-03-05 Dolby Laboratories Licensing Corporation HDR image generation from single-shot HDR color image sensors
JP7145048B2 (ja) * 2018-11-16 2022-09-30 キヤノン株式会社 撮像装置及びその制御方法、プログラム、記憶媒体
JP7007324B2 (ja) * 2019-04-25 2022-01-24 ファナック株式会社 画像処理装置、画像処理方法、及びロボットシステム

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012013514A (ja) * 2010-06-30 2012-01-19 Canon Inc 情報処理装置、3次元位置算出方法及びプログラム
JP2012032305A (ja) * 2010-07-30 2012-02-16 Omron Corp 変位センサ
JP2016134723A (ja) * 2015-01-19 2016-07-25 株式会社リコー 撮像装置、撮像方法及び撮像動作制御プログラム
JP2017181488A (ja) * 2016-03-23 2017-10-05 パナソニックIpマネジメント株式会社 距離画像生成装置、距離画像生成方法及びプログラム
JP2019027947A (ja) * 2017-07-31 2019-02-21 株式会社キーエンス 形状測定装置及び形状測定方法

Also Published As

Publication number Publication date
US11398045B2 (en) 2022-07-26
CN111629153B (zh) 2023-12-12
US20200273194A1 (en) 2020-08-27
JP6959277B2 (ja) 2021-11-02
CN111629153A (zh) 2020-09-04
DE102020104137A1 (de) 2020-08-27

Similar Documents

Publication Publication Date Title
CN103371795B (zh) 图像处理装置和图像处理方法
CN106412433B (zh) 基于rgb-ir深度相机的自动对焦方法及系统
CN110335211B (zh) 深度图像的校正方法、终端设备以及计算机存储介质
CN109831660A (zh) 深度图像获取方法、深度图像获取模组及电子设备
US8144974B2 (en) Image processing apparatus, method, and program
CN109451244A (zh) 一种基于液体镜头的自动调焦方法及系统
JP5860663B2 (ja) ステレオ撮像装置
US9747675B2 (en) Image processing system
Takeda et al. Fusing depth from defocus and stereo with coded apertures
JP6071257B2 (ja) 画像処理装置及びその制御方法、並びにプログラム
CN103019001A (zh) 自动对焦方法与装置
JP2016219987A (ja) 画像処理装置、撮像装置、画像処理方法およびプログラム
CN102822740A (zh) 立体成像装置和用于自动调节立体成像装置的焦点的方法
JP6959277B2 (ja) 3次元撮影装置および3次元撮影条件調整方法
JP5444651B2 (ja) カメラ装置、その撮影方法と撮影制御プログラム
JP6425571B2 (ja) 画像処理装置、画像処理方法、及びプログラム
US11808561B2 (en) Electronic apparatus for controlling a projector to project an image onto a screen at an actual size length, control method thereof and computer readable storage medium
JP5822492B2 (ja) 撮像装置及び制御方法
JP2021044710A (ja) 画像処理装置、画像処理方法、およびプログラム
KR20180106480A (ko) 2d 이미지를 이용한 고해상도 3d 뎁스 이미지 생성 장치 및 그 방법
JP7300895B2 (ja) 画像処理装置および画像処理方法、プログラム、並びに記憶媒体
JP2011113174A (ja) 画像合成装置、画像再生装置、および撮像装置
EP2696587B1 (en) Image pickup apparatus, image pickup system, method of controlling image pickup apparatus, program, and storage medium
JP6460133B2 (ja) 画像処理装置と画像処理装置の作動方法および撮像装置
JP2007094536A (ja) 対象物追跡装置及び対象物追跡方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200710

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210519

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210525

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210721

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210907

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20211007

R150 Certificate of patent or registration of utility model

Ref document number: 6959277

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150