JP2020036226A - 撮影タイミング制御装置、撮像システムおよび撮像方法 - Google Patents

撮影タイミング制御装置、撮像システムおよび撮像方法 Download PDF

Info

Publication number
JP2020036226A
JP2020036226A JP2018161985A JP2018161985A JP2020036226A JP 2020036226 A JP2020036226 A JP 2020036226A JP 2018161985 A JP2018161985 A JP 2018161985A JP 2018161985 A JP2018161985 A JP 2018161985A JP 2020036226 A JP2020036226 A JP 2020036226A
Authority
JP
Japan
Prior art keywords
imaging
exposure
ambient light
timing control
imaging device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018161985A
Other languages
English (en)
Other versions
JP7074617B2 (ja
Inventor
稔久 佐藤
Toshihisa Sato
稔久 佐藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Kurabo Industries Ltd
Kurashiki Spinning Co Ltd
Original Assignee
Kurabo Industries Ltd
Kurashiki Spinning Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Kurabo Industries Ltd, Kurashiki Spinning Co Ltd filed Critical Kurabo Industries Ltd
Priority to JP2018161985A priority Critical patent/JP7074617B2/ja
Publication of JP2020036226A publication Critical patent/JP2020036226A/ja
Application granted granted Critical
Publication of JP7074617B2 publication Critical patent/JP7074617B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02BCLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO BUILDINGS, e.g. HOUSING, HOUSE APPLIANCES OR RELATED END-USER APPLICATIONS
    • Y02B20/00Energy efficient lighting technologies, e.g. halogen lamps or gas discharge lamps
    • Y02B20/40Control techniques providing energy savings, e.g. smart controller or presence detection

Landscapes

  • Length Measuring Devices By Optical Means (AREA)
  • Exposure Control For Cameras (AREA)
  • Stereoscopic And Panoramic Photography (AREA)
  • Studio Devices (AREA)

Abstract

【課題】周期的に変動する環境光の下で撮像を行っても、画像間の明暗のばらつきを抑制できる撮影タイミング制御装置を提供する。【解決手段】周期的に変動する環境光の下で撮影を行う撮像装置とともに用いられる撮影タイミング制御装置であって、前記環境光の光量を測定する光量センサ17と、前記光量センサによる測定値に基づいて前記環境光の強度の周期的変動を解析し、前記周期的変動における露光開始位相を決定し、前記露光開始位相に合わせて露光を開始するための露光開始指示を前記撮像装置に送信する解析部18とを有する撮影タイミング制御装置16。【選択図】図1

Description

本発明は、周期的に変動する環境光の下で行う撮像、特にそのような撮像における撮影タイミングの制御に関する。
各種製品の検査やロボットの視覚センサなどの用途に高速な撮像装置が用いられる。そのような撮像装置では露光時間が短く、例えば1ms程度であるため、ある種の室内照明下など、撮像を実施する空間の環境光が周期的に変動する場合には、撮影するタイミングによって得られる画像の明るさにばらつきが生じる。
この問題に対して、特許文献1には、照明の明滅周期より短い蓄光時間で高速撮影を行う高速度カメラのフリッカーを抑圧することを目的として、撮影のフィールド周波数と光源フリッカー周波数の関係から画像の信号レベルが変動する周期当たりの撮影回数Mを求め、Mフィールド分の信号レベルと平均値との差を記憶しておき、撮影毎にMフィールド前の情報を用いて信号レベルを補正するフリッカー抑圧装置が記載されている。
特開2013−187603号公報
しかし、特許文献1に記載された方法は一定のフィールド周波数で連続撮影を行うことを前提としており、必要に応じて都度撮影を行う場合や、一定でない間隔で連続して撮影を行う場合には用いることができない。また、撮影画像からフリッカーの周期を検出しているため、撮像時間よりも周期の短いフリッカーを検出することができない。
本発明は、上記を考慮してなされたものであり、周期的に変動する環境光の下で撮像を行っても、画像間の明暗のばらつきを抑制できる撮影タイミング制御装置、撮像システムおよび撮像方法を提供することを目的とする。
本発明の撮影タイミング制御装置は、周期的に変動する環境光の下で撮影を行う撮像装置とともに用いられる撮影タイミング制御装置であって、前記環境光の光量を測定する光量センサと、前記光量センサによる測定値に基づいて前記環境光の強度の周期的変動を解析し、前記周期的変動における露光開始位相を決定し、前記露光開始位相に合わせて露光を開始するための露光開始指示を前記撮像装置に送信する解析部とを有する。
ここで、露光開始指示とは、撮像装置に対して露光を開始すべきタイミングを指示するものであって、指示を受けた撮像装置が即座に露光を開始すべきものと、撮像装置が指示を受けた後に指示された時刻を待って露光を開始すべきものの両方を含む概念である。この構成により、環境光の強度が周期的に変動しても、撮像装置が撮像する画像間の明暗のばらつきを抑えることができる。
好ましくは、上記撮影タイミング制御装置は、前記撮像装置とは別個の装置として構成され、該撮像装置に接続して用いられる。これにより、撮影タイミング制御装置を生産工程の自動化を図るための市販のFAカメラ等に接続して使用することができ、撮影タイミング制御装置の汎用性が高まる。
本発明の撮像システムは、上記撮影タイミング制御装置と、前記露光開始指示に従って露光を開始する前記撮像装置とを有する。
好ましくは、前記撮像装置が前記撮像装置に露光終了を指示する。
好ましくは、上記撮像システムは、前記撮像装置によって撮像された画像を用いて画像処理を行う画像処理部を有する。この場合において、より好ましくは、前記撮像装置が撮像対象物の前記画像処理部を内蔵する三次元計測装置である。
あるいは好ましくは、前記撮像装置は、撮像された画像を画像処理装置に転送する撮像装置である。
好ましくは、前記撮像装置は、複数の撮像部を有するステレオカメラである。これにより、撮像装置が画像処理部を有するときは撮像装置をステレオ方式の三次元計測装置とすることができるし、撮像装置が画像処理部を有しないときは、ステレオカメラである撮像装置から他の画像処理装置に画像を転送することで、ステレオ法による三次元計測が可能となる。
あるいは好ましくは、前記撮像装置は、対象物にパターンを投影するパターン投影部と、前記パターンの投影がなされた前記対象物を撮像する1以上の撮像部と、前記パターン投影部および前記撮像部を制御する制御部とを有していてもよい。これにより、撮像装置が画像処理部を有するときは撮像装置をパターン投影方式の三次元計測装置とすることができるし、撮像装置が画像処理部を有しないときは、撮像装置から他の画像処理装置に画像を転送することでパターン投影法による三次元計測が可能となる。
本発明の撮像方法は、環境光の強度の周期的変動を解析する環境光解析工程と、解析した前記環境光の強度の前記周期的変動における露光開始位相を決定する工程と、前記環境光が前記露光開始位相になる時に露光を開始する撮像工程とを有する。
本発明の撮影タイミング制御装置、撮像システムまたは撮像方法によれば、環境光が周期的変動の所定の位相になる時に露光を開始するので、周期的に変動する環境光の下で撮像を行っても、異なる時刻に撮像した画像間の明暗のばらつきが抑制される。
第1実施形態の撮像システムの構成を示す図である。 第1実施形態の撮像システムの動作の流れを示す図である。 第1実施形態の撮像システムによる環境光の周期的変動の解析と露光を開始する位相の設定を説明するための図である。 第1実施形態の撮像システムによる環境光の強度の変化の監視と露光のタイミングを決定する方法を説明するための図である。 第2実施形態の撮像システムの構成を示す図である。 第3実施形態の撮像システムの構成を示す図である。 第3実施形態の撮像システムの動作の流れを示す図である。 環境光の強度の周期的変動と撮影のタイミングの関係を説明するための図である。 環境光の強度の周期的変動と撮影のタイミングの関係を説明するための図である。
本発明の実施形態の説明に先立って、環境光の周期的変動によって画像間に明暗のばらつきが生じる理由を説明する。
図8および図9は環境光の強度の周期的変動(以下、単に「環境光の周期的変動」という)を示したものであり、縦軸が環境光の強度I、横軸が時間tの経過または位相θの変化を示している。なお、図8および図9では環境光の周期的変動を正弦曲線で表したが、実際の環境光ではこれとは異なり、周期的変動の原因となる光源の種類によって様々な波形をとる。例えば、インバーター式でない蛍光灯では、強度が電圧の二乗に比例して、商用電源に由来する100Hzや120Hzの周波数で変動する。また、LEDのパルス点灯方式では、製造者によって異なる数百Hz〜数十kHzの周波数でLEDが点滅し、点灯する時間の長さ(パルスの幅)によって光量が増減される。
図8において、環境光の強度Iは時間tの経過とともに周期Tで変動する。このとき環境光の位相θは一周期Tの間に0から2πまで動く。露光時間τで撮影したときに画像に記録される環境光の光量Lは図中に斜線を施した部分の面積に相当する。露光時間τが環境光の周期Tより短い場合、露光時間τが同じでも、露光を開始するタイミングによって得られる画像の明るさに差が生じる。例えば図8では、時刻tからtまで露光した場合と時刻tからtまで露光した場合とでは、得られる画像の明るさに差が生じる。露光時間τと周期Tの比τ/Tが小さいほど、異なる時刻に撮像された画像間の明暗のばらつきが大きくなる。画像間の明るさのばらつきを抑えるには、露光時間τ内の環境光の積算光量Lを一定にする必要がある。
図9を参照して、同じ現象は露光時間τが環境光の周期Tより長い場合にも起こり得る。環境光の周期的変動の影響の程度は環境光の波形に大きく依存するが、露光時間τが環境光の周期Tの10倍以下である場合は複数の画像間で明暗のばらつきが無視できないことがある。例えば露光時間τが1msなら、環境光の変動周期Tが100μs以上(周波数10kHz以下)である場合は複数の画像間で明暗のばらつきが無視できないことがある。
本発明の撮像システムの第1実施形態を図1〜図4に基づいて説明する。
図1を参照して、本実施形態の撮像システム10は対象物Oを撮像する。撮像システム10は撮像装置11と撮影タイミング制御装置16を備える。撮像装置11は単一の撮像部12と、制御部14と画像処理部15を有する。撮影タイミング制御装置16は光量センサ17と解析部18を有する。
撮像装置11の撮像部12はレンズで光を撮像素子に集光して撮像する。撮像素子としてはCCDやCMOSセンサなどを用いることができる。撮像素子はグローバルシャッター方式のものが好ましい。
制御部14は撮像部12と画像処理部15を含む撮像装置11全体を制御する。具体的には、制御部14は撮像部12に露光の開始、露光の終了、撮像素子からの画像の転送などを指示する。なお、本明細書中で「露光開始」、「撮影開始」、「撮像開始」および「シャッター開」は同じ意味で用いられ、「露光終了」、「撮影終了」および「シャッター閉」は同じ意味で用いられる。制御部14は撮影終了後、撮像部12から画像処理部15に画像を転送する。
画像処理部15は、撮像された画像を処理する。画像処理の内容としては、複数の画像の比較、差分、合成などが挙げられる。撮像装置11が三次元計測装置である場合、画像処理部15は、撮像対象物Oの三次元座標を算出するための画像処理を行う。三次元座標を算出するための画像処理方法は、後述する。なお、図1に示した本実施形態の撮像システム10では撮像装置11が画像処理部15を内蔵しているが、撮像システムの構成はこれには限られず、撮像装置11が画像処理部15を有さず、撮像システム10の外部に設けたパソコン等を画像処理装置として画像を処理してもよい。その場合、制御部14は撮像部12から外部の画像処理装置に画像を転送する。
撮影タイミング制御装置16の光量センサ17は環境光の光量を測定する。光量センサは、必ずしも対象物Oに向かって測定しなくてもよく、環境光の変動が観測しやすい向きに配置すればよい。また、光量センサの前面に拡散板を設けてもよく、これにより対象物Oの形状や位置の変化の影響を抑えながら環境光の光量が測定できる。
解析部18は光量センサの測定値の経時変化に基づいて環境光の周期的変動を解析する。具体的には、解析部は環境光の周期的変動の周期と波形を算出する。また、解析部は、露光開始のタイミングを計るために、光量センサの測定値に基づいて環境光の強度の変化の監視(以下、単に「環境光の監視」という)を行い、算出した周期的変動の波形との比較によって環境光の位相を特定する。解析部はさらに、撮像装置11の制御部14と接続されて各種の通信を行う。
なお、撮影タイミング制御装置16の解析部18と撮像装置11の制御部14は物理的に1台の計算機等で構成されていてもよい。一方、環境光の監視のための光量センサ17は撮像装置11の撮像部12とは別に設けられる。撮像部12の撮像素子を用いて環境光の光量を測定することも可能であるが、光量センサを別に設けることにより、環境光の位相を特定するための監視から撮像への切り替えの手順が単純になるからである。また、光量センサを別に設けることにより、環境光の周期的変動を観測しやすい向きに光量センサを配置でき、対象物Oからの反射光の影響を除いた環境光の周期的変動のみを観測することができるからである。
好ましくは、撮影タイミング制御装置16と撮像装置11は物理的に別個の装置として構成される。これにより、工場等における生産工程の自動化を図るための市販のFAカメラ等を撮像装置として、これに撮影タイミング制御装置16を接続することにより本実施形態の撮像システムを実現できるので、撮影タイミング制御装置の汎用性が高まる。
次に、本実施形態の撮像システム10の動作を説明する。
図2を参照して、撮像システム10による撮像において、撮影タイミング制御装置16は、環境光の解析(S1)、露光開始位相の設定(S2)を行う。撮像を行うときには、撮影タイミング制御装置は環境光を監視し(S3)、撮像装置11に露光開始指示を送信する(S4)。一方、撮像装置11は、撮影タイミング制御装置から露光開始指示を受信すると撮像を行う(S5)。図2において、撮影タイミング制御装置16と撮像装置11の間の通信は解析部18と制御部14の間で行われる。以下に各ステップの詳細を説明する。
まず、撮影タイミング制御装置16は環境光の周期的変動を解析する(S1)。光量センサ17が微小時間Δτ毎に環境光の光量ΔLを繰り返し測定する(図3A)。ここで環境光の強度IはI=ΔL/Δτで求められる。Δτを十分に短くすれば、環境光の強度Iを実質的にリアルタイムで観測できる。例えば、環境光の変動周期の10分の1〜100分の1の間隔でサンプリングすれば実質的にリアルタイムで観測できる。解析部18は、光量センサによる測定値の経時変化に基づいて、環境光の周期的変動の周期Tと波形を算出する(図3B)。ここで求める波形は、環境光の強度の絶対値の波形である必要はなく、環境光の強度の相対的な変化が分かる波形であればよい。
得られた波形に基づいて、解析部18は、露光を開始する位相θを露光開始位相として設定する(S2)。解析部は、例えば波形の特徴的な部分に着目して露光開始位相θを決定できる。図3Cでは、環境光の強度Iが増加から減少に転じる極大点の位相を露光開始位相θとして設定している。あるいは解析部は、波形の特徴的な部分から一定の時間が経過した点の位相を露光開始位相θとしてもよい。
撮像を行うときには、撮影タイミング制御装置16は撮像装置11から撮像準備完了通知を受信すると、図4を参照して、光量センサ17が微小時間Δτ毎に環境光の光量ΔLを繰り返し測定して、解析部18が環境光の監視を開始する(S3)。
解析部18は環境光の強度の変化とステップS1で求めた環境光の波形とを比較して、環境光が露光開始位相θになると露光開始指示を撮像装置11に送信し(S4)、指示を受けた撮像装置は、露光を開始する(S51)。ところで、光量センサによる測定値は微小ではあるが一定の時間間隔Δτの光量ΔLであるため、その光量の監視をしながら、環境光が露光開始位相θになった「瞬間」に露光開始を指示することが難しい場合がある。その場合、解析部は、光量センサの測定値から時刻t1に環境光が露光開始位相θに至ったことが分かると、時刻tにステップS1で求めた周期Tを加えた時刻、つまり環境光の位相が次に露光開始位相θになる時刻tを求め、時刻tに露光開始指示を撮像装置11に送信する。言い換えると、露光開始指示は環境光の1周期前の変化に基づいて送信される。
あるいは、解析部18は、時刻tに露光を開始せよという露光開始指示を事前に撮像装置11に送信してもよい。例えば、所定時間をτミリ秒などと定めて、時刻tのτミリ秒前に、τミリ秒後に露光を開始するよう、解析部から撮像装置に指示を送信する。この場合、撮像装置は、解析部からの露光開始指示に従い、時刻tを待って露光を開始する(S51)。このように、本明細書中で露光開始指示とは、撮像装置に対して露光を開始すべきタイミングを指示するものであって、指示を受けた撮像装置が即座に露光を開始すべきものと、撮像装置が指示を受けた後に指示された時刻を待って露光を開始すべきものの両方を含む概念である。
撮像装置11は、撮影タイミング制御装置16から露光開始指示を受信すると撮像を行う(S5)。撮像装置11の制御部14が撮像部12を制御して、シャッターを開いて露光を開始し(S51)、所定の露光時間τが経過するとシャッターを閉じて露光を終了し(S52)、画像を撮像部12から画像処理部15に転送する。以上で1回の撮像が完了する。
引き続き撮像を行う場合は、撮像装置11から撮影タイミング制御装置16への撮像準備完了通知が送信され、以降の動作が繰り返される。撮影タイミング制御装置16による環境光の監視(S3)を露光開始指示の送信後も継続すれば、連続して撮像を行う場合に撮像間隔を短縮できるというメリットが得られる。
所要の回数の撮像が完了した後、画像処理部15が撮像された画像に対して、撮像の目的に応じた処理を行う(S6)。
上記動作の変形例として、撮影タイミング制御装置16が撮像装置11に露光開始指示を送信した後、所定の露光時間τ経過後に露光終了指示を送信してもよい。露光開始指示を送信した後、所定の露光時間τ経過後に露光を終了するような指示を事前に撮像装置11に送信してもよい。あるいは、撮影タイミング制御装置が露光を終了すべき環境光の位相を設定して、環境光が露光終了位相になる時に撮像装置11に露光終了を送信してもよい。この場合でも露光開始位相θおよび露光終了位相が一定であるので、露光時間τは一定になる。つまり、本明細書中で露光終了指示とは、撮像装置に対して露光を終了すべきタイミングを指示するものであって、指示を受けた撮像装置が即座に露光を終了すべきものと、撮像装置が指示を受けた後に指示された時刻を待って露光を終了すべきものの両方を含む概念である。
本実施形態の撮像システム10では、環境光が周期的変動の一定の位相(露光開始位相θ)になる時に露光を開始して、所定の露光時間τの経過後に露光を終了するので、画像に記録される環境光の光量Lは一定となる。これにより、異なる時刻に撮像された画像間の明暗のばらつきが抑えられる。この効果により、撮像システム10は、同一の視野で撮像した画像同士や、同一の対象物を撮像した画像同士を比較する用途に好適に用いることができる。撮像システム10は例えば、各種製品の検査において同一の視野で撮像した良品の画像との比較によって部品の欠損や色を判定したり、ロボットで取り上げるためにコンベア上を流れてくるワークの位置を判定したりするための視覚センサとして、好適に用いることができる。
また、本実施形態の撮像システム10は環境光の位相に着目して、次の露光開始位相θを待って撮像を行うので、環境光の周期Tの長短に依らず機能する。撮像システム10の特長を生かすには、環境光の周期Tに対して露光時間τが短いほど好ましい。両者の比τ/Tが小さいほど、異なる時刻に撮像された画像間の明暗のばらつきが大きくなるからである。この観点から、露光時間τは好ましくは環境光の周期Tの10倍以下であり、より好ましくは5倍以下、さらに好ましくは1倍以下である。例えば、蛍光灯が設置された室内であれば環境光の周期Tは約8.3msまたは10msであり、これに対して露光時間τがそれぞれ約83ms以下または100ms以下であれば本実施形態の撮像システム10を用いるメリットがある。
本発明の撮像システムの第2実施形態を図5に基づいて説明する。
図5を参照して、本実施形態の撮像システム20は撮像装置21と撮影タイミング制御装置16を備える。撮像装置21はステレオ方式の三次元計測装置である。撮影タイミング制御装置16は第1実施形態と同じである。
撮像装置21は2台の撮像部22A、22Bと制御部24と画像処理部25とを有する。撮像部22A、22Bは異なる視点から同時に対象物Oを撮像する。制御部24は撮像部22A、22Bと画像処理部25を含む撮像装置21全体を制御する。画像処理部25は、撮像された画像を処理して、対象物Oの三次元位置および形状を算出する。なお、撮像装置21が画像処理部25を有さず、撮像システム20の外部に画像処理装置を設けて画像処理を行ってもよいことは第1実施形態と同様である。
本実施形態の撮像システム20の動作は、図2に示した第1実施形態のそれと、撮像工程(S5)が2台の撮像部22A、22Bによって行われる点で異なる。なお、画像処理部25による画像処理(S6)は対象物Oの三次元位置および形状を算出する三次元計算である。本実施形態は撮像部が2つである2眼のステレオカメラを用いているが、本発明は3眼のステレオカメラなど、ステレオ方式で三次元計測を行う多眼のステレオカメラに適用することができる。撮像部の数が増えるほど、より多くの画像データから三次元計測をすることができるため、より精度の高い三次元計測が可能になる。
ステレオ法による三次元計測は2台のカメラの視差を利用する方法であって、視点の異なる2枚の画像上で計測したい点の対応点を求め、各画像上の対応点および2台のカメラの位置関係から3角測量の原理によって、計測点の三次元位置を算出する方法である。
対応点の探索は、対象物のエッジなどの特徴点を画像処理によって抽出して行われる。2枚の画像は同時に撮像されるので、対応する2枚の画像の明るさ(輝度レベル)は揃っている。本実施形態ではさらに、異なる時刻に撮像された画像の明るさが揃うことにより、エッジ等の強度がどの画像においても同程度となり、特徴点の抽出の精度が向上する。
また、ワイヤーハーネスや各種ケーブルをロボットで操作する場合のイメージセンサとして、カラーカメラを用いたステレオ法の開発が進められている。この方法は、多数のケーブルが画像内に存在すると対応点の決定が難しいことに対して、画像処理によってまず対象となるケーブルを色で選別してから対応点を探索する方法である。これにより高速な三次元計測が可能となり、ロボットの動作に追従して撮像を繰り返しながら、対象となるケーブルを追跡することが可能となる。しかし、画像の明るさ(輝度レベル)が異なるとケーブルの色調が変わるため、画像間の明暗のばらつきによって、ケーブルの追跡中に色による選別処理が失敗することがあった。本実施形態の撮像システム20によれば、異なる時刻に撮像された画像間の明るさが揃うため、ケーブルの色による選別を安定して行うことができる。
本発明の撮像システムの第3実施形態を図6および図7に基づいて説明する。
図6を参照して、本実施形態の撮像システム30は撮像装置31と撮影タイミング制御装置16を備える。撮像装置31は撮像部32、パターン投影部33、制御部34および画像処理部35を有する。撮像装置31はパターン投影方式の三次元計測装置である。撮影タイミング制御装置16は第1実施形態と同じである。
ステレオ法による三次元計測において一方のカメラを明暗パターンを投影するプロジェクターに置き換え、他方のカメラで対象物に投影されたパターンを観測することにより、対象物の三次元形状を測定することができる。このいわゆるパターン投影法と呼ばれる方法には、単純な線状パターンを線の幅方向に順次ずらしながら投影する光切断法、明るさや色が滑らかに変化し、変化の方向を逆にした2つのパターンを投影する傾斜光投影法、グレイコードなどの2進符号で明暗をつけたパターンを順番に投影する時系列符号化法、投影強度を正弦波に変調した縞パターンを位相をずらしながら投影する位相シフト法など、複数のパターンを逐次投影して撮像を行う方法がある。また、より複雑なパターンを1種類のみ投影して撮像を行うことで、三次元計測をする方法もある。
パターンを投影して撮像を行う三次元計測法には、パターン投影を行わない受動的なステレオ法と比べて、対応点の探索が容易であるという利点がある。しかし、取得した複数の画像間で明暗がばらつくと、例えばグレイコード画像の二値化処理において明点と暗点を誤認するなどして、精度よく三次元計測ができないことがあった。
以下、本実施形態では複数のパターンを逐次投影する方法について説明する。図6において、撮像装置31の撮像部32は第2実施形態の撮像部22Aと同じである。撮像装置31は複数の撮像部32を備えていてもよい。撮像部の数が増えるほど、より多くの画像データから三次元計測をすることができるため、より精度の高い三次元計測が可能になる。パターン投影部33は液晶素子などによって複数のパターンを生成し、光源により照射して、対象物Oに異なるパターンを逐次投影する。パターン投影部の光源はフリッカーのない光源であることが好ましい。
制御部34は撮像部32、パターン投影部33および画像処理部35を含む撮像装置31の全体を制御する。具体的には、制御部34は、撮像部32に露光の開始、露光の終了、撮像素子からの画像の転送などを指示し、パターン投影部にパターンの選択、投影開始、投影終了などを指示する。制御部34は撮影終了後、撮像部32から画像処理部35に画像を転送する。
画像処理部35は、複数のパターンを撮影した複数の画像を処理して対象物Oの三次元位置および形状を算出する。なお、撮像装置31が画像処理部35を有さず、撮像システム30の外部に画像処理装置を設けて画像処理を行ってもよいことは第1および第2実施形態と同様である。
次に、本実施形態の撮像システム30の動作を説明する。
図7を参照して、撮影タイミング制御装置16による環境光の解析(S1)、露光開始位相の設定(S2)、環境光の監視(S3)、撮像装置31への露光開始指示の送信(S4)の各ステップは、図2に示した第1実施形態のそれと同じである。撮像装置31による撮像工程(S7)では、パターンを投影しながら撮像が行われる。また、複数のパターンを撮像後、対象物Oの三次元位置および形状が計算される(S8)。
撮像装置31は、撮影タイミング制御装置16から露光開始指示を受信すると撮像を行う(S7)。撮像装置31の制御部34がパターン投影部33を制御してパターンを投影し、同時に制御部34が撮像部32を制御してシャッターを開いて露光を開始する(S71)。そして、撮像装置31は所定の露光時間τが経過するとシャッターを閉じて露光を終了し、パターン投影を終了する(S72)。撮像された画像は撮像部32から画像処理部35に転送される。以上で1回の撮像が完了する。
次の撮像が可能となると、撮像装置31から撮影タイミング制御装置16に撮像準備完了通知が送信され、次のパターンについて撮像が繰り返される。
複数のパターンの撮像が完了した後、撮像された複数の画像と、パターン投影部33と撮像部32の位置関係に基づいて、撮像装置31の画像処理部35によって、対象物Oの三次元位置および形状が計算される(S8)。
本実施形態の撮像システム30によれば、複数のパターンを撮像した複数の画像の明るさが揃うので、三次元計測の精度が向上する。本実施形態では、複数のパターンを撮像した複数の画像から対象物Oの三次元位置および形状を計算するが、1種類のパターンを撮像した画像から対象物Oの三次元位置および形状を計算することもできる。動きのある対象物の経時的な計測をする際、異なる時間に撮像した複数の画像の明るさが揃うので、対象物の変異を計測する三次元計測の精度が向上する。
本発明は、上記の実施形態に限定されるものではなく、その技術的思想の範囲内で種々の変形が可能である。
10、20、30 撮像システム
11、21、31 撮像装置
12、22A、22B、32 撮像部
33 パターン投影部
14、24、34 制御部
15、25、35 画像処理部
16 撮影タイミング制御装置
17 光量センサ
18 解析部
環境光強度
環境光積算光量
O 対象物
t 時刻
環境光の変動周期
τ 露光時間
θ 位相
θ 露光開始位相

Claims (10)

  1. 周期的に変動する環境光の下で撮影を行う撮像装置とともに用いられる撮影タイミング制御装置であって、
    前記環境光の光量を測定する光量センサと、
    前記光量センサによる測定値に基づいて前記環境光の強度の周期的変動を解析し、前記周期的変動における露光開始位相を決定し、前記露光開始位相に合わせて露光を開始するための露光開始指示を前記撮像装置に送信する解析部とを有する、
    撮影タイミング制御装置。
  2. 前記撮像装置とは別個の装置として構成され、該撮像装置に接続して用いられる、
    請求項1に記載の撮影タイミング制御装置。
  3. 請求項1または2に記載された撮影タイミング制御装置と、
    前記露光開始指示に従って露光を開始する前記撮像装置と、
    を有する撮像システム。
  4. 前記撮影タイミング制御装置が前記撮像装置に露光終了を指示する、
    請求項3に記載の撮像システム。
  5. 前記撮像装置によって撮像された画像を用いて画像処理を行う画像処理部を有する、
    請求項3または4に記載の撮像システム。
  6. 前記撮像装置が前記画像処理部を内蔵する三次元計測装置である、
    請求項5に記載の撮像システム。
  7. 前記撮像装置が撮像された画像を画像処理装置に転送する、
    請求項3または4に記載の撮像システム。
  8. 前記撮像装置が複数の撮像部を有するステレオカメラである、
    請求項3〜7のいずれか一項に記載の撮像システム。
  9. 前記撮像装置が、
    対象物にパターンを投影するパターン投影部と、
    前記パターンの投影がなされた前記対象物を撮像する1以上の撮像部と、
    前記パターン投影部および前記撮像部を制御する制御部とを有する、
    請求項3〜7のいずれか一項に記載の撮像システム。
  10. 環境光の強度の周期的変動を解析する環境光解析工程と、
    解析した前記環境光の強度の前記周期的変動における露光開始位相を決定する工程と、
    前記環境光が前記露光開始位相になる時に露光を開始する撮像工程と
    を有する撮像方法。
JP2018161985A 2018-08-30 2018-08-30 撮影タイミング制御装置、撮像システムおよび撮像方法 Active JP7074617B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018161985A JP7074617B2 (ja) 2018-08-30 2018-08-30 撮影タイミング制御装置、撮像システムおよび撮像方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018161985A JP7074617B2 (ja) 2018-08-30 2018-08-30 撮影タイミング制御装置、撮像システムおよび撮像方法

Publications (2)

Publication Number Publication Date
JP2020036226A true JP2020036226A (ja) 2020-03-05
JP7074617B2 JP7074617B2 (ja) 2022-05-24

Family

ID=69668794

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018161985A Active JP7074617B2 (ja) 2018-08-30 2018-08-30 撮影タイミング制御装置、撮像システムおよび撮像方法

Country Status (1)

Country Link
JP (1) JP7074617B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11792529B2 (en) 2020-09-10 2023-10-17 Canon Kabushiki Kaisha Imaging apparatus, method of driving imaging apparatus, imaging system and mobile body

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH03241978A (ja) * 1990-02-20 1991-10-29 Fujitsu General Ltd ビデオ・カメラのオートフリッカレス回路
JP2016039499A (ja) * 2014-08-07 2016-03-22 キヤノン株式会社 撮像装置、制御方法、プログラム及び記憶媒体
JP2016142645A (ja) * 2015-02-03 2016-08-08 株式会社リコー 撮像システム

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH03241978A (ja) * 1990-02-20 1991-10-29 Fujitsu General Ltd ビデオ・カメラのオートフリッカレス回路
JP2016039499A (ja) * 2014-08-07 2016-03-22 キヤノン株式会社 撮像装置、制御方法、プログラム及び記憶媒体
JP2016142645A (ja) * 2015-02-03 2016-08-08 株式会社リコー 撮像システム

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11792529B2 (en) 2020-09-10 2023-10-17 Canon Kabushiki Kaisha Imaging apparatus, method of driving imaging apparatus, imaging system and mobile body

Also Published As

Publication number Publication date
JP7074617B2 (ja) 2022-05-24

Similar Documents

Publication Publication Date Title
WO2022179186A1 (zh) 频闪阶梯照明缺陷检测系统
KR101182188B1 (ko) 적외선 센서 및 이를 이용한 감지 방법
JP6498552B2 (ja) 漏油検出システム
EP2490438B1 (en) Vision measuring device
CN103250418B (zh) 图像处理设备、成像设备、图像处理方法、及白平衡调整方法
US10404968B2 (en) Method and system for determining optimal exposure time and number of exposures in structured light-based 3D camera
RU2014137669A (ru) Устройство захвата изображения и способ управления им
CN104350408A (zh) 使用连续运动扫描和时间插值的主动对准
CN105791691B (zh) 一种自动聚焦装置及其实时自动聚焦方法
CN105359502B (zh) 追踪装置、追踪方法以及存储了追踪程序的非易失性存储介质
CN101292359A (zh) 用于测量图像的设备和方法
Labudzki et al. The essence and applications of machine vision
CN110267031A (zh) 一种摄像机输出图像延迟时间测试方法及系统
JP2020036227A (ja) 撮影タイミング制御装置、撮像システムおよび撮像方法
CN111665249B (zh) 一种光强调整方法、系统及光学检测设备
JP2020036226A (ja) 撮影タイミング制御装置、撮像システムおよび撮像方法
TW201911233A (zh) 影像深度感測方法與影像深度感測裝置
KR20130061567A (ko) 무정지 검사를 위한 로봇 시스템 및 그 방법
JP6525757B2 (ja) 撮像装置、光量変化特性の算出方法、プログラム及び記憶媒体
JP2019176424A (ja) 画像処理装置、撮像装置、画像処理装置の制御方法、および、撮像装置の制御方法
CN110596115B (zh) 图像检查系统以及其控制方法
CN112601007B (zh) 一种特征区域的图像采集方法及设备
JP2012168135A (ja) 画像測定装置、オートフォーカス制御方法及びオートフォーカス制御プログラム
Van Wolputte et al. Embedded line scan image sensors: The low cost alternative for high speed imaging
CN208623750U (zh) 智能工业相机

Legal Events

Date Code Title Description
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20200210

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210317

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20211125

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211224

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220510

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220512

R150 Certificate of patent or registration of utility model

Ref document number: 7074617

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150