JP2013127434A - 情報処理装置、情報処理装置の制御方法、およびプログラム - Google Patents

情報処理装置、情報処理装置の制御方法、およびプログラム Download PDF

Info

Publication number
JP2013127434A
JP2013127434A JP2011277658A JP2011277658A JP2013127434A JP 2013127434 A JP2013127434 A JP 2013127434A JP 2011277658 A JP2011277658 A JP 2011277658A JP 2011277658 A JP2011277658 A JP 2011277658A JP 2013127434 A JP2013127434 A JP 2013127434A
Authority
JP
Japan
Prior art keywords
imaging
projection
unit
period
line
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2011277658A
Other languages
English (en)
Other versions
JP5898484B2 (ja
Inventor
Makoto Senda
誠 千田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2011277658A priority Critical patent/JP5898484B2/ja
Priority to US14/361,481 priority patent/US20140354803A1/en
Priority to PCT/JP2012/079444 priority patent/WO2013094347A1/en
Publication of JP2013127434A publication Critical patent/JP2013127434A/ja
Application granted granted Critical
Publication of JP5898484B2 publication Critical patent/JP5898484B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • G01B11/25Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
    • G01B11/254Projection of a pattern, viewing through a pattern, e.g. moiré
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • G01B11/25Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3179Video signal processing therefor
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3191Testing thereof
    • H04N9/3194Testing thereof including sensor feedback

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Length Measuring Devices By Optical Means (AREA)

Abstract

【課題】光源の点灯時間を削減し、光源の昇温を防止し、光源の長寿命化および省電力化を図る。
【解決手段】表示デバイスにより生成された投影パターンを消点灯可能な光源の点灯により対象物へ投影する投影部と、投影パターンが投影された対象物を撮像する撮像部と、表示デバイスの応答特性と撮像部の撮像特性とに基づいて撮像部の撮像期間を算出する算出部と、撮像期間に光源を点灯させることにより、撮像部の撮像期間と投影部の投影期間とを同期させるように制御する制御部と、を備える。
【選択図】 図1

Description

本発明は、情報処理装置、情報処理装置の制御方法、およびプログラムに関する。
産業用マシンビジョン分野では、技術要素として三次元計測技術が知られている。ここで、マシンビジョンを用いて三次元計測を行う方法を以下に簡単に説明する。まず、測定対象物に対して2次元パターン光を照射し、当該2次元パターンが投影された測定対象物をカメラで撮像する。次に、2次元パターンの周期性を手掛かりに、その撮像画像をコンピュータで解析して測定対象物までの距離情報を得る。この距離情報とは、測定対象物のカメラからの距離や表面凹凸など奥行き方向の距離である。幅方向、高さ方向の情報が2次元撮像画像から得ることができるため、この時点で三次元空間情報が得られている。そして、2次元撮像画像、距離情報、および予め保持している測定対象物のモデル情報を用いて三次元モデルフィッティングを行い、測定対象物の位置、姿勢、そして三次元形状を計測する。
この技術は、例えば、工場の製造ラインでのロボットアームによる部品ピッキングや組み立てなどに用いられる。三次元計測技術を用いて部品の位置、姿勢、および三次元形状を計測し、取得した情報に基づいてロボットアームを制御することによって、ロボットアームによる部品ピッキングや組み立てを効率的に、正確に行うことができる。
2次元パターンを用いる三次元計測法としては、空間符号化法や位相シフト法などがあり、画像認識処理と兼用できるため有効な手法である。また、プロジェクタによるパターン投影は、パターンを変化させて投影させることが可能なことから、空間符号化法や位相シフト法などのように複数パターンを必要とする三次元計測法に有効である。ここで、プロジェクタは30fps〜60fps、あるいはそれ以上のフレームレートでパターンを切り替えて投影可能である。カメラも同様に高いフレームレートで撮像可能である上に、プロジェクタおよびカメラの解像度も向上しているので、フレーム単位にパターンを変化させて計測できれば、高精度で高速な三次元計測が可能になる。
特許文献1では、2次元画像情報を取得する時に照明用光源を点灯して照明する動作と、三次元画像情報を取得する時に投影用光源を点灯し幾何パターンを投影する動作と、を同期させる技術が開示されている。
特許文献2では、複数のパターンマスクを順次切換えて、ストロボ光源をその都度発光して撮像する技術が開示されている。
特許文献3では、撮像装置としてCCD(電荷結合素子)が想定されており、画像取り込み期間(全画素同時取り込み)と画像出力時間とを明確に分離し、その画像出力期間に投影パターンの切換を行う技術が開示されている。
特開2009−186404号公報 特許第2997245号公報 特開平7−234929号公報
しかしながら、上述した従来の技術においては、以下のような課題がある。現在プロジェクタの光源は、高圧水銀ランプが主流である。この水銀ランプはハロゲンランプと異なりフィラメントを使用しないので寿命はある程度長いが、産業用として四六時中点灯し続ける場合は数カ月程度で部品交換をしなくてはならない。また、点灯してから安定するまで時間がかかるため、一度点灯したら処理に必要な間は点灯し続ける必要がある。そのため、計測時以外の時間にも無駄に点灯し続ける上に、長時間の点灯に伴う温度上昇を抑える必要が生じてしまう。
また、特許文献1乃至3は何れも、投影および撮像の特性に合わせて1フレーム内で精度良く発光制御を行っていない。
従来は、光源として高圧水銀ランプを使用していたため光源は点灯したままだったが、ON/OFF可能な光源(例えば、LED光源など)を使用することにより、従来技術のようなことは可能である。さらにLED点灯を計測に必要な期間のみに限定して、より細かく制御することで、熱対策にも、省エネにも効果のある最適な光源利用をした計測装置の実現が可能になる。
上記の課題に鑑み、本発明は、光源の点灯時間を削減し、光源の昇温を防止し、光源の長寿命化および省電力化を図ることを目的とする。
上記の目的を達成する本発明に係る情報処理装置は、
表示デバイスにより生成された投影パターンを消点灯可能な光源の点灯により対象物へ投影する投影手段と、
前記投影パターンが投影された前記対象物を撮像する撮像手段と、
前記表示デバイスの応答特性と前記撮像手段の撮像特性とに基づいて前記撮像手段の撮像期間を算出する算出手段と、
前記撮像期間に前記光源を点灯させることにより、前記撮像手段の前記撮像期間と前記投影手段の投影期間とを同期させるように制御する制御手段と、
を備えることを特徴とする。
本発明によれば、光源の点灯時間を削減し、光源の昇温を防止し、光源の長寿命化および省電力化を実現することができる。
第1実施形態における3次元計測装置の構成を示す図。(予め同期タイミングを用意) 第1実施形態における投影部および撮像部の各々の動作タイミングを示す図。 第1実施形態における同期制御部の内部構成を示す図。 第1実施形態における投影および撮像の同期タイミングと光源点灯とを示す図(全エリア)。 第2実施形態における投影および撮像の同期タイミングと光源点灯とを示す図(ローリングシャッター方式による一部エリアの撮像)。 第2実施形態における投影および撮像の同期タイミングと光源点灯とを示す図(グローバルシャッター方式による一部エリアの撮像)。 第3実施形態における投影および撮像の同期タイミングと光源点灯とを示す図(投影パターンの白部分のみ点灯)。 第4実施形態における計測距離と、投影と撮像の各エリアとの関係を示す図。 第4実施形態における投影および撮像の同期タイミングと光源点灯を示す図(点灯期間を撮像期間より長めに設定)。 第5実施形態における3次元計測装置の構成を示す図(カメラとプロジェクタの特性情報を取得し同期タイミング生成)。 第6実施形態における投影装置の内部構成を示す図(光源制御可能な投影装置)。 第6実施形態における投影と光源点灯のタイミングを示す図。
(第1実施形態)
図1を参照して、第1実施形態における情報処理装置として機能する三次元計測装置の構成を説明する。三次元計測装置は、全体制御部101と、投影部102と、撮像部103と、同期制御部104とを備える。
全体制御部101は、計測パターン出力部101−1と、投影/撮像同期情報管理部101−2と、計測画像処理部101−3と、点灯情報管理部101−4とを備える。投影部102は、光源部102−1を備える。同期制御部104は、光源制御部104−1を備える。
全体制御部101は、計測パターン出力部101−1と、投影/撮像同期情報管理部101−2と、計測画像処理部101−3と、点灯情報管理部101−4との各処理部を制御し、また、投影部102、撮像部103、または同期制御部104と、全体制御部101と、の間での情報の送受信を制御する。
計測パターン出力部101−1は、計測に利用するための投影パターン画像を生成する。計測パターン出力部101−1は、当該投影パターン画像を投影部102へ送信する。
投影/撮像同期情報管理部101−2は、投影部102の投影開始タイミングと撮像部103の撮像開始タイミングとを同期させるための同期情報を予め記憶して管理する。投影/撮像同期情報管理部101−2は、当該同期情報を読み出して同期制御部104へ送信する。
計測画像処理部101−3は、撮像部103により撮像された画像データを受信して解析し、パターンのエッジ位置情報を抽出する。そして、投影部102と撮像部103との基線長や計測対象物までの距離に基づいて三角測量の原理で計測対象物までの距離情報マップを作成する。
点灯情報管理部101−4は、投影部102が備える消点灯可能な光源部102−1の点灯タイミングを制御するための点灯情報を生成する。点灯情報管理部101−4は、当該点灯情報を同期制御部104へ送信する。
投影部102は、投影パターンを計測対象物へ投影する。撮像部103は、投影部102により投影パターンが投影された計測対象物を撮像する。
同期制御部104は、パターン投影による三次元計測の際に投影部102と撮像部103とをフレーム単位で高速に制御することを実現するために、受信した点灯情報および同期情報に基づいて、投影部102による投影開始のタイミングと、撮像部103による撮像開始のタイミングと、を調整して両者の同期制御を行う。
より具体的に説明すると、全体制御部101は、計測パターン出力部101−1により生成された計測に利用するための投影パターン画像を、当該計測パターン出力部101−1を制御することにより、投影部102へ送信する。さらに、全体制御部101は、点灯情報管理部101−4により生成された点灯情報を、点灯情報管理部101−4を制御することにより同期制御部104へ送信する。
投影部102は、投影パターン画像を全体制御部101から受信して、不図示の表示部を駆動する。さらに、点灯情報を同期制御部104から受信する。そして投影部102は、光源部102−1が点灯してから投影パターンを計測対象物へ投影する。
撮像部103は、投影パターンが投影された計測対象物を撮像し、その撮像した画像を全体制御部101に送信する。全体制御部101は、撮像部103により撮像された画像データを受信する。計測画像処理部101−3がその受信された画像データを解析し、パターンのエッジ位置情報を抽出する。そして、計測画像処理部101−3は、投影部102と撮像部103との基線長や計測対象物までの長さに基づいて三角測量の原理で計測対象物までの距離情報マップを作成する。
また、図1では、投影部102による投影の水平走査方向と、撮像部103による撮像の水平走査方向とが同じ方向になるように両者をセッティングしているが、両者の水平走査方向は逆方向であってもよい。
ただし、線順次の表示方式またはローリングシャッター方式の撮像をする場合には、投影部102の副走査方向(すなわち、複数ラインで1フレームを形成するときに、ライン走査を順次進める方向であって水平走査方向に対して垂直な方向)と撮像部103の副走査方向とが同じ方向になるようにセッティングする。これにより、投影部の走査と撮像部の走査との、時間経過による両者の走査位置の差をより小さくすることが可能になる。
また、図1に示すように、撮像部103は、ROI(Region Of Interest)制御により投影部102の投影領域の範囲内で任意の部分領域に撮像領域を設定して撮像する機能を有する。これにより、撮像側の処理の効率アップと高速化を可能としている。
図2(a)および(b)は、投影部102と撮像部103との間で特に調整が難しい線順次方式の表示とローリングシャッター方式の撮像との各々の動作タイミング図である。
例えば、プロジェクタとしては、液晶表示デバイス型が広く普及している。一般的に液晶ではアクティブマトリクス駆動方式を採用している。アクティブマトリクス駆動方式では、水平走査期間ごとに走査線(信号線)に順次走査電圧を印加することにより、対応する画素電極に順次所定の電圧を印加して液晶を駆動し、表示画像が構成される。
ここで、駆動方式は、信号線への電圧印加の方法によって、面順次駆動方式と線順次駆動方式とに大別される。面順次駆動方式は、入力した映像信号に対応する信号線に印加する方式であり、線順次駆動方式は、1ライン分の映像信号を一旦ラッチした後、各映像信号の対応信号線に一度に印加する方式である。一般に線順次駆動方式が広く普及している。しかし、線順次駆動方式では全画面を同時に投影できないため、ある時点では各ラインで駆動状態が異なる表示画像となる。更に、1画面内に前フレーム画像と現フレーム画像とが混在した表示になることから、複数パターンを投影して使用するのは非常に難しい。
図2(a)は、投影部102がアクティブマトリクス駆動方式による線順次駆動方式である場合の動作タイミングを示している。図2(a)の上部には、液晶プロジェクタの線順次駆動方式における、各ラインの投影開始時間のズレと水平走査方向での投影光量の時間的変化とが示されている。縦軸は、投影位置をライン番号で表したものであり、副走査方向(垂直方向)は上から下の方向に走査される。横軸は、時間であり、ここでは2フレーム期間分の時間を示しており、1フレーム目には白パターン(輝度値が高い)、2フレーム目には黒パターン(輝度値が低い)が投影されている。なお、ここでは説明の都合により白パターンと黒パターンとで投影パターンを表現しているが、空間符号化の縦縞の投影をする場合は1フレーム内の水平方向あるいは垂直方向に空間符号化の縦縞に相当する輝度変化が存在している。
これにより、各ラインの投影輝度の時間的な変化はほぼ同じであるが、投影開始時間がラインごとにずれていくため、同時刻で見た場合は、投影位置に応じて光量変化が生じることがわかる。この投影輝度の時間的変化は、液晶デバイスの応答特性に起因している。
アクティブマトリクス駆動方式の場合は、ゲート電極線に加えられた電圧によってそれに接続されている1列分すべてのFET(フィールド・エフェクト・トランジスタ)が"ON"動作となることで、ソースとドレインとの間に電流が流れ、そのときソース電極線に加えられている各々の電圧が液晶電極にかかり、コンデンサには電圧に応じた電荷が蓄積される。ゲート電極線が1列分の充電を終えると電圧の印加は次の列に移り、最初の1列分のFETはゲート電圧を失って"OFF"動作となる。しかし、最初の1列分の液晶電極はソース電極線からの電圧を失うものの、同時にコンデンサに蓄積された電荷によって、次にゲート電極線が選択されるまでの1フレーム分の時間、必要な電圧をほとんど維持できる。ここで、液晶パネルの応答時間は、ブラウン管やプラズマ・ディスプレイ・パネル(PDP)の応答時間であるマイクロ秒程度よりも遅い。その理由は、液状の液晶物質の配向変化という物理的な変化を表示に利用するためであり、具体的には、主に液晶の粘度および層の厚みをパラメータとして配向変化の遅れが決まる。この液晶デバイスの応答特性に基づいて、投影開始から所定の光量に達するまでの期間を算出することが可能になる。また、その算出結果から撮像期間を想定することも可能になる。さらに、計測可能な充分な光量を投影できる期間も算出することが可能になるので、その計測可能な期間内で撮像するように同期タイミングを生成することが可能になる。図2(a)の下側は、前述した上側の表示パネルの動作を簡略化して表現したものである。
図2(b)は、撮像部103であるCMOSセンサの、ローリングシャッター方式での動作タイミングを示している。また、カメラは、従来はCCDを使用したカメラが普及していたが、現在は、カメラ、ビデオ、携帯電話などにおいてCMOSセンサを搭載したものが非常に多くなってきている。その理由は、省電力化、高解像度化が進んでいるためである。またCCDと比較して劣っていた感度性能も以前より格段に向上していることからも、CMOSセンサが広く普及している。
CCDで構成されるCCDセンサは、二次元配列したホトダイオードと、垂直CCDと、水平CCDと、出力アンプとを備えている。ホトダイオードにより光電変換された電荷が、垂直CCDと水平CCDとを経由して順次転送され、当該電荷は、出力アンプにより電圧変換されて電圧信号として出力される。ここで、垂直CCDおよび水平CCDの電荷の蓄積が1画面メモリとして機能するので、露光する時間と読み出す時間とを分離でき、全画素同時露光が可能となる。 一方、CMOSセンサは、ホトダイオードと、水平・垂直MOSスイッチマトリクスと、水平と垂直とを順次走査する水平・垂直走査回路と、出力アンプとを備えている。ホトダイオードにより光電変換された電荷は、垂直走査回路のシフトパルスが到達したときに垂直MOSスイッチを導通状態にし、水平走査回路のシフトパルスが到達したときに 水平MOSスイッチを導通状態にする。
このとき水平・垂直のマトリクス構造になっているので、水平・垂直の両方のスイッチが導通状態になったときにその位置のホトダイオードの電荷が出力アンプに直結し、その電荷は電圧変換されて電圧信号として出力される。ここで、電荷はホトダイオードのみでしか蓄積できないので、水平ラインごとにセンサ情報を順次出力するローリングシャッター方式が採用されている。特殊ケースとして、メモリ機能を付加してグローバルシャッター方式を採用しているCMOSセンサもあるが、内部構成が複雑で回路も大規模になり高価になってしまうことから、ローリングシャッター方式のCMOSセンサが広く普及している。
しかし、ローリングシャッター方式では全画面同時露光での撮像ができないため、同時刻でみるとラインによって状態が異なり、計測のための撮像に使用するのは非常に難しい。
図2(b)の上側には、CMOSセンサのローリングシャッター方式における、各ラインの撮像開始時間のズレと、水平ライン内の露光時間と、転送時間と、水平ブランキング時間の割り振りと、垂直ブランキング時間との関係が示されている。縦軸は、撮像位置をライン番号で表したものであり、副走査方向(垂直方向)は上から下の方向に走査されるものとする。横軸は、時間であり、ここでは2フレーム期間分の時間を示している。
図2(b)より、各水平ラインの撮像開始のずれ時間が、1水平ラインの転送時間と水平ブランキング時間との合計時間に相当することがわかる。このずれ時間は、1ライン当たりに生じる隣接するラインとの投影開始の差分時間である。つまり、ローリングシャッター方式では、1フレームの露光時間を一定に保つために、各水平ラインの露光時間を一定に保つ必要があるが、水平ライン単位で転送処理をするため、前の水平ラインの転送処理が完了しないと次の水平ラインの転送を開始することができない。そこで、前の水平ラインの転送処理と水平ブランキングにかかる時間を予め把握しておき、その時間分だけ前の水平ラインの露光開始よりも時間を遅らせて次のラインの露光を開始するようにすることで、各水平ラインの露光時間を同じ時間に保つようにしている。
そのため、すべての水平ラインでライン内の露光時間、転送時間、水平ブランキング時間は同じだが、各ラインの撮像開始時間がずれていくため、同時刻で見た場合は、撮像位置によって、各水平ラインの露光開始から経過した時間が異なり、更に、露光状態と転送状態と水平ブランキング状態とのうちのいずれかの状態が混在する場合もある。撮像デバイスではこのような撮像特性を有している。図2(b)中の下側は、上側の各ラインの動作を簡略化して表現しているものである。
このような撮像特性を有する投影デバイスと撮像デバイスとを用いて三次元計測するためには、投影側で投影輝度が一定になる期間を充分確保できるようにし、更に、撮像側でその投影輝度が一定の期間中に撮像を完了するように、複数フレームを使って充分な時間を確保する必要がある。
本実施形態では、同期制御部104により、両者の同期タイミングをより正確にかつ適切に調整してフレーム単位で高速計測を実現する。
図3は、同期制御部104の内部構成図示す。同期制御部104は、I/O部301と、制御部302と、同期タイミング参照テーブル303と、同期検出部304と、同期タイミング生成部305と、同期発生部306と、点灯タイミング参照テーブル307と、点灯期間生成部308とを備える。
I/O部301は、全体制御部101から、投影タイミングと撮像タイミングとの同期合わせのための同期タイミング情報や光源点灯情報を受信する。
制御部302は、I/O部301により受信された同期タイミング情報を同期タイミング参照テーブル303へ記憶し、光源点灯情報を点灯タイミング参照テーブル307へ記憶する。
同期検出部304は、投影部102から同期に関係する信号を受信し、同期に必要な同期信号(具体的には、Vsync信号)を検出する。
同期タイミング生成部305は、同期検出部304により検出された同期信号について、同期タイミング参照テーブル303から読み出した同期タイミング情報に基づいて、同期信号を発生させるタイミングになったときに同期発生部306へ同期発生の命令である同期タイミング信号を出力する。同期発生部306は、同期タイミング信号を受けたら、撮像部103が外部トリガ信号として認識できる同期信号を生成して、撮像部103へ送出する。
点灯期間生成部308は、同期タイミング生成部305により生成された同期タイミング信号を用いて、点灯タイミング参照テーブル307から読み出した点灯タイミング情報から点灯信号を生成して、投影部102の光源部102−1へ出力する。
このように、投影部102の投影タイミングに同期して、撮像部103の撮像タイミングの制御と、投影部102の光源102−1の点灯の制御とが可能になる。
図4は、第1実施形態における投影と撮像との同期タイミングについて全エリアを計測した場合の例を示す。図4では、図2(a)および(b)の簡略化した投影と撮像の各々の動作タイミングを同期制御してタイミングを合わせてマージしている。
図4において、平行四辺形401は投影タイミングを示しており、平行四辺形402は撮像タイミングを示している。投影タイミングである平行四辺形401の内側に、撮像タイミングである平行四辺形402が存在すれば、投影タイミングに対して撮像タイミングが適切に調整できていることを表している。
ここで、図4の左側には、線順次駆動方式による投影タイミングとローリングシャッター方式による撮像タイミングとの同期タイミングが示されている。一方、右側には、線順次駆動方式による投影タイミングとグローバルシャッター方式による撮像タイミングとの同期タイミングが示されている。各々の下側には、各々の光源部の点灯タイミングが示されている。
S1は、投影部102の表示デバイスの立ち上りの特性や線順次駆動方式により遅れている有効なパターン投影の開始時間を示しており、S2は、撮像の終了時間を示している。このS2からS1を除いた期間が光源部の点灯期間403になる。
次に、最小の点灯期間403を設定するため、投影動作と撮像動作とを同期させて、効率よく高速に投影および撮像を可能にするタイミングを算出する方法を説明する。
まず、投影パターンのエッジ位置を精度良く計測するためには、投影部102の解像度よりも撮像部103の解像度を高くする必要がある。撮像部103の解像度が投影部102の解像度のp倍であるとすると、撮像部103の水平画素数mと投影部102の水平画素数nとの関係、および、撮像部103の垂直ライン数Nと投影部102の垂直ライン数Mとの関係は、それぞれ以下のようになる。
・水平画素数: n=m×p
・垂直ライン数: N=M×p (ROI制御時は、L+N=M×p、ただしLはROI制御の開始ライン)
投影部102は、表示方式として面順次駆動方式または線順次駆動方式とを採用可能であるが、タイミング調整が難しい線順次駆動方式の液晶デバイスを前提に説明をする。
表示デバイス特有の性能特性情報として、1ライン当たりの投影が有効となるまでのオフセット時間(ここでは「Hp_st」と称する)がある。オフセット時間は、投影開始から計測可能な投影状態になるまでに要する時間であり、表示デバイスの立ち上がりの応答特性に依存している。
また、表示デバイス特有の性能特性情報として、1ライン当たりのズレ時間(ここでは「ΔHp」と称する)がある。線順次駆動方式では、1ラインごとに投影開始時間に一定のズレが生じるが、このズレの程度は、液晶のアクティブマトリクス駆動方式やラインバッファなどの回路構成により決まるものである。
さらに、表示デバイス特有の性能特性情報として、1ライン当たりの有効投影時間(ここでは「Hp」と称する)がある。有効投影時間は、例えば、投影パターンが白パターンである場合に明るさが80%以上である期間、あるいは、投影パターンが黒パターンである場合に明るさが20%以下である期間などであり、表示デバイスの応答特性に依存している。これらの表示デバイス特有の性能特性情報から、以下の時間を算出することが可能になる。
・投影部102のMライン目のズレ時間: ΔHp×M
・投影部102のMライン目の有効投影開始時間: Hp_st+ΔHp×M
・投影部102のMライン目の有効投影終了時間: Hp_st+ΔHp×M+Hp
次に、撮像部103は、撮像方式としてグローバルシャッター方式またはローリングシャッター方式を採用可能であるが、タイミング調整が難しいローリングシャッター方式のCMOS撮像デバイスを前提に説明をする。
ローリングシャッター方式の撮像デバイス特有の性能特性情報として、例えば、ピクセル速度(ここでは「f」と称する)があるが、これは撮像素子からセンサ情報を出力する速度である。
また、ローリングシャッター方式の撮像デバイス特有の性能特性情報として、1ライン当たりのズレ時間(ここでは「ΔHs」と称する )があるが、これは1水平ライン分のセンサ情報を外部に転送するのに要する時間(ブランキング期間も含む)である。
ここで、1ライン当たりの水平画素数n、水平ブランキング数(ここでは「bk」と称する)、または1ライン当たりの露光時間(ここでは「Hs」と称する)といった各性能特性情報は、撮像部103の許容範囲内であれば、操作者が自由に変更して設定できるパラメータである。これらのパラメータから、1ライン当たりのズレ時間ΔHsが ΔHs=(n+bk)×fとして、また、1ライン当たりの処理時間がHs+ΔHsとして算出することができる。
さらに、撮像部103がROI制御を行って部分撮像をしているケースを考える。ROI制御により、ROI制御の開始ラインLのオフセット時間(ここでは「ROI_st」と称する)が任意に設定変更可能なパラメータとしてさらに追加される。ROI制御による撮像を開始するためには、ROI制御の開始ライン位置と同じ位置に相当する投影ラインにおいて、撮像開始前に投影が開始されている必要がある。よって、ROI制御の開始ラインLのオフセット時間ROI_stは、投影側に依存しており、投影側Mライン目の有効投影開始時間(Hp_st +ΔHp×M)、垂直ライン数(M=N÷p)、およびN=Lから、ROI_st=Hp_st+ΔHp×(L÷p)となり、これに基づいて以下の時間を算出することができる。
・撮像部103のNライン目のズレ時間(ROI制御の開始ラインLのオフセット時間ROI_stを加算):
ROI_st+ΔHs×N ⇒ {Hp_st+ΔHp×(L÷p)}+ΔHs×N
・撮像部103のNライン目の撮像開始時間(ROI制御の開始ラインLのオフセット時間ROI_stを加算):
ROI_st+ΔHs×N ⇒ {Hp_st+ΔHp×(L÷p)}+ΔHs×N
・撮像部103のNライン目の撮像終了時間(ROI制御の開始ラインLのオフセット時間ROI_stを加算):
ROI_st+ΔHs×N+Hs ⇒ {Hp_st+ΔHp×(L÷p)}+ΔHs×N+Hs
次に、投影部102の投影時間情報と撮像部103の撮像時間情報とを用いて、投影および撮像のタイミングを適切に調整して制御するための条件を以下に示す。投影部102の有効投影期間内に撮像部103の露光を行うためには、以下の2つの条件を満たす必要がある。
まず条件1としては、投影部102の有効投影開始時間以降に、撮像部103の露光を開始する必要がある。つまり、撮像部103の露光開始時間を、投影の有効投影開始時間以降に設定する必要がある。すなわち、以下の関係を満たす必要がある。
(Nライン目の撮像開始時間)≧(Mライン目の有効投影開始時間)
⇔ ROI_st+ΔHs×N ≧ Hp_st+ΔHp×{(L+N)÷p} 但し、M=(L+N)÷p
⇔ {Hp_st+ΔHp×(L÷p)}+ΔHs×N ≧ Hp_st+ΔHp×((L+N)÷p)
⇔ ΔHs×N−ΔHp×(N÷p) ≧ Hp_st+ΔHp×(L÷p)−Hp_st− ΔHp×(L÷p)
⇒ N ≧ 0
次に、条件2としては、投影部102の有効投影終了時間前に、撮像部103の露光を終了する必要がある。つまり、撮像部103の露光終了時間を、投影部102の有効投影終了時間と同じかそれよりも早く設定する必要がある。すなわち、以下の関係を満たす必要がある。
(Nライン目の撮像終了時間)≦ (Mライン目の有効投影終了時間)⇔ ROI_st+ΔHs×N+Hs ≦ Hp_st+ΔHp×M+Hp
⇔ {Hp_st+ΔHp×(L÷p)}+ΔHs×N+Hs ≦ Hp_st+ΔHp×((L +N)÷p)+Hp 但し、M=(L+N)÷p
⇔ Hp_st+ΔHp×(L÷p)+ΔHs×N+Hs ≦ Hp_st+ΔHp×((L+ N)÷p)+Hp
⇔ N ≦ (Hp−Hs) ÷(ΔHs−ΔHp÷p)
⇔ N ≦ (Hp−Hs) ÷((n+bk)×f−ΔHp÷p) 但し、ΔHs=(n+bk)×f
以上から、条件1および条件2を共に満たすためには、以下の関係を満たす必要がある。
(Hp−Hs) ÷((n+bk)×f−ΔHp÷p) ≧ N ≧ 0 … (1)
この式(1)は、投影部102の1ライン当たりの有効投影時間Hpから撮像部103の露光時間Hsを差し引いた時間が、1フレーム期間内に投影の走査と撮像の走査とにより生じる時間の差を吸収できる猶予期間となり、その猶予期間を投影の走査と撮像の走査とにより生じる1ライン当りの時間差分で割った値が、撮像の最大垂直ライン数Nmaxになることを示している。
ここで、Hp、f、ΔHp÷pは定数であるが、n、bk、Hs、Nは設定パラメータであるため、この条件式を満たすように、撮像の水平画素数n、ブランキング数bk、撮像部103の露光時間Hs、およびROI制御エリアの撮像の垂直ライン数Nを決定することにより、投影および撮像のタイミングを適切に調整することが可能となる。
また、撮像の開始時間S1は、ROI制御の開始ラインLを設定することにより、以下の式により算出することができる。
S1=Hp_st+ ΔHp×(L÷p)、但し、M=L
そして、撮像の終了時間S2は、式(1)を満たすようにROI制御エリアの水平画素数nとブランキング数bkと垂直ライン数Nを設定することにより、以下の式により算出することができる。
S2=S1+ΔHs×N
={Hp_st+ΔHp×(L÷p)}+{(n+bk)×f}×N 但し、ΔHs=(n+bk)×f
ここまでは撮像部103がROI制御を行い撮像するケースで説明したが、ROI制御を行わない場合もあり、下記の2つのケースが考えられる。
ケース1:ROI制御無しで、投影開始と同時に全画面の撮像を開始する場合
ケース2:ROI制御無しで、投影開始からオフセット値(Hs_st)分だけ遅れて全画面の撮像を開始する場合
以下、ケース1およびケース2のそれぞれについてROI制御を行う場合と同様に、以下に示すように各時間を算出する。 ・撮像部103のNライン目のズレ時間:
ケース1:ΔHs×N
ケース2:Hs_st+ΔHs×N
・撮像部103のNライン目の撮像開始時間:
ケース1:ΔHs×N
ケース2:Hs_st+ΔHs×N
・撮像部103のNライン目の撮像終了時間:
ケース1:ΔHs×N+Hs
ケース2:Hs_st+ΔHs×N+Hs
そして、これらを同様に条件1および条件2に当てはめる。まず条件1としては、投影部102の有効投影開始時間以降に、撮像部103の露光を開始する必要がある。つまり、撮像部103の露光開始時間を、投影の有効投影開始時間以降に設定する必要がある。すなわち、以下の関係を満たす必要がある。
(Nライン目の撮像開始時間)≧(Mライン目の有効投影開始時間)
ケース1:
⇔ ΔHs×N ≧ Hp_st+ΔHp×(N÷p)
⇔ N ≧ Hp_st ÷ ((n+bk)×f−ΔHp÷p) 但し、ΔHs=(n+bk)×f
ケース2:
⇔ Hs_st+ΔHs×N ≧ Hp_st+ΔHp×(N÷p)
⇔ N ≧ (Hp_st−Hs_st )÷ ((n+bk)×f−ΔHp÷p) 但し、ΔHs=(n+bk)×f
次に、条件2としては、投影部102の有効投影終了時間前に、撮像部103の露光を終了する必要がある。つまり、撮像部103の露光終了時間を、投影部102の有効投影終了時間と同じかそれよりも早く設定する必要がある。すなわち、以下の関係を満たす必要がある。
(Nライン目の撮像終了時間)≦ (Mライン目の有効投影終了時間)
ケース1:
⇔ ΔHs×N+Hs≦ Hp_st+ΔHp×(N÷p)+Hp
⇔ N ≦ (Hp_st+Hp−Hs) ÷((n+bk)×f−ΔHp÷p)但し、ΔHs=(n+bk)×f
ケース2:
⇔ Hs_st+ΔHs×N+Hs ≦ Hp_st+ΔHp×(N÷p)+ Hp
⇔ N ≦ (Hp_st+Hp−Hs_st−Hs) ÷((n+bk)×f−ΔHp÷p) 但し、ΔHs=(n+bk)×f
以上より、条件1および条件2を共に満たすためには、以下の関係を満たす必要がある。
ケース1:
(Hp_st+Hp−Hs) ÷((n+bk)×f−ΔHp÷p)≧ N ≧ Hp_st÷ ((n+bk)×f−ΔHp÷p) (但し、N≧0)…(2)
ケース2:
(Hp_st+Hp−Hs_st−Hs)÷((n+bk)×f−ΔHp÷p)≧ N ≧ (Hp_st−Hs_st)÷ ((n+bk)×f−ΔHp÷p) (但し、N≧0)…(3)
つまり、ケース1では、投影部102の有効投影期間Hpから撮像部103の露光時間Hsを差し引いた時間に投影開始オフセット時間Hp_stを足した時間が、1フレーム期間内で投影の走査と撮像の走査により生じる時間差分を吸収できる猶予期間となり、その猶予期間を投影の走査と撮像の走査により生じる1ライン当りの時間差分で割った値が、式(2)を満たす撮像の最大の垂直ライン数になることを示している。そのため、その垂直ライン数までの撮像エリアが撮像可能である。また、投影開始オフセット時間Hp_stは、1フレーム期間内で投影の走査と撮像の走査により生じる時間差を利用して撮像開始可能になるまでに費やす期間であり、その期間を投影の走査と撮像の走査により生じる1ライン当りの時間差分で割った値が、式(2)を満たす撮像の最小の垂直ライン数になることを示している。そのため、その垂直ライン数からの撮像エリアが撮像可能である。すなわち、式(2)は、両者を合わせて、垂直ライン数の最小数から最大数までの撮像エリアが有効であることを示している。
また、ケース2では、投影部102の有効投影期間Hpから撮像部103の露光時間Hsを差し引いた時間に、投影開始オフセット時間Hp_stから撮像開始オフセット時間Hs_stを差し引いた時間を足した時間が、1フレーム期間内で投影の走査と撮像の走査により生じる時間差分を吸収できる猶予期間となり、その猶予期間を投影の走査と撮像の走査により生じる1ライン当りの時間差分で割った値が、式(3)を満たす撮像の最大の垂直ライン数になることを示している。そのため、その垂直ライン数までの撮像エリアが撮像可能である。また、投影開始オフセット時間Hp_stは、1フレーム期間内で投影の走査と撮像の走査により生じる時間差を利用して撮像開始可能になるために費やす期間であり、その期間を投影の走査と撮像の走査により生じる1ライン当りの時間差分で割った値が、式(3)を満たす撮像の最小の垂直ライン数を示している。そのため、その垂直ライン数からの撮像エリアが撮像可能である。すなわち、式(3)は、両者を合わせて、垂直ライン数の最小数から最大数までの撮像エリアが有効であることを示している。
ここで、Hp、f、ΔHp数学pは定数であるが、n、bk、Hs、N、Hs_stは設定パラメータであるため、式(2)または式(3)を満たして、撮像の水平画素数n、ブランキング数bk、撮像の露光時間Hs、ROI制御エリアの撮像の垂直ライン数N、および投影開始からのオフセット値Hs_を決定することにより、投影および撮像のタイミングを適切に調整することが可能となる。
また、撮像の開始時間S1および撮像の終了時間S2は、以下の式により算出することができる。
ケース1:
S1=Hp_st
S2=Hp_st+(n+bk)×f×N+Hs
ケース2:
S1=Hs_st
S2=Hp_st+ (n+bk)×f×N+Hs
以上より、撮像部103に対して上記で決定した撮像パラメータを設定し、同期制御部104の撮像開始タイミングを上記により算出した値に設定する。そして同期制御部104が、投影の同期信号に対してその設定値分遅延させて撮像部103へ外部トリガ信号を出力し、撮像部103はそのトリガ信号に合わせて撮像する。これにより、線順次駆動方式の投影部102と、ローリングシャッター方式の撮像部103の組合せであっても、フレーム単位に投影・撮像が可能となり、高速な三次元計測を安価に実現することが可能になる。
ケース1は、図4における左側の線順次駆動方式の投影部102の表示とローリングシャッター方式の撮像部103との組合せに相当している。また、ケース2は、面順次駆動方式の投影部102の表示とローリングシャッター方式の撮像部103との組合せに相当している。なお、図4における右側の線順次駆動方式の投影部102の表示とグローバルシャッター方式の撮像部103との組合せでは、線順次駆動方式の表示で全画面を一斉に表示する期間中(最後のラインが表示を開始してから最初のラインが表示を終了するまでの期間)に撮像するように同期調整を行う。また、面順次駆動方式の表示とグローバルシャッター方式の撮像との同期については、表示期間中に撮像すれば良いので調整は容易である。
以上説明してきたように、本実施形態によれば、投影部の光源を点灯消灯可能な光源とし、投影部・撮像部のライン毎の時間ズレ、表示デバイスの 応答特性、撮像エリア情報(ROIのサイズや位置)や投影パターンなどに基づいて、投影部・撮像部を同期させる。さらに、計測に必要な期間のみ光源を点灯させることにより、投影部の光源利用効率が優れた三次元計測装置を構築可能になる。また、光源の点灯時間を削減し、光源の昇温を防止し、長寿命化および省電力化を実現することができる。
(第2実施形態)
図5および図6を参照して、第2実施形態における、全エリアのうち一部の部分エリアを計測する場合の投影と撮像との同期タイミングについて説明する。以下、このように部分撮像を行うことをROI撮像と称する。
ここで、図5は、ローリングシャッター方式によるROI撮像の場合であり、垂直ラインの上位領域と中間領域と下位領域との3か所でROIを区切って撮像している。この場合は、ROIの位置により、光源部の点灯期間が異なる。上位領域では早くに点灯し、中間領域、下位領域になるにつれて点灯が遅くなる。撮像の開始時間S1は、上位領域の場合はt1、中間領域の場合はt2、下位領域の場合はt3に相当する。また、撮像の終了時間S2は、上位領域の場合はt4、中間領域の場合はt5、下位領域の場合はt6に相当する。
また、図5における右側は、左側よりも高速な撮像系を想定した場合であり、撮像期間が短くなるため、点灯期間も短くすることができることと、更に、もし左側と同じ点灯期間を設ける場合には、矢印501で示されるように露光時間を長くすることができることを示している。
また、図6は、グローバルシャッター方式によるROI撮像の場合であり、図5と同様に、垂直ラインの上位領域と中間領域と下位領域との3か所でROIを区切って撮像している。この場合は、ROIの位置により、光源部の点灯期間が異なる。上位領域では早くに点灯し、中間領域、下位領域になるにつれて点灯が遅くなる。撮像の開始時間S1は、上位領域の場合はt1、中間領域の場合はt2、下位領域の場合はt3に相当する。また、撮像の終了時間S2は、上位領域の場合はt4、中間領域の場合はt5、下位領域の場合はt6に相当する。
また、図6における右側は、左側よりも高速な撮像系を想定した場合であり、撮像期間が短くなるため、点灯期間も短くすることができることと、更に、もし左側と同じ点灯期間を設ける場合には、矢印601で示されるように露光時間を長くすることができることを示している。
(第3実施形態)
図7を参照して、第3実施形態における、投影パターンの白部分(輝度が高い部分)の時のみ光源を点灯させる場合の投影と撮像との同期タイミングについて説明する。図7に示される例では、線順次駆動方式の投影部102の表示とローリングシャッター方式の撮像部103との組合せで、ROI撮像するときに、垂直ラインの上位領域では白黒パターン、中間領域では白黒白黒パターン、下位領域では黒白パターンを、それぞれ投影する。
図5および図6のようにROIの領域だけで判断した場合の点灯期間は、点線枠までの点灯期間が必要になるが、図7の場合、垂直ラインの上位領域では、白パターンのある前半の期間のみ点灯し、後半の黒パターンのときは消灯する。そして、中間領域では、白黒白黒と続く下側の黒パターンのときは消灯する。また、下位領域では、前半の黒パターンで消灯し、後半の白パターンのときのみ点灯する。これにより、点灯時間を必要最小限の期間にすることが可能になる。
また、図7の右側の場合、ローリングシャッター方式の撮像で露光期間をより短くすることができるケースである。例えば、中間領域では、白黒白黒パターンにおいて、途中の白に挟まれた黒領域を撮像する期間が生じるので、その期間では光源をさらに消灯することができることを示している。
(第4実施形態)
本実施形態では、点灯期間を撮像期間より長めに設定する場合の投影と撮像との同期タイミングについて説明する。まず図8を参照して、点灯期間を撮像期間より長めに設定する理由を説明する。
まず、三次元計測で奥行のある対象物を計測するが、その奥行き方向の計測の許容範囲内では計測距離を基準位置から前後にずれた位置で投影し撮像することになる。その場合、基準位置では、投影の投影エリアと撮像の撮像エリアが一致していたとしても、基準位置よりも手前側の位置では、投影エリアが投影側へ移り、かつ投影エリアは小さくなるため、撮像側の一部の撮像エリアで投影されないエリア801が発生してしまう。逆に、基準位置よりも奥側の位置では、投影エリアが撮像側の方へ移り、かつ投影エリアは大きくなるが、投影側の一部の撮像エリアで投影されないエリア802が発生してしまう。そのため、このエリア802に対して投影を行い計測可能にするために点灯期間を撮像期間より長めに設定する必要がある。
図9を参照して、第4実施形態における、点灯期間を撮像期間より長めに設定する場合の投影と撮像との同期タイミングについて説明する。図9では、撮像期間中のみ点灯するのではなく撮像期間の前後に延長して点灯するように点灯期間を設定している。撮像領域のうち投影領域が重複していない領域の水平画素数および垂直ライン数を算出する(領域算出処理)。投影されないエリア802の撮像ライン数を延長する期間に相当するライン数として、ROIのライン数に加算し、その加算したトータルのライン数分を点灯期間にする。
(第5実施形態)
本実施形態では、投影部および撮像部の特性情報を取得して投影と撮像との同期タイミングを生成する構成について説明する。
図10を参照して、第5実施形態における三次元計測装置の構成を説明する。本実施形態の三次元計測装置は、第1実施形態の三次元計測装置の構成に対して、全体制御部101が、投影・撮像性能特性情報記憶部101−5と、投影・撮像同期情報生成部101−6とをさらに備える点が異なる。
投影・撮像性能特性情報記憶部101−5は、投影部および撮像部の性能特性情報を予め記憶しておく。投影・撮像同期情報生成部101−6は、投影・撮像性能特性情報記憶部101−5から必要な性能特性情報を読み出して、読み出した性能特性情報から第1実施形態で説明した算出方法により同期情報を生成し、必要に応じて同期制御部104へ同期情報を出力するように構成する。
従って、投影部や撮像部が変更された場合、変更された部分の性能特性情報を新たに投影・撮像性能特性情報記憶部101−5へ入力して記憶しておくことにより、その性能特性情報に基づいて自動的に同期タイミングを生成することができる。そのため、投影部や撮像部の変更に容易に対応することが可能となる。
(第6実施形態)
図11を参照して、投影部102が有する光源部102−1の内部構成について説明する。図11(a)に示される光源部102−1の構成は、第1実施形態に対応している。光源部102−1は、画像メモリ1101と、同期検知生成部1102と、デバイス駆動部1103と、表示デバイス1104と、光源駆動部1109と、光源1110とを備える。画像メモリ1101は、表示デバイス1104が表示すべき画像データを記憶する同期検知生成部1102は、同期情報を取得して、当該同期情報に従ってデバイス駆動部1103を動作させる。デバイス駆動部1103は、表示デバイス1104を駆動する。また、光源駆動部1109は、光源1110を駆動する。
図11(b)に示される光源部102−1は、図11(a)の構成に加えて、I/O部1105と、制御部1106と、点灯タイミング参照テーブル1107と、点灯期間生成部1108とをさらに備える。I/O部1105は、外部との情報をやり取りする入力/出力部1105である。制御部1106は、I/O部1105を介して外部から転送された点灯タイミング情報を点灯タイミング参照テーブル1107へ記憶する。点灯期間生成部1108は、同期検知生成部1102および点灯タイミング参照テーブル1107から取得した情報に従って、光源駆動部1109を動作させる。
図11(b)の場合は、図11(a)の場合とは異なり、外部から光源1110の点灯タイミング情報を予め光源部102−1へ転送しておき、点灯タイミング参照テーブル1107に展開し、表示デバイス1104の表示タイミングに対して予め設定しておいたオフセット値と点灯期間とで光源1110を点灯する構成である。何れの場合も、光源1110の点灯消灯制御を外部から行うことが可能である。
図12は、図11の投影装置の投影と光源点灯タイミング図を示している。全エリアを点灯した場合と、一部の計測エリアを点灯した場合と、投影パターンで白部分(高輝度領域)のみ点灯した場合について示されている。図12の左側は、計測エリアに白黒パターンを投影した場合であり、右側は、全エリアに白黒パターンを投影した場合である。それぞれ、t2からt3まで光源部を点灯させ、t6からt7まで光源部を点灯させればよい。
(その他の実施形態)
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。

Claims (9)

  1. 表示デバイスにより生成された投影パターンを消点灯可能な光源の点灯により対象物へ投影する投影手段と、
    前記投影パターンが投影された前記対象物を撮像する撮像手段と、
    前記表示デバイスの応答特性と前記撮像手段の撮像特性とに基づいて前記撮像手段の撮像期間を算出する算出手段と、
    前記撮像期間に前記光源を点灯させることにより、前記撮像手段の前記撮像期間と前記投影手段の投影期間とを同期させるように制御する制御手段と、
    を備えることを特徴とする情報処理装置。
  2. 前記撮像手段は、部分領域ごとに撮像可能であり、
    前記算出手段は、前記応答特性と、前記撮像特性と、前記部分領域に対応する撮像素子の水平画素数および垂直ライン数とに基づいて前記撮像期間を算出することを特徴とする請求項1に記載の情報処理装置。
  3. 前記算出手段は、さらに前記投影パターンを構成する白黒パターンのうち白パターンの位置に基づいて前記撮像期間を算出することを特徴とする請求項1に記載の情報処理装置。
  4. 前記撮像特性は、前記撮像手段の撮像素子のピクセル速度であることを特徴とする請求項1乃至3の何れか1項に記載の情報処理装置。
  5. 前記撮像手段は、1ラインごとに撮像動作を行うローリングシャッター方式で動作し、
    前記撮像特性は、前記1ラインごとの露光時間と、前記1ライン分のセンサ情報を前記撮像素子から外部へ転送するのに要する時間と、をさらに含むことを特徴とする請求項4に記載の情報処理装置。
  6. 前記投影手段の前記表示デバイスは、1ラインごとに投影動作を行う線順次駆動方式で動作し、
    前記応答特性は、前記1ライン当たりの投影が可能な状態になるまでのオフセット時間と、前記1ライン当たりに生じる隣接するラインとの投影開始の差分時間と、前記投影パターンが計測可能な時間を示す前記1ライン当たりの有効投影時間とを含むことを特徴とする請求項1乃至5の何れか1項に記載の情報処理装置。
  7. 前記撮像手段の撮像領域のうち前記投影手段の投影領域が重複していない領域の水平画素数および垂直ライン数を算出する領域算出手段をさらに備え、
    前記制御手段は、前記水平画素数および前記垂直ライン数に相当する時間だけ前記撮像期間を延長して、当該延長された撮像期間に前記光源を点灯させることにより、前記撮像手段の前記撮像期間と前記投影手段の投影期間とを同期させるように制御することを特徴とする請求項1に記載の情報処理装置。
  8. 投影手段と、撮像手段と、算出手段と、制御手段とを備える情報処理装置の制御方法であって、
    前記投影手段が、表示デバイスにより生成された投影パターンを消点灯可能な光源の点灯により対象物へ投影する投影工程と、
    前記撮像手段が、前記投影パターンが投影された前記対象物を撮像する撮像工程と、
    前記算出手段が、前記表示デバイスの応答特性と前記撮像手段の撮像特性とに基づいて前記撮像手段の撮像期間を算出する算出工程と、
    前記制御手段が、前記撮像期間に前記光源を点灯させることにより、前記撮像手段の前記撮像期間と前記投影手段の投影期間とを同期させるように制御する制御工程と、
    を備えることを特徴とする情報処理装置の制御方法。
  9. 請求項8に記載の情報処理装置の制御方法の各工程をコンピュータに実行させるためのプログラム。
JP2011277658A 2011-12-19 2011-12-19 情報処理装置、情報処理装置の制御方法、およびプログラム Expired - Fee Related JP5898484B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2011277658A JP5898484B2 (ja) 2011-12-19 2011-12-19 情報処理装置、情報処理装置の制御方法、およびプログラム
US14/361,481 US20140354803A1 (en) 2011-12-19 2012-11-07 Information processing apparatus, control method therefor, and computer-readable storage medium
PCT/JP2012/079444 WO2013094347A1 (en) 2011-12-19 2012-11-07 Information processing apparatus, control method therefor, and computer-readable storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011277658A JP5898484B2 (ja) 2011-12-19 2011-12-19 情報処理装置、情報処理装置の制御方法、およびプログラム

Publications (2)

Publication Number Publication Date
JP2013127434A true JP2013127434A (ja) 2013-06-27
JP5898484B2 JP5898484B2 (ja) 2016-04-06

Family

ID=48668246

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011277658A Expired - Fee Related JP5898484B2 (ja) 2011-12-19 2011-12-19 情報処理装置、情報処理装置の制御方法、およびプログラム

Country Status (3)

Country Link
US (1) US20140354803A1 (ja)
JP (1) JP5898484B2 (ja)
WO (1) WO2013094347A1 (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013160624A (ja) * 2012-02-03 2013-08-19 Canon Inc 三次元計測システム及び方法
JP2017092819A (ja) * 2015-11-13 2017-05-25 キヤノン株式会社 投影装置およびその制御方法、および投影システム
JP2017513000A (ja) * 2014-03-26 2017-05-25 アルケス テクノロジー,インコーポレイテッド 小型3d奥行取得システム
US10161745B2 (en) 2015-06-30 2018-12-25 Panasonic Intellectual Property Management Co., Ltd. Real-time-measurement projection device and three-dimensional-projection measurement device
JP7336020B2 (ja) 2019-08-16 2023-08-30 コネ コーポレイション エレベータロープの画像を生成する方法、該方法を実行する制御装置およびコンピュータプログラム製品

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20140307055A1 (en) 2013-04-15 2014-10-16 Microsoft Corporation Intensity-modulated light pattern for active stereo
US20170078649A1 (en) 2014-03-07 2017-03-16 Brown University Method and system for unsynchronized structured lighting
KR101571719B1 (ko) * 2014-10-02 2015-11-25 엘지전자 주식회사 로봇 청소기
JP2016111689A (ja) * 2014-12-01 2016-06-20 キヤノン株式会社 画像読取装置
JP2017034352A (ja) * 2015-07-29 2017-02-09 キヤノン株式会社 投射装置およびその制御方法、表示装置
WO2018037948A1 (ja) * 2016-08-24 2018-03-01 ソニー株式会社 画像処理装置および方法
JP6410861B2 (ja) * 2017-03-09 2018-10-24 キヤノン株式会社 計測装置、処理装置および物品製造方法
US10990816B1 (en) * 2019-05-01 2021-04-27 Facebook Technologies, Llc Apparatuses, systems, and methods for mapping corneal curvature
CN112235554B (zh) * 2020-10-15 2022-05-13 上海交通大学医学院附属第九人民医院 一种实现投影仪和摄像机软件同步的方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2997245B1 (ja) * 1998-08-06 2000-01-11 株式会社ネクスタ 三次元形状計測装置及びパターン光投影装置
JP2010276607A (ja) * 2009-05-27 2010-12-09 Koh Young Technology Inc 3次元形状測定装置および測定方法
JP2011160420A (ja) * 2010-02-02 2011-08-18 Primesense Ltd 投影照明の画像センサの回転シャッタとの同期

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7834306B2 (en) * 2008-03-24 2010-11-16 Altasens, Inc. Dark current and lag reduction

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2997245B1 (ja) * 1998-08-06 2000-01-11 株式会社ネクスタ 三次元形状計測装置及びパターン光投影装置
JP2010276607A (ja) * 2009-05-27 2010-12-09 Koh Young Technology Inc 3次元形状測定装置および測定方法
JP2011160420A (ja) * 2010-02-02 2011-08-18 Primesense Ltd 投影照明の画像センサの回転シャッタとの同期

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013160624A (ja) * 2012-02-03 2013-08-19 Canon Inc 三次元計測システム及び方法
JP2017513000A (ja) * 2014-03-26 2017-05-25 アルケス テクノロジー,インコーポレイテッド 小型3d奥行取得システム
US10161745B2 (en) 2015-06-30 2018-12-25 Panasonic Intellectual Property Management Co., Ltd. Real-time-measurement projection device and three-dimensional-projection measurement device
JP2017092819A (ja) * 2015-11-13 2017-05-25 キヤノン株式会社 投影装置およびその制御方法、および投影システム
JP7336020B2 (ja) 2019-08-16 2023-08-30 コネ コーポレイション エレベータロープの画像を生成する方法、該方法を実行する制御装置およびコンピュータプログラム製品

Also Published As

Publication number Publication date
US20140354803A1 (en) 2014-12-04
WO2013094347A1 (en) 2013-06-27
JP5898484B2 (ja) 2016-04-06

Similar Documents

Publication Publication Date Title
JP5898484B2 (ja) 情報処理装置、情報処理装置の制御方法、およびプログラム
US10863155B2 (en) Reduction of banding artifacts in image processing
US8462115B2 (en) Motion estimation device and power saving method thereof
JP5683025B2 (ja) 立体画像撮影装置および立体画像撮影方法
US9386236B2 (en) Periodic fringe imaging with structured pattern illumination and electronic rolling shutter detection
RU2627933C2 (ru) Устройство захвата изображения и способ управления им
US10148923B2 (en) Information processing apparatus, information processing method adjustment apparatus, and image display system to adjust projection position of parallax images
US20180191973A1 (en) Solid-state imaging element and driving method and electronic equipment
WO2015001770A1 (ja) 複数の光源を有するモーションセンサ装置
CN110709669B (zh) 信息处理装置和方法
JP2009010836A (ja) 撮像装置、撮像方法、プログラム、および集積回路
US9046935B2 (en) Motion estimation device and power saving method thereof
US8760567B2 (en) Photographing apparatus and method to reduce auto-focus time
JP4831760B2 (ja) 3次元情報検出方法及びその装置
JP2014032159A (ja) 投影撮像システム及び投影撮像システムの制御方法
JP2019080226A (ja) 撮像装置、撮像装置の制御方法、及びプログラム
JP2010130317A (ja) 撮像装置、その制御方法
JP2008312192A (ja) イメージ・クロックを調整する回路及び方法
WO2021216479A1 (en) Event sensor-based depth estimation
JP2012191536A (ja) 監視システム、監視カメラ端末、および動作モード制御プログラム
JP2004023615A (ja) 撮像装置、撮像方法及びそれらを備える携帯端末装置
JP2012004681A (ja) 電荷結合素子の駆動装置、空間情報検出装置
JP2022003730A (ja) 撮像方法、撮像システム、製造システム、および物品の製造方法
JP2017009909A (ja) 投射型映像表示システム、投射型映像表示装置及び投射補正方法
JP5440245B2 (ja) 撮像装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20141210

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150821

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150909

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160205

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160304

R151 Written notification of patent or utility model registration

Ref document number: 5898484

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees