JP5426174B2 - 単眼三次元撮像 - Google Patents

単眼三次元撮像 Download PDF

Info

Publication number
JP5426174B2
JP5426174B2 JP2008554440A JP2008554440A JP5426174B2 JP 5426174 B2 JP5426174 B2 JP 5426174B2 JP 2008554440 A JP2008554440 A JP 2008554440A JP 2008554440 A JP2008554440 A JP 2008554440A JP 5426174 B2 JP5426174 B2 JP 5426174B2
Authority
JP
Japan
Prior art keywords
aperture
optical
refocusing
apertures
sensor
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2008554440A
Other languages
English (en)
Other versions
JP2009527007A (ja
JP2009527007A5 (ja
Inventor
ジェイアール. ロハリー,ジャノス
ピー. ハート,ダグラス
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
3M Innovative Properties Co
Original Assignee
3M Innovative Properties Co
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from US11/530,420 external-priority patent/US7646550B2/en
Priority claimed from US11/530,428 external-priority patent/US7372642B2/en
Priority claimed from US11/530,413 external-priority patent/US7819591B2/en
Application filed by 3M Innovative Properties Co filed Critical 3M Innovative Properties Co
Publication of JP2009527007A publication Critical patent/JP2009527007A/ja
Publication of JP2009527007A5 publication Critical patent/JP2009527007A5/ja
Application granted granted Critical
Publication of JP5426174B2 publication Critical patent/JP5426174B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/282Image signal generators for generating image signals corresponding to three or more geometrical viewpoints, e.g. multi-view systems
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/10Beam splitting or combining systems
    • G02B27/106Beam splitting or combining systems for splitting or combining a plurality of identical beams or images, e.g. image replication
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B5/00Optical elements other than lenses
    • G02B5/005Diaphragms
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B35/00Stereoscopic photography
    • G03B35/08Stereoscopic photography by simultaneous recording
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/207Image signal generators using stereoscopic image cameras using a single 2D image sensor
    • H04N13/218Image signal generators using stereoscopic image cameras using a single 2D image sensor using spatial multiplexing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/243Image signal generators using stereoscopic image cameras using three or more 2D image sensors

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • General Physics & Mathematics (AREA)
  • Optics & Photonics (AREA)
  • Studio Devices (AREA)
  • Stereoscopic And Panoramic Photography (AREA)

Description

(発明の分野)
本発明は撮像分野に関し、より詳細には複数の視野を有する(multi-view)三次元撮像用瞳サンプリングの分野に関する。
(関連出願の相互参照)
本願は、次の米国特許出願の優先権を主張する:米国特許出願番号第60/773,132号(2006年2月13日出願);米国特許出願番号第11/530,413号(2006年9月8日出願);米国特許出願番号第11/530,420号(2006年9月8日出願);および米国特許出願番号第11/530,428(2006年9月8日出願)。
三次元立体情報を捕獲するための一つの方法は、その相対配向が既知である二次元記録装置一対を使用することである。人間または動物の視覚系と酷似して、ステレオ光学系からの立体情報の取得は、2つの撮影センサーの1つ以上のターゲット点の記録位置の間の差異または格差に依存する三角測量技術である。各ターゲット特徴にとって、視差の規模は、イメージングシステムからのかかる特徴の距離に直接関連している。しかしながら、マシン・ビジョン・システムにおいて、この方法は、複数のカメラ/レンズシステムのコスト高および1つのセンサーともう1つのセンサーとの間のターゲット特徴の大きな格差を処理する高い計算コストなどの欠点を有している。
ステレオ撮影に密接な関係を持つ技術は、2つよりはむしろ3つの異なる画像を使用するトリプレット撮影である。トリプレット撮影は、一般に、処理のあいまいさを解消するおよび撮影の冗長を提供するために使用され、これにより最小限の計算コストの追加で精度およびロバスト性を向上させる。ほとんどのトリプレットイメージングシステムは、正三角形の形状で互いに等距離で定置された3つのカメラからなる。ステレオシステムは通常、一方向だけに視差が生じるように調整されたカメラ位置を利用する。この点において、トリプレット構成(例えば、「L]構造)は好ましい結果をもたらし得る。立体ベースのシステムのように、対象物はこれらシステムで捕獲された画像のそれぞれにおいてずれて現れ、カメラ間の変位は奥行きに比例する。しかしながら、ステレオシステムとは異なり、対象物は3つのカメラの間で水平方向および垂直方向の両方においてずれる。一旦カメラの相対位置がわかれば、画像の調整により二次元の差異を1次元の差異に減じることができる。三次元情報を分析するために、3つの画像に現れる物体特徴の視差を、ステレオベースの撮像(イメージング(imaging))とほとんど同じ方法で三角測量を介して測定する。3つの視界は、撮像された空間内の全ての点および境界(線)を画定する。2超過のセンサーを使用することにより、イメージングシステムのいわゆる「アパーチャ効果」への対処がしやくすくなり、局所的な画像視差は、信号を提供する材質の特徴に対して垂直に測定することのみ可能である。この測定には非共線性のセンサーが必要である。より多くのセンサーを有することにより、目標表面の咬合がしやすくなり、1つのセンサーがブロックされてもなお、その他のセンサーが十分な情報を提供することができ、その利益は非共線性のセンサーでより大きい。
三角測量ベースの三次元イメージングシステム(ステレオおよびトリプレットイメージングシステムを含む)においては、獲得した画像間の物体特徴の変位を正確に測定する必要性がある。この変位を測定するために(および、これにより異なる画像を共通の座標系に変換することを可能にするために)必要な処理は、一般に画像レジストレーション(image registration)と呼ばれている。多くの種類の画像レジストレーション処理が開発されており、それらには、オプティカル・フロー(記録された画像強度の勾配に基づく)、相関(撮像された物体特徴の配向および強度に基づく)、およびグラフカット(ユーザが定義したエネルギー関数に関連する画像特性の最小化に基づく)が含まれる。
このように、光学データを撮像された対象物の三次元表示に変換するための多くの数学的手法およびアルゴリズム技法が開発されてきた。しかしながら、三次元撮像用の正確なデータを獲得するための改善された光学ユニットの必要性が残っている。
三次元イメージングシステムは、光チャネルのそれぞれが光学センサーによって個別に捕獲される3つのオフセット光チャネルを取得するために、1つの一次光学レンズをアパーチャ(aperture)の様々な配置、再収束装置等と共に使用する。
一態様において、本明細書に開示されるカメラは中心軸を有する光路を有する一次光学装置;複数の光チャネルを提供するために前記光路の一部を選択的に超過するための複数のアパーチャを有するアパーチャ要素;それぞれが複数のアパーチャの1つの前記光路内の共役位置にある複数の再集束レンズを有する再収束装置;および前記複数の光チャネルの1つ以上を光学センサーへと向かわせるサンプリング装置、を含む。
前記光学センサーは、複数の前記各光チャネルのためのセンサーを有してもよい。前記中心軸は前記複数のアパーチャの1つと交差し得る。前記中心軸は前記再集束レンズ1つと交差し得る。前記サンプリング装置は少なくとも一つのプリズムを有し得る。前記少なくとも一つのプリズムは、前記中心軸上に位置するホールを有するプリズムを含んでもよく、前記ホールは前記複数の光チャネルの中心の光チャネルを通過する。前記サンプリング装置は少なくとも一つのミラーを有し得る。前記少なくとも一つのミラーは、前記複数の光チャネルの、中心の光チャネルを通す空間によって隔てられる2つのミラーを有し得る。前記アパーチャ要素および前記再収束装置の少なくとも1つは、回転するように適合されていてもよい。前記アパーチャ要素は、前記再収束装置が静止している間回転するように適合されていてもよい。前記アパーチャ要素は3つのアパーチャを有し得る。前記カメラは、前記光学センサーによって取得されたデータを処理する画像プロセッサを有し得る。
本明細書に記載の三次元光学イメージングシステムは、前記イメージングシステムの一次光路内の1つの一次光学装置;前記一次光路内の光束をサンプリングして複数のサンプリングされた光束を提供する分割装置;前記複数のサンプリングされた光束の1つを受け取る少なくとも1つのセンサー;および前記少なくとも1つのセンサーの出力を処理する画像処理装置を含む。
前記複数のサンプリングされた光束は、それぞれが光チャネルを提供する3つの光束を含み得る。前記少なくとも1つのセンサーは、それぞれが前記複数の光束の1つからデータを取得する3つのセンサーを含み得る。
別の態様では、本明細書に記載の三次元光学イメージングシステムは、1つの一次光学装置;前記イメージングシステムの光路の第1の瞳に位置する瞳サンプリング装置;および前記光路の第2の瞳に位置する瞳分割装置、を含む。
前記瞳サンプリング装置は3つの光チャネルを含み得る。前記3つの光チャネルは、前記1つの一次光学装置の中心軸と軸を共有する少なくとも1つの中心チャネルを含み得る。
別の態様では、本明細書に記載の三次元光学イメージングシステムは、一次光学装置、前記一次光学装置の波面の一部をサンプリングしてサンプリングされた波面を提供する、少なくとも1つがバンドパスフィルターを有する複数のアパーチャを含む、アパーチャ要素;前記サンプリングされた波面の一部を受け取るセンサー;および前記センサーの出力を処理する画像処理装置、を含む。
前記複数のアパーチャは3つのアパーチャを含み得る。前記一次光学装置の中心軸は、前記3つのアパーチャの1つと交差し得る。
三次元イメージングシステムは、それぞれが光学センサーによって個別に捕獲され得る3つのオフセット光チャネルを取得するために、3つの共線的アパーチャと共に1つの一次光学レンズを用いる。
一態様において、本明細書に開示されるデバイスは、中心軸を有する一次光学装置内に配置されるアパーチャ要素を含み、前記アパーチャ要素は共線的に配置される3つのアパーチャを有し、前記アパーチャのそれぞれは前記一次光学装置の光波面(optical wavefront)の一部を選択的に透過し、これにより3つの光チャネルを提供し、および前記アパーチャの中心のアパーチャは前記中心軸上に配置される。
前記3つのアパーチャは、ほぼ等しく相隔たっていてもよい。前記アパーチャ要素は1以上の移動プレート、電子アパーチャ、シャッタ、シャッタ開口、振動式のアパーチャ、フリップミラー(flipping mirror)、回転ミラー(rotating mirror)、およびデジタル光プロセッサ(digital light processor)(DLP)を含み得る。前記アパーチャ要素は前記中心軸上を回転するように適合されていてもよい。前記デバイスは、前記一次光学装置内の前記3つのアパーチャと共役位置に位置する3つの再収束素子を有する再収束装置を含み得る。前記再収束装置は前記中心軸上を回転するように適合されていてもよい。前記アパーチャ要素が前記中心軸上を回転するように適合されていてもよい。前記再収束装置は、前記アパーチャ要素と反対方向に回転するように適合されていてもよい。前記デバイスは、前記3つの光チャネルのそれぞれからのデータを捕獲するために配置される3つの光学センサーを含み得る。前記3つの光学センサーのそれぞれは、RGBデータを取得するための一群のセンサーを含み得る。前記デバイスは、前記3つの光チャネルを前記3つの光学センサーに向けなおすサンプリング装置を有し得る。前記サンプリング装置は、前記アパーチャの前記中心のアパーチャに対応する前記光チャネルの中心のチャネルを通す空間によって隔てられた2つのミラーを有し得る。前記サンプリング装置は3つのミラーを有し得る。前記サンプリング装置は少なくとも1つのプリズムを有し得る。前記少なくとも1つのプリズムは、前記アパーチャの前記中心のアパーチャに対応する前記光チャネルの中心のチャネルを通過するホールを有するプリズムを含み得る。
別の態様では、本明細書に開示されるデバイスは、中心軸を有する一次光学装置内に位置する再収束装置を含み、前記再収束装置は共線的に配置されおよびほぼ等しく離間する3つの再収束素子を含み、前記3つの再収束素子のそれぞれは前記一次光学装置の光波面の一部を再収束し、および前記再収束素子の中心の素子は前記中心軸上に配置される。
前記再収束装置は前記中心軸上で回転するように適合され得る。前記再収束素子は少なくとも1つのミラーを有し得る。前記再収束素子は少なくとも1つのレンズを有し得る。前記再収束素子は少なくとも1つの中間光学素子を有し得る。前記デバイスは、前記3つの光チャネルのそれぞれからのデータを捕獲するために配置される3つの光学センサーを有し得る。前記3つの光学センサーのそれぞれは、RGBデータを取得するための一群のセンサーを有し得る。
別の態様では、本明細書に開示されるセンサーからの画像を処理する方法は、光路の中心のチャネルからのデータを捕獲する中心センサーおよび2つの横側センサーを含み、各横側センサーが前記光路内の画像の動きに対して等しい変異を有する、イメージングシステムの3つの光学センサーの前記出力を受け取ること;前記センサーの2つの間のレジストレーションの変位方向のサインを変えること;および前記中心センサーと前記2つの横側センサーとの間のレジストレーションを合成すること、を含む。
三次元イメージングシステムは、光学センサーによって個別に捕獲され得る3つのオフセット光チャネルを獲得するために、3つの非共線的アパーチャと共に1つの一次光学レンズを使用する。
一態様において、本明細書に開示されるデバイスは、中心軸を有する一次光学装置内に配置されるアパーチャ要素を含み、前記アパーチャ要素は非共線的に配置される3つのアパーチャを有し、前記アパーチャのそれぞれが前記一次光学装置の光学的波面の一部を選択的に透過し、これにより3つの光チャネルを提供する。
前記3つのアパーチャの1つは、前記中心軸上に配置される中央のアパーチャであってもよい。前記デバイスは、前記中心軸上に配置される4つ目のアパーチャを有してもよい。前記3つのアパーチャはほぼ等しく相隔たっていてもよい。前記3つのアパーチャが直角を形成してもよい。前記3つのアパーチャの2つは、前記一次光学装置前記中心軸に対して180°離間し得る。前記アパーチャ要素は、1つ以上の移動プレート、電子アパーチャ、シャッタ、シャッタ開口、振動式のアパーチャ、フリップミラー、回転ミラー、およびデジタル光プロセッサ(DLP)を含み得る。前記アパーチャ要素は前記中心軸上を回転するように適合され得る。前記デバイスは、前記一次光学装置内の前記3つのアパーチャと共役位置に位置する3つの再収束素子を有する再収束装置を含み得る。前記再収束装置は前記中心軸上を回転するように適合されていてもよい。前記アパーチャ要素は前記中心軸上を回転するように適合されていてもよい。前記再収束装置は、前記アパーチャ要素と反対方向に回転するように適合されていてもよい。前記デバイスは、前記3つの光チャネルのそれぞれからのデータを捕獲するために配置される3つの光学センサーを含み得る。前記3つの光学センサーのそれぞれは、RGBデータを取得するための一群のセンサーを含み得る。前記デバイスは、前記3つの光チャネルを前記3つの光学センサーに向けなおすサンプリング装置を有し得る。前記サンプリング装置は、前記アパーチャの前記中心のアパーチャに対応する前記光チャネルの中心のチャネルを通す空間によって隔てられた2つのミラーを有し得る。前記サンプリング装置は3つのミラーを有し得る。前記サンプリング装置は少なくとも1つのプリズムを有し得る。前記少なくとも1つのプリズムは、前記アパーチャの前記中心のアパーチャに対応する前記光チャネルの中心のチャネルを通過するホールを有するプリズムを含み得る。
別の態様では、本明細書に開示されるデバイスは中心軸を有する一次光学装置内に位置する再収束装置を含み、前記再収束装置は共線的に配置されおよびほぼ等しく離間する3つの再収束素子を含み、前記3つの再収束素子のそれぞれは前記一次光学装置の光波面の一部を再収束し、および前記再収束素子の中心の素子は前記中心軸上に配置される。
前記再収束装置は前記中心軸上で回転するように適合され得る。前記再収束素子は少なくとも1つのミラーを有し得る。前記再収束素子は少なくとも1つのレンズを有し得る。前記再収束素子は少なくとも1つの中間光学素子を有し得る。前記デバイスは、前記3つの光チャネルのそれぞれからのデータを捕獲するために配置される3つの光学センサーを有し得る。前記3つの光学センサーのそれぞれは、RGBデータを取得するための一群のセンサーを有し得る。
一態様において、本明細書に開示されるデバイスは、1つの一次光学装置;前記1つの一次光学装置を通過する光波面の1つ以上の部分をサンプリングし、および前記光波面を像面上に焦点を合わせるための、光学イメージングシステムの一次光路内の再収束装置;前記再収束装置と共役位置にある移動アパーチャ要素;前記光波面の1以上の部分を分割する分割装置;前記光波面の前記1以上の部分の少なくとも1つを受け取る少なくとも1つのセンサー;前記少なくとも1つのセンサーの出力を処理する画像処理装置;および前記移動アパーチャ要素および前記再収束装置の少なくとも1つを、前記少なくとも1つのセンサーの前記出力に基づいて制御するフィードバック装置、を含む。
前記デバイスは、光束を中継する1以上のリレー・レンズをさらに含んでもよい。前記1つの一次光学装置はレンズを含み得る。前記1つの一次光学装置はミラー一式を含み得る。前記1つの一次光学装置は電子光学装置であってもよい。前記電子光学装置は液晶表示装置を含み得る。前記電子光学装置はフリップミラーを含み得る。
前記再収束装置は3つの再収束素子を含み得る。前記3つの再収束素子は、前記一次光路の前記軸から外れて共線的に配置され得る。前記3つの再収束素子は三角形に配置され得る。前記三角形は直角三角形であってもよい。
前記再収束装置は2つの再集束レンズを含み得る。前記再収束装置は回転する再収束装置であってもよい。前記再収束装置は、前記移動アパーチャ要素の回転と同期して回転するように適合され得る。前記再収束装置はミラーベースの再収束装置であってもよい。前記再収束装置は、前記1つの一次光学装置の後ろに配置され得る。前記再収束装置は前記1つの一次光学装置の前に配置され得る。前記再収束装置は前記一次光学装置内にあってもよい。前記移動アパーチャ要素は回転するように適合され得る。
前記移動アパーチャ要素は、前記再収束装置の3つの再集束レンズに対応する3つのアパーチャを有していてもよい。前記3つのアパーチャは、前記一次光路の前記軸から外れて共線的に配置され得る。前記3つのアパーチャは三角形に配置され得る。前記三角形は直角三角形であってもよい。
前記移動アパーチャ要素は、前記再収束装置の回転と同期して回転するように適合され得る。前記移動アパーチャ要素は、前記再収束装置の前記回転の方向に回転するように適合され得る。前記移動アパーチャ要素は、前記再収束装置の前記回転と反対方向に回転するように適合され得る。前記移動アパーチャ要素は、前記一次光路の前記1つの一次光学装置の前にあってもよい。前記移動アパーチャ要素は、前記一次光路の前記1つの一次光学装置の後ろにあってもよい。前記移動アパーチャ要素は、前記システムの瞳に位置してもよい。前記移動アパーチャ要素の少なくとも1つのアパーチャは、前記一次光路の軸上に位置し得る。前記移動アパーチャ要素は回転式アパーチャ要素であってもよく、前記移動アパーチャ要素の少なくとも1つのアパーチャは、前記移動アパーチャ要素の回転中に、前記一次光路の軸に対して移動しない。前記移動アパーチャ要素の少なくとも1つのアパーチャを通過する画像は固定参照を提供し得る。
前記分割装置は瞳分割装置を含み得る。前記分割装置は瞳サンプリング装置を含み得る。前記分割装置は偏光分割器(polarizing splitter)を含み得る。前記分割装置はプリズムを含み得る。前記分割装置は一対のミラーを含み得る。前記一対のミラーは、画像の中心チャネルがセンサーに直接通過するのを可能にする空間によって隔てられ得る。前記分割装置は、画像の一部が前記ミラーの一部を通過するのを可能にする透過部分を有するミラーを含み得る。
前記デバイスは、前記移動アパーチャ要素の3つのアパーチャに対応する3つの光束に関連して配置される3つのセンサーをさらに含み得る。
前記デバイスは、前記一次光路の中心軸に沿った後部チャネルとして配置される第1のセンサー、および前記一次光路の中心軸に対して軸外に配置される第2のセンサーをさらに含み得る。前記少なくとも1つのセンサーは、1つのセンサーから構成され得る。前記1つのセンサーはRGBセンサーであり得る。前記1つのセンサーは、それぞれが光の特定の波長に選択的に応答する複数のセンサー素子を含み得る。
前記画像処理装置はカメラを含み得る。前記画像処理装置はマシン・ビジョン・システムを含み得る。前記画像処理装置は動き検出システムを含み得る。前記画像処理装置は三次元イメージング装置を含み得る。前記画像処理装置は医療用イメージング装置を含み得る。前記画像処理装置は歯科用イメージング装置を含み得る。前記画像処理装置は、時空間処理に基づくトリプレット画像処理を実施し得る。前記画像処理装置は、相関に基づく画像処理を実施し得る。前記画像処理装置は、視差に基づく画像処理を実施し得る。前記画像処理装置は、速度測定を実施可能であってもよい。前記再収束装置は、前記一次光路内の前記1つの一次光学装置の前に配置され得る。
前記デバイスは、前記移動アパーチャ要素と同期して動くように適合された遮蔽素子をさらに含み得る。
前記デバイスは、光学的画像データの収差を補正するために用いることができる。
一態様において、本明細書に開示されるデバイスは、1つの一次光学装置;光波面の複数のサンプリングされた部分を提供するために、前記イメージングシステムの瞳の一部をサンプリングする分割装置;前記複数のサンプリングされた部分のそれぞれを受け取る3つ以上のセンサー一式;および前記センサーの出力を処理する画像処理装置を含む。
一態様において、本明細書に開示されるデバイスは、前記イメージングシステムの一次光路内の1つの一次光学装置;および前記一次光学装置を通過する波面の一部をサンプリングするように適合された、一次光路内の前記再収束装置を含み得る。
一態様において、本明細書に開示されるデバイスは、前記イメージングシステムの一次光路内の1つの一次光学装置;前記一次光学装置を通過する波面の一部をサンプリングするように適合された、一次光路内の再収束装置;サンプリングされた波面を提供するために前記波面の前記一部をサンプリングする移動アパーチャ要素;前記サンプリングされた波面を受け取る少なくとも1つのセンサー;および前記少なくとも1つのセンサーの出力を処理する画像処理装置を含み得る。
一態様において、本明細書に開示されるデバイスは、サンプリングされた波面を提供するために波面の一部をサンプリングする移動アパーチャ要素;前記サンプリングされた波面を受け取る少なくとも1つのセンサー;および前記少なくとも1つのセンサーの出力を処理する画像処理装置を含み得る。
一態様において、本明細書に開示されるデバイスは、前記イメージングシステムの一次光路の瞳の位置に位置し、前記一次光路の軸上に位置する少なくとも1つのアパーチャを有し、波面の一部をサンプリングする移動アパーチャ要素;前記波面のサンプリングされた部分を受け取る少なくとも1つのセンサー;および前記1以上のセンサーの出力を処理する画像処理装置を含み得る。
一態様において、本明細書に開示されるデバイスは、一次光路の瞳の位置のイメージングシステムの前記一次光路内に位置し、互いに対して直線状に配置される複数のアパーチャを含み、前記イメージングシステムの波面の部分をサンプリングする、アパーチャ要素を含む。
一態様において、本明細書に開示されるデバイスは、1つの一次光学装置;サンプリングされた波面を提供するための前記イメージングシステム内の波面の一部をサンプリングする、前記一次光路の瞳の位置の前記イメージングシステムの一次光路に位置する回転アパーチャ要素;前記サンプリングされた波面の一部を感知する少なくとも1つのセンサー;および前記少なくとも1つのセンサーの出力を処理する画像処理装置を含む。
一態様において、本明細書に開示されるデバイスは、イメージングシステムの一次光路内の1つの一次光学装置;前記一次光路の波面の一部をサンプリングするための前記一次光路内の再収束装置;前記一次光路内の前記波面の一部をサンプリングする移動アパーチャ要素;前記一次光路内の瞳の部分を分割する分割装置;前記再収束装置、前記移動アパーチャ、および前記分割装置の後に前記波面を受け取るセンサー;および前記センサーの出力を処理する画像処理装置を含む。
一態様において、本明細書に開示されるデバイスは、前記イメージングシステムの一次光路内の1つの一次光学装置;前記一次光路の波面の一部をサンプリングするための前記一次光路内の再収束装置;前記再収束装置から前記波面を受け取り、前記受け取った波面をサンプリングするように適合された、複数のアパーチャを有する複数のアパーチャ要素;複数のサンプリングされた波面を提供するために前記一次光路内の瞳の部分を分割する分割装置;前記複数のサンプリングされた波面の1以上を受け取るセンサーであって、前記センサーが前記複数のアパーチャの少なくとも2つから同時にサンプリングされた波面を受け取るように適合されている、センサー;および前記1以上のセンサーの前記出力を処理する画像処理装置を含む。
一態様において、本明細書に開示されるデバイスは、光路および2つの横側センサーの中央チャネルからのデータを捕獲し、前記各横側センサーが前記光路内の画像の動きに対して等しい変位を有している、イメージングシステムの3つの光学センサーの出力を受け取ること;前記センサーの2つの間のレジストレーションの変位方向のサインを変えること;および前記中央センサーと前記2つの横側センサーとの間のレジストレーションを組み合わせることを含む。
本明細書で特定されたすべての文献は、その全体を参照として援用する。
以下の図に描かれたレイトレース(ray traces)およびレンズは図示のみを目的としており、一般に開示されたシステム内の光路を示していることは理解されるであろう。以下の発明を実施するための最良の形態に明示的に示されている場合を除いて、レイトレースおよびレンズの形状は、様々な光学構成要素を通過する光線または光束の数、方向、形状、位置または寸法の任意の変化にかかわらず、それらの規模、方向、または焦点を含む本発明の範囲をいかなる意味においても制限するものではないと理解されるべきである。
図1を参照すると、様々な光学構成要素を含む、本開示の一つの好ましい実施形態におけるイメージングシステム100の概要図が描かれている。イメージングシステム100は、あらゆる種類の画像処理システムで使用することのできる第一次光学装置102を含んでもよい。一般に、本明細書において主要な光学装置は、一つの光チャネルを有する光学システムを言う。以下の記載において、この光チャネルの変形が明示的に説明されている場合、ないしは別の方法で文脈から明らかになる場合があるが、典型的には、この光チャネルは少なくとも1つのレンズを共有し、光学システム内に共有の像面を有している。イメージングシステム100は、1つの一次レンズ、レンズ群、対物レンズ、ミラーシステム(従来のミラー、ディジタルミラーシステムまたはディジタル光プロセッサ等を含む)、集光ミラー、および本明細書に記載のシステムと共に使用するのに好適な任意のその他の光学装置を含んでもよい。イメージングシステム100は、例えば、ステレオまたはその他の多重画像カメラシステムにおいて使用され得る。その他の光学装置はホログラフィック光学素子等を含んでもよい。様々な構成において、第一次光学装置102は、対物レンズ(またはレンズ群)102b、視野レンズ102d、リレー・レンズ102などの1つ以上のレンズを含んでもよい。対物レンズ102bは、イメージングシステム100の入射瞳にまたはその近傍に配置されてもよい。視野レンズ102dは、システム100の第1の像面102cにまたはその近傍に配置されてもよい。リレー・レンズ102fは、システム100内の光線の束を中継することができる。図1には1つの実施形態が描かれているが、多くの変形が可能であることは理解されよう。さらに、レンズのいくつか(例えば、102dおよび102f)はダブレットとして描かれているが、これらはまた単レンズであってもよい。
イメージングシステム100は能動波面(active wavefront)サンプリング用に設計されてもよく、図1の物体120のような物体(1または複数)から、物体の二次元または三次元特徴を検出するのに役立つ、一連のまたは一群の光学データを、動きを検出する光学データ、速度測定または物体追跡のための光学データ等を用いてサンプリングするために用いられる任意の技術を包含すると考えられるべきである。物体120は、撮像スキャナ(imaging wand)、カメラ等に含まれるシステムなどのイメージングシステム100によってスキャンされる、公称対象物面上に設置され得る。
イメージングシステム100はアパーチャ要素108を有していてもよく、当該要素は、第一次光学装置102を通って通過する光信号の一部分を選択的に通過させるための任意の要素(1または複数)を含み得る。視野レンズ102dとリレー・レンズ102fとの間の位置に描かれているが、アパーチャ要素108が第一次光学装置102内側または外側の様々な位置、例えば第一次光学装置102としての機能を果たすレンズの前側、内側、または後ろ側、などに好適に定置することができることは理解されよう。アパーチャ要素108は、1つ以上のアパーチャ112を含んでもよい。実施形態において、アパーチャ要素108は任意の種類のアパーチャ要素を含んでもよい。当該アパーチャ要素には、動的アパーチャ(dynamic aperture)、移動プレート、移動アパーチャ、電子的に制御されたアパーチャ、電子アパーチャ、シャッタ、シャッタ開口、可変絞り、振動式のアパーチャ、制御可能なアパーチャ、回転アパーチャ、フリップミラー、回転ミラー、デジタル光プロセッサ(DLP)、またはその他同様の構成要素が挙げられる。アパーチャ112は、イメージングシステムの第1光路と同一線上/軸上、または近軸/軸外などの様々な位置に配置され得る。実施形態において、アパーチャ要素108のアパーチャ112は、一連の3つのアパーチャ112、アパーチャ112の正三角形、一対のアパーチャ112、「L」形に配置されたアパーチャ112等など、様々な構成で配置された複数のアパーチャ108を含むことができる。実施形態において、アパーチャ112の1つはイメージングシステム100の中心軸上に位置してもよい。一実施形態において、3つの共線形アパーチャ112がその中に配列され、当該アパーチャの1つがイメージングシステム100の中心軸上に位置している回転アパーチャ要素108は、イメージングシステム100の中心軸の周りを回転し得る。本明細書に記載の任意の回転要素は、当該技術分野において既知の、および本明細書に記載の光学システムと共に使用するのに好適な、任意の電気機械的またはその他の手段を用いて回転するように適合されている。アパーチャ要素108のその他2つのアパーチャ112は、中央に位置するアパーチャ112一直線に位置してもよく、当該2つの横側のアパーチャのそれぞれは、中心のアパーチャ112から同じ距離で間隔が開けられる。その他の実施形態において、アパーチャ112は、三角形、「L」形等のようなその他様々な形状に配置されてもよい。回転アパーチャ要素108上の3つのアパーチャ112は、第一次光学装置102を通過する光束の3つの個別部分のサンプリングを可能にする。アパーチャ要素108は、イメージングシステム100の一次レンズなどの第一次光学装置102からの波面の一部の能動的サンプリングを可能とし得る。アパーチャ要素108のアパーチャ11の1つ以上は定位置に配置され得る。当該定位置は、イメージングシステム100の中心軸上またはイメージングシステム100に対して固定されたまたは不変の別の位置のいずれかである。実施形態において、ホログラフィック光学素子の使用は横側アパーチャのオフセットを増加させることができ、これによりイメージングシステム100の深さ分解能または感度を有利に増すことができる。
アパーチャ112の1つ以上は、撮像処理用の固定された参照画像としての役割を果たし得る。したがって、一態様において、本明細書において開示されるのは、参照画像を確立する少なくとも1つの不変アパーチャを有する、第1の光路中の複数のアパーチャ要素108を採用した三次元イメージングシステムである。本システムは、移動するまたは能動的な複数のアパーチャ要素108を含んでもよい。本システムは3つ以上の光チャネルを担持する分割装置を有してもよい。非移動アパーチャは近軸位置に位置してもよく、または中心軸上に位置してもよい。
別の態様では、本明細書において開示されるのは、3つのアパーチャ要素108を有する三次元イメージングシステムであり、アパーチャ112は共線的である、即ち、互いに直線的に配列されている。3つのアパーチャ要素108は、1つ以上のアパーチャ112が光路内を移動する移動型構成要素であってもよい。別の実施形態において、アパーチャ要素108は、三角形(例えば、正三角形)の形状で配置されたアパーチャを有してもよく、線状に配置された一対のアパーチャ、「L」形(例えば、直角三角形)に配置されたアパーチャ等を有してもよい。
イメージングシステム100は1以上の再収束装置110を有してもよく、当該装置には、光束あるいは画像または画像の一部の焦点を再度合わせるため、または焦点を変えるため、焦点を調節するため等の任意の装置が含まれることを理解すべきである。実施形態は、再集束レンズ、リレー・レンズ、ミラーシステム、または、特定の文脈に応じて適切に、第一次光学装置102に関連して上記した光学装置のいずれかを含む、光を中継すること、符号化すること、または再度焦点を合わせることの可能なその他の光学装置を有してもよい。いくつかの実施形態において、再収束装置110は、光路の焦点深度を拡大させる1つ以上の中間光学素子、例えば、ガラスコーンまたはCDMオプティクス社(CDM Optics, Inc.)から市販の波面変調(Wavefront Coding)(商標)デバイス、を有してもよい。本明細書に開示のシステムと共に使用するのに好適な中間光学素子は、例えば、L.M.ソロコ(L.M. Soroko)によるメソオプティクス:基礎と応用(Meso-Optics Foundations and Applications)(1996年11月)に記載されており、当該文献の全体を参照として本明細書に援用する。これら素子は、関連光路の焦点範囲を拡大することが可能であり、第一次光学装置の焦点平面と異なる距離にある画像の捕獲を可能にし得る一方、センサーによって取得した対応する画像は、光束からのシャープな画像を回収するための復号アルゴリズムまたは処理を必要とする方法でコード化され得ることを理解されたい。好適な復号アルゴリズムは既知であり、一次光学装置を具現化するカメラに付随する任意の画像処理システムに配置され得る。
再収束装置110は複数の再集束レンズからなる1つ以上の再収束素子104を坦持してもよい。再収束装置110およびアパーチャ要素108は、光学システム100の共役位置に位置することができ、特定の実施形態においては、システム100内のほぼ同じ位置であると考えられ得る。例えば、制限の目的でなく、アパーチャ要素108および再収束装置110は、各アパーチャが光学装置の共有の瞳位置で再集束レンズを囲むなどによってなど、同一平面上にあってもよい。再収束装置110およびアパーチャ要素108は回転することができ、適切な位置にあるとき、1以上のセンサー上に画像の焦点を合わせる。再収束装置110は回転アパーチャ要素108と同じ方向、反対方向に、同じ速度および/または異なる速度で回転することが可能である。実施形態において、構成要素110、108はプロセッサ(図示せず)によって制御される。
イメージングシステム100は、サンプリング装置118を有していてもよい。サンプリング装置118は、イメージングシステム100を通過する光信号の一部をサンプリングするまたは光信号の一部の方向を変える任意の種類の装置を有していてもよく、当該装置には、分割装置、瞳分割部、瞳分割装置、プリズム、スプリッタ、ミラー、瞳サンプリング装置、複数のミラー、フィルター、透明要素を有するミラー、間に空間を有する一対のミラー、またはその他のかかる装置が挙げられる。出口瞳(即ち、第一次光学装置102の外側に位置する)でのサンプリングに加え、第一次光学装置102の内部の瞳でサンプリングすることが可能である。さらに図1を参照すると、サンプリング装置118は、異なる方向に光を反射するための一対のミラーをイメージングシステム100内に有してもよい。サンプリング装置118は、異なる光束を異なるセンサー114a、114bおよび114cに向けて反射する位置に複数のミラーを有していてもよい。描かれているように、第1のサンプリング装置118は光を第1のサイドセンサー114aに向け、第2のサンプリング装置118は光を第1のサイドセンサー114cに向けることができる。同軸の(または近軸の)光束を、イメージングシステム100の中心軸に沿って後部センサー114bへと向かわせる、2つのサンプリング装置118の間には、空間が設けられてもよい。図1のシステムにおいて、各サンプリング装置118が、アパーチャ要素108のアパーチャ112の1つによって選択された一次光束の一部を受け取るように配置されていることに留意されたい。各アパーチャ112はまた、アパーチャ112に付随する再収束素子110を共役位置に有してもよい。言い換えると、各センサー114a、114bまたは114cは、第一次光学装置102からの光束の対応する部分を受け取ることができ、異なる光束を個別に処理することが可能である。
異なる光束を異なるセンサー114に向かわせるために、様々なその他の構造が提供され得ることは理解されるべきである。例えば、光の一部が後部センサー114へと通過するのを可能とするために、1つのミラーに透過型の中心要素、例えば、ホール、を設けてもよい。より一般的には、フィルター、スプリッタ、ミラー、屈折および/または反射素子等、並びに機械的な、電気機械の、および/または電気のシャッタを含む様々な光学技術を、本明細書に記載のシステムに有用に採用してもよい。
センサー114は、光エネルギー、例えば、可視光線、赤外線エネルギー、X線、紫外線または、第一次光学装置102を透過することのできる電磁スペクトルの任意の部分からのその他のエネルギー、の状態を感知するのに好適な任意のセンサーを有してもよい。センサーには、光の強度を測定可能なセンサー、光の色を感知するためのセンサー、センサーの集まり、例えば、RGBセンサー等が含まれることは理解されるべきである。センサーは、1つ、2つ、または3つのセンサーの集まり、あるいはもっと多くのセンサーの集まりなどのセンサーの集合体を含んでもよく、これらは異なる光束または同一の光束を受け取るために配置される。イメージングシステム100は、サンプリングされた異なる光束を、同じセンサーの異なる部分に方向づけることができ、こうして一つのセンサーまたはピクセルアレイから多くの仮想センサーを形成する。一実施形態において、3つのセンサー114a、114bおよび114cは、例えばアパーチャ要素108を介して選択的に届く、第一次光学装置102からの異なる光束を受け取るための、2つのサイドチャネルおよび1つの後部チャネルとして配置されることができる。
イメージングシステム100は1以上の画像処理装置(図示せず)を含んでもよく、当該装置には、機械設備、ソフトウエア、または画像データを処理するためのその他の処理システムが含まれることが理解されるべきである。画像処理装置は、本明細書に記載のような1以上の個別のセンサー、並びにカメラ(静止画カメラ、動画カメラ、デジタルカメラ、ビデオカメラ、またはその他のカメラ)、コンピュータ、マシン・ビジョン・システム、光学システム、読取機、物体追跡装置、スコープ等を含んでもよい。画像処理装置は、プロセッサ、マイクロプロセッサ、特定用途向け集積回路、回路、マイクロチップ、マイクロコントローラ、コントローラ、機械設備要素、ソフトウエア、ファームウエア、または画像データを含むデータを処理するその他の構成要素のような、1つ以上の追加的構成要素を含んでもよい。画像処理装置は、画像を処理するさまざまな技術を含むおよび可能にすると理解されるべきである。当該技術には、本明細書に記載の技術、参照により本明細書に組み込まれる文献中の光学像の能動波面サンプリングのための技術、異なる画像からの画像データの相関に基づく技術、または当業者に既知の波面符号化画像を復号する技術などが含まれる。一実施形態において、図1のセンサー114a、114bおよび114cからのデータは、例えば、物体120の画像を処理するおよび得られた画像を三次元データに改造するなど、画像データを処理することの可能な画像処理装置に中継される。実施形態において、かかる画像処理装置は、イメージングシステム100からの異なる画像、例えば、アパーチャ要素108のアパーチャ112からの画像などを、アパーチャ112の位置およびアパーチャ要素108の動きを考慮しながらレジスタすることができる。例えば、画像処理装置は、効率的に画像を記録するのを助ける固定参照として中央のアパーチャ112からの画像データを使用して、回転アパーチャ要素108のそのアパーチャ112の固定位置を考慮にいれることができる。同様に、回転アパーチャ要素108の横側のアパーチャ112の相対位置およびそれらの既知の相対位置は、それぞれの横側のアパーチャ112を通ってセンサー114aおよび114cに中継される、イメージングシステム100の瞳の位置を効率的に記録することを可能にすることができる。
イメージングシステムは1つ以上のフィードバック装置を含んでもよく、当該装置は、画像処理装置に関連する制御可能な素子にフィードバックを提供するための、画像処理装置の任意の構成要素を包含する。実施形態において、フィードバック装置は、例えば、再収束装置110(例えば、回転再収束装置110の回転を制御する)、アパーチャ要素108(例えば、回転アパーチャの回転を、回転再収束装置110などと共に制御する)、一次光学装置に対する物体120の位置、電子的光学構成要素の操作、またはイメージングシステム100の任意のその他の制御可能な態様、を制御するためのフィードバックを提供し得る。
イメージングシステムは、図1のリレー・レンズ102fのような、1つ以上の中継光学装置(relay optical facility)を含んでもよく、当該装置は、有効な光学装置の間の光路を維持するための任意の構成要素または素子を包含し得る。実施形態は、画像またはその一部を中継するさまざまなレンズを、光学装置102内または第一次光学装置102、再集束レンズ104、アパーチャ112、瞳分割装置118および/または1つ以上のセンサー114の間に備えてもよい。
イメージングシステムは、電子光学装置を含んでもよく、当該装置は、本明細書に記載の光学構成要素または装置のいずれかによって実行される1つ以上の機能、例えば、光を透過する、光の焦点を合わせる、光を反射する、回折する、屈折するまたは中継するなど、を達成する任意の電子的構成要素を包含し得る。実施形態は、フリップミラー、液晶素子、デジタル光プロセッサ等を含んでもよい。
一態様において、開示されたシステムは、1つの第一次光学装置102を有する三次元イメージングシステムを含む。本システムは、図1に示されおよび図1を参照して記載されたように、複数のセンサーと組み合わせて瞳分割または瞳サンプリングを用いてもよい。本システムは、ミラーなどの一対の分割装置118をイメージングシステムの一次光路に用いてもよい。光束は、中央経路と少なくとも一方の横側経路との間で分割され得る。
一般に、図1のシステム100の多数の変形が可能であることが理解されよう。即ち、光学ユニット内で、特定の構成要素が削除され、その他が加えられ、さまざまな構成要素が再配置されることができる。例示目的であり、制限の目的ではなく、アパーチャの様々な構造を本明細書に記載のシステムと共に有用に使用することができる。例えば、システム100を用いるカメラには、アパーチャ要素108を含むが再収束装置110を含まなくてもよく、アパーチャ要素108および1以上の再集束レンズを含むが光学的波面符号化素子を含まない再収束装置110を含んでもよく、またはアパーチャ要素108および1以上の光学的波面符号化素子を含むが再集束レンズを含まない再収束装置110を含んでもよい。異なる再収束装置110を組み合わせて使用することも可能である。例えば、システム100は、再集束レンズを有する第1の再収束装置および中間光学素子を有する第2の再収束装置を含んでもよく、これらは一次光学装置内の共役位置に存在する。当業者には明らかであろうかかる変化の全ては、この開示の範囲に含まれることを意図している。
図2は、再収束装置110の実施形態を、イメージングシステム100の中心軸に沿って見た図であり、再集束レンズ104は直線形状に配置され、中央の再集束レンズ104は再収束装置110の中心軸に位置し、その結果再収束装置110の回転中に固定された不動の位置を保つ。実施形態において、移動しない中心のアパーチャが配置された中心にホールを有する回転ディスクを作ることができる。
図3は、回転アパーチャ要素108を、イメージングシステム100の中心軸に沿って見た図であり、アパーチャ112は回転アパーチャ要素108上に直線形状に配置され、当該アパーチャ要素の1つはアパーチャ要素108の中心軸に配置され、その結果アパーチャ要素108が回転したときに中央のアパーチャが移動しない。アパーチャ112は円形として図示されているが、その他の実施形態において円形でないアパーチャを使用することができ、および可能であれば不規則なアパーチャを通過する画像の画像データを解像するために、画像処理装置が不規則なアパーチャ形状をうまく利用することができることが理解されるべきである。図2および3に描かれたような3つの再集束レンズおよび3つのアパーチャの直線的配置は、ある種の利点を提供する。例えば、中心のアパーチャ112および中心の再集束レンズ104は、回転するアパーチャ108の動きにかかわらず同じ場所に位置するので、画像処理において参照画像として使用することができる。アパーチャ要素108が回転するとき、横側のアパーチャ112もまた一定の(および等しい)距離を移動し、当該2つの横側アパーチャは同じ回転方向に等しい距離だけ移動する。回転のこの既知の範囲は、前記2つの横側アパーチャからのデータのための画像データの画像処理を簡略化することができる。いくつかの実施形態においてアパーチャプレート108および再収束装置110は個別の装置であってもよいが、その他の実施形態において、例えば再集束小型レンズ104をアパーチャ112中にまたはアパーチャ112に近接近させて配置するなどして、当該2つの要素を1つの光学装置に合体することが可能であることが理解されるべきである。
図4は、画像処理システム100が、図1の3つのセンサーシステムとは異なり、2つのセンサー114aおよび114bを有している以外は、図1の画像処理システム100と同様の画像処理システム400を示している。前記2つのセンサーは、回転アパーチャ要素108のアパーチャ112から画像部分を受像するように構成されており、前記画像部分は、図1に関連して記載したのと同様の方法で、再収束装置110によって予めアパーチャに焦点が合わせられている。この場合、1つのミラー118が、横側のアパーチャからの光束をセンサー114へと方向づけ、一方、中央のアパーチャ112からの光束は後部センサー114bへ直接通過することができる。任意に、中央のアパーチャ112からの光束を横側のアパーチャへと方向づけ、横側のアパーチャからの光束を後部センサーへと通してもよい。かかるシステム400において、画像処理装置は、中心のアパーチャからのデータを固定参照画像として任意に使用して、2つのセンサーからのデータを処理するように構成されることが可能であり、中央のアパーチャに対する横側のアパーチャの動きが既知であるので、横側のアパーチャ112からの画像を効率的に記録することが容易となる。
図5A〜5Dは、再収束装置110の複数の代替的構成を示しており、再集束レンズ104は三角形に配置されている(ここでは正三角形に描かれているが、アパーチャプレート108が回転するときに場所が不変の、正三角形(または「L]形)502あるいは追加的な中央のアパーチャと組み合された三角形504など、任意に、三角形またはその他の幾何学的形状とすることができる)。対応する回転アパーチャ要素108は、再集束レンズ104に対応するように構成された三角形に配置されたアパーチャ112を含む。実施形態において、システム100と同様なイメージングシステムを、再収束装置110およびアパーチャ要素108のこれら代替的実施形態と共に使用することが可能であるが、分割装置およびサンサーは、図1に示されたように直線に沿った拘束を受け取るように配置されるよりはむしろ、アパーチャ112の三角形の配置からの光束を処理するように配置される。アパーチャ112の既知の幾何学的形状は、画像処理装置が、アパーチャ要素108が動く際のアパーチャの既知の相対運動に基づいて光束の相対運動を処理することを可能とする。別の実施形態において、2つのアパーチャはアパーチャ要素の中心と(例えば、一次光学装置の中心軸に対して)共線的であってもよく、または中心に対して180°相隔たってもよい。一方、第3のアパーチャは中心に対して異なる角度および/または中心から異なる距離である。共線的なアパーチャは中心から等間隔であってもまたは間隔が異なっていてもよい。
図6は、異なる光束がアパーチャ要素108のアパーチャを通って1つのセンサー602に中継されること以外は、図1のイメージングシステム100と同様のイメージングシステム600を示している。実施形態において、1つのセンサー602は、異なるピクセルのような各アパーチャ112から当該センサーに供給される別個の光束に、例えば、搭載された別個のカラー・センサーを用いて、別々に対応することの可能な異なる部分を有してもよい。その他の実施形態において、1つのセンサー602の受光素子は異なる光スペクトルに別々に対応してもよい。例えば、ピクセル上にカラーフィルターを備えてもよい。フィルターは、例えば、アパーチャ112のそれぞれでフィルターをかけられる特定のスペクトルバンドに合わせることが可能である。1つのセンサーはマルチスペクトルセンサー(例えばR、G、BおよびIRピクセルを有する)であり得、または多重センサーであることができ、その中の1つ以上はRGBまたはマルチスペクトルである。センサー602は異なるスペクトルバンドの光を捕獲する異なる層を有することができ、そうすることにより本質的に全てのピクセルの位置で全ての選択されたバンド内の光を捕獲する。このように、実施形態において、再集束レンズ104またはアパーチャ112は、カラーまたはスペクトルバンドパスフィルターなどの一式のフィルター116を備えてもよく、当該フィルターのそれぞれは特定の色または周波数の外側の光をフィルターにかけ、そうして物体120の異なるカラー画像は対応するアパーチャ112を通ってセンサー602に送られ、1つのセンサー602を3つの個別のセンサーと同等物として効果的にレンダリングする。その他の実施形態において、センサーの様々な領域を異なる光束に割り当てることができる。このように、かかる実施形態において映像処理システム(vision processing system)は、図1に関連して記載したような画像トリプレットの処理と同様の方法で、1つのセンサー602からのデータを処理することが可能である。したがって、一態様において、三次元イメージングシステムは、1つ以上のアパーチャに複数のアパーチャ構成要素およびバンドパスフィルター116を有することができる。
本明細書において、1つの第一次光学装置102、複数のアパーチャ要素108、および1つのセンサーを有する三次元撮像の方法およびシステムが提供されることもまた理解されるべきである。実施形態は、光線を異なるアパーチャを通って同じセンサーの異なる区域、例えば、センサーの特定のピクセル、に導く方法およびシステムを含む。実施形態は、異なるアパーチャ上のフィルターを提供すること、および別々にフィルターされたアパーチャからの異なる波長を検出する1つのセンサーを使用することを含む。
図7は、図1に関連して描かれた一対のミラーと同様の機能を果たすプリズム702が分割装置118としての機能を果たすことを以外は、図1のイメージングシステム100と同様のイメージングシステム700を示している。プリズム702は、第一次光学装置102からの異なる光束を異なるセンサー114a、114bおよび114cへと反射し、前記光束は、図1に関連して記載したのと同様の共役位置にある再収束装置110およびアパーチャ要素108によってすでに隔てられている。もしも構成要素110および108が共役位置にある(例えば、アパーチャ要素108が入射瞳平面にある)場合、それらは、再収束装置110が回転するときにそれに応じてアパーチャ要素108が回転するように同期し得る。さらに、再集束レンズ104は複数の小型レンズを有していてもよく(例えば、1つは中心に、および、例えば、16個は軸外に)、その場合、瞳位置の回転アパーチャ要素108(102a、102e、および102fと118/702との間のどこか)はどの小型レンズが実際に光を通すかを選択することができる。別の光学的実施形態において、再収束装置110は回転する放射状スリットと置き換えられてもよく、アパーチャ要素108は瞳の位置(例えば、102a、102e、および102fと118/702との間のどこか)の環状マスクと置き換えられてもよい。これら2つの交点は、アパーチャの形状および位置を確定することが可能である。より一般的に、プリズム702および図1の一対のミラーは2つの可能な実施形態を示している一方で、本明細書に記載の任意のその他の種類の光学装置が、画像の瞳の異なる部分をそれぞれのセンサーに供給するように構成されてもよく、すべてのかかる実施形態が本明細書に包含されることが理解されるべきである。一例として、プリズム702は、中央の光束用に中央のチャネルを開いたままとする、2つのミラーまたはプリスムと置き換えられてもよい。
図8は、2つのセンサー114aおよび114cを有するイメージングシステム800を示しており、この場合、アパーチャ要素108に位置する一対のアパーチャ112からの光束を同様に受け取る一対のミラー118からの光束を受け取る。2つのセンサーを有する様々なその他の実施形態が可能であり、当該実施形態は本明細書に包含される。
図9A〜9Bは一対の再集束レンズ104を有する再収束装置110、並びに対応する一対のアパーチャ112を有するアパーチャ要素108を示しており、図8のイメージングシステム800などの2つのセンサーを有する実施形態に好適である。
図10は図1のイメージングシステム100と同様のイメージングシステム1000を示しているが、図10に描かれている実施形態では、再集束レンズ104を有する回転アパーチャ要素108および再収束装置110は1つの装置として一体化され、物体120と第一次光学装置102との間の入射瞳102aにまたはその近接近に配置されている。この場合一次レンズ102bのみを示しており(しかしながら、様々なリレー・レンズ等を有することができる)、したがって光束は第一次光学装置102に入る前にサンプリングされる。このように、第一次光学装置102、回転アパーチャ要素108および再収束装置110の様々な構成が、本明細書に包含されることを意図していることを理解すべきである。
図11は、図1のイメージングシステム100および図10のイメージングシステム1000と同様のイメージングシステム1100を示しているが、図11に描かれている実施形態では、回転アパーチャ要素108および再収束装置110は第一次光学装置102内のリレー・レンズ102bの反対側に配置されているので、光束はレンズ102fに入る前に再収束され、次に、一次光学装置を出た後に回転アパーチャ要素108の異なるアパーチャによってサンプリングされる。再度、第一次光学装置102、回転アパーチャ要素108および再収束装置110の様々な構成が、本明細書に包含されることを意図していることを理解すべきである。
図12は、第一次光学装置102が、物体120からの光を再収束装置110へと反射する、言い換えると回転アパーチャ要素108のアパーチャ112を通って反射するように構成されているミラー一式を有し得るミラーシステム1202を含んでいること以外は、図1のイメージングシステム100と同様のイメージングシステム1200を示している。様々な代替的実施形態が第一次光学装置102向けに想定され得、本明細書において意図される任意の種類の光学装置、あるいは構成要素またはそれらの組み合わせを包含している。より一般的に、アパーチャ要素108等に入る前に光を反射するまたは方向を変えるミラーシステム1202として描かれているが、1つ以上のミラーを、例えば、図1に図示されている光学ユニット内の多くの場所に定置することが可能であり、かかる変形の全てをこの開示の範囲に含むことを意図していることは理解されよう。例えば、上記のさまざまな屈折またはフィルター光学素子は、本明細書に記載のシステム内のミラーによって置き換えられ得るまたは補充され得る。
図13は、第一次光学装置102がブロック図の形式で示されている電子光学装置1302を含むことができ、電子光学装置1302が、物体120からの光を再収束装置110に供給する、言い換えると回転アパーチャ要素108のアパーチャ112を通って供給すること以外は、図1のイメージングシステム100と同様のイメージングシステム1300を示している。実施形態において、電子光学装置1302は再収束装置110および/またはアパーチャ要素108をさらに包含してもよいまたはそれらの代りをすることができる。様々な代替的実施形態が電子光学装置1302向けに想定され得、本明細書において意図される任意の種類の電子光学装置、例えば、フリップミラー、デジタル光プロセッサ、液晶系構成要素等を包含している。実施形態において、電子光学装置はシステム1300の入射瞳102aに位置してもよい。より一般的に、様々な電子光学装置または電気機械光学素子を、例えば、図1に描かれている光学ユニット内のさまざまな場所で使用することができ、かかる実施形態の全てはこの開示の範囲に含まれることを意図している。
図14は、図1のイメージングシステム100と同様なイメージングシステム1400を示しており、この場合、イメージングシステム1400の瞳サンプリングシステムによってサンプリングされる光束からの画像データを受け取るおよび処理するためのセンサー114a、114bおよび114cに関連する画像処理装置1402を示しており、当該装置は、光束を分割装置118に供給する回転アパーチャ要素108および再収束装置110、図1に関連して描かれているのと同様のミラー一式を含む。この場合、画像処理装置は、画像処理装置1402の制御下の回転アパーチャ要素108および回転再収束装置110のフィードバック制御、例えば、本明細書に記載の技術および参照することにより本明細書に組み込まれる文献に記載の技術を含む様々な処理技術を達成するために、画像のサンプリングを制御するためなどのフィードバック制御を提供するフィードバック装置1404を含んでいる。
本明細書に記載の三次元イメージングシステムは、一次光学レンズまたはレンズ一式のような一つの第一次光学装置102からの光線の個別の束を、別々に処理するための装置を含み得る。装置は、再収束装置110、移動アパーチャ108、分割装置118、上記の組み合わせ、あるいは個別の束または画像データの部分を同様に処理する代替的光学配置を含み得る。
一次光路内の移動(例えば、回転)アパーチャ要素108は、スリットのような非標準的なアパーチャを有する軸外のアパーチャまたは軸上のアパーチャを有していてもよい。アパーチャ要素108は同様に、または代わりに、複数の移動もしくは回転プレートを有してもよい。加えて、1つ以上の移動型構成要素のそれぞれの中のアパーチャ112は様々な形状を有していてもよい。例えば、回転ディスクには、中央を通過するまたは中央の近傍を通る細長いスリットを有するアパーチャのそれぞれを一緒に制御して、光路内の任意のプログラム可能な場所にアパーチャを提供することが可能である。
特定の好ましい実施形態では、本明細書において提供されるのは、一次光路内の回転する複数のアパーチャプレート108を用いた三次元撮像の方法およびシステムであり、フィードバック装置1504を介して回転プレート108のフィードバック制御をする。
本明細書で提供されるのは、一次光路の瞳の位置の移動(例えば、回転)する複数のアパーチャ要素108を用いた三次元撮像の方法およびシステムである。実施形態において、移動するアパーチャ構成要素は、一次レンズなどの第一次光学装置102の後ろ、前、内部のいずれかに配置され得る。実施形態はリレー・レンズ1402を含み得る。その他の実施形態は、一次光学装置の前側の中継光学装置(intermediate optical facilities)、または再集束レンズ110を含み得る。
特定の好ましい実施形態は、イメージングシステムの光路内の光線の一次束の一部を遮蔽するために、1つ以上の遮蔽素子(例えば、回転シャッタ)を含み得ることが理解されるべきである。
実施形態において、本明細書に記載の方法およびシステムは、収差を補正するためなど、他の目的のために使用することが可能である。したがって、方法およびシステムは、画像データの収差を補正するための3つ(またはそれ以上)のセンサーシステムを含む。
本明細書に記載のさまざまな実施形態において三次元撮像の方法およびシステムが提供され、個別の光束がサンプリングされるが、一次光束のサンプリングされた部分は、サンプリングの後に少なくとも1つの光学素子を共有することに留意されたい。さらに、本明細書の特定の実施形態において、三次元撮像の方法およびシステムが提供され、イメージングシステムの一つの瞳で瞳がサンプリングし、もう一つの瞳で関連する瞳が分割することに留意すべきである。
本明細書で提供されるのは、瞳サンプリングまたは瞳分割を用いて、3つの独立した透視図を1つのレンズを介して記録する、3つの画像センサーを使用する方法およびシステムであることを留意されたい。実施形態において、3つのセンサーおよび1つのレンズが使用される。中心位置の周囲の三角パターン(ただし、その他様々なパターンを有していてもよい)に配置された3つのセンサーを有する典型的なトリプレットイメージングシステムと異なり、特定の好ましい実施形態において、本明細書に開示されている方法およびシステムは、2つのその他のセンサーの間に第3のセンサーを配置してもよい。これにより、第3のセンサーが、センサー(複数)によって記録された位置の理想的には平均である、物体特徴の位置(物体特徴 positions)を、左側および右側に記録することが可能となる。この第3のセンサーは、残りの物体画像が参照することの可能な物体の位置を記録する。物体の奥行と無関係の参照を提供する。このことが、移動している物体および/またはカメラに合わせて得た画像データの記録を大きく簡略化する。
実施形態において、センサーからの画像は、第3の撮像センサーの位置を利用した独自の画像レジストレーションを使用して処理される。第3のセンサーで撮像した物体特徴の変位は、理想的には、左および右のセンサーで記録した特徴の位置の平均であるので、第3(中央)のセンサーと左のセンサーとの間の画像レジストレーションは、中央のセンサーと右のセンサーとの間の撮像した特徴変位と距離は等しいが方向は反対の特徴変位を示す。2つのセンサー間のレジストレーションの変位方向のサインを変えることにより、異なるセンサーからのデータのレジストレーションを組み合わせることによって画像視差のより正確な測度を見出すことが可能である。さらに、より正確であり得る時空間処理方法を使用する能力を有している。
このように、本明細書に開示の様々な実施形態は、移動物体の三次元撮像用の単眼カメラによって同じスペクトルバンド内の複数画像を瞬間的に捕獲するために、一次光学システムの瞳を、1つを軸上のおよび複数を軸外のアパーチャに分割することによる、組み合わさされた瞳サンプリング方法およびシステムを含む。したがって、実施形態は、静止場面を撮像するためなどの単一移動/非移動アパーチャ要素による瞳サンプリングを含む。静止ミラーまたはプリズム一式により瞳分割された移動アパーチャマスク(例えば、3つの共線的アパーチャ)によりなされる瞳サンプリングを組み合わせることにより、異なるセンサー上の異なるアパーチャ位置で、同一スペクトルバンド内の複数の画像を瞬間的に捕獲することが可能となる。この条件下で、瞳サンプリング後に、個々の光線は同一光学素子を共用する。これにより、静止分割装置(例えば、ミラー、プリズム等)を有する自由に移動するサンプリングアパーチャ112および関連する素子の実施が可能となる。中央の1つのアパーチャおよび軸外位置の1以上のアパーチャは、移動物体の三次元画像を捕獲するために使用される。異なるアパーチャを通過する光線は、瞳サンプリング前後の光学を共有し、サンプリング前に異なる光路を有している。
したがって、本明細書に開示の様々な方法およびシステムは、瞳分割を有する移動アパーチャの使用を可能にする。様々な実施形態において、単レンズの光路は3つの領域に分割され得、別々のセンサーに送られ得る。3つのアパーチャ部を有する移動アパーチャプレートは、撮像に使用されるレンズの部分を制御するのに使用され得る。マスクを回転することにより、センサーそれぞれによって見られる透視図が変化する。この構成の利点は、オフセット回転アパーチャを用いる利点に加え、三次元情報を取得するために3つのセンサーからの画像を使用することができることである。したがって、物体の三次元形状を解像するのに、時間内に取られた複数の画像を必要としない。これにより、移動物体を撮像するのに波面撮像を用いた場合の三次元処理が非常に簡略化される。
その他の実施形態において、本明細書に開示された方法およびシステムはまた、軸上の画像が参照する軸外の光波面およびデフォーカス・ボケサンプリングをサポートする方法およびシステムを含む。実施形態において、イメージングシステムは、画像のデフォーカスボケ幅を定量的に測定することにより、三次元表面の画像用撮像データを捕獲するのを助ける。特に、1以上の軸外アパーチャ(例えば、図3に関連して開示した軸外アパーチャ)を有する瞳サンプリングによって、画像のデフォーカス(D)の量に関連するデータのみならず、ボケスポット(blur spot)(xo,yo)の中央に対するデータを回収することが可能である。「ボケスポット」は、レンズの軸線からオフセットしたアパーチャがレンズの軸線の周りを回転するときに、撮像された物体特徴が作る円の寸法を言う。上記の瞳サンプリングは、あらゆる計測点ごとに回収する未知数を提供する:xo(i)、yo(i)、D(i)。しかしながら、イメージングシステム100の光軸を軸とするアパーチャ112を活用して軸上の画像を捕獲することにより、問題は1つのみの未知数(デフォーカス、D(i)の量に減少し得る。(参照としての)この中央の画像はまた、複数の軸外のアパーチャ位置で捕獲した画像からの情報を融合させることを容易にする。さらに、この中央の画像は、奥行を物体特徴の画像位置へとコード化しないので、カメラパスの回収、および異なるカメラ位置で測定した表面の画像を合わせてまとめるまたはレジスタすることをさらに可能とする。このように、ステレオイメージングシステムの中央撮像センサーは参照画像を提供する。この概念は、本明細書で開示された、回転アパーチャシステムを含むイメージングシステム100およびその他のイメージングシステムに関連してすでに開示したが、中央画像を参照画像として使用すること、および光波面およびボケサンプリング用の軸外画像をこの画像に関して使用することが、トリプレット撮像または波面システムにおいてなど任意のマルチセンサイメージングシステムにおいて使用可能であることが理解されるべきである。
図15を参照すると、撮像スキャナ(imaging wand)などの、イメージングシステムの瞳を物体の狭域に対して配向させる技術が提供されている。イメージングシステムの実施形態において、イメージングシステム100または他のイメージングシステムなどのイメージングシステムの瞳サンプリングアパーチャの相対配向は、隣接部面を捕獲するときの閉塞を最小限にするために調節されてもよい。特に、アパーチャは軸外に配置されて隣接部面の線の配向と揃えられ得る。例えば、歯科用撮像スキャナなどを用いて歯の間の空隙を撮像する場合、3つのカメラ全部が空隙領域の中まで観察することができるように、センサーは空隙と平行に整列され得る。カメラが空隙と垂直に配置される場合、センサーの1つだけが空隙の中を見るように配置され得る。その他のセンサーは斜めから空隙を観察することになり、従って空隙の片側または反対側のみを見ることになる。このように、狭域の中(例えば、隣接空隙1502)を見るために、および閉塞なく複数(例えば、3つ)の画像を捕獲するために、3つのアパーチャの位置決めは、スキャナ(wand)の物体に対する最も可能な相対配向に整列させる。別の態様では、光束がイメージングシステム100に入るときに、当該光束を動的にまたは制御可能に再整列するために、追加的なミラーまたはその他の光学装置を備えてもよい。
図16を参照すると、その他の実施形態において、本明細書で提供される方法およびシステムは、相関視差(相関視差)に基づく画像トリプレット処理を可能にする。特に、既知の(例えば、エピポーラ線によって与えられる)視差方向をうまく利用することにより、および画像特徴が構造に対して移動するときに相関平面のパターンをどのように保存するかを基礎として、ロバストな、高空間分解能、および正確な画像トリプレット処理を実行することが可能である。例えば、図16を参照すると、3つのカメラ1602、1604および1608(例えば、赤、緑および青(RGB)画像を甘受するカメラ、またはその他のセンサー)からの画像が共線的に整列されると、視差検出(例えば、相関による)が、R対Gにおいて、および180度回転したR対B相関場で実施され得る。このように、R対Gおよび回転したR対Bの真の相関ピークは互いに高めあい、中心(R)チャネルで使用される呼びかけ信号(interrogation)(検索領域)の寸法をより小さくすることが可能である。これにより、ロバスト性および/または空間分解能が向上し得る。信号のピークの識別後に相関ピーク対称性を強化し、および「逆(backward)」相関(R対GおよびG対R等)を行うことにより、精度もまた向上し得る。このように、図1の実施形態のような実施形態において、中央の画像を左または右の画像のいずれかでレジスタすることは、対向するセンサーでレジスタされた同じ物体特徴の変位が、センサーの配置に並行であるが反対方向である線に沿って等距離であるという事実をうまく利用している。中央のセンサーに対する画像レジストレーションの1つのサインを逆にすることにより、中央のセンサーの対向するセンサーに対するレジストレーションと組み合わせることができる。これにより、画像トリプレットの処理に改善された精度およびロバスト性を提供する。
実施形態において、3つのセンサーからの画像は、3つ目の撮像センサーの位置をうまく利用する独自の相関技術を用いて処理される。3つ目の撮像センサーによって撮像された物体特徴の変位は右および左のセンサーによって記録された特徴の位置の平均であるので、3つ目の(中央)センサーと左のセンサーとの間の画像レジストレーションは、中央のセンサーと右のセンサーとの間の撮像された特徴変位の画像レジストレーションと距離は等しいが方向は逆である特徴変位を示す。2つのセンサー間のレジストレーションの変位方向のサインを変えることにより、中央のセンサーと右のセンサーおよび反対側のセンサー(右または左のセンサー)との間のレジストレーションを組み合わせることによって画像視差のより正確な測度を見出すことが可能である。
実施形態において、本明細書において開示した方法およびシステムは、複数の視野を有する撮像を像面のデフォーカス(ボケ)の量の予測と組み合わせることができる。光学収差の、奥行きに関連する画像の動きの捕獲への汚染効果(contaminating effect)を回避するため、本システムは、通常の作動距離では、物体が一次光学システム102の焦点/基準面の間に定置されるように設計されてもよい。これにより、軸上および軸外のアパーチャを介して捕獲された画像にボケ効果または低域フィルターの効果をもたらし得る。これを補うため、および通常の作動距離での光学解像度を増加させるため、一式の再収束小型レンズをアパーチャに使用して、主な光線の光路を変えずに光束を焦点へと戻すことができる。さらに、これらレンズは、一部のアパーチャ位置が特殊な光学的特徴を補うまたは補正することもでき、各アパーチャの光学(例えば、変調伝達関数)の解像力を向上させる。しかしながら、たとえ基準距離で現在画像の焦点が合っているとしても、狭い焦点深度が依然として問題である。この問題は、中間光学素子などの別の特殊な光学素子(焦点深度を増加させる回折光学素子)、または波面符号化素子をアパーチャに適用することにより対処され得る。これらを使用するには、深度または焦点に関連するデータを複合し、およびこれらの素子なしで取得した場合より大きな焦点深度を有する画像を作成するための、画像への特殊な処理工程が必要である。
本発明を特定の好ましい実施形態に関して説明してきたが、その他の実施形態を当業者は理解可能であり、それらは本明細書に包含される。
本発明および本発明の特定の実施形態の詳細な説明は、以下の図を参照することによって理解してよい。
移動するアパーチャ構成要素、再集束レンズ一式、および瞳分割装置を有するイメージングシステムの実施形態を示す。 再収束装置の実施形態を示す。 回転アパーチャ要素の実施形態を示す。 2つのセンサーを有するイメージングシステムの実施形態を示す。 再収束装置および再集束レンズを有する移動式のアパーチャ、並びに三角形の配置のアパーチャの実施形態を示す。 再収束装置および再集束レンズを有する移動式のアパーチャ、並びに三角形の配置のアパーチャの実施形態を示す。 再収束装置および再集束レンズを有する移動式のアパーチャ、並びに三角形の配置のアパーチャの実施形態を示す。 再収束装置および再集束レンズを有する移動式のアパーチャ、並びに三角形の配置のアパーチャの実施形態を示す。 イメージングシステムの単一センサーの実施形態を示す。 瞳分割装置としてのプリズムを有する実施形態を示す。 2つのサイドチャネル・センサーを有するイメージングシステムの実施形態を示す。 一対の再集束レンズおよび一対のアパーチャを有する再収束装置および移動アパーチャの実施形態を示す。 一対の再集束レンズおよび一対のアパーチャを有する再収束装置および移動アパーチャの実施形態を示す。 一次光学レンズの前に配置された再収束装置および移動アパーチャ要素の実施形態を示す。 一次光学レンズの前に再収束装置を有しおよび一次光学レンズの後ろに移動するアパーチャ構成要素を有するイメージングシステムの実施形態を示す。 一次光学装置としての役割をするミラー一式を有するイメージングシステムの実施形態を示す。 電子光学構成要素を有するイメージングシステムの実施形態を示す。 関連する画像処理装置を有し、およびイメージングシステムの構成要素にフィードバック制御を提供するためのフィードバック装置を含むイメージングシステムを示す。 イメージングシステムを有する狭域を検査する技術を示す。 画像トリプレット処理技術のカメラで撮影された画像一式を示す概略図。

Claims (7)

  1. 1つの一次光学レンズと中心軸を有する光路とを有する一次光学装置、
    複数の光チャネルを提供するために前記光路の一部を選択的に通すための複数のアパーチャを有するアパーチャ要素であって、前記複数のアパーチャの1つは前記1つの一次光学レンズと光学センサーとの間の前記中心軸上に配置されるアパーチャ要素、
    それぞれが複数のアパーチャの1つの前記光路内の共役位置にある複数の再集束レンズを有する再収束装置、および、
    前記中心軸上に位置し前記複数の光チャネルの中心の光チャネルを通過させるホールを有する少なくとも一つのプリズムを有し、前記複数の光チャネルの1つ以上を光学センサーへ向けるサンプリング装置、を含むカメラ。
  2. 前記光学センサーが、複数の前記各光チャネルのためのセンサーを有する、請求項1に記載のカメラ。
  3. 前記アパーチャ要素が3つのアパーチャを有する、請求項1に記載のカメラ。
  4. 1つの一次光学レンズと中心軸を有する光路とを有する一次光学装置、
    複数の光チャネルを提供するために前記光路の一部を選択的に通すための複数のアパーチャを有するアパーチャ要素であって、前記複数のアパーチャの1つは前記1つの一次光学レンズと光学センサーとの間の前記中心軸上に配置されるアパーチャ要素、
    それぞれが複数のアパーチャの1つの前記光路内の共役位置にある複数の再集束レンズを有する再収束装置、および、
    少なくとも一つのミラーを有し、前記複数の光チャネルの1つ以上を光学センサーへ向けるサンプリング装置、を含むカメラ。
  5. 前記少なくとも一つのミラーが、前記複数の光チャネルの、中心の光チャネルを通す空間によって隔てられた2つのミラーを有する、請求項4に記載のカメラ。
  6. 前記アパーチャ要素が3つのアパーチャを有する、請求項4に記載のカメラ。
  7. 前記光学センサーが、複数の前記各光チャネルのためのセンサーを有する、請求項4に記載のカメラ。
JP2008554440A 2006-02-13 2007-02-13 単眼三次元撮像 Expired - Fee Related JP5426174B2 (ja)

Applications Claiming Priority (9)

Application Number Priority Date Filing Date Title
US77313206P 2006-02-13 2006-02-13
US60/773,132 2006-02-13
US11/530,420 2006-09-08
US11/530,420 US7646550B2 (en) 2006-02-13 2006-09-08 Three-channel camera systems with collinear apertures
US11/530,428 US7372642B2 (en) 2006-02-13 2006-09-08 Three-channel camera systems with non-collinear apertures
US11/530,413 US7819591B2 (en) 2006-02-13 2006-09-08 Monocular three-dimensional imaging
US11/530,413 2006-09-08
US11/530,428 2006-09-08
PCT/US2007/003947 WO2007095307A1 (en) 2006-02-13 2007-02-13 Monocular three-dimensional imaging

Publications (3)

Publication Number Publication Date
JP2009527007A JP2009527007A (ja) 2009-07-23
JP2009527007A5 JP2009527007A5 (ja) 2010-04-08
JP5426174B2 true JP5426174B2 (ja) 2014-02-26

Family

ID=38440181

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008554440A Expired - Fee Related JP5426174B2 (ja) 2006-02-13 2007-02-13 単眼三次元撮像

Country Status (5)

Country Link
US (2) US8675290B2 (ja)
EP (2) EP1984785B1 (ja)
JP (1) JP5426174B2 (ja)
ES (1) ES2478637T3 (ja)
WO (1) WO2007095307A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102245346B1 (ko) * 2018-07-24 2021-04-28 한국과학기술원 다중 광회절 소자의 회전 중첩을 이용한 패턴 프로젝터 및 이를 갖는 3차원 내시경

Families Citing this family (62)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2008091639A2 (en) 2007-01-22 2008-07-31 California Institute Of Technology Method for quantitative 3-d imaging
US8089635B2 (en) 2007-01-22 2012-01-03 California Institute Of Technology Method and system for fast three-dimensional imaging using defocusing and feature recognition
US7894078B2 (en) 2007-04-23 2011-02-22 California Institute Of Technology Single-lens 3-D imaging device using a polarization-coded aperture masks combined with a polarization-sensitive sensor
US8514268B2 (en) * 2008-01-22 2013-08-20 California Institute Of Technology Method and device for high-resolution three-dimensional imaging which obtains camera pose using defocusing
CN102203590A (zh) * 2008-11-04 2011-09-28 株式会社尼康 表面检查装置
WO2010150177A1 (en) * 2009-06-25 2010-12-29 Koninklijke Philips Electronics N.V. Stereoscopic image capturing method, system and camera
US8773507B2 (en) 2009-08-11 2014-07-08 California Institute Of Technology Defocusing feature matching system to measure camera pose with interchangeable lens cameras
US8773514B2 (en) * 2009-08-27 2014-07-08 California Institute Of Technology Accurate 3D object reconstruction using a handheld device with a projected light pattern
WO2011073436A1 (de) 2009-12-17 2011-06-23 Universität Zürich Vorrichtung und verfahren zur intraoralen 3d-datenerfassung
JP5421829B2 (ja) 2010-03-18 2014-02-19 富士フイルム株式会社 撮像装置
JP2011223562A (ja) 2010-03-23 2011-11-04 Fujifilm Corp 撮像装置
CN102812714B (zh) * 2010-03-24 2014-04-30 富士胶片株式会社 立体图像获取装置
CN102884802B (zh) 2010-03-24 2014-03-12 富士胶片株式会社 三维成像装置和视点图像恢复方法
JP5628913B2 (ja) 2010-06-30 2014-11-19 富士フイルム株式会社 撮像装置および撮像方法
WO2012002298A1 (ja) 2010-06-30 2012-01-05 富士フイルム株式会社 撮像装置および撮像方法
US10182223B2 (en) 2010-09-03 2019-01-15 California Institute Of Technology Three-dimensional imaging system
JP5635844B2 (ja) * 2010-09-06 2014-12-03 キヤノン株式会社 焦点調整装置および撮像装置
JP5595505B2 (ja) 2010-09-10 2014-09-24 富士フイルム株式会社 立体撮像装置および立体撮像方法
CN103098457B (zh) 2010-09-10 2016-04-13 富士胶片株式会社 立体成像装置和立体成像方法
WO2012036019A1 (ja) * 2010-09-13 2012-03-22 富士フイルム株式会社 単眼立体撮像装置、単眼立体撮像装置用シェーディング補正方法及び単眼立体撮像装置用プログラム
CN103098459B (zh) 2010-09-22 2016-11-09 富士胶片株式会社 立体摄像装置及阴影校正方法
JPWO2012043003A1 (ja) * 2010-09-29 2014-02-06 富士フイルム株式会社 立体画像表示装置および立体画像表示方法
JP2012203274A (ja) * 2011-03-28 2012-10-22 Sony Corp 撮像装置および電子機器
US8963998B2 (en) * 2011-04-15 2015-02-24 Tektronix, Inc. Full reference system for predicting subjective quality of three-dimensional video
WO2012174401A2 (en) * 2011-06-16 2012-12-20 Lenny Lipton Stereoscopic camera with polarizing apertures
KR20130012758A (ko) * 2011-07-26 2013-02-05 삼성전자주식회사 광량 조절 장치 및 이를 구비한 촬영 장치
US20160363852A1 (en) 2011-09-09 2016-12-15 Ichiro Shinkoda Single axis stereoscopic imaging apparatus with dual sampling lenses
JP5788518B2 (ja) 2011-09-13 2015-09-30 富士フイルム株式会社 単眼立体撮影装置、撮影方法及びプログラム
JP5912382B2 (ja) 2011-10-03 2016-04-27 ソニー株式会社 撮像装置および映像記録再生システム
JP2013097280A (ja) * 2011-11-04 2013-05-20 Nikon Corp 撮像装置
US9019352B2 (en) * 2011-11-21 2015-04-28 Amchael Visual Technology Corp. Two-parallel-channel reflector with focal length and disparity control
JP5918982B2 (ja) * 2011-11-22 2016-05-18 キヤノン株式会社 撮像装置、再生装置、その制御方法、撮像システム、及びプログラム
WO2013104075A1 (en) 2012-01-13 2013-07-18 Front Street Investment Management Inc., As Manager Of Front Street Diversified Income Class Single optical path anamorphic stereoscopic imager
US9019603B2 (en) 2012-03-22 2015-04-28 Amchael Visual Technology Corp. Two-parallel-channel reflector with focal length and disparity control
US9124875B2 (en) 2012-05-23 2015-09-01 Fujifilm Corporation Stereoscopic imaging apparatus
WO2013190814A1 (ja) * 2012-06-22 2013-12-27 株式会社ニコン 画像処理装置、撮像装置および画像処理プログラム
CN104219990B (zh) * 2012-06-28 2016-12-14 奥林巴斯株式会社 内窥镜系统
US9557634B2 (en) 2012-07-05 2017-01-31 Amchael Visual Technology Corporation Two-channel reflector based single-lens 2D/3D camera with disparity and convergence angle control
KR102062765B1 (ko) * 2012-09-18 2020-02-11 삼성전자주식회사 이미지 변환 메커니즘을 갖춘 3d 이미지 캡쳐 시스템과 그 사용 방법
US11363938B2 (en) * 2013-03-14 2022-06-21 Ormco Corporation Feedback control mechanism for adjustment of imaging parameters in a dental imaging system
JP2014204255A (ja) * 2013-04-04 2014-10-27 ソニー株式会社 カメラ装置およびマウントアダプタ
US20150237326A1 (en) * 2014-02-14 2015-08-20 3M Innovative Properties Company Sole channel 3d image capture apparatus
US9591286B2 (en) * 2014-05-14 2017-03-07 3M Innovative Properties Company 3D image capture apparatus with depth of field extension
CN105530441A (zh) * 2014-09-30 2016-04-27 南京理工大学 基于耦合透镜的红外与微光图像配准前端光机结构
US20160191901A1 (en) 2014-12-24 2016-06-30 3M Innovative Properties Company 3d image capture apparatus with cover window fiducials for calibration
US10402072B2 (en) * 2015-05-04 2019-09-03 Graphisoft Se Predictive background updating
KR101672669B1 (ko) * 2015-11-23 2016-11-03 재단법인 다차원 스마트 아이티 융합시스템 연구단 시차를 이용하는 멀티 애퍼처 카메라 시스템
WO2017132165A1 (en) 2016-01-25 2017-08-03 California Institute Of Technology Non-invasive measurement of intraocular pressure
WO2017150736A1 (en) 2016-03-04 2017-09-08 Canon Kabushiki Kaisha Moving object and ranging apparatus capable of acquiring image and high-accurately measuring distance
JP6957162B2 (ja) * 2016-03-04 2021-11-02 キヤノン株式会社 測距装置及び移動体
US10690495B2 (en) * 2016-03-14 2020-06-23 Canon Kabushiki Kaisha Ranging apparatus and moving object capable of high-accuracy ranging
JP6223502B2 (ja) * 2016-05-11 2017-11-01 キヤノン株式会社 画像処理装置、画像処理方法、プログラム、それを記憶した記憶媒体
US10571679B2 (en) 2017-01-06 2020-02-25 Karl Storz Imaging, Inc. Endoscope incorporating multiple image sensors for increased resolution
WO2019032923A2 (en) 2017-08-10 2019-02-14 D4D Technologies, Llc INTRAORAL SCANNING DEVICE
US10677972B2 (en) * 2017-12-08 2020-06-09 Viavi Solutions Inc. Multispectral sensor response balancing
US10365554B1 (en) 2018-04-04 2019-07-30 Intuitive Surgical Operations, Inc. Dynamic aperture positioning for stereo endoscopic cameras
US11557042B2 (en) 2018-06-12 2023-01-17 King Abdullah University Of Science And Technology Single-camera particle tracking system and method
EP3981145B1 (de) * 2019-06-06 2024-07-24 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Multikanalabbildungsvorrichtung und vorrichtung mit einer multiaperturabbildungsvorrichtung
US11602267B2 (en) * 2020-08-28 2023-03-14 Karl Storz Imaging, Inc. Endoscopic system incorporating multiple image sensors for increased resolution
WO2022241374A1 (en) * 2021-05-13 2022-11-17 Viavi Solutions Inc. Optical sensor device
US20240272058A1 (en) * 2021-06-09 2024-08-15 Asml Netherlands B.V. Inspection system for reticle particle detection using a structural illumination with aperture apodization
WO2023190188A1 (ja) * 2022-03-30 2023-10-05 パナソニックIpマネジメント株式会社 撮像装置及びそれを備えた三次元計測装置

Family Cites Families (68)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US3712199A (en) 1970-09-23 1973-01-23 Video West Inc Three-dimensional color photographic process, apparatus and product
US4101913A (en) 1975-11-19 1978-07-18 Photo-Control Corporation Four-up polaroid camera
JPS623815A (ja) 1985-06-27 1987-01-09 Kawasaki Steel Corp 圧延機のスピンドルトルク予測方法
JPS6238135A (ja) * 1985-08-12 1987-02-19 株式会社トプコン 立体写真撮影用眼底カメラ
US5005041A (en) 1987-11-05 1991-04-02 Canon Kabushiki Kaisha Focus detecting apparatus having a plurality of focus detecting areas
US5076687A (en) 1990-08-28 1991-12-31 Massachusetts Institute Of Technology Optical ranging apparatus
JPH04253838A (ja) 1991-02-05 1992-09-09 Topcon Corp 同時立体眼底カメラ
US5612816A (en) 1992-04-28 1997-03-18 Carl-Zeiss-Stiftung Endoscopic attachment for a stereoscopic viewing system
US5713047A (en) * 1992-06-08 1998-01-27 Canon Kabushiki Kaisha Eye fundus photographing apparatus
US5270795A (en) 1992-08-11 1993-12-14 National Research Council Of Canada/Conseil National De Rechereches Du Canada Validation of optical ranging of a target surface in a cluttered environment
JP3316936B2 (ja) 1992-10-22 2002-08-19 株式会社ニコン 照明光学装置、露光装置、及び該露光装置を用いた転写方法
US5671449A (en) 1993-09-07 1997-09-23 Asahi Kogaku Kogyo Kabushiki Kaisha Switching system for camera
TW225010B (en) 1993-10-21 1994-06-11 Image Techology Internat Inc A non-scanning 3D photographic printer with a partitioned aperture
US5448322A (en) 1993-11-05 1995-09-05 Vision Iii Imaging, Inc. Autostereoscopic imaging apparatus and method using a parallax scanning lens aperture
US5608529A (en) 1994-01-31 1997-03-04 Nikon Corporation Optical three-dimensional shape measuring apparatus
US5510831A (en) 1994-02-10 1996-04-23 Vision Iii Imaging, Inc. Autostereoscopic imaging apparatus and method using suit scanning of parallax images
SE503380C2 (sv) 1994-09-22 1996-06-03 Wiklund Innovation Ab Anordning för upphängning av undertak
JP3590425B2 (ja) * 1994-12-08 2004-11-17 ペンタックス株式会社 立体視硬性内視鏡
JP3609874B2 (ja) * 1995-07-04 2005-01-12 ペンタックス株式会社 立体視内視鏡
US5976071A (en) 1994-11-29 1999-11-02 Asahi Kogaku Kogyo Kabushiki Kaisha Stereoscopic endoscope
JP3581408B2 (ja) * 1994-11-29 2004-10-27 ペンタックス株式会社 立体視硬性内視鏡
JPH08194170A (ja) * 1995-01-13 1996-07-30 Olympus Optical Co Ltd 立体視内視鏡
JP3718272B2 (ja) * 1995-02-24 2005-11-24 ペンタックス株式会社 立体視内視鏡
US5647360A (en) 1995-06-30 1997-07-15 Siemens Corporate Research, Inc. Digital subtraction angiography for 3D diagnostic imaging
US5703677A (en) 1995-11-14 1997-12-30 The Trustees Of The University Of Pennsylvania Single lens range imaging method and apparatus
US5835228A (en) * 1996-01-19 1998-11-10 Dainippon Screen Mfg. Co., Ltd. Image pickup apparatus, density measuring optical system and scanning optical microscope
JPH09196856A (ja) * 1996-01-23 1997-07-31 Tsubakimoto Chain Co 表面検査方法、表面検査装置及びプリズム
US6139490A (en) 1996-02-22 2000-10-31 Precision Optics Corporation Stereoscopic endoscope with virtual reality viewing
US5850485A (en) 1996-07-03 1998-12-15 Massachusetts Institute Of Technology Sparse array image correlation
JP3452234B2 (ja) 1996-09-24 2003-09-29 株式会社リコー 画像入力装置
JPH10165372A (ja) * 1996-12-10 1998-06-23 Canon Inc 立体映像装置
KR100220888B1 (ko) * 1997-01-18 1999-09-15 박호군 이동 개구를 이용한 다시야 3차원 영상 구현 방법 및 시스템
DE19721704A1 (de) 1997-05-23 1998-11-26 Becker Preservotec Gmbh Verfahren und Vorrichtung zum Ablösen von Kaschierungen
US6005716A (en) 1997-07-03 1999-12-21 Levelite Technology, Inc. Co-linear and intersecting five light beam generator
US7006132B2 (en) 1998-02-25 2006-02-28 California Institute Of Technology Aperture coded camera for three dimensional imaging
WO1999044096A2 (en) 1998-02-25 1999-09-02 California Institute Of Technology Aperture coded camera for three-dimensional imaging
US7612870B2 (en) * 1998-02-25 2009-11-03 California Institute Of Technology Single-lens aperture-coded camera for three dimensional imaging in small volumes
US6239912B1 (en) 1998-09-11 2001-05-29 Nikon Corporation Focal point detection apparatus
US6271918B2 (en) 1999-02-04 2001-08-07 National Research Council Of Canada Virtual multiple aperture 3-D range sensor
DE19929436A1 (de) 1999-06-26 2001-01-11 Hilti Ag Strahlteiler zur Aufspaltung eines Lichtstrahlenbündels in Teilstrahlenbündel
US6807295B1 (en) 1999-06-29 2004-10-19 Fuji Photo Film Co., Ltd. Stereoscopic imaging apparatus and method
CA2278108C (en) 1999-07-20 2008-01-29 The University Of Western Ontario Three-dimensional measurement method and apparatus
JP3747256B2 (ja) 2000-01-07 2006-02-22 株式会社日立製作所 主幹制御器
US6387579B1 (en) * 2000-02-22 2002-05-14 Maniabarco N.V. Method for direct image processing of printed circuit boards
JP4545874B2 (ja) 2000-04-03 2010-09-15 キヤノン株式会社 照明光学系、および該照明光学系を備えた露光装置と該露光装置によるデバイスの製造方法
US7027642B2 (en) 2000-04-28 2006-04-11 Orametrix, Inc. Methods for registration of three-dimensional frames to create three-dimensional virtual models of objects
US6685317B2 (en) * 2000-06-13 2004-02-03 Massie Research Laboratories, Inc. Digital eye camera
US6975898B2 (en) 2000-06-19 2005-12-13 University Of Washington Medical imaging, diagnosis, and therapy using a scanning single optical fiber system
IT1320475B1 (it) 2000-06-30 2003-11-26 Fiat Ricerche Attuatore piezoelettrico autocompensato per una valvola di controllo.
JP4583569B2 (ja) * 2000-09-22 2010-11-17 オリンパス株式会社 観察光学系および撮像光学系
CN1476593A (zh) 2000-10-25 2004-02-18 �������ϰ�װ�������޹�˾ 用于座舱交通显示的飞行员可编程高度范围过滤器
US6386867B1 (en) * 2000-11-30 2002-05-14 Duane Milford Durbin Method and system for imaging and modeling dental structures
JP2002344999A (ja) * 2001-05-21 2002-11-29 Asahi Optical Co Ltd ステレオ画像撮像装置
JP2003075721A (ja) * 2001-08-31 2003-03-12 Pentax Corp ズームレンズ系
JP2003107355A (ja) 2001-09-27 2003-04-09 Olympus Optical Co Ltd 撮像光学系
EP1444946A4 (en) 2001-11-15 2008-12-10 Topcon Corp OPHTHALMOLOGICAL DEVICE AND OPHTHALMOLOGICAL TABLE
JP2005516249A (ja) 2002-01-07 2005-06-02 スリーエム イノベイティブ プロパティズ カンパニー 投影ディスプレイ装置における色成分開口絞り
JP3957153B2 (ja) * 2002-03-04 2007-08-15 富士フイルム株式会社 結像光学系
JP2004126496A (ja) * 2002-08-05 2004-04-22 Hitachi Ltd 光学ユニット及びそれを用いた投射型映像表示装置
JP2004077921A (ja) * 2002-08-20 2004-03-11 Olympus Corp ズーム光学系及びそれを用いた撮像装置
US6777658B2 (en) * 2002-08-29 2004-08-17 The Boeing Company Optical tracking system, feed-forward augmentation assembly and method for controlling an optical imaging system with reduced residual jitter
JP4393049B2 (ja) 2002-09-17 2010-01-06 キヤノン株式会社 走査光学系及びそれを用いた画像形成装置
US20040155975A1 (en) 2002-09-17 2004-08-12 Hart Douglas P. 3-D imaging system
JP3926244B2 (ja) 2002-09-26 2007-06-06 株式会社島津製作所 撮影装置
JP2005241791A (ja) * 2004-02-25 2005-09-08 Olympus Corp ステレオ撮像装置
US7646550B2 (en) 2006-02-13 2010-01-12 3M Innovative Properties Company Three-channel camera systems with collinear apertures
US7372642B2 (en) 2006-02-13 2008-05-13 3M Innovative Properties Company Three-channel camera systems with non-collinear apertures
US7819591B2 (en) 2006-02-13 2010-10-26 3M Innovative Properties Company Monocular three-dimensional imaging

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102245346B1 (ko) * 2018-07-24 2021-04-28 한국과학기술원 다중 광회절 소자의 회전 중첩을 이용한 패턴 프로젝터 및 이를 갖는 3차원 내시경

Also Published As

Publication number Publication date
EP1984785B1 (en) 2014-05-07
US20100007718A1 (en) 2010-01-14
US8675291B2 (en) 2014-03-18
ES2478637T3 (es) 2014-07-22
JP2009527007A (ja) 2009-07-23
EP2762972A1 (en) 2014-08-06
US20120057000A1 (en) 2012-03-08
US8675290B2 (en) 2014-03-18
EP1984785A1 (en) 2008-10-29
EP1984785A4 (en) 2009-08-05
EP2762972B1 (en) 2020-04-08
WO2007095307A1 (en) 2007-08-23

Similar Documents

Publication Publication Date Title
JP5426174B2 (ja) 単眼三次元撮像
US7372642B2 (en) Three-channel camera systems with non-collinear apertures
US7819591B2 (en) Monocular three-dimensional imaging
US7646550B2 (en) Three-channel camera systems with collinear apertures
US7061532B2 (en) Single sensor chip digital stereo camera
CN109155842B (zh) 立体相机及立体相机的控制方法
KR101758377B1 (ko) 3 차원 이미지 정보를 발생시키는 방법 및 장치
US20170013245A1 (en) Single-sensor system for extracting depth information from image blur
US20030164875A1 (en) System and method for passive three-dimensional data acquisition
EP3480648B1 (en) Adaptive three-dimensional imaging system
JP2010526992A (ja) 単一レンズ、単一絞り開口、単一センサー3d撮像装置
JP2000152285A (ja) 立体画像表示装置
JP2002232913A (ja) 複眼カメラ及び立体視画像観察システム
JPH10224820A (ja) 複眼カメラ装置
JPH06339155A (ja) 3次元画像撮影システム
KR20140135416A (ko) 스테레오 카메라
JP2011215545A (ja) 視差画像取得装置
JP2013044827A (ja) 撮像装置
JP2002010293A (ja) 立体画像表示装置
JP3564383B2 (ja) 3次元動画入力装置
JP4625957B2 (ja) 全周囲ステレオ画像撮影装置
KR20050104465A (ko) 안폭 조정과 접사촬영이 가능한 입체 카메라
JP2003139518A (ja) 画像入力光学系及び三次元形状測定装置
JP2006287274A (ja) 撮像装置及びそれを用いた立体視画像生成システム
JP2011135414A (ja) 3次元画像撮影装置及び3次元画像撮影方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100212

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100212

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20121113

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20130212

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20130219

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130313

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130528

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20131029

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20131128

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

Ref document number: 5426174

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees