JP5446834B2 - 撮像装置および撮像方法 - Google Patents

撮像装置および撮像方法 Download PDF

Info

Publication number
JP5446834B2
JP5446834B2 JP2009288230A JP2009288230A JP5446834B2 JP 5446834 B2 JP5446834 B2 JP 5446834B2 JP 2009288230 A JP2009288230 A JP 2009288230A JP 2009288230 A JP2009288230 A JP 2009288230A JP 5446834 B2 JP5446834 B2 JP 5446834B2
Authority
JP
Japan
Prior art keywords
information
optical system
imaging
image
distance
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2009288230A
Other languages
English (en)
Other versions
JP2011130289A (ja
Inventor
忠邦 奈良部
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2009288230A priority Critical patent/JP5446834B2/ja
Priority to US12/926,182 priority patent/US8817121B2/en
Priority to TW099138739A priority patent/TW201143383A/zh
Priority to KR1020100116720A priority patent/KR20110070780A/ko
Priority to EP10194561A priority patent/EP2357604A1/en
Priority to CN2010105874456A priority patent/CN102104715A/zh
Publication of JP2011130289A publication Critical patent/JP2011130289A/ja
Application granted granted Critical
Publication of JP5446834B2 publication Critical patent/JP5446834B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • G06T1/0007Image acquisition
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Measurement Of Optical Distance (AREA)
  • Studio Devices (AREA)
  • Cameras In General (AREA)
  • Exposure Control For Cameras (AREA)

Description

本発明は、撮像装置および撮像方法に関し、特に被写体からの光を光電変換する撮像素子を用いた多重光学系の撮像装置およびその撮像方法に関するものである。
撮像装置として、暗箱の1面に穿設されたピンホールと称される穴を通して被写体からの光を暗箱内のフィルム等の感光体上に導いて撮像するピンホールカメラが広く知られている。
このピンホールカメラの場合には、感光体の一点に到来する光は、ピンホールを通過してきたわずかな光でしかない。
したがって、光量が少なく、特に暗いところでの撮像を考えると実用的ではない。
このため、一般的な撮像装置では、撮像レンズを用い、この撮像レンズの焦点位置に撮像デバイスを配置する。
そして、撮像レンズで取り込んだ被写体からの光を、撮像デバイスで電気信号に変換しやすいように光学系において光学的な処理を施す。その後、撮像デバイスの光電変換側に導き、撮像デバイスによって光電変換して得られる電気信号に対して、後段の信号処理回路で所定の信号処理を施す(たとえば、非特許文献1参照)。
この種の撮像装置はデジタルスチルカメラなどのカメラシステムとして単体で用いられる他に、近年、携帯電話などの小型携帯機器に組み込まれて用いられるようになってきている。
そのため、携帯電話などに組み込むに当たって、撮像装置の小型化、軽量化、低コスト化が強く求められているのが現状である。
すなわち、小型、軽量、低コストの撮像装置を組み込むことで、携帯電話などの小型携帯機器の小型化、軽量化、低コスト化に大きく寄与できることになる。
しかしながら、撮像レンズを使用した撮像装置は、撮像レンズの大きさ分だけ大型になり、撮像レンズの重さ分だけ重くなり、さらには撮像レンズのコストによって高価になる。
また、撮像レンズのシェーディングによって周辺光量が落ちる。さらに、広ダイナミックレンジの被写体を撮像すると、撮像デバイスの画素間の信号電荷量に大きな差異が生じ、この差異により撮像デバイスのダイナミックレンジを大きく設計する必要がある。
このような状況に対応して、特許文献1に、撮像レンズを不要にすることで、小型化、軽量化、低コスト化を可能とし、しかもボケのない画像を所望の光量で撮像可能な多重光学系撮像装置が提案されている。
特開2006−87088号公報
竹村裕夫著,「CCDカメラ技術入門」,初版,コロナ社,1998年8月,p.2−4
Tadakuni Narabu, "A novel image-acquisition system using the optical-multiplex system", IS&T/SPIE Annual Symposium Electric Imaging Science and Technology, Proceedings of SPIE Electric Imaging Vols. 6501, Jan. 2007
上記多重光学系撮像装置において、無限遠点にある被写体を前提にしたコンピュータシミュレーション(Computer Simulation)による動作原理の確認とS/N向上の確認をしたものは、容易に実現出来る手法が確認されている(たとえば、非特許文献2参照)。
すなわち、多重光学系による結像において、同じ画像を平行移動したものを加算した画像を前提としたものは、その動作が確認されている。
この多重光学系撮像装置は、有限の距離にある被写体と無限遠点にある被写体が混在する被写体に関しては、所望の画像を再現する具体的な手法については明記されていない。
したがって、有限の距離にある被写体と多重光学系撮像装置との距離に関する情報に関しては何の処理も行わず、距離情報を算出することも考慮されていない。
また、多重光学系撮像装置以外で距離情報を算出する構造や手法が公開されているものとしては、いわゆるアクティブ(Active型)とパッシブ(Passive型)の2種類の撮像装置がある。
アクティブ型撮像装置では、カメラ側から近赤外光などの光を被写体に照射してその反射光からの情報を検出してカメラと被写体との距離を算出する。
パッシブ型撮像装置では、被写体からの光の情報だけを基にカメラと被写体との距離を算出する。
まず、三角測量の原理に基づき、近赤外光などをカメラ側から被写体に照射し、被写体からの近赤外光の反射情報を検出して、カメラと被写体との距離を算出するアクティブ型撮像装置は、カメラ側から近赤外などの光を被写体に向けて照射することを行う。
被写体からの光の情報だけを基にカメラと被写体との距離を算出するパッシブ型には、次の撮像装置が提案されている。
すなわち、パッシブ型には、複数のカメラを用いるもの、複眼式撮像装置を用いるもの、マイクロレンズアレイを用いるもの、レンズそのものに特殊な加工を施すものなどが撮像装置の構造として提案されている。
これらの撮像装置の構造を活かした手法を構築することにより、撮像装置と被写体までの距離を算出することが可能であるものと推察される。
しかしながら、これら全てのパッシブ型撮像装置は、その撮像装置に使用している撮像素子の一つの画素には、一つの光学系からの入射光しか入射されないという状態となっている。
アクティブ型距離情報算出撮像装置においては、撮像装置側から被写体に向けて近赤外光などの光を照射する必要があり、光照射のためのハードウェアが必要となるため、装置が大がかりとなるとともに、装置のコストが高くなる。
また、カメラ側から照射する光が被写体に届き、被写体からの反射光がカメラ側に届く情報を受光できるまでの距離しか距離情報を算出することができない。
パッシブ型距離情報算出撮像装置においては、撮像装置として幾つかの構成や手法が提案されているが、それらの問題点は次のようなものである。
まず、複数のカメラを使用して距離情報を算出する装置および方式においては、複数のカメラが必要となるために、撮像装置が大がかりになるとともに、装置のコストが高くなる。
また、複数のカメラの特性の差異が画質および距離の精度に悪影響を与え、カメラに求められるばらつきの範囲が厳しくなる。あるいは、ばらつきを補正するための信号処理が複雑になる。それらの結果コストが高くなる。
複眼式撮像装置を使用して距離情報を算出する装置および方式においては、各個眼の画素数を大きく取れないため、高解像度の画像を取得することが困難になる。
マイクロレンズアレイを使用して距離情報を算出する装置および方式においては、各個眼に距離情報を算出するための画素数を割り当てるために、撮像素子の総画素数から得られる解像度が低下する。
また、距離情報の精度を上げるには、主レンズの口径を大きく取る必要があり、主レンズが大きく重くなるとともに主レンズのコストが高くなる。主レンズを軽く小さく、コストを抑えようとすると、距離情報の精度が劣化する。
レンズそのものに特殊な加工を施した撮像装置を使用して距離情報を算出する装置および方式においては、距離情報の精度を上げるには、主レンズの口径を大きく取る必要があり、主レンズが大きく重くなり、主レンズのコストが高くなる。
主レンズを軽く小さく、コストを抑えようとすると、距離情報の精度が劣化する。
本発明は、大型化、コスト増を抑止しつつ、被写体と装置の距離情報を高精度の得ることができ、距離情報を応じた画像を得ることができる撮像装置および撮像方法を提供することにある。
本発明の第1の観点の撮像装置は、光電変換機能を有する複数の画素が配列された撮像素子と、被写体からの光を上記撮像素子の各画素に導光する複数の光学系窓を含む導光部と、上記撮像素子の撮像情報を基に被写体の距離情報を求め、当該距離情報を基に被写体の距離に応じた画像を生成する信号処理を行う信号処理部と、を有し、上記信号処理部は、無限遠あるいは無限遠に近似できる被写体と有限の距離にある被写体が混在している場合に、画素および画素領域に関して、上記複数の光学系窓の各光学系窓の形成位置に基づく相関性から距離に応じて変化する関数の係数を選定して上記被写体までの距離情報を決定して、上記撮像情報から被写体の画像情報と被写体までの距離情報を取得する。
本発明の第2の観点の撮像方法は、被写体からの光を、光電変換機能を有する複数の画素が配列された撮像素子の各画素に複数の光学系窓を通して導光する導光ステップと、上記撮像素子の撮像情報を基に被写体の距離情報を求め、当該距離情報を基に被写体の距離に応じた画像を生成する信号処理を行う信号処理ステップと、を有し、上記信号処理ステップは、無限遠あるいは無限遠に近似できる被写体と有限の距離にある被写体が混在している場合に、画素および画素領域に関して、上記複数の光学系窓の各光学系窓の形成位置に基づく相関性から距離に応じて変化する関数の係数を選定して上記被写体までの距離情報を決定して、上記撮像情報から被写体の画像情報と被写体までの距離情報を取得する。
本発明によれば、大型化、コスト増を抑止しつつ、被写体と装置の距離情報を高精度の得ることができ、距離情報を応じた画像を得ることができる。
本発明の実施形態に係る多重光学系撮像装置の基本構成を示す概略構成図である。 本発明の実施形態に係る多重光学系撮像装置のシミュレーションモデルを示す簡略断面を示す図である。 本実施形態に係る信号処理部における主要な機能ブロックを示す図である。 本実施形態に係る多重光学系撮像装置の第1の有限距離被写体情報算出処理を説明するためのフローチャートを示す第1図である。 本実施形態に係る多重光学系撮像装置の第1の有限距離被写体情報算出処理を説明するためのフローチャートを示す第2図である。 本実施形態に係る多重光学系撮像装置の第2の有限距離被写体情報算出処理を説明するためのフローチャートを示す図である。 本実施形態に係る多重光学系撮像装置の第3の有限距離被写体情報算出処理を説明するためのフローチャートを示す図である。 本実施形態に係る多重光学系撮像装置の第4の有限距離被写体情報算出処理を説明するためのフローチャートを示す図である。 本実施形態に係る多重光学系撮像装置の第5の有限距離被写体情報算出処理を説明するためのフローチャートを示す図である。 5つのピンホールである光学系を通した撮像素子による出力ロウデータの撮像画像を示す図である。 5つのピンホールである光学系を通した撮像素子による出力ロウデータの各撮像画像を示す図である。 5つのピンホールである光学系を通した撮像素子による出力ロウデータの信号処理後の画像を示す図である。 中央の光学系による被写体画像を示す図である。 撮像装置と被写体の両方に向かって正立した位置関係で右側光学系による被写体画像を示す図である。 撮像装置と被写体の両方に向かって正立した位置関係で左側光学系による被写体画像を示す図である。 撮像装置と被写体の両方に向かって正立した位置関係で上側光学系による被写体画像を示す図である。 撮像装置と被写体の両方に向かって正立した位置関係で下側光学系による被写体画像を示す図である。
以下、本発明の実施形態を図面に関連付けて説明する。
なお、説明は以下の順序で行う。
1.多重光学系撮像装置の基本構成
2.信号処理の概要
3.信号処理の具体例
<1.多重光学系撮像装置の基本構成>
図1は、本発明の実施形態に係る多重光学系撮像装置の基本構成を示す概略構成図である。
図2は、本発明の実施形態に係る多重光学系撮像装置のシミュレーションモデルを示す簡略断面を示す図である。
本実施形態に係る多重光学系撮像装置10は、複数の画素が行列状に配列された撮像素子20、複数の光学系窓が形成された導光部30、および信号処理部40を主構成要素として有している。
ここで、多重光学系撮像装置10とは、複数の光学系と撮像素子と信号処理系を含む撮像装置であって、撮像素子の一つの画素への入射光が複数の光学系からの入射光により形成される撮像装置をいう。
本実施形態に係る多重光学系撮像装置10は、後で詳述するように、信号処理部40において、被写体OBJの距離情報を算出する機能を有し、この距離情報を基に、被写体OBJとの距離に応じて非合焦画像と合焦画像とを作成する機能を有する。
本多重光学系撮像装置10は、無限遠あるいは無限遠に近似できる被写体と有限の距離にある被写体が混在している場合において、撮像情報から画像としての被写体情報と被写体までの距離情報の両方を算出する機能を有する。
撮像装置10は、主構成要素である撮像素子20、導光部30、および信号処理部40が、図2に示すように、一方の主面が開口した装置本体50に搭載されている。
この装置本体50の開口部には、たとえば矩形状のパッケージ51が配置されている。このパッケージ51は、装置本体50の開口部側の主面が開口しており、この開口部に遮光板52が配置されることによって暗箱が形成されている。
パッケージ51内には、撮像素子20が配置されている。
撮像素子20としては、CCD(Charge Coupled Device)イメージャに代表される電荷転送型撮像素子や、MOS(Metal Oxide Semiconductor)イメージャに代表されるXYアドレス型撮像素子などが適用される。
すなわち、撮像素子20は、複数の画素21が行列状に配列され、導光部30の光学系窓32を通して入射した光をその光量に応じた電気信号に画素単位で光電変換する。
撮像素子20は、素子の中央部に複数の画素21が配列されている有効画素領域(実際に撮像情報として用いられる画素部)22を有する。
撮像素子20は、たとえばタイミングジェネレータおよびをアナログ/デジタルコンバータ(ADC)を含むアナログフロントエンド部を有する。
タイミングジェネレータでは、撮像素子20の駆動タイミングを生成しており、ADCは、画素から読み出されるアナログ信号をデジタル信号に変換し、信号処理部40に出力する。
導光部30は、遮光板52の機能を含むアパーチャーシート(Aperture Sheet)31を有する。
アパーチャーシート31に、複数(図1の例では5)の光学系窓32C,32U,32B,32R,32Lが形成されている。
光学系窓32Cはアパーチャーシート31の略中央部に形成されている。
光学系窓32Uは、中央の光学系窓32Cに対して図中の直交座標系におけるX方向プラス側の上部領域に所定間隔をおいて形成されている。
光学系窓32Bは、中央の光学系窓32Cに対して図中の直交座標系におけるX方向マイナスの下部領域に所定間隔をおいて形成されている。
光学系窓32Rは、中央の光学系窓32Cに対して図中の直交座標系におけるY方向プラス側の右部領域に所定間隔をおいて形成されている。
光学系窓32Lは、中央の光学系窓32Cに対して図中の直交座標系におけるY方向マイナス側の左領域に所定間隔をおいて形成されている。
光学系窓32C,32U,32B,32R,32Lは、たとえばピンホールとして形成される。ただし、レンズが配置されていてもよい。
基本的に、光学系窓は複数あって、撮像素子20の一つの画素21への入射光が複数の光学系窓からの入射光により形成され構成であればよい。したがって、光学系窓の数は本実施形態のように5個に限られるものではない。
光学系窓32C,32U,32B,32R,32Lは、その形状は、たとえばピンホールとして形成される場合、微小な径の穴形状にとなっている。
本実施形態の光学系窓32C,32U,32B,32R,32Lは、微小な径の穴形状であるが、被写体OBJ側面(前面)から撮像素子20との対向面(背面)に向かって径が徐々に大きくなるように形成されている。
また、中央光学系窓32Cは、その径が周囲の光学系窓32U,32B,32R,32Lの径より大きく設定されており、より多くの光量が得られるように形成されている。
被写体OBJからの光は、複数の光学系窓32C,32U,32B,32R,32Lの各々を通過することで、ピンホール効果によって撮像素子20の撮像面上に被写体の情報として光学系窓の数だけ結像される。
これにより、撮像面全体では、結像された被写体の像の数、すなわち光学系窓32の数に応じた光量が得られる。
なお、同発明者による特許文献1にて開示されているように、光学系窓の構成は目的に応じて選択することができ、本実施形態に限られるものではない。
光学系窓32の数、形状については以上の通りである。
複数の光学系窓32が形成される遮光板52上の光学系窓成領域の広さについては、撮像素子20の有効画素部22の周縁部の画素にも中央部の画素と同程度の光のエネルギーを入射させるためには、撮像素子20の有効画素部22の広さよりも広い方がよい。
たとえば、光学系窓成領域の広さは、有効画素部22に対して面積比で9倍程度の広さにするのが好ましい。
ただし、撮像素子20の有効画素部22に対する遮光板52上の穴形成領域の広さは、遮光板52と撮像素子20の撮像面との間の距離Lと撮像素子20の画角との関係にも依存する。
たとえば、有効画素部22が3mm(水平)×3mm(垂直)の撮像素子で、L=3mmの場合、画角を90度にすると、遮光板52上の穴形成領域を有効画素部22に対して9倍の面積に設定する。これにより、有効画素部22の全ての画素に入射する光のエネルギーをほぼ均一にすることができる。
上述したように、複数の光学系窓32の各々を通して撮像素子20の撮像面上に被写体OBJの情報を結像させることで、撮像面全体で光学系窓32の数に応じた光のエネルギーを得ることができる。
このため、光学系窓32の数を適当に設定することによって必要な光量を得ることができる。
ただし、撮像面上には、被写体情報の各々が光学系窓32のピッチに応じたずれ量だけ相互にずれて結像されることになる。
この撮像面上に結像された各被写体情報間のずれは、信号処理部40での信号処理によって補正される。この信号処理の詳細については後述する。
撮像素子20は、撮像面上に結像された被写体OBJの情報を画素単位で光電変換して電気信号として出力する。
撮像素子20の後段には、信号処理部40が接続されている。
<2.信号処理の概要>
この信号処理部40は、撮像素子20から出力される電気信号に対して、複数の光学系窓32C,32U,32B,32R,32L各々を通して撮像素子20の受光面に導かれた各被写体の情報を基に所望の信号処理を行う。
信号処理部40は、被写体OBJの距離情報を算出する機能を有し、この距離情報を基に、被写体OBJとの距離に応じて非合焦画像と合焦画像とを作成する機能を有する。
本多重光学系撮像装置10は、無限遠あるいは無限遠に近似できる被写体と有限の距離にある被写体が混在している場合において、撮像情報IFIMGから画像としての被写体情報IFOBJと被写体までの距離情報zの両方を算出する機能を有する。
以下に、この信号処理部40の信号処理について説明する。
なお、以下の説明では、光学系窓を単に光学系と呼ぶこととする。
無限遠あるいは無限遠に近似できる被写体と有限の距離にある被写体が混在している場合において、撮像情報IFIMGから画像としての被写体情報IFOBJと被写体までの距離情報zの両方を算出する方法として、次の方法を採用可能である。
一つ目は行列を求める手法により分類する方法である。この方法は2種類ある。
二つ目は多重光学系による撮像情報の数による分類する方法である。この方法は3種類ある。
[行列を求める手法による分類」
この場合、たとえば画素、および、画素領域に関して多重光学系の各光学系の位置に基づく相関性から行列の要素を選定していく方法が採用可能である。
あるいは、あらかじめ、距離に応じた行列を複数用意しておき、それらを用いた算出画像とリファレンス(Reference)画像との相関性から、行列の要素を選定していく方法を採用可能である。
[多重光学系による撮像情報の数による分類]
この場合、たとえば多重光学系撮像装置10によるひとつの撮像情報だけから求める方法を採用可能である。
あるいは、多重光学系による撮像情報に加え、多重光学系を構成している中央の光学系による撮像情報も取得して求める方法を採用可能である。
あるいは、多重光学系による撮像情報に加え、多重光学系を構成している複数の光学系による独立した撮像情報を取得して求める方法を採用可能である。
この場合、中央の光学系による撮像情報をリファレンス情報として採用する。
または、多重光学系による複数の撮像情報をリファレンス情報として採用する。
図3は、本実施形態に係る信号処理部における主要な機能ブロックを示す図である。
図3の信号処理部40は、保存部41、補正部42、相関距離処理部43、演算処理部44、および演算結果保存部45を含んで構成される。
保存部41は、撮像素子20による2次元(xy)のロウデータ(Raw data)情報を保存する。
補正部42は、必要に応じてロウデータに対するシェーディング補正等を行って、撮像情報を取得する。
相関距離処理部43は、補正された撮像情報の画素間相関を確認する。相関距離処理部43は、領域ごとの相関をとる機能も有する。
相関距離処理部43は、相関が最大となる点を2次元情報と被写体までの距離のそれぞれにおいて求める機能を有する。
演算処理部44は、あらかじめ設定した行列あるいは作成した行列の逆関数から画像情報を作成し、この画像情報を基に個々の画像を作成する機能を有する。
演算処理部44は、得られた個々の光学系の画像を加算し、多重光学系を用いて得られる画像を算出する機能を有する。
ここで得られた画像情報は、相関距離処理部43において、最初から撮像によって得られている画像との相関がとられ、この相関がたとえば100%近くになるまで、規定回数だけ、一連の演算処理等が行われる。
以上の機能ブロックを含む信号処理部40を含む多重光学系撮像装置10は、被写体との距離に応じてフォーカス(Focus)および、またはディフォーカス(Defocus)画像を算出する機能を有する。すなわち、演算処理部44は、被写体OBJとの距離に応じて非合焦画像および合焦画像のうちの少なくとも一方を作成する機能を有する。
多重光学系撮像装置10は、被写体OBJとの距離との相関のあるデータを算出する機能を有する。
多重光学系撮像装置10において、被写体OBJとの距離に応じて左右の視差との相関のあるデータを算出する機能を有する。
多重光学系撮像装置10において、被写体OBJとの距離に応じたデータを基に左右の視差との相関のある画像を作成する機能を有する。
多重光学系撮像装置10において、被写体OBJとの距離に応じたデータを基に左右のみならず上下を含めた視点間差との相関のある画像を作成する機能を有する。
ここで、以上の機能ブロックを有する信号処理部40における基本的処理の一例と、有限距離被写体情報算出アルゴリズムの一例を説明する。
より具体的な複数の処理については、後で図面に関連付けて詳述する。
[基本的処理の一例]
a.光学系から被写体OBJまでの距離に応じた逆関数(逆行列(視差補正行列))を用意しておく。
b.距離に応じた画像を算出する。たとえば主画像に逆関数をかけて距離に応じた画像を得る。
c.リファレンスデータとの差分を取る。リファレンスデータとしては、上述したように、中央の光学系のみ画像を取得しておく、または多重光学系により撮像情報をリファレンス情報として取得する。
d.差分量の相関性により距離値と各画素情報とを関連付ける。
e.距離に応じた画像処理を行い、所望の画像を算出する。
[有限距離被写体情報算出アルゴリズムの一例]
a.被写体OBJの距離(z)に応じた複数の2次元(xy)のロウデータ(Raw data)情報を多重光学系の位置情報・シェーディング(Shading)情報を用いて演算することにより得られた複数の情報と、リファンレス情報との差異検出を行う。
b.被写体OBJとの距離zにおいて、視差を補正する行列を用いて計算した画像データとリファレンスデータとの差分を取り、その相関性を確認する。
c.画素ごとの相関、領域ごとの相関も確認する。局所空間相関、全体相関などの情報を計算する。
演算結果の情報とリファンレスデータの差分を取ると、極小になる部分と差異が残っている部分がある。
d.差異が極小、即ち、相関が最大となる点を2次元(xy)情報と被写体までの距離(z)の それぞれにおいて求める。
e.xyzの3次元空間において相関が最大となる点を繋いでいくと合焦画像が得られる。
f.極小になった部分は、視差が無い画像である。その時に使用した行列の距離情報により、距離が判明する。
g.上記の極小の程度に関しては、多重光学系の数の空間分布の相関性の程度で判断する。
h.画素単位、領域ごとに距離情報を関連付ける。
i.ディフォーカス(Defocus)は画素加算を行い、視差情報に基づいた位置変換を行うなど所望の画像合成を行う。
ここで、図2のシミュレーションモデルの応じた多重光学系撮像装置10におけるアルゴリズムについて示す。
次式は、多重光学系撮像装置10におけるアルゴリズムを相対的に示している。
Figure 0005446834
Sijは座標(i, j)の画素における撮像情報(信号成分)を、aijklは行列に関する係数を、Bijは被写体情報を、bijklは逆行列に関する係数を、Nは垂直方向の画素数を、Mは水平方向の画素数を、それぞれ示している。
無限遠点近似の距離にある被写体の情報Blkと撮像情報Sijとの関係は、次式のように、一つの係数aijklで関係付けられる。
Figure 0005446834
有限の距離にある被写体の情報Blkdと撮像情報Sijとの関係は、次式のように、一つの係数aijkldで関係付けられる。
Figure 0005446834
Figure 0005446834
なお、以上は、多重光学系撮像装置10を前提としており、合焦しており、視差があることを前提条件としている。
<3.信号処理の具体例>
以上、本実施形態に係る多重光学系撮像装置10の信号処理部40における信号処理の概要ついて説明した。
以下では、多重光学系撮像装置10の動作を、信号処理部40における有限距離被写体情報算出処理を中心に、複数の具体的例を示して説明する。
[有限距離被写体情報算出処理の第1例]
図4は、本実施形態に係る多重光学系撮像装置の第1の有限距離被写体情報算出処理を説明するためのフローチャートを示す第1図である。
図5は、本実施形態に係る多重光学系撮像装置の第1の有限距離被写体情報算出処理を説明するためのフローチャートを示す第2図である。
この第1例は、画素、および、画素領域に関して、多重光学系の各光学系の位置に基づく相関性から行列の要素を選定していく方法を採用した例であり、多重光学系によるひとつの撮像情報だけから求める場合である。
まず、多重光学系撮像装置10により被写体OBJを、導光部30の各光学系32C,32U,32B,32R,32Lを通して撮像素子20で撮像し(ST1)、そのロウデータを信号処理部40に供給する。信号処理部40は、入力されたロウデータは保存部に保存する(ST2)。
信号処理部40は、多重光学系撮像装置10の各光学系32C,32U,32B,32R,32Lの位置に基づいてシェーディング補正を行い(ST3)、補正された撮像情報の画素間の相関をとる(ST4〜ST15)。
この場合、1画素ずつずらしながらi画素までの画素相関をとり、それらの相関値を保存しておき、相関の最大値を検出して、画素ごとの距離を決定する。
なお、iは、例えば、視差から導き出される画素のずれ量を表す数値である。この例では整数値を取っている。必要に応じて各光学系の位置の差分に相当する数値や水平画素数、垂直画素数などを取る。
そして、相関の低い画素領域は多重光学系との位置との領域相関をとる(ST16〜ST27)
この場合、水平、垂直方向の領域における相関値を算出し、1画素ずつずらしながらi画素までの画素相関をとり、それらの相関値を保存しておき、相関の最大値を検出して、画素ごとの距離を決定する。このとき、領域相関の大きさで中央光学系による領域の位置を選定する。
次に、画素相関の程度により距離に応じた行列の要素を選定する(ST28)。
相関の低い画素領域は多重光学系の位置との領域相関をとる。
中央光学系32Cではない周辺光学系32U,32B,32R,32Lによる領域は、その周辺の行列の要素に設定する。
相関の低い画素領域に画素相関が高くなる方向の有限距離に対応する要素を設定する。
そして、行列を作成し(ST28)、逆行列を求める(ST29)。
撮像画像と逆行列から画像情報を作成する(ST30)。
作成した画像情報を基に、多重光学系の位置、および、シェーディング特性などを使用し、まず、多重光学系における個々の光学系による画像を作成する。
得られた個々の光学系32C,32U,32B,32R,32Lの画像を加算し、多重光学系を用いて得られる画像を算出する(ST31)。
ここで得られた画像情報と、最初から撮像によって得られている画像との相関を取る(ST32)。
ここで、相関が所定の閾値α%以上であれば(ST33)、処理を完了する。
繰り返し回数が規定以上であれば(ST34)、処理を終了する。
繰り返し回数が規定以上でない場合には、水平、垂直方向の領域を拡大して相関値を算出し(ST35)、ステップST17の処理に戻り繰り返す。
[有限距離被写体情報算出処理の第2例]
図6は、本実施形態に係る多重光学系撮像装置の第2の有限距離被写体情報算出処理を説明するためのフローチャートを示す図である。
第2例は、画素、および、画素領域に関して、多重光学系の各光学系の位置に基づく相関性から行列の要素を選定していく方法を採用した例であり、多重光学系を構成している中央の光学系32Cによる撮像情報をも取得して求める場合である。
中央の光学系32Cによる撮像情報をも取得し計算するので、第1例と比較すると計算時間が速い。
まず、多重光学系撮像装置10により被写体OBJを、導光部30の各光学系32C,32U,32B,32R,32Lを通して撮像素子20で撮像し(ST41)、そのロウデータを信号処理部40に供給する。信号処理部40は、入力されたロウデータは保存部に保存する(ST42)。
導光部30の中央の各光学系32Cを通して撮像素子20で撮像し(ST43)、そのロウデータを信号処理部40に供給する。信号処理部40は、入力されたロウデータは保存部に保存する(ST44)。
多重光学系の各光学系32C,32U,32B,32R,32Lの光学情報とステップST43で取得した中央の光学系32Cによる撮像情報を基に、画像処理を被写体との距離情報をパラメータとして算出する。
信号処理部40は、各光学系32(C〜L)の位置と各光学系のシェーディング特性に関して、ステップST41で取得した複数の光学系による撮像情報と等価な画像情報を、被写体との距離情報をパラメータにして算出する(ST45〜ST47)。
この場合、中央の光学系32Cによる撮像情報を基に、無限遠前提情報を算出する。そして、中央の光学系32Cによる撮像情報を基に、i画素ずつずらして、(i+1)画素までの画像情報を算出する。
被写体OBJとの距離情報をパラメータにして、上記得られた画像情報とステップST41で取得した撮像情報との相関を取る(ST48〜ST50)。
差が一番小さい位置、すなわち相関の最も大きいところを各画素の被写体情報における被写体までの距離とする(ST51,ST52)。
各光学系の位置、各光学系のシェーディング特性、各画素の距離情報の3種類の情報と取得した中央の光学系による撮像情報を基に、ステップST41で取得した複数の光学系による撮像情報と等価な画像情報を算出する。
以下では、第1例と同様の処理が行われる(図5参照)。
ここで得られた画像情報と上記ステップST41で取得した撮像情報との相関を取る。
あらゆる画素で相関が充分大きいことを確認し、距離情報に基づいた係数(行列)が求められたものと判断する。
そして、逆行列を求める。
撮像画像と逆行列から画像情報を作成する。
計算した画像情報を基に、多重光学系の位置、および、シェーディング特性などを使用し、まず、多重光学系における個々の光学系による画像を作成する。
得られた個々の光学系の画像を加算し、多重光学系を用いて得られる画像を算出する。
ここで得られた画像情報と、最初から撮像によって得られている画像との相関を取る。
相関が100%近くであれば、処理が完了する。
繰り返し回数が規定以上であれば、処理を終了する。
繰り返し回数が規定以上でない場合には、ステップST51、ST52の処理の戻り以降の処理を繰り返す。
[有限距離被写体情報算出処理の第3例]
図7は、本実施形態に係る多重光学系撮像装置の第3の有限距離被写体情報算出処理を説明するためのフローチャートを示す図である。
第3例は、画素、および、画素領域に関して、多重光学系の各光学系の位置に基づく相関性から行列の要素を選定していく方法を採用した例であり、多重光学系を構成している複数の光学系32(C〜L)による撮像情報をも取得して求める場合である。
複数の光学系32(C〜L)による撮像情報をも取得して計算するので、第1例、第2例と比較すると計算時間が速い。
まず、多重光学系撮像装置10により被写体OBJを、導光部30の各光学系32C,32U,32B,32R,32Lを通して撮像素子20で撮像し(ST51)、そのロウデータを信号処理部40に供給する。信号処理部40は、入力されたロウデータは保存部に保存する(ST52)。
導光部30の中央の光学系32Cを通して撮像素子20で撮像し(ST53)、そのロウデータを信号処理部40に供給する。信号処理部40は、入力されたロウデータは保存部に保存する(ST54)。
信号処理部40は、中央の光学系32Cによる撮像情報に対してシェーディング補正を行い(ST55)、その画像情報を保存する(ST56)。
導光部30の各光学系32C,32U,32B,32R,32Lを通して撮像素子20で撮像し(ST57)、そのロウデータを信号処理部40に供給する。信号処理部40は、入力されたロウデータは保存部に保存する(ST58)。
信号処理部40は、複数の光学系それぞれの撮像情報を基に、それぞれシェーディング補正した画像情報を計算する(ST59)。
ステップST57で取得したそれぞれの光学系の画像情報を基に、被写体との距離情報をパラメータにして、それぞれの光学系32C,32U,32B,32R,32Lの画像情報を算出する(ST60〜ST62)。
この場合、ステップST59の撮像情報を基に、無限遠前提情報を算出する。そして、中央の光学系32Cによる撮像情報を基に、i画素ずつずらして、(i+1)画素までの画像情報を算出する。
被写体OBJとの距離情報をパラメータにして、上記得られた画像情報とステップST55で取得した中央の光学系32Cの画像情報との相関を取る(ST63〜ST65)。
差が一番小さい位置、すなわち相関の最も大きいところを各画素の被写体情報における被写体までの距離とする(ST66,ST67)。
以下では、第1例および第2例と同様の処理が行われる(図5参照)。
各画素に応じた距離情報に基づき、行列が求まる。
そして、逆行列を求める。
撮像画像と逆行列から画像情報を作成する。
計算した画像情報を基に、多重光学系の位置、および、シェーディング特性などを使用し、まず、多重光学系における個々の光学系による画像を作成する。
得られた個々の光学系の画像を加算し、多重光学系を用いて得られる画像を算出する。
ここで得られた画像情報と、最初から撮像によって得られている画像との相関を取る。
相関が100%近くであれば、処理が完了する。
繰り返し回数が規定以上であれば、処理を終了する。
繰り返し回数が規定以上でない場合には、ステップST66、ST67の処理の戻り以降の処理を繰り返す。
[有限距離被写体情報算出処理の第4例]
図8は、本実施形態に係る多重光学系撮像装置の第4の有限距離被写体情報算出処理を説明するためのフローチャートを示す図である。
本第4例は、あらかじめ、距離に応じた行列を複数用意しておき、それらを用いた算出画像のリファレンス画像との相関性から、行列の要素を選定していく方法を採用した場合である。
すなわち、基本的処理の一例として示した、以下の基本処理を含んで行う。
a.光学系から被写体OBJまでの距離に応じた逆関数(逆行列(視差補正行列))を用意しておく。
b.距離に応じた画像を算出する。たとえば主画像に逆関数をかけて距離に応じた画像を得る。
c.リファレンスデータとの差分を取る。リファレンスデータとしては、上述したように、中央の光学系のみ画像を取得しておく、または多重光学系により撮像情報をリファレンス情報として取得する。
d.差分量の相関性により距離値と各画素情報とを関連付ける。
e.距離に応じた画像処理を行い、所望の画像を算出する。
第4例では、リファレンスデータとして、多重光学系により撮像情報(ロウデータ)をリファレンス情報として取得する。
第4例は、考え方は単純であり理解し易いが、全ての画素、全ての距離の計算をするので計算時間がかかる。
まず、多重光学系撮像装置10により被写体OBJを、導光部30の各光学系32C,32U,32B,32R,32Lを通して撮像素子20で撮像し(ST71)、そのロウデータを信号処理部40に供給する。信号処理部40は、入力されたロウデータは保存部に保存する(ST72)。
距離に応じた画像を算出する。主画像に逆関数をかけて距離に応じた画像を得る(ST73〜ST75)、それらの演算結果を保存する(ST76〜ST78)。
この場合、ステップST72の撮像情報を基に、無限遠点近似被写体用逆関数に演算を行い保存する(ST73,ST76)。
ステップST72の撮像情報を基に、有限距離(i)被写体用逆関数に演算を行い保存する(ST74,ST77)。
ステップST72の撮像情報を基に、有限距離(i+1)被写体用逆関数に演算を行い保存する(ST75,ST78)。
そして、各演算結果を基に、多重光学系関数による演算を行う(ST79〜ST81)。
多重光学系により撮像情報(ロウデータ)をリファレンス情報としてステップST79〜ST81の演算結果との差をとる(ST82〜ST84)。
その差が一番小さい位置、すなわち相関の最も大きいところを各画素の被写体情報における被写体までの距離とする(ST85,ST86)。
以下では、第1例、第2例、および第3例と同様の処理が行われる。
[有限距離被写体情報算出処理の第5例]
図9は、本実施形態に係る多重光学系撮像装置の第5の有限距離被写体情報算出処理を説明するためのフローチャートを示す図である。
本第5例は、あらかじめ、距離に応じた行列を複数用意しておき、それらを用いた算出画像のリファレンス画像との相関性から、行列の要素を選定していく方法を採用した場合である。
第4例との違いは、リファレンスデータとしては、中央の光学系32Cのみ画像を取得し、ステップST79〜ST81の処理が省略されていることにある。
第5例は、考え方が単純であり理解し易く、リファレンスデータとして、中央の光学系32Cの画像を取得するので、第4例よりも計算時間が短い。
すわち、図8のステップに、導光部30の中央の各光学系32Cを通して撮像素子20で撮像し(ST87)、そのロウデータを信号処理部40に供給する。信号処理部40は、入力されたロウデータは保存部に保存する(ST88)。
そして、中央の光学系32Cの撮像情報(ロウデータ)をリファレンス情報としてステップST79〜ST81の演算結果との差をとる(ST82〜ST84)。
その差が一番小さい位置、すなわち相関の最も大きいところを各画素の被写体情報における被写体までの距離とする(ST85,ST86)。
以下では、第1例、第2例、および第3例と同様の処理が行われる。
ここで、上記信号処理を行う信号処理部40の処理結果により得られる画像の例を図10〜図17に示しておく。
図10は、5つのピンホールである光学系32C,32U,32B,32R,32Lを通した撮像素子20による出力ロウデータの撮像画像を示している。
図11は、5つのピンホールである光学系32C,32U,32B,32R,32Lを通した撮像素子20による出力ロウデータの各撮像画像を示している。
図12は、5つのピンホールである光学系32C,32U,32B,32R,32Lを通した撮像素子20による出力ロウデータの信号処理後の画像を示している。
以下では、無限遠あるいは無限遠に近似できる被写体と有限距離にある被写体が混在している場合の各光学系における撮像画像を示す。
以下に示す画像は、被写体OBJとアパーチャーシート31との距離を無限遠点近似(5.4cm以上)したものである。また、アパーチャーシート31と撮像面との距離を200μm、アパーチャーシート31における光学系窓間の距離を270μm、画素ピッチ10μmとした場合である。
図13は、中央の光学系32Cによる被写体画像を示している。
図14は、撮像装置10と被写体の両方に向かって正立した位置関係で右側光学系32Rによる被写体画像を示している。
図15は、撮像装置10と被写体の両方に向かって正立した位置関係で左側光学系32Lによる被写体画像を示している。
図16は、撮像装置10と被写体の両方に向かって正立した位置関係で上側光学系32Uによる被写体画像を示している。
図17は、撮像装置10と被写体の両方に向かって正立した位置関係で下側光学系32Bによる被写体画像を示している。
以上説明したように、本実施形態に係る多重光学系撮像装置によれば、以下の効果を得ることができる。
すなわち、多重光学系を使用して撮像装置と被写体との距離情報を算出する本実施形態に係る撮像装置は、パッシブ型であるため、アクティブ型に必要な撮像装置側から被写体に向けて照射する近赤外光などの照射装置が不要である。
その結果、撮像装置全体の小型化、低コスト化が実現できる。
被写体からの光が撮像装置に入射し、受光できれば距離情報を算出できるので、近距離から無限遠までの距離を算出することができる。
また、本実施形態に係る撮像装置は、パッシブ型撮像装置で比較すると、次のような問題点が解決される。
まず、複数のカメラを使用して距離情報を算出する装置および方式で問題となる装置がおおがかりになり、高コスト化に関しては、本実施形態では一つの多重光学系撮像装置で距離情報を算出できるので、装置全体が小型になり、低コストになる。
また、一つの多重光学系撮像装置で良いので、ばらつきは小さくなり、撮像装置に必要なばらつき仕様は緩くなる。ばらつきを補正するための信号処理も相対的に複雑ではなく、それらの結果、低コストとなる。
複眼式撮像装置を使用して距離情報を算出する装置および方式において問題となる解像度を高く取れない、という点に関しては、本実施形態では、解像度を支配する主レンズに割り当てる画素数を削減する必要が無い。
したがって、多重光学系撮像装置を使用した距離情報算出装置は、高解像度を実現することができる。
マイクロレンズアレイを使用して距離情報を算出する装置および方式において問題となる解像度の低下、主レンズの開口を大きく取る必要性に関しては、本実施形態では、解像度を支配する主レンズに割り当てる画素数を削減する必要が無い。
したがって、多重光学系撮像装置を使用した距離情報算出装置は、高解像度が実現でき、距離情報の精度は、多重光学系の距離を大きく取ることにより高くできるので、大口径の主レンズを使用する必要がなく、主レンズの小型化と低コスト化を図ることができる。
レンズそのものに特殊な加工を施した撮像装置を使用して距離情報を算出する装置および方式の問題である主レンズの開口を大きく取る必要性に関しては、本実施形態では、多重光学系の距離を大きく取ることにより距離情報の精度を高くすることができる。
したがって、大口径の主レンズを使用する必要がなく、レンズの小型化と低コスト化を図ることができる。
10・・・撮像装置、20・・・撮像素子、21・・・画素、22・・・有効画素部、30・・・導光部、31・・・アパーチャーシート、32,32C,32U,32B,32R,32L・・・光学系窓、40・・・信号処理部、41・・・保存部、42・・・補正部、43・・・相関距離処理部、44・・・演算処理部、45・・・保存部、50・・・装置本体、51・・・パッケージ、52・・・遮光板。

Claims (16)

  1. 光電変換機能を有する複数の画素が配列された撮像素子と、
    被写体からの光を上記撮像素子の各画素に導光する複数の光学系窓を含む導光部と、
    上記撮像素子の撮像情報を基に被写体の距離情報を求め、当該距離情報を基に被写体の距離に応じた画像を生成する信号処理を行う信号処理部と、を有し、
    上記信号処理部は、
    無限遠あるいは無限遠に近似できる被写体と有限の距離にある被写体が混在している場合に、画素および画素領域に関して、上記複数の光学系窓の各光学系窓の形成位置に基づく相関性から距離に応じて変化する関数の係数を選定して上記被写体までの距離情報を決定して、上記撮像情報から被写体の画像情報と被写体までの距離情報を取得する
    撮像装置。
  2. 上記信号処理部は、
    上記距離情報を基に、合焦画像および非合焦画像の少なくともいずれかを生成する
    請求項1記載の撮像装置。
  3. 上記信号処理部は、
    上記複数の光学系窓による一つの撮像情報を画像情報の作成に適用する
    請求項1または2記載の撮像装置。
  4. 上記複数の光学系窓は、ひとつが中央に位置するように配置され、
    上記信号処理部は、
    上記複数の光学系窓による複数の撮像情報に加えて、上記中央に位置する光学系窓の撮像情報をも取得して画像情報の作成に適用する、あるいは上記中央に位置する光学系窓の撮像情報に加えて、上記複数の光学系窓による複数の撮像情報をも取得して画像情報の作成に適用する
    請求項1または2記載の撮像装置。
  5. 上記信号処理部は、
    あらかじめ距離に応じたが関数が複数用意され、当該関数と撮像情報から画像情報を作成し、当該画像情報とリファレンス画像との相関性から距離に応じて変化する関数の係数を選定して距離情報を決定する
    請求項1または2記載の撮像装置。
  6. 上記リファレンス画像データは、上記複数の光学系窓によるロウデータである
    請求項5記載の撮像装置。
  7. 上記リファレンス画像データは、上記複数の光学系窓のうちの一つの光学系窓によるロウデータである
    請求項5記載の撮像装置。
  8. 上記信号処理部は、
    上記選定した関数に関する関数と撮像情報から画像情報を作成し、当該画像情報を基に、少なくとも各光学系窓の位置情報を適用して各光学系窓の画像を作成し、各光学系窓の画像を加算して画像を作成する
    請求項1から7のいずれか一に記載の撮像装置。
  9. 上記信号処理部は、
    上記加算して得られた画像情報と当初に取得した画像情報との相関をとり、この相関をとった相関値が規定値以上になるまで処理を所定回数繰り返す
    請求項8記載の撮像装置。
  10. 被写体からの光を、光電変換機能を有する複数の画素が配列された撮像素子の各画素に複数の光学系窓を通して導光する導光ステップと
    上記撮像素子の撮像情報を基に被写体の距離情報を求め、当該距離情報を基に被写体の距離に応じた画像を生成する信号処理を行う信号処理ステップと、を有し、
    上記信号処理ステップは、
    無限遠あるいは無限遠に近似できる被写体と有限の距離にある被写体が混在している場合に、画素および画素領域に関して、上記複数の光学系窓の各光学系窓の形成位置に基づく相関性から距離に応じて変化する関数の係数を選定して上記被写体までの距離情報を決定して、上記撮像情報から被写体の画像情報と被写体までの距離情報を取得する
    撮像方法。
  11. 上記信号処理ステップは、
    上記距離情報を基に、合焦画像および非合焦画像の少なくともいずれかを生成する
    請求項10記載の撮像方法。
  12. 上記信号処理ステップは、
    上記複数の光学系窓による一つの撮像情報を画像情報の作成に適用する
    請求項10または11記載の撮像方法。
  13. 上記複数の光学系窓は、ひとつが中央に位置するように配置され、
    上記信号処理ステップは、
    上記複数の光学系窓による複数の撮像情報に加えて、上記中央に位置する光学系窓の撮像情報をも取得して画像情報の作成に適用する、あるいは、上記中央に位置する光学系窓の撮像情報に加えて、上記複数の光学系窓による複数の撮像情報をも取得して画像情報の作成に適用する
    請求項10または11記載の撮像方法。
  14. 上記信号処理ステップは、
    あらかじめ距離に応じた関数が複数用意され、当該関数と撮像情報から画像情報を作成し、当該画像情報とリファレンス画像との相関性から行列の要素を選定して距離情報を決定する
    請求項10または11記載の撮像方法。
  15. 上記リファレンス画像データは、上記複数の光学系窓によるロウデータ、あるいは上記複数の光学系窓のうちの一つの光学系窓によるロウデータである
    請求項14記載の撮像方法。
  16. 上記信号処理ステップは、
    上記選定した関数に関する関数と撮像情報から画像情報を作成し、当該画像情報を基に、少なくとも各光学系窓の位置情報を適用して各光学系窓の画像を作成し、各光学系窓の画像を加算して画像を作成する
    請求項10から15のいずれか一に記載の撮像方法。
JP2009288230A 2009-12-18 2009-12-18 撮像装置および撮像方法 Expired - Fee Related JP5446834B2 (ja)

Priority Applications (6)

Application Number Priority Date Filing Date Title
JP2009288230A JP5446834B2 (ja) 2009-12-18 2009-12-18 撮像装置および撮像方法
US12/926,182 US8817121B2 (en) 2009-12-18 2010-10-29 Image apparatus and imaging method
TW099138739A TW201143383A (en) 2009-12-18 2010-11-10 Imaging apparatus and imaging method
KR1020100116720A KR20110070780A (ko) 2009-12-18 2010-11-23 촬상 장치 및 촬상 방법
EP10194561A EP2357604A1 (en) 2009-12-18 2010-12-10 Imaging apparatus and imaging method
CN2010105874456A CN102104715A (zh) 2009-12-18 2010-12-13 成像装置和成像方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009288230A JP5446834B2 (ja) 2009-12-18 2009-12-18 撮像装置および撮像方法

Publications (2)

Publication Number Publication Date
JP2011130289A JP2011130289A (ja) 2011-06-30
JP5446834B2 true JP5446834B2 (ja) 2014-03-19

Family

ID=43661906

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009288230A Expired - Fee Related JP5446834B2 (ja) 2009-12-18 2009-12-18 撮像装置および撮像方法

Country Status (6)

Country Link
US (1) US8817121B2 (ja)
EP (1) EP2357604A1 (ja)
JP (1) JP5446834B2 (ja)
KR (1) KR20110070780A (ja)
CN (1) CN102104715A (ja)
TW (1) TW201143383A (ja)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TW201245768A (en) * 2011-03-29 2012-11-16 Sony Corp Image pickup apparatus, image pickup device, image processing method, aperture control method, and program
US8803071B2 (en) 2011-10-31 2014-08-12 Nokia Corporation Housing for an optical sensor with micro-windows and a light valve to prevent reflected light from escaping
US9098941B2 (en) 2012-01-23 2015-08-04 Ayasdi, Inc. Systems and methods for graphical layout
US8830254B2 (en) 2012-01-24 2014-09-09 Ayasdi, Inc. Systems and methods for graph rendering
KR20130129645A (ko) * 2012-05-21 2013-11-29 엘지전자 주식회사 다중 핀홀 카메라 및 그 동작 방법
CN104051488B (zh) * 2013-03-14 2019-06-14 马克西姆综合产品公司 光学传感器
US9635351B2 (en) * 2013-11-20 2017-04-25 Infineon Technologies Ag Integrated reference pixel
US9258485B2 (en) * 2014-03-24 2016-02-09 Omnivision Technologies, Inc. Image sensor cropping images in response to cropping coordinate feedback
CN106791355B (zh) * 2016-11-09 2019-07-02 清华大学 基于图像频域拼接的单像素成像方法及系统

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3134429B2 (ja) * 1991-11-15 2001-02-13 キヤノン株式会社 焦点検出装置
US7502178B2 (en) * 2003-08-29 2009-03-10 International Technology Center Multiple wavelength and multiple field of view imaging devices and methods
JP4645358B2 (ja) * 2004-08-20 2011-03-09 ソニー株式会社 撮像装置および撮像方法
KR101139661B1 (ko) * 2004-08-20 2012-05-15 소니 주식회사 촬상 장치 및 촬상 방법
US7767949B2 (en) * 2005-01-18 2010-08-03 Rearden, Llc Apparatus and method for capturing still images and video using coded aperture techniques
JP4143101B2 (ja) * 2006-08-10 2008-09-03 アドバンスド・マスク・インスペクション・テクノロジー株式会社 試料検査装置、画像位置合わせ方法、位置ずれ量推定方法及びプログラム
CN101154379B (zh) * 2006-09-27 2011-11-23 夏普株式会社 定位语音中的关键词的方法和设备以及语音识别系统
US7792423B2 (en) * 2007-02-06 2010-09-07 Mitsubishi Electric Research Laboratories, Inc. 4D light field cameras
EP2149268A1 (en) * 2007-04-23 2010-02-03 California Institute of Technology An aperture system with spatially-biased aperture shapes for 3-d defocusing-based imaging
JP5224124B2 (ja) * 2007-12-12 2013-07-03 ソニー株式会社 撮像装置
JP2009288230A (ja) 2008-05-27 2009-12-10 Takashi Kanayama 揺れ振動測定方法

Also Published As

Publication number Publication date
US20110149100A1 (en) 2011-06-23
KR20110070780A (ko) 2011-06-24
CN102104715A (zh) 2011-06-22
US8817121B2 (en) 2014-08-26
EP2357604A1 (en) 2011-08-17
JP2011130289A (ja) 2011-06-30
TW201143383A (en) 2011-12-01

Similar Documents

Publication Publication Date Title
JP5446834B2 (ja) 撮像装置および撮像方法
JP5264131B2 (ja) 撮像装置
JP5854984B2 (ja) 画像処理装置、撮像装置、制御方法、及びプログラム
CN101809994B (zh) 摄像设备及其控制方法
KR101725045B1 (ko) 화상처리장치 및 그 제어방법
US9535193B2 (en) Image processing apparatus, image processing method, and storage medium
JP5963606B2 (ja) 撮像装置及びその制御方法
US20140192237A1 (en) Image processing apparatus, image processing method and program, and image pickup apparatus including image processing apparatus
JP2013201752A5 (ja)
JP6800650B2 (ja) 信頼度生成装置、信頼度生成方法、および撮像装置
JP2014157425A (ja) 撮像装置及びその制御方法
KR20100002051A (ko) 촬상 장치 및 촬상 방법
JP2015169722A (ja) 撮像装置
JP6544978B2 (ja) 画像出力装置およびその制御方法、撮像装置、プログラム
RU2567438C1 (ru) Устройство формирования изображений и способ управления им
JP5477464B2 (ja) 撮像装置
JP2003283907A (ja) 撮像装置
JP6190119B2 (ja) 画像処理装置、撮像装置、制御方法、及びプログラム
JP6362070B2 (ja) 画像処理装置、撮像装置、画像処理方法、プログラム、および、記憶媒体
JP2013118472A (ja) 画像処理装置、撮像装置及び画像処理プログラム
JP2017215500A (ja) 画像処理装置、撮像装置、画像処理システム、画像処理装置の制御方法及びプログラム
JP2016096556A (ja) 画像処理装置、撮像装置、制御方法、及びプログラム
JP2021135725A (ja) 画像処理装置及びその制御方法並びにプログラム
KR20210065939A (ko) 합초도 검출 장치, 심도 맵 생성 장치, 및, 전자 기기
JP2018050231A (ja) 撮像装置、撮像方法および撮像制御プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20121204

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130910

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20131105

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20131203

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20131216

LAPS Cancellation because of no payment of annual fees