JP5318027B2 - 波面符号化イメージングシステムの最適化された画像処理 - Google Patents

波面符号化イメージングシステムの最適化された画像処理 Download PDF

Info

Publication number
JP5318027B2
JP5318027B2 JP2010096585A JP2010096585A JP5318027B2 JP 5318027 B2 JP5318027 B2 JP 5318027B2 JP 2010096585 A JP2010096585 A JP 2010096585A JP 2010096585 A JP2010096585 A JP 2010096585A JP 5318027 B2 JP5318027 B2 JP 5318027B2
Authority
JP
Japan
Prior art keywords
image
wavefront
filter kernel
processing
optics
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP2010096585A
Other languages
English (en)
Other versions
JP2010183638A (ja
Inventor
グレゴリー・エドワード・ジヨンソン
エドワード・アール・ドウスキー
アシユレイ・ケイ・マコン
ハンス・ビー・ワチ
Original Assignee
シー・デイ・エム・オプテイクス・インコーポレイテツド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by シー・デイ・エム・オプテイクス・インコーポレイテツド filed Critical シー・デイ・エム・オプテイクス・インコーポレイテツド
Publication of JP2010183638A publication Critical patent/JP2010183638A/ja
Application granted granted Critical
Publication of JP5318027B2 publication Critical patent/JP5318027B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/0025Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 for optical correction, e.g. distorsion, aberration
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/42Diffraction optics, i.e. systems including a diffractive element being designed for providing a diffractive effect
    • G02B27/46Systems using spatial filters
    • G06T5/70
    • G06T5/73
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Optics & Photonics (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)
  • Picture Signal Circuits (AREA)
  • Color Television Image Signal Generators (AREA)

Description

本願は、参照によって本明細書に組み込まれる、2002年2月27日出願の米国特許出願第60/360147号の優先権を主張するものである。
波面符号化(wavefront coding)は、特殊化された非球面オプティックス、検出、および信号処理の組である。従来技術では、信号処理は、波面符号化によって引き起こされる空間的ブラー(blur)を除去するように、非球面オプティックスによって決定される。非球面オプティックスによって、波面が「符号化」され、その結果、サンプリングされた画像は、ミスフォーカス(misfocus)関連収差に比較的鈍感になる。符号化された波面からの中間像(すなわち、検出器によってサンプリングされる画像)は、鮮明でなく、明瞭でない。信号処理によって、検出器からのデータが処理されて、非球面オプティックスによって引き起こされる空間的ブラーが除去されて、波面符号化が「復号」される。
たとえば、図1に、従来技術の波面符号化光イメージングシステム100を示す。システム100に、協同して検出器120で中間像を形成するオプティックス101および波面符号化非球面光学要素110が含まれる。要素110は、システム100内で波面を符号化するように動作する。検出器120からのデータストリーム125が、画像処理セクション140によって処理されて、波面が復号され、最終画像141が作られる。ディジタルフィルタ(「フィルタカーネル」)130が、画像処理セクション140によって実施される。
フィルタカーネル130は、フィルタタップまたは「重み」からなり、この重みは、たとえば128ビット拡張浮動小数点演算、実数数学、および整数値のスケーリング/切捨などの処理ハードウェアおよびソフトウェアの制限に起因する最大ダイナミックレンジを有する実数値または整数値である。スケーリングに、たとえば、部分積の計算および累算の一般的な系列が含まれる。
従来技術で、光学要素110および検出器120は、画像処理セクション140の使用可能処理能力と必ずしも一致せず、したがって、最終画像141での画像劣化が示される場合がある。光学要素110および検出器120が、使用可能な処理能力とマッチされる場合に、検出器の機能、要素110の光学設計、および/または画像処理セクション140に関連するコンピュータ処理アーキテクチャに関する非常に複雑でコストのかかるハードウェア実施形態が必要になる可能性がある。
下で説明するように、非球面オプティックスおよびエレクトロニクスを連帯的に最適化する波面符号化イメージングシステムを開示する。一例で、オプティックスおよびエレクトロニクスが、収差を制御する、物理的なレンズ個数を最小にする、機械的公差を緩和するなど、所望の光学特性および/または機械的特性について連帯的に最適化される。もう1つの例では、オプティックスおよびエレクトロニクスが、ハードウェア処理に必要なシリコンおよび/またはメモリの量を減らすために、電子パラメータを目標を定めて強調して連帯的に最適化され、これは、理想的でない検出器の存在のもとでの画像品質を最適化し、かつ/または固定されたハードウェア処理解決策(たとえば低コスト解決策)を用いて画像品質を最適化するように働く。
電子処理の最適化に関する強調は、たとえば、高いユニット品質および専用ハードウェア処理を伴うイメージング応用例で重要である。そのような応用例の例に、携帯電話、ビデオ会議、およびパーソナル通信デバイスの小型カメラが含まれる。オプティックスおよび機械系を電子パラメータを用いて連帯的に最適化することによって、物理的構成要素、アセンブリ、および画像処理に関して安価な高品質イメージングシステムが作られる。
したがって、ある態様で、最適化されたイメージング処理を有する波面符号化イメージングシステムを開示する。一態様で、画像処理が、ハードウェアによる実施形態について最適化され、ディジタルフィルタが、整数の特殊化された縮小セットであるフィルタタップ値を有する。これらの整数が、処理ハードウェアに影響して、複雑さ、サイズ、および/またはコストを減らす。そのような縮小セットフィルタタップ値の例に、「2のべき」値、2つのべきの和および差の値と、隣接フィルタ値の差が2のべきであるフィルタが含まれる。この例の縮小セットに関連する制限は、画像処理に関連する乗算(または一般化された部分積合計)を減らすように働く。
フィルタタップ値に、フィルタカーネルの空間的位置を関連付けることができる。フィルタタップ値のダイナミックレンジも、光学要素と波面符号化要素の位置に関する空間的位置の関数とすることができる。一例で、フィルタカーネルの幾何学的中心に近い値が、より大きいダイナミックレンジを有し、フィルタカーネルの縁に近い値が、より小さいダイナミックレンジを有し、波面符号化応答が、光軸からの距離が増えるに連れて小さい値に向かうカバレッジを有する傾向がある時に有用である。フィルタタップ値は、検出器または人間の目によって処理される時に、異なる波長帯が異なる形で応答するので、マルチカラーイメージングチャネル応答の関数にすることもできる。
たとえば、波面符号化される、本明細書の系最適化に適するオプティックスの2つの説明が簡単な光学的形に、分離可能なべきの加重合計p(x、y)=Sum ai [sign(x)|x|^bi + sign(y)|y|^bi]およびコサイン波形p(r、θ)=Sum ai r^bi×cos(ci×θ+φ)を含めることができる。
一態様で、光学像を形成する波面を波面符号化するステップと、光学像をデータストリームに変換するステップと、波面符号化の効果を逆転し、最終画像を生成するために縮小セットフィルタカーネルを用いてデータストリームを処理するステップとを含む、画像処理方法を提供する。
処理のステップに、光学像のMTFと相補的なフィルタカーネルを使用するステップを含めることができる。
波面符号化、変換、および処理のステップは、MTFが、縮小セットフィルタカーネルを用いるデータストリームの数学的処理に空間的に相関するように行うことができる。
一態様で、この方法に、コンスタントパスプロファイルオプティックス(constant path profile optics)を介する波面の位相修正から生じる光学像のMTFへの縮小セットフィルタカーネルの策定ステップが含まれる。
この方法に、少なくとも1つの領域が0値を有する複数の領域からなる縮小セットフィルタカーネルを用いてデータを処理するステップを含めることができる。
波面符号化のステップに、PSFの情報のかなりの量が、最終画像内にある、光学像のPSFが縮小セットフィルタカーネルの領域に空間的に相関するように波面を波面符号化すステップを含めることができる。
もう1つの態様で、この方法に、波面符号化、変換、および処理のステップの1つを修正し、波面符号化、変換、および処理のステップの他の1つを最適化し、繰り返す(設計ループ内で)ステップが含まれる。たとえば、処理するステップに、重み付き行列を用いて縮小セットフィルタカーネルを使用することを含めることができる。
もう1つの態様で、光学像を形成する波面を波面符号化するステップと、光学像をデータストリームに変換するステップと、波面符号化の効果を逆転し、最終画像を生成するためにカラー固有フィルタカーネルを用いてデータストリームを処理するステップを含む画像処理方法を提供する。
もう1つの態様で、光学像を形成する波面を波面符号化するステップと、光学像をデータストリームに変換するステップと、データストリームを色空間変換するステップと、色空間変換されたデータストリームの空間情報および色情報を1つまたは複数の別々のチャネルに分離するステップと、空間情報および色情報の一方または両方をブラー除去するステップと、ブラー除去された空間情報とブラー除去された色情報を再組合せするためにチャネルを再組合せするステップと、出力画像を生成するために再組合せされたブラー除去された空間情報および色情報を色空間変換するステップとを含む画像処理方法を提供する。この方法に、データストリームから雑音をフィルタリングする第1ステップを含めることができる。一態様で、この方法は、雑音をフィルタリングする第1ステップとの空間相関が存在するように、光学像のMTFを生成する。雑音をフィルタリングする第2ステップを、再組合せされたブラー除去された空間情報および色情報を処理することによって行うことができる。この雑音フィルタリングの第2ステップに、光学像のMTFの相補するものを使用するステップを含めることができる。
もう1つの態様で、光学像を生成する光イメージングシステムを提供する。波面符号化要素が、光学像を形成する波面を符号化する。検出器が、光学像をデータストリームに変換する。イメージプロセッサが、波面符号化の効果を逆転し、最終画像を生成するために、縮小セットフィルタカーネルを用いてデータストリームを処理する。フィルタカーネルは、光学像のPSFに対して空間的に相補的とすることができる。フィルタカーネルの空間周波数領域版を、光学像のMTFに相補的とすることができる。
もう1つの態様で、(a)カメラ内で光学像を形成する波面を位相修正する波面符号化要素と、(b)光学像をデータストリームに変換する検出器と、(c)波面符号化の効果を逆転し、最終画像を生成するために、縮小セットフィルタカーネルを用いてデータストリームを処理するイメージプロセッサとを有するカメラを含む電子デバイスを提供する。この電子デバイスは、たとえば、携帯電話および電子会議装置の1つとすることができる。
もう1つの態様で、画像処理方法に、光学像を形成するコンスタントパスプロファイルオプティックスを用いて波面を波面符号化するステップと、光学像をデータストリームに変換するステップと、波面符号化の効果を逆転し、最終画像を生成するためにデータストリームを処理するステップとが含まれる。
従来技術の波面符号化光イメージングシステムを示す図である。 最適化された画像処理を有する波面符号化光イメージングシステムの1つを示す図である。 最適化された画像処理を有するもう1つの波面符号化光イメージングシステムを示す図である。 最適化された画像処理を有するもう1つの波面符号化光イメージングシステムを示す図である。 あるフィルタカーネルおよび関連する画像処理セクションを示す概略図である。 一般セットフィルタカーネルを示す図である。 縮小セットフィルタカーネルの1つを示す図である。 一般セットフィルタカーネルの1つの一般化された論理ALUを示す図である。 縮小セットフィルタカーネルの代替の特殊化された論理を示す図である。 縮小セットフィルタカーネルの代替の特殊化された論理を示す図である。 最適化されたフィルタカーネルを有する1つの波面符号化光イメージングシステムを示す図である。 最適化された画像処理および対角線再構成を使用するフィルタカーネルを有する1つの波面符号化光イメージングシステムを示す図である。 最適化された画像処理および円形再構成を使用するフィルタカーネルを有する1つの波面符号化光イメージングシステムを示す図である。 色最適化された画像処理およびフィルタカーネルを有する1つの波面符号化光イメージングシステムを示す図である。 単一シフト差動タップおよびグラディエントフィルタカーネルを有する最適化された画像処理を有する1つの波面符号化光イメージングシステムを示す図である。 スケーリングタップおよびスケーリングフィルタカーネルを有する最適化された画像処理を有する1つの波面符号化光イメージングシステムを示す図である。 スケーリング累算タップおよび分配法則フィルタカーネルを有する最適化された画像処理を有する1つの波面符号化光イメージングシステムを示す図である。 累算スケーリングタップおよび分配法則フィルタカーネルを有する最適化された画像処理を有する1つの波面符号化光イメージングシステムを示す図である。 図1のシステムによって処理された最終画像および図2のシステムによって処理された最終画像を示す図である。 図1のシステムによって処理された最終画像および図11のフィルタを使用して図2のシステムによって処理された最終画像を示す図である。 図12および図13で使用されたフィルタカーネルの周波数応答曲線を示す図である。 最適化されたカラー画像処理を有する1つの光イメージングシステムを示す図である。 最適化されたカラー画像処理を有する1つの光イメージングシステムを示す図である。 図16Aに関連する1つの相関および色成分分析を示す図である。 図16A内の処理のさまざまなステージを介する画像成分を示す図である。 図16A内の処理のさまざまなステージを介する画像成分を示す図である。 図16A内の処理のさまざまなステージを介する画像成分を示す図である。 図16A内の処理のさまざまなステージを介する画像成分を示す図である。 図16A内の処理のさまざまなステージを介する画像成分を示す図である。 図16A内の処理のさまざまなステージを介する画像成分を示す図である。 図16A内の処理のさまざまなステージを介する画像成分を示す図である。 ある波面符号化イメージング系の特性を使用する1つの電子デバイスを示すブロック図である。 光イメージングシステムを構成するために設計フェーズで連帯的に最適化されるシステムコンポーネントの間の、概略図での選択最適化トレードオフを示す図である。 コンスタントプロファイルパスオプティックスの選択プロファイルを示す図である。 コンスタントプロファイルパスオプティックスの選択プロファイルを示す図である。 コンスタントプロファイルパスオプティックスの選択プロファイルを示す図である。 コンスタントプロファイルパスオプティックスの選択プロファイルを示す図である。 図16の1プロファイルのパス表面形に沿ったおよびこれを横切る表面プロファイルおよび結果のMTFを示す図である。 パス表面形に沿ったおよびこれを横切る1つの他の表面プロファイルおよびMTFを示す図である。 パス表面形に沿ったおよびこれを横切る1つの他の表面プロファイルおよびMTFを示す図である。 図26の1プロファイルに関するパス表面フォームに沿ったおよびこれを横切る1つの他の表面プロファイルおよびMTFを示す図である。 図32の例からの、波面符号化なしのサンプリングされたPSFを示す図である。 図32の例からの、波面符号化ありのサンプリングされたPSFを示す図である。 図34および図35からのサンプリングされたPSFの断面を示し、比較する図である。 図34および図35からのサンプリングされたPSFの断面を示し、比較する図である。 1つの2Dディジタルフィルタの例を示す図である。 図38のフィルタを介して処理されたPSFを示す図である。 それぞれ図35および図38の、インフォーカスのサンプリングされたPSFおよびディジタルフィルタのランクべきの量を示す図である。 フィルタリングの前後の、空間周波数領域での対応するMTFを示す図である。 オプティックス、検出器、波面符号化オプティックス、ディジタルフィルタ(フィルタカーネル)、および/または画像処理ハードウェアの最適化の1つの設計プロセスを示す図である。
図2に、最適化された画像処理を有する波面符号化光イメージングシステム200の1つを示す。システム200には、協力して検出器220で中間像を形成するオプティックス201および波面符号化非球面光学要素210が含まれる。要素210は、システム200内で波面を符号化するように動作する。たとえば、要素210は、波面の位相を修正する位相マスクである。検出器220からのデータストリーム225が、画像処理セクション240によって処理されて、波面が復号され、最終画像241が作られる。システム200は、画像処理セクション240の特定の画像処理実施形態に最適に一致するフィルタカーネル値の縮小セットを有するフィルタカーネル230を有する。フィルタカーネル230は、システム200の最終画像241がシステム100の最終画像141と実質的に同等になるように、カーネル値の縮小セットを用いて構成し、配置することができる。下で詳細に説明するように、フィルタカーネル230と共に使用するのに適するカーネル値(すなわちタップ値または重み値)の縮小セットの例に、(i)2のべき、(ii)2のべきの和および差、(iii)2のべきに制限された隣接タップ間の差、および(iv)処理される画像の空間的位置または色によって指定される値の範囲を有するタップが含まれる。
図3に、もう1つの最適化された画像処理を有する波面符号化光イメージングシステム300を示す。システム300に、協同して検出器320で中間像を形成するオプティックス301および波面符号化非球面光学要素310が含まれる。要素310は、システム300内で波面を符号化するように動作する。検出器320からのデータストリーム325が、画像処理セクション340によって処理されて、波面が復号され、最終画像341が作られる。画像処理セクション340は、フィルタカーネル330を使用してデータストリーム325を処理する。検出器320、データストリーム325、フィルタカーネル330、および画像処理セクション340は、複雑さ、サイズ、および/またはコストに関して、システム300を最適化するように構成され、配置される。最終画像341は、図1の最終画像141と実質的に同等とすることができる。下で詳細に説明するように、検出器320およびデータストリーム325に、後者の対角線再構成のための対角線読出および/またはカラーフィルタアレイ検出器のためのマルチチャネル読出を含めることができる。対角線再構成は、多数の色補間アルゴリズムが画像内の対角成分に作用するので、カラーフィルタアレイで処理を実行する時に有用である。カラー固有フィルタカーネルおよび処理によって、すべての色の均等な処理と比較して、低いコストおよび改善された性能が提供される。フィルタカーネル330は、図2のフィルタカーネル230と同一とすることができるが、当業者は、フィルタカーネル230に、下で説明するものなどの色および向き(たとえば対角線)畳み込みの効果を含めることができることを諒解するであろう。
図4に、最適化された画像処理を有するもう1つの波面符号化光イメージングシステム400を示す。システム400には、協同して検出器420で中間像を形成するオプティックス401および波面符号化非球面光学要素410が含まれる。要素410は、システム400内で波面を符号化するように動作する。検出器420からのデータストリーム425が、画像処理セクション440によって処理されて、波面が復号され、最終画像441が作られる。画像処理セクション440は、フィルタカーネル430を使用してデータストリーム425を処理する。画像処理セクション440は、最終画像441が図1の最終画像141と実質的に同等になるように最適化することができる。オプティックス401および画像処理セクション440は、より低いコスト、サイズなどでのより高い性能を容易にする、対角線処理またはカーネル値の縮小セットを用いる処理など、代替再構成アルゴリズムについて連帯的に最適化される。
図5に、フィルタカーネル530および画像処理セクション540の一実施形態を示す。カーネル530およびセクション540は、たとえば、上のシステム200〜400のある実施形態と共に使用することができる(たとえば、図4のフィルタカーネル430および画像処理セクション440として動作するために)。図からわかるように、上の検出器220、320、および420と同様に、検出器520が、光学系の中間像を取り込み、上のデータストリーム225、325、および425と同様にデータストリーム525が、画像処理セクション540に入力される。フィルタカーネル530は、{−2、…、−4、−2、1、0、1、2、4、…、2}などの、2のべき(0を含む)である絶対値に制限された値を有する縮小セットフィルタカーネルである。下で詳細に説明するように、画像処理セクション540は、図示のようにシフトだけを介するフィルタカーネル530の乗算を実施するが、この動作だけが使用されるのは、フィルタカーネル530が2のべきに制限されているからである。一実施形態で、フィルタカーネル530を、指数またはこれと同等にその係数のシフトによって表すことができる。
具体的に言うと、ディジタルフィルタリングは、線形フィルタリングおよび非線形フィルタリングの両方に関する積の和である。図5の例では、フィルタカーネル530が、検出器520によってサンプリングされたブラーのある中間像に適用される。フィルタカーネル530およびブラーのある中間像を、別々の2次元物体と考え、フィルタカーネル530が、検出器520から出力される特定の画像画素にセンタリングされると考えられたい。画像画素とオーバーラップするすべてのカーネルで、関連するフィルタカーネル値と画像画素の積が作られ、この積が合計される。線形フィルタリングの場合に、この和が、最終的なフィルタリングされた画像画素である。完全な畳み込みのために、フィルタカーネル530が、同様に、画像全体の各他の画素にセンタリングされて、画素ごとに同様の値が作られる。したがって、N×N2次元フィルタカーネルを用いる線形フィルタリングのために、各フィルタリングされた画像画素は、N個の積とN−1個の積の和を有する。したがって、波面符号化光イメージングシステム200、300、および400を、画像処理セクションの特定のハードウェアの実施形態に一致するめいめいのオプティックスおよびフィルタカーネルに関して最適化して、乗算および和の数、ならびに関連する実装コストを減らすことができる。0のカーネル値は、保管だけを必要とし、したがって、カーネル内のまばらさを制御することによっても、実装コストが減ることに留意されたい。
図6Aおよび図6Bに、それぞれ、一般セットフィルタカーネルの概略図、および縮小セットフィルタカーネル(2のべきに基づく)の概略図を示す。図6Aでは、一般セットフィルタカーネルが、2のべきである係数に制限されておらず、したがって、図示のように、各フィルタ係数(すなわちカーネル値)と画像画素の積を実行するのに、一般化された算術論理ユニット(ALU550)が必要である。一般化されたALU550は、中間論理(部分積552と称する)の拡張された系列および中間結果の累算(アキュムレータ554で)を実行して、最終結果(画素出力)を形成する。その一方で、図6Bでは、2のべきのカーネル値を有する縮小セットフィルタカーネルが実装されるので、積を形成するのに使用される算術論理を、シフタ560とすることができる。各画像画素のシフトされるビットの量は、2つのフィルタ値のべきの指数によって決定される。たとえば、縮小セットフィルタカーネルが、2つのカーネル値Tの2のべきの和からなる場合に、2つのシフタと1つの加算器だけが、算術論理内で使用される。すべてのシフタ560の累算によって、最終結果(画素出力)がもたらされる。したがって、図6Bの実施形態は、図6Aの一般化されたALU550に匹敵する。というのは、シフト論理および加算論理が、一般化された部分積の合計ではなく、シフト−加算シーケンスとして事前に定義されるからである。
当業者は、図6Bの算術論理が、他の乗算実施形態または一般化されたスケーリング実施形態と比較して好ましい可能性があることを諒解する。1つの例が、整数ベースのルックアップテーブル(LUT)乗算である。短いビット深さのALUによって、しばしば、LUT内のスカラオペランドが実施されて、命令セットの速度が改善され、命令セットが単純化される。というのは、一連の部分積合計が、LUTリソースと比較してより多くの時間およびレジスタ空間を消費する可能性があるからである。したがって、一般的な部分積アキュムレータ乗算器と同様に、LUT乗算器によって、一般化されたスケーリング動作のリソースが割り振られる。その一方で、図6Bの算術論理では、2つの係数のべきを使用するビットシフト論理を介するスケーリング動作の縮小セットが使用される。したがって、図6Bの算術論理は、一般化されたフィルタカーネル値を処理するのに必要な一般化されたALU550より何倍も小さく高速である。
図7A、図7B、および図7Cに、線形フィルタの各タップで使用される一般化された算術論理機能および特殊化された算術論理機能を比較するために、図6Aおよび図6Bの算術論理のさらなる詳細を示す。図7Aに、一般化されたALU550を概略的に示し、図7Bおよび図7Cに、特殊化されたALU560の代替構成を示す。この例では、1と128の間の正の整数値にわたる範囲の、一般化されたフィルタセットカーネルおよび縮小セットフィルタカーネルを検討されたい。一般化されたセットフィルタカーネルは、1と128の間のすべての値を有することができる。縮小セットフィルタカーネルは、この範囲内の、2のべきである値すなわち、1、2、4、8、16、32、64、および128だけを有することができる。次に、画像画素pと7の値の一般化されたセットフィルタカーネルの積を検討されたい。一般化されたALU550を使用すると、3回のシフトすなわち(4+2+1)×pまたは図7AのQ=3が必要である。この3つのシフトは、係数4(2つのシフト)、2(1つのシフト)、および1(シフトなし)の部分積を形成するのに必要である。したがって、127の値を有する一般化されたセットフィルタカーネルの実施形態は、7つのシフトおよび5つの中間和を必要とする。
これと比較して、2のべきの値を有する縮小セットフィルタカーネルを使用する、ALU560Aは、1つのシフトだけを有する。ベクタマシンまたはパイプラインデバイスなどの一般化されたALU550のより洗練された実施形態であっても、そのような単一シフトより多くのリソースを必要とする可能性が高い。
図7Cのもう1つの特殊化されたALU560Bに、知られている2のべき以外の係数のシフト−減算シーケンスを示す。前の例を続けると、係数が、画素値pについて127である場合に、127×pの2のべきの実施形態の和は、64+32+16+8+4+2+1=127である。したがって、ALU560Bでは、論理によって、減算が行われ、2の負のべきの合計を128−1=127として進めることが可能になり、最終結果(画素出力)を作るために、シフトと1つの減算だけが必要になる。
図8に、1つの縮小セットフィルタカーネルに関する1つの波面符号化光イメージングシステム800を示す。システム800には、協同して検出器820で中間像を形成するオプティックス801および波面符号化非球面光学要素810が含まれる。要素810は、システム800内で波面を符号化するように動作する。検出器820からのデータストリーム825が、画像処理セクション840によって処理されて、波面が復号され、最終画像841が作られる。画像処理セクション840は、フィルタカーネル830を使用してデータストリーム825を処理する。値および空間的位置の関数として、フィルタカーネル830内のフィルタカーネルの組を縮小することによって、画像処理セクション840のハードウェア実施形態を、オプティックス801、波面符号化非球面光学要素810、および検出器820に最適化することができる。フィルタカーネル830の領域A、B、C、およびDに、縮小された幾何セットが示されている。この例では、フィルタカーネル830の値が、領域AおよびDでは0値に制限され、領域Bでは適度な範囲の値(またはダイナミックレンジ)に制限され、領域Cでは大きい範囲の値に制限される。指定された範囲内の特定のカーネル値のすべてが、2のべきの値、2のべきの値の和および差などから効率的に実施される。
したがって、波面符号化光イメージングシステム800は、ハードウェアで実施されるフィルタカーネルの縮小幾何セットに最適化される(たとえば、フィルタカーネル830および画像処理セクション840を介して)。縮小幾何セットカーネルは、特殊化されたハードウェアプロセッサが、さまざまな異なる波面符号化オプティックスおよび検出器と共に使用されるか、波面符号化ズームオプティックスに似た、特性が変化するオプティックスと共に使用されるシステムで、特に重要である。たとえば、オプティックス801および光学要素810によって、被写界深度が調整され、カーネルサイズ内でスケーリングも調整される。したがって、指定されたダイナミックレンジは、フィルタカーネル830の係数値を適当な空間位置に位置決めすることによって達成される。スケーリングされたカーネル値が適当なダイナミックレンジの領域内にあるようにオプティックス801および光学要素810を設計することによって、画像処理セクション840が、最大のカーネルの制約の下で、そのようなオプティックス801および要素810に最適化される。異なるフィルタカーネルが、幾何領域A〜D内で異なる値を有するので、値の配置が、画像処理セクション840の機能に関して最適化される。たとえば、要素810の回転(たとえば45°の)によって、カーネルの同等の回転が指定されるが、これは許可されない。というのは、B領域が、B領域係数の適度なダイナミックレンジではなく、0に近い係数値だけを有する処理空間に入るからである。回転は、処理空間とカーネル空間の両方が回転される場合に限って許可される。
図9Aに、検出器およびデータストリーム読出に関して最適化された1つの波面符号化光イメージングシステム900Aを示す。システム900Aには、協同して検出器920Aで中間像を形成するオプティックス901Aおよび波面符号化非球面光学要素910Aが含まれる。要素910Aは、システム900A内で波面を符号化するように動作する。検出器920Aからのデータストリーム925Aが、画像処理セクション940Aによって処理されて、波面が復号され、最終画像941Aが作られる。画像処理セクション940Aは、フィルタカーネル930Aを使用してデータストリーム925Aを処理する。この実施形態では、検出器920Aおよびデータストリーム925Aが、通常の行および列の形では読み出されず、出力フォーマットは、たとえば対角線読出である。そのような対角線読出フォーマットでは、画像フォーマットが行および列に基づくものではないので、画像処理セクション940Aは、直線処理(たとえば、四角形に分割可能な処理またはランクNの処理)を使用しない。データフォーマットが対角線である場合に、オプティックス901Aおよび波面符号化非球面光学要素910Aは、点オブジェクト(またはその点像分布関数)の結果の画像に、データストリーム対角線と同等の形で対角線に沿った実質的にすべての情報が含まれるように配置される。対応するフィルタカーネル930Aおよび画像処理セクション940Aは、図示のように、対角線フォーマットで画像データ925Aに最適に作用し、一方または両方の対角線を処理することができる。一実施形態で、対角線が、行−列順序に再写像され、直線の形で操作され、その後、対角線順序の出力シーケンスに再写像される。一実施形態で、オプティックス901Aおよび光学要素910Aが、画像処理セクション940Aと共に最適化されて、コストを下げる幾何学的方位で情報を供給する。1つの例が、データストリーム読出925Aの対角線角度に対応する形で回転された光学要素910Aである。
図9Bに、検出器およびデータストリーム読出に関して最適化された1つの波面符号化光イメージングシステム900Bを示す。システム900Bには、協同して検出器920Bで中間像を形成するオプティックス901Bおよび波面符号化非球面光学要素910Bが含まれる。要素910Bは、システム900B内で波面を符号化するように働く。検出器920Bからのデータストリーム925Bが、画像処理セクション940Bによって処理されて、波面が復号され、最終画像941Aが作られる。画像処理セクション940Bは、フィルタカーネル930Bを使用してデータストリーム925Bを処理する。検出器920Bおよびデータストリーム925Bは、通常の直線の設計ではなく、通常の行および列のフォーマットで読み出されない。そうではなく、出力フォーマットは、たとえば、対数−極検出器からの環状または放射状をベースとする読出である。この読出フォーマットでは、画像フォーマットが行および列に基づかないので、画像処理セクション940Bが、やはり直線処理(たとえば四角形に分割可能な処理またはランクNの処理)を使用しない。データフォーマットが円形または環状である場合に、オプティックス901Bおよび波面符号化非球面光学要素910Bは、点オブジェクト(またはその点像分布関数)の結果の画像に、データストリーム925Bと同等の形で環状領域または放射状領域に沿った実質的にすべての情報が含まれるように配置される。対応するフィルタカーネル930Bおよび画像処理セクション940Bは、図示のように円形フォーマットで画像データ925Bに最適に作用する。一実施形態で、同心円状のリングが、行−列順序に再写像され、直線の形で操作され、その後、円形順序の出力シーケンスに再写像される。一実施形態で、オプティックス901Bおよび要素910Bを、画像処理セクション940Bと共に最適化して、コストを下げる幾何学的方位で情報を供給することができる。
図10に、カラーイメージングについて最適化された1つの波面符号化光イメージングシステム1000を示す。システム1000には、協同して検出器1020で中間像を形成するオプティックス1001および波面符号化非球面光学要素1010が含まれる。要素1010は、システム1000内で波面を符号化するように動作する。検出器1020からのデータストリーム1025が、画像処理セクション1040によって処理されて、波面が復号され、最終画像1041が作られる。画像処理セクション1040は、データストリーム1025の処理に、カラー固有カーネルフィルタ1030を使用する。オプティックス1001、非球面光学要素1010、検出器1020、データストリーム1025、フィルタカーネル1030、および画像処理セクション1040は、各色チャネルが、最終画像1041を作る際に別々の特性を有するように協同する。たとえば、色の関数として、波面符号化光イメージングシステム1000は、人間の目が各色を異なって「見る」という事実を利用する。人間の目は、緑の光りに最も敏感であり、青の光に最も鈍感である。したがって、青チャネルのフィルタカーネル1030および画像処理セクション1040の空間解像度、空間帯域幅、およびダイナミックレンジを、人間によって見られる時の画像1041の知覚される画像の劣化なしで、緑チャネルよりはるかに小さくすることができる。色の関数として要件を下げることによって、システム1000の光−機械実施形態または光−電気実施形態は、すべての色チャネルを同等に扱うことと比べてさらに最適化される。
図11Aから11Dに、特殊化されたフィルタリング(すなわち画像処理セクション1140内で)によって、最適化された波面符号化光イメージングシステム1100の関連する実施形態を示す。各システム1100A〜1100Dには、協同して検出器1120で中間像を形成するオプティックス1101および波面符号化非球面光学要素1110が含まれる。要素1110は、システム1100内で波面を符号化するように動作する。検出器1120からのデータストリーム1125が、画像処理セクション1140によって処理されて、波面が復号され、最終画像1141が作られる。画像処理セクション1140は、フィルタカーネル1130を用いてデータストリーム1125を処理する。オプティックス1101、非球面光学要素1110、検出器1120、およびデータストリーム1125は、フィルタカーネル1130が特殊化されたフィルタリングを使用し、画像処理セクション1140が特殊化されたタップ1145を使用するように協同し、所望のコスト節約および/または設計特性を提供する。
具体的に言うと、図11Aから11Dの光学システムに、所与の係数または係数のサブグループを考慮に入れて特定の構成を最もよく実施する4つの別々の最適化を示す。図11Aから11Dの実施形態の組合せを、効率的な画像処理セクションと共に実施することができる。
図11Aに、グラディエントフィルタリング(gradient filtering)動作の一実施形態を特に示す。オプティックス1101A、非球面光学要素1110A、検出器1120A、およびデータストリーム1125Aは、フィルタカーネル1130Aがグラディエントフィルタリングを使用し、画像処理セクション1140Aが特殊化された差動タップ1145Aを使用するように協同する。フィルタカーネル1130Aの縮小セットフィルタカーネルは、隣接する係数の間の差が効率的な実施形態をサポートするようになっている。たとえば、フィルタカーネル1130Aおよび画像処理セクション1140Aは、第1タップと第2タップの間の差、第2タップと第3タップの間の差、第3タップと第4タップの間の差などが、すべて2のべき(あるいは別の効率的に実施される値または値の組)になるように構成することができる。フィルタカーネル1130Aの各差が、2のべき値の縮小セットである場合に、各実施されるフィルタタップのジオメトリは、差動タップ1145Aである。差動フィルタタップ1145Aは、カーネル1130A内のすべての係数値について単一の和だけが必要になるので、効率的な実施形態である。FIRタップ遅延線によって使用されるものなどの従来技術の線形フィルタリングでは、元の画像画素値だけが次のタップに伝搬され、前のスケーリングされた値は、次のステージでは使用不能である。差動タップ1145Aでの前にスケーリングされた値1146Aの回復によって、単一の加算または減算で次の値を生成できるようになる。前の結果1146Aが、次のタップに伝搬されるので、画像処理セクション1140Aのハードウェア実施形態のサイズおよびコストのさらなる節約が実現される。加算および減算の他の組合せを、差動タップ1145A内で組み合わせることができ、差動タップ1145Aは、単一の加算(または減算)に制限されず、当業者は、加算および減算の任意の組合せを、前の結果1146Aを前進させることと共に使用できることを諒解でき、最適の解決策を作成する能力を提供するのは、差動タップの特定の選択された設計ではなく、この前進動作1146Aである。
数値によって、単一加算器差動タップのより明瞭な例が提供される。係数シーケンス[3、−5、11、7、−1、0]を検討されたい。入力画素値がpである場合に、第1タップは3pを生成する。次のタップは、−5pを生成するか、その代わりに、前のステップからの3pを使用して、−8pを生成し、2つの値を加算して3p−8p=−5pを生成する。係数11は、同様に、16pを加算することによって前の−5pから得られる。この場合に、単一シフト(pから16p)および単一加算によって、11倍のスケーリングファクタが達成されるが、部分積に基づく11倍の従来の実施形態は、8+2+1または2つのシフトと2つの和を必要とすることに留意されたい。この例は、7p=(11p−4p)および−1p=(7p−8p)によって継続される。いくつかの場合に、差を0とすることができ、その場合に、グラディエントカーネルは、図11Bで説明するスケーリングカーネルの詳細になる。
図11Bに、スケールフィルタリング動作の実施形態を示す。オプティックス1101B、非球面光学要素1110B、検出器1120B、およびデータストリーム1125Bは、フィルタカーネル1130Bがスケールドフィルタリング(scaled filtering)を使用し、画像処理セクション1140Bが特殊化されたスケーリングタップ1145Bを使用するように協同する。フィルタカーネル1130Bの縮小セットフィルタカーネルは、隣接する係数の間のスケールファクタが効率的な実施形態をサポートするようになっている。たとえば、フィルタカーネル1130Bおよび画像処理セクション1140Bは、第1タップと第2タップの間、第2タップと第3タップの間、第3タップと第4タップの間などのスケールファクタが、すべて2のべき(あるいは別の効率的に実施される値または値の組)になるように構成することができる。隣接フィルタカーネル係数の各スケールファクタが、たとえば2のべきの値の縮小セットである場合に、各実施されるフィルタタップのジオメトリは、スケーリングタップ1145Bであり、2進コンピュータの単純なシフトを用いて実施することができる(他のスケールファクタは、他のデバイスによって2のべきより効率的な形で効率的に実施することができる)。選択されるスケールファクタと無関係に、スケーリングタップ1145Bは、いずれかのタップの画像画素のスケーリングされた値だけが、次のタップおよびカーネルアキュムレータに渡されるので、効率的な実施形態である。FIRタップ遅延線によって使用されるものなどの従来技術の線形フィルタリングでは、元の画像画素値が次のタップに伝搬され、スケーリングされた値も、アキュムレータに伝搬される。2つの値(遅延された画素値とスケーリングされた画素値)の保管に、2つのレジスタが必要である。図11Bでは、フィルタカーネル1130Bのスケールドフィルタリングのゆえに、スケーリングされた画素値(前のタップからスケーリングされる)を保管する1つのレジスタだけが必要である。元の画像画素情報は、すべての後続タップに伝搬されないので、画像処理セクション1140Bのハードウェア実施形態のサイズおよび/またはコストの節約がさらに実現される。隣接画素間のスケーリングが2のべきのファクタであるフィルタカーネルの例が、[3、−12、6、0、−3、0]である。
図11Cに、分配算術プロパティフィルタリング動作の実施形態を示す。オプティックス1101C、非球面光学要素1110C、検出器1120C、およびデータストリーム1125Cは、フィルタカーネル1130Cが算術フィルタリングの分配プロパティを使用し、画像処理セクション1140Cが特殊化された分配算術タップ1145Cを使用するように協同する。タップ1145Cは、スケーリングされた値の累算を実行する。フィルタカーネル1130Cの縮小セットフィルタカーネルは、すべての係数の分配が効率的な実施形態をサポートするようになっている。たとえば、フィルタカーネル1130Cおよび画像処理セクション1140Cは、実施されるスケールファクタまたは乗数が2つだけになり、再構成に使用可能な5つの別個の係数を提供する(2つの係数の正と負の値および0係数を考慮することによって5つ)ように構成することができる。スケーリングフィルタタップ1145Cは、単一のタップを「オーバークロック」して多数の画素をサービスすることができるので、効率的な実施形態をサポートする。ある実施形態では、1145C内の乗算器のオーバークロックが選ばれ、ある実施形態では、図11Dの1145Dなどのアキュムレータのオーバークロックが選ばれる。FIRタップ遅延性によって使用されるものなどの従来技術の線形フィルタリングでは、画素および係数のそれぞれについて別々の別個の演算子が必要であった。
図11Dに、分配算術プロパティフィルタリング動作の実施形態を示す。オプティックス1101D、非球面光学要素1110D、検出器1120D、およびデータストリーム1125Dは、フィルタカーネル1130Dが分配算術フィルタリングを使用し、画像処理セクション1140Dが特殊化された分配算術タップ1145Dを使用するように協同する。タップ1145Dは、累算された値のスケーリングを実行する。フィルタカーネル1130Dの縮小セットフィルタカーネルは、すべての係数の分配が効率的な実施形態をサポートするようになっている。たとえば、フィルタカーネル1130Dおよび画像処理セクション1140Dは、実施されるスケールファクタまたは乗数が2つだけになり、再構成に使用可能な5つの別個の係数を提供する(2つの係数の正と負の値および0係数を考慮することによって5つ)ように構成することができる。図11Cと同様に、スケーリングフィルタタップ1145Dは、単一のタップを「オーバークロック」して多数の画素をサービスすることができるので、効率的な実施形態をサポートする。ある実施形態で、1145D内などのアキュムレータのオーバークロックが選択される場合がある。FIRタップ遅延性によって使用されるものなどの従来技術の線形フィルタリングでは、画素および係数のそれぞれについて別々の別個の演算子が必要であった。
ある波面符号化非球面光学要素(たとえば図11A〜Dの別個の要素1110)およびあるフィルタカーネル(たとえば図11A〜Dの別個のカーネル1130)を設計する方法の1つで、画像処理をターゲットとする複数の重み付き行列が使用される。画像品質、収差に対する感度などの他のシステム設計目標も、関連する重み行列を有することができる。設計および最適化プロセスの一部として、重み付き行列を最適に結合して、選択された目標を達成することができる。オプティックスおよび信号処理を、連帯的に最適化できるので、たとえばオプティックスまたは信号処理の1つだけが最適化される場合に、他の形では理解が困難または不可能である多数のタイプの解決策が到達可能である。
たとえば、一般化された整数フィルタ(たとえば図6Aの論理によって使用される)の1つの重み付き行列が、可能なすべての整数値について0の値を有する。対照的に、2のべきの縮小セットフィルタカーネル(たとえば図6Bの論理によって使用される)の重み付き行列は、2のべきである整数についてのみ0の値を有する。整数0は、実施が自明なので、0の重み値を有する。他の整数は、これより大きい重み値を有する。重み値が、2のべきでないが0より大きい整数に関するものである時に、オプティックス、フィルタカーネル、画像処理、および採集画像の間の最適化を行って、0を超える適当な重み値をセットすることによって、コストと性能を交換することができる。
1つの例で、2のべきの和を使用する縮小セットフィルタカーネルで、重み付き行列が、2のべきである整数について0の値、2つの2のべきの値の和または差から構成される整数(6=4+2または7=8−1など)についてより大きい値、3つの2のべきの値から構成される整数(11=8+2+1または11=8+4−1など)についてさらに大きい値を有する。2のべきの正と負の両方の値が使用される時に、7=8−1なので、7などの整数の重みが減らされる。対照的に、一般的な実施形態(たとえば図6A)は、3つの合計すなわち、7=4+2+1を必要とする。
重み付き行列を使用して、グラディエントフィルタ(たとえば図11Aのフィルタ1130A)またはスケーリングフィルタ(たとえば図11Bのフィルタ1130B)を最適化することもできる。隣接する整数値に、その差またはグラディエントあるいはスケールファクタに基づく重みを与えることができる。1つの例で、整数値の各対に、その差またはスケールが2のべきである場合に0の値、そうでない場合に大きい値が割り当てられる。係数のペアリングは、画素の読出にも依存する。というのは、読出モードによって、隣接する画素の近接規則が決定され、読出およびカーネル方位の両方が、重み付き行列に含まれるからである。当業者は、他のグラディエントカーネルフィルタによって、整数の差が2のべきの和である時に小さい値を割り当てることができることを諒解する。
図12に、図1のシステム100によって処理された最終画像1201および図2のシステム200によって処理された最終画像1202を例として示す。この例では、システム100および200の両方が、同一のオプティックス101および201ならびに同一の検出器120および200を有するが、異なるフィルタカーネルおよび画像処理セクションを有する(四角形に分離可能な処理内でめいめいの1次元カーネルフィルタを実施する)。画像1201は、一般化された整数フィルタであるフィルタカーネル130を用いて形成された。画像1202は、2のべきの値を使用する縮小セットフィルタカーネルであるフィルタカーネル230を用いて形成された。図からわかるように、画像1201および1202の両方が、類似するが、画像1202が、改善されたコントラストを有する。さらに、比較すると、縮小セットフィルタカーネル230は、フィルタカーネル130の一般化された整数フィルタより小さく、よりコストの低い実施形態を有する。
図13に、図1のシステム100によって処理された最終画像1301および図2のシステム200によって処理された最終画像1302を例として示す。図12では、システム100および200の両方が、同等のオプティックス101および201ならびに検出器120および220を有するが、異なるフィルタカーネルおよび画像処理セクションを有する(四角形に分離可能な処理内でめいめいの1次元カーネルフィルタを実施する)。システム200では、図2のフィルタカーネル230として、図11Aのカーネルフィルタ1130Aが使用される。システム100では、カーネルフィルタ130として、一般化された整数フィルタが使用され、したがって、画像1301は、一般化された整数フィルタを用いて形成された。画像1301および1302の両方が、画像1302がより低いコントラストを有することを除いて、類似する。コントラストは、1つの可能なイメージング目標でもあるので、減らされたコントラストをセットして、この目標を満たすことができる。さらに、画像1302を処理するのに使用された縮小セットグラディエントフィルタカーネルは、一般化された整数フィルタよりも小さく、実施のコストが低いものとすることができる。
図14に、図12および図13で使用された3つのディジタルフィルタの周波数応答を示す。各フィルタは、わずかに異なる周波数応答および異なる実施形態を有する。あるイメージング応用例で、ある周波数応答が好まれ、別の応用例で、異なる周波数応答が好まれる。特定の縮小セット2のべき(たとえば、図2のフィルタカーネル230で使用される)の周波数応答が、最も高いコントラストを有する。一般化された整数の周波数応答が、次に高いコントラストを有し、縮小セットグラディエント2のべきフィルタカーネル1130が、この例では最も低い周波数応答を有する。これが、一般的な事例である必要はない。したがって、応用例に応じて、適当な応答が選択される。フィルタカーネルが、フィルタカーネル値の縮小セットを使用する場合に、減らされたコストおよび複雑さを有する実施形態を作ることができる。
さらに、図10に関して、カラーに関する画像処理の最適化が、ある利点を有することができる。したがって、図15に最適化されたカラー画像処理を有するもう1つの光イメージングシステムを示す。システム1500には、協同して検出器1520で中間像を形成するオプティックス1501および波面符号化非球面光学要素1510が含まれる。要素1510は、システム1500内で波面を符号化するように動作する。検出器1520からのデータストリーム1525が、一連の処理ブロック1522、1524、1530、1540、1552、1554、および1560によって処理されて、波面が復号され、最終画像1570が作られる。ブロック1522およびブロック1524は、雑音減少のためにデータストリーム1525を前処理するように動作する。具体的に言うと、FPNブロック1522は、検出器1510の固定パターン雑音(たとえば、画素利得およびバイアス、ならびに応答の非線形性)を訂正し、事前フィルタリングブロック1524は、波面符号化光学要素1510の知識を使用して、データストリーム1525からさらに雑音を減らす。色変換ブロック1530は、RGB色成分(データストリーム1525からの)を新しい色空間に変換する。ブラーおよびフィルタリングブロック1540は、新しい色空間チャネルの1つまたは複数をフィルタリングすることによって、新しい色空間画像からブラーを除去する。ブロック1552およびブロック1554は、さらなる雑音低下のために、ブロック1540からのデータを後処理するように動作する。具体的に言うと、SCブロック1552は、ブロック1540内のディジタルフィルタリングの知識を使用して、データの各単一チャネル内の雑音をフィルタリングし、MCブロック1554は、ブロック1540内のディジタルフィルタリングの知識を使用して、データの複数のチャネルから雑音をフィルタリングする。画像1570の前に、もう1つの色変換ブロックによって、色空間画像成分をRGB色成分に変換する。
図16Aに、カラーフィルタアレイ検出器1602から最終3色画像1660を作る1つのカラー処理システム1600を例として示す。システム1600では、オプティックス1601を(1つまたは複数の波面符号化光学要素または面と共に)使用して、システム1600の波面を符号化し、検出器1602で中間光学像を作る。したがって、オプティックス1601の波面符号化によって、検出器1602にブラーのある画像が形成される。この中間像が、NRPおよび色空間変換ブロック1620によって処理される。たとえば、ブロック1620の雑音低下処理は、検出器の非線形性および相加性雑音を除去するように機能するが、ブロック1620の色空間変換は、合成画像の間の空間的相関を除去して、ブラー除去処理(ブロック1642および1644での)に必要なシリコンおよび/またはメモリの量を減らすように機能する。ブロック1620からのデータは、2つのチャネルすなわち、空間画像チャネル1632および1つまたは複数の色チャネル1634に分割される。空間画像チャネル1632は、色チャネル1634より多くの空間的詳細を有する。したがって、支配的な空間チャネル1632は、処理ブロック1642内のブラー除去の大多数を有する。色チャネルは、処理ブロック1644での実質的により少ないブラー除去処理を有する。ブラー除去処理の後に、チャネル1632および1634が、もう一度組み合わされ、雑音低下処理および色空間変換ブロック1650内で処理される。これによって、ブラー除去によって強調された画像雑音がさらに除去され、色空間変換によって、画像が最終画像1660のRGBに変換される。
図17から図23に、さらに、システム1600の特定の実施形態の色空間変換処理およびブラー除去処理を示す。検出器1602は、Bayerカラーフィルタアレイを有するCCD検出器である。図17に、システム1600を介するがオプティックス1601の波面符号化なし(すなわち、波面符号化オプティックスがオプティックス1601に存在しない)でイメージングされた実際の物体の、赤、緑、および青の成分画像1700、1702、および1704を示す。画像1700、1702、および1704では、各カラー画像が、互いの画像との高い度合の空間的類似性を有することと、画像の多くの部分にブラーがあることが明白である。ブラーのある画像は、下で説明するように、波面符号化なしでは訂正可能でない。
図18に、波面符号化オプティックス1601を有するシステム1600を介してイメージングされた同一の物体の生の赤、緑、および青の成分画像1800、1802、および1804を示す。画像1800、1802、および1804は、データストリーム1625から導出された、ブロック1620による処理の前の画像を表す。各成分画像1800、1802、および1804は、やはり、互いの画像にかなり類似し、各画像は、非球面オプティックス1601に起因するブラーを有する。
図19に、ブロック1642のブラー除去処理の後の図18の色成分画像を示す。画像1900は、ブロック1642の後の画像1800であり、画像1902は、ブロック1644の後の画像1802であり、画像1904は、ブロック1644の後の画像1804である。この例では、処理ブロック1644が、何の処理も実行しなかった。やはり、処理ブロック1620および1650は使用されなかった。各成分画像1900、1902、および1904は、鮮明で明瞭であり、3つの成分画像のすべての組合せによって、鮮明で明瞭な3色画像がもたらされる。
図20に、空間チャネルおよび色チャネル1632および1634の処理の前の、RGBからYIQ色空間への色空間変換(ブロック1620)の後の成分画像2000、2002、および2004を示す。したがって、成分画像2000、2002、および2004は、ブロック1620による、チャネル1632およびチャネル1634に対する処理の後の、図18の成分画像を表す。Yチャネル画像2000が、図18の赤および緑の画像1800および1802に類似することに留意されたい。しかし、Iチャネル画像2002およびQチャネル画像2004は、図18のどのチャネルとも大きく異なる。YIQ色空間変換(ブロック1620)は、空間情報の大部分を含むYチャネル成分画像2000をもたらした。Iチャネル成分画像2002には、多少の空間的情報が可視であるが、Yチャネルよりはるかに少ない空間情報しか含まない。各画像の右にある輝度スケールの差に留意されたい。Qチャネル成分画像2004は、これらの画像に関して示された輝度スケールでは、本質的に空間情報を有しない。
図21に、空間チャネル1632のブラー除去処理1642の後のYIQ波面符号化成分画像2100、2102、および2104を示す。Iチャネル画像2002およびQチャネル画像2004は、ブロック1644でフィルタリングされず、これによって、処理およびメモリスペースが節約される。したがって、画像2102および2104は、画像2002および2004と同一である。当業者は、低分解能で少ビット深さのフィルタを用いてブロック1644で画像2002および2004をフィルタリングできることを諒解する。図21のフィルタリングされたYIQ画像がRGB空間に変換(ブロック1650)された後に、最終3色画像1660は、図19に基づく最終画像を作るのに必要なものよりはるかに少ない処理で、鮮明で明瞭である。
YIQ色空間は、使用可能な多数の線形および非線形の色空間変換の1つである。色空間変換を実行する方法の1つが、画像全体を表す単一の空間を選択することである。波面符号化オプティックスおよびプロセッサは、信号処理の量を減らし、画像品質を改善する、最適の動的な色空間変換を達成できるように協同することができる。たとえば、図16Aで、波面符号化システム1600が、画像全体にまたがって空間的に変化する色空間処理ブロック1620を使用することができる。そのような空間変動を、DCS(Dynamic Color Space)と表すことができる。この空間的に変化する色空間変換1620は、1領域で単一の変換を実行し、この領域は、動的であり、閉じたものとして制約されない。たとえば、上半分に青い空、下半分に砂浜がある画像は、次の分割色空間すなわち、画像の上半分の「青空間情報保存」色空間変換および下半分の「反転茶色情報保存」色空間変換によく適する。そのような空間的に変化する領域は、四角形ブロックの順序付きセット、ランダムに割り当てられる画素、または各シーンが変化する際に最適の形で定義される動的に割り振られる輪郭線として定義することができる。変換処理1620での動的ブロック割振り方法は、イメージングシステムで望まれる、総計算能力、所望のスループット、および精度のトレードオフに敏感とすることができ、オプティックス1601の空間相関効果の知識によって案内または制限することができる。
一般に、DCSは、組み合わされた雑音低下、色平面アレイ補間、およびコストを減らされた画像ブラー除去を提供することができる。DCSアルゴリズムは、ソフトウェアベ
ースのシステムおよびハードウェアベースのシステムでのさまざまな処理手法に適当である。DCSの1バージョンによって、動的線形色空間変換が実施される。DCSの他のバージョンによって、動的非線形色空間が実施される。DCSは、処理システムリソースおよびアプリケーション目標に応じて、非線形色空間変換またはHSVなどの他の変換と組み合わせるか、それに続くものとすることができる。
一般的なDCSアルゴリズムは、図16Bの、相関および主成分の分析を介して理解することができる。図16Bは、図16Aのブロック1620に完全におさまる。Bayerセンサ1602および出力画像1632に、関連を強調するために図16Aと同一の符号を与えた。DCSは可逆変換なので、当業者は、正確にまたは近似的にのいずれであれ、逆DCS処理が、完全に図16Aのブロック1650内で行われることを理解する。任意の数の色チャネル(複数)を伴う画素の任意の領域のマルチチャネル画像内の色の推定された相関からの主成分(1つまたは複数の主要な色)の判定によって、その特定の領域に関する最適の(最小二乗の意味で)色空間変換が決定される。言い換えると、DCSを用いると、図16Aのブロック1620(および逆DCS変換を介して1650)を、他のすべての波面符号化システムパラメータと共に連帯的に最適化できるようになる。図16Bの検出器1602のBayer検出器の場合に、色チャネル行列は、サンプリングされた色チャネルを行列1603Aの列に集めることによって形成される。さまざまな方式を使用して、各所望の位置での画像色チャネルの推定をもたらすことができる。領域全体についてすべての画素位置を推定する必要はない。例として、図16Bに、本質的に近くの赤画素値および青画素値をすべての緑画素位置にコピーし、4×4領域の16画素から8×3行列内のデータの8行を生成するゼロ次ホールド(zero−order hold)法を示す。色チャネル行列1603Aの相関推定1603Bの主成分分解によって、色空間変換1603Cがもたらされる。これは、マルチチャネルカラーシステムの色チャネル行列を形成するための値のスタッキングの1つの例にすぎない。当業者は、本明細書の範囲から逸脱せずに、他の配置が可能であることを諒解する。
相関行列1603Bの主成分1603Cの推定値は、この特定の領域およびチャネル選択の最適の色空間変換行列を形成する。図16Aの空間輝度画像1632の入手は、第1主成分を図16Bの色チャネル行列1603Aに適用し、図16Aの変換された空間画像1632を形成することによって達成される。次に、図16Aのブラー除去機能1642によって、空間画像1632を処理し、画像再構成および同時Bayerパターン補間を提供する。次に、元の色空間への復帰が、ブロック1650で、各領域について決定された色チャネル変換行列1603Cの逆の形を使用して再構成された空間チャネルを再変換することによって行われ、最終画像1660を形成する。色チャネル画像1634も、この例では2次および3次の主成分を使用することによって、DCSから抽出することができる。
しかし、DCS変換時に、空間チャネル1632だけが空間チャネルブラー除去機能1642によって処理されるという保証はない。変換された各ブロックまたは各領域に、それ自体の独自の写像行列が含まれるが、すべての領域が、共通の空間画像1642を共有する。多くの場合に、所与の領域の最適の変換は、空間画像1642へのすべての空間情報の完全な変換を達成しない。その場合に、色チャネルのブラー除去を、ブラー除去処理ブロック1644によって行うことができる。その後、最終画像組立が、色空間変換1650のめいめいの行列を使用して動的領域を「彩色」することによって実行される。
図22に、DCSアルゴリズムによる色空間変換の後の図18の成分画像を示す。動的に変化する色空間を用いる変換の後に、本質的に、すべての空間情報がチャネル1(2200)に含まれる。他の2つの色チャネル2(2202)および3(2204)は、図示の輝度スケールに関して、本質的に空間情報を有しない。図23に、画像ブラーを除去するフィルタリングの後のこれらの成分画像を示す。この例では、やはりチャネル2(2302)および3(2303)の低い解像度に起因して、チャネル1(2300)だけがフィルタリングされる。DCSからRGBへの変換(処理ブロック1650)の後に、最終画像が、やはり鮮明かつ明瞭であり、図21の最終画像と比較してより少ない色アーチファクトを有する(および、より厳しくない処理およびメモリの要件を有する)。
本明細書で論ずる波面符号化イメージングシステムは、携帯電話、ビデオ会議装置、および小型カメラなどの電子デバイス内で使用される時に、ある利点を有する。図24に、そのような利点を示す1つの電子デバイス2400を示す。デバイス2400は、図示のように物体空間2404からの像をディジタル検出器2406(たとえば3色CMOSアレイ)に形成する光学レンズ2402を有する。検出器2406は、像をデータストリーム2408に変換する。マイクロプロセッサ2410がデータストリームを処理して、最終画像2412を生成する。
光学レンズ2402は、波面符号化式でもあり、たとえば、レンズ2402の一表面2414が、波面符号化非球面光学要素である。したがって、光学レンズ2402および要素2404は、上で述べたオプティックスおよび波面符号化要素(たとえば、図2のオプティックス201および要素210)として機能することができる。マイクロプロセッサ2410は、たとえば、上で述べた処理セクション(たとえば、図2の画像処理セクション240)である。マイクロプロセッサ2410は、データストリーム2408の処理にフィルタカーネルを使用し、これによって、レンズ2402による位相操作に起因する波面を復号し、明快な画像2412を生成する。画像2412は、たとえば、LCDディスプレイ2415または他のディスプレイ画面に表示することができる。
光学レンズ2402の波面符号化およびマイクロプロセッサ2410による後処理の効果は、たとえば、焦点ずれなどのミスフォーカス関連収差、フィールド湾曲、または製造関連および組立関連のミスフォーカスを減らすように構成し、配置することができる。したがって、電子デバイス2400は、他の複雑な光学要素の必要なしに、単一の(プラスティック)光学要素2402を使用することができる。
さらに、適当なフィルタカーネル(たとえば、2のべきのカーネル値を有する縮小セットフィルタカーネル)および対応する位相マスク(すなわち、表面波面符号化要素2414)を選択することによって、マイクロプロセッサ2410が、プロセッサ負荷およびメモリ要件を減らされて動作することができる。1つの例で、マイクロプロセッサ2410が、図5の画像処理セクション540およびカーネル530を使用して、そのようなプロセッサ負荷およびメモリ要件を減らす。もう1つの例で、マイクロプロセッサ2410が、図6Bおよび/または図7の論理アーキテクチャを使用して、そのようなプロセッサ負荷およびメモリ要件を減らす。同様に、マイクロプロセッサ2410は、図8で述べた画像処理セクション840およびカーネル830を使用して、ある他の利点を達成することができる。色処理目標を含む設計上の考慮点に応じて、マイクロプロセッサ2410は、たとえば、図10、図16A、および/または図16Bに関して開示された処理技法を使用することができる。もう1つの例で、電子デバイス2400が、図9Aまたは図9Bあるいは図11A〜11Dの1つのイメージングアーキテクチャを実施する光−電子構成要素を使用することができる。処理要件を減らすことによって、電子デバイス2400を、より安価なプロセッサまたはより少ないメモリを用いて構成することができる。当業者は、メモリ節約が、同様に他のメモリデバイスまたはカード2416に変形され、さらなる節約をもたらすことを諒解する。
当業者が諒解するように、電子デバイス2400に、さらに、たとえば携帯電話の機能性など、他の所望の動作および機能性を組み込むために他のエレクトロニクス2420を含めることができる。
したがって、上で説明した波面符号化光イメージングシステムでトレードオフまたは「最適化」を行って、たとえば画像特性目標および/またはコスト目標を達成できることが明白である。たとえば、波面符号化イメージングシステムの構成要素を示す図25を検討されたい。構成要素オプティックス2501は、たとえば図2のオプティックス201である。位相マスク2410は、たとえば、図2の波面符号化非球面光学要素210である。検出器構成要素2520は、たとえば、図2の検出器220であり、カーネルフィルタ2530は、たとえば図2のフィルタカーネル230である。画像処理セクション2540は、たとえば図2のセクション240である。
図25に、縮小セットフィルタカーネル2530(たとえば図8)を使用する3要素最適化2570を示す。したがって、最適化2570によって、波面符号化オプティックス2510、フィルタカーネル2530、および画像処理セクション2540が(設計において)一緒に結び付けられる。標準的な検出器2520およびオプティックス2501は、所望の場合に、最適化2570では必ずしも最適化されない。もう1つの例で、4要素最適化2572では、特定の読み出しフォーマット(たとえば図9A、9Bの)を有する検出器2520が使用される。したがって、最適化2572では、波面符号化オプティックス2510、フィルタカーネル2530、および画像処理セクション2540が、(設計において)一緒に結び付けられる。カラー画像を最適化する一例で(たとえば図10の)、2要素最適化2574に、画像処理セクション2540と一緒に結び付けられた(設計において)カラー固有検出器2520を含めることができる。当業者が諒解するように、オプティックス2501を、最適化2570、2572、および2574のいずれかと共に最適化して、たとえば他の最適化をサポートするイメージング特性を達成することができる。
本明細書のある実施形態では、上で説明したイメージングシステムで使用されるオプティックスおよび光学要素の形も、最適化される。そのような形は、たとえば、ミスフォーカス様収差、高MFT、および低雑音利得値に対する低い変化性をもたらす。下で詳細に説明するように、これらのオプティックスおよび光学要素は、顕微鏡、内視鏡、望遠鏡、機械視覚装置、小型カメラ、および携帯電話のカメラ、ビデオカメラ、ディジタルカメラ、バーコードスキャナ、生物測定システムなどのイメージングシステムを構成するか、その一部とすることができる。簡単に説明できる、本明細書のシステム最適化に適する波面符号化オプティックスの2つの例の光学的な形に、分離可能なべきの加重合計p(x、y)=Sum ai[sign(x)|x|^bi+sign(y)|y|^bi]と、コサイン波形p(r、θ)=Sum ai r^bi×cos(ci×θ+φ)を含めることができる。下で詳細に説明するように、オプティックスに、波面符号化光学要素(たとえば図2の要素210)内の位相変動をもたらす特殊化された輪郭面(時々、「コンスタントプロファイルパスオプティックス(constant profile path optics)」と称する)も含めることができる。やはり、波面符号化光学要素およびオプティックス(たとえば、それぞれ要素210およびオプティックス201)を、単一の光学要素または光学システムとして組み合わせることができる(たとえば、レンズおよび/または鏡を使用して)。一例で、オプティックスによって、カーネルフィルタと相補的な周波数領域を有するMTFが、光イメージングシステム内で作られ、たとえば、MTF内の大出力が、フィルタカーネル内の少出力を暗示する。MTFおよびフィルタカーネルは、本明細書に記載のように、ある度合の空間的相関(たとえば、フィルタカーネルと波面符号化非球面光学要素の間の)を提供することができる。
上で記載したように、これらの波面符号化イメージングシステムは、従来型でない非球面オプティックスおよび画像処理を有する。そのようなシステムの1つの可能な目標は、ミスフォーカス様収差に実質的に鈍感な最終画像を作ることである。この鈍感さによって、(a)大きい被写界深度または焦点深度、(b)たとえばミスフォーカス様収差を作成する製造誤差および/または組立誤差に対する許容量、および/または(c)光学的に生成されるミスフォーカス様収差(たとえば、球面収差、非点収差、ペツバルひずみ、色収差、温度関連ミスフォーカス)がサポートされる。そのようなイメージングシステム内の内部オプティックスは、やはりこれらのミスフォーカス様収差に鈍感とすることができる特殊化されたブラーを有する像を形成する。さらに、コマの影響を、そのような波面符号化光イメージングシステム内で減らすこともできる。検出器(たとえば、図2のディジタルデータストリーム225を生成するために中間像を取り込む検出器220)による取込の後に、画像処理を動作させて、中間像に関連するブラーを除去して、鮮明で明瞭な、高い信号対雑音比(SNR)を有する最終画像を作ることができる。
そのような波面符号化イメージングシステムを可能にする設計プロセスは、光学システムがミスフォーカス様収差に鈍感になり、点像分布関数(PSF)のサイズおよび形状が、コンパクトであり、波長、画角、物体位置などの関数として一定になり、結果のMTFが高い値を有するようになるものとすることができる。以下のコンスタントプロファイルパスオプティックスは、そのようなシステムでの使用に関する効率的な設計を提供する。
ある種のコンスタントプロファイルパスオプティックスは、光学的な形のパラメータ的に効率的な記述(たとえば、パラメータ数が少ない)に基づき、そのような形は、たとえば、選択されたイメージング特性および/またはコスト特性を有する高性能光イメージングシステムをサポートすることができる。一般に、このパラメータ的に効率的な形は、必要ではない。すなわち、非球面表面の各部分の表面高さを、設計および最適化で使用される独立変数として指定することができるが、この一般的な事例を最適化する変数の数は、極端に多く、非実用的である。したがって、コンスタントプロファイルパスオプティックスによって、設計および最適化に使用される強力で一般的な光学的な形が容易にされる。
一実施形態で、コンスタントプロファイルパスオプティックスに、非球面光学要素が含まれ、表面高さが、パスに沿って定義され、表面の関数形式またはプロファイルが、パスの正規化された版に沿って同一である。実際の表面高さは、パスごとに異なるが、各パスに沿った関数形式またはプロファイルは、変化しない。光学要素上のそのような表面プロファイルは、光学システム内で波面の位相を修正するように動作し、これらの位相変化によってもたらされる画像は、画像処理で、たとえばフィルタカーネルの動作を介して逆転される。たとえば、あるコンスタントプロファイルパスオプティックスが、光イメージングシステム内で波面位相を修正した時に、中間像(検出器によって取り込まれる)での結果のMTFは、画像処理に使用されるフィルタカーネルの機能的特性および空間的特性に相関する。したがって、コンスタントプロファイルパスオプティックスおよびフィルタカーネルを、互いに相補的として、所望の画像特性を提供することができる。
図26に、コンスタントプロファイルパスオプティックスの4つの例2600A〜2600Dを示す。たとえば、プロファイル2600A内のパスを検討されたい。これらのパスは、オプティックスの正方形の輪郭線に沿ったものである。この光学的な形について、正規化された表面高さは、正方形輪郭線の正規化された版の上で同一である。プロファイル2600Bのパスは、5角形の形状であり、各5角形の正規化された版に沿った表面高さの関数形式は、同一である。プロファイル2600Cおよび2600Dのパスは、それぞれ十字型および星型である。プロファイル2600Aおよび2600Bに似て、そのような関数形式は、共通パスに沿った共通の正規化された表面高さを有する。
図27に、コンスタントプロファイルパスオプティックスの他の変形形態2700Aおよび2700Bを示す。プロファイル2700Bは、パストレースが、領域#1に示されるものなど、閉じた輪郭線を有することができる波面符号化オプティックスを表す。その一方で、プロファイル2700Aのパスは、開いた輪郭線をたどる。両方のプロファイルで、領域#1に、1組の関連するパスが含まれる。領域#1内の各パスの正規化された版に沿った表面高さの関数形式は、同一である。同じことが、領域2、3、4、および5にあてはまる。各領域内の各パスに沿った実際の表面高さは、異なるものとすることができる。異なる領域での関数形式は、関連してもしなくてもよい。プロファイル2700Bのオプティックスに、開いたパスおよび閉じたパスの組合せが示されており、領域#1のパスは、閉じた輪郭線をたどり、他の4つの領域のパスは、開いた輪郭線をたどる。したがって、各パスに沿った表面高さの関数形式は、領域ごとに同一とすることができ、なおかつ、実際の表面高さを、領域内で変更することができる。
当業者が諒解するように、図26および図27に示されたパスプロファイルの複数の変形形態の1つに、非直線パスを含めることができる。すなわち、図26および図27のプロファイルに示されたものなどの直線パスは、パスが曲線の線分からなる他の形をとることができる。たとえば、直線領域に分割されたプロファイル2700Aの5角形の形を、その代わりに、パスとして円弧を定義する別々の領域を用いて円形にすることができる。
コンスタントプロファイルパスオプティックスでたどられるパスのタイプは、図28のように、異なる領域で変更することもできる。プロファイル2800Aの外側領域のパスは、閉じた正方形の輪郭線をたどり、その内側領域は、閉じた円形の輪郭線をたどる。この内側領域と外側領域を、プロファイル2800Bに示されているように逆転することができる。2800Bに示されているように、外側領域のパスの一部だけが、閉じている必要がある。
図29に、オプティックスの少なくとも1つの領域が、コンスタントプロファイルパスオプティックスと共に変更されない2つのプロファイル2900Aおよび2900Bを示す。プロファイル2900Aおよび2900Bでは、パスが、オプティックスの外側領域だけで輪郭線を形成し、内側領域は、パスを有しておらず、したがって、特殊化された表面形状を有しない。プロファイル2900Aおよび2900Bのオプティックスは、プロファイル2600Aおよび2600Bに関連するが、内側領域のパスに0の振幅が適用されたオプティックスと考えることができる。
図26〜図29の特殊化された表面を記述するパラメータは、2つの成分すなわち1)特定のオプティックスのパスに沿った光学的表面高さのプロファイルを記述するパラメータ、および2)パスを横切る表面高さを記述するパラメータの合成と考えることができる。構成要素の第2組は、たとえば、所与の領域内の各パスの振幅変化を記述することができる。ある領域内のパスの組の振幅に0がセットされる場合に、図29のオプティックスをもたらすことができる。
一実施形態で、コンスタントプロファイルパスオプティックスの1領域の表面の数学的記述が、
S(R、θ、)=C()D(
と記述され、ここで、領域内の各パスに沿った光学表面が、C()によってパラメータ化され、領域内の特定のパスについて、D()で評価される。パラメータ「a」および「b」によって、特定の表面の特性が定義される。C()からの寄与は、1領域内のすべてのパスで一定である。D()からの寄与は、領域内のパスごとに変化する。パラメータC()によって、各パスに沿った表面と、D()の領域内のパスの間またはこれを横切って変調される表面全体を定義することができる。コンスタントプロファイルパスオプティックスの光学的表面は、特定のオプティックスのパスに沿う方向およびパスを横切る方向に関して分離可能でもある。
パスによって、正方形の輪郭線の開いた側面が定義される2600Aの光学表面を検討されたい。これは、左側、右側、上側、および下側の4つの領域につながる。この4つの領域のパスに沿った表面プロファイルの数学的記述の1つの例が、
C()=a+ax+a+… |x|<1
である。したがって、パラメータaの組によって、オプティックスの4つの領域の正規化されたパスのそれぞれに沿った表面高さの多項式記述が形成される。この場合に、領域内の各パスの長さが1に正規化され、その結果、基本表面プロファイルC()の「ストレッチング」が、各パスに適用される。パス長は、正規化が有用である可能性はあるが、正規化された長さと考える必要はない。
各パスを、各パスに沿った表面の関数形式を変更せずに、利得または定数項によって修正することができる。1領域内のパスを横切って適用される利得の1つの例を、数学的には次のように記述することができる。
D()=b+b(PathNumber)+b(PathNumber)+b(PathNumber)+…
PathNumber=0、1、2、3、…
ここで、PathNumberパラメータは、領域内のパスの組を記述する値のシーケンスである。領域内のパスの数は、多くなる可能性がある。たとえば、光学中心に最も近い領域#1(プロファイル2700A)のパスに、PathNumber=0を割り当てることができ、光学中心からわずかに遠い隣接するパスに、PathNumber=1を割り当てることができ、次の隣接するパスにPathNumber=2を割り当てることができ、以下同様である。次に、表面全体は、数学的には「パスに沿った」面記述と「パスを横切る」面記述の積からなる。数学的には、1領域内の表面記述を、次式によって与えることができる。
S(R、θ、)=C()D(
ここで、光学表面は、パラメータベクトルおよびによってパラメータ化される。
パスに沿った表面の関数形式が、2次以下の多項式である場合には、正規化されたパスに沿った二次導関数は定数である。この特殊な場合に、コンスタントプロファイルパスオプティックスを、たとえば、「コンスタントパワーパスオプティックス(constant power path optics)」と示すことができる。コンスタントパワーパスオプティックスは、波面符号化オプティックスの特に効果的な形である。光学パラメータに関して、2次多項式C()を、次のように記述することができる。
C()=厚さ+チルト+光強度
ここで、0次項aによって、厚さの量が記述され、1次項axによって、チルトの量が記述され、2次項aによって、光強度が記述される。より高次の項が使用される場合には、光強度の量または二次導関数を、輪郭線に沿って変更することができる。2次多項式が球の近似なので、高次の項によって、光強度をより正確にモデル化することもできる。
ある光イメージングシステムについて、そのような高次項が重要になり得る。チルトパラメータが非0の場合に、不連続性を有する光学表面が記述される可能性がある。現在自由形式表面を製造できる高い度合の精度に対して、不連続性を有する表面を回避する必要はない。ある光学システムについて、光学表面の中心領域が平坦(またはほぼ平坦)になように、パスを横切る項Dが選択される。しばしば、Dの傾きが、表面の縁の近くで非常に大きくなる可能性がある。中央領域は、中央領域の外の光線が通常はイメージングシステム内のミスフォーカス効果を引き起こすことから、ミスフォーカス収差を制御するために変更する必要がない光イメージング光線も処理する場合がある。
中央光線は、外側の光線よりもミスフォーカス効果に対する寄与が少ないので、これらの光線に異なる形で影響するように、輪郭線の形状を中央領域および外側領域について変更することができる。これによって、インフォーカスPSF、アウトオブフォーカスPSF、高MFT、およびディジタルフィルタリングのパワースペクトルのカスタマイズが可能になる。ディジタルフィルタのパワースペクトルによって、フィルタリングのの相加性雑音のパワースペクトルが修正される。したがって、フィルタリングの後の雑音低下技法は、上で説明したものなど、雑音低下およびイメージングに関してオプティックスとディジタル処理を連帯的に設計することによって、ますます効果的になる。
コンスタントプロファイルパスオプティックスの例
下で説明するあるコンスタントプロファイルパスオプティックスの例は、S(R、θ、)=C()D()の形に従い、使用される特定のパスが、プロファイル2600Aのパスであり、正方形の輪郭線の各辺が、4つの領域の1つを画定する。図30に、1つの表面プロファイル3000、そのインフォーカスMTF3002、ならびにパスに沿った表面形C()3004およびパスを横切る振幅D()3006を示す。3次多項式が、パスを横切る振幅3006に使用され、2次多項式が、パスに沿った表面形3004に使用された。このタイプのオプティックスは、正規化された正方形パス輪郭線に沿ってほぼ定数の光強度を有する。表面プロファイル3000およびインフォーカスMTF3002は、一定の表面およびMTF高さの輪郭線を介して描かれた。一定の高さの輪郭が、表面の直径に沿っておおむね円から四角形に変化することに留意されたい。結果のインフォーカスMTFは、おおむね「+」形に従う非円形輪郭線を有する。パスに沿った波およびパスを横切る振幅の関数形式を、下のグラフ3004および3006に示す。光強度の約1つの波が、パスの側面に沿って使用され(最小値2.8波および最大値3.8波によって示される)、振幅変動は、パスを横切って−0.1と−0.4の間である。
コンスタントプロファイルパスオプティックスのもう1つの例を、図31に示す。多項式形S(R、θ、)=C()D()が使用され、C()は、2次コンスタントオプティカルパワー多項式であり、D()は、3次多項式である。表面プロファイル3100およびMTF3102が、図30のそれと非常に異なることに留意されたい。この例のMTF3102は、図30のMTF3002よりコンパクトであり、非対称性も目立たない。約6波の光強度が、3104に示されているようにパス輪郭線の辺に沿って使用され、約4の最大値を有する増加する振幅が、パスを横切って使用されている。
図32に、図30および図31の形に従い、2次コンスタントオプティカルパワー多項式がパスに沿った関数形式を記述し、3次多項式がパスを横切る振幅を記述するが、振幅関数の形が平坦な中央領域を可能にするように変更されたもう1つの例を示す。表面プロファイル3200は、4辺の平坦な中央を有し、その結果のMTF3202は、ほぼ4辺のピラミッド型である。そのようなMTF形状3200は、3色Bayerカラーフィルタアレイ検出器(図16〜23参照)の緑チャネルに見られるような、不均一サンプリングに適する。1波未満の光強度が、パスに沿って(3204)使用され、0から−9の振幅変動が、パスを横切って(3206)使用されている。
図33に、図2のプロファイル2700Aなどの5角形パスを有するコンスタントプロファイルパスオプティックスの一例を示す。この例では、表面の関数形式が、5角形パス領域内の各直線線分について同一である。2次多項式によって、パスに沿った表面(3304)が記述され、3時多項式によって、パスを横切る振幅(3306)が記述される。光学表面(プロファイル3300)は、10個の等しくない形状のローブと、かなり平坦な中央領域を有する。対応するMTF3302は、2D MTF平面の中央付近でほぼ円の形を有する。約1.5波の光強度が、パスに沿って3304使用され、0から18の振幅が、パス3306を横切って使用されている。
図34に、波面符号化なしの、焦点ずれ値の範囲に関する図32の例からのサンプリングされたPSFを示す。各PSFの各メッシュドローイング内の小さい正方形は、個々の画素サンプルを表す(検出器からの出力)。このPSFを生成するのに使用された物理パラメータは、10μ照明波長、25.4μ中心で100%フィルファクタのグレイスケール画素、オプティックスの動作F数は1.24、ミスフォーカス収差係数W20は0から2波まで変化である。したがって、波面符号化なしで、サンプリングされたPSFが、ミスフォーカス効果に起因する不可避的なサイズの大きい変化を有することが明白である。
図35に、同様に、図32の例からの、波面符号化ありのサンプリングされたPSFを示す。サンプリングされたPSF(焦点ずれ値の範囲について)が、鋭いスパイクと、鋭いスパイクからの距離に伴って減少する幅広ペデスタルを有することに留意されたい。PSFのそれぞれは、類似し、本質的にミスフォーカスと独立である。メッシュドローイングの小さい正方形が、やはり個々の画素を表す。
図36および図37に、図34および図34からのサンプリングされたPSFを示し、その断面を比較する。図36および図37のPSFは、0波と2波の間で均等な間隔の5つのミスフォーカス値を用いて示されている。図36のサンプリングされたPSFは、一定の体積に正規化され、図37のPSFは、一定のピーク値に正規化されている。したがって、図36および図37に、波面符号化なしのシステムのサンプリングされたPSFの変化と、波面符号化ありのサンプリングされたPSFの変化の欠如が示されている。
図38に、図35のサンプリングされたPSFから波面符号化ブラーを除去するのに使用することができる1つの2Dディジタルフィルタ(画像としてプロットされ、0ミスフォーカスPSFに基づく)の例を示す。このディジタルフィルタは、たとえば、フィルタカーネルとして画像処理(たとえば図2のセクション240)内で使用される。このカーネルが、フィルタの中心近くでのみ高い値を有し、中心からの距離に関して減少する値を有することに留意されたい。このフィルタ、および図35のサンプリングされたPSFは、空間的にコンパクトである。
図38の2Dフィルタを図35のサンプリングされたPSFに使用した後に、図39のPSFがもたらされる。このPSF(波面符号化のある、画像処理セクション内でのフィルタリングの後のPSFを表す)が、ほぼ理想的な形を有し、本質的にミスフォーカスの範囲にわたって変化しないことに留意されたい。
図40に、それぞれ図35および図38の、インフォーカスのサンプリングされたPSFおよびディジタルフィルタの「ランク」と称する幾何学的概念に含まれるべきの量を示す。P(x)P(y)=exp(j[X^3+Y^3])によって記述される3次式などの四角形に分離可能なオプティックスは、p(x)p(y)としてよく近似されるサンプリングされたPSFを形成し、ここで、独立変数xおよびyは、正方形グリッドで定義される水平軸および垂直軸である。この分離可能な性質を用いると、計算的に効率的な四角形に分離可能なフィルタリングが可能になる。四角形に分離可能なオプティックスの短所の1つは、PSFが、ミスフォーカスに伴って空間的にシフトする可能性があることである。あるコンスタントプロファイルパスオプティックスの有用な特徴の1つが、PSFの空間的シフトを引き起こさないことである。コンスタントプロファイルパスオプティックスは、低いランクに近似されるPSF、MTF、および対応するディジタルフィルタも作って、さらに効率的な処理を容易にすることができる。図39の上のプロットに、この特定のサンプリングされたPSFのはっきりと感知できる値を有する2つの幾何学的ランクだけがあることを示す。したがって、このシステムは、ランク2システムによって近似される。この例の対応するディジタルフィルタ(図39の下側のプロット)も、低いランクであり、少なくともサンプリングされたPSF程度に低くすることができる。実際には、この例のPSFのフィルタリングは、計算的に効率的な分離可能フィルタリングを用いて達成することができる。
図41に、フィルタリングの前後の対応するMTFを空間周波数領域で示す。比較のために、波面符号化なしの同一の物理システムのMTFも図示する。両方のシステムが、5ステップで0波から2波までのミスフォーカス値を用いて図示されている。波面符号化なしのシステムのMTFは、ミスフォーカスに伴って劇的に変化することがわかる。フィルタリング前のコンスタントプロファイルパスオプティックスを有するシステムのMTFは、本質的にミスフォーカスに伴って変換しない。フィルタリングされたMTFは、図38の2Dディジタルフィルタによるフィルタリングからもたらされ、そのようなMTFは、最大のミスフォーカス値についてのみ高い値および劣化を有する。当業者が諒解するように、他の形のコンスタントプロファイルパスオプティックスでは、より多くの処理能力および/またはフィルタリング前のより低いMTFを使用することによって、より多くの量のミスフォーカスに対してMTFプロファイルを制御することができる。
図32の輪郭線オプティックスの数学的な形は、下記とすることができる。4つの領域でのパスに沿った関数形式の多項式表現
C(x)=0.4661−0.7013x^2、 |x|<1
パスを横切る振幅の多項式表現は
D(y)=−1.8182+0.5170y+2.520y^2−10.1659y^3、0.25<y<1
=−1.8182、0<y<0.25
である。この例で、パス輪郭線に沿った形は、2次多項式によって与えられ、パスを横切る振幅は、中央領域が比較的平坦になるように形が変化する3次多項式によって与えられる。パスに沿ったおよびパスを横切るより高次の多項式の使用によって、これらの例で示されるものより高い性能がサポートされる。
コンスタントプロファイルパスオプティックスは、大量の収差、口径食、ゆるい公差を有する可能性がある非理想的オプティックスとの最適化を可能にする特殊化された技法を用いて設計することができる。この技法によって、従来の分析的方法によって実践されなかった光学システム設計が可能になる。図42に、この技法の一部を示す設計プロセス4200を示す。
プロセス4200で、図示のように、オプティックスを修正し(設計において)、ループを繰り返すことができる。たとえば、プロセス4200に、コンスタントプロファイルパスオプティックスを設計するステップ4202が含まれる。光学表面のモデルを用いて(ステップ4202)、サンプリングされたPSFおよびMTFを正確にシミュレートするために、レンズ収差の影響を(ステップ4204)、ディジタル検出器に関する情報に(ステップ4206)加えることができる。これらのレンズ収差は、一般に、画角、波長、物体位置、およびズーム位置の関数である。収差は、コンスタントプロファイルパスオプティックスの特定の表面形の関数とすることもできる(ステップ4202)。設計プロセスステップ4204で検討される収差の1つが、口径食である。口径食は、しばしば、鮮明さに関する集光をトレードオフするために従来のオプティックスの設計で使用されるが、波面符号化オプティックスでの口径食は、光学設計と実際の光学システムの間の悪い一致につながる可能性がある。サンプリングされたPSFにつながる光学表面および収差は、設計されるレンズの速度およびディジタル検出器の空間分解能に依存して、光線ベースの方法またはフーリエ変換法のいずれかを介してシミュレートすることができる。これらのPSFシミュレーション方法の一般的なタイプの両方が、光学シミュレーションの当業者によく知られている。
サンプリングされたPSFおよびMTFをシミュレート(ステップ4204、4206)した後に、ディジタルフィルタを使用して(ステップ4208)、波面符号化ブラーを除去する。このディジタルフィルタは、一般的とすることができ、設計プロセス4200の繰り返しごとに計算するか、固定された形または制限された形とすることができる。制限された形のディジタルフィルタの例が、四角形に分離可能なフィルタである。ディジタルフィルタが、この形で制限される場合に、分離可能フィルタのランクが、1なので、コンスタントプロファイルパスオプティックスの設計を、最小ランクのPSFおよびMFTについて最適化することができる。他の制限されたディジタルフィルタは、画像処理セクションの実施形態(たとえばハードウェア)を最適化するためにコストが特定のフィルタ値およびフィルタ値のシーケンスに割り当てられるフィルタである。このコストは、設計プロセス4200の一部として増減することができる。制限されたディジタルフィルタのもう1つの例が、特定のパワースペクトル特性を有するフィルタである。相加性雑音が、ディジタルフィルタのパワースペクトルによって修正されるので、フィルタの特性を制御することによって、ディジタルフィルタリングの後の相加性雑音の特性が制御される。雑音低下技法を、ディジタルフィルタを制限することによって、雑音の特性と連帯して最適化することができる。
サンプリングされたPSF/MTFをフィルタリング(ステップ4208)した後に、品質査定を実行する(ステップ4210)。査定4210は、通常はシステムおよび応用例に固有であるが、(a)設計範囲の中および外の両方のフィルタリングされたPSF/MTFの品質、および/または(b)ディジタルフィルタの特性(および/またはその実施形態および/または雑音効果)を含めることができる。品質査定が、その後、非線形最適化と共に使用されて、オプティックスが修正され、プロセス4200を介する反復が繰り返される。修正されたオプティックスに、波面符号化を含む特定の表面ならびに他の表面、および/または光学システム内の要素の厚さおよび距離を含めることができる。パスに沿ったおよびパスを横切る振幅の関数形式のパラメータを、同様に最適化することができる。
本明細書の範囲から逸脱せずに、上の方法およびシステムに変更を加えることができる。したがって、上の説明に含まれるか添付図面に示されたものを、制限的な意味ではなく例示と解釈しなければならないことに留意されたい。たとえば、当業者は、波面符号化要素が、しばしば、イメージングシステム内のオプティックスと分離して示された(たとえば、オプティックス201と別々の要素210)が、たとえば図24に示されているように、本明細書の範囲から逸脱せずに、これらの構成要素を単一の品目、または品目のグループとして組み合わせることができることを諒解する。請求項は、本明細書に記載の包括的および特定のすべての特徴ならびに本発明の方法およびシステムの範囲のすべての陳述を含むことを意図され、これを、言葉の問題として、その間に含まれると言うことができる。

Claims (19)

  1. 光学像を形成する波面を波面符号化することを含み、波面符号化するステップはコンスタントプロファイルパスオプティックスにより提供され、コンスタントプロファイルパスオプティックスが非球面光学要素を含み前記非球面光学要素が表面に複数のパスを有し、表面高さがパスに沿って同一であるように定義され、隣接するパスの表面高さは不連続であり、更に、
    光学像をデータストリームに変換することと、
    波面符号化の影響を逆転し、最終画像を生成するために、縮小セットフィルタカーネルを用いてデータストリームを処理することと
    を含む画像処理方法であって、
    縮小セットフィルタカーネルが
    (a)複数の領域を含み、各領域は係数値の範囲により特徴づけられ、少なくとも領域のうちの第1の領域が、少なくとも領域のうちの第2の領域における係数値の範囲より小さい係数値の範囲に限定されており、
    (b)係数値が2のべきの値及び2のべきの値の和および差に限定されており、
    コンスタントプロファイルパスオプティックスが、縮小セットフィルタカーネルに対応する、画像処理方法。
  2. 処理が、コンスタントプロファイルパスオプティックスの空間周波数スペクトルと相補をなすフィルタカーネルを利用することを含む、請求項1に記載の方法。
  3. 係数が、(a)2のべきの係数、(b)2のべきの和の係数、および(c)2のべきの差の係数のうちの1つまたは複数からなる、請求項1に記載の方法。
  4. 縮小セットフィルタカーネルが複数の領域からなり、複数の領域のうちの少なくとも1つがゼロ値を有する、請求項1に記載の方法。
  5. 波面符号化、変換および処理のうちの1つを修正することと、次に波面符号化、変換および処理のうちの他の1つを最適化し反復することをさらに含む、請求項1に記載の方法。
  6. 縮小セットフィルタカーネルが重み行列によって特徴付けられる、請求項5に記載の方法。
  7. 処理が、カラー固有フィルタカーネルを用いてデータストリームを処理することを含む、請求項1に記載の方法。
  8. 波面符号化が、波面符号化を実施するために非球面光学要素を利用することを含み、非球面光学要素が、4回対称および5回対称のグループから選択される対称を有する、請求項1に記載の方法。
  9. 処理が、非球面光学要素の回転に応じて縮小セットフィルタカーネルを回転させることを含む、請求項8に記載の方法。
  10. 縮小セットフィルタカーネル係数が、N、MおよびPが整数である(a)形式±(2)、(b)形式±(2±2)、および(c)形式±(2±2±2)のうちの1つまたは複数として表すことができるグループから選択される値を有する、請求項1に記載の方法。
  11. 画像収差、焦点深度、視野深度、光学像を形成するオプティックスの公差、オプティックスを保持する機械的公差、光学アセンブリ誤差および雑音のうちの少なくとも1つが存在する状況で、波面符号化および処理が協同して、空間周波数応答の範囲をわたって画像品質を維持する、請求項1に記載の方法。
  12. 処理が、縮小セットフィルタカーネルなしでデータストリームを処理するために必要になるイメージプロセッサと比較して、複数の乗算器と複数の部分積合計の少なくとも1つのより少ない使用を含む、請求項1に記載の方法。
  13. 光学像を形成する波面を波面符号化することを含み、波面符号化するステップはコンスタントプロファイルパスオプティックスにより提供され、コンスタントプロファイルパスオプティックスが非球面光学要素を含み前記非球面光学要素が表面に複数のパスを有し、表面高さがパスに沿って同一であるように定義され、隣接するパスの表面高さは不連続であり、更に、
    光学像をデータストリームに変換することと、
    波面符号化の影響を逆転し、最終画像を生成するために、縮小セット分配フィルタカーネルを用いてデータストリームを処理することと
    を含む画像処理方法であって、処理が、縮小セット分配フィルタカーネルと協同するハードウェア構造を有するイメージプロセッサを利用することを含み、ハードウェア構造が縮小セット分配フィルタカーネルの係数に関連して減少された複雑さを有し、
    縮小セットフィルタカーネルが
    (a)複数の領域を含み、各領域は係数値の範囲により特徴づけられ、少なくとも領域のうちの第1の領域が、少なくとも領域のうちの第2の領域における係数値の範囲より小さい係数値の範囲に限定されており、
    (b)係数値が2のべきの値及び2のべきの値の和および差に限定されており、
    コンスタントプロファイルパスオプティックスが、縮小セット分配フィルタカーネルに対応する、画像処理方法。
  14. 処理が一連の分配プロパティスケーリング−加算タップを利用する、請求項13に記載の方法。
  15. 光学像を形成する波面を符号化する波面符号化要素を備え、波面を符号化することはコンスタントプロファイルパスオプティックスにより提供され、コンスタントプロファイルパスオプティックスが非球面光学要素を含み前記非球面光学要素が表面に複数のパスを有し、表面高さがパスに沿って同一であるように定義され、隣接するパスの表面高さは不連続であり、更に、
    光学像をデータストリームに変換するための検出器と、
    波面符号化の影響を逆転し、最終画像を生成するために、縮小セットフィルタカーネルを用いてデータストリームを処理するためのイメージプロセッサと
    を備える光イメージングシステムであって、イメージプロセッサが、縮小セットフィルタカーネルの係数に応じて軽減された複雑さを有するハードウェア構造を含み、また、
    イメージプロセッサが、シフタからなる論理を用いて光学像の各画素に対してフィルタタップを実施し、
    コンスタントプロファイルパスオプティックスが、縮小セットフィルタカーネルに対応する、光イメージングシステム。
  16. 光学像を形成する波面を符号化する波面符号化要素を備え、波面を符号化することはコンスタントプロファイルパスオプティックスにより提供され、コンスタントプロファイルパスオプティックスが非球面光学要素を含み前記非球面光学要素が表面に複数のパスを有し、表面高さがパスに沿って同一であるように定義され、隣接するパスの表面高さは不連続であり、更に、
    光学像をデータストリームに変換するための検出器と、
    波面符号化の影響を逆転し、最終画像を生成するために、縮小セットフィルタカーネルを用いてデータストリームを処理するためのイメージプロセッサであって、シフタおよび加算器からなる論理を用いて光学像の各画素に対してフィルタタップを実施するイメージプロセッサと
    を備え、
    コンスタントプロファイルパスオプティックスが、縮小セットフィルタカーネルに対応する、光イメージングシステム。
  17. 光学像を形成する波面を波面符号化することを含み、波面符号化するステップはコンスタントプロファイルパスオプティックスにより提供され、コンスタントプロファイルパスオプティックスが非球面光学要素を含み前記非球面光学要素が表面に複数のパスを有し、表面高さがパスに沿って同一であるように定義され、隣接するパスの表面高さは不連続であり、更に、
    光学像をデータストリームに変換することと、
    波面符号化の影響を逆転し、最終画像を生成するために、縮小セットフィルタカーネルを用いてデータストリームを処理することと
    を含む画像処理方法であって、処理が、縮小セットフィルタカーネルと協同するハードウェア構造を有するハードウェアを利用し、ハードウェア構造が、シフタからなる論理を用いて光学像の各画素に対してフィルタタップを実施し、
    コンスタントプロファイルパスオプティックスが、縮小セットフィルタカーネルに対応する、画像処理方法。
  18. 光学像を形成する波面を波面符号化することを含み、波面符号化するステップはコンスタントプロファイルパスオプティックスにより提供され、コンスタントプロファイルパスオプティックスが非球面光学要素を含み前記非球面光学要素が表面に複数のパスを有し、表面高さがパスに沿って同一であるように定義され、隣接するパスの表面高さは不連続であり、更に、
    光学像をデータストリームに変換することと、
    波面符号化の影響を逆転し、最終画像を生成するために、縮小セットフィルタカーネルを用いてデータストリームを処理することと
    を含む画像処理方法であって、処理が、縮小セットフィルタカーネルを処理することができるハードウェア構造を有するイメージプロセッサを利用し、ハードウェア構造が、シフタおよび加算器からなる論理を用いて光学像の各画素に対してフィルタタップを実施し、
    コンスタントプロファイルパスオプティックスが、縮小セットフィルタカーネルに対応する、画像処理方法。
  19. 光学像を形成する波面を波面符号化することを含み、波面符号化するステップはコンスタントプロファイルパスオプティックスにより提供され、コンスタントプロファイルパスオプティックスが非球面光学要素を含み前記非球面光学要素が表面に複数のパスを有し、表面高さがパスに沿って同一であるように定義され、隣接するパスの表面高さは不連続であり、更に、
    光学像をデータストリームに変換することと、
    波面符号化の影響を逆転し、最終画像を生成するために、一般化された係数値のサブセットである一組の係数値からなる縮小セットフィルタカーネルを用いてデータストリームを処理することと
    を含む画像処理方法であって、処理が、係数値のサブセットを処理することができるハードウェア構造を有するイメージプロセッサを利用し、ハードウェア構造がシフタおよび加算器からなる論理を用いて光学像の各画素に対してフィルタタップを実施し、
    コンスタントプロファイルパスオプティックスが、縮小セットフィルタカーネルに対応する、画像処理方法。
JP2010096585A 2002-02-27 2010-04-20 波面符号化イメージングシステムの最適化された画像処理 Expired - Lifetime JP5318027B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US36014702P 2002-02-27 2002-02-27
US60/360,147 2002-02-27

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2003571784A Division JP2005519361A (ja) 2002-02-27 2003-02-27 波面符号化イメージングシステムの最適化された画像処理

Publications (2)

Publication Number Publication Date
JP2010183638A JP2010183638A (ja) 2010-08-19
JP5318027B2 true JP5318027B2 (ja) 2013-10-16

Family

ID=27766194

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2003571784A Withdrawn JP2005519361A (ja) 2002-02-27 2003-02-27 波面符号化イメージングシステムの最適化された画像処理
JP2010096585A Expired - Lifetime JP5318027B2 (ja) 2002-02-27 2010-04-20 波面符号化イメージングシステムの最適化された画像処理

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2003571784A Withdrawn JP2005519361A (ja) 2002-02-27 2003-02-27 波面符号化イメージングシステムの最適化された画像処理

Country Status (8)

Country Link
US (4) US7379613B2 (ja)
EP (1) EP1478966B1 (ja)
JP (2) JP2005519361A (ja)
CN (2) CN101118317B (ja)
AT (1) ATE378619T1 (ja)
AU (1) AU2003213651A1 (ja)
DE (1) DE60317472T2 (ja)
WO (1) WO2003073153A1 (ja)

Families Citing this family (133)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20020195548A1 (en) 2001-06-06 2002-12-26 Dowski Edward Raymond Wavefront coding interference contrast imaging systems
US6842297B2 (en) * 2001-08-31 2005-01-11 Cdm Optics, Inc. Wavefront coding optics
US8717456B2 (en) 2002-02-27 2014-05-06 Omnivision Technologies, Inc. Optical imaging systems and methods utilizing nonlinear and/or spatially varying image processing
US8294999B2 (en) 2003-01-16 2012-10-23 DigitalOptics Corporation International Optics for an extended depth of field
US20070236573A1 (en) * 2006-03-31 2007-10-11 D-Blur Technologies Ltd. Combined design of optical and image processing elements
EP1584067A2 (en) * 2003-01-16 2005-10-12 D-blur Technologies LTD. C/o Yossi Haimov CPA Camera with image enhancement functions
EP1672912B1 (en) 2003-01-16 2012-03-14 DigitalOptics Corporation International Method for producing an optical system including an electronic image enhancement processor
US7773316B2 (en) * 2003-01-16 2010-08-10 Tessera International, Inc. Optics for an extended depth of field
US7180673B2 (en) 2003-03-28 2007-02-20 Cdm Optics, Inc. Mechanically-adjustable optical phase filters for modifying depth of field, aberration-tolerance, anti-aliasing in optical systems
WO2004090581A2 (en) * 2003-03-31 2004-10-21 Cdm Optics, Inc. Systems and methods for minimizing aberrating effects in imaging systems
WO2006001785A1 (en) 2003-05-30 2006-01-05 Cdm Optics, Inc. Lithographic systems and methods with extended depth of focus
US7680342B2 (en) 2004-08-16 2010-03-16 Fotonation Vision Limited Indoor/outdoor classification in digital images
US7606417B2 (en) 2004-08-16 2009-10-20 Fotonation Vision Limited Foreground/background segmentation in digital images with differential exposure calculations
US7876974B2 (en) * 2003-08-29 2011-01-25 Vladimir Brajovic Method for improving digital images and an image sensor for sensing the same
US8254714B2 (en) * 2003-09-16 2012-08-28 Wake Forest University Methods and systems for designing electromagnetic wave filters and electromagnetic wave filters designed using same
US7652685B2 (en) * 2004-09-13 2010-01-26 Omnivision Cdm Optics, Inc. Iris image capture devices and associated systems
US7944467B2 (en) 2003-12-01 2011-05-17 Omnivision Technologies, Inc. Task-based imaging systems
JP2007513427A (ja) 2003-12-01 2007-05-24 シーディーエム オプティックス, インコーポレイテッド 光学システムおよびデジタルシステムの設計を最適化するシステムおよび方法
US20050147313A1 (en) * 2003-12-29 2005-07-07 Dimitry Gorinevsky Image deblurring with a systolic array processor
US7412110B1 (en) * 2004-01-28 2008-08-12 Adobe Systems Incorporated Using forward and backward kernels to filter images
US7359576B1 (en) 2004-02-27 2008-04-15 Adobe Systems Incorporated Using difference kernels for image filtering
US7216811B2 (en) * 2004-04-16 2007-05-15 Microscan Systems Incorporated Barcode scanner with linear automatic gain control (AGC), modulation transfer function detector, and selectable noise filter
WO2006027405A1 (en) * 2004-09-09 2006-03-16 Nokia Corporation Method of creating colour image, imaging device and imaging module
JP4298752B2 (ja) * 2004-09-14 2009-07-22 富士通株式会社 画像処理装置、画像処理方法及び画像処理プログラム
US7566004B2 (en) * 2004-10-29 2009-07-28 Symbol Technologies Inc. Method and apparatus for extending the range of a product authentication device
FR2881011B1 (fr) * 2005-01-19 2007-06-29 Dxo Labs Sa Procede de realisation d'un appareil de capture et/ou restitution d'images et appareil obtenu par ce procede
EP1851750A4 (en) 2005-02-08 2010-08-25 Oblong Ind Inc SYSTEM AND METHOD FOR CONTROL SYSTEM BASED ON GESTURES
WO2006102201A1 (en) * 2005-03-18 2006-09-28 Cdm Optics, Inc. Imaging systems with pixelated spatial light modulators
US20060269150A1 (en) * 2005-05-25 2006-11-30 Omnivision Technologies, Inc. Multi-matrix depth of field image sensor
US7616841B2 (en) * 2005-06-17 2009-11-10 Ricoh Co., Ltd. End-to-end design of electro-optic imaging systems
JP2007047228A (ja) * 2005-08-05 2007-02-22 Olympus Corp 結像光学装置、及び光学ユニット
CA2618149A1 (en) * 2005-08-11 2007-02-15 Global Bionic Optics Pty Ltd Optical lens systems
JP5033802B2 (ja) * 2005-09-19 2012-09-26 オムニビジョン テクノロジーズ, インコーポレイテッド タスク型画像化システム
US20070081224A1 (en) * 2005-10-07 2007-04-12 Robinson M D Joint optics and image processing adjustment of electro-optic imaging systems
US20070093993A1 (en) 2005-10-20 2007-04-26 Stork David G End-to-end design of electro-optic imaging systems using backwards ray tracing from the detector to the source
US7692696B2 (en) * 2005-12-27 2010-04-06 Fotonation Vision Limited Digital image acquisition system with portrait mode
US8537111B2 (en) 2006-02-08 2013-09-17 Oblong Industries, Inc. Control system for navigating a principal dimension of a data space
US9910497B2 (en) * 2006-02-08 2018-03-06 Oblong Industries, Inc. Gestural control of autonomous and semi-autonomous systems
US9075441B2 (en) * 2006-02-08 2015-07-07 Oblong Industries, Inc. Gesture based control using three-dimensional information extracted over an extended depth of field
US9823747B2 (en) 2006-02-08 2017-11-21 Oblong Industries, Inc. Spatial, multi-modal control device for use with spatial operating system
US8370383B2 (en) 2006-02-08 2013-02-05 Oblong Industries, Inc. Multi-process interactive systems and methods
US8531396B2 (en) 2006-02-08 2013-09-10 Oblong Industries, Inc. Control system for navigating a principal dimension of a data space
WO2007095477A2 (en) * 2006-02-14 2007-08-23 Fotonation Vision Limited Image blurring
IES20060558A2 (en) * 2006-02-14 2006-11-01 Fotonation Vision Ltd Image blurring
US7710658B2 (en) * 2006-03-06 2010-05-04 Omnivision Cdm Optics, Inc. Zoom lens systems with wavefront coding
US20070236574A1 (en) * 2006-03-31 2007-10-11 D-Blur Technologies Ltd. Digital filtering with noise gain limit
US20070239417A1 (en) * 2006-03-31 2007-10-11 D-Blur Technologies Ltd. Camera performance simulation
ATE512422T1 (de) 2006-04-03 2011-06-15 Omnivision Cdm Optics Inc Optische bildgebungssysteme und verfahren mit nichtlinearer und/oder räumlich variierender bildverarbeitung
US8514303B2 (en) * 2006-04-03 2013-08-20 Omnivision Technologies, Inc. Advanced imaging systems and methods utilizing nonlinear and/or spatially varying image processing
WO2008020899A2 (en) 2006-04-17 2008-02-21 Cdm Optics, Inc. Arrayed imaging systems and associated methods
CN101473439B (zh) * 2006-04-17 2013-03-27 全视技术有限公司 阵列成像系统及相关方法
IES20060564A2 (en) 2006-05-03 2006-11-01 Fotonation Vision Ltd Improved foreground / background separation
US20070263280A1 (en) * 2006-05-09 2007-11-15 Cdm Optics, Inc. Aberration-tolerant far infrared imaging systems
US7889264B2 (en) * 2006-05-12 2011-02-15 Ricoh Co., Ltd. End-to-end design of superresolution electro-optic imaging systems
US7692709B2 (en) * 2006-05-12 2010-04-06 Ricoh Co., Ltd. End-to-end design of electro-optic imaging systems with adjustable optical cutoff frequency
US8164040B2 (en) * 2006-05-23 2012-04-24 Omnivision Technologies, Inc. Saturation optics
US7924341B2 (en) * 2006-06-05 2011-04-12 Ricoh Co., Ltd. Optical subsystem with descriptors of its image quality
US8036481B2 (en) * 2006-07-14 2011-10-11 Eastman Kodak Company Image processing apparatus and image restoration method and program
JP4293225B2 (ja) * 2006-10-31 2009-07-08 セイコーエプソン株式会社 画像処理回路
JP5905662B2 (ja) 2007-04-24 2016-04-20 オブロング・インダストリーズ・インコーポレーテッド プロテイン、プール、およびスロークス処理環境
WO2008149363A2 (en) * 2007-06-05 2008-12-11 Dblur Technologies Ltd. Non-linear transformations for enhancement of images
US7852572B2 (en) * 2007-06-25 2010-12-14 Ricoh Co., Ltd. Compact super wide-angle imaging system
WO2009037367A1 (es) * 2007-09-17 2009-03-26 Indra Sistemas, S.A. Codificación de imagen en sistemas ópticos mediante coma
US8077401B2 (en) * 2007-10-03 2011-12-13 Ricoh Co., Ltd. Catadioptric imaging system
WO2009061439A2 (en) * 2007-11-06 2009-05-14 Tessera North America, Inc. Determinate and indeterminate optical systems
US9865043B2 (en) 2008-03-26 2018-01-09 Ricoh Company, Ltd. Adaptive image acquisition and display using multi-focal display
US8897595B2 (en) 2008-03-26 2014-11-25 Ricoh Co., Ltd. Adaptive image acquisition for multiframe reconstruction
US9866826B2 (en) 2014-11-25 2018-01-09 Ricoh Company, Ltd. Content-adaptive multi-focal display
US10642364B2 (en) 2009-04-02 2020-05-05 Oblong Industries, Inc. Processing tracking and recognition data in gestural recognition systems
US9740922B2 (en) 2008-04-24 2017-08-22 Oblong Industries, Inc. Adaptive tracking system for spatial input devices
US9740293B2 (en) 2009-04-02 2017-08-22 Oblong Industries, Inc. Operating environment with gestural control and multiple client devices, displays, and users
US9952673B2 (en) 2009-04-02 2018-04-24 Oblong Industries, Inc. Operating environment comprising multiple client devices, multiple displays, multiple users, and gestural control
US9684380B2 (en) 2009-04-02 2017-06-20 Oblong Industries, Inc. Operating environment with gestural control and multiple client devices, displays, and users
US8723795B2 (en) 2008-04-24 2014-05-13 Oblong Industries, Inc. Detecting, representing, and interpreting three-space input: gestural continuum subsuming freespace, proximal, and surface-contact modes
US9495013B2 (en) 2008-04-24 2016-11-15 Oblong Industries, Inc. Multi-modal gestural interface
US8135233B2 (en) * 2008-05-22 2012-03-13 Aptina Imaging Corporation Method and apparatus for the restoration of degraded multi-channel images
US20110110586A1 (en) * 2008-05-29 2011-05-12 Colour Code Technologies, Co., Ltd Information code
US7948550B2 (en) * 2008-06-27 2011-05-24 Ricoh Co., Ltd. Electro-optic imaging system with aberrated triplet lens compensated by digital image processing
US8248684B2 (en) * 2008-08-26 2012-08-21 Ricoh Co., Ltd. Control of adaptive optics based on post-processing metrics
WO2010028176A1 (en) * 2008-09-03 2010-03-11 Oblong Industries, Inc. Control system for navigating a principal dimension of a data space
JP4618355B2 (ja) * 2008-09-25 2011-01-26 ソニー株式会社 画像処理装置及び画像処理方法
US20100123009A1 (en) * 2008-11-20 2010-05-20 Datalogic Scanning Inc. High-resolution interpolation for color-imager-based optical code readers
US8948513B2 (en) * 2009-01-27 2015-02-03 Apple Inc. Blurring based content recognizer
CN102317951B (zh) * 2009-02-11 2015-01-21 数据逻辑扫描公司 利用彩色成像器进行高分辨率光学代码成像的系统和方法
US8800874B2 (en) * 2009-02-20 2014-08-12 Datalogic ADC, Inc. Systems and methods of optical code reading using a color imager
EP2403396B1 (en) * 2009-03-04 2019-08-14 Elie Meimoun Wavefront analysis inspection apparatus and method
CN101846798B (zh) * 2009-03-24 2013-02-27 财团法人工业技术研究院 景物深度信息的取得方法与装置
US9317128B2 (en) 2009-04-02 2016-04-19 Oblong Industries, Inc. Remote devices used in a markerless installation of a spatial operating environment incorporating gestural control
US10824238B2 (en) 2009-04-02 2020-11-03 Oblong Industries, Inc. Operating environment with gestural control and multiple client devices, displays, and users
US20100271536A1 (en) * 2009-04-27 2010-10-28 Digital Imaging Systems Gmbh Blended autofocus using mechanical and softlens technologies
US8121439B2 (en) * 2009-05-22 2012-02-21 Ricoh Co., Ltd. End-to-end design of electro-optic imaging systems using the nonequidistant discrete Fourier transform
EP2465005A1 (en) 2009-08-14 2012-06-20 Akkolens International B.V. Optics with simultaneous variable correction of aberrations
US20110054872A1 (en) * 2009-08-31 2011-03-03 Aptina Imaging Corporation Optical simulator using parallel computations
US9933852B2 (en) 2009-10-14 2018-04-03 Oblong Industries, Inc. Multi-process interactive systems and methods
US9971807B2 (en) 2009-10-14 2018-05-15 Oblong Industries, Inc. Multi-process interactive systems and methods
US8130229B2 (en) * 2009-11-17 2012-03-06 Analog Devices, Inc. Methods and apparatus for image processing at pixel rate
JP2013519927A (ja) 2010-02-17 2013-05-30 アッコレンズ インターナショナル ビー.ヴイ. 調節可能なキラル眼科用レンズ
WO2011132280A1 (ja) * 2010-04-21 2011-10-27 富士通株式会社 撮像装置及び撮像方法
US8416334B2 (en) 2010-04-27 2013-04-09 Fm-Assets Pty Ltd. Thick single-lens extended depth-of-field imaging systems
US8477195B2 (en) 2010-06-21 2013-07-02 Omnivision Technologies, Inc. Optical alignment structures and associated methods
US8923546B2 (en) 2010-07-02 2014-12-30 Digimarc Corporation Assessment of camera phone distortion for digital watermarking
US8457393B2 (en) 2010-07-14 2013-06-04 Omnivision Technologies, Inc. Cross-color image processing systems and methods for sharpness enhancement
CN103201765B (zh) * 2010-09-28 2016-04-06 马普科技促进协会 用于从所观察到的数字图像序列恢复数字图像的方法与设备
US8523075B2 (en) 2010-09-30 2013-09-03 Apple Inc. Barcode recognition using data-driven classifier
US8905314B2 (en) 2010-09-30 2014-12-09 Apple Inc. Barcode recognition using data-driven classifier
US8687040B2 (en) 2010-11-01 2014-04-01 Omnivision Technologies, Inc. Optical device with electrically variable extended depth of field
US8949078B2 (en) 2011-03-04 2015-02-03 Ricoh Co., Ltd. Filter modules for aperture-coded, multiplexed imaging systems
CN102735609A (zh) * 2011-03-31 2012-10-17 西门子公司 一种体液成像系统、方法及景深扩展成像装置
JP2012237693A (ja) * 2011-05-13 2012-12-06 Sony Corp 画像処理装置、画像処理方法及び画像処理プログラム
US8610813B2 (en) 2011-05-31 2013-12-17 Omnivision Technologies, Inc. System and method for extending depth of field in a lens system by use of color-dependent wavefront coding
US9124797B2 (en) 2011-06-28 2015-09-01 Microsoft Technology Licensing, Llc Image enhancement via lens simulation
US8729653B2 (en) 2011-10-26 2014-05-20 Omnivision Technologies, Inc. Integrated die-level cameras and methods of manufacturing the same
US9432642B2 (en) 2011-12-12 2016-08-30 Omnivision Technologies, Inc. Imaging system and method having extended depth of field
US9137526B2 (en) * 2012-05-07 2015-09-15 Microsoft Technology Licensing, Llc Image enhancement via calibrated lens simulation
US9013590B2 (en) * 2012-12-13 2015-04-21 Raytheon Company Pixel multiplication using code spread functions
US9219866B2 (en) 2013-01-07 2015-12-22 Ricoh Co., Ltd. Dynamic adjustment of multimode lightfield imaging system using exposure condition and filter position
WO2014209431A1 (en) * 2013-06-27 2014-12-31 Fusao Ishii Wearable display
KR102103984B1 (ko) * 2013-07-15 2020-04-23 삼성전자주식회사 깊이 영상 처리 방법 및 장치
US9030580B2 (en) 2013-09-28 2015-05-12 Ricoh Company, Ltd. Color filter modules for plenoptic XYZ imaging systems
US9990046B2 (en) 2014-03-17 2018-06-05 Oblong Industries, Inc. Visual collaboration interface
US9589175B1 (en) 2014-09-30 2017-03-07 Amazon Technologies, Inc. Analyzing integral images with respect to Haar features
US9864205B2 (en) 2014-11-25 2018-01-09 Ricoh Company, Ltd. Multifocal display
US9342894B1 (en) * 2015-05-01 2016-05-17 Amazon Technologies, Inc. Converting real-type numbers to integer-type numbers for scaling images
US10529302B2 (en) 2016-07-07 2020-01-07 Oblong Industries, Inc. Spatially mediated augmentations of and interactions among distinct devices and applications via extended pixel manifold
DE102016013472A1 (de) 2016-11-11 2017-05-18 Daimler Ag Abbildungsvorrichtung zur Erzeugung eines Bildes für einen Kraftwagen sowie Verfahren zum Erzeugen eines Bildes einer Abbildungsvorrichtung
JP2018091805A (ja) * 2016-12-07 2018-06-14 三星電子株式会社Samsung Electronics Co.,Ltd. 光学検査装置の評価方法
CN108132530B (zh) * 2017-03-03 2022-01-25 中国北方车辆研究所 一种基于像差平衡和控制的大景深光学方法及其系统
KR102521656B1 (ko) 2018-01-03 2023-04-13 삼성전자주식회사 객체를 인식하는 방법 및 장치
US11138502B2 (en) * 2018-05-01 2021-10-05 International Business Machines Corporation Foiling neuromorphic hardware limitations by reciprocally scaling connection weights and input values to neurons of neural networks
WO2020032464A1 (en) 2018-08-08 2020-02-13 Samsung Electronics Co., Ltd. Method for processing image based on scene recognition of image and electronic device therefor
CN113191972B (zh) * 2021-04-27 2023-04-14 西安交通大学 一种轻量真实图像去噪的神经网络设计及训练方法
US11330145B1 (en) 2021-06-10 2022-05-10 Bank Of America Corporation Image processing edge device for document noise removal
CN113267909B (zh) * 2021-07-19 2021-10-08 军事科学院系统工程研究院网络信息研究所 基于波前畸变补偿的防窥显示方法

Family Cites Families (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US3820878A (en) * 1971-04-01 1974-06-28 Technical Operations Inc Spectral zonal information storage and retrieval
NL8800199A (nl) * 1987-02-09 1988-09-01 Gen Signal Corp Digitale vitale snelheidsdecodeur.
US4837451A (en) * 1987-08-26 1989-06-06 The Boeing Company Ring array imaging system
KR920007919B1 (ko) * 1988-06-27 1992-09-19 미쯔비시 덴끼 가부시기가이샤 텔레비젼 전화기
JP2574563B2 (ja) * 1990-09-03 1997-01-22 松下電器産業株式会社 フィルタ
US5168375A (en) 1991-09-18 1992-12-01 Polaroid Corporation Image reconstruction by use of discrete cosine and related transforms
US5179273A (en) * 1992-05-29 1993-01-12 Eastman Kodak Company Method for testing or controlling a performance of an adaptive optic
JPH0630393A (ja) * 1992-07-10 1994-02-04 Casio Comput Co Ltd Qmf装置
JP3489796B2 (ja) * 1994-01-14 2004-01-26 株式会社リコー 画像信号処理装置
US5710839A (en) * 1994-04-20 1998-01-20 Eastman Kodak Company Method and apparatus for obscuring features of an image
US20020118457A1 (en) * 2000-12-22 2002-08-29 Dowski Edward Raymond Wavefront coded imaging systems
WO1996024085A1 (en) * 1995-02-03 1996-08-08 The Regents Of The University Of Colorado Extended depth of field optical systems
JPH08241068A (ja) * 1995-03-03 1996-09-17 Matsushita Electric Ind Co Ltd 情報記録媒体およびビットマップデータ復号化装置とビットマップデータ復号化方法
JPH08313823A (ja) * 1995-05-15 1996-11-29 Olympus Optical Co Ltd 内視鏡画像処理装置
US5751340A (en) * 1996-08-21 1998-05-12 Karl Storz Gmbh & Co. Method and apparatus for reducing the inherently dark grid pattern from the video display of images from fiber optic bundles
US6240219B1 (en) * 1996-12-11 2001-05-29 Itt Industries Inc. Apparatus and method for providing optical sensors with super resolution
JP3519239B2 (ja) * 1997-04-15 2004-04-12 富士電機システムズ株式会社 対象物の回転角度検出方法
JP4215844B2 (ja) * 1997-11-05 2009-01-28 日本テキサス・インスツルメンツ株式会社 半導体記憶装置
JP2000005127A (ja) * 1998-01-23 2000-01-11 Olympus Optical Co Ltd 内視鏡システム
WO1999057599A1 (en) * 1998-05-01 1999-11-11 University Technology Corporation Extended depth of field optical systems
JP2000098301A (ja) * 1998-09-21 2000-04-07 Olympus Optical Co Ltd 拡大被写界深度光学系
JP2000275582A (ja) * 1999-03-24 2000-10-06 Olympus Optical Co Ltd 被写界深度拡大システム
JP3919069B2 (ja) * 2000-04-11 2007-05-23 Hoya株式会社 眼鏡レンズ性能表示方法及び装置
ATE308743T1 (de) * 2000-04-11 2005-11-15 Hoya Corp Darstellung der leistung eines brillenglases durch eine indexanzeige in visuell verständlicher weise
JP4474748B2 (ja) * 2000-07-14 2010-06-09 ソニー株式会社 信号処理装置及び方法、映像信号記録装置、並びに映像信号再生装置
JP4389258B2 (ja) * 2000-08-02 2009-12-24 横河電機株式会社 光学観察装置
US6525302B2 (en) * 2001-06-06 2003-02-25 The Regents Of The University Of Colorado Wavefront coding phase contrast imaging systems
EP1468314A4 (en) * 2001-12-18 2006-12-13 Univ Rochester ILLUSTRATION USING AN ASPHARIAN MULTI-FUNGI CASE FOR MAINTAINING AN ADVANCED SHARPNESS

Also Published As

Publication number Publication date
EP1478966B1 (en) 2007-11-14
CN101118317B (zh) 2010-11-03
CN1650216A (zh) 2005-08-03
EP1478966A1 (en) 2004-11-24
US7379613B2 (en) 2008-05-27
DE60317472T2 (de) 2008-09-04
US20030169944A1 (en) 2003-09-11
US20080044103A1 (en) 2008-02-21
JP2010183638A (ja) 2010-08-19
ATE378619T1 (de) 2007-11-15
US7995853B2 (en) 2011-08-09
WO2003073153A1 (en) 2003-09-04
AU2003213651A1 (en) 2003-09-09
CN101118317A (zh) 2008-02-06
US20080107354A1 (en) 2008-05-08
DE60317472D1 (de) 2007-12-27
US20080131023A1 (en) 2008-06-05
US8111937B2 (en) 2012-02-07
JP2005519361A (ja) 2005-06-30
CN100338499C (zh) 2007-09-19

Similar Documents

Publication Publication Date Title
JP5318027B2 (ja) 波面符号化イメージングシステムの最適化された画像処理
US10643306B2 (en) Image signal processor for processing images
Khashabi et al. Joint demosaicing and denoising via learned nonparametric random fields
US8126287B2 (en) Camera with image enhancement functions
US7889264B2 (en) End-to-end design of superresolution electro-optic imaging systems
JP2008226233A (ja) カーネルフィルタを用いて入力データをフィルタリングするコンピュータ実装方法及び装置
Akpinar et al. Learning wavefront coding for extended depth of field imaging
Akpinar et al. Learning optimal phase-coded aperture for depth of field extension
WO2007071882A2 (fr) Procede pour fournir des donnees a un moyen de traitement numerique
EP1923731B1 (en) Optimized image processing for wavefront coded imaging systems
Elmalem et al. Spatiotemporal Phase Aperture Coding for Motion Deblurring
EP1672912B1 (en) Method for producing an optical system including an electronic image enhancement processor
Silva et al. Extended Depth-of-Field Lensless Imaging Using an Optimized Radial Mask
US20240135508A1 (en) Image processing method, image processing apparatus, image processing system, imaging apparatus, and storage medium
Jovanov et al. Real-time spatially adaptive deconvolution for CFA images
Eboli et al. Collaborative Blind Image Deblurring
Zhou et al. DR-UNet: dynamic residual U-Net for blind correction of optical degradation
Sanghvi Kernel Estimation Approaches to Blind Deconvolution
Feng et al. Low-complexity digital filter geometry for spherical coded imaging systems

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100519

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100519

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110916

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20111220

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20120316

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20120322

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120619

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20120821

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20121221

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20130308

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130521

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130527

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130611

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130709

R150 Certificate of patent or registration of utility model

Ref document number: 5318027

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

EXPY Cancellation because of completion of term