JP2011078097A - 二重モードの拡張された被写界深度の結像システム - Google Patents

二重モードの拡張された被写界深度の結像システム Download PDF

Info

Publication number
JP2011078097A
JP2011078097A JP2010219800A JP2010219800A JP2011078097A JP 2011078097 A JP2011078097 A JP 2011078097A JP 2010219800 A JP2010219800 A JP 2010219800A JP 2010219800 A JP2010219800 A JP 2010219800A JP 2011078097 A JP2011078097 A JP 2011078097A
Authority
JP
Japan
Prior art keywords
imaging system
depth
optical imaging
digital optical
image processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2010219800A
Other languages
English (en)
Other versions
JP5640612B2 (ja
Inventor
Dirk Robinson
ロビンソン ディルク
David G Stork
ジー ストーク デイヴィッド
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Publication of JP2011078097A publication Critical patent/JP2011078097A/ja
Application granted granted Critical
Publication of JP5640612B2 publication Critical patent/JP5640612B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/0075Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 with means for altering, e.g. increasing, the depth of field or depth of focus
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/81Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/61Noise processing, e.g. detecting, correcting, reducing or removing noise the noise originating only from the lens unit, e.g. flare, shading, vignetting or "cos4"
    • H04N25/615Noise processing, e.g. detecting, correcting, reducing or removing noise the noise originating only from the lens unit, e.g. flare, shading, vignetting or "cos4" involving a transfer function modelling the optical system, e.g. optical transfer function [OTF], phase transfer function [PhTF] or modulation transfer function [MTF]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/61Noise processing, e.g. detecting, correcting, reducing or removing noise the noise originating only from the lens unit, e.g. flare, shading, vignetting or "cos4"

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Optics & Photonics (AREA)
  • Color Television Image Signal Generators (AREA)
  • Studio Devices (AREA)

Abstract

【課題】ディジタル光学結像システムを二つのモードで動作させることができるが、それらは、広帯域モード及びグレースケールモードと称されるものとする。
【解決手段】広帯域モードにおいては、異なる色の像が、取得されると共に、その次に一緒に画像処理される。光学部品は、画像処理が収差を補償すると共に、被写界深度を増加させるために故意に収差が与えられる。グレースケールモードにおいては、異なる色の像が取得されると共に、その次に別個に画像処理される。カラーの像は、全てのカラーチャネルの明瞭な像を有することが必要なことではないように、相関させられることが仮定される。それに応じて、光学部品は、異なる色の像が、異なる場所に集束するように、設計されるが、このように、少なくとも一つのカラーの像がフォーカスの中にある全部被写界深度を増加させる。
【選択図】図1A

Description

本発明は、特異的に収差が与えられた光学部品が、特異的なディジタル画像処理によってバランスされる、結像システムに関する。
電気光学結像システムは、典型的には、光学部品(例.レンズ組み立て体)、検出器(例.CCD検出器アレイ)、及びディジタル画像処理(例.専用のチップ又はソフトウェアにおいて典型的に実施されるもの)を含む。多数の結像の用途において、関心のある物体は、多数のスペクトルの成分を有する。伝統的に、光学設計者は、単一の像平面に高い品質の光学的な像を生じさせるために、多様な光学収差を最小にするようにレンズ設計のパラメーターを最適化する。広いスペクトルの源の結像を伴う用途は、これらの収差が検出器の分光感度に依存する波長の範囲にわたって最小にされることを要求する。そのような用途において、光学ガラス及びプラスチックに見出された分散は、同じ点に全ての波長を集束させることを困難なものにする。補正なしで、“フォーカスの中”の像平面の場所は、異なる色の帯域又は“チャネル”について変動することになる。赤色のチャネルについての像は、一つの場所で、緑色のチャネルについての像は、別の場所で、及び、青色のチャネルの像が、さらに第三の場所で、フォーカスの中にあるかもしれない。逆に、一つの固定された場所に検出器アレイを位置決めすることは、一つのカラーチャネルが、他のものがフォーカスの外にある一方で、フォーカスの中にあることもあることを意味する。波長に対する最良のフォーカスのこの変動は、軸上の色の収差又は軸上の色収差として知られる。
軸上の色の収差を最小にするための標準的な実践は、収差をバランスさせるために適切な分散を備えたレンズの材料を選ぶことを伴う。伝統的なアプローチは、全てのカラーチャネルを同じ像距離で鮮明なフォーカスへともってくることを試みる。しかしながら、結果として生じるレンズ設計は、相対的に複雑な且つ高価なものであり得る。
Cathey,Jr.等への米国特許第5,748,371号(特許文献1)は、異なるアプローチを記載する。位相マスクは、全てのカラーチャネルにわたって平均化された集約変調伝達関数(aggregate modulation transfer function)(MTF)が、像平面におけるシフトに対して相対的に鈍感なものであるように、光学部品に導入される。一つの場所で“鮮明にフォーカスの中”にあると共にその次に像平面が最適な像距離から離れてシフトさせられる際に“極端にフォーカスの外”へとかなり急速に劣化するものである代わりに、Catheyにおける光学部品は、それが、像平面の位置の拡張された範囲にわたって“適度にフォーカスの外”にあるように、設計される。すなわち、フルカラーの像は、常に若干ぼやけたものであるが、像平面の場所が変化する際に顕著により良好な又はより劣悪なものにはならない。この効果は、システム全体のフォーカスの深度を拡張するために使用される。しかしながら、一つの主要な欠点は、像が、常に若干ぼやけたものであるというものである。言い換えれば、MTFは、低いコントラストを欠点としてもつ。別の欠点は、システムが、なおも、全てのカラーチャネルが少なくとも一つの適度にフォーカスの中にあるように設計されなければならないというものである。
Olmstead等への米国特許第7,224,540号(特許文献2)及びHansonへの米国特許第5,468,950号(特許文献3)は、反対のアプローチを記載する。これらの例においては、物体は、全てのカラーチャネルについての像が同じである、特別な部類に限定される。すなわち、赤色のチャネルの像は、緑色のチャネルの像と同じものでなければならないし、青色のチャネルの像と同じものでなければならない。両方の特許は、黒色の及び白色のバーコードの撮像に特定して集中する。この特別な場合については、黒色の及び赤色のバーコード(即ち、赤色のカラーチャネルにおける黒色の及び白色のバーコードの像)は、黒色及び緑色のバーコードと同じものであると共に、黒色の及び青色のバーコードと同じものである。この性質の結果として、どの一つのカラーチャネルも、物体の完全な像を得るために十分なものである。それに応じて、光学部品は、軸状の色収差を向上させるように設計される。異なるカラーチャネルは、異なる像距離に集束する。現実の物体距離についての最良のフォーカスの中にあるカラーチャネルは、物体の像として使用される。軸上の色の収差を向上させることは、それが、カラーチャネルの少なくとも一つのがフォーカスの中にあることになる範囲を拡張するので、システム全体の有効な被写界深度を拡張する。しかしながら、このアプローチは、この特別な部類の物体に限定されると共に、そのようなシステムは、カラーチャネルのいくつかが常に許容できないほどフォーカスの外にあることになるため、異なるカラーチャネルが相関させられなかったカラーの像を許容可能に結像させることができるものではないであろう。
このように、現行のアプローチの欠点のいくつか又は全てを扱う一方でカラー及びグレースケールの物体をより良好に結像させることができる電気光学結像システムに対する要望がある。
本発明は、広帯域モード及びグレースケールモードと称されるものとする、二つのモードで動作させることができるディジタル光学結像システムを提供することによって先行技術の限界を克服する。広帯域モードにおいては、異なるカラーの像は、取得されると共に、その次に一緒に画像処理される。光学部品は、画像処理が収差を補償すると共に、被写界深度を増加させるために故意に収差が与えられたものである。グレースケールモードにおいては、異なるカラーの像は、取得されると共に、その次に別個に画像処理される。カラーの像は、全てのカラーチャネルの明瞭な像を有することが必要なものではないように、相関させられることが仮定される。それに応じて、光学部品は、異なるカラーの像が、異なる場所に集束するように、設計されるが、このように、少なくとも一つのカラーの像がフォーカスの中にある範囲を増加させる。二つのモードは、光学部品に反対の要件を課する。広帯域モードにおいては、光学部品は、理想的には、全てのカラーチャネルが、おおよそ同じ挙動するように、設計されるが、おおよそ同じ点に集束する。グレースケールモードにおいては、光学部品は、理想的には、各々のカラーチャネルが、異なる点に集束すると共に、全てのカラーチャネルが、異なって挙動するように、設計される。光学部品は、これらの二つの反対する要件をバランスさせるように、設計される。
一つの実施において、ディジタル光学結像システムは、光学部品モジュール及び検出器モジュールを含む。光学部品モジュールは、物体の光学的な像を生じさせる。検出器モジュールは、少なくとも二つの異なるカラーチャネルkを使用することで光学的な像を取得する。各々のカラーチャネルは、ピーク波長λpkによって定義される。カラーチャネルのグループは、一緒に、中心の波長λ=(min{λpk}+max{λpk})/2によって特徴付けられる。光学部品モジュールは、広帯域モードにおいて使用されるとき、それが、少なくとも等価な単色の(λにおける)収差の無いシステムのものと同程度に大きいものである被写界深度を有するように、設計される。単色の被写界深度Dは、検出器モジュールの空間的なサンプリング周波数におけるコントラスト(MTF)が、中心の波長における閾値より上にあるままである、デフォーカスの範囲である。(少なくとも一つのカラーチャネルが十分なコントラストを有するデフォーカスの範囲として定義される)グレースケールの被写界深度は、(全てのカラーチャネルが十分なコントラストを有するデフォーカスの範囲として定義される)広帯域の被写界深度よりも少なくとも10%大きいものである。決定モジュールは、システムを広帯域モード又はグレースケールモードのどちらで動作させるかということを決定する。同じ光学部品モジュールは、両方のモードを支持する。
一つの特定の設計において、結像システムは、RGBの使用(三つのカラーチャネル)について設計される。それは、また、広帯域モードが、より遠くにある物体(例.風景の写真を撮影するカメラ)に当てはまるように設計される。グレースケールモードは、より近くにある物体(例.バーコードの写真を撮影する同じカメラ)に使用される。一つのアプローチにおいて、これは、正の球面収差及び軸上の色収差を故意に導入することによって達成される。結果として生じるMTFは、フォーカスのシフトに関して対称的なものであるが、近い物体については異なるカラーチャネルの間でより鮮明に、及び、遠い物体についてはあまり鮮明にではなく、区別をする。
本発明の他の態様は、上に記載されたデバイス及びシステムに対応する方法、並びに前述のもののための用途を含む。
本発明は、以下の付随する図面と併せて考慮されたとき、後に続く発明の詳細な説明及び添付された特許請求の範囲からより容易に明白なものであると思われる他の利点及び特徴を有する。
図1Aは、本発明に従ったディジタル光学結像システムのブロック図である。 図1Bは、図1Aについての例の画像処理モジュールのブロック図である。 図2は、図1のシステムにおける使用に適切なトリプレットの図である。 図3Aは、図2に示されたトリプレットのフォーカスを通じたMTFのグラフである。 図3B(先行技術)は、等価な単色の収差の無いシステムについてのフォーカスを通じたMTFのグラフである。 図4は、物体の深度の関数としてのフォーカスのシフトの見積もりの誤差のグラフである。
図は、例示のみの目的で本発明の実施形態を描く。当業者は、ここに例示された構造及び方法の代替の実施形態が、ここに記載された本発明の原理から逸脱することなく用いられることもあることを後に続く議論から容易に認識すると思われる。
図1は、本発明に従ったディジタル光学結像システムのブロック図である。結像システムは、光学部品モジュール110(例.レンズ組み立て体)、検出器モジュール120(例.CC検出器アレイ)、及び画像処理モジュール130(例.専用のチップ又はソフトウェアにおいて典型的に実施されるもの)を含む。図1Bに示されるように、画像処理モジュール130を、二つの異なるモードで動作させることができるが、それらを、広帯域モード133及びグレースケールモード137と称するものとする。決定モジュール135は、二つのモードの間で切り替わる。結像システムは、物体150のディジタル画像180を生じさせる。
結像システムは、光学部品110が光学的な像を生じさせるが光学的な像が高品質のものではないという意味において“ディジタル光学”的なものである。それよりも、以下に記載する理由のために、光学モジュール110は、故意に収差が与えられるが、それは、劣化した光学的な像に帰着する。劣化した光学的な像は、検出器アレイ120によって取得されると共に、取得された像は、ディジタル画像180を生じさせるために二つのモードの一つにおける画像処理装置130によってディジタル処理される。画像処理は、光学収差を補償するが、改善されたディジタル画像180を生じさせる。このように、光学結像及びディジタル画像処理は、ディジタル画像180を生じさせるために一緒に作動する。
光学部品110は、二つのモードについての異なる機構を使用することで拡張された被写界深度を達成するために故意に収差が与えられる。広帯域モードにおいて、システムは、
全てのカラーチャネルについて広いフォーカスを通じたMTF曲線を有する単一のカラーの結像システムとして挙動する。例えば、光学備品は、ぼやけたカラーの像に帰着する収差を有することもあるが、各々のカラーチャネルにおけるぼけは、サンプリン周波数におけるMTFが広い範囲のデフォーカスについてコントラストの閾値(例.0.1)より上にあるままであるようなものであると共に、このように拡張された被写界深度に帰着する。一つのアプローチにおいて、画像処理モジュール130は、全てのカラーチャネルへ同じ画像処理133を適用する。フォーカスを通じたMTF曲線が広げられるので、深度依存性の処理は、コントラストを、好ましくは少なくとも収差の無い単色のシステムと同程度に良好なものまで、復原することになる。
グレースケールモードにおいて、システムは、若干、別個の単一のカラーチャネルの結像システムのセットとして挙動する。各々のカラーチャネルは、デフォーカスに対して相対的に敏感なものであることもあるが、光学部品は、カラーチャネルが、異なる点でフォーカスの中にあるように設計される。カラーチャネルが、全て同じものであるとすれば(例.物体が黒色及び白色である、又はグレースケールである、とすれば)、フォーカスの外のチャネルを捨てると共にフォーカスの中のチャネルを使用することができる。あるいは、カラーチャネルを、それらのフォーカスの中又は外の程度に基づいて組み合わせることができる。図1において、各々のカラーチャネルに適用された画像処理137は、異なるものであると共に、その次にフィルタリングされた像は組み合わせられる。(たとえチャネルの集合がカラーチャネルの間の相関のためではないとしても)各々のカラーチャネルが、デフォーカスに敏感なものであるので、画像処理137は、好ましくは、深度依存性のものである。
これらの概念を、図2〜4の具体的な例によって例示することにする。図2は、物体距離の範囲を超える広帯域モードにおける使用のために及び物体に近い距離でのグレースケールモードにおける使用のために設計されたトリプレットの図である。多数の消費者の用途は、このタイプの動作に適切なものであることもある。消費者が、遠い物体の写真を撮るとき、物体が、相関してない色を備えたカラーの物体であることは珍しいことではないであろうし、且つ、解像度の要件は、それほど厳密なものではないことがある。対照的に、バーコード又はグレースケールモードの文書のような色が相関した物体は、カメラに対して近くに位置させられることがよりありそうなことであると共に、近い作動距離におけるより高いコントラストから利益を得ることがよりありそうなことである。
この特定の例は、[480,630]nmの波長の範囲で動作する、5.0mmの焦点距離及び40度の視野を備えたおおそよF/2.8の光学モジュールである。それは、6μmのピッチのピクセルを備えたRGBの動作について設計されたものであるが、ここで赤色の、緑色の、及び青色のチャネルについてのピーク波長は、480、540、及び620nmである。
トリプレットは、後に続く差異と共に、標準的なCookeのトリプレットに対する類似性をもつ。第一に、中央の素子に使用されたガラスにタイプは、他の二つの素子の軸上の色の収差を適度にのみ相殺するので、グレースケールモードの性能を達成するために使用される残余の軸上の色収差がある。この例においては、赤色の及び青色のピーク波長の間で34ミクロンの軸上のフォーカスのシフトがあるが、それは、画像処理によって後で補償される。ガラスのタイプは、外側の素子についてはSK5及び中央の素子についてはBAF4である。第二に、強く湾曲した第三の素子は、故意に、適度な球面収差を誘起するが、それは、広帯域モードの性能を達成するために使用される。この事例においては、2.5個の波の球面収差があるが、それらは、画像処理によって後で補償される。このレンズの形態は、その上最小限の歪曲及び他の収差を生じさせると共に、それが球面の表面のみからなるので製作することが簡単なものである。レンズの処方は、以下の表1に示される。
表1:図2のトリプレットについての光学的な処方
Figure 2011078097
図3Aは、このトリプレットのフォーカスを通じたMTFのグラフである。図3Aにおける曲線の各々は、フォーカスの点のシフトの関数として検出器アレイのサンプリング周波数におけるMTFを図示する。この例において、検出器アレイは、6μmのピクセルのピッチを有すると共に、サンプリング周波数は、おおよそ80lp/mmである。x軸に沿ったフォーカスのシフトは、近軸のフォーカスからのmm単位のものである。三つの曲線310R、G、Bの各々は、それぞれ、赤色の、緑色の、及び青色のカラーチャネルのピーク波長についてのMTFを図示する。このように、曲線310Rは、フォーカスのシフトの関数として、620nmの波長でのサンプリング周波数におけるMTFを図示する。このシステムは、広帯域の過焦点距離を最小にすることに焦点が合わせられる。広帯域の過焦点距離は、少なくとも一つのカラーチャネルが、広帯域の過焦点距離よりも大きい(無限までの)全ての物体距離について閾値(この事例においては、0.1)よりも大きいMTFを有するような、最も近い距離である。
便宜上、カラーチャネルは、指標kによって、及び、各々のカラーチャネルのピーク波長は、波長λpkとして、指定されることもある。一緒に考慮されたカラーチャネルを、中心の波長λによって特徴付けることができるが、それは、最小のピーク波長及び最大のピーク波長の平均として定義される。すなわち、
λ=(min{λpk}+max{λpk})/2 (1)
である。この例においては、λ=(480+620)/2=550nmである。
比較のために、図3Bは、等価な単色の収差の無いシステムについてのフォーカスを通じたMTFを示す。このシステムは、中心の波長λで収差の無いものであることが仮定されると共に完璧に近軸のフォーカスに集束される。加えて、それは、それが同じサンプリング周波数、焦点距離及びF#を有するという意味において等価なものであるが、異なる共役な距離に集束される。単色のシステムは、単色の過焦点距離を最小にするように集束される。単色の過焦点距離は、単色の過焦点距離よりも大きい全ての物体距離についてのMTFが、閾値(この事例においては、0.1)よりも大きいものであるような、最も近い物体距離である。
便宜上、システムについての被写界深度の尺度としてMTF=0.1を使用すること。すなわち、被写界深度は、サンプリング周波数におけるMTFが0.1以上であるフォーカスのシフトの範囲である。単色の被写界深度Dは、比較のための基準点として使用されることになる。それは、等価な単色の収差の無いシステムの被写界深度である。図3Bを参照すると、このMTFは、近軸のフォーカスに関して対称的なものであると共に、わずかに−0.04mmより下のフォーカスのシフトで及びわずかに+0.04mmより上のフォーカスのシフトで0.1の解像度のカットオフより下に下がる。これは、0.36mの単色の過焦点距離及び∞の間における物体距離に対応する。フォーカスのシフトの波の個数で表現されたこのシステムについてのDは、(λで)約2.0個の波のデフォーカスである。
広帯域の被写界深度Dは、広帯域モードについて定義される。それは、光学モジュールが全てのピーク波長λpkについて0.1よりも大きいMTFを有する被写界深度である。図3Aを参照すると、広帯域の被写界深度の負のフォーカスのシフトのエッジは、310Rが0.1まで下がるとき、生ずるが、それは、およそ−0.04mmのフォーカスシフトである。広帯域の被写界深度の正のフォーカスのシフトのエッジは、310Bが0.1まで下がるとき、生ずるが、それは、およそ+0.07mmのフォーカスシフトである。これらの点は、おおよそ0.22mmの広帯域の過焦点距離から無限までの物体距離に対応する。このシステムについての広帯域の被写界深度Dは、(λにおける)おおよそ3.0個の波のデフォーカス又は単色の被写界深度Dの1.5倍である。このレベルの向上は、全てのシステムについて要求されるものではない。しかしながら、広帯域モードが、基準点の事例と少なくとも同程度に広いものである被写界深度を有することになるようにD≧Dであることは、好ましいことである。より好ましくは、D≧1.2Dである。
グレースケールの被写界深度Dは、グレースケールモードについて定義される。それは、光学モジュールがピーク波長λpkのいずれについても0.1よりも大きいMTFを有する被写界深度である。グレースケールモードにおいては、カラーチャネルが、高度に相関したもの及び/又は同一のものであることが仮定されるため、一つのカラーチャネルのみが、十分なコントラストを有することを必要とする。図3Aを参照すると、グレースケールの被写界深度は、おおよそ−0.08mmから+0.11mmまでのフォーカスのシフトにわたる。これは、おおよそ0.16mのグレースケールの過焦点距離から無限までの物体距離に対応する。これは、(λにおける)おおよそ3.8個の波のデフォーカス又は広帯域の被写界深度Dの1.25倍である。他のレベルの向上は、他の用途について適当なものであることもある。しかしながら、グレースケールモードが、広帯域モードよりも広いものである被写界深度を有することになるようにD≧Dであることは、好適なことである。より好ましくは、D≧1.1Dである。
加えて、図3Aにおける曲線の全体的な形状及び非対称性に留意すること。最大のMTFは、約0.4であると共に、それは、図3Bの0.8よりも低いものであるが、良好なコントラストをもたらすことにはなおも十分に高いものである。加えて、画像処理は、一般に、コントラストを向上させることになる。より重要なことは、フォーカスを通じたMTFは、故意に非対称的なものである。これは、グレースケールモード及び広帯域モードが、何らかの意味で反対の要件を有するためである。グレースケールモードにおいては、カラーチャネルが異なる点に集束することは、望ましいことである。よって、フォーカスのシフトの関数としてのそれらのMTFのグラフは、各々カラーチャネルが異なるフォーカスのシフトでピークに達するものであると共に、分離されるべきである。対照的に、広帯域モードにおいては、カラーチャネルは、同じものに取り扱われるので、それらのMTFのグラフは、おおよそ同じものであると共にフォーカスのシフトに対してあまり敏感なものではないものであるべきである。
これは、非対称的なMTFのグラフによって図3Aにおいて達成される。負のフォーカスのシフトの設定(グレースケールモード)においては、異なるカラーチャネルにわたるMTFの顕著な変動がある。最初に青色のチャネルが、その次に緑色のチャネルが、及びその次に赤色のチャネルが、ピークに達する。加えて、各々のカラーチャネルについてのMTFは、ピークまでかなり急に上昇する。各々のカラーチャネルについてのMTFが、フォーカスのシフトの強い関数であるため、及び、それが、一つのカラーチャネルから次のものまで顕著に変動するため、この情報を、物体の深度を見積もるために使用することができるが、それを、次には、各々のカラーチャネルについての深度依存性のフィルタリングを決定するために使用することができる。
対照的に、正のフォーカスのシフトの設定では、MTFは、一つのカラーチャネルから次のものへと大幅に変動するものではない。また、MTFは、フォーカスのシフトに対してあまり敏感なものではない。このように、物体の深度を見積もることは、より難しいことであるが、MTFがより深度不変性のものであるので、そのようにすることもまたあまり必要なことではない。これらの概念を、例えば一次導関数に基づいて又は最小の及び最大のピーク波長の間におけるMTFの差異に基づいて、定量的に表現することができる。図3Aにおいて、一次導関数|dMTF(λ)/d(フォーカスのシフト)|は、広帯域の被写界深度の正のフォーカスのシフトのエッジにおける(おおよそ+0.07のフォーカスのシフト)よりも、広帯域の被写界深度の負のフォーカスのシフトのエッジ(おおよそ−0.04のフォーカスのシフト)において大きいものである。同じ理由のために、カラーチャネル間のMTFの差異[max{MTF(λpk)}−min{MTF(λpk)}]は、広帯域の被写界深度の正のフォーカスのシフトのエッジにおけるよりも、広帯域の被写界深度の負のフォーカスのシフトのエッジにおいて大きいものである。
システムは、広帯域モード又はグレースケールモードのいずれかにおいて動作することが可能なものである。モードの間の差異は、主として画像処理において生ずる。すなわち、光学部品モジュール及び検出器アレイは、通常では、両方のモードにおいて同じものを動作させることになる。光学部品によって生じさせられた光学的な像及び検出器によって取得されたディジタル画像は、両方のモードについて同じものである。(光学部品が両方のモードをサポートするように適切に設計されるのでなければならないとはいえ)広帯域モード及びグレースケールモードの間で区別をするのは、その後の画像処理である。
図1を参照すると、決定モジュール135を多様な方式で実施することができる。例えば、それは、ユーザーの選択に基づいたものであることができるであろう。すなわち、ユーザーは、手動で、広帯域及びグレースケールモードの間で切り替えをすることができるであろう。あるいは、それは、バーコードのような何らかの知られたグレースケールの物体の検出に基づいたものであることができるであろう。バーコードのような多数のグレースケールの物体をぼやけた像から検出することができるが、デコードすることはできない。このように、システムが、広帯域モードで使用されるとき、それが、グレースケールの物体を検出するとすれば、それは、グレースケールモードへ自動的に切り替わることもある。また、画像処理システムは、像の異なる部分が、広帯域の又はグレースケールの画像処理のいずれかを使用するように、グレースケールの物体の検出に基づいて像を分割するかもしれない。この像の分割は、自動的に算出される又はユーザーによって選択されるかもしれない。
今、二つのモードについての画像処理モジュール133及び137を考える。様々なタイプの画像処理を使用することができる。一つの例を以下に与えることにする。特定のカラーチャネルについての光学部品モジュールの光学的伝達関数(OTF)を、k番目のカラーチャネルについてH(U,U)のように表記するが、ここでUは、空間周波数である。
グレースケールモードの物体を取得することは、グレースケールの像を適切に復原するために物体距離を見積もることを要求する。物体の深度を見積もることは、異なるカラーチャネルの像の相対的なMTFの差異iに依存する。特定の物体距離についてのMTFは、H(U,U,d)と表記されるが、ここでdは、未知の物体の深度である。物体の深度dを見積もる能力は、物体の深度dの関数としてのMTFにおける変化の量の関数である。例えば、物体の深度を見積もる能力を、
Figure 2011078097
によって測定することができるが、ここでUは、検出器モジュールの空間的なサンプリング周波数の半分である。Jのより高い値は、物体の深度をより正確に見積もることができることを意味する。
深度を見積もる際の誤差(二乗平均根の誤差又はRMSE)は、おおよそ
Figure 2011078097
である。図4は、物体の深度の関数として、図2のシステムについて物体の深度を見積もる際の期待された誤差の深度の見積もり(RMSE)を図示する。物体の深度(x軸)及び深度の見積もりの誤差(y軸)の両方は、近軸のフォーカスからのデフォーカスの波の個数で表現される。近い物体に対応する、フォーカスのシフトの負の値についての相対的に平坦な低い深度の見積もりの誤差によって実証されるように、システムは、グレースケールモードにおいて使用されるとき、より正確な深度の見積もりについて設計される。三つのカラーチャネルの間におけるMTFにおける相対的に大きい変化は、この深度の見積もりの確度を可能とする。このシステムの利点は、少なくとも一つのカラーチャネルが、深度の範囲のいたるところで高いMTFの値を有するというものである。
物体距離を、多くの方式で見積もることができるであろう。一つの例においては、三つのカラーチャネル間における高い周波数の像の内容の相対的な量を、カラーチャネル間の相対的なMTFに適合させることができる。
グレースケールモードにおいては、物体距離
Figure 2011078097
を見積もった後に、複数のカラーの像は、見積もられた深度に従ってシャープニングされる。例えば、深度の見積もりに基づいたWienerフィルターは、
Figure 2011078097
によって与えられるが、ここではαは、SNRに依存する何らかの調整パラメーターである。このように、フィルターの応答は、見積もられた深度に従って変化する。また、それは、MTF Hが、各々のカラーチャネルについて異なるものであるので、一つのチャネルから次のものまで異なるものである。
フィルタリングされたカラーの像を、異なる方式で組み合わせることができる。例えば、単純な方式は、まさに“最良の”カラーの像を保つと共に他のものを捨てることである。代案として、重みが付けられた平均を使用することでカラーチャネルの像をもまた組み合わせることができるであろう。重みを付けることは、カラーチャネルの各々における相対的なノイズのレベル又は各々のカラーチャネルにおける相対的なMTFに依存するかもしれない。純粋なグレースケールモードに関するさらなる例及び情報については、ここに参照によって組み込まれる、M.Dirk Robinsonによる米国特許出願第11/999,001号の“End−to−end Design of Electro−Optic Imaging Systems for Color−Correlated Objects”を参照すること。
広帯域モードにおいて、画像処理133は、また、異なる形態をとることができる。一つのアプローチにおいて、深度に独立なシャープニングフィルターは、像に適用される。例えば、一つのそのような深度に独立なフィルターは、一つの特定の深度の場所d’についてのインバースフィルター
Figure 2011078097
によって与えられるが、ここでαは、何らかの調整パラメーターである。単一の深度d’を、例として、近軸のフォーカス、又はMTFを最大にするフォーカス、として選ぶことができる。純粋な広帯域モードに関するさらなる例及び情報については、ここに参照によって組み込まれる、Guotong Feng及びM.Dirk Robinsonによる米国特許出願第12/355,625号の“Imaging System Using Enhanced Spherical Aberration and Specifically Sized FIR Filters”を参照すること。
詳細な説明が、多数の特定のものを含有するとはいえ、これらは、本発明の範囲を限定するものではなく、本発明の異なる例及び態様を単に例示するものとして、解釈されるべきものである。本発明の範囲が、上に詳細に議論されない他の実施形態を含むことは、認識されるべきことである。当業者に明白なものであると思われる様々な他の変更、変化、及び変形は、添付した特許請求の範囲において定義されたような本発明の主旨及び範囲から逸脱することなく、ここに開示された本発明の方法及び装置の配置、動作、及び詳細になされることもある。従って、本発明の範囲は、添付した特許請求の範囲及びそれらの法的な均等物によって決定されるべきものである。
110 光学部品モジュール,光学モジュール,光学部品
120 検出器モジュール,検出器アレイ
130 画像処理モジュール,画像処理装置
133 広帯域モード,画像処理
135 決定モジュール,画像処理
137 グレースケールモード
150 物体
180 ディジタル画像
310R,310G,310B 曲線
d,d’ 物体の深度
dハット 物体距離
単色の被写界深度
広帯域の被写界深度
グレースケールの被写界深度
MTF,OTF
k カラーチャネル
フィルター
U 空間周波数
サンプリング周波数の半分
α 調整パラメーター
λ 中心の波長
λpk ピーク波長
米国特許第5,748,371号明細書 米国特許第7,224,540号明細書 米国特許第5,468,950号明細書

Claims (19)

  1. ディジタル光学結像システムであって、
    前記ディジタル光学結像システムが、
    物体の光学的な像を生じさせる光学部品モジュール、及び、
    前記光学部品モジュールによって生じさせられた光学的な像を取得するように位置決めされた検出器モジュール
    を備えること、
    前記検出器モジュールがサンプリング周波数によって特徴付けられること、
    前記検出器モジュールが前記光学的な像の少なくとも二つの異なるカラーチャネルkを取得すること、
    各々のカラーチャネルがピーク波長λpkによって定義されたこと、
    前記カラーチャネルの全てが中心の波長λ=(min(λpk)+max(λpk))/2によって一緒に特徴付けられたこと、
    前記光学部品モジュールがD≧D及びD≧1.1Dによって特徴付けられること、
    =単色の及び波長λで収差の無いものである理想的な等価な光学モジュールが0.1よりも大きい前記サンプリング周波数でのMTFを有する範囲の(λの波の個数で測定された)被写界深度として定義された、単色の被写界深度、
    =前記光学モジュールが全てのλpkについて0.1よりも大きい前記サンプリング周波数でのMTFを有する範囲の(λの波の個数で測定された)被写界深度として定義された、広帯域の被写界深度、並びに、
    =前記光学モジュールが少なくとも一つのλpkについて0.1よりも大きい前記サンプリング周波数でのMTFを有する範囲の(λの波の個数で測定された)被写界深度として定義された、グレースケールモードの被写界深度
    であること
    を特徴とする、ディジタル光学結像システム。
  2. 請求項1に記載のディジタル光学結像システムであって、
    前記検出器に結合させられた画像処理モジュール
    をさらに備えると共に、
    前記画像処理モジュールが(a)全てのカラーチャネルについての深度に独立な画像処理及び(b)各々のカラーチャネルについての深度依存性の画像処理の両方が可能なものである、
    ディジタル光学結像システム。
  3. 請求項2に記載のディジタル光学結像システムにおいて、
    前記深度依存性の画像処理は、前記物体に対する深度を見積もること並びに深度依存性の前記見積もられた深度の及び前記カラーチャネルの関数であるシャープニングフィルターを適用することを含む、ディジタル光学結像システム。
  4. 請求項2又は3に記載のディジタル光学結像システムにおいて、
    前記深度に独立な画像処理は、さらに遠くにある物体へ適用されると共に、
    前記深度依存性の画像処理は、より近くにある物体へ適用される、
    ディジタル光学結像システム。
  5. 請求項2から4までのいずれかに記載のディジタル光学結像システムにおいて、
    前記深度に独立な画像処理は、より正のフォーカスのシフトを伴って結像させられる物体へ適用されると共に、
    前記深度依存性の画像処理は、より負のフォーカスのシフトを伴って結像させられる物体へ適用される、
    ディジタル光学結像システム。
  6. 請求項2から5までのいずれかに記載のディジタル光学結像システムにおいて、
    前記画像処理モジュールは、ユーザが(a)全てのカラーチャネルについての深度に独立な画像処理及び(b)各々のカラーチャネルについての深度依存性の画像処理の間で選択をすることを可能にする前記ユーザーの入力をさらに備える、ディジタル光学結像システム。
  7. 請求項2から6までのいずれかに記載のディジタル光学結像システムにおいて、
    前記画像処理モジュールは、(a)全てのカラーチャネルについての深度に独立な画像処理及び(b)各々のカラーチャネルについての深度依存性の画像処理の間で自動的に選択をするための決定モジュールをさらに備える、ディジタル光学結像システム。
  8. 請求項2から7までのいずれかに記載のディジタル光学結像システムにおいて、
    前記画像処理モジュールは、前記検出器モジュールによって取得された像の部分へ深度に独立な画像処理を適用すると共に上記像の異なる部分へ深度依存性の画像処理を適用する、ディジタル光学結像システム。
  9. 請求項1から8までのいずれかに記載のディジタル光学結像システムにおいて、
    前記検出器モジュールは、前記光学的な像の少なくとも三つの異なるカラーチャネルkを取得する、ディジタル光学結像システム。
  10. 請求項9に記載のディジタル光学結像システムにおいて、
    前記検出器モジュールは、前記光学的な像の赤色の、緑色の、及び青色のカラーチャネルを取得する、ディジタル光学結像システム。
  11. 請求項9又は10に記載のディジタル光学結像システムにおいて、
    前記検出器モジュールは、λp1=480nm、λp2=540nm、及びλp3=620nmを備えた、前記光学的な像の三つのカラーチャネルを取得する、ディジタル光学結像システム。
  12. 請求項1から11までのいずれかに記載のディジタル光学結像システムにおいて、
    MTF(λpk)は、フォーカスのシフトの関数として非対称的なものである、ディジタル光学結像システム。
  13. 請求項1から12までのいずれかに記載のディジタル光学結像システムにおいて、
    |dMTF(λ)/d(フォーカスのシフト)|は、前記広帯域の被写界深度の正のフォーカスのシフトのエッジにおけるよりも前記広帯域の被写界深度の負のフォーカスのシフトのエッジにおいて大きいものである、ディジタル光学結像システム。
  14. 請求項1から13までのいずれかに記載のディジタル光学結像システムにおいて、
    差異[max{MTF(λpk)}−min{MTF(λpk)}]は、前記広帯域の被写界深度の正のフォーカスのシフトのエッジにおけるよりも前記広帯域の被写界深度の負のフォーカスのシフトのエッジにおいて大きいものである、ディジタル光学結像システム。
  15. 請求項1から14までのいずれかに記載のディジタル光学結像システムにおいて、
    ≧1.2Dである、ディジタル光学結像システム。
  16. 請求項15に記載のディジタル光学結像システムにおいて、
    ≧1.5Dである、ディジタル光学結像システム。
  17. 請求項1から16までのいずれかに記載のディジタル光学結像システムにおいて、
    ≧1.25Dである、ディジタル光学結像システム。
  18. 請求項1から17までのいずれかに記載のディジタル光学結像システムにおいて、
    前記光学モジュールは、正の球面収差及び軸上の色収差によって特徴付けられる、ディジタル光学結像システム。
  19. ディジタル光学結像システムであって、
    前記ディジタル光学結像システムが、物体の光学的な像を生じさせる光学部品モジュールを備えること、
    前記ディジタル光学結像システムが、前記光学部品モジュールによって生じさせられた光学的な像を取得するように位置決めされた検出器モジュールを備えること、
    前記検出器モジュールが、前記光学的な像の少なくとも二つの異なるカラーチャネルkを取得すること、並びに、
    前記ディジタル光学結像システムが、前記検出器モジュールへ結合させられた画像処理モジュールを備えること、
    前記画像処理モジュールが、
    全てのカラーチャネルへ深度に独立な画像処理を適用する深度に独立な画像処理モジュール、及び、
    各々のカラーチャネルへ個々に深度依存性の画像処理を適用する深度依存性の画像処理モジュール
    を備えること
    を特徴とする、ディジタル光学結像システム。
JP2010219800A 2009-09-30 2010-09-29 二重モードの拡張された被写界深度の結像システム Expired - Fee Related JP5640612B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US12/571,019 2009-09-30
US12/571,019 US8248511B2 (en) 2009-09-30 2009-09-30 Dual-mode extended depth-of-field imaging systems

Publications (2)

Publication Number Publication Date
JP2011078097A true JP2011078097A (ja) 2011-04-14
JP5640612B2 JP5640612B2 (ja) 2014-12-17

Family

ID=43779939

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010219800A Expired - Fee Related JP5640612B2 (ja) 2009-09-30 2010-09-29 二重モードの拡張された被写界深度の結像システム

Country Status (2)

Country Link
US (1) US8248511B2 (ja)
JP (1) JP5640612B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2919056A1 (en) 2014-03-14 2015-09-16 Ricoh Company, Ltd. Imaging system with an extended depth of field

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8633969B2 (en) 2011-02-09 2014-01-21 Omnivision Technologies, Inc. Apparatus and method for three-dimensional image capture with extended depth of field
US8949078B2 (en) 2011-03-04 2015-02-03 Ricoh Co., Ltd. Filter modules for aperture-coded, multiplexed imaging systems
TWI510056B (zh) * 2011-12-27 2015-11-21 Hon Hai Prec Ind Co Ltd 3d成像模組及3d成像方法
TWI551113B (zh) * 2011-12-27 2016-09-21 鴻海精密工業股份有限公司 3d成像模組及3d成像方法
WO2013108074A1 (en) 2012-01-17 2013-07-25 Nokia Corporation Focusing control method using colour channel analysis
DE102012106584B4 (de) * 2012-07-20 2021-01-07 Carl Zeiss Ag Verfahren und Vorrichtung zur Bildrekonstruktion
US9219866B2 (en) 2013-01-07 2015-12-22 Ricoh Co., Ltd. Dynamic adjustment of multimode lightfield imaging system using exposure condition and filter position
US9030580B2 (en) 2013-09-28 2015-05-12 Ricoh Company, Ltd. Color filter modules for plenoptic XYZ imaging systems

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004534490A (ja) * 2001-07-12 2004-11-11 ドゥ ラブズ デジタル画像から変換された画像を計算するための方法およびシステム
JP2009017544A (ja) * 2007-06-07 2009-01-22 Toshiba Corp 撮像装置
JP2009140496A (ja) * 2007-12-03 2009-06-25 Ricoh Co Ltd 電光カラー画像処理システム及びレンズシステム

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5307175A (en) * 1992-03-27 1994-04-26 Xerox Corporation Optical image defocus correction
US5359185A (en) 1992-05-11 1994-10-25 Norand Corporation Chromatic ranging method and apparatus for reading optically readable information over a substantial range of distances
US5770847A (en) 1994-12-23 1998-06-23 Spectra-Physics Scanning Systems, Inc. Bar code reader with multi-focus lens
KR19980702008A (ko) 1995-02-03 1998-07-15 마이클 지. 가브리지 광학 시스템의 필드 심도를 증가시키기 위한 방법 및 장치
JP3777906B2 (ja) * 1999-09-29 2006-05-24 コニカミノルタビジネステクノロジーズ株式会社 画像処理装置
US7336430B2 (en) 2004-09-03 2008-02-26 Micron Technology, Inc. Extended depth of field using a multi-focal length lens with a controlled range of spherical aberration and a centrally obscured aperture
US7224540B2 (en) 2005-01-31 2007-05-29 Datalogic Scanning, Inc. Extended depth of field imaging system using chromatic aberration
US7683950B2 (en) * 2005-04-26 2010-03-23 Eastman Kodak Company Method and apparatus for correcting a channel dependent color aberration in a digital image
JP4749985B2 (ja) * 2006-09-28 2011-08-17 京セラ株式会社 撮像装置、並びにその製造装置および製造方法
EP1978394A1 (en) * 2007-04-06 2008-10-08 Global Bionic Optics Pty Ltd. Optical system for increasing depth of field
US7792357B2 (en) * 2007-05-30 2010-09-07 Microsoft Corporation Chromatic aberration correction
EP2096483A1 (en) * 2008-02-29 2009-09-02 Global Bionic Optics Pty Ltd. Single-lens extended depth-of-field imaging systems

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004534490A (ja) * 2001-07-12 2004-11-11 ドゥ ラブズ デジタル画像から変換された画像を計算するための方法およびシステム
JP2009017544A (ja) * 2007-06-07 2009-01-22 Toshiba Corp 撮像装置
JP2009140496A (ja) * 2007-12-03 2009-06-25 Ricoh Co Ltd 電光カラー画像処理システム及びレンズシステム

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2919056A1 (en) 2014-03-14 2015-09-16 Ricoh Company, Ltd. Imaging system with an extended depth of field
US9507986B2 (en) 2014-03-14 2016-11-29 Ricoh Company, Ltd. Imaging system

Also Published As

Publication number Publication date
US8248511B2 (en) 2012-08-21
JP5640612B2 (ja) 2014-12-17
US20110074988A1 (en) 2011-03-31

Similar Documents

Publication Publication Date Title
JP5640612B2 (ja) 二重モードの拡張された被写界深度の結像システム
US8830351B2 (en) Image processing method and image processing apparatus for image restoration to reduce a detected color shift
KR102363030B1 (ko) 광학 시스템 수차들의 디지털 보정
JP5188651B2 (ja) 画像処理装置、およびそれを用いた撮像装置
JP5284537B2 (ja) 画像処理装置、画像処理方法、画像処理プログラム、およびそれを用いた撮像装置
JP4377404B2 (ja) 画像向上機能を備えたカメラ
JP5198192B2 (ja) 映像復元装置および方法
JP5251462B2 (ja) 画像処理システム
US20060093234A1 (en) Reduction of blur in multi-channel images
US20140028839A1 (en) Image processing method, storage medium, image processing apparatus and image pickup apparatus
WO2011121760A9 (ja) 画像処理装置、およびそれを用いた撮像装置
US8228401B2 (en) Image capturing and correction apparatus, image capturing and correction method, and medium storing a program
CN107077722A (zh) 图像捕获装置及图像捕获方法
JP2011215707A (ja) 画像処理装置、撮像装置、画像処理方法およびプログラム
US8675093B2 (en) Image capturing apparatus and image processing method
US20190057494A1 (en) Image processing method, image processing apparatus, imaging apparatus, and medium
CN106993111B (zh) 摄像装置、摄像方法及记录介质
Wang et al. The influence of chromatic aberration on demosaicking
JP6436840B2 (ja) 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体
JP6486076B2 (ja) 画像処理装置および画像処理方法
JP2017118293A (ja) 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体
Konevsky Method of Correction of Longitudinal Chromatic Aberrations
JP2017126952A (ja) 画像処理装置、撮像装置および画像処理プログラム
JP6604737B2 (ja) 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体
JP6452389B2 (ja) 画像処理装置および画像処理方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20130813

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140408

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140606

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140930

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20141013

R151 Written notification of patent or utility model registration

Ref document number: 5640612

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees