JP2007181193A - 撮像装置およびその方法 - Google Patents

撮像装置およびその方法 Download PDF

Info

Publication number
JP2007181193A
JP2007181193A JP2006321756A JP2006321756A JP2007181193A JP 2007181193 A JP2007181193 A JP 2007181193A JP 2006321756 A JP2006321756 A JP 2006321756A JP 2006321756 A JP2006321756 A JP 2006321756A JP 2007181193 A JP2007181193 A JP 2007181193A
Authority
JP
Japan
Prior art keywords
image
signal
optical system
unit
imaging
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2006321756A
Other languages
English (en)
Other versions
JP4916853B2 (ja
Inventor
Yoichi Miyauchi
洋一 宮内
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Kyocera Corp
Original Assignee
Kyocera Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Kyocera Corp filed Critical Kyocera Corp
Priority to JP2006321756A priority Critical patent/JP4916853B2/ja
Publication of JP2007181193A publication Critical patent/JP2007181193A/ja
Application granted granted Critical
Publication of JP4916853B2 publication Critical patent/JP4916853B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02PCLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
    • Y02P20/00Technologies relating to chemical industry
    • Y02P20/50Improvements relating to the production of bulk chemicals
    • Y02P20/52Improvements relating to the production of bulk chemicals using catalysts, e.g. selective catalysts

Landscapes

  • Studio Devices (AREA)
  • Image Processing (AREA)
  • Color Television Image Signal Generators (AREA)
  • Facsimile Image Signal Circuits (AREA)

Abstract

【課題】高フレームレートを保持しつつ、高価なぼけ復元処理ハードウェアを必要とすることなく、光学系を簡単化でき、コスト低減を図ることができ、しかもノイズの影響が小さい復元画像を得ることが可能な撮像装置およびその方法を提供する。
【解決手段】スルー画の時は画像処理装置150のボケ復元処理を切替部140でパスしてカメラ信号処理部160のカメラ信号処理を行い、キャプチャ時のみ画像処理装置150でボケ復元処理を行った後、カメラ信号処理部160でカメラ信号処理を行って画像を表示する。
【選択図】図1

Description

本発明は、撮像素子を用い、光学系を有したデジタルスチルカメラや携帯電話搭載カメラ、携帯情報端末搭載カメラ、画像検査装置、自動制御用産業カメラ等の撮像装置およびその方法に関するものである。
近年急峻に発展を遂げている情報のデジタル化に相俟って映像分野においてもその対応が著しい。
特に、デジタルカメラに象徴されるように撮像面は従来のフィルムに変わって固体撮像素子であるCCD(Charge Coupled Device),CMOS(Complementary Metal Oxide Semiconductor)センサが使用されているのが大半である。
このように、撮像素子にCCDやCMOSセンサを使った撮像レンズ装置は、被写体の映像を光学系により光学的に取り込んで、撮像素子により電気信号として抽出するものであり、デジタルスチルカメラの他、ビデオカメラ、デジタルビデオユニット、パーソナルコンピュータ、携帯電話機、携帯情報端末(PDA:Personal DigitalAssistant)、画像検査装置、自動制御用産業カメラ等に用いられている。
図35は、一般的な撮像レンズ装置の構成および光束状態を模式的に示す図である。
この撮像レンズ装置1は、光学系2とCCDやCMOSセンサ等の撮像素子3とを有する。
光学系は、物体側レンズ21,22、絞り23、および結像レンズ24を物体側(OBJS)から撮像素子3側に向かって順に配置されている。
撮像レンズ装置1においては、図35に示すように、ベストフォーカス面を撮像素子面上に合致させている。
図36(A)〜(C)は、撮像レンズ装置1の撮像素子3の受光面でのスポット像を示している。
また、位相板(Wavefront Coding optical element)により光束を規則的に分散し、デジタル処理により復元させ被写界深度の深い画像撮影を可能にする等の撮像装置が提案されている(たとえば非特許文献1,2、特許文献1〜5参照)。
また、伝達関数を用いたフィルタ処理を行うデジタルカメラの自動露出制御システムが提案されている(たとえば特許文献6参照)。
"Wavefront Coding;jointly optimized optical and digital imaging systems",Edward R.Dowski,Jr.,Robert H.Cormack,Scott D.Sarama. "Wavefront Coding;A modern method of achieving high performance and/or low cost imaging systems",Edward R.Dowski,Jr.,Gregory E.Johnson. USP6,021,005 USP6,642,504 USP6,525,302 USP6,069,738 特開2003−235794号公報 特開2004−153497号公報
上述した各文献にて提案された撮像装置においては、その全ては通常光学系に上述の位相板を挿入した場合のPSF(Point−Spread−Function)が一定になっていることが前提であり、PSFが変化した場合は、その後のカーネルを用いたコンボリューションにより、被写界深度の深い画像を実現することは極めて難しい。
したがって、単焦点でのレンズではともかく、ズーム系やAF系などのレンズでは、その光学設計の精度の高さやそれに伴うコストアップが原因となり採用するには大きな問題を抱えている。
換言すれば、従来の撮像装置においては、適正なコンボリューション演算を行うことができず、ワイド(Wide)時やテレ(Tele)時のスポット(SPOT)像のズレを引き起こす非点収差、コマ収差、ズーム色収差等の各収差を無くす光学設計が要求される。
しかしながら、これらの収差を無くす光学設計は光学設計の難易度を増し、設計工数の増大、コスト増大、レンズの大型化の問題を引き起こす。
また、上述した各文献に開示された装置においては、たとえば暗所における撮影で、信号処理によって画像を復元する際、ノイズも同時に増幅してしまう。
したがって、たとえば上述した位相板等の光波面変調素子とその後の信号処理を用いるような、光学系と信号処理を含めた光学システムでは、暗所での撮影を行う場合、ノイズが増幅してしまい、復元画像に影響を与えてしまうという不利益がある。
また、被写界深度を深くするためのF値(絞り)を絞る方法は、絞り機構が必要であったり、絞ることによりレンズが暗くなり、輝度に対してダイナミックレンジが取れなかったり、シャッタースピードが低下して手振れ、被写体振れを起こしやすいといった不利益がある。
また、画像処理によってピントずれ(ぼけ)復元処理を行う方法はその処理が非常に重いため、スルー画中も常にぼけ復元を行うためには必要なリソースは大規模になり高価なハードウェアが必要になる。あるいはその処理能力に応じてフレームレートが上げられないといった制約が発生し、かなりフレームレートを低下させた場合はシャッタータイミングを逃すおそれも生ずる。
本発明の目的は、高フレームレートを保持しつつ、高価なぼけ復元処理ハードウェアを必要とすることなく、光学系を簡単化でき、コスト低減を図ることができ、しかもノイズの影響が小さい復元画像を得ることが可能な撮像装置およびその方法を提供することにある。
本発明の観点の第1の観点の撮像装置は、合焦位置およびその前後の距離において焦点のボケ量が略一定となるように形成された光学系と、前記光学系を通過した被写体像を撮像する撮像素子と、前記撮像素子からの画像の焦点のボケを補正して復元した画像信号を生成する変換手段と、画像信号に所定の画像処理を行う信号処理手段と、前記撮像素子による画像信号または前記変換手段による画像信号を選択的に前記信号処理手段に入力する切替手段と、前記信号処理手段の処理画像を記録する記録手段と、画像記録を指示するトリガ信号を生成するトリガ信号生成手段と、前記信号処理手段の処理画像を表示する画像モニタ手段と、スルー画中は前記切替手段を通して前記撮像素子による画像信号を前記信号処理手段に入力させ、前記トリガ信号生成手段によるトリガ信号を受けると前記変換手段による画像信号を前記信号処理手段に入力させる制御手段とを有する。
好適には、前記焦点のボケ量は前記画像モニタ手段の分解能を上限として設定されている。
好適には、前記画像モニタ手段の分解能は、当該画像モニタ手段の画素ピッチの2倍以下に設定されている。
好適には、前記制御手段は、前記トリガ信号を受けてキャプチャした画像に対しては、前記変換手段で復元した後、前記信号処理手段で処理した後の画像を前記画像モニタ手段に表示させる。
好適には、前記制御手段は、前記スルー画表示中は前記画像モニタ手段の分解能で必要十分な分解能をもった画像を前記撮像素子から出力させる。
好適には、前記光学系またはその近傍に絞りを有し、前記制御手段は、スルー画表示の際に前記絞りを絞るように制御する。
好適には、前記光学系に光波面変調素子を含み、前記制御手段は、光波面変調素子の変調面の影響を排除し得る部分まで前記絞りを絞るように制御する。
好適には、前記光学系は、光波面変調素子およびズーム光学系を含み、前記ズーム光学系のズーム位置またズーム量に相当する情報を生成するズーム情報生成手段を有し、前記変換手段は、前記ズーム情報生成手段により生成される情報に基づいて分散画像信号より分散のない画像信号を生成する。
好適には、被写体までの距離に相当する情報を生成する被写体距離情報生成手段を有し、前記変換手段は、前記被写体距離情報生成手段により生成される情報に基づいて分散画像信号より分散のない画像信号を生成する。
好適には、被写体までの距離に相当する情報を生成する被写体距離情報生成手段と、前記被写体距離情報生成手段により生成された情報に基づき変換係数を演算する変換係数演算手段と、を有し、前記変換手段は、前記変換係数演算手段から得られた変換係数によって、画像信号の変換を行い分散のない画像信号を生成する。
好適には、撮影する被写体の撮影モードを設定する撮影モード設定手段を有し、前記変換手段は、前記撮影モード設定手段により設定された撮影モードに応じて異なる変換処理を行う。
好適には、前記撮像装置は、複数のレンズを交換可能であって、前記撮像素子は、前記複数のレンズの内少なくともーのレンズおよび光波面変調素子を通過した被写体収差像を撮像可能で、さらに、前記一のレンズに応じた変換係数を取得する変換係数取得手段を有し、前記変換手段は、前記変換係数取得手段から得られた変換係数によって、画像信号の変換を行う。
好適には、露出制御を行う露出制御手段を有し、前記信号処理手段は、前記露出制御手段からの露出情報に応じて光学的伝達関数(OTF)に対してフィルタ処理を行う。
本発明の第2の観点の撮像方法は、合焦位置およびその前後の距離において焦点のボケ量が略一定となるように形成された光学系を通過した被写体像を撮像素子により撮像し、スルー画中は、前記撮像素子による画像信号に対して所定の画像処理を行い、画像記録を指示するトリガ信号を受けると、前記撮像素子からの画像の焦点のボケを補正して復元し、復元した画像信号に対して前記所定の画像処理を行う。
本発明によれば、高フレームレートを保持しつつ、高価なぼけ復元処理ハードウェアを必要とすることなく、光学系を簡単化でき、コスト低減を図ることができ、しかもノイズの影響が小さい復元画像を得ることができる利点がある。
以下、本発明の実施形態を添付図面に関連付けて説明する。
図1は、本発明に係る撮像装置の一実施形態を示すブロック構成図である。
本実施形態に係る撮像装置100は、光学系110、撮像素子120、アナログフロントエンド部(AFE)130、切替部140、変換手段としての画像処理装置150、カメラ信号処理部160、画像表示メモリ170、画像モニタリング装置180、操作部190、および制御手段としての露出制御装置200を有している。
光学系110は、被写体物体OBJを撮影した像を撮像素子120に供給する。
本実施形態の光学系110は、後述するように、光波面変調素子を含み、合焦位置およびその前後の距離において焦点のボケ量が略一定となるように形成されている。
この焦点のボケ量は画像モニタリング装置180の分解能を上限として設定されている。
また、光学系110は、可変絞り110aが配置されている。この可変絞り110aは、たとえばスルー画表示の際に絞るように制御される。より具体的には、露出制御装置200の制御の下、スルー画表示の際に、光学系110に含まれる光波面変調素子の変調面の変調作用の影響を排除し得る部分まで絞るようにされる。
なお、本実施形態では、可変絞り110aを光学系110内に配置したが、光学系110の被写体側の近傍に配置しても良い。
撮像素子120は、光学系110で取り込んだ像が結像され、結像1次画像情報を電気信号の1次画像信号FIMとして、アナログフロントエンド部130を介して切替部140に出力するCCDやCMOSセンサからなる。
図1においては、撮像素子120を一例としてCCDとして記載している。
アナログフロントエンド部130は、タイミングジェネレータ131、アナログ/デジタル(A/D)コンバータ132と、を有する。
タイミングジェネレータ131では、撮像素子120のCCDの駆動タイミングを生成しており、A/Dコンバータ132は、CCDから入力されるアナログ信号をデジタル信号に変換し、切替部140に出力する。
切替部140は、露出制御装置200による切替制御信号SCTLに応じてAFE130を介した撮像素子120の撮像画像信号を画像処理装置150またはカメラ信号処理部160に選択的に入力する。
切替部140において、固定接点aがAFE130のA/Dコンバータ132の出力ラインに接続され、作動接点bが画像処理装置150の入力ラインに接続され、作動接点cがカメラ信号処理部160の信号入力ラインに接続されている。
切替部140は、たとえばスルー画を画像モニタリング装置180に表示しているときは、スルー画中として固定接点aが作動接点cに接続するように制御される。一方、画像をキャプチャしてメモリ170に画像を記録するときは、固定接点aが作動接点bに接続されるように制御される。
変換手段として機能する画像処理装置(二次元コンボリューション手段)150は、前段のAFE130からくる撮像画像のデジタル信号を入力し、二次元のコンボリューション処理を施し、後段のカメラ信号処理部(DSP)160に渡す。
画像処理装置150、露出制御装置200の露出情報に応じて、光学的伝達関数(OTF)に対してフィルタ処理を行う。なお、露出情報として絞り情報を含む。
画像処理装置150は、撮像素子120からの画像の焦点のボケを補正して復元した画像信号を生成する。より具体的には、画像処理装置150は、撮像素子120からの被写体分散画像信号より分散のない画像信号を生成する機能を有する。また、画像処理装置150は、最初のステップ(処理)でノイズ低減フィルタリングを施す機能を有する。
画像処理装置150の処理については後でさらに詳述する。
カメラ信号処理部(DSP)160は、カラー補間、ホワイトバランス、YCbCr変換処理、圧縮、ファイリング等の所定の画像処理を行い、メモリ170への格納や画像モニタリング装置180への画像表示等を行う。
画像モニタリング装置180は、たとえば液晶表示装置により形成され、カメラ信号処理部160により所定の画像処理を受けたスルー画やキャプチャ画像を表示する。
画像モニタリング装置180の分解能は、たとえば画像モニタリング装置180の画素ピッチの2倍以下に設定されている。
メモリ170は、カメラ信号処理部160で所定の画像処理を受けたキャプチャ画像等が記録される。
操作部190は、露出制御装置200に対して所定の機能制御を行うように指示する入力スイッチ等により構成される。操作部190は、たとえばシャッタボタン、レリーズボタン、拡大ボタン、移動キー上、移動キー下、移動キー右、移動キー左、等の各スイッチを含む。
操作部190は、たとえばユーザによりシャッタボタンあるいはレリーズボタンが操作されると、所望のスルー画部分をキャプチャし、メモリ170に記録することを指示するトリガ信号を生成し露出制御装置200に出力するトリガ信号生成機能を有する。
露出制御装置200は、露出制御を行うとともに、操作部190などの操作入力を持ち、それらの入力に応じて、システム全体の動作を決定し、AFE130、画像処理装置150、DSP160等を制御し、システム全体の調停制御を司るものである。
露出制御装置200は、スルー画中は、切替制御信号CTLにより切替部140の固定接点aと作動接点cとを接続させて、復元処理がされていない撮像素子120の撮像画像信号をカメラ信号処理部160の直接入力させる。
一方、露出制御装置200は、操作部190によりトリガ信号を受けると、画像をキャプチャしてメモリ170に画像を記録するモードであると判断し、切替制御信号SCTLにより切替部140の固定接点aと作動接点bとを接続させて、復元処理を施すべく画像処理装置150に入力させる。
すなわち、露出制御装置200は、トリガ信号を受けてキャプチャした画像に対しては、画像処理装置150で復元処理した後、カメラ信号処理部160で所定の画像処理を施した後の画像を画像モニタリング装置180に表示させる。
また、露出制御装置200は、たとえばカメラ信号処理部160を通して、画像モニタリング装置180にスルー画を表示中は画像モニタリング装置180の分解能で必要十分な分可能をもった画像を撮像素子120から出力させるようにタイミングジェネレータ131に指示を出す。
また、露出制御装置200は、スルー画表示の際には、制御信号S200により絞り110aを絞るように制御する。より具体的には、露出制御装置200は、制御信号S200により、スルー画表示の際に位相面の影響を排除し得る部分まで絞り110aを絞るように制御する。
このように、露出制御装置200が、スルー画表示の際には、制御信号S200により絞り110aを絞るように制御することにより、スルー画表示時に位相面の影響を受けないため、ある程度はボケないような画像を表示できるようになる。
なお、絞り110aを絞ると画面表示が暗くなるが、画像モニタリング装置180の画面表示用の信号のゲインを上げることで、明るさの問題は解消することが可能である。
以下に、本実施形態の光学系の基本的な機能およびボケ画像復元の有無に応じた基本的な処理について説明した後、本実施形態の特徴である光学系110と変換手段として機能する画像処理装置150のさらに具体的な構成および機能について具体的に説明する。
ここでは、ベストフォーカス(焦点)位置で光線が集中する一般的な結像光学系を比較例として挙げる。
図2は、一般的な結像光学系の光線高さとデフォーカスとの関係を示す図である。
また、図3は、本実施形態の光学系の結像付近の光学特性を示す図である。
図2に示すように、一般的な結像光学系においては、ベストフォーカスの位置では光線が最も密に集中し、ベストフォーカス位置から離れていくとそのデフォーカス量にほぼ比例してボケ径が広がる。
これに対し、本実施形態の光学系110は、図3に示すように、一般的な結像系光学系と異なり、ベストフォーカスの位置で光線が集中しないため、ベストフォーカス位置であってもボケている。しかしながら、本実施形態の光学系110は、このベストフォーカス近傍では、デフォーカス量に対してボケの形(PSF)の変化が鈍感になるように設計されている。
したがって、ベストフォーカス位置のPSFに応じたボケ復元処理を行えば、ベストフォーカス点はもちろんその前後もボケを除去し鮮明な画像を得ることができる。
これが本実施形態で採用している深度拡大の原理である。
次に、ボケ画像復元処理について説明する。
図4は、一般的な光学系のベストフォーカス(BestForcus)位置でのMTF(Modulation Transfer Function:振幅伝達関数)特性図である。
図5は、本実施形態の光学系のMTF特性を示す図である。
本実施形態の光学系110を通過して撮像素子120で得られた撮像画像はボケているため中域〜高域にかけてMTFが低下している。このMTFを演算によって上昇させる。レンズ単体の振幅特性であるMTFに対し、画像処理を含めたトータルの振幅特性はSFR(Spatial Frequency Response)と呼ばれている。
ボケ画像を発生させるPSFの周波数特性がMTFであるので、これから所望のSFR特性まで引き上げるゲイン特性に設計してできたものがボケ復元フィルタである。どの程度のゲインにするかはノイズや偽像とのバランスで決めていく。
このボケ復元フィルタを元画像にデジタルフィルタリングする方法は、画像をフーリエ変換し周波数領域でフィルタと周波数毎に積を取る方法と、空間領域でコンボリューション(Convolution)演算(畳み込み演算)を行なう方法がある。ここでは後者での実現方法を説明する。コンボリューション演算は下記の式で表される。
Figure 2007181193
ただし、fはフィルタ(filter)カーネルを示している(ここでは計算を容易にするために180度回転済みのものを使用している)。
また、Aは元画像、Bはフィルタリングされた画像(ボケ復元画像)を示している。
この式から分かる通り、fを画像に重ねて各タップ同士の積和した結果をその重ねた中心座標の値とすることである。
次に、図6(A)〜(C)に関連付けて3*3のフィルタを例に挙げ具体的に説明する。
図6(A)の復元フィルタ(既に180度回転済み)を図6(B)に示すボケ画像のA(i,j)上にフィルタの中心f(0,0)を重ね、各タップ同士の積をとりこの9個の総和値を図6(C)に示すボケ復元画像のB(i,j)とする。
(i,j)を画像全体に渡ってスキャンすると新たなB画像が生成される。これがデジタルフィルタである。ここではフィルタがボケ復元目的であるので、この処理を行なうことでボケ復元処理を実施することができる。
理論的、技術的には、この処理を常時適用して、スルー画表示中においてもボケ復元処理を施した画像を表示させることは可能である。
しかしながら、このコンボリューション演算を、たとえば30fpsなどの高いレートを維持したままリアルタイムで処理しようとすれば、フィルタサイズに応じたラインバッファや非常にたくさんの乗算器が必要となり、高コストで大きな消費電力が発生しあまり現実的でない。
そこで、本実施形態においては、スルー画中など必要でない期間はコンボリューション演算を実行せず、キャプチャ実行のトリガが入力された時のみコンボリューション演算を施すようにしている。
本実施形態においては、光学系110を通して像は撮像素子120によって光電変換され、AFE130で変換されてデジタル画像データを生成する。
そして、スルー画中は、撮像素子120による画像信号は、切替部140により画像処理装置150のボケ画像復元処理をパスしてカメラ信号処理部160に送られる。
カメラ信号処理部160においては、たとえばBayerカラーの場合、デモザイク処理、ホワイトバランス処理、ガンマ変換、YUV変換等を行いモニタにリアルタイムで画像を出力する。
次に、たとえば操作部190のレリーズボタン等が操作されてトリガ信号が露出制御装置200に入力されると、撮像素子120、AFE130からのデジタルデータを切替部140により画像処理装置150に入力して前述のボケ画像復元処理にかけてその出力をカメラ信号処理部160でカメラ信号処理を施す。カメラ信号処理が施されたが像は、メモリ170に記録されたり、画像モニタリング装置180に表示されたりする。
ここで拡大ボタンが押下されればキャプチャ画を拡大してモニタに映し出したり、その状態で移動キーの操作によって拡大部分の位置を変えることもできる。
また、本実施形態においては、前記PSFのボケ幅は、画像モニタリング装置180の分解能を上限として設定していることから、スルー画表示中は処理を軽くするため、上述したボケ復元処理を実施しないようにしても、ボケが目立たないようなモニタ表示が可能となる。
さらに、本実施形態においては、ボケ幅の大きさを画像モニタリング装置180の画素ピッチの2倍程度以下に設定してあることから、スルー画中のライブ画像は実質的にボケてはいない。
画像ピッチの2倍程度以下として表示が実質的にボケないのは、一般的にモニタ装置でカラー表示を行う場合、光の3原色であるR,G,Bを1画素ずつに割り当て、最低でもこの3画素を1ユニットとしてカラー表示が行われることに起因する。
図7(A)〜(D)に示すように、画素の配列には、ストライプ配列、ダイアゴナル配列、デルタ配列、レクタリング配列といった複数の手法があるが、いずれの手法も最低でも正方が画素の2×2のサイズを最小ユニットとして構成されている。
よって、モニタ表示画像の分解能としては画素ピッチの2倍以下であれば実質的に問題のないレベルであるといえる。
また、本実施形態においては、ボケ画像を画像処理装置150で復元処理し、カメラ信号処理部160でカメラ信号処理が終わったところで自動的に画像モニタリング装置180にボケ復元画像を出力するようにしたので、ボケ復元処理にある程度時間がかかっても処理終了と同時に見ることができ、撮影者が復元処理を実行させるための特別な操作を行う必要はない。
また、本実施形態においては、スルー画中は画像モニタリング装置180の分解能で必要十分な小さいサイズの画像を撮像素子120ボケ変換手段としての画像処理装置150を通さずにカメラ信号処理を行って画像モニタリング装置180に出力するようにしたので、画像処理に負担がかからずリアルタイムで高速な処理が可能となる。
以下、本実施形態の光学系、画像処理装置の構成および機能についてさらに具体的には説明する。
図8は、本実施形態に係るズーム光学系110の構成例を模式的に示す図である。この図は広角側を示している。
また、図9は、本実施形態に係る撮像レンズ装置の望遠側のズーム光学系の構成例を模式的に示す図である。
そして、図10は、本実施形態に係るズーム光学系の広角側の像高中心のスポット形状を示す図であり、図11は、本実施形態に係るズーム光学系の望遠側の像高中心のスポット形状を示す図である。
図8および図9のズーム光学系110は、物体側OBJSに配置された物体側レンズ111と、撮像素子120に結像させるための結像レンズ112と、物体側レンズ111と結像レンズ112間に配置され、結像レンズ112による撮像素子120の受光面への結像の波面を変形させる、たとえば3次元的曲面を有する位相板(Cubic Phase Plate)からなる光波面変調素子(波面形成用光学素子:Wavefront Coding Optical Element)群113を有する。また、物体側レンズ111と結像レンズ112間には図示しない絞りが配置される。
たとえば、本実施形態においては、可変絞りが設けられ、露出制御(装置)において可変絞りの絞り度(開口度)を制御する。
なお、本実施形態においては、位相板を用いた場合について説明したが、本発明の光波面変調素子としては、波面を変形させるものであればどのようなものでもよく、厚みが変化する光学素子(たとえば、上述の3次の位相板)、屈折率が変化する光学素子(たとえば屈折率分布型波面変調レンズ)、レンズ表面へのコーディングにより厚み、屈折率が変化する光学素子(たとえば、波面変調ハイブリッドレンズ)、光の位相分布を変調可能な液晶素子(たとえば、液晶空間位相変調素子)等の光波面変調素子であればよい。
図8および図9のズーム光学系110は、デジタルカメラに用いられる3倍ズームに光学位相板113aを挿入した例である。
図で示された位相板113aは、光学系により収束される光束を規則正しく分散する光学レンズである。この位相板を挿入することにより、撮像素子120上ではピントのどこにも合わない画像を実現する。
換言すれば、位相板113aによって深度の深い光束(像形成の中心的役割を成す)とフレアー(ボケ部分)を形成している。
この規則的に分散した画像をデジタル処理により、ピントの合った画像に復元する手段を波面収差制御光学系システム、あるいは深度拡張光学系システム(DEOS:Depth Expantion Optical system)といい、この処理を画像処理装置150において行う。
ここで、DEOSの基本原理について説明する。
図12に示すように、被写体の画像fがDEOS光学系Hに入ることにより、g画像が生成される。
これは、次のような式で表される。
(数2)
g=H*f
ただし、*はコンボリューションを表す。
生成された画像から被写体を求めるためには、次の処理を要する。
(数3)
f=H-1*g
ここで、Hに関するカーネルサイズと演算係数について説明する。
ズームポジションをZPn,ZPn−1・・・とする。また、それぞれのH関数をHn,Hn−1、・・・・とする。
各々のスポット像が異なるため、各々のH関数は、次のようになる。
Figure 2007181193
この行列の行数および/または列数の違いをカーネルサイズ、各々の数字を演算係数とする。
ここで、各々のH関数はメモリに格納しておいても構わないし、PSFを物体距離の関数としておき、物体距離によって計算し、H関数を算出することによって任意の物体距離に対して最適なフィルタを作るように設定できるようにしても構わない。また、H関数を物体距離の関数として、物体距離によってH関数を直接求めても構わない。
本実施形態においては、図1に示すように、光学系110からの像を撮像素子120で受像して、画像処理装置150に入力させ、光学系に応じた変換係数を取得して、取得した変換係数をもって撮像素子120からの分散画像信号より分散のない画像信号を生成するように構成している。
なお、本実施形態において、分散とは、上述したように、位相板113aを挿入することにより、撮像素子120上ではピントのどこにも合わない画像を形成し、位相板113aによって深度の深い光束(像形成の中心的役割を成す)とフレアー(ボケ部分)を形成する現象をいい、像が分散してボケ部分を形成する振る舞いから収差と同様の意味合いが含まれる。したがって、本実施形態においては、収差として説明する場合もある。
また、図13は、本実施形態の光波面変調素子を含む光学系の光軸をz軸とし、互いに直交する2軸をx、yとしたとき、下記式で表される波面収差の形状である。
Figure 2007181193
波面収差が0.5λ以下の範囲では位相の変化が小さく、通常の光学系と変わらないOTFを持つ。したがってスルー画表示時に波面収差が0.5λ程度になるまで絞るように制御すれば良い。
図14は、前記波面収差の形状と0.5λ以下の範囲を太線で表したものである。
ただし、λはたとえば可視光領域、赤外領域の波長を用いる。
なお、図13に示す形状は、一例であって、光波面変調素子が、光学系の光軸をz軸とし、互いに直交する2軸をx、yとしたとき、位相が下記式で表されるものであれば適用可能である。
Figure 2007181193
画像処理装置140は、上述したように、撮像素子120による1次画像FIMを受けて、1次画像の空間周波数におけるMTFをいわゆる持ち上げる所定の補正処理等を施して高精細な最終画像FNLIMを形成する。
次に、画像処理装置150の構成および処理について説明する。
画像処理装置150は、図1に示すように、生(RAW)バッファメモリ151、コンボリューション演算器152、記憶手段としてのカーネルデータ格納ROM153、およびコンボリューション制御部154を有する。
コンボリューション制御部154は、コンボリューション処理のオンオフ、画面サイズ、カーネルデータの入れ替え等の制御を行い、露出制御装置200により制御される。
また、カーネルデータ格納ROM153には、図15または図16に示すように予め用意されたそれぞれの光学系のPSFにより算出されたコンボリューション用のカーネルデータが格納されており、露出制御装置200によって露出設定時に決まる露出情報を取得し、コンボリューション制御部154を通じてカーネルデータを選択制御する。
なお、露出情報には、絞り情報が含まれる。
図15の例では、カーネルデータAは光学倍率(×1.5)、カーネルデータBは光学倍率(×5)、カーネルデータCは光学倍率(×10)に対応したデータとなっている。
また、図16の例では、カーネルデータAは絞り情報としてのFナンバ(2.8)、カーネルデータBはFナンバ(4)、カーネルデータCはFナンバ(5.6)に対応したデータとなっている。
図16の例のように、絞り情報に応じたフィルタ処理を行うのは以下の理由による。
絞りを絞って撮影を行う場合、絞りによって光波面変調素子を形成する位相板113aが覆われてしまい、位相が変化してしまうため、適切な画像を復元することが困難となる。
そこで、本実施形態においては、本例のように、露出情報中の絞り情報に応じたフィルタ処理を行うことによって適切な画像復元を実現している。
図17は、露出制御装置200の露出情報(絞り除去を含む)により切り替え処理のフローチャートである。
まず、露出情報(RP)が検出されコンボリューション制御部154に供給される(ST101)。
コンボリューション制御部154においては、露出情報RPから、カーネルサイズ、数値演算係数がレジスタにセットされる(ST102)。
そして、撮像素子120で撮像され、AFE130を介して二次元コンボリューション演算部152に入力された画像データに対して、レジスタに格納されたデータに基づいてコンボリューション演算が行われ、演算され変換されたデータがカメラ信号処理部160に転送される(ST103)。
以下に画像処理装置150の信号処理部とカーネルデータ格納ROMについてさらに具体的な例について説明する。
図18は、信号処理部とカーネルデータ格納ROMについての第1の構成例を示す図である。なお、簡単化のためにAFE等は省略している。
図18の例は露出情報に応じたフィルタカーネルを予め用意した場合のブロック図である。
露出設定時に決まる露出情報を取得し、コンボリューション制御部154を通じてカーネルデータを選択制御する。2次元コンボリューション演算部152においては、カーネルデータを用いてコンボリューション処理を施す。
図19は、信号処理部とカーネルデータ格納ROMについての第2の構成例を示す図である。なお、簡単化のためにAFE等は省略している。
図19の例は、信号処理部の最初にノイズ低減フィルタ処理のステップを有し、フィルタカーネルデータとして露出情報に応じたノイズ低減フィルタ処理ST1を予め用意した場合のブロック図である。
露出設定時に決まる露出情報を取得し、コンボリューション制御部154を通じてカーネルデータを選択制御する。
2次元コンボリューション演算部152においては、前記ノイズ低減フィルタST1を施した後、カラーコンバージョン処理ST2によって色空間を変換、その後カーネルデータを用いてコンボリューション処理ST3を施す。
再度ノイズ処理ST4を行い、カラーコンバージョン処理ST5によって元の色空間に戻す。カラーコンバージョン処理は、たとえばYCbCr変換が挙げられるが、他の変換でも構わない。
なお、再度のノイズ処理ST4は省略することも可能である。
図20は、信号処理部とカーネルデータ格納ROMについての第3の構成例を示す図である。なお、簡単化のためにAFE等は省略している。
図20の例は、露出情報に応じたOTF復元フィルタを予め用意した場合のブロック図である。
露出設定時に決まる露出情報を取得し、コンボリューション制御部154を通じてカーネルデータを選択制御する。
2次元コンボリューション演算部152は、ノイズ低減処理ST11、カラーコンバージョン処理ST12の後に、前記OTF復元フィルタを用いてコンボリューション処理ST13を施す。
再度ノイズ処理ST14を行い、カラーコンバージョン処理ST15によって元の色空間に戻す。カラーコンバージョン処理は、たとえばYCbCr変換が挙げられるが、他の変換でも構わない。
なお、ノイズ低減処理ST11、ST14は、いずれか一方のみでもよい。
図21は、信号処理部とカーネルデータ格納ROMについての第4の構成例を示す図である。なお、簡単化のためにAFE等は省略している。
図21の例は、ノイズ低減フィルタ処理のステップを有し、フィルタカーネルデータとして露出情報に応じたノイズ低減フィルタを予め用意した場合のブロック図である。
なお、再度のノイズ処理ST24は省略することも可能である。
露出設定時に決まる露出情報を取得し、コンボリューション制御部154を通じてカーネルデータを選択制御する。
2次元コンボリューション演算部152においては、ノイズ低減フィルタ処理ST21を施した後、カラーコンバージョン処理ST22によって色空間を変換、その後カーネルデータを用いてコンボリューション処理ST23を施す。
再度、露出情報に応じたノイズ処理ST24を行い、カラーコンバージョン処理ST25によって元の色空間に戻す。カラーコンバージョン処理は、たとえばYCbCr変換が挙げられるが、他の変換でも構わない。
なお、ノイズ低減処理ST21は省略することも可能である。
以上は露出情報のみに応じて2次元コンボリューション演算部152においてフィルタ処理を行う例を説明したが、たとえば被写体距離情報、ズーム情報、あるいは撮影モード情報と露出情報とを組み合わせることにより適した演算係数の抽出、あるいは演算を行うことが可能となる。
図22は、被写体距離情報と露出情報とを組み合わせる画像処理装置の構成例を示す図である。
図22は、撮像素子120からの被写体分散画像信号より分散のない画像信号を生成する画像処理装置300の構成例を示している。
画像処理装置300は、図22に示すように、コンボリューション装置301、カーネル・数値演算係数格納レジスタ302、および画像処理演算プロセッサ303を有する。
この画像処理装置300においては、物体概略距離情報検出装置400から読み出した被写体の物体距離の概略距離に関する情報および露出情報を得た画像処理演算プロセッサ303では、その物体離位置に対して適正な演算で用いる、カーネルサイズやその演算係数をカーネル、数値算係数格納レジスタ302に格納し、その値を用いて演算するコンボリューション装置301にて適正な演算を行い、画像を復元する。
上述のように、光波面変調素子としての位相板(Wavefront Coding optical element)を有した撮像装置の場合、所定の焦点距離範囲内であればその範囲内に関し画像処理によって適正な収差のない画像信号を生成できるが、所定の焦点距離範囲外の場合には、画像処理の補正に限度があるため、前記範囲外の被写体のみ収差のある画像信号となってしまう。
また一方、所定の狭い範囲内に収差が生じない画像処理を施すことにより、所定の狭い範囲外の画像にぼけ味を出すことも可能になる。
本例においては、主被写体までの距離を、距離検出センサを含む物体概略距離情報検出装置400により検出し、検出した距離に応じて異なる画像補正の処理を行うことにように構成されている。
前記の画像処理はコンボリューション演算により行うが、これを実現するには、たとえばコンボリューション演算の演算係数を共通で1種類記憶しておき、焦点距離に応じて補正係数を予め記憶しておき、この補正係数を用いて演算係数を補正し、補正した演算係数で適性なコンボリューション演算を行う構成をとることができる。
この構成の他にも、以下の構成を採用することが可能である。
焦点距離に応じて、カーネルサイズやコンボリューションの演算係数自体を予め記憶しておき、これら記憶したカーネルサイズや演算係数でコンボリューション演算を行う構成、焦点距離に応じた演算係数を関数として予め記憶しておき、焦点距離によりこの関数より演算係数を求め、計算した演算係数でコンボリューション演算を行う構成等、を採用することが可能である。
図22の構成に対応付けると次のような構成をとることができる。
変換係数記憶手段としてのレジスタ302に被写体距離に応じて少なくとも位相板113aに起因する収差に対応した変換係数を少なくとも2以上予め記憶する。画像処理演算プロセッサ303が、被写体距離情報生成手段としての物体概略距離情報検出装置400により生成された情報に基づき、レジスタ302から被写体までの距離に応じた変換係数を選択する係数選択手段として機能する。
そして、変換手段としてのコンボリューション装置301が、係数選択手段としての画像処理演算プロセッサ303で選択された変換係数によって、画像信号の変換を行う。
または、前述したように、変換係数演算手段としての画像処理演算プロセッサ303が、被写体距離情報生成手段としての物体概略距離情報検出装置400により生成された情報に基づき変換係数を演算し、レジスタ302に格納する。
そして、変換手段としてのコンボリューション装置301が、変換係数演算手段としての画像処理演算プロセッサ303で得られレジスタ302に格納された変換係数によって、画像信号の変換を行う。
または、補正値記憶手段としてのレジスタ302にズーム光学系110のズーム位置またはズーム量に応じた少なくとも1以上の補正値を予め記憶する。この補正値には、被写体収差像のカーネルサイズを含まれる。
第2変換係数記憶手段としても機能するレジスタ302に、位相板113aに起因する収差に対応した変換係数を予め記憶する。
そして、被写体距離情報生成手段としての物体概略距離情報検出装置400により生成された距離情報に基づき、補正値選択手段としての画像処理演算プロセッサ303が、補正値記憶手段としてのレジスタ302から被写体までの距離に応じた補正値を選択する。
変換手段としてのコンボリューション装置301が、第2変換係数記憶手段としてのレジスタ302から得られた変換係数と、補正値選択手段としての画像処理演算プロセッサ303により選択された補正値とに基づいて画像信号の変換を行う。
図23は、ズーム情報と露出情報とを組み合わせる画像処理装置の構成例を示す図である。
図23は、撮像素子120からの被写体分散画像信号より分散のない画像信号を生成する画像処理装置300Aの構成例を示している。
画像処理装置300Aは、図22と同様に、図23に示すように、コンボリューション装置301、カーネル・数値演算係数格納レジスタ302、および画像処理演算プロセッサ303を有する。
この画像処理装置300Aにおいては、ズーム情報検出装置500から読み出したズーム位置またはズーム量に関する情報および露出情報を得た画像処理演算プロセッサ303では、露出情報およびそのズーム位置に対して適正な演算で用いる、カーネルサイズやその演算係数をカーネル、数値演算係数格納レジスタ302に格納し、その値を用いて演算するコンボリューション装置301にて適正な演算を行い、画像を復元する。
上述したように、光波面変調素子としての位相板をズーム光学系に有した撮像装置に適用する場合、ズーム光学系のズーム位置によって生成されるスポット像が異なる。このため、位相板より得られる焦点ズレ画像(スポット画像)を後段のDSP等でコンボリューション演算する際、適性な焦点合わせ画像を得るためには、ズーム位置に応じて異なるコンボリューション演算が必要となる。
そこで、本実施形態においては、ズーム情報検出装置500を設け、ズーム位置に応じて適正なコンボリューション演算を行い、ズーム位置によらず適性な焦点合わせ画像を得るように構成されている。
画像処理装置300Aにおける適正なコンボリーション演算には、コンボリューションの演算係数をレジスタ302に共通で1種類記憶しておく構成をとることができる。
この構成の他にも、以下の構成を採用することが可能である。
各ズーム位置に応じて、レジスタ302に補正係数を予め記憶しておき、この補正係数を用いて演算係数を補正し、補正した演算係数で適性なコンボリューション演算を行う構成、各ズーム位置に応じて、レジスタ302にカーネルサイズやコンボリューションの演算係数自体を予め記憶しておき、これら記憶したカーネルサイズや演算係数でコンボリューション演算行う構成、ズーム位置に応じた演算係数を関数としてレジスタ302に予め記憶しておき、ズーム位置によりこの関数より演算係数を求め、計算した演算係数でコンボリューション演算を行う構成等、を採用することが可能である。
図23の構成に対応付けると次のような構成をとることができる。
変換係数記憶手段としてのレジスタ302にズーム光学系110のズーム位置またはズーム量に応じた位相板113aに起因する収差に対応した変換係数を少なくとも2以上予め記憶する。画像処理演算プロセッサ303が、ズーム情報生成手段としてのズーム情報検出装置500により生成された情報に基づき、レジスタ302からズーム光学系110のズ−ム位置またはズーム量に応じた変換係数を選択する係数選択手段として機能する。
そして、変換手段としてのコンボリューション装置301が、係数選択手段としての画像処理演算プロセッサ303で選択された変換係数によって、画像信号の変換を行う。
または、前述したように、変換係数演算手段としての画像処理演算プロセッサ303が、ズーム情報生成手段としてのズーム情報検出装置500により生成された情報に基づき変換係数を演算し、レジスタ302に格納する。
そして、変換手段としてのコンボリューション装置301が、変換係数演算手段としての画像処理演算プロセッサ303で得られレジスタ302に格納された変換係数によって、画像信号の変換を行う。
または、補正値記憶手段としてのレジスタ302にズーム光学系110のズーム位置またはズーム量に応じた少なくとも1以上の補正値を予め記憶する。この補正値には、被写体収差像のカーネルサイズを含まれる。
第2変換係数記憶手段としても機能するレジスタ302に、位相板113aに起因する収差に対応した変換係数を予め記憶する。
そして、ズーム情報生成手段としてのズーム情報検出装置500により生成されたズーム情報に基づき、補正値選択手段としての画像処理演算プロセッサ303が、補正値記憶手段としてのレジスタ302からズーム光学系のズーム位置またはズーム量に応じた補正値を選択する。
変換手段としてのコンボリューション装置301が、第2変換係数記憶手段としてのレジスタ302から得られた変換係数と、補正値選択手段としての画像処理演算プロセッサ303により選択された補正値とに基づいて画像信号の変換を行う。
図23に、露出情報と、物体距離情報と、ズーム情報とを用いた場合のフィルタの構成例を示す。
この例では、物体距離情報とズーム情報で2次元的な情報を形成し、露出情報が奥行きのような情報を形成している。
図25は、撮影モード情報と露出情報とを組み合わせる画像処理装置の構成例を示す図である。
図25は、撮像素子120からの被写体分散画像信号より分散のない画像信号を生成する画像処理装置300Bの構成例を示している。
画像処理装置300Bは、図22および図23と同様に、図25に示すように、コンボリューション装置301、記憶手段としてのカーネル・数値演算係数格納レジスタ302、および画像処理演算プロセッサ303を有する。
この画像処理装置300Bにおいては、物体概略距離情報検出装置600から読み出した被写体の物体距離の概略距離に関する情報および露出情報を得た画像処理演算プロセッサ303では、その物体離位置に対して適正な演算で用いる、カーネルサイズやその演算係数をカーネル、数値算係数格納レジスタ302に格納し、その値を用いて演算するコンボリューション装置301にて適正な演算を行い、画像を復元する。
この場合も上述のように、光波面変調素子としての位相板(Wavefront Coding optical element)を有した撮像装置の場合、所定の焦点距離範囲内であればその範囲内に関し画像処理によって適正な収差のない画像信号を生成できるが、所定の焦点距離範囲外の場合には、画像処理の補正に限度があるため、上記範囲外の被写体のみ収差のある画像信号となってしまう。
また一方、所定の狭い範囲内に収差が生じない画像処理を施すことにより、所定の狭い範囲外の画像にぼけ味を出すことも可能になる。
本例においては、主被写体までの距離を、距離検出センサを含む物体概略距離情報検出装置600により検出し、検出した距離に応じて異なる画像補正の処理を行うことにように構成されている。
上記の画像処理はコンボリューション演算により行うが、これを実現するには、コンボリューション演算の演算係数を共通で1種類記憶しておき、物体距離に応じて補正係数を予め記憶しておき、この補正係数を用いて演算係数を補正し、補正した演算係数で適性なコンボリューション演算を行う構成、物体距離に応じた演算係数を関数として予め記憶しておき、焦点距離によりこの関数より演算係数を求め、計算した演算係数でコンボリューション演算を行う構成、物体距離に応じて、カーネルサイズやコンボリューションの演算係数自体を予め記憶しておき、これら記憶したカーネルサイズや演算係数でコンボリューション演算を行う構成等、を採用することが可能である。
本実施形態においては、上述したように、DSCのモード設定(ポートレイト、無限遠(風景)、マクロ)に応じて画像処理を変更する。
図25の構成に対応付けると次のような構成をとることができる。
前述したように、変換係数演算手段としての画像処理演算プロセッサ303を通して操作部190の撮影モード設定部700により設定される各撮影モードに応じて異なる変換係数を変換係数記憶手段としてのレジスタ302に格納する。
画像処理演算プロセッサ303が、撮影モード設定部700の操作スイッチ701により設定された撮影モードに応じて、被写体距離情報生成手段としての物体概略距離情報検出装置600により生成された情報に基づき、変換係数記憶手段としてのレジスタ302から変換係数を抽出する。このとき、たとえば画像処理演算プロセッサ303が変換係数抽出手段として機能する。
そして、変換手段としてのコンボリューション装置301が、レジスタ302に格納された変換係数によって、画像信号の撮影モードに応じた変換処理を行う。
なお、図8や図9の光学系は一例であり、本発明は図8や図9の光学系に対して用いられるものとは限らない。また、スポット形状についても図10および図11は一例であり、本実施形態のスポット形状は、図10および図11に示すものとは限らない。
また、図15および図16のカーネルデータ格納ROMに関しても、光学倍率、Fナンバやそれぞれのカーネルのサイズ、値に対して用いられるものとは限らない。また用意するカーネルデータの数についても3個とは限らない。
図23のように3次元、さらには4次元以上とすることで格納量が多くなるが、種々の条件を考慮してより適したものを選択することができるようになる。情報としては、上述した露出情報、物体距離情報、ズーム情報、撮像モード情報等であればよい。
なお、上述のように、光波面変調素子としての位相板(Wavefront Coding optical element)を有した撮像装置の場合、所定の焦点距離範囲内であればその範囲内に関し画像処理によって適正な収差のない画像信号を生成できるが、所定の焦点距離範囲外の場合には、画像処理の補正に限度があるため、前記範囲外の被写体のみ収差のある画像信号となってしまう。
また一方、所定の狭い範囲内に収差が生じない画像処理を施すことにより、所定の狭い範囲外の画像にぼけ味を出すことも可能になる。
本実施形態においては、DEOSを採用し、高精細な画質を得ることが可能で、しかも、光学系を簡単化でき、コスト低減を図ることが可能となっている。
以下、この特徴について説明する。
図26(A)〜(C)は、撮像素子120の受光面でのスポット像を示している。
図26(A)は焦点が0.2mmずれた場合(Defocus=0.2mm)、図26(B)が合焦点の場合(Best focus)、図26(C)が焦点が−0.2mmずれた場合(Defocus=−0.2mm)の各スポット像を示している。
図26(A)〜(C)からもわかるように、本実施形態に係る撮像装置100においては、位相板113aを含む波面形成用光学素子群113によって深度の深い光束(像形成の中心的役割を成す)とフレアー(ボケ部分)が形成される。
このように、本実施形態の撮像装置100において形成された1次画像FIMは、深度が非常に深い光束条件にしている。
図27(A),(B)は、本実施形態に係る撮像レンズ装置により形成される1次画像の変調伝達関数(MTF:Modulation Transfer Function)について説明するための図であって、図27(A)は撮像レンズ装置の撮像素子の受光面でのスポット像を示す図で、図27(B)が空間周波数に対するMTF特性を示している。
本実施形態においては、高精細な最終画像は後段の、たとえばデジタルシグナルプロセッサ(Digital Signal Processor)からなる画像処理装置150の補正処理に任せるため、図27(A),(B)に示すように、1次画像のMTFは本質的に低い値になっている。
画像処理装置150は、上述したように、撮像素子120による1次画像FIMを受けて、1次画像の空間周波数におけるMTFをいわゆる持ち上げる所定の補正処理等を施して高精細な最終画像FNLIMを形成する。
画像処理装置150のMTF補正処理は、たとえば図28の曲線Aで示すように、本質的に低い値になっている1次画像のMTFを、空間周波数をパラメータとしてエッジ強調、クロマ強調等の後処理にて、図28中曲線Bで示す特性に近づく(達する)ような補正を行う。
図28中曲線Bで示す特性は、たとえば本実施形態のように、波面形成用光学素子を用いずに波面を変形させない場合に得られる特性である。
なお、本実施形態における全ての補正は、空間周波数のパラメータによる。
本実施形態においては、図28に示すように、光学的に得られる空間周波数に対するMTF特性曲線Aに対して、最終的に実現したいMTF特性曲線Bを達成するためには、それぞれの空間周波数に対し、エッジ強調等の強弱を付け、元の画像(1次画像)に対して補正をかける。
たとえば、図28のMTF特性の場合、空間周波数に対するエッジ強調の曲線は、図29に示すようになる。
すなわち、空間周波数の所定帯域内における低周波数側および高周波数側でエッジ強調を弱くし、中間周波数領域においてエッジ強調を強くして補正を行うことにより、所望のMTF特性曲線Bを仮想的に実現する。
このように、実施形態に係る撮像装置100は、基本的に、1次画像を形成する光学系110および撮像素子120と、1次画像を高精細な最終画像に形成する画像処理装置150からなり、光学系システムの中に、波面成形用の光学素子を新たに設けるか、またはガラス、プラスチックなどのような光学素子の面を波面成形用に成形したものを設けることにより、結像の波面を変形(変調)し、そのような波面をCCDやCMOSセンサからなる撮像素子120の撮像面(受光面)に結像させ、その結像1次画像を、画像処理装置150を通して高精細画像を得る画像形成システムである。
本実施形態では、撮像素子120による1次画像は深度が非常に深い光束条件にしている。そのために、1次画像のMTFは本質的に低い値になっており、そのMTFの補正を画像処理装置150で行う。
ここで、本実施形態における撮像装置100における結像のプロセスを、波動光学的に考察する。
物点の1点から発散された球面波は結像光学系を通過後、収斂波となる。そのとき、結像光学系が理想光学系でなければ収差が発生する。波面は球面でなく複雑な形状となる。幾何光学と波動光学の間を取り持つのが波面光学であり、波面の現象を取り扱う場合に便利である。
結像面における波動光学的MTFを扱うとき、結像光学系の射出瞳位置における波面情報が重要となる。
MTFの計算は結像点における波動光学的強度分布のフーリエ変換で求まる。その波動光学的強度分布は波動光学的振幅分布を2乗して得られるが、その波動光学的振幅分布は射出瞳における瞳関数のフーリエ変換から求まる。
さらにその瞳関数はまさに射出瞳位置における波面情報(波面収差)そのものからであることから、その光学系110を通して波面収差が厳密に数値計算できればMTFが計算できることになる。
したがって、所定の手法によって射出瞳位置での波面情報に手を加えれば、任意に結像面におけるMTF値は変更可能である。
本実施形態においても、波面の形状変化を波面形成用光学素子で行うのが主であるが、まさにphase(位相、光線に沿った光路長)に増減を設けて目的の波面形成を行っている。
そして、目的の波面形成を行えば、射出瞳からの射出光束は、図26(A)〜(C)に示す幾何光学的なスポット像からわかるように、光線の密な部分と疎の部分から形成される。
この光束状態のMTFは空間周波数の低いところでは低い値を示し、空間周波数の高いところまでは何とか解像力は維持している特徴を示している。
すなわち、この低いMTF値(または、幾何光学的にはこのようなスポット像の状態)であれば、エリアジングの現象を発生させないことになる。
つまり、ローパスフィルタが必要ないのである。
そして、後段のDSP等からなる画像処理装置150でMTF値を低くしている原因のフレアー的画像を除去すれば良いのである。それによってMTF値は著しく向上する。
次に、本実施形態および従来光学系のMTFのレスポンスについて考察する。
図30は、従来の光学系の場合において物体が焦点位置にあるときと焦点位置から外れたときのMTFのレスポンス(応答)を示す図である。
図31は、光波面変調素子を有する本実施形態の光学系の場合において物体が焦点位置にあるときと焦点位置から外れたときのMTFのレスポンスを示す図である。
また、図32は、本実施形態に係る撮像装置のデータ復元後のMTFのレスポンスを示す図である。
図からもわかるように、光波面変調素子を有する光学系の場合、物体が焦点位置から外れた場合でもMTFのレスポンスの変化が光波面変調素子を挿入してない光学径よりも少なくなる。
この光学系によって結像された画像を、コンボリューションフィルタによる処理によって、MTFのレスポンスが向上する。
以上説明したように、本実施形態によれば、合焦位置でもピントを結ばないがその前後でほぼPSF(Point Spread Function 点広がり関数)が一定になるように設計された光学系110と、光学系の像をとらえる撮像素子120と、ボケ復元処理を行う画像処理装置150と、最終画像を得るためのカメラ信号処理部160と、カメラ信号処理部160から出力された画像を表示し、画角やキャプチャタイミングを決定するためにスルー画を表示したり、撮影した画像を表示したりする画像モニタリング装置180と、画像をキャプチャするトリガ信号を生成可能な操作部190と、スルー画中はボケ復元処理を行う画像処理装置15を通さずに撮像素子の画像信号をカメラ信号処理部160に直接入力させ、トリガ信号を受けてキャプチャした画像に対しては画像処理装置150でPSFに応じたボケ復元処理を行ってカメラ信号処理部160に出力するように制御する制御装置200とを有することから、以下の効果を得ることができる。
構図を決めるスルー画中は高いフレームレートを維持しつつ、キャプチャ時はボケ復元処理にある程度の時間をかけられるので、高価なハードウェアの必要がない。またキャプチャ画を拡大や拡大場所移動の操作を行ってもキャプチャ画についてはフル画像をボケ復元しているので、きめ細かく細部に渡って確認することができ、操作と見栄えに不自然さは発生しない。
また、前記PSFのボケ幅は画像モニタリング装置180の画素ピッチの2倍程度以下に設定したので、たとえボケたままのスルー画とは言ってもモニタの細かさと同レベルであるので実質モニタ上では気になるようなボケは生じない。
また、トリガ信号を受けてキャプチャした画像に対してはボケ復元処理を行う画像処理装置150の中で前記PSFに応じたボケ復元処理の終了後カメラ処理を行った後にモニタに画像を出力するようにしたので、ボケ復元処理にある程度時間がかかってもユーザは画像が自動的に現れるので待てばよく、操作しても画が出ないと不満を解消できる。
また、スルー画中はモニタで必要な画像サイズレベルの小さい画像を撮像素子120から出力するようにしたので、スルー画中は高いフレームレートを実現でき、リソースに余裕が生まれるので消費電力を低減できる。
また、スルー画表示の際には、絞り110aを絞るように制御することにより、スルー画表示時に光波面変調素子の変調面の変調作用の影響を受けないため、ある程度はボケないような画像を表示できるようになる。
また、本実施形態によれば、1次画像を形成する光学系110および撮像素子120と、1次画像を高精細な最終画像に形成する画像処理装置150とを含み、画像処理装置150において、露出制御装置200からの露出情報に応じて光学的伝達関数(OTF)に対してフィルタ処理を行うことから、光学系を簡単化でき、コスト低減を図ることができ、しかもノイズの影響が小さい復元画像を得ることができる利点がある。
また、コンボリューション演算時に用いるカーネルサイズやその数値演算で用いられる係数を可変とし、操作部190等の入力により知り、適性となるカーネルサイズや上述した係数を対応させることにより、倍率やデフォーカス範囲を気にすることなくレンズ設計ができ、かつ精度の高いコンボリュ−ションによる画像復元が可能となる利点がある。
また、難度が高く、高価でかつ大型化した光学レンズを必要とせずに、かつ、レンズを駆動させること無く、撮影したい物体に対してピントが合い、背景はぼかすといった、いわゆる自然な画像を得ることができる利点がある。
そして、本実施形態に係る撮像装置100は、デジタルカメラやカムコーダー等の民生機器の小型、軽量、コストを考慮されたズームレンズのDEOSに使用することが可能である。
また、本実施形態においては、結像レンズ112による撮像素子120の受光面への結像の波面を変形させる波面形成用光学素子を有する撮像レンズ系と、撮像素子120による1次画像FIMを受けて、1次画像の空間周波数におけるMTFをいわゆる持ち上げる所定の補正処理等を施して高精細な最終画像FNLIMを形成する画像処理装置150とを有することから、高精細な画質を得ることが可能となるという利点がある。
また、光学系110の構成を簡単化でき、製造が容易となり、コスト低減を図ることができる。
ところで、CCDやCMOSセンサを撮像素子として用いた場合、画素ピッチから決まる解像力限界が存在し、光学系の解像力がその限界解像力以上であるとエリアジングのような現象が発生し、最終画像に悪影響を及ぼすことは周知の事実である。
画質向上のため、可能な限りコントラストを上げることが望ましいが、そのことは高性能なレンズ系を必要とする。
しかし、上述したように、CCDやCMOSセンサを撮像素子として用いた場合、エリアジングが発生する。
現在、エリアジングの発生を避けるため、撮像レンズ装置では、一軸結晶系からなるローパスフィルタを併用し、エリアジングの現象の発生を避けている。
このようにローパスフィルタを併用することは、原理的に正しいが、ローパスフィルタそのものが結晶でできているため、高価であり、管理が大変である。また、光学系に使用することは光学系をより複雑にしているという不利益がある。
以上のように、時代の趨勢でますます高精細の画質が求められているにもかかわらず、高精細な画像を形成するためには、従来の撮像レンズ装置では光学系を複雑にしなければならない。複雑にすれば、製造が困難になったりし、また高価なローパスフィルタを利用したりするとコストアップにつながる。
しかし、本実施形態によれば、ローパスフィルタを用いなくとも、エリアジングの現象の発生を避けることができ、高精細な画質を得ることができる。
なお、本実施形態において、光学系の波面形成用光学素子を絞りより物体側レンズよりに配置した例を示したが、絞りと同一あるいは絞りより結像レンズ側に配置しても前記と同様の作用効果を得ることができる。
また、図8や図9の光学系は一例であり、本発明は図8や図9の光学系に対して用いられるものとは限らない。また、スポット形状についても図10および図11は一例であり、本実施形態のスポット形状は、図10および図11に示すものとは限らない。
また、図15および図16のカーネルデータ格納ROMに関しても、光学倍率、Fナンバやそれぞれのカーネルのサイズ、値に対して用いられるものとは限らない。また用意するカーネルデータの数についても3個とは限らない。
なお、以上の実施形態は光学系が一つの場合を例に説明したが、光学系を複数有する撮像装置に対しても本発明は適用可能である。
図33は、本発明に係る光学系を複数有する撮像装置の一実施形態を示すブロック構成図である。
本撮像装置100Aと図1の撮像装置100と異なる点は、光学ユニット110Aは、複数(本実施形態では2)の光学系110−1,110−2を露出制御装置200の代わりシステム制御装置200Aを設け、さらに光学系切替制御部201を設けたことにある。
光学ユニット110Aは、複数(本実施形態では2)の光学系110−1,110−2を有し、光学系切替制御部201の切り替え処理に応じて被写体物体OBJを撮影した像を順番に撮像素子120に供給する。
各光学系110−1,110−2は、光学倍率が異なり、撮像対象物体(被写体)OBJの映像を光学的に取り込む。
システム制御装置200Aは、基本的に露出制御装置と同様の機能を有し、操作部190などの操作入力を持ち、それらの入力に応じて、システム全体の動作を決定し、光学系切替制御部210、AFE130、切替部140、画像処理装置150、DSP160等を制御し、システム全体の調停制御を司るものである。
その他の構成は図1と同様である。
図34は、システム制御装置200Aの光学系設定処理の概要を示すフローチャートである。
まず、光学系を確認し(ST111)、カーネルデータをセットする(ST112)。
そして、操作部190の操作により光学系の切り替え指示がなされると(ST113)、光学系切替制御部201により光学ユニット110Aの光学系の出力を切り替え、ステップST111の処理を行う(ST114)。
図33の実施形態によれば、前述した図1の撮像装置の効果に加えて以下の効果を得ることができる。
すなわち、図33の撮像装置においては、1次画像を形成する倍率の異なる複数の光学系110−1,2を含む光学ユニット110Aおよび撮像素子120と、1次画像を高精細な最終画像に形成する画像処理装置150とを含み、画像処理装置150において、光学系の倍率に応じて、コンボリューション演算時に用いるカーネルサイズやその数値演算で用いられる係数を可変とし、操作部190等の入力により知り、その光学系の倍率に応じた適性となるカーネルサイズや上述した係数を対応させることにより、倍率やデフォーカス範囲を気にすることなくレンズ設計ができ、かつ精度の高いコンボリュ−ションによる画像復元が可能となる利点がある。
また、難度が高く、高価でかつ大型化した光学レンズを必要とせずに、かつ、レンズを駆動させること無く、撮影したい物体に対してピントが合い、背景はぼかすといった、いわゆる自然な画像を得ることができる利点がある。
そして、本実施形態に係る撮像装置100Aは、デジタルカメラやカムコーダー等の民生機器の小型、軽量、コストを考慮されたズームレンズのDEOSに使用することが可能である。
本発明に係る撮像装置の一実施形態を示すブロック構成図である。 一般的な結像光学系の光線高さとデフォーカスとの関係を示す図である。 本実施形態の光学系の結像付近の光学特性を示す図である。 一般的な光学系のベストフォーカス(BestForcus)位置でのMTF(Modulation Transfer Function 振幅伝達関数)特性図である。 本実施形態の光学系のMTF特性を示す図である。 本実施形態におけるボケ復元処理の説明図である。 モニタの画素配列の例を示す図である。 本実施形態に係る撮像レンズ装置の広角側のズーム光学系の構成例を模式的に示す図である。 本実施形態に係る撮像レンズ装置の望遠側のズーム光学系の構成例を模式的に示す図である。 広角側の像高中心のスポット形状を示す図である。 望遠側の像高中心のスポット形状を示す図である。 DEOSの原理を説明するための図である。 本実施形態の光波面変調素子を含む光学系の光軸をz軸とし、互いに直交する2軸をx、yとしたとき、式で表される波面収差の形状を示す図である。 波面収差の形状と0.5λ以下の範囲を太線で表した図である。 カーネルデータROMの格納データの一例(光学倍率)を示す図である。 カーネルデータROMの格納データの他例(Fナンバ)を示す図である。 露出制御装置の光学系設定処理の概要を示すフローチャートである。 信号処理部とカーネルデータ格納ROMについての第1の構成例を示す図である。 信号処理部とカーネルデータ格納ROMについての第2の構成例を示す図である。 信号処理部とカーネルデータ格納ROMについての第3の構成例を示す図である。 信号処理部とカーネルデータ格納ROMについての第4の構成例を示す図である。 被写体距離情報と露出情報とを組み合わせる画像処理装置の構成例を示す図である。 ズーム情報と露出情報とを組み合わせる画像処理装置の構成例を示す図である。 露出情報と、物体距離情報と、ズーム情報とを用いた場合のフィルタの構成例を示す図である。 撮影モード情報と露出情報とを組み合わせる画像処理装置の構成例を示図である。 本実施形態に係る撮像素子の受光面でのスポット像を示す図であって、(A)は焦点が0.2mmずれた場合(Defocus=0.2mm)、(B)が合焦点の場合(Best focus)、(C)が焦点が−0.2mmずれた場合(Defocus=−0.2mm)の各スポット像を示す図である。 本実施形態に係る撮像素子により形成される1次画像のMTFについて説明するための図であって、(A)は撮像レンズ装置の撮像素子の受光面でのスポット像を示す図で、(B)が空間周波数に対するMTF特性を示している。 本実施形態に係る画像処理装置におけるMTF補正処理を説明するための図である。 本実施形態に係る画像処理装置におけるMTF補正処理を具体的に説明するための図である。 従来の光学系の場合において物体が焦点位置にあるときと焦点位置から外れたときのMTFのレスポンス(応答)を示す図である。 光波面変調素子を有する本実施形態の光学系の場合において物体が焦点位置にあるときと焦点位置から外れたときのMTFのレスポンスを示す図である。 本実施形態に係る撮像装置のデータ復元後のMTFのレスポンスを示す図である。 本発明に係る光学系を複数有する撮像装置の一実施形態を示すブロック構成図である。 図33のシステム制御装置の光学系設定処理の概要を示すフローチャートである。 一般的な撮像レンズ装置の構成および光束状態を模式的に示す図である。 図35の撮像レンズ装置の撮像素子の受光面でのスポット像を示す図であって、(A)は焦点が0.2mmずれた場合(Defocus=0.2mm)、(B)が合焦点の場合(Best focus)、(C)が焦点が−0.2mmずれた場合(Defocus=−0.2mm)の各スポット像を示す図である。
符号の説明
100…撮像装置、110…光学系、120…撮像素子、130…アナログフロントエンド部(AFE)、140…切替部、150…画像処理装置、160…カメラ信号処理部、190…操作部、200…露出制御装置、200A…システム制御装置、111…物体側レンズ、112…結像レンズ、113…波面形成用光学素子、113a…位相板(光波面変調素子)、152…コンボリューション演算器、153…カーネルデータROM、154…コンボリューション制御部。

Claims (14)

  1. 合焦位置およびその前後の距離において焦点のボケ量が略一定となるように形成された光学系と、
    前記光学系を通過した被写体像を撮像する撮像素子と、
    前記撮像素子からの画像の焦点のボケを補正して復元した画像信号を生成する変換手段と、
    画像信号に所定の画像処理を行う信号処理手段と、
    前記撮像素子による画像信号または前記変換手段による画像信号を選択的に前記信号処理手段に入力する切替手段と、
    前記信号処理手段の処理画像を記録する記録手段と、
    画像記録を指示するトリガ信号を生成するトリガ信号生成手段と、
    前記信号処理手段の処理画像を表示する画像モニタ手段と、
    スルー画中は前記切替手段を通して前記撮像素子による画像信号を前記信号処理手段に入力させ、前記トリガ信号生成手段によるトリガ信号を受けると前記変換手段による画像信号を前記信号処理手段に入力させる制御手段と
    を有する撮像装置。
  2. 前記焦点のボケ量は前記画像モニタ手段の分解能を上限として設定されている
    請求項1記載の撮像装置。
  3. 前記画像モニタ手段の分解能は、当該画像モニタ手段の画素ピッチの2倍以下に設定されている
    請求項1または2記載の撮像装置。
  4. 前記制御手段は、前記トリガ信号を受けてキャプチャした画像に対しては、前記変換手段で復元した後、前記信号処理手段で処理した後の画像を前記画像モニタ手段に表示させる
    請求項1から3のいずれか一に記載の撮像装置。
  5. 前記制御手段は、前記スルー画表示中は前記画像モニタ手段の分解能で必要十分な分解能をもった画像を前記撮像素子から出力させる
    請求項1から4のいずれか一に記載の撮像装置。
  6. 前記光学系またはその近傍に絞りを有し、
    前記制御手段は、スルー画表示の際に前記絞りを絞るように制御する
    請求項1から5のいずれか一に記載の撮像装置。
  7. 前記光学系に光波面変調素子を含み、
    前記制御手段は、光波面変調素子の変調面の影響を排除し得る部分まで前記絞りを絞るように制御する
    請求項6記載の撮像装置。
  8. 前記光学系は、光波面変調素子およびズーム光学系を含み、
    前記ズーム光学系のズーム位置またズーム量に相当する情報を生成するズーム情報生成手段を有し、
    前記変換手段は、前記ズーム情報生成手段により生成される情報に基づいて分散画像信号より分散のない画像信号を生成する
    請求項1から7のいずれか一に記載の撮像装置。
  9. 被写体までの距離に相当する情報を生成する被写体距離情報生成手段を有し、
    前記変換手段は、前記被写体距離情報生成手段により生成される情報に基づいて分散画像信号より分散のない画像信号を生成する
    請求項1から7のいずれか一に記載の撮像装置。
  10. 被写体までの距離に相当する情報を生成する被写体距離情報生成手段と、
    前記被写体距離情報生成手段により生成された情報に基づき変換係数を演算する変換係数演算手段と、を有し、
    前記変換手段は、前記変換係数演算手段から得られた変換係数によって、画像信号の変換を行い分散のない画像信号を生成する
    請求項1から7のいずれか一に記載の撮像装置。
  11. 撮影する被写体の撮影モードを設定する撮影モード設定手段を有し、
    前記変換手段は、前記撮影モード設定手段により設定された撮影モードに応じて異なる変換処理を行う
    請求項1から10のいずれか一に記載の撮像装置。
  12. 前記撮像装置は、複数のレンズを交換可能であって、
    前記撮像素子は、前記複数のレンズの内少なくともーのレンズおよび光波面変調素子を通過した被写体収差像を撮像可能で、さらに、
    前記一のレンズに応じた変換係数を取得する変換係数取得手段を有し、
    前記変換手段は、前記変換係数取得手段から得られた変換係数によって、画像信号の変換を行う
    請求項1から11のいずれか一に記載の撮像装置。
  13. 露出制御を行う露出制御手段を有し、
    前記信号処理手段は、前記露出制御手段からの露出情報に応じて光学的伝達関数(OTF)に対してフィルタ処理を行う
    請求項1から12のいずれか一に記載の撮像装置。
  14. 合焦位置およびその前後の距離において焦点のボケ量が略一定となるように形成された光学系を通過した被写体像を撮像素子により撮像し、
    スルー画中は、前記撮像素子による画像信号に対して所定の画像処理を行い、
    画像記録を指示するトリガ信号を受けると、前記撮像素子からの画像の焦点のボケを補正して復元し、復元した画像信号に対して前記所定の画像処理を行う
    撮像方法。
JP2006321756A 2005-11-29 2006-11-29 撮像装置およびその方法 Expired - Fee Related JP4916853B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006321756A JP4916853B2 (ja) 2005-11-29 2006-11-29 撮像装置およびその方法

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2005344305 2005-11-29
JP2005344305 2005-11-29
JP2006321756A JP4916853B2 (ja) 2005-11-29 2006-11-29 撮像装置およびその方法

Publications (2)

Publication Number Publication Date
JP2007181193A true JP2007181193A (ja) 2007-07-12
JP4916853B2 JP4916853B2 (ja) 2012-04-18

Family

ID=38305810

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006321756A Expired - Fee Related JP4916853B2 (ja) 2005-11-29 2006-11-29 撮像装置およびその方法

Country Status (1)

Country Link
JP (1) JP4916853B2 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012065187A (ja) * 2010-09-16 2012-03-29 Fujifilm Corp 撮像装置及び復元ゲインデータ生成方法
WO2015015966A1 (ja) * 2013-08-01 2015-02-05 富士フイルム株式会社 撮像装置、撮像方法及び画像処理装置
KR101534588B1 (ko) * 2007-11-09 2015-07-07 가부시키가이샤 재팬 디스프레이 표시 촬상장치, 및 물체의 검출 방법

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07193766A (ja) * 1993-12-27 1995-07-28 Toshiba Corp 画像情報処理装置
JP2000005127A (ja) * 1998-01-23 2000-01-11 Olympus Optical Co Ltd 内視鏡システム
JP2002171442A (ja) * 2000-12-04 2002-06-14 Olympus Optical Co Ltd 電子カメラおよび光量制御方法
JP2002199410A (ja) * 2000-12-25 2002-07-12 Canon Inc 撮像装置、画像劣化補正処理方法及び記憶媒体
JP2003235794A (ja) * 2002-02-21 2003-08-26 Olympus Optical Co Ltd 電子内視鏡システム
JP2004007304A (ja) * 2002-06-03 2004-01-08 Fuji Photo Film Co Ltd デジタル撮影装置
JP2004328506A (ja) * 2003-04-25 2004-11-18 Sony Corp 撮像装置および画像復元方法

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07193766A (ja) * 1993-12-27 1995-07-28 Toshiba Corp 画像情報処理装置
JP2000005127A (ja) * 1998-01-23 2000-01-11 Olympus Optical Co Ltd 内視鏡システム
JP2002171442A (ja) * 2000-12-04 2002-06-14 Olympus Optical Co Ltd 電子カメラおよび光量制御方法
JP2002199410A (ja) * 2000-12-25 2002-07-12 Canon Inc 撮像装置、画像劣化補正処理方法及び記憶媒体
JP2003235794A (ja) * 2002-02-21 2003-08-26 Olympus Optical Co Ltd 電子内視鏡システム
JP2004007304A (ja) * 2002-06-03 2004-01-08 Fuji Photo Film Co Ltd デジタル撮影装置
JP2004328506A (ja) * 2003-04-25 2004-11-18 Sony Corp 撮像装置および画像復元方法

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101534588B1 (ko) * 2007-11-09 2015-07-07 가부시키가이샤 재팬 디스프레이 표시 촬상장치, 및 물체의 검출 방법
JP2012065187A (ja) * 2010-09-16 2012-03-29 Fujifilm Corp 撮像装置及び復元ゲインデータ生成方法
WO2015015966A1 (ja) * 2013-08-01 2015-02-05 富士フイルム株式会社 撮像装置、撮像方法及び画像処理装置
JP5944055B2 (ja) * 2013-08-01 2016-07-05 富士フイルム株式会社 撮像装置、撮像方法及び画像処理装置
JPWO2015015966A1 (ja) * 2013-08-01 2017-03-02 富士フイルム株式会社 撮像装置、撮像方法及び画像処理装置

Also Published As

Publication number Publication date
JP4916853B2 (ja) 2012-04-18

Similar Documents

Publication Publication Date Title
JP4916862B2 (ja) 撮像装置およびその方法
JP4712631B2 (ja) 撮像装置
US8350948B2 (en) Image device which bypasses blurring restoration during a through image
JP4663737B2 (ja) 撮像装置およびその画像処理方法
JP4749959B2 (ja) 撮像装置、並びにその製造装置および製造方法
JP4818957B2 (ja) 撮像装置およびその方法
JP2008268937A (ja) 撮像装置および撮像方法
JP2008085387A (ja) 撮像装置、並びにその製造装置および製造方法
JP2007322560A (ja) 撮像装置、並びにその製造装置および製造方法
JP2008048293A (ja) 撮像装置、およびその製造方法
JP2007300208A (ja) 撮像装置
JP4693720B2 (ja) 撮像装置
JP2007206738A (ja) 撮像装置およびその方法
WO2007046205A1 (ja) 撮像装置および画像処理方法
JP2008033060A (ja) 撮像装置および撮像方法、並びに画像処理装置
JP4364847B2 (ja) 撮像装置および画像変換方法
JP2008245266A (ja) 撮像装置および撮像方法
JP2009086017A (ja) 撮像装置および撮像方法
JP4812541B2 (ja) 撮像装置
JP4916853B2 (ja) 撮像装置およびその方法
JP4813147B2 (ja) 撮像装置および撮像方法
JP4818956B2 (ja) 撮像装置およびその方法
JP2008011491A (ja) カメラシステム、監視カメラ、および撮像方法
JP2008245265A (ja) 撮像装置、並びにその製造装置および製造方法
JP2009033607A (ja) 撮像装置および画像処理方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20091015

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110209

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110301

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110427

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120110

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120125

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150203

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4916853

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees