JP2009159536A - 撮像装置、画像処理方法、および情報コード読取装置 - Google Patents
撮像装置、画像処理方法、および情報コード読取装置 Download PDFInfo
- Publication number
- JP2009159536A JP2009159536A JP2007338252A JP2007338252A JP2009159536A JP 2009159536 A JP2009159536 A JP 2009159536A JP 2007338252 A JP2007338252 A JP 2007338252A JP 2007338252 A JP2007338252 A JP 2007338252A JP 2009159536 A JP2009159536 A JP 2009159536A
- Authority
- JP
- Japan
- Prior art keywords
- image
- optical system
- image signal
- gradation
- image processing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003384 imaging method Methods 0.000 title claims abstract description 55
- 238000003672 processing method Methods 0.000 title claims abstract description 6
- 230000003287 optical effect Effects 0.000 claims abstract description 113
- 238000012545 processing Methods 0.000 claims abstract description 85
- 238000000034 method Methods 0.000 claims description 28
- 230000008569 process Effects 0.000 claims description 23
- 238000010586 diagram Methods 0.000 description 24
- 230000006870 function Effects 0.000 description 20
- 238000012937 correction Methods 0.000 description 15
- 230000004044 response Effects 0.000 description 14
- 238000004088 simulation Methods 0.000 description 14
- 230000008859 change Effects 0.000 description 5
- 238000013461 design Methods 0.000 description 5
- 230000004075 alteration Effects 0.000 description 4
- 230000000694 effects Effects 0.000 description 4
- 230000015572 biosynthetic process Effects 0.000 description 2
- 230000006866 deterioration Effects 0.000 description 2
- 230000004907 flux Effects 0.000 description 2
- 239000011521 glass Substances 0.000 description 2
- 238000012806 monitoring device Methods 0.000 description 2
- 238000005457 optimization Methods 0.000 description 2
- 210000003462 vein Anatomy 0.000 description 2
- 206010010071 Coma Diseases 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 201000009310 astigmatism Diseases 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 230000006835 compression Effects 0.000 description 1
- 238000007906 compression Methods 0.000 description 1
- 230000008602 contraction Effects 0.000 description 1
- 239000006059 cover glass Substances 0.000 description 1
- 239000006185 dispersion Substances 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 238000012905 input function Methods 0.000 description 1
- 238000007689 inspection Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000005728 strengthening Methods 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 230000003313 weakening effect Effects 0.000 description 1
Landscapes
- Lenses (AREA)
- Image Processing (AREA)
- Facsimile Image Signal Circuits (AREA)
- Studio Devices (AREA)
Abstract
【課題】光学系を簡単化でき、コスト低減を図ることができることはもとより、画像復元処理を施さなくても深度拡張された画像から適切な画質のノイズの影響が小さい良好な画像を得ることが可能な撮像装置、画像処理方法、および情報コード読取装置を提供する。
【解決手段】光波面変調機能を含む深度拡張機能を有する深度拡張光学系210Aおよび撮像素子220と、1次画像を高精細な最終画像に形成する画像処理装置240とを含み、画像処理装置240は、前段のAFE230からくる撮像画像のデジタル信号を入力し、深度拡張光学系を通過することによって、必然的に小さくなるコントラストのダイナミックレンジを、γ特性カーブを操作することによって拡張する補正を行い、また必要に応じてエッジ強調等の画像処理を施し、深度拡張光学系210Aの深度拡張により低下した画像特性、たとえばコントラストを向上させる。
【選択図】図3
【解決手段】光波面変調機能を含む深度拡張機能を有する深度拡張光学系210Aおよび撮像素子220と、1次画像を高精細な最終画像に形成する画像処理装置240とを含み、画像処理装置240は、前段のAFE230からくる撮像画像のデジタル信号を入力し、深度拡張光学系を通過することによって、必然的に小さくなるコントラストのダイナミックレンジを、γ特性カーブを操作することによって拡張する補正を行い、また必要に応じてエッジ強調等の画像処理を施し、深度拡張光学系210Aの深度拡張により低下した画像特性、たとえばコントラストを向上させる。
【選択図】図3
Description
本発明は、撮像素子を用い、光学系を備えた撮像装置、画像処理方法、および情報コード読取装置に関するものである。
近年急峻に発展を遂げている情報のデジタル化に相俟って映像分野においてもその対応が著しい。
特に、デジタルカメラに象徴されるように撮像面はフィルムに変わって固体撮像素子であるCCD(Charge Coupled Device),CMOS(Complementary Metal Oxide Semiconductor)センサが使用されているのが大半である。
特に、デジタルカメラに象徴されるように撮像面はフィルムに変わって固体撮像素子であるCCD(Charge Coupled Device),CMOS(Complementary Metal Oxide Semiconductor)センサが使用されているのが大半である。
このように、撮像素子にCCDやCMOSセンサを使った撮像レンズ装置は、被写体の映像を光学系により光学的に取り込んで、撮像素子により電気信号として抽出するものであり、デジタルスチルカメラの他、ビデオカメラ、デジタルビデオユニット、パーソナルコンピュータ、携帯電話機、携帯情報端末(PDA:Personal Digital Assistant)、画像検査装置、自動制御用産業カメラ等に用いられている。
図21は、一般的な撮像レンズ装置の構成および光束状態を模式的に示す図である。
この撮像レンズ装置1は、光学系2とCCDやCMOSセンサ等の撮像素子3とを有する。
光学系は、物体側レンズ21,22、絞り23、および結像レンズ24を物体側(OBJS)から撮像素子3側に向かって順に配置されている。
この撮像レンズ装置1は、光学系2とCCDやCMOSセンサ等の撮像素子3とを有する。
光学系は、物体側レンズ21,22、絞り23、および結像レンズ24を物体側(OBJS)から撮像素子3側に向かって順に配置されている。
撮像レンズ装置1においては、図21に示すように、ベストフォーカス面を撮像素子面上に合致させている。
図22(A)〜(C)は、撮像レンズ装置1の撮像素子3の受光面でのスポット像を示している。
図22(A)〜(C)は、撮像レンズ装置1の撮像素子3の受光面でのスポット像を示している。
また、位相板により光束を規則的に分散し、デジタル処理により復元させ被写界深度の深い画像撮影を可能にする等の撮像装置が提案されている(たとえば非特許文献1,2、特許文献1〜5参照)。
また、伝達関数を用いたフィルタ処理を行うデジタルカメラの自動露出制御システムが提案されている(たとえば特許文献6参照)。
また、伝達関数を用いたフィルタ処理を行うデジタルカメラの自動露出制御システムが提案されている(たとえば特許文献6参照)。
また、CCD、CMOSなどの画像入力機能を持った装置においては、たとえば風景など、所望の映像とともに、バーコード等の近接静止画像を読み取ることが、極めて有用であることが多い。
バーコードの読み取りは、たとえば第一の例としてレンズを繰り出すオートフォーカスでピントを合わせる技術や、第二の例として深度拡張技術としては、たとえばカメラにおいてF値を絞ることで被写界深度を広げて固定ピントとしているものがある。
バーコードの読み取りは、たとえば第一の例としてレンズを繰り出すオートフォーカスでピントを合わせる技術や、第二の例として深度拡張技術としては、たとえばカメラにおいてF値を絞ることで被写界深度を広げて固定ピントとしているものがある。
"Wavefront Coding;jointly optimized optical and digital imaging systems",Edward R.Dowski,Jr.,Robert H.Cormack,Scott D.Sarama.
"Wavefront Coding;A modern method of achieving high performance and/or low cost imaging systems",Edward R.Dowski,Jr.,Gregory E.Johnson.
USP6,021,005
USP6,642,504
USP6,525,302
USP6,069,738
特開2003−235794号公報
特開2004−153497号公報
上述した各文献にて提案された撮像装置においては、その全ては通常光学系に上述の位相板を挿入した場合のPSF(Point−Spread−Function)が物体距離によらず一定になっていることが前提であり、PSFが変化した場合は、その後のカーネルを用いたコンボリューションにより、被写界深度の深い画像を実現することは極めて難しい。
したがって、単焦点でのレンズではともかく、ズーム系やAF系などのレンズでは、その光学設計の精度の高さやそれに伴うコストアップが原因となり採用するには大きな問題を抱えている。
換言すれば、従来の撮像装置においては、適正なコンボリューション演算を行うことができず、ワイド(Wide)時やテレ(Tele)時のスポット(SPOT)像のズレを引き起こす非点収差、コマ収差、ズーム色収差等の各収差を無くす光学設計が要求される。
しかしながら、これらの収差を無くす光学設計は光学設計の難易度を増し、設計工数の増大、コスト増大、レンズの大型化の問題を引き起こす。
したがって、単焦点でのレンズではともかく、ズーム系やAF系などのレンズでは、その光学設計の精度の高さやそれに伴うコストアップが原因となり採用するには大きな問題を抱えている。
換言すれば、従来の撮像装置においては、適正なコンボリューション演算を行うことができず、ワイド(Wide)時やテレ(Tele)時のスポット(SPOT)像のズレを引き起こす非点収差、コマ収差、ズーム色収差等の各収差を無くす光学設計が要求される。
しかしながら、これらの収差を無くす光学設計は光学設計の難易度を増し、設計工数の増大、コスト増大、レンズの大型化の問題を引き起こす。
また、上記技術では、深度拡張光学系によって低くなったコントラストを所望のコントラストとなるまで画像復元を行うとノイズを増大させることになる。
さらに深度拡張光学系により広がったPSFを元の点像に戻そうとするとPSFの大きさに依存するフィルタ処理よる復元処理では、大きなフィルタを要することになり処理が重くなる。
さらに深度拡張光学系により広がったPSFを元の点像に戻そうとするとPSFの大きさに依存するフィルタ処理よる復元処理では、大きなフィルタを要することになり処理が重くなる。
本発明は、光学系を簡単化でき、コスト低減を図ることができることはもとより、画像復元処理を施さなくても、深度拡張された画像から適切な画質のノイズの影響が小さい良好な画像を得ることが可能な撮像装置、画像処理方法、および情報コード読取装置を提供することにある。
本発明の第1の観点の撮像装置は、光波面変調素子を含み深度拡張機能を有する深度拡張光学系と、前記深度拡張光学系を通過した被写体像を撮像する撮像素子と、前記撮像素子から得られた画像信号に対して所定の画像処理を施す画像信号処理部と、を有し、前記画像信号処理部は、前記画像信号の少なくともガンマ特性を変化させて階調を操作する処理を行う。
好適には、前記画像信号処理部は、前記階調操作において、目標となる被写体のヒストグラムを元に最適化する。
好適には、前記画像信号処理部は、前記階調操作において、目標となる被写体に含まれない領域の階調を除いて最適化する。
好適には、前記画像信号処理部は、前記階調の操作に応じて増大したノイズを除去する処理を行う。
好適には、前記画像信号処理部は、前記階調の操作に応じて離散的になった階調の補間処理を行う。
好適には、前記画像信号処理部は、目標となる被写体として、前記画像信号から特徴部位を抽出して選択する。
本発明の第2の観点は、光波面変調素子を含み深度拡張機能を有する深度拡張光学系を通過した被写体像を撮像素子で撮像して得られた画像信号に所定の画像処理を施す画像処理方法であって、前記画像信号の少なくともガンマ特性を変化させて階調を操作する処理を行う。
本発明の第3の観点は、情報コードを光学的に読み取る情報コード読取装置であって、光波面変調素子を含み深度拡張機能を有する深度拡張光学系と、前記深度拡張光学系を通過した被写体像を撮像する撮像素子と、前記撮像素子から得られた画像信号に対して所定の画像処理を施す画像信号処理部と、を有し、前記画像信号処理部は、前記画像信号の少なくともガンマ特性を変化させて階調を操作する処理を行う。
本発明によれば、光学系を簡単化でき、コスト低減を図ることができることはもとより、画像復元処理を施さなくても、深度拡張された画像から適切な画質のノイズの影響が小さい良好な画像を得ることができる。
以下、本発明の実施形態を添付図面に関連付けて説明する。
図1は、本発明の実施形態に係る情報コード読取装置の一例を示す外観図である。
図2(A)〜(C)は、情報コードの例を示す図である。
図3は、図1の情報コード読取装置に適用可能な撮像装置の構成例を示すブロックである。
なおここでは、本実施形態の撮像装置が適用可能な装置として、情報コード読取装置を例示している。
図2(A)〜(C)は、情報コードの例を示す図である。
図3は、図1の情報コード読取装置に適用可能な撮像装置の構成例を示すブロックである。
なおここでは、本実施形態の撮像装置が適用可能な装置として、情報コード読取装置を例示している。
本実施形態に係る情報コード読取装置100は、図1に示すように、本体110がケーブル111を介して図示しない電子レジスタ等の処理装置と接続され、たとえば読み取り対象物120に印刷された反射率の異なるシンボル、コード等の情報コード121を読み取り可能な装置である。
読み取り対象の情報コードとしては、たとえば図2(A)に示すような、JANコードのような1次元のバーコード122と、図2(B)および(C)に示すようなスタック式のCODE49、あるいはマトリックス方式のQRコードのような2次元のバーコード123が挙げられる。
読み取り対象の情報コードとしては、たとえば図2(A)に示すような、JANコードのような1次元のバーコード122と、図2(B)および(C)に示すようなスタック式のCODE49、あるいはマトリックス方式のQRコードのような2次元のバーコード123が挙げられる。
本実施形態に係る情報コード読取装置100は、本体110内に、図示しない照明光源と、図3に示すような撮像装置200とが配置されている。
撮像装置200は、後で詳述するように、光学系として、光波面変調機能(たとえば位相変調素子)を有する光波面変調素子を含み深度拡張機能を有する深度拡張光学系が採用されている。
そして、撮像装置200は、光波面変調素子を用いることにより物体距離に応じたOTFの変化を、光波面変調素子を持たない通常の光学系よりも小さくする深度拡張光学系に対し、目標となる被写体のヒストグラムに対応した階調伸縮によりコントラストの改善された画像を得るように構成されている。
換言すれば、本実施形態の撮像装置200は、深度拡張光学系において、階調が狭くなった画像特性、たとえばコントラストが低くなった画像に対し、目的の被写体信号の階調領域をガンマ(γ補正)によって広げることによってコントラストを改善する機能を有している。
たとえば本実施形態のように、二次元コードや一次元バーコード、あるいは静脈認証、虹彩認証といったマシンビジョンに用いる場合は、必要な信号の階調のみをコントロールするために被写体近傍のエリアに対して階調拡張処理を行うことが可能である。
撮像装置200は、後で詳述するように、光学系として、光波面変調機能(たとえば位相変調素子)を有する光波面変調素子を含み深度拡張機能を有する深度拡張光学系が採用されている。
そして、撮像装置200は、光波面変調素子を用いることにより物体距離に応じたOTFの変化を、光波面変調素子を持たない通常の光学系よりも小さくする深度拡張光学系に対し、目標となる被写体のヒストグラムに対応した階調伸縮によりコントラストの改善された画像を得るように構成されている。
換言すれば、本実施形態の撮像装置200は、深度拡張光学系において、階調が狭くなった画像特性、たとえばコントラストが低くなった画像に対し、目的の被写体信号の階調領域をガンマ(γ補正)によって広げることによってコントラストを改善する機能を有している。
たとえば本実施形態のように、二次元コードや一次元バーコード、あるいは静脈認証、虹彩認証といったマシンビジョンに用いる場合は、必要な信号の階調のみをコントロールするために被写体近傍のエリアに対して階調拡張処理を行うことが可能である。
本実施形態に係る情報コード読取装置100は、このような撮像装置200を採用することにより、復元の画像処理を施さなくとも、JANコードのような1次元のバーコードとQRコードのような2次元のバーコードのような情報コードを的確に高精度で読み取ることが可能に構成されている。
情報コード読取装置100の撮像装置200は、図3に示すように、深度拡張光学系210A、撮像素子220、アナログフロントエンド部(AFE)230、画像処理装置240、カメラ信号処理部250、画像表示メモリ260、画像モニタリング装置270、操作部280、および制御装置290を有している。
図4は、本実施形態に係る深度拡張光学系を形成する撮像レンズユニットの基本構成を示す図である。
深度拡張光学系210Aは、被写体物体OBJを撮影した像を撮像素子220に供給する。また、深度拡張光学系210Aは、物体側から順に、第1レンズ211、第2レンズ212、第3レンズ213、絞り214、第4レンズ215、第5レンズ216が配置されている。
本実施形態の深度拡張光学系210Aは、第4レンズ215と第5レンズ216が接続されている。すなわち、本実施形態の深度拡張光学系210Aのレンズユニットは、接合レンズを含んで構成されている。
深度拡張光学系210Aは、被写体物体OBJを撮影した像を撮像素子220に供給する。また、深度拡張光学系210Aは、物体側から順に、第1レンズ211、第2レンズ212、第3レンズ213、絞り214、第4レンズ215、第5レンズ216が配置されている。
本実施形態の深度拡張光学系210Aは、第4レンズ215と第5レンズ216が接続されている。すなわち、本実施形態の深度拡張光学系210Aのレンズユニットは、接合レンズを含んで構成されている。
そして、本実施形態の深度拡張光学系210Aは、光波面変調素子(たとえば位相変調素子)を用いることにより物体距離に応じたOTFの変化を、光波面変調素子を持たない光学系よりも小さくする機能を有する。
そして、後段の画像処理装置240において、深度拡張光学系を通過することによって、必然的に小さくなるコントラストのダイナミックレンジを、γ特性カーブを操作することによって拡張する補正を行う。
これによって、画像の鮮明度を向上させることができ、深度拡張光学系の通過により劣化した画像の復元処理を実施しなくても、使用目的によっては画像が利用可能となる(情報コードの読み取りや静脈や虹彩の認証の分野)。
そして、後段の画像処理装置240において、深度拡張光学系を通過することによって、必然的に小さくなるコントラストのダイナミックレンジを、γ特性カーブを操作することによって拡張する補正を行う。
これによって、画像の鮮明度を向上させることができ、深度拡張光学系の通過により劣化した画像の復元処理を実施しなくても、使用目的によっては画像が利用可能となる(情報コードの読み取りや静脈や虹彩の認証の分野)。
そして、本実施形態の深度拡張光学系210Aは、光波面変調効果を生じさせる光波面変調機能を有する光波面変調面を適用した光学系として構成されている。
なお、光波面変調果は別素子の光波面変調素子(たとえば位相板)を挿入しても良い。
光波面変調面の例を示すと図4のようになり、通常の光学系に光波面変調面(第3レンズR2面)を含んだ形となっている。
ここでいう光波面変調面とは、光波面変調素子の持つ光波面変調効果をレンズ面に内包したものをいう。好適には光波面変調面213aは絞り214に隣接していることが好ましい。
なお、光波面変調果は別素子の光波面変調素子(たとえば位相板)を挿入しても良い。
光波面変調面の例を示すと図4のようになり、通常の光学系に光波面変調面(第3レンズR2面)を含んだ形となっている。
ここでいう光波面変調面とは、光波面変調素子の持つ光波面変調効果をレンズ面に内包したものをいう。好適には光波面変調面213aは絞り214に隣接していることが好ましい。
また、図4の下方に光波面変調面を形成する前と後の球面収差の変化を示しているが、光波面変調面を絞り214の近傍に、あるいは光波面変調面自身に絞り機能を持たせることにより、光波面変調面のみを最適化することで、物体が画面の中心に写る場合も周辺に写る場合も均一な画質とすることが可能となり、撮像装置の最終出力画像信号として性能の高い固定焦点レンズとすることができる。
以上、本実施形態に係る光学系の特徴的な構成、機能、効果について説明した。
以下に、撮像素子、画像処理部等の他の構成部分の構成、機能について説明する。
以下に、撮像素子、画像処理部等の他の構成部分の構成、機能について説明する。
撮像素子220は、たとえば、図4に示すように、第5レンズ216側から、ガラス製の平行平面板(カバーガラス)221と、CCDあるいはCMOSセンサ等からなる撮像素子の撮像面222が順に配置されている。
深度拡張光学系210Aを介した被写体OBJからの光が、撮像素子220の撮像面222上に結像される。
なお、撮像素子220で撮像される被写体分散像は、光波面変調面213aにより撮像素子220上ではピントが合わず、深度の深い光束とボケ部分が形成された像である。
深度拡張光学系210Aを介した被写体OBJからの光が、撮像素子220の撮像面222上に結像される。
なお、撮像素子220で撮像される被写体分散像は、光波面変調面213aにより撮像素子220上ではピントが合わず、深度の深い光束とボケ部分が形成された像である。
そして、図3に示すように撮像素子220は、深度拡張光学系210Aで取り込んだ像が結像され、結像1次画像情報を電気信号の1次画像信号FIMとして、アナログフロントエンド部230を介して画像処理装置240に出力するCCDやCMOSセンサからなる。
図3においては、撮像素子220を一例としてCCDとして記載している。
図3においては、撮像素子220を一例としてCCDとして記載している。
アナログフロントエンド部230は、タイミングジェネレータ231、アナログ/デジタル(A/D)コンバータ232と、を有する。
タイミングジェネレータ231では、撮像素子220のCCDの駆動タイミングを生成しており、A/Dコンバータ232は、CCDから入力されるアナログ信号をデジタル信号に変換し、画像処理装置240に出力する。
タイミングジェネレータ231では、撮像素子220のCCDの駆動タイミングを生成しており、A/Dコンバータ232は、CCDから入力されるアナログ信号をデジタル信号に変換し、画像処理装置240に出力する。
画像信号処理部の一部を構成する画像処理装置240は、前段のAFE230からくる撮像画像のデジタル信号を入力し、深度拡張光学系を通過することによって、必然的に小さくなるコントラストのダイナミックレンジを、γ特性カーブを操作することによって拡張する補正を行い、また必要に応じてエッジ強調等の画像処理を施し、深度拡張光学系201Aの深度拡張により低下した画像特性、たとえばコントラストを向上させ、後段のカメラ信号処理部(DSP)250に渡す。
このように、本実施形態の画像処理装置240は、コンボリューションフィルタによる画像復元は行わず、階調の拡大(階調を操作する処理)を行うことで所望のコントラストを得ることができる。
さらにこの階調の拡大を有効的に用いるために、深度拡張光学系210Aにおいて高周波成分の深度を伸ばしている。高周波成分を残しておけば、被写体のエッジ部分が残るために階調拡大によってエッジを損なうことなく低周波成分となるコントラストをノイズ増加を抑えながら効果的に上げることができる。
さらにこの階調の拡大を有効的に用いるために、深度拡張光学系210Aにおいて高周波成分の深度を伸ばしている。高周波成分を残しておけば、被写体のエッジ部分が残るために階調拡大によってエッジを損なうことなく低周波成分となるコントラストをノイズ増加を抑えながら効果的に上げることができる。
カメラ信号処理部(DSP)250は、カラー補間、ホワイトバランス、YCbCr変換処理、圧縮、ファイリング等の処理を行い、メモリ260への格納や画像モニタリング装置270への画像表示等を行う。
制御装置290は、露出制御を行うとともに、操作部280などの操作入力を持ち、それらの入力に応じて、システム全体の動作を決定し、AFE230、画像処理装置240、DSP250、絞り213等を制御し、システム全体の調停制御を司るものである。
以下、本実施形態の画像処理装置の構成および機能についてさらに具体的に説明する。
本実施形態においては、深度拡張光学系を採用し、高精細な画質を得ることが可能で、しかも、光学系を簡単化でき、コスト低減を図ることが可能となっている。
画像処理装置240は、上述したように、撮像素子220による1次画像FIMを受けて、γ特性カーブを変化させて階調を操作する処理を施し、深度拡張光学系201Aの深度拡張により低下した画像特性のコントラストを向上させて高精細な最終画像FNLIMを形成する。
本実施形態の画像処理装置240は、階調操作において、目標となる被写体のヒストグラムを元に最適化する機能を有する。
画像処理装置240は、階調操作において、目標となる被写体に含まれない領域の階調を除いて(使用しないで)最適化する機能を有する。
また、画像処理装置240は、階調の操作に応じて増大したノイズを除去する処理を行う機能を有する。
画像処理装置240は、階調の操作に応じて離散的になった階調の補間(補完)処理を行う機能を有する。
また、画像処理装置240は、目標となる被写体として、撮像素子220による画像信号から特徴部位を抽出して選択する機能を有している。
画像処理装置240は、階調操作において、目標となる被写体に含まれない領域の階調を除いて(使用しないで)最適化する機能を有する。
また、画像処理装置240は、階調の操作に応じて増大したノイズを除去する処理を行う機能を有する。
画像処理装置240は、階調の操作に応じて離散的になった階調の補間(補完)処理を行う機能を有する。
また、画像処理装置240は、目標となる被写体として、撮像素子220による画像信号から特徴部位を抽出して選択する機能を有している。
以下に、コンボリューションフィルタを用いず、階調拡大によってコントラストを回復する処理について具体的に説明する。
図5は、目標となる被写体像が理想光学系を通った場合の撮像素子の出力を示す図である。
図5において、たとえば、撮像素子220は8ビットセンサとし、黒の輝度を0、白の輝度を255とする。すなわち、撮像素子220は256階調のセンサである。
図6は、目標となる被写体像が通常光学系を通った撮像素子の出力を示す図である。
図6においても、たとえば、撮像素子220は8ビットセンサとし、黒の輝度を0、白の輝度を255とする。すなわち、撮像素子220は256階調のセンサである。
通常光学系の特徴は、アウトフォーカスしても低周波のレスポンスが高いために白ピークと黒ピークの劣化は小さい。
逆に、高周波成分はアウトフォーカスすることにより著しく劣化するためにエッジ成分はなくなる傾向がある。
通常光学系の特徴は、アウトフォーカスしても低周波のレスポンスが高いために白ピークと黒ピークの劣化は小さい。
逆に、高周波成分はアウトフォーカスすることにより著しく劣化するためにエッジ成分はなくなる傾向がある。
図7は、目標となる被写体像が深度拡張光学系を通った撮像素子の出力を示す図である。
図7においても、たとえば、撮像素子220は8ビットセンサとし、黒の輝度を0、白の輝度を255とする。すなわち、撮像素子220は256階調のビットセンサである。
深度拡張光学系の特徴は、ピント位置からアウトフォーカス位置までMTFの変化は小さく、低周波成分が通常光学系に比べて全域にわたって低くなる。そのために白ピークと黒ピークの劣化は大きくなる。逆に、高周波成分はアウトフォーカスしても変化が小さいためにエッジ成分は残る傾向がある。
深度拡張光学系の特徴は、ピント位置からアウトフォーカス位置までMTFの変化は小さく、低周波成分が通常光学系に比べて全域にわたって低くなる。そのために白ピークと黒ピークの劣化は大きくなる。逆に、高周波成分はアウトフォーカスしても変化が小さいためにエッジ成分は残る傾向がある。
図8(A),(B)は、たとえば被写体の目標として1次元バーコードの画像とヒストグラムを示す図である。
図9(A),(B)は、たとえば被写体の目標として1次元バーコードの画像が通常光学系を通ったシミュレーション画像を示す図である。
なおこのシミュレーション画像はピント位置ではなくアウトフォーカスした位置での画像となっている。
なおこのシミュレーション画像はピント位置ではなくアウトフォーカスした位置での画像となっている。
図10(A),(B)は、たとえば被写体の目標として1次元バーコードの画像が深度拡張光学系を通ったシミュレーション画像を示す図である。
なお、このシミュレーション画像はピント位置ではなくアウトフォーカスした位置での画像となっている。
図9と図10とを比較すると、深度拡張光学系においては、前述したとおり、白ピークと黒ピークの値が下がり、階調が通常光学系に比べて狭くなっていることが分かる。
なお、このシミュレーション画像はピント位置ではなくアウトフォーカスした位置での画像となっている。
図9と図10とを比較すると、深度拡張光学系においては、前述したとおり、白ピークと黒ピークの値が下がり、階調が通常光学系に比べて狭くなっていることが分かる。
図11(A),(B)は、図9(A),(B)の画像を階調拡大したシミュレーション画像とヒストグラムを示す図である。
図12(A),(B)は、図10(A),(B)の画像を階調拡大したシミュレーション画像とヒストグラムを示す図である。
図12の画像と図11の画像と見比べると、図12の深度拡張光学系においては通常光学系と比べてエッジが残っていることがわかる。
図12(A),(B)は、図10(A),(B)の画像を階調拡大したシミュレーション画像とヒストグラムを示す図である。
図12の画像と図11の画像と見比べると、図12の深度拡張光学系においては通常光学系と比べてエッジが残っていることがわかる。
図13(A)〜(C)は、階調拡大によって抜けている階調を補完した例を示す図であって、図13(A)は元階調データを、図13(B)は階調拡張データを、図13(C)は階調拡張データの補完結果を示す図である。
このように、階調拡張データを画像処理により補完することができる。
このように、階調拡張データを画像処理により補完することができる。
図14は、本実施形態に係る階調拡張(拡大)を行う処理のフローチャートを示す図である。
この場合、対象被写体領域を検出し(ST1)、対象被写体の使用階調を拡張する処理を行う(ST2)。
そして、階調補完処理を行い(ST3)、エッジ強調等の画像処理を行う(ST4)。
そして、階調補完処理を行い(ST3)、エッジ強調等の画像処理を行う(ST4)。
本実施形態において、画像処理装置240は、目標となる被写体のヒストグラムを拡張し、γ補正を行って、画像を最適化する。
図15(A),(B)は、通常光学系と深度拡張光学系による画像のヒストグラム拡張とγ補正のシミュレーション結果を比較して示す図であって、図15(A)は通常光学系による画像のシミュレーション結果を、図15(B)が深度拡張光学系による画像のシミュレーション結果を示している。
図からわかるように、深度拡張光学系を用い画像処理装置240によるγ補正を行った方向が、画像をより最適化することができる。
図15(A),(B)は、通常光学系と深度拡張光学系による画像のヒストグラム拡張とγ補正のシミュレーション結果を比較して示す図であって、図15(A)は通常光学系による画像のシミュレーション結果を、図15(B)が深度拡張光学系による画像のシミュレーション結果を示している。
図からわかるように、深度拡張光学系を用い画像処理装置240によるγ補正を行った方向が、画像をより最適化することができる。
次に、画像処理装置240におけるエッジ強調処理を含むMTF補正処理について説明する。
画像処理装置240のMTF補正処理は、たとえば図16の曲線Aで示すように、本質的に低い値になっている1次画像のMTFを、空間周波数をパラメータとしてエッジ強調、クロマ強調等の後処理にて、図16中曲線Bで示す特性に近づく(達する)ような補正を行う。
図16中曲線Bで示す特性は、たとえば本実施形態のように、光波面変調面(例えば、位相変調面)または光波面変調素子(例えば、位相変調素子)を用いずに波面を変形させない場合に得られる特性である。
なお、本実施形態における全ての補正は、空間周波数のパラメータによる。
図16中曲線Bで示す特性は、たとえば本実施形態のように、光波面変調面(例えば、位相変調面)または光波面変調素子(例えば、位相変調素子)を用いずに波面を変形させない場合に得られる特性である。
なお、本実施形態における全ての補正は、空間周波数のパラメータによる。
本実施形態においては、図16に示すように、光学的に得られる空間周波数に対するMTF特性曲線Aに対して、最終的に実現したいMTF特性曲線Bを達成するためには、それぞれの空間周波数に対し、図17に示すようにエッジ強調等の強弱を付け、元の画像(1次画像)に対して補正をかける。
たとえば、図16のMTF特性の場合、空間周波数に対するエッジ強調の曲線は、図17に示すようになる。
たとえば、図16のMTF特性の場合、空間周波数に対するエッジ強調の曲線は、図17に示すようになる。
すなわち、空間周波数の所定帯域内における低周波数側および高周波数側でエッジ強調を弱くし、中間周波数領域においてエッジ強調を強くして補正を行うことにより、所望のMTF特性曲線Bを仮想的に実現する。
このように、実施形態に係る撮像装置200は、基本的に、1次画像を形成する深度拡張光学系210Aおよび撮像素子220と、1次画像を高精細な最終画像に形成する画像処理装置240からなり、光学系システムの中に、光波面変調素子を新たに設けるか、またはガラス、プラスチックなどのような光学素子の面を光波面変調用に成形したものを設けることにより、光波面変調効果を生じさせて結像の波面を変形(変調)し、そのような波面をCCDやCMOSセンサからなる撮像素子220の撮像面(受光面)に結像させ、その結像1次画像を、画像処理装置240を通して高精細画像を得る画像形成システムである。
本実施形態では、撮像素子220による1次画像は深度が非常に深い光束条件にしている。そのために、1次画像のMTFは本質的に低い値になっており、そのMTFの補正を画像処理装置240で行う。
本実施形態では、撮像素子220による1次画像は深度が非常に深い光束条件にしている。そのために、1次画像のMTFは本質的に低い値になっており、そのMTFの補正を画像処理装置240で行う。
次に、本実施形態および通常光学系のMTFのレスポンスについて考察する。
図18は、通常の光学系の場合において物体が焦点位置にあるときと焦点位置から外れたときのMTFのレスポンス(応答)を示す図である。
図19は、光波面変調素子(例えば、位相変調素子)を有する本実施形態の光学系の場合において物体が焦点位置にあるときと焦点位置から外れたときのMTFのレスポンスを示す図である。
また、図20は、本実施形態に係る撮像装置の画像処理後のMTFのレスポンスを示す図である。
図19は、光波面変調素子(例えば、位相変調素子)を有する本実施形態の光学系の場合において物体が焦点位置にあるときと焦点位置から外れたときのMTFのレスポンスを示す図である。
また、図20は、本実施形態に係る撮像装置の画像処理後のMTFのレスポンスを示す図である。
図からもわかるように、光波面変調面(位相変調面)または光波面変調素子を有する光学系の場合、物体が焦点位置から外れた場合でもMTFのレスポンスの変化が光波面変調面または光波面変調素子を挿入してない光学系よりも少なくなる。
この光学系によって結像された画像を、後段の画像処理装置240によって画像処理することにより、MTFのレスポンスが向上させることができる。
ただし、画像処理を行うとノイズが増加してしまう場合には、好適にはMTFのレスポンスを向上させるような画像処理は行わないようにすることも可能である。
上述したように、目的に応じて意図的に光波面(位相)を変調させる光学系を深度拡張光学系という。
この光学系によって結像された画像を、後段の画像処理装置240によって画像処理することにより、MTFのレスポンスが向上させることができる。
ただし、画像処理を行うとノイズが増加してしまう場合には、好適にはMTFのレスポンスを向上させるような画像処理は行わないようにすることも可能である。
上述したように、目的に応じて意図的に光波面(位相)を変調させる光学系を深度拡張光学系という。
図19に示した、深度拡張光学系のOTFの絶対値(MTF)はナイキスト周波数において0.1以上であることが好ましい。
なぜなら、図20に示した復元後のOTFを達成するためには画像処理でゲインを上げることになるが、センサのノイズも同時に上げることになる。そのため、ナイキスト周波数付近の高周波ではできるたけゲインを上げずに画像処理を行うことが好ましい。
通常の光学系の場合、ナイキスト周波数でのMTFが0.1以上あれば解像する。
したがって、画像処理前のMTFが0.1以上あれば、画像処理でナイキスト周波数でのゲインを上げずに済む。画像処理前のMTFが0.1未満であると、画像処理後の画像がノイズの影響を大きく受けた画像になるため好ましくない。
なぜなら、図20に示した復元後のOTFを達成するためには画像処理でゲインを上げることになるが、センサのノイズも同時に上げることになる。そのため、ナイキスト周波数付近の高周波ではできるたけゲインを上げずに画像処理を行うことが好ましい。
通常の光学系の場合、ナイキスト周波数でのMTFが0.1以上あれば解像する。
したがって、画像処理前のMTFが0.1以上あれば、画像処理でナイキスト周波数でのゲインを上げずに済む。画像処理前のMTFが0.1未満であると、画像処理後の画像がノイズの影響を大きく受けた画像になるため好ましくない。
以上説明したように、本実施形態によれば、光波面変調機能を含む深度拡張機能を有する深度拡張光学系210Aおよび撮像素子220と、1次画像を高精細な最終画像に形成する画像処理装置240とを含み、画像処理装置240は、前段のAFE230からくる撮像画像のデジタル信号を入力し、深度拡張光学系を通過することによって、必然的に小さくなるコントラストのダイナミックレンジを、γ特性カーブを操作することによって拡張する補正を行い、また必要に応じてエッジ強調等の画像処理を施し、深度拡張光学系201Aの深度拡張により低下した画像特性、たとえばコントラストを向上させることから、コンボリューションフィルタ処理当の画像復元処理を施さなくても深度拡張した画像から、適切な画質の、ノイズの影響が小さい良好な画像を得ることが可能となる。
また、難度が高く、高価でかつ大型化した光学レンズを必要とせずに、かつ、レンズを駆動させること無く、自然な画像を得ることができる利点がある。
そして、本実施形態に係る撮像装置200は、デジタルカメラやカムコーダー等の民生機器の小型、軽量、コストに考慮が必要な光学システムに使用することが可能である。
また、深度拡張光学系210Aの構成を簡単化でき、製造が容易となり、コスト低減を図ることができる。
そして、本実施形態に係る撮像装置200は、デジタルカメラやカムコーダー等の民生機器の小型、軽量、コストに考慮が必要な光学システムに使用することが可能である。
また、深度拡張光学系210Aの構成を簡単化でき、製造が容易となり、コスト低減を図ることができる。
200・・・撮像装置、210A・・・深度拡張光学系、211・・・第1レンズ、212・・・第2レンズ、213・・・第3レンズ、213a・・・光波面変調面、214・・・絞り、215・・・第4レンズ、220・・・撮像素子、230・・・アナログフロントエンド部(AFE)、240・・・画像処理装置、250・・・カメラ信号処理部、280・・・操作部、290・・・制御装置。
Claims (8)
- 光波面変調素子を含み深度拡張機能を有する深度拡張光学系と、
前記深度拡張光学系を通過した被写体像を撮像する撮像素子と、
前記撮像素子から得られた画像信号に対して所定の画像処理を施す画像信号処理部と、を有し、
前記画像信号処理部は、
前記画像信号の少なくともガンマ特性を変化させて階調を操作する処理を行う
撮像装置。 - 前記画像信号処理部は、
前記階調操作において、目標となる被写体のヒストグラムを元に最適化する
請求項1記載の撮像装置。 - 前記画像信号処理部は、
前記階調操作において、目標となる被写体に含まれない領域の階調を除いて最適化する
請求項1記載の撮像装置。 - 前記画像信号処理部は、
前記階調の操作に応じて増大したノイズを除去する処理を行う
請求項1から3のいずれか一に記載の撮像装置。 - 前記画像信号処理部は、
前記階調の操作に応じて離散的になった階調の補間処理を行う
請求項1から4のいずれか一に記載の撮像装置。 - 前記画像信号処理部は、
目標となる被写体として、前記画像信号から特徴部位を抽出して選択する
請求項1から5のいずれか一に記載の撮像装置。 - 光波面変調素子を含み深度拡張機能を有する深度拡張光学系を通過した被写体像を撮像素子で撮像して得られた画像信号に所定の画像処理を施す画像処理方法であって、
前記画像信号の少なくともガンマ特性を変化させて階調を操作する処理を行う
画像処理方法。 - 情報コードを光学的に読み取る情報コード読取装置であって、
光波面変調素子を含み深度拡張機能を有する深度拡張光学系と、
前記深度拡張光学系を通過した被写体像を撮像する撮像素子と、
前記撮像素子から得られた画像信号に対して所定の画像処理を施す画像信号処理部と、を有し、
前記画像信号処理部は、
前記画像信号の少なくともガンマ特性を変化させて階調を操作する処理を行う
情報コード読取装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007338252A JP2009159536A (ja) | 2007-12-27 | 2007-12-27 | 撮像装置、画像処理方法、および情報コード読取装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007338252A JP2009159536A (ja) | 2007-12-27 | 2007-12-27 | 撮像装置、画像処理方法、および情報コード読取装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2009159536A true JP2009159536A (ja) | 2009-07-16 |
Family
ID=40962988
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2007338252A Pending JP2009159536A (ja) | 2007-12-27 | 2007-12-27 | 撮像装置、画像処理方法、および情報コード読取装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2009159536A (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2011102281A1 (ja) * | 2010-02-22 | 2011-08-25 | ソニー株式会社 | 画像信号処理回路、撮像装置、画像信号処理方法、およびプログラム |
-
2007
- 2007-12-27 JP JP2007338252A patent/JP2009159536A/ja active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2011102281A1 (ja) * | 2010-02-22 | 2011-08-25 | ソニー株式会社 | 画像信号処理回路、撮像装置、画像信号処理方法、およびプログラム |
US9041830B2 (en) | 2010-02-22 | 2015-05-26 | Sony Corporation | Image signal processing circuit, image capture device, image signal processing method, and program |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8605192B2 (en) | Imaging apparatus and electronic device including an imaging apparatus | |
JP4712631B2 (ja) | 撮像装置 | |
JP5528173B2 (ja) | 画像処理装置、撮像装置および画像処理プログラム | |
JP4663737B2 (ja) | 撮像装置およびその画像処理方法 | |
JP4818957B2 (ja) | 撮像装置およびその方法 | |
US8773778B2 (en) | Image pickup apparatus electronic device and image aberration control method | |
JP5213688B2 (ja) | 撮像装置 | |
JP2015211319A (ja) | 画像処理装置、その制御方法、および制御プログラム | |
JP2008017157A (ja) | 撮像装置、並びにその製造装置および製造方法 | |
JP2009260620A (ja) | 画像処理装置及び画像処理方法 | |
JP2007206738A (ja) | 撮像装置およびその方法 | |
JP2009086017A (ja) | 撮像装置および撮像方法 | |
US10235742B2 (en) | Image processing apparatus, image capturing apparatus, image processing method, and non-transitory computer-readable storage medium for adjustment of intensity of edge signal | |
JP5479123B2 (ja) | 撮像装置および電子機器 | |
JP4818956B2 (ja) | 撮像装置およびその方法 | |
JP5809387B2 (ja) | 撮像装置および電子機器 | |
JP6436840B2 (ja) | 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体 | |
JP2009159536A (ja) | 撮像装置、画像処理方法、および情報コード読取装置 | |
JP2009134023A (ja) | 撮像装置および情報コード読取装置 | |
JP2009033561A (ja) | 情報コード読取装置およびその方法 | |
JP2011133593A (ja) | 撮像装置 | |
JP4722748B2 (ja) | 撮像装置およびその画像生成方法 | |
JP5198052B2 (ja) | 撮像装置および画像処理方法 | |
JP2008167040A (ja) | 撮像装置、その製造装置および製造方法、並びに情報コード読取装置 | |
JP2010109625A (ja) | 撮像装置および電子機器 |