JP2011211436A - 撮像画像処理装置 - Google Patents
撮像画像処理装置 Download PDFInfo
- Publication number
- JP2011211436A JP2011211436A JP2010076299A JP2010076299A JP2011211436A JP 2011211436 A JP2011211436 A JP 2011211436A JP 2010076299 A JP2010076299 A JP 2010076299A JP 2010076299 A JP2010076299 A JP 2010076299A JP 2011211436 A JP2011211436 A JP 2011211436A
- Authority
- JP
- Japan
- Prior art keywords
- image
- optical system
- image processing
- aberration
- aberration control
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Television Systems (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
- Image Processing (AREA)
Abstract
【課題】奥行きのある被写体についても高解像度化することが可能で、通信速度の向上を図れ、プライバシーを保護することが可能な撮像画像処理装置を提供する。
【解決手段】収差を発生させる収差制御機能を有する収差制御光学系と、収差制御光学系を通過した被写体像を撮像する撮像素子と、を含む撮像装置20と、撮像素子で撮像された複数の画像データを受信し、その複数の受信データの標本化位置のずれを検出して画像の高解像度化を行う第1の画像処部を含む情報受信装置40と、高解像度化された画像に対して収差制御光学系の収差により低下したコントラストを向上し、表示する第2の画像処理部を含む画像表示装置50と、を有する。
【選択図】図3
【解決手段】収差を発生させる収差制御機能を有する収差制御光学系と、収差制御光学系を通過した被写体像を撮像する撮像素子と、を含む撮像装置20と、撮像素子で撮像された複数の画像データを受信し、その複数の受信データの標本化位置のずれを検出して画像の高解像度化を行う第1の画像処部を含む情報受信装置40と、高解像度化された画像に対して収差制御光学系の収差により低下したコントラストを向上し、表示する第2の画像処理部を含む画像表示装置50と、を有する。
【選択図】図3
Description
本発明は、低解像度の画像を高解像度化した画像として表示する撮像画像処理装置に関するものである。
この種の技術分野に関し、特許文献1には「画像解像拡張処理にかかる演算量を軽減しつつ、画像間の動き検出の精度を向上させる。」ことを課題とし、その解決手段としての画像復号装置が開示されている。
この画像像復号装置は、ビデオ符号化データを受信し復号して複数の再生画像を得るビデオデータ復号手段と、補助データを受信し復号して補助動き情報を得る補助データ復号手段と、補助データ復号手段により得られた補助動き情報に基づいて、複数の再生画像間の時空間対応を表す動きベクトルを生成し、生成した動きベクトルとビデオデータ復号手段により得られた複数の再生画像とを用いて、複数の再生画像よりも空間解像度の高い高解像画像を生成する解像度拡張手段とを備える、ことが記載されている。
この画像像復号装置は、ビデオ符号化データを受信し復号して複数の再生画像を得るビデオデータ復号手段と、補助データを受信し復号して補助動き情報を得る補助データ復号手段と、補助データ復号手段により得られた補助動き情報に基づいて、複数の再生画像間の時空間対応を表す動きベクトルを生成し、生成した動きベクトルとビデオデータ復号手段により得られた複数の再生画像とを用いて、複数の再生画像よりも空間解像度の高い高解像画像を生成する解像度拡張手段とを備える、ことが記載されている。
近年、画像表示装置の改善により、高画素数での表示が可能となっている。
たとえば、横1920画素、縦1080画素の画像を表示可能な表示装置が存在する。
一方、放送局から送出される画像の大きさは、横720画素、縦480画素程度のものが多い。また、市販されているDVDから再生可能な画像のサイズも、最大で縦720画素、横480画素である。
このように、多くの一般的な画像の大きさより、表示装置が表示可能な画素数の方が大きいという状態が生じている。
たとえば、横1920画素、縦1080画素の画像を表示可能な表示装置が存在する。
一方、放送局から送出される画像の大きさは、横720画素、縦480画素程度のものが多い。また、市販されているDVDから再生可能な画像のサイズも、最大で縦720画素、横480画素である。
このように、多くの一般的な画像の大きさより、表示装置が表示可能な画素数の方が大きいという状態が生じている。
このため、解像度の低い画像データを用いて高解像度の画像を生成する方法として、超解像(super resolution)技術が広く知られており、非特許文献1にはその広い技術分野の概要が記載されている。
また、非特許文献2には、カメラの手ぶれなどによる制御されない位置ずれをもつ複数のデジタル画像を入力し、入力画像以上の解像度を持つ1枚の高解像度画像を出力する技術が記載されている。
また、非特許文献2には、カメラの手ぶれなどによる制御されない位置ずれをもつ複数のデジタル画像を入力し、入力画像以上の解像度を持つ1枚の高解像度画像を出力する技術が記載されている。
図1は、従来の超解像技術の処理系を示す図である。
図1の処理系において、光学系1により撮影した画像データを画像バッファ2に蓄積する。
位置検出部3により、画像バッファ2にたまったそれぞれの画像データの標本化位置のずれ量Δ1、Δ2、Δ3をサブピクセル精度で検出する。
重み係数算出部4により、それぞれの画像データの重みW1、W2、W3を算出する。
広帯域LPF処理部5により、各画像データの折り返し成分も含め原信号の高周波成分をすべて透過する帯域の広いローパスフィルタを用いて、画像データを高密度化する。
高解像度化処理部6により、各高密度化データの標本化位置に応じた重みを使った加重和をとることにより折り返し歪みを打ち消し、原信号の高周波成分を復元する。
図1の処理系において、光学系1により撮影した画像データを画像バッファ2に蓄積する。
位置検出部3により、画像バッファ2にたまったそれぞれの画像データの標本化位置のずれ量Δ1、Δ2、Δ3をサブピクセル精度で検出する。
重み係数算出部4により、それぞれの画像データの重みW1、W2、W3を算出する。
広帯域LPF処理部5により、各画像データの折り返し成分も含め原信号の高周波成分をすべて透過する帯域の広いローパスフィルタを用いて、画像データを高密度化する。
高解像度化処理部6により、各高密度化データの標本化位置に応じた重みを使った加重和をとることにより折り返し歪みを打ち消し、原信号の高周波成分を復元する。
超解像の原理としては、以下の通りである。
3つの標本化位置が異なる信号(Δ1、Δ2、Δ3)を考える。
図2のように標本化位置の異なる信号のフーリエ変換は、原信号の位相はすべて一致し、折り返し成分の位相はサンプリング位相の差に応じて回転することが知られている。
ここで3つ信号の重み係数Wkが、次の関係を満たすように加重和をとれば、折り返し成分はすべて打ち消され、原成分が高調波成分も含めて復元される。
3つの標本化位置が異なる信号(Δ1、Δ2、Δ3)を考える。
図2のように標本化位置の異なる信号のフーリエ変換は、原信号の位相はすべて一致し、折り返し成分の位相はサンプリング位相の差に応じて回転することが知られている。
ここで3つ信号の重み係数Wkが、次の関係を満たすように加重和をとれば、折り返し成分はすべて打ち消され、原成分が高調波成分も含めて復元される。
S.C. Park, M.K. Park, M.G. Kang: "Super-Resolution Image Reconstruction:A Technical overview," IEEE Signal Processing Magazine, vol.20, no.3, pp.21-36, 2003.
"複数のデジタル画像データによる超解像処理", Ricoh Technical Report pp. 19-25, No.24, NOVEMVER, 1998.
ところが、上述した超解像技術において、たとえば2倍の高解像度化を実現するためには、原信号にはナイキスト周波数の2倍の帯域の折返し成分が含まれている必要がある。
したがって、従来技術では、奥行きのある被写体を撮影した場合、ピントの外れた箇所では、現信号にナイキスト周波数の2倍の帯域の折返し成分が含まれないため、高解像度化することができない。
また、高解像度化した画像を転送/表示する際、通信速度に問題が起きる。
さらに、画像の転送を行った場合、プライバシーの問題が生じる。
したがって、従来技術では、奥行きのある被写体を撮影した場合、ピントの外れた箇所では、現信号にナイキスト周波数の2倍の帯域の折返し成分が含まれないため、高解像度化することができない。
また、高解像度化した画像を転送/表示する際、通信速度に問題が起きる。
さらに、画像の転送を行った場合、プライバシーの問題が生じる。
本発明は、奥行きのある被写体についても高解像度化することが可能で、通信速度の向上を図れ、プライバシーを保護することが可能な撮像画像処理装置を提供することにある。
本発明の観点の撮像画像処理装置は、収差を発生させる収差制御機能を有する収差制御光学系と、前記収差制御光学系を通過した被写体像を撮像する撮像素子と、前記撮像素子で撮像された複数の画像データを受信し、当該複数の受信データの標本化位置のずれを検出して画像の高解像度化を行う第1の画像処部と、前記高解像度化された画像に対して前記収差制御光学系の収差により低下したコントラストを向上し、表示する第2の画像処理部と、を有する。
好適には、前記収差制御光学系は、ディフォーカスに対するMTF特性において複数のピークを有する。
好適には、前記収差制御光学系において発生させる主たる収差は光軸を中心に回転対象な球面収差で、少なくとも一つの変曲点を有する。
好適には、前記第2の画像処理部は、記憶部をさらに有し、前記光学的伝達関数の逆関数に関するデータを前記記憶部に記憶する。
好適には、前記第1の画像処理部は、前記高解像度化された画像を送信する送信部を含み、第2の画像処理部は、前記高解像度化された画像を受信する受信部を含み、前記第1の画像処理部から前記第2の画像処理部への通信によって前記高解像度化された画像が送信される。
本発明によれば、奥行きのある被写体についても高解像度化することが可能で、通信速度の向上を図れ、しかもプライバシーを保護することが可能となる。
以下、本発明の実施形態を添付図面に関連付けて説明する。
図3は、本発明の実施形態に係る撮像画像処理装置の構成例を示す図である。
本撮像画像処理装置10は、図3に示すように、撮像装置20、情報送信装置30、第1の画像処理部を含む情報受信装置40、および第2の画像処理部としての画像表示装置50を有する。
本実施形態に係る撮像装置20は、収差光学系と撮像素子を含んで構成される。
撮像装置20は、光学系に収差制御面、または収差制御素子を適用し、収差制御素子により収差(本実施形態においては球面収差)を意図的に発生させ、ディフォーカスに対する変調伝達関数(MTF:Modulation Transfer Function)において、任意の周波数の主像面シフト領域で1つではなく、2つ以上のピークを持たせることで、MTFピーク値の低下を抑えつつ深度拡張を可能にする収差制御光学系システム採用している。
撮像装置20は、光学系に収差制御面、または収差制御素子を適用し、収差制御素子により収差(本実施形態においては球面収差)を意図的に発生させ、ディフォーカスに対する変調伝達関数(MTF:Modulation Transfer Function)において、任意の周波数の主像面シフト領域で1つではなく、2つ以上のピークを持たせることで、MTFピーク値の低下を抑えつつ深度拡張を可能にする収差制御光学系システム採用している。
情報送信装置30は、撮像装置20の収差制御機能により深度を拡張して撮像素子で撮像した複数枚の画像を送信情報受信装置40に送信する。
情報受信装置40で、送信された複数の画像の標本化位置のずれを検出して画像の高解像度化を行う。
情報受信装置40は、高解像度化した画像を画像表示装置5に送信する。
画像表示装置50は、高解像度化された画像に対して収差制御光学系の光学的伝達関数(OTF:Optical Transfer Function)の逆関数をかけて収差(ボケ)のない画像信号を復元し、表示デバイスに表示する。
情報受信装置40で、送信された複数の画像の標本化位置のずれを検出して画像の高解像度化を行う。
情報受信装置40は、高解像度化した画像を画像表示装置5に送信する。
画像表示装置50は、高解像度化された画像に対して収差制御光学系の光学的伝達関数(OTF:Optical Transfer Function)の逆関数をかけて収差(ボケ)のない画像信号を復元し、表示デバイスに表示する。
このように、本実施形態の撮像画像処理装置10においては、収差制御制御素子を備えた光学系を用いる。収差制御素子を備えた光学系の特徴として、ディフォーカスのMTF(OTFの絶対値)のピークを2つ以上有することにより、従来の光学系よりも幅広い物体距離に対して、高周波成分が維持される。
したがって、従来の光学系では実現することができなかった、奥行きのある被写体についても高解像度化することが可能となる。
また、標本化位置のずれを検出する検出機能を利用し、動作する物体のみ画像を高解像度化することにより、画像サイズを小さくすることができ、通信速度の問題を解消することが可能となる。
さらに、転送された画像に対し、復元処理を加えることにより、許可された人物のみが閲覧可能となり、プライバシーの問題を解消することが可能となる。
したがって、従来の光学系では実現することができなかった、奥行きのある被写体についても高解像度化することが可能となる。
また、標本化位置のずれを検出する検出機能を利用し、動作する物体のみ画像を高解像度化することにより、画像サイズを小さくすることができ、通信速度の問題を解消することが可能となる。
さらに、転送された画像に対し、復元処理を加えることにより、許可された人物のみが閲覧可能となり、プライバシーの問題を解消することが可能となる。
以下、本撮像画像処理装置10の特徴的構成を有する要部の構成、機能について具体的に説明する。
図4は、本実施形態に係る撮像装置20の構成例を示す図である。
本実施形態の撮像装置20は、図4に示すように、収差を発生させる収差制御機能を有する収差制御光学系210と、収差制御光学系210を通過した被写体像を撮像する撮像素子220と、を含んで構成される。
図4は、本実施形態に係る収差制御光学系を形成する撮像レンズユニットの基本構成を示している。
収差制御光学系210は、被写体物体OBJを撮影した像を撮像素子220に供給する。また、収差制御光学系210は、物体側から順に、第1レンズ211、第2レンズ212、第3レンズ213、絞り214、第4レンズ215、第5レンズ216が配置されている。
本実施形態の収差制御光学系210は、第4レンズ215と第5レンズ216が接続されている。すなわち、本実施形態の収差制御光学系210のレンズユニットは、接合レンズを含んで構成されている。
収差制御光学系210は、被写体物体OBJを撮影した像を撮像素子220に供給する。また、収差制御光学系210は、物体側から順に、第1レンズ211、第2レンズ212、第3レンズ213、絞り214、第4レンズ215、第5レンズ216が配置されている。
本実施形態の収差制御光学系210は、第4レンズ215と第5レンズ216が接続されている。すなわち、本実施形態の収差制御光学系210のレンズユニットは、接合レンズを含んで構成されている。
そして、本実施形態の収差制御光学系210は、収差を意図的に発生させる収差制御機能を有する収差制御面を適用した光学系として構成されている。
本実施形態においては、球面収差のみを発生させるために、収差制御面を挿入する必要がある。なお、収差制御効果は別素子の収差制御素子を挿入しても良い。
その例を示すと図4のようになり、通常の光学系に収差制御面(第3レンズR2面)を含んだ形となっている。
好適には収差制御面213aは絞り214に隣接していることが好ましい。
収差制御素子を絞り214の近傍に、あるいは収差制御面自身に絞り機能を持たせることにより、収差制御面を最適化することで、物体が画面の中心に写る場合も周辺に写る場合も均一な画質とすることが可能となり、撮像装置の最終出力画像信号として性能の高い固定焦点レンズとすることができる。
収差制御面は、物体距離に応じたOTFを制御することにより、必要な物体距離に対して必要なOTFを維持する作用を持つ。
本実施形態においては、球面収差のみを発生させるために、収差制御面を挿入する必要がある。なお、収差制御効果は別素子の収差制御素子を挿入しても良い。
その例を示すと図4のようになり、通常の光学系に収差制御面(第3レンズR2面)を含んだ形となっている。
好適には収差制御面213aは絞り214に隣接していることが好ましい。
収差制御素子を絞り214の近傍に、あるいは収差制御面自身に絞り機能を持たせることにより、収差制御面を最適化することで、物体が画面の中心に写る場合も周辺に写る場合も均一な画質とすることが可能となり、撮像装置の最終出力画像信号として性能の高い固定焦点レンズとすることができる。
収差制御面は、物体距離に応じたOTFを制御することにより、必要な物体距離に対して必要なOTFを維持する作用を持つ。
このように、本実施形態の収差制御光学系210は、収差制御機能を有する収差制御面を内包する収差制御光学系を用いてPSFを2画素以上にまたがるようにし、所定の周波数において偽解像しない主像面シフト領域でディフォーカスに対するMTF特性が2つ以上のピークを持つ深度拡張光学系として構成される。
一般的な光波面変調機能を用いた深度拡張光学系ではMTF特性において1つのピークの裾野を広げて深度を拡張するが、これではそれと引き換えにMTF特性のピーク値が下がってしまう。
本実施形態においては、収差制御機能を用いてピークを複数持つようにすることで、ピーク値の低下を抑えつつ深度拡張を実現できる。
なお、球面収差を適切に制御することで画像復元処理を施さなくても深度拡張することができる。
具体的には、本実施形態の収差制御光学系210は、主に球面収差を発生させる収差制御素子、または収差制御面によりディフォーカスに対するMTFのピークを複数に分ける(ここでは2分)することでアウトフォーカスにおける深度を拡張する。そして、ピークを分割するために、球面収差に変曲点を持たせる。
以下、この収差制御光学系210の特徴的な構成、機能についてさらに詳述する。
一般的な光波面変調機能を用いた深度拡張光学系ではMTF特性において1つのピークの裾野を広げて深度を拡張するが、これではそれと引き換えにMTF特性のピーク値が下がってしまう。
本実施形態においては、収差制御機能を用いてピークを複数持つようにすることで、ピーク値の低下を抑えつつ深度拡張を実現できる。
なお、球面収差を適切に制御することで画像復元処理を施さなくても深度拡張することができる。
具体的には、本実施形態の収差制御光学系210は、主に球面収差を発生させる収差制御素子、または収差制御面によりディフォーカスに対するMTFのピークを複数に分ける(ここでは2分)することでアウトフォーカスにおける深度を拡張する。そして、ピークを分割するために、球面収差に変曲点を持たせる。
以下、この収差制御光学系210の特徴的な構成、機能についてさらに詳述する。
図5(A)、(B)および図6(A),(B)は、本実施形態に係る収差制御光学系の球面収差発生量について説明するための図である。
図5は撮像素子(センサ)を固定したときのセンサと点像強度分布(PSF:Point−Spread−Function)との関係を示し、図6は収差制御光学系を固定したときのセンサとPSFとの関係を示している。
図5は撮像素子(センサ)を固定したときのセンサと点像強度分布(PSF:Point−Spread−Function)との関係を示し、図6は収差制御光学系を固定したときのセンサとPSFとの関係を示している。
たとえば、撮像素子220はある画素ピッチを有するセンサであるとする。その場合に、本実施形態では、球面収差を発生させてPSFを1画素PXLより大きくする必要がある。
図5(A)および図6(A)に示すように、1画素PXLの中にPSFが納まってしまうサイズで球面収差を発生させてもそれは通常の光学系と同じである。通常光学系では一般的にピント位置の中心PSFのサイズが最小となる。
これに対して、本実施形態に係る収差制御光学系210では、図5(B)に示すように、PSFはアウトフォーカスに限らずピント位置までも1画素PXLに収まらないサイズに制御される。
図5(A)および図6(A)に示すように、1画素PXLの中にPSFが納まってしまうサイズで球面収差を発生させてもそれは通常の光学系と同じである。通常光学系では一般的にピント位置の中心PSFのサイズが最小となる。
これに対して、本実施形態に係る収差制御光学系210では、図5(B)に示すように、PSFはアウトフォーカスに限らずピント位置までも1画素PXLに収まらないサイズに制御される。
次に、収差制御光学系に適した撮像素子(センサ)選定について説明する。
たとえばあるPSFサイズを持った収差制御光学系があるとすると、図6(B)に示すように、センサの画素ピッチがPSFのサイズより小さいものを選ぶことが好ましい。
仮に画素ピッチがPSFより大きいものを選んだとすると通常光学系と同じとなってしまい、そこがピントとなってしまう。よって、その場合、収差制御光学系の球面収差の効果を有効に得ることができない。
たとえばあるPSFサイズを持った収差制御光学系があるとすると、図6(B)に示すように、センサの画素ピッチがPSFのサイズより小さいものを選ぶことが好ましい。
仮に画素ピッチがPSFより大きいものを選んだとすると通常光学系と同じとなってしまい、そこがピントとなってしまう。よって、その場合、収差制御光学系の球面収差の効果を有効に得ることができない。
図7(A)〜(C)は、通常光学系および本実施形態に係る収差制御光学系のディフォーカスに対するMTFの状態を示す図である。
図7(A)は通常光学系のディフォーカスに対するMTFの状態を示し、図7(B)は本実施形態に係る収差制御光学系のディフォーカスに対するMTFの状態を示し、図7(C)は1つのピークを拡大したディフォーカスに対するMTFの状態を示している。
図7(A)は通常光学系のディフォーカスに対するMTFの状態を示し、図7(B)は本実施形態に係る収差制御光学系のディフォーカスに対するMTFの状態を示し、図7(C)は1つのピークを拡大したディフォーカスに対するMTFの状態を示している。
通常の光学系では、図7(A)に示すように、ピント位置が一つで中心にある。両サイドにある二つ目の山は落ちきって反転しているため、偽解像となる。
そのため、解像する領域は網掛けで示す主像面シフト領域MSARとなる。通常光学系の1つのピークを深度拡張すると、図7(C)に示すように、MTFは大きく劣化してしまう。
そのため、解像する領域は網掛けで示す主像面シフト領域MSARとなる。通常光学系の1つのピークを深度拡張すると、図7(C)に示すように、MTFは大きく劣化してしまう。
そこで、本実施形態に係る収差制御光学系のディフォーカスに対するMTFでは、図7(B)に示すように、通常光学系において一つのピークPK1であったのを2つのピークPK11、PK12に分割させている。
MTFは若干劣化するが、深度は2つに分割したことによって2倍程度に伸びていて、さらにひとつのピークを深度拡張することにより劣化を抑えていることがわかる。
MTFは若干劣化するが、深度は2つに分割したことによって2倍程度に伸びていて、さらにひとつのピークを深度拡張することにより劣化を抑えていることがわかる。
図8(A)〜(C)および図9(A)〜(C)は、本実施形態の収差制御光学系において、球面収差曲線(カーブ)によって任意の周波数でディフォーカスに対するMTFが2分できることを説明する。
図8(A)〜(C)は、高周波のOTF変動を抑えた収差制御光学系における任意の周波数でディフォーカスに対するMTFが2分できることを示し、図8(A)が球面収差カーブを示し、図8(B)が低周波での主像面シフト領域エリアMSARのMTFのピークの状態を示し、図8(C)が高周波での主像面シフト領域エリアMSARのMTFのピークの状態を示している。
図9(A)〜(C)は、低周波のOTF変動を抑えた収差制御光学系における任意の周波数でディフォーカスに対するMTFが2分できることを示し、図9(A)が球面収差カーブを示し、図9(B)が低周波での主像面シフト領域エリアMSARのMTFのピークの状態を示し、図9(C)が高周波での主像面シフト領域エリアMSARのMTFのピークの状態を示している。
図9(A)〜(C)からわかるように、低周波の深度を伸ばすためには、球面収差の振幅を大きくすれば良い。
振幅の大きさをコントロールすることによって任意の周波数のディフォーカスMTFを2分割することができる。つまり任意の周波数の深度を拡張することができる。
振幅の大きさをコントロールすることによって任意の周波数のディフォーカスMTFを2分割することができる。つまり任意の周波数の深度を拡張することができる。
なお、本実施形態において、ディフォーカスに対する低周波および高周波とは次のように定義する。
使用する固体撮像素子(撮像素子220)の画素ピッチから決まるナイキスト周波数の半分以上の周波数を高周波、半分より低い周波数を低周波とする。
ただし、ナイキスト周波数は下記の通りに定義する。
ナイキスト周波数=1/(固体撮像素子の画素ピッチ×2)
使用する固体撮像素子(撮像素子220)の画素ピッチから決まるナイキスト周波数の半分以上の周波数を高周波、半分より低い周波数を低周波とする。
ただし、ナイキスト周波数は下記の通りに定義する。
ナイキスト周波数=1/(固体撮像素子の画素ピッチ×2)
以上、本実施形態に係る光学系の特徴的な構成、機能、効果について説明した。
以下に、撮像素子、画像処理部等の他の構成部分の構成、機能について説明する。
以下に、撮像素子、画像処理部等の他の構成部分の構成、機能について説明する。
撮像素子220は、たとえば、図4に示すように、第5レンズ216側から、ガラス製の平行平面板(カバーガラス)221と、CCDあるいはCMOSセンサ等からなる撮像素子の撮像面222が順に配置されている。
収差制御光学系210を介した被写体OBJからの光が、撮像素子220の撮像面222上に結像される。
なお、撮像素子220で撮像される被写体分散像は、収差制御面213aにより撮像素子220上ではピントが合わず、深度の深い光束とボケ部分が形成された像である。
収差制御光学系210を介した被写体OBJからの光が、撮像素子220の撮像面222上に結像される。
なお、撮像素子220で撮像される被写体分散像は、収差制御面213aにより撮像素子220上ではピントが合わず、深度の深い光束とボケ部分が形成された像である。
そして、図3に示すように撮像素子220は、収差制御光学系210で取り込んだ像が結像され、結像1次画像情報を電気信号の1次画像信号として、アナログフロントエンド部を介して情報送信装置30に出力するCCDやCMOSセンサにより構成される。
情報送信装置30は、撮像装置20の収差制御機能により深度を拡張して撮像素子で撮像した複数枚の画像を送信情報受信装置40に送信する。
情報受信装置40は、検出部410および高解像度化処理部420を含んで構成されている。これら検出部410および高解像度化処理部420により第1の画像処理部が形成される。
検出部410は、画像バッファ411、および位置検出部412を有する。
検出部410は、情報送信装置30から送信された複数の画像データを画像バッファ411に蓄積する。
そして、位置検出部412は、画像バッファ411にたまったそれぞれの画像データの標本化位置のずれ量Δ1、Δ2、Δ3をサブピクセル精度で検出する。
検出部410は、検出結果を高解像度化処理部420に出力する。
検出部410は、画像バッファ411、および位置検出部412を有する。
検出部410は、情報送信装置30から送信された複数の画像データを画像バッファ411に蓄積する。
そして、位置検出部412は、画像バッファ411にたまったそれぞれの画像データの標本化位置のずれ量Δ1、Δ2、Δ3をサブピクセル精度で検出する。
検出部410は、検出結果を高解像度化処理部420に出力する。
高解像度化処理部420は、検出部410の検出位置結果に応じて画像の高解像度化を行う。
高解像度化処理部420は、高解像度化された画像を画像表示装置50に送るための送信部421を含む。
高解像度化処理部420は、高解像度化された画像を画像表示装置50に送るための送信部421を含む。
画像表示装置500は、画像復元部510および画像表示部520を有する。この画像復元部510により第2の画像処理部が形成される。
画像復元部510は、高解像度化された画像に対して収差制御光学系210の光学的伝達関数の逆関数をかけて収差(ボケ)のない画像信号を生成し、その画像信号を画像表示部520に出力する。
画像復元部510は、高解像度化処理部420の送信部421から送信される高解像度化された画像を受信する受信部511を含む。
このように、第1の画像処理部としての高解像度化処理部420から第2の画像処理部としての画像復元部510への通信によって高解像度化された画像が送信される。
画像復元部510は、高解像度化処理部420の送信部421から送信される高解像度化された画像を受信する受信部511を含む。
このように、第1の画像処理部としての高解像度化処理部420から第2の画像処理部としての画像復元部510への通信によって高解像度化された画像が送信される。
また、画像復元部510または画像表示部520の信号処理部は、カラー補間、ホワイトバランス、YCbCr変換処理、圧縮、ファイリング等の処理を行う。
以下、本実施形態の復元処理について具体的に説明する。
画像復元部510のMTF補正処理は、たとえば図10の曲線Aで示すように、本質的に低い値になっている1次画像のMTFを、空間周波数をパラメータとしてエッジ強調、クロマ強調等の後処理にて、図10中曲線Bで示す特性に近づく(達する)ような補正を行う。
図10中曲線Bで示す特性は、たとえば本実施形態のように、収差制御面または収差制御光学素子を用いずに波面を変形させない場合に得られる特性である。
なお、本実施形態における全ての補正は、空間周波数のパラメータによる。
図10中曲線Bで示す特性は、たとえば本実施形態のように、収差制御面または収差制御光学素子を用いずに波面を変形させない場合に得られる特性である。
なお、本実施形態における全ての補正は、空間周波数のパラメータによる。
本実施形態においては、図10に示すように、光学的に得られる空間周波数に対するMTF特性曲線Aに対して、最終的に実現したいMTF特性曲線Bを達成するためには、それぞれの空間周波数に対し、図11に示すようにエッジ強調等の強弱を付け、元の画像(1次画像)に対して補正をかける。
たとえば、図10のMTF特性の場合、空間周波数に対するエッジ強調の曲線は、図11に示すようになる。
たとえば、図10のMTF特性の場合、空間周波数に対するエッジ強調の曲線は、図11に示すようになる。
すなわち、空間周波数の所定帯域内における低周波数側および高周波数側でエッジ強調を弱くし、中間周波数領域においてエッジ強調を強くして補正を行うことにより、所望のMTF特性曲線Bを仮想的に実現する。
本実施形態では、撮像素子220による1次画像は深度が非常に深い光束条件にしている。そのために、1次画像のMTFは本質的に低い値になっており、そのMTFの補正を画像復元部510で行う。
次に、本実施形態および通常光学系のMTFのレスポンスについて考察する。
図12は、通常の光学系の場合において物体が焦点位置にあるときと焦点位置から外れたときのMTFのレスポンス(応答)を示す図である。
図13は、収差制御素子を有する本実施形態の光学系の場合において物体が焦点位置にあるときと焦点位置から外れたときのMTFのレスポンスを示す図である。
また、図14は、本実施形態に係る撮像装置の画像処理後のMTFのレスポンスを示す図である。
図13は、収差制御素子を有する本実施形態の光学系の場合において物体が焦点位置にあるときと焦点位置から外れたときのMTFのレスポンスを示す図である。
また、図14は、本実施形態に係る撮像装置の画像処理後のMTFのレスポンスを示す図である。
図からもわかるように、収差制御面または収差制御素子を有する光学系の場合、物体が焦点位置から外れた場合でもMTFのレスポンスの変化が収差制御面または収差制御素子を挿入してない光学系よりも少なくなる。
この光学系によって結像された画像を、後段の画像復元部510によって画像処理することにより、MTFのレスポンスが向上させることができる。
ただし、画像処理を行うとノイズが増加してしまう場合には、好適にはMTFのレスポンスを向上させるような画像処理は行わないようにすることも可能である。
上述したように、目的に応じて意図的に収差を発生させる光学系を収差制御光学系という。
このように、収差制御素子を挿入することにより物体が焦点位置から外れた場合でもMTFのレスポンスの変化が従来よりも少なくなる。この光学系によって結像された画像は、後段の画像処理によって、MTFのレスポンスを向上させることもできる。
図14は、画像処理後のMTFのレスポンスを示しており、収差制御効果により、ピント外れでもMTFが高い状態にあることがわかる。
この光学系によって結像された画像を、後段の画像復元部510によって画像処理することにより、MTFのレスポンスが向上させることができる。
ただし、画像処理を行うとノイズが増加してしまう場合には、好適にはMTFのレスポンスを向上させるような画像処理は行わないようにすることも可能である。
上述したように、目的に応じて意図的に収差を発生させる光学系を収差制御光学系という。
このように、収差制御素子を挿入することにより物体が焦点位置から外れた場合でもMTFのレスポンスの変化が従来よりも少なくなる。この光学系によって結像された画像は、後段の画像処理によって、MTFのレスポンスを向上させることもできる。
図14は、画像処理後のMTFのレスポンスを示しており、収差制御効果により、ピント外れでもMTFが高い状態にあることがわかる。
図13に示した、収差制御光学系のOTFの絶対値(MTF)はナイキスト周波数において0.1以上であることが好ましい。
なぜなら、図14に示した復元後のOTFを達成するためには画像処理でゲインを上げることになるが、センサのノイズも同時に上げることになる。そのため、ナイキスト周波数付近の高周波ではできるたけゲインを上げずに画像処理を行うことが好ましい。
通常の光学系の場合、ナイキスト周波数でのMTFが0.1以上あれば解像する。
したがって、画像処理前のMTFが0.1以上あれば、画像処理でナイキスト周波数でのゲインを上げずに済む。画像処理前のMTFが0.1未満であると、画像処理後の画像がノイズの影響を大きく受けた画像になるため好ましくない。
なぜなら、図14に示した復元後のOTFを達成するためには画像処理でゲインを上げることになるが、センサのノイズも同時に上げることになる。そのため、ナイキスト周波数付近の高周波ではできるたけゲインを上げずに画像処理を行うことが好ましい。
通常の光学系の場合、ナイキスト周波数でのMTFが0.1以上あれば解像する。
したがって、画像処理前のMTFが0.1以上あれば、画像処理でナイキスト周波数でのゲインを上げずに済む。画像処理前のMTFが0.1未満であると、画像処理後の画像がノイズの影響を大きく受けた画像になるため好ましくない。
以上説明したように、本実施形態によれば、収差を意図的に発生させる収差制御機能を有する収差制御光学系210を用いる。収差制御素子を備えた光学系の特徴として、ディフォーカスのMTF(OTFの絶対値)のピークを2つ以上有することにより、従来の光学系よりも幅広い物体距離に対して、高周波成分が維持される。
したがって、従来の光学系では実現することができなかった、奥行きのある被写体についても高解像度化することが可能となる。
また、標本化位置のずれを検出する検出機能を利用し、動作する物体のみ画像を高解像度化することにより、画像サイズを小さくすることができ、通信速度の問題を解消することが可能となる。
さらにに、転送された画像に対し、復元処理を加えることにより、許可された人物のみが閲覧可能となり、プライバシーの問題を解消することが可能となる。
したがって、従来の光学系では実現することができなかった、奥行きのある被写体についても高解像度化することが可能となる。
また、標本化位置のずれを検出する検出機能を利用し、動作する物体のみ画像を高解像度化することにより、画像サイズを小さくすることができ、通信速度の問題を解消することが可能となる。
さらにに、転送された画像に対し、復元処理を加えることにより、許可された人物のみが閲覧可能となり、プライバシーの問題を解消することが可能となる。
すなわち、本実施形態によれば、低解像度の画像しか撮影できない、比較的性能の低いカメラであっても、高解像度の画像を表示可能としつつ、奥行きのある被写体であっても、高解像度の画像を得ることが可能となる。
また、高解像度の画像を効率よく転送することが可能となる。
さらに、許可された人物のみ画像の閲覧でき、プライバシーにも配慮された撮像システムを実現することが可能となる。
また、高解像度の画像を効率よく転送することが可能となる。
さらに、許可された人物のみ画像の閲覧でき、プライバシーにも配慮された撮像システムを実現することが可能となる。
本実施形態においては、収差制御機能を用いてディフォーカスに対するMTF特性において2つ以上のピークを複数持つようにすることで、ピーク値の低下を抑えつつ、収差制御素子を持たない一般的な光学系よりも深度を拡張できる。
すなわち、本実施形態によれば、球面収差を適切に制御することで、画像復元処理を施さなくても深度を拡張することができ、適切な画質の、ノイズの影響が小さい良好な画像を得ることが可能となる。
すなわち、本実施形態によれば、球面収差を適切に制御することで、画像復元処理を施さなくても深度を拡張することができ、適切な画質の、ノイズの影響が小さい良好な画像を得ることが可能となる。
10・・・撮像画像処理装置、20・・・撮像装置、210・・・収差制御光学系、211・・・第1レンズ、212・・・第2レンズ、213・・・第3レンズ、213a・・・収差制御面、214・・・絞り、215・・・第4レンズ、220・・・撮像素子、30・・・情報送信装置、40・・・情報受信装置、410・・・検出部、420・・・高解像度化処理部、421・・・送信部、50・・・画像表示装置、510・・・画像復元部、511・・・受信部、520・・・画像表示部。
Claims (4)
- 収差を発生させる収差制御機能を有する収差制御光学系と、
前記収差制御光学系を通過した被写体像を撮像する撮像素子と、
前記撮像素子で撮像された複数の画像データを受信し、当該複数の受信データの標本化位置のずれを検出して画像の高解像度化を行う第1の画像処部と、
前記高解像度化された画像に対して前記収差制御光学系の収差により低下したコントラストを向上し、表示する第2の画像処理部と、
を有する撮像画像処理装置。 - 前記収差制御光学系は、
ディフォーカスに対するMTF特性において複数のピークを有する
請求項1に記載の撮像画像処理装置。 - 前記収差制御光学系において発生させる主たる収差は光軸を中心に回転対象な球面収差で、少なくとも一つの変曲点を有する
請求項1または2に記載の撮像画像処理装置。 - 前記第1の画像処理部は、
前記高解像度化された画像を送信する送信部を含み、
第2の画像処理部は、
前記高解像度化された画像を受信する受信部を含み、
前記第1の画像処理部から前記第2の画像処理部への通信によって前記高解像度化された画像が送信される
請求項1から4のいずれか一に記載の撮像画像処理装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010076299A JP2011211436A (ja) | 2010-03-29 | 2010-03-29 | 撮像画像処理装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010076299A JP2011211436A (ja) | 2010-03-29 | 2010-03-29 | 撮像画像処理装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2011211436A true JP2011211436A (ja) | 2011-10-20 |
Family
ID=44942053
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2010076299A Pending JP2011211436A (ja) | 2010-03-29 | 2010-03-29 | 撮像画像処理装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2011211436A (ja) |
-
2010
- 2010-03-29 JP JP2010076299A patent/JP2011211436A/ja active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5546229B2 (ja) | 画像処理方法、画像処理装置、撮像装置および画像処理プログラム | |
JP5528173B2 (ja) | 画像処理装置、撮像装置および画像処理プログラム | |
US8391637B2 (en) | Image processing device and image processing method | |
JP5441652B2 (ja) | 画像処理方法、画像処理装置、撮像装置および画像処理プログラム | |
JP5222472B2 (ja) | 画像処理装置、画像復元方法およびプログラム | |
JP5933105B2 (ja) | 画像処理装置、撮像装置、フィルタ生成装置、画像復元方法及びプログラム | |
JP5237978B2 (ja) | 撮像装置および撮像方法、ならびに前記撮像装置のための画像処理方法 | |
JP5264968B2 (ja) | 画像処理装置、画像処理方法、撮像装置、および、画像処理プログラム | |
US20130050540A1 (en) | Image processing apparatus, image capture apparatus and image processing method | |
JP2011123589A5 (ja) | ||
JP2016213702A (ja) | 画像処理装置、その制御方法、および制御プログラム | |
US9911183B2 (en) | Image processing method, image processing apparatus, image pickup apparatus, and non-transitory computer-readable storage medium | |
KR20130033304A (ko) | 화상처리장치 및 방법 | |
JP2011124692A5 (ja) | ||
US20120050583A1 (en) | Image processing method, image processing apparatus and image processing program | |
JP2008245157A (ja) | 撮像装置およびその方法 | |
JP2017017445A (ja) | 撮像装置、画像処理装置、撮像装置が実行する撮像方法、画像処理装置が実行する画像処理方法、及びプログラム | |
WO2011121763A1 (ja) | 画像処理装置、およびそれを用いた撮像装置 | |
JP5135953B2 (ja) | 画像処理装置、画像処理方法、及び撮像装置 | |
JP5344648B2 (ja) | 画像処理方法、画像処理装置、撮像装置および画像処理プログラム | |
JP5712031B2 (ja) | 撮像装置、撮影レンズユニット、および撮像ユニット | |
JP5496036B2 (ja) | 画像処理装置および画像処理プログラム | |
JP2011211436A (ja) | 撮像画像処理装置 | |
JP5001717B2 (ja) | 輪郭強調装置 | |
JP5418258B2 (ja) | 撮像装置および画像処理方法 |