JP6318520B2 - 撮像装置、撮像システムおよび撮像方法 - Google Patents

Description

本発明は、撮像装置、撮像システムおよび撮像方法に関する。

近年、情報のデジタル化の発展に伴い、撮像装置に分野においてもデジタル化の発展が著しい。特に、デジタルカメラに代表される撮像装置において、撮像面は従来のフィルムに置き換わって固体撮像素子が使用されている。固体撮像素子（以下、単に撮像素子という）として、ＣＣＤ（Ｃｈａｒｇｅ Ｃｏｕｐｌｅｄ Ｄｅｖｉｃｅ）センサまたはＣＭＯＳ（Ｃｏｍｐｌｅｍｅｎｔａｒｙ Ｍｅｔａｌ Ｏｘｉｄｅ Ｓｅｍｉｃｏｎｄｕｃｔｏｒ）センサ等が使用されている。

このように、撮像素子を使用した撮像装置は、被写体からの光を光学系によって取り込み、固体撮像素子によって光を電気信号に変換して抽出するものである。このような撮像装置として、デジタルカメラの他、ビデオカメラ、バーコードリーダ、携帯電話機、携帯情報端末（ＰＤＡ：Ｐｅｒｓｏｎａｌ Ｄｉｇｉｔａｌ Ａｓｓｉｓｔａｎｔ）および産業用カメラ等が挙げられる。

上述のような撮像装置においては、光学系によって、被写界深度を拡張するいわゆる被写界深度拡張カメラ（ＥＤｏＦ：Ｅｘｔｅｎｄｅｄ Ｄｅｐｔｈ ｏｆ Ｆｉｅｌｄ）がある。被写界深度とは、カメラのレンズからある距離にある被写体に対して、焦点が合っていると許容できるレンズの光軸方向の距離範囲のことをいう。

上述の光学系による被写界深度の拡張について具体的に説明する。光学系に含まれるレンズおよび位相板は、撮像素子に入射される被写体の光に収差を与えて点像分布関数（ＰＳＦ：Ｐｏｉｎｔ Ｓｐｒｅａｄ Ｆｕｎｃｔｉｏｎ）を付加する働きをする。例えば、レンズは、収差として、撮像素子に入射される被写体の光に球面収差を与える。光学系は、収差によって撮像素子で撮像する画像がぼけた状態にする代わりに広い被写界深度でそのぼけが一定となるようにする。したがって、光学系によってぼけた画像は、所定のＭＴＦ（Ｍｏｄｕｌａｔｉｏｎ Ｔｒａｎｓｆｅｒ Ｆｕｎｃｔｉｏｎ）の値が得られるように補正する必要がある。ＭＴＦは、被写体の持つコントラストを、どれくらい忠実に再現できるかを数値化した値、すなわちコントラストの再現率を示す。この場合、光学系によってぼけた画像に対して、点像分布関数の逆変換処理を施すことによって、高解像度の画像に復元する。逆変換処理は、光学系によってぼけた画像を形成する各画素の情報（以下、単に画素という）に対して、逆変換フィルタによるフィルタ処理を施すことにより画像のぼけを補正することによって実現される。

また、一般に撮像素子によって撮像された画像にはノイズが含まれるので、ノイズを低減する処理も必要になる。このような撮像画像のノイズを低減し、かつ、ぼけを補正して復元する装置として、ノイズを低減するノイズ処理を入力画像に対して行うことによりノイズ処理画像を生成するノイズ処理部と、ぼけを低減する復元処理をノイズ処理画像に対して行う復元処理部とを備えた装置が提案されている（特許文献１）。ノイズ処理部は、復元処理の特性に基づいてノイズ処理を行うものとしている。

しかしながら、特許文献１に記載された装置は、ノイズ処理部の影響を復元処理によって増幅し、画像が劣化するのを抑制するものであり、根本的にノイズの増幅を防げるものではないという問題点があった。また、解像度とノイズ量とはトレードオフの関係にあり、レンズの解像度を大きく補おうとするとノイズ量が増加するという問題点もあった。

本発明は、上記に鑑みてなされたものであって、ノイズを抑制しながら、光学的な収差であるぼけを復元する撮像装置、撮像システムおよび撮像方法を提供することを目的とする。

上述した課題を解決し、目的を達成するために、本発明に係る撮像装置は、入射した光に収差を与える光学系と、前記光学系を通過した前記光を画素に変換して画像を撮像する撮像手段と、前記撮像手段によって撮像された撮像画像の所定部分ごとに前記収差を復元するための第１逆変換フィルタを求め、前記第１逆変換フィルタによって前記撮像画像に対して第１逆変換処理を行う逆変換手段と、を備えることを特徴とする。

本発明によれば、ノイズを抑制しながら、光学的な収差であるぼけを復元することができる。

図１は、第１の実施の形態に係る撮像システムの全体構成の一例を示す図である。 図２は、第１の実施の形態の情報処理装置の構成の一例を示す図である。 図３は、第１の実施の形態に係る撮像装置の構成の一例を示す図である。 図４は、第１の実施の形態に係る撮像装置の画像処理部の構成の一例を示す図である。 図５は、撮像素子によって検出される画像の一例を示す図である。 図６は、画像処理部の画像バッファ部の構成の一例を示す図である。 図７は、撮像素子から出力される画素が画像バッファ部に入力される動作を示すタイミングチャートである。 図８は、検出画像における各エリアによってパワースペクトルが異なることを説明する図である。 図９は、検出画像全体のパワースペクトルと最適フィルタとを説明する図である。 図１０は、検出画像の平坦部のエリアのパワースペクトルと最適フィルタとを説明する図である。 図１１は、検出画像のテクスチャ部のエリアのパワースペクトルと最適フィルタとを説明する図である。 図１２は、第１の実施の形態の画像処理部のフィルタ処理部の構成の一例と動作を説明する図である。 図１３は、第２の実施の形態の画像処理部のフィルタ処理部の構成の一例と動作を説明する図である。 図１４は、逆変換フィルタの構成の一例を示す図である。 図１５は、画像を逆変換フィルタによってフィルタ処理することを説明する図である。 図１６は、画像において逆変換フィルタのフィルタ処理の対象となる対象部分画像をスキャンする動作を説明する図である。

以下に、図面を参照しながら、本発明に係る撮像装置、撮像システムおよび撮像方法の実施の形態を詳細に説明する。また、以下の実施の形態によって本発明が限定されるものではなく、以下の実施の形態における構成要素には、当業者が容易に想到できるもの、実質的に同一のもの、およびいわゆる均等の範囲のものが含まれる。さらに、以下の実施の形態の要旨を逸脱しない範囲で構成要素の種々の省略、置換および変更を行うことができる。

（第１の実施の形態）
＜撮像システムの全体構成＞
図１は、第１の実施の形態に係る撮像システムの全体構成の一例を示す図である。図１を参照しながら、本実施の形態の撮像システム５００の構成について説明する。

図１に示すように、本実施の形態の撮像システム５００は、撮像装置１と、ＰＣ２と、を備えている。撮像装置１とＰＣ２とは、Ｅｔｈｅｒｎｅｔ（登録商標）ケーブル等の通信ケーブル３によって通信可能に接続されている。

撮像装置１は、被写体４から出る光を電気信号に変換することによって被写体４を撮像し、撮像した画像の情報（以下、単に画像という）に対して各種処理を実行し、処理後の画像を、通信ケーブル３を介してＰＣ２へ送信する。ＰＣ２は、撮像装置１から受信した画像に対して所定の処理を実行する。

例えば、撮像装置１は、生産ラインを流れる製品に添付されたバーコードを撮像して、バーコードの画像をＰＣ２に送信する。ＰＣ２は、受信した画像からバーコードの情報を読み出して解析する。

なお、図１に示すように、撮像システム５００は、撮像装置１とＰＣ２とが通信ケーブル３を介してデータを通信する有線通信方式のシステムとしているが、これに限定されるものではない。例えば、撮像装置１とＰＣ２とは、Ｗｉ−Ｆｉ（登録商標）（ＷｉｒｅｌｅｓｓＦｉｄｅｌｉｔｙ）等の無線通信方式によって互いにデータが通信可能であってもよい。

また、撮像システム５００が生産ラインにおいて使用される場合、ＰＣ２は、ＰＬＣ（Ｐｒｏｇｒａｍｍａｂｌｅ Ｌｏｇｉｃ Ｃｏｎｔｒｏｌｌｅｒ）等に通信可能に接続されている構成としてもよい。この場合、撮像システム５００の動作として、以下の動作が一例として挙げられる。撮像装置１は、生産ラインを流れる製品に添付されたバーコードを撮像して、バーコードの画像をＰＣ２に送信する。ＰＣ２は、受信したバーコードの画像から、生産ラインを流れている製品の品番を判定する。ＰＣ２は、判定した品番が、生産ラインにおいて段替えされている品番と不一致である場合、品番を判定した製品は異なる品番の製品であることを示す信号をＰＬＣに送信する。ＰＬＣは、ＰＣ２から異なる品番の製品であることを示す信号を受信した場合、その製品を生産ラインから除去し、あるいは、警告ランプを点灯させて生産ラインを停止するように生産ラインの動作を制御する。

＜情報処理装置の構成＞
図２は、第１の実施の形態の情報処理装置の構成の一例を示す図である。図２を参照しながら、情報処理装置の一例であるＰＣ２の構成について説明する。

図２に示すように、情報処理装置の一例であるＰＣ２は、通信部２１と、操作部２２と、表示部２３と、記憶部２４と、外部記憶装置２５と、制御部２６と、を備えている。上記の各部は、バス２７によって接続され、互いにデータの送受信が可能となっている。

通信部２１は、通信ケーブル３を介して、撮像装置１と通信する装置である。通信部２１は、例えば、ＮＩＣ（Ｎｅｔｗｏｒｋ Ｉｎｔｅｒｆａｃｅ Ｃａｒｄ）等の通信装置によって実現される。通信部２１の通信プロトコルは、例えば、ＴＣＰ（Ｔｒａｎｓｍｉｓｓｉｏｎ Ｃｏｎｔｒｏｌ Ｐｒｏｔｏｃｏｌ）／ＩＰ（Ｉｎｔｅｒｎｅｔ Ｐｒｏｔｏｃｏｌ）またはＵＤＰ（Ｕｓｅｒ Ｄａｔａｇｒａｍ Ｐｒｏｔｏｃｏｌ）／ＩＰ等によって実現される。

操作部２２は、ユーザによって制御部２６に対して所定の処理を実行させるための操作入力を行う装置である。操作部２２は、例えば、マウス、キーボード、テンキー、タッチパッドまたはタッチパネルにおける操作入力機能によって実現される。

表示部２３は、制御部２６により実行されているアプリケーション画像等を表示する装置である。表示部２３は、例えば、ＣＲＴ（Ｃａｔｈｏｄｅ Ｒａｙ Ｔｕｂｅ）ディスプレイ、液晶ディスプレイ、プラズマディスプレイまたは有機ＥＬ（Ｅｌｅｃｔｒｏｌｕｍｉｎｅｓｃｅｎｃｅ）ディスプレイ等によって実現される。

記憶部２４は、ＰＣ２で実行される各種プログラムおよびＰＣ２で行われる各種処理に使用されるデータ等を記憶する装置である。記憶部２４は、例えば、ＲＯＭ（Ｒｅａｄ Ｏｎｌｙ Ｍｅｍｏｒｙ）およびＲＡＭ（Ｒａｎｄｏｍ Ａｃｃｅｓｓ Ｍｅｍｏｒｙ）等の記憶装置によって実現される。

外部記憶装置２５は、画像、プログラムおよびフォントデータ等を蓄積して記憶する記憶装置である。外部記憶装置２５は、例えば、ＨＤＤ（Ｈａｒｄ Ｄｉｓｋ Ｄｒｉｖｅ）、ＳＳＤ（Ｓｏｌｉｄ Ｓｔａｔｅ Ｄｒｉｖｅ）、光ディスク、または光磁気ディスク（ＭＯ：Ｍａｇｎｅｔｏ−Ｏｐｔｉｃａｌ Ｄｉｓｋ）等の記憶装置によって実現される。

制御部２６は、ＰＣ２の各部の動作を制御する装置である。制御部２６は、例えば、ＣＰＵ（Ｃｅｎｔｒａｌ Ｐｒｏｃｅｓｓｉｎｇ Ｕｎｉｔ）およびＡＳＩＣ（Ａｐｐｌｉｃａｔｉｏｎ Ｓｐｅｃｉｆｉｃ Ｉｎｔｅｇｒａｔｅｄ Ｃｉｒｃｕｉｔ）等で実現される。

＜撮像装置の構成＞
図３は、第１の実施の形態に係る撮像装置の構成の一例を示す図である。図３を参照しながら、本実施の形態の撮像装置１の構成について説明する。

図３に示すように、撮像装置１は、レンズユニット１１と、撮像素子１２と、画像処理部１４と、通信部１５と、を備えている。

レンズユニット１１は、被写体４から出る光を集光し、撮像素子１２に結像させるユニットである。レンズユニット１１は、１枚以上のレンズで構成された光学系によって実現される。レンズユニット１１は、位相板１１ａと、絞り１１ｂとを備えている。被写体４は、例えば、人物、被監視物、バーコード、２次元コードまたは文字列等である。

位相板１１ａは、レンズユニット１１に入射する光に対して収差を与える作用を有する。その結果、位相板１１ａは、撮像素子１２に入射される光に対して点像分布関数を付加する作用を奏し、撮像素子１２で撮像される画像がぼけた状態とする代わりに広い被写界深度でそのぼけが一定となるようにする。

絞り１１ｂは、レンズユニット１１に入射する光の量を自在に調整する部材であり、位相板１１ａの近傍に配置されている。

撮像素子１２は、レンズユニット１１に入射する被写体からの光を電気信号に変換することによって被写体４を撮像して画像を生成する固体撮像素子である。撮像素子１２は、固体撮像素子を構成する各検出単位によって撮像した画像を構成する画素を出力する。撮像素子１２は、例えば、ＣＣＤセンサまたはＣＭＯＳセンサ等によって実現される。

画像処理部１４は、撮像素子１２から出力される画像から、フィルタ処理を施した画像を生成する装置である。

通信部１５は、通信ケーブル３を介して、ＰＣ２と通信する装置である。通信部１５は、例えば、画像処理部１４から出力される画像をＰＣ２に対して送信する。通信部１５は、例えば、ＮＩＣ等の通信装置によって実現される。通信部１５の通信プロトコルは、例えば、ＴＣＰ／ＩＰまたはＵＤＰ／ＩＰ等によって実現される。

＜画像処理部の構成＞
図４は、第１の実施の形態に係る撮像装置の画像処理部の構成の一例を示す図である。図５は、撮像素子によって検出される画像の一例を示す図である。図４を参照しながら、本実施の形態の撮像装置１の画像処理部１４の構成について説明する。

撮像素子１２は、上述のように、レンズユニット１１に入射する被写体からの光を電気信号に変換することにより被写体４を撮像し、画像を生成する固体撮像素子である。以下、撮像素子１２は、ＶＧＡの画像を形成して出力するものとして説明する。具体的には、撮像素子１２は、図５に示すように、Ｘ方向に６４０個、Ｙ方向に４８０個の検出素子によって、６４０×４８０のマトリックス状に配列された画素で構成される画像である検出画像１０１を検出するものとして説明する。

なお、撮像素子１２が検出する画像の大きさは６４０×４８０のＶＧＡの画像であるものとしたが、これに限定されるものではなく、異なる大きさの画像であってもよいのは言うまでもない。

図４に示すように、本実施の形態の画像処理部１４は、画像バッファ部１４１と、フィルタ処理部１４３とを備えている。

画像バッファ部１４１は、撮像素子１２から出力される画素を順に入力してバッファリングする装置である。画像バッファ部１４１の具体的な構成および動作については、図６および７において後述する。

フィルタ処理部１４３は、画像バッファ部１４１から出力される画素に対して、後述するフィルタ回路によって、所定のフィルタ処理を行う。本実施の形態においては、フィルタ処理に使用するフィルタとして、位相板１１ａの作用によって点像分布関数を与えられたぼけた画像に対して、局所的に（画素ごとに）ぼけを補正する逆変換処理をするための逆変換フィルタを例に説明する。フィルタ処理部１４３の具体的な構成および動作については、図１２において後述する。

＜画像バッファ部の構成および動作＞
図６は、画像処理部の画像バッファ部の構成の一例を示す図である。図７は、撮像素子から出力される画素が画像バッファ部に入力される動作を示すタイミングチャートである。図６および７を参照しながら、画像処理部１４の画像バッファ部１４１の構成および動作について説明する。

画像バッファ部１４１は、図６に示すように、レジスタ１４１１ａ〜１４１１ｄと、ラインバッファ１４１２ａ〜１４１２ｄと、を備えている。画像バッファ部１４１は、撮像素子１２から出力される画素を入力部１４１０から入力し、バッファリングした画素を出力部１４１３ａ〜１４１３ｅから出力する。撮像素子１２によって検出される画像の６４０×４８０の各画素について、Ｘ方向のＸ番目およびＹ方向のＹ番目の画素を（Ｘ，Ｙ）の画素というものとする。

図６に示すように、レジスタ１４１１ａの入力側は、入力部１４１０および出力部１４１３ａに接続されている。レジスタ１４１１ａ〜１４１１ｄの出力側は、それぞれラインバッファ１４１２ａ〜１４１２ｄの入力側に接続されている。ラインバッファ１４１２ａ〜１４１２ｃの出力側は、それぞれレジスタ１４１１ｂ〜１４１１ｄの入力側に接続されている。そして、ラインバッファ１４１２ａ〜１４１２ｄの出力側は、それぞれ出力部１４１３ｂ〜１４１３ｅに接続されている。

次に、図７を参照しながら、撮像素子１２によって検出された画像の出力動作について説明する。撮像素子１２は、検出した画素をＸ方向の１水平ラインずつ走査しながら、その１水平ラインに含まれる画素を出力する。具体的には、撮像素子１２は、Ｙ方向の１番目の水平ラインに含まれる画素を、Ｘ方向の１番目の画素から６４０番目の画素まで順に出力する。撮像素子１２は、上記の動作を、Ｙ方向の４８０番目までの水平ラインに含まれる画素の出力をそれぞれ行う。

上記の動作を図７に示すタイミングチャートに基づいて説明する。図７に示すように、撮像素子１２は、有効フレーム信号がオン状態のとき、１フレーム分、すなわち１画像分の画素を出力する。撮像素子１２において、有効フレーム信号がオン状態になってからフレーム開始期間Ａを経て、Ｙ方向の１番目の水平ラインの画素の出力許可を示す有効ライン信号Ｌ１がオン状態になる。撮像素子１２は、有効ライン信号Ｌ１がオン状態になっている有効データ期間Ｔの間に、Ｙ方向の１番目の水平ラインを走査し、その水平ラインに含まれるＸ方向の１〜６４０番目の画素（（１，１）〜（６４０，１）の画素）を順に出力する。撮像素子１２によってＹ方向の１番目の水平ラインの画素が出力された後、有効ライン信号Ｌ１がオフ状態になる。

撮像素子１２において、有効ライン信号Ｌ１がオフ状態になってから水平ブランキング期間Ｂを経て、Ｙ方向の２番目の水平ラインの画素の出力許可を示す有効ライン信号Ｌ２がオン状態になる。撮像素子１２は、有効ライン信号Ｌ２がオン状態になっている有効データ期間Ｔの間に、Ｙ方向の２番目の水平ラインを走査し、その水平ラインに含まれるＸ方向の１〜６４０番目の画素（（１，２）〜（６４０，２）の画素）を順に出力する。撮像素子１２によってＹ方向の２番目の水平ラインの画素が出力された後、有効ライン信号Ｌ２がオフ状態になる。

撮像素子１２は、以上の動作について、有効ライン信号Ｌ４８０がオン状態になっている有効データ期間Ｔの間に、Ｙ方向の４８０番目の水平ラインに含まれるＸ方向の１〜６４０番目の画素（（１，４８０）〜（６４０，４８０）の画素）を出力するまで行う。撮像素子１２において、有効ライン信号Ｌ４８０がオフ状態になってからフレーム終了期間Ｃを経て、有効フレーム信号がオフ状態になる。以上の動作によって、撮像素子１２による１フレーム分の画素の出力が終了する。また、撮像素子１２において、有効フレーム信号がオフ状態になってから垂直ブランキング期間Ｄを経て、再び有効フレーム信号がオン状態になり、次の１フレーム分の画素の出力が開始される。

次に、図６を参照しながら、画像バッファ部１４１における撮像素子１２から出力される画素のバッファリング処理について説明する。画像バッファ部１４１は、撮像素子１２から出力される画素を入力部１４１０から入力する。具体的には、画像バッファ部１４１は、まず、Ｙ方向の１番目の水平ラインについて、撮像素子１２から入力した（１，１）の画素を、出力部１４１３ａから出力すると共に、レジスタ１４１１ａに格納する。

画像バッファ部１４１は、次のタイミングで、レジスタ１４１１ａに格納した画素をラインバッファ１４１２ａの記憶領域１ａに格納する。そして、画像バッファ部１４１は、撮像素子１２から次に入力した（２，１）の画素を出力部１４１３ａから出力すると共に、レジスタ１４１１ａに格納する。

画像バッファ部１４１は、次のタイミングで、記憶領域１ａに格納した画素をラインバッファ１４１２ａの記憶領域２ａにシフトして格納し、レジスタ１４１１ａに格納した画素を記憶領域１ａに格納する。そして、画像バッファ部１４１は、撮像素子１２から次に入力した（３，１）の画素を出力部１４１３ａから出力すると共に、レジスタ１４１１ａに格納する。

以上の動作を繰り返すことにより、画像バッファ部１４１は、撮像素子１２から入力したＹ方向の１番目の水平ラインの画素を出力部１４１３ａから出力する。それと共に、画像バッファ部１４１は、Ｙ方向の１番目の水平ラインの１〜６３９番目の画素をラインバッファ１４１２ａの記憶領域６３９ａ〜１ａにそれぞれ格納し、６４０番目の画素をレジスタ１４１１ａに格納する。

次に、画像バッファ部１４１は、ラインバッファ１４１２ａの記憶領域１ａ〜６３９ａに格納した画素を記憶領域２ａ〜６４０ａにシフトして格納し、レジスタ１４１１ａに格納した画素を記憶領域１ａに格納する。画像バッファ部１４１は、記憶領域６４０ａに格納した（１，１）の画素を出力部１４１３ｂから出力すると共に、レジスタ１４１１ｂに格納する。そして、画像バッファ部１４１は、Ｙ方向の２番目の水平ラインについて、撮像素子１２から入力した（１，２）の画素を出力部１４１３ａから出力すると共に、レジスタ１４１１ａに格納する。すなわち、画像バッファ部１４１は、Ｘ方向の値が同一の画素である（１，１）および（１，２）の画素を、出力部１４１３ｂおよび１４１３ａからそれぞれ出力する。

画像バッファ部１４１は、次のタイミングで、レジスタ１４１１ｂに格納した画素をラインバッファ１４１２ｂの記憶領域１ｂに格納する。画像バッファ部１４１は、ラインバッファ１４１２ａの記憶領域１ａ〜６３９ａに格納した画素を記憶領域２ａ〜６４０ａにシフトして格納し、レジスタ１４１１ａに格納した画素を記憶領域１ａに格納する。画像バッファ部１４１は、記憶領域６４０ａに格納した（２，１）の画素を出力部１４１３ｂから出力すると共に、レジスタ１４１１ｂに格納する。そして、画像バッファ部１４１は、撮像素子１２から次に入力した（２，２）の画素を出力部１４１３ａから出力すると共に、レジスタ１４１１ａに格納する。

画像バッファ部１４１は、次のタイミングで、記憶領域１ｂに格納した画素をラインバッファ１４１２ｂの記憶領域２ｂにシフトして格納し、レジスタ１４１１ｂに格納した画素を記憶領域１ｂに格納する。画像バッファ部１４１は、ラインバッファ１４１２ａの記憶領域１ａ〜６３９ａに格納した画素を記憶領域２ａ〜６４０ａにシフトして格納し、レジスタ１４１１ａに格納した画素を記憶領域１ａに格納する。画像バッファ部１４１は、記憶領域６４０ａに格納した（３，１）の画素を出力部１４１３ｂから出力すると共に、レジスタ１４１１ｂに格納する。そして、画像バッファ部１４１は、撮像素子１２から次に入力した（３，２）の画素を出力部１４１３ａから出力すると共に、レジスタ１４１１ａに格納する。

以上の動作を繰り返すことにより、画像バッファ部１４１は、撮像素子１２から入力したＹ方向の１および２番目の水平ラインの画素についてＸ方向の値が同一の画素を、出力部１４１３ａおよび１４１３ｂからそれぞれ同一のタイミングで出力する。それと共に、画像バッファ部１４１は、Ｙ方向の１番目の水平ラインの１〜６３９番目の画素をラインバッファ１４１２ｂの記憶領域６３９ｂ〜１ｂにそれぞれ格納し、６４０番目の画素をレジスタ１４１１ｂに格納する。さらに、画像バッファ部１４１は、Ｙ方向の２番目の水平ラインの１〜６３９番目の画素をラインバッファ１４１２ａの記憶領域６３９ａ〜１ａにそれぞれ格納し、６４０番目の画素をレジスタ１４１１ａに格納する。

以上の動作のように、画像バッファ部１４１は、撮像素子１２から入力した各水平ラインの画素をラインバッファ１４１２ａ〜１４１２ｄにバッファリングする。それと共に、画像バッファ部１４１は、Ｘ方向の値が同一の画素、すなわち、（Ｘ，Ｙ−４）、（Ｘ，Ｙ−３）、（Ｘ，Ｙ−２），（Ｘ，Ｙ−１）および（Ｘ，Ｙ）の画素を、出力部１４１３ａ〜１４１３ｅからそれぞれ同一のタイミングで出力する。

なお、図６は画像バッファ部１４１の構成の一例を示すものであり、この構成に限定されるものではなく、上述した画像バッファ部１４１のバッファリング処理と同様の作用を奏する構成であればよい。

＜逆変換フィルタの周波数特性Ｒの導出＞
次に、所定のフォーカス位置において光学系であるレンズユニット１１によって広がったスポットを一点に集まるように復元する逆変換処理に使用される逆変換フィルタの周波数特性の導出方法について説明する。上述の周波数特性を実現するフィルタとしては、２次元の線形フィルタかつＦＩＲ（Ｆｉｎｉｔｅ Ｉｍｐｕｌｓｅ Ｒｅｓｐｏｎｓｅ）フィルタが好適である。

まず、撮像素子１２によって撮像された画像への光学系による影響のモデルを以下の式（１）に示す２次元のコンボリューション演算（畳み込み演算）の式によって表す。

ここで、ｉｍａｇｅ_{ｃａｐｔｕｒｅｄ}は光学系を通って検出された２次元の撮像画像の画素であり、ｉｍａｇｅ_{ｉｄｅａｌ}は被写体４そのものを示す理想画像の画素であり、ｈは光学系のＰＳＦを示す。

以下、画像処理系（撮像素子１２および画像処理部１４）に加わるノイズの影響を考慮して、逆変換処理後の画像の各画素と、理想画像の各画素との誤差についての平均二乗誤差を最小とする逆変換フィルタの周波数特性の導出を考える。平均二乗誤差は、以下の式（２）によって表される。

ここで、Ｅ［］は期待値（平均値）を示し、ｎは画像上の位置を示し、ｉｍａｇｅ_{ｐｒｏｃｅｓｓｅｄ}（ｎ）は、ｉｍａｇｅ_{ｃａｐｔｕｒｅｄ}に対して逆変換処理をした画像の画素を示す。なお、ｉｍａｇｅ_{ｃａｐｔｕｒｅｄ}は、ノイズが含まれていることを考慮する。

波形ｘ（ｎ）が持つ全エネルギーのｎの全領域についての総和と、波形ｘ（ｎ）のエネルギーのフーリエ変換Ｘ（ω）の全周波数成分についての総和とが等しいとするパーセバルの定理より、式（２）は、周波数領域における平均二乗誤差として以下の式（３）で表される。

ここで、ＩＭＡＧＥ_{ｉｄｅａｌ}（ω）はｉｍａｇｅ_{ｉｄｅａｌ}（ｎ）の周波数特性を示し、ＩＭＡＧＥ_{ｐｒｏｃｅｓｓｅｄ}（ω）はｉｍａｇｅ_{ｐｒｏｃｅｓｓｅｄ}（ｎ）の周波数特性を示し、ωは空間周波数を示す。

逆変換フィルタの周波数特性をＲ（ω）とすると、以下の式（４）の最小値を与える周波数特性Ｒ（ω）が最適の逆変換フィルタとなる。

ここで、ＩＭＡＧＥ_{ｃａｐｔｕｒｅｄ}（ω）は、ｉｍａｇｅ_{ｃａｐｔｕｒｅｄ}（ｎ）の周波数特性である。

式（４）において、ＩＭＡＧＥ_{ｉｄｅａｌ}（ω）＝Ｓ（ω）、およびＩＭＡＧＥ_{ｃａｐｔｕｒｅｄ}（ω）＝Ｘ（ω）とし、式（４）の最小値を求めるため、式（４）をＲ^＊によって微分すると、下記の式（５）が得られる。

ここで、Ｅ［｜Ｘ（ω）｜^２］は、ノイズを含んだ撮像画像のパワースペクトルであり、Ｅ［Ｓ（ω）・Ｘ（ω）^＊］は、ノイズを含んだ撮像画像と理想画像との相互パワースペクトルである。

式（４）の最小値を求めるため式（５）の最右辺を０とすると下記の式（６）が得られる。

式（６）から下記の式（７）が得られる。

この式（７）に示す周波数特性Ｒ（ω）に基づく逆変換フィルタが、上述の式（２）に示す平均二乗誤差を最小とする最適のフィルタとなる。

ここで、ノイズの周波数特性をＷ（ω）とし、光学系のＰＳＦであるｈの周波数特性をＨ（ω）として、上述の式（１）を周波数空間で示すと下記の式（８）で示される。

ノイズの周波数特性Ｗ（ω）と、周波数特性Ｓ（ω）とが無相関であるとすると、Ｅ［Ｓ（ω）・Ｗ（ω）^＊］＝０であるので、上述の式（７）の右辺の分子に、式（８）を代入すると、下記の式（９）が得られる。

同じくノイズの周波数特性Ｗ（ω）と、周波数特性Ｓ（ω）とが無相関であるとすると、Ｅ［Ｗ（ω）・Ｓ（ω）^＊］＝０およびＥ［Ｓ（ω）^＊・Ｗ（ω）］＝０であるので、上述の式（７）の右辺の分母に、式（８）を代入すると、下記の式（１０）が得られる。

上述の式（７）、（９）および（１０）から、下記の式（１１）に示す周波数特性Ｒ（ω）が得られる。

この式（１１）に示す周波数特性Ｒ（ω）に基づく逆変換フィルタが、画像処理系のノイズを考慮した場合の上述の式（２）に示す平均二乗誤差を最小とする最適なフィルタとなる。ここで、Ｅ［｜Ｓ（ω）｜^２］は理想画像のパワースペクトルの平均値であり、Ｅ［｜Ｗ（ω）｜^２］はノイズのパワースペクトルの平均値であり、｜Ｈ（ω）｜^２は光学系の周波数特性のパワースペクトルである。

また、上述の式（１１）に示す周波数特性Ｒ（ω）を適用した場合において、逆変換処理後の画像の各画素と、理想画像の各画素との二乗誤差についての周波数領域における積分を取ると、下記の平均二乗誤差ＭＳＥ（Ｍｅａｎ Ｓｑｕａｒｅ Ｅｒｒｏｒ）の式（１２）が得られる。

上記の式（１２）の演算においては、上述のように、ノイズの周波数特性Ｗ（ω）と、周波数特性Ｓ（ω）とが無相関であることを利用している。式（１２）の最右辺の第１項は、逆変換処理後の画像の復元しきれなかった誤差量を示している。第２項は、ノイズによる誤差量を示している。

式（１２）の積分値が最小となるように、光学系の周波数特性Ｈ（ω）を設計することによって、上述の式（４）に示す周波数領域においての平均二乗誤差が最小となる光学系および逆変換フィルタの組み合わせを得ることができる。また、パーセバルの定理より、上述の式（２）に示す実空間における平均二乗誤差が最小となる光学系および逆変換フィルタの組み合わせを得ることができる。

＜局所的な逆変換フィルタの周波数特性Ｒ’について＞
図８は、検出画像における各エリアによってパワースペクトルが異なることを説明する図である。図９は、検出画像全体のパワースペクトルと最適フィルタとを説明する図である。図１０は、検出画像の平坦部のエリアのパワースペクトルと最適フィルタとを説明する図である。図１１は、検出画像のテクスチャ部のエリアのパワースペクトルと最適フィルタとを説明する図である。図８〜１１を参照しながら、局所的な逆変換フィルタの周波数特性Ｒ’（ω）について説明する。

上述の逆変換フィルタの周波数特定Ｒ（ω）を求める式（１１）における周波数特性Ｓ（ω）は、既知であるものとし、すなわち、理想画像全体の周波数特性であるといえるものである。しかし、図８に示すように、実際の撮像素子１２によって実際に撮像された画像である検出画像１０１は、テクスチャ部１０１ａやテクスチャ部１０１ａとは異なる平坦部を有するものである。上述の説明においては、図９（ａ）に示す既知である理想画像全体の周波数特性Ｓ（ω）に基づいて、上述の式（１２）に示すＭＳＥが最小となるような図９（ｂ）に示す逆変換フィルタの周波数特性Ｒ（ω）を用いてフィルタ処理を実行する動作を説明した。この周波数特性Ｒ（ω）に基づいてフィルタ処理を実行すると、検出画像１０１全体では、確かに上述の式（１２）に示すＭＳＥを最小にすることができる。しかし、例えば、検出画像１０１における平坦部であるエリア１０２においては、スペクトルがない部分の空間周波数ωの領域まで増幅されてしまい、不要なノイズが増加する。

ここで、図１０（ａ）に示すように、理想画像においてエリア１０２に相当する局所的なエリアの周波数特性をＳ’（ω）とする。そして、周波数特性Ｓ’（ω）のスペクトルが存在する空間周波数ωの領域（低周波数領域）のみを増幅し、エリア１０２において最小のＭＳＥを与えるような局所的な逆変換フィルタの周波数特性Ｒ’（ω）を考えることができる（図１０（ｂ）参照）。

また、テクスチャ部１０１ａを含むエリア１０３においては、図１１（ａ）に示すように、理想画像においてエリア１０３に相当する局所的なエリアの周波数特性Ｓ’（ω）は、空間周波数ωの高周波領域までスペクトルが存在する。したがって、エリア１０３の周波数特性Ｓ’（ω）については、高周波領域まで増幅し、エリア１０３において最小のＭＳＥを与えるような局所的な逆変換フィルタの周波数特性Ｒ’（ω）を考えることができる（図１１（ｂ）参照）。

このように、画像のフィルタ処理として、局所的に逆変換フィルタをかける周波数特性Ｒ’（ω）を導出することによって、ノイズの増幅を抑制し、画像のテクスチャの再現性を向上することができる。以下に、局所的な逆変換フィルタの周波数特性Ｒ’（ω）、および、周波数特性Ｒ’（ω）によるフィルタ処理の演算を簡略化するために導出する周波数特性Ｋ（ω）について説明する。

まず、上述の式（１１）に示す周波数特性Ｒ（ω）を求める式の中の周波数特性Ｓ（ω）を、理想画像の局所的なエリアの周波数特性Ｓ’（ω）に置き換えると、下記の式（１３）で示される局所的なエリアの最小のＭＳＥを与える周波数特性Ｒ’（ω）が得られる。

この周波数特性Ｒ’（ω）を、検出画像ごと、かつ、検出画像の局所的なエリアごと（画素ごと）に求めることによって、局所的なエリアの最小のＭＳＥが得られ、かつ、検出画像全体に共通の周波数特性Ｒ（ω）に基づく逆変換フィルタによるフィルタ処理を実行するよりもノイズの増加を抑制することができる。なお、周波数特性Ｒ’（ω）を求める局所的なエリアは、画素ごとに限らず、検出画像の所定の画素群（所定部分）ごとであってもよい。

ここで、式（１３）の中の周波数特性Ｓ’（ω）は、検出画像から直接得ることができないので、上述の式（８）を使用して、理想画像の局所的なパワースペクトルの平均値Ｅ［｜Ｓ’（ω）｜^２］を下記の式（１４）のように定義する。

ここで、Ｘ’（ω）は、検出画像の局所的なエリア（画素）の周波数特性であり、式（１４）は、Ｘ’（ω）＞＞Ｗ（ω）の関係から近似をとっている。すなわち、撮像された画像のノイズ成分は、画素よりも十分小さいと仮定している。また、ここで、平均値Ｅ［｜Ｓ’（ω）｜^２］は、より正確には、周波数特性Ｓ（ω）に対して周波数特性Ｘ（ω）についての最小のＭＳＥを与える逆変換フィルタの周波数特性Ｒ（ω）を用いた場合、下記の式（１５）によって表される。

次に、ノイズのモデルを下記のように考える。撮像された画像のノイズは、画素によらず定常的な振幅を持つノイズと、その画素に比例する振幅を持つノイズとを有することを考慮し、下記の式（１６）のように定義する。

ここで、ｋは、検出画像の画素に比例する振幅を持つノイズの比例定数であり、ｃは、検出画像の各画素に依存しない定常的な振幅を持つノイズ成分である。パーセバルの定理により、式（１６）を周波数領域に変換すると、下記の式（１７）となる。

上述の式（１５）および（１６）を、式（１３）に代入すると、下記の式（１８）が得られる。

ｋとｃとは、グレースケールチャートの検出画像の解析によって得ることができ、その値を用いることによって、最小のＭＳＥを与える局所的な逆変換フィルタの周波数特性Ｒ’（ω）が得られる。

実際の回路実装においては、上述の局所的な逆変換フィルタの周波数特性Ｒ’（ω）を画素ごとに直接演算することで実現は可能であるが、局所的な逆変換フィルタを求めるのは演算負荷が大きいため、以下の方法を用いて、演算負荷を低減することができる。なお、以下においては、式（１６）に示す検出画像の画素に比例する振幅を持つノイズであるｋ^２｜ｘ（ｎ）｜^２の成分は省略するが、導出する式のノイズのパワースペクトル｜Ｗ（ω）｜^２に、この項を追加することによって、その効果を得ることができる。

まず、式（１３）を下記の式（１９）のように変形する。

ここで、局所的な逆変換フィルタの周波数特性Ｒ’（ω）と、逆変換フィルタの周波数特性Ｒ（ω）との比をＫ（ω）とすると、Ｋ（ω）は下記の式（２０）で表される。

そして、予め求めておいた周波数特性Ｒ（ω）と、式（２０）に示すＫ（ω）とによって、局所的な逆変換フィルタの周波数特性Ｒ’（ω）を求めることを考えると、周波数特性Ｒ’（ω）は、下記の式（２１）によって求めることができる。

すなわち、予め求めておいた周波数特性Ｒ（ω）に基づく逆変換フィルタと直列に、Ｋ（ω）という特性に基づくフィルタ（以下、補正フィルタと称するものとする）を作用させることによって、周波数特性Ｒ’（ω）に基づく局所的な逆変換フィルタと同等なフィルタ処理を行うことが可能となる。

ここで、式を簡略化するため、以下の式（２２）に示すようにＡ（ω）を定義する。

この式（２２）を上述の式（２０）に代入すると、補正フィルタの周波数特性Ｋ（ω）は、下記の式（２３）によって求めることができる。

なお、ノイズが大きいものと仮定し、Ａ（ω）＜＜Ｅ［１／｜Ｓ’（ω）｜^２］かつＡ（ω）＜＜Ｅ［１／｜Ｓ（ω）｜^２］であるとすると、式（２３）は、下記の式（２４）のように簡略化されて表される。

さらに、被写体の典型的なスペクトルを一様分布とし、Ｅ［｜Ｓ（ω）｜^２］＝１とすると、式（２４）は、下記の式（２５）のようにさらに簡略化されて表される。

なお、実用上は、Ａ（ω）＜＜Ｅ［１／｜Ｓ’（ω）｜^２］かつＡ（ω）＜＜Ｅ［１／｜Ｓ（ω）｜^２］が成立しない場合を考慮して、以下の式（２６）に示すように比例係数ｔを導入して周波数特性Ｋ（ω）を表すこともできる。

また、補正フィルタの周波数特性Ｋ（ω）を演算するための式（２３）〜（２６）における理想画像の局所的なパワースペクトルの平均値Ｅ［｜Ｓ’（ω）｜^２］は、上述に示した式（１５）によって求めることができる。

以上のように、局所的な逆変換フィルタの周波数特性Ｒ’（ω）は、予め求めておいた逆変換フィルタの周波数特性Ｒ（ω）と、式（２３）〜（２６）によって算出される補正フィルタの周波数特性Ｋ（ω）とを乗算することによって求めることができるので、演算負荷を低減することができる。

＜フィルタ処理部の構成および動作＞
図１２は、第１の実施の形態の画像処理部のフィルタ処理部の構成の一例と動作を説明する図である。図１２を参照しながら、画像処理部１４のフィルタ処理部１４３の構成をおよび動作について説明する。

フィルタ処理部１４３は、図１２に示すように、ＦＴ（Ｆｏｕｒｉｅｒ Ｔｒａｎｓｆｏｒｍ）部１４３１と、乗算器１４３２＿１〜１４３２＿５０と、Ｋ演算部１４３３と、乗算器１４３４＿１〜１４３４＿５０と、ＩＦＴ（Ｉｎｖｅｒｓｅ Ｆｏｕｒｉｅｒ Ｔｒａｎｓｆｏｒｍ）部１４３５と、備えている。

ＦＴ部１４３１は、例えば、５×５の画素を入力して、フーリエ変換を実行し、周波数領域に変換する。その結果、ＦＴ部１４３１は、５×５の画素すなわち２５個のデータから、２５個の複素数に変換して、２５個の実部データおよび２５個の虚部データ（まとめてデータＸ’１〜Ｘ’５０と表すものとする）を出力する。

乗算器１４３２＿１〜１４３２＿５０は、入力される２つのデータを乗算して出力する。乗算器１４３４＿１〜１４３４＿５０についても同様である。

Ｋ演算部１４３３は、上述の式（１５）、および式（２３）〜（２６）のいずれかに基づいて、入力される周波数特性Ｒ（ω）とＸ’（ω）との乗算値から補正フィルタの周波数特性Ｋ（ω）を出力する。なお、Ｋ演算部１４３３は、周波数特性Ｋ（ω）の値と、周波数特性Ｒ（ω）とＸ’（ω）との乗算値、すなわち、周波数特性Ｓ’（ω）とが関連付けられたルックアップテーブルを参照して、周波数特性Ｋ（ω）を求めるものとしてもよい。

ＩＦＴ部１４３５は、乗算器１４３４＿１〜１４３４＿５０から出力される乗算値（周波数領域の値）から実空間の値に変換する逆フーリエ変換を実行して、１×１の画素を出力する。このＩＦＴ部１４３５から出力される画素が、検出画像の５×５の画素に対して、周波数特性Ｒ’（ω）に基づく逆変換フィルタによってフィルタ処理が実行された画素となる。

次に、フィルタ処理部１４３の動作の一連の流れについて説明する。まず、撮像素子１２によって撮像された画像（検出画像）は、上述のように画像バッファ部１４１によってバッファリングされ、画像バッファ部１４１から５つの画素が出力される。したがって、フィルタ処理部１４３のＦＴ部１４３１は、画像バッファ部１４１から５×５の画素を単位として入力するものとする。ＦＴ部１４３１は、入力した５×５の画素に基づいてフーリエ変換を実行して周波数領域に変換し、２５個の複素数に変換して、２５個の実部データおよび２５個の虚部データであるデータＸ’１〜Ｘ’５０を出力する。

次に、乗算器１４３２＿１は、ＦＴ部１４３１から出力されたデータＸ’１、および逆変換フィルタの周波数特性Ｒ（ω）から導出され、データＸ’１に対応するフィルタ係数Ｒ１を入力する。乗算器１４３２＿１は、データＸ’１とフィルタ係数Ｒ１とを乗算して、乗算値Ｒ１・Ｘ’１を出力する。同様に、乗算器１４３２＿２〜１４３２＿５０は、それぞれ、ＦＴ部１４３１から出力されたデータＸ’２〜Ｘ’５０、およびフィルタ係数Ｒ２〜Ｒ５０を入力し、それらの乗算値Ｒ２・Ｘ’２〜Ｒ５０・Ｘ’５０を出力する。

次に、Ｋ演算部１４３３は、上述の式（１５）、および式（２３）〜（２６）のいずれかに基づいて、入力した乗算値Ｒ１・Ｘ’１〜Ｒ５０・Ｘ’５０から、それぞれ周波数特性Ｋ（ω）に基づく補正フィルタの係数であるフィルタ係数Ｋ１〜Ｋ５０を演算する。

次に、乗算器１４３４＿１は、乗算器１４３２＿１から出力された乗算値Ｒ１・Ｘ’１と、Ｋ演算部１４３３から出力されたフィルタ係数Ｋ１とを乗算して、データＲ１・Ｋ１・Ｘ’１を出力する。同様に、乗算器１４３４＿２〜１４３４＿５０は、それぞれ乗算器１４３２＿２〜１４３２＿５０から出力された乗算値Ｒ２・Ｘ’２〜Ｒ５０・Ｘ’５０と、Ｋ演算部１４３３から出力されたフィルタ係数Ｋ２〜Ｋ５０とを乗算して、それぞれデータＲ２・Ｋ２・Ｘ’２〜Ｒ５０・Ｋ５０・Ｘ’５０を出力する。

そして、ＩＦＴ部１４３５は、乗算器１４３４＿１〜１４３４＿５０からそれぞれ出力されたデータＲ１・Ｋ１・Ｘ’１〜Ｒ５０・Ｋ５０・Ｘ’５０に基づいて、実空間の値に変換する逆フーリエ変換を実行し、１×１の画素を出力する。上述のように、ＩＦＴ部１４３５から出力される画素が、検出画像の５×５の部分画像の画素に対して、その５×５の画素のうち中央の画素に対応した周波数特性Ｒ’（ω）に基づく逆変換フィルタによってフィルタ処理が実行された画素となる。

以上のように、撮像素子１２によって撮像された検出画像ごと、かつ、検出画像の局所的なエリアごと（画素ごと）に、逆変換フィルタの周波数特性Ｒ’（ω）を求めるものとしている。この周波数特性Ｒ’（ω）に基づく逆変換フィルタによって局所的なエリアごと（画素ごと）にフィルタ処理を実行することによって、局所的なエリアについて最小のＭＳＥ（平均二乗誤差）が得られると共に、検出画像全体に共通の周波数特性Ｒ（ω）に基づく逆変換フィルタによるフィルタ処理を実行するよりもノイズの増加を抑制することができる。

また、局所的な逆変換フィルタの周波数特性Ｒ’（ω）を、上述の式（２１）に示すようにＫ（ω）・Ｒ（ω）と定義し、周波数特性Ｒ（ω）に基づく逆変換フィルタの処理と、周波数特性Ｋ（ω）に基づく補正フィルタの処理とをわけてフィルタ回路を構成するものとしている。さらに、周波数特性Ｋ（ω）の導出する回路は、上述の式（２３）〜（２６）に示す計算式に基づいて構成するものとしている。これによって、周波数特性Ｒ’（ω）を画素ごとに直接導出する場合と比較して、演算負荷を低減することができ、実装するフィルタ回路を簡略化することができる。

なお、図６および１２で説明したように、画像バッファ部１４１は、５つの画素を出力して、フィルタ処理部１４３は、５×５の画素を入力してタップ数が５×５であるフィルタ処理を実行するものとしたが、これに限定されるものではない。すなわち、フィルタ処理のタップ数は３×３、１１×１１または２１×２１等異なるタップ数としてもよい。この場合、フィルタによる逆変換処理の対象となるフィルタ処理部１４３に入力する画素群において、中央の画素が存在するように、フィルタのタップ数は奇数である必要がある。

（第２の実施の形態）
第２の実施の形態に係る撮像システムおよび撮像装置について、第１の実施の形態に係る撮像システムおよび撮像装置の構成および動作と相違する点を中心に説明する。

本実施の形態に係る撮像システムの構成は、図１に示す第１の実施の形態に係る撮像システム５００の構成と同様である。また、本実施の形態のＰＣの構成は、図２に示す構成と同様である。また、本実施の形態の撮像装置の構成は、図３に示す構成と同様である。ただし、本実施の形態においては、図４に示す画像処理部１４のフィルタ処理部１４３が、後述する図１３に示すフィルタ処理部１４３ａに置き換えられている。

＜フィルタ処理部の構成および動作＞
図１３は、第２の実施の形態の画像処理部のフィルタ処理部の構成の一例と動作を説明する図である。図１４は、逆変換フィルタの構成の一例を示す図である。図１５は、画像を逆変換フィルタによってフィルタ処理することを説明する図である。図１６は、画像において逆変換フィルタのフィルタ処理の対象となる対象部分画像をスキャンする動作を説明する図である。図１３〜１６を参照しながら、画像処理部１４のフィルタ処理部１４３ａの構成および動作について説明する。

フィルタ処理部１４３ａは、図１３に示すように、逆フィルタ処理部１４３６と、ＤＣＴ（Ｄｉｓｃｒｅｔｅ Ｃｏｓｉｎｅ Ｔｒａｎｓｆｏｒｍ：離散コサイン変換）部１４３１ａと、Ｋ演算部１４３３ａと、ビットダウン部１４３７＿１〜１４３７＿９と、乗算器１４３４ａ＿１〜１４３４ａ＿９と、ＩＤＣＴ（Ｉｎｖｅｒｓｅ Ｄｉｓｃｒｅｔｅ Ｃｏｓｉｎｅ Ｔｒａｎｓｆｏｒｍ：逆離散コサイン変換）部１４３５ａと、を備えている。

逆フィルタ処理部１４３６は、例えば、５×５の画素を入力して、上述の式（１１）によって導出される周波数特性Ｒ（ω）に基づく逆変換フィルタによってフィルタ処理（逆変換処理）を実行する。

ＤＣＴ部１４３１ａは、逆フィルタ処理部１４３６によってフィルタ処理された画像において、例えば、３×３の画素を入力し、離散コサイン変換を実行し、周波数領域に変換する。その結果、ＤＣＴ部１４３１ａは、３×３の画素すなわち９個のデータから、９個の周波数領域の値に変換して出力する。ここで、ＤＣＴ部１４３１ａに入力される３×３の画素は、逆フィルタ処理部１４３６により周波数特性Ｒ（ω）に基づく逆変換フィルタによってフィルタ処理されている画素なので、ＤＣＴ部１４３１ａが出力する９個の周波数領域の値を、本実施の形態において、それぞれ乗算値Ｒ１・Ｘ’１〜Ｒ９・Ｘ’９と表すものとする。

Ｋ演算部１４３３ａは、上述の式（１５）、および式（２３）〜（２６）のいずれかに基づいて、入力される周波数特性Ｒ（ω）とＸ’（ω）との乗算値から補正フィルタの周波数特性Ｋ（ω）を出力する。具体的には、Ｋ演算部１４３３ａは、上述の式（１５）、および式（２３）〜（２６）のいずれかに基づいて、入力した乗算値Ｒ１・Ｘ’１〜Ｒ９・Ｘ’９から、それぞれ周波数特性Ｋ（ω）に基づく補正フィルタの係数であるフィルタ係数Ｋ１〜Ｋ９を演算する。なお、Ｋ演算部１４３３ａは、周波数特性Ｋ（ω）の値と、周波数特性Ｒ（ω）およびＸ’（ω）の値とが関連付けられたルックアップテーブルを参照して、周波数特性Ｋ（ω）を求めるものとしてもよい。

ビットダウン部１４３７＿１〜１４３７＿９は、Ｋ演算部１４３３ａから出力されるフィルタ係数Ｋ１〜Ｋ９に対して、それぞれ量子化ビット数を減少させる。これは、フィルタ係数Ｋ１〜Ｋ９は、量子化ビット数を減少させて、補正フィルタによるフィルタ処理を実行しても、画像の劣化にはほとんど影響がないためである。したがって、ビットダウン部１４３７＿１〜１４３７＿９によりフィルタ係数Ｋ１〜Ｋ９の量子化ビット数を減少させることによって、後段の乗算器１４３４ａ＿１〜１４３４ａ＿９による演算負荷を低減することができる。

乗算器１４３４ａ＿１〜１４３４ａ＿９は、入力される２つのデータを乗算して出力する。

ＩＤＣＴ部１４３５ａは、乗算器１４３４ａ＿１〜１４３４ａ＿９から出力される乗算値（周波数領域の値）から実空間の値に変換する逆離散コサイン変換を実行して、１×１の画素を出力する。このＩＤＣＴ部１４３５ａから出力される画素が、検出画像の５×５の画素に対して、周波数特性Ｒ’（ω）に基づく逆変換フィルタによってフィルタ処理が実行された画素となる。

次に、フィルタ処理部１４３ａの動作の一連の流れについて説明する。まず、撮像素子１２によって撮像された画像（検出画像）は、上述のように画像バッファ部１４１によってバッファリングされ、画像バッファ部１４１から５つの画素が出力される。したがって、フィルタ処理部１４３ａの逆フィルタ処理部１４３６は、画像バッファ部１４１から５×５の画素を単位として入力するものとする。この逆フィルタ処理部１４３６における周波数特性Ｒ（ω）に基づく逆変換フィルタによるフィルタ処理の動作の詳細を、図１４〜１６を参照しながら説明する。

逆変換処理に使用されるフィルタは、図１４に示すように、フィルタ係数ａ１１〜ａ１５、ａ２１〜ａ２５、ａ３１〜ａ３５、ａ４１〜ａ４５およびａ５１〜ａ５５によって構成されるタップ数が５×５の線形フィルタである逆変換フィルタ１２１であるとする。また、逆変換フィルタ１２１による逆変換処理の対象となる画像の部分を、図１５に示す対象部分画像１３１であるものとする。対象部分画像１３１は、画素Ａ１１〜Ａ１５、Ａ２１〜Ａ２５、Ａ３１〜Ａ３５、Ａ４１〜Ａ４５およびＡ５１〜Ａ５５によって構成された５×５の部分画像である。

逆変換フィルタによるフィルタ処理は、図１５に示すように、対象部分画像１３１に対して逆変換フィルタ１２１によってコンボリューション演算した値、すなわち、式（２７）で表される演算値となる。コンボリューション演算の演算値は、対象部分画像１３１の中央に位置する画素である中央データに対して逆変換処理を実行した値となる。すなわち、コンボリューションの演算値は、逆変換処理後の画像において、逆変換処理前の画像の中央データに相当する位置の画素となる。

次に、逆フィルタ処理部１４３６の逆変換処理について、図１６を参照しながら、画像１０５においてＸ方向の水平ラインを走査しながら逆変換処理をする動作の概略を説明する。図１６（ａ）は、逆フィルタ処理部１４３６が、画像１０５における（１，１）の画素に対して逆変換フィルタ１２１によって逆変換処理をする状態を示している。図１６（ａ）に示すように、（１，１）の画素を中央データ１３５ａとしてコンボリューション演算するためには、（１，１）の画素を中央データとする対象部分画像１３１ａと、画像１０５とが重複している部分の画素が必要になる。すなわち、対象部分画像１３１ａのうち、図１５に示す対象部分画像１３１の画素Ａ３３〜Ａ３５、Ａ４３〜Ａ４５およびＡ５３〜Ａ５５に相当する画素が必要である。

そのためは、画素Ａ３３〜Ａ３５、Ａ４３〜Ａ４５およびＡ５３〜Ａ５５に相当する画素が、画像バッファ部１４１の出力部１４１３ａ〜１４１３ｃから出力されている必要がある。そして、対象部分画像１３１ａにおいて、画像１０５と重複していない部分の画素は「０」として取り扱うものとする。

以上の状態において、逆フィルタ処理部１４３６は、図１５に示したコンボリューション演算と同様に、対象部分画像１３１ａに対して逆変換フィルタ１２１によってコンボリューション演算を行う。逆フィルタ処理部１４３６は、画像１０５の対象部分画像１３１ａの中央データ１３５ａである（１，１）の画素に対してコンボリューション演算した値を、逆変換処理後の画像の（１，１）の画素として出力する。

次に、逆フィルタ処理部１４３６は、図１６（ｂ）に示すように、コンボリューション演算の対象となる画素をＸ方向にひとつシフトし、対象部分画像１３１ｂの中央データ１３５ｂである（２，１）の画素に対して逆変換処理をする。そして、逆フィルタ処理部１４３６は、Ｘ方向の水平ラインをシフトしながらコンボリューション演算を繰り返し、図１６（ｃ）に示すように、Ｘ方向の水平ラインの最後の画素である（６４０，１）の画素に対して逆変換処理をする。（６４０，１）の画素は、図１６（ｃ）に示すように、対象部分画像１３１ｃの中央データ１３５ｃである。

以上のように、逆フィルタ処理部１４３６は、Ｘ方向の水平ラインをシフトしながらコンボリューション演算を繰り返し、水平ラインの最後の画素に対する逆変換処理が終了すると、Ｙ方向の次の水平ラインに対して同様に逆変換処理を行う。

図１６（ｄ）〜１６（ｆ）は、逆フィルタ処理部１４３６が、画像１０５におけるＹ方向の４番目の水平ラインの画素に対して逆変換処理を行う状態を示している。図１６（ｄ）は、逆フィルタ処理部１４３６が、画像１０５における（１，４）の画素に対して逆変換フィルタ１２１によって逆変換処理をする状態を示している。図１６（ｄ）に示すように、（１，４）の画素を中央データ１３５ｄとしてコンボリューション演算するためには、（１，４）の画素を中央データとする対象部分画像１３１ｄと、画像１０５とが重複している部分の画素が必要になる。そして、対象部分画像１３１ｄにおいて、画像１０５と重複していない部分の画素は、上述と同様に「０」として取り扱うものとする。

図１６（ｅ）は、逆フィルタ処理部１４３６が、画像１０５における（５，４）の画素に対して逆変換フィルタ１２１によって逆変換処理をする状態を示している。図１６（ｅ）に示すように、（５，４）の画素を中央データ１３５ｅとする対象部分画像１３１ｅは全体が画像１０５と重複しているので、逆フィルタ処理部１４３６は、対象部分画像１３１ｅに含まれる画素をすべて利用した逆変換処理が可能となる。

そして、逆フィルタ処理部１４３６は、Ｘ方向の水平ラインをシフトしながらコンボリューション演算を繰り返し、図１６（ｆ）に示すように、Ｘ方向の水平ラインの最後の画素である（６４０，４）の画素に対して逆変換処理をする。（６４０，４）の画素は、図１６（ｆ）に示すように、対象部分画像１３１ｆの中央データ１３５ｆである。

なお、上述のように、画像１０５における逆変換フィルタ１２１によるコンボリューション演算の対象となる対象部分画像について、画像１０５と重複していない部分の画素は「０」としたが、これに限定されるものではない。例えば、対象部分画像の画像１０５と重複していない部分の画素は、対象部分画像の中央データを基準にして、対象部分画像の画像１０５と重複している部分の画素を折り返した場合の画素を用いるものとしてもよい。

具体的に、図１６（ａ）の対象部分画像１３１ａを例にして説明する。対象部分画像１３１ａのそれぞれの画素の名称を、仮に図１５に示す対象部分画像１３１の画素の名称と同様とする。この場合、対象部分画像１３１ａの画像１０５と重複していない部分の画素は、画素Ａ１１〜Ａ１５、Ａ２１〜Ａ２５、Ａ３１、Ａ３２、Ａ４１、Ａ４２、Ａ５１およびＡ５２である。また、対象部分画像１３１ａの画像１０５と重複している部分の画素は、画素Ａ３３〜Ａ３５、Ａ４３〜Ａ４５およびＡ５３〜Ａ５５である。

このとき、画素Ａ３１、Ａ３２、Ａ４１、Ａ４２、Ａ５１およびＡ５２は、中央データを基準にして、対象部分画像１３１ａの画像１０５と重複している部分の画素を折り返し、それぞれ画素Ａ３５、Ａ３４、Ａ４５、Ａ４４、Ａ５５およびＡ５４の値を用いる。また、画素Ａ１３〜Ａ１５およびＡ２３〜Ａ２５は、中央データを基準にして、対象部分画像１３１ａの画像１０５と重複している部分の画素を折り返し、それぞれ画素Ａ５３〜Ａ５５およびＡ４３〜Ａ４５の値を用いる。そして、画素Ａ１１、Ａ１２、Ａ２１およびＡ２２は、中央データを基準にして、対象部分画像１３１ａの画像１０５と重複している部分の画素のうち点対象の位置関係にある画素、すなわち、それぞれＡ５５、Ａ５４、Ａ４５およびＡ４４の値を用いる。以上のような方法によって、対象部分画像の各画素を決定するものとしてもよい。

次に、ＤＣＴ部１４３１ａは、上述のように逆フィルタ処理部１４３６によってフィルタ処理された画像に対して、例えば、３×３の画素を入力し、離散コサイン変換を実行して周波数領域に変換し、９個の周波数領域の値である乗算値Ｒ１・Ｘ’１〜Ｒ９・Ｘ’９を出力する。このように、ＤＣＴ部１４３１ａによる周波数領域への変換は、第１の実施の形態における図１２に示すＦＴ部１４３１による周波数領域への変換後に出力するデータ数が入力データ数の２倍の数になるのに対し、出力するデータ数が入力データ数と同一となる。したがって、ＤＣＴ部１４３１ａの後段の回路を簡略化することができる。もちろん、ＤＣＴ部１４３１ａおよびＩＤＣＴ部１４３５ａではなく、代わりに第１の実施の形態で示したものと同じくそれぞれＦＴ部およびＩＦＴ部を用いてもよい。

次に、Ｋ演算部１４３３ａは、上述の式（１５）、および式（２３）〜（２６）のいずれかに基づいて、入力した乗算値Ｒ１・Ｘ’１〜Ｒ９・Ｘ’９から、それぞれ周波数特性Ｋ（ω）に基づく補正フィルタの係数であるフィルタ係数Ｋ１〜Ｋ９を演算する。

次に、ビットダウン部１４３７＿１〜１４３７＿９は、Ｋ演算部１４３３から出力されるフィルタ係数Ｋ１〜Ｋ９に対して、それぞれ量子化ビット数を減少させ、量子化ビット数が減少したフィルタ係数Ｋ１〜Ｋ９をそれぞれ出力する。

次に、乗算器１４３４ａ＿１〜１４３４ａ＿９は、ＤＣＴ部１４３１ａから出力された乗算値Ｒ１・Ｘ’１〜Ｒ９・Ｘ’９と、ビットダウン部１４３７＿１〜１４３７＿９からそれぞれ出力されたフィルタ係数Ｋ１〜Ｋ９とを乗算して、それぞれデータＲ１・Ｋ１・Ｘ’１〜Ｒ９・Ｋ９・Ｘ’９を出力する。

そして、ＩＤＣＴ部１４３５ａは、乗算器１４３４ａ＿１〜１４３４ａ＿９からそれぞれ出力されたデータＲ１・Ｋ１・Ｘ’１〜Ｒ９・Ｋ９・Ｘ’９に基づいて、実空間の値に変換する逆離散コサイン変換を実行し、１×１の画素を出力する。上述のように、ＩＤＣＴ部１４３５ａから出力される画素が、検出画像の５×５の部分画像の画素に対して、その５×５の画素のうち中央の画素に対応した周波数特性Ｒ’（ω）に基づく逆変換フィルタによってフィルタ処理が実行された画素となる。

以上のように、画像処理部１４のフィルタ処理部１４３ａの構成を、図１３に示される構成とすることによって、第１の実施の形態の同様の効果を有する。

また、図１３に示すフィルタ処理部１４３ａにおいては、検出画像の５×５の画素を逆フィルタ処理部１４３６による周波数特性Ｒ（ω）に基づく逆変換フィルタによってフィルタ処理を実行した後、そのフィルタ処理をした画像から、画素数を減少させた３×３の画素に対して、ＤＣＴ部１４３１ａ以降の補正フィルタによるフィルタ処理を実行している。すなわち、補正フィルタのタップ数は、周波数特性Ｒ（ω）に基づく逆変換フィルタのタップ数よりも小さいものとしている。これは、Ｋ演算部１４３３ａによる補正フィルタのフィルタ係数を演算するためにＫ演算部１４３３ａに入力されるデータの数を減少させても、画像の劣化にはほとんど影響がないためである。これによって、実装するフィルタ回路をさらに簡略化することができる。

なお、Ｋ演算部１４３３ａによって出力されたフィルタ係数を、ビットダウン部１４３７＿１〜１４３７＿９によって、量子化ビット数を減少させているが、これは必須ではなく、ビットダウン部１４３７＿１〜１４３７＿９を必ずしも設ける必要はない。また、このビットダウン部を、第１の実施の形態のフィルタ処理部１４３に適用し、フィルタ処理部１４３おけるＫ演算部１４３３の後段側に設置することも可能である。

１ 撮像装置
２ ＰＣ
３ 通信ケーブル
４ 被写体
１１ レンズユニット
１１ａ 位相板
１１ｂ 絞り
１２ 撮像素子
１４ 画像処理部
１５ 通信部
２１ 通信部
２２ 操作部
２３ 表示部
２４ 記憶部
２５ 外部記憶装置
２６ 制御部
２７ バス
１０１ 検出画像
１０１ａ テクスチャ部
１０２、１０３ エリア
１０５ 画像
１２１ 逆変換フィルタ
１３１、１３１ａ〜１３１ｆ 対象部分画像
１３５ａ〜１３５ｆ 中央データ
１４１ 画像バッファ部
１４３、１４３ａ フィルタ処理部
５００ 撮像システム
１４１０ 入力部
１４１１ａ〜１４１１ｄ レジスタ
１４１２ａ〜１４１２ｄ ラインバッファ
１４１３ａ〜１４１３ｅ 出力部
１４３１ ＦＴ部
１４３１ａ ＤＣＴ部
１４３２＿１〜１４３２＿５０ 乗算器
１４３３、１４３３ａ Ｋ演算部
１４３４＿１〜１４３４＿５０ 乗算器
１４３４ａ＿１〜１４３４ａ＿９ 乗算器
１４３５ ＩＦＴ部
１４３５ａ ＩＤＣＴ部
１４３６ 逆フィルタ処理部
１４３７＿１〜１４３７＿９ ビットダウン部
Ａ フレーム開始期間
Ｂ 水平ブランキング期間
Ｃ フレーム終了期間
Ｄ 垂直ブランキング期間
Ｔ 有効データ期間

特開２０１２−５４７９５号公報

Claims (16)

1. 入射した光に収差を与える光学系と、
   前記光学系を通過した前記光を画素に変換して画像を撮像する撮像手段と、
   前記撮像手段によって撮像された撮像画像の所定部分ごとに前記収差を復元するための第１逆変換フィルタを求め、前記第１逆変換フィルタによって前記撮像画像に対して第１逆変換処理を行う逆変換手段と、
   を備え、
   前記第１逆変換フィルタの周波数特性は、前記撮像画像全体に対して前記収差を復元するための第２逆変換フィルタの周波数特性と、前記第２逆変換フィルタの周波数特性を補正する補正フィルタの周波数特性との積である撮像装置。
2. 前記補正フィルタの周波数特性Ｋは、下記の式（２）で算出される請求項１に記載の撮像装置。
   

   
3. 前記補正フィルタの周波数特性Ｋは、下記の式（３）で算出される請求項１に記載の撮像装置。
   

   
4. 前記補正フィルタの周波数特性Ｋは、下記の式（４）で算出される請求項１に記載の撮像装置。
   

   
5. 前記理想画像は、前記撮像画像に対して、前記撮像画像全体に対して前記収差を復元するための前記第２逆変換フィルタを作用させた画像とする請求項２〜４のいずれか一項に記載の撮像装置。
6. 前記補正フィルタの周波数特性は、前記理想画像の所定部分の画素の周波数特性と関連付けられたルックアップテーブルから導出される請求項２〜５のいずれか一項に記載の撮像装置。
7. 前記第１逆変換フィルタは、前記光学系の前記収差と、前記撮像画像の所定部分の画素の周波数特性とに基づいて求められるフィルタである請求項１〜６のいずれか一項に記載の撮像装置。
8. 前記第１逆変換フィルタは、被写体の理想画像の所定部分の画素の周波数特性と、前記逆変換手段によって前記第１逆変換処理がなされた出力画像の所定部分の画素の周波数特性との平均二乗誤差を最小にするフィルタである請求項７に記載の撮像装置。
9. 前記第１逆変換フィルタは、前記撮像画像ごとに、かつ前記撮像画像の所定部分として前記撮像画像の前記画素ごとに前記収差を復元するフィルタである請求項７または８に記載の撮像装置。
10. 前記第１逆変換フィルタの周波数特性Ｒ’は、下記の式（１）で算出される請求項１〜９のいずれか一項に記載の撮像装置。
    

    
11. 前記補正フィルタによるフィルタ処理は、前記第１逆変換処理されたデータを離散コサイン変換する処理を含む請求項１〜１０のいずれか一項に記載の撮像装置。
12. 前記補正フィルタのタップ数は、前記第２逆変換フィルタのタップ数よりも小さい請求項１〜１１のいずれか一項に記載の撮像装置。
13. 前記逆変換手段は、前記第２逆変換フィルタに基づく第２逆変換処理を、実空間の値の演算によって実行する請求項１〜１２のいずれか一項に記載の撮像装置。
14. 前記逆変換手段は、前記第２逆変換フィルタに基づく第２逆変換処理を、周波数領域の値の演算によって実行する請求項１〜１２のいずれか一項に記載の撮像装置。
15. 請求項１〜１４のいずれか一項に記載の撮像装置と、
    前記撮像装置からの前記撮像画像に対して前記第１逆変換処理が行われた出力画像を受信する通信手段と、該出力画像を表示する表示手段とを備える情報処理装置と、
    を備える撮像システム。
16. 入射した光に収差を与えるステップと、
    前記収差を与えた前記光を画素に変換して画像を撮像するステップと、
    撮像した撮像画像の所定部分ごとに前記収差を復元するための第１逆変換フィルタを求め、前記第１逆変換フィルタによって前記撮像画像に対して第１逆変換処理を行うステップと、
    を有し、
    前記第１逆変換フィルタの周波数特性は、前記撮像画像全体に対して前記収差を復元するための第２逆変換フィルタの周波数特性と、前記第２逆変換フィルタの周波数特性を補正する補正フィルタの周波数特性との積である撮像方法。

Images