はじめに、本発明が適用される手法について説明する。
本発明が適用される手法とは、主に、次の第1の手法乃至第3の手法を言う。
第1の手法とは、2回結像させる手法、換言すると、第1の結像系(第1の光学系とも称する)と第2の結像系(第2の光学系とも称する)とを形成させる手法である。この第1の手法により、単一焦点、かつ撮像素子(例えばCCD等)間の物理的な干渉なくブレンディング領域(後述する図6のブレンディング領域103等)を保持した撮影が可能になる。ただし、ブレンディング領域を保持するためには、撮像素子の配置に注意を要する。このことは、図5を参照して後述する。
第2の手法とは、第1の手法により形成される第2の結像系の撮像素子の個数、位置、およびズームのうちの少なくともひとつを変化させる、という手法である。この第2の手法により、部分的に高解像度の撮影が可能になる。さらに、この第2の手法(および第1の手法)を適用した撮像装置の構成要素としてプリズムは不要になるので、撮像素子(CCD等)の数を増やしてもコストを抑えることが可能になる。
第3の手法とは、位相補正若しくは検出処理、輝度補正若しくは検出処理、並びに、それらの処理に必要な位相補正情報若しくは輝度補正情報を自動で求める処理を実現するための手法である。自動とは、撮像装置を使用するユーザ等の操作(トリガ信号の入力操作を除く)を介在することなく、撮像装置自身の判断で処理を実行することをいう。なお、第3の手法により実現される各種処理については、図10以降のフローチャートを参照して参照する。
第1の手法乃至第3の手法を適用した撮像系を、従来のプリズムを用いた単一結像の撮像系で実現することは実質上不可能である。このため、本発明人は、第1の手法乃至第3の手法を適用した撮像系を有する撮像装置を発明した。かかる撮像装置は、例えば図2に示されるように構成される。即ち、図2は、本発明が適用される撮像装置の一実施の形態の構成を示している。
図2の例では、撮像装置31は、第1の結像系(第1の光学系)41、第2の結像系(第2の光学系)群42、フィールドレンズ43、信号処理部44、および、高解像度撮像範囲指定用インタフェース45を含むように構成されている。
はじめに、第1の結像系41、第2の結像系群42、および、フィールドレンズ43からなる光学系について説明する。
上述したように、特許文献1等の従来の光学装置(撮像装置)は、一回のみ結像を行い、その像をプリズムで分割している。このように、従来、プリズムで同じ光線を分割する手法が主に適用されていた。これにより、上述した各種問題点が生じてしまうことになる。
また、このような問題点を解消する手法として、例えば図3に示される手法、即ち、例えばCCD83−1乃至83−3等複数のCCDをアレイ状に配置して、物体81の像をレンズ82を介してアレイ状に配置された複数のCCDに結像させる、といった手法が考えられる。しかしながら、CCD83−1乃至83−3等の物理的大きさを考えると、各CCDの枠同士が干渉して、画像が撮像できないCCD間の部分84−1や部分84−2が生じる、という新たな問題点が発生してしまう。
さらにまた、非特許文献1に開示された従来の光学系は、第1の結像系と第2の結像系自体は存在するが、第2の結像系に分割する際にプリズムで分割するため、境界部分を撮影することができず、大きく歪みをもってしまう、という問題点も発生してしまう。
そこで、本発明人は、これらの様々な問題点を併せて解消すべく、図2に示されるような再結像(2回結像)を用いた光学系、即ち、第1の結像系41と、第2の結像系群42とを有し、それらの間をフィールドレンズ43で結ぶ構造の光学系を発明した。
第1の結像系は、例えば対物レンズ51を有し、CCDの画角等に関する光学特性を決める光学系であって、フィールドレンズ43またはその近傍に物体面32の像を1回結像させる。換言すると、フィールドレンズ43は、第1の結像系の焦点距離またはその手前近傍に配置される。第2の結像系群42は、1つのズームレンズ61−Kと1つのCCD62−Kとを有する第2の結像系がN個(Nは、2以上の整数値)集まって構成される。なお、kは、1乃至Nの整数値である。ただし、図2の例では、1乃至3のうちの何れかの値がkになる。また、ここで言う1つのズームレンズ61−Kとは、ズームレンズ61−Kが1つのレンズだけで構成されることを意味するのではなく、1以上のレンズから構成されるズームレンズ62−1乃至62−Nが第2の光学系群42内に存在するが、1つの第2の結像系に着目した場合、1つの第2の結像系には、ズームレンズ62−1乃至62−Nのうちの所定の1つが設けられるという意味である。
このような第2の結像系群42においては、他とは干渉なしにCCD62−Kを配置することが可能になり、フィールドレンズ43またはその近傍に結像された物体面32の像をCCD62−Kの面に再結像させることが可能になる。
なお、図2の例では、フィールドレンズ43が採用されているが、その代わりに、図示せぬディフューザーを採用してもよい。ただし、ディフューザーは、出力光線の幅(ビーム角)を広げる機能を有しており、この機能のため、像の解像度が落ちることに注意を要する。
また、第2の光学系における撮像素子は、図2の例ではCCD62−Kが採用されているが、当然ながら図2の例に限定されず、任意の撮像素子でよい。
さらにまた、図2の例では、フィールドレンズ43より小さい第2の光学系が採用されているが、図2の例に限定されず、例えば、図4に示されるように、CCD62−K(図4には、CCD62−1のみが図示されている)の位置を偏心させることで、フィールドレンズ43より大きな第2の光学系を採用(配置)することも可能である。
このような第2の光学系群42を採用することで、自由度の高い撮影を行うことが可能になる。即ち、CCD62−1乃至62−Nの個数Nの増加が容易になるので、自由度の高い撮影を行うことが可能になる。また、CCD62−Kを有する第2の光学系の位置とズームを、他の第2の光学系とは独立して容易に可変できるので、例えば部分的な高解像度撮影を行うことが容易にできるようになり、その結果、自由度の高い撮影を行うことが可能になる。
詳細には、上述したように、従来のプリズムで分割する手法では、CCDの数を多くしようとすると、プリズムの数が非常に多くなる、という問題が発生してしまう。具体的には。4分割のプリズムを採用する場合において、4枚のCCDを採用するときには1個のプリズムだけを採用すればよいが、16枚のCCDを採用するときには5個のプリズムを採用する必要が生じ、さらに、64枚のCCDを採用するときには21個ものプリズムを採用する必要が生じる、という問題が発生してしまう。また、上述した図1に示される手法で採用されているCCD1−1乃至1−4等の配置を考えると、プリズム2の結像面自体も大きくなり、このようなプリズム2を加工するのは難しく非常に高価になる、という問題も発生してしまう。
これに対して、本実施の形態の第2の光学系群42では、ズームレンズ61−K等のレンズの大きさが許す範囲内であれば、CCD62−Kを多数配置することが可能である。たとえレンズが大きくなったとしても、大きなプリズムを加工する場合と比較すると、安価でレンズを製造できるので、それに伴い、本実施の形態の第2の光学系群42を含む光学系全体も安価で実現できる。
また、CCD62−Kを追加する場合にも、焦点距離が変わらないように追加して並べれば新規に光路設計が不要である。
ただし、ブレンディング領域(後述する図6のブレンディング領域103等)を保持するためには、2つのCCD62−KとCCD62−K+1とを図5に示されるように配置させる必要がある。即ち、図5は、ブレンディング領域を保持するための、2つのCCD62−KとCCD62−K+1の配置方法を説明する図である。
図5の例では、フィールドレンズ43の右方近傍の面91が撮像面(結像面)とされ、そのうちの領域92がブレンディング領域とされている。また、Fは、撮像面91と、ズームレンズ61−Kまたは61−K+1との間の距離とされ、Dは、2つのCCD62−KとCCD62−K+1との間隔とされ、φは、結像面から出射される光線のうちの、ブレンディング領域92に対応する光線の幅(ビーム角)を示している。
この場合、ブレンディング領域92を保持するためには、図5に示されるように、ブレンディング領域92に対応する光線が、2つのCCD62−KとCCD62−K+1との何れにも入射される必要がある。これを満たすためには、次の式(1)のような条件が必要になる。
2×F×tan(φ/2) > D ・・・(1)
換言すると、式(1)を満たす間隔Dで、2つのCCD62−KとCCD62−K+1とを配置することで、ブレンディング領域92に対応する光線が、2つのCCD62−KとCCD62−K+1との何れにも入射され、その結果、ブレンディング領域92が保持されるのである。
以上説明したように、第2の光学系群42を採用することで、CCD62−1乃至62−Nの個数Nの増加が容易になるので、即ち、ブレンディング領域を保持するために、上述した式(1)を満たす間隔Dで2つのCCD62−KとCCD62−K+1とを配置するという条件を満たせば、自由な配置が容易に可能になるので、その結果、自由度の高い撮影を行うことも容易に可能になる。
また、本実施の形態の第2の光学系は、1つのCCD62−Kを水平方向と垂直方向とのうちの少なくとも一方向にシフトする機構(以下、シフト機構と称する)と、ズームの機構(以下、ズーム機構と称する)とを有している。1つのCCD62−Kのシフト機構は、後述する位置制御アクチュエータ78により他とは独立して駆動される。また、1つのCCD62−Kのズーム機構は、ズームアクチュエータ77により他とは独立して駆動される。
これにより、CCD62−1乃至62−Nの配置の密度とそれぞれの撮像範囲を容易に変化させることができ、例えば図6に示されるような人102のうちの顔(図中黒い丸の部分)のみを高解像度にするといった、部分的な高解像度の撮影が可能になる。即ち、図6の左側の図は、均一撮影により、人102が撮影される様子を示している。均一撮影とは、CCD62−1乃至62−Nがアレイ状に間隔Dだけ離間して均等に配置され、かつ、CCD62−1乃至62−Nのズーム率が一律であるという条件のもとで行われる撮影を言う。これに対して、図6の右側の図は、人102の顔(丸い部分)が高解像度に撮影される様子、即ち、図2の物体32が人102である場合に物体32の一部分(顔)のみが高解像度に撮影される様子を示している。なお、図6の両図において、1つの四角は、カメラ(CCD62−K)の画角101を示している。従って、1つのCCD62−Kの画角101と、その隣の1つのCCD62−K+1の画角101とが重なり合った領域103が、ブレンディング領域となる。
また、図7は、図6の撮影が行なわれるときの、第2の結像系群42の動作を説明する図である。即ち、図7の左側の図は、図6の左側の図の均一撮影が行なわれるときの第2の結像系群42の動作を説明する図である。これに対して、図7の右側の図は、図6の右側の図の撮影、即ち、人102の顔の部分のみが高解像度に撮影されるときの第2の結像系群42の動作を説明する図である。
図7の例では、垂直方向に連続して並ぶ4つの第2の光学系、即ち、CCD62−1を有する第2の光学系(以下、1番目の第2の光学系と称する)、CCD62−2を有する第2の光学系(以下、2番目の第2の光学系と称する)、CCD62−3を有する第2の光学系(以下、3番目の第2の光学系と称する)、および、CCD62−4を有する第4の光学系(以下、4番目の第2の光学系と称する)のみが図示されている。また、図7の例では、両図ともに、図6の人102の像111がフィールドレンズ43の同一位置に結像されている。さらにまた、像111のうちの領域112と、像111のうちの領域113とのそれぞれが、ブレンディング領域の1つとなる。
図7の両図を比較するに、図6の右側の図の撮影が行なわれるとき、即ち、人102の顔の部分のみが高解像度に撮影されるとき、1番目の第2の光学系は、そのズーム機構により「WIDE(広角)」のズームが行なわれ、そのシフト機構により、図中下側方向の位置へのシフトshift1が行なわれる。また、2番目の第2の光学系は、そのズーム機構により「WIDE」のズームが行なわれ、そのシフト機構により、図中下側方向の位置へのシフトshift2が行なわれる。3番目の第2の光学系は、そのズーム機構により「TELE(望遠)」のズームが行なわれ、そのシフト機構により、図中下側方向の位置へのシフトshift3が行なわれる。4番目の第2の光学系は、そのズーム機構により「WIDE」のズームが行なわれ、そのシフト機構により、図中上側方向の位置へのシフトshift4が行なわれる。
このように、本実施の形態においては、第2の光学系群42を構成する各第2の光学系42のそれぞれについての、位置のシフト操作と、「WIDE」若しくは「TELE」のズームの操作とのみを行うことで、CCD62−Kを有する第2の光学系の位置とズームと他とは独立して容易に可変させることができる。その結果、部分的に高解像度な撮影を行うことが容易に可能になり、自由度の高い撮影を行うことが可能になる。
なお、部分的に高解像度な撮像が行われる場合、画角が一定であるとすると、上述した図7に示されるように、一部の第2の光学系が「TELE」のズームになると、他の第2の光学系が「WIDE」のズームになるので、ズームが「TELE」である第2の光学系により撮影された部分は高解像度となるが、その周辺部分、即ち、ズームが「WIDE」である他の第2の光学系により撮影された部分の周辺解像度が若干劣化する。
ただし、一般的に、ユーザ(撮影者)にとっては、撮影範囲(フィールドレンズ43またはその近傍に結像される範囲)の全てが重要なわけではなく、そのうちの一部分が本当に見たいところであることが多い。この場合、その本当に見たいところが高解像度であれば足り、他は低解像度でも構わないと要望するユーザが多い。
この要望に応えるためには、撮影範囲の中から、ユーザが本当に見たいところ、即ち、高解像度で撮影する範囲(以下、高解像度撮像範囲と称する)を選択する必要がある。高解像度撮像範囲を選択する手法は、特に限定されず、例えば、次の第1の選択手法や第2の選択手法を採用することが可能である。
第1の選択手法とは、ユーザが、図2の高解像度撮像範囲指定用インタフェース45を通じて画像内の所望の領域を指定し、高解像度撮像範囲演算回路76が、その指定された領域を高解像度撮像範囲として選択する、といった手法である。
第2の選択手法とは、高解像度撮像範囲演算回路76が、画像内の周波数を計算して、周波数が高い領域を重点的に高解像度にする(高解像度撮像範囲として選択する)、といった手法である。
なお、このようにしてCCD62−1乃至CCD62−Nのうちの、1以上のCCDにより撮像された高解像度撮像範囲の画像と、他のCCDにより低解像度で撮影された範囲の画像とを組み合わせて1枚の画像(フレーム)を構成する場合には、高解像度撮像範囲にあわせて他の範囲の画像を拡大等して、高解像度撮像範囲の画像とその他の範囲の画像とをブレンディング領域にて張り合わす処理が必要になる。このような処理を、以下、ブレンディング処理と称する。ブレンディング処理の詳細については、図18等を参照して後述する。
以上、図2の例の撮像装置31のうちの、第1の結像系41(第1の光学系41)、第2の結像系群42(第2の光学系群42)、およびフィールドレンズ43からなる光学系について説明した。また、その説明の中で、高解像度撮像範囲指定用インタフェース45についても、上述した第1の選択手法で利用されるインタフェースであると説明した。
そこで、以下、図2の例の撮像装置31のうちの、残りの信号処理部44について説明する。
図2の例では、信号処理部44は、メモリ71−1乃至位置制御アクチュエータ78を含むように構成されている。
なお、高解像度撮像範囲演算回路76乃至位置制御アクチュエータ78については、上述したので、ここではその説明は省略する。
メモリ71−1乃至71−3のそれぞれは、CCD62−1乃至62−3のそれぞれから出力された画像信号を記憶する。即ち、図2の例では、3つのCCD62−1乃至62−3のみが図示されているため、3つのメモリ71−1乃至71−3のみが図示されている。従って、実際には、N個のCCD62−1乃至62−Nのそれぞに対して、N個のメモリ71−1乃至71−Nのそれぞれが設けられる。
ところで、本実施の形態では、図2の例の撮像装置31における第1の結像系41と第2の結像系群42との歪みのパラメータは違うとされている。そこで、これらの歪みを補正するために、図2の例の撮像装置31には、位相検出/補正回路72乃至輝度補正情報メモリ75が設けられている。
そこで、以下、位相検出/補正回路72乃至輝度補正情報メモリ75がこれらの歪みを簡単に補正するための手法の一例として、テストパターンを用いた位相と輝度の自動補正手法の一例について説明する。即ち、いくつかのパラメータでテストパターン(テストパターンについては後述する)を予め撮影し、位相補正情報や輝度補正情報を自動抽出する抽出手法と、被写体の撮影時にそれらの位相補正情報や輝度補正情報を利用して、リアルタイムに被写体の画像の位相や輝度の補正を行う補正手法とのそれぞれについて説明する。
はじめに、輝度検出/補正回路74についての輝度補正情報の抽出手法と、輝度の補正手法(輝度補正情報の使用法)とについて説明する。
輝度検出/補正回路74は、撮影時に、輝度補正情報メモリ75に蓄えられた輝度補正情報、具体的には例えば図8に示される輝度補正情報に基づいて、リアルタイムでマッピングすることができる。
この場合、輝度補正情報が予め生成(抽出)され、輝度補正情報メモリ75に予め蓄えられている必要がある。そこで、本実施の形態では、輝度検出/補正回路74が、輝度補正情報を予め抽出して、輝度補正情報メモリ75に予め記憶するようにしている。以下、このような輝度検出/補正回路74により輝度補正情報が予め抽出される手法、即ち、輝度補正情報の抽出手法について説明する。
輝度補正情報の抽出手法とは、次のような一連の処理を実現するための手法である。
即ち、輝度検出/補正回路74は、まず、壁一面白色の映像を撮影して、その映像の輝度値の曲面を補正パラメータとして抽出する。
詳細には、壁一面白色の画像(フレーム)は、その画像の何れの部分も輝度値が同一となるところ、実際には、図2のフィールドレンズ43等の影響で、その画像のうちの、中央部分の輝度値が最も高く(最も明るく)、周辺部分にいくに従って輝度値が低くなっていく(暗くなっていく)傾向にある。従って、その画像の輝度の分布は、曲面S(x,y)の関数で表すことが可能である。この曲面S(x,y)の一般式は、例えば次の式(2)に示される通りになる。
S(x, y)=b1 ・ (x − b2)^2 + b3 ・ (y − b4)^2 + b5 ・ x ・ y + b6
・・・(2)
式(2)において、b1 乃至b6は、各パラメータ(係数)を示している。xとyとは、CCD62−1乃至62−Nがアレイ状に配置されている平面上において、水平方向を例えばX方向として垂直方向をY方向とした場合におけるXY座標系の座標(以下、このようなXY座標系を絶対座標系と適宜称し、その座標を絶対座標と適宜称する)を表している。
従って、1つのCCD62−Kの位置が、絶対座標系では(u,v)と表されるとすると、この輝度補正の係数b1 乃至b6は、1つのCCD62−Kの位置(1つの第2の光学系の位置(u,v)およびズーム率r によって一意に求まることになる。
そこで、輝度検出/補正回路74は、例えば図9のフローチャートに従って、輝度補正の係数b1 乃至b6を演算する。即ち、図9は、輝度検出/補正回路74が実行する輝度補正の係数の演算の処理(以下、輝度補正係数計算処理と称する)の一例を示している。
ステップS1において、輝度検出/補正回路74を含む撮像装置31は、壁一面白色の画像、即ち、一面白色のテストパターンの映像を撮影する。その際、所定の1つのCCD62−Kの位置(u,v)やズーム率rは適当に設定される。
ステップS2において、輝度検出/補正回路74は、ステップS1の撮影処理で利用されたCCD62−Kの位置(u,v)およびズーム率r、並びに、CCD62−Kの出力画像(壁一面白色の画像のうちの一部分の領域画像)の輝度値を用いて、上述した式(2)の輝度補正の各係数(各パラメータ)b1 乃至b6を例えば最小自乗法で演算する。
そして、ステップS3において、輝度検出/補正回路74は、輝度補正情報メモリ75に、各係数(各パラメータ)b1 乃至b6を係数群LUT として、現在のCCD62−Kの位置(u,v)およびズーム率rの情報とともに格納する。
これにより、輝度補正係数演算処理は終了し、その結果、位置u,v,ズーム率r に対する曲率のデータが得られることになる。
以上の輝度補正係数計算処理が、位置u,v,ズーム率rの幾つかのパターン毎に実行されると、上述した図8に示されるような輝度補正情報が得られ、輝度補正情報メモリ75に格納される。
次に、輝度の補正手法(輝度補正情報の使用法)について説明する。
図10は、輝度の補正手法に対応する処理(以下、輝度補正処理と称する)の一例を説明するフローチャートである。そこで、以下、図10を参照して、輝度補正処理について説明する。
ステップS11において、輝度検出/補正回路74は、所定の1つのCCD62−Kに着目し、現在の位置とズーム率が近い輝度補正の係数b1 乃至b6(係数群LUT)を、輝度補正情報メモリ75から1以上読み出す。現在の位置とズーム率が近い輝度補正の係数b1 乃至b6とは、例えば、CCD62−Kの現在の位置(u,v)が(0.5,1)とされ、ズーム率が1.05とされた場合には、図8の輝度補正情報のうちの一番上の行や次の行の係数b1 乃至b6のことを指す。即ち、いまの場合、CCD62−Kの位置(u,v)が(0,0)とされてズーム率が1.1とされた場合に図9の輝度補正係数計算処理により演算された係数b1 乃至b6や、CCD62−Kの位置(u,v)が(1,2)とされてズーム率が1.2とされた場合に図9の輝度補正係数計算処理により演算された係数b1 乃至b6が、現在の位置とズーム率が近い輝度補正の係数b1 乃至b6(係数群LUT)として、ステップS11の処理で輝度補正情報メモリ75から読み出される。
ステップS12において、輝度検出/補正回路74は、位置とズーム率が近い輝度補正の係数b1 乃至b6(係数群LUT)から、位置とズーム率の曲面S(x,y)を比例計算で求める。即ち、輝度検出/補正回路74は、位置とズーム率が近い輝度補正の係数b1 乃至b6の幾つかの組、即ち、位置とズーム率が近い係数群LUTの幾つかの組を線形補間することで、仮想の係数b1 乃至b6を求め、その仮想の係数b1 乃至b6を上述した式(2)に代入することで輝度補正曲面S(x,y)を求める。
そして、ステップS13において、輝度検出/補正回路74は、ステップS12の処理で求めた仮想の輝度補正曲面S(x,y)の最小値MIN{S(x,y)}を計算する。
ステップS14において、輝度検出/補正回路74を含む撮像装置31は、被写体の映像を撮影する。これにより、1フレームを構成する各画素、即ち、各CCD62−1乃至62−Nの各出力画像を構成する各画素のそれぞれの入力輝度値(画素値)IN(x,y)が輝度検出/補正回路74に入力され、処理はステップS15に進む。
なお、以下、1つの画素の入力輝度値(画素値)IN(x,y)を、入力画素IN(x,y)と称する。これに伴い、輝度検出/補正回路74から出力されるその画素の輝度値(画素値)OUT(x,y)を、出力画素OUT(x,y)と称する。
また、以下、処理の対象として注目すべきフレーム、即ち、ここではステップS14の処理で撮影されたフレームを、注目フレームと称する。
ステップS15において、輝度検出/補正回路74は、注目フレームを構成する各入力画素IN(x,y)のうちの所定の1つを注目入力画素IN(x,y)に設定し、注目入力画素IN(x,y)に応じて、注目出力画素OUT(x,y)の計算を行う。即ち、輝度検出/補正回路74は、次の式(3)の右辺を演算することで、注目入力画素IN(x,y)を補正し、その補正結果である注目出力画素OUT(x,y)を求める。
OUT(x,y)=IN(x, y) ・ MINS(x, y)/S(x, y) ・・・(3)
ステップS16において、輝度検出/補正回路74は、注目フレームを構成する全画素についての処理を終了したか否かを判定する。
ステップS16において、注目フレームを構成する全画素についての処理がまだ終了されていないと判定されると、処理はステップS15に戻され、それ以降の処理が繰り返される。
即ち、ステップS15とS16とのループ処理が繰り返し実行されることで、注目フレームを構成する全画素の出力画素OUT(x,y)が求められる。その結果、これらの各出力画素OUT(x,y)からなる注目フレームが、映像信号のうちの少なくとも一部として、輝度検出/補正回路74から出力されることになる。
そして、ステップS16において、注目フレームを構成する全画素についての処理が終了されと判定されて、処理はステップS17に進む。
ステップS17において、輝度検出/補正回路74は、全フレームの撮影が終了したか否か(ユーザからの撮影終了の指示がなされたか否か)を判定する。
ステップS17において、全フレームの撮影がまだ終了していない(ユーザからの撮影終了の指示がなされていない)と判定されると、処理はステップS14に戻され、それ以降の処理が繰り返される。
即ち、次のステップS14の処理で撮影された次のフレームが注目フレームとなり、ステップS15とS16とのループ処理が繰り返し実行されて、注目フレーム(次のフレーム)を構成する全画素の出力画素OUT(x,y)が求められる。その結果、これらの各出力画素OUT(x,y)からなる注目フレーム(次のフレーム)が、映像信号のうちの少なくとも一部として、輝度検出/補正回路74から出力されることになる。
その後、ステップS17において、全フレームの撮影が終了した(ユーザからの撮影終了の指示がなされた)と判定されると、輝度補正処理は終了となる。
以上、輝度検出/補正回路74についての輝度補正情報の抽出手法と、輝度の補正手法(その使用法)とについて説明した。
次に、位相検出/補正回路72についての位相補正情報の抽出手法と、位相の補正手法(位相補正情報の使用法)とについて説明する。
位相検出/補正回路72は、撮影時に、位相補正情報メモリ73に蓄えられた位相補正情報に基づいて、リアルタイムでマッピングすることができる。
この場合、位相補正情報が予め生成(抽出)され、位相補正情報メモリ73に予め蓄えられている必要がある。そこで、本実施の形態では、位相検出/補正回路72が、位相補正情報を予め抽出して、位相補正情報メモリ73に予め記憶することができる。以下、このような位相検出/補正回路72により位相補正情報が予め抽出される手法、即ち、位相補正情報の抽出手法について説明する。
位相補正情報の抽出手法とは、次のような一連の処理を実現するための手法である。
即ち、位相検出/補正回路72は、まず、とあるテストパターンを撮影して、その撮影後の画像のうちの1つの画角の画像(所定の1つのCCD62−Kにより撮影された部分の画像)から、その画角(CCD62−K)の絶対座標を補正パラメータとして抽出する。テストパターンとは、例えば、複数のブロックからなる画像であって、複数のブロックのそれぞれが、隣接する他のブロックとは独立した所定の一色で塗りつぶされた画像のことを言う。なお、多くの場合、隣接するブロックはそれぞれ異なる色で塗りつぶされているが、場合によっては、同一色で塗りつぶされていることもある。
このテストパターンは、撮影されたときに、所定の画角(所定の1つのCCD62−K)の座標とズーム率とが一意に分かるテストパターンであることが要求される。そして、テストパターンは、1つのカメラ(CCD62−K)の画角の中に全ブロックが収まらないので、左右や上下を参照する(見る)ことで、そのブロックを撮影したCCD62−Kの位置が分かることが望ましい。
そこで、以下、図11乃至図13を参照して、このようなテストパターン(画像データ)を生成する手法の一例について説明する。
テストパターンの目的は、上述したように、撮像されたそのテストパターンのうちの1つの画角の画像(所定の1つのCCD62−Kにより撮影された部分の画像)から、その画角(CCD62−K)の絶対座標を補正パラメータとして抽出することである。従って、このテストパターンは、撮影されたときに、所定の画角(所定の1つのCCD62−K)の座標とズーム率とが一意に分かるテストパターンであることが要求される。
そこで、本実施の形態では、撮像装置31または他の装置(以下、単に装置と称する)は、テストパターンを構成する各ブロックのうちの所定の1つのブロック(以下、注目ブロックと称する)の符号Vと、その上下もしくは左右のブロックの符号Vとの差分から、注目ブロックの絶対位置が分かるような符号化方式に従って、各ブロックを符号化する。なお、この符号化方式の具体例については、図12を参照して後述する。
この場合、1つの符号Vと1つの色とを予め対応付けておけば、例えば、所定の表示装置が、各ブロックの符号Vのそれぞれに対応付けられた色で、各ブロックを表示することで、テストパターンを表示する(作成する)ことができる。
具体的には例えば、テストパターンを構成する各ブロックに表示され得る色として、図11に示されるような7つの(R,G,B)のパターン色と、「CODE」に記述された7つの値(0乃至6)のそれぞれを予め対応付けておく。即ち、この「CODE」が、各ブロックの符号Vとなり得る値である。例えば、テストパターンを構成する各ブロックのうちの注目ブロックが符号Vが0である場合には、その注目ブロックは、(R,G,B)=(0,0,1)のパターン色、即ち、青で表示されることになる。
なお、色のパターン数は、図11の例では7パターンとされているが、図11の例に限定されず、任意のパターン数でよい。即ち、例えば、RGB の階調を用いて、さらに複数のパターン色を定義してもよい。ただし、RGB の階調を用いると上述した輝度の歪みに起因する誤差が大きくなるので、あまりに複数のパターン色を定義すると、テストパターンが図2の撮像装置により撮像された場合、撮像後のテストパターンにおいては、注目ブロックや隣接するブロックの色の判別ができなくなってしまうという問題点が発生してしまう。そこで、この問題点を発生させないために、色のパターン数は、RGB のそれぞれの有無(1 or 0)の組み合わせだけで出来る8パターン程度、即ち、図11の例程度が好適である。ただし、図11の例では、(R,G,B)=(0,0,0)のパターン色、即ち、黒は除外され、その結果、7パターンとされている。(R,G,B)=(0,0,0)のときには、それは画角外を示すのか、或いは(0,0,0)を示すのかが装置側で判断できないからである。
このように、図11に示される7パターン色が使用されるとき、即ち、符号Vとして0乃至6の7値のうちの何れかの値のみが使用されるとき、装置は、例えば図12に示されるような符号化方式を利用することで、各ブロックを符号化することができる。即ち、図12は、注目ブロックの符号Vと、その上下もしくは左右のブロックの符号Vとの差分から、注目ブロックの絶対位置が分かるような符号化方式の一例を説明する図である。
図12の前提事項として、テストパターンの上下左右方向うちの右方向がX方向とされ下方向がY方向とされたXY平面上において、そのテストパターンの左上端の座標が(0,0)とされ、X方向においては、そのテストパターンを構成する各ブロックの左右方向の1辺の長さが1とされ、かつ、Y方向においては、そのテストパターンを構成する各ブロックの上下方向の1辺の長さが1とされるXY座標系(以下、テストパターン座標系と称する)が定義されているとする。この場合、このテストパターン座標系において、(U,V)は、そのテストパターンを構成する各ブロックのうちの、左からU番目であって上からV番目のブロックの左上端の座標を示すことになる。なお、以下、テストパターン座標系において、所定のブロックの左上端の座標を、単に、所定のブロックの座標と称する。
この前提事項のもとに考えると、図12において、値Xは、このテストパターン座標系における注目ブロックのX座標またはY座標を示している。また、差分符号Y1は、注目ブロックの符号Vと、その上下左右に隣接するブロックのうちの所定の1つの符号Vとの差分の値を示している。また、差分符号Y1の算出の際、差分の値が負値となった場合、その負値に対して+7が加算された値が、差分符号Y1となり、また、左右方向においては、右側のブロックの符号Vから左側のブロックの符号Vが減算されるとする。また、上下方向においては、下側のブロックの符号Vから上側のブロックの符号Vが減算されるとする。
即ち、例えば、注目ブロックの座標が(3,1)である場合、注目ブロックのX座標は3となる。従って、図12において、値X=3の項目に着目すると、その右方の差分符号Y1は3であり、その上方の差分符号Y1は2であることがわかる。このことは、注目ブロックの符号Vとその左隣のブロックの符号Vとの第1の差分(第1の差分符号Y1)と、その右隣のブロックの符号Vと注目ブロックの符号Vとの第2の差分(第2の差分符号Y1)との組が、2と3の組であることを表している。換言すると、X座標が3である注目ブロックは、第1の差分符号Y1と第2の差分符号Y1との組が2と3の組となるように符号化されなければならない、というルールが図12に規定されている。
同様に、注目ブロックの座標が(3,1)である場合、注目ブロックのY座標は1となる。従って、図12において、値X=1の項目に着目すると、その下方の差分符号Y1は1であり、その上方の差分符号Y1は0であることがわかる。このことは、注目ブロックの符号Vとその上隣のブロックの符号Vとの第3の差分(第3の差分符号Y1)と、その下隣のブロックの符号Vと注目ブロックの符号Vとの第4の差分(第4の差分符号Y1)との組が、0と1の組であることを表している。換言すると、Y座標が1である注目ブロックは、第3の差分符号Y1と第4の差分符号Y1との組が0と1の組となるように符号化されなければならない、というルールが図12に規定されている。
即ち、座標が(3,1)である注目ブロックは、第1の差分符号Y1と第2の差分符号Y1との組が2と3の組となり、かつ、第3の差分符号Y1と第4の差分符号Y1との組が0と1の組となるように符号化されなければならない、というルールが図12に規定されている。
図12において、差分と和との項目は、差分符号Y1の2つの組み合わせが重複しないように(複数生成されないように)、図12の規則を生成するために設けられた項目であって、実際の符号化または復号の処理の際には関与しない項目である。即ち、1つ前に決定された差分符合Y1(図12中1つ上の差分符号Y1)に基づいて次の差分符号Y1を決定するために、差分と和との項目が設けられているのである。
具体的には、差分の項目には、2つの差分符号Y1同士の差(差分)となり得る値が記述されている。即ち、いまの場合、符号Vが0乃至6の範囲の値を取るので、2つの差分符号Y1同士の差(差分)は、1乃至6の範囲の値を取る。なお、2つの差分符号Y1の差分が0とは両者が同一の値であることを意味するので、0は当然ながら除外される。また、2つの差分符号Y1の1乃至6のうちの所定の1値について、2つの差分符号Y1の組は7通り存在する。そこで、図12の差分の項目には、上から順に、7つの「1」が記述され、次に7つの「2」が記述され、その後、同様に「3」乃至「6」のそれぞれが7つずつ記述されているのである。
和の項目には、ひとつ上の和の値と、その左方の差分の値との和が記述される。具体的には例えば、最初(図12中左上)の差分符号Y1は0とされている。この場合、その左方の和(最初の和)には0が記述される。従って、その最初の和の記述値0と、その左方の差分の記述値1との和である1が、次の(2番目の)和の記述値となる。この和の記述値1が、その右方の符号Y1の値として決定されることになる。即ち、和の記述値を7進法で表現した場合の最下位の桁の値(例えば、和の記述値が7の場合には0であり、9の場合には2である)が、その右方の差分符号Y1となるのである。
このような差分符号Y1の決定規則、即ち、差分と和の項目を使って差分符号Y1を決定するという上述した規則に従うと、結局、値Xは、図12に示されるように、0乃至43までの範囲の値を取ることができる。このことは、この差分符号Y1を使用することで、0乃至43 までの値Xを符号化することができることを意味している。換言すると、テストパターン座標系においては、X座標とY座標とともに、0乃至43までの値を取ることができる、即ち、上下方向に44ブロック分、かつ、左右方向に44ブロック分の大きさ(以下、このような大きさを44 ×44と記述する) のテストパターンを作成することができることを意味している。
そこで、装置は、この図12に示される差分符号Y1 を用いた符号化方式に従った符号化処理を行うことで、44 ×44のテストパターンの画像データ、即ち、44 ×44個の各ブロックの符号Vからなる画像データを作成することができる。
具体的には例えば、図13に示されるようなテストパターンの画像データが作成される。即ち、図13は、テストパターンの画像データの一例を示している。図13において、1つの四角は1つのブロックを表している。1つのブロック内には、その上方に、テストパターン座標系における座標(U,V)がU-Vとして記述され、その下方に、その符号Vが記述されている。
例えば、座標が(3,1)である(図中3-1と記述されている)ブロックが注目ブロックとされた場合、この符号Vは3であることがわかる。即ち、その左隣の(図中2-1と記述されている)ブロックの符号Vは1とされていることから、注目ブロックの符号Vとその左隣のブロックの符号Vとの差分、即ち、第1の差分符号Y1は、2(=3-1)であることがわかる。また、その右隣の(図中4-1と記述されている)ブロックの符号Vは6とされていることから、その右隣のブロックの符号Vと注目ブロックの符号Vとの差分、即ち、第2の差分符号Y1は、3(=6-3)であることがわかる。同様に、その上隣の(図中3-0と記述されている)ブロックの符号Vは3とされていることから、注目ブロックの符号Vとその上隣のブロックの符号Vとの差分、即ち、第3の差分符号Y1は、0(=3-3)であることがわかる。また、下隣の(図中3-2と記述されている)ブロックの符号Vは4とされていることから、その下隣のブロックの符号Vと注目ブロックの符号Vとの差分、即ち、第4の差分符号Y1は、1(=4-3)であることがわかる。このように、座標が(3,1)である注目ブロックは、第1の差分符号Y1と第2の差分符号Y1との組が2と3の組となり、かつ、第3の差分符号Y1と第4の差分符号Y1との組が0と1の組となるように符号化されなければならない、という図12のルール(符号化方式)に従って符号化され、その結果、符合Vとして3が得られていることがわかる。
なお、座標が(3,3)のブロックが注目ブロックとされた場合、その右隣の(図中4-3と記述されている)ブロックの符号Vと注目ブロックの符号Vとの差分自体は、-4(=2-6)といった負値になる。このように、差分が負値となった場合には、上述したように、+7が加算された値、即ち、3(=-4+7)が第2の差分符号Y1となる。
そして、装置は、各ブロックのそれぞれを、その符合Vに対応付けられたパターン色(図11参照)で塗りつぶすことで、テストパターンを作成する。具体的には例えば、図13の例では、座標(0,0)のブロックは、符合V=0に対応付けられた(R,G,B)=(0,0,1)のパターン色、即ち、青で塗りつぶされ、座標(2,0)のブロックは、符合V=1に対応付けられた(R,G,B)=(0,1,0)のパターン色、即ち、緑で塗りつぶされ、といった処理が44×44個のブロック毎に繰り返し実行され、その結果、44×44のテストパターンが作成されるのである。なお、ここで言う塗りつぶすとは、実際に、対応するパターン色を紙媒体等に印刷することも含むし、対応するパターン色を表示装置に表示させることも含む。即ち、テストパターンは、紙媒体等に印刷された結果得られる画像であってもよいし、表示装置に表示された画像であってもよい。
なお、上述した例では、RGB を01 の2値に2値化しているが、符号化の方式は上述した例に限定されない。例えば、階調方向に3 値化や4 値化することで、さらに細かいテストパターンを作ることもできる。
本実施の形態では、以上説明したようなテストパターン、即ち、図12の差分符号Y1を利用する符号化方式により各ブロックが符号化され、その結果得られる符合Vに対応付けられたパターン色で塗りつぶされた各ブロックから構成されるテストパターンにより位相補正情報が抽出(計算)される。このような位相補正情報が抽出(計算)される抽出手法に対応する処理(以下、位相補正情報計算処理と称する)の例が図14のフローチャートとして示されている。そこで、以下、図14のフローチャートを参照して、位相補正情報計算処理について説明する。
ステップS31において、図2の位相検出/補正回路72を含む撮像装置31は、テストパターンの映像を撮影する。
なお、以下、上述した図13の画像データに対応するテストパターンが、ステップS31の処理で撮影されたとする。その際、1つのCCD62-Kは、このテストパターンのうちの、中央に1つのブロック全体を含み、かつ、その上下左右に隣接するブロックの少なくとも一部を含むような画像を撮影するとする。具体的には例えば、図15に示される画像データが、CCD62−Kにより撮影されたとする。即ち、図15は、テストパターンのうちの、1つのCCD62−Kにより撮影された部分画像の画像データを示している。なお、実際には、CCD62−Kからは、各画素それぞれについてのR,G,Bそれぞれの輝度レベル(R,G,B)からなる画像データが出力されることになる。ただし、図面ではカラーによる図示ができないので、図15においては、対応する符合V(図11参照)が各ブロックのそれぞれに付されている。
ステップS32において、位相検出/補正回路72は、テストパターンのうちの、1つのCCD62−Kにより撮影された画像(以下、カメラ画像と称する)から、そのCCD62−Kの絶対座標(以下、カメラ画角の絶対座標と称する)を計算する。以下、このようなステップS32の処理を、カメラ画角の絶対座標の計算処理と称する。
このような、ステップS32のカメラ画角の絶対座標の計算処理の詳細例が図16のフローチャートとして示されている。そこで、以下、図16のフローチャートを参照して、カメラ画角の絶対座標の計算処理の詳細例について説明する。
ステップS51において、位相検出/補正回路72は、カメラ画像(画像データ)を取得する。ここでは、上述したように、図15のカメラ画像(画像データ)が取得されることになる。
ただし、実際には、上述したように、CCD62−Kからは、各画素それぞれについてのR,G,Bそれぞれの輝度レベル(R,G,B)からなる画像データが出力されることになる。そこで、位相検出/補正回路72は、このような画像データから、図11の表を参照して、図15に示されるような各ブロックの符号Vを求める処理を実行する。具体的には例えば、位相検出/補正回路72は、カメラ画像を構成する各画素のうちの所定の1つを注目画素として順次設定していき、注目画素について次のような処理を実行する。即ち、位相検出/補正回路72は、図11の表の7パターン色のうちの、注目画素についてのR,G,Bそれぞれの輝度レベル(R,G,B)で表される色に最も近い1つを、注目画素の色であるとみなし、その注目画素の色に対応する[CODE]を符号Vとして決定する。このような画素毎の処理の結果として、図15に示されるカメラ画像(画像データ)、即ち、符号Vを画素値とする各画素からなるカメラ画像(画像データ)が得られる。
ステップS52において、位相検出/補正回路72は、例えばカメラ画像の中心ブロックを注目ブロックとして、その注目ブロックの符号Vと、上下左右それぞれのブロックの符号Vとの差分値をそれぞれ取得する。即ち、ステップS52の処理で、上述した第1の差分符号Y1乃至第4の差分符号Y1が演算される。
具体的には例えば、いまの場合、ステップS51の処理で図15のカメラ画像が取得されているので、注目ブロックの符号Vは2とされている。従って、その左隣のブロックの符号Vは6とされていることから、注目ブロックの符号Vとその左隣のブロックの符号Vとの差分、即ち、第1の差分符号Y1として3(=2-6+7)が演算される。また、その右隣のブロックの符号Vは6とされていることから、その右隣のブロックの符号Vと注目ブロックの符号Vとの差分、即ち、第2の差分符号Y1として、4(=6-2)が演算される。同様に、その上隣のブロックの符号Vは0とされていることから、注目ブロックの符号Vとその上隣のブロックの符号Vとの差分、即ち、第3の差分符号Y1として、2(=2-0)が演算される。また、下隣のブロックの符号Vは5とされていることから、その下隣のブロックの符号Vと注目ブロックの符号Vとの差分、即ち、第4の差分符号Y1として、3(=5-2)が演算される。
ステップS53において、位相検出/補正回路72は、ステップS52の処理で取得された差分値に基づいて、テストパターン座標系における、注目ブロックとその上下左右に隣接するブロックとのそれぞれの交点の絶標を計算する。
いまの場合、ステップS52の処理で、第1の差分符号Y1として3が取得され、かつ、第2の差分符号Y1として4が取得されている。従って、上述した図12の規則によると、第1の差分符号Y1と第2の差分符号Y1との組が3と4との組である場合には、その値X、即ち、中心ブロックのX座標は4となる。同様に、ステップS53の処理で、第3の差分符号Y1として2が取得され、かつ、第4の差分符号Y1として3が取得されている。従って、図12の規則によると、第1の差分符号Y1と第2の差分符号Y1との組が2と3との組である場合には、その値X、即ち、中心ブロックのY座標は3となる。即ち、注目ブロックの座標は(4,3)になる。注目ブロックの座標とは、上述したように、注目ブロックの左上端の座標であり、図15の例では交点P0の座標である。
このようにして、交点P0の座標として(4,3)が計算され、その交点P0の座標に基づいて、交点P1の座標として(4,4)が、交点P2の座標として(5,4)が、交点P3の座標として(5,3)が、それぞれ計算される。
ステップS54において、位相検出/補正回路72は、ステップS53の処理で演算されたテストパターン座標系における注目ブロックの交点の座標等に基づいて、カメラ画角の絶対座標を計算する。
いまの場合、ステップS53の処理で、注目ブロックの交点P0,P1,P2,P3のそれぞれの、テストパターン座標系における座標が計算されているので、位相検出/補正回路72は、例えば、それらの座標を、絶対座標にそれぞれ変換する。そして、位相検出/補正回路72は、注目ブロックの交点P0,P1,P2,P3のそれぞれの絶対座標に基づいて、点Q0,点Q1,点Q2,点Q3のそれぞれの絶対座標を、カメラ画角の絶対座標として計算する。
これにより、図16のカメラ画角の絶対座標の計算処理は終了し、処理は図14のステップS33に進む。
ステップS33において、位相検出/補正回路72は、撮影対象の歪みの計算を行う。
そして、ステップS34において、CCD62−Kの位置u,v,ズーム率r に対する画角の情報(ステップS32の処理の結果得られたカメラ画角の絶対座標等)や歪みの情報(ステップS33の計算結果等)を位相補正情報として、位相補正情報メモリ73に保存する。
これにより、位相補正情報計算処理は終了となる。
以上の位相補正情報計算処理が、位置u,v,ズーム率rの幾つかのパターン毎に実行されると、パターン毎の位相補正情報が得られ、位相補正情報メモリ73に格納される。
次に、位相の補正手法(位相補正情報の使用法)について説明する。
図17は、位相の補正手法に対応する処理(以下、位相補正処理と称する)の一例を説明するフローチャートである。そこで、以下、図17を参照して、位相補正処理について説明する。
ステップS71において、位相検出/補正回路72は、CCD62−1乃至62−Nのそれぞれについて、現在の位置とズーム率が近い位相補正情報(位相補正の画角の情報と歪みの情報)を、位相補正情報メモリ73から読み出す。
ステップS72において、位相検出/補正回路72は、CCD62−1乃至62−Nのそれぞれについて、現在の位置とズーム率が近い位相補正情報(位相補正の画角の情報と歪みの情報)から、現在の位置とズーム率との位相補正情報(位相補正の画角の情報と歪みの情報)を計算する。
ステップS73において、位相検出/補正回路72は、ステップS72の処理で計算された画角情報と歪み情報とを統合して、絶対座標中のブレンディング部分を求める。
ステップS74において、位相検出/補正回路72を含む撮像装置31は、被写体の映像を撮影する。ステップS74の処理で撮影されたフレームが注目フレームに設定されると、処理はステップS75に進む。
ステップS75において、位相検出/補正回路72は、注目フレームを構成する各入力画素のうちの所定の1つを注目入力画素に設定し、注目入力画素について、画角に応じて位相補正を行い、ブレンディング処理を施す。ブレンディング処理の一例については、図18を参照して後述する。
ステップS76において、位相検出/補正回路72は、注目フレームを構成する全画素についての処理を終了したか否かを判定する。
ステップS76において、注目フレームを構成する全画素についての処理がまだ終了されていないと判定されると、処理はステップS75に戻され、それ以降の処理が繰り返される。
即ち、ステップS75とS76とのループ処理が繰り返し実行されることで、注目フレームを構成する全画素について、画角歪みに応じた位相補正が行われ、ブレンディング処理が施される。その結果、画角歪みに応じた位相補正が行われ、ブレンディング処理が施された注目フレームが、輝度検出/補正回路74に提供される。
そして、ステップS76において、注目フレームを構成する全画素についての処理が終了されと判定されて、処理はステップS77に進む。
ステップS77において、位相検出/補正回路72は、全フレームの撮影が終了したか否か(ユーザからの撮影終了の指示がなされたか否か)を判定する。
ステップS77において、全フレームの撮影がまだ終了していない(ユーザからの撮影終了の指示がなされていない)と判定されると、処理はステップS74に戻され、それ以降の処理が繰り返される。
即ち、次のステップS74の処理で撮影された次のフレームが注目フレームとなり、ステップS75とS76とのループ処理が繰り返し実行されて、注目フレーム(次のフレーム)を構成する全画素について、画角歪みに応じた位相補正が行われ、ブレンディング処理が施される。その結果、画角歪みに応じた位相補正が行われ、ブレンディング処理が施された注目フレーム(次のフレーム)が、輝度検出/補正回路74に提供される。
その後、ステップS77において、全フレームの撮影が終了した(ユーザからの撮影終了の指示がなされた)と判定されると、位相補正処理は終了となる。
以上説明したように、位相検出/補正回路72は、位相補正情報メモリ75に保存してある画角の情報、歪みの情報、および、その他パラメータを用いて、位相補正情報計算処理を行う。そして、位相検出/補正回路72は、その位相補正情報計算処理の結果得られる画角情報と歪み情報とを統合して、絶対座標中のブレンディング部分を計算し、位相補正を行い、また、ブレンディング処理を施す。
ここで、ステップS75の処理で実行されるブレンディング処理の一例の概略について、図18を参照して説明する。
図18において、画像151は、1つのCCD62-Kにより撮影された画像であって、その画像151に含まれる黒丸(例えば上述した図6の人間102の顔の部分)が上述した本当に見たいところであるとして、上述した部分的に高解像度な撮影が行われた結果得られる画像である。即ち、画像151は、ズームが「TELE」として撮像された画像である。
これに対して、画像152−2は、CCD62-Kの右隣(デジタルカメラ3の正面から見て)のCCD62-K+1により撮影された画像であって、ズームが「WIDE」として撮像された画像である。
また、図17のステップS73の処理で、領域153−aと領域153−bとがブレンディング領域であることが既に求められており、画像151と画像152−1に対する位相補正(ステップS75の処理の一部)は既になされているとする。
この場合、位相検出/補正回路72は、ブレンディング領域153−aとブレンディング領域153−bとが同一解像度(同一サイズ)となるように、画像152−1(画像データ)に対して拡大処理を施す。これにより、図18に示されるような画像152−2(画像データ)が得られることになる。拡大処理の手法については、特に限定されない。例えば、左右方向にA倍して上下方向にB倍する場合(A,Bはそれぞれ独立した1以上の正数値)、元の1つの画素に対応させて、A×B個の画素からなるブロックを生成する手法を採用することができる。この場合、そのブロックを構成するA×B個の各画素の画素値の決定手法も特に限定されない。例えば、A×B個の各画素の画素値の全てを元の1つの画素の画素値のままとする手法を採用してもよいし、近隣のブロック(元の1つの画素の近隣の画素)との相関等に基づいて、A×B個の各画素の画素値のそれぞれを個別に決定する手法を採用してもよい。
次に、位相検出/補正回路72は、は画像151(画像データ)と画像152−2(画像データ)とを合成することで、合成画像153を生成する。
なお、ブレンディング部分153−aとブレンディング部分153−bとの合成手法は特に限定されない。例えば、単に、ブレンディング部分153−aを構成する各画素の画素値をそのまま、合成画像の対応する各画素の画素値として採用する手法を採用することもできる。また、ブレンディング部分153−aを構成する各画素の画素値と、ブレンディング部分153−bを構成する各画素の画素値とを利用して、所定の演算(例えば、平均を取る等)を行い、それらの演算結果を、合成画像の対応する各画素の画素値のそれぞれとして決定する手法を採用することもできる。
さらに、これらの何れの手法を採用した場合にも、合成画像153において、ブレンディング部分153−aに対応する部分と、それ以外の部分との境目(エッジ部分)は不自然な画像(人間の目にとって違和感のある画像)となってしまうことが多い。そこで、位相検出/補正回路72は、このエッジ部分に対して、所定の画像処理を施してもよい。この画像処理も特に限定されず、例えば、このエッジ部分近辺の輝度値(画素値)を減衰させる処理を採用することができる。この場合、その減衰の方法も特に限定されず、例えば、ブレンディング部分153−aに対応する部分からそれ以外の部分に向かう方向に、リニアに減衰させてもよいし、エッジ部分を頂点とするサインカーブに沿うように減衰させてもよい。
ところで、このようなブレンディング処理は、上述した図17の例では、位相検出/補正回路72の処理、即ち、画像の撮影側であるデジタルカメラ3の処理とされたが、上述した例に限定されず、画像の再生側(図示せぬ表示装置等)の処理とされてもよい。
ブレンディング処理が再生側(図示せぬ表示装置等)により実行される場合、位相検出/補正回路72は、図17の位相補正処理の代わりに、図19に示されるような位相検出処理を実行してもよい。
図19の位相検出処理のうちのステップS91乃至S93までの処理は、図17のステップS71乃至S73までの処理と基本的に同様である。そこで、以下、ステップS94以降の処理について説明する。
ステップS94において、位相検出/補正回路72を含む撮像装置31は、被写体の映像を撮影する。
ステップS95において、位相検出/補正回路72は、ステップS92の処理で計算された位相情報、ステップS93の処理で求められたブレンディング部分、および、CCD62−1乃至62−N毎の画像データを含む映像信号をフレーム単位で生成して、出力する。
即ち、注目フレームについての位相情報、ブレンディング部分、および、CCD62−1乃至62−N毎の画像データが1つにまとめられて、注目フレームについての映像信号として、図2の輝度検出/補正回路74に供給されることになる。
この場合、輝度検出/補正回路74は、例えば、上述した図10の輝度補正処理のうちのステップS11乃至S13までの処理を実行し、位相検出/補正回路72から供給された注目フレームについての映像信号に対して、曲面の最小値MIN{S(x,y)}を付加して、外部に出力する。即ち、この場合、信号処理部44の出力信号は、注目フレームについての位相情報、ブレンディング部分、CCD62−1乃至62−N毎の画像データ、および、曲面の最小値MIN{S(x,y)}が1つにまとめられた映像信号となる。
このような映像信号を取得した再生側の装置は、図10のステップS15と図17のステップS75とに相当する処理を実行することで、注目フレームに対応する画像データを生成(構築)し、その画像データに対応する画像、即ち、注目フレームを表示することが可能になる。
次に、ステップS96において、位相検出/補正回路72は、全フレームの撮影が終了したか否か(ユーザからの撮影終了の指示がなされたか否か)を判定する。
ステップS96において、全フレームの撮影がまだ終了していない(ユーザからの撮影終了の指示がなされていない)と判定されると、処理はステップS94に戻され、それ以降の処理が繰り返される。
即ち、次のステップS94の処理で撮影された次のフレームが注目フレームとなり、注目フレーム(次のフレーム)についての位相情報、ブレンディング部分、および、CCD62−1乃至62−N毎の画像データが1つにまとめられて、注目フレーム(次のフレーム)についての映像信号として、図2の輝度検出/補正回路74に供給されることになる。
される。
その後、ステップS96において、全フレームの撮影が終了した(ユーザからの撮影終了の指示がなされた)と判定されると、位相検出処理は終了となる。
以上、図2の例の撮像装置31について説明した。
以上の内容をまとめると、撮像装置31は、少なくとも次の第1の特徴乃至第13の特徴を有することになる。
第1の特徴とは、撮像装置31は、CCD62−K等の撮像素子をアレイ状に並べた焦点一致の高解像度及び高精細画像撮像装置である、という特徴である。
第2の特徴とは、撮像装置31は、焦点一致の像を作る第1の結像系41と、その第1の結像系41の結像面と、その結像面に結像した映像を撮像する複数の撮像素子がアレイ状に配置された第2の結像系群42とからなる光学系を有する撮像装置であるという特徴である。
第3の特徴とは、第1の結像系41と第2の結像系群42とを繋ぐ結像面またはその近傍に、フィールドレンズ43を配置することができる、という特徴である。
第4の特徴とは、第1の結像系41と第2の結像系群42とを繋ぐ結像面またはその近傍に、フィールドレンズ43の代わりに、図示せぬディフューザー等を配置することができる、という特徴である。
第5の特徴とは、第2の結像系群42を構成する複数の第2の結像系のそれぞれは、それに含まれるCCD62−Kにより撮像された第1の画像の一部と、他の第2の結像系に含まれる他のCCDにより撮像された第2の画像の一部とを、第1の画像と第2の画像とを繋ぎあわせるためのブレンディング領域として保持できるように、それぞれ配置されている、という特徴である。
第6の特徴とは、撮像装置31の光学系は、第1の特徴の効果として生じる特徴であって、レンズのみで構成できる(プリズムを用いないでよい)、という特徴である。この第6の特徴により、CCD 等の撮像素子の数を増やしても、高解像度及び高精細な画像を撮像できる撮像装置を、安価で実現可能になる。
第7の特徴とは、第2の結像系群42における複数の撮像素子の位置とズームとのそれぞれとを個別に変化させる機構を有している、という特徴である。この第7の特徴により、部分的に高解像度な撮影が可能になる。
第8の特徴とは、これらの機構には、ズームアクチュエータと位置制御アクチュエータとが含まれている、という特徴である。
第9の特徴とは、撮像装置31は、さらに、部分的に高解像度な撮影が行われる際に、その高解像度の撮影の範囲を演算する回路、即ち、高解像度撮像範囲演算回路76や、ユーザが高解像度の撮影の範囲を指定するインタフェース、即ち、高解像撮像の範囲の演算回路76を有している、という特徴である。
第10の特徴とは、撮像装置31は、さらに、CCD62−K 等の複数の撮像素子に結像した映像の位相を補正する位相検出/補正回路72と、その補正に利用される位相補正情報を保持する位相補正情報メモリ73とを有している、という特徴である。
第11の特徴とは、位相検出/補正回路72には、位相補正情報を求める(抽出する)ための手法として、上述した抽出手法が適用されており、その結果、例えば図11の位相補正情報計算処理が実行できる、という特徴である。また、その際、上述したテストパターンが利用できるという、という特徴も第11の特徴に含まれる。
第12の特徴とは、撮像装置31は、さらに、CCD62−K 等の複数の撮像素子に結像した映像の輝度を補正する輝度検出/補正回路74と、その補正に利用される輝度補正情報を保持する輝度補正情報メモリ75とを有している、という特徴である。
第13の特徴とは、輝度検出/補正回路72には、輝度補正情報を求める(抽出する)ための手法として、上述した抽出手法が適用されており、その結果、例えば図9の輝度補正情報計算処理が実行できる、という特徴である。また、その際、上述したテストパターンが利用できるという、という特徴も第13の特徴に含まれる。
以上の第1の特徴乃至第13の特徴をまとめると、撮像装置31とは、第1の結像系41と第2の結像系群42とを用いることで、ブレンディング領域をもつことが可能となった高解像度及び高精細の単一焦点撮像装置であるといえる。この撮像装置31は、安価に撮像素子をスケーラブルに配置でき、且つ部分的に高解像度の撮影が可能になる。また、この撮像装置31は、撮像系位である第2の結像系群42の各第2の結像系のそれぞれについて、位相補正や輝度などの歪み補正もそれぞれ個別に自動で行うことができる。
換言すると、撮像装置31は、次の第1の効果乃至第3の効果を少なくとも奏することが可能になる。第1の効果とは、ブレンディング部分を保持してシームレスに繋ぐことができる高解像度且つ高精細な映像を撮影できる、という効果である。第2の効果とは、低コストで撮像素子を大量に配置でき、かつ部分的に高解像度な撮影ができる、という効果である。第3の効果とは、自動で輝度補正と位相補正の情報を求めることができる、という効果である。
ところで、上述した一連の処理は、ハードウエアにより実行させることもできるが、ソフトウエアにより実行させることができる。
この場合、図2の撮像装置31の信号処理部44のうちの少なくとも一部は、例えば、図20に示されるコンピュータで構成することができる。
図20において、CPU(Central Processing Unit)201は、ROM(Read Only Memory)202に記録されているプログラム、または記憶部208からRAM(Random Access Memory)203にロードされたプログラムに従って各種の処理を実行する。RAM203にはまた、CPU201が各種の処理を実行する上において必要なデータなども適宜記憶される。
CPU201、ROM202、およびRAM203は、バス204を介して相互に接続されている。このバス204にはまた、入出力インタフェース205も接続されている。
入出力インタフェース205には、キーボード、マウスなどよりなる入力部206、ディスプレイなどよりなる出力部207、ハードディスクなどより構成される記憶部208、および、モデム、ターミナルアダプタなどより構成される通信部209が接続されている。通信部209は、インターネットを含むネットワークを介して他の装置(図示せず)との間で行う通信を制御する。
入出力インタフェース205にはまた、必要に応じてドライブ210が接続され、磁気ディスク、光ディスク、光磁気ディスク、或いは半導体メモリなどよりなるリムーバブル記録媒体211が適宜装着され、それらから読み出されたコンピュータプログラムが、必要に応じて記憶部208にインストールされる。
一連の処理をソフトウエアにより実行させる場合には、そのソフトウエアを構成するプログラムが、専用のハードウエアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどに、ネットワークや記録媒体からインストールされる。
このようなプログラムを含む記録媒体は、図20に示されるように、装置本体とは別に、ユーザにプログラムを提供するために配布される、プログラムが記録されている磁気ディスク(フロッピディスクを含む)、光ディスク(CD-ROM(Compact Disk-Read Only Memory),DVD(Digital Versatile Disk)を含む)、光磁気ディスク(MD(Mini-Disk)を含む)、もしくは半導体メモリなどよりなるリムーバブル記録媒体(パッケージメディア)211により構成されるだけでなく、装置本体に予め組み込まれた状態でユーザに提供される、プログラムが記録されているROM202や、記憶部208に含まれるハードディスクなどで構成される。
なお、本明細書において、記録媒体に記録されるプログラムを記述するステップは、その順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。
また、本明細書において、システムとは、複数の装置や処理部により構成される装置全体を表すものである。
さらにまた、上述した各種画像処理の単位は、上述した例ではフレームとされたが、フィールドとしてもよい。即ち、このようなフレームやフィールドといった画像の単位を、アクセスユニットと称すると、上述した画像処理の単位は、アクセスユニットとすることができる。
31 撮像装置, 41 第1の結像系, 42 第2の結像系, 43 フィールドレンズ, 44 信号処理部, 45 高解像度撮影の範囲指定用インタフェース, 51 対物レンズ, 61−1乃至61−3 ズームレンズ, 62−1乃至62−3 CCD, 71−1乃至71−3 メモリ, 72 位相補正回路, 73 位相補正情報メモリ, 74 輝度検出/補正回路, 75 輝度補正情報メモリ, 76 高解像度の範囲演算回路, 77 ズームアクチュエータ, 78 位置制御アクチュエータ, 201 CPU, 202 ROM, 203 RAM, 208 記憶部, 211 リムーバブル記録媒体