上記課題を解決するためになされた第1の発明は、被写体からの光を光電変換して画素信号を出力する撮像素子と、この撮像素子の受光面上で結像する光像と前記撮像素子との相対的な円運動を行わせるシフト手段と、このシフト手段による円運動を指定の周期で行わせるシフト制御手段と、前記撮像素子による撮像を指定の周期で行わせる撮像制御手段とを有し、前記シフト手段の円運動周期を前記撮像素子の撮像周期の非整数倍に設定して、前記シフト手段による円運動を1方向に一定速度で連続して行わせながら前記撮像素子に撮像を行わせるようにした構成とする。
これによると、円運動周期を撮像周期の非整数倍に設定することにより、円運動を繰り返すことで、多数の異なる位置での撮像(サンプリング)が可能となるため、撮像位置が異なる画像を多数生成することができるので、超解像処理で得られる高解像度画像の品質を向上させることができる。そして、円運動を1方向に一定速度で連続して行わせればよいため、制御が簡単になり、構成の簡素化を図ることができる。
前記課題を解決するためになされた第2の発明は、前記第1の発明において、前記撮像素子は、ベイヤ配列にしたがって画素が配列された単板式のものであり、前記シフト手段による円運動の直径が前記撮像素子の画素ピッチの2倍に設定された構成とする。
これによると、R画素及びB画素が配置されていない領域にもR画素及びB画素を移動させることができるため、撮像位置に偏りがなくなり、超解像処理で得られる高解像度画像を高品質なものとすることができる。さらにG画素については、もともと画素数が多いことに加え、千鳥配置されたG画素が周辺領域を走査する状態となるため、光像を網羅的にサンプリングすることが可能となる。
前記課題を解決するためになされた第3の発明は、前記第1または第2の発明において、前記シフト手段による円運動の2回目で撮像位置が原位置に復帰するように、前記円運動周期と前記撮像周期との比率が設定された構成とする。
これによると、円運動の2回目の撮像位置が、円運動の1回目で隣接する2つの撮像位置の中心位置になり、撮像位置が偏ることなく均等に分散された状態となるため、超解像処理との適合性に優れた画像を生成することができる。
前記課題を解決するためになされた第4の発明は、撮像装置と画像処理装置とがネットワークを介して相互に接続されたネットワークカメラシステムであって、前記撮像装置は、被写体からの光を光電変換して画素信号を出力する撮像素子と、この撮像素子の受光面上で結像する光像と前記撮像素子との相対的な円運動を行わせるシフト手段と、このシフト手段による円運動を指定の周期で行わせるシフト制御手段と、前記撮像素子による撮像を指定の周期で行わせる撮像制御手段と、前記撮像素子での撮像により順次生成するフレーム画像を前記画像処理装置に送信する送信手段とを有し、前記画像処理装置は、前記撮像装置から送信されるフレーム画像を受信する受信手段と、この受信手段で受信した複数のフレーム画像から高解像度画像を生成する超解像処理手段とを有し、前記撮像装置において、前記シフト手段の円運動周期を前記撮像素子の撮像周期の非整数倍に設定して、前記シフト手段による円運動を1方向に一定速度で連続して行わせながら前記撮像素子に撮像を行わせるようにした構成とする。
これによると、円運動周期を撮像周期の非整数倍に設定することにより、円運動を繰り返すことで、多数の異なる位置での撮像(サンプリング)が可能となるため、撮像位置が異なる画像を多数生成することができるので、超解像処理で得られる高解像度画像の品質を向上させることができる。そして、円運動を1方向に一定速度で連続して行わせればよいため、制御が簡単になり、構成の簡素化を図ることができる。
前記課題を解決するためになされた第5の発明は、前記第4の発明において、前記超解像処理手段は、前記シフト手段による円運動の1回のみで生成されるフレーム画像から高解像度画像を生成する第1の処理モードと、円運動の複数回で生成されるフレーム画像から高解像度画像を生成する第2の処理モードとを有する構成とする。
これによると、シフト手段の円運動周期や撮像素子の撮像周期を変更することなく、処理モードを切り替えて、品質の異なる高解像度画像を得ることができ、利便性が向上する。
ここで、第1の処理モードでは超解像処理に用いるフレーム画像の枚数が少ないため、超解像処理で得られる高解像度画像の品質が低くなるが、超解像処理手段での演算負荷が軽減されるため、例えば超解像処理で得られる高解像度画像を用いて動画を再生する場合に適している。一方、第2の処理モードでは超解像処理に用いるフレーム画像の枚数が多くなるため、超解像処理で得られる高解像度画像の品質を高めることができる。
以下、本発明の実施の形態を、図面を参照しながら説明する。
図1は、本発明によるネットワークカメラシステムの全体構成図である。図1に示すように、本発明が適用されるネットワークカメラシステムは、少なくとも1台の撮像装置(ネットワークカメラ)1と、画像処理装置(ホスト装置)2とで構成される。撮像装置1と画像処理装置2とは、インターネットを介して接続され、撮像装置1で生成した撮像データが、例えば遠隔地に存する画像処理装置2に送信されて、画像処理装置2で映像が表示される。また、撮像装置1を制御する各種のコマンド信号が画像処理装置2から撮像装置1に送信される。
なお、撮像データは、例えばTCP(UDP)/IPといった、いわゆるインターネットプロトコルを利用して撮像装置から画像処理装置に送信されるが、撮像データを、例えば暗号化、カプセル化してVPN(Vertual Private Network)を利用して送信してもよく、専用回線によって撮像装置1と画像処理装置2が1対1の関係で接続される、いわゆるCCTV(Closed Circuit TV)と称されるネットワークカメラシステムとしてもよい。
図2は、図1に示した撮像装置及び画像処理装置の概略構成を示すブロック図である。図2に示すように、撮像装置1は、撮像部11と、画像処理部12と、データ圧縮送信部(送信手段)13と、シフト制御部(シフト制御手段)14とを備えている。撮像部11は、被写体からの光を光電変換してアナログの画素信号を出力する撮像素子31を備えている。この撮像素子31は、2次元CMOSイメージセンサである。なお、これに替えて2次元CCDイメージセンサを用いてもよい。
撮像素子31から出力されるアナログ信号はA/D変換器32でディジタル信号に変換され、このディジタル信号は画像処理部12に入力され、ここで色補正、デモザイク処理、階調補正(γ補正)、YC分離処理等を施されて画像データに変換される。この画像データは、データ圧縮送信部13において例えばH.264やMPEG4等の圧縮処理を施された上で画像処理装置2に送信される。
また、撮像部11は、後に詳述するが、撮像素子31の受光面上で結像する光像と撮像素子31とを相対的に微小変位させる光学的シフト機構(シフト手段)35を備えており、特にここでは、光像を微小変位させる光学部材を磁気により回転力で回転駆動する磁気駆動部36が設けられている。この光学的シフト機構35は、シフト制御部14により制御される。光学的シフト機構35の回転部分には図示しない着磁部が設けられており、磁気センサ37は着磁部の位置情報を検出してシフト制御部14に出力する。シフト制御部14は、この位置情報に基づいて磁気駆動部36を制御して回転力を発生させる。
画像処理装置2は、データ受信復号部(受信手段)21と、表示部22と、記憶部23と、超解像処理部(超解像処理手段)24と、周期設定部25と、入力部26とを備えている。なお、この画像処理装置2は、パソコンやワークステーション等の情報処理装置に所要のアプリケーションソフトウェアを導入することで構成する他、CCTVレコーダなど専用の装置であってもよい。
画像処理装置2では、撮像装置1から送信された圧縮画像データが、データ受信復号部21にて受信されて復号された後、RGBの画像データに変換されて、リアルタイムに表示部22に表示される。さらに、RGBの画像データは、ハードディスクドライブ装置等からなる記憶部23に送られて、ここに一時的に蓄積され、必要に応じて記憶部23から読み出して表示部22で再生することができる。
また、例えば交通事故の検証の用途等で高解像度画像の必要が生じた場合には、記憶部23から画像データを読み出して超解像処理部24にて超解像処理を施して高解像度画像(静止画像)を生成し、その高解像度画像を表示部22に表示させることができる。
また、入力部26は、後に詳述するが、ユーザからの撮像周期の入力を受け付けて、これを周期設定部25に送る。周期設定部25は、入力部26から送られてきた撮像周期に基づいて円運動周期を決定し、円運動周期に関するコマンド信号を撮像装置1に送信する。撮像装置1のシフト制御部14では、円運動周期に関するコマンド信号に基づいて、指定された円運動周期に対応する回転速度で光学的シフト機構35を動作させる。
図3は、撮像装置1及び画像処理装置2における処理状況を示す模式図である。図3に示すように、撮像素子31は、駆動回路(撮像制御手段)33によって駆動され、駆動回路33が生成するタイミング信号に応じて一定の周期(以下、撮像周期)で撮像(サンプリング)が行われる。例えばフレームレートを30frame/secとして1秒あたり30枚のフレーム画像を生成する場合、撮像周期は30ms程度に設定される。
画像処理装置2の超解像処理部24では、時間的に連続する複数のフレーム画像から高解像度画像を生成する超解像処理が行われる。この超解像処理では、まず、記憶部23に蓄積されたフレーム画像がコマ送りで静止画として表示され、その中からユーザにより基準画像が指定され、その基準画像となるフレーム画像とその前後の複数のフレーム画像が記憶部23から読み出されて超解像処理部24に送られて超解像処理が行われる。
超解像処理は、例えば、ML(Maximum-likelihood)法、MAP(Maximum A Posterior)法や、POCS(Projection On to Convex Sets)法などが採用され、アプリケーションソフトウェアをCPUで実行することで実現される。一般に超解像処理は演算量が多いため、処理の一部をGPU(Graphics Processing Unit)や、専用ハードウェアを用いて行なうようにしてもよい。
ここで、ML法とは、高解像度画像から推定された低解像度画像の画素値と、実際に観測された画素値との二乗誤差を評価関数とし、この評価関数を最小化するような高解像度画像を推定画像とする方法である。つまり、ML法とは、最尤推定の原理に基づく超解像処理方法である。また、MAP法とは、二乗誤差に高解像度画像の確率情報を付加した評価関数を最小化するような高解像度画像を推定する方法である。つまり、MAP法とは、高解像度画像に対するある先見情報を利用して、事後確率を最大化する最適化問題として高解像度画像を推定する超解像処理方法である。POCS法とは、高解像度画像と低解像度画像との画素値に関して連立方程式を作成し、その方程式を逐次的に解くことにより、高解像度画像を得る超解像処理方法である。
これらの超解像処理は、まず、高解像度画像を仮定し、そして仮定した高解像度画像から、カメラモデルから得られる点広がり関数(PSF関数)に基づき、全ての低解像度画像の画素について、その画素値を推定し、その推定値と観測された画素値(観測値)との差が小さくなるような高解像度画像を探索するという処理を有している。そのため、これらの超解像処理は、再構成型超解像処理と呼ばれている。なお、時間的に連続する複数のフレーム間に及ぶ画像情報を利用する超解像処理は、特にフレーム間再構成型超解像処理と呼称されることもある。一方で、1つのフレーム内で再構成型超解像処理を行なう場合は、フレーム内再構成型超解像と呼称される。本実施形態では、フレーム間再構成型超解像を採用している。
なおここでは、画像処理装置2において超解像処理によって高解像度化された静止画像を再生するものとしているが、画像処理装置2の処理能力が十分に高ければ、超解像処理で得られた高解像度画像をフレーム画像として動画を再生することも可能である。
図4は、撮像装置1の撮像部11を示す断面図である。図4に示すように、撮像装置1の撮像部11は、撮像素子31を備えたセンサモジュール41と、被写体からの光を撮像素子31の受光面上で結像させるレンズユニット42と、撮像素子31の受光面上で結像される光像を変位させる光学的シフト機構35とを有している。レンズユニット42はレンズホルダ45を介して基板46に支持されている。センサモジュール41及び光学的シフト機構35も基板46に支持されている。なお、基板46には、必要に応じてその他電気部品等が搭載される。
光学的シフト機構35は、センサモジュール41とレンズユニット42との間に配置された光学部材51と、光学部材51を一体的に保持する内周リング52と、玉軸受け53を介して内周リング52を回転自在に保持する外周リング54と、光学部材51及び内周リング52を磁気による回転力で回転駆動させる磁気駆動部36とを有している。
光学部材51は、レンズユニット42の光軸に対して所定角度傾斜した平行平板57を備えている。内周リング52及び外周リング54は、光軸を中心とした円環状をなし、基板46に固定された外周リング54に対して、内周リング52が光軸周りに回転可能となっている。磁気駆動部36は、内周リング52に固定された状態でこれと同軸的に設けられた着磁部58と、この着磁部58に対向配置された磁気発生部59とで構成される。
センサモジュール41とレンズユニット42との間の隙間Dには、光学部材51のみが配置され、光学部材51を保持する内周リング52やこれを回転駆動する磁気駆動部36は隙間Dの外側に配置されている。例えばレンズユニット42に多群のレンズを備えたものを用いた場合、一般的に隙間Dが非常に狭くなり(例えば約3mm)、また、撮影範囲が広角になるのに応じて隙間Dがさらに狭くなるが、光学部材51のみであれば隙間Dに支障なく配置することができる。
図5は、撮像部11の光学的シフト機構を示す平面図である。図5に示すように、着磁部58は、N極及びS極に着磁された8つの磁極を備える1つのラバーマグネット(ゴムマグネット)を周方向に配置したものである。ラバーマグネットはゴム材に微小な磁性体粒子を分散混合したものであり、磁性体粒子としては例えばフェライト、サマリウムコバルト、ネオジウム等が用いられる。磁気発生部59は、電磁鋼帯を複数積層してなるステータコア60に導線を巻回して磁気コイル61が形成されたものであり、ステータコア60が着磁部58に対向配置されており、磁気コイル61に電流を流すことで発生する磁界により生じる吸引力及び反発力で着磁部58を所定の方向に回転させ、これに応じて内周リング52と平行平板57を備えた光学部材51とが光軸周りに回転する。なお、上述したラバーマグネットに替えてプラスティックマグネット(プラマグ)を採用してもよい。プラマグは金型成形にて製造することができ、一般に寸法精度が高いことから、着磁部58と磁気発生部59の離間距離をより接近させることができ、回転力を効率よく発生させることが可能である。
また、内周リング52の回転位置を検出する磁気センサ37が、着磁部58に対向して設けられている。この磁気センサ37はホール素子等で構成されている。磁気センサ37は着磁部58が発生する磁力を検出することで、着磁部58に設けられた磁極であるN極とS極の位置情報を出力する。表現を変えると、磁気センサ37はN極とS極の1組が磁気センサ37に対して相対的に移動すると、これを1周期とする正弦波を出力する。すなわち、磁気センサ37は着磁部58に設けられた磁極の位相情報を出力することになる。
このように構成された光学的シフト機構35はシフト制御部14により制御される。上述の位相情報がシフト制御部14に設けられたCPU63のアナログポート(図示せず)に入力されると、CPU63はその内部で位相情報をA/D変換してディジタル値に変換する。磁気発生部59と磁気センサ37の位置関係は予め分かっているから(一般には、磁気発生部59と磁気センサ37は内周リング52の中心に対して90゜、180゜又は270゜の位置関係となるように配置される)、CPU63は磁気発生部59に対する着磁部58の磁極の位置(位相)に応じてコイル61に流す駆動電流を暫定的に決定する。
さらにCPU63は、例えば10ms程度の単位時間における上述した位相の変化量を検出することができる。また、磁気センサ37が正弦波のみならず、磁極の1組に対して1/4周期遅れた余弦波も出力する構成とすれば、これらの比(正接)から正確に(より厳密には、磁気発生部59と着磁部58の離間距離の変動に影響を受けずに)単位時間当たりの位相の変化量を算出することができる。この位相の変化量は“距離”の次元を有するが、これを単位時間で除することで内周リング52の回転速度(周速度)が計算できる。
CPU63は計算によって得た回転速度に基づき、いわゆるPI制御(比例積分制御)等の公知の手法を用いて上述の暫定的に決定した駆動電流値を修正し、内周リングが予め定めた一定速度で回転するような駆動電流値を決定し、制御信号として出力する。制御信号はDA変換部64にてアナログレベル信号に変換されてドライバ65に渡され、ドライバ65から磁気発生部59に対して駆動信号が出力される。これにより、内周リング52及び光学部材51は1方向に一定速度で連続回転する。
もちろん、PI制御の演算において、P(比例)演算で基準値として用いる速度目標値を変更することによって、これとは異なる一定速度で回転させることが可能である。これによって周期設定部25から指示された速度(図2参照)で回転制御が実行される。
なお、図5に示すように、着磁部58と磁気発生部59の離間距離は、着磁部58の外周に沿って一定ではなく、意図的に遠近を持たせてある。これによって着磁部58に作用する力の合成ベクトルが周方向成分を持つため、内周リング52の回転方向が一意に定まる。
また、図5では単一の磁気発生部59を設けているが、光学的シフト機構35が要求するトルク特性に応じて磁気発生部59の数を増加してもよい。また、図5に示す構成ではラバーマグネットの磁極と磁気発生部59の位置関係によって回転中にトルクが変動し、いわゆるコギング(トルクリップル)が発生しやすい。コギングによる速度変動が超解像効果を抑制する場合は、2つの磁気発生部59を設け、双方が対向する磁極の関係を調整すればよい。
具体的には、図5の構成に加えて第2の磁気発生部を着磁部58の外周に沿ってさらに設け、N極とS極の1組を磁極の1周期としたとき、磁気発生部59が対向する磁極に対して、第2の磁気発生部が対向する磁極の位相が1/4周期だけずれる位置に配置することで、各磁気発生部59によるトルクリップルを略相殺することが可能である。
図6は、撮像素子への光の入射状況を示す断面図であり、図6(A)は入射した光の光路が最も右側にシフトした状態を示し、図6(B)は図6(A)の状態から平行平板57が180゜回転した状態を示している。なお、図6(B)の状態から、平衡平板がさらに180゜回転すると、図6(A)の状態に復帰する。
図6に示すように、光学部材51の平行平板57は、レンズユニット42の光軸に対して傾斜しているため、レンズユニット42を経て入射する光を屈折させ、撮像素子31の受光面に入射する光の位置が平行平板57の回転位置に応じて変化し、光学的シフト機構35により光学部材51を回転させると、撮像素子31の受光面上で結像する光像が、光学部材51の回転速度に応じた周期(以下、円運動周期)で円を描くように移動し、これにより撮像素子31に対して光像を相対的に微小変位させることができる。
具体的には、本実施形態では平行平板57として厚み=0.1mm、屈折率=1.49のアクリル板を採用している。そして平行平板57を光軸に垂直な平面に対して3.2degの傾斜角を持たせて配置している。これによって平行平板57に入射した光は、入射角を保ったまま(すなわち平行に)約3.75μmシフトして出射され、平行平板57が回転することによって、撮像素子31上に結像される光像は直径7.5μmの円軌道を描いて運動する。
図7、図8は、光像に対する画素の相対的な円運動の状況を示す模式図である。図7に示すように、撮像素子31は、入射光のうちR(Red)成分を受光するR画素と、B(Blue)成分を受光するB画素と、G(Green)成分を受光するG画素の各画素がいわゆるベイヤ配列に基づいて配列された、いわゆる単板式の撮像素子である。このベイヤ配列では、G画素が全画素数の1/2の画素数で千鳥状(チェッカフラッグ状)に配置され、R画素及びB画素が各全画素数の1/4ずつの画素数でG画素の配置位置を除く位置に分散配置されている。なお、図中のX軸は主走査方向、Y軸は副走査方向をそれぞれ示す。以下、同様である。
撮像素子31はいわゆるQuad VGA(1280×960画素)の画素構成を備え、センササイズは1/3インチ、隣接画素との間隔である画素ピッチは主走査方向、副走査方向ともに3.75μmである。上述したように、円軌道の直径は7.5μmであるから、シフト手段(平行平板57)による円運動の直径は撮像素子31の画素ピッチの2倍に設定されていることになる。
なおここでは、図6に示したように、固定された撮像素子31の画素に対して光像が変位するものであるが、以下の説明では、便宜上、光像に対する画素の相対的な移動を、静止した光像に対して画素が移動するように図示して説明する。また、各画素は、概ね光学サイズとして示される範囲の光を受光するが、以下の説明では、便宜上、各画素の中心位置のみを図示して説明する。
ここで、図7(B)に示すように、例えば円運動の直径を画素ピッチの√2倍の長さに設定すると、R画素の移動範囲から外れてRの色情報が完全に欠落する領域が発生する。また、これと同様にB画素の移動範囲から外れてBの色情報が完全に欠落する領域が発生する。ちなみに、従来のように、円運動の直径を、画素ピッチの√2/2倍の長さに設定すると、Rの色情報が完全に欠落する領域がさらに大きくなり、ベイヤ配列を持つ一般的な単板式カラーイメージセンサで撮像した低解像度画像を超解像処理に供しても高精細な高解像度画像の再現を行なうことはできない。
これに対して、図7(A)に示すように、円運動の直径を画素ピッチの2倍の長さに設定すると、図8(A)、(C)に示すように、R画素及びB画素のない領域にもR画素及びB画素を移動させることができるため、撮像位置に偏りがなくなり、超解像処理で得られる高解像度画像を高品質なものとすることができる。さらに図8(B)に示すように、G画素については、もともと画素数が多い(全体の1/2)ことに加え、千鳥配置されたG画素が周辺領域を走査する状態となるため、光像を網羅的にサンプリングすることが可能となる。
一方、逆に円運動の直径を画素ピッチの2倍より大きくした場合、R画素やB画素が撮像できない領域が帯状に発生することはない。しかしながら、円運動の角速度を一定としたとき円運動の直径を大きくすると、光像の変位速度(すなわち周速度)が増大する。この場合は同一の撮像期間(撮像素子31で電荷蓄積が行なわれる期間)が与えられた場合に、より大きな距離だけ光像が移動することとなり積分効果が大きくなる、つまり画像がブレてしまうため高周波成分が失われ、超解像処理の効果を抑制する要因となる。
次に、撮像(サンプリング)について説明する。図9は、撮像と撮像により生成する画像の状況を示す模式図である。ここでは、図9に示すように、光像に対する画素の相対的な円運動を1方向に一定速度で連続して行わせながら撮像が行われ、撮像位置が少しずつずれたフレーム画像F1・F2・・・が順次生成される。図示する撮像基準位置P1・P2・・・は、撮像のタイミングを示すものであり、各々で1枚のフレーム画像が生成される。特にここでは、撮像開始時の画素の中心位置を撮像基準位置として示しており、各撮像基準位置で電荷蓄積が開始され、直後の撮像基準位置の手前で電荷蓄積が完了して画素信号が出力される。
なお、超解像処理で適切な高解像化を行うには、全ての画素において均一に変位した状態とすることが望ましく、各画素ライン間で電荷蓄積タイミングに時間差が生じるのは妥当でないため、ここでは全ての画素のシャッタ動作を同じタイミングで行わせるグローバルシャッタ方式が採用される。
また、画素が1回の円運動を行う間に数多くの撮像(サンプリング)を行うことで、超解像処理で得られる高解像度画像の品質を高めることができ、特にここでは、円運動周期を撮像周期の非整数倍に設定する。このようにすると、円運動を繰り返すことで、多数の異なる位置での撮像が可能となるため、撮像位置が微小に異なる画像を多数生成することができるので、超解像処理で得られる高解像度画像の品質を向上させることができる。これに対して、円運動周期を撮像周期の整数倍とすると、円運動を繰り返しても撮像基準位置に変化がなく、1回の円運動で設定可能な撮像基準位置の数に限定される。
以下、円運動周期と撮像周期との比率を具体的に定めて、撮像基準位置の例について図10、11、12を用いて説明する。図10は、撮像周期と円運動周期との比率の一例での撮像基準位置の状況を示す模式図である。図11、図12は、撮像周期と円運動周期との比率の別例での撮像基準位置の状況を示す模式図である。なお、図10〜図12では、画素ピッチを1として図示している。
図10に示す例では、円運動周期を撮像周期の7.5倍に設定している。ここで、撮像周期を例えば30ms(約30frame/s)とすると、円運動周期は225msとなる(=30ms×7.5)。この場合、円運動の2回目で撮像基準位置が原位置に復帰し、円運動が2回行われる間に15回の撮像(サンプリング)が行われる。各撮像基準位置は48deg(=360deg/7.5)の相対角度をもって離間している。なお、超解像効果は画像にブレ(積分効果)があると抑制されるため、撮像素子31における電荷蓄積期間(シャッタ速度)の選定は重要である。この観点からすれば、シャッタ速度は可能な限り高速にすべきである。しかし、一方でシャッタ速度を高速にすると感度不足となりやすいため、被写体の光量に応じてシャッタ速度優先でゲインを補償するのが望ましい。本実施形態ではシャッタ速度を1/250sec(4ms)に設定している。撮像周期=30msに対してシャッタ速度をこの程度にすると、超解像処理における画像のブレによる悪影響は目視上観測されなかった。
円運動の1回目では、図10(A)に示すように、撮像基準位置P1〜P8で撮像が行われ、円運動の2回目では、図10(B)に示すように、撮像基準位置P9〜P15で撮像が行われ、各撮像基準位置P9〜P15は、円運動の1回目における隣り合う撮像基準位置(例えばP1とP2)の中間位置となる。円運動の1回目と2回目とを合わせると、図10(C)に示すように、各撮像基準位置P1〜P15が24degの相対角度をもって離間する。
ここで、円運動の1回目の撮像基準位置P1〜P8での撮像で得られた8枚の画像に基づいて超解像処理を行う第1の処理モードと、円運動の1回目と2回目とを合わせた撮像基準位置P1〜P15での撮像で得られた15枚の画像に基づいて超解像処理を行う第2の処理モードとの2つの処理モードを選択することができる。
第1の処理モードでは、本来の1画素の範囲内に、X軸・Y軸の両方向で位置の異なる2つの撮像基準位置が設定されるため、X軸・Y軸のそれぞれの方向について撮像素子31の本来の解像度のほぼ2倍の解像度で高解像度化を行うことができる。一方、第2の処理モードでは、本来の1画素の範囲内に、X軸・Y軸の両方向で位置の異なる4つの撮像基準位置が設定されるため、X軸・Y軸のそれぞれの方向について撮像素子31の本来の解像度のほぼ4倍の解像度で高解像度化を行うことができる。
特に、この第2の処理モードでは、円運動の2回目で設定される撮像基準位置P9〜P15の各々が、円運動の1回目で設定される撮像基準位置P1〜P8の互いに隣り合うもの同士の中心位置になり、撮像基準位置が偏ることなく均等に分散された状態となるため、超解像処理との適合性に優れた画像を生成することができる。
また、撮像装置1で撮像が行われている最中に撮像装置1で超解像処理を行うことも可能であり、この場合、第2の処理モードでは、円運動が2回行われて15枚の画像が揃う度に1回の超解像処理を行えばよい。
一方、第1の処理モードでは、撮像基準位置を順次シフトさせながら8枚の画像が揃う度に超解像処理を行うとよい。具体的には、1回目で、撮像基準位置P1〜P8での撮像で得られた8枚の画像を用いて超解像処理を行い、2回目で、撮像基準位置P9〜P15・P1での撮像で得られた8枚の画像を用いて超解像処理を行い、以降、3回目では撮像基準位置P2〜P9、4回目では撮像基準位置P10〜P15・P1・P2というように撮像基準位置を1つずつずらすようにする。
このように2つの処理モードを設定することができ、両モードでは、円運動周期(光学的シフト機構35の回転速度)や撮像周期を変化させる必要がないため、制御が容易である。
なお、各モードでの超解像処理に用いる最初の画像は原位置P1の撮像で得られた画像に限定する必要がなく、第1の処理モードでは、任意の位置から1回の円運動が行われる間に撮像された8枚の画像を用いて超解像処理を行い、第2の処理モードでは、任意の位置から2回の円運動が行われる間に撮像された15枚の画像を用いて超解像処理を行うようにしてもよい。
このような処理は、図3に示したように、画像処理装置2の記憶部23に蓄積されたフレーム画像を用いて超解像処理を行う場合にも、また撮像装置1での撮像の最中に超解像処理を行う場合にも適用することができ、特に後者の場合には、処理モードの切り替えに伴って撮像開始位置を原位置P1に戻す操作が必要でないため、直ちに処理モードを切り替えて解像度が異なる高解像度画像を生成することが可能になる。
図2に示したように、撮像周期は、画像処理装置2において入力部26を用いてユーザにより指定され、周期設定部25にて、指定された撮像周期に基づいて円運動周期が決定され、ここで決定された円運動周期に関するコマンド信号が撮像装置1に送信される。撮像装置1のシフト制御部14では、画像処理装置2から取得した円運動周期に関するコマンド信号に基づいて、指定された円運動周期に対応する回転速度で光学的シフト機構35を動作させる。
また、ユーザは処理モード(第1の処理モードと第2の処理モード)を指定することができ、図3に示したように、画像処理装置2の記憶部23に蓄積されたフレーム画像を用いて超解像処理を行う場合には、基準画像と共に処理モードをユーザに指定させ、ここで指定された処理モードに応じた数のフレーム画像を、基準画像として指定されたフレーム画像を基準にして読み出して超解像処理を行なわせればよい。
図11、図12に示す例では、円運動周期を撮像周期の7.2倍に設定している。この場合、円運動の5回目で撮像基準位置が原位置に復帰し、円運動が5回行われる間に36回の撮像(サンプリング)が行われる。各撮像基準位置は50deg(=360deg/7.2)の相対角度をもって離間している。
円運動の1回目では、図11(A)に示すように、撮像基準位置P1〜P8で撮像が行われる。2〜5回目では、1回目の撮像基準位置P1・P2間に着目して説明すると、図11(B)に示す2回目で、撮像基準位置P1・P2間に新たな撮像基準位置Ps_2が追加され、以下同様にして、図11(C)に示す3回目でPs_3が、図12(A)に示す4回目でPs_4が、図12(B)に示す5回目でPs_5が撮像基準位置P1・P2間に追加される。
このようにして、円運動の1回目において隣接する2つの撮像基準位置の間に、円運動を繰り返す毎に1つの撮像基準位置が追加され、円運動の1〜5回目の撮像基準位置を合わせると、図12(C)に示すように、本来の1画素の範囲内に、X軸・Y軸の両方向で位置の異なる9つの撮像基準位置が設定され、撮像位置を微小にずらして9回の撮像が行われたことになり、X軸・Y軸のそれぞれの方向について撮像素子の本来の解像度のほぼ10倍の解像度で高解像度化を行うことができる。
また、さほど高解像度化が要求されない場合は、前記の図10の例と同様に、1回の円運動で設定された8つの撮像基準位置の撮像で得られた8枚の画像に基づいて超解像処理を行えば良く、より高い解像度が要求される場合には、2回、3回、4回と円運動の回数を多くすればよい。
ところで、図10に示した例では円運動周期を撮像周期の7.5倍に設定し、図11・図12に示した例では円運動周期を撮像周期の7.2倍に設定したが、本発明はこれに限定されるものではない。
ここで、Rs=円運動周期/撮像周期として、Fn(Rs)を次式のように定める。
Fn(Rs)=Rs−int(Rs) (式1)
なお、intは、“()”内の値を越えない最大の整数を返す関数を意味する。以下同様である。
このFn(Rs)は、次式のように、撮像基準位置が最初の位置に復帰するまでの光像の円運動の回数Nrの逆数である。
Nr=1/Fn(Rs) (式2)
また、第1の処理モード、すなわち1回の円運動のみで撮像された画像に基づいて超解像処理を行う場合の撮像回数S1は、次式のようになる。
S1=int(Rs)+1 (式3)
一方、第2の処理モード、すなわち2回の円運動で撮像された画像に基づいて超解像処理を行う場合の撮像回数S2は、次式のようになる。
S2=Rs×Nr (式4)
前記の図10に示した例では、撮像周期に対する円運動周期の比率Rs=7.5としたから、式1によりFn(Rs)=7.5−int(7.5)=0.5となり、また式2によりNr=1/0.5=2となり、円運動の2回で撮像基準位置が原位置に復帰する。また、第1の処理モード及び第2の処理モードでの撮像回数S1、S2については、式3によりS1=7+1=8となり、式4によりS2=7.5×2=15となる。
また、図11・図12に示した例では、撮像周期に対する円運動周期の比率Rs=7.2としたから、式1によりFn(Rs)=7.2−int(7.2)=0.2となり、また式2によりNr=1/0.2=5となり、円運動の5回で撮像基準位置が原位置に復帰する。また、第1の処理モード及び第2の処理モードでの撮像回数S1・S2については、式3によりS1=7+1=8となり、式4によりS2=7.2×5=36となる。
このように撮像周期に対する円運動周期の比率Rsを7.5あるいは10.5のように小数点部が0.5となるように設定すると、2回の円運動で撮像基準位置が原位置に復帰し、比率Rsを7.2あるいは10.2のように小数点部が0.2となるように設定すると、5回の円運動で撮像基準位置が原位置に復帰する。また、Rsを7.1や8.1のように小数点部が0.1となるように設定すると、10回の円運動で撮像基準位置が原位置に復帰し、Rsの小数点部を小さくすることで、撮像基準位置が原位置に復帰するまでの円運動の回数が多くなり、位置の異なる撮像基準位置を数多く設定することができ、高解像度化を図ることができる。
また、撮像周期に対する円運動周期の比率Rsの整数部を大きくすることで、円運動の1回あたりの撮像回数が多くなり、高解像度化を図ることができる。なお、実用上、X軸・Y軸のそれぞれの方向について2倍以上の解像度の向上を図ることが望ましく、前記のようにベイヤ配列が採用された撮像素子31で、画素ピッチの2倍の範囲で光学的シフトを行なう場合を前提とすると、Rs≧4.5とするのが好ましい。
なお、以上の例は、いずれも円運動の周期と撮像周期が、共通の約数を持つ場合であったが、これらを「互いに素」の関係にしても良く、このようにすると極めて細密に撮像を行うことができる。
ところで、本発明では、撮像周期に対する円運動周期の比率Rsに応じて解像度が定まるため、円運動周期及び撮像周期のいずれか一方を一定として他方を増減することで解像度を調整することができる。例えば、撮像周期を短くすることで、円運動の1回あたりの撮像回数を増やして、解像度を高めることができる。ただし、撮像周期は、被写体照度や環境の明るさに応じて調整する必要があり、一般的に被写体が暗ければ撮像周期を長くして撮像素子31での電荷蓄積時間を長く確保する措置が取られることが多く、撮像周期の適正範囲が限定される。このため、撮像周期を予め決定した上で、撮像周期に対する円運動周期の比率Rsが所要の値となるように円運動周期を設定するとよい。例えば撮像周期を短くすることができない場合には、円運動周期を長く設定する、すなわち光学的シフト機構35による光学部材51の回転速度を低く設定すればよい。
また、被写体照度が低くなると一般にSNR(Signal Noise Ratio)が低下する。超解像処理、特にフレーム間再構成型の超解像処理では、時間的に連続する複数のフレーム画像を畳み込んで(すなわち合成して)高解像度画像を生成するため、用いるフレーム画像が多いほど、SNRの観点からは有利となる。このため、被写体照度が低下した場合は、撮像周期を長くして事実上の感度アップを図り、さらに円運動周期を長くして円運動の1回あたりのサンプリング(撮像)の回数を増加することでSNRの向上を図ることができる。具体的には、撮像周期に対する円運動周期の比率Rsを例えば10.5のように設定すればよい。
また、本発明では、光学的シフト機構35による画素ずらしにより画像全体が一律にシフトするため、一般的に圧縮率の観点では不利になるが、フレーム間の予測誤差を伝送する画像圧縮手法において圧縮率に影響するのは基本的にエッジ部であり、画像の平坦部では影響は殆どない。よって通常の利用シーンではMPEG4等による圧縮が施されたとしても、圧縮率は大きく増大することがない。従って、本発明を適用するにあたり、敢えて高速なネットワーク回線を使用する必要はない。
以上のように、本発明では、円運動周期を撮像周期の非整数倍にするという単純な構成によって、画素ずらしの状態を様々に制御することができ、特に均一に分散した多点での撮像が可能となるため、超解像処理に適した原画像を簡単に得ることができる。そして、撮像周期に対する円運動周期の比率を調整することで、超解像処理で得られる高解像度画像の解像度を自由に制御することができる。
なお、前記の例では、光学的シフト機構35において、撮像素子31の受光面上で結像する光像と撮像素子31とを相対的に円運動させるために、撮像素子31が固定された状態で、平行平板57を備えた光学部材51に円運動を行わせるものとしたが、これとは逆に、光像が固定された状態で、撮像素子に円運動を行わせる構成としてもよい。
また、前記の例では、磁気による回転力で円運動を行わせる構成としたが、ピエゾ素子や超磁歪素子を用いた1軸型(直動型)のアクチュエータで円運動を行わせる構成も可能である。例えば、撮像素子に1軸型のアクチュエータで円運動を行わせる構成の場合、X軸方向及びY軸方向の2つのアクチュエータを撮像素子に連結し、X軸方向について正弦波を、Y軸方向について余弦波をベースとして、それぞれのアクチュエータを独立して駆動すれば、これらのアクチュエータによって変位される撮像素子は、光像に対して円運動を行なうこととなり、正弦波及び余弦波の周期を制御すれば、円運動周期を変更することができる。さらに、X軸及びY軸についてそれぞれ変位のベースとなる正弦波の振幅や位相等を互いに調整することで、光像は撮像素子の表面で、x=Acos(at)、y=Bsin(bt+δ)として規定される、いわゆるリサジュー曲線を描くこととなる。このリサジュー曲線を適用することで、撮像位置の分散性をより高めることができる。そしてリサジュー曲線の繰返し周期を撮像周期の非整数倍にすることによって、本発明の作用・効果がそのまま反映されることは言うまでもない。