JP2008028500A - 画像処理装置、方法、およびプログラム - Google Patents
画像処理装置、方法、およびプログラム Download PDFInfo
- Publication number
- JP2008028500A JP2008028500A JP2006196455A JP2006196455A JP2008028500A JP 2008028500 A JP2008028500 A JP 2008028500A JP 2006196455 A JP2006196455 A JP 2006196455A JP 2006196455 A JP2006196455 A JP 2006196455A JP 2008028500 A JP2008028500 A JP 2008028500A
- Authority
- JP
- Japan
- Prior art keywords
- image
- pixel
- reference image
- captured
- images
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Images
Abstract
【課題】精度よく撮像画像の位置合わせを行う。
【解決手段】動き検出回路621乃至62N-1は、1の画素と他の1の画素との露光のタイミングが異なるCMOSセンサ等で連続して撮像された複数枚の画像のうちの1枚の画像を基準画像として、基準画像と、他の画像との対応点を検出し、演算回路63は、その対応点に基づいて、基準画像と他の画像との位置関係を表す非線形関数を求める。本発明は、例えば、画像を撮像するデジタルビデオカメラ等に適用できる。
【選択図】図8
【解決手段】動き検出回路621乃至62N-1は、1の画素と他の1の画素との露光のタイミングが異なるCMOSセンサ等で連続して撮像された複数枚の画像のうちの1枚の画像を基準画像として、基準画像と、他の画像との対応点を検出し、演算回路63は、その対応点に基づいて、基準画像と他の画像との位置関係を表す非線形関数を求める。本発明は、例えば、画像を撮像するデジタルビデオカメラ等に適用できる。
【選択図】図8
Description
本発明は、画像処理装置、方法、およびプログラムに関し、特に、例えば、デジタルビデオカメラ等の撮像装置において、連続して撮像された複数の撮像画像の位置合わせを精度よく行うことができるようにする画像処理装置、方法、およびプログラムに関する。
デジタルビデオカメラやデジタルスチルカメラ等の撮像装置を用いて、撮像装置本体を三脚等で固定せずに、手持ちの状態で撮像を行うと、手振れにより画像全体が移動するため、画像が揺れているように撮像されてしまう。
かかる手振れによる画像の揺れを低減させる方法としては、時間的に連続して複数の画像を撮像し、その複数の画像を、画像の動きに応じて、基準となる画像に位置合わせして合成する方法がある。
手振れによる画像の移動の種類としては、レンズの光軸と直交する面内の平行移動、レンズの光軸回りの回転、並びに、レンズの光軸と同一方向の移動による拡大および縮小等がある。かかる移動のあった複数の画像の位置合わせは、例えば、アフィン変換を用いて行われる(例えば、特許文献1参照)。
また、各ラインの読み出しアドレスをずらすことにより、手振れによる撮像画像の移動の分を補正する方法がある(例えば、特許文献2参照)。
ところで、撮像装置に用いられる(固体)撮像素子には、CCD(Charge Coupled Device)センサに代表される電荷転送型のセンサと、CMOSセンサに代表されるX-Yアドレス型のセンサがある。
CCDセンサのような電荷転送型のセンサでは、全画素の露光が同時に開始され、各画素で受光された光の光量に対応する画素データが同時に読み出されるため、手振れがあっても、その画素データからなる画像である撮像画像に映っている被写体に歪みは生じない。従って、アフィン変換を用いることで、時間的に連続して撮像された複数の撮像画像の正確な位置合わせを行うことができる。
一方、CMOSセンサのようなX-Yアドレス型のセンサでは、1画素単位、または1ライン単位で、順次、露光が開始され、1画素単位、または1ライン単位で、各画素で受光された光の光量に対応する画素データが読み出されるので、手振れがあると、そのような画素データからなる撮像画像に映っている被写体に歪みが生じることがある。この歪みは、フォーカルプレーン現象と呼ばれる。アフィン変換では、このような被写体の歪みを補正することが困難であり、このため、複数の撮像画像の正確な位置合わせを行うことも困難である。
以下、CMOSセンサで得られる撮像画像に映っている被写体に生じる歪みについて説明する。
図1は、撮像画像の走査方式を示している。
撮像画像は、図1に示すように、左から右、そして上から下に向かって1ライン(水平ライン)ごとに走査される、いわゆるプログレッシブ方式の画像であるとする。なお、説明の便宜上、水平ブランキング期間と垂直ブランキング期間は無視する。
図2は、撮像素子における1ラインごとの露光のタイミングを示す図である。
なお、図2において、横軸は、時間を表している。
図2上は、CCDセンサにおける露光のタイミングを示している。
CCDセンサでは、全画素、すなわち、CCDセンサが第1ライン乃至第NラインのNラインを有する場合には、その第1ライン乃至第Nラインの露光は、すべて同一の時刻に開始され、その時刻から所定の露光時間が経過した同一の時刻に終了する。
従って、CCDセンサにおいては、全画素の露光が同時に行われるため、手振れがあっても、撮像画像に映っている被写体に歪みは生じない。
次に、図2下は、CMOSセンサにおける露光のタイミングを示している。
CMOSセンサでは、ある1の画素と他の1の画素との露光のタイミングが異なる。
すなわち、CMOSセンサでは、例えば、その上からn番目の第nラインの露光は、その1ライン上の第n-1ラインの露光が開始されてから、所定の時間Δtだけ経過した時刻に開始され、その時刻から所定の露光時間が経過した時刻に終了する。そして、第nラインの各画素で受光された光の光量に対応する画素データが読み出される。
したがって、CMOSセンサでは、任意の2つのラインにおいて、露光(の開始や終了)のタイミングが一致せず、CMOSセンサが、第1ライン乃至第NラインのNラインを有する場合には、第1ラインと第Nラインとにおいて、露光のタイミングが、最大で、(N-1)Δtだけずれる。
このように、CMOSセンサでは、ある画素と他の画素との露光のタイミングが異なるため、すなわち、例えば、任意の2つのラインの露光のタイミングが異なるため、手振れがあると、その手振れによって、撮像画像に映る被写体に歪みが生じる。
図3乃至図6を参照して、手振れと撮像画像に映っている被写体の歪みとの関係について説明する。
図3は、被写体が、手振れが生じた状態で撮像される様子を示している。
ここで、現実の撮影では、撮像装置の光学系において、外部から入射する被写体からの光を、レンズを通して焦点面にあるフィルム面上、または撮像素子上に結像させることで、被写体が映った撮像画像が得られるが、図3では、説明の便宜上、3次元空間に存在する被写体が、2次元平面である所定の投影面上に投影され透視変換されることにより、その被写体が映った撮像画像が得られることとしてある。
図3において、視点と被写体とを結ぶ線が、視点と被写体との間に配置された、被写体が投影される投影面と交わる点の集合が撮像画像に映る被写体となる。
なお、例えば、ピンホールカメラでの撮像においては、ピンホールが、視点に相当し、ピンホールカメラの投影面(フィルムの面)が、被写体が透視変換される投影面に相当する。
そして、手振れは、視点が固定のままで、投影面が移動することに相当する。
ここで、以下、適宜、手振れが生じる手持ちの状態での撮像装置によって、連続して2回の撮像を行った場合の、1回目の撮像時の投影面を、基準となる基準投影面といい、2回目の撮像時の投影面、つまり、手振れによって1回目の撮像時の位置から移動した投影面を、手振れ投影面という。
図4は、図3の基準投影面と手振れ投影面とを、視点からみた平面図である。
基準投影面の左上の点を原点とし、左から右方向をx軸とするとともに、上から下方向をy軸とする2次元座標系において、手振れ投影面は、基準投影面に対して、x方向にはhだけ、y方向にはvだけ、平行移動しており、原点(原点を通り、xy平面に直交する軸)回りに、角度θだけ回転している。なお、図4において、回転の符号は、反時計回りの方向を正とし、時計回りの方向を負とする。
図5は、撮像素子にCCDセンサを用いた場合の撮像画像を示している。
図5左は、基準投影面で得られる撮像画像1を示し、図5右は、手振れ投影面で得られる撮像画像2を示す。
図5において、撮像画像1に映っている被写体(以下、適宜、被写体像という)1Aは、手振れによる投影面の移動により、撮像画像2に映っている被写体像2Aの位置に移動している。
すなわち、被写体像2Aは、被写体像1Aに対して、x方向に-hで、y方向に-vだけ平行移動し、かつ、角度-θだけ回転している。
CCDセンサでは、図2で説明したように、全画素を同時に露光するので、被写体像2Aの位置は、被写体像1Aの位置から移動しているが、被写体像(画像)そのものに歪みは生じない。
従って、撮像素子にCCDセンサを用いる場合には、被写体像に歪みが生じないため、特許文献1のように、アフィン変換を用いて、手振れによる撮像画像の移動の分を補正する位置合わせを正確に行うことが可能である。
一方、撮像素子がCMOSセンサである場合には、例えば、図2で説明したように、各ラインの露光の露光期間がずれているため、被写体像に歪みが生じる。
図6は、撮像画像に被写体像の歪みが生じている様子を示している。
すなわち、図6左上は、1枚の撮像画像の露光が行われている間に、x方向(水平方向)の手振れがあった場合に得られる撮像画像3を示している。
なお、図6において、撮像画像の右側には、縦軸を各ラインの露光時刻として、各露光時刻における手振れによる投影面の移動量を横軸に示してある。
図6では、投影面の移動量、つまり、手振れの量が時刻に対して非線形に(ある加速度をもって)変化している。
x方向の手振れによれば、投影面が、時刻とともに水平方向(x方向)に移動する。
CMOSセンサでは、あるラインの露光が開始されてから、時間Δtだけ経過した後に次のラインの露光が開始されるので、x方向の手振れが生じている場合には、あるラインの露光が開始されてから、次のラインの露光が開始されるまでの時間Δtの間に、次のラインで撮像される位置がx方向にずれる。その結果、CMOSセンサで得られる撮像画像3に映る被写体像は、図6左上に示すように、水平方向にずれるように歪む。
図6左下は、1枚の撮像画像の露光が行われている間に、y方向の手振れがあった場合に得られる撮像画像4を示している。
y方向の手振れによれば、投影面が、時刻とともに垂直方向(y方向)に移動する。
CMOSセンサでは、あるラインの露光が開始されてから、時間Δtだけ経過した後に次のラインの露光が開始されるので、y方向の手振れが生じている場合には、あるラインの露光が開始されてから、次のラインの露光が開始されるまでの時間Δtの間に、次のラインで撮像される位置がy方向にずれる。その結果、CMOSセンサで得られる撮像画像4に映る被写体像は、図6左下に示すように、垂直方向に伸縮するように歪む。
図6右下は、1枚の撮像画像の露光が行われている間に、原点回りに回転する手振れがあった場合に得られる撮像画像5を示している。
原点回りに回転する手振れによれば、投影面が、時刻とともに原点回りに回転する。
CMOSセンサでは、あるラインの露光が開始されてから、時間Δtだけ経過した後に次のラインの露光が開始されるので、原点回りに回転する手振れが生じている場合には、あるラインの露光が開始されてから、次のラインの露光が開始されるまでの時間Δtの間に、次のラインで撮像される位置が原点回りに回転してずれる。その結果、CMOSセンサで得られる撮像画像5に映る被写体像は、図6右下に示すように、後から撮像される下の方ほど大きく歪む。
以上のように、撮像素子が、露光タイミングが異なる画素からなるCMOSセンサである場合、手振れによって、撮像画像には、被写体像の歪みが生じる。
このような被写体像に歪みがある撮像画像については、特許文献1に記載されているアフィン変換のような線形変換では、複数の撮像画像の同一の被写体が映っている部分どうしが一致するように正確な位置合わせを行うことは困難である。
また、特許文献2に記載の方法では、各ラインの読み出しアドレスをずらすことにより補正できるのは、水平移動による移動量だけであり、例えば、手振れによりレンズの光軸を中心とする回転移動が生じた場合には、その移動量を補正することが困難である。したがって、特許文献2に記載の方法でも、手振れが生じている複数の画像の位置合わせを、高い精度で行うことが困難である。
そして、複数の撮像画像の位置合わせを正確に行うことができない場合、位置合わせ後の複数の撮像画像を合成して得られる画像の画質が劣化する。
本発明は、このような状況に鑑みてなされたものであり、露光タイミングが異なる画素を有する撮像素子で得られる複数の撮像画像の位置合わせを、精度良く行うことができるようにするものである。
本発明の一側面の画像処理装置は、1の画素と他の1の画素との露光のタイミングが異なる撮像素子によって連続して撮像された複数枚の画像を処理する画像処理装置において、前記複数枚の画像のうちの1枚の画像を基準画像として、前記基準画像と、他の画像との対応点を検出する検出手段と、前記対応点に基づいて、前記基準画像と前記他の画像との位置関係を表す非線形関数を求める位置関係算出手段とを備える。
本発明の一側面の画像処理装置には、前記非線形関数に基づいて、前記複数枚の画像を合成する合成手段をさらに設けることができる。
本発明の一側面の画像処理方法、またはプログラムは、1の画素と他の1の画素との露光のタイミングが異なる撮像素子によって連続して撮像された複数枚の画像を処理する画像処理方法、または画像処理をコンピュータに実行させるプログラムにおいて、前記複数枚の画像のうちの1枚の画像を基準画像として、前記基準画像と、他の画像との対応点を検出し、前記対応点に基づいて、前記基準画像と前記他の画像との位置関係を表す非線形関数を求めるステップを含む。
本発明の一側面においては、複数枚の画像のうちの1枚の画像を基準画像として、前記基準画像と、他の画像との対応点が検出され、前記対応点に基づいて、前記基準画像と前記他の画像との位置関係を表す非線形関数が求められる。
本発明の一側面によれば、複数の撮像画像の位置合わせを、精度良く行うことができる。
以下に本発明の実施の形態を説明するが、本発明の構成要件と、明細書又は図面に記載の実施の形態との対応関係を例示すると、次のようになる。この記載は、本発明をサポートする実施の形態が、明細書又は図面に記載されていることを確認するためのものである。従って、明細書又は図面中には記載されているが、本発明の構成要件に対応する実施の形態として、ここには記載されていない実施の形態があったとしても、そのことは、その実施の形態が、その構成要件に対応するものではないことを意味するものではない。逆に、実施の形態が構成要件に対応するものとしてここに記載されていたとしても、そのことは、その実施の形態が、その構成要件以外の構成要件には対応しないものであることを意味するものでもない。
本発明の一側面の画像処理装置は、
1の画素と他の1の画素との露光のタイミングが異なる撮像素子(例えば、図7の撮像素子23)によって連続して撮像された複数枚の画像を処理する画像処理装置(例えば、図7の撮像装置11)において、
前記複数枚の画像のうちの1枚の画像を基準画像として、前記基準画像と、他の画像との対応点を検出する検出手段(例えば、図8の動き検出回路621乃至動き検出回路62N-1と、
前記対応点に基づいて、前記基準画像と前記他の画像との位置関係を表す非線形関数を求める位置関係算出手段(例えば、図8の演算回路63)と
を備える。
1の画素と他の1の画素との露光のタイミングが異なる撮像素子(例えば、図7の撮像素子23)によって連続して撮像された複数枚の画像を処理する画像処理装置(例えば、図7の撮像装置11)において、
前記複数枚の画像のうちの1枚の画像を基準画像として、前記基準画像と、他の画像との対応点を検出する検出手段(例えば、図8の動き検出回路621乃至動き検出回路62N-1と、
前記対応点に基づいて、前記基準画像と前記他の画像との位置関係を表す非線形関数を求める位置関係算出手段(例えば、図8の演算回路63)と
を備える。
本発明の一側面の画像処理装置には、
前記非線形関数に基づいて、前記複数枚の画像を合成する合成手段(図8の演算回路63)
をさらに設けることができる。
前記非線形関数に基づいて、前記複数枚の画像を合成する合成手段(図8の演算回路63)
をさらに設けることができる。
本発明の一側面の画像処理方法、またはプログラムは、
1の画素と他の1の画素との露光のタイミングが異なる撮像素子によって連続して撮像された複数枚の画像を処理する画像処理方法、または画像処理をコンピュータに実行させるプログラムにおいて、
前記複数枚の画像のうちの1枚の画像を基準画像として、前記基準画像と、他の画像との対応点を検出し(例えば、図15のステップS22)、
前記対応点に基づいて、前記基準画像と前記他の画像との位置関係を表す非線形関数を求める(例えば、図15のステップS23)
ステップを含む。
1の画素と他の1の画素との露光のタイミングが異なる撮像素子によって連続して撮像された複数枚の画像を処理する画像処理方法、または画像処理をコンピュータに実行させるプログラムにおいて、
前記複数枚の画像のうちの1枚の画像を基準画像として、前記基準画像と、他の画像との対応点を検出し(例えば、図15のステップS22)、
前記対応点に基づいて、前記基準画像と前記他の画像との位置関係を表す非線形関数を求める(例えば、図15のステップS23)
ステップを含む。
以下、図面を参照して本発明を適用した実施の形態について説明する。
図7は、本発明を適用した撮像装置の一実施の形態の構成例を示すブロック図である。
すなわち、図7において、撮像装置11は、レンズ21、絞り22、撮像素子23、CDS(Correlated Double Sampling)部24、A/D(Analog/Digital)コンバータ25、DSP(Digital Signal Processing)部26、タイミングジェネレータ27、D/A(Digital/Analog)コンバータ28、ビデオエンコーダ29、ビデオモニタ30、CODEC(Compresser Decompressor)31、メモリ32、CPU(Central Processor Unit)33、入力デバイス34、およびプログラムメモリ35から構成される。
外部から取り込まれた光は、光学系、つまり、レンズ21および絞り22を通過して、撮像素子23に入射する。
撮像素子23は、1の画素と他の1の画素との露光タイミングが異なるセンサ、すなわち、例えば、ある1ラインと、次の1ラインとの露光の開始タイミングが、所定の時間ΔtだけずれているCMOSセンサから構成され、そこに入射する光を受光し、光電変換する。
すなわち、撮像素子23は、タイミングジェネレータ27から供給される露光タイミング信号に従い、所定の間隔で、所定の時間だけ、そこに入射する光を受光し、その光の受光量に対応した電気信号である画像信号を、CDS部24に供給する。
なお、撮像素子23が有する画素の露光タイミングは、前述の図2で説明したように、ラインごとに異なっている。
また、撮像装置11では、手振れが発生していても、鮮明な画像を出力するために、撮像装置23では、1フレームに相当する時間に、複数回であるN回の撮像を行い、これにより、N枚の撮像画像の画像信号を、時系列に出力する。
CDS部24は、撮像素子23から供給されるN枚の撮像画像の画像信号(電気信号)のノイズ成分を、相関2重サンプリング(CDS)により除去し、A/Dコンバータ25に供給する。
A/Dコンバータ25は、CDS部24から供給される、N枚の撮像画像の画像信号をA/D変換、すなわち、サンプリングして量子化(デジタイズ)し、DSP部26に供給する。
DSP部26は、フレームメモリ41とDSP42等から構成される。フレームメモリ41は、A/Dコンバータ25から供給されるN枚の撮像画像の画像信号を一時記憶する。DSP42は、プログラムメモリ35に記憶されたプログラムを実行することにより、フレームメモリ41に格納されたN枚の撮像画像に対して後述の画像処理を行い、一枚の出力画像を求める。
DSP部26は、DSP42による画像処理によって求められた出力画像の画像信号を、D/Aコンバータ28若しくはCODEC31のいずれか一方、または両方に供給する。
タイミングジェネレータ27は、N枚の撮像画像の撮像を所定の一定のフレームレートで維持するための露光タイミング信号を、撮像素子23、CDS部24、A/Dコンバータ25、およびDSP部26に供給する。
D/Aコンバータ28は、DSP部26から供給される出力画像の画像信号をD/A変換し、ビデオエンコーダ29に供給する。
ビデオエンコーダ29は、D/Aコンバータ28から供給される画像信号(アナログ信号)を、ビデオモニタ30で表示することができる画像信号に変換し、ビデオモニタ30に供給する。
ビデオモニタ30は、本実施の形態においては、撮像装置11のファインダ等の役割を果たすものであり、LCD(Liquid Crystal Display)などで構成されている。ビデオモニタ30は、ビデオエンコーダ29から供給される画像信号に対応して画像を表示する。
CODEC31は、DSP部26から供給される出力画像の画像信号を、MPEG(Moving Picture Experts Group)や、JPEG(Joint Photographic Experts Group)方式等の所定の方式に従って符号化し、メモリ32に供給する。
メモリ32は、例えば、半導体メモリ、磁気記録媒体、光磁気記録媒体、光記録媒体等の記録媒体とその記録媒体の記録装置とで構成される。なお、上述した記録媒体は、記録装置に着脱可能とすることができる。メモリ32は、CODEC31から供給される符号化された画像信号を一時的または永久的に記憶(記録)する。
CPU33は、プログラムメモリ35に記憶されたプログラムを実行することにより、バスを介して各部に制御信号を供給し、各種の処理を制御する。
入力デバイス34は、例えば、撮像装置11本体の録画ボタンなどの操作用のボタン類である。入力デバイス34は、ユーザによって操作されることにより、その操作に応じた操作信号を、CPU33に供給する。
プログラムメモリ35は、例えば、不揮発性のメモリであり、DSP部26やCPU33が実行するプログラムを記憶している。
図8は、DSP部26の機能的な構成例を示すブロック図である。
すなわち、DSP部26は、フレームメモリ411乃至41N、動き検出回路621乃至62N-1、演算回路63、およびコントローラ64から構成されている。なお、図7のDSP42がプログラムを実行することにより、動き検出回路621乃至62N-1、演算回路63、およびコントローラ64として機能する。
フレームメモリ411乃至41Nは、図7のフレームメモリ41であり、特に、フレームメモリ411乃至41Nを区別しない場合には、フレームメモリ41と称す。
フレームメモリ411乃至41Nは、A/Dコンバータ25から、入力端子を介して供給されるN枚の撮像画像の画像信号を記憶する。すなわち、フレームメモリ41i(1≦i≦N)は、A/Dコンバータ25から供給されたi枚目の撮像画像を記憶する。
動き検出回路62j(1≦j≦N-1)は、フレームメモリ411に格納された1枚目の撮像画像を、位置合わせの基準とする基準画像として読み出すとともに、フレームメモリ41j+1に格納されたj+1枚目の撮像画像を、位置合わせの対象とするターゲット画像として読み出す。そして、動き検出回路62jは、フレームメモリ411から読み出した基準画像と、フレームメモリ41j+1から読み出したj+1枚目の撮像画像(ターゲット画像)とを対象とした動き検出を行うことにより、その基準画像とターゲット画像との対応する点、すなわち、基準画像の各画素の位置としての点について、その点に映っている被写体と同一の被写体が映っているターゲット画像上の位置である対応点を検出し、基準画像の画素の位置としての点とターゲット画像の対応点とのセットである対応点セットを演算回路63に供給する。
ここで、基準画像とターゲット画像とを対象とした動き検出は、例えば、ブロック単位で行うこともできるし、画素単位で行うこともできる。
演算回路63は、動き検出回路62jによって検出された対応点セットに基づいて、後述するように、基準画像とターゲット画像との位置関係を表す非線形関数を求める。
また、演算回路63は、基準画像とターゲット画像の位置関係を表す非線形関数に基づいて、フレームメモリ411乃至41Nに記憶されたN枚の画像を合成することにより、出力画像を生成する。
すなわち、演算回路63は、フレームメモリ411に記憶された基準画像の各画素の位置を、動き検出回路62jから供給される非線形関数に基づいて、フレームメモリ41j+1に記憶されたターゲット画像上の位置に変換する位置合わせを行う。
いま、基準画像の画素のうちの、ある画素に注目し、その画素を注目画素ということとすると、演算回路63は、注目画素の位置を、非線形関数に基づいて、フレームメモリ41j+1に記憶されたターゲット画像上の位置に変換し、その位置の近傍にあるターゲット画像の画素を、注目画素の補間に寄与させる寄与画素として特定する。
さらに、演算回路63は、フレームメモリ411に記憶された基準画像の画素のうちの、注目画素の近傍にある画素も、寄与画素として特定し、フレームメモリ411乃至41Nに記憶されたN枚の撮像画像すべてについて、寄与画素を特定すると、その寄与画素の画素データを用いて補間を行うことにより、注目画素の画素データを求める。
ここで、寄与画素の画素データを用いて注目画素の画素データの補間を行う方法としては、例えば、線形補間や、キュービック関数を用いた補間等を採用することができる。
また、寄与画素を用いた注目画素の補間は、寄与画素の画素データのうちの、補間しようとする色信号と同一種類の色信号を用いて行われる。
すなわち、注目画素の画素データとしての、例えば、R信号は、寄与画素の画素データのうちのR信号だけを用いた補間により求められる。同様に、注目画素の画素データとしてのG信号は、寄与画素の画素データのうちのG信号だけを用いた補間により求められ、注目画素の画素データとしてのB信号は、寄与画素の画素データのうちのB信号だけを用いた補間により求められる。但し、注目画素の画素データの色信号の補間は、寄与画素の画素データのうちの、同一種類の色信号の他、他の種類の色信号をも用いて行うことが可能である。
演算回路63は、基準画像の画素のすべてを注目画素として画素データを求めると、その画素データで構成される画像を、出力画像として、出力端子を介して、D/Aコンバータ28若しくはCODEC31のいずれか一方または両方に出力する。
コントローラ64は、フレームメモリ411乃至41N、動き検出回路621乃至62N-1、および演算回路63を制御する。また、コントローラ64は、図7のCPU33からの制御信号に基づいて処理を行う。
次に、図9乃至図13を参照して、DSP部26による画像処理について、さらに詳しく説明する。
図9は、CMOSセンサである撮像素子23で撮像した撮像画像を示している。
図9左は、手振れによって被写体像に歪みが生じているターゲット画像を示している。
図9右は、図9左のターゲット画像の被写体像の歪みが補正されるように画像全体を歪ませたターゲット画像(以下、適宜、歪みターゲット画像という)を示している。
なお、図9右には、歪みターゲット画像の他に、基準画像も示してある。
ここで、基準画像には、フォーカルプレーン現象による歪みが生じていてもいなくても構わないが、便宜上、歪みが生じていないものとする。
図9右には、歪みターゲット画像に映っている歪みが補正された被写体像と基準画像に映っている被写体像とが一致するように、歪みターゲット画像を図示してある。
図9右の歪みターゲット画像に映っている範囲は、ターゲット画像の撮像時に、実空間において撮像素子23によって実際に撮像走査された範囲(領域)を表し、基準画像に映っている範囲は、基準画像の撮像時に、実空間において撮像素子23によって実際に撮像走査された範囲(領域)を表す。
基準画像の撮像から、ターゲット画像の撮像までの間の手振れによって、撮像素子23が、基準画像の撮像時に撮像する撮像範囲と、ターゲット画像の撮像時に撮像する撮像範囲とは、異なる範囲となる。
基準画像とターゲット画像との位置合わせは、例えば、手振れ前の基準画像の撮像時の撮像範囲内の位置のうちの、撮像素子23のある画素Pが基準画像の撮像時に撮像した位置(x, y)を、手振れ後のターゲット画像の撮像時の撮像範囲内の位置のうちの、撮像素子23の画素Pがターゲット画像の撮像時に撮像した撮像範囲内の位置(x', y')に変換することで行うことができる。
したがって、基準画像とターゲット画像との位置合わせを行うには、撮像素子23のある画素Pが、基準画像の撮像時に撮像した位置(x, y)と、手振れ後のターゲット画像の撮像時に撮像した位置(x', y')との関係を特定する必要がある。
そこで、撮像素子23が、基準画像の撮像時に撮像した撮像範囲の左上の点を原点とし、左から右方向をx軸とするとともに、上から下方向をy軸とする2次元座標系である基準座標系において、fx()およびfy()を所定の関数として、撮像素子23の画素Pが基準画像の撮像時に撮像した位置(x, y)と、撮像素子23の画素Pがターゲット画像の撮像した位置(x', y')との関係を、式(1)で表すこととする。
ここで、基準画像の撮像時の撮像範囲は、基準画像と等価であり、したがって、基準座標系は、基準画像の左上の点を原点とし、左から右方向をx軸とするとともに、上から下方向をy軸とする2次元座標系でもある。
次に、関数fx(x, y)およびfy(x, y)の求め方について、場合を分けて説明する。
関数fx()およびfy()として、アフィン変換のような線形関数を採用した場合には、CMOSセンサから得られる撮像画像であるターゲット画像(さらには、基準画像)に映っている被写体に歪みがあると、基準画像とターゲット画像との位置合わせの精度が劣化する。
すなわち、関数fx()およびfy()が、線形関数である場合には、そのような線形関数である関数fx()およびfy()に基づき、基準画像と被写体像が歪んでいるターゲット画像との位置合わせを精度良く行うことは困難である。
そこで、関数fx(x, y)およびfy(x, y)としては、非線形関数、すなわち、例えば、2次関数を採用する。
図10は、平行移動、つまり、移動方向が水平方向と垂直方向のうちの少なくとも一方の手振れがあったときのターゲット画像の例を示している。
図10左は、手振れとしての平行移動によって被写体像に歪みが生じているターゲット画像を示している。
図10右は、図9右と同様に、図10左のターゲット画像の被写体像の歪みが補正されるように画像全体を歪ませた歪みターゲット画像、すなわち、図10左のターゲット画像の撮像時の撮像範囲であるターゲット画像撮像範囲を示している。
なお、図10右には、ターゲット画像撮像範囲の他に、基準画像の撮像時の撮像範囲である基準画像撮像範囲も示してある。
いま、撮像範囲のうちの、撮像素子23の各ラインの開始点の画素で撮像される位置を結ぶ線を、ライン開始線と呼ぶこととすると、基準画像撮像範囲のライン開始線101A上の点(0, y)は、手振れによって、ターゲット画像撮像範囲のライン開始線102A上の点(x', y')に移動する。
すなわち、基準画像の撮像時に、基準画像撮像範囲のライン開始線101A上の点(0, y)を撮像する撮像素子23の画素は、ターゲット画像の撮像時には、ターゲット画像撮像範囲のライン開始線102A上の点(x', y')を撮像する。
つまり、基準画像撮像範囲のライン開始線101A上の点(0, y)を撮像する撮像素子23の画素が撮像する点は、基準画像の撮像時では、基準画像撮像範囲のライン開始線101A上の点(0, y)であるが、ターゲット画像の撮像時では、平行移動の手振れによって、ターゲット画像撮像範囲のライン開始線102A上の点(x', y')に移動する。
基準画像撮像範囲のライン開始線101Aは、基準座標系のy軸上に位置する。また、平行移動の手振れのみがあった場合のターゲット画像撮像範囲のライン開始線102Aは、図10右に示すように、2次関数などの2次以上の関数で表現されるような曲線となる。
上述のように、ライン開始線101A上の点(0,y)は、すべてライン開始線102A上の点(x', y')に移動するから、点(x', y')の座標x'およびy'は、ライン開始線101A上の点(0,y)のy座標にのみ依存し、そのy座標の多項式で表すことができる。
さらに、上述したように、ライン開始線102Aは、2次関数で表現されるような曲線であるから、ライン開始線102A上の点(x', y')を表す、ライン開始線101A上の点(0,y)のy座標の多項式として、2次関数を採用することとすると、点(x', y')の座標x'およびy'は、式(2)で表される。
ここで、式(2)におけるα00,α01,α10,α11,α20,α21は、係数である。
図11は、光軸回りの回転のみの手振れがあったときのターゲット画像の例を示している。
図11左は、手振れとしての回転によって被写体像に歪みが生じているターゲット画像を示している。
図11右は、図9右と同様に、図11左のターゲット画像の被写体像の歪みが補正されるように画像全体を歪ませた歪みターゲット画像、すなわち、図11左のターゲット画像の撮像時の撮像範囲であるターゲット画像撮像範囲を示している。
なお、図11右には、ターゲット画像撮像範囲の他に、基準画像の撮像時の撮像範囲である基準画像撮像範囲も示してある。
いま、回転のみの手振れが、基準画像撮像範囲のライン開始線101A上の点(0, y)を撮像する撮像素子23の画素を中心とする回転であったとすると、基準画像の撮像時に、基準画像撮像範囲の点(x, y)を撮像した撮像素子23の画素が、ターゲット画像の撮像時に撮像するターゲット画像撮像範囲の点(x', y')は、点(x, y)がx軸方向に所定の倍率sだけ伸縮した点(sx, y)を、点(0, y)を中心として、角度θだけ回転した点となる。
つまり、基準画像撮像範囲の点(x, y)を撮像する撮像素子23の画素が撮像する点は、基準画像の撮像時では、基準画像撮像範囲の点(x, y)であるが、ターゲット画像の撮像時では、回転の手振れによって、ターゲット画像撮像範囲における、点(x, y)をx軸方向に所定の倍率sだけ伸縮した点(sx, y)に移動し、さらに、その点(sx, y)を、点(0, y)を中心として、角度θだけ回転した点(x', y')に移動する。ここで、倍率sを、以下、適宜、スケールsという。また、角度θを、以下、適宜、傾き角度θという。
したがって、回転のみの手振れがあった場合の、点(x, y)と点(x', y')との関係は、式(3)で表される。
なお、ラインについての傾き角度θおよびスケールsは、手振れとしての回転の中心である点(0, y)の座標yに依存し、yの多項式で表すことができる。そこで、例えば、傾き角度θを、式(4)の2次式で表すとともに、スケールsを、式(5)の1次式で表すこととする。
ここで、式(4)におけるβ0,β1、およびβ2と、式(5)におけるγ0およびγ1は、係数である。
次に、図12は、平行移動と光軸回りの回転との両方の手振れがあったときのターゲット画像の例を示している。
すなわち、図12は、基準画像撮像範囲と、平行移動と回転の手振れがあったときのターゲット画像の被写体像の歪みが補正されるように画像全体を歪ませた歪みターゲット画像、つまり、ターゲット画像撮像範囲とを示している。
仮に、回転のみの手振れがあった場合において、手振れによる回転が、撮像素子23の上からi番目の第iラインの開始点の画素を中心とする回転であるとし、その画素が、基準画像の撮像時に撮像する点が点(0,yi)であるとすると、基準画像撮像範囲の点(0, yi)を撮像する撮像素子23の画素が撮像が撮像する点は、図11で説明したことから、基準画像の撮像時も、ターゲット画像の撮像時も、点(0,yi)であり、回転のみの手振れによっては移動しない。よって、平行移動と回転の手振れがあった場合に、基準画像撮像範囲の点(0,yi)を撮像した撮像素子23の画素が撮像する点が、ターゲット画像撮像範囲内の、どの点に移動するかについては、手振れとしての平行移動と回転のうちの、平行移動だけを考慮すればよい。
したがって、平行移動と回転の手振れがあった場合に、基準画像撮像範囲の点(0, yi)を撮像した撮像素子23の画素が撮像するターゲット画像撮像範囲の点を、点(xli, yli)と表すこととすると、点(0, yi)と点(xli, yli)との関係は、平行移動のみの手振れについて説明した図10の場合と同様にして、式(2)と同様の式(6)で表される。
次に、平行移動と回転の手振れがあった場合に、基準画像撮像範囲の点(x, y)を撮像した撮像素子23の画素が撮像するターゲット画像撮像範囲の点を、点(x', y')と表すこととすると、その点(x', y')は、回転のみの手振れがあた場合に、基準画像撮像範囲の点(x, 0)を撮像する撮像素子23の画素が撮像する、式(3)で表されるターゲット画像撮像範囲の点と、平行移動の手振れがあった場合に、基準画像撮像範囲の点(0, y)を撮像した撮像素子23の画素が撮像する、式(6)で表されるターゲット画像撮像範囲の点とを考慮することにより、式(7)で表される。
なお、式(7)において、θiとsiは、ターゲット画像撮像範囲の点(xli, yli)が、撮像素子23の第iラインの開始点の画素で撮像される点(0, y)である場合の、式(4)の傾き角度θと、式(5)のスケールsを、それぞれ表す。
以上の式(1)、および式(4)乃至式(7)から、撮像素子23の画素Pが基準画像の撮像時に撮像した位置(x, y)と、撮像素子23の画素Pがターゲット画像の撮像時に撮像した位置(x', y')との関係は、式(8)で表される。
式(8)の11個の係数α00,α01,α10,α11,α20,α21,β0,β1,β2,γ0,およびγ1が未知数であり、この11個の未知の係数を求めることが、基準画像とターゲット画像との位置関係を表す非線形関数である関数fx(x, y)およびfy(x, y)を求めることになる。
非線形関数fx(x, y)およびfy(x, y)は、基準画像の点Qの座標を、(x, y)とし、その点Qに対応するターゲット画像の対応点、つまり、基準画像の点Qに映っているのと同一の被写体が映っている対応点の座標を、(x', y')として、式(8)を解くことにより求めることができる。
すなわち、基準画像の点(x, y)と、その点(x, y)に対応するターゲット画像の対応点(x', y')とからなる1組の対応点セットに対して、式(8)の11個の係数α00,α01,α10,α11,α20,α21,β0,β1,β2,γ0,およびγ1を未知数とする方程式が2つ求まる。したがって、基準画像と、ターゲット画像との対応点を6組以上求めれば、未知数である11個の係数α00,α01,α10,α11,α20,α21,β0,β1,β2,γ0,およびγ1を求めること、すなわち、非線形関数fx(x, y)およびfy(x, y)を求めることができる。
なお、基準画像とターゲット画像との対応点セットを求める方法としては、例えば、動き検出で用いられているブロックマッチングや、特徴点抽出などの一般的に用いられている方法を採用することができる。
基準画像とターゲット画像の6組以上の対応点セットが求まったら、それぞれの対応点セットを式(8)の(x, y)と(x', y')に代入し、その結果得られる12個以上の方程式を、最小二乗法などを用いて解くことにより、未知数である11個の係数α00,α01,α10,α11,α20,α21,β0,β1,β2,γ0,およびγ1を求めることができる。
次に、式(8)の未知数である係数α00,α01,α10,α11,α20,α21,β0,β1,β2,γ0,およびγ1を求める具体的な手順を示す。
図13は、基準画像と歪みターゲット画像の例を示している。
図13において、基準画像は、点線で表され、歪みターゲット画像は、実線で表されている。
また、図13において、点Akは基準画像上の点であり、点Ak'は歪みターゲット画像上の、点Akの対応点である。
ここで、点Akの対応点Ak'は、例えば、上述したように、ブロックマッチングなどの方法を用いて、求めることができる。
点Akの座標を(xk, yk)と表すとともに、点Ak'の座標を(Xk, Yk)と表すと、点Akからの点Ak'への動きを表す動きベクトル(mvx,k, mvy,k)は、式(9)で表される。
点(xk, yk)と、その点(xk, yk)に対応する対応点(Xk, Yk)との対応点セットを、6組以上のK組だけ用い、式(10)のSSD(Sum of Squared Differences)を最小にする係数α00,α01,α10,α11,α20,α21,β0,β1,β2,γ0,およびγ1を求めることにより、関数fx(x, y),fy(x, y)を得ることができる。
ここで、式(10)のΣは、K個の対応点セットすべてについてのサメーションを表す。
以上のようにして、関数fx(x, y)およびfy(x, y)が得られた後は、その関数fx(x, y)およびfy(x, y)を用いて、基準画像とターゲット画像との正確な位置合わせをすること、すなわち、例えば、基準画像の画素の位置に対応するターゲット画像上の正確な位置を検出することができる。
そして、基準画像の画素の位置に対応するターゲット画像上の正確な位置の近傍にある画素を、補間に寄与する寄与画素として特定し、その寄与画素の画素データを用いて、基準画像の画素の画素データの補間を行うことにより、画質の良い出力画像を得ることができる。
次に、図14のフローチャートを参照して、図7の撮像装置11による撮像処理について説明する。
なお、撮像装置11では、手振れによって生じる撮像画像の歪みの補正を行うために、1フレームに相当する時間に、時間的に連続してN枚の撮像画像が撮像されるように設定されているものとする。
撮像処理は、例えば、ユーザによって撮像装置11の入力デバイス34にある録画ボタンが押下されると、開始される。
ステップS1において、図7の撮像装置11は、1フレームに相当する時間に、N回の撮像を行い、ステップS2に進む。すなわち、レンズ21および絞り22を通過して撮像素子23に入射された光は、撮像素子23によって受光され、その光の受光量に対応した電気信号である画像信号が、CDS部24を介して、A/Dコンバータ25に供給される。A/Dコンバータ25は、A/Dコンバータ25から供給される画像信号をデジタイズして、N枚の撮像画像の画像信号を、DSP部26に供給し、フレームメモリ41に記憶させる。
ここで、図8のフレームメモリ411には、1枚目の撮像画像が基準画像として記憶され、また、フレームメモリ412乃至41Nには、2乃至N枚目の撮像画像が、ターゲット画像としてそれぞれ記憶される。
ステップS2において、DSP部26は、フレームメモリ412乃至41Nに格納されたN枚の撮像画像に対して後述の画像処理を行い、その結果得られる出力画像の画像信号を、D/Aコンバータ28、ビデオエンコーダ29を介して、ビデオモニタ30に供給し、ステップS3に進む。
ステップS3において、ビデオモニタ30は、DSP部26から供給された出力画像を表示し、ステップS4に進む。
ステップS4において、CPU33は、入力デバイス34にあるストップボタンが押下されたかどうかを判定する。ステップS4において、ストップボタンが押下されていないと判定された場合、ステップS1に戻り、以下、同様の処理が繰り返される。
一方、ステップS4において、ストップボタンが押下されたと判定された場合、撮像装置11は、撮像処理を終了する。
次に、図15のフローチャートを参照して、図14のステップS2で図8のDSP部26が行う画像処理についてさらに詳しく説明する。
図8の動き検出回路62nは、ステップS21において、フレームメモリ411から基準画像としての1枚目の撮像画像を読み出すとともに、フレームメモリ41nからターゲット画像としてのn枚目の撮像画像を読み出し、ステップS22に進む。
ステップS22において、動き検出回路62nは、例えば、いわゆるブロックマッチングの手法を用いて、基準画像上の6以上の画素それぞれについて、その画素の位置を表す点に対応するターゲット画像上の点である対応点を検出し、基準画像上の点と、その点に対応するターゲット画像上の対応点との対応点セットを、演算回路63に供給して、ステップS23に進む。
ステップS23において、演算回路63は、動き検出回路62nから供給された対応点セットに基づいて、ターゲット画像と基準画像との位置関係を表す非線形関数fx(x, y)およびfy(x, y)の11個の未知の係数α00,α01,α10,α11,α20,α21,β0,β1,β2,γ0,およびγ1を最小二乗法を用いて求める。そして演算回路63は、ターゲット画像としての2枚目ないしN枚目の撮像画像それぞれについて、係数α00,α01,α10,α11,α20,α21,β0,β1,β2,γ0,およびγ1、つまり、その係数α00,α01,α10,α11,α20,α21,β0,β1,β2,γ0,およびγ1で規定される式(8)の非線形関数fx(x, y)およびfy(x, y)を求めると、ステップS23からステップS24に進む。
ステップS24では、演算回路63は、ステップS23で求めた非線形関数fx(x, y)およびfy(x, y)を用いて、N枚の撮像画像の位置合わせを行うことにより、補間に寄与する寄与画素を特定する。
すなわち、ステップS24において、演算回路63は、基準画像上の画素を、順次、注目画素として、注目画素の位置(x, y)に対応するターゲット画像上の位置(x', y')を、そのターゲット画像としてのn枚目の撮像画像について求められた非線形関数fx(x, y)およびfy(x, y)を用いて求め、位置(x', y')=(fx(x, y), fy(x, y))の近傍にあるn枚目の撮像画像の画素を寄与画素として特定する。
さらに、演算回路63は、基準画像の画素のうちの、注目画素の近傍にある画素も、寄与画素として特定し、N枚の撮像画像すべてについて、寄与画素を特定すると、その寄与画素の画素データを用いて補間を行うことにより、注目画素の画素データのR信号、G信号、B信号を求め、その画素データで構成される画像を、出力画像として、例えば、D/Aコンバータ28に供給して、リターンする。
なお、上述の関数fx(x, y), fy(x, y)は、解くことができるのであれば、3次式以上の高次の項を含む多項式(非線形関数)であってもよい。
また、CMOSセンサである撮像素子23の1ラインを構成する画素のうちの隣り合う画素どうしの画素データの読み出し時間(露光タイミング)の差が、隣り合うラインの画素どうしの画素データの読み出し時間の差に比べて、無視できるほど小さいと仮定できる場合には、撮像画像のうちの、撮像素子23の同一ラインの画素で撮像される部分には、歪みが生じないものとして扱うことができる。
この場合、非線形関数fx(x, y), fy(x, y)を求めるにあたっては、撮像素子23において隣り合うラインの画素どうしの画素データの読み出し時間の差のみを考慮すればよく、式(8)におけるスケールs(y)は、式(11)で表される。
また、ターゲット画像の撮像時に、手振れによるレンズ光軸の回りの回転がないとわかっている場合には、式(8)の傾き角度θ(y)は、式(12)で表される。
以上のように、基準画像とターゲット画像との位置関係を表す非線形関数fx(x, y)およびfy(x, y)を求めるようにしたので、その非線形関数fx(x, y)およびfy(x, y)を用いることにより、CMOSセンサを用いて撮像された基準画像とターゲット画像としての撮像画像の位置合わせを精度よく行うことができる。すなわち、手振れがあるような状態で、CMOSセンサを用いて撮影した場合には、撮像画像に歪みが生じるが、非線形関数fx(x, y)およびfy(x, y)を用いることにより、撮像画像の歪みを補正して(考慮して)、撮像画像の位置合わせを精度よく行うことができる。
そして、精度のよい位置合わせを行った複数の撮像画像の同一の被写体が映っている部分を重ね合わせることにより、高画質の出力画像を得ることができる。すなわち、例えば、短い露光時間で撮像された複数の暗い撮像画像の位置合わせを行って、近傍にある画素データを用いた補間を行うことにより、手振れがなく、鮮明な、適切な露出の出力画像を得ることができる。
さらに、非線形関数fx(x, y)およびfy(x, y)は、被写体に対する撮像装置11の動きを表すから、例えば、角速度センサや加速度センサなどの外部のセンサを用いることなしに、非線形関数fx(x, y)およびfy(x, y)によって撮像装置11の動きを認識し、光学的に、撮像装置11の動き、つまり、手振れを補正することが可能である。
また、本実施の形態では、撮像素子23として、CMOSセンサを採用することとしたが、撮像素子23としては、CMOSセンサの他、CCDを採用することが可能である。但し、基準画像とターゲット画像との位置関係を非線形関数fx(x, y)およびfy(x, y)で表すことは、撮像素子23として、CMOSセンサのような、1の画素と他の1の画素との露光のタイミングが異なるセンサを用いる場合に、特に有用である。
さらに、撮像素子23は、1画素につき、1種類の色信号を画素値として有する、例えば、ベイヤ配列の単板センサであっても良いし、1画素につき、例えば、R信号、G信号、およびB信号の3色の信号を出力する3板式のセンサであっても良い。
また、複数の撮像画像を重ね合わせる場合、つまり、複数の撮像画像の画素データを用いて補間を行う場合には、ある種類の色信号の補間は、複数の撮像画像の画素データの、同一種類の色信号を用いて行われる。すなわち、例えば、R信号の補間は、複数の撮像画像の画素データのR信号を用いて行われる。同様に、G信号の補間は、複数の撮像画像の画素データのG信号を用いて行われ、B信号の補間は、複数の撮像画像の画素データのB信号を用いて行われる。但し、色信号の補間は、その色信号と、その色信号以外の色信号を用いて行うことも可能である。
上述したDSP部26が行う一連の処理は、ハードウエアにより実行させることもできるし、ソフトウエアにより実行させることもできる。一連の処理をソフトウエアにより実行させる場合には、そのソフトウエアを構成するプログラムが、専用のハードウエアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどに、プログラム記録媒体からインストールされる。
図16は、上述した一連の処理をプログラムにより実行するコンピュータの構成の例を示すブロック図である。CPU(Central Processing Unit)181は、ROM(Read Only Memory)182、または記憶部188に記憶されているプログラムに従って各種の処理を実行する。RAM(Random Access Memory)183には、CPU181が実行するプログラムやデータなどが適宜記憶される。これらのCPU181、ROM182、およびRAM183は、バス184により相互に接続されている。
CPU181にはまた、バス184を介して入出力インターフェース185が接続されている。入出力インターフェース185には、キーボード、マウス、マイクロホンなどよりなる入力部186、ディスプレイ、スピーカなどよりなる出力部187が接続されている。CPU181は、入力部186から入力される指令に対応して各種の処理を実行する。そして、CPU181は、処理の結果を出力部187に出力する。
入出力インターフェース185に接続されている記憶部188は、例えばハードディスクからなり、CPU181が実行するプログラムや各種のデータを記憶する。通信部189は、インターネットやローカルエリアネットワークなどのネットワークを介して外部の装置と通信する。
また、通信部189を介してプログラムを取得し、記憶部188に記憶してもよい。
入出力インターフェース185に接続されているドライブ190は、磁気ディスク、光ディスク、光磁気ディスク、或いは半導体メモリなどのリムーバブルメディア191が装着されたとき、それらを駆動し、そこに記録されているプログラムやデータなどを取得する。取得されたプログラムやデータは、必要に応じて記憶部188に転送され、記憶される。
コンピュータにインストールされ、コンピュータによって実行可能な状態とされるプログラムを格納するプログラム記録媒体は、図16に示すように、磁気ディスク(フレキシブルディスクを含む)、光ディスク(CD-ROM(Compact Disc-Read Only Memory),DVD(Digital Versatile Disc)を含む)、光磁気ディスク、もしくは半導体メモリなどよりなるパッケージメディアであるリムーバブルメディア191、または、プログラムが一時的もしくは永続的に格納されるROM182や、記憶部188を構成するハードディスクなどにより構成される。プログラム記録媒体へのプログラムの格納は、必要に応じてルータ、モデムなどのインターフェースである通信部189を介して、ローカルエリアネットワーク、インターネット、デジタル衛星放送といった、有線または無線の通信媒体を利用して行われる。
なお、本明細書において、プログラム記録媒体に格納されるプログラムを記述するステップは、記載された順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。
本発明は、デジタルビデオカメラ、デジタルスチルカメラ等の画像を撮像する撮像装置の他、撮像画像を処理する画像処理装置に適用することができる。
なお、本発明の実施の形態は、上述した実施の形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において種々の変更が可能である。
11 撮像装置, 21 レンズ, 22 絞り, 23 撮像素子, 24 CDS部, 25 A/Dコンバータ, 26 DSP部, 27 タイミングジェネレータ, 28 D/Aコンバータ, 29 ビデオエンコーダ, 30 ビデオモニタ, 31 CODEC, 32 メモリ, 33 CPU, 34 入力デバイス, 35 プログラムメモリ, 41,411乃至41N フレームメモリ, 42 DSP, 621乃至62N-1 動き検出回路, 63 演算回路, 64 コントローラ, 101A,102A ライン開始線, 181 CPU, 182 ROM, 183 RAM, 184 バス, 185 入出力インターフェース, 186 入力部, 187 出力部, 188 記憶部, 189 通信部, 190 ドライブ, 191 リムーバブルメディア
Claims (6)
- 1の画素と他の1の画素との露光のタイミングが異なる撮像素子によって連続して撮像された複数枚の画像を処理する画像処理装置において、
前記複数枚の画像のうちの1枚の画像を基準画像として、前記基準画像と、他の画像との対応点を検出する検出手段と、
前記対応点に基づいて、前記基準画像と前記他の画像との位置関係を表す非線形関数を求める位置関係算出手段と
を備える画像処理装置。 - 前記非線形関数に基づいて、前記複数枚の画像を合成する合成手段をさらに備える
請求項1に記載の画像処理装置。 - 前記検出手段は、前記基準画像と前記他の画像とを対象とした動き検出を行うことにより、対応点を検出する
請求項1に記載の画像処理装置。 - 前記撮像素子は、CMOS(Complementary Metal Oxide Semiconductor)センサである
請求項1に記載の画像処理装置。 - 1の画素と他の1の画素との露光のタイミングが異なる撮像素子によって連続して撮像された複数枚の画像を処理する画像処理方法において、
前記複数枚の画像のうちの1枚の画像を基準画像として、前記基準画像と、他の画像との対応点を検出し、
前記対応点に基づいて、前記基準画像と前記他の画像との位置関係を表す非線形関数を求める
ステップを含む画像処理方法。 - 1の画素と他の1の画素との露光のタイミングが異なる撮像素子によって連続して撮像された複数枚の画像を処理する画像処理をコンピュータに実行させるプログラムにおいて、
前記複数枚の画像のうちの1枚の画像を基準画像として、前記基準画像と、他の画像との対応点を検出し、
前記対応点に基づいて、前記基準画像と前記他の画像との位置関係を表す非線形関数を求める
ステップを含むプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2006196455A JP2008028500A (ja) | 2006-07-19 | 2006-07-19 | 画像処理装置、方法、およびプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2006196455A JP2008028500A (ja) | 2006-07-19 | 2006-07-19 | 画像処理装置、方法、およびプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2008028500A true JP2008028500A (ja) | 2008-02-07 |
Family
ID=39118738
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2006196455A Withdrawn JP2008028500A (ja) | 2006-07-19 | 2006-07-19 | 画像処理装置、方法、およびプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2008028500A (ja) |
Cited By (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009089037A (ja) * | 2007-09-28 | 2009-04-23 | Fujifilm Corp | 撮影制御装置、撮影制御方法、撮影制御プログラム、および撮影装置 |
JP2010193300A (ja) * | 2009-02-19 | 2010-09-02 | Sony Corp | 画像処理装置、フォーカルプレーン歪み成分算出方法、画像処理プログラム及び記録媒体 |
JP2010193302A (ja) * | 2009-02-19 | 2010-09-02 | Sony Corp | 画像処理装置、カメラモーション成分算出方法、画像処理プログラム及び記録媒体 |
WO2010100677A1 (ja) * | 2009-03-05 | 2010-09-10 | 富士通株式会社 | 画像処理装置およびぶれ量算出方法 |
JP2012175290A (ja) * | 2011-02-18 | 2012-09-10 | Canon Inc | 画像処理装置、及びその制御方法 |
JP2012253778A (ja) * | 2011-06-06 | 2012-12-20 | Apple Inc | 画像安定化を使用したローリングシャッターの修正 |
JP2016220083A (ja) * | 2015-05-22 | 2016-12-22 | 株式会社朋栄 | ローリングシャッタ回転歪み補正と映像安定化処理方法 |
US9569688B2 (en) | 2014-10-30 | 2017-02-14 | Hanwha Techwin Co., Ltd. | Apparatus and method of detecting motion mask |
WO2020039747A1 (ja) * | 2018-08-20 | 2020-02-27 | ソニーセミコンダクタソリューションズ株式会社 | 信号処理装置、撮像装置、信号処理方法 |
-
2006
- 2006-07-19 JP JP2006196455A patent/JP2008028500A/ja not_active Withdrawn
Cited By (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009089037A (ja) * | 2007-09-28 | 2009-04-23 | Fujifilm Corp | 撮影制御装置、撮影制御方法、撮影制御プログラム、および撮影装置 |
US8416308B2 (en) | 2009-02-19 | 2013-04-09 | Sony Corporation | Image processing device, camera motion component calculation method, image processing program, and recording medium |
JP2010193300A (ja) * | 2009-02-19 | 2010-09-02 | Sony Corp | 画像処理装置、フォーカルプレーン歪み成分算出方法、画像処理プログラム及び記録媒体 |
JP2010193302A (ja) * | 2009-02-19 | 2010-09-02 | Sony Corp | 画像処理装置、カメラモーション成分算出方法、画像処理プログラム及び記録媒体 |
US8363116B2 (en) | 2009-02-19 | 2013-01-29 | Sony Corporation | Image processing device, focal plane distortion component calculation method, image processing program, and recording medium |
WO2010100677A1 (ja) * | 2009-03-05 | 2010-09-10 | 富士通株式会社 | 画像処理装置およびぶれ量算出方法 |
JPWO2010100677A1 (ja) * | 2009-03-05 | 2012-09-06 | 富士通株式会社 | 画像処理装置およびぶれ量算出方法 |
JP2012175290A (ja) * | 2011-02-18 | 2012-09-10 | Canon Inc | 画像処理装置、及びその制御方法 |
JP2012253778A (ja) * | 2011-06-06 | 2012-12-20 | Apple Inc | 画像安定化を使用したローリングシャッターの修正 |
US9569688B2 (en) | 2014-10-30 | 2017-02-14 | Hanwha Techwin Co., Ltd. | Apparatus and method of detecting motion mask |
JP2016220083A (ja) * | 2015-05-22 | 2016-12-22 | 株式会社朋栄 | ローリングシャッタ回転歪み補正と映像安定化処理方法 |
WO2020039747A1 (ja) * | 2018-08-20 | 2020-02-27 | ソニーセミコンダクタソリューションズ株式会社 | 信号処理装置、撮像装置、信号処理方法 |
US11196929B2 (en) | 2018-08-20 | 2021-12-07 | Sony Semiconductor Solutions Corporation | Signal processing device, imaging device, and signal processing method |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4446193B2 (ja) | 画像処理装置および方法、並びにプログラム | |
JP5487722B2 (ja) | 撮像装置と振れ補正方法 | |
JP2008028500A (ja) | 画像処理装置、方法、およびプログラム | |
JP5359783B2 (ja) | 画像処理装置および方法、並びにプログラム | |
TWI387330B (zh) | 具有用於拍攝平移圖像之平移模式的攝像裝置 | |
JP4340915B2 (ja) | 撮像画像信号の歪み補正方法、撮像画像信号の歪み補正装置、撮像方法および撮像装置 | |
JP4529840B2 (ja) | 撮像装置、画像処理方法及びプログラム | |
TWI420901B (zh) | 攝像裝置、攝像方法及攝像程式 | |
JP5002506B2 (ja) | カメラシステム | |
JP2009147727A (ja) | 撮像装置及び画像再生装置 | |
JP2015022027A (ja) | 撮像装置およびその制御方法 | |
JP5729237B2 (ja) | 画像処理装置、画像処理方法、及びプログラム | |
KR20070033272A (ko) | 흐림 현상 감소 시스템을 갖는 촬상 장치 | |
JP2010130628A (ja) | 撮像装置、映像合成装置および映像合成方法 | |
JP2012231262A (ja) | 撮像装置、ぶれ補正方法、制御プログラム、及び制御プログラムを記録する記録媒体 | |
CN109791685B (zh) | 图像处理装置、摄像系统、图像处理方法和图像处理程序 | |
JP6980480B2 (ja) | 撮像装置および制御方法 | |
JP2000244797A (ja) | 画像信号処理装置および方法 | |
JPH07107379A (ja) | 静止画像撮像装置 | |
JP2006135501A (ja) | 撮像装置 | |
JP2011055084A (ja) | 撮像装置及び電子機器 | |
JP2010273261A (ja) | 画像処理装置、撮像装置 | |
JP5641127B2 (ja) | 撮像装置と振れ補正方法 | |
JP2008235958A (ja) | 撮像装置 | |
JP2000244803A (ja) | 画像信号処理装置および方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A300 | Application deemed to be withdrawn because no request for examination was validly filed |
Free format text: JAPANESE INTERMEDIATE CODE: A300 Effective date: 20091006 |