JP2010028607A - 画像処理装置、撮像装置及び画像処理方法 - Google Patents

画像処理装置、撮像装置及び画像処理方法 Download PDF

Info

Publication number
JP2010028607A
JP2010028607A JP2008189413A JP2008189413A JP2010028607A JP 2010028607 A JP2010028607 A JP 2010028607A JP 2008189413 A JP2008189413 A JP 2008189413A JP 2008189413 A JP2008189413 A JP 2008189413A JP 2010028607 A JP2010028607 A JP 2010028607A
Authority
JP
Japan
Prior art keywords
image
motion
motion vector
input image
motion information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2008189413A
Other languages
English (en)
Inventor
Sukeki Akakabe
Yukio Mori
祐基 明壁
幸夫 森
Original Assignee
Sanyo Electric Co Ltd
三洋電機株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sanyo Electric Co Ltd, 三洋電機株式会社 filed Critical Sanyo Electric Co Ltd
Priority to JP2008189413A priority Critical patent/JP2010028607A/ja
Publication of JP2010028607A publication Critical patent/JP2010028607A/ja
Application status is Pending legal-status Critical

Links

Images

Abstract

【課題】精度良く歪み補正を行うことを可能とする画像処理装置や、その画像処理方法を提供することを目的とする。また、この画像処理装置を備えた撮像装置を提供することを目的とする。
【解決手段】n番目の画像の歪みを補正する場合、n−1番目の画像とn番目の画像とから求めた動きベクトルMn-0.5と、n番目の画像とn+1番目の画像とから求めた動きベクトルMn+0.5と、を用いて、n番目の画像の露光期間の動きを示す動き情報Inを算出する。これにより、n番目の露光期間に生じた動きによる歪みを、精度良く補正することが可能となる。
【選択図】図7

Description

本発明は、入力される画像を処理する画像処理装置や、この画像処理装置を搭載した撮像装置に関する。また、入力される画像を処理する画像処理方法に関する。

近年、撮像装置や被写体(人などの撮像対象)の動きなどに起因するぶれを抑制した画像を作成する撮像装置が広く用いられている。このような撮像装置には、入力される画像からぶれを検出するとともにぶれを抑制した画像を作成して出力する画像処理装置を搭載するものがある。このように、画像処理によってぶれを抑制する構成とすると、撮像装置の動きを検出するセンサや撮像装置の動きを抑制させる装置などが不要となるため、撮像装置の小型化や軽量化を図ることが可能となる。

また、上記のぶれの1つとして、フォーカルプレーン歪み(以下、単に「歪み」と表現する場合もある)と呼ばれるものがある。フォーカルプレーン歪みとは、例えば画素列毎に露光及び電荷の読み出しが制御されるCMOS(Complementary Metal Oxide Semiconductor)イメージセンサなどで生じ得る歪みである。特に、画素列毎に露光期間が異なるために生じる歪みである。

フォーカルプレーン歪みの具体例について図13〜図15に示す。図13〜図15は、フォーカルプレーン歪みについて説明する模式図である。図13は、撮像直前の被写体と撮像領域及びその動き方向とを示した模式図であり、図14は各画素列の露光期間における被写体と撮像領域との位置関係を示した模式図であり、図15は歪みを含んだ画像を示した模式図である。なお、被写体T1は静止しているものとする。また、図13中に示す代表的な画素列L1〜L3は、画素列L1、画素列L2、画素列L3の順に露光が開始されるものとする。即ち、画素列と垂直な方向(以下、垂直方向とする)において、上方の画素列ほど露光期間が早く、下方ほど露光期間が遅いものとなる。さらに、撮像領域Cは、図13に示す動き方向(画素列L1〜L3と平行な方向(以下、水平方向とする)であり、図中の右方向)に沿って一定の速さで動くものとする。このとき撮像装置は、水平方向において左から右へと平行移動したり、パン方向において左向きから右向きへと回転したりすることとなる。

上記のように撮像領域Cが動く場合、図14(a)〜(c)に示すように、露光期間が早い画素列L1の露光から、露光期間が遅い画素列L3の露光へと撮像動作が進行するにしたがって、撮像領域Cに対する被写体T1の位置が、動き方向と逆方向(図中の左方向)に移動する。そのため、図15に示すように、得られる画像P1は下方の画素列が上方の画素列よりも動き方向と逆方向に対してずれたものとなる。即ち、画像P1は、動き方向と平行な方向である水平方向に対して歪んだものとなる。

このフォーカルプレーン歪みは、垂直方向に撮像領域Cが動く場合にも発生する。例えば、図16〜図18に、撮像領域Cが上方に動く場合について示す。図16は、撮像直前の被写体と撮像領域及びその動き方向とを示した模式図であり、図17は各画素列の露光期間における被写体と撮像領域との位置関係を示した模式図であり、図18は歪みを含んだ画像を示した模式図である。なお、図13〜図15に示す場合と同様の条件であるものとし、被写体T2と撮像領域Cの動き方向とが異なるものとする。また、撮像領域Cは、図16に示す動き方向(垂直方向であり、図中の上方向)に沿って一定の速さで動くものとする。このとき撮像装置は、垂直方向において下から上へと平行移動したり、チルト方向において下向きから上向きへと回転したりすることとなる。

上記のように撮像領域Cが動く場合、図17(a)〜(c)に示すように、露光期間が早い画素列L1の露光から、露光期間が遅い画素列L3の露光へと撮像動作が進行するにしたがって、撮像領域Cに対する被写体T2の位置が、動き方向と逆方向(図中の下方向)に移動する。そのため、図18に示すように、得られる画像P2は垂直方向に伸張されたようになる。即ち、画像P2は、動き方向と平行な方向である垂直方向に対して歪んだものとなる。

一方、図19〜図21に、撮像領域Cが下方に動く場合について示す。図19は、撮像直前の被写体と撮像領域及びその動き方向とを示した模式図であり、図20は各画素列の露光期間における被写体と撮像領域との位置関係を示した模式図であり、図21は歪みを含んだ画像を示した模式図である。なお、図16〜図18に示す場合と同様の条件であるものとし、撮像領域Cの動き方向のみが異なるものとする。撮像領域Cは、図19に示す動き方向(垂直方向であり、図中の下方向)に沿って一定の速さで動くものとする。このとき撮像装置は、垂直方向において上から下へと平行移動したり、チルト方向において上向きから下向きへと回転したりすることとなる。

上記のように撮像装置が動く場合、図20(a)〜(c)に示すように、露光期間が早い画素列L1の露光から、露光期間が遅い画素列L3の露光へと撮像動作が進行するにしたがって、撮像領域Cに対する被写体T2の位置が、動き方向と逆方向(図中の上方向)に移動する。そのため、図21に示すように、得られる画像P3は垂直方向に圧縮されたようになる。即ち、画像P3は、動き方向と平行な方向である垂直方向に対して歪んだものとなる。

また、動き方向が斜め方向(水平方向と垂直方向との間の方向)であれば、水平方向及び垂直方向の両方の動きに起因する歪みが発生する。また、上記の例では、撮像装置が動くとともに被写体T1及びT2が静止する場合について述べたが、被写体が動く場合についてもフォーカルプレーン歪みは同様に発生し得る。

このようなフォーカルプレーン歪みを画像処理によって低減する方法として、例えば特許文献1には、連続して入力される2つの画像間の動きベクトルに基づいて、フォーカルプレーン歪みを低減する方法が提案されている。具体的には、前画像と後画像とから求められる動きベクトルを用いて後画像の歪みを求め、この歪みを打ち消すような画像処理を後画像に施すことにより、後画像のフォーカルプレーン歪みを低減する。
特開2007−208580号公報

しかしながら、上記の方法では、前画像が歪みのない画像(露光中の動きがない画像)ではない場合、誤った画像処理を後画像に施してしまう可能性がある。具体的に例えば、前画像が歪みのある画像であり後画像が歪みのない画像である場合などである。この場合、得られる前画像及び後画像間の動きベクトルから、後画像の露光中に動きが生じていると誤認識し、後画像に誤った補正を施す可能性がある。したがって、精度良く歪み補正を行うことが困難となる。

そこで、本発明は、精度良く歪み補正を行うことを可能とする画像処理装置や、その画像処理方法を提供することを目的とする。また、この画像処理装置を備えた撮像装置を提供することを目的とする。

上記目的を達成するために、本発明における画像処理装置は、撮像の際の露光期間が異なる複数の画像が入力されるとともに、入力される画像の1つである入力画像の歪みを補正して出力する画像処理装置において、入力される2つの画像を比較して、当該2つの画像間の動きを示す動きベクトルを算出する動きベクトル算出部と、前記動きベクトル算出部から出力される前記動きベクトルに基づいて、前記入力画像の露光期間の動きを示す動き情報を算出する動き情報算出部と、前記入力画像が入力されるとともに、前記動き情報算出部から出力される前記動き情報に基づいて前記入力画像の歪みを補正し、出力画像として出力する補正処理部と、を備えることを特徴とする。

また、上記構成の画像処理装置において、前記画像が、上方の画素列ほど露光期間が早く、下方の画素列ほど露光期間が遅くなるように撮像されるものであり、前記補正処理部が、前記動き情報に基づいて前記入力画像の画素列毎に歪みを補正することとしても構わない。

また、上記構成の画像処理装置において、前記補正処理部が、前記動き情報に基づいて前記入力画像の画素列毎の読み出し位置を補正し、前記出力画像として出力することとしても構わない。

例えば、上下方向と略垂直となる方向(画素列と略平行となる方向)の動きを補正する場合は、下方の画素列の読み出し開始位置が、上方の画素列の読み出し開始位置よりも動きの方向と逆となる方向に位置するように補正する。また、上方向と略等しい方向の動きを補正する場合は、各画素列の読み出し位置が、中央の画素列に近づくように補正する。このとき、画素列の間引きや加算読み出しを行うこととしても構わない。また、下方向と略等しい方向の動きを補正する場合は、各画素列の読み出し位置が、中央の画素列から離れるように補正する。このとき、読み出される画素列間を補間しても構わない。

また、上記構成の画像処理装置において、前記動きベクトル算出部が、前記入力画像より露光期間が早い画像を少なくとも1つ用いて算出する動きベクトルと、前記入力画像より露光期間が遅い画像を少なくとも1つ用いて算出する動きベクトルと、をそれぞれ少なくとも1つ算出し、前記動き情報算出部が、前記動きベクトル算出部によって算出される少なくとも2つの前記動きベクトルを用いて前記動き情報を算出することとしても構わない。

このように構成すると、入力画像の動き情報を算出する際に、入力画像の前後の画像を反映させることが可能となる。したがって、入力画像の動き情報を精度よく求めることが可能となる。

また、上記構成の画像処理装置において、前記動きベクトル算出部が、前記入力画像と前記入力画像よりも露光期間が早い画像から選択される2つの画像とから算出される動きベクトルを、少なくとも2つ算出し、前記動き情報算出部が、前記動きベクトル算出部によって算出される少なくとも2つの前記動きベクトルを用いて前記動き情報を算出することとしても構わない。

このように構成すると、入力画像の動き情報を算出する際に、入力画像より露光期間が後となる画像が不要となる。したがって、入力画像よりも後の画像が入力された後に出力画像の生成が開始されることを抑制することが可能となる。したがって、出力画像の生成を迅速に行うことが可能となる。

また、上記構成の画像処理装置において、前記画像が、上下方向に対して2以上の中領域に分割されるとともに、前記画像が、上方の中領域ほど露光期間が早く、下方の中領域ほど露光期間が遅くなるように撮像されるものであり、前記動きベクトル算出部が、入力される2つの画像を中領域毎に比較し、比較する当該中領域間の動きを示す中領域動きベクトルを算出するとともに、当該2つの画像から算出される前記中領域動きベクトルに基づいて、前記動きベクトルを算出することとしても構わない。

また、上記構成の画像処理装置において、前記画像が、上下方向に対して2以上の中領域に分割されるとともに、前記画像が、上方の中領域ほど露光期間が早く、下方の中領域ほど露光期間が遅くなるように撮像されるものであり、前記動きベクトル算出部が、入力される2つの画像を中領域毎に比較し、比較する当該中領域間の動きを示す中領域動きベクトルを算出するとともに、当該2つの画像から算出される前記中領域動きベクトルの少なくとも1つを、前記動きベクトルとすることとしても構わない。

また、上記構成の画像処理装置において、前記動きベクトル算出部が、前記中領域動きベクトルを算出する際に不適となる結果が得られる場合は、当該中領域動きベクトルを除外することとしても構わない。

ここで、不適となる結果とは、例えば、2つの画像の中領域を比較しても中領域動きベクトルが求められない場合や、中領域動きベクトルの信頼性が低い場合などである。特に、動きベクトルや動き情報を算出する際に精度を悪化させる可能性がある算出結果が、不適となる結果になるものとする。

このように構成すると、不適となる結果を除外して動きベクトルや動き情報を求めることが可能となる。したがって、入力画像の動き情報を精度よく求めることが可能となる。

また、本発明の撮像装置は、撮像を行い画像を作成する撮像部と、上記のいずれかの画像処理装置と、を備え、前記撮像部が、露光期間が異なる複数の画像を作成するとともに前記画像処理装置に入力し、前記画像処理装置が、入力される画像の1つである入力画像の歪みを補正し、出力画像として出力することを特徴とする。

また、本発明の画像処理方法は、撮像の際の露光期間が異なる複数の画像に基づいて、画像の1つである入力画像に含まれる歪みを補正して出力する画像処理方法において、2つの画像を比較して、当該2つの画像間の動きを示す動きベクトルを算出する第1ステップと、当該第1ステップにおいて算出された前記動きベクトルに基づいて、前記入力画像の露光期間の動きを示す動き情報を算出する第2ステップと、当該第2ステップにおいて算出された前記動き情報に基づいて、前記入力画像の歪みを補正し、出力画像として出力する第3ステップと、を備えることを特徴とする。

本発明の構成とすると、2つの画像間の動きを示す動きベクトルから、入力画像の露光期間の動きを示す動き情報を算出し、この動き情報に基づいて入力画像の歪みを補正することとなる。そのため、入力画像の露光期間の動きが誤認されることが抑制され、入力画像を精度よく補正することが可能となる。

以下、本発明における画像処理装置や、画像処理方法、撮像装置の実施形態について、図面を参照して説明する。最初に、撮像装置の基本構成及び基本動作について説明する。

<撮像装置>
(基本構成)
まず、撮像装置の基本構成について、図1に基づいて説明する。図1は、本発明の実施形態における撮像装置の基本構成について示すブロック図である。

図1に示すように、撮像装置1は、入射される光を電気信号に変換するCMOSセンサなどの固体撮像素子から成るイメージセンサ3と、被写体の光学像をイメージセンサ3に結像させるとともに光量などの調整を行うレンズ部4と、を備えた撮像部2を備える。

さらに、撮像装置1は、イメージセンサ3から出力されるアナログ信号である画像信号をデジタル信号に変換するAFE(Analog Front End)5と、AFE5から出力されるデジタルの画像信号に対して階調補正処理などの各種画像処理を施す画像処理部6と、入力される音声を電気信号に変換する集音部7と、集音部7から出力されるアナログの音声信号をデジタル信号に変換するとともに音声信号にノイズ除去などの各種音声処理を施す音声処理部8と、画像処理部6から出力される画像信号と音声処理部8から出力される音声信号のそれぞれに対してMPEG(Moving Picture Experts Group)圧縮方式などの動画用の圧縮符号化処理を施したり画像処理部6から出力される画像信号にJPEG(Joint Photographic Experts Group)圧縮方式などの静止画用の圧縮符号化処理を施したりする圧縮処理部9と、圧縮処理部9で圧縮符号化された圧縮符号化信号を記録する外部メモリ10と、圧縮符号化信号を外部メモリ10に記録したり読み出したりするドライバ部11と、ドライバ部11において外部メモリ10から読み出した圧縮符号化信号を伸長して復号する伸長処理部12と、を備える。

また、撮像装置1は、伸長処理部12で復号されて得られる画像信号をディスプレイなどの表示装置(不図示)で表示するためにアナログ信号に変換する画像出力回路部13と、伸長処理部12で復号されて得られる音声信号をスピーカなどの再生装置(不図示)で再生するためにアナログ信号に変換する音声出力回路部14と、を備える。

また、撮像装置1は、撮像装置1内全体の動作を制御するCPU(Central Processing Unit)15と、各処理を行うための各プログラムを記憶するとともにプログラム実行時のデータの一時保管を行うメモリ16と、撮像を開始するボタンや撮像条件などを調整するボタン等ユーザからの指示が入力される操作部17と、各部の動作タイミングを一致させるためのタイミング制御信号を出力するタイミングジェネレータ(TG)部18と、CPU15と各ブロックとの間でデータのやりとりを行うためのバス回線19と、メモリ16と各ブロックとの間でデータのやりとりを行うためのバス回線20と、を備える。

また、画像処理部6は、入力される画像信号に含まれる歪みを補正して出力する歪み補正部61を備える。なお、歪み補正部61の構成の詳細については後述する。

なお、動画と静止画の画像信号を作成可能な撮像装置1を一例として示したが、撮像装置1が、静止画の画像信号のみ作成可能であっても構わない。この場合、集音部7や音声処理部8、音声出力回路部14などを備えない構成としても構わない。

また、外部メモリ10は画像信号や音声信号を記録することができればどのようなものでも構わない。例えば、SD(Secure Digital)カードのような半導体メモリ、DVDなどの光ディスク、ハードディスクなどの磁気ディスクなどをこの外部メモリ10として使用することができる。また、外部メモリ10を撮像装置1から着脱自在としても構わない。

(基本動作)
次に、撮像装置1の基本動作について図1を用いて説明する。まず、撮像装置1は、レンズ部4より入射される光をイメージセンサ3において光電変換することによって、電気信号である画像信号を取得する。そして、イメージセンサ3は、TG部18から入力されるタイミング制御信号に同期して、所定のタイミングでAFE5に画像信号を出力する。

そして、AFE5によってアナログ信号からデジタル信号へと変換された画像信号は、画像処理部6に入力される。画像処理部6では、入力されるR(赤)G(緑)B(青)の成分を備える画像信号を、輝度信号(Y)と色差信号(U,V)の成分を備える画像信号に変換するとともに、階調補正や輪郭強調等の各種画像処理を施す。また、メモリ16はフレームメモリとして動作し、画像処理部6が処理を行なう際に画像信号を一時的に保持する。

また、このとき画像処理部6に入力される画像信号に基づき、レンズ部4において、各種レンズの位置が調整されてフォーカスの調整が行われたり、絞りの開度が調整されて露出の調整が行われたりする。このフォーカスや露出の調整は、それぞれ最適な状態となるように所定のプログラムに基づいて自動的に行われたり、ユーザの指示に基づいて手動で行われたりする。

また、画像処理部6は、歪み補正部61において画像の歪みを補正する。なお、歪み補正部61の動作の詳細については後述する。

動画の画像信号を作成する場合、集音部7において集音を行う。集音部7で集音されて電気信号に変換される音声信号は、音声処理部8に入力される。音声処理部8は、入力される音声信号をデジタル信号に変換するとともにノイズ除去や音声信号の強度制御などの各種音声処理を施す。そして、画像処理部6から出力される画像信号と、音声処理部8から出力される音声信号と、がともに圧縮処理部9に入力され、圧縮処理部9において所定の圧縮方式で圧縮される。このとき、画像信号と音声信号とが時間的に関連付けられ、再生時に画像と音とがずれないように構成される。そして、圧縮処理部9から出力される圧縮符号化信号は、ドライバ部11を介して外部メモリ10に記録される。

一方、静止画の画像信号を作成する場合、画像処理部6から出力される画像信号が圧縮処理部9に入力され、圧縮処理部9において所定の圧縮方式で圧縮される。そして、圧縮処理部9から出力される圧縮符号化信号が、ドライバ部11を介して外部メモリ10に記録される。

外部メモリ10に記録された動画の圧縮符号化信号は、ユーザの指示に基づいて伸長処理部12に読み出される。伸長処理部12は、圧縮符号化信号を伸長及び復号し、画像信号及び音声信号を生成する。そして、画像信号を画像出力回路部13、音声信号を音声出力回路部14にそれぞれ出力する。そして、画像出力回路部13や音声出力回路部14において、表示装置やスピーカにおいて再生可能な形式に変換されて出力される。

一方、外部メモリ10に記録された静止画の圧縮符号化信号は、伸長処理部12に入力されて画像信号が生成される。そして、この画像信号は画像出力回路部13に出力され、画像出力回路部13において表示装置で再生可能な形式に変換されて出力される。

なお、表示装置やスピーカは、撮像装置1と一体となっているものであっても構わないし、別体となっており撮像装置1に備えられる端子とケーブル等を用いて接続されるようなものであっても構わない。

また、画像信号の記録を行わずに表示装置などに表示される画像をユーザが確認する、所謂プレビューモードである場合に、画像処理部6から出力される画像信号を圧縮せずに画像出力回路部13に出力することとしても構わない。また、画像信号を記録する際に、圧縮処理部9で圧縮して外部メモリ10に記録する動作と並行して、画像出力回路部13を介して表示装置などに画像信号を出力することとしても構わない。

<歪み補正部>
次に、図1に示した画像処理部6(画像処理装置)に備えられる歪み補正部61について詳細に説明する。なお、以下においては説明の具体化のため、歪み補正部61によって処理される各画像の画像信号を、それぞれ画像として表現する。また、歪み補正が行われる対象となる画像を「入力画像」、歪み補正が行われた後の画像を「出力画像」とする。

また、以下において、露光及び電荷の読み出し制御の単位である画素列と平行な方向を、画像の水平方向とする。また、画素列に対して垂直となる方向を、画像の垂直方向とする。また、画素列毎に露光の開始時間が異なる(露光期間が異なる)ことを特に問題とし、画素列中の画素毎の露光期間の差異はわずかなものであるため考慮しないこととする。また、1つの画像の撮像を行う際に、垂直方向に沿って整列する各画素列のうち、上方の画素列ほど露光の開始が早く(露光期間が早く)、下方の画素列ほど露光の開始が遅い(露光期間が遅い)こととする。

また、本実施形態の撮像装置1に備えられる画像処理部6は、動画の画像信号も静止画の画像信号も処理可能である。そのため、上記の画像は、動画の画像信号と静止画の画像信号との両方を示すものとする。なお、1つの静止画の画像信号を出力する場合であったとしても、複数の画像の画像信号が入力されることとする。

(基本構成)
最初に、歪み補正部61の基本構成について図2を用いて説明する。図2は、本発明の実施形態における撮像装置に備えられる歪み補正部の基本構成について示すブロック図である。図2に示すように、歪み補正部61は、入力される2つの画像(第1画像及び第1画像より露光期間が後となる第2画像)から動きベクトルを算出する動きベクトル算出部62と、動きベクトル算出部62によって算出された動きベクトルを用いて動き情報を算出する動き情報算出部63と、動き情報算出部63によって算出された動き情報に基づいて入力画像の歪みを補正する補正処理部64と、を備える。

動きベクトルは、第1画像と第2画像とを比較することで求められる。また、求められる動きベクトルは、第1画像及び第2画像間の動き(撮像装置の動きと被写体の動きとを含む、以下単純に「動き」と表現する)を示すものとなる。具体的に例えば、第1画像の露光期間の開始から第2画像の露光期間の終了までの間における動きの方向と大きさとを表すものとなる。

動き情報は、入力画像の露光期間における動きを示したものであり、動きベクトルを用いて算出される。動き情報も、動きベクトルと同様に動きの方向と大きさとを表すものとなる。そのため、動き情報を動きベクトルの一種として解釈することも可能である。

歪み補正部61の基本動作について図3を用いて説明する。図3は、本発明の実施形態における撮像装置に備えられる歪み補正部の基本動作について示すフローチャートである。また図3は、1つの入力画像の歪みを補正する処理を表したフローチャートである。そのため、動画の画像信号を作成する場合であれば、図3に示す動作が順次行われるものとする。

図3に示すように、最初に動きベクトル算出部62が、入力される第1画像と第2画像とに基づいて両画像間の動きベクトルを算出する(STEP1)。これにより、第1画像及び第2画像間の動きベクトルが求められる。

次に、動き情報算出部62が、STEP1で算出された動きベクトルを用いて入力画像の動き情報を算出する(STEP2)。このとき、動き情報算出部62は、少なくとも2つの動きベクトルを参照して動き情報を算出する。そのため、動き情報算出部62は、過去に入力された動きベクトルを一時的に記憶したり、参照したりすることが可能な構成であるものとする。

そして、補正処理部64が、STEP2によって求められた動き情報に基づく補正を入力画像に施して、出力画像の生成を行う(STEP3)。特に、動き情報が示す動きを打ち消すような補正を入力画像に施すことにより、補正処理が行われる。動きを打ち消すような補正とは、例えば、動き情報が示す動きと逆向きの動きが発生する場合に画像に生じる歪みを、入力画像に与える補正である。

具体的に例えば、フレームメモリやラインメモリなどに保持される入力画像の画像信号の読み出しを、画素列毎に制御するなどの方法を用いることで、補正を行うことができる。この補正方法の具体例について図4〜図6を用いて説明する。図4〜図6のそれぞれは、補正処理の一例について示した模式図である。図4(a)、図5(a)及び図6(a)は、入力画像と動き情報の一例を示したものであり、図4(b)、図5(b)及び図6(b)は、出力画像の一例を示したものである。

図4は、水平方向と略平行な方向に動きが検出された場合について示している。特に、左方向の動きが検出された場合を示している。なお、入力画像Pin1は、図15の画像P1に相当するものである。また、図4(b)の出力画像Pout1は、読み出された画像信号が存在する範囲を実線で囲って示したものである。

上記のような動き情報が出力される場合、補正処理部64は、図4(b)の出力画像Pout1に示すように、上方の画素列ほど読み出し位置が左方となり、下方の画素列ほど読み出し位置が右方となるような制御を行う。即ち、下方の画素列ほど、上方の画素列よりも、動き情報が示す動きの方向と反対となる方向にずれた位置になるように、読み出し位置を制御する。

一方、図4(a)と反対に、右方向の動きが検出された場合は、上方の画素列ほど読み出し位置が右方となり、下方の画素列ほど読み出し位置が左方となるように制御する。

図5は、垂直方向と略平行な方向に動きが検出された場合について示している。特に、上方向の動きが検出された場合を示している。なお、入力画像Pin2は、図18の画像P2に相当するものである。また、図5(b)の出力画像Pout2は、読み出された画像信号が存在する部分を実線で囲って示したものである。

上述のように、上方向の動きが生じると、入力画像Pin2は垂直方向に対して伸張されたものとなる。そのため、補正処理部64は、垂直方向に対して圧縮する補正を入力画像Pin2に施し、出力画像Pout2を得る。

例えば、入力画像Pin2のそれぞれの画素列の画像信号の位置が、出力画像Pout2の中央の画素列に寄る位置となるように読み出しを行う。このとき、所定の画素列の画像信号を読み出さない間引き読み出しを行ったり、所定の近接する画素列の画像信号を加算して1つの画素列の画像信号として読み出す加算読み出しを行ったりしても構わない。そして、上記のような方法により、図5(b)に示すような入力画像Pin2を垂直方向に対して圧縮した出力画像Pout2を得る。

一方、図6は、下方向の動きが検出された場合について示している。なお、入力画像Pin3は、図21の画像P3に相当するものである。また、図6(b)の出力画像Pout3は、読み出された画像信号が存在する部分を実線で囲って示したものである。

上述のように、下方向の動きが生じると、入力画像Pin3は垂直方向に対して圧縮されたものとなる。そのため、補正処理部64は、垂直方向に対して伸張する補正を入力画像Pin3に施し、出力画像Pout3を得る。

例えば、入力画像Pin3のそれぞれの画素列の画像信号が、出力画像Pout3の中央の画素列から離れるように読み出しを行う。このとき、所定の近接する画素列の画像信号を用いて当該画素列間の画像信号を補間し、補間により得られた画像信号を当該画素列間の画像信号として読み出す補間読み出しを行っても構わない。そして、上記のような方法により、図6(b)に示すような入力画像Pin3を垂直方向に対して伸張した出力画像Pout3を得る。

以上のような構成とすると、2つの画像間の動きを示す動きベクトルから、入力画像の露光期間の動きを示す動き情報を算出し、この動き情報に基づいて入力画像の歪みを補正することとなる。そのため、入力画像の露光期間の動きを精度よく補正することが可能となる。

特に例えば、入力画像の直前に撮像された前画像に歪みがあり、入力画像に歪みがない場合において、前画像と入力画像とから得られる動きベクトルは動きがあることを示すものとなるが、入力画像の動き情報は動きがないことを示すものとなる。そのため、入力画像の露光期間に発生した動きを誤認することを抑制することが可能となり、入力画像に誤った補正が施されることを抑制することが可能となる。

なお、図4(b)、図5(b)及び図6(b)の出力画像Pout1〜Pout3をさらに補正した画像を出力画像としても構わない。具体的には、出力画像Pout1〜Pout3に所定の矩形領域を設定するとともに、その矩形領域内の画像信号を用いて出力画像を生成しても構わない。さらに、矩形領域内を縮小(例えば画素加算や間引き)しても構わないし、拡大(例えば画素間の補間)しても構わない。また、矩形領域を動き情報に基づいて設定しても構わないし、被写体T1及びT2が存在する位置に基づいて設定しても構わない。

また、図4〜図6では、説明の便宜上水平方向と垂直方向とで歪みの補正方法を分けて説明したが、これらは同時に実施することも可能である。特に、斜め方向の動きが検出される場合は、入力画像の水平方向と垂直方向とに歪みが発生しているため、両方の方向に対して補正を行うこととすると好ましい。このとき、水平方向に対する補正と、垂直方向に対する補正とを順に行っても構わないし、同時に行うこととしても構わない。

また、図2において、第1画像及び第2画像と入力画像とを別の画像のように説明したが、第1画像と入力画像が同じものであったり、第2画像と入力画像とが同じものであったりしても構わない。

また、以下において説明する歪み補正部61の各実施例の構成は、同様のものとなる。特に、歪み補正部61の基本構成として説明した図2に示す構成と同様のものとなる。そのため、以下の歪み補正部61の各実施例の説明において、各実施例の構成は図2に示したものと同様のものであるとして、構成の詳細な説明については省略する。

(第1実施例)
次に、歪み補正部61の第1実施例について図面を参照して説明する。図7は、第1実施例の歪み補正部の動作例について示すグラフである。具体的には、n−2番目、n−1番目、n番目、n+1番目及びn+2番目の画像が、順次作成されて歪み補正部61に入力される場合について示している。また、各画像の露光期間は、n−2番目、n−1番目、n番目、n+1番目、n+2番目の順に遅くなるものとする(ただし、nは3以上の自然数)。また、以下において前の画像、後の画像と表現する場合は、上記の順における前後を示すものとする。なお、以下では、画像の水平方向の動きが発生する場合を例に挙げて説明する。

図7は、上記の各画像から求められる動きベクトルと動き情報の大きさと、動きベクトル及び動き情報が示す動きが発生する時間と、を示したグラフである。なお、縦軸が動きベクトル及び動き情報の水平方向の大きさを示し、横軸が時間を示すものとする。また、動きベクトルの大きさが正であれば、右方向の動きが発生したことを示すものとする。一方、動きベクトルの大きさが負であれば、左方向の動きが発生したことを示すものとする。また、それぞれの画像全体の露光期間の平均時間を、その画像の画像平均露光時間(図7中の画像内の白塗りの丸)として露光期間を代表させて示し、各画像の画素列毎の露光期間の差異については図示を省略する。

本実施例の歪み補正部61における動きベクトル算出部62は、2つの画像から画像間の動きベクトル(図7中の白塗りの四角)を算出する。この動きベクトルは、2つの画像の全体を比較した結果から算出されるものとなる。そのため、例えば2つの画像の露光期間の平均時間(即ち、2つの画像の画像平均露光時間の平均時間)の動きを示すものと考えることができる。

動きベクトル算出部62は、例えばブロックマッチング法、代表点マッチング法、勾配法などの種々の方法を用いて動きベクトルを求めることが可能であり、上記以外の方法を用いることとしても構わない。なお、画像を水平方向にh分割、垂直方向にi分割してh×iの小領域にするとともに、小領域毎に例えば上記の方法を適用して小領域動きベクトルを算出し、これらを平均化するなどして動きベクトルを求めても構わない(ただし、h及びiは自然数)。

動き情報算出部63は、動きベクトル算出部62によって上記のように算出される動きベクトルを用いて、入力画像の動き情報(図7中の黒塗りの四角)を算出する。具体的に例えば、n−1番目の画像とn番目の画像とから求められる動きベクトルMn-0.5と、n番目の画像とn+1番目の画像とから求められる動きベクトルMn+0.5と、を平均化することによって、n番目の画像の動き情報Inを算出する。このように算出される動き情報Inは、例えば、n番目の画像の画像平均露光時間の動きを示すものと考えることができる。

そして、補正処理部64により、動き情報Inを用いた入力画像の補正を行うことで、歪みが低減された出力画像を得ることができる。

本実施例の歪み補正部61による効果を、従来の歪み補正部と対比することにより説明する。図8は、第1実施例の歪み補正部から出力される出力画像と従来の歪み補正部から出力される出力画像とを示した模式図である。図8(a)は本実施例の歪み補正部から出力される出力画像を示したものであり、図8(b)は従来の歪み補正部から出力される出力画像を示したものである。また、それぞれの図には、歪み補正に用いた動き情報または動きベクトルを示している。

図8(a)に示すように、本実施例の歪み補正部61は、それぞれの入力画像の露光期間における動きを示す動き情報In-1、In及びIn+1を用いて歪みの補正を行う。そのため、入力画像を精度よく補正することが可能となる。一方、図8(b)に示すように、従来の歪み補正部は、2つの画像の画像間の動きを示す動きベクトルMn-1.5、Mn-0.5及びMn+0.5を用いて、n−1番目、n番目、n+1番目の画像の補正をそれぞれ行う。そのため、実際の入力画像の露光期間における動きと異なる動きが生じていると誤り、不適切な補正をする可能性がある。したがって、本実施例のように精度よく補正を行うことができない。

また、本実施例の動き補正部61は、入力画像より前の画像を用いて求められる動きベクトルと、入力画像より後の画像を用いて求められる動きベクトルと、を利用して入力画像の動き情報を求める。そのため、入力画像の動き情報の算出の際に、入力画像の前後の画像を反映させることが可能となる。したがって、入力画像の動き情報をさらに精度よく求めることが可能となる。

なお、上記の例では、入力画像と1つ前の画像とから得られる動きベクトルと、入力画像と1つ後の画像とから得られる動きベクトルと、を用いて入力画像の動き情報を求めることとしたが、他の動きベクトルを用いて動き情報を求めることとしても構わない。例えば、入力画像の2つ前の画像と1つ前の画像から求められる動きベクトルを用いても構わないし、入力画像の1つ後の画像と2つ後の画像から求められる動きベクトルを用いても構わない。また、連続しない画像(例えば、n−2番目とn番目の画像)を用いて求めた動きベクトルを用いて、動き情報を算出しても構わない。

ただし、上記例のように、連続した画像である入力画像及び1つ前の画像から得られる動きベクトルと、同じく連続した画像である入力画像及び1つ後の画像から得られる動きベクトルと、を用いて入力画像の動き情報を求めることとすると、例えば2つの動きベクトルを平均化するだけで、容易かつ精度良く入力画像の動き情報を求めることができる。また、入力画像の1つ後の画像が歪み補正部61に入力されることにより、動き情報を算出することが可能となるため、出力画像の生成に著しい遅延が生じることを抑制することが可能となる。

また、入力画像以前の画像に対して求めた動き情報を、入力画像の動き情報を算出する際に利用しても構わない。即ち、過去に算出した動き情報を、動きベクトルと同様に扱っても構わない。

また、上記の例では、動き情報を算出する際に2つの動きベクトルを用いることとしたが、3つ以上としても構わない。例えば、k個の動きベクトルから補間直線やm次の補間曲線(以下、動き線MLとする)を求め、この動き線MLを用いて入力画像の動き情報を求めても構わない(ただし、k及びmはそれぞれ2以上の整数)。この場合、横軸の値が入力画像の画像平均露光時間となるときの動き線MLの縦軸の値が、動きの大きさとなるように動き情報を設定しても構わない。さらに、過去に算出した動き情報を利用して動き線MLを求めても構わない。

また、動き線MLを動き情報の代わりに用いて上述したような歪み補正を行っても構わない。この場合、動き線MLから入力画像の露光期間中における動きの変化まで算出して、歪み補正を行うこととしても構わない。

また、垂直方向や斜め方向に動きが発生する場合についても同様に、本実施例を適用することができる。例えば垂直方向に動きが発生する場合であれば、図7の縦軸が、垂直方向の動きベクトル及び動き情報の大きさを示すものに変わるだけである。また、斜め方向に動きが発生する場合、水平方向の動き情報と垂直方向の動き情報とを別々に算出して、それぞれの動き情報を用いて入力画像を補正することとしても構わない。

(第2実施例)
次に、歪み補正部61の第2実施例について図面を参照して説明する。図9は、第2実施例の歪み補正部の動作例について示すグラフであり、第1実施例について示した図7に相当するものである。なお、同様の部分には同一の符号を付してその詳細な説明については省略する。また、本実施例においても、歪み補正の対象となる入力画像がn番目の画像であり、水平方向の動きが発生する場合を例に挙げて説明する。

本実施例の歪み補正部61における動きベクトル算出部62は、第1実施例と同様の方法を用いて、2つの画像間の動きベクトルを求める。また、動き情報算出部63は、動きベクトル算出部62から出力される動きベクトルを用いて、入力画像の動き情報を求める。

具体的に、動き情報算出部63は、n番目の画像の動き情報Inを求めるために、n−2番目の画像とn−1番目の画像とから得られる動きベクトルMn-1.5と、n−1番目の画像とn番目の画像とから得られる動きベクトルMn-0.5と、を用いる。特に、動きベクトルMn-1.5及びMn-0.5を用いて動き情報Inを推測することにより、動き情報Inを求める。

例えば、動きベクトルMn-1.5及びMn-0.5を用いて動き線MLを求めるとともに、横軸の値がn番目の画像の画像平均露光時間となるときの動き線MLの縦軸の値が、動きの大きさとなるように動き情報Inを設定する。

そして、補正処理部64が、得られた動き情報Inを用いて入力画像の補正を行うことで、歪みが低減された出力画像が得られる。

歪みを低減する効果については第1実施例と同様である。即ち、図8に示したように、入力画像の露光期間における動きを示す動き情報を用いて歪みの補正を行うため、入力画像を精度よく補正することが可能となる。

さらに、本実施例では、入力画像以前の画像を用いて算出した動きベクトルを用いて入力画像の動き情報を算出することとしている。そのため、入力画像の動き情報を算出する際に、入力画像より後の画像が不要となる。したがって、第1実施例に示したような、入力画像よりも後の画像が歪み補正部61に入力された後に、出力画像の生成が開始されることを抑制することが可能となる。即ち、出力画像の生成を迅速に行うことが可能となる。

なお、上記の例では、入力画像の2つ前の画像と1つ前の画像とから得られる動きベクトルと、入力画像の1つ前の画像と入力画像とから得られる動きベクトルと、を用いて入力画像の動き情報を求めることとしたが、他の動きベクトルを用いて動き情報を求めることとしても構わない。例えば、入力画像の3つ前の画像と2つ前の画像から求められる動きベクトルを用いても構わない。また、連続しない画像を用いて求めた動きベクトルを用いて、動き情報を算出しても構わない。

ただし、上記例のように、連続した画像である入力画像の2つ前の画像及び1つ前の画像から得られる動きベクトルと、同じく連続した画像である入力画像及び1つ前の画像から得られる動きベクトルと、を用いて入力画像の動き情報を求めることとすると、入力画像と直前の2つの画像とを用いて動き情報を求めることとなる。そのため、計算量を低減するとともに精度良く動き情報を求めることができる。

また、入力画像よりも前の画像に対して求められた動き情報を、入力画像の動き情報を算出する際に利用しても構わない。即ち、過去に算出した動き情報を、動きベクトルと同様に扱っても構わない。

また、上記の例では、動き情報を算出する際に2つの動きベクトルを用いることとしたが、3つ以上としても構わない。例えば、k個の動きベクトルから動き線MLを求め、この動き線MLを用いて入力画像の動き情報を求めても構わない。

また、動き線MLを動き情報の代わりに用いて上述したような歪み補正を行っても構わない。この場合、動き線MLから入力画像の露光期間中における動きの変化まで算出して、歪み補正を行うこととしても構わない。

また、垂直方向や斜め方向に動きが発生する場合についても同様に、本実施例を適用することができる。例えば垂直方向に動きが発生する場合であれば、図9の縦軸が、垂直方向の動きベクトル及び動き情報の大きさを示すものに変わるだけである。また、斜め方向に動きが発生する場合、水平方向の動き情報と垂直方向の動き情報とを別々に算出して、それぞれの動き情報を用いて入力画像を補正することとしても構わない。

(第3実施例)
次に、歪み補正部61の第3実施例について図面を参照して説明する。図10は、第3実施例の歪み補正部の動作例について示すグラフであり、第1実施例について示した図7や第2実施例について示した図9に相当するものである。ただし、図10は図7及び図9と異なり、被写体の表示を省略するとともに各画素列の露光期間の差異を図中で表現している。また、図10と図7及び図9とで同様となる部分には同一の符号を付してその詳細な説明については省略する。また、本実施例においても、歪み補正の対象となる入力画像がn番目の画像であり、水平方向の動きが発生する場合を例に挙げて説明する。

本実施例の歪み補正部61における動きベクトル算出部62は、まず、画像を垂直方向に対してj個に等分割した領域である中領域毎に2つの画像を比較して、中領域動きベクトルを求める(ただし、jは2以上の整数)。なお、図10では一例として、画像を垂直方向に対して3つに等分割した場合(j=3の場合)について示している。なお、それぞれの画像の中領域について、露光期間が早い順にα、β、γとする。

また、中領域の露光期間の平均時間となる中領域平均露光時間を、図10のそれぞれの中領域内に白塗りの三角形で示す。中領域動きベクトルは、2つの中領域の全体を比較した結果から算出されるものとなる。そのため、例えば2つの中領域の露光期間の平均時間(即ち、それぞれの中領域平均露光時間を平均した時間)の動きを示すものと考えることができる。

また、中領域動きベクトルの算出には、第1及び第2実施例で示した動きベクトルを算出する方法と同様の方法を適用することができる。例えば、ブロックマッチング法、代表点マッチング法、勾配法などの種々の方法を用いて、中領域動きベクトルを求めることが可能である。また、各中領域を水平方向にh分割、垂直方向にi分割してh×iの小領域とし、小領域毎に求められる動きベクトルを平均化するなどして中領域動きベクトルを算出しても構わない。

動きベクトル算出部62は、上記のように求めた中領域動きベクトルを用いて、2つの画像間の動きベクトルを算出する。例えば、2つの画像の各中領域から求められた中領域動きベクトルを平均化することによって、2つの画像間の動きベクトルを算出する。そして、動き情報算出部63が、少なくとも入力画像より前の画像を用いて得られる動きベクトルと、少なくとも入力画像より後の画像を用いて得られる動きベクトルと、を用いて入力画像の動き情報を算出する。

ところで、動きベクトル算出部62が、ある中領域の中領域動きベクトルを算出する際に、中領域動きベクトルが求められずに欠落したり、信頼性が低いなどの要因によって求められた中領域動きベクトルが不適なものになったりする場合が生じ得る。

中領域動きベクトルが欠落する場合とは、例えば、2つの画像の中領域を比較した場合に、相当する(マッチングする)部分が検出できない場合などである。また、中領域ベクトルが不適なものとなる場合とは、例えば、中領域を複数の小領域に分割してそれぞれの小領域から小領域動きベクトルを得て、小領域動きベクトルから中領域動きベクトルを求める場合に、小領域動きベクトルの向きや大きさの差異が著しく大きい場合などである。

以上のような、動きベクトルを算出する際に精度を悪化させる可能性がある中領域動きベクトルの算出結果を、以下において不適結果とする。そして、本実施例では、このような不適結果を動きベクトルの算出時に除外する。

具体的に、n−1番目の画像とn番目の画像とから求められる動きベクトルMAn-0.5と、n番目の画像とn+1番目の画像とから求められる動きベクトルMAn+0.5とを用いて、n番目の画像の動き情報Inを算出する場合を例に挙げて以下説明する。なお、動きベクトルMAn-0.5は、n−1番目の画像の中領域αn-1及びn番目の画像の中領域αnから得られた中領域動きベクトルと、n−1番目の画像の中領域βn-1及びn番目の画像の中領域βnから得られた中領域動きベクトルと、n−1番目の画像の中領域γn-1及びn番目の画像の中領域γnから得られた中領域動きベクトルと、を用いて得られる動きベクトルとする。また、動きベクトルMAn+0.5は、n番目の画像の中領域αn及びn+1番目の画像の中領域αn+1から得られた中領域動きベクトルのみから求められる動きベクトルとし、n番目の画像の中領域βn及びn+1番目の画像の中領域βn+1と、n番目の画像の中領域γn及びn+1番目の画像の中領域γn+1と、からはそれぞれ不適結果が出力されたものとする。

動きベクトルMAn-0.5及びMAn+0.5は、例えば、不適結果を除外して得られたそれぞれの中領域動きベクトルを平均化することによって得られる。この場合、動きベクトルMAn-0.5は、中領域αn-1及びαnと、中領域βn-1及びβnと、中領域γn-1及びγnとからそれぞれ得られた中領域動きベクトルの大きさを平均化した大きさを有するものとなる。また、動きベクトルMAn-0.5は、例えば、中領域αn-1及びαnのそれぞれの露光期間と、中領域βn-1及びβnのそれぞれの露光期間と、中領域γn-1及びγnのそれぞれの露光期間と、を平均した時間(それぞれの中領域平均露光時間を平均した時間、即ち、n−1番目の画像の画像平均露光時間とn番目の画像の画像平均露光時間との平均時間)の動きを示すものと考えることができる。

一方、動きベクトルMAn+0.5は、中領域βn及びβn+1から得られる結果と中領域γn及びγn+1から得られる結果とが、不適結果となり除外されるため、中領域αn及びαn+1から得られる中領域動きベクトルのみを用いて算出される。動きベクトルが中領域動きベクトルを平均化して得られるものである場合、動きベクトルMAn+0.5と、中領域αn及びαn+1から得られる中領域動きベクトルとは同様のものとなる。具体的には、動きベクトルMAn+0.5が示す動きの大きさが、中領域αn及びαn+1から得られる中領域動きベクトルが示す動きの大きさと略等しいものとなる。また、動きベクトルMAn+0.5は、例えば、中領域αn及びαn+1のそれぞれの露光期間を平均した時間(即ち、それぞれの中領域平均露光時間の平均時間)の動きを示すものと考えることができる。

以上のようにして求められる動きベクトルMAn-0.5及びMAn+0.5を用いて、動き情報算出部63が、n番目の画像の動き情報Inを求める。例えば、動きベクトルMAn-0.5と動きベクトルMAn+0.5とを平均化するなどして動き情報Inを求める。ただし、動きベクトルMAn-0.5及びMAn+0.5の重み係数(例えば加算割合)を調整して平均化することにより、動き情報Inを求める。

例えば、求める動き情報Inと動きベクトルMAn-0.5及びMAn+0.5とのそれぞれの時間差の逆比を重み係数に反映させる。上記の例の場合であれば、動き情報Inが示す動きの時間(n番目の画像の画像平均露光時間)と動きベクトルMAn-0.5が示す動きの時間(n−1番目の画像の画像平均露光時間とn番目の画像の画像平均露光時間との平均時間)との時間差の方が、動き情報Inが示す動きの時間(n番目の画像の画像平均露光時間)と動きベクトルMAn+0.5が示す動きの時間(中領域αn-1及びαnのそれぞれの中領域平均露光時間の平均時間)との時間差よりも大きくなる。そのため、動きベクトルMAn-0.5の重み係数を、動きベクトルMAn+0.5の重み係数よりも小さいものとして平均化することにより、動き情報Inを求める。

以上のようにして、n番目の画像の画像平均露光時間における動きを示す動き情報Inが得られる。そして、補正処理部64により、動き情報Inを用いた入力画像の補正を行うことで、歪みが低減された出力画像を得ることができる。

歪みを低減する効果については第1及び第2実施例と同様である。即ち、図8に示したように、入力画像の画像平均露光時間における動きを示す動き情報を用いて歪みの補正を行うため、入力画像を精度よく補正することが可能となる。

また、本実施例は第1実施例と同様に、入力画像より前の画像を用いて求められる動きベクトルと、入力画像より後の画像を用いて求められる動きベクトルと、を利用して入力画像の露光期間に生じた動きを求める。そのため、入力画像の動き情報の算出の際に、入力画像の前後の画像を反映させることが可能となる。したがって、入力画像の動き情報をさらに精度よく求めることが可能となる。

さらに、本実施例では、不適結果を除いた中領域動きベクトルを用いて2つの画像間の動きベクトルを算出する。また、このとき用いた中領域動きベクトルに応じて、得られる動きベクトルがどの時間における動きを示したものとなるかを設定する。そのため、不適結果を排除するとともに、動きベクトルが示す動きが生じた時間を厳密に設定することが可能となる。したがって、入力画像の動き情報をさらに精度よく求めることが可能となる。

なお、上記の例では、入力画像と1つ前の画像とから得られる動きベクトルと、入力画像と1つ後の画像とから得られる動きベクトルと、を用いて入力画像の動き情報を求めることとしたが、他の動きベクトルを用いて動き情報を求めることとしても構わない。例えば、入力画像の2つ前の画像と1つ前の画像から求められる動きベクトルを用いても構わないし、入力画像の1つ後の画像と2つ後の画像から求められる動きベクトルを用いても構わない。また、連続しない画像を用いて求めた動きベクトルを用いて、動き情報を算出しても構わない。

ただし、上記例のように、連続した画像である入力画像及び1つ前の画像から得られる動きベクトルと、同じく連続した画像である入力画像及び1つ後の画像から得られる動きベクトルと、を用いて入力画像の動き情報を求めることとすると、例えば2つの動きベクトルの重み係数を調整して平均化するだけで、容易かつ精度良く動き情報を求めることができる。また、入力画像の1つ後の画像が入力された時点で動き情報を算出することが可能となるため、出力画像の生成に著しい遅延が生じることを抑制することが可能となる。

また、入力画像以前の画像に対して求めた動き情報を、入力画像の動き情報を算出する際に利用しても構わない。即ち、過去に算出した動き情報を、動きベクトルと同様に扱っても構わない。

また、上記の例では、動き情報を算出する際に2つの動きベクトルを用いることとしたが、3つ以上としても構わない。例えば、k個の動きベクトルから動き線を求め、この動き線MLを用いて入力画像の動き情報を求めても構わない。この場合、横軸の値が入力画像の画像平均露光時間となるときの動き線MLの縦軸の値が、動きの大きさとなるように動き情報を設定しても構わない。さらに、過去に算出した動き情報を利用して動き線MLを求めても構わない。

また、動き線MLを動き情報の代わりに用い、上述したような歪み補正を行うこととしても構わない。この場合、動き線MLから入力画像の露光期間における動きの変化まで算出して歪み補正を行うこととしても構わない。

また、垂直方向や斜め方向に動きが発生する場合についても同様に、本実施例を適用することができる。例えば垂直方向に動きが発生する場合であれば、図10の縦軸が、垂直方向の動きベクトル及び動き情報の大きさを示すものに変わるだけである。また、斜め方向に動きが発生する場合、水平方向の動き情報と垂直方向の動き情報とを別々に算出して、それぞれの動き情報を用いて入力画像を補正することとしても構わない。

また、中領域を、画像を垂直方向に対してj個に等分割したそれぞれの領域としたが、等分割せずに中領域の大きさを異ならせても構わない。さらにこの場合、大きい中領域から得られる中領域動きベクトルの重みを重くして、他の中領域動きベクトルと平均化することにより、動きベクトルを算出しても構わない。

(第4実施例)
次に、歪み補正部61の第4実施例について図面を参照して説明する。図11は、第4実施例の歪み補正部の動作例について示すグラフであり、第3実施例について示した図10に相当するものである。なお、図11と図10とで同様となる部分には同一の符号を付してその詳細な説明については省略する。また、本実施例においても、歪み補正の対象となる入力画像がn番目の画像であり、水平方向の動きが発生する場合を例に挙げて説明する。

図11は、第3実施例の一例について示した図10と同様に、各画像が3つの中領域α〜γに等分割されるとともに中領域α〜γ毎に中領域動きベクトルが算出される場合について示したものである。また、本実施例の歪み補正部61は、動きベクトル算出部62が、第3実施例と同様の方法を用いて2つの画像の画像間の動きベクトルを求めるものとする。即ち、中領域動きベクトルを用いて動きベクトルを求める。また、不適結果を排除して、得られた中領域動きベクトルに応じて動きベクトルを算出する方法についても、第3実施例と同様のものとする。

本実施例について、具体的に、n−2番目の画像とn−1番目の画像とから求められる動きベクトルMAn-1.5と、n−1番目の画像とn番目の画像とから求められる動きベクトルMAn-0.5とを用いて、n番目の画像の動き情報Inを算出する場合を例に挙げて以下説明する。なお、動きベクトルMAn-1.5は、n−2番目の画像の中領域αn-2及びn番目の画像の中領域αn-1から得られた中領域動きベクトルと、n−2番目の画像の中領域βn-2及びn−1番目の画像の中領域βn-1から得られた中領域動きベクトルと、n−2番目の画像の中領域γn-2及びn−1番目の画像の中領域γn-1から得られた中領域動きベクトルと、を用いて得られる動きベクトルとする。また、動きベクトルMAn-0.5は、n−1番目の画像の中領域αn-1及びn番目の画像の中領域αnから得られた中領域動きベクトルのみから求められる動きベクトルとし、n−1番目の画像の中領域βn-1及びn番目の画像の中領域βnと、n−1番目の画像の中領域γn-1及びn番目の画像の中領域γnと、からはそれぞれ不適結果が出力されたものとする。

上記のように、第3実施例と同様の方法により動きベクトルMAn-1.5及びMAn-0.5が求められる。例えば、不適結果を除外して得られたそれぞれの中領域動きベクトルを平均化することによって得られる。

この場合、動きベクトルMAn-1.5は、中領域αn-2及びαn-1と、中領域βn-2及びβn-1と、中領域γn-2及びγn-1とからそれぞれ得られた中領域動きベクトルの大きさを平均化した大きさを有するものとなる。さらに、動きベクトルMAn-1.5は、例えば、中領域αn-2及びαn-1のそれぞれの露光期間と、中領域βn-2及びβn-1のそれぞれの露光期間と、中領域γn-2及びγn-1のそれぞれの露光期間と、を平均した時間(それぞれの中領域平均露光時間を平均した時間、即ち、n−2番目の画像の画像平均露光時間とn−1番目の画像の画像平均露光時間との平均時間)の動きを示すものと考えることができる。

一方、動きベクトルMAn-0.5は、中領域βn-1及びβnから得られる結果と中領域γn-1及びγnから得られる結果とが不適結果となり除外されるため、中領域αn-1及びαnから得られる中領域動きベクトルのみを用いて算出される。動きベクトルが中領域動きベクトルを平均化して得られるものである場合、動きベクトルMAn-0.5と、中領域αn-1及びαnから得られる中領域動きベクトルとは同様のものとなる。具体的には、動きベクトルMAn-0.5が示す動きの大きさが、中領域αn-1及びαnから得られる中領域動きベクトルが示す動きの大きさと略等しいものとなる。また、動きベクトルMAn-0.5は、中領域αn-1及びαnのそれぞれの露光期間を平均した時間(即ち、それぞれの中領域平均露光時間の平均時間)の動きを示すものと考えることができる。

動き情報算出部63は、動きベクトルMAn-1.5及びMAn-0.5を用いて動き情報Inを推測することにより、動き情報Inを求める。例えば、動きベクトルMAn-1.5及びMAn-0.5より動き線MLを推測するとともに、横軸の値がn番目の画像の画像平均露光時間となるときの動き線MLの値が、動きの大きさとなるように動き情報Inを設定する。

そして、補正処理部64が、得られた動き情報Inを用いて入力画像の補正を行うことで、歪みが低減された出力画像が得られる。

歪みを低減する効果については第1〜第3実施例と同様である。即ち、図8に示したように、入力画像の画像平均露光時間における動きを示す動き情報を用いて歪みの補正を行うため、入力画像を精度よく補正することが可能となる。

また、本実施例は第2実施例と同様に、入力画像以前の画像を用いて算出した動きベクトルを用いて入力画像の動き情報を算出することとしている。そのため、入力画像の動き情報を算出する際に、入力画像より後の画像が不要となる。したがって、第1及び第3実施例に示したように、入力画像よりも後の画像が歪み補正部61に入力された後に出力画像の生成が開始されることを抑制することが可能となる。即ち、出力画像の生成を迅速に行うことが可能となる。

さらに、第3実施例と同様に、不適結果を排除した中領域動きベクトルを用いて2つの画像間の動きベクトルを算出するとともに、得られた中領域動きベクトルに応じて動きベクトルが示す動きが生じた時間を設定する。そのため、不適結果を排除するとともに、動きベクトルが示す動きが生じる時間を厳密に設定することが可能となる。したがって、入力画像の動き情報をさらに精度よく求めることが可能となる。

なお、上記の例では、入力画像の2つ前の画像と1つ前の画像とから得られる動きベクトルと、入力画像の1つ前の画像と入力画像とから得られる動きベクトルと、を用いて入力画像の動き情報を求めることとしたが、他の動きベクトルを用いて動き情報を求めることとしても構わない。例えば、入力画像の3つ前の画像と2つ前の画像から求められる動きベクトルを用いても構わない。また、連続しない画像を用いて求めた動きベクトルを用いて、動き情報を算出しても構わない。

ただし、上記例のように、連続した画像である入力画像の2つ前の画像及び1つ前の画像から得られる動きベクトルと、同じく連続した画像である入力画像及び1つ前の画像から得られる動きベクトルと、を用いて入力画像の動き情報を求めることとすると、入力画像と直前の2つの画像とを用いて動き情報を求めることとなる。そのため、計算量を低減するとともに精度良く動き情報を求めることができる。

また、入力画像よりも前の画像に対して求められた動き情報を、入力画像の動き情報を算出する際に利用しても構わない。即ち、過去に算出した動き情報を、動きベクトルと同様に扱っても構わない。

また、上記の例では、動き情報を算出する際に2つの動きベクトルを用いることとしたが、3つ以上としても構わない。例えば、k個の動きベクトルから動き線MLを求め、この動き線MLを用いて入力画像の動き情報を求めても構わない。

また、動き線MLを動き情報の代わりに用い、上述したような歪み補正を行うこととしても構わない。この場合、動き線MLから入力画像の露光期間中における動きの変化まで算出して歪み補正を行うこととしても構わない。

また、垂直方向や斜め方向に動きが発生する場合についても同様に、本実施例を適用することができる。例えば垂直方向に動きが発生する場合であれば、図11の縦軸が、垂直方向の動きベクトル及び動き情報の大きさを示すものに変わるだけである。また、斜め方向に動きが発生する場合、水平方向の動き情報と垂直方向の動き情報とを別々に算出して、それぞれの動き情報を用いて入力画像を補正することとしても構わない。

また、中領域を、画像を垂直方向に対してj個に等分割したそれぞれの領域としたが、等分割せずに中領域の大きさを異ならせても構わない。さらにこの場合、大きい中領域から得られる中領域動きベクトルの重みを重くして、他の中領域動きベクトルと平均化することにより、動きベクトルを算出しても構わない。

(第5実施例)
次に、歪み補正部61の第5実施例について図面を参照して説明する。図12は、第5実施例の歪み補正部の動作例について示すグラフであり、第3実施例について示した図10や第4実施例について示した図11に相当するものである。なお、図12と図10及び図11とで同様となる部分には同一の符号を付してその詳細な説明については省略する。また、本実施例においても、歪み補正の対象となる入力画像がn番目の画像であり、水平方向の動きが発生する場合を例に挙げて説明する。

図12は、第3実施例の一例について示した図10や第4実施例の一例について示した図11と同様に、各画像が3つの中領域α〜γに等分割されるとともに中領域α〜γ毎に中領域動きベクトル(図12中の白塗りの星)が算出される場合について示したものである。また、本実施例の歪み補正部61は、動きベクトル算出部62が、第3及び第4実施例と同様の方法を用いて2つの画像の中領域動きベクトルを求める。しかしながら、動きベクトル算出部62が、この中領域動きベクトルを動き情報算出部63に出力するとともに、動き情報算出部63が、中領域動きベクトルを直接的に用いて動き情報を算出する点について、第3及び第4実施例とは異なる。

本実施例について、具体的に、n−1番目の画像の中領域αn-1及びn番目の画像の中領域αnから得られた中領域動きベクトルMBαn-0.5と、n−1番目の画像の中領域βn-1及びn番目の画像の中領域βnから得られた中領域動きベクトルMBβn-0.5と、n−1番目の画像の中領域γn-1及びn番目の画像の中領域γnから得られた中領域動きベクトルMBγn-0.5と、を用いて、n番目の画像の動き情報Inを算出する場合を例に挙げて以下説明する。なお、本例では、上記のそれぞれの中領域動きベクトルの算出時に、不適結果が出力されなかったものとする。

上述のように、中領域動きベクトルMBαn-0.5は、例えば中領域αn-1及びαnのそれぞれの中領域平均露光時間の平均時間の動きを示すものと考えることができる。同様に、中領域動きベクトルMBβn-0.5は、例えば中領域βn-1及びβnのそれぞれの中領域平均露光時間の平均時間の動きを示すものと考えることができ、中領域動きベクトルMBγn-0.5は、例えば中領域γn-1及びγnのそれぞれの中領域平均露光時間の平均時間の動きを示すものと考えることができる。

動き情報算出部63は、中領域動きベクトルMBαn-0.5、MBβn-0.5及びMBγn-0.5を用いて動き情報Inを推測することにより、動き情報Inを求める。例えば、中領域動きベクトルMBαn-0.5、MBβn-0.5及びMBγn-0.5より動き線MLを推測するとともに、横軸の値がn番目の画像の画像平均露光時間となるときの動き線MLの縦軸の値が、動きの大きさとなるように動き情報Inを設定する。

そして、補正処理部64が、得られた動き情報Inを用いて入力画像の補正を行うことで、歪みが低減された出力画像が得られる。

歪みを低減する効果については第1〜第4実施例と同様である。即ち、図8に示したように、入力画像の画像平均露光時間における動きを示す動き情報を用いて歪みの補正を行うため、入力画像を精度よく補正することが可能となる。

また、入力画像以前の画像を用いて算出した中領域動きベクトルを用いて入力画像の動き情報を算出することとしている。そのため第2及び第4実施例と同様に、入力画像の動き情報を算出する際に、入力画像より後の画像が不要となる。したがって、第1及び第3実施例に示したように、入力画像よりも後の画像が歪み補正部61に入力された後に出力画像の生成が開始されることを抑制することが可能となる。即ち、出力画像の生成を迅速に行うことが可能となる。

さらに本実施例は、2つの画像間の動きについて動きベクトルよりも時間的に細かく表す中領域動きベクトルを用いて、動き情報を算出する。そのため、入力画像の動き情報をさらに精度よく求めることが可能となる。

なお、上記の例では、入力画像の1つ前の画像及び入力画像のそれぞれの中領域から得られる3つの中領域動きベクトルを用いて、入力画像の動き情報を求めることとしたが、これらの中から選択した少なくとも2つの中領域動きベクトルを用いて動き情報を求めても構わない。また、第3及び第4実施例と同様に、不適結果を除外しても構わない。

また、他の組み合わせとなる2つの画像のそれぞれの中領域から得られる中領域動きベクトルを用いて動き情報を求めることとしても構わない。例えば、入力画像の2つ前の画像と1つ前の画像のそれぞれの中領域から求められる中領域動きベクトルを用いても構わない。また、連続しない画像の中領域から求められる中領域動きベクトルを用いて、動き情報を算出しても構わない。

ただし、上記例のように、入力画像の1つ前の画像及び入力画像のそれぞれの中領域から得られる中領域動きベクトルを用いて入力画像の動き情報を求めることとすると、入力画像と直前の1つの画像とを用いて動き情報を求めることとなる。そのため、計算量を低減するとともに精度良く動き情報を求めることができる。

また、入力画像よりも前の画像に対して求められた動き情報を、入力画像の動き情報を算出する際に利用しても構わない。また、k個の中領域動きベクトルから動き線MLを求め、この動き線MLを用いて入力画像の動き情報を求めても構わない。

また、動き線MLを動き情報の代わりに用い、上述したような歪み補正を行うこととしても構わない。この場合、動き線MLから入力画像の露光期間における動きの変化まで算出して歪み補正を行うこととしても構わない。

また、垂直方向や斜め方向に動きが発生する場合についても同様に、本実施例を適用することができる。例えば垂直方向に動きが発生する場合であれば、図11の縦軸が、垂直方向の動きベクトル及び動き情報の大きさを示すものに変わるだけである。また、斜め方向に動きが発生する場合、水平方向の動き情報と垂直方向の動き情報とを別々に算出して、それぞれの動き情報を用いて入力画像を補正することとしても構わない。

また、中領域を、画像を垂直方向に対してj個に等分割したそれぞれの領域としたが、等分割せずに中領域の大きさを異ならせても構わない。

また、第3実施例と本実施例とを組み合わせても構わない。例えば、第3実施例において、得られた中領域動きベクトルを用いて2つの画像間の動きベクトルを求めずに、本実施例のように中領域動きベクトルを直接的に用いて入力画像の動き情報を算出することとしても構わない。

<変形例>
また、本発明の実施形態における撮像装置1について、画像処理部6や歪み補正部61などのそれぞれの動作を、マイコンなどの制御装置が行うこととしても構わない。さらに、このような制御装置によって実現される機能の全部または一部をプログラムとして記述し、該プログラムをプログラム実行装置(例えばコンピュータ)上で実行することによって、その機能の全部または一部を実現するようにしても構わない。

また、上述した場合に限らず、図1の撮像装置1や図2の歪み補正部61は、ハードウェア、或いは、ハードウェアとソフトウェアの組み合わせによって実現可能である。また、ソフトウェアを用いて撮像装置1や歪み補正部61を構成する場合、ソフトウェアによって実現される部位についてのブロック図は、その部位の機能ブロック図を表すこととする。

以上、本発明における実施形態について説明したが、本発明の範囲はこれに限定されるものではなく、発明の主旨を逸脱しない範囲で種々の変更を加えて実行することができる。

本発明は、入力される画像を処理する画像処理装置や、この画像処理装置を搭載した撮像装置に関する。また、入力される画像を処理する画像処理方法に関する。

は、本発明の実施形態における撮像装置の基本構成について示すブロック図である。 は、本発明の実施形態における撮像装置に備えられる歪み補正部の基本構成について示すブロック図である。 は、本発明の実施形態における撮像装置に備えられる歪み補正部の基本動作について示すフローチャートである。 は、補正処理の一例について示した模式図である。 は、補正処理の一例について示した模式図である。 は、補正処理の一例について示した模式図である。 は、第1実施例の歪み補正部の動作例について示すグラフである。 は、第1実施例の歪み補正部から出力される出力画像と従来の歪み補正部から出力される出力画像とを示した模式図である。 は、第2実施例の歪み補正部の動作例について示すグラフである。 は、第3実施例の歪み補正部の動作例について示すグラフである。 は、第4実施例の歪み補正部の動作例について示すグラフである。 は、第5実施例の歪み補正部の動作例について示すグラフである。 は、撮像直前の被写体と撮像領域及びその動き方向とを示した模式図である。 は、各画素列の露光期間における被写体と撮像領域との位置関係を示した模式図である。 は、歪みを含んだ画像を示した模式図である。 は、撮像直前の被写体と撮像領域及びその動き方向とを示した模式図である。 は、各画素列の露光期間における被写体と撮像領域との位置関係を示した模式図である。 は、歪みを含んだ画像を示した模式図である。 は、撮像直前の被写体と撮像領域及びその動き方向とを示した模式図である。 は、各画素列の露光時における被写体と撮像領域との位置関係を示した模式図である。 は、歪みを含んだ画像を示した模式図である。

符号の説明

1 撮像装置
2 撮像部
3 イメージセンサ
4 レンズ部
5 AFE
6 画像処理部
61 歪み補正部
62 動きベクトル算出部
63 動き情報算出部
64 補正処理部
7 集音部
8 音声処理部
9 圧縮処理部
10 外部メモリ
11 ドライバ部
12 伸長処理部
13 画像出力回路部
14 音声出力回路部
15 CPU
16 メモリ
17 操作部
18 TG部
19 バス
20 バス
P1〜P3 画像
C 撮像領域
Pin1〜Pin3 入力画像
Pout1〜Pout3 出力画像
T1、T2 被写体

Claims (9)

  1. 撮像の際の露光期間が異なる複数の画像が入力されるとともに、入力される画像の1つである入力画像の歪みを補正して出力する画像処理装置において、
    入力される2つの画像を比較して、当該2つの画像間の動きを示す動きベクトルを算出する動きベクトル算出部と、
    前記動きベクトル算出部から出力される前記動きベクトルに基づいて、前記入力画像の露光期間の動きを示す動き情報を算出する動き情報算出部と、
    前記入力画像が入力されるとともに、前記動き情報算出部から出力される前記動き情報に基づいて前記入力画像の歪みを補正し、出力画像として出力する補正処理部と、
    を備えることを特徴とする画像処理装置。
  2. 前記画像が、上方の画素列ほど露光期間が早く、下方の画素列ほど露光期間が遅くなるように撮像されるものであり、
    前記補正処理部が、前記動き情報に基づいて前記入力画像の画素列毎に歪みを補正することを特徴とする請求項1に記載の画像処理装置。
  3. 前記動きベクトル算出部が、前記入力画像より露光期間が早い画像を少なくとも1つ用いて算出する動きベクトルと、前記入力画像より露光期間が遅い画像を少なくとも1つ用いて算出する動きベクトルと、をそれぞれ少なくとも1つ算出し、
    前記動き情報算出部が、前記動きベクトル算出部によって算出される少なくとも2つの前記動きベクトルを用いて前記動き情報を算出することを特徴とする請求項1または請求項2に記載の画像処理装置。
  4. 前記動きベクトル算出部が、前記入力画像と前記入力画像よりも露光期間が早い画像から選択される2つの画像とから算出される動きベクトルを、少なくとも2つ算出し、
    前記動き情報算出部が、前記動きベクトル算出部によって算出される少なくとも2つの前記動きベクトルを用いて前記動き情報を算出することを特徴とする請求項1または請求項2に記載の画像処理装置。
  5. 前記画像が、上下方向に対して2以上の中領域に分割されるとともに、前記画像が、上方の中領域ほど露光期間が早く、下方の中領域ほど露光期間が遅くなるように撮像されるものであり、
    前記動きベクトル算出部が、入力される2つの画像を中領域毎に比較し、比較する当該中領域間の動きを示す中領域動きベクトルを算出するとともに、当該2つの画像から算出される前記中領域動きベクトルに基づいて、前記動きベクトルを算出することを特徴とする請求項1〜請求項4のいずれかに記載の画像処理装置。
  6. 前記画像が、上下方向に対して2以上の中領域に分割されるとともに、前記画像が、上方の中領域ほど露光期間が早く、下方の中領域ほど露光期間が遅くなるように撮像されるものであり、
    前記動きベクトル算出部が、入力される2つの画像を中領域毎に比較し、比較する当該中領域間の動きを示す中領域動きベクトルを算出するとともに、当該2つの画像から算出される前記中領域動きベクトルの少なくとも1つを、前記動きベクトルとすることを特徴とする請求項1〜請求項4のいずれかに記載の画像処理装置。
  7. 前記動きベクトル算出部が、前記中領域動きベクトルを算出する際に不適となる結果が得られる場合は、当該中領域動きベクトルを除外することを特徴とする請求項5または請求項6に記載の画像処理装置。
  8. 撮像を行い画像を作成する撮像部と、
    請求項1〜請求項7のいずれかに記載の画像処理装置と、を備え、
    前記撮像部が、露光期間が異なる複数の画像を作成するとともに前記画像処理装置に入力し、
    前記画像処理装置が、入力される画像の1つである入力画像の歪みを補正し、出力画像として出力することを特徴とする撮像装置。
  9. 撮像の際の露光期間が異なる複数の画像に基づいて、画像の1つである入力画像に含まれる歪みを補正して出力する画像処理方法において、
    2つの画像を比較して、当該2つの画像間の動きを示す動きベクトルを算出する第1ステップと、
    当該第1ステップにおいて算出された前記動きベクトルに基づいて、前記入力画像の露光期間の動きを示す動き情報を算出する第2ステップと、
    当該第2ステップにおいて算出された前記動き情報に基づいて、前記入力画像の歪みを補正し、出力画像として出力する第3ステップと、
    を備えることを特徴とする画像処理方法。
JP2008189413A 2008-07-23 2008-07-23 画像処理装置、撮像装置及び画像処理方法 Pending JP2010028607A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2008189413A JP2010028607A (ja) 2008-07-23 2008-07-23 画像処理装置、撮像装置及び画像処理方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008189413A JP2010028607A (ja) 2008-07-23 2008-07-23 画像処理装置、撮像装置及び画像処理方法

Publications (1)

Publication Number Publication Date
JP2010028607A true JP2010028607A (ja) 2010-02-04

Family

ID=41733984

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008189413A Pending JP2010028607A (ja) 2008-07-23 2008-07-23 画像処理装置、撮像装置及び画像処理方法

Country Status (1)

Country Link
JP (1) JP2010028607A (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012160887A (ja) * 2011-01-31 2012-08-23 Toshiba Alpine Automotive Technology Corp 撮像装置および動きベクトル検出方法

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06133298A (ja) * 1992-10-14 1994-05-13 Canon Inc 動きベクトル検出装置
JPH07288735A (ja) * 1994-04-14 1995-10-31 Matsushita Electric Ind Co Ltd 画像動き補正装置
JP2004266322A (ja) * 2003-01-22 2004-09-24 Sony Corp 画像処理装置および方法、記録媒体、並びにプログラム
JP2008160547A (ja) * 2006-12-25 2008-07-10 Sanyo Electric Co Ltd 動き検出装置及び方法並びに撮像装置

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06133298A (ja) * 1992-10-14 1994-05-13 Canon Inc 動きベクトル検出装置
JPH07288735A (ja) * 1994-04-14 1995-10-31 Matsushita Electric Ind Co Ltd 画像動き補正装置
JP2004266322A (ja) * 2003-01-22 2004-09-24 Sony Corp 画像処理装置および方法、記録媒体、並びにプログラム
JP2008160547A (ja) * 2006-12-25 2008-07-10 Sanyo Electric Co Ltd 動き検出装置及び方法並びに撮像装置

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012160887A (ja) * 2011-01-31 2012-08-23 Toshiba Alpine Automotive Technology Corp 撮像装置および動きベクトル検出方法

Similar Documents

Publication Publication Date Title
KR101229600B1 (ko) 촬상 장치, 손떨림 보정 방법 및 기록 매체
US8872937B2 (en) Image capture apparatus and image capturing method
US8189960B2 (en) Image processing apparatus, image processing method, program and recording medium
EP2308236B1 (en) Improved image formation using different resolution images
US20130002936A1 (en) Image pickup apparatus, image processing apparatus, and storage medium storing image processing program
JP5111088B2 (ja) 撮像装置及び画像再生装置
JP4898761B2 (ja) オブジェクト追跡を用いたデジタル画像の手ぶれ補正装置および方法
US8294812B2 (en) Image-shooting apparatus capable of performing super-resolution processing
US9800772B2 (en) Focus adjustment device and focus adjustment method that detects spatial frequency of a captured image
JP4289419B2 (ja) 撮像装置、欠陥画素補正装置およびこれらにおける処理方法ならびにプログラム
US8391637B2 (en) Image processing device and image processing method
JP4662880B2 (ja) 撮像装置,及び撮像方法
US20130021504A1 (en) Multiple image processing
KR101395433B1 (ko) 촬상 장치 및 촬상 방법
JP4018727B2 (ja) 撮像装置及びその制御方法及びプログラム及び記憶媒体
JP5830241B2 (ja) 撮像装置、撮像方法、および、撮像プログラム
JP5413002B2 (ja) 撮像装置および方法、並びにプログラム
US8154634B2 (en) Image processing device that merges a plurality of images together, image shooting device provided therewith, and image processing method in which a plurality of images are merged together
JP2010062785A (ja) 画像処理装置、撮像装置、固体撮像素子、画像処理方法およびプログラム
JP5112104B2 (ja) 画像処理装置及び画像処理プログラム
US9058640B2 (en) Image processing apparatus, image processing method and recording medium
JP2004336106A (ja) 画像処理装置、画像処理方法ならびに撮像装置
JP2008294785A (ja) 画像処理装置、撮像装置、画像ファイル及び画像処理方法
US8466969B2 (en) Imaging apparatus and shake correcting method
JPWO2008032392A1 (ja) 画像処理方法および装置とそのプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110628

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120608

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120619

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20121016