JP2015079329A - 画像処理装置、画像処理方法およびプログラム - Google Patents
画像処理装置、画像処理方法およびプログラム Download PDFInfo
- Publication number
- JP2015079329A JP2015079329A JP2013215552A JP2013215552A JP2015079329A JP 2015079329 A JP2015079329 A JP 2015079329A JP 2013215552 A JP2013215552 A JP 2013215552A JP 2013215552 A JP2013215552 A JP 2013215552A JP 2015079329 A JP2015079329 A JP 2015079329A
- Authority
- JP
- Japan
- Prior art keywords
- image
- images
- interpolation
- parameter
- processing apparatus
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Abstract
【課題】 動画データの画角が狭まるのを抑えつつ、ぶれが補正された動画データを得る。
【解決手段】画像処理装置が、複数の時点で撮像された一続きの画像群である複数の画像を取得する画像取得手段と、前記複数の画像に含まれる、少なくとも1枚の画像のぶれを示すパラメータを取得するパラメータ取得手段と、前記取得されたパラメータに基づいて、画像の変形処理と画像の補間処理のうちの一方を選択する選択手段と、前記少なくとも1枚の画像について、前記選択された処理を行う補正手段とを備える。
【選択図】 図6
Description
本発明は、画像のぶれ補正処理を行う技術に関する。
近年、ビデオカメラに加え、デジタルカメラ、画像撮影機能を有する携帯電話などの撮像装置による動画撮影が一般的となってきた。その際、大きな課題となっているのが撮影した動画に生じる手ぶれへの対策である。
手ぶれによる動画像の揺れは、撮影者の意図的なカメラモーションによる動きよりも一般的に周波数の高い動きであることが知られている。そこで、特許文献1では、手ぶれの影響を除去した動画を生成する方法として次のような手法が提案されている。まず、動画データから求めた動画撮影中のカメラの動き(カメラ軌跡)にローパスフィルタをかけることで、手ぶれの影響を除去した理想的なカメラ軌跡を求める。そして、その理想的なカメラ軌跡に基づいて動画データ中の各フレームを変形することで、手ぶれが補正された動画データを得る。ここで、変形処理とは、補正対象の画像をぶれの大きさや方向に応じてシフトさせる処理などが含まれる。
また、特許文献1には、実際のカメラ軌跡と、ローパスフィルタをかけたカメラ軌跡との差分が大きい場合には、過補正をしないように補正量に上限を持たせることも記載されている。
手ぶれによるカメラの動きが大きい場合、つまり、実際のカメラ軌跡と理想的なカメラ軌跡の差が大きい場合は、動画データの各フレームに強いぶれ補正をかける必要がある。
しかし、多くの場合、ぶれ補正された画像のうち、表示画角をはみ出した画像領域はカットして表示されるので、強いぶれ補正によって画像を大きく変形すると、表示される画像の画角が極端に狭くなってしまうという問題が発生する。
この場合、特許文献1に記載の技術のように、補正の強度を制限することで動画データの画角が狭まるのを抑えることができるが、それでは手ぶれが適切に補正された画像を得ることができない。
そこで、本発明は、画像データの画角が狭まるのを抑えつつ、適切にぶれ補正を行うことを目的としている。
上記課題を解決するために、本発明の画像処理装置は、複数の時点で撮像された一続きの画像群である複数の画像を取得する画像取得手段と、前記複数の画像に含まれる、少なくとも1枚の画像のぶれを示すパラメータを取得するパラメータ取得手段と、前記取得されたパラメータに基づいて、画像の変形処理と画像の補間処理のうちの一方を選択する選択手段と、前記少なくとも1枚の画像について、前記選択された処理を行う補正手段とを備える。
本発明によれば、画像データの画角が狭まるのを抑えつつ、画像データのぶれ補正を行うことができる。
<実施例1>
本実施例では、ぶれ補正のための変形処理での補正量が大きい場合に、対象画像の他の画像を用いた補間処理によって、対象画像に対応する、ぶれ補正後の画像を生成する方法について説明する。
本実施例では、ぶれ補正のための変形処理での補正量が大きい場合に、対象画像の他の画像を用いた補間処理によって、対象画像に対応する、ぶれ補正後の画像を生成する方法について説明する。
図1は、本実施例における画像処理装置100のハードウェア構成を示す図である。画像処理装置100は、CPU101、RAM102、HDD103、汎用インターフェース(I/F)104、モニタ108を備え、各構成部はメインバス109によって相互に接続されている。
CPU101は、画像処理装置100内の各部を統括的に制御するプロセッサである。RAM102は、CPU101の主メモリ、ワークエリア等として機能するメモリである。また、HDD103は、CPU101によって実行されるプログラム群を格納しているメモリである。なお、HDD103は、フラッシュメモリなどの他の記憶媒体に置き換えてもよい。
汎用インターフェース(I/F)104はUSBコネクタを備えるインターフェースであり、撮像装置105や入力装置106、外部メモリ107が汎用I/F104を介してメインバス109に接続されている。
撮像装置105は動画撮影機能を備えたカメラであり、撮影した動画データを画像処理装置100に対して出力する。
入力装置106は、マウス、キーボードなどの入力装置であり、ユーザは入力装置106を介して画像処理装置100に対して指示を入力することができる。
外部メモリ107は、HDDやメモリカードなどの記録媒体であり、画像処理装置100から出力されたデータを保存することができる。
モニタ108は画像処理装置100に備えつけられた液晶ディスプレイであり、動画データやユーザインタフェースなどを表示することができる。
メインバス109は、画像処理装置100内の各構成部を相互に接続するシステムバスである。
以下、本実施例の処理について、図2に示すブロック図と、図3に示すフローチャートを参照して説明する。なお、HDD103には、図3のフローチャートに示すプログラムが格納されており、CPU101がそのプログラムを実行することで、図2に示す各構成部の役割を果たす。もちろん、図2に示す各構成部の一部または全部の役割を果たす専用の処理回路などを設けてもよい。
まず、ステップS301では、入力端子201から入力された動画データを、対応点探索部202が読み込む。
次に、ステップS302では、対応点探索部202が、ステップS301で読み込んだ動画データの各フレームについて、特徴点を検出する。特徴点の検出には様々な手法があるが、本実施例ではHarrisのコーナー検出法を用いる。Harrisのコーナー検出法では、画素を移動した際の画素値の変化量に基づいて、コーナーや孤立点を特徴点として検出する。なお、特徴点の検出法としては、例えばHesse法やSIFT法など、他の方法を用いてもよい。
次に、ステップS303では、対応点探索部202が、ステップS301で読み込んだ動画データ中の、隣接するフレーム間の対応関係を調べ、各フレームの動きベクトルを検出する。動画中のフレームFnにおいて、ある特徴点Anの座標を(xn,yn)とし、その次のフレームFn+1において、Anに対応する点An+1の座標を(xn+1,yn+1)とすると、特徴点Anに対応する動きベクトルanは、以下の式で表わされる。
an=(xn+1−xn,yn+1−yn)
an=(xn+1−xn,yn+1−yn)
対応点探索部202は、上記の式に基づいて各フレームについて全特徴点の動きベクトルを求め、動被写体検出部203およびカメラ軌跡導出部204に出力する。なお、ここで対応点探索の方法としてはk近傍探索法を用いるが、FLANN法など別の方法を用いて対応点探索を行ってもよい。
次に、ステップS304では、動被写体検出部203が、ステップS303で検出した動きベクトルを解析することで、各フレームに動被写体の像が含まれるかどうかを判定し、その結果をルックアップテーブルとしてRAM102に記録する。以下、その方法を説明する。
まず、動被写体検出部203は、各フレームを複数の画像領域に分割し、各画像領域内に存在する特徴点の動きベクトルを平均することで、画像領域ごとの動きベクトルを導出する。次に、動被写体検出部203は、画像領域ごとの動きベクトルの水平成分および垂直成分に基づいて動きベクトルのヒストグラム(度数分布)を作成する。フレーム内に動被写体の像が含まれる場合には、カメラの動きに起因するピークの他に、動被写体の動きに起因するピークがヒストグラム中に現れるので、作成したヒストグラムに複数のピークが含まれるか否かに基づいて、動被写体の有無を判定する。なお、本実施例においては、ヒストグラム中で、最大のピークの他に最大のピークの10分の1以上の度数を持つピークが存在する場合に、動被写体が存在すると判定する。もちろん、判断の閾値はこれに限られず、別の判断基準を用いてもよい。また、赤外線センサなどで動被写体を検知するようにしてもよい。
次に、ステップS305では、カメラ軌跡導出部204が、ステップS303で検出した動きベクトルに基づいてカメラ軌跡を導出し、理想軌跡導出部205に出力する。カメラ軌跡は、動画の最初のフレームを原点とし、各フレームの動きベクトルに基づいて各フレーム撮影時のカメラの位置を求めることで、導出される。
本実施例において、各フレームに対応する代表動きベクトルは、ステップS303で検出した全ての特徴点の動きベクトルの平均によって求められる。その他の方法として、ステップS304と同様に動きベクトルのヒストグラムを作成し、その中で最大のピークに属する動きベクトルの平均を代表動きベクトルとしてもよい。
図4にカメラ軌跡の一例を示す。図中の白丸は各フレームに対応するカメラ位置を、実線がカメラ軌跡を示している。なお、同図の横軸は時間(フレーム)を示しており、縦軸は簡略化のために垂直方向のみのカメラ位置を示している。以後、カメラ軌跡を示す際は横軸を時間、縦軸を垂直方向のカメラ位置とする。
次に、ステップS306では、理想軌跡導出部205が、ステップS305で導出したカメラ軌跡から、手ぶれの影響を低減した理想的なカメラ軌跡を導出する。ステップS305で導出したカメラ軌跡は手ぶれによる影響で周波数の高い成分を多く含んでいるので、理想軌跡導出部205は、ステップS305で導出したカメラ軌跡にローパスフィルタをかけることで手ぶれによる動画データのぶれを除去する。図5に理想カメラ軌跡の一例を示す。図中の破線が、手ぶれの影響を除いた理想的なカメラ軌跡を示している。
次に、ステップS307では、動画データ補正部206が、ステップS305で導出したカメラ軌跡と、ステップS306で導出した理想カメラ軌跡との差分値に基づいて、動画データの各フレームを補正する。ここで行われる処理の詳細については後述する。
ステップS308では、動画データ補正部206が、出力端子207を介して、ステップS307で補正した動画データをメインバス109に出力する。
以上が画像処理装置100で行われる処理である。次に、ステップS307で行われる、動画データ補正処理の詳細について説明する。
<動画データ補正処理>
図6は、動画データ補正部206における処理(ステップS307)の流れを示すフローチャートである。以下、図6を参照して説明する。
図6は、動画データ補正部206における処理(ステップS307)の流れを示すフローチャートである。以下、図6を参照して説明する。
ステップS601では、動画データ補正部206が、ステップS301で読み込んだ動画データから補正対象のフレームを選択する。
次に、ステップS602では、動画データ補正部206が、選択したフレームを補正するための補正動きベクトルを導出する。補正動きベクトルは、ステップS305で導出されたカメラ軌跡と、ステップS306で導出された理想カメラ軌跡との差分によって決定される。つまり、実際に撮影を行ったカメラ位置から理想的なカメラ位置までカメラを移動させるようなベクトルが、補正動きベクトルとして導出される。
次に、ステップS603では、動画データ補正部206が、ステップS602で導出した補正ベクトルの大きさと予め設定した所定の閾値thとを比較する。補正動きベクトルの大きさが閾値th以下であればステップS606へ進み、そうでなければステップS604へ進む。本実施例では、補正動きベクトルを用いて選択フレームを変形する際に、各画素の平均移動幅が選択フレームの画角の30%となる補正動きベクトルの大きさが、閾値thの大きさとして設定されている。もちろん、閾値thの大きさはこれに限られず、あらかじめ設定された複数の閾値thの中からユーザが選択できるようにしたり、補正動きベクトルのノルムなどを用いて自動的に決定してもよい。
ステップS604では、動画データ補正部206が、ステップS304で作成したルックアップテーブルを参照して、選択フレームに動被写体が含まれるかどうかを判定する。動被写体が含まれていると判定された場合はステップS606へ進んでフレームの変形によるぶれ補正処理を行い、そうでなければステップS605へ進んで画像の補間処理を行う。
図7は、ステップS605で行う補間処理とステップS606で行う変形処理との切り替えを示す図である。同図中の点線で囲んだ楕円部分は、補正動きベクトルの大きさが閾値thを超えている区間を示しており、この区間内では補間処理によるぶれ補正が行われる。また、その他の区間では画像の変形処理によるぶれ補正が行われる。ただし、補間処理を行う区間内であっても、区間内のフレームに動被写体が含まれる場合、補間処理は行わず変形処理が行われる。
ステップS605では、動画データ補正部206が、選択フレームに対応する画像を、補間処理区間外のフレームを参照して補間することにより生成する。以下、その補間の方法について説明する。
t=1〜3におけるフレームF1〜F3が処理対象の画像(補間の対象)であるとした時、動画データ補正部206は、補間の対象区間外のフレームF0(t=0)またはF4(t=4)に変形処理を施すことで、F1〜F3に対応する画像を新たに生成する。ここで、この変形処理は、ステップS306で求められた理想カメラ軌跡に基づいて行われる。例えば、動画データ補正部206は、t=0における実際のカメラ位置と、t=1における理想カメラ位置との差分に基づいて、補間処理用の補正動きベクトルを新たに求める。そして、求められた補間処理用の補正動きベクトルに基づいてF0に変形処理を施し、新たなフレームF1を生成する。
なお、ここで行われる補間処理は上記の方法に限られない。例えば、補間処理区間外の2枚以上の画像に基づいて、画素値を線型補間してもよい。具体的には、F0における特徴点Aの座標が(0、0)であり、F4における特徴点Aの座標が(4,4)であった場合は、F1〜F3において特徴点Aの座標が(1,1)、(2,2)、(3,3)になるように画素値の補間を行えばよい。
ステップS606では、動画データ補正部206が、ステップS602で導出した補正動きベクトルに基づいて、処理対象の画像(選択フレーム)を変形する。図7において、各フレームの点から理想カメラ軌跡の曲線へと延びる矢印が、それぞれ補正動きベクトルを示している。
選択フレームの変形処理としては、まず、動画データ補正部206が、補正動きベクトルに基づいて選択フレームをシフトさせる。その概要を図8に示す。画角801はシフト前の選択フレームの位置であり、モニタに表示される画角を示している。また、画像802はシフト後の選択フレームの位置を示している。シフト後の選択フレームにおいて、モニタに表示される画角801からはみ出した領域はカットされる。そして、フレームをシフトしたことによって画角801に生じた空隙領域は黒画素(R=G=B=0)によって埋められ、画角801に収まる画像が、ぶれ補正後のフレームとして出力される。
ステップS607では、動画データ補正部206が、動画データ中の全てのフレームに対してステップS601〜S606の処理が完了したかどうかを判定する。完了していれば、ぶれ補正後のフレームとして出力された全てのフレームを統合してぶれ補正後の動画データを生成し、動画補正処理を終了する。全てのフレームに対してぶれ補正処理が終了していないと判定されて場合は、ステップS601に戻って新たなフレームの選択を行う。
以上が、ステップS307の処理の詳細である。以上の処理により、現実のカメラ軌跡と理想カメラ軌跡の差が大きい場合でも、画角を極端に狭めることなくぶれが補正された動画を得ることができる。
なお、本実施例においてぶれ補正の対象としたのは動画データであるが、ぶれ補正の対象は動画データに限られず、複数の時点で撮像された一続きの画像群であれば、連写撮影された複数の静止画データなどであってもよい。
また、ぶれ補正の対象とされるのは複数の画像データ中の一部であってもよく、例えば連写撮影された複数の静止画データの中で、ぶれが著しく大きい一枚だけを抜き出して処理を行うようにしてもよい。
また、変形処理により画像をシフトした場合、元の画角に収まる部分だけを残して、空隙領域を黒画素で埋めたものを補正後のフレームとして出力するとしたが、他の方法でぶれ補正後のフレームとして切り出す部分を決定してもよい。例えば、全てのフレームを考慮して、全てのフレームで空隙領域がフレーム内に含まれないように画像を切り出してもよい。また、その際に画角が最大となるように表示画角の中心位置を変更するようにしてもよい。
なお、本実施例において、汎用I/F104が、複数の時点で撮像された一続きの画像群である複数の画像を取得する画像取得手段として機能した。
また、図3のフローチャートに示すプログラムを実行したCPU101が、前記複数の画像に含まれる、少なくとも1枚の画像のぶれを示すパラメータを取得するパラメータ取得手段として機能した。
また、CPU101は、前記取得されたパラメータに基づいて、画像の変形処理と画像の補間処理のうちの一方を選択する選択手段としても機能した。
また、CPU101は、前記少なくとも1枚の画像について、前記選択された処理を行う補正手段としても機能した。
また、CPU101は、前記複数の画像が撮像された時間を表わす時間軸上において、前記変形処理を行う区間と前記補間処理を行う区間とを判定する判定手段としても機能した。
また、CPU101は、前記複数の画像に含まれる動被写体を検出する検出手段としても機能した。
また、CPU101は、前記複数の画像において、時間的に隣接する画像間の動き情報を各画像について取得する動き取得手段としても機能した。
また、CPU101は、前記各画像について取得された動き情報に基づいて、前記複数の画像を撮影した時のカメラ軌跡を取得する軌跡取得手段としても機能した。
また、CPU101は、前記取得されたカメラ軌跡に基づいて、前記複数の画像を撮影した時の理想カメラ軌跡を導出する導出手段としても機能した。
<実施例2>
実施例1では、補正動きベクトルが閾値よりも大きい場合、画像の変形処理を行わずに補間処理によってぶれが補正された画像を生成する場合について説明した。
実施例1では、補正動きベクトルが閾値よりも大きい場合、画像の変形処理を行わずに補間処理によってぶれが補正された画像を生成する場合について説明した。
本実施例では、補正動きベクトルが閾値よりも大きい場合、まず選択フレームの変形処理を行い、表示画面の画角中の空隙領域に対応する領域の画像を、他の画像を用いた補間処理により生成する。
以下、本実施例における処理を、図9に示すフローチャートを参照して説明する。本実施例では、補正動きベクトルが閾値thよりも大きいと判定された場合の処理が異なる。ステップS603で、補正動きベクトルが閾値thよりも大きいと判定された場合ステップS901に進む。
ステップS901では、動画データ補正部206が、ステップS606と同様に、補正動きベクトルを用いた変形処理を選択フレームに対して行う。
次に、ステップS902では、動画データ補正部206が、ステップS605と同様に、選択フレームに対して補間処理を行う。
次に、ステップS903では、動画データ補正部206が、ステップS902で出力された画像に、ステップS901で出力された画像を上書き合成して、ぶれ補正後のフレームとして出力する。この時、動画データ補正部206は、2枚の合成画像の境目が自然になるように、2枚の画像の間で対応点を探索し、その対応点が重なるように上書き合成を行う。
以上の処理によれば、動被写体が含まれており、手ぶれが大きいフレームに対しても、画角を狭めずにぶれ補正を行うことができる。
<実施例3>
実施例1では、フレーム中に動被写体が存在する場合には、補間処理を行わずに変形処理のみを行う例について述べた。本実施例では、フレーム中に動被写体が存在する場合には、動被写体が存在する領域を抽出し、動被写体領域と静止被写体領域のそれぞれについて補間処理を行って、画像合成を行う例について述べる。
実施例1では、フレーム中に動被写体が存在する場合には、補間処理を行わずに変形処理のみを行う例について述べた。本実施例では、フレーム中に動被写体が存在する場合には、動被写体が存在する領域を抽出し、動被写体領域と静止被写体領域のそれぞれについて補間処理を行って、画像合成を行う例について述べる。
以下、本実施例の画像処理装置100において行われる処理について、図10に示すフローチャートを参照して説明する。図3と同様の符号が付されているステップについては、実施例1と同様のステップなので、説明を省略する。
ステップS1001では、動被写体検出部203が、フレーム中の動被写体の有無だけではなく、フレーム中で動被写体に対応する画像領域を示す情報を、RAM102に記録する。フレーム中で動被写体に対応する画像領域としては、動きベクトルのヒストグラムにおいて、動被写体のピークとして検出された動きベクトルに対応する画像領域が、動被写体に対応する画像領域として抽出される。
ステップS1002では、カメラ軌跡導出部204が、カメラ軌跡だけではなく、ステップS1001で検出された動被写体領域に対応する動きベクトルに基づいて、動被写体の動きを示す動被写体軌跡も導出する。ここで、動被写体軌跡は、動被写体領域に対応する動きベクトルで求めた軌跡から、同様に求められたカメラ軌跡を引き、動被写体が検出された最初のフレームが原点に来るように軌跡を補正することで、動被写体の動きだけが抽出された軌跡が求められる。
以下、実施例1と同様に理想軌跡導出部205が理想カメラ軌跡の導出を行い、ステップS1004に進む。
ステップS1004の詳細について図11に示すフローチャートを参照して説明する。
ステップS1004の処理は基本的には実施例1のステップS307と同様であるが、本実施例では、実施例1のステップS604で、選択フレーム内に動被写体が存在すると判定された場合の処理が異なる。ステップS604で選択フレーム内に動被写体が存在すると判定された場合、ステップS1101に進む。
ステップS1101では、動画データ補正部206が、RAM102に記録された、動被写体に対応する画像領域を示す情報を読み出す。
次にステップS1102では、動画データ補正部206が、S1101で抽出された動被写体に対応する画像領域を選択フレームから抜き出し、ステップS1002で求められた動被写体軌跡に基づいて、補間処理を行う。また、動画データ補正部206は、補正動きベクトルの大きさが閾値以下であるフレームのうち、動被写体が含まれていない直近のフレームに基づいて、選択フレームに対応する補間画像を生成する。なお、補間処理の方法は実施例1と同様である。
そして、ステップS1103において、動画データ補正部206は、ステップS1102で生成された、動被写体領域に対応する画像を、同じくステップS1102で生成された、動被写体を含まない画像に上書き合成する。これにより生成された画像を、ぶれ補正後の画像として出力する。
以上の処理によれば、動被写体が含まれており、手ぶれが大きいフレームに対しても、画角を狭めずにぶれ補正を行うことができる。
<その他の実施形態>
上記の実施例では、撮影時のカメラ軌跡を、画像から求めた動きベクトルに基づいて導出したが、ジャイロセンサーなどの外部装置を用いて導出してもよい。
上記の実施例では、撮影時のカメラ軌跡を、画像から求めた動きベクトルに基づいて導出したが、ジャイロセンサーなどの外部装置を用いて導出してもよい。
また、上記の実施例では、フレーム内の全ての動きベクトルの平均を代表動きベクトルとしたが、画像内の静止被写体に対応する動きベクトルだけの平均を代表動きベクトルとしてもよい。例えば、そのように代表動きベクトルを決定すれば、実施例2の形態において動被写体が含まれている場合のぶれ補正の精度がより向上する。
また、補正動きベクトルを求める際に、カメラ軌跡と理想カメラ軌跡の差分だけに基づいて決定しなくてもよい。例えば、SFM(Structure From Motion)の技術を複数のフレームに適用して被写体空間の三次元情報を求め、被写体の距離に応じて被写体ごとに補正動きベクトルを求めてもよい。この技術を用いればより精度の高いぶれ補正処理が可能になる。
また、ぶれ補正に用いられるパラメータは補正動きベクトルに限られず、例えば、動きベクトルの値から大まかなぶれ情報を「縦ぶれ・大」のように決定し、それぞれのぶれ情報に対応する補正量をルックアップテーブルから読み出すようにしてもよい。
また、理想カメラ軌跡は実際のカメラ軌跡にローパスフィルタをかけたものに限られず、軌跡を平滑化するフィルタをかけたりしてもよい。また、あらかじめ計画しておいたカメラ軌跡を登録しておき、それを理想カメラ軌跡として用いてもよい。
また、上記の実施例では、動画データの先頭フレームを基準にしてカメラ軌跡を導出したが、本発明はこれに限定されない。例えば、シーンチェンジを検出し、各シーンの先頭フレームを基準にして複数のカメラ軌跡を導出してもよい。
さらに、本実施形態では、動きベクトルを、時間的に隣接する画像間の動き情報に基づいて導出したが、本発明はそれに限定されず、前後複数の画像間の動き情報に基づいて動きベクトルを導出してもよい。
なお、本発明は例えば、システム、装置、方法、プログラムもしくは記憶媒体等としての実施態様をとることが可能である。また、複数の機器から構成されるシステムに適用してもよいし、一つの機器からなる装置に適用してもよい。
また、本発明はソフトウェアのプログラムをシステム或いは装置に直接或いは遠隔から供給し、そのシステム或いは装置のコンピュータが該供給されたプログラムコードを読み出して実行することによって前述した実施形態の機能が達成される場合を含む。この場合、供給されるプログラムは実施形態で図に示したフローチャートに対応したコンピュータプログラムである。従って、本発明の機能処理をコンピュータで実現するために、該コンピュータにインストールされるプログラムコード自体も本発明を実現するものである。つまり、本発明は、本発明の機能処理を実現するためのコンピュータプログラム自体も含まれる。その場合、プログラムの機能を有していれば、オブジェクトコード、インタプリタにより実行されるプログラム、OSに供給するスクリプトデータ等の形態であってもよい。
コンピュータプログラムを供給するためのコンピュータ読み取り可能な記憶媒体としては例えば、ハードディスク、光ディスク、光磁気ディスクが挙げられる。また、MO、CD−ROM、CD−R、CD−RW、磁気テープ、不揮発性のメモリカード、ROM、DVD(DVD−ROM,DVD−R)などであってもよい。
その他、プログラムの供給方法としては、クライアントコンピュータのブラウザを用いてインターネットのホームページに接続し、該ホームページから本発明のコンピュータプログラムをハードディスク等の記憶媒体にダウンロードすることが挙げられる。この場合、ダウンロードされるプログラムは、圧縮され自動インストール機能を含むファイルであってもよい。また、本発明の機能処理をコンピュータで実現するためのプログラムファイルを複数のユーザに対してダウンロードさせるWWWサーバも、本発明に含まれるものである。
101 CPU
102 RAM
103 HDD
105 撮像装置
206 動画データ補正部
102 RAM
103 HDD
105 撮像装置
206 動画データ補正部
Claims (17)
- 複数の時点で撮像された一続きの画像群である複数の画像を取得する画像取得手段と、
前記複数の画像に含まれる、少なくとも1枚の画像のぶれを示すパラメータを取得するパラメータ取得手段と、
前記取得されたパラメータに基づいて、画像の変形処理と画像の補間処理のうちの一方を選択する選択手段と、
前記少なくとも1枚の画像について、前記選択された処理を行う補正手段とを備えることを特徴とする画像処理装置。 - 前記パラメータ取得手段は、前記複数の画像のそれぞれについて前記パラメータを取得し、
前記選択手段は、前記複数の画像のそれぞれについて、前記変形処理と前記補間処理のうちの一方を選択することを特徴とする請求項1に記載の画像処理装置。 - 前記選択手段は、前記パラメータが所定の閾値より大きい場合は補間処理を、前記パラメータが所定の閾値よりも小さい場合は変形処理を選択することを特徴とする請求項1又は2に記載の画像処理装置。
- 前記変形処理は、前記パラメータを用いて処理対象の画像を変形することで、前記ぶれが補正された画像を得る処理であることを特徴とする請求項1乃至3のいずれか一項に記載の画像処理装置。
- 前記補間処理は、処理対象の画像のぶれが補正された画像を、前記複数の画像に含まれる他の画像に基づいて生成する処理であることを特徴とする請求項1乃至4のいずれか一項に記載の画像処理装置。
- 前記補正手段は、前記選択された処理を前記選択された処理に対応する画像に行った後に、前記変形処理と前記補間処理のうちの選択されていない処理を前記選択された処理に対応する画像に行い、それぞれの処理の結果を合成することを特徴とする請求項1乃至5のいずれか一項に記載の画像処理装置。
- 前記複数の画像が撮像された時間を表わす時間軸上において、前記変形処理を行う区間と前記補間処理を行う区間とを判定する判定手段を更に備え、
前記補間処理は、前記補間処理を行う区間の外にある画像に基づいて、前記補間処理を行う区間に対応する画像を生成する処理であることを特徴とする請求項6に記載の画像処理装置。 - 前記補正手段は、前記補間処理を行う区間における理想的なカメラ位置に基づいて、前記補間処理を行う区間に対応する画像を生成することを特徴とする請求項7に記載の画像処理装置。
- 前記補間処理は、前記補間処理を行う区間の外にある画像を変形処理することで、前記補間処理を行う区間に対応する画像を生成する処理であることを特徴とする請求項6又は8に記載の画像処理装置。
- 前記複数の画像に含まれる動被写体を検出する検出手段を更に備え、
前記補正手段は、前記複数の画像において、前記動被写体が含まれる画像については、前記補間処理を行わないことを特徴とする請求項1乃至9のいずれか一項に記載の画像処理装置。 - 前記複数の画像に含まれる動被写体を検出する検出手段を更に備え、
前記補正手段は、前記補間処理が選択された画像に動被写体が含まれている場合、前記動被写体を含む画像領域と、前記動被写体を含まない画像領域のそれぞれに、異なる補間処理を行うことを特徴とする請求項1乃至9のいずれか一項に記載の画像処理装置。 - 前記複数の画像において、時間的に隣接する画像間の動き情報を各画像について取得する動き取得手段を更に備え、
前記パラメータ取得手段は、前記動き情報に基づいて前記パラメータを取得することを特徴とする請求項1乃至11のいずれか一項に記載の画像処理装置。 - 前記各画像について取得された動き情報に基づいて、前記複数の画像を撮影した時のカメラ軌跡を取得する軌跡取得手段と、
前記取得されたカメラ軌跡に基づいて、前記複数の画像を撮影した時の理想カメラ軌跡を導出する導出手段と、を更に備え、
前記パラメータ取得手段は、前記軌跡取得手段によって取得されたカメラ軌跡と、前記導出手段によって導出された理想カメラ軌跡との差分に基づいて前記パラメータを取得することを特徴とする請求項12に記載の画像処理装置。 - 前記パラメータは前記変形処理における画像のシフトの大きさを示すベクトルであることを特徴とする請求項1乃至13のいずれか一項に記載の画像処理装置。
- 複数の時点で撮像された一続きの画像群である複数の画像を取得するステップと、
前記複数の画像のぶれを示すパラメータを、前記複数の画像のそれぞれについて取得するステップと、
前記複数の画像のそれぞれについて、前記パラメータに基づいてぶれ補正処理と画像の補間処理のうちの一方を選択するステップと、
前記複数の画像のそれぞれについて、前記選択された処理を行うステップとを有することを特徴とする画像処理方法。 - コンピュータを請求項1乃至14のいずれか一項に記載の画像処理装置の各手段として機能させるためのプログラム。
- 複数の時点で撮像された一続きの画像群である複数の画像に含まれる、少なくとも1枚の画像のぶれを補正する画像処理装置であって、
前記少なくとも1枚の画像のぶれを示すパラメータを取得するパラメータ取得手段と、
前記パラメータに基づいて、前記少なくとも1枚の画像についてぶれ補正処理を行う補正手段とを備え、
前記補正手段は、前記パラメータが所定の閾値よりも大きい場合は画像の補間処理を行い、前記パラメータが前記所定の閾値よりも小さい場合は画像の変形処理を行うことを特徴とする画像処理装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013215552A JP2015079329A (ja) | 2013-10-16 | 2013-10-16 | 画像処理装置、画像処理方法およびプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013215552A JP2015079329A (ja) | 2013-10-16 | 2013-10-16 | 画像処理装置、画像処理方法およびプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2015079329A true JP2015079329A (ja) | 2015-04-23 |
Family
ID=53010712
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2013215552A Pending JP2015079329A (ja) | 2013-10-16 | 2013-10-16 | 画像処理装置、画像処理方法およびプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2015079329A (ja) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2017220715A (ja) * | 2016-06-03 | 2017-12-14 | キヤノン株式会社 | 画像処理装置、画像処理方法、プログラム |
JP2020120362A (ja) * | 2019-01-28 | 2020-08-06 | キヤノン株式会社 | 画像処理装置、画像処理方法、及びプログラム |
JP7406695B2 (ja) | 2019-12-17 | 2023-12-28 | 株式会社竹中工務店 | 画像処理装置及び画像処理プログラム |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH10210350A (ja) * | 1997-01-22 | 1998-08-07 | Sony Corp | ビデオカメラの手振れ補正装置及び方法 |
JP2002359775A (ja) * | 2001-03-28 | 2002-12-13 | Sanyo Electric Co Ltd | テレシネ変換方法 |
JP2005027046A (ja) * | 2003-07-02 | 2005-01-27 | Sony Corp | 画像処理装置及び画像処理方法 |
JP2005267622A (ja) * | 2004-02-18 | 2005-09-29 | Matsushita Electric Ind Co Ltd | 画像補正方法および画像補正装置 |
JP2008005109A (ja) * | 2006-06-21 | 2008-01-10 | Sony Corp | 手振れ補正方法、手振れ補正方法のプログラム、手振れ補正方法のプログラムを記録した記録媒体及び手振れ補正装置 |
-
2013
- 2013-10-16 JP JP2013215552A patent/JP2015079329A/ja active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH10210350A (ja) * | 1997-01-22 | 1998-08-07 | Sony Corp | ビデオカメラの手振れ補正装置及び方法 |
JP2002359775A (ja) * | 2001-03-28 | 2002-12-13 | Sanyo Electric Co Ltd | テレシネ変換方法 |
JP2005027046A (ja) * | 2003-07-02 | 2005-01-27 | Sony Corp | 画像処理装置及び画像処理方法 |
JP2005267622A (ja) * | 2004-02-18 | 2005-09-29 | Matsushita Electric Ind Co Ltd | 画像補正方法および画像補正装置 |
JP2008005109A (ja) * | 2006-06-21 | 2008-01-10 | Sony Corp | 手振れ補正方法、手振れ補正方法のプログラム、手振れ補正方法のプログラムを記録した記録媒体及び手振れ補正装置 |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2017220715A (ja) * | 2016-06-03 | 2017-12-14 | キヤノン株式会社 | 画像処理装置、画像処理方法、プログラム |
JP2020120362A (ja) * | 2019-01-28 | 2020-08-06 | キヤノン株式会社 | 画像処理装置、画像処理方法、及びプログラム |
JP7191711B2 (ja) | 2019-01-28 | 2022-12-19 | キヤノン株式会社 | 画像処理装置、画像処理方法、及びプログラム |
JP7406695B2 (ja) | 2019-12-17 | 2023-12-28 | 株式会社竹中工務店 | 画像処理装置及び画像処理プログラム |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10404917B2 (en) | One-pass video stabilization | |
JP4534172B2 (ja) | 画像処理装置、画像処理方法、及びプログラム | |
US9838604B2 (en) | Method and system for stabilizing video frames | |
US10306210B2 (en) | Image processing apparatus and image capturing apparatus | |
KR102141290B1 (ko) | 화상 처리 장치, 화상 처리 방법, 화상 처리 프로그램 및 기억 매체 | |
US20160078598A1 (en) | Image processor and image processing method | |
JP2014187610A (ja) | 画像処理装置、画像処理方法、プログラムおよび撮像装置 | |
KR102069269B1 (ko) | 영상 안정화 장치 및 방법 | |
JP6261205B2 (ja) | 画像処理装置 | |
US20120002842A1 (en) | Device and method for detecting movement of object | |
US10482580B2 (en) | Image processing apparatus, image processing method, and program | |
JP6270413B2 (ja) | 画像処理装置、撮像装置、および画像処理方法 | |
GB2553447A (en) | Image processing apparatus, control method thereof, and storage medium | |
JP2015079329A (ja) | 画像処理装置、画像処理方法およびプログラム | |
JP6282133B2 (ja) | 撮像装置、その制御方法、および制御プログラム | |
US11457158B2 (en) | Location estimation device, location estimation method, and program recording medium | |
US11477384B2 (en) | Information processing apparatus, imaging apparatus, information processing method, control method for imaging apparatus, and storage medium for notifying of a subject blur occuring in a captured image | |
JP4482933B2 (ja) | 動きベクトル検出装置、画像表示装置、画像撮像装置、動きベクトル検出方法、プログラムおよび記録媒体 | |
US20190327390A1 (en) | Image processing apparatus, image capturing apparatus, image processing method, and storage medium | |
JP6245968B2 (ja) | 画像処理装置、撮像装置および制御方法 | |
EP3836540B1 (en) | Image processing apparatus and image capturing apparatus | |
JP2007028251A (ja) | 画像処理装置、画像処理方法、プログラムおよび記録媒体 | |
JP2015177528A (ja) | 画像処理装置、画像処理方法、及びプログラム | |
KR101823077B1 (ko) | 고해상도 영상 획득 장치 및 방법 | |
CN110692235B (zh) | 图像处理装置、图像处理程序及图像处理方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20160929 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20170825 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20170926 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20180403 |