JP2004274460A - キーフレーム選択装置およびキーフレーム選択方法 - Google Patents
キーフレーム選択装置およびキーフレーム選択方法 Download PDFInfo
- Publication number
- JP2004274460A JP2004274460A JP2003063541A JP2003063541A JP2004274460A JP 2004274460 A JP2004274460 A JP 2004274460A JP 2003063541 A JP2003063541 A JP 2003063541A JP 2003063541 A JP2003063541 A JP 2003063541A JP 2004274460 A JP2004274460 A JP 2004274460A
- Authority
- JP
- Japan
- Prior art keywords
- image
- key frame
- frame
- frames
- test
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Television Signal Processing For Recording (AREA)
Abstract
【課題】連続する画像フレームの中から適切にキーフレームを選択する
【解決手段】連続する複数のオリジナル画像フレーム31〜35が記憶手段に記憶される。試験処理手段は、それら複数のオリジナル画像フレーム31〜35のうちの複数の画像フレームを試験用画像フレームとして、試験用画像フレーム間の相関に基づいて内挿等により再現画像を生成する処理の少なくとも一部を試験的に行なう。試験処理結果に基づいてキーフレームが選択される。試験処理により、再現画像の質を確保しつつ、キーフレームの間隔を広くできる。試験処理では、再現画像そのものが作られてもよいが、相関関数を求めるまでの処理が行われてもよく、処理量を削減できる。
【選択図】 図1
【解決手段】連続する複数のオリジナル画像フレーム31〜35が記憶手段に記憶される。試験処理手段は、それら複数のオリジナル画像フレーム31〜35のうちの複数の画像フレームを試験用画像フレームとして、試験用画像フレーム間の相関に基づいて内挿等により再現画像を生成する処理の少なくとも一部を試験的に行なう。試験処理結果に基づいてキーフレームが選択される。試験処理により、再現画像の質を確保しつつ、キーフレームの間隔を広くできる。試験処理では、再現画像そのものが作られてもよいが、相関関数を求めるまでの処理が行われてもよく、処理量を削減できる。
【選択図】 図1
Description
【0001】
【発明の属する技術分野】
本発明は、連続する複数のオリジナル画像フレームからキーフレームを選択する装置および方法に関する。
【0002】
【従来の技術】
従来より、連続する複数の画像フレーム、典型的には動画像からキーフレームを選択する技術が知られている。選択されたキーフレームを保存しておいて、必要なときにキーフレーム間で内挿処理を施すことにより、キーフレーム間の任意の画像フレームに対応する中間画像を生成することができる。したがって、この技術によれば、元の動画像の情報量を少なくしたうえで任意の画像フレームを再現できる。
【0003】
キーフレームを選択する処理としては、連続する複数の画像フレームからあらかじめ決められた一定のフレーム間隔で無作為にキーフレームを選択する処理が知られている。また、連続する複数の画像中の重要部分の動き情報に基づいてフレーム間の変化を評価してキーフレームを選択する処理も知られており、例えば特開2000−182065号公報に開示されている。
【0004】
【特許文献1】
特開2000−182065号公報(第8−9頁、第1図)
【0005】
【発明が解決しようとする課題】
しかしながら、上記従来のキーフレーム選択技術には、以下のような問題がある。
【0006】
まず、一定間隔でキーフレームを無作為に選択する処理については、動画像中での被写体の動きが速いと、隣り合う画像フレーム間の変化が大きくなる。この場合に、一定間隔でキーフレームを選択すると、隣り合うキーフレーム間で画像の内容が大きく異なり、そのようなキーフレームに内挿処理を施しても適切な中間画像が得られないことがある。特に、あるキーフレームから次のキーフレームまでの間に被写体の一部が画像からはみ出たり、新たな被写体部分が画像内に入ってきたりすると、そのような被写体の一部が、内挿処理では適切に再現できなくなる。
【0007】
このような問題が生じる可能性を低下させるために、キーフレームの間隔を狭くすることも考えられる。しかし、キーフレームの間隔を狭くすれば、キーフレームの数が増えて、保存しておくべき情報量が大きくなるという問題がある。
【0008】
また、もう一つの従来技術、すなわち画像中の重要部分の動き情報に基づいてキーフレームを選択する処理では、選択されたキーフレームによって実際に生成される中間画像の画質が考慮されていない。このため、最適なキーフレームが選択されず、適切な中間画像が得られないことがある。
【0009】
ここでは、キーフレームから内挿処理で中間画像を生成する場合を取り上げて従来技術を説明したが、キーフレームを用いた画像処理には、外挿処理が適用されてもよい。さらに、その他の処理によってキーフレームからそれ以外の画像が再現されてもよく、このような場合にも上記の問題が同様に生じ得る。
【0010】
本発明は、このような問題を解決するためになされたもので、連続する画像フレームの中からキーフレームを適切に選択するための技術を提供するものである。
【0011】
【課題を解決するための手段】
本発明のキーフレーム選択装置は、連続する複数のオリジナル画像フレームを記憶する記憶手段と、前記複数のオリジナル画像フレームのうちの複数の画像フレームを試験用画像フレームとし、それらの試験用画像フレーム間の相関に基づいて再現画像を生成する画像再現処理の少なくとも一部を試験的に行なう試験処理手段と、前記試験処理手段により処理した結果に基づいて、前記複数のオリジナル画像フレームから、フレーム間の相関に基づく画像生成のために保持すべきキーフレームを選択する選択手段とを含んでいる。
【0012】
ここで、再現画像は、上述のように複数のキーフレームから得られる画像であって、時間軸上でキーフレーム以外の画像である。典型的には、内挿処理による中間画像が再現画像に相当するが、内挿以外の他の処理、例えば外挿処理が行なわれてよい。また、典型的には、各再現画像は2枚のキーフレームから生成されるが、3枚以上のキーフレームから生成されてもよい。
【0013】
上記の構成により、画像再現処理の少なくとも一部を試験的に行なった結果に基づいてキーフレームが選択されるので、実際に生成される再現画像の質の優劣に基づいたキーフレームの選択ができる。これにより、キーフレーム間隔を広くとりつつ、再現画像の質を確保できるようにキーフレームを選択できる。
【0014】
また、本発明のキーフレーム選択装置では、前記試験処理手段は、前記画像再現処理により再現画像を生成し、前記選択手段は、前記画像再現処理により生成された再現画像とその再現画像に対応するオリジナル画像フレームの画像との比較に基づいてキーフレームを選択する。
【0015】
この構成により、実際に再現画像が生成され、その再現画像がオリジナル画像フレームの画像と比較された上でキーフレームが選択されるので、再現画像の質がどのようになるかの判定に基づいたキーフレームの選択ができる。
【0016】
また、本発明のキーフレーム選択装置では、前記試験処理手段は、前記画像再現処理のうちの再現画像を生成するための相関関数を求める処理を行ない、前記選択手段は、前記複数の試験用画像フレームのいずれかの画像フレームが順次異なるときの前記試験処理手段で求めた相関関数の変化に基づいてキーフレームを選択する。
【0017】
この構成では、画像再現処理の一部である相関関数を求める処理を行なってキーフレームを選択する。相関関数を用いることでも、実際に再現画像を作成したときの質の優劣が求められる。そして、この構成によれば、実際の再現画像の生成までは行なわないので、キーフレーム選択のための処理量が少なく抑えられ、処理時間を短縮可能である。
【0018】
本発明は、上述したような装置の態様に限定されない。本発明の別の態様は、キーフレーム選択方法、キーフレーム選択方法をコンピュータに実行させるプログラムおよびそのプログラムを格納した記録媒体である。
【0019】
【発明の実施の形態】
以下、本発明の実施の形態について、図面を用いて説明する。本実施の形態において、キーフレームは、連続する複数の画像フレーム(本実施の形態では動画像)からキーフレーム選択装置により選択されて、キーフレーム以外の画像を後に再現するために保存される。再現処理としては、典型的には内挿処理および外挿処理が知られているが、本実施の形態では内挿処理を想定する。そして、内挿処理により生成される中間画像が本発明の再現画像に相当する。
【0020】
(第1の実施の形態)
図1は、第1の実施の形態の試験処理を説明する図であり、図2は、第1の実施の形態のキーフレーム選択装置の構成図である。以下、図2を参照してキーフレーム選択装置の構成を説明し、それから、図1および図2を参照してキーフレーム選択装置の動作を説明する。
【0021】
図2に示すように、キーフレーム選択装置10は、記憶部11、中間画像生成部12、比較部13、キーフレーム判定部14および制御部15を備えている。また、キーフレーム選択装置10は、図示しない入力インターフェースおよび出力インターフェースを備えている。なお、図2では、画像信号の流れを単線の矢印で示しており、制御信号の流れを二重線の矢印で示している。
【0022】
記憶部11は、直列に接続されたN個のフレームメモリを備えており、連続する複数の画像フレームを記憶する。記憶部11の複数のフレームメモリにはキーフレームを選択する対象である複数の画像フレームが記憶されるが、フレームメモリの個数Nは、それらの画像フレームから選択されると予想されるキーフレームの間隔よりも十分に大きい。例えば、10枚程度の画像フレームごとにキーフレームが選択されると予想されるときには、フレームメモリの個数Nは15個などとする。
【0023】
中間画像生成部12は、2つの画像フレームの間の相関を表す内挿関数を演算により求める。この内挿関数は、時間をパラメータとして、線形補間やスプライン補間などによって2つの画像を補間して中間画像を生成するための関数である。したがって、2つの画像フレーム間の相関を表す内挿関数の時間パラメータに任意の時間を代入することにより、両画像フレーム間の中間画像を生成することができる。中間画像生成部12は、内挿関数の時間パラメータに具体的な値を代入することにより中間画像を生成する。
【0024】
記憶部11および中間画像生成部12は、入力インターフェースに接続されている。入力インターフェースを介して入力された入力画像は記憶部11および中間画像生成部12に送られる。
【0025】
比較部13は、2つの画像間の差分が所定の判定基準を越えるか否かを判断することにより、両画像を比較する。具体的には、比較部13は、2つの画像間で対応する画素同士の輝度、色相、彩度などの差分を求めて、これを判定基準と比較する。判定基準は、選択されたキーフレームの用途に応じてあらかじめ設定されて記憶されている。例えば、差分の合計値が所定の閾値と比較される。
【0026】
比較部13は、さらに、比較の結果を示す制御信号(以下、比較結果信号という)をキーフレーム判定部14に出力する。キーフレーム判定部14は、比較結果信号に基づいて、記憶部11に記憶されたいずれの画像フレームをキーフレームとするかを判定する。
【0027】
制御部15は、キーフレーム選択装置10の全体の制御を行なう。制御部15は、記憶部11から取得した画像フレームを中間画像生成部12および比較部13に出力する。また、制御部15は、キーフレーム判定部14から入力された制御信号に基づいて、出力インターフェースを介して、選択されたキーフレームを出力する。
【0028】
次に、図1および図2を参照して、具体的な動画像例を用いて、キーフレーム選択装置10の動作を説明する。
【0029】
本実施の形態のキーフレーム選択処理では、動画像を構成する複数の画像フレームからなる入力画像が入力インターフェースに順次入力される。画像フレームは順次記憶部11に蓄積される。その結果、記憶部11の入力側からみて奥の方(図2では下の方)のフレームメモリに時間軸上で最初の画像フレーム31が蓄積され、画像フレーム31が蓄積されたフレームメモリから入力側に向かって(図2では上方向に向かって)、各フレームメモリに時間経過順に画像フレームがそれぞれ蓄積される。各画像フレームは、中間画像生成部12にも入力される。なお、記憶部11が本発明の記憶手段に相当する。
【0030】
制御部15は、記憶部11に記憶されている画像フレームのうち、最後にキーフレームとして選択された画像フレームを基準キーフレームとして中間画像生成部12に出力する。いま、画像フレーム31が最後にキーフレームとして選択された画像フレームであるとすると、制御部15は、この画像フレーム31を中間画像生成部12に出力する。そして、中間画像生成部12は、この基準キーフレームと、入力インターフェースから入力されてくる最新の画像フレーム(候補キーフレーム)とを用いて中間画像を生成する。
【0031】
図1に示すように、基準キーフレームである画像フレーム31と候補キーフレームである画像フレーム33との内挿処理により、画像フレーム32に対応する中間画像36が生成される。この処理において、中間画像生成部12は、画像フレーム33と画像フレーム31とを用いて、これらの画像フレーム間の相関を表す内挿関数を求める。そして、中間画像生成部12は、内挿関数の時間パラメータに、画像フレーム31から画像フレーム33までの所要時間の半分の時間を代入することで、画像フレーム32に対応する中間画像36を生成する。本実施の形態では、中間画像生成部12が本発明の試験処理手段を構成し、中間画像生成部12で試験的に中間画像を生成する処理が本発明の試験処理に相当する。また、内挿関数を求めて、その内挿関数によって中間画像を生成するまでの処理が、本発明の画像再現処理に相当する。
【0032】
ここで、理想的には、中間画像36は画像フレーム32の画像と一致する。ただし、実際には内挿関数を求めた際の丸め誤差等に起因して、中間画像36と画像フレーム32の画像とは完全には一致しない。そこで、比較部13は、中間画像36と画像フレーム32の画像とを比較して、両画像の差分が所定の判定基準を越えるか否かを判断する。このために、制御部15は、比較対象の画像フレーム32を比較部13に出力する。そして、比較部13は、比較の結果を示す比較結果信号をキーフレーム判定部14に出力する。図1の例では、比較部13は、両画像間の差分が判定基準を越えていないと判断して、その旨の比較結果信号をキーフレーム判定部14に出力する。
【0033】
キーフレーム判定部14は、差分が判定基準を越えない旨の比較結果信号を受けたときには、制御部15に対してキーフレームを更新しないで処理を継続するための制御信号(以下、継続制御信号という)を出力する。制御部15は、この継続制御信号に従って、処理を継続する。
【0034】
中間画像生成部12は、画像フレーム33が入力されたときと同様に、候補キーフレームとして中間画像生成部12に入力された画像フレーム34と基準キーフレームである画像フレーム31との間の相関を表す内挿関数を求める。そして、中間画像生成部12は、内挿関数の時間パラメータに、画像フレーム31から画像フレーム34までの所要時間の3分の1、および3分の2の時間をそれぞれ代入することにより、画像フレーム32および画像フレーム33のそれぞれの画像に対応する中間画像を生成する。
【0035】
このとき生成される中間画像は、図1では省略されているが、それらの中間画像に対しても上述の比較部13による比較処理が行なわれる。ここでは、比較の結果として、2枚の中間画像のそれぞれについて差分が判断基準を越えなかったものとする。その旨の比較結果信号がキーフレーム判定部14に出力され、キーフレーム判定部14は、比較結果信号に基づいて制御部15に継続制御信号を出力する。
【0036】
このようにして、比較部13による比較の結果、差分が判定基準を越えるまで、順次入力される画像フレームと最新のキーフレームとを用いた中間画像生成処理および比較の処理を繰り返す。図1の例では、次の画像フレーム35を候補キーフレームとしたときに差分が判定基準を越える。
【0037】
すなわち、中間画像37、38は、画像フレーム35を候補キーフレームとして、基準キーフレームとの間の内挿により生成された中間画像である。図1に示されるように、画像フレーム35の画像では、自動車の前部が画像外にはみ出している。したがって、このような画像フレーム35を用いて中間画像を生成すると、中間画像37、38のように自動車の前部が適切に再現できない。このことは、画像フレーム35を次のキーフレームとして選択するのが適切でないことを意味する。
【0038】
このような中間画像37、38をそれらが対応する画像フレーム32、33の画像と比較すると、画像間の差分が判定基準を越える。したがって、比較部13は、画像間の差分が判定基準を越えると判断して、その旨の比較結果信号をキーフレーム判定部14に出力する。キーフレーム判定部14は、この比較結果信号に従って、制御部15に対して、キーフレームを選択するための制御信号(以下、選択制御信号という)を出力する。制御部15は、選択制御信号に従って、記憶部11に記憶された画像フレームの中からキーフレームを選択して、キーフレームを更新する。
【0039】
選択制御信号は、差分が判定基準を越える中間画像を生成したときに用いた画像フレームの1つ前の画像フレームをキーフレームとして選択するをことを指示する制御信号である。本実施形態では、差分が小さいほどオリジナルの画像に近い画像が再現されることを利用し、オリジナルの画像を必要な程度に再現できるように、すなわち、再現画像の質が確保されるように判定基準が設定されている。キーフレームに基づいて生成する再現画像に高い再現性が要求されるときには、元の動画像を構成する画像フレームとの差分が小さい再現画像を生成できるキーフレームを選択するために、判定基準は厳しく設定される。
【0040】
したがって、差分が判定基準を越える中間画像を生成したときに用いた画像フレームの1つ前の画像フレームは、適切に再現画像を生成することができる画像フレームのうちで最も基準キーフレームから遠い画像フレームである。このような画像フレームをキーフレームとして選択することによって、オリジナルの画像を適切に再現できるキーフレームが選択されるとともに、動画像の情報量を十分に小さく抑えることができる。
【0041】
図1の例では、既に述べたように、画像フレーム35を候補キーフレームとして中間画像を生成したときに画像間の差分が判定基準を越えるので、その1つ前の画像フレーム34が次のキーフレームとして選択される。ここで、比較結果信号に基づいて選択制御信号を出力するキーフレーム判定部14と、選択制御信号に従ってキーフレームを選択する制御部15とによって、本発明の選択手段が構成される。
【0042】
制御部15は、新たなキーフレームを記憶するための処理を行なう。例えば、第2のキーフレームとして選択された画像フレーム34は、出力インターフェースを介して出力され、図示しない記憶装置に記憶される。そして、キーフレーム選択装置10は、上述の処理と同様にして、新たなキーフレームとその後の画像フレームを中間画像生成部12に出力する。中間画像生成部12は、新たなキーフレームを基準キーフレームとし、順次入力される画像フレームを候補キーフレームとして、次のキーフレームを選択するための処理を行なう。
【0043】
このようにしてキーフレームを順次更新していきながらキーフレームを選択していき、動画像を構成する複数の画像フレームの最後の画像フレームまで達したら、最後の画像フレームを最後のキーフレームとして選択してキーフレーム選択処理を終了する。なお、本実施の形態で、中間画像生成部12にて中間画像を生成するために用いられる基準キーフレームおよび候補キーフレームが本発明の試験用画像フレームに相当する。
【0044】
図3は、上述のキーフレーム選択処理を示すフローチャートである。本実施の形態のキーフレーム選択処理では、基準キーフレームと候補キーフレームとを用いた内挿処理により試験的に中間画像が生成される(ステップ51)。ここで、基準キーフレームは、既にキーフレームとして選択された画像フレームであり、候補キーフレームは、そのキーフレームの次のキーフレームの候補として試験的に用いられるものである。
【0045】
試験的に生成された中間画像は、その画像に対応するオリジナルの画像フレームの画像と比較される(ステップ52)。両者の差分が判定基準よりも小さいときには、基準キーフレームを更新することなくステップ51に戻り、次の中間画像を生成する。このようにして、中間画像とそれに対応するオリジナル画像との差分が判定基準より大きくなるまでステップ51およびステップ52の処理を繰り返す。
【0046】
両者の差分が判定基準より大きくなったときには、キーフレームが選択される(ステップ53)。ステップ53では、ステップ52で判定基準を越えた中間画像を生成するのに用いた候補キーフレームの1つ前の候補キーフレームがキーフレームとして選択される。
【0047】
ステップ53にてキーフレームが選択されると、次のキーフレームを選択するために、ステップ51に戻り、上記と同様の処理が行われる。このとき、直前のステップ53で選択されたキーフレームが基準キーフレームとされて、そのキーフレームより後の画像フレームが順次候補キーフレームとされてステップ51およびステップ52の処理が行なわれる。
【0048】
以上説明したように、本実施の形態のキーフレーム選択装置10によれば、元の動画像を表す複数の画像フレームから内挿により中間画像を生成して、その中間画像の質を評価した上でキーフレームを選択できる。したがって、キーフレームを用いて生成される再現画像の質が保証され、このようにして選択されたキーフレームを用いれば所定の基準を下回る再現画像が生成されるのを回避できる。
【0049】
また、キーフレーム選択装置10は、上述したように、中間画像とそれが対応するオリジナルの画像との差分が判定基準を越える画像フレームの1つ前の画像フレームをキーフレームとして選択する。すなわち、キーフレーム選択装置10は、適切に中間画像を生成することができる画像フレームのうちの、基準キーフレームから最も遠い画像フレームをキーフレームとして選択する。したがって、キーフレーム間隔を広くとりつつ、キーフレームにより再現される再現画像の質を確保できる。
【0050】
次に、上記のキーフレーム選択装置10と同様の機能を有する装置および上記のキーフレーム選択処理と同様の処理をコンピュータプログラムでソフトウェア的に実現する構成を説明する。このプログラムは、例えば、パーソナルコンピュータ(以下、PCと記す)などの汎用コンピュータで実行される。そして、このコンピュータプログラムにより、コンピュータ上で画像処理プラットフォームが規定される。
【0051】
図4のフローチャートは、上述の画像処理プラットフォームを規定するためのコンピュータプログラムの例を示している。
【0052】
まず、画像処理プラットフォームに入力された画像データがワークメモリに蓄積される(ステップ71)。ここでは、画像データは、時間の経過順にフレームごとにワークメモリに蓄積される。次に、前回の処理ループで選択済みのキーフレームを読み出し、基準キーフレームとして設定する。ただし、最初のループではキーフレームは未だ選択されていないので、最初に読み込まれた画像データを基準キーフレームとして設定する。
【0053】
次に、基準キーフレームと候補キーフレームから内挿により中間画像を生成する(ステップ72)。この中間画像生成処理では、現時点で読み込まれている最新の画像データを候補キーフレームとして、その候補キーフレームと基準キーフレームとの間の相関を表す内挿関数を求める。そして、内挿関数の時間パラメータに具体的な値を代入して両フレーム間の中間画像を生成する。ただし、最初のループと2回目のループでは基準キーフレームと候補キーフレームとが同一フレームまたは隣り合うフレームとなるため、最初のループと2回目のループではステップ72からステップ74までの処理をスキップして次のループ処理に移行する。
【0054】
次に、ワークメモリに蓄積されている画像フレームの中から、生成された中間画像に対応する画像フレームの画像を読み出し、生成された中間画像と比較する(ステップ73)。そして、ステップ73での比較の結果に基づいて最適なキーフレームを判定する(ステップ74)。このステップ74では、2つの画像間の差分が予め定めておいた判断基準以下である場合は、キーフレームを選択せずにそのまま次のループに移行する。一方、画像間の差分が判断基準を超えている場合には1つ前のループで用いた候補キーフレームを次のキーフレームとして選択し、選択したキーフレームを次のループの基準キーフレームとして設定する。
【0055】
以上説明したように、汎用コンピュータがプログラムを実行することによっても上記のキーフレーム選択装置10およびキーフレーム選択装置10が実行するキーフレーム選択処理を実現することができる。
【0056】
なお、プログラムは、可搬型の記録媒体に記録され、コンピュータがその記録媒体を読取ることによってコンピュータにロードされてもよい。また、プログラムは、通信ネットワークを経由してコンピュータにロードされてもよい。
【0057】
(第2の実施の形態)
図5および図6は、第2の実施の形態の試験処理を説明する図であり、図7は、第2の実施の形態のキーフレーム選択装置の構成図である。以下、図7を参照してキーフレーム選択装置の構成を説明し、それから、図5〜図7を参照してキーフレーム選択装置の動作を説明する。
【0058】
図7に示すように、キーフレーム選択装置20は、記憶部11、内挿関数演算部22、内挿関数変化記録部23、キーフレーム判定部14および制御部15を備えている。また、キーフレーム選択装置20は、図示しない入力インターフェースおよび出力インターフェースを備えている。なお、図7では、図2と同様に、画像信号の流れを単線の矢印で、制御信号の流れを二重線の矢印で示している。
【0059】
キーフレーム選択装置20は、第1の実施の形態のキーフレーム選択装置10の中間画像生成部12、比較部13が、それぞれ内挿関数演算部22と内挿関数変化記録部23に置き換わっている点を除いてキーフレーム選択装置10の構成と同じである。図7において、図2に示す第1の実施の形態のキーフレーム選択装置10の構成要素と同一の構成要素については、同一の符号を付してその説明を省略する。
【0060】
キーフレーム選択装置20の内挿関数演算部22は、演算により2つの画像フレーム間の相関を表す内挿関数を求める。内挿関数変化記録部23は、内挿関数演算部22が求めた内挿関数を記録し、それらの内挿関数間の変化を求めて、その変化を記録する。
【0061】
第1の実施の形態で説明した通り、内挿関数は、時間をパラメータとして、直線補間やスプライン補間などの補間により中間画像を生成するための関数である。2枚の画像から直線補間を行なう場合を例にとって、内挿関数変化記録部23による内挿関数の変化の評価方法を説明すると、直線補間は、原理的には、fmn(x,y)(t)=amn・t+(x,y)によって表される。ここで、m、nは内挿関数を求めた際に用いた画像フレームのフレーム番号であり、本実施の形態の場合には、mが基準キーフレーム、nが候補キーフレームに相当する。また、(x、y)は画像内の画素位置であり、amnは直線補間ベクトル(2次元ベクトル)であり、tは時間パラメータである。この場合、候補キーフレームを変えていくと、基準キーフレームとの変化の度合に応じて直線補間ベクトルも変わっていく。
【0062】
そこで、内挿関数変化記録部23は、内挿関数を求めるのに用いる候補キーフレームが異なるときの直線補間ベクトルの変化、例えば、ベクトルの差分の絶対値を変化量として求める。そして、その変化をあらかじめ記憶されている適当な閾値等の判定基準と比較して、比較結果を表す比較結果信号をキーフレーム判定部24に出力する。判定基準は、選択されたキーフレームの用途に応じてあらかじめ設定されて記憶されている。なお、ここでは、1つの画素の画像補間に着目したが、実際には、画像全体または適当な範囲を対象として相関関数の変化を求め、判定基準と比較する処理が行なわれる。
【0063】
次に、図5〜図7を参照して、上記のように構成されたキーフレーム選択装置20によって実行されるキーフレーム選択処理を説明する。
【0064】
本実施の形態のキーフレーム選択処理では、第1の実施の形態と同様にして、記憶部11および内挿関数演算部22に画像フレームが入力される。制御部15は、まず、第1番目の画像フレームを第1のキーフレームとして選択する。そして、この第1のキーフレームに続く第2のキーフレームを選択するために以下の処理を行なう。
【0065】
制御部15は、記憶部11に記憶されている画像フレームのうち、最後にキーフレームとして選択された画像フレームを基準キーフレームとして内挿関数演算部22に出力する。いま、画像フレーム41が最後にキーフレームとして選択された画像フレームであるとすると、制御部15は、この画像フレーム41を内挿関数演算部22に出力する。そして、内挿関数演算部22は、この基準キーフレームと、入力インターフェースから入力されてくる最新の画像フレーム(候補キーフレーム)とを用いて内挿関数を生成する。内挿関数演算部22は、まず、図5に示すように、基準キーフレームである画像フレーム41と候補キーフレームである画像フレーム43によって内挿関数f13を求めて、これを内挿関数変化記録部23に記録する。
【0066】
本実施の形態では、第1の実施の形態と異なり、内挿関数を用いて実際に中間画像を生成する処理までは行なわない。ただし、第1の実施の形態で説明したように、中間画像を生成する処理では、まず内挿関数を求めて、その内挿関数の時間パラメータに値を代入するので、内挿関数を求める処理は中間画像を生成する処理の一部である。なお、本実施の形態では、内挿関数演算部22が本発明の試験処理手段を構成し、内挿関数演算部22で試験的に内挿関数を求める処理が本発明の試験処理に相当する。また、内挿関数を求める処理が、本発明の画像再現処理の一部に相当する。
【0067】
次に、制御部15は、第4番目のフレームである画像フレーム44を候補キーフレームとして記憶部11から内挿関数演算部22に出力する。そして、内挿関数演算部22は、この画像フレーム44と画像フレーム41とを用いて内挿関数f14を求めて、これを内挿関数変化記録部23に記録する。そして、内挿関数変化記録部23は、内挿関数f13とf14との間の変化、具体的には、前述の直線補間ベクトルの変化量を求める。内挿関数変化記録部23は、求めた変化量をあらかじめ記憶されている判断基準と比較して、比較結果信号をキーフレーム判定部14に出力する。
【0068】
キーフレーム判定部14は、内挿関数の変化が判定基準を越えない旨の比較結果信号を受けたときには、第1の実施の形態と同様に、制御部15に継続制御信号を出力する。そして、制御部15は、継続制御信号に従って、基準キーフレームを更新することなく、最後に選択されたキーフレームを内挿関数演算部22に出力する。そして、内挿関数演算部22は、入力インターフェースから順次入力されてくる画像フレーム(候補キーフレーム)と制御部15から入力されてくる基準キーフレームとを用いて内挿関数を求める処理および内挿関数の変化を判定基準と比較する処理を行なう。このようにして、候補キーフレームを更新しながら順次内挿関数の変化を求めていく処理が本発明の変化演算ステップに相当する。
【0069】
キーフレーム判定部14は、内挿関数の変化が判定基準を越える旨の比較結果信号を受けたときには、制御部15に選択制御信号を出力する。選択制御信号は、内挿関数の変化が判断基準を越えたときに用いた画像フレームの1つ前の画像フレームをキーフレームとして選択するをことを指示する制御信号である。本実施の形態では、内挿関数の変化が小さい間は、画像再現性が高いことを利用して、元の動画像を必要な程度に再現できるように、すなわち、再現画像の質が確保されるように判断基準が設定されている。したがって、キーフレームを用いて生成する再現画像に高い再現性が要求されるときには、元の動画像により近い再現画像を生成できるキーフレームを選択するために、判定基準は厳しく設定される。
【0070】
したがって、内挿関数の変化が判定基準を越えるときに用いた画像フレームの1つ前の画像フレームは、要求される再現性を確保することができる画像フレームのうちで最も基準キーフレームから遠い画像フレームである。このような画像フレームをキーフレームとして選択することによって、オリジナルの画像を適切に再現できるキーフレームが選択されるとともに、動画像の情報量を十分に小さく抑えることができる。
【0071】
図6は、候補キーフレームを用いて試験的に内挿関数を求めていったときの候補キーフレームのフレーム番号と内挿関数の変化量との関係を示すグラフである。図6に示すように、A点(f13からf14への変化)〜B点(f16からf17への変化)では、内挿関数の変化量はまだ閾値より小さいが、C点(f17からf18への変化)では閾値を越える。これは、図5において、画像フレーム48で自動車の前部が画像からはみ出ているからである。すなわち、画像フレーム48と基準キーフレームとの間の内挿関数f18は、自動車が画像内に収まっている画像フレーム47と基準キーフレームとの間の内挿関数f17から大きく変化している。そして、このことは、画像フレーム48を第2のキーフレームとして選択することが適当ではないことを意味している。このように、内挿関数の変化は、中間画像の質が大きく劣化するときに急激に増加する傾向がある。この特性を利用し、本実施の形態では、内挿関数の変化の急増前後のフレームを判別できるように、急増前の内挿関数の変化量に応じて閾値が設定されている。
【0072】
したがって、キーフレーム判定部14は、閾値を越える前のB点で生成された内挿関数f17を求めた際に用いた画像フレーム47を第2のキーフレームとして選択するための選択制御信号を制御部15に出力する。制御部15は、選択制御信号に従って、画像フレーム47を第2のキーフレームとして出力する。ここで、比較結果信号に従って選択制御信号を出力するキーフレーム判定部14、および選択制御信号に従ってキーフレームを選択する制御部15が本発明の選択手段を構成する。
【0073】
図7に戻って、制御部15は、第1の実施の形態と同様にして、第2のキーフレームを記憶するための処理を行なう。すなわち、制御部15は第2のキーフレームを出力インターフェースを介して出力する。キーフレーム選択装置20は上述の処理と同様にして、第2のキーフレームを基準キーフレームとし、その基準キーフレームに続く画像フレームを順次候補キーフレームとする処理を通じて、第3のキーフレームを選択する。
【0074】
このようにして順次キーフレームを選択していき、最後の画像フレームまで達したら、最後の画像フレームを最後のキーフレームとして選択してキーフレーム選択処理を終了する。なお、本実施の形態で、内挿関数演算部22にて内挿関数を求めるために用いられる基準キーフレームおよび候補キーフレームが本発明の試験用画像フレームに相当する。
【0075】
図8は、上述のキーフレーム選択処理を示すフローチャートである。本実施の形態のキーフレーム選択処理では、基準キーフレームと候補キーフレームとを用いて、それらのフレーム間の相関を表す内挿関数が求められる(ステップ61)。ここで、基準キーフレームは、既にキーフレームとして選択された画像フレームであり、候補キーフレームは、そのキーフレームの次のキーフレームの候補として用いられるものである。
【0076】
内挿関数が求められると、その内挿関数から直前に求められた内挿関数への変化が所定の判断基準と比較される(ステップ62)。すなわち、ある基準キーフレームに対して、その後の画像フレームを順次候補キーフレームとして更新していって順次求められた内挿関数同士の間の変化が判定基準を越えるか否かが判断される。変化が判定基準よりも小さいときには、候補キーフレームを更新して、ステップ61に戻り、次の内挿関数を求める。このようにして、順次求められる内挿関数と直前に求められた内挿関数との間の変化が判定基準より大きくなるまでステップ61およびステップ62の処理を繰り返す。
【0077】
内挿関数の変化が判定基準より大きくなったときは、キーフレームが選択される(ステップ63)。ステップ63では、ステップ62で判定基準を越えた内挿関数を生成するのに用いた候補キーフレームの1つ前の画像フレームがキーフレームとして選択される。
【0078】
ステップ63にてキーフレームが選択されると、次のキーフレームを選択するために、ステップ61に戻り、上記と同様の処理が行なわれる。このとき、直前のステップ63で選択されたキーフレームが基準キーフレームとされて、そのキーフレームより後の画像フレームが順次候補キーフレームとされてステップ61およびステップ62の処理が行なわれる。
【0079】
以上説明したように、本実施の形態のキーフレーム選択装置によれば、内挿関数が急に変化したときにそのような内挿関数では再現性の高い中間画像が生成されないことを利用してキーフレームが選択される。すなわち、内挿関数は再現画像処理の中で求められるものであるので、内挿関数を用いることによっても、実際に再現画像を作成した際の質の優劣を判断することができる。したがって、キーフレームを用いて生成される再現画像の質が保証され、このようにして選択されたキーフレームを用いれば所定の基準を下回る再現画像が生成されるのを回避できる。そして、再現画像の質が確保できる範囲でキーフレームの間隔を広げられ、情報量の低減ができる。さらに、内挿処理による中間画像の生成までは行なわないので、キーフレーム選択のための処理量が少なく抑えられ、処理に要する時間を短縮できる。
【0080】
次に、上記のキーフレーム選択装置20と同様の機能を有する装置および上記のキーフレーム選択処理と同様の処理をコンピュータプログラムでソフトウェア的に実現する構成を説明する。このプログラムは、例えば、PCなどの汎用コンピュータで実行される。そして、このコンピュータプログラムにより、コンピュータ上で画像処理プラットフォームが規定される。
【0081】
図9のフローチャートは、上述の画像処理プラットフォームを実現するためのコンピュータプログラムによる処理の例を示している。
【0082】
まず、画像処理プラットフォームに入力された画像データがワークメモリに蓄積される(ステップ81)。ここでは、画像データは、時間の経過順にフレームごとにワークメモリに蓄積される。次に、前回の処理ループで選択済みのキーフレームを読み出し、基準キーフレームとして設定する。ただし、最初のループではキーフレームは未だ選択されていないので、最初に読み込まれた画像データを基準キーフレームに設定する。
【0083】
次に、現時点で読み込まれている最新の画像データを候補キーフレームとして、基準キーフレームと候補キーフレームとの間の相関を表す内挿関数を求める(ステップ82)。ただし、最初のループでは基準キーフレームと候補キーフレームが同一フレームとなるため、最初のループではステップ82からステップ85までをスキップして次のループ処理に移行する。
【0084】
次に、内挿関数をワークメモリに蓄積する(ステップ83)。そして、その内挿関数の変化を判定する(ステップ84)。このステップ84では、直前のステップ82で求められた内挿関数とその前のステップ82で求められた内挿関数との間の変化が所定の判定基準を越えるか否かが判断される。そして、ステップ84での判定に基づいて、最適なキーフレームが判定される(ステップ85)。このステップ85では、内挿関数の変化が判定基準より小さい場合にはキーフレームを選択することなく次のループに移行する。一方、内挿関数の変化が判定基準を越える場合には1つ前のループで用いた候補キーフレームをキーフレームとして選択し、選択されたキーフレームを次ループの基準キーフレームとして更新する。
【0085】
以上説明したように、汎用コンピュータがプログラムを実行することによっても上記のキーフレーム選択装置20およびキーフレーム選択装置20が実行するキーフレーム選択処理を実現することができる。
【0086】
なお、プログラムが可搬型の記録媒体や通信ネットワークを媒体としてコンピュータにロードされてよいことは、第1の実施の形態と同様である。
【0087】
以上説明したように、第1および第2の実施の形態によれば、連続する複数の画像フレームのうちの試験用画像フレームを用いて、内挿処理により中間画像を再現する処理の少なくとも一部を試験的に行ない、その結果に基づいてキーフレームを選択するので、実際に生成される再現画像の質の優劣に基づいたキーフレームの選択ができる。これにより、キーフレーム間隔を広くとりつつ、再現画像の質を確保できるようにキーフレームを選択できる。ここで、中間画像を再現する処理の少なくとも一部とは、第1の実施の形態では、内挿により中間画像を生成する処理であり、第2の実施の形態では、内挿により中間画像を生成するための内挿関数を求める処理である。第2の実施の形態では、内挿による中間画像の生成自体を行なわないので、キーフレーム選択の処理負担を軽減できる。
【0088】
以上説明したキーフレーム選択装置10および20は、例えば、人物認証システムにて用いられる。人物認証システムとは、人物の顔を撮影してその人物があらかじめ登録された者であるかを判定するシステムである。この人物認証システムでは、あらかじめ登録対象者の顔の動画像が撮影され、その動画像からキーフレーム選択装置によりキーフレームが選択されて保存されている。以下では、登録対象者の動画像が撮影されて、キーフレーム選択装置に入力される入力画像が生成されるまでの処理、および選択されたキーフレームを用いて実際に人物認証を行なう際の処理を説明する。
【0089】
図10は、入力画像を生成する処理を説明する図である。図10は、人物の顔の角度が変化していく複数の画像フレームを生成する例を示している。複数の画像フレームを生成するために、まず、被写体である人物91にカメラ92に顔が映るように位置してもらう。そして、人物91に顔を左右に振ってもらい、これをカメラ92で撮影する。これにより、人物91の顔の角度が変化していく動画像が撮影され、その動画像から、連続的に変化する顔画像を表す複数の画像フレーム93が得られる。
【0090】
キーフレーム選択装置10、20は、このようにして得られた複数の画像フレーム93を入力画像として取り込み、上述のようにして、それらの画像フレーム93の中からキーフレームを選択する。
【0091】
人物認証システムでは、選択されたキーフレームを保存しておき、以下のようにして人物の認証を行なう。まず、認証対象の人物の顔を撮影して顔画像を得る。このとき、人物の顔画像はカメラに対してどの角度であってもよい。そして、人物認証システムにて、あらかじめ記憶しているキーフレームを用いて内挿処理を施すことにより、撮影された顔画像の角度に対応する角度の顔画像を生成する。このようにして生成された顔画像を撮影によって得られた認証対象の人物の顔画像と比較することにより、その認証対象の人物があらかじめ登録された人物であるかを判定する。
【0092】
なお、第1の実施の形態では、内挿処理により中間画像を生成することで試験処理を行ない、また、第2の実施の形態では、内挿関数を生成することにより試験処理を行なったが、本発明はこれらに限られない。例えば、第1の実施の形態の試験処理が、外挿処理により外挿画像を生成するものであってもよく、また、第2の実施の形態の試験処理が外挿関数を生成するものであってもよい。これらの変形例によっても上記と同様の効果が得られる。本発明の「相関関数」は、内挿関数および外挿関数を含み、また、本発明の「再現画像」は、内挿処理によって生成される中間画像および外挿処理によって生成される外挿画像を含む。
【0093】
また、上記の第1および第2の実施の形態では、2つの画像フレームの相関から再現画像が求められたが、3つ以上の画像フレームが用いられてもよい。すなわち、試験用画像フレームは3つ以上であってもよい。
【0094】
さらに、第1および第2の実施の形態では、基準キーフレームから時間が進行する方向に候補キーフレームを1枚ずつ更新して試験処理を行なったが、試験処理の手順はこれに限られない。試験処理は、例えば、最初の候補キーフレームを基準キーフレームから一定のフレーム数の間隔をおいた画像フレームにしてもよい。この場合には、制御部15が基準キーフレームおよび候補キーフレームを記憶部11から読み出して、これらの2つの画像フレームを用いて試験処理が行われる。この変形例では、最初の候補キーフレームで判定基準を越えた場合には、その画像フレームから時間が後退する方向(基準キーフレームに近づく方向)に候補キーフレームを更新していって試験処理を行なう。一方、最初の候補キーフレームで判定基準を越えていない場合には、時間が進行する方向に候補キーフレームを更新して試験処理を行なう。この変形例は、例えば、動画像の内容、すなわち被写体の動作速度や被写体の内容があらかじめ分かっており、選択されるべきキーフレームの間隔が予測できる状況下で有用である。この変形例によれば、キーフレーム選択のための処理量を少なくできる。
【0095】
また、第1および第2の実施の形態では、判定基準を越えない限度で最も基準キーフレームから遠い画像フレームをキーフレームとして選択したが、本発明はこれに限られない。例えば、上記のように、基準キーフレームから一定のフレーム数の間隔をおいた画像フレームを最初の候補キーフレームにする場合、その最初の候補キーフレームの試験処理で判定基準を越えなかったときには、その画像フレームをキーフレームとして選択し、判定基準を越えた場合にのみ候補キーフレームを更新して試験処理を行なってもよい。この変形例によれば、キーフレーム選択のための処理量をさらに少なくできる。
【0096】
また、上記の実施の形態では、相関関数のパラメータを時間にしているが、本実施の形態では、相関によりキーフレーム以外の画像が再現されればよく、時間と同等の意味をもつ他のパラメータ、例えばフレーム番号をパラメータとして相関関数が表現されてもよい。
【0097】
【発明の効果】
以上説明したように、本発明は、フレーム間の相関に基づいて任意の画像フレームの画像を再現する画像再現処理の少なくとも一部を試験的に行なってキーフレームを選択するので、キーフレームを適切に選択することができるというすぐれた効果を有する装置を提供することができる。
【図面の簡単な説明】
【図1】第1の実施の形態のキーフレーム選択処理を説明する図
【図2】第1の実施の形態のキーフレーム選択装置の構成図
【図3】第1の実施の形態のキーフレーム選択装置による処理のフローチャート
【図4】第1の実施の形態のキーフレーム選択処理をプログラムで実現するときのフローチャート
【図5】第2の実施の形態のキーフレーム選択処理を説明する図
【図6】第2の実施の形態の候補キーフレームのフレーム番号と内挿関数の変化との関係を示すグラフ
【図7】第2の実施の形態のキーフレーム選択装置の構成図
【図8】第2の実施の形態のキーフレーム選択装置による処理のフローチャート
【図9】第2の実施の形態のキーフレーム選択処理をプログラムで実現するときのフローチャート
【図10】本実施の形態のキーフレーム選択装置を人物認証に適用するときに入力画像として連続する複数の画像フレームを生成する例を説明する図
【符号の説明】
10、20 キーフレーム選択装置
11 記憶部
12 中間画像生成部
13 比較部
14 キーフレーム判定部
15 制御部
22 内挿関数演算部
23 内挿関数変化記録部
【発明の属する技術分野】
本発明は、連続する複数のオリジナル画像フレームからキーフレームを選択する装置および方法に関する。
【0002】
【従来の技術】
従来より、連続する複数の画像フレーム、典型的には動画像からキーフレームを選択する技術が知られている。選択されたキーフレームを保存しておいて、必要なときにキーフレーム間で内挿処理を施すことにより、キーフレーム間の任意の画像フレームに対応する中間画像を生成することができる。したがって、この技術によれば、元の動画像の情報量を少なくしたうえで任意の画像フレームを再現できる。
【0003】
キーフレームを選択する処理としては、連続する複数の画像フレームからあらかじめ決められた一定のフレーム間隔で無作為にキーフレームを選択する処理が知られている。また、連続する複数の画像中の重要部分の動き情報に基づいてフレーム間の変化を評価してキーフレームを選択する処理も知られており、例えば特開2000−182065号公報に開示されている。
【0004】
【特許文献1】
特開2000−182065号公報(第8−9頁、第1図)
【0005】
【発明が解決しようとする課題】
しかしながら、上記従来のキーフレーム選択技術には、以下のような問題がある。
【0006】
まず、一定間隔でキーフレームを無作為に選択する処理については、動画像中での被写体の動きが速いと、隣り合う画像フレーム間の変化が大きくなる。この場合に、一定間隔でキーフレームを選択すると、隣り合うキーフレーム間で画像の内容が大きく異なり、そのようなキーフレームに内挿処理を施しても適切な中間画像が得られないことがある。特に、あるキーフレームから次のキーフレームまでの間に被写体の一部が画像からはみ出たり、新たな被写体部分が画像内に入ってきたりすると、そのような被写体の一部が、内挿処理では適切に再現できなくなる。
【0007】
このような問題が生じる可能性を低下させるために、キーフレームの間隔を狭くすることも考えられる。しかし、キーフレームの間隔を狭くすれば、キーフレームの数が増えて、保存しておくべき情報量が大きくなるという問題がある。
【0008】
また、もう一つの従来技術、すなわち画像中の重要部分の動き情報に基づいてキーフレームを選択する処理では、選択されたキーフレームによって実際に生成される中間画像の画質が考慮されていない。このため、最適なキーフレームが選択されず、適切な中間画像が得られないことがある。
【0009】
ここでは、キーフレームから内挿処理で中間画像を生成する場合を取り上げて従来技術を説明したが、キーフレームを用いた画像処理には、外挿処理が適用されてもよい。さらに、その他の処理によってキーフレームからそれ以外の画像が再現されてもよく、このような場合にも上記の問題が同様に生じ得る。
【0010】
本発明は、このような問題を解決するためになされたもので、連続する画像フレームの中からキーフレームを適切に選択するための技術を提供するものである。
【0011】
【課題を解決するための手段】
本発明のキーフレーム選択装置は、連続する複数のオリジナル画像フレームを記憶する記憶手段と、前記複数のオリジナル画像フレームのうちの複数の画像フレームを試験用画像フレームとし、それらの試験用画像フレーム間の相関に基づいて再現画像を生成する画像再現処理の少なくとも一部を試験的に行なう試験処理手段と、前記試験処理手段により処理した結果に基づいて、前記複数のオリジナル画像フレームから、フレーム間の相関に基づく画像生成のために保持すべきキーフレームを選択する選択手段とを含んでいる。
【0012】
ここで、再現画像は、上述のように複数のキーフレームから得られる画像であって、時間軸上でキーフレーム以外の画像である。典型的には、内挿処理による中間画像が再現画像に相当するが、内挿以外の他の処理、例えば外挿処理が行なわれてよい。また、典型的には、各再現画像は2枚のキーフレームから生成されるが、3枚以上のキーフレームから生成されてもよい。
【0013】
上記の構成により、画像再現処理の少なくとも一部を試験的に行なった結果に基づいてキーフレームが選択されるので、実際に生成される再現画像の質の優劣に基づいたキーフレームの選択ができる。これにより、キーフレーム間隔を広くとりつつ、再現画像の質を確保できるようにキーフレームを選択できる。
【0014】
また、本発明のキーフレーム選択装置では、前記試験処理手段は、前記画像再現処理により再現画像を生成し、前記選択手段は、前記画像再現処理により生成された再現画像とその再現画像に対応するオリジナル画像フレームの画像との比較に基づいてキーフレームを選択する。
【0015】
この構成により、実際に再現画像が生成され、その再現画像がオリジナル画像フレームの画像と比較された上でキーフレームが選択されるので、再現画像の質がどのようになるかの判定に基づいたキーフレームの選択ができる。
【0016】
また、本発明のキーフレーム選択装置では、前記試験処理手段は、前記画像再現処理のうちの再現画像を生成するための相関関数を求める処理を行ない、前記選択手段は、前記複数の試験用画像フレームのいずれかの画像フレームが順次異なるときの前記試験処理手段で求めた相関関数の変化に基づいてキーフレームを選択する。
【0017】
この構成では、画像再現処理の一部である相関関数を求める処理を行なってキーフレームを選択する。相関関数を用いることでも、実際に再現画像を作成したときの質の優劣が求められる。そして、この構成によれば、実際の再現画像の生成までは行なわないので、キーフレーム選択のための処理量が少なく抑えられ、処理時間を短縮可能である。
【0018】
本発明は、上述したような装置の態様に限定されない。本発明の別の態様は、キーフレーム選択方法、キーフレーム選択方法をコンピュータに実行させるプログラムおよびそのプログラムを格納した記録媒体である。
【0019】
【発明の実施の形態】
以下、本発明の実施の形態について、図面を用いて説明する。本実施の形態において、キーフレームは、連続する複数の画像フレーム(本実施の形態では動画像)からキーフレーム選択装置により選択されて、キーフレーム以外の画像を後に再現するために保存される。再現処理としては、典型的には内挿処理および外挿処理が知られているが、本実施の形態では内挿処理を想定する。そして、内挿処理により生成される中間画像が本発明の再現画像に相当する。
【0020】
(第1の実施の形態)
図1は、第1の実施の形態の試験処理を説明する図であり、図2は、第1の実施の形態のキーフレーム選択装置の構成図である。以下、図2を参照してキーフレーム選択装置の構成を説明し、それから、図1および図2を参照してキーフレーム選択装置の動作を説明する。
【0021】
図2に示すように、キーフレーム選択装置10は、記憶部11、中間画像生成部12、比較部13、キーフレーム判定部14および制御部15を備えている。また、キーフレーム選択装置10は、図示しない入力インターフェースおよび出力インターフェースを備えている。なお、図2では、画像信号の流れを単線の矢印で示しており、制御信号の流れを二重線の矢印で示している。
【0022】
記憶部11は、直列に接続されたN個のフレームメモリを備えており、連続する複数の画像フレームを記憶する。記憶部11の複数のフレームメモリにはキーフレームを選択する対象である複数の画像フレームが記憶されるが、フレームメモリの個数Nは、それらの画像フレームから選択されると予想されるキーフレームの間隔よりも十分に大きい。例えば、10枚程度の画像フレームごとにキーフレームが選択されると予想されるときには、フレームメモリの個数Nは15個などとする。
【0023】
中間画像生成部12は、2つの画像フレームの間の相関を表す内挿関数を演算により求める。この内挿関数は、時間をパラメータとして、線形補間やスプライン補間などによって2つの画像を補間して中間画像を生成するための関数である。したがって、2つの画像フレーム間の相関を表す内挿関数の時間パラメータに任意の時間を代入することにより、両画像フレーム間の中間画像を生成することができる。中間画像生成部12は、内挿関数の時間パラメータに具体的な値を代入することにより中間画像を生成する。
【0024】
記憶部11および中間画像生成部12は、入力インターフェースに接続されている。入力インターフェースを介して入力された入力画像は記憶部11および中間画像生成部12に送られる。
【0025】
比較部13は、2つの画像間の差分が所定の判定基準を越えるか否かを判断することにより、両画像を比較する。具体的には、比較部13は、2つの画像間で対応する画素同士の輝度、色相、彩度などの差分を求めて、これを判定基準と比較する。判定基準は、選択されたキーフレームの用途に応じてあらかじめ設定されて記憶されている。例えば、差分の合計値が所定の閾値と比較される。
【0026】
比較部13は、さらに、比較の結果を示す制御信号(以下、比較結果信号という)をキーフレーム判定部14に出力する。キーフレーム判定部14は、比較結果信号に基づいて、記憶部11に記憶されたいずれの画像フレームをキーフレームとするかを判定する。
【0027】
制御部15は、キーフレーム選択装置10の全体の制御を行なう。制御部15は、記憶部11から取得した画像フレームを中間画像生成部12および比較部13に出力する。また、制御部15は、キーフレーム判定部14から入力された制御信号に基づいて、出力インターフェースを介して、選択されたキーフレームを出力する。
【0028】
次に、図1および図2を参照して、具体的な動画像例を用いて、キーフレーム選択装置10の動作を説明する。
【0029】
本実施の形態のキーフレーム選択処理では、動画像を構成する複数の画像フレームからなる入力画像が入力インターフェースに順次入力される。画像フレームは順次記憶部11に蓄積される。その結果、記憶部11の入力側からみて奥の方(図2では下の方)のフレームメモリに時間軸上で最初の画像フレーム31が蓄積され、画像フレーム31が蓄積されたフレームメモリから入力側に向かって(図2では上方向に向かって)、各フレームメモリに時間経過順に画像フレームがそれぞれ蓄積される。各画像フレームは、中間画像生成部12にも入力される。なお、記憶部11が本発明の記憶手段に相当する。
【0030】
制御部15は、記憶部11に記憶されている画像フレームのうち、最後にキーフレームとして選択された画像フレームを基準キーフレームとして中間画像生成部12に出力する。いま、画像フレーム31が最後にキーフレームとして選択された画像フレームであるとすると、制御部15は、この画像フレーム31を中間画像生成部12に出力する。そして、中間画像生成部12は、この基準キーフレームと、入力インターフェースから入力されてくる最新の画像フレーム(候補キーフレーム)とを用いて中間画像を生成する。
【0031】
図1に示すように、基準キーフレームである画像フレーム31と候補キーフレームである画像フレーム33との内挿処理により、画像フレーム32に対応する中間画像36が生成される。この処理において、中間画像生成部12は、画像フレーム33と画像フレーム31とを用いて、これらの画像フレーム間の相関を表す内挿関数を求める。そして、中間画像生成部12は、内挿関数の時間パラメータに、画像フレーム31から画像フレーム33までの所要時間の半分の時間を代入することで、画像フレーム32に対応する中間画像36を生成する。本実施の形態では、中間画像生成部12が本発明の試験処理手段を構成し、中間画像生成部12で試験的に中間画像を生成する処理が本発明の試験処理に相当する。また、内挿関数を求めて、その内挿関数によって中間画像を生成するまでの処理が、本発明の画像再現処理に相当する。
【0032】
ここで、理想的には、中間画像36は画像フレーム32の画像と一致する。ただし、実際には内挿関数を求めた際の丸め誤差等に起因して、中間画像36と画像フレーム32の画像とは完全には一致しない。そこで、比較部13は、中間画像36と画像フレーム32の画像とを比較して、両画像の差分が所定の判定基準を越えるか否かを判断する。このために、制御部15は、比較対象の画像フレーム32を比較部13に出力する。そして、比較部13は、比較の結果を示す比較結果信号をキーフレーム判定部14に出力する。図1の例では、比較部13は、両画像間の差分が判定基準を越えていないと判断して、その旨の比較結果信号をキーフレーム判定部14に出力する。
【0033】
キーフレーム判定部14は、差分が判定基準を越えない旨の比較結果信号を受けたときには、制御部15に対してキーフレームを更新しないで処理を継続するための制御信号(以下、継続制御信号という)を出力する。制御部15は、この継続制御信号に従って、処理を継続する。
【0034】
中間画像生成部12は、画像フレーム33が入力されたときと同様に、候補キーフレームとして中間画像生成部12に入力された画像フレーム34と基準キーフレームである画像フレーム31との間の相関を表す内挿関数を求める。そして、中間画像生成部12は、内挿関数の時間パラメータに、画像フレーム31から画像フレーム34までの所要時間の3分の1、および3分の2の時間をそれぞれ代入することにより、画像フレーム32および画像フレーム33のそれぞれの画像に対応する中間画像を生成する。
【0035】
このとき生成される中間画像は、図1では省略されているが、それらの中間画像に対しても上述の比較部13による比較処理が行なわれる。ここでは、比較の結果として、2枚の中間画像のそれぞれについて差分が判断基準を越えなかったものとする。その旨の比較結果信号がキーフレーム判定部14に出力され、キーフレーム判定部14は、比較結果信号に基づいて制御部15に継続制御信号を出力する。
【0036】
このようにして、比較部13による比較の結果、差分が判定基準を越えるまで、順次入力される画像フレームと最新のキーフレームとを用いた中間画像生成処理および比較の処理を繰り返す。図1の例では、次の画像フレーム35を候補キーフレームとしたときに差分が判定基準を越える。
【0037】
すなわち、中間画像37、38は、画像フレーム35を候補キーフレームとして、基準キーフレームとの間の内挿により生成された中間画像である。図1に示されるように、画像フレーム35の画像では、自動車の前部が画像外にはみ出している。したがって、このような画像フレーム35を用いて中間画像を生成すると、中間画像37、38のように自動車の前部が適切に再現できない。このことは、画像フレーム35を次のキーフレームとして選択するのが適切でないことを意味する。
【0038】
このような中間画像37、38をそれらが対応する画像フレーム32、33の画像と比較すると、画像間の差分が判定基準を越える。したがって、比較部13は、画像間の差分が判定基準を越えると判断して、その旨の比較結果信号をキーフレーム判定部14に出力する。キーフレーム判定部14は、この比較結果信号に従って、制御部15に対して、キーフレームを選択するための制御信号(以下、選択制御信号という)を出力する。制御部15は、選択制御信号に従って、記憶部11に記憶された画像フレームの中からキーフレームを選択して、キーフレームを更新する。
【0039】
選択制御信号は、差分が判定基準を越える中間画像を生成したときに用いた画像フレームの1つ前の画像フレームをキーフレームとして選択するをことを指示する制御信号である。本実施形態では、差分が小さいほどオリジナルの画像に近い画像が再現されることを利用し、オリジナルの画像を必要な程度に再現できるように、すなわち、再現画像の質が確保されるように判定基準が設定されている。キーフレームに基づいて生成する再現画像に高い再現性が要求されるときには、元の動画像を構成する画像フレームとの差分が小さい再現画像を生成できるキーフレームを選択するために、判定基準は厳しく設定される。
【0040】
したがって、差分が判定基準を越える中間画像を生成したときに用いた画像フレームの1つ前の画像フレームは、適切に再現画像を生成することができる画像フレームのうちで最も基準キーフレームから遠い画像フレームである。このような画像フレームをキーフレームとして選択することによって、オリジナルの画像を適切に再現できるキーフレームが選択されるとともに、動画像の情報量を十分に小さく抑えることができる。
【0041】
図1の例では、既に述べたように、画像フレーム35を候補キーフレームとして中間画像を生成したときに画像間の差分が判定基準を越えるので、その1つ前の画像フレーム34が次のキーフレームとして選択される。ここで、比較結果信号に基づいて選択制御信号を出力するキーフレーム判定部14と、選択制御信号に従ってキーフレームを選択する制御部15とによって、本発明の選択手段が構成される。
【0042】
制御部15は、新たなキーフレームを記憶するための処理を行なう。例えば、第2のキーフレームとして選択された画像フレーム34は、出力インターフェースを介して出力され、図示しない記憶装置に記憶される。そして、キーフレーム選択装置10は、上述の処理と同様にして、新たなキーフレームとその後の画像フレームを中間画像生成部12に出力する。中間画像生成部12は、新たなキーフレームを基準キーフレームとし、順次入力される画像フレームを候補キーフレームとして、次のキーフレームを選択するための処理を行なう。
【0043】
このようにしてキーフレームを順次更新していきながらキーフレームを選択していき、動画像を構成する複数の画像フレームの最後の画像フレームまで達したら、最後の画像フレームを最後のキーフレームとして選択してキーフレーム選択処理を終了する。なお、本実施の形態で、中間画像生成部12にて中間画像を生成するために用いられる基準キーフレームおよび候補キーフレームが本発明の試験用画像フレームに相当する。
【0044】
図3は、上述のキーフレーム選択処理を示すフローチャートである。本実施の形態のキーフレーム選択処理では、基準キーフレームと候補キーフレームとを用いた内挿処理により試験的に中間画像が生成される(ステップ51)。ここで、基準キーフレームは、既にキーフレームとして選択された画像フレームであり、候補キーフレームは、そのキーフレームの次のキーフレームの候補として試験的に用いられるものである。
【0045】
試験的に生成された中間画像は、その画像に対応するオリジナルの画像フレームの画像と比較される(ステップ52)。両者の差分が判定基準よりも小さいときには、基準キーフレームを更新することなくステップ51に戻り、次の中間画像を生成する。このようにして、中間画像とそれに対応するオリジナル画像との差分が判定基準より大きくなるまでステップ51およびステップ52の処理を繰り返す。
【0046】
両者の差分が判定基準より大きくなったときには、キーフレームが選択される(ステップ53)。ステップ53では、ステップ52で判定基準を越えた中間画像を生成するのに用いた候補キーフレームの1つ前の候補キーフレームがキーフレームとして選択される。
【0047】
ステップ53にてキーフレームが選択されると、次のキーフレームを選択するために、ステップ51に戻り、上記と同様の処理が行われる。このとき、直前のステップ53で選択されたキーフレームが基準キーフレームとされて、そのキーフレームより後の画像フレームが順次候補キーフレームとされてステップ51およびステップ52の処理が行なわれる。
【0048】
以上説明したように、本実施の形態のキーフレーム選択装置10によれば、元の動画像を表す複数の画像フレームから内挿により中間画像を生成して、その中間画像の質を評価した上でキーフレームを選択できる。したがって、キーフレームを用いて生成される再現画像の質が保証され、このようにして選択されたキーフレームを用いれば所定の基準を下回る再現画像が生成されるのを回避できる。
【0049】
また、キーフレーム選択装置10は、上述したように、中間画像とそれが対応するオリジナルの画像との差分が判定基準を越える画像フレームの1つ前の画像フレームをキーフレームとして選択する。すなわち、キーフレーム選択装置10は、適切に中間画像を生成することができる画像フレームのうちの、基準キーフレームから最も遠い画像フレームをキーフレームとして選択する。したがって、キーフレーム間隔を広くとりつつ、キーフレームにより再現される再現画像の質を確保できる。
【0050】
次に、上記のキーフレーム選択装置10と同様の機能を有する装置および上記のキーフレーム選択処理と同様の処理をコンピュータプログラムでソフトウェア的に実現する構成を説明する。このプログラムは、例えば、パーソナルコンピュータ(以下、PCと記す)などの汎用コンピュータで実行される。そして、このコンピュータプログラムにより、コンピュータ上で画像処理プラットフォームが規定される。
【0051】
図4のフローチャートは、上述の画像処理プラットフォームを規定するためのコンピュータプログラムの例を示している。
【0052】
まず、画像処理プラットフォームに入力された画像データがワークメモリに蓄積される(ステップ71)。ここでは、画像データは、時間の経過順にフレームごとにワークメモリに蓄積される。次に、前回の処理ループで選択済みのキーフレームを読み出し、基準キーフレームとして設定する。ただし、最初のループではキーフレームは未だ選択されていないので、最初に読み込まれた画像データを基準キーフレームとして設定する。
【0053】
次に、基準キーフレームと候補キーフレームから内挿により中間画像を生成する(ステップ72)。この中間画像生成処理では、現時点で読み込まれている最新の画像データを候補キーフレームとして、その候補キーフレームと基準キーフレームとの間の相関を表す内挿関数を求める。そして、内挿関数の時間パラメータに具体的な値を代入して両フレーム間の中間画像を生成する。ただし、最初のループと2回目のループでは基準キーフレームと候補キーフレームとが同一フレームまたは隣り合うフレームとなるため、最初のループと2回目のループではステップ72からステップ74までの処理をスキップして次のループ処理に移行する。
【0054】
次に、ワークメモリに蓄積されている画像フレームの中から、生成された中間画像に対応する画像フレームの画像を読み出し、生成された中間画像と比較する(ステップ73)。そして、ステップ73での比較の結果に基づいて最適なキーフレームを判定する(ステップ74)。このステップ74では、2つの画像間の差分が予め定めておいた判断基準以下である場合は、キーフレームを選択せずにそのまま次のループに移行する。一方、画像間の差分が判断基準を超えている場合には1つ前のループで用いた候補キーフレームを次のキーフレームとして選択し、選択したキーフレームを次のループの基準キーフレームとして設定する。
【0055】
以上説明したように、汎用コンピュータがプログラムを実行することによっても上記のキーフレーム選択装置10およびキーフレーム選択装置10が実行するキーフレーム選択処理を実現することができる。
【0056】
なお、プログラムは、可搬型の記録媒体に記録され、コンピュータがその記録媒体を読取ることによってコンピュータにロードされてもよい。また、プログラムは、通信ネットワークを経由してコンピュータにロードされてもよい。
【0057】
(第2の実施の形態)
図5および図6は、第2の実施の形態の試験処理を説明する図であり、図7は、第2の実施の形態のキーフレーム選択装置の構成図である。以下、図7を参照してキーフレーム選択装置の構成を説明し、それから、図5〜図7を参照してキーフレーム選択装置の動作を説明する。
【0058】
図7に示すように、キーフレーム選択装置20は、記憶部11、内挿関数演算部22、内挿関数変化記録部23、キーフレーム判定部14および制御部15を備えている。また、キーフレーム選択装置20は、図示しない入力インターフェースおよび出力インターフェースを備えている。なお、図7では、図2と同様に、画像信号の流れを単線の矢印で、制御信号の流れを二重線の矢印で示している。
【0059】
キーフレーム選択装置20は、第1の実施の形態のキーフレーム選択装置10の中間画像生成部12、比較部13が、それぞれ内挿関数演算部22と内挿関数変化記録部23に置き換わっている点を除いてキーフレーム選択装置10の構成と同じである。図7において、図2に示す第1の実施の形態のキーフレーム選択装置10の構成要素と同一の構成要素については、同一の符号を付してその説明を省略する。
【0060】
キーフレーム選択装置20の内挿関数演算部22は、演算により2つの画像フレーム間の相関を表す内挿関数を求める。内挿関数変化記録部23は、内挿関数演算部22が求めた内挿関数を記録し、それらの内挿関数間の変化を求めて、その変化を記録する。
【0061】
第1の実施の形態で説明した通り、内挿関数は、時間をパラメータとして、直線補間やスプライン補間などの補間により中間画像を生成するための関数である。2枚の画像から直線補間を行なう場合を例にとって、内挿関数変化記録部23による内挿関数の変化の評価方法を説明すると、直線補間は、原理的には、fmn(x,y)(t)=amn・t+(x,y)によって表される。ここで、m、nは内挿関数を求めた際に用いた画像フレームのフレーム番号であり、本実施の形態の場合には、mが基準キーフレーム、nが候補キーフレームに相当する。また、(x、y)は画像内の画素位置であり、amnは直線補間ベクトル(2次元ベクトル)であり、tは時間パラメータである。この場合、候補キーフレームを変えていくと、基準キーフレームとの変化の度合に応じて直線補間ベクトルも変わっていく。
【0062】
そこで、内挿関数変化記録部23は、内挿関数を求めるのに用いる候補キーフレームが異なるときの直線補間ベクトルの変化、例えば、ベクトルの差分の絶対値を変化量として求める。そして、その変化をあらかじめ記憶されている適当な閾値等の判定基準と比較して、比較結果を表す比較結果信号をキーフレーム判定部24に出力する。判定基準は、選択されたキーフレームの用途に応じてあらかじめ設定されて記憶されている。なお、ここでは、1つの画素の画像補間に着目したが、実際には、画像全体または適当な範囲を対象として相関関数の変化を求め、判定基準と比較する処理が行なわれる。
【0063】
次に、図5〜図7を参照して、上記のように構成されたキーフレーム選択装置20によって実行されるキーフレーム選択処理を説明する。
【0064】
本実施の形態のキーフレーム選択処理では、第1の実施の形態と同様にして、記憶部11および内挿関数演算部22に画像フレームが入力される。制御部15は、まず、第1番目の画像フレームを第1のキーフレームとして選択する。そして、この第1のキーフレームに続く第2のキーフレームを選択するために以下の処理を行なう。
【0065】
制御部15は、記憶部11に記憶されている画像フレームのうち、最後にキーフレームとして選択された画像フレームを基準キーフレームとして内挿関数演算部22に出力する。いま、画像フレーム41が最後にキーフレームとして選択された画像フレームであるとすると、制御部15は、この画像フレーム41を内挿関数演算部22に出力する。そして、内挿関数演算部22は、この基準キーフレームと、入力インターフェースから入力されてくる最新の画像フレーム(候補キーフレーム)とを用いて内挿関数を生成する。内挿関数演算部22は、まず、図5に示すように、基準キーフレームである画像フレーム41と候補キーフレームである画像フレーム43によって内挿関数f13を求めて、これを内挿関数変化記録部23に記録する。
【0066】
本実施の形態では、第1の実施の形態と異なり、内挿関数を用いて実際に中間画像を生成する処理までは行なわない。ただし、第1の実施の形態で説明したように、中間画像を生成する処理では、まず内挿関数を求めて、その内挿関数の時間パラメータに値を代入するので、内挿関数を求める処理は中間画像を生成する処理の一部である。なお、本実施の形態では、内挿関数演算部22が本発明の試験処理手段を構成し、内挿関数演算部22で試験的に内挿関数を求める処理が本発明の試験処理に相当する。また、内挿関数を求める処理が、本発明の画像再現処理の一部に相当する。
【0067】
次に、制御部15は、第4番目のフレームである画像フレーム44を候補キーフレームとして記憶部11から内挿関数演算部22に出力する。そして、内挿関数演算部22は、この画像フレーム44と画像フレーム41とを用いて内挿関数f14を求めて、これを内挿関数変化記録部23に記録する。そして、内挿関数変化記録部23は、内挿関数f13とf14との間の変化、具体的には、前述の直線補間ベクトルの変化量を求める。内挿関数変化記録部23は、求めた変化量をあらかじめ記憶されている判断基準と比較して、比較結果信号をキーフレーム判定部14に出力する。
【0068】
キーフレーム判定部14は、内挿関数の変化が判定基準を越えない旨の比較結果信号を受けたときには、第1の実施の形態と同様に、制御部15に継続制御信号を出力する。そして、制御部15は、継続制御信号に従って、基準キーフレームを更新することなく、最後に選択されたキーフレームを内挿関数演算部22に出力する。そして、内挿関数演算部22は、入力インターフェースから順次入力されてくる画像フレーム(候補キーフレーム)と制御部15から入力されてくる基準キーフレームとを用いて内挿関数を求める処理および内挿関数の変化を判定基準と比較する処理を行なう。このようにして、候補キーフレームを更新しながら順次内挿関数の変化を求めていく処理が本発明の変化演算ステップに相当する。
【0069】
キーフレーム判定部14は、内挿関数の変化が判定基準を越える旨の比較結果信号を受けたときには、制御部15に選択制御信号を出力する。選択制御信号は、内挿関数の変化が判断基準を越えたときに用いた画像フレームの1つ前の画像フレームをキーフレームとして選択するをことを指示する制御信号である。本実施の形態では、内挿関数の変化が小さい間は、画像再現性が高いことを利用して、元の動画像を必要な程度に再現できるように、すなわち、再現画像の質が確保されるように判断基準が設定されている。したがって、キーフレームを用いて生成する再現画像に高い再現性が要求されるときには、元の動画像により近い再現画像を生成できるキーフレームを選択するために、判定基準は厳しく設定される。
【0070】
したがって、内挿関数の変化が判定基準を越えるときに用いた画像フレームの1つ前の画像フレームは、要求される再現性を確保することができる画像フレームのうちで最も基準キーフレームから遠い画像フレームである。このような画像フレームをキーフレームとして選択することによって、オリジナルの画像を適切に再現できるキーフレームが選択されるとともに、動画像の情報量を十分に小さく抑えることができる。
【0071】
図6は、候補キーフレームを用いて試験的に内挿関数を求めていったときの候補キーフレームのフレーム番号と内挿関数の変化量との関係を示すグラフである。図6に示すように、A点(f13からf14への変化)〜B点(f16からf17への変化)では、内挿関数の変化量はまだ閾値より小さいが、C点(f17からf18への変化)では閾値を越える。これは、図5において、画像フレーム48で自動車の前部が画像からはみ出ているからである。すなわち、画像フレーム48と基準キーフレームとの間の内挿関数f18は、自動車が画像内に収まっている画像フレーム47と基準キーフレームとの間の内挿関数f17から大きく変化している。そして、このことは、画像フレーム48を第2のキーフレームとして選択することが適当ではないことを意味している。このように、内挿関数の変化は、中間画像の質が大きく劣化するときに急激に増加する傾向がある。この特性を利用し、本実施の形態では、内挿関数の変化の急増前後のフレームを判別できるように、急増前の内挿関数の変化量に応じて閾値が設定されている。
【0072】
したがって、キーフレーム判定部14は、閾値を越える前のB点で生成された内挿関数f17を求めた際に用いた画像フレーム47を第2のキーフレームとして選択するための選択制御信号を制御部15に出力する。制御部15は、選択制御信号に従って、画像フレーム47を第2のキーフレームとして出力する。ここで、比較結果信号に従って選択制御信号を出力するキーフレーム判定部14、および選択制御信号に従ってキーフレームを選択する制御部15が本発明の選択手段を構成する。
【0073】
図7に戻って、制御部15は、第1の実施の形態と同様にして、第2のキーフレームを記憶するための処理を行なう。すなわち、制御部15は第2のキーフレームを出力インターフェースを介して出力する。キーフレーム選択装置20は上述の処理と同様にして、第2のキーフレームを基準キーフレームとし、その基準キーフレームに続く画像フレームを順次候補キーフレームとする処理を通じて、第3のキーフレームを選択する。
【0074】
このようにして順次キーフレームを選択していき、最後の画像フレームまで達したら、最後の画像フレームを最後のキーフレームとして選択してキーフレーム選択処理を終了する。なお、本実施の形態で、内挿関数演算部22にて内挿関数を求めるために用いられる基準キーフレームおよび候補キーフレームが本発明の試験用画像フレームに相当する。
【0075】
図8は、上述のキーフレーム選択処理を示すフローチャートである。本実施の形態のキーフレーム選択処理では、基準キーフレームと候補キーフレームとを用いて、それらのフレーム間の相関を表す内挿関数が求められる(ステップ61)。ここで、基準キーフレームは、既にキーフレームとして選択された画像フレームであり、候補キーフレームは、そのキーフレームの次のキーフレームの候補として用いられるものである。
【0076】
内挿関数が求められると、その内挿関数から直前に求められた内挿関数への変化が所定の判断基準と比較される(ステップ62)。すなわち、ある基準キーフレームに対して、その後の画像フレームを順次候補キーフレームとして更新していって順次求められた内挿関数同士の間の変化が判定基準を越えるか否かが判断される。変化が判定基準よりも小さいときには、候補キーフレームを更新して、ステップ61に戻り、次の内挿関数を求める。このようにして、順次求められる内挿関数と直前に求められた内挿関数との間の変化が判定基準より大きくなるまでステップ61およびステップ62の処理を繰り返す。
【0077】
内挿関数の変化が判定基準より大きくなったときは、キーフレームが選択される(ステップ63)。ステップ63では、ステップ62で判定基準を越えた内挿関数を生成するのに用いた候補キーフレームの1つ前の画像フレームがキーフレームとして選択される。
【0078】
ステップ63にてキーフレームが選択されると、次のキーフレームを選択するために、ステップ61に戻り、上記と同様の処理が行なわれる。このとき、直前のステップ63で選択されたキーフレームが基準キーフレームとされて、そのキーフレームより後の画像フレームが順次候補キーフレームとされてステップ61およびステップ62の処理が行なわれる。
【0079】
以上説明したように、本実施の形態のキーフレーム選択装置によれば、内挿関数が急に変化したときにそのような内挿関数では再現性の高い中間画像が生成されないことを利用してキーフレームが選択される。すなわち、内挿関数は再現画像処理の中で求められるものであるので、内挿関数を用いることによっても、実際に再現画像を作成した際の質の優劣を判断することができる。したがって、キーフレームを用いて生成される再現画像の質が保証され、このようにして選択されたキーフレームを用いれば所定の基準を下回る再現画像が生成されるのを回避できる。そして、再現画像の質が確保できる範囲でキーフレームの間隔を広げられ、情報量の低減ができる。さらに、内挿処理による中間画像の生成までは行なわないので、キーフレーム選択のための処理量が少なく抑えられ、処理に要する時間を短縮できる。
【0080】
次に、上記のキーフレーム選択装置20と同様の機能を有する装置および上記のキーフレーム選択処理と同様の処理をコンピュータプログラムでソフトウェア的に実現する構成を説明する。このプログラムは、例えば、PCなどの汎用コンピュータで実行される。そして、このコンピュータプログラムにより、コンピュータ上で画像処理プラットフォームが規定される。
【0081】
図9のフローチャートは、上述の画像処理プラットフォームを実現するためのコンピュータプログラムによる処理の例を示している。
【0082】
まず、画像処理プラットフォームに入力された画像データがワークメモリに蓄積される(ステップ81)。ここでは、画像データは、時間の経過順にフレームごとにワークメモリに蓄積される。次に、前回の処理ループで選択済みのキーフレームを読み出し、基準キーフレームとして設定する。ただし、最初のループではキーフレームは未だ選択されていないので、最初に読み込まれた画像データを基準キーフレームに設定する。
【0083】
次に、現時点で読み込まれている最新の画像データを候補キーフレームとして、基準キーフレームと候補キーフレームとの間の相関を表す内挿関数を求める(ステップ82)。ただし、最初のループでは基準キーフレームと候補キーフレームが同一フレームとなるため、最初のループではステップ82からステップ85までをスキップして次のループ処理に移行する。
【0084】
次に、内挿関数をワークメモリに蓄積する(ステップ83)。そして、その内挿関数の変化を判定する(ステップ84)。このステップ84では、直前のステップ82で求められた内挿関数とその前のステップ82で求められた内挿関数との間の変化が所定の判定基準を越えるか否かが判断される。そして、ステップ84での判定に基づいて、最適なキーフレームが判定される(ステップ85)。このステップ85では、内挿関数の変化が判定基準より小さい場合にはキーフレームを選択することなく次のループに移行する。一方、内挿関数の変化が判定基準を越える場合には1つ前のループで用いた候補キーフレームをキーフレームとして選択し、選択されたキーフレームを次ループの基準キーフレームとして更新する。
【0085】
以上説明したように、汎用コンピュータがプログラムを実行することによっても上記のキーフレーム選択装置20およびキーフレーム選択装置20が実行するキーフレーム選択処理を実現することができる。
【0086】
なお、プログラムが可搬型の記録媒体や通信ネットワークを媒体としてコンピュータにロードされてよいことは、第1の実施の形態と同様である。
【0087】
以上説明したように、第1および第2の実施の形態によれば、連続する複数の画像フレームのうちの試験用画像フレームを用いて、内挿処理により中間画像を再現する処理の少なくとも一部を試験的に行ない、その結果に基づいてキーフレームを選択するので、実際に生成される再現画像の質の優劣に基づいたキーフレームの選択ができる。これにより、キーフレーム間隔を広くとりつつ、再現画像の質を確保できるようにキーフレームを選択できる。ここで、中間画像を再現する処理の少なくとも一部とは、第1の実施の形態では、内挿により中間画像を生成する処理であり、第2の実施の形態では、内挿により中間画像を生成するための内挿関数を求める処理である。第2の実施の形態では、内挿による中間画像の生成自体を行なわないので、キーフレーム選択の処理負担を軽減できる。
【0088】
以上説明したキーフレーム選択装置10および20は、例えば、人物認証システムにて用いられる。人物認証システムとは、人物の顔を撮影してその人物があらかじめ登録された者であるかを判定するシステムである。この人物認証システムでは、あらかじめ登録対象者の顔の動画像が撮影され、その動画像からキーフレーム選択装置によりキーフレームが選択されて保存されている。以下では、登録対象者の動画像が撮影されて、キーフレーム選択装置に入力される入力画像が生成されるまでの処理、および選択されたキーフレームを用いて実際に人物認証を行なう際の処理を説明する。
【0089】
図10は、入力画像を生成する処理を説明する図である。図10は、人物の顔の角度が変化していく複数の画像フレームを生成する例を示している。複数の画像フレームを生成するために、まず、被写体である人物91にカメラ92に顔が映るように位置してもらう。そして、人物91に顔を左右に振ってもらい、これをカメラ92で撮影する。これにより、人物91の顔の角度が変化していく動画像が撮影され、その動画像から、連続的に変化する顔画像を表す複数の画像フレーム93が得られる。
【0090】
キーフレーム選択装置10、20は、このようにして得られた複数の画像フレーム93を入力画像として取り込み、上述のようにして、それらの画像フレーム93の中からキーフレームを選択する。
【0091】
人物認証システムでは、選択されたキーフレームを保存しておき、以下のようにして人物の認証を行なう。まず、認証対象の人物の顔を撮影して顔画像を得る。このとき、人物の顔画像はカメラに対してどの角度であってもよい。そして、人物認証システムにて、あらかじめ記憶しているキーフレームを用いて内挿処理を施すことにより、撮影された顔画像の角度に対応する角度の顔画像を生成する。このようにして生成された顔画像を撮影によって得られた認証対象の人物の顔画像と比較することにより、その認証対象の人物があらかじめ登録された人物であるかを判定する。
【0092】
なお、第1の実施の形態では、内挿処理により中間画像を生成することで試験処理を行ない、また、第2の実施の形態では、内挿関数を生成することにより試験処理を行なったが、本発明はこれらに限られない。例えば、第1の実施の形態の試験処理が、外挿処理により外挿画像を生成するものであってもよく、また、第2の実施の形態の試験処理が外挿関数を生成するものであってもよい。これらの変形例によっても上記と同様の効果が得られる。本発明の「相関関数」は、内挿関数および外挿関数を含み、また、本発明の「再現画像」は、内挿処理によって生成される中間画像および外挿処理によって生成される外挿画像を含む。
【0093】
また、上記の第1および第2の実施の形態では、2つの画像フレームの相関から再現画像が求められたが、3つ以上の画像フレームが用いられてもよい。すなわち、試験用画像フレームは3つ以上であってもよい。
【0094】
さらに、第1および第2の実施の形態では、基準キーフレームから時間が進行する方向に候補キーフレームを1枚ずつ更新して試験処理を行なったが、試験処理の手順はこれに限られない。試験処理は、例えば、最初の候補キーフレームを基準キーフレームから一定のフレーム数の間隔をおいた画像フレームにしてもよい。この場合には、制御部15が基準キーフレームおよび候補キーフレームを記憶部11から読み出して、これらの2つの画像フレームを用いて試験処理が行われる。この変形例では、最初の候補キーフレームで判定基準を越えた場合には、その画像フレームから時間が後退する方向(基準キーフレームに近づく方向)に候補キーフレームを更新していって試験処理を行なう。一方、最初の候補キーフレームで判定基準を越えていない場合には、時間が進行する方向に候補キーフレームを更新して試験処理を行なう。この変形例は、例えば、動画像の内容、すなわち被写体の動作速度や被写体の内容があらかじめ分かっており、選択されるべきキーフレームの間隔が予測できる状況下で有用である。この変形例によれば、キーフレーム選択のための処理量を少なくできる。
【0095】
また、第1および第2の実施の形態では、判定基準を越えない限度で最も基準キーフレームから遠い画像フレームをキーフレームとして選択したが、本発明はこれに限られない。例えば、上記のように、基準キーフレームから一定のフレーム数の間隔をおいた画像フレームを最初の候補キーフレームにする場合、その最初の候補キーフレームの試験処理で判定基準を越えなかったときには、その画像フレームをキーフレームとして選択し、判定基準を越えた場合にのみ候補キーフレームを更新して試験処理を行なってもよい。この変形例によれば、キーフレーム選択のための処理量をさらに少なくできる。
【0096】
また、上記の実施の形態では、相関関数のパラメータを時間にしているが、本実施の形態では、相関によりキーフレーム以外の画像が再現されればよく、時間と同等の意味をもつ他のパラメータ、例えばフレーム番号をパラメータとして相関関数が表現されてもよい。
【0097】
【発明の効果】
以上説明したように、本発明は、フレーム間の相関に基づいて任意の画像フレームの画像を再現する画像再現処理の少なくとも一部を試験的に行なってキーフレームを選択するので、キーフレームを適切に選択することができるというすぐれた効果を有する装置を提供することができる。
【図面の簡単な説明】
【図1】第1の実施の形態のキーフレーム選択処理を説明する図
【図2】第1の実施の形態のキーフレーム選択装置の構成図
【図3】第1の実施の形態のキーフレーム選択装置による処理のフローチャート
【図4】第1の実施の形態のキーフレーム選択処理をプログラムで実現するときのフローチャート
【図5】第2の実施の形態のキーフレーム選択処理を説明する図
【図6】第2の実施の形態の候補キーフレームのフレーム番号と内挿関数の変化との関係を示すグラフ
【図7】第2の実施の形態のキーフレーム選択装置の構成図
【図8】第2の実施の形態のキーフレーム選択装置による処理のフローチャート
【図9】第2の実施の形態のキーフレーム選択処理をプログラムで実現するときのフローチャート
【図10】本実施の形態のキーフレーム選択装置を人物認証に適用するときに入力画像として連続する複数の画像フレームを生成する例を説明する図
【符号の説明】
10、20 キーフレーム選択装置
11 記憶部
12 中間画像生成部
13 比較部
14 キーフレーム判定部
15 制御部
22 内挿関数演算部
23 内挿関数変化記録部
Claims (7)
- 連続する複数のオリジナル画像フレームを記憶する記憶手段と、
前記複数のオリジナル画像フレームのうちの複数の画像フレームを試験用画像フレームとし、それらの試験用画像フレーム間の相関に基づいて再現画像を生成する画像再現処理の少なくとも一部を試験的に行なう試験処理手段と、
前記試験処理手段で処理した結果に基づいて、前記複数のオリジナル画像フレームから、フレーム間の相関に基づく画像生成のために保持すべきキーフレームを選択する選択手段と、
を含むことを特徴とするキーフレーム選択装置。 - 前記試験処理手段は、前記画像再現処理により再現画像を生成し、
前記選択手段は、前記画像再現処理により生成された再現画像とその再現画像に対応するオリジナル画像フレームの画像との比較に基づいてキーフレームを選択することを特徴とする請求項1に記載のキーフレーム選択装置。 - 前記試験処理手段は、前記画像再現処理のうちの再現画像を生成するための相関関数を求める処理を行ない、
前記選択手段は、前記複数の試験用画像フレームのいずれかの画像フレームが順次異なるときの前記試験処理手段で求めた相関関数の変化に基づいてキーフレームを選択することを特徴とする請求項1に記載のキーフレーム選択装置。 - 連続する複数のオリジナル画像フレームのうちの複数の画像フレームを試験用画像フレームとし、それらの試験用画像フレーム間の相関に基づいて再現画像を生成する画像生成ステップと、
前記画像生成ステップにて生成された再現画像と、前記複数の画像フレームのうちの前記再現画像に対応する画像フレームの画像とを比較する比較ステップと、
前記比較ステップでの比較の結果に基づいて、前記複数のオリジナル画像フレームから、フレーム間の相関に基づく画像生成のために保持すべきキーフレームを選択する選択ステップと、
を含むことを特徴とするキーフレーム選択方法。 - 連続する複数のオリジナル画像フレームのうちの複数の画像フレームを試験用画像フレームとし、それらの試験用画像フレーム間の相関を表す相関関数を求める関数演算ステップと、
前記複数の試験用画像フレームのいずれかの画像フレームが順次異なるときの前記相関関数の変化を求める変化演算ステップと、
前記変化演算ステップにて求められた変化に基づいて、前記複数のオリジナル画像フレームから、フレーム間の相関に基づく画像生成のために保持すべきキーフレームを選択する選択ステップと、
を含むことを特徴とするキーフレーム選択方法。 - 請求項4または5に記載のキーフレーム選択方法をコンピュータに実行させるプログラム。
- 請求項6に記載のプログラムを記録した、コンピュータにて読取可能な記録媒体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003063541A JP2004274460A (ja) | 2003-03-10 | 2003-03-10 | キーフレーム選択装置およびキーフレーム選択方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003063541A JP2004274460A (ja) | 2003-03-10 | 2003-03-10 | キーフレーム選択装置およびキーフレーム選択方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2004274460A true JP2004274460A (ja) | 2004-09-30 |
Family
ID=33125094
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003063541A Pending JP2004274460A (ja) | 2003-03-10 | 2003-03-10 | キーフレーム選択装置およびキーフレーム選択方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2004274460A (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116017038A (zh) * | 2022-11-24 | 2023-04-25 | 杭州华橙软件技术有限公司 | 一种视频数据传输方法、系统及计算机可读存储介质 |
-
2003
- 2003-03-10 JP JP2003063541A patent/JP2004274460A/ja active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116017038A (zh) * | 2022-11-24 | 2023-04-25 | 杭州华橙软件技术有限公司 | 一种视频数据传输方法、系统及计算机可读存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10841494B2 (en) | Motion vector estimation for video image stabilization | |
JP4309171B2 (ja) | 画像処理方法および画像処理装置 | |
US20090232416A1 (en) | Image processing device | |
KR101136506B1 (ko) | 화상 생성 방법, 장치 및 그 프로그램 및 프로그램을 기록한 기록매체 | |
US20100188511A1 (en) | Imaging apparatus, subject tracking method and storage medium | |
US10033931B2 (en) | Image processing apparatus and image processing method for processing still image data | |
CN108463994B (zh) | 图像处理装置、图像处理方法和存储介质 | |
JP5547464B2 (ja) | フィルムモードまたはカメラモードの検出方法 | |
US20090079836A1 (en) | Image processing apparatus, method, and computer program product | |
JPH1175178A (ja) | 画像符号化装置及び画像符号化方法 | |
CN109714501B (zh) | 一种帧平均降噪方法和装置 | |
JP5197801B2 (ja) | 動画再生システム及び撮影装置 | |
JP2002247444A (ja) | 画像処理装置及び画像処理プログラムを記録した記録媒体 | |
KR101945233B1 (ko) | 영상 안정화 방법 및 장치 | |
JP2004274460A (ja) | キーフレーム選択装置およびキーフレーム選択方法 | |
JP2006005659A (ja) | 画像符号化装置及びその方法 | |
JP2011254447A (ja) | 動画再生装置、方法及びプログラム並びに記録媒体 | |
KR101945243B1 (ko) | 영상을 배속 재생하는 방법 및 장치 | |
JP2009065619A (ja) | 手振れ補正装置及び撮像装置 | |
JP2010193026A (ja) | 画像再生装置、画像再生方法およびプログラム | |
WO2011033675A1 (ja) | 画像処理装置および画像表示装置 | |
JP2006014183A (ja) | 画像符号化装置、画像符号化方法及びそのプログラム | |
JP2009284411A (ja) | 撮像装置 | |
JP2007116332A (ja) | 画像処理装置 | |
JP2009088933A (ja) | 画像記録装置、画像補正装置及び撮像装置 |