JP2004032496A - 映像コマ数削減装置および映像コマ数削減方法 - Google Patents
映像コマ数削減装置および映像コマ数削減方法 Download PDFInfo
- Publication number
- JP2004032496A JP2004032496A JP2002187574A JP2002187574A JP2004032496A JP 2004032496 A JP2004032496 A JP 2004032496A JP 2002187574 A JP2002187574 A JP 2002187574A JP 2002187574 A JP2002187574 A JP 2002187574A JP 2004032496 A JP2004032496 A JP 2004032496A
- Authority
- JP
- Japan
- Prior art keywords
- video
- motion vector
- extracted
- frame
- video signal
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Television Signal Processing For Recording (AREA)
- Television Systems (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
- Compression, Expansion, Code Conversion, And Decoders (AREA)
Abstract
【解決手段】制御情報作成部4では、誘目領域検出部3で検出された誘目領域における相対動きベクトル量MVの平均値を基に、入力映像信号IMから抽出する映像コマおよびその抽出する間隔を示す制御情報SCを作成する。そして、低コマ数映像信号作成部5では、外部から入力されたカット情報CIおよび目標コマ数情報TFと、制御情報作成部4から入力された制御情報SCとに基づいて、カット毎に、入力映像信号IMから制御情報SCに示された映像コマを制御情報SCに示された間隔で抽出して、入力映像信号IMの映像コマ数を削減した低コマ数映像信号LMを作成する。
【選択図】 図1
Description
【発明の属する技術分野】
本発明は、映像コマ数削減装置および映像コマ数削減方法に関し、特に、一定のフレームレートで入力される複数の映像コマからなる映像信号の映像コマ数を削減するための映像コマ数削減装置および映像コマ数削減方法に関する。
【0002】
【従来の技術】
近年、携帯電話やPDA(Personal Digital Assistant)等の携帯端末を対象に、小さな画面での映像提供サービスが実施されている。このような映像提供サービスでは、伝送路の帯域に制限があるため、映像を構成している映像コマを間引いて削減する、いわゆる「コマ落とし」が行われている。この「コマ落とし」には、(1)映像コマを単純に一定の間隔で間引く方法と、(2)被写体の動きが大きい映像コマはあまり間引かずに、被写体の動きが小さい映像コマを多く間引く方法と、(3)MPEG−4の符号化・復号化装置で発生したビット量がバッファの占有量の規定を超えると、フレームをスキップして可変フレームレート映像を作成する方法等がある。
【0003】
(2)の方法としては、フレーム間の対応画素のレベル差が、予め設定した閾値を超える変化画素総数によってフレームレートを変化させて、可変フレームレートの映像を作成する方法がある。このような方法は、文献(「フレームレートの変化が映像品質に及ぼす影響」電子情報通信学会論文誌A、Vol.J79−A、No.4、pp.991−1000、1996,林孝典 他)に開示されている。
【0004】
また、(3)の方法は、例えば、文献(MPEG−4 VM ソフトウェア、European ACTS project MoMuSys)に開示されている。
【0005】
【発明が解決しようとする課題】
しかしながら、(1)の映像コマを単純に一定の間隔で間引く方法や、(3)のMPEG−4の符号化・復号化装置で発生したビット量がバッファの占有量の規定を超えると、フレームをスキップして可変フレームレート映像を製作する方法では、コマ落としした映像を一定のフレームレートで表示する際に同一の映像コマを繰り返す部分が生じるため、各映像コマ間における被写体の移動量が大きくなり、映像内容の連続性が喪失するという問題があった。
【0006】
また、(2)のフレーム間の対応画素のレベル差が、予め設定した閾値を超える変化画素総数によってフレームレートを変化させて、可変フレームレートの映像を作成する方法では、その映像コマに含まれる被写体の動きの大きさについては考慮していないため、被写体の動きが複雑である場合は、映像内容の連続性が喪失するという問題があった。
【0007】
そこで、本発明は、前記した従来の技術が有する課題を解消し、一定のフレームレートで入力される複数の映像コマからなる映像信号の映像コマ数を削減した際に、動きの大きなシーンで生じ易い映像内容の連続性の喪失を軽減することができる映像コマ数削減装置および映像コマ数削減方法を提供することを目的とする。
【0008】
【課題を解決するための手段】
請求項1に記載の映像コマ数削減装置は、一定のフレームレートで入力された複数の映像コマからなる入力映像信号の映像コマ数を、前記入力映像信号の映像におけるカットの切り替わりを示すカット情報および前記入力映像信号から前記映像コマを削減するコマ数を示す目標コマ数情報に基づいて削減する映像コマ数削減装置であって、前記カット情報および前記目標コマ数情報に基づいて、前記カット毎に、前記入力映像信号から一部の映像コマを一定の間隔で抽出して抽出映像コマとする映像コマ抽出部と、前記映像コマ抽出部で抽出された抽出映像コマを所定領域のマクロブロックに分割し、前記マクロブロック毎に、そのマクロブロックにおける動きベクトル量と背景の動きベクトル量とを比較した相対値である相対動きベクトル量を算出する相対動きベクトル量算出部と、前記相対動きベクトル量を基に、前記抽出映像コマ内において相対動きベクトル量が予め設定した閾値を超えるマクロブロックから構成される領域を、その抽出映像コマにおける誘目領域として検出し、前記誘目領域を構成するマクロブロックに含まれる各相対動きベクトル量から、その誘目領域における相対動きベクトル量の平均値を算出する誘目領域検出部と、前記相対動きベクトル量の平均値を基に前記入力映像信号から抽出する映像コマおよびその抽出する間隔を示す制御情報を作成する制御情報作成部と、前記カット情報、前記目標コマ数情報および前記制御情報に基づいて、前記カット毎に、前記入力映像信号から前記映像コマを前記制御情報に示された間隔で抽出し、前記入力映像信号の映像コマ数を削減した低コマ数映像信号を作成する低コマ数映像信号作成部とを備えて構成されることを特徴とする。
【0009】
請求項1に記載の映像コマ数削減装置によれば、まず、映像コマ抽出部では、外部から入力されたカット情報および目標コマ数情報に基づいて、カット毎に、入力映像信号から映像コマを一定の間隔で抽出して抽出映像コマとする。続いて、相対動きベクトル量算出部では、映像コマ抽出部で抽出された抽出映像コマを所定領域のマクロブロックに分割し、前記マクロブロック毎に、そのマクロブロックにおける動きベクトル量と背景の動きベクトル量とを比較した相対値である相対動きベクトル量を算出する。次に、誘目領域検出部では、相対動きベクトル量算出部で算出された相対動きベクトル量を基に、抽出映像コマ内において相対動きベクトル量が予め設定した閾値を超えるマクロブロックから構成される領域を、その抽出映像コマにおける誘目領域として検出し、誘目領域を構成するマクロブロックに含まれる各相対動きベクトル量から、その誘目領域における相対動きベクトル量の平均値を算出する。次に、制御情報作成部では、相対動きベクトル量の平均値を基に、入力映像信号から抽出する映像コマおよびその抽出する間隔を示す制御情報を作成する。そして、低コマ数映像信号作成部では、外部から入力されたカット情報および目標コマ数情報と、制御情報作成部から入力された制御情報とに基づいて、カット毎に、入力映像信号から制御情報に示された映像コマを制御情報に示された間隔で抽出して、入力映像信号の映像コマ数を削減した低コマ数映像信号を作成する。
【0010】
なお、「カット情報」とは、一台のカメラでいったん写し始めてから写し終わるまでの一場面を“カット”と定義した際の、入力映像信号の映像におけるカットの切り替わりを示す情報である。
【0011】
また、「目標コマ数情報」とは、入力映像信号から映像コマを抽出するコマ数を示す情報である。例えば、入力映像信号のフレームレートがn[コマ/秒]で、入力映像信号から映像コマを抽出して作成する低コマ数映像信号のフレームレートをrn[コマ/秒](rは映像コマを抽出する間隔を示す係数、0<r<1)としたい場合は、入力映像信号から映像コマを抽出する間隔を示す係数であるrが目標コマ数情報となる。
【0012】
また、「動きベクトル量」とは、被写体の動き量をベクトル量で表したものである。例えば、被写体が動いていないところでは、ベクトル量は“0”に近づき、被写体が動いていればどの程度動いたかを“動き量”として表す。この動き量”は、被写体の動きが激しくなればなるほど“大きくなる。また、「相対動きベクトル量」とは、背景の動きベクトル量に対する相対値である。
【0013】
そして、「制御情報」とは、入力映像信号から抽出する映像コマと、その抽出する間隔を示す情報である。本発明では、入力映像信号から映像コマを抽出する間隔は、映像コマ群毎に異なるので、その映像コマ群における先頭および最後尾のコマ番号と、その映像コマ群における抽出間隔を示す制御信号とを制御情報としている。なお、映像コマ群とは、映像コマがあるコマ数で連続しているものである。
【0014】
また、請求項2に記載の映像コマ数削減装置は、請求項1に記載された映像コマ数削減装置において、前記誘目領域検出部は、前記相対動きベクトル量を予め設定した閾値と比較し、前記相対動きベクトル量が前記閾値を超えるマクロブロックから構成される領域をその抽出映像コマにおける誘目領域として検出することを特徴とする。
【0015】
請求項2に記載の映像コマ数削減装置によれば、誘目領域検出部では、各マクロブロックの相対動きベクトル量を予め設定した閾値と比較し、相対動きベクトル量が閾値を超えるマクロブロックから構成される領域をその抽出映像コマにおける誘目領域として検出する。このように構成することにより、誘目領域を容易にかつ精度良く検出することができる。
【0016】
また、請求項3に記載の映像コマ数削減装置は、請求項1または請求項2に記載された映像コマ数削減装置において、前記制御情報作成部は、前記相対動きベクトル量の平均値を、前記相対動きベクトル量の平均値のカット全体における平均と分散から決定される閾値と比較し、前記相対動きベクトル量の平均値が前記閾値よりも大きい場合は、前記入力映像信号から前記映像コマを、前記目標コマ数情報に基づいて一定の間隔で抽出する際の間隔よりも短い間隔で抽出し、前記相対動きベクトル量の平均値が前記閾値よりも小さい場合は、前記入力映像信号から前記映像コマを、前記目標コマ数情報に基づいて一定の間隔で抽出する際の間隔よりも長い間隔で抽出することを指示する制御情報を作成することを特徴とする。
【0017】
請求項3に記載の映像コマ数削減装置によれば、制御情報作成部では、相対動きベクトル量の平均値を、相対動きベクトル量の平均値のカット全体における平均と分散から決定される閾値と比較し、相対動きベクトル量の平均値が閾値よりも大きい場合は、入力映像信号から映像コマを、目標コマ数情報に基づいて一定の間隔で抽出する際の間隔よりも短い間隔で抽出し、相対動きベクトル量の平均値が閾値よりも小さい場合は、入力映像信号から映像コマを、目標コマ数情報に基づいて一定の間隔で抽出する際の間隔よりも長い間隔で抽出することを指示する制御情報を作成する。このように構成すると、映像コマに含まれる被写体の動き量に応じた制御情報を作成することができる。なお、ここでいう、「目標コマ数情報に基づいて一定の間隔で抽出する際の間隔」とは、入力映像信号から映像コマを、目標コマ数情報に示されたコマ数だけ一定の間隔で抽出する際の間隔のことである。
【0018】
また、請求項4に記載の映像コマ数削減装置は、一定のフレームレートで入力された複数の映像コマからなる入力映像信号の映像コマ数を、前記入力映像信号の映像におけるカットの切り替わりを示すカット情報および前記入力映像信号から前記映像コマを削減するコマ数を示す目標コマ数情報に基づいて削減する映像コマ数削減装置であって、前記カット情報および前記目標コマ数情報に基づいて、前記カット毎に、前記入力映像信号から一部の映像コマを一定の間隔で抽出して抽出映像コマとする映像コマ抽出部と、前記映像コマ抽出部で抽出された抽出映像コマを所定領域のマクロブロックに分割し、前記マクロブロック毎に、動きベクトル量を算出する動きベクトル量算出部と、前記動きベクトル量とその抽出映像コマにおいて所定の手順で検出されたグローバルベクトル量との差が予め設定した閾値を超えるマクロブロックから構成される領域を、その抽出映像コマにおける誘目領域として検出し、前記誘目領域を構成するマクロブロックに含まれる各動きベクトル量および各グローバルベクトル量から、その誘目領域における動きベクトル量とグローバルベクトル量との差の平均値を算出する誘目領域検出部と、前記動きベクトル量とグローバルベクトル量との差の平均値を基に前記入力映像信号から抽出する映像コマおよびその抽出する間隔を示す制御情報を作成する制御情報作成部と、前記カット情報、前記目標コマ数情報および前記制御情報に基づいて、前記カット毎に、前記入力映像信号から前記映像コマを前記制御情報に示された間隔で抽出し、前記入力映像信号の映像コマ数を削減した低コマ数映像信号を作成する低コマ数映像信号作成部とを備えて構成されることを特徴とする。
【0019】
請求項4に記載の映像コマ数削減装置によれば、まず、映像コマ抽出部では、外部から入力されたカット情報および目標コマ数情報に基づいて、カット毎に、入力映像信号から映像コマを一定の間隔で抽出して抽出映像コマとする。続いて、動きベクトル量算出部では、映像コマ抽出部で抽出された抽出映像コマを所定領域のマクロブロックに分割し、前記マクロブロック毎に、そのマクロブロックにおける動きベクトル量を算出する。次に、誘目領域検出部では、動きベクトル量算出部で算出された動きベクトル量と、その抽出映像コマにおいて所定の手順で検出されたグローバルベクトル量との差が予め設定した閾値を超えるマクロブロックから構成される領域を、その抽出映像コマにおける誘目領域として検出し、誘目領域を構成するマクロブロックに含まれる各動きベクトル量および各グローバルベクトル量から、その誘目領域における動きベクトル量とグローバルベクトル量との差の平均値を算出する。次に、制御情報作成部では、誘目領域検出部で検出された誘目領域における動きベクトル量とグローバルベクトル量との差の平均値を基に、入力映像信号から抽出する映像コマおよびその抽出する間隔を示す制御情報を作成する。そして、低コマ数映像信号作成部では、外部から入力されたカット情報および目標コマ数情報と、制御情報作成部から入力された制御情報とに基づいて、カット毎に、入力映像信号から制御情報に示された映像コマを制御情報に示された間隔で抽出して、入力映像信号の映像コマ数を削減した低コマ数映像信号を作成する。
【0020】
また、請求項5に記載の映像コマ数削減装置は、請求項5に記載された映像コマ数削減装置において、前記制御情報作成部は、前記動きベクトル量とグローバルベクトル量との差の平均値を、予め設定した閾値と比較し、前記平均値が前記閾値よりも大きい場合は、前記入力映像信号から前記映像コマを、前記目標コマ数情報に基づいて一定の間隔で抽出する際の間隔よりも短い間隔で抽出し、前記平均値が前記閾値よりも小さい場合は、前記入力映像信号から前記映像コマを、前記目標コマ数情報に基づいて一定の間隔で抽出する際の間隔よりも長い間隔で抽出することを指示する制御情報を作成することを特徴とする。
【0021】
請求項5に記載の映像コマ数削減装置によれば、制御情報作成部では、動きベクトル量とグローバルベクトル量との差の平均値を、予め設定した閾値と比較し、平均値が閾値よりも大きい場合は、入力映像信号から映像コマを、目標コマ数情報に基づいて一定の間隔で抽出する際の間隔よりも短い間隔で抽出し、平均値が閾値よりも小さい場合は、入力映像信号から映像コマを、目標コマ数情報に基づいて一定の間隔で抽出する際の間隔よりも長い間隔で抽出する。このように構成すると、映像コマに含まれる被写体の動き量に応じた制御情報を作成することができる。
【0022】
請求項6に記載の映像コマ数削減方法は、一定のフレームレートで入力された複数の映像コマからなる入力映像信号の映像コマ数を、前記入力映像信号の映像におけるカットの切り替わりを示すカット情報および前記入力映像信号から前記映像コマを抽出するコマ数を示す目標コマ数情報に基づいて削減する映像コマ数削減方法であって、前記カット情報および前記目標コマ数情報に基づいて、前記カット毎に、前記入力映像信号から一部の映像コマを一定の間隔で抽出して抽出映像コマとする映像コマ抽出ステップと、前記映像コマ抽出ステップで抽出された抽出映像コマを所定領域のマクロブロックに分割し、前記マクロブロック毎に、そのマクロブロックにおける動きベクトル量と背景の動きベクトル量とを比較した相対値である相対動きベクトル量を算出する相対動きベクトル量算出ステップと、前記相対動きベクトル量を基に、前記抽出映像コマ内において相対動きベクトル量が予め設定した閾値を超えるマクロブロックから構成される領域を、その抽出映像コマにおける誘目領域として検出し、前記誘目領域を構成するマクロブロックに含まれる各相対動きベクトル量から、その誘目領域における相対動きベクトル量の平均値を算出する誘目領域検出ステップと、前記相対動きベクトル量の平均値を基に、前記入力映像信号から抽出する映像コマおよびその抽出する間隔を示す制御情報を作成する制御情報作成ステップと、前記カット情報、前記目標コマ数情報および前記制御情報に基づいて、前記カット毎に、前記入力映像信号から前記映像コマを前記制御情報に示された間隔で抽出し、前記入力映像信号の映像コマ数を削減した低コマ数映像信号を作成する低コマ数映像信号作成ステップとを含むことを特徴とする。
【0023】
請求項6に記載の映像コマ数削減方法によれば、まず、映像コマ抽出ステップでは、カット情報および目標コマ数情報に基づいて、カット毎に、入力映像信号から映像コマを一定の間隔で抽出して抽出映像コマとする。続いて、相対動きベクトル量算出ステップでは、映像コマ抽出ステップで抽出された抽出映像コマを所定領域のマクロブロックに分割し、前記マクロブロック毎に、そのマクロブロックにおける動きベクトル量と背景の動きベクトル量とを比較した相対値である相対動きベクトル量を算出する。次に、誘目領域検出ステップでは、相対動きベクトル量算出ステップで算出された相対動きベクトル量を基に、抽出映像コマ内において相対動きベクトル量が予め設定した閾値を超えるマクロブロックから構成される領域を、その抽出映像コマにおける誘目領域として検出し、誘目領域を構成するマクロブロックに含まれる各相対動きベクトル量から、その誘目領域における相対動きベクトル量の平均値を算出する。次に、制御情報作成ステップでは、誘目領域検出ステップで検出された誘目領域における相対動きベクトル量の平均値を基に、入力映像信号から抽出する映像コマおよびその抽出する間隔を示す制御情報を作成する。そして、低コマ数映像信号作成ステップでは、カット情報および目標コマ数情報と、制御情報作成ステップで作成された制御情報とに基づいて、カット毎に、入力映像信号から制御情報に示された映像コマを制御情報に示された間隔で抽出して、入力映像信号の映像コマ数を削減した低コマ数映像信号を作成する。
【0024】
また、請求項7に記載の映像コマ数削減方法は、請求項6に記載された映像コマ数削減方法において、前記誘目領域検出ステップは、前記相対動きベクトル量を予め設定した閾値と比較し、前記相対動きベクトル量が前記閾値を超えるマクロブロックから構成される領域をその抽出映像コマにおける誘目領域として検出することを特徴とする。
【0025】
請求項7に記載の映像コマ数削減方法によれば、誘目領域検出ステップでは、各マクロブロックの相対動きベクトル量を予め設定した閾値と比較し、相対動きベクトル量が閾値を超えるマクロブロックから構成される領域をその抽出映像コマにおける誘目領域として検出する。このようにすると、誘目領域を容易にかつ精度良く検出することができる。
【0026】
また、請求項8に記載の映像コマ数削減方法は、請求項6または請求項7に記載された映像コマ数削減方法において、前記制御情報作成ステップは、前記相対動きベクトル量の平均値を、前記相対動きベクトル量の平均値のカット全体における平均と分散から決定される閾値と比較し、前記相対動きベクトル量の平均値が前記閾値よりも大きい場合は、前記入力映像信号から前記映像コマを、前記目標コマ数情報に基づいて一定の間隔で抽出する際の間隔よりも短い間隔で抽出し、前記相対動きベクトル量の平均値が前記閾値よりも小さい場合は、前記入力映像信号から前記映像コマを、前記目標コマ数情報に基づいて一定の間隔で抽出する際の間隔よりも長い間隔で抽出することを指示する制御情報を作成することを特徴とする。
【0027】
請求項8に記載の映像コマ数削減方法によれば、制御情報作成ステップでは、相対動きベクトル量の平均値を、相対動きベクトル量の平均値のカット全体における平均と分散から決定される閾値と比較し、相対動きベクトル量の平均値が閾値よりも大きい場合は、入力映像信号から映像コマを、目標コマ数情報に基づいて一定の間隔で抽出する際の間隔よりも短い間隔で抽出し、相対動きベクトル量の平均値が閾値よりも小さい場合は、入力映像信号から映像コマを、目標コマ数情報に基づいて一定の間隔で抽出する際の間隔よりも長い間隔で抽出することを指示する制御情報を作成する。このようにすると、映像コマに含まれる被写体の動き量に応じた制御情報を作成することができる。
【0028】
また、請求項9に記載の映像コマ数削減方法は、一定のフレームレートで入力された複数の映像コマからなる入力映像信号の映像コマ数を、前記入力映像信号の映像におけるカットの切り替わりを示すカット情報および前記入力映像信号から前記映像コマを抽出するコマ数を示す目標コマ数情報に基づいて削減する映像コマ数削減方法であって、前記カット情報および前記目標コマ数情報に基づいて、前記カット毎に、前記入力映像信号から一部の映像コマを一定の間隔で抽出して抽出映像コマとする映像コマ抽出ステップと、前記映像コマ抽出ステップで抽出された抽出映像コマを所定領域のマクロブロックに分割し、前記マクロブロック毎に、動きベクトル量を算出する動きベクトル量算出ステップと、前記動きベクトル量とその抽出映像コマにおいて所定の手順で検出されたグローバルベクトル量との差が予め設定した閾値を超えるマクロブロックから構成される領域を、その抽出映像コマにおける誘目領域として検出し、前記誘目領域を構成するマクロブロックに含まれる各動きベクトル量および各グローバルベクトル量から、その誘目領域における動きベクトル量とグローバルベクトル量との差の平均値を算出する誘目領域検出ステップと、前記動きベクトル量とグローバルベクトル量との差の平均値を基に、前記入力映像信号から抽出する映像コマおよびその抽出する間隔を示す制御情報を作成する制御情報作成ステップと、前記カット情報、前記目標コマ数情報および前記制御情報に基づいて、前記カット毎に、前記入力映像信号から前記映像コマを前記制御情報に示された間隔で抽出し、前記入力映像信号の映像コマ数を削減した低コマ数映像信号を作成する低コマ数映像信号作成ステップとを含むことを特徴とする。
【0029】
請求項9に記載の映像コマ数削減方法によれば、まず、映像コマ抽出ステップでは、カット情報および目標コマ数情報に基づいて、カット毎に、入力映像信号から映像コマを一定の間隔で抽出して抽出映像コマとする。続いて、動きベクトル量算出ステップでは、映像コマ抽出ステップで抽出された抽出映像コマを所定領域のマクロブロックに分割し、マクロブロック毎に、そのマクロブロックにおける動きベクトル量を算出する。次に、誘目領域検出ステップでは、動きベクトル量算出ステップで算出された動きベクトル量と、その抽出映像コマにおいて所定の手順で検出されたグローバルベクトル量との差が予め設定した閾値を超えるマクロブロックから構成される領域を、その抽出映像コマにおける誘目領域として検出し、誘目領域を構成するマクロブロックに含まれる各動きベクトル量および各グローバルベクトル量から、その誘目領域における動きベクトル量とグローバルベクトル量との差の平均値を算出する。次に、制御情報作成ステップでは、誘目領域検出部で検出された誘目領域における動きベクトル量とグローバルベクトル量との差の平均値を基に、入力映像信号から抽出する映像コマおよびその抽出する間隔を示す制御情報を作成する。そして、低コマ数映像信号作成ステップでは、カット情報および目標コマ数情報と、制御情報作成ステップで作成された制御情報とに基づいて、カット毎に、入力映像信号から制御情報に示された映像コマを制御情報に示された間隔で抽出して、入力映像信号の映像コマ数を削減した低コマ数映像信号を作成する。
【0030】
また、請求項10に記載の映像コマ数削減方法は、請求項9に記載された映像コマ数削減方法において、前記制御情報作成ステップは、前記動きベクトル量とグローバルベクトル量との差の平均値を、予め設定した閾値と比較し、前記平均値が前記閾値よりも大きい場合は、前記入力映像信号から前記映像コマを、前記目標コマ数情報に基づいて一定の間隔で抽出する際の間隔よりも短い間隔で抽出し、前記平均値が前記閾値よりも小さい場合は、前記入力映像信号から前記映像コマを、前記目標コマ数情報に基づいて一定の間隔で抽出する際の間隔よりも長い間隔で抽出することを指示する制御情報を作成することを特徴とする。
【0031】
請求項10に記載の映像コマ数削減方法によれば、制御情報作成ステップでは、動きベクトル量とグローバルベクトル量との差の平均値を、予め設定した閾値と比較し、平均値が閾値よりも大きい場合は、入力映像信号から映像コマを、目標コマ数情報に基づいて一定の間隔で抽出する際の間隔よりも短い間隔で抽出し、平均値が閾値よりも小さい場合は、入力映像信号から映像コマを、目標コマ数情報に基づいて一定の間隔で抽出する際の間隔よりも長い間隔で抽出することを指示する制御情報を作成する。このようにすると、映像コマに含まれる被写体の動き量に応じた制御情報を作成することができる。
【0032】
【発明の実施の形態】
以下、本発明の一実施の形態を、適宜図面を参照して説明する。本発明に係る映像コマ数削減装置および映像コマ数削減方法は、各映像コマの誘目領域に注目することにより、入力映像信号から映像コマ数を削減した際に動きの大きなシーンで生じ易い映像内容の連続性の喪失を軽減させたことを特徴とする。なお、ここでいう「誘目領域」とは、その映像コマにおける動きの大きい領域、すなわち目を誘う領域である。ここでは、背景とは異なる部分の映像領域すなわち被写体が含まれる部分の映像領域を誘目領域とした。
【0033】
(映像コマ数削減装置の構成)
図1は、本発明の一実施の形態に係る映像コマ数削減装置の全体構成を示すブロック図である。以下、本実施の形態に係る映像コマ数削減装置の構成を説明する。
【0034】
図1に示すように、映像コマ数削減装置は、コマ落とし映像信号作成部1と、相対動きベクトル量算出部2と、誘目領域検出部3と、制御情報作成部4と、低コマ数映像信号作成部5とを備えて構成されている。コマ落とし映像信号作成部1と低コマ数映像信号作成部5には、カット情報CI、入力映像信号IMおよび目標コマ数情報TFが入力され、相対動きベクトル量算出部2には、入力映像信号IMが入力される。
【0035】
コマ落とし映像信号作成部1は、外部から入力されたカット情報CIおよび目標コマ数情報TFに基づいて、カット毎に、入力映像信号IMから映像コマを一定の間隔で抽出したコマ落とし映像信号LFを作成する。このコマ落とし映像信号作成部1は、特許請求の範囲における「映像コマ抽出部」に相当する。なお、カット情報CIとは、一台のカメラでいったん写し始めてから写し終わるまでの一場面を「カット」と定義した際の、入力映像信号の映像におけるカットの切り替わりを示す情報である。また、目標コマ数情報TFとは、入力映像信号IMから映像コマを抽出するコマ数を示す情報である。
【0036】
図2は、コマ落とし映像信号作成部1の構成を示すブロック図である。図2に示すように、コマ落とし映像信号作成部1は、コマ落とし部11と映像遅延部12から構成されている。
【0037】
コマ落とし部11は、カット情報CIおよび目標コマ数情報TFに基づいて、カット毎に、入力映像信号IMから映像コマを一定の間隔で抽出する。コマ落とし部11で抽出された映像コマは、図示しない記憶部に記憶される。
【0038】
映像遅延部12は、目標コマ数情報TFに基づいて、コマ落とし部11で抽出された映像コマを遅延させ、一定のフレームレートのコマ落とし映像信号LFを作成する。映像遅延部12で作成されたコマ落とし映像信号LFは、相対動きベクトル量算出部2へ出力される。なお、このコマ落とし映像信号LFは、特許請求の範囲における「抽出映像コマ」に相当する。
【0039】
例えば、入力映像信号IMのフレームレートがn[コマ/秒]で、入力映像信号IMから映像コマを削減した後の目標フレームレートがrn[コマ/秒](rは映像コマを抽出する間隔を示す係数、0<r<1)である場合は、コマ落とし部11は、入力映像信号IMから(1/r)コマ毎に映像コマを抽出する。そして、映像遅延部12は、コマ落とし部11で映像コマを(1/r)コマ遅延させ、フレームレートがrn[コマ/秒]のコマ落とし映像信号LFを作成する。
【0040】
図3は、コマ落とし映像信号作成部1に入力された入力映像信号IMと、コマ落とし映像信号作成部1から出力されたコマ落とし映像信号LFとの対応関係の一例を示すタイムチャートである。図3では、入力映像信号IMのフレームレートがn[コマ/秒]で、コマ落とし映像信号LFの目標フレームレートが0.25n[コマ/秒]である場合を示している。
【0041】
図3に示すように、目標フレームレートが0.25nである場合は、映像コマは4コマ毎に抽出されている。そして、抽出された映像コマは、4コマ遅延させて出力されている。
【0042】
図1に戻って説明を続けると、相対動きベクトル量算出部2は、外部から入力されたコマ落とし映像信号LFと入力映像信号IMから、マクロブロック毎に、そのマクロブロックにおける相対動きベクトル量MVを算出する。なお、相対動きベクトル量MVとは、動きベクトル量の背景の動きベクトル量に対する相対値である。また、動きベクトル量とは、被写体の動きの大きさをベクトル量で表したものである。
【0043】
図4は、相対動きベクトル量算出部2の構成を示すブロック図である。図4に示すように、相対動きベクトル量算出部2は、動きベクトル量算出部21と動きベクトル量変換部22から構成されている。
【0044】
動きベクトル量算出部21は、コマ落とし映像信号作成部1から入力されたコマ落とし映像信号LFと、外部から入力された入力映像信号IMとの各映像コマを、マクロブロックと呼ばれるmb×nb画素(m,nは正の定数)の矩形領域に分割し、マクロブロック毎に、動きベクトル量を算出する。具体的には、例えば、ブロックマッチング法を用いて、mb×mb画素の矩形領域に分割されたマクロブロック毎に、動きベクトル量を算出する。動きベクトル量算出部21で算出された各マクロブロックの動きベクトル量は、動きベクトル量変換部22へ出力される。
【0045】
動きベクトル量変換部22は、動きベクトル量算出部21で算出された動きベクトル量と背景の動きベクトル量を比較して、動きベクトル量を相対動きベクトル量MVに変換する。動きベクトル量変換部22で求められた相対動きベクトル量MVは、誘目領域検出部3へ出力される。
【0046】
なお、背景の動きベクトル量を求める方法としては、例えば、文献(「動画像符号化におけるグローバル動き補償法」電子情報通信学会論文誌B‐I、Vol.J76‐B‐I、No.12、pp.994−952、1993,上倉一人 他)に開示されている方法を用いることができる。
【0047】
また、背景の動きベクトル量は、カメラの動き情報やズーム情報等のメタデータを用いて求めることもできる。このような方法は、例えば、文献(「A High‐Precision Camera Operation Parameter Measurement System and Its Apprication to Image Motion Inferring」IEEE Transacation on Broadcasting、Vol.47、No.1、pp.46−55、2001)に開示されている。
【0048】
図1に戻って説明を続けると、誘目領域検出部3は、相対動きベクトル量算出部2で求められた各マクロブロックの相対動きベクトル量MVを基に、各映像コマにおける誘目領域を検出する。具体的には、各マクロブロックの相対動きベクトル量MVを予め設定した閾値と比較して、相対動きベクトル量MVが前記閾値を超えるマクロブロックを誘目マクロブロックとする。本実施の形態では、複数の誘目マクロブロックから構成される映像領域を、その映像コマにおける誘目領域としている。誘目領域が検出されると、各誘目マクロブロックの相対動きベクトル量MVから、誘目領域における相対動きベクトル量MVの平均値を算出する。誘目領域検出部3で求められた誘目領域における相対動きベクトル量MVの平均値は制御情報作成部4へ出力される。
【0049】
なお、本実施の形態では、複数の誘目マクロブロックから構成される映像領域をその映像コマにおける誘目領域としたが、複数の誘目マクロブロックに対して、水平および垂直方向の座標の最小値(Xmin,Ymin)と最大値(Xmax,Ymin)を検出し、これらの座標で囲まれる四角領域(背景も含まれる領域)を、その映像コマにおける誘目領域とすることもできる。あるいは、その映像コマにおける背景以外の部分(被写体を含む部分)検出し、検出された部分をその映像コマにおける誘目領域とすることもできる。
【0050】
制御情報作成部4は、誘目領域検出部3で求められた各誘目領域における相対動きベクトル量MVの平均値を、相対動きベクトル量MVの平均値のカット全体における平均と分散から決定される閾値と比較し、入力映像信号IMから抽出する映像コマおよびその抽出する間隔(抽出間隔)を示す制御情報SCを作成する。制御情報SCは、具体的には、入力映像信号IMから抽出する映像コマのコマ番号と、その抽出間隔を示す制御信号とからなる。
【0051】
なお、本実施の形態では、制御信号は、目標コマ数情報TFに基づいた間隔で抽出する場合は“0”、目標コマ数情報TFに基づいた間隔よりも短い間隔で抽出する場合は“1”、目標コマ数情報TFに基づいた間隔よりも長い間隔で抽出する場合は“2”と設定している。なお、ここでいう「目標コマ数情報TFに基づいた間隔」とは、入力映像信号IMから映像コマを、目標コマ数情報TFに示されたコマ数だけ一定の間隔で抽出する際の間隔のことである。
【0052】
図5は、制御情報作成部4の構成を示すブロック図である。図5に示すように、制御情報作成部4は、平均・分散算出部41と、抽出映像コマ判定部42と、制御情報記憶部43とから構成されている。
【0053】
平均・分散算出部41は、誘目領域検出部3で求められた各誘目領域における相対動きベクトル量MVの平均値から、そのカットにおける相対動きベクトル量MVの平均Avei(i=H(水平),V(垂直))と、分散σi2(i=H(水平),V(垂直))を算出する。
【0054】
抽出映像コマ判定部42は、平均・分散算出部41で算出された平均Aveiおよび分散σi2を、予め設定した基準値Ave0および基準値σ0と比較して、入力映像信号IMから抽出する映像コマとその抽出間隔を判定する。判定結果としては、入力映像信号IMから抽出する映像コマと、抽出間隔を示す制御信号とからなる制御情報SCが得られる。ここでは、入力映像信号IMから映像コマを抽出する間隔は、映像コマ群毎に異なるので、その映像コマ群における先頭のコマ番号と最後尾のコマ番号と、その映像コマ群における抽出間隔を示す制御信号を制御情報SCとしている。なお、映像コマ群とは、映像コマがあるコマ数連続しているものである。
【0055】
抽出映像コマ判定部42で求められた制御情報SCは制御情報記憶部43に記憶され、後記する低コマ数映像信号作成部5から入力されるタイミング情報TMに基づいて、低コマ数映像信号作成部5へ出力される。
【0056】
以下、抽出映像コマ判定部42の一実施例について図6、図7及び図8に示すフローチャートを参照して説明する。図6は、抽出映像コマ判定部42の一実施例を説明するためのフローチャートである。また、図7は、図6のフローチャートにおけるS8以降を説明するためのフローチャート、図8は、図6のフローチャートにおけるS9以降を説明するためのフローチャートである。
【0057】
図6のフローチャートを参照して説明すると、まず、水平方向の平均AveHと基準値Ave0、および、垂直方向の平均AveVと基準値Ave0をそれぞれ比較する(S1)。
【0058】
AveH≦Ave0、かつ、AveV≦Ave0の場合は、そのカットの先頭のコマ番号と制御信号0を制御情報記憶部43に記憶させる(S2)。
【0059】
AveH>Ave0、または、AveV>Ave0の場合は、Avei>Ave0となるiについて、Avei+c・σi(cは正の定数)より大きな平均値(各誘目領域における相対動きベクトル量MVの平均値)が、予め設定したコマ数以上連続する数をPi、そのときの連続するコマ数をpik(kは識別番号、1からPiまでの整数)とする。また、Avei>Ave0となるiについて、Avei−c´σi(c´は正の定数)より小さな平均値(各誘目領域における相対動きベクトル量MVの平均値)が予め設定したコマ数以上連続する数をQi、そのとき連続するコマ数をqik(kは識別番号、1からQiまでの整数)とする(S3)。
【0060】
次に、ΣPiとΣQiとを調べ(S4)、ΣPi=0、または、ΣQi=0の場合は、そのカットの先頭のコマ番号と制御信号0を制御情報記憶部43に記憶させる(S5)。
【0061】
ΣPi≧1、かつ、ΣQi≧1の場合は、fH=Min(ΣpHk,ΣqHk)、および、fV=Min(ΣpVk,ΣqVk)を調べる(S6)。つまり、ΣpHkとΣqHkとを比較して、小さい方をfHとする。また、ΣpVkとΣqVkとを比較し、小さい方をfVとする。
【0062】
そして、fHとfVとを比較して、大きい方をfi´として選択する(S7)。なお、fHとfVとが同じ値の場合は、fHを選択する。そして、その映像コマ群における先頭のコマ番号と、pi´kまたはqi´kに対応する制御信号とを、対にして制御情報記憶部43に記憶させる。また、その映像コマ群における「最後尾のコマ番号+1/r」と、制御信号0とを対にして制御情報記憶部43に記憶させる(S8、S9)。なお、制御信号は、pi´kに対しては、制御信号1を割り当て、qi´kに対しては制御信号2を割り当てる。
【0063】
図7のフローチャートを参照して、S8の次は、Maxqi´kを満たすk´に関して、条件fi´−qi´k´>0を調べる(S81)。この条件が成立している場合は、該当するk´に対応する映像コマ群における先頭のコマ番号と制御信号2を対にして制御情報記憶部43に記憶させる。また、「最後尾の番号+1/r」と制御信号0を対にして制御情報記憶部43に記憶させる(S82)。そして、この条件が成立していない場合は、次のステップS84へ進む。
【0064】
条件fi´−qi´k´>0が成立している場合は、k´を除去してから、Maxqi´kを満たすk´´に関して、条件(fi´−qi´k´)−qi´k´´>0を調べ、この条件が成立しなくなるまで続ける(S83)。そして、この条件が成立しなくなると、該当するk´´に対応する映像コマ群における先頭のコマ番号と制御信号2を対にして制御情報記憶部43に記憶させる。また、「先頭のコマ番号+(fi´−qi´k)×1/r」と制御信号0を対にして制御情報記憶部43に記憶させて(S84)、処理を終了する。
【0065】
図8のフローチャートを参照して、S9の次は、Maxpi´kを満たすk´に関して、条件fi´−pi´k´>0を調べる(S91)。この条件が成立している場合は、該当するk´に対応する映像コマ群における先頭のコマ番号と制御信号1を対にして制御情報記憶部43に記憶させる。また、「最後尾の番号+1/r」と制御信号0を対にして制御情報記憶部43に記憶させる(S92)。そして、この条件が成立していない場合は、次のステップS94へ進む。
【0066】
条件fi´−pi´k´>0が成立している場合は、k´を除去してから、Maxpi´kを満たすk´´に関して、条件(fi´−pi´k´)−pi´k´´>0を調べ、この条件が成立しなくなるまで続ける(S93)。そして、この条件が成立しなくなると、該当するk´´に対応する映像コマ群における先頭のコマ番号と制御信号1を対にして制御情報記憶部43に記憶させる。また、「先頭のコマ番号+(fi´−pi´k)×1/r」と制御信号0を対にして制御情報記憶部43に記憶させて(S94)、処理を終了する。
【0067】
そして、全てのステップが終了すると、S7で選択したfi´と逆のfi´´について、S7以降の手順を繰り返す。つまり、S7でfHが選択された場合は、fVについてS7以降の手順を繰り返す。また、S7でfVが選択された場合は、fHについてS7以降の手順を繰り返す。
【0068】
図1に戻って説明を続けると、低コマ数映像信号作成部5は、外部から入力されたカット情報CIおよび目標コマ数情報TFと、制御情報作成部4から入力される制御情報SCとに基づいて、カット毎に、入力映像信号IMから映像コマを、目標コマ数情報TFに基づいて一定の間隔で抽出する際の間隔、目標コマ数情報TFに基づいて一定の間隔で抽出する際の間隔よりも短い間隔および目標コマ数情報TFに基づいて一定の間隔で抽出する際の間隔よりも長い間隔のいずれかの間隔で抽出して低コマ数映像信号LMを作成する。なお、低コマ数映像信号LMとは、入力映像信号IMの映像コマ数を目標コマ数情報TFに基づいて削減した映像信号のことである。
【0069】
図9は、低コマ数映像信号作成部5の構成を示すブロック図である。図9に示すように、低コマ数映像信号作成部5は、第1の映像遅延部51と、第2の映像遅延部52と、コマ落とし部53とからなる。
【0070】
第1の映像遅延部51は、新たなカット情報CIが入力されるまで、現在の入力映像信号IMを遅延させる。
【0071】
第2の映像遅延部52は、制御情報作成部4が制御情報SCを作成するまで、現在の入力映像信号IMを遅延させ、必要に応じて、タイミング情報TMを制御情報作成部4の制御情報記憶部43に出力する。なお、タイミング情報TMとは、制御情報記憶部43が制御情報SCを出力するタイミングを示す情報である。
【0072】
コマ落とし部53は、制御情報記憶部43から入力された制御情報SCに基づいて、入力映像信号IMから映像コマを抽出して低コマ数映像信号LMを作成する。具体的には、制御信号に示されている抽出間隔に基づいて、映像コマ群毎に映像コマを抽出して、低コマ数映像信号LMを作成する。
【0073】
次に、コマ落とし部53の一実施例について図10および図11を参照して説明する。図10は、制御情報作成部4の制御情報記憶部43に記憶された制御情報SCの一例を示す表である。また、図11は、コマ落とし部53が図10に示す制御情報SCに基づいて作成した低コマ数映像信号LMを説明するための説明図である。
【0074】
図10に示す制御情報SCに基づいて、入力映像信号IMから低コマ数映像信号LMを作成する際は、図11に示すように、先頭のコマ番号が180、最後尾のコマ番号が220である映像コマ群では、目標コマ数情報TFに基づいた間隔よりも短い間隔(r=0.5)で映像コマを抽出する。また、先頭のコマ番号が420、最後尾のコマ番号が460である映像コマ群では、目標コマ数情報TFに基づいた間隔よりも長い間隔(r=0.125)で映像コマを抽出する。そして、その他の部分では、目標コマ数情報TFに基づいた間隔(r=0.25)で抽出する。なお、「目標コマ数情報TFに基づいた間隔」とは、入力映像信号IMから映像コマを、目標コマ数情報TFに示されたコマ数だけ一定の間隔で抽出する際の間隔のことである。
【0075】
低コマ数映像信号作成部5で作成された低コマ数映像信号LMは、フラグ情報FIと共に、表示部6に多重して出力される。なお、フラグ情報FIとは、映像コマをホールドするコマ数を示す情報である。
【0076】
図12は表示部6の構成を示すブロック図である。図12に示すように、表示部6は、分離部61とコマホールド部62から構成されている。
【0077】
分離部61は、低コマ数映像信号作成部5から多重されて入力される低コマ数映像信号LMとフラグ情報FIを分離する。低コマ数映像信号作成部5で分離された低コマ数映像信号LMとフラグ情報FIは、コマホールド部62へ出力される。
【0078】
コマホールド部62は、フラグ情報FIに基づいて、低コマ数映像信号LMの映像コマをホールドする。なお、本実施の形態では、映像コマをホールドするコマ数は、フラグ情報が0の場合は1/rコマ、フラグ情報が1の場合は1/2rコマ、フラグ情報が2の場合は2/rコマと設定している。
【0079】
(映像コマ数削減装置の動作)
次に、図13に示す映像コマ数削減装置の動作を示すフローチャートを参照して映像コマ数削減装置の動作を説明する。なお、以下の説明では、入力映像信号IMのフレームレートがn[コマ/秒]で、目標フレームレートがrn[コマ/秒](rは映像コマを抽出する間隔を示す係数、0<r<1)である場合を想定している。
【0080】
まず、コマ落とし映像信号作成部1では、コマ落とし部11で、外部から入力されたカット情報CIおよび目標コマ数情報TFに基づいて、カット毎に、入力映像信号IMから(1/r)コマ毎に映像コマを抽出する(S11)。そして、映像遅延部12で、抽出された映像コマを(1/r)コマ遅延させ、フレームレートがrn[コマ/秒]のコマ落とし映像信号LFを作成する(S12)。作成されたコマ落とし映像信号LFは、相対動きベクトル量算出部2へ出力される。
【0081】
続いて、相対動きベクトル量算出部2では、動きベクトル量算出部21で、コマ落とし映像信号作成部1から入力されたコマ落とし映像信号LFと、外部から入力された入力映像信号IMとの各映像コマを、マクロブロックと呼ばれるmb×nb画素(m,nは正の定数)の矩形領域に分割し、マクロブロック毎に、動きベクトル量を算出する(S13)。そして、動きベクトル量変換部22で、動きベクトル量算出部21で算出された動きベクトル量と、背景の動きベクトル量とを比較して、動きベクトル量を相対動きベクトル量MVに変換する(S14)。相対動きベクトル量算出部2で求められた相対動きベクトル量MVは、誘目領域検出部3へ出力される。
【0082】
次に、誘目領域検出部3では、相対動きベクトル量算出部2で求められた相対動きベクトル量MVを基に、各映像コマにおける誘目領域を検出する(S15)。そして、誘目領域が検出されると、各誘目マクロブロックの相対動きベクトル量MVから、各映像コマにおける相対動きベクトル量MVの平均値を算出する(S16)。誘目領域検出部3で求められた各映像コマにおける相対動きベクトル量MVの平均値は、制御情報作成部4へ出力される。
【0083】
そして、制御情報作成部4では、平均・分散算出部41で、誘目領域検出部3で求められた各映像コマにおける相対動きベクトル量MVの平均値から、カット全体における相対動きベクトル量MVの平均Avei(i=H(水平),V(垂直))と、分散σi2(i=H(水平),V(垂直))を算出する(S17)。そして、抽出映像コマ判定部42で、平均・分散算出部41で算出された平均Aveiおよび分散σi2を、予め設定した基準値Ave0および基準値σ0と比較して、入力映像信号IMから抽出する映像コマと、その抽出間隔を判定する(S18)。判定結果としては、入力映像信号IMから抽出する映像コマと、抽出間隔を示す制御信号とからなる制御情報SCが得られる。抽出映像コマ判定部42で求められた制御情報SCは制御情報記憶部43に記憶される(S19)。
【0084】
低コマ数映像信号作成部5では、第1の映像遅延部51は、新たなカット情報CIが入力されるまで、現在の入力映像信号IMを遅延させる(S20)。また、第2の映像遅延部52は、制御情報作成部4で制御情報SCが作成されるまで、現在の入力映像信号IMを遅延させ、必要に応じて、タイミング情報TMを制御情報作成部4の制御情報記憶部43へ出力する(S21)。そして、第2の映像遅延部52からタイミング情報TMが出力されると、制御情報記憶部43に記憶されている制御情報SCが低コマ数映像信号作成部5のコマ落とし部53へ入力される(S22)。
【0085】
そして、コマ落とし部53では、制御情報記憶部43から入力された制御情報SCに基づいて、入力映像信号IMから映像コマを抽出して低コマ数映像信号LMを作成する(S23)。具体的には、制御情報に示された映像コマを制御情報に示された間隔で抽出して、低コマ数映像信号LMを作成する。低コマ数映像信号作成部5で作成された低コマ数映像信号LMは、フラグ情報FIと共に、表示部6に多重して出力される(S24)。
【0086】
以上説明したように、本発明に係る映像コマ数削減装置および映像コマ数削減方法によれば、カット毎に、被写体の動きの大きい映像コマ群では、入力映像信号IMから映像コマを、目標コマ数情報TFに基づいた間隔よりも短い間隔で抽出し、被写体の動きの小さい映像コマ群では、入力映像信号IMから映像コマを、目標コマ数情報TFに基づいた間隔よりも長い間隔で抽出することができる。
【0087】
以上、本発明の実施の形態について説明したが、本発明はこのような実施例にのみ限定されるものではなく、本発明の技術的思想に基づく限りにおいて、種々の変形が可能である。
【0088】
例えば、本実施の形態では、相対動きベクトル量算出部2で相対動きベクトル量MVを算出した後、誘目領域検出部3で相対動きベクトル量MVを利用して誘目領域を検出したが、相対動きベクトル量算出部2の動きベクトル量算出部21で算出された動きベクトル量と、その映像コマにおいて所定の手順で検出されたグローバルベクトル量との差が、予め設定した閾値も超えるマクロブロックから構成される領域を各映像コマにおける誘目領域として検出するように構成することもできる。
【0089】
その場合は、その誘目領域を構成するマクロブロックの各動きベクトル量および各グローバルベクトル量から、その誘目領域における動きベクトル量とグローバルベクトル量との差の平均値を算出して制御情報作成部4に入力する。そして、制御情報作成部4では、誘目領域における動きベクトル量とグローバルベクトル量との差の平均値を基に、入力映像信号IMから抽出する映像コマおよびその抽出抽出間隔を示す制御情報SCを作成する。
【0090】
なお、グローバルベクトル量とは、その抽出映像コマにおいて所定の手順で検出(算出)される。グローバルベクトル量を算出する方法には、例えば、文献(「動画像符号化におけるグローバル動き補償法」電子情報通信学会論文誌B‐I、Vol.J76‐B‐I、No.12、pp.994−952、1993,上倉一人 他)に提案されている手法を利用することができる。また、グローバルベクトル量としては、各抽出映像コマにおける動きベクトル量の大きさの平均値を利用することもできるし、抽出映像コマにおいて最も多く検出された動きベクトル量の大きさを利用することもできる。
【0091】
【発明の効果】
請求項1および請求項6に記載された発明によれば、誘目領域における相対動きベクトル量の平均値を基に、入力映像信号から抽出する映像コマおよびその抽出する間隔を示す制御情報を作成し、この制御情報に基づいて低コマ数映像信号を作成するので、映像コマ数を削減する際に動きの大きなシーンで生じ易い映像内容の連続性の喪失を軽減させることができる。
【0092】
また、請求項2および請求項7に記載された発明によれば、各マクロブロックの相対動きベクトル量を予め設定した閾値と比較し、相対動きベクトル量が閾値を超えるマクロブロックから構成される領域をその抽出映像コマにおける誘目領域として検出するので、誘目領域を容易にかつ精度良く検出することができる。したがって、精度の高い制御情報を作成することができる。
【0093】
また、請求項3および請求項8に記載された発明によれば、前記動きベクトル量とグローバルベクトル量との差の平均値を、予め設定した閾値と比較し、前記平均値が前記閾値よりも大きい場合は、前記入力映像信号から前記映像コマを、前記目標コマ数情報に基づいて一定の間隔で抽出する際の間隔よりも短い間隔で抽出し、前記平均値が前記閾値よりも小さい場合は、前記入力映像信号から前記映像コマを、前記目標コマ数情報に基づいて一定の間隔で抽出する際の間隔よりも長い間隔で抽出することを指示する制御情報を作成するので、映像コマに含まれる被写体の動き量に応じた制御情報を作成することができる。したがって、精度の高い制御情報を作成することができる。
【0094】
また、請求項4および請求項9に記載された発明によれば、誘目領域における動きベクトル量とグローバルベクトル量との差の平均値を基に、入力映像信号から抽出する映像コマおよびその抽出間隔を示す制御情報を作成し、この制御情報に基づいて低コマ数映像信号を作成するので、映像コマ数を削減する際に動きの大きなシーンで生じ易い映像内容の連続性の喪失を軽減させることができる。
【0095】
また、請求項5および請求項10に記載された発明によれば、動きベクトル量とグローバルベクトル量との差の平均値を、予め設定した閾値と比較し、平均値が閾値よりも大きい場合は、入力映像信号から映像コマを、目標コマ数情報に基づいて一定の間隔で抽出する際の間隔よりも短い間隔で抽出し、平均値が閾値よりも小さい場合は、入力映像信号から映像コマを、目標コマ数情報に基づいて一定の間隔で抽出する際の間隔よりも長い間隔で抽出することを指示する制御情報を作成するので、映像コマに含まれる被写体の動き量に応じた制御情報を作成することができる。したがって、精度の高い制御情報を作成することができる。
【図面の簡単な説明】
【図1】本発明の一実施の形態に係る映像コマ数削減装置の全体構成を示すブロック図である。
【図2】コマ落とし映像信号作成部1の構成を示すブロック図である。
【図3】コマ落とし映像信号作成部1に入力された入力映像信号IMと、コマ落とし映像信号作成部1から出力されたコマ落とし映像信号LFとの対応関係の一例を示すタイムチャートである。
【図4】相対動きベクトル量算出部2の構成を示すブロック図である。
【図5】制御情報出力部4の構成を示すブロック図である。
【図6】抽出映像コマ判定部42の一実施例を説明するためのフローチャートである。
【図7】図6のフローチャートにおけるS8以降の手順を説明するためのフローチャートである。
【図8】図6のフローチャートにおけるS9以降の手順を説明するためのフローチャートである。
【図9】低コマ数映像信号作成部5の構成を示すブロック図である。
【図10】制御情報作成部4の制御情報記憶部43に記憶された制御情報SCの一例を示す表である。
【図11】コマ落とし部53が図10に示す制御情報SCに基づいて作成した低コマ数映像信号LMを説明するための説明図である。
【図12】表示部6の構成を示すブロック図である。
【図13】映像コマ数削減装置の動作を示すフローチャートである。
【符号の説明】
1 コマ落とし映像信号作成部
2 動きベクトル量算出部
3 誘目領域検出部
4 制御情報作成部
5 低コマ数映像信号作成部
CI カット情報
IM 入力映像信号
TF 目標コマ数情報
MV 相対動きベクトル量
SC 制御情報
LF コマ落とし映像信号
Claims (10)
- 一定のフレームレートで入力された複数の映像コマからなる入力映像信号の映像コマ数を、前記入力映像信号の映像におけるカットの切り替わりを示すカット情報および前記入力映像信号から前記映像コマを抽出するコマ数を示す目標コマ数情報に基づいて削減する映像コマ数削減装置であって、
前記カット情報および前記目標コマ数情報に基づいて、前記カット毎に、前記入力映像信号から一部の映像コマを一定の間隔で抽出して抽出映像コマとする映像コマ抽出部と、
前記映像コマ抽出部で抽出された抽出映像コマを所定領域のマクロブロックに分割し、前記マクロブロック毎に、そのマクロブロックにおける動きベクトル量と背景の動きベクトル量とを比較した相対値である相対動きベクトル量を算出する相対動きベクトル量算出部と、
前記相対動きベクトル量を基に、前記抽出映像コマ内において相対動きベクトル量が予め設定した閾値を超えるマクロブロックから構成される領域を、その抽出映像コマにおける誘目領域として検出し、前記誘目領域を構成するマクロブロックに含まれる各相対動きベクトル量から、その誘目領域における相対動きベクトル量の平均値を算出する誘目領域検出部と、
前記相対動きベクトル量の平均値を基に、前記入力映像信号から抽出する映像コマおよびその抽出する間隔を示す制御情報を作成する制御情報作成部と、
前記カット情報、前記目標コマ数情報および前記制御情報に基づいて、前記カット毎に、前記入力映像信号から前記映像コマを前記制御情報に示された間隔で抽出し、前記入力映像信号の映像コマ数を削減した低コマ数映像信号を作成する低コマ数映像信号作成部と、
を備えて構成されることを特徴とする映像コマ数削減装置。 - 前記誘目領域検出部は、前記相対動きベクトル量を予め設定した閾値と比較し、前記相対動きベクトル量が前記閾値を超えるマクロブロックから構成される領域をその抽出映像コマにおける誘目領域として検出することを特徴とする請求項1に記載の映像コマ数削減装置。
- 前記制御情報作成部は、前記相対動きベクトル量の平均値を、前記相対動きベクトル量の平均値のカット全体における平均と分散から決定される閾値と比較し、
前記相対動きベクトル量の平均値が前記閾値よりも大きい場合は、前記入力映像信号から前記映像コマを、前記目標コマ数情報に基づいて一定の間隔で抽出する際の間隔よりも短い間隔で抽出し、
前記相対動きベクトル量の平均値が前記閾値よりも小さい場合は、前記入力映像信号から前記映像コマを、前記目標コマ数情報に基づいて一定の間隔で抽出する際の間隔よりも長い間隔で抽出することを指示する制御情報を作成することを特徴とする請求項1または請求項2に記載の映像コマ数削減装置。 - 一定のフレームレートで入力された複数の映像コマからなる入力映像信号の映像コマ数を、前記入力映像信号の映像におけるカットの切り替わりを示すカット情報および前記入力映像信号から前記映像コマを抽出するコマ数を示す目標コマ数情報に基づいて削減する映像コマ数削減装置であって、
前記カット情報および前記目標コマ数情報に基づいて、前記カット毎に、前記入力映像信号から一部の映像コマを一定の間隔で抽出して抽出映像コマとする映像コマ抽出部と、
前記映像コマ抽出部で抽出された抽出映像コマを所定領域のマクロブロックに分割し、前記マクロブロック毎に、動きベクトル量を算出する動きベクトル量算出部と、
前記動きベクトル量とその抽出映像コマにおいて所定の手順で検出されたグローバルベクトル量との差が予め設定した閾値を超えるマクロブロックから構成される領域を、その抽出映像コマにおける誘目領域として検出し、前記誘目領域を構成するマクロブロックに含まれる各動きベクトル量および各グローバルベクトル量から、その誘目領域における動きベクトル量とグローバルベクトル量との差の平均値を算出する誘目領域検出部と、
前記動きベクトル量とグローバルベクトル量との差の平均値を基に、前記入力映像信号から抽出する映像コマおよびその抽出する間隔を示す制御情報を作成する制御情報作成部と、
前記カット情報、前記目標コマ数情報および前記制御情報に基づいて、前記カット毎に、前記入力映像信号から前記映像コマを前記制御情報に示された間隔で抽出し、前記入力映像信号の映像コマ数を削減した低コマ数映像信号を作成する低コマ数映像信号作成部と、
を備えて構成されることを特徴とする映像コマ数削減装置。 - 前記制御情報作成部は、前記動きベクトル量とグローバルベクトル量との差の平均値を、予め設定した閾値と比較し、
前記平均値が前記閾値よりも大きい場合は、前記入力映像信号から前記映像コマを、前記目標コマ数情報に基づいて一定の間隔で抽出する際の間隔よりも短い間隔で抽出し、
前記平均値が前記閾値よりも小さい場合は、前記入力映像信号から前記映像コマを、前記目標コマ数情報に基づいて一定の間隔で抽出する際の間隔よりも長い間隔で抽出することを指示する制御情報を作成することを特徴とする請求項4に記載の映像コマ数削減装置。 - 一定のフレームレートで入力された複数の映像コマからなる入力映像信号の映像コマ数を、前記入力映像信号の映像におけるカットの切り替わりを示すカット情報および前記入力映像信号から前記映像コマを抽出するコマ数を示す目標コマ数情報に基づいて削減する映像コマ数削減方法であって、
前記カット情報および前記目標コマ数情報に基づいて、前記カット毎に、前記入力映像信号から一部の映像コマを一定の間隔で抽出して抽出映像コマとする映像コマ抽出ステップと、
前記映像コマ抽出ステップで抽出された抽出映像コマを所定領域のマクロブロックに分割し、前記マクロブロック毎に、そのマクロブロックにおける動きベクトル量と背景の動きベクトル量とを比較した相対値である相対動きベクトル量を算出する相対動きベクトル量算出ステップと、
前記相対動きベクトル量を基に、前記抽出映像コマ内において相対動きベクトル量が予め設定した閾値を超えるマクロブロックから構成される領域を、その抽出映像コマにおける誘目領域として検出し、前記誘目領域を構成するマクロブロックに含まれる各相対動きベクトル量から、その誘目領域における相対動きベクトル量の平均値を算出する誘目領域検出ステップと、
前記相対動きベクトル量の平均値を基に、前記入力映像信号から抽出する映像コマおよびその抽出する間隔を示す制御情報を作成する制御情報作成ステップと、
前記カット情報、前記目標コマ数情報および前記制御情報に基づいて、前記カット毎に、前記入力映像信号から前記映像コマを前記制御情報に示された間隔で抽出し、前記入力映像信号の映像コマ数を削減した低コマ数映像信号を作成する低コマ数映像信号作成ステップと、
を含むことを特徴とする映像コマ数削減方法。 - 前記誘目領域検出ステップは、前記相対動きベクトル量を予め設定した閾値と比較し、前記相対動きベクトル量が前記閾値を超えるマクロブロックから構成される領域をその抽出映像コマにおける誘目領域として検出することを特徴とする請求項6に記載の映像コマ数削減方法。
- 前記制御情報作成ステップは、前記相対動きベクトル量の平均値を、前記相対動きベクトル量の平均値のカット全体における平均と分散から決定される閾値と比較し、
前記相対動きベクトル量の平均値が前記閾値よりも大きい場合は、前記入力映像信号から前記映像コマを、前記目標コマ数情報に基づいて一定の間隔で抽出する際の間隔よりも短い間隔で抽出し、
前記相対動きベクトル量の平均値が前記閾値よりも小さい場合は、前記入力映像信号から前記映像コマを、前記目標コマ数情報に基づいて一定の間隔で抽出する際の間隔よりも長い間隔で抽出することを指示する制御情報を作成することを特徴とする請求項6または請求項7に記載の映像コマ数削減方法。 - 一定のフレームレートで入力された複数の映像コマからなる入力映像信号の映像コマ数を、前記入力映像信号の映像におけるカットの切り替わりを示すカット情報および前記入力映像信号から前記映像コマを抽出するコマ数を示す目標コマ数情報に基づいて削減する映像コマ数削減方法であって、
前記カット情報および前記目標コマ数情報に基づいて、前記カット毎に、前記入力映像信号から一部の映像コマを一定の間隔で抽出して抽出映像コマとする映像コマ抽出ステップと、
前記映像コマ抽出ステップで抽出された抽出映像コマを所定領域のマクロブロックに分割し、前記マクロブロック毎に、動きベクトル量を算出する動きベクトル量算出ステップと、
前記動きベクトル量とその抽出映像コマにおいて所定の手順で検出されたグローバルベクトル量との差が予め設定した閾値を超えるマクロブロックから構成される領域を、その抽出映像コマにおける誘目領域として検出し、前記誘目領域を構成するマクロブロックに含まれる各動きベクトル量および各グローバルベクトル量から、その誘目領域における動きベクトル量とグローバルベクトル量との差の平均値を算出する誘目領域検出ステップと、
前記動きベクトル量とグローバルベクトル量との差の平均値を基に、前記入力映像信号から抽出する映像コマおよびその抽出する間隔を示す制御情報を作成する制御情報作成ステップと、
前記カット情報、前記目標コマ数情報および前記制御情報に基づいて、前記カット毎に、前記入力映像信号から前記映像コマを前記制御情報に示された間隔で抽出し、前記入力映像信号の映像コマ数を削減した低コマ数映像信号を作成する低コマ数映像信号作成ステップと、
を含むことを特徴とする映像コマ数削減方法。 - 前記制御情報作成ステップは、前記動きベクトル量とグローバルベクトル量との差の平均値を、予め設定した閾値と比較し、
前記平均値が前記閾値よりも大きい場合は、前記入力映像信号から前記映像コマを、前記目標コマ数情報に基づいて一定の間隔で抽出する際の間隔よりも短い間隔で抽出し、
前記平均値が前記閾値よりも小さい場合は、前記入力映像信号から前記映像コマを、前記目標コマ数情報に基づいて一定の間隔で抽出する際の間隔よりも長い間隔で抽出することを指示する制御情報を作成することを特徴とする請求項9に記載の映像コマ数削減方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002187574A JP4039615B2 (ja) | 2002-06-27 | 2002-06-27 | 映像コマ数削減装置および映像コマ数削減方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002187574A JP4039615B2 (ja) | 2002-06-27 | 2002-06-27 | 映像コマ数削減装置および映像コマ数削減方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2004032496A true JP2004032496A (ja) | 2004-01-29 |
JP4039615B2 JP4039615B2 (ja) | 2008-01-30 |
Family
ID=31182571
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002187574A Expired - Fee Related JP4039615B2 (ja) | 2002-06-27 | 2002-06-27 | 映像コマ数削減装置および映像コマ数削減方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4039615B2 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102724492A (zh) * | 2012-06-28 | 2012-10-10 | 广东威创视讯科技股份有限公司 | 视频图像传输、播放方法和系统 |
-
2002
- 2002-06-27 JP JP2002187574A patent/JP4039615B2/ja not_active Expired - Fee Related
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102724492A (zh) * | 2012-06-28 | 2012-10-10 | 广东威创视讯科技股份有限公司 | 视频图像传输、播放方法和系统 |
Also Published As
Publication number | Publication date |
---|---|
JP4039615B2 (ja) | 2008-01-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10977809B2 (en) | Detecting motion dragging artifacts for dynamic adjustment of frame rate conversion settings | |
US10390039B2 (en) | Motion estimation for screen remoting scenarios | |
US8098733B2 (en) | Multi-directional motion estimation using parallel processors and pre-computed search-strategy offset tables | |
US9367616B2 (en) | Video descriptor generation device | |
US11290714B2 (en) | Motion-constrained AV1 encoding method and apparatus for tiled streaming | |
US10354394B2 (en) | Dynamic adjustment of frame rate conversion settings | |
US8724912B2 (en) | Method, apparatus, and program for compressing images, and method, apparatus, and program for decompressing images | |
JP2008048243A (ja) | 画像処理装置、画像処理方法および監視カメラ | |
CN108141634B (zh) | 用于产生预览图像的方法和设备以及计算机可读存储介质 | |
CN114554285B (zh) | 视频插帧处理方法、视频插帧处理装置和可读存储介质 | |
CA3057924A1 (en) | System and method to optimize the size of a video recording or video transmission by identifying and recording a region of interest in a higher definition than the rest of the image that is saved or transmitted in a lower definition format | |
US8509303B2 (en) | Video descriptor generation device | |
US20110129012A1 (en) | Video Data Compression | |
US11290735B1 (en) | Visual element encoding parameter tuning | |
JP2004032496A (ja) | 映像コマ数削減装置および映像コマ数削減方法 | |
JP2020120322A (ja) | 距離画像符号化装置およびそのプログラム、ならびに、距離画像復号装置およびそのプログラム | |
JP2009111647A (ja) | 動きベクトル検出装置および動きベクトル検出方法 | |
JP2005109918A (ja) | 画像データへの秘匿データ挿入方式、秘匿データ検出方式および秘匿データが挿入された画像データの表示方式 | |
JP4235209B2 (ja) | 動きベクトル検出装置および動きベクトル検出方法 | |
JP4039616B2 (ja) | 映像コマ数削減装置および映像コマ数削減方法 | |
US9848133B2 (en) | Image generation device, imaging device, image generation method, and program for generating a new image from a captured image | |
US11956441B2 (en) | Identifying long term reference frame using scene detection and perceptual hashing | |
JP7017223B2 (ja) | 動画圧縮方法 | |
JP2015041796A (ja) | 画像処理方法、画像処理装置、画像処理プログラム、およびデータ構造 | |
JP4100321B2 (ja) | セグメント単位画像符号化装置及びセグメント単位画像符号化プログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20050207 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20070803 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20070815 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20071003 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20071031 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20071102 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20101116 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111116 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121116 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131116 Year of fee payment: 6 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |