JP6889843B2 - 映像信号検出装置 - Google Patents

映像信号検出装置 Download PDF

Info

Publication number
JP6889843B2
JP6889843B2 JP2018112439A JP2018112439A JP6889843B2 JP 6889843 B2 JP6889843 B2 JP 6889843B2 JP 2018112439 A JP2018112439 A JP 2018112439A JP 2018112439 A JP2018112439 A JP 2018112439A JP 6889843 B2 JP6889843 B2 JP 6889843B2
Authority
JP
Japan
Prior art keywords
frame
video signal
frames
motion vector
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018112439A
Other languages
English (en)
Other versions
JP2019216354A (ja
Inventor
英樹 相羽
英樹 相羽
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
JVCKenwood Corp
Original Assignee
JVCKenwood Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by JVCKenwood Corp filed Critical JVCKenwood Corp
Priority to JP2018112439A priority Critical patent/JP6889843B2/ja
Priority to US16/439,142 priority patent/US10748292B2/en
Publication of JP2019216354A publication Critical patent/JP2019216354A/ja
Application granted granted Critical
Publication of JP6889843B2 publication Critical patent/JP6889843B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/144Movement detection
    • H04N5/145Movement estimation
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/194Segmentation; Edge detection involving foreground-background segmentation
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/223Analysis of motion using block-matching
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • H04N19/137Motion inside a coding unit, e.g. average field, frame or block difference
    • H04N19/139Analysis of motion vectors, e.g. their magnitude, direction, variance or reliability
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/20Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using video object coding
    • H04N19/23Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using video object coding with coding of regions that are present throughout a whole video segment, e.g. sprites, background or mosaic
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/513Processing of motion vectors
    • H04N19/521Processing of motion vectors for estimating the reliability of the determined motion vectors or motion vector field, e.g. for smoothing the motion vector field or for correcting motion vectors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/527Global motion vector estimation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/577Motion compensation with bidirectional frame interpolation, i.e. using B-pictures

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Image Analysis (AREA)
  • Television Systems (AREA)
  • Studio Circuits (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Description

本発明は、入力された映像信号が特定の動画であるか否かを検出する映像信号検出装置に関する。
映像信号のフレームレートを変換するフレームレート変換装置は、一対の実フレーム間に内挿する補間フレームを生成する補間フレーム生成装置を備える。フレームレート変換装置は、画像の動きを検出する動きベクトル検出装置を備え、補間フレーム生成装置は動きベクトルに基づいて補間フレームを構成する各画素位置の補間画素を生成する。
動きベクトル検出装置が動きベクトルを誤検出すると、補間画素の誤補間が発生し、補間フレームに視覚的な違和感(画質劣化)が生じる。そこで、動きベクトル検出装置は誤検出を少なく動きベクトルを検出し、補間フレーム生成装置は画質劣化の少ない補間フレームを生成することが望まれる。
特定の動画の1つとしてアニメーション動画がある。特許文献1には、入力された映像信号のジャンルがアニメーション動画であるとき、動きベクトル検出装置によって検出する動きベクトルを0とすることにより、補間フレームの画質劣化を防止することが記載されている。
特開2008−78857号公報
動きベクトル検出装置が誤検出を少なく動きベクトルを検出し、補間フレーム生成装置が画質劣化の少ない補間フレームを生成するには、入力された映像信号自体の特徴を判定して映像信号が特定の動画であるか否かを検出することが求められる。
本発明は、入力された映像信号自体の特徴を判定して映像信号が特定の動画であるか否かを検出することができる映像信号検出装置を提供することを目的とする。
本発明は、入力された映像信号の各フレームである第1のフレームと、前記第1のフレームよりも1フレーム前の第2のフレームとに基づき、前記映像信号の複数の画素よりなるブロックごとに、前記第1のフレームと前記第2のフレームとの間の画像の動きを示す第1の動きベクトルを検出し、前記第2のフレームにおけるブロックを前記第1のフレームへと前記第1の動きベクトルだけ移動させたときのブロック間の画素の相違の程度を示す指標である第1のマッチング誤差を算出する第1の動きベクトル検出部と、前記第2のフレームと、前記第2のフレームよりも1フレーム前の第3のフレームとに基づき、前記ブロックごとに、前記第2のフレームと前記第3のフレームとの間の画像の動きを示す第2の動きベクトルを検出し、前記第3のフレームにおけるブロックを前記第2のフレームへと前記第2の動きベクトルだけ移動させたときのブロック間の画素の相違の程度を示す指標である第2のマッチング誤差を算出する第2の動きベクトル検出部と、前記ブロックごとに、前記第1の動きベクトルと前記第2の動きベクトルとの差分絶対値が第1の閾値より大きいか否か、第1のマッチング誤差が第2の閾値より大きいか否か、第2のマッチング誤差が第3の閾値より小さいか否かを判定することによって、連続して移動する背景内に不連続に動く物体が存在するか否かを判定する局所判定部と、前記局所判定部による前記ブロックごとの判定値をフレーム内で積算する積算部と、前記積算部による少なくとも2フレームの積算値のパターンに基づいて、前記映像信号が、連続して移動する背景内に不連続に動く物体が存在する特定の動画であるか否かを判定する判定部とを備える映像信号検出装置を提供する。
本発明の映像信号検出装置によれば、入力された映像信号自体の特徴を判定して映像信号が特定の動画であるか否かを検出することができる。
第1実施形態の映像信号検出装置を示すブロック図である。 アニメーション動画が毎秒24フレームで構成されていて、アニメーションキャラクタが毎秒12フレームで構成されている映像信号が入力された場合の第1及び第2実施形態の映像信号検出装置の動作を示す図である。 ブロック間のマッチング誤差を説明するための図である。 第1実施形態の映像信号検出装置の動作を示すフローチャートである。 第2実施形態の映像信号検出装置を示すブロック図である。 アニメーション動画が毎秒24フレームで構成されていて、アニメーションキャラクタが毎秒8フレームで構成されている映像信号が入力された場合の第1及び第2実施形態の映像信号検出装置の動作を示す図である。 第2実施形態の映像信号検出装置の動作を示すフローチャートである。 第3実施形態の映像信号検出装置を示すブロック図である。 アニメーション動画が毎秒24フレームで構成されていて、アニメーションキャラクタが毎秒12フレームで構成されている映像信号が入力された場合の第3実施形態の映像信号検出装置の動作を示す図である。 アニメーション動画が毎秒24フレームで構成されていて、アニメーションキャラクタが毎秒8フレームで構成されている映像信号が入力された場合の第3実施形態の映像信号検出装置の動作を示す図である。
以下、各実施形態の映像信号検出装置について、添付図面を参照して説明する。各実施形態においては、特定の動画を一例としてアニメーション動画とし、映像信号検出装置が、入力された映像信号自体の特徴を判定して映像信号がアニメーション動画であるか否かを検出する場合を説明する。
<第1実施形態>
まず、図2を用いて、アニメーション動画の特徴を説明する。図2において、(a)はアニメーション動画のフレームf1〜f4、(b)は隣接するフレーム間の背景BGの動きの状態、(c)は隣接するフレーム間のアニメーションキャラクタCR(以下、キャラクタCRと略記する)の動きの状態を示している。
図2の(a)〜(c)に示すように、アニメーション動画は、背景BGがフレームごとにほぼ等速で連続的に動く一方で、背景BG内に存在するキャラクタCRが連続的には動かず、隣接するフレーム間でキャラクタCRが動く場合と動かない場合とがあるという特徴を有する。図2に示す例では、アニメーション動画は毎秒24フレームで構成されており、キャラクタCRは毎秒12フレームで構成されている。
図1を用いて、第1実施形態の映像信号検出装置の構成及び動作を説明する。図1において、映像信号S0はフレームメモリ1及び動きベクトル検出部3に供給される。フレームメモリ1は、入力された映像信号S0を1フレーム期間遅延させ、1フレーム遅延の映像信号S(−1)をフレームメモリ2、動きベクトル検出部3及び4に供給する。フレームメモリ2は、入力された映像信号S(−1)をさらに1フレーム期間遅延させ、2フレーム遅延の映像信号S(−2)を動きベクトル検出部4に供給する。
映像信号S0のフレームを現在フレーム(第1のフレーム)とすると、映像信号S(−1)のフレームは1フレーム前のフレーム(第2のフレーム)、映像信号S(−2)のフレームは2フレーム前のフレーム(第3のフレーム)である。
動きベクトル検出部3は、映像信号S0及びS(−1)に基づいて、1フレーム前のフレームから現在フレームへの画像の動きを検出して、画像の動きを示す動きベクトルMV1(第1の動きベクトル)を生成する。詳細には、動きベクトル検出部3は、映像信号S0における複数画素よりなるブロックと、映像信号S(−1)における複数画素よりなるブロックとの差分が最も小さい方向を動きベクトルMV1と検出する。1ブロックは、例えば水平8画素、垂直8画素の64画素である。
また、動きベクトル検出部3は、動きベクトルMV1を生成したブロック間のマッチング誤差SAD1(第1のマッチング誤差)を算出する。図3では簡略化のため1ブロックを水平4画素、垂直4画素の16画素とする。図3に示すように、動きベクトル検出部3は、映像信号S(−1)のフレームf(−1)におけるブロックBkと、映像信号S0のフレームf0におけるブロックBkとのマッチング誤差SAD1を算出する。
フレームf0におけるブロックBkは、フレームf(−1)におけるブロックBkをフレームf0へと動きベクトルMV1だけ移動させたブロックである。マッチング誤差SAD1は、2つのブロックBk間の画素P1〜P16における同一位置の画素の差の絶対値の総和である。
マッチング誤差SAD1は、2つのブロックBk間の全画素の絶対値の総和ではなく、所定の規則またはランダムに間引いた一部の画素の差の絶対値の和であってもよい。マッチング誤差SAD1は、絶対値の総和(または和)に限らず、2乗値の総和、絶対値または2乗値の平均値等の統計値、絶対値または2乗値が所定の閾値未満である画素の画素数等であってもよい。マッチング誤差SAD1は、動きベクトルMV1を生成した2つのブロックBk間の画素の相違の程度を示す指標であればよい。
動きベクトル検出部3は、動きベクトルMV1及びマッチング誤差SAD1を局所判定部5に供給する。
同様に、動きベクトル検出部4は、映像信号S(−1)及びS(−2)に基づいて、2フレーム前のフレームから1フレーム前のフレームへの画像の動きを検出して、動きベクトルMV2(第2の動きベクトル)を生成する。また、動きベクトル検出部4は、動きベクトルMV2を生成したブロック間のマッチング誤差SAD2(第2のマッチング誤差)を算出する。動きベクトル検出部4は、動きベクトルMV2及びマッチング誤差SAD2を局所判定部5に供給する。
図2に示すアニメーション動画において背景BGはほぼ等速に動いているので、隣接するフレーム間で背景BGにおける動きベクトルMV1と動きベクトルMV2との差分はほぼ0である。一方、隣接するフレーム間でキャラクタCRが動かない場合にはキャラクタCRにおける動きベクトルMV1と動きベクトルMV2との差分はほぼ0である。隣接するフレーム間でキャラクタCRが動く場合にはキャラクタCRにおける動きベクトルMV1と動きベクトルMV2との差分は所定の大きさとなる。
従って、フレームの全体では、隣接するフレーム間で、動きベクトルMV1と動きベクトルMV2との差分絶対値は、図2の(d)に示すように、閾値th1より大きい状態が連続する。
背景BGにおいては画像が単純に平行移動しているだけであるので、マッチング誤差SAD1及びSAD2はほぼ0となる。一方、隣接するフレーム間でキャラクタCRが動く場合、背景BGとキャラクタCRとの境界部分においては、画像が単純な平行移動ではないことからフレーム間で画像が一致せず、マッチング誤差SAD1及びSAD2は大きな値となる。従って、図2の(e)に示すように、マッチング誤差SAD1は閾値th2より大きい状態と閾値th2以下である小さい状態とを交互に繰り返す。図2の(f)に示すように、マッチング誤差SAD2は閾値th3より大きい状態と閾値th3以下である小さい状態とを交互に繰り返す。閾値th2と閾値th3とは同じ値であってもよい。
図1において、局所判定部5は、フレーム内の各ブロックBkにおいて、動きベクトルMV1と動きベクトルMV2との差分絶対値が閾値th1(第1の閾値)より大きく、マッチング誤差SAD1が閾値th2(第2の閾値)より大きく、マッチング誤差SAD2が閾値th3(第3の閾値)より小さいという条件を満たすとき、判定値“1”を出力する。局所判定部5は、その条件を満たさないとき判定値“0”を出力する。
局所判定部5が生成する判定値が“1”と“0”とで変化するということは、連続して移動する背景BG内にキャラクタCRのような不連続に動く物体が存在するということである。図2の(g)に示すように、局所判定部5が生成する判定値は、背景BGとキャラクタCRとの境界部分で“1”と“0”とを交互に繰り返す。
積算部6は、各フレーム内で、局所判定部5が出力する判定値を積算する。図2の(h)に示すように、フレーム内の積算値は、キャラクタCRが直前のフレームにおけるそれと比較して動いたフレームにおいては閾値th4より大きい状態となり、動いていないフレームにおいては閾値th4以下の小さい状態となる。
積算部6は、積算値を判定部7の比較部71及び1フレーム保持部72に供給する。1フレーム保持部72は、入力された積算値を1フレーム期間保持して比較部71に供給する。比較部71には最新の積算値が入力される。比較部71は、積算部6より供給された現在フレームの積算値と1フレーム保持部72より供給された1フレーム前のフレームの積算値とを比較する。
比較部71は、積算値が閾値th4より大きい状態から閾値th4以下の小さい状態に変化するか、閾値th4以下の小さい状態から閾値th4より大きい状態へと変化したことを検出したら、判定信号Sdetとして、映像信号S0はアニメーション動画である旨を示す第1の判定値を出力する。第1の判定値は例えば値“1”でよい。比較部71は、隣接する2フレームの積算値の差が所定の閾値以上であれば、積算値が大きい状態から小さい状態またはその逆に変化したと判定することができる。
比較部71は、比較結果に基づいて上記以外の状態を検出したら、判定信号Sdetとして、映像信号S0はアニメーション動画ではない通常の動画である旨を示す第2の判定値を出力する。第2の判定値は例えば値“0”でよい。
図4に示すフローチャートを用いて、第1実施形態の映像信号検出装置の動作を改めて説明する。第1実施形態の映像信号検出装置は、ハードウェアで構成されていてもよく、ソフトウェア(コンピュータプログラム)で構成されていてもよい。図4に示すフローチャートは、コンピュータプログラムがコンピュータの中央処理装置(CPU)に実行させる処理であってもよい。
図4において、映像信号検出装置は、映像信号S0が入力されて処理が開始されると、ステップS1にて、動きベクトルMV1及びMV2を検出する。映像信号検出装置は、ステップS2にて、マッチング誤差SAD1及びSAD2を算出する。映像信号検出装置は、ステップS3にて、動きベクトルMV1と動きベクトルMV2との差分絶対値を算出する。
映像信号検出装置は、ステップS4にて、差分絶対値が閾値th1より大きく、マッチング誤差SAD1が閾値th2より大きく、マッチング誤差SAD2が閾値th3より小さいという条件を満たすか否かを判定する。映像信号検出装置は、この条件を満たせば(YES)、ステップS5にて、値“1”を積算する。この条件を満たさなければ(NO)、または、ステップS5に続けて、映像信号検出装置は、ステップS6にて、フレーム内での全ブロックでの局所判定が完了したか否かを判定する。
フレーム内での全ブロックでの局所判定が完了していなければ(NO)、映像信号検出装置は、ステップS1〜S6の処理を繰り返す。フレーム内での全ブロックでの局所判定が完了していれば(YES)、映像信号検出装置は、ステップS7にて、積算値をフレーム間で比較する。映像信号検出装置は、ステップS8にて、積算値の差が閾値以上であるか否かを判定する。
積算値の差が閾値以上であれば(YES)、映像信号検出装置は、ステップS9にて、判定信号Sdetとして、映像信号S0はアニメーション動画である旨を示す第1の判定値を出力する。積算値の差が閾値以上でなければ(NO)、映像信号検出装置は、ステップS10にて、判定信号Sdetとして、アニメーション動画ではない通常の動画である旨を示す第2の判定値を出力する。
映像信号検出装置は、ステップS11にて、映像信号S0が継続的に入力されているか否かを判定する。映像信号S0が継続的に入力されていれば(YES)、映像信号検出装置は、ステップS1〜S11の処理を繰り返す。映像信号S0が継続的に入力されていなければ(NO)、映像信号検出装置は処理を終了させる。
<第2実施形態>
第1実施形態は、積算部6より出力される隣接する2フレームにおける積算値のパターンに基づき映像信号S0がアニメーション動画であるか否かを検出している。第2実施形態においては、誤検出を低減させるために、3フレーム以上の積算値のパターンに基づき映像信号S0がアニメーション動画であるか否かを検出する。
図5に示すように、第2実施形態の映像信号検出装置は、判定部7の代わりに、パターン判定部8を備える。パターン判定部8は記憶部81を有し、積算部6より出力される積算値を3フレーム以上記憶する。3フレームで判定する場合を例とすれば、パターン判定部8は、積算値が、閾値th4と比較して、大、小、大、または小、大、小のように変化すれば、判定信号Sdetとして第1の判定値を出力する。
4フレームで判定する場合を例とすれば、パターン判定部8は、積算値が、閾値th4と比較して、大、小、大、小、または小、大、小、大のように変化すれば、判定信号Sdetとして第1の判定値を出力する。
パターン判定部8は、これらのパターン以外のパターンを判定した場合には、判定信号Sdetとして第2の判定値を出力する。
以上説明した第1及び第2実施形態においては、アニメーション動画が毎秒24フレームで構成されていて、キャラクタCRが毎秒12フレームで構成されているアニメーション動画(第1のアニメーション動画)である場合の動作を示している。キャラクタCRが8フレームで構成されているアニメーション動画(第2のアニメーション動画)も存在する。
第2実施形態の映像信号検出装置は、キャラクタCRが毎秒12フレームで構成されているアニメーション動画と、キャラクタCRが8フレームで構成されているアニメーション動画との双方を検出する場合に好適な構成である。図6を参照しながら、キャラクタCRが8フレームで構成されている場合の第2実施形態の映像信号検出装置の動作を説明する。
図6において、(a)はアニメーション動画のフレームf1〜f7を示している。図6の(b)に示すように背景BGはほぼ等速に動いており、図6の(c)に示すようにキャラクタCRは3フレームのうちの1フレームのみ動く。この場合、図6の(d)に示すように、フレームf3、f6、…においては、動きベクトルMV1と動きベクトルMV2との差分絶対値が閾値th1以下の小さい状態となる。差分絶対値は、閾値th1と比較して、大、大、小を繰り返すパターンとなる。
図6の(e)に示すように、マッチング誤差SAD1は閾値th2と比較して、大、小、小を繰り返すパターンとなり、図6の(f)に示すように、マッチング誤差SAD2は閾値th3と比較して、小、大、小を繰り返すパターンとなる。
図5において、局所判定部5は、フレーム内の各ブロックBkにおいて、動きベクトルMV1と動きベクトルMV2との差分絶対値が閾値th1より大きく、マッチング誤差SAD1が閾値th2より大きく、マッチング誤差SAD2が閾値th3より小さいという条件を満たすとき、判定値“1”を出力する。局所判定部5は、その条件を満たさないとき判定値“0”を出力する。
図6の(g)に示すように、局所判定部5より出力される判定値は、背景BGとキャラクタCRとの境界部分で、“1”、“0”、“0”を繰り返すパターンとなる。従って、図6の(h)に示すように、積算部6より出力される積算値は、閾値th4と比較して、大、小、小を繰り返すパターンとなる。
4フレームで判定する場合を例とすれば、パターン判定部8は、積算値が、閾値th4と比較して、大、小、小、大のように変化するか、小、小、大、小のように変化するか、または小、大、小、小のように変化すれば、判定信号Sdetとして、映像信号S0はキャラクタCRが8フレームで構成されたアニメーション動画である旨を示す第1の判定値を出力する。
パターン判定部8は、積算値が、閾値th4と比較して、大、小、大、小、または小、大、小、大のように変化すれば、判定信号Sdetとして、映像信号S0はキャラクタCRが12フレームで構成されたアニメーション動画である旨を示す第1の判定値を出力する。このとき、キャラクタCRが8フレームで構成されたアニメーション動画である旨を示す第1の判定値と、キャラクタCRが12フレームで構成されたアニメーション動画である旨を示す第1の判定値とは互いに異なる値である。
誤検出を低減させるために、5フレーム以上の積算値のパターンに基づき、映像信号S0がアニメーション動画であるか否か、キャラクタCRが12フレームで構成されたアニメーション動画であるか、8フレームで構成されたアニメーション動画であるかを検出してもよい。
図7に示すフローチャートを用いて、第2実施形態の映像信号検出装置の動作を改めて説明する。同様に、図7に示すフローチャートは、コンピュータプログラムがコンピュータの中央処理装置(CPU)に実行させる処理であってもよい。図7においてステップS1〜S6は図4におけるステップS1〜S6と同じである。
図7において、映像信号検出装置は、ステップS12にて、積算値が複数のフレームで特定のパターンであるか否かを判定する。積算値が複数のフレームで特定のパターンであれば(YES)、映像信号検出装置は、ステップS13にて、判定信号Sdetとして、
映像信号S0はアニメーション動画である旨を示す第1の判定値を出力する。積算値が複数のフレームで特定のパターンでなければ(NO)、映像信号検出装置は、ステップS14にて、判定信号Sdetとして、映像信号S0はアニメーション動画ではない通常の動画である旨を示す第2の判定値を出力する。
映像信号検出装置は、ステップS15にて、映像信号S0が継続的に入力されているか否かを判定する。映像信号S0が継続的に入力されていれば(YES)、映像信号検出装置は、ステップS1〜S6及びS12〜S15の処理を繰り返す。映像信号S0が継続的に入力されていなければ(NO)、映像信号検出装置は処理を終了させる。
<第3実施形態>
以上説明した第1及び第2実施形態においては、毎秒24フレームのアニメーション動画が映像信号S0として映像信号検出装置に入力される場合の動作を示している。毎秒24フレームのアニメーション動画が2−3プルダウンによって毎秒60フレームの映像信号とされていることがある。第3実施形態の映像信号検出装置は、2−3プルダウン変換された映像信号S0が入力される場合に、映像信号S0がアニメーション動画であるか否かを検出するように構成している。
図8において、図5と同一部分には同一符号を付し、その説明を省略することがある。図8に示すように、第3実施形態の映像信号検出装置は、入力された映像信号S0が2−3プルダウン変換された映像信号であるか否かを検出し、2−3プルダウン変換された映像信号であるときにプルダウンシーケンスを出力する2−3プルダウン検出部9を備える。2−3プルダウン検出部9は、プルダウンシーケンスをパターン判定部8と、フレームメモリ1及び2に供給する。
図8におけるフレームメモリ1及び2は、複数のフレーメモリで構成されている。後述するように、2−3プルダウン変換された映像信号S0は互いに同じ画像内容を有するフレームが3フレーム連続する状態と、同じ画像のフレームが2フレーム連続する状態とを交互に繰り返す。動きベクトル検出部3及び4が2−3プルダウン変換された映像信号S0の画像の動きを検出するには、互いに同じ画像内容を有する2フレームまたは3フレームをフレーム群としたとき、隣接するフレーム群内のフレームを比較する必要がある。
フレームメモリ1及び2は、動きベクトル検出部3及び4が2−3プルダウン変換された映像信号S0の画像の動きを検出するのに必要な複数のフレームメモリで構成されていればよい。具体的には、映像信号S0の各フレームにおいて画像の動きを検出するためには、フレームメモリ1及び2は5つのフレームメモリで構成される。映像信号S0の画像内容が切り替わったタイミングのフレームにおいて画像の動きを検出する場合には、フレームメモリ1及び2は4つのフレームメモリで構成することができる。
2−3プルダウン検出部9が入力された映像信号S0は2−3プルダウン変換された映像信号ではないと検出したとき、フレームメモリ1及び2はそれぞれ1フレーム遅延の映像信号S(−1)及び2フレーム遅延の映像信号S(−2)を出力する。この場合の第3実施形態の映像信号検出装置の動作は第2実施形態の映像信号検出装置と同じである。
映像信号S0の現在のフレームが含まれているフレーム群を第1のフレーム群、第1のフレーム群の直前のフレーム群を第2のフレーム群、第2のフレーム群の直前のフレーム群を第3のフレーム群とする。2−3プルダウン検出部9が入力された映像信号S0は2−3プルダウン変換された映像信号であることを検出したとき、フレームメモリ1は第2のフレーム群内のフレームである映像信号S(−1g)を出力し、フレームメモリ2は第3のフレーム群内のフレームである映像信号S(−2g)を出力する。
動きベクトル検出部3は、第1のフレーム群内のフレームである映像信号S0と第2のフレーム群内のフレームである映像信号S(−1g)とに基づいて、動きベクトルMV1及びマッチング誤差SAD1を算出する。動きベクトル検出部4は、第2のフレーム群内のフレームである映像信号S(−1g)と第3のフレーム群内のフレームである映像信号S(−2g)に基づいて、動きベクトルMV2及びマッチング誤差SAD2を算出する。
図9は、図8に示す映像信号検出装置に、キャラクタCRが12フレームで構成された毎秒24フレームのアニメーション動画を2−3プルダウン変換した映像信号S0が入力される場合の動作を示している。図9の(a)に示すように、映像信号S0は、同じ画像内容のフレームが3フレーム連続する状態と、同じ画像内容のフレームが2フレーム連続する状態とを交互に繰り返す。
図9の(a)に示すフレームにおいて、“A”、“B”、“C”、“D”、“E”は画像内容を示している。例えば、フレームf1〜f3は画像内容が“A”である同じフレームであり、フレームf4及びf5は画像内容が“B”である同じフレームである。
図9の(b)に示すように、2−3プルダウン検出部9は、例えば、連続する2フレームの最初のフレームで値“0”であって、フレームの進行に伴って値“4”までカウントアップするプルダウンシーケンスを出力する。
局所判定部5には、各フレームにおいて、動きベクトルMV1及びMV2とマッチング誤差SAD1及びSAD2が入力される。第2実施形態と同様に、局所判定部5は各フレームの各ブロックBkにおいて判定値“1”または“0”を生成し、積算部6は各フレームで判定値を積算する。
映像信号S0がアニメーション動画であるか否かを検出するには、プルダウンシーケンスが値“0”を示すフレームと値“2”を示すフレームとにおける動きベクトルMV1及びMV2とマッチング誤差SAD1及びSAD2を判定すればよい。
そこで、記憶部81は、入力されるプルダウンシーケンスに基づき、プルダウンシーケンスが値“0”を示すフレームと値“2”を示すフレームとの積算値のみを記憶する。パターン判定部8は、第2実施形態と同様に、プルダウンシーケンスが値“0”を示すフレームと値“2”を示すフレームとにおける積算値のパターンに基づいて、判定信号Sdetとして第1の判定値を出力する。ここでも、判定信号SdetはキャラクタCRが12フレームで構成されたアニメーション動画である旨を示してもよい。
図10は、図8に示す映像信号検出装置に、キャラクタCRが8フレームで構成された毎秒24フレームのアニメーション動画を2−3プルダウン変換した映像信号S0が入力される場合の動作を示している。
この場合も同様に、パターン判定部8は、プルダウンシーケンスが値“0”を示すフレームと値“2”を示すフレームとにおける積算値のパターンに基づいて、判定信号Sdetとして第1の判定値を出力する。ここでも、判定信号SdetはキャラクタCRが8フレームで構成されたアニメーション動画である旨を示してもよい。
このように、第3実施形態の映像信号検出装置は、同じ画像が連続する2フレームまたは3フレームの例えば最初のフレームに着目したときの少なくとも2フレームの積算値のパターンに基づいて、映像信号S0がアニメーション動画であるか否かを検出すればよい。第3実施形態の映像信号検出装置は、最初のフレームに着目することに限らず、同じ画像が連続する2フレームまたは3フレームのいずれか1つのフレームに着目すればよい。
図8においては、少なくとも3つのフレーム群における3フレームの積算値のパターンに基づいて、映像信号S0が、キャラクタCRが12フレームで構成された映像信号であるか8フレームで構成された映像信号であるかを判定するパターン判定部8を備える構成を示している。キャラクタCRが12フレームで構成されたアニメーション動画のみを検出の対象とする場合には、第1実施形態と同様に、パターン判定部8の代わりに、2つのフレーム群における2フレームの積算値のパターンに基づいて、アニメーション動画であるか否かを判定する判定部7を備える構成としてもよい。
本発明は以上説明した第1〜第3実施形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において種々変更可能である。連続して移動する背景内に不連続に動く物体が存在する特定の動画はアニメーション動画に限定されない。
1,2 フレームメモリ
3,4 動きベクトル検出部
5 局所判定部
6 積算部
7 判定部
8 パターン判定部
9 2−3プルダウン検出部
71 比較部
72 1フレーム保持部
81 記憶部

Claims (5)

  1. 入力された映像信号の各フレームである第1のフレームと、前記第1のフレームよりも1フレーム前の第2のフレームとに基づき、前記映像信号の複数の画素よりなるブロックごとに、前記第1のフレームと前記第2のフレームとの間の画像の動きを示す第1の動きベクトルを検出し、前記第2のフレームにおけるブロックを前記第1のフレームへと前記第1の動きベクトルだけ移動させたときのブロック間の画素の相違の程度を示す指標である第1のマッチング誤差を算出する第1の動きベクトル検出部と、
    前記第2のフレームと、前記第2のフレームよりも1フレーム前の第3のフレームとに基づき、前記ブロックごとに、前記第2のフレームと前記第3のフレームとの間の画像の動きを示す第2の動きベクトルを検出し、前記第3のフレームにおけるブロックを前記第2のフレームへと前記第2の動きベクトルだけ移動させたときのブロック間の画素の相違の程度を示す指標である第2のマッチング誤差を算出する第2の動きベクトル検出部と、
    前記ブロックごとに、前記第1の動きベクトルと前記第2の動きベクトルとの差分絶対値が第1の閾値より大きいか否か、第1のマッチング誤差が第2の閾値より大きいか否か、第2のマッチング誤差が第3の閾値より小さいか否かを判定することによって、連続して移動する背景内に不連続に動く物体が存在するか否かを判定する局所判定部と、
    前記局所判定部による前記ブロックごとの判定値をフレーム内で積算する積算部と、
    前記積算部による少なくとも2フレームの積算値のパターンに基づいて、前記映像信号が、連続して移動する背景内に不連続に動く物体が存在する特定の動画であるか否かを判定する判定部と、
    を備える映像信号検出装置。
  2. 前記判定部は、2フレームの積算値を比較する比較部を有し、
    前記比較部による2フレームの積算値の大きさの比較結果に基づいて、前記特定の動画であるか否かを判定する
    請求項1に記載の映像信号検出装置。
  3. 前記判定部は、少なくとも3フレームの積算値のパターンに基づいて、前記映像信号が毎秒24フレームで構成されており、アニメーションキャラクタが毎秒12フレームで構成されている第1のアニメーション動画であるか、前記映像信号が毎秒24フレームで構成されており、アニメーションキャラクタが毎秒8フレームで構成されている第2のアニメーション動画であるかを判定するパターン判定部である請求項1に記載の映像信号検出装置。
  4. 前記映像信号が、毎秒24フレームを毎秒60フレームに2−3プルダウン変換した映像信号であるか否か、及び、2−3プルダウン変換した映像信号であるときプルダウンシーケンスを検出する2−3プルダウン検出部をさらに備え、
    前記2−3プルダウン検出部によって前記映像信号が2−3プルダウン変換した映像信号であると検出されたとき、
    前記第1の動きベクトル検出部は、互いに同じ画像内容を有する2フレームまたは3フレームをフレーム群としたとき、第1のフレーム群内のフレームと、前記第1のフレーム群の直前の第2のフレーム群内のフレームとに基づき、第1の動きベクトル及び第1のマッチング誤差を算出し、
    前記第2の動きベクトル検出部は、第2のフレーム群内のフレームと、前記第2のフレーム群の直前の第3のフレーム群内のフレームとに基づき、第2の動きベクトル及び第2のマッチング誤差を算出し、
    前記判定部は、少なくとも2つのフレーム群における2フレームの積算値のパターンに基づいて、前記特定の動画であるか否かを判定する
    請求項1に記載の映像信号検出装置。
  5. 前記判定部は、少なくとも3つのフレーム群における3フレームの積算値のパターンに基づいて、前記映像信号が、毎秒24フレームのうち、アニメーションキャラクタが毎秒12フレームで構成されている第1のアニメーション動画を毎秒60フレームに2−3プルダウン変換した映像信号であるか、毎秒24フレームのうち、アニメーションキャラクタが毎秒8フレームで構成されている第2のアニメーション動画を毎秒60フレームに2−3プルダウン変換した映像信号であるかを判定する請求項4に記載の映像信号検出装置。
JP2018112439A 2018-06-13 2018-06-13 映像信号検出装置 Active JP6889843B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2018112439A JP6889843B2 (ja) 2018-06-13 2018-06-13 映像信号検出装置
US16/439,142 US10748292B2 (en) 2018-06-13 2019-06-12 Image signal detection device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018112439A JP6889843B2 (ja) 2018-06-13 2018-06-13 映像信号検出装置

Publications (2)

Publication Number Publication Date
JP2019216354A JP2019216354A (ja) 2019-12-19
JP6889843B2 true JP6889843B2 (ja) 2021-06-18

Family

ID=68840582

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018112439A Active JP6889843B2 (ja) 2018-06-13 2018-06-13 映像信号検出装置

Country Status (2)

Country Link
US (1) US10748292B2 (ja)
JP (1) JP6889843B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102296318B1 (ko) * 2019-12-19 2021-09-01 네이버 주식회사 동영상분류장치 및 동영상분류방법
US12034967B2 (en) * 2021-04-05 2024-07-09 Nvidia Corporation Superpixel generation and use

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4181592B2 (ja) 2006-09-20 2008-11-19 シャープ株式会社 画像表示装置及び方法、画像処理装置及び方法
US8515134B2 (en) * 2009-12-11 2013-08-20 Nxp B.V. System and method for motion estimation using image depth information
EP2517176B1 (en) * 2009-12-21 2019-02-20 Telefonaktiebolaget LM Ericsson (publ) Method for regenerating the background of digital images of a video stream
US9916662B2 (en) * 2015-03-17 2018-03-13 Lyrical Labs Video Compression Technology, LLC Foreground detection using fractal dimensional measures
US9098919B2 (en) * 2012-10-04 2015-08-04 Honeywell International Inc. Detecting motion in a high resolution video
US9563960B2 (en) * 2014-04-09 2017-02-07 Mediatek Inc Method for detecting foreground

Also Published As

Publication number Publication date
JP2019216354A (ja) 2019-12-19
US10748292B2 (en) 2020-08-18
US20190387233A1 (en) 2019-12-19

Similar Documents

Publication Publication Date Title
US20100142828A1 (en) Image matching apparatus and method
US8274602B2 (en) Image processing apparatus and image processing method with redundant frame detection
EP2375737B1 (en) Device and method for frame rate conversion
JP2015019204A (ja) 画像処理装置および画像処理方法
CN104219532B (zh) 确定小物体区域的方法、视频帧之间插补帧的方法和装置
WO2009119347A1 (ja) 画像処理システム、画像処理方法および画像処理用プログラムが格納された記録媒体
JP6889843B2 (ja) 映像信号検出装置
CN102326394B (zh) 图像处理方法以及装置
JP4385077B1 (ja) 動きベクトル検出装置および画像処理装置
KR20090017296A (ko) 중간 프레임의 영상을 생성하기 위한 영상처리방법 및 이를적용한 영상처리장치
JP6604783B2 (ja) 画像処理装置、撮像装置および画像処理プログラム
US10063880B2 (en) Motion detecting apparatus, motion detecting method and program
JP5123643B2 (ja) 映像処理装置
CN109068140B (zh) 视频编码中运动向量的确定方法、装置及视频编解码设备
JP5441555B2 (ja) 映像信号処理装置及び映像信号処理方法
KR101620928B1 (ko) 우선순위 주소 배분과 이동창 기법을 이용한 얼굴검출 시스템
JP5574830B2 (ja) 画像処理装置及び方法、並びに画像表示装置及び方法
JP5026152B2 (ja) ディゾルブ検出装置及びプログラム
CN102487433B (zh) 多媒体装置及其播放模式检测方法
JP2017228821A (ja) 画像処理装置および画像処理方法
JP2006174061A (ja) 動きベクトル検出装置及び方法
WO2020075649A1 (ja) 補間フレーム生成装置及び方法
JP2012239121A (ja) 画像処理装置
JP2011035814A5 (ja)
JP2014007658A (ja) 動きベクトル導出装置、方法およびプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200831

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210413

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210422

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210505

R150 Certificate of patent or registration of utility model

Ref document number: 6889843

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150