JP3609236B2 - Video telop detection method and apparatus - Google Patents

Video telop detection method and apparatus Download PDF

Info

Publication number
JP3609236B2
JP3609236B2 JP12735897A JP12735897A JP3609236B2 JP 3609236 B2 JP3609236 B2 JP 3609236B2 JP 12735897 A JP12735897 A JP 12735897A JP 12735897 A JP12735897 A JP 12735897A JP 3609236 B2 JP3609236 B2 JP 3609236B2
Authority
JP
Japan
Prior art keywords
telop
image
creating
candidate
difference image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP12735897A
Other languages
Japanese (ja)
Other versions
JPH10322595A (en
Inventor
隆 佐藤
佳伸 外村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Telegraph and Telephone Corp
Original Assignee
Nippon Telegraph and Telephone Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp filed Critical Nippon Telegraph and Telephone Corp
Priority to JP12735897A priority Critical patent/JP3609236B2/en
Publication of JPH10322595A publication Critical patent/JPH10322595A/en
Application granted granted Critical
Publication of JP3609236B2 publication Critical patent/JP3609236B2/en
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Landscapes

  • Studio Circuits (AREA)
  • Processing Or Creating Images (AREA)
  • Image Processing (AREA)
  • Character Discrimination (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は映像からテロップを検出する映像テロップ検出方法および装置に関する。
【0002】
【従来の技術】
テレビ放送、デジタル衛星放送、レーザーディスク、DVD、Video on Demand 等、映像の流通が活発になるにつれて、映像をより柔軟に扱いたいという需要が増えてきた。そこで、映像に様々な目次や索引情報を付加し、映像の検索やランダムアクセスを可能とする技術が提案されている。映像を特徴づける情報のうち、字幕、記号等のテロップは、映像の意味や内容を反映するものとして重要である。そのため、映像から自動的にテロップを検出する方法が提案されている。
【0003】
従来の映像テロップ検出装置には次のものがある。
【0004】
例えば、テロップが静止していて、かつ高精度であるという性質を用い、2枚のフレーム間で動きのない部分を求め、さらに、輝度が所定値以上の領域を字幕部分として検出する装置がある(特開平8−331456「字幕移動装置」)。
【0005】
また、テロップはエッジが強く、かつ、高精度であるという性質を用い、フレーム画像のエッジ強度と輝度とが閾値を超えるブロックを字幕の存在する部分として検出する方法もある(例えば、特開平8−212231「字幕検出方法および動画像の代表画像抽出装置」)。
【0006】
また、MPEGなどフレーム間の相関を用いて符号化された映像では、フレーム間の相関を用い、かつ、動き補償を用いないで符号化された画素がテロップの部分に時間的空間的に集中するという性質がある。この性質を利用し、フレーム間の相関を用い、かつ、動き補償を用いないで符号化された画素の出現頻度を、ある時間区間で計数することによってテロップを検出する装置もある(1996年電子情報通信学会情報・システムソサィエティ大会「MPEG映像からのテロップ領域検出方法」)。
【0007】
【発明が解決しようとする課題】
上述した従来技術では、エッジ強度や輝度などのテロップのもつ性質を用いてテロップを検出していたが、テロップの切り替わりの検出能力が低かった。例えば、特開平8−212231では、フレーム画像をブロックに分割し、ブロックに対応する字幕領域データを用意する。字幕領域データには、テロップの存在するブロックに1、存在しないブロックに0を格納する。そして、2枚のフレーム間で、字幕領域データの値が異なるブロックの数を計数し、この数が一定の割合を超えた場合に、テロップが切り替わったとしている。
【0008】
しかし、この方法では、テロップが切れ目なく、かつ、面積の変化がなく切り替わったとき、字幕領域データには変化が現れないので、テロップの切り替わりを検出することができない。
【0009】
本発明の目的は、映像からテロップの切り替わりを検出する映像テロップ検出方法および装置を提供することである。
【0010】
【課題を解決するための手段】
本発明の映像テロップ検出方法は、フレーム画像からテロップ候補の存在する領域を示すテロップ候補画像を作成するテロップ候補画像作成段階と、2枚のフレーム画像の差分画像を作成する差分画像作成段階と、差分画像からテロップ候補の存在する部分だけを抽出する抽出段階と、テロップ候補画像と抽出された差分画像とに基づいてテロップの存在を判定する判定段階を有する。
【0011】
また、本発明の映像テロップ検出装置は、フレーム画像からテロップ候補の存在する領域を示すテロップ候補画像を作成するテロップ候補画像作成手段と、2枚のフレーム画像の差分画像を作成する差分画像作成手段と、差分画像からテロップ候補の存在する部分だけを抽出する抽出手段と、テロップ候補画像と抽出された差分画像とに基づいてテロップの存在を判定する判定手段を有する。
【0012】
テロップ候補画像作成手段は、フレーム画像からテロップ候補を検出し、テロップ候補画像を作成する。差分画像作成手段は、2枚のフレーム画像を作成する。抽出手段は、テロップ候補の存在する領域の差分画像を抽出する。判定手段は、テロップ候補画像とテロップ候補の存在する領域の差分画像を用いてテロップの存在を判定する。これによって、テロップの存在する領域のフレーム画像の変化に基づいてテロップを検出するので、テロップの切り替わりを検出することができる。
【0013】
本発明の他の映像テロップ検出方法は、
フレーム画像からテロップ候補の存在する領域を示すテロップ候補画像を作成するテロップ候補画像作成段階と、
2枚のフレーム画像の差分画像を作成する差分画像作成段階と、
前記テロップ候補画像と前記差分画像を用いて、画素値の変化を検出すべき領域を示すマスクを作成するマスク作成段階と、
前記差分画像からマスクの部分だけを抽出する抽出段階と、
前記テロップ候補画像と抽出された差分画像とに基づいてテロップの存在を判定する段階を有する。
【0014】
また、本発明の他の映像テロップ検出装置は、フレーム画像からテロップ候補の存在する領域を示すテロップ候補画像を作成するテロップ候補画像作成手段と、2枚のフレーム画像の差分画像を作成する差分画像作成手段と、テロップ候補画像と差分画像を用いて、画素値の変化を検出すべき領域を示すマスクを作成するマスク作成手段と、差分画像からマスクの部分だけを抽出する抽出手段と、テロップ候補画像と抽出された差分画像とに基づいてテロップの存在を判定する判定手段を有する。
【0015】
従来の技術では、基本的にテロップの有無を判定することに留まっていた。そこで、本発明では、さらにテロップの存在する領域についてフレーム画像の変化を調べることによって、テロップの切り替わりを検出する。
【0016】
マスク作成画像は、テロップ候補画像と差分画像を用いて、マスクを作成する。マスクは、画素値の変化を検出すべき領域を例えば1とし、それ以外の領域を例えば0とする。抽出手段は、マスクが1である領域の差分画像を抽出し、判定手段でテロップ候補画像とマスクが1である領域の差分画像を用いて、テロップの素材を判定する。これによって、フレーム画像の変化を調べる領域を、テロップの存在する領域に限定することができるので、テロップの背景の変化の影響を受けにくくなり、より正確にテロップの切り替わりを検出することができる。
【0019】
本発明の実施態様によれば、テロップ候補画像作成手段が、符号化された映像データからフレーム間の相関を用いて符号化されたフレームを抽出するフレーム判別手段と、抽出されたフレームのマクロブロックのうち、フレーム間の相関を用い、かつ動き補償を用いないで符号化されたマクロブロックが現われる数を、それぞれのマクロブロックの位置毎に、一定計数区間内で計数する計数手段と、計数結果を与えられた閾値と比較してテロップ領域を表すマトリックスを出力する選択手段と、前記マトリックスの連結領域を求め、それぞれの連結領域をテロップ候補画像として出力する連結領域作成手段を含む。
【0020】
本発明の実施態様によれば、マスク作成手段が、フレーム間で値の小さい画素である不要画素を検出する不変画素検出手段と、新たに現れたテロップ候補を検出する新規候補画素検出手段と、不変画素か新規候補画素の少なくとも一方が存在する領域を示すマスクを合成するマスク合成手段を有する。
【0021】
マスク作成手段においては、不変画素検出手段が、画素が不変である領域を検出する。新規候補画素検出手段は、新たに現れたテロップ候補を検出する。合成手段は、不変画素か新規候補画素の少なくとも一方が存在する領域を求めマスクを合成する。これによって、テロップが以前より存在する画素と、テロップ候補が新たに現れた画素を例えば1とし、それ以外の領域を例えば0とするマスクが作成される。
【0022】
本発明の実施態様によれば、新規候補画素検出手段が、テロップ候補画像を1フレーム分蓄積する第1のバッファと、現フレームのテロップ候補画像と第1のバッファに蓄積されたテロップ候補画像を比較し、テロップ候補画像が現フレームにのみ存在するとき現フレームのテロップ候補画像を出力する第1の比較手段を含み、不変画素検出手段が、差分画像を閾値と比較する第2の比較手段と、差分画像が前記閾値より大きいとき、現フレームのテロップ候補画像を1フレーム分蓄積する第2のバッファと、第1の比較手段または第2のバッファから出力された現フレームのテロップ候補画像をマスク出力として出力するマスク出力手段を含む。
【0028】
【発明の実施の形態】
次に、本発明の実施の形態について図面を参照して説明する。
【0029】
図1は本発明の第1の実施形態の映像テロップ検出装置のブロック図である。
【0030】
本映像テロップ検出装置は映像入力端子101とテロップ候補画像作成部102と差分画像作成部103とAND回路104と判定部105とテロップ出力端子106で構成される。テロップ候補画像作成部102は映像入力端子101に入力された映像からテロップを検出し、テロップの存在する画素を“1”とし、それ以外の画素を“0”としたテロップ候補画像を作成する。差分画像作成部103は、時間的に離れた2枚のフレーム画像間の差の絶対値を画素値とする差分画像を作成する。なお、フレーム間隔は、隣接するフレーム間でもよいし、複数フレーム離れた間隔でもよい。AND回路104はテロップ候補画像と差分画像との積を求め、差分画像のうちテロップ候補画像が“0”である部分を“0”とする。判定部105は、テロップ候補画像作成部102の出力であるテロップ候補画像と、AND回路104の出力である差分画像を用いてテロップの存在を判定し、テロップ出力端子106に出力する。なお、テロップの存在する画素を“0”、それ以外の画素を“1”としてもよく、また“0”、“1”以外の値をとるようにしてもよい。
【0031】
本実施形態の利点は、テロップ候補画像の存在する部分に限って差分画像を評価するので、テロップの切り替わりを検出することができるという点である。
【0032】
なお、テロップ候補画像の検出には、従来技術を利用することができる。例えば、前述の1996年電子情報通信学会情報・システムソサィエティ大会「MPEG映像からのテロップ領域検出法」に基づく方法を用いることができる。
【0033】
図2はこの方法を示すフローチャートである。符号化された映像データをフレームごとに入力し(ステップ201)、フレーム間の相関を用いて符号化されたフレームを対象にしてフレーム間の相関を用い、かつ、動き補償を用いないで符号化されたマクロブロックを一定計数区間内で計数し(ステップ201〜204)、閾値との比較結果に基づいてテロップ部分を選択している(ステップ205)。
【0034】
図3はこの方法に基づくテロップ候補画像作成部102のブロック図である。フレーム判別部301は、符号化された映像データからフレーム間の相関を用いて符号化されたフレームを抽出する。計数部302はこのフレームのマクロブロックのうち、フレーム間の相関を用い、かつ、動き補償を用いないで符号化されたマクロブロックが現れる数を、それぞれのマクロブロックの位置ごとに、一定計数区間内で計数する。計数結果はマトリックスになって選択部303に入力され、選択部303は与えられた閾値との比較結果に基づいて、テロップ領域を表すマトリックスを出力する。最後に、連結領域作成部304は、テロップ領域マトリックスの連結領域を求め、それぞれの連結領域をテロップ候補画像として出力する。
【0035】
図4は本発明の第2の実施形態の映像テロップ検出装置のブロック図である。
【0036】
本実施形態は、第1の実施形態にマスク作成部107を追加したものである。マスク作成部107はテロップ候補画像と差分画像を用いてマスクを作成する。マスクは、差分画像を評価する領域を“1”とし、それ以外を“0”とした画像である。差分画像を評価する領域を“0”、それ以外を“1”としてもよく、また“0”、“1”以外の値でもよい。
【0037】
本実施形態の利点は、第1の実施形態に比べて、差分画像を評価する領域をさらに限定することができる。例えば、テロップ候補画像が、実際にテロップが存在する領域よりも幅広い領域をカバーしている場合、マスク作成部107によって、実際にテロップが存在する領域だけに判定領域を限定することができる。これによって、テロップの背景の影響を少なくして、より正確なテロップ検出が可能となる。
【0038】
図5はマスク作成部107の一例を表すブロック図である。
【0039】
新規候補画素検出部402はテロップ候補画像入力端子401に入力されたテロップ候補画像を前のフレームでのテロップ候補画像と比較し、新たに出現したテロップ候補画素を抽出する。なお、テロップ候補画像の変化を求めるフレーム間隔は、近接するフレーム間でもよいし、数フレーム離れた間隔でもよいが、差分画像を求めるときのフレーム間隔が適当である。一方、不変画素検出部404は、差分画像入力端子403に入力された差分画像から、画素値がある閾値よりも小さく、かつ対応するテロップ候補画像の値が“1”であるものだけを抽出する。新規候補画素検出部402と不変画素検出部404の両出力はOR回路405において少なくとも一方が“1”である画素を“1”とし、それ以外を“0”としたマスクを合成し、マスク出力端子406に出力される。
【0040】
図6はマスク作成部107による処理の様子を示す図である。図6(1)と図6(2)はテロップ候補画像と実際のテロップを構成する画素を表し、時間的に図6(1)から図6(2)に変化したものとする。図で実線枠に囲まれた斜線部はテロップ候補である部分を表し、さらに黒い領域は実際のテロップを構成する画素を表す。図6(1)と図6(2)の間で、新規候補画素検出部402によって、右の「C」を含む周辺のテロップ候補画素が検出されるので、図6(3)のマスクの右部では、矩形領域が1となる。また、図6(1)と図6(2)で、「B」の背景部の画素の変化が激しいとすると、不変画素検出部404によって、実際のテロップを構成する画素だけが検出されるので、図6(3)のマスクの中央部では、テロップを構成する画素に対応する部分が“1”となる。「A」の部分は、図6(2)の時点でテロップが消滅しているため、対応するマスクは“0”となる。このようにして、テロップが変化しない部分では、テロップを構成する画素に対応する部分を“1”とし、また、新たにテロップが出現した部分では、テロップ候補画像が“1”である部分を“1”とするマスクを合成することができる。
【0041】
図7はマスク作成部107の別の例を表すブロック図である。
【0042】
テロップ候補画像入力端子501、バッファ502、AND回路503は新規候補画素検出部402を構成している。テロップ候補画像入力端子501に入力されたテロップ候補画像はバッファ502に1フレーム分だけ蓄積される。AND回路503は、現フレームとバッファ502に蓄積された前フレームとでテロップ候補画像を比較する。ここでは、テロップ候補が現フレームにのみ存在し、かつ前フレームには存在しないときに“1”、それ以外は“0”の値が出力される。
【0043】
差分画像入力端子504、閾値入力端子505、比較器506、AND回路507、バッファ508は不変画素検出部404を構成している。比較器506において、差分画像入力端子504から入力された差分画像と、閾値入力端子505に入力された閾値Dとが比較される。差分画像は画素毎に比較され、閾値Dの方が大きいときに“1”、それ以外のときは“0”の値が出力される。さらに、AND回路507によって、テロップ候補でない画素は“0”とされる。その結果はバッファ508に1フレーム分だけ蓄積される。
【0044】
AND回路503の出力とバッファ508の出力はOR回路509によって統合され、少なくとも一方が“1”の場合“1”、両方が“0”の場合に“0”というマスク出力としてマスク出力端子510に出力される。
【0054】
図11は本発明のテロップ検出方法の一実施形態を表すフローチャートである。
【0055】
まず、画像入力段階801において画像を入力する。次に、テロップ候補画像作成段階802においてテロップ候補画像が検出され、テロップ候補画像の存在する画素を“1”とし、それ以外の画素を“0”としたテロップ候補画像が作成される。また、差分画像作成段階803において、時間的に離れた2枚のフレーム画像間の差の絶対値を画素値とする差分画像が作成される。なお、フレーム間隔は、隣接するフレーム間でもよいし、複数フレーム離れた間隔でもよい。また、テロップ候補画像作成段階802と差分画像作成段階803は、どちらを先に実行してもよい。抽出段階804では、差分画像のうちテロップ候補画像が“0”である部分を“0”とする。判定段階805ではテロップの存在を判定する。
【0056】
以降のフローチャートを説明する前に、本実施形態で処理をする画像やバッファについて説明する。
【0057】
入力された画像はscrという配列に入っており、個々の画素は、画素番号pによって指示されるscr[p]で表される。また、1個以上の画素の集合をブロックとし、ブロック番号bによって指示されるとする。テロップ候補画像はブロック単位で管理し、tel[b]によって表される。テロップ候補ならtel[b]=1、それ以外ではtel[b]=0となる。また、前の処理段階のフレームのテロップ候補画像は、pretel[b]で表される。差分画像は画素単位で管理し、diff[p]によって表される。同様に、前の処理段階のフレームの差分画像は、prediff[b]で表される。
【0058】
図12はテロップ候補画像作成段階802の例を表すフローチャートである。
【0059】
まず、ステップ901においてブロック番号bを0に初期化する。次に、ステップ902で、ブロック番号bによって指示されるブロックがテロップ候補であるかどうかを調べ、テロップ候補であれば、ステップ903でtel[b]に1を代入し、そうでなければステップ904でtel[b]に0を代入する。なお、テロップ候補画像の検出には、従来技術である、例えば、前述の1996年電子情報通信学会情報・システムソサィエティ大会「MPEG映像からのテロップ領域検出法」に基づく方法を用いることができる。続いて、ステップ905でbの値を1増やし、ステップ906でブロック番号bがブロック数と等しいかを判定し、ブロック番号bがブロック数になるまでステップ902からの処理を繰り返す。以上の手順により、テロップ候補画像tel[b]が作成される。
【0060】
図13は差分画像作成段階803の例を表すフローチャートである。
【0061】
まず、ステップ911において画素番号pが0に初期化される。次に、ステップ912において現フレームの画素値scr[p]と前フレームの画素値prescr[p]の差の絶対値が差分画像の画素値diff[p]に格納される。続いて、ステップ913でpの値を1ずつ増やし、ステップ914で画素番号pが全画素数と等しくなるまでステップ912からの処理を繰り返す。以上の手順により、差分画像diff[p]が作成される。
【0062】
図14、図15は抽出段階804の例を表すフローチャートである。
【0063】
まず、概要を説明すると、本例では、テロップ領域画像のうちの不変画素か、または、新たにテロップ候補となった画素の集合を判定領域とし、判定領域に含まれる差分画像を抽出する。ここで、不変画素はフレーム間で値の変化が小さい画素を表す。そして、判定領域の面積countと、判定領域内の差分画像の大きい部分、すなわち、フレーム画像が変化した部分の面積cdiffを計算し、出力とする。判定領域のうち、不変画素は画素m[p]によって表される。なお、m[p]は最初0である。
【0064】
まず、ステップ921でcountとcdiffと画素番号pを0に初期化する。以下、すべての画素番号pについて処理を行う。ステップ922では、画素番号pに対応するブロック番号bを求める。ステップ923の条件判断では、不変画素(m[p]=1)であるか、または、番号bのブロックがテロップ候補であり(tel[b]=1)、かつ、前フレームではテロップ候補でない(pretel[b]=0)かの少なくとも一方が成り立つか判断し、成り立つときステップ924に進み、それ以外の場合は、ステップ927に進む。この条件判断では、不変画素か、または、新たにテロップ候補となった画素かの少なくとも一方であるかどうかを判断している。ステップ924では、countの値を1増やす。さらに、ステップ925で画素番号pの差分画像の画素値を調べ、閾値Dより大きい場合には、ステップ926に進み、cdiffの値を1増やし、そうでない場合は、ステップ927に進む。ステップ927では、画素番号pの値を1増やし、ステップ928で画素番号pが全画素数になるまで、ステップ922からの処理を繰り返す。以上の手順により、テロップ候補が存在しフレーム画像の変化を調べるべき判定領域の面積countと、判定領域内でフレーム画像が変化した部分の面積cdiffを求めることができる。
【0065】
次に、ステップ929から935の処理によって不変画素m[p]を求め、pretelとprescrを作成する。まず、ステップ929で画素番号pを0に初期化する。ステップ930では、pに対応するブロック番号bを求める。ステップ931では、ブロックbがテロップ候補であり(tel[b]=1)、かつ、差分画像の番号pの画素値が閾値D以下(diff[p]≦D)であるかどうか判断し、条件が真であればステップ932に進んでm[p]の値を1にし、そうでない場合に、ステップ933に進んでm[p]の値を0にする。ステップ934でpの値を1増やし、ステップ935でpが全画素数になるまで、ステップ930からの処理を繰り返す。以上の手順により、不変画素m[p]を求めることができる。次に、ステップ936で現フレームのtelとscrの内容をそれぞれpretel,prescrにコピーし、次回の処理段階に備える。最後に、先に計算したcountとcdiffをステップ937で出力して、本段階を終わる。
【0066】
図16は判定段階805の例を表すフローチャートである。まず、概要を説明すると、本例は、フレーム画像の変化を調べるべき判定領域の面積countと、判定領域内でフレーム画像が変化した部分の面積cdiffを入力とする。変数tは整数の値を持ち、テロップの継続時間を表している。countとcdiffを比較し、テロップが継続的に出現している間は、tの値が1ずつ増え、テロップが存在しない場合や、テロップが切り替わった時に、tは0にリセットされる。短時間のノイズを除去するために、閾値T以上存続した場合にテロップと認定する。そこで、Tとtを比較し、テロップの「開始」「継続中」「終了」を判定し、さらに、それぞれに対応する副手順を実行することができる。なお、この例では、各副手順を特に規定しておらず、用途に応じて様々に定義することができる。たとえば、検出状態を画面上に表示するための描画関数を副手順として定義することもできる。
【0067】
ステップ941では、tが0より大きいかどうかを調べる。tが0以下、すなわち現時点でテロップが存在していないときは、ステップ942に進み、tが0より大きいとき、すなわちテロップが存在しているときは、ステップ944に進む。ステップ942では、countの値を閾値Aと比較し、A以上の場合にのみステップ943に進んでtの値を1とする。つまり、テロップの開始を表す。
【0068】
ステップ944では、countを閾値Aと比較し、さらに、cdiffをcountで割った数を閾値Rと比較し、count<Aとcdiff/count>Rの少なくとも一方が成り立つかどうか判定し、成り立つときステップ946に進み、そうでなければステップ945に進む。この条件判断は、テロップが存在しないか、または、判定領域内の画像変化が大きい場合を調べている。ステップ945では、前記条件が成立しなかったので、テロップは継続中であり、tの値を1増やす。
【0069】
ステップ946では、前記条件が成立し、テロップが消滅または切り替わったことを表すので、テロップ継続時間tが閾値T以上であるかを調べる。条件成立の場合は、後述の副手順「テロップ開始」が呼び出されているので、それに対応するように、ステップ947の副手順「テロップ終了」を実行する。いずれの場合も、ステップ948でtの値をリセットする。
【0070】
以上は、countとcdiffの比較結果に基づきtの値を変化させる手順であった。続くステップ949〜952は、tと閾値Tとを比較し、副手順「テロップ開始」「テロップ継続中」を呼び出す処理である。まず、ステップ949で、tが閾値Tと等しいかどうか調べる。等しい場合は、ステップ950の副手順「テロップ開始」を実行する。等しくない場合は、ステップ951でtがTより大きいか調べ、条件成立の場合は、ステップ952の副手順「テロップ継続中」を呼び出す。
【0071】
なお、本発明は、以上の実施形態に限定されるものではなく、その趣旨を変えない範囲で、様々に実施することができる。たとえば、最終的なテロップの存在判定を用いて、フレーム画像を出力し、テロップの一覧を作成することもできる。
【0072】
【発明の効果】
以上説明したように、本発明は下記のような効果がある。
(1)請求項1との発明は、テロップの存在する領域のフレーム画像の変化に基づいてテロップを検出するので、テロップの切り替わりを検出することができる。
(2)請求項の発明は、フレーム画像の変化を調べる領域を、テロップの存在する領域に限定することができるので、テロップの背景の変化の影響を受けにくくなり、より正確にテロップの切り替わりを検出することができる。
【図面の簡単な説明】
【図1】本発明の第1の実施形態の映像テロップ検出装置を表すブロック図である。
【図2】テロップ候補画像検出方法を表すフローチャートである。
【図3】テロップ候補画像作成部102を表すブロック図である。
【図4】本発明の第2の実施形態の映像テロップ検出装置を表すブロック図である。
【図5】マスク作成部107の一例を表すブロック図である。
【図6】マスク作成部107の処理を説明する説明図である。
【図7】マスク作成部107の他の例を表すブロック図である。
【図】本発明の一実施形態の映像テロップ検出方法を表すフローチャートである。
【図】テロップ候補画像作成段階802を表すフローチャートである。
【図10】差分画像作成段階803を表すフローチャートである。
【図11】抽出段階804を表すフローチャートである。
【図12】抽出段階804を表すフローチャートである。
【図13】判定段階805を表すフローチャートである。
【符号の説明】
101 映像入力端子
102 テロップ候補画像作成部
103 差分画像作成部
104 AND回路
105 判定部
106 テロップ出力端子
107 マスク部
201〜205 ステップ
301 フレーム判別部
302 計数部
303 選択部
304 連結領域作成部
401 テロップ候補画像入力端子
402 新規候補画素検出部
403 差分画像入力端子
404 不変画素検出部
405 OR回路
406 マスク出力端子
501 テロップ候補画像入力端子
502 バッファ
503 AND回路
504 差分画像入力端子
505 閾値入力端子
506 比較器
507 AND回路
508 バッファ
509 OR回路
510 マスク出力端子
801 画像入力段階
802 テロップ候補画像作成段階
803 差分画像作成段階
804 抽出段階
805 判定段階
901〜906,911〜914,921〜937,941〜952 ステップ
[0001]
BACKGROUND OF THE INVENTION
The present invention relates to a video telop detection method and apparatus for detecting a telop from a video.
[0002]
[Prior art]
As the distribution of images such as TV broadcasting, digital satellite broadcasting, laser discs, DVDs, and Video on Demand increases, the demand for more flexible handling of images has increased. Therefore, a technique has been proposed in which various table of contents and index information are added to a video to enable video search and random access. Of the information that characterizes the video, subtitles ,symbol The telop such as is important as reflecting the meaning and content of the video. Therefore, a method for automatically detecting a telop from a video has been proposed.
[0003]
Conventional video telop detection devices include the following.
[0004]
For example, there is an apparatus that uses a property that a telop is stationary and has high accuracy to obtain a portion that does not move between two frames, and further detects a region having a luminance of a predetermined value or more as a subtitle portion. (Japanese Patent Laid-Open No. 8-331456 “Subtitle Moving Device”).
[0005]
Also, there is a method of detecting a block in which the edge strength and luminance of a frame image exceed a threshold value as a portion where a caption exists, using the property that a telop has a strong edge and high accuracy (for example, Japanese Patent Laid-Open No. Hei 8). -21231 “Subtitle detection method and moving image representative image extraction device”).
[0006]
Also, in a video encoded using inter-frame correlation such as MPEG, pixels encoded using inter-frame correlation and without motion compensation are temporally and spatially concentrated on the telop portion. It has the nature of There is also a device that uses this property to detect a telop by counting the frequency of appearance of pixels encoded using correlation between frames and without using motion compensation in a certain time interval (1996 Electronic Information and Communication Society Information and System Society Conference "Telop area detection method from MPEG video").
[0007]
[Problems to be solved by the invention]
In the conventional technology described above, telops are detected using the properties of telops such as edge strength and luminance, but the ability to detect telop switching is low. For example, in Japanese Patent Laid-Open No. 8-212231, a frame image is divided into blocks, and caption area data corresponding to the blocks is prepared. In the caption area data, 1 is stored in a block where a telop is present and 0 is stored in a block where the telop is not present. Then, the number of blocks having different subtitle area data values between the two frames is counted, and the telop is switched when the number exceeds a certain ratio.
[0008]
However, in this method, when the telop is switched without any change and the area is not changed, no change appears in the caption area data, so that the telop switching cannot be detected.
[0009]
An object of the present invention is to provide a video telop detection method and apparatus for detecting telop switching from video.
[0010]
[Means for Solving the Problems]
The video telop detection method of the present invention includes a telop candidate image creation stage for creating a telop candidate image indicating an area where a telop candidate exists from a frame image, a difference image creation stage for creating a difference image of two frame images, An extraction stage for extracting only a portion where a telop candidate exists from the difference image and a determination stage for determining the presence of the telop based on the telop candidate image and the extracted difference image are included.
[0011]
The video telop detection device of the present invention also includes a telop candidate image creating unit that creates a telop candidate image indicating a region where a telop candidate exists from a frame image, and a difference image creating unit that creates a difference image between two frame images. And extraction means for extracting only a portion where a telop candidate exists from the difference image, and determination means for determining the presence of the telop based on the telop candidate image and the extracted difference image.
[0012]
The telop candidate image creating means detects a telop candidate from the frame image and creates a telop candidate image. The difference image creating means creates two frame images. The extraction means extracts a difference image in an area where telop candidates exist. The determination means determines the presence of a telop using a telop candidate image and a difference image of a region where the telop candidate exists. Thereby, since the telop is detected based on the change of the frame image in the area where the telop exists, the change of the telop can be detected.
[0013]
Another video telop detection method of the present invention is:
A telop candidate image creating stage for creating a telop candidate image indicating an area where a telop candidate exists from a frame image;
A difference image creation stage for creating a difference image of two frame images;
Using the telop candidate image and the difference image, a mask creating step of creating a mask indicating a region in which a change in pixel value is to be detected;
Extracting only the portion of the mask from the difference image;
Determining the presence of a telop based on the telop candidate image and the extracted difference image.
[0014]
Further, another video telop detection device of the present invention includes a telop candidate image creating unit that creates a telop candidate image indicating a region where a telop candidate exists from a frame image, and a difference image that creates a difference image between two frame images. Creation means, mask creation means for creating a mask indicating an area in which a change in pixel value should be detected using the telop candidate image and the difference image, extraction means for extracting only the mask portion from the difference image, and telop candidate A determination unit configured to determine presence of a telop based on the image and the extracted difference image;
[0015]
In the conventional technique, basically, the presence / absence of a telop has been determined. Therefore, in the present invention, the change of the telop is detected by examining the change of the frame image in the area where the telop exists.
[0016]
The mask creation image creates a mask using the telop candidate image and the difference image. In the mask, an area where a change in pixel value is to be detected is set to 1, for example, and other areas are set to 0, for example. The extraction means extracts a difference image of the area where the mask is 1, and the determination means determines the telop material using the telop candidate image and the difference image of the area where the mask is 1. As a result, the region for checking the change of the frame image can be limited to the region where the telop exists, so that it is less affected by the change in the background of the telop and the change of the telop can be detected more accurately.
[0019]
According to the embodiment of the present invention, the telop candidate image creating unit extracts the frame that is encoded using the correlation between the frames from the encoded video data, and the macroblock of the extracted frame Counting means for counting the number of macroblocks encoded using correlation between frames without using motion compensation within a fixed counting interval for each macroblock position, and a counting result And a selection means for outputting a matrix representing a telop area by comparing with a given threshold value, and a connected area creating means for obtaining a connected area of the matrix and outputting each connected area as a telop candidate image.
[0020]
According to the embodiment of the present invention, the mask creating means detects an invariant pixel detecting means for detecting an unnecessary pixel which is a pixel having a small value between frames, a new candidate pixel detecting means for detecting a newly appearing telop candidate, Mask composing means for composing a mask indicating an area where at least one of an invariant pixel or a new candidate pixel exists.
[0021]
In the mask creating means, the invariant pixel detecting means detects an area where the pixel is unchanged. The new candidate pixel detection means detects a newly appearing telop candidate. The synthesizing unit synthesizes a mask by obtaining an area where at least one of an invariant pixel and a new candidate pixel exists. As a result, a mask is created in which a pixel in which a telop has existed before and a pixel in which a new telop candidate appears is set to 1, for example, and the other area is set to 0, for example.
[0022]
According to the embodiment of the present invention, the new candidate pixel detecting means includes a first buffer for storing one frame of telop candidate images, a telop candidate image for the current frame, and telop candidate images stored in the first buffer. A first comparison unit that outputs a telop candidate image of the current frame when the telop candidate image exists only in the current frame, and the invariant pixel detection unit includes a second comparison unit that compares the difference image with a threshold value; When the difference image is larger than the threshold value, the second buffer for storing the current frame telop candidate image for one frame and the current frame telop candidate image output from the first comparison means or the second buffer are masked. Mask output means for outputting as an output is included.
[0028]
DETAILED DESCRIPTION OF THE INVENTION
Next, embodiments of the present invention will be described with reference to the drawings.
[0029]
FIG. 1 is a block diagram of a video telop detection apparatus according to a first embodiment of the present invention.
[0030]
This video telop detection apparatus includes a video input terminal 101, a telop candidate image creation unit 102, a difference image creation unit 103, an AND circuit 104, a determination unit 105, and a telop output terminal 106. The telop candidate image creation unit 102 detects a telop from the video input to the video input terminal 101, and creates a telop candidate image in which the pixel where the telop exists is “1” and the other pixels are “0”. The difference image creating unit 103 creates a difference image having an absolute value of a difference between two frame images separated in time as a pixel value. The frame interval may be between adjacent frames or may be an interval separated by a plurality of frames. The AND circuit 104 calculates the product of the telop candidate image and the difference image, and sets the portion of the difference image where the telop candidate image is “0” to “0”. The determination unit 105 determines the presence of a telop using the telop candidate image output from the telop candidate image creation unit 102 and the difference image output from the AND circuit 104, and outputs the telop to the telop output terminal 106. Note that a pixel in which a telop is present may be “0”, other pixels may be “1”, and values other than “0” and “1” may be taken.
[0031]
The advantage of this embodiment is that the difference image is evaluated only in the portion where the telop candidate image exists, so that the telop switching can be detected.
[0032]
Note that conventional techniques can be used to detect telop candidate images. For example, a method based on the above-mentioned 1996 Information and System Society Conference of the Institute of Electronics, Information and Communication Engineers “Telop area detection method from MPEG video” can be used.
[0033]
FIG. 2 is a flowchart showing this method. Encoded video data is input for each frame (step 201), and the encoding is performed using the correlation between frames for a frame encoded using the correlation between frames and without using motion compensation. The counted macroblocks are counted within a certain counting interval (steps 201 to 204), and the telop portion is selected based on the comparison result with the threshold value (step 205).
[0034]
FIG. 3 is a block diagram of the telop candidate image creation unit 102 based on this method. The frame discriminating unit 301 extracts a frame encoded using the correlation between the frames from the encoded video data. The counting unit 302 calculates, for each macroblock position, the number of macroblocks encoded using the correlation between frames and without using motion compensation, for each macroblock position. Count within. The counting results are input as a matrix to the selection unit 303, and the selection unit 303 outputs a matrix representing the telop area based on the comparison result with the given threshold value. Finally, the connected area creation unit 304 obtains a connected area of the telop area matrix, and outputs each connected area as a telop candidate image.
[0035]
FIG. 4 is a block diagram of a video telop detection apparatus according to the second embodiment of the present invention.
[0036]
In this embodiment, a mask creation unit 107 is added to the first embodiment. The mask creation unit 107 creates a mask using the telop candidate image and the difference image. The mask is an image in which the area for evaluating the difference image is set to “1” and the other areas are set to “0”. The area for evaluating the difference image may be “0”, the other area may be “1”, or may be a value other than “0” or “1”.
[0037]
The advantage of the present embodiment is that the region for evaluating the difference image can be further limited as compared to the first embodiment. For example, if the telop candidate image covers a wider area than the area where the telop actually exists, the mask creation unit 107 can limit the determination area to only the area where the telop actually exists. As a result, the influence of the background of the telop is reduced and more accurate telop detection is possible.
[0038]
FIG. 5 is a block diagram illustrating an example of the mask creation unit 107.
[0039]
The new candidate pixel detection unit 402 compares the telop candidate image input to the telop candidate image input terminal 401 with the telop candidate image in the previous frame, and extracts a newly appearing telop candidate pixel. Note that the frame interval for obtaining the change in the telop candidate image may be between adjacent frames or several frames apart, but the frame interval for obtaining the difference image is appropriate. On the other hand, the invariant pixel detection unit 404 extracts, from the difference image input to the difference image input terminal 403, only the pixel value that is smaller than a certain threshold value and the value of the corresponding telop candidate image is “1”. . As for both outputs of the new candidate pixel detection unit 402 and the invariant pixel detection unit 404, the OR circuit 405 synthesizes a mask in which at least one pixel is “1” and the other is “0”, and the mask output Output to terminal 406.
[0040]
FIG. 6 is a diagram showing a state of processing by the mask creation unit 107. 6 (1) and 6 (2) represent the telop candidate image and the pixels constituting the actual telop, and are temporally changed from FIG. 6 (1) to FIG. 6 (2). In the figure, the hatched portion surrounded by a solid line frame represents a portion that is a telop candidate, and the black region represents a pixel constituting an actual telop. Since the new candidate pixel detection unit 402 detects peripheral telop candidate pixels including the right “C” between FIG. 6A and FIG. 6B, the right side of the mask in FIG. In the section, the rectangular area is 1. Further, in FIG. 6A and FIG. 6B, if the change of the pixel in the background portion “B” is severe, only the pixels constituting the actual telop are detected by the invariant pixel detection unit 404. In the central portion of the mask in FIG. 6 (3), the portion corresponding to the pixels constituting the telop is “1”. In the portion “A”, since the telop has disappeared at the time of FIG. 6B, the corresponding mask is “0”. In this way, in a portion where the telop does not change, a portion corresponding to a pixel constituting the telop is set to “1”, and in a portion where a new telop appears, a portion where the telop candidate image is “1” is set to “1”. A mask of 1 ″ can be synthesized.
[0041]
FIG. 7 is a block diagram illustrating another example of the mask creation unit 107.
[0042]
The telop candidate image input terminal 501, the buffer 502, and the AND circuit 503 constitute a new candidate pixel detection unit 402. The telop candidate image input to the telop candidate image input terminal 501 is stored in the buffer 502 for one frame. The AND circuit 503 compares the telop candidate images between the current frame and the previous frame stored in the buffer 502. Here, a value of “1” is output when a telop candidate exists only in the current frame and does not exist in the previous frame, and a value of “0” is output otherwise.
[0043]
The difference image input terminal 504, the threshold value input terminal 505, the comparator 506, the AND circuit 507, and the buffer 508 constitute an invariant pixel detection unit 404. In the comparator 506, the difference image input from the difference image input terminal 504 is compared with the threshold value D input to the threshold value input terminal 505. The difference images are compared for each pixel, and a value of “1” is output when the threshold value D is larger, and a value of “0” is output otherwise. Further, the AND circuit 507 sets “0” for pixels that are not telop candidates. The result is stored in the buffer 508 for one frame.
[0044]
The output of the AND circuit 503 and the output of the buffer 508 are integrated by the OR circuit 509, and at least one of them is “1”. When both are “0”, the mask output is “0”. Is output.
[0054]
FIG. 11 is a flowchart showing an embodiment of the telop detection method of the present invention.
[0055]
First, in the image input stage 801, an image is input. Next, in the telop candidate image creation stage 802, a telop candidate image is detected, and a telop candidate image is created in which the pixel in which the telop candidate image exists is set to “1” and the other pixels are set to “0”. Also, in the difference image creation stage 803, a difference image is created with the absolute value of the difference between two frame images that are separated in time as pixel values. The frame interval may be between adjacent frames or may be an interval separated by a plurality of frames. Also, either the telop candidate image creation stage 802 or the difference image creation stage 803 may be executed first. In the extraction step 804, the portion of the difference image where the telop candidate image is “0” is set to “0”. In the determination step 805, the presence of a telop is determined.
[0056]
Before explaining the subsequent flowcharts, an image and a buffer to be processed in this embodiment will be explained.
[0057]
The input image is in an array called scr, and each pixel is represented by scr [p] indicated by the pixel number p. Further, it is assumed that a set of one or more pixels is a block and designated by a block number b. The telop candidate images are managed in units of blocks and are represented by tel [b]. If it is a telop candidate, tel [b] = 1, otherwise tel [b] = 0. Further, the telop candidate image of the frame in the previous processing stage is represented by pretel [b]. The difference image is managed in units of pixels and is represented by diff [p]. Similarly, the difference image of the frame in the previous processing stage is represented by prediff [b].
[0058]
FIG. 12 is a flowchart showing an example of the telop candidate image creation stage 802.
[0059]
First, in step 901, the block number b is initialized to 0. Next, in step 902, it is checked whether or not the block indicated by the block number b is a telop candidate. If it is a telop candidate, 1 is assigned to tel [b] in step 903, and if not, step 904 is performed. Then, 0 is substituted into tel [b]. For detecting a telop candidate image, a conventional technique, for example, a method based on the above-mentioned 1996 IEICE Information and System Society “Telop region detection method from MPEG video” can be used. Subsequently, in step 905, the value of b is incremented by 1. In step 906, it is determined whether the block number b is equal to the number of blocks, and the processing from step 902 is repeated until the block number b reaches the number of blocks. The telop candidate image tel [b] is created by the above procedure.
[0060]
FIG. 13 is a flowchart showing an example of the difference image creation stage 803.
[0061]
First, in step 911, the pixel number p is initialized to 0. Next, in step 912, the absolute value of the difference between the pixel value scr [p] of the current frame and the pixel value prescr [p] of the previous frame is stored in the pixel value diff [p] of the difference image. Subsequently, the value of p is incremented by 1 in step 913, and the processing from step 912 is repeated until the pixel number p becomes equal to the total number of pixels in step 914. The difference image diff [p] is created by the above procedure.
[0062]
14 and 15 are flowcharts showing an example of the extraction stage 804.
[0063]
First, the outline will be described. In this example, a set of pixels that are invariant pixels in a telop area image or newly become telop candidates is set as a determination area, and a difference image included in the determination area is extracted. Here, an invariant pixel represents a pixel having a small change in value between frames. Then, the area count of the determination region and the area cdiff of the large portion of the difference image in the determination region, that is, the portion where the frame image has changed are calculated and output. In the determination area, the invariant pixel is represented by a pixel m [p]. Note that m [p] is 0 at first.
[0064]
First, in step 921, count, cdiff, and pixel number p are initialized to zero. Hereinafter, processing is performed for all pixel numbers p. In step 922, a block number b corresponding to the pixel number p is obtained. In the condition judgment at step 923, the pixel is an invariant pixel (m [p] = 1), or the block of number b is a telop candidate (tel [b] = 1) and is not a telop candidate in the previous frame ( It is determined whether or not at least one of pretel [b] = 0) is satisfied, and if it is satisfied, the process proceeds to step 924, and otherwise, the process proceeds to step 927. In this condition determination, it is determined whether the pixel is at least one of an invariant pixel or a new telop candidate. In step 924, the count value is incremented by one. Further, in step 925, the pixel value of the difference image with the pixel number p is checked. If the pixel value is larger than the threshold value D, the process proceeds to step 926, and the value of cdiff is increased by 1. Otherwise, the process proceeds to step 927. In step 927, the value of the pixel number p is incremented by 1, and the processing from step 922 is repeated until the pixel number p reaches the total number of pixels in step 928. By the above procedure, the area count of the determination area where a telop candidate exists and the change of the frame image should be examined, and the area cdiff of the portion where the frame image has changed in the determination area can be obtained.
[0065]
Next, the invariant pixel m [p] is obtained by the processing of steps 929 to 935, and pretel and prescr are created. First, in step 929, the pixel number p is initialized to 0. In step 930, a block number b corresponding to p is obtained. In step 931, it is determined whether or not the block b is a telop candidate (tel [b] = 1) and the pixel value of the difference image number p is equal to or less than a threshold value D (diff [p] ≦ D). If is true, the process proceeds to step 932 and the value of m [p] is set to 1. Otherwise, the process proceeds to step 933 and the value of m [p] is set to 0. In step 934, the value of p is incremented by 1, and in step 935, the processing from step 930 is repeated until p reaches the total number of pixels. The invariant pixel m [p] can be obtained by the above procedure. Next, in step 936, the contents of tel and scr of the current frame are copied to pretel and prescr, respectively, to prepare for the next processing stage. Finally, the previously calculated count and cdiff are output in step 937, and this stage is completed.
[0066]
FIG. 16 is a flowchart illustrating an example of the determination stage 805. First, the outline will be described. In this example, an area count of a determination region to be examined for a change in the frame image and an area cdiff of a portion where the frame image has changed in the determination region are input. The variable t has an integer value and represents the duration of the telop. Count and cdiff are compared, and while the telop continues to appear, the value of t increases by one, and t is reset to 0 when there is no telop or when the telop is switched. In order to remove noise for a short time, it is recognized as a telop when it continues for a threshold value T or more. Therefore, T and t can be compared to determine “start”, “continuing”, and “end” of the telop, and further, sub-procedures corresponding to each can be executed. In this example, each sub-procedure is not particularly defined, and can be variously defined depending on the application. For example, a drawing function for displaying the detection state on the screen can be defined as a sub procedure.
[0067]
In step 941, it is checked whether t is larger than 0. When t is 0 or less, that is, when there is no telop at present, the process proceeds to step 942, and when t is larger than 0, that is, when telop exists, the process proceeds to step 944. In step 942, the value of count is compared with the threshold value A, and if it is equal to or larger than A, the process proceeds to step 943 and the value of t is set to 1. That is, it represents the start of a telop.
[0068]
In step 944, count is compared with threshold A, and the number of cdiff divided by count is compared with threshold R to determine whether at least one of count <A and cdiff/count> R is satisfied. Proceed to 946, otherwise proceed to step 945. In this condition determination, the case where there is no telop or the image change in the determination region is large is examined. In step 945, since the condition is not satisfied, the telop is continuing and the value of t is incremented by one.
[0069]
In step 946, it is indicated that the condition is satisfied and the telop has disappeared or switched, so it is checked whether the telop duration t is equal to or greater than the threshold T. If the condition is satisfied, the sub-procedure “telop start” to be described later is called, and the sub-procedure “telop end” in step 947 is executed so as to correspond to it. In either case, in step 948, the value of t is reset.
[0070]
The above is the procedure for changing the value of t based on the comparison result between count and cdiff. Subsequent steps 949 to 952 are processes for comparing t with the threshold value T and calling the sub-procedures “telop start” and “telop ongoing”. First, in step 949, it is checked whether t is equal to the threshold value T. If they are equal, the sub-procedure “start telop” in step 950 is executed. If they are not equal, it is checked in step 951 whether t is greater than T. If the condition is satisfied, the sub-procedure “telop ongoing” in step 952 is called.
[0071]
In addition, this invention is not limited to the above embodiment, In the range which does not change the meaning, it can implement variously. For example, a final telop presence determination can be used to output a frame image and create a telop list.
[0072]
【The invention's effect】
As described above, the present invention has the following effects.
(1) Claim 1 and 3 According to the invention, since the telop is detected based on the change of the frame image in the area where the telop exists, it is possible to detect the change of the telop.
(2) Claim 2 When 4 According to the invention, since the area for checking the change in the frame image can be limited to the area where the telop exists, it is less affected by the change in the telop background, and the telop switching can be detected more accurately. .
[Brief description of the drawings]
FIG. 1 is a block diagram illustrating a video telop detection device according to a first embodiment of the present invention.
FIG. 2 is a flowchart showing a telop candidate image detection method.
FIG. 3 is a block diagram showing a telop candidate image creation unit 102;
FIG. 4 is a block diagram showing a video telop detection device according to a second embodiment of the present invention.
5 is a block diagram illustrating an example of a mask creation unit 107. FIG.
FIG. 6 is an explanatory diagram for explaining processing of a mask creation unit 107;
FIG. 7 is a block diagram illustrating another example of a mask creation unit 107.
[Figure 8 It is a flowchart showing a video telop detection method according to an embodiment of the present invention.
[Figure 9 This is a flowchart showing a telop candidate image creation stage 802.
[Figure 10 This is a flow chart showing a difference image creation stage 803.
[Figure 11 A flow chart representing the extraction stage 804.
[Figure 12 A flow chart representing the extraction stage 804.
[Figure 13 This is a flow chart showing the determination stage 805.
[Explanation of symbols]
101 Video input terminal
102 Ticker candidate image creation section
103 Difference image creation unit
104 AND circuit
105 judgment part
106 Telop output terminal
107 Mask part
201-205 steps
301 Frame discriminator
302 Counting unit
303 Selector
304 Linked area creation unit
401 Ticker candidate image input terminal
402 New candidate pixel detection unit
403 Difference image input terminal
404 Invariant pixel detector
405 OR circuit
406 Mask output terminal
501 Telop candidate image input terminal
502 buffers
503 AND circuit
504 Difference image input terminal
505 Threshold input terminal
506 Comparator
507 AND circuit
508 buffer
509 OR circuit
510 Mask output terminal
801 Image input stage
802 Ticker candidate image creation stage
803 Difference image creation stage
804 Extraction stage
805 Judgment stage
901-906, 911-914, 921-937, 941-952 steps

Claims (7)

映像からテロップを検出する方法であって、
フレーム画像からテロップ候補の存在する領域を示すテロップ候補画像を作成するテロップ候補画像作成段階と、
2枚のフレーム画像の差分画像を作成する差分画像作成段階と、
前記差分画像からテロップ候補の存在する部分だけを抽出する抽出段階と、
前記テロップ候補画像と抽出された差分画像とに基づいてテロップの存在を判定する判定段階を有する映像テロップ検出方法。
A method for detecting a telop from an image,
A telop candidate image creating stage for creating a telop candidate image indicating an area where a telop candidate exists from a frame image;
A difference image creation stage for creating a difference image of two frame images;
An extraction step of extracting only a portion where a telop candidate exists from the difference image;
A video telop detection method comprising a determination step of determining the presence of a telop based on the telop candidate image and the extracted difference image.
映像からテロップを検出する方法であって、
フレーム画像からテロップ候補の存在する領域を示すテロップ候補画像を作成するテロップ候補画像作成段階と、
2枚のフレーム画像の差分画像を作成する差分画像作成段階と、
前記テロップ候補画像と前記差分画像を用いて、画素値の変化を検出すべき領域を示すマスクを作成するマスク作成段階と、
前記差分画像からマスクの部分だけを抽出する抽出段階と、
前記テロップ候補画像と抽出された差分画像とに基づいてテロップの存在を判定する段階を有する映像テロップ検出方法。
A method for detecting a telop from an image,
A telop candidate image creating stage for creating a telop candidate image indicating an area where a telop candidate exists from a frame image;
A difference image creation stage for creating a difference image of two frame images;
Using the telop candidate image and the difference image, a mask creating step of creating a mask indicating a region in which a change in pixel value is to be detected;
Extracting only the portion of the mask from the difference image;
A video telop detection method comprising determining the presence of a telop based on the telop candidate image and the extracted difference image.
映像からテロップを検出する装置であって、
フレーム画像からテロップ候補の存在する領域を示すテロップ候補画像を作成するテロップ候補画像作成手段と、
2枚のフレーム画像の差分画像を作成する差分画像作成手段と、
前記差分画像からテロップ候補の存在する部分だけを抽出する抽出手段と、
前記テロップ候補画像と抽出された差分画像とに基づいてテロップの存在を判定する判定手段を有する映像テロップ検出装置。
An apparatus for detecting a telop from an image,
Telop candidate image creating means for creating a telop candidate image indicating an area where a telop candidate exists from a frame image;
Difference image creating means for creating a difference image of two frame images;
Extraction means for extracting only a portion where a telop candidate exists from the difference image;
A video telop detection apparatus comprising: determination means for determining the presence of a telop based on the telop candidate image and the extracted difference image.
映像からテロップを検出する装置であって、
フレーム画像からテロップ候補の存在する領域を示すテロップ候補画像を作成するテロップ候補画像作成手段と、
2枚のフレーム画像の差分画像を作成する差分画像作成手段と、
前記テロップ候補画像と前記差分画像を用いて、画素値の変化を検出すべき領域を示すマスクを作成するマスク作成手段と、
前記差分画像からマスクの部分だけを抽出する抽出手段と、
前記テロップ候補画像と抽出された差分画像とに基づいてテロップの存在を判定する判定手段を有する映像テロップ検出装置。
An apparatus for detecting a telop from an image,
Telop candidate image creating means for creating a telop candidate image indicating an area where a telop candidate exists from a frame image;
Difference image creating means for creating a difference image of two frame images;
Using the telop candidate image and the difference image, a mask creating means for creating a mask indicating a region where a change in pixel value should be detected;
Extracting means for extracting only a portion of the mask from the difference image;
A video telop detection apparatus comprising: determination means for determining the presence of a telop based on the telop candidate image and the extracted difference image.
前記テロップ候補画像作成手段が、符号化された映像データからフレーム間の相関を用いて符号化されたフレームを抽出するフレーム判別手段と、抽出されたフレームのマクロブロックのうち、フレーム間の相関を用い、かつ動き補償を用いないで符号化されたマクロブロックが現われる数を、それぞれのマクロブロックの位置毎に、一定計数区間内で計数する計数手段と、計数結果を与えられた閾値と比較してテロップ領域を表すマトリックスを出力する選択手段と、前記マトリックスの連結領域を求め、それぞれの連結領域をテロップ候補画像として出力する連結領域作成手段を含む、請求項3または4記載の装置。The telop candidate image creating means extracts frame encoded from the encoded video data using the correlation between frames, and correlates the frames among the macroblocks of the extracted frames. A counting means for counting the number of macroblocks coded without using motion compensation and for each macroblock position within a certain counting interval for each macroblock position is compared with a given threshold value. 5. The apparatus according to claim 3 , further comprising: selection means for outputting a matrix representing a telop area; and connected area creating means for obtaining a connected area of the matrix and outputting each connected area as a telop candidate image. 前記マスク作成手段が、フレーム間で値の変化が小さい画素である不変画素を検出する不変画素検出手段と、新たに現れたテロップ候補を検出する新規候補画素検出手段と、不変画素と新規候補画素の少なくとも一方が存在する領域を示すマスクを合成するマスク合成手段を有する請求項4記載の映像テロップ検出装置。The mask creation means includes an invariant pixel detection means for detecting an invariant pixel that is a pixel having a small value change between frames, a new candidate pixel detection means for detecting a newly appearing telop candidate, an invariant pixel and a new candidate pixel The video telop detection device according to claim 4, further comprising a mask composition unit configured to synthesize a mask indicating a region where at least one of the two exists. 前記新規候補画素検出手段が、テロップ候補画像を1フレーム分蓄積する第1のバッファと、現フレームのテロップ候補画像と前記第1のバッファに蓄積されたテロップ候補画像を比較し、テロップ候補画像が現フレームにのみ存在するとき現フレームのテロップ候補画像を出力する第1の比較手段を含み、前記不変画素検出手段が、前記差分画像を閾値と比較する第2の比較手段と、前記差分画像が前記閾値より大きいとき、現フレームのテロップ候補画像を1フレーム分蓄積する第2のバッファと、第1の比較手段または第2のバッファから出力された現フレームのテロップ候補画像をマスク出力として出力するマスク出力手段を含む、請求項6記載の装置。The new candidate pixel detection means compares the first buffer for storing one frame of the telop candidate image with the telop candidate image of the current frame and the telop candidate image stored in the first buffer. A first comparison unit that outputs a telop candidate image of the current frame when it exists only in the current frame, the invariant pixel detection unit; a second comparison unit that compares the difference image with a threshold; and the difference image When the threshold value is larger than the threshold, the second buffer for storing the current frame telop candidate image for one frame and the current frame telop candidate image output from the first comparison means or the second buffer are output as mask outputs. The apparatus of claim 6 including mask output means.
JP12735897A 1997-05-16 1997-05-16 Video telop detection method and apparatus Expired - Lifetime JP3609236B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP12735897A JP3609236B2 (en) 1997-05-16 1997-05-16 Video telop detection method and apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP12735897A JP3609236B2 (en) 1997-05-16 1997-05-16 Video telop detection method and apparatus

Publications (2)

Publication Number Publication Date
JPH10322595A JPH10322595A (en) 1998-12-04
JP3609236B2 true JP3609236B2 (en) 2005-01-12

Family

ID=14957981

Family Applications (1)

Application Number Title Priority Date Filing Date
JP12735897A Expired - Lifetime JP3609236B2 (en) 1997-05-16 1997-05-16 Video telop detection method and apparatus

Country Status (1)

Country Link
JP (1) JP3609236B2 (en)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4168490B2 (en) 1998-09-03 2008-10-22 ソニー株式会社 Motion determination device, method and image information conversion device
JP4617611B2 (en) * 2000-06-23 2011-01-26 ソニー株式会社 Image processing apparatus and method, and recording medium
JP5424737B2 (en) * 2009-06-23 2014-02-26 三菱電機株式会社 Image playback device
US9367927B2 (en) 2011-07-13 2016-06-14 Nec Corporation Moving image region detection device
CN102494676B (en) * 2011-12-12 2013-07-03 中国科学院长春光学精密机械与物理研究所 Satellite automatic recognition device under complicated backgrounds

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3265753B2 (en) * 1993-09-30 2002-03-18 株式会社デンソー Display plate detector
JP3590896B2 (en) * 1995-02-02 2004-11-17 株式会社日立製作所 Caption detection method
JPH08317301A (en) * 1995-05-22 1996-11-29 Hitachi Ltd Video output device
JPH0916769A (en) * 1995-06-27 1997-01-17 Canon Inc Device and method for processing image

Also Published As

Publication number Publication date
JPH10322595A (en) 1998-12-04

Similar Documents

Publication Publication Date Title
US5387947A (en) Motion vector detecting method of a video signal
US5751378A (en) Scene change detector for digital video
JP4295845B2 (en) Method and apparatus for automatically detecting aspect format of digital video image
US5719643A (en) Scene cut frame detector and scene cut frame group detector
US7502513B2 (en) Commercial detector with a start of active video detector
JP2005503085A (en) Motion estimation and / or compensation
JP2004529578A (en) Detection of subtitles in video signals
US5515114A (en) Motion-vector detection apparatus for a video signal
JP4213035B2 (en) Occlusion detector and method for detecting an occlusion region
JP4297113B2 (en) Block distortion detection apparatus, block distortion detection method, and video signal processing apparatus
US6229930B1 (en) Image processing apparatus, image processing method, image data structure, and data storage media
EP1958451A2 (en) Motion vector field correction
JP3609236B2 (en) Video telop detection method and apparatus
US6473130B1 (en) Method and apparatus for displaying sub-pictures
JP2971724B2 (en) Video cut point detection device
EP1654703B1 (en) Graphics overlay detection
EP0913994B1 (en) Method and apparatus for automatic format detection in digital video pictures
JP3209234B2 (en) Representative screen extraction method
KR100468843B1 (en) Method for automatic detection of scene changes in video and apparatus thereof
CN115035151B (en) Method and device for detecting comb distortion, computer equipment and storage medium
JP2004128936A (en) Video signal processor
JPH0750815A (en) Travel correction picture processing method
JP3442145B2 (en) Boundary position detection device for television video signal
JPH089340A (en) Motion vector detector and motion vector detection method
JPH1023329A (en) Scene change and/or flash detector

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20031224

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20031224

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20031224

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20040128

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20040329

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20040415

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20041012

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20041013

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20071022

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20081022

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091022

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101022

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101022

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111022

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111022

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121022

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121022

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131022

Year of fee payment: 9

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

EXPY Cancellation because of completion of term