JP3609236B2 - Video telop detection method and apparatus - Google Patents
Video telop detection method and apparatus Download PDFInfo
- Publication number
- JP3609236B2 JP3609236B2 JP12735897A JP12735897A JP3609236B2 JP 3609236 B2 JP3609236 B2 JP 3609236B2 JP 12735897 A JP12735897 A JP 12735897A JP 12735897 A JP12735897 A JP 12735897A JP 3609236 B2 JP3609236 B2 JP 3609236B2
- Authority
- JP
- Japan
- Prior art keywords
- telop
- image
- creating
- candidate
- difference image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Lifetime
Links
Images
Landscapes
- Studio Circuits (AREA)
- Processing Or Creating Images (AREA)
- Image Processing (AREA)
- Character Discrimination (AREA)
Description
【0001】
【発明の属する技術分野】
本発明は映像からテロップを検出する映像テロップ検出方法および装置に関する。
【0002】
【従来の技術】
テレビ放送、デジタル衛星放送、レーザーディスク、DVD、Video on Demand 等、映像の流通が活発になるにつれて、映像をより柔軟に扱いたいという需要が増えてきた。そこで、映像に様々な目次や索引情報を付加し、映像の検索やランダムアクセスを可能とする技術が提案されている。映像を特徴づける情報のうち、字幕、記号等のテロップは、映像の意味や内容を反映するものとして重要である。そのため、映像から自動的にテロップを検出する方法が提案されている。
【0003】
従来の映像テロップ検出装置には次のものがある。
【0004】
例えば、テロップが静止していて、かつ高精度であるという性質を用い、2枚のフレーム間で動きのない部分を求め、さらに、輝度が所定値以上の領域を字幕部分として検出する装置がある(特開平8−331456「字幕移動装置」)。
【0005】
また、テロップはエッジが強く、かつ、高精度であるという性質を用い、フレーム画像のエッジ強度と輝度とが閾値を超えるブロックを字幕の存在する部分として検出する方法もある(例えば、特開平8−212231「字幕検出方法および動画像の代表画像抽出装置」)。
【0006】
また、MPEGなどフレーム間の相関を用いて符号化された映像では、フレーム間の相関を用い、かつ、動き補償を用いないで符号化された画素がテロップの部分に時間的空間的に集中するという性質がある。この性質を利用し、フレーム間の相関を用い、かつ、動き補償を用いないで符号化された画素の出現頻度を、ある時間区間で計数することによってテロップを検出する装置もある(1996年電子情報通信学会情報・システムソサィエティ大会「MPEG映像からのテロップ領域検出方法」)。
【0007】
【発明が解決しようとする課題】
上述した従来技術では、エッジ強度や輝度などのテロップのもつ性質を用いてテロップを検出していたが、テロップの切り替わりの検出能力が低かった。例えば、特開平8−212231では、フレーム画像をブロックに分割し、ブロックに対応する字幕領域データを用意する。字幕領域データには、テロップの存在するブロックに1、存在しないブロックに0を格納する。そして、2枚のフレーム間で、字幕領域データの値が異なるブロックの数を計数し、この数が一定の割合を超えた場合に、テロップが切り替わったとしている。
【0008】
しかし、この方法では、テロップが切れ目なく、かつ、面積の変化がなく切り替わったとき、字幕領域データには変化が現れないので、テロップの切り替わりを検出することができない。
【0009】
本発明の目的は、映像からテロップの切り替わりを検出する映像テロップ検出方法および装置を提供することである。
【0010】
【課題を解決するための手段】
本発明の映像テロップ検出方法は、フレーム画像からテロップ候補の存在する領域を示すテロップ候補画像を作成するテロップ候補画像作成段階と、2枚のフレーム画像の差分画像を作成する差分画像作成段階と、差分画像からテロップ候補の存在する部分だけを抽出する抽出段階と、テロップ候補画像と抽出された差分画像とに基づいてテロップの存在を判定する判定段階を有する。
【0011】
また、本発明の映像テロップ検出装置は、フレーム画像からテロップ候補の存在する領域を示すテロップ候補画像を作成するテロップ候補画像作成手段と、2枚のフレーム画像の差分画像を作成する差分画像作成手段と、差分画像からテロップ候補の存在する部分だけを抽出する抽出手段と、テロップ候補画像と抽出された差分画像とに基づいてテロップの存在を判定する判定手段を有する。
【0012】
テロップ候補画像作成手段は、フレーム画像からテロップ候補を検出し、テロップ候補画像を作成する。差分画像作成手段は、2枚のフレーム画像を作成する。抽出手段は、テロップ候補の存在する領域の差分画像を抽出する。判定手段は、テロップ候補画像とテロップ候補の存在する領域の差分画像を用いてテロップの存在を判定する。これによって、テロップの存在する領域のフレーム画像の変化に基づいてテロップを検出するので、テロップの切り替わりを検出することができる。
【0013】
本発明の他の映像テロップ検出方法は、
フレーム画像からテロップ候補の存在する領域を示すテロップ候補画像を作成するテロップ候補画像作成段階と、
2枚のフレーム画像の差分画像を作成する差分画像作成段階と、
前記テロップ候補画像と前記差分画像を用いて、画素値の変化を検出すべき領域を示すマスクを作成するマスク作成段階と、
前記差分画像からマスクの部分だけを抽出する抽出段階と、
前記テロップ候補画像と抽出された差分画像とに基づいてテロップの存在を判定する段階を有する。
【0014】
また、本発明の他の映像テロップ検出装置は、フレーム画像からテロップ候補の存在する領域を示すテロップ候補画像を作成するテロップ候補画像作成手段と、2枚のフレーム画像の差分画像を作成する差分画像作成手段と、テロップ候補画像と差分画像を用いて、画素値の変化を検出すべき領域を示すマスクを作成するマスク作成手段と、差分画像からマスクの部分だけを抽出する抽出手段と、テロップ候補画像と抽出された差分画像とに基づいてテロップの存在を判定する判定手段を有する。
【0015】
従来の技術では、基本的にテロップの有無を判定することに留まっていた。そこで、本発明では、さらにテロップの存在する領域についてフレーム画像の変化を調べることによって、テロップの切り替わりを検出する。
【0016】
マスク作成画像は、テロップ候補画像と差分画像を用いて、マスクを作成する。マスクは、画素値の変化を検出すべき領域を例えば1とし、それ以外の領域を例えば0とする。抽出手段は、マスクが1である領域の差分画像を抽出し、判定手段でテロップ候補画像とマスクが1である領域の差分画像を用いて、テロップの素材を判定する。これによって、フレーム画像の変化を調べる領域を、テロップの存在する領域に限定することができるので、テロップの背景の変化の影響を受けにくくなり、より正確にテロップの切り替わりを検出することができる。
【0019】
本発明の実施態様によれば、テロップ候補画像作成手段が、符号化された映像データからフレーム間の相関を用いて符号化されたフレームを抽出するフレーム判別手段と、抽出されたフレームのマクロブロックのうち、フレーム間の相関を用い、かつ動き補償を用いないで符号化されたマクロブロックが現われる数を、それぞれのマクロブロックの位置毎に、一定計数区間内で計数する計数手段と、計数結果を与えられた閾値と比較してテロップ領域を表すマトリックスを出力する選択手段と、前記マトリックスの連結領域を求め、それぞれの連結領域をテロップ候補画像として出力する連結領域作成手段を含む。
【0020】
本発明の実施態様によれば、マスク作成手段が、フレーム間で値の小さい画素である不要画素を検出する不変画素検出手段と、新たに現れたテロップ候補を検出する新規候補画素検出手段と、不変画素か新規候補画素の少なくとも一方が存在する領域を示すマスクを合成するマスク合成手段を有する。
【0021】
マスク作成手段においては、不変画素検出手段が、画素が不変である領域を検出する。新規候補画素検出手段は、新たに現れたテロップ候補を検出する。合成手段は、不変画素か新規候補画素の少なくとも一方が存在する領域を求めマスクを合成する。これによって、テロップが以前より存在する画素と、テロップ候補が新たに現れた画素を例えば1とし、それ以外の領域を例えば0とするマスクが作成される。
【0022】
本発明の実施態様によれば、新規候補画素検出手段が、テロップ候補画像を1フレーム分蓄積する第1のバッファと、現フレームのテロップ候補画像と第1のバッファに蓄積されたテロップ候補画像を比較し、テロップ候補画像が現フレームにのみ存在するとき現フレームのテロップ候補画像を出力する第1の比較手段を含み、不変画素検出手段が、差分画像を閾値と比較する第2の比較手段と、差分画像が前記閾値より大きいとき、現フレームのテロップ候補画像を1フレーム分蓄積する第2のバッファと、第1の比較手段または第2のバッファから出力された現フレームのテロップ候補画像をマスク出力として出力するマスク出力手段を含む。
【0028】
【発明の実施の形態】
次に、本発明の実施の形態について図面を参照して説明する。
【0029】
図1は本発明の第1の実施形態の映像テロップ検出装置のブロック図である。
【0030】
本映像テロップ検出装置は映像入力端子101とテロップ候補画像作成部102と差分画像作成部103とAND回路104と判定部105とテロップ出力端子106で構成される。テロップ候補画像作成部102は映像入力端子101に入力された映像からテロップを検出し、テロップの存在する画素を“1”とし、それ以外の画素を“0”としたテロップ候補画像を作成する。差分画像作成部103は、時間的に離れた2枚のフレーム画像間の差の絶対値を画素値とする差分画像を作成する。なお、フレーム間隔は、隣接するフレーム間でもよいし、複数フレーム離れた間隔でもよい。AND回路104はテロップ候補画像と差分画像との積を求め、差分画像のうちテロップ候補画像が“0”である部分を“0”とする。判定部105は、テロップ候補画像作成部102の出力であるテロップ候補画像と、AND回路104の出力である差分画像を用いてテロップの存在を判定し、テロップ出力端子106に出力する。なお、テロップの存在する画素を“0”、それ以外の画素を“1”としてもよく、また“0”、“1”以外の値をとるようにしてもよい。
【0031】
本実施形態の利点は、テロップ候補画像の存在する部分に限って差分画像を評価するので、テロップの切り替わりを検出することができるという点である。
【0032】
なお、テロップ候補画像の検出には、従来技術を利用することができる。例えば、前述の1996年電子情報通信学会情報・システムソサィエティ大会「MPEG映像からのテロップ領域検出法」に基づく方法を用いることができる。
【0033】
図2はこの方法を示すフローチャートである。符号化された映像データをフレームごとに入力し(ステップ201)、フレーム間の相関を用いて符号化されたフレームを対象にしてフレーム間の相関を用い、かつ、動き補償を用いないで符号化されたマクロブロックを一定計数区間内で計数し(ステップ201〜204)、閾値との比較結果に基づいてテロップ部分を選択している(ステップ205)。
【0034】
図3はこの方法に基づくテロップ候補画像作成部102のブロック図である。フレーム判別部301は、符号化された映像データからフレーム間の相関を用いて符号化されたフレームを抽出する。計数部302はこのフレームのマクロブロックのうち、フレーム間の相関を用い、かつ、動き補償を用いないで符号化されたマクロブロックが現れる数を、それぞれのマクロブロックの位置ごとに、一定計数区間内で計数する。計数結果はマトリックスになって選択部303に入力され、選択部303は与えられた閾値との比較結果に基づいて、テロップ領域を表すマトリックスを出力する。最後に、連結領域作成部304は、テロップ領域マトリックスの連結領域を求め、それぞれの連結領域をテロップ候補画像として出力する。
【0035】
図4は本発明の第2の実施形態の映像テロップ検出装置のブロック図である。
【0036】
本実施形態は、第1の実施形態にマスク作成部107を追加したものである。マスク作成部107はテロップ候補画像と差分画像を用いてマスクを作成する。マスクは、差分画像を評価する領域を“1”とし、それ以外を“0”とした画像である。差分画像を評価する領域を“0”、それ以外を“1”としてもよく、また“0”、“1”以外の値でもよい。
【0037】
本実施形態の利点は、第1の実施形態に比べて、差分画像を評価する領域をさらに限定することができる。例えば、テロップ候補画像が、実際にテロップが存在する領域よりも幅広い領域をカバーしている場合、マスク作成部107によって、実際にテロップが存在する領域だけに判定領域を限定することができる。これによって、テロップの背景の影響を少なくして、より正確なテロップ検出が可能となる。
【0038】
図5はマスク作成部107の一例を表すブロック図である。
【0039】
新規候補画素検出部402はテロップ候補画像入力端子401に入力されたテロップ候補画像を前のフレームでのテロップ候補画像と比較し、新たに出現したテロップ候補画素を抽出する。なお、テロップ候補画像の変化を求めるフレーム間隔は、近接するフレーム間でもよいし、数フレーム離れた間隔でもよいが、差分画像を求めるときのフレーム間隔が適当である。一方、不変画素検出部404は、差分画像入力端子403に入力された差分画像から、画素値がある閾値よりも小さく、かつ対応するテロップ候補画像の値が“1”であるものだけを抽出する。新規候補画素検出部402と不変画素検出部404の両出力はOR回路405において少なくとも一方が“1”である画素を“1”とし、それ以外を“0”としたマスクを合成し、マスク出力端子406に出力される。
【0040】
図6はマスク作成部107による処理の様子を示す図である。図6(1)と図6(2)はテロップ候補画像と実際のテロップを構成する画素を表し、時間的に図6(1)から図6(2)に変化したものとする。図で実線枠に囲まれた斜線部はテロップ候補である部分を表し、さらに黒い領域は実際のテロップを構成する画素を表す。図6(1)と図6(2)の間で、新規候補画素検出部402によって、右の「C」を含む周辺のテロップ候補画素が検出されるので、図6(3)のマスクの右部では、矩形領域が1となる。また、図6(1)と図6(2)で、「B」の背景部の画素の変化が激しいとすると、不変画素検出部404によって、実際のテロップを構成する画素だけが検出されるので、図6(3)のマスクの中央部では、テロップを構成する画素に対応する部分が“1”となる。「A」の部分は、図6(2)の時点でテロップが消滅しているため、対応するマスクは“0”となる。このようにして、テロップが変化しない部分では、テロップを構成する画素に対応する部分を“1”とし、また、新たにテロップが出現した部分では、テロップ候補画像が“1”である部分を“1”とするマスクを合成することができる。
【0041】
図7はマスク作成部107の別の例を表すブロック図である。
【0042】
テロップ候補画像入力端子501、バッファ502、AND回路503は新規候補画素検出部402を構成している。テロップ候補画像入力端子501に入力されたテロップ候補画像はバッファ502に1フレーム分だけ蓄積される。AND回路503は、現フレームとバッファ502に蓄積された前フレームとでテロップ候補画像を比較する。ここでは、テロップ候補が現フレームにのみ存在し、かつ前フレームには存在しないときに“1”、それ以外は“0”の値が出力される。
【0043】
差分画像入力端子504、閾値入力端子505、比較器506、AND回路507、バッファ508は不変画素検出部404を構成している。比較器506において、差分画像入力端子504から入力された差分画像と、閾値入力端子505に入力された閾値Dとが比較される。差分画像は画素毎に比較され、閾値Dの方が大きいときに“1”、それ以外のときは“0”の値が出力される。さらに、AND回路507によって、テロップ候補でない画素は“0”とされる。その結果はバッファ508に1フレーム分だけ蓄積される。
【0044】
AND回路503の出力とバッファ508の出力はOR回路509によって統合され、少なくとも一方が“1”の場合“1”、両方が“0”の場合に“0”というマスク出力としてマスク出力端子510に出力される。
【0054】
図11は本発明のテロップ検出方法の一実施形態を表すフローチャートである。
【0055】
まず、画像入力段階801において画像を入力する。次に、テロップ候補画像作成段階802においてテロップ候補画像が検出され、テロップ候補画像の存在する画素を“1”とし、それ以外の画素を“0”としたテロップ候補画像が作成される。また、差分画像作成段階803において、時間的に離れた2枚のフレーム画像間の差の絶対値を画素値とする差分画像が作成される。なお、フレーム間隔は、隣接するフレーム間でもよいし、複数フレーム離れた間隔でもよい。また、テロップ候補画像作成段階802と差分画像作成段階803は、どちらを先に実行してもよい。抽出段階804では、差分画像のうちテロップ候補画像が“0”である部分を“0”とする。判定段階805ではテロップの存在を判定する。
【0056】
以降のフローチャートを説明する前に、本実施形態で処理をする画像やバッファについて説明する。
【0057】
入力された画像はscrという配列に入っており、個々の画素は、画素番号pによって指示されるscr[p]で表される。また、1個以上の画素の集合をブロックとし、ブロック番号bによって指示されるとする。テロップ候補画像はブロック単位で管理し、tel[b]によって表される。テロップ候補ならtel[b]=1、それ以外ではtel[b]=0となる。また、前の処理段階のフレームのテロップ候補画像は、pretel[b]で表される。差分画像は画素単位で管理し、diff[p]によって表される。同様に、前の処理段階のフレームの差分画像は、prediff[b]で表される。
【0058】
図12はテロップ候補画像作成段階802の例を表すフローチャートである。
【0059】
まず、ステップ901においてブロック番号bを0に初期化する。次に、ステップ902で、ブロック番号bによって指示されるブロックがテロップ候補であるかどうかを調べ、テロップ候補であれば、ステップ903でtel[b]に1を代入し、そうでなければステップ904でtel[b]に0を代入する。なお、テロップ候補画像の検出には、従来技術である、例えば、前述の1996年電子情報通信学会情報・システムソサィエティ大会「MPEG映像からのテロップ領域検出法」に基づく方法を用いることができる。続いて、ステップ905でbの値を1増やし、ステップ906でブロック番号bがブロック数と等しいかを判定し、ブロック番号bがブロック数になるまでステップ902からの処理を繰り返す。以上の手順により、テロップ候補画像tel[b]が作成される。
【0060】
図13は差分画像作成段階803の例を表すフローチャートである。
【0061】
まず、ステップ911において画素番号pが0に初期化される。次に、ステップ912において現フレームの画素値scr[p]と前フレームの画素値prescr[p]の差の絶対値が差分画像の画素値diff[p]に格納される。続いて、ステップ913でpの値を1ずつ増やし、ステップ914で画素番号pが全画素数と等しくなるまでステップ912からの処理を繰り返す。以上の手順により、差分画像diff[p]が作成される。
【0062】
図14、図15は抽出段階804の例を表すフローチャートである。
【0063】
まず、概要を説明すると、本例では、テロップ領域画像のうちの不変画素か、または、新たにテロップ候補となった画素の集合を判定領域とし、判定領域に含まれる差分画像を抽出する。ここで、不変画素はフレーム間で値の変化が小さい画素を表す。そして、判定領域の面積countと、判定領域内の差分画像の大きい部分、すなわち、フレーム画像が変化した部分の面積cdiffを計算し、出力とする。判定領域のうち、不変画素は画素m[p]によって表される。なお、m[p]は最初0である。
【0064】
まず、ステップ921でcountとcdiffと画素番号pを0に初期化する。以下、すべての画素番号pについて処理を行う。ステップ922では、画素番号pに対応するブロック番号bを求める。ステップ923の条件判断では、不変画素(m[p]=1)であるか、または、番号bのブロックがテロップ候補であり(tel[b]=1)、かつ、前フレームではテロップ候補でない(pretel[b]=0)かの少なくとも一方が成り立つか判断し、成り立つときステップ924に進み、それ以外の場合は、ステップ927に進む。この条件判断では、不変画素か、または、新たにテロップ候補となった画素かの少なくとも一方であるかどうかを判断している。ステップ924では、countの値を1増やす。さらに、ステップ925で画素番号pの差分画像の画素値を調べ、閾値Dより大きい場合には、ステップ926に進み、cdiffの値を1増やし、そうでない場合は、ステップ927に進む。ステップ927では、画素番号pの値を1増やし、ステップ928で画素番号pが全画素数になるまで、ステップ922からの処理を繰り返す。以上の手順により、テロップ候補が存在しフレーム画像の変化を調べるべき判定領域の面積countと、判定領域内でフレーム画像が変化した部分の面積cdiffを求めることができる。
【0065】
次に、ステップ929から935の処理によって不変画素m[p]を求め、pretelとprescrを作成する。まず、ステップ929で画素番号pを0に初期化する。ステップ930では、pに対応するブロック番号bを求める。ステップ931では、ブロックbがテロップ候補であり(tel[b]=1)、かつ、差分画像の番号pの画素値が閾値D以下(diff[p]≦D)であるかどうか判断し、条件が真であればステップ932に進んでm[p]の値を1にし、そうでない場合に、ステップ933に進んでm[p]の値を0にする。ステップ934でpの値を1増やし、ステップ935でpが全画素数になるまで、ステップ930からの処理を繰り返す。以上の手順により、不変画素m[p]を求めることができる。次に、ステップ936で現フレームのtelとscrの内容をそれぞれpretel,prescrにコピーし、次回の処理段階に備える。最後に、先に計算したcountとcdiffをステップ937で出力して、本段階を終わる。
【0066】
図16は判定段階805の例を表すフローチャートである。まず、概要を説明すると、本例は、フレーム画像の変化を調べるべき判定領域の面積countと、判定領域内でフレーム画像が変化した部分の面積cdiffを入力とする。変数tは整数の値を持ち、テロップの継続時間を表している。countとcdiffを比較し、テロップが継続的に出現している間は、tの値が1ずつ増え、テロップが存在しない場合や、テロップが切り替わった時に、tは0にリセットされる。短時間のノイズを除去するために、閾値T以上存続した場合にテロップと認定する。そこで、Tとtを比較し、テロップの「開始」「継続中」「終了」を判定し、さらに、それぞれに対応する副手順を実行することができる。なお、この例では、各副手順を特に規定しておらず、用途に応じて様々に定義することができる。たとえば、検出状態を画面上に表示するための描画関数を副手順として定義することもできる。
【0067】
ステップ941では、tが0より大きいかどうかを調べる。tが0以下、すなわち現時点でテロップが存在していないときは、ステップ942に進み、tが0より大きいとき、すなわちテロップが存在しているときは、ステップ944に進む。ステップ942では、countの値を閾値Aと比較し、A以上の場合にのみステップ943に進んでtの値を1とする。つまり、テロップの開始を表す。
【0068】
ステップ944では、countを閾値Aと比較し、さらに、cdiffをcountで割った数を閾値Rと比較し、count<Aとcdiff/count>Rの少なくとも一方が成り立つかどうか判定し、成り立つときステップ946に進み、そうでなければステップ945に進む。この条件判断は、テロップが存在しないか、または、判定領域内の画像変化が大きい場合を調べている。ステップ945では、前記条件が成立しなかったので、テロップは継続中であり、tの値を1増やす。
【0069】
ステップ946では、前記条件が成立し、テロップが消滅または切り替わったことを表すので、テロップ継続時間tが閾値T以上であるかを調べる。条件成立の場合は、後述の副手順「テロップ開始」が呼び出されているので、それに対応するように、ステップ947の副手順「テロップ終了」を実行する。いずれの場合も、ステップ948でtの値をリセットする。
【0070】
以上は、countとcdiffの比較結果に基づきtの値を変化させる手順であった。続くステップ949〜952は、tと閾値Tとを比較し、副手順「テロップ開始」「テロップ継続中」を呼び出す処理である。まず、ステップ949で、tが閾値Tと等しいかどうか調べる。等しい場合は、ステップ950の副手順「テロップ開始」を実行する。等しくない場合は、ステップ951でtがTより大きいか調べ、条件成立の場合は、ステップ952の副手順「テロップ継続中」を呼び出す。
【0071】
なお、本発明は、以上の実施形態に限定されるものではなく、その趣旨を変えない範囲で、様々に実施することができる。たとえば、最終的なテロップの存在判定を用いて、フレーム画像を出力し、テロップの一覧を作成することもできる。
【0072】
【発明の効果】
以上説明したように、本発明は下記のような効果がある。
(1)請求項1と3の発明は、テロップの存在する領域のフレーム画像の変化に基づいてテロップを検出するので、テロップの切り替わりを検出することができる。
(2)請求項2と4の発明は、フレーム画像の変化を調べる領域を、テロップの存在する領域に限定することができるので、テロップの背景の変化の影響を受けにくくなり、より正確にテロップの切り替わりを検出することができる。
【図面の簡単な説明】
【図1】本発明の第1の実施形態の映像テロップ検出装置を表すブロック図である。
【図2】テロップ候補画像検出方法を表すフローチャートである。
【図3】テロップ候補画像作成部102を表すブロック図である。
【図4】本発明の第2の実施形態の映像テロップ検出装置を表すブロック図である。
【図5】マスク作成部107の一例を表すブロック図である。
【図6】マスク作成部107の処理を説明する説明図である。
【図7】マスク作成部107の他の例を表すブロック図である。
【図8】本発明の一実施形態の映像テロップ検出方法を表すフローチャートである。
【図9】テロップ候補画像作成段階802を表すフローチャートである。
【図10】差分画像作成段階803を表すフローチャートである。
【図11】抽出段階804を表すフローチャートである。
【図12】抽出段階804を表すフローチャートである。
【図13】判定段階805を表すフローチャートである。
【符号の説明】
101 映像入力端子
102 テロップ候補画像作成部
103 差分画像作成部
104 AND回路
105 判定部
106 テロップ出力端子
107 マスク部
201〜205 ステップ
301 フレーム判別部
302 計数部
303 選択部
304 連結領域作成部
401 テロップ候補画像入力端子
402 新規候補画素検出部
403 差分画像入力端子
404 不変画素検出部
405 OR回路
406 マスク出力端子
501 テロップ候補画像入力端子
502 バッファ
503 AND回路
504 差分画像入力端子
505 閾値入力端子
506 比較器
507 AND回路
508 バッファ
509 OR回路
510 マスク出力端子
801 画像入力段階
802 テロップ候補画像作成段階
803 差分画像作成段階
804 抽出段階
805 判定段階
901〜906,911〜914,921〜937,941〜952 ステップ[0001]
BACKGROUND OF THE INVENTION
The present invention relates to a video telop detection method and apparatus for detecting a telop from a video.
[0002]
[Prior art]
As the distribution of images such as TV broadcasting, digital satellite broadcasting, laser discs, DVDs, and Video on Demand increases, the demand for more flexible handling of images has increased. Therefore, a technique has been proposed in which various table of contents and index information are added to a video to enable video search and random access. Of the information that characterizes the video, subtitles ,symbol The telop such as is important as reflecting the meaning and content of the video. Therefore, a method for automatically detecting a telop from a video has been proposed.
[0003]
Conventional video telop detection devices include the following.
[0004]
For example, there is an apparatus that uses a property that a telop is stationary and has high accuracy to obtain a portion that does not move between two frames, and further detects a region having a luminance of a predetermined value or more as a subtitle portion. (Japanese Patent Laid-Open No. 8-331456 “Subtitle Moving Device”).
[0005]
Also, there is a method of detecting a block in which the edge strength and luminance of a frame image exceed a threshold value as a portion where a caption exists, using the property that a telop has a strong edge and high accuracy (for example, Japanese Patent Laid-Open No. Hei 8). -21231 “Subtitle detection method and moving image representative image extraction device”).
[0006]
Also, in a video encoded using inter-frame correlation such as MPEG, pixels encoded using inter-frame correlation and without motion compensation are temporally and spatially concentrated on the telop portion. It has the nature of There is also a device that uses this property to detect a telop by counting the frequency of appearance of pixels encoded using correlation between frames and without using motion compensation in a certain time interval (1996 Electronic Information and Communication Society Information and System Society Conference "Telop area detection method from MPEG video").
[0007]
[Problems to be solved by the invention]
In the conventional technology described above, telops are detected using the properties of telops such as edge strength and luminance, but the ability to detect telop switching is low. For example, in Japanese Patent Laid-Open No. 8-212231, a frame image is divided into blocks, and caption area data corresponding to the blocks is prepared. In the caption area data, 1 is stored in a block where a telop is present and 0 is stored in a block where the telop is not present. Then, the number of blocks having different subtitle area data values between the two frames is counted, and the telop is switched when the number exceeds a certain ratio.
[0008]
However, in this method, when the telop is switched without any change and the area is not changed, no change appears in the caption area data, so that the telop switching cannot be detected.
[0009]
An object of the present invention is to provide a video telop detection method and apparatus for detecting telop switching from video.
[0010]
[Means for Solving the Problems]
The video telop detection method of the present invention includes a telop candidate image creation stage for creating a telop candidate image indicating an area where a telop candidate exists from a frame image, a difference image creation stage for creating a difference image of two frame images, An extraction stage for extracting only a portion where a telop candidate exists from the difference image and a determination stage for determining the presence of the telop based on the telop candidate image and the extracted difference image are included.
[0011]
The video telop detection device of the present invention also includes a telop candidate image creating unit that creates a telop candidate image indicating a region where a telop candidate exists from a frame image, and a difference image creating unit that creates a difference image between two frame images. And extraction means for extracting only a portion where a telop candidate exists from the difference image, and determination means for determining the presence of the telop based on the telop candidate image and the extracted difference image.
[0012]
The telop candidate image creating means detects a telop candidate from the frame image and creates a telop candidate image. The difference image creating means creates two frame images. The extraction means extracts a difference image in an area where telop candidates exist. The determination means determines the presence of a telop using a telop candidate image and a difference image of a region where the telop candidate exists. Thereby, since the telop is detected based on the change of the frame image in the area where the telop exists, the change of the telop can be detected.
[0013]
Another video telop detection method of the present invention is:
A telop candidate image creating stage for creating a telop candidate image indicating an area where a telop candidate exists from a frame image;
A difference image creation stage for creating a difference image of two frame images;
Using the telop candidate image and the difference image, a mask creating step of creating a mask indicating a region in which a change in pixel value is to be detected;
Extracting only the portion of the mask from the difference image;
Determining the presence of a telop based on the telop candidate image and the extracted difference image.
[0014]
Further, another video telop detection device of the present invention includes a telop candidate image creating unit that creates a telop candidate image indicating a region where a telop candidate exists from a frame image, and a difference image that creates a difference image between two frame images. Creation means, mask creation means for creating a mask indicating an area in which a change in pixel value should be detected using the telop candidate image and the difference image, extraction means for extracting only the mask portion from the difference image, and telop candidate A determination unit configured to determine presence of a telop based on the image and the extracted difference image;
[0015]
In the conventional technique, basically, the presence / absence of a telop has been determined. Therefore, in the present invention, the change of the telop is detected by examining the change of the frame image in the area where the telop exists.
[0016]
The mask creation image creates a mask using the telop candidate image and the difference image. In the mask, an area where a change in pixel value is to be detected is set to 1, for example, and other areas are set to 0, for example. The extraction means extracts a difference image of the area where the mask is 1, and the determination means determines the telop material using the telop candidate image and the difference image of the area where the mask is 1. As a result, the region for checking the change of the frame image can be limited to the region where the telop exists, so that it is less affected by the change in the background of the telop and the change of the telop can be detected more accurately.
[0019]
According to the embodiment of the present invention, the telop candidate image creating unit extracts the frame that is encoded using the correlation between the frames from the encoded video data, and the macroblock of the extracted frame Counting means for counting the number of macroblocks encoded using correlation between frames without using motion compensation within a fixed counting interval for each macroblock position, and a counting result And a selection means for outputting a matrix representing a telop area by comparing with a given threshold value, and a connected area creating means for obtaining a connected area of the matrix and outputting each connected area as a telop candidate image.
[0020]
According to the embodiment of the present invention, the mask creating means detects an invariant pixel detecting means for detecting an unnecessary pixel which is a pixel having a small value between frames, a new candidate pixel detecting means for detecting a newly appearing telop candidate, Mask composing means for composing a mask indicating an area where at least one of an invariant pixel or a new candidate pixel exists.
[0021]
In the mask creating means, the invariant pixel detecting means detects an area where the pixel is unchanged. The new candidate pixel detection means detects a newly appearing telop candidate. The synthesizing unit synthesizes a mask by obtaining an area where at least one of an invariant pixel and a new candidate pixel exists. As a result, a mask is created in which a pixel in which a telop has existed before and a pixel in which a new telop candidate appears is set to 1, for example, and the other area is set to 0, for example.
[0022]
According to the embodiment of the present invention, the new candidate pixel detecting means includes a first buffer for storing one frame of telop candidate images, a telop candidate image for the current frame, and telop candidate images stored in the first buffer. A first comparison unit that outputs a telop candidate image of the current frame when the telop candidate image exists only in the current frame, and the invariant pixel detection unit includes a second comparison unit that compares the difference image with a threshold value; When the difference image is larger than the threshold value, the second buffer for storing the current frame telop candidate image for one frame and the current frame telop candidate image output from the first comparison means or the second buffer are masked. Mask output means for outputting as an output is included.
[0028]
DETAILED DESCRIPTION OF THE INVENTION
Next, embodiments of the present invention will be described with reference to the drawings.
[0029]
FIG. 1 is a block diagram of a video telop detection apparatus according to a first embodiment of the present invention.
[0030]
This video telop detection apparatus includes a video input terminal 101, a telop candidate
[0031]
The advantage of this embodiment is that the difference image is evaluated only in the portion where the telop candidate image exists, so that the telop switching can be detected.
[0032]
Note that conventional techniques can be used to detect telop candidate images. For example, a method based on the above-mentioned 1996 Information and System Society Conference of the Institute of Electronics, Information and Communication Engineers “Telop area detection method from MPEG video” can be used.
[0033]
FIG. 2 is a flowchart showing this method. Encoded video data is input for each frame (step 201), and the encoding is performed using the correlation between frames for a frame encoded using the correlation between frames and without using motion compensation. The counted macroblocks are counted within a certain counting interval (
[0034]
FIG. 3 is a block diagram of the telop candidate
[0035]
FIG. 4 is a block diagram of a video telop detection apparatus according to the second embodiment of the present invention.
[0036]
In this embodiment, a mask creation unit 107 is added to the first embodiment. The mask creation unit 107 creates a mask using the telop candidate image and the difference image. The mask is an image in which the area for evaluating the difference image is set to “1” and the other areas are set to “0”. The area for evaluating the difference image may be “0”, the other area may be “1”, or may be a value other than “0” or “1”.
[0037]
The advantage of the present embodiment is that the region for evaluating the difference image can be further limited as compared to the first embodiment. For example, if the telop candidate image covers a wider area than the area where the telop actually exists, the mask creation unit 107 can limit the determination area to only the area where the telop actually exists. As a result, the influence of the background of the telop is reduced and more accurate telop detection is possible.
[0038]
FIG. 5 is a block diagram illustrating an example of the mask creation unit 107.
[0039]
The new candidate
[0040]
FIG. 6 is a diagram showing a state of processing by the mask creation unit 107. 6 (1) and 6 (2) represent the telop candidate image and the pixels constituting the actual telop, and are temporally changed from FIG. 6 (1) to FIG. 6 (2). In the figure, the hatched portion surrounded by a solid line frame represents a portion that is a telop candidate, and the black region represents a pixel constituting an actual telop. Since the new candidate
[0041]
FIG. 7 is a block diagram illustrating another example of the mask creation unit 107.
[0042]
The telop candidate image input terminal 501, the
[0043]
The difference image input terminal 504, the threshold
[0044]
The output of the AND
[0054]
FIG. 11 is a flowchart showing an embodiment of the telop detection method of the present invention.
[0055]
First, in the
[0056]
Before explaining the subsequent flowcharts, an image and a buffer to be processed in this embodiment will be explained.
[0057]
The input image is in an array called scr, and each pixel is represented by scr [p] indicated by the pixel number p. Further, it is assumed that a set of one or more pixels is a block and designated by a block number b. The telop candidate images are managed in units of blocks and are represented by tel [b]. If it is a telop candidate, tel [b] = 1, otherwise tel [b] = 0. Further, the telop candidate image of the frame in the previous processing stage is represented by pretel [b]. The difference image is managed in units of pixels and is represented by diff [p]. Similarly, the difference image of the frame in the previous processing stage is represented by prediff [b].
[0058]
FIG. 12 is a flowchart showing an example of the telop candidate
[0059]
First, in
[0060]
FIG. 13 is a flowchart showing an example of the difference
[0061]
First, in
[0062]
14 and 15 are flowcharts showing an example of the
[0063]
First, the outline will be described. In this example, a set of pixels that are invariant pixels in a telop area image or newly become telop candidates is set as a determination area, and a difference image included in the determination area is extracted. Here, an invariant pixel represents a pixel having a small change in value between frames. Then, the area count of the determination region and the area cdiff of the large portion of the difference image in the determination region, that is, the portion where the frame image has changed are calculated and output. In the determination area, the invariant pixel is represented by a pixel m [p]. Note that m [p] is 0 at first.
[0064]
First, in
[0065]
Next, the invariant pixel m [p] is obtained by the processing of
[0066]
FIG. 16 is a flowchart illustrating an example of the
[0067]
In
[0068]
In
[0069]
In
[0070]
The above is the procedure for changing the value of t based on the comparison result between count and cdiff.
[0071]
In addition, this invention is not limited to the above embodiment, In the range which does not change the meaning, it can implement variously. For example, a final telop presence determination can be used to output a frame image and create a telop list.
[0072]
【The invention's effect】
As described above, the present invention has the following effects.
(1)
(2)
[Brief description of the drawings]
FIG. 1 is a block diagram illustrating a video telop detection device according to a first embodiment of the present invention.
FIG. 2 is a flowchart showing a telop candidate image detection method.
FIG. 3 is a block diagram showing a telop candidate
FIG. 4 is a block diagram showing a video telop detection device according to a second embodiment of the present invention.
5 is a block diagram illustrating an example of a mask creation unit 107. FIG.
FIG. 6 is an explanatory diagram for explaining processing of a mask creation unit 107;
FIG. 7 is a block diagram illustrating another example of a mask creation unit 107.
[Figure 8 It is a flowchart showing a video telop detection method according to an embodiment of the present invention.
[Figure 9 This is a flowchart showing a telop candidate
[Figure 10 This is a flow chart showing a difference
[Figure 11 A flow chart representing the
[Figure 12 A flow chart representing the
[Figure 13 This is a flow chart showing the
[Explanation of symbols]
101 Video input terminal
102 Ticker candidate image creation section
103 Difference image creation unit
104 AND circuit
105 judgment part
106 Telop output terminal
107 Mask part
201-205 steps
301 Frame discriminator
302 Counting unit
303 Selector
304 Linked area creation unit
401 Ticker candidate image input terminal
402 New candidate pixel detection unit
403 Difference image input terminal
404 Invariant pixel detector
405 OR circuit
406 Mask output terminal
501 Telop candidate image input terminal
502 buffers
503 AND circuit
504 Difference image input terminal
505 Threshold input terminal
506 Comparator
507 AND circuit
508 buffer
509 OR circuit
510 Mask output terminal
801 Image input stage
802 Ticker candidate image creation stage
803 Difference image creation stage
804 Extraction stage
805 Judgment stage
901-906, 911-914, 921-937, 941-952 steps
Claims (7)
フレーム画像からテロップ候補の存在する領域を示すテロップ候補画像を作成するテロップ候補画像作成段階と、
2枚のフレーム画像の差分画像を作成する差分画像作成段階と、
前記差分画像からテロップ候補の存在する部分だけを抽出する抽出段階と、
前記テロップ候補画像と抽出された差分画像とに基づいてテロップの存在を判定する判定段階を有する映像テロップ検出方法。A method for detecting a telop from an image,
A telop candidate image creating stage for creating a telop candidate image indicating an area where a telop candidate exists from a frame image;
A difference image creation stage for creating a difference image of two frame images;
An extraction step of extracting only a portion where a telop candidate exists from the difference image;
A video telop detection method comprising a determination step of determining the presence of a telop based on the telop candidate image and the extracted difference image.
フレーム画像からテロップ候補の存在する領域を示すテロップ候補画像を作成するテロップ候補画像作成段階と、
2枚のフレーム画像の差分画像を作成する差分画像作成段階と、
前記テロップ候補画像と前記差分画像を用いて、画素値の変化を検出すべき領域を示すマスクを作成するマスク作成段階と、
前記差分画像からマスクの部分だけを抽出する抽出段階と、
前記テロップ候補画像と抽出された差分画像とに基づいてテロップの存在を判定する段階を有する映像テロップ検出方法。A method for detecting a telop from an image,
A telop candidate image creating stage for creating a telop candidate image indicating an area where a telop candidate exists from a frame image;
A difference image creation stage for creating a difference image of two frame images;
Using the telop candidate image and the difference image, a mask creating step of creating a mask indicating a region in which a change in pixel value is to be detected;
Extracting only the portion of the mask from the difference image;
A video telop detection method comprising determining the presence of a telop based on the telop candidate image and the extracted difference image.
フレーム画像からテロップ候補の存在する領域を示すテロップ候補画像を作成するテロップ候補画像作成手段と、
2枚のフレーム画像の差分画像を作成する差分画像作成手段と、
前記差分画像からテロップ候補の存在する部分だけを抽出する抽出手段と、
前記テロップ候補画像と抽出された差分画像とに基づいてテロップの存在を判定する判定手段を有する映像テロップ検出装置。An apparatus for detecting a telop from an image,
Telop candidate image creating means for creating a telop candidate image indicating an area where a telop candidate exists from a frame image;
Difference image creating means for creating a difference image of two frame images;
Extraction means for extracting only a portion where a telop candidate exists from the difference image;
A video telop detection apparatus comprising: determination means for determining the presence of a telop based on the telop candidate image and the extracted difference image.
フレーム画像からテロップ候補の存在する領域を示すテロップ候補画像を作成するテロップ候補画像作成手段と、
2枚のフレーム画像の差分画像を作成する差分画像作成手段と、
前記テロップ候補画像と前記差分画像を用いて、画素値の変化を検出すべき領域を示すマスクを作成するマスク作成手段と、
前記差分画像からマスクの部分だけを抽出する抽出手段と、
前記テロップ候補画像と抽出された差分画像とに基づいてテロップの存在を判定する判定手段を有する映像テロップ検出装置。An apparatus for detecting a telop from an image,
Telop candidate image creating means for creating a telop candidate image indicating an area where a telop candidate exists from a frame image;
Difference image creating means for creating a difference image of two frame images;
Using the telop candidate image and the difference image, a mask creating means for creating a mask indicating a region where a change in pixel value should be detected;
Extracting means for extracting only a portion of the mask from the difference image;
A video telop detection apparatus comprising: determination means for determining the presence of a telop based on the telop candidate image and the extracted difference image.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP12735897A JP3609236B2 (en) | 1997-05-16 | 1997-05-16 | Video telop detection method and apparatus |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP12735897A JP3609236B2 (en) | 1997-05-16 | 1997-05-16 | Video telop detection method and apparatus |
Publications (2)
Publication Number | Publication Date |
---|---|
JPH10322595A JPH10322595A (en) | 1998-12-04 |
JP3609236B2 true JP3609236B2 (en) | 2005-01-12 |
Family
ID=14957981
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP12735897A Expired - Lifetime JP3609236B2 (en) | 1997-05-16 | 1997-05-16 | Video telop detection method and apparatus |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3609236B2 (en) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4168490B2 (en) | 1998-09-03 | 2008-10-22 | ソニー株式会社 | Motion determination device, method and image information conversion device |
JP4617611B2 (en) * | 2000-06-23 | 2011-01-26 | ソニー株式会社 | Image processing apparatus and method, and recording medium |
JP5424737B2 (en) * | 2009-06-23 | 2014-02-26 | 三菱電機株式会社 | Image playback device |
US9367927B2 (en) | 2011-07-13 | 2016-06-14 | Nec Corporation | Moving image region detection device |
CN102494676B (en) * | 2011-12-12 | 2013-07-03 | 中国科学院长春光学精密机械与物理研究所 | Satellite automatic recognition device under complicated backgrounds |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3265753B2 (en) * | 1993-09-30 | 2002-03-18 | 株式会社デンソー | Display plate detector |
JP3590896B2 (en) * | 1995-02-02 | 2004-11-17 | 株式会社日立製作所 | Caption detection method |
JPH08317301A (en) * | 1995-05-22 | 1996-11-29 | Hitachi Ltd | Video output device |
JPH0916769A (en) * | 1995-06-27 | 1997-01-17 | Canon Inc | Device and method for processing image |
-
1997
- 1997-05-16 JP JP12735897A patent/JP3609236B2/en not_active Expired - Lifetime
Also Published As
Publication number | Publication date |
---|---|
JPH10322595A (en) | 1998-12-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US5387947A (en) | Motion vector detecting method of a video signal | |
US5751378A (en) | Scene change detector for digital video | |
JP4295845B2 (en) | Method and apparatus for automatically detecting aspect format of digital video image | |
US5719643A (en) | Scene cut frame detector and scene cut frame group detector | |
US7502513B2 (en) | Commercial detector with a start of active video detector | |
JP2005503085A (en) | Motion estimation and / or compensation | |
JP2004529578A (en) | Detection of subtitles in video signals | |
US5515114A (en) | Motion-vector detection apparatus for a video signal | |
JP4213035B2 (en) | Occlusion detector and method for detecting an occlusion region | |
JP4297113B2 (en) | Block distortion detection apparatus, block distortion detection method, and video signal processing apparatus | |
US6229930B1 (en) | Image processing apparatus, image processing method, image data structure, and data storage media | |
EP1958451A2 (en) | Motion vector field correction | |
JP3609236B2 (en) | Video telop detection method and apparatus | |
US6473130B1 (en) | Method and apparatus for displaying sub-pictures | |
JP2971724B2 (en) | Video cut point detection device | |
EP1654703B1 (en) | Graphics overlay detection | |
EP0913994B1 (en) | Method and apparatus for automatic format detection in digital video pictures | |
JP3209234B2 (en) | Representative screen extraction method | |
KR100468843B1 (en) | Method for automatic detection of scene changes in video and apparatus thereof | |
CN115035151B (en) | Method and device for detecting comb distortion, computer equipment and storage medium | |
JP2004128936A (en) | Video signal processor | |
JPH0750815A (en) | Travel correction picture processing method | |
JP3442145B2 (en) | Boundary position detection device for television video signal | |
JPH089340A (en) | Motion vector detector and motion vector detection method | |
JPH1023329A (en) | Scene change and/or flash detector |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20031224 |
|
RD03 | Notification of appointment of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7423 Effective date: 20031224 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20031224 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20040128 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20040329 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20040415 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20041012 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20041013 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20071022 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20081022 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20091022 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20101022 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20101022 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111022 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111022 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121022 Year of fee payment: 8 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121022 Year of fee payment: 8 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131022 Year of fee payment: 9 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
EXPY | Cancellation because of completion of term |