JP4008929B2 - テレビ・コマーシャル自動識別装置 - Google Patents
テレビ・コマーシャル自動識別装置 Download PDFInfo
- Publication number
- JP4008929B2 JP4008929B2 JP2005047030A JP2005047030A JP4008929B2 JP 4008929 B2 JP4008929 B2 JP 4008929B2 JP 2005047030 A JP2005047030 A JP 2005047030A JP 2005047030 A JP2005047030 A JP 2005047030A JP 4008929 B2 JP4008929 B2 JP 4008929B2
- Authority
- JP
- Japan
- Prior art keywords
- data
- signal
- cut
- audio
- event
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
Description
従来、TV、ラジオ等のCMの電子的な自動識別は各種発表されているが(特許文献1−3)、CMマスター(放送されるCMと画像、音声等で比較するデータ)を自動的に生成する事が必要である。
また、TV放送局の放送システムは複雑な装置及びシステムを経由して、番組やTV・CM等の信号送出が行なわれて来た。デジタルTV放送が始まり、機器構成及び送出システムも、例えば、アナログTV放送とのサイマル放送・非サイマル放送、HDTV放送、SDTV放送等に対応して多様化する。さらに、映像フォーマットも、アップコンバータ又はダウンコンバータを用いて、同じTV・CM素材でも、1080i,480i,480p,720p等の各種の映像フォーマットとしてデジタルTV放送が可能である。特に、TV・CMは、製作から、元素材コピー、CMバンク登録、マスターでの送出、放送での多チャンネル・デジタル化等の各段階において、デジタル機器の採用により、映像・音声の圧縮が行なわれ、例えば、元素材に入っている映像同期信号と音声信号の位相差が生じるようになる。
そこで、CM自動識別方法をシステムとして全国展開する時に、システムデザインが重要な要素となる。
また、一般に、TV・CMは1本のマスター素材からコピーされ、各放送局のCMバンクに登録され、放送スケジュールにより、同じ放送局で繰り返し複数回、全国で放送されている事が多く、また、ネットワークを通じ、同一時間で複数局同時に放送される事もある。
本発明は、以上の点に鑑み、TV・CMを、アナログTV放送、デジタルTV放送、地上波、衛星放送等の放送手段や、映像フォーマット(アナログ又はデジタル等)に関わらずに、自動的に識別することを目的とする。
また、本発明は、特に、CM放送の検出のために利用される放送画面の切り替え(変化)を効果的に検出することを目的とする。
さらに、本発明は、特に、CM放送の特定に利用される、音声データの圧縮及び比較を効果的に実現することを目的とする。
テレビ放送の映像信号に基づき、フレーム同期信号、水平同期信号を出力するための同期分離回路と、
テレビ放送の映像信号に基づき、画像が所定の閾値より変化したことを検出し、画像変化信号を作成するための画像変化信号作成部と、
テレビ放送の音声信号に基づき、音声エンベロープ信号を作成するための音声エンベロープ作成回路と、
前記同期分離回路からの水平同期信号を音声データサンプリングパルスとして用い、前記音声エンベロープ作成回路からの音声エンベロープ信号を、水平同期信号により同期した音声デジタルデータに変換する音声A/Dコンバータと、
前記同期分離回路からのフレーム同期信号、前記画像変化信号作成部からの画像変化信号、前記音声エンベロープ作成回路からの音声エンベロープ信号及び前記音声A/Dコンバータからの音声デジタルデータを入力し、テレビ放送からCM放送を検出して、CM放送のTV局の識別情報、時刻情報、CM長、フレーム内の音声を平均化した音声平均化データ(Si)を含むCM切り出しデータを作成するCPUを備え、
前記CPUは、音声エンベロープ信号及び画像変化信号に基づき無音期間を検出し、該無音期間を検出したときイベント信号を発生し、
前記CPUは、イベント信号のシーケンス番号を定めたイベント番号、イベント信号が発生したときの内部カウンタ値であるイベントアドレス、イベント信号発生時の時刻情報、を含むイベントカウンタメモリデータを作成し、
前記CPUは、あるイベントカウンタメモリデータを他のイベントカウンタメモリデータと比較し、いずれか2つのイベントカウンタメモリデータのイベントアドレス又は時刻情報の差が、予め定められた各CM長に対するCM切り出し時間幅の範囲内のいずれかに該当するかを判断し、
前記CPUは、該イベントアドレス又は時刻情報の差が、いずれかのCM長のCM切り出し時間幅の範囲内であれば、その該当するCM長を特定し、
前記CPUは、イベントカウンタメモリデータ及びCM長により特定されるフレームの音声デジタルデータを圧縮して音声平均化データ(Si)を計算し、特定されたCM長と予め設定されたTV局の識別情報及び時刻情報とを用いてCM切り出しデータを作成し、
前記CPUは、作成したCM切り出しデータを転送する
CM自動識別装置が提供される。
前記CPUは、音声エンベロープ信号の無音期間を検出した間に、画像変化信号が入力され且つ無音期間の長さが予め定められたフレーム同期信号のカウント値以上であるとき、イベント信号を発生することができる。
本発明によると、さらに、
各CM長に対応して最小切り出しフレーム数と最大切り出しフレーム数の範囲であるCM切り出し時間幅を記憶したCM切り出し時間幅メモリを備え、
前記CPUは、イベントカウンタメモリデータを、それぞれ別個のメモリに対応させて記憶し、イベント信号発生毎に、前記CM切り出し時間幅メモリを参照し、いずれか2つのメモリ内のイベントカウンタメモリデータのイベントアドレスの差が、CM切り出し時間幅のいずれかに該当するかあるかどうかを判断し、該当する場合、CM切り出し信号を発生して、該イベント信号発生より過去に発生したイベント信号のメモリ内容を消去することができる。
前記音声平均化データ(Si)は、音声デジタルデータに基づき、次式1で計算したものとすることができる。
前記画像変化信号作成部は、
Y、R、B信号毎のA/Dコンバータ回路及び信号処理部を備え、
各前記信号処理部は、複数のフレームメモリ、各フレームメモリに対応する複数のマップデータ作成部、複数の前記マップデータ作成部間のマップデータを比較する信号比較部
を有し、
入力されたY信号、R信号、B信号毎に、
各前記フレームメモリは、前記A/Dコンバータ回路で高速サンプリングデジタル化された画像データを、時間順に記憶し、
各前記マップデータ作成部は、各前記フレームメモリから画像データを読み出し、1フレームを分割した各エリア内の平均ピクセルデータをエリア別に作成したマップデータを時間順に記憶し、
前記信号比較部は、時間が隣接する二つの前記マップデータ作成部間の各エリア毎の平均ピクセルデータの差を求め、その差が所定の閾値を越えた場合に画像変化があると判定して画像変化信号を発生することができる。
Y,R,B信号毎に各エリア毎のマップ内比較閾値を予め定めたY,R,B信号毎のマップを備え、Y,R,B信号毎且つエリア毎にマップ内比較閾値により画像変化を判定することができる。
本発明によると、
さらにY,R,B信号毎に比較レベルを予め定めたマップを備え、Y,R,B信号毎に、各エリア毎の差が前記マップ内比較閾値を越えたエリア数を求め、そのエリア数が前記比較レベルを超えた場合に画像変化があると判定することができる。
本発明によると、さらに、
Y,R,B信号全てに画像変化がある場合、又は、Y,R,B信号ひとつに画像変化がある場合、画像変化信号を出力することができる。
上述のようなCM自動識別装置を、受信電波に対応して複数有し、
さらに、デジタルテレビ信号をアナログテレビ信号に変換して、いずれかひとつ又は複数の前記複数のCM自動識別装置に出力するセットトップボックスと、
前記複数のCM自動識別装置を制御して、前記複数のCM自動識別装置からのCM切り出しデータを外部装置へ送信するための機器制御通信用コンピュータと
を備えた
電波地域別受信サイトが提供される。
TV局の識別情報、時刻情報、CM長、音声平均化データ(Si)を含むCM切り出しデータを記憶したCM切り出しファイルと、
過去に放送されたCMデータ又は放送される予定のCMデータについて、TV局の識別情報、時刻情報、CM長、CMを特定する固有情報であるCM特定データ、CM音声を圧縮したデータである音声パターン偏差(SSi)、を含むCMマスター登録データを記憶したCMマスター登録ファイルと、
TV局の識別情報、時刻情報、CM長、CM特定データ、CM音声を圧縮したデータである音声パターン偏差(SSi)、を含む新CMマスター登録データを記憶した新CMマスター登録ファイルと、
TV局の識別情報、時刻情報、CM長、一致率、CM特定データを含むCM比較結果データを記憶したCM比較結果ファイルと、
CM切り出しデータについて前記CMマスター登録ファイルを検索してCMを特定し、前記新CMマスター登録ファイル又は前記CM比較結果ファイルにデータを記憶するための演算部と
を備え、
前記演算部は、
CM切り出しデータを入力して、該CM切り出しデータを前記CM切り出しファイルに記憶し、
前記CM切り出しファイルからCM切り出しデータを順次読み取り、CM切り出しデータ中の音声平均化データ(Si)に基づき、該音声平均化データの標準偏差によりデータサイズを圧縮した音声パターン偏差データ(SSi)に変換し、CM切り出しデータから計算した音声パターン偏差データ(SSi)と、前記CMマスター登録ファイルから読み取ったCMマスター登録データ内の音声パターン偏差(SSi)とを順次比較して一致率を計算し、
該一致率に基づき一致と判断した場合、CM切り出しデータのTV局の識別情報及び時刻情報、計算された一致率、CMマスター登録データのCM特定データを用いてCM比較結果データを作成し、該データをCM比較結果ファイルに書き込む。
上述のようなCM自動識別装置が提供される。
前記音声平均データ(Si)は、次式2により音声標準偏差(Sd)に変換してから、次式3により音声パターン偏差(SSi)に圧縮したものであることができる。
すべてのCMマスター登録データと比較して、一致率に基づきすべて不一致と判断した場合、一致率を所定値とし、CM特定データをブランク又はプリセット値として、CM比較結果データを作成し、前記CM比較結果ファイルに記憶し、
CM切り出しデータのTV局の識別情報及び時刻情報、CM特定データをブランク又はプリセット値として、音声パターン偏差データ(SSi)をCM切り出しデータにより計算された値に設定して新CMマスター登録データを作成し、該データを新CMマスター登録ファイルに書き込むことができる。
Y、R、B信号毎のA/Dコンバータ回路と、
前記A/Dコンバータ回路に対応して、複数のフレームメモリ、各フレームメモリに対応する複数のマップデータ作成部、複数の前記マップデータ作成部間のマップデータを比較する信号比較部を有する、Y、R、B信号毎の信号処理部を備え、
入力されたY信号、R信号、B信号毎に、
各前記フレームメモリは、前記A/Dコンバータ回路で高速サンプリングデジタル化された画像データを、時間順に記憶し、
各前記マップデータ作成部は、各前記フレームメモリから画像データを読み出し、1フレームを分割した各エリア内の平均ピクセルデータをエリア別に作成したマップデータを時間順に記憶し、
前記信号比較部は、時間が隣接する二つの前記マップデータ作成部間の各エリア毎の平均ピクセルデータの差を求め、その差が所定の閾値を越えた場合に画像変化があると判定して画像変化信号を発生する
画像変化信号作成部が提供されることができる。
Y,R,B信号毎に各エリア毎のマップ内比較閾値を予め定めたY,R,B信号毎のマップを備え、Y,R,B信号毎且つエリア毎にマップ内比較閾値により画像変化を判定することができる。
本発明によると、
さらにY,R,B信号毎に比較レベルを予め定めたマップを備え、Y,R,B信号毎に、各エリア毎の差が前記マップ内比較閾値を越えたエリア数を求め、そのエリア数が前記比較レベルを超えた場合に画像変化があると判定することができる。
本発明によると、さらに、
Y,R,B信号全てに画像変化がある場合、又は、Y,R,B信号ひとつに画像変化がある場合、
画像変化信号を出力することができる。
演算部は、テレビ放送信号のフレーム内の音声を平均化した前記音声平均化データ(Si)を、音声デジタルデータに基づき、次式1で計算し、
本発明によると、放送の画像変化を効果的に検出することができる。
また、本発明によると、例えば、音声信号のエネルギーの積分を行ない、水平同期信号のタイミングで、サンプリングされた音声データをフレームSYNC信号期間毎で平均化・高圧縮化した音声データと、CM素材の自動切り出し、自動音声認識、新素材の自動登録を行うことができる。
図1は、CM自動識別システムの構成図である。
CM自動識別システムは、電波地域別受信サイト1―1〜1―n、ネットワーク201、CM比較センターコンピュータ301を備える。
電波地域別受信サイト1―1〜1―nは、電波エリア内に設置されて、CMを自動識別し、CM切り出しデータを作成する(詳細は後述)。日本では、電波行政は32地区と県域放送局があり、TV・CMの調査は、CM放送を実施している放送局(CATV局を含んでもよい。)に限定することができる。しかし、デジタル地上波TV放送局も放送が開始され調査対象となり、また、BS、CS等のデジタル衛星TV放送局も調査対象TV局となるが、これらの放送は、日本では全国で視聴可能である。よってアナログ放送及びデジタル放送を含む所望の放送について、1箇所に集合した電波地域別受信サイト1―1の中で調査を集約することができる。
センターコンピュータ301は、CMの比較及び特定を行うもので、例えば、電波地域別受信サイト1―1〜1―nで切り出されたCM切り出しデータと、CMマスター登録ファイル等の内部ファイルとの比較演算等を実行する(詳細は後述)。
CM自動識別システムの特徴及びCM識別の運用は、主に、次の通りである。
・ TV放送の中からCMの時間長を含めたCM特定。
・ CMのデータ比較技術(本装置は音声データで行なう)。
・ CM特定データ比較の為の高速化で音声データ高圧縮。
・ マスター本登録の簡素化。
・ 最終確定までの運用の合理化。
電波地域別受信サイト1―1は、アナログTV放送受像用及びデジタルTV放送受像用のタイプを含み、それぞれ、アンテナ(アンテナ線)、自動CM識別装置10−1〜n、機器制御通信用コンピュータ10−71、デジタルTV放送受信用STB(セットトップボックス)10−10m〜10n、USBインターフェース(双方向通信)10−81〜8n、ハードディスク読み出しインターフェース(双方向通信)10−91〜9n、モデム(MODEM)10−61を備える。
例えば、自動CM識別装置10−nは、CMスキャナー10−0n、タイムゼネレータ10−1n、HDD(ハードディスク)レコーダ10−2n、VTR10−3n、アンテナ入力端子10−4n、映像・音声入力端子10−5nを備える。
なお、タイムゼネレータ10−1nは、年月日、時刻を例えば「2004 08:31 12:23:30」の様に時計データとして、映像の上部、下部、横部等の適宜の位置に挿入する機器である。また、HDDレコーダ10−21は、TV放送の映像、音声を録画、再生を行う。
次に、自動CM識別装置10―1内のCMスキャナー10−01について説明する。他のCMスキャナー10−02〜0nも同様の構成である。CMスキャナー10−01はアナログTV放送受信部101−1、映像信号入力部101−2、音声信号入力部101−3、画像出力部101−4、音声出力部101−5、切り分け器101−6、同期分離回路101−7、画像変化信号作成部101−8、A/Dコンバータ101−9、音声帯域通過回路101−10、音声エンベロープ作成回路101−11、時計回路101−12、CPU101−14を備える。
アナログTV放送受信部101−1は、地上波TV放送等のアナログTV放送を受信する。
映像信号入力部101−2及び音声信号入力部101−3は、デジタルTV放送をセットトップボックス101−10nでフォーマット変換した映像及び音声を入力する。
画像出力部101−4は、タイムゼネレータ図2、101−11に送る映像信号を出力し、音声出力部101−5は、HDDレコーダ101−21、VTR101−31に送る音声信号(例、ステレオ音声)を出力する。
切り分け器101−6は、入力される放送がアナログ又はデジタルTV放送を切り分けるものであり、スイッチSW1の切り替えでTV放送受信形態(アナログ、デジタル)の選択を行っている。
同期分離回路101−7は、映像信号のサンプリングと、CM時間長測定等に使用する音声データサンプリングパルス発生のために、垂直及び水平同期信号、フレーム信号作成用奇数・偶数判別信号を出力する。同期分離回路101−7で、複合映像信号より水平及び垂直同期信号を作成し、また、奇数・偶数判別信号をAND回路を用いてフレームSYNC信号を作成し、CPU101−14に供給する。
画像変化信号作成部101−8は、映像信号が入力され、Y,R,B成分毎に映像を比較して、画像が変化したことを判断して、画像変化信号を出力する。さらに、画像変化信号作成部101−8は、同期分離回路101−7の出力を、画像変化信号作成用Y信号・R信号・G信号のフレームメモリ画像のリード・ライト信号として利用している。
音声帯域通過回路101−10、音声エンベロープ作成回路101−11、時計回路101−12、A/Dコンバータ101−9により、音声信号の音声エンベロープ及び水平同期信号でサンプリングされた、音声デジタルデータを出力する。例えば、音声帯域通過回路101−10内のH.P.F、L.P.Fを用いた音声帯域通過フイルターで音声のバス音等を除き、音声信号を音声エンベロープ作成回路101−11で音声波形を積分・整流回路(エンベロープ)にし、出力信号をCPU回路101−14に出力し無音期間の時間測定を行う。
時計回路101−12は、CMデータに付加する年月日、時分秒を作成する。全サイトの時計装置は、正確な時間が必用であるので、CPU101−14を通じ自動で電波時計等のシステムを利用し日本標準時間に校正している。
アナログTV受信部101−1及び映像信号入力部101−2、音声信号入力部101−3からの映像・音声信号は、切り分け器101−6のSW1でアナログ、デジタルTV放送の選択を行い、映像信号は同期分離回路101−7及び画像変化信号作成部101−8に供給され、一方、音声信号は音声帯域通過回路101−10に供給される。
音声信号は、音声帯域通過回路101−10、音声エンベロープ作成回路101−11を経て音声エンベロープ信号として、またA/Dコンバータ101−9を経て、水平同期信号(音声データサンプリングパルス)でサンプリングされた音声デジタルデータとして、CPU101−14に供給される。
一方映像信号は、画像変化信号作成部101−8に導かれ、フレーム毎にY信号、R信号、B信号それぞれの比較を行い、変化量が基準値より大きい場合には画像変化信号を作成する。なお、同期分離回路101−07で分離された垂直及び水平同期信号は、音声信号のサンプリング、画像変化信号作成部101−8及びCPU101−14等の各種の制御信号として利用する。
CPU101−14では、CM切り出し条件等の各種基準データをメモリに初期設定しており、画像変化信号、フレーム同期信号、音声エンベロープ信号等の各入力信号に基づき、イベント信号の作成、CM切り出しデータ作成等の処理を行う。CPU101−14は、音声信号のサンプリング、1フレーム内音声データの平均化、CM切り出しデータの作成(後述、図4参照)等を行う。これら動作は、USBインターフェース101−81を介して制御される。
CM切り出しデータは、CM放送のTV局の識別情報(種類、地区、TV局番号、機器番号等)、時刻情報、CM長、予備データ、フレーム内の音声を平均化した音声平均化データ(Si)を含む。
図5に、CM切り出し時間幅ファイル101−141のフォーマットを示す。
CM切り出し時間幅ファイル101−141は、各CM長に対して、標準フレーム数、CM切り出し時間幅を記憶する。例えば、日本のTV・CMは、CM長は15秒、30秒のCMが大多数であるが、時々、長短時間のCMも存在し、CM時間長の設定は任意に出来る様に設計されている。
図6に、イベントカウンタメモリ101−142のフォーマットを示す。
イベントカウンタメモリ101−142は、発生したイベント信号毎に、あらかじめ設定された機器番号、発生シーケンス番号であるイベント番号、CM切り出しカウンタのカウンタ値であるイベントアドレス、時刻情報を記憶する。なお、記憶されるデータとして、例えば、カウンタドレスは、4桁では、最大1fffで8191カウント、273秒まで音声データ格納可能であり、実時間時計データは、****年**月**日**時**分**秒とすることができる。
CPU101−14は、CM切り出しカウンタ101−143、CM切り出し時間幅ファイル101−141及びイベントカウンタメモリ101−142を、内部又は外部の適宜の記憶手段に備える。
CM比較センターは、MODEM―1〜n 311〜31n、通信制御装置321、主制御部322、CM検索比較演算部323、記憶部324を備える。
記憶部324は、CM切り出しファイル3241、CMマスター登録ファイル3242、CM比較結果ファイル3243、新CMマスター登録ファイル3244を備える。
図8に、CM切り出しファイル3241のフォーマットを示す。
CM切り出しファイル3241は、TV局の識別情報、時刻情報、CM長、音声平均化データ(Si)を含むCM切り出しデータを記憶する。
図9に、CMマスター登録ファイル3242のフォーマットを示す。
CMマスター登録ファイル3242は、過去に放送されたCMデータ又は放送される予定のCMデータについて、TV局の識別情報、時刻情報、CM長、CMを特定する固有情報であるCM特定データ(業種、メーカ番号、銘柄、CM番号、CM長、登録CM名等)、CM音声を圧縮したデータである音声パターン偏差(SSi)、を含むCMマスター登録データを記憶する。
図10に、CM比較結果ファイル3243のフォーマットを示す。
CM比較結果ファイル3243は、TV局の識別情報、時刻情報、CM長、一致率、CM特定データを含むCM比較結果データを記憶する。
図11に、新CMマスター登録ファイル3244のフォーマットを示す。
新CMマスター登録ファイル3244は、TV局の識別情報、時刻情報、CM長、CM特定データ、CM音声を圧縮したデータである音声パターン偏差(SSi)、を含む新CMマスター登録データを記憶する。
なお、これら各ファイルには、予備データ、データ識別番号等を適宜追加することができる。また、各ファイルには、放送状態分類として、例えば、ネットCM、ステーションブレークCM、PT(Participating Announcement)CM、提供番組CM、番組宣伝用CM等に分類することができる。調査結果は、全てのCMに地区名、放送局名、放送時間、CM分類、放送状態分類等を適宜付加することができる。
(1)電波地域別受信サイト(CMスキャナー)
図12は、CM自動識別方法によるCM比較についての概念図(CMスキャナー側)である。
まず、CMスキャナー側の動作について説明する。
入力信号である映像信号及び音声信号は、切り分け器101−6からの出力信号である。映像信号に基づき、同期分離回路101−7及びAND回路等によりフレームSYNC信号が作成され、CPU101−14に入力される。また、映像信号に基づき、後述のように、画像変化信号作成部101−8により画像変化信号が作成され、CPU101−14に入力される。さらに、映像信号に基づき、同期分離回路101−7により水平同期信号が抽出され、音声データサンプリングパルスとしてA/Dコンバータ101−9に入力される。
一方、音声信号に基づき、音声帯域通過回路101−10及び音声エンベロープ作成回路101−11等により音声エンベロープ信号(音声アナログ信号)が作成され、CPU101−14に入力される。また、音声信号に基づき、A/Dコンバータ101−9により水平同期信号により同期した音声データが作成され、CPU101−14に入力される。
CPU101−14は、音声エンベロープ信号と画像変化信号とフレームSYNCを入力し、イベント信号を作成する。これらの信号を用いて作成されたイベント信号は、CPU101−14で、CM切り出し基準データ条件と一致すれば、CM切り出しデータを作成する。
CPU101−14は、音声アナログ信号に基づき、無音期間信号を検出する。具体的には、後述するように、無音期間を検出した間に、画像変化信号が入力され且つ無音期間の長さがフレームSYNC信号の予め定められたカウント値以上であるとき、イベント信号を発生する。無音期間の長さは、CPU101−14内のイベント信号作成部のカウンタにより、フレームSYNC期間の倍数で任意に設定可能であるが、ここでは、一例として最小9カウント(≒300mSEC)以上と設定し、以上の条件が合致した時、イベント信号を作成している。
CPU101−14は、イベント信号発生した場合(S101)、図6に示すイベントカウンタのデータを作成し、イベント信号発生順にイベントカウンタメモリ群(イベントカウンタメモリ101−142)にイベントカウンタデータを順に書き込む(S105)。具体的には、機器番号は、CPU101−14内に予め設定された値とする。イベント番号は、イベント信号の発生に応じたシーケンス番号を定めたものである。イベントアドレス(イベントADD)は、CPU101−14内部のCM切り出しカウンタによりフレーム同期信号をカウントし、イベント信号が発生したときのカウンタ値である(S103)。時刻情報は、時計回路101−12から得られたイベント信号発生時である。なお、イベントカウンタメモリデータに対応して音声デジタルデータが適宜の記憶部に記憶されている。
つぎに、CPU101−14は、イベントカウンタメモリの各データエントリを第1メモリ、第2メモリ・・・第nメモリに対応させ、イベント信号発生毎に、いずれか2つのメモリ内のデータのイベントアドレスを計算し(S109)、その差が、図5のCM切り出し時間幅(最小切り出しフレーム数と最大切り出しフレーム数の間)以内であるかどうかを判断する(S111)。ステップS109において、各メモリの時間計算はイベント信号が発生した時、イベントカウンタデータが記憶されているすべてのメモリ間のカウンタドレスの時間計算を行い、図5の全ての切り出し時間幅の検証を行っている。CPU101−14は、ステップS111の判断により、イベント信号発生時の2つのメモリのデータのイベントアドレスの差が、いずれかのCM長の時間幅以内であれば、該当するCM長、標準フレーム数を特定し、CPU101−14は、図4のCM切り出しデータを作成する(S113)。この処理では、CM切り出しデータを内部に予め設定されたプリセット値により、種類、地区、TV局番号、号機等の各装置の属性を設定し、時計回路101−12により西暦年月日時刻を設定する。さらに、CPUは、図5のCM切り出しファイル101−41から得られたCM長を設定し、そのフレーム長の音声データをとして音声平均化データ(Si)を設定する。ここで、音声平均化データ(Si)は、音声デジタル信号により、計算式1で計算することにより、音声圧縮を行い作成したものである。例えば、CM長が15秒、標準フレーム数が450フレームであれば、450バイトの容量とすることができる。
CM切り出し信号を発生させた該当メモリは、その比較対象メモリである過去のメモリのデータ消去を行う。(S115)。例えば、メモリー(i)と(v)を比較し、図5のいずれかのCM切り出し時間幅以内に両メモリのイベントアドレスの差が該当した時、CM切り出し信号を発生し、その後、メモリー(v)より、過去のメモリ(i)(ii)(iii)(iv)の消去を行う制御している。
イベントカウンタメモリ群は、イベント信号で図6のイベントカウンタメモリ101−142にデータを書き込んだのち、例えば120秒監視タイマーで時間監視を行い、120秒経過したメモリは消去を行っている。(S117、S119)。
CPU101−14は、適宜のタイミングで、作成されたCM切り出しデータを、制御通信用コンピュータ101−71によりCM比較センター301に転送する。
図16に、CM自動識別方法によるCM比較についての概念図(CM比較センター側)を示す。
つぎに、CM比較センター側の動作について説明する。
CM比較センター301は、電波地域別受信サイト1−1〜nからネットワーク201を経て、図4のCM切り出しデータを受ける。CM比較センター301は、CM切り出しデータを記憶部のCM切り出しファイル3241に記憶する。CM検索比較演算部323は、CM切り出しデータを順次読み取り、音声平均化(Si)部(表1−1)と地区、局番号、時計データ部(表1−2)に振り分ける。CM検索比較演算部323は、音声平均化(Si)については、再度、後述の計算式2により音声標準偏差(Sd)に変換してから、後述の計算式3により音声パターン偏差(SSi)に圧縮する。一方、比較対照となるCMマスター登録データー(図9)は記憶部のCMマスター登録ファイル3242に格納されている。このデータは、例えば、過去に放送されたCMデータ(又は放送される予定のCMデータ)である。CM検索比較演算部323は、CM切り出しデータから計算した音声パターン偏差SSiと、図9のCMマスター登録データ内の各音声データ(表2−1)(SSi)とを、順次、音声パターン偏差比較部に於いて後述の計算式4で計算を行い、CMの一致又は不一致を計算する。
ある登録データについて不一致であれば次のアドレスのデータを順次読み出し、すべてのデータを比較して、すべて不一致の時は、図10及び図11のファイルにデータを書き込む。具体的には、図10は、CM切り出しファイル3241から読みとったCM切り出しデータの表1−2のデータを用いて設定し、一致率を0とし、CM特定データは、CMマスター登録データの表2−2のデータを適宜用いて設定する。図11は、CM切り出しファイル3241から読みとったCM切り出しデータの表1−2のデータを用いて設定し、本登録コードはブランク又はプリセット値に設定し、音声パターン偏差SSiはCM切り出しデータ(CM切り出しファイル3241の表1−1)により計算された値を設定する。一方、一致であれば、図9のデータ読み出しは停止して、図10のCM比較結果ファイル3243にデータを新しく書き込む。具体的には、CM切り出しファイル3241から読みとったCM切り出しデータの表1−2のデータを用いて設定し、一致率に音声パターン偏差比較部により計算式4で計算された値を設定し、CM特定データは、CMマスター登録データの表2−2のデータを適宜用いて設定する。
(画像変化信号作成)
図17に、画像変化信号作成部101―08の構成図を示す。
図18及び図19に、画像変化信号の作成についての説明図(1)、(2)を示す。マップ1〜3は、Y信号(輝度信号(明るさ))、R信号(赤色成分の色温度(位相角)を除いた絶対値レベル)、B信号(青色成分の色温度(位相角)を除いた絶対値レベル)毎のマップ内比較閾値を記憶し、また、マップ4は、Y、R、B信号の比較レベルを記憶する。CPU101−14は、これらマップを記憶する。
画像変化信号作成部101―08は、Y信号A/Dコンバータ回路101−87、R信号A/Dコンバータ回路101−88、B信号A/Dコンバータ回路101−89、OR回路101−86を備え、各Y,R,B信号は、フレームメモリA、B,C 101−870〜872、マップデータ作成部101−873−1〜3、エリア別信号比較部101−874を有する。
入力されたY信号、R信号、B信号は、それぞれY信号、R信号、B信号A/Dコンバータ回路101−87、101−88、101−89で高速サンプリングデジタル化され、それぞれ各フレームメモリA〜Cに書き込まれる。フレームメモリA〜Cに書き込まれる数値は、例えば、映像・色信号のA/Dコンバータの最大値8Bit=255である。マップデータ作成部101−873−1〜3は、書き込まれたフレームメモリのデータを読み出してから、マップ5の様に(一例としてY信号を図示)、TV画面1について1フレームをY、R、Bの信号別に10×10の100のエリア内平均ピクセルデータをエリア別に作成し、記憶する。つぎに、エリア別信号比較部101−874は、マップ1,2,3により、定められた閾値を、Y,R,B信号のフレーム毎に比較し、さらにマップ4の比較レベルと比較することで閾値を越えた場合に画像変化信号を発生する(以下に詳述)。
先ずCPU101−14は、映像信号をフレームメモリA,B,C,の順に書きこむ。たとえば、CPU101−14は、Y信号用フレームメモリ101−870〜872に、フレーム単位で順次高速サンプリング及びデジタル化された映像信号を、1ピクセル=x/255に表現されるデータとして書きこむ。マップデータ作成部101−873−1は、CPU101−14の制御により、フレームメモリA101−870に書きこまれたフレーム1の映像信号は、タイミングチャートで示すフレーム2の、マップデータ(i)の読み出し期間で読み出し、マップ5に示すように、TV映像信号の有効画像エリアを、垂直及び水平を10×10分割にする演算を行い、計100エリアを設けたエリア内平均映像信号比較データに変換し、内部のマップデータメモリに書きこむ。マップデータ作成部101−873−1〜3は、マップ5のエリア別マップデータを、マップデータメモリ101−873−1,2,3の順序でフレームメモリA,B,C毎に作成する。作成されたエリア別マップデータはタイミングチャート中、メモリ比較タイミング(iii)(i)で、比較部101−874により、マップデータメモリ101−873−3とマップデータメモリ101−873−1のエリア別マップデータが、順次比較される。予め設定されている閾値(エリア別データ X/255)は、マップ1,2,3に書かれている数字(任意)である。比較部101−874が、あるフレームでのマップデータメモリ101−873−3(マップ5)と次フレームでのマップデータメモリ101−873−1(マップ6)のエリア別マップデータの10×10のエリアを比較した演算結果がマップ7である。比較部101−874は、エリア毎にマップ1の閾値と比較し、閾値以上の差があるエリアが、100エリアの内マップ4の表以上のエリアあれば、画像変化があったとして画像変化信号を出力する。なお、この図では、OR回路101−86により、Y信号、R信号、B信号の3信号の中で1つでも画像変化があったとされれば画像変化信号として利用するが、AND回路に代えて3信号の全てに画像変化がある場合に画像変化信号を出力としても良い。
なお、マップ1,2,3で、Y,R,B信号比較閾値は任意に設定が可能である。また、マップ1〜3で中心部の閾値は比較結果条件を厳しく、周辺部を甘くしているのは、ニュース、劇映画、ドラマ等で周囲音声が少なく無音状態が多く発生する画面が多いシーン(例えばアナウンサーがニュース原稿を読んでいるシーン)を仮定すると、画面の中心部に画像変化が少ない場合が多く、このような場合でもイベント信号作成がCM切り出し要求事項に有効に働くようにするためである。
また、マップデータは、10×10以外にも適宜の数のエリアとしてもよく、適宜の比較エリアマップ閾値を作成して自由に比較レベルの変更は可能であり、更にマップ4の閾値を変更して画像変化信号の出力条件を変更することも可能である。
音声信号に関しては、エンベローブ信号に基づき、A/Dコンバータ101−9により水平同期でサンプリングされた音声デジタルデータ(Hd)をCPU101−14内部でフレームSYNC信号により再度圧縮を行い(計算式1)、1フレーム・1データ(Si)として、音声デジタルデータを作成する。
CPU101−14では、CM切り出し信号が発生した時、例えば、水平同期信号で量子化数8ビット、1フレーム525回、秒15750回のサンプリングを行い、フレームSYNC信号で、計算式1により、1フレーム内で、音声データの平均化データ(Si)を計算する。
なお、水平同期信号で細部にデータを作成しているのは、アナログ放送とデジタル放送には映像・音声共に、遅延発生時間がサイマル放送でも発生し(音声、画像共に一定時間ではない)、圧縮を2段階、即ち、水平同期サンプリング、1フレーム平均化を行っている。
45秒CM=1350バイトまで圧縮される。
201 ネットワーク
301 CM比較センターコンピュータ
10−1〜n 自動CM識別装置
10−71 機器制御通信用コンピュータ
10−10m〜10n デジタルTV放送受信用STB(セットトップボックス)
10−8n USBインターフェース(双方向通信)
10−91〜9n ハードディスク読み出しインターフェース(双方向通信)
10−61 モデム(MODEM)
10−0n CMスキャナー
10−1n タイムゼネレータ
10−2n HDD(ハードディスク)レコーダ
10−3n VTR
10−4n アンテナ入力端子
10−5n 映像・音声入力端子
Claims (13)
- テレビ放送の映像信号に基づき、フレーム同期信号、水平同期信号を出力するための同期分離回路と、
テレビ放送の映像信号に基づき、画像が所定の閾値より変化したことを検出し、画像変化信号を作成するための画像変化信号作成部と、
テレビ放送の音声信号に基づき、音声エンベロープ信号を作成するための音声エンベロープ作成回路と、
前記同期分離回路からの水平同期信号を音声データサンプリングパルスとして用い、前記音声エンベロープ作成回路からの音声エンベロープ信号を、水平同期信号により同期した音声デジタルデータに変換する音声A/Dコンバータと、
前記同期分離回路からのフレーム同期信号、前記画像変化信号作成部からの画像変化信号、前記音声エンベロープ作成回路からの音声エンベロープ信号及び前記音声A/Dコンバータからの音声デジタルデータを入力し、テレビ放送からCM放送を検出して、CM放送のTV局の識別情報、時刻情報、CM長、フレーム内の音声を平均化した音声平均化データ(Si)を含むCM切り出しデータを作成するCPUとを備え、
前記CPUは、音声エンベロープ信号及び画像変化信号に基づき無音期間を検出し、該無音期間を検出したときイベント信号を発生し、
前記CPUは、イベント信号のシーケンス番号を定めたイベント番号、イベント信号が発生したときの内部カウンタ値であるイベントアドレス、イベント信号発生時の時刻情報、を含むイベントカウンタメモリデータを作成し、
前記CPUは、あるイベントカウンタメモリデータを他のイベントカウンタメモリデータと比較し、いずれか2つのイベントカウンタメモリデータのイベントアドレス又は時刻情報の差が、予め定められた各CM長に対するCM切り出し時間幅の範囲内のいずれかに該当するかを判断し、
前記CPUは、該イベントアドレス又は時刻情報の差が、いずれかのCM長のCM切り出し時間幅の範囲内であれば、その該当するCM長を特定し、
前記CPUは、イベントカウンタメモリデータ及びCM長により特定されるフレームの音声デジタルデータを圧縮して音声平均化データ(Si)を計算し、特定されたCM長と予め設定されたTV局の識別情報及び時刻情報とを用いてCM切り出しデータを作成し、
前記CPUは、作成したCM切り出しデータを転送する
テレビ・コマーシャル自動識別装置。 - 前記CPUは、音声エンベロープ信号の無音期間を検出した間に、画像変化信号が入力され且つ無音期間の長さが予め定められたフレーム同期信号のカウント値以上であるとき、イベント信号を発生する、請求項1に記載のテレビ・コマーシャル自動識別装置。
- 各CM長に対応して最小切り出しフレーム数と最大切り出しフレーム数の範囲であるCM切り出し時間幅を記憶したCM切り出し時間幅メモリを備え、
前記CPUは、イベントカウンタメモリデータを、それぞれ別個のメモリに対応させて記憶し、イベント信号発生毎に、前記CM切り出し時間幅メモリを参照し、いずれか2つのメモリ内のイベントカウンタメモリデータのイベントアドレスの差が、CM切り出し時間幅のいずれかに該当するかあるかどうかを判断し、該当する場合、CM切り出し信号を発生して、該イベント信号発生より過去に発生したイベント信号のメモリ内容を消去する、請求項1又は2に記載のテレビ・コマーシャル自動識別装置。 - 前記画像変化信号作成部は、
Y、R、B信号毎のA/Dコンバータ回路及び信号処理部を備え、
各前記信号処理部は、複数のフレームメモリ、各フレームメモリに対応する複数のマップデータ作成部、複数の前記マップデータ作成部間のマップデータを比較する信号比較部
を有し、
入力されたY信号、R信号、B信号毎に、
各前記フレームメモリは、前記A/Dコンバータ回路で高速サンプリングデジタル化された画像データを、時間順に記憶し、
各前記マップデータ作成部は、各前記フレームメモリから画像データを読み出し、1フレームを分割した各エリア内の平均ピクセルデータをエリア別に作成したマップデータを時間順に記憶し、
前記信号比較部は、時間が隣接する二つの前記マップデータ作成部間の各エリア毎の平均ピクセルデータの差を求め、その差が所定の閾値を越えた場合に画像変化があると判定して画像変化信号を発生する、請求項1乃至4のいずれかに記載のテレビ・コマーシャル自動識別装置。 - Y,R,B信号毎に各エリア毎のマップ内比較閾値を予め定めたY,R,B信号毎のマップを備え、Y,R,B信号毎且つエリア毎にマップ内比較閾値により画像変化を判定する、請求項5に記載のテレビ・コマーシャル自動識別装置。
- さらにY,R,B信号毎に比較レベルを予め定めたマップを備え、Y,R,B信号毎に、各エリア毎の差が前記マップ内比較閾値を越えたエリア数を求め、そのエリア数が前記比較レベルを超えた場合に画像変化があると判定する、請求項5又は6に記載のテレビ・コマーシャル自動識別装置。
- Y,R,B信号全てに画像変化がある場合、又は、Y,R,B信号ひとつに画像変化がある場合、画像変化信号を出力する、請求項5乃至7のいずれかに記載のテレビ・コマーシャル自動識別装置。
- 請求項1乃至8のいずれかに記載されたCM自動識別装置を、受信電波に対応して複数有し、
さらに、デジタルテレビ信号をアナログテレビ信号に変換して、いずれかひとつ又は複数の前記複数のCM自動識別装置に出力するセットトップボックスと、
前記複数のCM自動識別装置を制御して、前記複数のCM自動識別装置からのCM切り出しデータを外部装置へ送信するための機器制御通信用コンピュータと
を備えた
電波地域別受信サイト。 - TV局の識別情報、時刻情報、CM長、音声平均化データ(Si)を含むCM切り出しデータを記憶したCM切り出しファイルと、
過去に放送されたCMデータ又は放送される予定のCMデータについて、TV局の識別情報、時刻情報、CM長、CMを特定する固有情報であるCM特定データ、CM音声を圧縮したデータである音声パターン偏差(SSi)、を含むCMマスター登録データを記憶したCMマスター登録ファイルと、
TV局の識別情報、時刻情報、CM長、CM特定データ、CM音声を圧縮したデータである音声パターン偏差(SSi)、を含む新CMマスター登録データを記憶した新CMマスター登録ファイルと、
TV局の識別情報、時刻情報、CM長、一致率、CM特定データを含むCM比較結果データを記憶したCM比較結果ファイルと、
CM切り出しデータについて前記CMマスター登録ファイルを検索してCMを特定し、前記新CMマスター登録ファイル又は前記CM比較結果ファイルにデータを記憶するための演算部と
を備え、
前記演算部は、
CM切り出しデータを入力して、該CM切り出しデータを前記CM切り出しファイルに記憶し、
前記CM切り出しファイルからCM切り出しデータを順次読み取り、CM切り出しデータ中の音声平均化データ(Si)に基づき、該音声平均化データの標準偏差によりデータサイズを圧縮した音声パターン偏差データ(SSi)に変換し、CM切り出しデータから計算した音声パターン偏差データ(SSi)と、前記CMマスター登録ファイルから読み取ったCMマスター登録データ内の音声パターン偏差(SSi)とを順次比較して一致率を計算し、
該一致率に基づき一致と判断した場合、CM切り出しデータのTV局の識別情報及び時刻情報、計算された一致率、CMマスター登録データのCM特定データを用いてCM比較結果データを作成し、該データをCM比較結果ファイルに書き込む
請求項1乃至8のいずれかに記載されたテレビ・コマーシャル自動識別装置。 - すべてのCMマスター登録データと比較して、一致率に基づきすべて不一致と判断した場合、一致率を所定値とし、CM特定データをブランク又はプリセット値として、CM比較結果データを作成し、前記CM比較結果ファイルに記憶し、
CM切り出しデータのTV局の識別情報及び時刻情報、CM特定データをブランク又はプリセット値として、音声パターン偏差データ(SSi)をCM切り出しデータにより計算された値に設定して新CMマスター登録データを作成し、該データを新CMマスター登録ファイルに書き込む、請求項10乃至12のいずれかに記載されたテレビ・コマーシャル自動識別装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005047030A JP4008929B2 (ja) | 2005-02-23 | 2005-02-23 | テレビ・コマーシャル自動識別装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005047030A JP4008929B2 (ja) | 2005-02-23 | 2005-02-23 | テレビ・コマーシャル自動識別装置 |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2007190565A Division JP2008009442A (ja) | 2007-07-23 | 2007-07-23 | 音声データ処理方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2006237817A JP2006237817A (ja) | 2006-09-07 |
JP4008929B2 true JP4008929B2 (ja) | 2007-11-14 |
Family
ID=37045019
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2005047030A Expired - Fee Related JP4008929B2 (ja) | 2005-02-23 | 2005-02-23 | テレビ・コマーシャル自動識別装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4008929B2 (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9332363B2 (en) | 2011-12-30 | 2016-05-03 | The Nielsen Company (Us), Llc | System and method for determining meter presence utilizing ambient fingerprints |
US9489640B2 (en) | 2006-07-12 | 2016-11-08 | The Nielsen Company (Us), Llc | Methods and systems for compliance confirmation and incentives |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20220103199A1 (en) * | 2020-09-29 | 2022-03-31 | Sonos, Inc. | Audio Playback Management of Multiple Concurrent Connections |
-
2005
- 2005-02-23 JP JP2005047030A patent/JP4008929B2/ja not_active Expired - Fee Related
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9489640B2 (en) | 2006-07-12 | 2016-11-08 | The Nielsen Company (Us), Llc | Methods and systems for compliance confirmation and incentives |
US9332363B2 (en) | 2011-12-30 | 2016-05-03 | The Nielsen Company (Us), Llc | System and method for determining meter presence utilizing ambient fingerprints |
Also Published As
Publication number | Publication date |
---|---|
JP2006237817A (ja) | 2006-09-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5302085B2 (ja) | 調査システム | |
US8255963B2 (en) | System and method for monitoring video data | |
US4639779A (en) | Method and apparatus for the automatic identification and verification of television broadcast programs | |
US6943845B2 (en) | Apparatus and method for data processing, and storage medium | |
DE69431906T2 (de) | Erkennungsdatenkollektor für programsignale | |
JP5405432B2 (ja) | 分散型照合システム及び方法 | |
US11330329B2 (en) | System and method for detecting and classifying direct response advertisements using fingerprints | |
JP2004536477A (ja) | デジタル放送受信器がどの番組に同調中かを検出する装置および方法 | |
CN1452820A (zh) | 用于数字广播的受众测量系统和方法 | |
US10547905B2 (en) | Systems, methods, and devices for monitoring content viewership using short-range wireless communication | |
CN102890950B (zh) | 媒体自动剪辑装置、方法、媒体播送方法与其播送系统 | |
JP2008009442A (ja) | 音声データ処理方法 | |
US20040111738A1 (en) | Method and system for measuring audience ratings | |
JP4008929B2 (ja) | テレビ・コマーシャル自動識別装置 | |
US20220264193A1 (en) | Program production apparatus, program production method, and recording medium | |
JP2009171271A (ja) | 広告配信システム及び配信方法 | |
KR101377849B1 (ko) | 실시간 방송채널별 부가정보제공시스템 및 제어방법 | |
JP2019213038A (ja) | 映像情報提供システム | |
JP2004213570A (ja) | 情報提供方法 | |
KR100859549B1 (ko) | 인터넷을 이용한 지역정보 방송 시스템 및 방법 | |
KR101030806B1 (ko) | 방송 및 광고 콘텐츠 모니터링 자동화 시스템 | |
US20150052542A1 (en) | System and method for measuring media audience | |
JP3927199B2 (ja) | 番組情報記録装置及び番組情報記録方法 | |
JP3758462B2 (ja) | 番組放送システム、放送装置、及び番組放送プログラムを記録した記録媒体 | |
KR102567823B1 (ko) | 유튜브 업로드시점 분석시스템 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20070522 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20070529 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070723 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20070821 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20070830 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100907 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110907 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110907 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110907 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120907 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120907 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130907 Year of fee payment: 6 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |