JP2009118204A - Cm検出方法及びこれを用いた動画再生装置 - Google Patents

Cm検出方法及びこれを用いた動画再生装置 Download PDF

Info

Publication number
JP2009118204A
JP2009118204A JP2007289152A JP2007289152A JP2009118204A JP 2009118204 A JP2009118204 A JP 2009118204A JP 2007289152 A JP2007289152 A JP 2007289152A JP 2007289152 A JP2007289152 A JP 2007289152A JP 2009118204 A JP2009118204 A JP 2009118204A
Authority
JP
Japan
Prior art keywords
skip
unit
section
moving image
playback
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2007289152A
Other languages
English (en)
Other versions
JP4929127B2 (ja
Inventor
Kazue Hiroi
和重 廣井
Maki Furui
眞樹 古井
Norikazu Sasaki
規和 佐々木
Minako Toba
美奈子 鳥羽
Masayuki Chikamatsu
昌幸 親松
Yoshitaka Hiramatsu
義崇 平松
Takehito Kishi
岳人 岸
Tomohito Yamashita
山下  智史
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Original Assignee
Hitachi Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Ltd filed Critical Hitachi Ltd
Priority to JP2007289152A priority Critical patent/JP4929127B2/ja
Publication of JP2009118204A publication Critical patent/JP2009118204A/ja
Application granted granted Critical
Publication of JP4929127B2 publication Critical patent/JP4929127B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

【課題】
安価かつ高精度にCMを検出する。また、利用者が快適に動画データを視聴可能な動画再生装置を提供する。
【解決手段】
動画データに含まれる字幕情報を取得して、字幕文字列が第1の時間以上表示されない区間を検出し、前記検出された区間内で字幕表示を消去する制御コードを検出し、前記検出した制御コードが適用される時刻から予め決められた第2の時間の倍数の時間だけ離れた時刻であって、前記字幕文字列が第1の時間以上表示されない区間の終端に近い時刻をCM区間の終端として検出する。
【選択図】 図9

Description

本発明は、動画データを再生する動画再生装置に関する。
CM検出方法として、例えば、動画データに含まれる字幕情報を使用して、その字幕非表示時間と予め決められたCM時間を評価することによるCMの検出方法及び装置が知られている(特許文献1参照のこと。)。
また、CM検出を利用した動画再生装置として、例えば、CMの始端と終端を表示して、当該CM区間をスキップする装置が知られている(特許文献2参照のこと。)。
特開2006−270299号公報 特表平10−507884号公報
特許文献1のCM検出方法及び装置では、動画データ中のCMが予め決められたCM時間と合致しない場合には、CMを精度よく検出することが出来ないという課題がある。
また、特許文献2に記載の動画再生装置では、 CMの検出誤りを考慮しておらず、検出誤りがあった場合に、CMスキップあるいはチャプタスキップ時に意図しないシーンにスキップしてしまうため、利用者は著しく不快感を覚えるという課題がある。
本発明は、これらの課題を解決するものであり、その目的は、少ない計算リソースかつ少ない検出漏れ/誤りにてCM検出する方法及びこれを用いた動画再生装置を提供することである。また、CM検出漏誤りがあっても、利用者の不快感を低減した動画再生装置を提供することである。
上述の課題を解決するために、本発明の一実施の形態は、例えば、特許請求の範囲に記載されるように構成すればよい。
本発明によれば、安価かつ高精度にCMを検出できる。また、利用者が快適に動画データを視聴可能な動画再生装置を提供できる。
以下、本発明にかかる実施例について、図面を参照して説明する。
各図面において、同一の符号が付されている構成要素は同一の機能を有すること
とする。
本明細書の各記載及び各図面における「チャプタ」という表現は、「マーカー」もしくは「チャプタマーク」という意味も含む。
本明細書の各記載及び各図面における「CM」という表現は、「コマーシャルメッセージ」の略である。これは、「動画広告」、「CMシーン」という意味も含む。
また、本明細書の各記載及び各図面において示される、「CM」の区間や「CM」の長さは、複数種類のCMが連続している場合であっても、まとめて一つの「CM」の区間及びその長さであるとして取り扱う。すなわち、30秒のCMが1種類ある場合及び15秒のCMが2種類連続している場合のいずれも、本明細書の各記載及び各図面においては30秒のCMとして取り扱う。
まず、本実施例に係る動画再生装置のハードウェア構成を説明する。
図1は、本発明に係る動画再生装置のハードウェア構成の一例である。図1に示す通り、本実施例に係る動画再生装置は、動画データ入力装置100と、中央処理装置101と、入力装置102と、表示装置103と、音声出力装置104と、記憶装置105と、二次記憶装置106を有して構成される。そして、各装置は、バス107によって接続され、各装置間で、相互にデータの送受信が可能なように構成されている。
動画データ入力装置100は、動画データを入力する。本動画データ入力装置100は、例えば後述する記憶装置105あるいは二次記憶装置106に記憶されている動画データを読み込む装置としたり、テレビ放送等を受信する場合には、テレビのチューナユニットとすることが出来る。チューナユニットには、例えば、放送信号を復調する復調部と放送信号のチャンネルを選局する選局部などが含まれる。
また、ネットワーク経由で動画データを入力する場合には、本動画データ入力装置100をLANカード等のネットワークカードとすることが出来る。
中央処理装置101は、マイクロプロセッサを主体に構成されており、記憶装置105や二次記憶装置106に格納されているプログラムを実行する。
入力装置102は、例えばリモコン、あるいはキーボードや、マウス等のポインティングデバイスによって実現される。前記動画データ入力装置100に入力する動画データを指定することで、利用者が視聴する動画データを指定したり、後述するチャプタ位置に再生位置をスキップ指示する。すなわち、本実施例に係る動画再生装置に対する利用者の指示を入力することができる。
表示装置103は、例えばディスプレイアダプタと液晶パネルやプロジェクタ等によって実現され、再生データに含まれる映像や後述する利用者へのメッセージ等を表示する。
音声出力装置104は、例えばサウンドカードとスピーカ等によって実現され、再生動画データに含まれる音声を出力する。
記憶装置105は、例えばランダムアクセスメモリ(RAM)やリードオンリーメモリ(ROM)等によって実現され、中央処理装置101によって実行されるプログラムや本動画再生装置において処理されるデータ、あるいは再生対象の動画データ等を格納する。
二次記憶装置106は、例えばハードディスクやDVDあるいはCDとそれらのドライブ、あるいはフラッシュメモリ等の不揮発性メモリにより構成され、中央処理装置101によって実行されるプログラムや本動画再生装置において処理されるデータ、あるいは再生対象の動画データ等を格納する。なお、本二次記憶装置106は、必ずしも必要ではない。
次に、本実施例に係る動画再生装置の機能ブロックについて説明する。
図2は、本実施例に係る動画再生装置の機能ブロック図である。これらの機能ブロックの一部あるいは全部は、図1で示したハードウェアに加えて、ハードウェアとして実現されてもよいが、中央処理装置101によって実行されるソフトウェアプログラムとして実現されてもよい。なお、以下では、一例として、これらの機能ブロックの全てが中央処理装置101によって実行されるソフトウェアプログラムであるものとして説明する。
図2に示す通り、本実施例に係る動画再生装置は、解析動画データ入力部201と、CM検出部202と、チャプタリング部203と、チャプタデータ保持部204と、チャプタデータ入力部205と、スキップ位置取得部206と、再生制御部207と、スキップ指定部208と、表示部210と、音声出力部209を有して構成される。
図2において、動画データ入力部201は、後述するCM検出及びチャプタリング対象の動画データ及び再生対象の動画データを動画データ入力装置100から入力する。
CM検出部202は、動画データ入力部201において入力した動画データ内に含まれるCM区間を検出する。本CM検出の方法は従来の技術を適用可能であるが、本発明でもCM検出方法を提案しており、これについては後述する。なお、本実施例においては、CM検出部202は、必ずしもCM区間を検出する必要は無く、CMの終端を検出できればよい。
チャプタリング部203は、CM検出部202で検出したCM区間に基づいて、動画データにチャプタをつける。特に、CM検出部202で検出した動画データ内の各CM区間の終端をチャプタとし、図3に示すチャプタデータを生成する。なお、チャプタデータについては後でその詳細を説明する。
チャプタデータ保持部204は、チャプタリング部203において生成したチャプタデータを保持する。これは、例えばチャプタリング部203において生成したチャプタデータを記憶装置105あるいは二次記憶装置106に格納することによって実現できる。
チャプタデータ入力部205は、チャプタデータ保持部204において保持されたチャプタデータを入力する。これは、例えば記憶装置105あるいは二次記憶装置106に格納されているチャプタデータを読み出すことによって実現できる。
表示部210は、後述する再生制御部207による再生映像を表示装置103に表示する。
音声出力部209は、後述する再生制御部207による再生音声を音声出力装置104に出力する。
スキップ指定部208は、入力装置102を介して、利用者が現在再生中の動画データにおいて次のチャプタまでスキップするように再生制御部207に指示する。
スキップ位置取得部206は、後述する再生制御部207から、現在の再生動画データにおける現在の再生位置を入力し、その現在の再生位置とチャプタデータ入力部205で入力したチャプタデータから次のチャプタ位置を取得し、当該次のチャプタ位置を再生制御部207に通知する。これは、後述するチャプタデータに列挙された各チャプタ位置と、再生制御部207から入力した現在の再生位置を比較し、現在の再生位置よりも時間的に後で、かつ一番時間的に早いチャプタ位置を取得し、当該チャプタ位置を再生制御部207に通知することで実現できる。
再生制御部207は、動画データ入力部201より動画データを入力し、再生画像及び再生音声を生成して表示部209および音声出力部210に出力することによって、動画データを再生する。また、スキップ指定部208からの指示に従い、現在の再生位置を求め、スキップ位置取得部206に通知して、当該スキップ位置取得部206から次のチャプタ位置を取得して、現在の再生位置と次のチャプタ位置の位置関係から、次のチャプタ位置にジャンプして再生を継続するか否かを判断する。本制御が本発明で提案する内容のひとつであり、本再生制御部207における制御内容については後で詳しく述べる。
次に、本実施例に係る動画再生装置で使用するデータの構造について説明する。
図3は、チャプタデータのデータ構造の一例である。本チャプタデータは、チャプタリング部203及びチャプタデータ保持部204で生成及び記憶装置105あるいは二次記憶装置106に保持され、チャプタデータ入力部205及びチャプタ位置取得部206で記憶装置105あるいは二次記憶装置106から入力及び参照される。
図3において、301はチャプタ番号である。また、302に示されるT1、T2、T3などはチャプタ位置であり、動画データ中の当該チャプタの時刻とすればよい。また、311ないし313はそれぞれ1つのチャプタを表しており、この例では3つのチャプタがあることを示している。前述の通り、チャプタリング部203は、CM検出部202で検出した各CMの終端毎に、シーケンシャルにチャプタ番号301をつけて、それらのCMの終端位置の動画データ内での時刻を301に格納して、チャプタデータ保持部204で記憶装置105あるいは二次記憶装置106に保持する。一方、チャプタ位置取得部206は、チャプタデータ入力部205により記憶装置105あるいは二次記憶装置106から本チャプタデータを取得し、再生制御部207から通知された再生動画データにおける現在の再生位置から、その現在の再生位置よりも時間的に後で、かつ一番時間的に早いチャプタ位置をチャプタデータから取得することで次のチャプタ位置を取得する。なお、本説明では、チャプタ位置を“動画データ内の時刻”として説明しているが、その限りではなく、例えば“動画データ内の映像フレーム番号”等としてもよく、動画データ内の位置を示すものであれば、その他の情報でもかまわない。
次に、本実施例に係る動画再生装置の再生制御部207の処理内容の詳細について、図4、図5、及び図6を用いて説明する。
図4は、本実施例に係る動画再生装置の再生制御部207の処理内容を示すフローチャートである。
図5は、入力装置102及びスキップ指定部208を介して利用者からスキップ指示がなされたときの本実施例に係る動画再生装置の再生制御部207の処理を説明する図である。
図6は、入力装置102及びスキップ指定部208を介して利用者からスキップ指示がなされたときに、表示部210を介して表示装置103に表示される画面例である。なお、この画面例は表示部210により表示装置103上に再生映像にオーバーレイされて表示されるように構成されても良い。
さて、再生制御部207は、動作中ループ処理をしており、通常は動画データを動画データ入力部201から入力し、映像を再生して再生映像を表示部210を介して表示装置103に表示すると共に、音声を再生して再生音声を音声出力部209を音声出力装置104に出力することで、当該動画データを通常再生している。以下、図4を用いて、本再生制御部207のループ内の処理を詳細に説明することで、再生制御部207の処理内容について詳細を説明する。
図4に示すとおり、本実施例に係る動画再生装置の再生制御部207のループ処理の中では、まず、利用者から入力装置102及びスキップ指定部208を介してスキップ指示がなされたか否かを判断する(ステップ401)。
ステップ401における判断の結果、利用者からスキップ指示がなされてなければ、通常再生を継続する(ステップ407)。
一方、ステップ401における判断の結果、利用者からスキップ指示がなされたと判断された場合には、動画データにおける現在の再生位置(Tc)(図5における502)を取得する(ステップ402)。
続いて、本実施例に係る動画再生装置の再生制御部207は、次のチャプタ位置(Tn)(図5における503)を取得する(ステップ403)。これは、ステップ401で取得した現在の再生位置をチャプタ位置取得部206に通知することで、チャプタ位置取得部206より取得できる。なお、次のチャプタ位置は、チャプタ位置取得部206において、チャプタデータ入力部205により記憶装置105あるいは二次記憶装置106からチャプタデータを取得し、再生制御部207から通知された再生動画データにおける現在の再生位置から、その現在の再生位置よりも時間的に後で、かつ一番時間的に早いチャプタ位置をチャプタデータから取得することで次のチャプタ位置を取得することで実現できる。ただし、次のチャプタ位置が無い場合には動画データの終了位置を次のチャプタ位置とすればよい。
続いて、本実施例に係る動画再生装置の再生制御部207は、現在の再生位置(Tc)から次のチャプタ位置(Tn)までの距離(Tn - Tc)(図5における505)を計算し、距離(Tn - Tc)が所定の距離(C)(図5における506)以下であるか否かを判断する(ステップ404)。
なお、この所定の距離(C)の閾値は、5分から10分に設定することが望ましい。所定の距離(C)の閾値の下限を5分とする理由は、5分以上連続するCMは一般的に限りなく少ないため、距離(Tn - Tc)が5分より大きい場合は、一般的なCMの長さを超えていることが判別でき、CM検出漏れが発生している可能性が高いからである。また、所定の距離(C)の閾値の上限を10分とする理由は以下のとおりである。すなわち、CMとCMの間に番組が挟まれている場合に、番組によっては、先のCMの終了時と後のCMの終了時との距離が12分程度である場合がある。この場合、距離(Tn - Tc)が10分以上の場合にもスキップをOKとすると、CM検出漏れが発生している場合に、CMとCMの間に挟まれた番組ごと、スキップしてしまう可能性があるからである。これを防止するために、所定の距離(C)の閾値の上限を10分とすることが望ましい。
次に、ステップ404における判断の結果、距離(Tn - Tc)(図5における505)が所定の距離(C)(図5における506)以下であると判断できた場合には、次のチャプタ位置(Tn)(図5における503)にジャンプして動画データの再生を継続する(ステップ405)。
一方、ステップ404における判断の結果、距離(Tn - Tc)(図5における505)が所定の距離(C)(図5における506)以下ではないと判断した場合には、再生位置をジャンプすることなく、通常再生を続ける(ステップ406)。
このとき、例えば、図6(a)に示すようにジャンプしないことを表示部210を介して表示装置103に表示し、ジャンプしない旨を利用者に通知するように構成しても良い。
またこのとき、図6(b)に示すように、ジャンプしてもよいか確認するメッセージを表示部210を介して表示装置103に表示し、利用者から再度スキップ指示がなされた場合に、次のチャプタにジャンプし、利用者から一定時間スキップ指示がなされないか、あるいはキャンセル指示が行われた場合にジャンプせずに通常再生を続けるように構成しても良い。
またこのとき、次のチャプタにジャンプするのではなく、15秒先の位置など、一定時間先の位置を計算し、これをジャンプ先の位置と設定して、この位置にジャンプし、動画データの再生を継続するように構成しても良い。これにより、例えばCM検出漏れがあったとしても、細切れなスキップ動作が可能となり、利用者はさらに快適に再生動画データの視聴を楽しむことが出来るようになる。当然この細切れなスキップ動作を実現するためには、この場合にジャンプする位置は、所定の距離(C)よりも短い距離が設定される。
なお、図6において、606は再生位置を示すスライドバーであり、602は現在の再生位置を示すインジケータである。また、601、603、604はチャプタ位置を示すインジケータであり、特に、再生位置に対して、601は前のチャプタ、603は次のチャプタを示すインジケータである。また、606及び607は利用者に対するメッセージである。
さて、本実施例に係る動画再生装置の再生制御部207は、以上のループ処理中に利用者から動画データの再生終了が指示されたか、あるいは動画データの終了位置まで再生が行われたか否かを判断することにより、再生終了を判断し(ステップ408)、再生終了を判断するまで、以上のステップ401ないしステップ408のループ処理を繰り返す。
一方、ステップ408における判断の結果、再生終了と判断した場合には、本ループをから抜ける。
以上が、本実施例に係る動画再生装置の再生制御部207のループ処理である。本再生制御部207の処理により、CM検出部でCMの検出誤りがあった場合でも、CMスキップあるいはチャプタスキップ時に意図しないシーンにスキップすることが無くなるため、利用者が不快感を覚えることの無い動画再生装置を提供できる。
次に、本実施例に係るCM検出部202のCM検出方法を説明する。なお、本発明では従来のCM検出方法を適用可能であるが、CM検出方法についても提案している。
図7は、本発明で提案するCM検出部202内の機能ブロックである。これらの機能ブロックの一部あるいは全部はハードウェアとして実現されてもよいが、中央処理装置101によって実行されるソフトウェアプログラムとして実現されてもよい。なお、以下では、一例として、これらの機能ブロックの全てが中央処理装置101によって実行されるソフトウェアプログラムであるものとして説明する。
図7に示す通り、本発明で提案するCM検出部202は、字幕取得部1302と、字幕特徴生成部1303と、字幕特徴保持部1304と、字幕特徴入力部1305と、CM区間判定部1306を有して構成される。
字幕取得部1302は、動画データに含まれる字幕情報を取得する。これは、例えば、デジタルテレビ放送では、音声のES(Elementary Stream)や映像のESと同様に字幕のESが送られてきているので、この字幕のESを取得し、デコードすることによって取得できる。また、映画コンテンツ等のようにコンテンツ画面の上下又は左右に字幕スペースがあるコンテンツなどにおいては、その字幕スペースにおいて従来の文字認識、パターン認識の技術を用いて文字情報を抽出するようにしてもよい。
字幕特徴生成部1303は、字幕取得部1302で取得した字幕情報の表示時刻を取得し、この表示時刻のテーブル(字幕特徴データと呼ぶ)を生成する。
これは、例えば字幕のESには、字幕として表示される文字列とそれが表示される時刻の情報が含まれているので、図8に示すように時刻の情報をテーブルに書き込むことによって実現できる。
図8は、字幕特徴データのデータ構造の一例である。図8において、1401は、同時あるいは一度に表示される文字列の番号であり、1411ないし1413は、それぞれ一度に表示される字幕情報を示している。また、1402は、その字幕の文字列が表示される時刻、1403は、その時刻に表示される文字の種類を示している。この文字の種類は例えば、字幕として表示される文字列の場合には“1”、表示されている文字列を消去する字幕表示消去制御コードの場合には“2”とすればよい。なお、文字の種類としては、上述の“字幕として表示される文字列”と、“字幕表示消去制御コード”以外にも存在するが、ここでは使用しないので、字幕特徴生成部1303では、これらを無視してかまわない。
図7の説明に戻り、字幕特徴保持部1404は、字幕特徴生成部1403において生成した字幕特徴データを保持する。これは、例えば字幕特徴生成部1403において生成した字幕特徴データを記憶装置105あるいは二次記憶装置106に格納することによって実現できる。
字幕特徴入力部1305は、字幕特徴保持部1304において保持された字幕特徴データを入力する。これは、例えば記憶装置105あるいは二次記憶装置106に格納されている字幕特徴データを読み出すことによって実現できる。
CM区間判定部1306は、字幕特徴入力部1305で入力した字幕特徴データからCM区間を判定する。このCM区間判定部1306における詳細な処理内容及びCM区間の判定方法を図9及び図10を用いて説明する。
図9は、本発明で提案するCM区間判定部1306における処理内容を説明するフローチャートである。
また、図10は、本CM区間判定部1306におけるCM区間の判定方法の説明図である。なお、図10において、1701ないし1706は、横軸に時間をとったときの字幕文字列が表示されている時間を示している。これは、特徴データの文字の種類が“字幕として表示される文字列”であり、“字幕表示消去制御コード”を除いた表示時刻が一定時間(例えば10秒)以上空いて以内場合にそれらをつなげて示したものである。また、1711ないし1713は、字幕表示制御コードが反映または適用される時刻を示している。これは、特徴データの文字の種類が“字幕表示消去制御コード”である表示時刻をプロットしたものである。また、後で図9と合わせて説明するが、1721は検出したCM区間である。1741は字幕文字列が一定時間Tr以上表示されない区間の始端の時刻(Ts)であり、当該区間前の最後の“字幕として表示される文字列”が表示される時刻である。1742は字幕文字列が一定時間Tr以上表示されない区間の終端の時刻(Te)であり、当該区間後の最初の“字幕として表示される文字列”が表示される時刻である。
1743は字幕文字列が一定時間Tr以上表示されない区間である。1731は区間(Ts〜Te)内で最初に反映または適用される字幕表示消去制御コードの時刻(Ts’)である。1732はTcsから60秒以上かつ15秒の倍数でTe以下で最もTeに近い時刻(Te’)である。1733はTcsを起点とする15の倍数秒であり、Te以下で最もTeに近い時刻までの区間である。
さて、図9に示すとおり、本発明で提案するCM区間判定部1306は、まず、字幕特徴入力部1305で入力した字幕特徴データから字幕文字列が一定時間Tr以上表示されない区間(Ts(図10における1741)〜Te(図10における1742))(図10における1743)を検出する(ステップ1601)。これは、特徴データの文字の種類が“字幕表示消去制御コード”であるエントリを除いて“字幕として表示される文字列”となっているエントリに対して表示時刻が前後でTr以上間隔があるエントリを見つけることによって実現できる。
ここで、TrはCMが存在する可能性がある期間を判別するための閾値である。ここで、閾値Trが短く設定する場合、字幕文字列が表示されない区間であってCMではない区間も検出されやすくなる。これらは、CM検出においては誤検出となるため好ましくない。一般的な放送においては30秒より短いCM区間ははほとんど存在しないことを考慮すると、閾値Trは30秒以上に設定することが望ましい。
また、閾値Trより短い区間は検出されないため、閾値Trを長く設定した場合、CM区間であっても、検出できなくなる可能性が高まり、好ましくない。一般的な放送においては、30秒のCM区間、1分のCM区間、またはそれより長いCM区間が存在する。ここで、30秒のCM区間に比べて、1分のCM区間は非常に頻度が高い。よって、例えば、30秒のCM区間を検出しなくとも、検出漏れの頻度は少ないが、1分のCM区間を検出しない場合、検出漏れの頻度は高くなる。よって、少なくとも1分のCM区間を検出することができるように、閾値Trは1分以下に設定することが望ましい。
以上の理由から、閾値Trは、例えば30秒以上1分以下に設定することが望ましい。
次に、CM区間判定部1306は、ステップ1601で検出した区間(Ts〜Te)(図10における)に字幕表示消去制御コードがあるか否かを判断する(ステップ1602)。これは、ステップ1601で見つけた表示時刻Tr以上間隔がある2つの“字幕として表示される文字列”エントリの間に、“字幕表示消去制御コード”であるエントリが含まれているか否かを判断することによって実現できる。
続いて、CM区間判定部1306は、上記ステップ1602における判断の結果、区間(Ts〜Te)(図10における)に字幕表示消去制御コードがあると判断した場合には、当該制御コードの中で最も反映時刻(適用時刻)が早い制御コード(図10における1703)に対して、その制御コードの反映時刻(適用時刻)(Ts’)(図10における1731)をCM区間の始端の時刻(Tcs)とする(ステップ1603)。
一方、上記ステップ1602における判断の結果、区間(Ts〜Te)(図10における)に字幕表示消去制御コードがないと判断した場合には、CM区間判定部1306は、上記ステップ1601で検出した区間(Ts〜Te)の始端(Ts)(図10における1741)をCM区間の始端の時刻(Tcs)とする(ステップ1604)。
続いて、CM区間判定部1306は、Tcs(図10における1731あるいは1741)から60秒以上かつ15秒の倍数でTe(図10における1742)以下で最もTeに近い時刻Tce(図10における1732)をCM区間の終端とし(ステップ1605)、Tcs〜Tce(図10における1733)をCM区間(図10における1721)として判定する(ステップ1606)。
CM区間判定部1306は、上記ステップ1601ないし1606を、字幕文字列が一定時間Tr以上表示されない区間全てに対して評価及び実施することで、動画データ内の全てのCM区間を判定する。
以上説明した本実施例1に係るCM検出する方法及びこれを用いた動画再生装置によれば、映像あるいは/及び音声を処理する必要がなく、字幕処理のみによりCM検出を実現するため、少ない計算リソースでCM検出を実現できる。
また、動画データ中のCMが予め決められたCM時間と合致しない場合でも、CMを検出することが出来るため、少ない計算リソースで安価にかつ少ない検出漏れ/誤りにてCM検出を行うことができる。
また、CM検出誤りがあった場合に、チャプタスキップ時に意図しないシーンにスキップしてしまうことを防止し、利用者の不快感を低減することが可能である。
なお、本実施例では字幕特徴生成部1303によって、字幕特徴データを生成し、その字幕特徴データからCM区間判定部1306がCM区間を判断する方法を示したが、字幕取得部1302で取得した字幕データから直接同様な方法でCM区間判定部1306がCM区間を判別してもよい。この場合には、必ずしも字幕特徴生成部1303は必要ないことは言うまでも無い。また、この場合、字幕特徴保持部1304と字幕特徴入力部1305も省略できる。
本実施例2では、CMスキップが可能なときには、利用者にその旨を知らせる動画再生装置を提供する。
本実施例2の動画再生装置は、実施例1で示したハードウェア構成とすることができるので、ハードウェア構成についての説明は省略する。
図11は、本発明の実施例2に係る動画再生装置の機能ブロック図である。
図11に示すとおり、本発明の実施例2に係る動画再生装置の機能ブロックでは、実施例1の機能ブロックに、CMデータ保持部701と、CMデータ入力部702を加え、再生制御部207の処理内容を若干変更したものとなっている。
ここで、CMデータ保持部701は、CM検出部202で検出したCM区間をCMデータとして保持する。これは、例えばCM検出部202で検出したCM区間を図12に示すデータ構造を持つ、データとして記憶装置105あるいは二次記憶装置106に格納することによって実現できる。なお、図12のCMデータ構造については、後述する。
CMデータ入力部702は、CMデータ保持部701において保持されたCMデータを入力する。これは、例えば記憶装置105あるいは二次記憶装置106に格納されているCMデータを読み出すことによって実現できる。
なお、本実施例2に係る動画再生装置では、実施例1に係る動画再生装置で行ったチャプタリングを行うように構成しても良いが、必ずしも行う必要は無く、チャプタリングを行わない場合には、チャプタリング部203、チャプタデータ保持部204、チャプタデータ入力部205、及びスキップ位置取得部206は必要ない。これらの機能ブロックがあった場合には、実施例1で説明したとおり、CM区間の終端にチャプタが設定され、動画再生装置は実施例1で説明した動作が可能であるが、これらの機能ブロックがない場合には、CMデータ保持部701で保持したCM区間の終端をチャプタ位置として代用できる。以降では、便宜的にこれらの機能ブロックが無いものとして、説明を継続する。
さて、続いて、本実施例2に係る動画再生装置で使用されるCMデータ構造について説明する。
図12は、CMデータのデータ構造の一例である。本CMデータは、CM検出部202及びCMデータ保持部701で生成及び記憶装置105あるいは二次記憶装置106に保持され、CMデータ入力部702及び再生制御部703で記憶装置105あるいは二次記憶装置106から入力及び使用される。
図12において、801は検出したCM番号である。また、802は検出したCMの開始位置であり、特に検出したCM区間の動画データ内での開始時刻とすればよい。また、803は検出したCM区間の終了位置であり、特に検出したCM区間の動画データ内での終了時刻とすればよい。811ないし813はそれぞれ1つのCM区間を表しており、この例では3つのCM区間があることを示している。この場合、CM検出部202は検出した各CM区間毎に、シーケンシャルにCM番号801をつけて、それらのCM区間の動画データ内での開始時刻と終了時刻を801及び802にそれぞれ格納して、CMデータ保持部701で記憶装置105あるいは二次記憶装置106に保持する。一方、再生制御部703は、CMデータ入力部702により記憶装置105あるいは二次記憶装置106から本CMデータを取得し、後述する処理を実施する。なお、本説明では、CM区間の開始位置及び終了位置をそれぞれ動画データ内での時刻として説明しているが、その限りではなく、例えば“動画データ内での映像フレーム番号”等としてもよく、動画データ内の位置を示すものであれば、その他の情報でもかまわない。
次に、本実施例2に係る動画再生装置の再生制御部703の処理内容の詳細について、図13、図14、及び図15を用いて説明する。
図13は、本実施例2に係る動画再生装置の再生制御部703の処理内容を示すフローチャートである。
図14は、入力装置102及びスキップ指定部208を介して利用者からスキップ指示がなされたときの本実施例2に係る動画再生装置の再生制御部703の処理を説明する図である。
図15は、本実施例2に係る動画再生装置の再生制御部703が表示部210を介して表示装置103に表示される画面例であり、特に、現在の再生位置が検出されたCM区間に入ったときに、再生制御部703が表示部210を介して表示装置103に表示する画面例である。なお、図15において、1101は表示部210の表示画面であり、通常、動画データの再生中には動画データの再生映像が表示される。また、1102は再生制御部703により、現在の再生位置が検出されたCM区間に入ったと判断した場合に、再生制御部703が表示部210を介して表示装置103上の表示画面上に表示されるアイコンであり、例えば動画データの再生映像上にオーバーレイされるように構成されても良い。
さて、本発明の実施例2に係る再生制御部703は、動作中ループ処理をしており、通常は動画データを動画データ入力部201から入力し、映像を再生して再生映像を表示部210を介して表示装置103に表示すると共に、音声を再生して再生音声を音声出力部209を音声出力装置104に出力することで、当該動画データを通常再生している。以下、図13を用いて、本再生制御部703のループ内の処理を詳細に説明することで、本発明の実施例2に係る再生制御部703の処理内容について詳細を説明する。
図13に示すとおり、本実施例2に係る動画再生装置の再生制御部703のループ処理の中では、まず、動画データにおける現在の再生位置(Tc)(図14における1005)を取得し(ステップ901)、CMデータ入力部702により、CMデータからCM区間(Ts(図14における1002あるいは1004)〜Te(図14における1003あるいは1006))(図14における区間1009及び1010)を取得する(ステップ9002)。
続いて、再生制御部703は、現在の再生位置(Tc)が含まれるCM区間(図10における1010)を探し出し(ステップ9003)、もし当該区間が見つからなければ、通常再生を継続する(ステップ908)。
一方、ステップ903における判断の結果、現在の再生位置(Tc)が含まれるCM区間(図10における1010)が見つかった場合には、さらに、現在の再生位置(Tc)から当該CM区間の終端(Te)までの距離(Te―Tc)(図14における1007)が、一定値(C)(図14における1008)以内であるか否かを判断する(ステップ904)。なお、この一定値(C)は、例えば、一連のCM区間として考えられうる最大の長さ(例えば6分等)とすればよい。
続いて、再生制御部703は、上記ステップ904における判断の結果、現在の再生位置(Tc)から当該CM区間の終端(Te)までの距離(Te―Tc)が、一定値(C)以内ではないと判断した場合には、通常再生を継続する(ステップ908)。
一方、上記ステップ904における判断の結果、現在の再生位置(Tc)から当該CM区間の終端(Te)までの距離(Te―Tc)が、一定値(C)以内であると判断した場合には、再生制御部703は、図15に示すとおり、表示部210を介して表示装置103における表示画面1101上にCMの終端にスキップ可能であることを示すアイコン1102を表示する(ステップ905)。なお、このアイコン表示は、ステップ9003において、現在の再生位置(Tc)が含まれるCM区間(図10における1010)が見つからなかった場合に消去されるように構成すると良い。
続いて、再生制御部703は、利用者から入力装置102及びスキップ指定部208を介してスキップ指示がなされたか否かを判断し(ステップ906)、スキップ指示がなされてなければ、通常再生を継続する(ステップ908)。
一方、ステップ906における判断の結果、利用者からスキップ指示がなされたと判断された場合には、再生制御部703は、当該CM区間の終端(Te)(図14における1006)にジャンプして動画データの再生を継続する(ステップ907)。
続いて、再生制御部703は、利用者から動画データの再生終了が指示されたか、あるいは動画データの終了位置まで再生が行われたか否かを判断することにより、再生終了を判断し(ステップ909)、再生終了を判断するまで、以上のステップ901ないしステップ909のループ処理を繰り返す。
一方、ステップ909における判断の結果、再生終了と判断した場合には、本ループをから抜ける。
以上説明した本実施例2に係る動画再生装置によれば、動画データ内のCMを再生中に当該CMをスキップできるか否かが利用者が容易に判断可能となる。また、CM検出部202において、CMの検出誤りがあった場合でも、スキップ時に意図しないシーンにスキップすることが無くなるため、利用者の不快感を低減することができる。
なお、上記本実施例2に係る動画再生装置の再生制御部703の処理において、上記ステップ906以外のところで利用者からのスキップ指示を判断できた場合には、現在の再生位置(Tc)に対して一定時間(例えば15秒)先の位置をジャンプ先として設定し、当該ジャンプ先にジャンプするように構成してもよい。これにより、CM検出部202でCM検出漏れがあったとしても、細切れなスキップ動作が行われ、利用者はさらに快適に再生動画データの視聴を楽しむことが出来るようになる。
本発明に係る動画再生装置のハードウェア構成の一例である。 本発明の本実施例1に係る動画再生装置の機能ブロック図である。 チャプタデータのデータ構造の一例である。 本発明の本実施例1に係る動画再生装置の再生制御部の処理内容を示すフローチャートである。 本発明の本実施例1に係る動画再生装置の再生制御部の処理を説明する図である。 本発明の本実施例1において、利用者からスキップ指示がなされたときの表示画面例である。 本発明で提案するCM検出部202内の機能ブロックである。 字幕特徴データのデータ構造の一例である。 本発明で提案するCM区間判定部における処理内容を説明するフローチャートである。 本発明で提案するCM区間判定部におけるCM区間の判定方法の説明図である。 本発明の実施例2に係る動画再生装置の機能ブロック図である。 CMデータのデータ構造の一例である。 本発明の実施例2に係る動画再生装置の再生制御部の処理内容を示すフローチャートである。 本発明の実施例2に係る動画再生装置の再生制御部の処理を説明する図である。 本発明の実施例2に係る動画再生装置の再生制御部が表示する画面例である。
符号の説明
100・・・動画データ入力装置、101・・・中央処理装置、102・・・入力装置、103・・・表示装置、104・・・音声出力装置、105・・・記憶装置、106・・・二次記憶装置、107・・・バス、201・・・動画データ入力部、202・・・CM検出部、203・・・チャプタリング部、204・・・チャプタデータ保持部、205・・・チャプタデータ入力部、206・・・スキップ位置取得部、207・・・再生制御部、208・・・スキップ指定部、209・・・音声出力部、210・・・表示部、1302・・・字幕取得部、1303・・・字幕特徴生成部、1304・・・字幕特徴保持部、1305・・・字幕特徴入力部、1306・・・CM区間判定部、701・・・CMデータ保持部、702・・・CMデータ入力部、703・・・再生制御部

Claims (17)

  1. 動画データに含まれる字幕情報を取得して、字幕文字列が第1の時間以上表示されない区間を検出するステップと、
    前記検出された区間内で字幕表示を消去する制御コードを検出するステップと、
    前記検出した制御コードが適用される時刻から予め決められた第2の時間の倍数の時間だけ離れた時刻であって、前記字幕文字列が第1の時間以上表示されない区間の終端に近い時刻をCM区間の終端として検出するCM検出ステップとを備えることを特徴とするCM検出方法。
  2. 請求項1に記載のCM検出方法であって、
    前記CM検出ステップでは、前記検出した制御コードが適用される時刻をCM区間の始端として検出することを特徴とするCM検出方法。
  3. 請求項1または請求項2の何れか一の請求項に記載のCM検出方法であって、
    前記第1の時間は、30秒以上1分以下であることを特徴とするCM検出方法。
  4. 請求項1または請求項2の何れか一の請求項に記載のCM検出方法であって、
    前記第2の時間は、15秒であることを特徴とするCM検出方法。
  5. 動画データを入力する動画データ入力部と、
    利用者からの指示を入力する指示入力部と、
    前記動画データ入力部が入力する動画データ内のCMシーンの区間を検出し、前記検出したCMシーンの区間の情報に基づいてチャプタを設定し、前記指示入力部からスキップ指示が入力された場合に、前記設定したチャプタの位置に再生位置をスキップして再生する制御部と、
    前記制御部が再生した動画データを表示する表示部とを備え、
    前記制御部は、動画データに含まれる字幕情報を取得し、字幕文字列が第1の時間以上表示されない区間を検出し、前記検出された区間内で字幕表示を消去する制御コードを検出し、前記検出した制御コードが適用される時刻から予め決められた第2の時間の倍数の時間だけ離れた時刻であって、前記字幕文字列が第1の時間以上表示されない区間の終端に近い時刻をCM区間の終端として検出し、前記CM区間の終端にチャプタを設定することを特徴とする動画再生装置。
  6. 請求項5に記載の動画再生装置であって、
    前記制御部は、前記検出した制御コードが適用される時刻をCM区間の始端として検出することを特徴とする動画再生装置。
  7. 請求項5または請求項6の何れか一の請求項に記載の動画再生装置であって、
    前記第1の時間は、30秒以上1分以下であることを特徴とする動画再生装置。
  8. 請求項5または請求項6の何れか一の請求項に記載の動画再生装置であって、
    前記第2の時間は、15秒であることを特徴とする動画再生装置。
  9. 動画データを入力する動画データ入力部と、
    前記動画データ入力部が入力する動画データ内のCMシーンを検出するCM検出部と、
    前記CM検出部により検出したCMシーンの終端にチャプタを設定するチャプタリング部と、
    利用者からのスキップ指示を入力する指定するスキップ指定部と、
    前記スキップ指定部によりスキップが指定されたときに、前記チャプタリング部が設定したチャプタに基づいて、スキップ位置を取得するスキップ位置取得部と、
    前記動画データ入力部が入力する動画データを再生し、前記スキップ指定部によりスキップが指定されたときに、前記スキップ位置取得部により取得したスキップ位置と現在の再生位置とに基づいて、再生位置をスキップさせる再生制御部と、
    再生動画データの映像を表示する表示部と、
    を有し、
    前記再生制御部は、前記スキップ指定部によりスキップが指定されたときに、前記現在の再生位置から前記スキップ位置取得部により取得したスキップ位置までの距離が所定の距離以下であった場合に前記スキップ位置取得部により取得したスキップ位置にスキップすることを特徴とする動画再生装置。
  10. 請求項9に記載の動画再生装置であって、
    前記再生制御部は、前記スキップ指定部によりスキップが指定されたときに、前記現在の再生位置から前記スキップ位置取得部により取得したスキップ位置までの距離が前記所定の距離より大きかった場合には前記スキップ位置取得部により取得したスキップ位置にスキップせずに、前記現在の再生位置から前記動画データの再生を継続することを特徴とする動画再生装置。
  11. 請求項9に記載の動画再生装置であって、
    前記再生制御部は、前記スキップ指定部によりスキップが指定されたときに、前記現在の再生位置から前記スキップ位置取得部により取得したスキップ位置までの距離が前記所定の距離より大きかった場合には前記現在の再生位置から前記所定の距離より短い第2の距離だけ先の位置にスキップして前記動画データの再生を継続することを特徴とする動画再生装置。
  12. 請求項9に記載の動画再生装置であって、
    前記再生制御部は、前記スキップ指定部によりスキップが指定されたときに、前記現在の再生位置から前記スキップ位置取得部により取得したスキップ位置までの距離が所定の距離より大きかった場合には、前記スキップ位置取得部により取得したスキップ位置にスキップしてもよいか確認する画面を表示することを特徴とする動画再生装置。
  13. 請求項9に記載の動画再生装置であって、
    前記再生制御部は、現在の再生位置が前記CM検出部が検出したCMシーンの区間に入った場合に、前記CM検出部がCMシーンの区間の終点と判断した位置に設定されるチャプタにスキップ可能であることを表示し、前記スキップ指定部によりスキップが指定されたときに、前記CM検出部がCMシーンの区間の終点と判断した位置に設定されるチャプタにスキップすることを特徴とする動画再生装置。
  14. 請求項9に記載の動画再生装置であって、
    前記再生制御部は、現在の再生位置が前記CM検出部が検出したCMシーンの区間に入った場合に、現在の再生位置から前記CM検出部がCMシーンの区間の終点と判断した位置に設定されるチャプタまでの距離が、前記所定の距離以下である場合には、前記CM検出部がCMシーンの区間の終点と判断した位置に設定されるチャプタにスキップ可能であることを表示し、
    現在の再生位置から前記CM検出部がCMシーンの区間の終点と判断した位置に設定されるチャプタまでの距離が、前記所定の距離より大きい場合には、前記対応するチャプタにスキップ可能であることを表示しないことを特徴とする動画再生装置。
  15. 請求項9に記載の動画再生装置であって、
    前記再生制御部は、現在の再生位置が前記CM検出部が検出したCMシーンの区間に入った場合に、
    前記現在の再生位置から前記CM検出部がCMシーンの区間の終点と判断した位置位置に設定されるチャプタまでの距離が前記所定の距離以下である場合には、前記CM検出部がCMシーンの区間の終点と判断した位置に設定されるチャプタにスキップ可能であることを表示し、前記スキップ指定部によりスキップが指定されたときに、前記CM検出部がCMシーンの区間の終点と判断した位置に設定されるチャプタにスキップし、
    前記現在の再生位置から前記CM検出部がCMシーンの区間の終点と判断した位置位置に設定されるチャプタまでの距離が前記所定の距離より大きい場合には、前記対応するチャプタにスキップ可能であることを表示せず、前記スキップ指定部によりスキップが指定されたときには、現在の再生位置から前記所定の距離より短い第2の距離だけ先の位置にスキップすることを特徴とする動画再生装置。
  16. 請求項9乃至請求項15の何れか一の請求項に記載の動画再生装置であって、前記所定の距離は5分以上10分以下であることを特徴とする動画再生装置。
  17. 請求項11または請求項15の何れか一の請求項に記載の動画再生装置であって、前記第2の距離は15秒であることを特徴とする動画再生装置。
JP2007289152A 2007-11-07 2007-11-07 Cm検出方法及びこれを用いた動画再生装置 Expired - Fee Related JP4929127B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007289152A JP4929127B2 (ja) 2007-11-07 2007-11-07 Cm検出方法及びこれを用いた動画再生装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007289152A JP4929127B2 (ja) 2007-11-07 2007-11-07 Cm検出方法及びこれを用いた動画再生装置

Publications (2)

Publication Number Publication Date
JP2009118204A true JP2009118204A (ja) 2009-05-28
JP4929127B2 JP4929127B2 (ja) 2012-05-09

Family

ID=40784833

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007289152A Expired - Fee Related JP4929127B2 (ja) 2007-11-07 2007-11-07 Cm検出方法及びこれを用いた動画再生装置

Country Status (1)

Country Link
JP (1) JP4929127B2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013223037A (ja) * 2012-04-13 2013-10-28 Fujitsu Ltd 再生装置、再生方法、及び再生プログラム
WO2019235405A1 (ja) * 2018-06-05 2019-12-12 日本電信電話株式会社 Cm区間検出装置、cm区間検出方法、及びプログラム

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000354225A (ja) * 1999-06-11 2000-12-19 Toshiba Corp ディスク記録装置
JP2006135524A (ja) * 2004-11-04 2006-05-25 Funai Electric Co Ltd 情報記録再生装置
JP2006303847A (ja) * 2005-04-20 2006-11-02 Funai Electric Co Ltd ディスク装置及びその再生方法
JP2009021762A (ja) * 2007-07-11 2009-01-29 Panasonic Corp コマーシャル判別装置、方法及びプログラム

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000354225A (ja) * 1999-06-11 2000-12-19 Toshiba Corp ディスク記録装置
JP2006135524A (ja) * 2004-11-04 2006-05-25 Funai Electric Co Ltd 情報記録再生装置
JP2006303847A (ja) * 2005-04-20 2006-11-02 Funai Electric Co Ltd ディスク装置及びその再生方法
JP2009021762A (ja) * 2007-07-11 2009-01-29 Panasonic Corp コマーシャル判別装置、方法及びプログラム

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013223037A (ja) * 2012-04-13 2013-10-28 Fujitsu Ltd 再生装置、再生方法、及び再生プログラム
WO2019235405A1 (ja) * 2018-06-05 2019-12-12 日本電信電話株式会社 Cm区間検出装置、cm区間検出方法、及びプログラム

Also Published As

Publication number Publication date
JP4929127B2 (ja) 2012-05-09

Similar Documents

Publication Publication Date Title
JP5057918B2 (ja) 電子機器およびシーン種類表示方法
JP4525437B2 (ja) 動画処理装置
JP4659681B2 (ja) コンテンツタグ付け支援装置およびコンテンツタグ付け支援方法
EP1924092A1 (en) Content replay apparatus, content reproducing apparatus, content replay method, content reproducing method, program and recording medium
JP2011211481A (ja) 動画再生装置
JP2007208954A (ja) ビデオ再生装置及びその制御方法
EP1906661A2 (en) Picture recorder and commercial message detection method
JP2008312183A (ja) 情報処理装置および方法、並びにプログラム
JP4929127B2 (ja) Cm検出方法及びこれを用いた動画再生装置
JP2008048297A (ja) コンテンツ提供方法、コンテンツ提供方法のプログラム、コンテンツ提供方法のプログラムを記録した記録媒体及びコンテンツ提供装置
JP2007250097A (ja) コンテンツ再生装置、コンテンツ再生再開方法およびコンテンツ再生プログラム
JP5310808B2 (ja) 字幕付映像再生装置及び字幕付映像再生プログラム
JP4367535B2 (ja) 字幕付映像再生装置、プログラム
JP2005117322A (ja) 索引データ生成装置、索引データ生成方法、索引データ生成プログラムおよびそれを記録した情報記録媒体、並びに、コンテンツデータ再生装置、コンテンツデータ再生方法、コンテンツデータ再生プログラムおよびそれを記録した情報記録媒体
JP2009171480A (ja) 映像記録再生装置及び映像再生装置
JP2008289194A (ja) 映像再生装置
JP2009027430A (ja) 動画再生装置
JP2009118205A (ja) 動画処理装置及び動画処理方法
JP2009239322A (ja) 映像再生装置、映像再生方法および映像再生プログラム
JP4409310B2 (ja) 映像受信表示装置、映像受信表示可能な携帯型電話機、映像受信表示方法、およびその方法をコンピュータに実行させるプログラム
JP4539884B2 (ja) 再生装置、プログラム及び電子画面を構築する方法
JP4252925B2 (ja) 情報編集装置、その方法、そのプログラム、そのプログラムを記録した記録媒体、および、編集装置
JP5023829B2 (ja) 画像記録装置及びプログラム
JP4747923B2 (ja) デジタル放送記録装置
JP2006114949A (ja) 映像再生装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100921

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20111019

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20111025

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20111215

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120117

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120213

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150217

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150217

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees