JPH11259061A - デジタル動画像処理装置およびデジタル動画像処理方法 - Google Patents

デジタル動画像処理装置およびデジタル動画像処理方法

Info

Publication number
JPH11259061A
JPH11259061A JP10061186A JP6118698A JPH11259061A JP H11259061 A JPH11259061 A JP H11259061A JP 10061186 A JP10061186 A JP 10061186A JP 6118698 A JP6118698 A JP 6118698A JP H11259061 A JPH11259061 A JP H11259061A
Authority
JP
Japan
Prior art keywords
digital moving
image
frame
scene change
moving image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP10061186A
Other languages
English (en)
Other versions
JP4021545B2 (ja
Inventor
Osamu Hori
修 堀
Toshimitsu Kaneko
敏充 金子
Hisashi Aoki
恒 青木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Original Assignee
Toshiba Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp filed Critical Toshiba Corp
Priority to JP06118698A priority Critical patent/JP4021545B2/ja
Priority to US09/266,611 priority patent/US6795127B1/en
Publication of JPH11259061A publication Critical patent/JPH11259061A/ja
Priority to US10/940,670 priority patent/US7417690B2/en
Application granted granted Critical
Publication of JP4021545B2 publication Critical patent/JP4021545B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/10Indexing; Addressing; Timing or synchronising; Measuring tape travel
    • G11B27/19Indexing; Addressing; Timing or synchronising; Measuring tape travel by using information detectable on the record carrier
    • G11B27/28Indexing; Addressing; Timing or synchronising; Measuring tape travel by using information detectable on the record carrier by using information signals recorded by the same method as the main recording
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/147Scene change detection
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B2220/00Record carriers by type
    • G11B2220/20Disc-shaped record carriers
    • G11B2220/25Disc-shaped record carriers characterised in that the disc is based on a specific recording technology
    • G11B2220/2537Optical discs
    • G11B2220/2562DVDs [digital versatile discs]; Digital video discs; MMCDs; HDCDs

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Television Signal Processing For Recording (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Indexing, Searching, Synchronizing, And The Amount Of Synchronization Travel Of Record Carriers (AREA)

Abstract

(57)【要約】 【課題】多数のシーンチェンジフレーム画像の中から意
味のあるシーンチェンジフレーム画像を自動検出できる
ようにし、デジタル動画像の検索、再生制御に最適なシ
ステムを実現する。 【解決手段】シーンチェンジフレーム画像解析部104
は、シーンチェンジ検出結果記録部103に記録された
検出結果を用いて、シーンチェンジフレーム画像を異な
るデジタル動画像同士で比較する。これにより、同種類
の複数のデジタル画像間で共通に使用されているフレー
ム画像のように、類似したフレーム画像が高い頻度で検
出されたシーンチェンジフレーム画像が検出される。こ
のシーンチェンジフレーム画像は、数多くのシーンチェ
ンジフレーム画像の中で意味のあるシーンチェンジフレ
ーム画像として検出され、これが検索または表示制御の
ためのインデックス情報として使用される。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明はデジタル動画像処理
装置およびデジタル動画像処理方法に関し、特にデジタ
ル動画像に対してその検索または表示等のためのインデ
ックス情報を自動的に付与するデジタル動画像処理装置
およびデジタル動画像処理方法に関する。
【0002】
【従来の技術】一般に、デジタル動画像は、テープのよ
うなシーケンシャルに読み出すことしかできない媒体に
記録するのではなく、CD−ROM(RW)やDVD−
ROM(RAM)などに記録することにより、所望の場
所からランダムにアクセスできるという特長がある。
【0003】ランダムアクセスするためにはインデック
スを設けることが必要となるが、このインデックスを手
作業で入力すると、たいへんな手間になる。そこで、自
動でこのインデックスを付けるためにシーンチェンジと
呼ばれる場所(場面が急に変わるところ)を、前後のフ
レームを比較することにより検出し、それをインデック
スとすることが提案されている。
【0004】しかし、一般に、TV放送番組や映画など
の動画像では、シーンチェンジは約5秒に一回の割合で
発生する。このため、検出された全てのシーンチェンジ
をそのままインデックスして使用すると、インデックス
の数が増えすぎてしまい、却って画像の検索または表示
に手間がかかるという問題が発生する。
【0005】
【発明が解決しようとする課題】上述のように、従来で
は、シーンチェンジ検出を用いてインデックスを自動付
与すると、インデックスの数が増えすぎてしまい、却っ
て画像の検索または表示に手間がかかるという問題があ
った。
【0006】本発明はこのような実情に鑑みてなされた
ものであり、検出された多数のシーンチェンジの中から
意味のあるシーンチェンジを特定できるようにし、デジ
タル動画像の検索、再生制御に最適なデジタル動画像処
理装置およびデジタル動画像処理方法を提供することを
目的とする。
【0007】
【課題を解決するための手段】上述の課題を解決するた
め、本発明のデジタル動画像処理装置は、処理対象のデ
ジタル動画像を含む同種類の複数のデジタル動画像それ
ぞれのシーンチェンジを検出する手段と、検出されたシ
ーンチェンジのフレーム画像を異なるデジタル動画像同
士で比較し、前記処理対象のデジタル動画像から検出さ
れたシーンチェンジのフレーム画像と類似したフレーム
画像を、他のデジタル動画像から検出する手段と、類似
したフレーム画像が高い頻度で検出された前記処理対象
デジタル動画像内のシーンチェンジのフレーム位置を記
録する手段とを具備することを特徴とする。
【0008】このデジタル動画像処理装置においては、
同種類の複数のデジタル動画像間でシーンチェンジフレ
ームのフレーム画像の付き合わせが行われ、これによ
り、処理対象のデジタル動画像内のシーンチェンジフレ
ームの中で、類似したフレーム画像が他のデジタル動画
像から高い頻度で検出されたシーンチェンジのフレーム
位置が調べられ、そのシーンチェンジのフレーム位置が
解析結果として記録される。
【0009】例えば、異なる日時に放送された同一ニュ
ース番組などのような同種類の複数のデジタル動画像で
は、一般に、番組のオープニング、番組内の特集コーナ
ー、天気予報コーナー、およびエンディング、CMなど
で共通のフレーム画像が使用されていることが多く、こ
のような部分では、類似したフレーム画像が高い頻度で
検出される。よって、類似したフレーム画像が高い頻度
で検出されたシーンチェンジフレームの位置を記録する
ことにより、数多くのシーンチェンジの中で、番組の構
成の変わり目に対応した意味のあるシーンチェンジをイ
ンデックス情報などとして使用することが可能となり、
番組をサブ番組毎に分類してその検索や表示を行った
り、特定の部分をスキップして表示するなどの制御を容
易に行うことが出来る。
【0010】また、シーンチェンジフレーム同士の比較
であるので、全てのフレームを比較する場合に比し、演
算処理量を大幅に低減できる。したがって、専用のハー
ドウェアを用いずとも、汎用のプロセッサを用いたソフ
トウェアによる処理のみで、意味のあるシーンチェンジ
を検出することが出来る。
【0011】また、本発明のデジタル動画像処理装置
は、処理対象のデジタル動画像のシーンチェンジを検出
する手段と、検出された各シーンチェンジのフレーム画
像と予め記録されている1以上の参照用のフレーム画像
とを比較して、その類似の有無を判定する手段と、前記
参照用のフレーム画像と類似していると判定された各フ
レーム画像について、処理対象デジタル動画像内のフレ
ーム位置を記録する手段とを具備することを特徴とす
る。
【0012】このデジタル動画像処理装置においては、
番組の構成の変わり目などに対応するフレーム画像など
が予め参照用のフレーム画像として記録されており、こ
の参照用のフレーム画像と処理対象のデジタル動画像の
シーンチェンジフレーム画像との突き合わせによって、
意味のあるシーンチェンジが検出される。この場合にお
いても、数多くのシーンチェンジの中で、番組の構成の
変わり目などに対応した意味のあるシーンチェンジをイ
ンデックス情報として使用することが可能となる。
【0013】また、同種類の複数のデジタル画像間でシ
ーンチェンジフレーム画像の突き合わせを行うことによ
って求めた高頻度の類似フレーム画像を前述の参照用フ
レーム画像として使用することにより、新たに処理対象
となったデジタル動画像については、その参照用フレー
ム画像との比較のみで意味のあるシーンチェンジフレー
ムを検出できるようになり、処理効率を向上を図ること
が出来る。
【0014】また、本発明のデジタル動画像処理装置
は、処理対象のデジタル動画像のシーンチェンジを検出
する手段と、検出された各シーンチェンジのフレーム画
像と予め記録されている複数の参照用のフレーム画像と
を比較して、その類似の有無を判定する手段と、前記参
照用のフレーム画像と類似していると判定された各フレ
ーム画像について、処理対象デジタル動画像内のフレー
ム位置を記録する手段と、この記録結果を用いて、前記
参照用フレームと類似していると判定された前記処理対
象デジタル動画像内の連続した複数のシーンチェンジフ
レームを含む類似画像区間を検出する手段と、この類似
画像区間の検出結果に基づいて、前記処理対象のデジタ
ル動画像の検索または表示を制御する手段とを具備する
ことを特徴とする。
【0015】処理対象デジタル動画像内の連続したシー
ンチェンジが複数の参照用フレームそれぞれと類似して
いると判定された区間については、複数の参照用フレー
ムで代表される動画像と同一の動画像を含む類似画像区
間となる。よって、この類似画像区間の検出結果に基づ
いて処理対象のデジタル動画像の検索または表示を制御
することにより、同一動画像の区間を省いたスキップ表
示や、あるいは同一動画像部のみを検索して表示すると
いった制御を行うことが出来る。
【0016】例えば、新しいニュースを少しずつ入れな
がら古いニュースと一緒に放送するといったタイプのニ
ュース番組では、一度見たニュースの差分を視聴したい
という要望があるが、本装置を用いることにより、既に
見たニュースについてはスキップし、新しく加わったニ
ュースだけを視聴することが可能となる。画像データベ
ースの中から、ある動画像と同一の動画像区間を検索し
て表示するといった制御が可能となる。
【0017】
【発明の実施の形態】以下、図面を参照して本発明の実
施形態を説明する。図1には、本発明の一実施形態に係
るデジタル動画像処理装置のシステム構成が示されてい
る。このデジタル動画像処理装置はランダムアクセス可
能な記録媒体にデジタル動画像を記録し、その記録媒体
を用いてデジタル動画像の検索または表示を行うもので
あり、その特徴とする機能は、デジタル動画像の解析機
能である。この解析機能は、同種類の複数のデジタル動
画像を用いてそのシーンチェンジフレームを解析するも
のであり、これにより意味のあるインデックスを自動付
与したり、あるいはある特定の画像を検索したり、ある
いはある特定の画像を省いたスキップ表示を行うことが
可能となる。
【0018】このデジタル動画像処理装置のデジタル動
画像処理部#1は、図示のように、デジタル動画像記録
部101、シーンチェンジ検出部102、シーンチェン
ジ検出結果記録部103、シーンチェンジフレーム画像
解析部104、および解析結果記録部105から構成さ
れている。
【0019】デジタル動画像記録部101は複数のデジ
タル動画像を記録するためのものであり、ランダムアク
セス可能な記録メディアを用いて実現されている。メデ
ィアはハードディスクでもDVD−RAMでもビデオテ
ープでも半導体メモリでも構わない。
【0020】本実施形態ではデジタル動画像記録部10
1には同種類の複数のデジタル動画像が記録されてあ
り、これらデジタル動画像に共通の特徴を抽出すること
により、それらデジタル動画像の検索または表示のため
のインデックス作成などが行われる。ここで、同種類の
デジタル動画像とは、少なくとも同一フレーム画像を含
むものであり、例えば、毎朝7時からTV放送されるあ
る特定のニュース番組についての複数回分の記録映像、
週一回TV放送されるある特定のバラエティー番組につ
いての複数回分の記録映像などである。これらTV放送
番組においては、番組のオープニングや、エンディング
などで共通の映像ソースが用いられていることが多い。
特に、バラエティー番組においては、いくつかのサブ番
組で構成されていることが多く、各サブ番組のオープニ
ングでは共通の映像ソースが用いられている。
【0021】シーンチェンジ検出部102は、デジタル
動画像記録部101から一つずつデジタル動画像を取り
出し、そのデジタル動画像内の時間的に前後するフレー
ム同士を比較することによってシーンチェンジを検出す
る。この場合、同一シーン内の連続するフレーム画像は
時間的な相関が高く互いに類似しているが、シーンチェ
ンジ位置ではその前と後ではフレーム画像は大きく変化
し、フレーム間の相関はほとんど無くなる。シーンチェ
ンジ位置は、このような時間的に前後するフレーム間の
非類似度に基づいて検出される。
【0022】具体的には、例えば、特公平5−7427
3号に開示されている方法をシーンチェンジ(カット)
の検出に使用することができる。この方法によれば、連
続記録した画像シーケンスに対し、フレーム毎に差分画
像及び原画像の統計量を連続的に算出し、相対的な変化
を抽出することよりシーンチェンジを検出する。シーン
チェンジには瞬間的に場面が変わるものとフェードイン
・フェードアウトによって徐々に場面が切り替わるリゾ
ルブというシーンチェンジがある。リゾルブのシーンチ
ェンジの場合は場面が変わりきった直後のフレーム画像
を検出結果とする。リゾルブの検出は、たとえば文献
(信学論D−II Vol.J79−D−II No.
4pp.538−546 1996 4月「映像ショッ
ト切換え検出法とその映像アクセスインターフェース」
谷口 行信、外村 佳伸、浜田 洋)に紹介されている
手法などがある。
【0023】シーンチェンジ検出部102によって検出
された各デジタル動画像のシーンチェンジフレームは、
シーンチェンジ検出結果記録部103に記録される。記
録される情報は検出されたフレーム番号である。また対
応するフレーム画像も一緒に記録しておくようにしても
良い。記録するメディアはハードディスクでもDVD−
RAMでもビデオテープでも半導体メモリでも構わな
い。また、デジタル動画像記録部101を記録装置とし
て用いても良い。
【0024】シーンチェンジフレーム画像解析部104
は、シーンチェンジ検出結果記録部103に記録された
検出結果を用いて、シーンチェンジのフレーム画像を異
なるデジタル動画像同士で付き合わせて他のデジタル動
画像からの類似フレームの出現頻度を計算するものであ
り、これにより、同種類の複数のデジタル画像で共通に
使用されているフレーム画像のように、他のデジタル画
像から高い頻度で検出された類似フレームについてのシ
ーンチェンジフレームフレーム位置が検出される。この
シーンチェンジフレーム画像解析部104による解析結
果は、解析結果記録部105に記録され、デジタル動画
像記録部101上のデジタル動画像を検索または表示す
るためのインデックス情報などとして使用される。ま
た、解析結果記録部105の内容は、同種類の他のデジ
タル動画像を新しく処理する場合に比較対象画像として
使用されるテンプレートフレーム画像としても利用され
る。解析結果記録部105としてはデジタル動画像記録
部101を利用することができる。
【0025】このように、デジタル動画像処理部#1に
おいては、シーンチェンジフレームの解析を行うことに
より、数多くのシーンチェンジの中で、番組の構成の変
わり目に等に対応した意味のあるシーンチェンジを検出
することが可能となる。
【0026】デジタル動画像処理部#2は、同種類の他
のデジタル動画像を新しく処理する場合に、デジタル動
画像処理部#1の解析結果記録部105の内容を使用し
て新たなデジタル動画像に対する画像解析処理を行うも
のである。
【0027】すなわち、このデジタル動画像処理部#2
では、デジタル動画像記録部111から処理対処の新た
なデジタル動画像が取り出され、その前後のフレームを
比較することでシーンチェンジのフレームがシーンチェ
ンジ検出部112によって検出される。検出されたシー
ンチェンジのフレーム番号はシーンチェンジ検出結果記
録部113に記録される。シーンチェンジフレーム画像
比較部114では、処理対処の新たなデジタル動画像の
各シーンチェンジのフレーム画像と、解析結果記録部1
05に記録されているテンプレートフレーム画像とが比
較されて、類似の有無が検出される。テンプレートフレ
ーム画像と類似するフレーム画像については、そのフレ
ーム番号が、処理対処の新たなデジタル動画像のインデ
ックス情報などとして出力結果記録部115に記録され
る。
【0028】なお、このデジタル動画像処理部#2のデ
ジタル動画像記録部111、シーンチェンジ検出部11
2、シーンチェンジ検出結果記録部113は、デジタル
動画像処理部#1のデジタル動画像記録部101、シー
ンチェンジ検出部102、シーンチェンジ検出結果記録
部103とそれぞれ同一の機能を有する。また、デジタ
ル動画像処理部#1とデジタル動画像処理部#2は独立
した別々の装置として実現しても良いし、また一つの装
置として実現しても良い。一つの装置として実現する場
合は、同一機能部についてはデジタル動画像処理部#1
と#2間で共用することが出来る。
【0029】次に、図2および図3の概念図を用いてシ
ーンチェンジフレーム解析部104の処理概要を説明す
る。ここでは、同種類の動画像(201、202)とし
て、それらが互いに例えば毎日の7時のニュースであっ
たり、あるいは毎週一回放映されるバラエティー番組で
ある場合などのように、同種類の動画像を処理対象とす
る。同種類の動画像なので動画像の長さは基本的に同じ
である。しかし、シーンチェンジフレーム解析部104
は処理対象とする範囲を設定できるため、処理対象の動
画像の長さが必ずしも同じである必要はない。動画像2
01,202のどちらにおいても、シーンチェンジ検出
によって検出された各シーンチェンジのフレーム画像2
03,205は概念上動画像のシーケンスの中に多数の
個所で検出される。通常は、シーンチェンジは約5秒に
一回の割合で検出される。
【0030】前述したように、同種類の動画像の中には
定番で使われる同フレーム画像(204)すなわちオー
プニングのタイトルや各サブセッションのタイトルフレ
ーム画像が存在する。時間軸方向に同フレーム画像はほ
ぼ同時刻に現れることが多い。図2は同時刻に同フレー
ム画像が出現している場合を示しており、図3は時間的
に異なるフレーム位置に同フレーム画像が出現している
場合を示している。
【0031】番組内で定時に始まるサブセッションに関
しては、解析する時間幅を限定して処理を行うことがで
きる。一方、あるバラエティー番組では不定期にサブセ
ッションがあったりなかったり、時間的にもかなりずれ
てサブセッションが設定されたりすることがある。その
場合は、事前の知識がなければすべての組み合わせで同
フレーム画像204が他のデジタル動画像の中にあるか
どうかを調べる。
【0032】次に、図4を参照して、デジタル動画像の
解析手順を説明する。ここでは、図5に示されているよ
うに、「NO.1」から「NO.5」の5つのデジタル
動画像がデジタル動画像記録部101に記録されている
場合を想定する。これら「NO.1」から「NO.5」
の5つのデジタル動画像は、異なる日時に放送された同
一のニュース番組の動画像である。
【0033】まず、これら5つのデジタル動画像それぞ
れについてのシーンチェンジが検出された後、次の手順
で、シーンチェンジフレームの解析が行われる。すなわ
ち、最初に、ステップ301で、処理対象となる一つの
デジタル動画像(ここでは、「NO.1」の動画像とす
る)について未処理のシーンチェンジフレーム画像が存
在するかどうか判定する。未処理のシーンチェンジが存
在する場合は、ステップ302で、同種類の他の動画像
(「NO.2」〜「NO.4」)から得られたシーンチ
ェンジフレーム画像それぞれとの比較が行われる。ステ
ップ302で動画像「NO.1」内のあるシーンチェン
ジフレーム画像が、他のシーンチェンジフレーム画像
(「NO.2」〜「NO.4」)のいずれかに含まれて
いるあるシーンチェンジフレーム画像と同フレーム画像
であると判定された場合には、ステップ303にて、そ
の対応関係が記録される。
【0034】続いて、ステップ301へ戻って未処理の
シーンチェンジフレーム画像が存在するかどうかを判定
する。未処理のシーンチェンジフレーム画像がなくなっ
た場合は、ステップ304に進み、そこで、ステップ3
03の記録結果を用いることにより、処理対象のデジタ
ル動画像のすべてのシーンチェンジフレーム画像それぞ
れについて、他の動画像に存在する同フレーム画像の数
をカウントする。次に、ステップ305で、処理対象の
デジタル動画像内のシーンチェンジフレーム画像の中か
ら、ある閾値以上のカウント数を有するシーンチェンジ
フレーム画像を類似フレーム画像として検出する。そし
て、この検出結果がステップ306でインデックス情報
として記録部に記録される。
【0035】図5の例においては、オープニングと、天
気予報の部分で共通の映像ソースが用いられているの
で、「NO.1」の動画像から検出されたシーンチェン
ジフレームA1〜A8の内、フレームA3については、
「NO.2」の動画像中のシーンチェンジフレームB3
と同フレーム画像であることが検出されると共に、「N
O.3」の動画像の中のシーンチェンジフレームC4、
および「NO.4」の動画像の中のシーンチェンジフレ
ームD4ともそれぞれ同フレーム画像であることが検出
される。よって、フレームA3の画像は出現頻度の高い
類似フレーム画像として決定される。同様に、「NO.
1」の動画像の中のシーンチェンジフレームA8につい
ても、他のデジタル動画像それぞれのシーンチェンジフ
レームB8,C9,D10と同フレーム画像であること
が検出され、A8は出現頻度の高い類似フレーム画像と
して決定される。
【0036】この場合、処理対象の「NO.1」の動画
像の中のシーンチェンジフレームの中で、シーンチェン
ジフレームA3とA8の二つが意味のあるシーンチェン
ジフレームとして選択され、その位置が検索または表示
のためのインデックスとして用いられることになる。
【0037】また、ステップ306では、図6のような
インデックス情報を生成するようにしてもよい。図6で
は、検出された2つの類似フレーム画像に対応する2つ
のインデックス情報(INDEX1,INDEX2)が
作成されている。INDEX1は共通の番組オープニン
グタイトルがどのデジタル動画像のどのフレーム番号に
存在するかを示すものであり、またINDEX2には、
天気予報のタイトルがどのデジタル動画像のどのフレー
ム番号に存在するかを示すものである。
【0038】図6のように複数のデジタル動画像に共通
に使用可能なインデックス情報を作成しておくことによ
り、例えば、複数のデジタル動画像の中から天気予報の
画像部分のみを順次検索して表示するといった処理を行
うことが可能となる。
【0039】次に、図7のフローチャートを参照して、
図4の処理で得られた解析結果(今後、このシーンチェ
ンジフレーム画像をテンプレートフレーム画像と呼ぶ)
を用いて新規に処理対象となった同種類の動画像からテ
ンプレートフレーム画像と同一のシーンチェンジフレー
ム画像を検出する処理を説明する。
【0040】ここでは、図8のように、既に解析されて
いる動画像「NO.1」〜「NO.4」の解析結果を用
いて、同種類の新たな動画像「NO.5」を解析する場
合を想定する。
【0041】まず、ステップ401で、未処理のテンプ
レートフレーム画像がないか判定する。未処理のテンプ
レートフレーム画像が存在する場合は、ステップ402
で、新規に処理対象となった動画像「NO.5」から得
られたシーンチェンジフレーム画像それぞれとテンプレ
ートフレーム画像を比較する。ステップ403では、同
フレーム画像と判定された場合その対応関係を記録す
る。そして、ステップ401にもどって、未処理のテン
プレートフレーム画像があれば402の処理を続け、な
い場合は404で解析結果を記録する。
【0042】このようにテンプレートフレーム画像を一
つずつ取り出して、新規に処理対象となった動画像「N
O.5」から得られたシーンチェンジフレーム画像それ
ぞれと比較することにより、図8の例においては、処理
対象の「NO.5」の動画像の中のシーンチェンジフレ
ームの中で、テンプレートフレーム画像と同フレーム画
像となるシーンチェンジフレームE4とE10の二つが
意味のあるシーンチェンジフレームとして選択され、そ
の位置が動画像「NO.5」の検索または表示のための
インデックスとして用いられることになる。
【0043】また、図6のINDEX1の情報中に「N
O.5、フレーム番号E4」を、INDEX2の情報中
に「NO.5、フレーム番号E10」を追加するように
してもよい。これにより、5つのデジタル動画像に共通
のインデックスが生成されることになる。また、テンプ
レートフレーム画像に予めその画像を意味するタイトル
(例えば、オープニング、天気予報など)などを利用者
が設定しておけば、各デジタル動画像毎にその概略的な
番組構造をサブ番組名(オープニング、天気予報など)
付きのアイコンなどを用いて模式的に画面表示したり、
あるいはそのアイコンと該当する画像をリンクさせてお
き、アイコン操作によって自動的に対応する動画像を表
示するといった制御を実現することが可能となる。
【0044】なお、図7の処理においては、テンプレー
トフレーム画像は、図4の処理で検出した結果を用いて
いるが、このテンプレートフレーム画像は事前に人がマ
ニュアルで与えてもかまわない。
【0045】また、動画像内の全てのシーンチェンジフ
レーム画像を比較対象とする必要はなく、探索範囲を限
定してもかまわない。例えば、検出したいシーンチェン
ジフレーム画像が動画像のある時間帯にほぼ決まってい
る場合は、その時間帯のみに適用することにより処理時
間や検出精度を上げることができる。
【0046】シーンチェンジフレーム画像の比較方法で
あるが、基本的には、まったく同じかどうかを判定すれ
ば良いのでフレーム間の各画像のRGB値の差分の絶対
和がある閾値以下であれば同一とみなすという方法を適
用できる。しかし、すべての画素の差分をとると時間が
かかるので、最初に、フレーム画像中から適当に選んだ
少ない画素を使って大まかな比較を行い、これによって
明らかに異なるものを排除して比較対象フレームを絞り
込んだ後に、今度は、精密に同一フレーム画像かどうか
を全画素比較によって判定するという方法を用いること
もできる。これにより、処理の高速化を図ることができ
る。
【0047】図9には、図7の解析結果を利用して行わ
れる動画像検索または表示処理の手順が示されている。
すなわち、まず、ステップ501で、図4の処理または
マニュアル操作で与えられたテンプレート画像の中に未
処理のテンプレートフレーム画像がないか判定する。未
処理のテンプレートフレーム画像が存在する場合は、ス
テップ502で、検索または表示対象の動画像から得ら
れたシーンチェンジフレーム画像それぞれとテンプレー
トフレーム画像を比較する。ステップ503では、同フ
レーム画像と判定された場合その対応関係を記録する。
そして、ステップ501にもどって、未処理のテンプレ
ートフレーム画像があれば502の処理を続け、ない場
合は504で解析結果を記録する。そして、この解析結
果に基づいて、デジタル動画像の検索または表示を行
う。
【0048】例えば、新しいニュースを少しずつ入れな
がら古いニュースと一緒に放送するタイプのニュース番
組では、一度見たニュースの差分のニュースを見たいと
いう要求が強い。この場合、視聴済みのニュース番組を
参照画像として使用し、その視聴済みのニュース番組か
らシーンチェンジフレーム画像を抽出し、そのシーンチ
ェンジフレーム画像を前述のテンプレートフレーム画像
などとして利用して、新規のニュースに対して類似フレ
ーム画像を検出し、類似フレームの存在する区間を省い
た新規デジタル動画像を生成し表示することにより、新
しく加わったニュースのみを視聴することができる。
【0049】類似フレーム区間の検出とそれを用いた検
索/表示制御の例を図10に示す。図10において、例
えば動画像「NO.1」が視聴済みの番組であり、動画
像「NO.2」が新たに視聴しようとする番組である場
合には、動画像「NO.1」と動画像「NO.2」との
間で類似フレームが連続して現れる区間(IN1〜OU
T1、IN2〜OUT2、IN3〜OUT3)が検出さ
れ、それら期間をスキップして動画像「NO.2」の検
索および表示が行われる。この場合の処理手順を図11
に示す。
【0050】すなわち、動画像「NO.1」の全てのシ
ーンチェンジフレームをテンプレートして使用し、この
各テンプレートを順番に動画像「NO.2」のシーンチ
ェンジフレームそれぞれと比較していくことにより、同
フレーム画像として検出されたフレーム番号の対応関係
が記録されていく(ステップ601〜603)。そし
て、この記録結果をステップ602で解析することによ
り、同フレーム(類似フレーム)であると検出された動
画像「NO.2」内の連続するシーンチェンジフレーム
の区間がステップ605にて検出され、その検出された
区間を用いて動画像「NO.2」の検索/表示の制御が
ステップ606で行われる。
【0051】同様に、動画像「NO.4」が視聴済みの
番組であり、動画像「NO.5」が新たに視聴しようと
する番組である場合には、動画像「NO.4」と動画像
「NO.5」との間で類似フレームが連続して現れる区
間が検出され、それら期間をスキップして動画像「N
O.5」の検索および表示が行われる。
【0052】また、逆に、同一の画像部分を検索するこ
ともできる。図10の例では、例えば、動画像「NO.
1」の動画区間(IN1〜OUT1)のシーンチェンジ
フレーム画像を順番にテンプレートフレーム画像として
使用して、別の動画像「NO.2」〜「NO.5」それ
ぞれのシーンチェンジフレーム画像と比較して同フレー
ム画像の位置を検出することにより、同フレーム画像が
連続して多数含まれる領域を特定することが出来る。
【0053】したがって、多数のデジタル動画像の収録
されたデータベースから、あるデジタル動画像に類似ま
たは同種類のデジタル動画像を見つけたい場合、参照さ
れるデジタル動画像から検出されたシーンチェンジフレ
ーム画像を、多数のデジタル動画像からのシーンチェン
ジフレーム画像に対して比較し、類似画像の多数含まれ
るデジタル動画像を検索または表示することにより、同
種類のデジタル動画像を見つけ出すことができる。
【0054】以上のように、本実施形態においては、類
似したフレーム画像が高い頻度で検出されたシーンチェ
ンジのフレーム位置を記録していくことにより、数多く
のシーンチェンジの中で、番組の構成の変わり目に等に
対応した意味のあるシーンチェンジをインデックス情報
として使用することが可能となり、番組をサブ番組毎に
分類してその検索や表示を容易に行うことが出来る。ま
た、シーンチェンジフレーム同士の比較であるので、全
てのフレームを比較する場合に比し、演算処理量を大幅
に低減できる。したがって、専用のハードウェアを用い
ずとも、汎用のプロセッサを用いたソフトウェアによる
処理のみで、意味のあるシーンチェンジを検出すること
が出来る。よって、図4、図7、図9、および図11の
処理の全てはコンピュータプログラムを用いて実現で
き、これをCD−ROMなどの記録媒体を通じてコンピ
ュータに導入して実行させることにより、本実施形態と
同等の効果を得ることが可能となる。
【0055】また、本実施形態は、ユーザが自ら録画ま
たは配信などによって自動取得したデジタル動画像の検
索、表示制御のためにそのデジタル動画像を解析する場
合について説明したが、同種類の複数のデジタル動画像
から構成される動画像タイトルを作成する場合にも同様
にして適用することが出来る。この場合、複数のデジタ
ル動画像と同一の記録媒体上に図6のようなインデック
ス情報を記録しておくことにより、そのインデックス情
報を用いた様々な検索/表示制御を実現することができ
る。
【0056】
【発明の効果】以上のように、本発明によれば、多数の
シーンチェンジフレーム画像の中から意味のあるシーン
チェンジフレーム画像を自動検出できるようになり、こ
の検出結果を用いてインデックスの作成や、様々な検
索、表示制御処理を行うことが可能となる。
【図面の簡単な説明】
【図1】本発明の一実施形態に係るデジタル動画像処理
装置のシステム構成を示すブロック図。
【図2】同実施形態におけるシーンチェンジフレーム解
析の様子を説明するための第1の図。
【図3】同実施形態におけるシーンチェンジフレーム解
析の様子を説明するための第2の図。
【図4】同実施形態に適用されるシーンチェンジフレー
ム解析処理の手順を示すフローチャート。
【図5】同実施形態において扱われる複数のデジタル動
画像間における同フレーム画像の対応関係の一例を示す
図。
【図6】同実施形態によるシーンチェンジフレーム解析
処理で得られるインデックス情報の一例を示す図。
【図7】同実施形態において既に検出されたシーンチェ
ンジフレームを用いて新たな同種類の動画像を解析する
処理の手順を示すフローチャート。
【図8】同実施形態において新たな同種類の動画像を解
析する処理の様子を示す図。
【図9】同実施形態においてシーンチェンジフレーム解
析結果を用いてデジタル動画像を検索または表示する処
理の手順を示すフローチャート。
【図10】同実施形態におけるシーンチェンジフレーム
解析を用いて類似画像区間を検出する様子を示す図。
【図11】同実施形態においてシーンチェンジフレーム
解析結果を用いた類似画像区間検出処理を利用してデジ
タル動画像を検索または表示する処理の手順を示すフロ
ーチャート。
【符号の説明】
101…デジタル動画像記録部 102…シーンチェンジ検出部 103…シーンチェンジ検出結果記録部 104…シーンチェンジフレーム画像解析部 105…解析結果記録部 111…デジタル動画像記録部 112…シーンチェンジ検出部 113…シーンチェンジ検出結果記録部 114…シーンチェンジフレーム画像比較部 115…出力結果記録部 201…デジタル動画像 202…デジタル動画像 203,205…シーンチェンジフレーム画像 204…同フレーム画像

Claims (10)

    【特許請求の範囲】
  1. 【請求項1】 処理対象のデジタル動画像を含む同種類
    の複数のデジタル動画像それぞれのシーンチェンジを検
    出する手段と、 検出されたシーンチェンジのフレーム画像を異なるデジ
    タル動画像同士で比較し、前記処理対象のデジタル動画
    像から検出されたシーンチェンジのフレーム画像と類似
    したフレーム画像を、他のデジタル動画像から検出する
    手段と、 類似したフレーム画像が高い頻度で検出された前記処理
    対象デジタル動画像内のシーンチェンジのフレーム位置
    を記録する手段とを具備することを特徴とするデジタル
    動画像処理装置。
  2. 【請求項2】 処理対象のデジタル動画像のシーンチェ
    ンジを検出する手段と、 検出された各シーンチェンジのフレーム画像と予め記録
    されている1以上の参照用のフレーム画像とを比較し
    て、その類似の有無を判定する手段と、 前記参照用のフレーム画像と類似していると判定された
    各フレーム画像について、処理対象デジタル動画像内の
    フレーム位置を記録する手段とを具備することを特徴と
    するデジタル動画像処理装置。
  3. 【請求項3】 処理対象のデジタル動画像のシーンチェ
    ンジを検出する手段と、 検出された各シーンチェンジのフレーム画像と予め記録
    されている1以上の参照用のフレーム画像とを比較し
    て、その類似の有無を判定する手段と、 前記参照用のフレーム画像と類似していると判定された
    各フレーム画像について、処理対象デジタル動画像内の
    フレーム位置を記録する手段と、 この記録結果を利用して、前記処理対象のデジタル動画
    像を検索または表示する手段とを具備することを特徴と
    するデジタル動画像処理装置。
  4. 【請求項4】 処理対象のデジタル動画像のシーンチェ
    ンジを検出する手段と、 検出された各シーンチェンジのフレーム画像と予め記録
    されている複数の参照用のフレーム画像とを比較して、
    その類似の有無を判定する手段と、 前記参照用のフレーム画像と類似していると判定された
    各フレーム画像について、処理対象デジタル動画像内の
    フレーム位置を記録する手段と、 この記録結果を用いて、前記参照用フレームと類似して
    いると判定された前記処理対象デジタル動画像内の連続
    した複数のシーンチェンジフレームを含む類似画像区間
    を検出する手段と、 この類似画像区間の検出結果に基づいて、前記処理対象
    のデジタル動画像の検索または表示を制御する手段とを
    具備することを特徴とするデジタル動画像処理装置。
  5. 【請求項5】 前記同種類の複数のデジタル動画像は、
    少なくとも同一のフレーム画像を含むことを特徴とする
    請求項1乃至4記載のデジタル動画像処理装置。
  6. 【請求項6】 デジタル動画像を処理するデジタル動画
    像処理方法であって、 処理対象のデジタル動画像含む同種類の複数のデジタル
    動画像それぞれのシーンチェンジを検出し、 検出されたシーンチェンジのフレーム画像を異なるデジ
    タル動画像同士で比較して、前記処理対象のデジタル動
    画像から検出されたシーンチェンジのフレーム画像と類
    似したフレーム画像を、他のデジタル動画像から検出
    し、 類似したフレーム画像が高い頻度で検出された前記処理
    対象デジタル動画像内のシーンチェンジのフレーム位置
    を記録することを特徴とするデジタル動画像処理方法。
  7. 【請求項7】 デジタル動画像を処理するデジタル動画
    像処理方法であって、 処理対象のデジタル動画像のシーンチェンジを検出し、 検出された各シーンチェンジのフレーム画像と予め記録
    されている1以上の参照用のフレーム画像とを比較し
    て、その類似の有無を判定し、 前記参照用のフレーム画像と類似していると判定された
    各フレーム画像について、前記処理対象デジタル動画像
    内のフレーム位置を記録することを特徴とするデジタル
    動画像処理方法。
  8. 【請求項8】 デジタル動画像を処理するコンピュータ
    プログラムを記録した記録媒体であって、 前記コンピュータプログラムは、 前記処理対象のデジタル動画像含む同種類の複数のデジ
    タル動画像それぞれのシーンチェンジを検出する手順
    と、 検出されたシーンチェンジのフレーム画像を異なるデジ
    タル動画像同士で比較して、前記処理対象のデジタル動
    画像から検出されたシーンチェンジのフレーム画像と類
    似したフレーム画像を、他のデジタル動画像から検出す
    る手順と、 類似したフレーム画像が高い頻度で検出された前記処理
    対象デジタル動画像内のシーンチェンジのフレーム位置
    を記録する手順とを含むことを特徴とする記録媒体。
  9. 【請求項9】 デジタル動画像を処理するコンピュータ
    プログラムを記録した記録媒体であって、 前記コンピュータプログラムは、 前記処理対象のデジタル動画像のシーンチェンジを検出
    する手順と、 検出された各シーンチェンジのフレーム画像と予め記録
    されている1以上の参照用のフレーム画像とを比較し
    て、その類似の有無を判定する手順と、 前記参照用のフレーム画像と類似していると判定された
    各フレーム画像について、前記処理対象デジタル動画像
    内のシーンチェンジのフレーム位置を記録する手順とを
    含むことを特徴とする記録媒体。
  10. 【請求項10】 同種類の複数のデジタル動画像を記録
    した記録媒体であって、 前記複数のデジタル動画像間で共通のフレーム画像が使
    用されているシーンチェンジ位置を前記各デジタル動画
    像毎に示す情報が、インデックス情報として記録されて
    いることを特徴とする記録媒体。
JP06118698A 1998-03-12 1998-03-12 デジタル動画像処理装置およびデジタル動画像処理方法 Expired - Lifetime JP4021545B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP06118698A JP4021545B2 (ja) 1998-03-12 1998-03-12 デジタル動画像処理装置およびデジタル動画像処理方法
US09/266,611 US6795127B1 (en) 1998-03-12 1999-03-11 Video processing system and video processing method
US10/940,670 US7417690B2 (en) 1998-03-12 2004-09-15 Video processing system and video processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP06118698A JP4021545B2 (ja) 1998-03-12 1998-03-12 デジタル動画像処理装置およびデジタル動画像処理方法

Publications (2)

Publication Number Publication Date
JPH11259061A true JPH11259061A (ja) 1999-09-24
JP4021545B2 JP4021545B2 (ja) 2007-12-12

Family

ID=13163888

Family Applications (1)

Application Number Title Priority Date Filing Date
JP06118698A Expired - Lifetime JP4021545B2 (ja) 1998-03-12 1998-03-12 デジタル動画像処理装置およびデジタル動画像処理方法

Country Status (2)

Country Link
US (2) US6795127B1 (ja)
JP (1) JP4021545B2 (ja)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007158712A (ja) * 2005-12-05 2007-06-21 Canon Inc 画像符号化装置及び画像符号化方法
US7248782B2 (en) 2000-10-06 2007-07-24 Nec Corporation Image retrieving apparatus, image retrieving method and recording medium for recording program to implement the image retrieving method
JP2008253568A (ja) * 2007-04-05 2008-10-23 Toshiba Corp 医用画像診断装置
WO2008143345A1 (ja) * 2007-05-23 2008-11-27 Nec Corporation コンテンツ分割位置判定装置、コンテンツ視聴制御装置及びプログラム
US7801420B2 (en) 2005-05-17 2010-09-21 Kabushiki Kaisha Toshiba Video image recording and reproducing apparatus and video image recording and reproducing method
JP2010258576A (ja) * 2009-04-22 2010-11-11 Mitsubishi Electric Corp シーンチェンジ検出装置および映像記録装置
JP2013122755A (ja) * 2011-11-10 2013-06-20 Canon Inc イベント検出装置及びその方法、動作認識装置及びその方法、プログラム

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4047264B2 (ja) * 2003-09-30 2008-02-13 株式会社東芝 動画像処理装置、動画像処理方法および動画像処理プログラム
JP5060224B2 (ja) * 2007-09-12 2012-10-31 株式会社東芝 信号処理装置及びその方法
US8861598B2 (en) * 2008-03-19 2014-10-14 Cisco Technology, Inc. Video compression using search techniques of long-term reference memory
US8184163B2 (en) * 2009-03-05 2012-05-22 Tektronix, Inc. Methods and systems for detecting and locating skipped frames in a video sequence

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2518503B2 (ja) * 1993-03-08 1996-07-24 日本電気株式会社 画面切り替え検出方法
JP3200784B2 (ja) 1993-07-29 2001-08-20 キヤノン株式会社 動画像検索方法及び装置
US5835163A (en) * 1995-12-21 1998-11-10 Siemens Corporate Research, Inc. Apparatus for detecting a cut in a video
US5767922A (en) * 1996-04-05 1998-06-16 Cornell Research Foundation, Inc. Apparatus and process for detecting scene breaks in a sequence of video frames
US5767923A (en) * 1996-06-07 1998-06-16 Electronic Data Systems Corporation Method and system for detecting cuts in a video signal
TW303555B (en) * 1996-08-08 1997-04-21 Ind Tech Res Inst Digital data detecting method
CA2190785A1 (en) * 1996-11-20 1998-05-20 Nael Hirzalla Method of processing a video stream
US6137544A (en) * 1997-06-02 2000-10-24 Philips Electronics North America Corporation Significant scene detection and frame filtering for a visual indexing system

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7248782B2 (en) 2000-10-06 2007-07-24 Nec Corporation Image retrieving apparatus, image retrieving method and recording medium for recording program to implement the image retrieving method
US7801420B2 (en) 2005-05-17 2010-09-21 Kabushiki Kaisha Toshiba Video image recording and reproducing apparatus and video image recording and reproducing method
JP2007158712A (ja) * 2005-12-05 2007-06-21 Canon Inc 画像符号化装置及び画像符号化方法
JP4574530B2 (ja) * 2005-12-05 2010-11-04 キヤノン株式会社 画像符号化装置及び画像符号化方法
JP2008253568A (ja) * 2007-04-05 2008-10-23 Toshiba Corp 医用画像診断装置
WO2008143345A1 (ja) * 2007-05-23 2008-11-27 Nec Corporation コンテンツ分割位置判定装置、コンテンツ視聴制御装置及びプログラム
JP5257356B2 (ja) * 2007-05-23 2013-08-07 日本電気株式会社 コンテンツ分割位置判定装置、コンテンツ視聴制御装置及びプログラム
JP2010258576A (ja) * 2009-04-22 2010-11-11 Mitsubishi Electric Corp シーンチェンジ検出装置および映像記録装置
JP2013122755A (ja) * 2011-11-10 2013-06-20 Canon Inc イベント検出装置及びその方法、動作認識装置及びその方法、プログラム

Also Published As

Publication number Publication date
US20050041157A1 (en) 2005-02-24
JP4021545B2 (ja) 2007-12-12
US6795127B1 (en) 2004-09-21
US7417690B2 (en) 2008-08-26

Similar Documents

Publication Publication Date Title
US6993245B1 (en) Iterative, maximally probable, batch-mode commercial detection for audiovisual content
US6964021B2 (en) Method and apparatus for skimming video data
EP1040656B1 (en) Apparatus and method for locating a commercial disposed within a video data stream
US6928233B1 (en) Signal processing method and video signal processor for detecting and analyzing a pattern reflecting the semantics of the content of a signal
KR100464075B1 (ko) 비디오 하이라이트 자동 생성 방법 및 장치
US7362950B2 (en) Method and apparatus for controlling reproduction of video contents
US20070101266A1 (en) Video summary description scheme and method and system of video summary description data generation for efficient overview and browsing
US7734144B2 (en) Method and apparatus for editing source video to provide video image stabilization
JP4332988B2 (ja) 信号処理装置及び方法
JP2002140712A (ja) Av信号処理装置および方法、プログラム、並びに記録媒体
KR20030026529A (ko) 키프레임 기반 비디오 요약 시스템
JP2002117037A (ja) 画像検索装置、並びに画像検索方法及びこれが書き込まれた記録媒体
WO2001027876A1 (en) Video summary description scheme and method and system of video summary description data generation for efficient overview and browsing
JP2002125199A (ja) フレーム情報記述方法、フレーム情報生成装置及び方法、映像再生装置及び方法並びに記録媒体
JP4021545B2 (ja) デジタル動画像処理装置およびデジタル動画像処理方法
JPH09219835A (ja) 映像要約方法および装置
JP4215681B2 (ja) 動画像処理装置及びその方法
JP2000285242A (ja) 信号処理方法及び映像音声処理装置
JP4512969B2 (ja) 信号処理装置及び方法、記録媒体、並びにプログラム
KR20050033075A (ko) 비디오 이미지들의 시퀀스에서 콘텐트 속성을 검출하는 유닛 및 방법
JP4252915B2 (ja) データ処理装置およびデータ処理方法
JP2000069420A (ja) 映像処理装置
JP3024574B2 (ja) 動画像検索装置
JPH11261909A (ja) マルチメディアデータ処理装置および方法,記録媒体
KR20020014857A (ko) 샷 세그멘테이션 정보를 이용한 비디오 스키밍 시스템

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20041208

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070807

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070824

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20070925

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20070927

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101005

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101005

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111005

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111005

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121005

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131005

Year of fee payment: 6

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313115

Free format text: JAPANESE INTERMEDIATE CODE: R313121

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

EXPY Cancellation because of completion of term
S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313117

R371 Transfer withdrawn

Free format text: JAPANESE INTERMEDIATE CODE: R371