JP4081680B2 - 記録装置、記録方法、記録媒体、再生装置、再生方法およびコンテンツの伝送方法 - Google Patents

記録装置、記録方法、記録媒体、再生装置、再生方法およびコンテンツの伝送方法 Download PDF

Info

Publication number
JP4081680B2
JP4081680B2 JP2003379500A JP2003379500A JP4081680B2 JP 4081680 B2 JP4081680 B2 JP 4081680B2 JP 2003379500 A JP2003379500 A JP 2003379500A JP 2003379500 A JP2003379500 A JP 2003379500A JP 4081680 B2 JP4081680 B2 JP 4081680B2
Authority
JP
Japan
Prior art keywords
information
meta information
extracted
content
recording
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2003379500A
Other languages
English (en)
Other versions
JP2005141871A (ja
Inventor
三樹 阿部
忠雄 吉田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2003379500A priority Critical patent/JP4081680B2/ja
Priority to KR1020040090862A priority patent/KR101176021B1/ko
Priority to US10/985,838 priority patent/US7382699B2/en
Publication of JP2005141871A publication Critical patent/JP2005141871A/ja
Application granted granted Critical
Publication of JP4081680B2 publication Critical patent/JP4081680B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/10Indexing; Addressing; Timing or synchronising; Measuring tape travel
    • G11B27/11Indexing; Addressing; Timing or synchronising; Measuring tape travel by using information not detectable on the record carrier
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/02Editing, e.g. varying the order of information signals recorded on, or reproduced from, record carriers
    • G11B27/031Electronic editing of digitised analogue information signals, e.g. audio or video signals
    • G11B27/034Electronic editing of digitised analogue information signals, e.g. audio or video signals on discs
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/02Editing, e.g. varying the order of information signals recorded on, or reproduced from, record carriers
    • G11B27/031Electronic editing of digitised analogue information signals, e.g. audio or video signals
    • G11B27/036Insert-editing
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/10Indexing; Addressing; Timing or synchronising; Measuring tape travel
    • G11B27/102Programmed access in sequence to addressed parts of tracks of operating record carriers
    • G11B27/105Programmed access in sequence to addressed parts of tracks of operating record carriers of operating discs
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/10Indexing; Addressing; Timing or synchronising; Measuring tape travel
    • G11B27/19Indexing; Addressing; Timing or synchronising; Measuring tape travel by using information detectable on the record carrier
    • G11B27/28Indexing; Addressing; Timing or synchronising; Measuring tape travel by using information detectable on the record carrier by using information signals recorded by the same method as the main recording
    • G11B27/32Indexing; Addressing; Timing or synchronising; Measuring tape travel by using information detectable on the record carrier by using information signals recorded by the same method as the main recording on separate auxiliary tracks of the same or an auxiliary record carrier
    • G11B27/327Table of contents
    • G11B27/329Table of contents on a disc [VTOC]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/50Network services
    • H04L67/56Provisioning of proxy services
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/50Network services
    • H04L67/56Provisioning of proxy services
    • H04L67/564Enhancement of application control based on intercepted application data
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B2220/00Record carriers by type
    • G11B2220/20Disc-shaped record carriers
    • G11B2220/25Disc-shaped record carriers characterised in that the disc is based on a specific recording technology
    • G11B2220/2525Magneto-optical [MO] discs
    • G11B2220/2529Mini-discs

Description

この発明は、記録装置、再生装置およびコンテンツの伝送方法に関する。
情報検索装置として、撮像手段から得られる画像情報を、文字データや画像パターンデータとして認識し、この認識結果をキーワードとしてデータベースを検索するようにしたものが考えられている。このような情報検索装置によれば、画像情報を処理して情報検索用のキーワードを形成するので、そのキーワードの入力速度や正確性を向上させることができる。
また、書き換え可能な光磁気ディスクとしてミニディスクがあるが、このミニディスクにおいては、図16に示すように、記録再生の可能なエリアが、データエリアと、その内周のUTOCエリアとに分けられている。そして、データエリアには、音声や映像のデジタルデータ、あるいはグラフィックスやテキストなどのデジタルデータを始めとする各種のコンテンツが格納される。
また、UTOCエリアには、データエリアのアドレス情報やコンテンツ属性などが格納される。このため、UTOCエリアは、エリアUTOC0と、エリアUTOC1、UTOC4とから構成され、エリアUTOC0にコンテンツのアドレス情報が格納され、エリアUTOC1あるいはUTOC4にディスクネームやトラックネーム(ディスクやトラックの名前)が、アスキーコードあるいはマルチバイトコードで格納される。
したがって、ミニディスクにおいては、エリアUTOC1またはUTOC4のネーム情報によってコンテンツを識別し、エリアUTOC0のアドレス情報を参照することによって目的とするコンテンツを検索することが可能である。
なお、先行技術文献として例えば以下のものがある。
特開平11−45277号公報
上述のように、ミニディスクからコンテンツを再生する場合、UTOCエリアのネーム情報およびアドレス情報を使用することによってコンテンツを検索することが可能である。
しかし、そのためには、記録時にタイトルデータベースを参照することにより、あるいは再生時に手動により、ディスクネームやトラックネームを入力する必要がある。
また、エリアUTOC1またはUTOC4に記録される情報は、ディスクネームやトラックネームにとどまり、コンテンツを構成する動画、静止画などの映像、音声、グラフィックス、テキストなどのメタ情報(特徴データ)まで反映したものとはなっていない。
この発明は、このような問題点を解決しようとするものである。
この発明においては、
コンテンツを構成する情報から、その情報の特徴を表すメタ情報を抽出する抽出手段と、
上記コンテンツを記録するとともに、上記抽出されたメタ情報を、上記コンテンツと対応付けて管理情報として記録する記録手段と、
照合用メタ情報を格納する記憶手段と、
上記抽出されたメタ情報と、上記照合用メタ情報との差分を求め、その差分の大きさに基づいて、上記抽出されたメタ情報と上記照合用メタ情報との類似度を算出する演算手段と
を有し、
上記記録手段は、上記演算手段が算出した上記類似度に応じて上記抽出されたメタ情報を記録するとともに、上記抽出された複数のメタ情報が互いに類似していると判断されるとき、上記抽出された複数のメタ情報を関連付ける情報をさらに記録する
ことを特徴とする記録装置
とするものである。
この発明によれば、検索時、コンテンツを構成するオブジェクトの内容による検索を行うことができる。
〔1〕 記録再生装置
図1は、この発明を適用できる記録再生装置の一例を示し、この例においては、記録再生装置およびその記録媒体が、ビデオカメラ一体型の記録再生装置およびミニディスクの場合である。
すなわち、図1において、記録時には、被写体OBJの像が撮像レンズLNSによりCCDイメージセンサ11に投影され、CCDイメージセンサ11からは被写体OBJのカラー画像信号が取り出される。この取り出されたカラー画像信号が、前処理回路12に供給されてサンプリング・ホールドおよびAGCなどの前処理が行われてからA/Dコンバータ回路13に供給されてデジタル映像信号にA/D変換され、このデジタル映像信号がデータマネージャ回路31に供給される。
このデータマネージャ回路31には、バッファ用のメモリ32と、動き検出回路33と、MPEGエンコーダ/デコーダ回路34とが接続され、このデータマネージャ回路31に供給されたデジタル映像信号は、例えばMPEG2方式によりデータ圧縮される。また、マイクロフォン21からの音声信号(オーディオ信号)が、A/Dコンバータ回路22に供給されてデジタル音声信号にA/D変換され、このデジタル音声信号が、エンコーダ/デコーダ回路23に供給されて例えばATRAC(登録商標)方式によりデータ圧縮されてデータマネージャ回路31に供給される。
こうして、データマネージャ回路31において、これに供給されたデジタル映像信号およびデジタル音声信号は、さらに1つのストリーミング信号にまとめられて取り出される。
そして、この取り出されたストリーミング信号が‥‥‥エンコード処理がされ、この処理結果の信号が変復調回路36に供給されて記録用の被変調信号とされ、この被変調信号が記録再生ヘッド37に供給されてミニディスク38に記録される。
なお、この記録時、信号の記録に対応してミニディスク38のUTOCエリアの内容が更新される。また、このとき、データマネージャ回路31からデジタル映像信号が取り出され、このデジタル映像信号がD/Aコンバータ回路14に供給されてアナログ映像信号にD/A変換され、このアナログ映像信号がディスプレイコントローラ15によりモニタ用のLCD16に供給され、LCD16にはCCDイメージセンサ11の撮像している画像が表示される。
さらに、符号39は、マイクロコンピュータを有して構成されたシステム制御回路であり、これにより上述した記録の制御および管理が行われるとともに、次に述べる再生の制御および管理が行われる。
すなわち、再生時には、記録再生ヘッド37によりミニディスク38から被変調信号が再生され、この再生信号が変復調回路36およびエンコーダ/デコーダ回路35に順次供給されてもとのストリーミング信号が取り出され、このストリーミング信号がデータマネージャ回路31に供給されてもとのデジタルデータにデータ伸長されたデジタル映像信号と、データ圧縮されたままのデジタル音声信号とが分離して取り出される。
そして、デジタル映像信号が、D/Aコンバータ回路14に供給されてアナログ映像信号にD/A変換され、このアナログ映像信号がディスプレイコントローラ15によりモニタ用のLCD16に供給され、LCD16にはミニディスク38から再生された画像が表示される。また、データマネージャ回路31から取り出されたデジタル音声信号が、エンコーダ/デコーダ回路23およびD/Aコンバータ回路24に順に供給されてもとのアナログ音声信号にデータ伸長およびD/A変換され、この音声信号が出力端子25に取り出される。
〔2〕 ミニディスク
ミニディスクにおいては、これに記録する信号が、音声信号や映像信号のように時間的に連続した信号であってもディスク上では離散的に記録することが認められている。このため、ミニディスクにおいては、UTOCエリアは、例えば図2および図3に示すような構成とされている。
すなわち、ミニディスクにおいては、1つのクラスタが、本来のデジタルデータを格納する32個のセクタと、クラスタのリンク用の4個のセクタとから構成される。この場合、各セクタの大きさは2352バイトとされ、したがって、1クラスタは、84672バイト(=2352バイト×32セクタ+2352バイト×4セクタ)である。
そして、ミニディスクに対する記録は1クラスタを単位として行われる。また、UTOCエリアは、上記のようにエリアUTOC0、UTOC1、UTOC4を有するが、エリアUTOC0、UTOC1、UTOC4のそれぞれに1つのセクタが割り当てられている。
図2はエリアUTOC0のセクタの詳細を示すもので、この図においては、1セクタ2352バイトのエリアを、縦588バイト×横4バイトのテーブル状に示している。なお、以下の説明においては、横4バイトのエリアを1番地とし、縦方向を第0番地〜第587番地とする(したがって、1番地は4バイトの大きさとなる)。また、以下は、ミニディスクのデータエリアに記録されているデータが音楽の曲のものであるとみなして説明する。
そして、第0番地〜第3番地のデータがヘッダとされ、第12番地の第2バイト目から第75番地の第4バイト目までの各1バイトには、第n曲目の曲の記録位置に関するポインタP-TNOn(n=1〜255)が書き込まれる。また、第78番地〜第587番地の各第1バイト目〜第3バイト目に、第n曲目の曲の記録の開始位置および終了位置を示す開始アドレスStart addressおよび終了アドレスEnd addressが、255組書き込まれている。
この場合、ポインタP-TNOnの示す番地が、第n曲目の曲の開始アドレスStart addressの書き込まれいる番地であり、続く番地が終了アドレスEnd addressの書き込まれている番地である。つまり、P-TNOn=mであれば、第(76+m×2)番地に第n曲目の曲の開始アドレスStart addressが書き込まれ、続く第(76+m×2+1)番地に第n曲目の曲の終了アドレスEnd addressが書き込まれている。
また、開始アドレスStart addressの示す記録開始位置から終了アドレスEnd addressの示す記録開始位置までは、ディスク上のクラスタは連続して使用される。なお、以下、この1組の開始アドレスStart addressおよび終了アドレスEnd addressにより指定される連続した記録エリアを、「パーツ」と呼ぶ。このパーツの数は、開始アドレスStart addressおよび終了アドレスEnd addressの組みの数に等しいので、255個となる。
さらに、1つの曲に対して、ディスク上のクラスタを連続して使用できない場合、すなわち、1つの曲が複数のパーツを使用する場合、それらのパーツがどのような順番で使用されているかを知る必要がある。そこで、第78番地〜第587番地の各終了アドレスEnd addressに続く第4バイト目には、リンクポインタLink-Pが用意され、このリンクポインタLink-Pにより、このリンクポインタLink-Pの属するパーツに続くパーツの開始アドレスStart addressが、パーツポインタP-TNOnと同様にして指定される。なお、次に続くパーツがないとき、すなわち、そのパーツが、対応する曲の最後のパーツのとき、リンクポインタLink-Pは、例えば0とされる。
また、第78番地〜第587番地の各開始アドレスStart addressに続く第4バイト目には、各パーツの処理モードを示すモードデータTRACK Modeが書き込まれ、これにより対応するパーツのコピー禁止、書き込み禁止、エンファシスの有無などを識別できるようにされている。
したがって、例えば、図4に示すように、あるトラックが、パーツ#1、#2、#3から構成される場合、エリアUTOC0のポインタP-TNO1によりパーツ#1の開始アドレスが示され、このパーツ#1のリンクポインタLink-Pにより続くパーツ#2の開始アドレスが示され、このパーツ#2のリンクポインタLink-Pにより、続くパーツ#3の開始アドレスが示される。また、パーツ#3のリンクポインタLink-Pは0とされる。
なお、開始アドレスStart addressおよび終了アドレスEnd addressのフォーマットは、図2にも示すように、それぞれ3バイトの大きさであるが、その先頭から14ビットがディスク上におけるクラスタのクラスタ番号を示し、続く6ビットが、そのクラスタにおけるセクタの番号を示し、さらに、最後の4ビットがそのセクタにおけるサウンドグループの番号を示す。したがって、この開始アドレスStart addressおよび終了アドレスEnd addressを使用すれば、ディスク上の位置を、サウンドグループ単位で特定できることになる。
そして、ミニディスクは、以上のようなフォーマットとされているので、デジタルデータの追加記録、上書き記録、部分的な消去などを行うことができる。また、消去は、データエリアのデジタルデータを実際にクリアしなくても、エリアUTOC0を書き換えることにより実現できる。
図3は、エリアUTOC1、UTOC4のセクタの詳細を示すもので、この図も図2と同様、エリアUTOC1、UTOC4のセクタをテーブル状に示している。そして、エリアUTOC1は、ミニディスクのディスクネームおよび曲のトラックネームをアスキーコードで格納し、エリアUTOC4はマルチバイトで格納するためのものである。
このため、第0番地〜第3番地のデータがヘッダとされ、第12番地の第2バイト目から第75番地の第4バイト目までの各1バイトには、第n曲目の曲のトラックネームの記録位置に関するポインタP-TNAn(n=1〜255)が書き込まれる。
また、第76番地および第587番地のうち、奇数番地の第4バイト目を除く番地に、ディスクネーム、あるいは第n曲目の曲のトラックネームが書き込まれる。さらに、第76番地〜第587番地のうち、奇数番地の第4バイト目に、リンクポインタLink-Pが用意され、このリンクポインタLink-Pにより、このリンクポインタLink-Pの属するパーツに続くパーツの開始アドレスStart addressが、ポインタP-TNAnと同様にして指定される。
したがって、〔1〕の記録再生装置においては、記録時には、データエリアに本来のデジタルデータが書き込まれるとともに、その書き込みに対応してUTOCエリアのテーブルが更新され、再生時には、UTOCエリアのテーブルを参照して目的とするデジタルデータが取り出されることになる。
〔3〕 オブジェクトの内容の抽出(その1)
ここでは、記録されるオブジェクトの内容として顔画像をともなったコミュニケーションに着目し、オブジェクトの内容を抽出する手段の例として、記録される人物の顔認識を組み合わせた場合について説明する。
顔認識の方法はいろいろ提案されているが、いずれの認識方法においても、図5に示すように、顔認識回路は、入力された映像信号から顔の位置を検出する顔位置検出ブロック41〜42と、その顔画像から固有データを抽出する顔画像詳細処理ブロック43〜46と、その固有データとあらかじめ登録されたデータとを照合する照合ブロック51〜54とから構成される。
そして、図5の顔認識回路は、ウェイブレット変換とグラフマッチングとを組み合わせた場合であり、顔器官上にノードと呼ばれる特徴点を50ポイント程度設定し、ウェイブレット変換により、それぞれのノードにおける方向性、濃淡、位置関係などの特徴量を抽出し、この抽出した特徴量から記録される人物に固有のデータを作成している。
すなわち、例えば図6Aに示すような画像の映像信号が、入力端子41を通じて抽出回路42に供給されて映像信号の連続するフレームから動きのある部分が抽出される。あるいは、抽出回路42において、入力された映像信号に少ないノード数でグラフマッチングが行われて顔の部分が切り出される。そして、この抽出回路42の抽出出力がプリセレクタ43に供給され、図6Bに示すように、顔の部分が詳細に検出される。
次に、この検出された顔画像の映像信号が正規化回路44に供給され、拡大あるいは縮小することにより最適な大きさに正規化され、この正規化された顔画像の映像信号がランドマークファインダ45に供給され、各ノードが追従して適切な位置に合せられる。そして、ランドマークファインダ45の出力が背景消去回路46に供給され、図6Cに示すように、顔領域が切り出されるとともに、その他の部分は灰色で埋められ、各ノードから得られる情報が特徴量として抽出される。
そして、一般的な顔認識回路の場合には、背景消去回路46により抽出された特徴量が照合回路51に供給され、照合データベース52に登録されている登録データと比較・照合されて本人の確認などが行われ、その結果が出力端子53に取り出される。
しかし、この発明においては、背景消去回路46により抽出された特徴量(メタ情報)を端子54に取り出し、この特徴量を使用して次の〔4〕およびこれ以降の処理を行う。
〔4〕 特徴量の格納方法
記録されるオブジェクト(端子41の入力映像信号)にとって、背景消去回路46により抽出された特徴量が最も重要な情報である。そこで、この発明においては、この抽出された特徴量に着目し、この特徴量をUTOC形式でミニディスクに格納する。
図7は、抽出された特徴量と、記録されるオブジェクトとの関連付けの一例を示す。すなわち、図7Aに示すように、映像信号の中に顔画像FAの特徴量CAが抽出された場合、図7Bに示すように、その抽出されたときの開始アドレスSADD_Aおよび終了アドレスEADD_Aを、その特徴量CAとともにUTOC形式で保存する。
また、映像信号の中に顔画像FB、FCの特徴量CB、CCが抽出された場合、その抽出されたとき開始アドレスSADD_B、SADD_Cおよび終了アドレスEADD_A、EADD_Cを、その特徴量CB、CCとともにTOCエリアに保存する。あるいは、図7Cに示すように、顔画像FA〜FCの特徴量CA〜CCが抽出された場合、その抽出されたとき開始時刻ST_A、ST_B、ST_Cおよび終了時刻ET_A、ET_B、ET_Cを、特徴量CB、CCとともにUTOC形式で保存する。
すなわち、記録されるオブジェクトの中に顔画像が検出された場合、それぞれの特徴量と、そのオブジェクトとを関連付ける情報として、そのときのオブジェクトのアドレス情報(開始アドレスおよび終了アドレス)あるいは時刻情報(開始時刻および終了時刻)などを、それぞれの特徴量とともに、UTOC形式で保存する。
このようにすれば、検索時、顔画像の特徴をキーワードとしてオブジェクトの検索を行うことができ、オブジェクトの検索性を向上させることができる。
〔5〕 特徴量の格納方法の例
ミニディスクにおいては、図2および図3(および図4)にも示すように、UTOCエリアに格納されたアドレス情報は、コンテンツのトラックを構成するパーツおよびそのフラグメンテーションだけを定義している。
そこで、この例においては、特徴量を、例えば図8〜図10に示すように、UTOC形式で格納する。すなわち、ミニディスクに記録される映像信号は、例えば図8Aに示すように時間的に連続しているが、対象とする人物の顔(顔オブジェクト)が、斜線を付けた期間に離散的に現れているとする。つまり、1つのトラックのうち、斜線を付けた区間に対象とする顔オブジェクトが現れているとする。
すると、この顔オブジェクトについての管理情報は、図8Bに示すとおりとされる。すなわち、ポインタP-FADR1によりエリアOBJ#1-1の開始アドレスが示され、このエリアOBJ#1-1のリンクポインタLink-Pにより続くエリアOBJ#1-2の開始アドレスが示され、このエリアOBJ#1-2のリンクポインタLink-Pにより、続くエリアOBJ#1-3の開始アドレスが示される。
したがって、図8Bに示すポインタを使って図8Aの映像信号を再生すると、図8Cに示すように、対象とする顔オブジェクトだけが再生されることになる。
このようなポインタ形式を実現するため、ミニディスクのデータエリアに、例えば図9および図10に示すデータテーブルが用意される。ここで、図9に示すデータテーブルは、顔オブジェクトが記録されているエリアが図8Bに示すように分割されているとき、これを連続化するためのリンクテーブルであり、図2に示すUTOCエリアUTOC0と同様の構成とされる。
すなわち、このリンクテーブルにも1セクタが割り当てられ、図2と同様のテーブル構成とされる。そして、第0番地〜第3番地のデータがヘッダとされ、第12番地の第2バイト目から第75番地の第4バイト目までの各1バイトには、第n番目の顔オブジェクトの記録位置に関するポインタP-FADRn(n=1〜255)が書き込まれる。また、第78番地〜第587番地の各第1バイト目〜第3バイト目に、第n番目の顔オブジェクトの記録の開始位置および終了位置を示す開始アドレスStart addressおよび終了アドレスEnd addressが、255組書き込まれる。
この場合、ポインタP-FADRnの示す番地が、第n番目の顔オブジェクトの開始アドレスStart addressの書き込まれている番地であり、続く番地が終了アドレスEnd addressの書き込まれている番地である。
さらに、第78番地〜第587番地の各終了アドレスEnd addressに続く第4バイト目には、リンクポインタLink-Pが用意され、このリンクポインタLink-Pにより、このリンクポインタLink-Pの属するパーツに続くパーツの開始アドレスStart addressが、パーツポインタP-FADRnと同様にして指定される。なお、次に続くパーツがないとき、すなわち、そのパーツが、対応する顔オブジェクトの最後のパーツのとき、リンクポインタLink-Pは、例えば0とされる。
したがって、例えば、図8に示すように、あるトラックのエリアOBJ#1-1、OBJ#1-2、OBJ#1-3に第1のオブジェクトの顔オブジェクトOBJ#1が記録されている場合、ポインタP-FADR1によりエリアOBJ#1-1の開始アドレスが示され、このエリアOBJ#1-1のリンクポインタLink-Pにより続くエリアOBJ#1-2の開始アドレスが示され、このエリアOBJ#1-2のリンクポインタLink-Pにより、続くエリアOBJ#1-3の開始アドレスが示される。
なお、開始アドレスStart addressおよび終了アドレスEnd addressのフォーマットは、図9にも示すように、それぞれ3バイトの大きさであるが、UTOCエリアにおける開始アドレスStart addressおよび終了アドレスEnd addressと同様、その先頭から14ビットがディスク上におけるクラスタのクラスタ番号を示し、続く6ビットが、そのクラスタにおけるセクタの番号を示し、さらに、最後の4ビットがそのセクタにおけるサウンドグループの番号を示す。したがって、この開始アドレスStart addressおよび終了アドレスEnd addressを使用すれば、ディスク上の位置を、サウンドグループ単位で特定できることになる。
一方、図10に示すデータテーブルは、顔オブジェクトが記録されている第1番目のエリアの開始アドレスを集めたエントリテーブルであり、図3に示すUTOCエリアUTOC1と同様の構成とされる。
すなわち、このエントリテーブルにも1セクタが割り当てられ、図3と同様のテーブル構成とされる。そして、第0番地〜第3番地のデータがヘッダとされ、第12番地の第2バイト目から第75番地の第4バイト目までの各1バイトには、第n番目の顔オブジェクトの記録位置に関するポインタP-FNOn(n=1〜255)が書き込まれる。また、第78番地および第587番地のうち、偶数番地の全部と奇数番地の第4バイト目を除く番地とを1組とし、その第n組目に第n番目の顔オブジェクトの特徴量の情報が書き込まれる。
したがって、エントリテーブル(図10)およびリンクテーブル(図9)を参照すれば、ある特徴量を有する顔オブジェクトの記録エリアを知ることができる。
〔6〕 顔オブジェクトの登録方法および検索方法
ここでは、図8AおよびBに示すように、顔オブジェクトが現れるとする。すると、図5に示す顔認識回路において、第1番目の顔オブジェクトOBJ#1-1の特徴量が抽出されると、照合データベース52のデータと比較される。この比較の結果、顔オブジェクトOBJ#1-1の特徴量が、照合データベース52に登録されている顔オブジェクトOBJ#1の特徴量と一致すると、その特徴量がエントリテーブルに登録される。
なお、照合データベース52が準備されていないとき、あるいは照合データベース52に顔オブジェクトOBJ#1-1の特徴量が登録されていないときには、顔オブジェクトOBJ#1-1の特徴量が、新しい顔オブジェクトOBJ#1の特徴量として照合データベース52に登録される。また、顔オブジェクトの特徴量の比較は、両特徴量の差分を比較し、その距離が所定の閾値より小さければ、一致とみなし、大きければ、不一致とみなすものである。
次に、第2番目の顔オブジェクトOBJ#1-2の特徴量が抽出されると、第1番目の顔オブジェクトOBJ#1-1の特徴量が抽出されたときと同様に処理される。さらに、第3番目の顔オブジェクトOBJ#1-3の特徴量が抽出されると、第2番目の顔オブジェクトOBJ#1-2の特徴量が抽出されたときと同様に処理される。
したがって、顔オブジェクトOBJ#1-1〜OBJ#1-3は、図8Bに示すようにリンクされるとともに、その特徴量が検索時のキーワードとなる。
一方、検索時(再生時)には、照合データベース52に登録されている顔オブジェクトOBJ#1が指定されると、エントリテーブルうち、その顔オブジェクトOBJ#1のStart Addressへのポインタを示すP-FADRnにより第1番目の顔オブジェクトOBJ#1-1の先頭アドレスを知ることができる。また、その顔オブジェクトOBJ#1-1のリンクポインタLINK-Pにより第2番目の顔オブジェクトOBJ#1-2の先頭アドレスを知ることができ、さらに、その顔オブジェクトOBJ#1-2のリンクポインタLINK-Pにより第3番目の顔オブジェクトOBJ#1-3の先頭アドレスを知ることできる。
したがって、指定された顔オブジェクトOBJ#1だけを連続して再生することができ、図8Cに示すように、顔オブジェクトOBJ#1だけの連続したトラックが存在しているかのように見せることができる。
〔7〕 オブジェクトの内容の抽出(その2)
上述の〔3〕においては、人物の顔認識を組み合わせた場合であるが、以下は話者認識を使用する場合について説明する。
話者認識の方法もいろいろと提案されているが、いずれの認識方法においても、その認識回路は図11に示すように構成される。すなわち、話者の音声信号が、入力端子61を通じて前処理回路62に供給されて帯域制限や信号レベルの正規化などの前処理が行われてから特徴パラメータ抽出回路63に供給されて特徴パラメータが抽出され、類似度算出回路64に供給される。
また、データベース65からこれに登録されている音声データが取り出され、この音声データが特徴パラメータ抽出回路66に供給されて特徴パラメータが抽出され、類似度算出回路64に供給される。そして、類似度算出回路64において、端子61を通じて供給された音声信号と、データベース65に登録されている音声データとの類似度が計算され、その計算結果が話者認識判定回路67に供給され、(端子61を通じて供給された音声信号を与えた)話者の判定結果が端子68に出力される。
そこで、特徴パラメータ抽出回路63から出力される話者の抽出パラメータが端子69に特徴量として取り出され、この特徴量が〔3〕〜〔5〕により説明した特徴量の場合と同様にエントリテーブルおよびリンクテーブルに格納される。
すなわち、例えば図12に示すように、あるトラックのエリアOBJ#1-1、OBJ#1-2、OBJ#1-3に第1のオブジェクトの特徴量OBJ#1が記録され、エリアOBJ#2-1、OBJ#2-2、OBJ#2-3に第2のオブジェクトの特徴量OBJ#2が記録される。すると、ポインタP-VADR1によりエリアOBJ#1-1の開始アドレスが示され、このエリアOBJ#1-1のリンクポインタLink-Pにより続くエリアOBJ#1-2の開始アドレスが示され、このエリアOBJ#1-2のリンクポインタLink-Pにより、続くエリアOBJ#1-3の開始アドレスが示される。
このようなポインタ形式を実現するため、ミニディスクのデータエリアに、例えば図13および図14に示すデータテーブルが用意される。これらのデータテーブルは、図9および図10に示すデータテーブルと同様に構成され、図13に示すTOCエリアはリンクテーブルであり、図14に示すデータテーブルはエントリテーブルである。
したがって、これらのエントリテーブルおよびリンクテーブルを参照すれば、話者の記録エリアを知ることができる。
〔8〕 特徴量の格納方法(その2)
上述の〔4〕〜〔7〕においては、特徴量をUTOC形式で格納した場合であるが、例えば図15に示すように、パーソナルコンピュータなどで採用されているトラックインフォメーションテーブル形式で格納することもできる。
すなわち、図15は、記録媒体に格納されているディレクトリ\およびファイルをツリー形式で示すもので、ルートディレクトリ\Rootに、ビデオコンテンツを格納するディレクトリ\Videoと、オーディオコンテンツを格納するディレクトリ\Audioとが用意される。
そして、ディレクトリ\Videoには、本来の動画データのファイルを収納するディレクトリ\Video Data Fileと、このディレクトリ\Video Data Fileのファイル情報を収納するディレクトリ\Video Track Index Fileとが用意され、ディレクトリ\Audioには、本来の音声データのファイルを収納するディレクトリ\Audio Data Fileと、このディレクトリ\Audio Data Fileのファイル情報を収納するAudio Track Index Fileとが用意される。
さらに、ディレクトリ\Video Track Index Fileには、例えば図9および図10に示すリンクテーブルおよびエントリテーブルが収納され、ディレクトリ\Audio Track Index Fileには、例えば図13および図14に示すリンクテーブルおよびエントリテーブルが収納される。
したがって、ディレクトリ\Video Track Index Fileおよび\Audio Track Index Fileのテーブルを参照することにより、オブジェクトの内容による検索ができる。
〔9〕 まとめ
上述のシステムによれば、動画、静止画などの映像や音声などコンテンツを記録する場合、画像抽出や音声抽出などを行うことにより、映像や音声などのメタ情報を抽出し、この抽出したメタ情報も管理情報として記録しているので、再生時、そのコンテンツを構成するオブジェクトの内容による検索を行うことができる。
なお、上述においては、コンテンツが映像あるいは音声の場合であるが、グラフィックスやテキストなどの情報に対して、イメージ抽出や文字抽出を行うことにより、グラフィックスやテキストなどのメタ情報を抽出することもでき、そのメタ情報を同様に記録することもできる。すなわち、メタ情報としては、
顔のときは、誰の顔か
話者のときは、誰の声か
音声のときは、何を話したか
画像のときは、何の画像か
テキストのときは、何の説明か
位置のときは、どこで起こったか
時刻のときは、いつ起こったか
などとすることができる。さらに、対象となる人の生体情報、例えば脈拍、呼吸、血圧などのデータをメタ情報として記録することもできる。
また、上述においては、コンテンツを記録・再生する場合であるが、伝送する場合にも、この発明を適用することができる。
〔略語の一覧〕
A/D :Analog to Digital
AGC :Automatic Gain Control
ATRAC(登録商標):Adaptive TRansform Acoustic Coding (Trade Mark)
CCD :Charge Coupled Device
D/A :Digital to Analog
LCD :Liquid Crystal Display
MPEG:Motion Picture Image Coding Experts Group
TOC :Table Of Contents
UTOC:User TOC
この発明の一形態を示す系統図である。 データテーブルの一例を示す図である。 データテーブルの一例を示す図である。 データの記録位置を説明するための図である。 顔認識回路の一例を示す系統図である。 特徴量の抽出方法の一例を示す図である。 特徴量とアドレスおよび時刻との関係の一例を示す図である。 データの記録位置を説明するための図である。 データテーブルの一例を示す図である。 データテーブルの一例を示す図である。 話者認識回路の一例を示す系統図である。 データの記録位置を説明するための図である。 データテーブルの一例を示す図である。 データテーブルの一例を示す図である。 データツリーの一例を示す図である。 ディスク構造の一例を示す図である。
符号の説明
11…CCDイメージセンサ、12…前処理回路、13…A/Dコンバータ回路、14…D/Aコンバータ回路、15…ディスプレイコントローラ、16…LCD、21…マイクロフォン、22…A/Dコンバータ回路、23…エンコーダ/デコーダ回路、24…D/Aコンバータ回路、31…データマネージャ回路、32…メモリ、33…動き検出回路、34…MPEGエンコー/デコーダダ回路、35…エンコーダ/デコーダ回路、36…変復調回路、37…記録再生ヘッド、38…ミニディスク

Claims (7)

  1. コンテンツを構成する情報から、その情報の特徴を表すメタ情報を抽出する抽出手段と、
    上記コンテンツを記録するとともに、上記抽出されたメタ情報を、上記コンテンツと対応付けて管理情報として記録する記録手段と、
    照合用メタ情報を格納する記憶手段と、
    上記抽出されたメタ情報と、上記照合用メタ情報との差分を求め、その差分の大きさに基づいて、上記抽出されたメタ情報と上記照合用メタ情報との類似度を算出する演算手段と
    を有し、
    上記記録手段は、上記演算手段が算出した上記類似度に応じて上記抽出されたメタ情報を記録するとともに、上記抽出された複数のメタ情報が互いに類似していると判断されるとき、上記抽出された複数のメタ情報を関連付ける情報をさらに記録する
    ことを特徴とする記録装置。
  2. コンテンツを構成する情報から、その情報の特徴を表すメタ情報を抽出する抽出ステップと、
    上記コンテンツを記録するとともに、上記抽出されたメタ情報を、上記コンテンツと対応付けて管理情報として記録する記録ステップと、
    上記抽出されたメタ情報と、記憶手段に格納されている照合用メタ情報との差分を求め、この差分の大きさに基づいて、上記抽出されたメタ情報と上記照合用メタ情報との類似度を算出する演算ステップと
    を有し、
    上記記録ステップは、上記演算ステップが算出した上記類似度に応じて上記抽出されたメタ情報を記録するとともに、上記抽出された複数のメタ情報が互いに類似していると判断されるとき、上記抽出された複数のメタ情報を関連付ける情報をさらに記録する
    ことを特徴とする記録方法。
  3. コンテンツが記録されるとともに、このコンテンツを構成する情報から、その情報の特徴を表すメタ情報が抽出されて上記コンテンツと対応付けて管理情報として記録され、
    上記抽出されたメタ情報と、記憶手段に格納されている照合用メタ情報との差分の大きさに基づいて、上記抽出されたメタ情報と上記照合用メタ情報との類似度が算出されるとともに、この算出された上記類似度に応じて上記抽出したメタ情報が記録され、かつ、
    上記抽出された複数のメタ情報が互いに類似していると判断されるとき、上記複数のメタ情報を関連付けるリンク情報がさらに記録されている
    ことを特徴とする記録媒体。
  4. コンテンツが記録されるとともに、このコンテンツを構成する情報から、その情報の特徴を表すメタ情報が抽出されて上記コンテンツと対応付けて管理情報として記録され、
    上記抽出されたメタ情報と、記憶手段に格納されている照合用メタ情報との差分の大きさに基づいて、上記抽出されたメタ情報と上記照合用メタ情報との類似度が算出されるとともに、この算出された上記類似度に応じて上記抽出されたメタ情報が記録され、かつ、
    上記抽出された複数のメタ情報が互いに類似していると判断されるとき、上記複数のメタ情報を関連付けるリンク情報がさらに記録されている記録媒体から上記コンテンツを再生する再生装置であって、
    上記記録媒体から上記コンテンツを再生するとき、上記メタ情報に対応するコンテンツを選択的に再生する再生手段を有する
    ことを特徴とする再生装置。
  5. 請求項4に記載の再生装置において、
    上記記録媒体に上記リンク情報が記録されているとき、上記再生手段は、上記リンク情報にしたがってメタ情報を参照し、
    この参照したメタ情報に対応するコンテンツを再生する
    ことを特徴とする再生装置。
  6. コンテンツが記録されるとともに、このコンテンツを構成する情報から、その情報の特徴を表すメタ情報が抽出されて上記コンテンツと対応付けて管理情報として記録され、
    上記抽出されたメタ情報と、記憶手段に格納されている照合用メタ情報との差分の大きさに基づいて、上記抽出されたメタ情報と上記照合用メタ情報との類似度が算出されるとともに、この算出された上記類似度に応じて上記抽出したメタ情報が記録され、かつ、
    上記抽出された複数のメタ情報が互いに類似していると判断されるとき、上記複数のメタ情報を関連付けるリンク情報がさらに記録されている記録媒体から上記コンテンツを再生する再生方法であって、
    上記記録媒体から上記コンテンツを再生するとき、上記メタ情報に対応するコンテンツを選択的に再生するとともに、
    上記記録媒体に上記リンク情報が記録されているとき、上記リンク情報にしたがってメタ情報を参照し、
    この参照したメタ情報に対応するコンテンツを再生する
    ことを特徴とする再生方法。
  7. コンテンツを構成する情報から、その情報の特徴を表すメタ情報を抽出する抽出ステップと、
    上記コンテンツを伝送するとともに、上記抽出されたメタ情報を、上記コンテンツと対応付けて管理情報として伝送する伝送ステップと、
    上記抽出された上記メタ情報と、記憶手段に格納されている照合用メタ情報との差分を求め、この差分の大きさに基づいて、上記抽出された上記メタ情報と上記照合用メタ情報との類似度を算出する演算ステップと
    を有し、
    上記伝送ステップは、上記類似度に応じて上記メタ情報を伝送するとともに、上記抽出された複数のメタ情報が互いに類似していると判断されるとき、上記複数のメタ情報を関連付ける情報をさらに伝送する
    ことを特徴とするコンテンツの伝送方法。
JP2003379500A 2003-11-10 2003-11-10 記録装置、記録方法、記録媒体、再生装置、再生方法およびコンテンツの伝送方法 Expired - Fee Related JP4081680B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2003379500A JP4081680B2 (ja) 2003-11-10 2003-11-10 記録装置、記録方法、記録媒体、再生装置、再生方法およびコンテンツの伝送方法
KR1020040090862A KR101176021B1 (ko) 2003-11-10 2004-11-09 기록장치, 재생장치 및 컨텐츠 전송방법
US10/985,838 US7382699B2 (en) 2003-11-10 2004-11-10 Recording device, playback device, and contents transmission method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2003379500A JP4081680B2 (ja) 2003-11-10 2003-11-10 記録装置、記録方法、記録媒体、再生装置、再生方法およびコンテンツの伝送方法

Publications (2)

Publication Number Publication Date
JP2005141871A JP2005141871A (ja) 2005-06-02
JP4081680B2 true JP4081680B2 (ja) 2008-04-30

Family

ID=34616082

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003379500A Expired - Fee Related JP4081680B2 (ja) 2003-11-10 2003-11-10 記録装置、記録方法、記録媒体、再生装置、再生方法およびコンテンツの伝送方法

Country Status (3)

Country Link
US (1) US7382699B2 (ja)
JP (1) JP4081680B2 (ja)
KR (1) KR101176021B1 (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2006016461A1 (ja) * 2004-08-09 2006-02-16 Nikon Corporation 撮像装置
JP2006155782A (ja) * 2004-11-30 2006-06-15 Sony Corp 記録装置、再生装置、画像ファイル生成方法、表示制御方法
JP2007013256A (ja) * 2005-06-28 2007-01-18 Sony Corp 撮像装置、記録装置および方法、記録媒体、および、プログラム
JP4736586B2 (ja) * 2005-07-19 2011-07-27 ソニー株式会社 情報処理装置、情報処理方法、及びプログラム
KR100823234B1 (ko) * 2006-07-14 2008-04-21 주식회사 마이엔진 자동 일기 제공 방법 및 그 시스템
KR101376666B1 (ko) * 2007-06-27 2014-03-21 톰슨 라이센싱 이미지 품질 강화
JP4424396B2 (ja) 2007-09-03 2010-03-03 ソニー株式会社 データ処理装置および方法、並びにデータ処理プログラムおよびデータ処理プログラムが記録された記録媒体
JP5210063B2 (ja) * 2008-07-10 2013-06-12 パナソニック株式会社 音声画像記録装置

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3780623B2 (ja) * 1997-05-16 2006-05-31 株式会社日立製作所 動画像の記述方法
US7133924B1 (en) * 2000-03-08 2006-11-07 Music Choice Personalized audio system and method
JP2001346153A (ja) * 2000-06-01 2001-12-14 Sony Corp 記録装置および方法、並びに記録媒体
US6606287B2 (en) * 2000-11-29 2003-08-12 Vengo, Inc. Method and apparatus for compression rate selection
JP4045768B2 (ja) * 2001-10-04 2008-02-13 富士ゼロックス株式会社 映像処理装置
JP2004135256A (ja) * 2002-08-09 2004-04-30 Ricoh Co Ltd 情報ファイルのデータ構造、情報ファイル生成方法、情報ファイル生成装置、情報ファイル生成プログラム、これを記憶する記憶媒体、情報ファイル再生方法、情報ファイル再生装置、情報ファイル再生プログラム、及びこれを記憶する記憶媒体

Also Published As

Publication number Publication date
JP2005141871A (ja) 2005-06-02
KR101176021B1 (ko) 2012-08-24
KR20050045857A (ko) 2005-05-17
US7382699B2 (en) 2008-06-03
US20050117475A1 (en) 2005-06-02

Similar Documents

Publication Publication Date Title
JP2712656B2 (ja) Cd―rom記録方法
JP4965565B2 (ja) 大規模再生リスト用の再生リスト構造
US7246127B2 (en) Recording device for recording an index file having a hierarchical structure of index data, and recording method, and recording medium for same
JP5145937B2 (ja) 再生開始位置制御付きコンテンツ再生方法および装置
RU2189643C2 (ru) Способ и устройство записи и воспроизведения информационных даннных (варианты)
JP2003532973A (ja) デジタル・オーディオ・データファイル記録装置及びその方法{Apparatus・and・Method・for・Recording・Digital・Audio・Data・File}
CN1339797A (zh) 可重写记录媒体及其记录、再现方法和装置
JP4576725B2 (ja) 記録装置、記録方法、プログラムおよび記録媒体
CN101714367B (zh) 信息存储介质和用于再现其的设备和方法
JP4081680B2 (ja) 記録装置、記録方法、記録媒体、再生装置、再生方法およびコンテンツの伝送方法
RU2349955C2 (ru) Устройство управления файлами
CN1558415B (zh) 记录装置和方法
JP4431110B2 (ja) 記録再生システム、記録再生方法、プログラム、およびプログラム記録媒体
US20100161092A1 (en) Method of managing lyric data of audio data recorded on a rewritable recording medium
RU2344496C2 (ru) Устройство управления файлами, способ управления файлами и носитель записи, на котором записана программа способа управления файлами
US8682141B2 (en) Video and audio recording apparatus and editing method
KR100588173B1 (ko) 파일 식별 디스크립터 관리방법
JPWO2004111855A1 (ja) 記録媒体、データ再生装置、データ記録装置、及びデータ再生方法
JP2007265010A (ja) ファイル再生装置およびファイル再生方法ならびにプログラム
JPH09307851A (ja) 画像及び音声の記録管理装置及び方法
JP4264668B2 (ja) 再生装置、および、再生方法、並びに、プログラム格納媒体
JP2007012124A (ja) 再生装置
JP2007011536A (ja) 記録装置
JP2002207628A (ja) ファイル管理方法及びそれを用いたデータ記録装置、データ再生装置、データ記録再生装置
US20020054545A1 (en) Information reproducing apparatus and information reproducing method

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20070918

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070926

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20071122

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080116

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080129

R151 Written notification of patent or utility model registration

Ref document number: 4081680

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110222

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120222

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130222

Year of fee payment: 5

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130222

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140222

Year of fee payment: 6

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees