JP2006333460A - 拡張型字幕ファイルを用いて付加情報を提供する装置及び方法 - Google Patents

拡張型字幕ファイルを用いて付加情報を提供する装置及び方法 Download PDF

Info

Publication number
JP2006333460A
JP2006333460A JP2006130440A JP2006130440A JP2006333460A JP 2006333460 A JP2006333460 A JP 2006333460A JP 2006130440 A JP2006130440 A JP 2006130440A JP 2006130440 A JP2006130440 A JP 2006130440A JP 2006333460 A JP2006333460 A JP 2006333460A
Authority
JP
Japan
Prior art keywords
data
additional information
video
information
subtitle
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2006130440A
Other languages
English (en)
Other versions
JP4430036B2 (ja
Inventor
Ki-Won Kwak
起 源 郭
Chang-Nam Chu
彰 南 朱
Chun-Un Kang
春 云 姜
Min-Woo Jung
敏 宇 鄭
Jae-Sung Park
宰 成 朴
Dae-Hyun Lee
大 鉉 李
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Samsung Electronics Co Ltd
Original Assignee
Samsung Electronics Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Samsung Electronics Co Ltd filed Critical Samsung Electronics Co Ltd
Publication of JP2006333460A publication Critical patent/JP2006333460A/ja
Application granted granted Critical
Publication of JP4430036B2 publication Critical patent/JP4430036B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/236Assembling of a multiplex stream, e.g. transport stream, by combining a video stream with other content or additional data, e.g. inserting a URL [Uniform Resource Locator] into a video stream, multiplexing software data into a video stream; Remultiplexing of multiplex streams; Insertion of stuffing bits into the multiplex stream, e.g. to obtain a constant bit-rate; Assembling of a packetised elementary stream
    • H04N21/2368Multiplexing of audio and video streams
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/10Indexing; Addressing; Timing or synchronising; Measuring tape travel
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
    • H04N21/2343Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
    • H04N21/234318Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements by decomposing into objects, e.g. MPEG-4 objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/235Processing of additional data, e.g. scrambling of additional data or processing content descriptors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/236Assembling of a multiplex stream, e.g. transport stream, by combining a video stream with other content or additional data, e.g. inserting a URL [Uniform Resource Locator] into a video stream, multiplexing software data into a video stream; Remultiplexing of multiplex streams; Insertion of stuffing bits into the multiplex stream, e.g. to obtain a constant bit-rate; Assembling of a packetised elementary stream
    • H04N21/23614Multiplexing of additional data and video streams
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/4302Content synchronisation processes, e.g. decoder synchronisation
    • H04N21/4307Synchronising the rendering of multiple content streams or additional data on devices, e.g. synchronisation of audio on a mobile phone with the video output on the TV screen
    • H04N21/43074Synchronising the rendering of multiple content streams or additional data on devices, e.g. synchronisation of audio on a mobile phone with the video output on the TV screen of additional data with content streams on the same device, e.g. of EPG data or interactive icon with a TV program
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/434Disassembling of a multiplex stream, e.g. demultiplexing audio and video streams, extraction of additional data from a video stream; Remultiplexing of multiplex streams; Extraction or processing of SI; Disassembling of packetised elementary stream
    • H04N21/4341Demultiplexing of audio and video streams
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/434Disassembling of a multiplex stream, e.g. demultiplexing audio and video streams, extraction of additional data from a video stream; Remultiplexing of multiplex streams; Extraction or processing of SI; Disassembling of packetised elementary stream
    • H04N21/4345Extraction or processing of SI, e.g. extracting service information from an MPEG stream
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/434Disassembling of a multiplex stream, e.g. demultiplexing audio and video streams, extraction of additional data from a video stream; Remultiplexing of multiplex streams; Extraction or processing of SI; Disassembling of packetised elementary stream
    • H04N21/4348Demultiplexing of additional data and video streams
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/435Processing of additional data, e.g. decrypting of additional data, reconstructing software from modules extracted from the transport stream
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • H04N21/488Data services, e.g. news ticker
    • H04N21/4884Data services, e.g. news ticker for displaying subtitles
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/85Assembly of content; Generation of multimedia applications
    • H04N21/854Content authoring
    • H04N21/8543Content authoring using a description language, e.g. Multimedia and Hypermedia information coding Expert Group [MHEG], eXtensible Markup Language [XML]

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Security & Cryptography (AREA)
  • Human Computer Interaction (AREA)
  • Software Systems (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Studio Circuits (AREA)
  • Television Signal Processing For Recording (AREA)
  • Television Systems (AREA)

Abstract

【課題】 拡張型字幕ファイルを用いて付加情報を提供する装置及び方法を提供する。
【解決手段】データ入力部を通じて入力されたマルチメディアファイルから映像及び音声データを分離する逆多重化部と、データ入力部を通じて入力された字幕データファイル及び付加情報データファイルをパージングするXMLパーザと、逆多重化部から入力された映像及び音声データを復号化し、復号化された映像データ及び音声データを所定の映像及び音声信号に変換する映像/音声データ処理部と、XMLパーザからパージングされて入力された字幕データファイルを処理する字幕処理部と、XMLパーザからパージングされて入力された付加情報データファイルを処理し、処理された付加情報に基づいてユーザインターフェース情報を生成する付加情報処理部と、処理された映像、音声、字幕及びユーザインターフェース情報を出力するデータ出力部とを備える。
【選択図】 図3

Description

本発明は、拡張型字幕ファイルを用いて付加情報を提供する装置及び方法に係り、より詳細には、同期式字幕ファイルに映像及び字幕についての付加情報を追加して、さらに多くの付加情報をユーザに提供する拡張型字幕ファイルを用いて付加情報を提供する装置及び方法に関する。
従来のテキスト基盤の字幕技術には、マイクロソフト社のSAMI(Synchronized Accessible Media Interchange)技術やリアルネットワーク社のReal−text技術などがある。
従来のテキスト基盤の字幕技術は、ビデオストリームデータが記録されたファイルまたはネットワーク上で提供されるビデオストリームデータに対して同期時間情報を基準に字幕を出力させる構造を有する。
図1は、一般的なSAMI形式の字幕ファイル及びパージングされた字幕情報を示す図面である。ここで、SAMIでスクリプトを作成する場合、製作が簡単かつ取り扱いしやすいという長所がある。
示されたように、SAMIで作成されたファイルの字幕出力処理方式は、基本的にXML形式の字幕言語とそれを解釈するためのパーザ(Parser)の定義と構成される。ここで、字幕言語は、フレーム位置を示すタイムシンクと言語別字幕内容、そして必要によってフォントサイズまたは色相などの情報を含んでいる。
テキスト基盤字幕を再生する再生装置の動作を説明すれば、字幕処理部で読込んだ字幕ファイルを、自体XMLパーザを通じてタイムシンク(フレーム位置)とテキスト(台詞)とに分離/抽出して、メモリに保管し、フレーム単位の映像出力時に該当フレーム位置の字幕テキストを確認して、映像データと同期化した後、出力する。
例えば、XMLパーザが字幕ファイルをパージングした結果、タイムシンク‘1000’に英語台詞(One)またはフランス語台詞(Un)が位置し、タイムシンク‘2000’に英語台詞(Two)またはフランス語台詞(Deux)が位置せねばならないという情報を抽出する。次いで、XMLパーからは該当タイムシンク時にパージングされたデータを映像データと同期化して出力させる。
図2は、従来の字幕言語を処理し、映像データと字幕テキストとを同期化して出力した画面を示す図面である。
示されたように、テキスト基盤字幕を再生する再生装置は、動画像ストリームデータと字幕データとを読み込んで、動画像を再生しつつ、指示された時間、及び画面に指示された位置で字幕データを出力する。
しかし、既存の字幕言語は、HTMLタグのごく一部のみを含んでいる程度で、字幕以外の他の情報(例えば、字幕についての付加情報)は表現し難いという問題点があり、ユーザに情報が伝えられる方式がスクリプト形態の出力だけなので、映像と同期化された字幕を介した多様な付加情報の提供が制限的であるという問題点がある。
特許文献1は、動画像の内容を要約したキーフレーム(代表イメージ)と共に、ビデオ内に含まれている場所、音楽、人物、商品などの各種付加情報をビデオメタデータに保存して、ビデオ再生時に、ビデオメタデータに保存されている各種の付加情報がビデオ再生タイムと自動で同期化されて、ビデオ再生タイムに該当する各種の付加情報を表示した方法を開示しているが、これはインターネット上でVOD(ビデオオンデマンド)のサービス時に、ビデオの再生と同時に、ビデオに含まれた各種の付加情報を共にサービスするものであって、一般的なSAMIファイルに所定の付加情報を含んでディスプレイする技術については言及していない。
韓国公開特許第2004−033766号公報
本発明は、同期式字幕ファイルに映像及び字幕についての付加情報を追加して、追加された付加情報を映像及び字幕データと同期化して出力することによって、さらに多くの付加情報をユーザに提供するところにその目的がある。
本発明の他の目的は、拡張型字幕ファイルに含まれた付加情報データを処理する付加情報処理部を通じて同期式字幕言語の柔軟な拡張を提示することである。
本発明の目的は、以上で言及した目的に制限されず、言及されていない他の目的は下の記載から当業者に明確に理解されうる。
前記目的を達成するための本発明の一実施形態による拡張型字幕ファイルを用いて付加情報を提供する装置は、データ入力部を通じて入力されたマルチメディアファイルから映像及び音声データを分離する逆多重化部と、前記データ入力部を通じて入力された字幕データファイル及び付加情報データファイルをパージングするXMLパーザと、前記逆多重化部から入力された映像及び音声データを復号化し、前記復号化された映像データ及び音声データを所定の映像及び音声信号に変換する映像/音声データ処理部と、前記XMLパーザからパージングされて入力された字幕データファイルを処理する字幕処理部と、前記XMLパーザからパージングされて入力された付加情報データファイルを処理し、前記処理された付加情報に基づいてユーザインターフェース情報を生成する付加情報処理部と、前記処理された映像、音声、字幕及びユーザインターフェース情報を出力するデータ出力部と、を備える。
また、本発明の他の実施形態による拡張型字幕ファイルを用いて付加情報を提供する方法は、マルチメディアデータ、字幕データ及び付加情報データを入力される装置において、前記入力された字幕データ及び付加情報データをパージングする段階と、前記パージングされた付加データを処理してユーザインターフェース情報を生成する段階と、前記マルチメディアデータ、前記字幕データ、及び前記ユーザインターフェース情報を同期化して出力する段階と、を含む。
その他の実施例の具体的な事項は詳細な説明及び図面に含まれている。
本発明の拡張型字幕ファイルを用いて付加情報を提供する装置及び方法によれば、次のような効果が1つあるいはそれ以上ある。
一般的な同期式字幕ファイルに映像及び字幕についての付加情報を追加し、追加された付加情報を画面に同期化して提供することによって、ユーザにより多くの付加情報を提供しうる。また、一般的な同期式字幕ファイルに映像及び字幕についての付加情報を追加することによって、字幕言語の柔軟な拡張及び多様なユーザインターフェースを提供しうる。
本発明の利点及び特徴、そしてこれを達成する方法は添付された図面に基づいて詳細に後述されている実施例を参照すれば明確になる。しかし、本発明は以下で開示される実施例に限定されるものではなく、この実施例から外れて多様な形に具現でき、本明細書で説明する実施例は本発明の開示を完全にし、本発明が属する技術分野で当業者に発明の範ちゅうを完全に報せるために提供されるものであり、本発明は請求項及び発明の詳細な説明により定義されるだけである。一方、明細書全体に亙って同一な参照符号は同一な構成要素を示す。
以下、添付された図面を参照して本発明の望ましい実施形態を詳細に説明する。
図3は、本発明の一実施形態による拡張型字幕ファイルを用いて付加情報を提供する装置を示す内部ブロック図である。ここで、付加情報を提供する装置は、メディアプレーヤーを備えうる。
示されたように、拡張型字幕ファイルを用いて付加情報を提供する装置は、データ入力部100、データ処理部200、及びデータ出力部300を含んで構成される。ここで、拡張型字幕ファイルは、フレーム位置を示すタイムシンクと、言語別字幕内容、及び必要によって出力する字幕のフォントサイズまたは色相などの情報を含んでおり、また映像及び字幕についての付加情報を含む。
また、データ入力部100は、マルチメディアファイル(映像、音声データ)、字幕データファイル、及び付加情報データファイルを入力され、データ処理部200は、逆多重化部210、映像データ処理部220、音声データ処理部230、字幕処理部240、XMLパーザ250、及び付加情報データ処理部260を含んで構成され、データ出力部300は映像出力部310、音声出力部320を含んで構成される。
逆多重化部210は、データ入力部100を通じて入力されたマルチメディアファイルから映像データ及び音声データを分離し、分離された映像データ及び音声データを映像データ処理部220及び音声データ処理部230に伝送する。映像データ処理部220は、逆多重化部210から入力された映像データを復号化するビデオデコーダ221と、ビデオデコーダ221から入力された復号化された映像データを処理して所定の映像信号に変換するビデオレンダラー222を含んで構成される。
音声データ処理部230は、逆多重化部210から入力された音声データを復号化するオーディオデコーダ231と、オーディオデコーダ231から入力された復号化された音声データを処理して、所定の音声信号に変換するビデオレンダラー222を含んで構成される。
XMLパーザ250は、データ入力部100から入力されたXML文書(すなわち、字幕データ及び付加情報データ)をパージングし、パージングされた字幕データ及び付加情報データを字幕処理部240及び付加情報処理部260に伝送する。
字幕処理部240は、XMLパーザ250からパージングされた字幕データを処理する。また、字幕処理部240は、フレーム単位の映像出力時に該当フレーム位置に対する字幕データをチェックして、映像データと同期化されるように出力させる。
付加情報処理部260は、XMLパーザ250からパージングされた付加情報データを処理し、処理された付加情報に基づいて画面を通じて提供されるユーザインターフェース情報を生成する。ここで、付加情報データは、映像及び字幕についての付加説明を表す情報であって、タイムシンクによるキャラクターの種類、台詞、表情、出力時間、オーディオソース、及びリンクURLなどの情報を含む。また、ユーザインターフェース情報は、映像及び字幕についての付加情報を表す所定形状のキャラクターで理解されうる。すなわち、映像及び字幕が出力される所定フレームの置にキャラクターが同期化されてディスプレイされつつ、該当映像及び字幕についての付加説明を字幕または音声を通じて提供する。
映像出力部310は、ビデオ処理部220、字幕処理部240、及び付加情報処理部260から伝送された映像、字幕、及びユーザインターフェース情報をフレーム位置情報(すなわち、タイムシンク情報)によって出力する。
また、映像出力部310は、映像データ、字幕テキスト、及びユーザインターフェース情報に優先順位値を設定し、設定された優先順位によって各情報(すなわち、映像データ、字幕テキスト、及びユーザインターフェース情報)を画面上のレイヤに位置させる。
例えば、ユーザインターフェース情報、字幕、及び映像などの順に高い優先順位値を設定する。これにより、画面の下位レイヤに、優先順位の最も低い映像データがディスプレイされ、その次のレイヤに字幕テキストがディスプレイされ、画面の最も上位レイヤにユーザインターフェース情報を位置させて、ディスプレイされた付加情報(例えば、キャラクター)が映像データ及び字幕テキストによって隠されないようにする。
音声出力部320は、オーディオ処理部230、及び付加情報処理部260から伝送された音声情報を映像と同期化して出力する。
一方、付加情報を提供する装置は、映像データ処理部220、音声データ処理部230、字幕処理部240、及び付加情報処理部260を通じて処理されたデータ(すなわち、ユーザインターフェース情報、字幕、及び映像/音声など)が同期化されて出力されるように(すなわち、設定された該当タイムシンクによって出力されるように)、時間フィールドをミリ秒(msec)単位で提供するタイムスタンプ(timestamp)(図示せず)をさらに含む。ここで、タイムスタンプは、データ出力部300に位置されうる。
図4は、本発明の他の実施形態による拡張型字幕ファイル及びパージングされた字幕情報及び付加情報を示す図面である。
示されたように、拡張型字幕ファイル10には、フレーム位置を示すタイムシンク11、言語別字幕内容12、及び映像及び字幕についての付加情報13を含む。
すなわち、拡張型字幕ファイル10にタイムシンクが‘1000’である時、画面にディスプレイされる字幕情報(例えば、英語字幕(すなわち、One)またはフランス語字幕(すなわち、Un))12が記録されている。
また、タイムシンクが‘2000’である時、字幕情報(例えば、英語字幕(すなわち、Two)またはフランス語字幕(すなわち、Deux))12と、付加情報(例えば、キャラクター情報(すなわち、Boy)、キャラクターについての字幕情報(すなわち、There is a new arrival)、キャラクターの表情情報(すなわち、Smile)、キャラクターが画面で消える時間情報(すなわち、5秒)、キャラクターの音声情報(すなわち、Hello)及びキャラクターにリンクされている情報(すなわち、http://www.samsung.com))13が記録されている。
拡張型字幕ファイルをパージングする過程を説明すれば、次の通りである。まず、データ入力部100から拡張型字幕ファイル10が入力されれば、XMLパーザ250は、入力された拡張型字幕ファイル10をパージングする。すなわち、拡張型字幕ファイルに含まれた字幕データと付加情報データとを分離及び解釈した後、解釈された情報20を字幕処理部240と付加情報処理部250とに伝送する。
次いで、付加情報処理部250は、XMLパーザ250から入力された付加情報を処理してユーザインターフェース情報を生成し、生成されたユーザインターフェース情報(例えば、キャラクター)を映像出力部310に伝送して画面に出力させる。
したがって、該当フレーム位置に映像及び字幕と共に付加情報を説明するキャラクターが登場して、さらに多くの情報をユーザに提供する。
図5は、本発明のさらに他の実施形態による拡張型字幕ファイルを用いて付加情報を提供する装置を通じて出力される画面を示す図面である。
まず、データ入力部100から入力された字幕ファイルをXMLパーザ250でパージングしてタイムシンク(すなわち、フレーム位置)、台詞データ、及び付加情報データを分離/抽出した後、字幕処理部240及び付加情報処理部260を伝送する。ここで、付加情報処理部260は、パージングされて伝送された付加情報に基づいてユーザインターフェース情報(すなわち、キャラクター)を生成する。この際、付加情報に基づいて生成されたキャラクターには、キャラクター情報(性別、表情)、キャラクターの字幕情報、キャラクターの音声情報、及びリンクされている情報などが含まれている。
次いで、字幕処理部240は、フレーム単位の映像出力時、該当フレーム位置に対する字幕テキストを確認し、映像データと同期化して出力し、付加情報処理部260は、該当フレーム位置についてのユーザインターフェース情報を確認した後、映像及び字幕テキストと同期化して出力する。
すなわち、示されたように基本映像(例えば、キャラクター1、2、3)が画面に出力され、基本映像(すなわち、キャラクター1)に割当する字幕(TowまたはDeux)及びそれに該当する音声が映像と同期化されて出力される。
これと同時に、付加情報を説明するキャラクター5が基本映像及び字幕テキストにオーバーラップされてディスプレイされ、キャラクター5に割当てられた字幕(There is a new arrival)及び音声(Hello)がキャラクター5と同期化されて出力される。ここで、キャラクター5は、拡張型字幕ファイル10に記録された情報によって笑顔を有するキャラクター形状であり、5秒後に自動で消えるように定義されている。また、キャラクター5は、所定のサイトと連結されたリンク情報を有しているので、ユーザのキャラクター5の選択時に該当サイトに移動しうる。
図6は、本発明のさらに他の実施形態による拡張型字幕ファイルを用いて付加情報を提供する方法を示すフローチャートである。
まず、データ入力部100を通じてマルチメディアファイル及び拡張型字幕ファイルが入力されれば(S200)、入力されたマルチメディアファイルは、逆多重化部210を通じて映像及び音声データに分離され、拡張型字幕ファイルは、XMLパーザ250を通じて字幕データ及び付加情報データに分離及び抽出される(S210)。ここで、拡張型字幕ファイルは、フレーム位置を示すタイムシンクと、言語別字幕内容、及び必要によって出力する字幕のフォントサイズまたは色相などの情報を含んでおり、また映像及び字幕についての付加情報を含む。
次いで、逆多重化部210を通じて分離された映像データは、ビデオ処理部220に入力されてビデオデコーダ221を通じて復号化され(S211)、復号化された映像デーをビデオレンダラー222が所定の映像信号に変換する。また、音声データは、オーディオ処理部230に入力されてオーディオデコーダ231を通じて復号化され、復号化された音声データをオーディオレンダラー232が所定の音声信号に変換する(S212)。
次いで、XMLパーザ250を通じてパージングされて分離された字幕データは、字幕処理部240に入力されて処理され(S213、S214)、パージングされた付加情報データは、付加情報処理部260に入力されて処理される(S215)。
すなわち、付加情報処理部260は、パージングされた付加情報データを処理してユーザインターフェース情報を生成する。ここで、ユーザインターフェース情報は、入力された付加情報データに基づいて映像及び字幕についての付加説明を行うキャラクターであると理解されうる。また、前記キャラクターは、台詞、表情、出力時間、オーディオソース、及びリンクURLなどの情報を含む。
次いで、処理されたデータ(ユーザインターフェース情報、字幕データ、及び映像/音声データ)をデータ出力部300に伝送すれば(S220)、データ出力部300内の映像出力部310は、伝送されたユーザインターフェース情報、字幕データ、及び映像データについての優先順位を設定する(S230)。ここで、優先順位は、インターフェース情報、字幕データ、及び映像データが面に位置する順序であって、優先順位が高いほど画面の上位レイヤに位置する。
例えば、映像出力部310は、ユーザインターフェース情報に高い順位の優先順位値を設定し、ユーザインターフェース情報を出力する時、他のデータ(映像または字幕)より画面の上位レイヤに位置させる。
次いで、タイムスタンプを通じて同じタイムシンクに該当する映像、字幕及びユーザインターフェース情報(すなわち、キャラクター)が画面に出力される(S240)。この際、画面に出力されるデータは設定された優先順位によって画面にディスプレイされる。例えば、映像、字幕、及びユーザインターフェース情報順に優先順位値が設定されて画面上の最も上位レイヤにはユーザインターフェース情報(すなわち、キャラクター)が位置する。
したがって、画面に映像、字幕、及び付加情報を提供するキャラクターが同期化されて出力され、また所定の音声出力機器を通じて該当音声が同期化されて出力される。ここで、キャラクターは、映像及び字幕についての付加説明を字幕を通じて提供し、所定の音声を出力することもある。また、キャラクターは、所定サイトと連結されたリンク情報を有しており、ユーザのキャラクター選択時に該当サイトに移動する。
これにより、ユーザの所定動画像の視聴時に、該当動画像ファイルについての付加情報を画面上に同期化して提供することによって、さらに多くの付加情報をユーザに提供しうる。
以上、添付図を参照して本発明の実施例を説明したが、 本発明が属する技術分野で当業者ならば本発明がその技術的思想や必須特徴を変更せずとも他の具体的な形に実施されうるということが理解できるであろう。したがって、前述した実施例は全ての面で例示的なものであって、限定的なものではないと理解せねばならない。
本発明は、拡張型字幕ファイルを用いて付加情報を提供する装置及び方法に関連した技術分野に好適に適用されうる。
一般的なSAMI形式の字幕ファイル及びパージングされた字幕情報を示す図である。 従来の字幕言語を処理し、映像データと字幕テキストとを同期化して出力することを示す図である。 本発明の一実施形態による拡張型字幕ファイルを用いて付加情報を提供する装置を示す内部ブロック図である。 本発明の他の実施形態による拡張型字幕ファイル及びパージングされた字幕情報及び付加情報を示す図である。 本発明のさらに他の実施形態による拡張型字幕ファイルを用いて付加情報を提供する装置を通じて出力される画面を示す図である。 本発明のさらに他の実施形態による拡張型字幕ファイルを用いて付加情報を提供する方法を示すフローチャートである。
符号の説明
100 データ入力部
200 データ処理部
210 逆多重化部
220 映像データ処理部
230 音声データ処理部
240 字幕処理部
250 XMLパーザ
260 付加情報処理部
300 データ出力部

Claims (7)

  1. データ入力部を通じて入力されたマルチメディアファイルで映像及び音声データを分離する逆多重化部と、
    前記データ入力部を通じて入力された字幕データファイル及び付加情報データファイルをパージングするXMLパーザと、
    前記逆多重化部から入力された映像及び音声データを復号化し、前記復号化された映像データ及び音声データを所定の映像及び音声信号に変換する映像/音声データ処理部と、
    前記XMLパーザからパージングされて入力された字幕データを処理する字幕処理部と、
    前記XMLパーザからパージングされて入力された付加情報データを処理し、前記処理された付加情報に基づいてユーザインターフェース情報を生成する付加情報処理部と、
    前記処理された映像、音声、字幕及びユーザインターフェース情報を出力するデータ出力部と、を備える拡張型字幕ファイルを用いて付加情報を提供する装置。
  2. 前記データ出力部は、前記付加情報データに高い順位の優先順位値を設定して、前記付加情報データの出力時に画面の上位レイヤに位置させる請求項1に記載の拡張型字幕ファイルを用いて付加情報を提供する装置。
  3. 前記付加情報データは、映像、音声、または字幕情報を含む請求項1に記載の拡張型字幕ファイルを用いて付加情報を提供する装置。
  4. マルチメディアデータ、字幕データ及び付加情報データを入力される装置において、
    前記入力された字幕データ及び付加情報データをパージングする段階と、
    前記パージングされた付加データを処理してユーザインターフェース情報を生成する段階と、
    前記マルチメディアデータ、前記字幕データ、及び前記ユーザインターフェース情報を同期化して出力する段階と、を含む拡張型字幕ファイルを用いて付加情報を提供する方法。
  5. 前記マルチメディアデータ、字幕データ、及びユーザインターフェース情報についての優先順位を設定する段階と、
    前記設定された優先順位に基づいて画面にディスプレイする段階と、をさらに含む請求項4に記載の拡張型字幕ファイルを用いて付加情報を提供する方法。
  6. 前記ユーザインターフェース情報に高い順位の優先順位値を設定し、前記ユーザインターフェース情報を画面の上位レイヤに位置させる請求項5に記載の拡張型字幕ファイルを用いて付加情報を提供する方法。
  7. 前記ユーザインターフェース情報は、映像、音声、または字幕情報を含む請求項4に記載の拡張型字幕ファイルを用いて付加情報を提供する方法。
JP2006130440A 2005-05-26 2006-05-09 拡張型字幕ファイルを用いて付加情報を提供する装置及び方法 Expired - Fee Related JP4430036B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020050044595A KR100654455B1 (ko) 2005-05-26 2005-05-26 확장형 자막 파일을 이용하여 부가정보를 제공하는 장치 및방법

Publications (2)

Publication Number Publication Date
JP2006333460A true JP2006333460A (ja) 2006-12-07
JP4430036B2 JP4430036B2 (ja) 2010-03-10

Family

ID=36956561

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006130440A Expired - Fee Related JP4430036B2 (ja) 2005-05-26 2006-05-09 拡張型字幕ファイルを用いて付加情報を提供する装置及び方法

Country Status (5)

Country Link
US (1) US8732783B2 (ja)
EP (1) EP1727368A3 (ja)
JP (1) JP4430036B2 (ja)
KR (1) KR100654455B1 (ja)
CN (1) CN1905645B (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006311328A (ja) * 2005-04-28 2006-11-09 Sony Corp 字幕生成装置及び方法
US8752120B2 (en) 2009-09-30 2014-06-10 Canon Kabushiki Kaisha Digital broadcasting receiving apparatus and method for controlling the same
JP2017517905A (ja) * 2014-02-28 2017-06-29 サムスン エレクトロニクス カンパニー リミテッド 無線通信システムにおけるアプリケーションデータを表示するための方法及び装置
JP2018532281A (ja) * 2015-09-18 2018-11-01 ザップル カンパニー リミテッド 多重化特性を用いたザッピング広告システム

Families Citing this family (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101674423B (zh) * 2008-09-10 2013-02-20 新奥特(北京)视频技术有限公司 一种在线节目单驱动的字幕播出列表的生成方法
CN101674456B (zh) * 2008-09-10 2013-03-06 新奥特(北京)视频技术有限公司 总控播出线异构系统间基于消息队列的信息交互方法
CN101674455B (zh) * 2008-09-10 2013-03-06 新奥特(北京)视频技术有限公司 总控播出线异构系统间基于web服务的信息交互方法
CN102065233B (zh) * 2009-11-12 2014-09-17 新奥特(北京)视频技术有限公司 一种字幕机
US8813164B2 (en) 2009-11-30 2014-08-19 Sony Corporation Data tunneling via closed captioning
WO2012131415A1 (en) * 2011-03-31 2012-10-04 Sony Ericsson Mobile Communications Ab System and method for rendering messaging content while contemporaneously rendering multimedia content
US9071815B2 (en) 2011-08-31 2015-06-30 Nokia Technologies Oy Method, apparatus and computer program product for subtitle synchronization in multimedia content
CN102981887B (zh) * 2011-09-06 2016-07-06 联想(北京)有限公司 数据处理方法及电子设备
BR112014026861A2 (pt) * 2012-04-26 2018-05-15 Univ Chicago antígenos de estafilococos coagulase e métodos de seu uso
US8564721B1 (en) * 2012-08-28 2013-10-22 Matthew Berry Timeline alignment and coordination for closed-caption text using speech recognition transcripts
CN103731609B (zh) * 2012-10-11 2019-04-26 百度在线网络技术(北京)有限公司 一种视频播放方法及系统
US9589594B2 (en) 2013-02-05 2017-03-07 Alc Holdings, Inc. Generation of layout of videos
CN103491416B (zh) * 2013-09-29 2018-09-04 深圳Tcl新技术有限公司 字幕数据的单图层显示方法和装置
CN103929653B (zh) * 2014-04-30 2018-01-09 成都理想境界科技有限公司 增强现实视频生成器、播放器及其生成方法、播放方法
CN104918135B (zh) * 2015-06-01 2018-05-08 无锡天脉聚源传媒科技有限公司 一种视频台标生成方法及装置
CN106358092B (zh) * 2015-07-13 2019-11-26 阿里巴巴集团控股有限公司 信息处理方法及装置
US9923860B2 (en) 2015-07-29 2018-03-20 International Business Machines Corporation Annotating content with contextually relevant comments
CN105120324B (zh) * 2015-08-31 2018-08-10 暴风集团股份有限公司 一种分布式播放器实现方法及系统
US10237591B2 (en) * 2015-09-09 2019-03-19 Lg Electronics Inc. Broadcast signal transmission device, broadcast signal reception device, broadcast signal transmission method, and broadcast signal reception method
CN106851401A (zh) * 2017-03-20 2017-06-13 惠州Tcl移动通信有限公司 一种自动添加字幕的方法及系统
US10728568B1 (en) * 2018-03-22 2020-07-28 Amazon Technologies, Inc. Visual element encoding parameter tuning
CN111601142B (zh) * 2020-05-08 2022-03-01 青岛海信传媒网络技术有限公司 一种字幕的显示方法及显示设备

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000341228A (ja) * 1999-05-31 2000-12-08 Toshiba Corp ディジタル放送番組送信装置及びディジタル放送番組受信装置
JP2005124169A (ja) * 2003-09-26 2005-05-12 Matsushita Electric Ind Co Ltd 吹き出し字幕付き映像コンテンツ作成装置、送信装置、再生装置、提供システムならびにそれらで用いられるデータ構造および記録媒体

Family Cites Families (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5486872A (en) * 1993-02-26 1996-01-23 Samsung Electronics Co., Ltd. Method and apparatus for covering and revealing the display of captions
US5774666A (en) * 1996-10-18 1998-06-30 Silicon Graphics, Inc. System and method for displaying uniform network resource locators embedded in time-based medium
US6513160B2 (en) * 1998-06-17 2003-01-28 Opentv, Inc. System and method for promoting viewer interaction in a television system
JP2001160066A (ja) * 1998-12-25 2001-06-12 Matsushita Electric Ind Co Ltd データ処理装置、データ処理方法および記録媒体、並びに該データ処理方法をコンピュータに実行させるためのプログラム
JP2001273520A (ja) * 2000-03-23 2001-10-05 Famotik Ltd マルチメディアドキュメント統合表示システム
JP2001350746A (ja) 2000-06-08 2001-12-21 Koike Shoin:Kk コンピュータを用いたデジタル漫画作成方法と保存及び出力方法
JP2002041276A (ja) * 2000-07-24 2002-02-08 Sony Corp 対話型操作支援システム及び対話型操作支援方法、並びに記憶媒体
US6931656B1 (en) * 2000-10-11 2005-08-16 Koninklijke Philips Electronics N.V. Virtual creature displayed on a television
WO2002037841A1 (fr) * 2000-11-02 2002-05-10 Fujiyama Co., Ltd. Systeme de repartition du contenu d'une image numerique, procede de reproduction et support d'enregistrement de son programme de reproduction
JP2002325242A (ja) * 2001-04-26 2002-11-08 Ntt Advanced Technology Corp 議会映像情報提供システム
JP2003067099A (ja) 2001-08-28 2003-03-07 Sony Corp 情報処理装置および情報処理方法、記録媒体、並びにプログラム
KR100429806B1 (ko) * 2002-01-07 2004-05-03 삼성전자주식회사 디지털 tv 프로그램에 연관된 부가 정보를 표시하는방법 및그 장치
FR2836733B1 (fr) 2002-03-01 2004-05-28 France Telecom Procede et dispositif de traitement informatique d'un contenu audiovisuel avec sous-titres
US20030190148A1 (en) * 2002-03-20 2003-10-09 Lg Electronics Inc. Displaying multi-text in playback of an optical disc
KR100912984B1 (ko) 2002-04-12 2009-08-20 미쓰비시덴키 가부시키가이샤 메타데이터 편집 장치, 메타데이터 재생 장치, 메타데이터 배신 장치, 메타데이터 검색 장치, 메타데이터 재생성 조건 설정 장치, 콘텐츠 배신 장치, 메타데이터 배신 방법, 메타데이터 재생성 장치, 메타데이터 재생성 방법
KR20040033766A (ko) 2002-10-15 2004-04-28 케이투아이엠에스 인터넷상에서 비디오 메타 데이터를 이용하여 비디오요약과 동영상 부가정보를 서비스하는 방법
JP2004349851A (ja) * 2003-05-20 2004-12-09 Ntt Docomo Inc 携帯端末、画像通信プログラム、及び画像通信方法
BRPI0412839A (pt) 2003-07-24 2006-09-26 Lg Electronics Inc mìdia de gravação que tem uma estrutura de dados para gerenciar reprodução de dados de subtìtulo de texto gravado nela e métodos e aparelhos de gravação e reprodução
US20050078221A1 (en) * 2003-09-26 2005-04-14 Koji Kobayashi Apparatus for generating video contents with balloon captions, apparatus for transmitting the same, apparatus for playing back the same, system for providing the same, and data structure and recording medium used therein
KR100739682B1 (ko) 2003-10-04 2007-07-13 삼성전자주식회사 텍스트 기반의 서브 타이틀 정보를 기록한 정보저장매체,그 처리장치 및 방법
KR20050035678A (ko) 2003-10-14 2005-04-19 엘지전자 주식회사 광디스크 장치의 부가 데이터 재생방법 및 장치와, 이를위한 광디스크
JP2005285209A (ja) * 2004-03-29 2005-10-13 Toshiba Corp 動画像のメタデータ
KR20060047930A (ko) * 2004-05-17 2006-05-18 마츠시타 덴끼 산교 가부시키가이샤 화상 합성 출력 장치, 화상 합성 표시 장치, 휴대통신기기,화상 합성 출력 방법 및 화상 합성 출력용 기록 매체

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000341228A (ja) * 1999-05-31 2000-12-08 Toshiba Corp ディジタル放送番組送信装置及びディジタル放送番組受信装置
JP2005124169A (ja) * 2003-09-26 2005-05-12 Matsushita Electric Ind Co Ltd 吹き出し字幕付き映像コンテンツ作成装置、送信装置、再生装置、提供システムならびにそれらで用いられるデータ構造および記録媒体

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006311328A (ja) * 2005-04-28 2006-11-09 Sony Corp 字幕生成装置及び方法
US8752120B2 (en) 2009-09-30 2014-06-10 Canon Kabushiki Kaisha Digital broadcasting receiving apparatus and method for controlling the same
JP2017517905A (ja) * 2014-02-28 2017-06-29 サムスン エレクトロニクス カンパニー リミテッド 無線通信システムにおけるアプリケーションデータを表示するための方法及び装置
US10757196B2 (en) 2014-02-28 2020-08-25 Samsung Electronics Co., Ltd Method and apparatus for displaying application data in wireless communication system
JP2018532281A (ja) * 2015-09-18 2018-11-01 ザップル カンパニー リミテッド 多重化特性を用いたザッピング広告システム

Also Published As

Publication number Publication date
US8732783B2 (en) 2014-05-20
CN1905645A (zh) 2007-01-31
CN1905645B (zh) 2011-04-20
KR100654455B1 (ko) 2006-12-06
EP1727368A2 (en) 2006-11-29
US20060272000A1 (en) 2006-11-30
JP4430036B2 (ja) 2010-03-10
EP1727368A3 (en) 2009-07-01
KR20060122265A (ko) 2006-11-30

Similar Documents

Publication Publication Date Title
JP4430036B2 (ja) 拡張型字幕ファイルを用いて付加情報を提供する装置及び方法
JP4127668B2 (ja) 情報処理装置、情報処理方法、およびプログラム
US8229748B2 (en) Methods and apparatus to present a video program to a visually impaired person
Gottlieb Subtitles: readable dialogue?
KR101899588B1 (ko) 수어 애니메이션 데이터를 자동으로 생성하는 시스템과 이를 이용한 방송시스템 및 방송방법
KR20040039432A (ko) 다중 언어 필사 시스템
JP2002300495A (ja) 発話認識に基づいたキャプションシステム
CN102246225B (zh) 用于合成语音的方法和设备
KR101927965B1 (ko) 광고 동영상 제작 시스템 및 방법
WO2015019774A1 (ja) データ生成装置、データ生成方法、翻訳処理装置、プログラム、およびデータ
JP2008160232A (ja) 映像音声再生装置
KR101869053B1 (ko) 증강 방송 콘텐츠 수신 방법 및 장치, 증강 콘텐츠 제공 방법 및 장치, 증강 콘텐츠 제공 시스템
KR20180042058A (ko) 하이브리드 자막 효과 구현 단말 및 방법
KR20050031847A (ko) 복수의 재생경로를 가지는 동영상 데이터에 대한 텍스트기반의 자막 정보가 기록된 저장 매체, 재생 장치 및 그재생 방법
JPH10294896A (ja) 字幕情報付きディジタル情報処理方法及び装置
JP2010055259A (ja) 画像処理装置、画像処理プログラム及び画像処理方法
JP2009152782A (ja) コンテンツ再生装置及びコンテンツ再生方法
JP2004134909A (ja) コンテンツ解説データ生成装置、その方法及びそのプログラム、並びに、コンテンツ解説データ提示装置、その方法及びそのプログラム
JP4206445B2 (ja) 字幕番組制作方法、及び字幕番組制作システム
JP2000350117A (ja) 字幕文テキストの提示形式変換方法、及び字幕へのタイミング情報付与方法
JP2009260685A (ja) 放送受信装置
JP4500957B2 (ja) 字幕制作システム
TW200530940A (en) DVD player with function of character recognition
KR100426326B1 (ko) 디지털 만화 서비스 시스템 및 디지털 만화 재생 시스템
JP7179387B1 (ja) ハイライト動画生成システム、ハイライト動画生成方法、およびプログラム

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090721

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20091020

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20091117

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20091216

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121225

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4430036

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121225

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131225

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees