JP4391187B2 - データ復号方法および装置 - Google Patents
データ復号方法および装置 Download PDFInfo
- Publication number
- JP4391187B2 JP4391187B2 JP2003347459A JP2003347459A JP4391187B2 JP 4391187 B2 JP4391187 B2 JP 4391187B2 JP 2003347459 A JP2003347459 A JP 2003347459A JP 2003347459 A JP2003347459 A JP 2003347459A JP 4391187 B2 JP4391187 B2 JP 4391187B2
- Authority
- JP
- Japan
- Prior art keywords
- data
- color
- subtitle
- display position
- pattern
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Lifetime
Links
Images
Landscapes
- Studio Circuits (AREA)
Description
さらに、CD−G(グラッフィックス)においては、サブコードを利用してグラフィックスを記録することができるようにされており、これを利用して字幕をCDに記録することが可能とされている。
この図に示すように1バイトとされた各フレームのサブコードをP,Q,R,S,T,U,V,Wの8チャンネルに展開して示している。そして、Frame0とFrame1のサブコードはS0,S1のシンクパターンとされており、残りの96フレーム分のサブコードに、種々のサブコードデータが記録されている。このうち、PチャンネルとQチャンネルには、トラックをサーチするデータが割り当てられている。したがって、残るRチャンネルないしWチャンネルの6×96ビットにグラフィックスデータを割り当てることができるようになる。
この図に示すように、RチャンネルないしWチャンネルの6ビットのデータを1シンボルとする時、96シンボル分のデータにより1パケットが構成されている。そして、1パケットは4つのパックにより構成されている。すなわち、各々の1パックは0シンボルないし23シンボルの24個のシンボルにより構成されるようになる。
(288/6)×(192/12)÷300=2.56(sec)
この場合、各ピクセルについて16値表現を行おうとすると、各ピクセルに4ビット必要とされるため、1回の文字パターンにつき4回のパターンを伝送する(1回につき1ビット伝送する)必要がある。従って、伝送時間は前記より4倍の時間である10.24秒かかることになる。
また、カラオケに代表されるダイナミックに変化する字幕のカラーデータを必要に応じて表示させることができないと云う問題点があった。
なお、CAPTAINシステムにおいては1画面の表示可能領域は、248(水平画素)×192(ライン)であるが、コンポーネントディジタルTV信号は、720(水平画素)×480(ライン)の解像度を有しており、この解像度に比べると十分な解像度とは云えない。
また、これを解決するために、例えばフィルタにより2値画像を多値情報に変換することも考えられるが、そのためには高精度のフィルタが必要となり、高価となる。さらに、このようなフィルタを用いると背景画像を劣化させることとなるので、この手段を採用することは困難である。
また、本発明は字幕のカラーデータをダイナミックに変化することのできるデータ符号化方法および装置、および、表示される字幕のカラーデータをダイナミックに変化することのできるデータを復号することのできるデータ復号方法および装置、および、字幕のカラーデータをダイナミックに変化することのできるデータが記録されている符号化データ記録媒体を提供することを目的としている。
本発明のデータ復号方法および装置によれば、字幕のカラーワイプを行ったり、字幕のパンやスクロールを行うことができる。また、字幕と共に表示されるビデオ画像の減衰率を制御することができ、字幕を見やすくすることができる。
すなわち、カラオケ等に代表されるカラーワイプを実現することができると共に、字幕等のパターン情報のパンやスクロールを自在に行うことができるようになる。
また、背景ビデオ画像の画質を劣化させることなく簡単な構成で、字幕等を高速でかつユーザの必要に応じて表示させることが可能となる。
なお、これらの処理がデータデコーダ&デマルチプレクサ1において行われる時にメモリ2がバッファメモリおよびワークエリア等として使用される。
レターボックス5では、ビデオデコーダ3の出力がスクイーズ(squeeze)モードの場合に、縦横比が4対3のモニターにおいて真円率100%で鑑賞できるように画面の垂直方向に3/4に縮めて表示するためのフィルタ処理が行われる。この場合、1/4フィールド分に相当するタイミング調整が、タイミング調整用のメモリ6を使用して行われる。
なお、レターボックス5はスクイーズモードのビデオデータをそのまま出力するスルーパスを有している。
スーパインポーズされたビデオ信号は、コンポジットエンコーダ8によりNTSC、PAL、あるいはSECAM方式に変換され、ビデオ用D/Aコンバータ10においてアナログのビデオ信号に変換されて出力される。
(1)ワード検出部20
デマルチプレクサ1から出力された字幕データのビットストリームはワード検出部20に入力され、検出されたヘッダ情報、検出されたヘッダエラー情報、検出されたデータエラー情報がコントローラ35に転送される。また、ワード検出部20により検出された字幕表示時刻のタイムスタンプ(PTSS)、表示位置情報(Position_data)、カラールックアップテーブル(CLUT)の更新データ、およびビットマップ画素データがコードバッファ22に転送されて蓄積される。
このコードバッファ22の読出/書込のアクセス制御は、スケジューラ21により行われている。コードバッファ22の読出/書込のアクセスのバンド幅は、デマルチプレクサ1から供給されるデータレートと表示レートとからメモリアクセスのスケジューリング管理が決まることにより決定されている。
たとえば、デマルチプレクサ1からのデータレートを最大20Mbpsとすると、コードバッファ22のI/Oポートが8ビットの場合2.5MHzのレートでコードバッファ22へ書き込みを行うようにすれば良い。
ところで、4回のクロックタイミングのうちの3回のクロックタイミングで読み出せるビット数は、I/Oポートが8ビットとされているため、3×8=24ビットとなる。この24ビットで間断なく4クロックタイミングのタイミング毎に表示を実行させるには、1クロックタイミング毎に24÷4=6ビットを割り当てることができるから、1画素のデータが6ビット以下で構成されていれば、リアルタイムで表示することができるようになる。
コントローラ35はワード検出部20からの字幕表示時刻のタイムスタンプ(PTSS)を受け取り、システムコントローラ14へ出力する。その後、システムコントローラ14からのデコード開始信号により字幕データのデコードを開始する。
この時、通常再生モードとされている場合は、フレーム単位でバイトアラインされたrepeattime分だけコードバッファ22から繰返し字幕データが読み出されてデコードされる。このrepeattimeの減算は、システムコントローラ14から供給される減算パルス(decrementpulse)よって行われる。この減算パルスは、通常再生の場合、フレームレートでシステムコントローラ14から発せられ、コントローラ35はこれを受けて、表示タイムスタンプに従って正しく同期が取れるように、スケジューラ21に対しコードバッファ22のアドレス管理を行っている。
なお、コントローラ35がdisplayendフラグを受け取らないうちに、ワード検出器20が次のページのEOPを検出した場合は、コントローラ35はbufferoverflow信号をシステムコントローラ14へ発し、デマルチプレクサ1からの転送を停止させる。
また、システムコントローラ14から指示があった場合、表示開始位置(displaystartposition)をフレームごとに更新する。
コードバッファ22はRAM(RandomAccessMemory)により構成されるが、RAMが外付けとされる場合は、表示用と蓄積用の2枚分のページが確保できる容量を有し、かつ、ビデオデータの復号処理の遅延補償分を含み、さらにスケジューラ21がアクセスするバンド幅を満足するRAMを使用するようにする。
ビデオデータの復号処理の遅延補償を行うために、コントローラ35はコードバッファ22へ字幕データを書き込む際に、表示時刻のタイムスタンプ(PTSS)をシステムコントローラ14へ送るようにする。
これら一連のデコード遅延を考慮する理由は、データ符号化装置においては、ビデオデータ、オーディオデータ、字幕データの各デコード遅延がゼロであるという前提の元で多重化されているからである。
コードバッファ22から読み出された字幕データに、可変長復号処理を施して、レベルデータとランデータのペアのデータとして出力する。なお、逆VLC回路23は、場合によりスルーされるものである。
ランデータの数だけレベルデータを発生させることによりランレングス復号処理を行い、以後、画素データとして字幕データを扱うようにする。逆VLC回路23と逆レングス回路24により圧縮処理された字幕データが伸長されるが、場合により、逆レングス回路24をスルーすることも可能である。
モニタのアスペクト比が4:3の場合、水平方向にスクイーズされている字幕データに3:4フィルタ処理を行い、真円率を100%にしてからビデオデータにスーパインポーズするようにしている。この場合、コントローラ35はコードバッファ22からの読み出しをHシンクパルスから90ピクセル分早く読み出すようにする。
また、モニタのアスペクト比が16:9とされている場合は、3:4フィルタ25をバイパスするようにする。この3:4フィルタをバイパスするか否かはコントローラ35から供給されるxsqueeze信号でセレクトされる。
なお、複数のフォントによる複数の字幕データのビットストリームが送られてくる場合は、3:4フィルタ25はバイパスされる。
ルックアップテーブルは、図6にその一例を示すように輝度データY、色差データCr,Cb、そして背景ビデオデータと、このCLUT内の選択された輝度データY、色差データCr,Cbのデータとの混合比を表すキーデータ(K)が登録されている。これらのデータはフルスケールで8ビットとされているが、図示するように、各4ビット精度のデータとすることが可能である。このCLUTはデコードに先立ち、CLUT回路26に予めダウンロードすることが可能とされている。この場合、CLUTデータはコードバッファ22からCLUT回路26へ転送される。
また、キーデータKはmixingratioとして、CLUT回路26からミキサ部34へ転送される。さらに、入力アドレスの最上位ビットを使用して、時間的に変化するカラーワイプを行うことのできる図9に示すようなCLUTを持つようにしてもよい。
ミキサ部34は、on/offのスーパインポーズ信号が”on”の場合、輝度データY、色差データCb,CrとしてCLUT回路26から読み出された字幕データと、輝度データY、色差データCb,Crとして入力されたビデオデータをmixingratioに従って、スーパインポーズする。その際、スーパインポーズはコントローラ35から供給されるposition信号、あるいはu_position信号で指定されたタイミングに従って、所定の位置へスーパインポーズされる。
また、モード情報にfade係数が指定されている場合は、指定された速度でパターンデータに対してfade係数を乗算することによって、フェードイン/フェードアウトを行うことができる。
なお、スーパインポーズ信号が”off”とされている場合は、ミキサ部34に入力されているビデオデータのみを出力して表示するようにする。
このスーパインポーズ信号のon/offは、ユーザが任意に設定することができる。字幕に関する一連のデコードが終了し、スーパインポーズされた信号は、サブタイトルデコーダ7からD/Aコンバータ10へ転送される。
字幕データは、図5(b)に示すようなfilldataと、図5(c)に示すようなキーデータ(keydata)とで表されている。いま、図5(a)に示すように字幕に表示すべき1つの文字として「A」があったとする。この場合の図示する1本の水平ライン(水平走査線)で走査した時のfilldataは、同図(b)に示すようになる。
この図に示すように、filldataは、期間T3において表示すべき文字の輝度(Y)に対応するレベルとされている。そして、その前後の期間T1,T2および期間T4,T5の期間において、filldataのレベルは最低のレベル”0H”とされている。なお、「H」は16進数を示すものである。
そして、期間T3に隣接する期間T2と期間T4のレベルは、中間の所定のレベルに設定されている。すなわち、期間T2においては、最高のレベル”0H”から最低のレベル”E0H”に徐々に変化するようにされており、期間T4においては最低のレベル”E0H”から最高のレベル”0H”に徐々に変化するようにされている。
この図に示す例においては、キーデータの値が大きいほど、背景ビデオ画像の減衰の割合が小さくされ、キーデータの値が小さいほど、背景ビデオ画像の減衰の割合が小さくなるようになされている。
このように、文字の近傍においては背景ビデオ画像が徐々にミュートされるため、字幕(文字)が見にくくなるようなことが防止される。
この符号化装置において、ビデオカメラ51より出力されたビデオ信号は、ビデオ符号化装置52に供給されてアナログ・デジタル(A/D)変換され、さらに圧縮化・パケット化されてマルチプレクサ58に供給されている。
なお、ビデオカメラ1に替えて、ビデオディスクプレーヤ、ビデオテープレコーダなどを用いて、再生されたビデオ信号をビデオ符号化装置52に供給するようにしてもよい。
また、字幕符号化装置57において、4ビット量子化された字幕データを1ページ分符号化した結果、SBV68にてコードバッファサイズを上回ってしまい、オーバーフローになる場合、該当ページに関する一連の符号化行程において、階調数を4ビットからより少ない階調数に落として量子化回路64により再び符号化される。これにより、データ量が削減され、オーバフローが防止される。
文字発生回路55は、ビデオ符号化装置52により符号化されるビデオ画像に対応する字幕データを発生し、この字幕データは字幕符号化装置57に入力されてスイッチ61の接点aに供給される。また、スイッチ61の接点bには文字発生回路55から発生されたキーデータKが供給される。このスイッチ61は所定のタイミングで接点aまたは接点bに切り換えられ、字幕データまたはキーデータKが所定のタイミングで選択されて、ディジタルフィルタ72およびスイッチ62を介して量子化回路64に供給される。
また、カラオケ等に使用されるカラーワイプデータや、字幕をスクロールするためのデータはワイプレバー(WipeLEVER)81により、カラーワイプや字幕の製作者により入力され、アダプタ(Adapter)82を経てRGBのデータ、あるいは表示位置データとしてワイプデータサンプラー(WipedataSampler)70に入力される。さらに、スイッチャ83において文字発生回路55からの字幕パターンデータ上にオーバレイされ、モニタ84でその様子がチェックされる。
また、字幕のカラーワイプ情報あるいは字幕等のパターン情報の表示位置情報は、フレームを単位として符号化されるが、複数フレーム分まとめて符号化することもできる。この場合、字幕データを含む符号化データ量がバッファをオーバフローさせないようにSVB68が量子化回路64の量子化レベル幅を制御するようにしてもよい。
また、字幕符号化装置57では4ビットの字幕パターンデータにより、図9に示すようなカラールックアップテーブル(CLUT)を参照して、フィルデータとしての輝度値Yと、背景との混合比であるキーデータKを該当するアドレス(Addr)として送っている。そこで、符号化側と復号側とで同じCLUTとなるように、必要な場合CLUTを符号化側から復号側へ伝送するようにしている。
このように、本発明は前述したデータ符号化装置およびデータ復号装置からなるシステムの中で、静的なパターンデータを時間的にカラールックアップテーブルを切り換えることによって、1つの目的であるダイナミックに色を変えることを実現している。
図10において、縦軸はデータサイズを示すと共に、横軸は経過時間であり、(A),(B)の2本の線に挟まれた縦軸に平行な間隔がコードバッファ22におけるコードバッファサイズ(CodeBufferSize)である。そして、(A),(B)の傾きがビットレートを表しており、(C)がコードバッファ22内部のデータ蓄積量を表している。
図10に示す場合のように、(C)のラインは(A)(B)のラインを越えないよう制御されるが、(A)のラインを越えた場合はコードバッファ22がアンダーフロー状態となり、(B)のラインを越えた場合はオーバフロー状態となる。
この図に示す場合は(A),(B)の傾きは一定であるが、可変レートとされる場合は、その傾きは時間と共に変化するようになる。
なお、ディスプレイバッファ22−2においてはすぐに表示を行うべく、例えば垂直(V)ブランキング期間を利用して、パーザ(PARSER)において各種のヘッダが解釈され、逆VLC(IVLC)23、逆ランレングスデコーダ(RUN LENGTHDEC)24、フィルタ25を介してCLUT26へビットマップデータは転送される。
図12(b)に示すように、表示用タイムスタンプ(PTS)毎に字幕のパターンデータとワイプ情報とが別々に送られてきて、コードバッファ22に蓄積される。その後、表示タイムスタンプPTSが図12(c)に示すフレームnのタイミングと一致する場合、まずフレームnでは字幕パターンが復号され表示される。次に、表示タイムスタンプPTSがフレームn+1と一致すると、フレームn+1の垂直ブランキング期間でワイプ情報WPAがコードバッファ22から読み出され、図13に示すレジスタ205においてVシンクによりラッチされる。レジスタ205においてラッチされている値はCLUT26のテーブル値を切り換えるのに使用される。例えば、カラーワイプが行われるように図9に示すカラールックアップテーブルの上半分の領域のテーブル値から下半分の領域のテーブル値に切り換える。
そして、前記した方法は、字幕の表示位置の移動、あるいは時間と共に変化する他の情報に対しても適用することができる。
3 ビデオデコーダ 5 レターボックス
7 サブタイトルデコーダ 8 コンポジットエンコーダ
9 モードディスプレイ 10,13 D/Aコンバータ
11 オーディオデコーダ 14 システムコントローラ
20 ワード検出部 21 スケジューラ
22,22−1 コードバッファ 22−2 ディスプレイバッファ
22−3 パーザ 23 逆VLC
24 逆ランレングス 25 3:4フィルタ
26 CLUT 34 ミキサ部
35 コントローラ 55 文字発生回路
57 字幕符号化装置 58 マルチプレクサ
64 量子化回路 65 DPCM回路
66 ランレングス回路 67 可変長符号化回路
68 SBV 71 CLUT
205,300,303 レジスタ 208 ピクセルカウンタ
301 コンパレータ 302 カウンタ
Claims (8)
- 表示位置情報、カラーワイプ情報、および字幕パターンをピクチャフレーム毎に符号化し、該ピクチャフレーム毎にビデオストリームと対応して多重化された上記字幕パターンの表示位置をフレーム毎に表す表示位置情報と、該字幕パターンの色の変化位置をフレーム毎に示すカラーワイプ情報と、字幕パターンと、該ピクチャフレーム毎に対応する上記ビデオストリームとを逆多重化し、復号するデータ復号方法において、
予め符号化の際使用される字幕パターンの色を設定するカラールックアップテーブルと同一のカラールックアップテーブルを保持し、
基準位置からの水平方向及び垂直方向のオフセット値で表される表示位置情報に応じて上記字幕パターンの表示位置を制御し、
カラーワイプ情報に基づいて、参照するカラールックアップテーブルから出力される色を上記字幕パターンの途中で切り換え、
上記切替えられたカラールックアップテーブルからの出力に基づいて字幕パターンの色を設定する処理を実行し、
上記字幕パターンの表示に続く、タイミングの垂直ブランキング期間を利用して上記カラーワイプ情報、表示位置情報が、バッファから読み出されることによって、上記字幕パターンの表示位置の制御、色の設定が行われる
データ復号方法。 - 上記表示位置は、垂直同期信号により規定される垂直方向のオフセット値と、ピクセルカウンタによるカウントにより規定される水平方向のオフセット値により決定される請求項1のデータ復号方法。
- 上記表示位置は、垂直同期信号及び水平同期信号を用いて制御する請求項1のデータ復号方法。
- 上記ビデオストリームを復号し、出力モードに応じて縦横比を変更してビデオデータを出力するとともに、上記字幕パターンを復号して字幕データを出力し、上記字幕データを上記ビデオデータに重ねて表示する請求項1のデータ復号方法。
- 表示位置情報、カラーワイプ情報、および字幕パターンをピクチャフレーム毎に符号化し、該ピクチャフレーム毎にビデオストリームと対応して多重化された上記字幕パターンの表示位置をフレーム毎に表す表示位置情報と、該字幕パターンの色の変化位置をフレーム毎に示すカラーワイプ情報と、字幕パターンと、該ピクチャフレーム毎に対応する上記ビデオストリームとを逆多重化し、復号するデータ復号装置において、
予め符号化の際使用される字幕パターンの色を設定するカラールックアップテーブルと同一のカラールックアップテーブルを保持する手段と、
基準位置からの水平方向及び垂直方向のオフセット値で表される表示位置情報に応じて上記字幕パターンの表示位置を制御する手段と、
カラーワイプ情報に基づいて、参照するカラールックアップテーブルから出力される色を前記字幕パターンの途中で切り換えるように制御する手段と、
前記切替えられたカラールックアップテーブルからの出力に基づいて字幕パターンの色を設定する手段と
を有し、
上記字幕パターンの表示に続く、タイミングの垂直ブランキング期間を利用して上記カラーワイプ情報、表示位置情報が、バッファから読み出されることによって、上記字幕パターンの表示位置の制御、色の設定が行われる
データ復号装置。 - 上記表示位置は、Vシンクにより規定される垂直方向のオフセット値と、ピクセルカウンタによるカウントにより規定される水平方向のオフセット値により決定される請求項5のデータ復号装置。
- 上記表示位置は、垂直同期信号及び水平同期信号を用いて制御する請求項5のデータ復号装置。
- 上記ビデオストリームを復号してビデオデータを出力するビデオデータ復号手段と、
上記字幕パターンを復号して字幕データを出力する字幕パターン復号手段とを有し、
上記ビデオデータ復号手段は、出力モードに応じてビデオデータの縦横比を変更して出力し、
上記ビデオデータ復号手段から出力されるビデオデータに、上記字幕パターン復号手段から出力された字幕データを重ねて表示する請求項5のデータ復号装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003347459A JP4391187B2 (ja) | 2003-10-06 | 2003-10-06 | データ復号方法および装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003347459A JP4391187B2 (ja) | 2003-10-06 | 2003-10-06 | データ復号方法および装置 |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP9943695A Division JPH08275205A (ja) | 1995-04-03 | 1995-04-03 | データ符号化/復号化方法および装置、および符号化データ記録媒体 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2004072798A JP2004072798A (ja) | 2004-03-04 |
JP4391187B2 true JP4391187B2 (ja) | 2009-12-24 |
Family
ID=32025869
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003347459A Expired - Lifetime JP4391187B2 (ja) | 2003-10-06 | 2003-10-06 | データ復号方法および装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4391187B2 (ja) |
-
2003
- 2003-10-06 JP JP2003347459A patent/JP4391187B2/ja not_active Expired - Lifetime
Also Published As
Publication number | Publication date |
---|---|
JP2004072798A (ja) | 2004-03-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP3577794B2 (ja) | データ復号化装置 | |
JP3326670B2 (ja) | データ符号化/復号化方法および装置、および符号化データ記録媒体 | |
US5731847A (en) | Subtitle encoding/decoding method and apparatus | |
JPH08275205A (ja) | データ符号化/復号化方法および装置、および符号化データ記録媒体 | |
AU702797B2 (en) | Apparatus and method for encoding and decoding digital video data operable to remove noise from subtitle data included therewith | |
KR100390593B1 (ko) | 서브타이틀데이터인코딩/디코딩방법및장치및그기록매체 | |
US5742352A (en) | Video caption data decoding device | |
KR100289857B1 (ko) | 자막 데이터 부호화/복호화 장치 및 방법 | |
JP4642161B2 (ja) | データ復号化装置及びデータ復号化方法 | |
JP4391187B2 (ja) | データ復号方法および装置 | |
JPH07250279A (ja) | 字幕データ復号化装置 | |
JPH07231435A (ja) | 字幕データ符号化装置、その復号化装置、並びに記録媒体 | |
JPH09163325A (ja) | 字幕符号化/復号化方法および装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20051007 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20051018 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20051209 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20060801 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20060928 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20061024 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20061218 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20080617 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A821 Effective date: 20080717 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080818 |
|
A911 | Transfer of reconsideration by examiner before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20080828 |
|
A912 | Removal of reconsideration by examiner before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A912 Effective date: 20081010 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090825 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20091007 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121016 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121016 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131016 Year of fee payment: 4 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
EXPY | Cancellation because of completion of term |