JP5141523B2 - 画像処理装置、画像処理方法およびプログラム - Google Patents
画像処理装置、画像処理方法およびプログラム Download PDFInfo
- Publication number
- JP5141523B2 JP5141523B2 JP2008314246A JP2008314246A JP5141523B2 JP 5141523 B2 JP5141523 B2 JP 5141523B2 JP 2008314246 A JP2008314246 A JP 2008314246A JP 2008314246 A JP2008314246 A JP 2008314246A JP 5141523 B2 JP5141523 B2 JP 5141523B2
- Authority
- JP
- Japan
- Prior art keywords
- encoding
- order
- instance
- encoded
- input
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Compression Or Coding Systems Of Tv Signals (AREA)
Description
図20(A)に図示するパルス状の同期信号Vに同期して、図20(B)に図示する入力映像のフレーム(FRM)A〜Fが、図20(F)に図示するように、インスタンスID0〜ID2ごとに時分割でエンコードされ、エンコードデータESが生成される。
インスタンスとは、エンコード形式、フレームレート、ビットレート等のエンコードに必要な情報をいう。図20(A)〜(F)には、エンコード形式およびフレームレートが同一で、ビットレートが各々異なる3種類のインスタンスID0〜ID2が例示されている。
以後、このエンコード順序に基づいて、入力映像のフレームB〜Fが順次エンコードされる。
図21(F)に図示するように、エンコード処理に遅延が発生した場合には、エンコード順序が最後のインスタンスに対するエンコード処理をエンコード処理時間内に実行することができない場合がある。その結果、図21(G)に図示するように、エンコード処理がスキップされ、エンコードデータの画質等の品質が著しく低下する。
その後、エンコード処理部は、エンコード処理部からエンコード指示を取得すると、動画像データをエンコード指示に基づいて時分割でエンコードし、属性の異なる複数のエンコードデータを生成する。
1.第1実施形態(画像処理装置)
2.第2実施形態(エンコードタイミング管理処理の変形例)
3.第3実施形態(エンコードタイミング管理処理の変形例)
4.第4実施形態(エンコードタイミング管理処理の変形例)
5.第5実施形態(エンコードタイミング管理処理の変形例)
6.第6実施形態(エンコードタイミング管理処理の変形例)
7.第7実施形態(画像処理装置の応用例)
[画像処理装置1の構成例]
図1は、本発明の第1実施形態に係る画像処理装置の構成例を示すブロック図である。
図1に図示する画像処理装置1は、入力タイミング管理装置11、映像保存装置12、エンコード情報保存装置13、エンコードタイミング管理装置14、およびエンコーダ装置15を有する。
以下、説明の便宜上、「エンコードタイミング管理装置」を「Eタイミング管理装置」と適宜表記する。同様に、「エンコード情報保存装置」を「E情報保存装置」と適宜表記する。
プロファイルは、エンコードデータESをデコーダ(不図示)にて復号化するために必要なツール(要素技術)の集合を指す。これは、エンコードフォーマットの規格によって定められている。
レベルは、エンコードフォーマットの規格ごとに定められ、画像の解像度に応じて、例えば、レベル1〜レベル5に分類されている。
映像は、複数の画像(フレーム)によって構成された動画像データを指すが、音声を伴う動画像データであってもよい。画像処理装置1がエンコード可能な動画形式は、好適に選択可能である。本実施形態では、動画形式として、MPEG−4(Moving Picture Expert Group 4)、H.264/AVC(Advanced Video Coding)を例に挙げて説明する。
本実施形態では、画像処理装置1が、3種類の異なる属性を持つエンコードデータESを生成するものとする。このとき、E情報保存装置13は、一種類のエンコード情報を一のインスタンスとして管理する。即ち、異なるインスタンスのエンコードデータESが生成される。以下、3種類のインスタンスID0〜ID2を例に挙げて説明する。
Eタイミング管理装置14には、入力タイミング管理装置11からタイミング情報S2が入力され、E情報保存装置13からインスタンス管理情報S4が入力され、エンコーダ装置15からエンコード結果情報S7が入力される。
Eタイミング管理装置14は、インスタンスID0〜ID2に応じた3種類のエンコードデータESを生成するため、タイミング情報S2とインスタンス管理情報S4とから、エンコード順序を設定し、これを保存する。このエンコード順序は、エンコードすべきインスタンスID0〜ID2の順序であり、インスタンス管理情報S4の優先事項に基づいて設定される。
エンコーダ装置15は、インスタンス情報S5とエンコード指示情報S6とに基づいて、映像データS3をインスタンスID0〜ID2ごとに時分割でエンコードする。エンコーダ装置15が行う処理をエンコード処理という。エンコード処理の際には、例えば、離散コサイン変換(DCT;Discrete Cosine Transform)や離散アダマール変換(DHT;Discrete Hadamard Transform)がエンコードフォーマットに応じて使用される。
そして、エンコーダ装置15は、インスタンスID0〜ID2ごとの複数のエンコードデータESを出力部OUTに出力し、かつ、エンコード処理の結果をエンコード結果情報S7としてEタイミング管理装置14に出力する。
先に述べたエンコード処理について説明する。
上述したように、画像処理装置1は、入力映像S0を時分割でエンコードすることによって、3種類のインスタンスID0〜ID2に対応したエンコードデータESを生成する。
このとき、エンコーダ装置15によるエンコード処理は、Eタイミング管理装置14によって生成されたエンコード指示情報S6、即ち、エンコード順序に基づいたインスタンスの順に時分割で行われる。
図2は、本発明の第1実施形態に係るインスタンスの構成例を示す図である。
図2に図示するように、各インスタンスID0〜ID2は、エンコードフォーマット、ビットレート、フレームレートによって構成されているものとする。
インスタンスID1は、エンコードフォーマットがMPEG−4、ビットレートが3Mbps、フレームレートが30fpsであるものとする。
インスタンスID2は、エンコードフォーマットがMPEG−4、ビットレートが8Mbps、フレームレートが30fpsであるものとする。
図3に図示するように、インスタンスID0〜ID2は、E情報保存装置13に保存され、エンコードタイミング管理処理およびエンコード処理の際に使用される。
Eタイミング管理装置14は、インスタンス管理情報S4が入力されると、インスタンスID0〜ID2のエンコード順を「ID0、ID1、ID2」の順に設定する。
図4(A)は、同期信号Vを示す。図4(B)は、入力映像S0のフレーム(FRM)を示す。図4(C)〜(E)は、インスタンスID0、ID1、ID2のエンコード順序を各々示す。図4(F)は、エンコード処理によって生成されたエンコードデータESを示す。
その後、エンコーダ装置15は、図4(F)に図示するように、フレームAに対して、インスタンスID0、ID1、ID2の順に時分割でエンコード処理を行う。
その後、エンコーダ装置15は、図4(F)に図示するように、フレームBに対して、インスタンスID1、ID2、ID0の順に時分割でエンコード処理を行う。
画像処理装置1の動作例を図5に関連付けて説明する。
図5は、本発明の第1実施形態に係る画像処理装置の動作例を示すシーケンス図である。
図6は、本発明の第1実施形態に係る入力タイミング管理装置の動作例を示すフローチャートである。
具体的には、Eタイミング管理装置14は、(K−1)枚目のフレームにおいて、一のインスタンス(例えばID0)に対するエンコード指示情報S6をエンコーダ装置15に出力する。
このように、(K−1)枚目のフレームにおける残りのインスタンスに対して、上述の処理が繰り返し行われる。
図7は、本発明の第1実施形態に係るエンコードタイミング管理装置の動作例を示すフローチャートである。
一方、エンコード時間が無い場合には(NO)、Eタイミング管理装置14は、一連の処理を終了する。
一方、インスタンスID0〜ID2の内、エンコードすべきインスタンスが無い場合には(NO)、Eタイミング管理装置14は、一連の処理を終了する。
図8は、本発明の第1実施形態に係るエンコーダ装置の動作例を示すフローチャートである。
図9(A)〜(G)は、本発明の第1実施形態に係るエンコード処理の遅延を説明するためのタイミングチャートである。なお、図9(G)は、エンコード処理がスキップされたフレーム(SFRM)を示す。
その結果、図9(G)に図示するように、フレームAの最後のインスタンスID2に対するエンコード処理がスキップされ、このインスタンスに対するエンコードデータESが欠落する。同様に、フレームB、Cの最後のインスタンスID0、ID1に対するエンコード処理がスキップされ、これらのインスタンスに対するエンコードデータESが欠落する。
エンコード処理の第2実施形態について、先の実施形態と異なる点を中心に説明する。
先に例示したインスタンスID1〜ID2は、各々のフレームレートが同一であるが、インスタンスごとにフレームレートが異なる場合がある。この場合には、フレームレートの低いインスタンスが優先的にエンコードされる。以下に、他のインスタンスID0〜ID2の具体例を挙げる。
図10に図示するように、インスタンスID2、ID1、ID0の順にフレームレートが低くなる。具体的には、インスタンスID0のフレームレートは、30fpsであるものとする。インスタンスID1のフレームレートは、15fpsであるものとする。インスタンスID2のフレームレートは、10fpsであるものとする。
図11(A)に図示するように、時刻t1において、画像処理装置1に同期信号Vが入力される。このとき、図11(B)に図示するように、映像保存装置12には、入力映像S0のフレームAが入力される。
Eタイミング管理装置14は、フレームレートの高低を判別する。この判別の後、Eタイミング管理装置14は、エンコード順序をフレームレートの低い順、即ち、インスタンスID2、ID1、ID0の順に設定し、これを設定情報として保存する。
エンコーダ装置15は、エンコード指示情報S6を受け、図11(F)に図示するように、フレームAに対して、インスタンスID2、ID1、ID0の順に時分割でエンコード処理を行う。
エンコーダ装置15は、図11(F)に図示するように、フレームBに対して、インスタンスID0のみをエンコードする。これにより、インスタンスID1およびID2に対するエンコード処理がスキップされる。
図12(A)〜(G)は、本発明の第2実施形態に係るエンコード処理の遅延を説明するためのタイミングチャートである。
このため、例えば、携帯電話機等の端末機器に使用される「携帯電話・移動体端末向け1セグメント部分受信サービス」のように、低フレームレートの映像に対して顕著な効果を得ることができる。
第3実施形態について、先の実施形態と異なる点を中心に説明する。
第2実施形態では、フレームレートの低いインスタンスが優先的にエンコードさせるのに対し、第3実施形態では、フレームレートの高いインスタンスが優先的にエンコードされる。ただし、インスタンスの構成は、図10に図示するものとする。
図13(C)〜(E)に図示するように、Eタイミング管理装置14は、エンコード順序をフレームレートの高い順、即ち、インスタンスID0、ID1、ID2の順に設定する。
具体的には、Eタイミング管理装置14は、同期信号Vごとに高フレームレートのインスタンスが優先的にエンコードされるように、インスタンスを「ID0、ID1、ID2」、「ID0」、「ID0、ID1」、…の順に設定する。
図14(A)〜(G)は、本発明の第3実施形態に係るエンコード処理の遅延を説明するためのタイミングチャートである。
このため、一般的なエンコード装置ではスキップされていた低フレームレートのインスタンスに対するエンコードを行うことが可能となる。
その結果、低フレームレートの映像の画質を低下させることなく、例えば、テレビジョン放送のように、高フレームレートの映像の画質も同時に向上させることができる。
第4実施形態について、先の実施形態と異なる点を中心に説明する。
第4実施形態では、画質の高いインスタンスが優先的にエンコードされる。画質の高低の判別には、ビットレートが使用され、ビットレートの高い程、映像が高画質であるものとする。ただし、インスタンスの構成は、図2に図示するものであって、各々のフレームレートが同一であるものとする。
具体的には、Eタイミング管理装置14は、同期信号Vごとに高ビットレートのインスタンスが優先的にエンコードされるように、インスタンスを「ID2、ID0、ID1」、「ID2、ID0、ID1」、…の順に設定する。
図16(A)〜(G)は、本発明の第4実施形態に係るエンコード処理の遅延を説明するためのタイミングチャートである。
第5実施形態について、先の実施形態と異なる点を中心に説明する。
第5実施形態では、エンコード処理に失敗した(スキップされた)インスタンスが、次回のエンコード処理時に優先的にエンコードされる。
ただし、エンコード順序は、第4実施形態で述べたように、画質の高低によってエンコード順序が決定されるものとする。インスタンスの構成も、図2に図示するように、各々のフレーム同一であるものとする。
図17(C)〜(E)に図示するように、時刻t1において、Eタイミング管理装置14は、ビットレートの高低を判別し、エンコード順序をビットレートの高い順、即ち、インスタンスID2、ID0、ID1の順に設定する。
その結果、図17(G)に図示するように、エンコード処理の遅延等により、インスタンスID1に対するエンコード処理がスキップされたものとする。
Eタイミング管理装置14は、このエンコード結果情報S7を受けて、前回エンコード処理に失敗したインスタンスID1が優先的にエンコードされるように、エンコード順序を補正する。具体的には、Eタイミング管理装置14は、エンコード順序をインスタンスID2、ID0、ID1からインスタンスID1、ID2、ID1の順に補正する。
これにより、図17(F)に図示するように、時刻t3におけるエンコード処理において、前回エンコードに失敗したインスタンスID1が優先的にエンコードされる。
以後もこれと同様に、エンコード処理に失敗したインスタンスが、次回のエンコード処理時に優先的にエンコードされる。
第6実施形態について、先の実施形態と異なる点を中心に説明する。
第6実施形態では、外部装置から入力された変化情報に応じてエンコード順序が設定される。
図18に図示するように、画像処理装置1には、外部装置2が接続されている。
外部装置2は、例えば、アナログの音声データおよび画像(映像)データを所定のフォーマット形式に変換する装置である。このフォーマット形式は、例えば、WAVE(RIFF waveform Audio Format)、AVI(Audio Video Interleave)等である。
外部装置2は、所定のフォーマット形式に変換したデジタルデータを映像S0および情報S1として画像処理装置1に出力する。この他、外部装置2は、例えば、映像の明暗の変化等を示す旨の変化情報S8を画像処理装置1に出力する。
先の実施形態では、画像処理装置1は、1系統の入力部INを有する。これに対し、第7実施形態では、画像処理装置が、複数の入力映像および入力情報に対応したn(n=2、3,…)系統の入力部を有する。以下、先の実施形態と異なる点を中心に説明する。
図19に図示するように、画像処理装置1aは、n種類の映像S0(1)〜S0(n)およびn種類の入力情報S1(1)〜S1(n)が入力されるn系統の入力部INaを有する。
映像保存装置12aは、n種類の映像S0(1)〜S0(n)に対するアドレスおよびサイズを保存する。映像保存装置12は、同期信号に同期して、保存した映像S0(1)〜S0(n)を映像データS3として、フレーム単位でエンコーダ装置15に出力する。
Eタイミング管理装置14aは、タイミング情報S2とインスタンス管理情報S4とから、n種類の映像S0(1)〜S0(n)に対するエンコード順序を設定し、これらを保存する。
そして、エンコーダ装置15は、n種類の映像S0(1)〜S0(n)に対するエンコードデータESを各々生成する。
例えば、第2実施形態のように、フレームレートの低いインスタンスを優先的にエンコードさせることも、第3実施形態のように、フレームレートの高いインスタンスを優先的にエンコードさせることもできる。
他に、第4実施形態のように、画質の高いインスタンスを優先的にエンコードさせることも、第5実施形態のように、エンコード処理に失敗したインスタンスを、次回のエンコード処理時に優先的にエンコードさせることもできる。第6実施形態のように、画像処理装置1a外部からの指示に従って、エンコード順序を所望する順序に設定することもできる。
例えば、時刻t1において、エンコード順序をローテーションさせるようにエンコード順序を設定し、時刻t2において、フレームレートの低いインスタンスを優先的にエンコードさせるようにエンコード順序を設定することができる。
以後も、例えば、時刻t3において、フレームレートの高いインスタンスを優先的にエンコードさせるようにエンコード順序を設定し、時刻t4において、画質の高いインスタンスを優先的にエンコードさせるようにエンコード順序を設定することができる。
本発明に係る画像処理装置および画像処理方法は、例えば、ビデオカメラ、テレビジョン、パーソナルコンピュータ、種々の映像記録再生機器等、動画像データを扱うあらゆる電子機器に適用することができる。
Claims (10)
- 少なくとも単一の動画像データをエンコード指示に基づいて時分割でエンコードし、属性の異なる複数のエンコードデータを生成するエンコード処理部と、
優先して生成すべき属性のエンコードデータに関する優先事項に基づいて、上記動画像データのエンコード順序をエンコード処理対象のフレーム画像ごとに決定し、当該エンコード順序を上記エンコード指示として上記エンコード処理部に出力するエンコード制御部と
を有する画像処理装置。 - 上記エンコード順序を格納する記憶部を有し、
上記エンコード制御部は、
第1のタイミング信号が入力されたときに、上記エンコード処理対象のフレーム画像に対するエンコード順序を決定して、当該エンコード順序を上記記憶部に格納し、
上記エンコード処理部は、
第2のタイミング信号が入力されたときに、上記記憶部から上記エンコード順序を読み出して、上記第1のタイミング信号における上記エンコード処理対象のフレーム画像をエンコードする
請求項1記載の画像処理装置。 - 上記属性は、複数のパラメータで決定され、
上記複数のパラメータを一の属性情報とし、複数の当該属性情報を管理する管理部を有し、
上記エンコード処理部は、
上記エンコード指示により、上記属性情報を上記管理部からエンコード順に取得し、当該取得した順の属性情報に従って、上記処理対象のフレーム画像を時分割でエンコードする
請求項2記載の画像処理装置。 - 上記優先事項は、上記複数のパラメータのうち、上記エンコード順を決定する優先すべきパラメータの値を含み、
上記エンコード制御部は、
上記各属性情報における上記優先すべきパラメータの値が同一である場合には、上記タイミング信号が入力されるごとに、上記複数の属性情報が巡回するように、上記エンコード順序を決定する
請求項3記載の画像処理装置。 - 上記エンコード制御部は、
上記優先すべきパラメータがフレームレートである場合には、上記タイミング信号が入力されるごとに、当該フレームレートが低順に巡回するように、上記エンコード順序を決定する
請求項4記載の画像処理装置。 - 上記エンコード制御部は、
上記優先すべきパラメータがフレームレートである場合には、上記タイミング信号が入力されるごとに、当該フレームレートが高順に巡回するように、上記エンコード順序を決定する
請求項4記載の画像処理装置。 - 上記エンコード制御部は、
上記優先すべきパラメータがビットレートである場合には、上記タイミング信号が入力されるごとに、当該ビットレートが高順に巡回するように、上記エンコード順序を決定する
請求項4記載の画像処理装置。 - 上記エンコード処理部は、
上記エンコード処理に失敗した画像フレームの属性情報をエンコード結果として上記エンコード制御部に出力し、
上記エンコード制御部は、
上記エンコード結果を取得した場合には、上記処理対象の画像フレームに対して、上記エンコード処理に失敗した上記属性情報に対するエンコードが最優先で行われるように、上記エンコード順序を決定する
請求項4記載の画像処理装置。 - 優先して生成すべき属性のエンコードデータに関する優先事項に基づいて、少なくとも単一の動画像データのエンコード順序をエンコード処理対象のフレーム画像ごとに決定する第1のステップと、
上記第1のステップで決定した上記エンコード順序をエンコード指示として出力する第2のステップと、
動画像データを上記第2のステップによる上記エンコード指示に基づいて時分割でエンコードし、属性の異なる複数のエンコードデータを生成する第3のステップと
を有する画像処理方法。 - 優先して生成すべき属性のエンコードデータに関する優先事項に基づいて、少なくとも単一の動画像データのエンコード順序をエンコード処理対象のフレーム画像ごとに決定する第1の処理と、
上記第1の処理で決定した上記エンコード順序をエンコード指示として出力する第2の処理と、
動画像データを上記第2の処理による上記エンコード指示に基づいて時分割でエンコードし、属性の異なる複数のエンコードデータを生成する第3の処理と
をコンピュータに実行させるプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008314246A JP5141523B2 (ja) | 2008-12-10 | 2008-12-10 | 画像処理装置、画像処理方法およびプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008314246A JP5141523B2 (ja) | 2008-12-10 | 2008-12-10 | 画像処理装置、画像処理方法およびプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2010141477A JP2010141477A (ja) | 2010-06-24 |
JP5141523B2 true JP5141523B2 (ja) | 2013-02-13 |
Family
ID=42351230
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2008314246A Expired - Fee Related JP5141523B2 (ja) | 2008-12-10 | 2008-12-10 | 画像処理装置、画像処理方法およびプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5141523B2 (ja) |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0767098A (ja) * | 1993-08-26 | 1995-03-10 | Fuji Electric Co Ltd | 動画像監視装置 |
JP2002064789A (ja) * | 2000-08-22 | 2002-02-28 | Hitachi Ltd | 画像圧縮記録送信装置及び画像圧縮送信装置 |
JP2007281973A (ja) * | 2006-04-07 | 2007-10-25 | Canon Inc | 映像データ送信装置、映像データ送信方法及びプログラム |
-
2008
- 2008-12-10 JP JP2008314246A patent/JP5141523B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2010141477A (ja) | 2010-06-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8275247B2 (en) | Method and apparatus for normal reverse playback | |
US8407565B2 (en) | System and method for producing importance rate-based rich media, and server applied to the same | |
US20100166081A1 (en) | Video stream processing apparatus and control method, program and recording medium for the same | |
US10419769B2 (en) | Image processing apparatus, image processing method, and non-transitory computer readable storage medium | |
JP4788250B2 (ja) | 動画像信号の符号化装置、動画像信号の符号化方法およびコンピュータ読み取り可能な記録媒体 | |
US20060093322A1 (en) | Data processing apparatus, data processing method, data processing system, program, and storage medium | |
JP5141523B2 (ja) | 画像処理装置、画像処理方法およびプログラム | |
US7242852B2 (en) | Recording/reproducing system | |
US10349072B2 (en) | Image processing apparatus and control method for the same | |
US20040091159A1 (en) | Image compression device and method for performing a frame skipping process | |
US20070047918A1 (en) | Apparatus and method for recording moving picture | |
US8649617B2 (en) | Image decoding apparatus and non-transitory computer readable medium | |
KR100623710B1 (ko) | 하드웨어 리소스를 공유하여 복수의 동영상 콘텐츠를처리하는 방법 | |
US7103100B1 (en) | Digital signal processing apparatus and method and providing medium | |
JP4701021B2 (ja) | データ処理装置及びデータ処理方法 | |
KR101332299B1 (ko) | 영상기록장치 및 방법 | |
US7006573B2 (en) | Image processing apparatus and method, and computer readable storage medium | |
JP3897783B2 (ja) | 画像処理装置及びその制御方法、並びにコンピュータプログラム及びコンピュータ可読記憶媒体 | |
JPWO2008129648A1 (ja) | フレームレート変換装置、フレームレート変換方法及び動画像符号化装置 | |
JP2005260440A (ja) | 画像音声記録再生装置 | |
KR200422852Y1 (ko) | 하드웨어 리소스를 공유하여 복수의 멀티미디어 데이터를처리하는 장치 | |
JP4979355B2 (ja) | 画像符号化装置および画像符号化方法 | |
JP2011259071A (ja) | 画像処理装置 | |
JP2006340238A (ja) | 符号化装置及びその制御方法及びプログラム及び記憶媒体 | |
JPWO2007034695A1 (ja) | データ記録再生装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20111206 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20120807 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20120808 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20120928 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20121023 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20121105 |
|
FPAY | Renewal fee payment (prs date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20151130 Year of fee payment: 3 |
|
LAPS | Cancellation because of no payment of annual fees |