JP5141523B2 - 画像処理装置、画像処理方法およびプログラム - Google Patents

画像処理装置、画像処理方法およびプログラム Download PDF

Info

Publication number
JP5141523B2
JP5141523B2 JP2008314246A JP2008314246A JP5141523B2 JP 5141523 B2 JP5141523 B2 JP 5141523B2 JP 2008314246 A JP2008314246 A JP 2008314246A JP 2008314246 A JP2008314246 A JP 2008314246A JP 5141523 B2 JP5141523 B2 JP 5141523B2
Authority
JP
Japan
Prior art keywords
encoding
order
instance
encoded
input
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2008314246A
Other languages
English (en)
Other versions
JP2010141477A (ja
Inventor
章敬 深田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2008314246A priority Critical patent/JP5141523B2/ja
Publication of JP2010141477A publication Critical patent/JP2010141477A/ja
Application granted granted Critical
Publication of JP5141523B2 publication Critical patent/JP5141523B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)

Description

本発明は、例えば、動画像データをエンコード可能な画像処理装置、画像処理方法およびプログラムに関するものである。
映像を時分割で複数の異なるエンコードデータ(エレメンタリストリーム:Elementary Stream)を生成可能な画像処理装置が知られている(例えば、特許文献1〜3参照)。このような画像処理装置によれば、入力映像は次のようにエンコードされる。
図20(A)〜(F)は、一般的なエンコード処理の例を示すタイミングチャートである。
図20(A)に図示するパルス状の同期信号Vに同期して、図20(B)に図示する入力映像のフレーム(FRM)A〜Fが、図20(F)に図示するように、インスタンスID0〜ID2ごとに時分割でエンコードされ、エンコードデータESが生成される。
インスタンスとは、エンコード形式、フレームレート、ビットレート等のエンコードに必要な情報をいう。図20(A)〜(F)には、エンコード形式およびフレームレートが同一で、ビットレートが各々異なる3種類のインスタンスID0〜ID2が例示されている。
例えば、時刻t1に入力されたフレームAに対して、図20(C)〜(E)に図示するように、エンコード順序がインスタンスID2、ID0、ID1の順に一意的に設定される。フレームAは、時刻t2において、このエンコード順序に従ってエンコードされる。
以後、このエンコード順序に基づいて、入力映像のフレームB〜Fが順次エンコードされる。
特開平7−67098号公報 特開2003−244220号公報 特開平11−261519号公報
図21(A)〜(G)は、一般的なエンコード処理に遅延が発生した場合の例を示すタイミングチャートである。
図21(F)に図示するように、エンコード処理に遅延が発生した場合には、エンコード順序が最後のインスタンスに対するエンコード処理をエンコード処理時間内に実行することができない場合がある。その結果、図21(G)に図示するように、エンコード処理がスキップされ、エンコードデータの画質等の品質が著しく低下する。
本発明は、エンコードデータの画質等の品質向上を図ることができる画像処理装置、画像処理方法およびプログラムを提供することにある。
本発明の画像処理装置は、少なくとも単一の動画像データをエンコード指示に基づいて時分割でエンコードし、属性の異なる複数のエンコードデータを生成するエンコード処理部と、優先して生成すべき属性のエンコードデータに関する優先事項に基づいて、上記動画像データのエンコード順序をエンコード処理対象のフレーム画像ごとに決定し、当該エンコード順序を上記エンコード指示として上記エンコード処理部に出力するエンコード制御部とを有する。
本発明の画像処理方法は、優先して生成すべき属性のエンコードデータに関する優先事項に基づいて、動画像データのエンコード順序をエンコード処理対象のフレーム画像ごとに決定する第1のステップと、上記第1のステップで決定した上記エンコード順序をエンコード指示として出力する第2のステップと、少なくとも単一の動画像データを上記第2のステップによる上記エンコード指示に基づいて時分割でエンコードし、属性の異なる複数のエンコードデータを生成する第3のステップとを有する。
本発明のプログラムは、優先して生成すべき属性のエンコードデータに関する優先事項に基づいて、少なくとも単一の動画像データのエンコード順序をエンコード処理対象のフレーム画像ごとに決定する第1の処理と、上記第1の処理で決定した上記エンコード順序をエンコード指示として出力する第2の処理と、動画像データを上記第2の処理による上記エンコード指示に基づいて時分割でエンコードし、属性の異なる複数のエンコードデータを生成する第3の処理とをコンピュータに実行させる。
本発明によれば、エンコード制御部は、優先事項に基づいて、少なくとも単一の動画像データのエンコード順序をエンコード処理対象のフレーム画像ごとに決定する。そして、エンコード制御部は、優先して生成すべき属性のエンコードデータに関するエンコード順序をエンコード指示としてエンコード処理部に出力する。
その後、エンコード処理部は、エンコード処理部からエンコード指示を取得すると、動画像データをエンコード指示に基づいて時分割でエンコードし、属性の異なる複数のエンコードデータを生成する。
本発明によれば、エンコードデータの品質向上を図ることができる。
以下、本発明の実施形態を図面に関連付けて説明する。なお、説明は以下の順序で行う。
1.第1実施形態(画像処理装置)
2.第2実施形態(エンコードタイミング管理処理の変形例)
3.第3実施形態(エンコードタイミング管理処理の変形例)
4.第4実施形態(エンコードタイミング管理処理の変形例)
5.第5実施形態(エンコードタイミング管理処理の変形例)
6.第6実施形態(エンコードタイミング管理処理の変形例)
7.第7実施形態(画像処理装置の応用例)
〈1.第1実施形態(画像処理装置)〉
[画像処理装置1の構成例]
図1は、本発明の第1実施形態に係る画像処理装置の構成例を示すブロック図である。
図1に図示する画像処理装置1は、入力タイミング管理装置11、映像保存装置12、エンコード情報保存装置13、エンコードタイミング管理装置14、およびエンコーダ装置15を有する。
なお、エンコーダ装置15は、本発明のエンコード処理部に対応する。入力タイミング管理装置11およびエンコードタイミング管理装置14は、本発明のエンコード制御部に対応する。エンコード情報保存装置13は、本発明の管理部に対応する。
以下、説明の便宜上、「エンコードタイミング管理装置」を「Eタイミング管理装置」と適宜表記する。同様に、「エンコード情報保存装置」を「E情報保存装置」と適宜表記する。
画像処理装置1は、1系統入力の入力部INを有し、この入力部INに映像S0が入力されると、画像処理装置1は、入力映像S0を時分割でエンコードし、複数の属性の異なるエンコードデータ(エレメンタリストリーム)ESを生成する機能を有する。この映像S0は、画像処理装置1の外部(例えば図18の外部装置2)にて、入力映像S0と入力情報S1とに分離される。入力情報S1には、後述する同期信号などが含まれる。
なお、エンコードとは、符号化、あるいは圧縮を伴う圧縮符号化を指す。属性は、例えば、エンコードフォーマット、プロファイル、レベル、ビットレート、フレームレートによるパラメータで決定される。
プロファイルは、エンコードデータESをデコーダ(不図示)にて復号化するために必要なツール(要素技術)の集合を指す。これは、エンコードフォーマットの規格によって定められている。
レベルは、エンコードフォーマットの規格ごとに定められ、画像の解像度に応じて、例えば、レベル1〜レベル5に分類されている。
映像は、複数の画像(フレーム)によって構成された動画像データを指すが、音声を伴う動画像データであってもよい。画像処理装置1がエンコード可能な動画形式は、好適に選択可能である。本実施形態では、動画形式として、MPEG−4(Moving Picture Expert Group 4)、H.264/AVC(Advanced Video Coding)を例に挙げて説明する。
入力タイミング管理装置11は、入力部INから入力情報S1が入力されると、タイミング情報S2を生成し、これをEタイミング管理装置14に出力する。入力タイミング管理装置11が行う処理を入力タイミング管理処理という。このタイミング情報S2は、入力映像S0をエンコードすべきタイミング(同期信号)と、映像の属性とに関する情報である。
映像保存装置12は、例えば、DRAMやSDRAM等で構成されている。映像保存装置12には、後述する同期信号に同期して、入力部INから1フレーム単位で映像S0が入力される。このとき、映像保存装置12は、この入力映像S0のアドレスおよび入力映像S0のサイズを保存(記憶)する。映像保存装置12は、同期信号に同期して、保存した入力映像S0を映像データS3として、フレーム単位でエンコーダ装置15に出力する。
E情報保存装置13は、例えば、DRAMやSDRAM等で構成されている。E情報保存装置13は、画像処理装置1外部からエンコードすべき属性ごとのエンコード情報が各々入力され、これらを保存(記憶)する。
このエンコード情報は、例えば、エンコードフォーマット、プロファイル、レベル、ビットレート、フレームレート、および参照フレームに関する情報である。
本実施形態では、画像処理装置1が、3種類の異なる属性を持つエンコードデータESを生成するものとする。このとき、E情報保存装置13は、一種類のエンコード情報を一のインスタンスとして管理する。即ち、異なるインスタンスのエンコードデータESが生成される。以下、3種類のインスタンスID0〜ID2を例に挙げて説明する。
E情報保存装置13は、全てのインスタンスID0〜ID2を一つに纏めたものをインスタンス管理情報S4としてEタイミング管理装置14に出力する。更に、E情報保存装置13は、各々のインスタンスID0〜ID2を個別にインスタンス情報S5としてエンコーダ装置15に出力する。
Eタイミング管理装置14は、バッファとしての機能を有する。このバッファは、本発明の記憶部に対応する。
Eタイミング管理装置14には、入力タイミング管理装置11からタイミング情報S2が入力され、E情報保存装置13からインスタンス管理情報S4が入力され、エンコーダ装置15からエンコード結果情報S7が入力される。
Eタイミング管理装置14は、インスタンスID0〜ID2に応じた3種類のエンコードデータESを生成するため、タイミング情報S2とインスタンス管理情報S4とから、エンコード順序を設定し、これを保存する。このエンコード順序は、エンコードすべきインスタンスID0〜ID2の順序であり、インスタンス管理情報S4の優先事項に基づいて設定される。
Eタイミング管理装置14は、保存しておいた前回のエンコード順序に基づいて、一のエンコードに対するエンコード指示情報S6を各々生成し、これをエンコーダ装置15に出力する。なお、Eタイミング管理装置14が行う処理をエンコードタイミング管理処理という。エンコード指示情報S6は、入力映像S0の1フレーム分の情報と、インスタンスID0〜ID2のエンコード順序とに関する情報である。
エンコーダ装置15には、映像保存装置12から映像データS3がフレーム単位で入力され、E情報保存装置13からインスタンス情報S5が入力され、Eタイミング管理装置14からエンコード指示情報S6が入力される。
エンコーダ装置15は、インスタンス情報S5とエンコード指示情報S6とに基づいて、映像データS3をインスタンスID0〜ID2ごとに時分割でエンコードする。エンコーダ装置15が行う処理をエンコード処理という。エンコード処理の際には、例えば、離散コサイン変換(DCT;Discrete Cosine Transform)や離散アダマール変換(DHT;Discrete Hadamard Transform)がエンコードフォーマットに応じて使用される。
そして、エンコーダ装置15は、インスタンスID0〜ID2ごとの複数のエンコードデータESを出力部OUTに出力し、かつ、エンコード処理の結果をエンコード結果情報S7としてEタイミング管理装置14に出力する。
[エンコード処理]
先に述べたエンコード処理について説明する。
上述したように、画像処理装置1は、入力映像S0を時分割でエンコードすることによって、3種類のインスタンスID0〜ID2に対応したエンコードデータESを生成する。
このとき、エンコーダ装置15によるエンコード処理は、Eタイミング管理装置14によって生成されたエンコード指示情報S6、即ち、エンコード順序に基づいたインスタンスの順に時分割で行われる。
以下、インスタンスID0〜ID2の具体例を挙げる。
図2は、本発明の第1実施形態に係るインスタンスの構成例を示す図である。
図2に図示するように、各インスタンスID0〜ID2は、エンコードフォーマット、ビットレート、フレームレートによって構成されているものとする。
インスタンスID0は、エンコードフォーマットがH.264/AVC、ビットレートが5Mbps(bit per second)、フレームレートが30fps(frame per second)であるものとする。
インスタンスID1は、エンコードフォーマットがMPEG−4、ビットレートが3Mbps、フレームレートが30fpsであるものとする。
インスタンスID2は、エンコードフォーマットがMPEG−4、ビットレートが8Mbps、フレームレートが30fpsであるものとする。
図3は、本発明の第1実施形態に係るエンコード情報保存装置およびエンコーダ装置間の動作例を示すブロック図である。
図3に図示するように、インスタンスID0〜ID2は、E情報保存装置13に保存され、エンコードタイミング管理処理およびエンコード処理の際に使用される。
Eタイミング管理装置14は、インスタンス管理情報S4が入力されると、インスタンスID0〜ID2のエンコード順を「ID0、ID1、ID2」の順に設定する。
初めに、インスタンスID0に対するエンコード処理が行われる。このため、Eタイミング管理装置14(図1参照)は、その旨をエンコード指示情報S6としてエンコーダ装置15に出力する。このとき、エンコーダ装置15には、E情報保存装置13からインスタンスID0に対するインスタンス情報S5が入力される。エンコーダ装置15は、インスタンスID0に対するエンコード処理を行い、これに対するエンコードデータESを生成する。
次に、インスタンスID1に対するエンコード処理が行われる。このため、Eタイミング管理装置14は、その旨をエンコード指示情報S6としてエンコーダ装置15に出力する。このとき、エンコーダ装置15には、E情報保存装置13からインスタンスID1に対するインスタンス情報S5が入力される。エンコーダ装置15は、インスタンスID1に対するエンコード処理を行い、これに対するエンコードデータESを生成する。
最後に、インスタンスID2に対するエンコード処理が行われる。このため、Eタイミング管理装置14は、その旨をエンコード指示情報S6としてエンコーダ装置15に出力する。このとき、エンコーダ装置15には、E情報保存装置13からインスタンスID2に対するインスタンス情報S5が入力される。そして、エンコーダ装置15は、インスタンスID2に対するエンコード処理を行い、これに対するエンコードデータESを生成する。
図4(A)〜(F)は、本発明の実施形態に係るエンコード処理の例を示すタイミングチャートである。
図4(A)は、同期信号Vを示す。図4(B)は、入力映像S0のフレーム(FRM)を示す。図4(C)〜(E)は、インスタンスID0、ID1、ID2のエンコード順序を各々示す。図4(F)は、エンコード処理によって生成されたエンコードデータESを示す。
図4(A)に図示するように、画像処理装置1には、パルス状の同期信号Vが入力情報S1として所定の時間間隔ごとに入力される。なお、画像処理装置1の各構成要素は、同期信号Vの立ち下がりのタイミング(単にタイミングという)に同期して、各々の処理を行う。
図4(B)に図示するように、時刻t1において、映像保存装置12には、入力映像S0のフレームAが入力される。このとき、Eタイミング管理装置14は、図4(C)〜(E)に図示するように、フレームAに対するエンコード順をインスタンスID0、ID1、ID2の順に設定し、これを設定情報として保存する。
次のタイミング、即ち、時刻t2において、Eタイミング管理装置14は、時刻t1において保存した設定情報を読み出す。そして、Eタイミング管理装置14は、設定情報のエンコード順序に基づいて、インスタンスID0〜ID2ごとのエンコード指示情報S6を各々生成し、これらをエンコーダ装置15に出力する。
その後、エンコーダ装置15は、図4(F)に図示するように、フレームAに対して、インスタンスID0、ID1、ID2の順に時分割でエンコード処理を行う。
同時刻において、映像保存装置12には、次のフレームBが入力される。このとき、Eタイミング管理装置14は、図4(C)〜(E)に図示するように、フレームBに対するエンコード順をインスタンスID1、ID2、ID0の順に設定し、これを設定情報として保存する。
時刻t3において、Eタイミング管理装置14は、時刻t2において保存した設定情報を読み出す。そして、Eタイミング管理装置14は、設定情報のエンコード順序に基づいて、インスタンスID0〜ID2ごとのエンコード指示情報S6を各々生成し、これらをエンコーダ装置15に出力する。
その後、エンコーダ装置15は、図4(F)に図示するように、フレームBに対して、インスタンスID1、ID2、ID0の順に時分割でエンコード処理を行う。
同時刻において、映像保存装置12には、次のフレームCが入力される。このとき、Eタイミング管理装置14は、図4(C)〜(E)に図示するように、フレームCに対するエンコード順をインスタンスID2、ID0、ID1の順に設定し、これを設定情報として保存する。
以後、映像保存装置12には、同期信号Vごとに、フレームD、E、F、…が順次入力される。そして、Eタイミング管理装置14は、同期信号Vごとに、エンコード順序がローテーションするように、インスタンスを「ID0、ID1、ID2」、「ID1、ID2、ID0」、「ID2、ID0、ID1」、…の順に設定する。
[画像処理装置1の動作例]
画像処理装置1の動作例を図5に関連付けて説明する。
図5は、本発明の第1実施形態に係る画像処理装置の動作例を示すシーケンス図である。
画像処理装置1には、パルス状の同期信号Vが入力情報S1として入力される。画像処理装置1は、この同期信号の立ち下がりのタイミングに同期して、フレーム単位で各処理を行う。
映像保存装置12は、映像S0のK枚目のフレームが入力されると、これを保存する。これと同時に、入力タイミング管理装置11は、入力タイミング管理処理を行う(ステップST1)。
ここで、ステップST1における入力タイミング処理を図6に関連付けて説明する。
図6は、本発明の第1実施形態に係る入力タイミング管理装置の動作例を示すフローチャートである。
図6に図示するように、入力タイミング管理装置11は、入力情報S1が入力された後、入力タイミング管理処理を開始する。その後、入力タイミング管理装置11は、タイミング情報S2を生成し(ステップST11)、これをEタイミング管理装置14に出力する(ステップST12)。
図5に図示するように、入力タイミング管理処理の終了後、Eタイミング管理装置14は、エンコードタイミング管理処理を行う(ステップST2)。
具体的には、Eタイミング管理装置14は、(K−1)枚目のフレームにおいて、一のインスタンス(例えばID0)に対するエンコード指示情報S6をエンコーダ装置15に出力する。
エンコーダ装置15は、Eタイミング管理装置14からエンコード指示情報S6が入力されると、このインスタンス(例えばID0)に対してエンコード処理を行う(ステップST3)。エンコード処理の終了後、エンコーダ装置15は、このインスタンス(例えばID0)に対するエンコードデータESを生成し、画像処理装置1外部に出力する。これと同時に、エンコーダ装置15は、エンコード結果情報S7をEタイミング管理装置14に出力する。
このように、(K−1)枚目のフレームにおける残りのインスタンスに対して、上述の処理が繰り返し行われる。
ここで、ステップST2におけるエンコードタイミング管理処理について説明する。
図7は、本発明の第1実施形態に係るエンコードタイミング管理装置の動作例を示すフローチャートである。
図7に図示するように、Eタイミング管理装置14は、入力タイミング管理装置11からタイミング情報S2が入力された後、エンコードタイミング管理処理を開始する。その後、Eタイミング管理装置14は、E情報保存装置13からインスタンス管理情報S4を取得する(ステップST21)。
そして、Eタイミング管理装置14は、インスタンス管理情報S4と、タイミング情報S2とからK枚目のフレームのエンコード順序を設定し、これを設定情報として保存する(ステップST22)。
その後、Eタイミング管理装置14は、ステップST22において保存した設定情報を読み出す。そして、Eタイミング管理装置14は、(K−1)枚目のフレームに対するエンコード順序を設定する(ステップST23)。その後、Eタイミング管理装置14は、エンコード時間の有無を判別する(ステップST24)。即ち、Eタイミング管理装置14は、エンコード処理に要する残り時間の有無を判別する。この残り時間は、現時刻から次の同期信号Vまでの時間である。
ステップST24において、エンコード時間が有る場合には(YES)、Eタイミング管理装置14は、(K−1)枚目のフレームに対するエンコードすべきインスタンスの有無を判別する(ステップST25)。即ち、Eタイミング管理装置14は、エンコードすべきインスタンスに残りがあるか否かを判別する。
一方、エンコード時間が無い場合には(NO)、Eタイミング管理装置14は、一連の処理を終了する。
ステップST25において、インスタンスID0〜ID2が有る場合には(YES)、Eタイミング管理装置14は、(K−1)枚目のフレームに対するエンコード指示情報S6を生成し、これをエンコーダ装置15に出力する(ステップST26)。そして、Eタイミング管理装置14は、エンコード処理が完了し、エンコーダ装置15からエンコード結果情報S7が入力されるのを待つ(ステップST27)。
一方、インスタンスID0〜ID2の内、エンコードすべきインスタンスが無い場合には(NO)、Eタイミング管理装置14は、一連の処理を終了する。
図5に図示するように、エンコードタイミング管理処理の終了後、エンコーダ装置15は、エンコード処理を行う(ステップST3)。
ここで、ステップST3におけるエンコード処理を図8に関連付けて説明する。
図8は、本発明の第1実施形態に係るエンコーダ装置の動作例を示すフローチャートである。
図8に図示するように、エンコーダ装置15は、Eタイミング管理装置14からエンコード指示情報S6が入力された後、エンコード処理を開始する。その後、エンコーダ装置15は、E情報保存装置13からインスタンス情報S5を取得する(ステップST31)。
そして、エンコーダ装置15は、映像保存装置12から映像データS3を読み出す。エンコーダ装置15は、インスタンス情報S5とエンコード指示情報S6とに基づいて、映像データS3をインスタンスID0〜ID2ごとに時分割でエンコードする(ステップST32)。
その後、エンコーダ装置15は、エンコード処理によって生成された複数のエンコードデータESを画像処理装置1外部に出力する(ステップST33)。これと同時に、エンコーダ装置15は、エンコード処理の結果をエンコード結果情報S7としてEタイミング管理装置14に出力する。
図5に図示するように、(K−1)枚目のフレームに対してエンコード処理が終了すると、映像保存装置12には、映像S0の(K+1)枚目のフレームが入力される。そして、K枚目のフレームに対してエンコード処理が行われる。
第1実施形態によれば、以下の効果を得ることができる。
図9(A)〜(G)は、本発明の第1実施形態に係るエンコード処理の遅延を説明するためのタイミングチャートである。なお、図9(G)は、エンコード処理がスキップされたフレーム(SFRM)を示す。
上述したように、エンコード処理は、エンコード順序がローテーションするように、同期信号Vから次の同期信号Vまでの期間に行われる。例えば、時刻t1において映像保存装置12に入力されたフレームAは、次の時刻t2から時刻t3までの期間にエンコード処理が行われる。
ところが、図9(F)に図示するように、エンコード処理に遅延が発生する場合がある。この場合、ステップST24の処理にて(図7参照)、各インスタンスに対して、エンコード時間の有無が判断される。
その結果、図9(G)に図示するように、フレームAの最後のインスタンスID2に対するエンコード処理がスキップされ、このインスタンスに対するエンコードデータESが欠落する。同様に、フレームB、Cの最後のインスタンスID0、ID1に対するエンコード処理がスキップされ、これらのインスタンスに対するエンコードデータESが欠落する。
しかしながら、第1実施形態によれば、このようなエンコード処理の遅延が発生したとしても、エンコード順序がローテーションするため、同一のインスタンスがスキップされるという事態を回避することができる。このため、映像の劣化が低減される。特に、各インスタンスのフレームレートが同一の場合には、顕著な効果を得ることができる。
〈2.第2実施形態(エンコードタイミング管理処理の変形例)〉
エンコード処理の第2実施形態について、先の実施形態と異なる点を中心に説明する。
先に例示したインスタンスID1〜ID2は、各々のフレームレートが同一であるが、インスタンスごとにフレームレートが異なる場合がある。この場合には、フレームレートの低いインスタンスが優先的にエンコードされる。以下に、他のインスタンスID0〜ID2の具体例を挙げる。
図10は、本発明の第2実施形態に係るインスタンスの構成例を示す図である。
図10に図示するように、インスタンスID2、ID1、ID0の順にフレームレートが低くなる。具体的には、インスタンスID0のフレームレートは、30fpsであるものとする。インスタンスID1のフレームレートは、15fpsであるものとする。インスタンスID2のフレームレートは、10fpsであるものとする。
図11(A)〜(F)は、本発明の第2実施形態に係るエンコード処理の例を示すタイミングチャートである。
図11(A)に図示するように、時刻t1において、画像処理装置1に同期信号Vが入力される。このとき、図11(B)に図示するように、映像保存装置12には、入力映像S0のフレームAが入力される。
Eタイミング管理装置14は、フレームレートの高低を判別する。この判別の後、Eタイミング管理装置14は、エンコード順序をフレームレートの低い順、即ち、インスタンスID2、ID1、ID0の順に設定し、これを設定情報として保存する。
時刻t2において、Eタイミング管理装置14は、時刻t1において保存した設定情報を読み出す。そして、Eタイミング管理装置14は、設定情報のエンコード順序に基づいたエンコード指示情報S6を各々生成し、これらをエンコーダ装置15に出力する。
エンコーダ装置15は、エンコード指示情報S6を受け、図11(F)に図示するように、フレームAに対して、インスタンスID2、ID1、ID0の順に時分割でエンコード処理を行う。
同時刻において、映像保存装置12には、次のフレームBが入力される。このとき、Eタイミング管理装置14は、図11(C)〜(E)に図示するように、フレームBに対して、最もフレームレートの高いインスタンスID0に対してのみエンコード処理がされるように、エンコード順序を設定し、これを設定情報として保存する。
時刻t3において、Eタイミング管理装置14は、時刻t2において保存した設定情報を読み出す。そして、Eタイミング管理装置14は、設定情報のエンコード順序に基づいたエンコード指示情報S6を各々生成し、これらをエンコーダ装置15に出力する。
エンコーダ装置15は、図11(F)に図示するように、フレームBに対して、インスタンスID0のみをエンコードする。これにより、インスタンスID1およびID2に対するエンコード処理がスキップされる。
同時刻において、映像保存装置12には、次のフレームCが入力される。このとき、Eタイミング管理装置14は、図11(C)〜(E)に図示するように、最もフレームレートの低いインスタンスID2に対するエンコード処理がスキップされるように、フレームCに対するエンコード順をインスタンスID1、ID0の順に設定する。これにより、時刻t4において、インスタンスID2に対するエンコード処理がスキップされる。
以後、Eタイミング管理装置14は、同期信号Vごとに低フレームレートのインスタンスが優先的にエンコードされるように、インスタンスを「ID2、ID1、ID0」、「ID0」、「ID1、ID0」、…の順に設定する。
第2実施形態によれば、以下の効果を得ることができる。
図12(A)〜(G)は、本発明の第2実施形態に係るエンコード処理の遅延を説明するためのタイミングチャートである。
図12(F)に図示するように、エンコード処理に遅延が発生した場合には、図12(G)に図示するように、フレームAおよびフレームDの最後のインスタンスID0に対するエンコード処理がスキップされる。
しかしながら、第2実施形態によれば、エンコード処理の遅延が発生したとしても、高フレームレートのインスタンスID0に対するエンコード処理が間引かれるが、少なくとも、低フレームレートのインスタンスID2に対するエンコード処理は行われる。
このため、例えば、携帯電話機等の端末機器に使用される「携帯電話・移動体端末向け1セグメント部分受信サービス」のように、低フレームレートの映像に対して顕著な効果を得ることができる。
〈3.第3実施形態(エンコードタイミング管理処理の変形例)〉
第3実施形態について、先の実施形態と異なる点を中心に説明する。
第2実施形態では、フレームレートの低いインスタンスが優先的にエンコードさせるのに対し、第3実施形態では、フレームレートの高いインスタンスが優先的にエンコードされる。ただし、インスタンスの構成は、図10に図示するものとする。
図13(A)〜(F)は、本発明の第3実施形態に係るエンコード処理の例を示すタイミングチャートである。
図13(C)〜(E)に図示するように、Eタイミング管理装置14は、エンコード順序をフレームレートの高い順、即ち、インスタンスID0、ID1、ID2の順に設定する。
具体的には、Eタイミング管理装置14は、同期信号Vごとに高フレームレートのインスタンスが優先的にエンコードされるように、インスタンスを「ID0、ID1、ID2」、「ID0」、「ID0、ID1」、…の順に設定する。
第3実施形態によれば、以下の効果を得ることができる。
図14(A)〜(G)は、本発明の第3実施形態に係るエンコード処理の遅延を説明するためのタイミングチャートである。
図14(F)に図示するように、エンコード処理に遅延が発生したものとする。この場合には、本来、時刻t2から時刻t3までの期間に行われるべき、フレームAのインスタンスID2に対するエンコード処理が、次のエンコード処理時間の時刻t3にて行われる。同様に、フレームDのインスタンスID2に対するエンコード処理が時刻t6にて行われる。
しかしながら、エンコード処理に遅延が発生したとしても、高フレームレートのインスタンスID0に対するエンコード処理は行われ、低フレームレートのインスタンスID2に対するエンコード処理がスキップされず、次のエンコード処理時に行われる。
このため、一般的なエンコード装置ではスキップされていた低フレームレートのインスタンスに対するエンコードを行うことが可能となる。
その結果、低フレームレートの映像の画質を低下させることなく、例えば、テレビジョン放送のように、高フレームレートの映像の画質も同時に向上させることができる。
〈4.第4実施形態(エンコードタイミング管理処理の変形例)〉
第4実施形態について、先の実施形態と異なる点を中心に説明する。
第4実施形態では、画質の高いインスタンスが優先的にエンコードされる。画質の高低の判別には、ビットレートが使用され、ビットレートの高い程、映像が高画質であるものとする。ただし、インスタンスの構成は、図2に図示するものであって、各々のフレームレートが同一であるものとする。
図15(A)〜(F)は、本発明の第4実施形態に係るエンコード処理の例を示すタイミングチャートである。
図15(C)〜(E)に図示するように、Eタイミング管理装置14は、ビットレートの高低を判別する。そして、Eタイミング管理装置14は、エンコード順序をビットレートの高い順、即ち、インスタンスID2、ID0、ID1の順に設定する。
具体的には、Eタイミング管理装置14は、同期信号Vごとに高ビットレートのインスタンスが優先的にエンコードされるように、インスタンスを「ID2、ID0、ID1」、「ID2、ID0、ID1」、…の順に設定する。
第4実施形態によれば、以下の効果を得ることができる。
図16(A)〜(G)は、本発明の第4実施形態に係るエンコード処理の遅延を説明するためのタイミングチャートである。
図16(F)に図示するように、エンコード処理に遅延が発生した場合には、図16(G)に図示するように、フレームA、BおよびDの最後のインスタンスID1に対するエンコード処理がスキップされる。
これにより、エンコード処理の遅延が発生したとしても、少なくとも、高画質のインスタンスID2に対するエンコード処理が行われ、低画質のインスタンスID1に対するエンコード処理をエンコード処理の空き時間に実行することができる。このため、高画質のインスタンスID2に対するエンコード処理に悪影響を与えることなく、画像処理装置1のパフォーマンスを最大限に発揮することができる。
〈5.第5実施形態(エンコードタイミング管理処理の変形例)〉
第5実施形態について、先の実施形態と異なる点を中心に説明する。
第5実施形態では、エンコード処理に失敗した(スキップされた)インスタンスが、次回のエンコード処理時に優先的にエンコードされる。
ただし、エンコード順序は、第4実施形態で述べたように、画質の高低によってエンコード順序が決定されるものとする。インスタンスの構成も、図2に図示するように、各々のフレーム同一であるものとする。
図17(A)〜(G)は、本発明の第5実施形態に係るエンコード処理の例を示すタイミングチャートである。
図17(C)〜(E)に図示するように、時刻t1において、Eタイミング管理装置14は、ビットレートの高低を判別し、エンコード順序をビットレートの高い順、即ち、インスタンスID2、ID0、ID1の順に設定する。
時刻t2において、エンコーダ装置15は、図17(F)に図示するように、フレームAに対して、インスタンスID2、ID0、ID1の順に時分割でエンコード処理を行う。
その結果、図17(G)に図示するように、エンコード処理の遅延等により、インスタンスID1に対するエンコード処理がスキップされたものとする。
そこで、エンコーダ装置15は、インスタンスID1に対するエンコード処理が失敗した旨のエンコード結果情報S7をEタイミング管理装置14に出力する。
Eタイミング管理装置14は、このエンコード結果情報S7を受けて、前回エンコード処理に失敗したインスタンスID1が優先的にエンコードされるように、エンコード順序を補正する。具体的には、Eタイミング管理装置14は、エンコード順序をインスタンスID2、ID0、ID1からインスタンスID1、ID2、ID1の順に補正する。
これにより、図17(F)に図示するように、時刻t3におけるエンコード処理において、前回エンコードに失敗したインスタンスID1が優先的にエンコードされる。
例えば、図17(G)に図示するように、時刻t3において、インスタンスID0がエンコード処理に失敗したものとする。この場合には、図17(F)に図示するように、時刻t4において、エンコード処理に失敗したID0が優先的にエンコードされる。
以後もこれと同様に、エンコード処理に失敗したインスタンスが、次回のエンコード処理時に優先的にエンコードされる。
第5実施形態によれば、エンコード処理に失敗したインスタンスは、次回のエンコード処理時にエンコードされるため、各インスタンスに対するエレメンタリストリームの品質を均質に保持することができる。
〈6.第6実施形態(エンコードタイミング管理処理の変形例)〉
第6実施形態について、先の実施形態と異なる点を中心に説明する。
第6実施形態では、外部装置から入力された変化情報に応じてエンコード順序が設定される。
図18は、本発明の第6実施形態に係るエンコード処理について説明するためのブロック図である。
図18に図示するように、画像処理装置1には、外部装置2が接続されている。
外部装置2は、例えば、アナログの音声データおよび画像(映像)データを所定のフォーマット形式に変換する装置である。このフォーマット形式は、例えば、WAVE(RIFF waveform Audio Format)、AVI(Audio Video Interleave)等である。
外部装置2は、所定のフォーマット形式に変換したデジタルデータを映像S0および情報S1として画像処理装置1に出力する。この他、外部装置2は、例えば、映像の明暗の変化等を示す旨の変化情報S8を画像処理装置1に出力する。
Eタイミング管理装置14は、変化情報S8を受け、同期信号Vごとに、変化情報S8に従ってエンコード順序を設定する。例えば、映像の明暗の変化の激しいフレームには、変化が高い高フレームレートのインスタンスを優先的にエンコードさせるように、インスタンスを設定する。
第6実施形態によれば、画像処理装置1外部からの指示に従って、エンコード順序を所望する順序に設定することができるため、必要な箇所のみ映像の品質を向上させることができる。
〈7.第7実施形態(画像処理装置の応用例)〉
先の実施形態では、画像処理装置1は、1系統の入力部INを有する。これに対し、第7実施形態では、画像処理装置が、複数の入力映像および入力情報に対応したn(n=2、3,…)系統の入力部を有する。以下、先の実施形態と異なる点を中心に説明する。
図19は、本発明の第7実施形態に係る画像処理装置の構成例を示すブロック図である。
図19に図示するように、画像処理装置1aは、n種類の映像S0(1)〜S0(n)およびn種類の入力情報S1(1)〜S1(n)が入力されるn系統の入力部INaを有する。
これに伴い、入力タイミング管理装置11aは、n種類の映像S0(1)〜S0(n)に対するタイミング情報S2を生成し、これらをEタイミング管理装置14に出力する。
映像保存装置12aは、n種類の映像S0(1)〜S0(n)に対するアドレスおよびサイズを保存する。映像保存装置12は、同期信号に同期して、保存した映像S0(1)〜S0(n)を映像データS3として、フレーム単位でエンコーダ装置15に出力する。
Eタイミング管理装置14aは、タイミング情報S2とインスタンス管理情報S4とから、n種類の映像S0(1)〜S0(n)に対するエンコード順序を設定し、これらを保存する。
画像処理装置1aは、n種類の映像S0(1)〜S0(n)に対して、第1実施形態と同様の動作を行う。このとき、Eタイミング管理装置14aは、エンコード順序がローテーションするように、n種類の映像S0(1)〜S0(n)に対して、フレームごとにエンコード順序を設定する。
そして、エンコーダ装置15は、n種類の映像S0(1)〜S0(n)に対するエンコードデータESを各々生成する。
無論、エンコードタイミング管理処理におけるエンコード順序の設定は、第1〜第6実施形態で述べた方法のうち、任意の方法を適用することができる。
例えば、第2実施形態のように、フレームレートの低いインスタンスを優先的にエンコードさせることも、第3実施形態のように、フレームレートの高いインスタンスを優先的にエンコードさせることもできる。
他に、第4実施形態のように、画質の高いインスタンスを優先的にエンコードさせることも、第5実施形態のように、エンコード処理に失敗したインスタンスを、次回のエンコード処理時に優先的にエンコードさせることもできる。第6実施形態のように、画像処理装置1a外部からの指示に従って、エンコード順序を所望する順序に設定することもできる。
他の実施形態として、同期信号Vごとに、優先すべき事項(属性)を同期信号のタイミングごとに変化させてエンコード順序を設定することができる。
例えば、時刻t1において、エンコード順序をローテーションさせるようにエンコード順序を設定し、時刻t2において、フレームレートの低いインスタンスを優先的にエンコードさせるようにエンコード順序を設定することができる。
以後も、例えば、時刻t3において、フレームレートの高いインスタンスを優先的にエンコードさせるようにエンコード順序を設定し、時刻t4において、画質の高いインスタンスを優先的にエンコードさせるようにエンコード順序を設定することができる。
以上詳細に説明した方法は、上記手順に応じたプログラムとして形成し、CPU等を有するコンピュータで実行するように構成することも可能である。このようなプログラムは、半導体メモリ、磁気ディスク、光ディスク、フロッピー(登録商標)ディスク等の記録媒体、この記録媒体をセットしたコンピュータによりアクセスし、上記プログラムを実行するように構成可能である。
画像処理装置1に、エンコード機能の他、エレメンタリストリームをデコードするためのデコード機能を搭載することができる。
本発明に係る画像処理装置および画像処理方法は、例えば、ビデオカメラ、テレビジョン、パーソナルコンピュータ、種々の映像記録再生機器等、動画像データを扱うあらゆる電子機器に適用することができる。
図1は、本発明の第1実施形態に係る画像処理装置の構成例を示すブロック図である。 図2は、本発明の第1実施形態に係るインスタンスの構成例を示す図である。 図3は、本発明の第1実施形態に係るエンコード情報保存装置およびエンコーダ装置間の動作例を示すブロック図である。 図4(A)〜(F)は、本発明の実施形態に係るエンコード処理の例を示すタイミングチャートである。 図5は、本発明の第1実施形態に係る画像処理装置の動作例を示すシーケンス図である。 図6は、本発明の第1実施形態に係る入力タイミング管理装置の動作例を示すフローチャートである。 図7は、本発明の第1実施形態に係るエンコードタイミング管理装置の動作例を示すフローチャートである。 図8は、本発明の第1実施形態に係るエンコーダ装置の動作例を示すフローチャートである。 図9(A)〜(G)は、本発明の第1実施形態に係るエンコード処理の遅延を説明するためのタイミングチャートである。 図10は、本発明の第2実施形態に係るインスタンスの構成例を示す図である。 図11(A)〜(F)は、本発明の第2実施形態に係るエンコード処理の例を示すタイミングチャートである。 図12(A)〜(G)は、本発明の第2実施形態に係るエンコード処理の遅延を説明するためのタイミングチャートである。 図13(A)〜(F)は、本発明の第3実施形態に係るエンコード処理の例を示すタイミングチャートである。 図14(A)〜(G)は、本発明の第3実施形態に係るエンコード処理の遅延を説明するためのタイミングチャートである。 図15(A)〜(F)は、本発明の第4実施形態に係るエンコード処理の例を示すタイミングチャートである。 図16(A)〜(G)は、本発明の第4実施形態に係るエンコード処理の遅延を説明するためのタイミングチャートである。 図17(A)〜(G)は、本発明の第5実施形態に係るエンコード処理の例を示すタイミングチャートである。 図18は、本発明の第6実施形態に係るエンコード処理について説明するためのブロック図である。 図19は、本発明の第7実施形態に係る画像処理装置の構成例を示すブロック図である。 図20(A)〜(F)は、一般的なエンコード処理の例を示すタイミングチャートである。 図21(A)〜(G)は、一般的なエンコード処理に遅延が発生した場合の例を示すタイミングチャートである。
符号の説明
1…画像処理装置、2…外部装置、11…入力タイミング管理装置、12…映像保存装置、13…エンコード(E)情報保存装置、14…エンコードタイミング(E)管理装置、15…エンコーダ装置、ID0〜ID2…インスタンス。



Claims (10)

  1. 少なくとも単一の動画像データをエンコード指示に基づいて時分割でエンコードし、属性の異なる複数のエンコードデータを生成するエンコード処理部と、
    優先して生成すべき属性のエンコードデータに関する優先事項に基づいて、上記動画像データのエンコード順序をエンコード処理対象のフレーム画像ごとに決定し、当該エンコード順序を上記エンコード指示として上記エンコード処理部に出力するエンコード制御部と
    を有する画像処理装置。
  2. 上記エンコード順序を格納する記憶部を有し、
    上記エンコード制御部は、
    第1のタイミング信号が入力されたときに、上記エンコード処理対象のフレーム画像に対するエンコード順序を決定して、当該エンコード順序を上記記憶部に格納し、
    上記エンコード処理部は、
    第2のタイミング信号が入力されたときに、上記記憶部から上記エンコード順序を読み出して、上記第1のタイミング信号における上記エンコード処理対象のフレーム画像をエンコードする
    請求項1記載の画像処理装置。
  3. 上記属性は、複数のパラメータで決定され、
    上記複数のパラメータを一の属性情報とし、複数の当該属性情報を管理する管理部を有し、
    上記エンコード処理部は、
    上記エンコード指示により、上記属性情報を上記管理部からエンコード順に取得し、当該取得した順の属性情報に従って、上記処理対象のフレーム画像を時分割でエンコードする
    請求項2記載の画像処理装置。
  4. 上記優先事項は、上記複数のパラメータのうち、上記エンコード順を決定する優先すべきパラメータの値を含み、
    上記エンコード制御部は、
    上記各属性情報における上記優先すべきパラメータの値が同一である場合には、上記タイミング信号が入力されるごとに、上記複数の属性情報が巡回するように、上記エンコード順序を決定する
    請求項3記載の画像処理装置。
  5. 上記エンコード制御部は、
    上記優先すべきパラメータがフレームレートである場合には、上記タイミング信号が入力されるごとに、当該フレームレートが低順に巡回するように、上記エンコード順序を決定する
    請求項4記載の画像処理装置。
  6. 上記エンコード制御部は、
    上記優先すべきパラメータがフレームレートである場合には、上記タイミング信号が入力されるごとに、当該フレームレートが高順に巡回するように、上記エンコード順序を決定する
    請求項記載の画像処理装置。
  7. 上記エンコード制御部は、
    上記優先すべきパラメータがビットレートである場合には、上記タイミング信号が入力されるごとに、当該ビットレートが高順に巡回するように、上記エンコード順序を決定する
    請求項記載の画像処理装置。
  8. 上記エンコード処理部は、
    上記エンコード処理に失敗した画像フレームの属性情報をエンコード結果として上記エンコード制御部に出力し、
    上記エンコード制御部は、
    上記エンコード結果を取得した場合には、上記処理対象の画像フレームに対して、上記エンコード処理に失敗した上記属性情報に対するエンコードが最優先で行われるように、上記エンコード順序を決定する
    請求項記載の画像処理装置。
  9. 優先して生成すべき属性のエンコードデータに関する優先事項に基づいて、少なくとも単一の動画像データのエンコード順序をエンコード処理対象のフレーム画像ごとに決定する第1のステップと、
    上記第1のステップで決定した上記エンコード順序をエンコード指示として出力する第2のステップと、
    動画像データを上記第2のステップによる上記エンコード指示に基づいて時分割でエンコードし、属性の異なる複数のエンコードデータを生成する第3のステップと
    を有する画像処理方法。
  10. 優先して生成すべき属性のエンコードデータに関する優先事項に基づいて、少なくとも単一の動画像データのエンコード順序をエンコード処理対象のフレーム画像ごとに決定する第1の処理と、
    上記第1の処理で決定した上記エンコード順序をエンコード指示として出力する第2の処理と、
    動画像データを上記第2の処理による上記エンコード指示に基づいて時分割でエンコードし、属性の異なる複数のエンコードデータを生成する第3の処理と
    をコンピュータに実行させるプログラム。
JP2008314246A 2008-12-10 2008-12-10 画像処理装置、画像処理方法およびプログラム Expired - Fee Related JP5141523B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2008314246A JP5141523B2 (ja) 2008-12-10 2008-12-10 画像処理装置、画像処理方法およびプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008314246A JP5141523B2 (ja) 2008-12-10 2008-12-10 画像処理装置、画像処理方法およびプログラム

Publications (2)

Publication Number Publication Date
JP2010141477A JP2010141477A (ja) 2010-06-24
JP5141523B2 true JP5141523B2 (ja) 2013-02-13

Family

ID=42351230

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008314246A Expired - Fee Related JP5141523B2 (ja) 2008-12-10 2008-12-10 画像処理装置、画像処理方法およびプログラム

Country Status (1)

Country Link
JP (1) JP5141523B2 (ja)

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0767098A (ja) * 1993-08-26 1995-03-10 Fuji Electric Co Ltd 動画像監視装置
JP2002064789A (ja) * 2000-08-22 2002-02-28 Hitachi Ltd 画像圧縮記録送信装置及び画像圧縮送信装置
JP2007281973A (ja) * 2006-04-07 2007-10-25 Canon Inc 映像データ送信装置、映像データ送信方法及びプログラム

Also Published As

Publication number Publication date
JP2010141477A (ja) 2010-06-24

Similar Documents

Publication Publication Date Title
US8275247B2 (en) Method and apparatus for normal reverse playback
US8407565B2 (en) System and method for producing importance rate-based rich media, and server applied to the same
US20100166081A1 (en) Video stream processing apparatus and control method, program and recording medium for the same
US10419769B2 (en) Image processing apparatus, image processing method, and non-transitory computer readable storage medium
JP4788250B2 (ja) 動画像信号の符号化装置、動画像信号の符号化方法およびコンピュータ読み取り可能な記録媒体
US20060093322A1 (en) Data processing apparatus, data processing method, data processing system, program, and storage medium
JP5141523B2 (ja) 画像処理装置、画像処理方法およびプログラム
US7242852B2 (en) Recording/reproducing system
US10349072B2 (en) Image processing apparatus and control method for the same
US20040091159A1 (en) Image compression device and method for performing a frame skipping process
US20070047918A1 (en) Apparatus and method for recording moving picture
US8649617B2 (en) Image decoding apparatus and non-transitory computer readable medium
KR100623710B1 (ko) 하드웨어 리소스를 공유하여 복수의 동영상 콘텐츠를처리하는 방법
US7103100B1 (en) Digital signal processing apparatus and method and providing medium
JP4701021B2 (ja) データ処理装置及びデータ処理方法
KR101332299B1 (ko) 영상기록장치 및 방법
US7006573B2 (en) Image processing apparatus and method, and computer readable storage medium
JP3897783B2 (ja) 画像処理装置及びその制御方法、並びにコンピュータプログラム及びコンピュータ可読記憶媒体
JPWO2008129648A1 (ja) フレームレート変換装置、フレームレート変換方法及び動画像符号化装置
JP2005260440A (ja) 画像音声記録再生装置
KR200422852Y1 (ko) 하드웨어 리소스를 공유하여 복수의 멀티미디어 데이터를처리하는 장치
JP4979355B2 (ja) 画像符号化装置および画像符号化方法
JP2011259071A (ja) 画像処理装置
JP2006340238A (ja) 符号化装置及びその制御方法及びプログラム及び記憶媒体
JPWO2007034695A1 (ja) データ記録再生装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20111206

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120807

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120808

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120928

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20121023

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20121105

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20151130

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees