JP2007521768A - 画像データを処理するシステムおよび方法 - Google Patents

画像データを処理するシステムおよび方法 Download PDF

Info

Publication number
JP2007521768A
JP2007521768A JP2006543965A JP2006543965A JP2007521768A JP 2007521768 A JP2007521768 A JP 2007521768A JP 2006543965 A JP2006543965 A JP 2006543965A JP 2006543965 A JP2006543965 A JP 2006543965A JP 2007521768 A JP2007521768 A JP 2007521768A
Authority
JP
Japan
Prior art keywords
image data
row
buffer
decompressed
subsampled
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2006543965A
Other languages
English (en)
Other versions
JP4888120B2 (ja
Inventor
ジェフ グリックマン,
レネ ポストン,
Original Assignee
インフォーカス コーポレイション
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by インフォーカス コーポレイション filed Critical インフォーカス コーポレイション
Publication of JP2007521768A publication Critical patent/JP2007521768A/ja
Application granted granted Critical
Publication of JP4888120B2 publication Critical patent/JP4888120B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • G06T1/60Memory management
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/186Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a colour or a chrominance component
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • H04N19/423Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation characterised by memory arrangements
    • H04N19/426Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation characterised by memory arrangements using memory downsizing methods
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/59Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial sub-sampling or interpolation, e.g. alteration of picture size or resolution

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression Of Band Width Or Redundancy In Fax (AREA)
  • Color Television Systems (AREA)
  • Processing Of Color Television Signals (AREA)
  • Image Processing (AREA)
  • Storing Facsimile Image Data (AREA)

Abstract

1組の副標本抽出された画像データを解凍する方法が開示される。本方法は、副標本抽出された画像データの第1の部分集合をキャッシュ・メモリと、前記キャッシュ・メモリ以下のメモリ量を有しているバッファとに読み込むこと、解凍された画像データを形成するために、前記副標本抽出された画像データの部分集合の少なくとも幾つかの画素のクロミナンス値を演算すること、前記解凍された画像データを出力することを含んでいる。
【選択図】 図2

Description

画像データは、頻繁に、圧縮形式で記憶および伝送される。画像データの圧縮は、データの記憶によって利用されるメモリ量を低減し、また、非圧縮データと比較して、限定された帯域幅を備えた通信チャネルに亘って画像データを伝送するための所要時間を低減する。
多くの異なる種類のデータ圧縮手法が知られている。画像データに一般に使用される1つの種類の圧縮は、副標本抽出である。画像中のカラー画像データの各画素は、選択された色空間における画素色の位置を特定する1組の3つの座標または成分として記述されることがある。副標本抽出された画像データは、他の色成分よりも低い空間周波数でサンプリングされた少なくとも1つの色成分を有する画像データである。
幾つかの色空間において使用される副標本の1つの種類は、「4:2:2」副標本と称される。この種類の副標本抽出は、典型的には、輝度(あるいは明るさ)成分および2つのクロミナンス(あるいは色)成分について画像を記述する色空間で使用される。4:2:2副標本抽出は、垂直方向に沿った輝度成分と同じ空間周波数であるが、水平方向における輝度成分の空間周波数の2分の1でクロミナンス成分をサンプリングすることを含んでいる。別の種類の副標本抽出は、「4:2:0」副標本抽出と称される。これは、4:2:2副標本抽出と同様であるが、垂直および水平方向の両方における輝度成分の空間周波数の2分の1でクロミナンス成分をサンプリングすることを含んでいる。
副標本抽出された画像データの解凍においては、副標本抽出データは、典型的には、データの全フレームを保持するように構成されたバッファに読み込まれ、そして、欠落クロミナンス値は、副標本抽出されたクロミナンス値から演算される。或る解凍システムにおいては、データは、それがバッファに読み込まれるときに、キャッシュ・メモリにも読み込まれる場合がある。キャッシュ・メモリは、多くのプロセッサに使用される高速メモリであり、プロセッサの速度を増加させるのに使用される。プロセッサは、演算用の値を必要とするときには、キャッシュ・メモリを最初にチェックする。その値がキャッシュ・メモリにない場合には、プロセッサは、次に、低速の一般的なメモリに記憶されたバッファ中に値を見つけなければならない。これは、「キャッシュ・ミス」として知られている。著しい数のキャッシュ・ミスは、処理速度を遅くすることがある。
キャッシュ・メモリは、典型的には、一般的なメモリに対して小さいサイズである。XGAのような高解像度形式の画像データに対しては、データの全フレームを保持するように構成されたバッファは、キャッシュよりも大きいことがある。この場合には、キャッシュ・メモリ内の或る画像データは、データがキャッシュ・メモリおよびバッファに読み込まれるときに、他の画像データによって上書きされることがある。これは、欠落クロミナンス値の演算中にキャッシュ・ミスを引き起こすことがある。あまりにも多くのキャッシュ・ミスの発生は、画像データの処理を遅くし、したがって、副標本抽出されたビデオ画像データの解凍および表示性能に否定的に影響することがある。それは、典型的には、約25フレーム/秒、または、それよりも速い速度で解凍されなければならない。
1つの実施の形態は、1組の副標本抽出された画像データを解凍する方法を提供する。本方法は、副標本抽出された画像データの第1の部分集合を、キャッシュ・メモリと、該キャッシュ・メモリよりも少ないメモリ量を有するバッファとに読み込むこと、解凍された画像データを形成するために、前記副標本抽出された画像データの部分集合の少なくとも幾つかの画素のクロミナンス値を演算すること、および、前記解凍された画像データを出力することを含んでいる。
図1は、本発明の第1の実施の形態にかかる画像処理システムの概略図であり、概して10で示されている。画像処理システム10は、表示面14上に画像を表示するように構成された表示装置12を備えている。表示装置12は、任意の適切な種類の表示装置であることが可能である。本例は、液晶表示装置(LCD)、およびフロントあるいはリア・プロジェクションのいずれかを使用するデジタル光処理技術(DLP)プロジェクタ、テレビジョン・システム、およびコンピュータ・モニタなどを含むが、これらに限定されるものではない。
さらに、画像処理システム10は、表示装置12に関連付けられた画像レンダリングまたは処理装置16と、画像レンダリング装置16と電気通信(有線、無線、あるいは他の適切な種類の電気通信)する一又は複数の画像ソース18とを備えている。画像レンダリング装置16は、画像ソース18によって送信された画像データを受信し、且つ、表示装置12による表示のために、受信画像データを表示するように構成されている。画像レンダリング装置16は、表示装置12と一体化されることが可能であり、表示装置に接続可能な個別の要素として設けられることも可能である。適切な画像レンダリング装置の一例は、2003年6月2日に出願された米国特許出願第10/453,905号に開示されており、それは、参照することによってここに援用される。
画像ソース18は、画像レンダリング装置16に画像データを提供することができる任意の適切な装置を備えることが可能である。本例は、デスクトップ・コンピュータおよび/またはサーバ18a、ラップトップ・コンピュータ18b、携帯情報端末(PDA)18c、携帯電話機18dなどを含むが、これらに限定されるものではない。加えて、画像ソース18は、任意の適切な方法で画像レンダリング装置16と電気的に通信することが可能である。図示された実施の形態においては、各画像ソース18は、無線ネットワーク20を通じて画像レンダリング装置16と電気的に通信する。しかしながら、画像ソース18は、有線ネットワークを通じて、無線もしくは有線直接接続など、またはその任意の混合もしくは組み合わせを通じて、画像レンダリング装置16と通信することも可能である。
画像データは、画像ソース18から画像レンダリング装置16への伝送のために圧縮されることがある。上述したように、画像データが副標本抽出を通じて圧縮されることがある1つの方法は、他の色空間成分よりも低い空間周波数での一又は複数の色空間成分のサンプリングとして定義される。画像ソース18が、4:2:2あるいは4:2:0副標本抽出画像データのようなクロミナンス・副標本抽出画像データを画像レンダリング装置16に提供するように構成される場合には、画像レンダリング装置は、典型的には、副標本抽出されたクロミナンス値から欠落クロミナンス値を演算することによって、副標本抽出された画像データを解凍する。
副標本抽出された画像データを解凍する公知の解凍システムは、典型的には、欠落クロミナンス値を演算する前に、すべての圧縮画像を解凍バッファに読み込む。頻繁に、圧縮画像データは、バッファに読み込まれるときに、キャッシュ・メモリにコピーされる。画像レンダリング装置16上のキャッシュ・メモリおよびバッファは、それぞれ、24および26で示され、また、プロセッサは、22で示されている。しかしながら、圧縮画像のサイズがキャッシュ・メモリよりも大きいことがあるので、キャッシュ・メモリ内の或る画像データは、圧縮画像データがバッファにコピーされるときに、他の画像データによって上書きされることがある。キャッシュ・メモリ内の画像データの上書きは、画像データを解凍するプロセッサがキャッシュ・メモリ内の上書きされたデータを捜すときに、キャッシュ・ミスを引き起こさせる場合がある。あまりにも多くのキャッシュ・メモリの発生は、不利益な程度まで画像解凍を遅くすることがある。
キャッシュ・ミスの発生を回避するのを助けるために、画像レンダリング装置16(あるいは表示装置12)は、画像レンダリング装置上に位置するキャッシュ・メモリよりも小さい解凍バッファを備えることが可能である。キャッシュ・メモリが典型的には比較的小さなメモリであるので、そのような解凍バッファもまた、解凍された画像よりも小さいことがある。換言すれば、画像データがA×B画素配列を有する画像を表わす場合(Aは画像の縦列の画素数、Bは横列の画素数)、解凍バッファは、画像データのA×C配列(Cは、Bよりも小さい)を保持するように構成されることが可能である。そのようなバッファは、画像データの一連のより小さな部分集合としてバッファおよびキャッシュ・メモリに1組の副標本抽出された画像データを読み込むことによって、1組の副標本抽出された画像データを解凍するのに使用されることが可能である。画像データの各部分集合は、圧縮画像データの新しい部分集合が解凍バッファに読み込まれる前に、解凍され、そして、バッファから出力されることが可能である。解凍バッファがキャッシュ・メモリよりも小さいので、キャッシュ・メモリ内の任意の画像データは、解凍演算に使用される間、上書きされることはあまりない。
解凍バッファは、任意の適切なサイズを有することが可能である。一般に、解凍バッファがキャッシュ・メモリに対してより小さければ小さいほど、著しい数のキャッシュ・ミスの発生の可能性は低くなる。さらに、解凍バッファにおいて解凍される副標本抽出された画像データの種類、および圧縮画像データを解凍するのに使用される演算の種類は、解凍バッファのサイズに影響を及ぼすことがある。たとえば、4:2:0画像データ中の欠落クロミナンス成分は、副標本抽出されたクロミナンス値が同位置にあるか、あるいは非同位置にあるか否かによって異なる演算をされることがある。同位置のクロミナンス値は、選択された輝度値として画像の同じ物理的位置に位置している一方で、非同位置のクロミナンス値は、幾つかの関連する輝度値間で間質的に位置している。4:2:0同位置画像データの欠落クロミナンス値は、演算される欠落クロミナンス値の物理的位置に依存して、欠測値として同じ行、または、隣接する行のいずれかで副標本抽出されたクロミナンス値から演算されることが可能である。したがって、4:2:0画像データを解凍するための解凍バッファ(クロミナンス値がないデータ行を有している)は、欠落クロミナンス値が垂直方向に隣接したクロミナンス値から演算されることを可能にする複数行の画像データを保持するように構成されることが可能である。
図2は、概して100で示す、4:2:0同位置画像データを解凍する典型的な方法の実施の形態である。方法100は、水平および垂直の両方に隣接する副標本抽出されたクロミナンス値から欠落クロミナンス・データが演算されることを可能にする3行解凍バッファ(つまり、上記A×C解凍バッファのためのC=3)を利用している。方法100は、典型的には、画像レンダリング装置16上のメモリ24に記憶されたコードで具現化され、且つ、画像レンダリング装置16上のプロセッサ22によって実行されるが、それだけではなく、メモリ・プロジェクタ装置12に、または、ネットワーク20上の他のどこかに記憶されるコードで具現化されることが可能である。
方法100は、まず、102で1組の副標本抽出された画像データを受信することを含んでいる。画像データの単一の組が伝送のために多数の方法で頻繁に圧縮されるので、102で受信された1組の副標本抽出された画像データは、別の解凍プログラムから受信されることがある。これに代えて、102で受信された1組の副標本抽出された画像データは、画像ソース18のうちの1つから直接的に受信されることも可能である。次に、副標本抽出された画像データの最初の部分集合が、104で3行解凍バッファに読み込まれる。104で解凍バッファに読み込まれた副標本抽出された画像データの最初の部分集合は、典型的には、解凍バッファと同じくらい大きい。換言すれば、解凍バッファが3行の画像データを保持するように構成される場合には、副標本抽出された画像データの3行部分集合は、104で解凍バッファに読み込まれる。画像データの最初の部分集合は、1組の副標本抽出された画像データの任意の所望する部分から得られることが可能である。たとえば、最上3行、最下3行、またはA×B画像データの任意の所望する中間3行のいずれかが、解凍のために104で解凍バッファに読み込まれることが可能である。
副標本抽出された画像データの最初の部分集合を104で3行バッファに読み込んだ後で、欠落クロミナンス値が、副標本抽出されたクロミナンス値から演算される。欠落クロミナンス値は、任意の方法、および任意の適切な順番で、副標本抽出されたクロミナンス値から演算されることが可能である。図2の典型的な実施の形態においては、バッファの1行目の欠落クロミナンス値は、まず、106で演算され、そして、バッファの3行目は108で次に演算される。これらの演算は、図3において模式的に図示され、200が3行解凍バッファ、202が解凍バッファの1行目、204がバッファの2行目、および206がバッファの3行目を示している。
画像の各画素は、解凍バッファ200における単一の位置208によって表わされる。各位置208は、典型的には、輝度値、2つのクロミナンス値、および解凍された画像データの単一の画素に関連付けられた他のデータを保持するのに十分なメモリを有している。輝度値は、輝度値を含んだバッファ内の各位置208(つまり、4:2:0副標本抽出された画像データのためのすべて位置)で正方形210によって表わされ、また、同位置のクロミナンス値は、副標本抽出されたクロミナンス値が同位置にある輝度値を含んだバッファ内の記憶位置で円212によって表わされている。解凍バッファ200内のデータのクロミナンス値は、垂直および水平方向の両方において輝度値の頻度の半分だけでサンプリングされることが理解できる。図3において矢印214で模式的に表わされるソフトウェア・ポインタは、バッファ200のどの行が、解凍演算の目的のために1行目とされるのかを解凍プログラムに示すために設けられることが可能である。ポインタ(図示せず)は、バッファ200のどの行が、2行目および3行目であるかを示すのに使用されることも可能である。
1行目の副標本抽出されたクロミナンス値から1行目202および3行目206の欠落クロミナンス値を演算することは、矢印216で模式的に示されている。図示された実施の形態において、1行目202の欠落クロミナンス値は、水平方向にすぐ隣りに隣接する副標本抽出されたクロミナンス値から演算されるが、適切であれば垂直方向に隣接するクロミナンス値からも演算されることが可能である。各欠落クロミナンス値が、すぐ左の副標本抽出されたクロミナンス値から演算されるものとして図示されているが、当然のことながら、矢印216'によって図示されるように、各欠落クロミナンス値が、すぐ右の副標本抽出されたクロミナンス値から演算されることも可能である。欠落クロミナンス値が、すぐ右の副標本抽出されたクロミナンス値から演算される場合には、データ行における最後のクロミナンス値は、その行における最後から2番目の値をコピーすることによって埋められることが可能である。欠落クロミナンス値を判断するのに使用される実際の演算は、当業者にとっては周知であり、したがって、さらに詳細には記述されない。
図2および図3は、2行目の欠落クロミナンス値の前に演算されている3行目の欠落クロミナンス値を示しているが、当然のことながら、3行目の欠落クロミナンス値の前後に、2行目の欠落クロミナンス値が演算されることも可能である。
バッファ200の2行目204および3行目206の欠落クロミナンス値は、任意の適切な方法で演算されることが可能である。図4は、3行目206の副標本抽出されたクロミナンス値からの解凍バッファ200の2行目204の欠落クロミナンス値の第1の部分の典型的な演算の模式図を示している。バッファ200内のデータは、4:2:0副標本抽出データであるので、そのデータは、1行おきにクロミナンス値を有してはいない。したがって、これらの行の欠落クロミナンス値は、すぐ上あるいは下の行の副標本抽出されたクロミナンス値から演算されることが可能である。図4においては、解凍バッファ200の2行目204の欠落クロミナンス値220を交互にすることは、矢印223で示されるように、すぐ下に位置する、解凍バッファの3行目206のクロミナンス値222から演算される。これに代えて、欠落クロミナンス値は、破線矢印223'で示されるように、欠落クロミナンス値のすぐ上に位置したクロミナンス値から演算される。2行目204の欠落クロミナンス値は、すぐ下の行の副標本抽出されたクロミナンス値から演算され、また、1組の画像データ中の最後の行が欠落クロミナンス値を含んでいる場合には、該欠落クロミナンス値は、すぐ上のデータ行から演算あるいはコピーされることが可能である。1行目202および3行目206の欠落クロミナンス値のように、2行目204の欠落クロミナンス値を演算するための実際の演算は、当業者にとっては公知であり、したがって、ここでは詳細に記述されない。
図5は、2行目204の残りの欠落クロミナンス値の演算の概略図を示している。2行目204の残りの欠落クロミナンス値は、224で示され、位置220に対して前に演算されたクロミナンス値から演算される。上述された他の欠落クロミナンス値の演算のように、2行目204の残りの欠落クロミナンス値を埋めるのに使用される実際の演算は、当業者にとっては公知であり、したがって、詳細には議論されない。
イメージ全体のデータ量と比較して比較的小さい解凍バッファ200のサイズにより、データによって符号化された画像が高解像度形式であっても、画像データの最初の部分集合に対する上述された解凍演算によるキャッシュ・ミスは、殆ど生成されないであろう。さらに、解凍バッファ200が画像データを3行保持するので、副標本抽出されたクロミナンス値は、垂直方向に隣接する位置の欠落クロミナンス値を演算するのに使用されることが可能である。当然のことながら、解凍バッファ200の3行構成は、単に例示であり、本発明にかかる解凍バッファは、画像データの他の適切な行数を保持するように構成されることが可能である。
図2を再び参照して、副標本抽出された画像データの最初の部分集合における欠落クロミナンス値の演算を完了した後で、解凍された画像データは、112でバッファから出力される。解凍された画像データ、典型的には、解凍された画像全体を保持するように構成された出力バッファに出力され、また、任意の適切な方法で出力されることが可能である。たとえば、画像データの3行すべてが出力されるか、あるいは、画像データのより小さな部分集合が出力されることが可能である。図2の実施の形態においては、1行目および2行目から解凍されたデータだけが出力される。当然のことながら、他のステップは、解凍されたデータを出力する前に、副標本抽出された画像データの部分集合を解凍した後で、行なわれることが可能である。たとえば、輝度/クロミナンス色空間からRGB色空間へのカラー変換が、データを出力する前に行なわれることも可能である。
解凍バッファ200から、データの3行すべての代わりに、データを2行出力することには、データを3行すべて出力することに対して利点がある場合がある。たとえば、データを2行出力し、3行目を1行目でリセットすることは、常に、バッファの1行目および3行目を占める副標本抽出されたクロミナンス値に帰着する(画像データ行が、漸増的に解凍バッファに読み込まれると仮定する)これは、副標本抽出された画像データの複数の部分集合が解凍される場合に、解凍演算を簡略化するのを助ける。
この時点においては、解凍プログラムは、1組の副標本抽出された画像データが完全に解凍されたか否かを114で判断する。1組の副標本抽出された画像データが完全には解凍されていない場合には、図6において模式的に示されるように、1行目のポインタ214は、116で3行目206のポインタにリセットされる。これは、解凍演算を行なうために、バッファ200の1行目202'で3行目206をリセットする。1行目のポインタ214がリセットされるときに、1行目202もバッファの2行目204'でリセットされ、2行目204は、バッファの3行目206'でリセットされる。これが、3行の円環バッファである。
1行目のポインタ214をリセットすることは、メモリ内の3行目の画像データ値のうちのいずれの位置もシフトさせることなく、3行目を1行目でリセットすることを可能にする。したがって、1行目のポインタ214をリセットすることは、解凍バッファ内で画像データ値をのシフトさせることよりも、1行目で3行目をリセットする速く且つ効率的な方法である場合がある。これに代えて、バッファの3行目は、3行目の画像データ値を1行目にシフトさせることによって、バッファの1行目でリセットされることが可能である。
116でバッファ内の行の割り当てを1行目、2行目、および3行目202',204',および206'にそれぞれリセットした後で、副標本抽出された画像データの新しい2行の部分集合は、2行目204'および3行目206'に118で読み込まれる。また、方法100は、108での3行目および110での2行目の欠落クロミナンス値を演算するために、ステップ108に戻る。これらの演算は、図7において矢印230で模式的に示されている。方法100は、1組の副標本抽出された画像データが完全に解凍されるまで、ステップ108〜118の繰り返しを継続する。このループが繰り返されるとき、ポインタ214は、バッファの行を通じて繰り返し巡り、1行目202から3行目206に移動し、そして、1行目202に戻る。
一旦、1組の副標本抽出された画像データが完全に解凍されると、そのループは、ステップ114で途切れ、解凍バッファ200の3行目の解凍されたデータは、120でバッファから出力される。当然のことながら、1組の副標本抽出された画像データにおいて符号化された画像の形式に依存して、バッファ200に読み込まれた画像データの最後の部分集合は、データを2行ではなく、1行だけ有していることがある。この場合には、その行の欠落クロミナンス値は、バッファの現在の1行目における解凍されたデータから演算されることが可能であり、その後、両方の行を出力することが可能である。
解凍バッファ200が、画像データのA×C配列(C=3)を保持するように構成されているものとして開示されるが、当然のことながら、他のバッファ構成が使用されることも可能である。たとえば、画像データがA×B配列に配置される場合には、本発明にかかる解凍バッファは、C×B構成(Cは、Aよりも小さい)を有することが可能であり、あるいは、C×D構成(CおよびDは、AおよびBよりも小さい)を有することも可能である。
さらに、本開示は、特定の実施の形態を含んでいるが、特定の実施の形態は、多数の変形が可能であるので、限定された意味で考慮されるべきではない。本開示の主題は、ここに開示された種々の要素、特徴、機能、および/または、特性の新規且つ非自明なコンビネーションおよびサブコンビネーションをすべて含んでいる。請求項は、新規且つ非自明であると見なされた或るコンビネーションおよびサブコンビネーションを特に指し示している。これらの請求項は、「1つの」要素もしくは「第1の」要素、またはその均等物を参照することがある。そのような請求項は、一又は複数のそのような要素の援用を、複数のそのような要素を除外することも要求することもなく含むと解釈されるべきである。特徴、機能、要素、および/または特性の他のコンビネーションおよびサブコンビネーションは、現在の請求項の補正を通じて、あるいはこのもしくは関連する出願において新しい請求項を提示することを通じて請求されることが可能である。そのような請求項は、元の請求項の範囲より広く、より狭く、等しく、あるいは異なっても、本開示の主題に含まれると見なされる。
本発明の実施の形態にかかる画像データ処理システムの概略図である。 本発明の別の実施の形態にかかる副標本抽出された画像データを解凍する方法のフローチャートである。 4:2:0副標本抽出画像データを含む典型的な解凍バッファの概略図である。 バッファの1行目で欠落クロミナンス値を演算した後の、図3のバッファの概略図である。 バッファの2行目で欠落クロミナンス値のうちの幾つかを演算した後の、図3のバッファの概略図である。 バッファの2行目および3行目で残った欠落クロミナンス値を演算した後の、図3のバッファの概略図である。 バッファから解凍された画像データの最初の2行を出力し、1行目のポインタをリセットし、圧縮画像データの2つの新しい行をバッファに読み込んだ後の、図3のバッファの概略図である。
符号の説明
10 画像処理システム
14 表示面
12 表示装置
16 画像レンダリング装置(処理装置)
18 画像ソース
18a デスクトップ・コンピュータ(サーバ)
18b ラップトップ・コンピュータ
18c 携帯情報端末(PDA)
18d 携帯電話機
20 無線ネットワーク
24 キャッシュ・メモリ
26 バッファ
22 プロセッサ
100 方法
200 解凍バッファ

Claims (42)

  1. A×B画素配列に配置される1組の副標本抽出された画像データを解凍する方法であって、
    前記副標本抽出された画像データの第1の部分集合をキャッシュ・メモリと、該キャッシュ・メモリよりも少ないメモリ量を有しているバッファとに読み込むこと、
    解凍された画像データを形成するために、前記副標本抽出された画像データの部分集合の少なくとも幾つかの画素のクロミナンス値を演算すること、および
    前記解凍された画像データを出力することを含む方法。
  2. 前記バッファは、前記解凍された画像データのA×C画素配列を保持するように構成され、Cは、Bよりも小さい請求項1記載の方法。
  3. 前記バッファは、前記解凍された画像データのA×3画素配列を保持するように構成されている請求項2記載の方法。
  4. 前記副標本抽出された画像データは、4:2:0コジテッド(cosited)画像データである請求項1記載の方法。
  5. 前記バッファは、1行目、2行目、および3行目を有し、前記1行目および前記3行目は、前記副標本抽出された画像データのサンプリングされたクロミナンス値を含んでいる請求項4記載の方法。
  6. 前記クロミナンス値の演算は、前記1行目上のサンプリングされたクロミナンス値から前記1行目に対する欠落クロミナンス値を演算すること、
    前記3行目上のサンプリングされたクロミナンス値からの前記3行目に対する欠落クロミナンス値を演算すること、および、次に、
    前記1行目および3行目上のサンプリングされたクロミナンス値から前記2行目に対する欠落クロミナンス値を演算することを含んでいる請求項5記載の方法。
  7. 前記1行目および2行目に対する欠落クロミナンス値を演算した後で、前記解凍された画像データを前記1行目および2行目から出力バッファに出力すること、前記1行目で前記3行目をリセットすることをさらに含む請求項6記載の方法。
  8. 前記1行目で前記3行目をリセットすることは、前記2行目で前記1行目をリセットすること、および、前記3行目で前記2行目をリセットすることを含んでいる請求項7記載の方法。
  9. 前記2行目で前記1行目をリセットし、前記3行目で前記2行目をリセットした後で、副標本抽出された画像データの新しい部分集合を前記2行目および3行目に読み込むことをにさらに含む請求項8記載の方法。
  10. 前記解凍された画像データを出力した後で、前記副標本抽出された画像データの第2の部分集合を前記キャッシュ・メモリおよび前記バッファに読み込むことをさらに含む請求項1記載の方法。
  11. 前記副標本抽出された画像データの部分集合を前記キャッシュ・メモリおよび前記バッファに反復して読み込むこと、前記副標本抽出された画像データの各部分集合の少なくとも幾つかの画素のクロミナンス値を演算すること、および、前記副標本抽出された画像データが完全に解凍されるまで、前記解凍された画像データを出力することをさらに含む請求項10記載の方法。
  12. 前記解凍された画像データは、解凍された画像データの完全な組を保持するように構成された出力バッファに出力される請求項1記載の方法。
  13. 前記バッファは、前記解凍された画像データのA×C配列を保持するように構成され、前記解凍された画像データを出力することは、前記解凍された画像データのA×D配列を出力することを含み、Dは、Cよりも小さい請求項1記載の方法。
  14. 前記解凍された画像データのA×D配列を出力した後で、副標本抽出された画像データの別のA×D配列を読み込むことをさらに含む請求項13記載の方法。
  15. Cは、3に等しく、Dは、2である請求項13記載の方法。
  16. A×B画素配列に配置される1組の副標本抽出された画像データを解凍する方法であって、
    (a) 副標本抽出された画像データの第1の部分集合を、解凍された画像データのA×C画素配列(Cは、Bよりも小さい)を保持するように構成されたキャッシュ・メモリおよび解凍バッファに読み込むこと、
    (b) 解凍された画像データを形成するために、前記副標本抽出された画像データの少なくとも幾つかの画素のクロミナンス値を演算すること、
    (c) 出力バッファに解凍された画像データのA×D画素配列(Dは、C以下)を出力すること、
    (d) 前記副標本抽出された画像データの別の部分集合(前記副標本抽出された画像データの第2の部分集合は、画像データのA×D画素を有している)を前記キャッシュ・メモリおよび前記解凍バッファに読み込むこと、および
    (e) 前記1組の副標本抽出された画像データが完全に解凍されるまで(b)〜(d)を繰り返すことを含む方法。
  17. 前記解凍バッファは、前記キャッシュ・メモリ以下のメモリ量を有している請求項16記載の方法。
  18. 前記副標本抽出された画像データは、4:2:0コジテッド画像データである請求項17記載の方法。
  19. Cは、3である請求項18記載の方法。
  20. 前記バッファは、1行目、2行目、および3行目を有し、前記解凍された画像データのA×D画素配列を出力することは、前記1行目および前記2行目から前記解凍された画像データを出力することを含んでいる請求項19記載の方法。
  21. 副標本抽出された画像データの別の部分集合で読み込む前に1行目で3行目をリセットすることをさらに含むこと請求項20記載の方法。
  22. Dは、2である請求項19記載の方法。
  23. A×B画素配列に配置された副標本抽出された画像データを解凍する画像処理装置であって、
    処理用の1組の前記副標本抽出された画像データを受信するように、また、前記画像データのA×C画素配列(Cは、Bよりも小さい)を保持するように構成されたバッファ・メモリと、
    前記1組の副標本抽出された画像データを受信し、且つ、処理中に前記1組の副標本抽出された画像データを保持するように構成されたキャッシュ・メモリと、(前記画像データのA×C画素配列を記憶するために、キャッシュ・メモリは十分なサイズを有している)
    前記バッファ・メモリに保持された前記1組の副標本抽出された画像データに対するクロミナンス値を演算するように構成されたプロセッサとを備える画像処理装置。
  24. 前記バッファ・メモリは、キャッシュ・メモリよりも小さい請求項23記載の画像処理装置。
  25. 前記バッファ・メモリは、画像データを3行保持するように構成されている請求項23記載の画像処理装置。
  26. 前記副標本抽出された画像データは、4:2:0コジテッド画像データである請求項23記載の画像処理装置。
  27. 前記バッファ・メモリは、1行目、2行目、および3行目を有し、前記1行目および前記3行目は、サンプリングされたクロミナンス値を有した画像データを含むように構成されている請求項26記載の画像処理装置。
  28. 前記プロセッサは、前記1行目のサンプリングされたクロミナンス値から該1行目に対する欠落クロミナンス値を、前記3行目のサンプリングされたクロミナンス値からの該3行目に対する欠落クロミナンス値を、および、前記1行目および3行目のサンプリングされたクロミナンス値から前記2行目の欠落クロミナンス値を演算するように構成されている請求項27記載の画像処理装置。
  29. 前記プロセッサは、前記1行目および2行目に対する欠落クロミナンス値を演算した後で、前記1行目および2行目から前記解凍された画像データを出力バッファに出力し、その後、前記3行目を前記1行目でリセットするように構成されている請求項28記載の画像処理装置。
  30. 前記プロセッサは、前記3行目を前記1行目でリセットするときに、前記1行目を前記2行目でリセットし、前記2行目を前記3行目でリセットするように構成されている請求項29記載の画像処理装置。
  31. 前記1行目を前記2行目でリセットし、前記2行目を前記3行目でリセットした後で、副標本抽出された画像データの新しい部分集合を前記2行目および3行目に読み込むことをさらに含む請求項30記載の方法。
  32. コンピュータが読み取り可能な記憶媒体上で、プログラムは、副標本抽出された画像データを処理する演算装置によって実行可能な1組の命令を含んでおり、前記副標本抽出された画像データは、A×B画素配列に配置され、前記1組の命令は、
    前記副標本抽出された画像データの第1の部分集合を、キャッシュ・メモリと、該キャッシュ・メモリよりも少ないメモリ量を有したバッファとに読み込むために、
    解凍された画像データを形成するために前記副標本抽出された画像データの部分集合の少なくとも幾つかの画素に対するクロミナンス値を演算するために、および
    前記解凍された画像データを出力するために、前記演算装置によって実行可能であるプログラム。
  33. 前記バッファは、前記解凍された画像データのA×C画素配列(Cは、Bよりも小さい)を保持するように構成されている請求項32記載のプログラム。
  34. 前記バッファは、前記解凍された画像データのA×3画素配列を保持するように構成されている請求項33記載のプログラム。
  35. 前記副標本抽出された画像データは、4:2:0コジテッド画像データである請求項32記載のプログラム。
  36. 前記バッファは、1行目、2行目、および3行目を有し、前記1行目および前記3行目は、前記副標本抽出された画像データのサンプリングされたクロミナンス値を含んでいる請求項35記載のプログラム。
  37. 前記命令は、1行目上のサンプリングされたクロミナンス値からの1行目に対する欠落クロミナンス値を演算し、3行目上のサンプリングされたクロミナンス値からの3行目に対する欠落クロミナンス値の演算、およびその後第1の上のサンプリングされたクロミナンス値から2行目および3行目上の演算する欠落クロミナンス値により、クロミナンス値を演算するのに実行可能である請求項36記載のプログラム。
  38. 前記命令は、1行目および2行目に対する欠落クロミナンス値を演算した後で、1行目および2行目から出力バッファまで解凍された画像データを出力し、且つ、1行目で3行目をリセットするのに実行可能である請求項37記載のプログラム。
  39. 前記命令は、3行目が1行目でリセットされるときに、3行目で2行目と2行目で1行目をリセットするのに実行可能である請求項38記載のプログラム。
  40. 前記命令は、解凍された画像データを出力した後で、キャッシュ・メモリおよびバッファに副標本抽出された画像データの第2の部分集合を読み込むのに実行可能である請求項32記載のプログラム。
  41. 前記命令は、前記副標本抽出された画像データの部分集合を前記キャッシュ・メモリおよび前記バッファに反復して読み込み、前記副標本抽出された画像データの各部分集合の少なくとも幾つかの画素に対するクロミナンス値を演算し、前記副標本抽出された画像データが完全に解凍されるまで、前記解凍された画像データを出力するように構成されている請求項40記載のプログラム。
  42. 前記命令は、前記解凍された画像データを、解凍された画像データの完全な組を保持するように構成された出力バッファに出力するように実行可能である請求項32記載のプログラム。
JP2006543965A 2003-12-11 2004-12-09 画像データを処理する方法および画像処理装置 Active JP4888120B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US10/735,306 US7162092B2 (en) 2003-12-11 2003-12-11 System and method for processing image data
US10/735,306 2003-12-11
PCT/US2004/041209 WO2005059821A2 (en) 2003-12-11 2004-12-09 System and method for processing image data

Publications (2)

Publication Number Publication Date
JP2007521768A true JP2007521768A (ja) 2007-08-02
JP4888120B2 JP4888120B2 (ja) 2012-02-29

Family

ID=34653582

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006543965A Active JP4888120B2 (ja) 2003-12-11 2004-12-09 画像データを処理する方法および画像処理装置

Country Status (6)

Country Link
US (1) US7162092B2 (ja)
EP (1) EP1692655A4 (ja)
JP (1) JP4888120B2 (ja)
CN (1) CN101065760B (ja)
TW (1) TWI358046B (ja)
WO (1) WO2005059821A2 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7162092B2 (en) * 2003-12-11 2007-01-09 Infocus Corporation System and method for processing image data
EP2044939A1 (en) * 2006-06-29 2009-04-08 Eisai R&D Management Co., Ltd. Therapeutic agent for liver fibrosis
CN102957903A (zh) * 2011-08-24 2013-03-06 赵翔 基于3g网络通讯的照片和视频低失真压缩传输方法
US9262797B2 (en) * 2013-03-15 2016-02-16 Nvidia Corporation Multi-sample surface processing using one sample
US9286659B2 (en) 2013-03-15 2016-03-15 Nvidia Corporation Multi-sample surface processing using sample subsets
US9665958B2 (en) 2013-08-26 2017-05-30 Nvidia Corporation System, method, and computer program product for redistributing a multi-sample processing workload between threads

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08336114A (ja) * 1995-06-08 1996-12-17 Sharp Corp 画像処理装置のライン変換回路
JPH0984054A (ja) * 1995-09-18 1997-03-28 Nec Corp 画像処理装置
JPH10136405A (ja) * 1996-10-25 1998-05-22 Fuji Film Micro Device Kk 画像処理装置および画像処理方法
JPH10191392A (ja) * 1996-10-29 1998-07-21 Sony Corp 画像信号処理装置
JPH10294926A (ja) * 1997-04-21 1998-11-04 Hitachi Ltd テレビジョン受信機
JPH11205590A (ja) * 1998-01-14 1999-07-30 Katsuragawa Electric Co Ltd 画素密度変換装置
JP2000209611A (ja) * 1999-01-19 2000-07-28 Sony Corp 色信号垂直補間フィルタ及び色信号垂直補間方法
JP2001186541A (ja) * 1999-12-24 2001-07-06 Sanyo Electric Co Ltd 動画像復号化装置

Family Cites Families (33)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5664029A (en) * 1992-05-13 1997-09-02 Apple Computer, Inc. Method of disregarding changes in data in a location of a data structure based upon changes in data in nearby locations
US5847748A (en) * 1993-03-11 1998-12-08 Ncr Corporation Multimedia projection system
KR970003799B1 (ko) * 1993-12-29 1997-03-21 양승택 영상 프레임차를 이용한 영상신호 전송장치
US5450130A (en) * 1994-03-30 1995-09-12 Radius Inc. Method and system for cell based image data compression
CN1126411A (zh) * 1995-01-06 1996-07-10 大宇电子株式会社 并行编码/解码数字视频信号的装置
US5940049A (en) * 1995-10-23 1999-08-17 Polycom, Inc. Remote interactive projector with image enhancement
US5658063A (en) * 1995-11-02 1997-08-19 Texas Instruments Incorporated Monitorless video projection system
US6289138B1 (en) * 1997-04-30 2001-09-11 Canon Kabushiki Kaisha General image processor
US6414687B1 (en) * 1997-04-30 2002-07-02 Canon Kabushiki Kaisha Register setting-micro programming system
AUPO647997A0 (en) * 1997-04-30 1997-05-22 Canon Information Systems Research Australia Pty Ltd Memory controller architecture
US6195674B1 (en) * 1997-04-30 2001-02-27 Canon Kabushiki Kaisha Fast DCT apparatus
US6707463B1 (en) * 1997-04-30 2004-03-16 Canon Kabushiki Kaisha Data normalization technique
CA2216901C (en) * 1997-09-26 2000-12-26 Ibm Canada Limited-Ibm Canada Limitee Method and apparatus for discovery of databases in a client server network
US6184936B1 (en) * 1997-10-06 2001-02-06 Sigma Designs, Inc. Multi-function USB capture chip using bufferless data compression
EP0975123A1 (en) * 1998-07-15 2000-01-26 Telefonaktiebolaget L M Ericsson (Publ) Communication device and method for reliable and low-delay packet transmission
WO2000027076A1 (en) 1998-10-29 2000-05-11 3Com Corporation A datalink protocol for a telecommunications method and system
JP2000152202A (ja) 1998-11-10 2000-05-30 Matsushita Electric Ind Co Ltd 携帯型画像投影装置及び携帯型画像表示装置
US6560637B1 (en) * 1998-12-02 2003-05-06 Polycom, Inc. Web-enabled presentation device and methods of use thereof
US6438603B1 (en) * 1999-04-30 2002-08-20 Microsoft Corporation Methods and protocol for simultaneous tuning of reliable and non-reliable channels of a single network communication link
US6636888B1 (en) * 1999-06-15 2003-10-21 Microsoft Corporation Scheduling presentation broadcasts in an integrated network environment
JP2001331614A (ja) * 2000-05-19 2001-11-30 Sony Corp ネットワーク会議システム及び議事録作成方法、会議管理サーバ及び議事録作成方法
US6735616B1 (en) * 2000-06-07 2004-05-11 Infocus Corporation Method and apparatus for remote projector administration and control
WO2003049373A1 (en) * 2001-11-30 2003-06-12 British Telecommunications Public Limited Company Data transmission
US20030110217A1 (en) * 2001-12-07 2003-06-12 Raju Narayan D. Method and apparatus for a networked projection system
US6860609B2 (en) * 2001-12-26 2005-03-01 Infocus Corporation Image-rendering device
US6573846B1 (en) * 2001-12-31 2003-06-03 Apple Computer, Inc. Method and apparatus for variable length decoding and encoding of video streams
US6693643B1 (en) * 2001-12-31 2004-02-17 Apple Computer, Inc. Method and apparatus for color space conversion
JP2003283839A (ja) * 2002-03-19 2003-10-03 Sanyo Electric Co Ltd 画像変換方法および装置
US7606314B2 (en) * 2002-08-29 2009-10-20 Raritan America, Inc. Method and apparatus for caching, compressing and transmitting video signals
CN1182488C (zh) * 2002-10-28 2004-12-29 威盛电子股份有限公司 数据压缩/解压缩方法与影像数据压缩/解压缩装置
US8683024B2 (en) * 2003-11-26 2014-03-25 Riip, Inc. System for video digitization and image correction for use with a computer management system
US8176155B2 (en) * 2003-11-26 2012-05-08 Riip, Inc. Remote network management system
US7162092B2 (en) * 2003-12-11 2007-01-09 Infocus Corporation System and method for processing image data

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08336114A (ja) * 1995-06-08 1996-12-17 Sharp Corp 画像処理装置のライン変換回路
JPH0984054A (ja) * 1995-09-18 1997-03-28 Nec Corp 画像処理装置
JPH10136405A (ja) * 1996-10-25 1998-05-22 Fuji Film Micro Device Kk 画像処理装置および画像処理方法
JPH10191392A (ja) * 1996-10-29 1998-07-21 Sony Corp 画像信号処理装置
JPH10294926A (ja) * 1997-04-21 1998-11-04 Hitachi Ltd テレビジョン受信機
JPH11205590A (ja) * 1998-01-14 1999-07-30 Katsuragawa Electric Co Ltd 画素密度変換装置
JP2000209611A (ja) * 1999-01-19 2000-07-28 Sony Corp 色信号垂直補間フィルタ及び色信号垂直補間方法
JP2001186541A (ja) * 1999-12-24 2001-07-06 Sanyo Electric Co Ltd 動画像復号化装置

Also Published As

Publication number Publication date
EP1692655A4 (en) 2013-04-17
TW200527324A (en) 2005-08-16
US7162092B2 (en) 2007-01-09
EP1692655A2 (en) 2006-08-23
US20050129318A1 (en) 2005-06-16
CN101065760A (zh) 2007-10-31
CN101065760B (zh) 2010-06-16
WO2005059821A3 (en) 2007-04-05
JP4888120B2 (ja) 2012-02-29
TWI358046B (en) 2012-02-11
WO2005059821A2 (en) 2005-06-30

Similar Documents

Publication Publication Date Title
US6882755B2 (en) Image transmission for low bandwidth with region of interest
US10244215B2 (en) Re-projecting flat projections of pictures of panoramic video for rendering by application
US20180152663A1 (en) View-dependent operations during playback of panoramic video
US7228008B2 (en) Method for scaling a digital image in an embedded system
US9001274B2 (en) Image processing method
EP1351502A1 (en) Enhanced resolution video construction method and apparatus
US20150279055A1 (en) Mipmap compression
TWI550557B (zh) 視訊資料壓縮格式
US20070146556A1 (en) Image display system, image display method, information processing apparatus, image display device, control program, and recording medium
US20180048914A1 (en) Image processing method and related apparatus
US7477795B2 (en) Image compression and expansion technique
US8878867B2 (en) Transparency information in image or video format not natively supporting transparency
US11223809B2 (en) Video color mapping using still image
CN113938665B (zh) 用于传输缩减的深度信息的方法和电子装置
JP4888120B2 (ja) 画像データを処理する方法および画像処理装置
KR101378278B1 (ko) 컬러 해상도를 강화시키는 방법 및 장치
CN107318021B (zh) 一种远程显示的数据处理方法及系统
EP2675171B1 (en) Transparency information in image or video format not natively supporting transparency
US9317891B2 (en) Systems and methods for hardware-accelerated key color extraction
TWI413900B (zh) 用以垂直縮放像素資料之方法及設備
US5768507A (en) Method and apparatus for overcoming a slope overload condition while using differential pulse code modulation scheme
JP2004361497A (ja) 画像表示装置、画像表示方法及び画像表示プログラム
US20180286006A1 (en) Tile reuse in imaging
WO2023185706A1 (zh) 影像处理方法、影像处理装置、存储介质
EP3958248A1 (en) Image generation device and image generation method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20071112

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20100413

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20101207

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110131

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20111115

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20111128

R150 Certificate of patent or registration of utility model

Ref document number: 4888120

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141222

Year of fee payment: 3

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350