JP2010516173A - 画像におけるアーティファクトを低減するシステム及び方法 - Google Patents

画像におけるアーティファクトを低減するシステム及び方法 Download PDF

Info

Publication number
JP2010516173A
JP2010516173A JP2009545531A JP2009545531A JP2010516173A JP 2010516173 A JP2010516173 A JP 2010516173A JP 2009545531 A JP2009545531 A JP 2009545531A JP 2009545531 A JP2009545531 A JP 2009545531A JP 2010516173 A JP2010516173 A JP 2010516173A
Authority
JP
Japan
Prior art keywords
image
block
quantization error
error
artifacts
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2009545531A
Other languages
English (en)
Other versions
JP5490544B2 (ja
Inventor
グオ,ジュ
ヴァスケズ,マルコ,アントニオ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Thomson Licensing SAS
Original Assignee
Thomson Licensing SAS
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Thomson Licensing SAS filed Critical Thomson Licensing SAS
Publication of JP2010516173A publication Critical patent/JP2010516173A/ja
Application granted granted Critical
Publication of JP5490544B2 publication Critical patent/JP5490544B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/86Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving reduction of coding artifacts, e.g. of blockiness
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/40Picture signal circuits
    • H04N1/409Edge or detail enhancement; Noise or error suppression
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration by the use of more than one image, e.g. averaging, subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/41Bandwidth or redundancy reduction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/132Sampling, masking or truncation of coding units, e.g. adaptive resampling, frame skipping, frame interpolation or high-frequency transform coefficient masking
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/90Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals

Abstract

本開示のシステム及び方法は、画像におけるアーティファクトを低減する、ブロック又は範囲に基づく誤差拡散処理を提供する。このシステム及び方法は、特別の周波数のマスキング信号(例えば、ノイズ信号)が容易に圧縮処理を通されるように、その発生及び制御を可能にする。システム及び方法は、画像の画素のブロックサイズを選択するステップ(204)と、マスキング信号を画像に付加するステップ(205)と、画像で少なくとも1つのブロックについて量子化誤差を決定するステップ(208)と、画像におけるアーティファクトを隠すようその画像において隣接ブロックに量子化誤差を分配するステップ(212)とを提供する。次いで、出力される画像は圧縮機能により符号化される(214)。

Description

本開示は、概して、デジタル処理及び表示システムに関し、より具体的に、画像におけるアーティファクトを低減するシステム及び方法に関する。
デジタルサンプリングをされた画像の高品質表示を生成するために必要とされるデータファイルのサイズが大きいことに起因して、知覚される画像品質に悪影響を及ぼすことなくデータファイルのサイズを低減しようとする試みにおいて、様々な形態の圧縮をデータファイルに適用することは一般的である。様々なよく知られている技術及び標準規格は、かかる必要性に対処すべく発展してきた。これらの技術の代表は、画像符号化のためのJPEG(Joint Photographic Experts Group)標準規格である。JPEGに類似するが、フレーム間符号化を付加してモーションシーケンスにおける連続フレームの類似性を生かしたのが、MPEG(Moving Pictures Expert Group)標準規格である。他の標準規格及び独自システムはウェーブレット変換に基づいて開発されてきた。
商業上の映画DVD/HD−DVDのリリースの過程で、従来式のフィルムから又はコンピュータ・アニメ映画から走査されるデジタル画像は、通常10ビットデータを有し、或る用途では、最大16ビットデータを有する。データは、圧縮のために8ビットYUVフォーマットに変換される必要がある。ビット深度の低減により、バンディング・アーティファクトが、しばしば、滑らかな色変化を有する1又は複数の画像の領域に現れる。ディザリング及び誤差拡散のアルゴリズムは、バンディング・アーティファクトを低減するために一般的に使用されている。大部分のディザリング・アルゴリズムで、高い空間周波数を有するデジタル信号が、バンディング・アーティファクトを隠すべく画像に付加される。しかし、DVD/HD−DVD内の圧縮は、高い空間周波数を有する画像を除去する不可逆(lossy)の圧縮である。従って、バンディング・アーティファクトは、バンディングが圧縮前のディザリング処理によって隠される場合でさえ、圧縮後にしばしば現れる。
ディザリング又は色深度の低減のための従来のアプローチは、表示用途及び印刷サービスのためのものである。ディザリングは処理チェーンでの最後のステップであるから、付加される高い空間周波数は、よく保たれて、色深度が低減される場合にバンディング効果を隠す目的を果たす。誤差拡散は他の一般的アプローチである。このアプローチで、量子化誤差は、マスキング効果を発生させて全体的な画像強度を保つよう隣接画素の周囲に分配される。しかし、これらのアプローチは、高周波信号を低減し又は切り捨てる傾向がある、例えばMPEG1、2、4又はH.264のような、不可逆圧縮の影響を考慮しない。従って、誤差拡散アプローチの大部分は圧縮処理でのビットレート効率を低下させる。これは、圧縮エンコーダが、付加される量子化誤差を表すためには多数のビットを用い、画像を表すためにはより少ないビットを有するためである。一方、バンディング・アーティファクトは、マスキング信号が低減され又は切り捨てられているために、圧縮後に現れがちである。
従って、アーティファクトが不可逆圧縮処理後に低減され又は抑えられたままであるところの、画像におけるアーティファクトを低減する技術が必要とされる。更に、高いビットレート効率を保ちながら画像におけるアーティファクトを低減する技術が必要とされる。
本開示のシステム及び方法は、画像におけるアーティファクトを低減する、ブロック又は範囲に基づく誤差拡散処理を提供する。このシステム及び方法は、特別の周波数のマスキング信号(例えば、画像に付加されるノイズ信号)が容易に圧縮処理を通されるように、その発生及び制御を可能にする。ブロックに基づく誤差拡散方法は、大部分について圧縮処理を切り抜けることができる低空間周波数応答から中間の空間周波数応答を有するディザリング信号を発生させる。例えば、画像の所与のブロックについて、同じノイズは、そのブロック内の夫々の画素について使用され得、従って、ノイズパターンの空間周波数は、そのブロック内では低い。これにより、画像全体でのノイズの全体的な空間周波数は低下する。システム及び方法は、また、ピーク信号対ノイズ比(PSNR)が、同じビットレートを有する圧縮に関して改善されることを実証する。すなわち、それは、圧縮における符号化効率を改善する。更に、ブロックに基づく誤差拡散アルゴリズムは、特に、バンディング・アーティファクトが滑らかな色遷移を有する画像領域で目立つアニメ映画について、商業上のDVD/HD−DVDリリース過程でバンディング・アーティファクトを低減する。
本開示の1つの様相に従って、画像におけるアーティファクトを低減する方法は、前記画像の画素のブロックサイズを選択する選択ステップと、マスキング信号を前記画像に付加する付加ステップと、前記画像で少なくとも1つのブロックについて量子化誤差を決定する決定ステップと、前記画像におけるアーティファクトを隠すよう該画像において前記量子化誤差を隣接ブロックに分配する分配ステップとを有して提供される。
1つの様相で、前記マスキング信号はノイズ信号である。
他の様相で、当該方法は、前記分配ステップ後に前記画像を圧縮機能により符号化する符号化ステップを更に有する。この圧縮機能は、MPEG1、2、4又はH.264等の不可逆の圧縮である。
更なる様相で、前記決定ステップは、前記少なくとも1つのブロックで夫々の画素を切り詰めるステップと、夫々の画素について量子化誤差を決定するステップと、前記少なくとも1つのブロックで夫々の画素の前記量子化誤差を合計するステップとを更に有する。
本開示の他の様相に従って、画像におけるアーティファクトを低減するシステムが提供される。当該システムは、前記画像に適用されるマスキング信号を生成するよう構成される信号発生器と、前記画像の画素のブロックサイズを選択するよう構成されるブロック選択器と、前記画像の少なくとも1つのブロックで量子化誤差を決定し且つ該量子化誤差を、前記画像におけるアーティファクトを低減するよう隣接ブロックに分配するよう構成される誤差拡散モジュールとを有する。
更なる様相で、当該システムは、前記画像を圧縮機能により符号化するよう構成されるエンコーダを更に有する。
他の様相で、前記誤差拡散モジュールは、重み係数に基づいて前記量子化誤差の一部を隣接ブロックに分配するよう構成される誤差分配モジュールを更に有する。この誤差分配モジュールは、更に、因果的方法で前記量子化誤差を分配するよう適合される。
更なる様相に従って、機械によって読出可能であって、画像におけるアーティファクトを低減する方法を実行するよう前記機械によって実行可能な命令のプログラムを具現するプログラム記憶媒体が提供される。前記方法は、前記画像の画素のブロックサイズを選択する選択ステップと、マスキング信号を前記画像に付加する付加ステップと、前記画像で少なくとも1つのブロックについて量子化誤差を決定する決定ステップと、前記画像におけるアーティファクトを隠すよう該画像において前記量子化誤差を隣接ブロックに分配する分配ステップと、前記画像を圧縮機能により符号化するステップとを有する。
本開示のこれらの及び他の様相、特徴及び利点は記載され、又は好ましい実施形態に係る下記の詳細な記載から明らかになるであろう。それらの実施形態は、添付の図面に関連して読まれるべきである。
本開示の様相に従うブロックに基づく誤差拡散方法を表すフロー図である。 本開示の様相に従って画像におけるアーティファクトを低減するシステムの例示である。 本開示の様相に従って画像におけるアーティファクトを低減する方法の例のフロー図である。 画素に基づく誤差拡散方法により処理された画像の誤差マップである。 本開示に従うブロックに基づく誤差拡散方法により処理された、図4で処理された同じ画像の誤差マップである。 ブロックに基づく誤差拡散方法と比較して、画素に基づく誤差拡散方法を用いるピーク信号対ノイズ比(PSNR)を表すグラフである。
図面中、同じ参照符号は全体を通して同じ要素を表す。
当然のことながら、図面は、本開示の概念を説明する目的のためであり、必ずしも本開示を説明する唯一の可能な構成でない。
当然のことながら、図中に示される要素は、様々な形態のハードウェア、ソフトウェア、又はそれらの組合せで実施されてよい。望ましくは、これらの要素は、プロセッサ、メモリ及び入出力インターフェースを含む、1又はそれ以上の適切にプログラムされた汎用の装置において、ハードウェア及びソフトウェアの組合せで実施される。
本記載は本開示の原理を表す。よって、明らかなように、当業者は、たとえここで明示的に記載又は図示されていなくとも、本開示の原理を具現し且つその精神及び適用範囲の中に包含される様々な配置を考え出すことができる。
ここに挙げられている全ての例及び条件付きの用語は、当該技術の促進に発明者によって寄与される開示及び概念の原理を理解する際に読み手を助ける教育的な目的を対象とし、このような具体的に挙げられている例及び条件に限定されないと考えられるべきである。
更に、ここで本開示の原理、様相及び実施形態並びにそれらの具体例を挙げる全ての記述は、構造上及び機能上の両方でそれらと等価なものを包含するよう意図される。更に、かかる等価なものは、現在知られているもの及び将来開発されるもの、すなわち、構造に関わらず同じ機能を実行する開発されたあらゆる要素を含むことが意図される。
よって、例えば、当業者には明らかなように、ここで定義されるブロック図は、本開示の原理を具現する回路の例の概念図を表す。同様に、如何なるフローチャート、フロー図、状態遷移図及び擬似コード等も、実質的にコンピュータ読取可能な媒体で表され且つコンピュータ又はプロセッサによって(かかるコンピュータ又はプロセッサが明示的に示されていようとなかろうと)そのように実行される様々な処理を表すことは明らかである。
図示される様々な要素の機能は、専用のハードウェア及び、適切なソフトウェアに関連してソフトウェアを実行可能なハードウェアの使用を通して提供されてよい。プロセッサによって提供される場合に、かかる機能は、単一の専用プロセッサによって、単一の共用プロセッサによって、又は複数の個別プロセッサ(これらの幾つかは共有されてよい。)によって提供されてよい。更に、用語“プロセッサ”又は“コントローラ”の明示的な使用は、排他的にソフトウェアを実行可能なハードウェアをいうと解釈されるべきではなく、暗に、制限なく、デジタル信号プロセッサ(“DSP”)ハードウェア、ソフトウェアを記憶する読出専用メモリ(“ROM”)、ランダムアクセスメモリ(“RAM”)、及び不揮発性記憶装置を含みうる。
従来の及び/又はカスタムの他のハードウェアも含まれてよい。同様に、図示される如何なるスイッチも単なる概念に過ぎない。それらの機能は、プログラムロジックの演算を通して、専用ロジックを通して、プログラム制御及び専用ロジックの相互作用を通して、又は手動で、実行されてよい。具体的な技術は、文脈からより具体的に理解されるように、実施者によって選択可能である。
本願の特許請求の範囲で、特定の機能を実行する手段として表される如何なる要素も、例えば、a)その機能を実行する回路要素の組合せ、又はb)あらゆる形態をとり、従って、ファームウェアや、マイクコード等を含むソフトウェアであって、機能を実行するためにそのソフトウェアを実行する適切な回路と組み合わされるソフトウェアを含め、その機能を実行するあらゆる方法を包含するよう意図される。特許請求の範囲によって定義される開示は、様々な列挙されている手段によって提供される機能性が、特許請求の範囲が要求するように組み合わされて1つにされるという事実にある。よって、それらの機能性を提供することができる如何なる手段も、ここに示されるものと等価であると考えられる。
本開示のシステム及び方法は、画像におけるアーティファクトを低減する、ブロック又は範囲に基づく誤差拡散処理を提供する。ブロックに基づく誤差拡散方法は、大部分について圧縮処理を切り抜けることができる低空間周波数応答から中間の空間周波数応答を有するディザリング信号を発生させる。システム及び方法は、また、ピーク信号対ノイズ比(PSNR)が、同じビットレートを有する圧縮に関して改善されることを実証する。すなわち、それは、圧縮における符号化効率を改善する。
従来の画素に基づく方法では、夫々の画素の量子化誤差はその隣接画素に分配されるが、本開示のブロックに基づくアプローチでは、量子化誤差は夫々のブロックから計算され、その隣接ブロックに分配される。ブロックに基づく方法は、付加される量子化誤差の空間周波数をブロックサイズ及び夫々のブロック内の誤差分布によって制御する方法を提供する。画像の所与のブロックについて、同じノイズがブロック内の夫々の画素について使用され得、従って、ノイズパターンの空間周波数はそのブロック内では低い。これにより、画像全体でのノイズの全体的な空間周波数は低下する。ブロックベースで好ましい空間周波数応答を有する誤差拡散ノイズを付加することによって、アーティファクトの低減は、画素に基づく方法でよりも、ダウンストリーム処理の不可逆圧縮でより良く保たれる。
図1を参照すると、本開示のシステム及び方法の全体的なフローが表されている。圧縮される画像が、様々な既知の手段によって取得される。当然のことながら、画像は、動画若しくは映画からの画像のシーケンスにおける1つのデジタル画像、又は単一の静止フレームデジタル画像であってよい。画像は、多数のブロック、例えば、Bm,nに分割される。ここで、m及びnはブロックインデックスを表す。マスキング信号(例えば、ノイズ信号)は画像に付加される。切り捨て機能(truncating function)は、ブロック内の画素のビット深度を低減するよう、画像の各ブロックに対して実行される。量子化誤差は、夫々のブロック内の画素について決定され、全ての誤差の合計はブロック量子化誤差Eを形成する。次いで、ブロック量子化誤差Eは、重み係数によって隣接ブロックの夫々に分配され、隣接ブロックの夫々は、分配された誤差によって新しい値に変換される。これは、バンディング・アーティファクトを隠し、圧縮を切り抜ける。本開示の処理は因果関係処理(causal process)であるから、ブロックは、図1に示される処理方向に従って順に処理される。処理は、第1のブロック、例えばB00、で始まる。ブロックB00は、最初に、量子化及び誤差拡散により処理され、次いで、ブロックB01が処理される。ブロックB01の処理で、EはブロックB01の全体の量子化誤差である。“e”は、その隣接ブロック、例えばB10、B11及びB02へ分配される、全体の量子化誤差Eの一部である。夫々の隣接ブロックに分配される誤差は異なってよいが、それらの合計は全体の量子化誤差Eに等しい。ブロックB02は、前の処理ブロックからの誤差、例えばブロックB01からの誤差が付加された後に処理される。その処理は因果関係処理であるから、処理は一方向に流れ、決して、処理されたブロックに戻って誤差を付加しない。当業者によって知られているように、因果関係を示す処理又はシステムは、現在及び前の入力値にのみ依存する出力及び内部状態を有する処理である。
ここで図2を参照すると、本開示の実施例に従うシステム構成要素の例が示されている。走査装置103は、フィルムプリント104(例えば、カメラのフィルムネガ)をデジタルフォーマット(例えば、シネオン(Cineon)フォーマット又はSMPTE DPXファイル)へと走査するよう設けられ得る。走査装置103は、例えば、ビデオ出力を伴うフィルム(例えば、Arri LocPro)からビデオ出力を生成するテレシネ又は如何なる装置を有してもよい。代替的に、ポストプロダクション処理からのファイル又はデジタルシネマ106(例えば、予めコンピュータ読取可能な形態のファイル)が直接的に使用されてよい。コンピュータ読取可能なファイルの潜在的なソースは、AVIDエディタ、DPXファイル、D5テープ等である。
走査されたフィルムプリントは、後処理装置102(例えば、コンピュータ)へ入力される。コンピュータは、1又はそれ以上の中央処理ユニット(CPU)等のハードウェアと、ランダムアクセスメモリ(RAM)及び/又は読出専用メモリ(ROM)等のメモリ110と、キーボード、カーソル制御装置(例えば、マウス、ジョイスティック等)及びディスプレイ装置等の入出力(I/O)ユーザインターフェース112とを有する様々な既知のコンピュータプラットフォームのいずれにおいても実施される。コンピュータプラットフォームは、また、オペレーティングシステム及びマイクロインストラクションコードを有する。ここに記載される様々な処理及び機能は、オペレーティングシステムを介して実行されるソフトウェアアプリケーションプログラムの部分若しくはマイクロインストラクションコードの部分(又はそれらの組合せ)のいずれであってもよい。更に、様々な他の周辺装置が、パラレルポート、シリアルポート又はユニバーサルシリアルバス(USB)等の様々なインターフェース及びバス構造によってコンピュータプラットフォームへ接続されてよい。他の周辺装置は、補助記憶装置124及びプリンタ128を有してよい。プリンタ128は、フィルムの改訂版126(例えば、フィルムの立体版)を印刷するために用いられてよい。
代替的に、予めコンピュータ読取可能な形態106(例えば、外部ハードディスク124に記憶され得るデジタルシネマ)にあるファイル/フィルムプリントが、直接的にコンピュータ102に入力されてよい。ここで使用される用語“フィルム”は、フィルムプリント又はデジタルシネマのいずれかをいう点に留意すべきである。
ソフトウェアプログラムは、画像におけるアーティファクトを低減するために、メモリ110に記憶される誤差拡散モジュール114を有する。誤差拡散モジュール114は、画像におけるアーティファクトを隠す信号を生成するノイズ又は信号発生器116を有する。ノイズ信号は、ホワイトノイズ、ガウスノイズ、又は異なるカットオフ周波数フィルタにより変調されたホワイトノイズ等であってよい。切り捨てモジュール118は、画像のブロックの量子化誤差を決定するために設けられている。誤差拡散モジュール114は、また、量子化誤差を隣接ブロックに分配するよう構成される誤差分配モジュール120を有する。
エンコーダ122は、MPEG1、2、4及びH.264等のいずれかの既知の圧縮標準へと出力画像を符号化するために設けられている。
図3は、本開示の様相に従って画像におけるアーティファクトを低減する方法の例のフロー図である。最初に、後処理装置102は、少なくとも1つの2次元(2D)画像を取得する(ステップ202)。後処理装置102は、上述されるように、コンピュータ読取可能な形態でデジタルマスタビデオファイルを取得することによって少なくとも1つの2D画像を得る。デジタルビデオファイルは、デジタルビデオカメラによりビデオ画像の時間シーケンスを捕捉することによって得られてよい。代替的に、ビデオシーケンスは、従来のフィルムタイプのカメラによって捕捉されてもよい。この場合に、フィルムは走査装置103によって走査される。
当然のことながら、フィルムが走査されるのかそれとも予めデジタルフォーマットであるのかに関わらず、フィルムのデジタルファイルは、フレームのロケーションに関する指示又は情報(例えば、フレーム番号、フィルムの開始時間等)を有する。デジタルビデオファイルの各フレームは、1つの画像、例えば、I、I、・・・Iを有する。
ステップ204で、ブロックサイズが選択される。画像は、いくつのブロックに分割されてもよい。ブロックは、長方形領域に含まれる多数の画素である。ブロックは図1にBm,nとして示されている。ここで、m及びnはブロックインデックスを表す。全てのブロックは、例えば、2×2、3×3等の同じサイズを有することができる。ブロックサイズは、また、局所的な画像属性に依存して様々であってよい。ブロックサイズは、ユーザインターフェース112を介してオペレータによって選択され得、あるいは、それは、一定の比率が種々の画像サイズについて保たれるように、画像サイズによって決定され得る。本開示の誤差拡散方法は、後述されるように、ブロックレベルで働く。ブロックサイズが選択されると、ブロックサイズは同じ画像について同じに保たれる。
ブロックサイズが決定されると、2つの機能、すなわち、切り捨て機能及び誤差分配機能が夫々のブロックの中で実行される。最初に、ステップ205で、ノイズ信号N(例えば、マスキング信号)は、ノイズ発生器116を介して画像に付加される。ステップ206で、切り捨て機能は、切り捨てモジュール118を介して画像内の各ブロックに対して実行される。切り捨て機能は、一定の量子化係数Q、すなわち、2の累乗、でビット深度の値を割ることによって、ブロック内の夫々の画素についてビット深度を低減するよう用いられる。概して、量子化係数Qは2に等しい。ここで、xは、切り捨てられるビットの数である。例えば、10ビットデータから8ビットデータへ切り詰めるために、一定の量子化係数Qは4であり、すなわち、Q=2である。切り捨て機能は以下のように定義される。
Figure 2010516173
ここで、Ii,jはブロック内の画素値であり、Ni,jは、ノイズ発生器116によって切り捨て前に付加される信号であり、Qは量子化係数である。I′i,jは、切り捨てられる画素値である。切り捨て処理には、画素値について処理されるべき丸めの問題がある。例えば、I′i,jが1.75、すなわち、7(I′i,j+Ni,j)を4(Q)で割ったものに等しい場合に、I′i,jは整数によって表現される必要がある。I′i,jは、当該技術で知られている種々の丸め方式に基づいて2又は1であってよい。
式(1)で、Ni,jはノイズ(例えば、ホワイトノイズ)であり、それは構造アーティファクトを低減する。概して、Ni,jはランダム信号分布を有する。ユーザインターフェース112を介して、オペレータは、手動でNi,jの値範囲を制御することができる。デフォルトで、Ni,jの値範囲は0からQ−1である。画像の選択されているブロック内の夫々の画素について同じノイズを用いることによって、ノイズパターンの空間周波数はブロック内で低く、これにより、画像全体でのノイズの全体的な空間周波数は低減される。ノイズの空間周波数が低減されるので、ノイズ、すなわち、マスキング信号は、復元処理を切り抜け、解凍の間アーティファクトを抑える。
ステップ208で、量子化誤差は、下記の式(2)に示されるように、ブロック内の夫々の画素について決定される。
Figure 2010516173
ステップ210で、全ての量子化誤差の合計はブロック量子化誤差Em,nを形成する。このブロック量子化誤差Em,nは、誤差拡散係数に基づいて隣接ブロックに分配される。
全体的なブロック量子化誤差Em,nについて、量子化誤差の一部eは、
e=c(m,n)*E (3)
によって決定されるように、隣接ブロックに分配される。ここで、c(m,n)は誤差拡散係数である。
ステップ212で、ブロック量子化誤差は、誤差分配モジュール120を介して隣接ブロックに分配される。夫々のブロック内の誤差分配関数は、以下:
i,j=Ii,j+wi,je、 Ii,j∈Bm,n (4)
i,j=1/(NM)、 Ii,j∈Bm,n (5)
のように定義される。ここで、eはブロックBm,nに分配される全体的な誤差であり、N及びMはブロックの面積であり、wi,jはブロックBm,nの重み係数である。一実施例で、式(5)に示される一様分布は、重み係数を計算するために用いられる。より複雑な関数が、wi,jを計算するために設計され得る。例えば、wi,jは、I(i,j)に比例して設定され得る。
ブロックBm,nのサイズは、誤差拡散処理で制御され得且つアーティファクトのマスキングについて最良の効果を達成するよう選択される空間周波数の量を決定する。しかし、ブロックサイズが大きいと、誤差拡散処理で望まれない構造化誤差が発生する傾向がある。かかる構造化アーティファクトはブロック境界アーティファクトを含む。このブロック境界アーティファクトでは、2つの異なるブロックにある2つの隣接画素が別なふうに変形される。式(1)のNi,jは、また、ランダムノイズを含む潜在的な構造化アーティファクトを無効化するために使用される。2×2のブロックサイズを例とすると、可視的なブロックアーティファクトを伴わない720×480画素(例えば、DVD解像度)の画像を処理するのに十分であることが分かっている。当然のことながら、他のブロックサイズ及び画像サイズが、結果として起こる可視的なアーティファクトを伴わずに用いられてよい。
画像が誤差分配機能によって変更された後、画像は、後処理装置102のメモリ(例えば、記憶装置124)にセーブされてよい。特定のフィルムの全ての画像が変更されると、画像は、MPEG1、2、4及びH.264等のいずれかの従来の圧縮規格に従って、エンコーダ122を介して符号化されてよい(ステップ214)。次いで、圧縮されたフィルム130は、記憶装置(例えば、記憶装置124)に記憶され、又はリムーバブル記憶装置(例えば、DVD)に転送されてよい。
図4及び図5は、切り捨て処理を受けた画像と元の画像との差である誤差を示す。図5は、本開示のブロックに基づく方法が、従来のアプローチ(例えば、画素に基づく方法)によって処理された図4の誤差マップに比べて高空間周波数成分を有さないことを実証する。
本開示のブロックに基づく誤差拡散アプローチは、また、MPEG2圧縮処理でのピーク信号対ノイズ比(PSNR)を改善する。図6を参照すると、PSNRは、画素に基づく誤差拡散アプローチに比べて0.2から0.5dBほど改善される。同じビットストリームサイズについて、本開示のブロックに基づく方法は、より良い復号画像品質を与え、あるいは、同じ画像品質について、それは、使用ビットが少なくて済む。
本開示の教示を組み込む実施形態がここで詳細に図示及び記載をされてきたが、当業者は、これらの教示をやはり組み込む多種多様な他の実施形態を容易に考え出すことができる。(限定ではなく例示を目的として)画像におけるアーティファクトを低減するシステム及び方法に係る好ましい実施形態を記載してきたことで、改良及び変形は前述の教示の観点から当業者によって行われ得ることが知られる。従って、当然のことながら、添付の特許請求の範囲で述べられている本開示の適用範囲及び精神の範囲内にある変更が、開示される本開示の具体的な実施形態において行われ得る。特許法によって求められる詳細及び列挙によりこのようにして本開示を記載してきたが、特許証によって保護されることを請求され望まれるものは添付の特許請求の範囲で示される。
本願は、2007年6月16日に米国で出願された仮出願番号第60/880650号の優先権を35U.S.C.§119の下で主張する。

Claims (20)

  1. 画像におけるアーティファクトを低減する方法であって、
    前記画像の画素のブロックサイズを選択する選択ステップと、
    マスキング信号を前記画像に付加する付加ステップと、
    前記画像で少なくとも1つのブロックについて量子化誤差を決定する決定ステップと、
    前記画像におけるアーティファクトを隠すよう該画像において前記量子化誤差を隣接ブロックに分配する分配ステップと
    を有する方法。
  2. 前記分配ステップ後に前記画像を圧縮機能により符号化する符号化ステップを更に有する請求項1記載の方法。
  3. 前記圧縮機能は不可逆である、請求項2記載の方法。
  4. 前記マスキング信号はノイズ信号である、請求項1記載の方法。
  5. 前記決定ステップは、
    前記少なくとも1つのブロックで夫々の画素を切り詰めるステップと、
    夫々の画素について量子化誤差を決定するステップと、
    前記少なくとも1つのブロックで夫々の画素の前記量子化誤差を合計するステップと
    を更に有する、請求項1記載の方法。
  6. 前記分配ステップは、重み係数に基づいて前記量子化誤差の一部を隣接ブロックに分配するステップを更に有する、請求項1記載の方法。
  7. 前記分配ステップは、前記量子化誤差の均等な部分を前記隣接ブロックの夫々に分配するステップを更に有する、請求項1記載の方法。
  8. 前記分配ステップは因果関係を示す、請求項1記載の方法。
  9. 前記ブロックサイズは前記画像のサイズに比例する、請求項1記載の方法。
  10. 画像におけるアーティファクトを低減するシステムであって、
    前記画像に適用されるマスキング信号を生成するよう構成される信号発生器と、
    前記画像の画素のブロックサイズを選択するよう構成されるブロック選択器と、
    前記画像の少なくとも1つのブロックで量子化誤差を決定し且つ該量子化誤差を、前記画像におけるアーティファクトを低減するよう隣接ブロックに分配するよう構成される誤差拡散モジュールと
    を有するシステム。
  11. 前記信号発生器はノイズ信号を生成するよう構成される、請求項10記載のシステム。
  12. 前記画像を圧縮機能により符号化するよう構成されるエンコーダを更に有する、請求項10記載のシステム。
  13. 前記圧縮機能は不可逆である、請求項12記載のシステム。
  14. 前記誤差拡散モジュールは、前記少なくとも1つのブロックで夫々の画素を切り詰め、夫々の画素について量子化誤差を決定し、前記少なくとも1つのブロックで夫々の画素の前記量子化誤差を合計するよう構成される切り捨てモジュールを更に有する、請求項10記載のシステム。
  15. 前記誤差拡散モジュールは、重み係数に基づいて前記量子化誤差の一部を隣接ブロックに分配するよう構成される誤差分配モジュールを更に有する、請求項10記載のシステム。
  16. 前記誤差分配モジュールは、更に、因果的方法で前記量子化誤差を分配するよう適合される、請求項15記載のシステム。
  17. 前記誤差拡散モジュールは、前記量子化誤差の均等な部分を前記隣接ブロックの夫々に分配するよう構成される誤差分配モジュールを更に有する、請求項10記載のシステム。
  18. 前記ブロックサイズは前記画像のサイズに比例する、請求項10記載のシステム。
  19. 機械によって読出可能であって、画像におけるアーティファクトを低減する方法を実行するよう前記機械によって実行可能な命令のプログラムを具現するプログラム記憶媒体であって、
    前記方法は、
    前記画像の画素のブロックサイズを選択する選択ステップと、
    マスキング信号を前記画像に付加する付加ステップと、
    前記画像で少なくとも1つのブロックについて量子化誤差を決定する決定ステップと、
    前記画像におけるアーティファクトを隠すよう該画像において前記量子化誤差を隣接ブロックに分配する分配ステップと、
    前記画像を圧縮機能により符号化するステップと
    を有する、プログラム記憶媒体。
  20. 前記マスキング信号はノイズ信号である、請求項19記載のプログラム記憶媒体。
JP2009545531A 2007-01-16 2007-06-12 画像におけるアーティファクトを低減するシステム及び方法 Active JP5490544B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US88065007P 2007-01-16 2007-01-16
US60/880,650 2007-01-16
PCT/US2007/013739 WO2008088370A2 (en) 2007-01-16 2007-06-12 System and method for reducing artifacts in images

Publications (2)

Publication Number Publication Date
JP2010516173A true JP2010516173A (ja) 2010-05-13
JP5490544B2 JP5490544B2 (ja) 2014-05-14

Family

ID=39501590

Family Applications (3)

Application Number Title Priority Date Filing Date
JP2009545531A Active JP5490544B2 (ja) 2007-01-16 2007-06-12 画像におけるアーティファクトを低減するシステム及び方法
JP2009545532A Active JP5818404B2 (ja) 2007-01-16 2007-06-19 画像中のアーチファクトを軽減するシステムおよび方法
JP2013221035A Active JP5815003B2 (ja) 2007-01-16 2013-10-24 画像中のアーチファクトを軽減するシステムおよび方法

Family Applications After (2)

Application Number Title Priority Date Filing Date
JP2009545532A Active JP5818404B2 (ja) 2007-01-16 2007-06-19 画像中のアーチファクトを軽減するシステムおよび方法
JP2013221035A Active JP5815003B2 (ja) 2007-01-16 2013-10-24 画像中のアーチファクトを軽減するシステムおよび方法

Country Status (7)

Country Link
US (2) US8600184B2 (ja)
EP (2) EP2103134B1 (ja)
JP (3) JP5490544B2 (ja)
KR (3) KR101394766B1 (ja)
CN (3) CN105187844A (ja)
CA (2) CA2674310C (ja)
WO (2) WO2008088370A2 (ja)

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2171683A1 (en) 2007-06-29 2010-04-07 Thomson Licensing Apparatus and method for reducing artifacts in images
JP5739812B2 (ja) * 2008-10-10 2015-06-24 コーニンクレッカ フィリップス エヌ ヴェ 血管造影画像取得装置の作動方法、コリメータ制御ユニット、血管造影画像取得装置及びコンピュータソフトウェア
CN102483849A (zh) * 2009-08-12 2012-05-30 汤姆森许可贸易公司 基于感兴趣区域来减少图像序列中的伪像的系统和方法
KR101630281B1 (ko) * 2010-08-06 2016-06-15 한화테크윈 주식회사 영상 처리 장치
US20130009980A1 (en) * 2011-07-07 2013-01-10 Ati Technologies Ulc Viewing-focus oriented image processing
US9979985B2 (en) * 2012-12-13 2018-05-22 Saturn Licensing Llc Transmission device, transmitting method, reception device, and receiving method
CN104079934B (zh) * 2014-07-14 2017-02-15 武汉大学 一种实时视频通信中的感兴趣区域提取方法
US9911179B2 (en) 2014-07-18 2018-03-06 Dolby Laboratories Licensing Corporation Image decontouring in high dynamic range video processing
JP6512942B2 (ja) 2015-05-27 2019-05-15 キヤノン株式会社 画像処理装置および画像処理方法
US10475164B2 (en) 2017-09-12 2019-11-12 Qualcomm Incorporated Artifact detection in a contrast enhanced output image
US11790564B2 (en) * 2020-03-30 2023-10-17 Google Llc Encoders for improved image dithering
EP4189638A4 (en) * 2020-12-12 2024-01-24 Samsung Electronics Co Ltd METHOD AND ELECTRONIC DEVICE FOR MANAGING IMAGE ARTIFACTS

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08228288A (ja) * 1994-10-11 1996-09-03 Seiko Epson Corp 画像の粒状性を減らすための改良された適応性のあるフィルタリングおよび閾値設定の方法及び装置
JPH10271331A (ja) * 1997-03-26 1998-10-09 Oki Data:Kk 画像処理方法及びその装置
JP2003309724A (ja) * 2002-04-18 2003-10-31 Seiko Epson Corp 画像処理装置、画像処理方法、印刷装置、画像処理プログラムおよび画像処理プログラムを記録した媒体
JP2005269577A (ja) * 2004-03-22 2005-09-29 Seiko Epson Corp 画像処理装置、印刷装置、画像処理方法およびプログラム

Family Cites Families (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10285390A (ja) * 1997-04-03 1998-10-23 Minolta Co Ltd 画像処理装置
JPH04269084A (ja) * 1991-02-25 1992-09-25 Konica Corp 画像変換装置
JP3195142B2 (ja) * 1993-10-29 2001-08-06 キヤノン株式会社 画像処理方法及び装置
CN1154193A (zh) * 1995-05-15 1997-07-09 宝丽来公司 用于降低图象数据压缩噪声的方法和设备
JPH10155087A (ja) 1996-11-20 1998-06-09 Ricoh Co Ltd 画像処理装置
JP3976863B2 (ja) * 1997-12-24 2007-09-19 キヤノン株式会社 画像処理装置及び方法
JP2001163569A (ja) * 1999-12-13 2001-06-19 Nisshin:Kk 機械設備の油切り体
GB2358098A (en) 2000-01-06 2001-07-11 Sharp Kk Method of segmenting a pixelled image
JP2001285640A (ja) * 2000-03-31 2001-10-12 Fuji Photo Film Co Ltd 画像処理方法、画像処理装置および記録媒体
JP4659974B2 (ja) * 2000-12-12 2011-03-30 株式会社東芝 超音波診断装置
JP2003015587A (ja) * 2001-06-28 2003-01-17 Mitsubishi Electric Corp ディスプレイ装置
AU2003202764A1 (en) * 2002-02-28 2003-09-09 Koninklijke Philips Electronics N.V. Noise filtering in images
US6764162B2 (en) * 2002-04-30 2004-07-20 Lexmark International, Inc. Shingle masks that reduce banding effect on ink jet printers
US7130474B2 (en) * 2002-09-27 2006-10-31 Eastman Kodak Company Method and system for generating digital image files for a limited display
US6757434B2 (en) 2002-11-12 2004-06-29 Nokia Corporation Region-of-interest tracking method and device for wavelet-based video coding
JP4143459B2 (ja) * 2003-03-31 2008-09-03 キヤノン株式会社 画像処理方法及び画像処理装置
JP4321121B2 (ja) 2003-05-30 2009-08-26 株式会社日立メディコ 診断画像における生体組織の動きの追跡方法及びその方法を用いた画像診断装置
JP2005024717A (ja) * 2003-06-30 2005-01-27 Fujitsu Hitachi Plasma Display Ltd ディスプレイ装置およびディスプレイの駆動方法
KR100512104B1 (ko) * 2003-11-26 2005-09-05 엘지전자 주식회사 표시 장치의 계조 처리 방법 및 장치
JP2005303979A (ja) 2004-03-18 2005-10-27 Ricoh Co Ltd 画像処理装置、画像処理方法、およびその方法をコンピュータに実行させるプログラム
CN100361495C (zh) 2004-06-23 2008-01-09 夏普株式会社 图像处理方法、图像处理装置、图像形成装置
JP4166733B2 (ja) * 2004-07-09 2008-10-15 シャープ株式会社 画像処理方法および画像処理装置並びにそれを備えた画像形成装置、画像処理プログラム、記録媒体
JP2005063464A (ja) * 2004-11-16 2005-03-10 Toshiba Corp 映像領域追跡方法および装置
US8019175B2 (en) 2005-03-09 2011-09-13 Qualcomm Incorporated Region-of-interest processing for video telephony
CN1327809C (zh) * 2005-03-28 2007-07-25 南方医科大学 在t1加权磁共振成像中用propeller采样方式消除运动伪影的方法
JP2007101923A (ja) * 2005-10-05 2007-04-19 Fujitsu Hitachi Plasma Display Ltd デジタル表示装置及びその表示方法
KR20090103873A (ko) * 2006-12-28 2009-10-01 톰슨 라이센싱 자동 시각 아티팩트 분석 및 아티팩트 축소를 위한 방법 및 장치
WO2010150486A1 (ja) * 2009-06-22 2010-12-29 パナソニック株式会社 画像符号化方法及び画像符号化装置

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08228288A (ja) * 1994-10-11 1996-09-03 Seiko Epson Corp 画像の粒状性を減らすための改良された適応性のあるフィルタリングおよび閾値設定の方法及び装置
JPH10271331A (ja) * 1997-03-26 1998-10-09 Oki Data:Kk 画像処理方法及びその装置
JP2003309724A (ja) * 2002-04-18 2003-10-31 Seiko Epson Corp 画像処理装置、画像処理方法、印刷装置、画像処理プログラムおよび画像処理プログラムを記録した媒体
JP2005269577A (ja) * 2004-03-22 2005-09-29 Seiko Epson Corp 画像処理装置、印刷装置、画像処理方法およびプログラム

Also Published As

Publication number Publication date
WO2008088373A3 (en) 2008-10-02
KR20090110307A (ko) 2009-10-21
CA2674310A1 (en) 2008-07-24
CA2674312A1 (en) 2008-07-24
JP5490544B2 (ja) 2014-05-14
US8600184B2 (en) 2013-12-03
EP2104918B1 (en) 2018-12-19
KR20090104027A (ko) 2009-10-05
KR101545359B1 (ko) 2015-08-18
US20100119173A1 (en) 2010-05-13
WO2008088370A2 (en) 2008-07-24
WO2008088373A2 (en) 2008-07-24
KR20140019884A (ko) 2014-02-17
CN105187844A (zh) 2015-12-23
JP5818404B2 (ja) 2015-11-18
CA2674310C (en) 2016-05-24
KR101394766B1 (ko) 2014-05-16
CA2674312C (en) 2016-04-12
US20100046804A1 (en) 2010-02-25
JP5815003B2 (ja) 2015-11-17
CN101601069B (zh) 2012-07-18
JP2014017882A (ja) 2014-01-30
US8457439B2 (en) 2013-06-04
JP2010516174A (ja) 2010-05-13
CN101595734A (zh) 2009-12-02
WO2008088370A3 (en) 2008-10-02
EP2104918A2 (en) 2009-09-30
EP2103134B1 (en) 2018-12-19
EP2103134A2 (en) 2009-09-23
CN101601069A (zh) 2009-12-09

Similar Documents

Publication Publication Date Title
JP5490544B2 (ja) 画像におけるアーティファクトを低減するシステム及び方法
JP2005333622A (ja) イメージおよびビデオの予測可逆符号化
JP2010532628A (ja) 画像中のアーチファクトを低減させる装置および方法
WO2006046551A1 (ja) 画像符号化方法および装置、ならびに画像復号方法および装置
US9767542B2 (en) Method and device for selecting an image dynamic range conversion operator
WO2005022921A1 (ja) 動画像符号化方法および動画像復号化方法
JP2005295510A (ja) 解像度変換方法及び装置
JP2006081152A (ja) デジタル画像符号化装置、デジタル画像符号化プログラム、デジタル画像符号化方法、及びデジタル画像復号化装置、デジタル画像復号化プログラム、並びにデジタル画像復号化方法
US20050169537A1 (en) System and method for image background removal in mobile multi-media communications
WO2006046550A1 (ja) 画像符号化方法および装置、ならびに画像復号方法および装置
JP2008042407A (ja) Tv法を用いた画像符号化装置及び復号化装置
WO2014156647A1 (ja) 複数の入力画像をエンコーディングする方法、プログラムを格納する記憶媒体および装置
JP4784386B2 (ja) 復号化装置、逆量子化方法及びプログラム
JP2005312054A (ja) 補完映像を生成してデブロッキング処理に用いる映像圧縮装置及び方法
JP2008227602A (ja) 直交変換・量子化装置
JP4424672B2 (ja) 画像処理装置、画像処理方法、プログラム及び情報記録媒体
JP2009188632A (ja) 画像処理装置、画像処理システム、画像処理方法および画像処理プログラム
JP2009147843A (ja) 符号化装置及び方法、復号装置及び方法、並びにプログラム
JP2005006007A (ja) 画像処理装置及び画像処理方法
JP2005045588A (ja) 静止画及び動画圧縮の方法、及び装置、記憶媒体
JPH10304352A (ja) 符号化雑音除去装置および符号化雑音除去方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100607

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120131

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120221

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20120516

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20120523

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120816

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20121218

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20130313

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20130321

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130614

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140128

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140226

R150 Certificate of patent or registration of utility model

Ref document number: 5490544

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R360 Written notification for declining of transfer of rights

Free format text: JAPANESE INTERMEDIATE CODE: R360

R360 Written notification for declining of transfer of rights

Free format text: JAPANESE INTERMEDIATE CODE: R360

R371 Transfer withdrawn

Free format text: JAPANESE INTERMEDIATE CODE: R371

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250