JP2005509985A - イメージ領域に対する置換データ値の発生 - Google Patents

イメージ領域に対する置換データ値の発生 Download PDF

Info

Publication number
JP2005509985A
JP2005509985A JP2003546301A JP2003546301A JP2005509985A JP 2005509985 A JP2005509985 A JP 2005509985A JP 2003546301 A JP2003546301 A JP 2003546301A JP 2003546301 A JP2003546301 A JP 2003546301A JP 2005509985 A JP2005509985 A JP 2005509985A
Authority
JP
Japan
Prior art keywords
image
pixel value
new
boundary
kernels
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2003546301A
Other languages
English (en)
Inventor
トドール ジー. ジョージーブ,
ジェン−チャン チエン,
マーク ハンバーグ,
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Adobe Inc
Original Assignee
Adobe Systems Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Adobe Systems Inc filed Critical Adobe Systems Inc
Publication of JP2005509985A publication Critical patent/JP2005509985A/ja
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/20Image enhancement or restoration using local operators
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/77Retouching; Inpainting; Scratch removal
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/30Noise filtering

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Image Processing (AREA)
  • Editing Of Facsimile Originals (AREA)
  • Facsimile Image Signal Circuits (AREA)

Abstract

不所望の特徴を有するイメージが与えられると、その不所望な特徴を完全に包含する一群のピクセル(画定した領域)が指定され(100)、且つその画定した領域に対する置換データ値が発生され(115)、それにより不所望な特徴を治癒する。反復的に手順又はアルゴリズムを適用することにより選択したイメージ領域に対する置換データ値内へ境界領域内の値を伝播させることにより選択したイメージ領域を治癒し(例えば、1つ又はそれ以上のカーネルを反復的に適用する)、境界領域内の値を継続的に反復的計算内へ戻す。このような機能の1つの例は、境界における複数個の次数の連続性を有する置換データ値を発生するためにカーネルを使用する。オプションとして、治癒すべきイメージ領域に対する置換データ値を既存のデータ値とテクスチャデータ値との間の差異に基づいて発生し、それによりイメージ内に結果的に得られる治癒された領域へテクスチャ(例えば、パターン、ノイズ)成分を導入する。

Description

本出願は、例えば、境界条件を使用し及び/又はテクスチャ型データ値のサンプルを使用して欠陥ピクセルを治癒するための置換データ値の発生等のイメージ領域に対し新たなデータ値を発生することに関連するシステム及び技術を記載する。
イメージから不所望の特徴を除去するための従来の技術は、映画において使用されるようなワイヤリムーバル(wire removal)技術、カリフォルニアサンノゼのアドビシステムズインコーポレイテッドによって供給されるフォトショップ(PHOTOSHOP)等のソフトウエアアプリケーションにおいて使用されるダストアンドスクラッチ(dust and scratch)フィルタ、インペイント(inpaint)即ち塗り直し及びその他のアルゴリズムを包含している。典型的な置換ピクセルデータ発生技術においては、選択したピクセルの境界となるピクセルの値及び一次及び二次偏微分方程式(例えば、ラプラス方程式)に基づいて、イメージにおける選択したピクセルを再生させる。例えば、従来のインペイント技術は、大略、二次ラプラス方程式及び/又は異方性拡散に基づいている。これらの技術は、典型的に、インペイントした領域のエッジにおいて目立つ不連続性を発生する。
イメージ領域において置換データ値を発生するその他の技術は、選択した領域における各ピクセルにおいてブラーリング(blurring)即ち不鮮明化又はメジアン計算の実施(例えば、ガウスフィルタ及びメジアンフィルタを使用して)等のエリアオペレーションの適用を包含している。エリアオペレーションのために使用されるイメージエリア又は近傍は、通常、不所望のデータ値を有する1個又はそれ以上の選択したピクセルを包含している。従って、その近傍は、不所望のピクセルデータの寄与を水没させるのに充分に大きなものである必要がある。しばしば、不所望のデータ値の効果を最小とさせるためにその近傍をどの程度の大きさとするかをユーザが特定せねばならない。例えば、周波数ドメイン分離に基づく技術は、大まかな詳細を微細な詳細から分離するフィルタにより使用される近傍寸法をユーザが特定することを必要とする。
幾つかの従来の技術は、又、欠陥ピクセル値を置換するために修正した後に、別のイメージから治癒した領域へ高周波数成分を適用する。このようなイメージの不所望な特徴を除去するための従来の技術の結果は、殆どのイメージの真の特性を反映するものではない。従来の技術を使用して充填したイメージのエリア即ち区域は、しばしば、充填した領域の境界において不連続性を有しており及び/又はぼやけて見えるか又はそうでない場合には詳細を欠如しているように見える。これらの充填したエリアは、しばしば、容易に気が付き且つ、周りのエリアにテクスチャが付けられているために、又はピクセル強度が各充填したエリアの境界において急峻に変化するために、イメージの自然な部分のように見えることはない。
1つの側面においては、境界領域における値が反復的な計算内へ連続的に戻されるように、手順又はアルゴリズムを反復的に適用することにより(例えば、1個又はそれ以上のカーネルを反復的に適用)選択したイメージに対する置換データ値内へ境界領域内の値を伝播させることにより選択したイメージ領域を治癒する。このような機能の1例は、境界において複数個の連続性次数を有する置換データ値を発生するためにカーネルを使用する。オプションとして、治癒すべきイメージ領域に対する置換データ値は、既存のデータ値とテクスチャデータ値との間の差異に基づいて発生され、それによりイメージにおける結果的に治癒される領域に対してテクスチャ(例えば、パターン、ノイズ)成分を導入する。性能を向上させるために多重解像度(mulpiresolution)処理及びタイリング(tiling)を使用することも可能である。
別の側面においては、イメージを処理する方法が、イメージにおける修正領域を取囲む境界ピクセルであって値を有しており且つ該修正領域外側に存在している境界ピクセルを決定し、且つピクセル値における変化率の割合が境界ピクセル値から新たな修正領域ピクセル値へ最小とされるように境界ピクセル値を使用して修正領域に対する新たなピクセル値を発生することを包含している。新たなピクセル値の発生は、境界ピクセル値から新たな修正領域ピクセル値へカラー及びイルミネーション(illumination)即ち照度の同様の全体的なグラデーション(gradation)を発生するために複数個のチャンネルに対して実施することが可能である。新たなピクセル値の発生は、又、複数個のカーネルを反復的に適用することにより実施することも可能である。
性能を改善するために多重解像度処理を使用することが可能である。イメージが損失性圧縮技術を使用して保存したイメージである場合には(例えば、JPEGイメージ)、このことを検知することが可能であり且つ修正領域は、自動的に、圧縮ブロック間の1個又はそれ以上の圧縮アーチファクト(artifact)即ち人工的効果領域と等しく設定することが可能である。
別の側面においては、イメージを処理する方法が、イメージの少なくとも一部に対応するピクセル値からテクスチャピクセル値を減算し、該テクスチャを減算したピクセル値を使用して該イメージの修正領域に対する新たなピクセル値を発生し、該新たなピクセル値に対してテクスチャピクセル値を付加し、且つ該テクスチャを付加した新たなピクセル値を該イメージへ書込むことを包含している。テクスチャピクセル値は、高周波数成分又は繰り返しの又は繰り返しでないパターンを有するテクスチャイメージからのピクセル値とすることが可能である。新たなピクセル値の発生は、カーネルを反復的に適用することにより実施することが可能である。
新たなピクセル値の発生は、境界ピクセル値から新たな修正領域ピクセル値へピクセル値における連続的な変化率を発生するために複数個のカーネルを反復的に適用することにより実施することが可能である。新たなピクセル値の発生は、イメージの最も低い解像度バージョンから開始して、メージの複数個の解像度において複数個のカーネルを反復的に適用することにより実施することが可能である。各カーネルは、最も小さなカーネルから開始してからイメージの複数個の分解能に対して別々に適用することが可能である。複数個のカーネルの最も大きなカーネルを受付けるためにタイル間のパディング(padding)を包含するイメージタイリングを使用することが可能である。
より高い精度値表現への変換(例えば、固定点値表現)は、複数個のカーネルを適用する前に実施することが可能である。1つのレベルにおいて複数個のカーネルを適用する前に、各イメージをブラー(blur)即ち不鮮明化(ぼかし)処理することが可能である。これらの技術は複数個のチャンネルイメージを処理するために使用することが可能である。
ここに記載するシステム及び技術の実現例は、ハードウエア、ソフトウエア、又は両者の結合で発生することが可能であり、且つマシンをして説明した動作を実施させるためのマシン命令を包含することが可能である。
以下の利点のうちの1つ又はそれ以上を提供することが可能である。記載するシステム及び技術は、不所望の特徴を有するイメージ領域の著しく改善した治癒を与えることが可能である。これらのシステム及び技術を使用して治癒されたイメージは、治癒した領域内側から治癒した領域外側への滑らかな遷移を有することが可能である。カラーイメージにおける複数個のチャンネルに対して適用された場合に、結果的に得られるイメージは選択した領域の境界にわたってカラー及びイルミネーション即ち照度の同様の全体的なグラデーションを有することが可能である。テクスチャ成分を治癒した領域へ付加することが可能であり、その周囲とブレンドすることを可能とし、それにより治癒した領域が視覚的に気が付かないものとさせる。
更に、これらのシステム及び技術は、処理時間を減少させることが可能であり、且つメモリの使用を減少させることが可能である。例えば、既存のデータ値とテクスチャデータ値との間の差異に基づいて置換データ値を発生することは、処理時間を半分だけ減少させることが可能である。治癒すべきピクセル、且つ、オプションとして、対応するテクスチャイメージを指定すること以外に、フィルタパラメータが必要とされることはない。何故ならば、治癒領域の形状をイメージを治癒するのに必要な全ての残りのパラメータを決定するために使用することが可能だからである。
ここに記載するシステム及び技術は、イメージ領域に対する新たなデータ値を発生することに関連している。これらの新たなデータ値は、境界ピクセル値を使用し及び/又はテクスチャ型データ値のサンプルを使用することにより発生される。これらの新たなデータ値は、イメージを治癒するためにイメージ領域内に書込むことが可能であり、又は更なる処理のための入力として使用することが可能である。「テクスチャ」及び「テクスチャ型」という用語は、小規模及び大規模なパターン、秩序正しい及び/又は繰り返しのパターン、及び無秩序な及び/又は繰り返しでないパターンの両方を包含している。「治癒」という用語は、所望の変化を発生させるためのイメージの修正のことを意味しており、且つ通常、イメージの不所望な特徴を除去することの概念を包含している。更に、以下の説明は、しばしば、有限の組のピクセルデータ値(例えば、RGB(赤、緑、青)カラーシステムにおいて使用されるようなピクセルデジタルイメージ当たり24ビット)からなるイメージである離散的なイメージの文脈におけるイメージ治癒について説明するが、その他のデータビット対ピクセルスキーム及びその他のカラースペースを包含するその他の文脈においても同様に適用可能である。
不所望なイメージ特徴の例は、イメージキャプチャ又は格納処理(例えば、スクラッチ、ダスト、JPEG(ジョインフォトグラフィックエクスパーツグループ圧縮技術)圧縮アーチファクト即ち人工的効果、又は基礎となる抽象的イメージに対応することのないその他の不完全性)、及びイメージにおける不所望な要素(例えば、特別効果ショットにおけるワイヤ、グラフィティ、又は基礎となる抽象的画像の何等かのその他の不所望な特徴)を介して発生するアーチファクト即ち人工的効果を包含している。説明する本システム及び技術は、イメージの比較的大きな要素を除去又は変更するために使用することが可能であり、それにより小さなアーチファクトを除去するためのツールに加えてクリエイティブなツールとして機能する。
以下の説明において、種々のオペレーション即ち動作を、イメージ又はイメージの一部に関し実施又はそれに対して適用されるものとして説明する。一般的に、これらのオペレーションは、イメージ又はイメージの一部に直接的に実施することが可能であり、又は該イメージ又はイメージ部分の1つ又はそれ以上のコピーに関して実施することが可能である。ある条件下において、イメージ又はイメージ部分の1つ又はそれ以上のコピーを作成し、次いでイメージ処理オペレーションを直接的にオリジナルのイメージに対してではなくそれらのコピーに対して適用することにより性能上の利点が得られる場合がある。処理を「イメージ」について説明する場合に、この処理は、オリジナルのイメージ、オリジナルのイメージの一部、オリジナルのイメージのコピー、オリジナルのイメージの一部のコピー、オリジナルのイメージのコピーの一部、又はこれらのうちのいずれかの付加的なコピー/一部に対して実施することが可能である。「イメージコピー」に関して処理を説明する場合に、この処理は、代替的に、オリジナルのイメージに対して実施することが可能である。
図1はイメージ領域を取囲むデータ値を使用してイメージの1つの領域に対し新たなデータ値を発生するプロセスを示している。本プロセスは、治癒すべきイメージ領域を画定する情報を得ることにより開始する(100)。治癒すべき領域は、アプリケーションに依存して多数の異なる態様で識別することが可能である。例えば、ソフトウエアプログラムのユーザは、イメージの上にマスクをペイントするためにブラシツールを使用することが可能であり、それにより領域を画定する。ブラシツールは、明確に画定したエッジを有することが可能であり、又は、それは密度関数を表わす場合がある(例えば、ブラシはファジィ又は羽根状端部を有する場合がある)、又は、ユーザはマスクを指定することが可能である(例えば、フォトショップ(商標)ソフトウエアにおけるもののような選択ツールを使用)。
一方、治癒すべき領域は自動的に識別することが可能である。例えば、アーチファクト又はその他の不所望な特徴を識別するためにイメージに関して特徴認識又は統計的解析を実施することが可能である。大規模エッジをイメージにおいて検知することが可能であり、又は、そのイメージが紙文書を表わす場合には、それは、典型的に、キャラクタ及び/又はグラフィックのみを包含するものであるが、プログラムがキャラクタでもなくグラフィックでもないイメージの境界を画定する領域に対しそのイメージをスキャンすることが可能である。そのイメージがJPEGイメージである場合には、各JPEGブロックの2ピクセル境界を治癒すべき領域として自動的に識別することが可能である。
マスク又は治癒すべき修正領域を画定するその他の情報が得られると、その修正領域に対する境界領域が決定される(105)。該境界領域は、修正領域を取囲む1組のピクセルであり、且つ修正領域から以下に説明するように新たなピクセルデータ値の発生をサポートするのに充分離れた外側へ延在する。例えば、該境界領域は、修正領域を取囲む2ピクセル深さの帯とすることが可能である。
これに続いて、オプションとして、高周波数をカットオフし且つ境界領域におけるノイズにより発生される偶発的なデータ勾配を減少させることによりより良くエッジを保存するためにブラー(blur)を(オリジナルイメージのコピーしたバージョンに対して)適用することが可能である(110)。次いで、境界領域からのデータ値を使用して修正領域に対して新たなピクセルデータ値を発生する(115)。修正領域に対する新たなピクセルデータ値は、修正領域に書込まれた場合に、結果的に得られるイメージが連続的な値を有し且つ境界における値において連続的な変化を有するようなものである。このことは、修正領域におけるピクセルに対して境界ピクセルデータ値から新たなピクセルデータ値へ、ピクセルデータ値における変化率に加えて、ピクセルデータ値における変化率の割合を最小とすることにより修正領域に対して達成される。換言すると、ピクセルデータ値における変化の勾配は境界を横断して連続的であり、それにより各修正領域のエッジを滑らかなものとさせる。
例えば、RGBイメージのようなマルチチャンネル離散的イメージの場合には、境界におけるピクセルデータ値においての滑らかさは、3つのチャンネル全てに対して形成することが可能であり、従って新たなピクセルデータ値が修正領域内に書込まれた場合に修正領域の境界にわたってカラー及びイルミネーション即ち照度の同様の全体的なグラデーションが得られる。結果的に得られるイメージは修正領域の境界において顕著により滑らかである。以下の説明は、単一チャンネルの場合についてのみ説明するが、以下に説明するシステム及び技術はマルチチャンネルイメージに対しても同様に適用可能である。更に、これらのシステム及び技術は、別々に又は同時的に複数個のカラースペースと共に使用することが可能である。例えば、イメージを別のカラースペース内へ変換することが可能であり(例えば、RGBイメージをLUV又はYUVカラースペースへ変換することが可能である)、その他のカラースペースにおいて治癒し、次いで逆変換することが可能である。
この境界における滑らかさは、境界において二次を超える連続性を形成することにより改善することが可能である。このプロセスは、数学的に、連続的な関数及び関数の連続的な微分により理解することが可能である。より詳細に説明すると、基礎となる抽象的なイメージは数学的にイメージ関数として表わすことが可能である。同様に、修正領域+境界領域に対応するイメージの一部もイメージ関数として表わすことが可能である。新たなピクセルデータ値は、イメージの修正領域内に配置された場合に、修正領域+境界領域に対応する結果的に得られるイメージ関数が連続的であり、その関数の第一微分が連続的であり且つ1つ又はそれ以上のより高い微分(二次、三次等)が連続的であるように発生される。換言すると、新たなピクセル値は、境界におけるピクセル値のみならず、2個又はそれ以上のピクセル幅である境界領域におけるピクセル値の複数個のより高い次数の偏微分に依存し、それにより境界において増加された滑らかさを発生する。
新たなピクセルデータ値の発生に続いてこれらのデータ値を治癒すべきイメージの修正領域内に書込むことが可能であり(120)、又は更なる画像処理のための入力として使用することが可能である。
図2Aは性能を向上させるためにオプションとして使用することが可能な多重分解能処理及びイメージタイリングを使用してイメージの1つの領域に対する新たなピクセルデータ値を発生するための例示的なプロセスを示している。多重分解能処理は、イメージの複数個の異なる分解能を発生し、次いで最終結果に収束するまで1つの処理レベルから次の下方のレベルへ情報をパスして各異なるレベルを相次いで処理(最も低い分解能から最も高い分解能へ)することが関与する。
このプロセスは、イメージの修正領域を画定する選択マスクを得ることにより開始する(200)。選択マスクは、上述した如く、手作業により又は自動的に得ることが可能である。選択マスクは、イメージのどのピクセルが修正されるべく選択されているかを識別し、従って、どのピクセルが治癒されるべき領域内に包含されているかを識別する。
次いで、選択マスクを使用して選択した修正領域に対し境界領域を決定する(202)。次いで、境界領域と修正領域とを包含するイメージの一部をコピーする(204)。境界領域及び修正領域の寸法に依存して、コピーした部分は、全体的なイメージ又はそのサブセットを包含する場合がある。例えば、境界領域(即ち、バウンディングボックス)を包含する最も小さな矩形を構築することが可能であり、且つこの最も小さな矩形内のデータ値が次いでコピーされる。
次いで、イメージ及び選択マスクのより低い解像度バージョンのピラミッドが作成される(206)。該ピラミッドにおける各より高いレベルは前のレベルよりも解像度において2×2倍だけより小さいものとすることが可能である。イメージ及び選択マスクの両方が再サンプルされてより低い解像度バージョンの2個のピラミッド(イメージピラミッドとマスクピラミッド)を作成する。
各ピラミッドに対して、処理がトップ(最も低い解像度)レベルにおいて開始する。現在のレベルのイメージはより高い精度値表現へ変換される(210)。例えば、現在のレベルのイメージが8ビット又は16ビットのイメージのいずれかである場合(例えば、RGBイメージ)、16ビットより大きな値の表現が使用される(例えば、32ビット固定点表現、32ビット不動小数点表現、32ビット整数表現等)。ピクセルデータ値のより高い精度値表現を使用することにより、ピクセル値の通常の量よりより小さいピクセル値における変化を取扱うことが可能である。図6に関連して更に説明するように、負の数も取扱うことが可能である。エッジをより良く保存するために、変換直前にオプションのブラーを適用することも可能である。
次に、現在のレベルのイメージが予め定めた最大寸法より大きいか否かを決定するためのチェックが行われる(212)。そうでない場合には、制御が現在のレベル(215)を修正するための画定されたプロセスへ通過し、そのことはそのレベルにおけるマスクに基づいて現在のレベルにおける選択されたピクセルに対する新たなピクセルデータ値を発生する。例えば、図2Bに示したプロセスを画定したプロセスとして使用することが可能である(215)。
そうでない場合には、現在のレベルのイメージが予め定めた最大寸法より大きい場合には、タイリングが使用される。イメージ及びマスクをタイルに分解する(250)。イメージタイルの各々は、隣接する区域からサンプルするためのパディングを包含しているが、マスクタイルはパディングを有するものではない。タイルは、イメージ及びマスク内の境界定義、又はイメージ及びマスクからのデータの別のコピーとすることが可能である。イメージをタイルに分解することによって、任意的に大きな寸法のイメージを処理することが可能である。
タイリングに続いて、現在のイメージレベルに対するタイルの全てを画定されたプロセス(215)を使用してループスルー(loop through)させ(即ち、予め定めた順番を使用して逐次的に処理し)(252)、各イメージタイルを修正する。このことは、タイルを画定したプロセス(215)で処理する前に、修正領域の一部をそのタイルが包含することの各タイルに対しての初期的なチェックが関与する場合がある。タイルの全てが処理されると、該タイルについての付加的なループスルーが必要であるかを決定するためのチェックが行われる。このチェックは、イメージの解析(即ち、収束テスト)及び/又はイメージ全体が処理された回数のカウントが関与する場合がある。更に、イメージをタイルに分解し且つタイルをループスルーすることは、各タイルがイメージから分解されるや否や(例えば、処理のためにバッファ内にロードされる)処理されるように結合させることが可能である。一方、タイルによってその隣りのタイルに対して供給されるパディング用ピクセルが変化したか否かをアルゴリズムがチェックすることが可能であり、且つこれらの隣りのタイルは、それらが変化した場合にはワークリストへ付加することが可能であり、そのことはイメージの殆どが既に収束している場合に(丸めの問題を考慮に入れ)タイルの全てを巡回することの必要性を開始する。
以下に説明するようにカーネルを使用する反復的処理の場合には、小さなカーネルの適用は、非常に大きなカーネルを適用することと同様の効果を有しており、従って、タイルの間で大量のパディングを必要とする場合がある。タイルを介しての複数個のループを実施することにより、タイルの間での大量のパディングに対するこのような必要性を除去することが可能である。典型的に、タイルの全てを介しての2回又は3回のループのみで反復的タイル処理のトレースを取除くのに充分である。
然しながら、異なるタイプの不所望の特徴は、タイルを介しての異なる数のループとなる場合がある。例えば、JPEGイメージから圧縮アーチファクトを除去するためにここで説明したプロセスを使用する場合に、タイルを介しての小数のループのみが必要とされる場合がある。更に、イメージ内の検知された大規模なエッジに関してこのプロセスを使用する場合に、損傷を減少させるために治癒を異なる態様で適用する場合がある。
タイルを介してのその後のループ期間中に、性能を改善するために種々のプロセス要素が異なって機能する場合がある。例えば、タイルを介しての各その後のループはタイルを介してのルーピングの異なる順番が関与する場合がある(例えば、ループ間における90度の回転(第一ループが左から右及び上から下であり、第二ループが上から下及び右から左である等)又はループ間における180度の回転)。
タイルを介してのループの全てが実施され且つ現在のイメージのレベルが完全に修正されると、現在のレベルはより高い精度値からピクセルデータ格納スキーム用の適宜の値へ変換される(例えば、8ビットピクセル値)(260)。基本レベルに到達していない場合には(208)、次のレベルの処理が進行する。現在のレベルのイメージはピラミッドにおける次のより低いレベルへリサイズ即ち寸法変更される(262)。例えば、現在のレベルのイメージは再サンプリングによってリサイズすることが可能であり、且つ選択した領域内のデータはリサイズされた現在のレベルのイメージから処理されるべき次のレベルへコピーされる。
基本レベルに到達すると、選択した領域に対する新たに発生されたピクセルデータ値をオリジナルイメージの修正領域内に書き戻すことが可能である(265)。図2Aに示し且つ上述した多重解像度(又はマルチスケール)の処理は、最終的な置換データ値が発生される速度が改善することが可能である。イメージのより低い解像度のバージョンは、迅速に安定性に到達する。何故ならば、治癒すべきピクセルが殆ど存在せず且つ選択された領域は比較的小さいからである。イメージのより高い解像度のバージョンは迅速に安定性に到達する。何故ならば、それらは、前のレベルに関し発生されたデータを使用し、従って既に治癒されている場合の近くから開始するからである。ピラミッドのより低いレベルにおいての反復は、次のレベルへのダウンサンプリングにおいて失われる場合のある詳細を埋める。
図3Aは、図2Aのプロセスを例示した、イメージ、イメージの一部、イメージのピラミッド、イメージタイルの斜視図である。イメージ300は識別された修正領域310を包含しており、それは選択マスク(不図示)により特定することが可能である。識別された領域310を包含するイメージ300の一部を、例えばイメージ305を画定するために識別した領域と境界領域とを包含するバウンディングボックスを決定することにより識別される。
次に、例えば基本レベル320、4分の1面積イメージ322、16分の1面積イメージ324、64分の1面積イメージ326等のイメージ305のより低い解像度バージョンからなるピラミッド318を構築する。次いで、このピラミッド318をトップレベル326からボトムレベル320へ処理し、各レベルにおける結果を、次のより低いレベルの処理を行う前に、次のより低いレベルへ再サンプリングする。
イメージバージョン320,322,324,326のうちのいずれかが最大寸法より大きい場合には、そのイメージバージョンはパディングを有するタイルへ分解される。例えば、図3Aにおいて、イメージバージョン320(ピラミッド318の基本レベルを表わす)が隣接するタイルに共通するオーバーラップ領域であるパディング332を具備する4個のタイル330へ分解される。次いで、各タイルを別個のイメージとして処理する。
使用されるパディング332の量は、典型的に、適用されるべきカーネルの寸法に依存する。例えば、パディング332は、適用されるべき現在のカーネルに対して必要とされる量とすることが可能であり、又は適用されるべき最大のカーネルに対して必要とされるパディングの量とすることが可能である(例えば、タイルに関して使用されるべき最大のカーネルが7×7である場合には、各タイル周りに3個のピクセルからなるパディングが必要とされる)。カーネル及びそれらの種々の寸法の適用については更に以下に説明する。
図2Bはそのレベルにおけるイメージ領域を取囲むピクセルデータ値を使用して1つのレベルにおけるイメージの1つの領域に対して新たなピクセルデータ値を発生する例示的なプロセスを示している。図2Bのプロセスは、図2Aからの画定したプロセス215として使用することが可能である。このプロセスは、処理されるべき現在のピクセルをイメージの開始に設定することにより開始する(230)。次いで、現在のピクセルが選択されたか否か(即ち、修正領域の一部)を決定するためのチェックが行われる(235)。例えば、現在のピクセルに対応する値が非ゼロであるか否かを決定するために選択マスクをチェックすることが可能である。
現在のピクセルが選択されたピクセルである場合には、1個又はそれ以上のカーネルを該イメージに対して適用して現在のピクセルを修正する(250)。典型的に、1つのカーネルが、多分、該イメージにわたって適用される。次いで、又は、現在のピクセルが選択されていない場合には、次のピクセルが現在のピクセルとなる(240)。該イメージの終わりに到達するまで継続してピクセルをチェックし且つ処理する(245)。
該イメージの終わりに到達すると、安定性の状態に到達したか否かのチェックが行われる(255)。そうでない場合には、現在のピクセルが該イメージの始めにセットされ且つ該イメージが再処理される。安定性に到達している場合には、該処理が終了する。
該イメージにおける安定性の決定は、ピクセルデータ値における最近の変化を解析することにより達成される(丸め誤差に対する可能性を考慮に入れることは完全なる収束を防止する)。例えば、該イメージを介しての各パスにおいて最大のピクセル変化量を追跡することが可能である。該イメージを介しての完全なパスに対する最大ピクセル変化量がスレッシュホールドより降下すると、相対的安定性の状態に到達している。
代替的に、多分、異なるオリエンテーション(即ち、該イメージを介しての各パスに対してピクセルに対する異なる順番)を使用して該イメージを設定した回数処理する。例えば、該イメージを100回乃至数百回にわたり完全にループ処理することが可能である。又は、カウンタ及び安定性解析の結合を与えることが可能である。
図3Bは、図2Bに例示した、イメージ350、カーネルエリア355、イメージ360の一部、カーネルシャドウ365内に包含される1組のイメージピクセル、及びイメージマスク370の一部の斜視図である。イメージ350は矩形状に配列されたピクセルを包含している。これらのピクセルは左から右及び上から下へ逐次的に処理することが可能である。イメージを介しての各パスに対して異なるオリエンテーションを使用して処理する場合には、該イメージを介しての各完全なパスに対し該イメージを実効的に90度(又は180度)回転させる。
図2Bのプロセスは所定位置にあるイメージを修正するイメージでのカーネルの反復的コンボリューション即ち畳込みを表わしている。カーネル355が現在のピクセルに適用され且つ現在のピクセルの値及び周りのピクセルデータ値に基づいて現在のピクセルデータを修正する。例えば、イメージ部分360は複数個のピクセルを包含しており且つイメージ350の一部である。イメージ部分360は対応するイメージマスク部分370を有している。現在のピクセルはイメージマスク部分370において対応するマスク位置375を有している。マスク位置375が1の値を包含している場合には、現在のピクセルが選択され、且つカーネル355が適用される。
カーネル355は現在のピクセルと周りのピクセルとに基づいて現在のピクセルデータ値を変化させる数学的オペレーション即ち演算を表わしている。カーネルにより包含される周りのピクセルの数は、そのカーネルの寸法及びその定数に依存する。例えば、カーネル355は3×3の寸法を有しており且つK1,K2,K3,K4,K5,K6,K7,K8,K9を有している。カーネル355が現在のピクセルに適用される場合には、カーネルシャドウ365がイメージ部分360上に画定され、且つこのカーネルシャドウ365からのピクセルデータ値V1,V2,V3,V4,V5,V6,V7,V8,V9が次式に従って現在のピクセルに対する新たなピクセルデータ値の計算において使用される。
カーネル定数K1,K2,K3,K4,K5,K6,K7,K8,K9のうちの1つ又はそれ以上がゼロである場合がある。従って、現在のピクセルにおける変化に影響を与える特定の周りのピクセルは、カーネルの寸法とカーネルにおける定数の両方に依存する。
多くの異なるカーネルを使用して新たなピクセルデータ値を発生することが可能であり、それは選択した領域の境界において連続的な値及び連続的な値の変化となる。更に、複数個のカーネルを使用して新たなピクセルデータ値を発生することが可能であり、それは選択した領域の境界において複数個の次数の連続性となる。
例えば、カーネルは、それらの反復的適用が、従来のラプラス方程式よりも一層高い次数のラプラス型方程式に対する解となるように選択することが可能である。従って、各チャンネルは与えられた境界条件を有するラプラス方程式の1つの解とすることが可能であり、
尚、Δはラプラス演算子、即ち
である。その解は境界において連続的であるが滑らかなものではない。四次方程式は、
とすることが可能であり、尚Δ2=Δ・Δ(即ち、ラプラシアンの平方)。その解は、境界におけるピクセルのみならず、境界におけるピクセルの変化率(偏微分)にも依存する。従って、勾配の内側と外側とが同じである。このことはより高いレベルの滑らかさを達成する。八次方程式は、
とすることが可能である。その解は、境界における更により高い偏微分に依存し、且つ境界外側からテクスチャを境界内側の置換データ値内へ持ち込むことを助ける。このことは、高次項が維持される場合のテーラー級数展開と考えることが可能である。
上述したプロセスは、又、性能を改善するために再構成することが可能である。例えば、図2Bを参照すると、全体的に複数個のカーネルを使用することが可能であるが、250における時間において1個のみのカーネルを使用することが可能である。図2Bのプロセスは、最初に、より低い次数のカーネル(例えば、二次方程式を反復的に解くためのカーネル)を使用して実施することが可能であり、そのことは、通常、安定性を達成するのに殆ど反復をとることはない。次いで、この最初のパスの結果を開始点として使用して、図2Bのプロセスをより高い次数のカーネル(例えば、四次方程式を反復的に解くためのカーネル)を使用して再度実施することが可能である。この2番目のパスの後に、更により高い次数のカーネル(例えば、八次方程式を反復的に解くためのカーネル)を使用することが可能である。各より高い次数の解は、又、該より低い次数の方程式の解であるが、全ての低次解が同時に高次解ではない。然しながら、解は殆ど異なることがない傾向となり、従って上述したマルチ繰り返しアプローチは収束を著しく高速化させることが可能である。
図4は、図2A及び2Bのプロセスにおいて使用することが可能な4個のカーネルの例示である。調和カーネル450は、示したようなカーネル定数及びカーネル除数を有している。調和カーネルはラプラス方程式の解である調和関数を発生する。二重調和カーネル460は示したようなカーネル定数及びカーネル除数を有している。三重カーネル470は示したようなカーネル定数及びカーネル除数を有している。四重カーネル480は示したようなカーネル定数及びカーネル除数を有している。
その他のカーネルも可能である。例えば、選択されるカーネルは、ここで説明する一般的なアプローチ、即ち、選択した領域を取囲む境界領域における値が継続的に計算に戻されてこれらの値が選択した領域に対する置換データ値内へ伝播することが許容される関数の反復的適用に従って機能するために特に差分値を維持することを目標とすることは必要ではない。選択したピクセルの初期値を計算において使用することが可能であるが、これらの初期的な寄与は、選択したピクセルに対する新たな値の反復的再計算に戻される境界ピクセルの値で反復的に供給される反復的プロセスを介して著しく最小化される。
この反復的イメージ治癒アプローチに加えて、治癒プロセスに関連してテクスチャプロセスを使用してテクスチャデータを治癒した領域へ付加することが可能であり、そのことは上に説明した反復的イメージ治癒アプローチが関与する場合がある。図5はサンプルテクスチャを表わす1組のデータ値を使用してイメージ領域に対する新たなデータ値を発生するプロセスを示している。このプロセスは、治癒すべきイメージ領域(修正領域)を画定する情報及びテクスチャイメージを識別する位置を得ることにより開始する(500)。例えば、ソフトウエアプログラムのユーザは、修正領域を特定することが可能であり、且つ同一の画像か又は別の画像のいずれかにおいてイメージテクスチャデータを得るための位置を特定することが可能である。この位置は、修正領域に対するブラシ適用の最初の点と相関させることが可能であり、それにより修正領域に対応するテクスチャの区域であるテクスチャイメージを間接的に特定する(即ち、ユーザはテクスチャイメージ及びテクスチャイメージと治癒すべきターゲットイメージとの間の対応を指定する)。代替的に、ユーザは修正領域を特定し、次いで、この領域の輪郭イメージを同一のイメージにおける別の位置又はテクスチャの区域を特定するための別のイメージの上へ移動させることが可能である。
次いで、識別した位置を取囲む区域からのテクスチャデータ値を修正領域から及び修正領域を取囲む境界領域から減算する(505)。これに続いて、修正領域に対して置換データ値を発生する(510)。これらの置換データ値は、次いで、テクスチャデータ値を修正領域内へ付加して戻すことにより変化させる(515)。最後に、修正領域におけるデータ値をイメージ内に書込み、それによりイメージを治癒する(520)。
例えば、治癒すべきイメージのコピーを作ることが可能である。次いで、修正領域に拘わらずにテクスチャデータを減算することによりイメージ全体のコピーを変化させる。次いで、そのイメージを僅かにブラー処理して極端な高周波数ノイズを除去する。イメージコピー内において新たなデータ値を発生する。テクスチャデータを付加して戻すことにより修正領域を包含してイメージ全体のコピーを変化させる。次いで、修正領域における新たなデータ値をイメージコピーからオリジナルイメージへコピーし且つイメージコピーを廃棄する。
テクスチャデータは高周波数データ、ノイズ又はパターン化したデータとすることが可能である。これらの種々のオプションについて以下に更に説明する。オリジナルデータとテクスチャデータとの間の差異を使用して置換データ値を発生することにより、データ発生計算を二度行うことの必要性なしに、種々のテクスチャ、パターン及び/又はノイズを発生した置換データ値へ付加することが可能である。従って、ターゲットイメージi、テクスチャイメージt、マスクM及び、
SmoothHeal(A,M)+SmoothHeal(B,M)=SmoothHeal(A+B,M)
の特性を有する治癒プロセスSmoothHeal(イメージ、マスク)の場合に、テクスチャ型治癒プロセスは、
を実現することにより達成することが可能であり、それはより計算的に高価な、
の代わりに行うことが可能なものである。式(5)は、通常、治癒プロセスにおいて符号付きの値をサポートすることを必要とし、そのことは、上述した如く固定点数への変換、浮動小数点数への変換を使用して、又は治癒する前の値へオフセットを適用し且つ後にオフセットを減算することにより達成することが可能である。新たなデータ値を発生するために使用する技術は、従来の技術又は図1,2A,2B,3A,3B,4に関連して上に説明した技術とすることが可能である。
図6は図1及び5のプロセスと図2Aの多重解像度処理とを結合した例示的なプロセスを示している。図示し且つ説明したプロセスに加えて、図6のプロセスは、又、図2A及び2Bのタイミング及び/又はカーネル適用プロセスと結合することが可能である。図6を参照すると、このプロセスは、修正すべきイメージ又は別のイメージ内へのユーザが識別した座標が受取られる場合に開始する(600)。この座標はテクスチャの位置を特定する。次いで、ユーザが識別した修正領域が受取られる(605)。従って、治癒すべきターゲットイメージを包含する同一のイメージの一部とすることが可能なテクスチャイメージ、及び該テクスチャイメージとターゲットイメージとの間の対応を識別する情報が受取られる。
次いで、修正領域に対する境界領域が識別される(610)。境界領域の寸法は、新たなピクセルデータを発生するために使用する技術に依存する。例えば、図4の4個のカーネルを使用する上述した技術が使用される場合には、境界領域は修正領域の周りの各方向において4個のピクセルが延在する。
次に、修正すべきイメージの一部がコピーされ且つより高い精度値(例えば、32ビット固定点値)へ変換される(615)。一方、ここでコピーが行われると、より高い精度表現への変換は、以下に説明する各現在のレベルに対する新たなデータ値の発生前に行われる。イメージ全体のピラミッドの代わりに現在のレベルのみを高精度へ変換することは高精度バッファ空間を節約する。
コピーされたイメージのイメージ部分は境界領域と修正領域とを包含しており且つこれらの領域の寸法に依存してイメージ全体となる場合がある。次いで、テクスチャデータをイメージ部分から減算する(620)。使用するテクスチャデータは、ユーザが識別した座標をユーザが識別した修正領域内の最初の点と相関させることにより決定される。例えば、修正領域がブラシツールを使用して識別される場合には、ブラシツールの最初の座標は(mx0,my0)であり、且つテクスチャの位置を識別する座標は(px0,py0)であり、各修正領域データ座標(mxi,myi)に対するテクスチャデータ座標(pxi,pyi)は次式により与えられる。
更に、上述した如く、テクスチャの位置、従って減算されたテクスチャデータ値は、修正すべきイメージ以外のイメージから得ることが可能である。
これに続いて、イメージ部分をより低い解像度イメージの複数個のレベルへリサイズし、且つ現在のレベルが最も小さい(最も低い解像度)レベルへ設定される(625)。次いで、現在のイメージレベルにおいて、修正領域に対する境界条件を使用して識別した領域に対する新たなデータ値を発生し、それは境界において連続的な値であり且つ連続的な値の変化となる(635)。
これに続いて、付加的なレベルが処理されるべく残っているか否かのチェックが行われる(645)。レベルが残っている場合には、現在のレベルのイメージの修正領域が再サンプルされてより低いレベルのイメージの修正領域を充填し、それは、次いで、処理を継続する前に現在のレベルとなる(650)。一方、現在のレベルのイメージはより大きなより低いレベルのイメージとマッチすべくリサイズすることが可能であり、次いでリサイズしたイメージの修正領域におけるデータ値をより低いレベルのイメージの修正領域内にコピーすることが可能である。
更に、各イメージレベルに対する新たなデータ値の発生前に、現在のイメージレベルを僅かにブラー処理することが可能である。例えば、正弦フィルタ、異方性ブラー又はガウシアンブラー(0.5ピクセル半径)を適用することが可能である。一方、図2Bのプロセス及び図4のカーネルが使用されている場合には、最も高い次数のカーネルを現在のレベルのイメージ全体(現在のレベルのマスクを無視し)に対して数回(例えば、現在のレベルのイメージ全体にわたり4個のループ)適用してこの僅かなブラー即ちぼかし処理を実施することが可能である。前処理ブラーは非常に高い周波数のノイズを除去し且つ結果的に得られる治癒したイメージにおける小さなカラーのアーチファクト即ち人工的効果を防止することに貢献することが可能である。
全てのレベルが処理されると、テクスチャデータがイメージ部分における修正領域へ付加される(655)。前のように、使用したテクスチャデータは、ユーザが識別した座標をユーザが識別した修正領域内の最初の点と相関させることにより決定される。次いで、イメージ部分の修正領域における新たなピクセルデータがオリジナルデータタイプへ変換され且つオリジナルイメージ内に保存される(660)。
図7A,7B,7C,7Dは図6のプロセスを使用して修正したイメージの例示である。図7Aを参照すると、図6のプロセスに従ってイメージ705の修正を可能とするためにイメージ705がグラフィカルユーザインターフェース700の一部として提供されている。イメージ705はグラフィティ710を包含しており、それは、この例においては、イメージの不所望の特徴である。
図7Bを参照すると、スタンプツール720を使用して、テクスチャデータに対するソース座標725を特定する。次いで、例えばブラシツールを使用することにより修正領域730を識別することによりグラフィティ710の一部を除去すべく特定する。ソース座標725と修正領域730を識別する最初の点との間の相関が行われる。この例においては、テクスチャデータは大規模テクスチャであり、従って領域730とソース座標725との間の適切な関係が重要である。典型的に、この関係は、ユーザによって識別され、ユーザはテクスチャのどの区域が識別すべき領域730において存在すべきテクスチャのタイプと最も良く近似するかを決定することが可能である。このような最良の近似が存在しない場合には、ユーザは、又、高周波数ノイズデータを包含する別個のイメージ内に存在するソース座標725を特定することが可能である。
領域730が識別されると、領域730の境界735が決定される。領域730が密度関数を表わすブラシツールを使用して特定した場合には(例えば、それはファジィ又は羽根型エッジを有している)、境界735は、領域730の密度を無視して、領域730の外側の限界に設定することが可能である。置換データ値を発生すると、イメージ705におけるデータを置換データ値と置換させる場合に密度関数を適用することが可能である。例えば、置換データ値をある係数を有するイメージ705内のデータと混合させることが可能である。線形の場合には、マスク密度がオリジナルのイメージの値と治癒した値との間を補間する補間値に対してマッピングされる。マスク密度に基づいてオリジナルのイメージの値と治癒した値とを混合するためのより洗練した技術を使用することも可能である。
次に、図7Cを参照すると、領域730は治癒されている。テクスチャデータに対する新たなソース座標745がスタンプツール720を使用して特定されている。グラフィティ710の新たな部分が新たな修正領域750の識別によって除去すべく特定されている。新たなソース座標745と修正領域750を識別する最初の点との間の相関が行われる。
次に、図7Dを参照すると、グラフィカルユーザインターフェース700におけるイメージ705は完全に治癒されている。イメージ705におけるグラフィティは図6のプロセスを使用して除去されている。グラフィティは単一の修正領域を画定することにより除去することも可能である。然しながら、グラフィティはテクスチャの変化する区域にわたり存在していたので、グラフィティの2つの異なる区域に対して異なるテクスチャデータを特定することによりより良い結果を得ることが可能であった。従って、反復的な態様で図6のプロセスを使用することにより、ユーザは大きな不所望の特徴を有するイメージの木目細かな治癒を実施することが可能である。
ここに説明したシステム及び技術の種々の具体例はデジタル電子回路、修正回路、特別に設計したASIC(応用特定集積回路)において、又、コンピュータハードウエア、ファームウエア、ソフトウエア、又はそれらの結合において実現することが可能である。
図1,2A,2B,5,6に示した論理の流れはそこに示した特定の順番を必要とするものではない。ある具体例においては、マルチタスキング及び並列処理が好ましい場合がある。従って、その他の実施例が特許請求の範囲内に包含される場合がある。
イメージ領域を取囲むデータ値を使用してイメージの領域に対する新たなデータ値を発生するプロセスを示したフローチャート。 多重解像度処理及びイメージタイリングを使用してイメージの領域に対する新たなピクセルデータ値を発生する例示的なプロセスを示したフローチャート。 1つのレベルにおいてイメージ領域を取囲むピクセルデータ値を使用してそのレベルにおけるイメージの領域に対する新たなピクセルデータ値を発生するための例示的なプロセスを示したフローチャート。 図2Aのプロセスを例示したイメージ、イメージの一部、イメージのピラミッド、イメージタイルの斜視図。 図2Bのプロセスを例示したイメージ、カーネル区域、イメージの一部、1組のイメージピクセル及びイメージマスクの一部の斜視図。 図2A及び2Bのプロセスにおいて使用することが可能な4個のカーネルの説明図。 サンプルテクスチャを表わす1組のデータ値を使用してイメージの1つの領域に対する新たなデータ値を発生するプロセスを示したフローチャート。 図1及び5のプロセスと図2Aの多重解像度処理とを結合した例示的なプロセスを示したフローチャート。 図6のプロセスを使用してイメージを修正する場合の説明図。 図6のプロセスを使用してイメージを修正する場合の説明図。 図6のプロセスを使用してイメージを修正する場合の説明図。 図6のプロセスを使用してイメージを修正する場合の説明図。

Claims (36)

  1. イメージの修正領域に対する新たなデータを発生するためのマシンにより実現される方法において、
    イメージ内の修正領域を取囲む境界ピクセルを決定し、前記境界ピクセルは値を有しており且つ前記修正領域の外側にあり、
    前記境界ピクセル値から新たな修正領域ピクセル値へピクセル値における変化率の割合が最小であるように前記境界ピクセル値を使用して前記修正領域に対する新たなピクセル値を発生する、
    ことを包含している方法。
  2. 請求項1において、新たなピクセル値を発生する場合に、前記境界ピクセル値から新たな修正領域ピクセル値へカラー及び照度の同様の全体的なグラデーションを作成するために複数個のチャンネルに対する新たなピクセル値を発生する方法。
  3. 請求項1において、前記イメージがオリジナルの解像度を有しており、本方法が、更に、
    オリジナル解像度のイメージをより低い解像度のイメージへリサイズし、
    ピクセル値における変化率の割合が前記より低い解像度境界ピクセル値からより低い解像度の新たな修正領域ピクセル値へ最小であるようにより低い解像度を境界ピクセル値を使用してより低い解像度の修正領域に対するより低い解像度の新たなピクセル値を発生し、前記より低い解像度の修正領域は前記オリジナル解像度イメージの修正領域に対応しており、且つ前記より低い解像度の境界ピクセルは前記オリジナル解像度イメージの境界ピクセルに対応しており、
    前記オリジナル解像度イメージの修正領域に対して新たなピクセル値を発生する前に前記オリジナル解像度イメージの修正領域を充填するために前記より低い解像度の新たなピクセル値を再サンプルする、
    ことを包含している方法。
  4. 請求項1において、新たなピクセル値を発生する場合に、反復的に複数個のカーネルを適用する方法。
  5. 請求項4において、前記複数個のカーネルの各々が離散化ラプラス演算子を有している方法。
  6. 請求項4において、イメージにおける境界ピクセルを決定する場合に、前記修正領域及び適用すべきカーネルに基づいて前記境界ピクセルを決定する方法。
  7. 請求項1において、前記イメージが損失性圧縮技術を使用して保存されている場合に、前記修正領域が圧縮ブロック間において1個又はそれ以上の圧縮アーチファクト領域を有している方法。
  8. 請求項7において、前記損失性圧縮技術がジョイントフォトグラフィックエクスパーツグループ圧縮技術を有している方法。
  9. 請求項1において、前記イメージがオリジナルイメージのイメージコピーを有しており、本方法が、更に、前記オリジナルイメージ内に前記新たなピクセル値を書込むことを包含している方法。
  10. 1つ又はそれ以上のマシンをして演算を実施させる命令を表わす情報を表わすマシンによって読取可能な媒体において、
    イメージ内の修正領域を取囲む境界ピクセルを決定し、前記境界ピクセルは値を有しており且つ前記修正領域の外側にあり、
    ピクセル値における変化率の割合が前記境界ピクセル値から新たな修正領域ピクセル値へ最小であるように前記境界ピクセル値を使用して前記修正領域に対する新たなピクセル値を発生する、
    ことを包含しているマシンによって読取可能な媒体。
  11. 請求項10において、新たなピクセル値を発生する場合に、前記境界ピクセル値から新たな修正領域ピクセル値へカラー及び照度の同様の全体的なグラデーションを作成するために複数個のチャンネルに対して新たなピクセル値を発生するマシンによって読取可能な媒体。
  12. 請求項10において、前記イメージがオリジナルの解像度を有しており、且つ前記演算が、更に、
    前記オリジナル解像度イメージをより低い解像度のイメージへリサイズし、
    ピクセル値における変化率の割合がより低い解像度の境界ピクセル値からより低い解像度の新たな修正領域ピクセル値へ最小であるようにより低い解像度の境界ピクセル値を使用してより低い解像度の修正領域に対するより低い解像度の新たなピクセル値を発生し、前記より低い解像度の修正領域は前記オリジナル解像度イメージの修正領域に対応しており、且つ前記より低い解像度の境界ピクセルは前記オリジナル解像度イメージの境界ピクセルに対応しており、
    前記オリジナル解像度イメージの修正領域に対する新たなピクセル値を発生する前に、前記オリジナル解像度イメージの修正領域を充填するためにより低い解像度の新たなピクセル値を再サンプルする、
    ことを包含しているマシンによって読取可能な媒体。
  13. 請求項10において、新たなピクセル値を発生する場合に、反復的に複数個のカーネルを適用するマシンによって読取可能な媒体。
  14. 請求項10において、前記イメージが損失性圧縮技術を使用して保存されている場合に、前記修正領域が圧縮ブロック間において1個又はそれ以上の圧縮アーチファクト領域を有しているマシンによって読取可能な媒体。
  15. 請求項14において、前記損失性圧縮技術がジョイントフォトグラフィックエクスパーツグループ圧縮技術を有しているマシンによって読取可能な媒体。
  16. 請求項10において、前記イメージがオリジナルイメージのイメージコピーを有しており、且つ前記演算が、更に、前記新たなピクセル値を前記オリジナルイメージ内に書込むことを包含しているマシンによって読取可能な媒体。
  17. マシンによって実現される方法において、
    イメージの少なくとも一部に対応するピクセル値からテクスチャピクセル値を減算し、
    前記テクスチャを減算したピクセル値を使用して前記イメージの修正領域に対する新たなピクセル値を発生し、
    前記新たなピクセル値へテクスチャピクセル値を付加し、
    前記テクスチャを付加した新たなピクセル値を前記イメージへ書込む、
    ことを包含している方法。
  18. 請求項17において、テクスチャピクセル値が高周波数データを有している方法。
  19. 請求項17において、テクスチャピクセル値がパターンを有している方法。
  20. 請求項17において、新たなピクセル値を発生する場合に、反復的にカーネルを適用する方法。
  21. 請求項20において、新たなピクセル値を発生する場合に、更に、境界ピクセル値から新たな修正領域ピクセル値へピクセル値における連続した変化率を発生するために反復的に複数個のカーネルを適用し、前記境界ピクセルが前記修正領域を取囲むイメージ部分内のピクセルを有している方法。
  22. 請求項21において、新たなピクセル値を発生する場合に、更に、前記イメージの最も低い解像度バージョンで開始し前記イメージの複数個の解像度における複数個のカーネルを反復的に適用する方法。
  23. 請求項22において、前記イメージの複数個の解像度における複数個のカーネルを反復的に適用する場合に、更に、最も小さなカーネルで開始して前記イメージの複数個の解像度に対して別々に各カーネルを適用する方法。
  24. 請求項23において、更に、前記複数個のカーネルを適用する前に前記イメージの各解像度バージョンを1つ又はそれ以上のタイルに分解し、2個又はそれ以上のタイルが存在する場合にパディングを与えるために前記タイルがオーバーラップし、前記パディングは前記複数個のカーネルから最も大きなカーネルを受付けるのに充分に大きなものである方法。
  25. 請求項24において、更に、
    前記複数個のカーネルを適用する前により高い精度の値表現へ変換し、
    前記複数個のカーネルを適用する前に前記イメージの各解像度バージョンをブラーリングする、
    ことを包含している方法。
  26. 請求項25において、新たなピクセル値を発生する場合に、更に、前記境界ピクセル値から新たな修正領域ピクセル値へカラー及び照度の同様の全体的なグラデーションを形成するために複数個のチャンネルに対して新たなピクセル値を発生する方法。
  27. 1個又はそれ以上のマシンをして演算を実施させるための命令を表わす情報を実現するマシンによって読取可能な媒体において、
    イメージの一部に対応するピクセル値からテクスチャピクセル値を減算し、
    前記テクスチャを減算したピクセル値を使用して前記イメージの修正領域に対する新たなピクセル値を発生し、
    前記新たなピクセル値へテクスチャピクセル値を付加し、
    前記テクスチャを付加した新たなピクセル値を前記イメージへ書込む、
    ことを包含しているマシンによって読取可能な媒体。
  28. 請求項27において、テクスチャピクセル値が高周波数データを有しているマシンによって読取可能な媒体。
  29. 請求項27において、テクスチャピクセル値がパターンを有しているマシンによって読取可能な媒体。
  30. 請求項27において、前記発生する動作が反復的にカーネルを適用することを包含しているマシンによって読取可能な媒体。
  31. 請求項30において、前記発生する動作が、更に、境界ピクセル値から新たな修正領域ピクセル値へピクセル値における連続的な変化率を発生するために複数個のカーネルを反復的に適用することを包含しており、前記境界ピクセル値が前記修正領域を取囲むイメージ部分におけるピクセルを包含しているマシンによって読取可能な媒体。
  32. 請求項31において、前記発生する動作が、更に、前記イメージの最も低い解像度バージョンから開始して前記イメージの複数個の解像度における複数個のカーネルを反復的に適用することを包含しているマシンによって読取可能な媒体。
  33. 請求項32において、前記イメージの複数個の解像度において複数個のカーネルを反復的に適用する場合に、更に、最も小さなカーネルから開始して前記イメージの複数個の解像度に対して別々に各カーネルを適用することを包含しているマシンによって読取可能な媒体。
  34. 請求項33において、前記動作が、更に、前記複数個のカーネルを適用する前に、前記イメージの各解像度バージョンを1個又はそれ以上のタイルへ分解し、2個又はそれ以上のタイルが存在する場合には前記タイルがパディングを与えるためにオーバーラップし、前記パディングが前記複数個のカーネルからの最も大きいカーネルを受付けるのに充分に大きいものであるマシンによって読取可能な媒体。
  35. 請求項34において、前記動作が、更に、
    前記複数個のカーネルを適用する前により高い精度値の表現へ変換し、
    前記複数個のカーネルを適用する前に前記イメージの各解像度バージョンをブラーリングする、
    ことを包含しているマシンによって読取可能な媒体。
  36. 請求項35において、前記発生する動作が、更に、前記境界ピクセル値から新たな修正領域ピクセル値へカラー及び照度の同様の全体的なグラデーションを発生するために複数個のチャンネルに対し新たなピクセル値を発生することを包含しているマシンによって読取可能な媒体。
JP2003546301A 2001-11-16 2002-11-13 イメージ領域に対する置換データ値の発生 Pending JP2005509985A (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US09/991,254 US6587592B2 (en) 2001-11-16 2001-11-16 Generating replacement data values for an image region
PCT/US2002/036594 WO2003044739A1 (en) 2001-11-16 2002-11-13 Generating replacement data values for an image region

Publications (1)

Publication Number Publication Date
JP2005509985A true JP2005509985A (ja) 2005-04-14

Family

ID=25537024

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003546301A Pending JP2005509985A (ja) 2001-11-16 2002-11-13 イメージ領域に対する置換データ値の発生

Country Status (4)

Country Link
US (2) US6587592B2 (ja)
EP (2) EP1459259B1 (ja)
JP (1) JP2005509985A (ja)
WO (1) WO2003044739A1 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101219661B1 (ko) 2011-05-18 2013-01-09 디아이피시스템 주식회사 디지털 사진 인화기의 사생활 보호 화면 생성 방법 및 이를 이용한 디지털 사진 인화기
US9386297B2 (en) 2012-02-24 2016-07-05 Casio Computer Co., Ltd. Image generating apparatus generating reconstructed image, method, and computer-readable recording medium

Families Citing this family (89)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6711302B1 (en) * 1999-10-20 2004-03-23 Eastman Kodak Company Method and system for altering defects in digital image
JP3753584B2 (ja) * 2000-02-15 2006-03-08 富士通株式会社 画像処理装置
JP3703754B2 (ja) * 2001-10-23 2005-10-05 富士通株式会社 描画装置および情報処理装置
US6587592B2 (en) * 2001-11-16 2003-07-01 Adobe Systems Incorporated Generating replacement data values for an image region
US7120308B2 (en) * 2001-11-26 2006-10-10 Seiko Epson Corporation Iterated de-noising for image recovery
US7260269B2 (en) * 2002-08-28 2007-08-21 Seiko Epson Corporation Image recovery using thresholding and direct linear solvers
US7277595B1 (en) * 2003-01-06 2007-10-02 Apple Inc. Method and apparatus for digital image manipulation to remove image blemishes
US7627193B2 (en) * 2003-01-16 2009-12-01 Tessera International, Inc. Camera with image enhancement functions
US6987520B2 (en) * 2003-02-24 2006-01-17 Microsoft Corporation Image region filling by exemplar-based inpainting
US7088870B2 (en) * 2003-02-24 2006-08-08 Microsoft Corporation Image region filling by example-based tiling
US7352909B2 (en) * 2003-06-02 2008-04-01 Seiko Epson Corporation Weighted overcomplete de-noising
US7468735B2 (en) * 2003-07-24 2008-12-23 Sony Corporation Transitioning between two high resolution images in a slideshow
US7336851B1 (en) * 2003-08-07 2008-02-26 Bentley Systems, Inc. Interactive tool for removal of isolated objects on raster images
US7260273B2 (en) * 2003-08-08 2007-08-21 Seiko Epson Corporation System and method of editing a digital image to remove unwanted artifacts, objects and the like
US7590305B2 (en) * 2003-09-30 2009-09-15 Fotonation Vision Limited Digital camera with built-in lens calibration table
US8369650B2 (en) 2003-09-30 2013-02-05 DigitalOptics Corporation Europe Limited Image defect map creation using batches of digital images
US7340109B2 (en) * 2003-09-30 2008-03-04 Fotonation Vision Limited Automated statistical self-calibrating detection and removal of blemishes in digital images dependent upon changes in extracted parameter values
US7315658B2 (en) * 2003-09-30 2008-01-01 Fotonation Vision Limited Digital camera
US7308156B2 (en) * 2003-09-30 2007-12-11 Fotonation Vision Limited Automated statistical self-calibrating detection and removal of blemishes in digital images based on a dust map developed from actual image data
US7310450B2 (en) * 2003-09-30 2007-12-18 Fotonation Vision Limited Method of detecting and correcting dust in digital images based on aura and shadow region analysis
US7206461B2 (en) * 2003-09-30 2007-04-17 Fotonation Vision Limited Digital image acquisition and processing system
US7369712B2 (en) * 2003-09-30 2008-05-06 Fotonation Vision Limited Automated statistical self-calibrating detection and removal of blemishes in digital images based on multiple occurrences of dust in images
US7295233B2 (en) * 2003-09-30 2007-11-13 Fotonation Vision Limited Detection and removal of blemishes in digital images utilizing original images of defocused scenes
US7424170B2 (en) * 2003-09-30 2008-09-09 Fotonation Vision Limited Automated statistical self-calibrating detection and removal of blemishes in digital images based on determining probabilities based on image analysis of single images
US7676110B2 (en) * 2003-09-30 2010-03-09 Fotonation Vision Limited Determination of need to service a camera based on detection of blemishes in digital images
US20050105817A1 (en) * 2003-11-17 2005-05-19 Guleryuz Onur G. Inter and intra band prediction of singularity coefficients using estimates based on nonlinear approximants
US20050129324A1 (en) * 2003-12-02 2005-06-16 Lemke Alan P. Digital camera and method providing selective removal and addition of an imaged object
US7705859B2 (en) * 2003-12-03 2010-04-27 Sony Corporation Transitioning between two high resolution video sources
US7012624B2 (en) * 2003-12-29 2006-03-14 Arcsoft, Inc. Texture synthesis for repairing damaged images
US7577313B1 (en) 2003-12-30 2009-08-18 Adobe Systems Incorporated Generating synthesized texture in differential space
US7558433B1 (en) 2003-12-30 2009-07-07 Adobe Systems Incorporated Healing by texture synthesis in differential space
US7773270B2 (en) * 2004-01-07 2010-08-10 Hewlett-Packard Development Company, L.P. Image scanner feature detection
US20050264833A1 (en) * 2004-03-09 2005-12-01 Seiko Epson Corporation Image retouching apparatus, corresponding image retouching method, and computer program product for image retouching
US7356193B2 (en) * 2004-04-01 2008-04-08 Eastman Kodak Company Detection of hanging wires in digital color images
KR100587143B1 (ko) * 2004-05-06 2006-06-08 매그나칩 반도체 유한회사 영상 신호의 에지 검출 방법
GB2415565B (en) * 2004-06-24 2007-10-31 Hewlett Packard Development Co Image processing
JP4507078B2 (ja) * 2004-07-21 2010-07-21 ノーリツ鋼機株式会社 自動顔画像補正方法及び装置
TWI241127B (en) * 2004-08-27 2005-10-01 Univ Nat Cheng Kung Image-capturing device and method for removing strangers
US7498961B2 (en) * 2004-09-14 2009-03-03 Hewlett-Packard Development Company, L.P. Context identification using a denoised signal
US7711204B2 (en) * 2005-05-02 2010-05-04 Samsung Electronics Co., Ltd. 1-D image restoration using a sliding window method
US7471824B1 (en) 2005-05-05 2008-12-30 Adobe Systems Incorporated Method and apparatus for deposterizing a posterized digital image
US7561727B2 (en) 2005-06-02 2009-07-14 Nordic Bioscience Imaging A/S Method of deriving a quantitative measure of a degree of calcification of an aorta
US7502521B2 (en) * 2005-06-21 2009-03-10 Microsoft Corporation Image completion with structure propagation
US9065979B2 (en) 2005-07-01 2015-06-23 The Invention Science Fund I, Llc Promotional placement in media works
US9583141B2 (en) 2005-07-01 2017-02-28 Invention Science Fund I, Llc Implementing audio substitution options in media works
US9230601B2 (en) 2005-07-01 2016-01-05 Invention Science Fund I, Llc Media markup system for content alteration in derivative works
US20080013859A1 (en) * 2005-07-01 2008-01-17 Searete Llc, A Limited Liability Corporation Of The State Of Delaware Implementation of media content alteration
US8126938B2 (en) 2005-07-01 2012-02-28 The Invention Science Fund I, Llc Group content substitution in media works
US9092928B2 (en) 2005-07-01 2015-07-28 The Invention Science Fund I, Llc Implementing group content substitution in media works
US20070266049A1 (en) * 2005-07-01 2007-11-15 Searete Llc, A Limited Liability Corportion Of The State Of Delaware Implementation of media content alteration
US20080052104A1 (en) * 2005-07-01 2008-02-28 Searete Llc Group content substitution in media works
US8126190B2 (en) 2007-01-31 2012-02-28 The Invention Science Fund I, Llc Targeted obstrufication of an image
US7643699B2 (en) * 2005-07-05 2010-01-05 Hewlett-Packard Development Company, L.P. Image processing based on local noise statistics
US7605821B1 (en) * 2005-09-29 2009-10-20 Adobe Systems Incorporated Poisson image-editing technique that matches texture contrast
WO2007095556A2 (en) 2006-02-14 2007-08-23 Fotonation Vision Limited Digital image acquisition device with built in dust and sensor mapping capability
EP1826723B1 (en) * 2006-02-28 2015-03-25 Microsoft Corporation Object-level image editing
JP2007329737A (ja) * 2006-06-08 2007-12-20 Fujifilm Corp 色変換定義作成装置および色変換定義作成プログラム
US7965767B2 (en) * 2006-06-30 2011-06-21 Intel Corporation Two-dimensional filtering architecture
WO2008004903A1 (en) * 2006-07-03 2008-01-10 Intel Corporation Method for digital inpainting without priority queue
US9053530B2 (en) 2006-11-27 2015-06-09 Google Inc. Method for sliced inpainting
US8115967B2 (en) * 2006-11-28 2012-02-14 Silverbrook Research Pty Ltd Localized signal data preservation within signal bandwidth
US20080212888A1 (en) * 2007-03-01 2008-09-04 Barinder Singh Rai Frame Region Filters
US7755645B2 (en) 2007-03-29 2010-07-13 Microsoft Corporation Object-based image inpainting
KR101379255B1 (ko) * 2007-04-06 2014-03-28 삼성전자주식회사 미분 방정식을 이용한 인트라 예측 부호화, 복호화 방법 및장치
US9215512B2 (en) 2007-04-27 2015-12-15 Invention Science Fund I, Llc Implementation of media content alteration
US7889947B2 (en) * 2007-06-27 2011-02-15 Microsoft Corporation Image completion
US8385681B2 (en) * 2008-02-11 2013-02-26 Apple Inc. Blemish removal
US8285055B1 (en) 2008-09-10 2012-10-09 Adobe Systems Incorporated Determining correspondence between image regions
US8407575B1 (en) 2008-09-10 2013-03-26 Adobe Systems Incorporated Video content summary
US8355592B1 (en) * 2009-05-06 2013-01-15 Adobe Systems Incorporated Generating a modified image with semantic constraint
US9330476B2 (en) * 2009-05-21 2016-05-03 Adobe Systems Incorporated Generating a modified image with additional content provided for a region thereof
KR101142739B1 (ko) * 2009-10-29 2012-05-03 삼성전자주식회사 검색 영역을 제한한 이미지 복원 장치 및 방법
US8571328B2 (en) 2010-08-16 2013-10-29 Adobe Systems Incorporated Determining correspondence between image regions
US8428384B2 (en) 2010-08-19 2013-04-23 Sony Corporation Method and apparatus for performing an in-painting process on an image
US8625927B2 (en) 2010-10-27 2014-01-07 Adobe Systems Incorporated Image processing using image web
FR2976388B1 (fr) * 2011-06-08 2014-01-10 Media Relief Procede de fabrication d'une image iridescente, image obtenue et dispositif la comprenant, programme associe
US8731324B1 (en) * 2012-11-02 2014-05-20 Cyberlink Corp. Systems and methods for performing image inpainting
KR101429365B1 (ko) * 2012-12-26 2014-08-13 중앙대학교 산학협력단 라플라시안 피라미드를 이용한 다중 해상도 예제 기반 인페인팅 방법 및 장치
US9600869B2 (en) 2013-03-14 2017-03-21 Cyberlink Corp. Image editing method and system
US9190016B2 (en) 2013-03-15 2015-11-17 Valspar Sourcing, Inc. Color-matching tool for virtual painting
JP6273582B2 (ja) * 2013-03-25 2018-02-07 パナソニックIpマネジメント株式会社 画像補間装置、画像処理装置および画像補間方法
US9230192B2 (en) * 2013-11-15 2016-01-05 Adobe Systems Incorporated Image classification using images with separate grayscale and color channels
US9639956B2 (en) * 2013-12-19 2017-05-02 Google Inc. Image adjustment using texture mask
US10127634B2 (en) 2015-04-08 2018-11-13 Google Llc Image editing and repair
US9679216B2 (en) 2015-05-07 2017-06-13 The United States Of America As Represented By The Secretary Of The Air Force Morphological automatic triangle orientation detection
US11170511B2 (en) * 2017-03-31 2021-11-09 Sony Semiconductor Solutions Corporation Image processing device, imaging device, and image processing method for replacing selected image area based on distance
CN111696041B (zh) * 2020-06-04 2023-06-30 北京字节跳动网络技术有限公司 图像处理方法、装置及电子设备
US11294556B1 (en) * 2021-01-05 2022-04-05 Adobe Inc. Editing digital images using multi-panel graphical user interfaces
US11823364B1 (en) * 2023-01-10 2023-11-21 Ecopia Tech Corporation Machine learning for artificial parcel data generation

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5872867A (en) * 1995-08-04 1999-02-16 Sarnoff Corporation Method and apparatus for generating image textures
US5784498A (en) * 1996-01-11 1998-07-21 Xerox Corporation System and method for synthesizing background texture in an image
US6141459A (en) * 1997-09-24 2000-10-31 Sarnoff Corporation Method and apparatus for processing image pyramid borders
US6266054B1 (en) * 1997-11-05 2001-07-24 Microsoft Corporation Automated removal of narrow, elongated distortions from a digital image
US6587592B2 (en) * 2001-11-16 2003-07-01 Adobe Systems Incorporated Generating replacement data values for an image region

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101219661B1 (ko) 2011-05-18 2013-01-09 디아이피시스템 주식회사 디지털 사진 인화기의 사생활 보호 화면 생성 방법 및 이를 이용한 디지털 사진 인화기
US9386297B2 (en) 2012-02-24 2016-07-05 Casio Computer Co., Ltd. Image generating apparatus generating reconstructed image, method, and computer-readable recording medium

Also Published As

Publication number Publication date
US20030099406A1 (en) 2003-05-29
EP1459259A4 (en) 2006-11-29
EP1459259A1 (en) 2004-09-22
US20030210828A1 (en) 2003-11-13
US6985263B2 (en) 2006-01-10
US6587592B2 (en) 2003-07-01
EP1459259B1 (en) 2014-03-12
EP1901229A2 (en) 2008-03-19
WO2003044739A1 (en) 2003-05-30
EP1901229A3 (en) 2008-10-29

Similar Documents

Publication Publication Date Title
JP2005509985A (ja) イメージ領域に対する置換データ値の発生
US8041140B1 (en) Healing by texture synthesis in differential space
Xia et al. Patch-based image vectorization with automatic curvilinear feature alignment
US11164295B2 (en) Methods and apparatus for enhancing optical images and parametric databases
US7577313B1 (en) Generating synthesized texture in differential space
Paris et al. A fast approximation of the bilateral filter using a signal processing approach
Paris A gentle introduction to bilateral filtering and its applications
US10535123B2 (en) Method for sliced inpainting
US9013499B2 (en) Methods and apparatus for multiple texture map storage and filtering including irregular texture maps
KR100891428B1 (ko) 컬러 그라디언트 생성을 위한 시스템 및 방법, 컬러 그라디언트를 용이하게 하는 보간 방법, 컬러 그라디언트를 용이하게 하는 데이터 패킷을 저장하는 컴퓨터 판독가능 기록 매체
Fedorov et al. Variational framework for non-local inpainting
Nießner et al. Analytic displacement mapping using hardware tessellation
JP4398257B2 (ja) テクスチャ・イメージが使用する空間を最適化するための方法及びプログラム
US20160180501A1 (en) Efficient lens re-distortion
JP2008512767A (ja) 一般的な2次元空間変換の表現システム及び方法
US20100226577A1 (en) Image processing apparatus and method
JP2010524332A (ja) ベクトルを使用する画像処理
Gong et al. Recoding color transfer as a color homography
Lou et al. Image perforation: Automatically accelerating image pipelines by intelligently skipping samples
US7948489B1 (en) Minimizing tessellation of surfaces
JP2005063433A (ja) デジタル画像を編集して不所望なアーチファクト及びオブジェクト等を除去するシステム及び方法
US7605821B1 (en) Poisson image-editing technique that matches texture contrast
USH2003H1 (en) Image enhancing brush using minimum curvature solution
JP2007148945A (ja) 画像修復方法
US8217936B1 (en) Minimizing tessellation of surfaces

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20051110

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20081209

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20090309

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20090316

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090408

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090630

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20090930

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20091007

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20091029

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20091106

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20100223