JP4545195B2 - デジタル映像のアーティファクト削減 - Google Patents

デジタル映像のアーティファクト削減 Download PDF

Info

Publication number
JP4545195B2
JP4545195B2 JP2007544478A JP2007544478A JP4545195B2 JP 4545195 B2 JP4545195 B2 JP 4545195B2 JP 2007544478 A JP2007544478 A JP 2007544478A JP 2007544478 A JP2007544478 A JP 2007544478A JP 4545195 B2 JP4545195 B2 JP 4545195B2
Authority
JP
Japan
Prior art keywords
artifact
frame
pixel value
pixel
digital video
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2007544478A
Other languages
English (en)
Other versions
JP2008522555A (ja
Inventor
シルバースタイン・アムノン・ディー
ファン・ジアン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hewlett Packard Development Co LP
Original Assignee
Hewlett Packard Development Co LP
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hewlett Packard Development Co LP filed Critical Hewlett Packard Development Co LP
Publication of JP2008522555A publication Critical patent/JP2008522555A/ja
Application granted granted Critical
Publication of JP4545195B2 publication Critical patent/JP4545195B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/77Retouching; Inpainting; Scratch removal
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/21Circuitry for suppressing or minimising disturbance, e.g. moiré or halo
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/253Picture signal generating by scanning motion picture films or slide opaques, e.g. for telecine
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20036Morphological image processing

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)
  • Picture Signal Circuits (AREA)
  • Television Systems (AREA)

Description

本発明の実施の形態は、デジタル映像のアーティファクト削減の方法及びシステムに関する。
フィルムなどの映像媒体とカメラなどの映像捕捉装置を使って1つまたは複数のシーンから動画、映像、および他の画像を捕捉することができる。処理した後で映像媒体を使って、プロジェクタなどの表示装置を使用して画像を表示することにより画像を再現することができる。例えばほこりやひっかき傷によって引き起こされるアーティファクトが映像媒体に現れることがある。アーティファクトは、映像媒体の画像の表示に望ましくない形の影響を及ぼすことがある。
例えば、TechniColorカメラで捕捉されたTechniColorフィルムなどの映像媒体に、フィルムの1つまたは複数の色平面にほこりやひっかき傷の形のアーティファクトがある場合がある。TechniColorカメラの場合、画像は、各画像の赤色、緑色および青色の色平面を生成するために赤色、緑色および青色の個別のフィルムストリップを使用して捕捉される。その結果、画像をスクリーンや他の表示装置上に投影したときに、赤色、緑色または青色のどれかのフィルムストリップ上のほこりやひっかき傷が表示される場合がある。
英国特許出願公開第2356514号 米国特許第6583823号 欧州特許出願公開第0666695号 米国特許第5446501号
映像媒体上のアーティファクトは、デジタル化した映像媒体に現われる場合もある。映像媒体をデジタル形式に変換する際にアーティファクトも変換され、デジタル映像の一部になる場合がある。その結果、デジタル映像を閲覧または表示するときにアーティファクトが現れることがある。アーティファクトを有するデジタル映像の表示を改善できることが望ましい。
本発明の1つの形態は、処理システムによって実行される方法を提供する。この方法は、デジタル映像の現行フレーム内のアーティファクトと関連付けられた第1の画素値をその前のフレームと後のフレームを使用して検出し、第1のフレーム内の第1の画素値を置換値と置き換える段階を含む。
以下の詳細な説明では、説明の一部を構成し且つ本発明を実施することができる特定の実施例として示した添付図面を参照する。この点に関して、「上」、「下」、「前」、「後」、「前方」、「後方」などの向きのある用語は、説明されている図の向きに対して使用される。本発明の構成要素は、いくつかの異なる向きで配置することができるので、向きのある用語は、限定のためではなく例示のために使用される。本発明の範囲から逸脱することなく他の実施形態を利用することができ且つ構造的または論理的変更を行うことができることを理解されたい。したがって、以下の詳細な説明は、限定の意味で解釈されるべきでなく、本発明の範囲は、添付の特許請求の範囲によって定義される。
本明細書で説明するように、高品質デジタル映像を生成するためのシステム、方法およびプログラム製品が提供される。このシステム、方法およびプログラム製品は、デジタル映像の各フレームごとに、例えばほこりやひっかき傷を原因とするアーティファクトを検出し除去して高品質デジタル映像を生成しようとするものである。あるフレーム内のアーティファクトが、そのフレーム内の画素値を、その前および/または後のフレームからの画素値や他の情報と比較することによって検出される。検出した後で、そのアーティファクトは、前のフレームと後のフレームから補間された画素値あるいは前のフレームか後のフレームからの一領域と置き換えられる。その結果、デジタル映像の見掛けをよくすることができる。
図1は、デジタル映像120からアーティファクトを除去するように構成された処理システム100を示すブロック図である。処理システム100は、プロセッサ102、メモリシステム104、入出力ユニット106、およびネットワーク装置108からなる。メモリシステム104は、アーティファクト削減モジュール110、アーティファクト検出モジュール112、アーティファクト除去モジュール114、デジタル映像120、および高品質デジタル映像122を記憶するためのものである。
処理システム100は、アーティファクト削減モジュール110、アーティファクト検出モジュール112、およびアーティファクト除去モジュール114を使用してデジタル映像120から高品質デジタル映像122を生成するように構成されている。処理システム100は、任意のタイプのコンピュータシステムあるいは携帯型または非携帯型電子装置を含む。例示的なコンピュータシステムには、デスクトップ、ラップトップ、ノートブック、ワークステーションあるいはサーバコンピュータシステムがあり、電子装置の例には、デジタルカメラ、デジタルビデオカメラ、プリンタ、スキャナ、携帯電話および携帯情報端末がある。
一実施形態において、アーティファクト削減モジュール110、アーティファクト検出モジュール112およびアーティファクト除去モジュール114はそれぞれ、メモリシステム104に記憶されてプロセッサ102がアクセス可能で実行可能な命令を含む。メモリシステム104は、RAM、ハードディスクドライブ、CD−ROMドライブ、DVDドライブなどの任意の数と種類の揮発性および不揮発性記憶装置を含む。他の実施形態では、アーティファクト削減モジュール110、アーティファクト検出モジュール112およびアーティファクト除去モジュール114は、本明細書で説明する機能を実行するように構成されたハードウェア構成要素とソフトウエア構成要素の任意の組み合わせも含むことができる。
処理システム100のユーザは、入出力ユニット106を使用して入力を提供し出力を受け取ることによって、アーティファクト削減モジュール110、アーティファクト検出モジュール112およびアーティファクト除去モジュール114の動作を管理し制御することができる。入出力ユニット106は、処理システム100に直接または間接に結合されたキーボード、マウス、表示装置、または他の入出力ユニットの任意の組み合わせを含むことができる。
アーティファクト削減モジュール110、アーティファクト検出モジュール112、アーティファクト除去モジュール114およびデジタル映像120はそれぞれ、処理システム100に記憶される前に処理システム100と別の媒体(図示せず)に記憶されてもよい。そのような媒体の例には、ハードディスクドライブ、コンパクトディスク(例えば、CD−ROM、CD−R、CD−RW)、およびデジタルビデオディスク(例えば、DVD、DVD−R、DVD−RW)がある。処理システム100は、ネットワーク装置108を使用して、媒体を含むリモート処理または記憶システム(図示せず)からアーティファクト削減モジュール110、アーティファクト検出モジュール112、アーティファクト除去モジュール114、およびデジタル映像120にアクセスすることができる。ネットワーク装置108は、任意のタイプの有線または無線のローカルエリア通信ネットワーク、広域通信ネットワークまたは大域通信ネットワークに直接または間接に結合されてもよい。
デジタル映像120は、複数のデジタルフレームを含む。各フレームは、画像を生成するために別々に表示されてもよく、映像(すなわち、動いているように見える1組の画像)を生成するために連続(例えば、24または30フレーム/秒)に表示されてもよい。デジタル映像120は、シーンが1組の関連フレームからなる1つまたは複数のシーンを含むことがある。一実施形態において、デジタル映像120は、各フレームが、赤画素値を有する赤色平面、青画素値を有する青色平面、および緑画素値を有する緑色平面を有するRGB色空間からなる。赤画素値、緑画素値および青画素値は、デジタル映像120の表示中に組み合わされてデジタル映像120の画像が再現される。他の実施形態では、各フレームは、他の組の色平面を含むこともでき、各色ごとの画素値を組み合わせることもできる。
デジタル映像120は、別の媒体(例えば、フィルム)からの映像や他の1組の画像から生成されてもよく、カメラや他の画像捕捉装置から直接生成されてもよい。例えば、TechniColorカメラを使用して捕捉されたTechniColorフィルムは、スキャニングプロセスを使用してデジタル映像120に変換される。他の実施形態では、デジタル映像120は、単一の画像フレームを含んでもよく、関連のない1組の画像フレームを含んでもよい。
図2は、アーティファクト206を有しデジタル映像120を生成する映像媒体200を示すブロック図である。映像媒体200は、各フレームが赤色平面204R、緑色平面204Gおよび青色平面204B(すなわち、色平面204)を有する連続した一連のフレーム202を含む。一実施形態では、映像媒体200は、TechniColorフィルムを含む。他の実施形態では、映像媒体200は、他のタイプのフィルムまたは媒体を含む。
図2に示した例において、フレーム(n)202と青色平面(n)204Bは、アーティファクト206を含み、ここで、nは、フレームの順序を示す整数である。アーティファクト206は、ほこりまたはひっかき傷によって引き起こされる収差などの映像媒体200における任意の種類の収差であり、この収差は、映像媒体200の1つまたは複数の画像の表示に望ましくない形態、形状または色を引き起こす。映像媒体200は、各フレーム202と各色平面204が0個以上のアーティファクト206を含むように任意数のアーティファクト206を含むことがある。
図3は、矢印302で示したような映像媒体200からデジタル映像120を生成するプロセスを示すブロック図である。映像媒体200をデジタル映像120に変換するプロセスにおいて、アーティファクト206および他の任意のアーティファクト(図示せず)が、デジタル映像120の1つまたは複数のフレームまたは色平面にアーティファクト304として再現される。
図1を再び参照すると、処理システム100は、アーティファクト削減モジュール110、アーティファクト検出モジュール112およびアーティファクト除去モジュール114を実行してデジタル映像120から高品質デジタル映像122を生成する。これを行う際に、アーティファクト削減モジュール110、アーティファクト検出モジュール112、およびアーティファクト除去モジュール114は、デジタル映像120からアーティファクト304や他のアーティファクト(図示せず)を除去して高品質デジタル映像122を生成しようとする。
次に、図4を参照して、アーティファクト検出モジュール112の動作を説明する。図4は、デジタル映像120からアーティファクトを検出する方法を示すフローチャートである。この方法は、デジタル映像120の各フレームごとにアーティファクト削減モジュール110とアーティファクト検出モジュール112を使用する処理システム100によって実行することができる。
図4において、処理システム100は、ブロック402に示したように、アーティファクト検出モジュール112を実行して1組のフレームにアクセスする。図5に示したように、この1組のフレームは、少なくとも現行フレーム(n)502A、前のフレーム(n−1)502Bおよび後のフレーム(n+1)502Cを含み、ここで、nは、デジタル映像120の連続した一連のフレーム502のうちの1つのフレーム502を指定する整数である。一実施形態では、各フレーム502は、個別の赤色平面、緑色平面および青色平面を含むが、他の実施形態では、各フレーム502は、他の個別の色平面または混合した色平面を含んでもよい。
処理システム100は、ブロック404に示したように、必要に応じてアーティファクト検出モジュール112を実行して1組のフレームの動き補正を行う。より詳細には、処理システム100は、アーティファクト検出モジュール112を実行して、前のフレーム502Bと後のフレーム502Cをフレーム502Aに対して別々に動き補正する。映像捕捉装置および/またはシーン内の1つまたは複数の対象物がフレーム間で動く場合があるので、アーティファクト検出モジュール112は、動きの差を計算してフレーム間の動きの大きさの推定値を測定することができる。フレーム間の動きの差が比較的小さい場合、アーティファクト検出モジュール112は動き補正の実行を省略する。フレーム間の動きの差が比較的大きい場合、アーティファクト検出モジュール112は、アフィン変換を使用してフレームを整合させる。アフィン変換後にフレーム間の動きの差が比較的大きい場合、アーティファクト検出モジュール112は、マルチゾーン位置合わせ方式(multi−zone registration scheme)を利用してフレームを整合させる。他の実施形態では、ブロック404の機能が全く省略されてもよい。
次に、フレーム502A内の現行画素値が、前のフレーム502Bと後のフレーム502C内の対応する画素値と大きく異なるかどうかを判定する3つの実施形態を説明する。これらの実施形態において、フレームtの位置x,yにおける色画素はP=(r,g,b)(x,y,t)で表わされ、以下の説明では位置x,yを省略する。用語
Figure 0004545195
は、フレームtの位置x,yにおける画素の3つの色(r,g,b)を表わす。変数DSx,yは二値変数であり、ここで、値1は潜在的アーティファクト画素を示し、すなわち値1は、フレーム502A内の現行画素値が前のフレーム502Bと後のフレーム502C内の対応する画素値と大きく異なることを示す。
第1の実施形態において、フレーム502A内の各画素について、処理システム100は、色平面cの次のような距離値
Figure 0004545195
を計算し
Figure 0004545195
であるかどうか判定することにより、ブロック406に示したように、前のフレーム502Bと後のフレーム502C内の対応する画素値がほぼ同じ値であるかどうかを判定する。ここで、tはしきい値である。この条件を満たす場合、処理システム100は、次の条件
Figure 0004545195
を確認することによって、ブロック408に示したように、フレーム502A内の現行画素値が前のフレーム502Bと後のフレーム502C内の対応する画素値と大きく異なるかどうか判定する。ここで、tは別のしきい値である。上記条件が1色でしか満たされない場合、その画素は、アーティファクト画素候補としてフラグが立てられる。
第2の実施形態では、処理システム100は、アーティファクト検出モジュール112を実行して、6つの距離値|r−rt−1|,|g−gt−1|,|b−bt−1|,|r−rt+1|,|g−gt+1|および|b−bt+1|を計算することによって、フレーム502A内の現行画素値が前のフレーム502Bと後のフレーム502C内の対応する画素値と大きく異なるかどうかを判定する。この画素は、下記条件を満たす場合にアーティファクト画素候補としてフラグが立てられる。
Figure 0004545195
ここで、tHとtLはそれぞれ高しきい値と低しきい値である。
tL<tHの場合は、DSの色平面に対応する最大1つの色が上記条件を満たすことができる。証明として、指数i1およびi2を有する2つの色が条件を満たすと仮定すると、次の関係が成り立つ。
Figure 0004545195
Figure 0004545195
これは、次のように他の条件と矛盾する、
Figure 0004545195
第3の実施形態では、処理システム100は、アーティファクト検出モジュール112を実行して、次の距離測定値
Figure 0004545195
を定義し、次の6つの距離
Figure 0004545195
Figure 0004545195
Figure 0004545195
Figure 0004545195
Figure 0004545195
Figure 0004545195
を計算することによって、フレーム502A内の現行画素値が前のフレーム502Bと後のフレーム502C内の対応する画素値と大きく異なるかどうかを判定する。6つの距離のうちの最小距離
Figure 0004545195
を求めた後で、下記条件を満たす場合に、その画素は、アーティファクト画素候補としてフラグが立てられる。
Figure 0004545195
ここで、tHは一定しきい値であり、kは範囲(0,1]の実数である。パラメータtHとkは、検出率とフォールスアラーム(false alarm)(すなわち、アーティファクト画素として間違って識別される画素)の両方を制御する。tHの値が低いほど、検出率とフォールスアラーム率が高くなる可能性がある。kの値が高いほど、検出率とフォールスアラーム率が高くなる可能性がある。
これらの3つの実施形態は、アーティファクト検出率とフォールスアラーム率の高い順になっている。例えば、前述の第2の実施形態は、前述の第1の実施形態よりも多くのアーティファクト画素とフォールスアラームを検出することができる。
現行画素が候補としてフラグを立てられない場合、その現行画素は、図6に示されブロック410に示されたように、アーティファクトマスク602に追加されない。他の状況では、処理システム100は、更に、ブロック412に示したように、フレーム502A内の現行画素値がアーティファクトの色範囲内にあるどうかを判定する。ほこりやひっかき傷などのアーティファクトは、通常、画素色を異常に明るくするか異常に暗くする。従って、処理システム100は、アーティファクト検出モジュール112を実行して、現行画素の色が1つまたは複数の既知のアーティファクトの範囲内にあるかどうかを判定する。
フレーム502A内の現行画素値がアーティファクトの色範囲内にない場合は、ブロック410に示したように、現行画素はアーティファクトマスク602に追加されない。現行画素値がアーティファクトの色範囲内にない場合、画素値はアーティファクトを含まない可能性が最も高い。
フレーム502A内の現行画素値がアーティファクトの色範囲内にある場合、処理システム100は、ブロック414に示したように、アーティファクト検出モジュール112を実行してアーティファクトマスク602内の画素を識別する。図6は、アーティファクトマスク602を示すブロック図である。アーティファクトマスク602は1組の識別子604を含み、各識別子604は、アーティファクトを含む可能性のあるフレーム502A内の画素と関連付けられ、図6に示した実施形態では、各識別子604は、識別する画素と空間的に対応する。他の実施形態では、他のタイプの識別子を使用することができる。
前のフレーム502Bと後のフレーム502C内の対応する画素値がほぼ同じでないとブロック406で判定された場合は、ブロック416に示したように現行画素が非時間的マスク(non−temporal mask)に追加される。図7は、非時間的マスク702を示すブロック図である。非時間的マスク702は1組の識別子704を含み、各識別子704は、フレーム502A内の、その前のフレーム502B内または後のフレーム502C内の対応する画素と時間的に関連しない画素と関連付けられる。図7に示した実施形態では、各識別子704は、識別する画素と空間的に対応し、他の実施形態では、他のタイプの識別子を使用することができる。
処理システム100は、ブロック418に示したように、フレーム502A内の現行画素値が、アーティファクトの色範囲内にあるかどうか判定する。フレーム502A内の現行画素値がアーティファクトの色範囲内にない場合、ブロック410に示したように、現行画素はアーティファクトマスク602に追加されない。
フレーム502A内の現行画素値がアーティファクトの色範囲内にある場合、処理システム100は、ブロック420に示したように、現行画素の色がフレーム502A内の近くにあるかどうか判定する。処理システム100は、アーティファクト検出モジュール112を実行して画素の色の一致を探す。フレーム502A内の近傍画素との色の一致は、画素が、画像の所望部分である可能性が最も高くアーティファクトではないことを示す。一実施形態では、処理システム100は、アーティファクト検出モジュール112を実行して、フレーム502A内の現行画素の隣りの画素を螺旋状の順序で探す。他の実施形態では、処理システム100は、アーティファクト検出モジュール112を実行してフレーム502A内の近傍画素を他の方法で探す。
現行画素の色がフレーム502A内の近くにある場合、ブロック410に示したように、現行画素はアーティファクトマスク602に追加されない。現行画素の色がフレーム502A内の近くにない場合、処理システム100は、ブロック414に示したように、アーティファクト検出モジュール112を実行してアーティファクトマスク602内の画素を識別する。
フレーム502Aの各画素に上記機能を実行した後で、処理システム100は、ブロック422に示したように、アーティファクト領域が既知のアーティファクトのサイズの範囲内にあるどうかを判定する。アーティファクト領域とは、アーティファクトマスク602内の識別子604を含む領域のことである。一実施形態では、処理システム100は、アーティファクト検出モジュール112を実行して、一連の形態学的拡張及び侵食を行って図8に示したような第2のアーティファクトマスク802を生成する。
アーティファクト領域が既知のアーティファクトのサイズの範囲内にない場合、処理システム100は、ブロック424に示したように、アーティファクト検出モジュール112を実行してアーティファクトマスク602からその領域を除去する。アーティファクトマスク802において、アーティファクトマスク802を図6のアーティファクトマスク602と比較すると分かるように、小さすぎる領域は除去される。その結果、アーティファクトマスク802は、残りの識別子604を含む。アーティファクトマスク602内の大きすぎる領域(図示せず)も除去される。
アーティファクト領域が既知のアーティファクトのサイズの範囲内にある場合、その領域はアーティファクトマスク802に残る。
一実施形態では、上記のように1つまたは複数のアーティファクトを検出した後、処理システム100は、アーティファクト除去モジュール114を実行して、図9に示した方法または図10に示した方法を使用してアーティファクトを除去する。
図9は、デジタル映像120からアーティファクトを除去する方法を示すフローチャートである。この方法は、処理システム100が、デジタル映像120の各フレーム502内の各画素ごとにアーティファクト除去モジュール114を使用することにより実行することができる。
フレーム502A内の各画素に関して、処理システム100は、ブロック902に示したように、アーティファクト除去モジュール114を使用して画素がアーティファクトと関連付けられているかどうか判定する。アーティファクト除去モジュール114は、この判定を、画素と関連付けられたアーティファクトマスク602内の位置を調べることにより行う。この位置は、アーティファクトマスク802がその画素と関連付けられた識別子604を含む場合、すなわちその画素と関連付けられた識別子604がアーティファクト領域の一部である場合に、その画素がアーティファクトと関連付けられていることを示す。画素がアーティファクトと関連付けられていない場合、アーティファクト除去モジュール114は、ブロック904に示したように、その画素と関連付けられた画素値を置き換えない。
画素がアーティファクトと関連付けられている場合は、アーティファクト除去モジュール114が、ブロック906に示したように、その画素が非時間的マスク702によって識別されているかどうか判定する。その画素が非時間的マスク702によって識別されていない場合、アーティファクト除去モジュール114は、ブロック908に示したように、その画素の画素値を、前のフレーム502Bと後のフレーム502Cから補間した値と置き換える。一実施形態では、アーティファクト除去モジュール114は、前のフレーム502Bと後のフレーム502Cからアーティファクト画素に対応する画素値の線形回帰を求め、その線形回帰から推定値を利用して補間値を計算することによって補間値を計算する。別の実施形態では、アーティファクト除去モジュール114は、フレーム502A内の画素に対応する前のフレーム502Bと後のフレーム502C内の画素値の平均をとることによって補間値を計算する。他の実施形態では、アーティファクト除去モジュール114は、補間値を他の方法で計算し、計算の際には前のフレーム502Bの前のフレーム(図示せず)および/または後のフレーム502Cの後のフレーム(図示せず)から対応する画素を使用することができる。
画素が非時間的マスク702によって識別された場合は、アーティファクト除去モジュール114は、ブロック910に示したように、その画素の画素値をフレーム502A内の画素値からの補間値と置き換える。一実施形態では、アーティファクト除去モジュール114は、アーティファクト画素に対応する他の色平面から画素値の線形回帰を求め、その線形回帰からの推定値を利用して補間値を計算することによって補間値を計算する。他の実施形態では、アーティファクト除去モジュール114は、補間値を他の方法で計算する。
図10は、デジタル映像120からアーティファクト領域を除去する方法を示すフローチャートである。この方法は、処理システム100が、1つまたは複数のアーティファクト領域を有するデジタル映像120の各フレーム502ごとにアーティファクト削減モジュール110とアーティファクト除去モジュール114を使用することによって実行することができる。
図10では、処理システム100は、ブロック1002に示したように、アーティファクト除去モジュール114を実行して、前のフレーム502Bと後のフレーム502Cのブロックマッチングを実行する。アーティファクト除去モジュール114は、アーティファクトマスク802を使用してアーティファクト領域を識別する。アーティファクト除去モジュール114は、必要に応じて動き補正技術を使用して前のフレーム502Bと後のフレーム502Cを調べて、それぞれ前のフレーム502Bと後のフレーム502Cとアーティファクト領域も含まないフレーム(n)502Aとの最も近い一致を見つける。
処理システム100は、ブロック1004に示したように、アーティファクト除去モジュール114を実行して、フレーム502A内の各アーティファクト領域をそれと対応し前のフレーム502Bかまたは後のフレーム502Cからの領域と置き換える。図11は、デジタル映像120のフレーム502A内にアーティファクト304を含むアーティファクト領域1102を置き換えるプロセスを示すブロック図である。前のフレーム502Bがフレーム502Aと最も一致する場合、アーティファクト除去モジュール114は、フレーム502A内のアーティファクト領域602を前のフレーム502Bからの領域1104と置き換える。後のフレーム502Cがフレーム502Aと最も一致する場合、アーティファクト除去モジュール114は、フレーム502A内のアーティファクト領域602を後のフレーム502Cからの領域1106と置き換える。他のアーティファクト領域(図示せず)も同様に置き換えられる。
前述のシステムおよび方法を使用することにより、デジタル映像を得る映像媒体に存在するようなデジタル映像内のアーティファクトを除去することができる。従って、デジタル映像の表示を高品質化することができる。
本明細書に特定の実施形態を例示し説明したが、当業者は、示し説明した特定の実施形態に本発明の範囲を逸脱することなく様々な代替および/または等価な実施態様を代用できることを理解されよう。本願は、本明細書で述べた特定の実施形態の任意の適応例または変形例を範囲に含むように意図されている。したがって、本発明は特許請求の範囲とその等価物によってのみ限定されるものである。
本発明の一実施形態によるデジタル映像からアーティファクトを取り出すように構成された処理システムを示すブロック図である。 本発明の一実施形態によるアーティファクトを有する映像媒体を示すブロック図である。 本発明の一実施形態によるアーティファクトを有する映像媒体からデジタル映像を生成するプロセスを示すブロック図である。 本発明の一実施形態によるデジタル映像からアーティファクトを検出する方法を示すフローチャートである。 本発明の実施例によるデジタル映像からアーティファクトを検出するプロセスを示すブロック図である。 本発明の一実施形態によるアーティファクトマスクを示すブロック図である。 本発明の一実施形態による非時間的マスク(non−temporal mask)を示すブロック図である。 本発明の一実施形態により除去された特定領域を有するアーティファクトマスクを示すブロック図である。 本発明の一実施形態によるデジタル映像からアーティファクトを取り出す方法を示すフローチャートである。 本発明の一実施形態によるデジタル映像からアーティファクト領域を除去する方法を示すフローチャートである。 本発明の一実施形態によるデジタル映像のフレーム内のアーティファクトを有する領域を置き換えるプロセスを示すブロック図である。
符号の説明
100・・・処理システム
102・・・プロセッサ
104・・・メモリシステム
106・・・入出力
108・・・ネットワーク装置
110・・・アーティファクト削減モジュール
112・・・アーティファクト検出モジュール
114・・・アーティファクト除去モジュール
120・・・デジタル映像
122・・・高品質デジタル映像
200・・・映像媒体
202・・・フレーム(n−1)
・・・フレーム(n)
・・・フレーム(n+1)
204R・・・赤色平面(n)
204G・・・緑色平面(n)
204B・・・青色平面(n)
206・・・アーティファクト
302・・・生成プロセスを示す矢印
304・・・アーティファクト
502A・・・フレーム(n)
502B・・・フレーム(n−1)
502C・・・フレーム(n+1)
602・・・アーティファクトマスク
604・・・識別子
702・・・非時間的マスク
704・・・識別子
802・・・アーティファクトマスク
1104・・・アーティファクト領域
1106・・・領域
1108・・・領域

Claims (10)

  1. 処理システム(100)によって実行される方法であって、
    デジタル映像(120)の現行フレーム(502A)内のアーティファクト(304)と関連付けられた第1の画素値をその前のフレーム(502B)と後のフレーム(502C)を使用して検出する段階と、
    前記現行フレーム内の前記第1の画素値を置換値と置き換える段階と
    を含む方法。
  2. 前記第1の画素値を色の範囲と比較することによって前記現行フレーム内の前記アーティファクトと関連付けられた前記第1の画素値を検出する段階
    を更に含む請求項1に記載の方法。
  3. 前記前のフレーム内の少なくとも第2の画素値と前記後のフレーム内の第3の画素値を使用して前記置換値を補間する段階
    を更に含む請求項1に記載の方法。
  4. 前記現行フレーム、前記前のフレームおよび前記後のフレームを使用して複数の距離を計算することによって前記現行フレーム内の前記アーティファクトと関連付けられた前記第1の画素値を検出する段階
    を更に含む請求項1に記載の方法。
  5. 前記前のフレーム内の第2の画素値と前記後のフレーム内の第3の画素値を比較することによって前記現行フレーム内の前記アーティファクトと関連付けられた前記第1の画素値を検出する段階
    を更に含む請求項1に記載の方法。
  6. 前記後のフレーム内の前記第3の画素値と異なる前記前のフレーム内の前記第2の画素値に応じて非時間的マスク(702)内の第1の画素値と関連付けられた画素を識別する段階
    を更に含む請求項5に記載の方法。
  7. 前記後のフレーム内の前記第3の画素値と異なる前記前のフレーム内の前記第2の画素値に応じて前記現行フレーム内の複数の値を使用して前記置換値を補間する段階
    を更に含む請求項6に記載の方法。
  8. 前記第1の画素値の色を前記現行フレーム内の複数の画素値の色と比較することによって前記現行フレーム内の前記アーティファクトと関連付けられた前記第1の画素値を検出する段階
    を更に含む請求項5に記載の方法。
  9. システム(100)であって、
    プロセッサ(102)と、
    デジタル映像(120)とアーティファクト削減モジュール(110)を記憶するためのメモリシステム(104)とを含み、
    前記プロセッサは、前記アーティファクト削減モジュールを実行して、
    前記デジタル映像の現行フレーム(502A)内のアーティファクト(304)と関連付けられた第1の画素値をその前のフレーム(502B)と後のフレーム(502C)を使用して検出し、
    前記現行フレーム内の前記第1の画素値を置換値と置き換える
    ように構成されたシステム(100)。
  10. 前記プロセッサが、前記アーティファクト削減モジュールを実行して、
    前記現行フレーム、前記前のフレームおよび前記後のフレームを使用して複数の距離を計算し、
    前記複数の距離を使用して前記現行フレーム内の前記アーティファクトと関連付けられた前記第1の画素値を検出するように構成された
    請求項9に記載のシステム。
JP2007544478A 2004-12-01 2005-11-30 デジタル映像のアーティファクト削減 Expired - Fee Related JP4545195B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US11/000,766 US7643088B2 (en) 2004-12-01 2004-12-01 Artifact reduction in a digital video
PCT/US2005/043369 WO2006060509A1 (en) 2004-12-01 2005-11-30 Artifact reduction in a digital video

Publications (2)

Publication Number Publication Date
JP2008522555A JP2008522555A (ja) 2008-06-26
JP4545195B2 true JP4545195B2 (ja) 2010-09-15

Family

ID=35998460

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007544478A Expired - Fee Related JP4545195B2 (ja) 2004-12-01 2005-11-30 デジタル映像のアーティファクト削減

Country Status (4)

Country Link
US (1) US7643088B2 (ja)
JP (1) JP4545195B2 (ja)
CN (1) CN101069416B (ja)
WO (1) WO2006060509A1 (ja)

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7440608B2 (en) * 2005-05-31 2008-10-21 Hewlett-Packard Development Company, L.P. Method and system for detecting image defects
CN101191719A (zh) * 2006-12-01 2008-06-04 鸿富锦精密工业(深圳)有限公司 影像焦点合成系统及方法
US20080204598A1 (en) * 2006-12-11 2008-08-28 Lance Maurer Real-time film effects processing for digital video
US8208065B2 (en) * 2008-07-30 2012-06-26 Cinnafilm, Inc. Method, apparatus, and computer software for digital video scan rate conversions with minimization of artifacts
US8705887B2 (en) * 2008-08-22 2014-04-22 Weyerhaeuser Nr Company Method and apparatus for filling in or replacing image pixel data
JP5873099B2 (ja) * 2010-11-16 2016-03-01 トムソン ライセンシングThomson Licensing フィルムを自動的に修復する方法および装置
US8244061B1 (en) 2011-10-10 2012-08-14 Doug Carson & Associates, Inc. Automated detection of source-based artifacts in an information signal
US8433143B1 (en) 2012-01-04 2013-04-30 Doug Carson & Associates, Inc. Automated detection of video artifacts in an information signal
SE1250048A1 (sv) * 2012-01-24 2013-07-25 Wesdyne Sweden Ab En bildförbättringsanordning för reduktion av brus i digitala bilder
DE102016108079A1 (de) * 2016-05-02 2017-11-02 Carl Zeiss Microscopy Gmbh Artefaktreduktion bei der winkelselektiven beleuchtung
US11676252B2 (en) * 2020-01-31 2023-06-13 Unity Technologies Sf Image processing for reducing artifacts caused by removal of scene elements from images
JP7287409B2 (ja) * 2021-02-26 2023-06-06 セイコーエプソン株式会社 表示方法およびプログラム

Family Cites Families (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5063603A (en) 1989-11-06 1991-11-05 David Sarnoff Research Center, Inc. Dynamic method for recognizing objects and image processing system therefor
JPH05207337A (ja) * 1992-01-24 1993-08-13 Mitsubishi Electric Corp 適応雑音除去フィルタ
KR0151410B1 (ko) * 1992-07-03 1998-10-15 강진구 영상신호의 운동벡터 검출방법
US5436979A (en) 1992-08-21 1995-07-25 Eastman Kodak Company Process for detecting and mapping dirt on the surface of a photographic element
KR0129557B1 (ko) * 1992-10-07 1998-04-10 배순훈 움직임 보상을 이용한 동영상 신호처리기의 메모리 장치
US5446501A (en) 1992-10-22 1995-08-29 Accom, Incorporated Three-dimensional median and recursive filtering apparatus and method for video image enhancement
DE69425346D1 (de) * 1993-05-07 2000-08-31 Lg Electronics Inc Verfahren und Vorrichtung zum Umsetzen von Videoformaten
US5512956A (en) * 1994-02-04 1996-04-30 At&T Corp. Adaptive spatial-temporal postprocessing for low bit-rate coded image sequences
US6125213A (en) 1997-02-17 2000-09-26 Canon Kabushiki Kaisha Image processing method, an image processing apparatus, and a storage medium readable by a computer
US6583823B1 (en) 1997-08-01 2003-06-24 Sony Corporation Methods, apparatuses, and mediums for repairing a pixel associated with motion-picture processes
JPH11103447A (ja) * 1997-08-01 1999-04-13 Sony Corp 動画像の修復方法及び装置並びに提供媒体
US6266054B1 (en) 1997-11-05 2001-07-24 Microsoft Corporation Automated removal of narrow, elongated distortions from a digital image
US6035072A (en) 1997-12-08 2000-03-07 Read; Robert Lee Mapping defects or dirt dynamically affecting an image acquisition device
JP2000050062A (ja) 1998-07-31 2000-02-18 Minolta Co Ltd 画像入力装置
US6233364B1 (en) 1998-09-18 2001-05-15 Dainippon Screen Engineering Of America Incorporated Method and system for detecting and tagging dust and scratches in a digital image
US6578017B1 (en) 1999-02-26 2003-06-10 Information Decision Technologies, Llc Method to aid object detection in images by incorporating contextual information
US7009644B1 (en) * 1999-12-15 2006-03-07 Logitech Europe S.A. Dynamic anomalous pixel detection and correction
GB9921331D0 (en) 1999-09-09 1999-11-10 Pandora Int Ltd Film restoration system
US6683995B2 (en) 1999-12-23 2004-01-27 Eastman Kodak Company Method and apparatus for correcting large defects in digital images
US6636645B1 (en) * 2000-06-29 2003-10-21 Eastman Kodak Company Image processing method for reducing noise and blocking artifact in a digital image
JP2003023570A (ja) * 2001-07-06 2003-01-24 Sanyo Electric Co Ltd 画像データの修正方法及び画像信号処理装置
US6794608B2 (en) 2001-10-30 2004-09-21 Tri Tool Inc. Welding current control system and method
KR100564592B1 (ko) * 2003-12-11 2006-03-28 삼성전자주식회사 동영상 데이터 잡음제거방법

Also Published As

Publication number Publication date
JP2008522555A (ja) 2008-06-26
US7643088B2 (en) 2010-01-05
WO2006060509A1 (en) 2006-06-08
US20060114358A1 (en) 2006-06-01
CN101069416B (zh) 2012-07-25
CN101069416A (zh) 2007-11-07

Similar Documents

Publication Publication Date Title
JP4545195B2 (ja) デジタル映像のアーティファクト削減
JP4489120B2 (ja) デジタル映像のアーティファクト削減
US7450778B2 (en) Artifact reduction in a digital video
US9262684B2 (en) Methods of image fusion for image stabilization
EP1800260B1 (en) Correction of blotches in component images
JP4720705B2 (ja) プログラム、検出方法、及び検出装置
US20110243451A1 (en) Image processing apparatus and method, and program
CN102025959B (zh) 从低清晰度视频产生高清晰度视频的系统与方法
JP2009230759A (ja) ビデオ・ストリーム内での放置対象および除去済み対象の検出方法およびコンピュータ・プログラム、コンピュータ・システム
KR20110033801A (ko) L₁거리 척도에 기초한 국소 이미지 유사성 측정 방법
JP2004318696A (ja) 画像処理方法、画像処理装置及び画像処理プログラム
US7796827B2 (en) Face enhancement in a digital video
US20060114994A1 (en) Noise reduction in a digital video
JP3480408B2 (ja) 物体抽出システムと方法並びに物体抽出用プログラムを記憶した記憶媒体
JP4758272B2 (ja) 移動物体追跡装置及びプログラム
US7924922B2 (en) Color registration in a digital video
JP2009266169A (ja) 情報処理装置及び方法、並びにプログラム
JP6708131B2 (ja) 映像処理装置、映像処理方法及びプログラム
JP4662169B2 (ja) プログラム、検出方法、及び検出装置
JP2000350233A (ja) 動画像再生における静止画像処理方式および静止画像処理方法
JP2004302872A (ja) 画像処理装置および方法、記録媒体、並びにプログラム
JP2004030659A (ja) 物体検出プログラムを記録したコンピュータ読み取り可能な情報記録媒体

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20091117

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20100210

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20100218

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100512

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100601

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100629

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130709

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4545195

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees