JP2008522508A - デジタル映像のアーティファクト削減 - Google Patents

デジタル映像のアーティファクト削減 Download PDF

Info

Publication number
JP2008522508A
JP2008522508A JP2007543608A JP2007543608A JP2008522508A JP 2008522508 A JP2008522508 A JP 2008522508A JP 2007543608 A JP2007543608 A JP 2007543608A JP 2007543608 A JP2007543608 A JP 2007543608A JP 2008522508 A JP2008522508 A JP 2008522508A
Authority
JP
Japan
Prior art keywords
frame
artifact
digital video
candidate
gradient
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2007543608A
Other languages
English (en)
Other versions
JP4489120B2 (ja
Inventor
ファン・ジーアン
シルバースタイン・ディー・アムノン
リン・キアン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hewlett Packard Development Co LP
Original Assignee
Hewlett Packard Development Co LP
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hewlett Packard Development Co LP filed Critical Hewlett Packard Development Co LP
Publication of JP2008522508A publication Critical patent/JP2008522508A/ja
Application granted granted Critical
Publication of JP4489120B2 publication Critical patent/JP4489120B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/77Retouching; Inpainting; Scratch removal
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/13Edge detection
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/21Circuitry for suppressing or minimising disturbance, e.g. moiré or halo
    • H04N5/213Circuitry for suppressing or minimising impulsive noise
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • H04N9/646Circuits for processing colour signals for image enhancement, e.g. vertical detail restoration, cross-colour elimination, contour correction, chrominance trapping filters
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Image Processing (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Image Analysis (AREA)
  • Television Systems (AREA)
  • Picture Signal Circuits (AREA)

Abstract

【課題】デジタル映像のアーティファクト削減の方法及びシステムを提供する。
【解決手段】
処理システム(100)によって実行される方法を提供する。この方法は、第1のフレーム内の識別された複数のエッジを使用してデジタル映像(120)の第1のフレーム(402)内のアーティファクト(304)を検出し、第1のフレーム内のアーティファクトを包含する領域(602)を第2のフレーム(402)からの対応する領域(606/608)と置き換えることを含む。
【選択図】図1

Description

本発明の実施の形態は、デジタル映像のアーティファクト削減の方法及びシステムに関する。
フィルムなどの映像媒体とカメラなどの映像捕捉装置を使って1つまたは複数のシーンから動画、映像、および他の画像を捕捉することができる。処理した後で映像媒体を使って、プロジェクタなどの表示装置を使用して画像を表示することにより画像を再現することができる。例えばほこりやひっかき傷により生じたアーティファクトが映像媒体に現れることがある。アーティファクトは、映像媒体の画像の表示に望ましくない形の影響を及ぼすことがある。
例えば、TechniColorカメラで捕捉されたTechniColorフィルムなどの映像媒体に、フィルムの1つまたは複数の色平面にほこりやひっかき傷の形のアーティファクトがある場合がある。TechniColorカメラの場合、画像は、各画像の赤色、緑色および青色の色平面を生成するために赤色、緑色および青色の個別のフィルムストリップを使用して捕捉される。その結果、画像をスクリーンや他の表示装置上に投影したときに、赤色、緑色または青色のどれかのフィルムストリップ上のほこりやひっかき傷が表示される場合がある。
英国特許出願公開第2356514号 SCHALLAUER P, PINZ A, HAAS W: 「Automatic Restoration Algorithms for 35mm Film」 JOURNAL OF COMPUTER VISION RESEARCH, vol. 1, no. 3, 1999, XP002382262 JOYEUX L, BOUKIR S, BESSERER B, BUISSON O: 「Reconstruction of degraded image sequence. Application to film restoration」IMAGE AND VISION COMPUTING, vol. 19, 2001, XP002382263 SONKA M他、「passage」IMAGE PROCESSING, ANALYSIS AND MACHINE VISION, 1999, XP002290472 the whole document 「Noise/Grain Reduction-Scratch/Dust Removal」HS DIGITAL SERVICE, [Online] 2004年6月7日, XP002382264 Retrieved from the Internet: URL:http://web.archive.org/web/20040607001850/http://hs-art.com/diamant/samples.html [retrieved on 2006-05-23]section 「Module 『dust』」 KUIPER A: 「Detection of Dirt Blotches on Optical Sound Tracks using Digital Image Processing」RADIOELEKTRONIKA, 2005, XP002382265 Brno
映像媒体上のアーティファクトは、デジタル化した映像媒体に現われる場合もある。映像媒体をデジタル形式に変換する際にアーティファクトも変換され、デジタル映像の一部になる場合がある。その結果、デジタル映像を閲覧または表示するときにアーティファクトが現れることがある。アーティファクトを有するデジタル映像の表示を改善できることが望ましい。
本発明の1つの形態は、処理システムによって実行される方法を提供する。この方法は、第1のフレーム内で識別された複数のエッジを使用してデジタル映像の第1のフレーム内のアーティファクトを検出し、第1のフレーム内のアーティファクトを包含する領域を第2のフレームからの対応する領域と置き換えることを含む。
以下の詳細な説明では、説明の一部を構成し且つ本発明を実施することができる特定の実施例として示した添付図面を参照する。この点に関して、「上」、「下」、「前」、「後」、「前方」、「後方」などの向きのある用語は、説明されている図の向きに対して使用される。本発明の実施形態の構成要素は、いくつかの異なる向きで配置することができるので、向きのある用語は、限定のためではなく例示のために使用される。本発明の範囲から逸脱することなく他の実施形態を利用することができ且つ構造的または論理的変更を行うことができることを理解されたい。したがって、以下の詳細な説明は、限定の意味で解釈されるべきでなく、本発明の範囲は、添付の特許請求の範囲によって定義される。
本明細書で説明するように、高品質デジタル映像を生成するためのシステム、方法およびプログラム製品が提供される。このシステム、方法およびプログラム製品は、デジタル映像の各フレームごとに、例えばほこりやひっかき傷を原因とするアーティファクトを検出し除去して高品質デジタル映像を生成しようとするものである。フレーム内のアーティファクトは、フレーム内の画素値から計算した勾配を使用して検出される。検出した後で、アーティファクトを含むブロックは、その前または後のフレームからのブロックと置き換えられる。その結果、デジタル映像の見掛けを改善することができる。
図1は、デジタル映像120からアーティファクトを除去するように構成された処理システム100を示すブロック図である。処理システム100は、プロセッサ102、メモリシステム104、入出力ユニット106、およびネットワーク装置108からなる。メモリシステム104は、アーティファクト削減モジュール110、アーティファクト検出モジュール112、アーティファクト除去モジュール114、デジタル映像120、および高品質デジタル映像122を記憶するためのものである。
処理システム100は、アーティファクト削減モジュール110、アーティファクト検出モジュール112、およびアーティファクト除去モジュール114を使用してデジタル映像120から高品質デジタル映像122を生成するように構成されている。処理システム100は、任意のタイプのコンピュータシステムあるいは携帯型または非携帯型電子装置を含む。例示的なコンピュータシステムには、デスクトップ、ラップトップ、ノートブック、ワークステーションあるいはサーバコンピュータシステムがあり、電子装置の例には、デジタルカメラ、デジタルビデオカメラ、プリンタ、スキャナ、携帯電話および携帯情報端末がある。
一実施形態において、アーティファクト削減モジュール110、アーティファクト検出モジュール112およびアーティファクト除去モジュール114はそれぞれ、メモリシステム104に記憶されてプロセッサ102がアクセス可能で実行可能な命令を含む。メモリシステム104は、RAM、ハードディスクドライブ、CD−ROMドライブ、DVDドライブなどの任意の数と種類の揮発性および不揮発性記憶装置を含む。他の実施形態では、アーティファクト削減モジュール110、アーティファクト検出モジュール112およびアーティファクト除去モジュール114は、本明細書で説明する機能を実行するように構成されたハードウェア構成要素とソフトウエア構成要素の任意の組み合わせも含むことができる。
処理システム100のユーザは、入出力ユニット106を使用して入力を提供し出力を受け取ることによって、アーティファクト削減モジュール110、アーティファクト検出モジュール112およびアーティファクト除去モジュール114の動作を管理し制御することができる。入出力ユニット106は、処理システム100に直接または間接に結合されたキーボード、マウス、表示装置、または他の入出力ユニットの任意の組み合わせを含むことができる。
アーティファクト削減モジュール110、アーティファクト検出モジュール112、アーティファクト除去モジュール114およびデジタル映像120はそれぞれ、処理システム100に記憶される前に処理システム100(図示せず)と別の媒体に記憶されてもよい。そのような媒体の例には、ハードディスクドライブ、コンパクトディスク(例えば、CD−ROM、CD−R、CD−RW)、およびデジタルビデオディスク(例えば、DVD、DVD−R、DVD−RW)がある。処理システム100は、ネットワーク装置108を使用して、媒体を含むリモート処理または記憶システム(図示せず)からアーティファクト削減モジュール110、アーティファクト検出モジュール112、アーティファクト除去モジュール114、およびデジタル映像120にアクセスすることができる。ネットワーク装置108は、任意のタイプの有線または無線のローカルエリア通信ネットワーク、広域通信ネットワークまたは大域通信ネットワークに直接または間接に結合されてもよい。
デジタル映像120は、複数のデジタルフレームを含む。各フレームは、画像を生成するために別々に表示されてもよく、映像(すなわち、動いているように見える1組の画像)を生成するために連続(例えば、24または30フレーム/秒)に表示されてもよい。デジタル映像120は、シーンが1組の関連フレームからなる1つまたは複数のシーンを含むことがある。一実施形態において、デジタル映像120は、各フレームが、赤画素値を有する赤色平面、青画素値を有する青色平面、および緑画素値を有する緑色平面を有するRGB色空間からなる。赤画素値、緑画素値および青画素値は、デジタル映像120の表示中に組み合わされてデジタル映像120の画像が再現される。他の実施形態では、各フレームは、他の組の色平面を含むこともでき、各色ごとの画素値を組み合わせることもできる。
デジタル映像120は、別の媒体(例えば、フィルム)からの他の1組の画像や映像から生成されてもよく、カメラや他の画像捕捉装置から直接生成されてもよい。例えば、TechniColorカメラを使用して捕捉されたTechniColorフィルムは、スキャニングプロセスを使用してデジタル映像120に変換される。他の実施形態では、デジタル映像120は、単一の画像フレームを含んでもよく、関連のない1組の画像フレームを含んでもよい。
図2は、アーティファクト206を有しデジタル映像120を生成する映像媒体200を示すブロック図である。映像媒体200は、各フレームが赤色平面204R、緑色平面204Gおよび青色平面204B(すなわち、色平面204)を有する連続した一連のフレーム202を含む。一実施形態では、映像媒体200は、TechniColorフィルムを含む。他の実施形態では、映像媒体200は、他のタイプのフィルムまたは媒体を含む。
図2に示した例では、フレーム(n)202と青色平面(n)204Bがそれぞれアーティファクト206を含み、ここで、nはフレームの順序を示す整数である。アーティファクト206は、ほこりまたはひっかき傷によって生じる収差などの映像媒体200における任意の種類の収差であり、この収差は、映像媒体200の1つまたは複数の画像の表示に望ましくない形態、形状または色を引き起こす。映像媒体200は、各フレーム202と各色平面204が0個以上のアーティファクト206を含むように任意数のアーティファクト206を含むことがある。
図3は、矢印302で示したような映像媒体200からデジタル映像120を生成するプロセスを示すブロック図である。映像媒体200をデジタル映像120に変換するプロセスにおいて、アーティファクト206や他の任意のアーティファクト(図示せず)が、デジタル映像120の1つまたは複数のフレームまたは色平面にアーティファクト304として再現される。
図1を再び参照すると、処理システム100は、アーティファクト削減モジュール110、アーティファクト検出モジュール112およびアーティファクト除去モジュール114を実行してデジタル映像120から高品質デジタル映像122を生成する。これを行う際に、アーティファクト検出モジュール112とアーティファクト除去モジュール114は、デジタル映像120からアーティファクト304や他のアーティファクト(図示せず)を除去して高品質デジタル映像122を生成しようとする。
図4は、デジタル映像120のフレーム(n)402のアーティファクトを検出し除去して高品質デジタル映像122を生成するプロセスを示すブロック図であり、ここでnは、連続する一連のフレーム402のうちの1つのフレーム402を指定する整数である。
図4の実施形態では、アーティファクト検出モジュール112は、デジタル映像120の各色平面ごとの勾配オペレータ(gradient operator)412、エッジ検出ユニット414、選択的スミアリングユニット416、および検証ユニット418を含む。図4に示した実施形態では、デジタル映像120は、フレーム(n)402と勾配検出装置412の間の矢印で示したような赤(R)、緑(G)および青(B)の色平面を含む。他の実施形態では、デジタル映像120は、他のタイプまたは数の色平面を含むことができる。処理システム100によって実行されたとき、アーティファクト検出モジュール112は、1つまたは複数のアーティファクトを含むアーティファクト領域を検出し、アーティファクト領域(すなわち、アーティファクト領域422)を識別する情報をアーティファクト除去モジュール114に提供する。アーティファクト除去モジュール114は、ブロックマッチングユニット424Aおよび424Bならびにベストマッチユニット426を含む。
次に、図5を参照して、アーティファクト検出モジュール112とアーティファクト除去モジュール114の動作を説明する。図5は、デジタル映像120内のフレーム(n)402のアーティファクトを検出し除去して高品質デジタル映像122を生成する方法を示すフローチャートである。この方法は、処理システム100が、デジタル映像120の各フレーム402にアーティファクト検出モジュール112とアーティファクト除去モジュール114を使用することによって実行することができる。
図4と図5を参照すると、処理システム100は、ブロック502に示したように、アーティファクト検出モジュール112を実行してデジタル映像120からのフレーム(n)402にアクセスする。処理システム100は、ブロック504に示したように、勾配オペレータ412を実行してフレーム(n)402内の各色平面の勾配を計算する。一実施形態では、勾配オペレータ412は、3x3のソーベル演算子を使用して各色平面の勾配を計算する。例えば、赤色平面(r)の勾配は、以下のような式I、IIおよびIIIを使用して計算される。
Figure 2008522508
Figure 2008522508
Figure 2008522508
ここで、r(i,j)は赤色平面内の画素値を表わし、pとqはそれぞれ式IおよびIIで計算された変数で式IIIの勾配を計算するために使用される。勾配オペレータ412は、同様に緑色平面(g)と青色平面(b)の勾配を計算する。他の実施形態では、勾配オペレータ412は、他のオペレータを使用して各色平面の勾配を計算する。
処理システム100は、エッジ検出ユニット414を実行して、ブロック506に示したように各色平面の勾配を比較して勾配を使用して飽和色エッジを検出する。そうすることによって、処理システム100は候補画素を決定する。エッジ検出ユニット414は、以下の条件
Figure 2008522508
を満たす
Figure 2008522508
の中から最大の勾配を探すことによってエッジ位置を識別する。ここで、c、c、cは、任意の順序のr、gおよびbを指し、thは、赤色平面、緑色平面および青色平面内の画素値の範囲に比例するしきい値である。例えば、16ビットデータ精度の画像ではth=k・65535である。変数kとkは、範囲(0,1]の実数である。kが小さいほど制限が厳しくなる。一実施形態では、k=0.05、k=0.5である。他の実施形態では、kとkは他の値を含む。次の勾配のうち1つが基準を満たす場合、
Figure 2008522508
その勾配と関連付けられた画素が、色タイプcの候補画素としてフラグを立てられる。
別の実施形態では、エッジ検出ユニット414が、各色平面の勾配量(gradient magnitude)をその色平面のしきい値と比較する。エッジ検出ユニット414は、しきい値より大きい勾配量をそのまま変更せず、しきい値以下の勾配量をゼロに設定する。各色平面の変更されない(すなわち、ゼロでない)勾配量は候補画素を構成する。エッジ検出ユニット414は、その色の勾配の様々な領域内の平均勾配量を計算し、そのような平均勾配量の最大値を見つけることによって色平面のしきい値を計算する。エッジ検出ユニット414は、色のしきい値を、最大しきい値まで最大平均勾配量に比例するように設定する。エッジ検出ユニット414は、各色平面のしきい値を個別に計算する。
他の実施形態では、エッジ検出ユニット414は、飽和色エッジを他の方法で(すなわち、勾配オペレータ412によって計算された勾配を使用せずに)検出する。そのような実施形態において、勾配オペレータ412は、飽和色エッジを検出するために、エッジ検出ユニット414によって使用される情報を生成するように構成された他のユニットと置き換えられる。
処理システム100は、選択的スミアリングユニット416を実行して、ブロック508に示したように各色の非候補画素のセグメントに水平スミアリング操作を実行する。この水平スミアリング操作により、処理システム100は候補アーティファクトを適切に識別できるようになる。ほこりとひっかき傷によって引き起こされるアーティファクトは、一般に、エッジ検出ユニット414によって生成された候補画素によって画定される閉じた境界を構成する。大きなアーティファクトがほこりとひっかき傷によって引き起こされる場合は、ほこりとひっかき傷によって引き起こされるアーティファクトが一般にアーティファクトの内部に低い勾配量を作り出すので、アーティファクトの内部画素ではなく境界画素だけしか飽和色エッジとして検出することができない。
選択的スミアリングユニット416は、3つの条件が満たされたと判定されたときに、一行の非候補画素のセグメントに水平スミアリング操作を実行する。第1の条件は、セグメント長(画素数で表した)が、ほこりおよび/またはひっかき傷のアーティファクトの想定最大サイズと関連付けられた最大長(例えば、40画素)を超えないことである。第2の条件は、セグメントを区切る2つの候補画素が同じ色タイプのものであることである。第3の条件は、同じ位置の前の行内の隣接した画素がやはり候補画素を含むことである(例えば、同じ色タイプの候補画素として分類された前の行内の画素の数Nが、N>(j−j+1−s)となるような高い比率を超えることであり、ここで、一実施形態によればj−jは現在の行にあるセグメント長に等しく、s=3である。)
3つの条件がすべて満たされ場合、選択的スミアリングユニット416は、非候補画素を2区分の候補画素と同じ色タイプの候補画素として設定する。そうすることにより、選択的スミアリングユニット416は、候補アーティファクトの内部をその境界と関連付ける。他の実施形態では、選択的スミアリングユニット416は、スミアリング操作を他の方向(例えば、列に垂直または斜め)に、1組の候補画素と関連付けられた他の条件に応じて実行する。
処理システム100は、検証ユニット418を実行して、ブロック510に示したように各候補アーティファクトの検証を行ってアーティファクト領域を決定する。この検証は、候補アーティファクトのエッジを他の色平面内の対応する位置と比較し、候補アーティファクトの平均色を候補アーティファクトのまわりの領域の平均色と比較することを含む。
一実施形態では、検証ユニット418は、次のように一次元(水平または垂直)検証方法を実行する。検証ユニット418は、各候補間隔(すなわち、行または列の一連の連続する候補画素)をラスタ順にスキャンする。各間隔ごとに、検証ユニット418は、2区分の外部画素(r,g,b)と(r,g,b)の2つの色を見つける。色タイプxと画素属性(r,g,b)の間隔で各候補画素ごとに、検証ユニット418は、次のような倍率変更した差を計算し、
Δr=(r−r)/r,Δg=(g−g)/g,Δb=(b−b)/b,Δr=(r−r)/r,Δg=(g−g)/g,Δb=(b−b)/b
下記条件を検証する。
1)(|Δx|>tH AND |Δx|>tH AND sgn(Δx)==sgn(Δx))
2)(|Δy|<(k・|Δx|) AND |Δz|<(k・|Δx|) AND |Δy|<(k・|Δx|) AND |Δz|<(k・|Δx|))
ここで、xは候補画素の色タイプであり、(y,z)は画素の他の2つの色属性であり、tHはしきい値であり、kは定数値である。条件のどれかが満たされない場合、検証ユニット418は画素を非候補画素として再分類する。検証ユニット418は、前述のように水平検証の後で垂直検証を実行することができる。
各色平面が他の色平面(例えば、TechniColorフィルム)と別である実施形態では、ほこりとひっかき傷により引き起こされるアーティファクトは、通常、色平面の1つだけに現れる。従って、検証ユニット418は、8近傍接続(8−neighbor connectivity)を実行して、候補アーティファクトが少なくとも1つの他の色平面に対応するエッジを有するかどうかを判定する。そのようなエッジを有する場合、候補アーティファクトは、画像の所望部分である可能性が最も高く、検証ユニット418によって候補アーティファクトとして削除される。
そのようなエッジがない場合、検証ユニット418は、候補アーティファクトの画素の平均色を、候補アーティファクトと同じ色平面内の候補アーティファクトのまわりの領域内の画素の平均色と比較する。図6に示したように、領域は、候補アーティファクト304を包含する長方形領域602を構成することができる。他の実施形態では、領域602は、候補アーティファクト304を包含する他の形状とサイズを構成する。候補アーティファクト304の画素の平均色が、候補アーティファクト304のまわりの領域内の画素の平均色と大きく異ならない場合、候補アーティファクト304は、画像の所望部分である可能性が最も高く、検証ユニット418によって候補アーティファクトとして削除される。一実施形態では、候補アーティファクトの画素の平均色が、候補アーティファクトのまわりの領域内の画素値の最大値より大きいか、候補アーティファクトのまわりの領域内の画素値の最小値より小さい場合、検証ユニット418は、候補アーティファクトの画素の平均色が、候補アーティファクトのまわりの領域内の画素の平均色と大きく異なることを判定する。
候補アーティファクトのエッジが他の色平面内のエッジ位置に対応せず、また候補アーティファクトの平均色が候補アーティファクトのまわりの領域内の平均色と大きく異なる場合は、検証ユニット418は、候補アーティファクトが、例えばほこりやひっかき傷によって引き起こされたアーティファクトである可能性が高いと判定し、アーティファクト領域(例えば、領域602)を包含する領域を識別する情報を記憶する。
前述のように1つまたは複数のアーティファクトを検出した後、処理システム100は、アーティファクト除去モジュール114を実行して、ブロック512に示したように前のフレーム(n−1)402と後のフレーム(n+1)402とのブロックマッチングを実行する。アーティファクト除去モジュール114は、アーティファクト領域の位置を示すためにフレーム(n)402の2値マスクを作成する。アーティファクト除去モジュール114は、ブロックマッチングユニット424Aを使用して前のフレーム(n−1)402を探し、ブロックマッチングユニット424Bを使用して後のフレーム(n+1)402を探す。ブロックマッチングユニット424Aおよび424Bは、必要に応じて動き補正技術を使用して、アーティファクト領域以外のフレーム(n)402と最も一致している前のフレーム(n−1)402と後のフレーム(n+1)402をそれぞれ探す。
処理システム100は、アーティファクト除去モジュール114を実行して、ブロック514に示したようにフレーム(n)402内の各アーティファクト領域を前のフレーム(n−1)402か後のフレーム(n+1)402からの対応するブロックと置き換える。図6は、デジタル映像120のフレーム(n)402内にアーティファクト304を含むアーティファクト領域602を置き換えるプロセスを示すブロック図である。前のフレーム(n−1)402がフレーム(n)402と最も一致している場合は、ベストマッチユニット426が、フレーム(n)402内のアーティファクト領域602を前のフレーム(n−1)402からの領域606と置き換える。後のフレーム(n+1)402がフレーム(n)402と最も一致している場合、ベストマッチユニット426は、フレーム(n)402内のアーティファクト領域602を後のフレーム(n+l)402からの領域608と置き換える。他のアーティファクト領域(図示せず)も同様に置き換えられる。
前述のシステムおよび方法を使用することにより、デジタル映像を得る映像媒体に存在するようなデジタル映像内のアーティファクトを除去することができる。従って、デジタル映像の表示を高品質化することができる。
本明細書に特定の実施形態を例示し説明したが、当業者は、示し説明した特定の実施形態に本発明の範囲を逸脱することなく様々な代替および/または等価な実施態様を代用できることを理解されよう。本願は、本明細書で述べた特定の実施形態の任意の適応例または変形例を範囲に含むように意図されている。したがって、本発明は特許請求の範囲とその等価物によってのみ限定されるものである。
本発明の一実施形態によるデジタル映像からアーティファクトを除去するように構成された処理システムを示すブロック図である。 本発明の一実施形態によるアーティファクトを有する映像媒体を示すブロック図である。 本発明の一実施形態によるアーティファクトを有する映像媒体からデジタル映像を生成するプロセスを示すブロック図である。 本発明の一実施形態によるデジタル映像からアーティファクトを検出し除去するプロセスを示すブロック図である。 本発明の一実施形態によるデジタル映像からアーティファクトを検出し除去する方法を示すフローチャートである。 本発明の一実施形態によるデジタル映像のフレーム内のアーティファクトを有する領域を置き換えるプロセスを示すブロック図である。
符号の説明
100・・・処理システム
102・・・プロセッサ
104・・・メモリシステム
106・・・入出力
108・・・ネットワーク装置
110・・・アーティファクト削減モジュール
112・・・アーティファクト検出モジュール
114・・・アーティファクト除去モジュール
120・・・デジタル映像
122・・・高品質デジタル映像
200・・・映像媒体
202・・・フレーム(n−1)
・・・フレーム(n)
・・・フレーム(n+1)
204R・・・赤色平面(n)
204G・・・緑色平面(n)
204B・・・青色平面(n)
206・・・アーティファクト
302・・・生成プロセスを示す矢印
304・・・アーティファクト
402・・・フレーム(n−1)
・・・フレーム(n)
・・・フレーム(n+1)
412・・・勾配オペレータ
414・・・エッジ検出
416・・・選択的スメアリング
418・・・検証
422・・・アーティファクト領域
424A・・・ブロックマッチング
424B・・・ブロックマッチング
426・・・ベストマッチ
602・・・領域
606・・・領域
608・・・領域

Claims (10)

  1. 処理システム(100)によって実行される方法であって、
    デジタル映像(120)の第1のフレーム(402)内のアーティファクト(304)を、前記第1のフレーム内に識別された複数のエッジを使用して検出する段階と、
    前記第1のフレーム内の前記アーティファクトを包含する領域(602)を第2のフレーム(402)からの対応する領域(606/608)と置き換える段階と
    を含む方法。
  2. 前記第1のフレームを使用して複数の勾配量を含む勾配を計算する段階と、
    前記勾配を使用して複数のエッジを検出する段階とを更に含む
    請求項1に記載の方法。
  3. 前記複数の勾配量を使用して複数のエッジを検出して複数の候補画素を識別する段階を更に含む
    請求項2に記載の方法。
  4. 前記複数の候補画素のうちの少なくとも2つの候補画素の間にある前記複数の勾配量のそれぞれを、候補画素に設定する段階を更に含む
    請求項3に記載の方法。
  5. 前記複数の候補画素を勾配量と比較して複数のしきい値を識別する段階を更に含む
    請求項2に記載の方法。
  6. 前記複数の勾配量のうちしきい値以下の各勾配量をゼロに設定する段階を更に含む
    請求項5に記載の方法。
  7. 前記第1のフレームが第1の色平面を含み、更に、
    前記第1の複数の候補画素が、前記第1のフレーム内の前記アーティファクトを包含する領域を前記第2のフレームからの前記対応する領域と置き換える前に第2の色平面からの第2の複数の候補画素に対応しないことを判定する段階を更に含む
    請求項3に記載の方法。
  8. 前記アーティファクトを含む画素の平均色が、前記第1のフレーム内の前記アーティファクトを包含する前記領域を前記第2のフレームからの前記対応する領域と置き換える前に、前記第1フレーム内の前記アーティファクトを包含する領域のうちアーティファクト以外の領域を含む画素の平均色と大きく異なることを判定する段階を更に含む
    請求項1に記載の方法。
  9. 前記第2のフレームと前記第1のフレームの間でブロックマッチングを実行する段階を更に含む
    請求項1に記載の方法。
  10. システム(100)であって、
    プロセッサ(102)と、
    デジタル映像(120)とアーティファクト削減モジュール(110)を記憶するためのメモリシステム(104)とを含み、
    前記プロセッサが、前記アーティファクト削減モジュールを実行して、
    前記第1のフレーム内の識別された複数のエッジを使用してデジタル映像(120)の第1のフレーム(402)内のアーティファクト(304)を検出し、
    前記第1のフレーム内に前記アーティファクトを包含する領域(602)を第2のフレーム(402)からの対応する領域(606/608)と置き換えるように構成されたシステム(100)。
JP2007543608A 2004-11-30 2005-11-30 デジタル映像のアーティファクト削減 Expired - Fee Related JP4489120B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US10/999,739 US7620241B2 (en) 2004-11-30 2004-11-30 Artifact reduction in a digital video
PCT/US2005/043346 WO2006060496A2 (en) 2004-11-30 2005-11-30 Artifact reduction in a digital video

Publications (2)

Publication Number Publication Date
JP2008522508A true JP2008522508A (ja) 2008-06-26
JP4489120B2 JP4489120B2 (ja) 2010-06-23

Family

ID=36178590

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007543608A Expired - Fee Related JP4489120B2 (ja) 2004-11-30 2005-11-30 デジタル映像のアーティファクト削減

Country Status (4)

Country Link
US (1) US7620241B2 (ja)
JP (1) JP4489120B2 (ja)
CN (1) CN101076831A (ja)
WO (1) WO2006060496A2 (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011049969A (ja) * 2009-08-28 2011-03-10 Kyocera Mita Corp 画像読取装置
JP2012502555A (ja) * 2008-09-04 2012-01-26 シリコン イメージ,インコーポレイテッド 不規則性を除去すべく画像内のエッジを平滑化するシステム、方法、および装置
JP2012524310A (ja) * 2009-04-15 2012-10-11 ミツビシ・エレクトリック・アールアンドディー・センター・ヨーロッパ・ビーヴィ 画像領域補間
JP7001265B2 (ja) 2018-03-05 2022-01-19 国立大学法人 鹿児島大学 映像修復システム、映像修復方法及びプログラム

Families Citing this family (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7440608B2 (en) * 2005-05-31 2008-10-21 Hewlett-Packard Development Company, L.P. Method and system for detecting image defects
US7826675B2 (en) 2006-07-04 2010-11-02 Hewlett-Packard Development Company, L.P. Feature-aware image defect removal
KR100818988B1 (ko) * 2006-09-05 2008-04-04 삼성전자주식회사 영상신호 처리 방법 및 장치
CN101191719A (zh) * 2006-12-01 2008-06-04 鸿富锦精密工业(深圳)有限公司 影像焦点合成系统及方法
CN101578868B (zh) * 2006-12-28 2012-11-07 汤姆逊许可证公司 一种视频处理数字视频内容的方法,装置及视频编码器
TWI363323B (en) * 2007-02-12 2012-05-01 Chimei Innolux Corp Liquid crystal display panel and driving method thereof
US8417033B2 (en) * 2007-04-27 2013-04-09 Hewlett-Packard Development Company, L.P. Gradient based background segmentation and enhancement of images
US20090002558A1 (en) * 2007-06-29 2009-01-01 Digital Vision Ab Three-frame motion estimator for restoration of single frame damages
US8526766B2 (en) * 2007-10-31 2013-09-03 Ctb/Mcgraw-Hill Llc Use of composite bitmapped images in conjunction with display of captured data
US8520916B2 (en) * 2007-11-20 2013-08-27 Carestream Health, Inc. Enhancement of region of interest of radiological image
CA2783836C (en) * 2009-11-11 2018-03-13 Cinnafilm, Inc. Single frame artifact filtration and motion estimation
DE102009053280A1 (de) 2009-11-13 2011-05-19 Arnold & Richter Cine Technik Gmbh & Co. Betriebs Kg Digitale Kamera und Verfahren zum Überwachen einer Signalverarbeitungseinrichtung
US8817136B2 (en) * 2010-06-23 2014-08-26 Raytheon Company Image processing utilizing spatially-displaced image data
US9235882B2 (en) 2011-08-16 2016-01-12 Nikon Corporation Method for detecting existence of dust spots in digital images based on locally adaptive thresholding
TWI517099B (zh) * 2013-11-15 2016-01-11 瑞昱半導體股份有限公司 影像連續邊緣偵測系統與其方法
US10203833B2 (en) * 2013-11-26 2019-02-12 Entit Software Llc Recommending application modifications using image area counts
EP3007106A1 (en) * 2014-10-08 2016-04-13 Thomson Licensing Method and apparatus for determining a detection of a defective object in an image sequence as a misdetection

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000184202A (ja) * 1998-12-14 2000-06-30 Eastman Kodak Co 走査により生成した画像上における垂直方向に並んだパタ―ンを除去するための画像処理システム
JP2000188687A (ja) * 1998-12-22 2000-07-04 Ricoh Co Ltd 画像形成装置
JP2000350202A (ja) * 1999-03-26 2000-12-15 Victor Co Of Japan Ltd ブロックノイズ検出装置
JP2002101425A (ja) * 2000-06-29 2002-04-05 Eastman Kodak Co ディジタル画像のノイズ及びブロッキング・アーティファクトの除去方法
JP2002262218A (ja) * 2001-02-27 2002-09-13 Hitachi Ltd 映像補正方法、映像補正システム、および、映像補正をおこなうためのプログラム記録媒体

Family Cites Families (30)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5063603A (en) * 1989-11-06 1991-11-05 David Sarnoff Research Center, Inc. Dynamic method for recognizing objects and image processing system therefor
US5436979A (en) * 1992-08-21 1995-07-25 Eastman Kodak Company Process for detecting and mapping dirt on the surface of a photographic element
WO1994014139A1 (en) * 1992-12-15 1994-06-23 Viacom International Inc. Method for reducing noise in digital video information
JPH0763691A (ja) * 1993-08-24 1995-03-10 Toshiba Corp パターン欠陥検査方法及びその装置
KR0171147B1 (ko) * 1995-03-20 1999-03-20 배순훈 그레디언트 변화를 이용한 특징점 선정장치
US5995153A (en) * 1995-11-02 1999-11-30 Prime Image, Inc. Video processing system with real time program duration compression and expansion
US6125213A (en) * 1997-02-17 2000-09-26 Canon Kabushiki Kaisha Image processing method, an image processing apparatus, and a storage medium readable by a computer
US6266054B1 (en) * 1997-11-05 2001-07-24 Microsoft Corporation Automated removal of narrow, elongated distortions from a digital image
US6229578B1 (en) * 1997-12-08 2001-05-08 Intel Corporation Edge-detection based noise removal algorithm
US6035072A (en) * 1997-12-08 2000-03-07 Read; Robert Lee Mapping defects or dirt dynamically affecting an image acquisition device
US6335985B1 (en) * 1998-01-07 2002-01-01 Kabushiki Kaisha Toshiba Object extraction apparatus
US6850249B1 (en) * 1998-04-03 2005-02-01 Da Vinci Systems, Inc. Automatic region of interest tracking for a color correction system
US6415053B1 (en) * 1998-04-20 2002-07-02 Fuji Photo Film Co., Ltd. Image processing method and apparatus
JP2000050062A (ja) * 1998-07-31 2000-02-18 Minolta Co Ltd 画像入力装置
KR100301833B1 (ko) * 1998-08-20 2001-09-06 구자홍 오류은폐방법
US6233364B1 (en) * 1998-09-18 2001-05-15 Dainippon Screen Engineering Of America Incorporated Method and system for detecting and tagging dust and scratches in a digital image
US6578017B1 (en) * 1999-02-26 2003-06-10 Information Decision Technologies, Llc Method to aid object detection in images by incorporating contextual information
JP2000354176A (ja) * 1999-06-11 2000-12-19 Matsushita Electric Ind Co Ltd 画像処理装置
GB9921331D0 (en) * 1999-09-09 1999-11-10 Pandora Int Ltd Film restoration system
US6442203B1 (en) * 1999-11-05 2002-08-27 Demografx System and method for motion compensation and frame rate conversion
US6683995B2 (en) * 1999-12-23 2004-01-27 Eastman Kodak Company Method and apparatus for correcting large defects in digital images
EP1511311B1 (en) * 2003-08-26 2007-04-04 STMicroelectronics S.r.l. Method and system for de-interlacing digital images, and computer program product therefor
US6498831B2 (en) * 2000-12-22 2002-12-24 Ge Medical Systems Global Technology Company, Llc Panel detector pixel replacement method and apparatus
US7088392B2 (en) * 2001-08-27 2006-08-08 Ramakrishna Kakarala Digital image system and method for implementing an adaptive demosaicing method
US6794608B2 (en) * 2001-10-30 2004-09-21 Tri Tool Inc. Welding current control system and method
US7283164B2 (en) * 2002-09-18 2007-10-16 Micron Technology, Inc. Method for detecting and correcting defective pixels in a digital image sensor
US7477781B1 (en) * 2002-10-10 2009-01-13 Dalsa Corporation Method and apparatus for adaptive pixel correction of multi-color matrix
US7092628B2 (en) * 2002-10-11 2006-08-15 Eastman Kodak Company Photography systems and methods utilizing filter-encoded images
CA2432616A1 (en) * 2003-06-17 2004-12-17 Ibm Canada Limited - Ibm Canada Limitee Method for managing commerce contexts
GB2411784B (en) * 2004-03-02 2006-05-10 Imagination Tech Ltd Motion compensation deinterlacer protection

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000184202A (ja) * 1998-12-14 2000-06-30 Eastman Kodak Co 走査により生成した画像上における垂直方向に並んだパタ―ンを除去するための画像処理システム
JP2000188687A (ja) * 1998-12-22 2000-07-04 Ricoh Co Ltd 画像形成装置
JP2000350202A (ja) * 1999-03-26 2000-12-15 Victor Co Of Japan Ltd ブロックノイズ検出装置
JP2002101425A (ja) * 2000-06-29 2002-04-05 Eastman Kodak Co ディジタル画像のノイズ及びブロッキング・アーティファクトの除去方法
JP2002262218A (ja) * 2001-02-27 2002-09-13 Hitachi Ltd 映像補正方法、映像補正システム、および、映像補正をおこなうためのプログラム記録媒体

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012502555A (ja) * 2008-09-04 2012-01-26 シリコン イメージ,インコーポレイテッド 不規則性を除去すべく画像内のエッジを平滑化するシステム、方法、および装置
US9305337B2 (en) 2008-09-04 2016-04-05 Lattice Semiconductor Corporation System, method, and apparatus for smoothing of edges in images to remove irregularities
JP2012524310A (ja) * 2009-04-15 2012-10-11 ミツビシ・エレクトリック・アールアンドディー・センター・ヨーロッパ・ビーヴィ 画像領域補間
JP2011049969A (ja) * 2009-08-28 2011-03-10 Kyocera Mita Corp 画像読取装置
JP7001265B2 (ja) 2018-03-05 2022-01-19 国立大学法人 鹿児島大学 映像修復システム、映像修復方法及びプログラム

Also Published As

Publication number Publication date
JP4489120B2 (ja) 2010-06-23
US20060115178A1 (en) 2006-06-01
CN101076831A (zh) 2007-11-21
WO2006060496A2 (en) 2006-06-08
US7620241B2 (en) 2009-11-17
WO2006060496A3 (en) 2006-09-28

Similar Documents

Publication Publication Date Title
JP4489120B2 (ja) デジタル映像のアーティファクト削減
JP4545195B2 (ja) デジタル映像のアーティファクト削減
US9619897B2 (en) Correction of blotches in component images
JP4664432B2 (ja) ショットサイズ識別装置及び方法、電子機器、並びにコンピュータプログラム
US7450778B2 (en) Artifact reduction in a digital video
US20110293176A1 (en) Detection apparatus, detection method, and computer program
US7440608B2 (en) Method and system for detecting image defects
US7551772B2 (en) Blur estimation in a digital image
JP2005172559A (ja) パネルの線欠陥検出方法及び装置
US20060114994A1 (en) Noise reduction in a digital video
JP3480408B2 (ja) 物体抽出システムと方法並びに物体抽出用プログラムを記憶した記憶媒体
JP3818044B2 (ja) ノイズ除去装置及びノイズ除去方法並びにコンピュータ読み取り可能な記録媒体
US7924922B2 (en) Color registration in a digital video
JP2020003837A (ja) 識別装置および識別方法
US8358850B2 (en) Determination method of edge direction
JPH11178007A (ja) テロップ文字表示フレーム検出方法、装置およびにテロップ文字表示フレーム検出プログラムを記録した記録媒体
JP2010010975A (ja) 写真画像処理方法、写真画像処理プログラム、及び写真画像処理装置
JPS63138472A (ja) シヤ−プネスの評価方法

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20091117

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100210

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100312

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100330

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130409

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140409

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees