JP2008300990A - 画像修復方法及び画像修復装置 - Google Patents
画像修復方法及び画像修復装置 Download PDFInfo
- Publication number
- JP2008300990A JP2008300990A JP2007142444A JP2007142444A JP2008300990A JP 2008300990 A JP2008300990 A JP 2008300990A JP 2007142444 A JP2007142444 A JP 2007142444A JP 2007142444 A JP2007142444 A JP 2007142444A JP 2008300990 A JP2008300990 A JP 2008300990A
- Authority
- JP
- Japan
- Prior art keywords
- pixel
- region
- pixels
- similar
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims description 48
- 230000002950 deficient Effects 0.000 claims abstract description 118
- 238000000605 extraction Methods 0.000 claims description 4
- 230000008439 repair process Effects 0.000 abstract description 9
- 230000002093 peripheral effect Effects 0.000 abstract description 2
- 238000012545 processing Methods 0.000 description 34
- 238000012937 correction Methods 0.000 description 12
- 230000007547 defect Effects 0.000 description 10
- 238000012935 Averaging Methods 0.000 description 2
- 238000007796 conventional method Methods 0.000 description 2
- 230000010365 information processing Effects 0.000 description 2
- 239000003086 colorant Substances 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000012217 deletion Methods 0.000 description 1
- 230000037430 deletion Effects 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 235000012736 patent blue V Nutrition 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
Landscapes
- Image Input (AREA)
- Image Processing (AREA)
- Facsimile Image Signal Circuits (AREA)
Abstract
【課題】不連続な濃度変化が伴う画像でも良好な欠損画素の修復が行えるようにする。
【解決手段】画像データ中の欠損画素の位置を特定し、その特定した欠損画素とその周辺の画素を含む第1の領域を抽出する。そして、抽出した第1の領域での画素配列と類似した領域を、第2の領域として抽出する。そして、第1の領域中の特定された欠損画素位置の所定方向の複数の近傍画素の輝度値を判断し、第2の領域中の画素の中で、判断した複数の近傍画素の輝度値配列に近い輝度値配列の画素の組を類似画像領域として抽出する。さらに、第1の領域での複数の近傍画素と欠損画素との位置関係と同様の位置関係で、抽出された第2の領域の特定の画素を目標画素として取り出し、取り出した目標画素の輝度値を、欠損画素の輝度値とする。
【選択図】図4
【解決手段】画像データ中の欠損画素の位置を特定し、その特定した欠損画素とその周辺の画素を含む第1の領域を抽出する。そして、抽出した第1の領域での画素配列と類似した領域を、第2の領域として抽出する。そして、第1の領域中の特定された欠損画素位置の所定方向の複数の近傍画素の輝度値を判断し、第2の領域中の画素の中で、判断した複数の近傍画素の輝度値配列に近い輝度値配列の画素の組を類似画像領域として抽出する。さらに、第1の領域での複数の近傍画素と欠損画素との位置関係と同様の位置関係で、抽出された第2の領域の特定の画素を目標画素として取り出し、取り出した目標画素の輝度値を、欠損画素の輝度値とする。
【選択図】図4
Description
本発明は、画像データ中に存在する欠損画素を修復する画像修復方法及びその修復処理を行う画像修復装置に関する。
従来、画像中にスーパーインポーズされた文字などのテロップや、古い写真などに存在する傷などの、不要な箇所が存在するとき、その不要な箇所(例えばテロップや傷)があたかも存在していなかったように復元したい場合が多々ある。
このような画像中の不要な領域を除外する場合の最も簡単な処理手法としては、例えば、不要領域内の画素の輝度値を、その不要領域に隣接する画素の輝度値に置き換えてしまう手法がある。このようにすることで、例えば空色などの背景画像中に存在する白色や黒色などの文字や傷は、少なくとも背景の色に置き換えられ、それなりの除去が行える。
特許文献1には、従来の欠損画素補正技術の一例についての記載がある。
特開2005−184307号公報
ところが、従来の欠損画素補正処理は、基本的に欠損画素の近傍の画素に輝度から、欠損画素の輝度値を推定するものであり、画像中の背景などの比較的濃度変化が少ない箇所ではそれなりに効果があるが、不連続な濃度変化がある箇所では、正しく欠損画素を修復することができないという問題があった。
本発明はかかる点に鑑みてなされたものであり、不連続な濃度変化が伴う画像についても良好な欠損画素の修復が行えるようにすることを目的とする。
本発明は、画像データ中の欠損画素の位置を特定し、その特定した欠損画素とその周辺の画素を含む第1の領域を抽出する。そして、抽出した第1の領域での画素配列と類似した領域を画像データから検出し、検出された類似領域を、第2の領域として抽出する。そして、第1の領域中の特定された欠損画素位置の所定方向の複数の近傍画素の輝度値を判断し、第2の領域中の画素の中で、判断した複数の近傍画素の輝度値配列に近い輝度値配列の画素の組を類似画像領域として抽出する。さらに、第1の領域での複数の近傍画素と欠損画素との位置関係と同様の位置関係で、抽出された第2の領域の特定の画素を目標画素として取り出し、取り出した目標画素の輝度値を、欠損画素の輝度値とするようにしたものである。
本発明によると、欠損画素位置の周囲の画素の輝度状態の配列に近い輝度配列状態の画素の組が抽出されて、その輝度値で補正されるので、同一画像中に、欠陥画素位置の近傍の領域と類似した輝度状態の個所が存在すれば適正に補正されることになり、不連続な濃度変化がある個所の欠陥画素についても良好に補正することが可能になる。
この場合、類似画像領域は、複数の近傍画素の配列方向とは異なる方向からも抽出することで、同一画像に存在する種々の方向の類似画像成分から、欠損画素の推定が行われることになり、より良好な補正が可能になる。
また、複数の配列方向の類似画像領域ごとに得られた目標画素の輝度値の平均を、欠損画素の輝度値としたことで、各方向から探索された候補画素の輝度値を平均的に利用した欠損画素の補正値が得られることになり、方向に依存しない良好な補正値が得られるようになる。
また、欠損画素に対する複数の近傍画素は、欠損画素の上下左右のいずれか1つの方向の近傍の画素であることで、欠損画素が隣接して多数存在する場合に、隣接して欠損画素が存在しない方向の近傍の画素を選ぶことで、複数の欠損画素の補正を良好に行うことが可能になる。
以下、本発明の一実施の形態を、添付図面を参照して説明する。
まず、本発明の一実施の形態の処理が実行される画像処理装置の構成を、図1を参照して説明する。
まず、本発明の一実施の形態の処理が実行される画像処理装置の構成を、図1を参照して説明する。
図1に示すように、画像入力端子11に得られる画像データを画像入力部12に供給し、この画像入力部12で入力処理を行う。ここで入力処理される画像データとしては、例えば1画素ごとに赤色R,緑色G,青色Bの原色の輝度値を持つデータである。輝度値としては、例えば1つの色データが128階調の輝度値を持つものとする。後述説明で輝度値の算出などと述べた場合には、この各原色の輝度値を個別に算出する処理を示している。
画像入力部12で入力処理された画像データは、画像処理部13に供給し、この画像処理部13に接続されたフレームメモリ14に記憶させた上で、必要な画像処理を行う。欠損画素の修復処理についても、画像処理部13で行われる。画像処理部13での画像処理は、制御部17での制御に基づいて行われる。制御部17には、操作キーなどで構成される操作部18からの操作指令が供給される。後述する欠損画素修復処理では、例えば欠陥画素を操作者が指定する必要がある際には、操作部18を使用して操作を行う。
画像処理部13で処理済みの画像データは、画像出力部15に供給して出力処理を行い、画像出力端子16から出力させる。また、画像出力部15に得られる画像データを、表示部19に供給して、画像を表示させる。この表示部19で表示される画像で、欠損画素の修復状態などを操作者が確認することができる。
なお、図1に示した装置の処理構成は、一例を示したものであり、例えばパーソナルコンピュータ装置などの汎用の情報処理装置を使用して、その情報処理装置に画像処理用のソフトウェアをインストールして、同様の処理を行う構成を組むようにしてもよい。また、図1の構成では、メモリとしてフレームメモリ14を備えて、1フレーム(1枚)の静止画像データを処理する構成としてあるが、動画像を扱う場合には、メモリを対応した記憶容量のものとして、フレーム周期で順に入力される画像データを処理できる構成とすれば対処可能である。
次に、図1に示した処理構成で実行される、本例の欠損画素の修復処理について説明する。
まず、図2のフローチャートを参照して、本例の欠損画素の修復処理の全体の流れを説明する。この欠損画素の修復処理は、例えは制御部17の制御で実行される。
図2に基づいて説明すると、画像入力部12で入力処理された画像データ中の修復させたい欠損画素の位置が特定されると、その欠損画素を中心にした、欠損画素と周辺画素とで構成される領域(ブロック)を抽出する(ステップS1)。以下の説明では、この欠損画素を含む領域を第1の領域と称する。ここでの第1の領域としては、例えば、欠損画素を中心として、縦横共に数画素から数十画素程度の比較的少ない画素数で構成される四角形の領域である。
まず、図2のフローチャートを参照して、本例の欠損画素の修復処理の全体の流れを説明する。この欠損画素の修復処理は、例えは制御部17の制御で実行される。
図2に基づいて説明すると、画像入力部12で入力処理された画像データ中の修復させたい欠損画素の位置が特定されると、その欠損画素を中心にした、欠損画素と周辺画素とで構成される領域(ブロック)を抽出する(ステップS1)。以下の説明では、この欠損画素を含む領域を第1の領域と称する。ここでの第1の領域としては、例えば、欠損画素を中心として、縦横共に数画素から数十画素程度の比較的少ない画素数で構成される四角形の領域である。
その後、同一の画像中から、第1の領域内の画素の輝度値の変化状態の配列と類似した領域を探す処理を行い、最も近い配列の領域を抽出する(ステップS2)。以下の説明では、この探索された領域を、類似領域又は第2の領域と称する。第2の領域の画素数は、第1の領域の画素数と同じである。なお、第2の領域を探索する際には、ここでは第1の領域と同じ方向から見て類似している領域を探索するようにしてあり、上下や左右が反転した領域は除外するようにしてある。但し、上下や左右が反転した領域についても、探索する領域を含めるようにしてもよい。
その後、第1の領域での欠損画素の近傍の画素変化と類似した変化がある箇所を、抽出された第2の領域内から探索して、最も類似している箇所(近傍領域)を抽出する(ステップS3)。この近傍領域の抽出処理の詳細については後述する。
そして、第2の領域から抽出された近傍領域の画素値を使用して、第1の領域の欠損画素の画素値に割り当て、欠損画素を修復する(ステップS4)。
そして、第2の領域から抽出された近傍領域の画素値を使用して、第1の領域の欠損画素の画素値に割り当て、欠損画素を修復する(ステップS4)。
ここまでの処理が行われると、処理中の画像に、他の欠損画素があるか否か判断し(ステップS5)、他の欠損画素がある場合には、ステップS1に戻って、他の欠損画素について同様の処理を繰り返す。処理中の画像中の全ての欠損画素の修復が完了した場合には、ここでの修復処理を終了する。
ここで、ステップS2での類似領域(第2の領域)の探索状態の例を、図3の画像を例にして説明する。図3の例では、欠損画素が存在する領域(第1の領域)として、x1,x2,x3などの領域が存在しているとする。図3例では、各領域x1,x2,x3は、複数の画素が欠落した状態である。図面では、各領域のほぼ中央の白い四角の範囲が、欠損画素の部分を示している。
そして、各領域x1,x2,x3の欠損画素以外の部分の画素配列と類似した画素配列を有する領域(第2の領域)を、同一の画像中から探索する。図3例では、領域x1に類似した第2の領域として、領域y1が探索される。同様に、領域x2に類似した第2の領域として領域y2が探索され、領域x3に類似した第2の領域として領域y3が探索される。このようにして、欠損画素が存在する領域ごとに、その領域に類似した領域が探索される。
このように類似領域(第2の領域)が探索されると、次に、欠損画素が存在する領域内の欠損画素が、第2の領域の画素配列に基づいて復元される。
図4のフローチャートは、この欠損画素の輝度値の復元処理例を示したものである。この図4のフローチャートの処理は、図2のフローチャートのステップS3及びS4での処理に相当する。この図4のフローチャートの処理が図1に示す構成で実行される際には、制御部17の制御に基づいて、フレームメモリ14に記憶された1フレームの画像データを使用して、画像処理部13で欠損画素の復元処理が行われる。
図4のフローチャートは、この欠損画素の輝度値の復元処理例を示したものである。この図4のフローチャートの処理は、図2のフローチャートのステップS3及びS4での処理に相当する。この図4のフローチャートの処理が図1に示す構成で実行される際には、制御部17の制御に基づいて、フレームメモリ14に記憶された1フレームの画像データを使用して、画像処理部13で欠損画素の復元処理が行われる。
まず、処理を行う欠損画素位置を特定する(ステップS11)。欠損画素が特定されると、その特定された欠損画素に対する近傍画素群を抽出する(ステップS12)。欠損画素に対する近傍画素群の位置関係としては、後述する図6(a)に示した欠損画素P1に対する近傍画素群P10の位置関係とする。即ち、欠損画素P1に対して、1つの側(図6では上側)の7方向の最も近い距離の画素P11〜P17を選ぶ。原則として近傍画素群P10の中には欠損画素が存在しないように、近傍画素群を選定する。但し、欠損画素の復元処理で既に復元された画素については含むようにしてもよい。
近傍画素群が抽出されると、図2のフローチャートのステップS2で説明した処理で、既にその欠損画素について探索されて登録された類似領域(第2の領域)を読み出す(ステップS13)。そして、欠損画素の近傍画素群と同様の輝度値の配列となっている類似画素群を、類似領域から探索する探索処理を行う。その探索処理を行う場合には、探索方向を設定する。探索方向の具体的な例については後述するが(図10参照)、π/4ずつ回転させた8方向の探索(即ち上下左右の4方向と45°ずれた斜めの4方向の合計8方向の探索)を行うようにしてあり、その8方向を1つずつ順に設定して探索を行う。
このため、最初に1つの探索方向を設定し(ステップS14)、その探索方向での近傍画素群と類似した類似画素群を探す処理を行う。この探索処理で、類似した画素群があるか否か判断し(ステップS15)、類似した画素群がある場合には、その類似画素群内の各画素の輝度値と、その類似画素群に隣接した候補画素(図6(b)の推定画素P2)を登録する(ステップS16)。
そして、ステップS16で類似画素群と推定画素とを登録した後、又はステップS15で類似画素群がないと判断した後には、全ての方向の探索が終了したか否か判断し(ステップS17)、探索が終了してない場合には、探索方向を変更した上で(ステップS18)、ステップS15に戻って別の方向の探索を行う。
ステップS17で全ての方向の探索が終了したと判断すると、ステップS16で登録された各方向で探索された類似画素群の中から、欠損画素の近傍画素群に最も近い画素群を選定する(ステップS19)。そして、その選定した画素群に隣接した候補画素(推定画素)の各色の輝度値を、欠損画素の各色の輝度値に選定する(ステップS20)。このように選定することで、欠損画素が選定された輝度値で復元される。
このようにして、1フレームの画像中の各欠損画素について、順に復元処理が行われる。
次に、図6を参照して、図4のフローチャートで説明した欠損画像復元処理の原理を説明する。
図6(a)及び(b)は、それぞれ1フレームの画像中の一部の領域(ブロック)だけを示したものであり、図6(a)は、欠損画素が存在する領域(欠損画像領域)を示し、図6(b)は、欠損画素を補正する上で必要な類似画像領域を示す。類似画像領域そのもの探す処理自体は、後述する具体的な処理構成の中で説明する。
図6(a)及び(b)は、それぞれ1フレームの画像中の一部の領域(ブロック)だけを示したものであり、図6(a)は、欠損画素が存在する領域(欠損画像領域)を示し、図6(b)は、欠損画素を補正する上で必要な類似画像領域を示す。類似画像領域そのもの探す処理自体は、後述する具体的な処理構成の中で説明する。
まず、図6(a)に示すように、欠損画像領域内の特定の1つの画素が、欠損画素P1であり、その欠損画素P1については輝度などのデータがないものとする。このとき、本例においては、その欠損画素に隣接する、所定方向(図6の例では上方向)に隣接する複数の画素を、近傍画素群P10としてあり、近傍画素群P10内の各画素P11〜P17の各色の輝度のデータを記憶する。
図6例では、近傍画素群P10内の各画素P11〜P17と欠損画素P1との位置関係としては、各画素P11〜P17に対して、上側になる7つの方向(図6(a)で矢印で示す7方向)で最短の距離に位置する画素を選ぶようにしてある。
このように欠損画素P1に対する近傍画素群P10を選んだ後に、同一フレーム内で、近傍画素群P10の輝度状態が類似(近似)した画素群を探索する処理を行う。ここで本例の場合には、類似した画素群を探索する範囲として、予め欠損画素の周囲の領域(第1の領域)と類似した領域(第2の領域)を探し出すようにしてあり、その第2の領域を探索する範囲として設定する。
図6の例では、第2の領域からの探索処理で、図6(b)に示した画素群(類似画素群)P20が検出されたものとする。類似画素群P20は、近傍画素群P10と同一の配置関係の複数の画素P21〜P27で構成される画素群である。但し、配置方向は異なる場合がある。
図6の例では、第2の領域からの探索処理で、図6(b)に示した画素群(類似画素群)P20が検出されたものとする。類似画素群P20は、近傍画素群P10と同一の配置関係の複数の画素P21〜P27で構成される画素群である。但し、配置方向は異なる場合がある。
近傍画素群P10に対する類似画素群P20としては、例えば各画素のデータが、赤色R,緑色G,青色Bごとに所定階調の輝度値を持つデータであるとすると、近傍画素群P10内の各画素P11〜P17と、類似画素群P20内の各画素P21〜P27との輝度状態が完全に一致する場合の他に、各色ごとにある程度の階調の範囲で一致する場合も含むものとする。
このようにして類似画素群P20が検出されると、近傍画素群P10と欠損画素P1との位置関係と同様になる位置関係で、類似画素群P20に隣接した推定画素P2を、欠陥画素復元候補画素として取り出す。このようにして取り出した推定画素P2のデータを使用して、欠損画素P1のデータを復元する処理を行う。
また、上述した図4のフローチャートの例では、各方向で探索された画像群の中で、欠損画素の近傍画素に最も近い画素群を第2の領域から選択して、その画素群に隣接した候補画素を、欠損画素の輝度値に選定するようにしたが、各方向で探索された画像群に隣接する候補画素の輝度値を平均化して、その平均化された輝度値を、欠損画素の各色の輝度値とするようにしてもよい。
図5のフローチャートは、この平均化を行う場合の処理例を示したものである。図5のフローチャートにおいて、ステップS11からステップS18は、図4のフローチャートと同様の処理であり、説明を省略する。ステップS17で全ての方向の探索を終了したと判断した場合に、ステップS19′に移り、検出された各方向の類似画素群に隣接する候補画素の平均値を算出する。そして、その算出された平均値を、欠損画素の各色の輝度値に選定し(ステップS20′)、ここでの欠損画素の復元処理を終了する。
この図5のフローチャートに示すように平均化することで、同一画像内の各方向の類似した画素群の平均が得られ、1つの方向だけから検出する場合に比べて、より精度の高い欠損画素補正が可能になる。図5では、各方向の類似した画素群に隣接した候補画素の単純な平均を、各色の輝度値とするようにしたが、各方向の候補画素の輝度値を、輝度の高い順に配列させて、その配列中の予め決めた特定位置の輝度値(例えば中間の配列位置など)を選ぶようにしてもよい。
なお、図6(a)に示した欠損画素及び近傍画素群と図6(b)に示した類似画素群との位置関係は、配列方向が同一の場合(あるいは90°単位でシフトした場合)の例であるが、欠損画素及び近傍画素群と、類似画素群との位置関係(方向)がπ/4回転(45°シフト)している場合には、類似画素群は例えば図7に示す配列の類似画素群P20′で探索すればよい。この図7の類似画素群P20′の場合でも、それぞれの画素P21〜P27は、推定画素P2に対して、各方向で最短の距離に位置する画素である。45°シフトした場合から90°ずつシフトした135°,225°,315°のシフト位置の場合も同様の位置関係で設定可能である。
図4又は図5のフローチャートに示した処理で、欠損画素の補正値を得る処理を行うことで、欠損画素の近傍の画素群の状態と近似した画素群が探索されて、その探索された画素群から欠損画素の各色の輝度値を推定する処理を行うようにしたので、非常に精度の高い欠損画素補正が行える。しかも、複数の方向から類似画素群を抽出して、欠損画素を推定するので、同一画像中の各方向の類似成分から、欠損画素が推定される。
なお、欠損画素が複数隣接して存在する場合には、それぞれの欠損画素について、隣接画素群を判断して、それぞれの隣接画素群に基づいて欠損画素を判断すればよい。即ち、例えば図8に示すように、2つの欠損画素P1,P1′が連続して存在する場合には、まず1つの欠損画素P1について、その隣接画素群P10を抽出して、類似画素群から欠損画素P1を推定する処理を上述した処理で行った後、別の欠損画素P1′について、その隣接画素群P10′を抽出して、類似画素群から欠損画素P1′を推定する処理を同様に行うようにすればよい。欠損画素がある程度の面積で連続してある場合には、その欠損した画素群で構成される欠損範囲の外縁部に位置する画素から順に、隣接画素群を取り出して推定する処理を行い、順に内側の画素の処理に移って行くようにすれば、対処可能である。この場合、欠損範囲の内側の画素の推定時には、その画素の隣接画素群の中の画素の一部又は全てが、先に行われた欠損画素の推定処理で推定された画素である場合がある。
また、ここまで説明した1フレームの画像データを符号化するデータ構成としては、例えば図9に示すように、1フレーム内を複数のブロックb11〜b19,b21〜b29,b31〜b39,‥‥‥で構成し、それぞれのブロック内に縦横所定数にマトリクス状に画素が配置されている構成が想定される。このような場合、いずれかのブロックの特定画素に欠損がある場合には、類似領域の探索処理として、ブロック単位で探索する場合と、各ブロックの境界を跨ぐようにしてブロック位置に関係なく1フレーム内の全ての画素から類似画素群を探索する場合のいずれでもよい。即ち、図2のフローチャートで説明した第1の領域や第2の領域を設定する際に、この符号化の単位のブロック(1つのブロック又は隣接する複数のブロック)を利用して設定するか、或いは、符号化のブロックとは無関係に、常に欠損画素などを中心とした領域を設定する場合でも、いずれでもよい。
図4又は図5のフローチャートの説明では、近傍画素群と類似した画素群の探索方向を複数設定すると説明したが、次に、その複数の探索方向の具体的な設定例を、図10及び図11を参照して説明する。図10(a)〜(h)は、8方向に探索方向を設定する場合のそれぞれの例を示したものである。
図10(a)は、上から水平に探索を行う場合の例である。この図10(a)の例の場合には、類似画素群P20と推定画素P2との位置関係は、図11(a)に示す位置関係となる。
図10(b)は、右上から斜めに探索を行う場合の例である。この図8(b)の例の場合には、類似画素群P20と推定画素P2との位置関係は、図9(b)に示す位置関係となる。
図10(c)は、左側から垂直に探索を行う場合の例である。この図10(c)の例の場合には、類似画素群P20と推定画素P2との位置関係は、図11(c)に示す位置関係となる。
図10(d)は、左下から斜めに探索を行う場合の例である。この図8(d)の例の場合には、類似画素群P20と推定画素P2との位置関係は、図11(d)に示す位置関係となる。
図10(e)は、右側から垂直に探索を行う場合の例である。この図10(e)の例の場合には、類似画素群P20と推定画素P2との位置関係は、図11(e)に示す位置関係となる。
図10(f)は、下から水平に探索を行う場合の例である。この図8(f)の例の場合には、類似画素群P20と推定画素P2との位置関係は、図9(f)に示す位置関係となる。
図10(g)は、左上から斜めに探索を行う場合の例である。この図10(g)の例の場合には、類似画素群P20と推定画素P2との位置関係は、図11(g)に示す位置関係となる。
図10(h)は、右から斜めに探索を行う場合の例である。この図10(h)の例の場合には、類似画素群P20と推定画素P2との位置関係は、図11(h)に示す位置関係となる。
このように8つの方向について類似画素群と推定画素を探索することで、欠損画素を復元するための探索が多くの方向で行われ、非常に精度のよい欠損画素の推定が可能になる。なお、この図10及び図11に示した8つの方向の探索を行うのは一例であり、例えばπ/2ずつ回転させた4つの方向の探索だけを行うようにしてもよい。
図10(a)は、上から水平に探索を行う場合の例である。この図10(a)の例の場合には、類似画素群P20と推定画素P2との位置関係は、図11(a)に示す位置関係となる。
図10(b)は、右上から斜めに探索を行う場合の例である。この図8(b)の例の場合には、類似画素群P20と推定画素P2との位置関係は、図9(b)に示す位置関係となる。
図10(c)は、左側から垂直に探索を行う場合の例である。この図10(c)の例の場合には、類似画素群P20と推定画素P2との位置関係は、図11(c)に示す位置関係となる。
図10(d)は、左下から斜めに探索を行う場合の例である。この図8(d)の例の場合には、類似画素群P20と推定画素P2との位置関係は、図11(d)に示す位置関係となる。
図10(e)は、右側から垂直に探索を行う場合の例である。この図10(e)の例の場合には、類似画素群P20と推定画素P2との位置関係は、図11(e)に示す位置関係となる。
図10(f)は、下から水平に探索を行う場合の例である。この図8(f)の例の場合には、類似画素群P20と推定画素P2との位置関係は、図9(f)に示す位置関係となる。
図10(g)は、左上から斜めに探索を行う場合の例である。この図10(g)の例の場合には、類似画素群P20と推定画素P2との位置関係は、図11(g)に示す位置関係となる。
図10(h)は、右から斜めに探索を行う場合の例である。この図10(h)の例の場合には、類似画素群P20と推定画素P2との位置関係は、図11(h)に示す位置関係となる。
このように8つの方向について類似画素群と推定画素を探索することで、欠損画素を復元するための探索が多くの方向で行われ、非常に精度のよい欠損画素の推定が可能になる。なお、この図10及び図11に示した8つの方向の探索を行うのは一例であり、例えばπ/2ずつ回転させた4つの方向の探索だけを行うようにしてもよい。
図12は、本例の欠損画素復元処理を実際の画像に対して適用した例を示したものである。図12(a)は、欠損のない原画像を示し、この原画像に擬似的に欠損領域(白く抜けた領域)を設けたものが、図12(b)の例である。この図12(b)に示すように欠損のある画像に対して、従来から提案されている欠損画素復元処理を適用した1つの例が、図12(c)である。そして、図12(b)に示すように欠損のある画像に対して、本例の欠損画素復元処理を適用した例が、図12(d)の画像である。この例では、それぞれの欠損領域は、ある程度の面積を持つ複数画素で構成される領域となっている。
図12(c)の従来手法の画像と、図12(d)の本例の手法による画像とを比較すると判るように、本例の手法の方が良好な復元が行われている。例えば、補正前の画像である図12(b)の画像に丸で囲って示すように、左上の欠損領域の補正状態に注目すると、図12(c)に示す従来手法の画像では、縞模様が乱れた状態で復元されているのに対して、図12(d)に示す本例の手法での復元画像では、図12(a)に示す原画像とほぼ同様の縞模様が復元され、非常に精度の高い復元が行われていることが判る。他の欠損領域についても同様である。
図12の例では、画素が欠落した場合の例であるが、例えば原画像にスーパーインポーズされた文字などを消去するために、その文字の領域を欠損画素領域として、文字が消された画像を復元する処理にも適用可能である。
なお、上述した実施の形態の説明で、図6や図7に示した類似画素群や近傍画素群の画素範囲については、一例を示したものであり、その他の画素の組み合わせで、類似画素群や近傍画素群を設定するようにしてもよい。
また、上述した実施の形態では、欠陥画素の復元を行う装置を、図1に示した欠損画像復元処理構成で行うようにしたが、この構成は一例であり、同様な画像処理を行う他の装置構成としてもよい。また、コンピュータ装置に上述した処理を行うソフトウェア(プログラム)をインストールして、そのコンピュータ装置に入力した欠陥画素の復元を行うようにしてもよい。そのソフトウェアについては、各種ディスクなどの記憶媒体を使用して配布する他に、インターネットなどの通信手段を介してダウンロードさせるようにしてもよい。
11…画像入力端子、12…画像入力部、13…画像処理部、14…フレームメモリ、15…画像出力部、16…画像出力端子、17…制御部、18…操作部、19…表示部、P1…欠損画素、P2…推定画素、P10…近傍画素群、P20…類似画素群
Claims (5)
- 画像データ中の欠損画素の位置を特定し、
前記特定した欠損画素とその周辺の画素を含む第1の領域を抽出し、
前記抽出した第1の領域での画素配列と類似した領域を、前記画像データから検出し、検出された類似領域を、第2の領域として抽出し、
前記第1の領域内の前記特定された欠損画素位置の所定方向の複数の近傍画素の輝度値を判断し、
前記第2の領域内の画素の中で、前記判断した複数の近傍画素の輝度値配列に近い輝度値配列の画素の組を類似画像領域として抽出し、
前記第1の領域の複数の近傍画素と前記欠損画素との位置関係と同様の位置関係で、前記抽出された第2の領域の特定の画素を目標画素として取り出し、
前記取り出した前記第2の領域の目標画素の輝度値を、前記第1の領域の欠損画素の輝度値とすることを特徴とする
画像修復方法。 - 請求項1記載の画像修復方法において、
前記第2の領域の類似画像領域は、前記第1の領域の複数の近傍画素の配列方向とは異なる方向からも抽出することを特徴とする
画像修復方法。 - 請求項2記載の画像修復方法において、
前記第2の領域の複数の配列方向の類似画像領域ごとに得られた目標画素の輝度値の平均を、前記1の領域の欠損画素の輝度値としたことを特徴とする
画像修復方法。 - 請求項1記載の画像修復方法において、
欠損画素に対する複数の近傍画素は、欠損画素の上下左右のいずれか1つの方向の近傍の画素であることを特徴とする
画像修復方法。 - 画像データ中の欠損画素の位置を特定し、その特定した欠損画素とその周辺の画素を含む第1の領域を抽出する欠損画素領域抽出手段と、
前記欠損画素領域抽出手段で抽出された第1の領域での画素配列と類似した領域を、前記画像データから検出し、検出された類似領域を、第2の領域として抽出する類似領域抽出手段と、
前記欠損画素領域抽出手段で抽出された第1の領域中の欠損画素位置の所定方向の複数の近傍画素の輝度値を判断する近傍画素判断手段と、
前記第2の領域中の画素の中で、前記近傍画素判断手段が判断した複数の近傍画素の輝度値配列に近い輝度値配列の画素の組を類似画像領域として抽出する類似画像領域抽出手段と、
前記第1の領域での複数の近傍画素と欠損画素との位置関係と同様の位置関係で、前記類似画像領域抽出手段が抽出した第2の領域の特定の画素を目標画素として取り出し、その取り出した目標画素の輝度値を、前記欠損画素の輝度値とする欠損画素値設定手段とを備えることを特徴とする
画像修復装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007142444A JP2008300990A (ja) | 2007-05-29 | 2007-05-29 | 画像修復方法及び画像修復装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007142444A JP2008300990A (ja) | 2007-05-29 | 2007-05-29 | 画像修復方法及び画像修復装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2008300990A true JP2008300990A (ja) | 2008-12-11 |
Family
ID=40174120
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2007142444A Pending JP2008300990A (ja) | 2007-05-29 | 2007-05-29 | 画像修復方法及び画像修復装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2008300990A (ja) |
Cited By (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2011061943A1 (ja) * | 2009-11-20 | 2011-05-26 | 日本電気株式会社 | 画像修復システム、画像修復方法及び画像修復プログラム |
JPWO2009142333A1 (ja) * | 2008-05-22 | 2011-09-29 | 国立大学法人 東京大学 | 画像処理方法、画像処理装置及び画像処理プログラム並びに記憶媒体 |
KR101075716B1 (ko) * | 2009-01-14 | 2011-10-21 | 삼성전자주식회사 | 이미지 복원 장치 및 방법 |
KR101142739B1 (ko) | 2009-10-29 | 2012-05-03 | 삼성전자주식회사 | 검색 영역을 제한한 이미지 복원 장치 및 방법 |
JP2014000686A (ja) * | 2012-06-15 | 2014-01-09 | Fujifilm Corp | 画像処理装置及び方法、プログラム、印刷システム並びに印刷物の製造方法 |
JP2014027373A (ja) * | 2012-07-24 | 2014-02-06 | Olympus Corp | 画像処理装置、画像処理方法及び画像処理プログラム |
WO2014155913A1 (ja) * | 2013-03-25 | 2014-10-02 | パナソニック株式会社 | 画像補間装置、画像処理装置および画像補間方法 |
KR20150035195A (ko) * | 2013-09-27 | 2015-04-06 | 삼성전자주식회사 | 선택적 검색을 이용한 패치 기반 영상 처리 방법 및 영상 처리 장치 |
US9230309B2 (en) | 2013-04-05 | 2016-01-05 | Panasonic Intellectual Property Management Co., Ltd. | Image processing apparatus and image processing method with image inpainting |
JP2016192662A (ja) * | 2015-03-31 | 2016-11-10 | 株式会社シグマ | 撮像装置及び欠陥画素補正方法 |
US9495757B2 (en) | 2013-03-27 | 2016-11-15 | Panasonic Intellectual Property Management Co., Ltd. | Image processing apparatus and image processing method |
US9530216B2 (en) | 2013-03-27 | 2016-12-27 | Panasonic Intellectual Property Management Co., Ltd. | Image processing apparatus and image processing method |
JP2020010986A (ja) * | 2018-07-20 | 2020-01-23 | 株式会社トーメーコーポレーション | 眼科装置 |
-
2007
- 2007-05-29 JP JP2007142444A patent/JP2008300990A/ja active Pending
Cited By (20)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPWO2009142333A1 (ja) * | 2008-05-22 | 2011-09-29 | 国立大学法人 東京大学 | 画像処理方法、画像処理装置及び画像処理プログラム並びに記憶媒体 |
KR101075716B1 (ko) * | 2009-01-14 | 2011-10-21 | 삼성전자주식회사 | 이미지 복원 장치 및 방법 |
US8355593B2 (en) | 2009-01-14 | 2013-01-15 | Samsung Electronics Co., Ltd | Image restoring apparatus and method thereof |
US8437567B2 (en) | 2009-10-29 | 2013-05-07 | Samsung Electronics Co., Ltd | Image inpainting apparatus and method using restricted search region |
KR101142739B1 (ko) | 2009-10-29 | 2012-05-03 | 삼성전자주식회사 | 검색 영역을 제한한 이미지 복원 장치 및 방법 |
JP5673550B2 (ja) * | 2009-11-20 | 2015-02-18 | 日本電気株式会社 | 画像修復システム、画像修復方法及び画像修復プログラム |
US8798373B2 (en) | 2009-11-20 | 2014-08-05 | Nec Corporation | Image restoration system, image restoration method, and image restoration program |
WO2011061943A1 (ja) * | 2009-11-20 | 2011-05-26 | 日本電気株式会社 | 画像修復システム、画像修復方法及び画像修復プログラム |
JP2014000686A (ja) * | 2012-06-15 | 2014-01-09 | Fujifilm Corp | 画像処理装置及び方法、プログラム、印刷システム並びに印刷物の製造方法 |
JP2014027373A (ja) * | 2012-07-24 | 2014-02-06 | Olympus Corp | 画像処理装置、画像処理方法及び画像処理プログラム |
US9361673B2 (en) | 2013-03-25 | 2016-06-07 | Panasonic Intellectual Property Management Co., Ltd. | Image interpolation device, image processing device, and image interpolation method |
WO2014155913A1 (ja) * | 2013-03-25 | 2014-10-02 | パナソニック株式会社 | 画像補間装置、画像処理装置および画像補間方法 |
JPWO2014155913A1 (ja) * | 2013-03-25 | 2017-02-16 | パナソニックIpマネジメント株式会社 | 画像補間装置、画像処理装置および画像補間方法 |
US9495757B2 (en) | 2013-03-27 | 2016-11-15 | Panasonic Intellectual Property Management Co., Ltd. | Image processing apparatus and image processing method |
US9530216B2 (en) | 2013-03-27 | 2016-12-27 | Panasonic Intellectual Property Management Co., Ltd. | Image processing apparatus and image processing method |
US9230309B2 (en) | 2013-04-05 | 2016-01-05 | Panasonic Intellectual Property Management Co., Ltd. | Image processing apparatus and image processing method with image inpainting |
KR20150035195A (ko) * | 2013-09-27 | 2015-04-06 | 삼성전자주식회사 | 선택적 검색을 이용한 패치 기반 영상 처리 방법 및 영상 처리 장치 |
KR102138789B1 (ko) | 2013-09-27 | 2020-08-11 | 삼성전자주식회사 | 선택적 검색을 이용한 패치 기반 영상 처리 방법 및 영상 처리 장치 |
JP2016192662A (ja) * | 2015-03-31 | 2016-11-10 | 株式会社シグマ | 撮像装置及び欠陥画素補正方法 |
JP2020010986A (ja) * | 2018-07-20 | 2020-01-23 | 株式会社トーメーコーポレーション | 眼科装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2008300990A (ja) | 画像修復方法及び画像修復装置 | |
US20170243562A1 (en) | Controller for compensating mura defects, display apparatus having the same, and method for compensating mura defects | |
KR102656196B1 (ko) | 디스플레이 구동 회로, 그것의 동작 방법, 및 디스플레이 패널의 얼룩을 보상하기 위한 정보를 추출하도록 구성된 광학-기반 얼룩 검사 장치의 동작 방법 | |
US7589770B2 (en) | Dead pixel real-time detection method for image | |
US8798361B2 (en) | Mapping colors of an image | |
US8599270B2 (en) | Computing device, storage medium and method for identifying differences between two images | |
CN113379680B (zh) | 缺陷检测方法、装置、电子设备和计算机可读存储介质 | |
JP4908440B2 (ja) | 画像処理装置及び方法 | |
CN111127376B (zh) | 一种数字视频文件修复方法及装置 | |
RU2598899C1 (ru) | Устройство и способ обработки изображения | |
CN110853105B (zh) | Rgb子像素同时定位的方法、装置及应用 | |
CN113012096B (zh) | 显示屏子像素定位及亮度提取方法、设备以及存储介质 | |
CN116503414B (zh) | 屏幕缺陷检测方法、装置、计算机设备和存储介质 | |
JP2020174320A (ja) | 映像修復システム、映像修復方法及びプログラム | |
JP2007194838A (ja) | 欠損画像復元方法及び装置 | |
JP5899475B2 (ja) | 画像処理装置、画像処理方法、及び画像処理プログラム | |
JP2019012424A (ja) | 画像処理装置、および、コンピュータプログラム | |
CN112734719B (zh) | 一种图像传感器的坏点检测方法、存储介质以及拍摄装置 | |
US7336398B2 (en) | Error prediction method for halftone processing | |
CN111768357B (zh) | 一种图像检测的方法及装置 | |
CN107305683A (zh) | 图像处理方法、图像处理设备及图像处理装置 | |
US6611562B1 (en) | Image processing device and image processing method, and computer-readable recorded medium | |
CN106777280B (zh) | 基于超大数据集的数据处理方法及装置 | |
US8308064B2 (en) | Barcode evaluation method and barcode evaluation apparatus | |
JP2017027363A (ja) | 映像処理装置、映像処理方法、及びプログラム |