JP2016220197A - 映像ノイズ分析装置、残留ポイント・ノイズ検出方法及び欠陥画素検出方法 - Google Patents

映像ノイズ分析装置、残留ポイント・ノイズ検出方法及び欠陥画素検出方法 Download PDF

Info

Publication number
JP2016220197A
JP2016220197A JP2016075504A JP2016075504A JP2016220197A JP 2016220197 A JP2016220197 A JP 2016220197A JP 2016075504 A JP2016075504 A JP 2016075504A JP 2016075504 A JP2016075504 A JP 2016075504A JP 2016220197 A JP2016220197 A JP 2016220197A
Authority
JP
Japan
Prior art keywords
pixels
pixel
video
block
candidate list
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016075504A
Other languages
English (en)
Other versions
JP6755110B2 (ja
Inventor
ジー・ユアン
Jie Yuan
オンカー・ナス・ティワリ
Nath Tiwari Onkar
アービンド・ナヤック
Nayak Arvind
ジー・ヴィ・ヴァラップラサド
V Varaprasad G
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tektronix Inc
Original Assignee
Tektronix Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tektronix Inc filed Critical Tektronix Inc
Publication of JP2016220197A publication Critical patent/JP2016220197A/ja
Application granted granted Critical
Publication of JP6755110B2 publication Critical patent/JP6755110B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N17/00Diagnosis, testing or measuring for television systems or their details
    • H04N17/002Diagnosis, testing or measuring for television systems or their details for television cameras
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/40Scenes; Scene-specific elements in video content
    • G06V20/46Extracting features or characteristics from the video content, e.g. video fingerprints, representative shots or key frames
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20021Dividing image into blocks, subimages or windows
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20024Filtering details
    • G06T2207/20032Median filtering
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30168Image quality inspection

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Quality & Reliability (AREA)
  • Multimedia (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Biology (AREA)
  • General Health & Medical Sciences (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Evolutionary Computation (AREA)
  • General Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Artificial Intelligence (AREA)
  • Signal Processing (AREA)
  • Image Analysis (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Picture Signal Circuits (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Studio Devices (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

【課題】映像中の残留ポイント・ノイズを効果的に検出する。【解決手段】映像ノイズ分析装置520は、時間的不変値検出部550と空間的異常値検出部540の結果を合わせて、欠陥画素候補のリストを生成する。データ構造記憶部532は、欠陥画素の候補又は欠陥画素の候補が選択されたブロックの特徴を記述するデータを記憶する。欠陥画素候補のリストに含まれる画素について、更に、近隣画素から大幅に輝度が異なって目立っている画素をチェックして、欠陥画素を特定する。【選択図】図7

Description

本発明は、映像の分析に関し、特に、映像のフレーム中の欠陥画素や映像生成デバイスの欠陥画素を検出するための装置及び方法に関する。
欠陥(又はデッド)画素とは、映像クリップ中で一貫して隣接する画素から目立ってしまう画素のことである。欠陥ホット・画素とは、輝度レンジの明るい側の端部に張り付いてしまうものであり、欠陥コールド・画素は輝度レンジの暗い側の端部に張り付いてしまうものであり、両方ともに、映像シーンの適切な色を表すことができない。カメラの元々のコンテンツ中において、欠陥画素には非常にシャープなエッジ、つまり、隣接する画素に対して高いコントラストがある。カメラの元々のコンテンツ中における欠陥画素は、半導体イメージ・センサ中の特定部分における問題、つまり、センサ表面上の埃や汚れによって生じることがある。こうした欠陥画素は、連続する複数のイメージ又はフレームに渡って、一様な輝度レベルを生成することがあり、記録された映像中に残留ポイント・ノイズ(残留ポイント・ノイズ:RPN)を生じさせる。多くの場合、RPNスポットには、水平及び垂直方向の一方又は両方に、数個のデッド又は破損画素があり、これらは適切な色を再現できない。もしこうした映像がサブ・サンプルされたり、処理されたりすると、欠陥画素は、通常、ぼやけて、元々のカメラ出力の欠陥画素ほどにはシャープではなくなる。
理論上は、こうした欠陥画素のルミナンスは、その近隣画素よりも大幅の小さいか又は大きいものとなり得る。暗い映像シーンでは、欠陥ホット・画素は、近隣の欠陥のない画素よりも大幅に明るく現れ、明るい映像シーンでは、欠陥コールド・画素は、近隣の欠陥のない画素よりも大幅に暗く現れることがあり得る。また、理論上は、欠陥画素のRGBの値は変化せず、各欠陥画素は、1映像シーン(1ショット)の最初から最後まで存在しているはずである。
特開2006−211069号公報
Toshitaka Ikumo、「The Basics of Camera Technology」、MK10088V1KYP03NOV、ソニー株式会社、2003年9月22日、19頁、「RPN(Residual Point Noise)」の項目 「ピーク信号対雑音比」の記事、[online]、Wikipedia(日本語版)、[2016年4月4日検索]、インターネット<URL:http://ja.wikipedia.org/wiki/ピーク信号対雑音比> 「structural similarity」の記事、[online]、Wikipedia(英語版)、[2016年4月4日検索]、インターネット<URL:https://en.wikipedia.org/wiki/Structural_similarity> 「アフィン写像」の記事、[online]、Wikipedia(日本語版)、[2016年4月4日検索]、インターネット<URL:http://ja.wikipedia.org/wiki/アフィン写像>
しかし、現実の映像クリップ、特に、放送目的の映像クリップでは、欠陥画素のRGB値が変化することがあり、その映像の別々の期間中に、欠陥画素が現れたり、消えたりすることがある。これは、コード変換処理、アップ・コンバーション(スケール調整)処理、又は、映像コンテンツの特性が原因となり得る。また、これは、映像クリップが複数の映像信号源から組み立てられたもので、ある映像信号源には、複数の欠陥画素の第1グループがあり、別の映像信号源には、別の複数の欠陥画素の第2グループがある、という場合にも起こり得る。こうした場合において得られる映像には、瞬間的に現れたり、消えたりする欠陥画素があるように見える。欠陥画素のある映像クリップがコ―ド変換されるか、又は、アップ・コンバートされた場合、得られる映像クリップ中の補完された上記欠陥画素及びその近隣の画素は、いくらかぼんやりする。この補完処理は、通常、重み付け平均化処理、つまり、補完されるポイントの近隣の複数画素でRGBの値の平均値を求め、この平均値が補完されたポイントに割り当てられる。場合によっては、欠陥画素の背景が非常に明るいことがあり、そのため、欠陥画素が目立ちにくく、期間によっては存在しないように見えることがある。
RPN検出は、典型的には、空間的異常値及び時間的不変性検出問題として定義できる。ある映像における全画素位置に渡る個々の画素位置において、こうした計算を行うのには、映像中の大多数の画素に比較して、極わずかの画素だけに欠点があるのが通常であることを考えると、演算リソースの利用の点で合理的でなく、こうしたやり方でRPNを検出するのは効率的でない。
本発明の実施形態は、従来技術の上述の問題やその他の問題を解決しようとするものである。
本発明をいくつかの観点から見ていくと、次のように表現できる。
本発明の概念1は、残留ポイント・ノイズを検出する映像ノイズ分析装置であって、
分析する映像を受ける入力部と、
隣接する2つのフレームの同じブロックの画素間の差分を求め、上記フレーム間で比較的変化率の低い画素を含む第1画素候補リストを生成するよう構成される時間的不変値検出部と、
隣接する画素から比較的高い輝度レベルの偏差を有する画素を含む第2画素候補リストを生成するよう構成される空間的異常値検出部と、
上記第1画素候補リスト及び上記第2画素候補リストを組み合わせて、ノイズ画素候補リストを生成する合成部と、
上記ノイズ画素候補リスト上の1つ以上の上記画素又は上記ノイズ画素候補リスト上の上記画素が選択されたブロックを記述するデータを収容するよう構成されたデータ記憶部と
を具えている。
本発明の概念2は、上記概念1による残留ポイント・ノイズを検出する映像ノイズ分析装置であって、このとき、上記時間的不変値検出部が、2つの上記隣接するフレームがいつシーン変化の境界にかかるか(境界を通過するか)を検出するのに利用される。
本発明の概念3は、上記概念1による残留ポイント・ノイズを検出する映像ノイズ分析装置であって、このとき、上記空間的異常値検出部が、2乗平方根(RMS)又はメディアン・フィルタ分析を利用する。
本発明の概念4は、上記概念1による残留ポイント・ノイズを検出する映像ノイズ分析装置であって、このとき、上記データ記憶部が、
ブロック輝度範囲サイズと、
ブロック損傷度と、
ブロック検出信頼度と
を含んでいる。
本発明の概念5は、上記概念1による残留ポイント・ノイズを検出する映像ノイズ分析装置であって、上記映像ノイズ分析装置に入力されるフレームのそれぞれについて、画素データの赤コンポーネント・フレームと、画素データの緑コンポーネント・フレームと、画素データの青コンポーネント・フレームとを生成するカラー・スプリッタを更に具えている。
本発明の概念6は、映像中の残留ポイント・ノイズを検出する方法であって、
分析する映像を受ける処理と、
隣接する2つのフレームの同じブロックの画素間の差分を求め、時間的不変値検出を実行する処理と、
上記時間的不変値検出に基いて、上記フレーム間で比較的変化率の低い画素を含む第1画素候補リストを生成する処理と、
隣接する画素から比較的高い輝度レベルの偏差を選択することによって、空間的異常値検出を実行する処理と、
隣接する画素から比較的高い輝度レベルの偏差を用いて選択された上記画素を含む第2画素候補リストを生成する処理と、
上記第1画素候補リスト及び上記第2画素候補リストを組み合わせて、ノイズ画素候補リストを生成する処理と、
上記ノイズ画素候補リスト上の1つ以上の上記画素又は上記ノイズ画素候補リスト上の上記画素が選択されたブロックを記述するデータを記憶するデータ記録を生成する処理と
を具えている。
本発明の概念7は、上記概念6による映像中の残留ポイント・ノイズを検出する方法であって、このとき、シーン変化が発生したときに、上記時間不変値検出を行うことを特徴としている。
本発明の概念8は、上記概念6による映像中の残留ポイント・ノイズを検出する方法であって、このとき、上記空間的異常値検出を実行する処理が、2乗平方根(RMS)又はメディアン・フィルタ分析を実行する処理を有している。
本発明の概念9は、上記概念6による映像中の残留ポイント・ノイズを検出する方法であって、データ記録を生成する処理が、
ブロック輝度範囲サイズを生成する処理と、
ブロック損傷度を生成する処理と、
ブロック検出信頼度を生成する処理と
を含んでいる。
本発明の概念10は、上記概念6による映像中の残留ポイント・ノイズを検出する方法であって、入力されるフレームのそれぞれについて、
画素データの赤コンポーネント・フレームを生成する処理と、
画素データの緑コンポーネント・フレームを生成する処理と、
画素データの青コンポーネント・フレームを生成する処理と
を更に具えている。
本発明の概念11は、映像デバイスから生成された映像を検査することによって、上記映像デバイス中の欠陥画素を検出する映像ノイズ分析装置であって、
分析する映像を受ける入力部と、
入力された上記映像のフレームから、複数画素から成るブロックを複数生成するフレーム分割部と、
ブロック内の画素を、同じブロック内の他の画素の平均値と比較するよう構成される第1目立ち度分析部と、
近接画素から大幅に異なる画素を含む第1画素候補リストを生成する第1しきい値プロセッサと、
上記第1画素候補リストに含まれる画素に関して、対象画素、その近隣画素(第1近隣画素)、該第1近隣画素の近隣画素(第2近隣画素)の間の差分値を生成するよう構成される第2目立ち度分析部と、
所定の頻度しきい値よりも大きい視覚的目立ち度の発生頻度を有する画素を、欠陥画素の候補としてラベルを付ける特定部と
を具えている。
本発明の概念12は、上記概念11による欠陥画素を検出するための映像ノイズ分析装置であって、このとき、上記第1目立ち度分析部は、画素のブロックの標準偏差が所定の異質しきい値を下回る場合にのみ、ブロック内の画素を比較するよう構成される。
本発明の概念13は、上記概念11による欠陥画素を検出するための映像ノイズ分析装置であって、このとき、上記第1目立ち度分析部は、複数のカラー・コンポーネントを合成したものに対して、動作するよう構成される。
本発明の概念14は、上記概念11による欠陥画素を検出するための映像ノイズ分析装置であって、このとき、上記欠陥画素の候補として上記ラベルは、シーン変化の時点でリセットされる。
本発明の概念15は、上記概念11による欠陥画素を検出するための映像ノイズ分析装置であって、このとき、上記近隣画素が、8個、10個、又は12個の画素を含んでいる。
本発明の概念16は、映像デバイスから生成された映像を検査することによって、上記映像デバイス中の欠陥画素を検出する方法であって、
分析する映像を受ける処理と、
入力された上記映像のフレームから、複数画素から成るブロックを複数生成する処理と、
ブロック内の画素を、同じブロック内の他の画素の平均値と比較する第1目立ち度分析を実行する処理と、
近接画素から大幅に異なる画素を含む第1画素候補リストを生成する処理と、
上記第1画素候補リストに含まれる画素に関して、第2目立ち度分析を実行する処理と、
上記第2目立ち度分析に基いて、対象画素、その近隣画素(第1近隣画素)、該第1近隣画素の近隣画素(第2近隣画素)の間の差分値を生成する処理と、
所定の頻度しきい値よりも大きい視覚的目立ち度の発生頻度を有する画素を、欠陥画素の候補として特定する処理と
を具えている。
本発明の概念17は、上記概念16による欠陥画素を検出する方法であって、このとき、このとき、上記第1目立ち度分析が、画素のブロックの標準偏差が、所定の異質しきい値未満の場合にのみ、実行される。
本発明の概念18は、上記概念16による欠陥画素を検出する方法であって、このとき、上記第1目立ち度分析を実行する処理が、複数のカラー・コンポーネントを合成したものに対して実行される。
本発明の概念19は、上記概念16による欠陥画素を検出する方法であって、上記欠陥画素の候補のリストをシーン変化時点でリセットする処理を更に具えている。
本発明の概念20は、上記概念16による欠陥画素を検出する方法であって、このとき、上記第2目立ち度分析が、8個、10個、又は12個の画素に対して実行される。
図1は、本発明の実施形態によって分析される映像を時空間で表したものである。 図2は、本発明の実施形態による残留ポイント・ノイズ(RPN)領域を検出する方法の一例のフローチャートである。 図3Aは、本発明の実施形態による図2のRPN領域検出方法の1ステップの更に詳細な実施形態の例のフローチャートである。 図3Bは、図3AにおけるRPN候補検出ステップの更に詳細な実施形態の例のフローチャートである。 図4は、残留ポイント・ノイズであり得る欠陥画素を検出する本発明の別の実施形態の例によるフローチャートである。 5Aは、本発明の実施形態によるパターン・マッチング処理で使用するパターンの一例を示した図である。 5Bは、本発明の実施形態によるパターン・マッチング処理で使用するパターンの一例を示した図である。 5Cは、本発明の実施形態によるパターン・マッチング処理で使用するパターンの一例を示した図である。 5Dは、本発明の実施形態によるパターン・マッチング処理で使用するパターンの一例を示した図である。 5Eは、本発明の実施形態によるパターン・マッチング処理で使用するパターンの一例を示した図である。 5Fは、本発明の実施形態によるパターン・マッチング処理で使用するパターンの一例を示した図である。 5Gは、本発明の実施形態によるパターン・マッチング処理で使用するパターンの一例を示した図である。 5Hは、本発明の実施形態によるパターン・マッチング処理で使用するパターンの一例を示した図である。 5Iは、本発明の実施形態によるパターン・マッチング処理で使用するパターンの一例を示した図である。 5Jは、本発明の実施形態によるパターン・マッチング処理で使用するパターンの一例を示した図である。 図6は、本発明の実施形態によるサブ・サンプル処理された映像コンテンツの中央の対象画素と比較される画素の種々のレイヤを示した図である。 図7は、本発明の実施形態による検出器の例の機能ブロック図である。
以下では、図面に本発明の実施形態を示して、説明を行う。これら図面は、説明の都合上描いたもので、本発明を図示したものに限定しようとするものではない。本発明は、こうした実施形態に沿って説明されるが、これら説明は、これら特定の実施実施形態に本発明を限定することを意図したものではない。
以下の詳細な説明では、1つ以上の実施形態に言及するが、本発明は、こうした実施形態に限定されるものではない。こうした詳細な説明と、提示する任意の実施形態は、単に説明の都合によるものに過ぎない。当業者であれば、本願で図面に関連して行う詳細な説明は、説明の都合によるものであって、本発明は、これらに制約されるものでないことが理解できよう。
特定システムの要素に言及するのに、特定の用語が利用される。以下の説明及び特許請求の範囲では、「何々を含む」、「何々を具える」といった表現を用いるが、これは、何々を含むが、含むものは、それら何々に限定されるものでないと解釈すべきものである。本願では、「何々に結合される」及び「何々に接続される」といった言い回しが、2つのデバイス、装置、要素、コンポーネントのつながりを表現するのに利用され、特に限定しない限り、物理的、光学的又は電気的に、直接に結合されるか、又は、適切な、例えば、1つ以上の介在要素若しくはコンポーネントを介してか、若しくは、無線若しくは有線接続など介して、間接的に結合されることを意味することを意図する。用語「システム」とは、2つ以上のコンポーネントの集合体のことを意味しており、また、全体のシステム(例えば、通信システム、受信システム、試験システム、コンピュータ・システム、こうしたデバイス/システムのネットワークなど)、もっと大きなシステムの一部分として提供されるサブシステム、こうしたシステム又はサブシステムの動作に関係する処理又は方法を指すために使用することもある。
本願で記述する発明は、理解を助けるために、特定の典型的な詳細な実施形態例を用いて説明される。しかし、開示する発明は、当業者であれば、こうした細部を利用しなくても、実施できるであろう。本発明は、ハードウェアで実現でき、ソフトウェア・アプリケーションを利用する。こうしたハードウェアは、専用に設計されたASIC、専用プロセッサ、ソフトウェアでプログラムされる汎用プロセッサとしても良い。別の実施形態としては、こうしたハードウェアとソフトウェアの組み合わせとしても良い。当業者であれば、本願の開示に基づいて、必要な機能を有するデバイスを制作することは充分に可能であろう。ブロック図に示すコンポーネント及びデバイスは、典型的な本発明の実施形態の説明のためのもので、本発明が分かり難くならなようにしようという意図で示している。また、種々の構成要素間のつながりは、必ずしも直接である必要はなく、これら要素間のデータ転送は、種々の変更が可能である。
明細書で「実施形態」を参照している場合、その実施形態に関連して説明する特定の特徴、構造、特性又は機能が、本発明の少なくとも1つの実施形態に含まれることを意味している。明細書中で「ある実施形態では」と記載したカ所がいくつかあるが、これらは、必ずしも全て同じ実施形態とは限らない。
以下、RPNを利用した欠陥画素を検出する第1実施形態を、図1〜3を参照して説明する。また、RPNを利用した欠陥画素を検出する第2実施形態を、図4〜6を参照して説明する。
図1は、分析対象の映像を本発明の実施形態に従って時空間で表現したものである。被分析映像の例100は、複数の個々のフレーム102〜108から構成される。実際は、映像100中のフレームの個数は、非常に多数であるが、図1の映像100では、代表的なものだけを示す。通常、映像の1秒当たりのフレーム数は、毎秒20〜300フレームのオーダーであるが、特定の特殊なスローモーション映像では、毎秒数万フレームに達することもある。各フレーム、例えば、フレーム102は、マイクロブロックにまとめられた複数の画素を含む。このフレーム102には、行及び列に配列された16個のマイクロブロックがあり、各マイクロブロックは、同じ個数の画素を有している。典型的には、各マイクロブロックが16×16画素としても良いが、画素の個数は、別の値も可能である。また、特定のフレームでは、マイクロブロックの列の数を、その行の数よりも多くすることも可能である。
図2は、映像中の残留ポイント・ノイズ(RPN)領域を検出する本発明の実施形態のフローチャートの例200を示している。フローチャート200は、図1に示した映像100のような分析対象の映像シーケンスを入力するステップ205で始まる。次に、ステップ210では、この映像から、図1のフレーム102のような個々のフレームが選択される。ステップ215では、必要に応じて、選択したフレームについて、YUVからRGBへと変換する。
次に、ステップ220において、フレームは、図1に示したような複数のマイクロブロック(以下、単にブロックとも呼ぶ)に分割される。実施形態によっては、赤(R)、緑(G)及び青(B)の複数の色チャンネルそれぞれ用に、マイクロブロックにも複数のグループがあり、これによって、各色チャンネルを独立して処理し、調べられるようにしても良い。こうして設定したフレーム内の各ブロックの位置は、各ブロックに関する特有のデータを記憶するためのデータ構造に関係している。言い換えると、このデータ構造は、映像の複数フレームに跨がる特定ブロックの位置に関するデータを記憶している。例えば、データ構造には、ブロックが処理されたか否かを示すフラグ、RPNの信頼度(信頼性の目安:confidence measure)を記憶したフィールド、損傷度(severity measure)を記憶したフィールド、輝度範囲サイズ(intensity window measure)を記憶したフィールド、RPNが現れた画素の位置のリストを記憶した1つ以上のフィールド、などが含まれる。実施形態によっては、このデータ構造は、処理が続いている間、継続的に更新され、チェックされる。データ構造にデータを追加し、使用する手法については、以下で更に詳しく説明する。
ステップ225では、各ブロックを処理するループが開始され、初めに、現在処理中のブロックのブロック処理フラグの状態(ステータス)がチェックされる。このブロック処理フラグは、初期設定で、全てのマイクロブロックについて「真(TRUE)」に設定されている。もし処理中のブロックのブロック処理フラグの状態が真ならば、ステップ235において、そのブロックは、RPNについて検査される。これについては、以下で、図3A及び3Bを参照し、更に詳細に説明する。そうではなく、もし処理中のブロックのブロック処理フラグの状態が偽(FALSE)ならば、処理は、ステップ240に進み、次のブロックの処理に入る。即ち、ブロック処理フラグの状態が真ならば、そのブロックについてのRPNの検査が未処理であることを意味する。
ステップ225とステップ240の間におけるブロックの処理は、ステップ245において、処理終了状態に達するまで続く。処理終了状態になる条件としては、例えば、もし映像が最後に達したり、映像がユーザが指定した長さまで処理されたりした場合に、満たされるとしても良い。この映像の長さは、例えば、フレームの数や、映像の時間で指定するようにしても良い。
ステップ250では、特殊な場合のブロックを扱う。特殊な場合の例としては、例えば、ブロック処理フラグが、映像の分析対象とした長さの最初から最後まで、ずっと真であり続けた場合がある。これは、そのブロックが、フレームの静的な領域の部分であった場合に起こり得る。フレームの静的な領域が生じる映像の例としては、レター・ボックス(上下に余白部分がある)、サイドパネル(ピラー・ボックスとも呼ぶ:左右に余白部分がある)、カラー・バー、ブラック・フレーム、静的なシーン、などがある。また、そのブロックにおいて、RPN画素の数の方が優勢である場合にも、真であり続けることが起こり得る。これらの場合の両方において、ステップ250では、特殊な処理を起動するようにしても良い。特殊処理の一例としては、映像を処理した長さ全体でブロック処理フラグが真だった複数のブロックの領域をつなげて、調査するものがある。これら領域の全体の領域が、処理されたフレームの大きさと比較される。映像を処理した長さ全体でブロック処理フラグが真だった複数のブロックの領域をつなげたときのトータルの領域が、フレーム全体の大きさの0.01%を下回る場合、もしシーンの変化がなかったとすれば、それらブロックは、RPNを含むとしてマークを付ける。
そのブロックの平均輝度の時間的な変化をトラッキング(追跡観測)することで、シーンの変化があったことが判明するかもしれない。例えば、もし平均輝度が、輝度レンジ(例えば、8ビットで画素を表現する場合、0〜255の輝度レンジ)の5%以上変化すると、シーン変化があったと判断される。
図3A及び3Bは、本発明の実施形態による残留ポイント・ノイズ(RPN)を検出する方法の例のフローチャートを示す。つまり、図3A及び3Bは、図2のステップ235におけるRPN検出を実行する方法の例を示している。
フローチャート300は、ステップ300の開始動作で始まり、次に、ステップ310において、概略を上述したように、シーン変化があったか否か判断される。シーン変化があったと判断されると、ステップ315において、図3Bに詳細に示すように、RPNの候補が検出される。空間的異常値検出処理315Aは、RMS(Root Mean Square:2乗平方根)をベースとするものか、又は、メディアン・フィルタ処理(周知のノイズ除去手法の1つ)したバージョンを生成し、続いて、処理中の画素に関して、メディアン・フィルタ処理バージョンとの差分を得るとしても良い。例えば、任意の時点又はフレームにおいて、各ブロックが、輝度に関して、極わずかな偏差しかないと仮定する。このとき、もっと小さいサイズのブロックについて検討すれば、もっと大きい近隣の画素の一部分として考えた場合と反対に、RPNが現れている画素は、少ない個数の近隣の画素と比較すれば、統計的に突出するであろう。よって、よりサイズの小さいブロックを使うことで、より正確な空間的異常値検出を行える可能性が高くなる。しかし、小さなブロック・サイズを利用するリスクとしては、特に、まれであるが、多数のRPN画素がそのブロックに集中している場合に、RPN画素が、そのブロックの統計的な特性に関して支配的になっている可能性があることである。多くの場合、16×16画素のブロック・サイズが利用されるが、このサイズは、映像圧縮処理における典型的なブロック・サイズなので、効果的である。
もう1つの処理315Bでは、時間的な変化(時間的difference)に基づいて、時間的不変値検出を行う。特に、ブロック・レベルでのシーン変化において、RPN画素は、近隣の画素から突出する(目立つ)可能性が高いので、こうした場合に、時間的不変値検出が活用される。言い換えると、シーン変化を通過するフレームのブロック内の画素が、例えば、差分を取る方法で、互いに比較され、ゼロか又はゼロに近い値を探し出す。RPN画素は、シーン変化において目立つ傾向にある。つまり、ブロック内の他の多くの画素がシーン変化によって変化するが、こうした画素の輝度レベルは、ほぼ変化しない。
実施形態によっては、空間的異常値検出方法と時間不変値検出方法の両方を用いて、RPNであると疑われる候補だけを、ステップ315C及び315Dに示すように、RPN候補画素リストに追加する。別の実施形態では、空間的異常値検出モードと時間不変値検出モードのどちらかだけの候補を用いるようにしても良い。ただし、この方法によれば、先の結合させる方法と比較して、選別が緩くなり、偽の応答の数がもっと多くなる
図3Aに戻ると、次のステップ320では、そのブロック内の特定の画素がRPNの兆候を示しているか判断するのを補助するために、データを累積する。こうしたデータについて、先に簡単に説明したが、ここで更に詳しく説明する。RPN検出の信頼度は、各ブロックについて、次の数式1を用いて求めても良い。
Figure 2016220197
損傷度は、各ブロックについて、次の数式2を用いて求めても良い。
Figure 2016220197
輝度範囲サイズは、各ブロックでシーン変化の間に見られた平均輝度レベルのダイナミック・レンジを追跡(観測)したものとしても良い。もしそのブロックに充分なダイナミック・レンジがあることが測定されて、かつ、RPNらしきものが存在していると観測されたのなら、その疑わしい画素は、RPN画素である可能性が一層高まるので、RPN画素の可能性が高いとしてフラグを立てる。ステップ325における輝度範囲サイズを求める1つの方法は、ブロックについて計算された平均輝度レベルの時間的な最大値及び最小値の差を利用するものである。あるブロックが、例えば、そのブロックの輝度レベルのレンジの40%より高い輝度範囲サイズを有していたら、そのブロック処理フラグは、ステップ345において、偽(false)の状態に設定される。
ステップ325の後、処理フローは、ステップ330へと続き、ここでは、現在処理中のブロックの各画素を、ステップ335でRPN画素であるとして分類するか、又は、ステップ340でRPN画素ではないとして分類する。こうした判断を行うため、データ構造中に蓄積したデータが調べられ、種々のしきい値と比較される。データがしきい値の1つを超えると、現在処理中のブロック内のその画素がステップ335においてRPN画素として分類され、これらしきい値の全てを超えないと、ステップ340においてRPN画素ではないとして分類される。すると、処理フローは、図2に示したフロー200へと戻る。RPNの潜在的な発生源と識別された各画素について、ステップ255において、ユーザに提供されるレポートが生成される。ステップ255で生成されるレポートは、上述のように、RPNを示していると特定された画素についてのデータと、画素の各ブロックとに関して蓄積したデータを含む。例えば、このレポートは、RPN画素の位置のリスト、ブロック中のどのくらいの数の画素がRPN特性を示しているかという損傷度、各ブロックについてのRPN検出の信頼度、そして、各ブロックについての輝度範囲サイズ(intensity window measure)を含んでいる。もちろん、検出システムで生成された他のデータも合わせて、ユーザに提供しても良い。
図4、5A〜5J及び6は、結果として残留ポイント・ノイズとなり得る欠陥画素を検出する方法の本発明による別の実施形態例を示している。上述のように、欠陥画素(defective or dead pixels)の最も重要な2つの特徴としては、空間的な異常値特性と、時間的な異常値特性とがある。空間的な異常値特性は、欠陥画素と、その近隣の画素との間の高いコントラストとして示され、時間的異常値は、ある1シーン内のほとんどの時間について、欠陥画素がそのままの状態であり続ける(変化がない)ということによって示される。これら2つの特徴は、人の注目を引くものであり、同時に欠陥画素を検出するのに利用される。
概略としては、この検出手法では、視覚的に静的ないくつかのポイント(画素)を候補として特定し(これをレベル1検出と呼ぶ)、続いて、そのシーン全体を通して、特定された画素の目立つ特性を追跡(トラッキング)して測定する(これをレベル2検出と呼ぶ)。その追跡結果は、トラッキング・マップに蓄積され、ここに映像フレームの各画素の測定デ―タが入力される。1つのショット又はシーンの最後において、トラッキング・マップが分析され、各画素について、視覚的に目立つ特性の発生頻度がチェックされる。ある画素について、視覚的に目立つ特性が生じている時間が、そのシーンの全時間中の、例えば、70%を超える場合に、その画素は欠陥画素として分類される(マークが付けられる)。この特定の比率は、70%に限らず、動作環境に応じて、例えば、40%〜90%の範囲で調整しても良い。
最初に、レベル1の視覚的に目立つ特性を生成するため、平均RGBと、標準及び絶対偏差が、各ブロックについて求められる。先の実施形態と違って、この実施形態では、RGBコンポーネントは、個別に検討するのではなくて、合成される。1つの実施形態例では、1つのブロック又は複数画素から構成される1つのグループの平均RGBを求めるため、最初のステップとして、コンポーネント(R、G、B)それぞれに関するカラー値を合計し、合計R(赤)値、合計G(緑)値、合計B(青)値を得る。次に、合計R(赤)値、合計G(緑)値、合計B(青)値は、そのブロック又はグループ内の画素の総数で割り算される。これらの得られた値を平均すると、平均RGBが得られる。実施形態によっては、このRGBの計算は、RGB24又はBGR24に変換された画素の値に対して実行される。
標準偏差は、数式3を用いて計算できる。
Figure 2016220197
シグマ(Sigma)は、標準偏差のスカラー値である。もし特定のブロックの標準偏差シグマが、異質しきい値よりも大きかった場合には、そのブロックは無視される。これは、異質しきい値よりも大きい標準偏差は、そのブロックが、映像フレームの異質領域(ここでは、画素が他とは大幅に異なる)にあることを示している可能性が高いからである。この異質しきい値は、経験に基いて定めても良い。例えば、この異質しきい値は、24〜32の間にあり、特に28としても良い。
元々のカメラのコンテンツについて、もし現在処理中のブロックの標準偏差(シグマ)が、レベル1の目立つか否かのしきい値(以下、単に目立ち度しきい値と呼ぶ)レベル(例えば、20)より小さかったら、そのブロック内の各画素のレベル1の目立ち度は、ブロックの平均RGB値からのその画素の特定RGB値の絶対偏差として計算される。絶対偏差は、以下で説明するように、数式5を用いて、その画素のRGB値とブロックの平均RGB値との間の差として計算できる。レベル1の目立ち度しきい値レベルは、経験的に求めると良いが、例えば、15〜22の範囲としても良い。次に、実際の目立ち度は、そのブロックのシグマの、例えば、3倍のしきい値と比較する2値化処理を通して、その値を再調整しても良い。この再調整では、シグマ・レベルがレベル1の目立ち度しきい値よりも大きい場合には、シグマ・レベルを16とし、そうでなければ、シグマ・レベルを0とする処理を含んでいても良い。
次に、現在処理中の画素とそのレイヤ1の近隣画素との間の差がチェックされる。図5Aを参照すると、この7×7画素ブロックの最も中央の画素を、チェックの対象画素と考えることにすると、この対象画素は、これを中心として、複数画素から構成される3つの同心円状のレイヤで囲まれている。この説明においては、対象画素の直ぐ外側で対象画素を囲む8個の画素をレイヤ1画素と呼び、レイヤ1画素の直ぐ外側でレイヤ1画素を囲む16個の画素をレイヤ2画素と呼び、最も外側であってレイヤ2画素の直ぐ外側でレイヤ2画素を囲む24個の画素をレイヤ3画素と呼ぶ。もちろん、本発明の実施形態は、任意のブロック・サイズで機能し、図5Aは、単なる一例に過ぎない。もし対象画素が、8個のレイヤ1の近隣画素の内の少なくとも5個の画素からの差分が24より大きいというように、大幅に異なっていたら、パターン・マッチング動作を開始しても良い。2個のRGB画素P(r1,1,)及びP(r2,2,)の間の差が、数式4に示されるようにして計算される。また、差分値のしきい値は、経験的に求められる。
Figure 2016220197
パターン・マッッチング処理でチェックされるパターンを、図5A〜5Jに示す。図5Aのパターンについては、先に説明している。パターン5B及び5Cは、ブロック・サイズがそれぞれ8×7画素と7×8画素であり、最も内側の画素を強調(図では、黒塗り)して示している。残りのパターン5D〜5Jは、ブロック・サイズが8×8画素であり、最も内側付近にある2個〜4個の画素を種々の組み合わせで強調(黒塗りで)示している。パターン・マッチングにおけるチェック処理には、数個のサブ・ステップがある。パターン・マッチングを始めるにあたり、いくつかの実施形態では、現在処理(current:Curと略す)中の画素Pcurの目立ち度が64以上なら、その画素は、既に完全に処理されているので、無視される。そうでない場合、まずは、レイヤ1近隣画素のそれぞれが、上述の差分計算を用いて、1個の対象画素と比較される。もしこの1個の対象画素と大幅に異なるレイヤ1近隣画素の個数が8ならば、それは、レイヤ1近隣画素中に、対象画素と似ているものがないことを意味する。もし8個のレイヤ1画素が全て対象画素と大幅に異なっているなら、これら画素のグループには、図5Aに示したパターンが適しているということである。
もし1個の対象画素と大幅に異なっているレイヤ1近隣画素の個数が7ならば、それは、レイヤ1近隣画素の1個だけが、対象画素と似ていることを意味する。もし対象画素Pcurと似ている唯一の近隣画素が、その右隣の画素Prightであって、このPrightが対象画素Pcurを除くPrightの近隣画素の全てと大幅に異なるなら、これら画素のグループには、図5Bのパターンが適している。同様に、もし対象画素Pcurと似ている唯一の近隣画素が、その下の画素Pbottomであって、このPbottomが対象画素Pcurを除くPbottomの近隣画素の全てと大幅に異なるなら、これら画素のグループには、図5Cのパターンが適している。同様にして、1個の対象画素と大幅に異なっているレイヤ1近隣画素の個数が7の場合における処理は、図5D及び5Eに示したパターンとマッチングするパターンが存在するかどうか判断するために続けられる。
1個の対象画素と大幅に異なっているレイヤ1近隣画素の個数が6又は5の場合についても、マッチング・パターンが図5F〜5Jのいずれかとなる点を除いて、上述の処理と同様にしてパターン・マッチング処理を続けて行う。このとき、上述のように、差分が常に24より大きい状態である限り、パターンは、図5F〜5Jのいずれかとマッチングするであろう。
もし現在処理中の画素とその類似するレイヤ1画素から構成される複数画素のグループが、このグループの近隣画素の全てと大幅に異なっているなら、このグループは、レベル1目立ち度画素グループと判断され、このとき、このグループの各画素がレベル1目立ち度画素である。
次に、中央の対象画素と、その類似する近隣画素が、レベル1目立ち度画素候補のグループを形成し、続いて、これら画素のグループに関する目立ち度値(saliency value)が、このグループと、そのレイヤ1/レイヤ2近隣画素との間の平均差分として計算される。この目立ち度値は、しきい値である24と比較する2値化処理を通して、その値が再調整される。例えば、もし目立ち度値が、このしきい値よりも大きい場合には、その目立ち度は64に設定され、そうでない場合には、0に設定される。もし対象画素の目立ち度値が、ブロックの平均値からのRGB絶対偏差値として、既に予め計算されているならば、これら2つの再調整値の内の大きい方を適切な値とみなす。
サブ・サンプル処理等されたコンテンツを検査する場合には、上述した元々の(native)カメラ・コンテンツを検査する手法とは、異なる手法を用いても良い。ただし、類似する点もいくつかある。具体的には、もしサブ・サンプル処理等されたコンテンツの現在処理中のブロックのシグマ(標準偏差)が20より小さいなら、画素のレベル1視覚的目立ち度を、例えば、数式5を用いて、そのブロックの平均RGB値からのその画素のRGB値の絶対偏差(absolute deviation)として定義しても良い。
Figure 2016220197
そうではなくて、もし1個の対象画素が、図6に示したように、その8個のレイヤ1近隣画素の内の少なくとも5個と大幅に異なる(24よりも差分が大きい)場合には、そのレベル1目立ち度が、その対象画素と、そのレイヤ1/レイヤ2近隣画素との間の平均差分として定義される。この平均差分値は、これら差分値を合計し、この合計値を、差分値を合計する計算の対象とした近隣画素の数で割り算することで求めても良い。
上述した元々の(native:カメラで生成した映像に処理を加えていない)カメラ・コンテンツに関する方法と違って、この方法では、候補の画素が、それ自身と非常に良く類似する近隣画素を有していたとしても、複数画素のグループを一度に処理する必要はない。むしろ、レベル1目立ち度の値を再調整するだけで充分である。
元々のカメラ・コンテンツは、レベル1目立ち度に関して、サブ・サンプル処理されたコンテンツと異なる形で処理されることがある。これは、元々のカメラ・コンテンツでは、欠陥画素が、通常、非常にシャープなエッジを有している一方、サブ・サンプル処理されたコンテンツでは、そうしたエッジが、通常、ぼやけているためである。元々のカメラ・コンテンツ用の方法は、より厳格なものとなっており、そのため、偽となる比率が低くなる。しかし、真となる比率も低い。サブ・サンプル処理されたコンテンツ用の方法は、こうしたぼけた欠陥画素をも捕捉するために、もっと緩やかになっており、そのため、真となる比率が高くなる。しかし、偽となる比率も高い。実施形態によっては、ユーザには、選択可能なオプションが少なくとも2つ与えられる。ユーザは、評価する対象が、元々のカメラ・コンテンツか、それともサブ・サンプル処理されたコンテンツかに関係なく、誤った警告を可能な限り少なくするように、最初の手法(元々のカメラ・コンテンツ用として説明した方法)を選択できる。ただし、これは、欠陥画素をいくらか捕捉に失敗する場合があることを意味する。また、もしユーザが可能な限り多くの欠陥画素を捕捉したいと望むのであれば、後者の方法を選択することもできる。ただし、この場合、誤った警告が増加する可能性がある。
レベル1視覚的目立ち度を求める処理を行った後、レベル2視覚的目立ち度を求める処理が行われる。
レベル2視覚的目立ち度は、候補となる目立つ画素の領域と、その最も近い近隣画素との間のRGB値の差分として定義される。孤立した1個の目立つ画素の候補については、そのレベル2視覚的目立ち度は、その候補の対象画素と、そのレイヤ1/レイヤ2近隣画素との間のRGB値の差分である。複数の目立つ画素の候補から成るグループについては、そのレベル2視覚的目立ち度は、これら候補の画素と、それらのレイヤ2/レイヤ3近隣画素との間のRGB値の差分である。計算された目立ち度値は、上述のように、しきい値である24と比較する2値化処理を通して、その値が再調整される。2個のRGB画素P(r1,1,)及びP(r2,2,)の間の差分を計算する方法の1つとしては、上述の数式4で示したように、2次平均値を用いても良い。
シーン(又はショット)の変化を検出するためのシーン(又はショット)検出処理を、PSNR(peak signal-to-noise ratio:ピーク信号対ノイズ比)、SSIM(structural similarity)及びアフィン変換(affine transformation)を用いて行っても良い。各フレームに関して、最初に、現在処理中のフレーム(フレームAと呼ぶ)と、その前のフレーム(フレームBと呼ぶ)との間で、PSNRが計算される(非特許文献2参照)。概して、PSNRが高いほど、ノイズが少ないと判断できる。PSNRの値が24より小さい場合には、SSIM(非特許文献3参照)が計算されて、フレームAとフレームBとの間に関してSSIMマップが生成される。SSIMマップは、11×11画素の小さい部分画像区画(全画像中の一部分)に関するSSIM値の行列である。各画素につき、その画素の11×11の近隣画素についてSSIMが計算されるので、各画素は、SSIMマップ中に対応する要素を有している。もし次の数式6中に記載した条件が満たされると、シーンの境界の候補がわかる。なお、SSIMは、一般に2つの画像の類似性を測定するために利用されている。
Figure 2016220197
数式6中の不等式について、次のパラメータの設定だと、上手く機能することが分かっている:PSNR_thres1 = 14, PSNR_thres2 = 22, SSIM_thres1 = 0.64, SSIM_thres2 = 0.52及びSSIM_thres3 = 0.35(thresは、thresholdの略で、しきい値を意味)。
もしSSIM_thres1_pctが、部分画像のSSIMが0.98より大きい部分画像区画の割合(pct=percentage:パーセンテージ)として定義され、また、SSIM_thres2_pctが、部分画像のSSIMが0.85より大きい部分画像区画の割合として定義され、更に、次の数式7に示す条件が満たされると、50より大きい部分画像PSNRを有する部分画像区画の割合(PSNR_thres1_pctで示す)が求まる。
Figure 2016220197
PSNR_thres1_pctが0.4より大きい場合には、シーン変化が起こった可能性は極わずかであり、現在のフレームの処理を終了できる。こうした場合、シーンには、人物又はオブジェクトの速い動きが含まれる可能性が高い。
数式7に示す条件が満たされないか、又は、PSNR_thres1_pctが0.4以下の場合には、高速なカメラの動きが続いているかどうかの確認が行われる。これは、フレームA及びフレームBが実際は同じシーン内にある場合、PSNRとSSIMの値が小さいという結果になり得る。こうした確認(チェック)を実行するため、最初に、フレームA及びB間の最適なアフィン変換行列Mを、概算で求める(非特許文献4参照)。もしこの概算がうまくいかず、空の行列Mが生成された場合には、シーンの境界が生じていた可能性が極めて高いので、そのフレームに関する処理は完了する。そうでない場合には、アフィン変換行列Mを用いてフレームBを変形させて、画像B’を得る。続いて、現在処理中のフレームAと画像B’との間でPSNRとSSIMを計算し、この処理を、他のフレームAと画像B’についても繰り返す。もし数式6の条件が満たされ、且つ、数式7の条件が満たされないと、シーンの境界が生じていた可能性が極めて高い。
シーン変化が検出された後、完了したばかりの前のシーンが処理される。
誤った検出の比率を低く維持するため、最初に、いくつかの形式のブロックを除外する。除外されるブロックとしては、時間のしきい値(例えば、40%)について、固まっている(frozen:変化のない)ブロックがある。また、ブロック内の欠陥画素の候補の平均近隣画素(区画(kernelカーネル)のサイズが9画素)のシグマ(標準偏差)が、30より大きいブロックも除外する。
1シーン中の時間にして40%以上で変化のないブロックを求めるため、最初に、複数の連続するフレームについて、平均二乗誤差(MSE:mean squared error)を計算し、これらMSE値を合計する。そのシーンの最後で、MSE値の合計を、フレームを単位とするシーンの長さで割り算し、各ブロックに関する平均MSEを得る。もしブロックの平均MSEが68より小さければ、固まっているブロックとみなす。輝度の演算処理量を減らすため、固まっているブロックの分析は、欠陥画素の候補を含むブロックについてのみ行われる。
ブロックの欠陥画素の候補の平均近隣画素(区画サイズが9画素)のシグマ(標準偏差)が30より大きいブロックを求めるため、欠陥画素の候補の9×9の近隣画素のシグマが計算される。再度、この分析は、処理に必要なリソースを低減するために、ブロック内に欠陥画素の候補がある場合にのみ実行するようにしても良い。続いて、各ブロックについて、複数のシグマ値が加算されていき、そして、シーンの最後で、このシグマ値の合計が、現在処理中のブロックで生じた欠陥画素の候補の総数で割り算される。この平均シグマは、ブロック内の欠陥画素の候補の近隣画素の滑らかさ(スムースさ)を表現している。もしこれがあまりにも大きい場合、ブロック内の欠陥画素の候補は、おそらく、異質な領域(例えば、レターボックスの余白領域など)中にあると考えられる。
最後に、1シーンの期間中、累積で70%以上の頻度で視覚的目立ち度が発生した画素を欠陥画素と判断する。そして、これをレポートするようにしても良い。
次に、結果として残留ポイント・ノイズ(RPN)であり得る欠陥画素を検出するための図4のフローチャートの例を説明する。フローチャート400は、分析する映像クロックを入力するステップ405で始まる。ステップ410において、新しいフレームが取り出される。判断ステップ415で判断されるように、映像の最後でない場合、判断ステップ440で、そのフレームが新しいシーンの第1フレームか否かが判断される。この判断処理では、PSNR、SSIM及びアフィン変換を利用するなど、上述した手法を用いても良い。
もしそのフレームが新しいシーンの最初でないなら、フレームは、ステップ460において、複数のブロックに分割される。このブロックのサイズは、映像の品質及びサイズ次第で異なっていても良い。例えば、HD及びSD映像クリップについては、m×nのブロック・サイズは、m=8、n=8としても良い。4K映像クロックの場合では、m=16、n=16としても良い。もちろん、他のブロック・サイズも可能である。
ステップ465において、個々のブロックそれぞれについて、最初に、レベル1視覚的目立ち度画素が、上述のようにして特定される。レベル1目立ち度画素は、視覚的な目立ち度画素の候補としてみなされる。続いて、ステップ470では、各ブロック中のレベル1目立ち度画素のそれぞれについて、レベル2視覚的目立ち度がチェック(調査)される。上述のように、レベル1視覚的目立ち度は、比較的粗く、特に、サブ・サンプル処理コンテンツに関して上述した方法に使うためのものであるが、レベル2視覚的目立ち度は、ずっと厳格である。ステップ470では、上述のように、これら目立ち度画素の候補のRGB値が、それらに最も近い近隣画素のRGB値と比較され、その差分が計算される。もし差分値がしきい値より大きければ、目立ち度は1に設定され、そうでなければ、目立ち度は0に設定される。設定された目立ち度のレベルは、被分析ブロックの各画素の画素目立ち度トラッキング・マップを更新するのに利用される。
そのシーンの最後のフレームが分析された後、判断ステップ440は、YESの方向に抜けて、ステップ445において、最後のフレームの画素目立ち度トラッキング・マップが分析される。欠陥画素は、ステップ450において、その視覚的目立ち度の発生頻度が、例えば、1シーンの期間中の70%(フレーム単位)を超える場合(つまり、1シーンの全フレーム中の70%を超えるフレームで視覚的目立ち度が発生した場合)に、エラー画素としてレポートされる。もしブロックが、1シーンの期間中の40%を超えて変化がない(固まっている)又はほぼ変化がない場合、又は、現在処理中のブロック内の欠陥画素の候補の平均近隣画素(区画サイズは9画素)シグマが30より大きい場合には、ブロックの処理は終了し、次のブロックが取り出される。ステップ450で欠陥画素がレポートされた後、画素目立ち度トラッキング・マップはリセットされる。続いては、処理は、次のブロックへと続く。
映像の最後のフレームが分析されたら、判断ステップ415はYESの方向へ抜けて、ステップ420、425及び430において、映像クリップの最後ショットに関して、同じレポートが作成される。
上述したような実施形態の全ては、図7のブロック図に示したような欠陥画素検出システム500で実現しても良い。欠陥画素検出装置520は、映像信号源510から入力信号を受けて、欠陥画素レポート580を出力する。このレポートは、例えば、書面のレポート、欠陥画素のマップ、欠陥画素のリストなど、多様な形態があり得る。
ある実施形態では、欠陥画素検出装置520には、上述した処理を実行するプロセッサ522がある。データ・メモリ523及びプログラム・メモリ524は、プロセッサ522に結合され、欠陥画素に関するデータを一時的に記憶したり、プロセッサ522が欠陥画素の分析を実行した後に、欠陥画素レポート580を生成するようにするプログラムを記憶したりしている。欠陥画素検出装置520には、多様なしきい値を記憶するしきい値記憶部530や、上述したようなブロックのデータを記憶するデータ構造記憶部532を別途設けても良い。
別の実施形態では、特定の機能を、専用プロセッサや専用にプログラムされたプロセッサのような専用のハードウェアで実行する。例えば、空間的異常値検出部540が、上述した空間的異常値検出機能を実行しても良い。同様に、時間的不変値検出部550が、上述した時間的不変値検出機能を実行しても良い。欠陥画素検出装置520は、輝度プロセッサ560のような他の専用プロセッサも同様に有していてもよく、これは、輝度範囲サイズの測定処理及び輝度レンジの処理を実行する。
欠陥画素検出装置520中に多くの機能ブロックを示したが、図示した機能ブロックと、物理的なハードウェア・ブロックとが、1対1で対応している必要はない。いくつかの機能が、プロセッサ522で実行されたり、他の複数のブロックで実行されたり、プロセッサ522と連係して、複数のハードウェア・ブロックが組み合わせられて動作しても良い。
ユーザ・インタフェース590によって、ユーザは、プログラム・メモリ524にプログラムをロードすることも含めて、欠陥画素検出装置520の動作を制御できる。ユーザ・インタフェース590には、典型的には、キーボード、ボタン、マウスなどの1つ以上の入力装置に加えて、表示装置のような1つ以上の出力装置もある。動作においては、ユーザは、ユーザ・インタフェース590を操作して、欠陥画素の検出を開始する。ユーザは、1つ以上の映像信号源510を選択し、上述した欠陥画素検出処理は、欠陥画素検出装置520を用いて実行される。欠陥画素検出処理の最後において、又は、別の時点において、欠陥画素検出装置520は、欠陥画素レポート580を生成する。
当業者であれば、本発明が特定の実施形態の例に限定されることがなく、本発明の範囲から離れることなく、同様なアーキテクチャを有するシステムに応用可能なことが理解できよう。
明快な理解という観点から、本発明の実施形態を具体的に説明してきたが、本願で説明した実施形態は幅広く変更可能であるとの観点から、上述の記載は、説明の都合上によるものに過ぎず、本発明の範囲を限定するものではないと理解すべきである。
500 欠陥画素検出システム
510 映像信号源
520 欠陥画素検出装置
522 プロセッサ
523 データ・メモリ
524 プログラム・メモリ
530 しきい値記憶部
532 データ構造記憶部
540 空間的異常値検出部
550 時間的不変値検出部
560 輝度プロセッサ
580 欠陥画素レポート
590 ユーザ・インタフェース

Claims (4)

  1. 残留ポイント・ノイズを検出するための映像ノイズ分析装置であって、
    分析する映像を受ける入力部と、
    隣接する2つのフレームの同じブロックの画素間の差分を求め、上記フレーム間で比較的変化率の低い画素を含む第1画素候補リストを生成するよう構成される時間的不変値検出部と、
    隣接する画素から比較的高い輝度レベルの偏差を有する画素を含む第2画素候補リストを生成するよう構成される空間的異常値検出部と、
    上記第1画素候補リスト及び上記第2画素候補リストを組み合わせて、ノイズ画素候補リストを生成する合成部と、
    上記ノイズ画素候補リスト上の1つ以上の上記画素又は上記ノイズ画素候補リスト上の上記画素が選択されたブロックを記述するデータを収容するよう構成されたデータ記憶部と
    を具える映像ノイズ分析装置。
  2. 映像中の残留ポイント・ノイズを検出する方法であって、
    分析する映像を受ける処理と、
    隣接する2つのフレームの同じブロックの画素間の差分を求め、時間的不変値検出を実行する処理と、
    上記時間的不変値検出に基いて、上記フレーム間で比較的変化率の低い画素を含む第1画素候補リストを生成する処理と、
    隣接する画素から比較的高い輝度レベルの偏差を選択することによって、空間的異常値検出を実行する処理と、
    隣接する画素から比較的高い輝度レベルの偏差を用いて選択された上記画素を含む第2画素候補リストを生成する処理と、
    上記第1画素候補リスト及び上記第2画素候補リストを組み合わせて、ノイズ画素候補リストを生成する処理と、
    上記ノイズ画素候補リスト上の1つ以上の上記画素又は上記ノイズ画素候補リスト上の上記画素が選択されたブロックを記述するデータを記憶するデータ記録を生成する処理と
    を具える残留ポイント・ノイズ検出方法。
  3. 映像生成デバイスから生成された映像を検査することによって、上記映像生成デバイス中の欠陥画素を検出する映像ノイズ分析装置であって、
    分析する映像を受ける入力部と、
    入力された上記映像のフレームから、複数画素から成るブロックを複数生成するフレーム分割部と、
    ブロック内の画素を、同じブロック内の他の画素の平均値と比較するよう構成される第1目立ち度分析部と、
    近接画素から大幅に異なる画素を含む第1画素候補リストを生成する第1しきい値プロセッサと、
    上記第1画素候補リストに含まれる画素に関して、対象画素、その近隣画素、該近隣画素の近隣画素の間の差分値を生成するよう構成される第2目立ち度分析部と、
    所定の頻度しきい値よりも大きい視覚的目立ち度の発生頻度を有する画素を、欠陥画素の候補としてラベルを付ける特定部と
    を具える映像ノイズ分析装置。
  4. 映像生成デバイスから生成された映像を検査することによって、上記映像生成デバイス中の欠陥画素を検出する方法であって、
    分析する映像を受ける処理と、
    入力された上記映像のフレームから、複数画素から成るブロックを複数生成する処理と、
    ブロック内の画素を、同じブロック内の他の画素の平均値と比較する第1目立ち度分析を実行する処理と、
    近接画素から大幅に異なる画素を含む第1画素候補リストを生成する処理と、
    上記第1画素候補リストに含まれる画素に関して、第2目立ち度分析を実行する処理と、
    上記第2目立ち度分析に基いて、対象画素、その近隣画素(第1近隣画素)、該第1近隣画素の近隣画素(第2近隣画素)の間の差分値を生成する処理と、
    所定の頻度しきい値よりも大きい視覚的目立ち度の発生頻度を有する画素を、欠陥画素の候補として特定する処理と
    を具える欠陥画素検出方法。
JP2016075504A 2015-05-22 2016-04-04 映像ノイズ分析装置、残留ポイント・ノイズ検出方法及び欠陥画素検出方法 Active JP6755110B2 (ja)

Applications Claiming Priority (6)

Application Number Priority Date Filing Date Title
IN2011MU2015 2015-05-22
IN2011/MUM/2015 2015-05-22
US201562174400P 2015-06-11 2015-06-11
US62/174400 2015-06-11
US14/847972 2015-09-08
US14/847,972 US10025988B2 (en) 2015-05-22 2015-09-08 Anomalous pixel detection

Publications (2)

Publication Number Publication Date
JP2016220197A true JP2016220197A (ja) 2016-12-22
JP6755110B2 JP6755110B2 (ja) 2020-09-16

Family

ID=56108485

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016075504A Active JP6755110B2 (ja) 2015-05-22 2016-04-04 映像ノイズ分析装置、残留ポイント・ノイズ検出方法及び欠陥画素検出方法

Country Status (4)

Country Link
US (1) US10025988B2 (ja)
EP (2) EP3104327B1 (ja)
JP (1) JP6755110B2 (ja)
CN (1) CN106170087B (ja)

Families Citing this family (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10229481B2 (en) * 2015-12-22 2019-03-12 Mti Film, Llc Automatic defective digital motion picture pixel detection
WO2018119718A1 (zh) * 2016-12-28 2018-07-05 深圳迈瑞生物医疗电子股份有限公司 在超声扫描中的图像提取方法、装置及超声成像系统
US10685432B2 (en) * 2017-01-18 2020-06-16 Ricoh Company, Ltd. Information processing apparatus configured to determine whether an abnormality is present based on an integrated score, information processing method and recording medium
CN107146219B (zh) * 2017-04-13 2019-12-17 大连理工大学 一种基于流形正则化支持向量机的图像显著性检测方法
CN108174057B (zh) * 2018-01-10 2020-06-23 武汉烛照科技有限公司 一种利用视频图像帧间差异对画面快速降噪的方法及装置
WO2019164464A1 (en) * 2018-02-21 2019-08-29 Aselsan Elektroni̇k Sanayi̇ Ve Ti̇caret Anoni̇m Şi̇rketi̇ Method for target detection and bad pixel replacement by controlled camera motion
CN109472078B (zh) * 2018-10-31 2023-05-09 天津大学 一种基于2×2像素子阵列的3d图像传感器缺陷检测修复方法
CN109348146B (zh) * 2018-10-31 2021-03-02 上海集成电路研发中心有限公司 一种图像传感器的静态坏点校正装置及其校正方法
CN109598299A (zh) * 2018-11-29 2019-04-09 微梦创科网络科技(中国)有限公司 一种图像相似度确定方法、装置及电子设备
US11249626B2 (en) * 2019-01-30 2022-02-15 Netflix, Inc. Interactive interface for identifying defects in video content
CN110569702B (zh) * 2019-02-14 2021-05-14 创新先进技术有限公司 视频流的处理方法和装置
CN109961437B (zh) * 2019-04-04 2021-06-25 江南大学 一种基于机器教学模式下的显著性织物疵点检测方法
CN110660029B (zh) * 2019-09-12 2022-05-06 深兰科技(上海)有限公司 一种图像处理方法、装置、设备及存储介质
CN112163985B (zh) * 2020-09-22 2022-11-29 Oppo(重庆)智能科技有限公司 图像处理方法、装置、存储介质及电子设备
US11989650B2 (en) 2020-12-21 2024-05-21 Disney Enterprises, Inc. Saliency prioritization for image processing
US20220210399A1 (en) * 2020-12-30 2022-06-30 Flir Commercial Systems, Inc. Anomalous pixel detection systems and methods
CN113838003B (zh) * 2021-08-30 2024-04-30 歌尔科技有限公司 图像的斑点检测方法、设备、介质及计算机程序产品

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5854655A (en) * 1995-08-29 1998-12-29 Sanyo Electric Co., Ltd. Defective pixel detecting circuit of a solid state image pick-up device capable of detecting defective pixels with low power consumption and high precision, and image pick-up device having such detecting circuit
JP3825935B2 (ja) 1999-04-08 2006-09-27 キヤノン株式会社 画像処理装置及び画像処理方法及び記録媒体及び画像処理システム
US6985180B2 (en) * 2001-06-19 2006-01-10 Ess Technology, Inc. Intelligent blemish control algorithm and apparatus
WO2007036055A1 (en) 2005-09-30 2007-04-05 Simon Fraser University Methods and apparatus for detecting defects in imaging arrays by image analysis
KR101354669B1 (ko) * 2007-03-27 2014-01-27 삼성전자주식회사 이미지 센서의 불량 화소 검출 방법 및 장치, 이미지센서로부터의 이미지 획득 방법 및 장치
CN101453559B (zh) * 2007-12-04 2010-12-08 瑞昱半导体股份有限公司 视频信号的噪声检测方法及装置
US20100141810A1 (en) * 2008-12-04 2010-06-10 Proimage Technology Bad Pixel Detection and Correction
CN102281386B (zh) * 2010-06-08 2014-12-10 中兴通讯股份有限公司 一种对视频图像进行自适应去噪的方法及装置
US8774544B1 (en) 2010-07-23 2014-07-08 Xilinx, Inc. Determining outlier pixels of successive frames
CN102368821B (zh) * 2011-10-20 2013-11-06 浙江工商大学 一种噪声强度自适应的视频去噪方法和系统
US10229481B2 (en) * 2015-12-22 2019-03-12 Mti Film, Llc Automatic defective digital motion picture pixel detection

Also Published As

Publication number Publication date
EP3104327B1 (en) 2018-12-12
US10025988B2 (en) 2018-07-17
CN106170087B (zh) 2019-12-17
JP6755110B2 (ja) 2020-09-16
EP3104327A3 (en) 2017-03-15
EP3467767A1 (en) 2019-04-10
CN106170087A (zh) 2016-11-30
EP3104327A2 (en) 2016-12-14
US20160342843A1 (en) 2016-11-24

Similar Documents

Publication Publication Date Title
JP6755110B2 (ja) 映像ノイズ分析装置、残留ポイント・ノイズ検出方法及び欠陥画素検出方法
US9444977B2 (en) Method and device for adaptive noise measurement of a video signal
US7778445B2 (en) Method and system for the detection of removed objects in video images
CN107509107B (zh) 视频播放故障的检测方法、装置及设备、可读介质
US9247155B2 (en) Method and system for robust scene modelling in an image sequence
US8599270B2 (en) Computing device, storage medium and method for identifying differences between two images
US20130251274A1 (en) Limited-context-based identifying key frame from video sequence
JP6343430B2 (ja) ビデオ検出装置及び欠落ビデオ・フレーム検出方法
US20200175692A9 (en) Low-complexity motion detection based on image edges
US9904853B2 (en) Monitoring camera device and related region-based motion detection method
US20150181159A1 (en) Image processing apparatus, image processing method, program and storage medium
KR101693959B1 (ko) 시공간 블록 특징을 이용한 화재 검출 시스템 및 방법
US8208030B2 (en) Method and unit for motion detection based on a difference histogram
US11039096B2 (en) Image processing device, image processing method and storage medium
Xu et al. Features based spatial and temporal blotch detection for archive video restoration
JP5059855B2 (ja) 大域的動き推定方法
JP6564158B2 (ja) 画像処理装置、画像処理方法、および画像処理プログラム
KR101617428B1 (ko) 디지털 영상에서 손상 영역을 검출하는 방법 및 장치
EP2302582B1 (en) Correcting defects in an image
US20210312213A1 (en) Automated Salience Assessment of Pixel Anomalies
JP7279817B2 (ja) 画像処理装置、画像処理方法及び画像処理プログラム
JP5599228B2 (ja) 繁忙検知システム及び繁忙検知プログラム
RU2676029C1 (ru) Способ идентификации объекта в видеопотоке
JP6308612B2 (ja) 画像処理装置、画像処理方法、および画像処理プログラム
Zhong et al. An improved detection algorithm of snowflake noise based on spatial domain

Legal Events

Date Code Title Description
A625 Written request for application examination (by other person)

Free format text: JAPANESE INTERMEDIATE CODE: A625

Effective date: 20190329

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20191024

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200221

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200303

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200603

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200811

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200825

R150 Certificate of patent or registration of utility model

Ref document number: 6755110

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250