JP2012502540A - デジタル画像ノイズの低減 - Google Patents

デジタル画像ノイズの低減 Download PDF

Info

Publication number
JP2012502540A
JP2012502540A JP2011525643A JP2011525643A JP2012502540A JP 2012502540 A JP2012502540 A JP 2012502540A JP 2011525643 A JP2011525643 A JP 2011525643A JP 2011525643 A JP2011525643 A JP 2011525643A JP 2012502540 A JP2012502540 A JP 2012502540A
Authority
JP
Japan
Prior art keywords
block
noise
digital image
pixel
mosquito
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2011525643A
Other languages
English (en)
Other versions
JP5233014B2 (ja
Inventor
スリニヴァサン、スジス
ムニ、ビヤス
ガアグ、サンジャイ
Original Assignee
マーベル ワールド トレード リミテッド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by マーベル ワールド トレード リミテッド filed Critical マーベル ワールド トレード リミテッド
Publication of JP2012502540A publication Critical patent/JP2012502540A/ja
Application granted granted Critical
Publication of JP5233014B2 publication Critical patent/JP5233014B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/70Denoising; Smoothing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/73Deblurring; Sharpening
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/117Filters, e.g. for pre-processing or post-processing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • H04N19/14Coding unit complexity, e.g. amount of activity or edge presence estimation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/172Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a picture, frame or field
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/86Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving reduction of coding artifacts, e.g. of blockiness
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20004Adaptive image processing
    • G06T2207/20012Locally adaptive

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

デジタル画像ノイズを低減することに関連するデバイス、システム方法及びその他の実施形態を記載する。一実施形態において、方法は、デジタル画像の画素に関連付けられたモスキートノイズ値を1画素単位で決定する段階を備える。また、方法では、デジタル画像に関連付けられたブロックノイズ値を1画素単位で決定する。また、複数の適応フィルタを用いて、デジタル画像をフィルタリングする。デジタル画像における圧縮アーティファクトが低減される。複数の適応フィルタからのフィルタ出力を組み合わせることにより、圧縮アーティファクトが低減される。モスキートノイズ値及びブロックノイズ値に少なくとも一部基づいて、フィルタ出力が組み合わせられる。
【選択図】図2

Description

[優先権情報]
本願は、2008年9月9日出願の米国仮出願61/095,466号明細書の優先権を主張するものであり、前記出願の内容は、参照により本明細書に組み込まれる。
現在の様々な製品には、動画圧縮技術が利用されている。動画圧縮は、デジタルテレビのセットトップボックス、デジタル衛星システム、高解像度テレビ(HDTV)デコーダ、デジタル多用途ディスク(DVD)プレーヤー、テレビビデオ会議システム及びその他のデジタル動画アプリケーションで利用されている。動画コンテンツの画像を、動画コンテンツの不必要な特徴部分を取り除くことにより、動画圧縮することが可能となる。動画コンテンツを圧縮することにより、コンテンツを格納するのに必要な記憶領域を小さくすることができる。圧縮された動画コンテンツは、圧縮されない動画コンテンツよりも速く送信できる。
消費者家電業界で採用されている画像圧縮標準は、ブロックベースのものである。ブロックベースの圧縮規格の一例としては、国際標準化機構(ISO)と国際電気通信連合(ITU)が共同で開発したアドバンスト・ビデオ・コーディング(AVC)/H.264規格が挙げられる。典型的なブロックベースの動画圧縮は、ブロックノイズ及びモスキートノイズを含むアーティファクトを画像データに発生させてしまう。アーティファクトは、動画圧縮エンコーダにおいて、イメージ化されたデータを量子化する際に生成される。これらのアーティファクトは、低いビットレートの画像データで、よく見られる。アーティファクトは、ブルーレイ符号化された映画のような高品質なものであっても、しばしば発生する。デジタル画像で構成された動画を見る観察者は、このようなアーティファクトを感知することがある。従来の小さなディスプレイで画像を見る場合よりも、今日の大きなディスプレイで画像を観賞する場合の方が、ブロックノイズやモスキートノイズをより発見し易くなっている。したがって、デジタル画像ノイズを低減する方法が求められている。
一実施形態において、方法は、デジタル画像の画素に関連付けられたモスキートノイズ値を1画素単位で決定する段階を備える。また、この方法では、デジタル画像に関連付けられたブロックノイズ値を1画素単位で決定する。また、複数の適応フィルタを用いて、デジタル画像をフィルタリングする。デジタル画像における圧縮アーティファクトが低減される。複数の適応フィルタからのフィルタ出力を組み合わせることにより、圧縮アーティファクトが低減される。モスキートノイズ値及びブロックノイズ値に少なくとも一部基づいて、フィルタ出力が組み合わせられる。
別の実施例として、装置が含まれる。この装置は、デジタル画像に存在するモスキートノイズの量を検出するモスキートノイズ検出ロジックを含む。装置は、デジタル画像に存在するブロックノイズの量を検出するブロックノイズ検出ロジックを含む。装置はまた、デジタル画像をフィルタリングして、2次元(2D)モスキートフィルタ出力、2Dブロックフィルタ出力、1次元(1D)水平方向ブロックフィルタ出力、及び1D垂直方向ブロックフィルタ出力のうちの少なくとも1つを生成するフィルタロジックを含む。装置はまた、モスキートノイズの量及びブロックノイズの量に少なくとも一部基づいて、画質を向上させるべく修正フィルタ出力を選択する選択ロジックを含む。修正フィルタ出力は、2Dモスキートフィルタ出力、2Dブロックフィルタ出力、1D水平方向ブロックフィルタ出力、及び1D垂直方向ブロックフィルタ出力のうちの少なくとも1つである。装置はまた、修正フィルタ出力に少なくとも一部基づいて、デジタル画像における圧縮アーティファクトを低減する圧縮アーティファクトロジックを含む。
別の実施例は、方法を含む。方法は、デジタル画像中にモスキートノイズが存在すると判断された場合に、モスキートノイズ出力を生成する段階を備える。モスキートノイズ出力は、モスキートノイズ強度を示す。方法は、また、デジタル画像中にブロックノイズが存在すると判断された場合に、ブロックノイズ出力を生成する段階を備える。ブロックノイズ出力は、ロックノイズの強度を表し、ブロックノイズが、垂直方向ブロックノイズ、水平方向ブロックノイズ及びグローバルブロックノイズのうちのいずれかであると特定する。グローバルブロックノイズは、デジタル画像全体に渡る水平方向ブロックノイズ及び垂直方向ブロックノイズから構成される。方法は、2次元(2D)モスキートフィルタ、2Dブロックフィルタ、1次元(1D)水平方向フィルタ及び1D垂直方向フィルタのうちの少なくとも1つを用いて、デジタル画像をフィルタリングすることにより、2Dモスキートフィルタ出力、2Dブロックフィルタ出力、1D水平方向フィルタ出力、及び1D垂直方向フィルタ出力を生成する段階を備える。方法は、画質を改善するべく、モスキートノイズ出力及びブロックノイズ出力に少なくとも一部基づいて、修正フィルタ出力を選択する段階を備える。修正フィルタ出力は、2Dモスキートフィルタ出力、2Dブロックフィルタ出力、1D水平方向フィルタ出力、及び1D垂直方向フィルタ出力のうちの少なくとも1つである。方法は、また、修正フィルタ出力に少なくとも一部基づいて、デジタル画像における圧縮アーティファクトを低減する段階を備える。
添付の図面は本明細書に組み込まれ、明細書の一部を構成し、様々なシステム及び方法の例、及びその他、本発明の様々な側面の実施形態例が描かれている。図に描かれた要素の境界(例えば、ボックス、ボックスのグループ、又は他の形)は、境界の一例を示しているに過ぎない。別の例では、1つの要素を、複数の要素として設計してもよく、また、複数の要素を、1つの要素として設計してもよいことは、当業者にとって明らかである。また、一例では、ある要素が、別の要素の内部構成要素として描かれている場合であっても、外部構成要素として実装されてもよく、またその反対も可能である。また、各要素は、実寸で描かれていない。
動画データ処理に関するシステムの一実施形態を示した図である。 デジタル画像ノイズの低減に関する装置の一実施形態を示している。 モスキートノイズ検出に関するロジックの一実施形態を示した図である エッジ周辺の領域を決定するエッジの拡張例を示した図である。 リンギング検出器によって使用される画素の一例を示した図である。 ブロックノイズ検出に関連するロジックの一実施形態を示したものである。 ブロック検出器に使用される画素の一例を示した図である。 デジタル画像ノイズの低減に関する装置の他の実施形態を示した図である。 デジタル画像ノイズの低減に関する方法の一実施形態を示した図である。 デジタル画像ノイズの低減に関する方法の他の実施形態を示した図である。 デジタル画像ノイズの低減に関する方法の他の実施形態を示した図である。 デジタル画像ノイズの低減に関する方法の別の実施形態を示した図である。 デジタル画像ノイズの低減に関する方法の別の実施形態を示した図である。 デジタル画像ノイズの低減に関する方法の別の実施形態を示した図である。
デジタル動画画像ノイズの低減に関するシステム、方法例、及び他の実施形態が以下に記載される。一実施形態では、圧縮デジタル動画画像のブロックノイズ及びモスキートノイズを低減する方法を提供する。この方法は、動画デコーダから情報を必要としない、後処理(ポストプロセッシング)技術であってもよい。他の実施形態では、方法は、デジタル画像データが圧縮されると同時にブロックノイズを取り除く、インライン処理であってもよい。アーティファクトを含まないデジタル画像データは、そのまま保存される。従来の方法でも、ノイズの多い素材からノイズを除去することは可能であったが、フィルタリングプロセスにおいて、デジタル画像の良好な部分まで平滑化される及び不鮮明にしてしまう場合があり、不適当であった。
一実施形態では、平坦領域の近くの画素をフィルタリングすることにより、モスキートノイズを低減できる。平坦領域とは、隣接する画素間で、大きく画素値が変化しない領域のことである。平坦領域は、強い方向性のあるエッジ(縁)の近傍に、画定される。モスキートノイズは、強い方向性エッジの近くに存在する平坦領域の画素値における大きな変化を検出するリンギング検出器によって、検出される。
ブロックノイズは、ブロックグリッドが検出された場合に、全ブロックグリッドをフィルタリングすることにより、低減することができる場合がある。ブロックグリッドは、画素レベルでブロック境界検出値を分析し、様々な位相へとグループ化する。位相は、ブロック境界が周期的に一定の間隔で発生することを示すものである。
グリッドに一部基づいて、エッジ適応フィルタを使用して、モスキートノイズ及びブロックノイズをフィルタリングしてもよい。エッジ適応フィルタは、ノイズによって破損される可能性が高い領域を見つける。エッジ適応フィルタは、画像の実際のエッジを平滑化することなく、ノイズをフィルタリングすることができる。一実施形態において、フィルタリングのレベルは、ノイズレベルに比例させている。エッジ適応フィルタは、ノイズを含んでいる可能性の低い画像部分をフィルタリングしないことにより、元の画像の特徴を保存する。このように、画像全体又の一部、又は画像の複数フレームの一部をフィルタリングし、他の部分はフィルタリングを行わない。フィルタリングされない部分では、元の画像の特徴が保存される。
以下、本明細書で使用される言葉の定義について説明する。これらの定義は、ある言葉の範囲に含まれる要素のあらゆる例及び/又は形式を含み、実装においても使用される場合がある。しかしながら、これらの例に限定されることを意図していない。また、以下の定義には、言葉の単数形及び複数形の両方が含まれる。
「基づく」、「一部基づく」、「少なくとも一部基づく」等の表現は、ある動作が、関連付けられた条件のみに基づく、若しくは他の条件又は他の動作と共にその条件に基づくことを意味する。
「一実施形態」、「ある実施形態」、「一例」、「ある例」等の表現は、記載される実施形態又は実施例が、特定の特徴、構造、性質、特性、要素、又は限定を含むことを意味するが、必ずしも全ての実施形態又は実施例が、特定の特徴、構造、性質、特性、要素又は限定を含むことを意味しない。また、「一実施形態において」という表現が繰り返し使用されるが、必ずしも同じ実施形態を指しているわけではない。無論、同じ実施形態の場合もある。
本明細書で使用されている「コンピュータ可読媒体」という言葉は、信号、命令及び/又はデータを格納する媒体を意味する。コンピュータ可読媒体は、これらに限定するわけではないが、不揮発性媒体及び揮発性媒体の形態を含む。不揮発性媒体としては、例えば、光ディスク、磁気ディスク等が含まれる。揮発性媒体としては、例えば、半導体メモリ、ダイナミックメモリ等が含まれる。コンピュータ可読媒体の典型的な例としては、特にこれらに限定するわけではないが、フロッピー(登録商標)ディスク、フレキシブルディスク、ハードディスク、磁気テープ、他の磁気媒体、特定用途向け集積回路(ASIC)、プログラム可能ロジックデバイス、コンパクトディスク(CD)、その他の光学媒体、ランダムアクセスメモリ(RAM)、リードオンリーメモリ(ROM)、メモリチップ、メモリカード、メモリスティック、及び、コンピュータ、プロセッサ又は他の電子デバイスが読み込むことができる他の媒体を含む。
本明細書で使用される「ロジック(論理)」という言葉は、これらに限定されないが、機能又は動作を実行する、及び/又は他のロジック、方法及び/又はシステムからの機能又は動作を実行させる、ハードウェア、ファームウェア、機械に格納され実行されるソフトウェア、及び/又はこれらの組み合わせを含む。ロジックは、ソフトウェア制御マイクロプロセッサ、個別ロジック(例えば、ASIC)、アナログ回路、デジタル回路、プログラムされたロジックデバイス、命令を備えるメモリデバイス等を含んでもよい。ロジックは、1以上のゲート、複数ゲートの組み合わせ、又は他の回路構成要素を含んでもよい。複数の論理的ロジックについて記載される場合であっても、複数の論理的ロジックを1つの物理的ロジックに組み込むことが可能である。同様に、1つの論理的ロジックが記載される場合であっても、1つの論理的ロジックを複数の物理的ロジックの間で分配することが可能である。
[概略]
図1は、動画データを処理可能なシステム100の一実施形態を示したものである。システム100は、動画入力ロジック110に入力された入力動画ストリーム105を受信する。入力は、個別フレームの形式であってもよいし、圧縮されていてもよい。また、入力は、圧縮されたマクロブロックであってもよい。マクロブロックは、H.264規格、MPEG(motions picture experts group)規格、又はその他の圧縮規格に準拠した、より小さなブロックから構成されていてもよい。動画入力ロジック110は、動画入力データを格納し、データフレームを並べ替えて、動画入力を、動画伸長(decompression)ロジック120による処理のために準備する。
動画伸長ロジック120は、圧縮された動画データを伸長する。一実施形態において、動画データは、動画データを圧縮するのに使用した関数の逆変換を適用することにより、伸長を行ってもよい。圧縮/伸長アルゴリズムは、情報の損失を伴う場合がある。情報の損失を伴う圧縮規格では、動画データが伸長されるときに、画質の劣化が生じる。
圧縮アルゴリズムを、画像の一部分を符号化するのに使用してもよい。人間が目で認識可能な画像部分を、人間の目に認識されないような画像部分よりも高い解像度で符号化するようにしてもよい。例えば、花を、青空の領域よりも高い解像度で符号化してもよい。人間の目は、動画データの符号化に使用されたブロックの境界を認識する場合がある。人間の目が認識可能な境界を、ブロックノイズと呼ぶ。また、ブロックベースの圧縮の間に、モスキートノイズが挿入される場合がある。以下に記載するロジック、方法及びシステムは、伸長プロセスに伴って発生する、画像が伸長された後に発生する、又はこの両方で発生するブロックノイズ及びモスキートノイズを低減することができる。
動画後処理ロジック130は、入力動画をレンダリングのために準備する。動画後処理ロジック130は、レンダリングのために、伸長フレームをスケジュールする。動画後処理ロジック130は、表示可能な形式の出力動画を生成する。幾つかの実施形態では、ブロックノイズ及びモスキートノイズは、動画後処理ロジック130による伸長後に取り除かれる。デジタル画像、デジタル動画画像、非動画画像データ又はその他の種類の画像データから、ノイズが取り除かれる。
図2は、デジタル画像ノイズを低減する装置200の一実施形態を示している。装置200は、デジタル画像から、モスキートノイズ及びブロックノイズ等のアーティファクトを適応的に取り除く。モスキートノイズ検出ロジック210及びブロックノイズ検出ロジック220は、装置200の制御経路を形成している。装置200は、2次元(2D)モスキート(MQ)フィルタロジック230、2Dブロックフィルタロジック240、1次元(1D)水平(H)フィルタロジック250及び1D垂直(V)フィルタロジック260を入力データ経路に備え、これら全てを「データ経路におけるフィルタ」と総称する。データ経路におけるフィルタは、装置200が受信した輝度入力をフィルタリングする。出力生成ロジック270は、モスキートノイズ及び/又はブロックノイズが検出されるか否かに少なくとも一部基づいて、複数のフィルタの出力を組み合わせることにより、1画素毎に、輝度出力を生成する。輝度出力は、デジタル画像を表現する画素値のアレイに対応する。装置200は、デジタル画像の複数の画素について、ブロックノイズ及びモスキートノイズに対する輝度入力をフィルタリングする。
一実施形態では、モスキートノイズ検出ロジック210は、モスキートノイズの影響を受けている画素を特定し、エッジ適応フィルタを使用して、これらの画素をフィルタリングする。ブロックノイズ検出ロジック220は、入力フレームにおけるブロック境界を見つけ、位相カウントを使用して、ブロック境界を、様々な位相へと統計的に分類する。位相カウントに少なくとも一部基づいて、入力フレームを、ブロッキーである、すなわちブロック歪みが多い、又はブロッキーでない、すなわちブロック歪みが少ない、のどちらかに分類する。ブロック歪みが多いフレーム、すなわちブロッキーなフレームを、様々なプログラム可能オプションに基づいて、フィルタリングしてもよい。ブロックノイズ検出ロジック220及びモスキートノイズ検出ロジック210は、直列で動作してもよいし、並列に動作してもよい。
モスキートノイズ検出ロジック210は、1画素あたりのモスキートノイズの量を表す、複数ビットを生成する。一実施形態において、ブロックノイズ検出ロジック220は、3ビット信号を生成する。例えば、水平ビットは、水平方向のブロック境界が検出されたことを示し、垂直ビットは、垂直方向のブロック境界が検出されたことを示し、グローバルビットは、グローバルフィルタリングモードであることを示す。グローバルビットは、入力フレームがブロック歪みが多い画像であり、フレーム全体をフィルタリングすべきであることを示す。一実施形態において、グローバルビットが設定されている場合には、水平ビット及び垂直ビットは、無視してもよい。出力生成ロジック270は、制御経路からの信号及びデータ経路における4つのフィルタからの出力に、少なくとも一部基づいて、輝度出力を計算する。その他のビット量及び信号を、実装してもよい。
[フィルタ]
図2に示す2Dモスキートフィルタロジック230及び2Dブロックフィルタロジック240は、一実施形態では、2次元エッジ適応フィルタである。2Dモスキートフィルタロジック230は、モスキートノイズの影響を受けている画素をフィルタリングし、2Dブロックフィルタロジック240は、ブロックノイズの影響を受けている画素をフィルタリングする。2Dモスキートフィルタロジック230及び2Dブロックフィルタロジック240は、それぞれ、プログラム可能な閾値及びカーネルサイズを有する。1D水平方向フィルタロジック250及び1D垂直方向フィルタロジック260は、水平方向及び垂直方向で動作する。1D水平方向フィルタロジック250及び1D垂直方向フィルタロジック260は、それぞれ水平方向のブロック境界及び垂直方向のブロック境界をフィルタリングする。2Dモスキートフィルタロジック230、2Dブロックフィルタロジック240、1D水平方向フィルタロジック250及び1D垂直方向フィルタロジック260は、線形モード又はエッジ適応モードで動作することができ、係数及び閾値の様々なセットを使用してプログラム可能である。
[モスキートノイズ検出]
図3は、モスキートノイズ検出ロジック300の実施形態を示す。モスキートノイズ検出ロジック300は、エッジ検出ロジック310を使用して、強い方向性エッジを特定し、これらのエッジ周辺にバンド(帯)を生成する。検出されたエッジの例が、図4に示されている。一実施形態において、エッジ検出ロジック310は、方向性エッジ検出マスクを4つ有するエッジフィルタである。マスクを画像上で走査して、最大4つの出力をプログラム可能な閾値と比較することにより、画素が、エッジマップで表されるエッジの一部であるか否かを判断する。エッジマップは、2値で表され、"1"は、現在の画素が、検出されたエッジに存在していることを示す。ここで、その他の数のマスクを実装してもよい。
エッジマップが発見されると、エッジマップは、各エッジの両側の領域に拡張される。エッジマップを拡張して、検出されたエッジ付近の領域におけるノイズを検出してもよい。大拡張ロジック320は、一のエッジマップを生成し、小拡張ロジック330は、第二のエッジマップを生成する。大拡張と小拡張の一例が、図4に示されている。大拡張の拡張幅及び小拡張の拡張幅は、大閾値レジスタ340における値及び小閾値レジスタ350における値によって決定されてもよい。一実施形態では、大拡張ロジック320及び小拡張ロジック330は、検出エッジを水平方向に±7画素までおよび水平方向に±3画素までそれぞれ拡張する。
大拡張ロジック320よって拡張されたエッジマップと小拡張ロジック330によって拡張されたエッジマップとの差分が、最終的なエッジマップとなる。最終的なエッジマップ内に位置する画素は、モスキートノイズを含む対象画素として特定される。この二重の拡張により、検出されたエッジ周辺にバンド(帯領域)が形成される。モスキートノイズの探索は、このバンド内で行われる。小拡張は、検出されたエッジの画素がフィルタリングされるのを防ぐため、これらの画素をモスキートノイズ探索から除外する。一般的に、検出されたエッジをフィルタリングしてしまうと、イメージ全体がシャープさを失ってしまうことにつながる。
方向性の強い画像の近くに存在するデジタル画像の平坦領域において、モスキートノイズが検出される。平坦領域とは、隣接する画素間で画素値が僅かしか変化しない領域のことである。例えば、雲のない空の写真は、平坦であるといえる。雲のない空の画像は、水色の画素の画像となる。このような画像では、1画素毎の画素値の変化が非常に小さいことから、平坦領域を形成する。通常、1画素毎に画素値が大きく変化するような複雑な画像領域では、モスキートノイズを検出することは不可能である。
平坦性検出ロジック360は、現在の画素に隣接する複数の画素における最大の輝度値と最小の輝度値を見つける。これら2つの値の差の絶対値が閾値よりも小さい場合には、現在の画素に"1"が割り当てられ、そうでない場合には、"0"が割り当てられる。無論、他の値を用いてもよい。平坦領域は、平坦性マップに変換される。平坦性拡張ロジック370は、実際の平坦領域を超えて平坦性マップを拡張することができ、ノイズを含む可能性のある平坦領域の近くの画素を検出する。平坦性マップは、エッジマップと同様に拡張される。平坦性マップとエッジマップとが交差する部分を分析して、強いエッジの近くの平坦領域を特定することができる。
大平坦性拡張及び小平坦性拡張の拡張範囲は、プログラム可能な値であってもよい。大平坦性拡張及び小平坦性拡張の拡張範囲は、異なる範囲であってもよい。拡張の範囲は、拡張する画像の種類に依存してもよい。例えば、高精細(HD)画像と、ビデオホームシステム(VHS)画像とで、拡張範囲を異ならせてもよい。
リンギング検出ロジック380は、モスキートノイズを検出する。図5では、リンギング検出ロジック380により、現在の画素を中心として3×3の隣接画素が分析される。リンギング検出ロジック380は、画素のモスキートノイズを、8ビット値で出力する。中央に位置する現在の画素に対するリンギング検出ロジック380の出力は、リンギング強度rsとなり、次の式1及び式2で表される。
Figure 2012502540
ここで、
Figure 2012502540
である。差di=xi−x4は、中央に位置する現在の画素とその他の各画素との差である。図5に示すように、値rs08は、中央の画素X4を基準として、左上の画素X0及び右下の画素X8を使用して計算される。また、中央の画素X4の上に位置する画素X1及び中央の画素X4の下に位置する画素X4を使用して、値rs17を計算する。
画素のモスキートノイズレベルは、3つの値を掛け算することにより求められる。3つの値は、最終的なエッジマップ、拡張された平坦性マップ、及びリンギング検出ロジック380からのモスキートノイズから得られる。得られた値は、図2の出力生成ロジック270に送られて、モスキートノイズを低減するためのフィルタリンが行われる。
一実施形態において、モスキートノイズ検出ロジック300は、ブロックノイズが検出されると、自動的に動作可能となる。ブロックノイズが検出されない場合には、モスキートノイズ低減も行われず、ブロックノイズのない良好な品質の動画が保存される。
[ブロックノイズ検出]
図6は、ブロックノイズ検出ロジック600の一実施形態を示したものである。ブロックノイズ検出ロジック600は、圧縮された画像を形成するのに使用されたブロックのエッジを判断する。通常、画像は、マクロブロックから構成されている。マクロブロックは、16×16画素の正方形の領域である。あるブロック符号化標準では、マクロブロックは、さらに小さな複数のサブブロックからなる。フレーム間で画像データが大きく変化しない場合には、マクロブロックを使用することにより、画像の個々のフレームを、少ないデータに圧縮することができる。平坦領域は、大きなサブブロックで構成され、詳細領域は、小さなサブブロックで構成される。
画像の観察者が、画像を符号化する時に使用されたブロックのエッジを視認できる場合に、ブロックノイズが発生する。動画を表示する画面が大きくなるに従い、ブロックノイズの問題が顕著になりつつあり、また、より解像度の高い画像を生成することが求められている。ブロックノイズは、画像全体のブロックの周辺で発生する、又は画像におけるブロック部分の周辺で発生すると考えられる。ブロックノイズが画像全体に渡って生じる場合は、その画像は、ブロック歪みが多い画像、すなわちブロッキーな画像であると称される。
画素レベルのブロック境界検出器が2種類設けられており、1つは、ソフト検出器610であり、もう1つは、ハード検出器620である。ハード検出器620は、はっきりとしたブロック境界を検出し、ソフト検出器610は、はっきりとはしていない境界を検出する。はっきりとした境界(hard boundary)と、はっきりしていない境界(soft boundary)とでは、厳密さの度合いが異なる。ハード検出器620からの出力は、個々のブロック画素フィルタリングに使用され、ソフト検出器610からの出力は、統計的な分析を使用した画像全体に渡るブロックグリッドに対する複数の出力フラグを生成するのに使用される。ソフト検出器610及びハード検出器620は、異なる閾値を使用して互いに異なるようにプログラムされる。画像全体に渡ってブロッキーでないと判断された場合に、ハード検出器620は、個々のブロックをフィルタすることができる。ソフト検出器610は、水平ソフトブロック検出ロジック630及び垂直ソフトブロック検出ロジック640を含む。水平ソフトブロック検出ロジック630は、水平方向のブロック境界を検出し、垂直ソフトブロック検出ロジック640は、垂直方向のブロック境界を検出する。
ハード検出器620は、水平方向ハードブロック検出ロジック650及び垂直方向ブロック検出ロジック660を含む。水平方向ハードブロック検出ロジック650は、水平方向のブロック境界を検出し、垂直方向ブロック検出ロジック660は、垂直方向のブロック境界を検出する。イメージがブロッキーでない場合、すなわち濃淡が少ない場合、図2の出力生成ロジック270によって、ハード検出器の出力が使用される。ハード検出器の出力は、ブロック出力ロジック690に供給される。
図7は、垂直ブロック境界がどのように検出されるかを示した図である。図7には、デジタル画像の1行から、隣接する8つの画素(A〜H)が示されている。現在の画素がDであるとすると、ブロックノイズ検出ロジック600は、画素Dと画素Eとの間にブロック境界が存在するか否かを判断する。ブロック境界は、8つの画素を2つのグループにグループ化することによって決定される。画素の2つのグループは、ブロック境界の両側に位置すると仮定する。ブロックノイズ検出ロジック600は、4つのブロック条件についての比較結果を評価する。
1.平坦性条件(1)
a.max(A,B,C,D)− min(A,B,C,D) < 閾値1 及び
b.max(E,F,G,H)− min(E,F,G,H) < 閾値1
2.平坦性条件(2)
a.|A−B|<閾値2 及び
b.|B−C|<閾値2 及び
c.|C−D|<閾値2 及び
d.|E−F|<閾値2 及び
e.|F−G|<閾値2 及び
f.|G−H|<閾値2 及び
3.差分条件(1)
a.|mean(A,B,C,D)|−|mean(E,F,G,H)|>閾値3
4.差分条件(2)
a.|D−E|>閾値4
画素A、B、C及びDは、第1のブロックに関連付けられ、画素E、F、G及びHは、第2のブロックに関連付けられている。第1閾値、第2閾値、第3閾値及び第4閾値は、プログラム可能な値である。第1閾値、第2閾値、第3閾値及び第4閾値は、装置900が処理する画像フォーマットに基づいて、プログラム可能である。特定の比較がブロックノイズの検出にどの程度寄与しているのかを測るために、これらの比較条件を重み付けしてもよい。
平坦性条件は、イントラグループ、すなわちグループ内の比較であり、差分条件は、インターグループ、すなわちグループ間の比較である。ブロック境界を検出するのに、これら4つの条件の全てを満たす必要はない。多くの場合、1つの平坦性条件と1つの差分条件を満たせば、ブロック境界を十分検出できる。これらの条件を満足する画素は、ブロック境界画素(D及びE)と呼ばれる。検出を改善するために、ブロック境界は、複数の画素の行を跨いで連続的であることから、画素の隣接する行を使用して、結果が正しいか評価することができる。水平方向のブロック境界も、決定するのに考慮される複数の画素が画素の一列から選択される点を除いて、同様な方法で決定される。水平方向ソフトブロック検出ロジック630及び垂直方向ソフトブロック検出ロジック640は、1ビットフラグを、フェーズ発見ロジック670へと受け渡す。各フラグにおける高い値は、ブロック境界が検出されたことを示す。
ブロックノイズ検出ロジック600は、処理される画像の種類に応じて、異なる閾値でプログラムされてもよい。例えば、高解像度(HD)画像と、VHS画像とでは、ブロック境界の閾値を異ならせてもよい。ブロック検出器630、640、650及び660は、上述の複数のブロック条件に異なる重み付けをしてプログラムしてもよい。例えば、平坦性条件(1)及び差分条件(1)は、他のブロック条件よりも、高いウェイトが与えられる。
一実施形態において、位相発見ロジック670は、ブロッキーなフレーム、すなわちブロック歪みの多いフレームを見つける。ブロッキーなフレームとは、画像中の多数のブロック間に、はっきりとしたブロック境界を有するフレームのことである。一実施形態では、ブロッキーな画像は、画像全体に渡って、ブロックフィルタリングされる。一例では、圧縮アルゴリズムは、8×8画素のブロック境界を有する画像を符号化する。ブロックが8×8画素のブロックである場合には、ブロック境界は、8画素毎の決まった間隔で形成される。
また、一実施形態では、位相発見ロジック670は、画像の特定の位相において、ブロック境界が検出された数を数える。例えば、8×8ブロックの場合、位相発見ロジック670は、8個の位相カウンタを有する。フェーズカウンタは、位相発見ロジック670によって処理される画像の様々な位相間で、水平方向及び垂直方向に同期されている。ブロック境界が検出されると、関係する位相カウンタがインクリメントされる。水平方向境界又は垂直方向境界が検出されたのか、及び検出された境界がどのフェーズであったのかに基づいて、関係する位相カウンタが決定される。フレームの終わりに、垂直帰線消去期間が存在する。従って、フレームの終わりに、位相カウンタが評価される。位相カウンタのうちの1つに高い値が存在し、他の7つの位相カウンタには低い値が存在する場合には、ブロッキーなフレームが検出されたことを意味する。また、最も高い値の位相カウンタと2番目に高い値のフェーズカウンタとの差分が、プログラム可能な閾値よりも大きな値である場合にも、ブロッキーなフレームが検出されたことを意味する。水平情報及び垂直情報は、消去期間の間にラッチされる。
画像がブロッキーである場合には、フィルタリングされる。グリッド生成ロジック680は、消去期間の間にラッチされた位相情報を使用して、1画素単位で現在処理されているフレームをフィルタリングするための出力フラグを生成する。出力フラグは、ブロックグリッドを生成するのに使用される。ブロックグリッドは、現在処理されているフレームをフィルタするのに使用される。ブロックのグリッドを使用してフレームをフィルタリングすることにより、フレーム全体に渡ってブロックフィルタリングを行うことができる。個々のブロック境界を探す従来のフィルタリングでは、ブロック境界における画素値が、ブロック境界を検出可能な程度に変化しない場合には、ブロック境界を検出できなかった。ブロックグリッドを生成することにより、検出するには弱すぎるブロックも、画像を横断するブロックグリッドの一部としてフィルタリングすることができる。
一実施形態において、入力画素の位相が、格納されているブロック位相と一致する場合、ブロック出力690は、対応するフラグ_h又はフラグ_v信号の一方又は両方を高(high)に設定する。画素が、ブロックの角に位置する画素に対応する場合、フラグ_h及びフラグ_vは両方とも高(high)に設定される。フラグ_h及びフラグ_v信号は、フィルタリングのために、図2の出力生成ロジック270に受け渡される。フラグ_h又はフラグ_vの値は、ブロック出力ロジック690に供給される。フラグ_h又はフラグ_vの値を決定するフェーズカウンタの値と関連付けられているフレームが、フレームバッファに格納されていなかった場合は、フラグ_h又はフラグ_vの値を次のフレームに適用して、処理を行ってもよい。動画セッションの間はブロック位相が固定されていることから、フレーム間のレイテンシは、通常、許容範囲である。
一実施形態において、位相発見ロジック670及びグリッド生成ロジック680は、適応ブロックノイズ検出を提供する。ブロック境界の性質は変化し、これらをモデル化するのが容易でなかったことから、従来の画素レベルの検出では、全てのブロック境界を検出することができなかった。また、ブロック検出信号が、画像の特徴を間違ってブロック境界として検出してしまう場合があった。従来の画素レベルのインジケーターのみを利用する場合は、複数のブロック境界の一部はフィルタリングされず、画像の特徴が不正確にフィルタリングされてしまう場合がある。一実施形態において、ブロックグリッドが検出されなかった場合には、ブロックフィルタリングはこれ以上行われない。ブロックノイズ検出ロジック600の適応性は、ブロッキーでない画像素材を保存すると同時に、ブロッキーな素材、すなわち濃淡のムラの多い素材をきれいにする。
一実施形態では、ヒステリシスを導入して、ブロック画像が検出されない場合であっても、一定の数のフレームに対してブロックフィルタリングを行うようにする。これは、フレームの大部分がブロッキーであると検出されている一方で、数個の断続的に配置されたフレームがブロッキーでないと検出されている場合に、有用である。ヒステリシスは、最後にラッチされたブロック位相のグローバルブロックフィルタリングをこれらのフレームに対して設定する。ヒステリシスを使用することにより、ブロック境界検出の一貫性を改善することができる。別の実施形態では、前のフレーム数が一定の閾値数、ブロッキーであると判断された場合には、フレームがブロッキーであると分類されてもよい。
別の実施形態では、水平及び垂直方向におけるアキュムレータの最も高い値及び2番目に高い値との差を利用して、入力フレームのブロック歪みの多さを示す複数ビットレベルを生成する。差が大きい値である場合には、フレームが非常にブロッキーであることを示し、差が小さい値である場合には、ブロッキーではないことを示すようにしてもよい。ブロック歪みの多さのレベルに応じて、異なるフィルタリングオプションを用いることができる。例えば、高度にブロック歪みが多い場合には、フレーム全体をフィルタリングする。別のレベルのブロック歪みの多さである場合には、グリッド生成ロジック680によって生成されたグリッド上の画素をフィルタリングする。水平方向ハードブロック検出ロジック650及び垂直方向ハードブロック検出ロジック660によって、ブロック境界であると検出されたグリッド画素は、ブロック歪みのレベルが低いことを示す、閾値以下のブロック歪みについてフィルタリングを行う。水平方向ソフトブロック検出ロジック630及び垂直方向ソフトブロック検出ロジック640によって検出されたグリッド画素は、別の閾値以下のブロック歪みについてフィルタリングされる。
一実施形態において、位相発見ロジック670による一方向のグリッド検出は、別の方向のグリッド検出に依存する。例えば、前に実施される水平方向のフィルタリングの影響により、垂直方向のブロック境界を検出するのは難しくなってしまう場合がある。その結果、垂直方向のグリッドは、位相発見ロジック670によって検出された水平方向グリッドに少なくとも一部依存する。
別の実施形態では、装置200は、圧縮スキームの一部が可変ブロックサイズを有するという条件に依存する。位相発見ロジック670は、位相アキュムレータにおいて2つ以上の高い値を探し、高い値を有する位相アキュムレータに対応するグリッドを形成する。例えば、ブロックサイズが4及び8であるデジタル画像の場合、アキュムレータから2つの最大値が選択され、検出されたアキュムレータの最大値に基づいて、2つのグリッドが形成される。
[出力生成ロジック]
図2に示すように、一実施形態では、出力生成ロジック270は、検出されたグリッド及びフィルタリングされた画像値を使用して、輝度出力を計算する。ブロックノイズではなく、モスキートノイズによって劣化されていると検出された画素については、2Dフィルタモスキートフィルタ出力と、元の輝度とを混合することにより、輝度出力が生成される。混合は、図3のモスキートノイズ検出ロジック300によって示されたノイズレベルである混合ファクタによって制御される。高いノイズレベルを有する画素に対するフィルタ出力には、元の輝度よりも、高い重み付けがなされる。低いノイズレベルを有する画素に対するフィルタ出力には、元の輝度よりも、低い重み付けがなされる。
モスキートノイズによってではなく、ブロックノイズによって劣化している画素の場合は、垂直方向ブロック境界画素に対しては1D水平方向フィルタロジック250出力、及び水平方向ブロック境界画素に対しては1D垂直方向フィルタロジック260の出力が、出力となる。隅に位置する画素の場合は、水平方向及び垂直方向にフィルタリングされた画素値が選択される。これらの画素に対しては、画素値が大きく変化する部分に影響を与えるような1Dフィルタの出力となるような出力が選択される。エッジ適応フィルタは、ブロックグリッド上に位置する画像の強い特徴を保存することから、線形フィルタよりも、エッジ適応1Dフィルタの方が望ましい。これは、画面表示(OSD)、レターボックス、混合素材等についても同様である。
モスキートノイズ及びブロックノイズの両方に影響を受けている画素の場合、2Dモスキートフィルタロジック出力と、2Dブロックフィルタロジック出力との間で選択を行う。これにより、最終的な画像には、アーティファクトのようなグリッドを発生させてしまう可能性のある画素値の急激な飛躍をなくすことができる。画像がブロッキーである場合には、2Dブロックフィルタロジック出力が使用される。一実施形態において、画像がブロッキーでない場合には、モスキートノイズフィルタリングをオフにしてもよい。
図8は、デジタル画像ノイズ低減に関連する装置800の一実施形態を示した図である。装置800は、ブロック境界に関連する領域におけるノイズをフィルタリングするのに適応可能である。アーティファクトを含むデジタル画像の領域がフィルタリングされ、アーティファクトを含まない領域はフィルタリングされないことから、デジタル装置800は、適応的である。上述したように、2種類のアーティファクトとして、モスキートノイズとブロックノイズとが含まれる。
一実施形態において、装置800は、デジタル画像に存在するモスキートノイズの量を検出するモスキートノイズ検出ロジック810を備え、デジタル画像は、画素によって構成されている。ブロックノイズ検出ロジック820は、デジタル画像に存在するブロックノイズの量を検出する。上述したように、ブロックノイズ検出ロジック820は、まず、水平方向ブロック境界又は垂直方向ブロック境界が存在するかを検出してもよい。一実施形態において、モスキートノイズ検出ロジック820は、モスキートノイズの量を表す8ビット値を生成する。
一実施形態において、モスキートノイズ検出ロジック820は、方向性エッジを検出する。モスキートノイズ検出ロジック810は、方向性エッジを、上述したように、大きな拡張幅及び小さな拡張幅で、拡張する。拡張を実施して、強い方向性エッジの近くの領域に、発生する可能性のあるモスキートノイズを閉じ込める。大拡張及び小拡張により、エッジマップが形成される。
モスキートノイズ検出ロジック810は、エッジマップに対応するデジタル画像の平坦領域を決定する。上述したように、平坦領域とは、隣接する画素間で、画素値が大きく変化しない画像領域のことである。モスキートノイズ検出ロジック810は、エッジマップの平坦領域における画素に対応するモスキートノイズ強度を判断する。モスキートノイズは、モスキートノイズ検出ロジック810が、エッジマップに対応するモスキート画素値、平坦領域に対応する画素値及びモスキートノイズ強度の画素値を掛け合わせることにより求められる。
一実施形態において、エッジマップは、方向性エッジ周辺の画素の領域である。方向性エッジは、ブロック境界が検出されたエッジのことである。方向性エッジ上の画素は、エッジマップには含まれない。大拡張は、エッジマップの外側の縁上の画素を規定し、小拡張は、エッジマップの内側の縁上の画素を規定する。
一実施形態において、ブロックノイズ検出ロジック820は、水平方向ブロック境界がデジタル画像中に存在するかを判断することにより、存在するブロックノイズの量を検出する。判断は、ブロック位相がデジタル画像に存在するか否かを判断することで行われる。ブロック位相の存在は、水平ブロック境界が、周期的に一定の間隔で繰り返していることを意味する。位相は、水平方向ブロックエッジグリッドの位置に対応している。例えば、デジタル画像が、最も大きいブロックサイズとして16×16の画素ブロックで符号化される場合には、可能性のある16の水平方向ブロックエッジ位置に対応して、16の位相が存在する。水平方向ブロック境界は、上述したように、デジタル画像における少なくとも1つの垂直方向の列の複数の画素に少なくとも基づいて決定される。
ブロックノイズ検出ロジック820は、水平方向ブロック境界の検出と同様な方法で、垂直方向ブロック境界を決定する。垂直方向ブロック境界に対応する垂直方向アキュムレータは、垂直方向ブロック境界が検出されると、インクリメントされる。垂直方向ブロック境界は、上述したように、デジタル画像における少なくとも1つの水平方向の行の複数の画素に少なくとも基づいて決定される。
ブロックノイズ検出ロジック820は、水平方向アキュムレータの値及び垂直方向アキュムレータの値に少なくとも一部基づいて、デジタル画像のブロックグリッドを生成する。アキュムレータ間の値の差が閾値を超える場合は、ブロックエッジのグリッドが、最も大きな値を含むアキュムレータによって表される位相に対応する。規則正しいアレイのブロックが画像の符号化に使用されることから、画像の垂直方向及び水平方向のブロック境界は、一定の決まったパターンで繰り返される。
別の実施形態では、装置800は、水平方向及び/又は垂直方向のブロック位相に少なくとも一部基づいて、グリッドを生成する。グリッドは、水平及び垂直方向ブロック位相以外の他のパラメータに基づいて生成されてもよい。グリッドは、デジタル画像の画素、及びデジタル画像の圧縮に使用されたブロックのブロック境界に対応している。
装置800は、デジタル画像をフィルタリングするフィルタロジック830を備える。フィルタロジック830は、2次元(2D)モスキートフィルタ出力、2Dブロックフィルタ出力、1次元(1D)水平方向ブロックフィルタ出力及び1D垂直方向ブロックフィルタ出力を生成する。上述したように、2Dモスキートフィルタ出力及び2Dブロックフィルタ出力は、デジタル画像全体をフィルタリングすることによって生成される出力である。1D水平方向ブロックフィルタ出力及び1D垂直方向ブロックフィルタ出力は、画像を水平方向及び垂直方向にそれぞれフィルタリングすることによって生成される出力である。一実施形態において、フィルタロジック830は、画素値の加重平均に少なくとも一部基づいて、画素値をフィルタリングする。
装置800は、選択ロジック840を備える。選択ロジック840は、モスキートノイズの量及びブロックノイズの量に少なくとも一部基づいて、画質を改善する修正フィルタを選択する。修正フィルタは、2Dモスキートフィルタ出力、2Dブロックフィルタ出力、1D水平方向ブロックフィルタ出力及び1D垂直方向ブロックフィルタ出力のうちの1つ又は複数を混合して出力する。一実施形態では、画像が、画像全体に渡ってブロッキーである場合には、選択ロジック840は、2Dモスキートフィルタ出力及び2Dブロックフィルタ出力を選択する。他の実施形態では、画像が、画像全体に渡ってブロッキーでない場合には、検出されたブロック境界に対して、1D水平方向ブロックフィルタ出力及び1D垂直方向ブロックフィルタ出力が適用される。
圧縮アーティファクト論理850は、修正フィルタ出力に少なくとも一部基づいて、デジタル画像におけるブロックノイズ及びモスキートノイズの圧縮アーティファクトを低減する。一実施形態において、比較アーティファクトロジック850は、ブロックグリッドに少なくとも一部基づいて、デジタル画像における圧縮アーティファクトブロックノイズを低減する。例えば、画像画素が、グリッドの距離内に位置する場合には、アーティファクトノイズが低減される。
一実施形態において、デジタル画像が、動画データの現在のフレームであるとする。選択ロジック840は、動画データの複数の前フレームのセットの履歴に少なくとも一部基づいて、修正フィルタ出力を選択する。(前フレームのセットのうち)前フレームが一定数を超えてブロッキーである場合には、現在のフレームもブロッキーであると判断される。ブロッキーなフレームとは、フレームの大部分に渡ってブロックノイズが存在するフレームのことである。例えば、存在する可能性のある複数のブロック境界のうち、50%が検出された場合には、そのフレームがブロッキーなフレームであると言える。一実施形態において、選択ロジック840は、現在のフレームがブロッキーである場合に、2Dブロックフィルタロジック出力を選択して、修正フィルタ出力とする。
一実施形態において、装置800は、チップに実装される。チップとは、半導体材料に形成されるミクロンサイズの電子回路のセットのことである。チップは、画像を処理する電子デバイス内に設けられてもよい。他の実施形態では、チップは、選択された規格に準じてデジタル画像を処理するために実装される。一例では、規格は、H.264規格であってもよい。
図9は、デジタル画像のノイズ低減に関連する方法1000の一実施形態を示したものである。幾つかの実施形態においては、方法1000は、装置200及び/又は装置800(それぞれ、図2及び図8参照)と関連していてもよい。本明細書に記載される他の方法についても同様である。方法1000は、デジタル画像からブロックノイズ及びモスキートノイズを取り除く又は少なくとも低減することにより、デジタル画像の品質を向上させる。方法1000では、ブロック境界の近傍のノイズをフィルタする適応フィルタを使用して、ノイズをフィルタリングする。本明細書に記載される方法1000又はその他の方法は、ハードウェア、ファームウェア、又はハードウェアとファームウェアの組み合わせに実装してもよい。一実施形態において、方法1000は、チップで実行されるように実装される。
方法1000によれば、1010において、モスキートノイズがデジタル画像に存在するか否かを判断する。方法1000では、上述したように、平坦画像領における強いエッジの近傍に、モスキートノイズを検出してもよい。
方法1000では、1020において、モスキートノイズ強度を示すモスキートノイズ出力を生成する。一実施形態において、モスキートノイズ強度は、検出されるモスキートノイズに比例する。モスキートノイズ強度は、リンギング検出器により生成されてもよい。モスキートノイズが存在しない画素については、モスキートノイズ強度の値が0であってもよい。一実施形態において、モスキートノイズ出力は、1画素毎に、8ビット値で生成される。
方法1000では、1030において、ブロックノイズがデジタル画像に存在するか否かが判断される。上述したように、ブロックノイズは、ブロック境界付近で判断される。ブロック境界は、グリッドによって表現されていてもよい。上述したように、位相アキュムレータに少なくとも一部基づいて、グリッドが決定される。
1040において、ブロックノイズ出力が生成される。ブロックノイズ出力は、ブロックノイズの強度を表す。ブロックノイズ出力は、ブロックノイズ及び可能性のあるグローバルブロックノイズを特定する。グローバルブロックノイズは、上述したように、デジタル画像全体に渡る水平ブロックノイズ及び垂直方向ブロックノイズから構成される。
1050において、フィルタ出力が生成される。一実施形態において、2Dモスキートフィルタ、2Dブロックフィルタ、1D水平方向フィルタ及び1D垂直方向フィルタ、又は別の組み合わせに対するフィルタ出力が生成されてもよい。フィルタは、適応フィルタである。適応フィルタは、ブロック境界付近のノイズをフィルタリングする。ブロック境界は、上述したような方法で判断できる。
1060において、修正フィルタ出力が選択される。修正フィルタ出力は、画質を改善すべく、選択される。修正フィルタ出力は、2Dモスキートフィルタ出力、2Dブロックフィルタ出力、1D水平方向フィルタ出力及び1D垂直方向フィルタ出力のうちの少なくとも1つの混合である。これらのフィルタ出力の混合は、モスキートノイズ出力及びブロックノイズ出力に少なくとも一部基づく。
方法1000では、1070において、修正フィルタ出力に少なくとも一部基づいて、デジタル画像における圧縮アーティファクトを低減する。例えば、画像の大部分に渡ってブロック境界が検出され、画像がブロッキーである場合、2Dモスキートフィルタ出力及び/又は2Dブロックフィルタ出力を組み合わせて、デジタル画像のフィルタリングを行う。画像がブロッキーであるとまではいかないが、ブロックノイズが一部存在する場合、1D水平方向フィルタ出力及び1D垂直方向フィルタ出力を組み合わせて、ブロックノイズが検出された領域におけるアーティファクトノイズを低減する。一実施形態において、ブロックノイズが検出されていない場合には、圧縮アーティファクトの低減に、2Dモスキートフィルタ出力を適用しない。別の実施形態では、方法1000は、H.264規格に従って圧縮されたデジタル画像の圧縮アーティファクトを低減する。
一実施形態において、デジタル画像は、動画データの現在のフレームであるとする。現在のフレームとは、動画データストリームと関連付けられたデータのフレームであってもよい。データの前のフレームの履歴が存在してもよい。全フレームのブロックデータを使用して、データの特定のフレームの一定数が、ブロッキーであると判断されてもよい。複数の前フレームのセットからなる履歴に少なくとも一部基づいて、フィルタ出力を選択する。前フレームが一定数を越えてブロッキーである場合には、現在のフレームも、自動的にブロッキーであると判断される。
図10及び図11は、デジタル画像からデジタル画像ノイズを取り除くことに関連する方法1100の一実施形態を示した図である。方法1100は、デジタル画像からブロックノイズ及びモスキートノイズを取り除く又は低減することにより、デジタル画像の品質を向上させる。方法1100では、ブロック境界の近傍のノイズをフィルタする適応フィルタを使用して、ノイズをフィルタリングする。方法1100は、ハードウェア、ファームウェア、又はこれらの組み合わせに実装してもよい。
デジタル画像データを処理する際に、方法1100によれば、1110において、モスキートノイズがデジタル画像に存在するか否かを判断する。一実施形態において、方法1100では、上述したように、平坦画像領における強いエッジの近傍に、モスキートノイズを検出してもよい。1120において、方向性エッジを決定することにより、モスキートノイズが検出される。方向性エッジは、4つの方向性フィルタの出力を分析することにより、検出される。
方法1100では、1130において、方向性エッジを、大きな拡張幅で拡張する。1140において、方向性エッジを、小さな拡張幅で拡張する。大拡張及び小拡張は、モスキートノイズ検出の実行を、強いエッジの近くの領域に限定する。大拡張及び小拡張は、図4を参照して説明したように、実行される。大きな拡張幅及び小さな拡張幅に位置する画素は、エッジマップを構成する。
1150では、デジタル画像のエッジマップに対応する平坦領域が決定される。平坦領域とは、画素間で画素値が大きく変化しない領域のことである。平坦領域におけるモスキートノイズは修正可能であるが、複雑な領域では修正することが難しい。平坦領域は、上記のように決定される。
1160において、1画素単位で、モスキートノイズを補償するモスキートノイズ出力が生成される。モスキートノイズ出力は、少なくとも3つの値を掛け合わせることにより生成される。一実施形態において、掛け合わされる少なくとも3つの値とは、エッジマップに対応する値、平坦領域に対応する値、及びモスキートノイズ出力に対応する強度の3つである。モスキートノイズ出力は、1画素単位でモスキートノイズをフィルタリングするのに使用される。
一実施形態において、画素値の大きさは、リンギング検出器によって決定される。リンギング検出器は、3×3の画素領域における隣接する画素のリンギング値を計算する。画素値の大きさは、図5を参照して上述したように、3×3の画素領域の中央に位置する画素に対応する。一実施形態において、リンギング値を、上述の式1及び式2に従って計算してもよい。
方法1100では、1170において、デジタル画像にブロックノイズが存在するか否かが判断される。上述したように、ブロック境界となる候補を見つけることにより、ブロックノイズを決定してもよい。ブロックノイズの検出を容易にするため、1180において、水平方向ブロック境界が存在するか否かの判断がなされる。そして、1190において、垂直方向ブロック境界が存在するか否かの判断がなされる。図7を参照して上記で説明したように、画素列を分析することにより、水平方向境界及び垂直方向境界を決定してもよい。
1210において、デジタル画像にブロック位相が存在するか否かの判断が行われる。ブロック位相は、水平方向ブロック境界が一定の間隔で繰り返されているか否か、及び/又は垂直方向ブロック境界が一定の間隔で繰り返されているか否かを示す。上述したように画素の行をトレースすると同時に、アキュムレータをインクリメントすることにより、位相が決定されてもよい。
1220において、ブロック位相に基づいてグリッドが生成される。グリッドは、ブロック境界及びデジタル画像の画素に対応する。ブロック境界において、検出可能な量によって画素値が異なることがない場合、ブロック境界を検出するは難しい。グリッドを使用することにより、通常では検出することができないブロック境界を検出することができるようになる。
1230において、ブロックノイズ出力が生成される。ブロックノイズ出力は、デジタル画像の画素値及びグリッドに少なくとも一部基づいて、生成される。ブロックノイズ出力は、画素毎に決定される。例えば、グリッド画素が、デジタル画像の画素に対応する場合、デジタル画像の画素がフィルタリングされる。
図10の1050におけるフィルタ出力生成及び1060におけるフィルタ選択と同様に、1240において、フィルタ出力が生成され、1250において、修正フィルタ出力が選択される。1260において、方法1100は、修正フィルタ出力に基づいて、デジタル画像中の圧縮アーティファクトを低減する。方法1100では、ブロックノイズが存在しない領域はフィルタリングされないことから、デジタル画像のこれら領域は保存される。また、ブロック境界及び平坦領域に対する画素位置に少なくとも一部基づいて、領域がフィルタリングされることから、ブロックノイズが存在しない領域は保存される。
図12は、デジタル画像ノイズの低減に関する方法1300の一実施形態を示した図である。方法1300は、デジタル画像からブロックノイズ及びモスキートノイズを取り除く又は低減することにより、デジタル画像の品質を向上させる。
方法1300によれば、1310において、モスキートノイズがデジタル画像に存在するか否かを判断する。方法1300では、上述したように、平坦画像領における強いエッジの近傍に、モスキートノイズを検出してもよい。
方法1300では、モスキートノイズが存在する場合に、1320において、モスキートノイズ強度を示すモスキートノイズ出力を生成する。モスキートノイズ強度は、検出されるモスキートノイズに比例させてもよい。モスキートノイズ強度は、リンギング検出器により生成されてもよい。モスキートノイズが存在しない画素については、モスキートノイズ強度の値が0であってもよい。一実施形態において、モスキートノイズ出力は、1画素毎に、8ビット値で生成される。
方法1300では、1330において、ブロックノイズがデジタル画像に存在するか否かが判断される。1330におけるブロックノイズ決定は、図10を参照して上記で説明した1030におけるブロックノイズ決定と同様なものである。
1340において、水平方向ブロック境界を決定する。上述したように、境界は、画素の一列に基づいて決定されてもよい。水平方向ブロック境界は、上述したように、デジタル画像における少なくとも1つの縦の列の複数の画素に基づいて決定される。1350において、水平方向ブロック境界の位相に対応する水平方向アキュムレータが、インクリメントされる。
1360において、垂直方向ブロック境界を決定する。一実施形態において、垂直方向ブロック境界は、デジタル画像における少なくとも1つの水平方向の行の複数の画素に基づいて決定される。1365において、垂直方向ブロック境界の位相に対応する垂直方向アキュムレータが、インクリメントされる。
方法1300では、1370において、デジタル画像のブロックグリッドが生成される。ブロックグリッドは、水平方向アキュムレータの値及び垂直方向アキュムレータの値に少なくとも一部基づいて生成される。デジタル画像がブロッキーであって、デジタル画像を表現している複数のブロックが検出され、これらのブロックの境界の近くにノイズが検出される場合に、グリッドが生成される。一実施形態において、上述したように平坦領域が検出され、平坦領域内の画素が、フィルタリングされる。
1375において、ブロックノイズ出力が生成される。一実施形態において、ブロックノイズ出力は、上述したように、2Dモスキートフィルタ、2Dブロックフィルタ、1D水平方向フィルタ及び1D垂直方向フィルタを使用して生成される。これらのフィルタは、適応フィルタである。適応フィルタは、ブロック境界付近のノイズをフィルタリングする。
1380において、修正フィルタ出力が選択される。修正フィルタ出力は、少なくとも一部、ブロックグリッドに基づいて選択される。修正フィルタ出力は、画質を改善するために選択される。一実施形態において、修正フィルタ出力は、2Dモスキートフィルタ、2Dブロックフィルタ、1D水平方向フィルタ及び1D垂直方向フィルタからの出力の混合である。これらのフィルタ出力の混合は、モスキートノイズ出力及びブロックノイズ出力に、少なくとも一部基づく。
方法1300では、1390において、修正フィルタ出力に基づいて、デジタル画像における圧縮アーティファクトを低減する。デジタル画像におけるアーティファクトは、1画素単位で低減される。アーティファクトは、グリッドに少なくとも一部基づいて、及び画素が、強いエッジの近くの平坦領域に位置しているかに基づいて、低減される。方法1300は、ブロックノイズ又はモスキートノイズによって変更されにくい画像領域に影響を与えることなく、ブロック境界付近のノイズをフィルタリングすることができる。
図13は、デジタル画像ノイズを低減することに関連する方法1400の別の実施形態を示した図である。方法1400は、デジタル画像からブロックノイズ及びモスキートノイズを取り除く又は低減することにより、デジタル画像の品質を向上させる。
方法1400では、1410において、複数画素のグリッドで表現されるデジタル画像に、水平方向ブロック境界が存在するか否かを検出する。1420において、垂直方向ブロック境界が存在するかを検出する決定が行われる。水平方向及び垂直方向ブロック境界は、上述に記載されたように決定される。
1430において、デジタル画像にブロック位相が存在するか判断する。ブロック位相は、水平方向ブロック境界が一定の周期で繰り返されているか、及び垂直方向ブロック境界が一定の周期で繰り返されているかを示す。ブロック境界は、上述したように決定される。
1440において、ブロック位相に基づいてグリッドが生成される。グリッドは、上述したように生成される。グリッドは、デジタル画像の画素に対応し、デジタル画像全体に渡って生成される。グリッド上の画素は、ブロック境界画素を表す。
方法1400では、1450において、ブロックノイズの量が検出される。ブロックノイズは、上述したように検出される。ブロックノイズは、グリッド及びデジタル画像の画素に少なくとも一部基づいて検出される。
1460において、デジタル画像のブロックノイズ圧縮アーティファクトが低減される。アーティファクトは、上述したように、検出されたブロックノイズの量に少なくとも一部基づいて、低減される。方法1400では、水平方向ブロック境界、垂直方向ブロック境界及びグリッドに基づいて、アーティファクトが低減される。
図14は、デジタル画像ノイズを低減することに関連する方法1600の別の実施形態を示した図である。方法1600は、デジタル画像のブロック境界に隣接するモスキートノイズを取り除く又は低減することにより、デジタル画像の品質を向上させる。
方法1600では、1610において、ブロック境界が検出される。上記で説明したように、水平方向画素列及び垂直方向画素列を分析することにより、ブロック境界を検出してもよい。モスキートノイズは、ブロック境界と関係していることから、ブロック境界を検出する。
1620において、方法1600は、強い方向性エッジに隣接するモスキートノイズが発生する可能性のある領域を決定する。上述したように、このような領域としては、隣接する画素間で画素値の大きな変化を伴う平坦領域であってもよい。モスキートノイズを含まない領域に影響を与えることなく、平坦領域におけるモスキートノイズを修正することができる。1630において、モスキートノイズを含む可能性のある領域の画素について、モスキートノイズ値を決定する。
1640、1650及び1660において、ブロックノイズが検出され、デジタル画像がフィルタリングされ、圧縮アーティファクトが除去される。図15を参照して説明した1520、1530及び1540と同様に、ブロックノイズが検出され、デジタル画像がフィルタリングされ、圧縮アーティファクトが除去される。
一実施形態において、本明細書に記載される方法は、コンピュータ可読媒体において実体化され、そこに格納されるコンピュータ実行可能な命令として実装されてもよいことは、当業者にとって明らかである。機械(例えば、プロセッサ、デバイス)によって実行されると、命令は機械に、ここに記載された方法又はこれらの均等物を実行させる。また、方法は、回路を使用して実装されてもよい。
システム及び方法の例が記載され、例が詳細に説明されたが、これらの詳細事項により、添付の特許請求の範囲を限定することを出願人は意図していない。また、本明細書に記載されたシステム及び方法を説明することを目的として、考え得る限りの構成要素又は方法の組み合わせを全て記載することは、不可能である。従って、本発明は特定の詳細事項、例示された装置、及び説明例に限定されない。また、本願は、変更、改良、変形例も添付の特許請求の範囲に含まれることを意図している。

Claims (20)

  1. デジタル画像の画素に関連付けられたモスキートノイズ値を1画素単位で決定する段階と、
    前記デジタル画像に関連付けられたブロックノイズ値を1画素単位で決定する段階と、
    複数の適応フィルタを用いて、前記デジタル画像をフィルタリングする段階と、
    前記モスキートノイズ値及び前記ブロックノイズ値に少なくとも一部基づいて、前記複数の適応フィルタからのフィルタ出力を組み合わせることにより、前記デジタル画像における圧縮アーティファクトを1画素単位で低減する段階と
    を備える方法。
  2. 前記モスキートノイズ値を決定する段階は、
    強方向性エッジを検出し、
    前記強方向性エッジの近傍にモスキートノイズが発生する可能性のある領域を決定し、
    前記モスキートノイズが発生する可能性のある領域の画素についてモスキートノイズ値を決定することにより行われる請求項1に記載の方法。
  3. デジタル画像に存在するモスキートノイズの量を検出するモスキートノイズ検出ロジックと、
    前記デジタル画像に存在するブロックノイズの量を検出するブロックノイズ検出ロジックと、
    前記デジタル画像をフィルタリングして、2次元(2D)モスキートフィルタ出力、2Dブロックフィルタ出力、1次元(1D)水平方向ブロックフィルタ出力、及び1D垂直方向ブロックフィルタ出力のうちの少なくとも1つを生成するフィルタロジックと、
    前記モスキートノイズの量及び前記ブロックノイズの量に少なくとも一部基づいて、画質を向上させるべく修正フィルタ出力を選択する選択ロジックと、
    前記修正フィルタ出力に少なくとも一部基づいて、前記デジタル画像における圧縮アーティファクトを低減する圧縮アーティファクトロジックと
    を備え、
    前記修正フィルタ出力は、前記2Dモスキートフィルタ出力、前記2Dブロックフィルタ出力、前記1D水平方向ブロックフィルタ出力、及び前記1D垂直方向ブロックフィルタ出力のうちの少なくとも1つである装置。
  4. 前記デジタル画像は、現在フレームであって、
    前記選択ロジックは、複数の前フレームのセットの履歴に少なくとも一部基づいて、前記修正フィルタ出力を選択し、
    ブロッキーなフレームは、フレーム全体に渡ってブロックノイズを有し、
    前記複数の前フレームのセットの一定数がブロッキーである場合は、前記現在のフレームはブロッキーである請求項3に記載の装置。
  5. 前記モスキートノイズ検出ロジックは、
    強方向性エッジを検出し、
    前記強方向性エッジを、大きな拡張幅で拡張し、
    前記強方向性エッジを、小さな拡張幅で拡張し、
    前記大きな拡張幅及び前記小さな拡張幅内の画素でエッジマップを形成し、
    前記エッジマップに対応する前記デジタル画像の平坦領域を決定し、
    モスキートノイズ閾値を超えるモスキートノイズ強度を有する画素を決定し、
    前記エッジマップに対応するモスキート画素値、前記平坦領域に対応する画素値、及び前記モスキートノイズ閾値を超えるモスキートノイズ強度を有する画素を掛け合わせることにより、モスキートノイズ出力を生成する請求項3に記載の装置。
  6. 3×3画素の領域における隣接する画素のリンギング値を計算するリンギング検出ロジックをさらに備える請求項5に記載の装置。
  7. 前記リンギング検出ロジックは、
    Figure 2012502540
    に従って前記リンギング値を計算し、
    rs08は、中央に位置する画素を基準として、左上隅の画素及び右下隅の画素について計算され、rs17は、前記中央に位置する画素の上方に位置する画素及び下方に位置する画素について計算され、rs26は、前記中央に位置する画素を基準として、右上隅に位置する画素及び左下隅に位置する画素について計算され、rs35は、前記中央に位置する画素の左側の画素と右側の画素について計算され、
    Figure 2012502540
    であって、
    di=xi−x4は、前記中央に位置する画素とその他の画素それぞれとの差である請求項6に記載の装置。
  8. 前記エッジマップは、前記方向性エッジ周辺の画素領域であり、前記方向性エッジ上の画素は、前記エッジマップには含まれず、前記大きな拡張幅は、前記エッジマップの外側のエッジの画素を規定し、前記小さな拡張幅は、前記エッジマップの内側のエッジの画素を規定する請求項5に記載の装置。
  9. 前記ブロックノイズ検出ロジックは、
    水平方向ブロック境界が存在するかを検出し、
    垂直方向ブロック境界が存在するかを検出し、
    前記水平方向ブロック境界が一定の間隔で周期的に繰り返されること又は前記垂直方向ブロック境界が一定の間隔で周期的に繰り返されることのどちらか一方を少なくとも示すブロック位相が、前記デジタル画像に存在するか判断し、
    前記ブロック位相に少なくとも一部基づいて、前記デジタル画像の画素に対応するグリッドを生成し、
    前記ブロックノイズ検出ロジックは、前記グリッド及び前記デジタル画像の画素に少なくとも一部基づいて、前記ブロックノイズの量を検出する請求項3に記載の装置。
  10. 前記ブロックノイズ検出ロジックは、
    前記デジタル画像の垂直方向の1つの列における画素に少なくとも一部基づいて、水平方向ブロック境界を決定し、
    前記水平方向ブロック境界の位相に対応する水平方向アキュムレータをインクリメントし、
    前記デジタル画像の水平方向の1つの行における画素に少なくとも一部基づいて、垂直方向ブロック境界を決定し、
    前記垂直方向ブロック境界の位相に対応する垂直方向アキュムレータをインクリメントし、
    水平方向アキュムレータ値及び垂直方向アキュムレータ値に少なくとも一部基づいて、前記デジタル画像のブロックグリッドを生成し、
    前記ブロックノイズ検出ロジックは、前記ブロックグリッド及び前記デジタル画像の画素に少なくとも一部基づいて、前記ブロックノイズの量を検出する請求項3に記載の装置。
  11. 前記圧縮アーティファクトロジックは、前記ブロックグリッドに少なくとも一部基づいて、前記デジタル画像における圧縮アーティファクトを低減する請求項10に記載の装置。
  12. 画素値が、モスキートノイズ量及びブロックノイズ量を含む場合に、
    前記選択ロジックは、前記2Dモスキートフィルタ出力に少なくとも一部基づいて修正フィルタ出力を選択し、
    前記修正フィルタ出力は、前記2Dブロックフィルタ出力、前記1D水平方向ブロックフィルタ出力及び前記1D垂直方向ブロックフィルタ出力のうちの少なくとも1つに基づく請求項3に記載の装置。
  13. デジタル画像中にモスキートノイズが存在すると判断された場合に、モスキートノイズ強度を示すモスキートノイズ出力を生成する段階と、
    デジタル画像中にブロックノイズが存在すると判断された場合に、ブロックノイズの強度を表すブロックノイズ出力を生成する段階と、
    2次元(2D)モスキートフィルタ、2Dブロックフィルタ、1次元(1D)水平方向フィルタ及び1D垂直方向フィルタのうちの少なくとも1つを用いて、前記デジタル画像をフィルタリングすることにより、2Dモスキートフィルタ出力、2Dブロックフィルタ出力、1D水平方向フィルタ出力、及び1D垂直方向フィルタ出力を生成する段階と、
    画質を改善するべく、前記モスキートノイズ出力及び前記ブロックノイズ出力に少なくとも一部基づいて、修正フィルタ出力を選択する段階と、
    前記修正フィルタ出力に少なくとも一部基づいて、前記デジタル画像における圧縮アーティファクトを低減する段階と
    を備え、
    前記ブロックノイズ出力は、前記ブロックノイズが、垂直方向ブロックノイズ、水平方向ブロックノイズ、並びに前記デジタル画像全体に渡る水平方向ブロックノイズ及び垂直方向ブロックノイズからなるグローバルブロックノイズのうちのいずれかであると特定し、
    前記修正フィルタ出力は、前記2Dモスキートフィルタ出力、前記2Dブロックフィルタ出力、前記1D水平方向フィルタ出力、及び前記1D垂直方向フィルタ出力のうちの少なくとも1つである方法。
  14. 前記デジタル画像は、現在フレームであって、
    前記修正フィルタ出力を選択する段階は、複数の前フレームのセットの履歴に少なくとも一部基づき、
    ブロッキーなフレームは、フレーム全体に渡ってブロックノイズを有し、
    前記複数の前フレームのセットの一定数がブロッキーである場合は、前記現在のフレームはブロッキーである請求項13に記載の方法。
  15. 現在のフレームがブロッキーである場合には、前記修正フィルタ出力として、前記2Dブロックフィルタ出力が選択される請求項13に記載の方法。
  16. モスキートノイズが存在すると判断する段階は、
    方向性エッジを検出する段階と、
    前記方向性エッジを、大きな拡張幅で拡張する段階と、
    前記方向性エッジを、小さな拡張幅で拡張する段階と、
    前記大きな拡張幅及び前記小さな拡張幅内の画素でエッジマップを形成し、前記エッジマップに対応する、前記デジタル画像の平坦領域を決定する段階と、
    前記エッジマップに対応するモスキート画素値、前記平坦領域に対応する画素値、及び前記モスキートノイズ出力に対応する画素値強度の少なくとも3つの値を掛け合わせることにより、前記モスキートノイズ出力を生成する段階とを備える請求項13に記載の方法。
  17. 前記画素値強度は、3×3画素の領域の隣接する複数の画素のリンギング値を計算することにより決定され、前記画素値強度は、前記3×3画素の領域の中央に位置する画素に対応している請求項16に記載の方法。
  18. 前記リンギング値は、
    Figure 2012502540
    Figure 2012502540
    に従って計算され、ここで、di=xi−x4は、前記中央に位置する画素とその他の画素それぞれとの差である請求項17に記載の方法。
  19. ブロックノイズが存在すると判断する段階は、
    水平方向ブロック境界を検出する段階と、
    垂直方向ブロック境界を検出する段階と、
    前記デジタル画像にブロック位相が存在するか判断する段階と、
    前記デジタル画像の画素に対応するグリッドを、前記ブロック位相に少なくとも一部基づいて生成する段階と、
    前記グリッド及び前記デジタル画像の前記画素に少なくとも一部基づいて、前記ブロックノイズ出力を生成する段階とをさらに備え、
    前記ブロック位相は、前記水平方向ブロック境界が一定の間隔で繰り返されている、及び前記垂直方向ブロック境界が一定の間隔で繰り返されていることの少なくとも一方を示す請求項13に記載の方法。
  20. 前記デジタル画像の垂直方向の少なくとも1つの列における画素に少なくとも一部基づいて、水平方向ブロック境界を決定する段階と、
    前記水平方向ブロック境界の位相に対応する水平方向アキュムレータをインクリメントする段階と、
    前記デジタル画像の水平方向の少なくとも1つの行における画素に少なくとも一部基づいて、垂直方向ブロック境界を決定する段階と、
    前記垂直方向ブロック境界の位相に対応する垂直方向アキュムレータをインクリメントする段階と、
    水平方向アキュムレータ値及び垂直方向アキュムレータ値に少なくとも一部基づいて、前記デジタル画像のブロックグリッドを生成する段階とを備え、
    前記画質を改善するべく修正フィルタ出力を選択する段階は、前記ブロックグリッドに少なくとも一部基づいて行われる請求項13に記載の方法。
JP2011525643A 2008-09-09 2009-09-09 方法および装置 Active JP5233014B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US9546608P 2008-09-09 2008-09-09
US61/095,466 2008-09-09
PCT/IB2009/006932 WO2010029432A1 (en) 2008-09-09 2009-09-09 Reducing digital image noise

Publications (2)

Publication Number Publication Date
JP2012502540A true JP2012502540A (ja) 2012-01-26
JP5233014B2 JP5233014B2 (ja) 2013-07-10

Family

ID=41417458

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011525643A Active JP5233014B2 (ja) 2008-09-09 2009-09-09 方法および装置

Country Status (5)

Country Link
US (2) US8571347B2 (ja)
EP (1) EP2327219B1 (ja)
JP (1) JP5233014B2 (ja)
CN (1) CN102150426B (ja)
WO (1) WO2010029432A1 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016506201A (ja) * 2013-01-04 2016-02-25 クゥアルコム・インコーポレイテッドQualcomm Incorporated デジタルビデオストリーム中の圧縮ノイズを低減する方法および装置
KR102263518B1 (ko) * 2020-09-24 2021-06-11 (주)소울텍 중간값 필터링 시스템 및 방법
KR102670031B1 (ko) * 2023-02-28 2024-05-29 국립부경대학교 산학협력단 임펄스 잡음 환경에서 유효픽셀 탐색을 이용한 잡음제거를 위한 장치 및 방법

Families Citing this family (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8175405B1 (en) * 2006-09-14 2012-05-08 Marvell International Ltd. Adaptive MPEG noise reducer
US8824831B2 (en) * 2007-05-25 2014-09-02 Qualcomm Technologies, Inc. Advanced noise reduction in digital cameras
JP5130983B2 (ja) * 2008-03-25 2013-01-30 ソニー株式会社 画像処理装置および方法、並びにプログラム
US8363978B2 (en) * 2009-03-03 2013-01-29 Samsung Electronics Co., Ltd. System and method for block edge location with varying block sizes and offsets in compressed digital video
US8891609B2 (en) * 2009-03-24 2014-11-18 Samsung Electronics Co., Ltd. System and method for measuring blockiness level in compressed digital video
US8401330B2 (en) * 2009-10-09 2013-03-19 At&T Intellectual Property I, L.P. No-reference spatial aliasing measure for digital image resizing
CN102948144B (zh) 2010-04-26 2018-09-21 太阳专利托管公司 用于从周围块的统计推断出针对帧内预测的滤波模式
US9094658B2 (en) 2010-05-10 2015-07-28 Mediatek Inc. Method and apparatus of adaptive loop filtering
WO2012014021A1 (en) * 2010-07-28 2012-02-02 Marvell World Trade Ltd. Block compression artifact detection in digital video signals
US9721333B2 (en) 2010-09-15 2017-08-01 Sharp Laboratories Of America, Inc. Methods and systems for estimation of additive noise
US9530191B2 (en) * 2010-09-15 2016-12-27 Sharp Laboratories Of America, Inc. Methods and systems for detection and estimation of mosquito noise
US8879000B2 (en) * 2010-12-22 2014-11-04 Broadcom Corporation Method and system for detecting analog noise in the presence of mosquito noise
EP2835963B1 (en) * 2012-04-04 2017-03-22 Mitsubishi Electric Corporation Image processing device and method, and image processing program
US9338455B1 (en) * 2013-01-23 2016-05-10 Pixelworks, Inc. Adaptive compression artifacts reduction method
US9118932B2 (en) * 2013-06-14 2015-08-25 Nvidia Corporation Adaptive filtering mechanism to remove encoding artifacts in video data
US9667842B2 (en) * 2014-08-30 2017-05-30 Apple Inc. Multi-band YCbCr locally-adaptive noise modeling and noise reduction based on scene metadata
US9525804B2 (en) 2014-08-30 2016-12-20 Apple Inc. Multi-band YCbCr noise modeling and noise reduction based on scene metadata
US9639919B2 (en) 2014-10-07 2017-05-02 Stmicroelectronics (Grenoble 2) Sas Detection and correction of artefacts in images or video
US9626745B2 (en) 2015-09-04 2017-04-18 Apple Inc. Temporal multi-band noise reduction
US10083499B1 (en) * 2016-10-11 2018-09-25 Google Llc Methods and apparatus to reduce compression artifacts in images
CN106846262B (zh) * 2016-12-23 2020-02-28 中国科学院自动化研究所 去除蚊式噪声的方法及系统
JP7039215B2 (ja) * 2017-08-30 2022-03-22 キヤノン株式会社 画像処理装置、画像処理方法、およびプログラム
US20230096874A1 (en) * 2021-09-29 2023-03-30 Ati Technologies Ulc Content adaptive filtering via ringing estimation and suppression

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11187400A (ja) * 1997-12-22 1999-07-09 Matsushita Electric Ind Co Ltd 歪除去方法および歪除去フィルタ
JP2005198274A (ja) * 2004-01-06 2005-07-21 Sharp Corp リンギング除去フィルタ
WO2007072301A2 (en) * 2005-12-21 2007-06-28 Pace Micro Technology Plc Reduction of compression artefacts in displayed images
JP2007336075A (ja) * 2006-06-13 2007-12-27 Victor Co Of Japan Ltd ブロック歪み低減装置
JP2008042565A (ja) * 2006-08-07 2008-02-21 Toshiba Corp 動画像復号化装置および方法

Family Cites Families (27)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5852475A (en) * 1995-06-06 1998-12-22 Compression Labs, Inc. Transform artifact reduction process
US6188799B1 (en) * 1997-02-07 2001-02-13 Matsushita Electric Industrial Co., Ltd. Method and apparatus for removing noise in still and moving pictures
JP4230636B2 (ja) * 2000-02-29 2009-02-25 株式会社東芝 動画像再生方法および動画像再生装置
US7136538B2 (en) * 2000-12-21 2006-11-14 Matsushita Electric Industrial Co., Ltd. Noise reducing apparatus and noise reducing method
US7003174B2 (en) * 2001-07-02 2006-02-21 Corel Corporation Removal of block encoding artifacts
JP4145586B2 (ja) * 2001-07-24 2008-09-03 セイコーエプソン株式会社 画像処理装置及び画像処理プログラム、並びに画像処理方法
US20050100235A1 (en) * 2003-11-07 2005-05-12 Hao-Song Kong System and method for classifying and filtering pixels
EP1536647A1 (en) * 2003-11-26 2005-06-01 STMicroelectronics Limited A video decoding device
JP2005167399A (ja) * 2003-11-28 2005-06-23 Noritsu Koki Co Ltd 画像ノイズ除去方法
JP4066367B2 (ja) 2003-11-28 2008-03-26 ノーリツ鋼機株式会社 画像ノイズ除去方法
JP4002599B2 (ja) * 2003-12-01 2007-11-07 学校法人日本工業大学 圧縮復元画像におけるモスキート・ノイズの削減方法及び装置
WO2006010276A1 (en) * 2004-07-30 2006-02-02 Algolith Inc Apparatus and method for adaptive 3d artifact reducing for encoded image signal
JP4457346B2 (ja) * 2004-11-12 2010-04-28 ノーリツ鋼機株式会社 画像ノイズ除去方法
US8254462B2 (en) * 2005-01-28 2012-08-28 Broadcom Corporation Method and system for block noise reduction
US20060171466A1 (en) * 2005-01-28 2006-08-03 Brian Schoner Method and system for mosquito noise reduction
US7432986B2 (en) * 2005-02-16 2008-10-07 Lsi Corporation Method and apparatus for masking of video artifacts and/or insertion of film grain in a video decoder
EP2030167A1 (en) * 2005-02-24 2009-03-04 Bang & Olufsen A/S A filter for adaptive noise reduction and sharpness enhancement for electronically displayed pictures
US7680355B2 (en) * 2005-05-02 2010-03-16 Intel Corporation Detection of artifacts resulting from image signal decompression
US7657098B2 (en) * 2005-05-02 2010-02-02 Samsung Electronics Co., Ltd. Method and apparatus for reducing mosquito noise in decoded video sequence
US7548660B2 (en) * 2005-09-30 2009-06-16 Intel Corporation System and method of spatio-temporal edge-preserved filtering techniques to reduce ringing and mosquito noise of digital pictures
JP2007334457A (ja) * 2006-06-12 2007-12-27 Toshiba Corp 画像処理装置及び画像処理方法
AU2006252195B8 (en) * 2006-12-21 2011-02-03 Canon Kabushiki Kaisha MPEG noise reduction
US8189946B2 (en) * 2007-01-24 2012-05-29 Canon Kabushiki Kaisha Image processing apparatus and method thereof for detecting and removing noise in decoded images
EP2197214A4 (en) * 2007-10-03 2010-12-29 Panasonic Corp METHOD AND DEVICE FOR REDUCING BLOCK DEFORMATION
US8363728B2 (en) * 2008-04-18 2013-01-29 Sony Corporation Block based codec friendly edge detection and transform selection
US8139883B2 (en) * 2008-07-29 2012-03-20 Sony Corporation System and method for image and video encoding artifacts reduction and quality improvement
US8098951B2 (en) * 2008-08-15 2012-01-17 Sharp Laboratories Of America, Inc. Image sharpening technique

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11187400A (ja) * 1997-12-22 1999-07-09 Matsushita Electric Ind Co Ltd 歪除去方法および歪除去フィルタ
JP2005198274A (ja) * 2004-01-06 2005-07-21 Sharp Corp リンギング除去フィルタ
WO2007072301A2 (en) * 2005-12-21 2007-06-28 Pace Micro Technology Plc Reduction of compression artefacts in displayed images
JP2009521168A (ja) * 2005-12-21 2009-05-28 ペイス マイクロ テクノロジィ ピーエルシー 表示画像における圧縮アーチファクトの低減
JP2007336075A (ja) * 2006-06-13 2007-12-27 Victor Co Of Japan Ltd ブロック歪み低減装置
JP2008042565A (ja) * 2006-08-07 2008-02-21 Toshiba Corp 動画像復号化装置および方法

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016506201A (ja) * 2013-01-04 2016-02-25 クゥアルコム・インコーポレイテッドQualcomm Incorporated デジタルビデオストリーム中の圧縮ノイズを低減する方法および装置
KR102263518B1 (ko) * 2020-09-24 2021-06-11 (주)소울텍 중간값 필터링 시스템 및 방법
KR102670031B1 (ko) * 2023-02-28 2024-05-29 국립부경대학교 산학협력단 임펄스 잡음 환경에서 유효픽셀 탐색을 이용한 잡음제거를 위한 장치 및 방법

Also Published As

Publication number Publication date
US20140056537A1 (en) 2014-02-27
EP2327219A1 (en) 2011-06-01
US8571347B2 (en) 2013-10-29
WO2010029432A1 (en) 2010-03-18
US20100060749A1 (en) 2010-03-11
CN102150426B (zh) 2014-10-29
US9092855B2 (en) 2015-07-28
EP2327219B1 (en) 2016-11-09
CN102150426A (zh) 2011-08-10
JP5233014B2 (ja) 2013-07-10

Similar Documents

Publication Publication Date Title
JP5233014B2 (ja) 方法および装置
US7203234B1 (en) Method of directional filtering for post-processing compressed video
US7430335B2 (en) Pre-processing method and system for data reduction of video sequences and bit rate reduction of compressed video sequences using spatial filtering
US7548660B2 (en) System and method of spatio-temporal edge-preserved filtering techniques to reduce ringing and mosquito noise of digital pictures
US8208565B2 (en) Pre-processing method and system for data reduction of video sequences and bit rate reduction of compressed video sequences using temporal filtering
US6061400A (en) Methods and apparatus for detecting scene conditions likely to cause prediction errors in reduced resolution video decoders and for using the detected information
US7957467B2 (en) Content-adaptive block artifact removal in spatial domain
US20070280552A1 (en) Method and device for measuring MPEG noise strength of compressed digital image
US20060171466A1 (en) Method and system for mosquito noise reduction
US20090016442A1 (en) Deblocking digital images
US20100315558A1 (en) Content adaptive noise reduction filtering for image signals
KR100754154B1 (ko) 디지털 비디오 화상들에서 블록 아티팩트들을 식별하는 방법 및 디바이스
TWI477153B (zh) 辨識區塊效應之技術
JPWO2002067589A1 (ja) 画像処理システム、画像処理方法、及び画像処理プログラム
US8976298B2 (en) Efficient 2D adaptive noise thresholding for video processing
US20070285729A1 (en) Image processing apparatus and image processing method
US8831354B1 (en) System and method for edge-adaptive and recursive non-linear filtering of ringing effect
JP2005012641A (ja) ブロックノイズ検出装置及びそれを用いたブロックノイズ除去装置
JP4065287B2 (ja) 画像データのノイズ除去方法及びその装置
KR100772402B1 (ko) 공간 영역에서의 내용 적응성 블로킹 아티팩트 제거기
US10405002B2 (en) Low complexity perceptual visual quality evaluation for JPEG2000 compressed streams
JP4916251B2 (ja) テレビ画像のフィルタリング
Gadgil et al. Image Debanding Using Iterative Adaptive Sparse Filtering
US20090129473A1 (en) System and method for adjusting compression noise reduction based on global and local motion detection
Hou et al. Reduction of image coding artifacts using spatial structure analysis

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120918

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20121218

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130226

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130304

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

Ref document number: 5233014

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160405

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20180608

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250