JP6354586B2 - ノイズ除去システムとノイズ除去方法及びプログラム - Google Patents

ノイズ除去システムとノイズ除去方法及びプログラム Download PDF

Info

Publication number
JP6354586B2
JP6354586B2 JP2014546988A JP2014546988A JP6354586B2 JP 6354586 B2 JP6354586 B2 JP 6354586B2 JP 2014546988 A JP2014546988 A JP 2014546988A JP 2014546988 A JP2014546988 A JP 2014546988A JP 6354586 B2 JP6354586 B2 JP 6354586B2
Authority
JP
Japan
Prior art keywords
signal
frequency conversion
processing unit
input
conversion processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2014546988A
Other languages
English (en)
Other versions
JPWO2014077245A1 (ja
Inventor
栄太 小林
栄太 小林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Publication of JPWO2014077245A1 publication Critical patent/JPWO2014077245A1/ja
Application granted granted Critical
Publication of JP6354586B2 publication Critical patent/JP6354586B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G06T5/70
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/10Image enhancement or restoration by non-spatial domain filtering
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20016Hierarchical, coarse-to-fine, multiscale or multiresolution image processing; Pyramid transform
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20048Transform domain processing
    • G06T2207/20064Wavelet transform [DWT]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20172Image enhancement details
    • G06T2207/20182Noise reduction or smoothing in the temporal domain; Spatio-temporal filtering

Description

(関連出願についての記載)
本発明は、日本国特許出願:特願2012−249069号(2012年11月13日出願)の優先権主張に基づくものであり、同出願の全記載内容は引用をもって本書に組み込み記載されているものとする。
本発明はノイズ除去システム、ノイズ除去方法、及びプログラムに関する。
画像や音声等のデジタル信号に対するデータの圧縮処理やノイズ除去処理において、離散信号を周波数領域に変換する処理が多く用いられている。例えばJPEG(Joint Photographic Experts Group)は、以下の手順を含む。
・画像(静止画像)を予め定められたサイズのブロックに分割する。
・ブロック単位で離散コサイン変換(Discrete Cosine Transform:DCT)を行って空間領域から周波数領域へ変換する。
・周波数領域の信号成分を量子化して情報量を削減してからハフマン符号によるエントロピー符号化を行う。こうすることで、圧縮(データ量の削減)が行われる。
JPEGによる圧縮処理では、離散コサイン変換(DCT)によって、信号に含まれる主たるエネルギーを低周波領域に集中させた後に、量子化することで、元の画像に対する影響が少ないデータの圧縮を実現している。
またJPEG2000では、離散コサイン変換(DCT)のかわりに、離散ウェーブレット変換(Discrete Wavelet Transform:DWT)を用いる(なお、JPEG2000も、JPEG同様、空間領域から周波数領域に変換し、量子化した上でエントロピー符号化を行う)。
ウェーブレット変換は、画像の画素値を低周波成分と高周波成分にそれぞれ分離する。低周波成分は、比較的元の画像の色彩情報を残しているのに対して、高周波を含む領域では、画像中で画素値が急激に変化する部分、すなわち物体のエッジ情報を保持している。高周波成分には、画像のエッジ情報と共に、ノイズ成分が含まれることがある。ここで、ノイズとは、例えばCCD(Charge Coupled Device)等の撮像素子を用いて被写体を撮影したときに、隣接する画素間に流れる電流の影響によって混入する色信号等である。撮像素子に由来するノイズ(「カメラノイズ」という)は、例えば数画素程度からなる粒状の特異な点として、画像上に現れる。そのため、カメラノイズは、ウェーブレット変換処理によって、高周波成分として分離されることが多い。カメラノイズは、本来被写体に存在しなかった色情報である。このため、より忠実に被写体の画像を得るには、当該カメラノイズを取り除くことが望ましい。
ウェーブレット変換を用いたノイズ除去処理方法であるウェーブレット縮退(Wavelet Shrinkage)法が、例えば非特許文献1に開示されている。ウェーブレット縮退法は、
・ノイズ成分がウェーブレット変換によって高周波成分として分離されること、
・被写体に存在するエッジ情報よりも、カメラノイズが比較的弱い信号値であること、
等を利用してノイズを除去する方法である。
撮像素子の高性能化に伴い、高感度撮影時に発生するカメラノイズは増加する傾向にある。このため、カメラノイズの除去処理の重要性は、ますます高まりつつある。
一方で、撮像素子の高性能化(例えば高感度化や高解像度化)等に伴う高画質化により、ノイズ除去処理に必要な、メモリ量等の計算資源や計算時間は増加する傾向にある。
例えば、ウェーブレット縮退法では、複数回のウェーブレット変換を用いる多重解像度解析によるノイズ除去処理が一般的に用いられている。この多重解像度解析は、ウェーブレット変換では、高周波成分にノイズ成分が分離されるため、低周波成分に分離されたノイズ成分が除去できない、という問題に対処する手法である。多重解像度解析では、1回目のウェーブレット変換で分解された解像度レベル1の4つの成分(1つの低周波成分と3つの高周波成分)に対して、当該低周波成分に対してウェーブレット変換を行うことで、解像度レベル2となり、7つの領域に分解される。このように、解像度レベルの高いほうへ分解を繰り返す。これにより、1回のウェーブレット変換で分離出来なかった低周波のノイズ成分に対しても、ノイズ除去処理が可能になる。
図1は、多重解像度解析を用いたウェーブレット縮退法の一般的な関連技術を説明する図である。図1の例では、入力信号(原画像)を第1のウェーブレット変換処理部11で分離された高周波成分に対して、第1のコアリング処理部12では、ウェーブレット展開係数の閾値処理によりコアリングする(例えば絶対値が閾値よりも小さな係数を例えば0等に置き換える)、いわゆるウェーブレット縮退処理が行われる。第1のコアリング処理部12でウェーブレット縮退処理した結果は、第1の逆ウェーブレット変換処理部13に入力される(なお、コアリング処理部は、「ウェーブレット縮退処理部」とも呼ばれる)。第1のウェーブレット変換処理部11で分離された低周波成分は、第2のウェーブレット変換処理部14に入力されて1つの低周波成分と高周波成分に分解され(異なる成分の解像度(多重解像度)の画像が生成される)、該高周波成分は、第2のコアリング処理部15でウェーブレット縮退が行われる。第2のウェーブレット変換処理部14で分離された低周波成分と、第2のコアリング処理部15の出力信号が第2の逆ウェーブレット変換部16に入力される。第2の逆ウェーブレット変換部16で逆ウェーブレット変換した結果が、第1の逆ウェーブレット変換処理部13に入力され、第1の逆ウェーブレット変換処理部13からノイズ除去処理(デノイズ処理)された出力信号が出力される。このように、多重解像度解析を行うと、第1のウェーブレット変換処理部11で分離された成分ごとに異なる処理が適用される。第1の逆ウェーブレット変換処理部13に入力される信号の入力タイミングを合わせるためにデータを一時記憶しておく必要がある。
図2に示す例(後述される比較例)では、入力タイミングを合わせるために、ウェーブレット縮退処理後のデータ(第1のコアリング処理部12の出力)を記憶装置17に記憶する。
多重解像度解析によるノイズ除去処理をハードウェア回路で実現し、リアルタイム・ストリーム処理を行う場合に、図2の記憶装置17をバッファとして配置することで、多重解像度解析を用いたウェーブレット縮退によるノイズ除去処理を実現することができる。
多重解像度解析によるノイズ除去処理の性能を高めるためには、ウェーブレット変換を行う回数を増加させる必要がある。しかしながら、ウェーブレット変換を行う回数が増加すると、その分、最後に行われる逆ウェーブレット変換処理(図2では、第1の逆ウェーブレット変換処理部13)へのデータの入力タイミングの偏差が大となり、より多くのデータを記憶装置17で蓄積しておく必要が生じる。
このため、ウェーブレット縮退法を用いて、よりノイズ除去性能を高めようとすると、必要な記憶容量(例えば図2の記憶装置17の記憶容量)が増大する。
撮像素子の高感度化によるノイズ成分の増加に伴って、ノイズ除去処理に要求される性能は、高まりつつある。同時に、記憶装置(例えば図2の記憶装置17)の記憶容量の削減も求められている。
なお、本出願人による先行技術文献サーチの結果サーチされた特許文献1には、輝度信号と色差信号の生成後にそれぞれの信号に対してウェーブレット変換を行う場合に比べ、ラインメモリを大幅に削減することを可能とした撮像装置が開示されている。特許文献1の撮像装置では、画像信号に対して、ウェーブレット変換処理、コアリング処理、及びウェーブレット逆変換処理を行うウェーブレット処理部を備えている。該ウェーブレット処理部は、画像信号が複数色の信号で構成された状態で、画像信号に対してウェーブレット変換を行うウェーブレット分解処理部と、ウェーブレット変換後に、それぞれ異なる条件を満たす信号を抑圧する複数のコアリング処理部とを備え、所定の配列で並んだ複数色の信号で構成される画像信号のままラインメモリに格納され、ウェーブレット分解処理部がラインメモリに格納された画像データに対してウェーブレット変換を行う構成とされている。特許文献2には、複数の画素からなる原画像を入力し、入力した原画像を多重解像度変換により分解して、逐次的に低い解像度を持つ複数の低周波画像と、それらの各々に対応して逐次的に低い解像度を持つ複数の高周波画像を生成し、生成する複数の低周波画像と複数の高周波画像の各々に対してノイズ除去処理を行い、ノイズ除去された低周波画像とノイズ除去された高周波画像の双方の結果に基づいて、原画像からノイズが除去された画像を得る構成が開示されている。特許文献3には、多重解像度変換手法として、ウェーブレット変換を用いたノイズ低減処理が開示されている。これは、原画像データに対してウェーブレット変換を施し、複数の周波数帯域成分を得た後、帯域成分毎にコアリング処理を行うことでノイズ低減処理を施す。コアリング後の帯域成分は逆ウェーブレット変換により再合成し、ノイズ低減処理がなされた画像データを得ること、及び、補正処理がなされた高周波成分と低周波成分とを用いて、n段階の多重解像度合成を行い、補正された映像信号を生成することが開示されている。特許文献4には、ウェーブレット変換処理部で変換された高域信号成分を含むサブバンド画像信号の微小振幅信号を、コアリング処理部で0値に変換し、ウェーブレット逆変換処理部では、低域信号成分を含むサブバンド画像信号とコアリング処理されたサブバンド画像信号を正相又は逆相の異なる組合せで合成して二つの画像信号を復元し、この二つの画像信号を所定の位相で合成して、出力画像信号でのエッジ波形を回転対称なエッジ波形として出力する画像処理装置が開示されている。これにより、コアリング処理によりノイズを低減させながらコアリング処理によるエッジのぼけや位相ずれを抑制することができるようにしている。
特開2008−211627号公報 特開2006−309749号公報 特開2009−77393号公報 特開2007−188211号公報
中野宏毅、山本鎭男、吉田靖夫、「ウェーブレットによる信号処理と画像処理」、共立出版、1999年、p10
関連技術の分析を以下に与える。
上記したように、ウェーブレット縮退を用いたノイズ除去処理は、ウェーブレット変換等の周波数領域変換処理(低周波、高周波成分(領域)への分離)と、ウェーブレット縮退等の縮退処理とによってノイズを除去する。その後に、ウェーブレット逆変換により周波数領域から空間領域に変換することで、ノイズ除去処理を施された画像を得る。
またウェーブレット変換によって得られた低周波成分に対して再度ウェーブレット変換を施すことによって、より周波数の低い周波数成分に対してノイズ除去処理を行う多重解像度解析によって、低周波成分に混入しているノイズに対しても、ノイズ除去処理を行うことができる。
ウェーブレット縮退によるノイズ除去の効果を高めるためは、複数回のウェーブレット変換処理と、複数回のウェーブレット縮退処理と、複数回のウェーブレット逆変換処理を実行する必要がある。これらの処理の実行が必要とされることから、ノイズ除去効果をさらに高める場合、計算量が増加する。また、分離した周波数成分を保存しておく記憶装置(図2の17)が必要とされ、該記憶装置(図2の17)の記憶容量は、画像の高画質化に伴い増大する。
このため、多重解像度解析等において、例えばウェーブレット縮退を用いたノイズ除去処理中に発生する、周波数成分等の中間データ等(データ量)を削減し、必要な記憶容量の増大を抑制又は削減可能とすることが望まれる。
したがって、本発明は上記課題の認識に基づき創案されたものであって、その目的は、例えば多重解像度解析等によるノイズ除去処理で必要とされる記憶容量を、信号品質に影響を与えることなく削減可能とするシステム、方法、プログラムを提供することにある。
本発明によれば、入力信号を分岐部で少なくとも第1、第2の系統に分岐させ、前記第1の系統の前記入力信号が書き込まれる記憶装置と、
前記記憶装置から読み出された前記入力信号を入力して周波数領域に変換し第1の信号を出力する第1の周波数変換処理部と、
他方の系統の前記入力信号を入力して周波数領域に変換し第2の信号を出力する第2の周波数変換処理部と、
前記第2の周波数変換処理部からの前記第2の信号を入力して周波数領域に変換し第1及び第2の周波数帯域の第3及び第4の信号を出力する第3の周波数変換処理部と、
第1の逆周波数変換処理部と、
前記第3の周波数変換処理部からの前記第3の信号を直接又は間接に入力し、前記第3の周波数変換処理部からの前記第4の信号を入力し、入力した信号を逆周波数変換した第3の変換信号を出力する第2の逆周波数変換処理部と、
第1のコアリング処理部及び/又は第2のコアリング処理部と、
を備え、
前記第1の逆周波数変換処理部は、前記第1の周波数変換処理部からの前記第1の信号を直接又は間接に入力し、前記第2の逆周波数変換処理部からの前記第3の変換信号を直接又は間接に入力し、入力した信号を逆周波数変換した信号を出力し、
前記第1のコアリング処理部は、前記第1の周波数変換処理部からの前記第1の信号に対してノイズ成分を除去した第1の変換信号を出力し、前記第1の逆周波数変換処理部は、前記第1の信号の間接入力として、前記第1のコアリング処理部からの前記第1の変換信号を入力し、
前記第2のコアリング処理部は、前記第3の周波数変換処理部からの前記第3の信号に対してノイズ成分を除去した第2の変換信号を出力し、前記第2の逆周波数変換処理部は、前記第3の信号の間接入力として、前記第2のコアリング処理部からの前記第2の変換信号を入力する、ノイズ除去システムが提供される。
本発明の別の視点によれば、少なくとも第1、第2の系統に分岐させた入力信号のうち前記第1の系統の前記入力信号を記憶装置に一旦書き込む工程と、
前記記憶装置から読み出された前記入力信号を周波数領域に変換し第1の信号を生成する第1の周波数変換処理工程と、
前記第2の系統の前記入力信号を周波数領域に変換し第2の信号を生成する第2の周波数変換処理工程と、
前記第2の信号を周波数領域に変換し第1及び第2の周波数帯域の第3及び第4の信号を生成する第3の周波数変換処理工程と、
第1の逆周波数変換処理工程と、
前記第3の信号を直接又は間接に入力し、前記第4の信号を入力し、入力した信号を逆周波数変換した第3の変換信号を生成する第2の逆周波数変換処理工程と、
第1のコアリング処理工程及び/又は第2のコアリング処理工程と、
含み、
前記第1の逆周波数変換処理工程では、前記第1の信号を直接又は間接に入力し、前記第3の変換信号を直接又は間接に入力し、入力した信号を逆周波数変換した信号を出力し、
前記第1のコアリング処理工程では、前記第1の周波数変換処理工程からの前記第1の信号に対してノイズ成分を除去した第1の変換信号を出力し、前記第1の逆周波数変換工程は、前記第1の信号の間接入力として、前記第1のコアリング処理工程からの前記第1の変換信号を入力し、
前記第2のコアリング処理工程では、前記第3の周波数変換処理工程からの前記第3の信号に対してノイズ成分を除去した第2の変換信号を出力し、前記第2の逆周波数変換処理工程は、前記第3の信号の間接入力として、前記第2のコアリング処理工程からの前記第2の変換信号を入力するノイズ除去方法が提供される。
本発明のさらに別の視点によれば、
少なくとも第1、第2の系統に分岐させた入力信号のうち前記第1の系統の前記入力信号が記憶装置に一旦書き込む処理と、
前記記憶装置から読み出された前記入力信号を入力して周波数領域に変換し第1の信号を出力する第1の周波数変換処理と、
他方の系統の前記入力信号を入力して周波数領域に変換し第2の信号を出力する第2の周波数変換処理と、
前記第2の周波数領域変換処理からの前記第2の信号を入力して周波数領域に変換し第1及び第2の周波数帯域の第3及び第4の信号を出力する第3の周波数変換処理と、
第1の逆周波数変換処理と、
前記第3の周波数変換処理からの前記第3の信号を直接又は間接に入力し、前記第3の周波数変換処理からの前記第4の信号を入力し、入力した信号を逆周波数変換した第3の変換信号を出力する第2の逆周波数変換処理と、
第1のコアリング処理及び/又は第2のコアリング処理と、
をコンピュータに実行させるプログラムであって、
前記第1の逆周波数変換処理は、前記第1の周波数変換処理からの前記第1の信号を直接又は間接に入力し、前記第2の逆周波数変換処理からの前記第3の変換信号を直接又は間接に入力し、入力した信号を逆周波数変換した信号を出力し、
前記第1のコアリング処理は、前記第1の周波数変換処理からの前記第1の信号に対してノイズ成分を除去した第1の変換信号を出力し、前記第1の逆周波数変換処理は、前記第1の信号の間接入力として、前記第1のコアリング処理からの前記第1の変換信号を入力し、
前記第2のコアリング処理は、前記第3の周波数変換処理からの前記第3の信号に対してノイズ成分を除去した第2の変換信号を出力し、前記第2の逆周波数変換処理は、前記第3の信号の間接入力として、前記第2のコアリング処理からの前記第2の変換信号を入力するプログラムが提供される。本発明によれば、該プログラムを記録した半導体メモリあるいは磁気/光記録媒体等の記録媒体が提供される。
本発明によれば、例えば多重解像度解析等によるノイズ除去処理で必要とされる記憶容量を画質に影響を与えることなく削減することができる。
多重解像度解析によるノイズ除去処理を説明する図である。 図1においてタイミング調整用の記憶装置を備えた構成を例示する図である。 本発明の第1の実施形態の構成を例示する図である。 本発明の第1の実施形態の動作を示す流れ図である。 本発明の第2の実施形態の構成を例示する図である。 本発明の第2の実施形態の動作を示す流れ図である。 本発明の第1の実施例の構成を例示する図である。 本発明の第1の実施例を回路ブロックで示す図である。 第1の実施例と比較例を説明する図である。 CDF97フィルタ係数を示す図である。 本発明の第2の実施例の構成を例示する図である。 第2の実施例と比較例を説明する図である。 本発明の第3の実施例の構成を例示する図である。
本発明のいくつかの形態によれば、入力信号を分岐点(分岐部)(図3、図5の111)で少なくとも第1、第2の系統に分岐させ、前記第1の系統の前記入力信号を、一旦蓄積する記憶装置(図3、図5の100)と、
前記記憶装置(図3、図5の100)から読み出された前記入力信号を入力して周波数領域に変換し第1の信号(図3、図5の第1の高周波信号)を出力する第1の周波数変換処理部(図3、図5の102)と、
前記第1の周波数変換処理部(図3、図5の102)からの前記第1の信号(図3、図5の第1の高周波信号)を入力し前記第1の信号からノイズ成分を除去した第1の変換信号(図3、図5の第1の変換信号)を出力する第1のコアリング処理部(図3、図5の103)と、
前記第2の系統の前記入力信号を入力して周波数領域に変換し第2の信号(図3、図5の第1の低周波信号)を出力する第2の周波数変換処理部(図3、図5の105)と、
前記第2の周波数変換処理部(図3、図5の105)からの前記第2の信号(図3、図5の第1の低周波信号)を入力して周波数領域に変換し第1及び第2の周波数帯域の第3及び第4の信号(図3、図5の第2の高周波信号、第2の低周波信号)を出力する第3の周波数変換処理部(図3、図5の106)と、
前記第3の周波数変換処理部(図3、図5の106)からの前記第3の信号(図3、図5の第2の高周波信号)を入力し前記第3の信号からノイズ成分を除去した第2の変換信号(図3、図5の第2の変換信号)を出力する第2のコアリング処理部(図3、図5の107)と、
第1の逆周波数変換処理部(図3、図5の104)と、
前記第2のコアリング処理部(図3、図5の107)からの前記第2の変換信号と前記第3の周波数変換処理部(図3、図5の106)からの前記第4の信号(図3、図5の第2の低周波信号)とを入力し、入力したこれらの信号を逆周波数変換した第3の変換信号(図3、図5の第3の変換信号)を出力する第2の逆周波数変換処理部(図3、図5の108)と、
を備え、前記第1の逆周波数変換処理部(図3、図5の104)は、前記第1のコアリング処理部(図3、図5の103)からの前記第1の変換信号を入力し、前記第2の逆周波数変換処理部(図3、図5の108)からの前記第3の変換信号を、直接又は間接に入力し、入力したこれらの信号を逆周波数変換した信号を出力する。第1のコアリング処理部(図3、図5の103)と、第2のコアリング処理部(図3、図5の107)とは、その少なくとも一方を備えた構成としてもよい。
本発明のいくつかの形態によれば、前記第2の逆周波数変換処理部(図3、図5の108)からの前記第3の変換信号(図3、図5の第3の変換信号)が、直接又は間接に、前記第1の逆周波数変換処理部(図3、図5の104)に入力されるタイミングに合わせて、前記第1のコアリング処理部(図3、図5の103)からの前記第1の変換信号が前記第1の逆周波数変換処理部(図3、図5の104)に入力されるように、前記記憶装置(図3、図5の100)から、前記入力信号が読み出され前記第1の周波数変換処理部(図3、図5の102)に入力される。
本発明の形態の一つによれば、前記第1の逆周波数変換処理部(図5の104)から出力される前記信号に対して予め定められた補正及び/又は更なるノイズ除去処理を施した信号を出力する第1の補填処理部(図5の110)と、前記第2の逆周波数変換処理部(図5の108)から出力される前記第3の変換信号(図5の第3の変換信号)に対して予め定められた補正及び/又は更なるノイズ除去処理を施した第4の変換信号(図5の第4の変換信号)を出力する第2の補填処理部(図5の109)と、を備えた構成としてもよい。
前記第2の逆周波数変換処理部(図5の108)からの前記第3の変換信号(図5の第3の変換信号)が、間接に、前記第1の逆周波数変換処理部(図5の104)に入力される経路として、
・前記第2の逆周波数変換処理部(図5の108)からの前記第3の変換信号(図5の第3の変換信号)が前記第2の補填処理部(図5の109)に入力され、
・前記第2の補填処理部(図5の109)からの前記第4の変換信号が、前記第1の逆周波数変換処理部(図5の104)に入力される、経路がある。
本発明の形態の一つによれば、前記記憶装置(図11の200)から読み出された前記一方の系統の前記入力信号に対して予め定められた所定の色空間変換処理を行い、該色空間変換処理した信号を、前記入力信号として、前記第1の周波数変換処理部(図11の第1のウェーブレット変換処理部201)に対して供給する第1の変換処理部(図11の第1のYUV→RGB変換処理部208)と、
前記他方の系統の前記入力信号に対して予め定められた所定の色空間変換処理を行い、変換処理した信号を、前記入力信号として、前記第2の周波数変換処理部(図11の第2のウェーブレット変換処理部203)に対して供給する第2の変換処理部(図11の第2のYUV→RGB変換処理部209)と、
を備えた構成としてもよい。
本発明によれば、入力信号を一時的に保持する記憶装置(図3、図5の100、図7、図8、図11、図13の200)によって入力信号の読み出しタイミングを調整する構成とされる。このため、データ量の増加による影響を受けることなく、前記第1の逆周波数変換処理部(図3、図5の104、図7、図8、図11、図13の204)に入力される信号のタイミング調整が行われ、データの記憶に必要な記憶装置の記憶容量が削減可能とされている。
入力された画像を内部で処理するためにピクセルデータのビット精度が高くなる場合、特に、画像フォーマット変換処理や周波数領域変換処理等の内部処理等により、必要ビット精度が高くなる場合に、本発明によれば、例えば、入力時のビット精度の低いピクセルデータを、記憶装置(例えば図3、図5の100、図7、図8、図11、図13の200)に記憶しておき、該記憶装置から読み出されたデータに対して、必要に応じて内部処理を適宜施すことで、データを損失することなく、必要とされる記憶容量を削減することができる。
<実施形態1>
図3は、本発明の第1の実施形態の構成を例示する図である。記憶装置100と、処理装置101と、を備える。
記憶装置100は、分岐点(分岐部)111で、少なくとも2系統に分岐された入力信号の一方が書き込まれ、書き込まれた入力信号を一時的に記憶する。
処理装置101は、
・記憶装置100から読み出された入力信号を周波数領域信号に変換し第1の高周波信号を出力する第1の周波数変換処理部102と、
・第1の周波数変換処理部102からの第1の高周波信号を入力としてコアリング処理し第1の変換信号を出力する第1のコアリング処理部103と、
・2分岐した他方の入力信号を周波数領域信号に変換し第1の低周波信号を出力する第2の周波数変換処理部105と、
・第2の周波数変換処理部105からの前記第1の低周波信号を入力として周波数変換し第2の高周波信号と第2の低周波信号を出力する第3の周波数変換処理部106と、
・第3の周波数変換処理部106からの第2の高周波信号を入力としてコアリング処理し第2の変換信号を出力する第2のコアリング処理部107と、
・第2のコアリング処理部107からの第2の変換信号と、第3の周波数変換処理部106からの第2の低周波信号を入力として逆周波数変換し第3の変換信号を出力する第2の逆周波数変換処理部108と、
・第2の逆周波数変換処理部108からの第3の変換信号と、第1のコアリング処理部103からの第1の変換信号を入力として逆周波数変換し出力信号を出力する第1の逆周波数変換処理部104と、
を備える。
特に制限されないが、処理装置101は、例えばCPU(Central Processing Unit)、マイクロプロセッサ(Microprocessor)等の演算装置や半導体集積回路(Integrated Circuit: IC)で構成してもよい。あるいは、パーソナルコンピュータ(PC)、シンクライアント端末/サーバ、ワークステーション、メインフレーム、スーパーコンピュータ等のコンピュータで構成してもよい。
また特に制限されないが、記憶装置100は、例えばRAM(Random Access Memory)や、EEPROM(Electrically Erasable and Programmable ROM(Read Only Memory))等の電気的に書き換え可能なROM等のメモリデバイス、あるいは、HDD(Hard Disk Drive)やSSD(Solid State Drive)等の外部記憶装置(ストレージ)、DVD(Digital Versatile Disk)やメモリカード等の記憶媒体(メディア)、あるいは、周辺機器(外付けHDD等)や外部のサーバ(ストレージサーバ等)に設置された記憶装置、あるいは、不図示のネットワークを介して接続されるNAS(Network Attached Storage)で構成しても良い。
図3を参照して実施形態1の各処理部の動作の概略を説明する。
第1の周波数変換処理部102、第2の周波数変換処理部105、第3の周波数変換処理部106は、それぞれに入力される信号を周波数領域に変換する。ここで、入力される信号は、例えば撮像素子(図示せず)により撮像されて生成された画像データ等である。第3の周波数変換処理部106の入力信号は、第2の周波数変換処理部105によって変換された周波数領域の信号(第1の低周波信号)である。
第1の周波数変換処理部102、第2の周波数変換処理部105、第3の周波数変換処理部106は、例えばウェーブレット変換、サイン変換、コサイン変換、フーリエ変換、高速フーリエ変換等を行う。入力信号が離散信号である場合、例えば、離散ウェーブレット変換、離散サイン変換、離散コサイン変換、離散フーリエ変換、高速フーリエ変換を行う。入力信号が画像信号の場合、例えば2次元双直交(Bi-Orthogonal)ウェーブレット変換、2次元コサイン変換等を行う(但し、これらに制限されない)。
第1のコアリング処理部103は、第1の周波数変換処理部102から出力された第1の高周波信号に対して、コアリング処理を行う。第2のコアリング処理部107は、第3の周波数変換処理部106から出力された第2の高周波信号に対してコアリング処理を行う。高周波信号であるか否かは、例えば予め定められた所定の周波数との比較により判定すればよい(例えば、前記予め定められた所定の周波数以上の周波数を高周波信号(高域成分)とする)。
第1のコアリング処理部103及び第2のコアリング処理部107は、それぞれ、入力された高周波成分からノイズ成分を除去した第1の変換信号及び第2の変換信号を出力する。コアリング処理としては、入力された第1の変換信号、第2の変換信号の絶対値を予め定められた閾値と比較して、閾値以下の値を0に縮退させる、ウェーブレット縮退を行う。なお、ウェーブレット縮退は、閾値以下の値を0に縮退させるだけの縮退(ハード縮退)であっても、閾値以下の値を0に縮退させ、閾値以上の値も補正する処理(ソフト縮退)であってもよい。あるいは、コアリング処理では、閾値以下の値を0とするのではなく、一定の値に縮退させる処理であっても良い。コアリング処理は、LPF(Low-Pass Filter)、HPF(High-Pass Filter)、BPF(Band Pass Filter)やBSF(Band Stop Filter)であってもよい。なお、BPFやBSFは、IIR(Infinite Impulse Response)やFIR(Finite Impulse Response)型のデジタルフィルタにより実現されていてもよい(ただし、コアリング処理は上記に制限されない)。
第2の逆周波数変換処理部108は、第2のコアリング処理部107から出力された第2の変換信号と、第3の周波数変換処理部106から出力された第2の低周波信号とを入力し逆周波数変換して第3の変換信号を出力する。
第1の逆周波数変換処理部104は、第2の逆周波数変換処理部108から出力された第3の変換信号と第1のコアリング処理部103から出力された第1の変換信号とを入力し逆周波数変換して出力信号を出力する。
本実施形態において、各処理部102乃至108は、処理装置101で実行されるコンピュータ・プログラムによって各処理・機能の一部又は全てを実現するようにしてもよい。本発明によれば、当該コンピュータ・プログラム、及び、コンピュータ・プログラムを格納した半導体メモリ、磁気/光ディスク等の記憶媒体が提供される。
次に、図4のフローチャートを参照して、図3に示した本実施形態1の全体の動作について説明する。入力信号が入力される(ステップA01)。入力信号を2系統に分離し、一方の入力信号に対して、第2の周波数変換処理部105で第2の周波数領域変換処理を実行する(ステップA02)。
記憶装置100は、一時的に入力信号を記憶する(ステップA06)。記憶装置100は、入力信号が画像信号の場合、ラインごとに入力される入力信号を一時的に記憶する。
第3の周波数変換処理部106は、ステップA02で変換された周波数領域信号のうち低周波成分に対して第3の周波数領域変換処理を行う(ステップA03)。
第2のコアリング処理部107は、第3の周波数変換処理部106で変換された周波数変換の信号の高周波成分である第2の高周波信号の第2のコアリング処理を実施し、ノイズを除去した第2の変換信号を出力する(ステップA04)。
第2の逆周波数変換処理部108は、ステップA03で、第3の周波数変換処理部106から出力される周波数変換の信号のうちの低周波成分である第2の低周波信号と、ステップA04で、第2のコアリング処理部107から出力される第2の変換信号と、を用いて逆周波数領域変換を行い、第3の変換信号を、第1の逆周波数変換処理部104に出力する(ステップA05)。
第2の逆周波数変換処理部108からの第3の変換信号が第1の逆周波数変換処理部104に出力されるのと同時に(同期して)、第1のコアリング処理部103からの第1の変換信号が第1の逆周波数変換処理部104に出力される、ことが望ましい。そこで、本実施形態では、記憶装置100に記憶されている入力信号が適切なタイミングで読み出されて第1の周波数変換処理部102に入力され、周波数領域変換処理が行われる(ステップA07)。
2分岐された入力信号の一方の分岐経路における、記憶装置100の読み出しアクセス時間、第1の周波数変換処理部102及び第1のコアリング処理部103の処理時間(処理部間の転送時間も含む)の合計(=時間1)と、
前記2分岐された前記入力信号の他方の分岐経路における、第2の周波数変換処理部105、第3の周波数変換処理部106、第2のコアリング処理部107、第2の逆周波数変換処理部108の処理時間(処理部間の転送時間も含む)の合計(=時間2)との差(ただし、時間2>時間1)に対して、
例えば、記憶装置100に入力信号が書き込まれたタイミングののち、例えば、
遅延時間=時間2−時間1
の後に、記憶装置100に対して、前記入力信号の読み出しアクセスが行われ、第1の周波数変換処理部102に入力される構成としてもよい。
この場合、入力信号を書き込んでから所定時間経過後に、読み出すタイミング調整の制御を、記憶装置100に実装する構成としてもよい(例えば先入れ先出し(First In First Out)制御方式のバッファメモリで実装してもよい)。
あるいは、記憶装置100における上記同期制御用に、不図示のコントローラを備えてもよい。
あるいは、第2の逆周波数変換処理部108から第3の変換信号を出力するタイミングで、記憶装置100へ読み出しのトリガとなる制御信号を送信することで、制御してもよい。
第1の周波数変換処理部102から出力される周波数変換処理後の信号のうち高周波成分に対して第1のコアリング処理が行われる(ステップA08)。
以上のように、ステップA07が適切なタイミングで処理されることにより、ステップA05とステップA08の処理結果が同時に出力され、第1の逆周波数変換処理部104の処理が行われる(ステップA09)。
ステップA09の処理結果が出力されることにより、第1の逆周波数変換処理部104からノイズ処理後の信号(第1の逆周波数領域変換信号)が得られる(ステップA10)。
本実施の形態によれば、例えば入力信号を、そのビット精度が最も低い部分で記憶装置に一時的に記憶保持し、適切なタイミングで読み出す構成としたことで、多重解像度解析時に必要なタイミング調整用の記憶装置の容量を削減しつつ、画質の劣化を回避したノイズ処理を実現することができる。
<実施形態2>
図5は、本発明の第2の実施形態の構成を例示する図である。図6は、第2の実施形態の動作を説明するための流れ図である。図5を参照すると、本発明の第2の実施の形態は、図4の構成に対して第1の補填処理部110と、第2の補填処理部109と、をさらに備えている。また、第1の逆周波数変換処理部104への入力が、第1のコアリング処理部103からの出力である第1の変換信号と、第2の補填処理部109からの出力である第4の変換信号となる。
第2の補填処理部109は、第2の逆周波数変換処理部108からの第3の変換信号を入力し第4の変換信号を、第1の逆周波数変換処理部104に出力し、第1の補填処理部110は、第1の逆周波数変換処理部104からの出力信号を入力する。
第1の補填処理部110及び第2の補填処理部109は、例えば、
・画像の修復、加工等の補正処理や、
・ノイズ除去処理の性能を高める追加ノイズ除去処理等
を行う。
本実施形態において、特に制限されないが、補正処理は、
・ノイズ除去処理による画像のエッジなまりを補正するような、アンシャープマスクフィルタ処理等のエッジ強調処理、
・レンズ歪み補正等の光学補正、
・色彩補正等の
少なくとも1つを含む。また、追加ノイズ除去処理としては、任意のノイズ除去(低減)処理が適用可能である。例えばバイラテラルフィルタ等を用いてもよい。すなわち、ウェーブレット縮退処理でのノイズ除去による画像のぼけ等に対して、ピクセルの値を周りのピクセルの値の重み付け平均で置き換えてノイズ低減を行うにあたり、重み付けを、色が似ているほど大きくし、距離が近いほど大きくするバイラテラルフィルタ等により、輪郭のぼけを、ある程度防ぐことができる。
本実施形態において、各処理部102乃至110は、処理装置101で実行されるコンピュータ・プログラムによって各処理・機能の一部又は全てを実現するようにしてもよい。本発明によれば、当該コンピュータ・プログラム、及び、コンピュータ・プログラムを格納した半導体メモリ、磁気/光ディスク等の記憶媒体が提供される。
図6は、図5に示した第2の実施形態の動作を説明する流れ図である。図6を参照して、本発明の第2の実施形態の動作を説明する。
図6のステップB01からステップB05までは、図4のステップA01からA05と同様である。
ステップB05の第2の逆周波数変換処理の出力信号に対して、第2の補填処理部109による第2の補填処理が実行される(ステップB06)。
図6のステップB07は、図4のステップA06と同様であり、入力信号を2系統に分離した後に入力信号を記憶している。ステップB02からステップB06までの処理が実行され、第2の補填処理部109からの第4の変換信号が第1の逆周波数変換処理部104に出力される。
第2の補填処理部109から第4の変換信号が第1の逆周波数変換処理部104に出力されるのと同時に、第1のコアリング処理部103から第1の変換信号が第1の逆周波数変換処理部104に出力されることが望ましい。
そこで、本実施形態では、第2の補填処理部109から第4の変換信号が第1の逆周波数変換処理部104に出力されるのと同時に、第1のコアリング処理部103からの第1の変換信号が第1の逆周波数変換処理部104に出力されるように、記憶装置100に記憶された入力信号が、第1の周波数変換処理部102に読み出される(ステップB08)。
2分岐された入力信号の一方の分岐経路における、記憶装置100の読み出しアクセス時間、第1の周波数変換処理部102及び第1のコアリング処理部103の処理時間(処理部間の転送時間も含む)の合計(=時間1)と、
2分岐された入力信号の他方の分岐経路における、第2の周波数変換処理部105、第3の周波数変換処理部106、第2のコアリング処理部107、第2の逆周波数変換処理部108、第2の補填処理部109の処理時間(処理部間の転送時間も含む)の合計(=時間2)の差(ただし、時間2>時間1)に関して、
一方の分岐経路上の記憶装置100に書き込まれた入力信号は、書き込みのタイミングから、遅延時間=時間2−時間1の後に、読み出しが行われ、第1の周波数変換処理部102に入力される構成としてもよい。この場合、入力信号を書き込んでから所定時間経過後に読み出すタイミング調整の制御を、記憶装置100に実装する構成としてもよい(例えば先入れ先出し制御方式のバッファメモリで実装してもよい)。あるいは、記憶装置100における上記同期制御用に不図示のコントローラを備えてもよい。あるいは、第2の逆周波数変換処理部108から第3の変換信号を出力するタイミングで、記憶装置100へ読み出しのトリガとなる制御信号を送信することで制御してもよい。
第1のコアリング処理部103は第1の周波数変換処理部102から出力される第1の高周波信号をコアリング処理する(ステップB09)。
第1の逆周波数変換処理部104は、第1の変換信号と第4の変換信号に対して逆周波数領域変換処理を施す(ステップB10)。
第1の逆周波数変換処理部104の処理結果に対して、第1の補填処理部110が補填処理を実行する(ステップB11)。
第1の補填処理部110が補填処理結果を出力することで、第1の補填処理部110からノイズの除去された画像信号が得られる(ステップB12)。
この第2の実施の形態によれば、前記第1の実施形態に加えて、補填処理を行う構成としたことで、画質の向上が期待できる。
補填処理に係る記憶容量の増加は、例えば入力信号がビット精度の最も低い部分で記憶装置100に一時保持され、第1の周波数変換処理部102に適切なタイミングで読み出されるように構成したことで、タイミング調整用の記憶装置の容量を削減しつつ、画質を向上した画像を得ることができる。
<実施例1>
図7は、第1の実施例の構成を例示する図である。第1の実施例は、上記第1の実施形態に対応する。図8は、第1の実施例を回路ブロックで説明した図である。第1の実施例では、上記第1の実施形態における周波数変換処理、逆周波数変換処理を、それぞれ、ウェーブレット変換処理、逆ウェーブレット変換処理としたものである。
図7において、記憶装置200、第1のウェーブレット変換処理部201、第2のウェーブレット変換処理部203、第3のウェーブレット変換処理部205、第1のウェーブレット縮退処理部202、第2のウェーブレット縮退処理部206、第1の逆ウェーブレット変換処理部204、第2の逆ウェーブレット変換処理部207、分岐点(分岐部)213は、図3の記憶装置100、第1の周波数変換処理部102、第2の周波数変換処理部105、第3の周波数変換処理部106、第1のコアリング処理部103、第2のコアリング処理部107、第1の逆周波数変換処理104、第2の逆周波数変換処理部108、分岐点(分岐部)111にそれぞれ対応する。
図7、図8において、第2の逆ウェーブレット変換処理部(回路)207からの信号が第1の逆ウェーブレット変換処理部(回路)204に出力されるのと同時に、第1のウェーブレット縮退処理部(回路)202から信号が第1の逆ウェーブレット変換処理部(回路)204に出力される。記憶装置200に記憶保持されている入力信号が適切なタイミングで読み出され第1のウェーブレット変換処理部201に入力される。
なお、図7において、第3のウェーブレット変換処理部205からの低周波成分を入力する第4のウェーブレット変換処理部(不図示)、第4のウェーブレット変換処理部から高周波成分を受けノイズ除去する第3のウェーブレット縮退処理部(不図示)、第3のウェーブレット縮退処理部の出力とウェーブレット変換処理部からの低周波成分を受ける第3の逆ウェーブレット変換処理部(不図示)をさらに備えた構成としてもよいことは勿論である。後述する他の実施例についても同様である。第2のウェーブレット変換処理部203で画像が4つの成分(1つの低周波成分と3つの高周波成分)に分解され、該低周波成分を入力する第3のウェーブレット変換処理部205では解像度レベル2となり7つの領域に分解されるが、第4のウェーブレット変換処理部では解像度レベル3となり10個の領域に分解される。さらに、第4のウェーブレット変換処理部(不図示)からの低周波成分を入力するウェーブレット変換処理部、ウェーブレット縮退処理部、逆ウェーブレット変換処理部を備えた多段構成としてもよいことは勿論である。
入力信号は画像の横方向(行方向)のラインごと(ラスター単位:ラスタ形式の画像の1行分)で入力される。図8を参照すると、2次元ウェーブレット変換を実現するために、ウェーブレット変換処理回路201、203、205、逆ウェーブレット変換処理回路204、207は、それぞれ、ラインバッファ221、223、222、224、225を備える。各ラインバッファで蓄積するライン数は、ウェーブレット変換に係るウェーブレット基底(マザーウェーブレット)の種類によって異なる。CDF97(Cohen-Daubechies-Feauveaの9−7)ウェーブレットにおいては、必要なライン数は5である。
次に、入力信号を内部で処理する際のビット精度の増加について、図9の比較例を用いて説明する。入力信号の例としてYUV422フォーマットによる1920×1080の2次元画像であり、Y成分(輝度成分)、U成分(輝度と青色成分の差)、及びV成分(輝度と赤色成分の差)が、それぞれ8ビットであるものとする。なお、YUV422は、サンプリングの際、隣接2×2の4画素(ピクセル)を1セットとし、Y成分を4サンプル、U成分、V成分を2サンプルとり、Y成分は各画素独立に8ビット、U成分とY成分は隣接画素間で8ビットを共有する。このため、1画素あたりのビット数は16ビットとしている。ただし、後に説明されるように、内部処理用のデータは16ビットよりもビット幅が増加する場合がある。
図10に、CDF97ウェーブレットにおいて原信号に乗ずるウェーブレット係数(CDF97フィルタ:線形位相フィルタの係数)を示す。離散信号に対するウェーブレット変換は、これらの精度の高い係数(フィルタバンクh(n)、g(n))を、整数値の原信号s(n)に、順に乗ずることによって実現される。演算精度を保つためには、整数値に加えて、相応の小数値を保持するビット幅が必要になる。
図9の比較例では、小数値を保存するためにYUVの各成分に8ビットを追加している。すなわち、1画素(ピクセル)あたりのビット数は、もとのY=8ビット、U=V=4ビットの16ビットから、Y=16ビット、U=V=8ビットの32ビットに増加する。図9を参照すると、第1のウェーブレット変換処理部301で、低周波成分として分離されるデータは、全体の1/4である。すなわち、1ピクセル=32ビットの場合、低周波成分として分離されるのは、8ビットであり、高周波成分として分離されるのは、残りの24ビットということになる。
第1の実施例によって削減される記憶容量について、比較例(図9)を参照して説明する。
図8を参照すると、第1の実施例では、入力信号を分岐部213で分岐させた後に、ウェーブレット変換が2回実行されている(第2、第3のウェーブレット変換処理回路203、205)。ウェーブレット変換を1回実施すると、ラインが貯まる速度が半分になる。したがって、第3のウェーブレット変換処理回路205に係る5ライン分がラインバッファ222に貯まるのには、10ライン分の入力信号が必要になる。
第3のウェーブレット変換処理回路205、及び第2の逆ウェーブレット変換処理回路207の両方のラインバッファ222、225が満杯となるには、20ライン分の入力信号が必要になる。合わせて、第2のウェーブレット変換処理回路203の5ライン分を含めると、記憶装置200には、25ライン分の入力信号が蓄積されることになる。1920×1080ピクセルの画面解像度のフルHD(full high definition)の画質に対して、記憶装置200での蓄積記憶量は、1920×16ビット×25ラインで750キロビット(kilo bits)となる。
記憶装置の配置を、図8と相違させた比較例(図9)では、信号を2系統に分離される場所が、図8の第1の実施例(分岐部213)とは相違している。なお、図9の記憶装置303は、前述した図2の記憶装置17に対応する。図9に示す比較例では、図8に示す第1の実施例の第2のウェーブレット変換処理回路203に相当する5ラインが不要であり、蓄積するライン数は20ラインである。この場合、記憶装置303に蓄積する記憶量(1ピクセル=24ビット)は、1920×24ビット×20ライン、すなわち900キロビットとなる。したがって、図8の第1の実施例によれば、図9の比較例と比べて、記憶するデータ量を、150キロビット削減している。
<実施例2>
次に本発明の第2の実施例について説明する。第2の実施例は第1実施形態に対応する。映像・画像撮影機器等においては、通信や画像処理の負担(負荷)を軽減するために、映像、画像信号はYUV422等の適宜画素を間引きされたフォーマットを用いることが多い。例えば機器の内部で画像処理するにあたり、RGB(Red Green and Blue color model)等、画像フォーマットを変更して処理する場合がある。本実施例は、そのような状況に対応可能としたものである。図11は、第2の実施例の構成を例示する図である。図11を参照すると、図7の第1の実施例の構成に加えて、第1のYUV→RGB変換処理部208、第2のYUV→RGB変換処理部209、RGB→YUV変換処理部210が追加されている。これ以外は、図7(図8)の構成と同様である。
図11において、第2の逆ウェーブレット変換処理部(回路)207からの信号が第1の逆ウェーブレット変換処理部(回路)204に出力されるのと同時に、第1のウェーブレット縮退処理部(回路)202から信号が第1の逆ウェーブレット変換処理部(回路)204に出力されように、記憶装置200に記憶されている入力信号が適切なタイミングで読み出され第1のYUV→RGB変換処理部208に入力される。
図11では、入力信号をYUV422としているが、YUV422に制限されるものでなく、YUV420、YUV411等、サンプリングの間引き量は限定されない。また画像フォーマットに係る色空間表現もYUVに制限されるものでなく、YCbCr、YPbPr、HSV、CMY、RGB等であってもよい。あるいは、グレースレールや、彩度のみを用いた単色の空間でもよい(ただし、上記にのみ制限されない)。また、図11では出力信号をYUV422としているが、入力信号と同様、YUV422に制限されるものない。
図12を参照すると、本実施例におけるビット精度の増加が例示されている。入力信号は、前記第1の実施形態の第1の実施例と同様であり、8ビットのYUV422を想定してあり、1ピクセルあたりのビット数は16ビットである。この入力信号に対してYUVからRGBへのフォーマット変換を、YUV→RGB変換処理部で行う。この例では、R成分、G成分、B成分の各成分が8ビットであることを想定しており、1ピクセルあたりのビット精度は24ビットに増加している。この信号に対してウェーブレット変換処理を行う。前記第1の実施形態の第1の実施例と同様に小数部の表現に8ビットを用いている。これにより1ピクセルあたりのビット精度は48ビットとなる。
ウェーブレット変換で低周波成分として分離されるデータは全体の1/4である。すなわち、1ピクセルあたり48ビットの場合、低周波成分として分離されるのは12ビットのデータであり、高周波成分として分離されるのは残りの36ビットになる。
本実施例の作用効果について図11、図12を参照して説明する。図11を参照すると、まず入力信号を2系統に分離し、一方を、記憶装置200で一時保存する。保持するライン数は、前記第1の実施例と同様であり、25ラインである。入力信号が1ピクセルあたり16ビット、画質が1920×1080ピクセルの場合、記憶装置200で保持する記憶量は、1920×16ビット×25ライン=750キロビットである。
図9の比較例において、記憶装置303で保持するデータは1ピクセルあたりのビット精度は図12に示されているように、36ビットである。前記第1の実施例と同様に保持するライン数は20ラインであり、図9の記憶装置303で保持する記憶量は、1920×36ビット×20ライン=1300キロビットとなる。このことから、本実施例によれば、図9の比較例と比べて、550キロビットのデータ量を削減している。
<実施例3>
図13は、本発明の第3の実施例の構成を例示する図である。第3の実施例は、補填処理部を備えた前記第2の実施形態に対応する。図13を参照すると、本実施例は、図8の構成に加えて、第1のアンシャープマスクフィルタ回路211、第2のアンシャープマスクフィルタ回路212が追加されている。その他の構成は、図8と同一である。
第1のアンシャープマスクフィルタ回路211及び第2のアンシャープマスクフィルタ回路212は、それぞれ、図5における第1の補填処理部110及び第2の補填処理部109にそれぞれ対応する。補填処理の例として、シャープニングを行うアンシャープマスクフィルタを用いている。一般に、ノイズ除去処理は、画像のエッジを多少なりとも鈍らせるので、ノイズ除去処理後に、シャープニング処理が行われる。本実施例では、アンシャープマスク処理においては、例えばアンシャープ処理にガウシアンフィルタを用いる。特に制限されないが、本実施例において、ガウシアンフィルタのフィルタカーネルサイズは13×13ピクセルとする。そのため、第1のアンシャープマスクフィルタ回路211、及び第2のアンシャープマスクフィルタ回路212は、12ライン分のラインバッファ226、227を備える。その他の構成は、図6と同様である。
図13において、第2のアンシャープマスクフィルタ回路212からの信号が第1の逆ウェーブレット変換処理部(回路)204に出力されるのと同時に、第1のウェーブレット縮退処理回路202から信号が第1の逆ウェーブレット変換処理回路204に出力されように、記憶装置200に記憶されている入力信号が適切なタイミングで読み出され第1のウェーブレット変換処理回路201に入力される。前記第2の実施形態において説明したように、例えば、記憶装置200からの入力信号の読み出しの遅延制御、あるいは記憶装置200への読み出しのトリガとなる制御信号等によるタイミング制御が行われる。
入力信号、及び内部処理に係るビット精度は、前記第1の実施形態の第1実施例と同様である。すなわち、入力信号の例としてYUV422フォーマットによる1920×1080の2次元画像であり、Y成分、U成分及びV成分がそれぞれ8bitであることを想定する。
上記の想定によれば、1画素あたりのビット数は、16ビットとなる。内部処理用のデータは、ウェーブレット変換処理に依る小数値を保存するためにYUVの各成分に8ビットを追加している。すなわち1ピクセルあたりビット数は32ビットに増加する。低周波成分として分離されるデータは全体の1/4であり、1ピクセルあたり32ビットの時、低周波成分として分離されるのは8ビットのデータであり、高周波成分として分離されるのは、残りの24ビットということになる。
次に本実施例の作用効果について説明する。図13を参照すると、まず入力信号を2系統に分離し、一方を記憶装置200で一時保存する。
本実施例の構成における保持するライン数について説明する。第3のウェーブレット変換処理回路205、第2の逆ウェーブレット変換処理回路207、及び、第2のアンシャープマスクフィルタ回路212の各ラインバッファ222、225、227のライン数の合計は、5+5+12=22ラインである。ウェーブレット変換処理回路を2段通過しているため(ウェーブレット変換処理回路203、205の2段)、22ライン分が貯まるのには、入力信号では、44ライン分が必要である。これに加えて、第2のウェーブレット変換処理回路203の5ライン分を合わせて、49ライン分を一時保持する必要がある。
入力信号が1ピクセルあたり16ビット、画質が1920×1080ピクセルの場合、記憶装置200で保持する記憶量は、1920×16ビット×49ライン=1470キロビットである。
比較例の場合、図9の記憶装置303で保持するデータについて、1ピクセルあたりのビット精度は24ビットである。保持するライン数は、44ラインである。、このことから、図9の記憶装置303で保持する記憶量は、1920×24ビット×44ライン=1980キロビットになる。したがって、第3の実施例によれば、図9の比較例と比べて、510キロビットのデータ量を削減している。
また、本実施例の構成には含まれていないが、第2実施例(図11)のように、画像のフォーマット変換(YUV→RGB)を含む場合、本実施例の作用効果(所要記憶容量の低減効果)は更に顕著に現れる。
本発明によれば、デジタルカメラの撮像素子等のセンサから出力されるデジタル信号に混入するノイズを除去する用途に適用できる。また、マイクロフォン等のアナログ信号をデジタル変換した信号に対するノイズを除去する用途にも適用できる。
上記した実施形態の一部又は全ては以下のように付記される(ただし、以下に制限されない)。
(付記1)
入力信号を周波数領域の信号に変換して出力する周波数変換処理手段を複数備えたノイズ除去システムであって、
一の周波数領域変換手段から出力された信号のうち低周波成分が入力される周波数変換処理手段と、
周波数領域に変換された信号からノイズ成分を除去するコアリング処理手段と、
前記コアリング処理手段から出力される周波数領域信号から原入力信号を同じ色信号に変換する逆周波数変換処理手段と、を少なくとも1組備え、
原入力信号を2系統に分離した後に保持する記憶装置を備える、ことを特徴とするノイズ除去処理システム。
(付記2)
付記1に記載のノイズ除去処理システムであって、
前記記憶装置から読み出された信号を周波数領域に変換する周波数変換処理手段と、
前記周波数変換処理手段によって出力された信号のうち高周波成分に対してノイズ除去処理を行うコアリング処理手段と、
前記コアリング処理手段から出力された信号を入力とする逆周波数変換処理手段と、
を備えたノイズ除去処理システム。
(付記3)
付記1又は付記2に記載のノイズ除去処理システムであって、
前記逆周波数変換処理手段への2系統の入力のうち、1系統への入力と同期して前記記憶装置からデータが読み出される、ノイズ除去処理システム。
(付記4)
付記1乃至付記3のいずれか一に記載のノイズ除去処理システムであって、
前記逆周波数変換処理手段の後段に補填処理手段を備え、
前記補填処理手段の出力が、前記逆周波数変換処理手段と異なる逆周波数変換処理手段に入力される、ノイズ除去処理システム。
(付記5)
付記1乃至付記4のいずれか一に記載のノイズ除去処理システムであって、
入力信号に対する色空間変換処理手段を備える、ノイズ除去処理システム。
(付記6)
付記1乃至付記5のいずれか一に記載のノイズ除去処理システムであって、
前記周波数変換処理手段は、ウェーブレット変換を用いて周波数領域信号に変換し、
前記逆周波数変換処理手段は、逆ウェーブレット変換を用いて周波数信号から入力信号と同じ色空間の信号に変換する、ノイズ除去処理システム。
(付記7)
付記6に記載のノイズ除去処理システムであって、
前記コアリング処理手段は、ウェーブレット縮退を用いて、前記入力信号に含まれるノイズを除去する、ノイズ除去処理システム。
(付記8)
入力信号を周波数領域の信号に変換して出力する周波数変換処理回路を複数個用いるノイズ除去回路であって、
周波数変換処理回路と、
前記周波数領域変換回路から出力された信号のうち低周波成分が入力される周波数変換処理回路と、
周波数領域に変換された信号からノイズ成分を除去するコアリング処理回路と、
前記コアリング処理回路から出力される周波数領域信号から原入力信号を同じ色信号に変換する逆周波数変換処理回路と、
を1組又は複数組備え、
原入力信号を2系統に分離した後に保持する記憶装置を備える、ことを特徴とするノイズ除去処理回路。
(付記9)
付記8に記載のノイズ除去処理回路であって、
前記記憶装置から読み出された信号を周波数領域に変換する周波数変換処理回路と、
前記周波数変換処理回路によって出力された信号のうち高周波成分に対してノイズ除去処理を行うコアリング処理回路と、
前記コアリング処理回路から出力された信号を入力とする逆周波数変換処理回路と、
を備えたノイズ除去処理回路。
(付記10)
付記8又は付記9に記載のノイズ除去処理回路であって、
前記逆周波数変換処理回路への2系統の入力のうち、1系統への入力と同期して前記記憶装置からデータが読み出される、ノイズ除去処理回路。
(付記11)
付記9又は付記10に記載のノイズ除去処理回路であって、
前記逆周波数変換処理回路の後段に補填処理回路を備え、
前記補填処理回路の出力が前記逆周波数変換処理回路と異なる逆周波数変換処理回路に入力される、ノイズ除去処理回路。
(付記12)
付記9乃至付記11のいずれか一に記載のノイズ除去処理回路であって、
前記入力信号に対する色空間変換処理回路を備える、ノイズ除去処理回路。
(付記13)
付記9乃至付記12のいずれか一に記載のノイズ除去処理回路であって、
前記周波数変換処理回路は、ウェーブレット変換を用いて周波数領域信号に変換し、
前記逆周波数変換処理回路は、逆ウェーブレット変換を用いて周波数信号から入力信号と同じ色空間の信号に変換する、ノイズ除去処理回路。
(付記14)
付記13に記載のノイズ除去処理回路であって、
前記コアリング処理回路は、ウェーブレット縮退を用いて、前記入力信号に含まれるノイズを除去する、ノイズ除去処理回路。
(付記15)
入力信号を周波数領域の信号に変換して出力する周波数変換処理ステップを複数個用いるノイズ除去方法であって、
周波数変換処理ステップと、
前記周波数領域変換ステップから出力された信号のうち低周波成分が入力される周波数変換処理ステップと、
周波数領域に変換された信号からノイズ成分を除去するコアリング処理ステップと、
前記コアリング処理ステップから出力される周波数領域信号から原入力信号を同じ色信号に変換する逆周波数変換処理ステップと、
を少なくとも1回含み、原入力信号を2系統に分離した後に記憶装置に保持する、ことを特徴とするノイズ除去処理方法。
(付記16)
付記15に記載のノイズ除去処理方法であって、
前記記憶装置から読み出された信号を周波数領域に変換する周波数変換処理ステップと、
前記周波数変換処理ステップによって出力された信号のうち高周波成分に対してノイズ除去処理を行うコアリング処理ステップと、
前記コアリング処理ステップから出力された信号を入力とする逆周波数変換処理ステップと、を含むノイズ除去処理方法。
(付記17)
付記15又は付記16に記載のノイズ除去処理方法であって、
前記逆周波数変換処理ステップへの2系統の入力のうち、1系統への入力と同期して前記記憶装置からデータが読み出される、ノイズ除去処理方法。
(付記18)
付記15乃至付記17のいずれか一に記載のノイズ除去処理方法であって、
前記逆周波数変換処理ステップの後段に補填処理ステップを備え、
前記補填処理ステップの出力が前記逆周波数変換処理ステップと異なる逆周波数変換処理ステップに入力される、ノイズ除去処理方法。
(付記19)
付記15乃至付記18のいずれか一に記載のノイズ除去処理方法であって、
入力信号に対する色空間変換処理ステップを備える、ノイズ除去処理方法。
(付記20)
付記15乃至付記19のいずれか一に記載のノイズ除去処理方法であって、
前記周波数変換処理ステップは、ウェーブレット変換を用いて周波数領域信号に変換し、
前記逆周波数変換処理ステップは、逆ウェーブレット変換を用いて周波数信号から入力信号と同じ色空間の信号に変換する、ノイズ除去処理方法。
(付記21)
付記20に記載のノイズ除去処理方法であって、
前記コアリング処理ステップは、ウェーブレット縮退を用いて、入力信号に含まれるノイズを除去する、ノイズ除去処理方法。
(付記22)
入力信号を少なくとも2系統に分岐し、一方の系統の前記入力信号を記憶装置に一旦書き込み、
前記記憶装置から読み出された前記入力信号を周波数領域に変換し第1の信号を生成する第1の周波数変換処理工程と、
他方の系統の前記入力信号を周波数領域に変換し第2の信号を生成する第2の周波数変換処理工程と、
前記第2の信号を周波数領域に変換し第1及び第2の周波数帯域の第3及び第4の信号を生成する第3の周波数変換処理工程と、
第1の逆周波数変換処理工程と、
前記第3の信号を直接又は間接に入力し、前記第4の信号を入力し、入力した信号を逆周波数変換した第3の変換信号を生成する第2の逆周波数変換処理工程と、
含み、
前記第1の逆周波数変換処理工程では、前記第1の信号を直接又は間接に入力し、前記第3の変換信号を直接又は間接に入力し、入力した信号を逆周波数変換した信号を出力し、以下の(A)及び(B):
(A)前記第1の逆周波数変換処理工程では、前記第1の信号の間接入力として、前記第1の信号をコアリング処理した第1の変換信号を入力する、
(B)前記第2の逆周波数変換処理工程は、前記第3の信号の間接入力として、前記第3の信号をコアリング処理した第2の変換信号を入力する、
の少なくとも一方とされる、ことを特徴とするノイズ除去方法。
(付記23)
前記第2の逆周波数変換処理工程で生成された前記第3の変換信号が、直接又は間接に、前記第1の逆周波数変換処理工程に入力されるタイミングに合わせて、前記第1の周波数変換処理工程からの前記第1の信号が、直接又は間接に、前記第1の逆周波数変換処理工程に入力されるように、前記記憶装置から前記一方の系統の前記入力信号が読み出される、ことを特徴とする付記22記載のノイズ除去方法。
(付記24)
前記第1の逆周波数変換処理工程から出力される前記信号に対して予め定められた補正及び/又は更なるノイズ除去処理を施した信号を出力する第1の補填処理工程と、
前記第2の逆周波数変換処理部から出力される前記第3の変換信号に対して予め定められた補正及び/又は更なるノイズ除去処理を施した第4の変換信号を出力する第2の補填処理工程と、
の少なくとも1方を含み、
前記第1の逆周波数変換処理工程は、前記第2の逆周波数変換処理工程からの前記第3の変換信号の間接入力として、前記第2の逆周波数変換処理工程からの前記第3の変換信号を前記第2の補填処理工程で補正及び/又は更なるノイズ除去処理を施した前記第4の変換信号を入力する、ことを特徴とする付記22又は23記載のノイズ除去方法。
(付記25)
前記第1の逆周波数変換処理工程で前記逆周波数変換した信号に対して予め定められた補正及び/又は更なるノイズ除去処理を施した信号を出力する第1の補填処理工程と、
前記第2の逆周波数変換処理工程から出力される前記第3の変換信号に対して予め定められた補正及び/又は更なるノイズ除去処理を施した第4の変換信号を出力する第2の補填処理工程と、
を含み、
前記第1の逆周波数変換処理工程が、前記第2の逆周波数変換処理工程からの前記第3の変換信号を間接に入力する場合、前記第2の逆周波数変換処理工程からの前記第3の変換信号を前記第2の補填処理工程で補正及び/又は更なるノイズ除去処理を施した前記第4の変換信号を入力する、ことを特徴とする付記22又は23記載のノイズ除去方法。
(付記26)
前記記憶装置から読み出された前記一方の系統の前記入力信号に対して予め定められた所定の色空間変換処理を行い変換処理した信号を前記第1の周波数変換処理工程に対して前記入力信号として供給する第1の変換処理工程と、
前記他方の系統の前記入力信号に対して予め定められた所定の色空間変換処理を行い変換処理した信号を、前記第2の周波数変換処理工程に対して前記入力信号として供給する第2の変換処理工程と、
前記第1の逆周波数変換処理工程の出力信号に対して前記色空間変換処理の逆変換を行う第3の変換処理工程と、
を含む、ことを特徴とする付記22乃至25のいずれか一に記載のノイズ除去方法。
(付記27)
前記各周波数変換処理工程は、ウェーブレット変換を行い、前記各逆周波数変換処理工程は、逆ウェーブレット変換を行う、付記22乃至26のいずれか一に記載のノイズ除去方法。
(付記28)
入力信号を少なくとも2系統に分岐し、一方の系統の前記入力信号が記憶装置に一旦書き込まれ、
前記記憶装置から読み出された前記入力信号を入力して周波数領域に変換し第1の信号を出力する第1の周波数変換処理と、
他方の系統の前記入力信号を入力して周波数領域に変換し第2の信号を出力する第2の周波数変換処理と、
前記第2の周波数領域変換処理からの前記第2の信号を入力して周波数領域に変換し第1及び第2の周波数帯域の第3及び第4の信号を出力する第3の周波数変換処理と、
第1の逆周波数変換処理と、
前記第3の周波数変換処理からの前記第3の信号を直接又は間接に入力し、前記第3の周波数変換処理からの前記第4の信号を入力し、入力した信号を逆周波数変換した第3の変換信号を出力する第2の逆周波数変換処理と、
を含み、
前記第1の逆周波数変換処理において、前記第1の周波数変換処理からの前記第1の信号を直接又は間接に入力し、前記第2の逆周波数変換処理からの前記第3の変換信号を直接又は間接に入力し、入力した信号を逆周波数変換した信号を出力し、以下の(A)及び(B):
(A)前記第1の逆周波数変換処理が、前記第1の信号の間接入力として、前記第1の周波数変換処理からの前記第1の信号に対して第1のコアリング処理でノイズ成分を除去した第1の変換信号を入力する、
(B)前記第2の逆周波数変換処理が、前記第3の信号の間接入力として、前記第3の周波数変換処理からの前記第3の信号に対して第2のコアリング処理でノイズ成分を除去した第2の変換信号を入力する、
の少なくとも一方の処理をコンピュータに実行させるプログラム。
(付記29)
前記第2の逆周波数変換処理からの前記第3の変換信号が直接又は間接に前記第1の逆周波数変換処理に入力されるタイミングに合わせて、前記第1の周波数変換処理からの前記第1の信号が直接又は間接に前記第1の逆周波数変換処理に入力されるように、前記記憶装置から、前記一方の系統の前記入力信号を読み出す処理を、前記コンピュータに実行させる、付記28記載のプログラム。
(付記30)
前記第1の逆周波数変換処理で前記逆周波数変換した信号に対して予め定められた補正及び/又は更なるノイズ除去処理を施した信号を出力する第1の補填処理と、
前記第2の逆周波数変換処理から出力される前記第3の変換信号に対して予め定められた補正及び/又は更なるノイズ除去処理を施した第4の変換信号を出力する第2の補填処理と、
の少なくとも一方をさらに含み、
前記第1の逆周波数変換処理が、前記第2の逆周波数変換処理からの前記第3の変換信号を間接に入力する場合、前記第2の逆周波数変換処理からの前記第3の変換信号を前記第2の補填処理で補正及び/又は更なるノイズ除去処理を施した前記第4の変換信号を入力する、付記28又は29記載のプログラム。
(付記31)
前記記憶装置から読み出された前記一方の系統の前記入力信号に対して予め定められた所定の色空間変換処理を行い変換処理した信号を前記第1の周波数変換処理に対して前記入力信号として供給する第1の変換処理と、
前記他方の系統の前記入力信号に対して予め定められた所定の色空間変換処理を行い変換処理した信号を、前記第2の周波数変換処理に対して前記入力信号として供給する第2の変換処理と、
前記第1の逆周波数変換処理の出力信号に対して前記色空間変換処理の逆変換を行う第3の変換処理と、
を前記コンピュータに実行させる付記28乃至30のいずれか一に記載のプログラム。
(付記32)
前記各周波数変換処理は、ウェーブレット変換を行い、前記各逆周波数変換処理は、逆ウェーブレット変換を行う、付記28乃至31のいずれか一に記載のプログラム。
(付記33)
多重解像度解析の入力段の周波数変換処理部を少なくとも二つ備え、入力信号を少なくとも2分岐し、一方の分岐の入力信号を前記入力段の第1の周波数変換処理部の前段に配置された記憶装置で一旦バッファリングし、
他方の分岐の前記入力信号は前記入力段の第2の周波数変換処理部に直接入力し、前記第2の周波数変換処理部の出力に対して後段でさらなる周波数変換処理が行われ、
出力段の逆周波数変換処理部は、前記入力段の第1の周波数変換処理部からの出力信号を直接又は間接に入力し前記出力段の1つ前の段の逆周波数変換処理部からの出力信号を直接又は間接に入力し、逆周波数領域変換処理した信号を出力する多重解像度解析システム。
(付記34)
前記出力段の逆周波数変換処理部には、前記入力段の前記第1の周波数変換処理部からの出力信号の直接又は間接の入力と、前記出力段の1つ前の段の逆周波数変換処理部からの出力信号の直接又は間接の入力とが同一のタイミングとなるように、前記記憶装置から前記入力段の前記第1の周波数変換処理部への前記入力信号の読み出しを制御する付記33記載の多重解像度解析システム。
なお、上記の特許文献、非特許文献の各開示を、本書に引用をもって繰り込むものとする。本発明の全開示(請求の範囲を含む)の枠内において、さらにその基本的技術思想に基づいて、実施形態ないし実施例の変更・調整が可能である。また、本発明の請求の範囲の枠内において種々の開示要素(各付記の各要素、各実施例の各要素、各図面の各要素等を含む)の多様な組み合わせ乃至選択が可能である。すなわち、本発明は、請求の範囲を含む全開示、技術的思想にしたがって当業者であればなし得るであろう各種変形、修正を含むことは勿論である。
11 第1のウェーブレット変換処理部
12 第1のコアリング処理部
13 第1の逆ウェーブレット変換処理部
14 第2のウェーブレット変換処理部
15 第2のコアリング処理部
16 第2の逆ウェーブレット変換処理部
17 記憶装置
100 記憶装置
101 処理装置
102 第1の周波数変換処理部
103 第1のコアリング処理部
104 第1の逆周波数変換処理部
105 第2の周波数変換処理部
106 第3の周波数変換処理部
107 第2のコアリング処理部
108 第2の逆周波数変換処理部
109 第2の補填処理部
110 第1の補填処理部
111 分岐点(分岐部)
200 記憶装置
201 第1のウェーブレット変換処理部(第1のウェーブレット変換処理回路)
202 第1のウェーブレット縮退処理部(第1のウェーブレット縮退処理回路)
204 第1の逆ウェーブレット変換処理部(第1の逆ウェーブレット変換処理部)
203 第2のウェーブレット変換処理部(第2のウェーブレット変換処理回路)
205 第3のウェーブレット変換処理部(第3のウェーブレット変換処理回路)
206 第2のウェーブレット縮退処理部(第2のウェーブレット縮退処理回路)
207 第2の逆ウェーブレット変換処理部(第2の逆ウェーブレット変換処理回路)
208 第1のYUV→RGB変換処理部
209 第2のYUV→RGB変換処理部
210 RGB→YUV変換処理部
211 第1のアンシャープマスクフィルタ回路
212 第2のアンシャープマスクフィルタ回路
213 分岐点(分岐部)
221〜227 ラインバッファ
301 第1のウェーブレット変換処理部
302 第1のウェーブレット縮退処理部
303 記憶装置

Claims (7)

  1. 入力信号を分岐部で少なくとも第1、第2の系統に分岐させ、前記第1の系統の前記入力信号が書き込まれる記憶装置と、
    前記記憶装置から読み出された前記第1の系統の前記入力信号を入力して周波数領域に変換し第1の信号を出力する第1の周波数変換処理部と、
    前記第2の系統の前記入力信号を入力して周波数領域に変換し第2の信号を出力する第2の周波数変換処理部と、
    前記第2の周波数変換処理部からの前記第2の信号を入力して周波数領域に変換し第1及び第2の周波数帯域の第3及び第4の信号を出力する第3の周波数変換処理部と、
    第1の逆周波数変換処理部と、
    前記第3の周波数変換処理部からの前記第3の信号を直接又は間接に入力し、前記第3の周波数変換処理部からの前記第4の信号を入力し、入力した信号を逆周波数変換した第3の変換信号を出力する第2の逆周波数変換処理部と、
    第1のコアリング処理部及び/又は第2のコアリング処理部と、
    を備え、
    前記第1の逆周波数変換処理部は、前記第1の周波数変換処理部からの前記第1の信号を直接又は間接に入力し、前記第2の逆周波数変換処理部からの前記第3の変換信号を直接又は間接に入力し、入力した信号を逆周波数変換した信号を出力し、
    前記第1のコアリング処理部は、前記第1の周波数変換処理部からの前記第1の信号に対してノイズ成分を除去した第1の変換信号を出力し、前記第1の逆周波数変換処理部は、前記第1の信号の間接入力として、前記第1のコアリング処理部からの前記第1の変換信号を入力し、
    前記第2のコアリング処理部は、前記第3の周波数変換処理部からの前記第3の信号に対してノイズ成分を除去した第2の変換信号を出力し、前記第2の逆周波数変換処理部は、前記第3の信号の間接入力として、前記第2のコアリング処理部からの前記第2の変換信号を入力し、
    前記第2の逆周波数変換処理部からの前記第3の変換信号が直接又は間接に前記第1の逆周波数変換処理部に入力されるタイミングに合わせて、前記第1の周波数変換処理部からの前記第1の信号が直接又は間接に前記第1の逆周波数変換処理部に入力されるように、前記記憶装置から、前記第1の系統の前記入力信号が読み出される、ことを特徴とするノイズ除去システム。
  2. 前記第1の逆周波数変換処理部で前記逆周波数変換した信号に対して予め定められた補正及び/又は更なるノイズ除去処理を施した信号を出力する第1の補填処理部と、
    前記第2の逆周波数変換処理部から出力される前記第3の変換信号に対して予め定められた補正及び/又は更なるノイズ除去処理を施した第4の変換信号を出力する第2の補填処理部と、
    の少なくとも一方をさらに備え、
    前記第1の逆周波数変換処理部が、前記第2の逆周波数変換処理部からの前記第3の変換信号を間接に入力する構成として、前記第2の逆周波数変換処理部からの前記第3の変換信号に対して前記第2の補填処理部で補正及び/又は更なるノイズ除去処理を施した前記第4の変換信号を入力する、ことを特徴とする請求項1記載のノイズ除去システム。
  3. 前記記憶装置から読み出された前記第1の系統の前記入力信号に対して予め定められた所定の色空間変換処理を行い、前記色空間変換処理した信号を、前記第1の周波数変換処理部に対して前記入力信号として供給する第1の変換処理部と、
    前記第2の系統の前記入力信号に対して予め定められた所定の色空間変換処理を行い、前記色空間変換処理した信号を、前記第2の周波数変換処理部に対して前記入力信号として供給する第2の変換処理部と、
    前記第1の逆周波数変換処理部の出力信号に対して前記色空間変換処理の逆変換を行う第3の変換処理部と、
    を備えた、ことを特徴とする請求項1又は2に記載のノイズ除去システム。
  4. 前記各周波数変換処理部は、ウェーブレット変換を行い、前記各逆周波数変換処理部は、逆ウェーブレット変換を行う、請求項1乃至3のいずれか1項に記載のノイズ除去システム。
  5. 少なくとも第1、第2の系統に分岐させた入力信号のうち前記第1の系統の前記入力信号を記憶装置に一旦書き込む工程と、
    前記記憶装置から読み出された前記第1の系統の前記入力信号を周波数領域に変換し第1の信号を生成する第1の周波数変換処理工程と、
    前記第2の系統の前記入力信号を周波数領域に変換し第2の信号を生成する第2の周波数変換処理工程と、
    前記第2の信号を周波数領域に変換し第1及び第2の周波数帯域の第3及び第4の信号を生成する第3の周波数変換処理工程と、
    第1の逆周波数変換処理工程と、
    前記第3の信号を直接又は間接に入力し、前記第4の信号を入力し、入力した信号を逆周波数変換した第3の変換信号を生成する第2の逆周波数変換処理工程と、
    第1のコアリング処理工程及び/又は第2のコアリング処理工程と、
    含み、
    前記第1の逆周波数変換処理工程では、前記第1の信号を直接又は間接に入力し、前記第3の変換信号を直接又は間接に入力し、入力した信号を逆周波数変換した信号を出力し、
    前記第1のコアリング処理工程では、前記第1の周波数変換処理工程からの前記第1の信号に対してノイズ成分を除去した第1の変換信号を出力し、前記第1の逆周波数変換処理工程は、前記第1の信号の間接入力として、前記第1のコアリング処理工程からの前記第1の変換信号を入力し、
    前記第2のコアリング処理工程では、前記第3の周波数変換処理工程からの前記第3の信号に対してノイズ成分を除去した第2の変換信号を出力し、前記第2の逆周波数変換処理工程は、前記第3の信号の間接入力として、前記第2のコアリング処理工程からの前記第2の変換信号を入力し、
    前記第2の逆周波数変換処理工程で生成された前記第3の変換信号が、直接又は間接に、前記第1の逆周波数変換処理工程に入力されるタイミングに合わせて、前記第1の周波数変換処理工程からの前記第1の信号が、直接又は間接に、前記第1の逆周波数変換処理工程に入力されるように、前記記憶装置から前記第1の系統の前記入力信号が読み出される、ことを特徴とするノイズ除去方法。
  6. 前記第1の逆周波数変換処理工程から出力される前記信号に対して予め定められた補正及び/又は更なるノイズ除去処理を施した信号を出力する第1の補填処理工程と、
    前記第2の逆周波数変換処理工程から出力される前記第3の変換信号に対して予め定められた補正及び/又は更なるノイズ除去処理を施した第4の変換信号を出力する第2の補填処理工程と、
    の少なくとも1方を含み、
    前記第1の逆周波数変換処理工程は、前記第2の逆周波数変換処理工程からの前記第3の変換信号の間接入力として、前記第2の逆周波数変換処理工程からの前記第3の変換信号を前記第2の補填処理工程で補正及び/又は更なるノイズ除去処理を施した前記第4の変換信号を入力する、ことを特徴とする請求項5記載のノイズ除去方法。
  7. 少なくとも第1、第2の系統に分岐させた入力信号のうち前記第1の系統の前記入力信号が記憶装置に一旦書き込む処理と、
    前記記憶装置から読み出された前記第1の系統の前記入力信号を入力して周波数領域に変換し第1の信号を出力する第1の周波数変換処理と、
    前記第2の系統の前記入力信号を入力して周波数領域に変換し第2の信号を出力する第2の周波数変換処理と、
    前記第2の周波数変換処理からの前記第2の信号を入力して周波数領域に変換し第1及び第2の周波数帯域の第3及び第4の信号を出力する第3の周波数変換処理と、
    第1の逆周波数変換処理と、
    前記第3の周波数変換処理からの前記第3の信号を直接又は間接に入力し、前記第3の周波数変換処理からの前記第4の信号を入力し、入力した信号を逆周波数変換した第3の変換信号を出力する第2の逆周波数変換処理と、
    第1のコアリング処理及び/又は第2のコアリング処理と、
    をコンピュータに実行させるプログラムであって、
    前記第1の逆周波数変換処理は、前記第1の周波数変換処理からの前記第1の信号を直接又は間接に入力し、前記第2の逆周波数変換処理からの前記第3の変換信号を直接又は間接に入力し、入力した信号を逆周波数変換した信号を出力し、
    前記第1のコアリング処理は、前記第1の周波数変換処理からの前記第1の信号に対してノイズ成分を除去した第1の変換信号を出力し、前記第1の逆周波数変換処理は、前記第1の信号の間接入力として、前記第1のコアリング処理からの前記第1の変換信号を入力し、
    前記第2のコアリング処理は、前記第3の周波数変換処理からの前記第3の信号に対してノイズ成分を除去した第2の変換信号を出力し、前記第2の逆周波数変換処理は、前記第3の信号の間接入力として、前記第2のコアリング処理からの前記第2の変換信号を入力し、
    前記第2の逆周波数変換処理からの前記第3の変換信号が直接又は間接に前記第1の逆周波数変換処理に入力されるタイミングに合わせて、前記第1の周波数変換処理からの前記第1の信号が直接又は間接に前記第1の逆周波数変換処理に入力されるように、前記記憶装置から、前記第1の系統の前記入力信号を読み出す処理を前記コンピュータに実行させる、プログラム。
JP2014546988A 2012-11-13 2013-11-12 ノイズ除去システムとノイズ除去方法及びプログラム Active JP6354586B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2012249069 2012-11-13
JP2012249069 2012-11-13
PCT/JP2013/080558 WO2014077245A1 (ja) 2012-11-13 2013-11-12 ノイズ除去システムとノイズ除去方法及びプログラム

Publications (2)

Publication Number Publication Date
JPWO2014077245A1 JPWO2014077245A1 (ja) 2017-01-05
JP6354586B2 true JP6354586B2 (ja) 2018-07-11

Family

ID=50731157

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014546988A Active JP6354586B2 (ja) 2012-11-13 2013-11-12 ノイズ除去システムとノイズ除去方法及びプログラム

Country Status (3)

Country Link
US (1) US9576344B2 (ja)
JP (1) JP6354586B2 (ja)
WO (1) WO2014077245A1 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10310998B2 (en) * 2015-06-30 2019-06-04 Microsoft Technology Licensing, Llc Direct memory access with filtering
JP2018055354A (ja) * 2016-09-28 2018-04-05 キヤノン株式会社 画像処理装置および画像処理方法、撮像装置
JP6721123B2 (ja) * 2017-06-16 2020-07-08 日本電気株式会社 ノイズ除去処理システム、ノイズ除去処理回路およびノイズ除去処理方法
US10853921B2 (en) * 2019-02-01 2020-12-01 Samsung Electronics Co., Ltd Method and apparatus for image sharpening using edge-preserving filters
TWI780884B (zh) * 2021-08-31 2022-10-11 國立中正大學 單圖像除雨方法及其系統

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4442454A (en) * 1982-11-15 1984-04-10 Eastman Kodak Company Image processing method using a block overlap transformation procedure
GB8329109D0 (en) * 1983-11-01 1983-12-07 Rca Corp Perceived signal-to-noise ratio of displayed images
JP2003134352A (ja) * 2001-10-26 2003-05-09 Konica Corp 画像処理方法及び装置並びにプログラム
JP5352942B2 (ja) * 2005-03-31 2013-11-27 株式会社ニコン 画像処理方法、画像処理プログラム、および画像処理装置
JP2007188211A (ja) * 2006-01-12 2007-07-26 Matsushita Electric Ind Co Ltd 画像処理装置、撮像装置、画像処理方法およびそのプログラム
JP4866756B2 (ja) * 2007-02-27 2012-02-01 パナソニック株式会社 撮像装置
US8391635B2 (en) * 2007-08-31 2013-03-05 Olympus Corporation Noise removal device, noise removal method, and computer readable recording medium

Also Published As

Publication number Publication date
US20150310593A1 (en) 2015-10-29
WO2014077245A1 (ja) 2014-05-22
US9576344B2 (en) 2017-02-21
JPWO2014077245A1 (ja) 2017-01-05

Similar Documents

Publication Publication Date Title
JP6354586B2 (ja) ノイズ除去システムとノイズ除去方法及びプログラム
KR101618298B1 (ko) 고감도 영상 생성 장치 및 방법
JP2008015741A (ja) 画像処理装置、画像処理方法及びこれを用いた撮像装置
WO2014208434A1 (ja) 画像処理装置、画像処理方法及び画像処理プログラム
US9569816B2 (en) Debanding image data using bit depth expansion
US20120093227A1 (en) Data compression method and data compression device
JP5092536B2 (ja) 画像処理装置及びそのプログラム
JP3613983B2 (ja) 画像生成装置及び方法、並びに電子スチルカメラ
US9495731B2 (en) Debanding image data based on spatial activity
JP6276596B2 (ja) 空間超解像・階調補間装置及びプログラム
US10142604B2 (en) Imaging apparatus and control method thereof
JP2009021756A (ja) ノイズ除去回路、ノイズ除去方法、撮像装置、プログラム
JP2009219066A (ja) 画像処理装置
US20180096456A1 (en) Image processing apparatus
JP2018174470A (ja) 雑音除去装置及びプログラム
US10356410B2 (en) Image processing system with joint encoding and method of operation thereof
JP5203824B2 (ja) 画像処理装置及び撮像システム
US10764632B2 (en) Video signal processing apparatus, video signal processing method, and program
US10277811B2 (en) Display control device and imaging device
JP2005141722A (ja) 画像信号処理方法、画像信号処理装置、及び画像信号プログラム
JP5227906B2 (ja) 映像記録システム
JP2007188211A (ja) 画像処理装置、撮像装置、画像処理方法およびそのプログラム
JP6817793B2 (ja) 超解像装置及びプログラム
JP6388476B2 (ja) 符号化装置及びプログラム
JP6064992B2 (ja) ノイズ除去処理システム、ノイズ除去処理回路、プログラム、ノイズ除去処理方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20161014

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20171107

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20171218

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180515

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180528

R150 Certificate of patent or registration of utility model

Ref document number: 6354586

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150