JP2004522372A

JP2004522372A - 時空間適応的雑音除去／高画質復元方法及びこれを応用した高画質映像入力装置

Info

Publication number: JP2004522372A
Application number: JP2003511534A
Authority: JP
Inventors: リム，イン−グォン; カン，ムン−ギ; パク，ソン−チョル
Original assignee: スングジンシーアンドシーカンパニーリミテッド
Priority date: 2001-06-29
Filing date: 2002-06-26
Publication date: 2004-07-22
Also published as: US20030189655A1; EP1400109A4; WO2003005705A1; KR100405150B1; EP1400109A1; KR20030002608A; CN1466844A

Abstract

本発明は超低度環境で撮影されて入力されるカラー映像の画質低下問題を解決する雑音除去技術及びこれを利用した映像入力装置に関する。特に超低度環境下で発生するカラーしみ及び信号の依存的ポアソン雑音（ＰｏｉｓｓｏｎＮｏｉｓｅ）を映像の輪郭線及び細部情報を保存しながらも効率的に除去することにより明るい照明下で撮影した映像画質級に復元させてあたえる雑音除去及び画質復元技術に関するものである。
本発明による映像処理技術がデジタルビデオレコーダーに適用される場合、低照度上で発生するカラーしみ等を物体の動き等に誤って認識して発生する映像データ圧縮率低下及び画質が劣化される問題点を経験した従来技術の短所を克服することができる。その結果、超低照度環境下でデジタルビデオレコーダが貯蔵する映像データの大きさを著しく縮小させることができて、物体の識別及び認識の正確度を大きく高めることができる。

Description

【０００１】
技術分野
本発明は超低照度環境で撮影されて入力されるカラー映像の画質低下問題を解決する雑音除去高画質復元技術及びこれを利用した映像入力装置に関することで、とくに超低照度環境下で発生するカラーしみ及び信号依存的ポアソン雑音（ＰｏｉｓｓｏｎＮｏｉｓｅ）を映像の輪郭線及び細部情報を保存しながらも効率的に除去することにより明るい照明下で撮影した映像画質級に復元させてあたえる雑音除去及び画質復元技術に関することである。
【０００２】
関連技術の説明
超低照度環境でカラーＣＣＤカメラ（ＣｏｌｏｒＣＣＤＣａｍｅｒａ）またはデジタルビデオカメラ等を通じて撮影してカラー映像を受け入れる場合、入力信号のエネルギーが映像入力素子及びシステムの背景雑音エネルギーより相対的に低くなるから、撮影される映像の画質が急激に低下される。即ち、非常に暗い所で追加的な照明なしに撮影をする場合、記録された映像の画質が劣化されることを多く観察することができる。
前述した問題点を解決するための方法として赤外線入力装置または光増幅器等の特殊映像装備を利用する方案が提示されている。ところで、特殊映像装備を利用した解決方法は軍事用目的と同じ場合には適合することができるが、一般民生用デジタルビデオレコーダー（ｄｉｇｉｔａｌｖｉｄｅｏｒｅｃｏｒｄｅｒ；ＤＶＲ）のような応用では製品単価が高くなって適用するのに難関がある。
【０００３】
従って、前述した高価の特殊映像装備の代わりに一般映像入力装置を使用しながらもデジタル信号処理技術を利用してソフトウェア的に信号依存的雑音を除去して映像を復元する技術の出現がより実用的側面で要求されている。
一般的に低照度環境下で一般映像入力システムに記録された映像は映像全般にかけて局所的に周辺カラーとは離れたカラーを持つしみなどが発生するようになる。ところで、このようなカラーしみ発生は明るい照明下では著しく現われないが、照明が暗くなることによって著しく表れる傾向がある。このようなカラーしみなどはＣＣＤセンサー上のカラーフィルターアレイ（ｃｏｌｏｒｆｉｌｔｅｒａｒｒａｙ）を構成する各チャンネルが照度によって表す他の特性を照度に関係なく同一で画一的に処理することに起因する結果である。
即ち、照度を考慮しない処理過程はピクセル（ｐｉｘｅｌ）を構成するカラーなど相互間の比を変化させて局所的しみに現われるようになる。また、低照度環境で記録された映像には前述したカラーしみと共にカラー映像の明るさ（ｉｎｔｅｎｓｉｔｙ）領域で追加的に信号依存的な有害雑音（ＰｏｉｓｓｏｎＮｏｉｓｅ）が添加されている。
【０００４】
図１は従来技術により複合雑音によって画質が低下された低照度環境での映像を表した図面である。図１を参照すれば、従来技術によってＣＣＤカメラの自動利得調節装置（ＡＧＣ；ＡｕｔｏｍａｔｉｃＧａｉｎＣｏｎｔｒｏｌｌｅｒ）によって実際の照明よりも明るく見えることに留意する必要がある。図１を注意深く観察すれば、映像全般にかけて赤色（Ｒ）、青色（Ｂ）、緑色（Ｇ）などのカラーしみを観察することができて、しみがない所では画素単位のポアソン雑音を観察することができる。しかし、とくに保安監視システム（ｓｅｃｕｒｉｔｙｓｙｓｔｅｍ）に適用されるデジタルビデオレコーダにおいては２４時間連続録画が実行されていて、昼夜または明るい照明または暗い照明下でも鮮やかで犯人の顔を、認識することができるように撮影されて貯蔵することができなければならない。
【０００５】
さらに、２４時間連続録画される映像は効率的なデータ圧縮技法を利用して圧縮デジタルファイルに貯蔵されると貯蔵空間を効率的に利用することができる。即ち、一般的な保安監視用デジタルビデオレコーダーにおいて、動きが多い映像をＭＰＥＧ方式に圧縮して貯蔵する場合、時間当り約２００メガバイトの貯蔵空間が必要になる。しかし、低照度環境下で撮影される映像に発生するカラーしみは時間軸で動きに認識されるのでＭＰＥＧデータ圧縮時にデータ圧縮率が著しく低下されるようになる。その結果、低照度下で人影が少ない時間帯に撮影される映像貯蔵のために時間当り４００〜６００メガバイトの貯蔵空間を消耗する場合も多く発生するようになる。
【０００６】
即ち、低照度環境下で撮影される映像に現われるカラーしみは毎フレームごとにランダム（ｒａｎｄｏｍ）に現われるため、ＭＰＥＧ圧縮過程で無作為に現われるカラーしみを物体の動きに錯覚するようになって圧縮率を低下させるようになる。前述した複合的雑音をソフトウェア的に除去するための従来技術として、時間領域での雑音除去技術（ｔｅｍｐｏｒａｌｆｉｌｔｅｒｉｎｇ）が知られている。
【０００７】
従来技術による時間領域での雑音技術は動きによった映像歪曲を防止するために動き補償（ｍｏｔｉｏｎｃｏｍｐｅｎｓａｔｉｏｎ）の概念を使用するので、計算量の負担が発生する問題点がある。即ち、物体の動きを各フレーム毎に推定してその動きの軌跡に従ってフィルタリングを実行するので動き推定による計算量が増大してアルゴリズムのリアルタイムの実行は容易でない問題がある。
【０００８】
最近では、動き補償による誤差及び計算量負担を減らすための動き感知（ｍｏｔｉｏｎｄｅｔｅｃｔｉｏｎ）に基盤する時間領域フィルタリングアルゴリズムが紹介されている。しかし、この場合にもカラー映像のベクトル特性を考慮することができない限界が相変わらず存在する。
即ち、従来技術による時間領域での雑音除去技術はカラー映像の動きを明るさ差だけで区分するが、低照度環境下では物体間の明るさ差が十分でないので動きを明るさ差だけで区分するには限界がある。
【０００９】
さらに、従来技術はカラー映像の明るさ成分だけをフィルタリングするから色相の歪曲により生じたしみを除去することはできない技術上の限界がある。また、従来技術は時間領域でのフィルタリングを適用する場合、カラーしみ除去には効果的であっても映像の明るさ領域に残存するポアソン雑音は除去することができない問題点がある。
【００１０】
一方、従来技術による空間領域での雑音除去アルゴリズム（ｓｐａｔｉａｌｆｉｌｔｅｒｉｎｇ）は映像の静的モデル（ｓｔａｔｉｏｎａｒｙｍｏｄｅｌ）を基盤にするために雑音除去された映像が輪郭線を保存することができない限界がある。即ち、輪郭線領域は空間的に高周波成分を持つようになるが高周波雑音を除去するためにフィルタリングを実行する場合、高周波雑音供に輪郭線が損傷をうけて映像はかすんでいるようにつぶされる現像が発生する問題点がある。
【００１１】
前述した問題点を克服するために、輪郭線適応フィルター技術を適用することができるが、カラーしみを除去することができない技術上の限界点がある。即ち、空間領域でのカラーしみは画素相互間の相関度（ｃｏｒｒｅｌａｔｉｏｎ）が大きいので、フィルタリング時に雑音であるカラーしみ等が同じしみ内での隣接（ｎｅｉｇｈｂｏｒｈｏｏｄ）画素として扱われて染み付くために、フィルタリングされた結果やはりカラーしみを持つようになる問題点がある。
【００１２】
前述した時間領域でのフィルタリング技法と空間領域でのフィルタリング技術を組合わせる従来技術として時空間領域での雑音除去アルゴリズム（Ｓｐａｔｉｏ−ｔｅｍｐｏｒｌＦｉｌｔｅｒｉｎｇ）技術がある。しかしながら、従来技術による時空間領域での雑音除去技術は空間領域でのフィルタリング技術を単純に時間領域に拡張したとして、動き及び輪郭線に適応的に設計されてもカラーしみを除去するには限界がある。
【００１３】
発明の概要
従って、本発明の第１目的は超低照度環境でのカラーしみ及び信号依存的雑音を映像の輪郭線及び細部事項を保存しながら効果的に除去する雑音除去及び映像復元方法とこれを利用した映像入力装置を提供することにある。
本発明の第２目的は上記第１目的に付加して、時空間領域で動き及び輪郭線の適応的な雑音除去及び映像復元方法とこれを利用した映像入力装置を提供することにある。
【００１４】
本発明の第３目的は上記第１目的に付加して、超低照度環境下で作動するデジタルビデオレコーダーが撮影するカラー映像に発生するカラーしみ及び信号依存的雑音によるデータ圧縮率の低下及び画質低下を解決する雑音除去及び映像復元方法とこれを利用した映像入力装置を提供することにある。
【００１５】
上記目的を達成するために、本発明は低照度環境下で撮影される映像に発生するカラーしみ及び信号依存的雑音を除去する方法において、（ａ）上記映像の基準フレームを構成する各々のピクセルと比較フレームを構成する各々ピクセル間に明るさ差異と色相差異を計算して動きの程度を感知する段階、（ｂ）上記特定ピクセルが基準フレームと比較フレーム間に持つ明るさ差異から感知された動き程度によって明るさ差異加重値関数を算出して、色相差異から感知される動き程度によって色相差異加重値関数を算出する段階、（ｃ）上記段階（ｂ）の明るさ差異加重値関数と上記色相差異加重値関数を通じて動き程度が先定（先に設定された（ｐｒｅ−ｄｅｆｉｎｅｄ））された臨界値より少ないピクセルなどのみをＲ、Ｇ、Ｂチャンネル各々で先定された個数のフレームに対して時間領域フィルタリングを実行する段階、（ｄ）上記映像をＲＧＢでＹＵＶフォーマットに変換する段階、（ｅ）上記映像の特定フレームを構成する各々のピクセル中心にして先定された個数程度の周辺ピクセルと相互間の明るさ差異を計算してエッジ程度を感知する段階、（ｆ）上記特定フレームを構成する各々のピクセル（中心ピクセル）が周辺のピクセルとの間に持つ明るさ差異から感知されたエッジ程度によって明るさ差異加重値関数を算出する段階、（ｇ）上記段階（ｆ）の明るさ差異加重値関数を通じて上記中心ピクセルと相関関係が少ない輪郭線反対側のピクセルは利用しないで、相関関係が先定された値以上の輪郭線と同じ側に位置したピクセルなどを利用してローカル平均値またはローカル分散を算出する段階、（ｈ）上記段階（ｇ）のローカル平均値とローカル分散を利用して映像の明るさ成分をＬＬＭＭＳＥフィルタリングを実行する段階、（ｉ）上記段階（ｈ）で空間領域フィルタリングを経た映像の明るさ成分をフィルタリング前の色相成分と合わせてＲ、Ｇ、Ｂフォマットに変換する段階を含む映像信号雑音除去方法を提供する。
【００１６】
発明の好適な態様の詳細な説明
本発明が開示する雑音除去復元方法は、超低照度環境でのカラーしみ及び信号依存的雑音を映像の輪郭線及び細部事項を保存しながらも効果的に除去することができる。低照度でのカラーしみ及び信号依存的雑音を除去するために、動きを生かしながらカラーしみを除去するための時間軸領域での動き適応的（ｍｏｔｉｏｎ−ａｄａｐｔｉｖｅ）時間領域、フィルタリング（ｔｅｍｐｏｒａｌｆｉｌｔｅｒｉｎｇ）と、物体輪郭線を生かしながら明るさ領域のポアソン雑音を除去するための空間領域での輪郭線保存フィルタリング（ｅｄｇｅ−ｐｒｅｓｅｒｖｉｎｇｎｏｉｓｅｆｉｌｔｅｒｉｎｇ）過程が必要である。
【００１７】
本発明による雑音除去及び復元方法はカラーしみを効果的に除去するために時間領域フィルタリングを空間領域フィルタリングより先に実行する特徴がある。また、本発明による雑音除去及び復元方法は、従来技術がカラー映像フィルタリングでカラーの明るさ（ｉｎｔｅｎｓｉｔｙ）成分のみを考慮するのに反して、カラーしみの色相特性考慮時にＲ、Ｇ、Ｂチャンネルをともに考慮する技術上の特徴がある。即ち、従来技術のようにカラー映像の明るさ成分だけをフィルタリングの後、フィルタリングする前の色相成分と合わせるようになれば色相領域で色相の変形により生じたカラーしみを除去することができなくなるため、本発明はカラーの明るさ及び色相を全部考慮するためにＲ、Ｇ、Ｂチャンネルを各々フィルタリングする。
【００１８】
図２は本発明による時空間領域での適応的雑音除去及び映像復元方法を表した図である。図２を参照すれば動きの適応的時間領域フィルタリング（ｍｏｔｉｏｎａｄａｐｔｉｖｅｔｅｍｐｏｒａｌｆｉｌｔｅｒｉｎｇ；１２０）はカラー映像のベクトル次数統計（ｖｅｃｔｏｒｏｒｄｅｒｓｔａｔｉｓｔｉｃｓ）を通じて画素単位てフレーム間の動きを感知する。即ち、従来技術はカラー映像の動きを明るさ差異だけ区分するが、低照度環境下では物体の明るさ差異が十分でないため、動きを明るさ差異だけ区分するのは技術的に困難である。
【００１９】
従って、本発明はカラー映像の動きをより正確に感知するために動きの明るさ差異および色相差異をともに考慮することを特徴とする。このような、動き感知は図２の時間領域フィルタリング（１００）部分で明るさ差異加重値関数（ｉｎｔｅｎｓｉｔｙｗｅｉｇｈｔｉｎｇｆｕｎｃｔｉｏｎ）演算ブロック（１１０）と色相差異加重値関数（ｃｈｒｏｍａｔｉｃｉｔｙｗｅｉｇｈｔｉｎｇｆｕｎｃｔｉｏｎ）演算ブロック（１３０）で実行されて使用される演算式は次のようである。
【数８】

ここで、
Ｗ_Ｉは明るさ差異加重値関数であり、Ｗ_Ｃは色相差異加重値関数、ｙ（１０、１１、１２）は劣化されたベクトルカラー映像である。勿論、ｙ_Ｒ（１０）は劣化されたＲチャンネル映像、ｙ_Ｇ（１１）は劣化されたＧチャンネル映像、ｙ_Ｂ（１２）は劣化されたＢチャンネル映像、ｔ_１は基準フレームでありｔ_２フィルタリング内にある違ったフレームを表す。
また、関数ｆ（・）は０から１間の値を持つ単調減少関数である。本発明の良好な実施例として、ｆ（・）が単調関数だから、数学式（１）及び数学式（２）で基準フレームの画素と違ったフレーム画素の明るさまたは色相差異が大きい場合ｆ（・）は小さい値を持ってフィルタリング時に小さい加重値（ｗｅｉｇｈｔ）を持つようになる。
【００２０】
また、明るさあるいは色相差異が大きい場合にはｆ（・）は大きい値を持ってフィルタリング時に大きく加重値を持つようになる。
本発明による単調減少関数として使われることができる実施例として、ｆ（・）はシグモイド（ｓｉｇｍｏｉｄ）関数及びオンオフ関数が使われることができる。
【数９】

ここで、Ｔは動き程度を判断する臨界値（ｔｈｒｅｓｈｏｌｄ）になり、τは関数の傾きを決める係数になる。数学式（３）のτを非常に小さくした場合本発明によるｆ（・）はオンオフ関数になってχがＴよりも大きい場合は零（ｚｅｒｏ）、小さい場合は１（ｕｎｉｔ）になる。
【００２１】
従来技術による動き補償時空間フィルタリング（ｍｏｔｉｏｎｃｏｍｐｅｎｓａｔｅｄｓｐａｔｉｏｔｅｍｐｏｒａｌｆｉｌｔｅｒｉｎｇ）技術は動きを正確に追跡した後、その軌跡に従って平均値を算出することに根幹をおいている。反面に、本発明は図の符号１１０及び図の符号１３０で算出する加重値関数を基にして動きを感知し、動きが発生しない画素などに対してＲ、Ｇ、Ｂチャンネルでフィルタリングをすることを特徴とする。
【００２２】
一方、空間領域でのカラーしみは時間領域で画素単位に付加的白色ガウス雑音（ＡｄｄｉｔｉｖｅＷｈｉｔｅＧａｕｓｓｉａｎＮｏｉｓｅ）特性に表現されることができるから、次のように適応的加重値がかけられた平均値（ＡｄａｐｔｉｖｅＷｅｉｇｈｔｅｄＡｖｅｒａｇｉｎｇ）を通じて除去されることができる。
【数１０】

ここで、Ｔ_Ｓは時間領域フィルターのサポート（ｓｕｐｐｏｒｔ）を表し、望ましい実施例として３〜９フレームを使用すれば適切である。このように、本発明による加重値関数を利用したフィルタリングを通じて動きの残像を効果的に除去することができて、カラーしみの色相雑音特性を考慮したＲ、Ｇ、Ｂチャンネルの分離されたフィルタリングはしみを効果的に除去するようになる。
【００２３】
一方、時間領域でのフィルタリング（１００）を終えればカラーしみは効果的に除去されるが、明るさ領域にはまだ信号依存的なポアソン雑音が残っている。
このような信号依存的雑音を映像の輪郭線を保存しながら除去するために映像明るさ領域（Ｙ成分）でローカル線形最小平均二乗エラー（ＬＬＭＭＳＥ；ＬｏｃａｌＬｉｎｅｒＭｉｎｉｍｕｍＭｅａｎＳｑｕａｒｅＥｒｒｏｒ）フィルターをポアソン雑音へ適合するように構成することができる。
【００２４】
本発明による空間領域フィルタリング（７００）は映像の非正常的（ｎｏｎｓｔａｔｉｏｎａｒｙ）特性を反映してこれに適合したローカル平均値（４００）とローカル分散（ｌｏｃａｌｖａｒｉａｎｃｅ；５００）を推定してフィルタリングされた映像のエッジ（ｅｄｇｅ）を保存しながらポアソン雑音を効果的に除去する。このような過程は図２の空間領域フィルタリング部分（７００）で空間領域加重値関数（ｓｐａｔｉｏｎｗｅｉｇｈｔｆｕｎｃｔｉｏｎ；３００）を通じたローカル平均値（４００）、ローカル分散（ｌｏｃａｌｖａｒｉａｎｃｅ；５００）推定に表現されて数式に表すと次のようである。
【数１１】

ここで、Ｔ_Ｎは空間領域サポートであり、Ｗ_Ｉはエッジ程度を表す明るさ領域での加重値関数である。本発明は加重値関数を通じたローカル平均値推定によって平均値求める中心画素と相関関係が少ない輪郭線反対側画素などは使用しないで相関関係が大きい周囲画素（輪郭線で同じ方に位置した画素）などのみ使用するようになるから結果的に輪郭線の汚れ現像（ｂｌｕｒｒｉｎｇｅｆｆｅｃｔ）を防止する。
【００２５】
本発明による加重値関数を通じたローカル分散推定は映像の微細な部分を一層効果的に保存することができる。即ち、本発明による加重値関数を通じたローカル平均値の推定は映像でエッジ程度が大きい部分を効果的に保存して、加重値関数を通じたローカル分散推定は映像にて微細な部分を保存しながらエッジ領域の雑音を効果的に除去するのを可能にさせる。
【００２６】
本発明によるローカル統計（ｌｏｃａｌｓｔａｔｉｓｔｉｃｓ）推定を通じたＬＬＭＭＳＥフィルターはポアソン雑音除去に適合されるように次のごとく設計されることができる。
【数１２】

ここで、αはポアソン雑音の分散特性を反映する。このように、明るさ領域で空間領域フィルタリングを経た映像の明るさ成分はフィルタリング前の色相成分と合わせられて再びＲ、Ｇ、Ｂフォマットに変換される。
【００２７】
図３ａないし図３ｄは本発明による時空間適応雑音除去方法を適用した実施例を従来技術の結果と比べる図である。図３ａは低照度環境でカラーしみ及びポアソン雑音によって劣化された映像としてＣＣＤカメラで撮影した結果である。
図３ｂは図３ａに表した映像を従来技術による時間領域フィルタリング技術により雑音除去処理して復元させた映像を表した図として、従来技術は明るさ成分だけを考慮するためにカラーしみ除去に効果的でないことを分かることができる。さらに、図３ｂを参照すれば、明るさ領域に残存するポアソン雑音が除去されないことを確認することができる。
【００２８】
図３ｃは図３ａに表した映像を従来技術による空間領域フィルタリング技術により雑音除去処理し、復元させる映像を表した図として、従来技術はポアソン雑音除去には効果的だがカラーしみを全く除去することができないことを認識することができる。また、図３ｃをよく見ると映像の輪郭線が多く毀損されて要ることを観察することができる。
一方、図３ｄは本発明による時空間適応雑音除去技術を通じて処理された映像を表した図として、低照度環境で発生するカラーしみ及びポアソン雑音を映像の輪郭線を保存しながら効率的に除去していることを分かることができる。
【００２９】
前述した内容は後述する発明の特許請求範囲をよりよく理解することができるように本発明の特徴と技術的長所を多少幅広く概設した。本発明の特許請求範囲を構成する附加的な特徴と長所などは以下に詳述する。開示された本発明の概念と特定の実施例は本発明と類似の目的を行うための他の構造の設計または修正の基本として手早く使用できることが当該技術分野にける熟練者等により認識されるべきである。
【００３０】
また、本発明で開示された発明の概念と実施例は、本発明の同一目的を遂行するため、異なる構造に修正または設計するための基礎として、当該技術分野の熟練者より使用されるであろう。更に、当該技術分野の熟練者によるそのような修正または変更された等価構造は特許請求範囲において記述した発明の思想とか範囲をはずれない限度内で多様な変化、置換及び変更は可能である。
【００３１】
発明の効果
以上のように、本発明は低照度環境下にて映像入力装置が撮影する映像に発生するカラーしみ及び信号依存的ポアソン雑音を映像の輪郭線と細部情報を保存しながら効率的に除去することでまるで明るい照明下にて撮影画面のように画質を復元させてあたえることを可能とする。
その結果、本発明による映像処理技術がデジタルビデオレコーダーに適用される場合、カラーしみ等を物体の動き等で誤って認識して発生する映像データ圧縮率を低下問題を経験した従来技術の短所を克服することができる。また、超低照度環境下でデジタルビデオレコーダが貯蔵する映像データの大きさを非常に縮小させることができる。また、本発明による映像処理技術はＣＭＯＳセンサー、ＣＣＤカメラ等と同じ一般映像入力装置に直接適用することが可能で、赤外線センサーまたは光増幅機を利用する従来の高価特殊装備を代替して高解像度映像取得能力を備えた低価の映像入力装置への適用が可能である。
【図面の簡単な説明】
【図１】従来技術による複合雑音によって画質が低下された低照度環境での映像を表した図。
【図２】本発明による時空間領域での適応的雑音除去及び映像復元方法を表した図。
【図３ａ】本発明による時空間雑音除去方法を適用した実施例を従来技術結果と比べた図。
【図３ｂ】本発明による時空間雑音除去方法を適用した実施例を従来技術結果と比べた図。
【図３ｃ】本発明による時空間雑音除去方法を適用した実施例を従来技術結果と比べた図。
【図３ｄ】本発明による時空間雑音除去方法を適用した実施例を従来技術結果と比べた図。

Claims

低照度環境下で撮影される映像に発生するカラーしみ及び信号依存的雑音を除去する方法において、
（ａ）上記映像の基準フレームを構成する各々のピクセルと比較フレームを構成する各々のピクセル間に明るさ差異と色相差異を計算して重きの程度を感知する段階；
（ｂ）上記特定ピクセルが基準フレームと比較フレーム間に持つ明るさ差異から感知される動き程度によって明るさ差異加重値関数を算出して、色相差異から感知される動き程度により色相差異加重値関数を算出する段階；
（ｃ）上記段階（ｂ）の明るさ差異加重値関数と上記色相差異加重値関数を通じて動き程度が先定された臨界値より少ないピクセルだけをＲ、Ｇ、Ｂチャンネル各々で先定された個数のフレームに対して時間領域フィルターを実行する段階；
（ｄ）上記映像をＲ、Ｇ、ＢからＹＵＶフォマットに変換する段階；
（ｅ）上記映像を特定フレームを構成する各々のピクセル中心にして先定された個数の周辺ピクセルと相互間の明るさ差異を計算してエッジ程度を感知する段階；
（ｆ）上記特定フレームを構成する各々のピクセル（中心ピクセル）が周辺のピクセルの間に持つ明るさ差異から感知されたエッジ程度によって明るさ差異加重値関数を算出する段階；
（ｇ）上記段階（ｆ）の明るさ差異加重値関数を通じて上記中心ピクセルと相関関係が少ない輪郭線反対側のピクセルは使用しないで相関関係が先定された値以上の輪郭線と同じ側に位置したピクセルのみ利用してローカル平均値またはローカル分散を算出する段階；
（ｈ）上記段階（ｇ）のローカル平均値とローカル分散を利用して映像の明るさ成分をＬＬＭＭＳＥフィルターリングを実行する段階；
（ｉ）上記段階（ｈ）で空間領域フィルターリングを経た映像の明るさ成分をフィルターリング前の色相成分と合わせてＲ，Ｇ，Ｂフォマットに変換する段階を含む映像信号雑音除去方法。
第１項において、上記段階（ｂ）の明るさ差異加重値関数は、

を利用して算出されることを特徴とする映像信号雑音除去方法。
第１項において、上記段階（ｂ）の色相差異加重値関数は、

を利用して算出されることを特徴とする映像信号雑音除去方法。
第１項において、上記段階（ｂ）の上記明るさ差異加重値関数または上記色相差異加重値関数は単調減少関数であることを特徴とする映像信号雑音除去方法。
第１項において、上記段階（ｂ）の上記明るさ差異加重値関数または上記色相差異加重値関数は

を含む映像信号雑音除去方法。
第１項において、上記段階（ｃ）の時間領域フィルターリング実行段階は雑音によって劣化された映像のＲ、Ｇ、Ｂ信号各々に対して（ＹＲ，ＹＧ，ＹＢ）上記明るさ差異加重値関数と上記色相差異加重値関数をかけて先定された個数のフレームに対して合算を実行することで、即ち

を実行してカラーしみが除去されたＸＲ、ＸＧ、ＸＢを算出することを特徴とする映像信号雑音除去方法。
第１項において、上記段階（ｃ）の先定された個数のフレームは３ないし９フレームを使用することを特徴とする映像信号雑音除去方法。
第１項において、上記段階（ｇ）のローカル平均値は

を利用して算出することを特徴とする映像信号雑音除去方法。
第１項において、上記段階（ｇ）のローカル分散は

を利用して算出することを特徴とする映像信号雑音除去方法。
第１項において、上記段階（ｈ）のＬＬＭＭＳＥフィルターリングを実行する段階は、上記ローカル平均値ＸＹとローカル分散ＶＸを利用して、

の関係式からエッジ程度による加重値が与えられたＬＬＭＭＳＥフィルターリングを実行することで輪郭線を保存しながらエッジ領域の雑音を除去することを特徴とする映像信号雑音除去方法。
低照度環境下で発生したカラーしみと信号依存的有害雑音が交じった映像信号を入力されて基準フレームのピクセルと比較フレームのピクセル間に明るさ差異を計算して明るさ差異加重値関数を算出する明るさ差異加重値演算モジュール；
上記映像信号を入力されて基準フレームのピクセルと比較フレームのピクセル間に色相差異を計算して色相差異加重値関数を算出する色相差異加重値演算モジュール；
上記明るさ差異加重値演算モジュールと上記色相差異加重値演算モジュールが各々出力する各々ピクセルに対する明るさ差異加重値と色相差異加重値を基礎に先定された個数のフレームに対して動き程度を算出し、動き程度が選択された臨界値より少ないピクセルのみをＲ，Ｇ，Ｂチャンネル各々で時間領域フィルターリングする時間領域フィルター；
上記時間領域フィルターの出力Ｒ，Ｇ，Ｂ信号をＹＵＶフォマットに変換する変換機；
上記変換機から出力されるフレームを構成する任意ピクセルを中心にして先定された個数の周辺ピクセルとの互いの明るさ差異を計算して算出されたエッジ程度によって明るさ差異加重値関数を算出する空間加重値演算モジュール；
上記空間加重値演算モジュールが出力する明るさ差異加重値関数を通じて中心ピクセルと相関関係が少ない輪郭線反対側のピクセルは使用しないで相関関係が先定された値以上の輪郭線の同じ側に位置したピクセルのみを利用してローカル平均値またはローカル分散を算出してＬＬＭＭＳＥフィルターリングを実行する空間領域フィルター；及び
上記空間領域フィルターが出力する明るさ成分と上記変換機が出力する色相成分と合わせてＲ、Ｇ、Ｂフォーマットに変換する変換機を含む映像信号処理装置。
第１１項において、上記映像信号処理装置は回路的に具現されたハードウェアまたはプログラムに具現されたソフトウェアを含む映像信号処理装置。
第１１項において、上記映像信号処理装置は映像入力装置に含まれることを特徴とする映像信号処理装置。
動映像信号に交じった雑音を除去する映像信号処理装置において、
閾値よりも小さな動きを有するフレームのピクセルを感知するために、フレーム間の明るさ（Ｙ信号）の差を表す明るさ差異加重値関数、フレーム間の色相（Ｕ、Ｖ信号）の差を表す色相差異加重値関数、及び、雑音が交じったＲ、Ｇ、Ｂ信号の３個の値を掛け算し、先定された数のフレームの期間の前記掛け算の合計により、動きの適応的時間領域濾過を実行する時間領域雑音除去フィルター；及び
上記動映像を構成する任意のフレーム内に輪郭線を基準として互いに反対側にある二領域間に掲載するピクセルのエッジ程度を感知するために、任意ピクセル（これを中心ピクセルと称する）を周囲にする先定された個数のピクセルに対して上記中心ピクセルを基準にする時、明るさ差異加重値関数を演算して上記明るさ差異加重値関数を考慮したローカル平均値とローカル分散を算出してエッジ程度を勘案した空間領域ＬＬＭＭＳＥ濾過によりエッジ程度適応的空間領域濾過を実行して輪郭線基準エッジ程度が先定された閾値より小さなピクセルだけを得ることで空間領域雑音除去フィルターを含む映像信号処理装置。
第１３項において、上記時間領域雑音除去フィルター及び上記空間領域雑音フィルターは回路ハードウェアまたはソフトウェアプログラムに具現されることを特徴とする映像処理装置。
第１３項において、上記映像処理装置はシモス映像センサー、またはＣＣＤカメラを含む映像入力装置またはデジタルビデオレコーダを構成することを特徴とする映像処理装置。
第１３項において、上記明るさ差異加重値関数または上記色相差異加重値関数は単調減少関数として基準ピクセルと比較ピクセル間に明るさまたは色相の差異が大きい場合、関数値は少さく現われて、上記明るさまたは色相の差異が少ない場合には関数値が大きく現われて、時間領域で動き程度が少ないピクセルまたは空間領域で輪郭線を基準に同じ側の領域のピクセルが演算に目立って寄与するように制御することを特徴とする映像処理装置。