JP5681155B2 - 画像処理装置 - Google Patents

画像処理装置 Download PDF

Info

Publication number
JP5681155B2
JP5681155B2 JP2012211926A JP2012211926A JP5681155B2 JP 5681155 B2 JP5681155 B2 JP 5681155B2 JP 2012211926 A JP2012211926 A JP 2012211926A JP 2012211926 A JP2012211926 A JP 2012211926A JP 5681155 B2 JP5681155 B2 JP 5681155B2
Authority
JP
Japan
Prior art keywords
distance
image
correction
lens
noise removal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2012211926A
Other languages
English (en)
Other versions
JP2014068172A (ja
Inventor
誠 飛鳥
誠 飛鳥
宏幸 宮原
宏幸 宮原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Industry and Control Solutions Co Ltd
Original Assignee
Hitachi Industry and Control Solutions Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Industry and Control Solutions Co Ltd filed Critical Hitachi Industry and Control Solutions Co Ltd
Priority to JP2012211926A priority Critical patent/JP5681155B2/ja
Priority to US13/953,878 priority patent/US8982250B2/en
Priority to CN201310371646.6A priority patent/CN103686104A/zh
Publication of JP2014068172A publication Critical patent/JP2014068172A/ja
Application granted granted Critical
Publication of JP5681155B2 publication Critical patent/JP5681155B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/63Noise processing, e.g. detecting, correcting, reducing or removing noise applied to dark current
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/61Noise processing, e.g. detecting, correcting, reducing or removing noise the noise originating only from the lens unit, e.g. flare, shading, vignetting or "cos4"

Description

本発明は、レンズ特性起因で発生する周辺光量落ちを補正する装置を備えた画像処理装置に関する。
一般にレンズは、レンズ中心とレンズ周辺で集光能力に程度差があり、レンズ周辺に近づくほど集光能力が低下するという特性がある。この特性の影響によって、実際には明るさが等しい被写体を撮影したときに、撮像装置を介して出力される映像において、信号レベルに違いが生じる現象が発生する場合がある。この現象を周辺光量落ちと呼んでいる。
近年の撮像装置では、周辺光量落ちを補正する装置を有するものも珍しくない。これらの撮像装置では、レンズおよび撮像センサを介して出力された映像信号に対して、周辺光量落ちの程度に応じて映像信号を増幅することで、周辺光量落ちを補正するものが一般的である。
このような撮像装置では、周辺光量落ちが顕著に発生するレンズ周辺部においては、補正のために必要な増幅率(以下、光量落ち補正ゲインと呼ぶ)も大きくなる。映像信号には通常ランダムノイズが含まれているため、光量落ち補正ゲインが大きくなるほど、ノイズも増幅されてしまい、映像信号のS/N(Signal/Noise)比が低下してしまう。このため、一般的な周辺光量落ち補正技術は、レンズ周辺部での周辺光量落ちが補正できる反面、レンズ周辺部でのS/N比が低下しやすいという問題がある。
この問題を解決するために、特許文献1に示す撮像装置も提案されている。特許文献1に記載された装置は、光量落ち補正ゲインに応じてノイズ低減効果を連続的に調整し、ノイズ低減を図る周辺光量落ち補正装置である。
特開2004−48562号公報
しかしながら、前記した従来技術では、レンズ周辺での周辺光量落ちが補正され、レンズ周辺でのS/N比の低下も抑制可能ではあるが、レンズ周辺での解像感低下が問題となる。
一般にレンズでは、レンズ中心とレンズ周辺で解像能力に程度差があり、レンズ周辺に近づくほど解像能力が低くなる。また、従来技術で利用されているメディアンフィルタに代表されるような空間フィルタ(空間方向のノイズ除去手段)を用いたノイズ除去技術は、アルゴリズムの優劣によってその弊害にも程度差はあるものの、前記した解像能力の違いから生じるレンズ周辺での解像感低下の弊害が避けられない。
このため、前記の従来技術は、レンズ特性だけをみてもレンズ中心に対してレンズ周辺での解像感が低くなる所に、さらに空間フィルタによるノイズ低減処理の副作用としての解像感低下が重なっており、レンズ中心とレンズ周辺の間で解像感に差が生じやすい。
そこで、本発明は、レンズの周辺光量落ち補正をする際にレンズ周辺でのS/N比低下と解像感低下を最低限に留める手段を提供することを課題とする。
前記した課題を解決するため本発明を以下の構成とした。すなわち、画像処理装置は、映像信号に対し周辺光量落ち補正を行ったあと、空間方向ノイズ除去を行う。このときの空間方向ノイズ除去は、レンズ周辺部に行くほど、ノイズ除去の強さを弱くする。このようにすることで、レンズ周辺部における解像感の低下を低減する。そして、画像処理装置は、空間方向ノイズ除去を行った映像信号に対し、時間方向ノイズ除去を行う。ここでの時間方向ノイズ除去は、レンズ周辺部に行くほど、ノイズ除去の強さを強くする。なお、時間方向ノイズ除去は、空間方向ノイズ除去に比して映像信号におけるレンズ周辺部の解像感の低下の度合いが低いという特性を持つので、画像処理装置は、映像信号におけるレンズ周辺部におけるS/N比低下を低減しつつ、レンズ周辺部の解像感の低下を低減する。
本発明によれば、レンズの周辺光量落ち補正をする際にレンズ周辺でのS/N比低下や解像感低下を防ぐことができる。これにより、高画質な画像を得ることができる。
本実施の形態である画像処理装置(画像処理LSI(Large Scale Integration))を備えるカメラのシステム構成図である。 本実施の形態における各画素のレンズ中心からの距離d1を説明するための図である。 レンズ周辺の集光能力の低下による映像信号レベルの低下を説明するための図である。 本実施の形態における各画素のレンズ中心からの距離d1に応じたデジタルゲインXの算出方法を説明するための図である。 図1の空間方向ノイズ除去補正部での空間方向ノイズ除去補正の手順を示す図である。 本実施の形態における各画素のレンズ中心からの距離d1に応じた閾値TH1の算出方法を説明するための図である。 図1の時間方向ノイズ除去補正部での時間方向ノイズ除去補正の手順を示す図である。 本実施の形態における各画素のレンズ中心からの距離d1に応じた閾値TH2の算出方法を説明するための図である。
以下、本発明を実施するための形態(以下、実施の形態とする)について説明する。
図1は、本実施の形態である画像処理装置(画像処理LSI(Large Scale Integration))117を備えるカメラのシステム構成図である。図1を参照しながら、システム構成と、カメラによる撮影およびデータ記録時の動作とを説明する。
システムは、レンズユニット103、CCD(Charge Coupled Device)センサ104、AFE(Analog Front End Circuit)回路105、マイコン(マイクロコンピュータ、制御部)119、TG(Timing Generator)120、レンズ用モータ121、アイリス用モータ122、画像処理LSI117、カメラ映像信号出力部118等を備える。
レンズユニット103は、レンズ101とアイリス102とを備える。レンズユニット103は、ズーム機能を有し、アイリス102は、レンズ101から取り込まれる外部光の光量を調整する。
CCDセンサ104は、レンズユニット103から照射された光を、映像信号に変換する。
AFE回路105は、入力された映像信号を画像処理LSI117で処理可能な信号へ変換する。例えば、AFE回路105は、入力された映像信号に対し相関二重サンプリング(Correlated Double Sampling、以下CDSと略す)処理、アナログAGC(Automatic Gain Control)処理、A/D(アナログ/デジタル)変換等の処理を行う。そして、AFE回路105は、変換した信号を画像処理LSI117へ出力する。
マイコン119は、TG120を制御し、CCDセンサ104を駆動させるために必要なパルスを発生させている。また、マイコン119は、レンズ用モータ121とアイリス用モータ122を動かして、それぞれ任意のズーム位置と絞り位置となるように制御する。さらに、マイコン119は、画像処理LSI117を制御する。
TG120は、マイコン119からの制御に基づき、CCDセンサ104を駆動させるためのパルスを発生させる。
レンズ用モータ121は、レンズ101のズーム位置の制御を行う。アイリス用モータ122は、アイリス102の絞り位置の制御を行う。カメラ映像信号出力部118は、画像処理LSI117から出力された信号をモニタ等の表示装置(図示省略)に出力し、表示装置上に映像を表示させる。
画像処理LSI117は、入力された映像信号に対し、周辺光量落ち補正処理およびノイズ低減処理を行う周辺光量落ち補正処理部115と、映像信号の画像をより見やすくする処理を行う画像処理部116を備える。
周辺光量落ち補正処理部115は、AFE回路105から入力された映像信号に対し、レンズの周辺光量落ち補正と、この周辺光量落ち補正により強調されたノイズの低減処理とを行う。この周辺光量落ち補正処理部115は、ノイズ低減処理後の映像信号を画像処理部116へ出力する。
画像処理部116は、周辺光量落ち補正処理部115から入力された映像信号に対し、感度UP処理、色再現性向上処理等の映像信号の画像をより見やすくする処理を行い、カメラ映像信号出力部118へ出力する。
<周辺光量落ち補正処理部>
次に、周辺光量落ち補正処理部115を詳細に説明する。周辺光量落ち補正処理部115は、距離算出部106、周辺光量落ち補正部107、周辺光量落ち補正強度算出部108、画像メモリ111、ノイズ低減処理部114等を備える。
<周辺光量落ち補正処理部の処理の流れ>
周辺光量落ち補正処理部115は、まず距離算出部106で各画素のレンズ中心からの距離を算出すると、周辺光量落ち補正強度算出部108において、この算出された距離に基づき各画素に対する補正強度を算出する。そして、周辺光量落ち補正部107は、この算出された補正強度で各画素に対する周辺光量落ち補正を行う。その後、ノイズ低減処理部114において、距離算出部106で算出された画素のレンズ中心からの距離に基づき空間方向ノイズ除去を行い、また、空間ノイズ除去後の映像信号に対し、画像メモリ111に蓄積された過去の映像信号を参照しながら時間方向ノイズ除去補正を行う。そして、ノイズ低減処理部114は、ノイズ除去後の画像信号を画像処理部116へ出力する。
距離算出部106は、レンズ101の中心となるCCDセンサ104の中心を原点(0,0)として、CCDセンサ104上の任意の画素の座標(x1,y1)との距離d1を算出する。この距離算出部106は、例えば、図2に示すようにレンズ101の中心となるCCDセンサ104の中心を原点(0,0)として、CCDセンサ104上の任意の画素の座標(x1,y1)との距離d1の算出を以下の式(1)により行う。
周辺光量落ち補正部107は、映像信号レベルの低下に対して光量落ち補正ゲインとしてデジタルゲインを付加することで補正を行う。付加するデジタルゲインの値は、周辺光量落ち補正強度算出部108で算出された値を用いる。周辺光量落ち補正強度算出部108および周辺光量落ち補正部107の機能は、例えば、特許文献1に記載の技術により実現される。
ここで、図3を用いて、レンズ周辺の集光能力の低下による映像信号レベルの低下を説明する。図3は、図1のレンズ101とレンズ101を介して映像が照射されるCCDセンサ104の平面と、その平面をline a で見たときの映像信号レベルの変化を示している。図3のline a 上の映像信号レベルは、レンズ101の周辺に向かうに従い、レンズ101の集光能力が低下する。このため、レンズ周辺の映像信号レベルはレンズ101の中心の映像信号レベルよりも低下している。このため、周辺光量落ち補正部107はレンズ周辺における映像信号レベルを向上させるよう、レンズ周辺部により大きなデジタルゲインを付加する。
図1の周辺光量落ち補正強度算出部108は、距離算出部106により算出された距離d1に基づき、周辺光量落ち補正部107で映像信号に付加するデジタルゲインを算出する。デジタルゲインの算出方法については後記する。
画像メモリ111は、現在の映像信号よりも過去の映像信号を蓄えておく。この画像メモリ111上の映像信号は、ノイズ低減処理部114の時間方向ノイズ除去補正部112が時間方向ノイズの補正をする際に用いられる。
ノイズ低減処理部114は、周辺光量落ち補正部107から入力された映像信号のノイズ低減処理を行う。ノイズ低減処理の詳細は後記するが、ノイズ低減処理部114は空間方向のノイズ除去と時間方向のノイズ除去を組み合わせることにより、解像感の低下を極力防いだノイズ低減を実現する。
<周辺光量落ち補正>
ここで、周辺光量落ち補正強度算出部108によるデジタルゲインの算出について説明する。周辺光量落ち補正強度算出部108は、CCDセンサ104上の任意の画素の信号レベルをeとしたとき、デジタルゲインXを付加した際の信号レベルe’を以下式(2)により算出する。
e’ = e×10(デジタルゲインX/20) (デジタルゲインX[dB], X= A,B,C,…)…式(2)
周辺光量落ち補正強度算出部108は、各画素に付加するデジタルゲインXを、各画素のレンズ中心からの距離d1に応じて算出する。図4に、距離d1に応じたデジタルゲインXの算出方法を示す。図4ではレンズ中心を原点(0,0)として、原点からの距離を、距離の短い方から、距離A、距離B、距離C、距離Dおよび距離Eの5段階で区切り、この距離を用いてデジタルゲインXを以下(1)〜(5)の5段階で算出している。
(1)原点≦距離d1<距離Aであれば、デジタルゲインX=デジタルゲインAとする。
(2)距離A≦距離d1<距離Bであれば、デジタルゲインX=デジタルゲインBとする。
(3)距離B≦距離d1<距離Cであれば、デジタルゲインX=デジタルゲインCとする。
(4)距離C≦距離d1<距離Dであれば、デジタルゲインX=デジタルゲインDとする。
(5)距離D≦距離d1<距離Eであれば、デジタルゲインX=デジタルゲインEとする。
そして、図1の周辺光量落ち補正処理部115は、周辺光量落ち補正強度算出部108が(1)〜(5)で算出したデジタルゲインXを映像信号の任意の画素の信号レベルeに付加する。
デジタルゲインXの大きさは、図4に示すように、デジタルゲインA≦デジタルゲインB≦デジタルゲインC≦デジタルゲインD≦デジタルゲインEとし、距離d1が大きくなりレンズ周辺に向かうに従ってデジタルゲインXを大きくするようにしている。ただし、図4のデジタルゲインAはレンズ中心近辺であり、通常、周辺光量落ちはあまり発生しないので、デジタルゲインA=0としている。
周辺光量落ち補正部107が、図4のline a の映像信号レベルに対してデジタルゲインXを付加した場合、レンズ周辺に向かうに従って補正レベルをデジタルゲインAからデジタルゲインEというように大きくすることで周辺光量落ちが目立たなくなるようにしている。
このように、図1の周辺光量落ち補正部107は、レンズの周辺光量落ちによる映像信号のレンズ周辺レベルの低下を補正する。ここで、周辺光量落ち補正部107は、デジタルゲインXを付加しているので、レンズ周辺に向かうに従ってノイズ成分も増幅される。そこで、画像処理LSI117のノイズ低減処理部114は、解像感の低下を考慮したS/N比の改善を行う。
<ノイズ低減処理部>
このノイズ低減処理部114を詳細に説明する。ノイズ低減処理部114は、空間方向ノイズ除去補正部109、空間方向ノイズ除去補正強度算出部110、時間方向ノイズ除去補正部112、時間方向ノイズ除去補正強度算出部113等を備える。なお、空間方向ノイズ除去補正部109および空間方向ノイズ除去補正強度算出部110は、空間フィルタを用いたノイズ除去部に相当し、時間方向ノイズ除去補正部112および時間方向ノイズ除去補正強度算出部113は、時間フィルタを用いたノイズ除去部に相当する。
<ノイズ低減処理部の処理の流れ>
ノイズ低減処理部114は、まず、空間方向ノイズ除去補正強度算出部110において、距離算出部106で算出された各画素のレンズ中心からの距離に応じて、各画素に対する空間方向のノイズ除去補正強度を算出する。そして、空間方向ノイズ除去補正部109において、この算出されたノイズ除去補正強度により各画素に対する空間ノイズ除去を行う。その後、この空間ノイズ除去後の映像信号を時間方向ノイズ除去補正部112へ出力する。時間方向ノイズ除去補正強度算出部113は、距離算出部106で算出された各画素のレンズ中心からの距離に応じて、各画素に対する時間方向のノイズ除去補正強度を算出する。そして、時間方向ノイズ除去補正部112において、画像メモリ111から映像信号における過去の画像を読み出し、この過去の画像を参照して、映像信号の現在の画像の各画素に対する時間方向のノイズ除去補正を行う。そして、時間方向ノイズ除去補正部112は、時間方向ノイズ除去補正後の映像信号を画像処理部116へ出力する。
<空間方向ノイズ除去補正>
まず、空間方向ノイズ除去補正について説明する。空間方向ノイズ除去補正部109は、周辺光量落ち補正部107から出力された映像信号に対して距離d1に応じた空間ノイズ除去を行うことによりS/N比の改善を図っている。以下、空間方向ノイズ除去を詳細に説明する。
図5に空間方向ノイズ除去補正部109での空間方向ノイズ除去補正の手順を示す。図5では現在処理している任意画素の信号レベルをeとし、この画素を中心画素とした際の周辺画素の信号レベルをa,b,c,d,f,g,h,iとしている。
空間方向ノイズ除去補正部109は、図5のS501により処理を開始する。まず、空間方向ノイズ除去補正部109は、レンズ中心画素(中心画素)の信号レベルeに対して、中心画素とレンズ周辺画素(周辺画素)の信号レベルを足し合わせ(SUM(a,b,c,d,e,f,g,h,i))割算(/9)する。これにより、空間方向ノイズ除去補正部109は、レンズ中心の9画素の信号レベルの平均値AVERAGE1を算出する(S502)。
S503では、空間方向ノイズ除去補正部109は、中心画素の信号レベルeとS502で算出した平均値AVERAGE1との差分DIFF1の算出を行う。
S504では、空間方向ノイズ除去補正部109は、S503で算出した差分DIFF1が閾値TH1より大きいか否かの判定を行い、もし差分DIFF1が閾値TH1より大きい場合(S504でYes)は、中心画素の信号レベルeはノイズと判断し、S505にて中心画素の信号レベルeを、S502で計算した平均値AVERAGE1に置き換え、処理を終了する(S506)。一方、もし差分DIFF1が閾値TH1以下の場合(S504でNo)、空間方向ノイズ除去補正部109は、S505の処理は実行せず、処理を終了する(S506)。空間方向ノイズ除去補正部109は、このような処理を映像信号の画像の各画素に対し実行する。
これにより、空間方向ノイズ除去補正部109は、映像信号のノイズの平滑化を行う。この際、S504で参照した閾値TH1は、空間方向ノイズ除去補正強度算出部110が距離算出部106で算出された距離d1を用いて算出した値である。
図6に距離d1に応じた閾値TH1の算出方法を示す。図4と同様にレンズ中心を原点(0,0)として原点からの距離を距離A、距離B、距離C、距離Dおよび距離Eの5段階で区切る。そして、これらの距離を用いて各画素に対して空間ノイズ補正するかしないか判定する閾値TH1を以下(1)〜(5)のように設定する。
(1)原点≦距離d1<距離Aであれば、閾値TH1=th1_Aとする。
(2)距離A≦距離d1<距離Bであれば、閾値TH1=th1_Bとする。
(3)距離B≦距離d1<距離Cであれば、閾値TH1=th1_Cとする。
(4)距離C≦距離d1<距離Dであれば、閾値TH1=th1_Dとする。
(5)距離D≦距離d1<距離Eであれば、閾値TH1=th1_Eとする。
ここで閾値TH1の大きさはth1_B≦th1_C≦th1_D≦th1_E≦th1_Aとし、距離d1が大きくなり、レンズ周辺に向かうに従って閾値TH1の値を大きくする。つまり、レンズ周辺に向かうに従って空間ノイズ除去補正の効果を低くする。ただし、原点≦距離d1<距離Aは、レンズの中心付近であり、周辺光量落ち補正処理部115は周辺光量落ち補正でデジタルゲインを付加していない。よって、空間方向ノイズ除去補正強度算出部110はth1_Aを最も大きい値とする。つまり、空間方向ノイズ除去補正強度算出部110は、レンズ中心部に対し、実質的に空間ノイズ除去補正を不要とみなして、空間ノイズ除去補正をオフとする。
従来技術では、レンズ周辺に向かうに従い空間ノイズ除去補正を強めていくことが通常であったが、本実施の形態の画像処理LSI117は、空間ノイズ除去補正をレンズ周辺に向かうに従い弱めていく。これにより、空間ノイズ除去補正の弊害である解像感の低下をレンズ周辺で低減することができる。
<時間方向ノイズ除去補正>
次に、時間方向ノイズ除去補正を説明する。時間方向ノイズ除去補正部112は、空間方向ノイズ除去補正部109から出力された映像信号に対して距離d1に応じた時間方向ノイズ除去補正を行うことによりS/N比の改善を図っている。
図7に時間方向ノイズ除去補正部112での時間方向ノイズ除去補正の手順を示す。画像メモリ111(図1参照)では、現在の画像image1よりも過去の画像image2,image3,… を蓄える。図7では現在の画像image1から過去2枚分の画像image2,image3を蓄えるものとして説明するが、何枚蓄積してもよいものとする。
図7では、図1の時間方向ノイズ除去補正部112が現在処理している画像image1の任意画素の信号レベルを1-eとし、過去2枚分の画像image2,image3の画像image1と同じ任意画素の信号レベルをそれぞれ2-e,3-eとしている。
時間方向ノイズ除去補正部112は、図7のS701で処理を開始する。まず、時間方向ノイズ除去補正部112は、S702にて現在画像image1の任意画素の信号レベル1-eと過去の画像image2,image3の任意画素の信号レベル2-e,3-eを足し合わせ(SUM(1-e,2-e,3-e)) 割算(/3)することにより時間軸方向での任意画素の信号レベルeの平均値AVERAGE2を計算する。
S703では、時間方向ノイズ除去補正部112は、現在画像image1の任意画素の信号レベル1-eと、S702で算出した平均値AVERAGE2との差分DIFF2の算出を行う。
S704では、時間方向ノイズ除去補正部112は、S703で算出した差分DIFF2が閾値TH2より大きいか否かの判定を行い、もし大きい場合(S704でYes)、現在画像image1の任意画素の信号レベル1-eはノイズと判断し、S705にて現在画像image1の任意画素の信号レベル1-eをS702で算出した平均値AVERAGE2に置き換えることでノイズの平滑化を行い、処理を終了する(S706)。一方、もし差分DIFF2が閾値TH2以下の場合(S704でNo)、時間方向ノイズ除去補正部112は、S705の処理は実行せず、処理を終了する(S706)。時間方向ノイズ除去補正部112は、このような処理を映像信号の画像の各画素に対し実行する。
これにより、時間方向ノイズ除去補正部112は、映像信号のノイズの平滑化を行う。この際、S704で参照した閾値TH2は、距離算出部106で算出された距離d1を用いて、時間方向ノイズ除去補正強度算出部113で算出している。
図8に距離d1に応じた閾値TH2の算出方法を示す。図4と同様にレンズ中心を原点(0,0)として原点からの距離を距離A、距離B、距離C、距離Dおよび距離Eの5段階で区切る。そして、これらの距離を用いて各画素に対して時間方向ノイズ除去補正するか否かを判定するための閾値TH2を以下(1)〜(5)のように設定する。
(1)原点≦距離d1<距離Aであれば、閾値TH2=th2_Aとする。
(2)距離A≦距離d1<距離Bであれば、閾値TH2=th2_Bとする。
(3)距離B≦距離d1<距離Cであれば、閾値TH2=th2_Cとする。
(4)距離C≦距離d1<距離Dであれば、閾値TH2=th2_Dとする。
(5)距離D≦距離d1<距離Eであれば、閾値TH2=th2_Eとする。
ここで閾値TH2の大きさはth2_E≦th2_D≦th2_C≦th2_B≦th2_Aとし、距離d1が大きくなりレンズ周辺に向かうに従って閾値TH2の値を小さくする。つまり、レンズ周辺に向かうに従って時間方向ノイズ除去補正の効果を高くする。ただし、前記した空間ノイズ除去補正の場合と同様に、原点≦距離d1<距離Aは、レンズの中心付近であり、周辺光量落ち補正処理部115は周辺光量落ち補正でデジタルゲインを付加していない。よって、時間方向ノイズ除去補正強度算出部113はth2_Aを最も大きい値とする。つまり、時間方向ノイズ除去補正強度算出部113は、レンズ中心部に対し実質的に時間方向ノイズ除去補正を不要とみなして、時間方向ノイズ除去補正をオフとする。
時間方向ノイズ除去補正は、空間方向ノイズ除去補正と比べて解像感を低下させることなくS/N比を改善することができるので、レンズ周辺付近のS/N比改善に適している。また、本実施の形態の時間方向ノイズ除去補正部112は、時間方向ノイズ除去補正の効果を、レンズ周辺に向かうほど高め、レンズ中心付近ほど弱めている。さらに、時間方向ノイズ除去補正部112は、レンズ中心部(例えば、図8の距離Aの領域)には、実質的に時間方向ノイズ除去補正を行わない。よって、時間方向ノイズ除去補正を行った際に発生するおそれがある画面上の残像感についてもレンズ周辺付近に限定することができる。また、人間の視覚特性として、画面の周辺の残像感は画面の中心に比べて気にならないので、本実施の形態の時間方向ノイズ除去補正部112によれば、画面上の残像感をさらに低減することになる。
以上により、本実施の形態のシステムは、周辺光量落ちを補正した後、ノイズ低減処理を実行した際に問題となっていたレンズ周辺部の解像感の低下を、極力抑えながらノイズ低減を実現できる。
なお、前記した実施の形態において、距離算出部106は、式(1)で、距離d1を用いることとしたが、各画素に対する距離の相対値が分かればよいので、d1を用いてもよい。
また、周辺光量落ち補正部107が付加する補正ゲインは映像信号に付加できるゲインであればデジタルゲイン以外でもよいものとする。
さらに、前記した実施の形態において、レンズ中心からの距離の区切り方は距離A〜距離Eの5段階としたが、何段階に区切ってもよく、それに応じて、周辺光量落ち補正部107で付加するデジタルゲインXも細かく設定できるものとする。この場合、空間ノイズ除去補正で用いる閾値TH1も、時間ノイズ除去補正で用いる閾値TH2も距離の範囲に応じて細かく設定できるものとする。
なお、図1では撮像素子として、CCDセンサ104を用いているが、例えば、CMOS(Complementary Metal Oxide Semiconductor )等のCCDセンサ以外の撮像素子であってもよい。
本実施の形態に係る画像処理LSI117の機能は、前記したような処理を実行するハードウェアにより実現してもよいし、CPU(Central Processing Unit)によるプログラム実行処理によって実現してもよい。
101 レンズ
102 アイリス
103 レンズユニット
104 CCDセンサ
105 AFE回路
106 距離算出部
107 周辺光量落ち補正部
108 周辺光量落ち補正強度算出部
109 空間方向ノイズ除去補正部
110 空間方向ノイズ除去補正強度算出部
111 画像メモリ
112 時間方向ノイズ除去補正部
113 時間方向ノイズ除去補正強度算出部
114 ノイズ低減処理部
115 周辺光量落ち補正処理部
116 画像処理部
117 画像処理LSI(画像処理装置)
118 カメラ映像信号出力部
119 マイコン
121 レンズ用モータ
122 アイリス用モータ

Claims (2)

  1. 映像信号の入力を受け付け、撮像レンズの周辺光量落ち特性に合わせて、前記入力された映像信号を構成する各画像に対し、前記撮像レンズの周辺部の光量落ち補正ゲインを付加する周辺光量落ち補正部と、
    前記映像信号を構成する各画像に対し、前記撮像レンズのレンズ中心位置からの距離に応じて前記画像のノイズの補正強度を変化させる空間フィルタを用いたノイズ除去部と、
    前記映像信号を構成する各画像を蓄積する画像メモリと、
    前記レンズ中心位置からの距離に応じて、前記入力された映像信号を構成する現在の画像に対し、前記画像メモリに蓄積された、前記現在の画像よりも過去の画像を参照して、前記現在の画像のノイズの補正強度を変化させる時間フィルタを用いたノイズ除去部とを有し、
    前記空間フィルタを用いたノイズ除去部は、
    前記各画像における前記光量落ち補正ゲインが付加された画像領域について、前記レンズ中心位置からの距離が長くなるにつれて、前記空間フィルタを用いたノイズ除去の補正強度を弱くし、
    前記時間フィルタを用いたノイズ除去部は、
    前記各画像における前記光量落ち補正ゲインが付加された画像領域について、前記レンズ中心位置からの距離が長くなるにつれて、前記時間フィルタを用いたノイズ除去の補正強度を強くすることを特徴とする画像処理装置。
  2. 前記空間フィルタを用いたノイズ除去部は、
    前記各画像における前記光量落ち補正ゲインが付加されなかった画像領域について、前記空間フィルタを用いたノイズ除去の補正を行わず、
    前記時間フィルタを用いたノイズ除去部は、
    前記各画像における前記光量落ち補正ゲインが付加されなかった画像領域について、前記時間フィルタを用いたノイズ除去の補正を行わないことを特徴とする請求項1に記載の画像処理装置。
JP2012211926A 2012-09-26 2012-09-26 画像処理装置 Expired - Fee Related JP5681155B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2012211926A JP5681155B2 (ja) 2012-09-26 2012-09-26 画像処理装置
US13/953,878 US8982250B2 (en) 2012-09-26 2013-07-30 Image processing apparatus
CN201310371646.6A CN103686104A (zh) 2012-09-26 2013-08-23 图像处理装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012211926A JP5681155B2 (ja) 2012-09-26 2012-09-26 画像処理装置

Publications (2)

Publication Number Publication Date
JP2014068172A JP2014068172A (ja) 2014-04-17
JP5681155B2 true JP5681155B2 (ja) 2015-03-04

Family

ID=50322219

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012211926A Expired - Fee Related JP5681155B2 (ja) 2012-09-26 2012-09-26 画像処理装置

Country Status (3)

Country Link
US (1) US8982250B2 (ja)
JP (1) JP5681155B2 (ja)
CN (1) CN103686104A (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105323454B (zh) * 2014-07-30 2019-04-05 光宝电子(广州)有限公司 多相机图像撷取系统与图像重组补偿方法
KR102374016B1 (ko) * 2016-08-16 2022-03-11 소니 세미컨덕터 솔루션즈 가부시키가이샤 화상 처리 장치, 화상 처리 방법, 및 촬상 장치
US10354140B2 (en) 2017-01-31 2019-07-16 Microsoft Technology Licensing, Llc Video noise reduction for video augmented reality system
US11187909B2 (en) 2017-01-31 2021-11-30 Microsoft Technology Licensing, Llc Text rendering by microshifting the display in a head mounted display
US10298840B2 (en) 2017-01-31 2019-05-21 Microsoft Technology Licensing, Llc Foveated camera for video augmented reality and head mounted display
US10504397B2 (en) 2017-01-31 2019-12-10 Microsoft Technology Licensing, Llc Curved narrowband illuminant display for head mounted display
CN108154534B (zh) * 2017-12-26 2020-09-01 努比亚技术有限公司 一种图片清晰度校准方法、终端和计算机可读存储介质
KR20220152019A (ko) * 2021-05-07 2022-11-15 에스케이하이닉스 주식회사 이미지 센싱 장치 및 그 동작 방법

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0615375U (ja) * 1992-07-27 1994-02-25 クラリオン株式会社 画像シェーディング補正処理装置
JP3539394B2 (ja) * 2001-03-26 2004-07-07 ミノルタ株式会社 画像処理装置、プログラムおよび記録媒体
JP2002368997A (ja) * 2001-06-12 2002-12-20 Canon Inc 画像読取装置、画像読取方法およびプログラム
JP4235408B2 (ja) 2002-07-15 2009-03-11 富士フイルム株式会社 ノイズ低減回路及び撮像装置
JP2005269373A (ja) * 2004-03-19 2005-09-29 Fuji Photo Film Co Ltd 映像信号処理システムおよび電子映像機器
US7834925B2 (en) * 2006-06-05 2010-11-16 Core Logic Inc. Lens shading correction device and method in image sensor
KR100696162B1 (ko) * 2006-08-11 2007-03-20 엠텍비젼 주식회사 이미지의 노이즈 감소 장치 및 노이즈 감소 방법, 이를수행하는 프로그램이 기록된 기록 매체
JP4930989B2 (ja) * 2006-11-30 2012-05-16 日立マクセル株式会社 カメラモジュール及び撮像装置
JP2008209811A (ja) * 2007-02-28 2008-09-11 Hitachi Ltd 表示装置及び投写型照明装置
JP2009145479A (ja) * 2007-12-12 2009-07-02 Hitachi Maxell Ltd 撮像レンズユニット及びカメラモジュール
JP2010008767A (ja) * 2008-06-27 2010-01-14 Hitachi Ltd 光学ユニット及び投射型映像表示装置
US8274583B2 (en) * 2009-06-05 2012-09-25 Apple Inc. Radially-based chroma noise reduction for cameras
JP5592776B2 (ja) * 2010-12-21 2014-09-17 オリンパスイメージング株式会社 画像処理装置、画像処理方法、および、画像処理プログラム

Also Published As

Publication number Publication date
JP2014068172A (ja) 2014-04-17
US8982250B2 (en) 2015-03-17
CN103686104A (zh) 2014-03-26
US20140085505A1 (en) 2014-03-27

Similar Documents

Publication Publication Date Title
JP5681155B2 (ja) 画像処理装置
US10298853B2 (en) Image processing apparatus, method of controlling image processing apparatus, and imaging apparatus
JP2007201980A (ja) 顔重要度判定装置、方法、および撮像装置
JP2015156600A (ja) 画像信号処理装置,画像信号処理方法,および撮像装置
JP6720881B2 (ja) 画像処理装置及び画像処理方法
US9215356B2 (en) Image processing apparatus, image processing method, and program to combine a composite image of noise suppressed images generated from images each including a direct current component and at least one noise suppresed image processed from at least one image not including the direct current component
US9582868B2 (en) Image processing apparatus that appropriately performs tone correction in low-illuminance environment, image processing method therefor, and storage medium
JP2010016664A (ja) 撮像装置
US10158811B2 (en) Image processing apparatus, image processing method, and computer-readable recording medium
US11838649B2 (en) Image capturing device and control method thereof and medium
US20190325552A1 (en) Imaging apparatus, image processing apparatus, image processing method, and medium
US10368017B2 (en) Image processing apparatus, image processing method, and computer-readable recording medium
US10270991B2 (en) Image processing apparatus, image processing method, and computer-readable recording medium
US10129449B2 (en) Flash band, determination device for detecting flash band, method of controlling the same, storage medium, and image pickup apparatus
JP2016057349A (ja) 撮像装置、画像処理方法及びプログラム
US10425602B2 (en) Image processing apparatus, image processing method, and computer-readable recording medium
JP5557635B2 (ja) 輪郭強調装置
US10791289B2 (en) Image processing apparatus, image processing method, and non-transitory computer readable recording medium
US10594912B2 (en) Flash band determination device for detecting flash band, method of controlling the same, storage medium, and image pickup apparatus
JP5520863B2 (ja) 画像信号処理装置
JP2009239396A (ja) 画像処理装置
JPWO2018020685A1 (ja) 画像処理装置、画像処理方法およびプログラム
JP3206826U (ja) 画像処理装置
JP2009253510A (ja) 撮像装置
JP2009152881A (ja) 画像信号処理回路、画像信号処理装置及び画像信号処理方法

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20140718

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140819

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20141106

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20141209

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150108

R150 Certificate of patent or registration of utility model

Ref document number: 5681155

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees