JP2010219797A - エッジ強調画像処理装置 - Google Patents

エッジ強調画像処理装置 Download PDF

Info

Publication number
JP2010219797A
JP2010219797A JP2009063321A JP2009063321A JP2010219797A JP 2010219797 A JP2010219797 A JP 2010219797A JP 2009063321 A JP2009063321 A JP 2009063321A JP 2009063321 A JP2009063321 A JP 2009063321A JP 2010219797 A JP2010219797 A JP 2010219797A
Authority
JP
Japan
Prior art keywords
edge
unit
luminance signal
signal
color
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2009063321A
Other languages
English (en)
Other versions
JP5223742B2 (ja
Inventor
Norihiko Tsutsumi
則彦 堤
Masashi Sei
正史 清
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Semiconductor Ltd
Original Assignee
Fujitsu Semiconductor Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Semiconductor Ltd filed Critical Fujitsu Semiconductor Ltd
Priority to JP2009063321A priority Critical patent/JP5223742B2/ja
Priority to US12/694,819 priority patent/US8797427B2/en
Publication of JP2010219797A publication Critical patent/JP2010219797A/ja
Application granted granted Critical
Publication of JP5223742B2 publication Critical patent/JP5223742B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • H04N9/646Circuits for processing colour signals for image enhancement, e.g. vertical detail restoration, cross-colour elimination, contour correction, chrominance trapping filters
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/66Remote control of cameras or camera parts, e.g. by remote control devices
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/85Camera processing pipelines; Components thereof for processing colour signals for matrixing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • H04N9/67Circuits for processing colour signals for matrixing

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Color Image Communication Systems (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Studio Devices (AREA)
  • Image Processing (AREA)

Abstract

【課題】偽輪郭とノイズの影響を減少することが出来、一回の処理で画像を生成できるエッジ強調画像処理装置を提供する。
【解決手段】RGB信号をY変換し、ガンマ補正したエッジ強調パス輝度信号と、RGB信号を色補正し、ガンマ補正し、YC変換した本線パス輝度信号とを所定の割合で合成し、それぞれ、エッジ検出信号と本線の輝度信号を加算して、画像の輝度信号とする。エッジ強調パス輝度信号と本線パス輝度信号とを合成する割合は、エッジ検出信号と本線輝度信号のそれぞれを生成する過程において、別個に設定可能とする。
【選択図】図3

Description

本発明は、エッジ強調画像処理装置に関する。
近年、デジタルコンパクトカメラが普及しているが、デジタルコンパクトカメラの画質をよりよくするための開発が盛んに行われている。デジタルコンパクトカメラの画像の見えを良くするために、撮影した画像にエッジを強調する処理が行われている。
図1は、従来技術を説明する図である。
入力されたRGB信号は、色補正部10において、色補正される。次に、色補正されたRGB信号は、ガンマ補正部11において、ガンマ補正される。ガンマ補正されたRGB信号は、YC変換部12において、RGB信号からYCbCr信号に変換される。これをYC変換と呼ぶ。YCbCr信号のうち、Y信号が輝度信号であり、Cb信号とCr信号は、色差信号である。YC変換後の輝度信号Yから、エッジ検出部13においてエッジ検出を行い、エッジ調整部14において検出したエッジ成分Eを調整した後、ノイズ除去部15においてノイズ除去された輝度信号Ynにエッジ成分Eadを加算することで、エッジ強調を行う。
図1の従来技術では、色補正処理後のRGB信号(Rc、Gc、Bc)からYC変換して生成した輝度Yを使用して、エッジ検出している。色補正処理では、カメラの色空間を出力装置の色空間に合わせるため、一般的に下記のような行列演算を施す。
近年のデジタルコンパクトカメラでは、撮像素子の高画素化のため、色分離が悪くなっている。色分離が悪いというのは、撮像素子の分光感度特性において、R、G、Bの分光感度悪く、赤色に、緑色や青色が混色してしまったり、正確な色で表現できないことを示す。例えば、Bayer配列の撮像素子で、赤色の被写体を撮影した場合に、本来赤色の画素のみが反応すべきであるのに、赤色の周辺画素の緑や青の画素も一緒に反応してしまう現象を言う。そのため、色分離が悪い撮像素子を画像処理する場合、カメラの色空間を出力装置の色空間に合わせるため、色補正を強く掛けている。
色補正を"強く掛ける"とは、色補正行列である3×3行列の対角成分が大きいときを示す。また、色補正を"弱く掛ける"とは、3×3行列が単位行列に近いときを示す。色補正が最弱の場合は、色補正行列が単位行列の場合である。色補正行列は、通常、行列要素を行方向に足して1となるように設定する。
CC00 + CC01 + CC02 = 1.0
CC10 + CC11 + CC12 = 1.0
CC20 + CC21 + CC22 = 1.0
下記の色補正行列は、色補正が強い場合の一例である。色補正行列の対角成分が大きい場合、色補正が強いということになる。
図1の従来技術の場合には、色補正を強く掛けた後のRGBデータの値が、予め用意したRGBデータのメモリ領域に収まるように、RGBデータの値を上限下限共にクリップ処理する必要がある。(例えば、RGBデータのメモリ領域として、符号無し12bit整数を用意していた場合、RGBデータの値が4095より大きい場合には4095として、0より小さい場合には0とする必要がある。)このクリップ処理によって、実画像に存在しない偽輪郭が発生することがある。すなわち、クリップ処理によって、本来画像が滑らかに変化しているところにおいても画像が急に変化したようになってしまい、エッジが存在するかのような状態になってしまうことがある。
図1の従来技術では、この一種のノイズである偽輪郭をエッジ検出してしまうことが問題となる。
また、色補正処理で、RGBデータに色補正を強く掛ける際、ノイズが増大し、ガンマ補正時に輝度成分へノイズが混入するため、YC変換後の輝度Yのノイズが増大してしまうことが問題となる。輝度Yのノイズが増大した結果、エッジ検出時にノイズの影響を受けやすくなり、エッジ強調でエッジが凸凹になってしまうことが問題となる。
図2は、別の従来技術を説明する図である。
図2の従来技術では、図1の従来技術におけるノイズの影響を減らすための構成を備えている。
図1の従来技術では、1回の処理で1枚の画像を生成しているが、図2の従来技術では、2回の処理で1枚の画像を生成している。
1回目の処理で、輝度Yを生成し、2回目の処理で、色差CbCrを生成する。すなわち、RGB信号を色補正部20で色補正し、ガンマ補正部21でガンマ補正し、YC変換部22でYC変換する際、1回目の処理では、輝度信号Yのみを生成する。この輝度信号Yから、エッジ検出部23においてエッジ検出し、エッジ調整部24において、エッジ調整した信号Eadを、ノイズ除去部25においてノイズ除去された輝度信号Ynと加算して、輝度信号Yeeを生成する。1回目の処理では、色補正の行列演算は、単位行列を使用する。すると、輝度信号Yを生成する際、色補正されない。その結果、図1の従来技術のようなノイズによる悪影響は生じない。
2回目の処理では、色差CbCrを生成するため、色補正処理で色補正を強めに掛ける。すなわち、同じRGB信号を色補正部20で色補正し、ガンマ補正部21でガンマ補正し、YC変換部22で、色差信号CbCrを生成する。そして、1回目の処理で得られた輝度信号Yeeと2回目の処理で得られた色差信号CbCrとを合わせて、1枚の画像を得る。
図2の従来技術では、図1の従来技術のような輝度信号へのノイズによる悪影響はないが、1枚の画像を生成するのに、2回の処理が必要となり、高速化が求められる近年のデジタルカメラ等の画像処理において、処理時間が2倍になることが問題となる。
また、1回目の処理において、色補正で単位行列を使用しているため、輝度データが規格外となり、図1の従来技術に対して色再現性が劣る。ここで、輝度データが規格外となるとは、輝度データを生成する過程で、カメラの色空間を出力装置の色空間に合わせるための色補正処理を実施していないため、輝度データが出力装置の色空間の規格に適合していないという意味である。
本発明の課題は、偽輪郭とノイズの影響を減少することが出来、一回の処理で画像を生成できるエッジ強調画像処理装置を提供することである。
本発明の第1の側面におけるエッジ強調画像処理装置は、RGB信号で入力される画像データにエッジ強調処理を行って出力するエッジ強調画像処理装置において、該入力されたRGB信号に色補正を行う色補正部と、該色補正されたRGB信号を輝度及び色差信号に変換するYC変換部と、該入力されたRGB信号から輝度信号を生成するY変換部と、該YC変換部で得られた輝度信号と、該Y変換部で得られた輝度信号とを合成するエッジ用合成部と、該エッジ用合成部の合成結果を用いてエッジ強調信号を得るエッジ強調部と、該YC変換部で得られた輝度信号と、該エッジ強調部で得られたエッジ強調信号とを加算する加算器とを備える。
本発明の第2の側面におけるエッジ強調画像処理装置は、上記構成に加え、前記YC変換部で得られた輝度信号と、前記Y変換部で得られた輝度信号とを、前記エッジ用合成部の合成とは独立して、合成する本線用合成部を更に備え、前記加算器は、前記エッジ強調信号と、該本線用合成部で得られた輝度信号とを加算する。
本発明の第3の側面におけるエッジ強調画像処理装置は、RGB信号で入力される画像データにエッジ強調処理を行って出力するエッジ強調画像処理装置において、該入力されたRGB信号に色補正を行う色補正部と、該色補正されたRGB信号を輝度及び色差信号に変換するYC変換部と、該入力されたRGB信号から輝度信号を生成するY変換部と、該YC変換部で得られた輝度信号と、該Y変換部で得られた輝度信号とを合成する本線用合成部と、該Y変換部で得られた輝度信号を用いてエッジ強調信号を得るエッジ強調部と、該本線用合成部で得られた輝度信号と、該エッジ強調部で得られたエッジ強調信号とを加算する加算器とを備える。
本発明によれば、偽輪郭とノイズの影響を減少することが出来、一回の処理で画像を生成できるエッジ強調画像処理装置を提供することができる。
第1の従来技術を説明する図である。 第2の従来技術を説明する図である。 本発明の実施形態を説明する図である。 ガンマ補正テーブルの内容をグラフとして示した図である。 ラプラシアンフィルタの例を示す図である。 本実施形態の変形例を説明する図(その1)である。 本実施形態の変形例を説明する図(その2)である。 本実施形態の変形例を説明する図(その3)である。 本実施形態の変形例を説明する図(その4)である。 本実施形態の変形例を説明する図(その5)である。 デジタルカメラのブロック構成図である。 カメラの開発から使用に至る過程での本実施形態の合成比率の設定について説明する図(その1)である。 カメラの開発から使用に至る過程での本実施形態の合成比率の設定について説明する図(その2)である。
図3は、本発明の実施形態を説明する図である。
図3において、本線パス側では、入力されたRGB信号は、色補正部30において、色補正され、Rc、Gc、Bc信号が生成される。これらの信号は、ガンマ補正部31において、ガンマ補正され、Rg、Gg、Bg信号が生成される。更に、これらの信号は、YC変換部32において、輝度信号Yaと、色差信号Cb、Crに変換される。一方、エッジ強調パス側では、入力されたRGB信号からは、Y変換部35において、輝度信号Ylが生成される。輝度信号Ylは、ガンマ補正部36において、ガンマ補正され、輝度信号Ybが生成される。そして、本線パス側では、Ya信号は、本線用合成部38において、エッジ強調パス側のYb信号と合成され、Y信号が生成される。Y信号には、ノイズ除去部33において、ノイズ除去処理が施され、Yn信号が生成される。一方、エッジ強調パス側では、Yb信号はエッジ用合成部37において、Ya信号と合成され、Ye信号が生成される。Ye信号からは、エッジ検出部39において、エッジ検出信号Eが生成される。エッジ検出信号Eからは、エッジ調整部40において、ノイズ成分の除去等の調整が行われ、信号Eadが生成される。信号Eadは、加算器34において、信号Ynと加算され、輝度信号Yeeが生成される。信号Yee、Cb、Crが最終的な信号として出力される。
図4は、ガンマ補正テーブルの内容をグラフとして示した図である。
以下に、本実施形態の処理をより詳細に説明する。
まず最初に、R,G,B信号に対して色補正を行う。
次に、Rc,Gc,Bcに対してガンマ補正を行う。ガンマ補正テーブルは、図4に示したグラフを表現する数値をテーブルとして持っている。ガンマ補正テーブルGTbl[x]のxが入力データを示す。図4に示すように、ガンマ補正前の入力データは、例えば、12ビットであり、補正後の出力データは、例えば、8ビットである。
Rg = GTbl[Rc]
Gg = GTbl[Gc]
Bg = GTbl[Bc]
次に、Rg,Gg,Bgに対してYC変換を行う。
以上が、本線パス側の処理である。
エッジ強調パスでは、ガンマ補正前のR,G,Bから、輝度信号Ylを生成する。変換は、以下の式に基づいて行う。
Yl = kr*R + kg*G + kb*B
例えば、kr=0.3 kg=0.59 kb=0.11
係数kr、kg、kbの値は、YC変換行列の輝度信号への変換に用いる行列要素の値などである。
次に、輝度信号Ylに対してガンマ補正を行う。
Yb = GTbl[Yl]
そして、ガンマ補正後の輝度YbとYC変換後のYaを合成して、エッジ検出用の輝度信号Yeと、本線の輝度信号Yを求める。
Ye = YEBLEND * Yb + (1-YEBLEND)Ya
Y = YYBLEND * Ya + (1-YYBLEND)Yb
ここで、YBBLEND,YABLENDは、カメラの設計者が 0〜1.0 に設定する。合成しない場合は、YEBLEND=1.0、YYBLEND=1.0 と設定する。輝度Yeに対して、エッジ検出して、エッジ成分Eを求める。
E = ラプラシアンフィルタ[輝度Ye]
ラプラシアンフィルタは、例えば、図5に示されたのようなものである。なお、図5において、c=4*(a+b)であり、a、bの設定の例としては、a=1.0、b=1.0などである。図5のラプラシアンフィルタは3×3だが、もっと大きいものでもよい。
そして、エッジ成分Eを調整して、エッジ成分Eadを作る。エッジ調整の例としては、例えば、以下の通りである。
+Cor < E の場合Ead1 = E-Cor
-Cor ≦ E ≦ +Cor の場合Ead1 = 0
E < -Cor の場合Ead1 = E+Cor
ここでCorは、コアリング閾値パラメータである。コアリング閾値パラメータは、エッジ成分Eのうち、強度の振幅がこれより小さいエッジは、ノイズであるとして、ノイズを除去するためのものである。したがって、エッジは、強度の振幅がコアリング閾値パラメータより大きいものとなる。Corは、輝度Ye,あるいは輝度Yに応じて変更できるようにしてもよい。
次に、以下の式に示される処理を行う。
Ead = Ead1 * Scl
ここでSclは、スケールパラメータである。この、スケールパラメータを乗算するという処理は、エッジ成分の強調度合いを調整するものであり、スケールパラメータが大きければ、強調度合いが強く、小さければ、強調度合いが弱くなる。Sclは、輝度Yg,あるいは輝度Yに応じて変更できるようにしてもよい。
最後に、YC変換後の輝度Yに、ノイズリダクション処理を施した輝度Ynに、調整されたエッジ成分Eadを足しこみ、エッジ強調された輝度Yeeを求める。
Yee = Yn + Ead
Yee が、符号無し8bit整数である場合、範囲[0〜255]に収まるようにクリップする
本実施形態は、本線用合成と、エッジ用合成の機能を持つ。合成に使用する輝度信号Ya,Ybの特徴は、以下の通りである。
輝度信号Ya・・(a)色補正を強くかけた場合、ノイズが増大する。
(b)色再現性は良い。(色補正しているため)
輝度信号Yb・・(a)色補正前のRGBからY変換して生成されるため、ノイズは増大しない。
(b)色再現性が悪い。(色補正していないため)
輝度信号Ya,Ybの特徴から、本線用合成、エッジ用合成それぞれについて以下のようなことが言える。
[本線用合成]
・輝度信号Yaの比率を大きくすると、色再現性は良いが、ノイズが混入しやすくなる。
・輝度信号Yaの比率を小さくすると、ノイズは軽減されるが、色再現性は悪くなる。
[エッジ用合成]
・輝度信号Yaの比率を大きくすると、色補正された輝度Yを直接調整できるので、エッジ強調の調整がしやすいが、ノイズが混入しやすくなる。
・輝度信号Yaの比率を小さくすると、ノイズは軽減されるが、エッジ強調の調整がしづらくなる。
本実施形態で注目するノイズの増幅要因は、2つに分かれる。
・ノイズ増幅要因A
撮像素子の色分離が悪く、色補正を強くかけることで発生するノイズ。
・ノイズ増幅要因B
暗い被写体を撮影する場合や、シャッター時間を短くしたい場合、被写体深度を大きくするため絞りを絞った場合などに、アナログフロントエンドのISO感度(AGCゲイン)を上げることで発生するノイズ。
本実施形態では、以下に説明するように、上記2つのノイズ増幅要因への対策が可能となる。
本実施形態は、ノイズがほとんど発生しない場合や、ノイズ増幅要因Aが存在する場合、ノイズ増幅要因Bが存在する場合に応じて、本線用合成と、エッジ用合成で、輝度信号YaとYbの比率を調整する機能を持つ。以降、調整方法を説明する。
・撮像素子の色分離が良い場合(ノイズがほとんど増幅されない場合)
撮像素子の色分離が良く、色補正を弱くかける場合には、輝度信号Yaにノイズが混入しにくいため、本線用合成、エッジ用合成共に輝度信号Yaの比率を大きくすると良い。これによれば、最後の輝度信号Yを直接調整できるので、エッジ強調の調整がしやすい。
また、本線用合成、エッジ用合成共に輝度信号Yaの比率を100%とすると、図1の従来技術と同等の処理が可能となる。
色補正を弱くかける場合には、図1の従来技術のような偽輪郭やノイズからの悪影響はほとんど発生しない。
・撮像素子の色分離が悪い場合(ノイズ増幅要因A)
撮像素子の色分離が悪く、色補正を強くかける場合、ノイズが混入しやすくなる。そこで、ノイズを軽減するための調整方法を示す。
エッジ強調用パスでは、小さな凹凸成分を大きくして加算するため、ノイズの影響は、本線パスよりも、エッジ強調用パスのほうが大きい。そこで、出力画像のノイズの大きさを見て、ノイズが大きい場合には、まずエッジ用合成の輝度信号Yaの比率を小さくしてノイズの影響を小さくする。
これでもノイズの軽減効果が小さい場合には、色再現性を犠牲にして、本線用合成の輝度信号Yaの比率を小さくしてノイズの影響を小さくする。
ノイズ増幅要因Aに対しては、カメラの光学系に従い調整する。つまりカメラの開発段階で調整する。
・ISO感度を上げていく場合(ノイズ増幅要因B)
ISO感度を上げると、ノイズが増加する。ノイズが増加するに従い、撮像素子の色分離が悪い場合と同様の調整を施す。ノイズ増幅要因Bに対しては、カメラ撮影時のISO感度(AGCゲイン)に応じて動的に変化するため、それに応じて調整する。
但し、上記の調整において、撮影者またはカメラ設計者が、色再現性よりもノイズ軽減を優先する場合には、本線用合成、エッジ用合成共に、輝度信号Yaの比率を小さくして、ノイズの影響を小さくしても良い。
以上の実施形態により、エッジ用合成において、輝度信号Yeを生成する際、色補正前のRGB信号から生成した輝度信号Ybを合成することができる。輝度信号Ybには偽輪郭が発生しないため、偽輪郭をエッジ強調してしまうことはない。また、本線用合成において、輝度信号Yを生成する際、輝度信号Ybを合成する手法を有することで、Yaの比率の分だけ本線の輝度のノイズを低減することができる。更に、エッジ用合成において、輝度信号Yeを生成する際、色補正前のRGB信号から算出した輝度信号Ybを合成することができるため、ノイズが増大する前の輝度からエッジ検出が可能となる。更に、1回の処理で、画像を生成できる。
また、本線用合成において、輝度信号Yを生成する際、色補正された輝度信号Yaを100%とすれば、規格通りの色再現性を保てる。撮像素子の色分離が良い場合、エッジ用合成において、本線の輝度信号Yaの比率を大きくすることで、色補正を経由した輝度データからもエッジ検出可能となる。更に、1つのハードウエアで、撮像素子の色分離の良し悪しに応じて、パラメータを調整して、そのセンサーに最適な画像処理が実現できるようになる。ノイズの多い少ないに応じて、パラメータを調節して、そのときに最適な画像処理を実現できるようになる。カメラ設計者、または、カメラ使用者の好みにより、ノイズ軽減と色再現性のどちらを重視するかに応じて、パラメータを調整して、好みに応じた画像処理を実現できるようになる。
図6〜図10は、本実施形態の変形例を説明する図である。
図6は、第1の変形例を示す図である。図6においては、ガンマ補正がなく、輝度信号の合成は、エッジ強調パス側のみでおこなっている。ガンマ補正は、出力装置の色空間(sRGB等)に合わせるために行っているが、出力装置の色空間に合わせるのにガンマ補正を必要としないなら、ガンマ補正を行わなくても良い。RGB信号は、Y変換部35で輝度信号Ylに変換される。また、RGB信号は、色補正部30で色補正され、YC変換部32でYCbCr信号に変換される。YC変換後の輝度信号Yaは、エッジ用合成部37において、輝度信号Ylと合成され、エッジ検出、エッジ調整が加えられる。輝度信号Yaは、ノイズ除去された後、加算器34で、エッジ検出信号Eadと加算される。
第1の変形例では、エッジ用合成において、輝度信号Yeを生成する際、色補正前のRGB信号から生成した輝度信号Ybを合成することができる。輝度信号Ybには偽輪郭が発生しないため、偽輪郭をエッジ強調してしまうことはない。また、エッジ用合成において、輝度信号Yeを生成する際、色補正前のRGB信号から算出した輝度信号Ybを合成することができるため、ノイズが増大する前の輝度からエッジ検出が可能となる。
また、撮像素子の色分離が良い場合、エッジ用合成において、本線の輝度信号Yaの比率を大きくすることで、色補正を経由した輝度データからもエッジ検出可能となる。
図7は、第2の変形例を示す図である。図7においては、ガンマ補正がなく、輝度信号の合成は、本線パス側のみでおこなっている。ガンマ補正は、12ビットの信号を8ビットの信号に変換する意味を持っているが、信号処理をすべて12ビットで行うことが出来るならば、ガンマ補正を行わなくても良い。RGB信号は、Y変換部35で輝度信号Ylに変換される。また、RGB信号は、色補正部30で色補正され、YC変換部32でYCbCr信号に変換される。YC変換後の輝度信号Yaは、本線用合成部38において、輝度信号Ylと合成され、ノイズ除去された後、加算器34で、エッジ検出信号Eadと加算される。
第2の変形例では、本線用合成において、輝度信号Yを生成する際、輝度信号Ybを合成する手法を有することで、本線の輝度のノイズを低減することができる。
また、本線用合成において、輝度信号Yを生成する際、色補正された輝度信号Yaを100%とすれば、規格通りの色再現性を保てる。
図8は、第3の変形例を示す図である。図8においては、ガンマ補正がなく、輝度信号の合成は、エッジ強調パス側と本線パス側の両方でおこなっている。ガンマ補正は、12ビットの信号を8ビットの信号に変換する意味を持っているが、信号処理をすべて12ビットで行うことが出来るならば、ガンマ補正を行わなくても良い。RGB信号は、Y変換部35で輝度信号Ylに変換される。また、RGB信号は、色補正部30で色補正され、YC変換部32でYCbCr信号に変換される。YC変換後の輝度信号Yaは、エッジ用合成部37において、輝度信号Ylと合成され、エッジ検出、エッジ調整が加えられる。また、輝度信号Yaは、本線用合成部38において、輝度信号Ylと合成され、ノイズ除去された後、加算器34で、エッジ検出信号Eadと加算される。
第3の変形例では、エッジ用合成において、輝度信号Yeを生成する際、色補正前のRGB信号から生成した輝度信号Ylを合成することができる。輝度信号Ylには偽輪郭が発生しないため、偽輪郭をエッジ強調してしまうことはない。また、本線用合成において、輝度信号Yを生成する際、輝度信号Ylを合成する手法を有することで、本線の輝度のノイズを低減することができる。更に、エッジ用合成において、輝度信号Yeを生成する際、色補正前のRGB信号から算出した輝度信号Ylを合成することができるため、ノイズが増大する前の輝度からエッジ検出が可能となる。
また、本線用合成において、輝度信号Yを生成する際、色補正された輝度信号Yaを100%とすれば、規格通りの色再現性を保てる。撮像素子の色分離が良い場合、エッジ用合成において、本線の輝度信号Yaの比率を大きくすることで、色補正を経由した輝度データからもエッジ検出可能となる。
図9は、第4の変形例を示す図である。RGB信号は、Y変換部35で輝度信号Ylに変換される。また、RGB信号は、色補正部30で色補正され、ガンマ補正部31において、ガンマ補正され後、YC変換部32でYCbCr信号に変換される。YC変換後の輝度信号Yaは、エッジ用合成部37において、ガンマ補正後の輝度信号Ybと合成され、エッジ検出、エッジ調整が加えられる。輝度信号Yaは、ノイズ除去された後、加算器34で、エッジ検出信号Eadと加算される。
第4の変形例では、エッジ用合成において、輝度信号Yeを生成する際、色補正前のRGB信号から生成した輝度信号Ybを合成することができる。輝度信号Ybには偽輪郭が発生しないため、偽輪郭をエッジ強調してしまうことはない。また、エッジ用合成において、輝度信号Yeを生成する際、色補正前のRGB信号から算出した輝度信号Ybを合成することができるため、ノイズが増大する前の輝度からエッジ検出が可能となる。
また、撮像素子の色分離が良い場合、エッジ用合成において、本線の輝度信号Yaの比率を大きくすることで、色補正を経由した輝度データからもエッジ検出可能となる。
図10は、第5の変形例を示す図である。RGB信号は、Y変換部35で輝度信号Ylに変換される。また、RGB信号は、色補正部30で色補正され、ガンマ補正部31でガンマ補正された後、YC変換部32でYCbCr信号に変換される。YC変換後の輝度信号Yaは、本線用合成部38において、ガンマ補正された後の輝度信号Ybと合成され、ノイズ除去された後、加算器34で、エッジ検出信号Eadと加算される。
第5の変形例では、本線用合成において、輝度信号Yを生成する際、輝度信号Ybを合成する手法を有することで、本線の輝度のノイズを低減することができる。
また、本線用合成において、輝度信号Yを生成する際、色補正された輝度信号Yaを100%とすれば、規格通りの色再現性を保てる。
図11は、デジタルカメラのブロック構成図である。
被写体からの光は、レンズ50によって集光され、撮像素子51によって電気信号に変換される。撮像素子51の出力は、増幅器52によって増幅され、A/D変換部54において、デジタル信号に変換された後、画像処理部56に入力される。レンズ50、撮像素子51、増幅器52は、それぞれ、制御部53からの制御を受ける。被写体情報検出部55は、A/D変換部54の出力を得て、被写体の明るさ等の情報を取得し、制御部53にパラメータとして与え、制御部53に、レンズの絞りや、露光時間などの制御をさせる。
画像処理部56では、A/D変換部54からの出力をオフセット調整部57が受けて、画像データのゼロ点の調整を行う。次に、ホワイトバランス処理部58が、画像データのホワイトバランスを調整し、色補間処理部59が、画素間の色データの補間処理を行う。色補正処理部60では、色補正を行い、ガンマ補正部61では、ガンマ補正を行い、YC変換部62では、画像信号をYC信号に変換し、エッジ強調処理部63がエッジ強調処理を行う。本発明の実施形態の構成は、この色補正処理部60からエッジ強調処理部63の間の構成である。そのほかに、画像処理部56では、階調補正部64、ノイズ抑制部65、解像度変換部66、圧縮部67を備え、階調の補正、ノイズ抑制、解像度変換、画像データの圧縮などを行う。画像処理部56は、パラメータ制御部70を介して、制御部53の制御を受ける。画像処理部56の出力は、メモリ制御部69を介して、制御部53によって制御されるメモリ部68に格納され、その後、画像データ保存部71に保存されるか、モニタ部72によって、画面表示される。
図12及び図13は、カメラの開発から使用に至る過程での本実施形態の合成比率の設定について説明する図である。
まず、カメラの開発期間において、カメラ設計者は、カメラの光学系、撮像素子を選択する。光学系、及び、撮像素子を選択することにより、画像の生データの色分離特性、解像度が決まる。色分離特性が決まると、色補正行列が決まる。
カメラ設計者は、制御部53用のソフトウェアを設計し、色補正行列を設定するプログラムを組み込む。次に、撮像素子の色分離が良い場合(ノイズがほとんど増幅されない場合)、あるいは、撮像素子の色分離が悪い場合(ノイズ増幅要因A)に従って、エッジ用合成、本線用合成を調整する。そして、制御部53用のソフトウェアを設計し、エッジ用合成、本線用合成を設定するプログラムを組み込む。このとき、ノイズ増幅要因Bが最小となるように、ISO感度も最小にしておく。
次に、自動明るさ調整(AE)を設計する。AEの設計に従い、ISO感度が決まる。また、ISO感度が決まると、ノイズ特性要因Bが決まる。ISO感度を上げていく場合(ノイズ増幅要因B)、ノイズが増加する。ノイズが増幅するに従って、エッジ用合成、本線用合成を調整する。
例えば、ISO感度を400から800にした場合、ノイズが増加するため、エッジ用合成、本線用合成共に、Yaの比率を小さくして、ノイズの影響を小さくする。ISO感度を上げるたびに、Yaの比率を小さくしていくことで、ノイズの影響を抑えることができる。
ただし、カメラ設計者が、ノイズ抑制、もくしは、色再現性のどちらを優先するかを検討して、エッジ用合成、本線用合成の比率を決めることが可能である。具体的には、カメラ設計者が、色再現性よりもノイズ軽減を優先する場合には本線用合成、エッジ用合成共に、Yaの比率を小さくして、ノイズの影響を小さくしても良い。逆に、色再現性を優先する場合には、本線用合成のYaの比率を大きくすることで、色再現性を保つことができる。
次に、カメラ設計者は、ユーザインタフェースを設計する。ISO感度がマニュアル制御の場合、カメラユーザーが設定したISO感度に応じたエッジ用合成、本線用合成の比率をカメラ設計者があらかじめ設定する。そして、制御部用のソフトウェアを設計し、プログラムを組み込む。撮影モードがマニュアル制御の場合、カメラユーザーが、ノイズ抑制の強弱や、カラーの鮮やかさを選択できるように、カメラ設計者があらかじめ設定し、制御部用のソフトウェアを設計し、プログラムを組み込む。
具体的には、カメラユーザーがノイズ抑制を"強"に設定した場合、エッジ用合成、本線用合成共に、Yaの比率が小さくなるように設定することでノイズを抑制する。逆に、ノイズ抑制を"弱"に設定した場合、エッジ用合成、本線用合成共に、Yaの比率が大きくなるように設定しておく。また、カメラユーザーがカラーを"鮮やかめ"に設定した場合、色補正を強くかけるため、ノイズが増加する。そのため、エッジ用合成、本線用合成共に、Yaの比率が小さくなるように設定しておくことでノイズを抑制することができる。
以上で、カメラの開発段階は終了する。次に、カメラの製品の使用期間においては、カメラユーザーがカメラを操作する。ISO感度が自動(Auto)制御の場合には、設計者の設定値をそのまま使用して、撮影する。ISO感度がマニュアル制御の場合には、カメラユーザーがISO感度を決める。また、撮影モードがAuto制御の場合には、設計者の設定値をそのまま使用して撮影するが、マニュアル制御の場合には、ノイズ抑制の強弱を決め、カラー設定を控えめ、あるいは、鮮やかめに設定するようにする。
10、20、30 色補正部
11、21、31、36 ガンマ補正部
12、22、32 YC変換部
13、23、39 エッジ検出部
14、24、40 エッジ調整部
15、25、33 ノイズ除去部
34 加算器
35 Y変換部
37 エッジ用合成部
38 本線用合成部
50 レンズ
51 撮像素子
52 増幅器
53 制御部
54 A/D変換部
55 被写体情報検出部
56 画像処理部
57 オフセット調整部
58 ホワイトバランス処理部
59 色補間処理部
60 色補正処理部
61 ガンマ補正部
62 YC変換部
63 エッジ強調処理部
64 階調補正部
65 ノイズ抑制部
66 解像度変換部
67 圧縮部
68 メモリ部
69 メモリ制御部
70 パラメータ制御部
71 画像データ保存部
72 モニタ部

Claims (9)

  1. RGB信号で入力される画像データにエッジ強調処理を行って出力するエッジ強調画像処理装置において、
    該入力されたRGB信号に色補正を行う色補正部と、
    該色補正されたRGB信号を第一輝度信号及び色差信号に変換するYC変換部と、
    該入力されたRGB信号から第二輝度信号を生成するY変換部と、
    該YC変換部で得られた第一輝度信号と、該Y変換部で得られた第二輝度信号とを合成するエッジ用合成部と、
    該エッジ用合成部の合成結果を用いてエッジ強調信号を得るエッジ強調部と、
    該YC変換部で得られた第一輝度信号と、該エッジ強調部で得られたエッジ強調信号とを加算する加算器と、
    を備えることを特徴とするエッジ強調画像処理装置。
  2. 前記YC変換部で得られた第一輝度信号と、前記Y変換部で得られた第二輝度信号とを、前記エッジ用合成部の合成とは独立して、合成する本線用合成部を更に備え、
    前記加算器は、前記エッジ強調信号と、該本線用合成部で得られた輝度信号とを加算することを特徴とする請求項1に記載のエッジ強調画像処理部。
  3. RGB信号で入力される画像データにエッジ強調処理を行って出力するエッジ強調画像処理装置において、
    該入力されたRGB信号に色補正を行う色補正部と、
    該色補正されたRGB信号を第一輝度信号及び色差信号に変換するYC変換部と、
    該入力されたRGB信号から第二輝度信号を生成するY変換部と、
    該YC変換部で得られた第一輝度信号と、該Y変換部で得られた第二輝度信号とを合成する本線用合成部と、
    該Y変換部で得られた第二輝度信号を用いてエッジ強調信号を得るエッジ強調部と、
    該本線用合成部で得られた第三輝度信号と、該エッジ強調部で得られたエッジ強調信号とを加算する加算器と、
    を備えることを特徴とするエッジ強調画像処理装置。
  4. 前記色補正部の出力にガンマ補正を行う第1のガンマ補正部と、
    前記Y変換部の出力にガンマ補正を行う第2のガンマ補正部と、
    を更に備えることを特徴とする請求項1〜3のいずれか1つに記載のエッジ強調画像処理装置。
  5. 前記第1及び第2のガンマ補正部は、入力信号のビット数よりも少ないビット数の出力を得ることを特徴とする請求項4に記載のエッジ強調画像処理装置。
  6. 前記エッジ用合成部による合成は、合成パラメータをxとすると、
    (合成信号)=x×(YC変換部で得られた第一輝度信号)+(1−x)×(Y変換部で得られた第二輝度信号)
    に従い行うことを特徴とする請求項1、2、4、5のいずれか1つに記載のエッジ強調画像処理装置。
  7. 前記本線用合成部による合成は、合成パラメータをxとすると、
    (合成信号)=x×(YC変換部で得られた第一輝度信号)+(1−x)×(Y変換部で得られた第二輝度信号)
    に従い行うことを特徴とする請求項2、3、4、5のいずれか1つに記載のエッジ強調画像処理装置。
  8. 請求項1〜7のいずれか1つに記載のエッジ強調画像処理装置を備えたデジタルカメラ。
  9. 前記加算器に入力される輝度信号にノイズ除去処理を施すノイズ除去部を更に備えることを特徴とする請求項1〜7のいずれか1つに記載のエッジ強調画像処理装置。
JP2009063321A 2009-03-16 2009-03-16 エッジ強調画像処理装置 Expired - Fee Related JP5223742B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2009063321A JP5223742B2 (ja) 2009-03-16 2009-03-16 エッジ強調画像処理装置
US12/694,819 US8797427B2 (en) 2009-03-16 2010-01-27 Image processing apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009063321A JP5223742B2 (ja) 2009-03-16 2009-03-16 エッジ強調画像処理装置

Publications (2)

Publication Number Publication Date
JP2010219797A true JP2010219797A (ja) 2010-09-30
JP5223742B2 JP5223742B2 (ja) 2013-06-26

Family

ID=42730380

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009063321A Expired - Fee Related JP5223742B2 (ja) 2009-03-16 2009-03-16 エッジ強調画像処理装置

Country Status (2)

Country Link
US (1) US8797427B2 (ja)
JP (1) JP5223742B2 (ja)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014071853A (ja) * 2012-10-02 2014-04-21 Fuji Xerox Co Ltd 画像処理装置及び画像処理プログラム
JP2014099046A (ja) * 2012-11-14 2014-05-29 Fuji Xerox Co Ltd 画像処理装置及び画像処理プログラム、画像調整装置及び画像調整プログラム
JP2016058941A (ja) * 2014-09-11 2016-04-21 株式会社ソシオネクスト 画像処理装置、方法、及び撮像装置
WO2018110051A1 (ja) * 2016-12-14 2018-06-21 富士フイルム株式会社 画像処理装置、撮像装置、画像処理方法及び画像処理プログラム
JP2019053402A (ja) * 2017-09-13 2019-04-04 キヤノン株式会社 画像処理装置及び画像処理方法及びプログラム
JP2019204225A (ja) * 2018-05-22 2019-11-28 キヤノン株式会社 画像処理装置、画像処理方法、及びプログラム

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1777938A1 (en) * 2005-10-19 2007-04-25 Thomson Licensing Method, system and device for colour quality control
JP5474586B2 (ja) * 2010-01-25 2014-04-16 オリンパス株式会社 画像処理装置
JP5701640B2 (ja) * 2011-02-18 2015-04-15 株式会社東芝 画像処理装置
JP6478138B2 (ja) * 2014-03-17 2019-03-06 株式会社リコー 画像処理装置、撮像装置、画像処理プログラム、画像処理方法
US9674466B2 (en) * 2015-02-26 2017-06-06 Dual Aperture International Co., Ltd. Hybrid image correction for dual-aperture camera
US10755392B2 (en) * 2017-07-13 2020-08-25 Mediatek Inc. High-dynamic-range video tone mapping

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003333617A (ja) * 2002-05-09 2003-11-21 Fuji Photo Film Co Ltd 色補正回路と撮像装置
JP2004235850A (ja) * 2003-01-29 2004-08-19 Olympus Corp 電子的撮像装置及び顕微鏡システム
JP2004248021A (ja) * 2003-02-14 2004-09-02 Minolta Co Ltd 撮像装置並びに画像処理装置及び方法
WO2008099685A1 (ja) * 2007-02-01 2008-08-21 Sony Corporation 画像再生装置と画像再生方法および撮像装置とその制御方法

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3666886B2 (ja) * 1992-12-28 2005-06-29 キヤノン株式会社 撮像装置
JP3699873B2 (ja) * 1999-10-27 2005-09-28 オリンパス株式会社 画像処理装置
JP2003101815A (ja) 2001-09-26 2003-04-04 Fuji Photo Film Co Ltd 信号処理装置及び信号処理方法
JP3876224B2 (ja) 2002-12-25 2007-01-31 株式会社日立製作所 画像信号処理装置と撮像装置
JP4734032B2 (ja) 2005-05-30 2011-07-27 富士通セミコンダクター株式会社 画像処理装置
JP4925198B2 (ja) * 2007-05-01 2012-04-25 富士フイルム株式会社 信号処理装置および方法、ノイズ低減装置および方法並びにプログラム

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003333617A (ja) * 2002-05-09 2003-11-21 Fuji Photo Film Co Ltd 色補正回路と撮像装置
JP2004235850A (ja) * 2003-01-29 2004-08-19 Olympus Corp 電子的撮像装置及び顕微鏡システム
JP2004248021A (ja) * 2003-02-14 2004-09-02 Minolta Co Ltd 撮像装置並びに画像処理装置及び方法
WO2008099685A1 (ja) * 2007-02-01 2008-08-21 Sony Corporation 画像再生装置と画像再生方法および撮像装置とその制御方法

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014071853A (ja) * 2012-10-02 2014-04-21 Fuji Xerox Co Ltd 画像処理装置及び画像処理プログラム
US9053552B2 (en) 2012-10-02 2015-06-09 Fuji Xerox Co., Ltd. Image processing apparatus, image processing method and non-transitory computer readable medium
JP2014099046A (ja) * 2012-11-14 2014-05-29 Fuji Xerox Co Ltd 画像処理装置及び画像処理プログラム、画像調整装置及び画像調整プログラム
JP2016058941A (ja) * 2014-09-11 2016-04-21 株式会社ソシオネクスト 画像処理装置、方法、及び撮像装置
US9704273B2 (en) 2014-09-11 2017-07-11 Socionext Inc. Image processing device, method, and imaging device
WO2018110051A1 (ja) * 2016-12-14 2018-06-21 富士フイルム株式会社 画像処理装置、撮像装置、画像処理方法及び画像処理プログラム
JPWO2018110051A1 (ja) * 2016-12-14 2019-10-24 富士フイルム株式会社 画像処理装置、撮像装置、画像処理方法及び画像処理プログラム
US11501412B2 (en) 2016-12-14 2022-11-15 Fujifilm Corporation Image processing apparatus, imaging apparatus, image processing method, and image processing program
JP2019053402A (ja) * 2017-09-13 2019-04-04 キヤノン株式会社 画像処理装置及び画像処理方法及びプログラム
JP2019204225A (ja) * 2018-05-22 2019-11-28 キヤノン株式会社 画像処理装置、画像処理方法、及びプログラム
JP7101539B2 (ja) 2018-05-22 2022-07-15 キヤノン株式会社 画像処理装置、画像処理方法、及びプログラム

Also Published As

Publication number Publication date
JP5223742B2 (ja) 2013-06-26
US20100231759A1 (en) 2010-09-16
US8797427B2 (en) 2014-08-05

Similar Documents

Publication Publication Date Title
JP5223742B2 (ja) エッジ強調画像処理装置
JP5527448B2 (ja) 画像入力装置
KR101099401B1 (ko) 화상 처리 장치 및 컴퓨터가 판독 가능한 기록 매체
EP1998571A1 (en) Image signal processing device and image signal processing method
JP2007094742A (ja) 画像信号処理装置及び画像信号処理プログラム
JP4892909B2 (ja) 信号処理方法、信号処理回路およびこれを用いたカメラシステム
CN105960658B (zh) 图像处理装置、摄像装置、图像处理方法以及可通过计算机处理的非暂时性的存储介质
US20120201454A1 (en) Signal processing device, signal processing method, imaging apparatus, and imaging processing method
JP2008505523A (ja) カメラの色ノイズ低減方法及び回路
US8648937B2 (en) Image processing apparatus, image processing method, and camera module
EP3460748B1 (en) Dynamic range compression device and image processing device cross-reference to related application
US20230196530A1 (en) Image processing apparatus, image processing method, and image capture apparatus
KR20140013891A (ko) 화상 처리 장치, 화상 처리 방법 및 고체 촬상 장치
US8692911B2 (en) Image processing device, image processing method, and camera module
JP4544308B2 (ja) 画像処理装置、撮像装置、方法およびプログラム
WO2018165023A1 (en) Method of decaying chrominance in images
JP5591026B2 (ja) 撮像装置及びその制御方法
JP2008305122A (ja) 画像処理装置、画像処理方法、およびプログラム
JP2003304556A (ja) 映像信号処理装置及び映像信号処理方法
JP2006333113A (ja) 撮像装置
JP4888037B2 (ja) 信号処理方法、信号処理回路及び撮像装置
JP2008227959A (ja) 画像処理装置、画像処理方法および画像処理システム
JP2007267170A (ja) 彩度調整機能を有する電子カメラ、および画像処理プログラム
JP2006332732A (ja) 色むらノイズ抑制装置
JP5754929B2 (ja) 画像処理装置及び画像処理方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20111125

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20121011

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20121016

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20121214

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130115

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130121

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130212

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130225

R150 Certificate of patent or registration of utility model

Ref document number: 5223742

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160322

Year of fee payment: 3

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees