JP3771054B2 - 画像処理装置及び画像処理方法 - Google Patents

画像処理装置及び画像処理方法 Download PDF

Info

Publication number
JP3771054B2
JP3771054B2 JP18585198A JP18585198A JP3771054B2 JP 3771054 B2 JP3771054 B2 JP 3771054B2 JP 18585198 A JP18585198 A JP 18585198A JP 18585198 A JP18585198 A JP 18585198A JP 3771054 B2 JP3771054 B2 JP 3771054B2
Authority
JP
Japan
Prior art keywords
image
signal
interpolation filter
interpolation
gradient direction
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP18585198A
Other languages
English (en)
Other versions
JP2000023174A (ja
Inventor
青木  伸
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP18585198A priority Critical patent/JP3771054B2/ja
Priority to US09/346,277 priority patent/US6882365B1/en
Publication of JP2000023174A publication Critical patent/JP2000023174A/ja
Application granted granted Critical
Publication of JP3771054B2 publication Critical patent/JP3771054B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/20Image enhancement or restoration using local operators
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4015Image demosaicing, e.g. colour filter arrays [CFA] or Bayer patterns
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/70Denoising; Smoothing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/843Demosaicing, e.g. interpolating colour pixel values
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Color Television Image Signal Generators (AREA)
  • Processing Of Color Television Signals (AREA)

Description

【0001】
【発明の属する技術分野】
この発明は、例えばデジタルカメラやデジタルスキャナ等のように複数の色分解フィルタを配列した撮像素子の出力する信号から通常のカラーデジタル画像信号に変換する画像処置装置及び画像処理方法、特に画質劣化の抑制に関するものである。
【0002】
【従来の技術】
1個の撮像デバイスから3原色信号を得るために、2次元に配列した画素おのおの色フィルタを重ね合わせ、色情報を輝度情報に多重された形式で撮像デバイスから取り出す単板式CCDがデジタルカメラやデジタルスキャナに使用されている。この単板式CCDで色再現性の向上を図る処理装置が、例えば特開平2−128591号公報に示されている。特開平2−128591号公報に示されている処理装置は、CCDに4種のカラーフィルタを設け、CCDから出力する各色フィルタ毎の信号を補間して、各々同時化されたマゼンタMr,シアンCr,イェローYr,グリーンGrの色信号を得た後、各色信号を行列演算してR,G,Bの3信号を生成するようにしている。
【0003】
【発明が解決しようとする課題】
しかしながら、各色フィルタの配列によっては補間によりモアレやエッジの色付きなどといった画質劣化が生じる。例えば、RGBの3種類の色分解フィルタをもつ単板式CCDの場合、3×3画素が図2に示すように、ある点を中心にして(G,R,G),(B,G,B),(G,R,G)と配列されている場合、中心の画素位置のR,G,B値を求めるためには、従来の線形補間ではそれぞれ図5に示すように9画素に重み付けをしたR,G,Bの補間フィルタを用い、その和を求めて中心の位置の色信号を得ている。例えば図2に示す場合は上下のR画素の平均値を注目画素のR値としている。
【0004】
このような補間フィルタを使用すると、撮像面上で図7(a),(b)に示すように、2画素周期の白黒の横縞の像を撮像した場合、像が白黒であるから色フィルタの種類によらず各画素から、図に示すように、白か黒を示す「0」と「255」数値を出力するため、補間結果の(R,G,B)値は、図7(a)の場合(255,0,0)となり、(b)の場合は(0,255,255)となる。すなわち、撮像面上では白/黒の像が補間処理された画像信号では赤/シアンになってしまう。同様なことが他の配置についても起こり、像の変化が激しいと実際の色とは異なる色をもつRGB画像データが得られてしまい、モアレや色付きの原因になってしまう。
【0005】
この発明はかかる短所を改善し、単板式CCDで得られるデータからRGBなどの画像データに変換するときに、モアレやエッジ色付きなどが生じることを防ぎ、画質劣化を抑制することができる画像処理装置及び画像処理方法を提供することを目的とするものである。
【0006】
【課題を解決するための手段】
この発明に係る画像処理装置は、複数の色分解フィルタを配列した撮像素子から出力する撮像信号をカラーデジタル画像信号に変換する画像処理装置において、撮像信号に対してあらかじめ定められた特性で補間フィルタ処理を行なう複数の補間フィルタ演算手段と、撮像信号から画像の輝度勾配方向を推定する手段と、上記推定された輝度勾配方向により変換行列の特性を決定する手段と、上記補間フィルタ演算手段から出力する信号と、上記輝度勾配方向によって決定された特性の変換行列とにより演算を行なう変換手段を有することを特徴とする。この輝度勾配方向によって決定された変換行列の特性を輝度勾配の方向により連続的に変化させると良い。
【0007】
この発明に係る他の画像処理装置は、複数の色分解フィルタを配列した撮像素子から出力する撮像信号をカラーデジタル画像信号に変換する画像処理装置において、撮像信号に対してあらかじめ定められた特性で補間フィルタ処理を行なう複数の補間フィルタ演算手段と、撮像信号から画像の輝度勾配方向を推定する手段と、上記推定された輝度勾配方向により修正して上記補間フィルタ演算手段から出力された信号と、変換行列とにより演算を行なう変換手段とを有することを特徴とする。
【0008】
この発明に係る画像処理方法は、複数の色分解フィルタを配列した撮像素子から出力する撮像信号をカラーデジタル画像信号に変換する画像処理方法において、撮像信号に対してあらかじめ定められた特性で補間フィルタ処理を行なうとともに撮像信号から画像の輝度勾配方向を推定し、上記推定された輝度勾配方向により変換行列の特性を決定し、補間フィルタ処理した信号に対して輝度勾配方向により決定された特性の変換行列とにより演算を行なうことを特徴とする。この輝度勾配方向によって決定された変換行列の特性を輝度勾配の方向により連続的に変化させると良い。
【0009】
この発明に係る他の画像処理方法は、複数の色分解フィルタを配列した撮像素子から出力する撮像信号をカラーデジタル画像信号に変換する画像処理方法において、撮像信号に対してあらかじめ定められた特性で補間フィルタ処理を行うとともに撮像信号から画像の輝度勾配方向を推定し、上記推定された輝度勾配方向により修正した補間フィルタ処理した信号と、変換行列とにより演算を行なうことを特徴とする。
【0012】
【発明の実施の形態】
この発明の画像入力装置は、2×2画素周期のRGB型単板CCDを有する撮像手段と信号処理部を有する。信号処理部はA/D変換器とラインバッファと行/列カウンタとフィルタ係数選択部及び3組の係数メモリと3組の補間フィルタを有する。A/D変換器は撮像手段で撮像した画像の画素毎の画像信号をA/D変換する。ラインバッファは撮像手段からスキャンライン順にシリアルに転送されてくる画像データから縦横3×3画素分のデータを取り出す。行/列カウンタは撮像手段が出力するデータ中の現在の注目画素位置の行と列をカウントし、行/列信号を出力して色フィルタの配列パターンを示す。フィルタ係数選択部はラインバッファから得られる3×3画素分の画像データに対して所定の演算を行ない、所定の閾値と比較して、縦,横,通常の3種類の補間フィルタ係数を選択する信号を出力する。係数メモリには2画素周期の縦縞用補間フィルタの補間用フィルタ係数と、線形補間用の補間用フィルタ係数があらかじめ記録され、フィルタ係数選択部からの係数選択信号と行/列カウンタからの行/列信号によりあらかじめ記録してある補間用フィルタ係数の中の1組を出力する。補間フィルタはラインバッファから入力する画像データを係数メモリから入力する補間用フィルタ係数を使って積和演算を行いRGB信号に変換する。
【0013】
撮像手段から画素毎の画像信号が入力するとA/D変換器でA/D変換したのちラインバッファに送る。ラインバッファは送られた画像データから縦横3×3画素分のデータを取り出してフィルタ係数選択部と補間フィルタに出力する。一方、行/列カウンタは撮像手段が出力するデータ中の現在の注目画素位置の行と列をカウントし、「0/0」,「0/1」,「1/0」,「1/1」の行/列信号を係数メモリに出力して色フィルタの配列パターンを示す。フィルタ係数選択部はラインバッファから得られた3×3画素分の画像データに対してあらかじめ定めた演算を行ない、所定の閾値と比較して、輝度勾配方向に応じた縦,横,通常の3種類の補間フィルタ係数を選択する信号を各係数メモリに出力する。各係数メモリはフィルタ係数選択部からの係数選択信号と行/列カウンタからの行/列信号にしたがい、あらかじめ記録してある補間用フィルタ係数の中の一組をそれぞれ補間フィルタに出力する。補間フィルタはラインバッファから入力する画像データをフィルタ係数メモリから入力する補間用フィルタ係数を使って積和演算を行いフィルタを処理しR,G,Bの画像信号を出力する。このようにして、輝度勾配の方向を調べ、方向に応じた補間用フィルタ係数を採用し、モアレや色付きなどの画質劣化を抑制する。
【0014】
【実施例】
図1はこの発明の一実施例の画像入力装置の構成を示すブロック図である。図に示すように、画像入力装置1は、2×2画素周期のRGB型単板CCDを有する撮像手段2と信号処理部3を有する。撮像手段2のCCDは3×3画素周期の色フィルタ配列を有する。この色フィルタは、例えば図2に示すように、3×3画素のある点を中心にして(G,R,G),(B,G,B),(G,R,G)の画素配置を有する。この3×3画素の範囲内のRGBの色フィルタ配列として図3に示す2×2の行/列信号で定まる4種類を有する。
【0015】
信号処理部3はA/D変換器4とラインバッファ5と行/列カウンタ6とフィルタ係数選択部7及び3組の係数メモリ8a,8b,8cと補間フィルタ9a,9b,9cを有する。A/D変換器4は撮像手段2で撮像した画像の画素毎の画像信号を入力して読出クロックに同期したタイミングでA/D変換する。ラインバッファ5は、例えば図4に示すように、FIFOメモリを使った1ライン遅延メモリ51a,51bと、3×3画素の各行に対応して直列に接続された3組のラッチ52a,52b,52cと3組のラッチ53a,53b,53cと3組のラッチ54a,54b,54cからなり、撮像手段2からスキャンライン順にシリアルに転送されてくる画像データから縦横3×3画素分のデータを取り出す。行/列カウンタ6は撮像手段2のCCDが出力するデータ中の現在の注目画素位置の行と列をカウントし、図3に示すように、「0/0」,「0/1」,「1/0」,「1/1」の行/列信号を出力して色フィルタの配列パターンを示す。フィルタ係数選択部7はラインバッファ5から得られる3×3画素分の画像データに対して所定の演算を行ない、所定の閾値と比較して、縦,横,通常の3種類の補間フィルタ係数を選択する信号(0,1,2)を出力する。係数メモリ8a,8b,8cには2画素周期の縦縞用補間フィルタの補間用フィルタ係数と、図5に示す線形補間用の補間用フィルタ係数があらかじめ記録され、フィルタ係数選択部7からの係数選択信号と行/列カウンタ6からの行/列信号にしたがい、あらかじめ記録してある補間用フィルタ係数の中の1組を出力する。補間フィルタ9a,9b,9cは、ラインバッファ5から入力する画像データを係数メモリ8a〜8cから入力する補間用フィルタ係数を使って積和演算を行いRGB信号に変換する。
【0016】
上記のように構成された画像入力装置1の動作を説明するにあたり、まず、入力した各画素の画像データ信号をR,G,B信号に変換する補間用フィルタ係数について説明する。
【0017】
図2に示す色フィルタの配列についての補間フィルタとしては、図6に示す構成を考える。この補間フィルタの特徴は、R画素にかかる係数は図5に示す従来の線形補間用の補間フィルタと同じ「1/2」であり、B画素にかかる係数も従来の補間フィルタと同じ「0」と「1/2」であり、G画素にかかる係数は従来の補間フィルタと異なり「1/2」と「−1/8」と「1/8」であり、G画素の係数の総和は「0」である。したがって3×3画素領域内の4つのG画像が同じ値を持っていれば、図5に示した従来の補間フィルタによる補間と全く同じ結果になる。さらに、このフィルタ係数には、横方向の3画素分の係数の和は上から順に「1/4」,「1/2」,「1/4」である。この特徴により図7(a),(b)に示すように、2画素周期の白黒の横縞の像を撮像した場合、補間結果の(R,G,B)値は、(a)の場合と(b)の場合で同じ値(128,128,128)になる。すなわち、このような補間フィルタを使えば、平坦な画像に対しては従来の補間と同じ値を持ち、2画素周期の白黒の横縞に対してはモアレがでないフラットな出力をすることができる。また、上記と同じ特徴を有する図8に示す係数を有する補間フィルタを使用しても、平坦な画像に対しての補間特性を保ったまま、2画素周期の縦縞に対してフラットな出力を得ることができる。
【0018】
このような特徴を有する補間フィルタの補間フィルタ係数は次のようにして得ることができる。ここで3×3画素の補間フィルタの補間フィルタ係数が上下左右で対象とする制約をつけると、補間フィルタ係数の自由度は図9に示すように(a,b,c,d)の4つである。これらの補間フィルタ係数には平坦な画像に対応するためRGBごとの制約がある。すなわち、R信号を出力する補間フィルタは、Rフィルタ位置の係数の和が1となり、G,Bフィルタ位置の係数の和はそれぞれ0とはならなければならない。このため2c=1と(a+4d)=0と2b=0の関係を満たさなければならない。さらに、2画素周期の横縞を透過させないために、上下行の係数の和と中段の係数の和を等しくすると、(2c+4d)=(2b+a)となる。この関係からR信号を出力する補間フィルタの補間フィルタ係数は、(a,b,c,d)=(1/2,0,1/2,−1/8)となる。G,B信号を出力する補間フィルタの補間フィルタ係数も同様にして得ることができ、図10及び図11に示す2画素周期の縦縞用補間用フィルタ係数を得ることができる。この図10及び図11に示す2画素周期の縦縞用補間フィルタ係数と図5に示す線形補間用の補間用フィルタ係数をあらかじめ係数メモリ8a〜8cに記憶しておく。
【0019】
しかしながら3×3画素の補間フィルタでは、上記のように4つの自由度に対して、制約条件はRGBそれぞれの和について3つである。残りの自由度は1つなので、縦または横方向の縞に対しての要求のどちらかしか満たすことはできない。3×3画素より大きい補間フィルタを使用すれば自由度は増すが、RGBそれぞれの制約条件があるため自由な周波数特性を作ることはできず、遠くの画素の影響が大きければそれだけ補間結果がぼけることになる。また、マスクが大きくなればバッファメモリ、加算器など必要なハードウエアも増えてしまう。このため輝度勾配の方向を調べ、方向によって上記のような補間方法のいずれかを採用することにより、モアレ色付きなどの画質劣化を抑制する。
【0020】
この輝度勾配の方向を推定するため、注目画素の周囲3×3画素の画像データを図12に示すようにV(x,y)とする。ここでxは(i−1),(i),(i+1)、yは(j−1),(j),(j+1)である。この画像デ−タV(x,y)に対して、注目画素v(i,j)の左側の輝度変化を表す量dlと、注目画素v(i,j)の右側と上側と下側の輝度変化をそれぞれ表す量dr,du,ddを下記(1)式で計算する。
【0021】
【数1】
Figure 0003771054
【0022】
次にdl,dr,du,ddの最大値を探す。最大値がdlまたはdrである場合、注目画素v(i,j)付近では横方向の輝度変化が大きいと判断できるので、図8に示す補間用フィルタ係数を使う。逆に最大値がduまたはddである場合は、図6に示す補間用フィルタ係数を使う。このような方法により、縦縞または横縞の対象物を撮影した場合でもモアレや色付きのないRGB画像を得ることができる。また、斜め方向の縞を撮影した場合、縦横ともに変化が大きくなる。その場合、縦/横どちらのフィルタをつかっても多少モアレが生る。また、わずかな雑音などにより図6,図8の縦横用フィルタ係数の処理結果が混在することで画質劣化が生じる。これを避けるために下記(2)式を演算する。
【0023】
【数2】
Figure 0003771054
【0024】
上記(2)式においてmax(dl,dr)はdl,drの最大値を示す。フィルタ係数選択部7は、この(1),(2)の演算を行ない、演算したdirを所定の閾値trと比較し、dir>trの場合は縦用、dir<−trの場合は横用、それ以外は図5に示す線形補間用の補間用フィルタ係数を選択して選択信号(0,1,2)を出力する。
【0025】
上記のように構成された画像入力装置1において、撮像手段2から入力した画像の画素毎の画像信号はA/D変換器4でA/D変換したのちラインバッファ5に送られる。ラインバッファ5は送られた画像データから縦横3×3画素分のデータを取り出してフィルタ係数選択部7と補間フィルタ9a〜9cに出力する。一方、行/列カウンタ6は撮像手段2のCCDが出力するデータ中の現在の注目画素位置の行と列をカウントし、図3に示すように「0/0」,「0/1」,「1/0」,「1/1」の行/列信号を係数メモリ8a〜8cに出力して色フィルタの配列パターンを示す。フィルタ係数選択部7はラインバッファ5から得られた3×3画素分の画像データに対して前記(1)、(2)式の演算を行ない、所定の閾値trと比較して、縦,横,通常の3種類の補間フィルタ係数を選択する信号(0,1,2)を係数メモリ8a〜8cに出力する。係数メモリ8a〜8cはフィルタ係数選択部7からの係数選択信号と行/列カウンタ6からの行/列信号にしたがい、あらかじめ記録してある補間用フィルタ係数の中の一組を補間フィルタ9a〜9cに出力する。補間フィルタ9a〜9cはラインバッファ5から入力する画像データをフィルタ係数メモリ8a〜8cからの補間用フィルタ係数を使って積和演算を行いフィルタを処理しR,G,Bの画像信号を出力する。
【0026】
このようにして、輝度勾配の方向を調べ、方向によって上記のような補間方法のいずれかを採用することにより、モアレや色付きなどの画質劣化を抑制することができる。また、例えば撮影対象が一様なシアン(R=G=255,B=0)の場合、入力データは図13に示すようになり、輝度勾配の方向を推定しない場合は、勾配が無いにもかかわらず縦と判断されるが、輝度勾配の方向を推定して補間用フィルタ係数を選択することにより、補間フィルタ9a〜9cは輝度勾配のない入力に対しては縦でも横でも同じ出力をするので、画像の輝度勾配に適応した補間処理を行なうことができる。
【0027】
上記実施例は画像の輝度勾配によって補間用フィルタ係数を切り替える場合について説明したが、画像の輝度勾配の方向によってRGB変換行列を変えるようにしても上記実施例と同様にが知るの劣化を抑制することができる。
【0028】
この画像の輝度勾配の方向によってRGB変換行列を変える実施例の構成を図14に示す。図に示すように、画像入力装置1の信号処理部3にはA/D変換器4とラインバッファ5と行/列カウンタ6と変換係数選択部11と変換係数メモリ12と補間フィルタ13a〜13d及びRGB変換部14を有する。変換係数選択部11は前記第1の実施例のフィルタ係数選択部7と同様な演算を行い、縦,横,通常の3種類の係数を選択する信号(0,1,2)を出力する。変換係数メモリ12には、図15に示すように、行/列信号毎に横勾配用の行列と縦勾配用の行列の勾配方向係数があらかじめ記憶され、変換係数選択部11からの係数選択信号と行/列カウンタ6からの行/列信号にしたがい勾配方向係数の中の一組を選択して出力する。補間フィルタ13aには、例えば図2に示す3×3画素の配置に対して図16に示すCh0の補間用フィルタ係数を有し、補間フィルタ13bはCh1の補間用フィルタ係数を有し、補間フィルタ13cにはCh2の補間用フィルタ係数、補間フィルタ13dにはCh3の補間用フィルタ係数を有し、ラインバッファ5から入力した画像データに対して各補間用フィルタ係数を使用して演算処理する。この補間フィルタ13a〜13dの各補間用フィルタ係数は「0」か「1」なので、演算処理を下記(3)式により選択と加算だけで実現することができる。したがって補間フィルタ13a〜13dを前記第1の実施例と比べて簡単な回路構成で形成することができる。
【0029】
【数3】
Figure 0003771054
【0030】
RGB変換部14は補間フィルタ13a〜13dで得た結果Ch0〜Ch3と変換係数メモリ12からの勾配方向係数により下記(4)式に示す行列演算してRGB信号を出力する。
【0031】
【数4】
Figure 0003771054
【0032】
このRGB変換部14でRGB信号を求めるとき、変換係数メモリ12から下記(5)式に示す横勾配用行列の勾配方向係数と(6)式に示す縦勾配用行列の勾配方向係数のいずれかが選択された場合、図12に示す注目画素V(x,y)のRGB信号は下記(7)式又は(8)式で得られる。
【0033】
【数5】
Figure 0003771054
【0034】
この結果、前記図6,図8に示した補間用フィルタ係数を使用した場合と同じ結果を得ることができる。また、このRGB変換と同時に色補正処理を行ったり、色差信号を生成することもできる。その場合、乗算処理が必要になるが、行列演算処理を簡単な回路構成で行なうことができる。
【0035】
次に、輝度勾配の方向によりRGB変換行列を連続的に変化させる第3の実施例について説明する。この実施例の画像入力装置1は、図17のブロック図に示すように、信号処理部3にA/D変換器4とラインバッファ5と行/列カウンタ6と勾配係数フィルタ15と変換係数決定部16と補間フィルタ13a〜13d及びRGB変換部14を有する。勾配係数フィルタ15は第1の実施例のフィルタ係数選択部7と同様に(1),(2)式の計算を行い、その演算結果dirを下記(9)式に示すように、所定の閾値trでクリッピングして正規化したdirを出力する。
【0036】
【数6】
Figure 0003771054
【0037】
変換係数決定部16は、例えば図15に示す勾配方向係数を記憶しておき、6行/列カウンタ6からの入力にしたがい勾配方向係数を選択し、選択した勾配方向係数に変換係数フィルタ15から入力したdirの値を乗じてRGB変換部14に出力する。RGB変換部14は補間フィルタ13a〜13dから出力されるCh0〜Ch3と変換係数決定部16から出力される勾配方向係数にdirの値を乗算した結果から行列演算してRGB信号を出力する。このように輝度勾配の方向によりRGB変換行列を連続的に変化させることにより、斜め方向の輝度勾配などによる画質劣化を低減することができる。すなわち、(5)式と(6)式を比べると、2組の勾配方向係数で係数r0,r3,b0,b3の符号が反転している。また、通常の線形補間はこれらを全て「0」とした場合に対応する。そこで、縦から横へ「1」から「−1」まで変化する数値dirを出力し、係数r0,r3,b0,b3にdirを乗算することで縦縞用と横縞用及びその他用の処理を連続的に変化させるができる。したがって斜め方向の縞などで縦用と横用係数が混在することによる画質劣化を抑えることができる。
【0038】
上記第2,第3の実施例は画像の輝度勾配の方向によってRGB変換行列を変える場合について説明したが、RGB変換行列の係数は一定にしておき、補間フィルタ13a〜13dから出力するCh0〜Ch3のデータを輝度勾配の方向により修正するようにしても良い。この場合の実施例の画像入力装置1の構成を図18に示す。図18に示すように、信号処理部3の勾配係数フィルタ15で演算した結果をRBG変換部14に送る。変換係数決定部16は、例えば図15に示す勾配方向係数を記憶しておき、変換係数決定部16は行/列カウンタ6から入力する行/列信号により勾配方向係数を選択してRGB変換部14に送る。RGB変換部14は補間フィルタ13a〜13dから出力されるCh0〜Ch3データと勾配係数フィルタ15から送られた演算結果dir及び変換係数決定部16から送られた勾配方向係数により下記(10)式でRGB信号を演算して出力する。
【0039】
【数7】
Figure 0003771054
【0040】
このように、補間フィルタ13a〜13dから出力されるCh0〜Ch3データを輝度勾配の方向で修正することにより、簡単な回路構成で画質の劣化を抑制することができる。
【0041】
上記各実施例は画素ごとのRGB信号を出力する場合について説明したが、補間用フィルタ係数又はRGB変換係数を変更することにより、輝度信号と色差信号を得ることもできる。さらに、補間用フィルタ係数又はRGB変換係数を変更することにより色分解フィルタの特性を補正する色補正処理を組み込むこともできる。
【0042】
上記各実施例は撮像手段2から入力した画像データを信号処理部3で所定の演算処理をして各画素毎のRGB信号を出力する場合について説明したが、図19のブロック図に示すように、信号処理部3の各演算処理をプログラムとしてハードディスク装置23に格納しておき、CPU21でハードディスク装置23に格納した各演算処理プログラムにより演算処理を実行して画素毎のRGB信号を得るようにしても良い。
【0043】
この場合、例えばデジタルカメラ28で撮像した画像データをA/D変換してから通信装置27を介して入力する。CPU21は入力した画像データをハードディスク装置23に格納された演算処理プログラムにより、上記各実施例と同様に演算処理して画素毎のRGB信号を算出し、入力した画像のカラーデジタル画像信号を得る。このカラーデジタル画像信号により入力した画像のカラー画像をディスプレイ24やプリンタ25に出力して表示したり印刷する。このようにハードディスク装置23に格納した各演算処理プログラムによりCPU21で演算処理を実行して画素毎のRGB信号を得ることにより、フロッピーディスクに記憶した画像データをフロッピーディスク装置26で読み取って再現することもできる。
【0044】
【発明の効果】
この発明は以上説明したように、撮像信号に対してあらかじめ定められた特性で補間フィルタ処理するとともに撮像信号から画像の輝度勾配方向を推定し、推定された輝度勾配方向により変換行列の特性を決定し、補間フィルタ処理した信号と、輝度勾配方向によって決定された特性の変換行列とにより演算を行なうから、画像の勾配に適応した変換処理を行うことができ、モアレ、色つきを低減することができる。さらに、補間処理は加算だけで済むから、小規模な演算回路で補間処理を行なうことができる。
【0045】
また、撮像信号に対してあらかじめ定められた特性で補間フィルタ処理を行うとともに撮像信号から画像の輝度勾配方向を推定し、上記推定された輝度勾配方向により修正した補間フィルタ処理した信号と、変換行列とにより演算を行なうから、画像の勾配に適応した変換処理を行うことができ、モアレ、色つきを低減することができる。さらに、補間処理は加算だけで済むから、小規模な演算回路で補間処理を行なうことができる。
【0046】
また、輝度勾配方向によって決定された変換行列の特性を輝度勾配の方向により連続的に変化させることにより、斜め方向の勾配などによる画質劣化を低減することができる。
【0047】
また、撮像信号に対してあらかじめ定められた特性で補間フィルタ処理を行うとともに撮像信号から画像の輝度勾配方向を推定し、上記推定された輝度勾配方向により修正した補間フィルタ処理した信号と、変換行列とにより演算を行なうことにより、小規模な演算回路で任意の色変換行列に対応することができる。
【図面の簡単な説明】
【図1】この発明の実施例の構成を示すブロック図である。
【図2】3×3画素の配置図である。
【図3】色フィルタの配列パターンを示す説明図である。
【図4】ラインバッファの構成を示すブロック図である。
【図5】線形補間用の補間フィルタの補間用フィルタ係数を示す説明図である。
【図6】横縞用の補間フィルタの補間用フィルタ係数を示す説明図である。
【図7】横縞の入力データを示す3×3画素の配置図である。
【図8】他の横縞用の補間フィルタの補間用フィルタ係数を示す説明図である。
【図9】3×3画素の補間用フィルタ係数の自由度を示す説明図である。
【図10】横縞用の補間用フィルタ係数を示す説明図である。
【図11】他の横縞用の補間用フィルタ係数を示す説明図である。
【図12】注目画素の周囲3×3画素のデータを示す説明図である。
【図13】シアンの入力データを示す説明図である。
【図14】第2の実施例の構成を示すブロック図である。
【図15】横勾配用の行列と縦勾配用の行列の勾配方向係数を示す説明図である。
【図16】第2の実施例の補間用フィルタ係数を示す説明図である。
【図17】第3の実施例の構成を示すブロック図である。
【図18】第4の実施例の構成を示すブロック図である。
【図19】第5の実施例の構成を示すブロック図である。
【符号の説明】
1 画像入力装置
2 撮像手段
3 信号処理部
4 A/D変換器
5 ラインバッファ
6 行/列カウンタ
7 フィルタ係数選択部
8 係数メモリ
9 補間フィルタ
11 変換係数選択部
12 変換係数メモリ
13 補間フィルタ
14 RGB変換部
15 勾配係数フィルタ
16 変換係数決定部

Claims (6)

  1. 複数の色分解フィルタを配列した撮像素子から出力する撮像信号をカラーデジタル画像信号に変換する画像処理装置において、
    撮像信号に対してあらかじめ定められた特性で補間フィルタ処理を行なう複数の補間フィルタ演算手段と、
    撮像信号から画像の輝度勾配方向を推定する手段と、
    上記推定された輝度勾配方向により変換行列の特性を決定する手段と、
    上記補間フィルタ演算手段から出力する信号と、上記輝度勾配方向によって決定された特性の変換行列とにより演算を行なう変換手段と、
    を有することを特徴とする画像処理装置。
  2. 上記輝度勾配方向によって決定された変換行列の特性を輝度勾配の方向により連続的に変化させる請求項1記載の画像処理装置。
  3. 複数の色分解フィルタを配列した撮像素子から出力する撮像信号をカラーデジタル画像信号に変換する画像処理装置において、
    撮像信号に対してあらかじめ定められた特性で補間フィルタ処理を行なう複数の補間フィルタ演算手段と、
    撮像信号から画像の輝度勾配方向を推定する手段と、
    上記推定された輝度勾配方向により修正して上記補間フィルタ演算手段から出力された信号と、変換行列とにより演算を行なう変換手段と
    を有することを特徴とする画像処理装置。
  4. 複数の色分解フィルタを配列した撮像素子から出力する撮像信号をカラーデジタル画像信号に変換する画像処理方法において、
    撮像信号に対してあらかじめ定められた特性で補間フィルタ処理を行なうとともに撮像信号から画像の輝度勾配方向を推定し、上記推定された輝度勾配方向により変換行列の特性を決定し、補間フィルタ処理した信号に対して輝度勾配方向により決定された特性の変換行列とにより演算を行なうことを特徴とする画像処理方法
  5. 上記輝度勾配方向によって決定された変換行列の特性を輝度勾配の方向により連続的に変化させる請求項4記載の画像処理方法。
  6. 複数の色分解フィルタを配列した撮像素子から出力する撮像信号をカラーデジタル画像信号に変換する画像処理方法において、
    撮像信号に対してあらかじめ定められた特性で補間フィルタ処理を行うとともに撮像信号から画像の輝度勾配方向を推定し、上記推定された輝度勾配方向により修正した補間フィルタ処理した信号と、変換行列とにより演算を行なうことを特徴とする画像処理方法。
JP18585198A 1998-07-01 1998-07-01 画像処理装置及び画像処理方法 Expired - Fee Related JP3771054B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP18585198A JP3771054B2 (ja) 1998-07-01 1998-07-01 画像処理装置及び画像処理方法
US09/346,277 US6882365B1 (en) 1998-07-01 1999-07-01 Direction-sensitive correction method and system for data including abrupt intensity gradients

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP18585198A JP3771054B2 (ja) 1998-07-01 1998-07-01 画像処理装置及び画像処理方法

Publications (2)

Publication Number Publication Date
JP2000023174A JP2000023174A (ja) 2000-01-21
JP3771054B2 true JP3771054B2 (ja) 2006-04-26

Family

ID=16177998

Family Applications (1)

Application Number Title Priority Date Filing Date
JP18585198A Expired - Fee Related JP3771054B2 (ja) 1998-07-01 1998-07-01 画像処理装置及び画像処理方法

Country Status (2)

Country Link
US (1) US6882365B1 (ja)
JP (1) JP3771054B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2276262A2 (en) 2009-07-06 2011-01-19 Ricoh Company, Ltd. Image pick-up apparatus with a light transmissive filter

Families Citing this family (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4581191B2 (ja) * 2000-06-21 2010-11-17 株式会社ニコン 補間処理装置および補間処理プログラムを記録した記録媒体
JP4495355B2 (ja) * 2001-01-15 2010-07-07 Hoya株式会社 画像補間装置
JP4666786B2 (ja) * 2001-02-07 2011-04-06 Hoya株式会社 画像補間装置
KR100396898B1 (ko) * 2001-09-13 2003-09-02 삼성전자주식회사 이미지센서 출력데이터 처리장치 및 처리방법
JP4451044B2 (ja) * 2002-02-21 2010-04-14 株式会社メガチップス 混成画素補間装置および混成画素補間方法
KR100505681B1 (ko) * 2003-03-31 2005-08-02 삼성전자주식회사 베이어 패턴 컬러 신호에 대한 적응형 필터로 보간을수행하여 해상도를 높이는 보간기, 이를 구비한 디지털영상 신호 처리 장치, 및 그 방법
WO2006026354A2 (en) * 2004-08-25 2006-03-09 Newport Imaging Corporation Apparatus for multiple camera devices and method of operating same
ITVA20040038A1 (it) * 2004-10-04 2005-01-04 St Microelectronics Srl Metodo di interpolazione del colore di una immagine acquisita da un sensore digitale mediante il filtraggio direzionale
GB2426881B (en) * 2005-06-01 2010-12-29 Snell & Wilcox Ltd Method and apparatus for spatial interpolation of colour images
KR101201672B1 (ko) * 2005-12-20 2012-11-15 삼성전자주식회사 의사 색 억제 기능을 갖는 디지털 영상 신호 처리 장치 및그 방법
CN101150731B (zh) * 2006-09-22 2012-05-23 罗罡 用于数字成像的彩色滤波阵列及其成像方法
JP2009005166A (ja) * 2007-06-22 2009-01-08 Olympus Corp 色補間装置及び画像処理システム
US8229212B2 (en) * 2008-04-08 2012-07-24 Qualcomm Incorporated Interpolation system and method
JP2010081024A (ja) * 2008-09-24 2010-04-08 Oki Semiconductor Co Ltd 画像補間処理装置
US20110013053A1 (en) * 2008-09-29 2011-01-20 Rui Chen Defective pixel detection and correction
KR101580168B1 (ko) * 2008-12-30 2015-12-24 주식회사 동부하이텍 컬러 보간 장치
US8345117B2 (en) * 2010-06-30 2013-01-01 Hand Held Products, Inc. Terminal outputting monochrome image data and color image data
JP5440461B2 (ja) 2010-09-13 2014-03-12 株式会社リコー 校正装置、距離計測システム、校正方法および校正プログラム
JP5870510B2 (ja) 2010-09-14 2016-03-01 株式会社リコー ステレオカメラ装置、校正方法およびプログラム
CN103270756B (zh) * 2011-03-11 2014-08-13 富士胶片株式会社 图像传感设备、控制其操作的方法和图像感测系统
JP5755814B2 (ja) 2012-08-27 2015-07-29 富士フイルム株式会社 画像処理装置、方法、プログラム及び撮像装置
CN102938843B (zh) * 2012-11-22 2014-12-03 华为技术有限公司 图像处理方法、装置以及成像设备

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4630307A (en) * 1984-09-10 1986-12-16 Eastman Kodak Company Signal processing method and apparatus for sampled image signals
JP2733859B2 (ja) * 1989-09-28 1998-03-30 キヤノン株式会社 カラー撮像装置
US5373322A (en) * 1993-06-30 1994-12-13 Eastman Kodak Company Apparatus and method for adaptively interpolating a full color image utilizing chrominance gradients
US5382976A (en) * 1993-06-30 1995-01-17 Eastman Kodak Company Apparatus and method for adaptively interpolating a full color image utilizing luminance gradients
JP2931520B2 (ja) * 1993-08-31 1999-08-09 三洋電機株式会社 単板式カラービデオカメラの色分離回路
US5629734A (en) * 1995-03-17 1997-05-13 Eastman Kodak Company Adaptive color plan interpolation in single sensor color electronic camera
US5652621A (en) * 1996-02-23 1997-07-29 Eastman Kodak Company Adaptive color plane interpolation in single sensor color electronic camera
US5805217A (en) * 1996-06-14 1998-09-08 Iterated Systems, Inc. Method and system for interpolating missing picture elements in a single color component array obtained from a single color sensor
JP3806211B2 (ja) * 1997-01-08 2006-08-09 株式会社リコー 撮像信号処理方法及び撮像信号処理装置
US6563537B1 (en) * 1997-07-31 2003-05-13 Fuji Photo Film Co., Ltd. Image signal interpolation
JPH11122626A (ja) * 1997-10-17 1999-04-30 Nikon Corp 画像処理方法及び装置並びに画像処理プログラムを記録した記録媒体
US6229578B1 (en) * 1997-12-08 2001-05-08 Intel Corporation Edge-detection based noise removal algorithm

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2276262A2 (en) 2009-07-06 2011-01-19 Ricoh Company, Ltd. Image pick-up apparatus with a light transmissive filter
US8462435B2 (en) 2009-07-06 2013-06-11 Ricoh Company, Ltd. Imaging apparatus with light transmissive filter

Also Published As

Publication number Publication date
US6882365B1 (en) 2005-04-19
JP2000023174A (ja) 2000-01-21

Similar Documents

Publication Publication Date Title
JP3771054B2 (ja) 画像処理装置及び画像処理方法
JP3806211B2 (ja) 撮像信号処理方法及び撮像信号処理装置
JP4162111B2 (ja) 画像処理方法および装置並びに記録媒体
JP5672776B2 (ja) 画像処理装置、および画像処理方法、並びにプログラム
JP5306563B2 (ja) 撮像装置及び画像生成方法
KR100667803B1 (ko) 컬러 채널 상호간의 특성을 고려한 컬러 잡음 제거 방법 및장치
JP4668185B2 (ja) 画像処理方法
US7995868B2 (en) Image processing method and image processing device
KR20040066051A (ko) 가중 그래디언트 기반 및 컬러 수정 보간
JP2005159957A (ja) 色補間方法
US8520099B2 (en) Imaging apparatus, integrated circuit, and image processing method
JP4317619B2 (ja) 画像処理装置
JPWO2002071761A1 (ja) 画像処理装置および画像処理プログラム
US7489822B2 (en) Image processing apparatus and method for detecting a direction of an edge in the vicinity of a pixel of interest and generating all color signals for each pixel by interpolation using color signals of a pixel of interest and its neighbor pixels, and a recording medium having a program recorded thereon for causing the apparatus to perform the method
KR100421348B1 (ko) 컬러 촬상 장치
JP4032579B2 (ja) 単板式固体撮像素子の色補間方法および単板式固体撮像素子の色補間処理プログラムを記録した記録媒体
JP5484015B2 (ja) 撮像装置、撮像方法、及びプログラム
JP4122082B2 (ja) 信号処理装置およびその処理方法
KR100960176B1 (ko) 화상 신호 처리 장치, 화상 신호 처리 회로, 화상 신호 처리 방법 및 기록매체
JP4139587B2 (ja) 単板式カラーディジタルカメラにおける撮像画像の補間装置および方法
JP3946913B2 (ja) 信号生成方法および装置並びに記録媒体
JP3657826B2 (ja) 画素補間方法
JP2001136542A (ja) 信号処理装置
JP5139350B2 (ja) 画像処理装置、画像処理方法、撮像装置
JP4323051B2 (ja) カラー撮像素子及びそのカラー撮像素子を用いた撮像装置

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20050308

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20050315

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050516

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20060207

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20060208

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100217

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110217

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120217

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130217

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130217

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140217

Year of fee payment: 8

LAPS Cancellation because of no payment of annual fees