JP4914303B2 - 画像処理装置及び撮像装置、画像処理方法及び撮像方法、画像処理プログラム - Google Patents

画像処理装置及び撮像装置、画像処理方法及び撮像方法、画像処理プログラム Download PDF

Info

Publication number
JP4914303B2
JP4914303B2 JP2007184969A JP2007184969A JP4914303B2 JP 4914303 B2 JP4914303 B2 JP 4914303B2 JP 2007184969 A JP2007184969 A JP 2007184969A JP 2007184969 A JP2007184969 A JP 2007184969A JP 4914303 B2 JP4914303 B2 JP 4914303B2
Authority
JP
Japan
Prior art keywords
color
image
color difference
image processing
pixel
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2007184969A
Other languages
English (en)
Other versions
JP2009021962A (ja
Inventor
保宏 沢田
Original Assignee
シリコン ヒフェ ベー.フェー.
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority to JP2007184969A priority Critical patent/JP4914303B2/ja
Application filed by シリコン ヒフェ ベー.フェー. filed Critical シリコン ヒフェ ベー.フェー.
Priority to PCT/JP2008/062584 priority patent/WO2009011308A1/ja
Priority to KR1020107003274A priority patent/KR101344824B1/ko
Priority to EP08778099.5A priority patent/EP2178305B1/en
Priority to US12/669,011 priority patent/US8106974B2/en
Publication of JP2009021962A publication Critical patent/JP2009021962A/ja
Priority to US13/357,284 priority patent/US8542299B2/en
Application granted granted Critical
Publication of JP4914303B2 publication Critical patent/JP4914303B2/ja
Priority to US14/031,651 priority patent/US9232203B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • H04N9/646Circuits for processing colour signals for image enhancement, e.g. vertical detail restoration, cross-colour elimination, contour correction, chrominance trapping filters
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4015Image demosaicing, e.g. colour filter arrays [CFA] or Bayer patterns
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • H04N23/12Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths with one sensor only
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/843Demosaicing, e.g. interpolating colour pixel values
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/703SSIS architectures incorporating pixels for producing signals other than image signals
    • H04N25/704Pixels specially adapted for focusing, e.g. phase difference pixel sets
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2209/00Details of colour television systems
    • H04N2209/04Picture signal generators
    • H04N2209/041Picture signal generators using solid-state devices
    • H04N2209/042Picture signal generators using solid-state devices having a single pick-up sensor
    • H04N2209/045Picture signal generators using solid-state devices having a single pick-up sensor using mosaic colour filter
    • H04N2209/046Colour interpolation to calculate the missing colour values

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Color Television Image Signal Generators (AREA)
  • Processing Of Color Television Signals (AREA)

Description

本発明は、2次元状に複数の光電変換素子(画素)が配置されてRGB3原色のベイヤー配列のカラーフィルタを有する撮像素子を備えた画像処理装置及び撮像装置に関し、特に、解像度が良くて偽色が少なく、画質を向上させる技術に関する。
従来、デジタルカメラなどの撮像系において、レンズを介して撮像素子に被写体像を結像して、この撮像素子によって被写体像を光電変換し、画像信号を生成する画像処理装置及び画像処理方法が知られている。
そして、単板式の撮像素子として、マトリクス状に複数の光電変換素子によって構成されると共に、その前面にカラーフィルタが備えられ、このカラーフィルタを介して出力した各色の画素信号に信号処理を加えて画像データを生成する画像処理装置及び画像処理方法が知られている。
また、画像処理装置において、単板式撮像素子におけるカラーフィルタが、光電変換素子の夫々に対応付けられて、マトリクス状にR(赤)G(緑)B(青)の3色からなるベイヤー(Bayer)配列で構成され、この撮像素子を介して出力された画像信号のRが1画素、Gが2画素、Bが1画素からなる4画素を1単位として、1単位毎に輝度信号及び色差信号を生成し、これらの信号から、カラー画像の画素に対応付けた画像信号を生成しているものがある(例えば、特許文献1参照)。
例えば、前記の単板式撮像装置を用いた画像処理装置では、ベイヤー配列のカラーフィルタを備えたCCD(Charge Coupled Device)を介してR、Gr、Gb、Bの色信号を取り込み、次いで、R、Gr、Gb、Bの4画素ずつサンプリングしてこの4画素の中心画素に対応する画像信号を作成している。
詳しくは、単板式の撮像素子では各画素が単色の色情報しか持たないが、カラー画像を表示するためには、赤色(R)、緑色(G)、青色(B)の値すべてが各画素で必要である。このため単板式撮像素子を用いた画像処理では、各画素がR、G、B成分のうちの何れかのみを有する色モザイク画像にもとづいて、いわゆるデモザイク処理を行っている。ここで、デモザイク処理とは、色モザイク画像の各画素の単色情報に対してその周辺画素から集めた他の足りない色の輝度情報を用いて補間演算を行うことにより、各画素がそれぞれR、G、B成分の全てを有するカラー画像を生成する処理である(所謂、色補間処理である)。
ところで、このような単板式撮像素子を用いた画像処理において、単に補間処理を行うのみでは、偽色が発生したり解像度を損なったりする虞がある。
例えば、R信号及びB信号のサンプリング周波数が、G信号の1/2しかないため、fs/2(ナイキスト周波数)以上はサンプリング定理によって全て折り返ってしまう。また、R信号及びB信号の位相がfs/2で互いにずれてしまう。
そして、前記の折り返しや位相差によって画面に偽色(例えば、本来の被写体にはない縞状の模様)が生じるという問題があった。そこで、偽色を防止するために、レンズと撮像素子との間にカットオフ周波数がfs/2程度の光学フィルタを配置して、撮像素子に対するfs/2以上の入射光をカットする方法がある(例えば、特許文献2参照)。
また、前記カラー画像処理装置では、画像エッジ周辺に発現する偽色抑制に着目し、画像エッジ周辺において、隣接する複数の画素信号の差分を比較し、この差分が予め定められた所定値(閾値)を超える場合には、この画素信号を抑圧することにより、偽色を抑制する方法がある(例えば、特許文献3参照)。
特開2000−287211 特開平7−7733 特開平11−308625
しかしながら、従来のようにレンズと撮像素子との間にカットオフ周波数がfs/2程度の光学フィルタを配置すれば、偽色の除去とともに正しい信号成分もカットされ、解像度を損なう虞があった。
また、特許文献3のように、このエッジ周辺において、隣接する複数の画素信号の差分を比較して、この差分が予め定められた所定値内に入るように偽色を抑制する方法によれば、偽色ではない有色の縞模様を、偽色として誤って低減し、彩度を損なう虞があった。
そこで、本発明は、解像度を損なうことなく偽色を抑制できて、高品位なカラー画像を得ることができる画像処理装置及び撮像装置、画像処理方法及び撮像方法、画像処理プログラムを提供することを目的とする。
かかる目的を達成するためになされた請求項1に記載の発明は、ベイヤー配列のカラーフィルタを有する撮像素子を介して出力され、R(赤)、Gr(画素配列の一方向において前記Rの隣に位置する緑)、Gb(前記一方向においてBの隣に位置する緑)B(青)からなるモザイク画像から、画素毎に複数の色情報を備えたカラー画像を生成する画像処理装置であって、前記カラー画像における画素位置において、前記R、Gr、Gb、Bを一単位とし、前記R、Gr、Gb、Bの画素信号の和から輝度(Y)を生成し、前記Grの画素信号とGbの画素信号との和から前記Rの画素信号とBの画素信号を減算して第一色差を生成すると共に、前記Rの画素信号と前記Bの画素信号との差を算出して第二色差を生成する同時化手段と、前記第一色差及び第二色差の少なくとも何れか一方の偽色抑制を行う偽色抑制手段と、前記輝度、前記偽色抑制手段を介して偽色抑制された第一色差、第二色差等を所定の色空間に変換して前記色情報を生成する色空間変換手段と、を備えることを特徴とする。
請求項1に記載の発明によれば、カラー画像における画素位置において、R、Gr、Gb、Bを一単位とし、R、Gr、Gb、Bの画素信号の和から輝度(Y)を生成し、Grの画素信号とGbの画素信号との和からRの画素信号とBの画素信号を減算して第一色差を生成すると共に、Rの画素信号とBの画素信号との差を算出して第二色差を生成する同時化手段と、第一色差及び第二色差の少なくとも何れか一方の偽色抑制を行う偽色抑制手段と、輝度、偽色抑制手段を介して偽色抑制された第一色差、第二色差等を所定の色空間に変換して色情報を生成する色空間変換手段と、を備えることにより、解像度を損なうことなく偽色を抑制できて、高品位なカラー画像を得ることができ、特には、輝度の高周波成分を色差と誤って検出することによって生じる偽色を、効果的に抑制することができる。
本出願の発明者によって、ベイヤー配列のカラーフィルタを有する撮像素子を介して出力されたモザイク画像において、斜め方向では第一色差の偽色が発現し易く、水平及び垂直方向では第二色差の偽色が発現し易いことが見出された。そこで、モザイク画像から第一色差及び第二色差を生成して、これらを所定量低減させることにより、高品位なカラー画像を得ることができる。
また、請求項1に記載画像処理装置は、請求項2に記載の発明のように、前記偽色抑制の情報として、輝度の異なる方向の高周波成分の量を表す第一パラメータ及び第二パラメータの少なくとも何れか一方のパラメータを生成する偽色情報生成手段を備えていることにより、これらのパラメータに応じて第一色差及び第二色差に含まれる偽色の信号成分を精度良く抑制できる。
また、請求項2に記載の画像処理装置は、請求項3に記載の発明のように、前記第二パラメータが、前記Grの画素信号とGbの画素信号との差を表すパラメ−タであることにより、GrとGbとの差に基づいて偽色の量を演算して偽色を抑制できる。つまり、ベイヤー配列の撮像素子に縦或いは横方向にfs/2の周期を持つ輝度の縞模様を含む画像が結像した場合に、Rの画素又はBの画素に結像する輝度が異なり偽色が発生する。この際、同様にGrの画素とGbの画素に結像する輝度も異なるので、GrとGbの差を偽色抑制情報の第二パラメータとすればよい。
また、請求項2に記載の画像処理装置は、請求項4に記載の発明のように、前記偽色抑制手段が、前記第一パラメータに応じて前記第一色差を抑制し、前記第二パラメータに応じて、前記第二色差を抑制するように構成されていることにより、第一色差及び第二色差に含まれる偽色を抑制できる。
また、請求項1乃至請求項4の何れかに記載の画像処理装置は、請求項5に記載の発明のように、前記偽色抑制手段を介して出力された第一色差及び第二色差に対して、高周波ノイズを除去する低周波透過フィルタを備えていることにより、カラー画像における色差ノイズを低減できて、一層、高品位なカラー画像を生成できる。
また、請求項1に記載の画像処理装置は、請求項6に記載の発明のように、前記偽色抑制手段が、前記第一色差及び第二色差に対して、高周波成分を除去する低周波透過フィルタであることにより、第一色差及び第二色差の位相ずれを抑制でき、高品位なカラー画像を得ることができる。
次に、請求項7に記載の発明は、前記撮像素子に被写体像を導くための撮像光学系と、前記撮像素子を介して出力されたモザイク画像の画像信号に基づいて、画素毎に複数の色情報を備えたカラー画像を生成する画像処理装置とを備えた撮像装置であって、前記画像処理装置が請求項1乃至請求項6の何れかである、ことを特徴とする。
請求項7に記載の撮像装置によれば、請求項1乃至請求項6に記載の画像処理装置を備えているので、解像度を損なうことなく偽色を抑制できて、高品位なカラー画像を得ることができ、特には、輝度の高周波成分を色差と誤って検出することによって生じる偽色を、効果的に抑制することができる。
また、請求項7に記載の撮像装置は、請求項8に記載の発明のように、被写体像を前記撮像素子へ結像させる入射光路上に、前記カラー画像の画素配列における、斜め方向の輝度高周波を抑制する光学ロ−パスフィルタが備えられ、該光学ローパスフィルタのカットオフが、前記モザイク画像の画素の配置方向に関連付けられて、前記モザイク画像の周波数空間上で原点を中心として斜め45°に傾いた四辺形を成し、この四辺形の内方を透過帯域とするように構成されていることにより、第一色差の偽色が発現する画素配列斜め方向の輝度高周波を効果的に抑制でき、偽色抑制手段と相まって、一層、偽色抑制の効果を発現できる。
次に、請求項9に記載の発明は、ベイヤー配列のカラーフィルタを有する撮像素子を介して出力され、R(赤)、Gr(画素配列の一方向において前記Rの隣に位置する緑)、Gb(前記一方向においてBの隣に位置する緑)B(青)からなるモザイク画像から、画素毎に複数の色情報を備えたカラー画像を生成する画像処理方法であって、前記カラー画像における画素位置において、前記R、Gr、Gb、Bを一単位とし、前記R、Gr、Gb、Bの画素信号の和から輝度(Y)を生成する輝度生成ステップと、前記Grの画素信号とGbの画素信号との和から前記Rの画素信号とBの画素信号を減算して第一色差を生成する第一色差生成ステップと、前記Rの画素信号と前記Bの画素信号との差を算出して第二色差を生成する第二色差生成ステップと、前記第一色差及び第二色差の少なくとも何れか一方の偽色抑制を行う偽色抑制ステップと、前記輝度及び前記偽色抑制ステップを介して偽色抑制された第一色差、第二色差を所定の色空間に変換して前記色情報を生成する色空間変換ステップと、を用いることを特徴とする。
請求項9に記載の画像処理方法は、カラー画像における画素位置において、R、Gr、Gb、Bを一単位とし、R、Gr、Gb、Bの画素信号の和から輝度(Y)を生成する輝度生成ステップと、Grの画素信号とGbの画素信号との和から前記Rの画素信号とBの画素信号を減算して第一色差を生成する第一色差生成ステップと、Rの画素信号とBの画素信号との差を算出して第二色差を生成する第二色差生成ステップと、第一色差及び第二色差の少なくとも何れか一方の偽色抑制を行う偽色抑制ステップと、輝度及び偽色抑制ステップを介して偽色抑制された第一色差、第二色差を所定の色空間に変換して前記色情報を生成する色空間変換ステップと、を用いることにより、請求項1に記載の発明と同様に、解像度を損なうことなく偽色を抑制できて、高品位なカラー画像を得ることができ、特には、撮像素子から出力される画素信号の偽色を、効果的に抑制することができる。
また、請求項9に記載の画像処理方法は、請求項10に記載の発明のように、前記偽色抑制の情報として、輝度の異なる方向の高周波成分の量を表す第一パラメータ及び第二パラメータの少なくとも何れか一方のパラメータを生成する偽色情報生成ステップを用いることにより、請求項2に記載の発明と同様に、これらのパラメータに応じて第一色差及び第二色差に含まれる偽色の信号成分を精度良く抑制できる。
また、請求項10に記載の画像処理方法は、請求項11に記載の発明のように、前記第二パラメータが、前記Grの画素信号とGbの画素信号との差を表すパラメ−タであることにより、請求項3に記載の発明と同様に、GrとGbとの差に基づいて偽色の量を演算して偽色を抑制できる。
また、請求項10に記載の画像処理方法は、請求項12に記載の発明のように、前記偽色抑制ステップにおいて、前記第一パラメータに応じて前記第一色差を抑制し、前記第二パラメータに応じて前記第二色差を抑制することにより、請求項4に記載の発明と同様に、第一色差及び第二色差に含まれる偽色を抑制できる。
また、請求項9乃至請求項12の何れかに記載の画像処理方法は、請求項13に記載の発明のように、前記偽色抑制ステップを介して出力された第一色差及び第二色差に対して、低周波透過フィルタを用いて高周波成分を除去することにより、請求項5に記載の発明と同様に、カラー画像における色差ノイズを低減できて、一層、高品位なカラー画像を生成できる。
また、請求項9に記載の画像処理方法は、請求項14に記載の発明のように、前記偽色抑制ステップにおいて、低周波透過フィルタを用いて、前記第一色差及び第二色差に対して高周波成分を除去することにより、請求項6に記載の発明と同様に、第一色差及び第二色差の位相ずれを抑制でき、高品位なカラー画像を得ることができる。
次に、請求項15に記載の発明は、前記撮像素子に被写体像を導くための撮像光学系を用い、前記撮像素子を介して出力されたモザイク画像の画像信号に基づいて、画素毎に複数の色情報を備えたカラー画像を生成するように画像処理を行う撮像方法であって、前記画像処理方法が請求項9乃至請求項14の何れかである、ことを特徴とする。
請求項15に記載の撮像方法によれば、画像処理方法が請求項9乃至請求項14の何れかであることにより、請求項7に記載の発明と同様に、解像度を損なうことなく偽色を抑制できて、高品位なカラー画像を得ることができ、特には、輝度の高周波成分を色差と誤って検出することによって生じる偽色を、効果的に抑制することができる。
また、請求項15に記載の撮像方法は、請求項16に記載の発明のように、被写体像を前記撮像素子へ結像させる入射光路上に、前記カラー画像の画素配列における、斜め方向の輝度高周波を抑制する光学ロ−パスフィルタを配置し、該光学ローパスフィルタのカットオフが、前記モザイク画像の画素の配置方向に関連付けられて、前記モザイク画像の周波数空間上で原点を中心として斜め45°に傾いた四辺形を成し、この四辺形の内方を透過帯域とすることにより、請求項8に記載の発明と同様に、第一色差の偽色が発現する画素配列の斜め方向の輝度高周波を効果的に抑制でき、偽色抑制手段と相まって、一層、偽色抑制の効果を発現できる。
次に、請求項17に記載の発明は、ベイヤー配列のカラーフィルタを有する撮像素子を介して出力され、R(赤)、Gr(画素配列の一方向において前記Rの隣に位置する緑)、Gb(前記一方向においてBの隣に位置する緑)B(青)からなるモザイク画像から、画素毎に複数の色情報を備えたカラー画像を生成させる画像処理プログラムであって、前記カラー画像における画素位置において、前記R、Gr、Gb、Bを一単位とし、前記R、Gr、Gb、Bの画素信号の和から輝度(Y)を生成する輝度生成ステップと、前記Grの画素信号とGbの画素信号との和から前記Rの画素信号とBの画素信号を減算して第一色差を生成する第一色差生成ステップと、前記Rの画素信号と前記Bの画素信号との差を算出して第二色差を生成する第二色差生成ステップと、前記輝度値、第一色差及び第二色差のうち、少なくとも何れか一方の偽色抑制を行う偽色抑制ステップと、前記輝度、前記偽色抑制ステップを介して出力された第一色差、第二色差を、所定の色空間に変換して前記色情報を生成する色空間変換ステップと、をコンピュータに実行させることを特徴とする。
請求項17に記載の画像処理プログラムによれば、カラー画像における画素位置において、R、Gr、Gb、Bを一単位とし、R、Gr、Gb、Bの画素信号の和から輝度(Y)を生成する輝度生成ステップと、Grの画素信号とGbの画素信号との和からRの画素信号とBの画素信号を減算して第一色差を生成する第一色差生成ステップと、Rの画素信号とBの画素信号との差を算出して第二色差を生成する第二色差生成ステップと、輝度値、第一色差及び第二色差のうち、少なくとも何れか一方の偽色抑制を行う偽色抑制ステップと、輝度、偽色抑制ステップを介して出力された第一色差、第二色差を、所定の色空間に変換して色情報を生成する色空間変換ステップと、をコンピュータに実行させることにより、請求項1に記載の発明と同様に、解像度を損なうことなく偽色を抑制できて、高品位なカラー画像を得ることができ、特には、輝度の高周波成分を色差と誤って検出することによって生じる偽色を、効果的に抑制することができる。
また、請求項17に記載の画像処理プログラムは、請求項18に記載の発明のように、
前記偽色抑制の情報として、輝度の異なる方向の高周波成分の量を表す第一パラメータ及び第二パラメータの少なくとも何れか一方のパラメータを生成する偽色情報生成ステップを、コンピュータに実行させることにより、請求項2に記載の発明と同様に、これらのパラメータに応じて第一色差及び第二色差に含まれる偽色の信号成分を精度良く抑制できる。
また、請求項18に記載の画像処理プログラムは、請求項19に記載の発明のように、
前記第二パラメータが、前記Grの画素信号とGbの画素信号との差を表すパラメ−タであることにより、請求項3に記載の発明と同様に、GrとGbとの差に基づいて偽色の量を演算して偽色を抑制できる。
また、請求項18に記載の画像処理プログラムは、請求項20に記載の発明のように、前記偽色抑制ステップにおいて、前記第一パラメータに応じて前記第一色差の偽色を抑制し、前記第二パラメータに応じて前記第二色差の偽色を抑制するように、コンピュータに実行させることにより、請求項4に記載の発明のように、第一色差及び第二色差に含まれる偽色を抑制できる。
また、請求項17乃至請求項20の何れかに記載の画像処理プログラムは、請求項21に記載の発明のように前記偽色抑制ステップを介して出力された第一色差及び第二色差に対して、低周波透過フィルタを用いて高周波成分を除去するように、コンピュータに実行させることにより、請求項5に記載の発明と同様に、カラー画像における色差ノイズを低減できて、一層、高品位なカラー画像を生成できる。
また、請求項17に記載の画像処理プログラムは、請求項22に記載の発明のように、前記偽色抑制ステップにおいて、低周波透過フィルタを用いて、前記第一色差及び第二色差に対して高周波成分を除去するように、コンピュータに実行させることにより、請求項6に記載の発明と同様に、第一色差及び第二色差の位相ずれを抑制でき、高品位なカラー画像を得ることができる。
本発明の画像処理装置及び撮像装置、画像処理方法及び撮像方法、画像処理プログラム
は、カラー画像における画素位置において、R、Gr、Gb、Bを一単位とし、R、Gr、Gb、Bの画素信号の和から輝度(Y)を生成し、Grの画素信号とGbの画素信号との和からRの画素信号とBの画素信号を減算して第一色差を生成すると共に、Rの画素信号とBの画素信号との差を算出して第二色差を生成し、輝度値、第一色差及び第二色差の夫々毎に偽色抑制を行って、偽色抑制された、第一色差、第二色差を所定の色空間に変換して色情報を生成することにより、解像度を損なうことなく、効果的に偽色を抑制でき、高品位なカラー画像を生成できる。
また、本発明は、偽色抑制の情報として、輝度の高周波成分の量を表す第一パラメータ及び第二パラメータを生成することにより、これらのパラメータに応じて第一色差及び第二色差に含まれる偽色の信号成分を精度良く抑制できる。
また、本発明は、第二パラメータが、Grの画素信号とGbの画素信号との差を表すパラメ−タであることにより、GrとGbとの差に基づいて偽色の量を演算して偽色を抑制できる。
また、本発明は、偽色抑制手段が、第一パラメータに応じて第一色差を抑制し、第二パラメータに応じて、第二色差を抑制するように構成されていることにより、第一色差及び第二色差に含まれる偽色を抑制できる。
また、本発明は、偽色抑制手段を介して出力された第一色差及び第二色差に対して、高周波ノイズを除去する低周波透過フィルタを備えていることにより、カラー画像における色差ノイズを低減できて、一層、高品位なカラー画像を生成できる。
また、本発明は、偽色抑制手段が、第一色差及び第二色差に対して、高周波成分を除去する低周波透過フィルタであることにより、第一色差及び第二色差の位相ずれを抑制でき、高品位なカラー画像を得ることができる。
(第1の実施形態)
次に、本発明の画像処理装置及び撮像装置、画像処理方法及び撮像方法の一実施例を図面にもとづいて説明する。
図1は、本発明の実施例の撮像装置1の構成を表すブロック図である。図1表したように、撮像装置1は、被写体像Pを撮像素子5に導いてデジタル画像信号C(モザイク状の画像信号である)として出力する撮像光学系2と、撮像光学系2を介して出力されたデジタル画像信号Cに基づいて、画素毎に複数の色情報を備えたカラー画像を生成する画像処理装置100とによって構成されている。
撮像光学系2には、被写体像Pを撮像素子5に導く撮像レンズ3、受光した撮像光を電気量に変換して出力する撮像素子(CCD:Charge Coupled Devices)5、撮像素子5から出力されるアナログ画像信号をデジタル画像信号Cに変換して出力するAFE(Analog Front End)6、撮像素子5及びAFE6を所定の周期で制御するTG(Timing Generator)13、撮像レンズ3の光軸方向(図3中のZ方向)のスライド駆動を行うレンズ駆動部12、センサ11を介して撮像レンズ3のスライド量を検出する検出部10等が備えられている。
撮像素子5は、複数の光電変換素子がマトリクス状に並設されて構成され、夫々の光電変換素子毎に撮像信号を光電変換してアナログ画像信号を出力するように構成されている。
また、撮像素子5は、光電変換素子に対応付けてR(赤)G(緑)B(青)3色のベイヤー(Bayer)配列からなるカラーフィルタ5aを備え、各色のフィルタ部を通過した光量を電気信号に変換する。
AFE6は、撮像素子5を介して出力されたアナログ画像信号に対してノイズを除去する相関二重サンプリング回路(CDS:Corelated Double Sampling)7、相関二重サンプリング回路7で相関二重サンプリングされた画像信号を増幅する可変利得増幅器(AGC:Automatic Gain Control)8、可変利得増幅器8を介して入力された撮像素子5からのアナログ画像信号をデジタル画像信号に変換するA/D変換器9、等によって構成され、撮像素子5から出力された画像信号を、所定のサンプリング周波数でデジタル画像信号Cに変換して画像処理装置100に出力する。
なお、撮像光学系2において、撮像素子5、相関二重サンプリング回路7、可変利得増幅器8、A/D変換器9等に代えて、CMOS(Complementary Metal Oxide Semiconductor)センサを用いてもよい。撮像素子5から出力される画素毎の信号が単一の色情報しかもたないので、撮像光学系2から画像処理装置100に、前述のモザイク状の画像信号が出力される。
次に、画像処理装置100は、撮像光学系2から出力されたモザイク画像を、R、Gr、Gb、Bの画素毎に分離して記憶する色プレーン分解部21、色プレーン分解部21から出力された画素信号にもとづいてカラー画像の画素位置における色情報を生成する同時化部25、同時化部25を介して出力された画素信号に対して偽色抑制を行う偽色抑制部31、偽色抑制部31を介して出力された画素信号に含まれる高周波成分を除去する低域透過フィルタ34、低域透過フィルタ34を介して出力された画像信号を所定の色空間に変換して色情報を生成する色空間変換部37、CPU(Central Processing Unit)38、ROM(Red Only Memory)39等によって構成され、CPU38がROM39に格納された制御用プログラムに従って、当該画像処理装置100及び撮像装置1の各処理を制御する。
色プレーン分解部21は、ベイヤー配列に対応付けられて、Rの画素信号を記憶するRフィールドメモリ22と、Gr(一方向においてRに隣接するR)の画素信号を記憶するGrフィールドメモリ23aと、Gb(一方向においてBに隣接するR)の画素信号を記憶するGbフィールドメモリ23bと、Bの画素信号を記憶するBフィールドメモリ24と、によって構成され、CPU38からの指令に基づき、これらの画素信号(以下、画素値という)を同時化部25に出力する。
同時化部25は、図3に表したように、複数の色プレーン毎に、サンプリング座標301〜304における画素値を、色プレーン内に含まれる同一の色光の画素値から補間演算によって算出する。ここで、サンプリング座標301〜304は、色空間変換部37を介して記録されるカラー画像の画素位置に対応付けられた色モザイク画像上の位置であって、例えば色収差補正などの画像処理の条件に合わせて、予め設定されている。
また、同時化部25は、色プレーン部21で補間して求められた各色の画素値にもとづいて、R、Gr、Gb、Bを一単位とし、R、Gr、Gb、Bの画素値の和から輝度(Y´)を生成する輝度生成部26、画素配列斜め方向に沿って発現する輝度の高周波を検出する斜め高周波検出部27、Grの画素値とGbの画素値との和からRの画素値とBの画素値を減算して第一色差を生成する第一色差生成部28、Rの画素値とBの画素値との差を算出して第二色差を生成する第二色差生成部29、水平垂直方向に発現する輝度の高周波を検出する水平垂直高周波検出部30と、によって構成されている。
詳しくは、同時化部25は、色モザイク画像に基づいて、出力画像の各画素位置における輝度Y´を、Y´=(R+Gr+Gb+B)/4、の演算式で算出し、第一色差C1を、C1=(Gr+Gb−R−B)/4、の演算式で算出し、第二色差C2を、(R−B)/2の演算式で算出し、第二パラメータK2を、(Gr−Gb)/2、の演算式で算出する。
ここで、図4(a)(b)に表したように、第二色差C2に偽色が発生すれば(図において、偽色をハッチングで示している)、GrとGbとの色差(Gr−Gb)にも偽色が発生していると考えられるので、第二パラメータK2を上述の演算式で求めることができる。
また、パラメータK1については、色モザイク画像に対して(式1)の重み係数を有するフィルタを掛け、フィルタ後の色モザイク画像の色プレーンを用いて図3に表したR及びBの補間値を求め、Rの補間値とBの補間値を用いて、K1=(R−B)/2、の演算式で算出する。
また、出力画像の画素位置が色モザイク画像の各画素位置に対応している場合には、色モザイク画像に対してフィルタを掛けることによって輝度Y´、第一色差C1、第二色差C2、第二パラメータK2を得て、第一色差C1に(式2)のフィルタを掛けることにより、第一パラメータK1を得ることもできる。
上述のように、第一パラメータK1は、注目画素を中心として斜め方向の画素値の変化量を表す指標であって、(R−B)に限らず、画素配列の斜め方向45度の縞上で値をもつものであればよい。また、この際、K1は、画像に変化のないベタ分では、画像に色があっても値を持たず、水平垂直方向の縞上でも値を持たないことが望ましく、さらには、高周波の斜め45度方向の縞模様に対して大きな値をもつように、フィルタを構成するとよい。
次に、輝度生成部26によって生成された輝度Y´が色空間変換部37に出力され、斜め高周波検出部27で検出された第一パラメータK1、第一色差生成部28で生成された第一色差C1、第二色差生成部29で生成された第二色差C2、水平垂直高周波検出部30で検出された第二パラメータK2等が、偽色抑制部31に出力される。尚、本発明における同時化手段及び偽色情報生成手段は、同時化部25によってその機能が発現される。
偽色抑制部31は、同時化部25から入力された第一パラメータK1及び第一色差C1に応じて第一色差C1の偽色を抑制するC1偽色除去部32と、第二パラメータK2及び第二色差C2に応じて第二色差C2の偽色を抑制するC2偽色除去部33とによって構成されている。
C1偽色除去部32は、同時化部25で生成された第一色差C1の量を第一パラネータK1に応じて抑制し、C2偽色除去部33は、同時化部25で生成された第二色差C2の量を第二パラメータK2に応じて抑制する。
例えば、下記式を用いて、C1、C2の絶対値から(ゼロを跨がない限りにおいて)、K1、K2の絶対値に係数m1、m2を掛けた値を減じればよい。
C1→sign(C1)*max(0,abs(C1)−m1*abs(K1))
C2→sign(C2)*max(0,abs(C2)−m2*abs(K2))
ここで、m1、m2は、偽色抑制の強度を調整するためのパラメータである。尚、本発明における偽色抑制手段は、偽色抑制部31によってその機能が発現される。
次に、低周波透過フィルタ34は、C1偽色除去部32から出力された第一色差C1に対してさらに偽色抑制を行う第一低周波透過フィルタ35と、C2偽色除去部33から出力された第二色差C2に対してさらに偽色抑制を行う第二低周波透過フィルタ36とによって構成されている。
図2(c)に表したように、同時化部25を介してえられた輝度Y´第一色差C1、第二色差C2は、夫々異なる解像度限界を持ち、C1の透過域がC2の透過域よりも広い。そこで、C1に対してはC2より広い透過域のLPF(ローパスフィルタ)を掛けることにより、解像度の劣化を抑えつつ、効果的に偽色を抑えることができる。
例えば、C1に対しては(式3)のフィルタを掛け、C2には(式4)のフィルタを掛ければよい。
或いは、C1に対してはC2より狭い透過域のLPFを掛けることにより、C1、C2の周波数特性を揃え、不自然さのない画像にすることもできる。
例えば、C1に対しては(式5)のフィルタを掛け、C2には(式6)のフィルタを掛ければよい。
次に、色空間変換部37は、同時化部25を介して得られた輝度Y´、偽色抑制部31を介して得られた第一色差C1及び第二色差C2を、標準的なカラー画像の色空間に変換し、カラー画像の画素毎のYUVのカラー情報を生成する(Yは輝度情報、U、Vは色情報である)。
例えば、R=Y´−C1+C2の演算式でR成分の画素値を求め、G=Y´+C1の演算式でG成分の画素値を求め、B=Y´−C1−C2の演算式でB成分の画素値を求め、さらに、(式7)を用いてRGBをYUV色情報に変換すればよい。
そして、以上のようにカラー画像の全ての画素に対して画像処理装置100による処理が行われ、YUVのカラー情報が、図示されない視覚補正部に出力されて、公知のガンマ補正や彩度補正、エッジ強調、といった画像補正が行われる。
(第2の実施形態)
第1の実施形態では偽色抑制部31で第一色差C1及び第二色差C2の偽色を抑制し、さらに低周波透過フィルタ31で偽色抑制をおこなったが、第2の実施形態では、偽色抑制部31おける第一の色差C1の偽色抑制と低域透過フィルタ34における偽色抑制が省かれ、第二色差C2のみの偽色抑制がおこなわれる。また、撮像装置1の基本的な構成は、第1の実施形態と共通なので、特徴となる部分について、下記に記載する。
第2の実施形態における撮像装置1は、撮像レンズ3と撮像素子5との間に不要な空間周波数を除去する光学ローパスフィルタ(図示せず)を備え、撮像光学系2から出力されたモザイク画像の画素信号が、色プレーン分解部21を介して同時化部25に入力される。
前述の光学ローパスフィルタは、図2(a)、(b)に表したように、カットオフが、後述のモザイク画像の画素の配置方向に関連付けられて、モザイク画像の周波数空間上で原点を中心として斜め45°に傾いた四辺形を成し、この四辺形の内方を透過帯域とするように構成されている。詳しくは、光学ローパスフィルタは、4点分離型であって、対向する点が画素ピッチ1/fsと等しくなるような、斜め45度に傾いた正方形の4頂点に光線を分離し、G(緑)や紫の偽色の元となる輝度高周波を効果的に抑制する。
同時化部25は、図3に表したように、複数の色プレーン毎に、サンプリング座標301〜304における画素値を、色プレーン内に含まれる同一の色光の画素値から補間演算によって算出する。
次に、同時化部25は、色モザイク画像に基づいて、出力画像の各画素位置における輝度Y´を、Y´=(R+Gr+Gb+B)/4、の演算式で算出し、第一色差C1を、C1=(Gr+Gb−R−B)/4、の演算式で算出し、第二色差C2を、(R−B)/2の演算式で算出し、第二パラメータK2を、(Gr−Gb)/2、の演算式で算出する。
また、出力画像の画素位置が色モザイク画像の各画素位置に対応している場合には、色モザイク画像に対して(式8)から(式11)のフィルタを掛けることによって輝度Y´、第一色差C1、第二色差C2、第二パラメータK2を求める。
詳しくは、R、Gr、Gb、Bからなる色モザイク画像に対して(式8)のフィルタを掛けることにより、輝度Y´が得られる。
また、色モザイク画像における、GrとGbの画素では(式9)のフィルタを掛け、RとBの画素では(式10)のフィルタを掛け、これらのフィルタを介して出力した画素値を合計することによって第一色差C1が得られる。
また、色モザイク画像のR画素では(式11)のフィルタを掛け、B画素では(式12)のフィルタを掛け、Gr画素では(式13)のフィルタを掛け、Gb画素では、(式14)のフィルタを掛け、これらのフィルタを介して出力した画素値を合計することによって第二色差C2が得られる。
また、色モザイク画像における、Gr画素では(式15)のフィルタを掛け、Gb画素
では(式16)のフィルタを掛け、R画素では(式17)のフィルタを掛け、B画素では(式18)のフィルタを掛け、これらのフィルタを介して出力した画素値を合計することによって第二パラメータK2が得られる。
上述のように、第二パラメータK2は、注目画素を中心として水平垂直方向の画素値の変化量を表す指標であって、(Gr−Gb)に限らず、画素配列の水平垂直方向の縞上で値をもつものであればよい。また、この際、K2は、画像に変化のないベタ分では、画像に色があっても値を持たず、斜め45度方向の縞上でも値を持たないことが望ましく、さらには、周期2/fsの水平垂直方向の縞模様に対して大きな値をもつように、フィルタを構成するとよい。
次に、輝度生成部26によって生成された輝度Y´、第一色差生成部28で生成された第一色差C1が色空間変換部37に出力され、第二色差生成部29で生成された第二色差C2、水平垂直高周波検出部30で検出された高周波成分の量を表す第二パラメータK2等が、偽色抑制部31に出力される。
次に、偽色抑制部31は、同時化部25から入力された第二パラメータK2及び第二色差C2に応じて第二色差C2の偽色を抑制する。
つまり、C2偽色除去部33において、同時化部25で生成された第二色差C2の量を第二パラメータK2に応じて抑制する。
例えば、下記式を用いて、C2の絶対値から(ゼロを跨がない限りにおいて)、K2の絶対値を減じればよい。
C2→sign(C2)*max(0,abs(C2)−m1*abs(K2))
ここで、m1は、偽色抑制の強度を調整するためのパラメータである。
次に、色空間変換部37は、同時化部25を介して得られた輝度Y´、第一色差C1、偽色抑制部31を介して得られた第二色差C2を、標準的なカラー画像の色空間に変換する。
例えば、RGBの色空間に変換する際には、R=Y´−C1+C2の演算式でR成分の画素値を求め、G=Y´+C1の演算式でG成分の画素値を求め、B=Y´−C1−C2の演算式でB成分の画素値をもとめればよい。そして、色空間変換部37で得られたRGBのカラー情報は、図示されない視覚補正部に出力されて、公知のガンマ補正や彩度補正、エッジ強調、といった画像補正が行われる。
(第3の実施形態)
次に、図5〜図7を用いて、本発明の一実施例の画像処理方法及び画像処理プラグラムの手順を説明する。この手順は、CPU38がROM39に格納されたプログラムにもとづいて、各機能部に指令信号を与えて実行する。また、図5〜図7におけるSはステップを表している。
尚、本画像処理方法及び画像処理プログラムは、第1の実施形態及び第2の実施形態で表した画像処理装置100に適用される。
まず、この手順は、オペレータによって撮像装置1又は画像処理装置100に起動信号が入力された際にスタートする。
次いで、S100において、撮像光学系2を介して画像信号を画像処理装置100に読み込み、色プレーン分解部21で、ベイヤー配列に対応付けて、Rの画素信号、Gr画素信号、Gb画素信号、B画素信号を記憶し、その後、S200の同時化ステップに移る。
次いで、S200は、図6に表したように、まずS210において、サンプリング座標を取得して、その後、S220に移る。この際、サンプリング座標は、カラー画像の画素位置に対応つけられており、予めROM39に格納されている。
次いで、S220において、複数の色プレーン毎に、サンプリング座標における画素値を、色プレーン内に含まれる同一の色光の画素値から補間演算によって算出し、その後、S230に移る。
次いで、S230において、補間して求められた各色の画素値にもとづいて、R、Gr、Gb、Bを一単位とし、R、Gr、Gb、Bの画素値の和から輝度(Y´)を生成し、その後、S240に移る。尚、本発明における輝度生成ステップは、S230によってその機能が発現される。
次いで、S240において、Grの画素値とGbの画素値との和からRの画素値とBの画素値を減算して第一色差C1を生成すると共に、Rの画素値とBの画素値との差を算出して第二色差C2を生成し、その後、S250に移る。尚、本発明における第一色差生成ステップ及び第二色差生成ステップは、S240によってその機能が発現される。
次いで、S250において、画素配列斜め方向に沿って発現する輝度の高周波K1、水平垂直方向に発現する輝度の高周波K2を検出し、その後、図5における、S300の偽色抑制ステップに移る。尚、本発明における偽色情報生成ステップは、S250によってその機能が発現される。
次いで、S300は、図7に表したように、まず、S310において偽色抑制のモードを選択する。偽色抑制のモードは、予め定められており、モード1で第一色差C1と第二色差C2の両者の偽色を抑制し、モード2で第一色差C1の偽色を抑制し、モード3で第二色差C2の偽色を抑制する。また、モード1〜3の選択は、オペレータからの指令信号に基づいて実行される。
次いで、S310において、モード1が選択された際には、第1の実施形態に記載したように、S320に移って第一パラメータK1及び第二パラメータK2を取得し、その後、S330において、第一色差C1及び第二色差C2の偽色抑制を行う。
また、S310において、モード2が選択された際には、S340に移って、第一パラメータK1を取得し、その後、S350において、第一色差C1の偽色抑制を行う。この際、第1の実施形態に記載したように、第一色差C1の偽色抑制を行う。
また、S310において、モード3が選択された際には、S360に移って、第2の実施形態に記載したように、第二パラメータK2を求め、その後、S370に移って、第二色差C2の偽色抑制を行う。尚、本発明における偽色抑制ステップは、S310〜S370によってその機能が発現される。
次いで、図5のS400に移って、第一色差C1及び第二色差C2に対し、低周波透過フィルタ35を掛けて高周波成分を除去し、その後、S500に移る。
次いで、S500において、輝度Y´、偽色抑制して得られた第一色差C1及び第二色差C2を、標準的なカラー画像の色空間に変換し、カラー画像の画素毎のYUVのカラー情報を生成し、その後、S600に移る。
次いで、S600において、次のサンプリングの有無を判定し、サンプリング無し(No)と判定された際には、本画像処理プログラムを終了し、サンプリング有り(Yes)と判定された際には、S200〜S600を繰り返し、サンプリング無しに至った際に本画像処理プログラムを終了する。
以上のように、本実施例に記載の画像処理装置100及び撮像装置1、画像処理方法及び撮像方法、画像処理プログラムによれば、カラー画像における画素位置において、R、Gr、Gb、Bを一単位とし、R、Gr、Gb、Bの画素信号の和から輝度(Y´)を生成し、Grの画素信号とGbの画素信号との和からRの画素信号とBの画素信号を減算して第一色差C1を生成すると共に、Rの画素信号とBの画素信号との差を算出して第二色差C2を生成し、輝度値Y´、第一色差C1及び第二色差C2の夫々毎に偽色抑制を行って、偽色抑制された、第一色差C1、第二色差C2、等を所定の色空間に変換して色情報を生成することにより、解像度を損なうことなく、効果的に偽色を抑制でき、高品位なカラー画像を生成できる。
また、本実施例は、同時化部25において、斜め方向及び水平垂直方向の高周波成分の量を表す第一パラメータK1及び第二パラメータK2を生成することにより、これらのパラメータに応じて第一色差C1及び第二色差C2に含まれる偽色の信号成分を精度良く抑制できる。
また、本実施例は、第二パラメータK2が、Grの画素信号とGbの画素信号との差を表す指標であることにより、GrとGbとの差に基づいて偽色の量を演算して偽色を抑制できる。
また、本実施例は、偽色抑制部31において、第一パラメータK1及び第一色差C1に応じて第一色差C1に含まれる偽色を抑制し、第二パラメータK2及び第二色差C2に応じて、第二色差C2に含まれる偽色を抑制できる。
また、本実施例は、偽色抑制部31を介して出力された第一色差C1及び第二色差C2に対して、高周波ノイズを除去する低周波透過フィルタ35を備えていることにより、カラー画像における色差ノイズを低減できて、一層、高品位なカラー画像を生成できる。
また、本実施例の画像処理プログラムは、S310に表したように、偽色を抑制する際の複数のモードを選択でき、利便性を向上できる。
以上、本発明の一実施例について説明したが、本発明は、前記実施例に限定されるものでなく、種々の態様を取ることができる。
例えば、S300において偽色抑制を行い、次いで、S400において低周波透過フィルタ(LPF)35の処理を行ったが、先にS400の低周波透過フィルタ処理を行い、その後、S300の偽色抑制を行ってもよい。その際、同時化部25で検出された斜め高周波及び水平垂直高周波の輝度にも、低周波透過フィルタ処理を行うことが好ましい。
本発明の一実施例の、撮像装置の構成を表したブロック図である。 (a)(b)が、同実施例における光学フィルタの透過帯域の説明図、(c)が偽色抑制の際の解像度を説明する説明図である。 同実施例における、同時化部の機能を説明する説明図である。 同実施例における、第二パラメータK2をGrとGbとの色差(Gr−Gb)から求める説明図である。 同実施例における、画像処理方法及び撮像方法、画像処理プログラムにおける手順を表したフローチャートである。 図5のフローチャートにおける、同時化ステップの手順の詳細を表したフローチャートである。 図5のフローチャートにおける、偽色抑制ステップの手順の詳細を表したフローチャートである。
符号の説明
1…撮像装置、3…撮像レンズ、5…撮像素子、5a…ベイヤー配列のカラーフィルタ、6…AFE(Analog Front End)、7…相関二重サンプリング回路、8…可変利得増幅器(AGC:Automatic Gain Control)、9…A/D変換器、10…検出部、11…センサ、12…レンズ駆動部、13…TG(Timing Generator)、21…色プレーン分解部、22…Rフィールドメモリ、23a…Grフィールドメモリ、23b…Gbフィールドメモリ、24…Bフィールドメモリ、25…同時化部、26…輝度生成部、27…斜め高周波検出部、28…第一色差生成部、29…第二色差生成部、30…水平垂直高周波検出部、31…偽色抑制部、32…C1偽色除去部、33…C2偽色除去部、34…低周波透過フィルタ、37…色空間変換部、38…CPU(Central Processing Unit)、39…ROM(Read Only Memory)、100…画像処理装置。

Claims (22)

  1. ベイヤー配列のカラーフィルタを有する撮像素子を介して出力され、R(赤)、Gr(画素配列の一方向において前記Rの隣に位置する緑)、Gb(前記一方向においてBの隣に位置する緑)、B(青)からなるモザイク画像から、画素毎に複数の色情報を備えたカラー画像を生成する画像処理装置であって、
    前記カラー画像における画素位置において、前記R、Gr、Gb、Bを一単位とし、前記R、Gr、Gb、Bの画素信号の和から輝度(Y)を生成し、前記Grの画素信号とGbの画素信号との和から前記Rの画素信号とBの画素信号を減算して第一色差を生成すると共に、前記Rの画素信号と前記Bの画素信号との差を算出して第二色差を生成する同時化手段と、
    前記第一色差及び第二色差の少なくとも何れか一方の偽色抑制を行う偽色抑制手段と、
    前記輝度、前記偽色抑制手段を介して偽色抑制された第一色差、第二色差を所定の色空間に変換して前記色情報を生成する色空間変換手段と、
    を備えることを特徴とする画像処理装置。
  2. 前記偽色抑制の情報として、輝度の異なる方向の高周波成分の量を表す第一パラメータ及び第二パラメータの少なくとも何れか一方のパラメータを生成する偽色情報生成手段を備えている、
    ことを特徴とする請求項1に記載の画像処理装置。
  3. 前記第二パラメータが、前記Grの画素信号とGbの画素信号との差を表すパラメ−タである、
    ことを特徴とする請求項2に記載の画像処理装置。
  4. 前記偽色抑制手段が、前記第一パラメータに応じて前記第一色差の偽色を抑制し、前記第二パラメータに応じて前記第二色差の偽色を抑制するように構成されている、
    ことを特徴とする請求項2に記載の画像処理装置。
  5. 前記偽色抑制手段を介して出力された第一色差及び第二色差に対して、高周波成分を除去する低周波透過フィルタを備えている、
    ことを特徴とする請求項1乃至請求項4の何れかに記載の画像処理装置。
  6. 前記偽色抑制手段が、前記第一色差及び第二色差に対して、高周波成分を除去する低周波透過フィルタである、
    ことを特徴とする請求項1に記載の画像処理装置。
  7. 前記撮像素子に被写体像を導くための撮像光学系と、前記撮像素子を介して出力されたモザイク画像の画像信号に基づいて、画素毎に複数の色情報を備えたカラー画像を生成する画像処理装置とを備えた撮像装置であって、
    前記画像処理装置が請求項1乃至請求項6の何れかである、ことを特徴とする撮像装置。
  8. 被写体像を前記撮像素子へ結像させる入射光路上に、前記カラー画像の画素配列における、斜め方向の輝度高周波を抑制する光学ロ−パスフィルタが備えられ、該光学ローパスフィルタのカットオフが、前記モザイク画像の画素の配置方向に関連付けられて、前記モザイク画像の周波数空間上で原点を中心として斜め45°に傾いた四辺形を成し、この四辺形の内方を透過帯域とするように構成されている、
    ことを特徴とする請求項7に記載の撮像装置。
  9. ベイヤー配列のカラーフィルタを有する撮像素子を介して出力され、R(赤)、Gr(画素配列の一方向において前記Rの隣に位置する緑)、Gb(前記一方向においてBの隣に位置する緑)B(青)からなるモザイク画像から、画素毎に複数の色情報を備えたカラー画像を生成する画像処理方法であって、
    前記カラー画像における画素位置において、
    前記R、Gr、Gb、Bを一単位とし、前記R、Gr、Gb、Bの画素信号の和から輝度(Y)を生成する輝度生成ステップと、
    前記Grの画素信号とGbの画素信号との和から前記Rの画素信号とBの画素信号を減算して第一色差を生成する第一色差生成ステップと、
    前記Rの画素信号と前記Bの画素信号との差を算出して第二色差を生成する第二色差生成ステップと、
    前記第一色差及び第二色差の少なくとも何れか一方の偽色抑制を行う偽色抑制ステップと、
    前記輝度及び前記偽色抑制ステップを介して偽色抑制された第一色差、第二色差を所定の色空間に変換して前記色情報を生成する色空間変換ステップと、
    を用いることを特徴とする画像処理方法。
  10. 前記偽色抑制の情報として、輝度の異なる方向の高周波成分の量を表す第一パラメータ及び第二パラメータの少なくとも何れか一方のパラメータを生成する偽色情報生成ステップを用いる、
    ことを特徴とする請求項9に記載の画像処理方法。
  11. 前記第二パラメータが、前記Grの画素信号とGbの画素信号との差を表すパラメ−タである、
    ことを特徴とする請求項10に記載の画像処理方法。
  12. 前記偽色抑制ステップにおいて、前記第一パラメータに応じて前記第一色差の偽色を抑制し、前記第二パラメータに応じて前記第二色差の偽色を抑制する、
    ことを特徴とする請求項10に記載の画像処理方法。
  13. 前記偽色抑制ステップを介して出力された第一色差及び第二色差に対して、低周波透過フィルタを用いて高周波成分を除去する、
    ことを特徴とする請求項9乃至請求項12の何れかに記載の画像処理方法。
  14. 前記偽色抑制ステップにおいて、低周波透過フィルタを用いて、前記第一色差及び第二色差に対して高周波成分を除去する、
    ことを特徴とする請求項9に記載の画像処理方法。
  15. 前記撮像素子に被写体像を導くための撮像光学系を用い、前記撮像素子を介して出力されたモザイク画像の画像信号に基づいて、画素毎に複数の色情報を備えたカラー画像を生成するように画像処理を行う撮像方法であって、
    前記画像処理方法が請求項9乃至請求項14の何れかである、ことを特徴とする撮像方法。
  16. 被写体像を前記撮像素子へ結像させる入射光路上に、前記カラー画像の画素配列における、斜め方向の輝度高周波を抑制する光学ロ−パスフィルタを配置し、該光学ローパスフィルタのカットオフが、前記モザイク画像の画素の配置方向に関連付けられて、前記モザイク画像の周波数空間上で原点を中心として斜め45°に傾いた四辺形を成し、この四辺形の内方を透過帯域とする、
    ことを特徴とする請求項15に記載の撮像方法。
  17. ベイヤー配列のカラーフィルタを有する撮像素子を介して出力され、R(赤)、Gr(画素配列の一方向において前記Rの隣に位置する緑)、Gb(前記一方向においてBの隣に位置する緑)B(青)からなるモザイク画像から、画素毎に複数の色情報を備えたカラー画像を生成させる画像処理プログラムであって、
    前記カラー画像における画素位置において、
    前記R、Gr、Gb、Bを一単位とし、前記R、Gr、Gb、Bの画素信号の和から輝度(Y)を生成する輝度生成ステップと、
    前記Grの画素信号とGbの画素信号との和から前記Rの画素信号とBの画素信号を減算して第一色差を生成する第一色差生成ステップと、
    前記Rの画素信号と前記Bの画素信号との差を算出して第二色差を生成する第二色差生成ステップと、
    前記輝度値、第一色差及び第二色差のうち、少なくとも何れか一方の偽色抑制を行う偽色抑制ステップと、
    前記輝度、前記偽色抑制ステップを介して出力された第一色差、第二色差を、所定の色空間に変換して前記色情報を生成する色空間変換ステップと、
    をコンピュータに実行させることを特徴とする画像処理プログラム。
  18. 前記偽色抑制の情報として、輝度の異なる方向の高周波成分の量を表す第一パラメータ及び第二パラメータの少なくとも何れか一方のパラメータを生成する偽色情報生成ステップを、コンピュータに実行させることを特徴とする請求項17に記載の画像処理プログラム。
  19. 前記第二パラメータが、前記Grの画素信号とGbの画素信号との差を表すパラメ−タである、
    ことを特徴とする請求項18に記載の画像処理プログラム。
  20. 前記偽色抑制ステップにおいて、前記第一パラメータに応じて前記第一色差の偽色を抑制し、前記第二パラメータに応じて前記第二色差の偽色を抑制するように、
    コンピュータに実行させることを特徴とする請求項18に記載の画像処理プログラム。
  21. 前記偽色抑制ステップを介して出力された第一色差及び第二色差に対して、低周波透過フィルタを用いて高周波成分を除去するように、
    コンピュータに実行させることを特徴とする請求項17乃至請求項20の何れかに記載の画像処理プログラム。
  22. 前記偽色抑制ステップにおいて、低周波透過フィルタを用いて、前記第一色差及び第二色差に対して高周波成分を除去するように、
    コンピュータに実行させることを特徴とする請求項17に記載の画像処理プログラム。
JP2007184969A 2007-07-13 2007-07-13 画像処理装置及び撮像装置、画像処理方法及び撮像方法、画像処理プログラム Expired - Fee Related JP4914303B2 (ja)

Priority Applications (7)

Application Number Priority Date Filing Date Title
JP2007184969A JP4914303B2 (ja) 2007-07-13 2007-07-13 画像処理装置及び撮像装置、画像処理方法及び撮像方法、画像処理プログラム
KR1020107003274A KR101344824B1 (ko) 2007-07-13 2008-07-11 이미지 프로세싱 기기, 이미징 기기, 이미지 프로세싱 방법, 이미징 방법 및 이미징 프로세싱 프로그램
EP08778099.5A EP2178305B1 (en) 2007-07-13 2008-07-11 Image processing device, imaging device, image processing method, imaging method, and image processing program
US12/669,011 US8106974B2 (en) 2007-07-13 2008-07-11 Image processing device, imaging device, image processing method, imaging method, and image processing program
PCT/JP2008/062584 WO2009011308A1 (ja) 2007-07-13 2008-07-11 画像処理装置及び撮像装置、画像処理方法及び撮像方法、画像処理プログラム
US13/357,284 US8542299B2 (en) 2007-07-13 2012-01-24 Image processing device, imaging device, image processing method, imaging method, and image processing program for pseudo-color suppression in an image
US14/031,651 US9232203B2 (en) 2007-07-13 2013-09-19 Image processing device, imaging device, image processing method, imaging method, and image processing program for pseudo-color supression in an image

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007184969A JP4914303B2 (ja) 2007-07-13 2007-07-13 画像処理装置及び撮像装置、画像処理方法及び撮像方法、画像処理プログラム

Publications (2)

Publication Number Publication Date
JP2009021962A JP2009021962A (ja) 2009-01-29
JP4914303B2 true JP4914303B2 (ja) 2012-04-11

Family

ID=40259641

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007184969A Expired - Fee Related JP4914303B2 (ja) 2007-07-13 2007-07-13 画像処理装置及び撮像装置、画像処理方法及び撮像方法、画像処理プログラム

Country Status (5)

Country Link
US (3) US8106974B2 (ja)
EP (1) EP2178305B1 (ja)
JP (1) JP4914303B2 (ja)
KR (1) KR101344824B1 (ja)
WO (1) WO2009011308A1 (ja)

Families Citing this family (40)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8471852B1 (en) 2003-05-30 2013-06-25 Nvidia Corporation Method and system for tessellation of subdivision surfaces
US8571346B2 (en) 2005-10-26 2013-10-29 Nvidia Corporation Methods and devices for defective pixel detection
US7750956B2 (en) 2005-11-09 2010-07-06 Nvidia Corporation Using a graphics processing unit to correct video and audio data
US8588542B1 (en) 2005-12-13 2013-11-19 Nvidia Corporation Configurable and compact pixel processing apparatus
US8737832B1 (en) 2006-02-10 2014-05-27 Nvidia Corporation Flicker band automated detection system and method
US8594441B1 (en) 2006-09-12 2013-11-26 Nvidia Corporation Compressing image-based data using luminance
US8723969B2 (en) 2007-03-20 2014-05-13 Nvidia Corporation Compensating for undesirable camera shakes during video capture
JP4914303B2 (ja) * 2007-07-13 2012-04-11 シリコン ヒフェ ベー.フェー. 画像処理装置及び撮像装置、画像処理方法及び撮像方法、画像処理プログラム
US8724895B2 (en) * 2007-07-23 2014-05-13 Nvidia Corporation Techniques for reducing color artifacts in digital images
US8570634B2 (en) 2007-10-11 2013-10-29 Nvidia Corporation Image processing of an incoming light field using a spatial light modulator
US9177368B2 (en) 2007-12-17 2015-11-03 Nvidia Corporation Image distortion correction
US8698908B2 (en) 2008-02-11 2014-04-15 Nvidia Corporation Efficient method for reducing noise and blur in a composite still image from a rolling shutter camera
US9379156B2 (en) 2008-04-10 2016-06-28 Nvidia Corporation Per-channel image intensity correction
US8373718B2 (en) 2008-12-10 2013-02-12 Nvidia Corporation Method and system for color enhancement with color volume adjustment and variable shift along luminance axis
US8749662B2 (en) 2009-04-16 2014-06-10 Nvidia Corporation System and method for lens shading image correction
KR101681059B1 (ko) 2009-09-22 2016-12-01 삼성전자주식회사 밝기 신호와 색차 신호간의 크로스토크를 최소화하는 비디오 신호 생성 장치 및 방법
JP5490139B2 (ja) * 2009-10-13 2014-05-14 キヤノン株式会社 撮像装置
US8698918B2 (en) 2009-10-27 2014-04-15 Nvidia Corporation Automatic white balancing for photography
FR2964490B1 (fr) * 2010-09-06 2012-09-28 Commissariat Energie Atomique Procede de demosaicage d'une image brute numerique, programme d'ordinateur et circuit imageur ou graphique correspondants
JP5677040B2 (ja) * 2010-11-08 2015-02-25 キヤノン株式会社 画像処理装置およびその制御方法
JP5780747B2 (ja) * 2010-12-15 2015-09-16 キヤノン株式会社 画像処理装置、画像処理方法及びプログラム
JP5979961B2 (ja) * 2012-05-07 2016-08-31 キヤノン株式会社 焦点検出装置、焦点検出方法及び撮像装置
US9798698B2 (en) 2012-08-13 2017-10-24 Nvidia Corporation System and method for multi-color dilu preconditioner
US9508318B2 (en) 2012-09-13 2016-11-29 Nvidia Corporation Dynamic color profile management for electronic devices
US9307213B2 (en) 2012-11-05 2016-04-05 Nvidia Corporation Robust selection and weighting for gray patch automatic white balancing
JP6116301B2 (ja) 2013-03-21 2017-04-19 キヤノン株式会社 撮像装置及びその制御方法
JP6317548B2 (ja) * 2013-04-10 2018-04-25 キヤノン株式会社 撮像装置及びその制御方法
US9418400B2 (en) 2013-06-18 2016-08-16 Nvidia Corporation Method and system for rendering simulated depth-of-field visual effect
US9756222B2 (en) 2013-06-26 2017-09-05 Nvidia Corporation Method and system for performing white balancing operations on captured images
US9826208B2 (en) 2013-06-26 2017-11-21 Nvidia Corporation Method and system for generating weights for use in white balancing an image
US9549161B2 (en) 2013-07-08 2017-01-17 Samsung Display Co., Ltd. Image and video in mosaic formats
JP6276581B2 (ja) * 2013-12-20 2018-02-07 株式会社メガチップス 画素補間処理装置、撮像装置、プログラムおよび集積回路
CN104954767B (zh) * 2014-03-26 2017-08-29 联想(北京)有限公司 一种信息处理方法和电子设备
US10410398B2 (en) * 2015-02-20 2019-09-10 Qualcomm Incorporated Systems and methods for reducing memory bandwidth using low quality tiles
KR20180038793A (ko) * 2016-10-07 2018-04-17 삼성전자주식회사 영상 데이터 처리 방법 및 장치
US10638109B2 (en) * 2017-09-15 2020-04-28 Elphel, Inc. Method for the FPGA-based long range multi-view stereo with differential image rectification
JP6840860B2 (ja) * 2017-10-23 2021-03-10 株式会社ソニー・インタラクティブエンタテインメント 画像処理装置、画像処理方法及びプログラム
KR102465070B1 (ko) 2018-06-20 2022-11-09 삼성전자주식회사 이미지 복원 장치 및 방법
KR20210017460A (ko) * 2019-08-08 2021-02-17 에스케이하이닉스 주식회사 이미지 센서, 이미지 신호 프로세서 및 이들을 포함하는 이미지 처리 시스템
CN116342401A (zh) * 2022-09-06 2023-06-27 上海玄戒技术有限公司 一种图像处理方法、装置、电子设备、芯片及存储介质

Family Cites Families (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10164603A (ja) * 1996-12-03 1998-06-19 Canon Inc 撮像装置
US6836572B2 (en) * 1998-06-01 2004-12-28 Nikon Corporation Interpolation processing apparatus and recording medium having interpolation processing program recorded therein
US6958772B1 (en) * 1999-01-20 2005-10-25 Canon Kabushiki Kaisha Image sensing apparatus and image processing method therefor
JP4162111B2 (ja) * 1999-07-27 2008-10-08 富士フイルム株式会社 画像処理方法および装置並びに記録媒体
JP2002209223A (ja) * 2001-01-09 2002-07-26 Sony Corp 画像処理装置および方法、並びに記録媒体
WO2002060186A1 (fr) * 2001-01-25 2002-08-01 Nikon Corporation Procede de traitement d'image, programme de traitement d'image et processeur d'image
US20020167602A1 (en) * 2001-03-20 2002-11-14 Truong-Thao Nguyen System and method for asymmetrically demosaicing raw data images using color discontinuity equalization
JP3988189B2 (ja) * 2002-11-20 2007-10-10 ソニー株式会社 固体撮像装置
CN100544450C (zh) * 2003-06-12 2009-09-23 株式会社尼康 图像处理方法
JP4305071B2 (ja) * 2003-06-30 2009-07-29 株式会社ニコン 信号補正方法
JP4441809B2 (ja) * 2004-05-20 2010-03-31 忠 杉木 カラー固体撮像装置
JP4333997B2 (ja) * 2004-08-24 2009-09-16 シャープ株式会社 画像処理装置、撮影装置、画像処理方法、画像処理プログラムおよび記録媒体
JP4734032B2 (ja) * 2005-05-30 2011-07-27 富士通セミコンダクター株式会社 画像処理装置
US8063948B2 (en) * 2007-02-26 2011-11-22 Texas Instruments Incorporated Proximity-based system and method for reducing gain imbalance in a bayer pattern and digital camera employing the same
US8063949B2 (en) * 2007-03-20 2011-11-22 Texas Instruments Incorporated Activity-based system and method for reducing gain imbalance in a bayer pattern and digital camera employing the same
JP4914303B2 (ja) * 2007-07-13 2012-04-11 シリコン ヒフェ ベー.フェー. 画像処理装置及び撮像装置、画像処理方法及び撮像方法、画像処理プログラム
US8724895B2 (en) * 2007-07-23 2014-05-13 Nvidia Corporation Techniques for reducing color artifacts in digital images
US7995840B2 (en) * 2008-03-28 2011-08-09 Seiko Epson Corporation Image processing apparatus, image processing method, and program for attaining image processing
JP5272581B2 (ja) * 2008-08-25 2013-08-28 ソニー株式会社 画像処理装置、撮像装置、画像処理方法およびプログラム
JP5589446B2 (ja) * 2009-09-18 2014-09-17 ソニー株式会社 画像処理装置、撮像装置、および画像処理方法、並びにプログラム

Also Published As

Publication number Publication date
EP2178305A1 (en) 2010-04-21
JP2009021962A (ja) 2009-01-29
KR20100053558A (ko) 2010-05-20
US20100182478A1 (en) 2010-07-22
US9232203B2 (en) 2016-01-05
US8106974B2 (en) 2012-01-31
KR101344824B1 (ko) 2013-12-26
EP2178305B1 (en) 2016-09-14
EP2178305A4 (en) 2014-04-02
US20140022421A1 (en) 2014-01-23
WO2009011308A1 (ja) 2009-01-22
US8542299B2 (en) 2013-09-24
US20120176524A1 (en) 2012-07-12

Similar Documents

Publication Publication Date Title
JP4914303B2 (ja) 画像処理装置及び撮像装置、画像処理方法及び撮像方法、画像処理プログラム
JP4284628B2 (ja) 撮像装置、画像処理装置、画像処理方法、画像処理方法のプログラム及び画像処理方法のプログラムを記録した記録媒体
JP5047048B2 (ja) 画像処理装置、撮像装置、制御方法、プログラム、及び記憶媒体
US7839437B2 (en) Image pickup apparatus, image processing method, and computer program capable of obtaining high-quality image data by controlling imbalance among sensitivities of light-receiving devices
JP5036482B2 (ja) 画像処理装置及び画像処理方法、画像処理プログラム
JP4977395B2 (ja) 画像処理装置及び方法
JP5128207B2 (ja) 画像処理装置及び画像処理方法、画像処理プログラム
WO2016047240A1 (ja) 画像処理装置、撮像素子、撮像装置および画像処理方法
JP2013055623A (ja) 画像処理装置、および画像処理方法、情報記録媒体、並びにプログラム
JP2011151739A (ja) 画像処理装置
JP5268321B2 (ja) 画像処理装置及び画像処理方法、画像処理プログラム
JP5621053B2 (ja) 画像処理装置、方法及びプログラム並びに撮像装置
US8629917B2 (en) Image processing apparatus, method, and recording medium
JP6143575B2 (ja) 画像処理装置、画像処理方法および画像処理プログラム
JP5274697B2 (ja) 画像処理装置及び画像処理方法
JP4329485B2 (ja) 画像信号処理装置及び画像信号処理方法
JP5454820B2 (ja) 画像処理装置及び画像処理方法、画像処理プログラム
JP2009147762A (ja) 画像処理装置、画像処理方法、プログラム
JP4585045B1 (ja) 画像処理装置及び画像処理方法、画像処理プログラム
JP2016082390A (ja) 信号処理装置
JP6552248B2 (ja) 画像処理装置及び方法、撮像装置、並びにプログラム
JP2014158165A (ja) 画像処理装置、画像処理方法およびプログラム
JP2013055622A (ja) 画像処理装置、および画像処理方法、情報記録媒体、並びにプログラム
JP4872718B2 (ja) 撮像装置
JP2012227869A (ja) 画像処理装置及び画像処理方法並びにデジタルカメラ

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20090618

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20090618

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100708

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120105

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120120

R150 Certificate of patent or registration of utility model

Ref document number: 4914303

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150127

Year of fee payment: 3

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R360 Written notification for declining of transfer of rights

Free format text: JAPANESE INTERMEDIATE CODE: R360

R360 Written notification for declining of transfer of rights

Free format text: JAPANESE INTERMEDIATE CODE: R360

R371 Transfer withdrawn

Free format text: JAPANESE INTERMEDIATE CODE: R371

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees