JP3497363B2 - 画像合成処理方法、画像合成処理回路、及びカラー撮像装置 - Google Patents

画像合成処理方法、画像合成処理回路、及びカラー撮像装置

Info

Publication number
JP3497363B2
JP3497363B2 JP33617697A JP33617697A JP3497363B2 JP 3497363 B2 JP3497363 B2 JP 3497363B2 JP 33617697 A JP33617697 A JP 33617697A JP 33617697 A JP33617697 A JP 33617697A JP 3497363 B2 JP3497363 B2 JP 3497363B2
Authority
JP
Japan
Prior art keywords
image
data
light
color
filter
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP33617697A
Other languages
English (en)
Other versions
JPH11168744A (ja
Inventor
栄二 山田
正幸 野村
一人 西田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp Corp
Original Assignee
Sharp Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sharp Corp filed Critical Sharp Corp
Priority to JP33617697A priority Critical patent/JP3497363B2/ja
Publication of JPH11168744A publication Critical patent/JPH11168744A/ja
Application granted granted Critical
Publication of JP3497363B2 publication Critical patent/JP3497363B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Complex Calculations (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Color Television Image Signal Generators (AREA)

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、単一の撮像素子を
用いて、カラー画像を得ることができるカラー撮像装置
に関するものである。
【0002】
【従来の技術】単一の撮像素子を用いてカラー画像を撮
像する単板式のカラー撮像装置が、動画像および静止画
像の撮像に用いられているが、このような単板式のカラ
ー撮像装置では、撮像素子の受光領域の数が少ないと、
画像の解像度が低下するといった問題がある。
【0003】そこで従来より、画像の解像度を向上させ
るための技術が種々開発されており、本願出願人も、先
に、特願平8−271169号において、以下に記載す
るようなカラー撮像装置を提案している。
【0004】該カラー撮像装置では、撮像素子の受光領
域の入射側に予め定める3色の色光だけを通過させる色
フィルタが設置されている。この色フィルタでは、3色
のうちの何れか1つの色光を通過させる透光領域だけが
市松状に配列されている。
【0005】図25に、撮像素子の光入射側に配される
色フィルタの透光領域Lの配列を示す。色フィルタは、
撮像素子の受光領域と同数の透光領域を有する。透光領
域の配列は受光領域の配列と等価であり、水平方向Hお
よび垂直方向Vに沿って、それぞれ周期PH,PVで、
行列状に配列されている。図において、実線で囲まれた
矩形領域が各透光領域Lを示す。また矩形領域内に描か
れる記号「R」,「G」,「B」は、その透光領域を通
過可能な色彩光の色が、赤、緑、青であることをそれぞ
れ示す。各色彩光の透光領域Lの色配列は、2点鎖線で
囲む2行2列の4つの透光領域Lの配列を基本配列パタ
ーンとする周期的な配列である。
【0006】この撮像素子において、画像光に対する水
平方向Hのサンプリング周波数fHは、水平方向Hの配
列周期PHの逆数であり、同様に、垂直方向Vのサンプ
リング周波数fVは、垂直方向Vの配列周期PVの逆数
である。サンプリング周波数fHは(1)式で、サンプ
リング周波数fVは(2)式で示される。
【0007】
【数1】
【0008】このカラー撮像装置は、通常モードと高解
像度モードとの2つの撮影モードを有する。通常モード
では、1枚の原画像信号から生成される通常出力画像を
得る。高解像度モードでは、イメージシフト動作を行
い、2回分の撮像で得られた原画像を合成して、高解像
度出力画像を得る。
【0009】高解像度モードにて実施されるイメージシ
フト動作では、撮像素子の空間サンプリング位置を、水
平方向Hに画素ピッチの長さPHだけ変位させる。撮像
素子に画像光が結像する結像位置は、変位する前の第1
結像位置と変位した後の第2結像位置がある。
【0010】図26に、第1および第2結像位置の位置
関係を示す。第1結像位置Q1 を基準にすると、第2結
像位置Q2 は第1結像位置Q1 から水平方向Hにシフト
長さPHだけ移動した位置である。
【0011】カラー撮像装置は、この第1結像位置Q1
および第2結像位置Q2 のそれぞれにおいて、撮像素子
に結像した第1原画像および第2原画像を撮像する。撮
像された2枚の原画像信号は、それぞれ画像メモリにス
トアされる。次いでこの2回分の撮像で得られた原画像
を合成して、高解像度出力画像を生成する。
【0012】この合成画像信号は、原画像信号と比較し
て、基底帯域の大きさは変化しないが、赤および青色フ
ィルタに対応する画素配列のイメージシフト方向に対応
する配列周期が半分になる。これによって、原画像信号
でイメージシフト方向に対応する空間周波数軸上に現れ
るモアレが合成画像信号ではすべて消滅する。したがっ
て、光学的ローパスフィルタで画像光の周波数成分を制
限する必要がなく、基底帯域の実質の幅が拡大する。
【0013】図27の空間周波数平面図に、通常モード
の、原画像信号の輝度の基底帯域および色差信号のモア
レのキャリア周波数を示す。輝度の基底帯域を、図27
では斜線を付して示す。また、輝度の基底帯域内におい
て、色差信号のモアレのキャリア周波数の存在する位置
を○印で表す。
【0014】また、図28の空間周波数平面図に、高解
像度モードの、高解像度出力画像の基底帯域および色差
信号のモアレのキャリア周波数を示す。2回分の撮像で
得られた原画像を合成することによって、色差信号のモ
アレのキャリア周波数のうち、水平空間周波数がfH/
2または−fH/2であるモアレ、つまり、(fH/
2,0)、(fH/2,fV/2)、(−fH/2,
0)、(−fH/2,fV/2)の4箇所が消滅する。
したがって、輝度の基底帯域内に存在する色差信号のモ
アレのキャリア周波数は、(0,fV/2)の1箇所の
みとなる(図中、○印付記)。
【0015】また、上記のカラー撮像装置においては、
撮影モードの切り替えに同期して、カラー撮像装置内に
設けられた可変空間フィルタも切り替えられる。この可
変空間フィルタは、複屈折板などによって構成されてい
る。
【0016】可変空間フィルタは、通常モードにおいて
は、第1状態に切り替えられ、図27に示した基底帯域
の境界線近傍の空間周波数成分を減衰させるように定め
られる。
【0017】また、高解像度モードにおいては、第2状
態に切り替えられ、空間周波数fV/2近傍の空間周波
数成分を減衰させるように定められる。図28にて示せ
ば、水平方向の空間周波数軸(水平軸)に平行で、
(0,fV/2)を通る直線近傍の空間周波数成分を減
衰させる。
【0018】このように、可変空間フィルタによって、
画像に生じるモアレによる画質の劣化するのを防ぐこと
ができる。
【0019】通常モードと高解像度モードの各出力画像
信号を比較すると、基底帯域の形状や大きさは変化しな
い。しかしながら、高解像度モード時の高解像度出力画
像は、水平空間周波数がfH/2または−fH/2(上
述の4箇所)のモアレが消滅し、また可変空間フィルタ
による±fH/2近傍の空間周波数成分の減衰も無いた
め、基底帯域の水平方向の実質の幅が拡大し、水平解像
度が向上する。
【0020】一方、垂直方向の空間周波数軸上のモアレ
は、通常モードと高解像度モードともに存在し、可変空
間フィルタによるfV/2近傍の空間周波数成分の減衰
もあるため、基底帯域の垂直方向の実質の幅は変わら
ず、垂直解像度もほとんど変わらない。
【0021】つまり、上記のカラー撮像装置では、イメ
ージシフト動作を行うことにより、水平解像度の向上を
実現できる。
【0022】
【発明が解決しようとする課題】上述したように、本願
出願人が先に提案しているカラー撮像装置では、水平解
像度の向上を図ることができたが、垂直解像度を向上さ
せることはできない。また、可変空間フィルタを実現す
るための可変機構が設ける必要がある。この可変機構を
設けるためには、部品点数が多いので、製造コストが増
大し、小型化を阻害する。
【0023】また、通常モードと高解像度モードとを切
り替え時には、可変機構を動作させて可変空間フィルタ
を切り替える必要があるため、切り替えるのに時間を要
し、すばやく切り替えることができない。また、切り替
えるごとに可変機構を動作させるため、耐久性にも問題
がある。
【0024】また、通常モード時には1枚分の画像メモ
リの容量が必要であるのに対して高解像度モード時にお
いては、画像メモリに2枚の原画像信号をストアするだ
けの容量が必要であり、製造コストをさらに増大させ
る。
【0025】本発明の第1の目的は、今までにないデー
タ補間処理方法を採用することで、単板式のカラー撮像
装置において、水平解像度だけでなく垂直解像度の向上
を得ることができ、また、通常モードと高解像度モード
との2つの撮像モードを有する構成とした場合でも、可
変空間フィルタを必要としないカラー撮像装置を提供す
ることである。
【0026】また、第2の目的は、今までにないデータ
補間方法を採用することで、単板式のカラー撮像装置に
おいて、水平解像度だけでなく垂直解像度の向上を得る
ことができ、かつ、通常モードと高解像度モードとの2
つの撮像モードを有する構成とした場合、可変空間フィ
ルタは必要であるものの、高解像度モードの画質が各段
に向上したカラー撮像装置を提供することである。
【0027】そして、第3の目的は、イメージシフト動
作を行うにもかかわらず、画像メモリも1枚の原画像信
号分だけで良い構成として、安価で小型のカラー撮像装
置を提供することである。
【0028】
【課題を解決するための手段】本発明の画像合成処理方
法は、上記の課題を解決するために、撮像素子の結像面
における結像位置を移動させるイメージシフト動作にて
得た結像位置が1画素だけ異なる2枚の撮像画像を、結
像位置の離反量だけ位置の移動方向とは逆方向にずらし
て重ね合わせて合成画像を得る画像合成処理方法におい
て、異なる結像位置で撮像された2枚の画像を重ね合わ
せて得た、局所的な領域にて相関のある、第1の色フィ
ルタの受光データ群と、第2の色フィルタの受光データ
群との間で、第1の色フィルタの受光データ群の欠落し
たデータを、該欠落データと同じ位置にある第2の色フ
ィルタのデータ群のデータに、第1の色フィルタのデー
タ群をローパスフィルタ処理した値を加算し、さらに第
2の色フィルタのデータ群をローパスフィルタ処理した
値を引くことにより求めることを特徴としている。
【0029】本発明の画像合成処理回路は、上記の課題
を解決するために、撮像素子の結像面における結像位置
を移動させるイメージシフト動作にて得た結像位置が1
画素だけ異なる2枚の撮像画像を結像位置の離反量だけ
位置の移動方向とは逆方向にずらして重ね合わせて合成
画像を生成する画像合成処理回路において、複数のデー
タ群からなるデータ系列の欠落したデータを補間するデ
ータ補間処理回路が備えられており、該データ補間処理
回路は、欠落データを有する第1のデータ系列のデータ
群をローパスフィルタ処理する第1のローパスフィルタ
処理手段と、上記の第1のデータ系列と局所的な領域に
おいて相関のある第2のデータ系列のデータ群をローパ
スフィルタ処理する第2のローパスフィルタ処理手段
と、第1のデータ系列における欠落したデータと同じ位
置にある第2のデータ系列のデータに、第1のデータ系
列のデータ群のローパスフィルタ処理した値を加算する
加算手段と、該加算手段の計算値から、第2のデータ系
列のデータ群をローパスフィルタ処理した値を減算する
減算手段とを備え、上記の第1および第2のデータ系列
が、異なる色フィルタ配列により受光された2種類の受
光データ群であって、異なる結像位置において撮像され
た2枚の画像を重ね合わせて得た、第1の色フィルタの
受光データ群と、第2の色フィルタの受光データ群とで
あることを特徴としている。
【0030】本発明のカラー撮像装置は、上記課題を解
決するために、撮像素子の結像面における結像位置を移
動させるイメージシフト動作を実施して、結像位置が1
画素だけ異なる2枚の撮像画像を得て、画像合成処理回
路にて、これら2枚の撮像画像を結像位置の離反量だけ
位置の移動方向とは逆方向にずらして重ね合わせて合成
画像を生成するカラー撮像装置において、上記画像合成
処理回路に、複数のデータ群からなるデータ系列の欠落
したデータを補間するデータ補間処理回路が備えられて
おり、該データ補間処理回路は、欠落データを有する第
1のデータ系列のデータ群をローパスフィルタ処理する
第1のローパスフィルタ処理手段と、上記の第1のデー
タ系列と局所的な領域において相関のある第2のデータ
系列のデータ群をローパスフィルタ処理する第2のロー
パスフィルタ処理手段と、第1のデータ系列における欠
落したデータと同じ位置にある第2のデータ系列のデー
タに、第1のデータ系列のデータ群のローパスフィルタ
処理した値を加算する加算手段と、該加算手段の計算値
から、第2のデータ系列のデータ群をローパスフィルタ
処理した値を減算する減算手段とを備え、上記の第1お
よび第2のデータ系列が、異なる色フィルタ配列により
受光された2種類の受光データ群であって、異なる結像
位置において撮像された2枚の画像を重ね合わせて得
た、第1の色フィルタの受光データ群と、第2の色フィ
ルタの受光データ群とであることを特徴としている。
【0031】上記構成では、単板式のカラー撮像装置に
適用することで、イメージシフト動作により得られた画
像を重ね合わせて合成画像とする際に、色モアレのない
高解 像度画像を生成することが可能となる。上記した欠
落したデータの補間処理を、例えば、前述の従来技術の
項で述べた、本願出願人が先に提案しているカラー撮像
装置における、高解像度モード時の画像を合成する処理
に供することで、図28の空間周波数平面図に○印を付
した、基底帯域内に存在するキャリア周波数(0,fV
/2)の色差信号のモアレを消滅させることが可能とな
る。詳細については、以降の各請求項の説明と共に述べ
る。
【0032】本発明の画像合成処理方法は、さらに、
記のローパスフィルタ処理が、第1の色フィルタの受光
データ群の場合は求めるべきデータの位置に隣接する2
つのデータの平均をとり、第2の色フィルタの受光デー
タ群の場合は求めるべきデータと同じ位置に隣接する2
つのデータの平均をとることを特徴としている。
【0033】本発明の画像合成処理回路は、さらに、
記の第1ローパスフィルタ処理手段は、求めるべきデー
タの位置に隣接する2つのデータの平均をとることでロ
ーパスフィルタ処理を実施し、上記の第2ローパスフィ
ルタ処理手段は、求めるべきデータと同じ位置に隣接す
る2つのデータの平均をとることでローパスフィルタ処
理を実施することを特徴としている。
【0034】本発明のカラー撮像装置は、さらに上記の
第1ローパスフィルタ処理手段は、求めるべきデータの
位置に隣接する2つのデータの平均をとることでローパ
スフィルタ処理を実施し、上記の第2ローパスフィルタ
処理手段は、求めるべきデータと同じ位置に隣接する2
つのデータの平均をとることでローパスフィルタ処理を
実施することを特徴としている。
【0035】上記構成では、求めるべきデータの位置、
或いは該データと同じ位置に隣接する2つのデータの平
均をとってローパスフィルタ処理を行うようになってい
る。上記ローパスフィルタ処理としては、隣接する4つ
のデータから計算する方法もあるが、このような方法に
比べ、2つのデータの平均をとる方法の場合、計算に用
いるデータ数が少ないので、処理速度が速く、回路規模
が小さいといった利点がある。
【0036】本発明の画像合成処理方法は、さらに、
ずは1枚目に撮像された画像を上書き可能な画像メモリ
に蓄積し、その後の2枚目以降は、画像を撮像するたび
に、画像メモリに蓄積された画像と、撮像された画像と
を合成処理し、該合成処理した画像を再び画像メモリに
上書きして蓄積する工程を繰り返すことを特徴としてい
る。
【0037】本発明の画像合成処理回路は、さらに、
枚目に撮像された画像を上書き可能な画像メモリに蓄積
する手段と、2枚目以降の撮像が行われるたびに、上記
画像メモリに蓄積された画像を読み出して撮像された画
像とを合成処理し、該合成処理した画像を再び上記画像
メモリに上書きする手段とを備えていることを特徴とし
ている。
【0038】本発明のカラー撮像装置は、さらに、上記
画像合成処理回路が、1枚目に撮像された画像を上書き
可能な画像メモリに蓄積する手段と、2枚目以降の撮像
が行われるたびに、上記画像メモリに蓄積された画像を
読み出して撮像された画像とを合成処理し、該合成処理
した画像を再び上記画像メモリに上書きする手段とを備
えていることを特徴としている。
【0039】上記構成によれば、画像を合成する際、画
像メモリに蓄積された合成するべき1つの画像(以下、
合成画像と区別して原画像と称する)を出力しながら、
合成後の高解像度出力画像を上書きしていく。すなわ
ち、出力されていく原画像の書き込み領域から、順次高
解像度出力画像を上書きしていく。したがって、原画像
をすべて出力し終える時点で、画像メモリには、高解像
度出力画像の蓄積が完了することになるので、画像メモ
リの容量は、原画像もしくは高解像度出力画像の1枚分
だけでよく、2枚分の容量を必要としない。
【0040】したがって、例えばこのような画像合成処
理回路を備えたカラー撮像装置では、画像メモリの容量
が少なくて済み、コスト削減が図れる。
【0041】本発明の別のカラー撮像装置は、複数の色
彩光にそれぞれ対応し、入射される被写体からの画像光
のうちの対応する色彩光だけを個別的に通過させる複数
の透光領域を有し、該透光領域が2次元平面上に配列さ
れた色フィルタであって、透光領域は、第1〜第3の色
彩光を通過させる第1〜第3透光領域に区分され、第1
および第2透光領域が一方方向に沿って第1周期で直線
状に配列された第1群と、第1および第3透光領域が一
方方向に沿って第1周期で直線上に配列された第2群と
が、一方方向と直交する他方方向に沿って第2周期で交
互に、かつ、第1群の第1透光領域に第3透光領域が他
方方向の両側に隣接するように配列された色フィルタ
と、上記色フィルタの透光領域に個別的に対応した受光
領域が、透光領域の配列と同等の配列で2次元平面上に
配列され、各受光領域では対応した透光領域を通過した
色彩光だけを受光し、各受光領域の受光量を示す画素デ
ータから構成される画像信号を出力する撮像素子と、上
記撮像素子に入射される画像光の結像位置を、基準位置
である第1移動位置と、第1移動位置から一方方向に第
1周期の長さだけ相互にずれた第2移動位置に相対的に
移動させる移動手段と、上記撮像素子から出力された2
つの画像信号を撮像時の結像位置の離反量だけ位置の移
動方向とは逆方向にずらして重ね合わせて、撮像素子か
らは得られなかった第2または第3色彩光に対応する画
素データを求めて合成画像信号を生成する画像合成手段
と、撮影が開始されると、移動手段によって画像光の結
像位置を第1および第2移動位置のいずれか一方位置に
移動させ、該移動位置において撮像素子に画像光を撮像
させて画像信号を画像合成手段に与え、次いで移動手段
によって結像位置をいずれか他方位置に移動させ、該移
動位置において撮像素子に画像光を撮像させて画像信号
を画像合成手段に与える制御手段とを備え、かつ、上記
画像合成手段が、撮像素子からは得られなかった第2ま
たは第3の色彩光に対応する画素データを、該画素デー
タと同じ位置にある第1色彩光に対応する画素データ
に、該画素データと同じ位置を通る一方方向に沿って配
列された第2または第3色彩光に対応する画素データ群
をローパスフィルタ処理した値を加算し、さらに該画素
データと同じ位置を通る一方方向に沿って配列された第
1色彩光に対応する画素データ群をローパスフィルタ処
理した値を引くことにより求めることを特徴としてい
る。
【0042】本発明の上記別のカラー撮像装置は、さら
に、第1回目に撮像された画像信号を蓄積し、第2回目
の撮像に同期して蓄積した画像信号を出力し、出力した
領域に画像合成手段から出力された合成画像信号を上書
きして蓄積する画像メモリをさらに備えたことを特徴と
している。
【0043】本発明の上記別のカラー撮像装置は、さら
に、上記画像合成手段が、第1色彩光に対応する画素デ
ータ群をローパスフィルタ処理する際は、求めるべき画
素データの位置に隣接する2つの画素データの平均をと
ることで処理を実施し、第2および第3色彩光に対応す
る画素データ群のローパスフィルタ処理する際は、求め
るべき画素データと同じ位置に隣接する2つの画素デー
タの平均をとることで処理を実施することを特徴として
いる。
【0044】該カラー撮像装置に入射された被写体から
の画像光は、上述の色フィルタを通過した後に撮像素子
に入射される。ここで画像光は、色フィルタを通過する
ことで、第1〜第3色彩光に色分離される。色フィルタ
の第1〜第3透光領域の配列は、いわゆるベイヤー配列
と称される配列パターンである。
【0045】この色フィルタを通過した画像光は、撮像
素子の結像面に結像される。上述した画像光は、透光領
域の配列方向である一方および他方方向に平行な空間軸
上で連続的に輝度変化する。撮像素子は、空間軸に平行
に配列される複数の受光領域でこの画像光の各色彩光成
分を受光する。故に、画像光は連続的な画像光を受光領
域単位で平滑化した画像となる。これは、輝度が連続し
て変化する画像光を受光領域単位でサンプリングしたこ
とと等価である。前述の色フィルタと撮像素子とは一体
的に形成されることが望ましい。
【0046】移動手段は、入射された画像光の結像面で
受光位置を予め定める第1及び第2の位置に移動させる
イメージシフト動作を実施するものである。撮像素子
は、移動手段によって結像位置が移動される毎に、画像
光を撮像して原画像信号を出力する。これによって、撮
像素子は、結像位置の異なる2つの原画像信号を出力す
ることとなる。
【0047】画像合成手段は、これら2つの原画像信号
から、合成画像を表す合成画像信号を生成する。ここ
で、画像合成手段は、撮像素子からは得られなかった第
2または第3の色彩光に対応する画素データを、該画素
データと同じ位置にある第1色彩光に対応する画素デー
タに、該画素データと同じ位置を通る一方方向に沿って
配列された第2または第3色彩光に対応する画素データ
群をローパスフィルタ処理した値を加算し、さらに該画
素データと同じ位置を通る一方方向に沿って配列された
第1色彩光に対応する画素データ群をローパスフィルタ
処理した値を引くことにより求める。これにより、基底
帯域内に存在するキャリア周波数(0,fV/2)の色
差信号のモアレを消滅させることが可能となる。したが
って、合成画像信号の基底帯域の水平方向の実質の幅が
拡大すると共に、垂直方向の実質の幅が拡大する。
【0048】したがって、このような単板式のカラー撮
像装置においては、水平解像度だけでなく垂直解像度の
向上を得ることができる。
【0049】本発明の上記別のカラー撮像装置は、さら
に、上記移動手段における結像位置の移動を許容または
禁止する移動判定手段と、 撮像素子に入射される画像
光の空間周波数成分を減衰させる固定空間フィルタをさ
らに含む構成である。
【0050】この構成によれば、2つのモードを有し、
一方モードでは1枚の原画像信号から生成された通常出
力画像信号を出力し、他方モードでは2枚の原画像信号
から合成画像信号を生成して出力する構成である。合成
画像信号を生成する他方モードでは、モアレが発生しな
いので、このモアレを目立たなくするための光学的ロー
パスフィルタである空間フィルタを設ける必要がない。
【0051】したがって、空間フィルタは、原画像信号
をそのまま出力する一方モードでのモアレを目立たなく
するものだけでよく、また、一方モードに適合させた空
間フィルタでよく、他方モードではその空間フィルタを
そのまま適用することができ、可変機構を必要としない
固定のものでよい。その結果、安価で小型のカラー撮像
装置を実現できる。
【0052】本発明の上記別のカラー撮像装置は、さら
に、上記移動手段における結像位置の移動を許容または
禁止する移動判定手段と、撮像素子に入射される画像光
の空間周波数成分を減衰させる可変空間フィルタであっ
て、撮像位置の移動が禁止されるときに空間周波数成分
を第1の減衰量だけ減衰させ、許容されるときは画像光
の光路から除去される可変空間フィルタをさらに含む構
成である。
【0053】上述した構成のように、可変機構を必要と
しない固定空間フィルタの場合、安価で小型のカラー撮
像装置を実現できるといった利点を有する。しかしなが
ら、固定空間フィルタが配設されたままであると、合成
画像信号を出力するモードで、固定空間フィルタによる
空間周波数成分が低下するため、合成画像信号の高周波
数成分のゲインが小さくなるといった不具合を生じる。
そこで、合成画像信号を出力するモードでは、空間フィ
ルタが光路から抜脱される可変空間フィルタの構成とし
ている。これにより、合成画像信号を出力するモードで
の画像がより高画質になる。
【0054】本発明の上記別のカラー撮像装置は、さら
に、上記画像合成手段が、画像メモリから出力された画
像信号と撮像素子から出力された画像信号とを重ね合わ
せた後に、3種類の色彩光に対応するそれぞれの画素デ
ータごとに、2回の撮像間の光量差に基づいて発生する
空間周波数成分を取り除く、ローパスフィルタからなる
光量差補正手段を有することを特徴としている。
【0055】これによれば、光量差補正手段が、画像メ
モリから出力された画像信号と撮像素子から出力された
画像信号とを重ね合わせた後に、3種類の色彩光に対応
するそれぞれの画素データごとに、2回の撮像間の光量
差に基づいて発生する空間周波数成分を取り除くように
なっている。したがって、2枚の原画像間に光量差が生
じる場合でも、1枚の画像メモリしかないカラー撮像装
置においても、ローパスフィルタを施すことにより光量
差を補正することができる。
【0056】
【発明の実施の形態】本発明に係る実施の形態を、図1
〜図24に基づいて説明すれば、以下の通りである。
【0057】第1実施形態のカラー撮像装置は、いわゆ
る単板式のカラー撮像装置である。本カラー撮像装置
は、通常モードと高解像度モードとの2つの撮影モード
を有している。通常モードでは、後述する撮像素子の受
光領域の数と同数の画素から成る通常出力画像を得る。
高解像度モードでは、後述するイメージシフト動作を行
い、撮像素子の受光領域と同数の画素から成る高解像度
出力画像を得る。高解像度出力画像信号は、撮像素子で
撮像される2つの原画像信号を合成して得られる。
【0058】まず、図2を基にして、本カラー撮像装置
の構成を簡単に説明する。図2は、本カラー撮像装置の
構成を示すブロック図である。
【0059】被写体からの画像光(図2では光軸14を
記載)は、光学系1に含まれる複数枚のレンズからなる
レンズ群にて結像された後、色フィルタ15を通過し
て、撮像素子2の結像面上に結像される。この撮像素子
2の結像面には、複数の受光領域が後述する予め定める
配列で並べられている。
【0060】上記光学系1には、上述のレンズ群の他に
イメージシフト機構、および空間フィルタも含まれてい
る。イメージシフト機構(移動手段)は、詳細には後述
するが、屈折板を有しており、通常モード選択時、撮像
素子2の結像面上の画像光の結像位置を第1結像位置に
固定させる。一方、イメージシフト機構は、高解像度モ
ード選択時、予め定める時間毎に、結像面上の画像光の
結像位置を第1および第2結像位置にそれぞれシフト移
動させる。以後、このシフト移動させる動作をイメージ
シフト動作と称する。空間フィルタは、いわゆる光学的
ローパスフィルタであり、画像光の空間周波数成分を制
限するためのものである。空間フィルタの詳細な説明も
後述する。
【0061】上記撮像素子2は、いわゆる全画素読み出
し型の撮像素子であり、その結像面には、図3に示すよ
うに、複数の受光領域PDが、水平方向Hおよび該水平
方向Hと直交する垂直方向Vに沿って、予め定める配列
周期PH,PVの間隔で2次元行列的に並べられてい
る。
【0062】この撮像素子2において、画像光に対する
水平方向Hのサンプリング周波数fHは、水平方向Hの
配列周期PHの逆数であり、同様に垂直方向Vのサンプ
リング周波数fVは、垂直方向Vの配列周期PVの逆数
である。サンプリング周波数fHは(3)式で、サンプ
リング周波数fVは(4)式で示される。
【0063】
【数2】
【0064】なお、これ以後、水平方向Hに沿って直線
上に並べられる1群の構成要素を「行」と称し、垂直方
向Vに沿って直線上に並べられる1群の構成要素を
「列」と称する。
【0065】また、上記撮像素子2は、予め定める露光
時間だけ、各受光領域PDに画像光の色彩光を受光させ
ることによって、画像光を撮像する。露光時間が経過す
ると、予め定める時間毎に、各受光領域PDからの受光
データを第1または第2原画像信号として、後述する前
処理回路3に導出する。
【0066】上記第1および第2原画像信号は、それぞ
れ画像光が、前述した第1結像位置と第2結像位置とに
結像されたときに、画像光を撮像して得られる画像信号
である。各画像信号は、各受光領域PDでの色彩光の受
光量に対応する受光データからそれぞれ構成され、撮像
素子2から出力された段階では、各受光データは受光量
に対応するレベルのアナログ信号である。
【0067】図4に、2つの撮像位置である第1結像位
置と第2結像位置との関係を示す。第1結像位置Qaを
基準にすると、第2結像位置Qbは第1結像位置Qaか
ら水平方向Hにシフト長さPHだけ移動した位置とな
る。つまり、光学系1のイメージシフト機構は、撮像素
子2の空間サンプリング位置を、水平方向Hに画素ピッ
チの長さPHだけ変位させるようになっている。
【0068】色フィルタ15は、撮像素子2の光入射側
に配置され、例えば撮像素子2と一体的に形成される。
色フィルタ15は、図5に示すように、撮像素子2の各
受光領域PDに個別に対応して予め定める色彩光だけを
通過させる透光領域Lを受光領域と同数だけ有してい
る。透光領域Lは、受光領域PDの配列と等しい配列
で、2次元平面上に並べられている。つまり、色フィル
タ15を通過することで、撮像素子2の各受光領域PD
には、予め定める色彩光だけが入射することになる。
【0069】ここで予め定める色彩光は「赤」「緑」
「青」の3色で、図5において透光領域LにおけるRが
赤色光透過フィルタ(以下、Rフィルタ)、Gが緑色光
透過フィルタ(以下、Gフィルタ)、Bが青色光透過フ
ィルタ(以下、Bフィルタ)である。また、Rフィルタ
と同じ行のGフィルタをG1フィルタ、Bフィルタと同
じ行上のGフィルタをG2として、区別して称するもの
とする。各色彩光の透光領域Lの色配列は、2点鎖線で
囲む2行2列の4つの透光領域Lの配列を基本配列パタ
ーンとする周期的な配列である。一般に、このような色
フィルタ15の配列は、ベイヤー配列と呼ばれている。
【0070】再び図2に戻り、図2に示す前処理回路3
は、撮像素子2から出力された各原画像信号を増幅した
後、該信号に例えばホワイトバランス補正およびガンマ
補正等の予め定める処理を施す。前処理回路3において
処理された原画像信号は、A/D変換回路4でデジタル
信号に変換された後、信号処理回路6、合成処理回路1
2、スイッチ13にそれぞれ導出される。
【0071】信号処理回路6は、通常モードにおいて動
作し、単一の原画像信号から、通常出力画像の通常出力
画像信号を生成する。合成処理回路12は、高解像度モ
ードにおいて動作し、高解像度出力画像の高解像度出力
画像信号を生成する。これら信号処理回路6および合成
処理回路12の処理の詳細はそれぞれ後述する。
【0072】スイッチ13は、3入力1出力の選択スイ
ッチであり、後述するように、同期信号発生回路9から
の同期信号により、3入力のうちの何れかを選択して出
力する。
【0073】前述した通常モードおよび高解像度モード
は、例えば装置本体に備えられる操作ボタンをカラー撮
像装置の使用者が操作することによって選択される。モ
ード切り替え回路11は、使用者の選択に応じて、選択
されたモードに対応する出力を、同期信号発生回路9に
与えるものである。
【0074】同期信号発生回路9は、通常モードが選択
されたとき、単一の原画像信号の撮像動作に対応する同
期信号を発生させる一方、高解像度モードが選択された
とき、2つの原画像信号の撮像動作に対応する同期信号
を発生させる。そして、発生された同期信号は、駆動回
路8、メモリ制御回路10、ならびに前述のスイッチ1
3に与えられる。
【0075】同期信号発生回路9より、単一の原画像信
号の撮像動作に対応する同期信号が発生すると、スイッ
チ13は、信号処理回路6からの出力を選択する。ま
た、駆動回路8は、まず、光学系1のイメージシフト機
構を前述の第1結像位置に固定し、次いで、同期信号に
応答し、撮像素子2の各受光領域PDから受光データを
前処理回路3に出力させる。同時に、メモリ制御回路1
0は、同期信号に応答し、前処理回路3、A/D変換回
路4、信号処理回路6、スイッチ13を介した受光デー
タを単一の通常出力画像信号毎に、画像メモリ5にスト
アさせる。
【0076】一方、同期信号発生回路9より、2つの原
画像信号の撮像動作に対応する同期信号が発生すると、
駆動回路8は、光学系1内のイメージシフト機構を用い
てイメージシフト動作を行う。これによって、撮像素子
2では、各受光領域が受光する色彩光が、被写体の像の
中で移動前の色彩光とずれる。
【0077】高解像度モードによる撮像動作は、まず、
光学系1のイメージシフト機構を第1結像位置に固定す
る。次いで、第1同期信号に応答し、撮像素子2の各受
光領域PDから受光データを前処理回路3に出力させ
る。スイッチ13は、同期信号に応じて、A/D変換回
路4からの信号を選択する。受光データは、前処理回路
3により、ホワイトバランス処理、ガンマ補正などの処
理を施された後、A/D変換回路4およびスイッチ13
を介して、画像メモリ5に導出される。画像メモリ5
は、受光データを第1原画像信号としてストアする。
【0078】次いで、同期信号発生回路9からの第2同
期信号に応じて、駆動回路8は、光学系1内のイメージ
シフト機構を駆動して、イメージシフト機構を予め定め
る第2結像位置に固定する。また、スイッチ13は、合
成処理回路12からの信号を選択する。また、画像メモ
リ5は、先程ストアした第1原画像信号を出力する。こ
の第1原画像信号は、合成処理回路12に導出される。
同期信号に応じて、撮像素子2の各受光領域PDから受
光データは、前処理回路3、A/D変換回路4に導出さ
れる。この受光データは、第2原画像信号として合成処
理回路(画像合成手段)12に導出される。
【0079】合成処理回路12は、画像メモリ5から第
1原画像信号を入力し、A/D変換回路4から第2原画
像信号を入力する。これら2枚の原画像信号を合成処理
し、高解像度である高解像度出力画像を生成し、画像メ
モリ5へ再びストアする。
【0080】ここで、画像メモリ5は、ストアされた第
1原画像信号を出力しながら、高解像度出力画像を入力
している。すなわち、出力されていく第1原画像信号の
領域から、順次高解像度出力画像を上書きしていく。し
たがって、第1原画像信号をすべて出力し終える時点
で、画像メモリ5には、高解像度出力画像のストアが完
了することになる。このような画像メモリ5のストア方
法により、画像メモリ5の容量は、原画像信号もしくは
高解像度出力画像の1枚分だけでよく、2枚分の容量を
必要としない。
【0081】画像メモリ5にストアされた通常出力画像
信号、高解像度出力画像信号は何れも、最終的に、記録
媒体7にストアされる。
【0082】なお、本発明の移動手段は、後述するイメ
ージシフト機構と駆動回路8にて構成され、移動判定手
段は、上記したモード切り替え回路11、メモリ制御回
路10、同期信号発生回路9、駆動回路8にて構成され
る。また、本発明の画像合成処理回路は、合成処理回路
12と、スイッチ13、メモリ制御回路10から構成さ
れる。また、図2では特には図示していないが、各部を
制御する制御手段としてのCPU等からなる制御系が備
えられている。
【0083】次に、図6ないし図13を用いて、光学系
1に含まれる前述したイメージシフト機構、および固定
光学フィルタについて詳細に説明する。
【0084】図6に、光学系1におけるレンズ群21、
イメージシフト機構22の屈折板23、および撮像素子
2の位置関係を示す。レンズ群21は、複数枚のレンズ
により構成され、各収差を補正しつつ、光学系1に入射
される画像光を撮像素子2の結像面上において結像させ
る。イメージシフト機構22は、屈折板23を有し、レ
ンズ群21と撮像素子2との間に介在される。レンズ群
21を通過後の画像光の光軸14は、屈折板23を通
り、色フィルタ15を通過して、撮像素子2の結像面に
至る。以降、この画像光の光軸14と平行な方向をZと
称する。空間フィルタは、これらの構成要素であるレン
ズ群21と撮像素子2の間の任意の位置に設置される。
【0085】図7に、イメージシフト機構22の具体的
構成を示す。イメージシフト機構22に含まれる屈折板
23は、透光性を有する矩形の板状部材であり、透光性
を有するガラス部材等で形成される。例えばBK7のよ
うな光学ガラスを材料として用いる。屈折板23は、イ
ナーシャを小さくするために、できるだけ軽量とするこ
とが望ましい。
【0086】屈折板23の水平方向Hの両側方には、一
対の圧電素子31,32が配置される。これら圧電素子
31,32は、いわゆるバイモルフ型の圧電素子であ
り、短冊状の3枚の電極の間に圧電セラミックが介在さ
れる構造を有する。この圧電素子31,32の長手方向
は、イメージシフト動作のシフト方向と平行な水平方向
Hに平行である。
【0087】各圧電素子31,32は片持梁構造であ
り、長手方向の両端部のうち、図面を記す紙面で手前側
の一方端を固定端、奥側の他方端を自由端とする。圧電
素子31,32の各電極からは、圧電素子31,32の
固定端側から導線38,39がそれぞれ引き出される。
この導線38,39は、駆動回路8に接続される。
【0088】圧電素子31,32の自由端側の部分は、
上保持板33および下保持板34に挟持される。上保持
板33および下保持板34は、例えば合成樹脂である軽
量な材料によって形成される。上および下保持板33,
34は、概略的に短冊状の部材であって、長手方向の両
側に肉厚部分が形成され、水平方向Hから見て概略的に
「コ」の字状の形状を有する。
【0089】上および下保持板33,34は、その長手
方向が垂直方向Vと平行となるように設置され、かつそ
の肉厚部同士を対向させて一対の圧電素子31,32を
挟持し、同時にその中間部で屈折板23を挟持して、サ
ンドイッチ接合構造を形成する。各構成要素間の接合に
は、エポキシ系樹脂のフィルム状接着剤などが用いられ
る。これによって、屈折板23は、圧電素子31,32
の自由端側の部分に、上および下保持板33,34は、
屈折板23の中心を含む仮想的なHV平面を対象面とす
る上下対称の構造を有する。圧電素子31,32が片持
梁として動作するとき、その自由端側部分は、他の構成
部材に動きを拘束されることなく自由に変位することが
できる。
【0090】また、各圧電素子31,32の固定端側の
部分は、ステージ35に接合されて固定される。ステー
ジ35は、図示しないカラー撮像装置の筐体の所定位置
に固定される。この圧電素子31,32の固定方法は、
これに限らず、例えば固定端側の部分をステージ35お
よびステージ35とほぼ同形状の別部材によって挟持
し、これら部材をビスで固定することで固定してもよ
い。この筐体内部には、被写体からの画像光の全光束が
屈折板23を通過するように、前述の光学系1が配置さ
れる。
【0091】さらに、この筐体内部には、圧電素子3
1,32の光軸方向の位置を検出するための位置センサ
36,37が配置される。位置センサ36,37は、例
えば反射型のフォトインタラプタで実現される。位置セ
ンサ36,37は、鏡面加工が施された下保持板34か
らの反射光を受光して下保持板の変位を検出し、その変
位量から圧電素子36,37の変位を推測する。位置セ
ンサ36,37の検出結果は、駆動回路8に与えられ
る。
【0092】このような構造を有するイメージシフト機
構22は、屈折板23の中心を通り、垂直方向Vに平行
に伸びる仮想基準軸線を備える構造の機構と同等に動
く。このイメージシフト機構22は、従来のイメージシ
フト機構と比較して、装置全体の大きさが小さい。
【0093】このイメージシフト機構22でイメージシ
フト動作を行うとき、該機構22は、画像光を結像させ
るべき結像位置に応じて仮想基準軸線を中心として屈折
板23を角変位させることによって、屈折板23と入射
側の画像光の光軸14aとの成す角度を変化させる。第
1および第2結像位置を結像させるときのイメージシフ
ト機構22がとるべき状態を、それぞれ第1および第2
状態とする。第1および第2状態は、駆動回路8からの
信号の有無によって切り替えられる。
【0094】第1状態では、駆動回路8は、圧電素子3
1,32に信号を与えない。このとき圧電素子31,3
2はHV平面に対して平行な状態を保つので、屈折板2
3の入射面と入射側の光軸14aとが直交する。第1結
像位置は、この状態の屈折板23を通過した後の画像光
の光軸14bと、撮像素子2の結像面との交点である。
【0095】第2状態では、駆動回路8は、導線38,
39を介して、圧電素子31,32の圧電セラミックを
挟持する各電極に、あらかじめ定める信号を与える。こ
れによって、2対の電極間に予め定める電圧が印加され
るので、固定端の部分を支点として、支点から自由端ま
でが連続的に歪み、自由端の端部を光学軸方向Zに変位
させる。屈折板23は、この自由端の変位に応じて、仮
想基準軸線を回転中心として角変位する。これによっ
て、屈折板23の入射面は、入射側の光軸14aに対し
て予め定める傾斜角度だけ傾く。
【0096】このとき、位置センサ36,37は下保持
板の変位から圧電素子31,32の変位を検出して、駆
動回路8に与える。駆動回路8は、位置センサ36,3
7の検出結果と予め定める目標値とを比較して、その誤
差量を検出する。駆動回路8は、この誤差量がゼロに成
るように、圧電素子31,32の電極に与える信号の電
圧を微調整して、屈折板23の傾斜角度を微調整する。
【0097】屈折板23通過後の画像光の光軸は、入射
側の光軸14aの延長線から、屈折板23の傾斜角度に
対応したシフト長さだけ、仮想基準軸線に直交する方向
に平行移動する。これによって、イメージシフト機構2
2が第2状態にあるとき、屈折板23通過後の画像光の
光軸は、水平方向Hに沿って予め定めるシフト長さだけ
平行移動する。第2結像位置は、この平行移動後の光軸
と撮像素子2の結像面の交点である。したがって、第2
結像位置は、第1結像位置から見て、光軸のシフト方向
と同じシフト長さだけずれる。このような動作によっ
て、画像光の結像位置がシフト移動する。
【0098】なお、図7に示したイメージシフト機構2
2は、圧電素子により屈折板23を駆動した構成である
が、駆動素子はこれに限られるものではなく、ソレノイ
ド、ボイスコイルモータ、あるいはプランジャなどの駆
動素子を用いて、屈折板23を駆動してもよい。
【0099】また、イメージシフト機構22に代わっ
て、可変頂角プリズムによってイメージシフト動作を行
ってもよい。この可変頂角プリズムは、例えば『ITE
J Technical Report Vol.1
7,No.5,pp.15〜20,CE’93−3(J
an,1993)』に開示されている。
【0100】また、イメージシフト機構22に代わっ
て、光学系1内のいずれか1つまたは複数のレンズを移
動することによって、イメージシフト動作を行ってもよ
い。この際に、移動量を検出しながら圧電素子などの構
成部材を用いて変位させる。
【0101】また、イメージシフト機構22に代わっ
て、撮像素子2または撮像素子2と光学系1とを含むブ
ロックを、画像光の光軸を固定した状態での撮像素子2
または該ブロックの移動によって、イメージシフト動作
を行ってもよい。この際に、移動量を検出しながら圧電
素子などの構成部材を用いて変位させる。
【0102】このように、イメージシフト動作のための
機構は、上述の第1および第2結像位置に結像位置を移
動できるものであれば、上述の機構に限らずどのような
構造の機構を用いてもよい。
【0103】図8に、空間フィルタの具体的構成を説明
する。図8に示す空間フィルタ40は、複屈折板41、
1/4波長板42、複屈折板43が、画像光の光軸14
上に、入射側からこの順で配列されて形成されている。
複屈折板41、1/4波長板42、複屈折板43は、入
射側の画像光の光軸14と直交する入射面および射出面
をそれぞれ有する。
【0104】以後、水平方向H、垂直方向V、および光
軸方向Zの各単位ベクトルを、ベクトルi,j,kと表
す。また、ベクトルi,jに平行でかつベクトルkと直
交する平面を、HV平面とする。このHV平面は、複屈
折板41、1/4波長板42、複屈折板43の入射面お
よび射出面と平行である。
【0105】上記の複屈折板41,43は、例えば水晶
板で実現される。図9(a)(b)は、空間フィルタ40
の複屈折板41,43の各分離ベクトルV41,V43
をHV平面に投影した状態を示す図である。また、複屈
折板41,43の各分離ベクトルV41,V43の大き
さ、すなわち分離長さは、複屈折板41,43の光軸方
向Zの厚さに比例して定められる。ゆえに、複屈折板4
1,43の厚さは、それぞれ後述する分離長さが生じる
ように設定される。分離ベクトルV41,V43は、前
述した単位ベクトルi,j,kによって、(5)式
(6)式でそれぞれ規定される。
【0106】
【数3】
【0107】上式から、複屈折板41,43の各分離ベ
クトルV41,V43の向きは、それぞれ反時計まわり
に見て、水平方向Hと成す向き角θ41,θ43はそれぞ
れ、(7)式(8)式の通りである。
【0108】
【数4】
【0109】また、複屈折板41,43の分離長さは、
どちらも以下の通りである。
【0110】
【数5】
【0111】また、θ41=−θ43=π/4rad(ラジ
アン)の時、つまりPH=PVの時に、空間フィルタ
は、図10に示す構成としてもよい。
【0112】図10に示す空間フィルタ60は、3枚の
複屈折板61〜63が、画像光の光軸14上に、入射側
からこの順で配列されて形成させる。複屈折板61〜6
3は、入射側の画像光の光軸14と直交する入射面およ
び射出面をそれぞれ有する。複屈折板61〜63は、例
えば水晶板で実現される。
【0113】図11(a)〜(c)は、空間フィルタ6
0の複屈折板61〜63の各分離ベクトルV61〜V6
3をHV平面に投影した状態を示す図である。また、複
屈折板61〜63の各分離ベクトルV61〜V63の大
きさ、すなわち分離長さは、複屈折板61〜63各々の
光軸方向Zの厚さに比例して定められる。ゆえに、各複
屈折板61〜63の厚さは、それぞれ後述する分離長さ
が生じるように設定される。各分離ベクトルV61〜V
63は、前述した単位ベクトルi,j,kによって、
(9)式(10)式(11)式で規定される。
【0114】
【数6】
【0115】ここで、P=PH=PVである。上式か
ら、複屈折板61〜63の各分離ベクトルV61〜V6
3の向きは、それぞれ反時計まわりに見て、水平方向H
と180度、90度、315度を成す向きであることが
分かる。また、複屈折板61〜63の分離長さは、順に
以下の通りである。
【0116】
【数7】
【0117】図8の空間フィルタ40を通過した画像光
も、PH=PVの場合に適用できる図10の空間フィル
タ60を通過した画像光も、図12に示すように、4本
の光線に分離する。
【0118】ここで図13に、空間フィルタ40の空間
周波数特性を示す。なお、以下に示す総ての空間周波数
平面は、第1象限および第2象限だけを示すものとす
る。これは、第3象限および第4象限は、第1象限およ
び第2象限と共役関係にあるため、空間周波数特性を示
すのはこの2つの象限だけで十分であるからである。
【0119】空間フィルタ40は、図13の破線、すな
わち(fH,0)と(0,fV)を結ぶ破線、および
(−fH,0)と(0,fV)を結ぶ破線上の空間周波
数成分をトラップする。また、空間フィルタ60は、空
間フィルタ40において、θ41=−θ43=π/4rad
とした場合と等しい空間周波数特性を持つ。
【0120】本カラー撮像装置においては、空間フィル
タ40(或いは空間フィルタ60)は、可変機構をもた
ず固定されており、通常モードにおいても、高解像度モ
ードにおいても、同じ空間周波数特性を画像光に施すも
のとなっている。
【0121】次に、図14ないし図19を用いて、信号
処理回路6の通常モード時の処理について説明する。
【0122】信号処理回路6は、前述したように、単一
の原画像信号から輝度信号および色差信号を求めるもの
である。
【0123】図14の空間周波数平面図に、輝度信号お
よび色差信号のモアレのキャリア周波数を示す。輝度の
基底帯域121を、図14では斜線を付して示す。輝度
の基底帯域121の範囲は、(fH/2,fV/2)、
(−fH/2,fV/2)、(fH/2,0)、(−f
H/2,0)の4点を頂点とする矩形領域である。
【0124】上述の基底帯域121内において、色差信
号のモアレのキャリア周波数の存在する位置は、(fH
/2,fV/2)、(−fH/2,fV/2)、(fH
/2,0)、(−fH/2,0)、(0,fV/2)の
5箇所である。図14では、これらの位置に○印を付し
て示す。
【0125】上述した空間フィルタ40(或いは空間フ
ィルタ60)によりトラップされる空間周波数成分を破
線で示す。上述の5箇所の色差信号のモアレのうち、先
の2箇所、つまり、(fH/2,fV/2)、(−fH
/2,fV/2)は、空間フィルタ40(或いは空間フ
ィルタ60)によって減衰されるので、視覚的に目立た
なくなる。
【0126】これに対し、後の3箇所は、水平方向また
は垂直方向の空間周波数軸上にあり、視覚的に目立つモ
アレである。上記の信号処理回路6は、この3箇所のモ
アレを信号処理にて抑圧するものである。
【0127】図15のブロック図に、信号処理回路6の
構成を示す。信号処理回路6においいて、A/D変換回
路4(図2参照)から出力された原画像信号は、端子1
45から入力され、該原画像信号を基に、輝度信号Yお
よび2種類の色差信号R−Y,B−Yを生成し、端子1
46,147,148からそれぞれ出力する。通常出力
画像信号は、輝度信号Yと、2種類の色差信号R−Y,
B−Yから構成され、この輝度信号Yおよび2種類の色
差信号R−Y,B−Yが、通常出力画像信号として、画
像メモリ5(図2参照)にストアされる。
【0128】輝度信号Yは、高域輝度信号YHおよび低
域輝度信号YLを加算器144により加算することによ
り得られる。輝度信号Yの生成についての詳細は、後述
するが、高域輝度信号YHは、端子145から入力され
た原画像信号をバンドパスフィルタ(図中では、BPF
と略称する)131に通過させることにより取り出され
る。
【0129】スイッチ133は、端子145から入力さ
れた原画像信号を、Rフィルタ、Gフィルタ、Bフィル
タごとに分離し、さらに、GフィルタをG1フィルタと
G2フィルタとに分離する。つまり、スイッチ133
は、原画像信号を、R,G1,G2,Bフィルタごとに
分離して、Rフィルタを通過したRフィルタ信号、G1
フィルタを通過したG1フィルタ信号、G2フィルタを
通過したG2フィルタ信号、Bフィルタを通過したBフ
ィルタ信号をそれぞれ出力し、補間フィルタ134,1
35,136,137に導出する。
【0130】補間フィルタ134〜137は、R,G
1,G2,Bフィルタ信号を補間して同期化する。ここ
では、Rフィルタ信号を補間して同期化する補間フィル
タ134について説明する。
【0131】図16に、色フィルタ15の透光領域Lの
配列のうち、6行4列で構成される一部分を示す。Rフ
ィルタは、画素(1,2),(1,4),(3,2),
(3,4),(5,2),(5,4)の6箇所には、R
(1,2),(1,4),(3,2),(3,4),
(5,2),(5,4)の受光データが得られている。
ここでR(n,m)は、第n行第m列の画素(n,m)
に対応するRフィルタの受光データを表す。上記6箇所
以外の画素には、Rフィルタの受光データは欠けてい
る。
【0132】補間フィルタ134は、欠けている画素に
おけるRフィルタの受光データを、隣接するRフィルタ
の受光データから補間して求める。例えば、画素(2,
3)のRフィルタの補間データR(2,3)は、(1
2)式に基づいて求められる。
【0133】
【数8】
【0134】これは、画素(2,3)に隣接する周囲4
個の画素(1,2),(1,4),(3,2),(3,
4)の受光データR(1,2),(1,4),(3,
2),(3,4)を用いて補間する方法であり、線形補
間法である。この他、例えば、周囲16個の画素の受光
データを用いて補間する方法であるキュービックコンボ
リューション補間法等、どのような方法を用いてもよ
い。
【0135】線形補間法により処理される場合の補間フ
ィルタ134は、(13)式で定義されるローパスフィ
ルタf1を用いて表すことができる。
【0136】
【数9】
【0137】このローパスフィルタf1は、3行3列の
行列として表される2次元ローパスフィルタである。第
p行第q列の要素をf1(p,q)として表すと、この
2次元ローパスフィルタf1により、補間は、(14)
式で計算できる。
【0138】
【数10】
【0139】ここで、R(n,m)は、補間前のRフィ
ルタ信号の第n行第m列の受光データを表す。また、
R'(n,m)は、補間後のRフィルタ信号の第n行第m
列の受光データを表す。
【0140】図16に示したように、6箇所以外の画素
には、Rフィルタの受光データが無い。式(14)に基
づく計算の際には、この受光データの無い画素には、ゼ
ロを与えておく。実際は、スイッチ133(図15参
照)が、このゼロを出力している。つまり、スイッチ1
33は、端子145から入力された受光データを、その
受光データが属している色フィルタの種類に対応する補
間フィルタへ出力し、同時にそれ以外の3種類の色フィ
ルタの種類に対応する補間フィルタにはゼロを出力して
いる。この切り替えは、1画素ごとに行われている。
【0141】このようにして補間して同期化された
R’,G1’,G2’,B' フィルタ信号は、図15に
示す低域輝度信号生成回路132に導出される。低域輝
度信号生成回路132は、(15)式の計算を行い、低
域輝度信号YLを生成する。
【0142】
【数11】
【0143】但し、(15)式において、α+β=1で
ある。つまり、低域輝度信号YLは、(16)式で示す
理想的な混合比率によって生成している。
【0144】
【数12】
【0145】生成された低域輝度信号YLは、加算器1
44に導出される。
【0146】一方、同期化されたR’,G1’,G
2’,B' フィルタ信号は、加算器138,139,1
40,141へ導出される。加算器138は、R’フィ
ルタ信号およびG1’フィルタ信号を入力し、その差を
求める計算をすることによって、R’−G1’信号を生
成する。同様に、加算器139は、G2’フィルタ信号
およびB’フィルタ信号からB’−G2’信号を、加算
器140は、R’フィルタ信号およびG2’フィルタ信
号からR’−G2’信号を、加算器141は、G1’フ
ィルタ信号およびB’フィルタ信号からB’−G1’信
号を、それぞれ計算する。
【0147】生成されたR’−G1’,R’−G2’,
B’−G1’,B’−G2’信号は、色モアレ抑圧処理
回路142に導出される。
【0148】色モアレ抑圧処理回路142は、R’−G
1’信号とR’−G2’信号とから色差信号R−Gを計
算し、また、B’−G1’信号とB’−G2’信号とか
ら色差信号B−Gを計算する。すなわち、(17)式
(18)式に基づいて計算する。
【0149】
【数13】
【0150】ここで、E1 (x,y)、E2 (x,y)
は評価関数である。例えば、(17)式の場合は、評価
関数E1 とE2 の値で定まる比率により、R’−G1’
信号とR’−G2’信号とを混合することにより、色差
信号R−Gを計算する。評価関数E1 が大きければR’
−G1’信号の割合が増えることになり、評価関数E2
が大きければR’−G2’信号の割合が増えることにな
る。この割合を画素ごとに適用的に変えることにより、
上述の色差信号のモアレを抑圧することができる。
【0151】上記の評価関数E1 ,E2 を具体的に言え
ば、評価関数E1 は、第1引数xの絶対値と、第2引数
yの絶対値とを比較して、第1引数xの絶対値が相対的
に小さい程、大きな値を返す。また、評価関数E2 は、
第1引数xの絶対値と、第2引数yの絶対値とを比較し
て、第2引数yの絶対値が相対的に小さい程、大きな値
を返す。
【0152】すなわち、(17)式は、R’−G1’信
号とR’−G2’信号の絶対値の小さい方の信号を優先
的に選択しながら、他方すなわち絶対値の大きい方の信
号も考慮して、色差信号R−Gを生成している。また、
(17)式と同様にして(18)式は色差信号B−Gを
計算している。なお、このような、原理を利用した方法
であれば、色モアレ抑圧処理回路142は上述の方法に
限ったものではない。
【0153】このようにして生成された色差信号R−
G,B−Gは、色差マトリックス回路143へそれぞれ
導出される。色差マトリックス回路143では、(1
9)式に基づいて2種類の色差信号R−Y,B−Yが生
成される。
【0154】
【数14】
【0155】ここで、空間周波数成分(0,fV/2)
により構成される白黒の被写体が撮像されるとする。こ
の被写体は、周期2PVの横縞であり、このような被写
体に対してはR=G1、B=G2となるため、R−G
1、B−G2はいずれもゼロになる。ゆえに、(17)
式および(18)式に基づいて計算される色差信号R−
G,B−Gはゼロとなり、結局、(19)式により、色
差信号R−Y,B−Yもそれぞれゼロとなる。このこと
は、図14に示した空間周波数(0,fV/2)の位置
にある色差信号のモアレが消滅することを意味してい
る。
【0156】また、空間周波数成分(±fH/2,0)
により構成される白黒の被写体が撮像されるとする。こ
の被写体は、周期2PHの縦縞であり、このような被写
体に対してはR=G2、B=G1となるため、R−G
2、B−G1はいずれもゼロになる。ゆえに、(17)
式および(18)式に基づいて計算される色差信号R−
G,B−Gはゼロとなり、結局、(19)式により、色
差信号R−Y,B−Yもそれぞれゼロとなる。このこと
は、図14に示した空間周波数(±fH/2,0)の位
置にある色差信号のモアレが消滅することを意味してい
る。
【0157】このように、水平方向Hまたは垂直方向V
の空間周波数軸上にあり、視覚的に目立つ3箇所モアレ
を信号処理により抑圧することができる。なお、このよ
うな方法ならびに回路構成は既に知られており、例えば
特開平6−339145号公報に開示されている。
【0158】続いて、輝度信号Yを得る原理について詳
しく説明する。輝度信号Yは、前述したように、高域輝
度信号YHと低域輝度信号YLとを加算することにより
得る。
【0159】低域輝度信号YLは、前述の(16)式に
示した理想的な混合比率であるが、補間フィルタ13
4,135,136,137を施しているため、高周波
数成分のゲインが低く、解像度が低い。そこで、輝度信
号Yの低域は理想的な混合比率を持つ低域輝度信号YL
を用い、輝度信号Yの高域は高解像度である高域輝度信
号YHを用いる。なお、高域輝度信号YHは、(16)
式に示した理想的な混合比率ではない。
【0160】高域輝度信号YHは以下のように生成す
る。無着色(白黒)被写体を撮像する場合では、異なる
色フィルタの各受光データはいずれもほぼ等しくなる。
つまり、R=G1=G2=Bとなる。したがって、図5
に示した色フィルタ15のように配列されている受光デ
ータをそのまま輝度信号Yとして用いても良い。さら
に、この受光データは、補間処理されていないため、高
解像度となっている。
【0161】しかしながら、着色(カラー)被写体を撮
像する場合では、異なる色フィルタの受光データ間にレ
ベル差が生じる。例えば緑色の被写体を撮像する場合で
は、RおよびBのレベルは、G1およびG2に比べて低
くなるので、市松模様の輝度信号Yとなってしまう。つ
まり、輝度信号に偽信号(輝度モアレ)が発生する。
【0162】ベイヤー配列の色フィルタは、図5に示し
た2点鎖線で囲む2行2列の4つの透光領域の配列を基
本配列パターンとする周期的な配列であるので、水平方
向Hに2画素周期、垂直方向Vに2画素周期に配列され
ている。したがって、この輝度モアレの空間周波数は、
輝度信号の基底帯域の境界線に位置することになる。
【0163】したがって、この輝度モアレを除去するた
めに、原画像信号から、輝度信号の基底帯域の境界線の
周波数成分を除去するローパスフィルタを施す必要があ
る。また、輝度信号Yにおいて上述の理想的な混合比率
によって生成された低域輝度信号YLを使うため、原画
像信号から、低域輝度信号YLに相当する周波数帯域を
除去するハイパスフィルタを施す必要がある。つまり、
結局は、原画像信号から、低域成分と、基底帯域付近の
高域成分とを除くことになるので、バンドパスフィルタ
131を施すことになる。
【0164】図17に、バンドパスフィルタ131の空
間周波数特性を示す。図17において、バンドパスフィ
ルタ131は、通過帯域を横縞領域とし、制限帯域を縦
縞領域として表わしている。さらに、破線部分のゲイン
をゼロとしている。
【0165】2次元フィルタであるバンドパスフィルタ
131において、水平方向のフィルタ特性の模式図は、
図18の白塗り領域のようになる。このフィルタ特性の
模式図は、図17において水平軸上の周波数特性を表し
ている。
【0166】また、2次元フィルタであるバンドパスフ
ィルタ131において、垂直方向のフィルタ特性の模式
図は、図19の白塗り領域のようになる。このフィルタ
特性の模式図は、図17において垂直軸上の周波数特性
を表している。
【0167】一方、折り返し周波数付近の高周波数成分
は、補完されることはなく、カラー撮像装置が出力する
画像信号の輝度信号Yには、この折り返し周波数付近の
高周波数成分は失われたままである。特に、図18にお
いては水平方向の空間周波数fH/2の成分はゼロであ
る。これを画像として目視すると、水平方向に2PH周
期の縦縞、つまり水平方向に白列と黒列が交互に並んだ
縦縞であり、このカラー撮像装置では再現できないこと
を意味している。実際の自然画像では、縦方向のエッジ
がぼやけることが生じ、画質を損なうという問題点にな
っている。
【0168】また、図19においては垂直方向の空間周
波数fV/2の成分はゼロである。これを画像として目
視すると、垂直方向に2PV周期の横縞、つまり垂直方
向に白行と黒行が交互に並んだ横縞であり、このカラー
撮像装置では再現できないことを意味している。実際の
自然画像では、横方向のエッジがぼやけることが生じ、
画質を損なうという問題点になっている。
【0169】次に、図1、図20ないし図24を用い
て、合成処理回路12の高解像度モード時の処理につい
て説明する。
【0170】合成処理回路12は、前述したように、2
つの原画像信号から輝度信号および色差信号を求めるも
のである。
【0171】イメージシフト動作を行い撮像された2枚
の原画像間の空間的位置関係は、水平方向にシフト長さ
PHだけずれている。すなわち、水平方向に1画素だけ
ずれている。例えば、第1原画像においてRフィルタの
受光データがある画素位置は、第2原画像のG1色フィ
ルタの受光データがある画素位置である。また、第1原
画像においてBフィルタの受光データがある画素位置
は、第2原画像のG2色フィルタの受光データがある画
素位置である。このように、2枚の原画像信号を重ね合
わせた画像を考えると、各画素位置には異なる2種類の
受光データが得られていることになる。
【0172】図20は、2枚の原画像信号を重ね合わせ
た画像の等価的な色フィルタ配列パターンを示す図であ
る。図20では、GとRとの対応画素には符号「Fa」
を記し、GとBとの対応画素には符号「Fb」を記す。
【0173】このことから、この重ね合わせた画像の画
素数および配列は、原画像の画素数および配列と等し
く、その水平方向Hおよび垂直方向Vの配列周期は、そ
れぞれ周期PH,PVである。
【0174】また、全画素がGの対応画素である。Gの
対応画素だけの各配列の水平方向Hおよび垂直方向Vの
配列周期は、図20からそれぞれ周期PH,PVとわか
る。RおよびBの対応画素だけの各配列の水平方向Hお
よび垂直方向Vの配列周期は、図20からそれぞれ周期
PH,2PVとわかる。
【0175】このことから、水平方向H、垂直方向Vの
サンプリング周波数は、Gに関して空間周波数fH,f
Vであり、RおよびBに関して空間周波数fH,fV/
2とみなされる。
【0176】図21の空間周波数平面図に、図20に示
した2枚の原画像信号を重ね合わせた画像の等価的な色
フィルタ配列の輝度信号および色差信号のモアレのキャ
リア周波数を示す。輝度の基底帯域191を、図21で
は斜線を付して示す。輝度の基底帯域191の範囲は、
(fH/2,fV/2)、(−fH/2,fV/2)、
(fH/2,0)、(−fH/2,0)を頂点とする矩
形領域である。
【0177】上述の基底帯域191内において、色差信
号のモアレのキャリア周波数の存在する位置は(0,f
V/2)の1箇所である。図21では、この位置を○印
で表す。また、上述した空間フィルタ40によりトラッ
プされる空間周波数成分を破線で示す。
【0178】このような高解像度モードにおける高解像
度出力画像信号の輝度の基底帯域191の範囲は、通常
出力画像の基底帯域121の範囲と等しい。また、色差
信号のモアレのキャリア周波数は、(0,fV/2)の
位置だけに現れ、通常出力画像に関して存在していた
(fH/2,fV/2)、(−fH/2,fV/2)、
(fH/2,0)、(−fH/2,0)の4箇所が消滅
している。ゆえに、高解像度出力画像は、通常出力画像
と比較して、水平方向Hの解像度を向上させることがで
きる。
【0179】図22のブロック図に、合成処理回路12
の構成を示す。合成処理回路12には、A/D変換回路
4(図2参照)から出力された第2原画像信号が端子2
00から入力され、端子201から画像メモリ5(図2
参照)から出力された第1原画像信号が入力される。
【0180】合成処理回路12は、入力された第1およ
び第2原画像信号から、輝度信号Yおよび2種類の色差
信号R−Y,B−Yを生成し、端子202,203,2
04からそれぞれ出力する。高解像度出力画像信号は、
輝度信号Yおよび2種類の色差信号R−Y,B−Yから
構成され、この輝度信号Yおよび2種類の色差信号R−
Y,B−Yは、高解像度出力画像信号として画像メモリ
5にストアされる。
【0181】スイッチ205は、入力された第1および
第2原画像信号から、Rフィルタ、Gフィルタ、Bフィ
ルタごとの信号に分離し、R,B,Gフィルタ信号とし
て出力する。ここで、Gフィルタ信号は、全画素に対応
する受光データが存在する。これに対し、R,Bフィル
タ信号は、1行置きごとに対応する受光データが存在
し、かつ、受光データの存在する行と存在しない行が互
いにずれている。
【0182】したがって、R,Bフィルタ信号は、1行
置きごとにしか対応する受光データが存在しないため
に、図21に示した色差信号のモアレのキャリア周波数
が(0,fV/2)に発生している。
【0183】R,G,Bフィルタ信号は、垂直色モアレ
抑圧処理回路206に入力される。垂直色モアレ抑圧処
理回路206は、Gフィルタ信号を参照してR,Bフィ
ルタ信号を補間することにより、全画素に対応する画素
データが存在するR”,B”フィルタ信号を出力する。
詳細には後述するが、ここで垂直色モアレ抑圧処理回路
206は、Gフィルタ信号と、Rフィルタ信号またはB
フィルタ信号との間に、局所的な領域で相関があること
を利用している。
【0184】このようにして生成された全画素に対応す
る画素データが存在するR”,G,B”フィルタ信号
は、輝度信号生成回路207と色差信号生成回路208
とにそれぞれ入力される。輝度信号生成回路207は、
(20)式の計算を行い、輝度信号Yを生成する。
【0185】
【数15】
【0186】輝度信号Yは、(21)式で示す理想的な
混合比率によって生成している。
【0187】
【数16】
【0188】生成された輝度信号Yは、端子202に接
続されている。この輝度信号生成回路207は、図15
に示した信号処理回路6における低域輝度信号生成回路
132と構成や作用が同じであり、同時に動作すること
はないので、回路を共通化して、1つにすることもでき
る。
【0189】一方、色差信号生成回路208は、入力さ
れたR”,G,B”フィルタ信号から、2種類の色差信
号R−G,B−Gを生成して、色差マトリックス回路2
09へ導出する。色差信号R−GはR”フィルタ信号と
Gフィルタ信号との差分であり、色差信号B−GはB”
フィルタ信号とGフィルタ信号との差分である。
【0190】色差マトリックス回路209は、前述の
(19)式に基づいて、色差信号R−Y,B−Yを計算
する。色差マトリックス回路209は、図15に示した
信号処理回路6における色差マトリックス回路143と
構成や作用が同じであり、同時に動作することはないの
で、回路を共通化して、1つにすることもできる。
【0191】ここで、上記の垂直色モアレ抑圧処理回路
206に実施される処理の原理について、詳細に説明す
る。
【0192】垂直色モアレ抑圧処理回路206は、図2
1に示した色差信号のモアレのキャリア周波数(0,f
V/2)を消滅させるためのものである。
【0193】図23(a)〜(c)は、空間周波数成分
(0,fV/2)をもつ画像を撮像した際に発生する色
差信号のモアレを消去できることを示す模式図である。
【0194】図23(a)の右側には、空間周波数成分
(0,fV/2)をもつ画像、つまり周期PVの白黒の
横縞を表わしており、図23(a)の左側には、各透光
領域L上に受光された受光データを示している。受光デ
ータを縦軸に、垂直方向Vの画素位置を横軸に示してい
る。
【0195】イメージシフト動作により2枚の原画像信
号を重ね合わせた画像を考えると、各画素位置には異な
る2種類の受光データが得られていることになる。すべ
ての受光データが得られた時のR,G,Bフィルタ信号
から生成した高解像度出力画像を仮に考えると、色差信
号のモアレのキャリア周波数(0,fV/2)はもちろ
ん消滅する。したがって、このようなR,G,B色フィ
ルタ信号を、各画素位置に異なる2種類の受光データが
存在する2枚の原画像信号を重ね合わせた画像から、計
算することができればよいことになる。
【0196】ここでもし、受光データの無い画素位置の
Rフィルタ信号またはBフィルタ信号を直線補間により
計算した場合は、図23(b)のように、白黒の横縞で
あった画像は、右側に示す青シアンの横縞となり、着色
してしまう。つまり、色差信号に空間周波数(0,fV
/2)の色モアレが発生したことなる。(22)式(2
3)式に、直線補間の式を示す。
【0197】
【数17】
【0198】ここで、R(n)またはB(n)は、求め
るべき受光データの存在しない画素位置である第n行の
Rフィルタ信号または第n行のBフィルタ信号を表す。
【0199】これに対し、本カラー撮像装置の垂直色モ
アレ抑圧処理回路206は、(24)式(25)式に基
づいて、受光データの無い画素位置の色フィルタ信号R
または色フィルタ信号Bを計算しているため、図23
(c)のように、補間後の画像も白黒の横縞で、色差信
号に空間周波数(0,fV/2)の色モアレは発生して
いない。
【0200】
【数18】
【0201】ここでも、R(n)またはB(n)は、求
めるべき受光データの存在しない画素位置である第n行
のRフィルタ信号または第n行のBフィルタ信号を表
す。したがって、R(n−1),R(n),R(n+
1)は、垂直方向Vにこの順で隣接する3画素である。
同様に、B(n−1),B(n),B(n+1)は、垂
直方向Vにこの順で隣接する3画素である。また、LP
F(R)は、Rフィルタ信号にローパスフィルタを施す
ことを表し、LPF(B)は、Bフィルタ信号にローパ
スフィルタを施すことを表し、LPF(G)は、Gフィ
ルタ信号にローパスフィルタを施すことを表す。
【0202】例えば、(24)式に関して、LPF
(R)−LPF(G)は、第n行付近の局所的な領域に
おいてRフィルタ信号とGフィルタ信号のオフセット分
を計算している。このオフセット分をGフィルタ信号G
(n)と加算することにより、Rフィルタ信号R(n)
を計算している。このLPFを2画素の平均とする場合
は、(26)式(27)式となる。
【0203】
【数19】
【0204】図1は、(26)式に基づくRフィルタ信
号の垂直色モアレ抑圧処理を示した模式図である。図1
中、□はGフィルタ信号、○はRフィルタ信号を表す。
また、◎は求めるべき受光データの存在しない画素位置
のRフィルタ信号を表す。また、■はGフィルタ信号を
ローパスフィルタ処理した値、●はRフィルタ信号をロ
ーパスフィルタ処理した値である。そして、図中Dにて
示す量が、Rフィルタ信号とGフィルタ信号のオフセッ
ト分であり、R(n)と同じ画素位置にあるG(n)に
加算される値である。
【0205】これは、Rフィルタ信号の受光データとG
フィルタ信号の受光データとの間には、局所的な領域で
相関があることを利用して、□のGフィルタ信号の波形
を、○のRフィルタ信号の波形に近似して、◎のR
(n)を計算している。
【0206】即ち、上記の(24)式は、Gフィルタ信
号の変化が、Rフィルタ信号の変化とに相関があること
を利用していると考えることができ、同様に、上記の
(25)式は、Gフィルタ信号の変化が、Bフィルタ信
号の変化とに相関があることを利用していると考えるこ
とができる。
【0207】特に、無着色領域つまり、Gフィルタ信号
のレベルと、Rフィルタ信号のレベルとが等しい領域で
は、Gフィルタ信号の変化と、Rフィルタ信号の変化は
局所的には等しいと考えられるので、完全に正確なRフ
ィルタ信号を補間することができる。すなわち、無着色
領域では、色差信号のモアレのキャリア周波数(0,f
V/2)を完全に消滅することができる。
【0208】一方、着色領域つまり、Gフィルタ信号の
レベルと、Rフィルタ信号のレベルが異なる領域では、
Gフィルタ信号の変化と、Rフィルタ信号の変化は異な
ると考えられるので、完全に正確なRフィルタ信号を補
間することができない。例えば、赤色に着色しているよ
うな領域では、Rフィルタ信号の変化に対して、Gフィ
ルタ信号の変化は小さい。つまり、(24)式における
G(n)−LPF(G)は小さい。したがって、この変
化分をLPF(R)に加算しても、Rフィルタ信号の変
化分を完全に補正することができず、補正不足になり、
着色領域では、色差信号のモアレのキャリア周波数
(0,fV/2)を小さくすることはできるが、完全に
消滅することができない。
【0209】しかしながら、無着色領域に色モアレによ
る偽色が発生している場合は、視覚的に目立つが、着色
領域に色モアレが発生している場合は視覚的に比較的目
立たないため、無着色領域に色モアレ抑圧処理効果の高
い本方式でも、十分な画質改善効果がある。このこと
は、Bフィルタ信号の補間においても同様である。
【0210】また、(24)式または(25)式におけ
るLPFは、(26)式または(27)式で示した2画
素の平均による計算に限定されるものでなく、どのよう
なローパスフィルタ処理でもよい。例えば、LPFを隣
接4画素から計算する場合は、(28)式(29)式と
なる。
【0211】
【数20】
【0212】但し、2画素の平均を用いた場合も、4画
素から計算する場合も補間処理の正確性には殆ど差異が
ないので、2画素の平均による計算を作用することで、
必要とするデータ数が少なくてすみ、処理速度が速く、
回路規模が小さいといった利点がある。
【0213】ところで、このような色モアレを抑圧する
処理としては、既に提案されている方法がある。例えば
『CCM方式補間処理による単板カラーカメラの色モア
レ抑圧処理、1990年テレビジョン学会年次大会(I
TEC’90)、2−10、pp.33−34』に示さ
れている方法がある。
【0214】この文献による方法は、例えば(24)式
に対応する処理は、(30)式のようになる。
【0215】
【数21】
【0216】このLPFを2画素の平均とする場合は、
(31)式のようになる。
【0217】
【数22】
【0218】この従来の方法でも、色差信号のモアレの
キャリア周波数(0,fV/2)を消滅することができ
る。
【0219】しかしながら、この従来の方法では、(3
0)式の分母LPF(G)の値が小さくなるような画像
領域では、LPF(R)/LPF(G)の比が局所的な
領域内でも大きく変動する。また、(30)式の分母L
PF(G)の値が小さい領域では、撮像素子やA/D変
換回路により発生するノイズの影響により、同様にLP
F(R)/LPF(G)の比が大きく変動する。特にL
PF(G)がゼロ近くになれば(30)式は発散してし
まう。
【0220】例えば、LPF(G)が2でありG(n)
が1であるような場合には、R(n)は、LPF(R)
の半分の値になる。Gフィルタ信号はわずか2−1=1
だけのわずかな変化しかないにもかかわらず、Rフィル
タ信号は、第n行の値が周囲の平均の半分となり、急激
な変化が画像に現れてしまい、周囲の画素に比べてその
画素は特異な色になる。この現象は、LPF(G)が小
さい領域、つまりGフィルタ信号の小さい領域で現われ
る。
【0221】つまり、この現象は、画像が赤色、青色、
またはマゼンタ色の近似色で顕著であり、実際に一般的
な画像でも多く存在する。したがって、従来技術による
方法では、撮像画像内に鑑賞に耐え難い異常色が発生し
てしまい、実用に耐え難いと言える。
【0222】これに対し、本実施例で示した色モアレ抑
圧処理は、Gフィルタ信号の値が小さい領域でも、適切
に計算することができる。
【0223】また、この色モアレ抑圧処理は、色フィル
タ15のようなベイヤー配列の合成処理に限定されるも
のではなく、どのような種類のカラーフィルタ配列を用
いたカラー撮像装置、2板式のカラー撮像装置などにも
適応することができる。
【0224】つまり、図1のように、隣接する3画素に
おいて、3画素とも受光データの存在する同一種類の画
素データ(ここではGフィルタ信号)と、中間の位置に
は受光データが存在せず両端の画素位置には受光データ
が存在する別種類の画素データ(ここではRフィルタ信
号)があるデータ系列では、中間の位置の受光データ
を、モアレの発生を抑圧して求めることができる。
【0225】ここで、図24のブロック図を用いて、合
成処理回路12のさらに詳しい構成を説明する。
【0226】図24の合成処理回路12では、垂直色モ
アレ抑圧処理を(26)式および(27)式に基づいて
処理している。なお、輝度信号生成回路207および色
差マトリックス回路209は、図22と同じであるの
で、説明を省略する。
【0227】端子200からA/D変換回路4から出力
された第2原画像信号が入力され、端子201から画像
メモリから出力された第1原画像信号が入力される。合
成処理回路12は、入力された第1および第2原画像信
号から、輝度信号Yおよび2種類の色差信号R−Y,B
−Yを生成し、端子202,203,204からそれぞ
れ出力する。高解像度出力画像信号は、輝度信号および
2種類の色差信号から構成され、この輝度信号Yおよび
2種類の色差信号R−Y,B−Yは、高解像度出力画像
信号として画像メモリ5(図2参照)にストアされる。
【0228】端子200から入力された第2原画像信号
は、水平ディレイライン231,232を順に通過する
ことにより、垂直方向Vに隣接する3行を同期化して、
信号S2(+) ,S2,S2(-) を出力する。同様に、端
子201から入力された第1原画像信号は、水平ディレ
イライン233,234を順に通過することにより、垂
直方向Vに隣接する3行を同期化して、信号S1(+) ,
S1,S1(-) を出力する。これらの信号S2(-) ,S
2,S2(+) ,S1(-) ,S1,S1(+) はスイッチ2
35に入力される。
【0229】スイッチ235は、入力された6信号を1
画素ごとに切り替えてR,G,Bフィルタ信号ごとに分
離する。Gは現在処理中の画素位置のGフィルタ信号、
G(-) は現在処理中の画素位置より1行前のGフィルタ
信号、G(+) は現在処理中の画素位置より1行後のGフ
ィルタ信号、Qは、現在処理中の行中に存在するRまた
はBフィルタ信号のどちらか一方である。
【0230】もし、現在処理中の行が図20に関して奇
数行つまりFaの存在する行であるならば、QはRフィ
ルタ信号となる。また、現在処理中の行がFbの存在す
る行であるならば、QはBフィルタ信号となる。P(-)
は現在処理中の画素位置より1行前のRまたはBフィル
タ信号のどちらか他方のフィルタ信号、P(+) は現在処
理中の画素位置より1行後のRまたはBフィルタ信号の
どちらか他方のフィルタ信号である。つまり、QがRフ
ィルタ信号であるならば、P(+) およびP(-)はBフィ
ルタ信号である。また、QがBフィルタ信号であるなら
ば、P(+) およびP(-) はRフィルタ信号である。
【0231】G(-) およびG(+) は、加算器236にて
加算された後、1/2除算器238により1/2にされ
る。なお、1/2除算器238は、ビットシフト回路に
より簡単に実現できる。加算器240にてGからこの1
/2にされた信号を減算した後に、加算器241に入力
される。
【0232】一方、P(-) およびP(+) は加算器237
にて加算された後、1/2除算器239により1/2に
される。1/2にされた信号は加算器241に入力され
る。この加算器241の出力は、垂直色モアレ抑圧処理
された現在処理中の画素位置に対応して補間されたPで
ある。このPおよびQは、スイッチ242に入力され
る。
【0233】PおよびQは、1行置きにR”およびB”
フィルタ信号が切り替わっている。そこで、スイッチ2
42は、1行置きにスイッチを切り替えている。スイッ
チ242から出力されたR”,B”フィルタ信号、およ
びスイッチ235から出力されたGフィルタ信号は、輝
度信号生成回路207に導出される。
【0234】また、加算器243,244によって、
R”フィルタ信号とGフィルタ信号の差分R”−Gを計
算して色差信号R−Gを生成し、B”フィルタ信号とG
フィルタ信号の差分B”−Gを計算して色差信号B−G
を生成している。生成された色差信号R−G,B−G信
号は、色差マトリックス回路209へ導出される。
【0235】また、一般に色差信号の高周波数成分が無
くとも視覚的に目立たないので、色差マトリックス回路
209の入力前の色差信号R−G,B−Gに、ローパス
フィルタを施して、色差信号R−G,B−Gを間引いて
もよい。あるいは、色差マトリックス回路209の出力
後の色差信号R−Y,B−Yに、ローパスフィルタを施
して、色差信号R−Y,B−Yを間引いてもよい。間引
くことで、高解像度出力画像のデータ量を削減すること
ができる。
【0236】このようにして構成される合成処理回路1
2の場合、輝度信号Yまたは色差信号R−Y,B−Yに
は、ローパスフィルタなどのフィルタリング処理が無い
ため、信号処理回路6のように、図17における破線部
分のゲインがゼロにならない。したがって、このような
合成処理回路12を備えた本カラー撮像装置では、高解
像度出力画像信号が、折り返し周波数付近の高周波数成
分を失わないので、通常出力画像では再現できなかった
水平方向Hに2PH周期の縦縞、つまり水平方向Hに白
列と黒列が交互に並んだ縦縞も、劣化なしに再現するこ
とができる。また、通常出力画像では再現できなかった
垂直方向Vに2PV周期の横縞、つまり垂直方向に白行
と黒行が交互に並んだ横縞も再現することができる。
【0237】また、配設されている空間フィルタ40
(或いは空間フィルタ60)によるfV/2近傍の空間
周波数成分の減衰も無いため、垂直解像度が高い。実際
の自然画像では、エッジがぼやけることなくシャープさ
を保ち、高解像度画像を撮像することができる。
【0238】また、通常モードにおいては、輝度信号の
高域成分である高域輝度信号YHを、原画像信号をバン
ドパスフィルタ131(図15参照)に通過させること
により得ているが、このバンドパスフィルタ131によ
り得られる高域輝度信号YHは、ある着色領域から別の
着色領域(無着色を含む)へ変化する境界線部分では、
バンドパスフィルタ131のステップ応答が現れてしま
う。
【0239】例えば、白色の領域と黄色の領域が接する
直線エッジは、直線であるはずがギザギザしたエッジと
なる。これは、輝度信号Yのエッジに、乱れが生じて、
ギザギザした成分が含まれてしまうためである。このギ
ザギザした成分は、図17中の破線付近の周波数成分で
ある。この画質劣化となるギザギザした成分を取り除く
には、バンドパスフィルタ131の高域のカットオフ周
波数(破線)を低域に下げるか、あるいは高域のカット
オフ特性を緩やかにして破線付近の周波数成分のゲイン
を下げる必要がある。
【0240】しかしながら、どちらの対処方法も、通常
出力画像の輝度信号Yの高域成分のゲインを下げること
となるので、エッジがぼやけて、シャープさが無くな
り、解像度が劣化するというトレードオフの関係にあ
る。したがって、現実的には、エッジ部に現れるギザギ
ザした成分を取り除くことと、解像度の劣化を防止する
ということを適正に考慮してバンドパスフィルタ131
の周波数特性を考えなければならない。また、撮像した
通常出力画像を、使用者が二次利用のために編集する際
にシャープフィルタやエッジ強調などの高域強調処理を
行うと、ギザギザしたエッジが目立つようになってしま
い、撮像された画像の利用にも障害が現れ、画像の利用
価値は低下してしまう。
【0241】これに対し、高解像度モードにおいては、
通常モードにおいて見られるギザギザしたエッジは現れ
ない。したがって、カラー撮像装置内にシャープフィル
タやエッジ強調などの高域強調処理を施して出力して
も、ギザギザしたエッジは現れない。
【0242】また、撮像した高解像度出力画像を、使用
者が二次利用のために編集する際にシャープフィルタや
エッジ強調などの高域強調処理を行っても、ギザギザし
たエッジが現れないので、撮像された画像の利用にも障
害が無く、画像の利用価値は高い。
【0243】ところで、上記の第1実施形態のカラー撮
像装置においては、空間フィルタ40(或いは空間フィ
ルタ60)は固定のものであったが、高解像度モードで
は、図21に示したように通常モード時に存在した色差
信号のモアレのキャリア周波数(fH/2,fV/
2)、(−fH/2,fV/2)は、消滅している。従
って、空間フィルタ40(或いは空間フィルタ60)に
よって作用された図21の破線に示す空間周波数成分の
トラップは特に必要ではない。
【0244】そこで、本発明の第2実施形態のカラー撮
像装置では、通常モードでは空間フィルタ40(或いは
空間フィルタ60)を作用させ、高解像度モードでは空
間フィルタ40(或いは空間フィルタ60)を作用させ
ない構成となっている。
【0245】空間フィルタ40(或いは空間フィルタ6
0)を作用させない構成として、ここでは、光学系1内
に設置される空間フィルタ40(或いは空間フィルタ6
0)全体を、光路から機械的に移動させる、つまり着脱
させる構成を採用している。
【0246】ここでは、撮影モードを切り換えるレバー
に連動して、空間フィルタ40(或いは空間フィルタ6
0)を光路内に移動もしくは着脱させるようになってお
り、使用者がレバーを切り換えるごとに、撮影モードに
応じて空間フィルタ40(或いは空間フィルタ60)
が、作用もしくは非作用になる。
【0247】このような構成によるカラー撮像装置は、
この空間フィルタ40(或いは空間フィルタ60)によ
って、(fH/2,fV/2)、(−fH/2,fV/
2)付近の空間周波数成分が低下しないので、高解像度
モードによる撮像にて生成される高解像度出力画像は、
高周波数成分のゲインが大きくなる。つまり、高解像度
出力画像はより高画質になる。
【0248】具体的には、斜め方向に、(32)式で定
義される周期Tの斜め縞、つまり斜め方向に白線と黒線
とが交互に並んだ斜め線(見方によっては白黒の市松模
様にも見える)を、第2実施形態のカラー撮像装置では
再現できるが、第1実施形態のカラー撮像装置では、再
現できず、実際の自然画像では、斜め方向のエッジがぼ
やけることが生じ、画質が損なわれてしまう。
【0249】
【数23】
【0250】また、上記の第1および第2実施形態1の
カラー撮像装置は、高解像度モードでは、2枚の原画像
を撮像することが行われるが、この2枚の原画像間に光
量差があると、高解像度出力画像に市松模様が発生する
ことが知られている。これに対処する光量差補正処理
を、既に発明者らは特願平8−349159号にて提案
している。
【0251】図22に示した合成処理回路12に、この
光量差補正処理を組み込む場合は、スイッチ205から
出力されたR,G,Bフィルタ信号に、それぞれローパ
スフィルタを施す。このような構成にすることにより、
1枚の画像メモリだけしか持たない上記の第1および第
2実施形態1のカラー撮像装置でも、光量差補正を行う
ことができる。
【0252】このローパスフィルタは、R,G,Bフィ
ルタ信号それぞれの基底帯域を通過帯域とし、その境界
線上においてゲインがゼロであることが望ましい。した
がって、このローパスフィルタは、2次元フィルタとな
る。また、ローパスフィルタは直線位相特性であること
が望ましい。また、R,G,Bフィルタ信号の場合は、
fH/2にカットオフ周波数をもつ水平方向の1次元ロ
ーパスフィルタでもよい。この場合は、垂直方向の解像
度を劣化させないという利点がある。また、Gフィルタ
信号の場合は、fV/2にカットオフ周波数をもつ垂直
方向の1次元ローパスフィルタでもよい。
【0253】R,G,Bフィルタ信号それぞれに、fH
/2にカットオフ周波数をもつ水平方向の1次元ローパ
スフィルタを施す場合の光量差補正処理の一例は、(3
3)式で定義されるf2を用いて表すことができる。
【0254】
【数24】
【0255】このローパスフィルタf2は、1行4列の
行列として表される1次元ローパスフィルタである。第
p列の要素をf2(p)として表すと、この1次元ロー
パスフィルタf2により、光量差補正処理は、(34)
式で計算できる。
【0256】
【数25】
【0257】ここで、X(n,m)は、補間前のXフィ
ルタ信号の第n行第m列の受光データを表す。また、
X’(n,m)は、補間後のXフィルタ信号の第n行第
m列の受光データを表す。
【0258】このようなローパスフィルタを施すことに
より、画像のどの部分においても、また、部分ごとに光
量差が異なる場合でも、光量差を補正することができ
る。
【0259】なお、光量差補正処理を追加することによ
り、図17における破線部分のゲインがゼロになる。例
えば(33)式と(34)式により定義される1次元ロ
ーパスフィルタによる光量差補正処理では、破線のうち
で水平方向Hの空間周波数がfH/2である空間周波数
成分のゲインがゼロになる。したがって、光量差補正処
理によって、垂直解像度の低下は無いが、水平解像度の
低下が発生してしまう。しかし、通常モードで発生した
ようなギザギザしたエッジが発生しないため、(33)
式で定義されるような1次元ローパスフィルタよりもも
っとカットオフ特性の急峻で、破線付近の周波数成分の
ゲインの高いフィルタも適応することができ、水平解像
度の低下を小さくすることもできる。
【0260】
【発明の効果】本発明の画像合成処理方法は、以上のよ
うに、撮像素子の結像面における結像位置を移動させる
イメージシフト動作にて得た結像位置が1画素だけ異な
る2枚 の撮像画像を、結像位置の離反量だけ位置の移動
方向とは逆方向にずらして重ね合わせて合成画像を得る
画像合成処理方法において、異なる結像位置で撮像され
た2枚の画像を重ね合わせて得た、局所的な領域にて相
関のある、第1の色フィルタの受光データ群と、第2の
色フィルタの受光データ群との間で、第1の色フィルタ
の受光データ群の欠落したデータを、該欠落データと同
じ位置にある第2の色フィルタのデータ群のデータに、
第1の色フィルタのデータ群をローパスフィルタ処理し
た値を加算し、さらに第2の色フィルタのデータ群をロ
ーパスフィルタ処理した値を引くことにより求める構成
である。
【0261】本発明の画像合成処理方法は、さらに、
記のローパスフィルタ処理が、第1の色フィルタの受光
データ群の場合は求めるべきデータの位置に隣接する2
つのデータの平均をとり、第2の色フィルタの受光デー
タ群の場合は求めるべきデータと同じ位置に隣接する2
つのデータの平均をとる構成である。
【0262】本発明の画像合成処理方法は、さらに、ま
ずは1枚目に撮像された画像を上書き可能な画像メモリ
に蓄積し、その後の2枚目以降は、画像を撮像するたび
に、画像メモリに蓄積された画像と、撮像された画像と
を合成処理し、該合成処理した画像を再び画像メモリに
上書きして蓄積する工程を繰り返す構成である。
【0263】本発明の画像合成処理回路は、以上のよう
に、撮像素子の結像面における結像位置を移動させるイ
メージシフト動作にて得た結像位置が1画素だけ異なる
2枚の撮像画像を結像位置の離反量だけ位置の移動方向
とは逆方向にずらして重ね合わせて合成画像を生成する
画像合成処理回路において、複数のデータ群からなるデ
ータ系列の欠落したデータを補間するデータ補間処理回
が備えられており、該データ補間処理回路は、欠落デ
ータを有する第1のデータ系列のデータ群をローパスフ
ィルタ処理する第1のローパスフィルタ処理手段と、上
記の第1のデータ系列と局所的な領域において相関のあ
る第2のデータ系列のデータ群をローパスフィルタ処理
する第2のローパスフィルタ処理手段と、第1のデータ
系列における欠落したデータと同じ位置にある第2のデ
ータ系列のデータに、第1のデータ系列のデータ群のロ
ーパスフィルタ処理した値を加算する加算手段と、該加
算手段の計算値から、第2のデータ系列のデータ群をロ
ーパスフィルタ処理した値を減算する減算手段とを備
、上記の第1および第2のデータ系列が、異なる色フ
ィルタ配列により受光された2種類の受光データ群であ
って、異なる結像位置において撮像された2枚の画像を
重ね合わせて得た、第1の色フィルタの受光データ群
と、第2の色フィルタの受光データ群とである構成であ
【0264】本発明の画像合成処理回路は、さらに、
記の第1ローパスフィルタ処理手段は、求めるべきデー
タの位置に隣接する2つのデータの平均をとることでロ
ーパスフィルタ処理を実施し、上記の第2ローパスフィ
ルタ処理手段は、求めるべきデータと同じ位置に隣接す
る2つのデータの平均をとることでローパスフィルタ処
理を実施する構成である。
【0265】本発明の画像合成処理回路は、さらに、
枚目に撮像された画像を上書き可能な画像メモリに蓄積
する手段と、2枚目以降の撮像が行われるたびに、上記
画像メモリに蓄積された画像を読み出して撮像された画
像とを合成処理し、該合成処理した画像を再び上記画像
メモリに上書きする手段とを備えている構成である。
【0266】本発明のカラー撮像装置は、撮像素子の結
像面における結像位置を移動させるイメージシフト動作
を実施して、結像位置が1画素だけ異なる2枚の撮像画
像を得て、画像合成処理回路にて、これら2枚の撮像画
像を結像位置の離反量だけ位置の移動方向とは逆方向に
ずらして重ね合わせて合成画像を生成するカラー撮像装
置において、上記画像合成処理回路に、複数のデータ群
からなるデータ系列の欠落したデータを補間するデータ
補間処理回路が備えられており、該データ補間処理回路
は、欠落データを有する第1のデータ系列のデータ群を
ローパスフィルタ処理する第1のローパスフィルタ処理
手段と、上記の第1のデータ系列と局所的な領域におい
て相関のある第2のデータ系列のデータ群をローパスフ
ィルタ処理する第2のローパスフィルタ処理手段と、第
1のデータ系列における欠落したデータと同じ位置にあ
る第2のデータ系列のデータに、第1のデータ系列のデ
タ群のローパスフィルタ処理した値を加算する加算手
段と、該加算手段の計算値から、第2のデータ系列のデ
ータ群をローパスフィルタ処理した値を減算する減算手
段とを備え、上記の第1および第2のデータ系列が、異
なる色フィルタ配列により受光された2種類の受光デー
タ群であって、異なる結像位置において撮像された2枚
の画像を重ね合わせて得た、第1の色フィルタの受光デ
ータ群と、第2の色フィルタの受光データ群とである
成である。
【0267】本発明のカラー撮像装置は、さらに、上記
の第1ローパスフィルタ処理手段は、求めるべきデータ
の位置に隣接する2つのデータの平均をとることでロー
パスフィルタ処理を実施し、上記の第2ローパスフィル
タ処理手段は、求めるべきデータと同じ位置に隣接する
2つのデータの平均をとることでローパスフィルタ処理
を実施する構成である。
【0268】本発明のカラー撮像装置は、さらに、上記
画像合成処理回路が、1枚目に撮像された画像を上書き
可能な画像メモリに蓄積する手段と、2枚目以降の撮像
が行われるたびに、上記画像メモリに蓄積された画像を
読み出して撮像された画像とを合成処理し、該合成処理
した画像を再び上記画像メモリに上書きする手段とを備
えている構成である。
【0269】本発明の別のカラー撮像装置は、複数の色
彩光にそれぞれ対応し、入射される被写体からの画像光
のうちの対応する色彩光だけを個別的に通過させる複数
の透光領域を有し、該透光領域が2次元平面上に配列さ
れた色フィルタであって、透光領域は、第1〜第3の色
彩光を通過させる第1〜第3透光領域に区分され、第1
および第2透光領域が一方方向に沿って第1周期で直線
状に配列された第1群と、第1および第3透光領域が一
方方向に沿って第1周期で直線上に配列された第2群と
が、一方方向と直交する他方方向に沿って第2周期で交
互に、かつ、第1群の第1透光領域に第3透光領域が他
方方向の両側に隣接するように配列された色フィルタ
と、上記色フィルタの透光領域に個別的に対応した受光
領域が、透光領域の配列と同等の配列で2次元平面上に
配列され、各受光領域では対応した透光領域を通過した
色彩光だけを受光し、各受光領域の受光量を示す画素デ
ータから構成される画像信号を出力する撮像素子と、上
記撮像素子に入射される画像光の結像位置を、基準位置
である第1移動位置と、第1移動位置から一方方向に第
1周期の長さだけ相互にずれた第2移動位置に相対的に
移動させる移動手段と、上記撮像素子から出力された2
つの画像信号を撮像時の結像位置の離反量だけ位置の移
動方向とは逆方向にずらして重ね合わせて、撮像素子か
らは得られなかった第2または第3色彩光に対応する画
素データを求めて合成画像信号を生成する画像合成手段
と、撮影が開始されると、移動手段によって画像光の結
像位置を第1および第2移動位置のいずれか一方位置に
移動させ、該移動位置において撮像素子に画像光を撮像
させて画像信号を画像合成手段に与え、次いで移動手段
によって結像位置をいずれか他方位置に移動させ、該移
動位置において撮像素子に画像光を撮像させて画像信号
を画像合成手段に与える制御手段とを備え、かつ、上記
画像合成手段が、撮像素子からは得られなかった第2ま
たは第3の色彩光に対応する画素データを、該画素デー
タと同じ位置にある第1色彩光に対応する画素データ
に、該画素データと同じ位置を通る一方方向に沿って配
列された第2または第3色彩光に対応する画素データ群
をローパスフィルタ処理した値を加算し、さらに該画素
データと同じ位置を通る一方方向に沿って配列された第
1色彩光に対応する画素データ群をローパスフィルタ処
理した値を引くことにより求める構成である。
【0270】本発明の上記別のカラー撮像装置は、さら
に、第1回目に撮像された画像信号を蓄積し、第2回目
の撮像に同期して蓄積した画像信号を出力し、出力した
領域に画像合成手段から出力された合成画像信号を上書
きして蓄積する画像メモリをさらに備えた構成である。
【0271】本発明の上記別のカラー撮像装置は、さら
に、上記画像合成手段が、第1色彩光に対応する画素デ
ータ群をローパスフィルタ処理する際は、求めるべき画
素データの位置に隣接する2つの画素データの平均をと
ることで処理を実施し、第2および第3色彩光に対応す
る画素データ群のローパスフィルタ処理する際は、求め
るべき画素データと同じ位置に隣接する2つの画素デー
タの平均をとることで処理を実施する構成である。
【0272】上記構成により、隣接する3画素におい
て、3画素とも受光データの存在する同一種類の画素デ
ータと、中間の位置には受光データが存在せず両端の画
素位置には受光データが存在する別種類の画素データが
あるデータ系列では、中間の位置の受光データを、モア
レの発生を抑圧して求めることができる。
【0273】したがって、例えば、前述の従来技術の項
で述べた、本願出願人が先に提案しているカラー撮像装
置における、高解像度モード時の画像を合成する処理に
供することで、モアレを消滅させることが可能となる。
これにより、基底帯域内に存在するキャリア周波数
(0,fV/2)の色差信号のモアレを消滅させること
が可能となる。
【0274】したがって、合成画像信号の基底帯域の水
平方向の実質の幅が拡大すると共に、垂直方向の実質の
幅が拡大し、その結果、このような単板式のカラー撮像
装置においては、水平解像度だけでなく垂直解像度の向
上を得ることができるという効果を奏する。
【0275】しかも、モアレの抑制を、例えば加算器と
ビットシフトだけの簡単な回路構成で実現できるため、
消費電力が低く安価で小型のカラー撮像装置を実現でき
る。
【0276】特に、求めるべきデータの位置、或いは該
データと同じ位置に隣接する2つのデータの平均をとっ
てローパスフィルタ処理を行う構成では、ローパスフィ
ルタ処理として、隣接する4つのデータから計算する方
法に比べ、2つのデータの平均をとる方法の場合、計算
に用いるデータ数が少ないので、処理速度が速く、回路
規模が小さいといった利点がある。
【0277】また、合成処理した画像を再び上記画像メ
モリに上書きする構成では、手段と画像メモリの容量
は、原画像もしくは高解像度出力画像の1枚分だけでよ
く、2枚分以上の容量を必要としない。その結果、この
ような画像合成処理回路を備えたカラー撮像装置では、
画像メモリの容量が少なくて済み、コスト削減が図れる
という効果を奏する。
【0278】本発明の上記別のカラー撮像装置は、さら
に、上記移動手段における結像位置の移動を許容または
禁止する移動判定手段と、撮像素子に入射される画像光
の空間周波数成分を減衰させる固定空間フィルタをさら
に含む構成である。
【0279】この構成により、原画像信号から生成され
た通常出力画像信号を出力する一方モードと、2枚の原
画像信号から合成画像信号を生成して出力する他方モー
ドとの2つの解像度のモードが実現する。この場合、合
成画像信号を生成するモードでは、モアレが発生しない
ので、このモアレを目立たなくするための光学的ローパ
スフィルタである空間フィルタを設ける必要がない。
【0280】したがって、空間フィルタは、原画像信号
をそのまま出力するモードでのモアレを目立たなくする
ものだけでよく、また、一方モードに適合させた空間フ
ィルタでよく、他方モードではその空間フィルタをその
まま適用することができ、可変機構を必要としない固定
のものでよい。そのため、切り替えるのに時間を要せ
ず、すばやく切り替えることができる。また、切り替え
るごとに可変機構を動作させることがないために、耐久
性がある。その結果、安価で小型のカラー撮像装置を実
現できる。
【0281】本発明の上記別のカラー撮像装置は、さら
に、上記移動手段における結像位置の移動を許容または
禁止する移動判定手段と、撮像素子に入射される画像光
の空間周波数成分を減衰させる可変空間フィルタであっ
て、撮像位置の移動が禁止されるときに空間周波数成分
を第1の減衰量だけ減衰させ、許容されるときは画像光
の光路から除去される可変空間フィルタをさらに含む構
成である。
【0282】これにより、空間フィルタが光路から抜脱
される可変空間フィルタの構成としているため、可変空
間フィルタの問題は解決することはできないが、合成画
像信号を出力するモードでの画像が固定空間フィルタを
備えた構成よりも画質が良いといった効果を奏する。
【0283】本発明の上記別のカラー撮像装置は、さら
に、上記画像合成手段が、画像メモリから出力された画
像信号と撮像素子から出力された画像信号とを重ね合わ
せた後に、3種類の色彩光に対応するそれぞれの画素デ
ータごとに、2回の撮像間の光量差に基づいて発生する
空間周波数成分を取り除く、ローパスフィルタからなる
光量差補正手段を有する構成である。
【0284】これにより、2枚の原画像間に光量差が生
じる場合でも、1枚の画像メモリしかないカラー撮像装
置においても、ローパスフィルタを施すことにより光量
差を補正することができる。
【図面の簡単な説明】
【図1】本発明の第1実施形態であるカラー撮像装置に
おける、合成処理回路の垂直色モアレ抑圧処理を示す模
式図である。
【図2】上記のカラー撮像装置の構成を示すブロック図
である。
【図3】撮像素子の結像面の様子を示す説明図である。
【図4】高解像度モードでの撮像素子の結像面における
画像光の第1および第2結像位置の位置関係を示す説明
図である。
【図5】色フィルタの透光領域の配列を示す説明図であ
る。
【図6】レンズ群、イメージシフト機構の屈折板、およ
び撮像素子の位置関係を示す説明図である。
【図7】イメージシフト機構の具体的構成を示す斜視図
である。
【図8】空間フィルタの具体的構成を示す斜視図であ
る。
【図9】(a)(b)はそれぞれ、図8の空間フィルタを
構成する2枚の複屈折板の分離ベクトルをHV平面に投
影した状態を示す説明図である。
【図10】別の具体的構成である空間フィルタを示す斜
視図である。
【図11】(a)(b)(c)はそれぞれ、図10の空間フ
ィルタを構成する3枚の複屈折板の分離ベクトルをHV
平面に投影した状態を示す説明図である。
【図12】図8の空間フィルタを通過して4本に分離し
た光線の位置関係を示す説明図である。
【図13】図8の空間フィルタおよび図10の空間フィ
ルタの空間周波数特性を示す説明図である。
【図14】通常出力画像信号の輝度信号および色差信号
のモアレのキャリア周波数を示す空間周波数平面図であ
る。
【図15】上記カラー撮像装置における信号処理回路の
構成を示すブロック図である。
【図16】色フィルタの透光領域の配列のうち6行4列
で構成される一部分を示す説明図である。
【図17】図15の信号処理回路に備えられたバンドパ
スフィルタの空間周波数特性を示す空間周波数平面図で
ある。
【図18】図17のバンドパスフィルタの水平方向のフ
ィルタ特性を示す模式図である。
【図19】図17のバンドパスフィルタの垂直方向のフ
ィルタ特性を示す模式図である。
【図20】2枚の原画像信号を重ね合わせた画像の等価
的な色フィルタ配列パターンを示す図である。
【図21】2枚の原画像信号を重ね合わせた画像の等価
的な色フィルタ配列の輝度信号および色差信号のモアレ
のキャリア周波数を示す空間周波数平面図である。
【図22】上記カラー撮像装置における合成処理回路の
構成を示すブロック図である。
【図23】(a)〜(c)は、空間周波数成分(0,f
V/2)をもつ画像を撮像した際に発生する色差信号の
モアレを消去できることを示す模式図である。
【図24】図22の合成処理回路のさらに詳しい構成を
示すブロック図である。
【図25】先願の色フィルタの透光領域の配列を示す説
明図である。
【図26】先願のカラー撮像装置における高解像度モー
ドでの撮像素子の結像面における画像光の第1および第
2結像位置の位置関係を示す説明図である。
【図27】先願のカラー撮像装置における通常出力画像
信号の輝度信号および色差信号のモアレのキャリア周波
数を示す空間周波数平面図である。
【図28】先願のカラー撮像装置における高解像度出力
画像信号の輝度信号および色差信号のモアレのキャリア
周波数を示す空間周波数平面図である。
【符号の説明】
1 光学系 2 撮像素子 5 画像メモリ 6 信号処理回路 8 駆動回路 12 合成処理回路(画像合成手段) 15 色フィルタ 22 イメージシフト機構 206 垂直色モアレ抑圧処理回路(データ補間処理回
路)
───────────────────────────────────────────────────── フロントページの続き (56)参考文献 特開 平7−322152(JP,A) 特開 平10−178650(JP,A) 特開 平10−243408(JP,A) (58)調査した分野(Int.Cl.7,DB名) H04N 9/04 - 9/11

Claims (15)

    (57)【特許請求の範囲】
  1. 【請求項1】撮像素子の結像面における結像位置を移動
    させるイメージシフト動作にて得た結像位置が1画素だ
    け異なる2枚の撮像画像を、結像位置の離反量だけ位置
    の移動方向とは逆方向にずらして重ね合わせて合成画像
    を得る画像合成処理方法において、 異なる結像位置で撮像された2枚の画像を重ね合わせて
    得た、 局所的な領域にて相関のある、第1の色フィルタ
    の受光データ群と、第2の色フィルタの受光データ群と
    の間で、第1の色フィルタの受光データ群の欠落したデ
    ータを、該欠落データと同じ位置にある第2の色フィル
    タのデータ群のデータに、第1の色フィルタのデータ群
    をローパスフィルタ処理した値を加算し、さらに第2の
    色フィルタのデータ群をローパスフィルタ処理した値を
    引くことにより求めることを特徴とする画像合成処理方
  2. 【請求項2】上記のローパスフィルタ処理が、第1の
    フィルタの受光データ群の場合は求めるべきデータの位
    置に隣接する2つのデータの平均をとり、第2の色フィ
    ルタの受光データ群の場合は求めるべきデータと同じ位
    置に隣接する2つのデータの平均をとることを特徴とす
    る請求項1に記載の画像合成処理方法
  3. 【請求項3】まずは1枚目に撮像された画像を上書き可
    能な画像メモリに蓄積し、その後の2枚目以降は、画像
    を撮像するたびに、画像メモリに蓄積された画像と、撮
    像された画像とを合成処理し、該合成処理した画像を再
    び画像メモリに上書きして蓄積する工程を繰り返すこと
    を特徴とする請求項1又は2に記載の画像合成処理方
  4. 【請求項4】撮像素子の結像面における結像位置を移動
    させるイメージシフト動作にて得た結像位置が1画素だ
    け異なる2枚の撮像画像を結像位置の離反量だけ位置の
    移動 方向とは逆方向にずらして重ね合わせて合成画像を
    生成する画像合成処理回路において、 複数のデータ群からなるデータ系列の欠落したデータを
    補間するデータ補間処理回路が備えられており、 該データ補間処理回路は、欠落データを有する第1のデ
    ータ系列のデータ群をローパスフィルタ処理する第1の
    ローパスフィルタ処理手段と、 上記の第1のデータ系列と局所的な領域において相関の
    ある第2のデータ系列のデータ群をローパスフィルタ処
    理する第2のローパスフィルタ処理手段と、 第1のデータ系列における欠落したデータと同じ位置に
    ある第2のデータ系列のデータに、第1のデータ系列の
    データ群のローパスフィルタ処理した値を加算する加算
    手段と、 該加算手段の計算値から、第2のデータ系列のデータ群
    をローパスフィルタ処理した値を減算する減算手段とを
    備え、 上記の第1および第2のデータ系列が、異なる色フィル
    タ配列により受光された2種類の受光データ群であっ
    て、異なる結像位置において撮像された2枚の画像を重
    ね合わせて得た、第1の色フィルタの受光データ群と、
    第2の色フィルタの受光データ群とであることを特徴と
    する画像合成処理回路。
  5. 【請求項5】上記の第1ローパスフィルタ処理手段は、
    求めるべきデータの位置に隣接する2つのデータの平均
    をとることでローパスフィルタ処理を実施し、 上記の第2ローパスフィルタ処理手段は、求めるべきデ
    ータと同じ位置に隣接する2つのデータの平均をとるこ
    とでローパスフィルタ処理を実施することを特徴とする
    請求項4に記載の画像合成処理回路。
  6. 【請求項6】1枚目に撮像された画像を上書き可能な画
    像メモリに蓄積する手段と、 2枚目以降の撮像が行われるたびに、上記画像メモリに
    蓄積された画像を読み出して撮像された画像とを合成処
    理し、該合成処理した画像を再び上記画像メモリに上書
    きする手段とを備えていることを特徴とする請求項4又
    は5に記載の画像合成処理回路。
  7. 【請求項7】撮像素子の結像面における結像位置を移動
    させるイメージシフト動作を実施して、結像位置が1画
    素だけ異なる2枚の撮像画像を得て、画像合成処理回路
    にて、これら2枚の撮像画像を結像位置の離反量だけ位
    置の移動方向とは逆方向にずらして重ね合わせて合成画
    像を生成するカラー撮像装置において、 上記画像合成処理回路に、複数のデータ群からなるデー
    タ系列の欠落したデータを補間するデータ補間処理回路
    が備えられており、 該データ補間処理回路は、欠落データを有する第1のデ
    ータ系列のデータ群をローパスフィルタ処理する第1の
    ローパスフィルタ処理手段と、 上記の第1のデータ系列と局所的な領域において相関の
    ある第2のデータ系列のデータ群をローパスフィルタ処
    理する第2のローパスフィルタ処理手段と、 第1のデータ系列における欠落したデータと同じ位置に
    ある第2のデータ系列のデータに、第1のデータ系列の
    データ群のローパスフィルタ処理した値を加算する加算
    手段と、 該加算手段の計算値から、第2のデータ系列のデータ群
    をローパスフィルタ処理した値を減算する減算手段とを
    備え、 上記の第1および第2のデータ系列が、異なる色フィル
    タ配列により受光された2種類の受光データ群であっ
    て、異なる結像位置において撮像された2枚の画像を重
    ね合わせて得た、第1の色フィルタの受光データ群と、
    第2の色フィルタの受光データ群とであることを特徴と
    するカラー撮像装置。
  8. 【請求項8】上記の第1ローパスフィルタ処理手段は、
    求めるべきデータの位置に隣接する2つのデータの平均
    をとることでローパスフィルタ処理を実施し、 上記の第2ローパスフィルタ処理手段は、求めるべきデ
    ータと同じ位置に隣接する2つのデータの平均をとるこ
    とでローパスフィルタ処理を実施することを特徴とする
    請求項7に記載のカラー撮像装置。
  9. 【請求項9】上記画像合成処理回路が、1枚目に撮像さ
    れた画像を上書き可能な画像メモリに蓄積する手段と、 2枚目以降の撮像が行われるたびに、上記画像メモリに
    蓄積された画像を読み出して撮像された画像とを合成処
    理し、該合成処理した画像を再び上記画像メモリに上書
    きする手段とを備えていることを特徴とする請求項7又
    は8に載のカラー撮像装置。
  10. 【請求項10】複数の色彩光にそれぞれ対応し、入射さ
    れる被写体からの画像光のうちの対応する色彩光だけを
    個別的に通過させる複数の透光領域を有し、該透光領域
    が2次元平面上に配列された色フィルタであって、 透光領域は、第1〜第3の色彩光を通過させる第1〜第
    3透光領域に区分され、第1および第2透光領域が一方
    方向に沿って第1周期で直線状に配列された第1群と、
    第1および第3透光領域が一方方向に沿って第1周期で
    直線上に配列された第2群とが、一方方向と直交する他
    方方向に沿って第2周期で交互に、かつ、第1群の第1
    透光領域に第3透光領域が他方方向の両側に隣接するよ
    うに配列された色フィルタと、 上記色フィルタの透光領域に個別的に対応した受光領域
    が、透光領域の配列と同等の配列で2次元平面上に配列
    され、各受光領域では対応した透光領域を通過した色彩
    光だけを受光し、各受光領域の受光量を示す画素データ
    から構成される画像信号を出力する撮像素子と、 上記撮像素子に入射される画像光の結像位置を、基準位
    置である第1移動位置と、第1移動位置から一方方向に
    第1周期の長さだけ相互にずれた第2移動位置に相対的
    に移動させる移動手段と、 上記撮像素子から出力された2つの画像信号を撮像時の
    結像位置の離反量だけ位置の移動方向とは逆方向にずら
    して重ね合わせて、撮像素子からは得られなかった第2
    または第3色彩光に対応する画素データを求めて合成画
    像信号を生成する画像合成手段と、 撮影が開始されると、移動手段によって画像光の結像位
    置を第1および第2移動位置のいずれか一方位置に移動
    させ、該移動位置において撮像素子に画像光を撮像させ
    て画像信号を画像合成手段に与え、次いで移動手段によ
    って結像位置をいずれか他方位置に移動させ、該移動位
    置において撮像素子に画像光を撮像させ て画像信号を画
    像合成手段に与える制御手段とを備え、 かつ、上記画像合成手段が、撮像素子からは得られなか
    った第2または第3の色彩光に対応する画素データを、
    該画素データと同じ位置にある第1色彩光に対応する画
    素データに、該画素データと同じ位置を通る一方方向に
    沿って配列された第2または第3色彩光に対応する画素
    データ群をローパスフィルタ処理した値を加算し、さら
    に該画素データと同じ位置を通る一方方向に沿って配列
    された第1色彩光に対応する画素データ群をローパスフ
    ィルタ処理した値を引くことにより求めることを特徴と
    するカラー撮像装置。
  11. 【請求項11】1回目に撮像された画像信号を蓄積し、
    第2回目の撮像に同期して蓄積した画像信号を出力し、
    出力した領域に画像合成手段から出力された合成画像信
    号を上書きして蓄積する画像メモリをさらに備えたこと
    を特徴とする請求項10に記載のカラー撮像装置。
  12. 【請求項12】上記画像合成手段が、第1色彩光に対応
    する画素データ群をローパスフィルタ処理する際は、求
    めるべき画素データの位置に隣接する2つの画素データ
    の平均をとることで処理を実施し、 第2および第3色彩光に対応する画素データ群のローパ
    スフィルタ処理する際は、求めるべき画素データと同じ
    位置に隣接する2つの画素データの平均をとることで処
    理を実施することを特徴とする請求項10又は11に記
    載のカラー撮像装置。
  13. 【請求項13】上記画像合成手段が、画像メモリから出
    力された画像信号と撮像素子から出力された画像信号と
    を重ね合わせた後に、3種類の色彩光に対応するそれぞ
    れの画素データごとに、2回の撮像間の光量差に基づい
    て発生する空間周波数成分を取り除く、ローパスフィル
    タからなる光量差補正手段を有することを特徴とする請
    求項11に記載のカラー撮像装置。
  14. 【請求項14】上記移動手段における結像位置の移動を
    許容または禁止する移動判定手段と、 撮像素子に入射される画像光の空間周波数成分を減衰さ
    せる固定空間フィルタをさらに含むことを特徴とする請
    求項10又は11に記載のカラー撮像装置。
  15. 【請求項15】上記移動手段における結像位置の移動を
    許容または禁止する移動判定手段と、 撮像素子に入射さ
    れる画像光の空間周波数成分を減衰させる可変空間フィ
    ルタであって、撮像位置の移動が禁止されるときに空間
    周波数成分を第1の減衰量だけ減衰させ、許容されると
    きは画像光の光路から除去される可変空間フィルタをさ
    らに含むことを特徴とする請求項10又は11に記載の
    カラー撮像装置。
JP33617697A 1997-12-05 1997-12-05 画像合成処理方法、画像合成処理回路、及びカラー撮像装置 Expired - Fee Related JP3497363B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP33617697A JP3497363B2 (ja) 1997-12-05 1997-12-05 画像合成処理方法、画像合成処理回路、及びカラー撮像装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP33617697A JP3497363B2 (ja) 1997-12-05 1997-12-05 画像合成処理方法、画像合成処理回路、及びカラー撮像装置

Publications (2)

Publication Number Publication Date
JPH11168744A JPH11168744A (ja) 1999-06-22
JP3497363B2 true JP3497363B2 (ja) 2004-02-16

Family

ID=18296456

Family Applications (1)

Application Number Title Priority Date Filing Date
JP33617697A Expired - Fee Related JP3497363B2 (ja) 1997-12-05 1997-12-05 画像合成処理方法、画像合成処理回路、及びカラー撮像装置

Country Status (1)

Country Link
JP (1) JP3497363B2 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3926363B2 (ja) * 2004-11-04 2007-06-06 三菱電機株式会社 画素信号処理装置及び画素信号処理方法
JP3729842B1 (ja) * 2004-12-02 2005-12-21 三菱電機株式会社 画素信号処理装置及び方法
JP2014160926A (ja) * 2013-02-19 2014-09-04 Nippon Hoso Kyokai <Nhk> 撮像装置及び信号補間方法
KR102155329B1 (ko) * 2018-11-09 2020-09-11 경북대학교 산학협력단 라이트 필드 이미징 시스템

Also Published As

Publication number Publication date
JPH11168744A (ja) 1999-06-22

Similar Documents

Publication Publication Date Title
JP2931520B2 (ja) 単板式カラービデオカメラの色分離回路
US20150029367A1 (en) Color imaging apparatus
JP3704238B2 (ja) 撮像装置
JP2001268582A (ja) 固体撮像装置および信号処理方法
JPH10126797A (ja) 撮像装置
JPWO2013100036A1 (ja) カラー撮像素子
JP2001016597A (ja) 固体撮像装置および信号処理方法
WO2007145087A1 (ja) 撮像装置及び信号処理方法
JP3497363B2 (ja) 画像合成処理方法、画像合成処理回路、及びカラー撮像装置
US6891568B1 (en) Color video camera system and method
EP1173029A2 (en) Color image pickup device
US6778220B2 (en) Color video camera system and method with optical prefilter
US8711257B2 (en) Color imaging device
JP4391431B2 (ja) 撮像装置
EP3497928B1 (en) Multi camera system for zoom
JP2013172218A (ja) 撮像装置、画像処理方法およびプログラム
US7088391B2 (en) Color video camera for film origination with color sensor and luminance sensor
JP3495842B2 (ja) 撮像装置
JP3585710B2 (ja) カラー撮像装置及び記録媒体
JP2001169301A (ja) 多板式撮像装置および画像データ処理用記録媒体
JPS5911308B2 (ja) カラ−コタイサツゾウソウチ
JPS60263592A (ja) 固体撮像装置
JP3515585B2 (ja) 2板式撮像装置
JPH04304089A (ja) 信号補間装置
JP3259525B2 (ja) 画像信号処理装置

Legal Events

Date Code Title Description
FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20081128

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091128

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091128

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101128

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111128

Year of fee payment: 8

LAPS Cancellation because of no payment of annual fees