JP2001148805A - 固体撮像装置 - Google Patents

固体撮像装置

Info

Publication number
JP2001148805A
JP2001148805A JP33122499A JP33122499A JP2001148805A JP 2001148805 A JP2001148805 A JP 2001148805A JP 33122499 A JP33122499 A JP 33122499A JP 33122499 A JP33122499 A JP 33122499A JP 2001148805 A JP2001148805 A JP 2001148805A
Authority
JP
Japan
Prior art keywords
signal
pixels
image
solid
state imaging
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP33122499A
Other languages
English (en)
Other versions
JP3674420B2 (ja
Inventor
Hiroya Kusaka
博也 日下
Shigeo Sakagami
茂生 阪上
Tomoaki To
知章 塘
Masaaki Nakayama
正明 中山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Holdings Corp
Original Assignee
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority to JP33122499A priority Critical patent/JP3674420B2/ja
Application filed by Matsushita Electric Industrial Co Ltd filed Critical Matsushita Electric Industrial Co Ltd
Priority to US10/130,696 priority patent/US7466358B1/en
Priority to EP00976348A priority patent/EP1237363B1/en
Priority to PCT/JP2000/008153 priority patent/WO2001039490A1/ja
Priority to DE60025647T priority patent/DE60025647T2/de
Priority to CNB008177694A priority patent/CN1276646C/zh
Publication of JP2001148805A publication Critical patent/JP2001148805A/ja
Application granted granted Critical
Publication of JP3674420B2 publication Critical patent/JP3674420B2/ja
Priority to US12/277,054 priority patent/US20090174792A1/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Transforming Light Signals Into Electric Signals (AREA)
  • Color Television Image Signal Generators (AREA)
  • Studio Devices (AREA)

Abstract

(57)【要約】 【課題】 従来のダイナミックレンジ拡大カメラでは複
数枚の撮像素子や全画素読み出しCCDを必要とし、装
置が高価になってしまうという問題があった。 【解決手段】 フィールド読み出しモードとフレーム読
み出しモードの2つの読み出しモードで信号を読み出す
ことが可能なインタラインCCD3(IT−CCD)を
用い、CCD3の露光及び信号読み出しモードをシステ
ム制御手段11にて制御し、短時間露光信号(Shor
t信号)はフィールド読み出し、長時間露光信号(Lo
ng信号)はフレーム読み出しにより画像を取得し、こ
れら2つの画像を信号合成手段7で合成することにより
ダイナミックレンジを拡大する。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、撮影画像のダイナ
ミックレンジ拡大が可能な固体撮像装置に関するもので
ある。
【0002】
【従来の技術】従来から、露光量の異なる2つの画像信
号を合成してダイナミックレンジの広い映像信号を得る
ための固体撮像装置としては、例えば、特開平9−21
4829号公報及び特開平9−275527号公報で開
示されているものがある。
【0003】特開平9−214829号公報において
は、露光時間を変えて撮影した連続する2枚のフィール
ド画像をそれぞれレベルシフトさせた後、1フレームの
画像に合成することでダイナミックレンジの広い画像を
得ることが可能なデジタルスチルカメラが開示されてい
る。
【0004】また、特開平9−275527号公報にお
いては、複数のCCDから得られる露光時間の異なった
複数のフレーム画像をそれぞれレベルシフトさせた後、
1フレームの画像に合成することでダイナミックレンジ
の広い画像を得ることが可能なデジタルスチルカメラが
開示されている。
【0005】他にも、1フィールド期間内に長時間露光
信号と短時間露光信号を読み出し可能な特殊なCCDを
用いてダイナミックレンジを拡大したビデオカメラの例
が知られている(映像メディア学会技術報告Vol.22,No.
3,pp1〜6(1998)”単板Hyper-Dカラーカメラ信号処理
方式の開発”)。
【0006】
【発明が解決しようとする課題】しかしながら、例えば
特開平9−214829号公報にて開示されているデジ
タルスチルカメラにおいては、露光時間を変えて撮影し
た連続する2枚のフィールド画像を合成するため、合成
後の画像は1フィールド分の画像解像度、つまりCCD
の画素数の半分の解像度しか得られず、撮影画像の解像
度不足が懸念される。
【0007】これに対し、特開平9−275527号公
報にて開示されているデジタルスチルカメラにおいて
は、複数のCCDにより撮影された露光時間の異なる画
像信号を合成するために、合成後の画像は1フレーム分
の画像解像度、つまりCCDの画素数分の解像度が得ら
れるが、CCDが複数個必要となり撮像装置のサイズ、
コストの面で不利となる。
【0008】また、映像メディア学会技術報告Vol.22,N
o.3,pp1〜6(1998)”単板Hyper-Dカラーカメラ信号処
理方式の開発”で報告済みの撮像装置の場合は撮影画像
のダイナミックレンジ拡大には特殊なCCDが必要とな
る。本発明は以上の問題に鑑みてなされたものであり、
民生用固体撮像装置に一般的に用いられる固体撮像素子
を1個用いることで安価で、且つCCDの画素数並みの
画像解像度でダイナミックレンジを拡大した画像を撮影
可能な固体撮像装置を提供することを目的とする。
【0009】
【課題を解決するための手段】このような課題を解決す
るために本願の請求項1記載の発明は、露光量の異なる
複数の画像信号を出力する固体撮像素子と、前記固体撮
像素子から出力される画像信号を合成する信号合成手段
と、を有し、前記固体撮像素子から出力される画像信号
のうち少なくとも1つは、他の画像信号に比べ画素数の
少ない画像信号であることを特徴とするものである。
【0010】本願の請求項3記載の発明は、行列状に配
置された複数個のホトダイオードと、前記ホトダイオー
ド上に蓄積された電荷を外部に出力するための転送手段
を有する固体撮像素子と、前記ホトダイオードに入射す
る光を遮光する遮光手段と、前記固体撮像素子から出力
される画像信号を合成する信号合成手段と、を有し、前
記固体撮像素子は、第1露光として前記ホトダイオード
上に蓄積された電荷を第1の読み出し制御パルスの印加
後に前記転送手段を介して出力し、更に、前記第1の読
み出し制御パルス印加後、前記遮光手段による露光終了
をもって完了する第2露光において前記ホトダイオード
上に蓄積された電荷を第2の読み出し制御パルスの印加
後に前記転送手段を介して出力し、前記画像信号合成手
段は、前記第1露光及び前記第2露光により撮影された
画像信号を合成することを特徴とするものである。
【0011】本願の請求項4記載の発明は、行列状に配
置された複数個のホトダイオードと、前記ホトダイオー
ド上に蓄積された電荷を外部に出力するための転送手段
を有する固体撮像素子と、前記ホトダイオードに入射す
る光を遮光する遮光手段と、前記固体撮像素子から出力
される画像信号を合成する信号合成手段と、を有し、前
記固体撮像素子は、第1露光として前記ホトダイオード
上に蓄積された電荷の一部のみを第1の読み出し制御パ
ルスの印加後に前記転送手段を介して出力し、更に、前
記第1の読み出し制御パルス印加後、前記遮光手段によ
る露光終了をもって完了する第2露光において前記ホト
ダイオード上に蓄積された電荷を第2の読み出し制御パ
ルスの印加後に前記転送手段を介して出力し、前記画像
信号合成手段は、前記第1露光及び前記第2露光により
撮影された画像信号を合成することを特徴とするもので
ある。
【0012】本願の請求項5記載の発明は、行列状に配
置された複数個のホトダイオードと、前記ホトダイオー
ド上に蓄積された電荷を外部に出力するための転送手段
を有する固体撮像素子と、前記ホトダイオードに入射す
る光を遮光する遮光手段と、前記固体撮像素子から出力
される画像信号を合成する信号合成手段と、を有し、前
記固体撮像素子は、第1露光として前記ホトダイオード
上に蓄積された電荷を第1の読み出し制御パルスの印加
後にフィールド読み出しにより前記転送手段を介して出
力し、更に、前記第1の読み出し制御パルス印加後、前
記遮光手段による露光終了をもって完了する第2露光に
おいて前記ホトダイオード上に蓄積された電荷を第2の
読み出し制御パルスの印加後に前記転送手段を介して出
力し、前記画像信号合成手段は、前記第1露光及び前記
第2露光により撮影された画像信号を合成することを特
徴とするものである。
【0013】本願の請求項10記載の発明は、露光量と
画素数の異なる2つの画像信号を出力する固体撮像素子
と、前記画素数の異なる2つの画像信号のうち、画素数
の少ない画像信号を、補間処理により画素数の多い画像
信号と同じ信号形式に変換する補間手段と、前記画素数
の少ない画像信号、もしくは前記補間手段により画素数
の多い画像信号と同じ信号形式に変換された画像信号、
もしくは前記画素数の多い画像信号の少なくとも1つを
合成制御信号とし、この合成制御信号に応じて、前記補
間手段により画素数の多い画像信号と同じ信号形式に変
換された画像信号と前記画素数の多い画像信号とを合成
する信号合成手段と、を有することを特徴とするもので
ある。
【0014】本願の請求項11記載の発明は、露光量と
画素数の異なる2つの画像信号を出力する固体撮像素子
と、前記画素数の異なる2つの画像信号のうち、画素数
の少ない画像信号もしくは前記画素の多い画像信号から
その輝度信号を抽出する輝度信号抽出手段と、前記画素
の少ない画像信号を、補間処理により画素数の多い画像
信号と同じ信号形式に変換する補間手段と、前記画素数
の少ない画像信号から抽出した輝度信号もしくは前記画
素数の多い画像信号から抽出した輝度信号の少なくとも
1つを合成制御信号とし、この合成制御信号に応じて、
前記補間手段により画素数の多い画像信号と同じ信号形
式に変換された画像信号と前記画素数の多い画像信号と
を合成する信号合成手段と、を有することを特徴とする
ものである。
【0015】本願の請求項13記載の発明は、露光量と
画素数の異なる2つの画像信号を出力する固体撮像素子
と、前記画素数の異なる2つの画像信号のうち、画素数
の少ない画像信号と前記画素の多い画像信号からその輝
度信号を抽出する輝度信号抽出手段と、前記画素数の少
ない画像信号から抽出された輝度信号を、補間処理によ
り画素数の多い画像信号から得られる輝度信号と同じ信
号形式に変換する第1の補間手段と、前記画素が少ない
画像信号から抽出された輝度信号、もしくは前記第1の
補間手段により画素数の多い画像信号から得られる輝度
信号と同じ信号形式に変換された輝度信号、もしくは前
記画素数の多い画像信号から抽出された輝度信号の少な
くとも1つを合成制御信号とし、この合成制御信号に応
じて、前記第1の補間手段により画素数の多い画像信号
から得られる輝度信号と同じ信号形式に変換された輝度
信号と前記画素数の多い画像信号から抽出された輝度信
号とを合成する輝度信号合成手段と、前記画素数の少な
い画像信号を、補間処理により画素数が多い画像信号と
同じ信号形式に変換する第2の補間手段と、前記第2の
補間手段により画素数が多い画像信号と同じ信号形式に
変換された画像信号と前記画素数の多い画像信号を、前
記合成制御信号に応じて合成する信号合成手段と、を有
することを特徴とするものである。
【0016】本願の請求項18記載の発明は、露光量と
画素数の異なる2つの画像信号を出力する固体撮像素子
と、前記画素数の異なる2つの画像信号のうち、前記画
素の少ない画像信号と前記画素の多い画像信号からその
輝度信号を抽出する輝度信号抽出手段と、前記画素数の
少ない画像信号から抽出された輝度信号を、補間処理に
より画素数の多い画像信号から得られる輝度信号と同じ
信号形式に変換する補間手段と、前記画素の少ない画像
信号から抽出された輝度信号、もしくは前記補間手段に
より画素の多い画像信号から得られる輝度信号と同じ信
号形式に変換された輝度信号、もしくは前記画素数の多
い画像信号から抽出された輝度信号の少なくとも1つを
合成制御信号とし、この合成制御信号に応じて、前記補
間手段により画素数の多い画像信号から得られる輝度信
号と同じ信号形式に変換された輝度信号と前記画素数の
多い画像信号から抽出された輝度信号とを合成する輝度
信号合成手段と、前記画素数の多い画像信号を、間引き
処理により画素の少ない画像信号と同じ信号形式に変換
する間引き手段と、前記間引き手段により画素の少ない
画像信号と同じ信号形式に変換された画像信号と前記画
素の少ない画像信号を、前記合成制御信号に応じて合成
する信号合成手段と、を有することを特徴とするもので
ある。
【0017】本願の請求項23記載の発明は、露光量と
画素数の異なる2つの画像信号を出力する固体撮像素子
と、前記画素数の異なる2つの画像信号のうち、前記画
素の少ない画像信号と前記画素の多い画像信号からその
輝度信号を抽出する輝度信号抽出手段と、前記画素数の
少ない画像信号から抽出された輝度信号を、補間処理に
より画素数の多い画像信号から得られる輝度信号と同じ
信号形式に変換する補間手段と、前記画素の少ない画像
信号から抽出された輝度信号、もしくは前記補間手段に
より画素の多い画像信号から得られる輝度信号と同じ信
号形式に変換された輝度信号、もしくは前記画素数の多
い画像信号から抽出された輝度信号の少なくとも1つを
合成制御信号とし、この合成制御信号に応じて、前記補
間手段により画素数の多い画像信号から得られる輝度信
号と同じ信号形式に変換された輝度信号と前記画素数の
多い画像信号から抽出された輝度信号とを合成する輝度
信号合成手段と、前記画素数の多い画像信号に対し間引
き処理により画素を間引く第1の間引き手段と、前記画
素数の少ない画像信号に対し間引き処理により画素を間
引く第2の間引き手段と、前記第1の間引き手段及び第
2の間引き手段により画素を間引かれた画像信号を、前
記合成制御信号に応じて合成する信号合成手段と、を有
することを特徴とするものである。
【0018】
【発明の実施の形態】(実施の形態1)図1は、本発明
の実施の形態1における固体撮像装置のブロック図であ
る。同図において、1は光学レンズ、2は光学絞りと兼
用の機械シャッター、3は固体撮像素子であり、本実施
の形態1においては民生用固体撮像装置で一般に用いら
れているインタライン転送CCD(IT−CCD)であ
るとする。4は相関二重サンプリング回路と自動利得制
御(AGC)回路から構成されるアナログ信号処理手
段、5はA/D変換手段、6はA/D変換手段5により
デジタル信号に変換された画像信号を記憶する画像メモ
リである。7は画像メモリ6から読み出される2系統の
画像信号を合成する信号合成手段である。
【0019】信号合成手段7で得られた信号はデジタル
信号処理手段8において、輝度信号と色信号の分離、ノ
イズ除去、エッジ強調、マトリクス演算、特定のフォー
マットへのエンコード等の処理が施される。また機械シ
ャッター駆動制御手段9は機械シャッター2の開閉の制
御を行う手段であり、固体撮像素子駆動制御手段10は
固体撮像素子3の露光制御や信号読み出しのモード、タ
イミング等を制御する手段である。なおこれらを含め上
記すべての構成要素の動作モードや動作タイミングはシ
ステム制御手段11により統合的に制御されるものとす
る。
【0020】図2(a)、(b)、(c)、(d)は、固体撮像素子
3の動作、構成を説明するための模式図である。なお本
発明の実施の形態1において固体撮像素子3は、フィー
ルド読み出しモードとフレーム読み出しモードの2つの
読み出しモードで信号を読み出すことが可能なインタラ
イン転送CCD(IT−CCD)であり、説明の便宜
上、図2のような垂直4画素、水平2画素のいわゆる4
×2画素の構成で説明する。
【0021】図2(a)、(b)は、IT−CCDにおけるフ
ィールド読み出しモードを説明するための図である。図
2(a)において、ホトダイオードは光電変換により光の
強さに応じた信号電荷が蓄積される部分であり、一定時
間の後、印加される制御パルスによってこの蓄積された
電荷は垂直転送CCDに移動する。このとき隣接する上
下2つのホトダイオードの電荷が垂直転送CCD上で混
合され、水平転送CCDを介して外部に出力される。以
上が第1フィールドの読み出し動作である。
【0022】第2フィールドは、図2(b)に示すよう
に、垂直転送CCD上で混合されるホトダイオードのペ
アが第1フィールドの場合比べ垂直方向に1画素ずれ
る。これにより2フィールド分の信号読み出しにより、
インタレース方式の1フレームに相当する画像信号を読
み出すことができる。
【0023】次に、図2(c)、(d)を用いてフレーム読み
出しモードについて説明する。フレーム読み出しモード
ではまず第1フィールドにおいて(図2(c))、垂直方
向に1画素飛ばしでホトダイオードに蓄積された電荷が
垂直転送CCDに転送され、これが水平転送CCDを介
して外部に出力される。そして第2フィールドにおいて
(図2(d))は、第1フィールドで垂直転送CCDに転
送されなかったホトダイオードの電荷が垂直転送CCD
に転送され、これが水平転送CCDを介して外部に出力
される。このようにフレーム読み出しモードではホトダ
イオード上の電荷が垂直転送CCDで混合されることな
く、外部に出力される。これにより2フィールド分の信
号読み出しにより、インタレース方式の1フレームに相
当する画像信号を読み出すことができる。
【0024】図3は、固体撮像素子3上に形成される補
色市松タイプのカラーフィルター配列図である。図3
中、Mgはマゼンタ、Gはグリーン、Yeはイエロー、
Cyはシアンの各色を表す。図3に示す通りフォトダイ
オード1画素に対し1色のカラーフィルターが対応して
いる。
【0025】図4は、信号合成手段7の構成例を示すブ
ロック図である。同図において701は画像メモリ6か
ら出力される画像信号の2水平走査ライン分の画像信号
を加算する2ライン加算手段である(なお以下、水平走
査ラインに相当する画像信号を単に水平ラインもしくは
水平ライン信号と称す)。702は画像メモリ6から出
力される画像信号に対し垂直方向の補間処理を施す補間
手段である。重み付け加算手段703は2水平ライン加
算手段701と補間手段702の出力を重み付け加算す
る手段である。
【0026】図5は、2水平ライン加算手段701の構
成例を示すブロック図である。同図において70101
は1ラインメモリであり画像メモリ6から出力された画
像信号の1ライン分を1水平同期期間だけ遅延させる手
段である。70102は加算器であり、1ラインメモリ
70101において遅延させられた水平ライン信号と、
2水平ライン加算手段701に入力する水平ライン信号
とがこの加算器70102において加算されることで隣
接する上下2ラインの加算が行われる。
【0027】図6は、補間手段702の構成を示すブロ
ック図である。同図において70201、70202は
1ラインメモリであり画像メモリ6から出力された画像
信号の1ライン分を1水平同期期間だけ遅延させる手段
である。70203、70204はアンプ手段であり、
画像メモリ6からの入力信号及び1ラインメモリ702
02の出力信号に対し一定のゲインを乗算する。702
05は加算器であり、アンプ手段70203、7020
4でゲインを乗算された信号を加算する。
【0028】図7は重み付け加算手段703の構成を示
すブロック図である。同図において70301は合成係
数発生手段であり、ここで2水平ライン加算手段701
を経た信号の画素毎の信号レベルに応じてある係数k
(1≧k≧0)を発生し、k及び1−kなる値を乗算器
70302、70303に与える。乗算器70302、
70303はk及び1−kを補間手段702を経た信号
及び2水平ライン加算手段701を経た信号に乗算し、
この結果は加算器70304にて加算され出力される。
【0029】以上のように構成された本発明の実施の形
態1の固体撮像装置に関し、以下その動作を説明する。
本発明の実施の形態1においては、短時間露光信号(以
下これをshort信号と称す)と長時間露光信号(以下こ
れをlong信号と称す)の2つの画像を撮影し、これを合
成することでダイナミックレンジを拡大した画像を撮影
することを特徴とする。このようなダイナミックレンジ
拡大の原理を図8を用いて説明する。図8(a)、(b)は露
光時の被写体の明るさ(固体撮像素子への入射光量)と
固体撮像素子から出力される信号量の関係を示すもので
ある。図8(a)に示すように長時間露光時は入射光によ
り固体撮像素子のホトダイオード上に発生する電荷量が
大きく、当然のことながら出力される信号量も大きくな
る。しかしホトダイオードに蓄積される電荷量には上限
が存在し、この上限を超えると飽和、つまり信号がつぶ
れてしまう現象が発生し、被写体像を正確に再現するこ
とができない。逆に図8(b)に示すように露光時間を短
く設定すれば飽和を回避することは可能であるが、今度
は被写体内の低輝度部分のS/Nが劣化する。そこで長
時間露光により得られた信号(long信号)と短時間露光
で得られた信号(short信号)を用いて、低輝度部はlon
g信号、高輝度部はshort信号からなる画像を合成すれ
ば、被写体の低輝度部から高輝度部までを再現でき、撮
像装置のダイナミックレンジを拡大することが可能とな
る。この際に、short信号にはlong信号との露光量の比
(露光時間の比)に相当するゲインを乗じた後(図8
(c))に合成を行えば図8(d)に示すように露光量の比に
応じたダイナミックレンジの拡大が実現できる。例えば
long信号とshort信号の露光量比(露光時間比)が1:D
の場合、ダイナミックレンジはD倍に拡大可能である。
以下、上記の原理に従って撮影画像のダイナミックレン
ジを拡大可能な撮像装置の具体例に関し説明する。ま
ず、short信号とlong信号の撮影方法に関し図9を用い
て説明する。図9は固体撮像素子3における被写体像の
露光及び露光した信号の読み出しに関するタイミングチ
ャートである。同図において(a)は垂直方向の同期信
号、(b)は固体撮像素子3のホトダイオードからの信号
電荷読み出しを制御する読み出し制御パルス、(c)は機
械シャッター2の開閉状態、(d)は固体撮像素子3のホ
トダイオード上の露光信号、(e)は固体撮像素子3から
出力される信号を示す。short信号の露光時は、機械シ
ャッター2を開放状態にし、電子シャッター機能を用い
て必要な露光時間、例えば1/1000秒間露光を行う。1/
1000秒の露光が終了した後、読み出し制御パルスにより
ホトダイオード上の蓄積電荷は垂直転送CCDに移動さ
せる。このとき固体撮像素子3はフィールド読み出しモ
ードで駆動するものとし、図2(a)で説明したようにホ
トダイオード上の蓄積電荷を垂直転送CCD上で混合
し、外部に読み出す。この際読み出す画像信号は第1フ
ィールド分の信号のみとする。図10にフィールド読み
出しモードで読み出されたshort信号を示す。なお固体
撮像素子3の垂直方向のホトダイオードの数はN個(説
明の便宜上、Nは偶数とするがこれに限るものではな
い。)とする。図10に示すように読み出されたshort
信号はYe、Cy、G、Mgの4色の信号がそれぞれ加算され
たYe+Mg、Cy+G、Ye+G、Cy+Mgの4種類の信号となる。ま
たその垂直方向のライン数はホトダイオードの垂直方向
の個数Nの1/2となる。次に、short信号を読み出してい
る間に、long信号の露光を行う。long信号の露光期間は
例えば1/100秒とする。long信号の露光時間は機械シャ
ッター2の開閉で制御するものとし、long信号の露光開
始後1/100秒後に機械シャッター2を閉じ露光を完了す
る。このように機械シャッター2を閉じることで、長時
間露光したその信号は読み出し中に余分に露光されるこ
とがない。long信号の露光が完了すると読み出し制御パ
ルスによりホトダイオード上の蓄積電荷は垂直転送CC
Dに転送される。このとき固体撮像素子3はフレーム読
み出しモードで駆動するものとし、図2(c)で説明した
ように垂直方向の奇数ラインに相当するホトダイオード
の電荷を第1フィールド分だけ読み出しを行う。第1フ
ィールドの信号読み出し終了後に、今度は垂直方向の偶
数ラインに相当するホトダイオードの電荷を読み出し
(第2フィールド)、これによってlong信号は1フレー
ムに相当する信号を固体撮像素子3から読み出す。な
お、図9(a)に示した垂直同期信号の周期は例えば1/10
0秒とし、固体撮像素子3からの1フィールド分の信号
読み出しは、垂直同期信号の1周期内で完了するものと
する。図11にフレーム読み出しモードで読み出された
long信号を示す。図11に示すように読み出されたlong
信号は第1フィールドはYe、Cyの2色の信号となり、第
2フィールドはG、Mgの2色の信号となる。またその垂
直方向のライン数は各フィールドでホトダイオードの垂
直方向の個数Nの1/2であり、2つのフィールドを合わ
せると1フレームに相当するNラインの信号となる。以
上のような露光及び信号読み出しを行うことで、露光時
間の異なる2つの信号、つまり1フィールド画像である
short信号と1フレーム画像であるlong信号を得ること
が可能である。なお、short信号は水平ライン数がlong
信号の1/2であるため、short信号はlong信号に比べ画
素数の少ない信号となっている。次に、固体撮像素子3
で得られた露光時間の異なる2つの信号は、アナログ信
号処理手段4を経てA/D変換手段5によりデジタル信
号に変換され画像メモリ6に一旦記憶される。画像メモ
リ6からはlong信号とshort信号が読み出される。な
お、画像メモリ6からlong信号を読み出す際、long信号
は第1フィールドの1ライン目、第2フィールドの1ラ
イン目、第1フィールドの2ライン目、というように1
フレーム画像としてみた場合の先頭ラインから順に読み
出されることとする。画像メモリ6から読み出されたlo
ng信号は2水平ライン加算手段701に送られる。2水
平ライン加算手段701においては、フレーム信号とし
てみた場合に隣接する上下2ラインのlong信号が加算混
合される。これはlong信号とshort信号を合成する際
に、2つの信号の信号形式が異なると合成ができないた
めであり、よってlong信号に対しては2水平ライン加算
手段701により、固体撮像素子3の垂直転送CCD上
での画素混合と同一の処理を施し、short信号に対して
は補間手段702により1フィールド画像を1フレーム
画像に変換する。図12(a)に2水平ライン加算手段7
01において隣接する上下2ラインの信号が加算混合さ
れた後のlong信号を、図12(b)に補間処理前のshort信
号を、図12(c)に補間処理後のshort信号を示す。図1
2(a)と(c)に示すように、long信号に対する2水平ライ
ン加算処理及びshort信号に対する補間処理によって、l
ong信号とshort信号の信号形式が合致する。補間手段7
02では、図12(b)に示すフィールド画像を補間処理
により同図(c)に示すフレーム画像に変換するが、その
方法について以下に説明する。例えば図12(b)におけ
る第2ラインと第3ラインの間の水平ライン信号を補間
処理により求める場合、Ye+G、Cy+Mgの信号からなる水
平ライン信号をつくる必要がある。このとき最も近傍の
Ye+G、Cy+Mgの信号からなるラインは第2ラインと第4
ラインであるため、この両者から補間処理により第2ラ
インと第3ラインの間のラインを求める。但し補間処理
により水平ライン信号を求める位置と、第2ライン、第
4ラインとの空間的距離は等距離ではないため、その距
離に応じて重み付けが必要となる。そこで補間手段70
2においては、連続して入力される3ラインの水平ライ
ン信号のうち中心を除く上下両端のラインが乗算器70
203、70204に入力される構成であるため、この
乗算器70203、70204で乗じる数をそれぞれ1
/4、3/4として重み付けし、その乗算結果を加算器
70205にて加算すればよい。なお、乗算器7020
3、70204にて乗算される数は、補間処理により水
平ライン信号を求める位置と、第2ライン、第4ライン
との空間的距離の比が1:3であることから決定する。
同様に、第3ラインと第4ラインの間の水平ライン信号
を補間処理により求める場合、Ye+Mg、Cy+Gの信号から
なる水平ライン信号をつくる必要がり、このとき最も近
傍のYe+Mg、Cy+Gの信号からなるラインは第3ラインと
第5ラインであるため、この両者との距離の比に応じた
重み付けを行い、補間処理により第3ラインと第4ライ
ンの間のラインを求めることができる。
【0030】以上の処理により、1フレーム分のlong信
号と、1フィールド分のshort信号から補間処理を経て
得られた1フレームに相当する信号が生成される。
【0031】これらlong信号とshort信号を合成し、ダ
イナミックレンジを拡大した信号を合成する手段が、重
み付け加算手段703である。重み付け加算手段703
においては図7に示した合成係数発生手段70301に
よりlong信号の画素毎の信号レベルに応じた合成係数k
を求め、この合成係数kに応じて1画素単位でlong信号
と、画面上の同じ空間位置に存在する補間処理により1
フレーム画像となったshort信号とを合成する。
【0032】図13は合成係数発生手段70301にお
けるlong信号の信号レベルから画素ごとに合成係数kを
求める方法の一例である。図13に示すように、long信
号レベルに対し2つの閾値Th#minとTh#maxを設定し、lo
ng信号レベルが(数1)の場合、つまりlong信号の信号
レベルがTh#min以下で飽和の可能性がない場合は合成係
数kを0とし、longレベルが(数2)の場合、つまりlo
ng信号レベルがTh#max以上で固体撮像素子の出力が飽和
レベルに近いような場合、合成係数kを1とする。なお
閾値Th#max、Th#minは使用する固体撮像素子の飽和特性
やS/Nに応じて適宜決定する。
【0033】
【数1】
【0034】
【数2】
【0035】また、long信号レベルが(数3)の場合、
つまりlong信号レベルが中間である場合には、図13に
示すように合成係数kは(数4)の1次式で決定する。
【0036】
【数3】
【0037】
【数4】
【0038】以上のように求められた合成係数kを用い
て、long信号とshort信号は画素毎に(数5)により合
成される。long信号とshort信号を合成した信号を合成
信号とする。
【0039】
【数5】
【0040】例えば、図14に示すlong信号(Ye+Mg)L11
と、この(Ye+Mg)L11と空間的位置が同じであるshort信
号(Ye+Mg)S11から合成信号(Ye+Mg)M11を求める場合、lo
ng信号から決定される合成係数をk11とすると(数6)
により合成が行われる。
【0041】
【数6】
【0042】合成信号の他の画素も(数6)と同様に、
同じ空間的位置に存在するlong信号とshort信号から求
められる。
【0043】なお、(数5)及び(数6)においてshor
t信号に乗算される定数Dは、long信号とshort信号の露
光量の比(露光時間の比)であり、例えばlong信号の露
光量(露光時間)をTL、short信号の露光量(露光時
間)をTSとすると、Dは(数7)で求められる。
【0044】
【数7】
【0045】このようにlong信号とshort信号を用い
て、long信号の信号レベルが閾値Th#min以下の部分はlo
ng信号、同信号レベルが閾値Th#max以上つまり固体撮像
素子3の出力が飽和するに近い部分(撮影画像の輝度が
高く、普通ならば信号がつぶれるような部分)はshort
信号、その中間の明るさの部分はlong信号とshort信号
を重み付け加算した信号からなる合成信号を合成するこ
とで、撮影した画像信号のダイナミックレンジを拡大す
ることが可能である。
【0046】但し、ダイナミックレンジ拡大がなされた
合成信号のうち、long信号からなる部分は本来1フレー
ムの画像信号であるため画像解像度が高い。これに対し
てshort信号からなる部分は1フィールドの画像信号か
ら合成されるため、long信号からなる部分に比べ画像解
像度は低い。しかし一般に、画面全体の信号レベルが飽
和に近くなるような撮影条件はまれであり、そのような
条件下でも、光学絞りを絞りこむなどして入射光量を制
限するため画面全体の信号レベルが飽和に近いレベルと
なることはなく、撮影画像の大半をshort信号からなる
部分が占めることは実使用上あまり起こりえない。ま
た、限られた階調で画像を表現する場合、高輝度部つま
り信号レベルが高い部分は低・中輝度部に比べ、少なめ
に階調が割り当てられることが多い。このためshort信
号からなる部分の解像度劣化はさほど目立たず、上記の
ような方法でlong信号とshort信号を合成してもCCD
の画素数並みの解像度の合成画像が得られると考えられ
る。
【0047】以上の通り、信号合成手段7において合成
された合成信号は、デジタル信号処理手段8において輝
度と色信号の分離、ノイズ除去、エッジ強調、ガンマ補
正、マトリクス演算、特定のフォーマットへのエンコー
ド等の処理が施される。デジタル信号処理手段8におけ
る信号処理に関しては本願発明の目的と直接は関係がな
いため詳細な説明は省略する。
【0048】以上のように、本発明の実施の形態1の固
体撮像装置においては、固体撮像素子3の露光及び信号
読み出しモードを制御し、1フィールド分の短時間露光
信号と1フレーム分の長時間露光信号を撮影しこれらを
合成することで、CCDの画素数並みの解像度を持ちな
がらダイナミックレンジも拡大された画像を撮影するこ
とができる。さらに本固体撮像装置で使用する固体撮像
素子には、民生用固体撮像装置で一般に用いられている
IT−CCDが使用可能であるため、複数の固体撮像素
子や特殊な固体撮像素子を使用する必要がなく、安価に
装置を構成することができる。
【0049】(実施の形態2)本発明の実施の形態2に
おける固体撮像装置は、図1に示した本発明の実施の形
態1に対し、重み付け加算手段(本実施の形態2では7
04と付番し区別する)の構成及び同手段でなされる処
理が異なる。以下、本発明の実施の形態1と同様の処理
内容部分に関しては説明は省略し、本発明の実施の形態
1と異なる部分のみ説明する。
【0050】図15は、本発明の実施の形態2における
重み付け加算手段704のブロック図である。同図にお
いて70401は2水平ライン加算手段701を経たlo
ng信号から輝度信号成分を抽出する輝度信号抽出手段で
ある。70402は合成係数発生手段であり、ここで輝
度信号抽出手段70401を経たlong信号の輝度成分の
輝度信号レベルに応じてある係数k(1≧k≧0)を発
生し、k及び1−kなる値を乗算器70403、704
04に与える。乗算器70403、70404はk及び
1−kを補間手段702を経たshort信号及び2水平ラ
イン加算手段701を経たlong信号に乗算し、この結果
は加算器70405にて加算され出力される。
【0051】図16は輝度信号抽出手段70401の構
成例を示すブロック図である。同図において70401
1は入力信号を1画素分の期間だけ遅延させる手段であ
る。704012は加算器であり、1画素遅延手段70
4011において遅延された画素信号と輝度信号抽出手
段70401に入力された画素信号を、この加算器70
4012において加算することで水平方向に隣接する2
画素の加算が行われ信号の低域成分のみを抽出する。輝
度信号抽出手段70401により抽出される信号の低域
成分はすなわち画像信号の輝度信号に相当する。
【0052】以上のように構成された本発明の実施の形
態2の固体撮像装置に関し、以下その動作を説明する。
本発明の実施の形態1と異なり、本発明の実施の形態2
においてはlong信号とshort信号を合成する際に使用す
る合成係数をlong信号から抽出した輝度信号の信号レベ
ルをもとに決定する。そのためlong信号から輝度信号を
抽出する手段である輝度信号抽出手段70401を重み
付け加算手段704内に有する。
【0053】輝度信号抽出手段70401においては、
2水平ライン加算手段701の出力のうち水平方向に隣
り合う2画素の信号を順次加算することで以下の(数
8)に基づきlong信号の輝度成分(以下これをlong輝度
信号と称す)を抽出する。
【0054】
【数8】
【0055】例えば、図17に示すlong信号(Ye+Mg)L
11とlong信号(Cy+G)L12とからlong輝度信号YL11を求
める場合、(Ye+Mg)L11と(Cy+G)L12を加算すること
になる。同様にlong輝度信号YL12を求める場合は、(Cy
+G)L12と(Ye+Mg)L13を加算する。long信号から抽出
した輝度信号(long輝度信号)をもとに合成係数を決定
する方法を以下に説明する。
【0056】図18は合成係数発生手段70402にお
けるlong輝度信号の信号レベルから画素ごとに合成係数
kを求める方法の一例である。図18に示すように、lo
ng輝度信号レベルに対し2つの閾値Th#min’とTh#max’
を設定し、long輝度信号レベルが(数9)の場合、つま
り被写体の輝度レベルがTh#min’以下の低輝度の場合は
合成係数kを0とし、long輝度信号レベルが(数10)
の場合、つまり被写体の輝度レベルがTh#max’以上の高
輝度の場合、合成係数kを1とする。なお閾値Th#ma
x’、Th#min’は使用する固体撮像素子の飽和特性やS/N
に応じて適宜決定する。
【0057】
【数9】
【0058】
【数10】
【0059】また、long輝度信号レベルが(数11)の
場合、つまり輝度が低輝度と高輝度の中間である場合に
は、図18に示すように合成係数kは(数12)の1次
式で決定する。
【0060】
【数11】
【0061】
【数12】
【0062】以上のように求められた合成係数kを用い
て、long信号とshort信号は画素毎に(数5)により合
成される。long信号とshort信号を合成した信号を合成
信号とする。
【0063】例えば、図19に示すlong信号(Ye+Mg)L11
と、この(Ye+Mg)L11と空間的位置が同じであるshort信
号(Ye+Mg)S11から合成信号(Ye+Mg)M11を求める場合、こ
れら2つの信号と空間的位置が同じであるlong輝度信号
YL11から決定される合成係数(これをky11とする)をも
とに(数13)により合成が行われる。
【0064】
【数13】
【0065】合成信号の他の画素も(数13)と同様
に、同じ空間的位置に存在するlong信号とshort信号か
ら求められる。
【0066】なお、(数13)においてshort信号に乗
算される定数Dは、本発明の実施の形態1と同様にlong
信号とshort信号の露光量の比(露光時間の比)であ
り、(数7)で求められる。
【0067】このようにlong信号とshort信号を用い
て、低輝度部はlong信号、高輝度部はshort信号、低輝
度部と高輝度部の中間の輝度の部分はlong信号とshort
信号を重み付け加算した信号からなる合成信号を合成す
ることで、撮影した画像信号のダイナミックレンジを拡
大することが可能である。また、輝度信号はlong信号か
ら抽出される低周波成分といえるため、この輝度信号を
もとに合成係数を求める場合、合成係数決定に対しlong
信号中のノイズ成分が及ぼす影響を低減することができ
る。
【0068】以上のように、本発明の実施の形態2の固
体撮像装置においても、固体撮像素子3の露光及び信号
読み出しモードを制御し、1フィールド分の短時間露光
信号と1フレーム分の長時間露光信号を撮影しこれらを
合成することで、CCDの画素数並みの解像度を持ちつ
つダイナミックレンジが拡大された画像を撮影すること
ができる。さらに本固体撮像装置で使用する固体撮像素
子には、民生用固体撮像装置で一般に用いられているI
T−CCDが使用可能であるため、複数の固体撮像素子
や特殊な固体撮像素子を使用する必要がなく、安価に装
置を構成することができる。
【0069】(実施の形態3)図20は、本発明の実施
の形態3における固体撮像装置のブロック図である。同
図において、光学レンズ1、光学絞りと兼用の機械シャ
ッター2、固体撮像素子3、アナログ信号処理手段4、
A/D変換手段5、画像メモリ6、シャッター駆動手段
9、固体撮像素子駆動手段10、2水平ライン加算手段
701、輝度信号抽出手段70401、補間手段702
の機能、動作は本発明の実施の形態1及び実施の形態2
と同様であるため、図1から図19と同一の番号を付し
て説明は省略する。
【0070】図20に示したブロック図において、上記
以外の構成要素に関して説明すると、12は輝度信号抽
出手段70401の出力に対し垂直方向の補間処理を施
す輝度信号補間手段であり、輝度信号合成手段13は輝
度信号抽出手段70401と輝度信号補間手段12の出
力を合成する手段である。なお、輝度信号補間手段12
に入力される輝度信号はshort信号から抽出された輝度
信号であるためshort輝度信号と称し、long信号から抽
出される輝度信号をlong輝度信号と称す。よって輝度信
号抽出手段70401から直接、輝度信号合成手段13
に入力される信号がlong輝度信号、輝度信号補間手段1
2から輝度信号合成手段13に入力される信号がshort
輝度信号の補間処理後の信号となる。
【0071】また、信号合成手段14は2ライン加算手
段701と補間手段702の出力を合成する手段であ
る。1ラインメモリ15、16、17,18は信号合成
手段14の出力を同時化する際に必要な1水平同期期間
分の遅延手段であり、1ラインメモリ15、16、1
7,18の出力と信号合成手段14の出力の合計5ライ
ンの水平ライン信号から同じ空間位置にレッド(R)成
分を持つ信号とブルー(B)成分を持つ信号を同時化手
段19で得る。
【0072】輝度信号合成手段13で得られた輝度信号
と、同時化手段19で得られたレッド(R)成分を持つ
信号とブルー(B)成分を持つ信号はデジタル信号処理
手段20において、ノイズ除去、エッジ強調、マトリク
ス演算、特定のフォーマットへのエンコード等の処理が
施される。なおこれらを含め上記すべての構成要素の動
作モードや動作タイミングはシステム制御手段21によ
り統合的に制御されるものとする。
【0073】図21は輝度信号補間手段12の構成を示
すブロック図である。同図において1201は1ライン
メモリであり輝度信号抽出手段70401から出力され
た画像信号の1ライン分を1水平同期期間だけ遅延させ
る手段である。1202、1203はアンプ手段であ
り、それぞれ1201を経た信号及び輝度信号抽出手段
70401を経て輝度信号補間手段12に入力された信
号に対し一定のゲインを乗算する。1204は加算器で
あり、アンプ手段1202、1203でゲインを乗算さ
れた信号を加算する。
【0074】図22は輝度信号合成手段13の構成を示
すブロック図である。同図において1301は合成係数
発生手段であり、ここで輝度信号抽出手段70401を
経たlong輝度信号の画素毎の信号レベルに応じてある係
数k(1≧k≧0)を発生し、k及び1−kなる値を乗
算器1302、1303に与える。乗算器1302、1
303はk及び1−kをshort輝度信号及びlong輝度信
号に乗算し、この結果は加算器1304にて加算され出
力される。
【0075】図23は信号合成手段14の構成を示すブ
ロック図である。同図において1401、1402は乗
算器であり、輝度信号合成手段13より供給される係数
k及び1−kをそれぞれshort信号及び2水平ライン加
算後のlong信号に乗算する乗算器である。この乗算結果
は加算器1403にて加算され出力される。
【0076】図24は同時化手段19の構成を示すブロ
ック図である。同図において1901は入力される信号
から3つの信号を選択し、出力A、出力B、出力Cに出力
するセレクタ、1902、1903は出力B及び出力Cか
ら出力される信号にある定数を乗算するアンプ手段であ
り、この乗算後の信号は加算器1904にて加算され
る。1905はセレクタ1901の出力Aと加算器19
04の出力を出力D、出力Eに振り分けて出力するセレク
タである。なお、セレクタ1901、1905による信
号の出力先の選択は後述の通り、信号の色成分によって
振り分けられることとする。
【0077】以上のように構成された本発明の実施の形
態3の固体撮像装置に関し、以下その動作を説明する。
本発明の実施の形態3においても、短時間露光信号(sh
ort信号)と長時間露光信号(long信号)の2つの画像
を撮影し、これを合成することでダイナミックレンジを
拡大した画像を撮影する点は本発明の実施の形態1及び
2と同様である。しかし本発明の実施の形態3において
は、輝度信号と、後に色信号として処理される信号とで
個別に短時間露光信号(short信号)と長時間露光信号
(long信号)の合成を行うことを特徴とする。そのため
に本発明の実施の形態3においては本発明の実施の形態
1の場合と同様に、画像メモリ6から読み出されたlong
信号は、2水平ライン加算手段701においては、フレ
ーム信号としてみた場合に隣接する上下2ラインのlong
信号が加算混合される。これはshort信号が固体撮像素
子3の垂直転送CCD上で画素混合されているため、こ
れにlong信号を合わせるための措置である。
【0078】輝度信号抽出手段70401においては、
本発明の実施の形態2と同様に2水平ライン加算手段7
01の出力のうち水平方向に隣り合う2画素の信号を順
次加算することで(数8)に基づきlong信号の輝度成分
(以下これをlong輝度信号と称す)を抽出する。
【0079】例えば、図17に示すlong信号(Ye+Mg)L
11とlong信号(Cy+G)L12とからlong輝度信号YL11を求
める場合、(Ye+Mg)L11と(Cy+G)L12を加算すること
になる。同様にlong輝度信号YL12を求める場合は、(Cy
+G)L12と(Ye+Mg)L13を加算する。
【0080】次に、画像メモリ6から読み出されるshor
t信号は、まず輝度信号抽出手段70401においてlon
g信号の場合と同様に輝度信号が求められる。
【0081】図25にlong輝度信号、図26にshort輝
度信号を示す。
【0082】図26に示すようにshort信号は1フィー
ルドの信号であったため、short輝度信号も当然1フィ
ールドの輝度信号である。そこでこの1フィールドのsh
ort輝度信号を1フレームの信号に変換し、long輝度信
号と信号形式を同一とするための手段が、輝度信号補間
手段12である。
【0083】輝度信号補間手段12は具体的には、図2
1に示したアンプ手段1202、1203で乗算するゲ
インを0.5とすることで連続する2ラインの加算平均
値を求めこれを補間信号とする。図27に補間処理後の
short輝度信号を示す。
【0084】以上の処理により、1フレーム分のlong信
号から得られた輝度信号(long輝度信号)と、1フィー
ルド分のshort信号から補間処理を経て得られた1フレ
ームに相当する輝度信号(short輝度信号)が生成され
る。このように1フィールドのshort信号から1フレー
ムのshort輝度信号を合成した理由は、short信号とlong
信号を合成してダイナミックレンジ拡大を図る際に、sh
ort信号が1フィールドの信号のままでは画像を構成す
る水平ラインが不足し、1フレームの信号であるlong信
号と合成することができないためである。
【0085】これらlong輝度信号とshort輝度信号を合
成し、ダイナミックレンジを拡大した輝度信号を合成す
る手段が、輝度信号合成手段13である。輝度信号合成
手段13においては図22に示した合成係数発生手段1
301によりlong輝度信号の画素毎の信号レベルに応じ
た合成係数kを求め、この合成係数kに応じて1画素単
位でlong輝度信号と、画面上の同じ空間位置に存在する
short輝度信号とを合成する。
【0086】long輝度信号の信号レベルから画素ごとに
合成係数kを求める方法の一例としては、本発明の実施
の形態2と同様の方法が考えられるため説明は省略す
る。
【0087】求められた合成係数kを用いて、long輝度
信号とshort輝度信号は画素毎に(数14)により合成
される。long輝度信号とshort輝度信号を合成した信号
を合成輝度信号とする。
【0088】
【数14】
【0089】例えば、図28に示すlong輝度信号YL11
と、このYL11と空間的位置が同じであるshort輝度信号Y
S11から合成輝度信号YM11を求める場合、long輝度信号
(YL11)から決定される合成係数をk11とすると(数1
5)により合成が行われる。
【0090】
【数15】
【0091】合成輝度信号の他の画素も(数15)と同
様に、同じ空間的位置に存在するlong輝度信号とshort
輝度信号から求められる。
【0092】なお、(数14)及び(数15)において
short輝度信号に乗算される定数Dは、long信号とshort
信号の露光量の比(露光時間の比)であり(数7)で求
められる。
【0093】このようにlong輝度信号とshort輝度信号
を用いて、低輝度部はlong輝度信号、高輝度部はshort
輝度信号、低輝度部と高輝度部の中間の輝度の部分はlo
ng輝度信号とshort輝度信号を重み付け加算した信号か
らなる合成輝度信号を合成することで、撮影した画像の
輝度信号のダイナミックレンジを拡大することが可能で
ある。
【0094】但し、ダイナミックレンジ拡大がなされた
輝度信号のうち、long輝度信号からなる部分は本来1フ
レームの画像信号であるため画像解像度が高い。これに
対してshort輝度信号からなる部分は1フィールドの画
像信号から合成されるため、long輝度信号からなる部分
に比べ画像解像度は低い。しかし一般に、画面全体が高
輝度となるような撮影条件下はまれであり、そのような
条件下でも、光学絞りを絞りこむなどして入射光量を制
限するため画面全体が高輝度となることはなく、撮影画
像の大半をshort輝度信号からなる部分が占めることは
実使用上あまり起こりえない。また、限られた階調で画
像を表現する場合、高輝度部は低・中輝度部に比べ、少
なめに階調が割り当てられることが多い。このためshor
t輝度信号からなる部分の解像度劣化はさほど目立た
ず、上記のような方法でlong輝度信号とshort輝度信号
を合成してもCCDの画素数並みの解像度の合成画像が
得られると考えられる。
【0095】以上が輝度信号の合成によるダイナミック
レンジ拡大に関する処理内容である。次に、色信号に関
する処理について説明する。
【0096】画像メモリ6から読み出されたshort信号
と、2水平ライン加算手段701において隣接する上下
2ラインが加算されたlong信号は、色信号のダイナミッ
クレンジ拡大のための合成処理を信号合成手段14にお
いて施される。
【0097】なお、short信号は1フィールド信号であ
るため1フレーム信号であるlong信号と信号形式が異な
る。よって本発明の実施の形態1と同様に、補間手段7
02によって1フィールド画像を1フレーム画像に変換
する。2水平ライン加算手段701において隣接する上
下2ラインの信号が加算混合された後のlong信号及び補
間手段702において補間処理されたshort信号は、図
12(a)、(c)示す通りであり、本発明の実施の形態1と
同様にlong信号に対する2水平ライン加算処理及びshor
t信号に対する補間処理によって、long信号とshort信号
の信号形式が合致している。
【0098】信号合成手段14におけるlong信号とshor
t信号の合成は、本発明の実施の形態2と同様に、信号
合成手段14に入力されるlong信号及びshort信号と空
間的に位置が一致しているlong輝度信号とshort輝度信
号とが合成される際に使用される合成係数k及び(数
7)で求められるDにより画素毎に実施される。信号合
成手段14で合成された信号を合成信号と称す。
【0099】以上が色信号のダイナミックレンジ拡大の
ための合成処理である。
【0100】さて、信号合成手段14で求められた合成
信号は、Ye+Mg及びCy+Gの画素が水平方向に並ぶライン
と、Ye+G及びCy+Mgの画素が水平方向に並ぶラインが垂
直方向に2ライン周期で繰り返される構成のため、色の
三原色であるレッド、グリーン、ブルーをそれぞれR、
G、Bとすると、Ye+Mg及びCy+Gの画素が並ぶラインから
は(数16)によりR成分を持った2R−Gなる色信号
が、Ye+G及びCy+Mgが並ぶラインからは(数17)によ
りB成分を持った2B―Gなる色信号が得られる。
【0101】
【数16】
【0102】
【数17】
【0103】これはいわゆる色差線順次であり、1水平
ライン信号に対して色信号はR成分を持った2R−G、も
しくはB成分を持った2B―Gのどちらか一方しか得られ
ない。そこで1水平ライン信号に対し、R成分とB成分の
双方の成分を持った信号を得るために、ラインメモリ1
5、16、17、18及び同時化手段19により同時化
処理が施される。
【0104】ラインメモリ15、16、17、18及び
同時化手段19による同時化処理の具体的な内容を以下
に説明する。同時化手段19には信号合成手段14及び
ラインメモリ15、16、17、18から連続する5ラ
インの水平ライン信号が入力される。信号合成手段14
で合成された信号を合成信号を図29(a)とし、仮に同
時化手段19に入力される5ラインの信号が図29(b)
に示す第3ライン〜第7ラインの信号であったとする。
このとき、同時化処理の対象は入力される5ラインの中
心に位置する水平ライン信号であるとし、図29(b)の
第5ラインの水平ライン信号に対し同時化処理を行うと
すると、第5ラインはR成分を持った2R−Gに対応する
信号であるため、B成分を持った2B―Gは周辺の水平ラ
イン信号から補間処理によりつくり出せばよい。そこで
図24に示す同時化手段19においてはセレクタ190
1は、第5ラインの信号を出力Aに、第3ライン及び第
7ラインの2B−Gに対応する信号を出力B及び出力Cに出
力する。アンプ手段1902、1903で乗算するゲイ
ンは0.5とし、この乗算結果を加算器1904で加算す
れば第3ラインと第7ラインの加算平均結果が求められ
る。この加算平均結果とセレクタ1901の出力Aの出
力である第5ラインの信号はセレクタ1905に入力さ
れ、ここで出力先が選択され、2R−Gに対応する第5ラ
インの水平ライン信号は出力Dに、2B−Gに対応する第
3ラインと第7ラインの加算平均結果は出力Eに出力さ
れる。このような動作により第5ラインが存在する空間
位置に、R成分を持った2R−Gに対応する信号とB成分を
持った2B−Gに対応する信号を得ることができる。同様
に、例えば同時化手段19に第5ライン〜第9ラインの
信号が入力され、第7ラインの水平ライン信号に対し同
時化処理を行うとすると、第7ラインはB成分を持った
2B−Gに対応する信号であるため、今度はR成分を持っ
た2R―Gは周辺の水平ライン信号から補間処理によりつ
くり出せばよい。そこで図24に示す同時化手段19に
おいてはセレクタ1901は、第7ラインの信号を出力
Aに、第5ライン及び第9ラインの2R−Gに対応する信
号を出力B及び出力Cに出力する。アンプ手段1902、
1903で乗算するゲインは0.5とし、この乗算結果を
加算器1904で加算すれば第5ラインと第9ラインの
加算平均結果が求められる。この加算平均結果とセレク
タ1901の出力Aの出力である第7ラインの信号はセ
レクタ1905に入力され、ここで出力先が選択され2
B−Gに対応する第7ラインの水平ライン信号は出力E
に、2R−Gに対応する第5ラインと第9ラインの加算平
均結果は出力Dに出力される。このような動作により第
7ラインが存在する空間位置に、R成分を持った2R−G
に対応する信号とB成分を持った2B−Gに対応する信号
を得ることができる。なお、同時化手段19は入力信号
に応じて上記のような処理が行われるよう、入出力信号
の選択等が自動的もしくはシステム制御手段21の制御
により実施されるものとする。
【0105】以上の通り、輝度信号合成手段13におい
て合成された合成輝度信号及び同時化手段19で得られ
たR成分を持った2R−Gに対応する信号とB成分を持った
2B−Gに対応する信号は、デジタル信号処理手段20に
おいてノイズ除去、エッジ強調、ガンマ補正、マトリク
ス演算、特定のフォーマットへのエンコード等の処理が
施される。デジタル信号手段20における信号処理に関
しては本願発明の目的と直接は関係がないため詳細な説
明は省略する。
【0106】以上のように、本発明の実施の形態3の固
体撮像装置においては、固体撮像素子3の露光及び信号
読み出しモードを制御し、1フィールド分の短時間露光
信号と1フレーム分の長時間露光信号を撮影しこれらを
合成することで、固体撮像素子の画素数並みの解像度を
持ちながらもダイナミックレンジが拡大された画像を撮
影することができる。さらに本固体撮像装置で使用する
固体撮像素子には、民生用固体撮像装置で一般に用いら
れているIT−CCDが使用可能であるため、複数の固
体撮像素子や特殊な固体撮像素子を使用する必要がな
く、安価に装置を構成することができる。
【0107】(実施の形態4)本発明の実施の形態4に
おける固体撮像装置は、図20に示した本発明の実施の
形態3に対し、2水平ライン加算手段70401の出力
に対する間引き手段22が追加され、これに伴い補間手
段702、1ラインメモリ17、18が削除され、さら
に信号合成手段、同時化手段、デジタル信号処理手段、
システム制御手段の構成・機能が異なる(本発明の実施
の形態4では信号合成手段23、同時化手段24、デジ
タル信号処理手段25、システム制御手段26と付番し
区別する)点が主な相違点であるため、以下、本発明の
実施の形態3と同様の処理内容部分に関しては説明は省
略し、本発明の実施の形態3と異なる部分のみ説明す
る。図30は、本発明の実施の形態4における固体撮像
装置のブロック図である。同図において、間引き手段2
2は2水平ライン加算手段701の出力からその水平ラ
イン信号を間引き、1フレーム画像を1フィールド画像
に変換する手段である。信号合成手段23は、間引き手
段22及び画像メモリ6の出力を輝度信号合成手段13
にて求められる合成係数kに基づき合成する手段であ
る。同時化手段24は、信号合成手段23の出力を同時
化処理する手段である。
【0108】輝度信号合成手段13で得られた輝度信号
と、同時化手段24で得られたレッド(R)成分を持つ
信号とブルー(B)成分を持つ信号はデジタル信号処理
手段25において、ノイズ除去、エッジ強調、マトリク
ス演算、特定のフォーマットへのエンコード等の処理が
施される。なおこれらを含め上記すべての構成要素の動
作モードや動作タイミングはシステム制御手段26によ
り統合的に制御されるものとする。
【0109】図31は同時化手段24の構成を示すブロ
ック図である。2401、2402は信号合成手段23
と1ラインメモリ16を経た信号にある定数を乗算する
アンプ手段であり、この乗算後の信号は加算器2403
にて加算される。2404は1ラインメモリ15の出力
と加算器2403の出力を出力D、出力Eに振り分けて出
力するセレクタである。なお、セレクタ2404による
信号の出力先の選択は後述の通り、信号の色成分によっ
て振り分けられることとする。以上のように構成された
本発明の実施の形態4の固体撮像装置に関し、以下その
動作を説明する。
【0110】本発明の実施の形態3で説明したように、
2水平ライン加算手段701の出力は1フレーム画像で
あるlong信号である。しかし画像メモリ6に記憶されて
いるshort信号は1フィールド画像であるため、このま
までは信号合成手段23においてlong信号とshort信号
は合成が行えない。そこで本発明の実施の形態4におい
てはshort信号を補間処理により1フレームの信号に変
換した。
【0111】本発明の実施の形態4においては、色信号
は輝度信号と同程度の情報量を持たなくても画質面で問
題がないことを利用して、本発明の実施の形態3とは逆
に、1フレーム画像であるlong信号に対し垂直方向の間
引き処理を施すことでlong信号を1フィールド画像に変
換し、色信号合成手段24においてshort信号と合成す
る。具体的には図12(a)に示したような2ライン加算
後のlong信号の偶数ラインを間引き手段22により間引
くことで、信号合成手段23に入力されるlong信号を1
フィールド画像に変換する。この間引き後のlong信号は
図12(b)に示したようなshort信号と同様の形式とな
る。
【0112】信号合成手段23においては入力される1
フィールド画像であるlong信号とshort信号は、本発明
の実施の形態3と同様に、これらの信号と空間的に位置
が一致しているlong輝度信号とshort輝度信号とが合成
される際に使用される合成係数k及び(数7)で求めら
れるDにより画素ごとに合成される。信号合成手段23
で合成された信号を合成信号と称す。
【0113】次に、合成信号は同時化手段24において
同時化処理がなされるが、本発明の実施の形態3と異な
り、合成信号は1フィールド信号であるため、同時化手
段24に入力する信号は例えば図32(b)に示すように
第2ラインから第4ラインの3ライン分でよい。この3
ラインの信号から本発明の実施の形態3と同様にR成分
を持った2R−Gに対応する信号とB成分を持った2B−G
に対応する信号を得ることができる。例えば、第3ライ
ンの位置にR成分を持った2R−Gに対応する信号とB成分
を持った2B−Gに対応する信号を得るには、第2ライン
と第4ラインの信号を加算平均して2B−Gに対応する信
号を合成すればよい。
【0114】同時化手段24で得られた2つの信号はデ
ジタル信号処理手段25において本発明の実施の形態3
と同様に処理されるが、本発明の実施の形態4では信号
合成手段23で合成された合成信号は1フィールド信号
であるため、必要があればデジタル信号処理手段25に
おいてフレーム画像への変換等がなされることは言うま
でもない。
【0115】以上のように、本発明の実施の形態4の固
体撮像装置においても、本発明の実施の形態3と同様に
固体撮像素子3の露光及び信号読み出しモードを制御
し、1フィールド分の短時間露光信号と1フレーム分の
長時間露光信号を撮影しこれらを合成することで、固体
撮像素子の画素数並みの解像度を持ちつつダイナミック
レンジが拡大された画像を撮影することができる。さら
に本発明の実施の形態4においては、色信号をフィール
ド信号として処理するため、1ラインメモリの必要個数
等を削減でき、より安価に装置を構成することができ
る。なお本発明の実施の形態1において、short信号は
フィールド読み出しモードで読み出した1フィールド画
像としたがこれに限るものではなく、例えば垂直方向に
水平ライン信号を間引いて読み出す構成も考えられる。
一例としては、図33に示すように固体撮像素子3から
short信号を読み出す場合に垂直方向に3ライン毎に1
ラインの信号を読み出す構成が考えられる。この場合、
short信号は固体撮像素子上で上下2つのホトダイオー
ドに蓄積された電荷が混合されずに読み出されるため、
long信号に対する2水平ライン加算処理が不要となる。
また、図4に示した補間手段702による補間処理にお
いては、short信号の水平ライン数をlong信号に合わせ
るように補間処理を行う必要がある。つまり補間手段7
02においてはshort信号の各水平ライン信号間に2ラ
イン分の水平ライン信号を補間処理により作成すること
になる。これによりshort信号とlong信号は同一の信号
形式となり図4に示した重み付け加算手段703により
合成することが可能となる。この場合、合成係数kは上
下2水平ライン加算されていないlong信号の各画素の信
号レベルから例えば図13に示したような方法で求めれ
ばよい。なお、このようにshort信号を間引いて読み出
す場合はlong信号に対する2水平ライン加算処理が不要
と記したがこれに限るものではなく、long信号、short
信号ともに2水平ライン加算処理を施した後に、合成処
理を行う構成も考えられる。
【0116】また、本発明の実施の形態1において、露
光量の異なる2つの信号は1フィールド画像であるshor
t信号と1フレーム画像であるlong信号としたがこれに
限るものではなく、固体撮像装置の用途によっては1フ
ィールド画像であるlong信号と1フレーム画像であるsh
ort信号としてもよい。この場合、図34に示すようにl
ong信号に対し補間手段702により垂直方向の補間処
理を行い、short信号に対しては2水平ライン加算手段
701により隣接する上下2ラインの加算を行う構成と
すればよく、重み付け加算手段703で使用する合成係
数は補間処理後のlong信号から求めればよい。また、補
間処理前のlong信号から合成係数を求める構成も考えら
れ、この場合、図34(a)に示したshort信号の偶数ライ
ンの位置には対応するlong信号が存在せず合成係数kを
決めることができないため、short信号の偶数ラインの
上下のラインと同じ位置に存在するlong信号の水平ライ
ン信号から求められる合成係数から、short信号の偶数
ラインの位置の合成係数を決定するなどをすればよい。
このように、1フィールド画像であるlong信号と1フレ
ーム画像であるshort信号から合成信号を求めること
で、高輝度部での解像度の高いダイナミックレンジ拡大
画像が撮影可能である。
【0117】また、本発明の実施の形態1及び本発明の
実施の形態2において、補間手段702は1ラインメモ
リを2個使用し、2水平ライン分の信号から補間処理を
行う構成としたがこれに限るものではなく、例えば更に
多数の1ラインメモリを用いて、更に多数の水平ライン
信号から高次の内挿処理により補間処理を行う構成も考
えられる。また、図35に示すように入力される1水平
ラインを2回ずつ繰り返し出力することで水平ライン数
を2倍にするいわゆる前値補間を行う構成も考えられ
る。
【0118】また、本発明の実施の形態1において、信
号合成手段7では、long信号とshort信号を合成するた
めの合成係数kはlong信号の画素毎に求めるものとした
がこれに限るものではなく、例えば複数の画素の信号レ
ベルの平均値もしくは最小値もしくは最大値もしくは中
間値から画素毎の合成係数kを求める構成や、画素毎に
求められたkの値のうち複数個から求めたkの平均値も
しくは最小値もしくは最大値もしくは中間値を画素毎の
合成係数とする構成も考えられる。
【0119】また、本発明の実施の形態1において、信
号合成手段7では、複数の画素からなるブロックに対し
て合成係数を求めて合成を行う構成も考えられる。例え
ば図36において、long信号(Ye+Mg)L11と(Cy+G)L12、
(Ye+Mg)L13と(Cy+G)L14をそれぞれ1ブロックとし、こ
れと同位置に存在するshort信号(Ye+Mg)S11と(Cy+G)S1
2、(Ye+Mg)S13と(Cy+G)S14をそれぞれ1ブロックとする
と、この2画素単位のブロック毎に合成係数を求め、合
成を行うことも可能であり、このとき例えばlong信号(Y
e+Mg)L11と(Cy+G)L12からなるブロックとshort信号(Ye+
Mg)S11と(Cy+G)S12の合成は、このブロックの合成係数
をkb11とするとそれぞれ(数18)のように行う。((Y
e+Mg)M11、(Cy+G)M12は合成後の信号)
【0120】
【数18】
【0121】この場合、合成係数kb11はブロックに含ま
れるlong信号(例えば(Ye+Mg)L11と(Cy+G)L12)のいず
れかの信号レベル、もしくはブロックに含まれるlong信
号(例えば(Ye+Mg)L11と(Cy+G)L12)の平均値、最大
値、最小値、中間値の少なくともいずれかから図13に
示した方法で求まるkをブロックの合成係数kb11とすれ
ばよい。また、ブロックに含まれるlong信号の各信号レ
ベルから図13に示した方法で求められる画素毎のkの
値(例えば図36中のk1、k2)の平均値、最大値、
最小値、中間値のいずれかをブロックの合成係数kb11と
する構成も考えられる。なおブロック内の画素数は2画
素と限らないことはいうまでもない。
【0122】また、本発明の実施の形態1において、信
号合成手段7では、複数の画素からなるブロックを設
け、このブロック内の特定の位置、例えばブロックの中
心位置に存在するlong信号レベルから図13に示した方
法で求まる合成係数をブロック内の各画素の合成処理に
用いる構成も考えられる。この場合、合成係数を画素毎
に求める必要がなく、処理を簡略化できる。なお、合成
係数を求める際に使用する画素の位置はブロックの中心
位置に限る必要はない。また、本発明の実施の形態1に
おいて、信号合成手段7では、合成係数kはlong信号で
はなくフレーム画像に変換したshort信号から求める構
成も考えられる。また、フレーム画像に変換したshort
信号ではなく、フィールド画像であるshort信号から合
成係数kを求める構成も考えられる。この場合、図12
からわかるようにlong信号の偶数ラインに対応するshor
t信号は存在しないため、このままでは合成係数を決定
することができない。この場合、long信号の偶数ライン
に対応する位置の合成係数は周辺のshort信号もしくは
周辺の合成係数から求めればよい。
【0123】また、本発明の実施の形態1において信号
レベルから合成係数kを求める方法の例を図13に示し
たが、合成係数kの決定方法はこれに限るものではな
く、例えば図37に示すように輝度レベルに応じて非線
形にkを決定する方法も考えられる。
【0124】また、本発明の実施の形態2において、sh
ort信号はフィールド読み出しモードで読み出した1フ
ィールド画像としたがこれに限るものではなく、一例と
しては、図33にあげたように垂直方向に水平ライン信
号を間引いて読み出す構成も考えられる。この場合、sh
ort信号は固体撮像素子上で上下2つのホトダイオード
に蓄積された電荷が混合されずに読み出されるため、lo
ng信号に対する2水平ライン加算処理が不要となる。ま
た、図4に示した補間手段702による補間処理におい
ては、short信号の水平ライン数をlong信号に合わせる
ように補間処理を行う必要がある。つまり補間手段70
2においてはshort信号の各水平ライン信号間に2ライ
ン分の水平ライン信号を補間処理により作成することに
なる。これによりshort信号とlong信号は同一の信号形
式となり図4に示した重み付け加算手段703により合
成することが可能となる。但し、図15に示した輝度信
号抽出手段70401には上下2水平ライン加算されて
いないlong信号が供給されるため、同手段に輝度信号抽
出のための2水平ライン加算処理を新たに追加する必要
がある。あるいは輝度信号抽出手段70401の前段に
2水平ライン加算手段701と同様の手段を設け、輝度
信号抽出手段70401には2水平ラインが加算された
信号が供給されるようにする必要がある。なお、このよ
うにshort信号を間引いて読み出す場合はlong信号に対
する2水平ライン加算処理が不要と記したがこれに限る
ものではなく、long信号、short信号ともに2水平ライ
ン加算処理を施した後に、合成処理を行う構成も考えら
れる。
【0125】また、本発明の実施の形態2において、露
光量の異なる2つの信号は1フィールド画像であるshor
t信号と1フレーム画像であるlong信号としたがこれに
限るものではなく、固体撮像装置の用途によっては1フ
ィールド画像であるlong信号と1フレーム画像であるsh
ort信号としてもよい。この場合、図34に示すようにl
ong信号に対し補間手段702により垂直方向の補間処
理を行い、short信号に対しては2水平ライン加算手段
701により隣接する上下2ラインの加算を行う構成と
すればよく、重み付け加算手段703で使用する合成係
数は補間処理後のlong信号から抽出された輝度信号から
求めればよい。また、補間処理前のlong信号から抽出さ
れた輝度信号から合成係数を求める構成も考えられ、こ
の場合、図34(a)に示したshort信号の偶数ラインの位
置には対応するlong信号が存在せず合成係数kを決める
ことができないため、short信号の偶数ラインの上下の
ラインと同じ位置に存在するlong信号の水平ライン信号
から抽出された輝度信号より求められる合成係数から、
short信号の偶数ラインの位置の合成係数を決定するな
どをすればよい。このように、1フィールド画像である
long信号と1フレーム画像であるshort信号から合成信
号を求めることで、高輝度部での解像度の高いダイナミ
ックレンジ拡大画像が撮影可能である。
【0126】また、本発明の実施の形態2において、信
号合成手段7では、long信号とshort信号を合成するた
めの合成係数kはlong輝度信号の画素毎に求めるものと
したがこれに限るものではなく、例えば複数の画素の輝
度信号レベルの平均値もしくは最小値もしくは最大値も
しくは中間値から画素毎の合成係数kを求める構成や、
画素毎に求められたkの値のうち複数個から求めたkの
平均値もしくは最小値もしくは最大値もしくは中間値を
画素毎の合成係数とする構成も考えられる。
【0127】また、本発明の実施の形態2において、信
号合成手段7では、複数の画素からなるブロックに対し
て合成係数を求めて合成を行う構成も考えられる。例え
ば図38において、long信号(Ye+Mg)L11と(Cy+G)L12、
(Ye+Mg)L13と(Cy+G)L14をそれぞれ1ブロックとし、こ
れと同位置に存在するshort信号(Ye+Mg)S11と(Cy+G)S1
2、(Ye+Mg)S13と(Cy+G)S14をそれぞれ1ブロックとする
と、この2画素単位のブロック毎に合成係数を求め、合
成を行うことも可能であり、このとき例えばlong信号(Y
e+Mg)L11と(Cy+G)L12からなるブロックとshort信号(Ye+
Mg)S11と(Cy+G)S12の合成は、このブロックの合成係数
をkb11とするとそれぞれ(数18)のように行う。この
場合、合成係数kb11はブロックに対応するlong輝度信号
(例えば図38中のYL11とYL12)のいずれかの信号レベ
ル、もしくはブロックに対応するlong輝度信号の平均
値、最大値、最小値、中間値の少なくともいずれかから
図18に示した方法で求まるkをブロックの合成係数kb
11とすればよい。また、ブロックに対応するlong輝度信
号の各信号レベルから図18に示した方法で求められる
画素毎のkの値(例えば図38中のk1、k2)の平均
値、最大値、最小値、中間値のいずれかをブロックの合
成係数kb11とする構成も考えられる。なおブロック内の
画素数は2画素と限らないことはいうまでもない。
【0128】また、本発明の実施の形態2において、信
号合成手段7では、複数の画素からなるブロックを設
け、このブロック内の特定の位置、例えばブロックの中
心位置に対応するlong輝度信号レベルから図18に示し
た方法で求まる合成係数をブロック内の各画素の合成処
理に用いる構成も考えられる。この場合、合成係数を画
素毎に求める必要がなく、処理を簡略化できる。なお、
合成係数を求める際に使用する画素の位置はブロックの
中心位置に限る必要はない。また、本発明の実施の形態
2において、信号合成手段7では、合成係数kはlong輝
度信号ではなくフレーム画像に変換したshort信号から
抽出される輝度信号(short輝度信号)から求める構成
も考えられる。また、フレーム画像に変換したshort信
号から抽出される輝度信号ではなく、フィールド画像で
あるshort信号から抽出される輝度信号から合成係数k
を求める構成も考えられる。この場合、図12からわか
るようにlong信号の偶数ラインに対応するshort信号は
存在しないため、このままでは合成係数を決定すること
ができない。この場合、long信号の偶数ラインに対応す
る位置の合成係数は周辺のshort輝度信号もしくは周辺
の合成係数から求めればよい。
【0129】また、本発明の実施の形態2において信号
レベルから合成係数kを求める方法の例を図18に示し
たが、合成係数kの決定方法はこれに限るものではな
く、例えば図39に示すように輝度レベルに応じて非線
形にkを決定する方法も考えられる。また、本発明の実
施の形態3において、short信号はフィールド読み出し
モードで読み出した1フィールド画像としたがこれに限
るものではなく、一例としては、図33にあげたように
垂直方向に水平ライン信号を間引いて読み出す構成も考
えられる。この場合、short信号は固体撮像素子上で上
下2つのホトダイオードに蓄積された電荷が混合されず
に読み出されるため、例えば図40に示すような構成と
すればよい。図40に示した構成ではshort信号の上下
2画素混合を2水平ライン加算手段27(2水平ライン
加算手段701と同様の手段であるが、区別するために
付番を27とする)において行うため、結果的には図2
0に示した構成と同様の機能、効果を実現できる。但
し、輝度信号補間手段12においてはshort信号の間引
かれ方に応じて、補間処理の内容が変わることは言うま
でもない。例えばshort信号が図30に示したように間
引かれた信号の場合、例えば図41に示すようにshort
輝度信号(図41(c))の各水平ライン間に2ラインづ
つの補間水平ライン信号を内挿により作成すればよい。
また補間手段702においても同様にshort信号の間引
かれ方に応じて、必要な水平ライン信号を作成すればよ
いことは言うまでもない。なお、図33にあげたように
垂直方向に水平ライン信号を間引いて読み出す構成の場
合、図40に2水平ライン加算手段701及び27の2
つの2水平ライン加算手段を持つ構成を示したがこれに
限るものではなく、2水平ライン加算手段701及び2
7を持たない構成も考えられる。この場合、輝度信号抽
出手段70401に2水平ライン加算手段701及び2
7と同様の効果を有する手段を包含させることでlong信
号とshort信号からの輝度抽出が可能である。またこの
ような2水平ライン加算手段701、27を有さない構
成は、固体撮像素子3上に形成された色フィルターが例
えばレッド(R)、グリーン(G)、ブルー(B)の原色
からなり、一般に固体撮像素子3のホトダイオード上の
電荷を混合せずに輝度信号と色信号を得る撮像方式にお
いても有効である。また、本発明の実施の形態3及び本
発明の実施の形態4において、露光量の異なる2つの信
号は1フィールド画像であるshort信号と1フレーム画
像であるlong信号としたがこれに限るものではなく、固
体撮像装置の用途によっては1フィールド画像であるlo
ng信号と1フレーム画像であるshort信号としてもよ
い。この場合、long信号から得られるlong輝度信号に対
し輝度信号補間手段12により垂直方向の補間処理を行
い、補間処理後のlong輝度とshort輝度信号を輝度信号
合成手段13において合成すればよく、その際に使用す
る合成係数は補間処理後のlong輝度信号から求めればよ
い。また、本発明の実施の形態1及び本発明の実施の形
態2と同様に補間処理前のlong輝度信号から抽出された
輝度信号から合成係数を求める構成も考えられる。この
ように、1フィールド画像であるlong信号と1フレーム
画像であるshort信号から合成信号を求めることで、高
輝度部での解像度の高いダイナミックレンジ拡大画像が
撮影可能である。また、本発明の実施の形態3におい
て、補間手段702は1ラインメモリを2個使用し、2
水平ライン分の信号から補間処理を行う構成としたがこ
れに限るものではなく、例えば更に多数の1ラインメモ
リを用いて、更に多数の水平ライン信号から高次の内挿
処理により補間処理を行う構成も考えられる。また、入
力される1水平ラインを2回ずつ繰り返し出力すること
で水平ライン数を2倍にするいわゆる前値補間を行う構
成も考えられる。
【0130】また、本発明の実施の形態3及び本発明の
実施の形態4において、輝度信号補間手段12は2水平
ライン信号の加算平均値を補間信号としたがこれに限る
ものではなく、例えば更に多数の水平ライン信号から高
次の内挿処理により補間処理を行う構成や、前値補間に
より補間信号を得る構成も考えられる。
【0131】また、本発明の実施の形態3及び本発明の
実施の形態4において、輝度信号合成手段13において
long輝度信号とshort輝度信号を合成するための合成係
数kはlong輝度信号の画素毎に求めるものとしたがこれ
に限るものではなく、例えば、複数の画素のlong輝度信
号レベルの平均値もしくは最小値もしくは最大値もしく
は中間値から画素毎の合成係数kを求める構成や、画素
毎に求められたkの値のうち複数個のkの値の平均値も
しくは最小値もしくは最大値もしくは中間値を画素毎の
合成係数とする構成も考えられる。
【0132】また、本発明の実施の形態3及び本発明の
実施の形態4において、輝度信号合成手段13では、複
数の画素からなるブロックに対して合成係数を求めて合
成を行う構成も考えられる。例えば図43において、lo
ng輝度信号YL11とYL12、YL13とYL14をそれぞれ1ブロッ
クとし、これと同位置に存在するshort輝度信号YS11とY
S12、YS13とYS14をそれぞれ1ブロックとすると、この
2画素単位のブロック毎に合成係数を求め、合成を行う
ことも可能であり、このとき例えばlong輝度信号YL11と
YL12からなるブロックとshort輝度信号YS11とYS12の合
成は、このブロックの合成係数をkb11とするとそれぞれ
(数19)のように行う。(YMは合成後の輝度信号)。
【0133】
【数19】
【0134】この場合、合成係数kb11はブロックに対応
するlong輝度信号(例えば図43中のY11とY12)のいず
れかの信号レベル、もしくはブロックに対応するlong輝
度信号の平均値、最大値、最小値、中間値の少なくとも
いずれかから図18に示した方法で求まるkをブロック
の合成係数kb11とすればよい。また、ブロックに対応す
るlong輝度信号の各信号レベルから図18に示した方法
で求められる画素毎のkの値(例えば図43中のk1、
k2)の平均値、最大値、最小値、中間値のいずれかを
ブロックの合成係数kb11とする構成も考えられる。なお
ブロック内の画素数は2画素と限らないことはいうまで
もない。
【0135】また、本発明の実施の形態3及び本発明の
実施の形態4において、輝度信号合成手段13では、複
数の画素からなるブロックを設け、このブロック内の特
定の位置、例えばブロックの中心位置に対応するlong輝
度信号レベルから図18に示した方法で求まる合成係数
をブロック内の各画素の合成処理に用いる構成も考えら
れる。この場合、合成係数を画素毎に求める必要がな
く、処理を簡略化できる。なお、合成係数を求める際に
使用する画素の位置はブロックの中心位置に限る必要は
ない。
【0136】また、本発明の実施の形態3及び本発明の
実施の形態4において、信号合成手段14及び23で
は、long信号とshort信号を合成するための合成係数k
はlong輝度信号から合成係数発生手段1301により画
素毎に求められた値を用いるものとしたがこれに限るも
のではなく、例えば図42に示すように信号合成手段1
4及び23の内部に合成係数発生手段1404を独自に
備え、複数の画素のlong輝度信号レベルの平均値もしく
は最小値もしくは最大値もしくは中間値から画素毎の合
成係数kを求める構成や、画素毎に求められたkの値の
うち複数個から求めたkの平均値もしくは最小値もしく
は最大値もしくは中間値を画素毎の合成係数とする構成
も考えられる。なおここで、合成係数発生手段1404
の機能は合成係数発生手段1301と同様である。
【0137】また、本発明の実施の形態3及び本発明の
実施の形態4において、信号合成手段14及び23で
は、複数の画素からなるブロックに対して合成係数を求
めて合成を行う構成も考えられる。例えば図38におい
て、long信号(Ye+Mg)L11と(Cy+G)L12、(Ye+Mg)L13と(Cy
+G)L14をそれぞれ1ブロックとし、これと同位置に存在
するshort信号(Ye+Mg)S11と(Cy+G)S12、(Ye+Mg)S13と(C
y+G)S14をそれぞれ1ブロックとすると、この2画素単
位のブロック毎に合成係数を求め、合成を行うことも可
能であり、このとき例えばlong信号(Ye+Mg)L11と(Cy+G)
L12からなるブロックとshort信号(Ye+Mg)S11と(Cy+G)S1
2の合成は、このブロックの合成係数をkb11とすると
(数18)のように行う。この場合、合成係数kb11は各
ブロックと空間的に同じ位置に存在するlong輝度信号
(例えば図38中のYL11とYL12)のいずれかの信号レベ
ル、もしくはブロックと空間的に同じ位置に存在するlo
ng輝度信号の平均値、最大値、最小値、中間値の少なく
ともいずれかから図18に示した方法で求まるkをブロ
ックの合成係数kb11とすればよい。また、ブロックと空
間的に同じ位置に存在するlong輝度信号の各信号レベル
から図18に示した方法で求められる画素毎のkの値
(例えば図38中のk1、k2)の平均値、最大値、最
小値、中間値のいずれかをブロックの合成係数kb11とす
る構成も考えられる。なおブロック内の画素数は2画素
と限らないことはいうまでもない。
【0138】また、本発明の実施の形態3及び本発明の
実施の形態4において、信号合成手段14及び23で
は、複数の画素からなるブロックを設け、このブロック
内の特定の位置、例えばブロックの中心位置と空間的に
同じ位置に存在するlong輝度信号レベルから図18に示
した方法で求まる合成係数をブロック内の各画素の合成
処理に用いる構成も考えられる。この場合、合成係数を
画素毎に求める必要がなく、処理を簡略化できる。な
お、合成係数を求める際に使用する画素の位置はブロッ
クの中心位置に限る必要はない。
【0139】また、本発明の実施の形態3及び本発明の
実施の形態4において、信号合成手段14及び23で使
用する合成係数kは上記方法でlong輝度信号から得られ
た値に一定の係数を乗算、もしくは一定の係数を加減算
した値とする構成も考えられる。
【0140】また、本発明の実施の形態3及び本発明の
実施の形態4において、輝度信号合成手段13、信号合
成手段14及び23では、合成係数kはlong輝度信号で
はなくフレーム画像に変換したshort信号から抽出され
る輝度信号(short輝度信号)から求める構成も考えら
れる。また、フレーム画像に変換したshort信号から抽
出される輝度信号ではなく、フィールド画像であるshor
t信号から抽出される輝度信号から合成係数kを求める
構成も考えられる。この場合、図12からわかるように
long信号の偶数ラインに対応するshort信号は存在しな
いため、このままでは合成係数を決定することができな
い。この場合、long信号の偶数ラインに対応する位置の
合成係数は周辺のshort輝度信号もしくは周辺の合成係
数をそのまま用いるか、もしくは周辺の合成係数の平均
値もしくは最大値もしくは最小値もしくは中間値から求
めれる方法等が考えられる。その他、周辺の合成係数と
その位置関係から補間処理により求める方法も考えられ
る。
【0141】また、本発明の実施の形態3及び本発明の
実施の形態4において輝度信号レベルから合成係数kを
求める方法の例を図18に示したが、合成係数kの決定
方法はこれに限るものではなく、例えば図39に示すよ
うに輝度レベルに応じて非線形にkを決定する方法も考
えられる。また、本発明の実施の形態4において、shor
t信号はフィールド読み出しモードで読み出した1フィ
ールド画像としたがこれに限るものではなく、一例とし
ては、図33にあげたように垂直方向に水平ライン信号
を間引いて読み出す構成も考えられる。この場合、shor
t信号は固体撮像素子上で上下2つのホトダイオードに
蓄積された電荷が混合されずに読み出されるため、例え
ば図40と同様に2水平ライン加算手段によりshort信
号の上下2画素混合を行うようにすれば、結果的には図
30に示した構成と同様の機能、効果を実現できる。但
し、本発明の実施の形態3と同様に輝度信号補間手段1
2においてはshort信号の間引かれ方に応じて、補間処
理の内容が変わることは言うまでもない。また間引き手
段22においても同様にshort信号の間引かれ方に応じ
て、long信号がshort信号と同じ信号形式になるように
間引きを行えばよいことは言うまでもない。
【0142】また、本発明の実施の形態4においては間
引き手段22によりlong信号の垂直方向の間引き処理を
行う構成を説明したが、図44に示すように画像信号か
ら水平方向に画素を間引く機能を持つ水平方向間引き手
段27を設け、これにより2水平ライン加算手段701
を経たlong信号とshort信号の両者の水平方向の画素を
例えば1/2に間引くような構成も考えられる。この場
合、上記のように水平方向の画素を1/2に間引けば、
同時化処理のための1ラインメモリ15、16をその半
分の容量の0.5ラインメモリ28、29に置き換える
ことが可能である。このように水平方向にも画素を間引
くことで本発明の固体撮像装置の構成を更に簡略化し安
価にすることが可能である。その場合、水平方向の間引
き処理を行う前にlong信号及びshort信号の水平方向の
帯域制限を行っておけば、間引き処理により不要な折り
返しが発生しない。同様に垂直方向にも帯域制限を施せ
ば、垂直方向の間引き処理に際しても不要な折り返しを
回避可能であることは言うまでもない。
【0143】また上記すべての本発明の実施の形態にお
いて、long信号とshort信号は一旦画像メモリ6に記憶
することとしたがこれに限るものではなく、例えばlong
信号もしくはshort信号のいづれか一方のみ画像メモリ
6に記憶させ、残りの片方の信号の固体撮像素子3から
の読み出しと画像メモリ6からの信号読み出しを同期さ
せて合成の処理を行う方法も考えられる。この場合、画
像メモリ6の容量を削減でき、更に安価に固体撮像装置
を構成可能である。
【0144】また上記すべての本発明の実施の形態にお
いて、固体撮像素子3上に形成されるカラーフィルター
配列は図3に示すようなマゼンタ、グリーン、イエロ
ー、シアンの4色からなる補色市松タイプを用いて説明
したがこれに限るものではなく、一例をあげるならば、
図45に示すようなマゼンタ(Mg)とグリーン(G)がライ
ン毎に位置反転しない配置や、図46に示すようなグリ
ーン(G)とシアン(Cy)、イエロー(Ye)の2つの補
色フィルタをストライプ状に配置する構成も考えられ
る。
【0145】また上記すべての本発明の実施の形態にお
いて、固体撮像素子3上に形成されるカラーフィルター
配列は図3に示すようなマゼンタ、グリーン、イエロ
ー、シアンの4色からなる構成を用いて説明したがこれ
に限るものではなく、グリーン(G)、ブルー(B)、レ
ッド(R)からなる原色フィルタを用いた構成も考えら
れ、そのフィルター配置として一例をあげるならば、図
47に示したベイヤー方式、図48に示したインタライ
ン方式、図49に示したGストライプRB完全市松方式、
図50に示したストライプ方式、図51に示した斜めス
トライプ方式、図52に示したGストライプRB線順次方
式、図53に示したGストライプRB点順次方式等が考え
られる。このように原色フィルタを用いた場合に輝度信
号は(数20)に従い求められることは言うまでもな
い。
【0146】
【数20】
【0147】また上記すべての本発明の実施の形態にお
いて、固体撮像素子3上に形成されるカラーフィルター
配列を図3に示すようなマゼンタ、グリーン、イエロ
ー、シアンの4色からなる補色市松タイプとし、更にsh
ort信号の読み出しをフィールド読み出しとして説明し
たため、long信号とshort信号の信号形式をあわせるた
めに、2水平ライン加算手段701によるlong信号の上
下2水平ライン加算処理を含む構成を示したがこれに限
るものではなく、上記図45〜図53に示したような他
のフィルター配置を採用した場合や、フィールド読み出
しではなく、図33に示したような間引き読み出しを行
う場合には、2水平ライン加算処理が必ずしも必要では
ないことは言うまでもない。
【0148】また上記すべての本発明の実施の形態にお
いて、合成係数を求める際の閾値Th#max、Th#min、Th#m
ax’、Th#min’をそれぞれ(数21)のように設定し、
長時間露光信号と短時間露光信号を重み付け加算ではな
く、ある信号レベルを境に切り替える構成も考えられ
る。
【0149】
【数21】
【0150】
【発明の効果】以上のように本発明によれば、固体撮像
素子の露光及び信号読み出しモードを制御し、1フィー
ルド分の短時間露光信号と1フレーム分の長時間露光信
号を撮影しこれらを合成することで、固体撮像素子の画
素数並みの解像度を持ちながらもダイナミックレンジが
拡大された画像を撮影することができる。さらに本固体
撮像装置で使用する固体撮像素子には、民生用固体撮像
装置で一般に用いられているIT−CCDが使用可能で
あるため、複数の固体撮像素子や特殊な固体撮像素子を
使用する必要がなく、安価に装置を構成することができ
る。
【図面の簡単な説明】
【図1】本発明の実施の形態1による固体撮像装置を示
すブロック図
【図2】本発明の実施の形態1における固体撮像素子3
からの信号読み出しモードの説明図
【図3】本発明の実施の形態1における固体撮像素子3
上に形成される色フィルタ配置の例を示す図
【図4】本発明の実施の形態1における信号合成手段7
の構成を示すブロック図
【図5】本発明の実施の形態1における2水平ライン加
算手段701の構成を示すブロック図
【図6】本発明の実施の形態1における補間手段702
の構成を示すブロック図
【図7】本発明の実施の形態1における重み付け加算手
段703の構成を示すブロック図
【図8】本発明の実施の形態1におけるダイナミックレ
ンジ拡大の原理を説明する説明図
【図9】本発明の実施の形態1におけるlong信号、shor
t信号の露光及び読み出しタイミングを説明するための
説明図
【図10】本発明の実施の形態1におけるshort信号を
説明するための説明図
【図11】本発明の実施の形態1におけるlong信号を説
明するための説明図
【図12】本発明の実施の形態1における2水平ライン
加算処理と補間処理を説明するための説明図
【図13】本発明の実施の形態1における合成係数決定
方法を説明するためのグラフ
【図14】本発明の実施の形態1における信号合成処理
の方法を説明するための説明図
【図15】本発明の実施の形態2における重み付け加算
手段704の構成を示すブロック図
【図16】本発明の実施の形態2における輝度信号抽出
手段70401の構成を示すブロック図
【図17】本発明の実施の形態2におけるlong輝度信号
の作成方法を説明するための説明図
【図18】本発明の実施の形態2における合成係数決定
方法を説明するためのグラフ
【図19】本発明の実施の形態2における信号合成処理
の方法を説明するための説明図
【図20】c固体撮像装置を示すブロック図
【図21】本発明の実施の形態3における輝度信号補間
手段12の構成を示すブロック図
【図22】本発明の実施の形態3における輝度信号合成
手段13の構成を示すブロック図
【図23】本発明の実施の形態3における信号合成手段
14の構成を示すブロック図
【図24】本発明の実施の形態3における同時化手段1
9の構成を示すブロック図
【図25】本発明の実施の形態3におけるlong輝度信号
を説明するための説明図
【図26】本発明の実施の形態3におけるshort輝度信
号を説明するための説明図
【図27】本発明の実施の形態3における輝度信号の補
間処理を説明するための説明図
【図28】本発明の実施の形態3における輝度信号の合
成方法を説明するための説明図
【図29】本発明の実施の形態3における同時化手段1
9による同時化処理を説明するための説明図
【図30】本発明の実施の形態4における固体撮像装置
を示すブロック図
【図31】本発明の実施の形態4における同時化手段2
4の構成を示すブロック図
【図32】本発明の実施の形態3における同時化手段2
4による同時化処理を説明するための説明図
【図33】固体撮像素子3からの画像信号読み出し方法
の別の例を示す説明図
【図34】本発明の実施の形態1においてlong信号をフ
ィールド画、short信号をフレーム画とした場合の2水
平ライン加算処理と補間処理を説明するための説明図
【図35】前値補間処理を説明するための説明図
【図36】本発明の実施の形態1におけるlong信号とsh
ort信号の合成方法の別の例を示す説明図
【図37】本発明の実施の形態1におけるlong信号レベ
ルから合成係数を決定する方法の別の例を示すグラフ
【図38】本発明の実施の形態2におけるlong信号とsh
ort信号の合成方法の別の例を示す説明図
【図39】本発明の実施の形態2におけるlong輝度信号
レベルから合成係数を決定する方法の別の例を示すグラ
【図40】本発明の実施の形態3においてshort信号の
読み出し方法を変えた場合の固体撮像装置のブロック図
【図41】本発明の実施の形態3においてshort信号の
読み出し方法を変えた場合の輝度信号補間処理の内容を
説明するための説明図
【図42】本発明の実施の形態3において信号合成手段
14の別の構成を示すブロック図
【図43】本発明の実施の形態3及び本発明の実施の形
態4におけるlong輝度信号とshort輝度信号の合成方法
の別の例を示す説明図
【図44】本発明の実施の形態4における固体撮像装置
の別の例を示すブロック図
【図45】固体撮像素子3上に形成される色フィルタ配
置の別の例を示す図
【図46】固体撮像素子3上に形成される色フィルタ配
置(CyYeGストライプ方式)の別の例を示す図
【図47】固体撮像素子3上に形成される色フィルタ配
置(ベイヤー方式)の別の例を示す図
【図48】固体撮像素子3上に形成される色フィルタ配
置(インタライン方式)の別の例を示す図
【図49】固体撮像素子3上に形成される色フィルタ配
置(GストライプRB完全市松方式)の別の例を示す図
【図50】固体撮像素子3上に形成される色フィルタ配
置(ストライプ方式)の別の例を示す図
【図51】固体撮像素子3上に形成される色フィルタ配
置(斜めストライプ方式)の別の例を示す図
【図52】固体撮像素子3上に形成される色フィルタ配
置(GストライプRB線順次方式)の別の例を示す図
【図53】固体撮像素子3上に形成される色フィルタ配
置(GストライプRB点順次方式)の別の例を示す図
【符号の説明】
1 光学レンズ 2 機械シャッター 3 固体撮像素子 4 アナログ信号処理手段 5 A/D変換手段 6 画像メモリ 7 信号合成手段 8 デジタル信号処理手段 9 シャッター駆動制御手段 10 固体撮像素子駆動制御手段 11 システム制御手段
───────────────────────────────────────────────────── フロントページの続き (72)発明者 塘 知章 大阪府門真市大字門真1006番地 松下電器 産業株式会社内 (72)発明者 中山 正明 大阪府門真市大字門真1006番地 松下電器 産業株式会社内 Fターム(参考) 5C022 AA13 AB17 AB20 AC42 AC52 AC56 AC69 5C065 AA03 BB48 CC01 CC08 CC09 DD07 DD17 EE05 EE07 GG13 GG15 GG21 GG30

Claims (42)

    【特許請求の範囲】
  1. 【請求項1】露光量の異なる複数の画像信号を出力する
    固体撮像素子と、前記固体撮像素子から出力される画像
    信号を合成する信号合成手段と、を有し、前記固体撮像
    素子から出力される画像信号のうち少なくとも1つは、
    他の画像信号に比べ画素数の少ない画像信号であること
    を特徴とする固体撮像装置。
  2. 【請求項2】画素数の少ない画像信号とは、垂直方向に
    画素を間引かれた画像信号であることを特徴とする請求
    項1記載の固体撮像装置。
  3. 【請求項3】行列状に配置された複数個のホトダイオー
    ドと、前記ホトダイオード上に蓄積された電荷を外部に
    出力するための転送手段を有する固体撮像素子と、前記
    ホトダイオードに入射する光を遮光する遮光手段と、前
    記固体撮像素子から出力される画像信号を合成する信号
    合成手段と、を有し、前記固体撮像素子は、第1露光と
    して前記ホトダイオード上に蓄積された電荷を第1の読
    み出し制御パルスの印加後に前記転送手段を介して出力
    し、更に、前記第1の読み出し制御パルス印加後、前記
    遮光手段による露光終了をもって完了する第2露光にお
    いて前記ホトダイオード上に蓄積された電荷を第2の読
    み出し制御パルスの印加後に前記転送手段を介して出力
    し、前記画像信号合成手段は、前記第1露光及び前記第
    2露光により撮影された画像信号を合成することを特徴
    とする固体撮像装置。
  4. 【請求項4】行列状に配置された複数個のホトダイオー
    ドと、前記ホトダイオード上に蓄積された電荷を外部に
    出力するための転送手段を有する固体撮像素子と、前記
    ホトダイオードに入射する光を遮光する遮光手段と、前
    記固体撮像素子から出力される画像信号を合成する信号
    合成手段と、を有し、前記固体撮像素子は、第1露光と
    して前記ホトダイオード上に蓄積された電荷の一部のみ
    を第1の読み出し制御パルスの印加後に前記転送手段を
    介して出力し、更に、前記第1の読み出し制御パルス印
    加後、前記遮光手段による露光終了をもって完了する第
    2露光において前記ホトダイオード上に蓄積された電荷
    を第2の読み出し制御パルスの印加後に前記転送手段を
    介して出力し、前記画像信号合成手段は、前記第1露光
    及び前記第2露光により撮影された画像信号を合成する
    ことを特徴とする固体撮像装置。
  5. 【請求項5】行列状に配置された複数個のホトダイオー
    ドと、前記ホトダイオード上に蓄積された電荷を外部に
    出力するための転送手段を有する固体撮像素子と、前記
    ホトダイオードに入射する光を遮光する遮光手段と、前
    記固体撮像素子から出力される画像信号を合成する信号
    合成手段と、を有し、前記固体撮像素子は、第1露光と
    して前記ホトダイオード上に蓄積された電荷を第1の読
    み出し制御パルスの印加後にフィールド読み出しにより
    前記転送手段を介して出力し、更に、前記第1の読み出
    し制御パルス印加後、前記遮光手段による露光終了をも
    って完了する第2露光において前記ホトダイオード上に
    蓄積された電荷を第2の読み出し制御パルスの印加後に
    前記転送手段を介して出力し、前記画像信号合成手段
    は、前記第1露光及び前記第2露光により撮影された画
    像信号を合成することを特徴とする固体撮像装置。
  6. 【請求項6】第1露光の露光時間は電子シャッターによ
    り制御することを特徴とする請求項3から請求項5のい
    ずれかに記載の固体撮像装置。
  7. 【請求項7】第2の読み出し制御パルスの印加後、第2
    露光においてホトダイオードに蓄積された電荷はフレー
    ム読み出しにより出力されることを特徴とする請求項3
    から請求項6のいずれかに記載の固体撮像装置。
  8. 【請求項8】第1の読み出し制御パルスの印加後に読み
    出される画像は、第2の読み出し制御パルス印加後に読
    み出される画像に比べ、画素数の少ない画像であること
    を特徴とする請求項3から請求項7のいずれかに記載の
    固体撮像装置。
  9. 【請求項9】機械的な遮光手段は光学絞りを兼用するこ
    とを特徴とする請求項3から請求項8のいずれかに記載
    の固体撮像装置。
  10. 【請求項10】露光量と画素数の異なる2つの画像信号
    を出力する固体撮像素子と、前記画素数の異なる2つの
    画像信号のうち、画素数の少ない画像信号を、補間処理
    により画素数の多い画像信号と同じ信号形式に変換する
    補間手段と、前記画素数の少ない画像信号、もしくは前
    記補間手段により画素数の多い画像信号と同じ信号形式
    に変換された画像信号、もしくは前記画素数の多い画像
    信号の少なくとも1つを合成制御信号とし、この合成制
    御信号に応じて、前記補間手段により画素数の多い画像
    信号と同じ信号形式に変換された画像信号と前記画素数
    の多い画像信号とを合成する信号合成手段と、を有する
    ことを特徴とする固体撮像装置。
  11. 【請求項11】露光量と画素数の異なる2つの画像信号
    を出力する固体撮像素子と、前記画素数の異なる2つの
    画像信号のうち、画素数の少ない画像信号もしくは前記
    画素の多い画像信号からその輝度信号を抽出する輝度信
    号抽出手段と、前記画素の少ない画像信号を、補間処理
    により画素数の多い画像信号と同じ信号形式に変換する
    補間手段と、前記画素数の少ない画像信号から抽出した
    輝度信号もしくは前記画素数の多い画像信号から抽出し
    た輝度信号の少なくとも1つを合成制御信号とし、この
    合成制御信号に応じて、前記補間手段により画素数の多
    い画像信号と同じ信号形式に変換された画像信号と前記
    画素数の多い画像信号とを合成する信号合成手段と、を
    有することを特徴とする固体撮像装置。
  12. 【請求項12】信号合成手段は、合成制御信号の信号レ
    ベルに応じてある係数kを発生する係数発生手段と、前
    記係数発生手段により発生された係数kに応じて、補間
    手段により画素数の多い画像信号と同じ信号形式に変換
    された画像信号と画素数の多い画像信号を重み付け加算
    する合成手段と、を有することを特徴とする請求項10
    または請求項11に記載の固体撮像装置。
  13. 【請求項13】露光量と画素数の異なる2つの画像信号
    を出力する固体撮像素子と、前記画素数の異なる2つの
    画像信号のうち、画素数の少ない画像信号と前記画素の
    多い画像信号からその輝度信号を抽出する輝度信号抽出
    手段と、前記画素数の少ない画像信号から抽出された輝
    度信号を、補間処理により画素数の多い画像信号から得
    られる輝度信号と同じ信号形式に変換する第1の補間手
    段と、前記画素が少ない画像信号から抽出された輝度信
    号、もしくは前記第1の補間手段により画素数の多い画
    像信号から得られる輝度信号と同じ信号形式に変換され
    た輝度信号、もしくは前記画素数の多い画像信号から抽
    出された輝度信号の少なくとも1つを合成制御信号と
    し、この合成制御信号に応じて、前記第1の補間手段に
    より画素数の多い画像信号から得られる輝度信号と同じ
    信号形式に変換された輝度信号と前記画素数の多い画像
    信号から抽出された輝度信号とを合成する輝度信号合成
    手段と、前記画素数の少ない画像信号を、補間処理によ
    り画素数が多い画像信号と同じ信号形式に変換する第2
    の補間手段と、前記第2の補間手段により画素数が多い
    画像信号と同じ信号形式に変換された画像信号と前記画
    素数の多い画像信号を、前記合成制御信号に応じて合成
    する信号合成手段と、を有することを特徴とする固体撮
    像装置。
  14. 【請求項14】輝度信号合成手段は、合成制御信号の信
    号レベルに応じてある係数kを発生する第1の係数発生
    手段と、前記第1の係数発生手段により発生された係数
    kに応じて、第1の補間手段により画素数の多い画像信
    号から得られる輝度信号と同じ信号形式に変換された輝
    度信号と画素の多い画像信号から抽出された輝度信号を
    重み付け加算する第1の合成手段と、を有することを特
    徴とする請求項13に記載の固体撮像装置。
  15. 【請求項15】信号合成手段は、第1の係数発生手段に
    より発生された係数kのうち少なくとも1つの係数kに
    応じて、第2の補間手段により画素数の多い画像信号と
    同じ信号形式に変換された画像信号と画素数の多い画像
    信号を重み付け加算する第2の合成手段を有することを
    特徴とする請求項13または請求項14に記載の固体撮
    像装置。
  16. 【請求項16】信号合成手段は、第1の係数発生手段に
    より発生された係数kのうち、複数個の係数kの平均
    値、最大値、最小値、中間値の少なくともいずれか1つ
    に応じて、第2の補間手段により画素数の多い画像信号
    と同じ信号形式に変換された画像信号と画素数の多い画
    像信号を重み付け加算する第2の合成手段を有すること
    を特徴とする請求項13または請求項14に記載の固体
    撮像装置。
  17. 【請求項17】信号合成手段は、合成制御信号の信号レ
    ベルに応じてある係数kを発生する第2の係数発生手段
    と、前記第2の係数発生手段により発生された係数kに
    応じて、第2の補間手段により画素数の多い画像信号と
    同じ信号形式に変換された画像信号と画素数の多い画像
    信号を重み付け加算する第2の合成手段を有することを
    特徴とする請求項13または請求項14に記載の固体撮
    像装置。
  18. 【請求項18】露光量と画素数の異なる2つの画像信号
    を出力する固体撮像素子と、前記画素数の異なる2つの
    画像信号のうち、前記画素の少ない画像信号と前記画素
    の多い画像信号からその輝度信号を抽出する輝度信号抽
    出手段と、前記画素数の少ない画像信号から抽出された
    輝度信号を、補間処理により画素数の多い画像信号から
    得られる輝度信号と同じ信号形式に変換する補間手段
    と、前記画素の少ない画像信号から抽出された輝度信
    号、もしくは前記補間手段により画素の多い画像信号か
    ら得られる輝度信号と同じ信号形式に変換された輝度信
    号、もしくは前記画素数の多い画像信号から抽出された
    輝度信号の少なくとも1つを合成制御信号とし、この合
    成制御信号に応じて、前記補間手段により画素数の多い
    画像信号から得られる輝度信号と同じ信号形式に変換さ
    れた輝度信号と前記画素数の多い画像信号から抽出され
    た輝度信号とを合成する輝度信号合成手段と、前記画素
    数の多い画像信号を、間引き処理により画素の少ない画
    像信号と同じ信号形式に変換する間引き手段と、前記間
    引き手段により画素の少ない画像信号と同じ信号形式に
    変換された画像信号と前記画素の少ない画像信号を、前
    記合成制御信号に応じて合成する信号合成手段と、を有
    することを特徴とする固体撮像装置。
  19. 【請求項19】輝度信号合成手段は、合成制御信号の信
    号レベルに応じてある係数kを発生する第1の係数発生
    手段と、前記第1の係数発生手段により発生された係数
    kに応じて、補間手段により画素数の多い画像信号から
    得られる輝度信号と同じ信号形式に変換された輝度信号
    と画素数の多い画像信号から抽出された輝度信号を重み
    付け加算する第1の合成手段と、を有することを特徴と
    する請求項18に記載の固体撮像装置。
  20. 【請求項20】信号合成手段は、第1の係数発生手段に
    より発生された係数kのうち少なくとも1つの係数kに
    応じて、間引き手段により画素数の少ない画像信号と同
    じ信号形式に変換された画像信号と画素数の少ない画像
    信号を重み付け加算する第2の合成手段を有することを
    特徴とする請求項18または請求項19に記載の固体撮
    像装置。
  21. 【請求項21】信号合成手段は、第1の係数発生手段に
    より発生された係数kのうち、複数個の係数kの平均
    値、最大値、最小値、中間値の少なくともいずれか1つ
    に応じて、間引き手段により画素数の少ない画像信号と
    同じ信号形式に変換された画像信号と画素数の少ない画
    像信号を重み付け加算する第2の合成手段を有すること
    を特徴とする請求項18または請求項19に記載の固体
    撮像装置。
  22. 【請求項22】信号合成手段は、合成制御信号の信号レ
    ベルに応じてある係数kを発生する第2の係数発生手段
    と、前記第2の係数発生手段により発生された係数kに
    応じて、間引き手段により画素数の少ない画像信号と同
    じ信号形式に変換された画像信号と画素数の少ない画像
    信号を重み付け加算する第2の合成手段を有することを
    特徴とする請求項18または請求項19に記載の固体撮
    像装置。
  23. 【請求項23】露光量と画素数の異なる2つの画像信号
    を出力する固体撮像素子と、前記画素数の異なる2つの
    画像信号のうち、前記画素の少ない画像信号と前記画素
    の多い画像信号からその輝度信号を抽出する輝度信号抽
    出手段と、前記画素数の少ない画像信号から抽出された
    輝度信号を、補間処理により画素数の多い画像信号から
    得られる輝度信号と同じ信号形式に変換する補間手段
    と、前記画素の少ない画像信号から抽出された輝度信
    号、もしくは前記補間手段により画素の多い画像信号か
    ら得られる輝度信号と同じ信号形式に変換された輝度信
    号、もしくは前記画素数の多い画像信号から抽出された
    輝度信号の少なくとも1つを合成制御信号とし、この合
    成制御信号に応じて、前記補間手段により画素数の多い
    画像信号から得られる輝度信号と同じ信号形式に変換さ
    れた輝度信号と前記画素数の多い画像信号から抽出され
    た輝度信号とを合成する輝度信号合成手段と、前記画素
    数の多い画像信号に対し間引き処理により画素を間引く
    第1の間引き手段と、前記画素数の少ない画像信号に対
    し間引き処理により画素を間引く第2の間引き手段と、
    前記第1の間引き手段及び第2の間引き手段により画素
    を間引かれた画像信号を、前記合成制御信号に応じて合
    成する信号合成手段と、を有することを特徴とする固体
    撮像装置。
  24. 【請求項24】輝度信号合成手段は、合成制御信号の信
    号レベルに応じてある係数kを発生する第1の係数発生
    手段と、前記第1の係数発生手段により発生された係数
    kに応じて、補間手段により画素数の多い画像信号から
    得られる輝度信号と同じ信号形式に変換された輝度信号
    と画素数の多い画像信号から抽出された輝度信号を重み
    付け加算する第1の合成手段と、を有することを特徴と
    する請求項23記載の固体撮像装置。
  25. 【請求項25】 信号合成手段は、第1の係数発生手段
    により発生された係数kのうち少なくとも1つの係数k
    に応じて、第1の間引き手段及び第2の間引き手段によ
    り画素を間引かれた画像信号を重み付け加算する第2の
    合成手段を有することを特徴とする請求項23または請
    求項24に記載の固体撮像装置。
  26. 【請求項26】信号合成手段は、第1の係数発生手段に
    より発生された係数kのうち、複数個の係数kの平均
    値、最大値、最小値、中間値の少なくともいずれか1つ
    に応じて、第1の間引き手段及び第2の間引き手段によ
    り画素を間引かれた画像信号を重み付け加算する第2の
    合成手段を有することを特徴とする請求項23または請
    求項24に記載の固体撮像装置。
  27. 【請求項27】信号合成手段は、合成制御信号の信号レ
    ベルに応じてある係数kを発生する第2の係数発生手段
    と、前記第2の係数発生手段により発生された係数kに
    応じて、第1の間引き手段及び第2の間引き手段により
    画素を間引かれた画像信号を重み付け加算する第2の合
    成手段を有することを特徴とする請求項23または請求
    項24に記載の固体撮像装置。
  28. 【請求項28】画素数の少ない画像信号とは1フィール
    ドの画像信号であり、画素数の多い画像信号とは1フレ
    ームの画像信号であることを特徴とする請求項1、2、
    3、5、10、11、13、18、23のいずれかに記
    載の固体撮像装置。
  29. 【請求項29】係数発生手段及び第1の係数発生手段及
    び第2の係数発生手段は、合成制御信号の少なくとも1
    画素の信号レベルに応じて係数kを発生することを特徴
    とする請求項10から請求項27のいずれかに記載の固
    体撮像装置。
  30. 【請求項30】係数発生手段及び第1の係数発生手段及
    び第2の係数発生手段は、合成制御信号の複数画素の信
    号レベルの平均値、最大値、最小値、中間値の少なくと
    もいずれか1つに応じて係数kを発生することを特徴と
    する請求項10から請求項27のいずれかに記載の固体
    撮像装置。
  31. 【請求項31】係数発生手段及び第1の係数発生手段及
    び第2の係数発生手段は、合成制御信号の1画素毎に対
    応する係数kを発生することを特徴とする請求項10か
    ら請求項27のいずれかに記載の固体撮像装置。
  32. 【請求項32】係数発生手段及び第1の係数発生手段及
    び第2の係数発生手段は、合成制御信号の複数画素から
    なるブロックに対応する係数kを発生することを特徴と
    する請求項10から請求項27のいずれかに記載の固体
    撮像装置。
  33. 【請求項33】係数発生手段及び第1の係数発生手段及
    び第2の係数発生手段は、合成制御信号の複数画素から
    なるブロック内の各信号レベルの平均値、最大値、最小
    値、中間値の少なくともいずれか1つに応じてある係数
    kを発生することを特徴とする請求項10から請求項2
    7のいずれかに記載の固体撮像装置。
  34. 【請求項34】係数発生手段及び第1の係数発生手段及
    び第2の係数発生手段は、合成制御信号の複数画素から
    なるブロック内の各信号レベルのうち、ブロック内の特
    定位置に存在する画素の信号レベルに応じてある係数k
    を発生することを特徴とする請求項10から請求項27
    のいずれかに記載の固体撮像装置。
  35. 【請求項35】露光量と画素数の異なる2つの画像信号
    のうち、画素数の少ない画像信号は短時間露光信号であ
    り、画素数の多い画像信号は長時間露光信号であること
    を特徴とする請求項1から請求項34のいずれかに記載
    の固体撮像装置。
  36. 【請求項36】露光量と画素数の異なる2つの画像信号
    のうち、画素数の少ない画像信号は長時間露光信号であ
    り、画素数の多い画像信号は短時間露光信号であること
    を特徴とする請求項1から請求項34のいずれかに記載
    の固体撮像装置。
  37. 【請求項37】固体撮像素子で撮像する画像信号の露光
    量は、機械的な遮光手段もしくは固体撮像素子の電子シ
    ャッター機能により制御することを特徴とする請求項1
    から請求項36のいずれかに記載の固体撮像装置。
  38. 【請求項38】固体撮像素子上に形成されるカラーフィ
    ルターはマゼンタ、グリーン、イエロー、シアンの4色
    であることを特徴とする請求項1から請求項37のいず
    れかに記載の固体撮像装置。
  39. 【請求項39】固体撮像素子上に形成されるカラーフィ
    ルター配列はマゼンタ、グリーン、イエロー、シアンの
    4色からなる補色市松タイプであることを特徴とする請
    求項1から請求項38のいずれかに記載の固体撮像装
    置。
  40. 【請求項40】固体撮像素子上に形成されるカラーフィ
    ルターはレッド、グリーン、ブルーの3色であることを
    特徴とする請求項1から請求項37のいずれかに記載の
    固体撮像装置。
  41. 【請求項41】固体撮像素子上に形成されるカラーフィ
    ルター配列はレッド、グリーン、ブルーの3色からなる
    3色ストライプタイプであることを特徴とする請求項1
    から請求項37のいずれかに記載の固体撮像装置。
  42. 【請求項42】固体撮像素子はインタライン転送CCD
    (IT−CCD)であることを特徴とする請求項1から
    請求項41のいずれかに記載の固体撮像装置。
JP33122499A 1999-11-22 1999-11-22 固体撮像装置 Expired - Fee Related JP3674420B2 (ja)

Priority Applications (7)

Application Number Priority Date Filing Date Title
JP33122499A JP3674420B2 (ja) 1999-11-22 1999-11-22 固体撮像装置
EP00976348A EP1237363B1 (en) 1999-11-22 2000-11-20 Solid-state imaging device
PCT/JP2000/008153 WO2001039490A1 (fr) 1999-11-22 2000-11-20 Dispositif d'imagerie a semi-conducteur
DE60025647T DE60025647T2 (de) 1999-11-22 2000-11-20 Festkörperbildaufnahemvorrichtung
US10/130,696 US7466358B1 (en) 1999-11-22 2000-11-20 Solid-state imaging device for enlargement of dynamic range
CNB008177694A CN1276646C (zh) 1999-11-22 2000-11-20 固态成象设备
US12/277,054 US20090174792A1 (en) 1999-11-22 2008-11-24 Solid-state imaging device for enlargement of dynamic range

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP33122499A JP3674420B2 (ja) 1999-11-22 1999-11-22 固体撮像装置

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2004237152A Division JP3988760B2 (ja) 2004-08-17 2004-08-17 固体撮像装置

Publications (2)

Publication Number Publication Date
JP2001148805A true JP2001148805A (ja) 2001-05-29
JP3674420B2 JP3674420B2 (ja) 2005-07-20

Family

ID=18241289

Family Applications (1)

Application Number Title Priority Date Filing Date
JP33122499A Expired - Fee Related JP3674420B2 (ja) 1999-11-22 1999-11-22 固体撮像装置

Country Status (1)

Country Link
JP (1) JP3674420B2 (ja)

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003199116A (ja) * 2001-12-25 2003-07-11 Sony Corp 撮像装置及びその画像合成方法
WO2004008743A1 (ja) * 2002-07-11 2004-01-22 Niles Co., Ltd. 撮像システム
JP2004048456A (ja) * 2002-07-12 2004-02-12 Niles Co Ltd 撮像システム
JP2007329896A (ja) * 2006-05-11 2007-12-20 Seiko Epson Corp 撮像素子及び撮像装置
JP2007336561A (ja) * 2006-06-16 2007-12-27 Samsung Electronics Co Ltd 映像生成装置及び方法
US7319488B2 (en) 2002-01-22 2008-01-15 Fujifilm Corporation Digital camera in which shooting process mode is changed via the shutter release button
WO2008029568A1 (fr) * 2006-09-06 2008-03-13 Panasonic Corporation Dispositif d'imagerie, procédé d'imagerie et programme de photographie
JP2009017172A (ja) * 2007-07-04 2009-01-22 Nikon Corp 画像処理装置および画像処理方法
JP2010004396A (ja) * 2008-06-20 2010-01-07 Sanyo Electric Co Ltd 画像処理装置、画像処理方法及び撮像装置

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4934617B2 (ja) * 2008-03-11 2012-05-16 株式会社リコー 撮像装置及び撮像方法

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003199116A (ja) * 2001-12-25 2003-07-11 Sony Corp 撮像装置及びその画像合成方法
US7319488B2 (en) 2002-01-22 2008-01-15 Fujifilm Corporation Digital camera in which shooting process mode is changed via the shutter release button
WO2004008743A1 (ja) * 2002-07-11 2004-01-22 Niles Co., Ltd. 撮像システム
JP2004048456A (ja) * 2002-07-12 2004-02-12 Niles Co Ltd 撮像システム
JP2007329896A (ja) * 2006-05-11 2007-12-20 Seiko Epson Corp 撮像素子及び撮像装置
US8116588B2 (en) 2006-06-16 2012-02-14 Samsung Electronics Co., Ltd. Apparatus and method to synthesize or combine generated images
JP2007336561A (ja) * 2006-06-16 2007-12-27 Samsung Electronics Co Ltd 映像生成装置及び方法
US8515206B2 (en) 2006-06-16 2013-08-20 Samsung Electronics Co., Ltd. Apparatus and method to generate image
WO2008029568A1 (fr) * 2006-09-06 2008-03-13 Panasonic Corporation Dispositif d'imagerie, procédé d'imagerie et programme de photographie
US8264595B2 (en) 2006-09-06 2012-09-11 Panasonic Corporation Imaging device with extended dynamic range
JP2008066937A (ja) * 2006-09-06 2008-03-21 Matsushita Electric Ind Co Ltd 撮像装置および撮像方法
JP2009017172A (ja) * 2007-07-04 2009-01-22 Nikon Corp 画像処理装置および画像処理方法
JP2010004396A (ja) * 2008-06-20 2010-01-07 Sanyo Electric Co Ltd 画像処理装置、画像処理方法及び撮像装置

Also Published As

Publication number Publication date
JP3674420B2 (ja) 2005-07-20

Similar Documents

Publication Publication Date Title
EP1237363B1 (en) Solid-state imaging device
US7148925B2 (en) Solid-state honeycomb type image pickup apparatus using a complementary color filter and signal processing method therefor
EP1246453A2 (en) Signal processing apparatus and method, and image sensing apparatus
EP0469836B1 (en) Image signal processing apparatus
JP2006165975A (ja) 撮像素子、撮像装置、画像処理方法
JP2942903B2 (ja) ディジタル・カメラ信号処理装置
JP2002084449A (ja) 固体撮像素子を用いた撮像装置
US20060197854A1 (en) Image capturing apparatus and computer software product
JP3674420B2 (ja) 固体撮像装置
JP3988760B2 (ja) 固体撮像装置
JP4294810B2 (ja) 固体撮像装置および信号読出し方法
JP4077161B2 (ja) 撮像装置、輝度補正方法、およびその方法をコンピュータで実行するためのプログラム
JP2003101815A (ja) 信号処理装置及び信号処理方法
JP2006340100A (ja) 撮影装置
JPH07123421A (ja) 撮像装置
JP2001352486A (ja) 撮像装置
JP2005051393A (ja) 撮像装置
JP3905342B2 (ja) 固体撮像装置
JP2004194248A (ja) 撮像素子及び撮像装置
JP3535623B2 (ja) カラー撮像装置
JP4278893B2 (ja) 固体撮像装置
JP3890095B2 (ja) 画像処理装置
JP2000078594A (ja) 単板式カラーカメラの広ダイナミックレンジ化処理方法
JP2005117276A (ja) 撮像装置
JP2845602B2 (ja) カラー固体撮像装置

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20040706

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20040817

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20050405

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20050418

R151 Written notification of patent or utility model registration

Ref document number: 3674420

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090513

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100513

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110513

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120513

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130513

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130513

Year of fee payment: 8

LAPS Cancellation because of no payment of annual fees