以下、図面を参照して本発明の実施形態について詳細に説明する。
<デジタルスチルカメラの全体構成;CCDタイプ>
図1は、本発明に係る半導体装置の一例である撮像装置(カメラシステム)の第1実施形態を示す概略構成図である。第1実施形態の撮像装置は、固体撮像素子10の一例であるたとえばインターライン転送(IT)方式で、全ての画素に蓄積した信号を水平ラインごとに順次読み出す全画素読出し(プログレッシブ読出し)が可能なCCD固体撮像素子11(もちろんデバイス選択による)、たとえば製造ラインの搬送ベルトに載置され移動されて来た被写体Zの光学像を取り込む撮像レンズ50、およびCCD固体撮像素子11を駆動する駆動制御部96を有するカメラモジュール3と、カメラモジュール3により得られる撮像信号に基づいて映像信号を生成しモニタ出力したり所定の記憶メディアに画像を格納したりする本体ユニット4とを備えてなるFA(Factory Automation)カメラ1として構成されている。
カメラモジュール3と接続される本体ユニット4は、たとえばパーソナルコンピュータ(以下パソコンともいう)を利用して、CPUやメモリを使用してソフトウェア的に画像処理機能や制御機能を実現することができる。ソフトウェアにより処理を実行させる仕組みとすることで、ハードウェアの変更を伴うことなく、処理手順などを容易に変更できる利点を享受できるようになる。
なお、このFAカメラ1は、具体的には、フレーム読出方式を用いた静止画撮像動作時にカラー画像を撮像し得るカメラとして適用されるようになっている。また、フレーム読出方式としては、CCD固体撮像素子11と組み合わせることで、一般的な2フィールド読出方式に限らず、3フィールド、4フィールド、あるいは5フィールド、さらにはそれ以上など様々フィールド数の態様の読出方式を適用可能に構成されている。また、静止画撮像モードに限らず、間引き読みを利用して30フレーム/秒に近いフレームレート(たとえば10フレーム以上/秒)での動画撮影モードも用意されている。
カメラモジュール3内の駆動制御部96には、CCD固体撮像素子11を駆動するための各種のパルス信号を生成するタイミング信号生成部40と、このタイミング信号生成部40からのパルス信号を受けて、CCD固体撮像素子11を駆動するためのドライブパルスに変換するドライバ(駆動部)42と、CCD固体撮像素子11やドライバ42などに電源供給する駆動電源46が設けられている。
カメラモジュール3内の固体撮像素子10(本例ではCCD固体撮像素子11)と駆動制御部96とにより固体撮像装置2が構成される。固体撮像装置2は、CCD固体撮像素子11と駆動制御部96とが、1枚の回路基板上に配されたもの、あるいは1つの半導体基板上に形成されたものとして提供されるものであるのがよい。
CCD固体撮像素子11は、その構成例については図示を割愛するが、たとえば、半導体基板上に、画素(ユニットセル)に対応して受光素子の一例であるフォトダイオードなどからなるセンサ部(感光部;フォトセル)が多数、水平(行)方向および垂直(列)方向において2次元マトリクス状に配列されている。これらセンサ部は、受光面から入射した入射光をその光量に応じた電荷量の信号電荷に変換して蓄積する。
センサ部は、カラー画像撮像用途として、光が入射されるフォトダイオードなどの受光面には、複数色の色フィルタの組合せからなる色分解フィルタの何れかの色フィルタが設けられる。一例としては、いわゆるベイヤ(Bayer)配列の基本形のカラーフィルタを用いて、正方格子状に配されたセンサ部(単位画素)が赤(R),緑(G),青(B)の3色カラーフィルタ(原色フィルタ)に対応するように配される。あるいは、シアン(C),マゼンタ(M),イエロ(Y),緑(G)の4色を組み合わせた補色フィルタ構成のものとしてもよい。
信号処理として、原色信号処理を行なう構成のものとする場合、原色フィルタとすれば、CCD固体撮像素子11にて得られる撮像信号(複数色の画素信号の組合せ)から、赤(R),緑(G),青(B)の原色信号を分離する原色分離部を割愛することができる。
またCCD固体撮像素子11は、センサ部の垂直列ごとに3相や4相あるいは6相もしくは8相などの駆動に対応する複数本の垂直転送電極が設けられる垂直CCD(Vレジスタ部、垂直転送部)が配列される。たとえば全画素読出し対応の構成とする場合、3相駆動にする。垂直CCDの転送方向は図中縦方向であり、この方向に垂直CCDが複数本並べられて設けられる。さらに、これら垂直CCDと各センサ部との間には読出ゲート(ROG)が介在し、また各ユニットセルの境界部分にはチャネルストップが設けられる。これらセンサ部の垂直列ごとに設けられ、各センサ部から読出ゲート部によって読み出された信号電荷を垂直転送する複数本の垂直CCDによって撮像エリアが構成される。
センサ部に蓄積された信号電荷は、読出ゲート部に読出パルスXSGに対応するドライブパルスが印加されることで垂直CCDに読み出される。垂直CCDは、3相〜8相などの垂直転送クロックVxに基づくドライブパルスφVxよって転送駆動され、読み出された信号電荷を水平ブランキング期間の一部にて1走査線(1ライン)に相当する部分ずつ順に垂直方向に転送する。この1ラインずつの垂直転送を、特にラインシフトという。
また、CCD固体撮像素子11には、複数本の垂直CCDの各転送先側端部すなわち、最後の行の垂直CCDに隣接して、所定(たとえば左右)方向に延在する水平CCD(Hレジスタ部、水平転送部)が1ライン分設けられる。この水平CCDは、たとえば2相の水平転送クロックH1,H2に基づくドライブパルスφH1,φH2によって転送駆動され、複数本の垂直CCDから移された1ライン分の信号電荷を、水平ブランキング期間後の水平走査期間において順次水平方向に転送する。このため2相駆動に対応する複数本(2本)の水平転送電極が設けられる。
水平CCDの転送先の端部には、たとえばフローティング・ディフュージョン・アンプ(FDA)構成の電荷電圧変換部が設けられる。この電荷電圧変換部は、水平CCDによって水平転送されてきた信号電荷を順次電圧信号に変換して出力する。この電圧信号は、被写体からの光の入射量に応じたCCD出力(Vout )として導出される。以上により、インターライン転送方式のCCD固体撮像素子11が構成される。
また、このFAカメラ1の処理系統は、大別して、光学系5、信号処理系6、表示系8、および制御系9から構成されている。なお、カメラモジュール3および本体ユニット4が、図示しない外装ケースに収容されて、実際の製品(完成品)が仕上がるのはいうまでもない。信号処理系6は、半導体装置としての固体撮像素子10で取得される物理量変化の検知信号に基づき所定の物理情報(本例では画像)を取得する物理情報取得装置の一例である。
光学系5は、シャッタ52、被写体の光画像を集光するレンズ54、および光画像の光量を調整する絞り56を有する撮像レンズ50と、集光された光画像を光電変換して電気信号に変換するCCD固体撮像素子11とから構成されている。被写体Zからの光L1は、シャッタ52およびレンズ54を透過し、絞り56により調整されて、適度な明るさでCCD固体撮像素子11に入射する。このとき、レンズ54は、被写体Zからの光L1からなる映像が、CCD固体撮像素子11上で結像されるように焦点位置を調整する。
信号処理系6は、CCD固体撮像素子11からのアナログ撮像信号を増幅するAGC(Automatic Gain Control)機能付きの増幅アンプや、増幅された撮像信号をサンプリングホールド(S/H;Sampling Hold )することによってノイズを低減させるCDS(Correlated Double Sampling:相関2重サンプリング)回路などを有するプリアンプ部62、プリアンプ部62が出力するアナログ信号をデジタル信号に変換するA/D(Analog/Digital)変換部64、A/D変換部64から入力されるデジタル信号に所定の画像処理を施すDSP(Digital Signal Processor)で構成されたカメラ信号処理LSI(Large Scale Integrated Circuit;大規模集積回路)としての画像信号処理部66から構成される。
画像信号処理部66は、たとえば、補色の撮像データから、赤(R),緑(G),青(B)の原色信号を分離・同時化する原色分離処理、原色の撮像データ(R,G,Bの各画素データ)を同時化する同時化処理、スミア現象やブルーミング現象によって生じる縦縞のノイズ成分を補正する縦縞ノイズ補正処理、ホワイトバランス(WB;White Balance )調整を制御するWB制御処理、階調度合いを調整するガンマ補正処理、電荷蓄積時間の異なる2画面の画素情報を利用してダイナミックレンジを拡大するダイナミックレンジ拡大処理、あるいは輝度データ(Y)や色データ(C)を生成するYC信号生成処理などを行ない、そのままハードディスク装置78などの記憶装置に記憶・保存したり、その他の機能部に処理済みデータを送る。なお、本実施形態特有のダイナミックレンジ拡大処理の構成部分については後で詳しく説明する。
このDSPで構成される画像信号処理部66は、各機能部分の全ての処理をそれぞれ専用のハードウェアによるデジタル処理回路で行なう構成とすることもできるし、これら機能部分の一部をソフトウェア処理で行なう構成とすることもできる。
ソフトウェアで所定の処理を行なう仕組みは、並列処理や連続処理に柔軟に対処し得るものの、処理が複雑になるに連れ、処理時間が長くなるため、処理速度の低下が問題となる。これに対して、ハードウェア処理回路で行なうことで、高速化を図ったアクセラレータシステムを構築することができるようになる。アクセラレータシステムは、処理が複雑であっても、処理速度の低下を防ぐことができ、高いスループットを得ることができる。
表示系8は、画像信号処理部66が処理した画像信号をアナログ化するD/A(Digital/Analog)変換部82、入力されるビデオ信号に対応する画像を表示することによりファインダとして機能する液晶(LCD;Liquid Crystal Display)や有機EL(Electro Luminescence)などよりなるビデオモニタ84、およびアナログ化された画像信号を後段のビデオモニタ84に適合する形式のビデオ信号にエンコードするビデオエンコーダ86から構成されている。なお、D/A変換部82とビデオエンコーダ86との配置を逆にして、エンコード処理をデジタル処理で行なう構成とすることもできる。この場合、ビデオエンコーダ86を画像信号処理部66に取り込むこともできる。
制御系9は、先ず、固体撮像素子10の一例であるCCD固体撮像素子11を駆動する基準を定める水平同期信号SHDや垂直同期信号SVDなどの基準信号を生成する同期信号生成部41と、FAカメラ1の全体を制御するCPU(Central Processing Unit )などよりなる中央制御部92とを備えている。同期信号生成部41は、中央制御部92からの指示に基づき、所定周期の水平同期信号SHDや垂直同期信号SVDを生成して、固体撮像素子10側のタイミング信号生成部40に供給する。同期信号生成部41と、中央制御部92とにより、本発明に係る基準信号供給部やタイミング制御装置が構成される。
また制御系9は、読出専用の記憶部であるROM(Read Only Memory)93a、随時書込みおよび読出しが可能であるともに揮発性の記憶部の一例であるRAM(Random Access Memory)93b、不揮発性の記憶部の一例であるRAM(NVRAMと記述する)93c、白点位置情報や各種調整データなど装置個別のデータを格納する不揮発性の記憶部の一例であるEEPROM(Electrically Erasable and Programmable ROM)93dを有する記憶部(メモリ部)93を備えている。なお、CPUなどからなる中央制御部92やEEPROM93dを除く記憶部93の各種メモリはDSPで構成された画像信号処理部66に取り込むこともできる。
上記において“揮発性の記憶部”とは、FAカメラ1の電源がオフされた場合には、記憶内容を消滅してしまう形態の記憶部を意味する。一方、“不揮発性の記憶部”とは、FAカメラ1のメイン電源がオフされた場合でも、記憶内容を保持し続ける形態の記憶部を意味する。記憶内容を保持し続けることができるものであればよく、半導体製のメモリ素子自体が不揮発性を有するものに限らず、バックアップ電源を備えることで、揮発性のメモリ素子を“不揮発性”を呈するように構成するものであってもよい。なお、特殊用途として、半導体製のメモリ素子により構成することに限らず、外付けの駆動装置を利用することで、磁気ディスクや光ディスクなどの外部媒体を利用して構成してもよい。
このような電子計算機を利用して構成されるFAカメラ1においては、一連の処理をソフトウェアにより実行させる場合には、そのソフトウェアを構成するプログラムが、記録媒体(本例ではROM93a)からインストールされる。このソフトウェアの中には、コンピュータ上で稼働するOS(オペレーティングシステム;基本ソフト)も含まれる。
なお、所定の処理を中央制御部92に実行させるプログラムは、CD−ROMやフラッシュメモリなどの不揮発性の半導体メモリカードなど、任意の可搬型の記憶媒体を通じて配布(取得や更新)されてもよいし、あるいは、サーバなどからインターネットなどのネットワークを経由してプログラムをダウンロードして取得したり、あるいは更新したりしてもよい。
中央制御部92は、半導体メモリなどで構成された記憶部93のROM93aに記憶されている制御用プログラムを読み出し、読み出した制御用プログラム、あるいはユーザからのコマンドなどに基づいてFAカメラ1の全体の動作や信号処理を制御する。CPUやメモリを利用してソフトウェア的にFAカメラ1を構成する、すなわちパーソナルコンピュータなどのコンピュータ(電子計算機)の機能を利用してFAカメラ1をソフトウェア的に機能させる構成が実現される。
このような構成において、中央制御部92は、システムバス99を介してシステム全体の制御を行なう。ROM93aは、中央制御部92の制御プログラムなど装置共通のデータを格納する。RAM93bは、SRAM(Static Random Access Memory )などで構成され、プログラム制御変数や各種処理のためのデータなどを格納する。また、RAM93bは、固体撮像素子10で読み取った画像データや、所定のアプリケーションプログラムによって編集した画像データやハードディスク装置78から読み取った画像データなどを一時的に格納する領域を含んでいる。
また制御系9は、画像信号処理部66に送られた画像の明るさが適度な明るさを保つようにシャッタ52や絞り56を制御する露出コントローラ94、CCD固体撮像素子11から画像信号処理部66までの各機能部の動作タイミングを制御するタイミング信号生成部(タイミングジェネレータ;TG)40を具備した駆動制御部96、ユーザがシャッタタイミングやズーム操作あるいはその他のコマンドを入力するキーやスイッチなどからなる操作部98を有する。
中央制御部92は、FAカメラ1のシステムバス99に接続された画像信号処理部66、CODEC74、ハードディスク装置78、露出コントローラ94、およびタイミング信号生成部40を制御している。
このFAカメラ1では、オートフォーカス(AF)、オートホワイトバランス(AWB)、自動露光(AE)などの自動制御装置を備えている。これらの制御は、CCD固体撮像素子11から得られる出力信号を使用して処理する。たとえば、露出コントローラ94は、画像信号処理部66に送られた画像の明るさが適度な明るさを保つようにその制御値が中央制御部92により設定され、その制御値に従って絞り56を制御する。具体的には、中央制御部92が画像信号処理部66に保持されている画像から適当な個数の輝度値のサンプルを獲得し、その平均値が予め定められた適当とされる輝度の範囲に収まるように絞り56の制御値を設定する。
タイミング信号生成部40は、中央制御部92により制御され、CCD固体撮像素子11、プリアンプ部62、A/D変換部64、および画像信号処理部66の動作に必要とされるタイミングパルスを発生し、各部に供給する。操作部98は、ユーザが、FAカメラ1を動作させるとき操作される。
図示した例は、信号処理系6のプリアンプ部62およびA/D変換部64をカメラモジュール3に内蔵しているが、このような構成に限らず、プリアンプ部62やA/D変換部64を本体ユニット4内に設ける構成を採ることもできる。またD/A変換部を画像信号処理部66内に設ける構成を採ることもできる。
また、タイミング信号生成部40をカメラモジュール3に内蔵しているが、このような構成に限らず、タイミング信号生成部40を本体ユニット4内に設ける構成を採ることもできる。またタイミング信号生成部40とドライバ42とが別体のものとしているが、このような構成に限らず、両者を一体化させたもの(ドライバ内蔵のタイミングジェネレータ)としてもよい。こうすることで、よりコンパクトな(小型の)FAカメラ1を構成できる。
また、タイミング信号生成部40やドライバ42は、それぞれ個別のディスクリート部材で回路構成されたものでもよいが、1つの半導体基板上に回路形成されたIC(Integrated Circuit)として提供されるものであるのがよい。こうすることで、コンパクトにできるだけなく、部材の取扱いが容易になるし、両者を低コストで実現できる。また、FAカメラ1の製造が容易になる。
また、使用するCCD固体撮像素子11との関わりの強い部分であるタイミング信号生成部40やドライバ42をCCD固体撮像素子11と共通の基板に搭載することで一体化させる、あるいはカメラモジュール3内に搭載することで一体化させると、部材の取扱いや管理が簡易になる。また、これらがモジュールとして一体となっているので、FAカメラ1(の完成品)の製造も容易になる。なお、カメラモジュール3は、CCD固体撮像素子11および光学系5からのみ構成されていても構わない。
このようなCCD固体撮像素子11を備えたFAカメラ1の一連の動作を概説すれば以下の通りである。先ず、タイミング信号生成部40は、垂直転送用の転送クロックV1〜V6(V8)や読出パルスXSGなどの種々のパルス信号を生成する。これらのパルス信号は、ドライバ42により所定電圧レベルのドライブパルスに変換された後に、CCD固体撮像素子11の所定端子に入力される。
搬送ベルト上の被写体Zを撮像する際、撮像レンズ50(シャッタ52およびレンズ54)を介してCCD固体撮像素子11の受光面に結像された被写体Zの光学像は、フォトダイオードなどからなる各センサ部で光の入射光量に応じた量の信号電荷に変換される。
センサ部の各々に蓄積された信号電荷は、タイミング信号生成部40から発せられた読出パルスXSGが読出ゲート部の転送チャネル端子電極に印加され、転送チャネル端子電極下のポテンシャルが深くなることにより、当該読出ゲート部を通して垂直CCDに読み出される。そして、垂直ドライブパルスφVxに基づいて垂直CCDが駆動されることで、順次水平CCDへ転送される。
なお、CCD固体撮像素子11は、蓄積した信号電荷を電子シャッタパルスSUBによって基板に掃出可能な構造のものとし、各画素に蓄積された信号電荷を全画素一斉にリセットすることで電荷の蓄積時間(シャッタスピード)を制御する、いわゆる電子シャッタ機能を実現できる構造のものを使用する。
水平CCDは、タイミング信号生成部40から発せられドライバ42により所定電圧レベルの変換された2相の水平ドライブパルスφH1,φH2に基づいて、複数本の垂直CCDの各々から垂直転送された1ラインに相当する信号電荷を順次電荷電圧変換部側に水平転送する。
電荷電圧変換部は、水平CCDから順に注入される信号電荷を図示しないフローティングディフュージョンに蓄積し、この蓄積した信号電荷を信号電圧に変換し、たとえば図示しないソースフォロア構成の出力回路を介して、タイミング信号生成部40から発せられたリセットパルスRGの制御の元に撮像信号(CCD出力信号)Vout として出力する。
すなわち上記CCD固体撮像素子11においては、センサ部を縦横に2次元状に配置してなる撮像エリアで検出した信号電荷を、各センサ部の垂直列に対応して設けられた垂直CCDにより水平CCDまで垂直転送し、この後、2相の水平転送パルスH1,H2に基づいて、信号電荷を水平CCDにより水平方向に転送するようにしている。そして、電荷電圧変換部にて水平CCDからの信号電荷に対応した電位に変換してから出力するという動作を繰り返す。
CCD固体撮像素子11から順次読み出された電圧信号、すなわち画素に対応するR,G,Bの各画素信号は、タイミング信号生成部40からの各サンプルパルスなどに基づき、プリアンプ部62にてCDS処理などが施され、A/D変換部64にてデジタルのR,G,Bの各画素データに変換された後、一旦、記憶部93のRAM93bに格納される。
RAM93bに格納されたR,G,Bの各画素データは、画像信号処理部66にて、同時化処理やガンマ補正処理などが施された後、輝度データYと色(クロマ)データU,V(あるいはCr,Cb)(纏めてYCデータともいう)に変換され、記憶部93のRAM93bに一旦格納される。
表示系8では、RAM93bに格納したYCデータを読み出し、液晶などからなるビデオモニタ84に出力することにより、スルー画像や撮影された静止画などを表示させることができる。撮影後のYCデータは、ハードディスク装置78などの記録装置に記録される。
<モード対応>
なお、本実施形態のFAカメラ1は、通常の静止画像を撮影するための通常撮像モードや、撮像画像を液晶や有機ELなどよりなるビデオモニタ84でモニタリングする場合に、滑らかな画像を得るためフレームレートを向上させるべく撮像領域の全体について間引き読出しを行なうモニタリングモードが用意されている。加えて、露光時間(シャッタ速度)を変化させた複数枚(典型例としては2枚)の画像を撮像し、これら複数枚の画像を用いる(典型例としては複数枚を1枚に合成する)ことで、ダイナミックレンジの拡大を図るDレンジ拡大モードが用意されている。なお、Dレンジ拡大モード時の撮像手法や信号処理手法については後で詳しく説明する。
これらモード設定は、操作部98を介してユーザによりなされ、その設定情報が中央制御部92に通知される。この通知を受けた中央制御部92は、設定された撮像モードに沿って、駆動制御部96(最終的にはCCD固体撮像素子11)や画像信号処理部66などを制御する。
駆動制御部96は、通常撮像モード時には、たとえば、全画素読出し動作を行なうようにCCD固体撮像素子11を駆動し、モニタリングモード時時には、撮像領域の全体において間引き読出し動作を行なうようにCCD固体撮像素子11を駆動し、Dレンジ拡大モード時には、少なくとも撮像領域全体中の一部の領域のみをそれぞれ異なる露光時間で複数回読み出す(間引き読出しでもよい)動作を行なうようにCCD固体撮像素子11を駆動する。
<デジタルスチルカメラの全体構成;CMOSタイプ>
図2は、本発明に係る半導体装置の一例である撮像装置の第2実施形態を示す概略構成図である。第2実施形態の撮像装置は、第1実施形態におけるCCD固体撮像素子11をCMOS撮像素子12に変更しており、この変更に応じて、プリアンプ部62、A/D変換部64、および駆動制御部96と同等の機能を持つ回路部をCMOS撮像素子12に取り込むように変更している。その他の点は、第1実施形態と同じである。
なお、DSPで構成された画像信号処理部66には、CPUなどからなる中央制御部92やEEPROM93dを除く記憶部93の各種メモリを取り込むようにしている。
CMOS撮像素子12は、その構成例については図示を割愛するが、先ず、センサ部にフォトダイオードなどを用いる点やカラー画像撮像用の色分離フィルタを設ける点は、CCD固体撮像素子11の場合と同様である。
CMOS撮像素子12は、入射光量に応じた電気信号を出力するフォトダイオードなどの光電変換素子を含む複数個のセンサ部(画素)が行および列に配列された(すなわち2次元マトリクス状の)画素部(撮像部)12aを有し、各画素からの信号出力が電圧信号であって、CDS処理機能部やデジタル変換部(ADC;Analog Digital Converter)などのデータ処理を行なうカラム処理部12bが列並列に設けられている。また、多数のセンサ部で構成される撮像部の周辺には、CCDの場合の駆動制御部96に対応し、CMOS撮像素子12を駆動・制御する駆動制御部12cの他、カラム処理部12bにAD変換用の参照電圧を供給する参照信号生成部や出力回路などを備えている。
“列並列にデータ処理部が設けられている”とは、垂直列の垂直信号線に対して実質的に並列に複数のCDS処理機能部やデジタル変換部が設けられていることを意味する。複数の各機能部は、デバイスを平面視したときに、ともに撮像部に対して列方向の一方の端縁側(出力側)にのみ配されている形態のものであってもよいし、画素部に対して列方向の一方の端縁側(出力側)とその反対側である他方の端縁側に分けて配されている形態のものであってもよい。後者の場合、行方向の読出走査(水平走査)を行なう水平走査部も、各端縁側に分けて配して、それぞれが独立に動作可能に構成するのがよい。
駆動制御部は、撮像部の信号を順次読み出すための制御回路機能を備えている。たとえば、制御回路機能としては、列アドレスや列走査を制御する水平走査部(列走査回路)と、行アドレスや行走査を制御する垂直走査部(行走査回路)と、内部クロックを生成するなどの機能を持つ通信・タイミング制御部とを備える。
水平走査部は、カラム処理部からカウント値を読み出す読出走査部の機能を持つ。これらの駆動制御部の各要素は、撮像部とともに、半導体集積回路製造技術と同様の技術を用いて単結晶シリコンなどの半導体領域に一体的に形成され、半導体システムの一例である固体撮像素子(撮像デバイス)として構成される。
垂直走査部は、画素部12aの行を選択し、その行に必要な制御パルス(ラインシフトパルス)を供給する。たとえば、垂直方向の読出行を規定する(画素部12aの行を選択する)垂直デコーダと、垂直デコーダにて規定された読出アドレス上(行方向)の単位画素に対する行制御線にパルスを供給して駆動する垂直駆動回路とを有する。なお、垂直デコーダは、信号を読み出す行の他に、電子シャッタ用の行なども選択する。
水平走査部は、低速クロックに同期してカラム処理部12bのカラムAD回路を順番に選択し、その信号を水平信号線(水平出力線)に導く。たとえば、水平方向の読出列を規定する(カラム処理部12b内の個々のカラムAD回路を選択する)水平デコーダと、水平デコーダにて規定された読出アドレスに従って、カラム処理部12bの各信号を水平信号線に導く水平駆動回路とを有する。なお、水平信号線は、たとえばカラムAD回路が取り扱うビット数n(nは正の整数)分、たとえば10(=n)ビットならば、そのビット数分に対応して10本配置される。
CMOSセンサは、X−Yアドレス型固体撮像素子の一例であり、アドレス指定によって任意の位置の画素から信号を取り出すことができ、画素で得られた信号電荷をシフトレジスタで画素を選択して順番に読み出すCCD(Charge Coupled Device )型イメージセンサと異なり、画素の信号を読み出す位置や順番を比較的自由に設定可能であるという特徴を有する。
たとえば、デジタルスチルカメラに代表される静止画の撮像技術では、撮像デバイスとして多画素のCMOS型固体撮像素子を用い、全画素の画素情報を独立に読み出すことによって静止画を得る“全画素読出モード”がよく知られているが、このモードの他に、たとえば行や列を数個ずつ飛ばしながら読み出す“間引き読出モード”、たとえば行や列を数個ずつ(隣接した画素に限らない)選択して読み出し加算して出力する“加算読出モード”などの動作がセンサ側で簡単に実現できる。
間引き読出モードは、たとえば、被写体を確認している段階(モニタリングモード)で、液晶モニタの画素数に応じた荒い画像(低解像度の画像)で出力したり、動画については画素情報を間引きすることによって情報量を減少させて伝送したりする際に利用される。また、加算読出モードは、複数行(たとえば2行)から信号を出力して、それらを加算することで、ダイナミックレンジを拡大する目的で使用される。なお、本実施形態におけるダイナミックレンジ拡大技術では、このような加算読出モードを利用することができることに加えて、同一画素における異なる露光時間の画素情報を用いることもできる点に特徴を持つ。この点については、後で説明する。
また、カメラ部分を180度回転したときにモニタ上で画像が反転しないようにするなどの目的で、反転読出しを行なう逆方向読出モード(ミラー処理)が要求されることもある。この逆方向読出モードとは、順方向読出モードにおけるアドレス走査の順に対して逆方向に走査するモードであり、このモードもセンサ側で簡単に実現できる。たとえば、順方向読出モード時には行や列のアドレスを小さい方から順番に走査する場合、逆方向読出モードでは、行や列のアドレスを大きい方から小さい方に走査する。
なお、カラム処理部12bと出力部とのインタフェースや水平走査部の構成によっては、必ずしも水平方向の逆転読出しがセンサ側で実現できないこともある。この場合、水平方向のミラー処理は、画像信号処理部66で実現すればよい。
このような構成のCMOS撮像素子12を備えたFAカメラ1において、単位画素から出力された画素信号は、垂直列ごとに、垂直信号線を介して、カラム処理部12bのカラムAD回路に供給される。単位画素を構成する増幅用トランジスタは各垂直信号線に接続されている。
カラム処理部12bの各カラムAD回路は、1列分の画素の信号を受けて、その信号をデジタルデータに変換する。AD回路の構成については、詳細は説明を割愛するが、一例としては、コンパレータ(電圧比較器)にランプ状の参照信号(参照電圧)を供給すると同時にクロック信号でのカウント(計数)を開始し、垂直信号線を介して入力されたアナログの画素信号を参照信号と比較することによってパルス信号が得られるまでカウントすることでAD変換を行なう。
また、この際、回路構成を工夫することで、AD変換とともに、垂直信号線を介して入力された電圧モードの画素信号に対して、画素リセット直後の信号レベル(ノイズレベル)と真の(受光光量に応じた)信号レベルとの差分をとる処理を行なうことができる。これにより、固定パターンノイズ(FPN;Fixed Pattern Noise )やリセットノイズといわれるノイズ信号成分を取り除くことができる。
このカラムAD回路でデジタル化された画素データは、水平走査部からの水平選択信号により駆動される図示しない水平選択スイッチを介して水平信号線に伝達され、さらに出力回路に入力される。
このような構成によって、電荷生成部としての受光素子が行列状に配された画素部12aからは、行アドレスや行走査を制御する垂直走査部(行走査回路)からの駆動パルス(ラインシフトパルス;CCDの垂直転送クロックに相当)に基づいて、行ごとに各垂直列について画素信号が順次出力される。そして、受光素子(フォトダイオードなどの光電変換素子)が行列状に配された画素部12aに対応する1枚分の画像すなわちフレーム画像が、画素部12a全体の画素信号の集合で示される。
<<ダイナミックレンジ拡大処理機能>>
図3は、図1や図2に示したFAカメラ1におけるダイナミックレンジ拡大処理に着目した一構成例のブロック図である。また、図4〜図7は、ダイナミックレンジ拡大処理の処理態様を説明する図である。
図3に示すように、画像処理部(DSP)66における信号処理機能として、固体撮像素子10で取得されA/D変換部64にてデジタル化された撮像データの黒基準をクランプするデジタルクランプ部200、およびデジタルクランプ部200にてクランプされた撮像データからR,G,Bの原色データを抽出した後に、原色データR,G,Bに対して、シャープネス補正、ガンマ補正、コントラスト補正、あるいはその他の輝度信号処理や色信号処理を施し輝度データY(あるいは明度データL)や2つの色データU,V(あるいは色差データR−Y,B−Y)に変換して出力する色信号処理部220を備えている。
色信号処理部220にて生成された各データは、そのままハードディスク装置などの記憶装置に記憶・保存されたり、図示しない記録系(たとえばCODEC)に送られて画像記録に供されたり、あるいは表示系8(たとえばビデオエンコーダ86)に送られて表示出力に供されたりする。
色信号処理部220は、一例として、デジタルクランプ部200にてクランプされた撮像データからR,G,Bの原色データを抽出するとともに同時化する原色分離・同時化処理部222、および同時化された画素データのゲインを調整可能な色信号増幅部の一例であるホワイトバランスアンプ部224を備えている。また、色信号処理部220は、ガンマ補正部226および色差マトリクス部228を備えている。もちろん、この構成例は一例であって、色信号処理部220は、これらの処理機能以外の構成要素も備える。
ガンマ補正部226は、R信号Sr3,G信号Sg3,B信号Sb3に基づいて、忠実な色再現のためのガンマ(γ)補正を行ない、ガンマ(γ)補正された各色用の出力信号R,G,Bを色差マトリクス部228に入力する。色差マトリクス部228は、色差マトリクス処理を行なって得た色差信号R−Y,B−Yをビデオエンコーダ86に入力する。
ビデオエンコーダ86は、色信号副搬送波に対応するデジタル信号で色差信号R−Y,B−Yをデジタル変調した後、図示しない輝度信号生成部にて生成された輝度信号Yと合成して、デジタル映像信号VD(=Y+S+C;Sは同期信号、Cはクロマ信号、あるいはY信号とクロマ信号Cb,Cr)に変換した後、D/A変換部82に入力する。D/A変換部82は、デジタル映像信号VDをアナログ映像信号Vに変換する。
また画像信号処理部66は、本実施形態の特徴部分として、CCD固体撮像素子11における全体の検知領域を所定方向に連続した複数の単位構成要素(センサ部)で構成される領域単位で複数の領域に分割して取り扱い、この分割した領域の内の一部を使って、検知条件が異なる複数の画素信号のそれぞれを取得する用途信号取得部400を、デジタルクランプ部200と色信号処理部220との間に備えている。
ここで、用途信号取得部400としては、電子的にすなわち画像データ処理により画像のダイナミックレンジを拡大するダイナミックレンジ拡大処理を行なう機能要素として、露光時間の異なる複数枚の画像に基づきダイナミックレンジ拡大処理を行なうレンジ拡大処理部402を有している。
レンジ拡大処理部402は、1画面分の画素データを記憶するフレームメモリ410、フレームメモリ410から読み出した画像と前段の信号処理系統から送られてくる現時点の画像とに基づき所定の演算処理をして演算画像を生成する演算画像生成部420、フレームメモリ410から読み出した画像と、信号処理系統から送られてくる現時点の画像と、演算画像生成部420から出力された演算画像(本例ではDレンジが拡大された1枚の画像)の何れか1つを選択して出力する出力画像選択部430、および固体撮像素子10の撮像領域におけるダイナミックレンジ拡大処理に関わる画素位置(あるいは画像領域)を指定したり、当該レンジ拡大処理部402における処理動作を制御する処理制御部440を備えている。なお、処理制御部440は、たとえばタイミング信号生成部(タイミングジェネレータ)40に取り込んでもよい。
処理制御部440はまた、固体撮像素子10の種類、ダイナミックレンジ拡大処理に関わる画素の位置(読出領域ともいう)の内容に応じて、駆動制御部96(12c)に与える指示を切り替える。当然に、駆動制御部96(12c)から固体撮像素子10に発せられる種々の駆動パルスも、固体撮像素子10の種類、ダイナミックレンジ拡大処理に関わる画素の位置(読出領域ともいう)の内容に応じて異なるものとなる。
このような構成において、レンジ拡大処理部402は、露光時間(電荷蓄積時間)の異なる複数枚の画像の内の一方(以下、短時間露光の画像とする)を先ずフレームメモリ410に記憶する。この後、露光時間(電荷蓄積時間)の異なる複数枚の画像の内の他方(以下、長時間露光の画像とする)を取り込み、演算画像生成部420にて、フレームメモリ410に記憶した短時間露光の画像と同時化して合成処理を行なう。
レンジ拡大処理部402における広ダイナミックレンジ化のための信号処理は、短時間露光の画像と長時間露光の画像とを1枚に合成した和を使用することもできる。また、両画像を用途によって使い分けることもできる。この選択は出力画像選択部430にてなされる。すなわち、電子シャッタ機能を利用して露光時間(シャッタ速度)を変え、明るい部分から暗い部分までが含まれるダイナミックレンジが広い被写体を撮像すればよい。短時間露光(高速シャッタ)では暗い被写体は写らないが、明るい被写体は鮮明に写る。一方、長時間露光(低速シャッタ)では明るい被写体は飽和して飛んでしまうが、暗い被写体は鮮明に写る。ダイナミックレンジ拡大処理では、これらの2つの画像から、良好な部分だけを切り出して使用(たとえば合成)するようにすればよい。
何れの場合でも、画像の中の輝度レベルの比較的低い部分は長時間露光(低速シャッタ)画像の比率を高くし、輝度レベルの高い部分は短時間露光(高速シャッタ)画像の比率を高くすることになる。このような処理により、高輝度部分の飽和による白飛びがなく、かつ、低輝度部分のS/Nの良好な画像を得ることができる。
たとえば、ダイナミックレンジ拡大の概念を図4に示している。固体撮像素子10の信号出力は入射光量に比例して増加するが、出力が飽和レベルに達するとそれ以上は増加しない。たとえば、図4(A)にa,bで示すように、固体撮像素子10が飽和する光量がL1である。
ここで、電子シャッタ機能を使用して固体撮像素子10の露光時間を短縮すると、入射光量と信号出力の関係は、c,dのように変化し、固体撮像素子10が飽和する光量はL2まで増加する。最大入射光量がL2の場合、電子シャッタで露光時間を調整してcのカーブに沿った信号を取り出すことになるが、L1以下の光量の領域においては露光時間の長いaの方が出力が大きく、S/Nが良好である。
したがって、L1以下の領域では長時間露光の信号a、L2以上の領域では短時間露光の信号cを使用すれば、飽和する入射光量が大きく、かつ暗い部分でのS/Nの良好な画像信号が得られる。すなわち、ダイナミックレンジを拡大することができる。
ここで、撮像装置の使用目的によっては、図4(B)に示すように、光量と出力が不連続の関係でも使用可能である。すなわち、低光量側の画像を重視する場合には、長時間蓄積の画像を選択出力して使用する一方、高光量側の画像を重視する場合には、短時間蓄積の画像を選択出力して使用する。つまり、高速シャッタ画像と低速シャッタ画像の何れか一方を選択使用する。露光制御の応答性を気にすることなく、即時に何れかに切り替えることができる。
これに対して、図4(C)に示すように、演算画像生成部420にて、短時間蓄積の画像と長時間蓄積の画像とを所定の比率で加算することで、非直線あるいはなだらかに連続させて、1つの画像に合成して使用するようにしてもよい。
ここで、イメージセンサのダイナミックレンジが60dBあると仮定するとともに、長時間蓄積を1フレーム期間近傍の適当な期間、たとえば約1/15ミリ秒程度に設定し、また短時間蓄積を1水平期間以下の適当な期間、たとえば約1/15マイクロ秒程度に設定すると、図5に示すように、長時間蓄積時間の光量に対するセンサ出力は、光量の変化に対し3桁まで対応することになる(長時間蓄積感度曲線を参照)。また、短時間蓄積時間の光量に対するセンサ出力も、光量の変化に対し3桁まで対応することになるが、長時間蓄積時間で検出できる光量と3桁ずれることになる(短時間蓄積感度曲線を参照)。
よって、蓄積時間の異なる画像を加算演算することで得られる加算演算の画像により、6桁すなわち120dBのダイナミックレンジを実現できる。たとえば図6に示すように、長時間蓄積時間では飽和してしまう部分が存在する画像(図6(A)参照)を、短時間蓄積時間で検出された画像(図6(B)参照)で補うことができ、一方の蓄積時間だけでは画像出力できない飽和レベル以上についても、再現することができるようになる(図6(C)参照)。
以上説明したように、時間加算処理の応用として、蓄積時間の異なる同一位置の複数の画素信号を加算すれば、演算データとして、より広い入射光量に対して飽和し難い信号出力が得られ、ダイナミックレンジを拡大可能なデータを取得できる。白飛びや黒潰れの緩和された光量に対するダイナミックレンジの広い画像を取得することができる。
また、蓄積時間の異なる2つ(必要に応じてさらに蓄積時間の異なる画素信号を増やしてもよい)の画素信号の合成によりダイナミックレンジを拡大するようにしているので、画素内メモリなど専用の画素構造を必要とせず、通常の画素構造のデバイスにも適用可能であり、センサデバイスとしての制限がない。
ただし、実際には、単純な加算処理では、光量に対するセンサ出力が視感度と適合した理想的なニー特性にはならない。すなわち、光量の対数に比例して明るさを識別するという人間の視覚特性に合わない。
この問題を解消するには、視感度を考慮するべく、比較処理に使用される参照信号の時間変化量を調整することで、加算演算における処理対象画像信号についての係数を設定するのが好ましい。特に、通常の蓄積時間であれば飽和してしまうような高レベルの信号を飽和することなくかつ視感度補正を実現するべく、比較的短時間の蓄積時間の元で取得された処理対象画像について、変化量を調整するのが好ましい。
具体的には、線形に変化させずに、傾きを数段階に亘り変化させるのがよい。なお、このような線形性を持ちつつ段階的に変化させることに限らず、たとえば2次関数などの高次関数に従って連続的に漸次変化させてもよい。
このときの変化のさせ方としては、人間の目の感度の対数特性に合わせて、また人間の目が暗部での明るさの変化に敏感であることに適合するように暗部での階調精度を維持し、人間の目が明部での明るさの変化に鈍感であることに適合するように明部での階調精度を甘くする。具体的には、AD変換の初期において参照電位RAMPの傾きを小さくすることで係数を大きく設定(高ゲインにする)し、AD変換が進むに従って、参照電位RAMPの傾きを大きくするのがよい。人間の視覚特性に合わせて高輝度の範囲を圧縮した特性であるニー特性を実現する。
このような変化特性を与えるには、図7に示すように、短時間蓄積感度曲線には、ゲイン成分を持たせつつ、高輝度側でガンマ補正を施す、すなわち人間の視覚特性に合わせて高輝度の範囲を圧縮した特性であるニー特性を実現するのがよい。
このように、傾きを漸次変化させるようにすれば、異なる蓄積時間の合成によりワイドダイナミックレンジを実現するだけに留まらず、感度特性にガンマ補正を施し、より自然な信号変化特性を実現することができる。異なる蓄積時間の間の感度差を自然に繋ぐことができ、より自然な画像を合成することができるようになる。
<露光時間の異なる複数枚の画像を取得する手法の基本>
ところで、露光時間(あるいは電荷蓄積時間やシャッタ時間)の異なる複数枚の画像を用いてダイナミックレンジ拡大を図るには、先にも説明したように、それぞれ異なる蓄積時間の元で取得された複数の処理対象画素信号を取り扱い加算演算(時間加算処理)を行ない、この加算されたダイナミックレンジの広い合成画像を出力するようにするか、もしくは、それぞれ異なる蓄積時間の元で取得された複数の処理対象画像の内の何れかを用途によって使い分けることが考えられる。
ここで、露光時間の異なる複数枚の画像を用いてダイナミックレンジ拡大を図る場合、最終的に合成された画像信号のフレームレートを通常の読出し(静止画撮像における通常撮像モードや間引き読みを利用した動画撮像時のモニタリングモード)のときと同じにするためには、固体撮像素子10を画像枚数分(2枚のときには2倍)の周波数で駆動するか、それぞれの画像におけるダイナミックレンジに関わる読出画素数を少なくする必要がある。前者の場合、デバイス設計仕様および信号処理システムの特性上の制限があり、特性の劣化や消費電力の増加を伴う。
そこで、本実施形態では、時間加算処理として、蓄積時間の異なる画像を取り扱う場合に、露光時間の異なる各画像における対象画素は実質的に同一配列位置のものとする。ここで、“実質的に同一配列位置”とは、概ね同一画素位置にて、それぞれ異なる露光時間の画像を取得するものであればよい。完全に同一位置であることが望ましいのは言うまでもない。また、動体を撮像する場合、動体の動きに連動して撮像領域(画素位置)をシフトさせることで、撮像デバイスに対して被写体を相対的に静止するようにしてもよい。
つまり、厳格に“同一画素位置”である必要はなく、使用する撮像デバイスの種類や読出方式などに応じて、実質的に同一画素でそれぞれ異なる露光時間の画像を取得して、これら複数枚の画像を合成することで広ダイナミックレンジの画像を得ることができる限りにおいて、様々な変形が可能である。
また、蓄積時間の異なる複数枚の画像を、通常の撮像画像の読出レート(フレームレート)と同じ期間内に読み出すようにするべく、各画像の撮像範囲は、固体撮像素子10における撮像領域の全体ではなく、一部とする。典型例としては、連続したライン(水平列)でなる領域で垂直列方向を複数の領域に分割するか、あるいは水平列を間引く。
ここで、後者の態様は、いわゆる重付け撮像として知られている仕組みである。重付け撮像の場合、フィールド読出しの1/60秒蓄積期間の任意の時間に、加算する垂直方向2画素のうちの1画素に電子シャッタを用いる。ダイナミックレンジ拡大で垂直方向の1画素を電子シャッタ動作で動かすということである。こうすることで、撮像デバイスの全領域(ここでは間引きを無視する)について、標準動作で蓄積されてきたl/60秒の信号電荷と、電子シャッタモードで蓄積された任意蓄積時間(1/r秒)の信号電荷をラインごとに蓄積できる。1/r秒を任意の時間に設定すれば、電子シャッタ動作によって掃出し量を調整できるので、任意の重み付けができ、ダイナミックレンジ拡大の効果を得ることができる。
同様の考え方を適用して、全画素の信号電荷を同一時刻に一斉に読み出し、かつ各画素の信号電荷を独立に転送する全画素読み出し方式に代えて、たとえば奇数ラインと偶数ラインの各画素の信号電荷をフィールドごとに交互に読み出し、かつ各画素の信号電荷を独立に転送するいわゆるフレーム読出方式を採用する場合において、各フィールドで露光時間を異なるものとし、それらを合成するか、何れか一方を使い分けるようにすることで、ダイナミックレンジ拡大を図ることもできる。
これに対して、本実施形態では、連続したライン(水平列)でなる領域で垂直列方向を複数の領域に分割する手法を採用する。これは、画像の使用目的によっては、必ずしも、撮像デバイスの全領域の画像を必要としないという点に着目したものである。前述の重付け撮像などと比べて、垂直、水平ともに解像度を落とさないという効果もある。FA用途では、正方画素を前提にして処理することが多く、その関係を維持する本実施形態の効果が高い。
つまり、本実施形態では、複数枚の画像を1フレーム内に読み出すので、少なくとも、2つの領域に分割する。分割した領域の内のダイナミックレンジ拡大処理に関わる部分を、以下有効領域ともいう。有効領域は、通常撮像時の領域(デバイスの有効撮像領域の全体)に対して少なくとも1/2以下になる。したがって、フレームメモリ410は、固体撮像素子10における全撮像領域の全画素数分必要なわけではなく、読み出す領域の画素数分でよい。
また、通常のCCD固体撮像素子11を使用する場合、ダイナミックレンジ拡大処理に関わらない領域(寄与しない領域)、すなわち分割した領域の内の不要部分(以下不要領域ともいう)の画素情報を破棄するためには、掃出しのための処理時間が必要になるので、その分だけ、有効領域を少なくする必要があるし、蓄積時間の設定範囲としては、長時間蓄積側は概ね1/2フレーム期間よりもさらに短くなる。
一方、読出領域を独立して制御可能な特別なCCD固体撮像素子11を使用する場合には(たとえば特開2003−9009号公報を参照)、全撮像領域に対して有効領域を最大で1/2に設定できる。また、有効領域を1/2以下にすれば、その分だけ転送時間が不要になりその分を長時間蓄積側についての蓄積時間に割り当てることができる。以下具体的に説明する。
<CCD固体撮像素子と周辺部の概要;第1例>
図8および図9は、固体撮像素子10としてCCD固体撮像素子11を使用した場合における撮像エリアの具体例(第1例)を説明する平面模式図である。本例では、通常のインターライン転送(IT)方式のCCD固体撮像素子11(以下通常CCDともいう)を3相もしくは4相で駆動する場合を例に採って説明する。
図8において、CCD固体撮像素子11には、駆動電源46から、ドレイン電圧VDDおよびリセットドレイン電圧VRDが印加され、ドライバ42にも所定の電圧が供給されるようになっている。
固体撮像装置2を構成するCCD固体撮像素子11は、半導体基板21上に、画素(ユニットセル)に対応して受光素子の一例であるフォトダイオードなどからなるセンサ部(感光部;フォトセル)11aが多数、垂直(行)方向および水平方向(列)方向において2次元マトリクス状に配列されている。これらセンサ部11aは、受光面から入射した入射光をその光量に応じた電荷量の信号電荷に変換して蓄積する。
またCCD固体撮像素子11は、センサ部11aの垂直列ごとに3相もしくは4相駆動に対応する複数本(本例では1ユニットセル当たり3本もしくは4本)の垂直転送電極24(24-1〜24-3もしくは24-1〜24-4)が設けられる垂直CCD(Vレジスタ部、垂直転送部)13が配列されている。
垂直CCD13の転送方向は図中縦方向であり、この方向に垂直CCD13が設けられ、この方向に直交する方向(水平方向)に垂直CCD13が複数本並べられる。さらに、これら垂直CCD13と各センサ部11aとの間には読出ゲート(ROG)12が介在している。また各ユニットセルの境界部分にはチャネルストップCSが設けられている。これらセンサ部11aの垂直列ごとに設けられ、各センサ部11aから読出ゲート部12によって読み出された信号電荷を垂直転送する複数本の垂直CCD13によって撮像エリア14が構成されている。
センサ部11aに蓄積された信号電荷は、読出ゲート部12に読出パルスXSGに対応するドライブパルスが印加されることにより垂直CCD13に読み出される。垂直CCD13は、3相(4相)の垂直転送クロックV1〜V3(V4)に基づくドライブパルスφVxよって転送駆動され、読み出された信号電荷を水平ブランキング期間の一部にて1走査線(1ライン)に相当する部分ずつ順に垂直方向に転送する。この1ラインずつの垂直転送を、特にラインシフトという。
また、CCD固体撮像素子11には、複数本の垂直CCD13の各転送先側端部すなわち、最後の行の垂直CCD13に隣接して、図の左右方向に延在する水平CCD15(Hレジスタ部、水平転送部)15が1ライン分設けられている。この水平CCD15は、たとえば2相の水平転送クロックH1,H2に基づくドライブパルスφH1,φH2によって転送駆動され、複数本の垂直CCD13から移された1ライン分の信号電荷を、水平ブランキング期間後の水平走査期間において順次水平方向に転送する。このため2相駆動に対応する複数本(2本)の水平転送電極29(29-1,29-2)が設けられる。
水平CCD15の転送先の端部には、たとえばフローティング・ディフュージョン・アンプ(FDA)構成の電荷電圧変換部16が設けられている。この電荷電圧変換部16は、水平CCD15によって水平転送されてきた信号電荷を順次電圧信号に変換して出力端子17から撮像信号Voutとして出力する。この電圧信号は、被写体からの光の入射量に応じたCCD出力(VOUT)として導出される。以上により、インターライン転送方式のCCD固体撮像素子11が構成されている。
また固体撮像装置2は、CCD固体撮像素子11を駆動するための種々のパルス信号(“L”レベルと“H”レベルの2値)を生成するタイミング信号生成部40と、タイミング信号生成部40から供給された種々のパルスを所定レベルのドライブパルスにしてCCD固体撮像素子11に供給するドライバ42とを備えている。
たとえば、タイミング信号生成部40は、水平同期信号(VD)や垂直同期信号(VD)に基づいて、CCD固体撮像素子11のセンサ部11aに蓄積された信号電荷を読み出すための読出パルスXSG、読み出した信号電荷を垂直方向に転送駆動し水平CCD15に渡すための垂直転送クロックV1〜Vn(nは駆動時の相数を示す;たとえば6相駆動時にはV6、8相駆動時にはV8)、垂直CCD13から渡された信号電荷を水平方向に転送駆動し電荷電圧変換部16に渡すための水平転送パルスH1,H2、およびリセットパルスRGなどを生成し、ドライバ42に供給する。また、タイミング信号生成部40は、転送クロック以外にも、電子シャッタ時に、センサ部11aの各々に蓄積された信号電荷を、一斉に基板Subに掃き出すために基板Subに印加する電子シャッタパルスSUBなどの各種のタイミング信号をも適宜発生する。
ドライバ42は、タイミング信号生成部40から供給された種々のパルスを所定レベルの電圧信号(ドライブパルス)に変換し、あるいは別の信号に変換しCCD固体撮像素子11に供給する。たとえば、タイミング信号生成部40から発せられたn相の垂直転送クロックV1〜V3(V4)は、ドライバ42を介してドライブパルスφVxとされ、CCD固体撮像素子11内の対応する所定の垂直転送電極(24-1〜24-3もしくは24-1〜24-4)に印加されるようになっている。同様に、2相の水平転送クロックH1,H2は、ドライバ42を介してドライブパルスφH1,φH2とされ、CCD固体撮像素子11内の対応する所定の水平転送電極(29-1,29-2)に印加されるようになっている。
ここで、ドライバ42は、読出パルスXSGについては、3相もしくは4相の垂直転送クロックV1〜V3(V4)のうちのV1,V3に重畳することで、3値レベルを採る垂直ドライブパルスφV1,φV3として、CCD固体撮像素子11に供給する。つまり、垂直ドライブパルスφV1,φV3は、本来の垂直転送動作だけでなく、信号電荷の読出しにも兼用されるようにする。
このような構成のCCD固体撮像素子11の一連の動作を概説すれば以下の通りである。先ず、タイミング信号生成部40は、垂直転送用の転送クロックV1〜V3(V4)や読出パルスXSGなどの種々のパルス信号を生成する。これらのパルス信号は、ドライバ42により所定電圧レベルのドライブパルスに変換された後に、CCD固体撮像素子11の所定端子に入力される。
センサ部11aの各々に蓄積された信号電荷は、タイミング信号生成部40から発せられた読出パルスXSGが読出ゲート部12の転送チャネル端子電極に印加され、転送チャネル端子電極下のポテンシャルが深くなることにより、当該読出ゲート部12を通して垂直CCD13に読み出される。そして、3相(4相)の垂直ドライブパルスφVxに基づいて垂直CCD13が駆動されることで、順次水平CCD15へ転送される。
水平CCD15は、タイミング信号生成部40から発せられドライバ42により所定電圧レベルの変換された2相の水平ドライブパルスφH1,φH2に基づいて、複数本の垂直CCD13の各々から垂直転送された1ラインに相当する信号電荷を順次電荷電圧変換部16側に水平転送する。
電荷電圧変換部16は、水平CCD15から順に注入される信号電荷を図示しないフローティングディフュージョンに蓄積し、この蓄積した信号電荷を信号電圧に変換して、たとえば図示しないソースフォロア構成の出力回路を介して、タイミング信号生成部40から発せられたリセットパルスRGの制御の元に撮像信号(CCD出力信号)VOUTとして出力する。
すなわち上記CCD固体撮像素子11においては、センサ部11aを縦横に2次元状に配置してなる撮像エリア14で検出した信号電荷を、各センサ部11aの垂直列に対応して設けられた垂直CCD13により水平CCD15まで垂直転送し、この後、2相の水平転送パルスH1,H2に基づいて、信号電荷を水平CCD15により水平方向に転送するようにしている。そして、電荷電圧変換部16にて水平CCD15からの信号電荷に対応した電位に変換してから出力するという動作を繰り返す。
ここで、たとえば、画像認識用途においては、全体の画素の信号を常に得る必要はなく、全体の画像から特定の領域を選択した後は、その領域の画像信号のみ、広ダイナミックレンジ信号が得られればよい場合がある。
本例では、この点に着目し、フレームレートを減少させることなく、広ダイナミックレンジ信号を得る仕組みを実現する。たとえば、図9の撮像エリア14を垂直方向に仮想的に連続する複数の水平列でなる3つの領域に分割し、水平CCD15に近い方から撮像領域A、撮像領域B、撮像領域Cとし、撮像領域Bのみをダイナミックレンジ拡大処理に寄与する有効領域として取り扱い、この撮像領域Bから、それぞれ異なる露光時間の画素信号を繰り返し読み出すようにする。
なお、“1フィールド周期”は、撮像面上を2次元走査して画像を読み出す期間(具体的には1垂直走査周期)であり、“1フレーム周期”は、撮像面上の全画素で画像を形成するに要する期間である。全ての行を順に垂直方向に走査する順次走査(プログレッシブ走査)を行なう場合は、“1フィールド周期”が“1フレーム周期”になる。これに対して、一方の垂直走査時には行を間引いて順に垂直方向に走査するとともに、他方の垂直走査時には一方の垂直走査時に間引いた行を補完するように垂直方向に走査する飛越し走査(インタレース走査)を行なう場合は、“kフィールド”が“1フレーム”になる。“k”は間引きの程度によるもので、通常は、k=2とする。なお、順次走査であるのか飛越し走査であるのかに拘わらず、撮像面上を2次元走査して画像を読み出す1垂直走査周期を、広義の“1フレーム”ということもある。本願明細書においての説明におけるフレームは広義のフレームの意味で使用する。
<ダイナミックレンジ拡大処理機能の実現手法;第1例>
図10は、図8に示した一般的なインターライン転送方式CCD(通常CCD)を用いつつ、領域分割して使用することで、ダイナミックレン拡大用の蓄積時間が互いに異なる2つの画像を取得する第1例の手法を説明するタイミングチャートである。
図10において、横軸は時間経過を表す。“1フレーム期間”と示した長さが、通常の静止画像を読み出す(撮像領域全体の画素信号を出力させる)通常撮像モード時の動作における1フレーム期間である。
前述のように、インターライン転送方式のCCD固体撮像素子11では、各画素で発生した信号電荷を読出パルスXSGにより垂直CCD(垂直転送レジスタ)13に読み出し、垂直転送クロック(ラインシフトパルス)により水平CCD(水平転送レジスタ)15に転送し、さらに水平転送クロックにより電荷電圧変換部16に転送し、出力端子より信号電圧として出力する。このため、フレームレート(1秒間に得られる画像データの枚数)は水平転送クロックの周波数と全体の画素数でほぼ決定される。
ここで、時刻T0では電子シャッタを切り、T0以前に蓄積した信号31Aをリセットする。このリセット動作は、時刻T0において通常ローレベルである電子シャッタパルスSUBをハイレベルとすることによって行なわれる。電子シャッタパルスSUBをCCD固体撮像素子11の基板電圧に重畳することで、画素(センサ部11a)に蓄積された電荷を掃き出してリセットする。このため、信号波形において、時間とともに増大する信号が、T0においてゼロとなる。そして、時刻T0以降に改めて信号電荷の蓄積が始まり、読出パルスXSGが供給された時点で信号電荷が垂直CCD13に転送される。
したがって、読出パルスXSGと電子シャッタパルスSUBに基づく掃出し画素(ハッチングした電子シャッタの発生している期間の画素)との関係から分かるように、露光期間は、電子シャッタパルスSUBが発生してから次の読出パルスXSGが発生するまでの期間となる。
φVxは垂直転送クロックであり、“通常速”の部分は出力信号を読み出す期間、“高速”の部分は垂直転送クロックの周波数を上げて掃き出し転送を行なう期間である。
V−REG(A)、V−REG(B)、V−REG(C)は、それぞれ図9に示したCCD固体撮像素子11における撮像領域の内、撮像領域A、撮像領域B、撮像領域Cに隣接した垂直CCD13の中の信号電荷の状態を示している。図中、“A”は撮像領域Aで得られた画像信号、“B”は撮像領域Bで得られた画像信号、“C”は撮像領域Cで得られた画像信号、“空”は信号電荷がない状態を示している。
一般的なインターライン転送方式CCDを用いる場合、撮像エリア14の全体について画素信号を読み出す必要がある。ただし、ダイナミックレンジ拡大処理を行なう場合、その処理に関わる有効領域だけを、適切に読み出せばよい。たとえば、図9では撮像エリア14を、撮像領域A、撮像領域B、撮像領域Cというように全体を1/3ずつの領域に分け、ダイナミックレンジ拡大処理時に信号処理する信号は、主として中央部の撮像領域Bの信号電荷Beとする。撮像領域Aの信号電荷Aeおよび撮像領域Cの信号電荷Ceは不要な信号電荷となる。
この場合、垂直転送は、垂直CCD13の中では画素信号を保ったまま転送するようにする。一例としては、通常の垂直転送と同じ速度での垂直転送により撮像領域Aの信号電荷Aeを水平CCD15へ転送して、水平CCD15により信号電荷Aeを不要信号として掃き出していく。
また、図10に示すように、垂直高速転送として、通常の垂直転送よりも高速に垂直転送して掃き出すようにしてもよい。たとえば白黒カメラに適した正方画素配列インタライン型CCD固体撮像素子であるICK442AL(http://www.sony.co.jp/~semicon/japanese/img/sonyj01/e6803441.pdf参照;以下非特許文献1という)と同様にして、全画素読出方式による中央部走査モード(非特許文献1のp18参照)を採用する。
ここで、中央部走査モードを実現するには、不要な部分である撮像領域Aおよび撮像領域Cにおいては垂直レジスタの高速転送による掃き捨てを行ない、画面中央部の撮像領域Bを切り出すのであるが、ここでは、不要な部分(特に撮像領域Bよりも先に読み出す必要がある撮像領域A)の信号電荷を掃き捨てる際には、高速掃出しモード(非特許文献1のp20参照)ではなく、フレームシフト読出(非特許文献1のp19参照)を利用した高速転送を行なうことで、撮像領域Bの信号電荷に悪影響を与えない範囲で、通常の転送速度に対しておよぼ10倍程度の高速な読出しを行なうようにする。
この場合、垂直転送は水平ブランキング以外の期間も行なわれ水平CCD15で混ざるので、撮像領域Aの信号電荷を正常に取り出すことができない。しかしながら、垂直CCD13の中では正常に信号電荷が転送され、また、映像期間も垂直転送を連続して行なうので、通常の画像出力時よりもはるかに速い転送(高いフレームレート)が可能である。
次に、通常の垂直転送と同じ速度での垂直転送により撮像領域Bの信号電荷Beを水平CCD15へ転送して、電荷電圧変換部16にて所望の撮像信号に変換して出力する。次に、残った撮像領域Cの不要信号Ceを、通常の垂直転送よりも高速に垂直転送して掃き出す。この撮像領域Bよりも後に読み出す必要がある撮像領域Cについては、撮像領域Bの信号電荷を考慮する必要がなく、高速掃出しモード(非特許文献1のp20参照)を用いればよい。
この結果、短時間露光1による領域Bの画像信号は短時間露光出力1で、長時間露光2による領域Bの画像信号は長時間露光出力2で得ることができる。同様に、短時間露光3による領域Bの画像信号は短時間露光出力3で、長時間露光4による領域Bの画像信号は長時間露光出力4(図示せず)で得ることができる。何れも、通常撮像モード時の1フレーム期間内に、短時間露光出力nと長時間露光n+1といった2回の画像出力が得られるので、短時間露光出力nと長時間露光n+1を利用した合成画像(あるいは何れか一方の画像)のフレームレートを、通常撮像モード時と同じにすることができる。
<CCD固体撮像素子と周辺部の概要;第2例>
図11は、CCD固体撮像素子11の第2例を説明する平面模式図である。この第2例では、インターライン転送(IT)方式のCCD固体撮像素子11を3相で駆動する場合を例に採って説明する。この第2例のCCD固体撮像素子11は、特開2003−9009号公報に記載のものと同様に、撮像領域を垂直方向に分割し、領域ごとに画素から垂直レジスタへの読み出しの有無をコントロールすることを可能にした点に特徴を有する。以下、この第2例の構造を持つCCD固体撮像素子11を“分割CCD”ともいう。
第1例では、撮像領域Aの不要信号Aeや撮像領域Cの不要信号Ceの高速掃き出しによる時間のロスが発生し、その分だけ長時間露光側の露光時間が1/2Vよりも短くなるし、また、高速掃き出しを行なうために電力を消費してしまうという問題がある。
この問題を解決するには、垂直転送により撮像領域Bの信号電荷Beを水平CCD15へ転送して、電荷電圧変換部16から所望の撮像信号として出力した後、不要信号Ceの高速掃き出しを行なわずに、次の信号を読み出して高速化を図ることが考えられる。
しかしながらこの場合、信号を読み出すときに掃き捨てなかった不要信号Ceは、次に読み出す撮像領域Aの不要信号Ae’と垂直CCD13において重ねられることになる。このときに、垂直CCD13のダイナミックレンジが不足していると、垂直転送の際に、不要信号Ce+Ae’と必要な領域の信号Be’とが混ざってしまう虞れがある。
この問題は、第1例において、撮像エリア14の全領域において、4/12間引きを行なえるように読み出し電極が形成されているために、撮像領域Aおよび撮像領域Cの不要領域においても信号が読み出されていることに起因している。
加えて、撮像領域Bの信号電荷Beを読み終わった後に読出パルスSGを発すると、次の撮像領域Bの信号電荷Be’を読出し始めるまでに時間が掛ることも問題である。
第2例は、このような問題を解決することができるようにしている。以下、第1例のCCD固体撮像素子11との相違点を中心に説明する。
垂直CCD13は、たとえば、3相の垂直転送クロックφV1,φV2(A/B/C),φV3(A/B/C)によって転送駆動され、読み出された信号電荷を水平ブランキング期間内において所望のライン分ずつ順に垂直方向に転送する。
ここで、垂直転送クロックφV1〜φV3のうち、2相目および3相目の垂直転送クロックについては、通常の撮像エリア14の全体の間引き動作および撮像エリア14の中央部(撮像領域B)のみの間引き動作を実現するために、たとえば、それぞれ3系統の垂直転送クロックφV2A/φV2B/φV2C/およびφV3A/φV3B/φV3Cが発生される。A/B/Cは、後述する図13の分割領域A,B,Cに対応するものである。
図12は、撮像エリア14の具体的な構成の一例を示す平面パターン図である。垂直CCD13は、P型のシリコン基板あるいはP型のウェル領域上にN型の不純物拡散領域による垂直レジスタ13が形成され、この垂直レジスタ13上に酸化膜を介してそれぞれ多層膜シリコンで、その転送方向に繰り返し配列されて、3相分の転送電極TE1〜TE3が形成される。
たとえば、図12に示すように、1層目の多結晶シリコン層で形成された第1垂直転送電極TE1は、その全体が垂直方向のセンサ部11a(幅Wsで示す領域)間において水平方向に延長されて連続形成され、垂直CCD13(幅Wrで示す領域)と平面的に重なる部分(以下、第1電極部TE1bと記す)とそれ以外の部分(以下、第1導線部TE1aと記す)とが同一幅で水平方向に連続して形成されている(実線参照)。
また、2層目の多結晶シリコン層で形成された第2垂直転送電極TE2は、第1垂直転送電極TE1上において水平方向に延びる第2導線部TE2aと、垂直CCD13に沿って図面上、上方に突出する第2電極部TE2bとから構成されている(破線参照)。
また、3層目の多結晶シリコン層で形成された第3垂直転送電極TE3は、第1垂直転送電極TE1上と第2垂直転送電極TE2における第2導線部TE2a上にかけて水平方向に延びる第3導線部TE3aと、垂直CCD13に沿って図面上、下方に突出する第3電極部TE3bを有する(一点鎖線参照)。
すわなち、この第3垂直転送電極TE3における第3導線部TE3aは、その垂直方向の断面をみると、第2導線部TE2aにおけるその上面の一部から側面(第2垂直転送電極TE2における第2電極部TE2bの引出し側とは反対側の側面)に亘り、さらに上部に露出する第1導線部TE1bの上面にかけて連続形成されている。なお、Wcで示す領域は、チャネル・ストッパ領域である。
特に、本例においては、第1垂直転送電極TE1の幅W1を垂直CCD13の幅Wrとほぼ同じにし、さらに、第2垂直転送電極TE2における第2導線部TE2aの幅W2(<W1)と第3垂直転送電極TE3における第3導線部TE3aの幅W3(<W1)をほぼ同じにして、第2導線部TE2aと第3導線部TE3aとを、第1垂直転送電極TE1の幅方向中央部分にてオーバーラップさせたて形成するようにしている。
この場合、第1垂直転送電極TE1の幅W1が大きくなることから、センサ部11aの開口、すわなち垂直方向の開口長Lsの減少が懸念されるが、たとえばマイクロレンズの光集光シミュレーションにより、垂直方向の開口長Lsの減少が感度の劣化に影響を与えないことが確認済みである。
これら転送電極TE1〜TE3には、電荷転送時に、3相のクロック信号φV1,φV2,φV3が印加される。3相のクロック信号が各転送電極TE1〜TE3に印加されると、転送チャネルCHのポテンシャルψが順次変化し、その結果、転送チャネルCH内の電荷が垂直方向に転送される。なお、上述したように、2相目の転送電極TE2と3相目の転送電極TE3には、それぞれφV2A/φV2B/φV2C、およびφV3A/φV3B/φV3Cのいずれかが印加される。
また、2相目および3相目の転送電極TE2およびTE3は、読出ゲート部ROGのゲート電極を兼ねている。このことから、3相の垂直転送クロックφV1〜φV3のうち、2相目および3相目の転送電極TE2およびTE3に印加される転送クロックφV2,φV3は、低レベル(以下Lレベルという)、中間レベル(以下Mレベルという)、および高レベル(Hレベルという)の3値をとるように設定されており、その3値目のHレベルのパルスが読出ゲート部ROGの読み出しパルスφRGとなる。そして、読出ゲート部ROGの制御用を兼ねた転送電極TE2,TE3に読出電圧φRGが印加されると、読出ゲートROGから電荷がセンサ部11aに隣接する転送チャネルCHに転送される。
図13は、図11に示した第2例のCCD固体撮像素子11において、撮像領域の各領域に印加される垂直転送クロックの様子を示す図である。ここで、第2例においては、図13に示すように、ダイナミックレンジ拡大処理に関わる有効領域である撮像領域Bにおいては、垂直転送クロックφV1と3系統に別れた垂直転送クロックφV2(A/B/C)およびφV3(A/B/C)のうち、垂直転送クロックφV2BおよびφV3Bが印加されるようになっている。また、ダイナミックレンジ拡大処理に寄与しない無効領域である撮像領域Aおよび撮像領域Cにおいては、垂直転送クロックφV1と3系統に別れた垂直転送クロックφV2(A/B/C)およびφV3(A/B/C)のうち、垂直転送クロックφV1AおよびφV3A、あるいはφV1CおよびφV3Cが印加されるようになっている。
図14および図15に、上記の動作を実現するための、垂直CCD13の転送電極の配線パターン例を示す。ここでは、行(垂直方向)において12画素を繰り返し単位として、信号電荷を読み出す場合を行なう例について説明する。なお、図14は、ダイナミックレンジ拡大処理に関わる画素信号を取得するための有効領域である撮像領域Bにおける配線パターン例を示しており、図15は、ダイナミックレンジ拡大処理に関わらない不要領域である撮像領域Aおよび撮像領域Cにおける配線パターン例を示している。
図14および図15に示すように、撮像エリア14においては、垂直転送クロックφV1,φV2(A/B/C),φV3(A/B/C)を転送するためのバスライン24_1〜24_3Bが配線されている。
そして、撮像領域Bにおいては、図14に示すように、垂直転送クロックφV1を伝送するバスライン24_1には、下から順に各センサ部11aに対応する1相目の転送電極TE1が接続されている。
垂直転送クロックφV2Bを伝送するバスライン24_2Bには、下から順に各センサ部11aに対応する2相目の転送電極TE2が接続されている。
垂直転送クロックφV3Bを伝送するバスライン24_3Bには、下から順に各センサ部11aに対応する3相目の転送電極TE3が接続されている。
垂直転送は、転送電極TE3→転送電極TE2→転送電極TE1の順で、図の上から下の方向に行なわれる。
一方、撮像領域Aにおいては、図15に示すように、垂直転送クロックφV1を伝送するバスライン24_1には、下から順に各センサ部11aに対応する1相目の転送電極TE1が接続されている。
垂直転送クロックφV2Aを伝送するバスライン24_2Aには、下から順に各センサ部11aに対応する2相目の転送電極TE2が接続されている。
垂直転送クロックφV3Aを伝送するバスライン24_3Aには、下から順に各センサ部11aに対応する3相目の転送電極TE3が接続されている。
つまり、図14における参照子“B”を参照子“B”に置き換えただけである。このことから分かるように、図示を割愛するが、撮像領域Cについては、図15における参照子“A”(あるいは図14における参照子“B”)を参照子“C”に置き換えればよい。
このように、本実施形態では、撮像領域A,B,Cでは基本的な構造が不変である。このような形態とすることで、領域Bに限らず、領域A,B,Cの何処でも任意に選択して、ダイナミックレンジ処理に関わる画素信号を取得するための有効領域に設定することができる。この点は、特開2003−9009号公報に記載のものにおいて、撮像領域を垂直方向に分割する際に、オートフォーカス処理に関わる画素信号を取得するための有効領域における配線パターンとそれ以外の無効領域における配線パターンとが異なるのとは大きな違いである。
<ダイナミックレンジ拡大処理機能の実現手法;第2例>
図16は、図11〜図15で説明した第2例のインターライン転送方式CCD(分割CCD)を用いつつ、領域分割して使用することで、ダイナミックレン拡大用の蓄積時間が互いに異なる2つの画像を取得する第2例の手法を説明するタイミングチャートである。
ここでは、第1例と同様に、図9において、全画素領域を領域A、領域B、領域Cに3等分するものとする。この図で使用している記号の説明は図10と同一である。
ただし、読出パルスXSGは、ダイナミックレンジ拡大処理に関わる有効領域である撮像領域Bのみに印加されるものとし、撮像領域Aおよび撮像領域Cには印加されない。したがって、垂直CCD13に読み出される信号電荷は撮像領域Bの“B”のみである。
ここで、図のように、読出パルスXSGと電子シャッタパルスSUBをコントロールすれば、出力期間は間欠的となるが、1フレーム期間に短時間露光と長時間露光による画像信号を得ることができる。第1例に示した通常のCCD固体撮像素子11の場合に比べて、長時間露光の期間を1フレーム期間(1V)の2/3とすることができ、被写体の状況にもよるが、S/Nの改善を期待できる。
また、上述したように、第2例のCCD固体撮像素子11を用いた場合、ダイナミックレンジ拡大処理に関わる有効領域である撮像領域Bのみの信号電荷を高速に必要とする場合において、撮像領域Bのみの信号電荷Beを垂直CCD13に読み出すことから、撮像領域Bで読み出された信号電荷Beを全て水平CCD15へ転送した直後に、再び、撮像領域Bにおける信号電荷Beを読み出すことができる。
したがって、不要領域である撮像領域Aおよび撮像領域Cにおける信号電荷は読み出さないことから、第1例に比べて、撮像領域Bの信号電荷を水平CCD15へ転送した後に、撮像領域Cにおける信号電荷の高速掃き出しを行なう必要がないことから、その分時間のロスがなくなり、フレームレートを向上させることができる。また、高速掃き出しを行なう必要がないことから、消費電力を低減することができる。
また、第1例における、撮像領域Cの不要信号を捨てずに次の信号電荷を読み出す動作を行なった際に、垂直CCD13のダイナミックレンジ不足の問題から、不要信号が重ね合わさることによる、必要な信号領域に不要信号が漏れ込むといった不具合もない。
<ダイナミックレンジ拡大処理機能の実現手法;第3例>
図17は、図11〜図15で説明した第2例のインターライン転送方式CCD(分割CCD)を用いつつ、領域分割して使用することで、ダイナミックレン拡大用の蓄積時間が互いに異なる2つの画像を取得するとともに、フレームレートをさらに高める手法(以下実現手法の第3例)を説明するタイミングチャートである。
第2例のCCD固体撮像素子(分割CCD)11を使用すると、同じ画素数の領域を読み出す場合に、第1例のような通常のCCD固体撮像素子11よりも高フレームレートで短時間露光と長時間露光による画像信号を得ることができる。
たとえば、図16の場合と同じく撮像領域Bのみを読み出す場合、垂直CCD13に読み出される信号電荷は“B”のみである。撮像領域Bは全体の1/3であるから、図17に示した読出パルスXSG,電子シャッタパルスSUB,垂直転送クロックVxのように駆動すれば、元々の1フレーム期間の2/3の期間で2種類の信号を取り出すことができる。これを連続して行なうことで、たとえば、フレームレートを1.5倍にすることができる。
なお、本願発明には関係ないが、露光時間を毎回同じにして連続的に動作させれば、3倍のフレームレートにすることができる。これにより、通常の読み出しモード以外に広ダイナミックレンジモードと高フレームレートモードを有する撮像装置を構成することができる。
<ダイナミックレンジ拡大後のモニタ画面例>
図18は、上記第1例〜第3例の手法を用いてダイナミックレンジ拡大処理を行なった画像の一例を示す図である。撮像領域をA,B,Cと3分割し、注目する被写体の存在する撮像領域Bのみを選択して、広ダイナミックレンジ画像信号を得る例を示している。
撮像領域Bを有効領域として取り扱い、電子シャッタ機能を利用して露光時間を変えることで、明るい部分から暗い部分までが含まれるダイナミックレンジが広い被写体を1枚の画像として撮像することができる。すなわち、図18(A)において、短時間露光では暗い被写体は写り難く(図では濃度を低くして示す)、明るい被写体は鮮明に写る一方、長時間露光では明るい被写体は飽和(図では濃度を高くして示す)して飛んでしまうが暗い被写体は鮮明に写るようなシーンを考える。
図18(B)に示すように、本実施形態の仕組みを適用することで、ダイナミックレンジ拡大処理では、露光時間の異なる2つの画像から、良好な部分だけを切り出して、たとえば1枚の画像に合成すれば、明るい部分から暗い部分までが適度な信号レベル(濃度)で含まれるダイナミックレンジが広い被写体を1枚の画像として取得できる。すなわち、インターライン転送方式CCDで、信号出力領域を限定することにより、所定のフレームレート以上で、短時間露光出力と長時間露光出力を得て、広ダイナミックレンジ画像信号を合成することができる。
複数画面の露光によるワイドダイナミックレンジ処理にう当たって、フレームレートを変えずにワイドダイナミック処理を実現でき、特に撮像領域の全範囲を必ずしも必要としないFAマシンビジョン用カメラなどに適用するのに有益である。
なお、ここでは、デバイスの全撮像エリア14に対して中央部1/3の領域を有効領域として選択しているが、通常CCDの場合、長時間露光の時間設定が1/2以下となる不利益があるものの、領域設定に自由度があるので、撮像領域Aでも、撮像領域Cでも、また、中間的な領域でも駆動タイミングの作り方により選択可能である。
一方、分割CCDの場合、垂直転送電極の配線を予め図14、図15に示したようにして領域分割に合わせて敷設しておく必要があるので、領域設定に自由度がなく、この例ではダイナミックレンジ拡大処理に寄与する撮像領域がA,B,Cの何れかに限定されるが、通常CCDと同じ駆動タイミングで動作させることも可能である。
また、先にも述べたように、撮像領域A,B,Cでは基本的な構造が不変であり、領域Bに限らず、領域A,B,Cの何処でも任意に選択して、ダイナミックレンジ処理に関わる画素信号を取得するための有効領域に設定することができるので、A,B,Cを選択した中での狭い領域の選択読出しも可能である。
<ダイナミックレンジ拡大処理機能の実現手法;第4例>
図19は、第1例あるいは第2例のインターライン転送方式CCDを用いつつ、領域分割して使用することで、ダイナミックレン拡大用の蓄積時間が互いに異なる2つの画像を取得する第4例を説明する図である。
第1例〜第3例では、図9に示したように、CCD固体撮像素子11の撮像エリア14を垂直方向に仮想的に連続する複数の水平列でなる3つの領域に分割し、中央部の撮像領域Bのみをダイナミックレンジ拡大処理に寄与する有効領域として取り扱い、この撮像領域Bから、それぞれ異なる露光時間の画素信号を繰り返し読み出すようにしていた。
これに対して、この第4例では、CCD固体撮像素子11の撮像エリア14を垂直方向に仮想的に連続する複数の水平列でなる2つの領域に分割し、水平CCD15に近い撮像領域Aのみをダイナミックレンジ拡大処理に寄与する有効領域として取り扱い、この撮像領域Aから、それぞれ異なる露光時間の画素信号を繰り返し読み出す点に特徴を有する。
こうすることで、たとえば、第1例と同様に通常CCDを用いる場合には、第1例における撮像領域Aについての高速読出が不要になることによる利点が得られる。領域を3分割して使用する第1例において、不要領域である撮像領域Aについて通常の垂直転送よりも高速に垂直転送して掃き出す場合、有効領域である撮像領域Bについての信号電荷も通常の垂直転送よりも高速に撮像領域Aまで垂直転送される。したがって、撮像領域Bについての信号電荷を高速の周波数で駆動することとなり、デバイスの設計仕様や信号処理システムの特性上の制限があり、垂直転送の劣化やS/N劣化などの特性の劣化の問題が生じる。
よって、実際には、特性劣化を防止するべく、領域を3分割して使用する第1例においては、不要領域である撮像領域Aの掃出しをする際にも、領域Bの信号電荷に悪影響を与えない範囲での速度で垂直転送して掃き出すのが好ましい。
一例としては、通常の垂直転送と同等の速度で垂直転送して掃き出すことが考えられる。この場合、ある露光時間の画像の読出しには最低でも(後半の不要領域である撮像領域Cの高速転送を無視しても)2/3Vだけ掛る。これを、それぞれ異なる露光時間の複数枚の画像について行なう必要が生じるので、そのままでは、ダイナミックレンジ拡大処理のフレームレートが、通常の画像取得時よりも低下してしまうことになる。
これに対して、第4例のように、撮像エリア14を垂直方向の上下2つの領域に分割し、水平CCD15に近い領域のみをダイナミックレンジ拡大処理に寄与する有効領域として取り扱うようにすれば、ダイナミックレンジ拡大処理に寄与する撮像領域Aの画像の読出しは、後半の不要領域である撮像領域Bの高速転送を無視した場合、1/2Vだけでよくなり、通常の画像取得時と同等のフレームレートにすることができる。なお、実際には、後半の不要領域である撮像領域Bの高速転送を考慮する必要があるので、水平CCD15に近い撮像領域Aは、撮像エリア14の全体に対して1/2よりも少し狭くするのがよい。
なお、第2例の分割CCDのように、垂直転送電極を、分割した領域を独立に読出/非読出を制御可能な構造にすれば、水平CCD15に近い撮像領域Aは、撮像エリア14の全体に対して丁度1/2に設定することができ、出力期間は間欠的とならず、連続する。このように、分割CCDは、1フレーム内で、露光時間が互いに異なる2つの画像を連続して取得し、かつ撮像領域を1/2というように無駄なく使うことができる利点がある。
以上、本発明を実施形態を用いて説明したが、本発明の技術的範囲は上記実施形態に記載の範囲には限定されない。発明の要旨を逸脱しない範囲で上記実施形態に多様な変更または改良を加えることができ、そのような変更または改良を加えた形態も本発明の技術的範囲に含まれる。
また、上記の実施形態は、クレーム(請求項)にかかる発明を限定するものではなく、また実施形態の中で説明されている特徴の組合せの全てが発明の解決手段に必須であるとは限らない。前述した実施形態には種々の段階の発明が含まれており、開示される複数の構成要件における適宜の組合せにより種々の発明を抽出できる。実施形態に示される全構成要件から幾つかの構成要件が削除されても、効果が得られる限りにおいて、この幾つかの構成要件が削除された構成が発明として抽出され得る。
たとえば、上記においては、ファクトリーオートメーション用の撮像装置において、画像の一部のみの広ダイナミックレンジ信号が必要な用途を実現する際に好適なダイナミックレンジ拡大処理を実現する仕組みについて説明したが、一部のみの広ダイナミックレンジ画像信号が必要な限りにおいて、その適用範囲は、ファクトリーオートメーション用の撮像装置に限定されない。たとえば、デジタルスチルカメラ用途において、電子ズームモード時に、ズーム範囲について広ダイナミックレンジ画像信号を取得する際にも適用可能である。
また、上記で具体的に説明したダイナミックレンジ拡大処理機能の実現手法に当たっては、固体撮像素子10としてCCD固体撮像素子11を使用した場合を例示したが、CCD固体撮像素子11に代えて、CMOS撮像素子12を使用した場合でも、連続したライン(水平列)でなる領域で垂直列方向を複数の領域に分割して、その分割領域の一部をダイナミックレンジ拡大処理に関わる画像領域として取り扱う仕組みを、同様に適用可能であり、同様の作用・効果を享受できる。
先にも説明したように、CMOSセンサは、X−Yアドレス型固体撮像素子の一例であり、アドレス指定によって任意の位置の画素から信号を取り出すことができるので、撮像エリア14を領域分割して取り扱うことで、通常時と同等のフレームレートと低消費電力を達成しつつ、ダイナミックレンジを拡大する仕組みを容易に実現可能である。領域設定の自由度もCCDよりも格段に高い。
また、上記実施形態では、個々の単位画素からの信号を読出可能な固体撮像装置の一例として、光を受光することで信号電荷を生成する画素部を備えたCCDセンサやCMOSセンサを例に示したが、信号電荷の生成は、光に限らず、たとえば赤外線、紫外線、あるいはX線などの電磁波一般に適用可能であり、この電磁波を受けてその量に応じたアナログ信号を出力する素子が多数配列された単位構成要素を備えた半導体装置に、上記実施形態で示した事項を適用可能である。
また、上記実施形態で広ダイナミックレンジ画像信号生成機能を持つ装置の一例として説明したレンジ拡大処理部402は、固体撮像装置やその他の電子機器に組み込まれて提供されることに限らず、たとえばIC(Integrated Circuit;集積回路)や、蓄積時間の異なる複数の画像信号間での演算を持つ画像生成モジュールのようにして、単独の装置として提供されてもよい。
この場合、レンジ拡大処理部402を構成する各機能部の全てを備えた装置、たとえば全ての機能部を同一の半導体基板上に配したIC(集積回路)として提供してもよいし、その一部あるいはそれぞれを、個別の半導体基板上に配したIC(個別チップ)として提供し、それらを組み合わせて使用することでモジュールとして纏めるようにしてもよい。
これらを組み込んで提供することで、広ダイナミックレンジ画像信号を生成する機能を実現するに当たって、必要な機能部を纏めて取り扱うことができ、部材の取扱いや管理が簡易になる。また、必要な要素がICやモジュールとして纏まって(一体となって)いるので、固体撮像装置やその他の電子機器の完成品の製造も容易になる。
また、上記実施形態では、撮像条件の異なる複数の画像情報に基づいて所定目的を達する情報を取得する仕組みの一例として、露光時間の異なる複数の画像情報に基づいてダイナミックレンジを拡大する例を示したが、撮像条件の異なる複数の画像情報を利用する他の用途にも、上記実施形態で説明した仕組みが同様に適用できる。
たとえば、撮像時点の異なる複数の画像情報から差分画像を求めて動体検出を行なう時間差分処理の仕組みとする場合、演算画像生成部420を、撮像時点の異なる複数の画像情報から差分画像を求める差分画像生成部として機能させればよい。この場合でも、通常時と同等の処理速度で各条件の信号を取得するようにしても、通常時と同等のフレームレートで複数の単位信号を取得できる、通常時と同等のフレームレートと低消費電力を達成しつつ、動体検出用の差分画像を取得できる。
また、上記実施形態では、光や放射線などの外部から入力される電磁波に対して感応性をするCCD型やCMOS型の固体撮像装置について例示したが、物理量の変化を検知するに際して、検知時間を変えることで検知レンジに影響を与えるあらゆるものに、上記実施形態で説明した仕組みを適用でき、光などに限らず、たとえば、指紋に関する情報を圧力に基づく電気的特性の変化や光学的特性の変化に基づき指紋の像を検知する指紋認証装置など、その他の物理的な変化を検知する仕組みにも同様に適用できる。
1…FAカメラ(撮像装置)、2…固体撮像装置、3…カメラモジュール、4…本体ユニット、5…光学系、6…信号処理系、8…表示系、9…制御系、10…固体撮像素子、11…CCD固体撮像素子、12…CMOS撮像素子、50…撮像レンズ、66…画像信号処理部、84…ビデオモニタ、92…中央制御部、94…露出コントローラ、98…操作部、99…システムバス、400…用途信号取得部、402…レンジ拡大処理部、410…フレームメモリ、420…演算画像生成部、430…出力画像選択部、440…処理制御部