JP4844780B2 - 撮像制御装置、撮像制御方法、プログラム、およびプログラム記録媒体 - Google Patents

撮像制御装置、撮像制御方法、プログラム、およびプログラム記録媒体 Download PDF

Info

Publication number
JP4844780B2
JP4844780B2 JP2001105852A JP2001105852A JP4844780B2 JP 4844780 B2 JP4844780 B2 JP 4844780B2 JP 2001105852 A JP2001105852 A JP 2001105852A JP 2001105852 A JP2001105852 A JP 2001105852A JP 4844780 B2 JP4844780 B2 JP 4844780B2
Authority
JP
Japan
Prior art keywords
pixel value
pixel
unit
exposure time
imaging
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2001105852A
Other languages
English (en)
Other versions
JP2001358989A (ja
JP2001358989A5 (ja
Inventor
哲二郎 近藤
一隆 安藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2001105852A priority Critical patent/JP4844780B2/ja
Priority to US10/009,760 priority patent/US7477305B2/en
Priority to PCT/JP2001/003203 priority patent/WO2001080551A1/ja
Priority to KR1020017015996A priority patent/KR100860154B1/ko
Publication of JP2001358989A publication Critical patent/JP2001358989A/ja
Priority to US11/731,548 priority patent/US7602428B2/en
Publication of JP2001358989A5 publication Critical patent/JP2001358989A5/ja
Application granted granted Critical
Publication of JP4844780B2 publication Critical patent/JP4844780B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/75Circuitry for compensating brightness variation in the scene by influencing optical camera components
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/73Circuitry for compensating brightness variation in the scene by influencing the exposure time

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Cameras In General (AREA)
  • Exposure Control For Cameras (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、撮像制御装置、撮像制御方法、プログラム、およびプログラム記録媒体に関し、特に、例えば、ディジタルビデオカメラ等において、コントラストの強い被写体の画像を、その詳細を失わずに得ることができるようにする撮像制御装置、撮像制御方法、プログラム、およびプログラム記録媒体に関する。
【0002】
【従来の技術】
例えば、ディジタルビデオカメラでは、被写体からの光が、レンズによって、CCD(Charge Coupled Device)等の光電変換素子の受光面上に集光され、そこで光電変換されることにより電気信号である画像データとされる。
【0003】
ディジタルビデオカメラにおいて、レンズからの光は、露出を制御するシャッタを介して、CCDに入射される。従って、シャッタスピード、即ち、露出時間が長いと、CCDにチャージされる電荷が多くなり、その結果、いわゆる露出オーバーとなる。そして、露出オーバーのときに得られる画像は、いわば白つぶれしたものとなる。一方、露出時間が短いと、CCDにチャージされる電荷は少なくなり、その結果、いわゆる露出アンダーとなって、得られる画像は、いわば黒つぶれしたものとなる。
【0004】
このような白つぶれや黒つぶれを防止するには、画像の最も明るい部分から最も暗い部分までが、適度な明度をもつように、露出時間を設定する必要がある。
【0005】
【発明が解決しようとする課題】
ところで、従来のディジタルビデオカメラにおいては、CCDの受光面全体に対して、同一の露出時間で撮影が行われる。
【0006】
従って、コントラストの強い被写体を撮影(撮像)する場合には、明るい部分が白つぶれしたものとなったり、暗い部分が黒つぶれしたものとなり、得られた画像において、被写体のディテール(detail)(詳細)が失われる課題があった。
【0007】
なお、例えば、特願平6−28796号においては、液晶シャッタ付きカメラが開示されているが、このカメラは、CCDの画素単位で露出を制御することができるものではなく、CCDの受光面全体に対して、同一の露出時間を設定できるにすぎないものであった。
【0008】
本発明は、このような状況に鑑みてなされたものであり、コントラストの強い被写体についても、そのディテールを損なわずに撮影することができるようにするものである。
【0009】
【課題を解決するための手段】
本発明の第1の撮像制御装置は、被写体からの光を受光して光電変換する受光面を有し、その光電変換の結果得られる画素値を評価する評価手段と、評価手段による評価結果に基づいて、受光面に対する露出時間を、画素単位で制御する制御手段とを備え、評価手段は、撮像手段が出力する画素値を記憶する第1記憶手段と、撮像手段が出力する画素値のうちの注目しているものである注目画素値と、第1記憶手段に記憶された画素値のうちの注目画素値に対応する画素値とを比較することにより、注目画素値に対応する画素である注目画素の動きを判定する動き判定手段と、注目画素値が所定の範囲の値であるかどうかを判定する画素値判定手段とを有し、制御手段は、注目画素値が所定の範囲内の値でないときに、注目画素値が所定の範囲内の値になるように、受光面の、注目画素に対する露出時間を制御するとともに、注目画素値の動きの判定結果に基づいて、受光面の、注目画素に対する露出時間を制御することを特徴とする。
【0010】
本発明の第1の撮像制御方法、プログラムおよびプログラム記録媒体は、被写体からの光を受光して光電変換する受光面を有し、その光電変換の結果得られる画素値を出力する撮像手段から取得した画素値を評価する評価ステップと、評価ステップによる評価結果に基づいて、受光面に対する露出時間を、画素単位で制御する制御ステップとを備え、評価ステップの処理は、撮像手段が出力する画素値を記憶手段に記憶する記憶ステップと、撮像手段が出力する画素値のうちの注目しているものである注目画素値と、記憶手段に記憶された画素値のうちの注目画素値に対応する画素値とを比較することにより、注目画素値に対応する画素である注目画素の動きを判定する動き判定ステップと、注目画素値が所定の範囲の値であるかどうかを判定する画素値判定ステップとを有し、制御ステップの処理では、注目画素値が所定の範囲内の値でないときに、注目画素値が所定の範囲内の値になるように、受光面の、注目画素に対する露出時間が制御されるとともに、注目画素値の動きの判定結果に基づいて、受光面の、注目画素に対する露出時間が制御されることを特徴とする。
【0011】
本発明の第1のプログラムは、被写体からの光を受光して光電変換する受光面を有し、その光電変換の結果得られる画素値を出力する撮像手段から取得した画素値を評価する評価ステップと、評価ステップによる評価結果に基づいて、受光面に対する露出時間を、画素単位で制御する制御ステップとを備えることを特徴とする。
【0012】
本発明の第1のプログラム記録媒体は、被写体からの光を受光して光電変換する受光面を有し、その光電変換の結果得られる画素値を出力する撮像手段から取得した画素値を評価する評価ステップと、評価ステップによる評価結果に基づいて、受光面に対する露出時間を、画素単位で制御する制御ステップとを備えるプログラムが記録されていることを特徴とする。
【0016】
本発明の第2の撮像制御装置は、被写体からの光を受光して光電変換する受光面を有し、その光電変換の結果得られる画素値を出力する撮像手段における受光面に対する複数の露出時間を制御する制御手段と、撮像手段において、制御手段の制御に基づき、被写体を、複数の露出時間で撮像することにより得られる、各画素位置の、複数の露出時間それぞれに対応する画素値から、1つの画素値を選択する選択手段と、撮像手段が出力する各画素位置の画素値を、その画素値に対応する露出時間に基づいて補正する補正手段とを備えることを特徴とする。
【0017】
本発明の第2の撮像制御方法、プログラムおよびプログラム記録媒体は、被写体からの光を受光して光電変換する受光面を有し、その光電変換の結果得られる画素値を出力する撮像手段における受光面に対する複数の露出時間を制御する制御ステップと、撮像手段において、制御ステップにおける制御に基づき、被写体を、複数の露出時間で撮像することにより得られる、各画素位置の、複数の露出時間それぞれに対応する画素値から、1つの画素値を選択する選択ステップと、撮像手段が出力する各画素位置の画素値を、その画素値に対応する露出時間に基づいて補正する補正ステップとを備えることを特徴とする。
【0018】
本発明の第2のプログラムは、被写体からの光を受光して光電変換する受光面を有し、その光電変換の結果得られる画素値を出力する撮像手段における受光面に対する複数の露出時間を制御することにより得られる、各画素位置の、複数の露出時間それぞれに対応する画素値を評価する評価ステップと、評価ステップによる評価結果に基づいて、複数の露出時間それぞれに対応する画素値から、1つの画素値を選択する選択ステップとを備えることを特徴とする。
【0019】
本発明の第2のプログラム記録媒体は、被写体からの光を受光して光電変換する受光面を有し、その光電変換の結果得られる画素値を出力する撮像手段における受光面に対する複数の露出時間を制御することにより得られる、各画素位置の、複数の露出時間それぞれに対応する画素値を評価する評価ステップと、評価ステップによる評価結果に基づいて、複数の露出時間それぞれに対応する画素値から、1つの画素値を選択する選択ステップとを備えるプログラムが記録されていることを特徴とする。
【0020】
本発明の第1の撮像制御装置、撮像制御方法、プログラム、およびプログラム記録媒体においては、被写体からの光を受光して光電変換する受光面を有し、その光電変換の結果得られる画素値を出力する撮像手段から取得した画素値が評価され、その評価結果に基づいて、受光面に対する露出時間が、画素単位で制御される。画素値の評価においては、撮像手段が出力する画素値が記憶され、撮像手段が出力する画素値のうちの注目しているものである注目画素値と、記憶された画素値のうちの注目画素値に対応する画素値とを比較することにより、注目画素値に対応する画素である注目画素の動きが判定され、注目画素値が所定の範囲の値であるかどうかが判定される。そして注目画素値が所定の範囲内の値でないときに、注目画素値が所定の範囲内の値になるように、受光面の、注目画素に対する露出時間を制御されるとともに、注目画素値の動きの判定結果に基づいて、受光面の、注目画素に対する露出時間が制御される。
【0023】
本発明の第2の撮像制御装置、撮像制御方法、プログラム、およびプログラム記録媒体においては、被写体からの光を受光して光電変換する受光面を有し、その光電変換の結果得られる画素値を出力する撮像手段における受光面に対する複数の露出時間が制御され、その制御に基づき、被写体を、複数の露出時間で撮像することにより得られる、各画素位置の、複数の露出時間それぞれに対応する画素値から、1つの画素値が選択され、撮像手段が出力する各画素位置の画素値が、その画素値に対応する露出時間に基づいて補正される
【0024】
本発明の第2のプログラムおよびプログラム記録媒体においては、被写体からの光を受光して光電変換する受光面を有し、その光電変換の結果得られる画素値を出力する撮像手段における受光面に対する複数の露出時間を制御することにより得られる、各画素位置の、複数の露出時間それぞれに対応する画素値が評価され、その評価結果に基づいて、複数の露出時間それぞれに対応する画素値から、1つの画素値が選択される。
【0025】
【発明の実施の形態】
図1は、本発明を適用したディジタルビデオカメラシステムの一実施の形態の構成例を示している。
【0026】
ディジタルビデオカメラ101は、所定の被写体を撮像し、画像データを含む画像情報を出力する。この画像情報は、例えば、半導体メモリ、光磁気ディスク、磁気ディスク、光ディスク、磁気テープ、相変化ディスクなどでなる記録媒体103に記録され、あるいは、また、例えば、地上波、衛星回線、CATV(Cable Television)網、インターネット、公衆回線、バスなどでなる伝送媒体104を介して伝送され、表示装置102に提供される。
【0027】
表示装置102は、記録媒体103または伝送媒体104を介して提供される画像情報を受信し、その画像情報に基づいて、対応する画像を表示する。
【0028】
なお、ディジタルビデオカメラ101、表示装置102、および記録媒体103または伝送媒体104は、1つの装置として構成することが可能である。
【0029】
図2は、図1のディジタルビデオカメラ101の第1実施の形態の構成例を示している。
【0030】
レンズ1には、被写体からの光が入射し、レンズ1は、その光をシャッタ2を介して、CCD3の受光面上に集光する。
【0031】
シャッタ2は、コントローラ5により制御され、レンズ1からの光を、例えば、CCD3の受光面を構成する画素単位で反射することにより、CCD3の各画素に対する露出を制御する。
【0032】
即ち、図2では、シャッタ2は、例えば、半導体基板上に多数の超小型反射ミラーが形成されたDMD(Digital Micromirror Device)で構成されており、各ミラーが、コントローラ5からの制御にしたがって回動することにより、そこに入射する光の反射方向を、そのミラー単位で変えることができるようになっている。
【0033】
ここでは、DMDを構成する各ミラーが、CCD3を構成する各画素に対応している。従って、各ミラーを回動することにより、各ミラーからCCD3の各画素への光の反射方向を変えることで、対応する画素への光の入射をオン/オフさせることができるようになっている。
【0034】
なお、DMDについては、例えば、特願平7−73952号(優先権主張番号US221739、優先日1994年3月31日)に開示されている。
【0035】
CCD3は、その受光面を構成する各画素において、シャッタ2からの光を受光し、これにより、その光量に対応する電荷をチャージする。そして、CCD3は、各画素においてチャージした電荷(積分効果により積分された電荷)を、いわゆるバケツリレー(bucket brigade)することで、対応する電圧レベルの電気信号を、A/D(Analog/Digital)変換器4に出力する。
【0036】
なお、ここでは、シャッタ2からの光を受光して光電変換する光電変換素子として、CCDを用いているが、その他、BBD(Bucket Brigede Device)等を用いることが可能である。
【0037】
A/D変換器4は、CCD3からの電気信号を、画素に対応するタイミングでサンプリングし、さらに量子化することで、ディジタル画像データを構成する各画素の画素値を、コントローラ5に供給する。なお、ここでは、A/D変換器4は、例えば、8ビットの画素値を出力するものとする。
【0038】
コントローラ5は、CCD3からA/D変換器4を介して供給される各画素の画素値を評価する。さらに、コントローラ5は、その評価結果に基づき、シャッタ2による露光時間を、各画素単位で設定し、シャッタ2を制御する。
【0039】
また、コントローラ5は、CCD3からA/D変換器4を介して供給される各画素の画素値を、その画素値を得るときに設定された露出時間に基づき、必要に応じて補正し、その補正後の画素値でなる、例えば、1フレーム(または1フィールド)単位の画像データを、画像情報として出力する。あるいは、また、コントローラ105は、画素値と、その画素値を得るときに設定された露出時間とを、画像情報として出力する。コントローラ5が出力する画像情報は、I/F(Interface)7で受信される。
【0040】
メモリ6は、コントローラ5の処理上必要なデータを一時記憶する。
【0041】
I/F7は、コントローラ105からの画像情報を、例えば、ユーザからの指示等に応じて、記録部8または通信部9に供給する。記録部8は、I/F7からの画像情報を、記録媒体103に記録する。通信部9は、I/F7からの画像情報を、伝送媒体104を介して送信する。
【0042】
次に、図3は、図1のディジタルビデオカメラ101の第2実施の形態の構成例を示している。なお、図中、図2における場合と対応する部分については、同一の符号を付してあり、以下では、その説明は、適宜省略する。
【0043】
即ち、図3のディジタルビデオカメラ101は、基本的には、図2のディジタルビデオカメラ101と同様に構成されている。但し、図3においては、シャッタ2が、液晶パネル(液晶シャッタ)で構成されている。
【0044】
液晶パネルで構成されるシャッタ2は、コントローラ5により制御され、レンズ1からの光を、例えば、CCD3の受光面を構成する画素単位で透過させることにより、CCD3の各画素に対する露出を制御する。
【0045】
即ち、図3では、シャッタ2としての液晶パネルを構成する液晶分子の方向が、コントローラ5の制御にしたがって、画素に相当する単位で変化することにより、その単位における光の透過が制限され、これにより、CCD3の、対応する画素への光の入射をオン/オフさせることができるようになっている。
【0046】
なお、ここでは、シャッタ2として、透過型の液晶パネルを用いることとしたが、その他、反射型の液晶パネルを用いることも可能である。
【0047】
次に、図4は、図2および図3のコントローラ5の構成例を示している。
【0048】
コントローラ5は、画像評価部11およびシャッタ制御部12で構成されている。
【0049】
CCD3からA/D変換器4を介してコントローラ5に供給される画素値は、画像評価部11で受信される。画像評価部11は、そこに供給される画素値に必要な処理を施し、1フレームの画像データを構成して出力する。さらに、画像評価部11は、そこに供給される画素値を評価して、その評価結果に基づいて、シャッタ2による露出時間を、画素単位で設定する。
【0050】
シャッタ制御部12は、画像評価部11において設定された、画素ごとの露出時間にしたがって、シャッタ2を制御する。
【0051】
次に、図5は、図4の画像評価部11の構成例を示している。
【0052】
CCD3からA/D変換器4を介してコントローラ5に供給される画素値は、バッファ21で受信され、バッファ21は、その画素値を一時記憶する。
【0053】
画素値補正部22は、バッファ21に記憶された画素値を読み出すとともに、その画素値を得たときの画素に対する露出時間を、メモリ25から読み出し、それらを対応付けて、メモリ6に供給して記憶させる。さらに画素値補正部22は、メモリ6に、例えば、1フレーム分の画素値と露出時間との組が記憶されると、その画素値と露出時間との組を読み出し、画素値を、露出時間に基づいて補正し、その補正後の画素値で構成される1フレームの画像データを出力する。
【0054】
評価部23は、バッファ21に記憶された画素値を評価し、その評価結果を、露出時間決定部24に供給する。露出時間決定部24は、評価部23からの評価結果に基づき、バッファ21に記憶された画素値の画素に対する露出時間を設定する。
【0055】
即ち、評価部23は、バッファ21に記憶された画素値を評価することで、画素値が、所定の上限値以上または下限値以下であるかどうかや、被写体の動き量等の評価結果を得て、その評価結果を、露出時間決定部24に供給する。露出時間決定部24は、例えば、画素値が、所定の上限値以上の値であり、白つぶれの状態になっているときは、対応する画素についての露出時間を短く設定する。また、露出時間決定部24は、例えば、画素値が、所定の下限値以下の値であり、黒つぶれの状態になっているときは、対応する画素についての露出時間を長く設定する。さらに、露出時間決定部24は、例えば、被写体の動き量が大であり、動きぶれ(動きぼけ)が生じているときには、対応する画素についての露出時間を短く設定する。また、露出時間決定部24は、例えば、被写体の動き量が小であり(なく)、動きぶれ(ぼけ)がないときは、対応する画素についての露出時間を、現状の値のままとする。
【0056】
そして、露出時間決定部24は、画素について設定した露出時間を、メモリ25に供給する。
【0057】
ここで、本実施の形態では、説明を簡単にするために、被写体自体の動きは、ほとんどないものとする。従って、ここでいう動きぶれ(動きぼけ)は、主として、撮影を行うユーザの、いわゆる手ぶれに起因するものであるとする。但し、本発明は、大きな動きのある被写体を撮影するときにも適用可能である。
【0058】
メモリ25は、露出時間決定部24からの、各画素についての露出時間を、対応する位置のアドレスに記憶(上書き)する。メモリ25に記憶された各画素についての露出時間は、シャッタ制御部12に供給されるようになっており、シャッタ制御部12は、この各画素ごとの露出時間にしたがって、シャッタ2を制御する。これにより、シャッタ2を介しての、CCD3への光の入射時間が、画素ごとに制御される。
【0059】
ここで、露出時間と、シャッタスピードとは同義語である。但し、露出時間が長いということは、シャッタスピードが遅いことに相当し、露出時間が短いということは、シャッタスピードが速いことに相当する。以下においては、露出時間を用いて説明を行うが、シャッタスピードを用いて説明することも勿論可能である。
【0060】
次に、図6は、図5の評価部23の構成例を示している。
【0061】
読み出し部51は、バッファ21(図5)に記憶された画素の画素値を読み出し、バッファ52に供給して記憶させる。さらに、読み出し部51は、バッファ21から画素値を読み出した画素を、順次、注目画素とし、その注目画素の画素値(注目画素値)を、動き判定部53および画素値判定部54に供給する。
【0062】
バッファ52は、例えば、複数フレーム分の画素値を記憶することのできる記憶容量を有しており、読み出し部51から供給される画素値を順次記憶する。なお、バッファ52は、その記憶容量分だけ画素値を記憶した後は、新たな画素値を、例えば、最も古い画素値に上書きする形で記憶するようになっている。
【0063】
動き判定部53は、読み出し部51からの注目画素の画素値を受信し、例えば、その注目画素のフレーム(以下、適宜、注目フレームという)における、注目画素を中心とする3×3画素に対応する、注目フレームの1フレーム前のフレーム(以下、適宜、前フレームという)における3×3画素を、バッファ52から読み出す。さらに、動き判定部53は、注目フレームの3×3画素それぞれの画素値と、前フレームにおける、対応する3×3画素それぞれの画素値との差分絶対値を計算し、さらに、その総和(以下、適宜、差分絶対値和という)を演算する。そして、動き判定部53は、その差分絶対値和に基づいて、注目画素の動きの大小を判定し、その判定結果を、注目画素の評価結果として、露出時間決定部24(図5)に供給する。
【0064】
即ち、動き判定部53は、差分絶対値が大の時は、動きが大きい旨を、また、差分絶対値が小の時は、動きが小さい旨を、それぞれ評価結果として、露出時間決定部24に供給する。
【0065】
なお、動き判定部53では、その他、例えば、上述の注目フレームの3×3画素を用いて、前フレームとのブロックマッチングを行い、その結果得られる動きベクトルに基づいて、注目画素の動きの大小を判定することも可能である。
【0066】
画素値判定部54は、注目画素の画素値が、所定の下限値と上限値とで規定される所定の範囲内の値であるかどうかを判定し、その判定結果を、注目画素の評価結果として、露出時間決定部24に供給する。
【0067】
即ち、A/D変換器4(図2乃至図4)が出力する画素値が、例えば、0乃至255の範囲に対応する8ビットで表される場合には、画素値判定部54は、例えば、黒つぶれとなる値(例えば、10以下など)を下限値とするとともに、白つぶれとなる値(例えば、250など)を上限値とし、注目画素の画素値が、その下限値から上限値の範囲内にあるかどうかを判定する。そして、画素値判定部54は、注目画素の画素値が、上限値以上の値(もしくは上限値より大きい値)である場合、下限値以下の値(もしくは下限値未満の値)である場合、または下限値より大きく上限値より小さい場合は、それぞれ、その旨を、注目画素の評価結果として、露出時間決定部24に供給する。
【0068】
図5の露出時間決定部24は、以上のような注目画素の評価結果を、動き判定部53と画素値判定部54から受信し、その評価結果に基づいて、上述したように、露出時間を設定する。
【0069】
次に、図7のフローチャートを参照して、図4(図2および図3)のディジタルビデオカメラの動作について説明する。
【0070】
まず最初に、ステップS1において、コントローラ5(図5)の露出時間決定部24は、各画素に対して、デフォルトの露出時間を設定し、メモリ25に送信して、対応するアドレスに記憶させる。
【0071】
なお、ここでは、例えば、デフォルトの露出時間として、すべての画素に対して、同一の露出時間が設定されるものとする。但し、デフォルトの露出時間としては、例えば、前回の撮影の終了時における各画素の露出時間を設定すること等も可能である。また、デフォルトの露出時間は、例えば、ユーザに設定してもらうようにすることも可能である。
【0072】
ここで、図8(A)は、メモリ25の記憶内容を示している。上述したように、メモリ25では、各画素の画素位置に対応したアドレスに、その画素に対する露出時間が記憶される。
【0073】
シャッタ制御部12は、メモリ25に記憶された画素ごとの露出時間にしたがって、シャッタ2を制御し、これにより、シャッタ2を介しての、CCD3への光の入射時間が、画素ごとに制御されながら、CCD3の各画素に電荷がチャージされる。
【0074】
そして、1フレームを構成する画素値の読み出し開始タイミングとなると、ステップS2において、CCD3からその読み出しが開始される。CCD3から読み出された画素値は、A/D変換器4を介して、コントローラ5(図5)のバッファ21に供給されて記憶される。
【0075】
バッファ21に記憶された画素値は、ステップS3において、画素値補正部22によって読み出される。さらに、ステップS3では、画素値補正部22は、バッファ21から読み出された画素値の画素を、順次、注目画素として、注目画素に対応する、メモリ25のアドレスに記憶された露出時間、即ち、注目画素の画素値を得るのに用いた露出時間を読み出し、注目画素の画素値と対応付けて、メモリ6に供給して記憶させる。即ち、これにより、メモリ25において、例えば、図8(A)に示すような露出時間が記憶されている場合、メモリ6には、図8(B)に示すように、図8(A)の露出時間と、その露出時間によって得られた画素値とが対応付けられて記憶される。
【0076】
そして、ステップS4に進み、評価部23(図6)は、その動き判定部53および画素値判定部54において、バッファ21に記憶された注目画素の画素値を、上述したように評価し、その評価結果を、露出時間決定部24に供給する。露出時間決定部24は、ステップS5において、評価部23からの評価結果に基づき、注目画素の露出時間を、上述したような適正な値に設定し直す。さらに、露出時間決定部24は、その設定し直した露出時間を、メモリ25に供給し、注目画素に対応するアドレスに記憶させる(上書きする)。
【0077】
即ち、例えば、図8(B)において、画素値「250」は、上述した上限値「250」以上の値であり、従って、白つぶれの状態になっていると考えられるため、露出時間決定部24は、画素値「250」の画素の露出時間(メモリ25のアドレスn+1の露出時間)「1/100秒」を、より短い「1/120秒」に設定し直し、図8(C)に示すように、メモリ25に記憶させる。
【0078】
その後、ステップS6に進み、バッファ21からの、1フレームを構成するすべての画素値の読み出しが終了したかどうかが、例えば、図示せぬ制御部等により判定され、まだ、終了していないと判定された場合、ステップS7に進み、次の画素の画素値が、バッファ21から取得され、ステップS3に戻る。そして、その画素値の画素を、新たに注目画素として、ステップS3以降の処理が繰り返される。
【0079】
一方、ステップS6において、1フレームを構成するすべての画素値の読み出しが終了したと判定された場合、即ち、メモリ6に、1フレームを構成するすべての画素の画素値と、それらに対応付けられた露出時間が記憶された場合、ステップS8に進み、画素値補正部22(図5)は、メモリ6から各画素値を読み出し、各画素値を、その画素値に対応付けられた露出時間に基づいて補正し、その補正後の画素値で構成される1フレームの画像データを出力する。
【0080】
即ち、ここでは、1フレームを構成する各画素値は、同一の露出時間で得られたものでないから、そのような画素値をそのまま用いて、1フレームの画像を構成すると、明るさが疎らな画像となる。そこで、画素値補正部22は、露出時間に基づいて、各画素値を補正し、これにより、明るさの統一感がある、すべての画素が同一の露出時間で撮影されたような画像を構成するようになっている。
【0081】
具体的には、例えば、いま、説明を簡単にするために、露出時間と画素値とが比例関係にあるものとすると、画素値補正部22は、例えば、メモリ6に記憶された露出時間のうち、最も短い露出時間(以下、最短露出時間という)1/SBASE[秒]を基準として、各露出時間1/S[秒]が対応付けられている画素値を、S/SBASE倍に補正する。
【0082】
従って、いま、画素値pと露出時間1/S[秒]との組み合わせを、(p,1/S)と表すこととすると、メモリ6に記憶された画素値と露出時間の組が、例えば、(255,1/10),(200,1/5),(150,1/20),(100,1/100)である場合には、最短露出時間1/SBASEが、1/100秒であるから、露出時間が1/10秒の画素値「255」は「25.5」(=255×10/100)に、露出時間が1/5秒の画素値「200」は「10」(=200×5/100)に、露出時間が1/20秒の画素値「150」は「30」(=150×20/100)に、露出時間が1/100秒の画素値「100」は「100」(=100×100/100)に、それぞれ補正される。但し、基準となる最短露出時間「1/100秒」の画素値「100」については、補正前後で、値は変わらないから、必ずしも補正を行う必要はない。
【0083】
なお、上述の場合においては、最短露出時間1/SBASEを基準として、各露出時間1/Sが対応付けられている画素値を、S/SBASE倍に補正するようにしたが、その他、例えば、メモリ6に記憶された露出時間のうち、最も長い露出時間(以下、最長露出時間という)1/SBASE’[秒]を基準として、各露出時間1/S[秒]が対応付けられている画素値を、S/SBASE’倍に補正することも可能である。
【0084】
この場合、上述の画素値と露出時間のセット(255,1/10),(200,1/5),(150,1/20),(100,1/100)については、最長露出時間1/SBASE’が、1/5秒であるから、露出時間が1/10秒の画素値「255」は「510」(=255×10/5)に、露出時間が1/5秒の画素値「200」は「200」(=200×5/5)に、露出時間が1/20秒の画素値「150」は「600」(=150×20/5)に、露出時間が1/100秒の画素値「100」は「2000」(=100×100/5)に、それぞれ補正される。
【0085】
なお、画素値補正部22では、その他、最短露出時間および最長露出時間以外の露出時間を基準として、画素値の補正を行うことが可能である。
【0086】
以上から、A/D変換器4が出力する画素値が、Mビットであるとすると、画素値補正部22が出力する補正後の画像を構成する画素値は、Mビットを越えるビット数となる場合がある。即ち、ここでは、A/D変換器4が出力する画素値を8ビットとしているが、画素値補正部22が出力する補正後の画像を構成する画素値は、8ビットを越えるビット数となる。
【0087】
その結果、画素値補正部22からは、被写体がコントラストの強いものであっても、そのコントラストが十分に表現された画像、即ち、ダイナミックレンジが、A/D変換器4の出力ビット数よりも大にされた画像が出力されることになる。
【0088】
なお、ここでは、最短露出時間を基準とするようにしたが、基準とする露出時間は、任意の値とすることができる。即ち、基準とする露出時間は、メモリ6に記憶された最短露出時間以外の露出時間であっても良いし、メモリ6に記憶されていない露出時間であっても良い。
【0089】
従って、画素値の補正は、例えば、1/1秒を基準として行うことでき、この場合は、画素値pに対して、対応付けられている露出時間1/Sの逆数Sを乗算して得られる画素値が、補正後の画素値ということになる。
【0090】
なお、画像のダイナミックレンジは、いずれの露出時間を基準値として補正を行っても、同様に大きくなる。
【0091】
ステップS8において、以上のように、補正された画素値でなる画像データが出力されると、ステップS9に進み、ステップS4乃至S7の処理が繰り返されることにより、メモリ25に記憶された各画素ごとの露出時間が、シャッタ制御部12に送信され、ステップS2に戻り、以下、次のフレームについて、同様の処理が繰り返される。従って、次のフレームについては、メモリ25に記憶された各画素ごとの露出時間で画像の撮影が行われる。
【0092】
以上のように、CCD3が出力する画素値を評価し、その評価結果に基づき、シャッタ2による、CCD3の受光面に対する露出時間を、画素単位で設定して、被写体の撮像を行うようにしたので、コントラストの強い被写体であっても、そのディテールを損なわい画像を得ることができる。
【0093】
また、一般に、CCDのダイナミックレンジは、それほど広くはないが、上述のように、画素ごとに露出時間を制御することで、CCD3(あるいはA/D変換器4)のダイナミックレンジを広げた場合と同様の効果を得ることができる。
【0094】
なお、上述の場合においては、メモリ6に記憶された各画素値を、その画素値に対応付けられた露出時間に基づいて補正して出力するようにしたが、メモリ6に記憶された各画素値は、そのまま、その画素値に対応付けられた露出時間とともに出力し、記録媒体102に記録、または伝送媒体104を介して伝送することが可能である。
【0095】
次に、図9は、図1の表示装置102の構成例を示している。
【0096】
読み出し部61は、記録媒体103から、そこに記録された画像情報(補正された画素値、または画素値と露出時間)を読み出し(再生し)、I/F63に供給する。通信部62は、伝送路104を介して送信されてくる画像情報を受信し、I/F63に供給する。I/F63は、読み出し部61または通信部62から供給される画像情報を受信し、表示制御部64に供給する。
【0097】
表示制御部64は、バッファ65、画素値正規化部66、ドライバ67で構成される。
【0098】
バッファ65は、I/F65から供給される画像情報を受信し、例えば、1フレーム単位で一時記憶する。
【0099】
画素値正規化部66は、バッファ65に記憶された画像情報を読み出し、その画像情報を、表示部68の表示精度に基づいて正規化する。
【0100】
即ち、画素値正規化部66は、ドライバ67を介して、表示部68の表示精度、即ち、表示部68が、何ビットの画素値を表示可能であるかを認識する。なお、ここでは、表示部68の表示精度が、Kビットであるとする。
【0101】
さらに、画素値正規化部66は、バッファ65に記憶された1フレーム分の画像情報が、補正後の画素値(以下、適宜、補正画素値という)である場合には、そのうちの最大値を検出する。いま、この最大の画素値がK’(>K)ビットで表される場合には、画素値正規化部66は、バッファ65に記憶された各補正画素値の下位K’−Kビットを切り捨て、Kビットに正規化する。
【0102】
また、画素値正規化部66は、バッファ65に記憶された画像情報が、画素値pと露出時間1/Sである場合には、図5の画素値補正部22における場合と同様に、例えば、画素値pに、露出時間1/Sの逆数Sを乗算することにより、画素値pを補正し、補正画素値p×Sを求める。そして、画素値正規化部66は、上述した場合と同様に、各補正画素値の下位K’−Kビットを切り捨て、Kビットに正規化する。
【0103】
画素値正規化部66は、以上のようにして画素値を正規化し、その正規化後の画素値(以下、適宜、正規化画素値という)を、ドライバ67に供給する。
【0104】
ドライバ67は、表示部68と通信することにより、その表示精度を認識する。あるいは、また、ドライバ67は、表示部68の表示精度をあらかじめ認識している。そして、ドライバ67は、画素値正規化部66の要求に応じて、表示部68の表示精度を、画素値正規化部66に供給する。さらに、ドライバ67は、画素値正規化部66から供給される正規化画素値に応じて、表示部68を駆動することにより、表示部68に、画像を表示させる。
【0105】
表示部68は、例えば、CRTや液晶ディスプレイ等で構成され、ドライバ67からの制御にしたがって、画像を表示する。
【0106】
次に、図10のフローチャートを参照して、図9の表示装置102の動作について説明する。
【0107】
I/F63は、読み出し部61または通信部62から供給される画像情報を受信し、表示制御部64のバッファ65に、1フレームずつ、順次供給して記憶させる。
【0108】
そして、ステップS11では、画素値正規化部66が、ドライバ67を介して、表示部68の表示精度を認識する。なお、表示精度は、上述したように、表示部68が、何ビットの画素値を表示可能であるかを表すから、表示部68が表示可能な画素値の最大値と最小値の差であるダイナミックレンジということもできるし、表示部68が識別可能な画素値どうしの差の最小値である分解能ということもできる。
【0109】
その後、ステップS12に進み、画素値正規化部66は、バッファ65に、画像情報が記憶されているかどうかを判定する。
【0110】
ステップS12において、バッファ65に、画像情報が記憶されていると判定された場合、ステップS13に進み、画素値補正部66は、バッファ65から1フレームの画像情報を読み出し、ステップS14に進む。
【0111】
ステップS14では、画素値補正部66は、バッファ65から読み出した画像情報が、補正画素値である場合には、その補正画素値を、上述したように正規化することにより、正規化画素値とし、ドライバ67に供給して、ステップS12に戻る。また、画素値補正部66は、バッファ65から読み出した画像情報が、画素値と露出時間である場合には、画素値を露出時間で補正することにより、補正画素値とする。さらに、画素値補正部66は、その補正画素値を、上述したように正規化することにより、正規化画素値とし、ドライバ67に供給して、ステップS12に戻る。これにより、ドライバ67では、画素値正規化部66からの正規化画素値にしたがって、表示部68が駆動され、対応する画像、即ち、表示部68のダイナミックレンジ(分解能)を有効に利用した画像が表示される。
【0112】
なお、ここでは、表示部68の表示精度としての、表示部68が表示可能なビット数Kが、補正後画素値のビット数K’よりも小さいものとしたが、表示部68の表示精度であるビット数Kが、補正後画素値のビット数K’以上である場合には、画素値正規化部66では、上述したような正規化を行う必要はなく、従って、画素値正規化部66は、補正画素値を、そのままドライバ67に供給する。
【0113】
一方、ステップS12において、バッファ65に、画像情報が記憶されていないと判定された場合、処理を終了する。
【0114】
次に、図11は、図1のディジタルビデオカメラ101の第3実施の形態の構成例を示している。なお、図中、図2または図3における場合と対応する部分については、同一の符号を付してあり、以下では、その説明は、適宜省略する。即ち、図11のディジタルビデオカメラ101は、メモリコントローラ31およびメモリ321,322,・・・,32Nが新たに設けられるとともに、コントローラ5に替えて、コントローラ33が設けられている他は、図2または図3における場合と基本的に同様に構成されている。
【0115】
なお、図11の実施の形態において、シャッタ2は、図2における場合と同様に、DMDで構成しているが、図3における場合のように、液晶シャッタで構成することも可能である。但し、図11では、シャッタ2は、CCD3への光の入射を、CCD3を構成する画素すべてについて同一にオン/オフさせることができるものであれば良く、従って、CCD3への光の入射を画素単位で制御するDMDや液晶シャッタ等で構成する必要はない。
【0116】
メモリコントローラ31は、コントローラ33からの制御にしたがって、CCD3からA/D変換器4を介して供給される画素値を、フレームメモリ321乃至32Nのうちのいずれかに供給して記憶させる。
【0117】
メモリ321乃至32Nは、メモリコントローラ31から供給される画素値を記憶するようになっている。
【0118】
コントローラ33は、シャッタ2における露出時間を複数設定し、その複数の露出時間それぞれで、被写体からの光が、CCD3に入射するように、シャッタ2を制御する。従って、この場合、CCD3においては、コントローラ33において設定される複数の露出時間それぞれに対して、1フレームを構成する画素値が出力される。即ち、CCD3には、フレーム周期内で、コントローラ33が設定した複数の露出時間それぞれによる光が入射し、これにより、CCD3では、各フレームについて、複数の露出時間それぞれに対応する複数の画像の画素値が出力される。
【0119】
さらに、コントローラ33は、上述のようにして、複数の露出時間それぞれに対応する複数の画像を構成する画素が、各露出時間ごとに同一のメモリ32n(n=1,2,・・・,N)に記憶されるように、コントローラ31を制御する。即ち、例えば、いま、コントローラ33において、N個の露出時間が設定されるとして、n番目に短い露出時間を、第n露出時間というものとすると、コントローラ33は、CCD3からA/D変換器4を介して出力される第n露出時間に対応する画像の画素値が、メモリ32nに記憶されるように、メモリコントローラ31を制御する。
【0120】
また、コントローラ33は、メモリ321乃至32Nそれぞれに記憶された複数の露出時間に対応する画像を構成する同一位置の画素の複数の画素値から、その位置の画素について1つの画素値を選択し、その選択した画素値によって、1フレームの画像を構成する。
【0121】
さらに、コントローラ33は、コントローラ5と同様に、上述したようにして構成した1フレームの画像を構成する画素値を、その画素値を得たときの露出時間に基づき、必要に応じて補正し、その補正後の画素値でなる画像データを、例えば、1フレーム単位で、出力する。
【0122】
なお、以下においては、コントローラ33において、複数としてのN(Nは2以上の整数値)個の露出時間が設定されるものとする。
【0123】
次に、図12は、図11のコントローラ33の構成例を示している。なお、図中、図5のコントローラ5と同様に構成される部分については、同一の符号を付してあり、以下では、その説明は、適宜省略する。
【0124】
読み出し部41は、制御部42の制御にしたがって、メモリ321乃至32Nのうちのいずれかから、注目している画素の画素値を読み出し、バッファ21に供給する。
【0125】
制御部42は、評価部23による、バッファ21に記憶された画素値の評価結果、さらには、メモリ44に記憶されたN個の露出時間を必要に応じて参照しながら、画素値補正部22、読み出し部41、および基準パラメータ決定部43を制御する。
【0126】
基準パラメータ決定部43は、制御部42からの制御に基づき、N個の露出時間を決める際の基準となる基準パラメータを決定する。
【0127】
即ち、基準パラメータ決定部43は、例えば、基準となる1つの露出時間と、その露出時間を基準として、残りのN−1個の露出時間を決めるためのパラメータを、基準パラメータとして決定する。
【0128】
ここで、基準となる露出時間の他のN−1個の露出時間を決めるためのパラメータとしては、例えば、次のようなものがある。即ち、ディジタルビデオカメラにおいては、一般に、使用することのできる複数の露出時間が、あらかじめ設定されている。従って、ある露出時間を基準とした場合には、それより1段階短い露出時間や、1段階長い露出時間は、一意に決まる。従って、そのような段階数を、基準パラメータとして用いることができる。
【0129】
基準パラメータ決定部43は、基準パラメータを決定すると、その基準パラメータに基づいて、N個の露出時間を設定する。即ち、基準パラメータは決定部43は、例えば、基準パラメータとして決定された露出時間を、N個の露出時間のうちの最短値である第1露出時間とし、以下、基準パラメータとして決定された段階数ごとに長い露出時間を、順次、第2露出時間、第3露出時間、・・・、第N露出時間に設定する。
【0130】
従って、例えば、いま、ディジタルビデオカメラに、あらかじめ設定されている複数の露出時間を、その短い順に、S1,S2,・・・,SMと表すと(但し、Mは、Nより大きい整数値)、基準の露出時間がSk(kは、1以上M以下の整数値)で、段階数が1である基準パラメータについては、Sk,Sk-1,・・・,Sk-N+1のN個の露出時間が設定される。また、例えば、基準の露出時間がSkで、段階数が2である基準パラメータについては、Sk,Sk-2,Sk-4,・・・,Sk-2(N-1)のN個の露出時間が設定される。
【0131】
なお、基準パラメータ決定部43において、基準パラメータに基づいて、N個の露出時間を設定する際には、そのN個の露出時間の隣接するものどうしの段階数を線形または非線形に変化させることも可能である。即ち、基準パラメータ決定部43においては、例えば、Sk,Sk-1,Sk-3,Sk-6,Sk-10,・・・といったように、N個の露出時間を設定することが可能である。
【0132】
メモリ44は、基準パラメータ決定部43において設定されるN個の露出時間を記憶(上書き)する。
【0133】
メモリ44に記憶されたN個の露出時間は、シャッタ制御部12、メモリコントローラ31(図11)、制御部42に供給されるようになっている。これにより、シャッタ制御部12は、そのN個の露出時間それぞれで、被写体からの光が、CCD3に入射するように、シャッタ2を制御し、また、メモリコントローラ31は、N個の露出時間それぞれについて得られる、A/D変換器4からの画素値を、各露出時間ごとに、メモリ321乃至32Nのうちの対応するものに記憶させる。
【0134】
次に、図13のフローチャートを参照して、図11のディジタルビデオカメラ101の動作について説明する。
【0135】
まず最初に、ステップS21において、コントローラ33(図12)の基準パラメータ決定部43は、デフォルトの基準パラメータに基づいて、N個の露出時間を設定し、メモリ44に送信して記憶させる。
【0136】
シャッタ制御部12は、メモリ44に記憶されたN個の露出時間それぞれにしたがって、シャッタ2を制御し、即ち、フレーム周期内において、時分割で、N個の露出時間それぞれにしたがって、シャッタ2を制御し、これにより、CCD3からは、N個の露出時間それぞれに対応する画像を構成する画素値が、時分割で出力される。
【0137】
CCD3が時分割で出力する、N個の露出時間それぞれに対応する画像を構成する画素値は、メモリコントローラ31に供給される。
【0138】
メモリコントローラ31は、メモリ44を参照することで、N個の露出時間それぞれを認識し、そのN個の露出時間のうちの、第1露出時間(1番短い露出時間)に対応する画像を構成する画素値を、メモリ321に供給して、その画素値の画素に対応するアドレスに記憶させる。同様に、メモリコントローラ32は、第2露出時間乃至第N露出時間に対応する画像を構成する画素値も、メモリ322乃至32Nにそれぞれ供給して記憶させる。
【0139】
これにより、メモリ321乃至32Nそれぞれには、同一内容の画像を構成する画素について、異なる露出時間で得られた画素値が記憶される。
【0140】
その後、ステップS22に進み、制御部42は、例えば、ラスタスキャン順で、画像を構成する画素を注目画素とし、読み出し部41を制御することにより、メモリ321乃至32Nのうちの、デフォルトに設定されているメモリ(デフォルトメモリ)を対象として、そこに記憶されている注目画素の画素値を読み出させる。
【0141】
なお、デフォルトメモリとするメモリは、特に限定されるものではなく、メモリ321乃至32Nのうちの、例えば、メモリ32N/2または32(N-1)/2等の任意のメモリを、デフォルトメモリとすることが可能である。
【0142】
ここで、メモリ321乃至32Nのうち、読み出し部41が画素値を読み出す対象としているものを、以下、適宜、注目メモリという。
【0143】
読み出し部41は、制御部42の制御にしたがって、注目メモリから、注目画素の画素値を読み出すと、その画素値をバッファ21に供給して記憶させ、ステップS23に進む。
【0144】
ステップS23では、評価部23は、バッファ21に記憶された注目画素の画素値を評価し、その評価結果を、制御部42に出力して、ステップS24に進む。
【0145】
ステップS24では、制御部42は、評価部23からの評価結果に基づき、注目画素の画素値が、白つぶれの状態であるかどうか(さらには、必要に応じて注目画素の動きが大であるかどうか)を判定する。ステップS24において、注目画素の画素値が、白つぶれの状態であると判定された場合(あるいは、動きが大であると判定された場合)、即ち、注目メモリから読み出した画素値を得るときに用いた露出時間が長すぎる場合、ステップS25に進み、制御部42は、注目メモリが、最も短い露出時間(第1露出時間)に対応する画像の画素値が記憶されているもの(以下、適宜、最短メモリという)(本実施の形態では、メモリ321)であるかどうかを判定する。
【0146】
ステップS25において、注目メモリが最短メモリでないと判定された場合、ステップS26に進み、制御部42は、読み出し部41を制御することにより、注目メモリを、次に短い露出時間に対応する画像の画素値が記憶されているものに変更させる。即ち、本実施の形態では、注目メモリが、メモリ32nであるとすると、制御部42は、注目メモリを、メモリ32nから、メモリ32n-1に変更させる。そして、制御部42は、変更後の注目メモリから、注目画素の画素値を読み出すように、読み出し部41を制御して、ステップS23に戻り、以下、同様の処理が繰り返される。
【0147】
また、ステップS25において、注目メモリが最短メモリであると判定された場合、即ち、いま設定されているN個の露出時間のうち、最も短い露出時間を用いて得た画素値であっても、白つぶれの状態となっており、従って、白つぶれの状態を回避するには、露出時間をより短時間化する必要がある場合、ステップS27に進み、制御部42は、N個の露出時間の全体または一部(例えば、N個の露出時間のうちの短いものの幾つか)をより短時間化する要求を、基準パラメータ決定部43に供給し、ステップS28に進む。
【0148】
一方、ステップS24において、注目画素の画素値が、白つぶれの状態でないと判定された場合、ステップS29に進み、制御部42は、評価部23からの評価結果に基づき、注目画素の画素値が、黒つぶれの状態であるかどうかを判定する。ステップS29において、注目画素の画素値が、黒つぶれの状態であると判定された場合、即ち、注目メモリから読み出した画素値を得るときに用いた露出時間が短すぎる場合、ステップS30に進み、制御部42は、注目メモリが、最も長い露出時間(本実施の形態では、第N露出時間)に対応する画像の画素値が記憶されているもの(以下、適宜、最長メモリという)(本実施の形態では、メモリ32N)であるかどうかを判定する。
【0149】
ステップS30において、注目メモリが最長メモリでないと判定された場合、ステップS31に進み、制御部42は、読み出し部41を制御することにより、注目メモリを、次に長い露出時間に対応する画像の画素値が記憶されているものに変更させる。即ち、本実施の形態では、注目メモリが、メモリ32nであるとすると、制御部42は、注目メモリを、メモリ32nから、メモリ32n+1に変更させる。そして、制御部42は、変更後の注目メモリから、注目画素の画素値を読み出すように、読み出し部41を制御し、ステップS23に戻り、以下、同様の処理が繰り返される。
【0150】
また、ステップS30において、注目メモリが最長メモリであると判定された場合、即ち、いま設定されているN個の露出時間のうち、最も長い露出時間を用いて得た画素値であっても、黒つぶれの状態となっており、従って、黒つぶれの状態を回避するには、露出時間をより長時間化する必要がある場合、ステップS32に進み、制御部42は、N個の露出時間の全体または一部(例えば、N個の露出時間のうちの長いものの幾つか)をより長時間化する要求を、基準パラメータ決定部43に供給し、ステップS28に進む。
【0151】
一方、ステップS29において、注目画素の画素値が、黒つぶれの状態でないと判定された場合、即ち、注目画素の画素値が、白つぶれおよび黒つぶれのいずれの状態でもない場合、ステップS28に進み、バッファ21に記憶されている注目画素の画素値が、画素値補正部22に供給される。また、ステップS28では、制御部42は、バッファ21に記憶されている画素値を得たときの露出時間を、メモリ44を参照することで認識し、その露出時間を、画素値補正部22に供給する。さらに、ステップS28では、画素値補正部22は、バッファ21からの注目画素の画素値と、制御部42からの、その画素値を得るのに用いた露出時間とを対応付けて、メモリ6に供給して記憶させる。
【0152】
従って、ステップS28では、画素値補正部22において、原則として、注目画素について、メモリ321乃至32Nに記憶されている複数の画素値のうち、白つぶれおよび黒つぶれのいずれの状態になっていないものが選択されて、メモリ6に記憶されることになる。
【0153】
但し、注目画素について、メモリ321乃至32Nに記憶されている複数の画素値のうち、白つぶれまたは黒つぶれの状態になっていないものが存在しない場合には、白つぶれまたは黒つぶれの状態の程度が最も低い画素値が選択され、メモリ6に記憶されるとともに、その白つぶれまたは黒つぶれの状態を解消するために、露出時間の変更が、制御部42から基準パラメータ決定部43に対して要求される。
【0154】
メモリ6に、注目画素の画素値と露出時間を記憶させた後は、ステップS33に進み、1フレームの画像を構成する画素値すべてを、メモリ6に書き込んだかどうかが判定される。ステップS33において、1フレームの画像を構成する画素値すべてを、まだ、メモリ6に書き込んでいないと判定された場合、ステップS34に進み、ラスタスキャン順で、いま注目画素となっている次の画素が、新たに注目画素とされ、読み出し部41において、その注目画素の画素値が、注目メモリから読み出される。そして、ステップS23に戻り、以下、同様の処理が繰り返される。
【0155】
また、ステップS33において、1フレームを構成する画素値すべてを、メモリ6に書き込んだと判定された場合、即ち、メモリ6に、1フレームを構成するすべての画素の画素値と、それらに対応付けられた露出時間が記憶された場合、ステップS35に進み、画素値補正部22は、図7のステップS8における場合と同様に、メモリ6から各画素値を読み出し、各画素値を、その画素値に対応付けられた露出時間に基づいて補正し、その補正後の画素値で構成される1フレームの画像データを出力する。
【0156】
そして、ステップS36に進み、基準パラメータ決定部43は、ステップS27またはS32において、露出時間の短時間化または長時間化の要求があった場合には、その要求にしたがった露出時間が設定されるように、基準パラメータを決定し直す。さらに、基準パラメータ決定部43は、その決定し直した基準パラメータに基づいて、N個の露出時間を設定し直し、ステップS37に進む。
【0157】
なお、露出時間の短時間化または長時間化の要求がなかった場合には、基準パラメータ決定部43は、前回決定した基準パラメータをそのまま用いて、前回と同一のN個の露出時間を設定する。
【0158】
ステップS37では、基準パラメータ決定部43は、ステップS36で設定したN個の露出時間を、メモリ44に供給して記憶させ、ステップS22に戻り、以下、次のフレームについて、同様の処理が繰り返される。
【0159】
以上のように、複数の露出時間を設定し、その複数の露出時間それぞれに対応する画像を得て、白つぶれおよび黒つぶれのいずれの状態になっていない画素値を選択することにより、各フレームの画像を構成するようにしたので、コントラストの強い被写体であっても、そのディテールを損なわい画像を得ることができる。そして、この場合も、図および図3における場合と同様に、CCD3(あるいはA/D変換器4)のダイナミックレンジを広げた場合と同様の効果を得ることができる。
【0160】
なお、図11の実施の形態においても、メモリ6に記憶された各画素値は、そのまま、その画素値に対応付けられた露出時間とともに出力し、記録媒体103に記録、または伝送媒体104を介して伝送することが可能である。
【0161】
次に、上述の場合には、画素値補正部22において、露出時間による画素値の補正を、露出時間と画素値とが比例関係にあることを前提として行ったが、露出時間と画素値とが比例関係にない場合には、比例関係を前提とする画素値の補正の結果得られる補正画素値が誤差を含むものとなる。
【0162】
そこで、画素値補正部22では、露出時間と画素値との関係を推定し、その推定結果に基づいて、露出時間による画素値の補正を行うようにすることが可能である。
【0163】
即ち、例えば、A/D変換器4の出力が8ビットである場合には、画素値補正部22は、幾つかの明るさについて、図14に示すように、露出時間を変えて、0乃至255(=28−1)の範囲の画素値を得る。なお、図14においては、×印が、各露出時間に対して得られた画素値を表している。
【0164】
さらに、画素値補正部22は、各明るさについて得られた、各露出時間による画素値を用いて、各明るさごとの露出時間と画素値との関係を近似する近似曲線を求める。なお、図14の実施の形態においては、3つの明るさについての露出時間と画素値との関係を表す近似曲線L11,L12,L13が得られている。
【0165】
そして、画素値補正部22は、このようにして得られた近似曲線に基づいて、露出時間による画素値の補正を行う。
【0166】
即ち、画素値補正部22は、図15に示すように、補正しようとする画素値p0と、その画素値に対する露出時間t0とで規定される点(p0,t0)(図15において×印で表す)に最も近い近似曲線を求める。図15の実施の形態では、近似曲線L21が、点(p0,t0)に最も近いものとなっている。
【0167】
そして、露出時間t0に対する画素値p0を、露出時間t1に対する画素値に補正する場合には、画素値補正部22は、近似曲線L21上の、露出時間t1に対応する点(図15において○印で示す)を求め、その点によって表される画素値p1を補正画素値とする。
【0168】
この場合、精度の良い補正画素値を得ることが可能となる。
【0169】
即ち、露出時間と画素値とが、比例関係になく、例えば、図15の近似曲線L21で示すような非線形の関係にある場合には、露出時間と画素値との比例関係を前提として、画素値p0の補正を行うと、画素値p0は、原点を通る直線L22上の、露出時間t1に対応する点(図15において□印で示す)によって表される画素値p3に補正されることになり、誤差ε(=p3−p1)が生じる。これに対して、近似曲線を用いて、画素値の補正を行う場合には、そのような誤差は生じないことになる。
【0170】
ところで、図13のフローチャートによる処理によれば、N個のメモリ321乃至32Nに記憶された、N個の露出時間それぞれについて得られた注目画素の複数の画素値のうち、白つぶれおよび黒つぶれのいずれの状態でもないものが最初に見つかると、画素値補正部22は、その最初に見つかった画素値を、注目画素の画素値として選択し、メモリ6に記憶させる。
【0171】
しかしながら、画素値補正部22には、例えば、ある画素値を基準画素値として、その基準画素値に近い画素値を、注目画素の画素値として選択させるようにすることが可能である。
【0172】
即ち、一般には、A/D変換器4が出力する画素値の範囲のうちの中間程度の値において、CCD3の感度は、最も高くなると考えられる。そこで、基準画素値を、A/D変換器4が出力する画素値の範囲の中間程度の値とし、画素値補正部22には、メモリ321乃至32Nそれぞれに記憶された、注目画素のN個の画素値のうちの、基準画素値に最も近い画素値を、注目画素の画素値として選択させるようにすることが可能である。
【0173】
このようにして選択された画素値によれば、次のような画像が構成されることになる。
【0174】
即ち、図16は、ある被写体について、複数の露出時間を用いて得られた画像の、ある水平ライン上の画素値を示している。なお、図16の実施の形態では、複数の露出時間として、1/5,1/10,1/20,1/30,1/60,1/120,1/180秒の7つの露出時間を用いている。また、図16において、曲線L31,L32,L33,L34,L35,L36,L37が、1/5,1/10,1/20,1/30,1/60,1/120,1/180秒の露出時間それぞれによって得られた画素値(A/D変換器4の出力)を示している。
【0175】
図17は、図16の画素値を、露出時間によって補正した補正画素値を示している。なお、図17の実施の形態では、画素値と露出時間とが比例関係にあるものとし、1/10秒を基準の露出時間として、露出時間が1/S[秒]の画素値を、S/10倍することにより、補正画素値を求めている。また、図17の実施の形態では、露出時間が、1/10,1/20,1/30,1/60,1/120秒の5つの露出時間についての補正画素値を示しており、曲線L41,L42L43,L44,L45が、1/10,1/20,1/30,1/60,1/120秒の露出時間それぞれによって得られた画素値の補正画素値を示している。
【0176】
図16の画素値は、A/D変換器の出力であるから、8ビットであるのに対して、図17の画素値は補正画素値であるから、8ビットより大きいダイナミックレンジが得られている。
【0177】
図18は、基準画素値に最も近い画素値の補正画素値を選択して構成した画像を示している。なお、図18の実施の形態では、基準画素値として100を用いている。従って、露出時間Tによって得られた画素値をPTとするとともに、画素値PTを補正した補正画素値をf(PT)とすると、図18の画像は、例えば、式P=f(min(PT−PB2)で得られる補正画素値Pによって構成される。但し、min(PT−PB2は、(PT−PB2を最小にするPTを表す。また、PBは、基準画素値を表し、ここでは、上述したように100である。
【0178】
図16と図18とを比較することにより、A/D変換器4の出力をそのまま用いる場合には、画素値が0乃至255の範囲の画像(図16)しか得ることができないが、補正画素値による場合には、より広い範囲の画素値(図18では、0乃至700程度)による画像、つまり、ダイナミックレンジの広い画像を得ることができる。
【0179】
次に、上述した一連の処理は、ハードウェアにより行うこともできるし、ソフトウェアにより行うこともできる。一連の処理をソフトウェアによって行う場合には、そのソフトウェアを構成するプログラムが、汎用のコンピュータ等にインストールされる。
【0180】
そこで、図19は、上述した一連の処理を実行するプログラムがインストールされるコンピュータの一実施の形態の構成例を示している。
【0181】
プログラムは、コンピュータに内蔵されている記録媒体としてのハードディスク205やROM203に予め記録しておくことができる。
【0182】
あるいはまた、プログラムは、フロッピーディスク、CD-ROM(Compact Disc Read Only Memory),MO(Magneto optical)ディスク,DVD(Digital Versatile Disc)、磁気ディスク、半導体メモリなどのリムーバブル記録媒体211に、一時的あるいは永続的に格納(記録)しておくことができる。このようなリムーバブル記録媒体211は、いわゆるパッケージソフトウエアとして提供することができる。
【0183】
なお、プログラムは、上述したようなリムーバブル記録媒体211からコンピュータにインストールする他、ダウンロードサイトから、ディジタル衛星放送用の人工衛星を介して、コンピュータに無線で転送したり、LAN(Local Area Network)、インターネットといったネットワークを介して、コンピュータに有線で転送し、コンピュータでは、そのようにして転送されてくるプログラムを、通信部208で受信し、内蔵するハードディスク205にインストールすることができる。
【0184】
コンピュータは、CPU(Central Processing Unit)202を内蔵している。CPU202には、バス201を介して、入出力インタフェース210が接続されており、CPU202は、入出力インタフェース210を介して、ユーザによって、キーボードや、マウス、マイク等で構成される入力部207が操作等されることにより指令が入力されると、それにしたがって、ROM(Read Only Memory)203に格納されているプログラムを実行する。あるいは、また、CPU202は、ハードディスク205に格納されているプログラム、衛星若しくはネットワークから転送され、通信部208で受信されてハードディスク205にインストールされたプログラム、またはドライブ209に装着されたリムーバブル記録媒体211から読み出されてハードディスク205にインストールされたプログラムを、RAM(Random Access Memory)204にロードして実行する。これにより、CPU202は、上述したフローチャートにしたがった処理、あるいは上述したブロック図の構成により行われる処理を行う。そして、CPU202は、その処理結果を、必要に応じて、例えば、入出力インタフェース210を介して、LCD(Liquid CryStal Display)やスピーカ等で構成される出力部206から出力、あるいは、通信部208から送信、さらには、ハードディスク205に記録等させる。
【0185】
ここで、本明細書において、コンピュータに各種の処理を行わせるためのプログラムを記述する処理ステップは、必ずしもフローチャートとして記載された順序に沿って時系列に処理する必要はなく、並列的あるいは個別に実行される処理(例えば、並列処理あるいはオブジェクトによる処理)も含むものである。
【0186】
また、プログラムは、1のコンピュータにより処理されるものであっても良いし、複数のコンピュータによって分散処理されるものであっても良い。さらに、プログラムは、遠方のコンピュータに転送されて実行されるものであっても良い。
【0187】
なお、図2乃至図4の実施の形態では、シャッタ2として、CCD3の各画素ごとに、露出を制御することができるものを用いるようにしたが、シャッタ2としては、その他、例えば、CCD3の2画素等の複数画素ごとに、露出を制御することができるものを用いるようにすることが可能である。
【0188】
また、本発明は、動画および静止画のいずれにも適用可能である。
【0189】
さらに、本実施の形態では、絞りについては、特に言及しなかったが、画素値の評価結果に基づいて、絞りの制御を行うようにすることも可能である。即ち、画素値の評価結果から、黒つぶれまたは白つぶれの状態となっている場合には、それぞれ、絞りを開放し、または絞るように制御することが可能である。なお、絞りは、ユーザが手動で調整するようにしても良い。
【0190】
【発明の効果】
本発明の第1の撮像制御装置、撮像制御方法、プログラム、およびプログラム記録媒体によればコントラストの強い被写体についても、そのディテールを損なわない画像を得ることが可能となる。
【0193】
本発明の第2の撮像制御装置、撮像制御方法、プログラム、およびプログラム記録媒体によれば、コントラストの強い被写体についても、そのディテールを損なわない画像を得ることが可能となる。
【図面の簡単な説明】
【図1】本発明を適用したディジタルビデオカメラシステムの構成例を示すブロック図である。
【図2】本発明を適用したディジタルビデオカメラ101の第1実施の形態の構成例を示す図である。
【図3】本発明を適用したディジタルビデオカメラ101の第2実施の形態の構成例を示すブロック図である。
【図4】図2および図3のコントローラ5の構成例を示すブロック図である。
【図5】図4の画像評価部11の構成例を示すブロック図である。
【図6】図5の評価部23の構成例を示すブロック図である。
【図7】図4(図2および図3)のディジタルビデオカメラ101の動作を説明するためのフローチャートである。
【図8】メモリ6と25の記憶内容を示す図である。
【図9】図1の表示装置102の構成例を示すブロック図である。
【図10】図9の表示装置102の処理を説明するフローチャートである。
【図11】本発明を適用したディジタルビデオカメラ101の第3実施の形態の構成例を示すブロック図である。
【図12】図11のコントローラ33の構成例を示すブロック図である。
【図13】図11のディジタルビデオカメラ101の動作を説明するためのフローチャートである。
【図14】画素値と露出時間との関係を示す図である。
【図15】画素値と露出時間との関係を近似する近似曲線を用いた画素値の補正を説明する図である。
【図16】複数の露出時間によって得られた画素値を示す図である。
【図17】補正画素値を示す図である。
【図18】基準画素値に最も近い画素値を補正した補正画素値で構成される画像を示す図である。
【図19】本発明を適用したコンピュータの一実施の形態の構成例を示すブロック図である。
【符号の説明】
1 レンズ, 2 シャッタ, 3 CCD, 4 A/D変換器, 5 コントローラ, 6 メモリ, 7 I/F, 8 記録部, 9 通信部, 11 画像評価部, 12 シャッタ制御部, 21 バッファ, 22 画素値補正部, 23 評価部, 24 露出時間決定部, 25 メモリ, 31 メモリコントローラ, 321乃至32N メモリ, 33 コントローラ, 41 読み出し部, 42 制御部, 43 基準パラメータ決定部, 44 メモリ, 51 読み出し部, 52 バッファ, 53 動き判定部, 54 画素値判定部, 61 読み出し部, 62 通信部, 63 I/F, 64表示制御部, 65 バッファ, 66 画素値正規化部, 67 ドライバ, 68 表示部, 101 ディジタルビデオカメラ, 102 表示装置, 103 記録媒体, 104 伝送媒体, 201 バス, 202 CPU, 203 ROM, 204 RAM, 205 ハードディスク, 206 出力部, 207 入力部, 208 通信部, 209 ドライブ, 210 入出力インタフェース, 211 リムーバブル記録媒体

Claims (32)

  1. 被写体からの光を受光して光電変換する受光面を有し、その光電変換の結果得られる画素値を出力する撮像手段を制御する撮像制御装置であって、
    前記画素値を評価する評価手段と、
    前記評価手段による評価結果に基づいて、前記受光面に対する露出時間を、画素単位で制御する制御手段と
    を備え、
    前記評価手段は、
    前記撮像手段が出力する前記画素値を記憶する第1記憶手段と、
    前記撮像手段が出力する前記画素値のうちの注目しているものである注目画素値と、前記第1記憶手段に記憶された画素値のうちの前記注目画素値に対応する画素値とを比較することにより、前記注目画素値に対応する画素である注目画素の動きを判定する動き判定手段と、
    前記注目画素値が所定の範囲の値であるかどうかを判定する画素値判定手段と
    を有し、
    前記制御手段は、前記注目画素値が所定の範囲内の値でないときに、前記注目画素値が所定の範囲内の値になるように、前記受光面の、前記注目画素に対する露出時間を制御するとともに、前記注目画素値の動きの判定結果に基づいて、前記受光面の、前記注目画素に対する露出時間を制御する
    ことを特徴とする撮像制御装置。
  2. 前記制御手段は、前記注目画素値が所定の値以上であるときに、その画素値に対応する前記受光面の画素に対する露出時間を短くする
    ことを特徴とする請求項に記載の撮像制御装置。
  3. 前記制御手段は、前記注目画素値が所定の値以下であるときに、その画素値に対応する前記受光面の画素に対する露出時間を長くする
    ことを特徴とする請求項に記載の撮像制御装置。
  4. 前記制御手段は、
    前記光を、前記受光面に反射する、回動自在に設けられた複数の反射ミラーと、
    前記評価手段による評価結果に基づいて、前記複数の反射ミラーそれぞれの回動を制御することにより、前記受光面に対する露出時間を、画素単位で制御する回動制御部と
    を有する
    ことを特徴とする請求項に記載の撮像制御装置。
  5. 前記制御手段は、
    前記光を透過または反射し、前記受光部に入射させる液晶シャッタを有し、
    前記評価手段による評価結果に基づいて、前記液晶シャッタにおける光の通過または反射を画素単位で制御することにより、前記受光面に対する露出時間を、画素単位で制御する液晶制御部と
    を有する
    ことを特徴とする請求項に記載の撮像制御装置。
  6. 前記撮像手段が出力する前記画素値を、その画素値に対応する画素の露出時間に基づいて補正する補正手段をさらに備える
    ことを特徴とする請求項1に記載の撮像制御装置。
  7. 前記撮像手段が出力する複数の画素値と、その複数の画素値に対応する画素それぞれの露出時間とを記憶する第2記憶手段をさらに備え、
    前記補正手段は、前記第2記憶手段に記憶された複数の露出時間のうちの最長の露出時間を1/SBASEとするとともに、前記第2記憶手段に記憶された画素値の露出時間を1/Sとするとき、前記第2記憶手段に記憶された画素値をS/SBASE倍することにより、前記画素値を補正する
    ことを特徴とする請求項に記載の撮像制御装置。
  8. 前記補正手段において補正された画素値に応じて、画像を表示する表示部に、画像を表示する表示制御部をさらに備える
    ことを特徴とする請求項に記載の撮像制御装置。
  9. 前記撮像手段が出力する画素値と、その画素値に対応する画素の露出時間とに応じて、画像を表示する表示部に、画像を表示する表示制御部をさらに備える
    ことを特徴とする請求項1に記載の撮像制御装置。
  10. 前記表示制御部は、
    前記撮像手段が出力する複数の画素値と、各画素値に対応する画素の露出時間とを記憶する第2記憶手段と、
    前記第2記憶手段に記憶された複数の画素値それぞれを、対応する露出時間により補正する補正部と、
    前記表示部の表示精度に応じて、補正後の前記画素値を正規化する正規化部と
    を有する
    ことを特徴とする請求項に記載の撮像制御装置。
  11. 前記撮像手段が出力する複数の画素値と、各画素値に対応する画素の露出時間と対応付けて記憶する第2記憶手段をさらに備える
    ことを特徴とする請求項1に記載の撮像制御装置。
  12. 被写体からの光を受光して光電変換する受光面を有し、その光電変換の結果得られる画素値を出力する撮像手段を制御する撮像方法であって、
    前記撮像手段から取得した前記画素値を評価する評価ステップと、
    前記評価ステップによる評価結果に基づいて、前記受光面に対する露出時間を、画素単位で制御する制御ステップと
    を備え、
    前記評価ステップの処理は、
    前記撮像手段が出力する前記画素値を記憶手段に記憶する記憶ステップと、
    前記撮像手段が出力する前記画素値のうちの注目しているものである注目画素値と、前記記憶手段に記憶された画素値のうちの前記注目画素値に対応する画素値とを比較することにより、前記注目画素値に対応する画素である注目画素の動きを判定する動き判定ステップと、
    前記注目画素値が所定の範囲の値であるかどうかを判定する画素値判定ステップと
    を有し、
    前記制御ステップの処理では、前記注目画素値が所定の範囲内の値でないときに、前記注目画素値が所定の範囲内の値になるように、前記受光面の、前記注目画素に対する露出時間が制御されるとともに、前記注目画素値の動きの判定結果に基づいて、前記受光面の、前記注目画素に対する露出時間が制御される
    ことを特徴とする撮像制御方法。
  13. 被写体からの光を受光して光電変換する受光面を有し、その光電変換の結果得られる画素値を出力する撮像手段を制御する撮像制御処理を、コンピュータに行わせるプログラムであって、
    前記撮像手段から取得した前記画素値を評価する評価ステップと、
    前記評価ステップによる評価結果に基づいて、前記受光面に対する露出時間を、画素単位で制御する制御ステップと
    を備え、
    前記評価ステップの処理は、
    前記撮像手段が出力する前記画素値を記憶手段に記憶する記憶ステップと、
    前記撮像手段が出力する前記画素値のうちの注目しているものである注目画素値と、前記記憶手段に記憶された画素値のうちの前記注目画素値に対応する画素値とを比較することにより、前記注目画素値に対応する画素である注目画素の動きを判定する動き判定ステップと、
    前記注目画素値が所定の範囲の値であるかどうかを判定する画素値判定ステップと
    を有し、
    前記制御ステップの処理では、前記注目画素値が所定の範囲内の値でないときに、前記注目画素値が所定の範囲内の値になるように、前記受光面の、前記注目画素に対する露出時間が制御されるとともに、前記注目画素値の動きの判定結果に基づいて、前記受光面の、前記注目画素に対する露出時間が制御される
    ことを特徴とするプログラム。
  14. 被写体からの光を受光して光電変換する受光面を有し、その光電変換の結果得られる画素値を出力する撮像手段を制御する撮像制御処理を、コンピュータに行わせるプログラムが記録されているプログラム記録媒体であって、
    前記撮像手段から取得した前記画素値を評価する評価ステップと、
    前記評価ステップによる評価結果に基づいて、前記受光面に対する露出時間を、画素単位で制御する制御ステップと
    を備え、
    前記評価ステップの処理は、
    前記撮像手段が出力する前記画素値を記憶手段に記憶する記憶ステップと、
    前記撮像手段が出力する前記画素値のうちの注目しているものである注目画素値と、前記記憶手段に記憶された画素値のうちの前記注目画素値に対応する画素値とを比較することにより、前記注目画素値に対応する画素である注目画素の動きを判定する動き判定ステップと、
    前記注目画素値が所定の範囲の値であるかどうかを判定する画素値判定ステップと
    を有し、
    前記制御ステップの処理では、前記注目画素値が所定の範囲内の値でないときに、前記注目画素値が所定の範囲内の値になるように、前記受光面の、前記注目画素に対する露出時間が制御されるとともに、前記注目画素値の動きの判定結果に基づいて、前記受光面の、前記注目画素に対する露出時間が制御される
    プログラムが記録されているコンピュータ読み取り可能なプログラム記録媒体。
  15. 被写体からの光を受光して光電変換する受光面を有し、その光電変換の結果得られる画素値を出力する撮像手段を制御する撮像制御装置であって、
    前記受光面に対する複数の露出時間を制御する制御手段と、
    前記撮像手段において、前記制御手段の制御に基づき、前記被写体を、前記複数の露出時間で撮像することにより得られる、各画素位置の、前記複数の露出時間それぞれに対応する画素値から、1つの画素値を選択する選択手段と
    前記撮像手段が出力する各画素位置の前記画素値を、その画素値に対応する露出時間に基づいて補正する補正手段と
    を備えることを特徴とする撮像制御装置。
  16. 前記選択手段は、前記複数の露出時間それぞれに対応する画素値から、所定の値に最も近い1つの画素値を選択する
    ことを特徴とする請求項15に記載の撮像制御装置。
  17. 前記複数の露出時間それぞれに対応する画素値のうちの、少なくとも1つの画素値を評価する評価手段をさらに備え、
    前記制御手段は、前記評価手段による評価結果に基づいて、前記複数の露出時間のうちの、少なくとも1つを変更する
    ことを特徴とする請求項15に記載の撮像制御装置。
  18. 前記評価手段は、前記複数の露出時間それぞれに対応する画素値のうちの、少なくとも1つの画素値が所定の範囲の値であるかどうかを評価し、
    前記選択手段は、前記少なくとも1つの画素値が所定の範囲内の値でないときに、前記複数の露出時間のうちの、前記少なくとも1つの画素値に対応する露出時間以外の露出時間に対応する画素値を選択する
    ことを特徴とする請求項17に記載の撮像制御装置。
  19. 前記選択手段は、前記少なくとも1つの画素値が所定の値以上であるときに、前記複数の露出時間のうちの、前記少なくとも1つの画素値に対応する露出時間よりも短い露出時間に対応する画素値を選択する
    ことを特徴とする請求項18に記載の撮像制御装置。
  20. 前記選択手段は、前記少なくとも1つの画素値が所定の値以下であるときに、前記複数の露出時間のうちの、前記少なくとも1つの画素値に対応する露出時間よりも長い露出時間に対応する画素値を選択する
    ことを特徴とする請求項18に記載の撮像制御装置。
  21. 前記制御手段は、
    前記光を、前記受光面に反射する、回動自在に設けられた複数の反射ミラーと、
    前記評価手段による評価結果に基づいて、前記複数の反射ミラーそれぞれの回動を制御することにより、前記受光面に対する露出時間を制御する回動制御部と
    を有する
    ことを特徴とする請求項17に記載の撮像制御装置。
  22. 前記制御手段は、
    前記光を透過または反射し、前記受光面に入射させる液晶シャッタを有し、
    前記評価手段による評価結果に基づいて、前記液晶シャッタにおける光の通過または反射を受光面単位で制御することにより、前記受光面に対する露出時間を制御する液晶制御部と
    を有する
    ことを特徴とする請求項17に記載の撮像制御装置。
  23. 前記選択手段において選択された画素値を記憶する記憶手段をさらに備える
    ことを特徴とする請求項15に記載の撮像制御装置。
  24. 前記評価手段は、前記撮像手段が出力する画素値のうちの注目しているものである注目画素値と、前記記憶手段に記憶された画素値のうちの前記注目画素値に対応する画素値とを比較することにより、前記注目画素値に対する画素である注目画素の動きを判定する動き判定部を有し、
    前記制御手段は、前記注目画素の動きの判定結果に基づいて、前記露出時間を制御する
    ことを特徴とする請求項23に記載の撮像制御装置。
  25. 前記記憶手段は、前記選択手段において選択された各画素位置の画素値を記憶するとともに、その画素値の露出時間を記憶する
    ことを特徴とする請求項23に記載の撮像制御装置。
  26. 前記補正手段は、前記記憶手段に記憶された複数の露出時間のうちの最長の露出時間を1/SBASEとするとともに、前記記憶手段に記憶された画素値の露出時間を1/Sとするとき、前記記憶手段に記憶された画素値をS/SBASE倍することにより、前記画素値を補正する
    ことを特徴とする請求項25に記載の撮像制御装置。
  27. 前記補正手段において補正された画素値に応じて、画像を表示する表示部に、画像を表示する表示制御部をさらに備える
    ことを特徴とする請求項23に記載の撮像制御装置。
  28. 前記選択手段において選択された画素値と、その画素値に対応する露出時間とに応じて、画像を表示する表示部に、画像を表示する表示制御部をさらに備える
    ことを特徴とする請求項15に記載の撮像制御装置。
  29. 前記表示制御部は、
    前記記憶手段に記憶された複数の画素値それぞれを、対応する露出時間により補正する補正部と、
    前記表示部の表示精度に応じて、補正後の前記画素値を正規化する正規化部と
    を有する
    ことを特徴とする請求項25に記載の撮像制御装置。
  30. 被写体からの光を受光して光電変換する受光面を有し、その光電変換の結果得られる画素値を出力する撮像手段を制御する撮像制御方法であって、
    前記撮像手段における前記受光面に対する複数の露出時間を制御する制御ステップと、
    前記撮像手段において、前記制御ステップにおける制御に基づき、前記被写体を、前記複数の露出時間で撮像することにより得られる、各画素位置の、前記複数の露出時間それぞれに対応する画素値から、1つの画素値を選択する選択ステップと
    前記撮像手段が出力する各画素位置の前記画素値を、その画素値に対応する露出時間に基づいて補正する補正ステップと
    を備えることを特徴とする撮像制御方法。
  31. 被写体からの光を受光して光電変換する受光面を有し、その光電変換の結果得られる画素値を出力する撮像手段を制御する撮像制御処理を、コンピュータに行わせるプログラムであって、
    前記撮像手段における前記受光面に対する複数の露出時間を制御することにより得られる、各画素位置の、前記複数の露出時間それぞれに対応する画素値を評価する評価ステップと、
    前記評価ステップによる評価結果に基づいて、前記複数の露出時間それぞれに対応する画素値から、1つの画素値を選択する選択ステップと
    前記撮像手段が出力する各画素位置の前記画素値を、その画素値に対応する露出時間に基づいて補正する補正ステップと
    を備えることを特徴とするプログラム。
  32. 被写体からの光を受光して光電変換する受光面を有し、その光電変換の結果得られる画素値を出力する撮像手段を制御する撮像制御処理を、コンピュータに行わせるプログラムが記録されているプログラム記録媒体であって、
    前記撮像手段における前記受光面に対する複数の露出時間を制御することにより得られる、各画素位置の、前記複数の露出時間それぞれに対応する画素値を評価する評価ステップと、
    前記評価ステップによる評価結果に基づいて、前記複数の露出時間それぞれに対応する画素値から、1つの画素値を選択する選択ステップと
    前記撮像手段が出力する各画素位置の前記画素値を、その画素値に対応する露出時間に基づいて補正する補正ステップと
    を備えるプログラムが記録されているコンピュータ読み取り可能なプログラム記録媒体。
JP2001105852A 2000-04-13 2001-04-04 撮像制御装置、撮像制御方法、プログラム、およびプログラム記録媒体 Expired - Fee Related JP4844780B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2001105852A JP4844780B2 (ja) 2000-04-13 2001-04-04 撮像制御装置、撮像制御方法、プログラム、およびプログラム記録媒体
US10/009,760 US7477305B2 (en) 2000-04-13 2001-04-13 Imaging device and imaging method
PCT/JP2001/003203 WO2001080551A1 (fr) 2000-04-13 2001-04-13 Dispositif d'imagerie et procede d'imagerie
KR1020017015996A KR100860154B1 (ko) 2000-04-13 2001-04-13 촬상 장치 및 촬상 방법
US11/731,548 US7602428B2 (en) 2000-04-13 2007-03-30 Image pick-up apparatus and image pick-up method

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2000112345 2000-04-13
JP2000-112345 2000-04-13
JP2000112345 2000-04-13
JP2001105852A JP4844780B2 (ja) 2000-04-13 2001-04-04 撮像制御装置、撮像制御方法、プログラム、およびプログラム記録媒体

Publications (3)

Publication Number Publication Date
JP2001358989A JP2001358989A (ja) 2001-12-26
JP2001358989A5 JP2001358989A5 (ja) 2008-04-24
JP4844780B2 true JP4844780B2 (ja) 2011-12-28

Family

ID=26590061

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2001105852A Expired - Fee Related JP4844780B2 (ja) 2000-04-13 2001-04-04 撮像制御装置、撮像制御方法、プログラム、およびプログラム記録媒体

Country Status (4)

Country Link
US (2) US7477305B2 (ja)
JP (1) JP4844780B2 (ja)
KR (1) KR100860154B1 (ja)
WO (1) WO2001080551A1 (ja)

Families Citing this family (62)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7158180B2 (en) * 2001-12-31 2007-01-02 Texas Instruments Incorporated System and method for varying exposure time for different parts of a field of view while acquiring an image
US20040130649A1 (en) * 2003-01-03 2004-07-08 Chulhee Lee Cameras
SE0301137D0 (sv) * 2003-04-16 2003-04-16 Saab Ab Optiskt system samt ett målsökande system innefattande ett optiskt system
JP4281453B2 (ja) * 2003-07-31 2009-06-17 ソニー株式会社 信号処理装置および信号処理方法
US7595819B2 (en) 2003-07-31 2009-09-29 Sony Corporation Signal processing device and signal processing method, program, and recording medium
JP4298457B2 (ja) * 2003-10-01 2009-07-22 キヤノン株式会社 走査型画像表示装置およびそれを有する映像撮影装置
WO2005043227A2 (en) * 2003-10-31 2005-05-12 Drexel University Devices and methods for imaging with continuous tilt micromirror arrays
US7236150B2 (en) * 2003-12-19 2007-06-26 Texas Instruments Incorporated Transferring data directly between a processor and a spatial light modulator
US7382516B2 (en) * 2004-06-18 2008-06-03 Angstrom, Inc. Discretely controlled micromirror with multi-level positions
US7751694B2 (en) * 2004-02-13 2010-07-06 Angstrom, Inc. Three-dimensional endoscope imaging and display system
US7330297B2 (en) * 2005-03-04 2008-02-12 Angstrom, Inc Fine control of rotation and translation of discretely controlled micromirror
US7898144B2 (en) * 2006-02-04 2011-03-01 Angstrom, Inc. Multi-step microactuator providing multi-step displacement to a controlled object
US7474454B2 (en) * 2004-06-18 2009-01-06 Angstrom, Inc. Programmable micromirror motion control system
US8537204B2 (en) * 2004-07-08 2013-09-17 Gyoung Il Cho 3D television broadcasting system
US7580178B2 (en) * 2004-02-13 2009-08-25 Angstrom, Inc. Image-guided microsurgery system and method
US7350922B2 (en) * 2004-02-13 2008-04-01 Angstrom, Inc. Three-dimensional display using variable focal length micromirror array lens
US7173653B2 (en) * 2004-03-22 2007-02-06 Angstrom, Inc. Imaging stabilizer using micromirror array lens
US7410266B2 (en) * 2004-03-22 2008-08-12 Angstrom, Inc. Three-dimensional imaging system for robot vision
US7339746B2 (en) 2004-03-22 2008-03-04 Angstrom, Inc. Small and fast zoom system using micromirror array lens
US7768571B2 (en) * 2004-03-22 2010-08-03 Angstrom, Inc. Optical tracking system using variable focal length lens
US7742232B2 (en) * 2004-04-12 2010-06-22 Angstrom, Inc. Three-dimensional imaging system
US20070040924A1 (en) * 2005-08-19 2007-02-22 Stereo Display, Inc. Cellular phone camera with three-dimensional imaging function
US8049776B2 (en) * 2004-04-12 2011-11-01 Angstrom, Inc. Three-dimensional camcorder
US7619614B2 (en) * 2004-04-12 2009-11-17 Angstrom, Inc. Three-dimensional optical mouse system
US20070115261A1 (en) * 2005-11-23 2007-05-24 Stereo Display, Inc. Virtual Keyboard input system using three-dimensional motion detection by variable focal length lens
US7777959B2 (en) * 2004-05-27 2010-08-17 Angstrom, Inc. Micromirror array lens with fixed focal length
US7354167B2 (en) 2004-05-27 2008-04-08 Angstrom, Inc. Beam focusing and scanning system using micromirror array lens
US7667896B2 (en) 2004-05-27 2010-02-23 Angstrom, Inc. DVD recording and reproducing system
JP4250583B2 (ja) * 2004-09-30 2009-04-08 三菱電機株式会社 画像撮像装置及び画像復元方法
US7619807B2 (en) * 2004-11-08 2009-11-17 Angstrom, Inc. Micromirror array lens with optical surface profiles
US20060198011A1 (en) * 2005-03-04 2006-09-07 Stereo Display, Inc. Volumetric three-dimensional device using two-dimensional scanning device
US20060203117A1 (en) * 2005-03-10 2006-09-14 Stereo Display, Inc. Video monitoring system using variable focal length lens
US20070041077A1 (en) * 2005-08-19 2007-02-22 Stereo Display, Inc. Pocket-sized two-dimensional image projection system
US9736346B2 (en) 2006-05-09 2017-08-15 Stereo Display, Inc Imaging system improving image resolution of the system with low resolution image sensor
JP4684173B2 (ja) * 2006-06-06 2011-05-18 シーケーディ株式会社 外観検査装置及びptpシートの製造装置
US7365899B2 (en) * 2006-08-10 2008-04-29 Angstrom, Inc. Micromirror with multi-axis rotation and translation
JP4293210B2 (ja) * 2006-08-18 2009-07-08 ソニー株式会社 物理量検出装置、物理量検出装置の駆動方法、固体撮像装置、固体撮像装置の駆動方法、及び撮像装置
US7589884B2 (en) * 2006-09-22 2009-09-15 Angstrom, Inc. Micromirror array lens with encapsulation of reflective metal layer and method of making the same
US7589885B2 (en) * 2006-09-22 2009-09-15 Angstrom, Inc. Micromirror array device comprising encapsulated reflective metal layer and method of making the same
US7488082B2 (en) 2006-12-12 2009-02-10 Angstrom, Inc. Discretely controlled micromirror array device with segmented electrodes
US20080174691A1 (en) * 2007-01-19 2008-07-24 Quality Vision International Inc. Strobed image acquisition guided by range sensor
US7535618B2 (en) * 2007-03-12 2009-05-19 Angstrom, Inc. Discretely controlled micromirror device having multiple motions
US9505606B2 (en) * 2007-06-13 2016-11-29 Angstrom, Inc. MEMS actuator with discretely controlled multiple motions
KR101380615B1 (ko) * 2007-06-28 2014-04-14 삼성전자주식회사 영상 동적 범위 향상 방법 및 장치
US7605988B2 (en) * 2007-07-23 2009-10-20 Angstrom, Inc. Compact image taking lens system with a lens-surfaced prism
US7589916B2 (en) * 2007-08-10 2009-09-15 Angstrom, Inc. Micromirror array with iris function
US20090185067A1 (en) * 2007-12-21 2009-07-23 Stereo Display, Inc. Compact automatic focusing camera
US8810908B2 (en) * 2008-03-18 2014-08-19 Stereo Display, Inc. Binoculars with micromirror array lenses
US20090303569A1 (en) * 2008-05-20 2009-12-10 Stereo Didplay, Inc. Self-tilted micromirror device
US8622557B2 (en) * 2008-05-20 2014-01-07 Stereo Display, Inc. Micromirror array lens with self-tilted micromirrors
CN101651785B (zh) * 2008-08-15 2012-11-21 鸿富锦精密工业(深圳)有限公司 成像装置及其成像方法
TWI386047B (zh) * 2008-08-29 2013-02-11 Hon Hai Prec Ind Co Ltd 成像裝置及其成像方法
TWI419146B (zh) * 2009-07-23 2013-12-11 Novatek Microelectronics Corp 畫面翻轉方法及裝置
JP2012235332A (ja) 2011-05-02 2012-11-29 Sony Corp 撮像装置、および撮像装置制御方法、並びにプログラム
US8964088B2 (en) * 2011-09-28 2015-02-24 Semiconductor Components Industries, Llc Time-delay-and-integrate image sensors having variable intergration times
WO2016062785A2 (en) * 2014-10-21 2016-04-28 University College Cork - National University Of Ireland, Cork Smart photonic imaging method and apparatus
KR101673701B1 (ko) 2014-11-24 2016-11-07 현대자동차주식회사 눈 검출장치 및 방법
JP6818461B2 (ja) * 2016-08-01 2021-01-20 キヤノン株式会社 撮像装置、画像処理装置、画像処理方法および画像処理プログラム
US10789913B2 (en) * 2018-01-04 2020-09-29 Qualcomm Incorporated Arbitrary block rendering and display frame reconstruction
JP7260966B2 (ja) * 2018-02-19 2023-04-19 京セラ株式会社 電磁波検出装置
CN114255177B (zh) * 2021-11-25 2022-09-23 北京百度网讯科技有限公司 成像中的曝光控制方法、装置、设备及存储介质
CN117714891A (zh) * 2023-11-14 2024-03-15 四川新视创伟超高清科技有限公司 一种应用于相机的曝光系统、方法及相机

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0817455B2 (ja) * 1987-06-09 1996-02-21 キヤノン株式会社 撮像装置
JP2830482B2 (ja) * 1991-01-11 1998-12-02 株式会社ニコン 高ダイナミックレンジ撮像装置
US5418546A (en) * 1991-08-20 1995-05-23 Mitsubishi Denki Kabushiki Kaisha Visual display system and exposure control apparatus
US5517242A (en) * 1993-06-29 1996-05-14 Kabushiki Kaisha Toyota Chuo Kenkyusho Image sensing device having expanded dynamic range
JP3397469B2 (ja) * 1994-10-20 2003-04-14 キヤノン株式会社 固体撮像装置
KR100227485B1 (ko) * 1997-06-24 1999-11-01 김영환 영상프레임의 시분할방식을 이용한 광셔터 방식의 1패널 lcd 프로젝터
JPH1198409A (ja) * 1997-09-24 1999-04-09 Honda Motor Co Ltd イメージ検出装置
JP4003151B2 (ja) * 1998-07-09 2007-11-07 富士フイルム株式会社 撮像装置
JP2000141761A (ja) * 1998-11-17 2000-05-23 Minolta Co Ltd 固体走査型光書込み装置
JP3615454B2 (ja) * 2000-03-27 2005-02-02 三洋電機株式会社 ディジタルカメラ
JP3697256B2 (ja) * 2003-02-12 2005-09-21 キヤノン株式会社 撮像装置およびレンズ装置

Also Published As

Publication number Publication date
WO2001080551A1 (fr) 2001-10-25
JP2001358989A (ja) 2001-12-26
US20070171292A1 (en) 2007-07-26
KR100860154B1 (ko) 2008-09-24
US7602428B2 (en) 2009-10-13
KR20020023954A (ko) 2002-03-29
US20030174234A1 (en) 2003-09-18
US7477305B2 (en) 2009-01-13

Similar Documents

Publication Publication Date Title
JP4844780B2 (ja) 撮像制御装置、撮像制御方法、プログラム、およびプログラム記録媒体
JP4544332B2 (ja) 画像処理装置、画像処理方法、プログラム
US7379094B2 (en) Electronic still imaging apparatus and method having function for acquiring synthesis image having wide-dynamic range
JP4424402B2 (ja) 撮像装置、撮像制御方法、撮像制御プログラム
KR100868595B1 (ko) 촬상 장치, 노출 제어 방법, 및 촬상 장치에 저장된 컴퓨터 판독가능한 매체
CN101635797B (zh) 摄像装置
JP6278713B2 (ja) 撮像装置および撮像方法
KR20050022748A (ko) 조도차가 큰 사진의 화질 개선 장치 및 방법
JP2010068386A (ja) 撮像装置、撮像方法及びプログラム
KR20090033082A (ko) 촬상 장치, 촬상 방법, 및 촬상 프로그램
US7256832B2 (en) CCD camera forming a still image by adding offset values to the odd and even fields and method for controlling the same
JP2003158669A (ja) 撮像装置
CN105430254A (zh) 图像处理装置、摄像装置、图像处理方法
JP2009200743A (ja) 画像処理装置および画像処理方法および画像処理プログラムおよび撮像装置
KR101544741B1 (ko) 촬상 장치, 이의 제어 방법 및 상기 제어 방법을 기록한기록 매체
JP6242129B2 (ja) 撮像装置、その制御方法、及び制御プログラム
JP2018181070A (ja) 画像処理装置および画像処理方法
JP3822486B2 (ja) 電子カメラおよび信号処理方法
JP3853891B2 (ja) 電子スチルカメラ
JP2000050160A (ja) 画像合成装置,画像合成方法及び画像合成方法を記憶した記憶媒体
JP6990988B2 (ja) 撮像装置及び撮像素子の制御方法
JP2005204196A (ja) 撮像装置および方法、記録媒体、並びにプログラム
JP2003189126A (ja) 撮像装置
JP2014027460A (ja) 撮像装置、カメラシステム、撮像装置の制御方法、プログラム、記憶媒体
JPH06343159A (ja) ブレ補正機能を有する画像記録・再生システム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080307

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080307

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110712

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110829

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110915

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110928

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141021

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141021

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees