JP2004048455A - 撮像システム - Google Patents

撮像システム Download PDF

Info

Publication number
JP2004048455A
JP2004048455A JP2002204186A JP2002204186A JP2004048455A JP 2004048455 A JP2004048455 A JP 2004048455A JP 2002204186 A JP2002204186 A JP 2002204186A JP 2002204186 A JP2002204186 A JP 2002204186A JP 2004048455 A JP2004048455 A JP 2004048455A
Authority
JP
Japan
Prior art keywords
image
exposure control
image processing
processing unit
images
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2002204186A
Other languages
English (en)
Inventor
Hiroyuki Kawamura
河村 弘之
Hironori Hoshino
星野 弘典
Takeshi Fukuda
福田 岳
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Valeo Japan Co Ltd
Original Assignee
Niles Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Niles Co Ltd filed Critical Niles Co Ltd
Priority to JP2002204186A priority Critical patent/JP2004048455A/ja
Priority to US10/614,089 priority patent/US20040105027A1/en
Publication of JP2004048455A publication Critical patent/JP2004048455A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/667Camera operation mode switching, e.g. between still and video, sport and normal or high- and low-resolution modes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • H04N23/11Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths for generating image signals from visible and infrared light wavelengths
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/73Circuitry for compensating brightness variation in the scene by influencing the exposure time
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/74Circuitry for compensating brightness variation in the scene by influencing the scene brightness using illuminating means
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/741Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/745Detection of flicker frequency or suppression of flicker wherein the flicker is caused by illumination, e.g. due to fluorescent tube illumination or pulsed LED illumination

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Studio Devices (AREA)

Abstract

【課題】画像の濃度状態に応じて自動露光制御と二重露光制御とを切り換え、夜間、対向車のヘッドランプなど強い光源があってもブルーミングを抑制し、鮮明な画像出力を可能としながら、強い光源が無い場合もちらつきの無い鮮明な画像出力を可能とする。
【解決手段】前方に赤外光を照射するためのIRランプと、前方を撮像して電気信号に変換するCCDカメラ5と、CCDカメラ5の信号蓄積時間が一定周期の画像を連続して周期的に出力する自動露光制御とCCDカメラ5の信号蓄積時間を所定の周期で変化させて露光量の異なる画像を連続して周期的に出力する二重露光制御とに切換可能な画像処理ユニット7とを備え、画像処理ユニット7は、画像の濃度状態に応じて自動露光制御と二重露光制御とを切り換えることを特徴とする。
【選択図】   図2

Description

【0001】
【発明の属する技術分野】
本発明は、CCDカメラ等を用いた撮像システムに関する。
【0002】
【従来の技術】
従来の撮像システムとしては、例えば図13に示すようなものがある。この図13では、撮像手段としてCCDカメラ101を備え、画像処理部としてDSP(Digital Signal Processer)103及びCPU105を備えている。
【0003】
前記CPU105とDSP103とはマルチプレクス回路107を介して接続され、CPU105にはシャッタースピード設定スイッチ109からの信号が入力されるようになっている。シャッタースピード設定スイッチ109は、ODD(奇数番目)フィールド用のシャッタースピードとEVEN(偶数番目)フィールド用のシャッタースピードとをそれぞれ設定できるようになっている。
【0004】
すなわちシャッタースピード設定スイッチ109の設定状態をCPU105で読み取り、各フィールドのシャッタースピード設定値をエンコード出力する。DSP103からは図14で示すフィールドパルス信号が出力され、出力信号がハイの場合はEVEN側のシャッタースピード設定値出力が、ローの場合はODD側のシャッタースピード設定値出力が、マルチプレクス回路107によってDSP103のシャッタースピード設定入力端子に入力される。従って、図13のような撮像システムによってフィールド毎に異なるシャッタースピードを設定することができる。
【0005】
【発明が解決しようとする課題】
一般に、CCDカメラで撮影する場合、ODDフィールド、EVENフィールド共にシャッタースピードが同じである自動シャッタースピードのとき、図15のように周囲が暗い状態の中に強く明るい光源が入るとその光源周辺がブルーミング(ハレーション)によって見えなくなる。この図15は、自動車の夜間走行中に赤外光照射手段であるIRランプで前方に赤外光を照射し、車載のCCDカメラで走行前方を撮像した画像である。対向車のヘッドランプやガソリンスタンドの照明等の明るい光源の周辺がブルーミングによって見えなくなっている。これは自動シャッタスピードでは、画面全体の暗さを平均して出力するようにコントロールされるためである。シャッタースピードを高速にしてブルーミング(ハレーション)を抑えるようにすることもできるが、この場合は図16のように、背景が全く見えなくなってしまう。
【0006】
これに対し、前記の各フィールド毎にシャッタースピードを変える前記図13の制御は、いわゆる二重露光制御と言われているもので、フィールド毎に異なるシャッタースピードを設定している。これにより、明るい映像と暗い映像とを交互に出力し、明るい映像(この場合はODDフィールド)では暗くて見えなくなった部分を映し出し、暗い映像(この場合はEVENフィールド)ではブルーミング(ハレーション)で見えなかった部分を映し出すことが可能となる。
【0007】
そして、各フィールド画像を交互に出力し、図17のように鮮明な映像としてモニタに表示させることができる。
【0008】
しかし、前記単純な二重露光制御では、各フィールドの一方は明るい映像、他方は暗い映像となり、これらを交互に表示することになり、モニタ上でちらつきを招くという問題がある。
【0009】
一方、図18のように強く明るい光源が無く全体的に同じような明るさの画面の場合には、自動露光制御が的確に働き、ちらつきの無い鮮明な映像をモニタに表示させることができる。
【0010】
従って、常に二重露光制御を行わせる撮像システムでは、自動露光制御が的確に働き鮮明な映像をモニタに表示させることができる状況にありながら二重露光制御が行われてしまい、却って画面のちらつきを招くという問題があった。
【0011】
本発明は、画像の濃度状態に応じて自動露光制御と二重露光制御とを切り換えることのできる撮像システムの提供を課題とする。
【0012】
【課題を解決するための手段】
請求項1の発明は、赤外光を照射するための赤外光照射手段と、前記赤外光照射手段により照射された場所を撮像して電気信号に変換する撮像手段と、前記撮像手段の信号蓄積時間が所定周期の露光量が同じ画像を連続して周期的に出力する自動露光制御と前記撮像手段の信号蓄積時間を所定の周期で変化させて露光量の異なる画像を連続して周期的に出力する二重露光制御とに切換可能な画像処理部とを備え、前記画像処理部は、前記画像の濃度状態に応じて前記自動露光制御と前記二重露光制御とを切り換えることを特徴とする。
【0013】
請求項2の発明は、請求項1記載の撮像システムであって、前記画像処理部は、前記画像の明るいエリアが明るい基準となる濃度閾値を上回り且つその面積が切り換えの基準となる面積閾値を上回るとき前記自動露光制御から二重露光制御へ切り換えることを特徴とする。
【0014】
請求項3の発明は、請求項1又は2記載の撮像システムであって、前記画像処理部は、前記二重露光制御のとき前記露光量の異なる画像を縦方向に伸長させると共に伸長後の両画像の信号レベルを平均化することで合成した画像形成を行わせることを特徴とする。
【0015】
請求項4の発明は、請求項3記載の撮像システムであって、前記画像処理部は、縦方向に隣接する画素の信号レベルの平均値を間に挿入して前記伸長を行うことを特徴とする。
【0016】
請求項5の発明は、請求項1〜4の何れかに記載の撮像システムであって、前記赤外光照射手段、撮像手段、及び画像処理部は、自動車に備えられ、前記赤外光照射手段は、前記自動車の外方に赤外光を照射し、前記撮像手段は、前記自動車の外方を撮像することを特徴とする。
【0017】
【発明の効果】
請求項1の発明では、赤外光照射手段によって赤外光照射することができる。撮像手段は赤外光照射手段により照射された場所を撮像して、電気信号に変換することができる。画像処理部では画像の濃度状態に応じて自動露光制御と二重露光制御とを切り換えることができる。前記自動露光制御では、前記撮像手段の信号蓄積時間が所定周期の露光量が同じ画像を連続して周期的に出力することができる。前記二重露光制御では、前記撮像手段の信号蓄積時間を所定の周期で変化させて露光量の異なる画像を連続して周期的に出力することができる。
【0018】
従って、強く明るい光源がなく全体的に同じような明るさの画面の場合には、自動露光制御を的確に働かせ、ちらつきの無い鮮明な画像出力を行わせることができる。周囲が暗い状態の中に強く明るい光源が入る状況では、二重露光制御によって、明るい映像では暗くて見えない部分、暗い映像ではブルーミング(ハレーション)で見えない部分をともに映し出すことができ、鮮明な画像出力を行わせることができる。
【0019】
請求項2の発明では、請求項1の発明の効果に加え、前記画像処理部は、前記画像の明るいエリアが明るい基準となる濃度閾値を上回り且つその面積が切り換えの基準となる面積閾値を上回るとき前記自動露光制御から二重露光制御へ切り換えることができる。従って、濃度閾値及び面積閾値を用いることにより、自動露光制御と二重露光制御とを的確に切り換えることができる。
【0020】
請求項3の発明では、請求項1又は2の発明の効果に加え、前記画像処理部は、前記二重露光制御のとき前記露光量の異なる画像を縦方向に伸長させると共に伸長後の両画像の信号レベルを平均化することで合成した画像形成を行わせることができる。
【0021】
従って、二重露光制御によって、明るい映像の暗くて見えなかった部分、暗い映像のブルーミング(ハレーション)で見えなかった部分をともに映し出すことができながら、出力画像上に露光量の違いによる境目やちらつきができるのが抑制され、より鮮明な画像出力を行うことができる。
【0022】
請求項4の発明は、請求項3の発明の効果に加え、前記画像処理部は、縦方向に隣接する画素の信号レベルの平均値を間に挿入して前記伸長を行うため、画像の伸長を無理なく行わせることができ、より鮮明な画像出力を行わせることができる。
【0023】
請求項5の発明では、請求項1〜4の何れかの発明の効果に加え、前記赤外光照射手段、撮像手段及び画像処理部は自動車に備えられ、前記赤外光照射手段は前記自動車の外方に赤外光照射し、前記撮像手段は前記自動車の外方を撮像することができる。従って、自動露光制御では対向車のヘッドランプの照明等がない状況で、鮮明な画像出力によって自動車の外方を確認することができる。二重露光制御では対向車のヘッドランプの照明等によるブルーミング(ハレーション)を抑制しながら、暗い部分を明るく鮮明に映し出し、鮮明な画像出力によって自動車の外方を確認することができる。
【0024】
【発明の実施の形態】
図1〜図12は本発明の一実施形態を示している。図1は本発明の一実施形態を適用した自動車の概念図、図2は一実施形態に係る撮像手段及び画像処理部のブロック図、図3は一実施形態に係るフローチャート、図4はシャッタースピード切換のフローチャートである。図5(a)は明るい光源のない映像図、(b)は(a)の映像を設定された濃度閾値で2値化処理した画像図、図6(a)は明るい光源のある映像図、(b)は(a)の映像を設定された濃度閾値で2値化処理した画像図である。図7は面積検索を示し、(a)は配列初期化の概念図、(b)は起点検出時の概念図、(c)は輪郭抽出時の概念図、(d)は内部塗りつぶし時の概念図、(e)は検索終了時の概念図、(f)は検索順序を示す概念図である。図8は単純な二重露光制御による出力画像図、図9はフィールド分割画像であり、(a)はODDフィールドの分割画像図、(b)はEVENフィールドの分割画像図、図10はフィールド伸長画像を示し、(a)はODDフィールドの伸長画像図、(b)はEVENフィールドの伸長画像図である。図11はフィールド画質調整画像であり、(a)はODDフィールドの画質調整画像図、(b)はEVENフィールドの画質調整画像図、図12は平均合成画像図である。
【0025】
まず図1のように、本発明の一実施形態に係る撮像システムは、自動車に適用されたもので、自動車1には赤外光照射手段としてIRランプ3と、撮像手段としてCCDカメラ5と、画像処理部として画像処理ユニット7とが備えられる他、ヘッドアップディスプレイ9が備えられている。
【0026】
前記IRランプ3は、夜間等、暗所における撮像を可能にするため自動車1の走行方向の前方に赤外光を照射するためのものである。前記CCDカメラ5は、前記赤外光が照射された前記自動車1の走行方向の前方を撮像し、電気信号に変換するものである。この場合の電気信号は、前記CCDカメラ5における感光部のフォトダイオードによって変換されたものである。
【0027】
前記画像処理ユニット7は、前記CCDカメラ5の信号蓄積時間が所定周期の露光量が同じ画像を連続して周期的に出力する自動露光制御と前記CCDカメラ5の信号蓄積時間を所定の周期で変化させて露光量の異なる画像を連続して周期的に出力する二重露光制御とに切換可能となっている。また、前記画像処理ユニット7は、前記画像の濃度状態に応じて前記自動露光制御と前記二重露光制御とを切り換える構成となっている。
【0028】
前記信号蓄積時間は、各画素毎の信号蓄積時間である。前記信号蓄積時間が所定周期の露光量が同じとは、各画素に蓄積された信号電荷の読み出しのタイミング速度をODDフィールド、EVENフィールド共に同一とすることをいい、いわゆる電子シャッター動作のシャッタースピードはODDフィールド、EVENフィールド共に同一となる。自動露光制御では、前記シャッタースピードを輝度レベルに応じて制御する。また、露光量が同じ画像を連続して周期的に出力するとは、それぞれ同一のシャッタースピードで読み出された各フィールドの画像を1/60秒毎に連続して交互に出力することを言う。
【0029】
前記信号蓄積時間を所定の周期で変化させるとは、各画素に蓄積された不要電荷を吐き出すパルスの回数を変化させることにより結果的に蓄積される時間を変化させることであり、電子シャッター動作を言う。また露光量の異なる画像を連続して周期的に出力するとは、電子シャッター動作によってODDフィールド、EVENフィールド毎にシャッタースピードを設定し、それぞれのシャッタースピードで読み出された各フィールドの画像を1/60秒毎に連続して交互に出力することを言う。
【0030】
そして、シャッタースピードを速くした高速シャッターでは、暗い部分は映りにくいが明るい部分は鮮明に映り、シャッタースピードを遅くした低速シャッターでは、明るい部分は飽和して飛んでしまい暗い部分が鮮明に映ることになる。
【0031】
前記画像処理ユニット7は、本実施形態において二重露光制御の時、前記露光量の異なる画像を縦方向に伸長させると共に、伸長後の両画像の信号レベルを平均化することで合成した画像形成を行わせる。
【0032】
前記露光量の異なる画像を縦方向に伸長させるとは、本実施形態においてシャッタースピードを変えることによって露光量の異なる画像として得られたODDフィールドの分割画像と、EVENフィールドの分割画像とをそれぞれ縦方向に2倍に伸長させることを言う。また伸長後の両画像の信号レベルを平均化することで合成した画像形成を行わせるとは、伸長した各フィールドの分割画像において、対応する画素の信号レベルを平均化し、1つの画像出力を行うことを言う。
【0033】
図2のように、前記画像処理ユニット7は、DSP11、CPU13のほか、画像メモリ15、演算用メモリ17、映像出力用メモリ19、D/A変換器21などを備えている。また、前記画像処理ユニット7は、シャッタースピードを変更するために、マルチプレクス回路23、シャッタースピード設定スイッチ25を備えている。シャッタースピード設定スイッチ25は、ODD側スイッチ27及びEVEN側スイッチ29を備えている。
【0034】
前記DSP11は、CCDカメラ5からの信号をデジタル信号に変換して処理するものである。
【0035】
前記CPU13は、各種演算を行うと共に、二重露光制御ではODDフィールド、EVENフィールド毎のシャッタースピードをコントロールできるようになっている。すなわちシャッタースピード設定スイッチ25のODD側スイッチ27及びEVEN側スイッチ29の設定状態をCPU13で読み取り、各フィールドのシャッタースピード設定値をエンコード出力する。前記DSP11からは図14のフィールドパルス信号が出力され、出力信号がハイの場合はEVEN側のシャッタースピード設定値出力が、ローの場合はODD側のシャッタースピード設定値出力が、マルチプレクス回路23によってDSP11のシャッタースピード設定入力端子に入力される。従って、フィールド毎に異なるシャッタースピードを設定することができる。
【0036】
前記CPU13は、前記画像メモリ15に取り込まれたフレーム画像データの濃度状態に応じて前記自動露光制御と前記二重露光制御とを切り換える。すなわち、前記画像データ上で明るいエリアが明るい基準となる濃度閾値を上回り且つその面積が切り換えの基準となる面積閾値を上回るとき前記自動露光制御から二重露光制御へ切り換える。
【0037】
前記画像メモリ15は、前記DSP11から出力される1フレーム分の画像データを取り込むものである。
【0038】
前記自動露光制御では、前記画像メモリ15に取り込まれたフレーム画像データがそのまま映像出力用メモリ19に転送され、D/A変換器21でD/A変換され、例えばNTSC信号として出力される。
【0039】
前記二重露光制御では、前記画像メモリ15に取り込まれたフレーム画像データをODDフィールド、EVENフィールド毎に分割し、演算用メモリ17に書き込む。またCPU13は前記演算用メモリ17に書き込まれた各フィールド画像を縦方向に2倍に伸長し、各伸長画面に対しガンマ補正やコントラスト調整などの画質調整を施す。これら2つの画像データの平均がとられ、平均して合成された画像データは映像出力用メモリ19に転送され、D/A変換器21でD/A変換され、例えばNTSC信号として出力される。
【0040】
図3は、一実施形態のフローチャートを示している。この図3のフローチャートにより、まずステップS1で「シャッタースピード初期設定」の処理が実行される。このステップS1では、二重露光制御用のシャッタースピードを設定する。本実施形態では、例えばODDフィールド側を前記のように低速シャッタースピードに設定し、EVENフィールド側を高速シャッタースピードに設定する。
【0041】
本実施形態では、ODDフィールド側のシャッタースピードを1/60秒とし、EVENフィールド側のシャッタースピードを1/1000秒として設定し、ステップS2へ移行する。なお各シャッタースピードは他のスピードを選択することも可能である。ODDフィールド側を高速シャッタースピード、EVENフィールド側を低速シャッタースピードに設定することもできる。
【0042】
ステップS2では、「CCD撮像」の処理が実行される。このステップS2では、CPU13から前記ステップS1で設定されたODDフィールド側のシャッタースピードコントロール信号及びEVENフィールド側のシャッタースピードコントロール信号がDSP11へ出力される。
【0043】
そして、駆動信号によってCCDカメラ5による撮像が行われ、CCDカメラ5の感光部のフォトダイオードの全画素で信号電荷が行われる。ODDフィールド側では感光部のフォトダイオード全画素のうち垂直方向に1つおき奇数番目の画素の信号電荷が1/60秒で読み出される。EVENフィールド側では偶数番目の画素の信号電荷が蓄積時間1/1000秒で読み出され、ステップS3へ移行する。
【0044】
ステップS3では、「DSP処理」が実行される。このステップS3では、前記CCDカメラ5で読み出された信号電荷が取り込まれ、A/D変換器によってデジタル信号に変換され、信号処理が行われて該信号が出力され、ステップS4へ移行する。
【0045】
ステップS4では、「メモリ格納」の処理が実行され、前記DSP11で出力された処理信号が画像メモリ15に格納され、ステップS5へ移行する。
【0046】
ステップS5では、「1フレーム取込終了か否か」の処理が実行され、前記DSP11から出力された処理信号が画像メモリ15に1フレーム分取り込まれたか否かが判断される。画像メモリ15に1フレーム分取り込まれていない間は、ステップS2へ戻り、以下ステップS3、ステップS4、ステップS5の処理が繰り返される。ステップS5において1フレーム分の処理信号の取込が終了したと判断されたときに、ステップS6へ移行する。
【0047】
ステップS6では、「フィールド分割演算メモリ書き込み」の処理が実行される。このステップS6では、CPU13により画像メモリ15に取り込まれた前記フレーム画像データをODDフィールド、EVENフィールド毎に分割し、演算用メモリ17に書き込み、ステップS7へ移行する。前記演算用メモリ17に書き込まれたODDフィールド、EVENフィールド毎の画像データは、それぞれ縦方向に1つおきのデータであるため、それぞれ縦方向に2分の1に圧縮された画像データとなっている。
【0048】
前記ステップS7では、「2倍伸長」の処理が実行され、前記演算用メモリ17に書き込まれたODDフィールド、EVENフィールドの画像データを垂直方向に2倍に伸長する。この場合の伸長方法としては、各フィールド毎の1画素を垂直方向に2画素に引き延ばす方法、あるいは上下2画素の信号レベルの平均値をとって上下2画素の間に挿入する方法がある。
【0049】
ステップS8では、「ガンマ補正、コントラスト調整」の処理が実行され、ステップS7での各伸長画面に対しガンマ補正やコントラスト調整などの画質調整が施され、ステップS9へ移行する。
【0050】
ステップS9では、「2画面平均」の処理が実行され、前記ODDフィールド、EVENフィールドの垂直方向に2倍に伸長された画像データの平均をとる。ここではODDフィールド、EVENフィールドの対応する各画素の信号レベルが単純平均により平均化され、該平均化された各信号レベルによって新たな1フレーム分の画像データを形成する。これによって前記2倍に伸長された各フィールド毎の画像データを合成した画像形成を行わせ、ステップS10へ移行する。
【0051】
ステップS10では、「シャッタースピード切替」の処理が実行され、前記画像メモリ15に取り込まれたフレーム画像データの濃度状態に応じて前記自動露光制御と前記二重露光制御とが切り換えられ、ステップS11へ移行する。
【0052】
ステップS11では、「映像出力用メモリ転送」の処理が実行され、自動露光制御の時は前記画像メモリ15に取り込まれたフレーム画像データがそのまま映像出力用メモリ19へ転送されステップS12へ移行する。二重露光制御の時は前記合成された画像データが映像出力用メモリ19へ転送されステップS12へ移行する。以上の処理は、全て時分割で行われるわけではなく、例えば画像メモリへの取り込み中にも常に出力用メモリから出力は行われている。また、画像メモリに取り込まれたデータを画像処理しているときにも次のフレームの画像信号の取り込みは継続している。
【0053】
ステップS12では、「D/A変換、NTSC出力」の処理が実行され、前記画像データのデジタル信号がD/A変換器21でアナログ信号に変換され、例えばNTSC信号として出力されることになる。
【0054】
前記ステップS10の「シャッタースピード切替」は、図4のフローチャートによって実行される。図4のフローチャートが実行されると、まずステップS101で「濃度閾値以上の画素による輪郭抽出」の処理が実行される。このステップS101では、前記画像メモリ15に格納された1フレーム分の画像データに対し明るい基準となる濃度閾値を上回る画素を検出し、この画素を基準に濃度閾値を上回るエリアの輪郭が抽出され、ステップS102へ移行する。
【0055】
ステップS102では、「内部面積計算」の処理が実行され、前記抽出された輪郭の内部の画素数をカウントしその面積が計算され、ステップS103へ移行する。ここでは、面積を画素数で代用している。
【0056】
ステップS103では、「内部面積>面積閾値」の処理が実行され、前記計算された内部面積が切り替えの基準となる面積閾値を上回るか否かが判断される。内部面積が面積閾値を上回れば(YES)ステップS104へ移行し、上回らなければ(NO)ステップS105へ移行する。
【0057】
ステップS104では、「二重露光シャッタースピード設定」の処理が実行され、一定以上に強く明るい光源が存在するとして二重露光制御に切り替えられる。すなわち、前記のようにステップS1で初期設定されたシャッタースピード設定値出力がマルチプレクス回路23によってDSP11のシャッタースピード設定入力端子に入力される。このステップS104では、前記初期設定に対しシャッタスピードを新たに設定することもできる。例えば、各フィールドのシャッタースピードを複数備え、画像メモリ15の画像データの濃度値に応じて各シャッタースピードを調整することもできる。
【0058】
ステップS105では、「自動露光シャッタースピード設定」の処理が実行され、一定以上に強く明るい光源が存在せず、全体的に同じような暗い状態であるとして自動露光制御に切り替えられる。すなわち、自動露光シャッタースピード設定値(ODD=AUTO,EVEN=AUTO)がDSP11へ出力される。この場合、明るい光源が存在しない状況であるから、シャッタースピードをODDフィールド、EVENフィールド共に同じ低速シャッタースピードの1/60秒等とし、全体に暗い状況を鮮明に映し出すようにする。このシャッタースピードは、前記したように輝度レベル、例えば画像メモリ15の画像データの濃度値に応じて代えるように制御している。
【0059】
なお、二重露光制御時は、シャッタースピードが遅く明るいフィールド、本実施形態ではODDフィールドの画像データに対し前記ステップS101〜S103の処理が実行されることになる。
【0060】
前記ステップS101、ステップS103の濃度閾値及び面積閾値は、実験評価した上で最適なパラメータが決定される。
【0061】
図5(a)の一定以上に強く明るい光源のない映像に対し、例えば、濃度閾値200で2値化処理した画像が図5(b)のようになる。また、図6(a)のように、一定以上に強く明るい光源のある映像に対し、濃度閾値200で2値化処理した画像が図6(b)のようになる。
【0062】
図5(b)と図6(b)とを比較すると明らかなように、明るい部分(白)の面積が明らかに異なっている。この2つの面積値(画素数)の間に面積閾値を設定することにより、図4のフローチャートを実行することが可能となる。
【0063】
前記ステップS101の輪郭抽出は、例えば、図7(a),(b),(c)のように行われ、前記ステップS102の内部面積計算は図7(d),(e)のように行われる。図7(a)では、理解を容易にするために、濃度閾値を上回る場合は白抜き、下回る場合を右上がりの斜線部として分けてある。
(輪郭抽出)
まず、図7(a)のように、明るいエリアを抽出するために明るいエリアを包含する大きさのエリアの画素の配列を読み込み、初期は各配列に0xFFを代入する。
【0064】
次に、図7(b)のように、エリア内左上から横に濃度閾値を上回る濃度を持った画素を検索する。濃度閾値を下回る濃度の画素はその配列に0を代入する。図7(b)では配列31,33に0を代入しているが、濃度閾値を上回る濃度を持った画素を検出した場合には対応する位置の配列にラベルを付ける。図7(b)では配列35にラベル2を付けている。この配列35を基点とし、図7(f)で後述するように左の画素から時計回りに濃度閾値を上回る画素の検索を行い、濃度閾値を上回る画素の配列にラベル2を付け、図7(c)のように一周して輪郭を抽出する。このとき、同時にラベル2の数をカウントする。
(内部塗りつぶし)
次に、図7(c)のように輪郭が抽出されたエリアの内部にラベルを付けて、次のエリアの抽出時には除外するようにする。ここでは、抽出エリアの横方向1ライン毎に両端のラベル2を検出し、その間の濃度閾値を上回る画素に対し図7(d)のように1つ小さなラベル1を付ける。このとき同時にラベル1の数をカウントする。
【0065】
このように輪郭と内部とを区別するのは、明るいエリアの縁取りをし易くするためであり、区別の必要がなければどちらも同じ値にすることもできる。
【0066】
前記明るいエリア内部でも濃度閾値を下回る画素の場合は、その配列に終了画素を意味する0を代入する。また、同様に輪郭の外側で検索の必要がなかった配列にも、図7(e)のように0を代入し検索領域から除外する。
(面積計算)
次に、前記輪郭のラベル2と内部のラベル1との数を加算した値を、明るいエリアの面積、すなわち、明るいエリアの画素数とする。
【0067】
前記濃度閾値以上の濃度を持った画素の検索は図7(f)の番号順に行われる。すなわち、検索は、エリア内左上から横に順次行われるもので、例えば、図7(b)において配列31,33は共に濃度閾値を下回る画素であるため、検索の中心を移動しながらその配列に順次0が代入される。
【0068】
次に、検索の中心が配列33に移ったとき、配列33が図7(f)の中央に位置しているとして、その周りの配列が1番〜8番まで時計回りに検索される。この場合、図7(f)の2,3,4番には、図7(b)上で配列が存在しないため、実際は5番から検索が行われる。配列33の検索において、5番に相当する配列35は濃度閾値を上回る画素として検出され、図7(b)のように配列35にラベル2が代入される。
【0069】
次に、検索の中心が配列35に移り、この配列35が図7(f)の中央に位置しているとして同様に1番〜8番まで検索が行われる。この場合も、2,3,4番には配列が存在しないため、5番から検索が行われる。この場合、5番として検出され配列35に隣接する配列37が濃度閾値を上回る画素であるため、図7(c)のようにラベル2が代入される。
【0070】
次に、検索の中心が配列37へ移り、配列37が図7(f)の中央に位置するとして同様に1番〜8番まで検索が行われる。同様に2〜4番まではキャンセルされて5番から検索され、6番に濃度閾値を上回る画素が検出され、図7(b)で示す配列39に図7(c)のようにラベル2を代入する。
【0071】
次に、配列37の右隣の配列の画素は、濃度閾値を下回っているため、輪郭抽出にそれ以上横の検索は不要であるとして検索の中心は直ちに配列39へ移る。
【0072】
こうして順次同様の検索が行われ、前記図7(c)のように、ラベル2が代入された輪郭を抽出することができる。
【0073】
上記のような処理により前記画像処理ユニット7から出力された信号は、図1で示すヘッドアップディスプレイ9に出力される。ヘッドアップディスプレイ9では、フロントウィンドウガラスに画像を表示し、自動車1の運転者は前記画像を確認することによって夜間等、暗所においても車両前方の状況を的確に把握することができる。
【0074】
従って、一定以上に強く明るい光源がなく全体的に同じような明るさの画面の場合には、自動露光制御を的確に働かせ、図18のような鮮明な画像出力を行わせることができる。このため、自動露光制御が的確に働き鮮明な映像をモニタに表示させることができる状況にありながら二重露光制御が行われると言った制御を防止することができ、露光量の違いによる画面のちらつきを的確に抑制することができる。
【0075】
周囲が暗い状態の中に一定以上に強く明るい光源が入る状況では、二重露光制御に切り換えられ、明るい映像では暗くて見えない部分、暗い映像ではブルーミング(ハレーション)で見えない部分をともに映し出すことができ、より鮮明な画像出力を行わせることができる。
【0076】
前記二重露光制御に切り換えられたときは、前記図3のフローチャートによる処理によって、図8〜図11のような画像データの処理が行われ、図12のような画像をヘッドアップディスプレイ9によって表示することができる。
【0077】
図8の画像は、前記ステップS1〜ステップS5までの処理による二重露光制御により前記画像メモリ15に取り込まれた1フレーム分の画像データである。この図8の画像データが、前記ステップS6のフィールド分割によって図9(a)のODDフィールドの画像データと、図9(b)のEVENフィールドの画像データとに分割される。シャッタースピードを遅くしたODDフィールドでは、明るい部分は飽和して飛んでしまい暗い部分が鮮明に映り、シャッタースピードを速くしたEVENフィールドでは、暗い部分は映りにくいが明るい部分は鮮明に映る。
【0078】
分割された図9の画像データは、前記ステップS7のように2倍に伸長され、図10(a)のODDフィールド伸長画像と、図10(b)のEVENフィールド伸長画像とが得られる。この各伸長画像に対し、前記ステップS8のガンマ補正、コントラスト調整を行い、図11(a)のODDフィールドの画質調整データ、図11(b)のEVENフィールドの画質調整データが得られる。
【0079】
そして、前記ステップS9の2画面平均により、前記のように伸長後の両画像の信号レベルを平均することで、合成した画像形成を行わせ、図12のような画像出力を行う。
【0080】
この図12の出力画像は、図8の単純な二重露光制御による出力画像と比較して明らかなように、はるかに鮮明な画像となり、対向車のヘッドライトなど強い光によるブルーミング(ハレーション)を的確に抑えることで、光源周辺の情報が見えるだけでなく、暗い部分も全体的により鮮明に見えている。
【0081】
すなわち前記したように、図8の単純な二重露光制御だけでは露光量の異なる画像を連続して周期的に出力するだけであるため、出力画像としては図8のようにちらつきを招いてしまう。これに対し、本発明一実施形態では、ODDフィールド、EVENフィールド毎に分割し、伸長した両画像の信号レベルを平均化することで合成した画像形成を行わせているため、図12のようなより鮮明な画像を出力することができた。
【0082】
また図12の出力画像では、信号レベルを平均化することで合成した画像形成を行わせるため、露光量の異なった画像を部分的に合成する場合に比べて、画像に境目がなく、ちらつきのないより鮮明な画像を出力することができた。
【0083】
このように、自動露光制御では対向車のヘッドランプの照明等がない状況で、鮮明な画像出力によって自動車の前方を確認することができる。二重露光制御では対向車のヘッドランプの照明等によるブルーミング(ハレーション)を抑制しながら、暗い部分を明るく鮮明に映し出し、鮮明な画像出力によって自動車の前方を確認することができる。
【0084】
なお、前記ODDフィールド、EVENフィールドにおいて、各画素毎の電荷を処理するDSP11によっては、電荷読み出しを単一画素の読み出しに限らず、いくつかの画素のかたまりとして読み出し扱うこともできる。
【0085】
上記実施形態では、出力画像をヘッドアップディスプレイ9で表示するようにしたが、車室内等に備えられたディスプレイ等に表示するように構成することもできる。また、IRランプ3で自動車の走行方向前方を照射するようにしたが、後方或いは側方等を照射するようにしても良い。
【0086】
前記切り換えて行われる二重露光制御としては、上記二重露光制御の他、単純な二重露光制御、その他の形式の二重露光制御を適用することもできる。
【0087】
前記撮像システムは、自動車に限らず二輪車、船舶等、他の乗り物、あるいは乗り物から独立した撮像システムとして構成することもできる。
【図面の簡単な説明】
【図1】本発明の一実施形態を適用した自動車の概念図である。
【図2】一実施形態に係り、撮像手段及び画像処理部のブロック図である。
【図3】一実施形態に係るフローチャートである。
【図4】一実施形態に係り、シャッタースピード切換のフローチャートである。
【図5】一実施形態に係り、(a)は明るい光源のない映像図、(b)は(a)の映像を設定された濃度閾値で2値化処理した画像図である。
【図6】一実施形態に係り、(a)は明るい光源のある映像図、(b)は(a)の映像を設定された濃度閾値で2値化処理した画像図である。
【図7】一実施形態に係る面積検索を示し、(a)は配列初期化の概念図、(b)は起点検出時の概念図、(c)は輪郭抽出時の概念図、(d)は内部塗りつぶし時の概念図、(e)は検索終了時の概念図、(f)は検索順序を示す概念図である。
【図8】一実施形態に係り、単純な二重露光制御の出力画像図である。
【図9】一実施形態に係り、(a)はODDフィールドの分割画像図、(b)はEVENフィールドの分割画像図である。
【図10】一実施形態に係り、(a)はODDフィールドの伸長画像図、(b)はEVENフィールドの伸長画像図である。
【図11】一実施形態に係り、(a)はODDフィールドの画質調整図、(b)はEVENフィールドの画質調整図である。
【図12】一実施形態に係り、合成された平均合成画像図である。
【図13】従来例に係るブロック図である。
【図14】従来例に係り、フィールドパルスの出力図である。
【図15】従来例に係り、通常のシャッタースピードによる出力画像図である。
【図16】従来例に係り、高速シャッタースピードによる出力画像図である。
【図17】ブルーミング(ハレーション)現象を示す出力画像図である。
【図18】従来例に係り、強く明るい光源がない出力画像図である。
【符号の説明】
1 自動車
3 IRランプ(赤外光照射手段)
5 CCDカメラ(撮像手段)
7 画像処理ユニット(画像処理部)

Claims (5)

  1. 赤外光を照射するための赤外光照射手段と、
    前記赤外光照射手段により照射された場所を撮像して電気信号に変換する撮像手段と、
    前記撮像手段の信号蓄積時間が所定周期の露光量が同じ画像を連続して周期的に出力する自動露光制御と前記撮像手段の信号蓄積時間を所定の周期で変化させて露光量の異なる画像を連続して周期的に出力する二重露光制御とに切換可能な画像処理部とを備え、
    前記画像処理部は、前記画像の濃度状態に応じて前記自動露光制御と前記二重露光制御とを切り換えることを特徴とする撮像システム。
  2. 請求項1記載の撮像システムであって、
    前記画像処理部は、前記画像の明るいエリアが明るい基準となる濃度閾値を上回り且つその面積が切り換えの基準となる面積閾値を上回るとき前記自動露光制御から二重露光制御へ切り換えることを特徴とする撮像システム。
  3. 請求項1又は2記載の撮像システムであって、
    前記画像処理部は、前記二重露光制御のとき前記露光量の異なる画像を縦方向に伸長させると共に伸長後の両画像の信号レベルを平均化することで合成した画像形成を行わせることを特徴とする撮像システム。
  4. 請求項3記載の撮像システムであって、
    前記画像処理部は、縦方向に隣接する画素の信号レベルの平均値を間に挿入して前記伸長を行うことを特徴とする撮像システム。
  5. 請求項1〜4の何れかに記載の撮像システムであって、
    前記赤外光照射手段、撮像手段、及び画像処理部は、自動車に備えられ、
    前記赤外光照射手段は、前記自動車の外方に赤外光を照射し、
    前記撮像手段は、前記自動車の外方を撮像することを特徴とする撮像システム。
JP2002204186A 2002-07-12 2002-07-12 撮像システム Pending JP2004048455A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2002204186A JP2004048455A (ja) 2002-07-12 2002-07-12 撮像システム
US10/614,089 US20040105027A1 (en) 2002-07-12 2003-07-08 Imaging system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2002204186A JP2004048455A (ja) 2002-07-12 2002-07-12 撮像システム

Publications (1)

Publication Number Publication Date
JP2004048455A true JP2004048455A (ja) 2004-02-12

Family

ID=31709852

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002204186A Pending JP2004048455A (ja) 2002-07-12 2002-07-12 撮像システム

Country Status (2)

Country Link
US (1) US20040105027A1 (ja)
JP (1) JP2004048455A (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008186342A (ja) * 2007-01-31 2008-08-14 Fuji Heavy Ind Ltd 車外監視装置
CN104301623A (zh) * 2014-10-28 2015-01-21 浙江宇视科技有限公司 一种混合补光方法和装置
JP2017005678A (ja) * 2015-06-04 2017-01-05 ソニー株式会社 車載カメラ・システム並びに画像処理装置
JP2022111151A (ja) * 2016-09-16 2022-07-29 ソニーセミコンダクタソリューションズ株式会社 撮像装置及び撮像装置の制御方法

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7319805B2 (en) * 2003-10-06 2008-01-15 Ford Motor Company Active night vision image intensity balancing system
JP4987573B2 (ja) * 2007-06-01 2012-07-25 富士重工業株式会社 車外監視装置
JP4770907B2 (ja) * 2008-10-21 2011-09-14 ソニー株式会社 撮像装置、撮像方法及びプログラム
DE102008044322A1 (de) 2008-12-03 2010-06-10 Robert Bosch Gmbh Steuereinrichtung für eine Kameraanordnung, Kameraanordnung für ein Fahrzeug sowie Verfahren zur Regelung einer Kamera eines Fahrzeuges
CN103327225A (zh) * 2013-06-13 2013-09-25 天津云视科技发展有限公司 一种汽车影像采集装置
CN104702849B (zh) * 2014-01-10 2018-03-30 杭州海康威视数字技术股份有限公司 一种红外摄像机及其红外灯亮度调整方法
CN105657247A (zh) * 2015-11-20 2016-06-08 乐视移动智能信息技术(北京)有限公司 一种电子设备的二次曝光拍照方法和装置
US10412312B2 (en) 2016-08-08 2019-09-10 Gentex Corporation System and method for processing video data to detect and eliminate flickering light sources through dynamic exposure control
CN110087946B (zh) * 2016-12-15 2023-01-10 株式会社小糸制作所 车辆用照明系统和车辆
KR102574649B1 (ko) 2018-11-29 2023-09-06 삼성전자주식회사 이미지 처리 방법 및 이를 지원하는 전자 장치

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0556343A (ja) * 1991-08-22 1993-03-05 Olympus Optical Co Ltd 電子的撮像装置
JPH0564075A (ja) * 1991-08-30 1993-03-12 Fuji Photo Film Co Ltd ビデオ・カメラ,それを用いた撮影方法およびその動作方法,ならびに画像処理装置および方法

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5606366A (en) * 1991-10-28 1997-02-25 Canon Kabushiki Kaisha Image sensor driving apparatus wherein photoelectric conversion operations are performed a plurality of times
US6498620B2 (en) * 1993-02-26 2002-12-24 Donnelly Corporation Vision system for a vehicle including an image capture device and a display system having a long focal length
AU7881500A (en) * 1999-08-17 2001-03-13 Applied Vision Systems, Inc. Improved dynamic range video camera, recording system, and recording method

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0556343A (ja) * 1991-08-22 1993-03-05 Olympus Optical Co Ltd 電子的撮像装置
JPH0564075A (ja) * 1991-08-30 1993-03-12 Fuji Photo Film Co Ltd ビデオ・カメラ,それを用いた撮影方法およびその動作方法,ならびに画像処理装置および方法

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008186342A (ja) * 2007-01-31 2008-08-14 Fuji Heavy Ind Ltd 車外監視装置
CN104301623A (zh) * 2014-10-28 2015-01-21 浙江宇视科技有限公司 一种混合补光方法和装置
JP2017005678A (ja) * 2015-06-04 2017-01-05 ソニー株式会社 車載カメラ・システム並びに画像処理装置
US10582131B2 (en) 2015-06-04 2020-03-03 Sony Corporation In-vehicle camera system and image processing apparatus
JP2020080550A (ja) * 2015-06-04 2020-05-28 ソニー株式会社 車載カメラ・システム、並びに画像処理装置及び画像処理方法
US11089229B2 (en) 2015-06-04 2021-08-10 Sony Group Corporation In-vehicle camera system and image processing apparatus
US11539894B2 (en) 2015-06-04 2022-12-27 Sony Group Corporation In-vehicle camera system and image processing apparatus
JP2022111151A (ja) * 2016-09-16 2022-07-29 ソニーセミコンダクタソリューションズ株式会社 撮像装置及び撮像装置の制御方法
JP7342197B2 (ja) 2016-09-16 2023-09-11 ソニーセミコンダクタソリューションズ株式会社 撮像装置及び撮像装置の制御方法

Also Published As

Publication number Publication date
US20040105027A1 (en) 2004-06-03

Similar Documents

Publication Publication Date Title
JP4998232B2 (ja) 撮像装置及び映像記録装置
KR20070005553A (ko) 촬상시스템
EP2448251B1 (en) Bundling night vision and other driver assistance systems (DAS) using near infra red (NIR) illumination and a rolling shutter
JP5437855B2 (ja) 障害物検知装置およびそれを備えた障害物検知システム、並びに障害物検知方法
JP6700723B2 (ja) 撮像装置及び撮像素子の駆動方法
JP2004048455A (ja) 撮像システム
JP3970903B2 (ja) 撮像システム
JP2007304407A (ja) 車載カメラ用自動露出装置および車載カメラ用自動露出方法
JP2003093341A (ja) 電子内視鏡装置
JP3793487B2 (ja) 撮像システム
US9313427B2 (en) Image sensor with improved dynamic range
JP2004048345A (ja) 撮像システム
JP2005191954A (ja) 撮像システム
JP2004289786A (ja) 撮像装置
JP4782491B2 (ja) 撮像装置
JP2009278496A (ja) 撮像装置
JP2007124676A (ja) 車載用画像処理装置
JP2008230464A (ja) 車載カメラ用自動露出装置
JP6398679B2 (ja) 撮像装置
JP2006109171A (ja) 車両用表示装置
KR20050019844A (ko) 촬상시스템
JP2000270266A (ja) 撮像装置
JP2005167831A (ja) 撮像装置
JP2007251905A (ja) 撮像装置
JP2007251904A (ja) 撮像装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050516

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20060328

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20060718