JP6354578B2 - 撮像システム - Google Patents

撮像システム Download PDF

Info

Publication number
JP6354578B2
JP6354578B2 JP2014264621A JP2014264621A JP6354578B2 JP 6354578 B2 JP6354578 B2 JP 6354578B2 JP 2014264621 A JP2014264621 A JP 2014264621A JP 2014264621 A JP2014264621 A JP 2014264621A JP 6354578 B2 JP6354578 B2 JP 6354578B2
Authority
JP
Japan
Prior art keywords
white balance
vehicle
balance value
imaging device
imaging
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2014264621A
Other languages
English (en)
Other versions
JP2016127329A (ja
Inventor
悦也 高見
悦也 高見
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
JVCKenwood Corp
Original Assignee
JVCKenwood Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by JVCKenwood Corp filed Critical JVCKenwood Corp
Priority to JP2014264621A priority Critical patent/JP6354578B2/ja
Priority to CN201580012761.1A priority patent/CN106105188B/zh
Priority to EP15872735.4A priority patent/EP3240288B1/en
Priority to PCT/JP2015/084649 priority patent/WO2016104166A1/ja
Publication of JP2016127329A publication Critical patent/JP2016127329A/ja
Priority to US15/262,460 priority patent/US9936146B2/en
Application granted granted Critical
Publication of JP6354578B2 publication Critical patent/JP6354578B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/265Mixing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/698Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/88Camera processing pipelines; Components thereof for processing colour signals for colour balance, e.g. white-balance circuits or colour temperature control
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/90Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/181Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Color Television Image Signal Generators (AREA)
  • Studio Devices (AREA)
  • Processing Of Color Television Signals (AREA)
  • Closed-Circuit Television Systems (AREA)

Description

本発明は、複数の撮像装置で撮像された被写体の画像のホワイトバランス値を補正する撮像システムに関する。
従来、この種の技術としては、特許文献1に記載されたものが知られている。特許文献1には、テレビ放送用の複数の撮像カメラのホワイトバランス調整を行うカメラシステムが記載されている。
このカメラシステムでは、撮像前に各撮像カメラにおいて白い被写体を撮像して得られたホワイトバランス情報が平均化される。平均化されたホワイトバランス情報はすべての撮像カメラに送信され、すべての撮像カメラは平均化されたホワイトバランス情報に基づいて自らのホワイトバランス調整を行う。
特開2007−96767号公報
複数の撮像カメラが同一の移動体の異なる場所に設置されている場合には、各撮像カメラが撮像する被写体の画像の明るさなどが、各撮像カメラ毎に頻繁かつ激しく変化する可能性がある。
このような場合に、従来のカメラシステムで採用された技術では、単に各撮像カメラのホワイトバランス情報が平均化されているだけで、各撮像カメラ毎の特性が考慮されていなかった。このため、従来のカメラシステムでは、各撮影カメラで撮像された画像のホワイトバランス値を最適に共通化するのが困難になっていた。
本発明の目的は、移動体に設置された複数の撮像装置で撮像された被写体の画像のホワイトバランス値を最適に共通化して補正する撮像システムを提供することである。
本発明は、同一の移動体に搭載され、被写体を撮像して画像を取得する複数の撮像装置と、前記各撮像装置で取得された画像に対して共通した目標ホワイトバランス値を算出する制御部とを備え、前記各撮像装置は、前記撮像装置で取得した画像の個別ホワイトバランス値を算出するホワイトバランス算出部と、目標ホワイトバランス値に基づいて、前記各撮像装置で撮像された被写体の画像の個別ホワイトバランス値を目標ホワイトバランス値に補正するホワイトバランス補正部と、有し、前記制御部は、前記各撮像装置毎に設定された重み付け係数に基づいて、前記各撮像装置から与えられた個別ホワイトバランス値に対して、それぞれ個別に重み付けする重み付け部と、重み付けされた個別ホワイトバランス値の平均値を算出し、個別ホワイトバランス値の平均値を前記目標ホワイトバランス値とする平均値算出部と、を有することを特徴とする撮像システムを提供する。
本発明の撮像システムによれば、移動体に設置された複数の撮像装置で撮像された被写体の画像のホワイトバランス値を最適に共通化して補正することができる。
本発明の実施形態に係る撮像システムの全体構成の一例を示す図である。 本発明の実施形態に係る撮像システムの全体構成の他の一例を示す図である。 本発明の実施形態に係る撮像システムで得られた画像が表示される一例の表示装置が搭載された車両の運転席周囲の様子を模式的に表した図である。 複数の撮像装置で撮像された画像が1つの表示装置に表示された表示例の一例を示す図である。 車両に搭載された各撮像装置の配置位置の一例を示す図である。 1つの表示装置に複数の撮像装置で撮像された画像が合成されて表示された表示例の一例を示す図である。 撮像装置の構成を示す図である。 制御部の構成を示す図である。 車両に配置される撮像装置の配置場所を特定する際に設定された配置場所の区分を示す図である。 図9に示す9つの設置場所に設置される撮像装置で撮像された画像のホワイトバランス値の重み付け係数の具体的な数値の一例を示す図である。 重み付け係数をパラメータとして、撮像装置で撮像された色温度の変化の一例を示す図である。 本発明の実施形態に係る動作処理の手順を示すフローチャートである。
以下、図面を用いて本発明を実施するための実施形態を説明する。
(実施形態)
まず、図1を参照して、本発明の実施形態に係る撮像システムの全体構成を説明する。
撮像システム1は、複数の撮像装置11と制御部12とを備えている。撮像システム1は、複数例えば4つの撮像装置11が1つの制御部12に共通に接続されて構成されている。各撮像装置11は、例えば車両や船舶、飛行体などの同一の移動体に搭載され、被写体を撮像して画像データを得る。
以下に説明する実施形態では、複数の撮像装置11及び制御部12は車両に搭載された場合を一例として説明する。したがって、以下に記載された車両とは、撮像システム1が搭載された車両を指すものとする。
制御部12は、図1に示すシステム構成では、複数の撮像装置11に対して別体として設けられているが、図2に示すように、複数の撮像装置11のいずれか1つの撮像装置11内に設けられ、1つの撮像装置11と一体化されていてもよい。
各撮像装置11と制御部12との間では、有線や無線などの通信により必要な情報が伝送される。
撮像システム1は、各撮像装置11に対して共通となる目標ホワイトバランス値を算出し、各撮像装置11が個別に算出した個別ホワイトバランス値を目標ホワイトバランス値に補正する。各撮像装置11で撮像されて目標ホワイトバランス値に補正された画像は、適宜組み合わされて各撮像装置11に接続された表示装置2に表示することができる。すなわち、表示装置2に各撮像装置11で撮像された複数の画像が表示される際に、表示される複数の画像のホワイトバランス値はすべて目標ホワイトバランスに統一される。
なお、表示装置2は、図1及び図2では1つしか記載されていないが、複数であってもよい。
図3は車両の運転席周囲の様子を模式的に表した図である。
表示装置2は、図3に示すように、撮像装置11で撮像された画像を表示する液晶ディスプレイなどで構成された例えばデジタルルームミラー31やデジタルサイドミラー32(32−L,32−R)で構成される。また、表示装置2は、図3に示す例えばナビゲーションシステムにおいて地図情報などを表示する液晶ディスプレイで構成されたナビゲーションディスプレイ33で構成される。
また、表示装置2としては、図3には図示していないが、例えばフロントガラスに画像を表示するヘッドアップディスプレイや、ダッシュボードに配置された計器類に隣接して配置され車両の周囲の画像を表示するクラスターディスプレイなどで構成される。
表示装置2は、上記に限らず各撮像装置11で撮像された画像を表示できる表示装置であれば、どのような構成の表示装置であってもよい。
図4はデジタルルームミラー31に表示される画像の一例を示す図である。
図4において、デジタルルームミラー31には、その中央に車両の後方の画像41が表示されている。デジタルルームミラー31には、画像41の左隣に車両の左後方の画像42が画像41と並んで表示されている。デジタルルームミラー31には、画像41の右隣に車両の右後方の画像43が画像41と並んで表示されている。
図5は撮像システム1が例えば4つの撮像装置11を備えている場合に、車両51における各撮像装置11の設置位置の一例を示す図である。各撮像装置11は、図5に示す設置位置に限らず任意の位置に配置することができる。
デジタルルームミラー31に表示された画像41は、図5に示す車両51の後部に設置された撮像装置11−Rで撮像されたものである。デジタルルームミラー31に表示された画像42は、図5に示す車両51の左側方のドアミラーに設置された撮像装置11−SLで撮像されたものである。デジタルルームミラー31に表示された画像43は、図5に示す車両51の右側方のドアミラーに設置された撮像装置11−SRで撮像されたものである。
左側のデジタルサイドミラー32−Lには、例えば撮像装置11−SLで撮像された画像が表示され、右側のデジタルサイドミラー32−Rには、例えば撮像装置11−SRで撮像された画像が表示される。
図6はナビゲーションディスプレイ33に表示される画像の一例を示す。図6において、ナビゲーションディスプレイ33には、車両51の異なる位置に設置された複数の撮像装置で撮像された画像を合成して生成された、車両51を含む車両周囲の俯瞰画像61が表示されている。
ナビゲーションディスプレイ33に表示された車両51の周囲の俯瞰画像61は、俯瞰画像62〜65とが組み合わされて構成されている。俯瞰画像62は、車両51の前方の俯瞰画像であり、俯瞰画像63は、車両51の左側方の俯瞰画像であり、俯瞰画像64は、車両51の右側方の俯瞰画像であり、俯瞰画像65は、車両51の後方の俯瞰画像である。
俯瞰画像62は、例えば図5に示す車両51の前部に設置された撮像装置11−Fで撮像された画像に基づいて生成され、俯瞰画像63は、例えば図5に示す撮像装置11−SLで撮像された画像に基づいて生成される。俯瞰画像64は、例えば図5に示す撮像装置11−SRで撮像された画像に基づいて生成され、俯瞰画像65は、例えば図5に示す撮像装置11−Rで撮像された画像に基づいて生成される。
次に、図7を参照して、撮像装置11の構成を説明する。
各撮像装置11は、図7に示すように構成されている。各撮像装置11は、図1に示すシステム構成ではすべて同一構成であるので、1つの撮像装置11を代表して撮像装置11の構成を説明する。
図7において、撮像装置11は、被写体を撮像して、被写体のアナログ画像信号を得る撮像部100を備えている。
撮像部100は、ズームレンズ1001、フォーカスレンズ1002、絞り1003、及びイメージセンサなどで構成される撮像素子1004を備えている。
ズームレンズ1001は図示しないズームアクチュエータによって光軸に沿って移動する。同様に、フォーカスレンズ1002は、図示しないフォーカスアクチュエータによって光軸に沿って移動する。絞り1003は、図示しない絞りアクチュエータに駆動されて動作する。
撮像部100を用いた撮像は以下の手順で行われる。撮像素子1004はズームレンズ1001、フォーカスレンズ1002、及び絞り1003を通過した光を光電変換して、被写体のアナログ画像信号を生成する。生成されたアナログ画像信号は、アナログ画像信号処理部101に与えられる。
アナログ画像信号処理部101は、このアナログ画像信号を増幅した後、A/D変換部102が、その増幅された信号をデジタル画像データに変換する。画像入力コントローラ103は、A/D変換部102から与えられたデジタル画像データを取り込んで、取り込んだデジタル画像データをバス104を介してバス104に接続されたRAM105に記憶する。
バス104には、デジタル信号処理部106、ホワイトバランス補正部107、撮像制御部108が接続されている。
デジタル信号処理部106は、撮像制御部108の制御の下に、バス104を介してRAM105に格納されたデジタル画像データを読み込み、所定の信号処理を施して輝度信号と色差信号とからなるデータを生成する。
デジタル信号処理部106は、撮像素子1004から出力される撮像時の感度情報、例えばAGCゲインまたはISO感度に基づき、デジタル画像データの各種デジタル補正処理を行う。各種デジタル補正処理は、例えばオフセット処理、ガンマ補正処理、ゲイン処理、RGB補完処理、ノイズ低減処理、輪郭補正処理、色調補正処理、光源種別判定処理等である。
AGCは、Automatic Gain Control:自動利得制御の略称であり、ISOは、International Organization for Standardization:国際標準化機構の略称である。
ホワイトバランス補正部107は、後述する制御部12で算出された目標ホワイトバランス値及び補正速度に基づいて、各撮像装置11で算出された個別ホワイトバランス値を目標ホワイトバランス値に補正する。
撮像制御部108は、バス104を介してROM109に記憶された撮像装置11の全体の動作を制御する制御プログラムを読み出し、読み出した制御プログラムに基づいて撮像装置11の全体の動作を統括制御する。撮像制御部108は、CPUを有するマイクロコンピュータによって構成することができる。
撮像制御部108は、アクチュエータ・センサ制御部1081、ホワイトバランス算出部1082、補正判別部1083、IRセンサ信号取得部1084、通信部1085を備えている。
アクチュエータ・センサ制御部1081は、前述した撮像部100の図示しないズームアクチュエータ、フォーカスアクチュエータ及び絞りアクチュエータの駆動を制御する。アクチュエータ・センサ制御部1081は、撮像素子1004の光電変換動作を制御する。
ホワイトバランス算出部1082は、バス104を介してRAM105に記憶されたデジタル画像データを参照し、デジタル画像データの色情報のR(赤)G(緑)B(青)値の分布を測定する。ホワイトバランス算出部1082は、分布を測定しようとするデジタル画像データを複数の領域に分割し、分割した各領域毎にRGB値の平均値を求めてヒストグラムを作成することで、デジタル画像データのRGB値の分布を測定する。
ホワイトバランス算出部1082は、作成したヒストグラムと、予め用意されたホワイトバランス算出用テーブルのヒストグラムとを照合するパターンマッチング処理を行う。このホワイトバランス算出用テーブルは、RGB値の分布を表したヒストグラムとホワイトバランス値及び画像の色温度との対応関係を示すテーブルであり、記憶装置例えばROM109に記憶されて予め用意される。
ホワイトバランス算出部1082は、パターンマッチング処理の結果、作成したヒストグラムに一致する、または最も近いヒストグラムに対応したホワイトバランス値をデジタル画像データのホワイトバランス値として算出する。この算出されたホワイトバランス値は、各撮像装置11毎に個別に算出される個別ホワイトバランス値となる。
なお、ホワイトバランス算出部1082は、ホワイトバランス値に代えてデジタル画像データの色温度を算出し、色温度からホワイトバランス値を算出するようにしてもよい。また、ホワイトバランス算出部1082は、ホワイトバランス値と色温度との双方を算出してもよい。
ホワイトバランス値と色温度との対応関係は、撮像部100のレンズ類(ズームレンズ1001、フォーカスレンズ1002)や、撮像素子1004、フィルタ(図示せず)などの特性に依存する。このため、ホワイトバランス値と色温度との対応関係は、各撮像装置11毎に固有なものとなるので、各撮像装置11の生産時に各撮像装置11のホワイトバランス用ROM110に予め記憶しておく。
以下の説明では、ホワイトバランス算出部1082は、ヒストグラムから個別ホワイトバランス値のみを算出し、算出した個別ホワイトバランス値に基づいて後述する各種処理を行って目標ホワイトバランス値を算出するものとする。
補正判別部1083は、制御部12を介してECU(エンジン・コントロール・ユニット)(図示せず)から与えられるエンジンの始動、停止の通知に基づいて、個別ホワイトバランス値の補正処理の開始、継続及び終了を判別する。ECUは、電子制御された装置によりエンジンの運転を制御する際に、それらを統括制御する装置である。
補正判別部1083は、制御部12を介してECUからエンジンの始動が通知されると補正処理の開始を判別する。これにより、撮像制御部108及びホワイトバランス補正部107は補正処理を開始する。補正判別部1083は、制御部12を介してECUからエンジンの停止が通知されると補正処理の終了を判別する。これにより、撮像制御部108及びホワイトバランス補正部107は補正処理を終了する。補正判別部1083は、補正処理が開始された後、制御部12を介してECUからエンジンの停止が通知されまでは補正処理を継続するものと判別する。これにより、撮像制御部108及びホワイトバランス補正部107は、補正処理を継続して行う。
IRセンサ信号取得部1084は、IR(赤外線)センサ3で得られたIRセンサ信号を取得する。IRセンサ3は、受光した赤外線を電気信号に変換し、変換で得られた電気信号をIRセンサ信号としてIRセンサ信号取得部1084に与える。IRセンサ3は、各撮像装置11が搭載された車両に設けられている。
IRセンサ信号取得部1084は、取得したIRセンサ信号を通信部1085を介して制御部12に与える。IRセンサ信号は、後述するように車両の周囲の環境を把握するために用いられる。
通信部1085は、撮像装置11と制御部12との間の情報の入出力を制御し、撮像装置11と制御部12との間で必要な情報を有線または無線で通信する。
バス104には、入出力I/F111を介して入出力端子112が接続されている。入出力端子112には、表示装置2が接続される。
次に、図8を参照して、制御部12の構成を説明する。
制御部12は、図8に示すように構成されている。図8において、制御部12は、ホワイトバランス制御部200を備えている。
ホワイトバランス制御部200は、バス201を介してROM202に記憶された制御部12の全体の動作を制御する制御プログラムを読み出し、読み出した制御プログラムに基づいて制御部12の全体の動作を統括制御する。ホワイトバランス制御部200は、CPUを有するマイクロコンピュータによって構成することができる。
バス201には、ホワイトバランス制御部200及びROM202の他に、RAM203、重み付け係数用ROM204及びECU−IF205が接続されている。
ホワイトバランス制御部200は、バス201を介して以下に示す各種処理を行う際に必要となるデータを記憶するRAM203、及び重み付け係数用ROM204との間でデータの入出力を行い、各種処理を実行する。
ホワイトバランス制御部200は、車速検出部2001、舵角検出部2002、シフトレバーポジション検出部2003、車両走行状態判別部2004、重み付け部2005、平均値算出部2006を備えている。
車速検出部2001は、車両に設けられた車速センサ4から与えられた車速信号に基づいて、車速を検出する。車速信号は、ECUなどに与えられる車速に応じた電気信号である。
舵角検出部2002は、車両に設けられた舵角センサ5から与えられた舵角信号に基づいて、車両の旋回角度を検出する。舵角信号は、ECUなどに与えられる車両の舵角に応じた電気信号である。
シフトレバーポジション検出部2003は、車両に設けられたシフトレバーセンサ6から与えられたシフトレバーポジション信号に基づいて、シフトレバーのポジション(シフトレンジ)を検出する。シフトレバーポジション信号は、ECUなどに与えられるシフトレバーのポジションを示す電気信号である。
シフトレバーポジション信号は、シフトレバーが車両が前進するレンジ例えばD(ドライブ)レンジ、または車両が後進するR(リバース)レンジにあることを示す電気信号である。また、シフトレバーポジション信号は、シフトレバーが車両がP(駐車状態)レンジにあることを示す電気信号である。
車両走行状態判別部2004は、車速検出部2001で検出された車速、舵角検出部2002で検出された舵角、シフトレバーポジション検出部2003で検出されたシフトレバーのポジションに基づいて、車両の走行状態を判別する。また、車両走行状態判別部2004は、検出された車速及び舵角が継続している継続時間に基づいて、車両の走行状態を判別する。
車両走行状態判別部2004は、シフトレバーのポジションが車両が前進するレンジにあり、車速の変動量が所定値以下であり、かつこのような状態が所定時間以上継続している場合には、車両は前進しているものと判別する。あるいは、車両走行状態判別部2004は、シフトレバーのポジションが車両が前進するレンジにあり、車速の変動量が所定値以上、旋回角度の変動量が所定値以下、かつこのような状態が所定時間継続している場合には、車両は前進しているものと判別する。ここでは、この走行状態を前進状態と呼ぶ。
車両走行状態判別部2004は、前進状態が第1所定時間継続しているか否かを判別する。また、車両走行状態判別部2004は、前進状態が第2所定時間継続しているか否かを判別する。第2所定時間は第1所定時間よりも長く設定される。
車両走行状態判別部2004は、シフトレバーの位置がR(リバース)レンジにあり、車速の変動量が所定値以下であり、かつこのような状態が所定時間以上継続している場合には、車両は後進しているものと判別する。あるいは、車両走行状態判別部2004は、シフトレバーの位置がR(リバース)レンジにあり、車速の変動量が所定値以上、旋回角度の変動量が所定値以下、かつこのような状態が所定時間継続している場合には、車両は後進しているものと判別する。ここでは、この走行状態を後進状態と呼ぶ。
車両走行状態判別部2004は、後進状態が第3所定時間継続しているか否かを判別する。また、車両走行状態判別部2004は、後進状態が第4所定時間継続しているか否かを判別する。第4所定時間は第3所定時間よりも長く設定される。
車両走行状態判別部2004は、車速が所定値以上の減少を続け、同時にもしくはその後旋回角度の変動量が所定値以上の場合には、車両は交差点などで旋回を開始したものと判別する。ここでは、この走行状態を旋回状態と呼ぶ。
車両走行状態判別部2004は、車速の変動量が所定値以下、かつ旋回角度の変動量が所定値以下である場合には、車両はカーブなどで旋回している、または車線を変更しているものと判別する。ここでは、この走行状態を一時的変化状態と呼ぶ。
車両走行状態判別部2004は、シフトレバーのポジションがPレンジにある場合、または車速が「0」の場合には、車両は停車状態にあるものと判別する。
重み付け部2005は、車両走行状態判別部2004で判別された車両の走行状態に基づいて、各撮像装置11から与えられた個別ホワイトバランス値に重み付け係数を乗算して重み付けを行う。
重み付け係数は、予め任意に設定されて用意され、重み付け係数用ROM204に記憶される。なお、重み付け係数は、重み付け係数用ROM204に代えてROM202などの他の記憶装置に記憶してもよい。
車両が前進状態にある場合に、車両の前部に設置された撮像装置11で撮像された画像のホワイトバランス値の重み付け係数は、他の撮像装置11で撮像された画像のホワイトバランス値の重み付け係数よりも大きくする。車両が前進状態にある場合に、車両の前部に設置された撮像装置11で撮像された画像のホワイトバランス値の重み付け係数は、車両が前進状態にある継続時間が長くなるほど増加する。増加する重み付け係数には、予め上限値が設けられる。
撮像装置11が設置される車両の前部としては、例えばフロントバンパーなどがあげられる。
車両が後進状態にある場合に、車両の後部に設置された撮像装置11で撮像された画像のホワイトバランス値の重み付け係数は、他の撮像装置11で撮像された画像のホワイトバランス値の重み付け係数よりも大きくする。車両が後進状態にある場合に、車両の後部に設置された撮像装置11で撮像された画像のホワイトバランス値の重み付け係数は、車両が後進状態にある継続時間が長くなるほど増加する。増加する重み付け係数には、予め上限値が設けられる。
撮像装置11が設置される車両の後部としては、例えばリアバンパーやバックドアなどがあげられる。
車両が旋回状態または停車状態にある場合には、重み付け係数は初期状態に戻り、各撮像装置11で撮像された画像のすべてのホワイトバランス値の重み付け係数は同一になる。
車両が一時的変化状態にある場合には、重み付け係数は、それまでの重み付け係数が継続されて維持される。
図9は車両に設置される撮像装置11の設置場所を特定する際に設定された設置場所の区分けを示す図である。
図9において、設置場所の区分けは車両91を上から見たときに例えば9つに区分けされている。ここでは、車両91を車両91の前後方向に対して前部、中間部、後部の3つに分け、車両91の左右方向に対して左、中央、右の3つに分けるものとする。この場合に、9つの設置場所の区分けは、図9に示すように、左前部LF、中央前部CF、右前部RF、左中間部LM、中央中間部CM、右中間部RM、左後部LR、中央後部CR、右後部RRとする。
なお、上記の設置場所の区分け例は一例であり、区分けの数ならびに区分けの仕方は任意に決めることができる。
車両91に搭載される撮像装置11としては、少なくとも車両91の前方を撮像する撮像装置11と車両の後方を撮像する撮像装置11とが搭載される。車両の前方を撮像する撮像装置11は、図9に示す区分け例では例えば左前部LF、中央前部CF、右前部RF、中央中間部CMのいずれかの設置場所に設置される。車両の後方を撮像する撮像装置11は、図9に示す区分け例では例えば左後部LR、中央後部CR、右後部RR、中央中間部CMのいずれかの設置場所に設置される。
車両の左側方を撮像する撮像装置11を搭載する場合には、図9に示す区分け例では例えば左前部LF、左中間部LM、左後部LRのいずれかの設置場所に設置される。
車両の右側方を撮像する撮像装置11を搭載する場合には、図9に示す区分け例では例えば右前部RF、右中間部RM、右後部RRのいずれかの設置場所に設置される。
図10は図9に示す9つの設置場所に設置される撮像装置11で撮像された画像のホワイトバランス値の重み付け係数の具体的な数値の一例を示す図である。
図10において、重み付け係数が初期状態ですべて同一の場合には、図10(a)に示すようにすべての撮像装置11の重み付け係数はすべて「1」とする。
車両が前進状態にあると判別された後、9つの設置場所に設置される撮像装置11の重み付け係数は以下に示すようになる。
車両が前進状態にあると判別された直後は、図10(b)に示すように、中央前部CFに設置される撮像装置11の重み付け係数は「3」とする。また、左前部LF、右前部RF及び中央中間部CMに設置される撮像装置11の重み付け係数は「2」とする。また、左中間部LM、右中間部RM、左後部LR、中央後部CR及び右後部RRに設置される撮像装置11の重み付け係数は、「1」とする。
車両が前進状態にあると判別された後、前進状態が前述した第1所定時間継続した場合には、図10(c)に示すように、中央中間部CMに設置される撮像装置11の重み付け係数は、「3」から「4」に増加する。他の撮像装置11の重み付け係数は変わらない。
車両が前進状態にあると判別された後、前進状態が第1所定時間を超えて前述した第2所定時間継続した場合には、図10(d)に示すように、撮像装置11の重み付け係数は以下に示すようになる。中央中間部CMに設置される撮像装置11の重み付け係数は、「4」から「8」に増加する。また、左前部LF、右前部RF及び中央中間部CMに設置される撮像装置11の重み付け係数は「2」から「4」に増加する。また、左中間部LM、右中間部RMに設置された撮像装置11の重み付け係数は、「1」から「2」に増加する。他の撮像装置11の重み付け係数は変わらない。
一方、車両が後進状態にあると判別された後、9つの設置場所に設置される撮像装置11の重み付け係数は、図示しないが前進状態の場合と逆となる。
すなわち、車両が後進状態にあると判別された後、9つの設置場所に設置される撮像装置11の重み付け係数は以下に示すようになる。
車両が後進状態にあると判別された直後は、中央後部CRに設置される撮像装置11の重み付け係数は「3」とする。また、左後部LR、右後部RR及び中央中間部CMに設置される撮像装置11の重み付け係数は「2」とする。また、左中間部LM、右中間部RM、左前部LF、中央前部CF及び右前部RFに設置される撮像装置11の重み付け係数は、「1」とする。
車両が後進状態にあると判別された後、後進状態が前述した第1所定時間継続した場合には、中央中間部CMに設置される撮像装置11の重み付け係数は、「3」から「4」に増加する。他の撮像装置11の重み付け係数は変わらない。
車両が後進状態にあると判別された後、後進状態が第1所定時間を超えて前述した第2所定時間継続した場合には、撮像装置11の重み付け係数は以下に示すようになる。中央中間部CMに設置される撮像装置11の重み付け係数は、「4」から「8」に増加する。また、左後部LR、右後部RR及び中央中間部CMに設置される撮像装置11の重み付け係数は「2」から「4」に増加する。また、左中間部LM、右中間部RMに設置された撮像装置11の重み付け係数は、「1」から「2」に増加する。他の撮像装置11の重み付け係数は変わらない。
車両が旋回状態または停車状態にあると判別された直後は、すべての撮像装置11の重み付け係数は初期状態の「1」に戻る。
図8に戻って、平均値算出部2006は、重み付け部2005で重み付けされた各撮像装置11の個別ホワイトバランス値の平均値を算出する。平均値算出部2006は、重み付けされた個別ホワイトバランス値の総和を撮像装置11の総数で除して平均値を算出する。
算出されたホワイトバランス値の平均値は、前述した目標ホワイトバランス値となり、すべての撮像装置11に共通したホワイトバランス値となる。算出されたホワイトバランス値の平均値は、目標ホワイトバランス値として後述する通信部2011、及び撮像装置11の通信部1085を介して各撮像装置11のホワイトバランス補正部107に与えられる。
図11は各撮像装置11で撮像された画像の色温度に対して図10に示す重み付け係数にしたがって重み付けした色温度の変化の一例を示す図であり、縦軸は色温度であり、横軸は色温度が変化する経過時間である。図11は色温度の変化を示しているが、色温度は上述したようにホワイトバランス値に対応した値となるので、図11に示す色温度の変化は、ホワイトバランス値の変化を表すことになる。
図11において、色温度TCFは、図9に示す中央前部CFの配置場所に設けられた撮像装置11で撮像された画像の色温度である。色温度TLMは、図9に示す左中間部LMの配置場所に設けられた撮像装置11で撮像された画像の色温度である。色温度TRMは、図9に示す右中間部RMの配置場所に設けられた撮像装置11で撮像された画像の色温度である。色温度TCRは、図9に示す中央後部CRの配置場所に設けられた撮像装置11で撮像された画像の色温度である。
色温度TTは、上記各撮像装置11で撮像された画像の色温度の平均値である。したがって、図11に示す色温度TTの変化は、平均値算出部2006で算出されたホワイトバランス値の平均値、すなわち目標ホワイトバランス値の変化を表すことになる。
図11(a)は各撮像装置11で撮像された画像の色温度に対して、図10(a)に示す重み付け係数が適用された場合であり、図11(b)は図10(b)に示す重み付け係数が適用された場合である。図11(c)は図10(c)に示す重み付け係数が適用された場合であり、図11(d)は図10(d)に示す重み付け係数が適用された場合である。
図11から分かるように、車両が前進状態を継続して車両の走行状態が変化しない場合に、色温度TTの平均値は、時間の経過とともに中央前部CFに配置された撮像装置11で撮像された画像の色温度に近づく。また、図示されてはいないが、車両が後進状態にある場合に、色温度TTの平均値は、時間の経過とともに中央後部CRに配置された撮像装置11で撮像された画像の色温度に近づく。
したがって、目標ホワイトバランス値の算出にあたっては、車両の運転者が注視する車両の進行方向を撮像した画像の個別ホワイトバランス値の重みが増していく。言い換えれば、重み付け係数は、車両の走行状態が変化しない場合に、目標ホワイトバランス値に対して車両の進行方向を撮像した画像の個別ホワイトバランス値の重みが時間の経過とともに増すように設定される。
図8に戻って、ホワイトバランス制御部200は、補正判別部2007、補正速度算出部2008、第1車両周囲環境判別部2009、第2車両周囲環境判別部2010、通信部2011を備えている。
補正判別部2007は、各撮像装置11の個別ホワイトバランス値を目標ホワイトバランス値に補正するか否かを判別する。
走行している車両の周囲の環境は、車両の移動にともなって変化する場合が多いので、各撮像装置11で撮像される被写体の画像のホワイトバランス値は、車両の移動にともなって変動する可能性が大きいと推測される。このため、ホワイトバランス値の変動に厳密に追従して各撮像装置11で撮像された画像のホワイトバランス値を補正すると、ホワイトバランス値は激しく変動する可能がある。この場合に、ホワイトバランス値が激しく変動する画像は、視認者には不快感を与える可能性がある。
このような不具合を回避するために、補正判別部2007は、所定時間内に算出された目標ホワイトバランス値が所定の範囲内に収まり、目標ホワイトバランス値が安定したと判別した場合に、ホワイトバランス値を補正する。一方、補正判別部2007は、所定時間内に算出された目標ホワイトバランス値が所定の範囲内に収まらず、目標ホワイトバランス値が不安定であると判別した場合には、ホワイトバランス値を補正せず、それまでのホワイトバランス値を維持する。
車両が屋内外またはトンネルを出入りした直後は、ホワイトバランス値が変わる可能性が大きいと推測される。したがって、補正判別部2007は、車両が屋内外またはトンネルを出入りした直後は、目標ホワイトバランス値が安定したか否かを判別することなくホワイトバランス値を補正する。
補正判別部2007は、後述するECU−IF205を介してECU(図示せず)から与えられるばエンジンの始動、停止の通知に基づいて、ホワイトバランス値の補正処理の開始、継続及び終了を判別する。
補正判別部2007は、ECU−IF205を介してECUからエンジンの始動が通知されると補正処理の開始を判別する。これにより、制御部12は補正処理を開始する。補正判別部2007は、ECU−IF205を介してECUからエンジンの停止が通知されると補正処理の終了を判別する。これにより、制御部12は補正処理を終了する。補正判別部2007は、補正処理が開始された後、ECU−IF205を介してECUからエンジンの停止が通知されまでは補正処理を継続するものと判別する。これにより、制御部12は、補正処理を継続して行う。
補正速度算出部2008は、各撮像装置11毎に個別ホワイトバランス値を目標ホワイトバランス値に補正する補正速度を算出する。各撮像装置11は、製造上のばらつきによりホワイトバランス値を補正する補正時間にばらつきがある。また、各撮像装置11は、個別ホワイトバランス値が各撮像装置11で異なるので、個別ホワイトバランス値と目標ホワイトバランス値との差分が異なる。
これらのことから、各撮像装置11では、個別ホワイトバランス値から目標ホワイトバランス値に補正が完了するまでの時間が異なる。したがって、目標ホワイトバランス値に補正された各撮像装置11の画像を適宜組み合わせて表示したときに、ホワイトバランス値が速く補正される画像と遅く補正される画像とが生じる可能性がある。この結果、表示された画像は、視認者に違和感を与える可能性がある。
そこで、補正速度算出部2008は、各撮像装置11に共通となる目標補正時間でホワイトバランス値の補正が完了するように、補正速度を算出する。すなわち、補正速度算出部は、各撮像装置11の個別ホワイトバランス値が同時に目標ホワイトバランス値に補正されるように各撮像装置11毎に補正速度を算出する。補正速度算出部2008は、以下に示す手順にしたがって補正速度を算出する。
補正速度算出部2008は、まず通信部1085、2011を介して各撮像装置11の個別ホワイトバランス値を取得する。補正速度算出部2008は、取得した個別ホワイトバランス値と目標ホワイトバランス値との差分を算出する。補正速度算出部2008は、個別ホワイトバランス値と目標ホワイトバランス値との差分を目標補正時間で除して補正速度を算出する。
算出された補正速度は、通信部1085、2011を介して各撮像装置11のホワイトバランス補正部107に与えられる。
第1車両周囲環境判別部2009は、車両に搭載されたGPS(Global Positioning System:全地球測位網)受信機7で受信したGPS衛星からの情報に基づいて、車両の現在位置を特定する。第1車両周囲環境判別部2009は、車両の現在位置と第1車両周囲環境判別部2009に備えた地図データとを照合して、現在車両が屋内外またはトンネルを出入りしたか否かを判別する。
第2車両周囲環境判別部2010は、前述したIRセンサ3で取得されて撮像装置11から与えられたIRセンサ信号に基づいて、現在車両が屋内外またはトンネルを出入りしたか否かを判別する。一般的に屋内外、及びトンネル内外の赤外線の光量は異なる。第2車両周囲環境判別部2010は、車両が屋内外またはトンネルを出入りした際の赤外線の光量の変化をIRセンサ信号に基づいて算出する。第2車両周囲環境判別部2010は、算出した赤外線の光量の変化に基づいて車両の屋内外またはトンネルの出入りを判別する。
第1車両周囲環境判別部2009及び第2車両周囲環境判別部2010のいずれか一方または双方が、屋内外またはトンネル内外の出入りを判別したときに、車両は屋内外またはトンネル内外を出入りしたものと判別する。
なお、ホワイトバランス制御部200は、第1車両周囲環境判別部2009または第2環境判別部20109のいずれか一方を備え、車両の屋内外またはトンネルの出入りを判別するようにしてもよい。
通信部2011は、撮像装置11と制御部12との間の情報の入出力を制御し、撮像装置11の撮像制御部108と制御部12のホワイトバランス制御部200との間で必要な情報を有線または無線で通信する。
ECU−IF205は、ホワイトバランス制御部200とECUとの間で有線または無線により通信を行い、ホワイトバランス値を補正する処理の開始及び終了の指令となるエンジンの始動、停止を示す信号をECUから受信する。
図12は個別ホワイトバランス値を目標ホワイトバランス値に補正する処理が開始された後の補正処理の手順を示すフローチャートである。
図12において、ステップS1201〜S1209で示す処理は、各撮像装置11で実行される処理であり、ステップS1301〜1315で示す処理は、制御部12で実行される処理である。
まず、各撮像装置11で実行される処理から説明する。
撮像部100、アナログ画像信号処理部101、A/D変換部102、画像入力コントローラ103は、ステップS1201にて、以下に示す処理を実行して、被写体のデジタル画像データを取得する。
撮像部100は、被写体を撮像して被写体のアナログ画像信号を生成する。アナログ画像信号処理部101は、生成されたアナログ画像信号を増幅する。A/D変換部102は、増幅された信号をデジタル画像データに変換する。画像入力コントローラ103は、デジタル画像データを取り込んで、取り込んだデジタル画像データをバス104を介してRAM105に記憶する。
ホワイトバランス算出部1082は、ステップS1202にて、取得したデジタル画像データにおけるRGB値のヒストグラムを作成し、作成したヒストグラムに基づいて取得したデジタル画像データの個別ホワイトバランス値を算出する。
通信部1085は、ステップS1203にて、算出した個別ホワイトバランス値を制御部12に伝送する。
次に、制御部12で実行される処理に移って、制御部12で実行される一連の処理を説明する。
制御部12の通信部2011は、ステップS1301にて、撮像装置11の通信部1085から伝送された各撮像装置11の個別ホワイトバランス値を受信して取得する。
車速検出部2001は、ステップS1302にて、車速センサ4から車速信号を取得し、車速信号に基づいて車速を検出する。
舵角検出部2002は、ステップS1303にて、舵角センサ5から舵角信号を取得し、舵角信号に基づいて舵角を検出する。
シフトレバーポジション検出部2003は、ステップS1304にて、シフトレバーセンサ6からシフトレバーポジション信号を取得し、シフトレバーポジション信号に基づいてシフトレバーの位置を検出する。
車両走行状態判別部2004は、ステップS1305にて、検出された車速、舵角及びシフトレバーの位置に基づいて車両の走行状態として、停止状態、前進状態、後進状態、旋回状態、一時変化状態を判別する。また、車両走行状態判別部2004は、ステップS1305にて、前進状態、後進状態が継続している継続時間を判別する。
重み付け部2005は、ステップS1306にて、車両の走行状態に基づいて、重み付け係数用ROM204に記憶された重み付け係数を参照し、各撮像装置11から与えられた個別ホワイトバランス値に重み付け係数を乗算して重み付けを行う。
平均値算出部2006は、ステップS1307にて、重み付けされた各撮像装置11の個別ホワイトバランス値の平均値を算出し、算出した平均値を目標ホワイトバランス値とする。
第1車両周囲環境判別部2009は、ステップS1308にて、GPS衛星からの情報及び地図データに基づいて、現在車両が屋内外またはトンネルを出入りしたか否かを判別する。第2車両周囲環境判別部2010は、ステップS1308にて、IRセンサ信号に基づいて、現在車両が屋内外またはトンネルを出入りしたか否かを判別する。
補正判別部2007は、ステップS1309にて、各撮像装置11の個別ホワイトバランス値を目標ホワイトバランス値に補正するか否かを判別する。判別の結果、補正しないと判別された場合には(NOの場合)、ステップS1310に示す処理が実行される。
一方、判別の結果、補正すると判別された場合には(YESの場合)、ステップS1311に示す処理が実行される。
制御部12の通信部2011は、ステップS1310にて、個別ホワイトバランス値を目標ホワイトバランス値に補正しない旨を各撮像装置11に伝送する。その後、ステップS1311に示す処理が実行される。
上記ステップS1309に示す判別処理の結果、補正すると判別された場合には(YESの場合)、補正速度算出部2008は、ステップS1311にて、各撮像装置11毎に個別ホワイトバランス値を目標ホワイトバランス値に補正する補正速度を算出する。
制御部12の通信部2011は、ステップS1312にて、個別ホワイトバランス値を目標ホワイトバランス値に補正する旨を各撮像装置11に伝送する。その後、制御部12の通信部2011は、ステップS1313にて、算出した目標ホワイトバランス値及び補正速度を各撮像装置11に伝送する。
次に、各撮像装置11で実行される処理に移って、各撮像装置11で実行される処理を説明する。
撮像装置11の通信部1085は、ステップS1204にて、制御部12の通信部2011から伝送されたホワイトバランス値を補正するか否かの判別結果を受信して取得する。
ホワイトバランス補正部107は、ステップS1205にて、取得したホワイトバランス値を補正するか否かの判別結果に基づいて、ホワイトバランス値を補正するか否かを決める。すなわち、ホワイトバランス補正部107は、ホワイトバランス値を補正しない旨の判別結果を取得した場合には(NOの場合)、ホワイトバランス値を補正しない。その後、ステップS1201に示す処理が実行される。一方、ホワイトバランス補正部107は、ホワイトバランス値を補正する旨の判別結果を取得した場合には(YESの場合)、ホワイトバランス値を補正する。その後、ステップS1206に示す処理が実行される。
通信部1085は、ステップS1206にて、ステップS1311に示す処理で制御部12の通信部2011から伝送された目標ホワイトバランス値と補正速度を受信して取得する。
ホワイトバランス補正部107は、ステップS1207にて、各撮像装置11毎に算出された補正速度にしたがって、個別ホワイトバランス値を目標ホワイトバランス値に補正する。
ホワイトバランス補正部107は、ステップS1208にて、通信部1085を介してホワイトバランス値の補正が完了した旨制御部12に伝送する。その後、ステップS1209に示す処理が実行される。
補正判別部1083は、ステップS1209にて、エンジンの始動、停止の通知に基づいて、ホワイトバランス値の補正処理の継続または終了を判別する。判別の結果、補正処理を継続すると判別された場合には(YESの場合)、ステップS1201に示す処理が実行される。一方、補正処理を終了すると判別された場合には(NOの場合)、各撮像装置11で実行される一連の処理が終了する。
次に、制御部12で実行される処理に移って、制御部12で実行される処理を説明する。
通信部2011は、ステップS1314にて、各撮像装置11からホワイトバランス値の補正が完了した旨の通知を受信して取得する。
補正判別部2007は、ステップS1315にて、エンジンの始動、停止の通知に基づいて、ホワイトバランス値の補正処理の継続または終了を判別する。判別の結果、補正処理を継続すると判別された場合には(YESの場合)、ステップS1301に示す処理が実行される。一方、補正処理を終了すると判別された場合には(NOの場合)、制御部12で実行される一連の処理が終了する。
このような手順を実行することにより、各撮像装置11の個別ホワイトバランス値は、目標ホワイトバランス値に補正される。
なお、上記諸々の所定値、所定時間、所定の範囲は、例えば実車両による実験やシミュレーションなどの机上解析等によって定めることができる設計的事項の範囲内の値であり、所定値、所定時間を参照して実行する処理の内容に応じて適宜設定することができる。
以上説明したように、撮像システム1は、以下に示す技術的特徴を備えることにより以下に示す効果を得ることができる。
撮像システム1は、同一の移動体に搭載され、被写体を撮像して画像を取得する複数の撮像装置11と、各撮像装置11で取得された画像に対して共通した目標ホワイトバランス値を算出する制御部12とを備えている。
各撮像装置11は、撮像装置11で取得した画像の個別ホワイトバランス値を算出するホワイトバランス算出部1082を備えている。各撮像装置11は、目標ホワイトバランス値に基づいて、各撮像装置11で撮像された被写体の画像の個別ホワイトバランス値を目標ホワイトバランス値に補正するホワイトバランス補正部107とを備えている。
制御部12は、各撮像装置11毎に設定された重み付け係数に基づいて、各撮像装置11から与えられた個別ホワイトバランス値に対して、それぞれ個別に重み付けする重み付け部2005を備えている。制御部12は、重み付けされた個別ホワイトバランス値の平均値を算出し、個別ホワイトバランス値の平均値を目標ホワイトバランス値とする平均値算出部2006を備えている。
上記技術的特徴を採用することにより、撮像システム1は、従来のように単に複数の撮像装置11のホワイトバランス値が平均化される場合に比べて、各撮像装置11毎の特性を考慮して各撮像装置11に共通した目標ホワイトバランス値を算出できる。
これにより、各撮像装置11で撮像された複数の画像のホワイトバランス値を最適に共通化することができる。この結果、各撮像装置11で撮像された複数の画像が1つの表示装置2に表示される場合に、撮像システム1は、ホワイトバランス値が最適に調整された画像を視認者に提示することが可能となる。
制御部12は、個別ホワイトバランス値が同時に目標ホワイトバランス値に補正されるように、個別ホワイトバランス値を目標ホワイトバランス値に補正する補正速度を、各撮像装置11に対して個別に算出する補正速度算出部2008を備えている。ホワイトバランス補正部107は、補正速度算出部2008で算出された補正速度に基づいて、撮像装置11で撮像された被写体の画像の個別ホワイトバランス値を目標ホワイトバランス値に補正する。
上記技術的特徴を採用することにより、撮像システム1は、各撮像装置11の個別ホワイトバランス値を同時に目標ホワイトバランス値に補正することが可能となる。これにより、各撮像装置11で撮像された複数の画像が1つの表示装置2に表示される場合に、目標ホワイトバランス値に補正された画像と補正されていない画像とが混在して表示されることは回避される。この結果、撮像システム1は、違和感のない画像を視認者に提示することができる。
制御部12は、所定の期間内に算出された目標ホワイトバランス値が所定の範囲内に収まっている場合に、個別ホワイトバランスを目標ホワイトバランスに補正すると判別する補正判別部2007を備えている。
上記技術的特徴を採用することにより、撮像システム1は、目標ホワイトバランス値が激しく変動することを回避することが可能となり、目標ホワイトバランス値に補正された画像の視認者に不快感を与えることのない画像を提示することができる。
各撮像装置11は、車両に搭載され、重み付け部2005は、車両の走行状態に応じて重み付け係数を変化させる。
上記技術的特徴を採用することにより、撮像システム1は、車両が前進または旋回しているといった、車両の走行状態に応じて各撮像装置11の個別ホワイトバランス値の重み付けを変えることが可能となる。これにより、目標ホワイトバランス値は、車両の走行状態に応じて算出することができる。
この結果、撮像システム1は、目標ホワイトバランス値を算出する際に、車両の進行方向を撮像する撮像装置11の個別ホワイトバランス値が目標ホワイトバランス値に占める割合を高めることができる。例えば、車両が前進しているときには、車両の前方を撮像した画像の個別ホワイトバランス値の重みは、車両の前方を撮像した画像の他の画像の個別ホワイトバランス値よりも増す。
これにより、撮像システム1は、車両の運転者が注視している車両の進行方向を撮像した画像の個別ホワイトバランス値の占める割合が高い目標ホワイトバランス値の画像を得ることができる。この結果、撮像システム1は、各撮像装置11で撮像された複数の画像を1つの表示装置2に表示した場合に、車両の運転者が注視している車両の進行方向の実景を撮像した画像のホワイトバランス値に近い目標ホワイトバランス値の画像を提示することができる。これにより、撮像システム1は、車両の運転者が目標ホワイトバランス値に補正された画像を視認したときに違和感の少ない画像を提示することができる。
重み付け部2005は、車両の走行状態が継続している時間に基づいて重み付け係数を変化させる。
上記技術的特徴を採用することにより、撮像システム1は、現在の車両の走行状態が長くなるほど各撮像装置11の重み付け係数を増すことができる。これにより、車両の走行状態の継続時間を考慮して目標ホワイトバランス値を算出することができる。この結果、撮像システム1は、車両の運転者が注視している車両の進行方向を撮像した画像の個別ホワイトバランス値の占める割合が高い目標ホワイトバランス値の画像を得ることができる。この結果、上述したと同様に、撮像システム1は、車両の運転者が目標ホワイトバランス値に補正された画像を視認したときに違和感の少ない画像を提示することができる。
1 撮像システム
11 撮像装置
12 制御部
107 ホワイトバランス補正部
1082 ホワイトバランス算出部
2005 重み付け部
2006 平均値算出部
2007 補正判別部
2008 補正速度算出部

Claims (5)

  1. 同一の移動体に搭載され、被写体を撮像して画像を取得する複数の撮像装置と、
    前記各撮像装置で取得された画像に対して共通した目標ホワイトバランス値を算出する制御部とを備え、
    前記各撮像装置は、
    前記撮像装置で取得した画像の個別ホワイトバランス値を算出するホワイトバランス算出部と、
    目標ホワイトバランス値に基づいて、前記各撮像装置で撮像された被写体の画像の個別ホワイトバランス値を目標ホワイトバランス値に補正するホワイトバランス補正部と、
    を有し、
    前記制御部は、
    前記各撮像装置毎に設定された重み付け係数に基づいて、前記各撮像装置から与えられた個別ホワイトバランス値に対して、それぞれ個別に重み付けする重み付け部と、
    重み付けされた個別ホワイトバランス値の平均値を算出し、個別ホワイトバランス値の平均値を前記目標ホワイトバランス値とする平均値算出部と、
    を有することを特徴とする撮像システム。
  2. 前記制御部は、個別ホワイトバランス値が同時に目標ホワイトバランス値に補正されるように、個別ホワイトバランス値を目標ホワイトバランス値に補正する補正速度を、前記各撮像装置に対して個別に算出する補正速度算出部
    を有し、
    前記ホワイトバランス補正部は、前記補正速度算出部で算出された補正速度に基づいて、前記撮像装置で撮像された被写体の画像の個別ホワイトバランス値を目標ホワイトバランス値に補正する
    ことを特徴とする請求項1に記載の撮像システム。
  3. 前記制御部は、所定の期間内に算出された目標ホワイトバランス値が所定の範囲内に収まっている場合に、個別ホワイトバランスを目標ホワイトバランスに補正すると判別する補正判別部
    を有することを特徴とする請求項1または2に記載の撮像システム。
  4. 前記各撮像装置は、車両に搭載され、
    前記重み付け部は、前記車両の走行状態に応じて重み付け係数を変化させる
    ことを特徴とする請求項1〜3のいずれか1項に記載の撮像システム。
  5. 前記重み付け部は、前記車両の走行状態が継続している時間に基づいて重み付け係数を変化させる
    ことを特徴とする請求項4に記載の撮像システム。
JP2014264621A 2014-12-26 2014-12-26 撮像システム Active JP6354578B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2014264621A JP6354578B2 (ja) 2014-12-26 2014-12-26 撮像システム
CN201580012761.1A CN106105188B (zh) 2014-12-26 2015-12-10 拍摄系统
EP15872735.4A EP3240288B1 (en) 2014-12-26 2015-12-10 Imaging system
PCT/JP2015/084649 WO2016104166A1 (ja) 2014-12-26 2015-12-10 撮像システム
US15/262,460 US9936146B2 (en) 2014-12-26 2016-09-12 Imaging system which corrects white balance of images

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014264621A JP6354578B2 (ja) 2014-12-26 2014-12-26 撮像システム

Publications (2)

Publication Number Publication Date
JP2016127329A JP2016127329A (ja) 2016-07-11
JP6354578B2 true JP6354578B2 (ja) 2018-07-11

Family

ID=56150196

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014264621A Active JP6354578B2 (ja) 2014-12-26 2014-12-26 撮像システム

Country Status (5)

Country Link
US (1) US9936146B2 (ja)
EP (1) EP3240288B1 (ja)
JP (1) JP6354578B2 (ja)
CN (1) CN106105188B (ja)
WO (1) WO2016104166A1 (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6706792B2 (ja) * 2016-03-31 2020-06-10 パナソニックIpマネジメント株式会社 車載用表示装置
WO2019026386A1 (ja) * 2017-07-31 2019-02-07 株式会社Jvcケンウッド 画像記録装置、画像記録方法および画像記録プログラム
JP6459012B1 (ja) * 2017-10-30 2019-01-30 エスゼット ディージェイアイ テクノロジー カンパニー リミテッドSz Dji Technology Co.,Ltd 制御装置、撮像装置、飛行体、制御方法、及びプログラム
JP7148384B2 (ja) * 2018-12-21 2022-10-05 ルネサスエレクトロニクス株式会社 半導体装置、画像処理方法およびプログラム
JP2020135206A (ja) * 2019-02-15 2020-08-31 パナソニックIpマネジメント株式会社 画像処理装置、車載用カメラシステム及び画像処理方法
CN110753217B (zh) * 2019-10-28 2022-03-01 黑芝麻智能科技(上海)有限公司 色彩平衡方法和装置、车载设备以及存储介质
JP7287355B2 (ja) * 2020-06-26 2023-06-06 トヨタ自動車株式会社 車両周辺監視装置
CN117378210A (zh) * 2021-08-02 2024-01-09 英特尔公司 用于多图像处理的统一自动白平衡的方法和系统

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3297040B1 (ja) * 2001-04-24 2002-07-02 松下電器産業株式会社 車載カメラの画像合成表示方法及びその装置
US7259784B2 (en) * 2002-06-21 2007-08-21 Microsoft Corporation System and method for camera color calibration and image stitching
JP2004088247A (ja) * 2002-08-23 2004-03-18 Sony Corp 画像処理装置、カメラキャリブレーション処理装置、および方法、並びにコンピュータ・プログラム
JP2007096767A (ja) * 2005-09-29 2007-04-12 Canon Inc カメラシステム
JP4812510B2 (ja) * 2006-05-17 2011-11-09 アルパイン株式会社 車両周辺画像生成装置および撮像装置の測光調整方法
JP4325642B2 (ja) * 2006-05-31 2009-09-02 ソニー株式会社 移動体カメラシステム
JP4869795B2 (ja) * 2006-06-06 2012-02-08 富士フイルム株式会社 撮像制御装置、撮像システム、および撮像制御方法
US8493467B2 (en) * 2007-12-11 2013-07-23 Canon Kabushiki Kaisha Camera control apparatus, camera control method, and camera system
JP2010252015A (ja) * 2009-04-15 2010-11-04 Panasonic Corp 画像合成装置、画像合成方法およびプログラム
JP5167222B2 (ja) * 2009-09-17 2013-03-21 富士フイルム株式会社 固体電子撮像装置の白バランス調整システムおよびその動作制御方法
CN101778246B (zh) * 2010-01-29 2014-04-02 华为终端有限公司 多画面视频图像处理方法和装置
JP5622513B2 (ja) * 2010-10-08 2014-11-12 オリンパスイメージング株式会社 画像処理装置、画像処理方法、および撮像装置
CN102137272B (zh) * 2011-03-21 2012-11-28 西安理工大学 一种开放环境下的多相机间的颜色校准方法
DE102012007982A1 (de) * 2012-04-20 2013-10-24 Connaught Electronics Ltd. Verfahren zum Weißabgleich eines Bildes unter Berücksichtigung der Farbgebung des Kraftfahrzeugs
US9508014B2 (en) * 2013-05-06 2016-11-29 Magna Electronics Inc. Vehicular multi-camera vision system
EP3065390B1 (en) * 2013-10-29 2019-10-02 Kyocera Corporation Image correction parameter output device, camera system, and correction parameter output method
JP6446790B2 (ja) * 2014-02-21 2019-01-09 株式会社リコー 画像処理装置、撮像装置、画像補正方法およびプログラム
US9741117B2 (en) * 2014-12-22 2017-08-22 Motorola Mobility Llc Multiple camera apparatus and method for synchronized auto white balance

Also Published As

Publication number Publication date
WO2016104166A1 (ja) 2016-06-30
CN106105188A (zh) 2016-11-09
US20160381303A1 (en) 2016-12-29
EP3240288A4 (en) 2017-12-20
EP3240288B1 (en) 2019-03-27
CN106105188B (zh) 2018-01-05
JP2016127329A (ja) 2016-07-11
EP3240288A1 (en) 2017-11-01
US9936146B2 (en) 2018-04-03

Similar Documents

Publication Publication Date Title
JP6354578B2 (ja) 撮像システム
EP2950521B1 (en) Camera capable of reducing motion blur in a low luminance environment and vehicle including the same
EP2471691B1 (en) Obstacle detection device, obstacle detection system provided therewith, and obstacle detection method
US8947533B2 (en) Parameter determining device, parameter determining system, parameter determining method, and recording medium
JP4622740B2 (ja) 車両用表示制御装置
US11477372B2 (en) Image processing method and device supporting multiple modes and improved brightness uniformity, image conversion or stitching unit, and computer readable recording medium realizing the image processing method
US20090009604A1 (en) Image processing system and method
JP6750519B2 (ja) 撮像装置、撮像表示方法および撮像表示プログラム
JP2007189369A (ja) カメラのレンズ汚れ検出装置及び画像表示システム
US9214034B2 (en) System, device and method for displaying a harmonized combined image
US10455159B2 (en) Imaging setting changing apparatus, imaging system, and imaging setting changing method
KR20150079004A (ko) 차량용 표시 장치 및 그 제어 방법
JP5190715B2 (ja) 車載モニタシステム、その車載モニタシステムを用いた駐車支援装置、および車載モニタシステムの色調整方法
JP6317914B2 (ja) 車載画像処理装置
US20180069998A1 (en) Imaging apparatus, imaging system, and vehicle
WO2016121406A1 (ja) 画像処理装置、画像処理システム、車両、撮像装置、および画像処理方法
WO2017203794A1 (ja) 撮像装置、撮像表示方法および撮像表示プログラム
JP6266022B2 (ja) 画像処理装置、警報装置、および画像処理方法
WO2020022373A1 (ja) 運転支援装置および運転支援方法
JP4846627B2 (ja) 表示制御装置
EP3761262A1 (en) Image processing device and image processing method
JP2018113622A (ja) 画像処理装置、画像処理システム、及び、画像処理方法
WO2016015965A1 (en) Method for operating a camera system of a motor vehicle, driver assistance system and motor vehicle
JP2021092609A (ja) ウィンドシールド表示装置
JP2018106001A (ja) 撮像装置、車載カメラ、および移動体

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170330

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180515

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180528

R150 Certificate of patent or registration of utility model

Ref document number: 6354578

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150