JPWO2016157873A1 - 撮像装置、撮像システム、および車両 - Google Patents

撮像装置、撮像システム、および車両 Download PDF

Info

Publication number
JPWO2016157873A1
JPWO2016157873A1 JP2017509286A JP2017509286A JPWO2016157873A1 JP WO2016157873 A1 JPWO2016157873 A1 JP WO2016157873A1 JP 2017509286 A JP2017509286 A JP 2017509286A JP 2017509286 A JP2017509286 A JP 2017509286A JP WO2016157873 A1 JPWO2016157873 A1 JP WO2016157873A1
Authority
JP
Japan
Prior art keywords
image
digital image
quality characteristic
control unit
image signal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2017509286A
Other languages
English (en)
Inventor
圭俊 中田
圭俊 中田
秀弥 関
秀弥 関
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Kyocera Corp
Original Assignee
Kyocera Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Kyocera Corp filed Critical Kyocera Corp
Publication of JPWO2016157873A1 publication Critical patent/JPWO2016157873A1/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/74Circuitry for compensating brightness variation in the scene by influencing the scene brightness using illuminating means
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/27Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view providing all-round vision, e.g. using omnidirectional cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/73Circuitry for compensating brightness variation in the scene by influencing the exposure time
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/181Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/66Remote control of cameras or camera parts, e.g. by remote control devices
    • H04N23/661Transmitting camera control signals through networks, e.g. control via the Internet

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Mechanical Engineering (AREA)
  • Studio Devices (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Color Television Image Signal Generators (AREA)

Abstract

デジタル画像信号のD/A変換による影響およびアナログ画像信号の送信過程における影響を低減する撮像装置、撮像システム、および車両を提供する。撮像装置13は、第1のデジタル画像を生成する画像処理部22と、第1のデジタル画像をアナログ画像に変換して出力するDA変換部23と、アナログ画像に基づいて生成される第2のデジタル画像の画質特性値を示す参照情報を受信する入出力部14と、画像処理部22の動作を制御して、第2のデジタル画像の画質特性値が所定の目標値に近づくように第1のデジタル画像の画質特性の調整を行う制御部25と、を備える。

Description

関連出願の相互参照
本出願は、2015年3月27日に日本国に特許出願された特願2015−067467、および2015年4月24日に日本国に特許出願された特願2015−089762の優先権を主張するものであり、この先の出願の開示全体をここに参照のために取り込む。
本発明は、撮像装置、撮像システム、および車両に関する。
従来、例えば車両に搭載された車載カメラにおいて、露出やホワイトバランスの制御が行われている。例えば特許文献1には、外環境に応じて車載カメラの露出やホワイトバランスの制御を行って画像の視認性を向上させるために、車両の光源の点灯に応じてホワイトバランスの補正や入射光量制御を行う技術が開示されている。
また、従来、CCDカメラからの画像データが所定回数変化しなかったときにカメラの受光素子が故障していると判断して信号を出力する手法が知られている(例えば、特許文献2)。
特開2005−159918号公報 特開平11−287549号公報
本発明の実施形態に係る撮像装置は、第1のデジタル画像を生成する画像処理部と、前記第1のデジタル画像をアナログ画像に変換して出力するDA変換部と、前記アナログ画像に基づいて生成される第2のデジタル画像の画質特性値を示す参照情報を受信する入出力部と、前記画像処理部の動作を制御して、前記第2のデジタル画像の画質特性値が所定の目標値に近づくように前記第1のデジタル画像の画質特性の調整を行う制御部と、を備える。
また、本発明の実施形態に係る撮像システムは、第1のデジタル画像を生成し、前記第1のデジタル画像をアナログ画像に変換して出力する撮像装置と、前記アナログ画像を受信し、前記アナログ画像を第2のデジタル画像に変換し、該第2のデジタル画像の画質特性値を示す参照情報を前記撮像装置に出力する表示装置と、を備え、前記撮像装置は、前記第2のデジタル画像の画質特性値が所定の目標値に近づくように前記第1のデジタル画像の画質特性の調整を行う。
また、本発明の実施形態に係る車両は、第1のデジタル画像を生成し、前記第1のデジタル画像をアナログ画像に変換して出力する撮像装置と、前記アナログ画像を受信し、前記アナログ画像を第2のデジタル画像に変換し、該第2のデジタル画像の画質特性値を示す情報を前記撮像装置に出力する表示装置と、を有する撮像システムを備え、前記撮像装置は、前記第2のデジタル画像の画質特性値が所定の目標値に近づくように前記第1のデジタル画像の画質特性の調整を行う。
第1の実施形態に係るカメラシステムを備える車両を上方から見た図である。 図1の撮像装置の撮像範囲の例を示す図である。 図1のカメラシステムの概略構成を示すブロック図である。 図1のカメラシステムの動作を説明するフローチャートである。 第2の実施形態に係るカメラシステムの動作を説明する第1のフローチャートである。 第2の実施形態に係るカメラシステムの動作を説明する第2のフローチャートである。 第2の実施形態に係るカメラシステムの動作を説明する第3のフローチャートである。 第2の実施形態に係る表示装置の動作を説明するフローチャートである。 第3の実施形態に係る撮像装置および表示装置の機能ブロック図である。 図9の撮像装置が出力するテストパターン画像を示す図である。 図9の撮像装置の動作フローを示す図である。 図9の撮像装置が行う比較と異常箇所との関係を説明する表である。
以下、本発明の実施形態について、図面を参照して説明する。
(第1の実施形態)
はじめに、図1を参照して、本発明の第1の実施形態に係る移動体である車両10が備えるカメラシステム(「撮像システム」ともいう。)11について説明する。カメラシステム11は、表示装置12と、少なくとも1つの撮像装置13と、を備える。本実施形態においてカメラシステム11は、4つの撮像装置13を備える。以下、4つの撮像装置13を特に区別する場合には、それぞれフロントカメラ13a、リアカメラ13b、左サイドカメラ13c、および右サイドカメラ13dという。
フロントカメラ13aは、車両10の前方の周辺領域を撮像可能となるように車両10に配置される。またリアカメラ13bは、車両10の後方の周辺領域を撮像可能となるように車両10に配置される。また左サイドカメラ13cは、車両10の左側方の周辺領域を撮像可能となるように、例えば左ドアミラーにおいて鉛直下向きに配置される。また右サイドカメラ13dは、車両10の右側方の周辺領域を撮像可能となるように、例えば右ドアミラーにおいて鉛直下向きに配置される。また表示装置12は、運転席から視認可能な位置に配置される。
撮像装置13は、例えば魚眼レンズなどの画角の広いレンズを備えており、車両10の周辺領域を広角撮影可能である。例えば図2に示すように、フロントカメラ13aの撮像範囲は、車両10の前方領域FA、左前方領域FLA、および右前方領域FRAを含む。またリアカメラ13bの撮像範囲は、車両10の後方領域ReA、左後方領域ReLA、および右後方領域ReRAを含む。また左サイドカメラ13cの撮像範囲は、車両10の左側方領域LA、左前方領域FLA、および左後方領域ReLAを含む。また右サイドカメラ13dの撮像範囲は、車両10の右側方領域RA、右前方領域FRA、および右後方領域ReRAを含む。
次に、図3を参照して、カメラシステム11の各構成要素について具体的に説明する。図3においては説明の簡便のため、撮像装置13を1つのみ図示している。
表示装置12は、入出力部14と、AD変換部15と、表示部16と、表示装置制御部17と、を備える。
入出力部14は、アナログビデオ信号線等の専用線18、およびCAN(Controller Area Network)等のネットワーク19を介して情報の入出力を行うインターフェースである。
AD変換部15は、例えばADC(Analog-to-Digital Converter)であって、専用線18および入出力部14を介して撮像装置13から入力されたアナログ画像信号をA/D変換してデジタル画像信号(第2のデジタル画像信号)を生成する。
表示部16は、例えばLCD(Liquid Crystal Display)を含んで構成され、リアルタイムの動画像を表示可能である。また表示部16は、例えばタッチパネルとして構成され、ユーザ操作を受け付けるインターフェースとして機能してもよい。
表示装置制御部17は、例えば専用のマイクロプロセッサまたは特定のプログラムを読み込むことによって特定の処理を実行する汎用のCPU(Central Processing Unit)である。表示装置制御部17は、表示装置12全体の動作を制御する。
例えば表示装置制御部17は、AD変換部15による第2のデジタル画像信号の生成に応じて、当該第2のデジタル画像信号の画質特性値を示す情報(参照情報)を、入出力部14およびネットワーク19を介して撮像装置13に出力する。ここで画質特性値は、画像信号の画質特性を調整するための任意の画像処理(以下、画質調整処理ともいう。)における制御対象のパラメータであって、画質調整処理に応じて任意に定められる。本実施形態において、画質特性の調整は、例えば露出調整またはホワイトバランス調整であるものとして説明するが、例えば色補正等、任意の画質調整処理を含んでもよい。また画質特性値は、例えばデジタル画像信号に基づく画像の全部領域または一部領域における、色信号成分のゲインの平均値、輝度信号成分のゲインの平均値、または色温度等を含むが、これに限られない。
また表示装置制御部17は、撮像装置13から後述する調整終了通知を受信すると、第2のデジタル画像信号に対して例えばガンマ補正、歪み補正、切出処理、および視点変換処理等の所定の画像調整を施し、画像調整が施された第2のデジタル画像信号に基づく画像を表示部16に表示させる。
撮像装置13は、光学系20と、撮像素子21と、画像処理部22と、DA変換部23と、入出力部24と、カメラ制御部25とを備える。
光学系20は、絞りおよび複数のレンズを含んで構成され、被写体像を結像させる。本実施形態において、光学系20は広い画角を有しており、車両10の周辺領域の被写体像を結像可能である。
撮像素子21は、例えばCMOS(Complementary Metal Oxide Semiconductor)撮像素子であって、光学系20によって結像される被写体像を撮像して、アナログ画像信号を生成する。
画像処理部22は、例えばAFE(Analog Front End)およびDSP(Digital Signal Processor)等の画像処理専用のプロセッサを含む。画像処理部22は、撮像素子21によって生成されたアナログ画像信号に対して、CDS(Correlated Double Sampling)、ゲイン調整(AGC:Auto Gain Control)、およびA/D変換等の前段画像処理を施し、デジタル画像信号(第1のデジタル画像信号)を生成する。また画像処理部22は、第1のデジタル画像信号に対して、露出調整、ホワイトバランス調整、色補間、色補正、およびガンマ補正等の所定の後段画像処理を施す。
また画像処理部22は、表示装置12からネットワーク19および入出力部24を介して受信した参照信号に応じて、後段画像処理が施された第1のデジタル画像信号に対してさらに露出調整またはホワイトバランス調整等、画質特性の調整を行なう。第1のデジタル画像信号の画質特性の調整の詳細については後述する。
また画像処理部22は、例えばテストパターン画像等、所定の画質特性値を有するデジタル画像信号を第1のデジタル画像に定めてもよい。
DA変換部23は、例えばDAC(Digital-to-Analog Converter)であって、第1のデジタル画像信号を出力用のアナログ画像信号に変換する。そして画像処理部22は、入出力部24および専用線18を介して、当該アナログ画像信号を表示装置12に出力する。
入出力部24は、専用線18、およびCAN等のネットワーク19を介して情報の入出力を行うインターフェースである。
カメラ制御部25は、例えば専用のマイクロプロセッサまたは特定のプログラムを読み込むことによって特定の処理を実行する汎用のCPUである。カメラ制御部25は、撮像装置13全体の動作を制御する。
例えばカメラ制御部25は、撮像素子21の動作を制御して、周期的に、例えば30fpsでアナログ画像信号を生成する。またカメラ制御部25は、画像処理部22の動作を制御して、撮像素子21によって生成されたアナログ信号に前段画像処理を施して第1のデジタル画像を生成する。またカメラ制御部25は、画像処理部22の動作を制御して、第1のデジタル画像に対して後段画像処理を施す。
そしてカメラ制御部25は、画像処理部22およびDA変換部23の動作を制御して、第1のデジタル画像信号の画質特性の調整、本実施形態では露出調整またはホワイトバランス調整を行う。以下、具体的に説明する。
はじめにカメラ制御部25は、後段画像処理が施された第1のデジタル画像信号の画質特性値を、例えば次フレームのアナログ画像信号を生成するまで、一時的に保持する。本実施形態において、一時的に保持された画質特性値が、後述する目標値に定められる。続いてカメラ制御部25は、DA変換部23の動作を制御して、後段画像処理が施された第1のデジタル画像信号をD/A変換したアナログ画像信号を、入出力部24および専用線18を介して表示装置12に出力する。続いてカメラ制御部25は、DA変換部23によって生成したアナログ画像信号の出力に応じて、ネットワーク19および入出力部24を介して表示装置12から参照情報を受信する。上述したように、参照情報は、表示装置12によって生成された第2のデジタル画像信号の画質特性値を示す情報である。
続いてカメラ制御部25は、参照情報に示される第2のデジタル画像信号の画質特性値が所定の目標値と略一致しているか否かを判定する。画質特性値が目標値と略一致するとは、例えば画質特性値が目標値と実質的に一致しているとみなせる数値範囲内に収まっていることをいう。また、本実施形態において目標値は、一時的に保持された第1のデジタル画像信号の画質特性値である。ここで第1のデジタル画像信号の画質特性値は、第1のデジタル画像信号に基づく画像の全部領域または参照情報に対応する一部領域における画質特性値であってもよい。
画質特性値が目標値と略一致していないときには、カメラ制御部25は、第2のデジタル画像信号の画質特性値が目標値に近づくように、第1のデジタル画像信号に対してさらに露出調整またはホワイトバランス調整を行う。続いてカメラ制御部25は、DA変換部23の動作を制御して、露出調整またはホワイトバランス調整が行われた第1のデジタル画像信号をD/A変換したアナログ画像信号を、入出力部24および専用線18を介して表示装置12に出力する。そしてカメラ制御部25は、当該アナログ画像信号の出力に応じて表示装置12から参照情報を受信し、第1のデジタル画像信号の画質特性の調整を繰り返し実行してフィードバック制御を行う。
一方、第2のデジタル画像信号の画質特性値が目標値と略一致しているときには、カメラ制御部25は、第1のデジタル画像信号の画質特性の調整を終了して、調整終了通知を表示装置12に出力する。
このように第1のデジタル画像信号の画質特性の調整によって、参照情報に示される第2のデジタル画像信号の画質特性値が、一時的に保持された目標値、すなわち後段画像処理が施された第1のデジタル画像信号の画質特性値と略一致するようにフィードバック制御される。フィードバック制御は、上述のように第2のデジタル画像信号の画質特性値が目標値に略一致するまで繰り返し行われてもよく、あるいはフィードバックの繰り返し回数に上限(例えば、1回)を設けて行われてもよい。
次に図4に示すフローチャートを参照して、本実施形態に係るカメラシステム11の動作の例について説明する。本動作は、例えば撮像装置13がアナログ画像信号を生成する各フレームにおいて実行される。
ステップS100:撮像装置13は、被写体像を撮像してアナログ画像信号を生成する。
ステップS101:撮像装置13は、アナログ画像信号に対して前段画像処理を施し、第1のデジタル画像信号を生成する。
ステップS102:撮像装置13は、第1のデジタル画像信号に対して後段画像処理を施す。ここで撮像装置13は、後段画像処理が施された第1のデジタル画像信号の画質特性値を一時的に保持する。
ステップS103:撮像装置13は、第1のデジタル画像信号を出力用のアナログ画像信号に変換する。
ステップS104:撮像装置13は、ステップS103のアナログ画像信号を、専用線18を介して表示装置12に出力する。
ステップS105:表示装置12は、ステップS104のアナログ画像信号をA/D変換して第2のデジタル画像信号を生成する。
ステップS106:表示装置12は、第2のデジタル画像信号の画質特性値を示す参照情報を、ネットワーク19を介して撮像装置13に出力する。
ステップS107:撮像装置13は、受信された参照情報に示される第2のデジタル画像信号の画質特性値が所定の目標値と略一致しているか否かを判定する。ここで目標値は、ステップS102で一時的に保持された画質特性値である。画質特性値が目標値と略一致していないときには(ステップS107−No)、ステップS108に進む。一方、画質特性値が目標値と略一致しているときには(ステップS107−Yes)、ステップS109に進む。
ステップS108:ステップS107において画質特性値が目標値と略一致していないときには(ステップS107−No)、撮像装置13は、参照情報に示される第2のデジタル画像信号の画質特性値が目標値に近づくように、第1のデジタル画像信号の画質特性の調整、本実施形態では露出調整またはホワイトバランス調整を行う。そして撮像装置13は、ステップS103に戻って第1のデジタル画像信号の画質特性の調整を繰り返し実行する。
ステップS109:ステップS107において画質特性値が目標値と略一致しているときには(ステップS107−Yes)、撮像装置13は、調整終了通知を表示装置12に出力する。
ステップS110:表示装置12は、調整終了通知を受信すると、ステップS105で生成された第2のデジタル画像信号に対してガンマ補正等の画像調整を施す。
ステップS111:表示装置12は、ステップS110で画像調整が施された第2のデジタル画像信号に基づく画像を表示する。
車載カメラを用いる一般的な撮像システムにおいて、車載カメラが生成するデジタル画像信号は、例えばビデオ信号などのアナログ画像信号に変換されて、表示装置などの出力先に出力される。このため、例えば車載カメラが生成するデジタル画像信号は、車載カメラのD/A変換誤差の影響、およびアナログ画像信号の送信過程における外乱などの影響を受ける可能性がある。このように、車載カメラにおけるD/A変換前のデジタル画像信号と、出力先におけるA/D変換後のデジタル画像信号とは、必ずしも一致しない。したがって、デジタル画像信号をアナログ画像信号に変換して出力する撮像システムにおいて、D/A変換誤差や送信過程における外乱などの影響に関し改善の余地があった。
一方、第1の実施形態に係る撮像装置13は、撮像装置13のD/A変換による影響およびアナログ画像信号の送信過程における影響を受けている第2のデジタル画像信号の画質特性値を示す参照情報を受信する。このため撮像装置13は、参照情報を用いることによって、撮像装置13の外部、例えば表示装置12で生成される第2のデジタル画像信号の画質特性値を目標値に近づけるように制御可能となり、撮像装置13のD/A変換による影響およびアナログ画像信号の送信過程における影響を低減可能である。
また、撮像装置13のD/A変換による影響およびアナログ画像信号の送信過程における影響を受けていない第1のデジタル画像信号の画質特性値が、一時的に保持される。一時的に保持された当該画質特性値を目標値に定めることによって、撮像装置13のD/A変換による影響およびアナログ画像信号の送信過程における影響がさらに低減される。
(第2の実施形態)
概略として、第2の実施形態に係る撮像装置は、車両に備えられる他の撮像装置を基準として、自装置が生成する第1のデジタル画像信号の画質特性の調整を行う点が第1の実施形態と相違する。以下、具体的に説明する。
第2の実施形態に係るカメラシステム11は、表示装置と、複数の撮像装置13と、を備える。本実施形態においてカメラシステム11は、4つの撮像装置13を備える。以下、4つの撮像装置13を特に区別する場合には、それぞれフロントカメラ13a、リアカメラ13b、左サイドカメラ13c、および右サイドカメラ13dという。
表示装置12は、入出力部14と、AD変換部15と、表示部16と、表示装置制御部17と、を備える。入出力部14、AD変換部15、および表示部16は第1の実施形態と同一である。
表示装置制御部17は、例えば専用のマイクロプロセッサまたは特定のプログラムを読み込むことによって特定の処理を実行する汎用のCPUである。表示装置制御部17は、表示装置12全体の動作を制御する。
例えば表示装置制御部17は、AD変換部15による第2のデジタル画像信号の生成に応じて、当該第2のデジタル画像信号の画質特性値を示す参照情報を、入出力部14およびネットワーク19を介して撮像装置13に出力する。ここで参照情報に示される第2のデジタル画像信号の画質特性値は、例えば第2のデジタル画像信号に基づく画像の全部領域または一部領域における画質特性値を含んでもよい。参照情報は、第2のデジタル画像信号に基づく画像の、各撮像装置13が互いに重複して撮像可能な車両10の周辺領域における画質特性値を示してもよい。ここで周辺領域は、例えば図2に示す左前方領域FLA、右前方領域FRA、左後方領域ReLA、および右後方領域ReRAである。
また表示装置制御部17は、何れかの撮像装置13から後述する調整終了通知を受信すると、当該撮像装置13の参照情報を、当該当該調整終了通知が示す他の撮像装置13に出力する。撮像装置13の参照情報を他の撮像装置13に出力する処理の詳細については後述する。
また表示装置制御部17は、全ての撮像装置13から後述する調整終了通知を受信すると、各撮像装置13の第2のデジタル画像信号に対して、例えばガンマ補正、歪み補正、切出処理、および視点変換処理等の所定の画像調整を施す。そして表示装置制御部17は、画像調整によって俯瞰画像に変換された複数の第2のデジタル画像信号に基づく画像を結合して、結合画像を生成する。結合画像は、例えば車両10の全周囲の俯瞰画像である。全周囲の俯瞰画像において、例えば前方領域FA、左前方領域FLA、および右前方領域FRAにはフロントカメラ13aの画像、後方領域ReA、左後方領域ReLA、および右後方領域ReRAにはリアカメラ13bの画像、左側方領域LAには左サイドカメラ13cの画像、ならびに右側方領域RAには右サイドカメラ13dの画像がそれぞれ用いられる。そして表示装置制御部17は、結合画像を表示部16に表示させる。
撮像装置13は、光学系20と、撮像素子21と、画像処理部22と、DA変換部23と、入出力部24と、カメラ制御部25とを備える。光学系20、撮像素子21、画像処理部22、DA変換部23、および入出力部24は、第1の実施形態と同一である。
カメラ制御部25は、例えば専用のマイクロプロセッサまたは特定のプログラムを読み込むことによって特定の処理を実行する汎用のCPUである。カメラ制御部25は、撮像装置13全体の動作を制御する。
例えばカメラ制御部25は、撮像素子21の動作を制御して、周期的に、例えば30fpsでアナログ画像信号を生成する。またカメラ制御部25は、画像処理部22の動作を制御して、撮像素子21によって生成されたアナログ画像信号に前段画像処理を施して第1のデジタル画像を生成する。またカメラ制御部25は、画像処理部22の動作を制御して、第1のデジタル画像に対して後段画像処理を施す。またカメラ制御部25は、後段画像処理が施された第1のデジタル画像信号の画質特性値を、例えば次フレームのアナログ画像信号を生成するまで、一時的に保持する。
またカメラ制御部25は、撮像素子21によってアナログ画像信号が生成された時刻における車両10の制御情報を取得する。制御情報は、時刻情報および車両10の状態に関する多様な情報が含まれる。車両10の状態に関する多様な情報には、例えば、車両10の進行方向(前進または後進)を示す情報、ステアリング舵角を示す情報、ウインカスイッチの状態を示す情報、照明(例えば、ヘッドランプ、テールランプ、およびブレーキランプ)の状態を示す情報、および車両10の速度を示す情報等が含まれる。カメラ制御部25は、任意の方法によって制御情報を取得可能である。例えばカメラ制御部25は、ネットワーク19および入出力部24を介して車両10から取得してもよい。あるいは、カメラ制御部25は、車両10に備えられる各種センサ等の他の構成要素が出力する制御情報を有線または無線によって取得してもよい。
またカメラ制御部25は、車両10の制御情報に基づいて各撮像装置13の従属関係を決定する。従属関係は、後述するように各撮像装置13が第1のデジタル画像信号の画質特性の調整を行う際に基準とする上位の他の撮像装置13、および上位に対する下位の他の撮像装置13を定める関係である。従属関係の具体例については後述する。従属関係において、各撮像装置13は、例えば上位から順に一次装置、二次装置、および三次装置のいずれかに定められる。また従属関係は、車両10の制御情報に基づいて任意に定められる。本実施形態においてカメラ制御部25は、車両10の状態に応じて運転者が注目する蓋然性が高い結合画像上の領域に対応する1つの撮像装置13を一次装置に定める。またカメラ制御部25は、一次装置の撮像範囲と重複する領域を撮像可能な他の撮像装置13を二次装置に定める。またカメラ制御部25は、二次装置の撮像範囲と重複する領域を撮像可能な他の撮像装置13を三次装置に定める。例えば表示装置制御部17は、車両10の進行方向が前方であること、左折のウインカスイッチがONであること、および速度がゼロ(停車中)であることを示す情報が制御情報に含まれるときに、車両10が左折しようとしていると判定可能である。このとき、車両10の運転者は結合画像において車両10の左前方領域FLAに注目すると考えられる。このためカメラ制御部25は、結合画像において左前方領域FLAに対応するフロントカメラ13aを一次装置に定める。またカメラ制御部25は、フロントカメラ13aの撮像範囲と重複する領域を撮像可能な左サイドカメラ13cおよび右サイドカメラ13dを二次装置に定める。またカメラ制御部25は、左サイドカメラ13cの撮像範囲または右サイドカメラ13dの撮像範囲と重複する領域を撮像可能なリアカメラ13bを三次装置に定める。複数の撮像装置13のうち1つの撮像装置13が、従属関係を決定し、決定された従属関係を例えば入出力部24およびネットワーク19を介して他の撮像装置13に通知してもよい。
そしてカメラ制御部25は、画像処理部22およびDA変換部23の動作を制御して、第1のデジタル画像信号の画質特性の調整、本実施形態では露出調整またはホワイトバランス調整を行う。露出調整またはホワイトバランス調整における画質特性値の目標値は、は、従属関係に応じて各撮像装置13で相違する。以下、例えばフロントカメラ13aが一次装置、左サイドカメラ13cおよび右サイドカメラ13dが二次装置、およびリアカメラ13bが三次装置であるものとして説明する。
一次装置(フロントカメラ13a)のカメラ制御部25は、第1の実施形態と同様に、後段画像処理が施された第1のデジタル画像信号の画質特性値を、目標値に定めて一時的に保持する。続いてカメラ制御部25は、自装置の参照情報に基づいて、第2のデジタル画像信号の画質特性値が目標値に近づくように、第1のデジタル画像信号の露出調整またはホワイトバランス調整を行う。
またカメラ制御部25は、第1のデジタル画像信号の調整が終了すると、調整終了通知を表示装置12に出力する。ここで調整終了通知には、一次装置の下位である二次装置(左サイドカメラ13cおよび右サイドカメラ13d)を示す情報が含まれる。そして当該調整終了通知を受信した表示装置12は、入出力部14およびネットワーク19を介して、一次装置の下位である二次装置に、一次装置の参照信号を送信する。当該参照信号には、画質特性の調整が終了した一次装置の第1のデジタル画像信号に基づいて生成された第2のデジタル画像信号の画質特性値を示す情報が含まれる。
二次装置(例えば、左サイドカメラ13c)のカメラ制御部25は、上位である一次装置(フロントカメラ13a)の参照情報を待ち受ける。続いてカメラ制御部25は、一次装置の参照情報を受信すると、当該参照情報に示される一次装置の第2のデジタル画像信号の画質特性値を、目標値に定めて一時的に保持する。続いてカメラ制御部25は、DA変換部23の動作を制御して、後段画像処理が施された第1のデジタル画像信号をD/A変換したアナログ画像信号を表示装置12に出力する。続いてカメラ制御部25は、表示装置12から自装置の参照情報を受信する。続いてカメラ制御部25は、自装置の参照情報に示される第2のデジタル画像信号の画質特性値が目標値と略一致しているか否かを判定する。
画質特性値が目標値と略一致していないときには、カメラ制御部25は、自装置の参照情報に示される第2のデジタル画像信号の画質特性値が目標値に近づくように、後段画像処理が施された第1のデジタル画像信号の画質特性の調整を行う。具体的には、カメラ制御部25は、露出調整またはホワイトバランス調整を行う。そしてカメラ制御部25は、DA変換部23の動作を制御して、調整された第1のデジタル画像信号をD/A変換したアナログ画像信号を表示装置12に出力し、第1のデジタル画像信号の画質特性の調整を繰り返し実行する。
一方、画質特性値が目標値と略一致しているときには、カメラ制御部25は、第1のデジタル画像信号の画質特性の調整を終了して、調整終了通知を表示装置12に出力する。調整終了通知には、二次装置の下位である三次装置(リアカメラ13b)示す情報が含まれる。
このように二次装置は、自装置の参照情報に示される第2のデジタル画像信号の画質特性値が、一次装置の参照情報に示される他の第2のデジタル画像信号の画質特性値に近づくように、自装置の第1のデジタル画像信号の画質特性の調整を行う。
また二次装置である右サイドカメラ13dの動作については、左サイドカメラ13cと同様である。
そして当該調整終了通知を受信した表示装置12は、入出力部14およびネットワーク19を介して、二次装置の下位である三次装置に、二次装置の参照信号を送信する。当該参照信号には、画質特性の調整が終了した二次装置の第1のデジタル画像信号に基づいて生成された第2のデジタル画像信号の画質特性値を示す情報が含まれる。
三次装置(リアカメラ13b)のカメラ制御部25は、上位である二次装置(左サイドカメラ13cおよび右サイドカメラ13dの少なくとも一方)の参照情報を待ち受ける。続いてカメラ制御部25は、二次装置の参照情報を受信すると、当該参照情報に示される二次装置の第2のデジタル画像信号の画質特性値を、目標値に定めて一時的に保持する。続いてカメラ制御部25は、DA変換部23の動作を制御して、後段画像処理が施された第1のデジタル画像信号をD/A変換したアナログ画像信号を表示装置12に出力する。続いてカメラ制御部25は、表示装置12から自装置の参照情報を受信する。続いてカメラ制御部25は、自装置の参照情報に示される第2のデジタル画像信号の画質特性値が目標値と略一致しているか否かを判定する。
画質特性値が目標値と略一致していないときには、カメラ制御部25は、自装置の参照情報に示される第2のデジタル画像信号の画質特性値が目標値に近づくように、後段画像処理が施された第1のデジタル画像信号の画質特性の調整を行う。具体的には、カメラ制御部25は、露出調整またはホワイトバランス調整を行う。そしてカメラ制御部25は、DA変換部23の動作を制御して、調整された第1のデジタル画像信号をD/A変換したアナログ画像信号を表示装置12に出力し、第1のデジタル画像信号の画質特性の調整を繰り返し実行する。
一方、画質特性値が目標値と略一致しているときには、カメラ制御部25は、第1のデジタル画像信号の画質特性の調整を終了して、調整終了通知を表示装置12に出力する。
このように三次装置は、自装置の参照情報に示される第2のデジタル画像信号の画質特性値が、二次装置の参照情報に示される他の第2のデジタル画像信号の画質特性値に近づくように、自装置の第1のデジタル画像信号の画質特性の調整を行う。
そして全ての撮像装置13から調整終了通知を受信した表示装置12は、上述したように、俯瞰画像に変換された複数の第2のデジタル画像信号に基づく画像を結合した結合画像を表示部16に表示させる。
次に図5に示すフローチャートを参照して、本実施形態に係る撮像装置13の動作の例について説明する。本動作は、例えば撮像装置13がアナログ画像信号を生成する各フレームにおいて実行される。
ステップS200:撮像装置13は、被写体像を撮像してアナログ画像信号を生成する。
ステップS201:撮像装置13は、アナログ画像信号に対して前段画像処理を施し、第1のデジタル画像信号を生成する。
ステップS202:撮像装置13は、第1のデジタル画像信号に対して後段画像処理を施す。
ステップS203:撮像装置13は、ステップS200でアナログ画像信号が生成された時刻における車両10の制御情報を取得する。
ステップS204:撮像装置13は、車両10の制御情報に基づいて各撮像装置13の従属関係を決定する。ここでは、フロントカメラ13aが一次装置、左サイドカメラ13cおよび右サイドカメラ13dが二次装置、およびリアカメラ13bが三次装置に定められるものとする。ステップS204の処理は、複数の撮像装置13のうちの1つが実行し、決定された従属関係を他の撮像装置13に通知してもよい。また一次装置に定められたフロントカメラ13aは、後段画像処理が施された第1のデジタル画像信号の画質特性値を目標値に定めて一時的に保持する。
ステップS205:撮像装置13は、表示装置12と共に、第1のデジタル画像信号の画質特性の調整処理を行う。画質特性の調整処理の内容は、上述したように従属関係に応じて各撮像装置13で相違する。
次に図6に示すフローチャートを参照して、表示装置12および一次装置に定められた撮像装置13(例えば、フロントカメラ13a)の動作の例について説明する。本動作は、図5のステップS205に示す第1のデジタル画像信号の画質特性の調整処理に相当する。
ステップS300:フロントカメラ13aは、第1のデジタル画像信号を出力用のアナログ画像信号に変換する。
ステップS301:フロントカメラ13aは、ステップS300のアナログ画像信号を、専用線18を介して表示装置12に出力する。
ステップS302:表示装置12は、ステップS301のアナログ画像信号をA/D変換して第2のデジタル画像信号を生成する。
ステップS303:表示装置12は、フロントカメラ13aの第2のデジタル画像信号の画質特性値を示す参照情報を、ネットワーク19を介してフロントカメラ13aに出力する。
ステップS304:フロントカメラ13aは、受信された参照情報に示される第2のデジタル画像信号の画質特性値が所定の目標値と略一致しているか否かを判定する。ここで目標値は、図5に示すステップS204で一時的に保持された、後段画像処理が施された第1のデジタル画像信号の画質特性値である。画質特性値が目標値と略一致していないときには(ステップS304−No)、ステップS305に進む。一方、画質特性値が目標値と略一致しているときには(ステップS304−Yes)、ステップS306に進む。
ステップS305:ステップS304において画質特性値が目標値と略一致していないときには(ステップS304−No)、フロントカメラ13aは、参照情報に示される第2のデジタル画像信号の画質特性値が目標値に近づくように、第1のデジタル画像信号の画質特性の調整、ここでは露出調整またはホワイトバランス調整を行う。そしてフロントカメラ13aは、ステップS300に戻って第1のデジタル画像信号の画質特性の調整を繰り返し実行する。
ステップS306:ステップS304において画質特性値が目標値と略一致しているときには(ステップS304−Yes)、フロントカメラ13aは、調整終了通知を表示装置12に出力する。調整終了通知には、一次装置の下位である二次装置(左サイドカメラ13cおよび右サイドカメラ13d)を示す情報が含まれる。
次に図7に示すフローチャートを参照して、表示装置12および二次装置または三次装置に定められた撮像装置13(例えば、左サイドカメラ13c)の動作の例について説明する。本動作は、図5のステップS205に示す第1のデジタル画像信号の画質特性の調整処理に相当する。
ステップS400:二次装置である左サイドカメラ13cは、上位の一次装置である他の撮像装置13の他の参照情報、ここではフロントカメラ13aの参照情報を待ち受ける。左サイドカメラ13cが表示装置12からフロントカメラ13aの参照情報を取得すると、当該参照情報に示されるフロントカメラ13aの第2のデジタル画像信号の画質特性値を目標値に定めて一時的に保持し、ステップS401に進む。
ステップS401:左サイドカメラ13cは、第1のデジタル画像信号を出力用のアナログ画像信号に変換する。
ステップS402:左サイドカメラ13cは、ステップS401のアナログ画像信号を、専用線18を介して表示装置12に出力する。
ステップS403:表示装置12は、ステップS402のアナログ画像信号をA/D変換して第2のデジタル画像信号を生成する。
ステップS404:表示装置12は、左サイドカメラ13cの第2のデジタル画像信号の画質特性値を示す参照情報を、ネットワーク19を介して左サイドカメラ13cに出力する。
ステップS405:左サイドカメラ13cは、ステップS404で受信された参照情報に示される第2のデジタル画像信号の画質特性値が所定の目標値と略一致しているか否かを判定する。ここで目標値は、ステップS400で一時的に保持された、一次装置(フロントカメラ13aの第2のデジタル画像信号の画質特性値である。画質特性値が目標値と略一致していないときには(ステップS405−No)、ステップS406に進む。一方、画質特性値が目標値と略一致しているときには(ステップS405−Yes)、ステップS407に進む。
ステップS406:ステップS405において画質特性値が目標値と略一致していないときには(ステップS405−No)、左サイドカメラ13cは、左サイドカメラ13cの参照情報に示される第2のデジタル画像信号の画質特性値が目標値に近づくように、第1のデジタル画像信号の画質特性の調整、ここでは露出調整またはホワイトバランス調整が行われる。そして左サイドカメラ13cは、ステップS401に戻って第1のデジタル画像信号の画質特性の調整を繰り返し実行する。
ステップS407:ステップS405において画質特性値が目標値と略一致しているときには(ステップS405−Yes)、撮像装置13は、調整終了通知を表示装置12に出力する。調整終了通知には、二次装置の下位である三次装置(リアカメラ13b)示す情報が含まれる。
次に図8に示すフローチャートを参照して、表示装置12が結合画像を表示する動作の例について説明する。
ステップS500:表示装置12は、全ての撮像装置13からの調整終了通知を待ち受ける。表示装置12が全ての撮像装置13から調整終了通知を取得すると、ステップS501に進む。
ステップS501:表示装置12は、各撮像装置13の第2のデジタル画像信号に対して所定の画像調整を施した画像を結合して、結合画像を生成する。
ステップS502:表示装置12は、結合画像を表示する。
このように、第2の実施形態に係る撮像装置13は、他の撮像装置13の他の参照情報を受信し、当該他の参照情報に示される他の第2のデジタル画像信号の画質特性値を目標値に定める。撮像装置13は、他の参照情報を用いることによって、撮像装置13の外部、例えば表示装置12で生成される自装置の第2のデジタル画像信号の画質特性値を他の撮像装置13の第2のデジタル画像信号の画質特性値に近づけるように制御可能となる。このため、撮像装置13のD/A変換による影響およびアナログ画像信号の送信過程における影響が低減されるとともに、撮像装置13と他の撮像装置13との間で第2のデジタル画像信号の色または明るさ等の画質特性が略一致する。色または明るさが略一致した複数の画像は、例えば複数の画像を結合して生成される結合画像の視認性向上に好適である。
(第3の実施形態)
図9は、第3の実施形態に係る撮像装置を備える異常判定システム(「撮像システム」ともいう。)の機能ブロック図の一例を示す図である。異常判定システムは、撮像装置100、表示装置200、第1の伝送路300、第2の伝送路400および第3の伝送路500を含んで、構成される。撮像装置100が撮像する撮像画像を表示装置200は表示する。また、撮像装置100は、撮像画像の出力経路上に異常が発生しているか否かを判定する。
次に、撮像装置100および表示装置200の各機能を説明するが、撮像装置100および表示装置200が備える他の機能を排除することを意図したものではないことに留意されたい。本実施形態に係る撮像装置100および表示装置200は例えば車両に設置される。撮像装置100は車両以外の移動体に設置されてもよい。撮像装置100は電子機器関連の要素と通信するが、以下の説明においては、他の機能部を構成する要素の図示および説明は省略する。
撮像装置100は、制御部1100、撮像部1200、第1の出力部1300、第2の出力部1400および取得部1500を備える。
制御部1100は、撮像装置100の各種動作を制御するコンピュータである。例えば制御部1100は、撮像部1200から取得した画像に対して任意の画像処理(A/D変換、D/A変換等)を行う。また、制御部1100は、画像を符号化する。また、制御部1100は、後述する取得部1500が取得した画像を、後述する第1の出力部1300が出力したテストパターン画像の対応領域と比較する。テストパターン画像の画像信号は、例えば所定のカラーバー信号であるが、これに限定されない。テストパターン画像はカラー画像であってもモノクロ画像であってもよい。
撮像部1200は、光学系および撮像素子を有する。光学系はレンズなどの光学素子によって構成され、撮像装置1が設置される車両の周辺の画像を結像する。撮像素子は、例えばCMOSまたはCCD撮像素子であり、光学系が結像する画像を、カラー画像またはモノクロ画像として撮像する。
第1の出力部1300は例えば、コネクタである。第1の出力部1300は、撮像部1200が撮像した撮像画像と所定のテストパターン画像とを切替えて、第1の伝送路300を介して表示装置200へ出力可能である。
第2の出力部1400は例えば、コネクタである。第2の出力部1400は、テストパターン画像の少なくとも一部の領域を指定する情報を第2の伝送路400を介して表示装置200に出力する。
取得部1500は例えば、コネクタである。取得部1500は、表示装置200から、テストパターン画像の少なくとも一部の領域の画像を取得する。取得部1500は、取得した画像を制御部1100に出力する。
表示装置200は、制御部2100、取得部2200、復号部2300、駆動部2400、表示部2500および通信制御部2600を備える。
制御部2100は、表示装置200の各種動作を制御するコンピュータである。例えば制御部2100は、後述する取得部2200が取得したテストパターン画像から、その少なくとも一部の領域の画像を、後述する通信制御部2600に抽出させる。
取得部2200は例えば、コネクタである。取得部2200は、第1の出力部1300から、撮像画像またはテストパターン画像の少なくとも一方を取得する。取得部2200はまた、第2の出力部1400から、テストパターン画像の少なくとも一部の領域を指定する情報を取得する。取得部2200は、取得した情報を復号部2300へ出力する。後述する第4の実施形態では、取得部2200は、取得した画像を通信制御部2600へ出力する。
復号部2300は、取得部2200が取得した撮像画像またはテストパターン画像の少なくとも一方の画像信号を復号する。復号部2300は例えば、画像処理を行うDSPである。復号部2300は、復号した画像を駆動部2400に出力する。
駆動部2400は、例えば、LCDドライバである。駆動部2400は、復号部2300から取得した画像に基づいて、表示部2500を駆動する。
表示部2500は、例えば、液晶ディスプレイであり、駆動部2400の駆動によって撮像画像を表示する。表示部2500は、テストパターン画像を表示してもよい。表示部2500は、例えばタッチパネルで構成され、ユーザから入力を受付けるインターフェースとして機能してもよい。
通信制御部2600は、例えば、ゲートアレイのCANコントローラである。通信制御部2600は、復号部2300が復号した後のテストパターン画像を取得する。通信制御部2600は、取得したテストパターン画像から、取得部2200が取得した、テストパターン画像の少なくとも一部の領域を指定する情報に対応する領域の画像を抽出する。通信制御部2600は、抽出した画像を、第3の伝送路500を介して撮像装置100に出力する。
第1の伝送路300は例えば専用線である。第1の伝送路300は、第1の出力部1300が出力した画像を表示装置200へ伝送する。第2の伝送路400は例えば専用線であるが、バスであってもよい。第2の伝送路400は、第2の出力部1400が出力した情報を表示装置200へ伝送する。後述する第3の伝送路500が、第2の伝送路400の代わりに、第2の出力部1400が出力した情報を表示装置200へ伝送してもよい。
第3の伝送路500は例えばバスである。第3の伝送路500は、通信制御部2600が出力した画像をCAN通信によって撮像装置100へ伝送する。第3の伝送路500の本数は2本以上であってもよい。
[異常判定システムが行う処理]
制御部1100は、撮像装置100が設置される車両のエンジンが起動し撮像装置100が起動したことを検出する。制御部1100は、撮像装置100が起動したことを検出すると、所定のテストパターン画像を表示装置200へ出力する。制御部1100は、撮像装置100が起動したことを検出した時点ではなく、車両に対して任意の運転操作がなされた時点でテストパターン画像を表示装置200へ出力してもよい。運転操作には、例えば車両の運転者がギアをリバースに入れる操作が含まれてもよい。表示装置200において取得部2200はテストパターン画像を取得し、復号部2300へ出力する。
復号部2300はテストパターン画像を復号する。次いで、復号部2300は、復号したテストパターン画像を通信制御部2600へ出力する。
通信制御部2600は、取得したテストパターン画像のうち少なくとも一部の領域の画像を抽出する。例えば、通信制御部2600は、図10に示すテストパターン画像3000全体から、少なくとも一部の領域の画像3100または3200等を抽出する。図10に示す通り、少なくとも一部の領域は例えば、テストパターン画像内に予め定められた境界3300、すなわち変位に伴い画素値が変わる境界部分を含む領域である。
通信制御部2600は、抽出した画像を、第3の伝送路500を介して撮像装置100へ出力する。
通信制御部2600がテストパターン画像内で抽出する領域は、例えば、撮像装置100の制御部1100によって指定される。具体的には制御部1100は、抽出する領域を、例えば、その領域の画像を構成する1以上の画素の座標によって指定する。制御部1100は、テストパターン画像を表示装置200に出力する時またはその前後に、テストパターン画像の少なくとも一部の領域を指定する情報を、第2の伝送路400を介して表示装置200に出力する。
取得部1500は、表示装置2における通信制御部2600から出力される、テストパターン画像の少なくとも一部の領域の画像を取得する。撮像装置100の制御部1100は、取得部1500が取得した画像を、第1の出力部1300が出力したテストパターン画像の、取得した画像が示す領域に対応する領域の画像と比較(照合)する。すなわち、撮像装置100の制御部1100は、2つの画像の画素情報を比較する。対応する領域とは、比較する2つの画像における、撮像装置100が指定した領域である。
比較した2つの画像の画素情報が同一でないと制御部1100が判定した場合、撮像装置100と表示装置200との間または表示装置200内に異常があると推定される。この場合、制御部1100は、異常がある旨の報知を、例えば第3の伝送路500を介して表示装置200に行わせる。この場合、制御部1100は、車両の特定の機能を停止させ得る情報を、表示装置200を含む車載機器に出力してもよい。
一方、比較した2つの画像が同一であると制御部1100が判定した場合、撮像装置100と表示装置200との間や表示装置200内は正常であると推定される。
[動作フロー]
図11に示すように、撮像装置100は、撮像装置100が設置される車両のエンジンが起動したことを検出する(ステップS601)。撮像装置100は、テストパターン画像を表示装置200に出力する(ステップS602)。撮像装置100は、ステップS602で出力したテストパターン画像の少なくとも一部の領域を指定する情報を表示装置200へ出力する(ステップS603)。ステップS603は、ステップS602と同時に行ってもよいし、ステップS602の前後で行ってもよい。撮像装置100は、表示装置200から出力される、テストパターン画像の少なくとも一部の領域の画像を取得する(ステップS604)。撮像装置100は、ステップS604で取得した画像を、ステップS602で出力したテストパターン画像の、ステップS604で取得した画像が示す領域に対応する領域の画像と比較する(ステップS605)。撮像装置100は、比較結果から、異常あるか否かを判定する(ステップS606)。撮像装置100は、異常があると判定した場合(ステップS606のYES)、異常がある旨の報知を表示装置200に行わせる(ステップS607)。また、撮像装置100は、車両の特定の機能を停止させ得る情報を車載機器に出力してもよい。撮像装置100は、正常であると判定した場合(ステップS606のNO)、ステップS607を行わない。
上記実施形態の通り、制御部1100は、取得部1500が取得した画像を、第1の出力部1300が出力したテストパターン画像の、取得した画像が示す領域に対応する領域の画像と比較する。これによって、撮像装置100と表示装置200との間または表示装置200内に異常があるか否かを判定することが可能となる。
また、少なくとも一部の領域は例えば、テストパターン画像として予め定められた境界部分の領域である。境界部分の領域においては、例えば、進行波と反射波とによって発生する定在波等の影響による同期信号の位相ずれが生じているときに、画像の乱れが発生しやすい。それゆえ、このような構成によって、カメラと表示装置との間または表示装置内に異常があるか否かを判定することが容易となる。
更に、テストパターン画像は、色情報を有するカラー画像であってもよい。異常によって、画像からまず色情報から失われることがある。従って、このような構成によって、異常があるか否かの判定をすることが容易となる。
(第4の実施形態)
上記の第3の実施形態では、通信制御部2600が、復号部2300が復号した後のテストパターン画像を取得する。他方、第4の実施形態では、通信制御部2600が、復号部2300が復号する前のテストパターン画像を取得する。この点以外の、異常判定システムが行う処理は上記の実施形態の処理と同様である。
本実施形態の場合、通信制御部2600が取得し撮像装置100に出力する画像は、復号部2300が復号を行っていない画像である。従って、比較した2つの画像が同一でないと制御部1100が判定した場合、撮像装置100と表示装置200との間に異常があると推定される。
本実施形態では、このような構成によって、撮像装置100と表示装置200との間に異常があるか否かを判定することができる。
(第5の実施形態)
第5の実施形態は、第3の実施形態と第4の実施形態とを組み合わせる。すなわち、通信制御部2600は、復号部2300が復号する前のテストパターン画像および復号した後のテストパターン画像の両方を取得する。更に、通信制御部2600は、両方のテストパターン画像を撮像装置100に出力し、取得部1500はそれらを取得して制御部1100に出力する。制御部1100は、復号部2300が復号する前のテストパターン画像を、第1の出力部1300が出力したテストパターン画像の、取得した画像が示す領域に対応する領域の画像と比較する。更に、制御部1100は、復号部2300が復号した後のテストパターン画像を、第1の出力部1300が出力したテストパターン画像の、取得した画像が示す領域に対応する領域の画像と比較する。
このように2回の比較を行ったときの、異常箇所の判定結果を図12に示す。「○」は比較した画像が同一であることを示し、「X」は比較した画像が異なることを示す。
本実施形態においては、このような構成によって、制御部1100が異常箇所を詳細に判定することができる。
(第6の実施形態)
上記第3の実施形態では、通信制御部2600がテストパターン画像内で抽出する領域を、撮像装置100の制御部1100が指定する。他方、第6の実施形態では、通信制御部2600がテストパターン画像内で抽出する領域を、通信制御部2600が任意に決定する。従って、本実施形態では、異常判定システムは第2の出力部1400を備える必要がない。
本実施形態では、通信制御部2600は、どの領域の画像を抽出したかを、例えば、その領域の画像を構成する1以上の画素の座標によって示す。通信制御部2600は、どの領域の画像を抽出したかを示す情報を、撮像装置100に出力する。制御部1100が比較する対応する領域は、比較する2つの画像における、通信制御部2600が決定した領域である。
(第7の実施形態)
上記第3の実施形態では、通信制御部2600がテストパターン画像内で抽出する領域を、制御部1100が指定する。他方、第7の実施形態では、通信制御部2600がテストパターン画像内で抽出する領域は、予め定められている。従って、本実施形態では、異常判定システムは第2の出力部1400を備える必要がない。
本実施形態では、通信制御部2600は、予め定められた所定の領域を抽出し、撮像装置100へ出力する。予め定められた所定の領域は、テストパターン画像の一部の領域であってもよいし、全部の領域であってもよい。
本発明を諸図面や実施形態に基づき説明してきたが、当業者であれば本開示に基づき種々の変形や修正を行うことが容易であることに注意されたい。したがって、これらの変形や修正は本発明の範囲に含まれることに留意されたい。例えば、各手段、各ステップなどに含まれる機能などは論理的に矛盾しないように再配置可能であり、複数の手段やステップなどを1つに組み合わせたり、あるいは分割したりすることが可能である。
例えば、上述した第1の実施形態および第2の実施形態において、撮像装置13(第2の実施形態においては一次装置)は後段画像処理が施された現在フレームの第1のデジタル画像信号の画質特性値を目標値に定める構成について説明したが、実施形態の構成はこれに限られない。例えば後段画像処理が施された過去フレームの第1のデジタル画像信号の画質特性値を目標値に定めてもよい。同様に、上述した第2の実施形態において、例えば二次装置に定められた撮像装置13は、過去のフレームの他の参照信号に示される第2のデジタル画像信号の画質特性値を目標値に定めてもよい。
また、上述した第1の実施形態または第2の実施形態と、第3の実施形態と、が組み合わされてもよい。例えば、第1の実施形態または第2の実施形態に係る第1のデジタル画像信号として、第3の実施形態に係るテストパターン画像が採用されてもよい。また例えば、第1の実施形態または第2の実施形態において、第1のデジタル画像信号の少なくとも一部の領域の画質特性値と、第2のデジタル画像信号の少なくとも一部の領域の画質特性値と、の比較に基づいて、撮像装置13と表示装置12との間に、または、表示装置12内に、異常があるか否かを判定してもよい。
また、上述の実施形態に係るシステムの構成要素の一部は、車両の外部に設けられてもよい。例えば、表示装置12、200、および撮像装置13、100等は、携帯電話等の通信機器として実現され、システムの他の構成要素と有線または無線によって接続されてもよい。
また、撮像装置13、100または表示装置12、200の少なくとも一方をコンピュータで構成した場合、各機能を実現する処理内容を記述したプログラムを、そのコンピュータの内部または外部の記憶部に格納しておき、そのコンピュータの中央演算処理装置(CPU)によってこのプログラムを読み出して実行させることで実現することができる。また、このようなプログラムは、例えばDVDまたはCD−ROMなどの可搬型記録媒体の販売、譲渡、貸与等によって流通させることができるほか、そのようなプログラムを、例えばネットワーク上にあるサーバの記憶部に記憶しておき、ネットワークを介してサーバから他のコンピュータにそのプログラムを転送することによって、流通させることができる。また、そのようなプログラムを実行するコンピュータは、例えば、可搬型記録媒体に記録されたプログラムまたはサーバから転送されたプログラムを、一旦、自己の記憶部に記憶することができる。また、このプログラムの別の実施態様として、コンピュータが可搬型記録媒体から直接プログラムを読み取り、そのプログラムに従った処理を実行することとしてもよく、更に、このコンピュータにサーバからプログラムが転送される度に、逐次、受け取ったプログラムに従った処理を実行することとしてもよい。
10 車両
11 カメラシステム
12 表示装置
13 撮像装置
13a フロントカメラ
13b リアカメラ
13c 左サイドカメラ
13d 右サイドカメラ
14 入出力部
15 AD変換部
16 表示部
17 表示装置制御部
18 専用線
19 ネットワーク
20 光学系
21 撮像素子
22 画像処理部
23 DA変換部
24 入出力部
25 カメラ制御部
100 撮像装置
200 表示装置
300 第1の伝送路
400 第2の伝送路
500 第3の伝送路
1100 制御部
1200 撮像部
1300 第1の出力部
1400 第2の出力部
1500 取得部
2100 制御部
2200 取得部
2300 復号部
2400 駆動部
2500 表示部
2600 通信制御部

Claims (10)

  1. 第1のデジタル画像を生成する画像処理部と、
    前記第1のデジタル画像をアナログ画像に変換して出力するDA変換部と、
    前記アナログ画像に基づいて生成される第2のデジタル画像の画質特性値を示す参照情報を受信する入出力部と、
    前記画像処理部の動作を制御して、前記第2のデジタル画像の画質特性値が所定の目標値に近づくように前記第1のデジタル画像の画質特性の調整を行う制御部と、
    を備える撮像装置。
  2. 請求項1に記載の撮像装置であって、
    前記目標値は、前記第1のデジタル画像の画質特性値である、撮像装置。
  3. 請求項1に記載の撮像装置であって、
    前記制御部は、さらに他の撮像装置が出力した他のアナログ画像に基づいて生成される他の第2のデジタル画像の画質特性値を示す他の参照情報を受信し、
    前記目標値は、前記他の第2のデジタル画像の画質特性値である、撮像装置。
  4. 請求項1乃至3の何れか一項に記載の撮像装置であって、
    前記第1のデジタル画像の画質特性の調整は、露出調整またはホワイトバランス調整を含む、撮像装置。
  5. 請求項1乃至4の何れか一項に記載の撮像装置であって、
    前記第1のデジタル画像は、テストパターン画像であり、
    前記制御部は、前記第1のデジタル画像上の特定領域と、前記第2のデジタル画像上の前記特定領域と、を比較する、撮像装置。
  6. 請求項5に記載の撮像装置であって、
    前記特定領域は、前記テストパターン画像内に予め定められた境界部分を含む領域である、撮像装置。
  7. 請求項5または6に記載の撮像装置であって、
    前記入出力部は、前記特定領域を指定する情報を出力する、撮像装置。
  8. 請求項5乃至7の何れか一項に記載の撮像装置であって、
    前記制御部は、前記前記第1のデジタル画像上の前記特定領域の色情報と、前記第2のデジタル画像上の前記特定領域の色情報と、を比較する、撮像装置。
  9. 第1のデジタル画像を生成し、前記第1のデジタル画像をアナログ画像に変換して出力する撮像装置と、
    前記アナログ画像を受信し、前記アナログ画像を第2のデジタル画像に変換し、該第2のデジタル画像の画質特性値を示す参照情報を前記撮像装置に出力する表示装置と、を備え、
    前記撮像装置は、前記第2のデジタル画像の画質特性値が所定の目標値に近づくように前記第1のデジタル画像の画質特性の調整を行う、撮像システム。
  10. 第1のデジタル画像を生成し、前記第1のデジタル画像をアナログ画像に変換して出力する撮像装置と、前記アナログ画像を受信し、前記アナログ画像を第2のデジタル画像に変換し、該第2のデジタル画像の画質特性値を示す情報を前記撮像装置に出力する表示装置と、を有する撮像システムを備え、
    前記撮像装置は、前記第2のデジタル画像の画質特性値が所定の目標値に近づくように前記第1のデジタル画像の画質特性の調整を行う、車両。
JP2017509286A 2015-03-27 2016-03-25 撮像装置、撮像システム、および車両 Pending JPWO2016157873A1 (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
JP2015067467 2015-03-27
JP2015067467 2015-03-27
JP2015089762 2015-04-24
JP2015089762 2015-04-24
PCT/JP2016/001768 WO2016157873A1 (ja) 2015-03-27 2016-03-25 撮像装置、撮像システム、および車両

Publications (1)

Publication Number Publication Date
JPWO2016157873A1 true JPWO2016157873A1 (ja) 2017-08-24

Family

ID=57004126

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017509286A Pending JPWO2016157873A1 (ja) 2015-03-27 2016-03-25 撮像装置、撮像システム、および車両

Country Status (4)

Country Link
US (1) US20180069998A1 (ja)
EP (1) EP3276939A4 (ja)
JP (1) JPWO2016157873A1 (ja)
WO (1) WO2016157873A1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019082653A1 (ja) * 2017-10-25 2019-05-02 富士フイルム株式会社 情報処理装置、撮影装置、撮影システム、情報処理方法、撮影方法、情報処理プログラム、及び撮影プログラム
JP6933955B2 (ja) * 2017-10-27 2021-09-08 京セラ株式会社 サイドミラー装置、サイドミラーシステム、および車両
JP6632750B1 (ja) * 2019-03-11 2020-01-22 マレリ株式会社 画像表示装置

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0979003A2 (en) * 1998-08-03 2000-02-09 Sony Corporation Image-pickup and display apparatus
JP2001177798A (ja) * 1999-12-17 2001-06-29 Minolta Co Ltd 画像処理装置、画像処理システム、画像処理プログラムを記録した記録媒体および画像処理方法
JP2008175915A (ja) * 2007-01-16 2008-07-31 Konica Minolta Medical & Graphic Inc 表示画像検査方法、表示画像検査システム及び表示画像検査プログラム
JP2009147977A (ja) * 2009-03-23 2009-07-02 Sony Corp カメラシステムおよび移動体カメラシステム
JP2010288199A (ja) * 2009-06-15 2010-12-24 Aisin Seiki Co Ltd 車載モニタシステム、その車載モニタシステムを用いた駐車支援装置、および車載モニタシステムの色調整方法

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6680745B2 (en) * 2000-11-10 2004-01-20 Perceptive Network Technologies, Inc. Videoconferencing method with tracking of face and dynamic bandwidth allocation
JP2011044965A (ja) * 2009-08-21 2011-03-03 Samsung Yokohama Research Institute Co Ltd 撮像装置、撮像方法及びコンピュータプログラム
US8964056B2 (en) * 2011-06-30 2015-02-24 Cisco Technology, Inc. Encoder-supervised imaging for video cameras

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0979003A2 (en) * 1998-08-03 2000-02-09 Sony Corporation Image-pickup and display apparatus
JP2000050131A (ja) * 1998-08-03 2000-02-18 Sony Corp 撮像表示装置
JP2001177798A (ja) * 1999-12-17 2001-06-29 Minolta Co Ltd 画像処理装置、画像処理システム、画像処理プログラムを記録した記録媒体および画像処理方法
JP2008175915A (ja) * 2007-01-16 2008-07-31 Konica Minolta Medical & Graphic Inc 表示画像検査方法、表示画像検査システム及び表示画像検査プログラム
JP2009147977A (ja) * 2009-03-23 2009-07-02 Sony Corp カメラシステムおよび移動体カメラシステム
JP2010288199A (ja) * 2009-06-15 2010-12-24 Aisin Seiki Co Ltd 車載モニタシステム、その車載モニタシステムを用いた駐車支援装置、および車載モニタシステムの色調整方法

Also Published As

Publication number Publication date
EP3276939A4 (en) 2018-12-05
US20180069998A1 (en) 2018-03-08
EP3276939A1 (en) 2018-01-31
WO2016157873A1 (ja) 2016-10-06

Similar Documents

Publication Publication Date Title
US9681056B2 (en) Imaging system, display system, and optical device including plurality of optical systems that have a plurality of optical axes
US10110820B2 (en) Imaging device, imaging system, and imaging method
JP2007282158A (ja) 撮像装置
JP2006245793A (ja) 撮像システム
JP2017147577A (ja) 動画撮像装置
JP2019033917A (ja) 内視鏡システム
JP2010283567A (ja) 撮像装置及び車両周囲画像提供装置
WO2016157873A1 (ja) 撮像装置、撮像システム、および車両
JP5505764B2 (ja) 車載カメラ装置のキャリブレーション支援方法及びキャリブレーション支援装置、並びに車載カメラ装置
US10455159B2 (en) Imaging setting changing apparatus, imaging system, and imaging setting changing method
US8970735B2 (en) Capturing device, capturing system, and capturing method
JP4791222B2 (ja) 表示制御装置
JP2007266703A5 (ja)
WO2016121406A1 (ja) 画像処理装置、画像処理システム、車両、撮像装置、および画像処理方法
JP2007189361A (ja) イメージセンサおよびこれを用いたカメラ
JP6266022B2 (ja) 画像処理装置、警報装置、および画像処理方法
JP2022188888A (ja) 画像処理装置および画像処理方法
JP4611898B2 (ja) 画像表示システム
JP6413830B2 (ja) 車載カメラ
JP6142005B2 (ja) 撮像装置、カメラシステム、および信号出力方法
JP6618575B2 (ja) 画像処理装置、撮像装置、レンズ装置、および、画像処理方法
JP2011061588A (ja) 画像処理装置、画像処理方法及び車載カメラ装置
JP2009159404A (ja) 画像処理方法、画像処理装置及び画像形成装置
JP2023161848A (ja) 画像処理装置、制御方法、及びプログラム
JP2022154264A (ja) 撮像装置、画像処理装置、移動装置、制御方法およびコンピュータプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170519

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180109

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20180710