JP2020161987A - 車両用撮影システム - Google Patents

車両用撮影システム Download PDF

Info

Publication number
JP2020161987A
JP2020161987A JP2019059585A JP2019059585A JP2020161987A JP 2020161987 A JP2020161987 A JP 2020161987A JP 2019059585 A JP2019059585 A JP 2019059585A JP 2019059585 A JP2019059585 A JP 2019059585A JP 2020161987 A JP2020161987 A JP 2020161987A
Authority
JP
Japan
Prior art keywords
vehicle
imaging
signal
unit
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2019059585A
Other languages
English (en)
Inventor
彩夏 平田
Ayaka Hirata
彩夏 平田
慶 中川
Kei Nakagawa
慶 中川
星野 和弘
Kazuhiro Hoshino
和弘 星野
将嗣 福永
Masatsugu Fukunaga
将嗣 福永
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Sony Semiconductor Solutions Corp
Original Assignee
Sony Corp
Sony Semiconductor Solutions Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp, Sony Semiconductor Solutions Corp filed Critical Sony Corp
Priority to JP2019059585A priority Critical patent/JP2020161987A/ja
Priority to PCT/JP2020/008279 priority patent/WO2020195538A1/ja
Priority to US17/439,706 priority patent/US20220161728A1/en
Publication of JP2020161987A publication Critical patent/JP2020161987A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/47Image sensors with pixel address output; Event-driven image sensors; Selection of pixels to be read out based on image data
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/90Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/27Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view providing all-round vision, e.g. using omnidirectional cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/58Means for changing the camera field of view without moving the camera body, e.g. nutating or panning of optics or image sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/65Control of camera operation in relation to power supply
    • H04N23/651Control of camera operation in relation to power supply for reducing power consumption by affecting camera operations, e.g. sleep mode, hibernation mode or power off of selective parts of the camera
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/71Circuitry for evaluating the brightness variation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/77Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/10Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
    • B60R2300/105Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using multiple cameras
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/20Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of display used
    • B60R2300/207Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of display used using multi-purpose displays, e.g. camera image and navigation or video on same display
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/40Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the details of the power supply or the coupling to vehicle components
    • B60R2300/404Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the details of the power supply or the coupling to vehicle components triggering from stand-by mode to operation mode
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/70Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by an event-triggered choice to display a specific image among a selection of captured images

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Mechanical Engineering (AREA)
  • Traffic Control Systems (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Studio Devices (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Abstract

【課題】電力消費量の低減等の特性をさらに向上可能な車両用撮影システムを提供する。【解決手段】車両に搭載され、所定の撮像範囲から受光した光量の変化量に応じてイベント信号を出力するイベント検出部と、車両に搭載され、所定の撮像範囲と少なくとも一部重なっている所定の受光範囲から受光した光量に応じて電荷を生成及び蓄積し電荷の蓄積量に応じて画像情報を生成する動作である撮像を行う撮像部と、イベント信号に応じた制御信号を撮像部に出力する制御部と、を備えている。【選択図】図1

Description

本技術は、車両用撮影システムに関する。
従来、車両に搭載された複数のRGBカメラで車両の周囲を撮像し、撮像して得た画像を車内に配置されたディスプレイに表示させる車両用撮影システムが提案されている(例えば、特許文献1参照。)。特許文献1に記載の車両用撮影システムでは、車両の周囲の障害物等を運転者に報知するために、複数のRGBカメラすべてを作動させている。
特開2012−006551号公報
このような車両用撮影システムでは、電力消費量の低減等のさらなる向上が求められている。
本開示は、電力消費量の低減等の特性をさらに向上可能な車両用撮影システムを提供することを目的とする。
本開示の車両用撮影システムは、(a)車両に搭載され、所定の撮像範囲から受光した光量の変化量に応じてイベント信号を出力するイベント検出部と、(b)車両に搭載され、所定の撮像範囲と少なくとも一部重なっている所定の受光範囲から受光した光量に応じて電荷を生成及び蓄積し電荷の蓄積量に応じて画像情報を生成する動作である撮像を行う撮像部と、(c)イベント信号に応じた制御信号を撮像部に出力する制御部と、を備えている。
本開示の第1の実施形態に係る車両用撮影システムの構成を示す図である。 イベント検出部の構成を示す図である。 固体撮像素子の構成を示す図である。 センサ制御処理のフローチャートである。 変形例に係る車両用撮影システムの構成を示す図である。 変形例に係る車両用撮影システムの構成を示す図である。 変形例に係るセンサ制御処理のフローチャートである。 変形例に係るセンサ制御処理のフローチャートである。 変形例に係るセンサ制御処理のフローチャートである。 第2の実施形態に係る車両用撮影システムの構成を示す図である。 センサ制御処理のフローチャートである。 表示部の表示内容を示す図である。 表示部の表示内容を示す図である。 第3の実施形態に係るセンサ制御処理のフローチャートである。 表示部の表示内容を示す図である。 変形例に係るセンサ制御処理のフローチャートである。 変形例に係る表示部の表示内容を示す図である。 変形例に係る車両用撮影システムの構成を示す図である。 変形例に係るセンサ制御処理のフローチャートである。 変形例に係る表示部の表示内容を示す図である。 変形例に係る車両用撮影システムの構成を示す図である。 変形例に係るセンサ制御処理のフローチャートである。 第4の実施形態に係るセンサ制御処理のフローチャートである。 表示部の表示内容を示す図である。 変形例に係る表示部の表示内容を示す図である。 変形例に係るセンサ制御処理のフローチャートである。 変形例に係る表示部の表示内容を示す図である。 第5の実施形態に係る車両用撮影システムの構成を示す図である。 センサ制御処理のフローチャートである。 表示部の表示内容を示す図である。 表示部の表示内容を示す図である。 第6の実施形態に係るセンサ制御処理のフローチャートである。 第7の実施形態に係るセンサ制御処理のフローチャートである。 表示部の表示内容を示す図である。
本発明者らは、特許文献1に記載の車両用撮影システムにおいて、以下の課題を発見した。特許文献1に記載の車両用撮影システムでは、複数のRGBカメラすべてを作動させる構成となっているため、電力消費量が大きくなる可能性があった。そして、電力消費量が大きくなることで、例えば、駐車中やアイドリングストップ中等、エンジンが停止され、発電が行われない状況では、車載バッテリーに大きな負荷がかかる可能性があった。
以下に、本開示の実施形態に係る車両用撮影システムの一例を、図1〜図33を参照しながら説明する。本開示の実施形態は、以下の順序で説明する。なお、本開示は、以下の例に限定されるものではない。また、本明細書に記載された効果はあくまで例示であって限定されるものでは無く、また他の効果があってもよい。
1.第1の実施形態:車両用撮影システム
1−1 車両用撮影システムの全体の構成
1−2 センサ制御処理
1−3 変形例
2.第2の実施形態:車両用撮影システム
2−1 要部の構成
3.第3の実施形態:車両用撮影システム
3−1 要部の構成
3−2 変形例
4.第4の実施形態:車両用撮影システム
4−1 要部の構成
4−2 変形例
5.第5の実施形態:車両用撮影システム
5−1 要部の構成
6.第6の実施形態:車両用撮影システム
6−1 要部の構成
7.第6の実施形態:車両用撮影システム
7−1 要部の構成
〈1.第1の実施形態〉
[1−1 車両用撮影システムの全体の構成]
図1は、本開示の第1の実施形態に係る車両用撮影システム1の全体を示す概略構成図である。図1の車両用撮影システム1は、イベント検出部2と、撮像部3と、記憶装置4と、プロセッサ5とを備えている。
イベント検出部2は、車両6の車内もしくは車外に取り付けられ、車両6の周囲を受光範囲Xとするように、1つのDVS(Dynamic Vision Sensor)によって構成される。イベント検出部2は、図2に示すように、魚眼レンズ等の広角の光学レンズ7を介して、被写体からの像光(入射光8)を固体撮像素子9に取り込み、撮像面上に結像された入射光8の光量に応じたイベント信号を固体撮像素子9の画素単位で生成し、生成したイベント信号を出力する。また、イベント検出部2としては、車両6の周囲360度が受光範囲となるように、回転台上に配置された1つのDVSを車両6に取り付けるようにしてもよい。
固体撮像素子9は、図3に示すように、画素アレイ部10と、アービタ11と、駆動回路12と、カラムADC13と、信号処理部14とを備えている。
画素アレイ部10は、基板上に、2次元アレイ状に規則的に配列された複数の画素15を有している。画素15は、受光量に応じて光電流を生成する光電変換素子16と、生成された光電流の変化量が所定の閾値を超えたか否かにより、アドレスイベントの有無を検出するアドレスイベント検出部17とを有している。アドレスイベントとしては、例えば、光電流の変化量が上限の閾値を超えた旨を示すオンイベントと、下限の閾値を下回った旨を示すオフイベントとが挙げられる。アドレスイベント検出部17は、アドレスイベントが発生した際、イベント信号の送信を要求するリクエストをアービタ11に出力するとともに、リクエストに対する応答をアービタ11から受け取ると、イベント信号を駆動回路12及び信号処理部14に供給する。イベント信号としては、例えば、アドレスイベントが発生した画素15のアドレス(つまり、受光した光量に変化があった画素15を示す情報)と、アドレスイベントが発生した時刻とを含む信号を採用することができる。
アービタ11は、画素15からリクエスト(イベント信号の送信を要求するリクエスト)を受けると、受けたリクエストを調停し、調停結果を基に応答を画素15に送信する。
駆動回路12は、各画素15を駆動して、画素信号をカラムADC13に供給する。
カラムADC13は、画素15の列毎に、その列からアナログの画素信号が供給されるとデジタル信号に変換する。変換されたデジタル信号は、信号処理部14に供給される。
信号処理部14は、カラムADC13からのデジタル信号に対し、CDS(Correlated Double Sampling)等の所定の信号処理を実行する。信号処理の処理結果として得られるデジタル信号は、信号線18を介して、イベント信号とともにプロセッサ5に出力される。
このような固体撮像素子9により、イベント検出部2は、受光範囲Xから受光した光量の変化量に応じてイベント信号を生成し、生成したイベント信号を出力可能となっている。
撮像部3は、図1に示すように、4つの画像センサ3a、3b、3c、3dを備えている。画像センサ3a、3b、3c、3dは、車両6の前後左右それぞれに配置されたRGBカメラによって構成される。RGBカメラとしては、例えば、CMOSカメラ、CCDカメラを採用できる。画像センサ3aは、車両6のフロントノーズに取り付けられ、フロントノーズよりも前方の領域を撮像範囲Aとする。また、画像センサ3bは、車両6の左側のサイドミラーに取り付けられ、車両6の左側面よりも左方の領域を撮像範囲Bとする。さらに、画像センサ3cは、車両6の右側のサイドミラーに取り付けられ、車両6の右側面よりも右方の領域を撮像範囲Cとする。また、画像センサ3cは、車両6のリアバンパーに取り付けられ、リアバンパーよりも後方の領域を撮像範囲Dとする。撮像範囲A、B、C、Dのそれぞれは、受光範囲Xと少なくとも一部が重なっている。図1では、撮像範囲A、B、C、Dのそれぞれが、受光範囲X内に設定されている一例を示している。
画像センサ3a、3b、3c、3dのそれぞれは、撮像範囲A、B、C、Dから受光した光量に応じて電荷を生成及び蓄積し、その電荷の蓄積量に応じて撮像範囲A、B、C、Dの画像情報を生成する動作である撮像を行い、撮像で生成した画像情報を出力する。
イベント検出部2は、アドレスイベントが発生した画素15だけから画素信号やイベント信号を読み出すため、単位時間あたりの消費電力が小さい。これに対し、画像センサ3a、3b、3c、3dは、画像情報の生成のために、所定時間毎にすべての画素から電荷の蓄積量を読み出すため、イベント検出部2よりも単位時間あたりの消費電力が大きい。
記憶装置4は、フラッシュメモリ等によって構成される。記憶装置4は、プロセッサ5で実行可能な各種プログラムしている。また、記憶装置4は、制御プログラムの実行に必要な各種データや、画像センサ3a、3b、3c、3dが出力する画像情報を記憶する。
プロセッサ5は、記憶装置4から制御プログラムを読み出し、読み出した制御プログラムを実行する。そして、制御プログラムにより、制御部19及び記憶制御部20等を実現する。制御部19及び記憶制御部20等は、センサ制御処理を実行する。
[1−2 センサ制御処理]
次に、制御部19及び記憶制御部20が実行するセンサ制御処理について説明する。
センサ制御処理の開始時には、イベント検出部2が作動状態とされ、画像センサ3a、3b、3c、3dのすべてが非作動状態とされ、電力を殆ど消費しない状態にされる。
図4に示すように、まずステップS101では、制御部19が、撮像範囲A、B、C、Dそれぞれについて、撮像範囲A、B、C又はDに対応したイベント検出部2の画素15群に発生しているアドレスイベントの数が所定の閾値以上であるか否かを判定する。具体的には、撮像範囲A、B、C、Dのそれぞれに対応する4つの画素15群のうちに、所定時間範囲における、イベント検出部2によるイベント信号が示す画素15を所定の閾値以上含む画素15群があるか否かを判定する。そして、撮像範囲A、B、C、Dの何れかにおいてアドレスイベントの数が所定の閾値以上であると判定した場合には(Yes)ステップS102に移行する。一方、撮像範囲A、B、C、Dの何れにおいてもアドレスイベントの数が所定の閾値未満であると判定した場合には(No)この判定を再度実行する。
ステップS102では、制御部19が、ステップS101でアドレスイベントの数が所定の閾値以上であると判定された画素15群に対応した撮像範囲A、B、C又はDを検出し、検出した撮像範囲A、B、C又はDに対応した画像センサ3a、3b、3c、3dに制御信号を出力する。制御信号としては、画像センサ3a、3b、3c又は3dに撮像を開始させる信号を用いる。それゆえ、画像センサ3a、3b、3c、3dの何れか1つのみが作動状態となって撮像を開始し、残りすべてが非作動状態を維持する。それゆえ、イベント検出部2も作動しているが、画像センサ3a、3b、3c、3dすべてを作動状態とする方法に比べ、全体として消費電力が抑制される。これらステップS101及びS102により、多数のイベント信号が示す画素15群に対応する車両6周囲の領域を撮像範囲A、B、C又はDに含む画像センサ3a、3b、3c又は3dに制御信号が出力される。
続いてステップS103に移行して、記憶制御部20が、ステップS102で撮像を開始させた画像センサ3a、3b、3c又は3dが出力する画像情報を記憶装置4に記憶させる。これにより、例えば、車両6の駐車中、ユーザが車両6から離れているときに、車両6に接近する人物があった場合に、接近する人物が映っている画像情報が記憶される。
続いてステップS104に移行して、制御部19が、ステップS101でアドレスイベントの数が所定の閾値以上であると判定された画素15群において、アドレスイベントの発生がない状態が所定時間以上継続されるまで待機状態とする。そして、アドレスイベントの発生がない状態が所定時間以上継続されると、ステップS105に移行する。
ステップS105では、制御部19が、ステップS102で制御信号を出力した画像センサ3a、3b、3c又は3dに制御信号を出力した後、ステップS101に戻る。制御信号としては、画像センサ3a、3b、3c又は3dに撮像を終了させる信号を用いる。
以上説明したように、第1の実施形態の車両用撮影システム1では、イベント検出部2でイベント信号を検出し、検出したイベント信号に応じた制御信号を撮像部3に出力するようにした。それゆえ、制御信号が出力されるまで撮像部3を非作動状態、つまり、電力を消費しない状態とすることができる。そのため、電力消費量の低減等の特性をさらに向上可能な車両用撮影システム1を提供することができる。したがって、電力消費量を低減することで、例えば、駐車中やアイドリングストップ中等、エンジンが停止され、発電が行われていない状況において、車載バッテリーにかかる負荷を低減することができる。
また、第1の実施形態の車両用撮影システム1では、イベント検出部2が、光量に変化があった画素15を示すイベント信号を出力し、撮像部3が、それぞれ異なる撮像範囲A、B、C、Dを有しその撮像範囲A、B、C、Dに対応する車両6周囲の領域の画像情報を出力する複数の画像センサ3a、3b、3c、3dを備えるようにした。また制御部19が、イベント信号が示す画素15に対応する領域を撮像範囲A、B、C、Dに含む画像センサ3a、3b、3c又は3dに制御信号を出力するようにした。それゆえ、画像センサ3a、3b、3c、3dの一部のみが作動状態とされる。そのため、例えば画像センサ3a、3b、3c、3dすべてを作動状態とする方法に比べ、電力消費量を確実に低減できる。
また、第1の実施形態の車両用撮影システム1では、制御部19が、複数の画像センサ3a、3b、3c、3dそれぞれの撮像範囲A、B、C、Dに対応するイベント検出部2の画素15群のうちに、イベント検出部2によるイベント信号が示す画素15を所定の閾値以上含む画素15群が存在するかを判定するようにした。そして、存在すると判定された画素15群に対応した画像センサ3a、3b、3c又は3dに制御信号を出力させるようにした。それゆえ、例えば、道路状態や天候等、車両6の走行環境に応じて閾値を変更することで、画像センサ3a、3b、3c、3dを適切に作動させることができる。
[1−3 変形例]
(1)第1の実施形態に係る車両用撮影システム1では、イベント検出部2として、1つで車両6の周囲を撮像可能なDVSを用いる例を示したが、他の構成を採用することもできる。例えば、複数のDVSを車両6の前後左右それぞれに配置し、DVSの組み合わせによって、車両6の周囲360度を撮像する構成としてもよい。例えば、イベント検出部2として、図5に示すように、それぞれ異なる受光範囲Xa、Xb、Xc、Xdを有し、それらの受光範囲Xa、Xb、Xc、Xdに対応する画素15のうちの、光量に変化があった画素15を示すイベント信号を出力する複数のイベントセンサ2a、2b、2c、2dを有する構成を採用できる。図5では、イベントセンサ2aは、車両6のフロントノーズに取り付けられ、撮像範囲Aよりも広い受光範囲Xaを有している。また、イベントセンサ2bは、車両6の左側のサイドミラーに取り付けられ、撮像範囲Bよりも広い受光範囲Xbを有している。また、イベントセンサ2cは、車両6の右側のサイドミラーに取り付けられ撮像範囲Cよりも広い受光範囲Xcを有している。また、イベントセンサ2cは、車両6のリアバンパーに取り付けられ撮像範囲Dよりも広い受光範囲Xdを有している。
(2)また、画像センサ3a、3b、3c、3dとして、RGBカメラの組み合わせによって、車両6の周囲360度を撮像可能となるように、4つのRGBカメラを用いる例を示したが、他の構成を採用することもできる。例えば、車両6の周囲を撮像可能な魚眼レンズ等を有する1つのRGBカメラを用いる構成としてもよく、また、車両6の周囲360度を撮像可能となるように、1つの回転式のRGBカメラを用いる構成としてもよい。
(3)また、画像センサ3a、3b、3c、3dの何れか1つに制御信号を出力する例を示したが、他の構成を採用することもできる。例えば、画像センサ3a、3b、3c、3dすべてに制御信号を出力する構成としてもよい。例えば、画像センサ3a、3b、3c、3dに常に撮像を行わせておき、ステップS101でアドレスイベントの数が所定の閾値以上であると判定された画素15群に対応した画像センサ3a、3b、3c、3dに、フレームレートを上げる制御信号を出力するようにしてもよい。また、その他の画像センサ3a、3b、3c、3dに、フレームレートを下げる制御信号を出力するようにしてもよい。このような制御信号を出力することにより、例えば、すべての画像センサ3a、3b、3c、3dのフレームレートを上げる方法に比べ、電力消費量を低減することができる。
(4)第1の実施形態に係る車両用撮影システム1では、画像センサ3a、3b、3c又は3dの撮像開始にともなって、画像情報の記憶のみを行う例を示したが、他の構成を採用することもできる。例えば、画像処理を開始するとともに、外部機器への通知を行う構成としてもよい。具体的には、車両用撮影システム1には、図6に示すように、インターネットを介して外部機器と通信可能な通信装置21をさらに備える。また、プロセッサ5が、プログラムによって、通信装置21を介して、外部機器と通信可能な通信部22をさらに実現する。外部機器としては、例えば、車両6のユーザが所持するスマートフォンが挙げられる。また、図7に示すように、図4のステップS102とS103との間にステップS201を設け、ステップS103とS104との間にステップS202を設ける。
ステップS201では、制御部19が、画像センサ3a、3b、3c又は3dが出力する画像情報に対して画像処理を開始する。これにより、ステップS103において、画像処理後の画像情報が記憶装置4に記憶されるようにする。また、ステップS202では、通信部22が、通信装置21を介して、外部機器(スマートフォン等)に警告を送信する。
これにより、変形例に係る車両用撮影システム1では、例えば、車両6の駐車中、ユーザが車両6から離れているときに、車両6に接近する人物があった場合に、ユーザのスマートフォンに警告を送信できる。それゆえ、車両犯罪の可能性等をユーザに報知できる。
(5)また、例えば、図8に示すように、図7のステップS201及びS202に加え、ステップS101とS102との間にステップS301を設けるようにしてもよい。
ステップS301では、制御部19が、イベント検出部2から出力されるイベント信号に基づき注目領域を決定する。例えば、イベント信号が示す画素15に対応する車両6周囲の領域を注目領域としてもよい。そして、制御部19が、決定した注目領域を明瞭に撮像できるように撮像条件を設定する。撮像条件としては、例えば、ズーム量、解像度、感度、フレームレートを採用できる。これにより、ステップS102において、撮像を開始させる信号に加え、撮像条件を満たすように電子ズームのズーム量を変更させる信号、解像度を変更させる信号、感度を変更させる信号及びフレームレートを変更させる信号の少なくとも何れかを制御信号に含ませて、画像センサ3a、3b、3c又は3dに出力する。
これにより、変形例に係る車両用撮影システム1では、例えば、車両6の駐車中、ユーザが車両6から離れているときに、車両6に接近する人物があった場合に、接近する人物の画像情報をより鮮明に記憶させることができ、車両犯罪をより適切に抑止できる。
(6)また、例えば、図9に示すように、図8のステップS102とS202との間にステップS401を設けるようにしてもよい。ステップS401では、通信部22が、通信装置21を介して、ユーザが所持するスマートフォン等の外部機器から画像処理の処理条件を受信する。これにより、ステップS202で行われる画像処理の条件を変更する。
これにより、変形例に係る車両用撮影システム1では、画像処理の処理条件をユーザ等に変更させることができ、変更した処理条件を用いて画像情報をより鮮明に記憶できる。
〈2.第2の実施形態:車両用撮影システム〉
[2−1 要部の構成]
次に、本開示の第2の実施形態に係る車両用撮影システム1について説明する。図10は、第2の実施形態の車両用撮影システム1の全体構成である。また、図11は、第2の実施形態の車両用撮影システム1のセンサ制御処理のフローチャートである。図10において、図1に対応する部分には同一符号を付し重複説明を省略する。
第2の実施形態の車両用撮影システム1は、図10に示すように、イベント検出部2、撮像部3、記憶装置4、及びプロセッサ5に加え、車両6の車内又は車外に配置され、各種情報を表示可能な表示部23をさらに備えている。表示部23は、例えば、カーナビのディスプレイ、スマートフォンのディスプレイ、タブレットのディスプレイ、電子バックミラーのディスプレイ、電子バックミラーのディスプレイ、フロントガラスによって構成される。図10では、表示部23を車内に配置した一例を示している。また、プロセッサ5が、プログラムによって、制御部19と、表示制御部24とを実現している。
また、センサ制御処理においては、図11に示すように、まずステップS501で、表示制御部24が、図12Aに示すように、予め定められた初期画面を表示部23に表示させる。初期画面としては、例えば、カーナビのディスプレイを表示部23として用いている場合には、車両6の現在位置の周辺の地図を採用できる。
続いてステップS502に移行して、制御部19が、撮像範囲A、B、C、Dそれぞれについて、撮像範囲A、B、C又はDに対応したイベント検出部2の画素15群に発生しているアドレスイベントの数が所定の閾値以上であるか否かを判定する。具体的には、撮像範囲A、B、C、Dのそれぞれに対応する4つの画素15群のうちに、所定時間範囲における、イベント検出部2によるイベント信号が示す画素15を所定の閾値以上含む画素15群があるか否かを判定する。そして、撮像範囲A、B、C、Dの何れかにおいてアドレスイベントの数が所定の閾値以上であると判定した場合には(Yes)、ステップS503に移行する。一方、撮像範囲A、B、C、Dの何れにおいてもアドレスイベントの数が所定の閾値未満であると判定した場合には(No)、この判定を再度実行する。
ステップS503では、制御部19が、ステップS502でアドレスイベントの数が所定の閾値以上であると判定された画素15群に対応した撮像範囲A、B、C又はDを検出し、検出した撮像範囲A、B、C又はDに対応した画像センサ3a、3b、3c、3dに制御信号を出力する。制御信号としては、画像センサ3a、3b、3c又は3dに撮像を開始させる信号を用いる。これにより、画像センサ3a、3b、3c又は3dの何れか1つのみが作動状態となって撮像を開始し、残りすべてが非作動状態を維持する。それゆえ、イベント検出部2も作動しているが、画像センサ3a、3b、3c、3dすべてを作動状態とする方法に比べ、全体として消費電力が抑制される。これらステップS502及びS503により、多数のイベント信号が示す画素15群に対応する車両6周囲の領域を撮像範囲A、B、C又はDに含む画像センサ3a、3b、3c又は3dに制御信号が出力される。
続いてステップS504に移行して、表示制御部24が、図12Bに示すように、ステップS503で撮像を開始させた画像センサ3a、3b、3c又は3dが出力する画像情報を表示部23に表示させる。これにより、イベント信号に応じて、表示部23が表示している情報を初期画面の画像から、撮像を開始した画像センサ3a、3b、3c又は3dの画像情報に切り替えられ、接近する人物等が映っている画像情報がユーザに提示される。
続いてステップS505に移行して、制御部19が、ステップS502でアドレスイベントの数が所定の閾値以上であると判定された画素15群(以下「特定画素群」とも呼ぶ)において、アドレスイベントの数が所定の閾値未満になったかを判定する。具体的には、特定画素群において、イベント検出部2によるイベント信号が示す画素15の数が所定の閾値未満になったか否かを判定する。そして、アドレスイベントの数が所定の閾値未満になったと判定した場合には(Yes)ステップS506に移行する。一方、アドレスイベントの数が所定の閾値以上であると判定した場合には(No)ステップS504に戻る。
ステップS506では、制御部19が、ステップS503で制御信号を出力した画像センサ3a、3b、3c又は3dに制御信号を出力した後、ステップS501に戻る。制御信号としては、画像センサ3a、3b、3c、3dに撮像を終了させる信号を用いる。これにより、制御部19が、撮像を開始させる信号を制御信号として出力した後、イベント信号が示す画素を所定の閾値以上含むと判定された画素15群において、イベント信号が示す画素15の数が所定の閾値未満になった場合に、その画素15群に対応した画像センサ3a、3b、3c、3dに、撮像を終了させる信号を制御信号として出力する動作が実現される。
以上説明したように、第2の実施形態の車両用撮影システム1では、イベント信号が示す画素15に対応する車両6周囲の領域を撮像範囲A、B、C、Dに含む画像センサ3a、3b、3c又は3dが出力した画像情報を表示部23に表示させる表示制御部24を備えるようにしたため、人物の接近等があった領域の画像情報をユーザに提示できる。
また、第2の実施形態の車両用撮影システム1では、表示制御部24が、イベント信号に応じて表示部23が表示している情報を切り替えるようにした。それゆえ、例えば、表示部23により適切な情報を表示でき、ユーザに各種情報をより適切に提示できる。
〈3.第3の実施形態:車両用撮影システム〉
[3−1 要部の構成]
次に、本開示の第3の実施形態に係る車両用撮影システム1について説明する。第3の実施形態の車両用撮影システム1の全体構成は、図10に示した第2の実施形態の車両用撮影システム1の全体構成と同一の構成となっている。また、図13は、第3の実施形態の車両用撮影システム1のセンサ制御処理のフローチャートである。このフローチャートには、図11に示したフローチャートに対応する部分が含まれている。図13において、図11に対応する部分には同一符号を付し重複説明を省略する。
第3の実施形態の車両用撮影システム1のセンサ制御処理は、図13に示すように、図11のステップS504に代えて、ステップS601が設けられている。
ステップS601では、表示制御部24が、図14に示すように、ステップS503で撮像を開始させた画像センサ3a、3b、3c又は3dが出力する画像情報と、真上から見た車両6の画像との両方を表示部23に表示させる。図14では、表示部23の表示画面右半分に画像センサ3a、3b、3c又は3dの画像情報を表示させ、表示画面の左半分に真上から見た車両6の画像を表示させた一例を示している。図14の車両6の画像では、中央の大きな長方形が車両6を表し、車両6の周囲に配置されている小さい正方形が画像センサ3a、3b、3c、3dを表し、車両6の中央に配置されている小さい丸がイベント検出部2を表している。また、図14の車両6の画像の上側が、車両6のフロントノーズ側に対応し、図14の車両6の画像の下側が、車両6のリアバンパー側に対応している。
以上説明したように、第3の実施形態の車両用撮影システム1では、画像センサ3a、3b、3c又は3dが出力する画像情報及び画像センサ3a、3b、3c、3dを含む車両6の画像の両方を表示部23に表示させるようにした。それゆえ、表示部23に表示されている画像情報がどの方向の画像情報であるかをユーザに容易に把握させることができる。
[3−2 変形例]
(1)第3の実施形態の変形例に係る車両用撮影システム1として、画像センサ3a、3b、3c又は3dが出力する画像情報及び車両6の画像を表示部23に表示させる例を示したが、他の構成を採用することもできる。例えば、さらに、撮像を行っている画像センサ3a、3b、3c又は3dの位置を示す情報も表示させる構成としてもよい。具体的には、図15に示すように、図13のステップS601に代えて、ステップS701を設ける。
ステップS701では、表示制御部24が、図15に示すように、ステップS503で撮像を開始させた画像センサ3a、3b、3c又は3dが出力する画像情報と、真上から見た車両6の画像と、撮像を行っている画像センサ3a、3b、3c、3dの画像の位置を示す情報(以下、「センサ位置情報」とも呼ぶ)とを表示部23に表示させる。センサ位置情報の提供法としては、例えば、車両6の画像に含まれる画像センサ3a、3b、3c、3dの画像のうち、撮像を行っている画像センサ3a、3b、3c、3dの画像を所定色で表示する方法を採用できる。図16では、画像センサ3cが撮像を行っていることを示すため、車両6の画像に含まれる画像センサ3cの画像を所定色で表した一例を示している。
これにより、変形例に係る車両用撮影システム1では、表示部23に表示されている画像情報がどの方向の画像情報であるかを、ユーザにより容易に把握させることができる。
(2)また、車両用撮影システム1には、図17に示すように、イベント信号及び画像情報のうちの少なくとも一方に基づき物体認識を実行するデータ処理部25をさらに備えてもよい。また、例えば、図18に示すように、図15のステップS701に加え、ステップS701とS505との間にステップS801とS802とを設けてもよい。
ステップS801では、データ処理部25が、ステップS502でアドレスイベントの数が所定の閾値以上であると判定された画素15群に対応した撮像範囲A、B、C又はD内に何らかの物体があるか否かを判定する。具体的には、イベント検出部2から出力されるイベント信号、及び撮像を行っている画像センサ3a、3b又は3dから出力される画像情報のうちの少なくとも一方に基づき物体認識を実行する。そして、撮像範囲A、B、C又はD内に物体があると判定した場合には(Yes)、ステップS802に移行する。一方、物体がないと判定した場合には(No)、ステップS505に移行する。
ステップS802では、表示制御部24が、図19に示すように、ステップS701で表示部23に表示させた画像中に、ステップS801で認識した物体の位置情報を表示部23にさらに表示させる。物体の位置情報の提供方法としては、例えば、画像センサ3a、3b、3c又は3dが出力する画像情報及び車両6の画像のうち、認識した物体の位置に所定形状のマーク26a、26bを重ねて表示する方法を採用できる。図19では、認識した球体状の物体27を四角形状のマーク26a、26bで囲んだ一例を示している。
これにより、変形例に係る車両用撮影システム1では、車両6に接近する自転車等、注意すべき物体27が映っている部分を、ユーザにより容易に把握させることができる。
なお、例えば、物体認識に代えて、イベント検出部2から出力されるイベント信号、及び撮像を行っている画像センサ3a、3b又は3dから出力される画像情報のうちの少なくとも一方に基づき動きベクトルを検出するようにしてもよい。そして、ステップS701で表示部23に表示させた画像中に、検出した動きベクトルに応じた情報を表示部23にさらに表示させてもよい。例えば、動きベクトルから車両6に接近する物体があると判定した場合に、接近する物体がある旨をメッセージ等の警告で表示部23に表示させる。
(3)また、車両用撮影システム1には、図20に示すように、図17のデータ処理部25に加え、データ処理部25による物体認識の結果に応じて制御信号を画像センサ3a、3b、3c、3dに出力する信号出力部28をさらに備えるようにしてもよい。また、図21に示すように、図18のステップS802に代えてステップS901を設けてもよい。
ステップS901では、信号出力部28が、ステップS503で制御信号を出力した画像センサ3a、3b、3c又は3dに、ステップS801で行った物体認識の結果に応じて制御信号を出力する。制御信号としては、例えば物体認識で認識した物体を明瞭に撮像できるように、電子ズームのズーム量を変更させる信号、解像度を変更させる信号、感度を変更させる信号及びフレームレートを変更させる信号の少なくとも何れかを採用できる。
これにより、変形例に係る車両用撮影システム1では、例えば車両6に接近する自転車等があった場合に、接近する自転車等の画像情報をより鮮明に表示させることができる。
なお、例えば、物体認識に代えて、イベント信号や画像情報から得られる動きベクトルを用いてもよく、動きベクトルの結果に応じて制御信号を出力するようにしてもよい。制御信号としては、例えば、動きベクトルから接近が検出された物体を明瞭に撮像できるように、電子ズームのズーム量を変更させる信号、解像度を変更させる信号、感度を変更させる信号及びフレームレートを変更させる信号の少なくとも何れかを採用できる。
〈4.第4の実施形態:車両用撮影システム〉
[4−1 要部の構成]
次に、本開示の第4の実施形態に係る車両用撮影システム1について説明する。第4の実施形態の車両用撮影システム1の全体構成は、図10に示した第2の実施形態の車両用撮影システム1の全体構成と同一のものとする。また、図22は、第4の実施形態の車両用撮影システム1のセンサ制御処理のフローチャートである。このフローチャートには、図11に示したフローチャートに対応する部分が含まれている。図22において、図11に対応する部分には同一符号を付し重複説明を省略する。
第4の実施形態の車両用撮影システム1のセンサ制御処理は、図22に示すように、図11のステップS503とS504とに代えて、ステップS1001とS1002とが設けられている。
ステップS1001では、制御部19が、ステップS502でアドレスイベントの数が所定の閾値以上であると判定された画素15群に対応した撮像範囲A、B、C又はDを検出し、検出した撮像範囲A、B、C又はDに対応した画像センサ3a、3b、3c、3dに制御信号を出力する。制御信号としては、画像センサ3a、3b、3c又は3dに撮像を開始させる信号を用いる。なお、検出した撮像範囲A、B、C、Dが2個ある場合には、2個の撮像範囲A、B、C、Dそれぞれに対応した画像センサ3a、3b、3c、3dに制御信号を出力する。そして、画像センサ3a、3b、3c又は3dのうちの1つ又は2つが作動状態となって撮像を開始し、残りすべてが非作動状態を維持する。
続いてステップS1002に移行して、表示制御部24が、ステップS1001で撮像を開始させた画像センサ3a、3b、3c又は3dが出力する画像情報を表示部23に表示させる。なお、撮像を開始させた画像センサ3a、3b、3c、3dが2個ある場合には、図23に示すように、2個の画像センサ3a、3b、3c、3dが出力する画像情報を表示部23に表示させる。図23では、表示部23の表示画面の左半分に2個の画像センサ3a、3b、3c、3dのうちの一方(以下、「第1画像センサ」とも呼ぶ)の画像情報を表示させ、表示部23の表示画面の右半分に2個の画像センサ3a、3b、3c、3dのうちの他方(以下「第2画像センサ」とも呼ぶ)の画像情報を表示させた一例を示している。
以上説明したように、第4の実施形態に係る車両用撮影システム1では、アドレスイベントが発生したイベント検出部2の画素15に対応する車両6周囲の領域が2つの撮像範囲A、B、C、Dに含まれている場合には、それら2つの撮像範囲A、B、C、Dに対応する画像センサ3a、3b、3c、3dの画像情報を表示部23に表示させるようにした。それゆえ、車両6に接近する人物等を、より適切にユーザに提示することができる。
[4−2 変形例]
(1)本開示の第4の実施形態に係る車両用撮影システム1として、表示制御部24が、2個の画像センサ3a、3b、3c、3dから出力される2個の画像情報を表示部23に表示させる例を示したが、他の構成を採用することもできる。例えば、図24に示すように、2個の画像センサ3a、3b、3c、3dから出力される画像情報から合成画像を生成し、生成した合成画像を表示部23に表示させる構成としてもよい。すなわち、イベント信号が示す画素15に対応する車両6周囲の領域を撮像範囲に含む複数の画像センサ3a、3b、3c、3dから出力される複数の画像情報からなる合成画像を表示部23に表示させる構成である。合成画像としては、例えば、2つの画像情報を連結・結合して得られる画像情報を採用できる。
これにより、変形例に係る車両用撮影システム1では、車両6に接近する人物等を1つの画像から確認でき、車両6に接近する人物等をより適切にユーザに提示できる。
(2)また、例えば、図25に示すように、図22のステップS1002に代えて、ステップS1101を設けるようにしてもよい。
ステップS1101では、表示制御部24が、ステップS1001で撮像を開始させた画像センサ3a、3b、3c又は3dが出力する画像情報と、真上から見た車両6の画像との両方を表示部23に表示させる。なお、撮像を開始させた画像センサ3a、3b、3c、3dが2個ある場合には、図26に示すように、2個の画像センサ3a、3b、3c、3dが出力する画像情報を表示部23に表示させる。図26では、表示部23の表示画面右半分の上側に第1画像センサの画像情報を表示させ、表示画面右半分の下側に第2画像センサの画像情報を表示させ、表示画面の左半分に真上から見た車両6の画像を表示させた一例を示している。また、図26では、画像センサ3a、3cが撮像を行っていることを示すため、車両6の画像に含まれる画像センサ3a、3cの画像を所定色で表した一例を示している。さらに、図26では、第1画像センサ及び第2画像センサの撮像範囲に物体27がある場合に、物体27をマーク26a、26b、26cで囲んだ一例を示している。
これにより、変形例に係る車両用撮影システム1では、表示部23に表示されている画像情報がどの方向の画像情報であるかをユーザに容易に把握させることができる。
〈5.第5の実施形態:車両用撮影システム〉
[5−1 要部の構成]
次に、本開示の第5の実施形態に係る車両用撮影システム1について説明する。図27は、第5の実施形態の車両用撮影システム1の全体構成である。図28は、第5の実施形態の車両用撮影システム1のセンサ制御処理のフローチャートである。このフローチャートには、図11に示したフローチャートに対応する部分が含まれている。図27、図28において、図10、図11に対応する部分には同一符号を付し重複説明を省略する。
図27に示すように、第5の実施形態の車両用撮影システム1は、第2の実施形態の車両用撮影システム1と同様に、イベント検出部2、撮像部3、記憶装置4、プロセッサ5及び表示部23を備えている。また、プロセッサ5が、制御部19及び表示制御部24に加え、信号出力制限部29を実現している。また、センサ制御処理においては、図11のステップS501の前にステップS1201とS1202とが設けられ、ステップS501とS504とに代えてステップS1203とS1204とが設けられている。
ステップS1201では、表示制御部24が、予め定められた初期画面を表示部23に表示させる。初期画面としては、例えば、カーナビのディスプレイを表示部23として用いている場合には、車両6の現在位置の周辺の地図を採用できる。
続いてステップS1202に移行して、信号出力制限部29が、車両6の車速が所定速度よりも低いか否かを判定する。所定速度としては、例えば、車両6が駐車する直前であると判定可能な速度である。例えば、5km/hとする。そして、信号出力制限部29が、所定速度よりも低いと判定した場合には(Yes)、ステップS1203に移行する。一方、所定速度以上であると判定した場合には(No)、ステップS1201に戻る。
ステップS1203では、表示制御部24が、図29に示すように、真上から見た車両6の画像を表示部23に表示させた後、ステップS502に移行する。
一方、ステップS1204では、表示制御部24が、図30に示すように、ステップS503で撮像を開始させた画像センサ3a、3b、3c又は3dが出力する画像情報と、真上から見た車両6の画像と、撮像を行っている画像センサ3a、3b、3c、3dの画像の位置を示す情報とを表示部23に表示させる。図30では、表示部23の表示画面右半分の上側に画像センサ3a、3b、3c、3dの画像情報を表示させ、表示画面の左半分に真上から見た車両6の画像を表示させた一例を示している。また、図30では、画像センサ3dが撮像を行っていることを示すため、車両6の画像に含まれる画像センサ3dの画像を所定色で表した一例を示している。さらに、図30では、画像センサ3dの撮像範囲Dに物体27がある場合に、物体27をマーク26a、26bで囲んだ一例を示している。
以上説明したように、本開示の第5の実施形態に係る車両用撮影システム1では、車速が所定速度(駐車直前の速度)より低い場合に、撮像を行っている画像センサ3a、3b、3c、3dの画像を表示部23に表示させるようにした。それゆえ、例えば、駐車動作を行っているときに、車両6に接近する人物が映っている画像情報をユーザに提示できる。
〈6.第6の実施形態:車両用撮影システム〉
[6−1 要部の構成]
次に、本開示の第6の実施形態に係る車両用撮影システム1について説明する。第6の実施形態の車両用撮影システム1の全体構成は、図10に示した第2の実施形態の車両用撮影システム1の全体構成と同一の構成となっている。また、図31は、第6の実施形態の車両用撮影システム1のセンサ制御処理のフローチャートである。このフローチャートには、図11に示したフローチャートに対応する部分が含まれている。図31において、図11に対応する部分には同一符号を付し重複説明を省略する。
第6の実施形態の車両用撮影システム1のセンサ制御処理では、図11のステップS502とS503との間にステップS1301〜S1305が設けられている。
ステップS1301では、制御部19が、ステップS502でアドレスイベントの数が所定の閾値以上であると判定された画素15群に対応した撮像範囲A、B、C、Dを検出し、検出した撮像範囲A、B、C、Dが複数あるか否かを判定する。すなわち、検出した撮像範囲A、B、C、Dに対応する画像センサ3a、3b、3c、3dが複数あるか否かを判定する。そして、複数あると判定した場合には(Yes)、ステップS1302に移行する。一方、1つしかないと判定した場合には(No)ステップS503に移行する。
ステップS1302では、制御部19が、ステップS502でアドレスイベントの数が所定の閾値以上であると判定された画素15群のうち、アドレスイベントの数が最も多いと判定された画素15群に対応した撮像範囲A、B、C、Dを検出する。そして、検出した撮像範囲A、B、C、Dに対応した画像センサ3a、3b、3c、3dに制御信号を出力する。制御信号としては、画像センサ3a、3b、3c又は3dに撮像を開始させる信号を用いる。これにより、画像センサ3a、3b、3c、3dの何れか1つのみが作動状態となって撮像を開始し、残りすべてが非作動状態を維持する。それゆえ、画像センサ3a、3b、3c、3dすべてを作動状態とする方法に比べ、全体として消費電力が抑制される。
続いてステップS1303に移行して、表示制御部24が、ステップS1302で撮像を開始させた画像センサ3a、3b、3c、3dが出力する画像情報を表示部23に表示させる。これにより、接近する人物等が映っている画像情報がユーザに提示される。
続いてステップS1304に移行して、制御部19が、ステップS1302でアドレスイベントの数が最も多いと判定された画素15群(特定画素群)において、アドレスイベントの数が所定の閾値未満になったかを判定する。具体的には、特定画素群において、イベント検出部2によるイベント信号が示す画素15の数が所定の閾値未満になったか否かを判定する。そして、制御部19が、アドレスイベントの数が所定の閾値未満になったと判定した場合には(Yes)、ステップS1305に移行する。一方、アドレスイベントの数が所定の閾値以上であると判定した場合には(No)ステップS1303に戻る。
ステップS1305では、制御部19が、ステップS1302で制御信号を出力した画像センサ3a、3b、3c又は3dに制御信号を出力した後、ステップS501に戻る。制御信号としては、画像センサ3a、3b、3c又は3dに撮像を終了させる信号を用いる。
以上説明したように、本開示の第6の実施形態に係る車両用撮影システム1では、アドレスイベントが発生したイベント検出部2の画素15に対応する車両6周囲の領域が2つの撮像範囲A、B、C、Dに含まれている場合には、それら2つの撮像範囲A、B、C、Dのうちの、アドレスイベントが最も多いと判定された画素15郡に対応する画像センサ3a、3b、3c、3dの画像情報を表示部23に表示させるようにした。それゆえ、より重要な画像情報を表示部23に表示でき、より適切な画像情報を提供することができる。
〈7.第7の実施形態:車両用撮影システム〉
[7−1 要部の構成]
次に、本開示の第7の実施形態に係る車両用撮影システム1について説明する。第7の実施形態の車両用撮影システム1の全体構成は、図10に示した第2の実施形態の車両用撮影システム1の全体構成と同一の構成となっている。また、図32は、第7の実施形態の車両用撮影システム1のセンサ制御処理のフローチャートである。このフローチャートには、図18に示したフローチャートに対応する部分が含まれている。図32において、図18に対応する部分には同一符号を付し重複説明を省略する。
第7の実施形態の車両用撮影システム1のセンサ制御処理は、図18のステップS801とS802との間にステップS1401〜S1404が設けられている。
ステップS1401では、表示制御部24が、ステップS801の物体認識で複数の物体が認識されたか否かを判定する。そして、複数の物体が認識されたと判定した場合には(Yes)、ステップS1402に移行する。一方、物体が1つだけを認識された又は物体が1つも認識されなかったと判定した場合には(No)ステップS802に移行する。
ステップS1402では、表示制御部24が、図27に示すように、ステップS701で表示部23に表示させた画像中に、ステップS801で認識された複数の物体それぞれの位置情報を表示部23にさらに表示させる。図27では、2つの球体状の物体27a、27bを四角形状のマーク26a、26b、26d、26eで囲んだ一例を示している。
続いてステップS1403に移行して、制御部19が、ステップS502でアドレスイベントの数が所定の閾値以上であると判定された画素15群において、アドレスイベントの数が所定の閾値未満になったかを判定する。そして、アドレスイベントの数が所定の閾値未満になったと判定した場合には(Yes)、ステップS1404に移行する。一方、所定の閾値以上であると判定した場合には(No)、ステップS701に戻る。
ステップS1404では、制御部19が、ステップS503で制御信号を出力した画像センサ3a、3b、3c又は3dに制御信号を出力した後、ステップS501に戻る。制御信号としては、画像センサ3a、3b、3c又は3dに撮像を終了させる信号を用いる。
以上説明したように、本開示の第7の実施形態に係る車両用撮影システム1では、認識した複数の物体それぞれの位置情報を表示部23に表示するようにした。それゆえ、注意すべき物体27が映っている部分を、ユーザにより容易に把握させることができる。
なお、本技術は、以下のような構成を取ることができる。
(1)
車両に搭載され、所定の受光範囲から受光した光量の変化量に応じてイベント信号を出力するイベント検出部と、
前記車両に搭載され、前記所定の受光範囲と少なくとも一部重なっている所定の撮像範囲から受光した光量に応じて電荷を生成及び蓄積し前記電荷の蓄積量に応じて画像情報を生成する動作である撮像を行う撮像部と、
前記イベント信号に応じた制御信号を前記撮像部に出力する制御部と、を備える
車両用撮影システム。
(2)
前記イベント検出部は、光量に変化があった画素を示す前記イベント信号を出力し、
前記撮像部は、それぞれ異なる撮像範囲を有し当該撮像範囲の画像情報を出力する複数の画像センサを備えており、
前記制御部は、前記イベント信号が示す画素に対応する前記車両周囲の領域を撮像範囲に含む前記画像センサに前記制御信号を出力する
前記(1)に記載の車両用撮影システム。
(3)
前記制御部は、複数の前記画像センサそれぞれの撮像範囲に対応する前記イベント検出部の画素群のうちに、前記イベント検出部による前記イベント信号が示す画素を所定の閾値以上含む画素群が存在するかを判定し、存在すると判定された画素群に対応した前記画像センサに前記制御信号を出力させる
前記(2)に記載の車両用撮影システム。
(4)
前記制御部は、前記撮像を開始させる信号を前記制御信号として出力した後、前記イベント信号が示す画素を所定の閾値以上含むと判定された前記画素群において、前記イベント信号が示す画素の数が所定の閾値未満になった場合に、当該画素群に対応した前記画像センサに前記撮像を終了させる信号を前記制御信号として出力する
前記(3)に記載の車両用撮影システム。
(5)
前記イベント検出部は、それぞれ異なる受光範囲を有し当該受光範囲のうちの光量に変化があった画素を示す前記イベント信号を出力する複数のイベントセンサを有している
前記(2)から(4)の何れかに記載の車両用撮影システム。
(6)
さらに、各種情報を表示可能な表示部と、
前記イベント信号が示す画素に対応する車両周囲の領域を撮像範囲に含む前記画像センサが出力した画像情報を前記表示部に表示させる表示制御部と、を備える
前記(2)から(5)の何れかに記載の車両用撮影システム。
(7)
前記表示制御部は、前記イベント信号に応じて前記表示部が表示している情報を切り替える
前記(6)に記載の車両用撮影システム。
(8)
前記イベント信号及び前記画像情報のうちの少なくとも一方に基づき物体認識を実行するデータ処理部を備え、
前記表示制御部は、前記物体認識で認識した物体の位置情報を前記表示部にさらに表示させる
前記(6)又は(7)に記載の車両用撮影システム。
(9)
前記表示制御部は、前記イベント信号が示す画素に対応する車両周囲の領域を撮像範囲に含む複数の前記画像センサから出力される複数の画像情報からなる合成画像を前記表示部に表示させる
前記(6)から(8)の何れかに記載の車両用撮影システム。
(10)
さらに、前記イベント信号及び前記画像情報のうちの少なくとも一方に基づき物体認識及び動きベクトルの検出の少なくとも一方を実行するデータ処理部と、
前記物体認識の結果及び前記動きベクトルの検出結果の少なくとも一方に応じて前記制御信号を前記撮像部に出力する信号出力部と、を備える
前記(1)から(9)の何れかに記載の車両用撮影システム。
(11)
前記制御信号は、前記撮像部に前記撮像を開始させる信号、前記撮像部に前記撮像を終了させる信号、前記撮像部に電子ズームのズーム量を変更させる信号、前記撮像部に解像度を変更させる信号、及び前記撮像部にフレームレートを変更させる信号の少なくとも何れかである
前記(1)から(10)の何れかに記載の車両用撮影システム。
1…車両用撮影システム、2…イベント検出部、2a、2b、2c、2d…イベントセンサ、3…撮像部、3a、3b、3c、3d…画像センサ、4…記憶装置、5…プロセッサ、6…車両、7…光学レンズ、8…入射光、9…固体撮像素子、10…画素アレイ部、11…アービタ、12…駆動回路、13…ADCカラム、14…信号処理部、15…画素、16…光電変換素子、17…アドレスイベント検出部、18…信号線、19…制御部、20…記憶制御部、21…通信装置、22…通信部、23…表示部、24…表示制御部、25…データ処理部、26a、26b、26c、26d、26e…マーク、27…物体、27a、27b…物体、28…信号出力部、29…信号出力制限部

Claims (11)

  1. 車両に搭載され、所定の受光範囲から受光した光量の変化量に応じてイベント信号を出力するイベント検出部と、
    前記車両に搭載され、前記所定の受光範囲と少なくとも一部重なっている所定の撮像範囲から受光した光量に応じて電荷を生成及び蓄積し前記電荷の蓄積量に応じて画像情報を生成する動作である撮像を行う撮像部と、
    前記イベント信号に応じた制御信号を前記撮像部に出力する制御部と、を備える
    車両用撮影システム。
  2. 前記イベント検出部は、光量に変化があった画素を示す前記イベント信号を出力し、
    前記撮像部は、それぞれ異なる撮像範囲を有し当該撮像範囲の画像情報を出力する複数の画像センサを備えており、
    前記制御部は、前記イベント信号が示す画素に対応する前記車両周囲の領域を撮像範囲に含む前記画像センサに前記制御信号を出力する
    請求項1に記載の車両用撮影システム。
  3. 前記制御部は、複数の前記画像センサそれぞれの撮像範囲に対応する前記イベント検出部の画素群のうちに、前記イベント検出部による前記イベント信号が示す画素を所定の閾値以上含む画素群が存在するかを判定し、存在すると判定された画素群に対応した前記画像センサに前記制御信号を出力する
    請求項2に記載の車両用撮影システム。
  4. 前記制御部は、前記撮像を開始させる信号を前記制御信号として出力した後、前記イベント信号が示す画素を所定の閾値以上含むと判定された前記画素群において、前記イベント信号が示す画素の数が所定の閾値未満になった場合に、当該画素群に対応した前記画像センサに前記撮像を終了させる信号を前記制御信号として出力する
    請求項3に記載の車両用撮影システム。
  5. 前記イベント検出部は、それぞれ異なる受光範囲を有し、当該受光範囲に対応する画素のうちの、光量に変化があった画素を示す前記イベント信号を出力する複数のイベントセンサを有している
    請求項2に記載の車両用撮影システム。
  6. さらに、各種情報を表示可能な表示部と、
    前記イベント信号が示す画素に対応する前記車両周囲の領域を撮像範囲に含む前記画像センサが出力した画像情報を前記表示部に表示させる表示制御部と、を備える
    請求項2に記載の車両用撮影システム。
  7. 前記表示制御部は、前記イベント信号に応じて前記表示部が表示している情報を切り替える
    請求項6に記載の車両用撮影システム。
  8. 前記イベント信号及び前記画像情報のうちの少なくとも一方に基づき物体認識を実行するデータ処理部を備え、
    前記表示制御部は、前記物体認識で認識した物体の位置情報を前記表示部にさらに表示させる
    請求項6に記載の車両用撮影システム。
  9. 前記表示制御部は、前記イベント信号が示す画素に対応する前記車両周囲の領域を撮像範囲に含む複数の前記画像センサから出力される複数の画像情報からなる合成画像を前記表示部に表示させる
    請求項6に記載の車両用撮影システム。
  10. さらに、前記イベント信号及び前記画像情報のうちの少なくとも一方に基づき物体認識及び動きベクトルの検出の少なくとも一方を実行するデータ処理部と、
    前記物体認識の結果及び前記動きベクトルの検出結果の少なくとも一方に応じて前記制御信号を前記撮像部に出力する信号出力部と、を備える
    請求項1に記載の車両用撮影システム。
  11. 前記制御信号は、前記撮像部に前記撮像を開始させる信号、前記撮像部に前記撮像を終了させる信号、前記撮像部に電子ズームのズーム量を変更させる信号、前記撮像部に解像度を変更させる信号、前記撮像部に感度を変更させる信号、及び前記撮像部にフレームレートを変更させる信号の少なくとも何れかである
    請求項1に記載の車両用撮影システム。
JP2019059585A 2019-03-27 2019-03-27 車両用撮影システム Pending JP2020161987A (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2019059585A JP2020161987A (ja) 2019-03-27 2019-03-27 車両用撮影システム
PCT/JP2020/008279 WO2020195538A1 (ja) 2019-03-27 2020-02-28 車両用撮影システム及び撮影方法
US17/439,706 US20220161728A1 (en) 2019-03-27 2020-02-28 Vehicular image capturing system and image capturing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019059585A JP2020161987A (ja) 2019-03-27 2019-03-27 車両用撮影システム

Publications (1)

Publication Number Publication Date
JP2020161987A true JP2020161987A (ja) 2020-10-01

Family

ID=72609039

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019059585A Pending JP2020161987A (ja) 2019-03-27 2019-03-27 車両用撮影システム

Country Status (3)

Country Link
US (1) US20220161728A1 (ja)
JP (1) JP2020161987A (ja)
WO (1) WO2020195538A1 (ja)

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
FR3020699A1 (fr) * 2014-04-30 2015-11-06 Centre Nat Rech Scient Procede de suivi de forme dans une scene observee par un capteur asynchrone de lumiere
DE102015202330A1 (de) * 2015-02-10 2016-08-11 Continental Automotive Gmbh Fahrerassistenzsystem
WO2017013806A1 (ja) * 2015-07-23 2017-01-26 オリンパス株式会社 固体撮像装置
KR101859040B1 (ko) * 2016-09-22 2018-05-17 엘지전자 주식회사 차량용 카메라 장치 및 방법
US10110913B2 (en) * 2016-09-30 2018-10-23 Intel Corporation Motion estimation using hybrid video imaging system
KR102012776B1 (ko) * 2017-08-29 2019-08-21 엘지전자 주식회사 차량용 어라운드 뷰 제공 장치 및 차량
US10345447B1 (en) * 2018-06-27 2019-07-09 Luminar Technologies, Inc. Dynamic vision sensor to direct lidar scanning
JP7251942B2 (ja) * 2018-10-17 2023-04-04 株式会社ソニー・インタラクティブエンタテインメント センサの校正システム、表示制御装置、プログラム、およびセンサの校正方法
US11895398B2 (en) * 2019-03-27 2024-02-06 Sony Group Corporation Imaging device and imaging system
US11735051B2 (en) * 2020-03-27 2023-08-22 Toyota Research Institute, Inc. Detection of bicyclists near ego vehicles

Also Published As

Publication number Publication date
WO2020195538A1 (ja) 2020-10-01
US20220161728A1 (en) 2022-05-26

Similar Documents

Publication Publication Date Title
KR102374013B1 (ko) 촬상 장치 및 전자 기기
US10462372B2 (en) Imaging device, imaging system, and imaging method
US11910123B2 (en) System for processing image data for display using backward projection
WO2014068856A1 (ja) 画像生成装置、および画像生成プログラム製品
WO2018163873A1 (ja) 固体撮像装置および電子機器
CN102596643A (zh) 车辆夜间视野支持系统及其控制方法
JP5064201B2 (ja) 画像表示システム及びカメラ出力制御方法
WO2017163890A1 (ja) 固体撮像装置、固体撮像装置の駆動方法、及び、電子機器
KR102493027B1 (ko) 촬상 소자 및 그 구동 방법, 그리고 전자 기기
TW202231056A (zh) 攝像裝置
WO2019193801A1 (ja) 固体撮像素子、電子機器および固体撮像素子の制御方法
WO2020195538A1 (ja) 車両用撮影システム及び撮影方法
US20120086798A1 (en) System and method for automatic dynamic guidelines
JP4611898B2 (ja) 画像表示システム
WO2018211985A1 (ja) 撮像素子、および撮像素子の制御方法、撮像装置、並びに電子機器
JP2020072322A (ja) 固体撮像装置、及び電子機器
WO2021200329A1 (ja) 情報処理装置、情報処理方法および情報処理プログラム
JP2014126918A (ja) カメラモジュール、カメラシステムおよび画像表示方法
CN218888598U (zh) 图像处理设备和车载系统
WO2022054742A1 (ja) 撮像素子及び撮像装置
JP2024050105A (ja) 撮像装置及び電子機器
KR20230162789A (ko) 고상 촬상 디바이스 및 고상 촬상 디바이스의 동작 방법