JP6743732B2 - 画像記録システム、画像記録方法、画像記録プログラム - Google Patents

画像記録システム、画像記録方法、画像記録プログラム Download PDF

Info

Publication number
JP6743732B2
JP6743732B2 JP2017049003A JP2017049003A JP6743732B2 JP 6743732 B2 JP6743732 B2 JP 6743732B2 JP 2017049003 A JP2017049003 A JP 2017049003A JP 2017049003 A JP2017049003 A JP 2017049003A JP 6743732 B2 JP6743732 B2 JP 6743732B2
Authority
JP
Japan
Prior art keywords
image
resolution
obstacle
attribute
storage unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017049003A
Other languages
English (en)
Other versions
JP2018152785A (ja
Inventor
裕士 中田
裕士 中田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Motor Corp
Original Assignee
Toyota Motor Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Motor Corp filed Critical Toyota Motor Corp
Priority to JP2017049003A priority Critical patent/JP6743732B2/ja
Priority to US15/913,318 priority patent/US10671861B2/en
Priority to CN201810200470.0A priority patent/CN108574811B/zh
Publication of JP2018152785A publication Critical patent/JP2018152785A/ja
Application granted granted Critical
Publication of JP6743732B2 publication Critical patent/JP6743732B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/765Interface circuits between an apparatus for recording and another apparatus
    • H04N5/77Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4023Scaling of whole images or parts thereof, e.g. expanding or contracting based on decimating pixels or lines of pixels; based on inserting pixels or lines of pixels
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/96Management of image or video recognition tasks
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/765Interface circuits between an apparatus for recording and another apparatus
    • H04N5/77Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera
    • H04N5/772Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera the recording apparatus and the television camera being placed in the same enclosure
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/91Television signal processing therefor
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/80Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • H04N9/82Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only
    • H04N9/8205Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only involving the multiplexing of an additional signal and the colour video signal
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • G08G1/166Anti-collision systems for active traffic, e.g. moving vehicles, pedestrians, bikes

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Traffic Control Systems (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Television Signal Processing For Recording (AREA)
  • Emergency Alarm Devices (AREA)
  • Image Processing (AREA)

Description

本開示は、画像記録システム、画像記録方法、及び画像記録プログラムに関する。
撮像装置で撮影された画像を信号処理装置で信号処理した後、画像処理装置で撮影画像の特徴を抽出し、映像信号と共にコンピュータに送って記憶装置に記録する技術が知られている(例えば、特許文献1参照)。
特開2010-124474号公報
ところで、車両の画像記憶部に記憶した画像データを外部へ読み出すことは、例えばCAN(controller area network)のような車両ネットワークを介して実現できるが、通信速度が比較的低速であり、外部への画像データの読み出しに比較的長い時間を要するという課題がある。
そこで、一側面によれば、本発明は、車両に搭載されるカメラで撮像した画像を、外部へと比較的高速に読み出すことを可能とすることを目的とする。
一側面によれば、車両に搭載されるカメラで撮像した画像と、前記画像の撮像時における前記車両と障害物との衝突までの衝突余裕時間と、前記障害物の属性の認識結果と、を対応付けて記憶する画像記憶部と、
前記障害物の属性ごと、かつ前記衝突余裕時間ごとに出力解像度を記憶した障害物属性別解像度情報を記憶する障害物属性別解像度記憶部と、
外部からの出力要求に応じて、前記画像記憶部から一の画像を読出す際に、前記障害物属性別解像度情報と、前記一の画像に係る前記衝突余裕時間及び前記認識結果とに基づいて、前記一の画像の解像度を低くする品質変更処理を行う品質変更部とを含む、画像記録システムが提供される。
上記の態様によれば、品質変更処理を行うことで、車両に搭載されるカメラで撮像した画像のデータ量が削減され、外部へと比較的高速に読み出すことが可能となる。また、画像の撮像時における車両と障害物との衝突の可能性を表す指標値に基づいて、画像の重要性を考慮した効率的な品質変更処理を実現できる。
一側面によれば、車両に搭載されるカメラで撮像した画像を、外部へと比較的高速に読み出すことが可能となる。
実施形態1による画像記録システム(処理装置)のハードウェア構成の一例を示す図である。 実施形態1による処理装置の機能ブロックの一例を示す図である。 画像記憶部内のデータの一例を示す図である。 TTC別解像度情報の一例を示す図である。 障害物属性別解像度情報の一例を示す図である。 画像記憶処理部による画像記憶処理の一例を示すフローチャートである。 記録期間の開始時及び終了時の説明図である。 画像出力処理部による画像出力処理の一例を示すフローチャートである。 出力要求の説明図である。 実施形態1による解像度変更処理の一例を示すフローチャートである。 実施形態2による画像記録システム(処理装置)の機能ブロックの一例を示す図である。 実施形態2による画像記憶処理部による画像記憶処理の一例を示すフローチャートである。 実施形態2による解像度変更処理の一例を示すフローチャートである。
以下、添付図面を参照しながら各実施形態について詳細に説明する。
[実施形態1]
実施形態1では、画像記録システムは、処理装置7を含む。
図1は、実施形態1による処理装置7のハードウェア構成の一例を示す図である。図1には、処理装置7のハードウェア構成に関連付けて、車載電子機器群8が模式的に図示されている。処理装置7は、例えばCAN(controller area network)やLIN(Local Interconnect Network)、イーサネット(登録商標)などの車両ネットワーク9を介して、車載電子機器群8に接続される。
処理装置7は、バス19で接続されたCPU(Central Processing Unit)11、RAM(Random Access Memory)12、ROM(Read Only Memory)13、補助記憶装置14、ドライブ装置15、及び通信インターフェース17、並びに、通信インターフェース17に接続された有線送受信部25及び無線送受信部26を含む。但し、無線送受信部26は省略されてもよい。
補助記憶装置14は、例えばEEPROM(Electrically Erasable Programmable Read-Only Memory)やHDD(Hard Disk Drive)などである。
有線送受信部25は、CAN(controller area network)やLIN(Local Interconnect Network)などの車両ネットワークを利用して通信可能な送受信部を含む。無線送受信部26は、携帯電話における無線通信網を利用して無線通信可能な送受信部である。尚、処理装置7は、有線送受信部25に加えて、通信インターフェース17に接続される第2無線送受信部(図示せず)を備えてもよい。この場合、第2無線送受信部は、近距離無線通信(NFC:Near Field Communication)部、ブルートゥース(Bluetooth、登録商標)通信部、Wi−Fi(Wireless-Fidelity)送受信部、赤外線送受信部などを含んでもよい。
尚、処理装置7は、記録媒体16と接続可能であってもよい。記録媒体16は、所定のプログラムを格納する。この記録媒体16に格納されたプログラムは、ドライブ装置15を介して処理装置7の補助記憶装置14等にインストールされる。インストールされた所定のプログラムは、処理装置7のCPU11により実行可能となる。
車載電子機器群8は、カメラ80と、自車位置測定装置81と、加速度センサ82と、前方レーダセンサ83、PCS(Pre-Crash Safety)・ECU(Electronic Control Unit)84と、ディスプレイ86等を含む。
カメラ80は、自車前方(自車周辺の環境の一例)を撮像する。以下、カメラ80で撮像される画像を、「前方環境画像I」とも称する。尚、カメラ80は、自車側方を撮像するカメラや、自車後方を撮像するカメラ、車内を撮像するカメラ等であってもよい。
自車位置測定装置81は、GNSS(Global Navigation Satellite System)衛星からの電波に基づいて、自車位置を測位する。加速度センサ82は、車体に発生する加速度を検出する。加速度センサ82は、例えば3軸の各角速度成分を検出する。
前方レーダセンサ83は、電波(例えばミリ波)、光波(例えばレーザー)又は超音波を検出波として用いて、自車前方における前方障害物(典型的には、前方車両)(以下、単に「障害物」と称する)の状態を検出する。前方レーダセンサ83は、障害物と自車との関係を示す情報、例えば自車を基準とした障害物の相対速度や距離、横位置を所定の周期で検出する。このようにして前方レーダセンサ83により検出された障害物情報は、例えば所定周期でPCS・ECU84に送信される。
PCS・ECU84は、前方レーダセンサ83からの情報に基づいて、自動制動開始条件の成否を判定する。自動制動開始条件は、自車前方の障害物との衝突の可能性があるときに成立する。PCS・ECU84は、自動制動開始条件が成立する場合は、自動的に自車を制動する自動制動制御を行う。例えば、障害物との衝突回避制御では、PCS・ECU84は、障害物との衝突までの時間:TTC(Time to Collision)を算出し、当該算出したTTCが所定閾値Th1(例えば1.0[秒])を下回った場合に自動制動開始条件が満たされたと判定する。尚、TTCは、例えば、障害物までの距離を、障害物に対する相対速度で割り算することで導出される。所定閾値Th1は、障害物の属性に応じて異なってもよい。例えば障害物の属性が"歩行者"の場合は、所定閾値Th1=1.0[秒]であり、障害物の属性が"自転車"の場合は、所定閾値Th1=0.7[秒]であり、障害物の属性が"車両"の場合は、所定閾値Th1=0.5[秒]である。
尚、自動制動制御とは、自車に自動的に制動力を付与する制御である。例えば、自動制動制御とは、運転者によるブレーキペダルの操作が行われていない状況下で、ブレーキアクチュエータ(車載電子機器群8の一要素、図示せず)により各輪のホイールシリンダ圧を増圧することで実現される。自動制動制御の実行中の目標制御値は、ブレーキペダルの操作量以外の因子に基づいて決定される値である。
尚、PCS・ECU84は、前方レーダセンサ12に代えて又はそれに加えて、カメラ80を用いて、自動制動開始条件の成否を判定してもよい。この場合、カメラ80は、ステレオカメラであってもよい。PCS・ECU84は、例えば画像処理装置を含み、障害物の状態や障害物の属性を画像認識する。障害物の属性は、例えば車両、自転車、歩行者などの種別を表す。障害物の属性は、パターンマッチングや、機械学習に基づく属性認識エンジンを用いて判断できる。PCS・ECU84は、画像認識結果に基づいて、障害物と自車との関係を示す情報、例えば自車を基準とした障害物の相対速度や距離、横位置を所定の周期ごとに検出できる。尚、画像処理機能(例えば、障害物の位置算出機能)は、PCS・ECU84に接続される画像処理装置により実現されてもよい。
ディスプレイ86は、例えばタッチパネル式の液晶ディスプレイである。ディスプレイ86は、自車の乗員(乗員)が目視可能な位置に配置される。ディスプレイ86は、自車内に固定されるディスプレイであるが、自車内に持ち込まれうる携帯端末のディスプレイであってもよい。この場合、携帯端末と処理装置7との間の通信は、第2無線送受信部(例えばブルートゥース通信部)を介して実現できる。
処理装置7には、車両ネットワーク9を介して、ツール90(外部装置の一例)を接続できる。
ツール90は、前方環境画像Iの出力要求を後述の処理装置7に与えるために使用される外部装置である。但し、ツール90は、その他の用途を有する汎用性のあるツールであってもよい。また、ツール90は、車両メーカから権限を付与されるディーラ等に用意される特別なツールを含み、その他、一般的なユーザが使用できるツールであってもよい。一般的なユーザが使用できるツールとしては、スマートフォンやタブレット端末の形態であってもよい。ツール90は、通常、車両ネットワーク9には接続されていない。ツール90は、後述の画像記憶処理部724内の前方環境画像I(カメラ80で撮像された画像)を読み出す際に、後述の処理装置7に出力要求を与えるために車両ネットワーク9に接続される。
図2は、処理装置7の機能ブロックの一例を示す図である。
処理装置7は、前方環境画像Iが撮像された際のTTC(車両と障害物との衝突の可能性を表す指標値の一例)(以下、「撮像時TTC」と称する)に基づいて、前方環境画像Iの品質を低くする品質変更処理を行う。前方環境画像Iの品質とは、画像のデータ量の影響する品質であり、品質に係る指標値は、画像の解像度や画像の色数(各画素が有しうる色数)を含む。解像度は、例えば一インチ当たりの画素数「dpi:pixel per inch」で定義されるが、640x480や、1280x960や、Full HD(Full High Definition)や4Kといった、縦横の画素数など画素数関係の指標値で定義されてもよい。尚、縦横の画素数を落とす品質変更処理は、単純なシュリンク処理であってよい。さらに色数は、例えばモノクロ、8bitカラー、24bitカラーのような、表現される色の数である。色数は、例えば色深度(bits per pixel(bpp))という指標値で定義されてもよい。尚、色数を落とす品質変更処理は、単純な処理であってよい。また、品質変更処理は、不可逆的な圧縮処理により実現されてよい。これは、不可逆的な圧縮処理を行うと、画像が劣化し、例えば画像の見易さ(鮮明さなど)が低下するためである。
例えば、品質変更処理は、前方環境画像Iの解像度及び色数の双方を低くすることや、いずれか一方のみを低くすることを含む。解像度変更処理の更なる具体例は後述する。以下(後述の実施形態2についても同様)では、一例として、品質変更処理は、前方環境画像Iの解像度を低下する処理であるとする。尚、品質変更処理が色数を落とす処理である場合や、色数を落とす処理を含む場合は、色数は、後述の出力解像度と同様の態様で(同様の考え方に基づいて)設定されればよい。これは、色数が高くなるほど、画像のデータ量が大きくなる点で解像度で共通し、解像度の場合と略同様に扱うことができるためである。
処理装置7は、画像記憶部710と、TTC別解像度記憶部712と、障害物属性別解像度記憶部714とを含む。画像記憶部710、TTC別解像度記憶部712、及び障害物属性別解像度記憶部714は、補助記憶装置14により実現できる。また、処理装置7は、画像取得部722と、画像記憶処理部724と、解像度変更部726(品質変更部の一例)と、画像出力処理部728とを含む。画像取得部722、画像記憶処理部724、解像度変更部726、及び画像出力処理部728は、CPU11がROM13や補助記憶装置14内の1つ以上のプログラムを実行することで実現できる。
画像記憶部710は、前方環境画像Iを記憶する。実施形態1では、一例として、前方環境画像Iは、イベントIDと対応付けて、画像記憶部710内の記録領域に記憶される。イベントIDとは、記録領域への前方環境画像Iの記録を行う画像記憶処理のトリガとなるイベント(後述)に付与されるID(Identification)である。図3は、画像記憶部710内のデータの一例を示す図である。図3において、「**」は何らかの情報が入っていることを示す。図3に示す例では、画像記憶部710は、複数の記録領域(図3の記録領域B1、B2等)を有し、記録領域ごとに前方環境画像Iに係る画像データ(例えば"記録領域B1"に記憶されたフレーム1〜Nの前方環境画像Iからなる画像データ参照)が記憶される。また、前方環境画像Iに係る画像データは、タイムスタンプと、撮像時TTCとに対応付けて記憶される。タイムスタンプは、CPU11のクロックごとに加算されるタイムスタンプカウンタの値に基づいて生成される。タイムスタンプは、例えばイグニッションスイッチのオン時からの経過時間を示す。撮像時TTCは、PCS・ECU84から得られるTTCに基づいて取得できる。また、PCS・ECU84が障害物の属性を認識した場合は、障害物の属性がイベントIDに対応付けて記憶される。障害物の属性は、同様にPCS・ECU84から取得できる。尚、図3では、イベントID"000002"については、障害物の属性が"N/A"であり、PCS・ECU84が障害物の属性を認識しなかったまたはできなかったことを表す。他方、イベントID"000001"については、障害物の属性が"車両"であり、PCS・ECU84が障害物の属性を"車両"と認識したことを表す。
TTC別解像度記憶部712は、撮像時TTCごとに出力解像度が対応付けられたTTC別解像度情報が記憶される。出力解像度とは、前方環境画像Iを読み出して出力する際の解像度である。例えば、TTC別解像度情報は、撮像時TTCが小さいほど出力解像度が高くなる態様で、予め用意される。図4は、TTC別解像度情報の一例を示す図である。図4では、撮像時TTCの範囲(撮像時TTC≧α1、α1>撮像時TTC≧α2等)ごとに、出力解像度(図3の"低"、"中"等)が記憶される。尚、TTC別解像度情報は、事後的な変更が可能とされてよい。出力解像度が"高"とは、カメラ80で得られる解像度に対応する。
障害物属性別解像度記憶部714は、障害物の属性ごとに出力解像度が対応付けられた障害物属性別解像度情報が記憶される。図5は、障害物属性別解像度情報の一例を示す図である。図5では、障害物の属性(車両、歩行者等)ごと、かつ、撮像時TTCごとに、出力解像度(図5の"低"、"中"等)が記憶される。尚、障害物属性別解像度情報は、事後的な変更が可能とされてよい。尚、図5において、α1〜α3、β1〜β3、γ1〜γ3は、撮像時TTCの範囲を規定する境界値であり、障害物の属性に応じて異なる場合がある。α3、β3、γ3は、例えば"0"である。α1〜α3、β1〜β3、及びγ1〜γ3は、ユーザにより変更が可能とされてもよい。
本実施形態では、一例として、障害物属性別解像度情報は、図5に示すように、障害物の属性ごとに、TTC別解像度情報を含む形態である。変形例では、図5に示す障害物属性別解像度情報は、図4に示すTTC別解像度情報を含む形態であってもよい。この場合、障害物の属性が"不明"である場合、図4に示すTTC別解像度情報が使用される態様で、障害物の属性ごとに、TTC別解像度情報が用意されてよい。また、図4及び図5では、一例として、α1〜α3が共通であるが、図4のα1〜α3と、図5のα1〜α3とは、異なってもよい。
画像取得部722は、カメラ80から前方環境画像Iを取得する。画像取得部722は、カメラ80から前方環境画像Iを所定のフレーム周期毎に取得する。画像取得部722は、取得した前方環境画像Iを、例えばFIFO(First‐In, First‐Out)形式で画像記憶部710に保存する。例えば、画像取得部722は、記録期間T1にわたる前方環境画像Iを、FIFO形式でリングバッファ(図示せず)に書き込む。
画像記憶処理部724は、所定のイベントを検出した場合に、リングバッファに記憶されている画像データ(記録期間T1内の複数時点の前方環境画像Iを含む画像データ)を、画像記憶部710内の所定の記録領域に記録(転送)する。
解像度変更部726は、前方環境画像Iの解像度を低くする解像度変更処理を行う。解像度変更処理は、例えば画素を間引く処理や、例えば4画素分を1画素に平均化する処理(いわゆるピラミッド処理)により実現されてもよい。尚、ピラミッド処理は、例えば、画像ピラミッドとしてガウシアンピラミッドを構築することで実現されてもよい。実施形態1では、解像度変更部726は、ツール90を介して入力される外部からの出力要求に応答して、画像記憶部710から前方環境画像Iを読み出す際に、解像度変更処理を行う。解像度変更処理は、前方環境画像I全体の解像度の変更を行う処理であるが、前方環境画像Iの一部の解像度の変更を行う処理であってもよい。
解像度変更部726は、撮像時TTCに基づいて、前方環境画像Iの解像度を低くする。具体的には、解像度変更部726は、一の前方環境画像Iについては、該一の前方環境画像Iに係る撮像時TTCと、TTC別解像度記憶部712内のTTC別解像度情報(図4)とに基づいて、該撮像時TTCに対応付けられた出力解像度に、該一の前方環境画像Iの解像度を変更する。
解像度変更部726は、PCS・ECU84が障害物の属性を認識していた場合(即ち画像記憶部710において、後述の読出対象イベントIDに障害物の属性が対応付けられている場合)、障害物属性別解像度記憶部714内の障害物属性別解像度情報(図5)に基づいて、撮像時TTCと、障害物の属性とに基づいて、前方環境画像Iの解像度を低くする。具体的には、解像度変更部726は、読出対象イベントID(後述)における一の前方環境画像Iについては、該一の前方環境画像Iに係る撮像時TTCと、読出対象のイベントIDに対応付けられた障害物の属性と、TTC別解像度記憶部712内のTTC別解像度情報とに基づいて、該撮像時TTC及び該障害物の属性に対応付けられた出力解像度に、該一の前方環境画像Iの解像度を変更する。
画像出力処理部728は、前方環境画像Iの出力要求を受けると、画像記憶部710内の前方環境画像Iを出力する。実施形態1では、一例として、出力要求は、ツール90を介して入力される。画像出力処理部728は、解像度変更部726による解像度変更処理を経た前方環境画像Iをツール90に出力する。
実施形態1によれば、解像度変更部726を備えることで、前方環境画像Iの解像度を変更可能とすることができる。即ち、実施形態1によれば、画像記憶部710から前方環境画像Iを読み出す際に、解像度変更部726が解像度変更処理を行うことで、画像出力処理部728は、解像度変更処理を経た前方環境画像Iを、ツール90に出力できる。解像度変更処理を経た前方環境画像Iは、解像度変更処理に起因して解像度が低くされた場合は、解像度変更処理後にデータ量が低減される。従って、解像度変更部726が解像度変更処理を行うことで、解像度変更処理を行わない場合に比べて、高速に前方環境画像Iを画像記憶部710から読み出すことができる。
尚、上述した実施形態1では、前方環境画像Iの出力要求は、ツール90を介して入力され、画像記憶部710から読み出される前方環境画像Iは、ツール90に出力されるが、これに限られない。例えば、前方環境画像Iの出力要求は、ツール90を介して入力され、画像記憶部710から読み出される前方環境画像Iは、ツール90以外の外部装置(例えば、サーバ)に出力されてもよい。この場合、サーバへの出力は、無線送受信部26を用いて実現できる。また、前方環境画像Iの出力要求は、ツール90以外の外部装置(例えばサーバ)を介して入力され、画像記憶部710から読み出される前方環境画像Iは、出力要求元のサーバに出力されてもよい。或いは、前方環境画像Iの出力要求は、ツール90を介して入力され、画像記憶部710から読み出される前方環境画像Iは、自車内のディスプレイ86(表示装置の一例)に出力(表示)されてもよい。或いは、前方環境画像Iの出力要求は、自車内の装置を介して入力され、画像記憶部710から読み出される前方環境画像Iは、自車内のディスプレイ86に出力されてもよい。
また、上述した実施形態1において、PCS・ECU84が障害物の属性を認識する機能を備えない場合は、障害物属性別解像度記憶部714は省略されてもよい。
次に、図6乃至図9を参照して、実施形態1による画像記録システム(処理装置7)の動作例の要部について、フローチャートを用いて説明する。
図6は、画像記憶処理部724による画像記憶処理の一例を示すフローチャートである。図6に示す処理は、例えば、イグニッションスイッチのオン状態において、所定周期毎に実行される。
ステップS600では、画像記憶処理部724は、PCS・ECU84から書き込み要求を受信したか否かを判定する。PCS・ECU84は、TTCが所定閾値Th2以下となる所定のイベント(以下、「イベント」と称する)を検出した場合に、書き込み要求を車両ネットワーク9に送信する。PCS・ECU84が障害物の属性を認識した場合は、書き込み要求には、障害物の属性を特定できる情報が含められる。この場合、画像記憶処理部724は、PCS・ECU84からの書き込み要求に基づいて、今回のイベントに係る障害物の属性を検知できる。尚、所定閾値Th2が所定閾値Th1よりも大きい場合は、自動制動開始条件の成立は、イベントの発生を事前に伴う。判定結果が"YES"の場合は、ステップS602に進み、それ以外の場合は、今回周期の処理を終了する。
ステップS602では、画像記憶処理部724は、今回のイベントに対してイベントIDを付与する。
ステップS604では、画像記憶処理部724は、今回のイベントの属性に応じて記録期間T1の開始時及び終了時を設定する。例えば、記録期間T1は、図7に示すように、イベント検出時t2から始まる期間A(t2〜t4)、イベント検出時t2に終了する期間C(t0〜t2)、又はイベント検出時t2の前後を含む期間B(t1〜t3)である。衝突前イベントの場合、例えば期間Aが用いられるが、これに限られない。
ステップS606では、画像記憶処理部724は、今回のイベントに係る画像データの記録先の記録領域(画像記憶部710内の記録領域)を決定する。記録領域は空きがあればそれを用いる。尚、記録領域は有限であるので(図3参照)、記録領域の全てに画像データが既に記憶されている場合は、例えば、最も古い画像データが記録されている記録領域が使用されてもよいし、イベントIDに応じて優先度を設けてもよい。
ステップS608では、画像記憶処理部724は、ステップS604で設定した記録期間T1の終了時に到達したか否か(即ち現時点が記録期間T1の終了時であるか否か)を判定する。判定結果が"YES"の場合は、ステップS610に進み、それ以外の場合は、ステップS609を経由しつつ、記録期間T1の終了時を待機する待機状態となる。尚、図示しないが、待機状態においてイグニッションスイッチがオフしたときは、ステップS610に進み、ステップS610の処理を行ってから終了する。
ステップS609では、画像記憶処理部724は、記録期間T1中に所定周期毎にPCS・ECU84から得られるTTCに、その時点のタイムスタンプを付与する。
ステップS610では、画像記憶処理部724は、リングバッファに記憶されている画像データのうちの、ステップS604で設定した記録期間T1中の前方環境画像Iを、ステップS606で決定した記録領域(画像記憶部710内の記録領域)に記録(転送)する。
ステップS612では、画像記憶処理部724は、画像記憶部710において、ステップS606で決定した記録領域に、ステップS602で付与したイベントIDを対応付ける(図3参照)。
ステップS614では、画像記憶処理部724は、各前方環境画像Iに付与されるタイムスタンプと、各TTCに付与されるタイムスタンプ(ステップS609)とに基づいて、画像記憶部710において各前方環境画像Iに各TTCを対応付ける。画像記憶部710において各前方環境画像Iに対応付けられたTTCは、撮像時TTCとして機能する。
ステップS616では、画像記憶処理部724は、ステップS600で得た書き込み要求に、障害物の属性を特定できる情報が含まれているか否かを判定する。判定結果が"YES"の場合は、ステップS618に進み、それ以外の場合は、今回周期の処理を終了する。
ステップS618では、画像記憶処理部724は、画像記憶部710においてイベントIDに対応付けて障害物の属性を記憶する。
図6に示す画像記憶処理によれば、イベントが発生した場合に、記録期間T1にわたる画像データ(複数時点の前方環境画像I)を画像記憶部710に記憶できる。この際、画像記憶部710においては、イベントIDを対応付けて、各前方環境画像Iが記憶されると共に、各前方環境画像Iに対応付けて撮像時TTCが記憶される。また、PCS・ECU84が障害物の属性を認識したイベントの場合は、画像記憶部710においては、イベントIDを対応付けて、障害物の属性が記憶される。
図8は、画像出力処理部728による画像出力処理の一例を示すフローチャートである。図8に示す画像出力処理は、車両ネットワーク9にツール90が接続された状態において、所定周期毎に実行される。
ステップS800では、画像出力処理部728は、ツール90から出力要求を受信したか否かを判定する。実施形態1では、一例として、出力要求は、図9に示す各種情報を含む送信信号として、ツール90から車両ネットワーク9に送信される。図9では、送信信号は、送信信号IDと、読出対象イベントIDと、要求解像度とを含む。送信信号IDは、送信信号の種別が"出力要求"であることを画像出力処理部728が検知できる情報である。読出対象イベントIDは、画像記憶部710内のどのイベントIDに係る画像データの出力を要求しているかを、画像出力処理部728が特定できる情報である。読出対象イベントIDは、読み出し対象の記録領域を指定する情報であってもよい。尚、ツール90のユーザは、例えば、ツール90を用いて抽出できるダイアグ情報に含まれるイベント情報に基づいて、読出対象イベントIDを指定してもよい。要求解像度は、ユーザによる出力解像度の要求値であり、実施形態1では、一例として、"高"又は"低"の2値である。要求解像度が"高"の場合は"低"の場合よりも読み出し速度が遅くなるので、ユーザは、必要な解像度と、所望の読み出し速度とを考慮して、出力解像度の要求値を選択することになる。判定結果が"YES"の場合は、ステップS802に進み、それ以外の場合は、今回周期の処理を終了する。
ステップS802では、画像出力処理部728は、要求解像度が"低"であるか否かを判定する。判定結果が"YES"の場合は、ステップS804に進み、それ以外の場合は、ステップS810に進む。
ステップS804では、画像出力処理部728は、ステップS800で得た読出対象イベントIDを解像度変更部726に与えて、解像度変更部726に解像度変更処理を実行させる。この解像度変更処理は、図10を参照して後述する。
ステップS806では、画像出力処理部728は、解像度変更部726による解像度変更処理が完了したか否かを判定する。判定結果が"YES"の場合は、ステップS808に進み、それ以外の場合は、解像度変更部726による解像度変更処理を待機する待機状態となる。
ステップS808では、画像出力処理部728は、ステップS806での解像度変更処理を経た前方環境画像Iをツール90に出力する。
ステップS810では、画像出力処理部728は、読出対象イベントIDに係るイベントIDに対応付けられた全ての前方環境画像Iを、画像記憶部710から読み出し、そのまま(即ち解像度変更処理を行うことなく)ツール90に出力する。
図8に示す処理によれば、画像出力処理部728は、ツール90から出力要求を受信すると、要求解像度に応じた出力解像度で前方環境画像Iをツール90に出力する。これにより、出力解像度よりも読み出し速度を優先させたいユーザに対しては、比較的高速に読出対象イベントIDに係る画像データを出力できる。
尚、図8に示す例では、画像出力処理部728は、出力要求内の要求解像度に応じて解像度変更処理の要否を判定しているが、これに限られない。画像出力処理部728は、常に解像度変更処理を実行させることとしてもよい。この場合、出力要求内の要求解像度は不要である。或いは、画像出力処理部728は、出力要求のユーザの属性や、出力要求を受信した際の自車位置等に基づいて、解像度変更処理の要否を判定してもよい。
図10は、解像度変更部726による解像度変更処理の一例を示すフローチャートである。図10に示す解像度変更処理は、図8のステップS804に係る読出対象イベントIDの入力をトリガとして実行される。
ステップS1000では、解像度変更部726は、画像記憶部710(図3参照)において、読出対象イベントIDに対応付けられた障害物の属性が記憶されているか否かを判定する。判定結果が"YES"の場合は、ステップS1002に進み、それ以外の場合は、ステップS1004に進む。
ステップS1002では、解像度変更部726は、障害物属性別解像度記憶部714内の障害物属性別解像度情報(図5)に基づいて、障害物の属性に応じたTTC別解像度情報を抽出する。
ステップS1004では、解像度変更部726は、TTC別解像度記憶部712内のTTC別解像度情報(図4)を抽出する。
ステップS1002又はステップS1004が終了すると、ステップS1006に進む。ステップS1006以降では、ステップS1002又はステップS1004で抽出されたTTC別解像度情報が用いられる。ステップS1006以降の説明では、ステップS1002又はステップS1004で抽出されたTTC別解像度情報を、単に「TTC別解像度情報」とも称する。
ステップS1006では、解像度変更部726は、k=1に設定する。
ステップS1008では、解像度変更部726は、読出対象イベントIDに対応付けられた複数の前方環境画像Iのうちから、k番目の前方環境画像Iを画像記憶部710から読み出す。例えば、k番目の前方環境画像Iとは、読出対象イベントIDに対応付けられた複数の前方環境画像Iのうちの、時系列でk番目に撮像された前方環境画像Iであってよい。
ステップS1010では、解像度変更部726は、TTC別解像度記憶部712内のデータ(図3参照)に基づいて、k番目の前方環境画像Iに対応付けられた撮像時TTCを取得する。
ステップS1012では、解像度変更部726は、ステップS1010で得た撮像時TTCと、TTC別解像度情報(図4又は図5)とに基づいて、ステップS1010で得た撮像時TTCに対応付けられた出力解像度("低"、"中"又は"高")を取得する。
ステップS1014では、解像度変更部726は、ステップS1012で得た出力解像度が"高"であるか否かを判定する。判定結果が"YES"の場合は、ステップS1018に進み、それ以外の場合(即ち出力解像度が"低"又は"中"である場合)は、ステップS1016に進む。
ステップS1016では、解像度変更部726は、ステップS1012で得た出力解像度に、k番目の前方環境画像Iの解像度を変更する(低くする)。
ステップS1018では、解像度変更部726は、kを"1"だけインクリメントする。
ステップS1020では、解像度変更部726は、kが、読出対象イベントIDに対応付けられた複数の前方環境画像Iの総数Nよりも大きいか否かを判定する。判定結果が"YES"の場合は、そのまま終了し、それ以外の場合は、ステップS1008からの処理を継続する。
図10に示す処理によれば、解像度変更部726は、障害物の属性に応じたTTC別解像度情報を用いて、前方環境画像Iごとに、撮像時TTCに応じて、前方環境画像Iの解像度を変更(又は維持)できる。
[実施形態2]
実施形態2では、画像記録システムは、処理装置7Aを含む。実施形態2は、上述した実施形態1に対して、解像度変更処理を行うタイミングが異なる。以下では、実施形態2に特有に構成について主に説明し、実施形態2において上述した実施形態1と同様であってよい構成要素については、同一の参照符号を付して説明を省略する場合がある。
図11は、実施形態2による処理装置7Aの機能ブロックの一例を示す図である。
実施形態2による処理装置7Aは、上述した実施形態1による処理装置7に対して、ハードウェア構成は同じであるが、画像記憶処理部724、解像度変更部726及び画像出力処理部728が、画像記憶処理部724A、解像度変更部726A(品質変更部の一例)及び画像出力処理部728Aでそれぞれ置換された点が異なる。尚、画像記憶処理部724A、解像度変更部726A及び画像出力処理部728Aは、CPU11がROM13や補助記憶装置14内の1つ以上のプログラムを実行することで実現できる。
画像記憶処理部724Aは、上述した実施形態1による画像記憶処理部724に対して、解像度変更部726Aによる解像度変更処理を経てから前方環境画像Iを、画像記憶部710に記憶する点が異なる。換言すると、解像度変更部726Aは、画像記憶部710に前方環境画像Iが記憶される際に、解像度変更処理を行う。尚、「画像記憶部710に前方環境画像Iが記憶される際」とは、「画像記憶部710に前方環境画像Iが記憶される直前」や、「画像記憶部710に前方環境画像Iが記憶される直後」を含む概念である。解像度変更処理は、タイミング以外は、上述した実施形態1と同じである。
画像出力処理部728Aは、上述した実施形態1による画像出力処理部728に対して、ツール90からの出力要求に応じて、画像記憶部710から読み出した前方環境画像Iを、そのまま(即ち解像度変更処理を行うことなく)ツール90に出力する点が異なる。
実施形態2によっても、上述した実施形態1と同様の効果を得ることができる。即ち、実施形態2によっても、解像度変更部726Aを備えることで、前方環境画像Iを、画像記憶部710から比較的高速に読み出すことが可能となる。
尚、実施形態2では、解像度変更部726Aは、画像記憶部710に前方環境画像Iが記憶される際に、解像度変更処理を行うが、これに限られない。例えば、解像度変更部726Aは、画像記憶部710に前方環境画像Iが記憶された後、出力要求に応じて前方環境画像Iが画像記憶部710から読み出されるまでに、解像度変更処理を行うこととしてもよい。
次に、図12を参照して、実施形態2による画像記録システム(処理装置7A)の動作例の要部について、フローチャートを用いて説明する。
図12は、画像記憶処理部724Aによる画像記憶処理の一例を示すフローチャートである。図12に示す画像記憶処理は、例えば、イグニッションスイッチのオン状態において、所定周期毎に実行される。
ステップS1200では、画像記憶処理部724Aは、第1画像記憶処理を実行する。第1画像記憶処理は、図6に示した画像記憶処理(ステップS600〜ステップS618)のとおりである。ステップS616での判定結果が"NO"の場合、又は、ステップS618が終了すると、ステップS1202に進む。
ステップS1202では、画像記憶処理部724Aは、ユーザによる設定解像度が"低"であるか否かを判定する。設定解像度は、ユーザにより変更可能な設定値である。判定結果が"YES"の場合は、ステップS1204に進み、それ以外の場合は、ステップS1210に進む。
ステップS1204では、画像記憶処理部724Aは、今回のイベントのイベントIDを解像度変更部726Aに与えて、解像度変更部726Aに解像度変更処理を実行させる。この解像度変更処理は、図13を参照して後述する。
ステップS1206では、画像記憶処理部724Aは、解像度変更部726Aによる解像度変更処理が完了したか否かを判定する。判定結果が"YES"の場合は、ステップS1208に進み、それ以外の場合は、解像度変更部726Aによる解像度変更処理を待機する待機状態となる。
ステップS1208では、画像記憶処理部724Aは、ステップS1206での解像度変更処理を経た前方環境画像Iを、今回のイベントのイベントIDに係る記録領域(画像記憶部710内の記録領域)に記憶(上書き)する。
図12に示す処理によれば、画像記憶処理部724Aは、イベントが発生した場合に、ユーザによる設定解像度に応じて、解像度変更部726Aによる解像度変更処理を経た前方環境画像Iを、画像記憶部710に記憶できる。
尚、図12に示す処理では、ユーザによる設定解像度に応じて、解像度変更処理の要否を判定しているが、これに限られない。画像記憶処理部724Aは、常に解像度変更部726Aに解像度変更処理を実行させることとしてもよい。この場合、設定解像度は不要である。或いは、画像記憶処理部724Aは、現在の自車位置等に基づいて、解像度変更処理の要否を判定してもよい。
また、図12に示す処理では、画像記憶処理部724Aは、今回のイベントに係る前方環境画像Iを、画像記憶部710内の記録領域に一旦記憶してから、解像度変更部726Aに解像度変更処理を実行させているが、これに限られない。例えば、画像記憶処理部724Aは、解像度変更部726Aをして、リングバッファに記憶されている画像データのうちの、記録期間T1中の前方環境画像Iに対して解像度変更処理を実行させ、かつ、解像度変更処理された前方環境画像Iを、画像記憶部710内の記録領域に記憶させることとしてもよい。
図13は、解像度変更部726Aによる解像度変更処理の一例を示すフローチャートである。図13に示す解像度変更処理は、図12のステップS1204に係る今回のイベントIDの入力をトリガとして実行される。
ステップS1300では、解像度変更部726Aは、画像記憶部710(図3参照)において、今回のイベントIDに対応付けられた障害物の属性が記憶されているか否かを判定する。判定結果が"YES"の場合は、ステップS1302に進み、それ以外の場合は、ステップS1304に進む。
ステップS1302では、解像度変更部726Aは、障害物属性別解像度記憶部714内の障害物属性別解像度情報(図5)に基づいて、障害物の属性に応じたTTC別解像度情報を抽出する。
ステップS1304では、解像度変更部726Aは、TTC別解像度記憶部712内のTTC別解像度情報を抽出する。
ステップS1302又はステップS1304が終了すると、ステップS1306に進む。ステップS1306以降では、ステップS1302又はステップS1304で抽出されたTTC別解像度情報が用いられる。ステップS1306以降の説明では、ステップS1302又はステップS1304で抽出されたTTC別解像度情報を、単に「TTC別解像度情報」とも称する。
ステップS1306では、解像度変更部726Aは、k=1に設定する。
ステップS1308では、解像度変更部726Aは、今回のイベントIDに対応付けられた複数の前方環境画像Iのうちから、k番目の前方環境画像Iを画像記憶部710から読み出す。例えば、k番目の前方環境画像Iとは、今回のイベントIDに対応付けられた複数の前方環境画像Iのうちの、時系列でk番目に撮像された前方環境画像Iであってよい。
ステップS1310では、解像度変更部726Aは、TTC別解像度記憶部712内のデータ(図3参照)に基づいて、k番目の前方環境画像Iに対応付けられた撮像時TTCを取得する。
ステップS1312では、解像度変更部726Aは、ステップS1310で得た撮像時TTCと、TTC別解像度情報(図4又は図5)とに基づいて、ステップS1310で得た撮像時TTCに対応付けられた出力解像度("低"、"中"又は"高")を取得する。
ステップS1314では、解像度変更部726Aは、ステップS1312で得た出力解像度が"高"であるか否かを判定する。判定結果が"YES"の場合は、ステップS1318に進み、それ以外の場合(即ち出力解像度が"低"又は"中"である場合)は、ステップS1316に進む。
ステップS1316では、解像度変更部726Aは、ステップS1312で得た出力解像度に、k番目の前方環境画像Iの解像度を変更する(低くする)。
ステップS1318では、解像度変更部726Aは、kを"1"だけインクリメントする。
ステップS1320では、解像度変更部726Aは、kが、今回のイベントIDに対応付けられた複数の前方環境画像Iの総数N1よりも大きいか否かを判定する。判定結果が"YES"の場合は、そのまま終了し、それ以外の場合は、ステップS1308からの処理を継続する。
図13に示す処理によれば、解像度変更部726Aは、障害物の属性に応じたTTC別解像度情報を用いて、前方環境画像Iごとに、撮像時TTCに応じて、前方環境画像Iの解像度を変更(又は維持)できる。
以上、各実施形態について詳述したが、特定の実施形態に限定されるものではなく、特許請求の範囲に記載された範囲内において、種々の変形及び変更が可能である。また、前述した実施形態の構成要素を全部又は複数を組み合わせることも可能である。
例えば、上述した実施形態1(実施形態2も同様)では、車両と障害物との衝突の可能性を表す指標値の一例として、撮像時TTCが用いられるが、これに限られない。例えば、撮像時TTCと他のパラメータとの組み合わせで導出される指標値が使用されてもよい。例えば、撮像時TTCと、他のパラメータとして横位置(前方環境画像Iの撮像時の横位置)との組み合わせで導出される指標値が用いられてもよい。この指標値は、横位置が小さいほど(自車と障害物との横方向の位置の差が小さいほど)高くなり、かつ、撮像時TTCが小さいほど高くなる態様であってよい。この場合、TTC別解像度情報に代えて、指標値ごとに出力解像度が対応付けられた指標値別解像度情報が用いられる。指標値別解像度情報では、指標値が低いほど出力解像度が低くなる態様で、指標値ごとに出力解像度が対応付けられる。
また、車両と障害物との衝突の可能性を表す指標値の他の例は、所定領域内に障害物が検出されたか否かを表す値(即ち、"TRUE"か"FALSE")であってもよい。所定領域は、車両と衝突の可能性がある障害物の存在領域として予め規定される。所定領域内の障害物は、上述の前方レーダセンサ83により検出できる。例えば、前方レーダセンサ83が超音波を用いる測距センサである場合、障害物の有無を表す値が、車両と障害物との衝突の可能性を表す指標値の他の例となる。この場合、所定領域は、測距センサの検知領域に対応してよい。この場合、処理装置7は、指標値が"FALSE(所定領域内に障害物が検出されていないことを表す値)"であるときに撮像された前方環境画像Iに対して品質変更処理を行う。尚、前方レーダセンサ83が測距センサである場合、例えば図6に示す画像記憶処理において、画像記憶処理部724は、前方レーダセンサ83が障害物を検出したイベントに応答して、記録期間T1の開始時及び終了時を設定する(ステップS604参照)。この場合、期間A、期間B、及び期間Cのいずれかが使用されてもよいし、前方レーダセンサ83が障害物を検出している間が記録期間T1として設定されてもよい。
また、上述した実施形態1(実施形態2も同様)では、前方レーダセンサ83が用いられているが、前方レーダセンサ83に代えて又は加えて、車両側方及び/又は車両後方を監視するレーダセンサや画像センサが用いられてもよい。例えば、車両側方を監視する側方レーダセンサを用いる場合、側方レーダセンサによる障害物の検出の有無を表す値が、所定領域内に障害物が検出されたか否かを表す値の他の例(車両と障害物との衝突の可能性を表す指標値の他の例)となる。この場合、所定領域は、側方レーダセンサの検知領域に対応してよい。この場合、処理装置7は、指標値が"FALSE(側方レーダセンサより障害物が検出されていないことを表す値)"であるときに撮像された前方環境画像Iに対して品質変更処理を行う。尚、前方レーダセンサ83が側方レーダセンサである場合、例えば図6に示す画像記憶処理において、画像記憶処理部724は、側方レーダセンサが障害物を検出したイベントに応答して、記録期間T1の開始時及び終了時を設定する(ステップS604参照)。この場合、期間A、期間B、及び期間Cのいずれかが使用されてもよいし、側方レーダセンサが障害物を検出している間が記録期間T1として設定されてもよい。
車両と障害物との衝突の可能性を表す指標値の他の例は、車両と障害物との衝突の可能性を示唆する警報を行う警報制御の作動状態であってよい。この場合、車両と障害物との衝突の可能性を表す指標値は、車両と障害物との衝突の可能性を示唆する警報を行う警報制御が作動中であるときに"TRUE"となり、それ以外は"FALSE"となる値であってよい。車両と障害物との衝突の可能性を示唆する警報を行う警報制御は、例えばPCSの警報、CTA(Cross Traffic Alert)等であってよい。この場合、処理装置7は、指標値が"FALSE"であるときに撮像された前方環境画像Iに対して品質変更処理を行う。
また、上述した実施形態1(実施形態2も同様)では、処理装置7は、車両と障害物との衝突の可能性を表す指標値に基づいて、前方環境画像Iの品質を低くする品質変更処理を行うが、これに限られない。例えば、処理装置7は、車両の走行状態に基づいた指標値に基づいて、前方環境画像Iの品質を低くする品質変更処理を行うこととしてもよい。車両の走行状態に基づいた指標値とは、例えば、「止まれ標識」や「赤信号」、「運転者による急操舵」、「運転者による急制動」等に関する指標値であってよい。
例えば、「止まれ標識」に関する指標値は、車両が「止まれ標識」に接近している状態であるときに"TRUE"となり、それ以外は"FALSE"となる値であってよい。この場合、処理装置7は、指標値が"FALSE"であるときに撮像された前方環境画像Iに対して品質変更処理を行う。尚、止まれ標識については、画像認識等により認識できる。また、「止まれ標識」に限られず、標識または信号などの道路関連オブジェクトが検出された場合に"TRUE"となる指標値が用いられてもよい。
同様に、「赤信号」に関する指標値は、車両が「赤信号」に接近しかつ運転者が赤信号を見落としている可能性があるときに"TRUE"となり、それ以外は"FALSE"となる値であってよい。この場合、処理装置7は、指標値が"FALSE"であるときに撮像された前方環境画像Iに対して品質変更処理を行う。尚、赤信号については、路車間通信システムを介して得られる信号機の状態(赤信号等の状態)により検出できる。また、運転者が赤信号を見落としている可能性は、車両が「赤信号」の交差点に接近しているのにもかかわらず運転者がアクセルペダルを踏み込み続けている場合に検出されてよい。例えば、ITS(Intelligent Transport Systems)から各種指示が車両側に送信される場合、指標値は、ITSからの指示に基づき"TRUE"又は"FALSE"を取る値であってよい。ただし、指標値は、ITSの指示のうち所定の条件(例えば、止まる必要がある(赤信号や、黄信号、一時停止等)であるときだけ"TRUE"になる値であってもよい。
また、「運転者による急操舵」に関する指標値は、車両が急操舵状態であるときに"TRUE"となり、それ以外は"FALSE"となる値であってよい。この場合、処理装置7は、指標値が"FALSE"であるときに撮像された前方環境画像Iに対して品質変更処理を行う。尚、急操舵状態は、ステアリングセンサからの状態に基づいて検出できる。
また、「運転者による急制動」に関する指標値は、車両が急制動状態であるときに"TRUE"となり、それ以外は"FALSE"となる値であってよい。この場合、処理装置7は、指標値が"FALSE"であるときに撮像された前方環境画像Iに対して品質変更処理を行う。尚、急制動状態は、ステアリングセンサからの状態に基づいて検出できる。
その他、車両の走行状態に基づいた指標値は、介入制御の作動状態であるときに"TRUE"となり、それ以外は"FALSE"となる値であってよい。同様に、介入制御は、VSC(Vehicle Stability Control)、ABS(Antilock Brake System)、TRC(TRaction Control)、LKA(Lane Keeping Assist)などがある。この場合、処理装置7は、指標値が"FALSE"であるときに撮像された前方環境画像Iに対して品質変更処理を行う。
7 処理装置
7A 処理装置
8 車載電子機器群
9 車両ネットワーク
12 前方レーダセンサ
14 補助記憶装置
15 ドライブ装置
16 記録媒体
17 通信インターフェース
19 バス
25 有線送受信部
26 無線送受信部
80 カメラ
81 自車位置測定装置
82 加速度センサ
83 前方レーダセンサ
86 ディスプレイ
90 ツール
710 画像記憶部
712 TTC別解像度記憶部
714 障害物属性別解像度記憶部
722 画像取得部
724 画像記憶処理部
724A 画像記憶処理部
726 解像度変更部
726A 解像度変更部
728 画像出力処理部
728A 画像出力処理部

Claims (7)

  1. 車両に搭載されるカメラで撮像した画像と、前記画像の撮像時における前記車両と障害物との衝突までの衝突余裕時間と、前記障害物の属性の認識結果と、を対応付けて記憶する画像記憶部と、
    前記障害物の属性ごと、かつ前記衝突余裕時間ごとに出力解像度を記憶した障害物属性別解像度情報を記憶する障害物属性別解像度記憶部と、
    外部からの出力要求に応じて、前記画像記憶部から一の画像を読出す際に、前記障害物属性別解像度情報と、前記一の画像に係る前記衝突余裕時間及び前記認識結果とに基づいて、前記一の画像の解像度を低くする品質変更処理を行う品質変更部と
    含む、画像記録システム。
  2. 前記出力要求に含まれる出力解像度の要求値に応じて、前記品質変更処理を実行するか否かを制御する画像出力処理部を有する、請求項1に記載の画像記録システム。
  3. 前記衝突余裕時間ごとに出力解像度を記憶した衝突余裕度別解像度情報を記憶する衝突余裕度別解像度記憶部を有し、
    前記品質変更部は、前記画像記憶部に前記認識結果が記憶されていない場合、前記衝突余裕度別解像度情報と、前記一の画像に係る前記衝突余裕時間とに基づいて、前記一の画像の解像度を低くする品質変更処理を行う、請求項1又は2に記載の画像記録システム。
  4. 前記画像は、複数時点で撮像された複数フレームの画像であり、
    前記品質変更部は、前記複数フレームの画像のうち第1時点で撮像された画像よりも、前記第1時点よりも前記衝突余裕時間が長い第2時点で撮像された画像の方が、解像度が低くなる態様で、前記品質変更処理を行う、請求項1ないし3のいずれか一項に記載の画像記録システム。
  5. 前記品質変更部は、外部装置又は表示装置に前記画像を出力することを要求する前記出力要求に応じて前記一の画像が前記画像記憶部から読み出される際に、前記品質変更処理を行う、請求項1ないし4のうちのいずれか1項に記載の画像記録システム。
  6. 車両に搭載されるカメラで撮像した画像と、前記画像の撮像時における前記車両と障害物との衝突までの衝突余裕時間と、前記障害物の属性の認識結果と、を対応付けて画像記憶部に記憶し、
    前記障害物の属性ごと、かつ前記衝突余裕時間ごとに出力解像度を記憶した障害物属性別解像度情報を障害物属性別解像度記憶部に記憶し、
    外部からの出力要求に応じて、前記画像記憶部から一の画像を読出す際に、前記障害物属性別解像度情報と、前記一の画像に係る前記衝突余裕時間及び前記認識結果とに基づいて、前記一の画像の解像度を低くすることを含む、コンピュータにより実行される画像記録方法。
  7. 車両に搭載されるカメラで撮像した画像と、前記画像の撮像時における前記車両と障害物との衝突までの衝突余裕時間と、前記障害物の属性の認識結果と、を対応付けて画像記憶部に記憶し、
    前記障害物の属性ごと、かつ前記衝突余裕時間ごとに出力解像度を記憶した障害物属性別解像度情報を障害物属性別解像度記憶部に記憶し、
    外部からの出力要求に応じて、前記画像記憶部から一の画像を読出す際に、前記障害物属性別解像度情報と、前記一の画像に係る前記衝突余裕時間及び前記認識結果とに基づいて、前記一の画像の解像度を低くすることを含む、コンピュータにより実行される画像記録プログラム。
JP2017049003A 2017-03-14 2017-03-14 画像記録システム、画像記録方法、画像記録プログラム Active JP6743732B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2017049003A JP6743732B2 (ja) 2017-03-14 2017-03-14 画像記録システム、画像記録方法、画像記録プログラム
US15/913,318 US10671861B2 (en) 2017-03-14 2018-03-06 Image recording system, image recording method and image recording program
CN201810200470.0A CN108574811B (zh) 2017-03-14 2018-03-12 图像记录系统、图像记录方法和图像记录程序

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017049003A JP6743732B2 (ja) 2017-03-14 2017-03-14 画像記録システム、画像記録方法、画像記録プログラム

Publications (2)

Publication Number Publication Date
JP2018152785A JP2018152785A (ja) 2018-09-27
JP6743732B2 true JP6743732B2 (ja) 2020-08-19

Family

ID=63519463

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017049003A Active JP6743732B2 (ja) 2017-03-14 2017-03-14 画像記録システム、画像記録方法、画像記録プログラム

Country Status (3)

Country Link
US (1) US10671861B2 (ja)
JP (1) JP6743732B2 (ja)
CN (1) CN108574811B (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102592825B1 (ko) * 2018-08-31 2023-10-23 현대자동차주식회사 충돌 회피 제어 장치 및 그 방법
KR102569900B1 (ko) * 2018-12-04 2023-08-23 현대자동차주식회사 전방위 센서퓨전 장치 및 그의 센서퓨전 방법과 그를 포함하는 차량
CN110046569B (zh) * 2019-04-12 2022-04-12 北京百度网讯科技有限公司 一种无人驾驶数据处理方法、装置及电子设备
CN110751633A (zh) * 2019-10-11 2020-02-04 上海眼控科技股份有限公司 基于深度学习的多轴大车制动检测方法、装置、系统
JP7348874B2 (ja) * 2020-04-06 2023-09-21 トヨタ自動車株式会社 傾斜角検出装置及び制御装置
JP7276280B2 (ja) 2020-08-18 2023-05-18 トヨタ自動車株式会社 車両用画像記録装置及び車両用画像記録方法
JPWO2023127353A1 (ja) * 2021-12-28 2023-07-06

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3153839B2 (ja) * 1993-08-23 2001-04-09 三菱電機株式会社 車両用予防安全装置
JPH07237521A (ja) * 1994-03-02 1995-09-12 Toyota Motor Corp 車両用サイドエアバッグ制御装置
JPH09301122A (ja) * 1996-05-14 1997-11-25 Suzuki Motor Corp 車載用巻き込み警報装置
WO2005088970A1 (ja) * 2004-03-11 2005-09-22 Olympus Corporation 画像生成装置、画像生成方法、および画像生成プログラム
US7409295B2 (en) * 2004-08-09 2008-08-05 M/A-Com, Inc. Imminent-collision detection system and process
CN101437128A (zh) * 2004-08-10 2009-05-20 索尼株式会社 显示设备和显示方法
JP4360403B2 (ja) * 2006-12-27 2009-11-11 トヨタ自動車株式会社 車載用障害物検知装置
JP4706733B2 (ja) * 2008-08-07 2011-06-22 株式会社日本自動車部品総合研究所 エンジン始動制御装置
JP4636474B2 (ja) * 2008-11-17 2011-02-23 Necカシオモバイルコミュニケーションズ株式会社 映像変換装置、映像再生装置、映像変換再生システム及びプログラム
JP2010134745A (ja) * 2008-12-05 2010-06-17 Fujitsu Ten Ltd ドライブレコーダ及びドライブレコーダの映像記録方法
JP4692673B2 (ja) 2009-12-21 2011-06-01 ソニー株式会社 画像記録方法及び画像記録装置
KR101316235B1 (ko) * 2011-05-23 2013-10-08 현대자동차주식회사 저장용량 저감 사고기록장치 및 그 방법
JP2015049842A (ja) * 2013-09-04 2015-03-16 トヨタ自動車株式会社 注意喚起表示装置及び注意喚起表示方法
KR101611194B1 (ko) * 2014-04-04 2016-04-11 주식회사 와이즈오토모티브 차량 주변 이미지 생성 장치 및 방법
KR101860610B1 (ko) * 2015-08-20 2018-07-02 엘지전자 주식회사 디스플레이 장치 및 이를 포함하는 차량
JP6583319B2 (ja) * 2017-03-14 2019-10-02 トヨタ自動車株式会社 画像記録システム、画像記録方法、画像記録プログラム

Also Published As

Publication number Publication date
CN108574811B (zh) 2020-11-06
US20180268227A1 (en) 2018-09-20
JP2018152785A (ja) 2018-09-27
US10671861B2 (en) 2020-06-02
CN108574811A (zh) 2018-09-25

Similar Documents

Publication Publication Date Title
JP6743732B2 (ja) 画像記録システム、画像記録方法、画像記録プログラム
JP6583319B2 (ja) 画像記録システム、画像記録方法、画像記録プログラム
JP7124816B2 (ja) 車両事故再現データに基づいた車両コンポーネントの修正
US8379924B2 (en) Real time environment model generation system
US20180017799A1 (en) Heads Up Display For Observing Vehicle Perception Activity
US10891495B2 (en) Information processing apparatus, information processing method, and program
WO2018123360A1 (en) Image processing device, image processing method, and image processing system
EP2107504A1 (en) Method and device for generating a real time environment model for vehicles
WO2017112205A1 (en) Dynamic sensor range in advanced driver assistance systems
KR102492637B1 (ko) 주행 성향 분석 방법, 주행 성향 분석 장치 및 차량 제어 시스템
WO2019148819A1 (zh) 辅助车辆行驶的方法及装置
US11158190B2 (en) Recommended driving output device, recommended driving output method and recommended driving output system
JP2015007953A (ja) 車両乗車人数の監視装置及び車両乗車人数の監視方法並びにコンピュータ可読記憶媒体
US11180082B2 (en) Warning output device, warning output method, and warning output system
JP4466299B2 (ja) 車両用警報装置、車両用警報方法及び車両用警報発生プログラム
KR101729486B1 (ko) Avm 시스템에서의 사각 지대 감시 방법 및 그 avm 시스템
CN109318799B (zh) 汽车、汽车adas系统及其控制方法
WO2019193928A1 (ja) 車両システム、空間領域推測方法及び空間領域推測装置
TW201600376A (zh) 結合感測器的車用智能影像安全系統
EP4176373A1 (en) Systems and methods for detecting projection attacks on object identification systems
WO2018042976A1 (ja) 画像生成装置、画像生成方法、記録媒体、および画像表示システム
JP7429246B2 (ja) 対象を識別する方法とシステム
JP2019074862A (ja) 推奨運転出力装置、推奨運転出力システム、及び推奨運転出力方法
US10868975B2 (en) Image processing system for acquiring an image picked up by a camera provided in a vehicle an image processing method executed by a computer and a non-transitory storage medium storing an image processing program executed by a computer
CN111415434A (zh) 使用外部车辆显示器进行车辆通信

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20181120

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190805

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190827

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191011

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191217

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200210

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200630

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200713

R151 Written notification of patent or utility model registration

Ref document number: 6743732

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151