JP2017161998A - 車両用画像生成装置 - Google Patents

車両用画像生成装置 Download PDF

Info

Publication number
JP2017161998A
JP2017161998A JP2016043574A JP2016043574A JP2017161998A JP 2017161998 A JP2017161998 A JP 2017161998A JP 2016043574 A JP2016043574 A JP 2016043574A JP 2016043574 A JP2016043574 A JP 2016043574A JP 2017161998 A JP2017161998 A JP 2017161998A
Authority
JP
Japan
Prior art keywords
image
area
vehicle
unit
request
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2016043574A
Other languages
English (en)
Inventor
光春 伊藤
Mitsuharu Ito
光春 伊藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Motor Corp
Original Assignee
Toyota Motor Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Motor Corp filed Critical Toyota Motor Corp
Priority to JP2016043574A priority Critical patent/JP2017161998A/ja
Publication of JP2017161998A publication Critical patent/JP2017161998A/ja
Pending legal-status Critical Current

Links

Landscapes

  • Closed-Circuit Television Systems (AREA)
  • Traffic Control Systems (AREA)

Abstract

【課題】自車両以外で生成された周辺画像を自車両で取得する処理に要する時間を短くすることを可能とした車両用画像生成装置を提供する。
【解決手段】要求処理部113は、周辺画像の領域を複数に区切るエリアAZの各々に対して、車両10の進行方向であって車両10に近いエリアAZほど高い優先順位を設定し、優先順位が高いエリアAZから順に、該エリアAZに含まれる画像の取得と、該エリアAZに含まれる画像を用いた合成とに要する時間である処理時間を算出すると共に、車両10で予め設定された所要時間になるまで処理時間を加算し、エリア画像提供装置21が生成する周辺画像のなかで、該加算の対象となったエリアAZに含まれる画像のみを、エリア画像提供装置21に要求して取得する。
【選択図】図1

Description

本発明は、自車両以外の装置で生成された画像を用いて新たな画像を自車両で生成する車両用画像生成装置に関する。
車両で画像を生成する技術のなかには、自車両で撮影された画像と、自車両が走行している車線とは異なる車線を走行している他車両で撮影された画像とを、自車両で取得すると共に、これら取得された画像を合成することによって、自車両でパノラマ画像を生成することが知られている(例えば、特許文献1を参照)。
特開2008−293095号公報
ところで、画像の解像度を高めることや撮影の画角を広げることは、画像を用いた処理の精度を高めることができる一方で、車両で取得される画像のデータ量を増加させてしまう。そして、車両で取得される画像のデータ量を増加させることは、自車両以外から画像を取得するための処理の長期化を招き、結果として、自車両の運転を支援するための処理など、新たに生成された画像を用いる後段の処理において、その処理の開始に遅れを来すおそれがある。
本発明は、自車両以外で生成された画像を自車両で取得する処理に要する時間を短くすることを可能とした車両用画像生成装置を提供することを目的とする。
上記課題を解決するための車両用画像生成装置は、自車両以外の画像提供装置が生成した自車両の周辺画像における一部を前記画像提供装置から前記自車両で取得する画像取得部と、前記画像取得部が取得した周辺画像の一部と、該周辺画像以外の他の周辺画像とを合成する画像合成部とを備える。そして、前記画像取得部は、各周辺画像の領域を複数に区切る区画領域の各々に対して、前記自車両の進行方向であって前記自車両に近い区画領域ほど高い優先順位を設定し、前記優先順位が高い区画領域から順に、該区画領域に含まれる画像の取得と、該区画領域に含まれる画像を用いた他の周辺画像との合成とに要する時間である処理時間を算出すると共に、前記自車両で予め設定された所要時間になるまで前記処理時間を加算し、前記画像提供装置が生成する周辺画像のなかで、該加算の対象となった区画領域に含まれる画像のみを、前記画像提供装置に要求して取得する。
上記車両用画像生成装置によれば、自車両以外の画像提供装置が生成した自車両の周辺画像の領域、および、その一部と合成される他の周辺画像の領域が、複数の区画領域に区切られる。また、自車両の進行方向であって、かつ、自車両に近い区画領域に含まれる画像に、高い優先順位が設定される。また、区画領域に含まれる画像の取得と、該区画領域に含まれる画像を用いた他の周辺画像との合成とに要する時間である処理時間が、優先順位の高い順に加算され、かつ、合計の処理時間が所定時間になるまで加算が行われる。そして、加算の対象となった区画領域に含まれる画像のみが、画像提供装置に対する要求によって、車両用画像生成装置で取得される。結果として、自車両以外で生成された周辺画像の全てを単に自車両で取得する場合に比べて、優先順位が高く、かつ、所定時間内で取得できる画像のみを、車両用画像生成装置は選択的に取得できる。それゆえに、自車両以外で生成された画像を自車両で取得する処理に要する時間を短くすることが可能となる。
車両用画像生成装置の一実施の形態における装置構成をエリア座標系で定められる監視対象範囲や検出エリアと共に示すブロック図。 エリア画像の要求に対する優先順位の一例をエリアごとに示す概念図。 エリア画像の要求先となる候補の一例をエリアごとに示す概念図。 エリア画像の要求先の一例をエリアごとに示す概念図。 エリア画像提供装置が切り出す画像の範囲をエリアと共に示す投影図。 車両用画像生成装置とエリア画像提供装置とが行う通信処理の流れを示すシーケンス図。 車両用画像生成装置が行う処理の推移を示すタイミングチャート。
図1から図7を参照して車両用画像生成装置の一実施の形態を説明する。
車両10は、車両用画像生成装置11と運転支援システム12とを備える。車両用画像生成装置11は、第1画像生成部111、第1通信部112、要求処理部113、および、第1情報記憶部115を備える。エリア画像提供装置21は、車両10の周辺に位置する施設20Aや、車両10の周辺に位置して車両10とは異なる車両である他車両20Bに備えられる。エリア画像提供装置21は、第2画像生成部211、第2通信部212、回答処理部213、第2画像処理部214、および、第2情報記憶部215を備える。
運転支援システム12が行う運転支援は、車両10と対象物との衝突を回避するための運転支援を含む。運転支援システム12は、運転支援を有効とするか否かを、データの監視結果に基づき判断する。運転支援システム12が監視する対象は、例えば、車両10の周辺領域における対象物の有無である。運転支援システム12が対象物の有無を監視する範囲は、車両10の周辺領域であって、運転支援システム12の監視対象領域12Aである。
車両用画像生成装置11は、監視対象画像を生成する。監視対象画像は、第1画像生成部111が生成した画像の少なくとも一部、および、第2画像生成部211が生成した画像の少なくとも一部から構成される。監視対象画像は、監視対象領域12Aの少なくとも一部において、対象物の有無を示す画像であって、運転支援システム12が監視に用いるデータである。運転支援システム12は、車両用画像生成装置11が生成した監視対象画像の解析の結果に基づき、運転支援を有効とするか否かを判断する。運転支援システム12は、運転支援を有効とする判断に基づき、ハードウェアの駆動を制御するための制御信号を生成する。運転支援システム12が生成する制御信号は、例えば、ブレーキの駆動を制御するための制御信号、ステアリングの駆動を制御するための制御信号、アクセルの駆動を制御するための制御信号、乗員に対する警告の出力を制御するための制御信号、車外視認性を高める表示の出力を制御するための制御信号などである。
運転支援システム12では、運転支援が有効か否かを判断するための処理に費やすことのできる時間、例えば、車両10と対象物との衝突を回避するための運転支援が有効か否かを判断するための処理に費やすことのできる時間を、予算処理時間Tとする。
第1画像生成部111は、車両10の周辺画像を車両10で生成する。第1画像生成部111が生成する車両10の周辺画像は、監視対象画像の一部として用いられるデータを含む。第1画像生成部111は、第1センサー111Sを備える。第1センサー111Sは、例えば、レーダー、超音波センサー、カメラなどである。第1センサー111Sは、第1検出範囲11Zに存在する対象物に対して、第1センサー111Sと対象物との距離や、対象物における輝度値などのデータを、画素ごとに収集する。第1検出範囲11Zは、車両10の周辺領域に含まれる。第1画像生成部111は、第1センサー111Sが収集したデータに基づき、車両用画像生成装置11における車両10の周辺画像を生成する。第1情報記憶部115は、監視対象画像を記憶するための記憶領域を備え、第1画像生成部111は、監視対象画像を記憶するための記憶領域の一部に、車両用画像生成装置11で生成された車両10の周辺画像を記憶させる。
第2画像生成部211は、車両10とは異なる位置から、車両10の周辺画像を生成する。第2画像生成部211が生成する周辺画像は、監視対象画像の一部として用いられるデータを含む。第2画像生成部211は、第1画像生成部111と同様に、第2センサー211Sを備える。第2センサー211Sは、第2検出範囲21Zに存在する対象物に対して、第2センサー211Sと対象物との距離や、対象物における輝度値などのデータを、画素ごとに収集する。第2検出範囲21Zの少なくとも一部は、車両10の周辺領域に含まれ、第1検出範囲11Zと重なる部分を含んでもよく、また、他の第2検出範囲21Zを含んでもよい。第2画像生成部211は、第2センサー211Sが収集したデータに基づき、エリア画像提供装置21における車両10の周辺画像を生成する。第2画像生成部211は、生成された周辺画像を第2情報記憶部215に記憶させる。
第1情報記憶部115は、エリア座標系に基づく範囲として、上記第1検出範囲11Zを備える。エリア座標系は、仮想平面上の座標系であって、複数の区画領域であるエリアAZから構成される。エリア座標系を構成する各エリアAZには、エリアAZに固有のエリア座標が付随する。エリア座標は、エリア座標系でのエリアAZの位置を、要求処理部113、回答処理部213、および、第2画像処理部214が一意に識別するためのデータである。例えば、図1が示すように、エリア座標系における車両10の位置は(2,b)であり、エリア座標系における他車両20Bの位置は(16,e)である。
第1検出範囲11Zは、第1画像生成部111に固有となるエリア座標の集合である。車両用画像生成装置11は、第1画像生成部111の生成した周辺画像を、各エリアAZに割り当てられたエリア画像の集合として処理する。第1画像生成部111がエリア画像の生成を担うエリアAZは、第1検出エリアである。第1検出エリアは、例えば、(3,a)〜(3,c)や(8,a)から(8,d)のエリア座標で示される。これら第1検出範囲11Zを構成する各エリア座標は、要求処理部113が第1検出エリアを特定するためのデータである。
第2情報記憶部215は、上記エリア座標系に基づく範囲として、上記第2検出範囲21Zを備える。第2検出範囲21Zは、第2画像生成部211に固有となるエリア座標の集合である。エリア画像提供装置21は、第2画像生成部211が生成した周辺画像を、各エリアAZに割り当てられたエリア画像の集合として処理する。第2画像生成部211がエリア画像の提供を担えるエリアAZは、第2検出エリアである。例えば、施設20Aの第2検出エリアは、(6,a)〜(11,a)や(7,f)から(9,f)のエリア座標で示される。これら第2検出範囲21Zを構成する各エリア座標とは、車両用画像生成装置11が第2検出エリアを特定するためのデータである。
第1通信部112は、各エリア画像提供装置21と通信するための処理を行う。すなわち、第1通信部112は、各エリア画像提供装置21に対して、属性情報の要求を送信するための処理を行う。また、第1通信部112は、各エリア画像提供装置21が送信する属性情報を受信するための処理を行う。また、第1通信部112は、エリア画像提供装置21に対して、エリア画像の要求を送信するための処理を行う。そして、第1通信部112は、エリア画像提供装置21が送信するエリア画像を受信するための処理を行う。
第2通信部212は、車両用画像生成装置11と通信するための処理を行う。すなわち、第2通信部212は、車両用画像生成装置11から各要求を受信するための処理を行う。また、第2通信部212は、車両用画像生成装置11に、要求された属性情報を送信するための処理を行う。そして、第2通信部212は、車両用画像生成装置11に、要求されたエリア画像を送信するための処理を行う。
属性情報は、エリア画像提供装置21の位置を特定するための位置情報や、第2検出範囲21Zを含む。この属性情報に含まれる位置情報は、属性情報を生成したエリア画像提供装置21の位置を特定するためのエリア座標などの情報である。また、この属性情報に含まれる第2検出範囲21Zは、その属性情報を生成したエリア画像提供装置21での第2検出範囲21Zである。例えば、施設20Aが生成する属性情報は、施設20Aの位置情報や、施設20Aの第2検出範囲21Zを含む。また、他車両20Bが生成する属性情報は、他車両20Bの位置情報や、他車両20Bの第2検出範囲21Zを含む。
また、属性情報は、その属性情報を生成したエリア画像提供装置21での処理時間に関する情報を含む。この処理時間に関する情報は、エリア画像の提供を行うことに際して、車両用画像生成装置11やエリア画像提供装置21が処理に要する時間に関する情報である。この処理時間に関する情報は、例えば、通信速度、データ量、および、単位処理時間を含む。通信速度は、第1通信部112と第2通信部212との間における、単位データ量あたりの通信に要する速度である。通信速度は、例えば、エリア画像提供装置21と車両10との距離、通信路におけるノイズの有無、通信路における混雑の程度、通信経路そのものなどに応じて変わる。データ量は、エリア画像を含め、エリア画像を提供するための処理において、送信されるデータの容量である。データ量は、エリア画像の解像度や、送信されるエリア画像の数量などに応じて変わる。単位処理時間は、エリア画像提供装置21が単位データ量あたりの処理に要する時間であって、エリア画像の生成に際して要する時間である。この単位処理時間に含まれる処理は、エリア画像提供装置21が周辺画像を生成するための処理、エリア画像提供装置21が周辺画像からエリア画像を生成するための処理、および、生成されたエリア画像をエリア画像提供装置21が送信用に加工するための処理などを含む。
要求処理部113は、各エリア画像提供装置21に対する属性情報の要求を生成する。また、要求処理部113は、受信された各属性情報に基づき、優先度情報を生成する。
優先度情報は、各エリア座標と、エリア画像の要求における優先度とを対応付けた情報である。優先度情報に含まれるエリア座標は、第1検出範囲11Zを構成するエリア座標、および、第2検出範囲21Zを構成するエリア座標である。要求処理部113は、車両10の位置をエリア座標系で特定するためのエリア座標を生成すると共に、優先度情報に含まれる各エリア座標に対して、優先度を設定する。この際、図2が示すように、要求処理部113は、第1検出範囲11Z、および、第2検出範囲21Zを構成する全てのエリア座標に対して、車両10の進行方向であって、かつ、車両10のエリア座標に近い順に、高い優先度を設定する。例えば、要求処理部113は、第1検出範囲11Zによって特定される各第1検出エリア、および、第2検出範囲21Zによって特定される各第2検出エリアに、それぞれ優先度の値を設定する。そして、要求処理部113は、優先度の値が小さいエリアAZほど、エリア画像を要求する優先順位が高いように、車両10の進行方向であって、かつ、車両10のエリア座標に近い順に、例えば、「1」から「58」までの優先度の値を設定する。
例えば、エリア座標が(3,b)であるエリアAZは、車両10のエリア座標に最も近い第1検出エリアであり、そこのエリア画像に対する優先度の値は「1」であって最も高い優先順位が設定される。これに対して、エリア座標が(8,e)であるエリアAZは、車両10における進行方向の右斜め前方に離れた第2検出エリアであり、そこのエリア画像に対する優先度の値は「29」であって、優先度情報に含まれるエリア座標のなかで、中間となる優先順位が設定される。そして、エリア座標が(15,f)であるエリアAZは、優先度情報に含まれるエリア座標のなかで、車両10のエリア座標から最も離れた第2検出エリアであり、そこのエリア画像に対する優先度の値は「58」であって最も低い優先順位が設定される。
図1に戻り、要求処理部113は、生成された優先度情報に基づき、優先度の値が小さいエリア座標から順に、エリアAZごとの処理時間を算出する。また、要求処理部113は、合計の処理時間が予算処理時間T以上になるまで、優先度の値が小さい順に、エリアAZごとの処理時間を加算する。そして、要求処理部113は、この加算の対象となったエリア座標におけるエリア画像を、監視対象画像を構成するエリア画像に設定する。
要求処理部113は、エリア画像を要求する先である要求先を決定するための処理を行う。また、要求処理部113は、こうした要求先の決定を、上記加算の対象となったエリア座標ごとに行う。また、要求処理部113は、この要求先を決定するための処理を、優先度の値が小さいエリア座標から順に行う。すなわち、加算の対象となったエリア座標に対応するエリアAZが、第1検出エリアである場合、要求処理部113は、そのエリア画像の要求先の候補のなかに、車両用画像生成装置11を含める。また、加算の対象となったエリア座標に対応するエリアAZが、第2検出エリアである場合、要求処理部113は、そのエリア画像の要求先の候補のなかに、エリア画像提供装置21を含める。そして、エリア画像を要求する要求先の候補が2以上である場合、要求処理部113は、2以上の要求先の候補のなかから1つの要求先を決定するための処理を行う。この際、要求処理部113は、エリア画像の生成に要する時間や、エリア画像の取得に要する時間が短い候補を、エリア画像の要求先として決定する。なお、エリア画像の生成に要する時間や、エリア画像の取得に要する時間は、車両用画像生成装置11と要求先の候補との通信速度や、要求先の候補における単位処理時間や、車両用画像生成装置11における単位処理時間を用い、要求処理部113が算出する。
例えば、図3が示すように、(3,a)や(5,d)に割り当てられたエリア画像の要求先の候補は、「A」であって、車両10の備える第1画像生成部111が、要求先として決定される。(8,f)や(10,a)に割り当てられたエリア画像の要求先の候補は、「B」であって、施設20Aの備えるエリア画像提供装置21が、要求先として決定される。(10,f)や(15,d)に割り当てられたエリア画像の要求先の候補は、「C」であって、他車両20Bの備えるエリア画像提供装置21が、要求先として決定される。一方、(8,b)に割り当てられたエリア画像の要求先の候補は、「AB」であって、第1画像生成部111と、施設20Aが備えるエリア画像提供装置21の両方である。また、(11,d)に割り当てられたエリア画像の要求先の候補は、「BC」であって、他車両20Bが備えるエリア画像提供装置21と、施設20Aが備えるエリア画像提供装置21との両方である。そこで、要求処理部113は、エリア画像の生成に要する時間や、エリア画像の取得に要する時間を、候補ごとに以下のように算出し、算出された処理時間に基づき、要求先を決定する。
例えば、(11,d)に割り当てられたエリア画像の要求に際して、施設20Aの備えるエリア画像提供装置21が要求先である場合、エリア画像提供装置21の処理時間は、施設処理時間TBとして算出される。施設処理時間TBは、下式が示すように、通信処理時間ComAB、第1処理時間ProcA、および、第2処理時間ProcBの合計として示される。
TB=ComAB+ProcA+ProcB
通信処理時間ComABは、施設20Aと車両10との各種通信の処理に要する時間である。通信処理時間ComABは、施設20Aと車両10との間での通信速度や、施設20Aでのエリア画像のデータ量など、施設20Aの属性情報に基づき、要求処理部113が算出する。第1処理時間ProcAは、施設20Aのエリア画像を第1情報記憶部115に記憶するための処理などに、車両用画像生成装置11が要する時間である。この第1処理時間ProcAは、施設20Aでのエリア画像のデータ量や、車両用画像生成装置11での単位処理時間などに基づき、要求処理部113が算出する。第2処理時間ProcBは、施設20Aの備えるエリア画像提供装置21が、要求されたエリア画像を生成するための処理に要する時間である。この第2処理時間ProcBは、施設20Aでのエリア画像のデータ量や、エリア画像提供装置21での単位処理時間など、施設20Aの属性情報に基づき、要求処理部113が算出する。
また、例えば、(11,d)に割り当てられたエリア画像の要求に際して、他車両20Bの備えるエリア画像提供装置21が要求先である場合、エリア画像提供装置21の処理時間は、車両処理時間TCとして算出される。車両処理時間TCは、下式が示すように、通信処理時間ComAC、第1処理時間ProcA、および、第2処理時間ProcCの合計として示される。
TC=ComAC+ProcA+ProcC
通信処理時間ComACは、他車両20Bと車両10との各種通信の処理に要する時間である。通信処理時間ComACは、他車両20Bと車両10との間での通信速度や、他車両20Bでのエリア画像のデータ量など、他車両20Bの属性情報に基づき、要求処理部113が算出する。第1処理時間ProcAは、他車両20Bのエリア画像を第1情報記憶部115に記憶するための処理などに、車両用画像生成装置11が要する時間である。この第1処理時間ProcAは、他車両20Bでのエリア画像のデータ量や、車両用画像生成装置11での単位処理時間などに基づき、要求処理部113が算出する。また、第2処理時間ProcCは、他車両20Bの備えるエリア画像提供装置21が、要求されたエリア画像を生成するための処理に要する時間である。この第2処理時間ProcCは、他車両20Bでのエリア画像のデータ量や、エリア画像提供装置21での単位処理時間など、他車両20Bの属性情報に基づき、要求処理部113が算出する。
そして、要求処理部113は、施設処理時間TBと車両処理時間TCとを比較し、施設処理時間TBが車両処理時間TCよりも小さい場合には、エリア画像の要求先を施設20Aに決定する。これに対して、要求処理部113は、施設処理時間TBが車両処理時間TCよりも大きい場合には、エリア画像の要求先を他車両20Bに決定する。そして、要求処理部113は、第1通信部112による処理を通じ、エリア画像を特定するためのエリア座標の集合を、決定された要求先に送信する。
例えば、図4が示すように、要求処理部113は、(3,a)〜(3,c)、(4,a)〜(4,d)、(5,a)〜(5,d)、(6,a)〜(6,d)、(7,a)〜(7,d)、(8,a)〜(8,c)の各エリア画像の要求先を、第1画像生成部111に決定する。また、要求処理部113は、(7,e)、(8,d)〜(8,f)、(9,a)〜(9,f)、(10,a)〜(10,c)、(11,b)の各エリア画像の要求先を、施設20Aに決定し、これら各エリア座標におけるエリア画像の要求を、施設20Aに送信する。また、要求処理部113は、(10,d)、(10,e)、(11,c)、(11,d)の各エリア画像の要求先を、他車両20Bに決定し、これら各エリア座標におけるエリア画像の要求を、他車両20Bに送信する。そして、要求処理部113は、加算の対象となったエリア座標に対応するエリア画像を、監視対象画像を構成するエリア画像として処理する。
なお、第1通信部112、および、要求処理部113は、エリア画像提供装置21が生成した車両10の周辺画像における一部を、エリア画像提供装置21から車両10で取得する画像取得部として機能する。また、要求処理部113、および、第1情報記憶部115は、画像合成部として機能する。すなわち、要求処理部113、および、第1情報記憶部115は、エリア画像提供装置21から取得した周辺画像の一部であるエリア画像と、その周辺画像以外の他の周辺画像である第1画像生成部111が生成した周辺画像とを、監視対象画像の記憶領域に記憶することによって、これらを合成する。
図1に戻り、回答処理部213は、上記属性情報を生成するための処理を行う。また、回答処理部213は、エリア画像を生成する処理を第2画像処理部214に行わせるための処理を行う。第2画像処理部214は、第2画像生成部211が生成した周辺画像を第2情報記憶部215から読み出し、要求されたエリア座標に対応するエリア画像を、読み出された周辺画像から切り出すための処理を行う。回答処理部213は、切り出されたエリア画像を、第2通信部212による処理を通じ、車両用画像生成装置11に送信するための処理を行う。
例えば、図5が示すように、回答処理部213が、エリア画像の要求として、上述したエリア座標(9,a)、(10,a)…を受信する場合、第2画像生成部211は、車両10以外での周辺画像の生成を開始し、第2画像処理部214は、第2画像生成部211が生成した周辺画像を、第2情報記憶部215から読み出す。また、第2画像処理部214は、要求されたエリア座標に対応するエリア画像を、読み出された周辺画像から切り出すための処理を行う。そして、第2画像処理部214は、切り出された各エリア画像PAを、第2通信部212による処理を通じ、車両用画像生成装置11に送信する。この際、第2画像処理部214は、図5の実線が示すように、周辺画像から切り出されるエリア画像の高さ方向における範囲を予め定め、その範囲に相当する画像を、要求されたエリア画像PAとして切り出す。エリア画像の高さ方向における範囲とは、例えば、対象物の一例である歩行者Mが含まれる範囲に設定される。
次に、車両用画像生成装置11が行う画像生成処理の流れを車両用画像生成装置11とエリア画像提供装置21とが行う通信処理の流れと共に説明する。
図6が示すように、車両10では、運転支援システム12が周期的に行う監視に伴い、車両用画像生成装置11の要求処理部113が、第1通信部112による通信の処理を通じ、施設20Aに対する属性情報の要求を施設20Aに送信し、また、他車両20Bに対する属性情報の要求を他車両20Bに送信する(ステップS11)。施設20Aは、第2通信部212による通信の処理を通じ、施設20Aの属性情報を車両10に送信する。他車両20Bもまた、第2通信部212による通信の処理を通じ、他車両20Bの属性情報を車両10に送信する(ステップS21)。
車両10の要求処理部113は、第1通信部112による通信の処理を通じ、各属性情報を受信し、施設20Aの属性情報と他車両20Bの属性情報とに基づき、優先度情報を生成する(ステップS12)。また、車両10の要求処理部113は、生成された優先度情報を参照し、施設20Aの属性情報、他車両20Bの属性情報、および、予算処理時間Tに基づき、エリア画像の要求先を決定する(ステップS13)。そして、車両10の要求処理部113は、第1通信部112による通信の処理を通じ、施設20Aに対するエリア画像の要求を施設20Aに送信し、他車両20Bに対するエリア画像の要求を他車両20Bに送信する(ステップS14)。
要求処理部113による要求の送信が行われると、第1画像生成部111は、車両10の周辺画像を車両10で生成する。また、第1画像生成部111は、生成された周辺画像を、監視対象画像の記憶領域に記憶させる。
また、施設20Aの回答処理部213が、要求処理部113による要求を受信すると、施設20Aの第2画像生成部211は、施設20Aにおける車両10の周辺画像を、施設20Aで生成する。そして、施設20Aの第2画像処理部214は、第2画像生成部211が生成した周辺画像のなかから、施設20Aが要求先となるエリア画像を切り出し(ステップS22)、切り出されたエリア画像を車両10に送信する(ステップS23)。また、他車両20Bの回答処理部213が、要求処理部113による要求を受信すると、他車両20Bの第2画像生成部211は、他車両20Bにおける車両10の周辺画像を他車両20Bで生成する。そして、他車両20Bの第2画像処理部214は、第2画像生成部211が生成した周辺画像のなかから、他車両20Bが要求先となるエリア画像を切り出し(ステップS22)、切り出されたエリア画像を車両10に送信する(ステップS23)。
車両10の要求処理部113は、各第2画像生成部211が生成したエリア画像を、そのエリア画像のエリア座標が特定される状態で、監視対象画像の記憶領域に記憶する。運転支援システム12は、監視対象画像の記憶領域に記憶された監視対象画像を解析し、運転支援が有効であるか否かを判断する(ステップS15)。そして、運転支援が有効であると判断された場合、運転支援システム12は、運転支援に必要とされる制御信号を、解析に基づき生成して、今回の監視を終了する。他方、運転支援が有効でないと判断された場合、運転支援システム12は、次回の監視まで待機する。
次に、車両用画像生成装置11とエリア画像提供装置21とが行う各処理の時間的な推移の一例を説明する。なお、ここでは、以下の状態を前提として説明する。そして、対象物の一例である歩行者が、車両10の走行路に向かって移動し、この状態から6秒経過した後には、車両10と歩行者とが衝突するため、この衝突を回避するための運転支援を行うものとする。
・車両10の走行速度 :60km/h
・車両10と歩行者との距離 :100m
・予算処理時間T :2.5秒
・車両10と施設20Aとの通信速度:30Mbps
・第1情報記憶部115の書込み速度:400MB/s
・第2情報記憶部215の書込み速度:400MB/s
・第1情報記憶部115の読出し速度:500MB/s
・第2情報記憶部215の読出し速度:500MB/s
・第2画像生成部211における周辺画像のデータ容量 :1MB/枚
・運転支援を有効とするか否かの判断に必要な監視対象画像の数 :10枚
・第2画像生成部211が周辺画像を生成する速度 :10fps
・第2画像生成部に要求されるエリア画像のデータ量 :周辺画像の50%
図7が示すように、車両用画像生成装置11は、属性情報の要求を施設20Aに対して送信し、施設20Aのエリア画像提供装置21は、その要求の回答として、施設20Aの属性情報を車両用画像生成装置11に送信する。次いで、車両用画像生成装置11が、施設20Aの属性情報を用いて優先情報を生成すると共に、歩行者が含まれるエリア画像PAについて、その要求先を施設20Aのエリア画像提供装置21に決定する。そして、車両用画像生成装置11は、要求先である施設20Aにエリア画像PAの要求を行う。これによって、施設20Aのエリア画像提供装置21は、施設20Aでの周辺画像の生成を第2画像生成部211で開始し、生成された周辺画像を1枚ずつ第2情報記憶部215に記憶させる。また、施設20Aのエリア画像提供装置21は、運転支援を有効とするか否かの判断に必要な10枚分の周辺画像の生成を、施設20Aでの周辺画像の生成から1.0秒後に終了する。次いで、エリア画像提供装置21は、第2情報記憶部215に記憶された周辺画像から順に、周辺画像が有するデータ量の50%に相当するエリア画像の切り出しと、切り出されたエリア画像の送信とを開始し、10枚分のエリア画像の送信を、施設20Aでの周辺画像の生成から1.1秒後に終了する。
一方、車両用画像生成装置11は、1枚目のエリア画像の受信を0.4秒後に開始し、10枚分のエリア画像の受信を、施設20Aでの周辺画像の生成から1.4秒後に終了する。また、車両用画像生成装置11は、1枚目のエリア画像が受信されたタイミングである0.5秒後から、受信されたエリア画像を監視対象画像の記憶領域に順に記憶させ、10枚分のエリア画像の記憶を、施設20Aでの周辺画像の生成から1.5秒後に終了する。そして、運転支援システム12は、監視対象画像を記憶するための記憶領域から、第1画像生成部111が生成した周辺画像と、エリア画像提供装置21から提供されたエリア画像とを、監視対象画像として読み出し、読み出された監視対象画像の解析を行う。そして、運転支援システム12は、車両10と歩行者との衝突を回避するためのタイミングよりも前に、提供されたエリア画像PAを含めた監視対象画像の解析を終え、猶予期間を経過した後に、衝突を回避するための運転支援を行うことが可能となる。
上記実施の形態によれば、以下の効果を得ることができる。
(1)エリア画像提供装置21で生成された周辺画像の全てを単に車両10で取得する場合に比べて、優先順位が高く、かつ、予算処理時間T内で取得できるエリア画像のみを、車両用画像生成装置11は選択的に取得できる。それゆえに、車両10以外で生成されたエリア画像を車両10で取得する処理に要する時間を短くすることが可能となる。
(2)車両10の進行方向であって、かつ、車両10のエリア座標に近い順に、高い優先度が設定されるため、第1検出範囲11Zの外側に位置する各エリア画像を、第1検出範囲11Zに近い順に取得することが可能となる。結果として、監視対象画像の解析では、第1検出範囲11Zを擬似的に拡張させた解析を行うことが可能であるため、運転支援を有効とするか否かの判断において、その精度を高めることが可能ともなる。
(3)要求先の候補が2以上となるエリアAZに対して、要求処理部113は、エリア画像の合成までに要する処理時間を候補ごとに算出し、その処理時間の短い候補を要求先に決定する。それゆえに、上述した車両用画像生成装置11は、予算処理時間T内で取得できるエリア画像の数量を多くできる観点において、すなわち、監視対象画像の範囲を大きくできる観点において、優れている。
上記実施の形態は、以下のように変更して実施することもできる。
・要求先の候補が2以上となるエリアAZに対して、要求処理部113は、例えば、各候補の属性情報に基づき、2以上の候補のなかでエリア画像の解像度が高い候補を、そこの要求先として決定してもよい。ここで、要求先の候補が2以上となるエリアAZとは、車両10との距離が比較的に大きい位置に対応するエリアAZである可能性が高い。そのため、こうした要求先の決定であれば、車両10から離れた位置に対する解析の精度を、ひいては、運転支援を有効とするか否かの判断の精度を高めることが可能ともなる。
・車両10から第1画像生成部111が割愛され、要求処理部113は、施設20Aのエリア画像提供装置21に要求するエリア画像と、他車両20Bのエリア画像提供装置21に要求するエリア画像のみから、監視対象画像を生成してもよい。すなわち、要求処理部113が取得した周辺画像の一部と合成される他の周辺画像は、第1画像生成部111が生成する周辺画像に限らず、要求処理部113が取得する他の周辺画像のみであってもよい。
・運転支援システム12が行う運転支援は、車両10と先行車両との距離を保ちながら車両10の走行を先行車両の走行に追従させるための運転支援や、車両10を走行車線に沿って走行させるため運転支援であってもよい。
T…予算処理時間、PA…エリア画像、AZ…エリア、TB…施設処理時間、TC…車両処理時間、ComAB,ComAC…通信処理時間、ProcA…第1処理時間、ProcB,ProcC…第2処理時間、10…車両、11…車両用画像生成装置、11Z…第1検出範囲、21Z…第2検出範囲、12…運転支援システム、12A…監視対象領域、20A…施設、20B…他車両、21…エリア画像提供装置、111…第1画像生成部、111S…第1センサー、112…第1通信部、113…要求処理部、114…第1画像処理部、115…第1情報記憶部、211…第2画像生成部、211S…第2センサー、212…第2通信部、213…回答処理部、214…第2画像処理部、215…第2情報記憶部。

Claims (1)

  1. 自車両以外の画像提供装置が生成した自車両の周辺画像における一部を前記画像提供装置から前記自車両で取得する画像取得部と、
    前記画像取得部が取得した周辺画像の一部と、該周辺画像以外の他の周辺画像とを合成する画像合成部とを備え、
    前記画像取得部は、
    各周辺画像の領域を複数に区切る区画領域の各々に対して、前記自車両の進行方向であって前記自車両に近い区画領域ほど高い優先順位を設定し、
    前記優先順位が高い区画領域から順に、該区画領域に含まれる画像の取得と、該区画領域に含まれる画像を用いた他の周辺画像との合成とに要する時間である処理時間を算出すると共に、前記自車両で予め設定された所要時間になるまで前記処理時間を加算し、前記画像提供装置が生成する周辺画像のなかで、該加算の対象となった区画領域に含まれる画像のみを、前記画像提供装置に要求して取得する
    車両用画像生成装置。
JP2016043574A 2016-03-07 2016-03-07 車両用画像生成装置 Pending JP2017161998A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2016043574A JP2017161998A (ja) 2016-03-07 2016-03-07 車両用画像生成装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016043574A JP2017161998A (ja) 2016-03-07 2016-03-07 車両用画像生成装置

Publications (1)

Publication Number Publication Date
JP2017161998A true JP2017161998A (ja) 2017-09-14

Family

ID=59856929

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016043574A Pending JP2017161998A (ja) 2016-03-07 2016-03-07 車両用画像生成装置

Country Status (1)

Country Link
JP (1) JP2017161998A (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020110857A1 (ja) * 2018-11-26 2020-06-04 住友電気工業株式会社 交通情報処理サーバ、交通情報の処理方法、及びコンピュータプログラム
JP2020125098A (ja) * 2018-12-20 2020-08-20 トヨタ モーター ノース アメリカ,インコーポレイティド データ処理を優先順位付けするシステム及び方法

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020110857A1 (ja) * 2018-11-26 2020-06-04 住友電気工業株式会社 交通情報処理サーバ、交通情報の処理方法、及びコンピュータプログラム
JP2020125098A (ja) * 2018-12-20 2020-08-20 トヨタ モーター ノース アメリカ,インコーポレイティド データ処理を優先順位付けするシステム及び方法
JP7068260B2 (ja) 2018-12-20 2022-05-16 トヨタ モーター ノース アメリカ,インコーポレイティド データ処理を優先順位付けするシステム及び方法

Similar Documents

Publication Publication Date Title
JP6112054B2 (ja) 電子機器、電子機器の制御方法及び電子機器の制御プログラム
EP3686084B1 (en) Parking support method and parking support device
US9886852B2 (en) Automatic driving device
JP2018025993A (ja) 自動運転システム
US10353394B2 (en) Driving assistance device and driving assistance method
US9842503B2 (en) Driving support apparatus and driving support method
JP6304126B2 (ja) 車両制御システム
CN107251123B (zh) 车辆组管理装置、车辆组管理方法和车辆组显示装置
US20210270625A1 (en) Follow that car
KR20160111633A (ko) 블랙박스 영상 정보를 이용하여 교통정보 및 차량정보 제공 시스템 및 그 방법
JP2018189457A (ja) 情報処理装置
JP6326869B2 (ja) 車両周辺画像表示装置、車両周辺画像表示方法
JP6345572B2 (ja) 走行映像記録システムおよびこれに用いるドライブレコーダ、並びに記録走行映像のアップロード方法
JP2017161998A (ja) 車両用画像生成装置
US20220371578A1 (en) Autonomous parking method and vehicle system performing the same
JP2017194913A (ja) プローブ情報処理サーバ、プローブ車両、およびプローブ情報処理方法
US20190197730A1 (en) Semiconductor device, imaging system, and program
JP6952517B2 (ja) 渋滞予測装置及びその渋滞予測方法
JP2020106904A (ja) 車載処理装置
WO2017020166A1 (en) Method, apparatus and system for presenting information in a vehicle
JP2019158450A (ja) 情報処理装置、情報処理方法、情報処理用プログラム、及び記録媒体
JPWO2019171569A1 (ja) 情報処理装置、情報処理方法、情報処理用プログラム、及び記録媒体
JP6387744B2 (ja) 車載器及び運転支援システム
US20230104858A1 (en) Image generation apparatus, image generation method, and non-transitory computer-readable medium
JP2018073233A (ja) 車両走行管理システム、管理装置、管理方法および管理プログラム