JP2024010758A - 表示処理装置、表示処理方法、及び表示処理プログラム - Google Patents
表示処理装置、表示処理方法、及び表示処理プログラム Download PDFInfo
- Publication number
- JP2024010758A JP2024010758A JP2022112234A JP2022112234A JP2024010758A JP 2024010758 A JP2024010758 A JP 2024010758A JP 2022112234 A JP2022112234 A JP 2022112234A JP 2022112234 A JP2022112234 A JP 2022112234A JP 2024010758 A JP2024010758 A JP 2024010758A
- Authority
- JP
- Japan
- Prior art keywords
- display
- vehicle
- image
- past
- slipping
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012545 processing Methods 0.000 title claims abstract description 134
- 238000003672 processing method Methods 0.000 title claims description 7
- 240000004050 Pentaglottis sempervirens Species 0.000 claims abstract description 104
- 235000004522 Pentaglottis sempervirens Nutrition 0.000 claims abstract description 104
- 238000000034 method Methods 0.000 claims description 115
- 230000001133 acceleration Effects 0.000 claims description 114
- 230000008569 process Effects 0.000 claims description 90
- 238000001514 detection method Methods 0.000 claims description 44
- 230000008859 change Effects 0.000 claims description 10
- 230000004044 response Effects 0.000 claims description 4
- 238000003384 imaging method Methods 0.000 abstract description 32
- 230000004048 modification Effects 0.000 description 111
- 238000012986 modification Methods 0.000 description 111
- 238000010586 diagram Methods 0.000 description 44
- 230000006870 function Effects 0.000 description 33
- 230000005540 biological transmission Effects 0.000 description 21
- 102100038740 Activator of RNA decay Human genes 0.000 description 14
- 101000741919 Homo sapiens Activator of RNA decay Proteins 0.000 description 14
- 230000012447 hatching Effects 0.000 description 11
- 238000004364 calculation method Methods 0.000 description 10
- 239000002131 composite material Substances 0.000 description 7
- 230000007423 decrease Effects 0.000 description 6
- 238000005516 engineering process Methods 0.000 description 6
- 241001465754 Metazoa Species 0.000 description 4
- 238000012937 correction Methods 0.000 description 4
- 230000001151 other effect Effects 0.000 description 4
- 238000006243 chemical reaction Methods 0.000 description 3
- 230000003247 decreasing effect Effects 0.000 description 3
- 230000005484 gravity Effects 0.000 description 3
- 230000006399 behavior Effects 0.000 description 2
- 230000008901 benefit Effects 0.000 description 2
- 230000004397 blinking Effects 0.000 description 2
- 210000004556 brain Anatomy 0.000 description 2
- 238000012790 confirmation Methods 0.000 description 2
- 239000007787 solid Substances 0.000 description 2
- 230000005856 abnormality Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 230000000052 comparative effect Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 238000007667 floating Methods 0.000 description 1
- 230000001788 irregular Effects 0.000 description 1
- 238000002156 mixing Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000000717 retained effect Effects 0.000 description 1
- 238000007790 scraping Methods 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000003786 synthesis reaction Methods 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
- H04N5/2624—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects for obtaining an image which is composed of whole input images, e.g. splitscreen
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R1/00—Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
- B60R1/20—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
- B60R1/22—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
- B60R1/23—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
- B60R1/27—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view providing all-round vision, e.g. using omnidirectional cameras
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R1/00—Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R1/00—Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
- B60R1/20—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
- B60R1/22—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
- G06F3/04845—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range for image manipulation, e.g. dragging, rotation, expansion or change of colour
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
- G06F3/0488—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/63—Control of cameras or camera modules by using electronic viewfinders
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
- H04N7/183—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
- B60R2300/10—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
- B60R2300/105—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using multiple cameras
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
- B60R2300/30—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
- B60R2300/30—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
- B60R2300/302—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing combining image information with GPS information or vehicle data, e.g. vehicle speed, gyro, steering angle data
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
- B60R2300/30—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
- B60R2300/303—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using joined images, e.g. multiple camera images
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
- B60R2300/60—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective
- B60R2300/607—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective from a bird's eye viewpoint
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
- B60R2300/80—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
- B60R2300/802—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for monitoring and displaying vehicle exterior blind spot views
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/698—Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- General Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Mechanical Engineering (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Closed-Circuit Television Systems (AREA)
- Traffic Control Systems (AREA)
Abstract
【課題】コストを抑制しつつ、画像にずれが発生した場合でも乗員による誤認を抑制することができる。【解決手段】本開示にかかる表示処理装置は、画像に基づいて車両の周辺の俯瞰画像を生成する俯瞰画像生成部と、車両の移動量を推定する推定部と、過去の時点で俯瞰画像を記憶したものである過去の俯瞰画像と、車両の移動量とに基づいて、撮影時刻が過去の時点である1つまたは複数の過去画像を生成する過去画像生成部と、1つまたは複数の過去画像と俯瞰画像とを組み合わせて、車両内の表示装置に表示する表示画像を生成する表示画像生成部と、を備え、表示画像生成部は、車輪が滑る滑り事象が発生したことを推定部が検出した場合、1つまたは複数の過去画像に対して滑り事象が発生したことを示す処理を施して表示画像を生成する。【選択図】図4
Description
本開示は、表示処理装置、表示処理方法、及び表示処理プログラムに関する。
走行中の車両の床下を透過表示させる機能を有する表示処理装置がある。例えば特許文献1の技術では、複数の過去画像とリアルタイム画像とを合成して床下透過表示を行う。このとき、車両の移動量の算出誤差により、過去画像とリアルタイム画像との継ぎ目で生じるずれを画像マッチング処理により補正する。
しかしながら、特許文献1の技術では、複数の画像同士を比較してずれ量を算出するため膨大な演算量を要し、表示処理装置が高コストになってしまう。また、目標となる物体が継ぎ目部分に存在しない場合には、画像マッチング処理が困難となってしまう。
本開示は、コストを抑制しつつ、画像にずれが発生した場合でも乗員による誤認を抑制することができる表示処理装置、表示処理方法、及び表示処理プログラムを提供することを目的とする。
本開示にかかる表示処理装置は、車両に搭載される表示処理装置であって、前記車両の周辺を撮影した画像を取得する画像取得部と、前記画像に基づいて前記車両の周辺の俯瞰画像を生成する俯瞰画像生成部と、前記車両によって検出された車輪の回転量に基づいて、前記車両の移動量を推定する推定部と、過去の時点で前記俯瞰画像を記憶したものである過去の俯瞰画像と、前記車両の前記移動量とに基づいて、撮影時刻が過去の時点である1つまたは複数の過去画像を生成する過去画像生成部と、前記1つまたは複数の過去画像と前記俯瞰画像とを組み合わせて、前記車両内の表示装置に表示する表示画像を生成する表示画像生成部と、を備え、前記表示画像生成部は、前記車輪が滑る滑り事象が発生したことを前記推定部が検出した場合、前記1つまたは複数の過去画像に対して前記滑り事象が発生したことを示す処理を施して前記表示画像を生成する。
本開示にかかる表示処理装置、表示処理方法、及び表示処理プログラムによれば、コストを抑制しつつ、画像にずれが発生した場合でも乗員による誤認を抑制することができる。
以下、図面を参照しながら、本開示にかかる表示処理装置、表示処理方法、及び表示処理プログラムの実施形態について説明する。
[実施形態]
実施形態について図面を用いて説明する。
実施形態について図面を用いて説明する。
(車両の構成例)
図1は、実施形態にかかる表示ECU(Electronic Control Unit)10が搭載された車両1の構成の一例を示す模式図である。なお、本明細書において、車両1の前後左右上下は、それぞれ車両1の運転席を基準とする方向であるものとする。
図1は、実施形態にかかる表示ECU(Electronic Control Unit)10が搭載された車両1の構成の一例を示す模式図である。なお、本明細書において、車両1の前後左右上下は、それぞれ車両1の運転席を基準とする方向であるものとする。
図1に示すように、車両1は、車体2と、所定方向に沿って車体2に結合された2対の車輪3とを備える。これらの車輪3のうち、1対の前輪31は車体2の前側の下面に取り付けられ、1対の後輪32は車体2の後側の下面に取り付けられている。
車体2は上面視で略矩形をしており、車輪3(前輪31、後輪32)を有する。
これらの車輪3(前輪31、後輪32)には、車輪速センサ4(前輪31には車輪速センサ41、後輪32には車輪速センサ42)が各々取り付けられている。車輪速センサ4は、対応する車輪3が所定の角度、回転するごとに車輪速パルスを出力する。所定時間あたりの車輪速パルスの出力回数をカウントすることで、対応する車輪3の回転速度を算出することができる。車輪速は、車輪速パルスから算出される所定時間あたりの車輪3の回転数に、その車輪3の外周長を掛け合わせたものである。
また、車体2の前後部には、加速度センサ5(51,52)がそれぞれ取り付けられている。加速度センサ5は、例えば車体2が受けた加速度を前後、上下、及び左右の3軸方向に分解して検知し、それぞれの検知結果を出力する3軸加速度センサとして構成されている。
加速度センサ51は、例えば車体2の前側の左寄りに設けられ、加速度センサ52は、例えば車体2の後ろ側の左寄りに設けられてもよい。このように配置することで、これらの加速度センサ5は、車体2の重心を通る回転の3軸(ピッチ軸、ロール軸、及びヨー軸)のいずれの軸からもオフセットされる。このため、外力により車体2が回転した際、その回転がピッチ軸、ロール軸、及びヨー軸のいずれの軸を中心とするものであっても、これらの加速度センサ5によって外力を効果的に検知することができる。
また、加速度センサ5は、車両1が静止している場合でも重力加速度を検知している。このため、加速度センサ5によって車両1の姿勢を特定することができる。
なお、車両1は少なくとも1つの加速度センサ5を備えていればよい。ただし、図1の例のように、車体2の前後部にそれぞれ加速度センサ5を備えることで、例えば車体2の後部だけが横滑りするような変則的な車体2の姿勢変化も、より正確に検知することができる。このように、加速度センサ5は、車両1の加速度の検知に有利な位置に、必要な数だけ、配置されていることが好ましい。
また、車体2の前後左右には、それぞれ撮像装置6(61,62,63,63)が取り付けられている。撮像装置6は、例えばCCD(Charge Coupled Device)、またはCIS(CMOS Image Sensor)等の撮像素子を内蔵するデジタルカメラである。
撮像装置61,62は、車体2の前後に、バンパよりも高い位置に取り付けられている。撮像装置63,63は、車体2の左右のサイドミラーに内蔵されている。このような配置を有することで、これらの撮像装置6により車両1の周辺を撮影することができる。
車両1には、表示ECU10及びセンサ制御装置30が搭載され、車両1内にはHMI(Human Machine Interface)装置20が設けられている。
表示装置としてのHMI装置20は、タッチパネル、スピーカ、及びスイッチ等を備え、例えば運転席の近傍に配置されている。HMI装置20が備えるタッチパネル、スピーカ、及びスイッチ等はナビゲーションシステムと共用されていてもよく、ナビゲーションシステムが表示装置としての機能を兼ね備えていてもよい。
表示処理装置としての表示ECU10は、HMI装置20における各種表示を制御する電子制御装置として構成されている。表示ECU10は、撮像装置6が撮影した車両1の周辺の画像を取得し、各種の処理を施して、例えば複数の画像が合成された俯瞰画像等の表示画像を生成してHMI装置20に出力する。なお、慣習的、または簡易な言い方として、表示画像を生成して表示装置に出力する事を、単に表示すると言い、表示画像の生成を制御する事を、単に表示を制御する、という事がある。
また、表示ECU10は、センサ制御装置30を介して、または直接的に、車輪速センサ4及び加速度センサ5等の各種センサによる検知結果を取得する。表示ECU10は、取得した検知結果を用いて、表示画像の生成に必要な各種演算処理を行う。
センサ制御装置30は、車輪速センサ4及び加速度センサ5等の各種センサによる検知結果を取得し、各種の処理を施して、表示ECU10等の車両1の各部の制御装置に出力する。
図2は、実施形態にかかる表示ECU10が搭載された車両1の構成の一例を示すブロック図である。図2においては、車体2及びエンジン等の構成は省略し、主に表示ECU10に関わる構成を示している。また、図2に示すブロックの数と、車両1が備える物理的な構成の数とは必ずしも一致していない。
図2に示すように、車両1は、車輪速センサ4(41,42)、加速度センサ5(51,52)、撮像装置6(61,62,63,63)、車両センサ7、舵角センサ8、表示ECU10、HMI装置20、及びセンサ制御装置30を備える。これらの構成要素は、例えば車内ローカルエリアネットワーク(LAN:Local Area Network)9で有線接続されている。
ただし、撮像装置6が生成した画像データの伝送量は大きいため、画像データの伝送ルートである撮像装置6と表示ECU10との間、及び表示ECU10とHMI装置20との間が、専用の同軸ケーブル等で接続されていてもよい。
舵角センサ8は、車両1のステアリングホイールの操舵角を検知する。
車両センサ7は、車両1の起動スイッチ、ギヤ位置のスイッチ、ウインカレバーのスイッチ、並びにモータ及びエンジンのトルクセンサ等である。ただし、上述の車輪速センサ4、加速度センサ5、及び舵角センサ8等も含めて車両センサと称してもよい。
センサ制御装置30は、上述のように、車輪速センサ4、加速度センサ5、舵角センサ8、及び車両センサ7等の各種センサからの出力データを処理する。ただし、表示ECU10が、上述のように、センサ制御装置30を介することなく各種センサからの出力データを取得してもよく、また、これらセンサの出力データの処理を行ってもよい。センサ制御装置30は、表示ECU10に取り込まれても良く、表示ECU10のセンサ制御部として実装されても良い。
HMI装置20は、表示ECU10が生成した表示画像等をタッチパネルに表示し、スピーカから音声を出力する。また、HMI装置20は、タッチパネル及びスイッチ等により、車両1の乗員から表示ECU10への指示を含む各種操作を受け付ける。ここで、乗員には、車両1の運転者および同乗者が含まれるものとする。
また、HMI装置20が、マイクと音声認識機能とを更に備えることにより、音声による各種操作の受け付けが可能に構成されていてもよい。また、HMI装置20とは独立して、スイッチ等を含む操作装置が設けられていてもよい。
(表示ECUの構成例)
次に、図3及び図4を用いて、実施形態の表示ECU10の構成例について説明する。図3は、実施形態にかかる表示ECU10のハードウェア構成の一例を示すブロック図である。
次に、図3及び図4を用いて、実施形態の表示ECU10の構成例について説明する。図3は、実施形態にかかる表示ECU10のハードウェア構成の一例を示すブロック図である。
図3に示すように、表示ECU10は、CPU(Central Processing Unit)11、ROM(Read Only Memory)12、RAM(Random Access Memory)13、入出力I/F(インターフェース)14、及び記憶装置15を備えるコンピュータとして構成される。
ただし、表示ECU10が、CPU11の代わりに、ASIC(Applicatiton Specific Integrated Circuit)、FPGA(Field Programmable Gate Array)等の他のプロセッサを備えていてもよい。
CPU11は、表示ECU10の全体を制御する。ROM12は電気的に書き換え可能な記憶素子で構成され、CPU11が実行するプログラムを記憶するとともに、表示ECU10における保存領域としても機能する。ROM12に記憶された情報は、表示ECU10の電源が切られても保持される。RAM13は、一次記憶装置として機能し、CPU11の作業領域となる。
CPU11が、例えばROM12に格納された表示処理プログラム12pを実行することで、HMI装置20に各種表示を行う表示処理装置としての機能が表示ECU10に実現される。つまり、表示処理プログラム12pは、例えばコンピュータとして構成される表示ECU10に、以下に詳述する各種解析処理を行わせる。
なお、表示処理プログラム12pは、例えばコンピュータでの読み取りが可能なように記録媒体等に格納されて提供されることができる。記録媒体は、例えば磁気ディスク、光ディスク、光磁気ディスク、フラッシュメモリ等である。あるいは、表示処理プログラム12pは、インターネット等のネットワークに置かれたサーバ等からダウンロード可能であってもよい。また、表示処理プログラム12pをネットワーク経由で提供または配布するように構成してもよい。
入出力I/F14にはHMI装置20が接続される。これにより、表示ECU10が生成した表示画像、乗員による各種操作の受け付け画面、及び各種操作に応じた処理結果の表示画面等をHMI装置20に表示させることができる。また、表示ECU10は音声メッセージも生成し、入出力I/F14とHMI装置20とを介して、乗員に音声メッセージを伝えることが出来る。
また、入出力I/F14は、撮像装置6と接続され、撮像装置6が生成した画像データを撮像装置6から取得する。また、入出力I/F14は、センサ制御装置30を介して、あるいは直接的に、車輪速センサ4、加速度センサ5、及び舵角センサ8等の各種センサと接続され、これらのセンサから出力値を取得する。
記憶装置15は、HDD(Hard Disk Drive)、SSD(Solid State Drive)、SDメモリカード等であり、CPU11の補助記憶装置として機能する。
図4は、実施形態にかかる表示ECU10の機能構成の一例を示すブロック図である。図4に示すように、表示ECU10は、取得部101、俯瞰画像生成部102、過去画像生成部103、表示画像生成部104、推定部105、表示制御部106、検出部107、及び記憶部108を備える。
画像取得部としての取得部101は、車両1の周辺を撮影した画像、つまり撮影画像を撮像装置6から取得する。また、取得部101は、車輪速センサ4、加速度センサ5、及び舵角センサ8等の各種センサによる検知結果を取得する。
取得部101の上記機能は、例えば表示処理プログラム12pを実行するCPU11の制御下で動作する入出力I/F14により実現される。
俯瞰画像生成部102は、撮像装置6から取得した車両1の周辺の撮影画像を合成し、車両1の周辺の俯瞰画像を生成する。俯瞰画像は、車両1の上方から車両1の周辺を見下ろす視点の合成画像である。
俯瞰画像生成部102は、少なくとも1つの撮像装置6の撮影画像を合成して、前進する車両1の前方、または後退する車両の後方等の車両1の移動方向を含む俯瞰画像を合成することができる。俯瞰画像生成部102が、複数の撮像装置6の撮影画像を合成することで、車両1の全周囲画像を生成してもよい。
俯瞰画像の合成に用いられる画像は、撮像装置6により撮影され、表示ECU10が取得した最新の撮影画像である。これら最新の撮影画像を用いて俯瞰画像を生成することで、HMI装置20に、今現在の車両1の周辺を示す画像を表示させることができる。これら最新の撮影画像を用いて生成した俯瞰画像をリアルタイム画像と呼ぶ事にする。
リアルタイム画像には表示されない、死角領域が車体2の下に存在する。車体2の下の路面は、どの撮像装置6でも撮影できないので、リアルタイム画像には表示されない死角領域になる。全周囲画像を表示する際には、車体2を模したアイコンを、死角領域を隠す位置に表示する事により、死角領域の存在を意識させない例が多い。実施形態の表示ECU10は、以下に述べる過去画像をリアルタイム画像と組み合わせることで、HMI装置20に表示させる表示画像を生成する。
過去画像とは、過去の時点で俯瞰画像を記憶したものである過去の俯瞰画像と、過去の俯瞰画像とに基づいて生成された画像である。具体的には、リアルタイム画像を記憶部107に記憶させ、時間が経過してから読みだした、撮影時刻が過去の時点である過去の俯瞰画像、または、その一部を切り出したり、移動させたりした、過去の俯瞰画像を元にして生成された画像である。過去の俯瞰画像の撮影時刻とは、正確には、過去の俯瞰画像の基となった撮影画像の撮影時刻の事を指し、過去の俯瞰画像を元にする過去画像についても、過去画像の元となった撮影画像の撮影時刻の事を、過去画像の撮影時刻と呼んでいる。
車両1の進行方向に映っていた路面は、車両1が移動すると車体2の下方に存在する死角領域に位置する様になるので、過去の俯瞰画像の撮影時刻以降に車両1が移動した距離と方向とに応じて過去の俯瞰画像を移動し、そのうち死角領域に入った部分を切り出したものが過去画像である。この過去画像をリアルタイム画像に嵌め込む事により、死角を補う事が出来る。
これにより、表示ECU10は、車体2の床下を透過して車体2の下方の死角領域が見えるかの様に表示させる床下透過表示機能を備えることとなる。床下透過表示画像に車両アイコンを表示させる場合には、車両アイコンと重なる位置に、車両アイコンを半透過で表示してもよい。
過去画像生成部103は、推定部105が算出した車両1の移動方向および移動量に基づいて、これまでに生成され、記憶部107が記憶した撮影時刻が異なる複数の俯瞰画像から所定の領域を適宜抽出し、撮影時刻が異なる複数の過去画像を生成する。
より詳細には、過去画像生成部103は、車両1の移動方向および移動量に基づいて、所定時刻に車体2に隠れて死角領域となる領域を特定する。また、過去画像生成部103は、これまでに生成された複数の俯瞰画像から、所定時刻に死角領域となる領域の直近の画像を抽出し、所定時刻における死角領域に対応する過去画像とする。
複数の所定時刻において上記処理を繰り返すことで、撮影時刻が異なる複数の過去画像が生成される。撮影時刻が異なる複数の過去画像と俯瞰画像とを組み合わせて車両内の表示装置に表示する表示画像を生成する事により、床下の死角領域全体が過去画像で置き換えられた、死角が無い様に見える表示画像を生成できる。
表示画像生成部104は、リアルタイム画像と、複数の過去画像を組み合わせて、HMI装置20に表示させる表示画像を生成しても良いし、過去画像を用いず、リアルタイム画像を表示画像としても良い。例えば、表示画像生成部104は、滑り事象を推定部105が検出した際には、過去画像に対して滑り事象が発生したことを示す処理を施す。滑り事象が発生したことを示す処理は、例えば、1つ以上の過去画像を非表示とする処理でも良いし、滑り事象が発生したことを示す表示を過去画像に付加する処理でも良い。
推定部105は、車輪速センサ4、加速度センサ5、及び舵角センサ8等の検知結果に基づいて、車両1の移動方向および移動量を推定する。また、推定部105は、車両1の車輪3が滑る事象が起きた場合、それを車両1の滑り事象として検出する。滑り事象とは、例えば複数の車輪3のうち少なくとも一部が路面とのグリップを失い、車体2が滑ってしまう事象である。滑り事象を平易にスリップと言い換えても良い。
このような滑り事象が発生すると、車両1の複数の車輪3の回転量の間に、全ての車輪が路面とグリップしていた場合には発生し得ない不一致が生じる。推定部105は、このような不一致から、車両1に滑り事象が発生したことを推定することができる。
また、車輪3が路面とグリップしていた場合には、車輪3の回転速度の増加・減少は、車両1の加速・減速を意味し、加速度センサ5によって検出される水平方向の加速度と相関する。しかし、車両1に滑り事象が発生した場合には、車輪3の回転速度と一致しない加速度の異常が現れる。よって、推定部105は、車輪3の回転量または車両1によって検出された加速度に基づいて滑り事象を検出する、と言っても良い。無論、推定部105は、舵角センサ8等の検知結果を加えて滑り事象を検出しても良い。推定部105による滑り事象の検出手法の詳細については後述する。
また、滑り事象が発生すると、リアルタイム画像と、複数の過去画像を組み合わせた表示画像において、これらの画像の継ぎ目がずれてしまう可能性がある。表示画像生成部104は、滑り事象が発生したことを示す処理をずれた過去画像に施す事により、乗員による誤認等が生じにくい表示画像を生成する。
まとめると、本実施例の表示処理装置は、車両に搭載される表示処理装置であって、車両の周辺を撮影した画像を取得する画像取得部と、画像に基づいて車両の周辺の俯瞰画像を生成する俯瞰画像生成部と、車両によって検出された車輪の回転量に基づいて、車両の移動量を推定する推定部と、過去の時点で俯瞰画像を記憶したものである過去の俯瞰画像と、車両の移動量とに基づいて、撮影時刻が過去の時点である1つまたは複数の過去画像を生成する過去画像生成部と、1つまたは複数の過去画像と俯瞰画像とを組み合わせて、車両内の表示装置に表示する表示画像を生成する表示画像生成部と、を備え、表示画像生成部は、車輪が滑る滑り事象が発生したことを推定部が検出した場合、1つまたは複数の過去画像に対して滑り事象が発生したことを示す処理を施して表示画像を生成する表示処理装置である、と言える。
俯瞰画像生成部102、過去画像生成部103、表示画像生成部104、及び推定部105の上記機能は、例えば表示処理プログラム12pを実行するCPU11により実現される。
表示制御部106は、表示画像生成部104が生成した表示画像、乗員による各種操作の受け付け画面、及び各種操作に応じた処理結果の表示画面等をHMI装置20に表示させる。また、表示制御部106は、ずれの生じた過去画像である事を示すパターンやマーク、またはメッセージを表示画像に重畳して出力する重畳処理も行う。また、車両アイコンを半透過で俯瞰画像と重ねるαブレンディング処理も、表示制御部106が行う。
検出部107は、例えばHMI装置20が備えるタッチパネルに対する乗員等のタッチ操作を検出する。より正確には、HMI装置20はタッチパネルがタッチされた事を感知し、タッチされた位置の情報を出力する。検出部107は、タッチされた位置の情報を分析し、どのようなタッチ操作が行われたか、を検出する。これにより、表示ECU10等に対する乗員の各種操作が受け付けられる。例えば、タッチパネル上にボタンのアイコンを表示している時に、タッチされた位置がボタンアイコンを表示した範囲に当たる場合は、検出部107は表示していたボタンが押された事を検出する。
表示制御部106及び検出部107の上記機能は、例えば表示処理プログラム12pを実行するCPU11、及びCPU11の制御下で動作する入出力I/F14により実現される。
記憶部108には、表示ECU10の動作に必要な上述の表示処理プログラム12p、各種制御パラメータ、表示ECU10が取得した画像データ、各種センサからの出力値、表示ECU10による演算結果等が格納されている。
記憶部108の上記機能は、例えば表示処理プログラム12pを実行するCPU11の制御下で動作するROM12、RAM13、及び記憶装置15により実現される。
(表示ECUの機能例)
次に、図5Aa~図7Bcを用いて、表示ECU10のより詳細な機能例について説明する。図5Aa~図7Bcは、実施形態にかかる表示ECU10が有する床下透過表示機能について説明する模式図である。
次に、図5Aa~図7Bcを用いて、表示ECU10のより詳細な機能例について説明する。図5Aa~図7Bcは、実施形態にかかる表示ECU10が有する床下透過表示機能について説明する模式図である。
図5Aa~図7Bcは、表示ECU10が、複数の表示画像DRを時系列で生成する様子を示している。図5Aa~図7Bcにおいては、表示画像生成部104によって生成される表示画像DRのうち、主に床下透過表示部分を示す。ただし、表示画像DRは、車体2の床下部分の周囲の俯瞰画像、つまり車両周辺のリアルタイム画像を含んでいてもよい。
俯瞰画像の生成では、複数の撮像装置が撮影した複数の撮影画像を合成に用いる事ができるが、説明を容易にするため、図5Aa~図7Bcでは、俯瞰画像は車両1の先端に位置する撮像装置61が撮影した撮影画像だけを用いて生成するものとする。撮像装置61には、車両1の先端より後方が映らないので、図5Aa~図7Bcでは車両1の先端より後方は死角領域になる。この死角領域には車両1の床下に当たらない部分もあるが、床下を含む範囲を透過したように表示する、という意味で、床下透過表示と呼ぶ。
なお、車体2の床下透過表示を含む表示画像を生成する際には、路面は動かず、車両1が移動すると考えて、絶対座標に基づいて表示画像の生成処理が行われる場合と、車両1に対して路面が移動すると考えて、車両1を基準座標として表示画像の生成処理が行われる場合がある。いずれの処理方法においても生成される表示画像に差異はないため、実施形態では、車両1を基準座標とする場合の例について説明する。
また、表示制御部106によって付加される車両アイコンは、車体2の像を半透明で表示し、あるいは、車体2の形状を簡素化して表示したものであってよい。図5Aa~図7Bcにおいては、図面が煩雑になるのを避けるため、車体2の外形(輪郭線)および車輪3の像を車両アイコン1icとして示す。図5Aa~図7Bcでは、車両アイコン1icを半透過で重畳表示したイメージを示しているが、簡素化した車体2の輪郭線だけを、非透過で重畳表示しても良い。
図5Aaにおいて、車両1の乗員がHMI装置20上で床下透過表示を開始する操作を行ったとする。この場合、俯瞰画像生成部102は、撮像装置6が出力する最新の撮影画像を合成して最新の俯瞰画像VR(つまりリアルタイム画像)を生成する。俯瞰画像生成部102によるこれらの処理は、床下透過表示を実施中、継続的に行われる。このとき、表示制御部106は、俯瞰画像VRにおける車両1の位置を示す車両アイコン1icを俯瞰画像VRに付加してもよい。
また、俯瞰画像VRは、車両1の前方の領域の像を含む。車両1の前方の複数の領域R1~R3は、図5Aaの時点における最新の画像を用いて合成された画像部分である。
ただし、実際の俯瞰画像VR上においては複数の領域R1~R3の区別はされておらず、これらの区分、及びこれらの領域R1~R3に付された異なるハッチングは、説明の便宜上によるものである。複数の領域R1~R3には、車両1の前方へと延びる2列の轍TRの画像が含まれている。
図5Aaに示すように、表示画像生成部104は、床下透過表示を開始した直後の初期状態において、例えば車体2の床下を含む死角領域を黒画領域BRで埋め、これを俯瞰画像VRに付加して表示画像DRを生成する。更に、表示制御部106は車両アイコン1icを表示画像に付加する。つまり、生成された表示画像DRには、例えば最新の撮影画像を合成した俯瞰画像VR(つまりリアルタイム画像)、画像の存在しない黒画領域BR、及び車両アイコン1icが含まれる。
なお、黒画領域BRは表示すべき画像が無い領域を黒一色で埋めたものであり、黒に限らず、灰色や白色で埋めても良い。その呼称は、色に合わせてグレーゾーンや白紙領域と呼んでも良いし、単に黒画と呼んでも良い。また、黒画領域BRのうち車両アイコン1icが重畳表示される部分は、車両アイコン1icを半透過で表示する場合、車両アイコン1icの色が重なるので、見た目が黒になるとは限らない。
図5Baは、図5Aaの時点における実際の車両1の状態を示している。図5Baには、車両1の状態を理解しやすくするため、背面から車両1を見た様子を示している。一方、図5Aaは車両1の先端を中心とする範囲を俯瞰した表示画像VRを示しており、立面図と平面図との関係になる。
図5Ab及び図5Bbは、図5Aa及び図5Baの位置から車両1が前進した様子を示している。図5Bbに示すように、車両1は、路面に形成された轍TRの先端に差し掛かったところである。このとき、図5Abに示す様に、車両1の先端は領域R1を超えて移動している。
なお、車両1の移動には平行移動と回転移動とが含まれうる。車両1が前方または後方へと直進する場合には車両1の移動は平行移動となる。舵角を付けて前進または後退する場合、車両1の移動は平行移動と回転移動との両方の組み合わせとなる。ここでは、車両1が直線的に前進する平行移動を行うものとする。
上記のように、車両1が前進し、先端部分が領域R1を超えて移動することで、領域R1は車両1の先端にある撮像装置61の死角に入る。
図5Abに示すように、俯瞰画像生成部102は、図5Abの時点における最新の撮影画像を用いて、車両1の前方に位置する領域R2~R4を含む俯瞰画像VR(リアルタイム画像)を新たに生成する。
推定部105は、車輪速センサ4、加速度センサ5、及び舵角センサ8等の検知結果に基づいて、例えば図5Aaの時点から図5Abの時点までの車両1の移動方向および移動量を推定する。図5Abの例では、推定部105は、領域R1の縦幅分、車両1が前方に移動したと推定する。
過去画像生成部103は、図5Abの時点から所定時間遡った時点で生成された図5Aaの俯瞰画像VRを、記憶部107に記憶しておいたものを読み出し、読みだした過去の俯瞰画像から、図5Abの時点では死角になっている領域R1の範囲を切り出して過去画像P1を生成する。つまり、過去画像P1は、図5Abの俯瞰画像VR(リアルタイム画像)より前の、図5Aaの時点で撮影された画像の一部である。
表示画像生成部104は、図5Abの俯瞰画像VRと、過去画像生成部103が生成した過去画像P1とを組み合わせ、更に黒画領域BRの表示を付加した表示画像DRを生成する。このとき、表示画像生成部104は、表示画像DRにおける過去画像P1の位置を、図5Aaの表示画像DRにおける領域R1の位置から、推定部105が推定した車両1の移動方向および移動量に応じて移動させ、俯瞰画像VRに接する位置に表示する。過去画像P1を切り出す範囲は、車両1の移動方向および移動量に応じて決めるので、記憶部107が記憶する図5Aaの俯瞰画像VRを、車両1の移動方向および移動量に応じて移動させ、図5Abの俯瞰画像VR(リアルタイム画像)と重ならない部分を過去画像P1としても良い。
上述のように、車両1は領域R1の縦幅分、前方に移動している。このため、表示画像生成部104は、図5Aaの領域R1の位置から領域R1の縦幅の分だけ、過去画像P1を車両1の後方へ移動させる。これにより、過去画像P1は図5Abの時点における領域R1の位置に移動する。また、過去画像P1の生成に伴って、表示する画像が無い範囲は狭くなるので、表示画像生成部104は、黒画領域BRの範囲を狭くする。
これにより、図5Abの時点の最新の撮影画像から合成した俯瞰画像VR(リアルタイム画像)と、図5Aaの時刻に撮影され、死角領域に嵌め込まれた過去画像P1と、過去画像P1の分だけ狭くなった黒画領域BRとを含む表示画像DRが生成される。なお、過去画像P1は、表示画像DRにおいて、例えば車両アイコン1icを透過して表示される。
図6Aa及び図6Baは、図5Ab及び図5Bbの位置から車両1が更に前進した様子を示している。図6Baに示すように、車両1は、路面に形成された轍TRに接近中であるが、前輪31を含め車両1の車輪3はまだ轍TRの先端に届いていない。車両1の先端部分は領域R2を越えて移動し、領域R1に加えて領域R2が撮像装置6の死角に入っている。
図6Aaに示すように、俯瞰画像生成部102は、図6Aaの時点における最新の画像を用いて、車両1の前方に位置する複数の領域R3~R5を含む俯瞰画像VR(リアルタイム画像)を新たに生成する。
推定部105は、車輪速センサ4、加速度センサ5、及び舵角センサ8等の検知結果に基づいて、図5Abから図6Aaまでの車両1の移動方向および移動量を算出し、例えば車両1が領域R2の縦幅分、前方に移動したと推定する。
過去画像生成部103は、図6Aaの俯瞰画像VR(リアルタイム画像)に対して、所定時間前に生成された図5Abの俯瞰画像VRから、図6Aaの時点で新たに死角となった領域R2の画像を切り出して過去画像P2を生成する。つまり、過去画像P2は、図6Aaの時点から所定時間、遡った、図5Abの時点で撮影された撮影画像を元に生成された画像である。
表示画像生成部104は、図6Aaの俯瞰画像VR(リアルタイム画像)と、過去画像生成部103が図5Abの時点で生成した過去画像P1と、図6Aaの時点で生成した過去画像P2とを組み合わせ、更に黒画領域BRの表示を付加した表示画像DRを生成する。
このとき、表示画像生成部104は、表示画像DRにおける過去画像P1の位置を、図5Abの表示画像DRにおける過去画像P1の位置から、推定部105が推定した車両1の移動方向および移動量である領域R2の縦幅分、車両1の後方へ向かって移動させる。
また、表示画像生成部104は、表示画像DRにおける過去画像P2の位置を、図5Abの表示画像DRにおける領域R2の位置から、推定部105が推定した車両1の移動方向および移動量である領域R2の縦幅分、車両1の後方へ向かって移動させる。
上記処理により、過去画像P1は図6Aaの時点における領域R1の位置に移動し、過去画像P2は図6Aaの時点における領域R2の位置に移動する。なお、上記の様に過去画像P1と過去画像P2とを個別に生成してから各々移動するのではなく、一体として処理しても良い。例えば、図5Abの時点で俯瞰画像VR(その時のリアルタイム画像)と過去画像P1とを一体化した合体画像を生成し、図6Aaの時点で、合体画像を推定部105が推定した車両1の移動方向および移動量である領域R2の縦幅の分だけ移動させ、俯瞰画像VR(リアルタイム画像)と重ならない部分を、過去画像P1,P2(過去画像P1+過去画像P2)としても良い。
上記のいずれかの処理により、図6Aaの時点の最新の画像を合成した俯瞰画像VRと、図5Aaの時刻に撮影され、死角領域に嵌め込まれた過去画像P1と、図5Abの時刻に撮影され、死角領域に嵌め込まれた過去画像P2と、過去画像P1,P2を嵌め込んだ分だけ狭くなった黒画領域BRとを含む表示画像DRが生成される。なお、これらの過去画像P1,P2には、表示画像DRにおいて、例えば半透過の車両アイコン1icが重畳して表示される。
以上の処理を繰り返すことで、車体2の下方の死角に充てていた黒画領域BRが、これまでに生成された俯瞰画像VRの一部を切り出して生成した過去画像P1,P2・・・によって徐々に置き換えられていき、最終的には黒画領域BRが全て過去画像に置き換わって、車体2の床下が見えているかのような表示画像DRが得られる。
ここで、図6Aa及び図6Baの状態とは異なる、スリップにより車輪3が轍TRに落ちた場合の例を図6Ab及び図6Bbに示す。図6Bbは、車両1が、轍TRの左側を車輪3が通る様に走行していた時に、車輪3が轍TRに滑り落ちた後の様子を示している。なお、左右の基準は車両1の進行方向であり、車両1の運転者の左手を左側、右手を右側と呼ぶ。
図6Abは、図6Bbの状態を反映し、過去画像P1,P2を生成した直後に車輪3が轍TRに滑り落ちた場合の床下透過表示の例を示している。図6Abに示すように、俯瞰画像VR(リアルタイム画像)に映った轍TRは、それらを延長すると車輪3に重なる位置に表示されているが、過去画像P1,P2を生成した時には、車輪3は轍TRに落ちていないので、過去画像P1,P2の上では車輪3は轍TRの左側にある。つまり、車両1のスリップにより、俯瞰画像VR(リアルタイム画像)と過去画像P1,P2との位置関係が変わり、継ぎ目にずれが生じている。
例えば、轍TRの画像で見ると、俯瞰画像VRと過去画像P1,P2との継ぎ目で、轍TRが左右にずれてしまっている。これは、俯瞰画像VRにはスリップした後の車両1から撮影された画像が用いられ、過去画像P1,P2にはスリップする前の車両1から撮影された画像が用いられ、その間にスリップによる横方向への移動があるためである。
つまり、図6Abの表示画像DR’では、過去画像P1,P2が、俯瞰画像VRに対して車両1が滑った方向にずれて、轍TRと、スリップした後の車両1との位置関係が把握し難い状態となっている。具体的には、過去画像P1,P2を見ると、車輪3は轍TRに落ちていないので、乗員は、表示画像で見たままを信じて、車輪3は轍TRに落ちていないと誤解する恐れがある。
実施形態の表示ECU10においては、このような車両1のスリップは推定部105により検出する。推定部105は、車輪速センサ4、加速度センサ5、及び舵角センサ8等の検知結果に、複数の車輪3同士で回転量の不整合、または車輪3の回転量と加速度センサ5が検知した加速度との不整合等が見られた場合には、これを滑り事象の発生として検出する。また、不整合の大きさを滑り量と呼び、滑り量が所定値を越えた場合に滑り事象の発生として検出する、と言っても良い。この所定値は、滑り量を評価する際の閾値である。
表示画像生成部104は、推定部105が滑り事象を検出すると、図6Abに示す表示画像DR’に替えて、滑り事象が発生したことを示す処理を過去画像P1,P2に施して表示画像DRを生成する。そのような表示画像DRの生成例を図6Acに示す。
図6Acに示すように、滑り事象が検出されると、表示画像生成部104は、これまでに生成された過去画像P1,P2のうち、滑り事象の発生時刻より前の撮影時刻を有する過去画像、つまり、図6Acの例では過去画像P1,P2を非表示とする処理を施して表示画像DRを生成する。表示画像生成部104は、非表示とした過去画像P1,P2の範囲に、黒画領域BRを広げる。
このように、過去画像P1,P2を非表示とする上記処理は、過去画像P1,P2に対して施される、滑り事象が発生したことを示す処理の一例である。図6Acの様な車両1の床下が映っていない画像を見ると、見えていない床下部分の状態について想像力が働くので、リアルタイム画像に映った轍TRの位置と、車輪3の位置とを見比べる事により、車輪3が轍TRに嵌っていると推定できる。しかし、図6Abの様に、車輪3が轍TRに落ちていない様に見える画像を見ていると、脳は見えている事に対しては想像しようとしないので、今現在の車両1の床下が過去画像の様な状態だと誤解する恐れがある。つまり、図6Acの様に、車両1の状態と合わない画像を表示させない事によって、乗員が車両1の状態を誤解する事が避けられる。
図7Aa及び図7Baは、図6Ac及び図6Bcの位置から車両1が前進した様子を示している。図7Baに示すように、車両1は、路面に形成された轍TRにはまった状態で移動を継続中である。車両1の先端部分は領域R3を超えて移動し、領域R1,R2に加えて領域R3が撮像装置61の死角に入る。
図7Aaに示すように、俯瞰画像生成部102は、図7Aaの時点における最新の撮影画像を用いて、車両1の前方に位置する複数の領域R4~R6を含む俯瞰画像VR(リアルタイム画像)を新たに生成する。
推定部105は、車輪速センサ4、加速度センサ5、及び舵角センサ8等の検知結果に基づいて、図6Acから図7Aaまでの車両1の移動方向および移動量を算出し、例えば車両1が領域R3の縦幅分、前方に移動したと推定する。
過去画像生成部103は、図7Aaの俯瞰画像VR(リアルタイム画像)に対して、所定時間前に生成された図6Acの俯瞰画像VRから、図7Aaの時点で新たに死角となった領域R3の画像を切り出して過去画像P3を生成する。つまり、過去画像P3は、図7Aaの時点から所定時間、遡った、図6Acの時点で撮影された撮影画像を元に生成された画像である。
表示画像生成部104は、図7Aaの俯瞰画像VRと、過去画像生成部103が新たに生成した過去画像P3とを組み合わせ、更に黒画領域BRの表示を付加した表示画像DRを生成する。
このとき、表示画像生成部104は、表示画像DRにおける過去画像P3の位置を、図6Acの表示画像DRにおける領域R3の位置から、推定部105が推定した車両1の移動方向および移動量である領域R3の縦幅分、車両1の後方へ移動させる。上記処理により、過去画像P3は図7Aaの時点における領域R3の位置に移動する。
ここでは、滑り事象の発生時刻より前の撮影時刻を有する過去画像、つまり、図5Aa及び図5Abの時刻にそれぞれ撮影された過去画像P1,P2は非表示とする。そこで、過去画像P1,P2について移動などの処理を行わなくても良いが、移動などの処理を施した上で表示を禁止しても良い。なお、過去画像に移動などの処理を施した上で表示を禁止しておくと、車両の停止など、状況の変化に応じて消していた過去画像を再表示する場合に、表示禁止の解除だけすれば良いので、再表示の処理が容易になる利点がある。
過去画像P1,P2の表示を禁止した結果、図7Aaの時点の最新の画像を合成した俯瞰画像VRと、図6Acの時刻に撮影され、死角領域に嵌め込まれた過去画像P3と、過去画像P3の分だけ、図6Acの黒画領域BRから狭くなった黒画領域BRとを含む表示画像DRが生成される。なお、過去画像P3は、表示画像DRにおいて、例えば車両アイコン1icを透過して表示される。
図7Ab及び図7Acにおいても図7Aaと同様の処理が繰り返されることで、車体2の下方の死角に充てていた黒画領域BRが、滑り事象の発生時刻より後に生成された俯瞰画像VRの一部を切り出して生成した過去画像P3,P4,P5によって再び置き換えられていき、最終的には黒画領域BRが全て過去画像に置き換わって、車体2の床下が見えているかのような表示画像DRが得られる。
このように、表示画像生成部104は、滑り事象が発生したことを示す処理を、撮影時刻が滑り事象の発生より前である1つまたは複数の過去画像に限定して施し、滑り事象が検出された場合であっても、撮影時刻が滑り事象の発生より後である1つまたは複数の過去画像に対しては滑り事象が発生したことを示す処理を施すことなく、俯瞰画像VRと組み合わせて表示画像DRを生成しても良い。滑り事象の発生時刻より後に生成された過去画像はずれていないので、誤解を与える恐れが無いからである。
なお、上述の図5Aa~図7Bcでは、車両1が直線的に前進する例について説明したが、車両1が後退する場合、及び車両1が舵角を付けた回転移動を含む移動を行う場合にも、上記と同様に表示画像を生成することができる。舵角を付けた移動の場合、車両1の移動は移動距離と回転角とで特定される。また、前述の様に、俯瞰画像は四方の撮影画像を合成した全周囲画像でも良く、全周囲画像の場合、死角領域は車体2の下の領域である。
例えばステアリングホイールを左に切って車両1を前進させると、車両1の周囲の路面のうち、左前方にあった領域が車体2の下になり、どの撮像装置6からも死角になる。そこで、過去の俯瞰画像から車両の左前方の領域の画像を切り出して過去画像を生成する。
また、生成した過去画像を俯瞰画像と組み合わせる際には、車両1の代表点を定めて、その移動距離に応じて、生成した過去画像を移動させると良い。車両1の代表点は、例えば車両1の1対の後輪32同士を結ぶ線分の中点でもよい。
このように定めた代表点の移動距離を車両1の移動距離として算出し、この移動距離の分だけ過去画像を平行移動させ、さらに、車両1の回転角の分だけ回転移動させる。これにより、車両1の移動によって死角となった領域に過去画像を当てはめることができる。
車両1が舵角を付けた移動を継続している間、上記の処理を繰り返すことで、車体2の床下の死角領域を埋めていた黒画領域BRが、順次過去画像に置き換わっていき、最終的には黒画領域BRが全て過去画像に置き換わって、車体2の床下が見えているかのような表示画像が得られる。
(車両の移動の推定例)
次に、図8~図10を用いて、表示ECU10の推定部105で行われる車両1の移動方向および移動量の推定手法の詳細について説明する。
次に、図8~図10を用いて、表示ECU10の推定部105で行われる車両1の移動方向および移動量の推定手法の詳細について説明する。
上述のように、車両1の移動には平行移動と回転移動とがあり、車両1の移動は、車両1の代表点の移動距離と、代表点を中心とする回転角とによって特定することが可能である。車両1の代表点は、上述のように、例えば1対の後輪32を結ぶ線分の中点と定めても良い。
表示ECU10の推定部105は、例えばステアリングホイールの操舵角と、個々の車輪3の車輪速とから車両1の移動方向および移動量を推定する。ステアリングホイールの操舵角はステアリングホイールに付加された舵角センサ8から得られ、個々の車輪3の車輪速は個々の車輪3に付加された車輪速センサ4から各々、得られる。
個々の車輪3の車輪速から車両1の移動量を推定するため、推定部105はまず、車輪3の外周長を求める。車輪3の外周長は、車種および車輪3の型式だけでは定まらず、例えば車輪3の空気圧、及び時々の外気温等によっても変化する。このため、適宜、推定部105が演算により推定することが好ましい。車輪3の外周長の算出手法を図8に示す。
図8は、実施形態にかかる表示ECU10による車輪3の外周長の算出手法の一例を示す説明図である。ここで、車両1のナビゲーションシステムは適宜、衛星測位システム(GNSS:Global Navigation Satellite System)から車両1の位置情報を得ている。
図8に示すように、推定部105は、例えば取得部101を介して、車両1が走行した任意の2地点A,Bの位置、及び2地点A,Bの間の距離Hの情報をナビゲーションシステムから取得する。これらの2地点A,Bは、例えば車両1が信号待ちで停車した2地点の交差点でもよい。なお、2地点A,Bを結ぶ道路がカーブを多く含むと、実際の走行距離が地図上の2点間の距離より短くなる事があるので、2地点A,Bを道路の直線区間に置くと良い。
推定部105は、車両1が地点Aから地点B間まで走行する間の車輪速センサ4の検知結果に基づいて、これらの2地点A,B間における車輪3の回転数Nを算出する。また、推定部105は、2地点A,B間における車両1の走行距離Hを2地点A,B間における車輪3の回転数Nで割った値を求め、これにより、車輪3の外周長を得る。
現在では、ナビゲーションシステムが標準装備されている車両が多く、また、上述のように、HMI装置20がナビゲーションシステムと表示ECU10とで共用されることも一般的である。したがって、ナビゲーションシステムを利用した上記手法で車輪3の外周長を求めることとすれば、装置を追加する事無く、安価かつ簡便に車輪3の外周長を知ることができる。
なお、上記のような車輪3の外周長の算出手法は一例であって、推定部105が上記以外の手法によって車輪3の外周長を求めてもよい。
推定部105は、床下透過表示の実行中、車両1が所定区間を直進走行している場合には、例えば上記のように求めた車輪3の外周長と、車両1が上記の所定区間を走行する際の車輪3の回転数とを掛け合わせる。この回転数は、整数ではなく、小数部を持つ数値である。これにより、所定区間内における車両1の移動量を算出することができる。
同時に、推定部105は、回転方向の移動量も推定する。
図9は、実施形態にかかる表示ECU10による舵角を付けた移動を行う車両1の移動量の推定手法の一例を示す説明図である。
図9に示すように、例えば車両1が前輪駆動車である場合、1対の前輪31を結ぶ線分の中点を前輪31の代表点Ptとしても良い。この前輪31の代表点Ptの移動ベクトルの方向は、駆動輪である前輪31が向いた方向となる。なお、前輪31が向いた方向は、前輪31の回転軸に直行する方向と言い換えることもできる。
ここで、前輪31の代表点Ptと車両1の代表点Pvとを結ぶ線分を車両1の前後軸Axとし、車両1の前後軸Axと車両1の前輪31の移動ベクトルの方向とがなす角度を角度θとし、前輪31の代表点Ptの移動距離をMとすると、車両1の前後軸Axの方向に前輪31の代表点Pvが進む距離Mfは、Mf=M・cosθで表され、車両1の前後軸Axに直交する方向に前輪31の代表点Pvが進む距離Msは、Ms=M・sinθで表すことができる。
更に、前輪31の代表点Pvの、車両1の前後軸Axに直交する方向への車両1の移動によって、車両1が代表点Pvを中心として回転した角度φ(回転角φ)は、前輪31と後輪32との間の距離をSとすると、タンジェントの逆関数を用いて、φ=arctan(Ms/S)により求めることができる。
以上により、舵角を付けて移動する車両1の回転量を推定することができる。また後輪32の代表点Ptの移動量Mtと、車両1の前後軸Axの方向に前輪31の代表点Pvが進む距離MfとMtの差=(Mf-Mt)を求める事により、車輪3の前後方向の滑り量を推定することも出来る。一般に駆動輪の回転数は非駆動輪の回転数より多いので、前輪駆動の場合はMf>Mt、後輪駆動の場合はMt>Mfとなる。全ての車輪3が路面をグリップしていれば(Mf-Mt)の絶対値は小さな値に留まるが、(Mf-Mt)の絶対値が大きい時は、駆動輪の空転などの滑り事象があった、と判定して良い。
なお、前輪31の代表点Pvの移動方向を推定する際は、舵角センサ8の検知結果から特定した前輪31が向いた方向を基準とするが、実際に前輪31の代表点Pvが移動する方向は、車輪3のいずれが駆動輪であるかによって変わる。図10に駆動輪による移動方向の違いの例を示す。
図10A~図10Cは、実施形態にかかる車両1の駆動輪の違いによる前輪31の代表点Pvの移動方向の違いを示す説明図である。
図10Aは、車両1が前輪駆動車である場合の例である。この場合、2つの後輪32は連動せず、独立に回転するため、車体の回転に逆らう力を発生しない。そのため、上述のとおり、前輪31の代表点Pvは、駆動輪である前輪31が向いた方向に移動する。
図10Bは、車両1が後輪駆動車である場合の例である。駆動輪である左右の後輪32は、1つのエンジンに機械的に接続されているため、連動して同じ回転数で回転しようとする。言い換えると、2つの後輪は同じ距離を進もうとする。このため、車両1を回転させようとすると、車両1を直進させようとする力、言い換えると、回転させまいとする反力が発生する。この反力が大きい車は、直進性が高い車と呼ばれる。車両1が後輪駆動車である場合、前輪31の代表点Pvは前輪31が向いた方向に進もうとしても、これに逆らう反力があるため、前輪31の代表点Pvが移動する方向は、前輪31が向いた方向から直進方向に若干ずれた方向となる。
図10Cは、車両1が四輪駆動車である場合の例である。車両1が四輪駆動車である場合、前輪31の代表点Pvの移動方向は、車両1が前輪駆動車である場合の移動方向と、車両1が後輪駆動車である場合の移動方向との間の、どこかになる事が多く、どの方向になるかは諸条件によって異なる。
例えば、車両1の重心が前寄りで、前輪31に加わる荷重のほうが後輪32に加わる荷重よりも大きい場合、前輪31の代表点Pvの移動方向は前輪31が向いた方向に近くなる。逆に、車両1の重心が後ろ寄りで、後輪32に加わる荷重のほうが前輪31に加わる荷重よりも大きい場合は、直進性が高くなるので、前輪31の代表点Pvの移動方向は、車両1が後輪駆動車である場合の移動方向に近くなる。また例えば、前輪31がアイスバーンの上に乗っていてグリップを失った状態にあり、後輪32だけが路面をグリップしているような場合には、前輪31の代表点Pvの移動方向は直進方向になる事がある。このような場合には、舵角を付けているにも関わらず2つの後輪32の回転数が同じになるので、前輪31が滑っている(滑り事象が発生している)と判定出来る。
このように、車両1の移動方向は前輪31が向いた方向とずれることがあり、舵角が大きいほど移動方向のずれ、つまり角度差が大きくなる傾向にある。このような移動方向のずれは上述の滑り事象に含めることができる。この場合、滑り事象は、路面の摩擦係数μが低く、舵角が大きいほど起きやすい。摩擦係数μは、物体同士の滑りにくさを表したもので、1kgの重りを引っ張るのに1kgの力を要するときの摩擦係数μを1とする。
また、滑り事象は車両1が直進している場合にも起こりうる。この場合、車輪3の移動量が車両1の移動量と一致しないこととなる。このように、滑り事象は、車両1の移動方向と前輪31が向いた方向とがずれる場合、及び車両1の移動方向と舵角が示す方向とがずれる場合等を含む。
すなわち、路面の状態、並びに車速および舵角などの条件によって、車輪3の移動量が車両1の移動量と一致せず、あるいは、車両1の移動方向が舵角の示す方向と一致しない場合がある。この場合、車輪速センサ4及び舵角センサ8等の各種センサからの出力値だけでは車両1の移動方向および移動量を正確に推定できないこととなる。滑り事象とは、このような事象を指すとも言える。
(滑り事象の検出手法の例)
次に、図11及び図12を用いて、表示ECU10の推定部105で行われる車両1の滑り事象の検出手法の詳細について説明する。
次に、図11及び図12を用いて、表示ECU10の推定部105で行われる車両1の滑り事象の検出手法の詳細について説明する。
表示ECU10の推定部105は、例えば個々の車輪3から得られる車輪速と、加速度センサ5から得られる車両1の加速度とを照合するなどして、車両1に発生した滑り事象を検出する。
車両1の舵角がゼロで車輪3に滑り事象が生じていない場合、個々の車輪3から得られる車輪速は概ね一致する。また、車両1の舵角がゼロでない場合には、舵角に応じて内輪差が生じ、個々の車輪3に車輪速の差が生じるが、滑り事象が生じていない場合、車輪速の差は舵角に応じた所定の関係を維持する。このため、車両1に滑り事象が生じていない場合には、推定部105は車両1の移動量、及び移動方向を、概ね正しく推定できる。
例えば、車両1が一定の舵角を保って旋回する場合、車両1は後輪32の車軸を延長した線上にある点を中心に回転し、個々の車輪3が移動する円の半径は、舵角によって決まる。全ての車輪3が路面をグリップしていて滑り事象が生じていない場合、個々の車輪3で観測される車輪速は、個々の車輪3が移動する円の半径に比例するので、車輪速の間の差(内輪差)は車両1の回転半径によって決まる。回転半径は舵角よって決まるので、内輪差は舵角によって決まると言って良い。舵角によって決まる内輪差と、個々の車輪3で観測される車輪速との間の差が所定の範囲内で一致していたら、滑り事象が生じていないと推定して良い。
一方で、いずれかの車輪3に滑り事象が発生すると、個々の車輪3に生じる車輪速の差が所定の関係から外れることとなる。例えば、車両1が後輪駆動車であって、前輪31と路面とのグリップが弱く、横滑りしている場合には、車両1は舵角によって決まる回転半径よりも大きな回転半径で旋回する。すると、個々の車輪3で観測される車輪速の間の差(内輪差の実測値)が、舵角によって決まる回転半径で車両1が旋回した時の車輪速の差(内輪差の理論値)と異なるので、その差(舵角から算出した内輪差の理論値と内輪差の実測値との差)を所定の閾値と比較する事により、推定部105は、車両1に発生した滑り事象を検出することができる。
また、推定部105は、加速度センサ5の検知結果に基づいて滑り事象を検出してもよい。例えば、実施形態の車両1であれば、車両1の前後の加速度センサ51,52の検知結果を照合することで滑り事象を検出することができる。
一例として、車両1が回転移動の途中で急制動をかけた場合の、車両1の挙動と、加速度センサ51,52の検知結果について説明する。個々の車輪3が路面とのグリップを失うことなく車両1が停止した場合、急制動をかけたことによる加速度は、前後の加速度センサ51,52で同時にピークに達する。
しかし、減速によってノーズダイブと呼ばれる車体2の姿勢変化(車体2の慣性力が前輪31を押し下げ、車体の後輪32側が逆に上がる)が起きると、前輪31の路面荷重が増して後輪32の路面荷重が減る。すると、前輪31が路面をグリップしたまま後輪32が路面とのグリップを失い、車体2の後部が遠心力により横滑りする場合がある。この場合、後部の加速度センサ52が観測する横方向の加速度は、後輪32が横滑りしている間は小さく、後輪32がグリップを取り戻したときにピークに達する。
ここで言う横滑りは滑り事象の一例である。横滑りは、車両1が舵角を付けて走行する際に、多かれ少なかれ発生する事象であるので、横滑りのうち、後述する滑り量が所定値より小さい場合は滑り事象が発生した、と判定しなくもよい。
後輪32が横滑りして上記のような挙動を示す場合、車体2の前部は車体2の後部よりも先に停止状態に近づく(車体2の後部が横滑りしているため、完全な停止にはならない)ので、車体2の前部の加速度センサ51が観測する加速度のピークは、後部の加速度センサ51が観測する加速度のピークよりも早く観測される。この様に、推定部105は、車両1の前部と後部とで加速度のピークを観測したタイミングの差に基づいて、滑り事象(この例では横滑り)を検出することができる。
また、推定部105は、1つの加速度センサ(例えば51,52のうち一方)の検知結果のみに基づいて滑り事象を検出してもよい。図11A~図12Bに、一方の加速度センサ5の検知結果を用いた滑り事象の検出手法の例を示す。
図11A~図12Bは、実施形態にかかる表示ECU10による加速度センサ5の検知結果に基づく滑り事象の検出手法の一例を示す説明図である。図11A~図12Bのグラフの横軸は、いずれも時間Tの経過を示している。図11A~図12Bのうち、図12Aを除くグラフの縦軸は加速度センサ5が検知する横方向の加速度(横G)である。図12Aのグラフの縦軸は舵角センサ8の検知結果、つまり、舵角を示している。
図11A及び図11Bは、例えば、圧雪状態となった雪で覆われた路面上で舵角を付けて曲がる際に、加速度センサ5が検知した加速度の時間変化を示しており、時刻taの時点で横滑りが発生している。曲がっている時の車両1には、車両1の慣性力によって遠心力が発生しており、時刻taの時点で横滑りが発生するまでは、車輪3が路面をグリップして遠心力に逆らっているので、この遠心力は加速度センサ5によって検知される。車輪3が路面に伝える力を、加速度センサ5が横Gとして検知すると言ってもよい。
時刻taの時点で横滑りを始めると、加速度センサ5が検知する横Gが低下する。車輪3はグリップを失って、路面と車輪3との間の摩擦係数μが低下しているものの、路面に少し摩擦力が伝わっているので、車両1は少しずつ速度を低下させながら移動する。車両1が滑っている間は車両1が受ける力が小さいので、加速度センサ5が検知する横Gは小さくなる。車輪3がグリップを取り戻すと(図11Aでは時刻tb、図11Bでは時刻tb’)、車輪3が路面に伝える力が大きくなるので、加速度センサ5が検知する横Gが再び大きくなる。つまり、横Gが小さい期間が滑っている期間である。これを滑り期間T1と呼んでも良い。滑り期間T1は、その期間の時間の長さで評価するので、滑り時間と言い換えても良い。
滑り期間T1が所定値以下の時は滑り事象と判定せず、滑り期間T1が所定値を越えた時に滑り事象を検出したとする場合、滑り事象を検出した時点は、滑り事象が発生した時点(図11Aおよび図11Bのta)よりも遅くなる。原則的には、滑り事象が発生した場合に表示を制限する過去画像の範囲は、撮影時刻が滑り事象の発生時点より前の過去画像とすべきである。但し、実用的な適用として、滑り事象を検出した時点を、滑り事象が発生した時点と見做しても良い。
例えば、図11Aで、滑り事象が発生した直後(時刻taの少し後)に撮影した画像は、滑りによる画像の位置ずれが小さいので、乗員に誤解される恐れが小さいと考えられる。また、多くの場合、滑り事象を検出した時点と、滑り事象が発生した時点とに大差は無いので、峻別しなくても良い。
図11A及び図11Bのグラフに、滑り期間T1を示す。図11Aは滑り期間T1が比較的短い場合を示し、図11Bは滑り期間T1が比較的長い場合を示す。一般に滑り期間T1が長いほど車体2が滑った距離が長いと言える。また、車速が速いほど遠心力が大きくなるので、グリップを失った時の加速度の落ち込み量も大きくなる。よって、図11A及び図11Bのグラフに示す滑り始め直後の加速度の落ち込み量DPが大きいほど、滑っていく車体2の速度である滑り速度が速いことが推定される。そこで、例えば車体2が滑る速度を滑り速度V1とすると、以下のように滑り速度V1を推定することができる。
滑り速度V1=比例係数K×加速度の落ち込み量DP・・・(1)
例えば車体2が滑った距離を滑り幅L1とすると、上記の式(1)に滑り期間T1を加味する事により、以下のように滑り幅L1を推定することができる。
例えば車体2が滑った距離を滑り幅L1とすると、上記の式(1)に滑り期間T1を加味する事により、以下のように滑り幅L1を推定することができる。
滑り幅L1=滑り速度V1×滑り期間T1・・・(2)
実施形態の表示ECU10では、滑り事象における滑り期間T1、または、滑り速度V1、または滑り幅L1を推定し、いずれかを所定の閾値と比較して、表示画像生成部104による処理内容を決定する。
そして、滑り期間T1または、滑り速度V1、または滑り幅L1が所定の閾値未満である場合は、滑り事象が発生したことを示す処理を施すことなく表示画像を生成する。また、滑り期間T1、または、滑り速度V1、または滑り幅L1が所定の閾値以上である場合には、1つまたは複数の過去画像に対して、滑り事象が発生したことを示す処理を施す。
滑り事象が発生したことを示す処理は、1つまたは複数の過去画像を非表示とする処理、または、滑り事象が発生したことを示す表示を付加する処理、のいずれかである、としても良い。滑り事象が発生したことを示す表示を付加する処理については後述する。
図12Aは、舵角を付けてカーブを通過する車両1の舵角を示し、図12Bは、舵角を付けてカーブを通過する同じ車両1の加速度を示している。図12A及び図12Bは、カーブを通過する際に断続的に車両1に横滑りが発生している場合の舵角と加速度の時間変化の例である。
車両1に滑り事象が発生していない場合、車両1には、車両1の速度と回転半径とに応じた遠心力が働く。車両1に滑り事象が発生していなければ、加速度センサ5からの出力値は、図12Aが示す舵角の変化と相似するグラフとなり、舵角と車速とから算出された遠心力の理論値は加速度と概ね一致する。
図12Bに示すように、断続的に横滑りが発生している場合、加速度センサ5は遠心力を検知したりしなかったりを繰り返す。したがって、図12Bに示す加速度センサ5の実際の出力値と、舵角と車速とから算出された遠心力の理論値とが大きく異なる場合、車両1が断続的に横滑りしていると推定することができる。
このような断続的な横滑りは、例えば車両1が未舗装の路面等を走行中に起こりうる。路面が未舗装であると、路面と車輪3とのグリップが一定しないので、左右方向の加速度は図12Bのグラフのように断続的に変動する。図12Bのグラフにおいては、例えば谷の部分で車輪3の横滑りが発生していると推定される。
また、車両1には、断続的な横滑りのほか、断続的な縦滑りが生じる場合もある。断続的な縦滑りは、例えば車両1が泥濘を掻きながら進むような場合に生じうる。断続的に縦滑りが生じている場合、加速度センサ5の出力値と、車輪速から算出された加速度の理論値との不一致から、縦滑りの検出が可能である。
例えば、車輪3が路面をグリップしている時に車輪速が上がったら、車両1は加速しているはずであり、その加速度は車輪速の時間変化から算出できる。しかし、車輪3が泥濘で滑っている場合には、車輪速が上がっても車両1は加速しないので、車輪速から算出される加速度と、加速度センサ5が出力する加速度との間に大きな差が生じる。
また、車輪3が回転しても車両1が加速しない状態が続いている時は、連続的な縦滑りが生じている、と判定して良い。また、アイスバーンの上で急制動し、大きな加速度を検知しないまま車輪速がゼロになった場合は、車速がゼロになった訳ではなく、車両1がアイスバーンの上を滑っていると推定できるので、連続的な縦滑りが生じている、と判定して良い。
このように、滑り事象が連続的または断続的に起きて、滑り事象の発生時点が特定しにくい場合や、滑り事象が長く続く場合には、過去画像の一部に滑り事象が発生したことを示す処理を施す事は適当でない。そこで、例えば、表示画像生成部104は、推定部105が連続的、または断続的な滑り事象を検出した場合には、俯瞰画像と組み合わせて表示させる全ての過去画像に滑り事象が発生したことを示す処理を施してもよい。
また、上述の図5Aa~図7Bcに示す例のように、轍TRの際(キワ)を移動していた車両1の車輪3が轍TRに落ちた場合、加速度センサ5は、横方向の加速度(横G)とともに下方への加速度も検知する。推定部105は、上下方向の加速度から車両1に何らかの滑り事象が発生したことを検出してもよい。
なお、このように車輪3が深い轍TRに落ちる様な場合には、車輪3が轍TRに落ちると、車体2に取り付けられた撮像装置6と路面との距離が短くなる。すると、俯瞰画像の上で撮像装置6の真下の路面が他の部分より大きく映るため、車輪3が轍TRに落ちる前の俯瞰画像とは、轍TRの位置や幅が変わり、ずれのない連続的な合成画像とはなりえない。
そこで、推定部105が、水平方向の滑り量と上下方向の移動量を特定し、滑り量が所定値以上である場合に、上下方向の移動が無い場合には、水平移動による画像のずれを補正し、所定値以上の上下方向の移動がある場合には、滑り事象発生以前の過去画像を表示しない処理にしても良い。なお、実施形態の表示ECU10では、上下方向の移動の有無によらず、画像のずれ補正ではなく上述の表示を禁止する処理を施すこととしている。
以上のように、実施形態の表示ECU10では、例えば車輪速の差が所定値を超えたこと、前後の加速度センサ51,52におけるピークの観測時刻の差が所定値を超えたこと、または加速度の落ち込み量DPが所定値を超えたこと、または上述の式(1)で求めた滑り速度V1が所定の閾値以上となったこと、または滑り期間T1が所定の閾値以上となったこと、または上述の式(2)で求めた滑り幅L1が所定の閾値以上となったこと、または舵角から算出した内輪差の理論値と内輪差の実測値との差が所定値を超えたこと、または車輪速から算出した加速度と観測した加速度の差が所定値を超えたこと、等を条件に、いずれかの車輪3がスリップしたと判定し、上述の図5Aa~図7Bcに示すような表示画像生成部104による処理を実施することができる。
また、上記に加え、例えば車両1に急制動がかかった場合、または横方向に大きな加速度が発生しうる条件下などでは、滑り事象が発生したものと推定部105が推定するようにしてもよい。横方向に大きな加速度が発生しうる条件とは、車両1に横滑りが生じる可能性のある条件であり、例えば車速と舵角との積が一定値を超えたような場合である。
(表示ECUの処理例)
次に、図13を用いて、実施形態の表示ECU10による表示処理の例について説明する。図13は、実施形態にかかる表示ECU10による表示処理の手順の一例を示すフロー図である。
次に、図13を用いて、実施形態の表示ECU10による表示処理の例について説明する。図13は、実施形態にかかる表示ECU10による表示処理の手順の一例を示すフロー図である。
図13に示すように、例えばHMI装置20を介した乗員からの指示にしたがって、表示ECU10の各部は床下透過表示を開始する(ステップS101)。床下透過表示は、乗員からの指示によらず、車速が所定の速度閾値(例えば20km/h)を下回った時に自動的に開始しても良い。
ステップS101では、取得部101は、撮像装置6から車両1の周辺の画像を取得する。俯瞰画像生成部102は、取得した画像を合成して俯瞰画像を生成する。表示画像生成部104は、当初は俯瞰画像と黒画領域とを組み合わせて表示画像を生成する。これ以降、過去画像生成部103は、それ以前に生成された俯瞰画像から過去画像を生成し、俯瞰画像と過去画像と黒画領域とを適宜組み合わせて表示画像を生成する。表示制御部106は、生成された表示画像を順次、HMI装置20に表示させる。
また、上記処理の間、推定部105は、車輪速センサ4、加速度センサ5、及び舵角センサ8等の検知結果に基づいて、車両1の移動方向および移動量を推定するとともに、車両1における滑り事象の発生を監視する(ステップS102)。車両1に滑り事象が検出されない場合(ステップS102:No)、表示ECU10の各部は床下透過表示を継続する(ステップS101)。
車両1に滑り事象が検出された場合(ステップS102:Yes)、推定部105は、それがスリップと言えるような大きな滑り事象であるか否かを判定する(ステップS103)。
この場合、推定部105は、例えば加速度の観測値の落ち込み量DPに基づいて、その加速度の落ち込み量DPが所定の閾値以上である場合に大きな滑り事象が発生したと判定してよい。あるいは、例えば滑り事象における滑り幅L1に基づいて、その滑り幅L1が所定の閾値以上である場合に大きな滑り事象が発生したと判定してよい。あるいは、推定部105は、例えば滑り事象における滑り期間T1に基づいて、その滑り期間T1が所定の閾値以上である場合に大きな滑り事象が発生したと判定してよい。
またあるいは、推定部105は、例えば加速度の落ち込み量DP及び滑り期間T1の両方を参照し、加速度の落ち込み量DP及び滑り期間T1の少なくとも一方が所定の閾値以上である場合に大きな滑り事象が発生したと判定してよい。またあるいは、推定部105は、例えば滑り事象における加速度の落ち込み量DP及び滑り期間T1の両方ともが所定の閾値以上である場合に大きな滑り事象が発生したと判定してもよい。
検出した滑り量が大きな滑り事象ではないと判定した場合(ステップS103:No)、表示ECU10の各部は床下透過表示を継続する(ステップS101)。
検出した滑り量が大きな滑り事象であると判定した場合(ステップS103:Yes)、推定部105は、滑り事象が発生した時刻T2を記憶部108に記憶させる(ステップS104)。これ以降、表示画像生成部104は、撮影された時刻が時刻T2以前の過去画像を非表示とする処理を施して表示画像を生成する(ステップS105)。また、表示ECU10の各部は床下透過表示を継続する(ステップS101)。
なお、表示ECU10は、以下のいずれかの条件に該当することとなるまで、ステップS101~S105の処理を継続する。以下のいずれかの条件に該当することとなった場合、表示ECU10は、上記のいずれのステップS101~S105からでも床下透過表示を終了する処理を行うことができる。
表示ECU10による床下透過表示の終了条件としては、表示ECU10の電源が停止された場合、イグニッションキー等により車両1の電源が停止された場合、車速が例えば20km/h等の所定速度を超えた場合、乗員等によりナビゲーション画面の表示指示があった場合、及び乗員等により床下透過表示の終了指示があった場合等である。
また、床下透過表示の終了処理の手順は、上記のいずれの条件に該当したかによって異なる。車速が所定速度を超えた場合、またはナビゲーション画面の表示指示があった場合の終了処理としては、表示ECU10は、床下透過表示を終了してナビゲーション画面を表示させる。これら以外の終了条件に該当することとなった場合には、表示ECU10は、終了処理としてHMI装置20の表示をオフする。
なお、上記以外の終了条件として、例えば乗員によるウィンカ操作があった場合等を加えてもよい。また、上記以外の終了処理として、例えばウィンカ操作があった場合に、床下透過表示を終了して車両1の側方を写した表示に切り替える等を加えてもよい。
(比較例)
例えば、上述の特許文献1の技術では、車輪の外周長に誤差があると車輪の移動量を算出する際に誤差が生じ、過去画像と俯瞰画像との継ぎ目、または過去画像同士の継ぎ目でずれが生じて、これらの画像が不連続になるという課題を解決することを目的としている。
例えば、上述の特許文献1の技術では、車輪の外周長に誤差があると車輪の移動量を算出する際に誤差が生じ、過去画像と俯瞰画像との継ぎ目、または過去画像同士の継ぎ目でずれが生じて、これらの画像が不連続になるという課題を解決することを目的としている。
上記課題を解決するため、特許文献1の技術では、2つの画像の継ぎ目付近を相互に比較して継ぎ目のずれ量を算出し、算出したずれ量から車輪の外周長の誤差を逆算して外周長を補正する。つまり、画像のずれ量を特定する事により、車両の移動量を特定(補正)する。継ぎ目付近での画像の比較には画像マッチング技術が用いられる。
画像マッチング技術では、本来、連続するはずの2つの画像の一方を、もう一方の画像に対して微小量ずつ移動させつつ、画素ごとの差の絶対値の総和を順次算出していく。これにより、2つの画像に含まれる像が重なり合ったときに上記総和が最小になるので、そのときの画像の移動量が2つの画像間のずれ量であることが判る。上記総和が小さい事を画像の一致率が高いと言い変えると、上記処理は画像の移動量を横軸とし、画像の一致率を縦軸とするグラフの上で、画像の一致率が最大値(ピーク値)となるような画像の移動量(ピークの位置)を特定する処理であるとも言える。このような処理は、マッチングによる移動量推定と呼称される。移動量推定により画像のずれが特定できれば、車両の移動量を特定できる。
上記処理に必要な演算回数は、(比較する画素数)×(画像の移動回数)になる。このとき、画像のずれる方向にはX方向とY方向とがあり、画像の移動はX方向とY方向との両方に対して行う必要がある。このため、より詳細には、上記総和の演算回数は、(比較する画素数)×(X方向への画像の移動回数)×(Y方向への画像の移動回数)になる。更に、車体が回転している場合には、回転角の分だけ演算回数が倍加する。このように、画像のマッチング処理は、対象とするデータ量(画素数)が多いため、演算量が膨大である。
また、画像マッチング技術を用いた画像のずれ補正には他の課題もある。例えば、車両1が雪上、または泥濘の中を移動中の場合、画像マッチングで照合可能な対象物の像が継ぎ目部分に映っていないことがあり、この場合、画像マッチングで正しく移動量を特定することは困難である。連続するはずの2つの画像のマッチング処理を行う場合、これらの画像の継ぎ目部分にコントラストを有する物体等が映っていないと、移動量を変えても画像の一致率(つまり画素毎の差の総和)に明確な変化が現れないからである。
移動量推定により画像のずれが特定できなければ、車両の移動量を特定できない。画像マッチングで照合する継ぎ目部分の範囲を広げると、範囲内にコントラストを有する物体が映る確率が上がるが、照合する画素数に比例して演算量が増えるので、それも容易ではない。
また、画像に現れるコントラストは、路面に落ちた車体の影、または光線の反射等によって変化しうる。このため、画像の移動量に対する画像の一致率のグラフに現れたピークの位置が、正しい移動量を示しているとは限らない。画像に現れる物体の像が、例えば動物、水溜りに浮いた浮遊物、水面に映った太陽など、時々で画像に映り込む位置が変化する物の像であった場合や、あるいは路面から高さのある立体物であった場合も、像の位置が車両の移動以外の要因で変化するため、車両の移動量を正しく特定することが困難となる。
さらには、タイル舗装された路面のように、路面が規則性を有するパターンで覆われている場所を車両が移動する場合、車両の移動量を横軸とし、画像の一致率を縦軸とするグラフ上に、画像の一致率が局所的に最大値をとるローカルピークが複数現れるので、車両の移動量を特定することは困難である。
このように、例えば画像マッチング技術を用いて車両の移動量を特定し、車両の移動量に基づいて画像のずれを補正しようとすると、演算量が膨大で高コストの画像処理装置が必要であり、また、場合によって正しい補正ができないといった課題がある。
実施形態の表示ECU10によれば、車両1が滑る滑り事象が発生したことを推定部105が検出した場合、表示画像生成部104は、複数の過去画像のうち、滑り事象の発生時刻より前の撮影時刻を有する過去画像を非表示とする処理を施す。これにより、滑り事象により表示位置がずれる過去画像を表示しないので、乗員による誤認を抑制することができ、また、ずれ量を特定する為のマッチング処理を省くことができるので、コストを抑制できる。
実施形態の表示ECU10によれば、滑り事象が検出された場合であっても、滑り事象の発生時刻より後の撮影時刻を有する過去画像に対しては非表示とする処理を施すことなく俯瞰画像と組み合わせて表示画像を生成する。これにより、一旦、非表示となった領域でも、その後の過去画像によって補われていくので、やがて乗員が車両1の床下の最新の状況を把握することができるようになる。
実施形態の表示ECU10によれば、車両1によって検出された車輪3の回転量および加速度の少なくともいずれかに基づいて滑り事象を検出する。このように、滑り事象の検出にも画像マッチング等の高価な技術を用いることが無いので、安価な表示ECU10を構築することができる。
実施形態の表示ECU10によれば、検出した滑り事象の滑り幅L1が所定の閾値未満である場合には、その滑り事象の発生時刻より前の撮影時刻を有する過去画像であっても処理を施すことなく表示画像を生成し、上記の滑り幅L1が上記所定の閾値以上である場合には、上記過去画像を非表示とする処理を施して表示画像を生成する。
滑り幅L1が所定の閾値未満の軽度の滑り事象が発生した場合に所定の過去画像を非表示にしてしまうと、乗員に提示される情報量が減少し、却って車両1の状況把握が困難になってしまう場合が考えられる。そこで、上記のように、滑り幅L1が所定の閾値未満の場合には非表示処理を施すことなく過去画像の表示を継続することで、乗員による誤認を抑制しつつ、乗員が車両1の現状把握を容易に行うことが可能となる。
(変形例1)
次に、図14A及び図14Bを用いて、実施形態の変形例1の表示ECUについて説明する。変形例1の表示ECUは、滑り事象が発生した場合、滑り事象が発生したことを示す表示を付加して表示画像を生成する点が、上述の実施形態の表示ECU10とは異なる。
次に、図14A及び図14Bを用いて、実施形態の変形例1の表示ECUについて説明する。変形例1の表示ECUは、滑り事象が発生した場合、滑り事象が発生したことを示す表示を付加して表示画像を生成する点が、上述の実施形態の表示ECU10とは異なる。
図14A及び図14Bは、実施形態の変形例1にかかる表示ECUが有する床下透過表示機能について説明する模式図である。
図14A及び図14Bに示すように、変形例1の表示ECUでは、スリップと言えるような大きな滑り事象の発生を検出した場合、表示画像生成部は、例えばその滑り事象の発生時刻より前の撮影時刻を有する過去画像に、滑り事象が発生したことを示す表示を付加する処理を施して表示画像を生成する。
図14A及び図14Bにおいては、スリップと言えるような大きな滑り事象が、過去画像P3の撮影時刻以前に起きたものとする。つまり、過去画像P1~P5のうち、過去画像P1~P3は滑り事象の発生時刻以前の撮影時刻を有し、過去画像P4,P5は滑り事象の発生時刻以後の撮影時刻を有するものとする。
図14Aの例では、変形例1の表示画像生成部は、滑り事象が発生したことを示す表示画像DRaとして、例えば滑り事象が起きる前と後の画像の継ぎ目、つまり、過去画像P3,P4の継ぎ目に境界線DVを表示し、境界線DVにスリップ発生を知らせる警告WRsを付加する。なお、境界線DVの付近の画像を見易くするため、境界線DVに引き出し線を付加して、引き出し線の端に警告WRsを表示しても良いし、境界線DVを指す吹き出しの中に警告WRsを表示しても良い。
また、滑り事象が起きる以前の画像の表示範囲、つまり、過去画像P1~P3の表示範囲に、俯瞰画像VR及び過去画像P4,P5がずれていることを示す警告WRmを表示してもよい。また、過去画像P1~P3の表示範囲を矢印ARsで示し、警告WRmの対象となっている範囲を表示してもよい。
図14Bの例では、変形例1の表示画像生成部は、滑り事象が発生したことを示す表示として、例えば滑り事象が起きる以前の撮影時刻を有する過去画像P1~P3にハッチングHTを付け、過去画像P1~P3上にスリップ発生を知らせる警告アイコンICsを表示する表示画像DRbを生成する。
また、滑り事象が起きた後の撮影時刻を有する画像の表示範囲、つまり、俯瞰画像VR及び過去画像P4,P5の表示範囲に、表示の信頼性が高いことを示す注記NTcを表示してもよい。また、過去画像P4,P5を含む範囲を矢印ARcで表示して、表示の信頼性が高いことを示す注記NTcの対象である範囲を表示してもよい。
このように、過去画像P1~P3に対し、境界線DV、警告WRs,WRm、矢印ARs、ハッチングHT、警告アイコンICs等を表示する変形例1の上記処理は、過去画像P1~P3に対して施される、滑り事象が発生したことを示す処理の一例である。
変形例1ではこのように、大きな滑り事象が発生した場合でも、表示内容が疑わしい事を示す表示、または信頼性が高い範囲を特定する表示を付加したうえで過去画像P1~P3の表示を継続する事により、表示位置がずれた過去画像を見て誤認する事を予防しつつ、過去画像を参考として、運転者が車両の状況を推測する事を可能にする。
なお、過去画像P1~P3にハッチングHTを付加する処理に替えて、過去画像P1~P3の輝度を、俯瞰画像VR及び過去画像P4,P5よりも低下させる処理等を行ってもよい。
また、変形例1に示す境界線DV、警告WRs,WRm、矢印ARs,ARc、ハッチングHT、警告アイコンICs、注記NTc等の表示を施す処理を、滑り事象以前の過去画像を非表示とする上述の実施形態の処理と併用してもよい。
この場合、例えば閾値を2つ設け、推定部は、滑り事象における滑り期間T1、または、滑り速度V1、または滑り幅L1を推定し、表示画像生成部は、滑り期間T1、または、滑り速度V1、または滑り幅L1が、第1の閾値以上、かつ、第1の閾値より大きい第2の閾値未満である場合は、滑り事象が発生したことを示す処理として、1つまたは複数の過去画像に滑り事象が発生したことを示す表示を付加し、滑り期間T1、または、滑り速度V1、または滑り幅L1が、第2の閾値以上である場合は、滑り事象が発生したことを示す処理として、1つまたは複数の過去画像を非表示としても良い。
また、変形例1に示す各種表示に加えて、滑り事象が検出されなくとも、車両の状態が滑り事象の発生しやすい条件下、または滑り事象の発生が疑われる状況下に陥った場合には、少なくとも一部の過去画像がずれている可能性を示す表示を表示画像に付加してもよい。このような車両の状態としては、上述のように、例えば車両に急制動または大きな横Gが掛かった場合、車速と舵角との積が一定値を超えた場合等がある。
またこの場合、急制動、横G、並びに車速および舵角の検出値が大きいほど、過去画像のずれの可能性を示す表示を強調するようにしてもよい。これらの表示を強調するには、表示を点滅させたり、表示の輝度を高めたり、表示の色を強調色に変更したりといった処理が考えられる。
変形例1の表示ECUによれば、車両が滑る滑り事象が発生したことを推定部が検出した場合、表示画像生成部は、複数の過去画像のうち、滑り事象の発生時刻より前の撮影時刻を有する過去画像に、境界線DV、警告WRs、矢印ARs、ハッチングHT、警告アイコンICs等の表示を付加する処理を施す。
これにより、少なくとも一部の過去画像がずれていることを乗員に知らせつつ、ずれた過去画像の表示を継続するので、車両の置かれた状況についてより多くの情報を乗員に提示することができる。よって、乗員は、誤認する可能性を意識しつつ、より詳細に車両の床下の状況について推測することができる。また、例えば乗員が運転者自身であったような場合には、いっそう適切に車両を運転することが可能となる。
変形例1の表示ECUによれば、検出した滑り事象の滑り幅L1が所定の閾値未満である場合には、その滑り事象の発生時刻より前の撮影時刻を有する過去画像であっても処理を施すことなく表示画像を生成し、上記の滑り幅L1が上記所定の閾値以上である場合には、上記過去画像に、境界線DV、警告WRs、矢印ARs、ハッチングHT、警告アイコンICs等の表示を付加する処理を施す。所定の閾値は、運転に関わる判断を変えなくとも良い程度の滑り幅である事を条件に設定し、例えば横滑りに対してはタイヤの幅の半分、一例として10cmを閾値としても良い。所定の閾値は縦滑りと横滑りとに対して別の値を設定してもよく、例えば縦滑りに対する閾値を20cmとしても良い。
例えば軽度の滑り事象が発生した場合にも、所定の過去画像に対して滑り事象が発生したことを示す表示を行うと、却って乗員を混乱させてしまう恐れがあるし、過度に敏感で過剰な警告であると乗員に思われると、警告を表示しても適切に運転に反映されなくなる恐れがある。そこで、上記のように、滑り幅L1が所定の閾値未満の場合には過去画像に対して滑り事象が発生したことを示す表示を施さないことで、乗員による誤認を抑制しつつ、乗員が車両の現状把握を容易に行うことが可能となる。
変形例1の表示ECUによれば、検出した滑り事象の滑り幅L1が1つ目の閾値未満である場合には、その滑り事象の発生時刻より前の撮影時刻を有する過去画像であっても処理を施すことなく表示画像を生成し、上記の滑り幅L1が上記1つ目の所定の閾値以上、かつ1つ目の閾値より大きい2つ目の閾値未満である場合には、上記過去画像に、境界線DV、警告WRs、矢印ARs、ハッチングHT、警告アイコンICs等の表示を付加する処理を施し、上記の滑り幅L1が上記2つ目の所定の閾値以上である場合には、上記過去画像を非表示とする処理を施す。
このように、滑り幅L1に対して複数の閾値を設け、表示画像における処理を適宜異ならせることで、よりいっそう適正な情報を乗員に提示することができる。
変形例1の表示ECUによれば、その他、上述の実施形態と同様の効果を奏する。
(変形例2)
次に、図15A及び図15Bを用いて、実施形態の変形例2の表示ECUについて説明する。変形例2の表示ECUにおいては、滑り事象が発生した場合、滑り事象が発生したことを示す表示であって、上述の変形例1とは異なる表示を付加して表示画像を生成する点が、上述の実施形態の表示ECU10とは異なる。
次に、図15A及び図15Bを用いて、実施形態の変形例2の表示ECUについて説明する。変形例2の表示ECUにおいては、滑り事象が発生した場合、滑り事象が発生したことを示す表示であって、上述の変形例1とは異なる表示を付加して表示画像を生成する点が、上述の実施形態の表示ECU10とは異なる。
図15A及び図15Bは、実施形態の変形例2にかかる表示ECUが有する床下透過表示機能について説明する模式図である。
図15Aにおいては、上述の図14A及び図14Bと同様、スリップと言えるような大きな滑り事象が、過去画像P3の撮影時刻以前に起きたものとする。推定部は、滑り事象における滑り方向を推定し、表示画像生成部は、滑り事象が発生したことを示す処理として、1つまたは複数の過去画像に滑り方向を示す表示を付加しても良い。
図15Aの例では、変形例2の表示画像生成部は、滑り事象が発生したことを示す表示として、例えば滑り事象が起きる以前の撮影時刻を有する過去画像P1~P3上に、滑り方向を示す表示として、これらの過去画像P1~P3が滑り事象によってずれた方向を示す矢印ARdを表示する表示画像DRcを生成する。過去画像P1~P3がずれた方向は、加速度センサによって検知された加速度から推定することができる。
例えば、図15Aの例では車輪が右側に滑って轍に落ちているので、加速度センサは車輪が右側に滑る時に右方向への加速度を検知し、車輪が轍に落ちて横方向の動きが止まる時に左方向への加速度を検知するので、この加速度の時間変化から、車体が右方向にスリップしたと判定できる。
矢印ARdは、複数の過去画像P1~P3ごとに表示してもよく、過去画像P1~P3の表示範囲に複数の矢印ARdを等間隔で並べて表示してもよい。また、図15Aの例の様に、車体がずれた方向を図示しても良いし、乗員の脳内、または表示画像上でずれた過去画像の位置を正しい位置に戻す事を前提として、ずれた過去画像を戻すべき方向を図示しても良い。ずれた過去画像の位置を表示画像上で戻す処理については後述する。
このとき、過去画像P1~P3のずれ量によって矢印ARdの長さを変えてもよい。つまり、例えばずれ量が大きいほど矢印ARdを長くすることができる。過去画像P1~P3のずれ量は、滑り事象の発生を示す上記の加速度の大きさから推定することができる。なお、矢印ARdの長さは、ずれ量に依存せず一定であっても良いし、ずれ量に応じて長さを変える場合も、ずれ量に比例させなくとも良い。車幅の半分を超えるような大きなずれ量を示す矢印を、レイアウトを変えずに表示する事は困難であるので、例えば矢印ARdの長さを長短の2段階にして、ずれ量が所定値を超えたら長い矢印を表示する様にしても良い。
また、図15Aの例においても、上述の図14Aと同様、例えば滑り事象が起きる前と後の過去画像P3,P4の継ぎ目に境界線DVを表示してもよい。
また、滑り事象が複数回に亘って発生した場合には、それぞれの滑り事象の発生時刻に対応させて矢印ARdを表示してもよい。図15Bは、滑り事象が複数回発生した場合の例を示している。図15Bにおいては、スリップと言えるような大きな滑り事象が、過去画像P2の撮影時刻以前に1回、過去画像P3の撮影時刻以前にもう1回起きたものとする。
図15Bに示すように、変形例2の表示画像生成部は、滑り事象が複数回発生した場合、それぞれの滑り事象を示す表示を付加して表示画像DRdを生成する。すなわち、変形例2の表示画像生成部は、1回目の滑り事象の発生時刻以前の過去画像P1,P2の表示範囲と、1回目の滑り事象の発生後であって2回目の滑り事象の発生時刻以前の過去画像P3の表示範囲とに、それぞれ矢印ARd1,ARd2を付加する。
表示画像生成部は、滑り事象が発生したことを示す処理として、1つまたは複数の過去画像に滑り事象が発生した回数を示す表示を付加しても良い。例えば、複数回の滑り事象ごとに矢印ARd1,ARd2の長さを変えてもよい。つまり、例えば滑り事象の発生回数が増すほど、それに対応する矢印の長さを長くすることができる。
図15Bの例では、領域P1と領域P2とに付記した矢印ARd1は、1回目と2回目の滑り事象で2回滑っている事を表すため、2回目の滑り事象で1回だけ滑っている領域P2に付記した矢印ARd2よりも長く表示している。また、2回滑った事を示すために、矢印の長さを1回の矢印の2倍にしたり、矢印を二重線で表示したり、矢印に「×2」を付記して、滑り事象の回数を表示したりしても良い。
また、それぞれの滑り事象に対応する位置、つまり、1回目の滑り事象が起きる前と後の過去画像P2,P3の継ぎ目と、2回目の滑り事象が起きる前と後の過去画像P3,P4の継ぎ目とに、それぞれ境界線DVa,DVbを表示してもよい。
複数回の滑り事象ごとに、矢印ARd1,ARd2及び境界線DVa,DVb等を付加することで、これまでに発生した滑り事象の履歴を表示画像DRdに残すことができ、これまでに滑り事象が発生した回数を表すことができる。また、境界線DVaに「1回目」,DVbに「2回目」と付記しても良い。
このように、過去画像P1~P3に対し、境界線DV,DVa,DVb及び矢印ARd,ARd1,ARd2等を表示する変形例2の上記処理は、過去画像P1~P3に対して施される、滑り事象が発生したことを示す処理の一例である。変形例2においてもこのように、大きな滑り事象が発生した場合でも、視認性を維持することが可能な表示を付加したうえで過去画像P1~P3の表示を継続する。
なお、表示画像生成部は、車両の速度が所定値未満の場合、または車両の乗員による操作があった場合には、1つまたは複数の過去画像に施した処理の少なくとも一部を解除するか、または変更しても良い。
この場合、例えば車両が1km/h以上で走行中は、実施形態の非表示処理を施し、車両の速度が1km/h未満に低下、または車両が完全に停止したら、実施形態の非表示処理を解除しても良いし、実施形態の非表示処理を変形例2に示す処理に変更して、矢印ARd,ARd1,ARd2等を付したうえで、非表示となっていた過去画像を表示させても良い。また、車両の乗員による操作があった場合にも、上記の処理の解除や処理の変更を行っても良い。
このときに、表示画像生成部は、車両の速度が所定値未満の時に、車両の乗員による操作があった場合には、車両の速度が所定値を超えても、処理の解除または変更を、取り消さない様にしても良い。例えば車両が1km/h以上で走行中は過去画像の表示を禁止し、車両の速度が1km/h未満に低下した時に、滑り事象が発生したことを示す表示を付加する処理に変更すると同時に、乗員による確認操作を受け付けるボタンを表示し、乗員が上記ボタンを押して確認操作を行った後は、車両の速度が再び1km/h以上となった場合でも、過去画像の表示を継続してもよい。乗員が確認した時点で過去画像のずれを認識している、と考えられるので、過去画像を継続的に表示させていても新たな誤認が起きる可能性は低く、過去画像を表示する事のメリットが、誤解によるデメリットを上回ると期待できるからである。
また、車両の速度が1km/h未満に低下、または車両が完全に停止した場合等に行う上記処理において、変形例2の処理に替えて、上述の変形例1の処理を施してもよい。
このように、例えば車両が停車したタイミングで、非表示となっていた過去画像を表示させることにより、乗員に、過去画像のずれの状況等を確認するよう、促すことができる。
ただし、乗員が運転者自身である場合、車両の走行中にこのような操作をさせる事は好ましくない。そこで、上述のように、車両の速度が所定値未満であることを条件として操作を受け付け可能にすると良い。なお、HMI装置20が助手席側に設置されていて、運転者とは異なるナビゲーターが操作する事が前提である場合には、操作を常に受け付けても良いし、車速に応じて滑り事象以前の過去画像を表示しない制御を禁止(つまり、滑り事象が発生したことを示す処理を加えて、常に表示)するように設定しても良い。
また、上述の変形例1で述べた例と同様に、滑り期間T1及び滑り幅L1の少なくともいずれかに2つ以上の閾値を設け、これらの閾値と滑り期間T1及び滑り幅L1等との大小関係に応じて、過去画像に施す処理を実施形態の処理と変形例2の処理とで切り替えることも可能である。
このような場合にも、大きな滑り事象が検出されて過去画像を非表示とした場合には、例えば車両の速度が1km/h未満に低下し、または車両が完全に停止した後に、過去画像の非表示処理を解除し、これらの過去画像に対して、変形例1の境界線DV、警告WRs,WRm、矢印ARs,ARc、ハッチングHT、警告アイコンICs、注記NTc等の表示、または、変形例2の矢印ARd,ARd1,ARd2等の表示を付加した表示画像に切り替えるようにしてもよい。
ただし、中程度の滑り事象が検出されて過去画像に変形例1または変形例2の表示を行った場合には、これらの表示を行っている間であっても過去画像の視認性は維持される。したがって、例えば車両の速度によらず滑り事象以前の過去画像を表示し、表示の切り替えを行わない様にしてもよい。
また、実施形態の処理と変形例1,2の処理とを併用する場合において、実施形態の処理による表示と、変形例1の処理による表示と、変形例2の処理による表示とを乗員が選択可能であってもよい。この場合、実施形態および変形例1,2の表示の中から、乗員が予め所望の表示手法を選択可能であってよい。あるいは、車両の停車時等に、実施形態および変形例1,2の表示を乗員が相互に切り替え可能であってもよい。なお、車両の走行中に運転者がHMI装置を操作すると危険なので、助手席が空席である場合には、車両の停車時に限って切り替え操作を受け付けると良い。
変形例2の表示ECUによれば、滑り事象における滑り方向を推定し、1つ以上の過去画像に滑り方向を示す矢印ARd,ARd1,ARd2等を付加する前記処理を施す。このように、乗員が過去画像のずれ方向も認識することができるので、乗員による誤認を抑制しつつ、乗員がより詳細に車両の状況について認識することができる。また、変形例2の表示が付加された表示画像においては、ずれた過去画像の視認性が維持されているため、大きな滑り事象が発生した場合であっても、より多くの情報を乗員に提示することができる。
変形例2の表示ECUによれば、車両が停止した後に車両の乗員による操作があった場合には、滑り事象が発生したことを示す表示を付加しつつ、1つ以上の過去画像の表示を許可する等、車両の走行中に過去画像に施した処理の少なくとも一部を解除する。これにより、少なくとも一部の過去画像がずれたことを乗員に知らせつつ、ずれた過去画像が表示されるので、車両の置かれた状況についてより多くの情報を乗員に提示することができる。
変形例2の表示ECUによれば、1つ以上の過去画像に滑り事象が発生した回数を示す矢印ARd1,ARd2及び境界線DVa,DVb等を付加する処理を施す。これにより、乗員がこれまでに発生した滑り事象の履歴を追うことができ、乗員による誤認を抑制しつつ、乗員がより詳細に車両の状況について認識することができる。
変形例2の表示ECUによれば、検出した滑り事象の滑り幅L1が所定の閾値未満である場合には、その滑り事象の発生時刻より前の撮影時刻を有する過去画像であっても処理を施すことなく表示画像を生成し、上記の滑り幅L1が上記所定の閾値以上である場合には、上記過去画像に、滑り方向を示す矢印ARd,ARd1,ARd2等の表示を付加する処理を施す。
上述のように、軽度の滑り事象が発生した場合に、所定の過去画像に対して滑り事象が発生したことを示す表示を行うと、却って乗員を混乱させたり、検知が過敏で警告が過剰であると受け取られてしまったりする恐れがある。そこで、滑り幅L1が所定の閾値未満の場合には過去画像に対して滑り事象が発生したことを示す表示を施さないことで、乗員による誤認を抑制しつつ、乗員が車両の現状把握を容易に行うことが可能となる。
変形例2の表示ECUによれば、検出した滑り事象の滑り幅L1が1つ目の閾値未満である場合には、その滑り事象の発生時刻より前の撮影時刻を有する過去画像であっても処理を施すことなく表示画像を生成し、上記の滑り幅L1が上記1つ目の所定の閾値以上、かつ1つ目の閾値より大きい2つ目の閾値未満である場合には、上記過去画像に、滑り方向を示す矢印ARd,ARd1,ARd2等の表示を付加する処理を施し、上記の滑り幅L1が上記2つ目の所定の閾値以上である場合には、上記過去画像を非表示とする処理を施す。
このように、滑り幅L1に対して複数の閾値を設け、表示画像における処理を適宜異ならせることで、よりいっそう適正な情報を乗員に提示することができる。
変形例2の表示ECUによれば、その他、上述の実施形態と同様の効果を奏する。
(変形例3)
次に、図16A及び図16Bを用いて、実施形態の変形例3の表示ECUについて説明する。変形例3の表示ECUにおいては、連続的または断続的な滑り事象が発生したことを示す表示を付加して表示画像を生成する点が、上述の実施形態の表示ECU10とは異なる。
次に、図16A及び図16Bを用いて、実施形態の変形例3の表示ECUについて説明する。変形例3の表示ECUにおいては、連続的または断続的な滑り事象が発生したことを示す表示を付加して表示画像を生成する点が、上述の実施形態の表示ECU10とは異なる。
車両1に連続的または断続的に滑り事象が発生しているような場合、滑り事象の発生時刻、滑り期間T1、及び滑り幅L1等を特定することが困難な場合がある。
上述のように、このような連続的または断続的な滑り事象は、例えば未舗装で泥濘となった路面、砂利が敷かれた路面、圧雪状態の雪で覆われた路面等を車両が走行しているときに発生しうる。このような場合であっても、複数の車輪間の回転量の不整合、車輪の回転量と車体が検知した加速度との不整合等によって滑り事象の発生自体は検出可能である。
変形例3の表示ECUの推定部は、上記のような場合、個々の車輪の車輪速センサから駆動輪の車輪速と被駆動輪の車輪速とを取得して滑り率を算出する。滑り率は以下の式(2)で算出され、上述の滑り期間T1及び滑り幅L1と同様、滑り事象の大きさを規定する指標となる。
滑り率(%)=(駆動輪の車輪速÷非駆動輪の車輪速-1)×100・・・(2)
式(2)に示すように、駆動輪と非駆動輪との車輪速の差を滑り率として規定することで、連続的または断続的に生じる滑り事象の大きさを定量的に推定することができる。例えば、舗装された路面を常に車輪がグリップした状態で走行中であれば、滑り率は例えば1%未満となる。一方、駆動輪が砂利または泥を掻いているような場合には、滑り事象が連続的または断続的に発生している状態である。このため、滑り率は例えば数%に達する。
図16A及び図16Bは、実施形態の変形例3にかかる表示ECUが有する床下透過表示機能について説明する模式図である。
図16A及び図16Bにおいては、車両1に連続的または断続的に滑り事象が発生しており、加速度センサの検知結果に明瞭な滑り期間T1が現れていないものとする。表示画像生成部は、推定部が連続的、または断続的な滑り事象を検出した場合には、俯瞰画像と組み合わせて表示させる全ての過去画像に滑り事象が発生したことを示す処理を施しても良い。
図16A及び図16Bに示すように、変形例3の表示ECUでは、滑り期間T1の特定が困難な連続的または断続的な滑り事象を検出した場合、表示画像生成部は、複数の過去画像のうち、俯瞰画像と組み合わせて表示させる全ての過去画像に、滑り事象が発生したことを示す処理を施して表示画像を生成する。図16A及び図16Bの例では、これまでに生成された複数の過去画像のうち、過去画像P1~P5が俯瞰画像VRと組み合わせて表示画像に表示されている。
図16Aの例では、変形例3の表示画像生成部は、滑り事象が発生したことを示す表示として、例えば過去画像P1~P5の表示範囲全体を矢印ARwで表示し、スリップ発生を知らせる警告WRsを矢印ARw上に表示する表示画像DReを生成する。また、過去画像P1~P3の表示がずれていることを示す警告WRmを矢印ARw上に表示してもよい。
図16Bの例では、変形例3の表示画像生成部は、滑り事象が発生したことを示す表示として、例えば過去画像P1~P5の表示範囲にスリップ発生を知らせる警告アイコンICsを表示する表示画像DRfを生成する。
このように、全ての過去画像P1~P5に対し、警告WRs,WRm、矢印ARs、警告アイコンICs等を表示する変形例3の上記処理は、過去画像P1~P5に対して施される、滑り事象が発生したことを示す処理の一例である。変形例3では、例えば滑り期間T1の特定が困難な滑り事象が発生した場合でも、このように、ずれた過去画像を特定することなく滑り事象が発生したことを示す処理を過去画像P1~P5に施す。
なお、変形例3に示す警告WRs,WRm、矢印ARs、警告アイコンICs等の表示の強調度合いを、検出された滑り事象の大きさ(例えば、滑り率)に応じて変化させてもよい。
上記表示を強調するには、表示を点滅させたり、表示の輝度を高めたり、表示の色を強調色に変更したりといった処理が考えられる。滑り事象の大きさは、例えば滑り率または滑り事象検出時の車両の舵角等から判定することができる。つまり、例えば滑り率または車両の舵角が大きくなるほど、上記表示の強調度合いを高めるようにすることができる。
変形例3の表示ECUによれば、推定部が連続的に、または断続的に滑り事象を検出した場合には、複数の過去画像のうち、俯瞰画像と組み合わせて表示させる全ての過去画像に、滑り事象が発生したことを示す処理を施す。これにより、例えば滑り期間T1の特定が困難な場合であっても、ずれた過去画像があることを乗員に提示することができる。
変形例3の表示ECUによれば、その他、上述の実施形態と同様の効果を奏する。
(変形例4)
次に、図17A及び図17Bを用いて、実施形態の変形例4の表示ECUについて説明する。変形例4の表示ECUにおいては、ずれた過去画像を乗員が補正可能である点が、上述の実施形態の表示ECU10とは異なる。
次に、図17A及び図17Bを用いて、実施形態の変形例4の表示ECUについて説明する。変形例4の表示ECUにおいては、ずれた過去画像を乗員が補正可能である点が、上述の実施形態の表示ECU10とは異なる。
図17A及び図17Bは、実施形態の変形例4にかかる表示ECUが有する床下透過表示機能について説明する模式図である。図17A及び図17Bにおいては、過去画像P1~P3に対して滑り事象が発生したことを示す処理を施した表示画像DRgの一部を示している。
図17Aに示すように、変形例4の表示画像生成部は、ずれた過去画像P1~P3と、ずれていない過去画像P4,P5との継ぎ目に境界線DVを表示する表示画像DRgを生成する。表示処理装置は、表示装置に対するタッチ操作を検出する検出部を更に備え、表示画像生成部は、車両の乗員によるタッチ操作に応じて表示画像内における1つまたは複数の過去画像の表示位置を移動する処理を行なっても良い。
例えば、図17Aの例において、車両のHMI装置に表示された表示画像DRgがタッチされたものとする。変形例4の表示ECUは、上述の実施形態の表示ECUにおいて、HMI装置20のタッチパネルがタッチされたことを検出する検出部107に相当する構成を備える。
変形例4の検出部は乗員等による上記タッチ操作を検出し、変形例4の表示画像生成部は、表示画像DRg上のタッチ操作が検出された箇所に例えば手指の形をした手指アイコンICpを表示させる。
図17Bに示すように、乗員が、表示画像DRgにおいて、ずれた過去画像P1~P3の表示範囲をタッチし、タッチしたままドラッグすると、変形例4の表示画像生成部は、そのようなタッチ操作に応じて手指アイコンICgを移動させるとともに、表示画像DRg内における過去画像P1~P3の表示位置を手指アイコンICgと同じだけ移動させる処理を行う。
ヒトの認識能力は優れているので、例えば画像に動いている動物が映り込んでいる場合等、画像マッチングでは正しい移動量推定が困難な場合であっても、ヒトは動物と路面とを見分けることが出来るので、動物の動きに惑わされることなく、表示画像DRgにおける過去画像P1~P3のずれを正しく認識できる。このため、乗員のタッチ操作に応じて過去画像P1~P3の表示位置を移動させることで、これらの過去画像P1~P3におけるずれが補正される。
表示画像生成部は、上記タッチ操作の後に乗員の指が離れたときの表示位置を有する過去画像P1~P3を含む表示画像DRgを最新の表示画像として記憶する。その後、例えば車両が走行を再開した場合には、表示画像生成部は、記憶した最新の表示画像DRgに基づき床下透過表示処理を継続する。
なお、表示画像生成部は、車両の乗員による操作、または車両の乗員によるタッチ操作があった時に、車両の速度が所定値以上であった場合は、車両の乗員による操作、および車両の乗員によるタッチ操作を受け付けない様にすると良い。
例えば、変形例4の表示ECUは、車両の速度が例えば1km/h以上のときにタッチ操作が行われてもそれを受け付けず、手指アイコンICgを表示させない様にする。この操作の制限は、変形例2で説明した、乗員による操作の受付の制限と同じであり、乗員が運転者自身であるような場合には、車両の走行中に上記のタッチ操作を行うことは好ましくないからである。
また、変形例4の上記処理は、実施形態の非表示処理、変形例1の境界線DV、警告WRs,WRm、矢印ARs、ハッチングHT、警告アイコンICs等の表示処理、及び変形例2の矢印ARd,ARd1,ARd2等を表示する処理の少なくともいずれかと併用されてよい。変形例4の上記処理は、実施形態の非表示処理および変形例1,2の表示処理を適宜組み合わせて行う上述の各種処理と併用されてもよい。
変形例4の表示ECUによれば、乗員によるタッチ操作に応じて表示画像DRg内における、ずれた過去画像P1~P3の表示位置を移動する処理を行う。これにより、ずれた過去画像P1~P3の表示位置を補正することができる。また、補正後の過去画像P1~P3を含む表示画像DRgを表示させることができ、乗員による誤認をいっそう抑制しつつ、乗員が車両の現状把握をいっそう容易に行うことが可能となる。
変形例4の表示ECUによれば、その他、上述の実施形態と同様の効果を奏する。
(変形例5)
上述のように、実施形態の非表示処理、変形例1の境界線DV、警告WRs,WRm、矢印ARs、ハッチングHT、警告アイコンICs等の表示処理、変形例2の矢印ARd,ARd1,ARd2等を表示する処理、及び変形例4の過去画像の表示位置補正処理は、適宜組み合わせて実施することが可能である。図18に、これらの処理を組み合わせて実施する場合のフローの一例を示す。
上述のように、実施形態の非表示処理、変形例1の境界線DV、警告WRs,WRm、矢印ARs、ハッチングHT、警告アイコンICs等の表示処理、変形例2の矢印ARd,ARd1,ARd2等を表示する処理、及び変形例4の過去画像の表示位置補正処理は、適宜組み合わせて実施することが可能である。図18に、これらの処理を組み合わせて実施する場合のフローの一例を示す。
図18は、実施形態の変形例5にかかる表示ECUによる表示処理の手順の一例を示すフロー図である。
図18に示すように、例えばHMI装置を介した乗員からの指示にしたがって、変形例5の表示ECUの各部は床下透過表示を開始する(ステップS201)。
また、上記処理の間、変形例5の推定部は、各種センサの検知結果に基づいて、車両の移動方向および移動量を推定するとともに、滑り事象の発生を監視する(ステップS202)。滑り事象が検出されない場合(ステップS202:No)、表示ECUの各部は床下透過表示を継続する(ステップS201)。
車両に滑り事象が検出された場合(ステップS202:Yes)、推定部は、検出した滑り事象の滑り期間T1が、滑り期間T1に対して予め設定されている閾値PT1未満であるか否かを判定する(ステップS203)。
滑り期間T1が閾値PT1未満、または滑り期間T1が検出されなかった場合(ステップS203:Yes)、連続的または断続的に滑り事象が発生していると考えられる。滑り期間T1が検出されなかった場合とは、加減速や操舵によって水平方向の加速度が検出されるはずの状況において、加速度センサが検知した水平方向の加速度が所定の閾値未満にならなかった場合であり、滑り期間T1が閾値PT1未満の場合とは、水平方向の加速度が所定の閾値未満の状態の継続時間が、閾値PT1未満であった場合である。この場合、表示ECUはステップS213へと処理を進める。
滑り期間T1が閾値PT1以上であった場合には(ステップS203:No)、スリップと言えるような大きな滑り事象が発生したと考えられる。推定部は、このような滑り事象の発生した時刻T2を記憶部に記憶させる(ステップS204)。
また、推定部は、滑り期間T1が閾値PT2未満であるか否かを判定する(ステップS205)。閾値PT2は滑り期間T1に対して予め設定された閾値であり、閾値PT1よりも大きい値が設定されている。すなわち、閾値PT2は閾値PT1よりも長い期間を表す。
滑り期間T1が閾値PT2未満であった場合(ステップS205:Yes)、スリップと言えるような滑り事象の中では比較的小さい滑り事象が発生したと考えられる。この場合、変形例5の表示画像生成部は、これ以降、撮影時刻が時刻T2以前の過去画像に、例えば変形例1の表示、または変形例2の表示等を付加する処理を施して表示画像を生成する(ステップS206)。
一方、滑り期間T1が閾値PT2以上であった場合(ステップS205:No)、スリップと言えるような滑り事象の中でも比較的大きな滑り事象が発生したと考えられる。この場合、変形例5の表示画像生成部は、これ以降、撮影時刻が時刻T2以前の過去画像を非表示とする処理を施して表示画像を生成する(ステップS207)。
変形例5の検出部は、HMI装置のタッチパネルに対するタッチ操作がなされたか否かを検出する(ステップS208)。タッチ操作がなければ(ステップS208:No)、表示画像生成部は、過去画像を非表示とする表示画像の生成を継続する(ステップS207)。
タッチ操作があった場合には(ステップS208:Yes)、推定部は、各種センサからの検知結果に基づいて、今現在の車両の速度が例えば1km/hを超えているか否かを判定する(ステップS209)。車速が1km/hを超えていた場合(ステップS209:Yes)、上記タッチ操作を受け付けることなく、表示画像生成部が、過去画像を非表示とする表示画像の生成を継続する(ステップS207)。
車速が1km/h以下だった場合(ステップS209:No)、表示画像生成部は、例えば変形例1の表示、または変形例2の表示等を付加したうえで、時刻T2以前の過去画像の非表示処理を解除して表示画像を生成する(ステップS210)。
なお、ステップS208の処理は行われなくともよい。つまり、車速が1km/h以下になったことを推定部が検出すると、表示画像生成部が、自動的に時刻T2以前の過去画像の非表示処理を解除してもよい。
検出部は、HMI装置のタッチパネル上でタッチ箇所をドラッグするタッチ操作が行われたか否かを検出する(ステップS211)。ドラッグが検出されなければ(ステップS211:No)、表示画像生成部は、変形例1または変形例2の表示等を付加した過去画像を含む表示画像の生成を継続する(ステップS210)。
ドラッグが検出された場合には(ステップS211:Yes)、表示画像生成部は、ずれが発生した時刻T2以前の過去画像を、検出されたドラッグ量だけ移動させ、移動させた過去画像を含む表示画像を最新の表示画像として記憶部に記憶させる(ステップS212)。
なお、上記において、変形例1または変形例2の表示等を付加した過去画像を含む表示画像を生成していた場合にも(ステップS206)、上述のステップS208,S209に準ずるタッチ操作の検出処理(ステップS208’)及び車速の判定処理(ステップS209’)等を行ったうえで、タッチパネル上をドラッグするタッチ操作の受け付けが許可される(ステップS211,S212)。ただし、この場合、表示画像生成部は、例えば車両の走行中における表示画面からの切り替え(ステップS210)を行なわない。
表示ECUの各部は、ステップS212の処理後も床下透過表示を継続する(ステップS201)。
一方、滑り期間T1が閾値PT1未満であるか否かの判定処理(ステップS203)において、滑り期間T1が少なくとも閾値PT1未満であった場合(ステップS203:Yes)、推定部は上述の式(2)から滑り率を得、また舵角センサが検知した車両の舵角の情報を取得する(ステップS213)。
また、推定部は、式(2)から得た滑り率が、滑り率に対して予め設定されている閾値ST1未満であるか否かを判定する(ステップS214)。滑り率が閾値ST1未満であった場合(ステップS214:Yes)、表示ECUの各部は床下透過表示を継続する(ステップS201)。
滑り率が閾値ST1以上であった場合(ステップS214:No)、推定部は、滑り率が閾値ST2未満であるか否かを判定する(ステップS215)。閾値ST2は滑り率に対して予め設定された閾値であり、閾値ST1よりも大きい値が設定されている。
滑り率が閾値ST2未満であった場合(ステップS215:Yes)、推定部は、舵角センサから取得した舵角が、舵角に対して予め設定されている閾値AT未満であるか否かを判定する(ステップS216)。舵角が閾値AT未満であった場合(ステップS216:Yes)、表示画像生成部は、これ以降、表示画像に含める全ての過去画像に、例えば変形例3の表示を付加する処理を施して表示画像を生成する(ステップS217)。
滑り率が閾値ST2以上であった場合(ステップS215:No)、または舵角が閾値AT以上であった場合(ステップS216:No)、表示画像生成部は、これ以降、表示画像に含める全ての過去画像に、強調度合いを高めた状態で、変形例3の表示を付加する処理を施して表示画像を生成する(ステップS218)。舵角が大きい場合に強調度合いを高める理由は、舵角が大きい状態で連続的な滑りが発生していれば、横滑りが発生している、と推定されるからである。横滑りは脱輪や路外への転落に結びつく可能性があるので、縦滑り(駆動輪の空転など)よりも警戒すべきである。
表示ECUの各部は、ステップS217またはステップS218の処理後も床下透過表示を継続する(ステップS201)。
変形例5の表示ECUは、これ以降、例えば上述の実施形態で挙げた終了条件のいずれかに該当することとなるまで、ステップS201~S218の処理を継続する。変形例5の表示ECUもまた、いずれかの終了条件に該当すると、上記のいずれのステップS201~S218からでも床下透過表示を終了する処理を行うことができる。また、変形例5の表示ECUにおいても、これらの終了条件ごとの床下透過表示の終了処理が上述の実施形態の手順で行われてよい。
変形例5の表示ECUによれば、上述の実施形態および変形例1~4の少なくともいずれかと同様の効果を奏する。
[その他の実施形態]
上述の実施形態および変形例1~5では、車両1を基準座標として表示画像の生成処理を行うこととした。しかし、表示ECUが、絶対座標に基づいて表示画像の生成処理を行ってもよい。図19Aa~図20Bcにその様子を示す。
上述の実施形態および変形例1~5では、車両1を基準座標として表示画像の生成処理を行うこととした。しかし、表示ECUが、絶対座標に基づいて表示画像の生成処理を行ってもよい。図19Aa~図20Bcにその様子を示す。
図19Aa~図20Bcは、その他の実施形態にかかる表示ECUが有する床下透過表示機能について説明する模式図である。
図19Aaに示すように、乗員がHMI装置上から床下透過表示を開始する操作を行うと、表示画像生成部は、最新の画像が合成され、領域R1~R3を含む俯瞰画像VR(リアルタイム画像)と、画像の存在しない黒画領域BRと、車両アイコン1icとを有する表示画像DRhを生成する。図19Baは、このときの車両1の実際の様子を示している。
図19Ab及び図19Bbに示すように、車両1が、路面に形成された轍TRの脇を通る様な進路で移動すると、車両1の前進によって俯瞰画像VRのうち領域R1が死角領域に入る。推定部は、領域R1の縦幅分、車両1が前進したと推定し、過去画像生成部は、図19Aaの時点の俯瞰画像VRのうち領域R1の部分を過去画像P1として登録する。
つまり、この実施形態では、車両1の移動により俯瞰画像VRのうち死角に入った部分を過去画像P1として登録するのであり、画像を移動させるなどして過去画像P1を生成する事はしない。移動するのは、俯瞰画像VRおよび過去画像PAに対する車両1の位置だけである。過去画像P1として登録する処理は、例えば、領域R1の中の画素が各々、俯瞰画像VR(リアルタイム画像)である事を示すフラグを持つ時に、各々の画素のフラグを過去画像P1である事を示すフラグに書き換えれば良い。
表示画像生成部は、図19Abの時点での最新画像を合成した俯瞰画像VRと、図19Aaの時点の撮影時刻を有する過去画像P1とを組み合わせ、更に黒画領域BRの表示を付加した表示画像DRhを生成する。例えば、表示制御部は各々の画素のフラグを参照してHMI装置への画像出力を行う、俯瞰画像VRのフラグと過去画像P1のフラグを持つ画素、つまり、俯瞰画像VRの領域と過去画像P1の領域(領域R1)との画素は、そのままの画素値を出力し、フラグが初期値である画素は黒画領域BRとして、画素値(R,G,B)を(0,0,0)にする。
ここで、絶対座標に基づいて表示画像DRhを生成する場合、表示画像生成部は、路面を基準として車両1の移動量だけ表示範囲を移動させる。つまり、この実施形態の表示ECUでは、俯瞰画像VRを路面上に貼り付けられた像と見做して内部処理を行い、車両1が移動しても俯瞰画像VRは移動させず、表示画像DRhとして切り出す範囲だけを移動させる。
図20Abの状態から車両1が更に前進すると、図20Aaに示すように、俯瞰画像VRのうち領域R2が死角に入る。またこのとき、図20Baに示すように、車両1が横滑りして轍TRに落ちたものとする。推定部は、例えば領域R2の縦幅分、車両1が前進したと推定するとともに、車両1の横滑りによる滑り事象を検出する。過去画像生成部は、図19Abの時点の領域R2の俯瞰画像VRを過去画像P2として登録する。
滑り事象が検出された場合、表示画像生成部は、滑り事象の発生時刻以前の過去画像P1,P2の表示を禁止し、図19Abの時点での最新画像を合成した俯瞰画像VRに、領域R1、R2の範囲を含む黒画領域BRの表示を付加した表示画像DRhを生成する。例えば、表示制御部は各々の画素のフラグを参照してHMI装置への画像出力を行い、過去画像P1及び過去画像P2のフラグを持つ画素は出力を禁止し、フラグが初期値である画素と同様に、黒画領域BRとして、画素値を(0,0,0)にする。
図20Ab及び図20Bbに示すように、車両1が轍TRに落ちたまま更に前進すると、俯瞰画像VRのうち領域R3が死角に入る。推定部は、領域R3の縦幅分、車両1が前進したと推定し、過去画像生成部が、図20Aaの時点の領域R3の俯瞰画像VRを過去画像P3として登録する。
表示画像生成部は、過去画像P1,P2を非表示としたまま、図20Abの時点での最新画像を合成した俯瞰画像VRに、図20Aaの時点の撮影時刻を有する過去画像P3を組み合わせ、更に黒画領域BRの表示を付加した表示画像DRhを生成する。例えば、表示制御部は各々の画素のフラグを参照してHMI装置への画像出力を行い、俯瞰画像VR及び過去画像P3のフラグを持つ画素の出力を許可するが、過去画像P1及び過去画像P2のフラグを持つ画素の出力を禁止し、フラグが初期値である画素と同様に、黒画領域BRとして、画素値を(0,0,0)にする。
図20Ac及び図20Bcに示すように、車両1が轍TRに落ちたまま更に前進すると、俯瞰画像VRのうち領域R4が死角に入る。推定部は、例えば領域R4の縦幅分、車両1が前進したと推定し、過去画像生成部が、図20Abの時点の俯瞰画像VRのうち領域R4の画像を過去画像P4として登録する。
表示画像生成部は、過去画像P1,P2を非表示としたまま、図20Acの時点での最新画像を合成した俯瞰画像VRに、図20Aaの時点の撮影時刻を有する過去画像P3と、図20Abの時点の撮影時刻を有する過去画像P2とを組み合わせ、更に黒画BRの表示を付加した表示画像DRhを生成する。
例えば、表示制御部は各々の画素のフラグを参照してHMI装置への画像出力を行い、俯瞰画像VR、過去画像P3、及び過去画像P4のフラグを持つ画素の出力を許可するが、過去画像P1及び過去画像P2のフラグを持つ画素の出力を禁止し、フラグが初期値である画素と同様に、黒画領域BRとして、画素値を(0,0,0)にする。
なお、過去画像P1及び過去画像P2のフラグは同じフラグでも良く、過去画像P3及び過去画像P4のフラグは同じフラグでも良い。過去画像P1と過去画像P2とは表示制御部がフラグを判定して表示を禁止しているだけであり、消去はされていないので、表示制御部の判定条件を変えるだけで表示させることが出来る。
以上の処理を繰り返すことで、絶対座標に基づく処理を行った場合においても、車体下方の死角に充てていた黒画領域BRが、過去画像(P1,P2),P3,P4・・・に徐々に置き換わっていき、最終的には黒画領域BRが全て過去画像に置き換わって、車体の床下が見えているかのような表示画像DRhが得られる。
また、絶対座標に基づく処理を行った場合も表示ECUの内部処理が異なるだけで、車両1を基準座標とする上述の実施形態および変形例1~5と同じ出力画像が得られる。実際のところ、図19Aa、図19Ab、図20Aa、図20Ab、及び図20Acの表示画像VRhは、上述の実施形態の図5Aa、図5Ab、図6Ac、図7Aa、及び図7Abに示す表示画像VRと同じものである。
本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これらの実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これらの実施形態やその変形は、発明の範囲や要旨に含まれると同様に、特許請求の範囲に記載された発明とその均等の範囲に含まれるものである。
1 車両
2 車体
3(31,32) 車輪
4(41,42) 車輪速センサ
5(51,52) 加速度センサ
6(61,62,63,63) 撮像装置
8 舵角センサ
10 表示ECU
12p 表示処理プログラム
20 HMI装置
30 センサ制御装置
101 取得部
102 俯瞰画像生成部
103 過去画像生成部
104 表示画像生成部
105 推定部
106 表示制御部
107 検出部
108 記憶部
L1 滑り幅
T1 滑り期間
DR,DRa~DRh 表示画像
P1~P5 過去画像
VR 俯瞰画像
2 車体
3(31,32) 車輪
4(41,42) 車輪速センサ
5(51,52) 加速度センサ
6(61,62,63,63) 撮像装置
8 舵角センサ
10 表示ECU
12p 表示処理プログラム
20 HMI装置
30 センサ制御装置
101 取得部
102 俯瞰画像生成部
103 過去画像生成部
104 表示画像生成部
105 推定部
106 表示制御部
107 検出部
108 記憶部
L1 滑り幅
T1 滑り期間
DR,DRa~DRh 表示画像
P1~P5 過去画像
VR 俯瞰画像
Claims (15)
- 車両に搭載される表示処理装置であって、
前記車両の周辺を撮影した画像を取得する画像取得部と、
前記画像に基づいて前記車両の周辺の俯瞰画像を生成する俯瞰画像生成部と、
前記車両によって検出された車輪の回転量に基づいて、前記車両の移動量を推定する推定部と、
過去の時点で前記俯瞰画像を記憶したものである過去の俯瞰画像と、前記車両の前記移動量とに基づいて、撮影時刻が過去の時点である1つまたは複数の過去画像を生成する過去画像生成部と、
前記1つまたは複数の過去画像と前記俯瞰画像とを組み合わせて、前記車両内の表示装置に表示する表示画像を生成する表示画像生成部と、を備え、
前記表示画像生成部は、
前記車輪が滑る滑り事象が発生したことを前記推定部が検出した場合、前記1つまたは複数の過去画像に対して前記滑り事象が発生したことを示す処理を施して前記表示画像を生成する、
表示処理装置。 - 前記表示画像生成部は、
前記滑り事象が発生したことを示す処理を、撮影時刻が前記滑り事象の発生より前である前記1つまたは複数の過去画像に限定して施し、前記滑り事象が検出された場合であっても、撮影時刻が前記滑り事象の発生より後である1つまたは複数の過去画像に対しては前記滑り事象が発生したことを示す処理を施すことなく前記俯瞰画像と組み合わせて前記表示画像を生成する、
請求項1に記載の表示処理装置。 - 前記推定部は、
前記車輪の回転量または前記車両によって検出された加速度に基づいて前記滑り事象を検出する、
請求項1または請求項2に記載の表示処理装置。 - 前記推定部は、
前記滑り事象における滑り期間、または、滑り速度、または滑り幅を推定し、
前記表示画像生成部は、
前記滑り期間、または、前記滑り速度、または前記滑り幅が所定の閾値未満である場合には、前記滑り事象が発生したことを示す処理を施すことなく前記表示画像を生成する、
請求項1または請求項2に記載の表示処理装置。 - 前記表示画像生成部は、
前記滑り期間、または、前記滑り速度、または前記滑り幅が所定の閾値以上である場合には、前記1つまたは複数の過去画像に対して、前記滑り事象が発生したことを示す処理を施し、
前記滑り事象が発生したことを示す処理は、
前記1つまたは複数の過去画像を非表示とする処理、または、前記滑り事象が発生したことを示す表示を付加する処理、のいずれかである、
請求項4に記載の表示処理装置。 - 前記推定部は、
前記滑り事象における滑り期間、または、滑り速度、または滑り幅を推定し、
前記表示画像生成部は、
前記滑り期間、または、前記滑り速度、または前記滑り幅が、第1の閾値以上、かつ、前記第1の閾値より大きい第2の閾値未満である場合は、前記滑り事象が発生したことを示す処理として、前記1つまたは複数の過去画像に前記滑り事象が発生したことを示す表示を付加し、
前記滑り期間、または、前記滑り速度、または前記滑り幅が、前記第2の閾値以上である場合は、前記滑り事象が発生したことを示す処理として、前記1つまたは複数の過去画像を非表示とする、
請求項5に記載の表示処理装置。 - 前記表示画像生成部は、
前記滑り事象が発生したことを示す処理として、前記1つまたは複数の過去画像に前記滑り事象が発生した回数を示す表示を付加する、
請求項1または請求項2に記載の表示処理装置。 - 前記推定部は、
前記滑り事象における滑り方向を推定し、
前記表示画像生成部は、
前記滑り事象が発生したことを示す処理として、前記1つまたは複数の過去画像に前記滑り方向を示す表示を付加する、
請求項1または請求項2に記載の表示処理装置。 - 前記表示画像生成部は、
前記推定部が連続的、または断続的な前記滑り事象を検出した場合には、前記俯瞰画像と組み合わせて表示させる全ての過去画像に前記滑り事象が発生したことを示す処理を施す、
請求項1に記載の表示処理装置。 - 前記表示画像生成部は、
前記車両の速度が所定値未満の場合、または前記車両の乗員による操作があった場合には、前記1つまたは複数の過去画像に施した前記処理の少なくとも一部を解除し、あるいは変更する、
請求項1に記載の表示処理装置。 - 前記表示画像生成部は、
前記車両の速度が所定値未満の時に、前記車両の乗員による操作があった後であれば、前記車両の速度が所定値を超えても、前記処理の解除または変更を、取り消さない、
請求項10に記載の表示処理装置。 - 前記表示装置に対するタッチ操作を検出する検出部を更に備え、
前記表示画像生成部は、
前記車両の乗員による前記タッチ操作に応じて前記表示画像内における前記1つまたは複数の過去画像の表示位置を移動する処理を行う、
請求項1に記載の表示処理装置。 - 前記表示画像生成部は、
前記車両の乗員による操作、または前記車両の乗員によるタッチ操作があった時に、前記車両の速度が所定値以上であった場合は、前記車両の乗員による操作、および前記車両の乗員によるタッチ操作を受け付けない、
請求項10または請求項11または請求項12に記載の表示処理装置。 - 車両の周辺を撮影した画像を取得し、
前記画像に基づいて前記車両の周辺の俯瞰画像を生成し、
前記車両によって検出された車輪の回転量に基づいて、前記車両の移動量を推定し、
過去の時点で前記俯瞰画像を記憶したものである過去の俯瞰画像と、前記車両の前記移動量とに基づいて、撮影時刻が過去の時点である1つまたは複数の過去画像を生成し、
前記1つまたは複数の過去画像と前記俯瞰画像とを組み合わせて、前記車両内の表示装置に表示する表示画像を生成し、
前記表示画像を生成するときは、
前記車輪が滑る滑り事象が発生したことを検出した場合、前記1つまたは複数の過去画像に対して前記滑り事象が発生したことを示す処理を施して前記表示画像を生成する、
表示処理方法。 - コンピュータに、
車両の周辺を撮影した画像を取得させ、
前記画像に基づいて前記車両の周辺の俯瞰画像を生成させ、
前記車両によって検出された車輪の回転量に基づいて、前記車両の移動量を推定させ、
過去の時点で前記俯瞰画像を記憶したものである過去の俯瞰画像と、前記車両の前記移動量とに基づいて、撮影時刻が過去の時点である1つまたは複数の過去画像を生成させ、
前記1つまたは複数の過去画像と前記俯瞰画像とを組み合わせて、前記車両内の表示装置に表示する表示画像を生成させ、
前記表示画像を生成させるときは、
前記車輪が滑る滑り事象が発生したことが検出された場合、前記1つまたは複数の過去画像に対して前記滑り事象が発生したことを示す処理を施させて前記表示画像を生成させる、
表示処理プログラム。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2022112234A JP2024010758A (ja) | 2022-07-13 | 2022-07-13 | 表示処理装置、表示処理方法、及び表示処理プログラム |
US18/203,887 US11974061B2 (en) | 2022-07-13 | 2023-05-31 | Display processing device, display processing method, and recording medium |
CN202310805078.XA CN117400833A (zh) | 2022-07-13 | 2023-07-03 | 显示处理装置、显示处理方法以及记录介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2022112234A JP2024010758A (ja) | 2022-07-13 | 2022-07-13 | 表示処理装置、表示処理方法、及び表示処理プログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2024010758A true JP2024010758A (ja) | 2024-01-25 |
Family
ID=89496816
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2022112234A Pending JP2024010758A (ja) | 2022-07-13 | 2022-07-13 | 表示処理装置、表示処理方法、及び表示処理プログラム |
Country Status (3)
Country | Link |
---|---|
US (1) | US11974061B2 (ja) |
JP (1) | JP2024010758A (ja) |
CN (1) | CN117400833A (ja) |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101670847B1 (ko) * | 2014-04-04 | 2016-11-09 | 주식회사 와이즈오토모티브 | 차량 주변 이미지 생성 장치 및 방법 |
JP6327160B2 (ja) | 2014-09-02 | 2018-05-23 | 株式会社デンソー | 車両用画像処理装置 |
JP6421935B2 (ja) * | 2015-03-31 | 2018-11-14 | パナソニックIpマネジメント株式会社 | 車両移動推定装置および車両移動推定方法 |
JP6609970B2 (ja) * | 2015-04-02 | 2019-11-27 | アイシン精機株式会社 | 周辺監視装置 |
JP6642306B2 (ja) * | 2016-06-29 | 2020-02-05 | アイシン精機株式会社 | 周辺監視装置 |
JP6572862B2 (ja) * | 2016-10-14 | 2019-09-11 | 株式会社デンソー | 表示制御装置 |
JP7130923B2 (ja) * | 2017-07-19 | 2022-09-06 | 株式会社アイシン | 表示制御装置 |
JP7354649B2 (ja) * | 2019-07-26 | 2023-10-03 | 株式会社アイシン | 周辺監視装置 |
-
2022
- 2022-07-13 JP JP2022112234A patent/JP2024010758A/ja active Pending
-
2023
- 2023-05-31 US US18/203,887 patent/US11974061B2/en active Active
- 2023-07-03 CN CN202310805078.XA patent/CN117400833A/zh active Pending
Also Published As
Publication number | Publication date |
---|---|
US11974061B2 (en) | 2024-04-30 |
CN117400833A (zh) | 2024-01-16 |
US20240022679A1 (en) | 2024-01-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10754029B2 (en) | Vehicle human machine interface control | |
ES2887103T3 (es) | Procedimiento para el cálculo de una superposición de información adicional para una visualización en una unidad de visualización, dispositivo para la realización del procedimiento, así como vehículo de motor y programa informático | |
JP6897340B2 (ja) | 周辺監視装置 | |
US8793053B2 (en) | Vehicle periphery monitoring device | |
JP6110349B2 (ja) | 駐車支援装置 | |
WO2018061294A1 (ja) | 周辺監視装置 | |
US10315569B2 (en) | Surroundings monitoring apparatus and program thereof | |
JP6326985B2 (ja) | 自律運転制御装置、車両、コンピュータプログラム、及び自律運転制御方法 | |
US10878253B2 (en) | Periphery monitoring device | |
CN109204136B (zh) | 周边图像显示控制装置 | |
US20180186372A1 (en) | Lane departure prevention apparatus | |
WO2018061256A1 (ja) | 周辺監視装置 | |
EP2981077A1 (en) | Periphery monitoring device and program | |
WO2018190037A1 (ja) | 障害物検知報知装置、方法及びプログラム | |
EP3217374A1 (en) | Method and system for estimating a boundary of a road technical field | |
GB2562371A (en) | Steering wheel actuation | |
GB2562376A (en) | Virtual Steerable Path | |
JP6642307B2 (ja) | 周辺監視装置 | |
JP7158655B2 (ja) | 停車支援装置 | |
JP7176299B2 (ja) | 停車支援装置 | |
JP2024010758A (ja) | 表示処理装置、表示処理方法、及び表示処理プログラム | |
JP2017085410A (ja) | 走行支援装置 | |
JP6776702B2 (ja) | 周辺監視装置 | |
JP7158654B2 (ja) | 停車支援装置 | |
JP7176298B2 (ja) | 停車支援装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230112 |
|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A711 Effective date: 20240226 |