JP5223632B2 - Abnormality diagnosis device - Google Patents

Abnormality diagnosis device Download PDF

Info

Publication number
JP5223632B2
JP5223632B2 JP2008306501A JP2008306501A JP5223632B2 JP 5223632 B2 JP5223632 B2 JP 5223632B2 JP 2008306501 A JP2008306501 A JP 2008306501A JP 2008306501 A JP2008306501 A JP 2008306501A JP 5223632 B2 JP5223632 B2 JP 5223632B2
Authority
JP
Japan
Prior art keywords
environment information
data
environment
vehicle
predetermined point
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2008306501A
Other languages
Japanese (ja)
Other versions
JP2010126130A (en
Inventor
進也 川真田
謙一 北浜
雅人 遠藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Motor Corp
Original Assignee
Toyota Motor Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Motor Corp filed Critical Toyota Motor Corp
Priority to JP2008306501A priority Critical patent/JP5223632B2/en
Publication of JP2010126130A publication Critical patent/JP2010126130A/en
Application granted granted Critical
Publication of JP5223632B2 publication Critical patent/JP5223632B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、自動車等の自車両における異常診断装置に関する。   The present invention relates to an abnormality diagnosis apparatus for a host vehicle such as an automobile.

従来の異常診断装置としては、例えば特許文献1に記載されているように、自車両に搭載され当該自車両の周辺環境に関する環境情報(第1環境情報)を取得するセンサ(第1環境情報取得手段)と、センサの故障を検出する故障検出手段(異常診断手段)と、を備えたものが知られている。このような異常診断装置では、環境情報に基づいてセンサの故障を検出し、その旨を運転者に警告することが図られている。
特開2007−1333号公報
As a conventional abnormality diagnosis device, for example, as described in Patent Document 1, a sensor (first environment information acquisition) that is mounted on the host vehicle and acquires environment information (first environment information) related to the surrounding environment of the host vehicle. Means) and a failure detection means (abnormality diagnosis means) for detecting a sensor failure is known. In such an abnormality diagnosis apparatus, a failure of a sensor is detected based on environmental information, and a driver is warned to that effect.
JP 2007-1333 A

ここで、上記の異常診断装置では、取得される第1環境情報が自車両の周辺の移動物(周辺移動物)の有無により影響を受ける場合があり、周辺移動物の状況によって異常診断の精度が低下してしまうおそれがある。すなわち、例えば周辺移動物が移動することに起因して第1環境情報が変動する場合においても、第1環境情報取得手段に異常が発生したと誤診断されるおそれがある。   Here, in the above abnormality diagnosis apparatus, the acquired first environmental information may be affected by the presence or absence of a moving object (peripheral moving object) around the own vehicle, and the accuracy of abnormality diagnosis depends on the situation of the surrounding moving object. May decrease. That is, for example, even when the first environment information varies due to the movement of the surrounding moving object, there is a possibility that the first environment information acquisition unit is erroneously diagnosed as having an abnormality.

そこで、本発明は、周辺移動物の状況によらずに精度よく異常を診断できる異常診断装置を提供することを課題とする。   Then, this invention makes it a subject to provide the abnormality diagnosis apparatus which can diagnose an abnormality accurately irrespective of the condition of a surrounding moving object.

上記課題を解決するため、本発明に係る異常診断装置は、自車両に搭載され、自車両の周辺環境に関する第1環境情報を取得するための第1環境情報取得手段と、自車両に搭載され、第1環境データと類似する第2環境情報を取得するための第2環境情報取得手段と、第1及び第2環境情報を互いに比較し、その比較結果に基づいて第1環境情報取得手段の異常を診断する異常診断手段と、を備えたことを特徴とする。   In order to solve the above-described problems, an abnormality diagnosis device according to the present invention is mounted on a host vehicle, and is mounted on the host vehicle and first environment information acquisition means for acquiring first environment information related to the surrounding environment of the host vehicle. The second environment information acquisition means for acquiring the second environment information similar to the first environment data, and the first and second environment information are compared with each other, and the first environment information acquisition means is based on the comparison result. An abnormality diagnosis means for diagnosing an abnormality.

本発明の異常診断装置では、互いに類似する第1及び第2環境情報が比較されるため、比較結果においては、周辺移動物の有無や移動による変動が抑制され、周辺移動物の影響が低減される。よって、単に第1環境情報に基づき異常を診断するのではなく、かかる比較結果に基づき第1環境情報取得手段の異常を診断することで、周辺移動物の状況を好適に考慮し異常診断を行うことができる。従って、本発明によれば、周辺移動物の状況によらずに精度よく異常を診断することができる。   In the abnormality diagnosis device of the present invention, the first and second environmental information similar to each other are compared, and therefore, in the comparison result, the presence or absence of the surrounding moving object and the fluctuation due to the movement are suppressed, and the influence of the surrounding moving object is reduced. The Therefore, instead of merely diagnosing an abnormality based on the first environment information, an abnormality diagnosis is performed by suitably considering the situation of the surrounding moving object by diagnosing the abnormality of the first environment information acquisition unit based on the comparison result. be able to. Therefore, according to the present invention, it is possible to diagnose an abnormality with high accuracy regardless of the situation of surrounding moving objects.

また、第1環境情報取得手段は、所定地点の周辺環境に関する第1所定地点データに基づいて第1環境情報を取得し、第2環境情報取得手段は、所定地点の周辺環境に関し且つ第1所定地点データに対して周辺移動物の状況が類似する第2所定地点データに基づいて、第2環境情報を取得することが好ましい。この場合、周辺移動物の状況が互いに類似する第1及び第2環境情報の比較されるため、この比較結果では、周辺移動物の有無や移動による影響が一層抑制される。   The first environment information acquisition unit acquires the first environment information based on the first predetermined point data related to the surrounding environment of the predetermined point, and the second environment information acquisition unit relates to the surrounding environment of the predetermined point and the first predetermined point. It is preferable to acquire the second environment information based on second predetermined point data in which the situation of the surrounding moving object is similar to the point data. In this case, since the first and second environmental information whose conditions of the surrounding moving object are similar to each other are compared, in this comparison result, the presence or absence of the surrounding moving object and the influence due to the movement are further suppressed.

ここで、第2環境情報取得手段は、所定地点の周辺静止物のみに関する静止物データを第2環境情報として取得することが好ましい。これにより、例えば第1所定地点データにおける周辺移動物の影響が小さい場合等において、第1所定地点データと静止物データとが互いに比較されて、第1環境情報取得手段の異常が精度よく診断される。   Here, it is preferable that the second environment information acquisition unit acquires the stationary object data relating only to the stationary object around the predetermined point as the second environment information. Thereby, for example, when the influence of the surrounding moving object in the first predetermined point data is small, the first predetermined point data and the stationary object data are compared with each other, and the abnormality of the first environmental information acquisition unit is accurately diagnosed. The

また、第1環境情報取得手段は、具体的には、所定地点の周辺移動物に関する第1移動物データを取得すると共に、第1所定地点データ及び第1移動物データに基づいて第1環境情報を取得する場合がある。   In addition, the first environment information acquisition unit specifically acquires the first moving object data related to the moving object around the predetermined point, and the first environment information based on the first predetermined point data and the first moving object data. May get.

このとき、第1環境情報取得手段は、第1所定地点データにおいて第1移動物データに対応するデータ領域を除外してなるデータを第1環境情報として取得し、第2環境情報取得手段は、所定地点の周辺静止物のみに関する静止物データと所定地点の周辺移動物に関する第2移動物データとを取得し、静止物データにおいて第2移動物データに対応するデータ領域を除外してなるデータを第2環境情報として取得することが好ましい。これにより、例えば第1環境情報取得手段に異常が生じていると、第1所定地点データにてデータ領域の除外が正しくなされないため、第1及び第2環境情報の比較結果が互いに乖離するものとなる。よってこの場合、第1及び第2環境情報の比較結果に基づくことによって、第1環境情報取得手段の異常を精度よく診断することが可能となる。   At this time, the first environment information acquisition means acquires data obtained by excluding the data area corresponding to the first moving object data in the first predetermined point data as the first environment information, and the second environment information acquisition means includes: Data obtained by acquiring stationary object data relating only to a stationary object around a predetermined point and second moving object data relating to a moving object around the predetermined point, and excluding a data area corresponding to the second moving object data in the stationary object data. It is preferable to obtain the second environment information. As a result, for example, if the first environment information acquisition unit has an abnormality, the data area is not correctly excluded from the first predetermined point data, so that the comparison results of the first and second environment information deviate from each other. It becomes. Therefore, in this case, based on the comparison result between the first and second environment information, it is possible to accurately diagnose the abnormality of the first environment information acquisition unit.

また、自車両又は外部にはデータベースが設けられており、データベースには、自車両又は他車両における過去の周辺環境に関する過去環境情報と、過去環境情報に関連付けられ当該過去環境情報を統計処理してなる統計環境情報と、が格納され、第2環境情報取得手段は、第1環境情報に対応する統計環境情報に関連付けられた過去環境情報を、データベースから第2環境情報として呼び出すことが好ましい。この場合、精度よい第2周辺環境情報を取得することができる。   In addition, a database is provided on the host vehicle or the outside, and the database performs statistical processing on the past environment information related to the past surrounding environment of the host vehicle or other vehicles and the past environment information associated with the past environment information. It is preferable that the second environment information acquisition unit calls the past environment information associated with the statistical environment information corresponding to the first environment information as the second environment information from the database. In this case, accurate second surrounding environment information can be acquired.

本発明によれば、周辺移動物の状況によらずに精度よく異常を診断することが可能となる。   According to the present invention, it is possible to accurately diagnose an abnormality regardless of the state of a surrounding moving object.

以下、添付図面を参照して、本発明の好適な実施形態について詳細に説明する。なお、以下の説明において、同一又は相当要素には同一符号を付し、重複する説明は省略する。   Hereinafter, preferred embodiments of the present invention will be described in detail with reference to the accompanying drawings. In the following description, the same or equivalent elements will be denoted by the same reference numerals, and redundant description will be omitted.

まず、本発明の第1実施形態について説明する。図1は本発明の第1実施形態に係る異常診断装置を示す概略構成図、図2は図1の異常診断装置を説明するための図である。図1に示すように、本実施形態の異常診断装置10は、自動車等の自車両1に搭載されるものであり、ECU(Electronic Control Unit)11を備えている。このECU11には、環境認識センサ12が接続されている。   First, a first embodiment of the present invention will be described. FIG. 1 is a schematic configuration diagram showing an abnormality diagnosis apparatus according to the first embodiment of the present invention, and FIG. 2 is a diagram for explaining the abnormality diagnosis apparatus of FIG. As shown in FIG. 1, the abnormality diagnosis apparatus 10 of the present embodiment is mounted on a host vehicle 1 such as an automobile, and includes an ECU (Electronic Control Unit) 11. An environment recognition sensor 12 is connected to the ECU 11.

環境認識センサ12は、自車両1の周辺環境に関する情報である自車環境情報(第1環境情報)を取得するためのセンサであり、カメラ13、ミリ波レーダ14、ヨーレートセンサ15及びGPS(Global Positioning System)端末16を含んで構成されている。   The environment recognition sensor 12 is a sensor for acquiring own vehicle environment information (first environment information) that is information related to the surrounding environment of the own vehicle 1, and includes a camera 13, a millimeter wave radar 14, a yaw rate sensor 15, and a GPS (Global Positioning System) The terminal 16 is configured.

カメラ13は、自車両1周辺の自車画像データを認識する。ミリ波レーダ14は、自車両1周辺の移動物である周辺移動物T(図9参照)の状況に関する自車移動物データ(第1移動物データ)を取得する。なお、周辺移動物Tとしては、例えば歩行者や他車両等が挙げられ、周辺移動物Tの状況としては、例えば周辺移動物Tの配置関係等が挙げられる。ヨーレートセンサ15は、自車両1のヨーレートに関するヨーレートデータを取得する。GPS端末16は、ナビゲーションシステム端末であり、自車両1の路上位置に関する自車位置データを取得する。   The camera 13 recognizes own vehicle image data around the own vehicle 1. The millimeter wave radar 14 obtains own vehicle moving object data (first moving object data) relating to the situation of the surrounding moving object T (see FIG. 9) that is a moving object around the own vehicle 1. Examples of the peripheral moving object T include pedestrians and other vehicles, and examples of the situation of the peripheral moving object T include the arrangement relationship of the peripheral moving object T. The yaw rate sensor 15 acquires yaw rate data related to the yaw rate of the host vehicle 1. The GPS terminal 16 is a navigation system terminal, and acquires own vehicle position data related to the road position of the own vehicle 1.

そして、ECU11では、環境認識センサ12で取得された各データが入力され、これら各データに基づいて自車環境情報が生成される。また、ECU11には、通信装置17、自車環境情報格納メモリ18、リファレンス情報格納メモリ19及びディスプレイ20が接続されている。   Then, the ECU 11 receives each data acquired by the environment recognition sensor 12 and generates own vehicle environment information based on these data. Further, the ECU 11 is connected to a communication device 17, a host vehicle environment information storage memory 18, a reference information storage memory 19 and a display 20.

通信装置17は、図2に示す他車両2及びインフラ3と送受信を行い、自車環境情報と類似するリファレンス情報(第2環境情報)を取得するためのものである。具体的には、通信装置17は、移動体通信網を利用して他車両2及びインフラ3のデータベース4と接続し、データベース4からリファレンス情報を呼び出す。データベース4には、他車両2の過去の走行時においての他車両2の周辺環境に関する過去環境情報と、この過去環境情報に関連付けられ(紐付けされ)当該過去環境情報を統計処理してなる統計環境情報とが格納されている。統計処理としては、種々のものを採用することができ、例えば同様な複数の過去環境情報を平均化する処理が挙げられる。   The communication device 17 transmits / receives to / from the other vehicle 2 and the infrastructure 3 shown in FIG. 2 and acquires reference information (second environment information) similar to the own vehicle environment information. Specifically, the communication device 17 connects to the database 4 of the other vehicle 2 and the infrastructure 3 using the mobile communication network, and calls the reference information from the database 4. The database 4 includes the past environment information related to the surrounding environment of the other vehicle 2 when the other vehicle 2 travels in the past, and the statistics obtained by statistically processing the past environment information associated (linked) with the past environment information. Environment information is stored. As the statistical process, various processes can be adopted, and for example, a process of averaging a plurality of similar past environment information can be cited.

図1に戻り、自車環境情報格納メモリ18は、生成された自車環境情報を格納する。ここでの自車環境情報格納メモリ18は、他車両2にとっての上記データベース4に相当するものであり、上記データベース4と同様に、自車両1の過去の走行時においての自車環境情報を過去環境情報として格納すると共に、この過去環境情報に関連付けられ当該過去環境情報を統計処理してなる統計環境情報とを格納する。リファレンス情報格納メモリ19は、呼び出されたリファレンス情報を格納する。   Returning to FIG. 1, the host vehicle environment information storage memory 18 stores the generated host vehicle environment information. The host vehicle environment information storage memory 18 here corresponds to the database 4 for the other vehicle 2, and, similar to the database 4, the host vehicle environment information when the host vehicle 1 has traveled in the past is stored in the past. In addition to storing as environmental information, statistical environmental information associated with the past environmental information and statistically processing the past environmental information is stored. The reference information storage memory 19 stores the called reference information.

そして、ECU11は、自車環境情報及びリファレンス情報を互いに比較し、その比較結果に基づいて環境認識センサ12の異常(例えば、故障、配置不良又は劣化等)を診断し、その診断結果をディスプレイ20上に出力する(詳しくは後述)。   Then, the ECU 11 compares the vehicle environment information and the reference information with each other, diagnoses an abnormality (for example, failure, poor placement or deterioration) of the environment recognition sensor 12 based on the comparison result, and displays the diagnosis result on the display 20. Output above (details will be described later).

次に、以上のように構成された異常診断装置10の処理について図3に示すフローチャートを参照しつつ説明する。   Next, the processing of the abnormality diagnosis apparatus 10 configured as described above will be described with reference to the flowchart shown in FIG.

本実施形態の異常診断装置10では、まず、環境認識センサ12にて上記の各データが取得され、これらの各データに基づきECU11にて自車環境情報が生成されて取得される(S1)。ここでの自車環境情報は、自車両1の現在地点である所定地点Dの周辺環境に関する第1所定地点データであって、自車画像データ、自車位置データ、車体の向きに関する向きデータ及び自車移動物データを含んで構成されている。   In the abnormality diagnosis device 10 of the present embodiment, first, each of the above data is acquired by the environment recognition sensor 12, and the vehicle environment information is generated and acquired by the ECU 11 based on these data (S1). The vehicle environment information here is first predetermined point data related to the surrounding environment of the predetermined point D, which is the current point of the own vehicle 1, and includes own vehicle image data, own vehicle position data, direction data about the vehicle body direction, and It consists of own vehicle moving object data.

続いて、生成された自車環境情報が自車環境情報格納メモリ18に格納されると共に、通信装置17によって他車両2及びインフラ3へ伝送(送信)され(S2)、複数のリファレンス情報が呼び出されて取得される(S3)。   Subsequently, the generated vehicle environment information is stored in the vehicle environment information storage memory 18 and is transmitted (transmitted) to the other vehicle 2 and the infrastructure 3 by the communication device 17 (S2), and a plurality of reference information is called up. (S3).

具体的には、通信装置17によって自車環境情報が伝送されると、データベース4において自車環境情報に対して類似する統計環境情報が選択される。より具体的には、所定地点Dにおいての他車両2の周辺環境に関するデータであって、自車環境情報に対し周辺移動物Tの状況及び車体の向きが類似する周辺環境に関する第2所定地点データである統計環境情報が選択される(換言すると、自車環境情報の自車位置データと同じで、且つ向きデータ及び自車移動物データと類似する統計環境情報が選択される)。そして、選択された統計環境情報に関連付けられた過去環境情報が、リファレンス情報として他車両2及びインフラ3から自車両1へ伝送される。なお、上記の「類似する」とは、例えば統計上、経験上もしくはセンサ性能上の観点で両者の間にあまり差がないものを意味し、両者の差が所定値よりも小さいこと指している。   Specifically, when the vehicle environment information is transmitted by the communication device 17, statistical environment information similar to the vehicle environment information is selected in the database 4. More specifically, it is data relating to the surrounding environment of the other vehicle 2 at the predetermined point D, and is the second predetermined point data relating to the surrounding environment in which the situation of the surrounding moving object T and the direction of the vehicle body are similar to the own vehicle environment information. Is selected (in other words, statistical environment information that is the same as the vehicle position data of the vehicle environment information and similar to the direction data and the vehicle moving object data is selected). Then, past environment information associated with the selected statistical environment information is transmitted from the other vehicle 2 and the infrastructure 3 to the host vehicle 1 as reference information. The above “similar” means, for example, that there is not much difference between the two in terms of statistics, experience, or sensor performance, and that the difference between the two is smaller than a predetermined value. .

続いて、ECU11にて、呼び出された複数のリファレンス情報が平均化され、この平均化されたリファレンス情報と自車環境情報とが照合されて比較される(S4)。そして、この比較結果、すなわち、平均化されたリファレンス情報と自車環境情報との差が、閾値(例えば、統計環境情報における統計処理の公差値)内の場合には、環境認識センサ12が正常と診断され(S5→S6)、その旨がディスプレイ20に表示される(S7)。一方、閾値以上の場合には、環境認識センサ12に異常が生じていると診断され(S5→S8)、その旨がディスプレイ20上に表示される(図4参照)。   Subsequently, the ECU 11 averages the plurality of called reference information, and compares and compares the averaged reference information with the vehicle environment information (S4). If the comparison result, that is, the difference between the averaged reference information and the vehicle environment information is within a threshold value (for example, the tolerance value of statistical processing in the statistical environment information), the environment recognition sensor 12 is normal. (S5 → S6), and a message to that effect is displayed on the display 20 (S7). On the other hand, if it is equal to or greater than the threshold value, it is diagnosed that an abnormality has occurred in the environment recognition sensor 12 (S5 → S8), and that effect is displayed on the display 20 (see FIG. 4).

図5は、自車環境情報とリファレンス情報との一例を示すグラフである。ここでの自車環境情報F1及びリファレンス情報F2は、所定地点Dの画像データに関するものであり、リファレンスデータF2には、上述した平均化が施されている。図中において、横軸が画像データにおける画像位置を示し、縦軸が輝度値を示している。図5に示す例では、特に自車環境情報F1及びリファレンス情報F2が画像位置Pで大きく乖離していることから、カメラ13に異常が生じていると診断され、その旨がディスプレイ20に表示されることとなる。   FIG. 5 is a graph showing an example of host vehicle environment information and reference information. The vehicle environment information F1 and the reference information F2 here relate to the image data of the predetermined point D, and the above-described averaging is performed on the reference data F2. In the figure, the horizontal axis indicates the image position in the image data, and the vertical axis indicates the luminance value. In the example shown in FIG. 5, since the own vehicle environment information F1 and the reference information F2 are largely different from each other at the image position P, it is diagnosed that an abnormality has occurred in the camera 13, and that fact is displayed on the display 20. The Rukoto.

以上、本実施形態では、互いに類似する自車環境情報及びリファレンス情報が比較される、すなわち、互いに類似するシチュエーションのときの周囲環境の情報が自車環境情報及びリファレンス情報として比較される。そのため、比較結果においては、周辺移動物Tの有無や移動による変動が抑制され、周辺移動物Tの影響が低減される。つまり、例えば周辺移動物Tが移動しても、自車環境情報は変動するものの、自車環境情報及びリファレンス情報の差の変動は抑制されるのである。従って、本実施形態によれば、単に自車環境情報に基づき異常を診断するのではなく、かかる比較結果に基づき環境認識センサ12の異常を診断することで、周辺移動物Tの状況を好適に考慮して異常診断を行うことが可能となり、周辺移動物Tの状況によらずに精度よく異常を診断することができる。   As described above, in the present embodiment, vehicle environment information and reference information that are similar to each other are compared, that is, information about the surrounding environment in a situation that is similar to each other is compared as vehicle environment information and reference information. Therefore, in the comparison result, the presence or absence of the peripheral moving object T and the fluctuation due to the movement are suppressed, and the influence of the peripheral moving object T is reduced. That is, for example, even if the surrounding moving object T moves, the own vehicle environment information changes, but the change in the difference between the own vehicle environment information and the reference information is suppressed. Therefore, according to the present embodiment, the abnormality of the environment recognition sensor 12 is diagnosed based on the comparison result instead of simply diagnosing the abnormality based on the own vehicle environment information. The abnormality diagnosis can be performed in consideration of the above, and the abnormality can be diagnosed with high accuracy regardless of the situation of the surrounding moving object T.

また、本実施形態では、上述したように、環境認識センサ12が、所定地点Dの周辺環境に関する自車環境情報を取得すると共に、通信装置17が、所定地点Dの周辺環境に関し且つ自車環境情報に対して周辺移動物Tの状況が類似するリファレンス情報を取得している。従って、自車環境情報及びリファレンス情報では周辺移動物Tの状況が互いに類似するため、これらの比較結果においては周辺移動物Tの影響を一層抑制することができる。   In the present embodiment, as described above, the environment recognition sensor 12 acquires the vehicle environment information related to the surrounding environment of the predetermined point D, and the communication device 17 relates to the surrounding environment of the predetermined point D and the vehicle environment. Reference information in which the situation of the surrounding moving object T is similar to the information is acquired. Therefore, since the situation of the surrounding moving object T is similar to each other in the vehicle environment information and the reference information, the influence of the surrounding moving object T can be further suppressed in these comparison results.

また、本実施形態では、上述したように、通信装置17で自車環境情報を他車両2及びインフラ3に伝送することで、この自車環境情報に対応する統計環境情報がデータベース4内で選択され、選択された統計環境情報に関連付けられた過去環境情報がリファレンス情報として呼び出されている。このようにしてリファレンス情報を取得することにより、精度よいリファレンス情報を取得することができる。   Further, in the present embodiment, as described above, statistical environment information corresponding to this vehicle environment information is selected in the database 4 by transmitting the vehicle environment information to the other vehicle 2 and the infrastructure 3 by the communication device 17. The past environment information associated with the selected statistical environment information is called as reference information. By acquiring reference information in this way, accurate reference information can be acquired.

なお、本実施形態では、上述したように、複数のリファレンス情報を平均化したリファレンス情報と自車環境情報とが比較されるため、これらの情報の統計的な有意差が大きいときに環境認識センサ12の異常が判断されることとなる。   In the present embodiment, as described above, since the reference information obtained by averaging a plurality of reference information and the vehicle environment information are compared, the environment recognition sensor is used when a statistically significant difference between these pieces of information is large. Twelve abnormalities will be judged.

ところで、従来、予め設けられた環境認識センサ12の異常に関する異常発生データベースを利用したり、自車環境情報の時系列変化に基づいたり等することで、かかる異常診断を行う場合がある。しかし、この場合、既に故障した結果が予め必要であり、また、不変性の高い静止物(例えば、建物や電柱等)を診断の基準物としなければならない。よって、周囲環境に静止物が十分に存在しない場合や移動物等の外乱の影響が大きい場合には、環境認識センサ12の異常を精度よく診断することが困難である。そのため、従来の異常診断装置では、周辺環境の基準物に対する一意な応答が要されると共に、異常診断の可能な地点が安定した条件下に限定されてしまうおそれがある。   By the way, conventionally, there is a case where such abnormality diagnosis is performed by using an abnormality occurrence database relating to abnormality of the environment recognition sensor 12 provided in advance or based on a time series change of the vehicle environment information. However, in this case, the already failed result is necessary in advance, and a stationary object having high invariance (for example, a building or a utility pole) must be used as a reference for diagnosis. Therefore, when there are not enough stationary objects in the surrounding environment or when the influence of disturbance such as moving objects is large, it is difficult to accurately diagnose the abnormality of the environment recognition sensor 12. For this reason, in the conventional abnormality diagnosis apparatus, a unique response to a reference object in the surrounding environment is required, and the point where abnormality diagnosis is possible may be limited to stable conditions.

この点、本実施形態では、上述したように、互いに類似する自車環境情報及びリファレンス情報を比較して異常診断を行うことから、主な静止物が存在しない周囲環境でもロバスト性の高い診断が可能であり、よって、本実施形態は特に有効なものといえる。   In this respect, in the present embodiment, as described above, the abnormality diagnosis is performed by comparing the own vehicle environment information and the reference information that are similar to each other, and therefore, a highly robust diagnosis can be performed even in the surrounding environment where there is no main stationary object. Therefore, this embodiment can be said to be particularly effective.

ちなみに、自車環境情報及びリファレンス情報は、本実施形態に限定されるものではなく、例えば、ミリ波レーダ14等のレーダセンサに関すれば、照射位置に対する反射波の受信強度データ(以下、単に「受信強度データ」という)を自車環境情報及びリファレンス情報として取得してもよい。   Incidentally, the host vehicle environment information and the reference information are not limited to the present embodiment. For example, in the case of a radar sensor such as the millimeter wave radar 14, the received wave intensity data of the reflected wave with respect to the irradiation position (hereinafter, simply referred to as “reception wave”). (Referred to as “reception intensity data”) may be acquired as the vehicle environment information and the reference information.

以上において、環境認識センサ12と自車環境情報を生成するECU11とが第1環境情報取得手段を構成し、通信装置17が第2環境情報取得手段を構成し、環境認識センサ12の異常を診断するECU11が異常診断手段を構成する。   In the above, the environment recognition sensor 12 and the ECU 11 that generates the vehicle environment information constitute the first environment information acquisition means, and the communication device 17 constitutes the second environment information acquisition means, and the abnormality of the environment recognition sensor 12 is diagnosed. The ECU 11 that constitutes the abnormality diagnosis means.

次に、本発明の第2実施形態について説明する。なお、本実施形態の説明においては、上記の第1実施形態と異なる点を主に説明し、重複部分を省略する。   Next, a second embodiment of the present invention will be described. In the description of the present embodiment, differences from the first embodiment will be mainly described, and overlapping portions will be omitted.

本実施形態の異常診断装置では、通信装置17によって複数のリファレンス情報が呼び出される(図6のS3)。ここでは、図7に示すように、リファレンス情報として、他車両2A〜2B(図2参照)から、所定地点Dの周囲環境に関するリファレンス画像データ(第2所定地点データ)6A〜6Bがそれぞれ伝送される。   In the abnormality diagnosis device of the present embodiment, a plurality of pieces of reference information are called by the communication device 17 (S3 in FIG. 6). Here, as shown in FIG. 7, reference image data (second predetermined point data) 6 </ b> A to 6 </ b> B related to the surrounding environment of the predetermined point D is transmitted as the reference information from the other vehicles 2 </ b> A to 2 </ b> B (see FIG. 2). The

ここで、例えば、リファレンス画像データ6A〜6Bを互いに重ね合わせて1つの画像データとなるように処理すると、これら画像の周辺静止物Sは互いに同じであることから周辺静止物Sの画像位置の輝度値は高くなる(濃くなる)一方、周辺移動物Tの画像位置の輝度値は周辺静止物Sに比べて低くなる(薄くなる)。   Here, for example, when the reference image data 6A to 6B are overlapped with each other and processed so as to become one image data, the peripheral stationary objects S of these images are the same as each other. While the value becomes higher (darker), the luminance value at the image position of the peripheral moving object T becomes lower (thinner) than that of the peripheral stationary object S.

そこで、ECU11では、リファレンス画像データ6A〜6Bにおける画像位置毎の輝度値が積分され、この積分値が一定値以下の画像位置領域がリファレンス移動データ(第2移動物データ)として抽出される。そして、リファレンス画像データ6A〜6Bにおいてリファレンス移動データが除外され、図8(a)に示すように、所定地点Dの周辺静止物Sのみに関する静止物画像データ(静止物データ)7が取得される(S21)。   Therefore, the ECU 11 integrates the luminance value for each image position in the reference image data 6A to 6B, and extracts an image position area where the integrated value is equal to or less than a certain value as reference movement data (second moving object data). Then, the reference movement data is excluded from the reference image data 6A to 6B, and as shown in FIG. 8A, the stationary object image data (stationary object data) 7 relating only to the peripheral stationary object S at the predetermined point D is acquired. (S21).

続いて、上記S1にて取得された自車環境情報の自車画像データ22(図9(a)参照:第1所定地点データ)及び自車移動物データに基づいて画像処理が行なわれる。具体的には、図9(b)に示すように、所定地点Dの自車画像データ22において、周辺移動物Tに関する自車移動データに対応する領域(データ領域)R1がマスキングされ、自車マスキングデータ23が取得される(S22)。なお、ここでのマスキングは、領域R1,R2にて輝度値を一定(例えば、最大値/最小値)にする処理を意味し、リファレンス移動データのデータ領域を除外(消去)するものを意味している(以下、同じ)。   Subsequently, image processing is performed based on the vehicle image data 22 (see FIG. 9A: first predetermined point data) of the vehicle environment information acquired in S1 and the vehicle moving object data. Specifically, as shown in FIG. 9B, in the vehicle image data 22 of the predetermined point D, a region (data region) R1 corresponding to the vehicle movement data related to the surrounding moving object T is masked, and the vehicle Masking data 23 is acquired (S22). Note that the masking here means processing to make the luminance value constant (for example, maximum value / minimum value) in the regions R1 and R2, and means to exclude (erase) the data region of the reference movement data. (Hereinafter the same).

また、上記S21にて取得された静止物画像データ7及びリファレンス移動物データに基づいて画像処理が行なわれる。具体的には、図8(b)に示すように、静止物画像データ7において、リファレンス移動データに対応する領域(データ領域)R2がマスキングされ、リファレンスマスキングデータ8が取得される(S23)。   Further, image processing is performed based on the stationary object image data 7 and the reference moving object data acquired in S21. Specifically, as shown in FIG. 8B, in the stationary object image data 7, the region (data region) R2 corresponding to the reference movement data is masked, and the reference masking data 8 is acquired (S23).

その後、自車マスキングデータ23とリファレンスマスキングデータ8とが比較され(S4)、これらの差が閾値内の場合には正常と診断される一方(S6)、閾値以上の場合には環境認識センサ12に異常が生じていると診断される(S8)。   Thereafter, the own vehicle masking data 23 and the reference masking data 8 are compared (S4). If these differences are within the threshold value, the vehicle is diagnosed as normal (S6). It is diagnosed that an abnormality has occurred (S8).

以上、本実施形態では、環境認識センサ12が正常の場合、自車画像データ22及び領域R1を正確に識別することができることから、正確な自車マスキングデータ23を取得することができるため、マスキングデータ8,23との差が閾値内となる。他方、環境認識センサ12に異常が生じていると、自車画像データ22にて正しくマスキングできないことから、マスキングデータ8,23が互いに乖離するため、これらの差が閾値以上となる。よって、本実施形態においても、環境認識センサ12の異常を精度よく診断することが可能となる。   As described above, in the present embodiment, when the environment recognition sensor 12 is normal, the vehicle image data 22 and the region R1 can be accurately identified, and therefore, the accurate vehicle masking data 23 can be acquired. The difference from the data 8 and 23 is within the threshold value. On the other hand, if there is an abnormality in the environment recognition sensor 12, masking data 8 and 23 are deviated from each other because the vehicle image data 22 cannot be correctly masked. Therefore, also in the present embodiment, it is possible to diagnose an abnormality of the environment recognition sensor 12 with high accuracy.

なお、本実施形態では、自車画像データ22における周辺移動物Tの面積割合(影響)が小さい場合、マスキングデータ8,23を生成せず、自車画像データ22を静止物画像データ7と比較して環境認識センサ12の異常を精度よく診断することもできる。   In the present embodiment, when the area ratio (influence) of the surrounding moving object T in the vehicle image data 22 is small, the masking data 8 and 23 are not generated, and the vehicle image data 22 is compared with the stationary object image data 7. Thus, the abnormality of the environment recognition sensor 12 can be diagnosed with high accuracy.

ちなみに、本実施形態では、自車マスキングデータ23及びリファレンスマスキングデータ8を第1及び第2環境情報として取得したが、これに限定されるものではなく、例えばミリ波レーダ14等のレーダセンサに関すれば、次のようにして第1及び第2環境情報を取得してもよい。すなわち、受信強度データのうち周辺移動物Tが存在するとされた位置のデータ領域を消去することで、上記マスキングデータ8,23に対応するものとして「周辺移動物Tに関する受信強度がゼロとされている受信強度データ」を生成し、この生成した受信強度データを第1及び第2環境情報として取得してもよい。この場合、レーダセンサの異常のために上記消去を正確に処理できないと、第1及び第2環境情報として取得された各受信強度データの差分値が大きくなる。   Incidentally, in the present embodiment, the own vehicle masking data 23 and the reference masking data 8 are acquired as the first and second environment information, but the present invention is not limited to this. For example, the present invention relates to a radar sensor such as the millimeter wave radar 14. Then, you may acquire 1st and 2nd environmental information as follows. That is, by erasing the data area at the position where the peripheral moving object T is present in the received intensity data, it is assumed that the received intensity related to the peripheral moving object T is zero, as corresponding to the masking data 8 and 23. May be acquired as the first and second environment information. In this case, if the erasure cannot be accurately processed due to an abnormality of the radar sensor, the difference value between the received intensity data acquired as the first and second environment information becomes large.

以上、本発明の好適な実施形態について説明したが、本発明は上記実施形態に限定されるものではない。   The preferred embodiment of the present invention has been described above, but the present invention is not limited to the above embodiment.

例えば、上記実施形態では、外部のデータベース4からリファレンス情報を取得したが、自車環境情報格納メモリ18の過去環境情報に基づいてリファレンス情報を取得する場合もある。また、上記実施形態では、他車両2及びインフラ3の両者からリファレンス情報を取得したが、これらの何れか一方のみから取得してもよく、1台の他車両2からリファレンス情報を取得してもよい。   For example, in the above embodiment, reference information is acquired from the external database 4, but reference information may be acquired based on past environment information in the host vehicle environment information storage memory 18. Moreover, in the said embodiment, although reference information was acquired from both the other vehicle 2 and the infrastructure 3, you may acquire only from any one of these, and even if reference information is acquired from one other vehicle 2 Good.

また、上記実施形態は、通信装置17を備えているが、これに代えて路車間通信や車車間通信を利用するものを備えていてもよい。また、上記実施形態では、環境認識センサ12がカメラ13、ミリ波レーダ14、ヨーレートセンサ15及びGPS端末16を含んでいるが、自車環境情報を取得するためのものであれば、種々のセンサ等を含んでいてもよい。   Moreover, although the said embodiment is provided with the communication apparatus 17, it may replace with this and may provide what uses road-to-vehicle communication and vehicle-to-vehicle communication. In the above embodiment, the environment recognition sensor 12 includes the camera 13, the millimeter wave radar 14, the yaw rate sensor 15, and the GPS terminal 16. Etc. may be included.

また、上記実施形態では、ディスプレイ20を用いディスプレイ20上にその旨を表示させたが、その旨を運転者に報知できれば、警報を出力する警報器等を用いてもよい。   In the above-described embodiment, the display 20 is used to display the fact on the display 20, but an alarm device that outputs an alarm may be used as long as the driver can be notified of the fact.

本発明の第1実施形態に係る異常診断装置を示す概略構成図。1 is a schematic configuration diagram showing an abnormality diagnosis apparatus according to a first embodiment of the present invention. 図1の異常診断装置を説明するための図である。It is a figure for demonstrating the abnormality diagnosis apparatus of FIG. 図1の異常診断装置の処理を示すフローチャートである。It is a flowchart which shows the process of the abnormality diagnosis apparatus of FIG. 図1の異常診断装置のディスプレイを示す図である。It is a figure which shows the display of the abnormality diagnosis apparatus of FIG. 自車環境情報とリファレンス情報との一例を示すグラフである。It is a graph which shows an example of the own vehicle environment information and reference information. 本発明の第2実施形態に係る異常診断装置の処理を示すフローチャートである。It is a flowchart which shows the process of the abnormality diagnosis apparatus which concerns on 2nd Embodiment of this invention. リファレンス画像データを示す図である。It is a figure which shows reference image data. (a)は静止物画像データを示す図、(b)はリファレンスマスキングデータを示す図である(A) is a figure which shows stationary object image data, (b) is a figure which shows reference masking data. (a)は自車画像データを示す図、(b)は自車マスキングデータを示す図である(A) is a figure which shows own vehicle image data, (b) is a figure which shows own vehicle masking data.

符号の説明Explanation of symbols

1…自車両、2,2A〜2C…他車両、4…データベース、6A〜6B…リファレンス画像データ(第2所定地点データ)、7…静止物画像データ(静止物データ)、10…異常診断装置、11…ECU(第1環境情報取得手段,異常診断手段)、12…環境認識センサ(第1環境情報取得手段)、17…通信装置(第2環境情報取得手段)、22…自車画像データ(第1所定地点データ)、D…所定地点、R1,R2…領域(データ領域)、T…周辺移動物。   DESCRIPTION OF SYMBOLS 1 ... Own vehicle, 2, 2A-2C ... Other vehicles, 4 ... Database, 6A-6B ... Reference image data (2nd predetermined point data), 7 ... Still object image data (stationary object data), 10 ... Abnormality diagnosis apparatus , 11 ... ECU (first environment information acquisition means, abnormality diagnosis means), 12 ... environment recognition sensor (first environment information acquisition means), 17 ... communication device (second environment information acquisition means), 22 ... own vehicle image data (First predetermined point data), D... Predetermined point, R1, R2... Region (data region), T.

Claims (3)

自車両に搭載され、自車両の周辺環境に関する第1環境情報を取得するための第1環境情報取得手段と、
自車両に搭載され、前記第1環境情報と類似する第2環境情報を取得するための第2環境情報取得手段と、
前記第1及び第2環境情報を互いに比較し、その比較結果に基づいて前記第1環境情報取得手段の異常を診断する異常診断手段と、を備え、
前記第1環境情報取得手段は、所定地点の周辺環境に関する第1所定地点データに基づいて前記第1環境情報を取得し、
前記第2環境情報取得手段は、前記所定地点の周辺環境に関し且つ前記第1所定地点データに対して周辺移動物の状況が類似する第2所定地点データに基づいて、前記第2環境情報を取得すると共に、前記所定地点の周辺静止物のみに関する静止物データを前記第2環境情報として取得し、
自車両又は外部には、データベースが設けられており、
前記データベースには、自車両又は他車両における過去の周辺環境に関する過去環境情報と、前記過去環境情報に関連付けられ当該過去環境情報を統計処理してなる統計環境情報と、が格納され、
前記第2環境情報取得手段は、前記第1環境情報に対応する前記統計環境情報に関連付けられた前記過去環境情報を、前記データベースから前記第2環境情報として呼び出すことを特徴とする異常診断装置。
A first environment information acquisition means mounted on the host vehicle for acquiring first environment information relating to the surrounding environment of the host vehicle;
Mounted on the vehicle, and the second environmental information acquisition means for acquiring a second environmental information similar to the first environmental information,
An abnormality diagnosing means for comparing the first and second environment information with each other and diagnosing an abnormality of the first environment information acquiring means based on the comparison result;
The first environment information acquisition means acquires the first environment information based on first predetermined point data related to the surrounding environment of the predetermined point,
The second environment information acquisition means acquires the second environment information based on second predetermined point data relating to the surrounding environment of the predetermined point and having a situation of a surrounding moving object similar to the first predetermined point data. And obtaining stationary object data relating only to stationary objects around the predetermined point as the second environment information,
There is a database on your vehicle or outside,
The database stores past environment information related to the past surrounding environment in the host vehicle or other vehicles, and statistical environment information obtained by statistically processing the past environment information associated with the past environment information,
The abnormality diagnosis apparatus, wherein the second environment information acquisition unit calls the past environment information associated with the statistical environment information corresponding to the first environment information from the database as the second environment information .
前記第1環境情報取得手段は、前記所定地点の周辺移動物に関する第1移動物データを取得すると共に、前記第1所定地点データ及び前記第1移動物データに基づいて前記第1環境情報を取得することを特徴とする請求項記載の異常診断装置。 The first environment information acquisition unit acquires first moving object data related to moving objects around the predetermined point, and acquires the first environment information based on the first predetermined point data and the first moving object data. The abnormality diagnosis device according to claim 1, wherein: 前記第1環境情報取得手段は、
前記第1所定地点データにおいて前記第1移動物データに対応するデータ領域を除外してなるデータを前記第1環境情報として取得し、
前記第2環境情報取得手段は、
前記所定地点の周辺静止物のみに関する静止物データと前記所定地点の周辺移動物に関する第2移動物データとを取得し、
前記静止物データにおいて前記第2移動物データに対応するデータ領域を除外してなるデータを前記第2環境情報として取得することを特徴とする請求項記載の異常診断装置。
The first environmental information acquisition means includes
In the first predetermined point data, data obtained by excluding a data area corresponding to the first moving object data is acquired as the first environment information,
The second environment information acquisition means includes
Obtaining stationary object data relating only to stationary objects around the predetermined point and second moving object data relating to moving objects around the predetermined point;
Abnormality diagnosis apparatus according to claim 2, wherein the acquiring the data obtained by excluding the data region corresponding to the second moving object data in said stationary object data as the second environmental information.
JP2008306501A 2008-12-01 2008-12-01 Abnormality diagnosis device Expired - Fee Related JP5223632B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2008306501A JP5223632B2 (en) 2008-12-01 2008-12-01 Abnormality diagnosis device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008306501A JP5223632B2 (en) 2008-12-01 2008-12-01 Abnormality diagnosis device

Publications (2)

Publication Number Publication Date
JP2010126130A JP2010126130A (en) 2010-06-10
JP5223632B2 true JP5223632B2 (en) 2013-06-26

Family

ID=42326791

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008306501A Expired - Fee Related JP5223632B2 (en) 2008-12-01 2008-12-01 Abnormality diagnosis device

Country Status (1)

Country Link
JP (1) JP5223632B2 (en)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE112015005973B4 (en) 2015-01-15 2023-07-27 Denso Corporation On-board unit
DE112015005917B4 (en) 2015-01-09 2023-08-31 Denso Corporation on-vehicle unit and on-vehicle unit diagnosis system

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102013220016A1 (en) * 2013-10-02 2015-04-02 Conti Temic Microelectronic Gmbh Method and device for monitoring the function of a driver assistance system
JP6435994B2 (en) 2015-06-03 2018-12-12 株式会社デンソー In-vehicle device
JPWO2018061425A1 (en) * 2016-09-29 2019-07-18 パナソニックIpマネジメント株式会社 Sensor failure detection device and control method therefor
US11086326B2 (en) 2017-01-16 2021-08-10 Hitachi, Ltd. Moving object controller and moving object control method
WO2018155142A1 (en) * 2017-02-21 2018-08-30 日立オートモティブシステムズ株式会社 Vehicle control device
JP6815925B2 (en) * 2017-04-24 2021-01-20 日立オートモティブシステムズ株式会社 Vehicle electronic control device
WO2019116537A1 (en) 2017-12-15 2019-06-20 富士通株式会社 Information acquisition method, information acquisition device, in-vehicle device, on-road sensor device, and information acquisition system
JP6988674B2 (en) * 2018-05-07 2022-01-05 トヨタ自動車株式会社 Diagnostic equipment, diagnostic system, and diagnostic method
JP7126256B2 (en) 2018-10-30 2022-08-26 国立研究開発法人宇宙航空研究開発機構 Abnormality diagnosis device, abnormality diagnosis method, and program
JP7382791B2 (en) * 2019-10-30 2023-11-17 株式会社日立製作所 Abnormality determination device, vehicle support system

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001211466A (en) * 2000-01-27 2001-08-03 Toshiba Corp Image processing system having self-diagnostic function
JP2005033680A (en) * 2003-07-10 2005-02-03 Toyota Motor Corp Image processing apparatus for vehicle
JP4130435B2 (en) * 2004-11-30 2008-08-06 本田技研工業株式会社 Abnormality detection device for imaging device
JP2007024590A (en) * 2005-07-13 2007-02-01 Toyota Motor Corp Object detector
JP4459144B2 (en) * 2005-09-26 2010-04-28 アルパイン株式会社 Image display device for vehicle

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE112015005917B4 (en) 2015-01-09 2023-08-31 Denso Corporation on-vehicle unit and on-vehicle unit diagnosis system
DE112015005973B4 (en) 2015-01-15 2023-07-27 Denso Corporation On-board unit

Also Published As

Publication number Publication date
JP2010126130A (en) 2010-06-10

Similar Documents

Publication Publication Date Title
JP5223632B2 (en) Abnormality diagnosis device
US10332321B2 (en) In-vehicle unit and in-vehicle unit diagnosis system
CN107113070B (en) On-vehicle device and on-vehicle device diagnostic system
US9273971B2 (en) Apparatus and method for detecting traffic lane using wireless communication
US20180017799A1 (en) Heads Up Display For Observing Vehicle Perception Activity
JP2020042815A (en) Traffic signal recognition method, device, apparatus, storage medium and vehicle
CN107209986B (en) Vehicle-mounted device
US20190149813A1 (en) Method and apparatus for camera fault detection and recovery
US20190226854A1 (en) Methods and systems for improving maps
EP3503066B1 (en) Method for determining the position of mobile node and related communication system, road side unit, and vehicle thereof
US10803751B2 (en) Processing device
US9830826B2 (en) Driving assistance apparatus
US11252532B2 (en) Systems and methods for determining a vehicle driver using at least peer-to-peer network signals
WO2014132432A1 (en) Device for controlling display of vehicle location and program for identifying vehicle location
US10438492B2 (en) Method for evaluating a hazardous situation which is sensed by at least one sensor of a vehicle, method for controlling reproduction of a hazard warning and method for reproducing a hazard warning
WO2015079630A1 (en) Driving assistance unit and driving assistance system
CN112009467A (en) Redundant context aware tracking for autonomous driving systems
US20180107946A1 (en) Alert output apparatus
JP6075377B2 (en) COMMUNICATION DEVICE, COMMUNICATION SYSTEM, COMMUNICATION METHOD, AND PROGRAM
US10163345B2 (en) Method and device for providing an event message indicative of an imminent event for a vehicle
CN109691063B (en) Method and apparatus for receiving, processing and transmitting data
KR101104442B1 (en) Method and apparatus for diagnosing radar trouble
US20190080182A1 (en) Information processing device, information providing system, and information providing method
US20230308832A1 (en) Systems and methods for determining a vehicle driver using at least peer-to-peer network signals
CN110745145A (en) Multi-sensor management system for ADAS

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110614

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20121112

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20121127

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20121207

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130212

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130225

R151 Written notification of patent or utility model registration

Ref document number: 5223632

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160322

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees