JP2019533609A - ニアクラッシュ判定システムおよび方法 - Google Patents

ニアクラッシュ判定システムおよび方法 Download PDF

Info

Publication number
JP2019533609A
JP2019533609A JP2019535219A JP2019535219A JP2019533609A JP 2019533609 A JP2019533609 A JP 2019533609A JP 2019535219 A JP2019535219 A JP 2019535219A JP 2019535219 A JP2019535219 A JP 2019535219A JP 2019533609 A JP2019533609 A JP 2019533609A
Authority
JP
Japan
Prior art keywords
vehicle
risk
risk map
collision
video
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019535219A
Other languages
English (en)
Other versions
JP6940612B2 (ja
Inventor
サティアナラヤナ,スチトラ
サッツオーダ,ラヴィ,クマー
ヘック,ステファン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nauto Inc
Original Assignee
Nauto Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nauto Inc filed Critical Nauto Inc
Publication of JP2019533609A publication Critical patent/JP2019533609A/ja
Application granted granted Critical
Publication of JP6940612B2 publication Critical patent/JP6940612B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/0055Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots with safety arrangements
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W30/00Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units
    • B60W30/08Active safety systems predicting or avoiding probable or impending collision or attempting to minimise its consequences
    • B60W30/095Predicting travel path or likelihood of collision
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/08Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
    • B60W40/09Driving style or behaviour
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W60/00Drive control systems specially adapted for autonomous road vehicles
    • B60W60/001Planning or execution of driving tasks
    • B60W60/0015Planning or execution of driving tasks specially adapted for safety
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/0088Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots characterized by the autonomous decision making process, e.g. artificial intelligence, predefined behaviours
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/23Clustering techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N7/00Computing arrangements based on specific mathematical models
    • G06N7/01Probabilistic graphical models, e.g. probabilistic networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20Movements or behaviour, e.g. gesture recognition
    • GPHYSICS
    • G07CHECKING-DEVICES
    • G07CTIME OR ATTENDANCE REGISTERS; REGISTERING OR INDICATING THE WORKING OF MACHINES; GENERATING RANDOM NUMBERS; VOTING OR LOTTERY APPARATUS; ARRANGEMENTS, SYSTEMS OR APPARATUS FOR CHECKING NOT PROVIDED FOR ELSEWHERE
    • G07C5/00Registering or indicating the working of vehicles
    • G07C5/08Registering or indicating performance data other than driving, working, idle, or waiting time, with or without registering driving, working, idle or waiting time
    • G07C5/0841Registering performance data
    • G07C5/085Registering performance data using electronic data carriers
    • G07C5/0866Registering performance data using electronic data carriers the electronic data carrier being a digital video recorder in combination with video camera
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/90Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2540/00Input parameters relating to occupants
    • B60W2540/229Attention level, e.g. attentive to driving, reading or sleeping
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2556/00Input parameters relating to data
    • B60W2556/10Historical data
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Automation & Control Theory (AREA)
  • Multimedia (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Data Mining & Analysis (AREA)
  • Remote Sensing (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Medical Informatics (AREA)
  • Mechanical Engineering (AREA)
  • Transportation (AREA)
  • Human Computer Interaction (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Business, Economics & Management (AREA)
  • Game Theory and Decision Science (AREA)
  • Social Psychology (AREA)
  • General Health & Medical Sciences (AREA)
  • Psychiatry (AREA)
  • Computing Systems (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Evolutionary Biology (AREA)
  • Pure & Applied Mathematics (AREA)
  • Signal Processing (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Computational Mathematics (AREA)
  • Probability & Statistics with Applications (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Mathematical Optimization (AREA)
  • Mathematical Analysis (AREA)
  • Algebra (AREA)
  • Traffic Control Systems (AREA)
  • Control Of Driving Devices And Active Controlling Of Vehicle (AREA)

Abstract

衝突接近検出方法は、車両のリスクマップを決定するステップと、リスクマップに対する車両の挙動に基づいて、物体との衝突接近事象を自動的に検出するステップとを含む。【選択図】図1

Description

関連アプリケーションとの相互参照
[0001]この出願は2016年9月14日提出の米国仮出願番号62/394,298および2016年10月25日提出の米国仮出願番号62/412,419の利益を主張するものであり、これらはいずれもその全体が参照により本明細書に組み込まれている。
[0002]本発明は、一般に自動車分析分野に関し、より具体的には自動車分析分野におけるニアクラッシュ検出のための新規で有用なシステムおよび方法に関する。
[0003]自動車の安全性は、自動車が発明されて以来ずっと続いている課題である。歴史的に、自動車の安全性を向上させる試みは、自動車自体を改良することか、下手なドライバーが運転しないようにするかのいずれかに焦点をあててきた。後者は情報不足に悩まされており、今までのところ、下手なドライバーは事故が発生して記録されたときにしか特定できなかった。衝突接近(ニアクラッシュやニアミスなど)、または他の記録されない高リスク状況(他人の事故、当て逃げなど)の原因となっている危険な運転習慣を持つ下手なドライバーは、めったに特定されず、処罰されず、コーチングされない。逆に、優秀なドライバーもめったに特定され、表彰されることもない。
[0004]したがって、自動車分析分野では、ニアクラッシュを判定するための新規で有用なシステムおよび方法を創出することが必要とされている。本発明は、そのような新規かつ有用なシステムおよび方法を提供するものである。
[0005]図1は、衝突接近事象を自動的に特定する方法のフローチャート図である。 [0006]図2A、2Bは、リスクマップの概略図の上面図および斜視図である。 [0007]図3は、衝突接近事象を自動的に特定する方法の変形例のフローチャート図である。 [0008]図4は、各サブ領域について異なるリスク方程式を含むリスクマップの概略図である。 [0009]図5は、監視領域についての1つのモデルを用いたリスクマップの概略図である。 [0010]図6は、監視領域の連続関数を含むリスクマップの概略図である。 [0011]図7は、(車両と対象物との間の)相対速度が高い場合のリスクマップと、(車両と対象物との間の)相対速度が低い場合のリスクマップとのリスクマップがどのように異なるかの一例である。 [0012]図8は、同様の運転状況について、高いドライバースコアに基づくリスクマップと、低いドライバースコアに基づくリスクマップとの間でリスクマップがどのように異なるかの一例である。 [0013]図9は、方向指示のない物体に基づくリスクマップと、方向指示のある物体に基づくリスクマップとの間でリスクマップがどのように異なるかの一例である。 [0014]図10は、本方法の一例によるデータ処理および転送の概略図である。 [0015]図11は、衝突接近事象に関連して保存できるデータの一実施例である。 [0016]図12は、ドライバーの注意および注視方向を特定する一実施例である。 [0017]図13A、13Bは、それぞれ、演算システムの一実施例の正面等角図および背面等角図である。 [0018]図14A、14Bは、それぞれ、自車両の予想軌道および他車両の運動学に基づいて、衝突接近事象の原因を判定する第1および第2の実施例である。 [0019]図15は、第1および第2の車両からのリスクマップを使用して地理的位置についての総合リスクマップを特定する工程の概略図である。 [0020]図16は、リスクマップを用いて避難経路を決定する工程の概略図である。 [0021]図17は、衝突接近事象に関する記録された通行経路を除外する工程を含む、複数の記録された通行経路を用いて推奨通行経路を決定する工程の概略図である。
[0022]本発明の好ましい実施形態の以下の説明は、本発明をこれらの好ましい実施形態に限定することを意図するものではなく、むしろ当業者が本発明を製造および使用することを可能にすることを意図する。
[0023]図1に示すように、衝突接近判定方法は、車両のリスクマップを決定するステップS100と、リスクマップに対する車両の挙動に基づいて対象物との衝突接近事象を自動的に検出するステップS200とを含む。
[0024]この方法は、好ましくは、物理的体積を通る物理的な車両に対して実行されるが、(例えば、車両の)仮想モデルに対して実行されてもよく、その他に実行されてもよい。車両は、自動車、オートバイ、自転車、スケートボード、航空システム(例えば、無人機、飛行機など)、または任意の他の適切な車両であり得る。車両は、人間のドライバーに運転されてもよいし、自動制御されてもよいし、遠隔制御されてもよいし、あるいは他の方法で制御されてもよい。この方法は、好ましくは、複数の車両のそれぞれに対して実行されるが、代替として、単一の車両または他の任意の適切な一組の車両に対して実行することもできる。
[0025]この方法の変形例は、従来のシステムに対して1またはそれ以上の利点を付与することができる。第1に、本方法のいくつかの変形例は、計算資源および/または消費電力を低減または節約することができる。一実施例では、この方法は、衝突接近事象について車両周辺の限られた領域(例えば、予想される軌道または進行方向を包含する領域のみ)を監視する(例えば、そのリスク測定基準を特定する)ことができる。第2の実施例では、同じモデルのリスク評価モジュール(RAM)を複数の方法で使用することができ(例えば、リスク測定基準値を計算し、衝突接近事象の原因を特定するために使用する)、これにより実行する必要があるモデルが減少し、計算負荷が軽減される。第2に、本方法のいくつかの変形例は、リスク測定基準決定のためにパラメトリックモデルまたは方程式を使用することができ、それは、データセット(例えば、所与のドライバーの運転履歴)が比較的小さく、パラメトリックモデル(または方程式)がノンパラメトリックモデル(またはニューラルネットワーク)よりも未知の条件を説明することができるという理由で有利であり得る。パラメトリックモデルはまた、個々のパラメータの影響がモデル自体から決定され(例えば原因を特定するために)、よりよく制御されデバッグされることができるため(例えば管理者が、RAMが誤検出または検出漏れした理由を特定し、間違った結果を修正できるため)有利であり得る。しかしながら、本システムおよび方法は、様々な他の適切な一連の利点を付与することができる。
[0026]この方法は、リアルタイムまたはほぼリアルタイムで実行されることが好ましいが、この方法の全部または一部を非同期的または他の適切な時間に実行することもできる。この方法は、所定の頻度(例えば、ミリ秒毎、サンプリング周波数等)で繰り返し実行されることが好ましいが、動作イベント(例えば、車両の挙動の変化、ユーザの注意散漫レベルの変化、運転セッション情報の受信、新しいセンサ情報の受信、高衝突リスクに関する地理的領域への物理的車両の進入、物体の接近検出など)の発生に応答して実行されてもよく、1回の運転セッションについて一度だけ実行されてもよいし、当該車両について一回だけ実行されてもよいし、または他の適切な頻度で実行されてもよい。
[0027]この方法は、複数の車両の各車両に搭載された演算システムによって実行されることが好ましいが、代替的に、サーバシステムなどのリモート演算システム、スマートフォンなどのユーザデバイス、または他の適切な演算システムのセットによって全部または一部が実行されてもよい。この方法は、演算システムによってサンプリングされたデータを使用して実行されることが好ましいが、付加的または代替的に、車両データ(例えば、車両センサによってサンプリングされた信号)、他の車両のデータ(例えばソース車両またはリモート演算システムから受信)、総人口データ、履歴データ(例えば、車両、ドライバー、地理的位置など)、または他の任意の適切な情報源からの任意の他の適切なデータを用いて実行してもよい。
[0028]演算システムは、処理システム(例えば、一組のGPU、CPU、マイクロプロセッサ、TPUなど)、記憶システム(例えば、RAM、フラッシュ)、通信システム、センサセット、電力システム(例えば、バッテリ、車両の電力コネクタ、太陽光発電システムなど)、ハウジング、または他の任意の適切な構成要素を含むことができる。通信システムは、遠隔測定システム(例えば、車両間、車両とインフラストラクチャ間、車両とリモート演算システム間、または他の通信用)、無線システム(例えば、セルラー、WiFi、または他の802.11xプロトコル、Bluetooth、RF、NFCなど)、有線システム(例えば、イーサネット(商標)、車両バス接続など)、または任意の他の適切な通信システムを含むことができる。センサは、カメラ(例えば、広角、狭角、または任意の他の適切な視野を有する;可視範囲、不可視範囲、IR、マルチスペクトル、ハイパースペクトル、または任意の適切な波長に沿って感知可能な;単眼、立体、または任意の適切な数のセンサまたはカメラを有する)、運動学的センサ(例えば加速度計、IMU、ジャイロスコープなど)、光学システム(例えば周辺光センサなど)、音響システム(例えばマイク、スピーカなど)、距離測定システム(例えば、レーダー、ソナー、TOFシステム、LIDARシステムなど)、位置測定システム(例えば、GPS、セルラー三辺測量システム、近距離位置特定システム、推測航法システムなど)、温度センサ、圧力センサ、近接センサ(例えば、距離測定システム、短距離無線など)、または任意の他の適切なセンサのセットを含み得る。
[0029]一変形形態では、演算システムは、一組の内部センサと、一組の外部センサと、処理システムとを含む。内部センサ(例えば、内向きカメラ、マイクなど)は、車両の内部、より好ましくはドライバー本人に向けられこれを監視するが、代替的または追加的に任意の適切な内部物体に向けられ、監視してもよい。外部センサ(例えば、外向きカメラ)は、好ましくは車両の外側に向けられ、より好ましくは車両の前方領域(例えば、車両の軌道に沿った車両の前方領域、ドライバーの近くの車両を囲む領域、ドライブトレインの長手方向ベクトルなど)に向けられるが、代替的に、車両の側方、上方、底部、後方、または車両外部の任意の他の適切な領域に向けることができる。センサは、好ましくは車両におよび/または互いに静的に取り付けられるが、ジンバル、減衰システム、または他の運動機構によって移動可能に取り付けることができる。
[0030]特定の例(例えば、図13A、13B)では、演算システムは、共通ハウジングによって外向きカメラに対して既知の向きで静的に取り付けられた内向きカメラと、内向きカメラおよび外向きカメラと電気的に接続されたプロセッサとを具え、プロセッサは共通ハウジング内に配置されてもよいし、共通ハウジングの外側に配置されてもよい。プロセッサは、外向きカメラの視野(または記録画像)内の1またはそれ以上の点(例えばピクセル)の相対位置を、内向きカメラの視野(または記録された画像)内の1またはそれ以上の点(例えばピクセル)の位置と関連付ける仮想マッピングを任意に記憶することができる。内向きカメラおよび外向きカメラは、好ましくは同時に作動される(例えば、それぞれ同時にまたは同期して内部および外部の画像または映像をサンプリングする)が、代替的に異なるレートまたは時間で画像または映像をサンプリングしたり、他のカメラの信号値に基づいてサンプリングしたり(例えば、内向きカメラのサンプリングは、外向きカメラの物体検出などの条件が満たされたときにトリガされる)、または任意の適切な時間に作動したりしてもよい。共通ハウジングは、好ましくは、車両に演算システムを後付けすることを可能にするが、システムは代替的に車両に一体化されてもよい。共通ハウジングは、演算システムを好ましくは取り外し可能なように車両に、より好ましくは車両内部に(例えば、ダッシュボードに沿ってダッシュボードの中央領域の近くに;バックミラーに近いフロントガラスに沿ってなど)取り付けるが、代替的に車両外部(例えば、フードに沿って、サイドミラーに沿ってなど)に取り付けてもよい。しかしながら、演算システムは、他の方法で構成することができ、および/または任意の適切な構成の中に任意の適切な構成要素のセットを具えてもよい。
[0031]車両のリスクマップを決定するステップS100は、車両近くの物理的領域(例えば、監視領域)内の複数のサブ領域(例えば、位置、場所)の各々に対する衝突リスクを決定するように機能する。リスクマップ(例えば、Safety Assessment Map(商標)またはSAM)は、リアルタイム、ほぼリアルタイム、所定の頻度で、あるいは任意の他の適切な時間で、動的に生成または更新されることが好ましいが、運転パラメータ値(例えば、ドライバー識別子、車両識別子、地理的位置、リフレッシュ頻度など)に基づいて、または他の方法により予め(例えば固定的に)決定されてもよい。リスクマップは、好ましくは、車両搭載の演算システム(例えば、車両ECU、車両プロセッサ、車両の補助プロセッサなど)によって決定されるが、代替として、リモート演算システム、ローカルユーザデバイス、または他の適切なシステムによって決定することもできる。ここで、サンプリングされたセンサ信号は分析のために遠隔システムに送信されることができる。
[0032]リスクマップは、監視領域と、当該監視領域内の各位置またはサブ領域(図2Aおよび図2Bに示す例)のリスク測定基準とを含むことが好ましいが、追加的または代替的に、任意の他の適切な情報を含み得る。リスクマップは、好ましくは車両と共に移動する(例えば、移動式である)が、代替として、地理位置のセット(例えば、現在の車両位置;車両経路に沿った位置;まばらなデータまたは大きく変化するリスクを有する位置などのプラットフォーム特定位置)に対して決定されてもよく、または適切な場所のセットに関連付けることができる。車両の地理的位置または領域は、2017年8月9日提出の米国特許出願第15/673,098号に開示されている方法を使用して、車両位置特定システム(例えば、GPSシステム、RTK?GPSシステム、三辺測量システムなど)から、または任意の他の適切な方法を使用して決定することができる(本明細書でその全体がこの参考により援用される)。
[0033]リスクマップは、対象物(例えば、外部の障害物や物体、近くの物体など)、オペレータ(例えば、運転手、遠隔操作者)、車両自体、地理的位置、動作状況、または任意の他のパラメータに基づいて動的に生成することができ、リスクマップを決定するステップは、係数値を決定するステップを含み得る。これらの係数は、追加的または代替的に、監視領域パラメータ(例えば、サイズ、幾何形状、使用されるモデルタイプなど)、衝突接近事象の原因(例えば、一組の候補からの原因を選択)を決定するために使用され、または他の方法で使用され得る。
[0034]これらの係数は、演算システムのセンサ、物体センサ、車両センサ、または他のセンサによってサンプリングされたセンサ信号に基づいて決定されることが好ましい(本方法が、センサデータをサンプリングするステップS110と、センサ信号から係数値を決定するステップS120を含む)。追加的にまたは代替的に、状況情報(例えば、天気)や任意の他の適切な基礎データに基づいて決定してもよく、その場合に本方法は、基礎となるデータを決定するステップを含み得る。基礎となるデータ(または要約、平均、標準偏差などの派生情報)は、恒久的に、一時的に、所定の期間、または任意の他の適切な期間、オンボードシステム(例えば、車両、補助システム)、遠隔システム、または任意の他の適切なシステムによって格納(例えばキャッシュ)することができる。図8に示す変形例では、基礎となるデータは、所定の期間(例えば、1秒、5秒など)、好ましくはオンボードシステムによって、あるいはリモートシステムによってキャッシュすることができ、この期間に衝突接近事象が検出されなかった場合は消去され、当該期間内に衝突接近事象が検出された場合には(例えば、衝突接近事象に関連づけて)保持される(例えば、記録システムまたは処理システムによって記憶され、遠隔システムに送信される)。しかしながら、基礎となるデータは他の方法で保持してもよい。
[0035]リスクマップを生成するために使用することができる物体についての物体パラメータは、物体の存在、姿勢、運動学、予想される挙動(例えば、軌跡、運動学など)、現在の挙動(例えば、分類、パターンなど)、分類またはタイプ、物体のリスクマップ(例えば、V2VまたはV2X通信を使用して送信される)、物体の識別子、関連するRAM、関連するオペレータ識別子、衝突までの推定時間(例えば、オブジェクトの運動学および/または予想軌道、自車両の運動学および/または予想軌道などに基づいて決定される)、または他のパラメータを含み得る。物体パラメータ(および/または関連情報)は、車両搭載処理システム(例えば、演算システム)によって決定されることが好ましいが、代替的または追加的に遠隔システムによって決定されてもよい。しかしながら、物体パラメータは、遠隔データベースによって、ドライバーユーザ装置によって、あるいは車両によって事前に決定され保存されており、アクセス許可に応じてオンデマンドで取得され、あるいは他の方法でアクセスまたは決定される。リモート演算システムから取得された、あるいは他の方法で決定された同じか異なる信号(例えば、同じ信号タイプの異なるインスタンス、異なるセンサによってサンプリングされた信号など)を使用して、異なるパラメータを決定してもよい。
[0036]物体は、好ましくは車両外部の物理的障害物であるが、他の方法で定義することもできる。物体は静的あるいは移動可能である。物体の例には、他の車両(例えば、自動車両またはマニュアル駆動)、自転車、歩行者、標識、縁石、くぼみ、または車両が物理的に相互作用し得る他の任意の適切な障害物が含まれる。物体は、物体の識別子(例えばナンバープレート、RFIDなどの無線識別子、ビーコン識別子など)から、または他の方法で識別される、(物体から受け取った)物体の既知の位置を、(車両の位置に基づいて決定された)物体の推定位置と照合することによって、光学的に(例えば、画像、映像、LIDARなどから)、音響的に(例えば、記録された音、超音波などから)識別することができる。
[0037]物体パラメータは、車両搭載センサ信号(例えば、近接センサ、距離測定センサ、カメラなど)、演算システムセンサ信号、物体のセンサ信号(例えば、信号や導関数情報が処理システムに送信されて処理される)、補助センサ(例えば、防犯カメラ、道路内の重量センサなどのような、物体パラメータを監視するように構成された環境内センサ)、物体ナビゲーション情報(例えば物体に関連付けられたユーザデバイスから受信された運転命令)、物体に関連付けられたモデル(タイプ、クラスなど)、物体の挙動履歴、または他の適切な情報に基づいて決定することができる。物体パラメータは、パターンマッチング、コンピュータビジョン技術、パラメトリック法、ノンパラメトリック法、ヒューリスティック、ルール、決定木、ナイーブベイズ、マルコフ、ニューラルネットワーク、遺伝的プログラム、サポートベクトル、または任意の他の適切な方法を使用して決定され得る。
[0038]物体パラメータを決定するステップの第1の変形例は、外向きカメラによって記録された1またはそれ以上の画像(例えば、静止画像、映像など)内の物体を検出するステップを含み得る。物体は、センサフュージョン(例えば、近接センサが物体の存在と位置を示し、物体の位置に対応する画像のセグメントが物体パラメータを確認または特定するために使用されるなど)、物体認識(例えば、画像内で検出された物体は、1組の所定のまたは学習された物体のうちの1つである、分類、回帰、パターンマッチングなど)、物体識別、画像検出(例えば、画像データが物体の状態について走査される)、シーンマッチング(例えば、画像を、同じ地理的位置で同じシーンにおける基準画像と比較することによって物体が検出される)、または他の適切な方法を用いて検出することができる。利用可能な物体認識アプローチの例には、幾何学的アプローチ、測光アプローチ、ニューラルネットワーク(例えばCNN)、物体モデルに基づく方法(例えば、エッジ検出、初期スケッチ、ロウ(Lowe)、パーツによる認識など)、外観ベースの方法(例えば、エッジマッチング、分割統治法、グレースケールマッチング、勾配マッチング、受容野応答ヒストグラム、HOG、ラージモデルベース)、特徴ベースの方法(例えば、解釈ツリー、仮説と検証、姿勢の一貫性、姿勢のクラスタ化、不変性、幾何学的ハッシング、SIFT、SURF、バッグオブワード表現、ビオラ・ジョーンズ物体検出、ハールカスケード検出)、遺伝的アルゴリズム、または他の適切なアプローチを含む。第1の例では、物体を検出するステップは、フレームからHOG画像を生成するステップと(例えば、グローバル分析モジュール、オブジェクト固有分析モジュールを使用して)、抽出されたHOGパターンを1組の物体に関する所定のHOGパターンと照合するステップと、物体を投影および/またはポージングするステップと(例えば、オブジェクトランドマーク推定、アフィン変換、および/または他の特徴識別方法もしくは変換を使用して)、元となる、あるいは一組の測定値を用いて画像をエンコードするステップと(例えば、物体の画像に対してトレーニングされたCNNを使用して)、元となる値に基づいて物体を識別するステップと(例えば、SVM分類器などの分類器を使用して)を含み得る。第2の例では、物体のタイプを決定するステップは、センサ測定値から物体の形状を抽出するステップと、物体のタイプを特定するために物体の形状を分類するステップとを含む。しかしながら、他の方法で物体を検出および/または識別してもよい。物体には、特定の方程式に関連付けられた、特定のパラメトリックな重みに関連付けられた、その他にリスクスコアの計算に影響を与える番号を付けることができる。
[0039]物体パラメータを決定する第2の変形例は、外向きカメラによって記録された画像から姿勢推定技術を使用して物体の姿勢(例えば、カメラ、車両、またはセンサに対する相対位置、距離、角度、向きなど)を特定するステップを含み得る。姿勢は、解析的または幾何学的方法(例えば、検出された物体のクラスまたはタイプ、車両バッジなどの物体のマーキング、または他の特徴に基づいて取得された既知の物体の幾何学的形状のセットを使用して)を用いて決定されることが好ましいが、代替的に、遺伝子アルゴリズム法、学習ベースの方法、または他の適切な方法を用いて決定されてもよい。マッチングされた物体の形状またはライブラリは、すべての利用可能なオブジェクト形状、運転状況に関連する物体の形状(例えば、高速道路で人間の形または画像モジュールは記録されない)、またはその他の限定であり得る。例えば、車両の投影を含む可能性が高い画像領域から生成されたHOG画像を、一台の車両(例えば、一般的な車両、特定の車両の製造元やモデルなど)の一組の姿勢についての所定のHOGパターンと照合することができ、ここでマッチングされた所定のパターンに関連する姿勢を、検出された車両に割り当てることができる。第2の例では、外向きカメラはステレオカメラ対であり、車両から物体への距離は、ステレオカメラ対によって記録された画像間の視差に基づいて決定することができる。しかしながら、物体の姿勢またはその要素は、他の方法で決定してもよい。
[0040]物体パラメータを決定するステップの第3の変形例は、物体の運動学を特定するステップを含み得る。これは、直接法(例えば、ブロックマッチング技術、位相相関および周波数領域法、ルーカス−カナード、ホーン−シュンク、バクストン−バクストン、ブラック−ジェプソン、変分法、離散最適化法、ピクセル再帰アルゴリズム、オプティカルフロー法などの微分法など)、間接法(例、コーナー検出、RANSACなど)、その他の適切な方法といった、レーダーまたは他の測距システムを使用する、外向きカメラで記録された画像(例えば、外部映像、第1の映像など)へのモーション推定方法の適用を含むことができ、または他の方法で決定することができる。一例では、物体の運動学を決定するステップは、第1のセンサ信号フレーム(例えば、画像、映像フレーム)内で物体を識別するステップと、後続の複数のフレームにわたって物体を追跡するステップと、各フレーム内の相対的な物体の位置および各フレームのタイムスタンプに基づいて、各フレームに関連付けられた相対的な物体の軌道および/または運動学(例えば、加速度、速度)を特定するステップと(例えば、同時に記録された方位センサデータに基づいて、オプティカルフロー技術に基づいてなど)、相対的な物体の運動学と自車両の運動学に基づいて、物体の運動学を特定するステップとを含む。第2の例では、物体の運動学を決定するステップは、一連の画像から運動パターンを抽出するステップと、運動パターンを分類またはパターンマッチングすることによって運動学パラメータ値を決定するステップとを含む。しかしながら、物体の運動学は、(例えば補助システム、ユーザデバイスを用いて測定された、車両から受信された)車両の運動学に基づいて、(例えば、物体から受信された、物体の専属的なセンサ測定値から推定された)物体の運動学に基づいて、あるいは他の方法で決定され得る。しかしながら、物体の軌道または運動学は他の方法で決定してもよい。
[0041]物体パラメータを決定するステップの第4の変形例は、物体の予想される挙動を決定するステップを含み得る。予想される挙動は、物体(または類似のオブジェクト)の挙動履歴、パターン認識、物体パラメータ値にマッピングされた所定の挙動、センサ信号で検出された誘発因子(precipitating factors)にマッピングされた所定の挙動、または他の適切なデータを用いて決定することができる。一実施形態では、物体の予想される挙動を決定するステップは、物体のクラスや物体の姿勢などの物体パラメータに基づいて物体の予想される挙動を検索するステップを含む。例えば、先行する車両は、制限速度または(例えば、車両のナンバープレート番号を用いて取得される)その車両の過去の速度で前進すると予想することができる。別の実施例では、(例えば、外部画像に実行される視線追跡方法に基づいて)自車両を見ている交差点にいる歩行者は、通りを横切ると予想することができる。第2の実施形態では、(例えば一連のセンサ測定値から決定される)物体の履歴経路にパターン認識方法を適用することができ、ここでは物体の予想される挙動は認識されたパターンから決定することができる。第3の実施形態では、同じ場所または類似の運転状況(例えば、類似の気象条件、交差点の数、物体の分布など)に対する物体の挙動履歴を用いて、物体の予想される挙動の代用とすることができる。第4の実施形態では、物体の予想される挙動は、センサ信号から抽出された誘発因子にマッピングされた所定の予想される挙動であり得る。誘発因子は、自己運動(例えば、行動)、指標、V2V通信、または物体の移動開始に関連する他の任意の適切な要因を含み得る。誘発因子の例には、(先行する車両の減速に関連する、前向きセンサのストリームなどから決定される)先行車両のブレーキライト作動、外部車両の方向指示インジケータ作動またはホイール回転(例えば方向指示器または車輪の回転に関連する側への外部車両の並進移動に関連する)、(例えば、外部車両の軌道の不確実性が高いことに関連する)、交差点内の歩行者の身体部分(例えば、歩行者が通りを渡ることに関連する)、センサ信号パターン(例えば、外部車両のハンドル位置センサ信号、ブレーキ位置、アクセル位置、ギア選択など)、または他の適切な誘発要因などの視覚的インジケータを含み得る。誘発要因および対応する予想される挙動は、手動で関連付けてもよいし、自動的に関連付けてもよいし(例えば、指導付きまたは指導なしトレーニングセットを使用して学習される)、または他の方法で決定することができる。しかしながら、物体の予想される挙動は、外部車両のナビゲーションシステムから(例えば、ドライバーのユーザデバイス上のアプリから、中央ナビゲーションシステムなどから)、車両OEMが用いる制御アルゴリズムから、外部車両自体から、その場所または領域内の物体が過去にとった最も可能性の高い経路から、またはその他の方法で決定することができる。
[0042]物体パラメータを決定するステップの第5の変形例は、画像記録の所定の時間窓内に記録された二次センサ情報(例えば、近接センサ情報、距離測定情報、レーダ情報など)から物体パラメータを決定するステップを含み得る。同じオブジェクトについて異なるセンサ源から抽出されたパラメータ値は、走行距離計、タイムスタンプ、または他の適切な関連付けを使用して相関させることができる。しかしながら、物体パラメータは他の方法で抽出または決定することができる。
[0043]リスクマップを生成するために使用できるオペレータパラメータ(ユーザパラメータ)は、オペレータプロファイル(例えば、履歴、ドライバースコアなど)、注意散漫レベル、表情(例:驚き、怒りなど)、反応または行動(例:回避操作、転回、急ブレーキ、叫び声など)、認知能力(例えば、自覚)、運転技能、故意行動(例えば、車両制御入力位置から決定される)、注意力、注視頻度または所定の方向(例えば、前方向)への持続時間、二次的タスクの実行(例えば、携帯電話で話す、乗客と話す、食べるなど運転とは無関係のタスク)、またはその他の行動パラメータといったオペレータの動作(例えば、ユーザの動作)、または他の適切なオペレータパラメータを含む。このオペレータは、自車両のオペレータ、物体または車両のオペレータ、あるいは他の任意の適切なオペレータであり得る。
[0044]オペレータの行動は、行動クラスまたはタイプ、行動スコア(例えば、オペレータの注意散漫レベル、表現などに基づいて計算される)として、または他の方法で特徴付けることができる。オペレータの行動は、オペレータ監視センサ信号(例えば、内向きカメラの映像)から決定されることが好ましいが、特定された車両の傲慢な挙動から導出されるか、または他の方法で決定されることができる。オペレータの行動は、所定ルール(例えば、衝突接近事象からの時間窓内)、ヒューリスティック、決定木、サポートベクトル、確率論(例えば、ナイーブベイズ)、ニューラルネットワーク、遺伝的プログラム、パターンマッチング(例えば、1以上のセンサデータセットのパターン)、または任意の適切な方法を用いて、識別および/または特徴付けることができる。オペレータプロファイルは、それぞれの車両(例えば、外部車両、自車両)の車両識別子に関連づけられたドライバープロファイルとすることができ、ここで車両識別子は、車両搭載センサによって記録されたセンサ測定値(例えば、外向きカメラから抽出されたナンバープレート)、演算システムに関連付けられた車両識別子、またはその他の方法で特定することができる。あるいは、オペレータプロファイルは、物体と同じ場所にある地理的な場所に関連付けられたオペレータプロファイル、運転セッションまたは時間枠(例えば、車両の予定ドライバー)に関連するオペレータプロファイル、ユーザ識別子(例えば、ドングル識別子、ユーザデバイス識別子、顔など)に関連付けられたオペレータプロファイル、または他の任意の適切なオペレータプロファイルであり得る。オペレータプロファイルは、過去のリスクマップなどの(例えば過去の運転セッション中に記録された)車両運転データ履歴に基づいて自動的に生成されることが好ましいが、代替的にマニュアルで(例えばオペレータによって、フリートまたはシステム管理エンティティによって)、あるいは他の方法で生成されてもよい。オペレータプロファイルは、オペレータのリスクスコア(例えば、過去のリスクマップ、衝突接近履歴、追い越し履歴、気晴らし履歴、衝突履歴などに基づいて計算される)、ルート、オペレータ識別子、オペレータ運転スケジュール、RAM、またはその他の適切な情報を含み得る。
[0045]オペレータの行動は、車内を監視しているサンプリングされた信号から特定することができ、あるいは他の方法で特定することができる。一変形例では、オペレータの行動は、内向きカメラ(例えば、社内ビデオ、第2ビデオなど)によって記録された画像から特定することができる。内向きカメラは、ドライバーの方に向いていることが好ましいが、代替的に社内全体に向いていてもよく、または任意の適切なものに向いていてもよい。一例では、検出された物体に対するオペレータの注意は、内向きセンサ信号、外向きセンサ信号、および内向きセンサと外向きセンサの既知の相対配向に基づいて、物体に対するオペレータの視線方向(例えば、オペレータが物体を見ているかどうか)に基づいて特定することができる。特定の例(例えば、図12)では、オペレータの注意は、内部画像から(例えば、アイトラッキング方法を使用して)車両に対するオペレータの注視方向を特定するステップと、外部画像から車両に対する外部物体の位置を特定するステップと、内向きカメラと外向きカメラとの間の既知の相対配向を使用してオペレータの注視方向を外部注視領域にマッピングするステップと、外部注視領域が外部物体の位置を包含する場合に高い注意スコアを割り当てるステップ(またはオペレータが物体を見たと判断するステップ)とによって特定することができる。しかしながら、オペレータの注意は他の方法で特定してもよい。第2の変形例では、感情表現認識技術を使用して、内部画像でオペレータの感情(例えば、驚き)を分析することができる。第3の変形例では、センサ信号または車両制御入力位置を、オペレータの行動(例えば、旋回、急ブレーキなど)を示すパターンについて分析することができる。しかしながら、オペレータの行動は他の方法で特定してもよい。
[0046]リスクマップを決定するために使用できる車両パラメータは、車両の運動学(例えば、加速度、急加速、速度など)、質量、クラス、製造またはモデル、磨耗、年数、制御入力位置(例えば、ブレーキ位置、アクセル位置、トランスミッション位置など)、現在の地理的位置(例えば、車両搭載の位置特定システムを用いる)、過去の地理的位置または走行経路、予想される走行経路(例えば、ナビゲーションシステム、経路履歴などから決定される)、車線標示または他の道路標示に対する車両位置、または他の車両パラメータを含み得る。車両の運動学は、オプティカルフロー法、加速度計やIMUなどの搭載された運動学的センサ、位置センサを使用して、あるいは他の方法で特定することができる。車両パラメータは、演算システムまたは運転セッションを監視するセンサのセットに予め関連付けられてもよいし、自車両の車両識別子に関連付けられた車両パラメータであってもよいし、運転セッション中にサンプリングされたセンサ信号に基づいて決定されるパラメータであってもよいし、その他の方法で決定されてもよい。
[0047]リスクマップを生成するために使用できる地理的位置パラメータは、その場所のリスクプロファイル(例えば、地理的位置または地域に関連づけられた衝突リスクマップ)、その場所の交通規制(例えば、データベースから検索された制限速度など)、その場所の交通状況(例えば、その地域に位置する演算システムの密度から、交通量の履歴などから決定される)、道路の種類(例えば、その車両の位置とデータベースに基づいて決定される、都市や高速道路など)、道路状況または構造(例えば、公共レポート、ドライバーの報告履歴、他のドライバーのセンサデータなどから推測される)、道路インフラ、交通標識(例えば、所定の地図から、外向きカメラによってサンプリングされた画像などから決定)、道路標示(例えば車線標示など)、その場所に関連するRAM、または任意の他の適切な地理的位置情報を含み得る。特定の例では、交差点は、高速道路からの様々なリスク評価モデルと関連付けることができる。地理的位置は、好ましくは、自車両の現在の地理的位置(例えば、搭載された位置特定システムによって決定)であるが、代わりに、自車両の過去のまたは予想される地理的位置、あるいは他の適切な地理的位置であってもよい。地理的位置パラメータは、リモートデータベースから(例えば、リモート演算システムから)検索されてもよいし、搭載された演算システムに格納されてもよいし、他の方法でアクセスすることができる。地理的位置パラメータは、リアルタイムまたはほぼリアルタイムで(例えば、搭載センサ信号、V2X通信などに基づいて)、非同期的に、または他の方法で生成することができる。地理的位置パラメータは、マニュアル生成されてもよいし、自動生成されてもよいし(例えば、複数の車両または経路から集約された1またはそれ以上の車両の動作パラメータに基づいて)、地図から生成されてもよいし、あるいは別の方法で特定されてもよい。
[0048]リスクマップを決定するために使用できる運転状況パラメータは、交通密度、時刻、天気、周囲の照明、車輪のトラクション、視覚障害物、または他の適切な状況パラメータを含む。状況パラメータは、外部データベースから検索してもよいし(S130)、搭載センサを使用して測定してもよいし、他の方法で特定してもよい。運転状況パラメータは、任意選択で、利用可能な計算能力、利用可能な電力(例えば、演算デバイスのバッテリ充電状態)、利用可能なメモリ、または任意の他の適切なパラメータなどの、演算システム動作パラメータを含み得る。
[0049]リスク測定基準は、監視領域内の各サブ領域についての衝突リスクを示すことが好ましいが、追加的または代替的に、各サブ領域内での衝突の可能性、各サブ領域内での車両の安全性、あるいは他の適切なパラメータを示してもよい。リスク測定基準は、監視領域内の複数の場所にわたる連続機能(図6に示す例)であってもよいし、各個別のサブ領域に対する個別のスコア(図4に示す例)であってもよいし、その他の方法で決定してもよい。例えば、リスク評価モジュール(RAM)は方程式を含み、外部物体に近接する場所のリスクスコアのみを方程式を使用して計算することができる。監視領域内の他のサブ領域のリスクスコアは、第1のリスクスコアが閾値を超えることに応答して計算することができる。リスク測定基準は、領域の向きに合わせてもよいし、他の方法で向きを合わせてもよい。リスク測定基準は、リアルタイムまたはほぼリアルタイムで(例えば、センサデータがサンプリングまたは受信されたとき、要因値が特定されたときなど)、所定の頻度で、所定の事象の発生に応答して、(例えば、監視領域に対象物が入った場合)、固定的(例えば、予め定められている)、または他の適切な時間に特定されるように、更新することができる。各サブ領域のリスク測定基準は、好ましくは、上述の要因のうちの1つ以上に基づいて決定されるが、他の方法で決定してもよい。リスク測定基準は、ヒューリスティックに、所定の規則を用いて、計算により(例えば、方程式を用いて)、人工ニューラルネットワーク(例えば、CNN、DNNなど)、決定木、クラスタリング、ベイジアンネットワークを用いて、またはその他の方法で決定することができる。
[0050]しかしながら、リスクマップは、他の任意の適切な要因のセットを使用して任意の適切な方法で決定することができる。
[0051]監視領域は、衝突接近事象について監視される、車両近くの物理的容積または領域であることが好ましいが、他の方法で定義してもよい。監視領域は、好ましくは仮想的に監視されるが、代替的または追加的に、(例えば、搭載車両センサを使用して)物理的に監視してもよいし、他の方法で監視してもよい。監視領域を仮想的に監視する工程は、好ましくは、物理領域に対応する仮想領域を包含する仮想リスクマップを生成する工程を含むが、代替的または追加的に物理領域を表す仮想シーン(例えば、検出された物体の表現を含む)、物理的領域全体のリスクスコア、リスクベクトル(例えば、車両に対する最も高い衝突リスクの方向を示す)を含み、あるいは他の方法で監視領域を仮想的に監視する。
[0052]監視領域(および/または仮想領域。監視領域の記述は以後仮想領域にも適用することができる)は、領域の大きさ、(例えば、車両、物体、非車両の点に対する)領域の姿勢、または他の適切な領域パラメータに関連付けることができる。監視領域は、リスクポイント分布、RAM、または他の任意の適切なデータと任意に関連付けることができる。
[0053]領域の大きさは、どの程度早く誘発事象(例えば、衝突接近事象、衝突接近事象に先行する事象)が検出されるかに影響を及ぼし得る。領域の大きさは、追加的または代替的に、どの物体がリスク評価で考慮されるかに影響を与え得る。例えば、監視領域外の物体は無視することができる。領域は、(例えば、時空的に)2D、3D、4Dであってもよいし、任意の適切な次元数を有してもよい。領域の大きさは、領域の幾何学形状(例えば形状)、面積、限界寸法(例えば半径、高さ)、または他の適切な寸法の組を含むことができる。領域の幾何学的形状は、好ましくは円形または球形であるが、円錐形の断面、多角形、扇形、円錐形、角錐形、角柱形、不定形、または他の形状でもよい。領域は、1以上の軸(例えば、x、y、z)について対称的または非対称的であり得る。
[0054]車両に対する監視領域または仮想領域の姿勢(例えば位置および/または向き)は、監視空間の面積または容積を制限するように機能する。監視領域は、車両を包含し(例えば、車両を囲み、車両に中心が合わせられ、車両からオフセットされ、等)、車両から延在し、車両に隣接し、車両の輪郭をなぞり、車両の隣にあり(例えば、車両に接触し、車両からゼロでない距離だけ離れており)、あるいは他の方法で車両に関連してもよい。一例では、領域は、近接センサの感度距離と実質的に等しい距離だけ車両から離れており、演算システムを遠位の障害物に対する衝突リスクを監視するために使用し、近接センサを近位の障害物の衝突リスクを監視するのに用いることができる。監視領域は、車両周囲の容積のサブセットを包含することが好ましいが、代替的に、車両周囲の容積全体、車両周囲の地上容積全体、または任意の適切な容積を包含してもよい。一例では、監視領域は、車両後方の近接領域を除外する。第2の例では、監視領域は、車両の前(または前方)の領域を包含する。第3の例では、監視領域は、自車両のとりうる軌跡(例えば、車両の運動学などに基づいて選択できる、直ちに考えられる、所定の期間内に考えられる軌跡など)を包含する領域を包含する。第4の例では、領域は所定のジオフェンスによって規定される。しかしながら、監視領域は、他の方法で車両に対して配置することができる。監視領域は、追加的または代替的に、物体を包含し、隣接し、あるいは物理的に関連付けられてもよい。
[0055]領域の向きは、好ましくは、自車両の移動の瞬間的または予想される方向に沿って整列(例えば、中心合わせ、平行、同軸など)されるが、代替的に、車両の中心線(例えば長手方向の中心線)と整列されたり、車両の基準点(例えば、長手方向の中心線に対して)に関して所定のベクトルと整列されたり、最もリスクの高い軌跡を表すベクトルと整列されたり、その他の方法で位置合わせされてもよい。自車両の移動の瞬間的または予想される方向は、ステアリングホイールの位置、ホイール(タイヤなど)の位置、過去の運動学データ(例えば運動学センサで所定の時間窓内でサンプリングされたもの)、オプティカルフローデータ(例えば、カメラによってサンプリングされた画像から)、ナビゲーション情報(例えば、オペレータのユーザデバイスから取得された、車両制御命令からなど)、履歴経路情報(例えば、オペレータ、車両などの)から、または他の方法で決定することができる。自車両の移動の瞬間的なまたは予想される方向は、パターンマッチング、規則、決定木、ナイーブベイズ、ニューラルネットワーク、遺伝的プログラム、サポートベクトル、または任意の他の適切な方法を使用して決定することができる。
[0056]リスクポイント分布は、リスク値が決定されることになる監視領域内のサブ領域(例えば、ポイント、サブエリア、サブボリュームなど、および/またはそれらの位置)を特定するように機能する。(リスクが決定される)サブ領域は、同じかまたは異なる幾何学的形状、サイズ、または他のパラメータを有することができる。リスクポイント分布は、好ましくは連続空間(例えば位相的、体積的)を形成するが、代替的または付加的に、離散的空間(例えば位相的、体積的)を形成したり、部分的に連続的かつ部分的に離散的空間を形成したり、あるいは他の適切な空間を形成してもよい。離散空間内のリスクポイント分布は、均一、ランダム、非線形(例えば、二次、対数、指数関数など)、線形、単一のサブ領域、または他の方法で分布してもよい。例えば、リスクポイント分布は、車両の近くでより高い点密度を有したり、予想される軌道の近くでより高い点密度を有したり、並置されたもしくはそれぞれのリスクスコアの関数として変化する点密度を有したり、あるいは他の適切な分布を有する。リスクポイント分布は、監視領域のパラメータ(例えば、異なるパラメータ値の組み合わせに対する異なる分布)、RAM、因子値に基づいて決定したり、デフォルト分布としたり、または他の方法で決定することができる。追加的または代替的に、領域がリスクポイント分布を含まず、二値決定(例えば、物体が監視空間内で検出されるか監視空間に入ると予測されるか)、監視空間に対するリスクスコア、リスクベクトル(例えば、因子値に関連するリスクベクトルから合計される)を含んでもよいし、他の適切なリスク測定基準に関連してもよい。
[0057]監視領域パラメータは、動的に調整されてもよいし(例えば、最新のセンサ情報に基づいて)、静的であってもよいし、他の方法で決定してもよい(S140)。監視領域パラメータは、普遍的なもの、因子値の組み合わせに固有のもの、オペレータまたは車両に固有のもの、あるいは共有のものであってよい。領域パラメータは、(例えば、数秒または数分などの領域パラメータ決定の時間窓内にサンプリングされた信号から)因子値に基づいて決定されることが好ましいが、他の方法で決定してもよい。監視領域パラメータを動的に調整することは、状況を考慮して、衝突について監視すべき物理領域を監視しながら、計算能力を低減または節約するように機能することができる。これは全体的な電力消費を抑えるように機能し、処理システムが電池または他の限られた電源を用いて電力供給される用途(例えば補助、電池式システム、電気自動車などにおいて)において望ましい。監視領域パラメータは、ヒューリスティックに、所定の規則を用いて、計算により、人工ニューラルネットワーク(例えば、CNN、DNNなど)、決定木、クラスタリング、ベイジアンネットワークを使用して、または他の方法で決定することができる。監視領域パラメータは、センサ信号(例えば、画像、加速度計データ、車両センサデータなど)、ドライバープロファイル(例えば、習慣履歴、リスクスコア)、位置データ(例えば、交通規制、道路種別、道路状況など)、物体の挙動(現在または予想)、その派生情報に基づいて、またはその他の適切な情報に基づいて決定することができる。
[0058]領域の大きさは、静的(例えば、所定のもの)でも可変でもよい。後者の例では、領域の大きさは、上記関数の1以上の値に基づいて、時間の関数として、衝突衝突イベント頻度の関数として、リスクマップ生成に使用されるRAMの結果として(例えば、RAMはそれぞれ一組の領域の大きさと関連付けられ、その結果得られる領域の大きさは前記大きさの集合である)、(例えば、所定のライブラリ関連因子および次元値から)選択または計算してもよいし、あるいは他の適切な方法で変化してもよい。例えば、領域の大きさは、自車両の速度(例えば、車両速度の増加と共に増加する)、車両の地理的位置(例えば、各地理的位置または関連する衝突危険マップまたはスコアを一組の領域の大きさと関連させることができる)、予想される物体の挙動(例えば、先行車両、隣の車両、歩行者などに対する)、または任意の他の適切な要素の関数として変化し得る。
[0059]第1の例では、地理的リスクが増大するにつれて領域のサイズまたは面積が増大してもよい。第2の具体例では、先行車両が右に移動すると予想される場合に(例えば、右のインジケータ操作に基づいて)領域形状を右に偏向されるように調整する(または新しい形状が選択される)ことができる。第3の例では、監視領域サイズが、車両速度、制限速度、道路種別(例えば、高速道路では増加、都市街路では減少)に伴って増加し、ルートに沿って交通量が増加したら減少する。特定の例では、この方法は、瞬間のパラメータ値に基づいてドライバーの追従距離を決定し、決定された追従距離に監視領域のサイズを設定するステップを含む。第4の例では、リスクスコアが決定される監視領域内のサブ領域の数が速度の増加と共に減少し、各サブ領域で囲まれる面積は増加する。第3の例では、監視領域の形状がその場所のプロファイルに基づいて変化する。具体例では、監視領域の形状は、側面衝突頻度が高いか側面交通が遅い(例えば、歩行者または自転車の交通)を有する場所については円であり、側面衝撃頻度が低い場所(例えば、高速道路)については扇形とすることができる。第4の例では、監視領域のサイズはドライバーのリスクスコアと共に増大する。しかしながら、監視領域パラメータは他の方法で決定してもよい。
[0060]リスクマップを決定するステップS100は、監視領域についてリスク測定基準を決定するステップS160を含み得る。リスク測定基準は、監視領域全体、監視領域の1以上のサブ領域(例えば、リスクポイント)、または他の任意の適切な領域に対して決定することができる。リスク測定基準は好ましくはリスクスコアであるが、リスク確率でも他の適切な測定基準でもよい。リスク測定基準は、好ましくはRAMによって決定されるが、任意の適切なシステムによって決定することができる。
[0061]リスクマップは、(例えば、各サブ領域の識別子についての)リスク測定基準値のアレイ、ヒートマップ(例えば、ヒートマップとして保存または視覚化されたもの)、方程式、または他の方法で構造化することができる。リスクマップまたはそのパラメータ(例えば、RAM、因子値、重み、地理的位置など)は、一時的に(例えば、瞬間リスクを分析するのに十分な長さ)、運転セッション期間の間、運転セッションより長い間、または任意の適切な時間について記録することができる。生成されたリスクマップまたはそのパラメータの全部または一部を記録することができる。リスクマップ(またはそのパラメータ)は、それぞれの車両識別子、地理的位置または地域識別子、オペレータ識別子、車両運動学、または他の任意の適切な因子値と関連付けて記憶することができる。
[0062]監視領域機能に関連付けられたリスク評価モジュール(RAM)は、監視領域のリスク測定基準を決定するためのモデルまたは方法を提供する。RAMは、リスクポイント分布内の各リスクポイントに対するリスクスコアを決定する(例えば、リスクマップを埋める)ことが好ましいが、代替的にまたは追加的に、分布内のリスクポイントのサブセットについてのリスクスコア、監視領域のリスクスコア、瞬間的運転状況のリスクスコアを決定してもよく、または他の適切な地域または状況の他の適切なリスク測定基準を決定してもよい。監視領域内の各リスクポイントは、同じRAM(例えば図5)または異なるRAM(例えば図4)に関連付けることができる。RAMは、連続関数を含むことが好ましいが、代替的または追加的に、離散化関数または他の任意の適切な関数を含むことができる。RAMは、パラメトリックモデル(例えば、パラメトリックモジュール)を含むことが好ましいが、代替として、ノンパラメトリックモデル、セミパラメトリックモデル、セミノンパラメトリックモデル、または任意の他の適切なモデルを含むことができる。RAMは1またはそれ以上のモデルを含むことができる。RAMは、好ましくは一組の方程式(例えば、1つ以上の確率分布)を含むが、代替として、ニューラルネットワーク(例えば、CNN)、サポートベクトル、決定木、一組の規則、分類器(例えば、ベイズ分類器)、遺伝子プログラム、または他の方法で構造化されてもよい。例えば、RAMは、離散確率分布、連続確率分布、正規分布(例えば、2Dガウスまたは3Dガウスなどのガウス分布、多変量正規分布など)、対数正規分布、パレート分布、離散一様分布、連続一様分布、ベルヌーイ分布、二項分布、負の二項分布、幾何学的分布、超幾何学的分布、ベータ二項分布、カテゴリカル分布、多項分布、ツイード分布、ポアソン分布、指数分布、ガンマ分布、ベータ分布、レイリー分布、ライス分布、または他の適切なリスク決定モデルを含み得る。リスク分布は集中してもよいし、外部物体、車両、または任意の他の適切な場所に頂点を有してもよい。一例では、リスクモデルは、一組の重み付けられた因子を有する方程式を含む。ただし、モデルは他の方法で構成してもよい。RAMは1つ以上のモデルを含むことができる。各監視領域は、所与の時間に1またはそれ以上のRAMと関連付けることができ、経時的に(例えば運転セッションにわたって)同じか異なるRAMと関連付けることができる。
[0063]RAMは、リスク特定のために因子値を使用することが好ましいが、代わりに他の値を使用してもよい。例えば、リスクマップの各サブ領域のリスクは、物体パラメータおよびオペレータの行動スコアに基づいて決定することができる。ただし、各サブ領域のリスクは他の方法で決定してもよい。
[0064]各RAMは、固定であることが好ましいが、動的に調整されてもよいし(例えば、因子値が決定される都度リアルタイムまたはほぼリアルタイムで)、所定の頻度で調整されてもよいし、事象発生に応じて調整されてもよいし(例えば、アップデートを介して)、他の方法で調整されてもよく、この方法は、RAMを生成するステップを含むことができる。RAM(例えば、その中のモデル、重み、因子など)は、マニュアル生成してもよいし、自動生成されてもよいし(例えば、衝突接近ラベルまたは衝突ラベルでラベル付けされた時系列データのセットを使用するなどの、監督付または監督なしの学習を用いて)、ニューラルネットワークや他の機械学習アルゴリズムを用いて生成されてもよいし、経験的または帰納的に生成されてもよいし、動的に生成されてもいし(例えば、因子の重みが二次因子の値に基づいて占められる)、または他の方法で決定されてもよい。
[0065]システムは、ユニバーサルRAMまたは複数のRAMを含むことができ、異なるRAMが異なる監視領域(例えばタイプ、クラス)、監視領域パラメータ(例えば形状、サイズ、向き、バイアス)、オペレータプロファイル、車両プロファイル、演算システム、地理的位置または領域(例えばジオフェンス)、物体パラメータ、運転状況、他の因子についての具体値、特定の因子値の組み合わせ(例えば、シナリオクラス、レジスタなど)、または他の任意の適切なデータセットに関連付けることができる。システムが複数のRAMを有する場合、本方法はRAMを決定するステップを含むことができる。
[0066]第1の変形例では、単一のRAM(例えば、方程式)を使用して、すべてのレジスタ(例えば、状況)のすべてのリスクスコア(例えば、リスクマップ)を計算することができる。
[0067]第2の変形例では、異なるRAMを用いて、異なるレジスタ内のリスク測定基準(例えば、リスクマップ)が計算され、および/または異なるレジスタが同時に発生したときにオーバーレイされる。使用されるRAMは、因子値に基づいて決定されることが好ましいが、監視領域パラメータに基づいて決定されてもよいし、他の方法で決定されてもよい。どのRAMを使用するかを決定するために使用される因子値は、リスク測定基準(例えば、リスクマップ)を決定するためにRAMに供給されるものと同じか異なる因子であり得る。RAMは、1またはそれ以上の因子値に基づいて所定のライブラリから選択されることが好ましいが(例えば、リスク測定基準が、選択されたRAMを使用して監視領域内の各サブ領域に対して決定される)、代替的に、動的に生成されてもよいし(選択されたタイプ、計算された、選択された、または他の方法で決定された重みなど)、他の方法で決定されてもよい(S150)。第1の実施形態では、RAMは、地理的位置識別子、地理的位置に関する総合リスクマップ、地理的位置パラメータ(例えば、交通密度、歩行者密度、交差点の存在、平均速度、制限速度など)、および/または他の任意の適切な地理的位置データに基づいて選択される。第2の実施形態では、RAMは、自車両の動作パラメータに基づいて選択される。例えば、異なる車両加速度または速度に対して異なるモジュール(またはその中で使用される重みまたは係数)を選択することができる。第3の実施形態では、異なる演算子が異なるRAM(および/または監視領域パラメータ)に関連付けられる。例えば、ドライバースコアや反応時間が高いオペレータは、気付かれていない近位の物体に低い重みを割り当て、一方でドライバースコアが低いオペレータは同じ物体に高い重みを割り当てることができる。第4の実施形態では、RAMは物体パラメータ値(例えば、クラス、距離、予想軌道、運動学、オペレータプロファイルなど)に基づいて選択される。この実施形態では、検出される各物体についてRAMを決定することができ、複数のRAMを組み合わせて(例えば、オーバーレイなど)、領域を監視するために使用される複合RAMを協調的に形成することができる。ある具体例では、この方法は、先行車両の検出に応答して第1の方程式を選択するステップと、車両から斜めに位置する自転車の検出に応答して第2の方程式を選択するステップと、先行車両の予測される旋回に応答して第3の方程式を選択するステップとを含む。しかしながら、RAMは他の方法で決定してもよい。
[0068]第1の変形例では、監視領域のリスク測定基準を決定するステップは、監視領域内の複数のサブ領域の各々のリスクスコアを計算するステップを含む。リスクスコアは、搭載システム、遠隔システム、または他の適切なシステムによって計算することができる。リスクスコアは、加重係数を用いた式で計算できるが、他の方法で計算してもよい。
[0069]一例では、サブ領域のリスクスコアは、物体の存在および種類、車両に対する物体の運動学(例えば、図6)、物体のオペレータプロファイル(例えば、図8)、物体の予想される挙動(例えば、図9)、および自車両のドライバーの行動スコア(例えば、注意レベルや注意散漫レベルなど)に基づいて決定することができる。しかしながら、リスクスコアは、他の適切な式から他の方法で計算してもよい。
[0070]第2の変形例では、監視領域内の各サブ領域を異なる方程式と関連付けることができ、各サブ領域に対するスコアは独立して計算することができる。この変形例では、本方法は、物体について監視領域を監視するステップと、物体と一致するサブ領域を同定するステップと、同定されたサブ領域のそれぞれについてリスクスコアを計算するステップと(例えば、物体パラメータに基づいて)、計算されたリスクスコアに基づいて衝突接近事象を特定するステップとを含み得る。しかしながら、他の方法でサブ領域ごとの方程式を用いてもよい。
[0071]第3の変形例では、本方法は、ニューラルネットワークを使用して各サブ領域のリスクスコアを決定するステップを含むことができる。この変形例では、監視領域全体が単一の領域として扱われることが好ましく、単一のニューラルネットワークが各サブ領域のリスクスコアを決定する。しかしながら、監視領域内の各サブ領域は、関連するリスクスコアを決定する異なるニューラルネットワークと関連付けることができる。
[0072]第4の変形例では、本方法は、(例えば、同時位置特定およびマッピングを使用して)車両の環境のマップを生成し当該環境内で車両の位置を追跡するステップと、任意で同定された物体を静止しているか動いているか分類するステップと、各サブ領域への潜在的な車両の移動経路を特定するステップと(例えば、RRTを使用して)、マップおよび潜在的な車両の移動経路に基づいて各サブ領域の衝突確率を決定するステップとを含む。
[0073]しかしながら、リスクスコアは、前述の方法の組み合わせを使用して決定してもよいし、他の方法で決定してもよい。
[0074]衝突接近事象を自動的に検出するステップS200は、危険性の高いイベントを同定するように機能する。衝突接近事象(あやうく衝突する事象)は、車両オペレータによる回避操作を必要とする状況、車両が物体と衝突する可能性が閾値を超えている状況、その他の方法で定義することができる。
[0075]衝突接近事象は、リアルタイムまたはほぼリアルタイムで(例えば、イベントが発生しようとするとき、イベントが発生する前に)決定されることが好ましいが、非同期的に、または他の適切な時間に決定してもよい。衝突接近事象は、車両搭載システムによって(例えば、補助システム、車両自体などによって)特定されることが好ましいが、代替として、リモート演算システムまたは任意の他の適切なシステムによって特定されてもよい。衝突接近事象は、リスクマップに基づいて自動的に検出されることが好ましいが、他の方法で特定してもよい。衝突接近事象は、同時リスクマップ(例えば、衝突接近事象の前の所定の期間内に生成されたリスクマップ、衝突接近事象が検出された期間中に生成されたリスクマップなど)を使用して検出されることが好ましいが、事前リスクマップ、一連の事前リスクマップ、またはその他の適切なリスクマップのセットを使用して検出してもよい。
[0076]第1の変形例では、リスクマップ内の危険性の高い領域が物体の位置と重なったときに衝突接近事象を検出する(図10に示す例)。この高リスク領域は、リスク値が閾値リスク値(例えば、リスクスコア)を超える監視領域の領域(例えば、面積、サブ領域、点、位置、仮想または地理的位置)、高リスクエリアとして割り当てられた監視領域の定義済みエリア、またはその他の方法で定義された領域であり得る。閾値リスク値は、オペレータプロファイルまたはスコア、過去の位置リスク、近位の物体に関するオペレータプロファイルまたはスコア、または任意の他の適切な要因に基づいて決定(例えば、計算、選択など)することができる。
[0077]第2の変形例では、衝突接近事象は、自車両が高リスク領域へと進入するか向かっている場合(例えば、予想される軌跡または現在の進行方向が境界を越えるかそちらへ向かっている場合)に応答して検出される。この変形例では、リスクマップは、当該リスクマップが生成された地理的位置に対して固定であってもよいし、自車両と共に移動してもよいし、他の任意の適切な動力学セットを有してもよい。
[0078]第3の変形例では、(例えば、リスクマップ内の)高リスク領域に対する車両の動きが(例えば、衝突接近事象のパターン履歴に基づいて決定された)衝突接近事象パターンと実質的に一致するとき、衝突接近事象が検出され、(例えば、空間的リスク測定基準パターン、時間的リスク測定基準パターンなどに基づいて)衝突接近事象として分類されるか、他の方法で所定の衝突接近事象に関連付けられる。
[0079]第4の変形例では、衝突接近事象は、リスクマップ内のリスクスコアが閾値リスクスコアを超えたことに応答して検出される。衝突接近事象は、リスクがリスクスコア閾値を超えたら直ぐに検出してもよいし、リスクが閾値期間閾値を超えた場合、空間的に隣接するリスクスコア(例えば閾値数、閾値分布、閾値物理、または、仮想ボリュームまたは面積など)が閾値を越えた場合、または他の方法で監視領域内のリスクスコアに基づいて検出してもよい。閾値リスクスコアは、マニュアル選択でも、自動決定されてもよいし(例えば、衝突接近事象にラベル付けされた運転セッションから学習)、または他の方法で決定してもよい。
[0080]第5の変形例では、衝突接近事象は、車両の閾値距離内のリスクスコアが閾値リスク値を越えることに応答して検出され、ここで監視領域は前記閾値距離を包含することが好ましいが、代替的に他の方法で閾値距離に関連付けられてもよい。閾値距離は、好ましくは、車両横断ベクトルに沿って測定されるが、代替的に、車両横断ベクトルの所定の角度範囲内、車両横断ベクトルの閾値幅(例えば、車体の幅)内、車体または中心であってもよく、その他の方法で定義されてもよい。閾値距離は予め決定されてもよいし、ユーザの注意力、認知能力、反応時間、注意散漫レベル、車両速度、物体の軌道、運動学、または分布で動的に決定されてもよいし(例えば、その関数として変化する)、その他の方法で決定されてもよい。例えば、衝突接近事象は、車両の前方5フィート以内のリスクスコアが閾値リスクスコアを超えたことに応答して検出することができる。
[0081]第6の変形例では、衝突接近事象は、リスクスコアを有する監視領域内のサブ領域の総面積または体積が、閾値面積または閾値体積を超える閾値リスクスコアを超えることに応答して検出される。
[0082]第6の変形例では、衝突接近事象は、車両の逐次リスクマップのパターンが衝突接近事象に関連するパターンと実質的に一致する(例えば、合致する)ことに応じて検出される。しかしながら、衝突接近事象は他の方法で特定されてもよい。
[0083]第7の変形例では、衝突接近事象は、車両搭載センサ(例えば補助システムセンサ、車両センサ、近接センサなど)によってサンプリングされた信号、車両パラメータ(例えばアクセルペダル位置、ハンドル位置、ブレーキ位置など)、外部車両センサ信号に基づいて、またはパターンマッチング(例えば、センサ信号パターンが衝突接近イベントに関連するパターンと一致する場合)、ニューラルネットワーク、規則、または他の適切な方法を使用した他の適切な測定に基づいて検出されてもよい。例えば、衝突接近事象は、運動学センサ測定において減速スパイクが検出された場合、内向きカメラのストリームからドライバーの驚いた表情が検出された場合、運動学パターンが「曲がる」パターンと実質的に一致した場合(例えば、ブレーキペダル位置などの車両のセンサに基づく、システムの加速度計、ジャイロスコープ、またはIMUの測定値が所定の閾値を超えるG力を示すことに基づく、記録システムによって記録された画像に基づく、横加速度が閾値加速度を超えた場合)、急ブレーキがかけられたとき、物体が閾値割合を超えて外向きカメラの視野を占有しているとき、叫び声が検出されたとき(例えば、音声センサから)、衝突が検出されたとき(例えば、衝突時間より前にサンプリングされたセンサデータが衝突接近イベントに関連する場合、測定されたG力が衝突閾値を超えたことに応答して、音響パターンが衝突パターンと実質的に一致することに応答して、エアバッグが展開されたことに応答して、あるいは他の方法で特定される)、または衝突接近事象に関連する他の適切な状態が検出されたときに、衝突が検出される、
[0084]しかしながら、衝突接近事象は他の方法で決定されてもよい。
[0085]この方法は、任意で、衝突接近事象のパラメータを格納するステップS210を含んでもよい。衝突接近事象パラメータは、衝突接近事象時間(例えば、検出時間、基礎となるデータのサンプリングタイムスタンプなど)、衝突接近事象中の車両位置(例えば、搭載システムの位置センサから受信される)、運転状況のパラメータ(例えば、車線識別子のような車両位置情報、道路タイプ、交通状況、気象状況など)、車両運転者のオペレータ識別子(例えば、参照により本明細書に組み込まれる、2017年7月5日出願の米国特許出願第15/642,094号に開示された方法で特定されるか、任意の他の適切な方法を使用して検索され、または決定される)、車両の車両識別子、物体の識別子、衝突接近方向、または他の因子値を含み得る。
[0086]この方法は、衝突接近事象パラメータと共に関連データを記憶するステップを任意に含むことができる(例えば、図11)。関連データは、基礎となるデータ(例えば、衝突接近事象が検出された元データ)、衝突接近事象の前、最中、または後にサンプリングされたセンサデータ(例えば、衝突接近事象の時間窓内にサンプリングされたセンサストリームセグメント)、衝突接近事象とパラメータを共有するセンサデータ(例えば、同じ運転セッション中に取得された)、または他の適切なデータを含み得る。格納された関連データは、衝突接近事象ラベルに基づいて選択してもよいし(例えば、異なるラベルを異なるデータタイプおよび/または時間枠に関連付けることができる)、所定のデータセットであってもよいし(例えば、所定の時間枠内にサンプリングさたカメラ画像と運動センサデータのみ)、あるいは他の適切なデータであってもよい。一例では、衝突接近事象の状況を記述するデータと(例えば、近接センサデータ、外向きカメラ映像、または他のセンサデータストリームもしくは時系列のセグメント)、オペレータの反応に関するデータ(例えば、内向きカメラ映像、車両制御入力センサ、ユーザ反応データ、または他のセンサデータストリームまたは時系列のセグメント)とを、衝突接近事象パラメータと関連付けて格納することができる。センサデータストリームまたは時系列の格納されたセグメントは、衝突前事象時間枠の前、後、および/または最中の所定の時間窓でサンプリングされたセンサ信号であってもよいし、運転セッション全体におけるセンサ信号であってもよいし、他の任意のセットであってもよい。時間窓は事前に設定されてもよいし、リスクマップの最高のリスクスコア、リスクスコアの分布、その他のリスクパラメータに基づいて異なってもよいし、衝突が発生したかどうかに基づいて選択されるか、衝突接近原因またはクラスに基づいて選択されるか、その他の方法で決定されてもよい。パラメータ、データ、または他の情報は、搭載システムによって、リモートシステムによって(例えば、情報は、ほぼリアルタイムで、または所与の接続タイプが検出された場合に、処理システムまたは記録システムからリモートシステムへ非同期で送信することができる)、または任意の適切なシステムによって格納することができる。
[0087]この方法は、衝突接近事象をラベリングするステップを任意に含むことができ、これは、以降の集約的な衝突接近事象処理を容易にするように作用する。追加的または代替的に、運転セッション(例えば、セッション識別子、セッションデータなど)は、衝突接近事象ラベルを用いて衝突接近事象としてラベル付けすることができ、または他の方法でラベル付けすることができる。衝突接近事象は、自動的に(例えば、リモート演算システムによって、車両などによって)ラベル付けされてもよいし、手動でラベル付けされてもよいし、他の方法でラベル付けされてもよい。衝突接近事象は非同期的にラベル付けされることが好ましいが、代替的にリアルタイムまたはほぼリアルタイムでラベル付けされてもよい。ラベルは、衝突接近事象のクラスまたはタイプ(例えば、先行車との衝突、自転車、歩行者、看板、または縁石との側面衝突、逆衝突など。ここで衝突接近事象は実質的に同時記録されたデータに基づいて分類することができる。)、リスクの重大度(例えば、異常接近したミスなど)、衝突接近原因、または他の適切な記述子のセットとすることができる。
[0088]この方法は、衝突接近事象の原因(例えば、一組の誘発イベント)を特定するステップS230を任意選択で含んでもよい。原因は、衝突接近事象の検出の基礎となるデータに関連付けて(例えば、ラベル付けに使用される)格納することができ、または他の方法で使用することができる。原因は、衝突接近事象のフィルタリング、クラスタリング、またはその他の方法での管理、衝突への問題(fault)の割り当て、ドライバスコアの計算(例えば、オペレータが原因ではない衝突接近事象はオペレータスコアの計算から除外できる)、レポート(保険レポート、事故レポートなど)の自動識別または自動記入、地理的位置の衝突リスクマップ全体に対する各リスクマップの影響の調整、自律型車両制御モジュールまたはリスクマップモジュールのトレーニングにどのトレーニングデータを使用するかの決定(例えば、ドライバーによって引き起こされた衝突接近事象のデータの除外、エッジケースの特定など)、通知または自動制御パラメータの決定に用いることができ、またはその他の方法で使用することができる。
[0089]第1の変形例では、原因は、所定のリスクマップに対する連続的な車両の挙動に基づいて決定することができる。例えば、車両の軌道が所定の高危険度のリスクマップ領域に向いている場合(例えば交差する、所定の距離内または角度領域内にあるなど)、または車両が高危険度のリスクマップ領域に向かって実質的に動いている場合に、車両オペレータが原因であると特定することができる。第2の例では、車両の軌跡が高危険度のリスクマップ領域に向けられていないが、車両の近くの高危険度のリスクマップ領域が(例えば、オブジェクトの移動のために)時間とともに増加している場合、物体が原因であると特定することができる。しかしながら、その後の車両の挙動に基づいて他の方法で原因を判断してもよい。
[0090]第2の変形例では、原因はRAMに基づいて判断することができる。一実施形態では、原因は、RAMモデルの個々のパラメータに基づいて判断することができる。例えば、原因は、最も高い重み、最も高い加重値(例えば、重みと因子値の積)、最も高い因子値のリスクスコアへの影響、上記の最も低い値、あるいは他の適切なパラメータに基づいて決定することができる。原因は、パラメータ自体、パラメータまたは因子に関連する原因、最も影響力のあるパラメータ(例えば、パラメータの組み合わせ、パラメータ値の組み合わせなど)に関連する原因であってもよいし、その他の方法で決定されてもよい。第2の実施形態では、原因は、RAMの導関数または積分、または結果のリスク測定基準(例えば、リスクマップ)に基づいて決定することができる。第3の実施形態では、原因は、所与の車両について経時的に選択された一連のRAMに基づいて(例えば、RAMの一時的パターンが所定の原因に関連付けられている)、またはそれぞれのRAMによって生成された一連のリスク測定基準(例えば、リスクマップ)に基づいて決定できる。しかしながら、原因は、RAMおよび/または結果として生じるリスク測定基準から他の方法で特定してもよい。
[0091]第3の変形例では、原因は、衝突接近事象に関連するデータの分析から特定することができる。第1の実施形態では、この方法は、リスクマップを用いて衝突接近事象を検出するステップと、衝突接近事象の所定の時間窓内に記録されたデータを取得するステップと(例えば、リスクマップ生成にデータの全部、一部が用いられ、あるいはまったく用いられない)、原因のデータを分析するステップとを含む。データは、外部映像、内部映像、近接センサデータ、車両センサデータ、または任意の他のデータを含み得る。データは、パターンマッチング(例えば、異なる信号パターンが事前に関連付けられた原因と関連付けられる)、分類、ニューラルネットワーク、規則、決定木、ベイジアン、サポートベクター、遺伝的プログラム、または任意の他の適切な方法を用いて分析され得る。特定の例では、衝突接近事象(例えば、衝突接近事象を包含する、または他の方法で関連する内部映像のセグメント)の前、最中、および/または後に記録された内向きカメラストリームを分析して、ドライバーが衝突前に物体を見たかどうかを特定することができる。第2の特定の例では、位置システムの測定値を分析して、ドライバーが車線境界内を運転していたかどうかを判定することができる。第3の特定の例では、衝突近くの事象の前、最中、および/または後の物体センサの測定値を分析して、物体の障害の寄与を決定することができる。しかしながら、他の方法で原因を特定してもよい。
[0092]この方法は、(例えば、衝突接近イベントを記録する前または運転データにラベリングする前に)衝突接近イベントを検証するステップを任意選択で含むことができる。一変形例では、衝突接近事象を検証するステップは、(例えば、上で開示された)個々の検出の変形例または検出システムを用いて(例えば、同じか類似のパラメータ、タイムスタンプなどを用いて)同じ衝突接近事象を検出するステップを含む。例えば、リスクマップが閾値を超えるリスクスコアを含むときに衝突接近事象を検出することができ、近接センサ信号に基づいて、(リスクスコアの高いサブ領域に位置する)物体が車両に向かって動いているという判定に応答して検証することができる。第2の例では、リスクマップが閾値を超えるリスクスコアを含むとき(例えば、最初は、最初にサンプリングされた信号に基づいて)衝突接近事象を検出することができ、(例えば、最初の前、後または最中にサンプリングされた)回避行動に関連するセンサ信号がさらに同定された場合に検証することができる。
[0093]この方法は、衝突接近事象に関連するオペレータの行動を特定するステップS240を任意選択で含むことができる。オペレータの行動の例には、回避操作(例えば、操舵、制動、加速、車両能力の限界に近い制御入力の組み合わせなど)、衝突前操作、注意、または他の適切な行動が含まれる。オペレータの行動は、内向きカメラ、オペレータ向きカメラ、または車両制御入力センサ(例えば、ペダルセンサ、ステアリングホイールセンサなど)のような、オペレータをモニタするセンサ信号から特定されることが好ましいが、代替的に、外部物体を監視するセンサ信号または任意の他の適切なセンサから特定してもよい。オペレータの行動を特定するステップは、センサ信号内でオペレータの行動を同定すること、オペレータの行動を説明するセンサ信号を同定すること、オペレータの行動を分類またはラベリングすること(例えば、良、不良、安全、危険など)、または他のオペレータの行動の処理を含み得る。オペレータの行動は、分類器、パターンマッチングシステム、規則のセット(例えば、所定の時間窓内に所定のセンサセットによってサンプリングされた信号がオペレータの行動に関連付けられる)を使用して、または他の方法で特定することができる。オペレータの行動はそれぞれの衝突接近事象情報と共に記憶され、各オペレータのドライバースコアを決定するために使用されるか、他の方法で使用される。
[0094]この方法は、衝突接近事象の検出に応答して行動するステップS250を任意選択で含むことができ、これは、1またはそれ以上の用途において、検出された衝突接近事象および/またはそのパラメータを使用するように機能し得る。例えば、自動的にドライバー通知を発すること、自動車両制御を実行すること、仮想シミュレーションを生成すること、または他の任意の適切な行動を、衝突接近イベント検出に応答して自動的に取ることができる。
[0095]第1の変形例では、この方法は、検出された衝突接近事象および/または関連する因子もしくはパラメータ(例えば原因)に基づいて通知を生成するステップを含むことができる。通知は、衝突接近事象の前、最中、またはその後に生成および/または送信することができる。通知は、ユーザ(例えば、管理主体、オペレータ、保険会社などに対する推奨または通知を含む)、車両、または他の端末に対するものとすることができる。通知は自動的に生成および/または発信することができるが、代替的に他の方法で制御してもよい。第1の例では、衝突接近事象の検出に応答して、点滅光、音声通知(例えば、警告音)、車両要素の作動(例えば、シートの振動、ステアリングホイールの振動など)、または他の通知を、ユーザに提示することができる。第2の例では、迫る衝突を回避するために車両を自動的に制御することができる。例えば、差し迫る衝突の検出に応答して、加速度計を再マッピングし、ブレーキを自動的にかけ、速度を自動的に減速し、または車輪を自動的に回転させることができる(例えば、図16に示す自動決定回避経路に入るか追従する。これは、コンカレントリスクマップから決定することができ、または他の方法で決定することができる)。第3の例では、オペレータに推奨する運転行動(例えば、コーチングの推奨)を送信することができる。後続のドライバーの行動を、任意選択的に、運転行動における正の変化(例えば、衝突接近事象の頻度の減少)または負の変化(例えば、衝突接近事象の頻度の増加)について所定期間監視してもよい。負の変化が特定された場合に異なる推奨がドライバーに提供されてもよく、一方で正の変化が特定された(例えば、所定の時間窓の間に発生頻度が閾値頻度を下回った)場合は、同一または類似の推奨が(例えば類似のリスクプロファイル、運転習慣、原因などを有する)他のオペレータに提供されてもよい。しかしながら、他の任意の適切な行動をとることができる。
[0096]第2の変形例では、この方法は関連するセンサ測定値をリモート演算システムに送るステップを含むことができる。関連するセンサ測定値は、衝突接近事象検出の基礎となるセンサ測定値、衝突接近事象に先行する所定期間記録されたセンサ測定値、または任意の他の適切なセンサ測定値を含むことができる。
[0097]第3の変形例では、所与のドライバーについて検出された衝突接近事象(例えば、ドライバーの電話、ドライバーのバイオメトリクスなどによって同定される)のパラメータ(例えば、頻度、重大度、種類、原因など)を用いて、ドライバーに運転リスクまたは安全性を示すドライバースコアを割り当てることができる。ドライバースコアは、以降に、リスクマップのパラメータ(例えば、監視領域、リスクスコアの決定など)、RAMのパラメータ、衝突接近イベント検出を引き起こす条件、保険料の決定、コーチングコースを運転するドライバー、を決定するために使用することができ、そのトレーニングデータは、自律型車両制御モジュールのトレーニングに使用されるか、他の方法で使用されるべきとなる。
[0098]第4の変形例では、衝突接近事象の前、最中、および/または後の車両および/または物体の動作を抽出し、分析し、利用することができる。第1の例では、車両の挙動、物体の挙動、ドライバーの行動、または衝突接近事象に先行する他のパラメータを抽出してリスクマップ生成を洗練し、衝突接近事象の原因を特定し、ドライバーに失点を割り当て(例えば、失点率を決定する)、または他の方法利用することができる。この情報は、追加的または代替的に、コーチングの向上の対象となり得るドライバーの運転技術の弱点領域を同定するために使用することができる。第2の例では、衝突を回避するために取られた車両の軌跡またはドライバーの行動を抽出し、同様の状況で他のドライバーを指導するために使用したり、同様の状況で同様の物体の反応を予測するのに使用したり、(例えば、同様の状況で歩行者がどのように反応するかを予測する)、同様の状況で自律走行車両の応答を特定するために使用したり、あるいは他の方法で使用することができる。しかしながら、衝突接近検出事象および/またはそのパラメータは、他の方法で用いてもよい。
[0099]第5の変形例では、この方法は、衝突接近事象の情報セットに基づいてモジュールをトレーニングするステップS280を含む。衝突接近事象の情報セット(例えば、複数の衝突接近事象データ)は、所与のオペレータ、車両、ユーザの母集団、位置、時間枠(例えば、繰り返しの時間枠、単一の時間枠など)、すべての方法インスタンス(例えば、複数の有効または無効の車両について)、または他のパラメータについて集約された衝突接近事象(好ましくはラベル付き、あるいはラベルなし)および/または関連データを含むことができる。情報セットは、モジュールトレーニング(例えば、較正、更新など)のためのトレーニングセット(例えば、指導付き、あるいは指導なし)を生成するために使用することができる。トレーニングセットを使用してトレーニングできるモジュールは、監視領域サイズ決定モジュール、監視領域形状決定モジュール、監視領域方向決定モジュール、リスク特定モジュール、リスク方程式選択モジュール、自律型車両制御モジュール(AV制御モジュール)、または他の適切なモジュールを含む。トレーニングされたモジュールは、好ましくは、その後本方法で使用されるか、二次車両を制御するため(例えば、AV制御モジュール)に使用されるか、他の方法で使用される。
[00100]第1の例では、衝突接近事象の情報セットは、所定の原因のセットを含むか除外するようにフィルタリングすることができ、AV制御モジュールは、フィルタリングされたセットに対してトレーニングすることができる。例えば、衝突接近事象に関連する運転軌跡、軌跡分類、またはドライバー反応を使用して、不良の運転軌跡または反応から、良好な運転軌跡または反応をフィルタリングすることができ、あるいは別の方法で異なる運転軌跡を区別することができる(図17に例示)。良好な運転軌跡は、(例えば、手動または自動で決定された閾値スコアを超える)ドライバースコアの高いドライバーによって、ドライバーが原因でない衝突接近事象に応答して、衝突を軽減するか回避することの成功で、以降に衝突リスクの高い領域が生じないことで、あるいは他の方法で特徴付けられた軌跡またはドライバー応答を含み得る。これらの運転軌跡は、その後、自律走行車の移動を制御するために、自律走行車制御モジュールをトレーニングまたは開発するために、または他の方法で使用することができる。
[00101]第2の例では、AV制御モジュールをトレーニングするために使用された衝突接近事象の情報セットから、オペレータによって引き起こされた衝突接近事象を除外することができる。第3の例では、情報セットをフィルタリングしてエッジケース(例えば、手動で決定される、または情報セット内のラベル出現頻度に基づいて決定される、稀な出現)を同定することができ、これらのエッジケースは、AV制御モジュールをトレーニングするのに用いることができる。第4の例では、情報セットは、衝突接近事象の状況を記述するデータ(例えば、近接センサデータ、外向きカメラ映像、または他のセンサストリームセグメントなど)と、オペレータの反応を記述するデータ(例えば、内部映像、車両制御入力センサ、または他のセンサストリームセグメントなど)を含み得る。この例では、情報セットは、回避操作が成功した衝突接近事象(例えば、所定の時間枠内に衝突事象が続いていない衝突接近事象)、所望の行動(例えば、安全操作など)、優良ドライバー(例えば、ドライバースコアが高いオペレータ)、所定の原因セット、あるいは他のパラメータ(例えば、所望の回避操作に関連する)についてフィルタリングすることができ、ここで同定された衝突接近事象の情報(例えば、惹起した原因のデータおよびユーザ応答)は、AVコントロールモジュールのトレーニングに利用することができる。第5の例では、衝突接近事象の情報セットは、特定の道路形状(例えば、ラウンドアバウト、交差点など)を含むようにフィルタリングすることができ、フィルタリングされたセットについてAV制御モジュールをトレーニングすることができる。
[00102]しかしながら、上記のように、衝突接近事象は他の方法で利用してもよい。
[00103]この方法は、任意で、格納されたリスクマップに作用するステップを含むことができ、これは所与の地理的位置、運転セッション(またはそのセグメント)、車両、ドライバー、または他のデータオブジェクトについてのリスクを特徴付けるように機能する。リスクマップは、リモート演算システムによって処理および/または実行されることが好ましい(例えば、リスクマップまたはそのパラメータは、車両からリモートの演算システムに送信される)が、代替として、車両搭載システム、二次車両システム、または他の適切なシステムによって処理および/または実行してもよい。
[00104]第1の変形例では、所与の地理的位置または領域に対する衝突リスクマップは、車両の集団にわたって集約されたリスクマップおよび/または衝突接近事象から生成することができる。衝突リスクマップは、複数の位置のそれぞれ、単一の位置、または任意の位置セットに対して生成および/または関連付けて記憶することができる。衝突リスクマップは、所定の再帰時間(例えば、一日のうちの時間)について、または所定の期間(例えば、全期間にわたって)について、リアルタイムまたはほぼリアルタイムで、リスク(例えば、リスクマップから)、衝突、および/または衝突接近のホットスポットを含むことができる。一例では、衝突リスクマップは、交通動態のほぼリアルタイムのマップを反映することができ、これは動的な経路プランニング、ADAS感度の向上、または他の方法で二次車両によって使用することができる。第2の例では、衝突リスクマップは、インフラストラクチャの管理または改善のために使用することができる。特定の例では、衝突ホットスポットは、ドライバーの視認性の向上、車線分割線の挿入、または他のインフラストラクチャの改善を目的とすることができる。第3の例では、衝突リスクマップを使用して、リスクマップのパラメータ、RAMのパラメータ(例えば、どのパラメータが含まれるか、パラメータ値の範囲、パラメータの重み、モデル自体など)、衝突接近事象の検出をトリガする条件を調整することができ、または他の方法で衝突接近検出方法にフィードバックしてもよい。例えば、衝突接近事象についての監視領域は、衝突接近事象が頻繁に発生する場所では動的に増加させることができる。
[00105]第1の変形例の一実施形態では、本方法は、所与の地理的位置または領域について(例えば、リアルタイムで、常に、月曜日の午前8時などの再帰時間枠などについて)リスクマップを集約し、当該地理的位置についての衝突リスクマップを生成するステップS260を含むことができる(例えば、図15)。一例では、本方法は、(例えば、二次自動車、ナビゲーションシステム、または他の端末からの)二次自動車の位置識別子を有する衝突リスクマップ要求を受信するステップと、および/または、二次車両のナビゲーション、操作、または他の用途のために、二次車両または関連システムの位置識別子に関連するリスクマップを取り出して送信するステップとを含み得る。例えば、二次自動車用のADASは、高リスク領域では自動車の速度を自動的に遅くすることができる。二次車両は、利用可能な車両集団内の車両(例えば、演算システムなどを含むシステムを実行することが可能)、利用可能な車両集団以外の利用不能な車両(例えば、システムを実行することができない、演算システムを有さないなど)、または任意の適切な車両であり得る。
[00106]第2の変形例では、本方法は、リスクマップに基づいて車両の避難経路を同定するステップS270を含み、ここで避難経路を使用してオペレータ通知(例えば、触覚、光学などの通知)を生成し、車両の動作を自動制御することができ(例えば、避難経路に沿って移動させる)、または他の方法で利用することができる。逃避経路は、リスクスコアが閾値未満の領域を通過する軌跡、平均または総合リスクスコアが閾値未満の軌跡であってもよく、他の方法で定義してもよい。しかしながら、リスクマップは他の方法で使用することができる。
[00107]本システムおよび/または方法の実施形態は、様々なシステム構成要素および様々な方法プロセスのあらゆる組み合わせおよび置換を含むことができ、方法プロセスは、任意の適切な順序で、順次または同時に実行することができる。
[00108]当業者であれば、前述の詳細な説明ならびに図面および特許請求の範囲から認識されるように、添付の特許請求の範囲で定義される本発明の範囲から逸脱することなく、本発明の好ましい実施形態に対して修正および変更を加えることができる。

Claims (20)

  1. 車両に取り付けられた外向きカメラで第1の映像を記録するステップと、
    前記第1の映像から物体を検出するステップと、
    前記第1の映像から前記物体についての物体パラメータを特定するステップと、
    前記車両に取り付けられた内向きカメラで第2の映像を記録するステップと、
    前記第2の映像に基づいてユーザ行動スコアを決定するステップと、
    前記車両に対するリスクマップを生成するステップであって、前記リスクマップは、前記車両の近くの体積内の位置のセットのそれぞれに対するリスクスコアを含み、各リスクスコアは、前記ユーザ行動スコアと前記物体パラメータとに基づいてパラメトリックモジュールを用いて計算される、ステップと、
    前記リスクマップ内で閾値スコアを超えるリスクスコアを検出することを含む、衝突接近事象を検出するステップと、
    前記衝突接近事象の検出に応答して、前記衝突接近事象を包含する前記第1の映像のセグメントを保存するステップと、
    前記パラメトリックモジュールの個々のパラメータに基づいて、前記衝突接近事象の原因を特定するステップと、を含むことを特徴とする方法。
  2. 請求項1の方法において、さらに、
    複数の車両からの衝突接近事象に関連する複数の第1の映像セグメントを集めるステップと、
    前記複数の第1の映像セグメントの各々について、それぞれの第1の映像に関連する衝突接近事象の間に記録されたユーザ応答を記録するステップと、
    各第1の映像セグメントをそれぞれの衝突接近事象の原因でラベル付けするステップと、
    それぞれの原因に基づいて前記複数の第1の映像セグメントをフィルタリングするステップと、
    前記フィルタリングされた複数の第1の映像セグメントとそれぞれのユーザ応答とに基づいて、自律型車両の自律動作を制御する自律型車両制御モジュールをトレーニングするステップと、を含むことを特徴とする方法。
  3. 請求項2の方法において、前記ユーザ応答は、前記衝突接近事象を包含する時間枠の間にサンプリングされた前記第2の映像のセグメントから特定されることを特徴とする方法。
  4. 請求項1の方法において、前記衝突接近事象を検出するステップが、
    前記閾値スコアを超えるリスクスコアに関連付けられた位置を同定するステップと、
    前記車両の車両軌道を特定するステップと、
    前記車両軌道が前記位置に向けられた場合に衝突接近事象を検出するステップと、を含むことを特徴とする方法。
  5. 請求項4の方法において、前記衝突接近事象の原因を特定するステップは、前記車両軌道が前記位置に向けられた場合に、前記ユーザを前記衝突接近事象の原因として特定するステップを含むことを特徴とする方法。
  6. 請求項1の方法において、前記衝突接近事象の原因を特定するステップは、最も高い重み付き値を用いて前記パラメトリックモジュールの独立パラメータを決定するステップを含むことを特徴とする方法。
  7. 請求項1の方法において、前記内向きカメラは、前記外向きカメラに対して既知の配向で共通のハウジングによって固定的に取り付けられ、前記第1の映像は前記第2の映像と同時に記録され、前記方法がさらに、前記第2の映像と前記配向に基づいて前記物体に対するドライバーの視線方向を特定するステップを含み、前記ユーザ行動スコアは、前記物体に対するドライバーの視線方向に基づいて決定されることを特徴とする方法。
  8. 請求項1の方法において、前記第1の映像を記録するステップと、前記物体を検出するステップと、前記物体パラメータを特定するステップと、前記第2の映像を記録するステップと、前記ユーザ行動スコアを決定するステップと、前記リスクマップを生成するステップと、前記衝突接近事象を検出するステップとは、車両搭載プロセッサによってリアルタイムで実行されることを特徴とする方法。
  9. 請求項8の方法において、前記リスクマップは、前記車両の後部付近の物理的体積を除外することを特徴とする方法。
  10. 請求項1の方法において、先行車両の予想挙動に基づいて前記リスクマップの幾何学的形状を決定するステップをさらに含むことを特徴とする方法。
  11. 請求項10の方法において、前記先行車両の予想挙動に基づいて前記リスクマップの幾何学的形状を決定するステップは、
    前記第1の映像から、前記先頭車両による、一方の側に関連する方向指示器の操作を検出するステップと、
    方向指示器の操作を検出することに応答して、前記第1の側に偏った所定の幾何学的形状を前記リスクマップの幾何学的形状として選択するステップと、を含むことを特徴とする方法。
  12. 請求項1の方法において、さらに、
    車両経路に沿った複数の場所のそれぞれについてリスクマップを生成するステップと、
    複数の車両のそれぞれについてのリスクマップを、前記場所のそれぞれに関連付けて記憶するステップと、
    前記場所のそれぞれについての前記複数の車両のそれぞれからのリスクマップに基づいて、前記複数の場所のそれぞれについてのリスクマップを生成するステップとを含むことを特徴とする方法。
  13. 請求項12の方法において、前記リスクマップはリアルタイムで生成されるとともに、前記方法がさらに、
    前記内向きカメラ、外向きカメラ、およびプロセッサなしで、二次車両に対するリスクマップ要求を受信するステップであって、前記リスクマップ要求は、前記複数の場所内のある位置についての位置識別子を含む、ステップと、
    前記場所に関連するリスクマップを検索するステップと、
    前記検索されたリスクマップを前記二次車両に送信するステップであって、前記二次車両は前記検索されたリスクマップに基づいて操作されるステップとを含むことを特徴とする方法。
  14. 請求項1の方法において、前記パラメトリックモジュールは、ガウスモデルのセットを含むことを特徴とする方法。
  15. 請求項1の方法において、さらに、1組の所定のパラメータモジュールから前記車両の地理的位置に基づいて前記パラメトリックモジュールを選択するステップを含むことを特徴とする方法。
  16. 請求項1の方法において、さらに、
    前記衝突接近事象の原因に基づいて推奨を生成するステップと、
    前記推奨を含む通知をユーザに送信するステップと、
    前記通知を送信した後の閾値期間、前記内向きカメラによってサンプリングされた映像に基づいてユーザ行動を監視するステップと、
    前記閾値期間中に前記原因の発生頻度が閾値頻度を下回ったことに応答して、第2のユーザに関連する第2の衝突接近事象の原因と実質的に一致する原因に応答して前記推奨を前記第2のユーザに送信するステップであって、前記第2のユーザは前記第1のユーザとは異なるステップと、を含むことを特徴とする方法。
  17. 車両に取り付けられ、内向きカメラに固定的に取り付けられた外向きカメラと、前記外向きカメラおよび内向きカメラに電気的に接続されたプロセッサとを具える搭載システムが:
    前記外向きカメラおよび内向きカメラをそれぞれ使用して第1の映像および第2の映像を同時に記録するステップと;
    プロセッサで前記第1の映像から物体を検出するステップと;
    前記プロセッサで第1の映像から前記物体についての物体パラメータを決定するステップと;
    前記プロセッサで、前記第2の映像と、前記内向きカメラに対する前記外向きカメラの既知の配向とに基づいてユーザ行動スコアを決定するステップと;
    前記プロセッサで、ほぼリアルタイムで前記車両に対するリスクマップを生成するステップであって、前記リスクマップは、前記車両を包含する体積内の位置のセットのそれぞれについてのリスクスコアを含み、各リスクスコアは、前記ユーザ行動スコアと物体パラメータとに基づくパラメトリックモジュールを用いて計算されるステップと;
    前記リスクマップに基づいて衝突接近事象を検出するステップと;
    前記搭載システムから離れたリモート演算システムが:
    前記衝突接近事象の検出に応答して前記第1の映像を記録するステップと;
    前記衝突接近事象の後にサンプリングされた第2の映像のセグメントを記録するステップと;
    前記第1の映像と前記第2の映像のセグメントとに基づいて制御モジュールをトレーニングするステップであって、当該制御モジュールによって二次車両が自動的に制御されるステップと、を含むことを特徴とする方法。
  18. 請求項17の方法において、さらに、
    前記プロセッサが、複数の場所の各々についてリスクマップを生成するステップと;
    前記リモート演算システムが、それぞれの場所に関連して複数の車両のそれぞれについてのリスクマップを記憶するステップと、
    前記リモート演算システムが、前記それぞれの場所についての前記複数の車両のそれぞれからのリスクマップに基づいて、前記複数の場所のそれぞれについてのリスクマップを生成するステップと、
    前記リモート演算システムが、前記システムのない二次車両についてのリスクマップ要求を受信するステップであって、前記リスクマップ要求は、前記複数の場所内の1つの場所についての場所識別子を含むステップと、
    前記リモート演算システムが、前記場所に関連するリスクマップを検索するステップと、
    前記検索されたリスクマップを前記二次車両に送信するステップであって、当該二次車両は前記検索されたリスクマップに基づいて動作するステップとを含むことを特徴とする方法。
  19. 請求項17の方法において、前記パラメトリックモジュールは、ガウスモデルのセットを含むことを特徴とする方法。
  20. 請求項17の方法において、さらに、
    複数の車両からの衝突接近事象に関連する複数の第1の映像を集めるステップと、
    第1の映像のそれぞれについて:
    前記パラメトリックモジュールの個々のパラメータに基づいて衝突接近事象の原因を特定するステップと、
    第1の映像のそれぞれに、それぞれの衝突接近事象の原因をラベリングするステップと、
    それぞれの原因に基づいて複数の映像をフィルタリングするステップと、
    前記フィルタリングされた複数の第1の映像に基づいて、自律型車両の自律動作を制御する自律型車両制御モジュールをトレーニングするステップと、を含むことを特徴とする方法。
JP2019535219A 2016-09-14 2017-09-14 ニアクラッシュ判定システムおよび方法 Active JP6940612B2 (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US201662394298P 2016-09-14 2016-09-14
US62/394,298 2016-09-14
US201662412419P 2016-10-25 2016-10-25
US62/412,419 2016-10-25
PCT/US2017/051629 WO2018053175A1 (en) 2016-09-14 2017-09-14 Systems and methods for near-crash determination

Publications (2)

Publication Number Publication Date
JP2019533609A true JP2019533609A (ja) 2019-11-21
JP6940612B2 JP6940612B2 (ja) 2021-09-29

Family

ID=61560620

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019535219A Active JP6940612B2 (ja) 2016-09-14 2017-09-14 ニアクラッシュ判定システムおよび方法

Country Status (4)

Country Link
US (3) US9928432B1 (ja)
EP (1) EP3513265A4 (ja)
JP (1) JP6940612B2 (ja)
WO (1) WO2018053175A1 (ja)

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021051736A (ja) * 2019-09-24 2021-04-01 ▲広▼州大学 車両走行経路計画方法、装置、システム、媒体及びデバイス
JP2021054388A (ja) * 2019-09-30 2021-04-08 ベイジン バイドゥ ネットコム サイエンス テクノロジー カンパニー リミテッドBeijing Baidu Netcom Science Technology Co., Ltd. 自動運転の制御方法、装置、電子機器及び記憶媒体
KR20210086470A (ko) * 2019-12-27 2021-07-08 모셔널 에이디 엘엘씨 차량용 안전 시스템
WO2021171874A1 (ja) * 2020-02-27 2021-09-02 パナソニックIpマネジメント株式会社 制御システム及び制御方法
JPWO2022153393A1 (ja) * 2021-01-13 2022-07-21
US11574543B2 (en) 2020-03-23 2023-02-07 Toyota Motor North America, Inc. Transport dangerous location warning
US11643076B2 (en) 2018-04-20 2023-05-09 Shenzhen Sensetime Technology Co., Ltd. Forward collision control method and apparatus, electronic device, program, and medium
US11718288B2 (en) 2020-03-23 2023-08-08 Toyota Motor North America, Inc. Consensus-based transport event severity
US11726484B1 (en) * 2020-06-03 2023-08-15 Delta Air Lines, Inc. Airport ground support equipment navigation system
WO2023157301A1 (ja) * 2022-02-21 2023-08-24 日立Astemo株式会社 電子制御装置及び軌道生成方法
US11999381B2 (en) 2020-03-23 2024-06-04 Toyota Motor North America, Inc. Transport item management

Families Citing this family (233)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10096038B2 (en) 2007-05-10 2018-10-09 Allstate Insurance Company Road segment safety rating system
US9932033B2 (en) 2007-05-10 2018-04-03 Allstate Insurance Company Route risk mitigation
US8606512B1 (en) 2007-05-10 2013-12-10 Allstate Insurance Company Route risk mitigation
US9424696B2 (en) * 2012-10-04 2016-08-23 Zonar Systems, Inc. Virtual trainer for in vehicle driver coaching and to collect metrics to improve driver performance
US10154382B2 (en) 2013-03-12 2018-12-11 Zendrive, Inc. System and method for determining a driver in a telematic application
US10096067B1 (en) 2014-01-24 2018-10-09 Allstate Insurance Company Reward system related to a vehicle-to-vehicle communication system
US9390451B1 (en) 2014-01-24 2016-07-12 Allstate Insurance Company Insurance system related to a vehicle-to-vehicle communication system
US9355423B1 (en) 2014-01-24 2016-05-31 Allstate Insurance Company Reward system related to a vehicle-to-vehicle communication system
US10803525B1 (en) 2014-02-19 2020-10-13 Allstate Insurance Company Determining a property of an insurance policy based on the autonomous features of a vehicle
US10796369B1 (en) 2014-02-19 2020-10-06 Allstate Insurance Company Determining a property of an insurance policy based on the level of autonomy of a vehicle
US10783586B1 (en) 2014-02-19 2020-09-22 Allstate Insurance Company Determining a property of an insurance policy based on the density of vehicles
US9940676B1 (en) 2014-02-19 2018-04-10 Allstate Insurance Company Insurance system for analysis of autonomous driving
US10783587B1 (en) 2014-02-19 2020-09-22 Allstate Insurance Company Determining a driver score based on the driver's response to autonomous features of a vehicle
US10769453B2 (en) * 2017-05-16 2020-09-08 Samsung Electronics Co., Ltd. Electronic device and method of controlling operation of vehicle
US10235606B2 (en) * 2015-07-22 2019-03-19 Siemens Healthcare Gmbh Method and system for convolutional neural network regression based 2D/3D image registration
US9869560B2 (en) 2015-07-31 2018-01-16 International Business Machines Corporation Self-driving vehicle's response to a proximate emergency vehicle
CN108139456B (zh) 2015-08-20 2022-03-04 泽安驾驶公司 加速度计辅助导航的方法
US9818239B2 (en) 2015-08-20 2017-11-14 Zendrive, Inc. Method for smartphone-based accident detection
US9896100B2 (en) 2015-08-24 2018-02-20 International Business Machines Corporation Automated spatial separation of self-driving vehicles from other vehicles based on occupant preferences
US9646433B1 (en) * 2015-09-23 2017-05-09 State Farm Mutual Automobile Insurance Company Systems and methods for using image data to generate vehicle operation logs
US9566986B1 (en) 2015-09-25 2017-02-14 International Business Machines Corporation Controlling driving modes of self-driving vehicles
US11194405B2 (en) * 2015-10-08 2021-12-07 Panasonic Intellectual Property Corporation Of America Method for controlling information display apparatus, and information display apparatus
US9944291B2 (en) 2015-10-27 2018-04-17 International Business Machines Corporation Controlling driving modes of self-driving vehicles
US10607293B2 (en) 2015-10-30 2020-03-31 International Business Machines Corporation Automated insurance toggling for self-driving vehicles
US10176525B2 (en) 2015-11-09 2019-01-08 International Business Machines Corporation Dynamically adjusting insurance policy parameters for a self-driving vehicle
US10269075B2 (en) 2016-02-02 2019-04-23 Allstate Insurance Company Subjective route risk mapping and mitigation
US10042159B2 (en) 2016-02-18 2018-08-07 Aeye, Inc. Ladar transmitter with optical field splitter/inverter
US20170242104A1 (en) 2016-02-18 2017-08-24 Aeye, Inc. Ladar Transmitter with Induced Phase Drift for Improved Gaze on Scan Area Portions
US9933513B2 (en) 2016-02-18 2018-04-03 Aeye, Inc. Method and apparatus for an adaptive ladar receiver
US10761196B2 (en) 2016-02-18 2020-09-01 Aeye, Inc. Adaptive ladar receiving method
US10685391B2 (en) 2016-05-24 2020-06-16 International Business Machines Corporation Directing movement of a self-driving vehicle based on sales activity
EP3481661A4 (en) 2016-07-05 2020-03-11 Nauto, Inc. AUTOMATIC DRIVER IDENTIFICATION SYSTEM AND METHOD
WO2018009552A1 (en) 2016-07-05 2018-01-11 Nauto Global Limited System and method for image analysis
EP3497405B1 (en) 2016-08-09 2022-06-15 Nauto, Inc. System and method for precision localization and mapping
US9955319B2 (en) 2016-09-12 2018-04-24 Zendrive, Inc. Method for mobile device-based cooperative data capture
JP6940612B2 (ja) 2016-09-14 2021-09-29 ナウト, インコーポレイテッドNauto, Inc. ニアクラッシュ判定システムおよび方法
US10733460B2 (en) 2016-09-14 2020-08-04 Nauto, Inc. Systems and methods for safe route determination
US10093322B2 (en) 2016-09-15 2018-10-09 International Business Machines Corporation Automatically providing explanations for actions taken by a self-driving vehicle
US10643256B2 (en) 2016-09-16 2020-05-05 International Business Machines Corporation Configuring a self-driving vehicle for charitable donations pickup and delivery
US10495753B2 (en) * 2016-09-19 2019-12-03 Nec Corporation Video to radar
EP3535646A4 (en) 2016-11-07 2020-08-12 Nauto, Inc. SYSTEM AND METHOD FOR DETERMINING DRIVER DISTRACTION
US10726640B2 (en) * 2016-11-15 2020-07-28 At&T Mobility Ii Llc Facilitation of smart communications hub to support driverless vehicles in 5G networks or other next generation networks
US10196058B2 (en) * 2016-11-28 2019-02-05 drive.ai Inc. Method for influencing entities at a roadway intersection
US10012993B1 (en) 2016-12-09 2018-07-03 Zendrive, Inc. Method and system for risk modeling in autonomous vehicles
US10261513B2 (en) 2016-12-19 2019-04-16 drive.ai Inc. Methods for communicating state, intent, and context of an autonomous vehicle
KR101996415B1 (ko) * 2016-12-30 2019-07-04 현대자동차주식회사 자세 정보 기반 보행자 탐지 및 보행자 충돌 방지 장치 및 방법
US10259452B2 (en) * 2017-01-04 2019-04-16 International Business Machines Corporation Self-driving vehicle collision management system
US10363893B2 (en) 2017-01-05 2019-07-30 International Business Machines Corporation Self-driving vehicle contextual lock control system
US10529147B2 (en) 2017-01-05 2020-01-07 International Business Machines Corporation Self-driving vehicle road safety flare deploying system
US11321951B1 (en) 2017-01-19 2022-05-03 State Farm Mutual Automobile Insurance Company Apparatuses, systems and methods for integrating vehicle operator gesture detection within geographic maps
US20180208195A1 (en) * 2017-01-20 2018-07-26 Pcms Holdings, Inc. Collaborative risk controller for vehicles using v2v
US10409279B2 (en) * 2017-01-31 2019-09-10 GM Global Technology Operations LLC Efficient situational awareness by event generation and episodic memory recall for autonomous driving systems
KR102610986B1 (ko) 2017-02-17 2023-12-07 에이아이, 아이엔씨. 레이다 펄스 충돌 방지를 위한 방법 및 시스템
US10712163B2 (en) * 2017-02-23 2020-07-14 International Business Machines Corporation Vehicle routing and notifications based on characteristics
US10796204B2 (en) * 2017-02-27 2020-10-06 Huawei Technologies Co., Ltd. Planning system and method for controlling operation of an autonomous vehicle to navigate a planned path
US10522040B2 (en) 2017-03-03 2019-12-31 Kennesaw State University Research And Service Foundation, Inc. Real-time video analytics for traffic conflict detection and quantification
US10169973B2 (en) 2017-03-08 2019-01-01 International Business Machines Corporation Discontinuing display of virtual content and providing alerts based on hazardous physical obstructions
KR102310378B1 (ko) * 2017-04-18 2021-10-12 현대자동차주식회사 차량 주행제어 장치 및 방법
WO2018193595A1 (ja) * 2017-04-20 2018-10-25 富士通株式会社 評価プログラム、評価方法および評価装置
US10803323B2 (en) * 2017-05-16 2020-10-13 Samsung Electronics Co., Ltd. Electronic device and method of detecting driving event of vehicle
US10877783B2 (en) * 2017-06-14 2020-12-29 Wipro Limited System and method for alerting a user of risks
US10417816B2 (en) * 2017-06-16 2019-09-17 Nauto, Inc. System and method for digital environment reconstruction
US10453150B2 (en) 2017-06-16 2019-10-22 Nauto, Inc. System and method for adverse vehicle event determination
WO2018229548A2 (en) 2017-06-16 2018-12-20 Nauto Global Limited System and method for contextualized vehicle operation determination
US10304329B2 (en) 2017-06-28 2019-05-28 Zendrive, Inc. Method and system for determining traffic-related characteristics
US10691945B2 (en) * 2017-07-14 2020-06-23 International Business Machines Corporation Altering virtual content based on the presence of hazardous physical obstructions
JP7007216B2 (ja) * 2017-07-27 2022-01-24 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 情報処理方法、情報処理装置及び情報処理プログラム
WO2019028798A1 (zh) * 2017-08-10 2019-02-14 北京市商汤科技开发有限公司 驾驶状态监控方法、装置和电子设备
US10641900B2 (en) 2017-09-15 2020-05-05 Aeye, Inc. Low latency intra-frame motion estimation based on clusters of ladar pulses
EP3470947B1 (en) * 2017-10-12 2021-07-28 Volvo Car Corporation Method and system for guiding an autonomous vehicle
EP3474253B1 (en) * 2017-10-20 2024-04-10 Honda Research Institute Europe GmbH Gaze-guided communication for assistance in mobility
US10401862B2 (en) * 2017-10-31 2019-09-03 Waymo Llc Semantic object clustering for autonomous vehicle decision making
US10713940B2 (en) 2017-10-31 2020-07-14 Waymo Llc Detecting and responding to traffic redirection for autonomous vehicles
US20190137622A1 (en) * 2017-11-09 2019-05-09 Brennan Lopez-Hinojosa Method and System for Gauging External Object Movement and Conditions for Connected and Autonomous Vehicle Safety
US11347218B2 (en) * 2017-11-21 2022-05-31 Shawn Wang Portable universal autonomous driving system
US10278039B1 (en) 2017-11-27 2019-04-30 Zendrive, Inc. System and method for vehicle sensing and analysis
US11273836B2 (en) * 2017-12-18 2022-03-15 Plusai, Inc. Method and system for human-like driving lane planning in autonomous driving vehicles
US10423886B2 (en) 2017-12-29 2019-09-24 Forward Thinking Systems, LLC Electronic logs with compliance support and prediction
US11046247B1 (en) * 2018-01-10 2021-06-29 North Carolina A&T State University System and method for predicting effects of forward glance durations on latent hazard detection
US11615141B1 (en) * 2018-01-11 2023-03-28 Lytx, Inc. Video analysis for efficient sorting of event data
US11091162B2 (en) * 2018-01-30 2021-08-17 Toyota Motor Engineering & Manufacturing North America, Inc. Fusion of front vehicle sensor data for detection and ranging of preceding objects
WO2019158204A1 (en) * 2018-02-15 2019-08-22 Toyota Motor Europe Control method for a vehicle, computer program, non-transitory computer-readable medium, and automated driving system
KR102506871B1 (ko) * 2018-02-19 2023-03-08 현대자동차주식회사 자율 주행 제어 장치 및 그의 전방차량 출발 알림 방법
WO2019169031A1 (en) * 2018-02-27 2019-09-06 Nauto, Inc. Method for determining driving policy
US10628686B2 (en) * 2018-03-12 2020-04-21 Waymo Llc Neural networks for object detection and characterization
EP3540710A1 (en) * 2018-03-14 2019-09-18 Honda Research Institute Europe GmbH Method for assisting operation of an ego-vehicle, method for assisting other traffic participants and corresponding assistance systems and vehicles
CN110276985B (zh) * 2018-03-16 2020-12-15 华为技术有限公司 自动驾驶安全评估方法、装置和系统
US10733484B2 (en) * 2018-03-22 2020-08-04 Here Global B.V. Method, apparatus, and system for dynamic adaptation of an in-vehicle feature detector
CN108535753A (zh) * 2018-03-30 2018-09-14 北京百度网讯科技有限公司 车辆定位方法、装置及设备
US10983524B2 (en) 2018-04-12 2021-04-20 Baidu Usa Llc Sensor aggregation framework for autonomous driving vehicles
US10528832B2 (en) * 2018-04-17 2020-01-07 GM Global Technology Operations LLC Methods and systems for processing driver attention data
US20190339082A1 (en) * 2018-05-02 2019-11-07 Blackberry Limited Method and system for hybrid collective perception and map crowdsourcing
JP6627995B2 (ja) * 2018-05-10 2020-01-08 株式会社Jvcケンウッド 記録装置、記録方法、およびプログラム
WO2019232022A1 (en) * 2018-05-30 2019-12-05 Nauto, Inc. Systems and methods for safe route determination
EP3576074A1 (en) * 2018-06-01 2019-12-04 Volvo Car Corporation Method and system for assisting drivers to drive with precaution
JP2019209917A (ja) * 2018-06-07 2019-12-12 本田技研工業株式会社 車両制御装置、車両制御方法、及びプログラム
US10953871B2 (en) * 2018-06-26 2021-03-23 Ford Global Technologies, Llc Transportation infrastructure communication and control
US10974727B2 (en) 2018-06-26 2021-04-13 Ford Global Technologies, Llc Transportation infrastructure communication and control
WO2020001759A1 (en) * 2018-06-27 2020-01-02 Telefonaktiebolaget Lm Ericsson (Publ) Object tracking in real-time applications
ES2736901A1 (es) 2018-06-29 2020-01-08 Geotab Inc Caracterización de una colisión de vehículo
US20200019173A1 (en) * 2018-07-12 2020-01-16 International Business Machines Corporation Detecting activity near autonomous vehicles
EP3598396A1 (de) * 2018-07-20 2020-01-22 Rothenbühler, Rudolf Computergestütztes verfahren zum analysieren personenbezogener unfalldaten
CN109094482B (zh) * 2018-07-25 2021-08-24 哈尔滨工业大学 车辆运行风险评估信息采集系统、风险评估系统及方法
US20200055524A1 (en) * 2018-08-20 2020-02-20 Alberto LACAZE System and method for verifying that a self-driving vehicle follows traffic ordinances
US10795804B1 (en) 2018-08-21 2020-10-06 Waymo Llc Collision evaluation for log-based simulations
KR102592825B1 (ko) * 2018-08-31 2023-10-23 현대자동차주식회사 충돌 회피 제어 장치 및 그 방법
EP3620880A1 (en) 2018-09-04 2020-03-11 Autonomous Intelligent Driving GmbH A method and a device for deriving a driving strategy for a self-driving vehicle and an electronic control unit for performing the driving strategy and a self-driving vehicle comprising the electronic control unit
US11724691B2 (en) * 2018-09-15 2023-08-15 Toyota Research Institute, Inc. Systems and methods for estimating the risk associated with a vehicular maneuver
DE102018216082A1 (de) * 2018-09-20 2018-12-13 Robert Bosch Gmbh Verfahren zur kooperativen Manöverabstimmung
US11584368B2 (en) * 2018-09-24 2023-02-21 Intel Corporation Evaluating risk factors of proposed vehicle maneuvers using external and internal data
CN109360137B (zh) * 2018-09-25 2023-04-18 平安科技(深圳)有限公司 一种车辆事故评估方法、计算机可读存储介质及服务器
US11495028B2 (en) * 2018-09-28 2022-11-08 Intel Corporation Obstacle analyzer, vehicle control system, and methods thereof
US10598788B1 (en) 2018-10-25 2020-03-24 Aeye, Inc. Adaptive control of Ladar shot selection using spatial index of prior Ladar return data
US10962381B2 (en) * 2018-11-01 2021-03-30 Here Global B.V. Method, apparatus, and computer program product for creating traffic information for specialized vehicle types
US10969789B2 (en) * 2018-11-09 2021-04-06 Waymo Llc Verifying predicted trajectories using a grid-based approach
US10789728B2 (en) 2018-11-15 2020-09-29 Denso International America, Inc. Machine learning framework for visual tracking
US11048253B2 (en) * 2018-11-21 2021-06-29 Waymo Llc Agent prioritization for autonomous vehicles
JP7361466B2 (ja) * 2018-11-21 2023-10-16 本田技研工業株式会社 評価方法、およびプログラム
US10817732B2 (en) * 2018-12-20 2020-10-27 Trimble Inc. Automated assessment of collision risk based on computer vision
US20200211376A1 (en) * 2018-12-31 2020-07-02 Pujan Roka Systems and Methods to Enable a Transportation Network with Artificial Intelligence for Connected and Autonomous Vehicles
CN109584520A (zh) * 2019-01-09 2019-04-05 江苏金沙互联电子商务有限公司 一种水域安全距离预警方法及系统
US11133002B2 (en) * 2019-01-14 2021-09-28 Ford Global Technologies, Llc Systems and methods of real-time vehicle-based analytics and uses thereof
CN109636856B (zh) * 2019-01-17 2022-03-04 天津大学 基于hog特征融合算子的物体六维度位姿信息联合测量方法
US20220108544A1 (en) * 2019-01-30 2022-04-07 Sony Group Corporation Object detection apparatus, system and method
US10901375B2 (en) * 2019-01-31 2021-01-26 Morgan Stanley Services Group Inc. Chaotic system anomaly response by artificial intelligence
US11360442B2 (en) * 2019-01-31 2022-06-14 Morgan Stanley Services Group Inc. Exposure minimization response by artificial intelligence
US11170639B2 (en) * 2019-03-05 2021-11-09 University Of Massachusetts Transportation threat detection system
US11113969B2 (en) * 2019-03-07 2021-09-07 Toyota Jidosha Kabushiki Kaisha Data-to-camera (D2C) based filters for improved object detection in images based on vehicle-to-everything communication
CN113519018B (zh) * 2019-03-12 2023-01-03 三菱电机株式会社 移动体控制装置和移动体控制方法
US11237007B2 (en) 2019-03-12 2022-02-01 Here Global B.V. Dangerous lane strands
US10893010B1 (en) * 2019-03-25 2021-01-12 Amazon Technologies, Inc. Message filtering in a vehicle based on dynamically determining spare attention capacity from an overall attention capacity of an occupant and estimated amount of attention required given current vehicle operating conditions
JPWO2020196086A1 (ja) * 2019-03-28 2020-10-01
JP6995079B2 (ja) * 2019-03-29 2022-01-14 本田技研工業株式会社 情報取得装置
US11335191B2 (en) * 2019-04-04 2022-05-17 Geotab Inc. Intelligent telematics system for defining road networks
US11335189B2 (en) * 2019-04-04 2022-05-17 Geotab Inc. Method for defining road networks
US10699564B1 (en) 2019-04-04 2020-06-30 Geotab Inc. Method for defining intersections using machine learning
US11341846B2 (en) * 2019-04-04 2022-05-24 Geotab Inc. Traffic analytics system for defining road networks
US11403938B2 (en) 2019-04-04 2022-08-02 Geotab Inc. Method for determining traffic metrics of a road network
CN110189366B (zh) * 2019-04-17 2021-07-06 北京迈格威科技有限公司 一种激光粗配准方法、装置、移动终端及存储介质
US10641897B1 (en) 2019-04-24 2020-05-05 Aeye, Inc. Ladar system and method with adaptive pulse duration
US11080568B2 (en) 2019-04-26 2021-08-03 Samsara Inc. Object-model based event detection system
US10999374B2 (en) 2019-04-26 2021-05-04 Samsara Inc. Event detection system
US11300977B2 (en) * 2019-05-01 2022-04-12 Smartdrive Systems, Inc. Systems and methods for creating and using risk profiles for fleet management of a fleet of vehicles
US11262763B2 (en) 2019-05-01 2022-03-01 Smartdrive Systems, Inc. Systems and methods for using risk profiles for creating and deploying new vehicle event definitions to a fleet of vehicles
US10759441B1 (en) 2019-05-06 2020-09-01 Cambridge Mobile Telematics Inc. Determining, scoring, and reporting mobile phone distraction of a driver
US10922211B2 (en) * 2019-05-06 2021-02-16 Red Hat, Inc. Testing responses of software applications to spatiotemporal events using simulated environments
US10672249B1 (en) 2019-05-06 2020-06-02 Cambridge Mobile Telematics Inc. Determining, scoring, and reporting mobile phone distraction of a driver
US20200363800A1 (en) * 2019-05-13 2020-11-19 Great Wall Motor Company Limited Decision Making Methods and Systems for Automated Vehicle
US11474518B2 (en) * 2019-05-13 2022-10-18 International Business Machines Corporation Event validation using multiple sources
JP7354295B2 (ja) 2019-05-23 2023-10-02 ストリートスコープ,インコーポレイテッド 車両信号を処理して挙動危険性の測度を計算するための装置及び方法
EP3976431A4 (en) * 2019-05-24 2023-08-30 Preact Technologies, Inc. CLOSE COLLISION DETECTION AND COLLECTION AND REPORTING OF VEHICLE DRIVER BEHAVIOR DATA
US11661055B2 (en) 2019-05-24 2023-05-30 Preact Technologies, Inc. Close-in collision detection combining high sample rate near-field sensors with advanced real-time parallel processing to accurately determine imminent threats and likelihood of a collision
DE102019207741A1 (de) * 2019-05-27 2020-12-03 Infineon Technologies Ag Ein LIDAR-System, ein Verfahren für ein LIDAR-System und ein Empfänger für ein LIDAR-System mit ersten und zweiten Umwandlungselementen
CN110176042A (zh) * 2019-05-31 2019-08-27 北京百度网讯科技有限公司 相机自运动参数估计模型的训练方法、装置及存储介质
US20190318257A1 (en) * 2019-06-28 2019-10-17 Helen Adrienne Frances Gould Assessment and response mechanism for autonomous systems
US20210024058A1 (en) * 2019-07-25 2021-01-28 Cambridge Mobile Telematics Inc. Evaluating the safety performance of vehicles
US11268825B2 (en) * 2019-07-26 2022-03-08 Autoligence Inc. Safety and performance integration device for non-autonomous vehicles
US11100329B1 (en) * 2019-08-14 2021-08-24 Lytx, Inc. Ranging system data utilization for marking of video data of interest
US10754893B1 (en) * 2019-09-09 2020-08-25 Forward Thinking Systems, LLC Providing access to vehicle videos
US10957189B1 (en) * 2019-09-09 2021-03-23 GM Global Technology Operations LLC Automatic vehicle alert and reporting systems and methods
US11351987B2 (en) * 2019-09-13 2022-06-07 Intel Corporation Proactive vehicle safety system
JP7121715B2 (ja) * 2019-09-19 2022-08-18 本田技研工業株式会社 推定装置、推定方法、及びプログラム
US11741305B2 (en) * 2019-10-07 2023-08-29 The Toronto-Dominion Bank Systems and methods for automatically assessing fault in relation to motor vehicle collisions
US11754408B2 (en) * 2019-10-09 2023-09-12 Argo AI, LLC Methods and systems for topological planning in autonomous driving
US11720805B2 (en) * 2019-11-26 2023-08-08 Toyota Motor North America, Inc. Vehicle recommendation system and method
US11238292B2 (en) * 2019-11-26 2022-02-01 Toyota Research Institute, Inc. Systems and methods for determining the direction of an object in an image
US11494533B2 (en) * 2019-11-27 2022-11-08 Waymo Llc Simulations with modified agents for testing autonomous vehicle software
US11176820B2 (en) * 2019-12-02 2021-11-16 Toyota Motor North America, Inc. Host vehicle warning systems and methods
US11775010B2 (en) 2019-12-02 2023-10-03 Zendrive, Inc. System and method for assessing device usage
EP4042297A4 (en) 2019-12-03 2023-11-22 Zendrive, Inc. METHOD AND SYSTEM FOR DETERMINING THE RISK OF A ROUTE
US11516295B1 (en) * 2019-12-06 2022-11-29 State Farm Mutual Automobile Insurance Company Using contextual information for vehicle trip loss risk assessment scoring
KR102180933B1 (ko) * 2019-12-11 2020-11-19 광주과학기술원 딥러닝을 이용한 사고 영상의 사고과실 평가 방법 및 장치
TWI712011B (zh) 2019-12-18 2020-12-01 仁寶電腦工業股份有限公司 安全警示語音提示方法
US20210197720A1 (en) * 2019-12-27 2021-07-01 Lyft, Inc. Systems and methods for incident detection using inference models
CN111144015A (zh) * 2019-12-30 2020-05-12 吉林大学 一种自动驾驶汽车虚拟场景库构建方法
US11669071B2 (en) 2020-01-08 2023-06-06 International Business Machines Corporation Organizing a temporary device group for collaborative computing
US11802959B2 (en) * 2020-01-22 2023-10-31 Preact Technologies, Inc. Vehicle driver behavior data collection and reporting
US11984033B2 (en) 2020-02-06 2024-05-14 Micron Technology, Inc. Artificial intelligence-based persistence of vehicle black box data
US11851049B1 (en) * 2020-02-28 2023-12-26 Zoox, Inc. System to detect impacts
US11866037B2 (en) * 2020-03-16 2024-01-09 Toyota Motor Engineering & Manufacturing North America, Inc. Behavior-based vehicle alerts
US11414094B2 (en) * 2020-03-25 2022-08-16 Toyota Research Institute, Inc. Systems and methods for switching between a primary driver and a secondary driver for a vehicle
US11995724B2 (en) * 2020-03-31 2024-05-28 Cambridge Mobile Telematics Inc. Reducing driving risk
CN111455900B (zh) * 2020-04-01 2021-11-12 无锡格物智能科技有限公司 路障布设方法、终端、计算机设备和存储介质
US11308087B2 (en) 2020-04-16 2022-04-19 International Business Machines Corporation Cost distribution construction for pessimistic tree search
US11958424B2 (en) * 2020-05-06 2024-04-16 Magna Electronics Inc. Vehicular collision detection system with safety feature control functions responsive to estimation of collision severity
US11440555B2 (en) * 2020-05-18 2022-09-13 Verizon Connect Development Limited Systems and methods for detecting and classifying an unsafe maneuver of a vehicle
US11199841B1 (en) * 2020-07-08 2021-12-14 Nuro, Inc. Methods and systems for determination of a routing policy for an autonomous vehicle
WO2022009090A1 (en) * 2020-07-08 2022-01-13 Cron Systems Pvt. Ltd. System and method for detecting proximity between objects using threshold based clustering
GB2596847A (en) * 2020-07-09 2022-01-12 Sony Europe Bv Systems, devices and methods for notifying a target
GB2597692A (en) * 2020-07-29 2022-02-09 Sony Europe Bv Systems, devices and methods for operating a vehicle with sensors monitoring parameters
US11687077B2 (en) * 2020-08-07 2023-06-27 Waymo Llc Ranking agents near autonomous vehicles by mutual importance
DE102020123976A1 (de) 2020-09-15 2022-03-17 Dr. Ing. H.C. F. Porsche Aktiengesellschaft Verfahren, System und Computerprogrammprodukt zur Bestimmung von sicherheitskritischen Verkehrsszenarien für Fahrerassistenzsysteme (FAS) und hochautomatisierte Fahrfunktionen (HAF)
EP3971865A1 (en) * 2020-09-18 2022-03-23 Zenuity AB Scenario identification in autonomous driving environments
EP3971864A1 (en) * 2020-09-18 2022-03-23 Zenuity AB Risk estimation in autonomous driving environments
US11995920B2 (en) * 2020-10-23 2024-05-28 Argo AI, LLC Enhanced sensor health and regression testing for vehicles
US20220126818A1 (en) * 2020-10-28 2022-04-28 Toyota Research Institute, Inc. Systems and methods for identifying high-risk driving situations from driving data
US11593994B2 (en) * 2020-11-05 2023-02-28 Kyndryl, Inc. Creating working boundaries in a multi-user environment
US11999356B2 (en) 2020-11-13 2024-06-04 Toyota Research Institute, Inc. Cognitive heat map: a model for driver situational awareness
US20220153207A1 (en) * 2020-11-16 2022-05-19 Autobrains Technologies Ltd Communication between a vehicle and a human road user
US20220161786A1 (en) * 2020-11-24 2022-05-26 Hyundai Motor Company System for evaluating risk values associated with object on road for vehicle and method for the same
US11919530B2 (en) * 2020-12-15 2024-03-05 Wipro Limited Method and system for validating an autonomous vehicle stack
US11805139B1 (en) * 2021-01-25 2023-10-31 Trend Micro Incorporated Multiclass classification system with accumulator-based arbitration
US11941986B2 (en) 2021-02-03 2024-03-26 Geotab Inc. Methods for characterizing a low-impact vehicle collision using high-rate acceleration data
US11884285B2 (en) * 2021-02-03 2024-01-30 Geotab Inc. Systems for characterizing a vehicle collision
US11862022B2 (en) 2021-02-03 2024-01-02 Geotab Inc. Methods for characterizing a vehicle collision
KR20220117407A (ko) * 2021-02-16 2022-08-24 현대자동차주식회사 자율 주행 정보 제공 장치 및 그 방법
US20220274592A1 (en) * 2021-02-26 2022-09-01 Ford Global Technologies, Llc Vehicle parking navigation
EP4053737A1 (en) * 2021-03-04 2022-09-07 Zenseact AB Detecting and collecting accident related driving experience event data
DE102021202334A1 (de) * 2021-03-10 2022-09-15 Robert Bosch Gesellschaft mit beschränkter Haftung Filterung von betriebsszenarien im betrieb eines fahrzeugs
US20220308218A1 (en) 2021-03-26 2022-09-29 Aeye, Inc. Hyper Temporal Lidar with Shot-Specific Detection Control
US11630188B1 (en) 2021-03-26 2023-04-18 Aeye, Inc. Hyper temporal lidar with dynamic laser control using safety models
US11604264B2 (en) 2021-03-26 2023-03-14 Aeye, Inc. Switchable multi-lens Lidar receiver
US11474214B1 (en) 2021-03-26 2022-10-18 Aeye, Inc. Hyper temporal lidar with controllable pulse bursts to resolve angle to target
US11635495B1 (en) 2021-03-26 2023-04-25 Aeye, Inc. Hyper temporal lidar with controllable tilt amplitude for a variable amplitude scan mirror
US11460553B1 (en) 2021-03-26 2022-10-04 Aeye, Inc. Hyper temporal lidar with dynamic laser control using different mirror motion models for shot scheduling and shot firing
US11500093B2 (en) 2021-03-26 2022-11-15 Aeye, Inc. Hyper temporal lidar using multiple matched filters to determine target obliquity
US11772674B2 (en) 2021-06-08 2023-10-03 Telelingo Llc Systems and methods for increasing the safety of voice conversations between drivers and remote parties
DE102021206983A1 (de) * 2021-07-02 2023-01-05 Volkswagen Aktiengesellschaft Verfahren und Vorrichtung zum Unterstützen einer Umfelderkennung für ein automatisiert fahrendes Fahrzeug
US20230025772A1 (en) * 2021-07-20 2023-01-26 CSAA Insurance Services, Inc. Systems and Methods for Vehicle Navigation
US11414111B1 (en) 2021-08-16 2022-08-16 Bnsf Railway Company System and method for railroad personnel safety assurance
US20230057652A1 (en) * 2021-08-19 2023-02-23 Geotab Inc. Mobile Image Surveillance Systems
US20230054974A1 (en) * 2021-08-23 2023-02-23 Nissan North America, Inc. Intersection Risk Indicator
CN113808394B (zh) * 2021-08-27 2022-09-30 东南大学 一种基于风险组合模式的过街通道安全评价方法
AT525406A1 (de) * 2021-08-31 2023-03-15 Tom Robotics Gmbh Klassifizierungsverfahren für ein klassifizieren von objekten
FR3127736A1 (fr) * 2021-10-06 2023-04-07 Psa Automobiles Sa Procédé et dispositif de détermination d’une carte de fréquentation tridimensionnelle pour véhicule
US20230192133A1 (en) * 2021-12-21 2023-06-22 Gm Cruise Holdings Llc Conditional mode anchoring
WO2023149963A1 (en) 2022-02-01 2023-08-10 Landscan Llc Systems and methods for multispectral landscape mapping
US12010411B2 (en) * 2022-02-03 2024-06-11 SmartWitness Holdings, Inc. Telematics camera system
US11488377B1 (en) * 2022-03-23 2022-11-01 Motional Ad Llc Adding tags to sensor data via a plurality of models and querying the sensor data
US20240034335A1 (en) * 2022-07-26 2024-02-01 Toyota Research Institute, Inc. Adaptive dynamic driver training systems and methods
US20240067182A1 (en) * 2022-08-25 2024-02-29 Arriver Software Ab Driver attention determination using gaze detection
DE102022212890A1 (de) * 2022-11-30 2024-06-06 Zf Friedrichshafen Ag Verfahren, Steuergerät und Computerprogramm zum Vermeiden oder Vermindern einer Kollision eines autonomen Kraftfahrzeugs mit einem Objekt und computerlesbares Speichermedium
CN116935697B (zh) * 2023-07-10 2024-06-14 宁波福尔达智能科技股份有限公司 一种基于图像的车辆防追尾提醒方法、车用摄像设备及车辆

Citations (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008118482A (ja) * 2006-11-06 2008-05-22 Horiba Ltd ドライビングレコーダ用カメラユニット
JP2009205652A (ja) * 2008-02-29 2009-09-10 Nec Corp 移動体制御システム及び移動体制御方法
KR100929689B1 (ko) * 2008-09-08 2009-12-03 재단법인대구경북과학기술원 스테레오 영상 정보를 이용한 차량용 사고기록 장치 및 그 제어 방법
JP2010152839A (ja) * 2008-12-26 2010-07-08 Mitsubishi Electric Corp 車両周辺監視装置
US20100198491A1 (en) * 2009-02-05 2010-08-05 Paccar Inc Autonomic vehicle safety system
JP2010208583A (ja) * 2009-03-12 2010-09-24 Toyota Motor Corp 走行支援装置
JP2011123714A (ja) * 2009-12-11 2011-06-23 Toyota Motor Corp 運転支援装置
JP2011203795A (ja) * 2010-03-24 2011-10-13 Toyota Motor Corp 走行支援装置
WO2011129014A1 (ja) * 2010-04-16 2011-10-20 トヨタ自動車株式会社 運転支援装置
JP2013054701A (ja) * 2011-09-06 2013-03-21 Honda Motor Co Ltd 車両の運転支援装置
JP2015151071A (ja) * 2014-02-18 2015-08-24 日産自動車株式会社 運転診断装置および保険料算定方法
JP2015228204A (ja) * 2014-05-30 2015-12-17 ホンダ リサーチ インスティテュート ヨーロッパ ゲーエムベーハーHonda Research Institute Europe GmbH 先進運転者支援システムによりリスクベースの交通シーン分析を行う方法、及び当該分析を行う当該システムを備える乗り物
JP2016071492A (ja) * 2014-09-29 2016-05-09 富士重工業株式会社 要因分析装置および要因分析方法
JPWO2016024318A1 (ja) * 2014-08-11 2017-05-18 日産自動車株式会社 車両の走行制御装置及び方法

Family Cites Families (164)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE69032348T2 (de) 1990-07-31 1998-09-24 Hewlett Packard Co Objektbasiertes System
US5638116A (en) 1993-09-08 1997-06-10 Sumitomo Electric Industries, Ltd. Object recognition apparatus and method
US7421321B2 (en) 1995-06-07 2008-09-02 Automotive Technologies International, Inc. System for obtaining vehicular information
US5798949A (en) 1995-01-13 1998-08-25 Kaub; Alan Richard Traffic safety prediction model
US6662141B2 (en) 1995-01-13 2003-12-09 Alan R. Kaub Traffic safety prediction model
US6720920B2 (en) 1997-10-22 2004-04-13 Intelligent Technologies International Inc. Method and arrangement for communicating between vehicles
US7085637B2 (en) 1997-10-22 2006-08-01 Intelligent Technologies International, Inc. Method and system for controlling a vehicle
US5898390A (en) 1995-09-14 1999-04-27 Zexel Corporation Method and apparatus for calibration of a distance sensor in a vehicle navigation system
KR19990082557A (ko) 1996-02-09 1999-11-25 윌리암 제이. 버크 불확실한 트레이닝 데이터를 사용하여 대상을검출 및 분류하기위한 뉴럴 네트워크의 트레이닝 방법 및 장치
US6240367B1 (en) 1998-11-27 2001-05-29 Ching-Fang Lin Full fusion positioning method for vehicle
JP3243236B2 (ja) 1999-09-24 2002-01-07 松下電器産業株式会社 位置データ間引き装置
AUPQ896000A0 (en) 2000-07-24 2000-08-17 Seeing Machines Pty Ltd Facial image processing system
US6502033B1 (en) 2000-10-05 2002-12-31 Navigation Technologies Corp. Turn detection algorithm for vehicle positioning
US6496117B2 (en) 2001-03-30 2002-12-17 Koninklijke Philips Electronics N.V. System for monitoring a driver's attention to driving
US6927694B1 (en) 2001-08-20 2005-08-09 Research Foundation Of The University Of Central Florida Algorithm for monitoring head/eye motion for driver alertness with one camera
US7148913B2 (en) 2001-10-12 2006-12-12 Hrl Laboratories, Llc Vision-based pointer tracking and object classification method and apparatus
DE10210130B4 (de) 2002-03-08 2014-12-24 Robert Bosch Gmbh Verfahren und Vorrichtung zur Fahrerwarnung
US20040051659A1 (en) 2002-09-18 2004-03-18 Garrison Darwin A. Vehicular situational awareness system
BR0315384A (pt) 2002-10-15 2005-09-06 Volvo Technology Corp Método e disposição para interpretar a atividade da cabeça e ocular de indivìduos
US20060106534A1 (en) 2002-10-22 2006-05-18 Yukihiro Kawamata Map data delivering method for communication-type navigation system
US7177737B2 (en) 2002-12-17 2007-02-13 Evolution Robotics, Inc. Systems and methods for correction of drift via global localization with a visual landmark
DE10323915A1 (de) 2003-05-23 2005-02-03 Daimlerchrysler Ag Kamerabasierte Positionserkennung für ein Straßenfahrzeug
US7639148B2 (en) 2003-06-06 2009-12-29 Volvo Technology Corporation Method and arrangement for controlling vehicular subsystems based on interpreted driver activity
US7212651B2 (en) 2003-06-17 2007-05-01 Mitsubishi Electric Research Laboratories, Inc. Detecting pedestrians using patterns of motion and appearance in videos
DE10336638A1 (de) 2003-07-25 2005-02-10 Robert Bosch Gmbh Vorrichtung zur Klassifizierung wengistens eines Objekts in einem Fahrzeugumfeld
WO2005069675A1 (ja) 2004-01-20 2005-07-28 Omron Corporation 運転中における電話使用時の電話対策装置及び電話対策方法
JP4329622B2 (ja) 2004-06-02 2009-09-09 日産自動車株式会社 車両用運転操作補助装置および車両用運転操作補助装置を備えた車両
DE102004031557B4 (de) 2004-06-29 2016-12-22 Conti Temic Microelectronic Gmbh Verfahren und Crash-Sensor für eine Vorrichtung zur insassengefährdungsrelevanten Aktivierung von Insassen-Schutzeinrichtungen in einem Kraftfahrzeug bei Crashfällen
US7228230B2 (en) 2004-11-12 2007-06-05 Mitsubishi Denki Kabushiki Kaisha System for autonomous vehicle navigation with carrier phase DGPS and laser-scanner augmentation
JP4811019B2 (ja) * 2005-01-17 2011-11-09 株式会社豊田中央研究所 衝突挙動制御装置
CA2934724C (en) 2005-03-18 2019-04-09 Gatekeeper Systems, Inc. Two-way communication system for tracking locations and statuses of wheeled vehicles
EP1876411A4 (en) 2005-04-25 2011-06-29 Geo Technical Lab Co Ltd METHOD FOR ANALYZING THE PICTURE POSITION
US8344849B2 (en) 2005-07-11 2013-01-01 Volvo Technology Corporation Method for performing driver identity verification
US20070050108A1 (en) 2005-08-15 2007-03-01 Larschan Bradley R Driver activity and vehicle operation logging and reporting
DE602005017144D1 (de) 2005-08-18 2009-11-26 Honda Res Inst Europe Gmbh Fahrerassistenzsystem
US7933786B2 (en) 2005-11-01 2011-04-26 Accenture Global Services Limited Collaborative intelligent task processor for insurance claims
US7423540B2 (en) 2005-12-23 2008-09-09 Delphi Technologies, Inc. Method of detecting vehicle-operator state
US7646922B2 (en) 2005-12-30 2010-01-12 Honeywell International Inc. Object classification in video images
US7853072B2 (en) 2006-07-20 2010-12-14 Sarnoff Corporation System and method for detecting still objects in images
US7912288B2 (en) 2006-09-21 2011-03-22 Microsoft Corporation Object detection and recognition system
US7579942B2 (en) 2006-10-09 2009-08-25 Toyota Motor Engineering & Manufacturing North America, Inc. Extra-vehicular threat predictor
US8174568B2 (en) 2006-12-01 2012-05-08 Sri International Unified framework for precise vision-aided navigation
US20080243378A1 (en) 2007-02-21 2008-10-02 Tele Atlas North America, Inc. System and method for vehicle navigation and piloting including absolute and relative coordinates
US8606512B1 (en) 2007-05-10 2013-12-10 Allstate Insurance Company Route risk mitigation
US7844077B2 (en) 2007-07-06 2010-11-30 Topcon Corporation Location measuring device and method
WO2009076600A2 (en) * 2007-12-12 2009-06-18 New York University System, method and computer-accessible medium for normalizing databases through mixing
US8022831B1 (en) 2008-01-03 2011-09-20 Pamela Wood-Eyre Interactive fatigue management system and method
GB2471036B (en) 2008-03-03 2012-08-22 Videoiq Inc Object matching for tracking, indexing, and search
US8666644B2 (en) 2008-12-25 2014-03-04 Toyota Jidosha Kabushiki Kaisha Drive assistance apparatus
US7868821B2 (en) 2009-01-15 2011-01-11 Alpine Electronics, Inc Method and apparatus to estimate vehicle position and recognized landmark positions using GPS and camera
DE102009005730A1 (de) 2009-01-22 2010-07-29 Hella Kgaa Hueck & Co. Verfahren und Vorrichtung zur Überwachung der Aufmerksamkeit eines Fahrzeugführers
US8854199B2 (en) 2009-01-26 2014-10-07 Lytx, Inc. Driver risk assessment system and method employing automated driver log
US20100209881A1 (en) 2009-02-18 2010-08-19 Gm Global Technology Operations, Inc. Driving skill recognition based on behavioral diagnosis
US8254670B2 (en) 2009-02-25 2012-08-28 Toyota Motor Engineering & Manufacturing North America, Inc. Self-learning object detection and classification systems and methods
JP5142047B2 (ja) 2009-02-26 2013-02-13 アイシン・エィ・ダブリュ株式会社 ナビゲーション装置及びナビゲーション用プログラム
WO2010097943A1 (ja) 2009-02-27 2010-09-02 トヨタ自動車株式会社 車両相対位置推定装置及び車両相対位置推定方法
US8266132B2 (en) 2009-03-03 2012-09-11 Microsoft Corporation Map aggregation
JP4788798B2 (ja) 2009-04-23 2011-10-05 トヨタ自動車株式会社 物体検出装置
US8369608B2 (en) 2009-06-22 2013-02-05 Toyota Motor Engineering & Manufacturing North America, Inc. System and method for detecting drowsy facial expressions of vehicle drivers under changing illumination conditions
US8957779B2 (en) 2009-06-23 2015-02-17 L&P Property Management Company Drowsy driver detection system
US9460601B2 (en) 2009-09-20 2016-10-04 Tibet MIMAR Driver distraction and drowsiness warning and sleepiness reduction for accident avoidance
AU2009243442B2 (en) * 2009-11-30 2013-06-13 Canon Kabushiki Kaisha Detection of abnormal behaviour in video objects
US8805707B2 (en) 2009-12-31 2014-08-12 Hartford Fire Insurance Company Systems and methods for providing a safety score associated with a user location
EP2395478A1 (en) 2010-06-12 2011-12-14 Toyota Motor Europe NV/SA Monocular 3D pose estimation and tracking by detection
US8676498B2 (en) 2010-09-24 2014-03-18 Honeywell International Inc. Camera and inertial measurement unit integration with navigation data feedback for feature tracking
KR101231510B1 (ko) * 2010-10-11 2013-02-07 현대자동차주식회사 운전자 주시방향 연동 전방충돌 위험경보 시스템, 그 방법 및 그를 이용한 차량
DE102010049351A1 (de) 2010-10-23 2012-04-26 Daimler Ag Verfahren zum Betreiben einer Bremsassistenzvorrichtung und Bremsassistenzvorrichtung für ein Fahrzeug
US8447519B2 (en) 2010-11-10 2013-05-21 GM Global Technology Operations LLC Method of augmenting GPS or GPS/sensor vehicle positioning using additional in-vehicle vision sensors
US9146558B2 (en) * 2010-11-30 2015-09-29 Irobot Corporation Mobile robot and method of operating thereof
KR101306286B1 (ko) * 2010-12-17 2013-09-09 주식회사 팬택 X-레이 뷰 기반의 증강 현실 제공 장치 및 방법
US8620026B2 (en) 2011-04-13 2013-12-31 International Business Machines Corporation Video-based detection of multiple object types under varying poses
US20140049601A1 (en) 2011-05-05 2014-02-20 Panono Gmbh Camera system for capturing images and methods thereof
JP5866703B2 (ja) 2011-07-07 2016-02-17 株式会社マリンコムズ琉球 可視光通信方法及び可視光通信装置
US8195394B1 (en) 2011-07-13 2012-06-05 Google Inc. Object detection and classification for autonomous vehicles
US8761439B1 (en) 2011-08-24 2014-06-24 Sri International Method and apparatus for generating three-dimensional pose using monocular visual sensor and inertial measurement unit
US8606492B1 (en) 2011-08-31 2013-12-10 Drivecam, Inc. Driver log generation
US8744642B2 (en) 2011-09-16 2014-06-03 Lytx, Inc. Driver identification based on face data
US9235750B1 (en) 2011-09-16 2016-01-12 Lytx, Inc. Using passive driver identification and other input for providing real-time alerts or actions
US20130093886A1 (en) 2011-10-18 2013-04-18 Ariel Inventions, Llc Method and system for using a vehicle-based digital imagery system to identify another vehicle
US9111147B2 (en) 2011-11-14 2015-08-18 Massachusetts Institute Of Technology Assisted video surveillance of persons-of-interest
US20130147661A1 (en) 2011-12-07 2013-06-13 International Business Machines Corporation System and method for optical landmark identification for gps error correction
JP2015505284A (ja) 2011-12-29 2015-02-19 インテル コーポレイション 車両の乗員を識別するシステム、方法、及び装置
JP5863481B2 (ja) * 2012-01-30 2016-02-16 日立マクセル株式会社 車両用衝突危険予測装置
US8457827B1 (en) * 2012-03-15 2013-06-04 Google Inc. Modifying behavior of autonomous vehicle based on predicted behavior of other vehicles
JP5729345B2 (ja) 2012-04-10 2015-06-03 株式会社デンソー 感情モニタリングシステム
US8634822B2 (en) 2012-06-24 2014-01-21 Tango Networks, Inc. Automatic identification of a vehicle driver based on driving behavior
SE536586C2 (sv) * 2012-07-02 2014-03-11 Scania Cv Ab Anordning och förfarande för att bedöma olycksrisk vid framförande av ett fordon
JP5944781B2 (ja) * 2012-07-31 2016-07-05 株式会社デンソーアイティーラボラトリ 移動体認識システム、移動体認識プログラム、及び移動体認識方法
US8510196B1 (en) 2012-08-16 2013-08-13 Allstate Insurance Company Feedback loop in mobile damage assessment and claims processing
DE102012016800A1 (de) * 2012-08-23 2014-02-27 Audi Ag Verfahren und Vorrichtung zur Ermittlung einer Fahrzeugposition in einer kartierten Umgebung
DE102012216386A1 (de) 2012-09-14 2014-03-20 Robert Bosch Gmbh Verfahren zum Betreiben eines Fahrerassistenzsystems eines Fahrzeugs
GB2506365B (en) 2012-09-26 2017-12-20 Masternaut Risk Solutions Ltd Vehicle incident detection
US9488492B2 (en) 2014-03-18 2016-11-08 Sri International Real-time system for multi-modal 3D geospatial mapping, object recognition, scene annotation and analytics
US9081650B1 (en) 2012-12-19 2015-07-14 Allstate Insurance Company Traffic based driving analysis
US9535878B1 (en) 2012-12-19 2017-01-03 Allstate Insurance Company Driving event data analysis
EP2752348A1 (en) 2013-01-04 2014-07-09 Continental Automotive Systems, Inc. Adaptive emergency brake and steer assist system based on driver focus
US9499168B2 (en) * 2013-01-09 2016-11-22 Mitsubishi Electric Corporation Vehicle periphery display device
US9367065B2 (en) 2013-01-25 2016-06-14 Google Inc. Modifying behavior of autonomous vehicles based on sensor blind spots and limitations
US9439036B2 (en) 2013-01-25 2016-09-06 Visa International Service Association Systems and methods to select locations of interest based on distance from route points or route paths
US8847771B2 (en) 2013-01-25 2014-09-30 Toyota Motor Engineering & Manufacturing North America, Inc. Method and apparatus for early detection of dynamic attentive states for providing an inattentive warning
US8952819B2 (en) 2013-01-31 2015-02-10 Lytx, Inc. Direct observation event triggering of drowsiness
US20140267703A1 (en) 2013-03-15 2014-09-18 Robert M. Taylor Method and Apparatus of Mapping Landmark Position and Orientation
US9349113B2 (en) * 2013-03-26 2016-05-24 3 Strike, Llc Storage container with inventory control
GB2512317A (en) * 2013-03-26 2014-10-01 Jaguar Land Rover Ltd Vehicle control system and method
JP5878491B2 (ja) * 2013-03-27 2016-03-08 株式会社日本自動車部品総合研究所 運転支援装置
US9852019B2 (en) * 2013-07-01 2017-12-26 Agent Video Intelligence Ltd. System and method for abnormality detection
US20150025917A1 (en) 2013-07-15 2015-01-22 Advanced Insurance Products & Services, Inc. System and method for determining an underwriting risk, risk score, or price of insurance using cognitive information
JP6398347B2 (ja) 2013-08-15 2018-10-03 株式会社リコー 画像処理装置、認識対象物検出方法、認識対象物検出プログラム、および、移動体制御システム
EP2851870B1 (en) 2013-09-20 2019-01-23 Application Solutions (Electronics and Vision) Limited Method for estimating ego motion of an object
US20150084757A1 (en) 2013-09-23 2015-03-26 Agero, Inc. Methods and systems for determining auto accidents using mobile phones and initiating emergency response
US9305214B1 (en) 2013-10-29 2016-04-05 The United States Of America, As Represented By The Secretary Of The Navy Systems and methods for real-time horizon detection in images
US9327743B2 (en) 2013-12-19 2016-05-03 Thales Canada Inc Guideway mounted vehicle localization system
US10283162B2 (en) * 2014-02-05 2019-05-07 Avatar Merger Sub II, LLC Method for triggering events in a video
US9342888B2 (en) 2014-02-08 2016-05-17 Honda Motor Co., Ltd. System and method for mapping, localization and pose correction of a vehicle based on images
US20170011529A1 (en) * 2014-02-14 2017-01-12 Nec Corporation Video analysis system
WO2015160900A1 (en) * 2014-04-15 2015-10-22 Maris, Ltd Assessing asynchronous authenticated data sources for use in driver risk management
US9158962B1 (en) 2014-05-07 2015-10-13 Lytx, Inc. Passive driver identification
CN106463054B (zh) * 2014-06-03 2019-04-02 宝马股份公司 高级驾驶辅助系统(adas)的自适应报警管理
US9242654B2 (en) * 2014-06-27 2016-01-26 International Business Machines Corporation Determining vehicle collision risk
EP3161573B1 (en) 2014-06-27 2020-02-26 Crown Equipment Corporation Vehicle positioning or navigation utilizing associated feature pairs
US20160063761A1 (en) * 2014-08-27 2016-03-03 Toyota Jidosha Kabushiki Kaisha Communication of spatial information based on driver attention assessment
JP6441616B2 (ja) 2014-08-29 2018-12-19 株式会社ゼンリン 位置特定装置、運転支援装置および制御プログラム
US20160086021A1 (en) 2014-09-24 2016-03-24 1A Smart Start, Inc. Substance Testing Systems and Methods with Test Subject Identification Using Electronic Facial Recognition Techniques
US9519289B2 (en) 2014-11-26 2016-12-13 Irobot Corporation Systems and methods for performing simultaneous localization and mapping using machine vision systems
US9886856B2 (en) * 2014-12-04 2018-02-06 Here Global B.V. Near miss system
DE102014226185B4 (de) 2014-12-17 2022-09-29 Bayerische Motoren Werke Aktiengesellschaft Verfahren und Blickrichtungserkennungssystem zum Bestimmen einer Blickrichtung einer Person, sowie Verwendung des Blickrichtungserkennungssystems in einem Kraftfahrzeug
US9573592B2 (en) * 2014-12-23 2017-02-21 Toyota Motor Engineering & Manufacturing North America, Inc. Risk mitigation for autonomous vehicles relative to oncoming objects
EP3057061B1 (en) 2015-02-16 2017-08-30 Application Solutions (Electronics and Vision) Limited Method and device for the estimation of car egomotion from surround view images
US20160244022A1 (en) 2015-02-24 2016-08-25 Ford Global Technologies, Llc Vehicle control action sequence for operator authentication
GB201503413D0 (en) 2015-02-27 2015-04-15 Caring Community Sa Improved navigation system
US20160267335A1 (en) 2015-03-13 2016-09-15 Harman International Industries, Incorporated Driver distraction detection system
DE102015206200A1 (de) 2015-04-08 2016-10-13 Robert Bosch Gmbh Verfahren und Vorrichtung zur Aufmerksamkeitserkennung eines Fahrzeugführers
US20160300242A1 (en) 2015-04-10 2016-10-13 Uber Technologies, Inc. Driver verification system for transport services
US9767625B1 (en) 2015-04-13 2017-09-19 Allstate Insurance Company Automatic crash detection
KR101693991B1 (ko) * 2015-05-18 2017-01-17 현대자동차주식회사 친환경 차량의 제어 시스템 및 방법
US10035509B2 (en) 2015-08-06 2018-07-31 Safer Technology Solutions LLC Early warning intersection device
US9679480B2 (en) 2015-08-07 2017-06-13 Ford Global Technologies, Llc Vehicle driver responsibility factor assessment and broadcast
US9845097B2 (en) 2015-08-12 2017-12-19 Ford Global Technologies, Llc Driver attention evaluation
KR20170020036A (ko) 2015-08-13 2017-02-22 현대자동차주식회사 운전자의 생체 정보에 관한 비밀 모드가 적용된 시스템 및 그 동작 방법
US10586102B2 (en) 2015-08-18 2020-03-10 Qualcomm Incorporated Systems and methods for object tracking
US20170053555A1 (en) 2015-08-21 2017-02-23 Trimble Navigation Limited System and method for evaluating driver behavior
JP6406171B2 (ja) 2015-08-25 2018-10-17 トヨタ自動車株式会社 瞬目検知装置
US9996756B2 (en) * 2015-08-31 2018-06-12 Lytx, Inc. Detecting risky driving with machine vision
US10523991B2 (en) * 2015-08-31 2019-12-31 Orcam Technologies Ltd. Systems and methods for determining an emotional environment from facial expressions
US10150448B2 (en) 2015-09-18 2018-12-11 Ford Global Technologies. Llc Autonomous vehicle unauthorized passenger or object detection
US11307042B2 (en) 2015-09-24 2022-04-19 Allstate Insurance Company Three-dimensional risk maps
US9914460B2 (en) 2015-09-25 2018-03-13 Mcafee, Llc Contextual scoring of automobile drivers
US9718468B2 (en) 2015-10-13 2017-08-01 Verizon Patent And Licensing Inc. Collision prediction system
US10515417B2 (en) 2015-10-16 2019-12-24 Accenture Global Services Limited Device based incident detection and notification
EP3159853B1 (en) 2015-10-23 2019-03-27 Harman International Industries, Incorporated Systems and methods for advanced driver assistance analytics
US9734455B2 (en) 2015-11-04 2017-08-15 Zoox, Inc. Automated extraction of semantic information to enhance incremental mapping modifications for robotic vehicles
US10019637B2 (en) 2015-11-13 2018-07-10 Honda Motor Co., Ltd. Method and system for moving object detection with single camera
US9491374B1 (en) * 2015-12-11 2016-11-08 Fuji Xerox Co., Ltd. Systems and methods for videoconferencing input and display management based on activity
US10460600B2 (en) * 2016-01-11 2019-10-29 NetraDyne, Inc. Driver behavior monitoring
US10269075B2 (en) * 2016-02-02 2019-04-23 Allstate Insurance Company Subjective route risk mapping and mitigation
US9892558B2 (en) 2016-02-19 2018-02-13 The Boeing Company Methods for localization using geotagged photographs and three-dimensional visualization
US10289113B2 (en) 2016-02-25 2019-05-14 Ford Global Technologies, Llc Autonomous occupant attention-based control
US10247565B2 (en) * 2016-04-11 2019-04-02 State Farm Mutual Automobile Insurance Company Traffic risk avoidance for a route selection system
US10235585B2 (en) 2016-04-11 2019-03-19 The Nielsen Company (US) Methods and apparatus to determine the dimensions of a region of interest of a target object from an image using target object landmarks
US10323952B2 (en) * 2016-04-26 2019-06-18 Baidu Usa Llc System and method for presenting media contents in autonomous vehicles
US10007854B2 (en) * 2016-07-07 2018-06-26 Ants Technology (Hk) Limited Computer vision based driver assistance devices, systems, methods and associated computer executable code
WO2018039560A1 (en) 2016-08-26 2018-03-01 Allstate Insurance Company Automatic hail damage detection and repair
JP6940612B2 (ja) 2016-09-14 2021-09-29 ナウト, インコーポレイテッドNauto, Inc. ニアクラッシュ判定システムおよび方法
US9739627B1 (en) 2016-10-18 2017-08-22 Allstate Insurance Company Road frustration index risk mapping and mitigation

Patent Citations (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008118482A (ja) * 2006-11-06 2008-05-22 Horiba Ltd ドライビングレコーダ用カメラユニット
JP2009205652A (ja) * 2008-02-29 2009-09-10 Nec Corp 移動体制御システム及び移動体制御方法
KR100929689B1 (ko) * 2008-09-08 2009-12-03 재단법인대구경북과학기술원 스테레오 영상 정보를 이용한 차량용 사고기록 장치 및 그 제어 방법
JP2010152839A (ja) * 2008-12-26 2010-07-08 Mitsubishi Electric Corp 車両周辺監視装置
US20100198491A1 (en) * 2009-02-05 2010-08-05 Paccar Inc Autonomic vehicle safety system
JP2010208583A (ja) * 2009-03-12 2010-09-24 Toyota Motor Corp 走行支援装置
JP2011123714A (ja) * 2009-12-11 2011-06-23 Toyota Motor Corp 運転支援装置
JP2011203795A (ja) * 2010-03-24 2011-10-13 Toyota Motor Corp 走行支援装置
WO2011129014A1 (ja) * 2010-04-16 2011-10-20 トヨタ自動車株式会社 運転支援装置
JPWO2011129014A1 (ja) * 2010-04-16 2013-07-11 トヨタ自動車株式会社 運転支援装置
JP2013054701A (ja) * 2011-09-06 2013-03-21 Honda Motor Co Ltd 車両の運転支援装置
JP2015151071A (ja) * 2014-02-18 2015-08-24 日産自動車株式会社 運転診断装置および保険料算定方法
JP2015228204A (ja) * 2014-05-30 2015-12-17 ホンダ リサーチ インスティテュート ヨーロッパ ゲーエムベーハーHonda Research Institute Europe GmbH 先進運転者支援システムによりリスクベースの交通シーン分析を行う方法、及び当該分析を行う当該システムを備える乗り物
JPWO2016024318A1 (ja) * 2014-08-11 2017-05-18 日産自動車株式会社 車両の走行制御装置及び方法
JP2016071492A (ja) * 2014-09-29 2016-05-09 富士重工業株式会社 要因分析装置および要因分析方法

Cited By (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11643076B2 (en) 2018-04-20 2023-05-09 Shenzhen Sensetime Technology Co., Ltd. Forward collision control method and apparatus, electronic device, program, and medium
JP2021051736A (ja) * 2019-09-24 2021-04-01 ▲広▼州大学 車両走行経路計画方法、装置、システム、媒体及びデバイス
JP2021054388A (ja) * 2019-09-30 2021-04-08 ベイジン バイドゥ ネットコム サイエンス テクノロジー カンパニー リミテッドBeijing Baidu Netcom Science Technology Co., Ltd. 自動運転の制御方法、装置、電子機器及び記憶媒体
US11529971B2 (en) 2019-09-30 2022-12-20 Apollo Intelligent Driving Technology (Beijing) Co., Ltd. Method and apparatus for autonomous driving control, electronic device, and storage medium
JP7271467B2 (ja) 2019-09-30 2023-05-11 アポロ インテリジェント ドライビング テクノロジー(ペキン)カンパニー リミテッド 自動運転の制御方法、装置、電子機器及び記憶媒体
KR102634694B1 (ko) * 2019-12-27 2024-02-07 모셔널 에이디 엘엘씨 차량용 안전 시스템
KR20210086470A (ko) * 2019-12-27 2021-07-08 모셔널 에이디 엘엘씨 차량용 안전 시스템
WO2021171874A1 (ja) * 2020-02-27 2021-09-02 パナソニックIpマネジメント株式会社 制御システム及び制御方法
US11999381B2 (en) 2020-03-23 2024-06-04 Toyota Motor North America, Inc. Transport item management
US11574543B2 (en) 2020-03-23 2023-02-07 Toyota Motor North America, Inc. Transport dangerous location warning
US11718288B2 (en) 2020-03-23 2023-08-08 Toyota Motor North America, Inc. Consensus-based transport event severity
US11726484B1 (en) * 2020-06-03 2023-08-15 Delta Air Lines, Inc. Airport ground support equipment navigation system
JPWO2022153393A1 (ja) * 2021-01-13 2022-07-21
JP7374350B2 (ja) 2021-01-13 2023-11-06 三菱電機株式会社 自動運転支援装置及び自動運転支援方法
WO2022153393A1 (ja) * 2021-01-13 2022-07-21 三菱電機株式会社 自動運転支援装置及び自動運転支援方法
WO2023157301A1 (ja) * 2022-02-21 2023-08-24 日立Astemo株式会社 電子制御装置及び軌道生成方法

Also Published As

Publication number Publication date
WO2018053175A1 (en) 2018-03-22
US10268909B2 (en) 2019-04-23
US20180075309A1 (en) 2018-03-15
US9928432B1 (en) 2018-03-27
JP6940612B2 (ja) 2021-09-29
US10769456B2 (en) 2020-09-08
EP3513265A1 (en) 2019-07-24
EP3513265A4 (en) 2020-04-22
US20180293449A1 (en) 2018-10-11
US20180165531A1 (en) 2018-06-14

Similar Documents

Publication Publication Date Title
JP6940612B2 (ja) ニアクラッシュ判定システムおよび方法
US11023751B2 (en) Systems and methods for safe route determination
US11485284B2 (en) System and method for driver distraction determination
EP3759700B1 (en) Method for determining driving policy
US11380193B2 (en) Method and system for vehicular-related communications
Bila et al. Vehicles of the future: A survey of research on safety issues
US20200151479A1 (en) Method and apparatus for providing driver information via audio and video metadata extraction
EP3638542B1 (en) System and method for contextualized vehicle operation determination
US20240190431A1 (en) Methods and devices for triggering vehicular actions based on passenger actions
US10776735B2 (en) Risk information processing method and server device
US10336252B2 (en) Long term driving danger prediction system
US20080084283A1 (en) Extra-vehicular threat predictor
JP2020521978A (ja) 安全ルート決定のためのシステムと方法
WO2018142853A1 (ja) 運転評価装置、運転評価方法及び運転評価システム
WO2019232022A1 (en) Systems and methods for safe route determination

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20190528

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190510

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20190527

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200327

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200421

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200717

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210105

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210331

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210810

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210902

R150 Certificate of patent or registration of utility model

Ref document number: 6940612

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150