JP7162017B2 - サイレンの検出およびサイレンに対する対応 - Google Patents

サイレンの検出およびサイレンに対する対応 Download PDF

Info

Publication number
JP7162017B2
JP7162017B2 JP2019565175A JP2019565175A JP7162017B2 JP 7162017 B2 JP7162017 B2 JP 7162017B2 JP 2019565175 A JP2019565175 A JP 2019565175A JP 2019565175 A JP2019565175 A JP 2019565175A JP 7162017 B2 JP7162017 B2 JP 7162017B2
Authority
JP
Japan
Prior art keywords
vehicle
emergency vehicle
objects
emergency
estimated
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019565175A
Other languages
English (en)
Other versions
JP2020525885A (ja
Inventor
ハリソン シルバー,デイビッド
リー,アンガス
イングラム,ベンジャミン
テイラー,ジェニファー
ナンギア,バイバブ
Original Assignee
ウェイモ エルエルシー
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ウェイモ エルエルシー filed Critical ウェイモ エルエルシー
Publication of JP2020525885A publication Critical patent/JP2020525885A/ja
Application granted granted Critical
Publication of JP7162017B2 publication Critical patent/JP7162017B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/09Arrangements for giving variable traffic instructions
    • G08G1/0962Arrangements for giving variable traffic instructions having an indicator mounted inside the vehicle, e.g. giving voice messages
    • G08G1/0965Arrangements for giving variable traffic instructions having an indicator mounted inside the vehicle, e.g. giving voice messages responding to signals from another vehicle, e.g. emergency vehicle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/60Information retrieval; Database structures therefor; File system structures therefor of audio data
    • G06F16/68Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/683Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/60Information retrieval; Database structures therefor; File system structures therefor of audio data
    • G06F16/68Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/686Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using information manually generated, e.g. tags, keywords, comments, title or artist information, time, location or usage information, user ratings
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/09Arrangements for giving variable traffic instructions
    • G08G1/0962Arrangements for giving variable traffic instructions having an indicator mounted inside the vehicle, e.g. giving voice messages
    • G08G1/09626Arrangements for giving variable traffic instructions having an indicator mounted inside the vehicle, e.g. giving voice messages where the origin of the information is within the own vehicle, e.g. a local storage device, digital map
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • G08G1/166Anti-collision systems for active traffic, e.g. moving vehicles, pedestrians, bikes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R3/00Circuits for transducers, loudspeakers or microphones
    • H04R3/005Circuits for transducers, loudspeakers or microphones for combining the signals of two or more microphones
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/09Arrangements for giving variable traffic instructions
    • G08G1/0962Arrangements for giving variable traffic instructions having an indicator mounted inside the vehicle, e.g. giving voice messages
    • G08G1/09623Systems involving the acquisition of information from passive traffic signs by means mounted on the vehicle
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R2499/00Aspects covered by H04R or H04S not otherwise provided for in their subgroups
    • H04R2499/10General applications
    • H04R2499/13Acoustic transducers and sound field adaptation in vehicles

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Library & Information Science (AREA)
  • Data Mining & Analysis (AREA)
  • General Engineering & Computer Science (AREA)
  • Databases & Information Systems (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Otolaryngology (AREA)
  • Acoustics & Sound (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Business, Economics & Management (AREA)
  • Emergency Management (AREA)
  • Traffic Control Systems (AREA)

Description

関連出願の相互参照
[0001] 本願は、2017年6月27日に出願された米国仮出願特許第62/525,423号の出願日利益を主張する、2017年8月29日に出願された米国特許出願第15/689,336号の継続出願であり、この開示内容全体が参照によって本願明細書に組み込まれる。
[0002] 人間の運転手を必要としない車両のような自律走行車両は、ある場所から別の場所への乗客または物品の輸送を支援するのに使用され得る。該車両は、乗客がピックアップ位置または目的位置のような何らかの初期入力を行うことができ、車両がその位置まで自身を誘導する完全自律モードで動作し得る。
[0003] これらの車両は、安全にそのように動作するために、環境内の物体を検出して識別し、さらに物体に迅速に対応することができなければならない。これは、特に、緊急車両を伴う状況において言える。特に、これらの車両は大きく異なり得るが、多くの状況においては、実際に非緊急車両に似ている場合があるので、視覚的な手掛かりによってこのような車両を検出することは非常に難しい場合がある。さらに、緊急車両が遮蔽されている、または自律走行車両の知覚システムの範囲外にある場合のように、点滅灯が自律走行車両の知覚システムによって容易に認識できない場合、検出はほとんど不可能であり得る。緊急車両の1つの一般的な特徴は、緊急事態または緊急車両が車の往来の中を迅速に通り抜ける必要性を知らせるためにサイレンを使用することである。しかしながら、場合によっては、緊急車両の存在がそのサイレンによって識別される場合でも、緊急車両を直接見るまたは識別することができない場合がある。このような場合、サイレンの検出および追跡によって緊急車両の位置、方位、速度、および意図を推測する自律走行車両の反応が重要になる。
[0004] 本開示の一態様は、緊急車両を検出し、緊急車両に対応する方法を提供する。該方法は、1つまたは複数のプロセッサによって、車両上の異なる位置に配置された複数のマイクロホンを使用して緊急車両に相当するサイレン雑音を検出するステップと、1つまたは複数のプロセッサによって、複数のマイクロホンからの出力を使用して緊急車両の方位を推定するステップと、1つまたは複数のプロセッサによって、推定された方位を道路区分に分割された車道の位置を識別する地図情報と比較して緊急車両が走行している1つまたは複数の道路区分を識別するステップと、1つまたは複数のプロセッサによって、推定された方位および識別された1つまたは複数の道路区分に基づいて、緊急車両にどのように対応すべきかを決定するステップと、1つまたは複数のプロセッサによって、緊急車両にどのように対応すべきかの決定に基づいて、自律運転モードで車両を制御するステップとを含む。
[0005] 一実施例では、該方法は、複数のマイクロホンからの出力を使用して緊急車両の範囲を推定するステップをさらに含み、緊急車両にどのように対応すべきかを決定するステップはさらに、推定された範囲に基づく。この実施例では、該方法は、経時的に複数のマイクロホンからの出力を使用して緊急車両の速度を推定するステップをさらに含み、緊急車両にどのように対応すべきかを決定するステップはさらに、推定された相対速度に基づく。別の実施例では、該方法は、経時的に複数のマイクロホンからの出力を使用して緊急車両の速度を推定するステップをさらに含み、緊急車両にどのように対応すべきかを決定するステップはさらに、推定された相対速度に基づく。別の実施例では、車両を制御するステップは、第1の車線から第2の車線へ変更するステップを含む。別の実施例では、車両を制御するステップは、車両を路肩領域に寄せるステップを含む。別の実施例では、車両を制御するステップは、車両の現在の軌道上を継続して進むステップを含む。別の実施例では、車両を制御するステップは、車両の速度を減速するステップをさらに含む。
[0006] 本開示の別の態様は、緊急車両を検出し、緊急車両に対応する方法を提供する。該方法は、1つまたは複数のプロセッサによって、車両上の異なる位置に配置された複数のマイクロホンを使用して緊急車両に相当するサイレン雑音を検出するステップと、1つまたは複数のプロセッサによって、複数のマイクロホンからの出力を使用して緊急車両の方位を推定するステップと、車両の知覚システムから、車両の環境内の物体群を識別する情報および物体群の特性を受信するステップと、1つまたは複数のプロセッサによって、物体群の特性に基づいて物体群のうちの1つが緊急車両に相当するかどうかを決定するステップと、1つまたは複数のプロセッサによって、推定された方位および物体群のうちの1つが緊急車両に相当するかどうかの決定に基づいて、緊急車両にどのように対応すべきかを決定するステップと、1つまたは複数のプロセッサによって、緊急車両にどのように対応すべきかの決定に基づいて、自律運転モードで車両を制御するステップとを含む。
[0007] 一実施例では、特性は、推定された物体位置を含み、物体群のうちの1つが緊急車両に相当するかどうかを決定するステップはさらに、物体群の特性と推定された方位との比較に基づく。別の実施例では、該方法はさらに、経時的に複数のマイクロホンからの出力を使用して、緊急車両の範囲を推定するステップをさらに含み、特性は推定された物体位置を含み、物体群のうちの1つが緊急車両に相当するかどうかを決定するステップはさらに、物体群の特性と推定された範囲との比較に基づく。別の実施例では、該方法はさらに、経時的に複数のマイクロホンからの出力を使用して、緊急車両の速度を推定するステップを含み、特性は推定された物体の速度を含み、物体群のうちの1つが緊急車両に相当するかどうかを決定するステップはさらに、物体群の特性と推定された相対速度との比較に基づく。別の実施例では、該方法はさらに、1つまたは複数のプロセッサによって、推定された方位を道路区分に分割された車道の位置を識別する地図情報と比較して緊急車両が走行している1つまたは複数の道路区分を識別するステップを含み、緊急車両にどのように対応すべきかを決定するステップはさらに、推定された方位および識別された1つまたは複数の道路区分に基づく。別の実施例では、該方法はさらに、物体群の各々の所与の物体の特性に基づいてその所与の物体が緊急車両である第1の尤度を識別するステップを含み、物体群のうちの1つが緊急車両に相当するかどうかを決定するステップはさらに、第1の尤度に基づく。別の実施例では、該方法はさらに、物体群の各々の所与の物体の特性に基づいてその所与の物体が緊急車両でない第2の尤度を識別するステップを含み、物体群のうちの1つが緊急車両に相当するかどうかを決定するステップはさらに、第2の尤度に基づく。別の実施例では、該方法はさらに、車両を制御するステップを含み、車両を制御するステップは、車両がそれ以外では交差点を通過する優先権を有する場合に交差点で停止するステップを含む。
[0008] 本開示の別の態様は、緊急車両を検出し、緊急車両に対応するためのシステムを提供する。該システムは、車両上の異なる位置に配置された複数のマイクロホンを使用して緊急車両に相当するサイレン雑音を検出し、経時的に複数のマイクロホンからの出力を使用して緊急車両の方位を推定し、推定された方位を道路区分に分割された車道の位置を識別する地図情報と比較して緊急車両が走行している1つまたは複数の道路区分を識別し、車両の知覚システムから、車両の環境内の物体群を識別する情報および物体群の特性を受信し、物体群の特性に基づいて物体群のうちの1つが緊急車両に相当するかどうかを決定し、推定された方位および識別された1つまたは複数の道路区分および物体群のうちの1つが緊急車両に相当するかどうかの決定に基づいて、緊急車両にどのように対応すべきかを決定し、緊急車両にどのように対応すべきかの決定に基づいて、自律運転モードで車両を制御するように構成された1つまたは複数のプロセッサを含む。
[0009] 一実施例では、1つまたは複数のプロセッサはさらに、複数のマイクロホンからの出力を使用して緊急車両の範囲を推定するように構成され、緊急車両にどのように対応すべきかの決定はさらに、推定された範囲に基づく。別の実施例では、1つまたは複数のプロセッサはさらに、複数のマイクロホンからの出力を使用して緊急車両の速度を推定するように構成され、緊急車両にどのように対応すべきかの決定はさらに、推定された相対速度に基づく。別の実施例では、該システムはさらに、車両を含む。
[0010]本開示の態様に係る車両の一例の機能図である。 [0011]本開示の態様に係る地図情報の例示的表現を示す図である。 [0012]本開示の態様に係る車両の外観図の例である。 [0012]本開示の態様に係る車両の外観図の例である。 [0012]本開示の態様に係る車両の外観図の例である。 [0012]本開示の態様に係る車両の外観図の例である。 [0013]本開示の態様に係る図2の地図情報に対応する車道の一部の例を示す図である。 [0014]本開示の態様に係る方位データの例示的表現を示す図である。 [0015]本開示の態様に係る範囲データの例示的表現を示す図である。 [0016]本開示の態様に係る相対速度データの例示的表現を示す図である。 [0017]本開示の態様に係るフロー図である。
概要
[0018] 本発明の技術は、人および/または貨物を場所間で輸送するための自律走行車両に関する。上記の状況に対処するために、自律走行車両には、レーザ、レーダ、ソナー、カメラまたは他のセンサを使用して環境内の物体を検出する知覚システムの他に、車両上の異なる位置に配置された一連のマイクロホンまたはマイクロホンアレイが装備され得る。以下で説明するように、これらのマイクロホンを使用して、緊急車両を検出して識別することができ、緊急車両が遮蔽されている、または緊急車両が車両の知覚システムでは確認できない場合に、緊急車両に気づき、緊急車両に反応する方法を提供すると同時に、緊急車両が車両の知覚システムによって確認できる、または検出できる場合に、緊急車両を検出する独立したおよび/または冗長な方法を提供する。
[0019] これらのマイクロホンの出力は、潜在的な緊急車両のサイレンを検出するためにモデルに入力され得る。サイレン雑音がモデルによって検出されると、サイレンの発生源の予想される方位または相対方向に関する測定値、もっと正確に言えば、予測される方位に関する確率分布を提供するために、サイレン雑音がマイクロホンの各々に到達するタイミングが第2のモデルへの入力として使用され得る。さらに、サイレンの発生源の予測される範囲に関する確率分布を提供するために、サイレン雑音、振幅、およびタイミングが第3のモデルに入力され得る。第4のモデルは、サイレン雑音の発生源の予測される速度を推定するために使用され得る。
[0020] モデルからの情報は、車両の1つまたは複数のコンピューティングデバイスに提供され得る。これらのコンピューティングデバイスは、推定された方位、推定された範囲、および推定された相対速度を使用して、車両が緊急車両にどのように反応すべきかを決定し得る。しかしながら、対応の有効性を高めるために、モデルによって提供される情報は、これらの物体のいずれかがサイレン雑音の発生源であるかどうかを決定するために、車両の環境内で検出された物体と比較され得る。特定の車両がサイレン雑音の発生源として識別されると、車両は緊急車両として識別され得る。この時点で、緊急車両にどのように最適に対応すべきかを決定するときに、この緊急車両の観察された移動も考慮され得、そのことにより、対応の有効性がさらに向上する。
[0021] モデル出力を知覚システムからの情報と比較することに加えて、推定された方位、推定された範囲、および推定された相対速度が、車両の環境内の車道特徴を記述する地図情報と比較され得る。これを使用して、繰り返すが、サイレンの発生源が車両の知覚システムの範囲外にある、または別の形で遮蔽されている場合でも、緊急車両が走行している予想される車道、道路区分、または場合によっては、特定の車線をも識別することができる。緊急車両に対する車両の位置(およびその逆)は、どのタイプの対応が適切であるかを決定する際に重要な要因となり得る。
[0022] 本明細書に記載される特徴は、緊急車両が自律走行車両の知覚システムによって容易に検出されない場合でも、自律走行車両がこれらの緊急車両を検出し、識別し、これらの緊急車両に対応することを可能にし得る。サイレン音が検出されると、マイクロホンの複数の位置を使用することにより、車両のコンピュータはサイレンを検出するだけでなく、サイレンの発生源の相対方向、進行方向および速度を推定することもできる。このことは、サイレン雑音にどのように反応すべきかを決定するための重要な情報を車両のコンピューティングデバイスに提供し得る。さらに、サイレンの発生源の方向、進行方向、および速度を識別された車両および地図情報と比較することにより、コンピューティングデバイスは車両の対応をさらに改善することができる。
システム例
[0023] 図1に示されているように、本開示の一態様の車両100は、様々なコンポーネントを含む。本開示の特定の態様は、車両の特定のタイプに関して特に有用であるが、車両は、これらに限定されないが、自動車、トラック、オートバイ、バス、RV車などを含む車両いずれかのタイプであり得る。車両は、1つまたは複数のプロセッサ120、メモリ130、および典型的に汎用コンピューティングデバイスに存在する他のコンポーネントを含むコンピューティングデバイス110のような1つまたは複数のコンピューティングデバイスを有し得る。
[0024] メモリ130は、1つまたは複数のプロセッサ120によって実行され得る、またはそれ以外の形で使用され得る命令132およびデータ134を含む、1つまたは複数のプロセッサ120によってアクセス可能な情報を記憶する。メモリ130は、コンピューティングデバイス可読媒体、または電子デバイスを用いて読み取られ得るデータを記憶する他の媒体を含む、プロセッサによってアクセス可能な情報を記憶することができる任意のタイプのメモリ、例えば、ハードドライブ、メモリカード、ROM、RAM、DVDもしくは他の光学ディスク、および他の書き込み可能かつ読み込み可能なメモリであり得る。システムおよび方法は、上述の様々な組み合わせを含み得るので、命令およびデータの様々な部分が様々なタイプの媒体上に記憶される。
[0025] 命令132は、プロセッサによって直接実行される命令セット(例えば、機械コード)または間接的に実行される命令セット(例えば、スクリプト)の任意の命令セットであり得る。例えば、命令は、コンピューティングデバイス可読媒体上にコンピューティング・デバイス・コードとして記憶され得る。この点に関して、用語「命令」および「プログラム」は、本明細書において区別なく使用され得る。命令は、プロセッサによって直接処理するためにオブジェクトコード形式で記憶され得るか、要求に応じて解釈されるもしくは予めコンパイルされた独立したソース・コード・モジュールのスクリプトもしくは集合を含む任意の他のコンピューティングデバイス言語で記憶され得る。命令の機能、方法、およびルーチンについて、以下でさらに詳細に説明する。
[0026] データ134は、命令132に従ってプロセッサ120によって検索され、記憶され、または修正されてもよい。一例として、メモリ130のデータ134は、予め定義されたシナリオを記憶し得る。所与のシナリオは、物体の種類、車両に対する物体の位置の範囲、および自律走行車両が物体を回避することができるかどうか、物体が方向指示器を使用しているかどうか、物体の現在位置に関連する信号機の状態、物体が一時停止の標識に近づいているかどうかなどのような他の要因を含むシナリオ要件のセットを識別し得る。要件は、「右折方向指示器が点灯している」または「右折専用車線にいる」のような離散値、または「車両100の現在の経路から30°から60°ずれた角度で方向付けられた進行方向を有する」のような値の範囲を含み得る。いくつかの実施例では、所定のシナリオは、複数の物体についての類似情報を含み得る。
[0027] 1つまたは複数のプロセッサ120は、市販されているCPUのような任意の従来のプロセッサであり得る。あるいは、1つまたは複数のプロセッサは、ASICもしくは他のハードウェアベースのプロセッサのような専用のデバイスであり得る。図1は、コンピューティングデバイス110のプロセッサ、メモリおよび他の要素を同一ブロック内にあるとして機能的に示しているが、プロセッサ、コンピューティングデバイス、またはメモリは、実際には、同じ物理ハウジング内に記憶されていても記憶されていなくてもよい複数のプロセッサ、コンピューティングデバイス、またはメモリを含んでいてもよいことは、当業者には理解されるであろう。同様に、メモリは、コンピューティングデバイス110とは異なるハウジング内に配置されたハードドライブまたは他の記憶媒体であり得る。したがって、プロセッサまたはコンピューティングデバイスへの言及は、並列に動作してもよいし、または動作しなくてもよいプロセッサまたはコンピューティングデバイスまたはメモリの集合に対する参照を含むことが理解される。
[0028] コンピューティングデバイス110は、上述したプロセッサおよびメモリ、ならびにユーザ入力150(例えば、マウス、キーボード、タッチスクリーンおよび/またはマイクロホン)とともに、コンピューティングデバイスと関連して通常使用されるすべてのコンポーネント、および様々な電子ディスプレイ(例えば、スクリーンまたは情報を表示するように動作可能な任意の他の電気デバイスを有するモニタ)を含み得る。この実施例では、車両は、車両上の異なる位置に配置された一連のマイクロホン152またはマイクロホンアレイを含む。図示されているように、マイクロホンアレイは、知覚システム172とは別個のものとして示されており、コンピューティングシステム110内に組み込まれる。しかしながら、マイクロホン152の全てまたは一部は、知覚システム172に組み込まれ得る、または別個のシステムとして構成され得る。この点に関して、マイクロホンは、コンピューティングデバイス110に信号を送信するマイクロコントローラを介して操作される独立したコンピューティングデバイスと見なされ得る。
[0029] 一実施例では、コンピューティングデバイス110は、車両100内に組み込まれた自律駆動コンピューティングシステムであり得る。自律駆動コンピューティングシステムは、車両の様々なコンポーネントと通信可能であり得る。例えば、図1に戻ると、コンピューティングデバイス110は、メモリ130の命令132に従って、車両の乗客からの連続的または周期的な入力を必要としない、または必要でない自律運転モードで、車両100の移動、速度などを制御するために、減速システム160(車両の制動を制御するため)、加速システム162(車両の加速を制御するため)、操舵システム164(車輪の向きまたは車両の方向を制御するため)、シグナリングシステム166(方向指示器を制御するため)、ナビゲーションシステム168(位置または周囲の物体に対して車両をナビゲートするため)、測位システム170(車両の位置を決定するため)、知覚システム172(車両の環境内の物体を検出するため)、および動力系174(例えば、バッテリおよび/またはガソリンもしくはディーゼルエンジン)と通信状態であり得る。さらに、これらのシステムはコンピューティングデバイス110の外部のシステムとして図示されているが、車両100を制御するための自律駆動コンピューティングシステムのように、コンピューティングデバイス110に組み込まれてもよい。
[0030] コンピューティングデバイス110は、様々なコンポーネントを制御することによって車両の方向および速度を制御し得る。例として、コンピューティングデバイス110は、地図情報およびナビゲーションシステム168からのデータを使用して、完全に自律的に車両を目的位置までナビゲートし得る。コンピューティングデバイス110は、車両の位置を決定するための測位システム170、およびその位置に安全に到達するのに必要となったときに物体を検出して物体に対応するための知覚システム172を使用し得る。そのようにするために、コンピューティングデバイス110は、車両に、(例えば、加速システム162によってエンジンに供給される燃料または他のエネルギーを増加させることによって)加速させ、(例えば、減速システム160によって、エンジンに供給される燃料を減少させることによって、ギアチェンジすることによって、および/またはブレーキをかけることによって)減速させ、(例えば、操舵システム164によって車両100の前輪または後輪の方向を変えることによって)方向転換させ、(例えば、シグナリングシステム166の方向指示器を点灯させることによって)この方向転換を伝達させ得る。したがって、加速システム162および減速システム160は、車両のエンジンと車両の車輪との間の様々なコンポーネントを含むドライブトレインの一部であり得る。同様に、これらのシステムを制御することによって、コンピューティングデバイス110はさらに、車両を自律的に操縦するために、車両のドライブトレインを制御し得る。
[0031] 一実施例として、コンピューティングデバイス110は、車両の速度を制御するために、減速システム160および加速システム162と相互作用し得る。同様に、操舵システム164は、車両100の方向を制御するために、コンピューティングデバイス110によって使用され得る。例えば、車両100が自動車またはトラックのように路上で使用するように構成されている場合、操舵システムは、車両の方向を変えるために車輪の角度を制御するためのコンポーネントを含み得る。シグナリングシステム166は、例えば、必要に応じて方向指示器またはブレーキライトを点灯させることによって、車両の意図を他の運転手または車両に知らせるために、コンピューティングデバイス110によって使用され得る。
[0032] ナビゲーションシステム168は、ある位置までのルートを決定して、そのルートをたどるために、コンピューティングデバイス110によって使用され得る。この点に関して、ナビゲーションシステム168および/またはデータ134は、地図情報(例えば、コンピューティングデバイス110が車両をナビゲートする、または制御するために使用し得る非常に詳細な地図)を記憶し得る。一実施例として、これらの地図は、車道の形状および高度、車線区分線、交差点、横断歩道、制限速度、信号機、建物、標識、リアルタイムの交通情報、植生、または他のこのような物体および情報を識別し得る。車線区分線は、実線または破線の二重線または単線の車線境界線、実線または破線の車線境界線、反射体などの特徴を含み得る。所与の車線は、車線の境界を画定する左右の車線境界線または他の車線区分線に関連し得る。したがって、ほとんどの車線は、1つの車線境界線の左側端と、別の車線境界線の右側端とによって境界され得る。
[0033] 知覚システム172はさらに、他の車両、車道内の障害物、信号機、標識、樹木などのような車両の外側にある物体を検出するための1つまたは複数のコンポーネントを含み得る。例えば、知覚システム172は、1つまたは複数のLIDARセンサ、ソナー装置、レーダユニット、カメラおよび/またはコンピューティングデバイス110によって処理され得るデータを記録する他の検出装置を含み得る。知覚システムのセンサは、位置、姿勢、サイズ、形状、種類(例えば、車両、歩行者、自転車運転者など)、進行方向、および移動速度などのような物体およびそれらの特性を検出し得る。センサからの生データおよび/または上記の特性は、知覚システム172によって生成されたときに、周期的にまたは継続的に、記述関数、ベクトル、または境界ボックスに定量化され、または配列され、さらに処理するためにコンピューティングデバイス110に送信され得る。以下でさらに詳細に説明するように、コンピューティングデバイス110は、車両の位置を決定するための測位システム170、およびその位置に安全に到達するのに必要となったときに物体を検出して物体に対応するための知覚システム172を使用し得る。
[0034] 図2は、車道の一部の地図情報200の一例である。地図情報200は、交差点202の近くの様々な道路特徴の形状、位置、および他の特性を識別する情報を含む。この例では、地図情報200の情報は、車線210~219および路肩領域220、222の形状および位置を画定する。この実施例では、地図情報200は、車線210~212を画定する車線境界線230~234および路肩領域220を識別する情報を含む。車線211、212、215、216は、(東方向に)同じ方向の交通流を有するが、車線210、217は、(西方向に)異なる交通流を有する。車線219、213は、南方向の交通流を有し、車線214、218は、北方向の交通流を有する。さらに、車両が車線211、212内を走行している場合、実線(白色バー)240は、交差点202の境界および/または車線211または車線212から交差点を通過することができる優先権を現在有していない車両が進む前に停止しなければならない位置を画定するために使用され得る。この情報の全ては、交差点202の近くの領域の地図情報200に含まれ得る。
[0035] 地図情報は、グリッドまたは道路グラフ内で互いに接続する個々の道路区分として車線または車線の一部を識別し得る。この点に関して、車線211~219の各々の単純な性質を考えると、この例では、図2に図示されているようなこれらの「車線」の各々は道路区分と見なされ得る。当然のことながら、地図情報の道路区分は、実際には、例えば、数メートルまたはおよそ数メートルのオーダーで、はるかに小さくすることができる。
[0036] 地図情報200の例は、例えば、車線境界線、路肩領域、交差点、および車線ならびに方位の少しの道路特徴を含むが、地図情報200はさらに、信号機、横断歩道、歩道、一時停止の標識、譲れの標識、速度制限標識、道路標識などのような様々な他の道路特徴を識別し得る。図示されていないが、地図情報は、速度制限および他の法的交通要件を識別する情報、例えば、一時停止の標識の位置または信号機の状態などを考えてどの車両が優先権を有するかの情報を含み得る。
[0037] 詳細な地図情報は、ここでは、画像ベースの地図として描かれているが、地図情報は、完全に画像ベースである必要はない(例えば、ラスター)。例えば、詳細な地図情報は、1つまたは複数の道路グラフまたは情報の(例えば、道路、車線、交差点、およびこれらの特徴間の接続)のグラフネットワークを含み得る。各々の特徴は、グラフデータとして記憶され、地理的位置および各々の特徴が他の関連特徴に関係しているかどうかのような情報に関連付けられ得、例えば、一時停止の標識は、道路および交差点などに関係し得る。いくつかの実施例では、関連データは、特定の道路グラフの特徴の効率的な参照を可能にするために、道路グラフのグリッドベースの指標を含み得る。
[0038] 図3A~図3Dは、車両100の外観図の例である。図示されているように、車両100は、ヘッドライト302、フロントガラス303、テールランプ/方向指示器304、リヤウィンドウ305、ドア306、サイドミラー308、タイヤ・ホイール310、方向指示器/駐車灯312のような典型的な車両の多くの特徴を含む。ヘッドライト302、テールランプ/方向指示器304、および方向指示器/駐車灯312は、シグナリングシステム166に関連付けられ得る。さらに、ライトバー307もシグナリングシステム166に関連付けられ得る。ハウジング314は、知覚システム172のLIDARセンサ、ソナー装置、レーダユニット、カメラなどの1つまたは複数のセンサを収容することができるが、このようなセンサは、車両の他の領域にも組み込まれ得る。
[0039] 図3A~図3Dはさらに、車両上の異なる位置に配置されたマイクロホン152(または152a~152d)を含む。これらのマイクロホンは、マイクロホンが(ソナー装置で使用されるような)エミッタを含む必要がないという点で、「パッシブ型マイクロホン」と見なされ得る。使用する際に、マイクロホンの実際の間隔は、空間エイリアシングまたは曖昧さを回避するために、領域のサイレン雑音(例えば、異なる州および国が異なるサイレン雑音を使用する場合がある)の予想される波長に合理的に近い間隔にすべきである。この点に関して、このような波長では、マイクロホンは、マイクロホンの各々に到達する音波の相対位相からの方向、もっと正確に言えば、到達時間差を計算することができるように、例えば、互いに1/2波長のオーダーで離間して配置され得る。例えば、カリフォルニア州における緊急車両では、6cmの距離が適切であり得る。この比較的狭い間隔は、車両100の前端に配置されたマイクロホン152aのような1組のマイクロホンまたはマイクロホンアレイ内で実現され得る。この点に関して、上述したように、マイクロホン152(152a~152dを含む)は、実際には、マイクロホンまたはマイクロホンアレイの組を含み得る。しかしながら、マイクロホンは指向性であるので、言い換えれば、車両の前端上のアレイは、車両の背後の音を聞く音を十分に拾わないので、2組以上のマイクロホンまたはアレイが使用され得る。この点に関して、第2の組のマイクロホン152bは、車両100の後方に配置され得る。また、車両の側方(左側および右側)から離れる方向に向けられたマイクロホン152c、152dのような追加のマイクロホンアレイがさらに使用され得る。
[0040] 図示されていないが、追加的にまたは代替的に、ハウジング314(ここでは、ドームで描かれている)の周囲のような車両のルーフパネルの周囲にマイクロホンアレイが配置されてもよい。これは、両方の目的(車両に対して異なる方向に向けられた近接したマイクロホンのアレイ)を同時に達成することができるが、マイクロホンアレイは、ドーム内のセンサの遮蔽を制限するために配置される必要がある。
[0041] 命令132は、サイレン雑音の特性を推定するための複数のモデルを含み得る。第1のモデルは、マイクロホンで受信された音からサイレン雑音を検出するように構成され得る。例えば、マイクロホンの出力は、マイクロホンの出力がサイレン雑音を含むかどうかを識別するために、第1のモデルに入力され得る。この点に関して、第1のモデルは、異なるタイプの雑音のサイレン雑音を含むマイクロホンの出力の尤度を提供するモデルを含み得る。
[0042] 命令132はさらに、サイレン雑音の方位を推定するために使用され得る第2のモデルを含み得る。例えば、サイレン雑音がマイクロホンの各々に到達するタイミングを測定して、サイレンの発生源の予想される方位または相対方向に関する測定値、もっと正確に言えば、予測される方位に関する確率分布を提供し得る。
[0043] 命令132はさらに、第3のモデルを含み得る。この第3のモデルは、第1のモデルによってサイレン雑音を含むように予め決定されたマイクロホン出力、さらにサイレン雑音のタイミングおよび振幅を入力として使用し得る。振幅に関して、周波数は異なる割合で低下するので、サイレンの高周波高調波の存在および強度は、範囲の何らかの指標ともなり得る。いくつかの実施例では、モデルはさらに、推定された方位および推定された範囲を入力として使用し得る。この点に関して、第3のモデルは、サイレンの発生源の予測される範囲(距離)に関する確率分布を提供するために、前述の入力の全てまたは一部を使用するモデルを含み得る。
[0044] 命令132はさらに、第4のモデルを含み得る。この第4のモデルは、サイレン雑音の発生源の予測される相対速度に関する確率分布を推定するために、経時的に収集されたサイレン雑音およびタイミングを使用し得る。例えば、経時的な方位の変化を使用することで、相対速度を推定することができる。追加的にまたは代替的に、第4のモデルは、サイレン音のスニペットから相対速度に関する尤度を予測するように訓練されたニューラルネットを含み得る。このスニペットは、例えば、0.5秒、1.0秒、2.0秒、3.0秒、4.0秒またはおおよそこれらの秒数であり得る。ニューラルネットは、振幅の変化および高調波の変化から、場合によっては、サイレン周波数のドップラーシフトから相対速度を抽出することができる。
[0045] 上述したモデルの1つまたは複数は、学習モデル、例えば、分類器のような機械学習を利用するモデルを含み得る。例えば、サイレン雑音を検出するために、方位を推定するために、範囲を推定するために、そして相対速度を推定するために、1つまたは複数の分類器が使用され得る。他の実施例では、全てまたはいくつかの分類器を使用するのではなく、モデルは、相対速度を推定するために上述したような1つまたは複数のニューラルネット、またはカルマンフィルタのようなトラッカもしくは推定方位および推定範囲、および/または対応する確率分布を経時的に取り込んで、推定相対速度のような他の状態の推定を出力するトラッカを含み得る。さらに他の実施例では、推定方位は、一般化された相互相関位相変換のような種々のアルゴリズムを使用して決定され得る。別の実施例では、知識を使用すれば一定距離におけるサイレン音量の範囲およびその圧力は1/範囲のように減少するので、推定範囲は、マイクロホンによって感知される圧力の振幅から分析的に計算され得る。
[0046] さらに、本明細書に記載されている実施例は、4つの別個のモデルを利用しているが、これらのモデルは、サイレン雑音を検出し、方位を推定し、範囲を推定し、相対速度を推定するための単一の分類器として、または複数のモデルとして実装され得る。例えば、第1のモデルは、サイレンを検出し得、第2のモデルは、方位を推定し、範囲を推定し、相対速度を推定するために使用され得る。別の例では、第1のモデルは、サイレンを検出し得、第2のモデルは、方位を推定し、範囲を推定するために使用され得、第3のモデルは、相対速度を推定するために使用され得る。
[0047] モデルのいくつかを設定する必要がある場合、グラウンドトゥルースデータの何らかの測定値が対数の大きな集合から抽出され得る。これは、例えば、実際のサイレン雑音およびサイレン無しの状態の手動でラベル付けされたインスタンス、および車両がサイレンを発している状態の手動でラベル付けされたまたは検証された例を含み得る。 このラベリングの少なくともいくつかの態様は、例えば、カメラ画像またはレーザ点群から特定のタイプの物体を識別するためにテンプレートまたは画像マッチングを利用するシステムによる、視覚的検出を使用して自動化され得る。例えば、時間Tにおいてサイレンが存在するラベルが存在し、それと同時に視覚的検出が点滅灯を有する緊急車両であるとして1台の車両のみを識別する場合、車両がサイレンの発生源であると仮定すると、経時的なサイレンの相対および/または絶対位置、速度などをラベル付けするために、経時的な車両の詳細、位置、速度などが使用され得る。
方法例
[0048] 図面に示されている上述の動作に加えて、様々な動作について説明する。以下の動作は以下で説明する正確な順序で実行される必要はないことを理解されたい。むしろ、様々なステップが、異なる順序で、もしくは同時に処理され得、さらにステップが追加され得る、または省略され得る。
[0049] 上述したように、コンピューティングデバイス110は、その環境の中を通る車両100の移動を制御し得る。図4は、地図情報200の領域に対応する車道400の一部において操縦している車両100の一例である。この点に関して、交差点402は交差点202に対応し、車線410~419は車線210~219に対応し、路肩領域420、422は路肩領域220、222に対応し、車線境界線430~434は車線境界線230~234に対応し、実線440は実線240に対応する。したがって、この実施例では、車両100は、車線415に向かって進むか、あるいは車線413へ右折するように車両100を交差点404へと導く軌道で、車線412から交差点402に接近している。
[0050] この実施例では、車両の知覚システム172は、コンピューティングデバイス110に、車両の環境に関する情報を提供し得る。これは、地図情報200内の対応する特徴を有する車線境界線430~434および実線440のような物体の位置、および車両451~454のような物体を含み得る。これらの異なる物体の特性、例えば、それらの形状、位置、進行方向、速度などは、知覚システム172によってコンピューティングデバイス110に提供され得る。
[0051] 車両があちこち移動するときに、マイクロホン152の出力は、潜在的な緊急車両サイレンを検出するために第1のモデルに取り込まれ得る。これは、コンピューティングデバイス110または知覚システム172の1つまたは複数のコンピューティングデバイスによって行われ得る。サイレン雑音が第1のモデルによって検出されると、サイレン雑音の発生源の追加の特性を決定するために、さらなる処理が実行され得る。
[0052] 例えば、サイレン雑音がマイクロホン152の各々に到達するタイミングを測定し、第2のモデルに入力して、サイレンの発生源の予想される方位または相対方向に関する測定値、もっと正確に言えば、予測される方位に関する確率分布を提供し得る。例えば、マイクロホン152は、サイレン雑音の発生源の推定方位、またはサイレンが車両に対してどの方向から鳴っているかを提供するために、時間同期され得る。これは、サイレン雑音が車両の周囲の複数の異なる方向(すなわち、車両の周囲0°~360°)から発せられる確率を含み得る。最も高い確率を有する方向または方向の範囲、例えば、5°またはおおよそ5°の範囲が、サイレン雑音の発生源の推定方位であると見なされ得る。追加的にまたは代替的に、サイレン雑音の相対振幅は、サイレン雑音の発生源の方位の指標として使用され得る。例えば、車両の前方のサイレンは、車両の前方に配置されたマイクロホン152aの方が車両の後方に配置されたマイクロホン152bよりも大きな音で鳴る。
[0053] 図5は、上述したようにタイミングを使用して決定されたサイレン雑音の方位データの例示的な表現500を示す。車両の周囲の360°の半径内の異なる方位について、方位データは、確率値または尤度値を含み得る。この実施例では、方位は、方位範囲510、520、530、540で表される90°の範囲で示されている。これらの方位範囲の各々は、車両の周囲の異なる相対方向、すなわち、前方(方位範囲510)、左側(方位範囲540)、後方(方位範囲530)、および右側(方位範囲520)を示している。当然、180°、45°、30°、15°、10°、1°、0.5°などのように、90°より大きい、または90°より小さい範囲が使用されてもよい。尤度値は、0~1の数値の範囲であり得、0はサイレン雑音の発生源の方位を表す可能性が低く、1はサイレン雑音の発生源の方位を表す可能性が高い。この実施例では、方位範囲510は0.10の尤度値を有し、方位範囲520は0.1の尤度値を有し、方位範囲530は0.7の尤度値を有し、方位範囲540は0.1の尤度値を有する。したがって、この実施例では、最も高い尤度値を有する方位範囲530が、サイレン雑音の発生源の推定方位として選択され得る、または識別され得る。この点に関して、サイレン雑音の発生源は、少なくとも例示的な表現500においては、車両100の背後に位置する可能性が高い。
[0054] さらに、サイレンの発生源の可能な範囲(または車両からの距離)に関する確率分布を提供するために、サイレン雑音およびタイミングが第3のモデルに入力され得る。この場合も同様に、これは、コンピューティングデバイス110または知覚システム172の1つまたは複数のコンピューティングデバイスによって行われ得る。例えば、複数の異なる範囲の車両に対するサイレン雑音の発生源の範囲を推定するために、0.1秒、1.0秒、2.0秒、3.0秒、4.0秒またはおおよそこれらの秒数のようなマイクロホンからの出力の数秒のタイミングが使用され得る。経時的にこの情報をフィルタリングすることにより、推定範囲を改善することができる。複数の異なる範囲にわたる、0.25マイルまたはおおよそ0.25マイルの範囲または距離範囲が、サイレン雑音の発生源の推定範囲として識別され得る。
[0055] 図6は、上述したように第2のモデルを使用して決定されたサイレン雑音の範囲(距離)データの例示的な表現600を示す。車両からの様々な範囲、または実際の距離範囲に関して、範囲データは、尤度値を含み得る。この例では、距離は、0~0.25マイル、0.25~0.50マイル、0.50~0.75マイル、0.75~1.00マイル、1.00マイル以上の範囲で表された0.25マイルの間隔で示されている。上述したように、これらの範囲のサイズは、それよりも大きいまたは小さいサイズ(0.01マイルまたは0.5マイル)、他の尺度(例えば、メートル)で定義されたサイズなどの場合がある。さらに、図6の実施例における範囲は、マイクロホンの感度および第3のモデルによって実現可能な精度に応じて、1マイル以上にまで広がり、距離範囲の「上端」は、例えば、0.2~0.25マイルのように幾分小さくすることができる。さらに他の実施例では、この範囲は、1マイルを十分に超えて、例えば、車両から2マイル、5マイル、10マイル、またはそれ以上にまで広がる場合がある。
[0056] 図6では、車両の前方からの距離として示されているが、距離は、例えば、推定方位の方向(または方向範囲)を含む任意の方向であり得る。この場合も、尤度値は、0~1の数値の範囲であり、0はサイレン雑音の発生源の距離を表す可能性が低く、1はサイレン雑音の発生源の距離を表す可能性が高い。この実施例では、範囲0~0.25マイルは0.5の尤度値を有し、範囲0.25~0.50マイルは0.2の尤度値を有し、範囲0.50~0.75マイルは0.1の尤度値を有し、範囲0.75~1.00マイルは0.1の尤度値を有し、範囲1.00マイル以上は0.1の尤度値を有する。したがって、この実施例では、最も高い尤度値を有する範囲0~0.25マイルが、サイレン雑音の発生源の推定範囲として選択され得る、または識別され得る。この点に関して、サイレン雑音の発生源は、少なくとも例示的な表現600においては、車両100の0.25マイルの範囲に位置する可能性が高い。
[0057] 他の実施例では、距離範囲に対する尤度値を提供するのではなく、第3のモデルは、閾値尤度値または信頼値を満たす距離範囲として推定範囲を出力し得る。例えば、第3のモデルは、サイレン雑音の発生源が当該距離範囲内に存在する尤度が少なくとも0.95(または95%)またはおおよそ0.95(または95%)である距離範囲を提供し得る。例えば、車両の非常に近くのサイレン雑音の発生源については、距離範囲は、車両から0~50メートル、またはおおよそ0~50メートルのオーダーであり得る。車両からかなり離れているサイレン雑音の発生源については、距離範囲は、例えば、車両から100~400メートルまたはおおよそ100~400メートルであり得る。マイクロホン152に衝突するサイレン雑音の音波からの圧力は、およそマイクロホン152からサイレン雑音の発生源までの距離の逆数(または1/範囲)の割合で低下するので、閾値尤度値(または信頼値)を満たす距離範囲は、サイレン雑音の発生源が車両に近いほど小さく、サイレン雑音の発生源が車両から遠いほど大きくなる可能性が高い。
[0058] これらの範囲の推定は、かなり不正確であり得、例えば、1.5X~2Xのオーダーで(ここでは、Xは推定範囲または距離を表す)、比較的大きな誤差があり得る。しかしながら、これらの大きな誤差があっても、推定範囲は、サイレン雑音の発生源が離れすぎて(1/4マイルまたはそれ以上のオーダーで)反応することができないのかどうかをコンピューティングデバイスが判断するのを支援し得る。同時に、第2のモデルはさらに、範囲割合の推定、またはサイレン雑音が大きくなる、または小さくなる速度を提供し得る。これは、緊急車両にどのように対応すべきかを決定するために使用され得る、サイレン雑音の発生源が接近しているか遠くなっているか(向かっているまたは離れていくとの推定)を決定する際に、コンピューティングデバイス110を支援し得る。図6の実施例では、向かっているまたは離れていくとの推定は、緊急車両が車両100に向かって移動している状態を示し得る。
[0059] 第4のモデルはさらに、経時的に収集されたサイレン雑音およびタイミングを用いてサイレン雑音の発生源の予測される相対速度に関する確率分布を推定するために使用され得る。いくつかの実施例では、例えば、地図の制約(速度制限など)に基づいて、推定を精緻化するために、初期の推定値が地図情報と比較され得る。この場合も同様に、コンピューティングデバイス110または知覚システム172の1つまたは複数のコンピューティングデバイスによって行われ得る。経時的にこの情報をフィルタリングすることにより、推定されるサイレン雑音の相対および/または絶対速度を提供することができる。
[0060] 図7は、上述したように第3のモデルを使用して決定されたサイレン雑音の相対速度データの例示的な表現700を示す。車両に対する様々な速度、または実際の速度範囲に関して、相対速度データは、尤度値を含み得る。この実施例では、速度は、-20mph未満、-20~-10mph、-10~0mph、0~10mph、10~20mph、および20mph超の範囲で表された、車両に対する10マイル/時の間隔で示されている。当然、追加の範囲(20~30、-20~-30、6など)、さらに大きい(20mph)または小さい(1mph)間隔も使用され得る。さらに、図7の実施例に示されているように、範囲はさらに、サイレン雑音の発生源が車両から離れていることを示す負の値と、サイレン雑音の発生源が車両に向かって移動していることを示す正の値とを含み得る。
[0061] この場合も、尤度値は、0~1の数値の範囲であり、0はサイレン雑音の発生源の速度を表す可能性が低く、1はサイレン雑音の発生源の速度を表す可能性が高い。この実施例では、範囲-20以下は0.1の尤度値を有し、範囲-20~-10mphは0.1の尤度値を有し、範囲0~10mphは0.5の尤度値を有し、範囲10~20mphは0.1の尤度値を有し、20mph超の範囲は0.1の尤度値を有する。したがって、この実施例では、最も高い尤度値を有する相対速度が、サイレン雑音の発生源の推定相対速度として選択され得る、または識別され得る。この点に関して、サイレン雑音の発生源は、少なくとも例示的な表現700においては、車両100に対して0~10mphの速度で、または車両100と同じ速度に非常に近い速度で車両100に向かって(離れるまたは負の方向に対向するように)走行している可能性が高い。
[0062] いくつかの実施例では、第1のモデルは、マイクロホンで受信された音のどの部分がサイレン雑音に相当するかを正確に識別するために使用され得る。言い換えると、第1のモデルは、どの小さい周波数範囲対時間がサイレン雑音に対応するかを識別するために使用され得る。これは、サイレン雑音とは無関係な第2のモデル、第3のモデル、および第4のモデルに取り込まれる情報の量(すなわち、風雑音または近くの車両からの雑音のような音からの干渉)を低減することができる。
[0063] モデルからの情報および推定特性のいずれかは、1つまたは複数のコンピューティングデバイス110に提供され得る。これらのコンピューティングデバイスは、方位データ、範囲データ、相対速度データ、推定方位、推定範囲、向かっているまたは離れていくとの推定、および推定相対速度を使用して、車両が緊急車両にどのように反応すべきかを決定し得る。図5~図7の実施例を組み合わせて、コンピューティングデバイスは、サイレン雑音の発生源が車両100の後方に向かって(方位範囲530内に)位置し、車両100から0~0.25マイル離れた範囲に位置し、車両100に対して0~10mphの速度で車両100に「向かって」走行している(接近している)ことを判断し得る。しかしながら、対応の有効性を高めるために、モデルによって提供される情報が車両の環境内で検出された物体と比較されて、これらの物体のいずれかがサイレン雑音の発生源であるかどうかが決定され得る。
[0064] 例えば、上述したように、知覚システムは、知覚システムのセンサの範囲内の物体を検出し、識別することができる。経時的に、知覚システムはさらに、これらの物体の特性、例えば、物体のどれが車両であるか、さらに各々の物体の進行方向、位置、および相対速度を決定し得る。この情報は、検出された車両がサイレン雑音の発生源であり得るかどうかを識別するために、サイレン雑音の発生源の推定方位、推定範囲、および推定相対速度と比較され得る。これは、サイレン雑音の発生源である尤度を生成するために、識別されたどの車両に対しても反復して行われ得る。同時に、コンピューティングデバイスは、識別されたどの車両もサイレンを鳴らしていないという尤度を生成し得る。これは、緊急車両が範囲外にあるか、そうでなければ遮蔽されている場合の重要な値であり得る。
[0065] 図4の実施例に戻ると、コンピューティングデバイス110は、サイレン雑音の発生源の推定特性を知覚システム172によって検出され決定された車両として識別された物体と比較することで、検出された車両の各々がサイレン雑音の発生源である尤度を推定し得る。例えば、コンピューティングデバイス110は、識別車両450~454の全てに対して順に処理をして、サイレン雑音の発生源が車両100の後方に向かって(方位範囲530内に)位置し、車両100から0~0.25マイル離れた範囲に位置し、車両100に対して0~10mphの速度で走行しているとの推定に基づいて、尤度値を決定し得る。サイレン雑音の発生源は車両100の後方に向かって位置するので、車両100の前方の他の車両または車両452~454の尤度値は、比較的小さく、例えば、0.1またはおおよそ0.1である。同時に、車両100の後方に向かう車両または車両450、451の尤度値は、推定方位を考慮すると、比較的大きく、例えば、0.5またはおおよそ0.5である。車両450、451の尤度値はさらに、推定範囲および推定相対速度に応じて異なり得る。例えば、車両450は車両100の10mphの速度の範囲内の速度で移動しているが、車両451はそれよりずっと速い相対速度、例えば、車両100の速度より速い20mphの速度で走行している場合があるので、車両450の尤度値は車両451の尤度値より高い場合がある。
[0066] 上記の実施例は、推定方位、推定範囲、または推定相対速度に選択されたデータに依存しているが、車両の環境内の物体の尤度値は、代替例では、推定方位、推定範囲、または推定相対速度に選択されたデータではなく、方位データ、範囲データ、および相対速度データの全てによって決定され得る。
[0067] いくつかの実施例では、サイレン雑音は、サイレン雑音の発生源が実際に車両の検出システムによって検出される前に、(例えば、上述したような第1のモデルを使用して)検出され得る。そのような場合、知覚システムによって検出された物体がサイレン雑音の発生源として識別されると、例えば、地図情報および以前に遮蔽された可能性がある知覚システムの範囲内の領域に関する情報を使用して、緊急車両がどこから来ているかを仮定するために、以前のモデル出力(推定方位、推定範囲、推定相対速度など)が使用され得る。これは、どの物体または車両がサイレン雑音の発生源であるか(または発生源でないか)の推定を改善するために使用され得る。
[0068] 特定の車両がサイレン雑音の発生源として識別されると、車両は緊急車両として識別され得る。この時点で、緊急車両にどのように最適に対応すべきかを決定するときに、この緊急車両の観察された移動も考慮され得、そのことにより、対応の有効性がさらに向上する。再び、上述の実施例に戻ると、尤度値を前提として、コンピューティングデバイス110は、サイレン雑音の発生源として車両450を識別し得る。この点に関して、コンピューティングデバイス110は、緊急車両450の移動を観察し、この情報を使用して、どのように最適に対応すべきかを決定し得る。当然、いくつかの実施例では、知覚システム172により検出される他の車両は存在しない場合がある、または、他の全ての車両は、非常に小さい、もしくは緊急車両として識別される最小尤度値閾値を満たさない尤度値を有する場合がある。このような場合、コンピューティングデバイス110は、緊急車両のサイレン雑音の発生源が、単純に知覚システム172の範囲内にない、または別の形で遮蔽されている、例えば、別の車両、構造物などの物体の背後に位置していると判断し得る。
[0069] 図4の実施例では、車両100は、単に路肩領域420に入って、停止または減速し得る。あるいは、車両100が速く走行しすぎて路肩領域420に安全に入ることができない場合、または車両が交差点404で右折しようとしている場合、車両は、緊急車両450の移動を妨げない場合には(例えば、路肩領域が非常に狭い、占有されている、またはすぐに終わるので、車両が路肩領域に寄せるよりも速く、安全に右折することができる場合)、続けて車線413へと右折することができる。別の代替例では、路肩領域420が既に占有されている場合、車両100が車線412から車線411へと変更して、緊急車両450が車両100を通り越して交差点404へと進むことができるようにする方が安全であり得る。
[0070] 推定特性を知覚システムからの情報と比較することに加えて、これらの特性は、車両の環境内の車道特徴を記述する地図情報と比較され得る。これを使用して、繰り返すが、サイレン雑音の発生源が範囲外にある、または別の形で遮蔽されている場合でも、緊急車両が走行している予想される車道、道路区分、または場合によっては、特定の車線を識別することができる。例えば、車両のコンピューティングデバイスは、同じ道路上の車両の前方の1つまたは複数の道路区分、同じ道路上の車両の背後の1つまたは複数の道路区分、交差道路上の1つまたは複数の道路区分、および車両の現在の軌道と交差しない(または少なくともすぐ近くで交差しない)道路上の1つまたは複数のイベント道路区分を識別することができる場合がある。道路区分を識別することは、例えば、1つの最も可能性の高い道路区分を識別するだけではなく、複数の車道または道路区分に関する確率をモデル化することを含み得る。
[0071] 例えば、コンピューティングデバイス110は、推定方位、推定範囲、および推定相対速度を図2の実施例と比較して、緊急車両のサイレン雑音の発生源が車線210、211、212に対応する道路区分上に位置する可能性が最も高いと判断し得る。
[0072] したがって、地図情報を使用することにより、車両がどのように対応すべきかについてより最適な推定を行うことができる。当然、そのような地図情報が利用できない場合には、緊急車両が車両の前方にあるか背後にあるか、左側にあるか右側にあるか、または車両に接近しているか車両から遠ざかっているかについての手掛かりを使用することも有益であり得る。
[0073] いくつかの例では、緊急車両に最も関連する位置で音を拾うようにマイクロホンの焦点を合わせるために、ビーム成形が使用され得る。これは、サイレンが識別される前または後に行われ得る。例えば、緊急車両に最も関連する位置で音を拾うように焦点を合わせるためにマイクロホンをビーム成形するのに、さらに地図情報および知覚システムからの情報が使用され得る。これは、例えば、車道または近くの潜在的な点滅灯検出(知覚システムによって、または知覚システムからの情報を使用して識別される)を含み得る。同時に、ビーム成形は、木の葉の擦れる音、風雑音、車両自体の振動、近くの建設などのような他の位置からの干渉音を無視するために使用され得る。一実施例として、マイクロホンの各アレイに対して、1つのビームは真っ直ぐに成形され、1つのビームは60°左にずれて成形され、1つのビームは60°右にずれて成形され得る。第1のモデルは、各々の成形されたビームから生成された音で使用され得る。ビーム成形は、信号対雑音比をかなり大幅に増加させることができ、これは、例えば、マイクロホンの検出範囲を増加させるはずである。さらに、モデルがサイレンを含む最も高い尤度を与えるビームが、近似方位の指標として使用され得る。
[0074] さらに、第2のモデルの出力は、発せられるサイレン雑音の確率のピークが存在する各方向に焦点を合わせるためにマイクロホンをビーム成形するのに使用され得る。そうすることにより、増加した信号対雑音比は、サイレン雑音の方位をより正確に推定することができる。このことは、ひいては、範囲および速度のより正確な推定につながり得る。
[0075] 上述したように、この追加の処理は、様々な状況において有益であり得る。緊急車両に対する車両の位置(およびその逆)は、どのタイプの対応が適切であるかを決定する際に重要な要因となり得る。そのため、緊急車両が車両の背後に存在する場合には、片側に寄るのが最適であり得る。緊急車両が接近している、または車両の前方にあって車両に向かってくる状態では、車両が片側に寄るべきか否かは、例えば、中央分離帯があるかどうかのような物理的な環境に応じて決まる。同様に、車両が交差点に接近するときにサイレン雑音の発生源が車両の側方(左側または右側)から来ている場合、最適な対応は、車両がそれ以外では自由に交差点を通過できる場合でも、例えば、信号が青である場合、または交差する交通が一時停止または譲れの標識の対象である場合であっても、交差点の前で大幅に減速する、さらには停止することであり得る。同時に、音が隣接する車道、または例えば平行な車道から鳴っている場合、車両の挙動を変更することによる対応は、実際には適切でない場合がある。
[0076] この場合も、コンピューティングデバイス110は、サイレン雑音の発生源の推定特性を有することにより、車両100の反応挙動をより適切に制御し得る。例えば、図4に戻ると、車両450が緊急車両として識別された場合、コンピューティングデバイス110は、上述の実施例で説明したように、路肩領域420に直ちに寄せる、車線411へ変更する、または右折するように、車両100を制御し得る。車両451が緊急車両として識別された場合、コンピューティングデバイス110は、同じまたはより遅い速度で現在の軌道上を継続して進むように、または路肩領域420に寄せるように、車両100を制御し得る。車両452が緊急車両として識別された場合、コンピューティングデバイス110は、車両100がそれ以外では交差点を通る優先権を有している場合でも、実線440でおよび/または交差点404の前で停止するように、車両100を制御し得る。例として、車両100は、車両452が一時停止の標識の対象であり、車両100が対象でない場合、または車両100が現在交差点404に対して青信号(進め)の対象であり、車両452が交差点404に対して赤線(止まれ)の対象である場合に優先権を有し得る。 車両453が緊急車両として識別された場合、コンピューティングデバイス110は、同じまたはより遅い速度で現在の軌道上を継続して進むように車両100を制御し得る。この実施例では、車両100は、車両453が車両100の軌道を既に越えてしまっているので、現在の軌道上を継続して進むべきである。車両454が緊急車両として識別された場合、コンピューティングデバイス110は、同じまたはより遅い速度で現在の軌道上を継続して進むように車両100を制御し得る。この場合、車両454による急停止(緊急事態が予想されるため)の尤度が比較的高い場合があるので、車両454が車両100から離れていく途中であっても、減速して注意しながら進むことは、車両100の軌道が車両454に追従する場合の適切な対応であり得る。当然、車両100の現在の状況に応じて、任意の数の追加の操縦が適切である場合がある。
[0077] 車両450~454のいずれもサイレン雑音の発生源である可能性がない場合、または他の車両のいずれも最小尤度値閾値を満たさない場合、コンピューティングデバイス110は、緊急車両のサイレン雑音の発生源が、単純に知覚システム172の範囲内にないか、または別の形で遮蔽されている、例えば、別の車両、構造物などの物体の背後に位置すると判断し得る。この場合も同様に、推定特性を有することにより、サイレン雑音の発生源として特定の検出車両を識別しなくても、その場合でもどのように最適にサイレン雑音に対応すべきかを決定するために有益な情報をコンピューティングデバイスに提供することができる。例えば、緊急車両と車両との間に他の車両が存在する場合のように、緊急車両が遮蔽されている場合でも、コンピューティングデバイスは、サイレンを認識して、必要に応じて対応して片側に寄せることができる。
[0078] 場合によっては、別の大きな音または干渉(例えば、列車、ジャックハンマー、または他の大きな音の車両)がある場合、サイレン雑音の方位を決定することは困難であり得る。干渉がサイレンと同じ方位でなく、同時にサイレンと同じ周波数の高エネルギーを有さない場合、サイレン雑音の検出に焦点を当てるために様々な技術が使用され得る。1つの技術は、上述のビーム成形の使用を含み得る。サイレン雑音および干渉が異なる方位である場合、サイレンに向けられたビームでは、サイレン雑音は、ビーム成形なしのデータと比較して、干渉源よりもはるかに大きくなる。追加的にまたは代替的に、方位情報は、周波数と時間の関数として計算され得る。この方位情報は、振幅情報とともに第2のモデルに取り込まれることにより、第2のモデルは同様の周波数成分を有するが、異なる方位を有する音を区別することができるようになる。繰り返すが、追加的にまたは代替的に、第1のモデルを用いて、大きな音の方位が識別され、分類され得る。大きな音がサイレンではない(むしろ、干渉である)場合、干渉の方位を除いて、音を通過させるビームが成形され、使用され得る。
[0079] 図8は、緊急車両を検出して緊急車両に対応するために、コンピューティングデバイス110の1つまたは複数のプロセッサ120のような1つまたは複数のプロセッサによって実行され得るフロー図800である。この実施例では、ブロック810において、車両100のような車両上の異なる位置に配置されたマイクロホン152のような複数のマイクロホンが、緊急車両に相当するサイレン雑音を検出するために使用される。ブロック820において、複数のマイクロホンからの出力は、緊急車両の方位および緊急車両の範囲を推定するために使用される。ブロック830において、緊急車両が走行している可能性がある1つまたは複数の道路区分を識別するために、推定された方位および推定された範囲が道路区分に分割された車道の位置を識別する地図情報と比較される。ブロック840において、緊急車両にどのように対応すべきかを決定するために、推定された方位および潜在的な1つまたは複数の道路区分が使用される。ブロック850において、車両は、緊急車両にどのように対応すべきかの決定に基づいて自律運転モードで制御される。
[0080] 上述したように、本明細書に記載されている動作は、異なる順序で実行されてもよい。例えば、時間と周波数の関数としてマイクロホン152で受信された音の推定方位および推定範囲は、モデル(または上述した他の方法)を使用して計算され得る。これらは、その後、サイレン雑音を実際に検出し、識別するモデルに取り込まれ得る。
[0081] 特に明記しない限り、上述の代替の実施例は互いに排他的でなく、固有の利点を達成するために様々な組み合わせで実施され得る。上述した特徴の上記および他の変形形態および組み合わせは、請求項によって定義された対象から逸脱せずに利用され得、実施形態の上記説明は、請求項によって定義された対象を限定するものではなく、単なる例であると解釈すべきである。さらに、本明細書に記載されている実施例および「~のような」、「~を含む」などのような表現の節の提示は、請求項に係る対象を特定の実施例に限定するものであると解釈すべきでなく、むしろ、実施例は、多くの可能な実施形態のうちの単なる1つの実施形態を例示するものである。また、異なる図面内の同一の参照番号は、同一または同様の要素を特定し得る。

Claims (20)

  1. 緊急車両を検出し、緊急車両に対応する方法であって、
    1つまたは複数のプロセッサによって、自律走行車両上の異なる位置に配置された複数のマイクロホンを、前記自律走行車両の知覚システムからの前記自律走行車両の環境内の物体群を識別する情報、及び地図情報に基づいて、ビーム成形することと、
    前記1つまたは複数のプロセッサによって、前記複数のマイクロホンを使用して緊急車両に相当するサイレン雑音を検出することと、
    前記1つまたは複数のプロセッサによって、前記複数のマイクロホンからの出力を使用して前記緊急車両の方位を推定することと、
    前記1つまたは複数のプロセッサによって、前記推定された方位を前記地図情報と比較して前記緊急車両が走行している車道の一部を識別することと、
    前記1つまたは複数のプロセッサによって、前記推定された方位および前記識別された一部に基づいて、前記緊急車両にどのように対応すべきかを決定することと、
    前記1つまたは複数のプロセッサによって、前記緊急車両にどのように対応すべきかの決定に基づいて前記自律走行車両を自律運転モードで制御すること
    を含む、方法。
  2. 前記複数のマイクロホンからの出力を使用して前記緊急車両の範囲を推定することをさらに含み、前記緊急車両にどのように対応すべきかを決定することはさらに、前記推定された範囲に基づく、請求項1に記載の方法。
  3. 経時的に前記複数のマイクロホンからの出力を使用して前記緊急車両の速度を推定することをさらに含み、前記緊急車両にどのように対応すべきかを決定することはさらに、前記推定され速度に基づく、請求項2に記載の方法。
  4. 経時的に前記複数のマイクロホンからの出力を使用して前記緊急車両の速度を推定することをさらに含み、前記緊急車両にどのように対応すべきかを決定することはさらに、前記推定された速度に基づく、請求項1に記載の方法。
  5. 前記自律走行車両を制御することは、第1の車線から第2の車線へ変更することを含む、請求項1に記載の方法。
  6. 前記自律走行車両を制御することは、前記自律走行車両を路肩領域に寄せることを含む、請求項1に記載の方法。
  7. 前記自律走行車両を制御することは、前記自律走行車両の現在の軌道上を継続して進むことを含む、請求項1に記載の方法。
  8. 前記自律走行車両を制御することは、前記自律走行車両の速度を減速することをさらに含む、請求項1に記載の方法。
  9. 緊急車両を検出し、緊急車両に対応する方法であって、
    1つまたは複数のプロセッサによって、自律走行車両上の異なる位置に配置された複数のマイクロホンを、前記自律走行車両の知覚システムからの前記自律走行車両の環境内の物体群を識別する情報、及び地図情報に基づいて、ビーム成形することと、
    前記1つまたは複数のプロセッサによって、前記複数のマイクロホンを使用して緊急車両に相当するサイレン雑音を検出することと、
    前記1つまたは複数のプロセッサによって、前記複数のマイクロホンからの出力を使用して前記緊急車両の方位を推定することと、
    知覚システムから、前情報および前記物体群の特性を受信することと、
    前記1つまたは複数のプロセッサによって、前記物体群の前記特性に基づいて前記物体群のうちの1つが前記緊急車両に相当するかどうかを決定することと、
    前記1つまたは複数のプロセッサによって、前記推定された方位および前記物体群のうちの1つが前記緊急車両に相当するかどうかの決定に基づいて前記緊急車両にどのように対応すべきかを決定することと、
    前記1つまたは複数のプロセッサによって、前記緊急車両にどのように対応すべきかの決定に基づいて前記自律走行車両を自律運転モードで制御すること
    を含む、方法。
  10. 前記特性は、推定された物体位置を含み、前記物体群のうちの1つが前記緊急車両に相当するかどうかを決定することはさらに、前記物体群の前記特性と前記推定された方位との比較に基づく、請求項9に記載の方法。
  11. 経時的に前記複数のマイクロホンからの出力を使用して前記緊急車両の範囲を推定することをさらに含み、前記特性は推定された物体位置を含み、前記物体群のうちの1つが前記緊急車両に相当するかどうかを決定することはさらに、前記物体群の前記特性と前記推定された範囲との比較に基づく、請求項9に記載の方法。
  12. 経時的に前記複数のマイクロホンからの出力を使用して前記緊急車両の速度を推定することをさらに含み、前記特性は推定された物体速度を含み、前記物体群のうちの1つが前記緊急車両に相当するかどうかを決定することはさらに、前記物体群の前記特性と前記推定された速度との比較に基づく、請求項9に記載の方法。
  13. 前記1つまたは複数のプロセッサによって、前記推定された方位を前記地図情報と比較して前記緊急車両が走行している車道の一部を識別することをさらに含み、前記緊急車両にどのように対応すべきかを決定することはさらに、前記推定された方位および前記車道の一部に基づく、請求項9に記載の方法。
  14. 前記物体群の各々の所与の物体の特性に基づいてその所与の物体が前記緊急車両である第1の尤度を識別することをさらに含み、前記物体群のうちの1つが前記緊急車両に相当するかどうかを決定することはさらに、第1の尤度に基づく、請求項9に記載の方法。
  15. 前記物体群の各々の所与の物体の特性に基づいてその所与の物体が前記緊急車両ではない第2の尤度を識別することをさらに含み、前記物体群のうちの1つが前記緊急車両に相当するかどうかを決定することはさらに、第2の尤度に基づく、請求項9に記載の方法。
  16. 前記自律走行車両を制御することは、前記自律走行車両がそれ以外では交差点を通過する優先権を有する場合に前記交差点で停止することを含む、請求項9に記載の方法。
  17. 緊急車両を検出し、緊急車両に対応するためのシステムであって、
    自律走行車両上の異なる位置に配置された複数のマイクロホンを、前記自律走行車両の知覚システムからの前記自律走行車両の環境内の物体群を識別する情報、及び地図情報に基づいて、ビーム成形し、
    前記複数のマイクロホンを使用して緊急車両に相当するサイレン雑音を検出し、
    経時的に前記複数のマイクロホンからの出力を使用して前記緊急車両の方位を推定し、
    前記推定された方位を前記地図情報と比較して前記緊急車両が走行している車道の一部を識別し、
    前記自律走行車両の知覚システムから、前情報および前記物体群の特性を受信し、
    前記物体群の前記特性に基づいて前記物体群のうちの1つが前記緊急車両に相当するかどうかを決定し、
    前記推定された方位および前記車道の一部および前記物体群のうちの1つが前記緊急車両に相当するかどうかの決定に基づいて前記緊急車両にどのように対応すべきかを決定し、
    前記緊急車両にどのように対応すべきかの決定に基づいて前記自律走行車両を自律運転モードで制御する
    ように構成された1つまたは複数のプロセッサを備える、システム。
  18. 前記1つまたは複数のプロセッサはさらに、前記複数のマイクロホンからの出力を使用して前記緊急車両の範囲を推定するように構成され、前記緊急車両にどのように対応すべきかの決定はさらに、前記推定された範囲に基づく、請求項17に記載のシステム。
  19. 前記1つまたは複数のプロセッサはさらに、前記複数のマイクロホンからの出力を使用して前記緊急車両の速度を推定するように構成され、前記緊急車両にどのように対応すべきかの決定はさらに、前記推定された速度に基づく、請求項18に記載のシステム。
  20. 前記自律走行車両をさらに備える、請求項17に記載のシステム。
JP2019565175A 2017-06-27 2018-06-26 サイレンの検出およびサイレンに対する対応 Active JP7162017B2 (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US201762525423P 2017-06-27 2017-06-27
US62/525,423 2017-06-27
US15/689,336 US10319228B2 (en) 2017-06-27 2017-08-29 Detecting and responding to sirens
US15/689,336 2017-08-29
PCT/US2018/039496 WO2019005791A1 (en) 2017-06-27 2018-06-26 SIREN DETECTION AND RESPONSE TO THESE

Publications (2)

Publication Number Publication Date
JP2020525885A JP2020525885A (ja) 2020-08-27
JP7162017B2 true JP7162017B2 (ja) 2022-10-27

Family

ID=64693472

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019565175A Active JP7162017B2 (ja) 2017-06-27 2018-06-26 サイレンの検出およびサイレンに対する対応

Country Status (6)

Country Link
US (6) US10319228B2 (ja)
EP (1) EP3616183A1 (ja)
JP (1) JP7162017B2 (ja)
KR (2) KR102496460B1 (ja)
CN (2) CN114312844B (ja)
WO (1) WO2019005791A1 (ja)

Families Citing this family (50)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10375172B2 (en) 2015-07-23 2019-08-06 Centurylink Intellectual Property Llc Customer based internet of things (IOT)—transparent privacy functionality
US10623162B2 (en) 2015-07-23 2020-04-14 Centurylink Intellectual Property Llc Customer based internet of things (IoT)
US10412064B2 (en) 2016-01-11 2019-09-10 Centurylink Intellectual Property Llc System and method for implementing secure communications for internet of things (IOT) devices
US10872379B1 (en) 2016-04-11 2020-12-22 State Farm Mutual Automobile Insurance Company Collision risk-based engagement and disengagement of autonomous control of a vehicle
US10233679B1 (en) * 2016-04-11 2019-03-19 State Farm Mutual Automobile Insurance Company Systems and methods for control systems to facilitate situational awareness of a vehicle
US10026309B1 (en) 2016-04-11 2018-07-17 State Farm Mutual Automobile Insurance Company Networked vehicle control systems to facilitate situational awareness of vehicles
US11851041B1 (en) 2016-04-11 2023-12-26 State Farm Mutual Automobile Insurance Company System for determining road slipperiness in bad weather conditions
US10222228B1 (en) 2016-04-11 2019-03-05 State Farm Mutual Automobile Insurance Company System for driver's education
US10247565B2 (en) 2016-04-11 2019-04-02 State Farm Mutual Automobile Insurance Company Traffic risk avoidance for a route selection system
US10832665B2 (en) 2016-05-27 2020-11-10 Centurylink Intellectual Property Llc Internet of things (IoT) human interface apparatus, system, and method
US10110272B2 (en) 2016-08-24 2018-10-23 Centurylink Intellectual Property Llc Wearable gesture control device and method
US10687377B2 (en) 2016-09-20 2020-06-16 Centurylink Intellectual Property Llc Universal wireless station for multiple simultaneous wireless services
US10426358B2 (en) 2016-12-20 2019-10-01 Centurylink Intellectual Property Llc Internet of things (IoT) personal tracking apparatus, system, and method
US10637683B2 (en) * 2016-12-23 2020-04-28 Centurylink Intellectual Property Llc Smart city apparatus, system, and method
US10735220B2 (en) 2016-12-23 2020-08-04 Centurylink Intellectual Property Llc Shared devices with private and public instances
US10150471B2 (en) 2016-12-23 2018-12-11 Centurylink Intellectual Property Llc Smart vehicle apparatus, system, and method
US10576984B2 (en) * 2017-07-06 2020-03-03 Toyota Research Institute, Inc. Second stop position for intersection turn
US10565873B1 (en) * 2017-08-18 2020-02-18 State Farm Mutual Automobile Insurance Company Emergency vehicle detection and avoidance systems for autonomous vehicles
US10807591B1 (en) * 2017-11-02 2020-10-20 Zoox, Inc. Vehicle disaster detection and response
US10627794B2 (en) 2017-12-19 2020-04-21 Centurylink Intellectual Property Llc Controlling IOT devices via public safety answering point
US11567510B2 (en) 2019-01-24 2023-01-31 Motional Ad Llc Using classified sounds and localized sound sources to operate an autonomous vehicle
US10796571B2 (en) * 2019-01-31 2020-10-06 StradVision, Inc. Method and device for detecting emergency vehicles in real time and planning driving routes to cope with situations to be expected to be occurred by the emergency vehicles
US11119492B2 (en) * 2019-02-12 2021-09-14 Sf Motors, Inc. Automatically responding to emergency service vehicles by an autonomous vehicle
US11209831B2 (en) * 2019-05-03 2021-12-28 Ford Global Technologies, Llc Object sound detection
FR3097674A1 (fr) * 2019-06-18 2020-12-25 Psa Automobiles Sa Véhicule équipé d’un système de détection de véhicule d’urgence.
US12005906B2 (en) * 2019-10-15 2024-06-11 Waymo Llc Using driver assistance to detect and address aberrant driver behavior
US11295757B2 (en) * 2020-01-24 2022-04-05 Motional Ad Llc Detection and classification of siren signals and localization of siren signal sources
EP4115404A1 (en) * 2020-03-06 2023-01-11 Cerence Operating Company System and method for integrated emergency vehicle detection and localization
US11711648B2 (en) * 2020-03-10 2023-07-25 Intel Corporation Audio-based detection and tracking of emergency vehicles
US11625042B2 (en) * 2020-03-31 2023-04-11 Zoox, Inc. Detecting occluded objects using sound
US11914390B2 (en) * 2020-03-31 2024-02-27 Zoox, Inc. Distinguishing between direct sounds and reflected sounds in an environment
EP3896671A1 (en) * 2020-04-15 2021-10-20 Zenuity AB Detection of a rearward approaching emergency vehicle
KR20210151594A (ko) * 2020-06-05 2021-12-14 주식회사 만도모빌리티솔루션즈 차량 제어 장치 및 방법
US11958505B2 (en) 2020-07-21 2024-04-16 Waymo Llc Identifying the position of a horn honk or other acoustical information using multiple autonomous vehicles
US20220122620A1 (en) * 2020-10-19 2022-04-21 Argo AI, LLC Emergency siren detection for autonomous vehicles
US11516613B1 (en) * 2020-10-22 2022-11-29 Zoox, Inc. Emergency sound localization
CN112258842A (zh) * 2020-10-26 2021-01-22 北京百度网讯科技有限公司 交通监测方法、装置、设备及存储介质
US11961536B2 (en) * 2020-12-09 2024-04-16 Nuro, Inc. Methods and apparatus for determining directionality associated with sounds detected by a vehicle
CN112946576B (zh) * 2020-12-10 2023-04-14 北京有竹居网络技术有限公司 声源定位方法、装置和电子设备
US11282382B1 (en) * 2020-12-22 2022-03-22 Waymo Llc Phase lock loop siren detection
US20220222296A1 (en) * 2021-01-12 2022-07-14 Baidu Usa Llc Automatic audio data labelling utilizing autonomous driving vehicle
US11735205B2 (en) * 2021-01-12 2023-08-22 Baidu Usa Llc Audio logging for model training and onboard validation utilizing autonomous driving vehicle
US11430466B2 (en) * 2021-01-13 2022-08-30 Baidu Usa Llc Sound source detection and localization for autonomous driving vehicle
US11620903B2 (en) 2021-01-14 2023-04-04 Baidu Usa Llc Machine learning model to fuse emergency vehicle audio and visual detection
US20220219736A1 (en) * 2021-01-14 2022-07-14 Baidu Usa Llc Emergency vehicle audio and visual detection post fusion
US11768283B2 (en) 2021-05-03 2023-09-26 Waymo Llc Sound source distance estimation
US11364910B1 (en) 2021-08-26 2022-06-21 Motional Ad Llc Emergency vehicle detection system and method
US11952014B2 (en) 2021-10-29 2024-04-09 Waymo Llc Behavior predictions for active emergency vehicles
US11889278B1 (en) 2021-12-22 2024-01-30 Waymo Llc Vehicle sensor modules with external audio receivers
US11984026B2 (en) 2022-05-19 2024-05-14 Alert The Mechanism LLC System and method for emergency vehicle detection and alerting

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001155259A (ja) 1999-11-30 2001-06-08 Matsushita Electric Ind Co Ltd ドライブスルーシステム
US20100033313A1 (en) 2008-06-19 2010-02-11 Personics Holdings Inc. Ambient situation awareness system and method for vehicles
JP2010067164A (ja) 2008-09-12 2010-03-25 Denso Corp 緊急車両認知支援装置
US20120306664A1 (en) 2011-05-31 2012-12-06 Eric Geter Safety zone detection, enforcement and alarm system and related methods
US20140140552A1 (en) 2012-11-19 2014-05-22 Bitwave Pte Ltd System and apparatus for boomless-microphone construction for wireless helmet communicator with siren signal detection and classification capability

Family Cites Families (95)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US3691559A (en) * 1969-03-28 1972-09-12 Navsat Corp Aircraft collision warning system
US4212085A (en) * 1976-12-08 1980-07-08 Mary C. Vaillancour Frequency activated direction indicator
US4952931A (en) * 1987-01-27 1990-08-28 Serageldin Ahmedelhadi Y Signal adaptive processor
JP2763684B2 (ja) * 1991-02-28 1998-06-11 株式会社ケンウッド 緊急車両検知装置
US6822580B2 (en) * 1999-05-07 2004-11-23 Jimmie L. Ewing Emergency vehicle warning system
JP2001166025A (ja) * 1999-12-14 2001-06-22 Matsushita Electric Ind Co Ltd 音源の方向推定方法および収音方法およびその装置
FR2821163B1 (fr) * 2001-02-16 2003-05-09 Thomson Marconi Sonar Sas Procede de detection d'objets mobiles au moyen de bouees sous-marines passives
US6362749B1 (en) 2001-06-18 2002-03-26 William E. Brill Emergency vehicle detection system
ITTO20020306A1 (it) * 2002-04-09 2003-10-09 Loquendo Spa Metodo per l'estrazione di caratteristiche di un segnale vocale e relativo sistema di riconoscimento vocale.
US20040233067A1 (en) * 2003-05-20 2004-11-25 Yong Min Cho Acoustic siren detector system
JP3913771B2 (ja) * 2004-07-23 2007-05-09 松下電器産業株式会社 音声識別装置、音声識別方法、及びプログラム
US7245232B1 (en) * 2005-08-09 2007-07-17 Caouette Sr James Emergency vehicle alert system
JP4725236B2 (ja) * 2005-08-16 2011-07-13 ヤマハ株式会社 車外警告音報知装置
KR100757867B1 (ko) * 2005-08-30 2007-09-11 삼성전자주식회사 멀티태스킹 환경에서의 사용자 인터페이스 방법 및 장치
US8094040B1 (en) * 2005-11-02 2012-01-10 Cornett Robertt H Methods and apparatus for electronically detecting siren sounds for controlling traffic control lights for signalling the right of way to emergency vehicles at intersections or to warn motor vehicle operators of an approaching emergency vehicle
JP3949701B1 (ja) * 2006-03-27 2007-07-25 株式会社コナミデジタルエンタテインメント 音声処理装置、音声処理方法、ならびに、プログラム
FR2901774A1 (fr) * 2006-06-06 2007-12-07 Lionel Wolberg Bouteille comportant un col equipe d'un bouchon
CN101140704A (zh) * 2006-09-08 2008-03-12 松下电器产业株式会社 方向检测装置
US20080150755A1 (en) 2006-11-15 2008-06-26 Alice Jane Van Zandt Emergency Vehicle Indicator
KR100868763B1 (ko) * 2006-12-04 2008-11-13 삼성전자주식회사 오디오 신호의 중요 주파수 성분 추출 방법 및 장치와 이를이용한 오디오 신호의 부호화/복호화 방법 및 장치
EP1990650A1 (en) * 2007-05-07 2008-11-12 Harman Becker Automotive Systems GmbH Method and system for determining position information of vehicles
DE102007034029A1 (de) * 2007-07-20 2009-01-22 Robert Bosch Gmbh Verfahren zur Information eines Beobachters über ein im Einsatz befindliches Einsatzfahrzeug und Anordnung dazu
US7791499B2 (en) * 2008-01-15 2010-09-07 Qnx Software Systems Co. Dynamic siren detection and notification system
TW201005685A (en) * 2008-07-25 2010-02-01 Imriss Technology Corp Physiological status monitoring and positioning system
US9250315B2 (en) * 2009-03-04 2016-02-02 Toyota Motor Engineering & Manufacturing North America, Inc. Collision avoidance system and method
US7675431B1 (en) * 2009-03-13 2010-03-09 Caouette Sr James Emergency vehicle alert system
US8482486B2 (en) * 2009-04-02 2013-07-09 GM Global Technology Operations LLC Rear view mirror on full-windshield head-up display
JP4703788B2 (ja) * 2009-07-02 2011-06-15 パナソニック株式会社 車両位置検出装置及び車両位置検出方法
DE102010022165B4 (de) 2010-05-20 2023-12-07 Mercedes-Benz Group AG Verfahren und Vorrichtung zur Erfassung zumindest eines von einem Einsatzfahrzeug ausgehenden akustischen Sondersignals für ein Fahrzeug
US20120136559A1 (en) * 2010-11-29 2012-05-31 Reagan Inventions, Llc Device and system for identifying emergency vehicles and broadcasting the information
US9763003B2 (en) * 2011-01-12 2017-09-12 Staten Techiya, LLC Automotive constant signal-to-noise ratio system for enhanced situation awareness
JP5298155B2 (ja) * 2011-04-15 2013-09-25 トヨタ自動車株式会社 接近車両検出装置及び接近車両検出方法
US20130049985A1 (en) * 2011-08-24 2013-02-28 Henry Eisenson Device and system to alert vehicles and pedestrians of approaching emergency vehicles and emergency situations
JP5443454B2 (ja) * 2011-09-20 2014-03-19 トヨタ自動車株式会社 音源検出装置
FI123232B (en) * 2011-12-20 2012-12-31 Eigenor Oy Method and implementation for calculating rate distributions for multi-PRI and SMPRH radars
US9397630B2 (en) * 2012-04-09 2016-07-19 Dts, Inc. Directional based audio response to an external environment emergency signal
US10869648B2 (en) * 2012-05-11 2020-12-22 Philips Image Guided Therapy Corporation Device, system and method for flow imaging in the body using a swept transducer
US20140024112A1 (en) * 2012-07-23 2014-01-23 Northwestern University In-vivo bioreactor system and method for tissue engineering
US20140056438A1 (en) * 2012-08-21 2014-02-27 Harman International Industries, Incorporated System for vehicle sound synthesis
US9341719B2 (en) * 2012-09-07 2016-05-17 Qualcomm Technologies International, Ltd. Psuedo maximum likelihood tracking for global navigation satellite systems
US9264799B2 (en) * 2012-10-04 2016-02-16 Siemens Aktiengesellschaft Method and apparatus for acoustic area monitoring by exploiting ultra large scale arrays of microphones
US8838321B1 (en) 2012-11-15 2014-09-16 Google Inc. Modifying a vehicle state based on the presence of a special-purpose vehicle
US9650646B2 (en) * 2013-01-11 2017-05-16 University Of Florida Research Foundation, Inc. Materials and methods to increase plant growth and yield
JP2014206804A (ja) 2013-04-11 2014-10-30 本田技研工業株式会社 緊急車両位置特定装置
US9305223B1 (en) * 2013-06-26 2016-04-05 Google Inc. Vision-based indicator signal detection using spatiotemporal filtering
JP2015022453A (ja) 2013-07-18 2015-02-02 カルソニックカンセイ株式会社 緊急車両報知システム
EP2845779B1 (en) * 2013-09-09 2018-08-01 Honda Research Institute Europe GmbH Driving assistance technique for active vehicle control
US9249742B2 (en) * 2013-10-15 2016-02-02 Ford Global Technologies, Llc Vehicle auto-stop control in the vicinity of an emergency vehicle
US9495602B2 (en) * 2013-10-23 2016-11-15 Toyota Motor Engineering & Manufacturing North America, Inc. Image and map-based detection of vehicles at intersections
KR102033309B1 (ko) * 2013-10-25 2019-10-17 현대모비스 주식회사 운전석 위치를 고려하는 빔 포밍 마이크 제어 장치 및 방법
US9275136B1 (en) * 2013-12-03 2016-03-01 Google Inc. Method for siren detection based on audio samples
US10406981B2 (en) * 2014-03-20 2019-09-10 Magna Electronics Inc. Vehicle vision system with curvature estimation
DE102014213359A1 (de) * 2014-07-09 2016-01-14 Robert Bosch Gmbh Vorrichtung und Verfahren zur akustischen Untersuchung von Umgebungsobjekten eines Fortbewegungsmittels
US9800983B2 (en) * 2014-07-24 2017-10-24 Magna Electronics Inc. Vehicle in cabin sound processing system
DE102014217681B4 (de) * 2014-09-04 2020-12-10 Imra Europe S.A.S. Sirenensignalquellenerfassung, -Erkennung und -Lokalisation
US9751463B1 (en) * 2014-09-15 2017-09-05 Satesh S. Ramcharitar Enabling improved emergency response via a vehicle flow buffer
US9278689B1 (en) 2014-11-13 2016-03-08 Toyota Motor Engineering & Manufacturing North America, Inc. Autonomous vehicle detection of and response to emergency vehicles
US10575117B2 (en) * 2014-12-08 2020-02-25 Harman International Industries, Incorporated Directional sound modification
US10127813B2 (en) * 2015-01-20 2018-11-13 Invent F&W, Llc Systems and methods for alerting drivers of approaching emergency vehicles
WO2016181493A1 (ja) * 2015-05-12 2016-11-17 三菱電機株式会社 レーザレーダ装置及び風速観測方法
US9844981B2 (en) * 2015-06-02 2017-12-19 Karma Automotive Llc Systems and methods for use in a vehicle for detecting external events
TWI569275B (zh) * 2015-07-17 2017-02-01 慧榮科技股份有限公司 資料儲存裝置及其資料維護方法
US10327069B2 (en) * 2015-07-26 2019-06-18 Vocalzoom Systems Ltd. Laser microphone utilizing speckles noise reduction
US20170028850A1 (en) * 2015-07-31 2017-02-02 Ford Global Technologies, Llc Vehicle display systems
WO2017023313A1 (en) * 2015-08-05 2017-02-09 Ford Global Technologies, Llc System and method for sound direction detection in a vehicle
US9607603B1 (en) * 2015-09-30 2017-03-28 Cirrus Logic, Inc. Adaptive block matrix using pre-whitening for adaptive beam forming
US10109190B1 (en) * 2015-10-09 2018-10-23 Danyell Baptiste Emergency vehicle warning system
CN105894841A (zh) * 2015-10-20 2016-08-24 乐卡汽车智能科技(北京)有限公司 紧急车辆提醒方法和装置
JP2017114155A (ja) * 2015-12-21 2017-06-29 三菱自動車工業株式会社 運転支援装置
CA3011922C (en) * 2016-01-20 2024-06-18 Zerokey Inc. Range-finding and object-positioning systems and methods using same
US20170213459A1 (en) * 2016-01-22 2017-07-27 Flex Ltd. System and method of identifying a vehicle and determining the location and the velocity of the vehicle by sound
US9704397B1 (en) * 2016-04-05 2017-07-11 Global Ip Holdings, Llc Apparatus for use in a warning system to notify a land vehicle or a motorist of the vehicle of an approaching or nearby emergency vehicle or train
CN107134160A (zh) * 2016-02-29 2017-09-05 法拉第未来公司 紧急信号检测和响应
WO2017151937A1 (en) * 2016-03-04 2017-09-08 Emergency Vehicle Alert Systems Llc Emergency vehicle alert and response system
KR101807616B1 (ko) * 2016-04-21 2017-12-11 현대자동차주식회사 음향 추적 정보 제공 방법, 차량용 음향 추적 장치, 및 이를 포함하는 차량
CN105938657B (zh) * 2016-06-27 2018-06-26 常州加美科技有限公司 一种无人驾驶车辆的听觉感知与智能决策系统
US10176715B2 (en) * 2016-07-27 2019-01-08 Telenav, Inc. Navigation system with dynamic mapping mechanism and method of operation thereof
JP6670202B2 (ja) * 2016-08-10 2020-03-18 任天堂株式会社 音声処理プログラム、情報処理プログラム、音声処理方法、音声処理装置、及びゲームプログラム
US10127812B2 (en) * 2016-08-29 2018-11-13 Allstate Insurance Company Electrical data processing system for monitoring or affecting movement of a vehicle using a traffic device
CN106564496B (zh) 2016-10-19 2018-11-09 江苏大学 基于前向车辆驾驶行为的智能车辆安全环境包络重构方法
EP3534350A4 (en) * 2016-10-25 2020-10-21 Pioneer Corporation PROCESSING DEVICE, SERVER DEVICE, OUTPUT PROCESS AND PROGRAM
EP3319343A1 (en) * 2016-11-08 2018-05-09 Harman Becker Automotive Systems GmbH Vehicle sound processing system
US11244564B2 (en) * 2017-01-26 2022-02-08 Magna Electronics Inc. Vehicle acoustic-based emergency vehicle detection
US10127818B2 (en) * 2017-02-11 2018-11-13 Clear Commute Ventures Pty Ltd Systems and methods for detecting and avoiding an emergency vehicle in the proximity of a substantially autonomous vehicle
CA2996927C (en) * 2017-03-01 2024-05-28 Soltare Inc. Systems and methods for detection of a target sound
WO2018201252A1 (en) * 2017-05-03 2018-11-08 Soltare Inc. Audio processing for vehicle sensory systems
US10431082B2 (en) * 2017-06-19 2019-10-01 GM Global Technology Operations LLC Systems and methods for emergency vehicle response in an autonomous vehicle
US10210756B2 (en) * 2017-07-24 2019-02-19 Harman International Industries, Incorporated Emergency vehicle alert system
US10284317B1 (en) * 2017-07-25 2019-05-07 BlueOwl, LLC Systems and methods for assessing sound within a vehicle using machine learning techniques
US10747231B2 (en) * 2017-11-17 2020-08-18 Intel Corporation Identification of audio signals in surrounding sounds and guidance of an autonomous vehicle in response to the same
US20190294169A1 (en) * 2018-03-21 2019-09-26 GM Global Technology Operations LLC Method and apparatus for detecting a proximate emergency vehicle
US11351988B2 (en) * 2018-07-26 2022-06-07 Byton North America Corporation Use of sound with assisted or autonomous driving
US20200118418A1 (en) * 2018-10-11 2020-04-16 Toyota Motor North America, Inc. Sound monitoring and reporting system
CN112334370B (zh) * 2018-10-26 2024-04-30 深圳市大疆创新科技有限公司 车道偏离警报的自动化载运工具动作及关联的系统和方法
US20200211394A1 (en) * 2018-12-26 2020-07-02 Zoox, Inc. Collision avoidance system

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001155259A (ja) 1999-11-30 2001-06-08 Matsushita Electric Ind Co Ltd ドライブスルーシステム
US20100033313A1 (en) 2008-06-19 2010-02-11 Personics Holdings Inc. Ambient situation awareness system and method for vehicles
JP2010067164A (ja) 2008-09-12 2010-03-25 Denso Corp 緊急車両認知支援装置
US20120306664A1 (en) 2011-05-31 2012-12-06 Eric Geter Safety zone detection, enforcement and alarm system and related methods
US20140140552A1 (en) 2012-11-19 2014-05-22 Bitwave Pte Ltd System and apparatus for boomless-microphone construction for wireless helmet communicator with siren signal detection and classification capability

Also Published As

Publication number Publication date
EP3616183A1 (en) 2020-03-04
US11636761B2 (en) 2023-04-25
US20230282106A1 (en) 2023-09-07
KR102382587B1 (ko) 2022-04-05
WO2019005791A1 (en) 2019-01-03
US20220005348A1 (en) 2022-01-06
KR102496460B1 (ko) 2023-02-07
JP2020525885A (ja) 2020-08-27
KR20200010376A (ko) 2020-01-30
US11164454B2 (en) 2021-11-02
CN110800031B (zh) 2022-01-21
CN114312844A (zh) 2022-04-12
CN114312844B (zh) 2024-04-09
US20240087451A1 (en) 2024-03-14
US10650677B2 (en) 2020-05-12
KR20220046000A (ko) 2022-04-13
US10319228B2 (en) 2019-06-11
CN110800031A (zh) 2020-02-14
US20190355251A1 (en) 2019-11-21
US20180374347A1 (en) 2018-12-27
US11854390B2 (en) 2023-12-26
US20200234579A1 (en) 2020-07-23

Similar Documents

Publication Publication Date Title
JP7162017B2 (ja) サイレンの検出およびサイレンに対する対応
US20210232152A1 (en) Detecting and responding to sounds for autonomous vehicles
US12090997B1 (en) Predicting trajectories of objects based on contextual information
US11989666B1 (en) Predicting trajectory intersection by another road user
JP6934544B2 (ja) 車輪姿勢を使用した将来の進行方向の決定
US9898005B2 (en) Driving path determination for autonomous vehicles
US20220169214A1 (en) Emergency braking for autonomous vehicles
US20240286607A1 (en) Early object detection for unprotected turns
JP2022542246A (ja) 緊急車両の検出
JP2015121959A (ja) 障害物検知装置
US20220121216A1 (en) Railroad Light Detection
US11335194B1 (en) Inverse parking distance control system
US20240286609A1 (en) Animal collision aware planning systems and methods for autonomous vehicles

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20191227

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210105

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210312

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210729

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211026

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220324

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220621

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20221004

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221017

R150 Certificate of patent or registration of utility model

Ref document number: 7162017

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150