JP7278484B2 - 車両交通のアテンションベースの制御 - Google Patents

車両交通のアテンションベースの制御 Download PDF

Info

Publication number
JP7278484B2
JP7278484B2 JP2022522501A JP2022522501A JP7278484B2 JP 7278484 B2 JP7278484 B2 JP 7278484B2 JP 2022522501 A JP2022522501 A JP 2022522501A JP 2022522501 A JP2022522501 A JP 2022522501A JP 7278484 B2 JP7278484 B2 JP 7278484B2
Authority
JP
Japan
Prior art keywords
traffic
control
attention
area
controlled
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2022522501A
Other languages
English (en)
Other versions
JP2022537466A (ja
Inventor
カラビック,ウロス
マスケ,ハーシャル
チュー,ティエンシ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Publication of JP2022537466A publication Critical patent/JP2022537466A/ja
Application granted granted Critical
Publication of JP7278484B2 publication Critical patent/JP7278484B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/01Detecting movement of traffic to be counted or controlled
    • G08G1/0104Measuring and analyzing of parameters relative to traffic conditions
    • G08G1/0137Measuring and analyzing of parameters relative to traffic conditions for specific applications
    • G08G1/0145Measuring and analyzing of parameters relative to traffic conditions for specific applications for active traffic flow control
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/34Route searching; Route guidance
    • G01C21/36Input/output arrangements for on-board computers
    • G01C21/3691Retrieval, searching and output of information related to real-time traffic, weather, or environmental conditions
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/004Artificial life, i.e. computing arrangements simulating life
    • G06N3/006Artificial life, i.e. computing arrangements simulating life based on simulated virtual individual or collective life forms, e.g. social simulations or particle swarm optimisation [PSO]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • G06N3/088Non-supervised learning, e.g. competitive learning
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/01Detecting movement of traffic to be counted or controlled
    • G08G1/0104Measuring and analyzing of parameters relative to traffic conditions
    • G08G1/0108Measuring and analyzing of parameters relative to traffic conditions based on the source of data
    • G08G1/0112Measuring and analyzing of parameters relative to traffic conditions based on the source of data from the vehicle, e.g. floating car data [FCD]
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/01Detecting movement of traffic to be counted or controlled
    • G08G1/0104Measuring and analyzing of parameters relative to traffic conditions
    • G08G1/0108Measuring and analyzing of parameters relative to traffic conditions based on the source of data
    • G08G1/0116Measuring and analyzing of parameters relative to traffic conditions based on the source of data from roadside infrastructure, e.g. beacons
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/01Detecting movement of traffic to be counted or controlled
    • G08G1/0104Measuring and analyzing of parameters relative to traffic conditions
    • G08G1/0108Measuring and analyzing of parameters relative to traffic conditions based on the source of data
    • G08G1/012Measuring and analyzing of parameters relative to traffic conditions based on the source of data from other sources than vehicle or roadside beacons, e.g. mobile networks
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/01Detecting movement of traffic to be counted or controlled
    • G08G1/0104Measuring and analyzing of parameters relative to traffic conditions
    • G08G1/0125Traffic data processing
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/01Detecting movement of traffic to be counted or controlled
    • G08G1/0104Measuring and analyzing of parameters relative to traffic conditions
    • G08G1/0125Traffic data processing
    • G08G1/0133Traffic data processing for classifying traffic situation
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/07Controlling traffic signals
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/07Controlling traffic signals
    • G08G1/08Controlling traffic signals according to detected number or speed of vehicles
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/07Controlling traffic signals
    • G08G1/081Plural intersections under common control
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/09Arrangements for giving variable traffic instructions
    • G08G1/095Traffic lights
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/09Arrangements for giving variable traffic instructions
    • G08G1/0962Arrangements for giving variable traffic instructions having an indicator mounted inside the vehicle, e.g. giving voice messages
    • G08G1/0968Systems involving transmission of navigation instructions to the vehicle
    • G08G1/096805Systems involving transmission of navigation instructions to the vehicle where the transmitted instructions are used to compute a route
    • G08G1/096811Systems involving transmission of navigation instructions to the vehicle where the transmitted instructions are used to compute a route where the route is computed offboard
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W4/00Services specially adapted for wireless communication networks; Facilities therefor
    • H04W4/30Services specially adapted for particular environments, situations or purposes
    • H04W4/40Services specially adapted for particular environments, situations or purposes for vehicles, e.g. vehicle-to-pedestrians [V2P]
    • H04W4/44Services specially adapted for particular environments, situations or purposes for vehicles, e.g. vehicle-to-pedestrians [V2P] for communication between vehicles and infrastructures, e.g. vehicle-to-cloud [V2C] or vehicle-to-home [V2H]
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/0088Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots characterized by the autonomous decision making process, e.g. artificial intelligence, predefined behaviours

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Chemical & Material Sciences (AREA)
  • Analytical Chemistry (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Computing Systems (AREA)
  • Software Systems (AREA)
  • Mathematical Physics (AREA)
  • General Engineering & Computer Science (AREA)
  • Molecular Biology (AREA)
  • Evolutionary Computation (AREA)
  • Health & Medical Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Remote Sensing (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Automation & Control Theory (AREA)
  • Biodiversity & Conservation Biology (AREA)
  • Ecology (AREA)
  • Environmental Sciences (AREA)
  • Environmental & Geological Engineering (AREA)
  • Atmospheric Sciences (AREA)
  • Traffic Control Systems (AREA)

Description

技術分野
本発明は、一般に交通制御に関し、より特定的には車両交通を制御するための分散化されたデータ駆動型の方法および装置に関する。
背景技術
国の道路上の交通を管理することは複雑な問題である。いくつかの都市圏においては、道路は、既に収容能力に達しており、収容能力を超えていることさえあって、問題をさらに複雑にしている。従来は、交通信号機タイミングを変更したり新たな道路を建設したりすることによって渋滞を改善してきた。ワイヤレス技術およびコネクテッドコンポーネントの登場により、車両および道路インフラストラクチャと通信して、交通を改善するリアルタイムの決定を行うことが可能になった。
たとえば、車両のインターネット(IoV)は、モバイルインターネットとモノのインターネット(IoT)とを融合したものである。IoVは、車両を効果的に誘導して監督するための情報収集、情報共有および情報処理を可能にする。IoVは、移動性、安全性、V2X通信、エネルギ節約、セキュリティ攻撃などの理由で、IoTとは独自に異なっている。IoVでは、交通および車両移動性を管理するために、情報および通信技術がインフラストラクチャ、車両およびユーザに適用される。IoVは、交通管理のための革新的なサービスおよび制御を提供して、ユーザがよりよく情報を与えられて、輸送網をより安全で、より協調的に、より賢く使用できるようにすることを目指している。
コネクテッド車両および自律車両がますます台頭している。これらのタイプの車両の移動性制御は、運転手の行動に基づくだけでなく、通信、センサおよび最適な制御理論を使用した高度な制御技術にも基づく。交通信号機および一時停止標識などの従来の制御機構とは異なって、高度な制御機構は、リアルタイムの最適な制御決定を行うことによって制御効率を最適化することができる。
そのために、車両および/または交通信号機をまとめて制御して交通を改善する必要がある。モデルベースの交通制御は複雑である。なぜなら、交通システムは、人間を含んでおり人間はオートマトンではないので、モデル化が困難であるからである。したがって、方法の中には、強化学習などのデータ駆動型技術を使用するものもある。しかし、データ駆動型技術は、スケーラビリティ問題があり、さまざまな車両の正確な位置推定を当てにし得る。たとえば、ファーウェイ等による「IntelliLight:インテリジェントな交通信号機制御のための強化学習アプローチ」を参照されたい。しかし、現在の技術が進歩しても、多用途かつ動的な車両環境における正確な位置推定は、常に実現できるとは限らない。
したがって、さまざまな道路上を走行する車両を制御するための方法を提供することが依然として必要である。
発明の概要
いくつかの実施形態の目的は、さまざまな道路上を走行する車両の交通制御のためのシステムおよび方法を提供することである。加えてまたは代替的に、いくつかの実施形態の別の目的は、さまざまな道路上の交通渋滞を軽減することを目指して、リアルタイムの最適な制御決定を行うことによって、制御効率を最適化することである。
いくつかの実施形態は、交通制御問題の複雑さが、一部には、オープンエンドな交通システムの状態の多用性にある、という認識に基づく。具体的には、車両環境は、非常に動的な環境である。車両ダイナミクスに加えて、予測不可能な環境ダイナミクス(たとえば、歩行者および動物などの物体の移動、木およびインフラストラクチャによって引き起こされる突発的な出来事など)がある。したがって、車両交通に適用される制御方法は、システム全体の環境ダイナミクスに速やかに適合可能である必要がある。
いくつかの実施形態は、車両環境の現状を制御下の領域内の車両の状態、すなわち位置および速度によって表すことができる、という認識に基づく。しかし、車両の位置および速度は、環境全体を表すわけではないので、制御車両の位置を追跡することに基づくデータ駆動型制御方法は、効果的でない可能性がある。
そのために、いくつかの実施形態は、状態ベースの交通制御を交通流に基づく制御と置き換える。一般に、交通流は、各要素を適切にラベル付けして要素を流れの中の粒子として表すことによって、走行者(歩行者、自転車乗用者、運転手、およびそれらの車両を含む)とインフラストラクチャ(幹線道路、標識および交通制御デバイスを含む)との間の相互作用を定義することができる。交通流は、車両の状態だけよりも道路上の交通の状態をよく把握することができる。さらに、交通流は、交通の一般的状態を集約したものである。交通流は、車両状態の推定よりも詳細であり、車両に限定されないさまざまなタイプの移動性を説明することができる。交通流は、車両状態の推定の精度にそれほど左右されず、交通センサデータの不確実性および/または確率論的性質を説明することができる。
たとえば、交通流は、単位空間当たりの車両の数を示す交通密度値を提供する。密度値は、車両の位置もしくは状態だけに加えて、またはその代わりに、交通の状態を有効に集約したものであり得る。このようにして、いくつかの実施形態は、車両を追跡することを、制御領域の各位置における交通流の密度を追跡することと置き換える。
しかし、いくつかの実施形態は、交通流単独ではデータ駆動型制御方法を扱うのには不向きである、という認識に基づく。交通流データは、さまざまな時点においてさまざまな次元を有し得て、このことは、データ駆動型制御方法の訓練プロセスを複雑にし得る。また、交通流は、個々の車両の概念をなくすが、制御は、個々の車両に適用される。たとえば、強化学習(RL)は、交通の制御に適したデータ駆動型技術であるが、RLは、一般に、設計によって予め指定されたエージェントを制御するのに使用される。このようにRLを交通に適用することは現実的でない。なぜなら、システム全体を通して個々の車両を追跡してメモリに保持しなければならないからである。これは、可能ではあるが、都市などへの大規模な適用においては決して効率的でなく、または決して望ましくない。
実際、ある領域内の交通のデータ駆動型制御は、領域ごとの分散制御を可能にする。しかし、領域ベースの交通制御は、オープンエンドな制御システムをもたらす。自律および/または半自律車両などの制御対象マシンは、制御領域に出入りし得るため、制御システムに出入りし得て、それをオープンエンドにする。一般に、データ駆動型方法は、それらの制御対象を知る(追跡する)必要がある。したがって、データ駆動型方法は、オープンエンドなシステムの制御には不向きである。
いくつかの実施形態は、アテンションベースの制御を使用してオープンエンドなシステムを制御する課題に対処する。いくつかの実施形態のアテンションベースのコントローラは、領域内の制御対象マシンのうちの1つまたはグループにアテンションを向けて、アテンション下の制御対象マシンのための制御コマンドを生成するように訓練され、選択は、コントローラのアテンションを制御対象マシンの追跡から制御の入力パラメータに変更することを可能にする。どの制御対象マシンがアテンション下にあるかにかかわらず、制御の各特定のステップにおいて、アテンションが向けられる交通システムは、クローズエンドなシステムである。
いくつかの実現例は、コントローラが制御領域内の全てのマシンを絶えず制御することを必要としない。これらのマシンは、従うべきであるが定期的に更新されなくてもよい制御コマンドを受信するようにプログラムされる。特定の状況下では、制御対象マシンは、コマンドを無効にすることさえある。たとえば、コントローラは、同時期に1つの車両にルーティングコマンドを送信して別の車両に所望の速度を送信することを選択し得る。次いで、コントローラは、第1の車両に所望の速度を送信することを選択し得る。第2の車両は、その視覚システムでは明白であるがコントローラでは知覚できない小動物のような道路上の危険の存在により、その所望の速度が安全でないということに気付き得る。
また、交通データは、データ駆動型の訓練および制御に不向きのさまざまな次元を有する。これらの問題に対処するために、いくつかの実施形態は、交通流を固定次元の画像に画素化する。たとえば、いくつかの実施形態は、交通流を制御下の領域の交通流の画像に変換し、単位空間は、交通流の画像の画素を形成し、単位空間について生成される密度の値は、画素の値を形成する。特に、このような交通流の密度値の画像は、位置の画像とは異なっている。たとえば、交通流の画像内の少なくともいくつかの画素の密度の値は、観察領域における画素の位置の部分占有率および/または観察領域における画素の位置の確率的占有率を反映して、非常に小さいであろう。交通流の画像を使用して、いくつかの実施形態は、制御領域内の交通を制御するための制御コマンドを決定する。いくつかの実現例において、制御コマンドは、車両がそれらの安全性を向上させるためのガイダンスとして使用することができる。
事実上、アテンションベースの制御と組み合わせて交通流の画像を表示することは、オープンエンドな領域の分散制御を可能にし、領域内の制御対象マシンの追跡および交通データの収集の精度に関する要件を緩和する。
また、いくつかの実施形態によって対処される問題のうちの1つは、リアルタイムの交通制御のために構成された制御システムの構成である。たとえば、いくつかの実施形態は、交差点通過および/または幹線道路合流を最適に制御するのにクラウド制御が実用的でない、という認識に基づく。クラウド制御は、マルチホップ通信遅延のために、安全性要件のリアルタイム制約を満たさない可能性がある。また、クラウドは、最適な決定を行うための車両、歩行者および道路状況の瞬時の情報を持たない。また、車載コントローラは、最適な決定を行うための十分な情報を持たない場合がある。たとえば、車載制御装置は、可視範囲外への物体の移動についての情報を持たず、通信範囲外の車両から情報を受信することができない。
そのために、いくつかの実施形態は、路側機(RSU)などのエッジデバイスが、それらの固有の特徴(車両との直接通信機能、カメラおよびセンサによる道路状況理解および環境把握など)のために、交差点通過または幹線道路合流などの制御領域のリアルタイム分散制御で最適な決定を行うための実現可能な制御点である、という認識に基づく。また、制御点(交差点または幹線道路合流点など)におけるエッジデバイスは、リアルタイムコラボレーションおよび情報共有によって共同制御決定を行うことができる。そのために、いくつかの実施形態は、エッジデバイスを適用して、リアルタイムエッジ制御を実現する。
したがって、いくつかの実施形態は、制御領域内の交通流の画像を作成して、制御領域に出入りする個々の車両を追跡する必要性を低減する。しかし、このアプローチは、制御の不連続性という新たな問題も生じさせる。車両が制御領域に入ることにより制御が突然変化することが起こり得る。この問題に対処するために、いくつかの実施形態は、制御下の領域よりも大きなエリアからの交通データを観察する。したがって、交通流の画像が求められる観察領域は、エッジコンピューティングデバイスによって制御される領域と、少なくともエッジコンピューティングデバイスによって制御されない隣接する領域のセクションとをカバーする。
したがって、一実施形態は、エッジコンピューティングデバイスのセットを含む交通制御システムを開示しており、各エッジコンピューティングデバイスは、交通の領域を制御するように構成される。制御領域同士は、交差することがないので、各制御領域の各セクションは、エッジコンピューティングデバイスのセットからの単一のエッジコンピューティングデバイスによってしか制御されない。エッジコンピューティングデバイスは、エッジコンピューティングデバイスによって制御される制御領域における交通データを受信し、隣接するエッジコンピューティングデバイスによって制御される隣接する制御領域の少なくとも隣接するセクションにおける交通データを受信する。制御領域および隣接する制御領域のセクションは、観察領域を形成する。
エッジコンピューティングデバイスは、観察領域における交通データを観察領域内の交通流の画像に変換し、観察領域内の交通流の画像から、制御領域内の交通を制御するための制御コマンドを決定する。したがって、エッジコンピューティングデバイスは、制御領域内の交通を制御しながら、エッジコンピューティングデバイスの制御領域よりも大きな観察領域から交通データを受信する。このようにして、エッジコンピューティングデバイスは、分散制御の不連続性を回避する。
交通流の画像内の画素の値は、交通流の画像内の画素の位置に対応する観察領域内の位置におけるさまざまなタイプの交通の流れの密度を含む。交通流の画像は、よりリッチな情報を標準的なフォーマットで提供し、このことは、データ駆動型制御方法に有利である。交通流の画像からエッジコンピューティングデバイスによって決定された制御コマンドは、制御領域内を走行する車両、制御領域内に位置する交通信号機、またはそれらの組み合わせに送信され得る。
いくつかの実現例において、エッジコンピューティングデバイスによって受信される交通データは、観察領域内を走行する車両の状態を含む。車両の状態は、車両の位置および車両の速度のうちの1つ、またはそれらの組み合わせを含み得る。しかし、交通データは、より多くの情報(歩行者の位置および速度、交通信号機の位置、ならびに、他の交通要素の位置および速度のうちの1つまたはそれらの組み合わせなど)を含み得る。この追加情報のうちの一部は、エッジコンピューティングデバイスによってモニタリングおよび/または受信可能であるが、その全てをモニタリングおよび/または受信することはできない。たとえば、ノンコネクテッド車両および歩行者の速度は、それらをモニタリングして、それらの画像を取得して、当該画像から速度を求めることなしに受信することはできない。ノイズが混ざっている可能性があって誤差の影響を受けやすいこの情報の事前処理に頼る代わりに、直接的な画像ベースのデータに基づいて制御を決定する方がよい。さらに、この追加情報は、交通流の推定にさらに使用することができ、この交通流は、交通流の速度、道路地図における単位空間当たりの車両の数を示す交通流の密度、および単位時間当たりの車両の数を示す交通流の流れのうちの1つ、またはそれらの組み合わせを含む。たとえば、いくつかの実施形態は、車両の状態および観察領域の道路地図から交通流を判断して交通流の密度を生成し、交通流の密度は、道路地図における単位空間当たりの車両または単位空間を占有する車両の一部の数を示し、いくつかの実施形態はさらに、交通流を交通流の画像に変換し、単位空間は、交通流の画像の画素を形成し、単位空間について生成されたさまざまな交通要素の密度の値は、画素の値を形成する。
したがって、一実施形態は、ある領域内の交通を制御するための交通制御システムを開示しており、上記交通制御システムは、上記制御領域内の上記交通を形成する制御対象マシンのセットの状態を示す上記制御領域における交通データを受信するように構成された受信部と、アテンションベースのコントローラを格納するように構成されたメモリとを含み、上記アテンションベースのコントローラは、上記制御対象マシンのセットから制御対象マシンを選択して上記制御対象マシンにアテンションを向けて、上記制御領域内の交通流の画像に基づいてアテンション下の上記制御対象マシンのための制御コマンドを生成するように訓練され、上記交通制御システムはさらに、上記交通データを上記制御領域内の上記交通流の上記画像に変換し、上記交通流の上記画像および上記制御対象マシンの上記状態を上記アテンションベースのコントローラに提示して上記セットの中の上記制御対象マシンの少なくともいくつかのための制御コマンドを生成するように構成されたプロセッサと、上記制御コマンドを上記制御対象マシンに送信するように構成された送信部とを含む。
別の実施形態は、ある領域内の交通を制御するための方法を開示しており、上記方法は、上記方法を実行する格納された命令に結合されたプロセッサを使用し、上記命令は、上記プロセッサによって実行されると、上記方法のステップを実行し、上記方法のステップは、上記制御領域における交通データを上記制御領域内の交通流の画像に変換するステップと、上記交通流の上記画像および上記制御領域内の各制御対象マシンの状態をアテンションベースのコントローラに提示することによって上記制御対象マシンのための制御コマンドを決定するステップとを含み、上記アテンションベースのコントローラは、制御対象マシンにアテンションを向けて、上記制御領域内の上記交通流の上記画像に基づいてアテンション下の上記制御対象マシンのための制御コマンドを生成するように訓練され、上記方法のステップはさらに、上記制御コマンドを上記制御対象マシンに送信するステップを含む。
いくつかの実施形態に係る、制御される交通システムの概略を示す図である。 いくつかの実施形態に係る、アテンションベースのコントローラの動作の全体概略を示す図である。 いくつかの実施形態によって使用される制御コマンドの階層の一例を示す図である。 いくつかの実施形態に係る、アテンションベースのコントローラの分散型構成を示す図である。 いくつかの実施形態に係る、交通流の密度を追跡する一例を示す図である。 一実施形態に係る、交通流の画像を求める方法のフローチャートを示す図である。 いくつかの実施形態に係る、交通制御システムの全体ブロック図である。 いくつかの実施形態に係る、拡張強化学習コントローラを訓練する概略を示す図である。 いくつかの実施形態に係る、ある領域内の交通の直接および間接制御のためのシステムのブロック図である。 いくつかの実施形態に係る、直接的または間接的に制御される車両の概略を示す図である。 いくつかの実施形態に係る、制御されたコマンドをシステムから受信するコントローラと車両のコントローラとの間の相互作用の概略を示す図である。
実施形態の説明
本開示は、車両交通システムに関する。これらの交通システムは、一般に、ジャンクションにおいて合流する道路を含み、道路は、インターチェンジおよび交差点、電動および非電動車両、歩行者、ならびに交通信号機および標識を含む。交通システムの一部は、これらの要素のうちの一部または全てを含む。
図1は、いくつかの実施形態に係る、制御される交通システムの概略を示す図である。制御可能な車両107は、制御されない車両105とともに、道路セグメント101をたどる。道路ジャンクション103には交通信号機106が設置されている。他の物体および歩行者などの交通参加者は、図示されていないが、交通システムの一部であると考えられる。制御対象車両の例としては、自律および半自律車両が挙げられる。制御されない車両の例としては、手動運転車両が挙げられる。
交通システムの挙動は、システム内の車両交通の流れを変更するために交通信号機を使用して動的に調節可能である。自律車両の登場により、交通システムは、システム内の車両交通の流れを変更するために自律車両も使用して調節可能である。交通の動的制御は、交通のスループットを向上させて、平均的な車両が遭遇する遅延を最小化することを目指す。
交通システムは、元来開放的であり、閉鎖的なものではない。これは、外部からシステムへの流入およびシステムから外部への流出が存在することを意味している。それらの開放的な性質は、制御機構としての自律車両の使用を複雑にする。なぜなら、車両自体がシステムに出入りすることができ、それらの出入りを常に制御できるわけではないからである。したがって、さらなる変更なしに自律車両を永久的な制御機構として扱うことは現実的ではない。これは、静止位置に設置されて永久的な制御機構として機能する交通信号機とは対照的である。したがって、どのようにして自律車両を非永久的な制御機構として扱うかを検討することが重要になる。
本開示は、上記の問題に対する解決策を提供する。本明細書に記載されているシステムは、サブシステムで構成されており、これらのサブシステムは、交通システムのあるエリアをモニタリングして、当該エリアに存在するそれらの制御機構にのみ制御信号を送信する。これは、1つのサブシステムによってカバーされるエリアが、当該エリアに存在する交通信号機のうちの全てまたは一部を永久的に制御するが、自律車両が当該エリアに存在するときにはそれらの自律車両しか制御しないことを意味している。
我々の知識をどうひいき目にみても、通常の制御方法はこのタイプの制御を行うことはできない。通常の制御方法は、システム内に永久的に設置された制御機構のための制御信号を決定する。いかなる代替方法も、非永久的なコントローラの制御を可能にする永久的な制御機構の設計方法を検討しなければならない。
実際、ある領域内の交通のデータ駆動型制御は、領域ごとの分散制御を可能にする。しかし、領域ベースの交通制御は、オープンエンドな制御システムをもたらす。自律および/または半自律車両などの制御対象マシンは、制御領域に出入りし得るため、制御システムに出入りし得て、それをオープンエンドにする。一般に、データ駆動型方法は、それらの制御対象を知る、すなわち追跡する必要がある。したがって、データ駆動型方法は、オープンエンドなシステムの制御には不向きである。
いくつかの実施形態は、アテンションベースの制御を使用してオープンエンドなシステムを制御する課題に対処する。いくつかの実施形態のアテンションベースのコントローラは、領域内の制御対象マシンのうちの1つまたはグループにアテンションを向けて、アテンション下の制御対象マシンのための制御コマンドを生成するように訓練され、選択は、コントローラのアテンションを制御対象マシンの追跡から制御の入力パラメータに変更することを可能にする。どの制御対象マシンがアテンション下にあるかにかかわらず、制御の各特定のステップにおいて、アテンションが向けられる交通システムは、クローズエンドなシステムである。
アテンションベースのコントローラの1つの実現例は、制御エリア内の全ての制御機構への制御信号を決定するより高いレベルの制御機構を提供する。より低いレベルのコントローラは必ずしも永久的でないので、スーパーコントローラはまず、適切な制御信号をコントローラに送信する前に、コントローラを決定または選択する。このように、アテンションベースのコントローラ自体が永久的な制御機構であるので、非永久的なコントローラを制御できないという問題は回避される。
図2Aは、いくつかの実施形態に係る、アテンションベースのコントローラ200の動作の全体概略を示す図である。コントローラ200は、制御エリアにおいて識別される制御対象マシンのセットから特定の制御対象マシンを選択し(201)、選択された制御対象マシンのための制御コマンドを生成する。制御対象マシンの例としては、自律車両205または交通信号機209が挙げられる。選択可能な制御マシンの数は、任意の所与の時点でメモリに保持されることができる識別子の数によってのみ限定される。他の自律車両および交通信号機を含むさらに多くの永久的な制御マシン213が選択されてもよい。選択された制御マシンにアテンションを向けた後、アテンションベースのコントローラは、選択された制御マシンに制御コマンド203を送信する。自律車両の場合、このコマンドは、車両制御コマンド207である。交通信号機の場合、このコマンドは、交通信号機タイミングコマンド211である。
特定の車両制御コマンドは、2つのタイプのうちの1つに分類することができる。第1のタイプは、直接制御である。直接的な車両制御コマンドは、車両に提供される加速、ブレーキおよびステアリングのためのコマンドである。間接的なコマンドは、たとえば推奨されるルート、ならびに、車両がたどるべきルートに沿った所望の速度および/または加速度プロファイルで構成される。また、それは、たとえば車両を停止させる要求であり得る。間接制御の場合、自律車両の設計は、自律車両が、妥当に可能な範囲で、推奨された速度プロファイルで、推奨された経路をたどるという特性を有する。直接制御と間接制御とでは、間接制御が好ましい。なぜなら、それは、個々の車両のより低いレベルの制御が安全性要件を保証することを可能にし、これは、個々の車両のレベルでより確実になされるからである。
間接制御により、コントローラは、制御領域内の全てのマシンを絶えず制御しなくてもよくなるが、いくつかの実現例ではそうすることを選択してもよい。いくつかの実施形態において、制御対象マシンは、従う必要があるが定期的に更新されなくてもよい制御コマンドを受信するようにプログラムされる。特定の状況下では、それらは、コマンドを無効にすることさえある。たとえば、コントローラは、同時期に1つの車両にルーティングコマンドを送信して別の車両に所望の速度を送信することを選択し得る。次いで、コントローラは、第1の車両に所望の速度を送信することを選択し得る。第2の車両は、その視覚システムでは明白であるがコントローラでは知覚できない小動物のような道路上の危険の存在により、その所望の速度が安全でないということに気付き得る。
図2Bは、いくつかの実施形態によって使用される制御コマンドの階層の一例を示す図である。実行されなければならない第1の制御は、特定の制御マシンの選択であり、この特定の制御マシンは、自律モードにおける自律もしくは半自律車両231、または交通信号機232のいずれかである。実行されるべき第2の制御は、車両に送信されるコマンドの選択であり、1つのタイプ233は、自律モードにおける自律または半自律車両に送信され、別のタイプのコマンド234は、交通信号機に送信される。
エリアベースのコントローラは、交通システムの別の問題を解決する。交通システムは、規模が大きい。この理由のために、制御信号を決定するのに必要な計算を複数の計算機構にわたって分散させることなく1つのコントローラを交通システム全体にわたって実現することは困難である。エリアごとに1つの集中型、すなわち非分散型コントローラを実現することによって、各エリアを他のエリアから切り離して制御することによって制御をシステム全体にわたって分散させることができる。いくつかの実施形態は、隣接するエリアのコントローラ同士の間の通信を可能にする通信プロトコルを使用する。いくつかの実施形態において、隣接するコントローラと直接通信する代わりに、コントローラは、それらがカバーするエリアよりも大きなエリアを観察する。このように、コントローラは、それらが通信しないまたは通信できないコントローラによって行われる制御アクションに応答することができる。この後者の技術は、隣接するコントローラ同士が同一タイプではない場合、たとえばロジックを伝達できないレガシーコントローラである場合に有利であり、この場合、1つのエリア内のコントローラは、通信に頼ることなく別のエリア内のコントローラのアクションをモニタリングして反応することができる。
図3は、いくつかの実施形態に係る、アテンションベースのコントローラ301の分散型構成を示す図である。個々のコントローラは、制御塔305によって表されており、隣接するコントローラ303と通信する。各コントローラは、制御エリアまたは領域307を担当する。コントローラは、制御エリアよりも大きなエリアを観察することができる。これは、観察エリア309として示されている。コントローラ305は、エッジコンピューティングデバイスとして実現可能である。
たとえば、一実施形態は、エッジコンピューティングデバイスのセットを含む交通制御システムを開示しており、各エッジコンピューティングデバイスは、交通の領域を制御するように構成される。制御領域は交差することがないので、各制御領域の各セクションは、エッジコンピューティングデバイスのセットからの単一のエッジコンピューティングデバイスによってしか制御されない。エッジコンピューティングデバイスは、エッジコンピューティングデバイスによって制御される制御領域における交通データを受信し、隣接するエッジコンピューティングデバイスによって制御される隣接する制御領域の少なくとも隣接するセクションにおける交通データを受信する。制御領域および隣接する制御領域のセクションは、観察領域を形成する。
エッジコンピューティングデバイスは、観察領域における交通データを観察領域における交通流の画像に変換し、観察領域における交通流の画像から、制御領域内の交通を制御するための制御コマンドを決定する。したがって、エッジコンピューティングデバイスは、制御領域内の交通を制御しながら、エッジコンピューティングデバイスの制御領域よりも大きな観察領域から交通データを受信する。このようにして、エッジコンピューティングデバイスは、分散制御の不連続性を回避する。
エリアベースの制御の使用は、複雑さを生じさせる。交通の状態、すなわち交通流は、動的であり、制御エリア内にとどまることは約束されない。さらに、いずれのコントローラによって観察される変数も、固定されなければならない。したがって、いくつかの実施形態では、個々の車両がシステムに出入りし得るので、観察される変数は、個々の車両ではない。したがって、いくつかの実施形態は、観察された変数を観察領域内で追跡可能なままであるようにするように、観察された変数を変更する。
いくつかの実施形態は、エリア内で追跡可能なままであり得る変数のタイプが交通密度である、という認識に基づく。道路上の各位置について、密度は、当該位置の周囲のエリア内の車両の数に関連している。さらに、各位置自体は、車両密度の速度に関連付けられる。さらに、各位置における密度は、速度よりも高次の運動の導関数(加速度など)に関連付けられる。密度およびその運動の導関数を道路上の静止位置で測定することができるので、これらの変数は、観察エリア内で追跡可能であるという要件を満たす。
いくつかの実施形態において実現される特定の解決策は、道路上の予め定められた地点で車両密度を測定する。各地点を取り囲むようにエリアが固定され、当該エリア内の車両の量が測定される。車両の量または占有率は、車両エリアによってカバーされるエリアの量をエリアの総量で除算することに等しい。
Figure 0007278484000001
占有率は、密度のおおよその測定値である。車両密度を求めるための他の方法(占有率をローパスフィルタに通して、観察された信号の変動を除去するなど)を使用することができる。
密度の測定には、観察対象のエリア内で交通が混在しているような状態についてのより多くの情報を符号化することができるという利点がある。たとえば、エリアは、制御対象の自律車両、および、別の種類の車両または他のタイプの物体(制御されない車両、緊急車両、自転車乗用者、歩行者など)によって占有され得る。これは、同一の地点に関連付けられた車両占有率が複数存在し得ることを意味している。各々は、観察者によって別々に測定されて追跡されることができる。
図4は、いくつかの実施形態に係る、交通流の密度を追跡する一例を示す図である。この例において、より大きな交通ネットワーク401の一部である道路セグメント403上の交通は、2つのタイプの車両、すなわち自律車両および非自律車両によって形成される。道路セグメント403上の地点は、これら2つのタイプの車両の占有率を測定する地点を取り囲むあるエリアに関連付けられる。占有率は、道路セグメントに対応する画像405によって表される。エリアの色は、赤色が自律車両の占有率に対応し、白色が非自律車両の占有率に対応し、黒色が物体が無いことに対応する。この画像は、自律車両407と非自律車両409との間に地図を確認するのに十分なほどに比較的精細である。
いくつかの実施形態において、それらの地点の周囲のエリアはより大きい。一般に、エリアのサイズに限界はない。一実施形態は、3m×3m平方のエリアを使用する。なぜなら、それは、車両間の粒度を確認するのに十分なほどに精細であるが、データの冗長性を回避するのに十分なほどに粗いからである。
このようにして、いくつかの実施形態は、交通データを制御領域内の交通流の画像に変換する。交通流の画像は、固定次元のベクトルを使用した交通のダイナミクスの表示を可能にする。いくつかの実施形態において、交通流の画像内の画素の値は、交通流の画像内の画素の位置に対応する制御領域の位置における交通流の密度を含む。この密度は、交通流の画像の推定を単純化する。たとえば、いくつかの実施形態は、車両の状態および観察領域の道路地図から交通流を判断して交通流の密度を生成し、交通流の密度は、道路地図における単位空間当たりの車両または単位空間を占有する車両の一部の数を示し、いくつかの実施形態はさらに、交通流を交通流の画像に変換し、単位空間は、交通流の画像の画素を形成し、単位空間について生成されたさまざまな交通要素の密度の値は、画素の値を形成する。
さまざまな実施形態は、さまざまな態様で交通流を求めることができる。たとえば、一実施形態は、車両の状態を有する物体同士の相互作用をモデル化する常微分方程式(ODE)を解くことによって交通流を求める。別の実施形態は、車両の状態を有する物体同士の相互作用に従って交通流の密度のバランスをとる偏微分方程式のシステムを解くことによって流体ダイナミクスを使用して交通流を求める。さらに別の実施形態は、交通推定の不確実性を説明するために密度を確率論的に求める。たとえば、いくつかの実現例では、実施形態は、時刻tに位置xにおいて速度Vで走行する車両が車両の状態を条件とする確率を表す確率関数を計算し、観察領域内の位置の確率的占有率を表す確率関数に従って交通流の密度を求める。
そのために、いくつかの実施形態では、交通流の画像内の少なくともいくつかの画素の密度の値は、画素の位置に対応する制御領域の位置の部分占有率を反映して、非常に小さい。加えてまたは代替的に、密度の非常に小さい値は、画素の位置に対応する制御領域の位置の確率的占有率を反映し得る。
図5は、一実施形態に係る、交通流の画像を求める方法のフローチャートを示す図である。実施形態は、制御領域内を走行する車両の状態を含む交通データを受信する(510)。実施形態は、車両の状態および観察領域の道路地図から交通流を判断して、道路地図における単位空間当たりの車両の数を示す交通流の密度を生成し(520)、交通流を交通流の画像に画素化し(530)、単位空間は、交通流の画像の画素を形成し、単位空間について生成された密度の値は、画素の値を形成する。
図6は、いくつかの実施形態に係る、交通制御システムの全体ブロック図である。アテンションベースのコントローラ601は、交通観察装置609を介して取得される密度603を受信し、制御コマンド605を決定する。コマンドは、交通観察装置609によって観察される交通システム607に影響を及ぼす。
上記のように交通を観察して密度を求めるためにさまざまな観察装置を使用することができる。これらの観察装置は、交通の画像を占有率に変換するカメラシステム、密度情報に変換されるGPS座標を中央コントローラに報告する車両内の搭載システム、密度情報に変換される三角測量位置座標を中央コントローラに報告する携帯電話塔からのデータ、または、密度情報に変換される、道路上に設置されたループ検出器センサからのデータを含み得る。
非永久的なコントローラを選択してこれらのコントローラのための制御信号を決定する必要性によって大量の複雑さが導入され、この種の複雑さに特に適した制御機構は、深層強化学習(DRL)に基づくものである。DRLは、システムの挙動を学習することとこのシステムを制御できるようになることとを同時に行うためのオンライン最適化を解決する。DRLは、柔軟性があり、コントローラの制御に適用可能である。なぜなら、この方法自体がいかなる種類の制御にも限定されないからである。一般に、DRL方法は、システムの状態を受信して、何らかの予め定められたアクション空間からアクションを判断する。たとえば、一実施形態において、アクション空間は、選択機構およびその特定のコントローラのための利用可能な制御入力である。
いくつかの実施形態は、分散型フレームワークにおいて制御を実行するようにDRLを設計する。特に、2つの可能性が存在する。すなわち、隣接するDRL対応コントローラが、フィンガープリントと呼ばれる方法において自身のアクションを互いに共有し得ること、または、DRL対応コントローラが、自身の制御を決定するために隣接するエリアの状態を部分的に観察し得ること、である。これら両方の種類のアプローチは、スケーラブルな分散制御をもたらす。
一般に、DRLアルゴリズムは、制御アクションを決定することによって何らかの値関数を最大化しようと試みる。ここで、値関数Vは、全ての観察対象車両および計画対象期間Tにわたる報酬関数の和である。
Figure 0007278484000002

式中、Aは、セットの観察対象車両である。制御アクションは、図4に示される選択およびコマンド決定アクションである。
一実施形態において、特定の車両についての報酬γは、以下によって表される。
Figure 0007278484000003

定数Cのうち、dは、遅延関数である。遅延関数は、以下のように表される。
Figure 0007278484000004

式中、νは、車両の速度であり、νは、車両が走行している道路セグメントの自由流速度であって、設計によって決定される。設計によって、遅延は、車両速度が自由流速度以上である場合には0という最小値をとり、車両が停止される場合には1という最大値をとる。報酬の形式は、大きな遅延が小さな遅延よりもペナルティを科されることを確実にするように選択される。したがって、Cは、厳密には1よりも大きな小さな定数である。実験において、Cについての良い選択肢は、2と3との間にあると判断された。
報酬は、速度が測定される車両について求められる。一般に、制御対象車両を測定することができ、加えて、その他の車両は、それらの速度をコントローラに報告してもよい。
RLコントローラへの入力はシステム状態であり、出力はアクションである。RLコントローラは、状態とアクションとの間の関係を認識しておらず、この関係をどのように活用して所望の報酬を最大化するかを見出すように訓練される。一実施形態において、状態は、交通密度の画像および自律車両の位置のリストで構成される。自律車両の位置は、コントローラが、この制御対象機構の位置を認識して、そのアクションがどのようにシステム内の車両の位置に関連しているかを学習するために必要である。アクションは、選択201と制御対象マシン203へのコマンドとを含む制御コマンドである。大半のコントローラと同様に、RLコントローラでは、アクションのセットは、予め定められて固定されなければならない。したがって、アクションのセットは、以下のように定義される。
Figure 0007278484000005

式中、aは、自律モードにおける自律車両もしくは半自律車両であり得る制御対象マシンを選択するアクション、交通信号機を選択するアクション、または何も選択しないアクションであり、aは、どのコマンドを自律車両に送信するかを選択するアクションであり、aa,iは、a=iの場合にのみaa,iが送信される自律車両に対応するアクションであり、aは、どのコマンドを交通信号機に送信するかを選択するアクションであり、as,iは、a=iの場合にのみas,iが送信される交通信号機に対応するアクションである。選択される制御対象マシンのタイプに基づいて、アクションaまたはaのいずれかがコントローラで利用可能である。さらに、aまたはaがiに等しい場合にのみi番目のアクションが利用可能である。RLコントローラは、アクションのセットにおける全てのアクションについて値を求めなければならないので、選択アクションを実行した後にアクションがシステムに影響を及ぼすか否かをコントローラが学習することは、RLアルゴリズムの訓練を通して行われる。これは、まず制御対象マシンを選択して、次いで特定のサブコマンドを選択するという必要な挙動をRLコントローラに提供する。
制御ステップごとに、コントローラを呼び出さなくてもよく、1回呼び出してもよく、または複数回呼び出してもよい。コントローラは、アクションaがどれにも等しくならなくなるまで、または全ての制御対象マシンがコマンドを送信されるまで、呼び出される。
図7は、いくつかの実施形態に係る、強化学習コントローラを訓練する概略を示す図である。強化学習(RL)において、RLコントローラ750は、離散的な時間ステップにおいてその環境710と相互作用する。各時刻tにおいて、RLコントローラは、環境710内の交通状態330の観察値720、RLコントローラが制御できる全ての自律車両の位置715、および報酬740を受信する。交通状態は、交通流の画像730に変換される。最後に、RLコントローラ750は、利用可能なアクションのセットからアクション760を選択するのに使用され、アクション760は、その後、環境内の交通状態を変化させるための制御コマンドとして環境に送信される。これらのアクションは、報酬をできる限り収集するように選択され、報酬は、小隊形成を奨励するように決定される。
RLコントローラは、コマンドを出力するように訓練されるだけでなく、制御領域内の車両のうちの1つまたはグループにアテンションを向けて(770)、アテンション下の車両のためのアクションまたは制御コマンド760を決定するようにも訓練される。制御ステップについて、一実施形態は、アテンションがどれにも向けられなくなるまで、または全ての制御対象マシンがコマンドを送信されるまで、アテンションベースのコントローラを繰り返し呼び出す。加えてまたは代替的に、一実施形態は、制御ステップ当たり1回だけアテンションベースのコントローラを呼び出す。加えてまたは代替的に、一実施形態は、制御ステップ当たり複数回アテンションベースのコントローラを呼び出すが、各制御ステップにおいて全ての制御対象マシンを処理する必要はない。
制御対象マシンは、少なくとも、制御領域内を走行する車両のサブセット、制御領域内に位置する少なくとも1つの交通信号機、またはそれらの組み合わせを含む。さまざまな制御対象マシンは、さまざまなタイプを有しているので、制御対象マシンの各タイプは、制御コマンドのタイプ780に関連付けられる。アテンションベースのコントローラは、アテンション下の制御対象マシンのタイプに対応するタイプの制御コマンドを決定するように訓練される。たとえば、一実施形態において、深層強化学習部(DRL)750は、そのアクションのセットにおける各アクションについて値を求める。どのアクションが選択されたかに基づいて、それがアテンションを向けるアクション770および送信すべきコマンドのタイプを決定するアクション760に対応する場合にのみ、コマンドが送信される。時間ステップごとに送信される特定のコマンド760は、たとえあったとしても1つだけである。
さまざまな実施形態は、さまざまな方法を使用して、RLコントローラを形成するパラメータ化された関数を訓練する。たとえば、いくつかの実施形態において、パラメータ化された関数は、深層決定論的方策勾配法、アドバンテージアクタークリティック(advantage-actor critic)法、近位方策最適化法、深層Qネットワーク法またはモンテカルロ方策勾配法のうちの1つを使用して訓練される。
例示的な実施形態
図8は、いくつかの実施形態に係る、ある領域内の交通の直接および間接制御のためのシステム800のブロック図である。システム800は、システム800と他のマシンおよびデバイスとを接続する複数のインターフェイスを有し得る。ネットワークインターフェイスコントローラ(NIC)850は、バス806を介してシステム800とネットワーク890とを接続するように適合された受信部を含み、ネットワーク890は、システム800と混合オートマトン車両とを接続して、領域内を走行する混合自律車両のグループの交通状態を受信する。混合自律車両のグループは、制御対象車両および制御されない車両のうちの1つ、またはそれらの組み合わせを含む。ネットワーク890は、システム800と制御領域内の他のタイプの制御対象マシン(交通信号機など)とを接続することができる。
いくつかの実施形態において、受信部は、制御領域よりも大きな観察領域の交通データを受信するように構成され、制御領域は、観察領域の一部を形成し、アテンションベースのコントローラは、観察領域内の交通流の画像に基づいてアテンション下の制御対象マシンのための制御コマンドを生成するように訓練され、プロセッサは、アテンションベースのコントローラで使用するために、交通データを観察領域内の交通流の画像に変換するように構成される。
NIC850は、ネットワーク890を介して制御対象マシンに制御コマンドを送信するように適合された送信部も含む。そのために、システム800は、ネットワーク890を介して制御コマンド875を制御対象マシンに提示するように構成された出力インターフェイス(たとえば、制御インターフェイス870)を含む。このようにして、システム800は、混合オートマトン車両と直接的または間接的にワイヤレス通信するリモートサーバ上に配置されることができる。
システム800は、他のタイプの入力および出力インターフェイスも含み得る。たとえば、システム800は、ヒューマンマシンインターフェイス810を含み得る。ヒューマンマシンインターフェイス810は、コントローラ800をキーボード811およびポインティングデバイス812に接続することができ、ポインティングデバイス812は、とりわけ、マウス、トラックボール、タッチパッド、ジョイスティック、ポインティングスティック、スタイラスまたはタッチスクリーンを含み得る。
システム800は、格納された命令を実行するように構成されたプロセッサ820と、プロセッサによって実行可能な命令を格納するメモリ840とを含む。プロセッサ820は、シングルコアプロセッサ、マルチコアプロセッサ、コンピューティングクラスタ、または他のどのような構成であってもよい。メモリ840は、ランダムアクセスメモリ(RAM)、リードオンリメモリ(ROM)、フラッシュメモリ、またはその他の好適なメモリマシンを含み得る。プロセッサ820は、バス806を介して1つまたは複数の入力および出力デバイスに接続可能である。
プロセッサ820は、命令を格納しかつ命令によって使用されるデータを処理するメモリストレージ830に動作可能に接続される。ストレージ830は、メモリ840の一部を形成してもよく、またはメモリ840に動作可能に接続されてもよい。たとえば、メモリは、アテンションベースのコントローラ831を格納するように構成され得て、アテンションベースのコントローラ831は、制御領域内の交通流の画像に基づいてアテンション下の制御対象マシンのための制御コマンドを生成するように訓練される。
プロセッサ820は、制御対象車両のための制御コマンドを決定してそれらを直接的または間接的に制御するように構成される。そのために、プロセッサは、交通流生成部832を実行して交通データを制御領域内の交通流の画像に変換し、状態推定部833を実行して制御領域内の制御対象マシンの状態を識別するように構成される。たとえば、状態推定部は、交通データ895から制御対象マシンの状態を抽出することができる。加えてまたは代替的に、静止したマシンの状態をHMI810を介して提示することができる。状態の例としては、制御対象マシンの位置(現在の制御ステップにおける車両の位置など)および交通信号機の永久的な位置が挙げられる。
プロセッサはさらに、交通流の画像および制御対象マシンの状態をアテンションベースのコントローラ831に提示して、制御対象マシンの少なくともいくつかのための制御コマンドを生成するように構成される。アテンションベースのコントローラ831は、状態のセットによって識別された制御対象マシンのセットから制御対象マシンを選択して当該制御対象マシンにアテンションを向けて、制御領域内の交通流の画像に基づいてアテンション下の制御対象マシンのための制御コマンドを生成するように訓練される。いくつかの実施形態において、アテンションベースのコントローラ831は、アテンションベースのコントローラのアテンションを異なる制御対象マシンに向けるアテンションモジュールを有する深層強化学習(DRL)コントローラである。
たとえば交通流の画像によって定義することができる制御ステップでは、アテンションベースのコントローラは、終了条件が満たされるまで、どの制御対象マシンのための制御コマンドも生成しなかったり、1つの制御対象マシンのための制御コマンドを生成したり、複数の制御対象マシンのための制御コマンドを生成したりする。たとえば、終了条件は、制御コマンドを生成するためにセットの中の全ての制御対象マシンがアテンション下に置かれたか否かを調べる制御条件、および、制御ステップに割り当てられた期間が過ぎたか否かを調べる時間条件のうちの1つ、またはそれらの組み合わせを含む。特定の制御ステップ中の特定のマシンに対するアテンション、コマンドのタイプおよび実行回数は、訓練中にアテンションベースのコントローラによって学習される。
図9Aは、いくつかの実施形態に係る、直接的または間接的に制御される車両901の概略を示す図である。本明細書で使用される車両901は、任意のタイプの車輪車両(乗用車、バスまたはローバなど)であり得る。また、車両901は、自律または半自律車両であり得る。たとえば、いくつかの実施形態は、車両901の動きを制御する。動きの例としては、車両901のステアリングシステム903によって制御される車両の横方向の動きを含む。一実施形態において、ステアリングシステム903は、システム800と通信するコントローラ902によって制御される。加えてまたは代替的に、ステアリングシステム903は、車両901の運転手によって制御可能である。
車両は、コントローラ902によって、または車両901の他のコンポーネントによって制御可能なエンジン906も含み得る。車両は、周囲の環境を検知するための1つまたは複数のセンサ904も含み得る。センサ904の例としては、距離範囲ファインダ、レーダ、ライダおよびカメラが挙げられる。車両901は、その現在の動きの量および内部状態を検知するための1つまたは複数のセンサ905も含み得る。センサ905の例としては、グローバルポジショニングシステム(GPS)、加速度計、慣性測定ユニット、ジャイロスコープ、シャフト回転センサ、トルクセンサ、たわみセンサ、圧力センサおよび流れセンサが挙げられる。これらのセンサは、情報をコントローラ902に提供する。車両は、ワイヤードまたはワイヤレス通信チャネルを介してコントローラ902の通信機能を可能にする送受信機907を備え得る。
図9Bは、いくつかの実施形態に係る、制御されたコマンドをシステム800から受信するコントローラ902と車両901のコントローラ900との間の相互作用の概略を示す図である。たとえば、いくつかの実施形態において、車両901のコントローラ900は、車両900の回転および加速度を制御するステアリングコントローラ910およびブレーキ/スロットルコントローラ920である。このような場合、コントローラ902は、制御入力をコントローラ910および920に出力して、車両の状態を制御する。コントローラ900は、予測コントローラ902の制御入力をさらに処理するハイレベルコントローラ(たとえば、レーンキープアシストコントローラ930)も含み得る。いずれの場合も、コントローラ900は、車両の動きを制御するために、予測コントローラ902の出力を使用して、車両の少なくとも1つのアクチュエータ(車両のステアリングホイールおよび/またはブレーキ)を制御する。車両マシンの状態xは、位置、向きおよび縦/横速度を含み得て、制御入力uは、横/縦加速度、ステアリング角およびエンジン/ブレーキトルクを含み得る。このシステムに対する状態制約は、レーンキープ制約および障害物回避制約を含み得る。制御入力制約は、ステアリング角制約および加速度制約を含み得る。収集されたデータは、位置、向きおよび速度プロファイル、加速度、トルクならびに/またはステアリング角を含み得る。
本発明の上記の実施形態は、多数の方法のいずれかで実現することができる。たとえば、これらの実施形態は、ハードウェア、ソフトウェア、またはそれらの組み合わせを使用して実現されてもよい。ソフトウェアで実現される場合、ソフトウェアコードは、任意の好適なプロセッサまたはプロセッサの集合体上で実行可能であり、プロセッサが単一のコンピュータ内に設けられようと複数のコンピュータに分散されようと実行可能である。このようなプロセッサは、集積回路コンポーネント内に1つまたは複数のプロセッサを有する集積回路として実現されてもよい。しかし、プロセッサは、任意の好適なフォーマットの回路を使用して実現されてもよい。
また、本明細書に略述されているさまざまな方法またはプロセスは、さまざまなオペレーティングシステムまたはプラットフォームのうちのいずれか1つを利用する1つまたは複数のプロセッサ上で実行可能なソフトウェアとしてコード化されてもよい。加えて、このようなソフトウェアは、複数の好適なプログラミング言語および/またはプログラミングもしくはスクリプティングツールのいずれかを使用して書き込まれてもよく、フレームワークまたは仮想マシン上で実行される実行可能な機械言語コードまたは中間コードとしてコンパイルされてもよい。一般に、プログラムモジュールの機能は、さまざまな実施形態において希望通りに組み合わせられてもよく、または分散されてもよい。
また、本発明の実施形態は、方法として具体化されてもよく、その方法の一例が提供されている。方法の一部として実行される動作は、任意の好適な態様で順序付けられてもよい。したがって、示されている順序とは異なる順序で動作が実行される実施形態が構築されてもよく、これは、例示的な実施形態にはシーケンシャルな動作として示されているがいくつかの動作を同時に実行することを含んでもよい。
好ましい実施形態の例として本発明を説明してきたが、本発明の精神および範囲内でさまざまな他の適合および変形がなされてもよいということが理解されるべきである。したがって、添付の特許請求の範囲の目的は、全てのこのような変更および変形を本発明の真の精神および範囲内に包含することである。

Claims (18)

  1. 制御領域内の交通を制御するための交通制御システムであって、
    前記制御領域内の前記交通を形成するセットの制御対象マシンの状態を示す前記制御領域における交通データを受信するように構成された受信部と、
    アテンションベースのコントローラを格納するように構成されたメモリとを備え、前記アテンションベースのコントローラは、前記制御対象マシンのセットから制御対象マシンを選択して前記制御対象マシンにアテンションを向けて、前記制御領域内の交通流の画像に基づいてアテンション下の前記制御対象マシンのための制御コマンドを生成するように訓練され、前記交通制御システムはさらに、
    前記交通データを前記制御領域内の前記交通流の前記画像に変換し、前記交通流の前記画像および前記制御対象マシンの前記状態を前記アテンションベースのコントローラに提示して前記セットの中の前記制御対象マシンの少なくともいくつかのための制御コマンドを生成するように構成されたプロセッサと、
    前記制御コマンドを前記制御対象マシンに送信するように構成された送信部とを備え
    前記受信部は、前記制御領域よりも大きな観察領域の交通データを受信するように構成され、前記制御領域は、前記観察領域の一部を形成し、前記アテンションベースのコントローラは、前記観察領域内の前記交通流の前記画像に基づいてアテンション下の前記制御対象マシンのための前記制御コマンドを生成するように訓練され、前記プロセッサは、前記アテンションベースのコントローラで使用するために前記交通データを前記観察領域内の前記交通流の前記画像に変換するように構成され、
    前記交通データは、前記制御領域内を走行する車両の状態を含み、前記プロセッサは、
    前記車両の前記状態および前記観察領域の道路地図から前記交通流を判断して前記交通流の密度を生成するように構成され、前記交通流の密度は、前記道路地図における単位空間当たりの車両の数を示し、前記プロセッサはさらに、
    前記交通流を前記交通流の画像に画素化するように構成され、単位空間は、前記交通流の前記画像の画素を形成し、前記単位空間について生成された前記密度の値は、前記画素の値を形成する、交通制御システム。
  2. 制御ステップでは、前記アテンションベースのコントローラは、終了条件が満たされるまで前記制御コマンドを生成し、前記終了条件は、前記制御コマンドを生成するために前記セットの中の全ての制御対象マシンがアテンション下に置かれたか否かを調べる制御条件、および、前記制御ステップに割り当てられた期間が過ぎたか否かを調べる時間条件のうちの1つ、またはそれらの組み合わせを含む、請求項1に記載の交通制御システム。
  3. 前記制御対象マシンは、少なくとも、前記制御領域内を走行する車両のサブセット、前記制御領域内に位置する少なくとも1つの交通信号機、またはそれらの組み合わせを含む、請求項1に記載の交通制御システム。
  4. さまざまな制御対象マシンは、さまざまなタイプを有しており、前記制御対象マシンの各タイプは、前記制御コマンドのタイプに関連付けられ、前記アテンションベースのコントローラは、アテンション下の前記制御対象マシンのタイプに対応するタイプの制御コマンドを決定するように訓練され、前記プロセッサは、アテンション下の前記制御対象マシンの前記タイプを決定して、前記アテンションベースのコントローラに提示する、請求項1に記載の交通制御システム。
  5. 前記アテンションベースのコントローラは、前記アテンションベースのコントローラの前記アテンションを異なる制御対象マシンに向けるアテンションモジュールで強化された深層強化学習部(DRL)である、請求項1に記載の交通制御システム。
  6. 前記交通流の前記画像内の画素の値は、前記交通流の前記画像内の前記画素の位置に対応する前記制御領域の位置における前記交通流の密度を含む、請求項1に記載の交通制御システム。
  7. 前記交通流の前記画像内の少なくともいくつかの画素の前記密度の値は、前記画素の前記位置に対応する前記制御領域の前記位置の部分占有率を反映したものである請求項6に記載の交通制御システム。
  8. 前記交通流の前記画像内の少なくともいくつかの画素の前記密度の値は、前記画素の前記位置に対応する前記制御領域の前記位置の確率的占有率を反映したものである請求項6に記載の交通制御システム。
  9. 前記車両の前記状態は、前記車両の位置および前記車両の速度を含み、前記プロセッサは、前記車両の位置および速度を使用して、前記交通流の変数を推定し、前記変数は、前記交通流の速度、前記交通流の密度、および単位時間当たりの車両の数を示す前記交通流の流れを含む、請求項1に記載の交通制御システム。
  10. エッジコンピューティングデバイスを形成する、請求項1に記載の交通制御システム。
  11. エッジコンピューティングデバイスのセットであって、各エッジコンピューティングデバイスは、前記交通の制御領域を制御するために請求項1に記載の交通制御システムを含み、前記制御領域同士は、交差することがないので、各制御領域の各セクションは、前記エッジコンピューティングデバイスのセットからの単一のエッジコンピューティングデバイスによってしか制御されない、エッジコンピューティングデバイスのセット。
  12. 各エッジコンピューティングデバイスの入力インターフェイスは、隣接するエッジコンピューティングデバイスによって制御される隣接する制御領域の少なくとも隣接するセクションにおける交通データを受信するように構成され、前記制御領域および前記隣接する制御領域の前記セクションは、観察領域を形成し、前記エッジコンピューティングデバイスの前記観察領域は、前記エッジコンピューティングデバイスの前記制御領域よりも大きく、前記アテンションベースのコントローラは、前記観察領域内の前記交通流の前記画像に基づいてアテンション下の前記制御対象マシンのための前記制御コマンドを生成するように訓練され、前記プロセッサは、前記アテンションベースのコントローラにおいて使用するために前記交通データを前記観察領域内の前記交通流の前記画像に変換するように構成される、請求項11に記載のエッジコンピューティングデバイスのセット。
  13. 前記制御対象マシンのセットは、前記交通データから識別される、請求項1に記載の交通制御システム。
  14. 前記セットの中の前記制御対象マシンの少なくともいくつかのアイデンティティは、前記制御対象マシンによって送信され、前記受信部によって受信される、請求項1に記載の交通制御システム。
  15. 前記制御対象マシンのための前記制御コマンドは、前記制御対象マシンのローレベルコントローラをガイドするためのハイレベルコマンドである、請求項1に記載の交通制御システム。
  16. 前記制御対象マシンは、自律車両であり、前記ハイレベルコマンドは、所望のルートコマンド、所望の速度コマンド、および所望の加速度コマンドのうちの1つ、またはそれらの組み合わせを含む、請求項15に記載の交通制御システム。
  17. 前記制御対象マシンは、交通信号機であり、前記ハイレベルコマンドは、青信号タイミングコマンド、赤信号タイミングコマンド、左側の信号機をオンにするコマンド、右側の信号機をオンにするコマンド、および全ての信号機をオフにするコマンドのうちの1つ、またはそれらの組み合わせを含む、請求項15に記載の交通制御システム。
  18. 制御領域内の交通を制御するための方法であって、前記方法は、前記方法を実行する格納された命令に結合されたプロセッサを使用し、前記命令は、前記プロセッサによって実行されると、前記方法のステップを実行し、前記方法のステップは、
    前記制御領域における交通データを受信するステップと、
    前記制御領域における交通データを前記制御領域内の交通流の画像に変換するステップと、
    前記交通流の前記画像および前記制御領域内の各制御対象マシンの状態をアテンションベースのコントローラに提示することによって前記制御対象マシンのための制御コマンドを決定するステップとを備え、前記アテンションベースのコントローラは、制御対象マシンにアテンションを向けて、前記制御領域内の前記交通流の前記画像に基づいてアテンション下の前記制御対象マシンのための制御コマンドを生成するように訓練され、前記方法のステップはさらに、
    前記制御コマンドを前記制御対象マシンに送信するステップを備え
    前記受信するステップは、前記制御領域よりも大きな観察領域の交通データを受信するように構成され、前記制御領域は、前記観察領域の一部を形成し、前記アテンションベースのコントローラは、前記観察領域内の前記交通流の前記画像に基づいてアテンション下の前記制御対象マシンのための前記制御コマンドを生成するように訓練され、前記変換するステップは、前記アテンションベースのコントローラで使用するために前記交通データを前記観察領域内の前記交通流の前記画像に変換するように構成され、前記交通データは、前記制御領域内を走行する車両の状態を含み、前記方法のステップはさらに、前記車両の前記状態および前記観察領域の道路地図から前記交通流を判断して前記交通流の密度を生成するステップを備え、前記交通流の密度は、前記道路地図における単位空間当たりの車両の数を示し、前記方法のステップはさらに、前記交通流を前記交通流の画像に画素化するステップを備え、単位空間は、前記交通流の前記画像の画素を形成し、前記単位空間について生成された前記密度の値は、前記画素の値を形成する、方法。
JP2022522501A 2019-10-22 2020-10-20 車両交通のアテンションベースの制御 Active JP7278484B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US16/659,933 2019-10-22
US16/659,933 US20210118288A1 (en) 2019-10-22 2019-10-22 Attention-Based Control of Vehicular Traffic
PCT/JP2020/040025 WO2021080018A1 (en) 2019-10-22 2020-10-20 Attention-based control of vehicular traffic

Publications (2)

Publication Number Publication Date
JP2022537466A JP2022537466A (ja) 2022-08-25
JP7278484B2 true JP7278484B2 (ja) 2023-05-19

Family

ID=73449140

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022522501A Active JP7278484B2 (ja) 2019-10-22 2020-10-20 車両交通のアテンションベースの制御

Country Status (3)

Country Link
US (1) US20210118288A1 (ja)
JP (1) JP7278484B2 (ja)
WO (1) WO2021080018A1 (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102155055B1 (ko) * 2019-10-28 2020-09-11 라온피플 주식회사 강화학습 기반 신호 제어 장치 및 신호 제어 방법
US11620487B2 (en) * 2019-12-31 2023-04-04 X Development Llc Neural architecture search based on synaptic connectivity graphs
US20210295171A1 (en) * 2020-03-19 2021-09-23 Nvidia Corporation Future trajectory predictions in multi-actor environments for autonomous machine applications
US11238729B1 (en) * 2020-09-11 2022-02-01 Toyota Motor Engineering & Manufacturing North America, Inc. Systems and methods for traffic flow prediction
US20220198925A1 (en) * 2020-12-21 2022-06-23 Huawei Technologies Canada Co., Ltd. Temporal detector scan image method, system, and medium for traffic signal control
CN114038212B (zh) * 2021-10-19 2023-03-28 南京航空航天大学 基于双阶段注意力机制和深度强化学习的信号灯控制方法
CN116363878B (zh) * 2023-05-26 2023-08-11 云南大学 基于连续动态常微分方程的交通流量预测系统及方法

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018001444A1 (en) 2016-06-30 2018-01-04 Atto D.O.O. System and method for creation and delivery of personalized traffic and route information
US20180190111A1 (en) 2016-12-29 2018-07-05 X Development Llc Dynamic traffic control
WO2018141403A1 (en) 2017-02-03 2018-08-09 Siemens Aktiengesellschaft System, device and method for managing traffic in a geographical location
JP2018147488A (ja) 2017-03-08 2018-09-20 富士通株式会社 非モーター化交通の情報を組み込む交通信号制御
WO2018224872A1 (en) 2017-06-09 2018-12-13 Prannoy Roy Predictive traffic management system
US20190051171A1 (en) 2017-08-11 2019-02-14 Gridsmart Technologies, Inc. System and method for managing traffic by providing recommendations to connected objects

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018001444A1 (en) 2016-06-30 2018-01-04 Atto D.O.O. System and method for creation and delivery of personalized traffic and route information
US20180190111A1 (en) 2016-12-29 2018-07-05 X Development Llc Dynamic traffic control
WO2018125508A1 (en) 2016-12-29 2018-07-05 X Development Llc Dynamic traffic control
WO2018141403A1 (en) 2017-02-03 2018-08-09 Siemens Aktiengesellschaft System, device and method for managing traffic in a geographical location
JP2018147488A (ja) 2017-03-08 2018-09-20 富士通株式会社 非モーター化交通の情報を組み込む交通信号制御
WO2018224872A1 (en) 2017-06-09 2018-12-13 Prannoy Roy Predictive traffic management system
US20190051171A1 (en) 2017-08-11 2019-02-14 Gridsmart Technologies, Inc. System and method for managing traffic by providing recommendations to connected objects

Also Published As

Publication number Publication date
JP2022537466A (ja) 2022-08-25
US20210118288A1 (en) 2021-04-22
WO2021080018A1 (en) 2021-04-29

Similar Documents

Publication Publication Date Title
JP7278484B2 (ja) 車両交通のアテンションベースの制御
CN113811929B (zh) 用于联合控制车辆的系统和方法
US11714417B2 (en) Initial trajectory generator for motion planning system of autonomous vehicles
US20210114617A1 (en) Method for Using Lateral Motion to Optimize Trajectories for Autonomous Vehicles
CN110562258B (zh) 一种车辆自动换道决策的方法、车载设备和存储介质
US11702070B2 (en) Autonomous vehicle operation with explicit occlusion reasoning
CN112840350A (zh) 自动驾驶车辆规划和预测
EP3588226B1 (en) Method and arrangement for generating control commands for an autonomous road vehicle
US11891087B2 (en) Systems and methods for generating behavioral predictions in reaction to autonomous vehicle movement
US11453410B2 (en) Reducing processing requirements for vehicle control
US9964952B1 (en) Adaptive vehicle motion control system
CN111833597A (zh) 具有规划控制的交通情形中的自主决策
Yu et al. A review on cooperative perception and control supported infrastructure-vehicle system
US20230415753A1 (en) On-Vehicle Driving Behavior Modelling
JP2022041923A (ja) 接続されたデータ分析プラットフォームを用いた車両経路指定
CN116917827A (zh) 驾驶仿真中的代理转换
US20220348223A1 (en) Autonomous vehicle to oversight system communications
US11971259B2 (en) System and method for contextualizing objects in a vehicle horizon
CN116071399A (zh) 轨迹预测方法及装置、模型训练方法及装置、电子设备
US11767032B2 (en) Direct autonomous vehicle to autonomous vehicle communications
US11767031B2 (en) Oversight system to autonomous vehicle communications
Tsu-Tian Research on intelligent transportation systems in Taiwan
US11697435B1 (en) Hierarchical vehicle action prediction
EP4089368A1 (en) Oversight system to autonomous vehicle communications
US11634156B1 (en) Aerial view generation for vehicle control

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211208

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211208

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230124

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230207

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230411

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230509

R150 Certificate of patent or registration of utility model

Ref document number: 7278484

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150