JP7126629B1 - 情報統合装置、情報統合方法、及び情報統合プログラム - Google Patents

情報統合装置、情報統合方法、及び情報統合プログラム Download PDF

Info

Publication number
JP7126629B1
JP7126629B1 JP2021569909A JP2021569909A JP7126629B1 JP 7126629 B1 JP7126629 B1 JP 7126629B1 JP 2021569909 A JP2021569909 A JP 2021569909A JP 2021569909 A JP2021569909 A JP 2021569909A JP 7126629 B1 JP7126629 B1 JP 7126629B1
Authority
JP
Japan
Prior art keywords
information
feature
feature information
features
correction
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021569909A
Other languages
English (en)
Other versions
JPWO2023276025A1 (ja
Inventor
隆文 春日
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Application granted granted Critical
Publication of JP7126629B1 publication Critical patent/JP7126629B1/ja
Publication of JPWO2023276025A1 publication Critical patent/JPWO2023276025A1/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/09Arrangements for giving variable traffic instructions
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16YINFORMATION AND COMMUNICATION TECHNOLOGY SPECIALLY ADAPTED FOR THE INTERNET OF THINGS [IoT]
    • G16Y10/00Economic sectors
    • G16Y10/40Transportation
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16YINFORMATION AND COMMUNICATION TECHNOLOGY SPECIALLY ADAPTED FOR THE INTERNET OF THINGS [IoT]
    • G16Y40/00IoT characterised by the purpose of the information processing
    • G16Y40/10Detection; Monitoring

Abstract

情報統合装置(10)は、移動体(100)に備えられたセンサ(20)からセンサ情報を取得し、センサ情報に基づいて1つ以上の第1の地物を認識し、1つ以上の第1の地物を示す第1の地物情報を生成する認識部(11)と、外部装置(200)から又は取得可能な地図情報から又はこれらの両方から、1つ以上の第2の地物を示す第2の地物情報を取得し、1つ以上の第1の地物と1つ以上の第2の地物の中から同一の地物を特定する同一地物特定部(13)と、同一の地物であると特定された第1の地物と第2の地物との位置の差に基づいて、第1の地物情報及び第2の地物情報の少なくとも一方を補正するために用いる補正情報を生成する補正情報生成部(16)と、補正情報を用いて第1の地物情報及び第2の地物情報の少なくとも一方を補正した後に、第1の地物情報と第2の地物情報とを統合することで統合地物情報を生成する情報統合部(17)とを備えている。

Description

本開示は、情報統合装置、情報統合方法、及び情報統合プログラムに関する。
車両のドライバの運転サポート及び予防安全を目的として、車線逸脱警報(LDW)システム、歩行者検知(PD)システム、アダプティブクルーズコントロール(ACC)システムといった運転支援システムが開発されている。また、目的地までの運転の一部又は全てをドライバに代わって行う自動運転システムが開発されている。
これらのシステムでは、移動体(例えば、車両など)の周辺に存在する地物(例えば、人、物、車両など)の位置、種別、状態(例えば、移動速度、移動方向など)、並びに、移動体に関連する地物(例えば、信号機、車線など)の位置、種別、状態(例えば、信号機の点灯状態など)を、広範囲で精度よく認識することが必要である。
地物の認識は、移動体に搭載されたセンサによって情報を取得し、解析することで行うことが一般的である。しかし、移動体に搭載されたセンサは、広い認識範囲を有しておらず、また、認識精度が低い場合がある。これに対し、特許文献1は、複数の車両に搭載された認識装置が取得した地物情報に基づいて広範囲及び高精度な地物情報を生成することを提案している。
特開2007-179337号公報
しかしながら、各認識装置では、地物の誤認識又は認識誤差が発生する。ここで、認識誤差とは、実際の地物の位置及びサイズと認識結果としての地物情報が示す地物の位置及びサイズとの差である。したがって、複数の認識装置で認識された地物を示す地物情報を統合する場合、1つの地物を複数の地物として処理する可能性があり、広範囲で高精度な地物情報を生成することは困難である。
本開示は、広範囲にある地物の地物情報を高精度に生成することを可能にする情報統合装置、情報統合方法、及び情報統合プログラムを提供することを目的とする。
本開示の情報統合装置は、移動体に備えられたセンサから、前記センサによって取得されたセンサ情報を取得し、取得した前記センサ情報に基づいて前記移動体の周辺の1つ以上の地物である1つ以上の第1の地物を認識し、前記1つ以上の第1の地物を示す第1の地物情報を生成する認識部と、外部装置から、又は前記外部装置及び図情報の両方から、前記移動体の周辺に存在すると認識された1つ以上の地物である1つ以上の第2の地物を示す第2の地物情報を取得し、前記第1の地物情報によって示される前記1つ以上の第1の地物と前記第2の地物情報によって示される前記1つ以上の第2の地物の中から同一の地物を特定する同一地物特定部と、同一の地物であると特定された第1の地物と第2の地物との位置の差に基づいて、前記第1の地物情報及び前記第2の地物情報の少なくとも一方を補正するために用いる補正情報を生成する補正情報生成部と、前記補正情報を用いて前記第1の地物情報及び前記第2の地物情報の少なくとも一方を補正した後に、前記第1の地物情報と前記第2の地物情報とを統合することで統合地物情報を生成する情報統合部と、を備え、前記同一地物特定部は、前記第1の地物情報の認識時刻と前記第2の地物情報の認識時刻とに基づいて、前記第1の地物情報と前記第2の地物情報とを同時刻の情報に補正する時刻補正を行い、前記時刻補正が行われた後に、前記第1の地物情報及び前記第2の地物情報に基づいて、前記同一の地物を特定する処理を行うことを特徴とする。
本開示の情報統合方法は、情報統合装置によって実施される方法であって、移動体に備えられたセンサから、前記センサによって取得されたセンサ情報を取得し、取得した前記センサ情報に基づいて前記移動体の周辺の1つ以上の地物である1つ以上の第1の地物を認識し、前記1つ以上の第1の地物を示す第1の地物情報を生成するステップと、外部装置から、又は前記外部装置及び図情報の両方から、前記移動体の周辺に存在すると認識された1つ以上の地物である1つ以上の第2の地物を示す第2の地物情報を取得し、前記第1の地物情報によって示される前記1つ以上の第1の地物と前記第2の地物情報によって示される前記1つ以上の第2の地物の中から同一の地物を特定するステップと、同一の地物であると特定された第1の地物と第2の地物との位置の差に基づいて、前記第1の地物情報及び前記第2の地物情報の少なくとも一方を補正するために用いる補正情報を生成するステップと、前記補正情報を用いて前記第1の地物情報及び前記第2の地物情報の少なくとも一方を補正した後に、前記第1の地物情報と前記第2の地物情報とを統合することで統合地物情報を生成するステップと、を有し、前記同一の地物を特定する前記ステップでは、前記第1の地物情報の認識時刻と前記第2の地物情報の認識時刻とに基づいて、前記第1の地物情報と前記第2の地物情報とを同時刻の情報に補正する時刻補正を行い、前記時刻補正が行われた後に、前記第1の地物情報及び前記第2の地物情報に基づいて、前記同一の地物を特定することを特徴とする。
本開示によれば、広範囲にある地物の地物情報を高精度に生成することができる。
実施の形態に係る情報統合装置の構成を示す機能ブロック図である。 実施の形態に係る情報統合装置のハードウェア構成を示す図である。 ある時刻における実際の道路状況を示す図である。 (A)は、車両の情報統合装置の認識部によって認識された複数の地物(第1の地物)を示す第1の地物情報を示す図であり、(B)は、路側機の認識装置によって認識された複数の地物(第2の地物)を示す第2の地物情報を示す図である。 (A)は、車両の情報統合装置の認識部によって認識された複数の第1の地物を示す第1の地物情報を示す図であり、(B)は、同図(A)の第1の地物情報を補正して得られた補正後の第1の地物情報を示す図である。 (A)は、車両の情報統合装置の認識部によって認識された複数の第1の地物を示す第1の地物情報を示す図であり、(B)は、路側機の認識装置によって認識された複数の第2の地物を示す第2の地物情報を示す図であり、(C)は、同図(A)及び(B)の地物情報に含まれる同一車両の情報に基づいて同図(A)の第1の地物情報を補正する処理を示す図である。 (A)は、車両の情報統合装置の認識部によって認識された複数の第1の地物(標識を含む)を示す第1の地物情報を示す図であり、(B)は、路側機の認識装置によって認識された又は地図情報に含まれる複数の第2の地物(標識を含む)を示す第2の地物情報を示す図であり、(C)は、同図(A)の第1の地物情報と同図(B)の第2の地物情報とに含まれる標識の情報に基づいて同図(A)の第1の地物情報を補正する処理を示す図である。 (A)は、ある時刻における実際の道路状況を示す図であり、(B)は、車両の情報統合装置の認識部によって認識された複数の第1の地物を示す第1の地物情報(補正前)を示す図であり、(C)は、路側機の認識装置によって認識された複数の第2の地物を示す第2の地物情報(補正前)を示す図である。 (A)は、図8(B)の第1の地物情報を補正して得られた第1の地物情報(すなわち、補正後の第1の地物情報)を示す図であり、(B)は、図8(C)の地物情報を補正して得られた第2の地物情報(補正後の第2の地物情報)を示す図であり、(C)は、図9(A)の第1の地物情報と図9(B)の第2の地物情報とを統合して得られた統合地物情報を示す図である。 実施の形態に係る情報統合装置の動作を示すフローチャートである。
以下に、実施の形態に係る情報統合装置、情報統合方法、及び情報統合プログラムを、図面を参照しながら説明する。以下の実施の形態は、例にすぎず、実施の形態を適宜組み合わせること及び各実施の形態を適宜変更することが可能である。
〈実施の形態の構成〉
図1は、本実施の形態に係る情報統合装置10の構成を示す機能ブロック図である。情報統合装置10は、実施の形態に係る情報統合方法を実施することができる装置である。図1の例では、情報統合装置10は、認識部11、情報送受信部12、同一地物特定部13、補正情報生成部16、情報統合部17、地図情報格納部14、及び補正情報格納部15を備える。これらの構成の詳細は、後述される。
図1には、移動機能を備えた物体(すなわち、走行可能な物体)である移動体としての車両100に搭載された情報統合装置10が示されている。しかし、情報統合装置10は、車両100以外の移動体(例えば、船舶、ロボット、パーソナルモビリティなど)にも搭載可能である。また、情報統合装置10は、移動機能を備えていない固定体(例えば、インフラ設備など)にも搭載可能である。ここで、インフラ設備は、例えば、信号機又は路側機などである。また、情報統合装置10は、ネットワークを介して移動体、固定体などと通信可能なサーバに搭載されてもよい。
以下の説明では、車両100に情報統合装置10が搭載された例を説明する。車両100には、情報統合装置10と、車載センサ20とが搭載されている。車載センサ20は、例えば、カメラ、ミリ波レーダ、Lidar(Light Detection And Ranging)、ソナーなどのセンサ、又はこれらのセンサのうちの2つ以上の組み合わせで構成される。車載センサ20と認識部11とは、周辺の地物を認識する認識装置(「認識手段」ともいう。)を構成する。
図1では、車両100に、情報統合装置10と車載センサ20とが搭載されているが、車両100には、緊急自動ブレーキ、車線走行維持などを行う先進運転支援装置、目的地までの運転の一部又は全てをドライバに代わって行う自動運転装置などの装置が搭載されてもよい。或いは、情報統合装置10は、先進運転支援装置、自動運転装置、などを構成する装置の一部であってもよい。
情報統合装置10は、移動体ある車両100に備えられた車載センサ20から、車載センサ20によって取得されたセンサ情報を取得し、取得したセンサ情報に基づいて車両100の周辺(例えば、移動経路上)の1つ以上の地物である1つ以上の第1の地物を認識し、1つ以上の第1の地物を示す第1の地物情報を生成する認識部11と、外部装置(例えば、路側機200)から、又は取得可能な地図情報(例えば、地図情報14a)から、又は外部装置及び地図情報の両方から、車両100の周辺に存在すると認識された1つ以上の地物である1つ以上の第2の地物を示す第2の地物情報を取得し、第1の地物情報によって示される1つ以上の第1の地物と第2の地物情報によって示される1つ以上の第2の地物の中から同一の地物を特定する同一地物特定部13とを備えている。また、情報統合装置10は、同一の地物であると特定された第1の地物と第2の地物との位置の差に基づいて、第1の地物情報及び第2の地物情報の少なくとも一方を補正するために用いる補正情報を生成する補正情報生成部16と、生成された補正情報を用いて第1の地物情報及び第2の地物情報の少なくとも一方を補正した後に、第1の地物情報と第2の地物情報とを統合することで統合地物情報を生成する情報統合部17とを備えている。
図2は、本実施の形態に係る情報統合装置10のハードウェア構成を示す図である。情報統合装置10は、例えば、コンピュータ、専用の演算装置、又はコンピュータと専用の演算装置とを組み合わせた装置である。情報統合装置10は、情報処理部であるプロセッサ31と、記憶部であるメモリ32と、不揮発性の記憶部である記憶装置33と、インタフェース34と、通信部35とを備える。
プロセッサ31は、システムバスを介して他のハードウェアと接続され、これら他のハードウェアを制御する。プロセッサ31は、プロセッシングを行うIC(Integrated Circuit)である。プロセッサ31の具体例は、CPU(Central Processing Unit)、DSP(Digital Signal Processor)、GPU(Graphics Processing Unit)、又はFPGA(Field Programmable Gate Array)である。
プロセッサ31は、メモリ32に記憶されるプログラムを実行する。プログラムは、本実施の形態に係る情報統合プログラムを含む。情報統合装置10の機能は、プログラムを実行するプロセッサ31によって実現される。プロセッサ31は、プロセッシングサーキットリー(処理回路)の一例である。
例えば、認識部11、情報送受信部12、同一地物特定部13、及び補正情報生成部16、情報統合部17は、プロセッサ31で実現され、地図情報格納部14と補正情報格納部15は、メモリ32で実現される。
CPUは、プログラムの実行、データ演算などの処理を行う。DSPは、算術演算、データ移動などのデジタル信号処理を行う。例えば、ミリ波レーダから得られるセンサデータのセンシングといった処理は、CPUが処理でせずに、DSPによって高速に処理することが望ましい。
GPUは、画像の処理に特化したプロセッサである。GPUは、複数の画素データを並列処理することで、高速な画像処理が可能である。GPUは、画像処理で頻繁に使われるテンプレートマッチング処理を、高速に処理できる。例えば、カメラから得られるセンサデータのセンシングは、GPUで処理することが望ましい。カメラから得られるセンサデータのセンシングをCPUで処理すると、処理時間が膨大になる。また、GPUは、単なる画像処理用のプロセッサとしてではなく、GPUの演算資源を用いて、汎用計算を行う使い方(GPGPU:General Purpose Computing on Graphics Processing Units)がある。従来の画像処理技術では、画像に映りこむ車両の検出精度に限界が合ったが、GPGPUによるディープラーニングで画像処理を行うことでより高精度に車両を検出することができる。
FPGAは、論理回路の構成をプログラム可能なプロセッサである。FPGAは、専用のハードウェア演算回路とプログラム可能なソフトウェアとの両方の性質を持つ。複雑な演算及び並列性のある処理は、FPGAで高速に実行できる。
メモリ32は、例えば、揮発性メモリである。揮発性メモリは、情報統合装置10の動作時に、データを高速に移動可能である。揮発性メモリの具体例は、DDR2-SDRAM(Double-Data-Rate2 Synchronous Dynamic Random Access Memory)、DDR3-SDRAM(Double-Data-Rate3 Synchronous Dynamic Random Access Memory)である。
記憶装置33は、不揮発性メモリであり、情報統合装置10の電源がオフの間も、実行プログラム及びデータを保持し続けることができる。不揮発性メモリの具体例は、HDD(Hard Disk Drive)、SSD(Solid State Drive)、フラッシュメモリである。不揮発性メモリは、SD(Secure Digital)メモリカード、CF(CompactFlash(登録商標))、NANDフラッシュ、フレキシブルディスク、光ディスク、コンパクトディスク、ブルーレイ(登録商標)ディスク、DVDといった可搬記憶媒体であってもよい。メモリ32は、図示していないメモリインタフェースを介して、プロセッサ31と接続される。メモリインタフェースは、プロセッサからのメモリアクセスを一元的に管理し、効率的なメモリアクセス制御を行う。メモリインタフェースは、情報統合装置10におけるデータ転送に利用される。
図1に示される、認識部11、情報送受信部12、同一地物特定部13、補正情報生成部16、及び情報統合部17の機能は、プログラムを実行するプロセッサ31により実現される。メモリ32には、認識部11、情報送受信部12、同一地物特定部13、補正情報生成部16、及び情報統合部17の機能を実現するプログラムが記憶されている。プロセッサ31は、これらのプログラムをメモリ32から読み込み、これらのプログラムを実行する。また、メモリ32は、各プログラムの中間情報を一時的に格納することにも使用される。
また、認識部11、情報送受信部12、同一地物特定部13、補正情報生成部16、及び情報統合部17の機能は、ハードウェアである論理回路により実現されてもよい。この場合は、メモリ32には、論理回路情報が記憶される。論理回路情報は、プロセッサ31により読み込まれて実行される。
プロセッサ31は、複数のプロセッサでも構成されてもよい。この場合、複数のプロセッサが、認識部11、情報送受信部12、同一地物特定部13、補正情報生成部16、及び情報統合部17の各機能を実現するプログラムを連携して実行してもよい。
メモリ32には、地図情報14aと補正情報15aが記憶されている。地図情報14aは、路面標示、標識及び信号機などの種類、位置、幅、大きさなどから成る高精度な道路環境の情報である。補正情報15aは、地物情報の誤認識、認識誤差を補正するために使用される情報である。ただし、地図情報14aと補正情報15aは、情報統合装置10の外部の記憶装置に格納されてもよい。
車両100には、1つ以上の車載センサ20が取り付けられている。車載センサ20は、情報統合装置10が車両100の周辺状況を認識するためのセンサ情報を情報統合装置10に出力する。
また、認識部11、情報送受信部12、同一地物特定部13、補正情報生成部16、及び情報統合部17の処理の結果を示す情報、データ、信号値及び変数値の少なくともいずれかが、メモリ32、プロセッサ31のレジスタ及びキャッシュメモリの少なくともいずれかに記憶される。
また、認識部11、情報送受信部12、同一地物特定部13、補正情報生成部16、及び情報統合部17の機能を実現するプログラムは、磁気ディスク、フレキシブルディスク、光ディスク、コンパクトディスク、ブルーレイ(登録商標)ディスク、DVD等の可搬記録媒体に格納されていてもよい。そして、認識部11、情報送受信部12、同一地物特定部13、補正情報生成部16、及び情報統合部17の機能を実現するプログラムが格納された可搬記録媒体を商業的に流通させてもよい。
また、認識部11、情報送受信部12、同一地物特定部13、補正情報生成部16、及び情報統合部17の「部」を、「回路」又は「工程」又は「手順」又は「処理」に読み替えてもよい。
次に、情報統合装置10を構成する、認識部11、情報送受信部12、同一地物特定部13、地図情報14a、補正情報15a、補正情報生成部16、及び情報統合部17の詳細を説明する。
認識部11は、移動体である車両100の周辺(例えば、車両100が走行している車線、この車線に並ぶ他の車線、など)に存在する1つ以上の認識対象物である1つ以上の地物の位置とその属性を、車両100の移動経路上の移動に伴い、移動経路上の複数の位置で認識する。認識部11は、移動経路の周辺に存在する1つ以上の認識対象物の位置とその属性を認識してもよい。認識対象物は、移動経路の近傍に存在する地物及び移動経路上に存在する地物のいずれであってもよい。認識対象物は、立体の地物又は平面の地物のいずれであってもよい。認識対象物である地物とは、例えば、路面標示、標識、信号機、他車両、及び歩行者である。
認識部11は、認識対象物の地物情報として、地物の位置、及び属性を認識する。認識対象物の属性は、認識対象物の種類、及び認識対象物の状態の少なくとも一方を含む。認識対象物の種類は、例えば、認識された物体が、人、他車両、標識などのいずれであるかを示す情報である。また、認識対象物が標識であれば、認識対象物の種類は、標識の種類まで細かく分類した情報を含んでもよい。認識対象物が車両であれば、認識対象の種類は、普通自動車、トラック、軽自動車など車種を細かく分類した情報を含んでもよい。認識対象物の状態とは、例えば、認識対象物が信号機であれば、認識対象の種類は、赤信号、青信号、黄信号のいずが点灯中であるかを示す情報を含んでもよい。認識部11により行われる処理は、情報統合方法における認識処理に相当する。
地図情報格納部14は、路面標示、標識及び信号機などの種類、位置、幅、大きさなどから成る高精度な道路環境の地図情報14aを記憶する記憶部である。地図情報格納部14は、ネットワークを介して通信可能なサーバによって管理される記憶装置であってもよい。地図情報は、車両100が走行予定の領域の地図情報を含む。
同一地物特定部13は、認識部11によって認識された地物情報(「第1の地物情報」ともいう。)と、車両100以外の機器(例えば、路側機)に搭載された認識装置によって認識された地物情報(「第2の地物情報」ともいう。)とを比較し、第1の地物情報に含まれる1つ以上の地物(「第1の地物」ともいう。)と第2の地物情報に含まれる1つ以上の地物(「第2の地物」ともいう。)とを比較することによって、同一の地物を特定する。
図3は、ある時刻Tにおける実際の道路状況を示す図である。図3には、時刻Tに、実際に道路に存在する複数の地物が示されている。図3において、車両100は情報統合装置10を有し、路側機200は地物を認識する認識装置を有している。路側機200の認識装置としては、各種の認識装置を使用可能であるが、車両100に搭載された認識装置と同様のものであってもよい。
図4(A)は、時刻Tに車両100の情報統合装置10の認識部11によって認識された複数の第1の地物を矩形の実線枠で示す。図4(B)は、時刻Tに路側機200の認識装置によって認識された複数の第2の地物を矩形の破線枠で示す。車両100の情報統合装置10の認識部11による認識領域と路側機200の認識装置による認識領域とが部分的に共通であるため、車両100の情報統合装置10の認識部11によって認識された第1の地物である車両Vaと路側機200の認識装置によって認識された第2の地物である車両Vaとは、同一の地物である。しかし、図4(A)で情報統合装置10の認識部11によって認識された車両Vaの位置と、図4(B)で路側機200の認識装置によって認識された車両Vaの位置とは異なっている。
図4(A)における車両Va及び図4(B)における車両Vaの位置と、図3に示される実際の車両Vaの位置とを比較すると、車両100の情報統合装置10によって認識された車両Vaの位置に誤差が含まれていることが分かる。このため、絶対的な位置情報を基に、車両100の情報統合装置10の認識部11によって認識された車両Vaと路側機200の認識装置によって認識された車両Vaとを同一の地物であると判断することができない。そこで、情報統合装置10の同一地物特定部13は、他の特徴から、情報統合装置10の認識部11によって認識された車両Vaと路側機200の認識装置によって認識された車両Vaとが同一の地物であると判断する。
他の特徴としては、地図情報に含まれる標識、停止線、看板、トンネルの入り口などのランドマーク情報、車両の種別、速度、他の地物との相対位置関係情報等が挙げられる。例えば、相対的な位置情報を用いる場合には、車両100の情報統合装置10の認識部11によって認識された車両Vaと路側機200の認識装置によって認識された車両Vaの何れも、右車線一定距離の場所に同一の赤い車両Vbが存在する。このように、同一地物特定部13は、車両100の情報統合装置10の認識部11によって認識された地物を示す地物情報の位置情報に検出誤差があったとしても、相対的な位置関係などを基に判断することで、情報統合装置10の認識部11によって認識された車両Vaと路側機200の認識装置によって認識された車両Vaが同一の地物であると判断することができる。同一地物特定部13は、その他の特徴のいずれか1つもしくは2つ以上、又は、その他の特徴の全てを組み合わせて同一の地物を特定する。同一地物特定部13により行われる処理は、情報統合装置10における同一の地物の特定処理に相当する。
図5(A)は、車両100の情報統合装置10の認識部11によって認識された複数の第1の地物を示す第1の地物情報を示す図である。図5(B)は、図5(A)の第1の地物情報を補正して得られた補正後の第1の地物情報を示す図である。図3には、時刻T(「基準時刻」ともいう。)における実際の地物が示される。しかしながら、情報統合装置10の認識部11、及び、路側機200の認識装置は、一定の周期で認識を行っているため、情報統合装置10の認識部11が取得する第1の地物情報、及び、路側機200が取得する第2の地物情報は、時刻Tの瞬間に認識されたものではない。
図5(A)では、車両100の情報統合装置10の認識部11によって認識された複数の第1の地物を示す第1の地物情報の認識時刻は、基準時刻である時刻TよりもΔTa遅いTa(=T+ΔTa)である。同一地物特定部13は、例えば、車両100の速度情報と誤差時刻であるΔTaに基づいて、時刻Tにおける地物情報を基に時刻Tに同期する処理を実施する。同一の地物の判定前に時刻同期をすることで、同一の地物の特定率を上げることができる。
図6(A)は、車両100の情報統合装置10の認識部11によって認識された複数の第1の地物を示す第1の地物情報を示す図である。図6(B)は、路側機200の認識装置によって認識された複数の第2の地物を示す第2の地物情報を示す図である。図6(C)は、図6(A)の第1の地物情報及び図6(B)の第2の地物情報に含まれる同一車両の情報に基づいて、図6(A)の第1の地物情報を補正する処理を示す図である。
補正情報生成部16は、同一地物特定部13によって特定された同一の地物を基に、情報統合装置10の認識部11によって認識された複数の第1の地物を示す第1の地物情報及び路側機200の認識装置によって認識された複数の第2の地物を示す第2の地物情報における、誤認識及び認識誤差を補正するために使用される補正情報を生成する。図6(A)から(C)は、路側機200の認識装置による第2の地物の認識精度が、情報統合装置10の認識部11による第1の地物の認識精度よりも高い場合を示す。同一地物特定部13で同一と判断された車両Vaにおいて、車両100による車両Vaの位置情報と路側機200による車両Vaの位置情報とを比較すると、X軸方向の位置に距離「50」の差があることが分かる。このため、補正情報生成部16は、情報統合装置10の認識部11による地物情報の全てのX軸方向の位置に、距離「50」を加算する必要があるという補正情報を生成する。
図7(A)は、情報統合装置10の認識部11によって認識された複数の第1の地物(標識を含む)を示す第1の地物情報を示す図である。図7(B)は、路側機200の認識装置によって認識された又は地図情報に含まれる複数の第2の地物(標識を含む)を示す第2の地物情報を示す図である。図7(C)は、図7(A)の地物情報と図7(B)の地物情報又は地図情報とに含まれる標識の情報に基づいて図7(A)の第1の地物情報を補正する処理を示す図である。
補正情報を生成するには、補正情報生成部16は、まず情報統合装置10の認識部11及び路側機200のび認識装置のいずれか1つ、又は2つ以上、又は全てに補正が必要であるかを判断する。地図情報に含まれる標識情報の絶対的な位置情報は、正確な位置情報である。補正情報生成部16は、情報統合装置10の認識部11によって認識された標識の位置と路側機200の認識装置によって認識された標識の位置を地図情報に含まれる標識の位置と比較することで、情報統合装置10の認識部11によって認識された標識の位置情報は、地図情報に含まれている標識の位置情報と異なるため補正が必要であると判断し、路側機200の認識装置によって認識された標識の位置情報は、地図情報に含まれている標識の位置情報と一致しているため補正が不要であると判断する。さらに、補正情報生成部16は、情報統合装置10の認識部11によって認識された標識の位置が、地図情報に含まれている標識の位置より、-X軸方向に距離「50」ずれていると判断する。このため、補正情報生成部16は、情報統合装置10の認識部11によって認識された第1の地物の全ての位置を、+X軸方向に距離「50」移動させるという補正情報を生成する。補正情報生成部16により行われる処理は、情報統合装置10の補正情報生成処理に相当する。
補正情報格納部15は、補正情報生成部16が生成した補正情報15aを記憶する記憶部である。
情報送受信部12は、認識部11によって認識された第1の地物を示す第1の地物情報と補正情報生成部16が生成した補正情報のいずれか一方又は両方を他の移動体又は固定体に搭載された認識装置に送信する。また、情報送受信部12は、他の移動体又は固定体に搭載された認識装置から地物情報と補正情報のいずれか一方又は両方を受信する取得部である。
情報統合部17は、認識部11によって認識された第1の地物を示す第1の地物情報と情報送受信部12が受信した他の移動体又は固定体に搭載された認識装置によって認識された第2の地物を示す第2の地物情報とを統合し、広範囲の地物情報を生成する。特に、情報統合部17は、補正情報生成部16が生成した補正情報と、他の移動体又は固定体に搭載された認識装置が生成した補正情報とを基に、認識部11によって認識された第1の地物を示す第1の地物情報と情報送受信部12が受信した第2の地物を示す第2の地物情報の一方又は両方の誤認識及び認識誤差を補正して、情報を統合することで正確かつ広範囲の統合地物情報を生成することができる。
図8(A)は、ある時刻Tにおける実際の道路状況を示す図である。図8(B)は、情報統合装置10の認識部11によって認識された複数の第1の地物を示す第1の地物情報を示す図である。図8(C)は、路側機200の認識装置によって認識された複数の第2の地物を示す第2の地物情報を示す図である。図9(A)は、図8(B)の第1の地物情報を補正して得られた補正後の第1の地物情報を示す図である。図9(B)は、図8(C)の第2の地物情報を補正して得られた補正後の第2の地物情報を示す図である。図9(C)は、図9(A)及び(B)の地物情報を統合して得られた統合地物情報を示す図である。
まず、地物情報(補正前)に対して補正情報を用いて補正を実施する。この例では、車両100の情報統合装置10の認識部11によって認識された複数の第1の地物を示す第1の地物情報について、複数の第1の地物の位置を+X軸方向に距離「50」移動させる、すなわち、X座標に「50」を加算することで補正するという補正情報が格納されている。この補正情報を基に、第1の地物情報を補正した図が、図9(A)に示される。図9(A)に示される第1の地物情報(補正後)と図9(B)に示される第2の地物情報(補正後)とを統合することで実際の道路状況を正確に認識した地物を示す統合地物情報(図9(C))を生成することができる。情報統合部17により行われる処理は、情報統合処理に相当する。
〈実施の形態の動作〉
次に、本実施の形態に係る情報統合装置10の動作を説明する。図10は、情報統合装置10の動作を示すフローチャートである。
まず、ステップS10において、認識部11は、車載センサ20の出力に基づいて、車両100の周辺に存在する1つ以上の第1の地物の認識処理を行って第1の地物情報を取得し、情報送受信部12は、1つ以上の第2の地物についての第2の地物情報を取得する。
ステップS11では、同一地物特定部13は、認識部11で生成した第1の地物情報、及び情報送受信部12が受信した他の移動体又は固定体に搭載された認識装置により生成された第2の地物情報に対する補正情報が既に生成済みであるか否か(すなわち、補正情報有りか無か。)を判定する。補正情報が既に生成済みである場合(すなわち、補正情報有りの場合)には、処理はステップS12に進み、補正情報が生成済みでない場合(すなわち、補正情報無しの場合)には、処理はステップS14に進む。
ステップS12では、補正情報生成部16は、補正情報を生成したときの環境と現在の環境の変化(すなわち、環境の差)の有無を判定する。補正情報は、環境に大きく依存する。例えば、車両が速度60km/hで走行中のときの認識誤差と、車両が速度10km/hで走行中のときの認識誤差とは、大きく異なる。このため、生成済みの補正情報は、その補正情報を生成した環境と同じ環境のときのものか又は同等の環境のときのもの(すなわち、環境の差が予め決められた範囲内であるときのもの)である場合に、正しく地物情報の誤検出、認識誤差を補正するために使用することができる。ここで、「環境」は、移動体の走行状態(速度、加減速度、ステアリング角度など)、道路環境(直線区間、カーブ、交差点付近、トンネル内など)、天候などを示す。この判定後、処理はステップS13に進む。
ステップS13では、補正情報生成部16は、ステップS12の環境変化の有無に応じて補正情報の生成要否を判定する。環境変化がない場合(ステップS13において判断が無の場合)、既に生成済みの補正情報が有効であるため、処理はステップS17に進む。環境変化が有る場合(ステップS13において判断が有り場合)には、補正情報を生成する必要があるため、処理はステップS14に進む。
ステップS14では、同一地物特定部13は、認識部11によって認識された1つ以上の第1の地物を示す第1の地物情報に含まれる認識時刻と情報送受信部12が受信した1つ以上の第2の地物を示す第2の地物情報の認識時刻を補正し、時刻同期の処理である時刻補正を行う。つまり、同一地物特定部13は、第1の地物情報の認識時刻と第2の地物情報の認識時刻とに基づいて、第1の地物情報と第2の地物情報とを同時刻の情報に補正する時刻補正を行う。
ステップS15では、同一地物特定部13は、時刻補正済みの第1の地物情報と第2の地物情報の中から同一の地物を特定する。同一の地物を特定する例としては、高精度地図の特徴点を用いて特徴点からの相対距離が一致する地物を同一と特定する方法、複数の地物の相対関係から同一の地物を特定する方法、などが挙げられる。
ステップS16では、補正情報生成部16は、同一地物特定部13によって特定された同一の地物の情報と複数の認識装置による地物情報を基に情報統合装置10の認識部11及び路側機200の認識装置によって認識された地物を示す地物情報の誤認識及び認識誤差を補正する補正情報を生成する。補正情報の生成手段としては、同一であると特定した地物の位置が一致していなければ、信頼度が低い認識装置による地物情報を信頼度が高い地物情報の位置に合わせる情報となる。生成した補正情報は、補正情報格納部15に格納する。
ステップS17では、情報統合部17は、補正情報を用いて、情報統合装置10の認識部11によって生成された第1の地物情報と、路側機200の認識装置が生成した第2の地物情報とに現れる地物情報の誤認識及び認識誤差を補正する。
ステップS18では、情報統合部17は、補正された第1の地物情報及び第2の認識情報とを統合することで、広範囲で正確な統合地物情報を生成する。
〈実施の形態の効果〉
以上に説明したように、本実施の形態に係る情報統合装置10によれば、車両100の情報統合装置10の認識部11によって認識された1つ以上の第1の地物を示す第1の地物情報及び路側機200の認識装置によって認識された1つ以上の第2の地物を示す第2の地物情報を比較し、比較の結果に基づいて第1の地物情報又は第2の地物情報の少なくとも一方を補正し、その後、第1の地物情報と第2の地物情報とを統合して、統合地物情報を生成する。このため、情報統合装置10によれば、広範囲の地物情報を正確に把握することができる。
また、本実施の形態に係る情報統合装置10を用いた移動体は、その周辺の地物情報を把握し、把握した地物情報を基に移動体の運転に係る運転支援情報を生成する運転支援装置に適切な地物情報を提供することができる。
また、本実施の形態に係る情報統合装置10を用いた移動体は、その周辺の地物情報を把握し、把握した地物情報を基に移動体の自立走行に係る自立走行情報を生成する自立走行装置に適切な地物情報を提供することができる。
10 情報統合装置、 11 認識部、 12 情報送受信部(通信部)、 13 同一地物特定部、 14 地図情報格納部、 14a 地図情報、 15 補正情報格納部、 15a 補正情報、 16 補正情報生成部、 17 情報統合部、 20 車載センサ、 100 車両、 200 路側機、 300 標識。

Claims (10)

  1. 移動体に備えられたセンサから、前記センサによって取得されたセンサ情報を取得し、取得した前記センサ情報に基づいて前記移動体の周辺の1つ以上の地物である1つ以上の第1の地物を認識し、前記1つ以上の第1の地物を示す第1の地物情報を生成する認識部と、
    外部装置から、又は前記外部装置及び図情報の両方から、前記移動体の周辺に存在すると認識された1つ以上の地物である1つ以上の第2の地物を示す第2の地物情報を取得し、前記第1の地物情報によって示される前記1つ以上の第1の地物と前記第2の地物情報によって示される前記1つ以上の第2の地物の中から同一の地物を特定する同一地物特定部と、
    同一の地物であると特定された第1の地物と第2の地物との位置の差に基づいて、前記第1の地物情報及び前記第2の地物情報の少なくとも一方を補正するために用いる補正情報を生成する補正情報生成部と、
    前記補正情報を用いて前記第1の地物情報及び前記第2の地物情報の少なくとも一方を補正した後に、前記第1の地物情報と前記第2の地物情報とを統合することで統合地物情報を生成する情報統合部と、
    を備え、
    前記同一地物特定部は、前記第1の地物情報の認識時刻と前記第2の地物情報の認識時刻とに基づいて、前記第1の地物情報と前記第2の地物情報とを同時刻の情報に補正する時刻補正を行い、前記時刻補正が行われた後に、前記第1の地物情報及び前記第2の地物情報に基づいて、前記同一の地物を特定する処理を行う
    ことを特徴とする情報統合装置。
  2. 前記第1の地物情報は、前記1つ以上の第1の地物の位置及び属性を含み、
    前記第2の地物情報は、前記1つ以上の第2の地物の位置及び属性を含む
    ことを特徴とする請求項1に記載の情報統合装置。
  3. 前記移動体は、走行可能な車両であり、
    前記外部装置は、固定された1つ以上の認識装置、他の移動体に備えられた1つ以上の認識装置、又は、固定された1つ以上の認識装置及び他の移動体に備えられた1つ以上の認識装置の組み合わせであり、前記1つ以上の第2の地物を認識して前記第2の地物情報を生成する
    ことを特徴とする請求項1又は2に記載の情報統合装置。
  4. 前記地図情報は、前記移動体が走行予定の領域の地図情報を含む
    ことを特徴とする請求項1から3のいずれか1項に記載の情報統合装置。
  5. 前記地図情報は、前記移動体に備えられた記憶装置又はネットワーク上の情報提供サーバに記憶されている情報である
    ことを特徴とする請求項1から4のいずれか1項に記載の情報統合装置。
  6. 前記第1の地物情報と前記補正情報の少なくとも一方を前記外部装置に送信する通信部をさらに有する
    ことを特徴とする請求項1から5のいずれか1項に記載の情報統合装置。
  7. 前記同一地物特定部は、前記補正情報が既に生成済みであるか否かを判定し、
    前記補正情報生成部は、前記補正情報が生成済みでない場合に、前記補正情報を生成する
    ことを特徴とする請求項1から6のいずれか1項に記載の情報統合装置。
  8. 前記補正情報が既に生成済である場合、前記情報統合部は、前記補正情報を生成したときにおける前記移動体の環境と現在の前記移動体の環境の差が予め決められた範囲内であるときに、生成済みの前記補正情報を用いて補正を行う
    ことを特徴とする請求項7に記載の情報統合装置。
  9. 情報統合装置によって実施される情報統合方法であって、
    移動体に備えられたセンサから、前記センサによって取得されたセンサ情報を取得し、取得した前記センサ情報に基づいて前記移動体の周辺の1つ以上の地物である1つ以上の第1の地物を認識し、前記1つ以上の第1の地物を示す第1の地物情報を生成するステップと、
    外部装置から、又は前記外部装置及び図情報の両方から、前記移動体の周辺に存在すると認識された1つ以上の地物である1つ以上の第2の地物を示す第2の地物情報を取得し、前記第1の地物情報によって示される前記1つ以上の第1の地物と前記第2の地物情報によって示される前記1つ以上の第2の地物の中から同一の地物を特定するステップと、
    同一の地物であると特定された第1の地物と第2の地物との位置の差に基づいて、前記第1の地物情報及び前記第2の地物情報の少なくとも一方を補正するために用いる補正情報を生成するステップと、
    前記補正情報を用いて前記第1の地物情報及び前記第2の地物情報の少なくとも一方を補正した後に、前記第1の地物情報と前記第2の地物情報とを統合することで統合地物情報を生成するステップと、
    を有し、
    前記同一の地物を特定する前記ステップでは、前記第1の地物情報の認識時刻と前記第2の地物情報の認識時刻とに基づいて、前記第1の地物情報と前記第2の地物情報とを同時刻の情報に補正する時刻補正を行い、前記時刻補正が行われた後に、前記第1の地物情報及び前記第2の地物情報に基づいて、前記同一の地物を特定する
    ことを特徴とする情報統合方法。
  10. 移動体に備えられたセンサから、前記センサによって取得されたセンサ情報を取得し、取得した前記センサ情報に基づいて前記移動体の周辺の1つ以上の地物である1つ以上の第1の地物を認識し、前記1つ以上の第1の地物を示す第1の地物情報を生成するステップと、
    外部装置から、又は前記外部装置及び図情報の両方から、前記移動体の周辺に存在すると認識された1つ以上の地物である1つ以上の第2の地物を示す第2の地物情報を取得し、前記第1の地物情報によって示される前記1つ以上の第1の地物と前記第2の地物情報によって示される前記1つ以上の第2の地物の中から同一の地物を特定するステップと、
    同一の地物であると特定された第1の地物と第2の地物との位置の差に基づいて、前記第1の地物情報及び前記第2の地物情報の少なくとも一方を補正するために用いる補正情報を生成するステップと、
    前記補正情報を用いて前記第1の地物情報及び前記第2の地物情報の少なくとも一方を補正した後に、前記第1の地物情報と前記第2の地物情報とを統合することで統合地物情報を生成するステップと、
    を有し、
    前記同一の地物を特定する前記ステップでは、前記第1の地物情報の認識時刻と前記第2の地物情報の認識時刻とに基づいて、前記第1の地物情報と前記第2の地物情報とを同時刻の情報に補正する時刻補正を行い、前記時刻補正が行われた後に、前記第1の地物情報及び前記第2の地物情報に基づいて、前記同一の地物を特定する
    処理、をコンピュータに実行させることを特徴とする情報統合プログラム。
JP2021569909A 2021-06-30 2021-06-30 情報統合装置、情報統合方法、及び情報統合プログラム Active JP7126629B1 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2021/024695 WO2023276025A1 (ja) 2021-06-30 2021-06-30 情報統合装置、情報統合方法、及び情報統合プログラム

Publications (2)

Publication Number Publication Date
JP7126629B1 true JP7126629B1 (ja) 2022-08-26
JPWO2023276025A1 JPWO2023276025A1 (ja) 2023-01-05

Family

ID=83047414

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021569909A Active JP7126629B1 (ja) 2021-06-30 2021-06-30 情報統合装置、情報統合方法、及び情報統合プログラム

Country Status (2)

Country Link
JP (1) JP7126629B1 (ja)
WO (1) WO2023276025A1 (ja)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020012207A1 (ja) * 2018-07-11 2020-01-16 日産自動車株式会社 走行環境情報の生成方法、運転制御方法、走行環境情報生成装置
WO2020058735A1 (ja) * 2018-07-02 2020-03-26 日産自動車株式会社 走行支援方法及び走行支援装置

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020058735A1 (ja) * 2018-07-02 2020-03-26 日産自動車株式会社 走行支援方法及び走行支援装置
WO2020012207A1 (ja) * 2018-07-11 2020-01-16 日産自動車株式会社 走行環境情報の生成方法、運転制御方法、走行環境情報生成装置

Also Published As

Publication number Publication date
JPWO2023276025A1 (ja) 2023-01-05
WO2023276025A1 (ja) 2023-01-05

Similar Documents

Publication Publication Date Title
US10816984B2 (en) Automatic data labelling for autonomous driving vehicles
US10816992B2 (en) Method for transforming 2D bounding boxes of objects into 3D positions for autonomous driving vehicles (ADVs)
US10394245B2 (en) Method and system to predict vehicle traffic behavior for autonomous vehicles to make driving decisions
CN108688660B (zh) 运行范围确定装置
JP2019182399A (ja) 自動運転に用いられる感知と計画のコラボレーションフレームワーク
JP7040374B2 (ja) 物体検出装置、車両制御システム、物体検出方法及び物体検出用コンピュータプログラム
JP6757442B2 (ja) 自動運転車における車線後処理
US20210163037A1 (en) Map-less and localization-less lane following method for autonomous driving of autonomous driving vehicles on highway
JP6908674B2 (ja) 自動運転車両を動作させるための所定のキャリブレーションテーブルに基づく車両制御システム
US20210001883A1 (en) Action selection device, computer readable medium, and action selection method
US20210206392A1 (en) Method and device for operating an automated vehicle
KR20200084446A (ko) 전자 장치 및 그의 제어 방법
US20200250970A1 (en) Information processing apparatus, information processing method and program
JP7126629B1 (ja) 情報統合装置、情報統合方法、及び情報統合プログラム
JP6861911B2 (ja) 情報処理装置、情報処理方法及び情報処理プログラム
JP7203902B2 (ja) 制御装置、移動体、制御方法及びプログラム
JP7307824B1 (ja) 情報処理装置、移動体、システム、情報処理方法、及びプログラム
JP7241582B2 (ja) 移動体位置検出方法及び移動体位置検出システム
EP4064220A1 (en) Method, system and device for detecting traffic light for vehicle
JP2023145103A (ja) 情報処理装置、移動体、システム、情報処理方法、プログラム、及びサーバ
WO2020073272A1 (en) Snapshot image to train an event detector
WO2020073271A1 (en) Snapshot image of traffic scenario
WO2020073270A1 (en) Snapshot image of traffic scenario
WO2020073268A1 (en) Snapshot image to train roadmodel
JP2022139009A (ja) 運転支援装置、運転支援方法及びプログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211124

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211124

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20211124

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20211221

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220214

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220315

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220428

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220614

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220629

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220719

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220816

R150 Certificate of patent or registration of utility model

Ref document number: 7126629

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150