WO2024014414A1 - データ処理アルゴリズム評価装置 - Google Patents

データ処理アルゴリズム評価装置 Download PDF

Info

Publication number
WO2024014414A1
WO2024014414A1 PCT/JP2023/025294 JP2023025294W WO2024014414A1 WO 2024014414 A1 WO2024014414 A1 WO 2024014414A1 JP 2023025294 W JP2023025294 W JP 2023025294W WO 2024014414 A1 WO2024014414 A1 WO 2024014414A1
Authority
WO
WIPO (PCT)
Prior art keywords
data
learning
disturbance
target
processing algorithm
Prior art date
Application number
PCT/JP2023/025294
Other languages
English (en)
French (fr)
Inventor
裕量 清水
稔晃 西森
健太 中尾
俊介 上條
珍鎬 李
Original Assignee
三菱重工機械システム株式会社
国立大学法人東京大学
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 三菱重工機械システム株式会社, 国立大学法人東京大学 filed Critical 三菱重工機械システム株式会社
Publication of WO2024014414A1 publication Critical patent/WO2024014414A1/ja

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/89Lidar systems specially adapted for specific applications for mapping or imaging
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/93Lidar systems specially adapted for specific applications for anti-collision purposes
    • G01S17/931Lidar systems specially adapted for specific applications for anti-collision purposes of land vehicles
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/481Constructional features, e.g. arrangements of optical elements

Abstract

本開示に係るデータ処理アルゴリズム評価装置(100)は、車両から検出した複数の光測距データを記憶するデータ記憶部(10)と、データ記憶部に記憶される複数の光測距データのうち対象データに対する外乱を示す外乱情報が入力された場合、対象データを取得して理解し、外乱が対象データに反映された状態となるように理解に基づいて対象データを加工して合成データを生成するデータ生成部(20)と、生成された合成データに基づいて、車両の状況を判断するデータ処理アルゴリズムの性能を評価するデータ処理部(30)とを備える。

Description

データ処理アルゴリズム評価装置
 本開示は、データ処理アルゴリズム評価装置に関する。
 自動運転等の運転を支援する機能を備える車両が開発されている。このような運転支援機能を備える車両には、車載カメラ等で車両の周囲環境を撮影し、撮影した撮影画像に基づいて車両の状況を判断するための画像処理アルゴリズムが搭載されている。
 画像処理アルゴリズムは、適切な運転支援機能を実現するため、各種の性能評価が行われている。例えば、車両から撮影した実写画像にコンピュータグラフィックで作成した天候外乱の画像を重畳した合成画像を用いて画像処理を行うことにより、画像処理アルゴリズムの性能を評価する技術が知られている(例えば、特許文献1参照)。
特開2010-033321号公報
 特許文献1に記載の技術において、生成される天候外乱等の画像は、実写画像に映る対象物等の状況を反映して生成されたものではない。このため、上記の合成画像を用いて画像処理アルゴリズムを評価した場合、適切な評価が得られない可能性がある。また、上記のような画像とは異なる情報に基づいて車両の状況を判断することが提案されており、この場合に情報処理アルゴリズムの性能を適切に評価することが求められる。
 本開示は、上記に鑑みてなされたものであり、車両の状況を判断するデータ処理アルゴリズムの性能を適切に評価することが可能なデータ処理アルゴリズム評価装置を提供することを目的とする。
 本開示に係るデータ処理アルゴリズム評価装置は、車両から検出した複数の光測距データを記憶するデータ記憶部と、前記データ記憶部に記憶される複数の前記光測距データのうち対象データに対する外乱を示す外乱情報が入力された場合、前記対象データを取得して理解し、前記外乱が前記対象データに反映された状態となるように前記理解に基づいて前記対象データを加工して合成データを生成するデータ生成部と、生成された前記合成データに基づいて、前記車両の状況を判断するデータ処理アルゴリズムの性能を評価するデータ処理部とを備える。
 本開示によれば、車両の状況を判断するデータ処理アルゴリズムの性能を適切に評価することが可能となる。
図1は、第1実施形態に係るデータ処理アルゴリズム評価装置の一例を示す機能ブロック図である。 図2は、光測距データの一例を示す図である。 図3は、データ生成部における処理の一例を示す図である。 図4は、データを生成する処理の流れを示すフローチャートである。 図5は、第2実施形態に係るデータ処理アルゴリズム評価装置の一例を示す機能ブロック図である。 図6は、データ学習部の一例を示す概念図である。 図7は、データ学習部の他の例を示す概念図である。 図8は、畳み込み処理の一例を模式的に示す図である。 図9は、スキップコネクション処理の一例を模式的に示す図である。 図10は、データを生成する処理の流れを示すフローチャートである。 図11は、第3実施形態に係るデータ学習部の一例を示す概念図である。 図12は、データを生成する処理の流れを示すフローチャートである。
 以下、本開示に係るデータ処理アルゴリズム評価装置の実施形態を図面に基づいて説明する。なお、この実施形態によりこの発明が限定されるものではない。また、下記実施形態における構成要素には、当業者が置換可能かつ容易なもの、あるいは実質的に同一のものが含まれる。
 [第1実施形態]
 図1は、第1実施形態に係るデータ処理アルゴリズム評価装置の一例を示す機能ブロック図である。図1に示すデータ処理アルゴリズム評価装置100は、演算装置、すなわちCPU(Central Processing Unit)と、記憶装置、すなわち演算内容やプログラムの情報などを記憶するメモリとを含む。メモリは、例えば、RAM(Random Access Memory)と、ROM(Read Only Memory)と、HDD(Hard Disk Drive)などの外部記憶装置とのうち、少なくとも1つ含む。図1に示すように、データ処理アルゴリズム評価装置100は、データ記憶部10と、データ生成部20と、データ処理部30とを備える。
 データ記憶部10は、車両から検出した光測距データを記憶する。光測距データは、例えばLiDAR(Laser Imaging Detection and Ranging)等の光測距法による測定データである。光測距データは、例えば車両から測定光のビームを出射し、当該測定光の反射光を受光して得られるデータである。図2は、光測距データの一例を示す図である。図2に示すように、光測距データは、対象物までの距離を示す距離データDT1と、対象物で反射される測定光の強度を示す強度データDT2とを含む。光測距データは、車両から出射される測定光のビームごとに取得され、ビームの出射方向に応じて垂直方向及び水平方向について2次元状に配列されたデータである。
 距離データDT1及び強度データDT2は、例えば正規化された状態で生成される。本実施形態において、正規化とは、距離データDT1において距離を示す値をM段階とし、強度データDT2において強度を示す値をN段階として、MとNとが同一又は同程度の値となるように設定することを含む。例えば、距離データDT1において距離を示す値が0~250の範囲であり、強度データDT2において強度を示す値が0~60000の範囲である場合、各データにおいて取りうる値の範囲が大きく異なっている。そのため、各データのとりうる値の範囲を同一又は同程度とする(正規化する)ことで、各データの重みを同一又は同程度にすることができる。例えば距離データDT1及び強度データDT2の各値を、所定値αで除算することで正規化を行うことができる。この場合、αは、例えば強度データDT2の最大値を距離データDT1の最大値で除算した値、等とすることができる。また、距離データDT1及び強度データDT2の各値を上記の所定値αで除算した後、距離データDT1及び強度データDT2の少なくとも一方の値のルートをとるようにしてもよい。なお、正規化を行う場合、距離データDT1及び強度データDT2の両方の値を調整する態様に限られず、少なくとも一方の値を調整する態様であってもよい。
 データ生成部20は、データ記憶部10から入力される対象データに対して、不図示の入力部等から入力される外乱情報に基づく外乱を合成した合成データを生成する。データ生成部20は、データ理解部21と、データ加工部22とを有する。データ理解部21は、データ記憶部10に記憶されるデータを理解する。データ加工部22は、データ生成部20に入力された対象データを加工する。
 データ処理部30は、生成された合成データに基づいてデータ処理を行い、車両の状況を判断するデータ処理アルゴリズムの性能を評価する。データ処理部30は、合成データをデータ処理アルゴリズムによりデータ処理し、車両の状況を判断するための判断情報を算出する。データ処理部30は、算出した判断情報を不図示の記憶部等に記憶させる。判断情報としては、例えば車両が走行している状態で、検出位置から車両前方の対象物の位置まで到達する時間である接近交差時間等が挙げられる。データ処理部30は、例えば外乱を含まないデータを処理した場合と外乱を含むデータを処理した場合とで判断情報が大きく異なるか否かに基づいて、データ処理アルゴリズムの性能を評価することができる。
 図3は、データ生成部20における処理の一例を示す図である。図3に示すように、データ生成部20には、対象データと、外乱情報とが入力される。対象データとしては、例えば車両から前方を検出した光測距データが挙げられる。外乱情報としては、例えば霧等の天候条件等が挙げられる。本実施形態では、外乱が霧である場合を例に挙げて説明する。
 データ理解部21は、演算部21a、21bを有する。本実施形態において、データ理解部21は、対象物までの距離を理解する。演算部21aは、入力された対象データを取得する。演算部21aは、データ処理により、対象データの検出位置から当該対象データを構成する対象物までの距離をビームごとに取得する。なお、対象データに映る対象物が空の場合、当該距離は無限大(空を示す)として取得することができる。演算部21aは、取得した距離をビームに対応付けた距離情報を生成し、距離情報を出力する。
 演算部21bは、演算部21aから出力された距離情報を取得する。また、演算部21bは、不図示の入力部で入力された外乱情報を取得する。外乱情報としては、例えばコンピュータグラフィックで生成した霧のデータ等が挙げられる。このデータは、例えば対象データ(光測距データ)と同一の解像度を有するデータとすることができる。
 演算部21bは、距離情報に基づいてビームごとに外乱の強弱を算出する。例えば、霧が発生する環境では、検出位置からの距離が遠くなるほど霧の影響を大きく受ける。このため、距離情報に含まれる距離に応じてビームごとに外乱の強弱を調整することで、外乱を実際の環境に近い状態に調整することができる。演算部21bは、ビームごとに外乱を調整した後、調整した外乱を含む外乱情報を出力する。
 データ加工部22は、入力された対象データを取得する。データ加工部22は、演算部21bから出力された外乱情報を取得する。データ加工部22は、取得した外乱情報に含まれる外乱をビームごとに対象データに重畳させた合成データを生成する。つまり、不図示の入力部から入力された外乱情報に対して、データ加工部22に入力される外乱情報は、距離に応じてビームごとに外乱の強弱が調整された情報である。このような調整後の外乱を対象データに重畳させることで、実際の外乱環境により近い適切な合成データを生成することができる。
 データ処理部30は、合成データに基づいて、車両の状況を判断するデータ処理アルゴリズムの性能を評価する。実際の周辺環境により近い適切な合成データに基づいてデータ処理アルゴリズムの性能を評価するため、単にコンピュータグラフィックで生成した外乱を重畳させる場合に比べて、適切な評価結果を得ることができる。また、実際の周辺環境を三次元で詳細に再現したシミュレータを用いて車両の状況を判断する場合に比べて、大掛かりなシステムを用いることなく適切な評価結果が得られる。
 図4は、データを生成する処理の流れを示すフローチャートである。図4に示すように、データ生成部20は、データ理解部21において、入力された対象データを取得する(ステップS101)。データ理解部21は、対象データの検出位置から当該対象データを構成するビームに対応する対象物までの距離を取得し(ステップS102)、取得された距離に基づいて当該距離による外乱の強弱を算出することで外乱を調整する(ステップS103)。データ加工部22は、入力された対象データと、演算部21bで算出された外乱の強弱とに基づいて、減衰された外乱を対象データに合成した合成データを生成する(ステップS104)。
 以上のように、本実施形態に係るデータ処理アルゴリズム評価装置100は、車両から検出した複数の光測距データを記憶するデータ記憶部10と、データ記憶部10に記憶される複数の光測距データのうち対象データに対する外乱を示す外乱情報が入力された場合、対象データを取得して理解し、外乱が対象データに反映された状態となるように理解に基づいて対象データを加工して合成データを生成するデータ生成部20と、生成された合成データに基づいて、車両の状況を判断するデータ処理アルゴリズムの性能を評価するデータ処理部30とを備える。
 この構成によれば、データ生成部20が対象データを理解した結果に基づいて、外乱が対象データに反映された状態となるように対象データを加工して合成データを生成するため、例えば単にコンピュータグラフィックで生成した外乱を重畳させる場合に比べて、実際の周辺環境に近い合成データを生成することができる。これにより、車両の状況を判断するデータ処理アルゴリズムの性能を適切に評価することができる。
 また、本実施形態に係るデータ処理アルゴリズム評価装置100において、データ生成部20は、対象データの検出位置から対象データを構成する対象物までの距離を取得し、取得された距離に基づいて当該距離による外乱の強弱を算出し、算出結果に基づいて合成データを生成する。したがって、実際の周辺環境により近い合成データを生成することができる。
 また、本実施形態に係るデータ処理アルゴリズム評価装置100において、光測距データは、車両から出射される測定光のビームごとに取得され、ビームの出射方向に応じて垂直方向及び水平方向について2次元状に配列されたデータである。したがって、光測距データを画像データと同様に取り扱うことができる。
 また、本実施形態に係るデータ処理アルゴリズム評価装置100において、光測距データは、対象物までの距離を示す距離データと、対象物で反射される測定光の強度を示す強度データとを含む。したがって、1つの光測距データが距離データ及び強度データの2種類のデータを含むため、車両の状況をより適切に判断することができる。
 [第2実施形態]
 次に、第2実施形態を説明する。図5は、第2実施形態に係るデータ処理アルゴリズム評価装置の一例を示す機能ブロック図である。第2実施形態に係るデータ処理アルゴリズム評価装置100の構成については、第1実施形態と同様に、データ記憶部10と、データ生成部20と、データ処理部30とを備える構成である。本実施形態では、データ生成部20における処理内容が第1実施形態と異なっている。また、学習データ記憶部40及びデータ学習部50が追加されている。本実施形態において、光測距データは、第1実施形態と同様に、距離データ及び強度データとを含み、距離の値及び強度の値が対応するように距離の値及び強度の値の少なくとも一方が正規化されている。
 本実施形態において、学習データ記憶部40は、外乱を含まない光測距データである基準データと、外乱を含む光測距データである外乱データとを学習用のデータとして記憶する。基準データの例としては、晴天時の昼間等、外乱が最も少なくなる条件で検出した光測距データが挙げられる。外乱データは、雨天時、降雪時、霧発生時、明け方、夕方、夜間等、基準データに対して外乱が多くなる条件で検出した光測距データが挙げられる。なお、学習データ記憶部40は、同一又は対応する検出対象についての基準データ及び外乱データを対応付けて記憶してもよい。例えば、学習データ記憶部40は、所定の場所を晴天時の昼間に検出した基準データと、当該所定の場所を雨天時、降雪時、霧発生時、明け方、夕方、夜間等にそれぞれ検出した外乱データとを対応付けて記憶することができる。
 本実施形態において、データ学習部50は、対象データと、当該対象データに対する外乱を示す外乱情報とが入力された場合、例えばニューラルネットワークによる学習によって学習用合成データを生成することができる。例えば、データ学習部50においてニューラルネットワークを用いた所定のデータ加工を実現するための方法として、敵対的生成ネットワーク(GAN:Generative Adversarial Networks)と呼ばれる技術、又はサイクル敵対的生成ネットワーク(Cycle GAN)と呼ばれる技術を用いることができる。
 図6は、データ学習部50の一例(データ学習部50A)を示す概念図である。図6に示すように、データ学習部50Aに用いられる敵対的生成ネットワークは、データ生成部51及び真贋判定部52の2つのニューラルネットワークで構成される。データ生成部51は、上記したデータ生成部20と同様の構成であり、データ理解部51a及びデータ加工部51bを有する。なお、本実施形態におけるデータ理解部51aは、ニューラルネットワークにより対象データの特徴を理解する。データ生成部51は、データ生成部20が対象データ及び外乱情報に基づいて合成データを生成する処理と同一の処理により、基準データに外乱を合成した学習用合成データを生成する。真贋判定部52は、データ生成部51が生成した学習用合成データと、基準データに対応付けられる外乱データとに基づいて、データ生成部51が生成した学習用合成データの真贋を判定する。データ生成部51は、真贋判定部52においてより真のデータに近いと判定されるように学習用合成データを生成する。また、真贋判定部52は、生成された学習用合成データについて真のデータとの相違点をより検出しようとする。このような2つのネットワークを交互に競合させ、学習を進めることで、データ生成部51は真の外乱データに近い学習用合成データを生成できるようになる。
 図7は、データ学習部50の他の例(データ学習部50B)を示す概念図である。図7に示すように、データ学習部50Bに用いられるサイクル敵対的生成ネットワークは、データ生成部51、53と、真贋判定部52、54と、を有する。データ生成部51、53は、上記したデータ生成部20と同様の構成である。データ生成部51は、データ理解部51a及びデータ加工部51bを有する。データ生成部53は、データ理解部53a及び53bを有する。データ生成部51は、基準データに外乱を合成した第1学習用合成データを生成する。また、データ生成部53は、外乱データから外乱を除去した第2学習用合成データを生成する。真贋判定部52は、第1学習用合成データに対して真の外乱データに基づいて真贋を判定する。また、真贋判定部54は、第2学習用合成データに対して真の基準データに基づいて真贋を判定する。データ生成部51、53は、真贋判定部52、54においてより真のデータに近いと判定されるように、つまり正解率が高くなるように第1学習用合成データ及び第2学習用合成データを生成する。また、真贋判定部52、54は、生成された第1学習用合成データ及び第2学習用合成データについて真のデータとの相違点をより検出しようとする。このような2つのネットワークを交互に競合させ、学習を進めることで、データ生成部51は真の外乱データに近い、つまり真贋の正解率が高い学習用合成データを生成できるようになる。
 サイクル敵対的生成ネットワークでは、外乱を含まない基準データ及び外乱を含む外乱データであればよく、基準データと外乱データとが対応付けられている必要はない。このため、敵対的生成ネットワークと比べて、学習データの収集が容易となる。また、サイクル敵対的生成ネットワークを用いる場合、学習データ記憶部40には、外乱の程度の異なる複数の外乱データを記憶させることができる。
 図8は、畳み込み処理の一例を模式的に示す図である。上記した敵対的生成ネットワーク又はサイクル敵対的生成ネットワークを用いる場合、データ学習部50は、光測距データの畳み込み処理を行う。
 光測距データDT(距離データDT1、強度データDT2)は、水平方向のビーム数が垂直方向のビーム数よりも多い。また、例えば1つの光測距データDTにおいて垂直方向のビーム数が64に対して水平方向のビーム数が1024であるといったように、水平方向のビーム数と垂直方向のビーム数との差は大きい。以下、1つの光測距データDTにおいて垂直方向のビーム数と水平方向のビーム数とを「64×1024」のように示す。
 通常、このような64×1024の光測距データDTに対して畳み込み処理を行う場合、32×512、16×256、8×128、4×64、2×32、1×16、1×8、1×4、1×2、1×1、のように10回の畳み込み処理が行われるが、この場合には垂直方向の情報量が欠落してしまう。そこで、畳み込み処理において、データ学習部50は、光測距データDTの垂直方向のビームの数を基準とする。
 上記の例では、64×1024の光測距データDTに対して畳み込み処理を行う場合、通常は処理を10回行うところ、32×512、16×256、8×128、4×64、2×32、1×16、の6回の畳み込み処理で留めるようにする。つまり、垂直方向のビーム数が1となった段階で畳み込み処理を完了する。これにより、垂直方向の情報量の欠落を抑制できる。この際、例えばResnet(Residual Network)のような残差ブロックを使ったモデルの場合、残差ブロックのループ数を調整することで安定した学習結果を得ることができる。
 図9は、スキップコネクション処理の一例を模式的に示す図である。上記の敵対的生成ネットワーク又はサイクル敵対的生成ネットワークを用いる場合、データ学習部50は、光測距データDT(距離データDT1、強度データDT2)に対してスキップコネクション処理を行うようにしてもよい。スキップコネクション処理は、畳み込み処理の各層で圧縮する前のデータを、復元時の各層に連結することにより、細部の特徴を維持する手法である。スキップコネクション処理を行うことにより、畳み込み処理で失われる細部の特徴を維持することが可能となるため、光測距データDTの細部の再現が可能となる。
 図10は、データを生成する処理の流れを示すフローチャートである。図10に示すように、データ学習部50は、学習データ記憶部40に記憶される学習データを取得する(ステップS201)。データ生成部51は、取得した学習データをデータ理解部51aにおいて理解する(ステップS202)。データ加工部51bは、理解した結果に基づいて学習データに外乱が付与された学習用合成データを生成する(ステップS203)。真贋判定部52は、学習用合成データに対して真の外乱データに基づいて真贋を判定する(ステップS204)。データ学習部50は、データ生成部51と真贋判定部52を交互に競合させ、学習を進める(ステップS205)。データ学習部50は、学習が完了したか否かを判定し(ステップS206)、学習が完了したと判定した場合(ステップS206のYes)、ステップS207に進む。また、学習が完了していないと判定した場合(ステップS206のNo)、ステップS202以降の処理を繰り返し行う。ステップS206において、データ学習部50は、例えば学習用合成データと真の外乱データとの差異が所定値以下である場合、つまり正解率が所定値以上である場合に、学習が完了したと判定することができる。
 学習が完了した後、データ生成部20は、対象データ及び外乱情報が入力された場合、データ記憶部10から対象データを取得する(ステップS207)。データ理解部21は、学習結果に基づいてデータ理解する(ステップS208)。データ加工部22は、理解した結果に基づいて対象データに外乱が付与された合成データを生成する(ステップS209)。
 以上のように、本実施形態に係るデータ処理アルゴリズム評価装置100において、学習データ記憶部40は、外乱を含まない光測距データである基準データと、外乱を含む光測距データである外乱データとを記憶し、データ学習部50は、基準データと外乱データとに基づいて敵対的生成ネットワーク又はサイクル敵対的生成ネットワークを用いて学習し、データ生成部20は、データ学習部50の学習結果に基づいて対象データを理解して合成データを生成する。
 この構成では、データ学習部50が敵対的生成ネットワーク又はサイクル敵対的生成ネットワークを用いて光測距データを学習し、学習結果に基づいて、データ生成部20が対象データを理解して合成データを生成するため、実際の周辺環境に近い合成データを生成することができる。これにより、車両の状況を判断するデータ処理アルゴリズムの性能を適切に評価することができる。
 また、学習データ記憶部40は、同一種類で程度が異なる外乱を含む複数の外乱データを記憶し、データ学習部50は、程度が異なる外乱を含む複数の外乱データに基づいて学習を行い、データ生成部20は、外乱の程度を含む外乱情報が入力された場合、データ学習部50の学習結果に基づいて対象データを理解し、外乱情報に対応する程度の外乱が対象データに反映されるように合成データを生成する。これにより、外乱の程度が異なる合成データを適切に生成することができるため、データ処理アルゴリズムの性能を幅広く評価することができる。
 また、学習データ記憶部40は、敵対的生成ネットワーク又はサイクル敵対的生成ネットワークを用いる場合、畳み込み処理において光測距データの垂直方向のビームの数を基準とする。したがって、垂直方向の情報量の欠落を抑制できる。
 また、学習データ記憶部40は、敵対的生成ネットワーク又はサイクル敵対的生成ネットワークを用いる場合、スキップコネクション処理を行う。したがって、畳み込み処理で失われる細部の特徴を維持することが可能となるため、光測距データDTの細部の再現が可能となる。
 また、光測距データDTは、対象物までの距離を示す距離データDT1と、対象物から反射される測定光の強度を示す強度データDT2とを含み、距離の値及び強度の値が対応するように距離の値及び強度の値の少なくとも一方が正規化されている。したがって、距離データ及び強度データの重みを同一又は同程度にすることができるため、データ学習部50において安定した学習結果を得ることができる。
 [第3実施形態]
 次に、第3実施形態を説明する。第3実施形態に係るデータ処理アルゴリズム評価装置100の構成については、第2実施形態と同様に、データ記憶部10と、データ生成部20と、データ処理部30と、学習データ記憶部40と、データ学習部50とを備える構成である。本実施形態では、学習データ記憶部40に記憶される光測距データの種類と、データ生成部20及びデータ学習部50における処理内容とが上記第2実施形態と異なっている。なお、本実施形態において、光測距データ自体は、上記実施形態と同様に、距離データ及び強度データとを含み、距離の値及び強度の値が対応するように距離の値及び強度の値の少なくとも一方が正規化されている。
 学習データ記憶部40は、第2実施形態と同様に、基準データ及び外乱データを含む光測距データを学習データとして記憶する。本実施形態において、学習データ記憶部40は、異なる属性を含む光測距データを記憶する。異なる属性を含む光測距データとしては、例えば繁華街で検出した光測距データ、住宅街で検出した光測距データ、山道で検出した光測距データ、というように、検出場所等の属性が異なる複数の光測距データが挙げられる。学習データ記憶部40は、このような光測距データに対して、属性を示すラベル情報を対応付けて記憶することができる。
 本実施形態において、データ生成部20は、対象データと、当該対象データに対する外乱情報とが入力された場合、対象データから上記の属性を示すラベル情報を抽出する。データ生成部20は、後述するデータ学習部50の学習結果に基づいて対象データを理解して、属性を反映させた合成データを生成することができる。例えば、対象データが「繁華街」の昼間の基準データである場合において、外乱情報として「雨」が入力された場合には、周囲構造物の材質、例えばコンクリートの濡れによる反射率変化を反映した変換が可能となる。また、例えば、対象データが「山道」の昼間の基準データである場合において、外乱情報として「雨」が入力された場合には、樹木の濡れによる反射率変化を反映した変換が可能となる。
 図11は、第3実施形態に係るデータ学習部50(データ学習部50C)の一例を示す概念図である。図11に示すように、データ学習部50Cに用いられるサイクル敵対的生成ネットワークは、第2実施形態と同様に、データ生成部51、53と、真贋判定部52、54と、を有する。本実施形態に係るサイクル敵対的生成ネットワークでは、データ生成部51、53に対して、ラベル情報が入力される。
 この場合、データ生成部51は、基準データに対して外乱を合成した第1合成データを生成する。例えば、抽出した属性が「繁華街」であり、入力された外乱が「雨」であった場合、繁華街の基準データに雨の外乱が反映されるように合成データを生成する。また、データ生成部53は、繁華街の雨の外乱データから雨の外乱を除去した第2合成データを生成する。この場合、データ生成部51、53は、例えば属性ごとに学習結果を記憶することで、与えられた属性に応じて対象データを変換することが可能となる。真贋判定部52は、第1合成データに対して真の外乱データに基づいて真贋を判定すると共に、「繁華街」の属性が適切に反映されているかの判定を行う。また、真贋判定部54は、第2合成データに対して真の基準データに基づいて真贋を判定すると共に、繁華街の雨の外乱が適切に除去されているか否かの判定を行う。このように、本実施形態において、真贋判定部52、54は、合成データの真贋の判定に加えて、属性の反映の適否についても判定を行う。
 本実施形態において、データ生成部51、53は、真贋判定部52、54においてより真のデータに近く、属性が適切に反映されていると判定されるように第1合成データ及び第2合成データを生成する。また、真贋判定部52、54は、生成された第1合成データ及び第2合成データについて真のデータとの相違点、及び属性の反映が適切でない点をより検出しようとする。このような2つのネットワークを交互に競合させ、学習を進めることで、データ生成部51は、真贋の正解率が高く、属性の反映の正解率が高い合成データを生成できるようになる。
 図12は、データを生成する処理の流れを示すフローチャートである。図12に示すように、データ学習部50は、学習データ記憶部40に記憶される学習データを取得する(ステップS301)。データ学習部50は、取得した学習データに含まれる属性を示すラベル情報を抽出する(ステップS302)。データ生成部51は、取得した学習データをデータ理解部51aにおいて理解する(ステップS303)。データ加工部51bは、理解した結果に基づいて学習データに外乱が付与された学習用合成データを生成する(ステップS304)。真贋判定部52は、学習用合成データに対して真の外乱データに基づいて真贋を判定する(ステップS305)。データ学習部50は、データ生成部51と真贋判定部52を交互に競合させ、学習を進める(ステップS306)。データ学習部50は、学習が完了したか否かを判定し(ステップS307)、学習が完了したと判定した場合(ステップS307のYes)、ステップS308に進む。また、学習が完了していないと判定した場合(ステップS307のNo)、ステップS303以降の処理を繰り返し行う。ステップS307において、データ学習部50は、例えば学習用合成データと真の外乱データとの差異が所定値以下であり、学習用合成データと外乱データとの間で属性に関する部分の差異が所定値以下である場合、つまり、学習用合成データの真贋の正解率及び属性に関する部分の正解率が所定値以上である場合に、学習が完了したと判定することができる。
 データ生成部20は、対象データ及び外乱情報が入力された場合、入力された対象データを取得する(ステップS308)。データ理解部21は、対象データに含まれる属性を示すラベル情報を抽出し(ステップS309)、対象データを理解する(ステップS310)。データ加工部22は、理解した結果に基づいて対象データに外乱が付与された合成データを生成する(ステップS311)。
 以上のように、本実施形態に係るデータ処理アルゴリズム評価装置100において、学習データ記憶部40は、異なる属性を含む複数の光測距データを、当該属性を示すラベル情報と対応付けて記憶し、データ学習部50は、生成した学習用合成データと外乱データとの間で属性に関する正解率が高くなるようにサイクル敵対的生成ネットワークを用いて学習し、データ生成部20は、対象データ及び外乱情報が入力された場合、対象データの属性を示すラベル情報を抽出し、データ学習部50の学習結果に基づいて対象データを理解して合成データを生成する。
 この構成により、サイクル敵対的生成ネットワークにより学習用合成データの真贋の正解率が高くなるように、かつ、属性の反映の正解率が高くなるように学習することができるため、光測距データの属性に応じた態様で合成データを生成することができる。
 本発明の技術範囲は上記実施形態に限定されるものではなく、本発明の趣旨を逸脱しない範囲で適宜変更を加えることができる。
 以上のように、本開示の第1態様に係るデータ処理アルゴリズム評価装置は、車両から検出した複数の光測距データを記憶するデータ記憶部10と、データ記憶部10に記憶される複数の光測距データのうち対象データに対する外乱を示す外乱情報が入力された場合、対象データを取得して理解し、外乱が対象データに反映された状態となるように理解に基づいて対象データを加工して合成データを生成するデータ生成部20と、生成された合成データに基づいて、車両の状況を判断するデータ処理アルゴリズムの性能を評価するデータ処理部30とを備える。
 この構成によれば、データ生成部20が対象データを理解した結果に基づいて、外乱が対象データに反映された状態となるように対象データを加工して合成データを生成するため、例えば単にコンピュータグラフィックで生成した外乱を重畳させる場合に比べて、実際の周辺環境に近い合成データを生成することができる。これにより、車両の状況を判断するデータ処理アルゴリズムの性能を適切に評価することができる。
 本開示の第2態様に係るデータ処理アルゴリズム評価装置は、第1態様に係るデータ処理アルゴリズム評価装置において、データ生成部20は、対象データの検出位置から対象データを構成する対象物までの距離を取得し、取得された距離に基づいて当該距離による外乱の強弱を算出し、算出結果に基づいて合成データを生成する。したがって、実際の周辺環境により近い合成データを生成することができる。
 本開示の第3態様に係るデータ処理アルゴリズム評価装置は、第1態様又は第2態様に係るデータ処理アルゴリズム評価装置において、光測距データは、車両から出射される測定光のビームごとに取得され、ビームの出射方向に応じて垂直方向及び水平方向について2次元状に配列されたデータである。したがって、光測距データを画像データと同様に取り扱うことができる。
 本開示の第4態様に係るデータ処理アルゴリズム評価装置は、第1態様から第3態様のいずれかに係るデータ処理アルゴリズム評価装置において、光測距データは、車両から出射される測定光のビームごとに取得され、ビームの出射方向に応じて垂直方向及び水平方向について2次元状に配列されたデータである。したがって、光測距データを画像データと同様に取り扱うことができる。
 本開示の第5態様に係るデータ処理アルゴリズム評価装置は、第3態様又は第4態様に係るデータ処理アルゴリズム評価装置において、学習データ記憶部40は、外乱を含まない光測距データである基準データと、外乱を含む光測距データである外乱データとを記憶し、データ学習部50は、基準データと外乱データとに基づいて敵対的生成ネットワーク又はサイクル敵対的生成ネットワークを用いて学習し、データ生成部20は、データ学習部50の学習結果に基づいて対象データを理解して合成データを生成する。
 この構成では、データ学習部50が敵対的生成ネットワーク又はサイクル敵対的生成ネットワークを用いて光測距データを学習し、学習結果に基づいて、データ生成部20が対象データを理解して合成データを生成するため、実際の周辺環境に近い合成データを生成することができる。これにより、車両の状況を判断するデータ処理アルゴリズムの性能を適切に評価することができる。
 本開示の第6態様に係るデータ処理アルゴリズム評価装置は、第5態様に係るデータ処理アルゴリズム評価装置において、学習データ記憶部40は、同一種類で程度が異なる外乱を含む複数の外乱データを記憶し、データ学習部50は、程度が異なる外乱を含む複数の外乱データに基づいて学習を行い、データ生成部20は、外乱の程度を含む外乱情報が入力された場合、データ学習部50の学習結果に基づいて対象データを理解し、外乱情報に対応する程度の外乱が対象データに反映されるように合成データを生成する。これにより、外乱の程度が異なる合成データを適切に生成することができるため、データ処理アルゴリズムの性能を幅広く評価することができる。
 本開示の第7態様に係るデータ処理アルゴリズム評価装置は、第5態様又は第6態様に係るデータ処理アルゴリズム評価装置において、学習データ記憶部40は、異なる属性を含む複数の光測距データを、当該属性を示すラベル情報と対応付けて記憶し、データ学習部50は、生成した学習用合成データと外乱データとの間で属性に関する正解率が高くなるようにサイクル敵対的生成ネットワークを用いて学習し、データ生成部20は、対象データ及び外乱情報が入力された場合、対象データの属性を示すラベル情報を抽出し、データ学習部50の学習結果に基づいて対象データを理解して合成データを生成する。
 この構成により、サイクル敵対的生成ネットワークにより学習用合成データの真贋の正解率が高くなるように、かつ、属性の反映の正解率が高くなるように学習することができるため、光測距データの属性に応じた態様で合成データを生成することができる。
 本開示の第8態様に係るデータ処理アルゴリズム評価装置は、第5態様から第7態様のいずれかに係るデータ処理アルゴリズム評価装置において、学習データ記憶部40は、敵対的生成ネットワーク又はサイクル敵対的生成ネットワークを用いる場合、畳み込み処理において光測距データの垂直方向のビームの数を基準とする。したがって、垂直方向の情報量の欠落を抑制できる。
 本開示の第9態様に係るデータ処理アルゴリズム評価装置は、第5態様から第7態様のいずれかに係るデータ処理アルゴリズム評価装置において、学習データ記憶部40は、敵対的生成ネットワーク又はサイクル敵対的生成ネットワークを用いる場合、スキップコネクション処理を行う。したがって、畳み込み処理で失われる細部の特徴を維持することが可能となるため、光測距データDTの細部の再現が可能となる。
 本開示の第10態様に係るデータ処理アルゴリズム評価装置は、第5態様から第7態様のいずれかに係るデータ処理アルゴリズム評価装置において、光測距データDTは、対象物までの距離を示す距離データDT1と、対象物から反射される測定光の強度を示す強度データDT2とを含み、距離の値及び強度の値が対応するように距離の値及び強度の値の少なくとも一方が正規化されている。したがって、距離データ及び強度データの重みを同一又は同程度にすることができるため、データ学習部50において安定した学習結果を得ることができる。
10 データ記憶部
20,51,53 データ生成部
21,51a,53a データ理解部
21a,21b 演算部
22,51b データ加工部
30 データ処理部
40 学習データ記憶部
50,50A,50B,50C データ学習部
52,54 真贋判定部
100 データ処理アルゴリズム評価装置
DT 光測距データ
DT1 距離データ
DT2 強度データ

Claims (10)

  1.  車両から検出した光測距データを記憶するデータ記憶部と、
     前記データ記憶部に記憶される前記光測距データのうち対象データに対する外乱を示す外乱情報が入力された場合、前記対象データを取得して理解し、前記外乱が前記対象データに反映された状態となるように前記理解に基づいて前記対象データを加工して合成データを生成するデータ生成部と、
     生成された前記合成データに基づいて、前記車両の状況を判断するデータ処理アルゴリズムの性能を評価するデータ処理部と
     を備えるデータ処理アルゴリズム評価装置。
  2.  前記データ生成部は、前記対象データの検出位置から前記対象データを構成する対象物までの距離を取得し、取得された前記距離に基づいて当該距離による前記外乱の強弱を算出し、算出結果に基づいて前記合成データを生成する
     請求項1に記載のデータ処理アルゴリズム評価装置。
  3.  前記光測距データは、前記車両から出射される測定光のビームごとに取得され、前記ビームの出射方向に応じて垂直方向及び水平方向について2次元状に配列されたデータである
     請求項1に記載のデータ処理アルゴリズム評価装置。
  4.  前記光測距データは、前記対象物までの距離を示す距離データと、前記対象物で反射される前記測定光の強度を示す強度データとを含む
     請求項3に記載のデータ処理アルゴリズム評価装置。
  5.  前記外乱を含まない前記光測距データである基準データと、前記外乱を含む前記光測距データである外乱データとを学習データとして記憶する学習データ記憶部と、
     前記データ生成部が前記対象データ及び前記外乱情報に基づいて前記合成データを生成する処理と同一の処理により前記基準データ及び前記外乱情報に基づいて学習用合成データを生成し、生成した前記学習用合成データと前記外乱データとの間の正解率が高くなるように敵対的生成ネットワーク又はサイクル敵対的生成ネットワークを用いて学習するデータ学習部と
     を更に備え、
     前記データ生成部は、前記データ学習部の学習結果に基づいて前記対象データを理解して前記合成データを生成する
     請求項3に記載のデータ処理アルゴリズム評価装置。
  6.  前記学習データ記憶部は、同一種類で程度が異なる前記外乱を含む複数の前記外乱データを記憶し、
     前記データ学習部は、程度が異なる前記外乱を含む複数の前記外乱データに基づいて学習を行い、
     前記データ生成部は、前記前記外乱の程度を含む前記外乱情報が入力された場合、前記データ学習部の学習結果に基づいて前記対象データを理解し、前記外乱情報に対応する程度の前記外乱が前記対象データに反映されるように前記合成データを生成する
     請求項5に記載のデータ処理アルゴリズム評価装置。
  7.  前記学習データ記憶部は、異なる属性を含む複数の前記光測距データを、当該属性を示すラベル情報と対応付けて記憶し、
     前記データ学習部は、生成した前記学習用合成データと前記外乱データとの間で前記属性に関する正解率が高くなるように前記サイクル敵対的生成ネットワークを用いて学習し、
     前記データ生成部は、前記対象データ及び前記外乱情報が入力された場合、前記対象データの前記属性を示すラベル情報を抽出し、前記データ学習部の学習結果に基づいて前記対象データを理解して前記属性を反映させた前記合成データを生成する
     請求項5又は請求項6に記載のデータ処理アルゴリズム評価装置。
  8.  前記データ学習部は、敵対的生成ネットワーク又はサイクル敵対的生成ネットワークを用いる場合、畳み込み処理において前記光測距データの前記垂直方向の前記ビームの数を基準とする
     請求項5又は請求項6に記載のデータ処理アルゴリズム評価装置。
  9.  前記データ学習部は、敵対的生成ネットワーク又はサイクル敵対的生成ネットワークを用いる場合、スキップコネクション処理を行う
     請求項5又は請求項6に記載のデータ処理アルゴリズム評価装置。
  10.  前記光測距データは、前記対象物までの距離を示す距離データと、前記対象物から反射される前記測定光の強度を示す強度データとを含み、前記距離の値及び前記強度の値が対応するように前記距離の値及び前記強度の値の少なくとも一方が正規化されている
     請求項5又は請求項6に記載のデータ処理アルゴリズム評価装置。
PCT/JP2023/025294 2022-07-14 2023-07-07 データ処理アルゴリズム評価装置 WO2024014414A1 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2022113347A JP2024011401A (ja) 2022-07-14 2022-07-14 データ処理アルゴリズム評価装置
JP2022-113347 2022-07-14

Publications (1)

Publication Number Publication Date
WO2024014414A1 true WO2024014414A1 (ja) 2024-01-18

Family

ID=89536727

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2023/025294 WO2024014414A1 (ja) 2022-07-14 2023-07-07 データ処理アルゴリズム評価装置

Country Status (2)

Country Link
JP (1) JP2024011401A (ja)
WO (1) WO2024014414A1 (ja)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010033321A (ja) * 2008-07-29 2010-02-12 Mitsubishi Heavy Ind Ltd 画像処理アルゴリズムの評価システム
JP2016126436A (ja) * 2014-12-26 2016-07-11 株式会社 日立産業制御ソリューションズ 画像認識評価システム及び画像認識評価装置
JP2019137391A (ja) * 2018-02-07 2019-08-22 バイドゥ ユーエスエイ エルエルシーBaidu USA LLC 自動運転車両のための自己位置推定方法、システム及び機械可読媒体
US20210004608A1 (en) * 2019-07-02 2021-01-07 Ford Global Technologies, Llc Vehicle image generation
WO2021005659A1 (ja) * 2019-07-05 2021-01-14 パナソニックセミコンダクターソリューションズ株式会社 情報処理システム、センサシステム、情報処理方法及びプログラム

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010033321A (ja) * 2008-07-29 2010-02-12 Mitsubishi Heavy Ind Ltd 画像処理アルゴリズムの評価システム
JP2016126436A (ja) * 2014-12-26 2016-07-11 株式会社 日立産業制御ソリューションズ 画像認識評価システム及び画像認識評価装置
JP2019137391A (ja) * 2018-02-07 2019-08-22 バイドゥ ユーエスエイ エルエルシーBaidu USA LLC 自動運転車両のための自己位置推定方法、システム及び機械可読媒体
US20210004608A1 (en) * 2019-07-02 2021-01-07 Ford Global Technologies, Llc Vehicle image generation
WO2021005659A1 (ja) * 2019-07-05 2021-01-14 パナソニックセミコンダクターソリューションズ株式会社 情報処理システム、センサシステム、情報処理方法及びプログラム

Also Published As

Publication number Publication date
JP2024011401A (ja) 2024-01-25

Similar Documents

Publication Publication Date Title
JP6857371B2 (ja) 安全な自律走行を支援する学習方法、そしてこれを利用した学習装置、テスト方法、及びテスト装置
US20200074230A1 (en) Automatically generating training data for a lidar using simulated vehicles in virtual space
US20190179979A1 (en) Simulated Sensor Testing
US11899458B2 (en) Identifying a route for an autonomous vehicle between an origin and destination location
CN106536299B (zh) 基于检测对象制动车辆的系统和方法
KR20200096096A (ko) 라이더, 레이더 및 카메라 센서의 데이터를 사용하는 강화 학습을 기초로 하여 자율 주행 시 최적화된 자원 할당을 위한 방법 및 장치
JP2020126607A (ja) カメラから取得されたイメージと、それに対応するレーダまたはライダを通じて取得されたポイントクラウドマップをニューラルネットワークのそれぞれのコンボリューションステージごとに統合する学習方法及び学習装置、そしてそれを利用したテスト方法及びテスト装置
CN113468967B (zh) 基于注意力机制的车道线检测方法、装置、设备及介质
US20080172177A1 (en) Crash prediction network with visual input for vehicle
Abdelfattah et al. Adversarial attacks on camera-lidar models for 3d car detection
US20230152813A1 (en) Autonomous vehicle routing based upon spatiotemporal factors
WO2020133230A1 (zh) 雷达仿真方法、装置及系统
KR20200091330A (ko) 이미지 컨캐터네이션과 타겟 객체 통합 네트워크를 이용하여, 다중 카메라 혹은 서라운드 뷰 모니터링에 이용될 cnn 기반 객체 검출기를 학습하는 방법 및 학습 장치, 그리고 이를 이용한 테스팅 방법 및 테스팅 장치
JPWO2020100408A1 (ja) 危険シーン予測装置、危険シーン予測方法および危険シーン予測プログラム
Talwar et al. Evaluating validity of synthetic data in perception tasks for autonomous vehicles
CN111381585A (zh) 一种构建占据栅格地图的方法及其装置、相关设备
JP2023168244A (ja) 運転者支援システム(adas)及び/又は自動運転システム(ads)を較正及び検証するための方法、システム、及びコンピュータプログラム製品
WO2024014414A1 (ja) データ処理アルゴリズム評価装置
US10981578B2 (en) System and method for hardware verification in an automotive vehicle
CN116343136A (zh) 一种基于高速公路监控视频的路面抛洒物检测方法
WO2022244800A1 (ja) 画像処理アルゴリズム評価装置
US20240036168A1 (en) Radar point cloud multipath reflection compensation
US20220289237A1 (en) Map-free generic obstacle detection for collision avoidance systems
KR20230112224A (ko) 자율주행 차량에서 패치 gan 기반 깊이 완성 방법 및 장치
CN111931830B (zh) 视频融合处理方法、装置、电子设备及存储介质

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 23839586

Country of ref document: EP

Kind code of ref document: A1