JP7155265B2 - 分類子をトレーニングおよび更新するための方法およびシステム - Google Patents

分類子をトレーニングおよび更新するための方法およびシステム Download PDF

Info

Publication number
JP7155265B2
JP7155265B2 JP2020532666A JP2020532666A JP7155265B2 JP 7155265 B2 JP7155265 B2 JP 7155265B2 JP 2020532666 A JP2020532666 A JP 2020532666A JP 2020532666 A JP2020532666 A JP 2020532666A JP 7155265 B2 JP7155265 B2 JP 7155265B2
Authority
JP
Japan
Prior art keywords
classification
classifier
vehicle
backend
classification results
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020532666A
Other languages
English (en)
Other versions
JP2021507370A (ja
Inventor
ハーマー ヘニング
ティール ローベアト
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Continental Automotive GmbH
Original Assignee
Continental Automotive GmbH
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Continental Automotive GmbH filed Critical Continental Automotive GmbH
Publication of JP2021507370A publication Critical patent/JP2021507370A/ja
Application granted granted Critical
Publication of JP7155265B2 publication Critical patent/JP7155265B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/77Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
    • G06V10/778Active pattern-learning, e.g. online learning of image or video features
    • G06V10/7796Active pattern-learning, e.g. online learning of image or video features based on specific statistical tests
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/25Fusion techniques
    • G06F18/259Fusion by voting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • G06V20/582Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads of traffic signs

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Databases & Information Systems (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • Data Mining & Analysis (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Probability & Statistics with Applications (AREA)
  • Computing Systems (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • General Engineering & Computer Science (AREA)
  • Traffic Control Systems (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Image Analysis (AREA)

Description

本開示は、分類子をトレーニングおよび更新する方法に関する。本開示は、特に、バックエンド側分類子をトレーニングおよび更新するための方法に関する。
技術的背景
高度な運転者支援システムは、車両上または車両内に搭載されたカメラによって取得されたカメラ画像の要素の分類に依拠することができる。分類は、トレーニング可能な分類子、例えばニューラルネットワークによって達成できる。一般に、分類子は、所望の分類結果を生成することを目的として、幾つかの陽性または陰性の入力サンプルによりトレーニングされる。分類子は、特にカメラ画像上でトレーニングされ、カメラ画像における所定のクラスの要素の自動認識を実現することができる。これにより、歩行者、車両、交通標識などを認識することができる。車両内のカメラによって供給された画像にトレーニングされた分類子を適用することにより、多くの使用例、例えば自動運転、衝突回避などを可能とすることができる。
分類子は、オフラインでトレーニング可能である。手動アノテーション付きの幾つかのサンプルが与えられると、分類子は、入力サンプルの特性を学習して、陰性サンプルから陽性サンプル、例えば所定のクラスに属するサンプルを正確に区別しようと試みる。
一般的な分類方法の1つは、ニューラルネットワークを使用することである。近年、予めトレーニングされた分類子の遡及的適応化を可能にするニューラルネットワークの微調整方法が提案されている。この目的のために、新規のトレーニング例が再トレーニングに使用される。再トレーニングとは、分類子内で重みを適応化することを意味する。
ただし、適切なトレーニングサンプルを識別し、車両側分類子に配布する必要がある。適切なトレーニングサンプルの手動識別および手動アノテーションには、時間および費用がかかりうる。
開示
本開示の目的は、上記の欠点を克服することである。この目的は、独立請求項に記載の方法およびバックエンドデバイスによって達成される。従属請求項は、本開示のさらなる態様に関する。
本開示は、バックエンド側分類子を更新およびトレーニングするための方法に関する。当該方法は、バックエンドデバイスで、少なくとも1つの車両から、車両側分類子によって生成されたそれぞれの分類結果とともに分類データを受信することと、分類データと、アノテーションとしての、修正可能性のあるそれぞれの分類結果とを使用して、バックエンド側分類子をトレーニングすることと、を含む。したがって、バックエンド側分類子は、事前トレーニング済の車両側分類子の結果に基づいてトレーニングまたは微調整される。分類結果および基礎となる分類データは、1つ以上の車両によってバックエンドに送信される。
分類データは、任意の種類の入力データ、例えば分類およびトレーニングに必要な生データまたは前処理済データであってよい。前処理済データは、任意のステージまたはマルチステージ分類子の出力を含みうる。具体的には、分類データは、車両によって取得された生データ、例えば生カメラ画像を含みうる。事前トレーニング済の車両側分類子の分類結果は、バックエンド側分類子を最初からトレーニングするための、またはパラメータ、例えばニューラルネットワークの場合には重みを更新することによってバックエンド側分類子をトレーニングするためのアノテーションとして使用可能である。バックエンド側分類子を正確にトレーニングまたは更新するには、整合性のある正確なアノテーションのみを使用する必要がある。したがって、バックエンドによって受信された分類結果に整合性チェックを適用することができ、車両側分類子によって生成された不整合または偽の分類結果を修正する必要がある。ただし、一部の車両側分類子が分類オブジェクトを正確に識別可能である一方で、他の車両側分類子は正確に識別可能でない場合があるため、車両側分類子によって生成された、不整合または偽の分類結果をもたらした分類データは、有益なトレーニングデータを表しうる。この場合、明らかに、分類オブジェクトは、洗練された(すなわち集中的にトレーニングされた)分類子によってのみ識別可能なプロパティを有しうる。こうした分類データによって既存のバックエンド側分類子をトレーニングする場合、分類子の分類プロパティの向上を期待できる。このように、複数の車両側分類子から受信した分類結果に整合性チェックを適用することにより、有益なトレーニングデータを効率的に求めるための手法が得られる。したがって、トレーニングデータを手動で選択する必要がなくなる。
上記のように、バックエンド側分類子のトレーニングには、分類結果の整合性チェックを行うために、複数の車両から受信した同じ分類オブジェクトの分類結果を比較することが含まれうる。分類結果が異なる場合、整合性チェックを分類結果に適用して、不整合または偽の分類結果を求めることができる。次に、整合性チェックに基づく整合性のあるアノテーションのみを使用して、バックエンド側分類子をトレーニングすることができる。このように、整合性のある分類結果を識別することによって、修正された分類結果を取得することができる。整合性のある分類結果は、それぞれの分類データの整合性のあるアノテーションとして使用可能である。整合性のあるアノテーションは、不整合または偽の分類結果が発生した車両に返信することができる。整合性のあるアノテーションに基づいて、バックエンドは、不整合または偽の分類結果が発生した車両の車両側分類子の更新を開始することができる。
分類データ、例えばカメラ画像によって表される分類オブジェクト、例えば道路標識は、その地理的位置とともに、1つ以上の車両によって通信可能である。分類オブジェクトの整合性のある正確なアノテーションを求めたバックエンドは、分類データおよび地理的位置とともに、整合性のある正確なアノテーションを、複数の車両、特に分類オブジェクトの近くの車両に配布することができる。地理的位置は、WGS84によって符号化可能である。
分類結果に整合性チェックを適用することは、同じ分類オブジェクトの分類結果に対して、投票スキーム、例えば自動バックエンド支援投票システム(例えば多数決)を適用することと、投票スキームが投票した分類結果(例えば多数決に勝利した分類結果)を、分類データによって表される分類オブジェクトの整合性のあるアノテーションとして設定することと、を含みうる。
整合性チェックでは、様々な車両側分類子、例えば様々な種類の分類子または様々な起源の分類子からの分類結果を使用可能である。
多数決が同数票の場合は、分類データの手動アノテーションを使用する必要が生じうる。バックエンドは、手動アノテータにより分類データにアノテーションを付すサービスセンタに、分類データを通信可能である。正確で整合性のあるアノテーションは、サービスセンタからバックエンドにより取得可能である。
初期的に偽または不整合である分類データは、修正されたアノテーション、すなわち修正されて整合性のあるアノテーションとともに分類されており、当該分類データは、バックエンド側分類子をトレーニングするために使用可能である。バックエンド側分類子は、更新によりトレーニング可能である。
上記のように、整合性チェックはバックエンドで実行可能である。ただし、通信リソースを節約するために、車両内で整合性チェックが実行されることがある。この目的のために、車両は異なる種類の2つの分類子を有しうる。こうして、同じ車両内の2つの分類子が異なる分類結果を生成する場合、分類子のトレーニングに対して有益な分類データが識別され、バックエンドに送信可能となる。さらに、分類結果が不整合である場合には、車両は、分類データによって表されるそれぞれの分類オブジェクトの正確な分類を求められないことがある。車両は、バックエンドを利用して正確な分類を取得することができる。したがって、正確で整合性のあるアノテーションをバックエンドによって生成することができ、これを使用して、不正確な分類結果を生成した車両側分類子を更新できる。不整合または不正確な分類結果を求めた車両は、分類が不整合または不正確であるという指示を生成することができる。バックエンドは、分類データおよび分類結果とともに、分類が不整合または不正確であるという指示を受信することができる。当該指示によってトリガされると、バックエンドは、分類データに基づき、例えば自身のバックエンド側分類子または手動アノテータにより、正確な分類を求めることができる。次に、バックエンドデバイスは、分類データおよび正確な分類結果を、当該車両または別の車両に通信することができる。続いて、バックエンドデバイスは、分類データと求められた正確な分類結果のアノテーションとに基づいて、車両または他の車両の車両側分類子のトレーニングを開始することができる。したがって、車両側分類子の不整合のある分類結果を識別し、これをバックエンドデバイスで修正することにより、正確なアノテーションとともに、有益なトレーニングデータを識別可能である。このように、トレーニングデータを識別し、これを利用して車両側分類子をトレーニングする、効率的な方法が提示される。
ただし、分類子をトレーニングするための正確なアノテーションを提供するために、バックエンドデバイスが整合性のある正確な分類結果自体を求める必要がないことがある。バックエンドデバイスは、代わりに他の車両の車両側分類子を使用して、整合性のある正確な分類結果を求めることができる。これにより、バックエンドデバイスは、分類が不整合であるという指示を受信すると、分類データを自身で評価することとは別に、またはこれに代えて、分類データを他の複数の車両に通信することができる。この場合、バックエンドデバイスは、他の複数の車両のそれぞれの車両側分類子による分類データの分類を開始することができる。分類が完了すると、バックエンドデバイスは、次に、他の複数の車両から分類結果を受信し、分類結果に投票スキーム、例えば多数決を適用し、投票スキーム、例えば多数決に勝利した分類結果を、分類オブジェクトの整合性のあるアノテーションとして設定することができる。バックエンドデバイスは、整合性のあるアノテーションを車両または別の車両に通信することができる。バックエンドデバイスは、分類データとアノテーションとしての求められた正確な分類結果とに基づいて、車両または別の車両の車両側分類子のトレーニングを開始することができる。
バックエンド側分類子は、最初からトレーニングする必要はない。代わりに、トレーニング内で微調整された既存の分類子を使用することができる。例えば、車両側分類子のコピーがバックエンド側分類子の開始点としてバックエンドに存在しうる。新規でありかつ整合可能性のある分類がそれぞれの分類データとともにバックエンドに到達すると、整合性がありかつ修正可能性のあるアノテーションとともに分類データをバックエンド側分類子に挿入して、パラメータ、例えば重みを適合させ、分類子を改善することができる。改善されたバックエンド側分類子は、例えば無線での更新を介して車両に再配布することができる。
上記で提案されているトレーニングスキームはいずれも、トレーニングセット内の分散度を増加させる。全トレーニングデータセットは、複数の分類データセットを含む。
分類データをその分類結果とともに生データ、例えばカメラ画像の形式でバックエンドに送信することに代えて、より抽象的な表現をバックエンドにアップロードすることができる。バックエンド側分類子および車両側は、複数の層を有する多層分類子であってよい。例えば、ニューラルネットワーク分類子は、複数の層で構成され、各層にはパーセプトロンが含まれる。パーセプトロンには、分類子を定義する重みが含まれている。分類のために、生データが第1の層に挿入される。次に、データが、ネットワークの様々な層を移動する際に変換され、ここで、最終的な分類結果は、最後の層の出力となる。生データをアップロードする代わりに、任意の層の生データの表現をアップロードできる。例えば、車両側分類子の層10の出力をアップロードして、それぞれのバックエンド側分類子の層11に挿入することができる。したがって、分類データは、複数の層のうちの特定の層の出力となる。バックエンド側分類子内では、車両側分類子の出力層より上位の層のみをトレーニングまたは更新することができる。言い換えれば、バックエンド側分類子をトレーニングすることは、車両側分類子の複数の層のうちの特定の層に対応する幾つかの層を更新することを含む。微調整には、これで十分である。これにより、バックエンドに通信されるデータが節約され、通信リソース、帯域幅または時間などが節約される。さらに、完全なカメラ画像のアップロードと比較して、プライバシーの問題が生じない。したがって、プライバシーの問題に影響を与える解決手段とは対照的に、よりユーザに受け入れられやすいと期待できる。生データの他の抽象的な表現、例えば画像処理の結果、例えばデモザイキング、およびハンドクラフテッドフィーチャ、例えば指向性勾配フィーチャのヒストグラムは、分類子のトレーニングのために、車両からバックエンドに通信可能である。
本開示はさらに、少なくとも1つの車両の車両側分類子によって生成されたそれぞれの分類結果とともに分類データを受信するように構成された受信機と、バックエンド側分類子を実装するように構成され、かつ分類データと、アノテーションとしての、修正可能性のあるそれぞれの分類結果とを使用してバックエンド側分類子をトレーニングするように構成された1つ以上のプロセッサと、を含むバックエンドデバイスに関する。
1つ以上のプロセッサは、複数の車両から受信した同じ分類オブジェクトの分類結果を比較するように構成可能である。分類結果が異なる場合、1つ以上のプロセッサは、分類結果に整合性チェックを適用して、不整合または偽の分類結果を求め、整合性チェックに基づく整合性のあるアノテーションのみを使用して、バックエンド側分類子をトレーニングするように構成されている。
本開示はさらに、上記のバックエンドデバイスおよび1つ以上の車両を含むシステムに関する。各車両は、車両側分類子を含む。バックエンドデバイスはさらに、整合性のあるアノテーションを、不整合または偽の分類結果が発生した車両に返信するように構成可能である。バックエンドデバイスはさらに、整合性のあるアノテーションに基づいて、不整合または偽の分類結果が発生した車両の車両側分類子の更新を開始するように構成可能である。
本発明の様々な実装形態を図面に示し、以下で説明および議論する。
バックエンドデバイスおよび3つの車両側分類子を示す図である。 多数決によって生成された、またはバックエンドによって手動で開始されたアノテーションを使用した、バックエンド側分類子のトレーニング方法を示すフローチャートである。 車両によって開始される、バックエンド側分類子および/または車両側分類子のトレーニング方法を示すフローチャートである。 車両によって開始される、多数決によって生成されたアノテーションを使用した、車両側分類子のトレーニング方法を示すフローチャートである。
発明の詳細な説明
図1は、通信ネットワーク104を介して車両デバイス106、車両デバイス108および車両デバイス110に通信可能に接続されているバックエンドデバイス102を含むシステム100のブロック図を示す。通信ネットワーク104は、通信規格、例えばモバイル通信用グローバルシステム(GSM)、ロングタームエボリューション(LTE)もしくは5Gに基づく無線通信ネットワーク、またはCar‐to‐X通信に適した他の任意のネットワークでありうる。バックエンドデバイス102は、通信ネットワーク104を介して車両デバイス106、108、110からデータを受信し、または車両デバイス106、108、110にデータを送信する送受信機を含む。バックエンドデバイス102は、メモリ114に接続されたプロセッサ112をさらに含む。メモリ114は、ソフトウェアモジュールとして実装された複数の分類子116、118、120を格納している。分類子116は、車両側のスタンドアロン分類子であってもよい。分類子118は、特定の車両側分類子のコピー、例えば車両側分類子142のコピーを表す分類子であってよい。分類子120は、別の特定の車両側分類子のコピー、例えば第2の通常の機器製造業者のコピーを表す分類子であってもよい。
第1の車両に含まれる車両デバイス106は、メモリ124に接続されたプロセッサ122を含む。メモリ124は、ソフトウェアモジュールとして実装された車両側分類子126を格納している。車両デバイス106は、通信ネットワーク104を介して通信するための送受信機を含む。
第2の車両に含まれる車両デバイス108は、メモリ132に接続されたプロセッサ130を含む。メモリ132は、ソフトウェアモジュールとして実装された車両側分類子134を格納している。車両デバイス108は、通信ネットワーク104を介して通信するための送受信機を含む。
第3の車両に含まれる車両デバイス110は、メモリ138に接続されたプロセッサ136を含む。メモリ138は、それぞれソフトウェアモジュールとして実装された車両側分類子140および車両側分類子142を格納している。車両側分類子140は、そのパラメータに関して、またはその構造に関して、車両側分類子142とは異なりうる。車両側分類子140および142が異なる分類結果を生成した場合、車両デバイス110自体が、分類結果が不整合であると判別することができる。不整合のある分類結果は、基礎となる分類データが分類子のトレーニングに特に有益でありうることを示している可能性があるが、これは、分類子140、142のうち一方のみが当該分類データに対して正確に機能するためである。こうした有益な分類データは、バックエンドデバイス102に通信可能である。この目的のために、車両デバイス110は、通信ネットワーク104を介して通信するための送受信機を含む。
システム100は、特定の1つの実施形態を表しているに過ぎない。例えば、車両側分類子は、車両の電子制御ユニットのプロセッサで実行されるソフトウェアモジュールとして実装されていてもよい。
スタンドアロンのバックエンド側分類子116は、トレーニングデータ、すなわち通信ネットワーク104を介して車両から収集された分類データを使用してトレーニング可能である。適切な、すなわち有益な分類データを求めるために、バックエンドデバイス102は、様々な車両側分類子124、134、140および142が様々な結果を生成する分類オブジェクトの分類データを収集する。バックエンド側分類子116のトレーニングまたは更新について、プロセッサ112に実装されている方法200のフローチャートを示す図2を参照して説明する。
車両側分類子126、134、140および142のそれぞれは、同じ分類オブジェクト、例えば車両デバイス106、108および110を含む車両が当該分類オブジェクトによって運転を行うときの道路標識を分類することができる。
バックエンドデバイス102は、通信ネットワーク104を介して車両デバイス102、106、108にリクエストを送信することにより、データ転送を開始することができる。代替的に、バックエンドデバイス104は、ステージ200に示しているように、複数の車両、例えば第1の車両、第2の車両および第3の車両からのそれぞれの分類結果とともに、分類オブジェクトの分類データを連続的に受信することもできる。
バックエンドデバイス102は、ステージ200に示しているように、同じ分類オブジェクトの分類結果を比較することができる。分類オブジェクトは、その地理的位置によって識別可能である。この目的のために、第1、第2および第3の車両は、分類オブジェクト、例えばGPSまたはレーダの地理的位置を求める手段を含むことができる。
バックエンドデバイス102は、ステージ206に示しているように、分類結果が異なるかどうかを判別することができる。分類結果に相違がない場合、分類結果には整合性があり、正確であると見なすことができる。当該分類結果は、車両側分類子116をトレーニングするための分類データのアノテーションとして使用することができる。分類結果が異なる場合、バックエンドデバイス102は、ステージ210に示しているように、多数決に基づいて、分類結果に整合性チェックを適用することができる。
多数決が存在する場合、例えば4つの分類子のうち3つの分類子126、134、140が特定の分類オブジェクトを求め、分類子142が別の分類オブジェクトを求めた場合、ステージ214に示しているように、多数決に勝利した分類結果が、分類データの正確なアノテーションとして使用される。このように求められた正確なアノテーションとともに分類データを使用することにより、スタンドアロン分類子116をバックエンドでトレーニングすることができる。しかし、分類子142は明らかに分類オブジェクトを正確に分類していないため、何らかの改善が必要である。したがって、求められた正確なアノテーションとともに分類データを車両デバイス110に返信することができる。バックエンドデバイス102は、車両側分類子142のトレーニングを開始することができる。代替的に、バックエンド側分類子118は、車両側分類子142のコピーであってもよい。バックエンドデバイス102は、分類データおよび求められた正確なアノテーションに基づいて、バックエンド側分類子120をトレーニングすることができる。トレーニングが完了すると、車両側分類子120の更新されたパラメータは、通信ネットワークを介して車両デバイス110に通信可能となる。この場合、車両デバイス110は、更新されたパラメータを使用して、車両側分類子142を更新することができる。
ただし、多数決が存在しない場合、例えば結果が同数の場合がある。例えば、車両側分類子126および136が特定の分類オブジェクトを求め、車両側分類子140および142が別の分類オブジェクトを求めたとする。この場合、整合性のあるアノテーションを、多数決で求めることができない。この場合、バックエンドデバイス102は、他の方法を使用して、正確なアノテーション、すなわち分類オブジェクトの分類結果を求めることができる。ステージ216に示すように、分類データには手動でアノテーションを付すことができる。この目的のために、バックエンドデバイス102は、手動アノテータが存在する外部サーバまたはサービスプロバイダに分類データを通信することができる。このようにして求められた正確なアノテーションは、バックエンド側のスタンドアロン分類子116をトレーニングまたは更新するために使用可能である。当該分類子は、この場合、分類データを正確に分類していないため、バックエンドデバイス102は、車両側分類子140および142のトレーニングを開始することができる。代替的に、バックエンド側分類子118は、車両側分類子140のコピーであってよく、バックエンド側分類子120は、車両側分類子142のコピーであってよい。バックエンドデバイス102は、分類データと求められた正確なアノテーションとに基づいて、バックエンド側分類子118およびバックエンド側分類子120をトレーニングすることができる。トレーニングが完了すると、車両側分類子118および車両側分類子120の更新されたパラメータは、通信ネットワークを介して車両デバイス110に通信可能となる。この場合、車両デバイス110は、更新されたパラメータを使用して、車両側分類子140および車両側分類子142をそれぞれ更新することができる。
上記の方法により、分類子のトレーニングに適したトレーニングデータセット、すなわち一部の分類子が正確な分類結果を生成し、他の分類子は正確な分類結果を生成しない分類データを、暗黙的に識別する手法が得られる。
ただし、複数の車両から受信した分類結果に多数決を適用することから、バックエンド自体がトレーニングデータセットを識別する必要があることがわかる。
図3は、適切なトレーニングデータセットが車両内で識別される方法のフローチャートを示す。
分類オブジェクトは、ステージ302に示しているように、車両側分類子140および車両側分類子142によって分類可能である。2つの分類結果が異なる場合、すなわち不整合となる場合がある。したがって、一方または両方の分類子が正確に機能しなかった可能性がある。ステージ306に示しているように、車両デバイス110は、不整合のある分類結果が生成されたという指示を生成可能であり、当該指示を分類データとともに通信ネットワーク104を介してバックエンドデバイス102に通信可能である。したがって、車両デバイス110自体が不整合性を求めるため、バックエンドデバイスは、他の車両側分類子を使用して分類結果が不整合であるか否かを判定するための通信労力を節約することができる。
ステージ306に示しているように、分類結果がそれぞれの分類データと不整合または偽であるという指示を受信すると、バックエンドデバイス102は、ステージ308に示しているように、例えば自身のスタンドアロン分類子116を使用することにより、正確な分類結果、すなわち分類についての正確で整合性のあるアノテーションを求めることができる。代替的に、図4を参照して後述するように、バックエンドデバイス102は、通信ネットワーク104を介してアクセス可能な他の車両の手動アノテータ、または車両側分類子を使用することもできる。
バックエンドデバイス102が正確な分類結果を求めると、バックエンドデバイス102は、分類結果を分類データとともに車両デバイス110に返信することができる。さらに、バックエンドデバイス102は、ステージ310に示しているように、分類データを、正確な分類結果とともに、他の車両デバイス、例えば車両デバイス106および/または108に通信することができる。
ステージ312に示しているように、バックエンドデバイス102は、車両側分類子140および142ならびに車両側分類子126および134のトレーニングを開始することができ、これらは次に、それぞれステージ314および316に示しているように、分類データと正確なアノテーションとに基づいてトレーニング可能となる。
上記のように、1つの車両デバイスが、バックエンドデバイスによってアノテーションが付された適切かつ有益なトレーニングデータを識別するので、当該トレーニングデータとともに正確なアノテーションがネットワークを介して配布されて、他の車両デバイスの車両側分類子がトレーニングされる。
図4は、適切なトレーニングデータセットが車両内で識別され、正確な分類結果が複数の車両側分類子によって識別される方法のフローチャートを示す。
分類オブジェクトは、ステージ402に示しているように、車両側分類子140および車両側分類子142によって分類可能である。2つの分類結果が異なる場合、すなわち不整合となる場合がある。したがって、一方または両方の分類子が正確に機能しなかった可能性がある。車両デバイス110は、ステージ406に示しているように、不整合のある分類結果が生成されたという指示を生成可能であり、当該指示を分類データとともに通信ネットワーク104を介してバックエンドデバイス102に通信可能である。したがって、車両デバイス110自体が不整合性を求めるため、バックエンドデバイスは、他の車両側分類子を使用して部類結果が不整合であるか否かを判定するための通信労力を節約することができる。
ステージ406に示しているように、バックエンドデバイス102は、分類結果がそれぞれの分類データと不整合または偽であるという指示を受信すると、通信ネットワーク104を介してアクセス可能な他の車両の車両側分類子を使用することにより、正確な分類結果、すなわち分類についての正確で整合性のあるアノテーションを求めることができる。
この目的のために、バックエンドデバイス102は、ステージ408に示しているように、分類データを、車両デバイス106および108、ならびに図1に示されていない他の車両デバイスに通信することができる。
バックエンドデバイス102は、ステージ410に示しているように、分類データが通信された各車両デバイスの車両側分類子、例えば車両側分類子126、128などにより、分類データの分類を開始することができる。
次に、各車両側分類子は、ステージ412に示しているように、分類オブジェクトを分類し、結果をバックエンドデバイス102に返信することができる。次に、バックエンドデバイス102は、ステージ414に示しているように、分類結果を受信し、ステージ416に示しているように、分類結果に多数決を適用することができる。多数決に勝利した分類結果が、分類オブジェクトの整合性のあるアノテーションとして設定される。
次に、バックエンドデバイス102は、ステージ420に示しているように、車両デバイス110の車両側分類子と、場合によっては他の車両の車両側分類子とのトレーニングを開始する。さらに、バックエンドデバイス102は、分類データと整合性のあるアノテーションとを使用して、自身のスタンドアロン分類子116をトレーニングすることができる。
上記のように、1つの車両デバイスが、通信ネットワークを介してアクセス可能な他の車両側分類子を使用することによって、アノテーションが付された適切な有益なトレーニングデータを識別する。トレーニングデータとともに、整合性のある、すなわち正確なアノテーションがネットワークを介して配布され、他の車両デバイスの車両側分類子がトレーニングされる。
上記のシナリオのいずれにおいても、分類データは多層分類子の特定の層の出力であってよい。この場合、他の分類子の後続の層を使用して、正確なアノテーションを求めることができる。また、他の分類子の後続の層は、当該種類の分類データと求められた正確なアノテーションとを使用してトレーニング可能または更新可能である。このように、データの収集および処理に関する幾つかのプライバシーの問題が解決されるため、運転者に受け入れられやすくなる。

Claims (8)

  1. バックエンド側分類子をトレーニングおよび更新するための方法であって、
    バックエンドデバイスが、少なくとも1つの車両から、車両側分類子によって生成されたそれぞれの分類結果とともに分類データを受信するステップと、
    前記バックエンドデバイスが、前記分類データと、アノテーションとしての、修正可能性のあるそれぞれの分類結果とを使用して、前記バックエンド側分類子をトレーニングするステップと、
    を含み、
    前記分類データは生データであり、
    前記バックエンドデバイスによる前記バックエンド側分類子をトレーニングするステップが、
    複数の車両から受信した同じ分類オブジェクトの分類結果を比較するステップと、
    前記分類結果が異なる場合、不整合または偽の分類結果を求めるために、前記分類結果に整合性チェックを適用し、前記整合性チェックに基づく整合性のあるアノテーションのみを使用して、前記バックエンド側分類子をトレーニングするステップと、
    を含み、
    前記方法がさらに、前記バックエンドデバイスが、整合性のあるアノテーションを、不整合または偽の分類結果が発生した車両に返信するステップを含む、
    方法。
  2. 前記方法がさらに、前記バックエンドデバイスが、前記整合性のあるアノテーションに基づいて、前記不整合または偽の分類結果が発生した前記車両の前記車両側分類子の更新を開始するステップを含む、請求項1記載の方法。
  3. 前記バックエンドデバイスによる前記分類結果に整合性チェックを適用するステップが、前記同じ分類オブジェクトの分類結果に投票スキームを適用し、前記投票スキームによって投票された前記分類結果を、前記分類オブジェクトの整合性のあるアノテーションとして設定するステップを含む、請求項1または2記載の方法。
  4. 前記バックエンドデバイスによる前記分類結果に整合性チェックを適用するステップが、手動アノテータによって前記分類データにアノテーションを付すステップを含む、請求項1から3までのいずれか1項記載の方法。
  5. 前記バックエンドデバイスによる前記バックエンド側分類子をトレーニングするステップが、前記バックエンド側分類子を更新するステップを含む、請求項1から4までのいずれか1項記載の方法。
  6. 前記バックエンド側分類子および前記車両側分類子が、複数の層を有する多層分類子であり、前記分類データが、前記複数の層のうちの特定の層の出力である、請求項1から5までのいずれか1項記載の方法。
  7. 前記バックエンドデバイスによる前記バックエンド側分類子をトレーニングするステップが、前記複数の層のうちの前記特定の層に対応する幾つかの層を更新するステップを含む、請求項記載の方法。
  8. 少なくとも1つの車両の車両側分類子によって生成されたそれぞれの分類結果とともに分類データを受信するように構成された受信機と、
    バックエンド側分類子を実装するように構成され、かつ前記分類データと、アノテーションとしての、修正可能性のあるそれぞれの分類結果とを使用して、前記バックエンド側分類子をトレーニングするように構成された1つ以上のプロセッサと、
    を備えるバックエンドデバイスであって
    前記1つ以上のプロセッサが、
    複数の車両から受信した同じ分類オブジェクトの分類結果を比較し、
    前記分類結果が異なる場合、不整合または偽の分類結果を求めるために前記分類結果に整合性チェックを適用し、前記整合性チェックに基づく整合性のあるアノテーションのみを使用して、前記バックエンド側分類子をトレーニングする
    ように構成されており、
    前記バックエンドデバイスがさらに、整合性のあるアノテーションを、不整合または偽の分類結果が発生した車両に返信するように構成されており、前記バックエンドデバイスがさらに、前記整合性のあるアノテーション基づいて、前記不整合または偽の分類結果が発生した前記車両の前記車両側分類子の更新を開始するように構成されている、バックエンドデバイス。
JP2020532666A 2017-12-15 2017-12-15 分類子をトレーニングおよび更新するための方法およびシステム Active JP7155265B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/EP2017/083122 WO2019114991A1 (en) 2017-12-15 2017-12-15 Method and system for training and updating a classifier

Publications (2)

Publication Number Publication Date
JP2021507370A JP2021507370A (ja) 2021-02-22
JP7155265B2 true JP7155265B2 (ja) 2022-10-18

Family

ID=60935816

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020532666A Active JP7155265B2 (ja) 2017-12-15 2017-12-15 分類子をトレーニングおよび更新するための方法およびシステム

Country Status (4)

Country Link
US (1) US11301721B2 (ja)
EP (1) EP3724808A1 (ja)
JP (1) JP7155265B2 (ja)
WO (1) WO2019114991A1 (ja)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005309920A (ja) 2004-04-23 2005-11-04 Alliance Group Inc 多数決装置及びその学習方法と多クラス識別装置
JP2015135552A (ja) 2014-01-16 2015-07-27 株式会社デンソー 学習システム、車載装置、及び、サーバ

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11465635B2 (en) * 2017-12-04 2022-10-11 Gentex Corporation Systems and methods for adjustment of vehicle sub-systems based on monitoring of vehicle occupant(s)

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005309920A (ja) 2004-04-23 2005-11-04 Alliance Group Inc 多数決装置及びその学習方法と多クラス識別装置
JP2015135552A (ja) 2014-01-16 2015-07-27 株式会社デンソー 学習システム、車載装置、及び、サーバ

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
Road condition monitoring and alert application: Using in-vehicle Smartphone as Internet-connected sensor,2012 IEEE International Conference on Pervasive Computing and Communications Workshops,2012年,https://ieeexplore.ieee.org/document/6197543

Also Published As

Publication number Publication date
JP2021507370A (ja) 2021-02-22
US11301721B2 (en) 2022-04-12
US20210182608A1 (en) 2021-06-17
WO2019114991A1 (en) 2019-06-20
EP3724808A1 (en) 2020-10-21

Similar Documents

Publication Publication Date Title
US11164051B2 (en) Image and LiDAR segmentation for LiDAR-camera calibration
KR102557956B1 (ko) 딥 러닝 모델들의 분산 훈련을 위한 시스템들 및 방법들
CN109421731B (zh) 可信度检验模块、驾驶辅助系统和校准传感器的方法
US20210108943A1 (en) Map data updating method, apparatus, system and storage medium
CN108460427B (zh) 一种分类模型训练方法、装置以及分类方法及装置
JP7111175B2 (ja) 物体認識システム、認識装置、物体認識方法および物体認識プログラム
US10963711B2 (en) Apparatus, system and method for recognizing object of vehicle
EP3843036B1 (en) Sample labeling method and device, and damage category identification method and device
AU2021200302B2 (en) Method for sharing models among autonomous vehicles based on blockchain
CN112183166A (zh) 确定训练样本的方法、装置和电子设备
CN110892760A (zh) 基于深度学习定位终端设备
KR20190043396A (ko) 도로 경로 촬영 영상을 이용한 도로 경로 별 날씨정보 생성 및 제공하기 위한 방법 및 시스템
CN111798482A (zh) 一种目标跟踪方法及设备
CN112631333B (zh) 无人机的目标跟踪方法、装置及图像处理芯片
JP7155265B2 (ja) 分類子をトレーニングおよび更新するための方法およびシステム
CN111710153B (zh) 交通流量的预测方法、装置、设备及计算机存储介质
US20230297845A1 (en) System and method for federated learning of self-supervised networks in automated driving systems
CN113255601B (zh) 一种车辆重识别模型的训练方法、系统及相关设备
CN115049151A (zh) 导航路线推荐方法、装置、设备及存储介质
US20210209399A1 (en) Bounding box generation for object detection
US11874129B2 (en) Apparatus and method for servicing personalized information based on user interest
CN114373081A (zh) 图像处理方法及装置、电子设备及存储介质
JP6922447B2 (ja) 情報処理システム、サーバおよび通信方法
RU2724596C1 (ru) Способ, устройство, центральное устройство и система для распознавания сдвига распределения в распределении данных и/или признаков входных данных
US11455763B2 (en) Bounding box generation for object detection

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200710

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210825

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210927

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211124

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220412

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220531

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220927

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221005

R150 Certificate of patent or registration of utility model

Ref document number: 7155265

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

S631 Written request for registration of reclamation of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313631

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350