JP2018169924A - 学習データ収集装置、学習データ収集システムおよび学習データ収集方法 - Google Patents

学習データ収集装置、学習データ収集システムおよび学習データ収集方法 Download PDF

Info

Publication number
JP2018169924A
JP2018169924A JP2017068317A JP2017068317A JP2018169924A JP 2018169924 A JP2018169924 A JP 2018169924A JP 2017068317 A JP2017068317 A JP 2017068317A JP 2017068317 A JP2017068317 A JP 2017068317A JP 2018169924 A JP2018169924 A JP 2018169924A
Authority
JP
Japan
Prior art keywords
learning data
data collection
unit
captured image
vehicle
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017068317A
Other languages
English (en)
Other versions
JP7060334B2 (ja
Inventor
小野 紘平
Kohei Ono
紘平 小野
智仁 井上
Tomohito Inoue
智仁 井上
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Ten Ltd
Original Assignee
Denso Ten Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Ten Ltd filed Critical Denso Ten Ltd
Priority to JP2017068317A priority Critical patent/JP7060334B2/ja
Publication of JP2018169924A publication Critical patent/JP2018169924A/ja
Application granted granted Critical
Publication of JP7060334B2 publication Critical patent/JP7060334B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

【課題】駐車可能な駐車スペースの学習データを効率よく収集することができる学習データ収集装置、学習データ収集システムおよび学習データ収集方法を提供すること。【解決手段】実施形態に係る学習データ収集装置は、取得部と、特定部と、対応付け部とを備える。取得部は、自車両が駐車する前に自車両上で撮像された撮像画像を取得する。特定部は、自車両が実際に駐車した駐車位置を特定する。対応付け部は、取得部によって取得された撮像画像と特定部によって特定された駐車位置とを対応付ける。【選択図】図1B

Description

本発明は、学習データ収集装置、学習データ収集システムおよび学習データ収集方法に関する。
車両上で撮像された撮像画像から駐車可能な駐車スペースを検出し、検出した駐車スペースに車両を駐車する運転支援装置が提案されている。かかる運転支援装置は、多様な駐車スペースの学習データに基づく学習辞書を記憶し、かかる学習辞書に基づいて撮像画像から駐車スペースを検出する(例えば、特許文献1参照)。
特開2009−241925号公報
しかしながら、運転支援装置に用いられる学習辞書には、膨大な量の学習データを必要とするが、学習データを如何に効率よく収集するかについては考慮されていなかった。
本発明は、上記に鑑みてなされたものであって、駐車可能な駐車スペースの学習データを効率よく収集することができる学習データ収集装置、学習データ収集システムおよび学習データ収集方法を提供することを目的とする。
実施形態に係る学習データ収集装置は、取得部と、特定部と、対応付け部とを備える。取得部は、自車両が駐車する前に前記自車両上で撮像された撮像画像を取得する。特定部は、前記自車両が実際に駐車した駐車位置を特定する。対応付け部は、前記取得部によって取得された前記撮像画像と前記特定部によって特定された前記駐車位置とを対応付ける。
本発明によれば、駐車可能な駐車スペースの学習データを効率よく収集することができる。
図1Aは、学習データ収集装置の搭載例を示す図である。 図1Bは、学習データ収集方法の概要を示す図である。 図1Cは、学習データ収集システムの概要を示す図である。 図2は、学習データ収集システムのブロック図である。 図3Aは、特定部による処理を説明する図(その1)である。 図3Bは、特定部による処理を説明する図(その2)である。 図4は、導出部および判定部による処理を説明する図である。 図5は、対応付け部による処理を説明する図である。 図6は、学習データ収集装置が実行する処理手順を示すフローチャートである。 図7は、学習データ収集システムの適用例を示す運転支援装置のブロック図である。 図8は、運転支援装置が実行する処理手順を示すフローチャートである。
以下に、添付図面を参照して、実施形態に係る学習データ収集装置、学習データ収集システムおよび学習データ収集方法を詳細に説明する。なお、以下に示す実施形態によりこの発明が限定されるものではない。
まず、図1Aおよび図1Bを用いて実施形態に係る学習データ収集装置および学習データ収集方法の概要について説明する。図1Aは、学習データ収集装置の搭載例を示す図である。図1Bは、学習データ収集方法の概要を示す図である。
なお、図1Aでは、車両Cが駐車場の入口にいる場面を示している。図1Aに示すように、実施形態に係る学習データ収集装置1は、車両Cに搭載される。また、車両Cは、例えば、車両Cの前方を撮像する撮像装置2を備える。
学習データ収集装置1は、撮像装置2によって撮像された撮像画像Fから車両Cが駐車可能な駐車スペースSを検出するための学習データを収集する。ここで、従来技術において、かかる学習データを収集するために、技術者等が撮像画像Fから駐車スペースSを確認し、撮像画像Fに対して駐車スペースSを手動で入力する必要があった。つまり、従来技術においては、手動で学習データを作成する必要があった。
しかしながら、撮像画像Fから精度よく駐車スペースSを検出するためには、大量の学習データを収集する必要がある。このため、従来技術のように、手動で学習データを作成するにはデータ数や時間に限界があり、効率的な学習データの収集が望まれる。
そこで、実施形態に係る学習データ収集方法では、車両Cが駐車前に撮像した撮像画像Fと、車両Cが実際に駐車した駐車位置Pとを対応付けることで駐車スペースSの学習データを効率よく収集することとした。
具体的には、図1Bに示すように、実施形態に係る学習データ収集方法は、まず、車両Cが駐車する前に撮像装置2によって撮像された撮像画像Fを取得する(ステップS1)。
続いて、実施形態に係る学習データ収集方法では、車両Cが実際に駐車した駐車位置Pを特定する(ステップS2)。なお、ここでは、車両Cが図1Aに示す2番の位置に駐車したものとする。
そして、実施形態に係る学習データ収集方法では、ステップS1で取得した撮像画像Fに駐車位置Pを対応付ける(ステップS3)。図1Bに示す例では、撮像画像Fにおいて特定した駐車位置Pにハッチングを施して示す。また、以下では、撮像画像Fに駐車位置Pを対応付けた結果を学習データと記載する場合がある。
ここで、車両Cの運転者(以下、単に運転者という)は、駐車時において、空いている駐車スペースSに車両Cを駐車させる。換言すると、駐車位置Pは、撮像画像Fの撮像時において駐車可能な駐車スペースSとなる。
つまり、実施形態に係る学習データ収集方法では、撮像画像Fに駐車位置Pを対応付けることで、駐車スペースSの学習データを効率よく作成することができる。
このため、実施形態に係る学習データ収集方法では、学習データの作成に際して、従来技術のように、人の手を必要とせず、自動的に学習データを収集することが可能となる。
さらに、実施形態に係る学習データ収集方法では、ドライブレコーダ等の一般的に普及している撮像装置2を用いて学習データを収集することが可能である。このため、実施形態に係る学習データ収集方法では、膨大な学習データを収集することができる。
したがって、実施形態に係る学習データ収集方法によれば、駐車可能な駐車スペースSの学習データを効率よく収集することができる。
次に、図1Cを用いて実施形態に係る学習データ収集システムの概要について説明する。図1Cは、学習データ収集システム100の概要を示す図である。
図1Cに示すように、学習データ収集システム100は、学習データ収集装置1と、通信装置30と、学習サーバ50とを備える。なお、ここでは、説明を簡略化するために、学習データ収集装置1および通信装置30がそれぞれ1つである場合を示しているが、学習データ収集システム100には、複数の学習データ収集装置1や通信装置30が含まれる。
学習データ収集装置1は、既に説明したように、撮像装置2から入力される撮像画像Fと、車両Cが実際に駐車した駐車位置Pとを対応付けた学習データを通信装置30を介して学習サーバ50へ送信する。
通信装置30は、例えば、学習データ収集装置1と、近距離無線通信により通信し、また、学習サーバ50と、例えば、広域通信網を用いて通信することができる。
このように、学習データ収集システム100では、学習データ収集装置1と、通信装置30との通信に近距離無線通信を用いることで、学習データ収集装置1から学習サーバ50へ学習データを直接送信する場合に比べて、通信料を抑えることができる。換言すると、学習データ収集システム100のランニングコストを抑えることができる。
また、通信装置30は、同図に示すように、例えば、駐車場の出入り口に設けられ、車両Cが入庫時に、駐車ゲートを通過した際に、学習データ収集装置1に対して撮像装置2から撮像画像Fの取得指示を送信する。
換言すると、通信装置30は、学習データ収集装置1に対して撮像装置2から撮像画像Fの取得させるトリガを与える。これにより、学習データ収集装置1は、車両Cが実際に駐車する前の撮像画像Fを取得することができる。
ここで、撮像装置2が車両Cの前方を撮像するドライブレコーダであると仮定する。かかる場合に、通信装置30は、車両Cの前方が駐車スペースSとなる位置を車両Cが通過した際に、上記した取得指示を学習データ収集装置1へ送信する。換言すると、通信装置30は、車両Cの前方が壁などの遮蔽物である場合、上記の取得指示を送信しない。
これにより、かかる取得指示を受けて学習データ収集装置1によって取得された撮像画像Fには、駐車場が広範囲にわたって写ることになる。したがって、学習データ収集装置1は、駐車スペースSが撮像された撮像画像Fを取得することができる。
また、通信装置30を駐車場の出入り口に設けることで、学習データ収集装置1は、同じ駐車スペースSの学習データを収集することができる。これにより、学習サーバ50は、同じ場所で作成された学習データを蓄積することができるため、機械学習を容易にすることができる。
そして、通信装置30は、車両Cが出庫する際に、学習データ収集装置1から学習データを受信し、受信した学習データを学習サーバ50へ送信する。
なお、学習データ収集装置1は、撮像画像Fと、駐車位置Pに関する情報(以下、駐車位置情報という場合がある)とを別々に通信装置30へ送信することもできる。
具体的には、例えば、学習データ収集装置1は、車両Cが入庫する際に、上記の取得指示を受けて取得した撮像画像Fを通信装置30へ送信しておき、その後、出庫する際に、駐車位置情報を通信装置30へ送信することもできる。
学習サーバ50は、通信装置30から送信される学習データをビッグデータとして記憶し、かかるビッグデータに基づいて駐車可能な駐車スペースSを学習する。
なお、ここでは、通信装置30が駐車場の出入り口に配置される場合について示したが、これに限定されるものではない。すなわち、撮像装置2の撮像画像Fに少なくとも1つ以上の駐車スペースSが写るように学習データ収集装置1に上記の取得指示を送信することができれば、通信装置30を設置する位置は問わない。
また、例えば、ショッピングモール等の大きい駐車場である場合、通信装置30を複数設けるようにしてもよい。かかる場合に、複数の出入り口の全てに通信装置30を設けるようにしてもよいし、あるいは、駐車場の区画ごとに通信装置30を設けることもできる。
次に、図2を用いて実施形態に係る学習データ収集システム100の構成について説明する。図2は、学習データ収集システム100のブロック図である。なお、図2には、撮像装置2、車速センサ3、舵角センサ4およびシフトセンサ5を併せて示す。また、学習データ収集装置1に撮像装置2を含める構成とすることにしてもよい。また、通信装置30については、既に説明したため、ここでの説明は省略する。
図2に示すように、学習データ収集装置1は、撮像装置2と、車速センサ3と、舵角センサ4と、シフトセンサ5に接続される。撮像装置2は、例えば、CCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)などの撮像素子を備え、例えば、車両Cの前方を撮像する。撮像装置2によって撮像された撮像画像Fは、学習データ収集装置1へ出力される。なお、撮像装置2は、車両Cの後方を撮像するバックカメラや、サイドカメラであってもよい。また、撮像装置2は、学習データ収集装置1の指示に基づいて撮像画像Fを撮像することもできる。
車速センサ3は、車両Cの車速パルス信号を計測することで車両Cの走行速度を検出し、かかる走行速度を示す車速信号を学習データ収集装置1へ出力する。舵角センサ4は、車両Cの舵角を計測し、かかる舵角を示す舵角信号を学習データ収集装置1へ出力する。
シフトセンサ5は、車両Cの現在のシフト位置に応じたシフト信号を学習データ収集装置1へ出力する。なお、以下では、車速センサ3、舵角センサ4およびシフトセンサ5から学習データ収集装置1へ出力される信号を総称して「走行信号」と記載する場合がある。
学習データ収集装置1は、制御部10と、記憶部20と、通信部31とを備える。制御部10は、取得部11と、特定部12と、導出部13と、判定部14とを備える。また、記憶部20は、画像情報21を記憶する。
制御部10は、例えば、CPU(Central Processing Unit)、ROM(Read Only Memory)、RAM(Random Access Memory)、HDD(Hard Desk Drive)、入出力ポートなどを有するコンピュータや各種回路を含む。
コンピュータのCPUは、例えば、ROMに記憶された各種プログラムを読み出して実行することによって、制御部10の取得部11、特定部12、導出部13、判定部14および対応付け部15として機能する。
また、制御部10の取得部11、特定部12、導出部13、判定部14および対応付け部15の少なくともいずれか一つまたは全部をASIC(Application Specific Integrated Circuit)やFPGA(Field Programmable Gate Array)等のハードウェアで構成することもできる。
また、記憶部20は、たとえば、ROM、RAMおよびHDDに対応する。ROM、RAMおよびHDDは、画像情報21や各種プログラムの情報等を記憶することができる。なお、制御部10は、有線や無線のネットワークで接続された他のコンピュータや可搬型記憶媒体を介して画像情報21や各種情報を取得することとしてもよい。
制御部10の取得部11は、撮像装置2から撮像画像Fを取得する。取得部11は、取得した撮像画像Fを画像情報21として記憶部20に記憶させるとともに、特定部12へ出力する。
記憶部20の画像情報21は、撮像画像Fが時系列に並べて記憶された情報である。画像情報21は、取得部11によって最新の撮像画像Fが記憶されると、時間的に最も古い撮像画像Fから順次削除して更新される。
特定部12は、車速センサ3、舵角センサ4およびシフトセンサ5から入力される上記した走行信号に基づいて車両Cが実際に駐車した駐車位置Pを特定する。そして、特定部12は、特定した駐車位置Pを対応付け部15へ出力する。
ここで、図3Aおよび図3Bを用いて特定部12による処理の具体例について説明する。図3Aおよび図3Bは、特定部12による処理を説明する図である。
特定部12は、例えば、車両Cが駐車する前に撮像装置2によって撮像画像Fが撮像された撮像位置から車両Cが実際に駐車するまでの車両Cの走行軌跡Vpに基づいて駐車位置Pを特定することができる。
なお、ここでは、図3Aに示すように、車両Cが地点P0において、撮像装置2が駐車する前の撮像画像Fを撮像し、その後、地点P1を経由して地点P1からバック走行により地点P2に駐車したものとする。
かかる場合に、特定部12は、上記した走行信号に基づいて走行軌跡Vpを算出する。そして、特定部12は、図3Bに示すように撮像画像Fが撮像された地点P0を始点として平面座標に走行軌跡Vpを投映することで、車両Cが実際に駐車した駐車位置である走行軌跡Vpの終点である地点P2の座標を算出する。
このように、特定部12は、走行軌跡Vpに基づいて駐車位置Pを特定することで、駐車位置Pを正確に特定することができる。なお、特定部12は、走行軌跡Vpを算出する代わりに、GPS(Global Positioning System)を用いて地点P0および地点P1の位置情報を取得し、かかる位置情報に基づいて車両Cの駐車位置Pの座標を算出することにしてもよい。
ここで、特定部12は、車両Cの駆動源が停止した地点を走行軌跡Vpの終点として駐車位置Pとして特定する。なお、「駆動源」とは、車両Cがガソリン車であれば、エンジンを指し、車両Cが電気自動車であれば、モータを指す。また、車両Cがハイブリッド車であれば、エンジンおよびモータの双方を指す。
また、「駆動源が停止した」とは、運転者が車両Cの駆動源を意図して停止させたことを意味する。これは、運転者による駐車後の挙動として、駆動源を停止させることが多いためである。
つまり、特定部12は、車両Cの駆動源が停止した位置を駐車位置Pとして特定することで、車両Cが駐車したことを精度よく認識することができる。
なお、特定部12は、駆動源の停止に限らず、車両Cが所定時間(例えば、10分間)以上停車したことを条件として駐車したことを認識することにしてもよい。また、特定部12は、車両Cのシフトレバがリバースからパーキングへ切り替わったことを条件として駐車したことを認識するようにしてもよい。
図2の説明に戻り、制御部10の導出部13について説明する。導出部13は、時系列の撮像画像FからオプティカルフローVを導出する。導出部13によって導出されたオプティカルフローVは、判定部14へ出力される。
判定部14は、導出部13によって生成されたオプティカルフローVに基づいて撮像画像Fの被写体が移動物か否かを判定し、判定結果を対応付け部15へ出力する。
ここで、図4を用いて導出部13および判定部14による処理の具体例について説明する。図4は、導出部13および判定部14による処理の具体例について説明する図である。図4の上図には、時系列的に連続する撮像画像F1および撮像画像F2を示し、時刻t0の撮像画像F1を図3Aに示した地点P0で撮像された撮像画像Fであるものとする。
図4に示すように、導出部13は、撮像画像F1と、時刻t0以降の時刻t1に撮像された撮像画像F2とに基づいてオプティカルフローVを導出する。具体的には、まず、導出部13は、例えばソベルフィルタ等の既知の手法を用いることで、撮像画像F1および撮像画像F2から特徴点の抽出処理を行う。
続いて、導出部13は、勾配法であるLucas-Kaneda法やHorn-Schunk法といった既知の手法によって抽出した特徴点に基づいてオプティカルフローVを生成することができる。
なお、図4の中図では、導出部13によって導出されたオプティカルフローVを矢印で示している。また、導出部13は、勾配法に限らず、ブロックマッチング法によってオプティカルフローVを生成してもよい。
ここで、例えば、路面や、静止している車両などの静止物に対応するオプティカルフローVは、車両Cの移動距離および移動方向に比例して変化する。一方、移動している他車両や歩行者などの移動物に対応するオプティカルフローVは、静止物に対応するオプティカルフローVとは異なり、車両Cの移動距離および移動方向に加えて、移動物の移動距離および移動方向に応じて変化する。
このため、判定部14は、静止物と異なるオプティカルフローVを、移動物に対応するオプティカルフローVとして判定することができる。そして、判定部14は、撮像画像F1において上記した移動物に対応するオプティカルフローVの始点に写る被写体を移動物であると判定することができる。
図4の下図に示す例では、撮像画像F1において移動物が存在する領域に移動物が存在することを示すマークMを重畳して示す。そして、判定部14は、撮像画像F1におけるマークMの座標情報を対応付け部15へ出力する。
なお、ここでは、導出部13が、撮像画像F1と、撮像画像F1の後に撮像された撮像画像F2とに基づいてオプティカルフローVを生成する場合について説明したが、これに限定されるものではない。
すなわち、導出部13は、撮像画像F1と、撮像画像F1よりも前に撮像された撮像画像Fとに基づいてオプティカルフローVを生成することにしてもよい。また、導出部13は、撮像画像F1を含む3フレーム以上の撮像画像FからオプティカルフローVを生成することにしてもよい。
また、ここでは、判定部14がオプティカルフローVに基づいて移動物および静止物を判定する場合について説明したが、これに限定されるものではない。判定部14は、撮像画像Fから既存の画像認識処理によって歩行者等の移動物を認識することで、被写体が移動物であるか静止物であるかを判定することにしてもよい。
図2の説明に戻り、制御部10の対応付け部15について説明する。対応付け部15は、撮像画像Fと、特定部12によって特定された駐車位置Pとを対応付けて、対応付け後の学習データを通信部31および通信装置30を介して学習サーバ50へ送信する。
ここで、図5を用いて対応付け部15による処理の詳細について説明する。図5は、対応付け部15による処理を説明する図である。同図に示すように、まず、対応付け部15は、特定部12によって特定された駐車位置Pを、撮像装置2の視点位置2aに基づいて撮像画像F1上の座標へ変換する。
そして、対応付け部15は、撮像画像F1における駐車位置Pの画素に「1」を対応付けて、駐車位置P以外の撮像画像Fの画素に「0」を対応付ける。なお、同図に示す例では、撮像画像Fにおける駐車位置Pの画素にハッチングを施して示している。
このように、対応付け部15は、車両Cが実際に駐車した駐車位置Pを撮像画像Fに対応付けることで、駐車可能な駐車スペースSの学習データを効率よく作成することができる。
また、対応付け部15は、判定部14による判定結果を撮像画像Fに対応付けることもできる。具体的には、判定部14によって移動物が存在すると判定された撮像画像Fの各画素に例えば、図4に示したようにマークMを重畳させる。
つまり、対応付け部15は、撮像画像Fに移動物の有無を対応付けた学習データを作成することができる。これにより、後述する学習サーバ50は、かかる学習データからより細かなパターン解析を行うことが可能となる。
なお、ここでは、対応付け部15が、学習データを通信装置30を介して学習サーバ50へ送信する場合について説明したが、これに限定されるものではない。すなわち、学習データ収集システム100に、通信装置30を含めない構成とすることにしてもよい。かかる場合に、学習データ収集装置1の通信部31は、学習サーバ50へ学習データを直接送信することができる。
また、かかる場合に、対応付け部15は、記憶部20に学習データを記憶させておき、例えば、車両Cの点検時などにおいて、ディーラーで記憶部20に記憶された学習データを回収するようにしてもよい。かかる場合に、通信部31を省略することができるため、学習データ収集装置1の製造コストや、ランニングコストを抑制することができる。
なお、学習データ収集装置1は、通信部31の代わりに、例えば、ナビゲーション装置(図示略)や、運転者が所有する通信端末などの車両Cに搭載された他の通信機器を共有して用いることもできる。これにより、学習データ収集装置1の製造コストや、ランニングコストを削減することができる。
次に、学習サーバ50について説明する。学習サーバ50は、制御部51と、記憶部53と、通信部55とを備える。通信部55は、通信装置30を介して学習データ収集装置1から送信される学習データを受信する。学習サーバ50の制御部51は、学習部52を備え、学習データ収集装置1によって収集された学習データに基づいて駐車スペースSを学習する。
具体的には、学習部52は、機械学習のアルゴリズムとして例えば、畳み込みニューラルネットワーク(CNN;Convolutional Neural Networks)等のディープラーニングを用いることができる。そして、学習部52は、学習結果を記憶部53の学習辞書データベース54に記憶させる。
このとき、学習部52は、撮像画像Fの被写体に移動物を含む場合、かかる撮像画像Fに基づく学習データを排除して駐車可能な駐車スペースSを学習することができる。これにより、移動物の影響による学習エラーを排除することができる。
なお、学習部52は、かかる移動物が含まれる学習データを移動物が含まれる学習データのみを用いて移動物が含まれる場合の駐車スペースSを学習するようにしてもよい。換言すると、学習部52は、移動物が含まれる学習データと、移動物が含まれない学習データとを別々に学習するようにしてもよい。
また、学習部52は、例えば、車両Cの車種や、撮像画像Fが撮像された位置を学習結果に反映することができる。学習部52は、車両Cの車種を考慮して学習することで、車種に応じて駐車可能な駐車スペースSを学習することが可能である。つまり、軽自動車専用の駐車スペースSや、大型車専用の駐車スペースS等を学習することもできる。
また、学習部52は、撮像画像Fが撮像された位置を考慮することで、例えば、トラックが多い駐車場等を学習することができる。かかる場合に、学習部52は、駐車場ごとに、撮像画像Fからトラックの裏の駐車スペースSに他車両が隠れている可能性を算出することもできる。
なお、学習部52は、ディープラーニングに限られず、SVM(Support Vector Machine)や、アダブースト(AdaBoost)等の識別器を用いることにしてもよい。
次に、図6を用いて実施形態に係る学習データ収集装置1が実行する処理手順について説明する。図6は、学習データ収集装置1が実行する処理手順を示すフローチャートである。
図6に示すように、まず、取得部11は、撮像画像Fを取得する(ステップS101)。続いて、特定部12は、駐車位置Pを特定する(ステップS102)。
次に、導出部13は、撮像画像Fに基づいてオプティカルフローVを導出し(ステップS103)、判定部14は、被写体が移動物か静止物かを判定する(ステップS104)。
そして、対応付け部15は、撮像画像Fに駐車位置および移動物を対応付けて(ステップS105)、学習データを通信装置30へ送信し(ステップS106)、処理を終了する。
上述したように、実施形態に係る学習データ収集装置1は、取得部11と、特定部12と、対応付け部15とを備える。取得部11は、車両Cが駐車する前に車両C上で撮像された撮像画像Fを取得する。特定部12は、車両Cが実際に駐車した駐車位置Pを特定する。対応付け部15は、取得部11によって取得された撮像画像Fと、特定部12によって特定された駐車位置Pとを対応付ける。したがって、実施形態に係る学習データ収集装置1によれば、駐車可能な駐車スペースSの学習データを効率よく収集することができる。
次に、図7および図8を用いて学習データ収集システム100によって作成された学習辞書の活用方法について説明する。図7は、学習データ収集システム100の適用例を示す運転支援装置40のブロック図である。
なお、同図には、撮像装置2および車両制御装置46を併せて示す。なお、撮像装置2については、既に説明をしたため、ここでの説明は省略する。同図に示すように、運転支援装置40は、制御部41と、記憶部44とを備える。制御部41は、検出部42と、軌跡算出部43とを備える。また、記憶部44は、学習辞書45を記憶する。なお、かかる学習辞書45は、学習データ収集システム100によって作成され、車両Cの車種等にあわせて最適化された情報である。
検出部42は、撮像装置2から入力される撮像画像Fと、記憶部44の学習辞書45とに基づいて車両Cが駐車可能な駐車スペースSを検出する。例えば、検出部42は、撮像画像Fと、学習辞書45とのマッチング処理によって駐車スペースSを検出することができる。
そして、検出部42は、検出した駐車スペースSの位置を軌跡算出部43へ出力する。軌跡算出部43は、車両Cの現在地から検出部42から入力される駐車スペースSまでの車両Cの走行軌跡を算出する。
例えば、軌跡算出部43は、車両Cが他車両等の障害物と接触しないよう走行軌跡を算出することができる。そして、軌跡算出部43は、算出した走行軌跡を車両制御装置46へ出力する。
車両制御装置46は、軌跡算出部43から入力される走行軌跡に基づいて車両Cのハンドルやアクセル、ブレーキ、シフトレバ等を制御することで、車両Cを駐車スペースSに駐車させる。
なお、検出部42は、検出した駐車スペースSを図示しない表示装置等を用いて運転者に報知するようにしてもよい。これにより、車両制御装置46を備えない車両Cであっても運転者は、駐車可能な駐車スペースSを認識することができる。
なお、ここでは、撮像装置2が1つである場合について示したが、撮像装置2は、複数であってもよい。かかる場合に、複数の撮像装置2は、車両Cの全方位を撮像することができる。
また、ここでは、図2に示した学習データ収集装置1と、運転支援装置40とが、別体である場合について説明したが、学習データ収集装置1に運転支援装置40を含める構成としてもよい。かかる場合に、学習辞書45は、図2に示した通信部31を介して取得するようにしてもよい。
次に、図8を用いて運転支援装置40によって実行される処理手順について説明する。図8は、運転支援装置40が実行する処理手順を示すフローチャートである。
同図に示すように、まず、検出部42は、撮像装置2から撮像画像Fを取得し(ステップS201)、かかる撮像画像Fから駐車スペースSを検出する(ステップS202)。
続いて、軌跡算出部43は、駐車スペースSまでの走行軌跡を算出し(ステップS203)、走行軌跡を車両制御装置46へ出力して(ステップS204)、処理を終了する。
ところで、上述した実施形態では、学習データ収集装置1が撮像画像Fに対して駐車位置Pを後から対応付ける場合について説明したが、学習データ収集装置1は、特定した駐車位置Pに対して撮像画像Fを対応付けることもできる。
具体的には、学習データ収集装置1は、撮像画像Fに撮像画像Fが撮像された撮像位置を対応付けて記憶部20へ記憶しておく。そして、学習データ収集装置1は、駐車位置Pを特定した場合に、駐車前の撮像画像Fの撮像位置と駐車位置Pとの位置関係に基づいてかかる撮像画像Fに駐車位置Pを対応付けることもできる。
すなわち、学習データ収集装置1は、車両Cが駐車したことを認識したのちに、過去の撮像画像Fに対して実際に駐車した駐車位置Pを対応付けることができる。
これにより、学習データ収集装置1は、多くのシチュエーションにおける学習データを収集することが可能となる。なお、かかるシチュエーションとして、縦列駐車なとのシーンなどが挙げられる。
さらなる効果や変形例は、当業者によって容易に導き出すことができる。このため、本発明のより広範な様態は、以上のように表しかつ記述した特定の詳細および代表的な実施形態に限定されるものではない。したがって、添付の特許請求の範囲および、その均等物によって定義される統括的な発明の概念の精神または範囲から逸脱することなく、様々な変化が可能である。
1 学習データ収集装置
2 撮像装置
11 取得部
12 特定部
13 導出部
14 判定部
15 対応付け部
30 通信装置
50 学習サーバ
52 学習部
54 学習辞書データベース
100 学習データ収集システム

Claims (6)

  1. 自車両が駐車する前に前記自車両上で撮像された撮像画像を取得する取得部と、
    前記自車両が実際に駐車した駐車位置を特定する特定部と、
    前記取得部によって取得された前記撮像画像と前記特定部によって特定された前記駐車位置とを対応付ける対応付け部と
    を備えることを特徴とする学習データ収集装置。
  2. 前記特定部は、
    前記自車両の駆動源が停止した位置を前記駐車位置として特定すること
    を特徴とする請求項1に記載の学習データ収集装置。
  3. 前記特定部は、
    前記取得部によって前記撮像画像が取得された位置から前記自車両が駐車するまでの走行軌跡に基づいて前記駐車位置を特定すること
    を特徴とする請求項1または2に記載の学習データ収集装置。
  4. 時系列の複数の前記撮像画像からオプティカルフローを導出する導出部と、
    前記導出部によって導出された前記オプティカルフローに基づいて前記撮像画像の被写体が移動物か静止物かを判定する判定部と
    をさらに備え、
    前記対応付け部は、
    前記判定部による判定結果を前記撮像画像の被写体に対応付けること
    を特徴とする請求項1、2または3に記載の学習データ収集装置。
  5. 請求項1〜4のいずれか一つに記載の学習データ収集装置と、
    前記学習データ収集装置によって収集された情報に基づいて撮像画像から駐車可能な駐車スペースを検出するための指標となる学習辞書を作成する学習サーバと、
    前記学習データ収集装置と通信し、前記学習データ収集装置と前記学習サーバとの情報の送受信を仲介する通信装置と
    を備えることを特徴とする学習データ収集システム。
  6. 自車両が駐車する前に前記自車両上で撮像された撮像画像を取得する取得工程と、
    前記自車両が実際に駐車した駐車位置を特定する特定工程と、
    前記取得工程によって取得された前記撮像画像と、前記特定工程によって特定された前記駐車位置とを対応付ける対応付け工程と
    を含むことを特徴とする学習データ収集方法。
JP2017068317A 2017-03-30 2017-03-30 学習データ収集装置、学習データ収集システムおよび学習データ収集方法 Active JP7060334B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2017068317A JP7060334B2 (ja) 2017-03-30 2017-03-30 学習データ収集装置、学習データ収集システムおよび学習データ収集方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017068317A JP7060334B2 (ja) 2017-03-30 2017-03-30 学習データ収集装置、学習データ収集システムおよび学習データ収集方法

Publications (2)

Publication Number Publication Date
JP2018169924A true JP2018169924A (ja) 2018-11-01
JP7060334B2 JP7060334B2 (ja) 2022-04-26

Family

ID=64018205

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017068317A Active JP7060334B2 (ja) 2017-03-30 2017-03-30 学習データ収集装置、学習データ収集システムおよび学習データ収集方法

Country Status (1)

Country Link
JP (1) JP7060334B2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020123122A (ja) * 2019-01-30 2020-08-13 オムロン株式会社 教師データ生成装置、ゲート設定学習システム、教師データ生成方法、及び教師データ生成プログラム
JP2022523614A (ja) * 2019-03-16 2022-04-26 エヌビディア コーポレーション 駐車スペース検出に適したスキューされたポリゴンを使用した物体検出

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005284699A (ja) * 2004-03-30 2005-10-13 Hcx:Kk 車両の駐車場内誘導方法および装置
JP2007305026A (ja) * 2006-05-15 2007-11-22 Kenwood Corp 施設内外自動車誘導システム、施設側誘導装置、自動車側誘導装置及び施設内外自動車誘導方法
JP2010282344A (ja) * 2009-06-03 2010-12-16 Toyota Motor Corp 運転情報記録装置
JP2011048520A (ja) * 2009-08-26 2011-03-10 Alpine Electronics Inc 車両周辺監視装置および車両周辺監視方法
JP2013145540A (ja) * 2011-12-13 2013-07-25 Toyota Motor Corp 情報提供装置
JP2014085192A (ja) * 2012-10-23 2014-05-12 Jvc Kenwood Corp ナビゲーションシステム、映像サーバ、映像管理方法、映像管理プログラム、及び映像提示端末
CN104575079A (zh) * 2014-08-12 2015-04-29 深圳市旺龙软件技术有限公司 一种停车场内车辆定位方法及寻车方法
JP2016197314A (ja) * 2015-04-03 2016-11-24 株式会社日立製作所 運転支援システム、運転支援装置及び運転支援方法
US20180045535A1 (en) * 2016-08-10 2018-02-15 Samsung Electronics Co., Ltd. Method for providing parking location information of vehicle and electronic device thereof

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005284699A (ja) * 2004-03-30 2005-10-13 Hcx:Kk 車両の駐車場内誘導方法および装置
JP2007305026A (ja) * 2006-05-15 2007-11-22 Kenwood Corp 施設内外自動車誘導システム、施設側誘導装置、自動車側誘導装置及び施設内外自動車誘導方法
JP2010282344A (ja) * 2009-06-03 2010-12-16 Toyota Motor Corp 運転情報記録装置
JP2011048520A (ja) * 2009-08-26 2011-03-10 Alpine Electronics Inc 車両周辺監視装置および車両周辺監視方法
JP2013145540A (ja) * 2011-12-13 2013-07-25 Toyota Motor Corp 情報提供装置
JP2014085192A (ja) * 2012-10-23 2014-05-12 Jvc Kenwood Corp ナビゲーションシステム、映像サーバ、映像管理方法、映像管理プログラム、及び映像提示端末
CN104575079A (zh) * 2014-08-12 2015-04-29 深圳市旺龙软件技术有限公司 一种停车场内车辆定位方法及寻车方法
JP2016197314A (ja) * 2015-04-03 2016-11-24 株式会社日立製作所 運転支援システム、運転支援装置及び運転支援方法
US20180045535A1 (en) * 2016-08-10 2018-02-15 Samsung Electronics Co., Ltd. Method for providing parking location information of vehicle and electronic device thereof

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020123122A (ja) * 2019-01-30 2020-08-13 オムロン株式会社 教師データ生成装置、ゲート設定学習システム、教師データ生成方法、及び教師データ生成プログラム
JP7031622B2 (ja) 2019-01-30 2022-03-08 オムロン株式会社 教師データ生成装置、ゲート設定学習システム、教師データ生成方法、及び教師データ生成プログラム
JP2022523614A (ja) * 2019-03-16 2022-04-26 エヌビディア コーポレーション 駐車スペース検出に適したスキューされたポリゴンを使用した物体検出
JP7399164B2 (ja) 2019-03-16 2023-12-15 エヌビディア コーポレーション 駐車スペース検出に適したスキューされたポリゴンを使用した物体検出

Also Published As

Publication number Publication date
JP7060334B2 (ja) 2022-04-26

Similar Documents

Publication Publication Date Title
US11657604B2 (en) Systems and methods for estimating future paths
US10317231B2 (en) Top-down refinement in lane marking navigation
JP2020064046A (ja) 車両位置決定方法及び車両位置決定装置
JP6670071B2 (ja) 車両用画像認識システム、及び対応法
JP4940168B2 (ja) 駐車スペース認識装置
US20210073557A1 (en) Systems and methods for augmenting upright object detection
CN113492851B (zh) 车辆控制装置、车辆控制方法以及车辆控制用计算机程序
JP2014157395A5 (ja)
JP2018180772A (ja) 物体検出装置
KR102079524B1 (ko) 자동 주행 차량 및 이것을 포함하는 자동 주행 시스템
US11468691B2 (en) Traveling lane recognition apparatus and traveling lane recognition method
JP2020067698A (ja) 区画線検出装置及び区画線検出方法
JP6048246B2 (ja) 車間距離計測装置及び車間距離計測方法
US10796167B2 (en) Periphery recognition device
JP2018048949A (ja) 物体識別装置
JP2022502642A (ja) 移動手段周辺の物体が移動手段の運転操作に及ぼす影響を評価する方法
JP2017151968A (ja) 車両の周囲にある縁石を検知する装置および方法並びに車両用縁石チェックシステム
EP3035315A1 (en) Information retrieval arrangement
JP2006318062A (ja) 画像処理装置、画像処理方法、および画像処理用プログラム
JP7060334B2 (ja) 学習データ収集装置、学習データ収集システムおよび学習データ収集方法
JP2018073275A (ja) 画像認識装置
JP4762830B2 (ja) 周辺監視システム
CN109195849B (zh) 摄像装置
JP6431271B2 (ja) 車両検知及び車両番号認識装置
CN109427212A (zh) 车辆行驶检测方法及车辆行驶检测系统

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200227

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210122

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210202

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210405

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210831

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211029

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220322

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220414

R150 Certificate of patent or registration of utility model

Ref document number: 7060334

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150