JP2023104235A - 情報処理装置、車両挙動判定方法および車両挙動判定プログラム - Google Patents

情報処理装置、車両挙動判定方法および車両挙動判定プログラム Download PDF

Info

Publication number
JP2023104235A
JP2023104235A JP2022005104A JP2022005104A JP2023104235A JP 2023104235 A JP2023104235 A JP 2023104235A JP 2022005104 A JP2022005104 A JP 2022005104A JP 2022005104 A JP2022005104 A JP 2022005104A JP 2023104235 A JP2023104235 A JP 2023104235A
Authority
JP
Japan
Prior art keywords
vehicle
image
vex
information processing
moving image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2022005104A
Other languages
English (en)
Inventor
太郎 長▲瀬▼
Taro NAGASE
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Pioneer Corp
Original Assignee
Pioneer Electronic Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Pioneer Electronic Corp filed Critical Pioneer Electronic Corp
Priority to JP2022005104A priority Critical patent/JP2023104235A/ja
Publication of JP2023104235A publication Critical patent/JP2023104235A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Navigation (AREA)
  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)

Abstract

【課題】車両内から外部を撮影した動画像から車両の挙動を求めること。【解決手段】情報処理装置100は、車両内から外部を撮影した動画像を取得する取得部131と、取得部により取得した動画像のフレームの画像を、画像の所定の領域ごとに、フレーム間で比較する比較部132と、比較部132の比較結果に基づいて、前記車両の挙動を判定する判定部133と、を備える。【選択図】図2

Description

本発明は、情報処理装置、車両挙動判定方法および車両挙動判定プログラムに関する。
従来、動画像のフレーム間の差分を利用して物体の動きを検出することが行われているが、その代表的なものとして、テンプレートマッチングを行って物体を検出する技術が提案されている。例えば、駅のホーム及び線路に関する監視対象の領域の画像を撮像する。そして、監視対象の領域について用意した背景画像と撮像された画像とについて、画像内の複数の部分領域毎にテンプレートマッチングを行って画像間の相関値を部分領域毎に算出する。そして、部分領域毎の相関値に基づいて監視対象の領域における電車などの車両の存在の状況を判定する。
特許第5386744号公報
ところで、ドライブレコーダーなどの車両内から外部を撮影して記録する録画装置が知られている。
しかしながら、上記の従来技術は、テンプレートマッチングを行って、撮像した画像内に車両などの動くものがあるかを検出するものである。上記の従来技術では、例えば、録画装置などにより車両内から外部を撮影した動画像から車両の挙動を求めることができない。
本発明は、車両内から外部を撮影した動画像から車両の挙動を求めることができる情報処理装置、車両挙動判定方法および車両挙動判定プログラムの実現を目的とする。
請求項1に記載の情報処理装置は、車両内から外部を撮影した動画像を取得する取得部と、前記取得部により取得した前記動画像のフレームの画像を、前記画像の所定の領域ごとに、フレーム間で比較する比較部と、前記比較部の比較結果に基づいて、前記車両の挙動を判定する判定部と、を備えることを特徴とする。
請求項8に記載の車両挙動判定方法は、情報処理装置が実行する車両挙動判定方法であって、車両内から外部を撮影した動画像を取得する取得工程と、取得した前記動画像のフレームの画像を、前記画像の所定の領域ごとに、フレーム間で比較する比較工程と、比較結果に基づいて、前記車両の挙動を判定する判定工程と、を含むことを特徴とする。
請求項9に記載の車両挙動判定プログラムは、車両内から外部を撮影した動画像を取得する取得手順と、取得した前記動画像のフレームの画像を、前記画像の所定の領域ごとに、フレーム間で比較する比較手順と、比較結果に基づいて、前記車両の挙動を判定する判定手順と、を情報処理装置に実行させるための車両挙動判定プログラムである。
図1は、実施形態に係る情報処理システムの一例を示す図である。 図2は、実施形態に係る情報処理装置の構成例を示す図である。 図3は、実施形態に係るフレーム間での画像の比較を説明する図である。 図4は、実施形態に係るテンプレートマッチングを説明する図である。 図5は、実施形態に係る車両の挙動の判定を説明する図である。 図6は、実施形態に係る車両の挙動の判定を説明する図である。 図7は、実施形態に係る車両VExの挙動によるフレームの画像の領域の移動位置を説明する図である。 図8は、実施形態に係る車両VExの挙動によるフレームの画像の領域の移動位置を説明する図である。 図9は、実施形態に係る車両VExの挙動によるフレームの画像の領域の移動位置を説明する図である。 図10は、実施形態に係る車両の挙動の判定を説明する図である。 図11は、実施形態に係る車両の挙動の判定を説明する図である。 図12は、車両の挙動を判定する車両挙動判定処理の手順を示すフローチャートである。 図13は、情報処理装置の機能を実現するコンピュータの一例を示すハードウェア構成図である。
以下に、情報処理装置、車両挙動判定方法および車両挙動判定プログラムを実施するための形態(以下、「実施形態」と記載する)の一例について図面を参照しつつ詳細に説明する。なお、この実施形態により情報処理装置、車両挙動判定方法および車両挙動判定プログラムが限定されるものではない。また、以下の実施形態において同一の部位には同一の符号を付し、重複する説明は省略する。
〔1.システム構成〕
まず、図1を用いて、実施形態に係る情報処理システムの構成を説明する。図1は、実施形態に係る情報処理システムの一例を示す図である。図1には、実施形態に係る情報処理システムの一例として、情報処理システム1が示される。
図1に示すように、情報処理システム1は、車載装置10と、情報処理装置100とを備えてよい。また、車載装置10と、情報処理装置100とは、ネットワークNを介して、有線または無線により通信可能に接続される。また、図1に示す情報処理システム1には、任意の数の車載装置10と、任意の数の情報処理装置100とが含まれてもよい。
車載装置10は、車両VExに内蔵あるいは外付けされる専用のナビゲーション装置であってよいし、防犯や煽り運転対策のために車両VExに設置される録画装置(ドライブレコーダー)であってもよい。
また、車載装置10は、ナビゲーション装置と、録画装置とで構成されてもよい。この一例として、車載装置10は、互いに独立したナビゲーション装置および録画装置が通信可能に接続された複合的な装置であってよい。また、他の例として、車載装置10は、ナビゲーション機能と、録画機能とを有する1つの装置であってもよい。
また、利用者は、日常的に使用している携帯型端末装置(例えば、スマートフォン、タブレット型端末、ノート型PC、デスクトップPC、PDA等)に所定のアプリケーションを導入することで、これを車載装置10として代用することもできる。例えば、所定のナビアプリや所定の録画アプリがインストールされた携帯型端末装置は、ここでいう車載装置10と解せることができる。携帯型端末装置が車載装置10として活用される場合、例えば、運転時において車両VExのダッシュボード等に設置される。
また、車載装置10は、各種のセンサを備えていてよい。例えば、車載装置10は、カメラ、加速度センサ、ジャイロセンサ、GPSセンサ、気圧センサ等の各種センサを備えていてよい。
情報処理装置100は、これらセンサによって検知されたセンサ情報に基づいて(例えば、センサ情報を解析することで)、各種のデータを取得してよい。例えば、情報処理装置100は、カメラにより車両VEx内から外部を撮影した動画像のデータを取得する。また、情報処理装置100は、GPSセンサから位置情報を取得する。情報処理装置100は、車載装置10に備えられるセンサだけでなく、車両VEx自体に備えられるセンサが検知したセンサ情報を取得してよい。
情報処理装置100は、実施形態に係る情報処理を行う装置である。例えば、情報処理装置100は、取得した動画像のフレームの画像を、画像の所定の領域ごとに、フレーム間で比較し、比較結果に基づいて、車両VExの挙動を判定する。また、情報処理装置100は、判定した車両VExの挙動に基づいて、利用者に対して各種の運転支援も行うことができる。
ここで、車載装置10を利用者の近くでエッジ処理を行うエッジコンピュータとするなら、情報処理装置100は、例えば、クラウド側で処理を行うクラウドコンピュータであってよい。すなわち、情報処理装置100は、サーバ装置であってよい。
また、以下の実施形態では、車載装置10と情報処理装置100との間で情報の送受信が行われることで、情報処理システム1において、実施形態に係る情報処理が実現される例を示す。しかしながら、実施形態に係る情報処理は、エッジ側すなわち車載装置10のみで実現されてもよい。この場合、車載装置10は、例えば、実施形態に係る車両挙動判定プログラムによって、情報処理装置100のように振る舞うよう構成されてよい。
車載装置10は、センサによって検知されたセンサ情報を情報処理装置100に送信する。例えば、車載装置10は、カメラにより車両VEx内から外部を撮影する。例えば、カメラは、車両VExの前方に向けて配置され、車両VEx内から車両VExの前方を撮影する。車載装置10は、カメラにより車両VEx内から外部を撮影した動画像のデータを情報処理装置100に送信する。また、車載装置10は、GPSセンサにより検出された車両VExの現在位置を示す位置情報を情報処理装置100に送信する。車載装置10は、カメラにより撮影した動画像やセンサ情報をリアルタイムに送信してもよく、一定期間ごとのタイミングなど周期的なタイミングで送信してもよい。
情報処理装置100は、車両VExから取得した動画像のデータやセンサ情報を蓄積する。情報処理装置100は、以下の手順で実施形態に係る情報処理を行って、蓄積した動画像から車両VExの挙動を判定する。
〔2.情報処理装置100の構成〕
図2を用いて、実施形態に係る情報処理装置100について説明する。図2は、実施形態に係る情報処理装置100の構成例を示す図である。図2に示すように、情報処理装置100は、通信部110と、記憶部120と、制御部130とを有する。
(通信部110について)
通信部110は、例えば、NIC(Network Interface Card)等によって実現される。そして、通信部110は、ネットワークNと有線または無線で接続され、例えば、車載装置10との間で情報の送受信を行う。
(記憶部120について)
記憶部120は、例えば、RAM(Random Access Memory)、フラッシュメモリ等の半導体メモリ素子またはハードディスク、光ディスク等の記憶装置によって実現される。記憶部120は、動画像データ121と、センサ情報データベース122と、地図情報データベース123とを有する。
動画像データ121は、車載装置10が有するカメラで撮影された動画像のデータである。センサ情報データベース122は、車載装置10が有するセンサ、あるいは、車両VEx自体が有するセンサによって検知されたセンサ情報を記憶するデータベースである。地図情報データベース123は、地図に関する各種の情報を記憶するデータベースである。
(制御部130について)
制御部130は、CPU(Central Processing Unit)やMPU(Micro Processing Unit)等によって、情報処理装置100内部の記憶装置に記憶されている各種プログラム(例えば、実施形態に係る車両挙動判定プログラム)がRAMを作業領域として実行されることにより実現される。また、制御部130は、例えば、ASIC(Application Specific Integrated Circuit)やFPGA(Field Programmable Gate Array)等の集積回路により実現される。
制御部130は、取得部131と、比較部132と、判定部133と、格納部134と、出力部135とを有し、以下に説明する情報処理の機能や作用を実現または実行する。なお、制御部130の内部構成は、図2に示した構成に限られず、後述する情報処理を行う構成であれば他の構成であってもよい。
(取得部131について)
取得部131は、車載装置10から各種の情報を取得する。例えば、取得部131は、車載装置10のカメラにより車両VEx内から外部を撮影した動画像のデータを取得する。また、取得部131は、車両VExが有するセンサ(例えば、車両VExに備えられる車載装置10が有するセンサ、あるいは、車両VEx自体が有するセンサ)によって検知されたセンサ情報を取得する。取得部131は、取得した動画像のデータを動画像データ121に記憶する。また、取得部131は、取得したセンサ情報をセンサ情報データベース122に記憶する。
(比較部132について)
比較部132は、各種の比較を行う。例えば、比較部132は、取得部131により取得した動画像のフレームの画像を、画像の所定の領域ごとに、フレーム間で比較する。
フレーム間での画像の比較の具体的な一例を説明する。図3は、実施形態に係るフレーム間での画像の比較を説明する図である。図3には、動画像のフレームの画像150一例が示されている。比較部132は、動画像のフレームの画像150を所定の複数の領域を区分する。図3では、画像150の周辺を除いた中央部分を縦横に所定の行列状に区分することで、画像150を複数の矩形状の領域160に区分している。
比較部132は、動画像のフレームの画像150を領域160ごとに、フレーム間での相関または類似度を判定する、例えばテンプレートマッチングであり、以下テンプレートマッチングとして説明するが、これに限定されない。例えば、比較部132は、動画像のフレームの画像150を領域160ごとに、次のフレームの画像とテンプレートマッチングを行う。図4は、実施形態に係るテンプレートマッチングを説明する図である。図4は、画像の比較対象とする中央の領域160を注目領域160aとして示している。比較部132は、動画像のフレームの画像を領域160ごとに、最初に、次のフレームの画像の同じ位置の領域160とテンプレートマッチングを行う。例えば、比較部132は、フレームの画像の図4に示した注目領域160aとした領域160を、次のフレームの画像の同じ位置の領域160と比較を行い、一致するか否か判定する。比較部132は、比較の結果、一致する領域160については、テンプレートマッチングを終了する。一方、比較部132は、比較の結果、一致しない領域160については、次のフレームの画像の同じ位置の領域160を中心として周辺部分と比較を行い、一致する部分があるか否か判定する。例えば、比較部132は、フレームの画像の図4に示した注目領域160aとした領域160について、次のフレームの画像の同じ位置の領域160を中心として周辺の領域160の範囲をテンプレートマッチングの探索領域とする。比較部132は、注目領域160aとした領域160の画像を、次のフレームの画像の同じ位置の領域160を中心に探索領域の範囲内で移動させて一致する部分があるか否か判定する。比較部132は、一致する部分がない領域160については、テンプレートマッチングを終了する。一方、比較部132は、一致する部分がある場合、一致する部分を、注目領域160aとした領域160についての次のフレームの画像での移動位置と特定して、テンプレートマッチングを終了する。
なお、動画像のフレームの画像に空や道路の路面などの特徴が乏しい部分が含まれる場合、特徴が乏しい部分の領域160は、フレーム間でテンプレートマッチングを行っても、特徴が乏しいため、精度のよいマッチングが難しい。そこで、比較部132は、特徴が乏しい部分の領域160を比較の対象から除外してもよい。例えば、比較部132は、フレームの画像の各領域160の画素の輝度値の標準偏差を求め、標準偏差が所定値よりも小さい領域160を比較の対象から除外してもよい。所定値は、特徴が乏しいとみなす標準偏差の上限値に定める。これにより、フレーム間での同じ画像部分の領域160を精度よくマッチングできる。
(判定部133について)
判定部133は、各種の判定を行う。例えば、判定部133は、比較部132の比較結果に基づいて、車両VExの挙動を判定する。例えば、判定部133は、一致する領域の数に基づいて車両VExの停止を判定する。例えば、判定部133は、一致する領域の数が所定の条件を満たした場合、車両VExが停止していると判定する。また、判定部133は、動画像のフレームの画像の各領域の移動の結果に基づいて車両VExの移動方向を判定する。
ここで、車両VExの挙動を判定する具体例を説明する。最初に、図5及び図6を用いて、車両VExの停止を判定する具体例を説明する。
図5は、実施形態に係る車両の挙動の判定を説明する図である。図5は、駐車場に停車中の車両VEx内から車両VExの前方を撮影した画像151が示されている。画像151には、停車中の車両VExの前方の建物151a、151bが写っている。
比較部132は、画像151を複数の矩形状の領域160に区分する。比較部132は、画像151の各領域160の画素の輝度値の標準偏差を求める。比較部132は、標準偏差が所定値よりも小さい領域160を比較の対象から除外し、標準偏差が所定値以上の領域160を次のフレームの画像とテンプレートマッチングを行う。図5には、テンプレートマッチングの結果、一致する領域161が示されている。また、図5には、比較の対象から除外された、又は、一致する部分が無かった領域162が示されている。図5では、路面の領域160などが、特徴が乏しいため、比較の対象から除外されている。
図6は、実施形態に係る車両の挙動の判定を説明する図である。図6は、道路を走行中の車両VEx内から車両VExの前方を撮影した画像152が示されている。画像152には、車両VExが走行中の道路152aや道路周辺の建物152bが写っている。
比較部132は、画像152を複数の矩形状の領域160に区分する。比較部132は、画像152の各領域160の画素の輝度値の標準偏差を求める。比較部132は、標準偏差が所定値よりも小さい領域160を比較の対象から除外し、標準偏差が所定値以上の領域160を次のフレームの画像とテンプレートマッチングを行う。これにより、テンプレートマッチングに適さない特徴の小さい領域を除外できる。輝度値の標準偏差以外にも、特徴点が抽出されない、エッジが抽出されないことによる除外を行っても良い。図6には、テンプレートマッチングの結果、一致する領域161が示されている。図6では、車両VExが走行中であるため、道路152aの遠方付近の領域160などが一致する領域161として示されている。また、図6には、テンプレートマッチングの結果、領域160と一致する部分がある場合の次のフレームでの移動位置がマッチング領域163として示されている。また、図6には、マッチング領域163への移動方向が矢印164により示されている。例えば、図6では、建物152b付近の領域160でマッチング領域163が特定され、移動方向が矢印164により示されている。また、図6には、比較の対象から除外された、又は、一致する部分が無かった領域162が示されている。図6では、車両VExが走行中であるため、多くの領域160が領域162となっている。
判定部133は、比較部132の比較結果に基づいて、車両VExの挙動を判定する。例えば、判定部133は、一致する領域161の数に基づいて車両VExの停止を判定する。例えば、判定部133は、一致する領域161の数が、所定の閾値以上、又は、比較の対象とした領域160の数の所定の割合以上である場合、車両VExが停止していると判定する。所定の閾値又は所定の割合は、車両VExが停止しているとみなせる値に定める。例えば、所定の割合を30~60%の何れかとする。これにより、判定部133は、図5に示した画像151から車両VExが停止していると判定でき、図6に示した画像152から車両VExが停止していないと判定できる。また、図5は、一致する領域161の数が78個である。一方、図6は、一致する領域161の数が4個である。例えば、閾値を30~78の何れかの値(または30~60%の割合)とすることで、判定部133は、図5に示した画像151から車両VExが停止していると判定でき、図6に示した画像152から車両VExが停止していないと判定できる。
次に、図7~図11を用いて、車両VExの移動方向を判定する具体例を説明する。図7~図9は、実施形態に係る車両VExの挙動によるフレームの画像の領域160の移動位置を説明する図である。図7~図9には、車両VExの挙動による、Nフレームの画像の領域160のN+1フレームでの移動位置が概略的に示されている。図7~図9では、画像の中央に位置する領域160の縦列を列Cとする。また、図7~図9では、列Cに対して、右側に1列となりの領域160の縦列を列R1とし、右側に2列となりの領域160の縦列を列R2とする。また、図7~図9では、列Cに対して、左側に1列となりの領域160の縦列を列L1とし、左側に2列となりの領域160の縦列を列L2とする。
図7は、車両VExが直進している場合の領域160の移動を示している。車両VExが直進している場合、領域160は、画像の中心から放射状に移動する。例えば、Nフレームの画像の領域160は、N+1フレームにおいて、列Cを中央として、列R1、列R2の領域160が右側に移動し、列L1、列L2の領域160が左側に移動する。また、列C、列R1、列R2、列L1、列L2の領域160は、縦方向にも移動する。また、Nフレームの画像の領域160は、中央の列Cから離れるほど、移動量が大きくなる。例えば、N+1フレームにおいて、列L2の領域160は、列L1の領域160よりも大きく移動する。
図8は、車両VExが左折している場合の領域160の移動を示している。車両VExが左折している場合、領域160は、画像の右側へ上下に広がりつつ移動する。例えば、Nフレームの画像の領域160は、N+1フレームにおいて、列L2、列L1、列C1、列R1、列R2の領域160が右側に移動する。また、領域160は、画像の縦方向の中心位置から離れているほど縦方向にも移動する。また、右側の例の領域160ほど、移動量が大きくなる。例えば、N+1フレームにおいて、列R2の領域160は、列R1の領域160よりも右側に大きく移動する。
図9は、車両VExが右折している場合の領域160の移動を示している。車両VExが右折している場合、領域160は、画像の左側へ上下に広がりつつ移動する。例えば、Nフレームの画像の領域160は、N+1フレームにおいて、列L2、列L1、列C1、列R1、列R2の領域160が左側に移動する。また、領域160は、画像の縦方向の中心位置から離れているほど縦方向にも移動する。また、車両VExが右折している場合、左側の例の領域160ほど、移動量が大きくなる。例えば、N+1フレームにおいて、列L2の領域160は、列L1の領域160よりも左側に大きく移動する。
よって、動画像のフレームの画像の各領域160の移動の結果に基づいて車両VExの移動方向を判定できる。
図10は、実施形態に係る車両VExの挙動の判定を説明する図である。図10は、左折中の車両VEx内から車両VExの前方を撮影した画像153が示されている。画像153には、交差点の横断歩道153aや、街路樹153b、車両153cなどが写っている。
比較部132は、画像153を複数の矩形状の領域160に区分する。比較部132は、画像153の各領域160の画素の輝度値の標準偏差を求める。比較部132は、標準偏差が所定値よりも小さい領域160を比較の対象から除外し、標準偏差が所定値以上の領域160を次のフレームの画像とテンプレートマッチングを行う。例えば、比較部132は、領域160を、次のフレームの画像の同じ位置の領域160と比較を行い、一致するか否か判定する。比較部132は、領域160の類似度を示す相関値を求め、相関値が閾値より大きい場合、一致すると判定する。比較部132は、比較の結果、一致する領域160については、テンプレートマッチングを終了する。一方、比較部132は、比較の結果、一致しない領域160については、次のフレームの画像の同じ位置の領域160を中心として周辺部分と比較を行い、一致する部分があるか否か判定する。比較部132は、周辺部分について、領域160の類似度を示す相関値を求め、相関値が閾値より大きい部分を一致する部分と判定する。比較部132は、一致する部分がある場合、一致する部分を、領域160についての次のフレームの画像での移動位置と特定する。一致の判定に用いる閾値は、変更してもよい。例えば、領域160を次のフレームの画像の同じ位置と比較する場合、閾値を高くすることで、高い精度での一致を判定できる。一方、領域160を次のフレームの周辺部分と比較する場合、閾値を低くすることで、移動位置を特定しやすくすることができる。図10には、テンプレートマッチングの結果、一致する領域161が示されている。図10では、車両VExが左折中であり、画像に写る物体が全体的に右に移動するため、一致する領域161が少なく、画像153の右下の領域160が一致する領域161として示されている。また、図10には、テンプレートマッチングの結果、領域160と一致する部分がある場合の次のフレームでの移動位置がマッチング領域163として示されている。例えば、図10では、横断歩道153aや車両153cの付近の領域160でマッチング領域163が特定されている。また、図10には、比較の対象から除外された、又は、一致する部分が無かった領域162が示されている。
図11は、実施形態に係る車両VExの挙動の判定を説明する図である。図11は、右折中の車両VEx内から車両VExの前方を撮影した画像154が示されている。画像154には、交差点の角に建つ建物154aや、車両154b、右折先の道路154c、道路154cの脇に沿った線路154dが写っている。
比較部132は、画像154を複数の矩形状の領域160に区分する。比較部132は、画像154の各領域160の画素の輝度値の標準偏差を求める。比較部132は、標準偏差が所定値よりも小さい領域160を比較の対象から除外し、標準偏差が所定値以上の領域160を次のフレームの画像とテンプレートマッチングを行う。図11には、テンプレートマッチングの結果、一致する領域161が示されている。図11では、車両VExが右折中であり、画像に写る物体が全体的に左に移動するため、一致する領域161が少なく、画像154の右下の領域160が一致する領域161として示されている。また、図11には、テンプレートマッチングの結果、領域160と一致する部分がある場合の次のフレームでの移動位置がマッチング領域163として示されている。例えば、図11では、建物154a付近の領域160でマッチング領域163が特定されている。また、図11には、比較の対象から除外された、又は、一致する部分が無かった領域162が示されている。
判定部133は、比較部132の比較結果に基づいて、車両VExの挙動を判定する。例えば、判定部133は、各領域160の移動の結果に基づいて車両VExの移動方向を判定する。例えば、判定部133は、動画像のフレームの画像全体において、右側への移動する領域の数が所定の閾値以上、又は、所定の割合以上である場合、車両VExが左折していると判定する。また、判定部133は、動画像のフレームの画像全体において、左側への移動する領域の数が所定の閾値以上、又は、所定の割合以上である場合、車両VExが右折していると判定する。所定の閾値又は所定の割合は、車両VExが右左折しているとみなせる値に定める。例えば、図10は、動画像のフレームの画像全体において、右側への移動する領域160の数が22個である。一方、図11は、動画像のフレームの画像全体において、左側への移動する領域160の数が24個である。例えば、閾値を10~20程度の値とすることで、判定部133は、図10に示した画像153から車両VExが左折していると判定でき、図10に示した画像154から車両VExが右折していないと判定できる。
ここで、図7~図9に示したように、動画像のフレームの画像の左側半分に位置する領域160は、直進や右折の場合、左側へ移動し、左折の場合、右側へ移動する。また、動画像のフレームの画像の右側半分に位置する領域160は、直進や左折の場合、右側へ移動し、右折の場合、左側へ移動する。
そこで、判定部133は、動画像のフレームの画像の左側半分に位置する領域160の右側への移動に基づいて右折を判定し、動画像のフレームの画像の右側半分に位置する領域160の左側への移動に基づいて左折を判定してもよい。例えば、判定部133は、動画像のフレームの画像の左側半分において、右側への移動する領域160の数が所定の閾値以上、又は、所定の割合以上である場合、車両VExが左折していると判定する。また、判定部133は、動画像のフレームの画像の右側半分において、左側への移動する領域160の数が所定の閾値以上、又は、所定の割合以上である場合、車両VExが右折していると判定する。所定の閾値又は所定の割合は、車両VExが右左折しているとみなせる値に定める。もしくは、移動量のみに着目し、直進時よりも移動量が多い事により右左折を判定しても良い。
また、判定部133は、領域160の縦列ごとに移動の平均を求めて車両VExの挙動を判定してもよい。例えば、判定部133は、領域160の縦列ごとに、平均の移動量及び移動方向を求める。判定部133は、領域160の縦列ごとの平均の移動量及び移動方向に基づいて、車両VExの挙動を判定する。
例えば、図10には、画像153の下側に、領域160の縦列ごとに、平均の移動量及び移動方向がバー170により示されている。
また、図11には、画像154の下側に、領域160の縦列ごとに、平均の移動量及び移動方向がバー170により示されている。
判定部133は、動画像のフレームの画像全体において、移動方向が右側かつ平均の移動量が一定値以上となった縦列の数が所定の閾値以上、又は、所定の割合以上である場合、車両VExが左折していると判定する。また、判定部133は、動画像のフレームの画像全体において、移動方向が左側かつ平均の移動量が一定値以上となった縦列の数が所定の閾値以上、又は、所定の割合以上である場合、車両VExが右折していると判定する。所定の閾値又は所定の割合は、車両VExが右左折しているとみなせる値に定める。例えば、閾値を10~30程度の値とすることで、判定部133は、図10に示した画像153から車両VExが左折していると判定でき、図10に示した画像154から車両VExが右折していないと判定できる。
また、判定部133は、動画像のフレームの画像の左側半分と右側半分でそれぞれ領域160の縦列ごとに移動量の平均を求めて車両VExの挙動を判定してもよい。
例えば、図10には、画像153の下側に、左折と判定された縦列の数と、右折と判定された縦列の数とが「L:8、R:0」として示されている。左折と判定された縦列の数は、画像153の右側半分において、移動方向が右側かつ平均の移動量が一定値以上となった縦列の数をカウントした値である。右折と判定された縦列の数は、画像153の左側半分において、移動方向が右側かつ平均の移動量が一定値以上となった縦列の数をカウントした値である。
また、図11には、画像154の下側に、左折と判定された縦列の数と、右折と判定された縦列の数とが「L:0、R:8」として示されている。左折と判定された縦列の数は、画像154の右側半分において、移動方向が右側かつ平均の移動量が一定値以上となった縦列の数をカウントした値である。右折と判定された縦列の数は、画像154の左側半分において、移動方向が左側かつ平均の移動量が一定値以上となった縦列の数をカウントした値である。
判定部133は、動画像のフレームの画像の左側半分において、移動方向が右側かつ平均の移動量が一定値以上となった縦列の数が所定の閾値以上、又は、所定の割合以上である場合、車両VExが左折していると判定する。また、判定部133は、動画像のフレームの画像の右側半分において、移動方向が左側かつ平均の移動量が一定値以上となった縦列の数が所定の閾値以上、又は、所定の割合以上である場合、車両VExが右折していると判定する。所定の閾値又は所定の割合は、車両VExが右左折しているとみなせる値に定める。例えば、閾値を5程度の値とすることで、判定部133は、図10に示した画像153から車両VExが左折していると判定でき、図11に示した画像154から車両VExが右折していないと判定できる。なお、判定部133は、左折と判定された縦列の数と右折と判定された縦列の数との差分から、右左折を判定してもよい。例えば、判定部133は、左折と判定された縦列の数から右折と判定された縦列の数を引いた差分の値が所定の閾値以上、又は、所定の割合以上である場合、車両VExが左折していると判定してもよい。また、判定部133は、右折と判定された縦列の数から左折と判定された縦列の数を引いた差分の値が所定の閾値以上、又は、所定の割合以上である場合、車両VExが右折していると判定してもよい。例えば、左折と判定された縦列の数を2とする。右折と判定された縦列の数を8とする。閾値を5とする。この場合、右折と判定された縦列の数から左折と判定された縦列の数を引いた差分の値は、6となる。判定部133は、差分の値である6が閾値の5以上であることから、右折と判定する。
なお、複数車線の道路において車両VExと他の車両が同じ速度で並走している場合、動画像には、並走する他の車両が同様の位置に写り、一致する領域161の数が多くなるため、車両VExが停止していると判定される場合がある。そこで、判定部133は、一致する領域161の数が所定の条件を満たすフレームが所定数連続した場合、車両VExが停止した判定してもよい。例えば、判定部133は、一致する領域161の数が、所定の閾値以上、又は、比較の対象とした領域160の数の所定の割合以上であるフレームが、例えば、5フレーム連続した場合、車両VExが停止した判定する。これにより、車両VExと他の車両が一時的に同じ速度で並走した場合に車両VExが停止したと判定されることを抑制でき、車両VExの停止を精度よく判定できる。判定部133は、右折、左折についても、所定数連続したフレームで右折、左折と判定された場合、車両VExが右折、左折したと判定してもよい。所定数は、可変としてもよく、小さな値とすることで短い時間で車両VExの挙動を判定できる。
(格納部134について)
格納部134は、判定部133による判定結果を記憶する。例えば、格納部134は、判定部133により判定された車両VExの挙動を、挙動が判定された動画像のフレームや撮影時刻に対応付けて、動画像データ121又は動画像データ121に関連付けられたデータに記憶する。なお、格納部134は、判定部133による判定結果を挙動が検出された地図の位置に対応付けて地図情報データベース123に記憶させてもよい。
(出力部135について)
出力部135は、各種の出力を行う。例えば、出力部135は、判定部133による判定結果に基づいて、各種の情報を車載装置10に送信する。例えば、出力部135は、地図情報データベース123に記憶された一時停止が必要な箇所において、判定部133により停止との判定が得られない場合、警告を車載装置10に送信する。
このように、実施形態に係る情報処理装置100は、車両VEx内から外部を撮影した動画像から車両VExの挙動を求めることができる。例えば、情報処理装置100は、動画像から車両VExの停止や、右折、左折の挙動を求めることができる。例えば、情報処理装置100は、GPSの位置情報では判別できないような一時停止などの車両VExの瞬時の停止などの挙動を動画像から求めることができる。これにより、情報処理装置100は、次のように利用することもできる。例えば、情報処理装置100により、ドライブレコーダーなどの録画装置で撮影された動画像から車両VExの挙動を求めることで、事故の検証を行うことができる。例えば、車両VExが一時停止を行った否かを動画像から検証できる。また、情報処理装置100により、動画像から車両VExの挙動を求めることで、ドライバが安全運転を行っているかを評価でき、例えば、保険会社がテレマスティック保険などでドライバの運転の評価に利用できる。
〔3.処理手順〕
続いて、図12を用いて、情報処理装置100が実施する情報処理の手順について説明する。図12は、車両の挙動を判定する車両挙動判定処理の手順を示すフローチャートである。
図12の例によれば、取得部131は、車載装置10から各種の情報を取得する(ステップS10)。例えば、取得部131は、車載装置10のカメラにより車両VEx内から外部を撮影した動画像のデータを取得する。
比較部132は、取得部131により取得した動画像のフレームの画像を、画像の所定の領域ごとに、フレーム間で比較する(ステップS11)。例えば、比較部132は、動画像のフレームの画像を複数の領域160を区分する。比較部132は、動画像のフレームの画像を領域160ごとに、フレーム間でテンプレートマッチングを行う。
判定部133は、比較部132の比較結果に基づいて、車両VExの挙動を判定する(ステップS12)。例えば、判定部133は、一致する領域161の数が所定の条件を満たした場合、車両VExが停止していると判定する。また、判定部133は、動画像のフレームの画像の各領域160の移動の結果に基づいて車両VExの移動方向を判定する。
格納部134は、判定部133による判定結果を記憶する(ステップS13)。例えば、格納部134は、判定部133により判定された車両VExの挙動を、挙動が判定された動画像のフレームや撮影時刻に対応付けて、動画像データ121又は動画像データ121に関連付けられたデータに記憶する。
出力部135は、判定部133による判定結果に基づいて、各種の情報を車載装置10に送信する(ステップS14)。例えば、出力部135は、地図情報データベース123に記憶された一時停止が必要な箇所において、判定部133により停止との判定が得られない場合、警告を車載装置10に送信する。
このように、実施形態に係る情報処理装置100は、車両VEx内から外部を撮影した動画像から車両VExの挙動を求めることができる。
なお、実施形態では、情報処理装置100において、上述した車両挙動判定処理を行って、車両VEx内から外部を撮影した動画像から車両VExの挙動を判定する場合を説明した。しかし、これに限定されるものではない。車載装置10が、上述した車両挙動判定処理を行って、車両VEx内から外部を撮影した動画像から車両VExの挙動を判定してもよい。
また、実施形態では、領域160の形状を矩形とした場合を例に説明した。しかし、これに限定されるものではない。領域160の形状は、矩形以外であってもよい。例えば、比較部132は、動画像のフレームの画像を正三角形や正六角形の形状に区分して領域160を正三角形や正六角形の形状としてもよい。また、例えば、比較部132は、動画像のフレームの画像を複数種類の多角形で区分して領域160を複数種類の多角形の形状としてもよい。また、比較部132は、動画像のフレームの画像に写る物体の輪郭を認識し、フレームの画像を物体の輪郭で領域160に区分してもよい。
また、実施形態では、車両VExの移動方向として、右折及び左折を判定する場合を例に説明した。しかし、これに限定されるものではない。比較部132によるテンプレートマッチングによりマッチング領域163を特定することで、上下方向の移動も求めることができる。判定部133は、上下方向に対する車両VExの挙動を判定してもよい。これにより、例えば、車両VExが坂道を登っているかや、坂道を降っているかなどを判定することができる。
また、実施形態では、動画像を、車両VExの前方に向けてカメラが配置され、車両VEx内から車両VExの前方を撮影したものと場合を例に説明した。しかし、これに限定されるものではない。動画像は、車両VEx内から外部を撮影したものであればよい。例えば、動画像は、車両VExの後方に向けてカメラが配置され、車両VEx内から車両VExの後方を撮影してものであってもよい。車両VEx内から外部を撮影した動画像であれば、車両VExの挙動として、車両VExの停止を判定できる。また、車両VEx内から車両VExの前方又は後方又は側方を撮影した動画像であれば、車両VExの挙動として、車両VExの右左折などの移動方向を精度よく判定できる。
また、実施形態では、図4に示したように、注目領域160aとした領域160について、注目領域160aを中心として周辺の領域160の範囲をテンプレートマッチングの探索領域の範囲とした場合を例に説明した。しかし、これに限定されるものではない。比較部132は、車両VExの速度に応じて探索領域の範囲を変えてもよい。例えば、比較部132は、車両VExの速度が速いほど探索領域の範囲を左右に広げてもよい。
また、車両VEx内から外部を撮影した場合、動画像には、車両VExの一部が写る場合がある。例えば、車両VEx内から車両VExの前方を撮影する場合、動画像には、車両VExのボンネットなどが写る場合がある。動画像に車両VExの一部が写った場合、フレーム画像に写る車両VEx部分の領域160は、同じ像となるため、テンプレートマッチングの結果、常に一致する領域161と判定される。そこで、情報処理装置100は、常に一致する領域161を除外して、車両VExの挙動を判定してもよい。例えば、判定部133は、複数の異なる挙動で常に領域161となっている領域160を除外して、車両VExの挙動を判定してもよい。また、フレーム画像に写る車両VEx部分が大きい場合、車両VExの周囲が写る領域161が少なくなり、車両VExの挙動の判定の精度が低下する場合がある。そこで、情報処理装置100は、フレーム画像に写る車両VEx部分が大きい場合、車載装置10へ警告を出力してもよい。例えば、出力部135は、常に一致する領域161の数が許容値を超えた場合、カメラの画角の調整を促す警告を車載装置10へ出力してもよい。または、対象となる矩形領域を無効とするようにしても良い。
〔4.まとめ〕
実施形態に係る情報処理装置100は、取得部131と、比較部132と、判定部133とを備える。取得部131は、車両VEx内から外部を撮影した動画像を取得する。比較部132は、取得部131により取得した動画像のフレームの画像を、画像の所定の領域160ごとに、フレーム間で比較する。判定部133は、比較部132の比較結果に基づいて、車両VExの挙動を判定する。これにより、情報処理装置100は、車両VEx内から外部を撮影した動画像から車両VExの挙動を求めることができる。
また、比較部132は、動画像のフレームの画像を領域160ごとに、次のフレームの画像の同じ位置の領域160とテンプレートマッチングを行う。判定部133は、一致する領域161の数に基づいて車両VExの停止を判定する。また、判定部133は、一致する領域161の数が所定の条件を満たした場合、車両VExが停止していると判定する。これにより、情報処理装置100は、車両VEx内から外部を撮影した動画像から車両VExが停止したかを判定できる。
また、判定部133は、一致する領域161の数が所定の条件を満たすフレームが所定数連続した場合、車両VExが停止した判定する。これにより、情報処理装置100は、車両VExが停止したかを精度よく判定できる。
また、比較部132は、フレームの画像の各領域160の画素の輝度値の標準偏差を求め、標準偏差が所定値よりも小さい領域160を比較の対象から除外する。これにより、情報処理装置100は、フレーム間での同じ画像部分の領域160を精度よくマッチングできる。
また、比較部132は、動画像のフレームの画像を、領域160ごとに次のフレームの画像とテンプレートマッチングを行って、次のフレームの画像内での領域160ごとの移動位置を特定する。判定部133は、各領域160の移動の結果に基づいて車両VExの移動方向を判定する。これにより、情報処理装置100は、車両VEx内から外部を撮影した動画像から車両VExの移動方向を判定できる。
判定部133は、動画像のフレームの画像の左側半分に位置する領域160の右側への移動に基づいて右折を判定し、当該画像の右側半分に位置する領域160の左側への移動に基づいて左折を判定する。これにより、情報処理装置100は、車両VEx内から外部を撮影した動画像から車両VExの右左折を精度良く判定できる。
〔5.ハードウェア構成〕
また、上述してきた実施形態に係る情報処理装置100は、例えば、図13に示すような構成のコンピュータ1000によって実現される。図13は、情報処理装置100の機能を実現するコンピュータの一例を示すハードウェア構成図である。コンピュータ1000は、CPU1100、RAM1200、ROM1300、HDD1400、通信インターフェイス(I/F)1500、入出力インターフェイス(I/F)1600、及びメディアインターフェイス(I/F)1700を有する。
CPU1100は、ROM1300またはHDD1400に格納されたプログラムに基づいて動作し、各部の制御を行う。ROM1300は、コンピュータ1000の起動時にCPU1100によって実行されるブートプログラムや、コンピュータ1000のハードウェアに依存するプログラム等を格納する。
HDD1400は、CPU1100によって実行されるプログラム、及び、かかるプログラムによって使用されるデータ等を格納する。通信インターフェイス1500は、所定の通信網を介して他の機器からデータを受信してCPU1100へ送り、CPU1100が生成したデータを所定の通信網を介して他の機器へ送信する。
CPU1100は、入出力インターフェイス1600を介して、ディスプレイやプリンタ等の出力装置、及び、キーボードやマウス等の入力装置を制御する。CPU1100は、入出力インターフェイス1600を介して、入力装置からデータを取得する。また、CPU1100は、生成したデータを入出力インターフェイス1600を介して出力装置へ出力する。
メディアインターフェイス1700は、記録媒体1800に格納されたプログラムまたはデータを読み取り、RAM1200を介してCPU1100に提供する。CPU1100は、かかるプログラムを、メディアインターフェイス1700を介して記録媒体1800からRAM1200上にロードし、ロードしたプログラムを実行する。記録媒体1800は、例えばDVD(Digital Versatile Disc)、PD(Phase change rewritable Disk)等の光学記録媒体、MO(Magneto-Optical disk)等の光磁気記録媒体、テープ媒体、磁気記録媒体、または半導体メモリ等である。
例えば、コンピュータ1000が実施形態に係る情報処理装置100として機能する場合、コンピュータ1000のCPU1100は、RAM1200上にロードされたプログラムを実行することにより、制御部130の機能を実現する。コンピュータ1000のCPU1100は、これらのプログラムを記録媒体1800から読み取って実行するが、他の例として、他の装置から所定の通信網を介してこれらのプログラムを取得してもよい。
〔6.その他〕
また、上記各実施形態において説明した処理のうち、自動的に行われるものとして説明した処理の全部または一部を手動的に行うこともでき、あるいは、手動的に行われるものとして説明した処理の全部または一部を公知の方法で自動的に行うこともできる。この他、上記文書中や図面中で示した処理手順、具体的名称、各種のデータやパラメータを含む情報については、特記する場合を除いて任意に変更することができる。例えば、各図に示した各種情報は、図示した情報に限られない。
また、図示した各装置の各構成要素は機能概念的なものであり、必ずしも物理的に図示の如く構成されていることを要しない。すなわち、各装置の分散・統合の具体的形態は図示のものに限られず、その全部または一部を、各種の負荷や使用状況などに応じて、任意の単位で機能的または物理的に分散・統合して構成することができる。
また、上記各実施形態は、処理内容を矛盾させない範囲で適宜組み合わせることが可能である。
以上、本願の実施形態のいくつかを図面に基づいて詳細に説明したが、これらは例示であり、発明の開示の欄に記載の態様を始めとして、当業者の知識に基づいて種々の変形、改良を施した他の形態で本発明を実施することが可能である。
1 情報処理システム
10 車載装置
100 情報処理装置
120 記憶部
121 動画像データ
122 センサ情報データベース
123 地図情報データベース
130 制御部
131 取得部
132 比較部
133 判定部
134 格納部
135 出力部
160、161、162 領域
163 マッチング領域
VEx 車両

Claims (9)

  1. 車両内から外部を撮影した動画像を取得する取得部と、
    前記取得部により取得した前記動画像のフレームの画像を、前記画像の所定の領域ごとに、フレーム間で比較する比較部と、
    前記比較部の比較結果に基づいて、前記車両の挙動を判定する判定部と、
    を備えることを特徴とする情報処理装置。
  2. 前記比較部は、前記動画像のフレームの画像を前記領域ごとに、次のフレームの画像の同じ位置の領域と類似度判定を行い、
    前記判定部は、一致する領域の数または割合に基づいて前記車両の停止を判定する
    ことを特徴とする請求項1に記載の情報処理装置。
  3. 前記判定部は、一致する領域の数または割合が所定の条件を満たした場合、車両が停止していると判定する
    ことを特徴とする請求項2に記載の情報処理装置。
  4. 前記判定部は、一致する領域の数または割合が所定の条件を満たすフレームが所定数連続した場合、車両が停止した判定する
    ことを特徴とする請求項2又は3に記載の情報処理装置。
  5. 前記比較部は、フレームの画像の各領域の画素の輝度値の標準偏差を求め、標準偏差が所定値よりも小さい領域を比較の対象から除外する
    ことを特徴とする請求項1~4の何れか1つに記載の情報処理装置。
  6. 前記比較部は、前記動画像のフレームの画像を、前記領域ごとに次のフレームの画像とテンプレートマッチングを行って、次のフレームの画像内での前記領域ごとの移動位置を特定し、
    前記判定部は、各領域の移動の結果に基づいて前記車両の移動方向を判定する
    ことを特徴とする請求項1~5の何れか1つに記載の情報処理装置。
  7. 前記判定部は、前記動画像のフレームの画像の左側半分に位置する領域の右側への移動に基づいて右折を判定し、当該画像の右側半分に位置する領域の左側への移動に基づいて左折を判定する
    ことを特徴とする請求項6に記載の情報処理装置。
  8. 情報処理装置が実行する車両挙動判定方法であって、
    車両内から外部を撮影した動画像を取得する取得工程と、
    取得した前記動画像のフレームの画像を、前記画像の所定の領域ごとに、フレーム間で比較する比較工程と、
    比較結果に基づいて、前記車両の挙動を判定する判定工程と、
    を含むことを特徴とする車両挙動判定方法。
  9. 車両内から外部を撮影した動画像を取得する取得手順と、
    取得した前記動画像のフレームの画像を、前記画像の所定の領域ごとに、フレーム間で比較する比較手順と、
    比較結果に基づいて、前記車両の挙動を判定する判定手順と、
    を情報処理装置に実行させるための車両挙動判定プログラム。
JP2022005104A 2022-01-17 2022-01-17 情報処理装置、車両挙動判定方法および車両挙動判定プログラム Pending JP2023104235A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2022005104A JP2023104235A (ja) 2022-01-17 2022-01-17 情報処理装置、車両挙動判定方法および車両挙動判定プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2022005104A JP2023104235A (ja) 2022-01-17 2022-01-17 情報処理装置、車両挙動判定方法および車両挙動判定プログラム

Publications (1)

Publication Number Publication Date
JP2023104235A true JP2023104235A (ja) 2023-07-28

Family

ID=87379515

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022005104A Pending JP2023104235A (ja) 2022-01-17 2022-01-17 情報処理装置、車両挙動判定方法および車両挙動判定プログラム

Country Status (1)

Country Link
JP (1) JP2023104235A (ja)

Similar Documents

Publication Publication Date Title
US8452103B2 (en) Scene matching reference data generation system and position measurement system
US8428362B2 (en) Scene matching reference data generation system and position measurement system
US11993290B2 (en) Predicting and responding to cut in vehicles and altruistic responses
JP6637088B2 (ja) ウォルシュ・カーネル・投影技術に基づく自動運転車両の位置決め
US8369577B2 (en) Vehicle position recognition system
US8682531B2 (en) Image processing system and vehicle control system
JP5435306B2 (ja) 画像処理システム及び位置測位システム
CN112069643B (zh) 一种自动驾驶仿真场景生成方法及装置
WO2018153211A1 (zh) 获取交通路况信息的方法及装置、计算机存储介质
CN110188482B (zh) 一种基于智能驾驶的测试场景创建方法及装置
JP7077910B2 (ja) 区画線検出装置及び区画線検出方法
JP2018081545A (ja) 画像データ抽出装置及び画像データ抽出方法
JP6552448B2 (ja) 車両位置検出装置、車両位置検出方法及び車両位置検出用コンピュータプログラム
US20190130597A1 (en) Information processing device and information processing system
US20210402992A1 (en) Apparatus and method for setting planned trajectory
JP2018189457A (ja) 情報処理装置
JP4775034B2 (ja) 画像認識システムおよび画像認識方法
CN114333339B (zh) 深度神经网络功能模块去重复的方法
JP2018073275A (ja) 画像認識装置
JP2020166409A (ja) 車載装置、車載システムおよび周辺監視方法
JP6398218B2 (ja) 自己位置算出装置及び自己位置算出方法
JP6718025B2 (ja) 車両周辺の小物体領域を識別する装置及び方法
JP2011075437A (ja) 車両周辺表示装置、車両周辺表示方法およびプログラム
JP2023104235A (ja) 情報処理装置、車両挙動判定方法および車両挙動判定プログラム
JP5557036B2 (ja) 退出判定装置、退出判定プログラム及び退出判定方法