JP2024080021A - 車両速度検出装置、車両速度検出方法及びプログラム - Google Patents

車両速度検出装置、車両速度検出方法及びプログラム Download PDF

Info

Publication number
JP2024080021A
JP2024080021A JP2022192834A JP2022192834A JP2024080021A JP 2024080021 A JP2024080021 A JP 2024080021A JP 2022192834 A JP2022192834 A JP 2022192834A JP 2022192834 A JP2022192834 A JP 2022192834A JP 2024080021 A JP2024080021 A JP 2024080021A
Authority
JP
Japan
Prior art keywords
bounding box
image
moving body
vehicle
speed
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2022192834A
Other languages
English (en)
Other versions
JP7411771B1 (ja
Inventor
美優 ▲高▼橋
将揮 細野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Seiko Solutions Inc.
Original Assignee
Seiko Solutions Inc.
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Seiko Solutions Inc. filed Critical Seiko Solutions Inc.
Priority to JP2022192834A priority Critical patent/JP7411771B1/ja
Priority to PCT/JP2023/033243 priority patent/WO2024116543A1/ja
Application granted granted Critical
Publication of JP7411771B1 publication Critical patent/JP7411771B1/ja
Publication of JP2024080021A publication Critical patent/JP2024080021A/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01PMEASURING LINEAR OR ANGULAR SPEED, ACCELERATION, DECELERATION, OR SHOCK; INDICATING PRESENCE, ABSENCE, OR DIRECTION, OF MOVEMENT
    • G01P3/00Measuring linear or angular speed; Measuring differences of linear or angular speeds
    • G01P3/36Devices characterised by the use of optical means, e.g. using infrared, visible, or ultraviolet light
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • GPHYSICS
    • G07CHECKING-DEVICES
    • G07CTIME OR ATTENDANCE REGISTERS; REGISTERING OR INDICATING THE WORKING OF MACHINES; GENERATING RANDOM NUMBERS; VOTING OR LOTTERY APPARATUS; ARRANGEMENTS, SYSTEMS OR APPARATUS FOR CHECKING NOT PROVIDED FOR ELSEWHERE
    • G07C5/00Registering or indicating the working of vehicles
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • Electromagnetism (AREA)
  • Power Engineering (AREA)
  • Image Analysis (AREA)
  • Traffic Control Systems (AREA)
  • Time Recorders, Dirve Recorders, Access Control (AREA)

Abstract

Figure 2024080021000001
【課題】車両事故発生時の状況把握を精度よく行う。
【解決手段】車両速度検出装置は、複数のフレームを含む動画像データから1フレーム分の画像を取得する画像取得部と、取得した画像に含まれる移動体である第1移動体の位置と大きさを特定するバウンディングボックスを検出するバウンディングボックス検出部と、検出されたバウンディングボックスの位置と大きさに基づく点である追跡対象点の位置座標を検出する追跡対象点検出部と、複数フレーム分の画像それぞれにおいて検出された前記追跡対象点の位置座標の変化に基づき、前記動画像データを撮像する撮像装置が設置された移動体である第2移動体と前記第1移動体との相対速度を推定する相対速度推定部とを備える。
【選択図】図12

Description

本発明は、車両速度検出装置、車両速度検出方法及びプログラムに関する。
従来、車両事故発生時の状況把握を正確に行うため、車両にドライブレコーダ等のカメラを設置し、車両進行方向周辺の動画像を撮像することが行われている。自車両と相手車両との間で車両事故が発生している場合、事故分析において、事故発生前から事故発生時までの相手車の速度が重要な要素となる。そのため、ドライブレコーダにより撮像された動画像から相手車両の速度を推定する技術が多く検討されている。相手車両の速度を推定する手法の1つとして、ドライブレコーダにより撮像された動画像を二次元的に解析する手法が提案されている(例えば、特許文献1を参照)。このような技術によれば、オプティカルフローを用いることにより、動画像内において動いている物体の座標を算出し、算出した座標を用いて相手車両速度の推定を行うことが可能である。
特開2021-189531号公報
上述したような技術によれば、フレーム毎にタイヤと路面との接地点を特定し、特定した接地点のフレーム毎の推移に基づき自車両と相手車両との相対速度を推定する。したがって、フレーム毎に特定した接地点が実際よりずれている場合、速度のずれに直結してしまう。このように従来技術によれば、フレーム毎の速度変化を精度よく検出できないといった問題があった。相手車両の速度を精度よく算出できない場合、車両事故発生時の状況把握を正確に行うことが困難である。
そこで本発明は、車両事故発生時の状況把握を精度よく行うことができる技術の提供を目的とする。
[1]上記の課題を解決するため、本発明の一態様は、複数のフレームを含む動画像データから1フレーム分の画像を取得する画像取得部と、取得した画像に含まれる移動体である第1移動体の位置と大きさを特定するバウンディングボックスを検出するバウンディングボックス検出部と、検出されたバウンディングボックスの位置と大きさに基づく点である追跡対象点の位置座標を検出する追跡対象点検出部と、複数フレーム分の画像それぞれにおいて検出された前記追跡対象点の位置座標の変化に基づき、前記動画像データを撮像する撮像装置が設置された移動体である第2移動体と前記第1移動体との相対速度を推定する相対速度推定部とを備える車両速度検出装置である。
[2]また、本発明の一態様は、上記[1]に記載の車両速度検出装置において、前記追跡対象点検出部は、前記バウンディングボックスが有する1つ以上の頂点に基づく点を前記追跡対象点として検出するものである。
[3]また、本発明の一態様は、上記[2]に記載の車両速度検出装置において、前記追跡対象点検出部は、前記バウンディングボックスが有する1つの頂点、又は2つ以上の頂点の中心点を前記追跡対象点として検出するものである。
[4]また、本発明の一態様は、上記[1]から[3]のいずれかに記載の車両速度検出装置において、前記バウンディングボックスは、奥行き方向を有する三次元バウンディングボックスである。
[5]また、本発明の一態様は、上記[4]に記載の車両速度検出装置において、前記追跡対象点検出部は、検出された前記三次元バウンディングボックスが有する底面に含まれる点を前記追跡対象点として検出するものである。
[6]また、本発明の一態様は、上記[1]から[5]のいずれかに記載の車両速度検出装置において、前記第2移動体の走行速度を取得する速度情報取得部と、推定された前記相対速度と、前記第2移動体の走行速度とに基づき、前記第1移動体の走行速度を推定する絶対速度推定部とを更に備えるものである。
[7]また、本発明の一態様は、上記[1]から[6]のいずれかに記載の車両速度検出装置において、前記画像取得部により取得された画像の歪み補正を行う歪み補正部を更に備え、前記バウンディングボックス検出部は、前記歪み補正部により歪み補正が行われた画像に基づき、前記バウンディングボックスを検出するものである。
[8]また、本発明の一態様は、上記[7]に記載の車両速度検出装置において、検出された前記バウンディングボックスの位置座標を、前記画像取得部により取得された画像の座標系における位置座標に変換する検出結果整形部を更に備えるものである。
[9]また、本発明の一態様は、上記[1]から[8]のいずれかに記載の車両速度検出装置において、前記バウンディングボックス検出部は、所定の入力画像と、当該入力画像に対応するバウンディングボックスの位置とが対応付けられた教師データに基づき学習された機械学習モデルを用いて前記バウンディングボックスを検出するものである。
[10]また、本発明の一態様は、上記[9]に記載の車両速度検出装置において、前記機械学習モデルの学習に用いられる教師データは、昼間に撮像された画像に基づいて昼夜変換モデルを用いた画像処理が行われた結果、夜間に撮像された画像に変換された画像が含まれるものである。
[11]また、本発明の一態様は、複数のフレームを含む動画像データから1フレーム分の画像を取得する画像取得工程と、取得した画像に含まれる移動体である第1移動体の位置と大きさを特定するバウンディングボックスを検出するバウンディングボックス検出工程と、検出されたバウンディングボックスの位置と大きさに基づく点である追跡対象点の位置座標を検出する追跡対象点検出工程と、複数フレーム分の画像それぞれにおいて検出された前記追跡対象点の位置座標の変化に基づき、前記動画像データを撮像する撮像装置が設置された移動体である第2移動体と前記第1移動体との相対速度を推定する相対速度推定工程とを有する車両速度検出方法である。
[12]また、本発明の一態様は、コンピュータに、複数のフレームを含む動画像データから1フレーム分の画像を取得する画像取得ステップと、取得した画像に含まれる移動体である第1移動体の位置と大きさを特定するバウンディングボックスを検出するバウンディングボックス検出ステップと、検出されたバウンディングボックスの位置と大きさに基づく点である追跡対象点の位置座標を検出する追跡対象点検出ステップと、複数フレーム分の画像それぞれにおいて検出された前記追跡対象点の位置座標の変化に基づき、前記動画像データを撮像する撮像装置が設置された移動体である第2移動体と前記第1移動体との相対速度を推定する相対速度推定ステップとを実行させるプログラムである。
本発明によれば、車両事故発生時の状況把握を精度よく行うことができる。
実施形態に係るシステムの概要について説明するためのブロック図である。 実施形態に係るシステムが行う処理の概要について説明するためのシーケンス図である。 実施形態に係るシステムが行う車両認識処理の詳細について説明するためのフローチャートである。 実施形態に係るシステムが行う歪み補正処理について説明するための第1の図である。 実施形態に係るシステムが行う歪み補正処理について説明するための第2の図である。 実施形態に係るシステムが行うバウンディングボックス検出処理について説明するための図である。 実施形態に係るシステムが行う検出結果整形処理について説明するための第1の図である。 実施形態に係るシステムが行う検出結果整形処理について説明するための第2の図である。 実施形態に係るシステムが行う速度推定処理の詳細について説明するためのフローチャートである。 実施形態に係る三次元バウンディングボックスと、追跡対象点の一例について説明するための図である。 実施形態に係るシステムが行うトラッキング処理の一例について説明するための図である。 実施形態に係る車両速度検出装置の機能構成の一例を示すブロック図である。 実施形態に係るシステムが有するユーザーインターフェースの処理の一例を示すフローチャートである。 実施形態に係るシステムが有するユーザーインターフェースが表示する表示画面の一例を示す第1の図である。 実施形態に係るシステムが有するユーザーインターフェースが表示する表示画面の一例を示す第2の図である。 実施形態に係るシステムにより出力された帳票の一例を示す第1の図である。
[実施形態]
本発明の態様に係る車両速度検出装置、車両速度検出方法及びプログラムについて、好適な実施の形態を掲げ、添付の図面を参照しながら以下、詳細に説明する。なお、本発明の態様は、これらの実施の形態に限定されるものではなく、多様な変更または改良を加えたものも含まれる。つまり、以下に記載した構成要素には、当業者が容易に想定できるもの、実質的に同一のものが含まれ、以下に記載した構成要素は適宜組み合わせることが可能である。また、本発明の要旨を逸脱しない範囲で構成要素の種々の省略、置換または変更を行うことができる。また、以下の図面においては、各構成をわかりやすくするために、各構造における縮尺および数等を、実際の構造における縮尺および数等と異ならせる場合がある。
図1は、実施形態に係るシステムの概要について説明するためのブロック図である。同図を参照しながら、システム1の概要について説明する。システム1は、車両事故発生時における状況把握を行う。車両事故発生時における状況把握には、少なくとも自車両と相手車両との間における相対位置の特定が含まれる。また、車両事故発生時における状況把握には、自車両と相手車両との相対速度の推定が含まれていてもよく、相手車両の絶対速度の推定が含まれていてもよい。その他、車両事故発生時における状況把握には、過失の割合の算出等が広く含まれていてもよい。
システム1は、UIサーバ装置10と、AIサーバ装置20と、ファイルサーバ装置30とを備える。UIサーバ装置10、AIサーバ装置20及びファイルサーバ装置30は、互いに所定の通信ネットワークNWを介して接続される。通信ネットワークNWとは、有線又は無線回線を用いて構成される通信ネットワークである。所定の通信ネットワークNWはオープンなネットワークであってもよく、通信ネットワークNWに接続された装置同士は所定のプロトコルを用いて相互に通信することができる。所定の通信ネットワークNWの一例としては、インターネットを例示することができる。UIサーバ装置10、AIサーバ装置20及びファイルサーバ装置30は、互いに通信ネットワークNWを介して情報通信を行う。
なお、図示したようなシステム1が備える機能構成の割り当ては一例であり、例えば1台の装置によりシステム1が備える機能を実現してもよい。
UIサーバ装置10は、ユーザーインターフェースの機能を有する。ユーザーインターフェースの機能の一例としては、ドライブレコーダにより撮像された動画像データを取得したり、事故発生時に置ける状況把握に関する指示を受け付けたりすること等である。UIサーバ装置10は、取得した動画像データや、受け付けた指示に基づき、通信ネットワークNWを介してAIサーバ装置20やファイルサーバ装置30に情報を出力する。UIサーバ装置10は、フレーム分割部11と、要求部12とを備える。
フレーム分割部11は、取得した動画像データを静止画であるフレーム画像に分割する。換言すれば、ドライブレコーダにより撮像される動画像データには、複数のフレーム画像が含まれる。フレーム分割部11は、分割したフレーム画像をファイルサーバ装置30に出力し、記憶させる。分割したフレーム画像には、元となる動画像データを識別するための情報や、フレームの順番、フレームレートに関する情報等が対応付けられていてもよい。
要求部12は、受け付けた事故発生時に置ける状況把握に関する指示に基づき、AIサーバ装置20に対し処理開始の要求を行う。事故発生時に置ける状況把握に関する指示は、システム1の使用者の操作により行われてもよい。事故発生時に置ける状況把握に関する指示の一例としては、車両認識処理や、速度推定処理等である。要求部12により出力される情報には、対応する動画像データ(又はフレーム画像)を識別する情報や、動画像データが含まれていてもよい。
AIサーバ装置20は、事故発生時に置ける状況把握に関する処理を行うための機能を有する。事故発生時に置ける状況把握に関する処理の一例としては、車両認識処理や、速度推定処理等を例示することができる。AIサーバ装置20は、車両認識処理部21と、速度推定処理部22とを備える。
車両認識処理部21は、UIサーバ装置10から車両認識処理開始についての要求を取得する。当該要求には、対応するフレーム画像を特定するための情報(又はフレーム画像)が含まれている。車両認識処理部21は、ファイルサーバ装置30から対応するフレーム画像を取得し、取得したフレーム画像に基づき、車両認識処理を行う。車両認識処理とは、フレーム画像中における車両の位置を特定するための処理である。具体的には、車両認識処理とは、車両を囲うバウンディングボックスの大きさと位置座標とを特定する処理であってもよい。当該処理には機械学習アルゴリズムが用いられてもよい。車両認識処理部21は、処理を行った結果として得られた車両認識結果をファイルサーバ装置30に出力し、記憶させる。
速度推定処理部22は、UIサーバ装置10から速度推定処理開始についての要求を取得する。当該要求には、対応するフレーム画像(又は車両認識結果)を特定するための情報が含まれている。また、当該要求には、対応するフレーム画像(又は車両認識結果)そのものが含まれていてもよい。速度推定処理部22は、複数のフレーム画像に対応する車両認識結果を取得する。速度推定処理部22は、ファイルサーバ装置30から対応する複数の車両認識結果を取得し、取得した複数の車両認識結果に基づき、速度推定処理を行う。速度推定処理とは、自車両と相手車両との相対速度を推定するための処理であってもよいし、相手車両の絶対速度を推定するための処理であってもよい。具体的には、速度推定処理とは、認識された車両位置に基づく特定の点(例えばバウンディングボックスの中心点)のフレーム毎の位置(又は座標)の変化に基づいて速度推定を行うことであってもよい。速度推定処理部22は、処理を行った結果として得られた速度推定結果をファイルサーバ装置30に出力し、記憶させる。
ファイルサーバ装置30は、UIサーバ装置10からフレーム画像を取得し、フレーム画像31として記憶する。また、ファイルサーバ装置30は、AIサーバ装置20から車両認識結果を取得し、車両認識結果32として記憶する。また、ファイルサーバ装置30は、AIサーバ装置20から速度推定結果を取得し、速度推定結果33として記憶する。フレーム画像31、車両認識結果32及び速度推定結果33は、例えばドライブレコーダを特定する情報や、事故案件を識別するための番号である事故番号等をキーとして互いに対応付け可能なよう管理されてもよい。
図2は、実施形態に係るシステムが行う処理の概要について説明するためのシーケンス図である。同図を参照しながら、システム1が行う処理の概要について説明する。図示するようなシステム1が行う処理の前提として、UIサーバ装置10は、ドライブレコーダから動画像データを取得し、取得した動画像データをフレーム画像に分割し、分割したフレーム画像をファイルサーバ装置30に記憶させてあるものとする。
まず、システム1が行う車両認識処理について説明する。UIサーバ装置10は、AIサーバ装置20に対し車両認識要求を出力する(ステップS110)。AIサーバ装置20は、車両認識要求を取得すると、ファイルサーバ装置30に対してフレーム画像要求を出力する(ステップS120)。当該フレーム画像要求では、車両認識要求に含まれる識別情報(例えばドライブレコーダの識別情報や動画像データの識別情報)を用いて、取得すべきフレーム画像が特定される。ファイルサーバ装置30は、フレーム画像要求に基づき特定されるフレーム画像をAIサーバ装置20に出力する(ステップS130)。なお、ファイルサーバ装置30からAIサーバ装置20に出力されるフレーム画像の数は1以上であればよく、複数であってもよい。例えば、識別情報により識別されるフレーム画像すべてについて出力されてもよい。AIサーバ装置20は、取得したフレーム画像に基づき、車両認識処理を行う(ステップS140)。当該車両認識処理の詳細については後述する。AIサーバ装置20は、車両認識を行った結果を、ファイルサーバ装置30に出力する(ステップS150)。ファイルサーバ装置30は、例えばドライブレコーダの識別情報や動画像データの識別情報等と対応付けて、車両認識結果を記憶する。
次に、システム1が行う速度推定処理について説明する。UIサーバ装置10は、AIサーバ装置20に対し速度推定要求を出力する(ステップS210)。AIサーバ装置20は、速度推定要求を取得すると、ファイルサーバ装置30に対して車両認識結果要求を出力する(ステップS220)。当該車両認識結果要求では、速度推定要求に含まれる識別情報(例えばドライブレコーダの識別情報や動画像データの識別情報)を用いて、取得すべき車両認識結果が特定される。ファイルサーバ装置30は、車両認識結果要求に基づき特定される車両認識結果をAIサーバ装置20に出力する(ステップS230)。AIサーバ装置20は、取得した車両認識結果に基づき、速度推定処理を行う(ステップS240)。当該速度推定の詳細については後述する。AIサーバ装置20は、速度推定を行った結果を、ファイルサーバ装置30に出力する(ステップS250)。ファイルサーバ装置30は、例えばドライブレコーダの識別情報や動画像データの識別情報等と対応付けて、速度推定を記憶する。
次に、図3から図8を参照しながら、車両認識処理の詳細について説明する。
図3は、実施形態に係るシステムが行う車両認識処理の詳細について説明するためのフローチャートである。同図を参照しながら、車両認識処理の詳細について説明する。
まず、AIサーバ装置20の車両認識処理部21は、要求部12からの要求に基づき、ファイルサーバ装置30からフレーム画像を取得する(ステップS310)。ここで、ファイルサーバ装置30に記憶されているフレーム画像は、ドライブレコーダにより撮像された動画の1フレームに該当する。ドライブレコーダにより撮像される画像は、歪み補正がされていないため、当該画像を用いて車両位置を推定する場合、歪みによる影響を受け、精度が落ちてしまう場合がある。歪み補正がされていない画像は、Radial distortion modelによる画像ということもできる。歪みによる影響を低減するため、車両認識処理部21は、取得したフレーム画像についての歪み補正を行う(ステップS320)。車両認識処理部21が行う歪み補正処理の詳細については、図4及び図5を参照しながら説明する。
図4は、実施形態に係るシステムが行う歪み補正処理について説明するための第1の図である。図4(A)は、歪み補正がされていない画像(すなわち、ファイルサーバ装置30に記憶されるフレーム画像)の一例を示す。同図には、自車両の走行方向を撮像した映像が示される。また、同図に示す一例では、車両事故の相手車両(対向車)が画角内に映り込んでいる。図4(A)は、Radial distortion modelによる画像であるということもできる。
図4(B)は、車両認識処理部21により第1の補正がされた後の画像の一例を示す。図4(B)は、具体的にはPinhole camera modelによる画像である。図4(C)は、車両認識処理部21により第2の補正がされた後の画像の一例を示す。図4(C)は、具体的にはFOV distortion modelによる画像である。車両認識処理部21は、図示するように、まずPinhole camera modelに変換し、その後、FOV distortion modelに変換を行う。車両認識処理部21は、これら2回の変換を行った画像に基づき、車両認識処理を行う。
ここで、まずPinhole camera modelに変換し、その後、FOV distortion modelに変換を行う処理をフレーム毎に行う場合、全体の処理に要する時間が長くなってしまうといった課題が生じる場合がある。したがって、Pinhole camera modelに変換するための行列と、FOV distortion modelに変換するための行列とを予め掛け合わせておくことにより、Pinhole camera modelを経てFOV distortion modelに変換するための行列を用意しておくことが好適である。この場合、フレーム毎に予め用意した行列を乗じることにより、1回の演算により、Pinhole camera modelを経てFOV distortion modelに変換することができるようになり、全体の処理に要する時間を短縮することができるようになる。
図5は、実施形態に係るシステムが行う歪み補正処理について説明するための第2の図である。同図を参照しながら、Pinhole camera modelと、FOV distortion modelについて説明する。Pinhole camera modelとは、レンズ面の中心を通った光が直進して、結像面で像となるモデルである。Pinhole camera modelにおける光の経路を図中破線で示す。図中右側の垂直な実線で示された面は、結像面を示し、カメラにおけるイメージセンサに相当する。また、図中に記載したレンズ面とは、円の中心を通る垂直な実線で示された面のことであり、カメラにおけるレンズを抽象的に示した面に相当する。実線で示された円は、説明の都合上、概念的に描かれたものであり、何らかの実際の面を示すものではない。Pinhole camera modelによれば、直線のものは直線として写るという特徴を有する。また、Pinhole camera modelによれば、光軸とのなす角が大きい被写体(例えば画像端に存在する被写体)は大きく引き伸ばされて写るという特徴を有する。
FOV distortion modelとは、結像面の中心からの距離が、被写体が光軸となす角に比例するモデルである。FOV distortion modelのFOVとは、Field-of-viewである。FOV distortion modelにおける光の経路を、白丸と白丸とを結ぶ実線による線分により示す。当該線分は、FOV distortion modelにおける概念上の結像面と、実際の結像面における、レンズの中心を通った光が像をなす位置を概念的に示したものということができる。FOV distortion modelによれば、結像面の中心からの距離が等しい点は、光軸となす角も等しい。すなわち、FOV distortion modelによれば、光軸とのなす角が大きい被写体(例えば画像端に存在する被写体)であっても大きく引き伸ばされてしまうことがない。したがって、車両認識処理部21は、FOV distortion modelを用いて車両認識を行うことにより、画像端に存在する車両の認識精度を向上させることができる。
図3に戻り、車両認識処理部21は、上述した歪み補正がされた後の画像に基づき、バウンディングボックスの検出を行う(ステップS330)。当該バウンディングボックスは、事故の相手となる可能性が有る移動体(例えば、自動車や自動二輪車又は二輪車等の車両や歩行者等)が存在する位置を特定する。
ここで、本実施形態に係るバウンディングボックスは、三次元バウンディングボックス(3Dバウンディングボックス)であることが好適である。三次元バウンディングボックスとは、二次元の情報である画像に含まれる物体の三次元的な位置座標を特定するものである。すなわち三次元バウンディングボックスは、二次元バウンディングボックスと比較して、奥行き情報を更に有する点において異なる。例えば車両の場合、車両を囲う三次元バウンディングボックスを特定するためには、車両を三次元的に囲う8点の座標が用いられてもよい。なお、本実施形態に係るバウンディングボックスは、三次元バウンディングボックスの一例に限定されず、三次元バウンディングボックスを構成する6面の内の1面のみを用いた二次元バウンディングボックスが用いられてもよい。
図6は、実施形態に係るシステムが行うバウンディングボックス検出処理について説明するための図である。同図を参照しながら、バウンディングボックス検出処理の詳細について説明する。図6(A)は、車両認識処理部21により特定された三次元バウンディングボックスの一例が示されている。当該バウンディングボックスは、例えば学習済みモデルを用いて推論を行った結果として得られるものであってもよい。なお、図示する一例では、ドライブレコーダにより撮像された動画像には、3台の移動体(具体的には車両)が映り込んでいるため、3つのバウンディングボックスが検出されている。図6(B)は、バウンディングボックスの位置座標情報から生成された鳥瞰図である。当該鳥瞰図には、三次元バウンディングボックスの位置座標から特定された移動体が存在する位置座標が示される。当該鳥瞰図は、自車両の位置との距離、自車両の位置から見て移動体が存在する方向、及び移動体の向き(進行方向)についての情報を有する。同図における自車両の位置は、図中下方の上向き矢印により示されている。
図3に戻り、車両認識処理部21は、上述したステップS330により得られた検出結果を整形する(ステップS340)。ここで、ステップS330におけるバウンディングボックスの検出処理は、FOV distortion modelを用いて行われるものである。したがって、ステップS340では、検出結果を整形することにより、カメラ座標系における真の座標を計算するものである。
図7は、実施形態に係るシステムが行う検出結果整形処理について説明するための第1の図である。同図を参照しながら、検出結果整形処理の詳細について説明する。まず、線L71は、FOV distortion modelを用いて三次元バウンディングボックスの検出がおこなわれた時点における光路を示す。また、当該時点における座標を点P1として示す。点P1をそのままカメラ座標系に適用することはできないため(誤差が生じるため)、検出結果整形処理によりカメラ座標系における座標を計算する。線L72は、FOV distortion model からPinhole camera model に変換された後における光路を示す。また、当該時点における座標を点P2として示す。点P2は、検出結果整形処理が行われた結果として得られる座標である。
なお、結像面におけるピクセルの座標と、カメラ座標系上の座標を相互変換する場合の具体例として、例えば下の式(1)を例示することができる。式(1)における3×4行列は、カメラパラメータ行列である。
Figure 2024080021000002
cx及びcyは、光軸からの結像面上における距離を示しており、fx及びfyは、レンズ面から結像面への光軸上の距離を示している。cx及びcyは、Pinhole camera model 画像の幅及び高さの半分とすることにより求められる。また、fx及びfyは、既知のcx及びcyを用いて、fx=cx/tanθ、fy=cy/tanθ(なお、画角θは光軸と光路がなす角)により求められる。
図8は、実施形態に係るシステムが行う検出結果整形処理について説明するための第2の図である。同図を参照しながら、検出結果整形処理の前後における鳥瞰図の変化について説明する。図8(A)は、検出結果整形処理の前における鳥瞰図を示す。図8(B)は、検出結果整形処理の後における鳥瞰図を示す。図示するように、検出結果整形処理を行った結果、移動体の位置が自車両に近づき、実際のカメラ座標系における位置に変換されていることが分かる。
図3に戻り、車両認識処理部21は、車両認識結果をファイルサーバ装置30に出力する(ステップS350)。なお、車両認識結果には、少なくともバウンディングボックスの座標が含まれる。車両認識結果には、図6(A)に示したような三次元バウンディングボックスを含む画像や、図7(B)に示すような鳥瞰図が含まれていてもよい。
次に、図9から図11を参照しながら、速度推定処理の詳細について説明する。
図9は、実施形態に係るシステムが行う速度推定処理の詳細について説明するためのフローチャートである。同図を参照しながら、速度推定処理の詳細について説明する。まず、AIサーバ装置20の速度推定処理部22は、要求部12からの要求に基づき、ファイルサーバ装置30から車両認識結果を取得する(ステップS410)。ファイルサーバ装置30に記憶されている車両認識結果は、ドライブレコーダにより撮像された動画の1フレームに該当する。速度推定処理部22は、複数フレーム分の車両認識結果を取得する。速度推定処理部22は、取得した複数フレーム分の車両認識結果に基づき、対象車両(速度推定処理の対象となる移動体)のトラッキングを行う(ステップS420)。当該トラッキング処理とは、具体的には、各フレームにおける1以上のバウンディングボックスのうち、追跡対象となるバウンディングを特定する(すなわち、同一車両を囲むバウンディングを各フレームにおいて特定する)処理である。
トラッキング処理の具体的な実施例について説明する。まず、速度推定処理の対象となる複数のフレームのうち、最前及び最後の2つのフレームを特定する。さらに特定された2つのフレームそれぞれにおいて、速度推定処理の対象となる車両を囲うバウンディングボックスを特定する。最前のフレーム(スタートフレーム)において特定されたバウンディングボックスにより囲われた車両と、最後のフレーム(エンドフレーム)において特定されたバウンディングボックスにより囲われた車両とは、同一の車両である。また、2つのフレームを特定する作業と、特定された2つのフレームにおいてバウンディングボックスを特定する作業とは、ユーザの選択により行われることが好適である。次に、2つのフレームの間に位置するフレームについて、(1)スタートフレームにおけるバウンディングボックスの位置とエンドフレームにおけるバウンディングボックスの位置とから線形補間により算出されたバウンディングボックスの位置と、(2)バウンディングボックス検出部45により検出されたバウンディングボックスの位置とに基づいて、速度推定処理の対象となる車両を囲うバウンディングボックスを特定する。当該特定作業は、例えば(1)のバウンディングボックスと重複する面積が最も大きい(2)のバウンディングボックスを特定することであってもよい。面積の比較は、三次元バウンディングボックスの場合、三次元バウンディングボックスを構成する特定の面に基づき行われてもよい。このように、トラッキング処理においては、ユーザにより特定されたバウンディングボックスに基づいて、各フレームにおける追跡対象となるバウンディングボックスを特定する。なお、当該処理は、スタートフレームにおけるフレームを1フレーム目、エンドフレームにおけるフレームをn(nは1以上の自然数)フレーム目とした場合、1+1フレーム目、n-1フレーム目、1+2フレーム目、n-2フレーム目、…、のような順序で行われていってもよい。この場合、線形補間により(1)のバウンディングボックスの位置を特定する処理は、1+1フレーム目、n-1フレーム目、1+2フレーム目、n-2フレーム目、…、のように既に確定したバウンディングボックスに基づいて行われてもよい。
速度推定処理部22は、自車両と相手車両との間の相対速度を導出する(ステップS430)。相対速度の導出には、ステップS420のトラッキング処理により特定されたバウンディングボックスの位置と、ドライブレコーダに関する特性(例えば、フレームレート等)とが用いられる。 ドライブレコーダに関する特性は、予め速度推定処理部22が記憶していてもよいし、UIサーバ装置10からの要求、フレーム画像又は車両認識結果等に含まれていてもよい。バウンディングボックスの移動量を計測するためには、バウンディングボックスの頂点が用いられてもよいし、複数の頂点により特定される点(例えば中点や中心点)が用いられてもよい。
図10は、実施形態に係る三次元バウンディングボックスと、追跡対象点の一例について説明するための図である。同図を参照しながら、移動体の速度算出処理に用いられる点の一例について説明する。同図には、バウンディングボックスの模式図を示す。点Aから点Hは、移動体を囲うバウンディングボックスの頂点である。点A、点B、点C及び点Dにより構成される矩形は、例えば車両のフロント側に該当する。点E、点F、点G及び点Hにより構成される矩形は、例えば車両のリア側に該当する。点C、点D、点G及び点Hにより構成される矩形は、例えば車両の下側に該当する。点A、点B、点E及び点Fにより構成される矩形は、例えば車両の上側に該当する。点Iは、車両の下側の矩形における中心点である。速度推定処理部22は、例えば下側の矩形における中心点を追跡対象点として特定し、当該追跡対象点をトラッキングしてもよい。なお、追跡対象点には、フロント側又はリア側等の中心点が用いられてもよいし、三次元バウンディングボックスの中心点が用いられてもよい。
なお、バウンディングボックスが二次元バウンディングである場合、二次元バウンディングボックス(矩形)の中心点が追跡対象点として用いられてもよいし、下側の線分の中点が追跡対象点として用いられてもよい。
図11は、実施形態に係るシステムが行うトラッキング処理の一例について説明するための図である。同図を参照しながら、トラッキング処理の一例について説明する。図11(A)は、第1のフレーム画像から抽出された車両の位置を示す鳥瞰図であり、図11(B)は、第2のフレーム画像から抽出された車両の位置を示す鳥瞰図である。第1のフレーム画像と、第2のフレーム画像とは、連続するフレームであってもよい。フレームレートが10[fps(frames per second)]である場合、図11(A)に示す状況から図11(B)に示す状況までの時間は0.1[秒]である。この場合、例えばフレーム毎の車両の移動量が3[m(メートル)]であるとすると、相対速度は3[m]×36000=108[km/時]となる。
図9に戻り、速度推定処理部22は、速度推定結果をファイルサーバ装置30に出力する(ステップS440)。なお、速度推定結果には、少なくとも相対速度を示す情報が含まれる。その他、速度推定結果には、速度推定処理部22により推定された結果に関する情報(例えば、絶対速度等)が含まれていてもよい。
図12は、実施形態に係る車両速度検出装置の機能構成の一例を示すブロック図である。同図を参照しながら、車両速度検出装置40の機能構成の一例について説明する。車両速度検出装置40は、上述した車両速度検出方法を単独の装置により実現しようとした場合における機能構成を有する。車両速度検出装置40が備える機能構成は、例えば図1に示したように複数の装置間に分配して配置されていてもよい。
車両速度検出装置40は、動画取得部41と、フレーム分割部42と、画像取得部43と、歪み補正部44と、バウンディングボックス検出部45と、追跡対象点検出部46と、検出結果整形部47と、相対速度推定部48と、速度情報取得部49と、絶対速度推定部411とを含んで構成される。これらの各機能部は、例えば、電子回路を用いて実現される。また、各機能部は、必要に応じて、半導体メモリや磁気ハードディスク装置などといった記憶手段を内部に備えてよい。また、各機能部を、コンピュータおよびソフトウェアによって実現するようにしてもよい。
動画取得部41は、ドライブレコーダにより撮像された動画像データを取得する。ドライブレコーダにより撮像された動画像データは、例えば動画情報記憶部51に記憶される。動画情報記憶部51は、ドライブレコーダに備えられていてもよいし、クラウド上に存在する記憶部であってもよい。
フレーム分割部42は、動画取得部41により取得された動画像データをフレーム毎に分割し、フレーム画像とする。フレーム分割部42により分割されたフレーム画像は、一時的に所定の記憶部(不図示)に保存されてもよい。当該記憶部は、車両速度検出装置40に備えられていてもよいし、クラウド上に存在していてもよい。
画像取得部43は、フレーム分割部42により分割されたフレーム画像を取得する。換言すれば、画像取得部43は、複数のフレームを含む動画像データから1フレーム分の画像を取得するということもできる。
歪み補正部44は、画像取得部43により取得されたフレーム画像についての歪み補正を行う。歪み補正処理は、ドライブレコーダにより撮像された動画像データが有する歪みを補正するために行われる。歪み補正処理の具体的な一例としては、Radial distortion modelからPinhole camera modelに変換し、更にPinhole camera modelからFOV distortion modelへ変換することであってもよい。
バウンディングボックス検出部45は、フレーム画像に含まれる相手車両の位置と大きさを特定するバウンディングボックスを検出する。バウンディングボックス検出の対象となるフレーム画像は、画像取得部43により取得された画像である。また、好適には、バウンディングボックス検出の対象となるフレーム画像は、歪み補正部44により歪み補正が行われた画像である。ここで、相手車両には、自動車や自動二輪車又は二輪車等の車両が広く含まれる。以下の説明において、バウンディングボックス検出部45により検出される車両等を第1移動体と記載する場合がある。第1移動体は、車両の一例に限定されず、歩行者や野生動物等が広く含まれていてもよい。また、自車両(ドライブレコーダが設置された車両)を第2移動体と記載する場合がある。第2移動体は、自動車以外であってもよく、自動二輪車又は二輪車等の車両であってもよい。
上述したように、バウンディングボックス検出部45により検出されるバウンディングボックスは、二次元バウンディングボックスであってもよいが、好適には、奥行き方向を有する三次元バウンディングボックス(3Dバウンディングボックス)であってもよい。当該三次元バウンディングボックスは、フレーム画像に含まれる相手車両の位置と大きさとを三次元的に特定する。
また、バウンディングボックス検出部45は、予め学習された機械学習モデルを用いてバウンディングボックスを検出してもよい。当該機械学習モデルは、所定の入力画像と、当該入力画像に対応するバウンディングボックスの位置とが対応付けられた教師データに基づき学習される。機械学習によりバウンディングボックスの検出(特に三次元バウンディングボックスの検出)を行う場合、“Monocular Quasi-Dense 3D Object Tracking(以下、QD―3DTと記載する)”等の公知の技術が用いられてもよい。QD―3DTを用いた機械学習モデルの学習には、公知のデータセットが用いられればよい。なお、バウンディングボックスの検出精度向上のため、公知のデータセットに含まれる画像の内、所定の枚数については、昼夜変換モデルを用いて夜間風の画像に変換して、QD―3DTを学習させてもよい。すなわち、機械学習モデルの学習に用いられる教師データは、昼間に撮像された画像に基づいて昼夜変換モデルを用いた画像処理が行われた結果、夜間に撮像された画像に変換された画像が含まれるということもできる。
なお、バウンディングボックス検出部45により検出されたバウンディングボックスの位置は、図9のステップS420において行われるトラッキング処理が行われた結果、確定する。トラッキング処理は、ユーザによりスタートフレームとエンドフレームが特定された後、トラッキング部(不図示)により行われてもよい。
検出結果整形部47は、バウンディングボックス検出部45により検出されたバウンディングボックスの位置座標を、画像取得部43により取得された画像の座標系における位置座標に変換する。ここで、バウンディングボックス検出部45は、所定の画角(例えば、約67度)により撮像された画像に基づいた学習が行われる。したがって、検出結果整形部47により行われる検出結果整形処理は、バウンディングボックス検出部45の学習時の画角から、実際の映像と同じ画角に補正する処理を行うものである。
追跡対象点検出部46は、バウンディングボックスに基づき、追跡対象点の位置座標を検出する。追跡対象点検出部46により用いられるバウンディングボックスは、バウンディングボックス検出部45により検出されたものであり、好適には、検出結果整形部47により位置座標の変換が行われたものであってもよい。ここで、追跡対象点とは、フレーム毎の車両の位置を特定するために用いられる点である。追跡対象点は、速度の算出に用いられる。追跡対象点は、検出されたバウンディングボックスの位置と大きさに基づく点であり、追跡対象点の位置をどのように特定するかは、予め決められていることが好適である。追跡対象点検出部46は、例えばバウンディングボックスが有する1の頂点又は2つ以上の頂点に基づく点を追跡対象点として検出する。この場合、図10における点C、点D、又は点Cと点Dからなる線分の中点を追跡対象点としてもよい。また、追跡対象点検出部46は、例えばバウンディングボックスが有する2つ以上の頂点の中心点を追跡対象点として検出する。この場合、図10における点C、点D、点G及び点Hを頂点とする矩形の中心点である点Iを追跡対象点としてもよい。換言すれば、追跡対象点検出部46は、検出された三次元バウンディングボックスが有する底面に含まれる点を追跡対象点として検出してもよい。底面に含まれる点とは、例えばタイヤと地面が接する点であってもよい。また、追跡対象点検出部46は、三次元バウンディングボックスである直方体の重心等を追跡対象点として検出してもよい。追跡対象点検出部46は、バウンディングボックス検出部45により検出が行われたバウンディングボックスの位置であって、トラッキング処理が行われたことにより確定したバウンディングボックスの位置に応じて、追跡対象点検出処理を行う。
相対速度推定部48は、複数フレーム分の画像それぞれにおいて検出された追跡対象点の位置座標の変化に基づき、動画像データを撮像する撮像装置(すなわち、ドライブレコーダ)が設置された移動体(すなわち、第2移動体)と、バウンディングボックス検出部45により検出されたバウンディングボックスにより特定される移動体(すなわち、第1移動体)との相対速度を推定する。相対速度推定部48は、具体的には、追跡対象点のフレーム毎の移動距離とフレームレートとに基づく演算を行うことにより相対速度を算出してもよい。
速度情報取得部49は、自車両(すなわち、第2移動体)の走行速度を取得する。第2移動体が車速センサ61を備えている場合、速度情報取得部49は、車速センサ61から走行速度に関する情報が含まれる速度情報を取得する。車速センサ61は、例えばシャフトの回転速度に基づき走行速度を検出してもよく、GPS(Global Positioning System)等の人工衛星から受信された電波に基づいて算出されてもよく、速度情報は、ECU(Engine Control Unit又はElectronic Control Unit)から提供されるものであってもよい。また、第2移動体が車速センサ61を備えていない場合、車速推定部(不図示)を備えることにより、動画像データに基づく画像処理によって車速を推定してもよい。当該画像処理には、例えばオプティカルフロー等の既存技術が用いられてもよい。
絶対速度推定部411は、相対速度推定部48から相対速度に関する情報を取得し、速度情報取得部49から自車両の走行速度を取得する。絶対速度推定部411は、相対速度推定部48により推定された相対速度と、自車両の走行速度とに基づき、バウンディングボックス検出部45により検出されたバウンディングボックスにより特定される移動体(すなわち、第1移動体)の走行速度を推定する。絶対速度推定部411により推定された絶対速度は、相対速度推定部48により推定された相対速度と併せて所定の情報処理装置に出力されてもよい。
次に、図13から図17を参照しながら、本実施形態に係るシステム1が有するユーザーインターフェースにより行われる処理と、当該ユーザーインターフェースが表示する表示画面の一例等について説明する。
図13は、実施形態に係るシステムが有するユーザーインターフェースの処理の一例を示すフローチャートである。同図を参照しながら、ユーザーインターフェースの処理の一連の流れについて説明する。
(ステップS510)まず、ユーザにより基本情報が入力される。ユーザとは、システム1を利用する者であって、ドライブレコーダの保有者や、保険会社のスタッフ等であってもよい。ユーザにより入力される基本情報には、事故発生日時や場所等の情報が含まれる。また、ユーザにより入力される基本情報には、事故状況把握の対象となる動画像データが含まれていてもよい。
(ステップS520)次に、ユーザにより動画像データの確認及び編集が行われる。ユーザは、事故状況把握の対象となる動画像データを確認する。当該動画像データが異なるものであった場合、ユーザは正しいものに差し替える。また、本ステップにおいてユーザは、当該動画像データについての適切な編集作業を行ってもよい。ここで、動画像データの長さに応じては、事故状況には直接的に関係しない動画が含まれている場合がある。したがって、本ステップにおいてユーザは、動画像データを適切な長さに調整する。ユーザは、動画像データを既定の長さに編集することにより、衝突の瞬間を特定する。
(ステップS530及びステップS540)本ステップにおいてユーザは、動画像データのスタート位置と、エンド位置とを指定するスタート位置とは、例えば相手車両が見え始めた位置であってもよく、エンド位置とは、例えば相手車両と接触が起こった直後であってもよい。本ステップでは、スタート地点のフレーム(スタートフレーム)に含まれる1以上のバウンディングボックスのうち、特定のバウンディングボックスを追跡対象として特定し、エンド地点のフレーム(エンドフレーム)に含まれる1以上のバウンディングボックスのうち、特定のバウンディングボックスを追跡対象として特定する。当該特定作業は、ユーザの選択により行われる。
(ステップS550)動画像データのスタート位置とエンド位置とが確定すると、システム1は、AI判定を行う。AI判定には、上述したような車両認識処理や速度推定処理等が含まれる。AI処理には、その他、事故状況の把握に必要な処理が含まれていてもよい。システム1は、図15を参照しながら後述するような表示画面を用いて、AI判定の結果を出力することにより、ユーザに情報を伝達する。
(ステップS560)ユーザは、ステップS550により出力された結果を確認し、事故状況の確認を行う。また、ユーザは、事故当時の詳細な状況についての入力を行う。
(ステップS570)最後に、システム1は、推定結果を出力する。当該推定結果には、自車両と相手車両との相対速度が含まれていてもよいし、相手車両の絶対速度が含まれていてもよい。推定結果の出力には、所定のフォーマットの帳票が用いられてもよい。当該帳票の一例については、図16及び図17を参照しながら後述する。
図14は、実施形態に係るシステムが有するユーザーインターフェースが表示する表示画面の一例を示す第1の図である。同図を参照しながら、ユーザーインターフェースが表示する表示画面の一例である表示画面D100について説明する。表示画面D100は、上述したステップS530のスタート指定や、ステップS540のエンド指定において表示される画面の一例である。図示する一例では、エンド指定において表示される表示画面の構成要素について示すが、スタート指定において表示される表示画面についても同様の構成要素を有していてもよい。表示画面D100は、符号D111と、符号D113と、符号D121と、符号D123と、符号D131と、符号D133と、符号D141と、符号D143と、符号D145と、符号D147と、符号D151と、符号D153と、符号D161と、符号D163とを画面の構成要素として備える。
符号D111は、事故番号を示すものである。事故番号は、事故案件毎に付与される番号であり、事故案件を一意に特定するものである。図示する一例では、事故番号は、“jikobango”である。
符号D113は、ユーザーインターフェースが行う処理の全ステップを示すものである。当該ステップは、図13を参照しながら説明した一連の処理に相当する。符号D113は、現在の表示画面がどのステップを表示しているかを示すものであってもよい。具体的には、現在のステップを示す要素の表示色を、他のステップを示す要素の表示色と異ならせることにより、現在の表示画面がどのステップを表示しているかを示してもよい。図示する一例では、“エンド指定”の要素の表示色が、他のステップを示す要素の表示色と異なるため、“エンド指定”についての処理を行っていることが示されている。
符号D121には、動画像データが示されている。符号D121には、動画像データの上に重ねて、補助線が設けられていてもよい。当該補助線は、相手車両の位置の特定を補助するためのものであり、ユーザは、補助線を操作(又は補助線により特定される枠を操作)することができるものである。
符号D123には、動画像データに基づく鳥瞰図が示されている。当該鳥瞰図は、システム1によるAI処理の結果として得られるものである。当該鳥瞰図には、相手車両の位置と、相手車両の向く方向とが示されている。
符号D131には動画像データのファイル名が示されている。符号D133は、動画像データの全体の長さと、全体のうちどの時点の映像が符号D121に表示されているかが示されている。図示する一例では、動画像データの全体の長さは5.00[秒]であり、2.3[秒]の時点における映像が符号D121に表示されていることを示している。
符号D141から符号D147は、符号D121に表示する時点のフレームを選択するためのボタンである。当該ボタンを操作することにより1コマ単位又は10コマ単位で表示するフレームを移動させることができる。コマとは、すなわちフレームのことである。具体的には、フレームレートが10[fps]である場合、1コマは0.1[秒]である。したがってユーザは、当該ボタンを操作することにより0.1[秒]単位又は1.0[秒]単位で表示するフレームを移動させることができる。符号D141は、10コマ戻すためのボタンであり、符号D143は1コマ戻すためのボタンであり、符号D145は1コマ送るためのボタンであり、符号D147は10コマ送るためのボタンである。
符号D151と、符号D153とは、動画像データの再生と一時停止を行うボタンである。符号D151は再生を行うためのボタンであり、符号D153は一時停止を行うためのボタンである。再生ボタンが押下されると、符号D121には、0.1[秒]単位でフレーム画像が切り替わることにより、動画像データが再生される。
符号D161と、符号D163とは、符号D113に示したステップの移動を行うためのボタンである。符号D161はステップを戻すためのボタンであり、符号D163はステップを進めるためのボタンである。符号D113によれば現在のステップは“エンド指定”であるため、符号D161の押下により戻る先のステップは“スタート指定”であり、符号D163の押下により進先のステップは“AI判定結果”(すなわち、事故状況の推定の開始)である。
図15は、実施形態に係るシステムが有するユーザーインターフェースが表示する表示画面の一例を示す第2の図である。同図を参照しながら、ユーザーインターフェースが表示する表示画面の一例である表示画面D200について説明する。表示画面D200は、上述したステップS550のAI判定結果出力時において表示される画面の一例である。表示画面D200は、符号D111と、符号D113と、符号D220と、符号D231と、符号D233と、符号D241と、符号D251と、符号D265と、符号D267とを画面の構成要素として備える。表示画面D200の説明において、表示画面D100と同一の構成要素については同様の符号を付すことにより説明を省略する。
符号D220は、AIによる要素抽出結果を示す表示部である。当該表示部は、構成要素として符号D221乃至符号D226を備える。符号D221は、交差点の形態を示す。図示する一例では、交差点の形態は“十字路”である。符号D222は、自車進行方向を示す。図示する一例では、自車進行方向は“直進”である。符号D223は、相手車初期位置を示す。図示する一例では、相手車初期位置は“左方”である。符号D224は、相手車進行方向を示す。図示する一例では、相手車進行方向は“直進”である。符号D225は、対面信号機の有無を示す。図示する一例では、対面信号機の有無は“信号あり”である。符号D226は、対面信号機の色を示す。図示する一例では、対面信号機の色は“青”である。符号D221乃至符号D226により示される情報は、AIサーバ装置20(又は車両速度検出装置40)により、自動的に判定されてもよい。当該判定には、公知の機械学習による物体検知技術や、公知のパターンマッチング技術が用いられてもよい。また、他の実施例として、符号D221乃至符号D226のいずれかは、ユーザにより更新又は新たに入力されてもよい。
符号D231は、ステップS530において指定したスタート地点における動画像データのフレーム画像と、自車両の速度と、相手車両の速度とが示される。図示する一例において、自車両の速度は“37.1[km/h]”であり、相手車両の速度は“50.4[km/h]”である。
符号D233は、ステップS540において指定したエンド地点における動画像データのフレーム画像と、自車両の速度と、相手車両の速度とが示される。図示する一例において、自車両の速度は“32.6[km/h]”であり、相手車両の速度は“20.9[km/h]”である。
符号D241は、事故状況図を示す。当該事故状況図は、符号D220に示したAIによる要素抽出結果に基づいて描画されるものである。図示する一例では、十字路である交差点において、自車両が直進し、相手車両が交差点の左方向から進入している。交差点には信号機が設置され、青であることが示されている。
符号D251は、“事故形態”や、“基本割合”等について記載される表示部である。図示する一例では、“事故形態”として、“信号のある交差点における直進車同士の出会い頭事故”であることが示されている。また、“基本割合” として、“[自車]0:[相手車]100”であることが示されている。
符号D265は、事故動画ダウンロードボタンである。ユーザは、事故動画ダウンロードボタンである符号D265を押下することにより、分析に用いた動画像データをダウンロードすることができる。
符号D267は、スタート指定からエンド指定までの静止画ダウンロードボタン(以下、単に静止画ダウンロードボタンと記載する。)である。ユーザは、静止画ダウンロードボタンである符号D267を押下することにより、スタート地点からエンド地点までの各フレーム画像をダウンロードすることができる。また、ユーザは、所定のチェックボックスにチェックを入れた上で当該ボタンを押下することにより、全てのフレーム画像をダウンロード可能なよう構成されていてもよい。
図16は、実施形態に係るシステムにより出力された帳票の一例を示す図である。図16を参照しながら、システム1により出力される帳票の一例である帳票D300について説明する。帳票D300は、欄属した1つの帳票であってもよく、別個独立した2つの帳票であってもよい。帳票D300は、上述したステップS570の推定結果出力時において表示される画面の一例である。
帳票D300には、“お客様の車両速度解析結果”が示される。帳票D300は、構成要素として符号D310と、符号D320とを含む。
符号D310には、シーン別ドライブレコーダ画像と、当該画像に対応する自車速度とが表示される。図示する一例では、“動画の最初のシーン(衝突10秒前)”、“衝突シーン”及び“動画の最後のシーン(衝突5秒前)”の3つのシーンにおける状況が表示されている。また、“動画の最初のシーン(衝突10秒前)”における速度は“50[km/h]”であり、“衝突シーン”における速度は“40[km/h]”であり、“動画の最後のシーン(衝突5秒前)”における速度は“10[km/h]”である。
符号D320には、速度推移グラフが表示される。速度推移グラフグラフには、縦軸を速度、横軸を時間として、自車両及び相手車両の時間ごとの速度変化が示されている。当該速度変化は、フレーム毎に算出された速度情報を繋ぎ合わせたものである。
[実施形態のまとめ]
以上説明した実施形態によれば、車両速度検出装置40は、画像取得部43を備えることにより複数のフレームを含む動画像データから1フレーム分の画像を取得し、バウンディングボックス検出部45を備えることにより取得した画像に含まれる移動体である第1移動体(例えば、相手車両)の位置と大きさを特定するバウンディングボックスを検出し、追跡対象点検出部46を備えることにより検出されたバウンディングボックスの位置と大きさに基づく点である追跡対象点の位置座標を検出し、相対速度推定部48を備えることにより複数フレーム分の画像それぞれにおいて検出された追跡対象点の位置座標の変化に基づき動画像データを撮像する撮像装置が設置された移動体である第2移動体(例えば、自車両)と第1移動体との相対速度を推定する。すなわち、車両速度検出装置40によれば、相手車両を囲うバウンディングボックスをまず検出し、バウンディングボックスの位置の変化に基づき速度を検出する。本実施形態によれば、バウンディングボックスに基づき移動体の位置を特定するため、位置特定の精度を向上させることができる。よって、本実施形態によれば、速度の算出精度を向上させることができる。
また、上述した車両速度検出装置40によれば、追跡対象点検出部46は、バウンディングボックスが有する2つ以上の頂点に基づく点を追跡対象点として検出する。ここで、従来技術によれば、タイヤと路面との接地点を特定していたため、フレーム毎に検出位置が異なってしまっていた。本実施形態によれば、バウンディングボックスが有する2つ以上の頂点に基づく点を追跡対象点として検出するため、位置特定の精度を向上させることができる。よって、本実施形態によれば、速度の算出精度を向上させることができる。
また、上述した車両速度検出装置40によれば、追跡対象点検出部46は、バウンディングボックスが有する2つ以上の頂点の中心点を追跡対象点として検出する。したがって、一方の頂点の位置がずれた場合であっても、追跡対象点のずれを抑えることができる。すなわち、本実施形態によれば、位置特定の精度を向上させることができる。よって、本実施形態によれば、速度の算出精度を向上させることができる。
また、上述した車両速度検出装置40によれば、バウンディングボックスは、奥行き方向を有する三次元バウンディングボックス(3Dバウンディングボックス)である。したがって、本実施形態によれば、移動体の位置を正確に特定することができる。したがって、実施形態によれば、位置特定の精度を向上させることができる。よって、本実施形態によれば、速度の算出精度を向上させることができる。
また、上述した車両速度検出装置40によれば、追跡対象点検出部46は、検出された三次元バウンディングボックスが有する底面に含まれる点を追跡対象点として検出する。すなわち、追跡対象点検出部46は、底面を構成する4点に基づいて移動体の位置を特定する。したがって、実施形態によれば、2点に基づいて位置を特定する場合と比較して、更に位置特定の精度を向上させることができる。よって、本実施形態によれば、速度の算出精度を向上させることができる。
また、上述した車両速度検出装置40によれば、速度情報取得部49を備えることにより第2移動体(例えば、自車両)の走行速度を取得し、絶対速度推定部411を備えることにより、推定された相対速度と第2移動体の走行速度とに基づき、第1移動体(例えば、相手車両)の走行速度(絶対速度)を推定する。したがって、本実施形態によれば、事故状況の把握を容易にすることができる。また、本実施形態によれば、精度よく第1移動体(例えば、相手車両)の走行速度(絶対速度)を推定することができる。
また、上述した車両速度検出装置40によれば、歪み補正部44を更に備えることにより、画像取得部43により取得された画像の歪み補正を行う。また、バウンディングボックス検出部45は、歪み補正部44により歪み補正が行われた画像に基づき、バウンディングボックスを検出する。したがって、本実施形態によれば、歪みが補正された画像において精度よくバウンディングボックスを検出することができる。したがって、本実施形態によれば、位置特定の精度を向上させることができる。よって、本実施形態によれば、速度の算出精度を向上させることができる。
また、上述した車両速度検出装置40によれば、検出結果整形部47を備えることにより、検出されたバウンディングボックスの位置座標を、画像取得部43により取得された画像の座標系における位置座標に変換する。したがって、本実施形態によれば、歪みが補正された座標系においてバウンディングボックスが検出された後、カメラ座標系におけるバウンディングボックスの位置を特定することができる。
また、上述した車両速度検出装置40によれば、バウンディングボックス検出部45は、所定の入力画像と、当該入力画像に対応するバウンディングボックスの位置とが対応付けられた教師データに基づき学習された機械学習モデルを用いてバウンディングボックスを検出する。すなわちバウンディングボックス検出部45は機械学習によりバウンディングボックスの位置を検出する。したがって、本実施形態によれば、精度よくかつ容易にバウンディングボックスの位置を検出することができる。
また、上述した車両速度検出装置40によれば、機械学習モデルの学習に用いられる教師データは、昼間に撮像された画像に基づいて昼夜変換モデルを用いた画像処理が行われた結果、夜間に撮像された画像に変換された画像が含まれる。すなわちバウンディングボックス検出部45が用いる機械学習モデルは、夜間の画像に基づき学習される。したがって、バウンディングボックス検出部45は、夜間の画像であってもバウンディングボックスの位置を検出することができる。したがって、本実施形態によれば、夜間の画像にも対応することができるため、夜間の事故であっても精度よく事故状況を把握することができる。
なお、上述した実施形態におけるシステム1が備える各部の機能全体あるいはその一部は、これらの機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することによって実現しても良い。なお、ここでいう「コンピュータシステム」とは、OSや周辺機器等のハードウェアを含むものとする。
また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD-ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶部のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムを送信する場合の通信線のように、短時間の間、動的にプログラムを保持するもの、その場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリのように、一定時間プログラムを保持しているものも含んでも良い。また上記プログラムは、前述した機能の一部を実現するためのものであっても良く、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであっても良い。
1…システム、10…UIサーバ装置、11…フレーム分割部、12…要求部、20…AIサーバ装置、21…車両認識処理部、22…速度推定処理部、30…ファイルサーバ装置、31…フレーム画像、32…車両認識結果、33…速度推定結果、40…車両速度検出装置、41…動画取得部、42…フレーム分割部、43…画像取得部、44…歪み補正部、45…バウンディングボックス検出部、46…追跡対象点検出部、47…検出結果整形部、48…相対速度推定部、49…速度情報取得部、411…絶対速度推定部、51…動画情報記憶部、61…車速センサ
[1]上記の課題を解決するため、本発明の一態様は、複数のフレームを含む動画像データから1フレーム分の画像を取得する画像取得部と、取得した画像に含まれる移動体である第1移動体の位置と大きさを特定するバウンディングボックスを検出するバウンディングボックス検出部と、検出されたバウンディングボックスの位置と大きさに基づく点である追跡対象点の位置座標を検出する追跡対象点検出部と、複数フレーム分の画像それぞれにおいて検出された前記追跡対象点の位置座標の変化に基づき、前記動画像データを撮像する撮像装置が設置された移動体である第2移動体と前記第1移動体との相対速度を推定する相対速度推定部とを備え、前記相対速度推定部は、1フレーム分の画像ごとに前記第2移動体と前記第1移動体との相対位置を示す情報を出力し、出力された相対位置の変化に基づいて前記相対速度を推定する車両速度検出装置である。
[11]また、本発明の一態様は、複数のフレームを含む動画像データから1フレーム分の画像を取得する画像取得工程と、取得した画像に含まれる移動体である第1移動体の位置と大きさを特定するバウンディングボックスを検出するバウンディングボックス検出工程と、検出されたバウンディングボックスの位置と大きさに基づく点である追跡対象点の位置座標を検出する追跡対象点検出工程と、複数フレーム分の画像それぞれにおいて検出された前記追跡対象点の位置座標の変化に基づき、前記動画像データを撮像する撮像装置が設置された移動体である第2移動体と前記第1移動体との相対速度を推定する相対速度推定工程とを有し、前記相対速度推定工程は、1フレーム分の画像ごとに前記第2移動体と前記第1移動体との相対位置を示す情報を出力し、出力された相対位置の変化に基づいて前記相対速度を推定する車両速度検出方法である。
[12]また、本発明の一態様は、コンピュータに、複数のフレームを含む動画像データから1フレーム分の画像を取得する画像取得ステップと、取得した画像に含まれる移動体である第1移動体の位置と大きさを特定するバウンディングボックスを検出するバウンディングボックス検出ステップと、検出されたバウンディングボックスの位置と大きさに基づく点である追跡対象点の位置座標を検出する追跡対象点検出ステップと、複数フレーム分の画像それぞれにおいて検出された前記追跡対象点の位置座標の変化に基づき、前記動画像データを撮像する撮像装置が設置された移動体である第2移動体と前記第1移動体との相対速度を推定する相対速度推定ステップとを実行させ、前記相対速度推定ステップは、1フレーム分の画像ごとに前記第2移動体と前記第1移動体との相対位置を示す情報を出力し、出力された相対位置の変化に基づいて前記相対速度を推定するプログラムである。

Claims (12)

  1. 複数のフレームを含む動画像データから1フレーム分の画像を取得する画像取得部と、
    取得した画像に含まれる移動体である第1移動体の位置と大きさを特定するバウンディングボックスを検出するバウンディングボックス検出部と、
    検出されたバウンディングボックスの位置と大きさに基づく点である追跡対象点の位置座標を検出する追跡対象点検出部と、
    複数フレーム分の画像それぞれにおいて検出された前記追跡対象点の位置座標の変化に基づき、前記動画像データを撮像する撮像装置が設置された移動体である第2移動体と前記第1移動体との相対速度を推定する相対速度推定部と
    を備える車両速度検出装置。
  2. 前記追跡対象点検出部は、前記バウンディングボックスが有する1つ以上の頂点に基づく点を前記追跡対象点として検出する
    請求項1に記載の車両速度検出装置。
  3. 前記追跡対象点検出部は、前記バウンディングボックスが有する1つの頂点、又は2つ以上の頂点の中心点を前記追跡対象点として検出する
    請求項2に記載の車両速度検出装置。
  4. 前記バウンディングボックスは、奥行き方向を有する三次元バウンディングボックスである
    請求項1又は請求項2に記載の車両速度検出装置。
  5. 前記追跡対象点検出部は、検出された前記三次元バウンディングボックスが有する底面に含まれる点を前記追跡対象点として検出する
    請求項4に記載の車両速度検出装置。
  6. 前記第2移動体の走行速度を取得する速度情報取得部と、
    推定された前記相対速度と、前記第2移動体の走行速度とに基づき、前記第1移動体の走行速度を推定する絶対速度推定部とを更に備える
    請求項1又は請求項2に記載の車両速度検出装置。
  7. 前記画像取得部により取得された画像の歪み補正を行う歪み補正部を更に備え、
    前記バウンディングボックス検出部は、前記歪み補正部により歪み補正が行われた画像に基づき、前記バウンディングボックスを検出する
    請求項1又は請求項2に記載の車両速度検出装置。
  8. 検出された前記バウンディングボックスの位置座標を、前記画像取得部により取得された画像の座標系における位置座標に変換する検出結果整形部を更に備える
    請求項7に記載の車両速度検出装置。
  9. 前記バウンディングボックス検出部は、所定の入力画像と、当該入力画像に対応するバウンディングボックスの位置とが対応付けられた教師データに基づき学習された機械学習モデルを用いて前記バウンディングボックスを検出する
    請求項1又は請求項2に記載の車両速度検出装置。
  10. 前記機械学習モデルの学習に用いられる教師データは、昼間に撮像された画像に基づいて昼夜変換モデルを用いた画像処理が行われた結果、夜間に撮像された画像に変換された画像が含まれる
    請求項9に記載の車両速度検出装置。
  11. 複数のフレームを含む動画像データから1フレーム分の画像を取得する画像取得工程と、
    取得した画像に含まれる移動体である第1移動体の位置と大きさを特定するバウンディングボックスを検出するバウンディングボックス検出工程と、
    検出されたバウンディングボックスの位置と大きさに基づく点である追跡対象点の位置座標を検出する追跡対象点検出工程と、
    複数フレーム分の画像それぞれにおいて検出された前記追跡対象点の位置座標の変化に基づき、前記動画像データを撮像する撮像装置が設置された移動体である第2移動体と前記第1移動体との相対速度を推定する相対速度推定工程と
    を有する車両速度検出方法。
  12. コンピュータに、
    複数のフレームを含む動画像データから1フレーム分の画像を取得する画像取得ステップと、
    取得した画像に含まれる移動体である第1移動体の位置と大きさを特定するバウンディングボックスを検出するバウンディングボックス検出ステップと、
    検出されたバウンディングボックスの位置と大きさに基づく点である追跡対象点の位置座標を検出する追跡対象点検出ステップと、
    複数フレーム分の画像それぞれにおいて検出された前記追跡対象点の位置座標の変化に基づき、前記動画像データを撮像する撮像装置が設置された移動体である第2移動体と前記第1移動体との相対速度を推定する相対速度推定ステップと
    を実行させるプログラム。
JP2022192834A 2022-12-01 2022-12-01 車両速度検出装置、車両速度検出方法及びプログラム Active JP7411771B1 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2022192834A JP7411771B1 (ja) 2022-12-01 2022-12-01 車両速度検出装置、車両速度検出方法及びプログラム
PCT/JP2023/033243 WO2024116543A1 (ja) 2022-12-01 2023-09-12 車両速度検出装置、車両速度検出方法及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2022192834A JP7411771B1 (ja) 2022-12-01 2022-12-01 車両速度検出装置、車両速度検出方法及びプログラム

Publications (2)

Publication Number Publication Date
JP7411771B1 JP7411771B1 (ja) 2024-01-11
JP2024080021A true JP2024080021A (ja) 2024-06-13

Family

ID=89451824

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022192834A Active JP7411771B1 (ja) 2022-12-01 2022-12-01 車両速度検出装置、車両速度検出方法及びプログラム

Country Status (2)

Country Link
JP (1) JP7411771B1 (ja)
WO (1) WO2024116543A1 (ja)

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3758970B2 (ja) 2000-11-24 2006-03-22 アイシン精機株式会社 車両の衝突予防装置
JP2003149256A (ja) 2001-11-14 2003-05-21 Mitsubishi Electric Corp 車両速度測定装置
JP3979931B2 (ja) 2002-11-27 2007-09-19 トヨタ自動車株式会社 物標速度算出装置及びこれを使用する車両制御装置
CN110163904B (zh) * 2018-09-11 2022-04-22 腾讯大地通途(北京)科技有限公司 对象标注方法、移动控制方法、装置、设备及存储介质
JP7445441B2 (ja) 2020-01-28 2024-03-07 アマノ株式会社 駐車場管制システム、駐車場管制方法、及びプログラム
CN111753797B (zh) 2020-07-02 2022-02-22 浙江工业大学 一种基于视频分析的车辆测速方法
CN112861700B (zh) 2021-02-03 2023-11-03 西安仁义智机电科技有限公司 基于DeepLabv3+的车道线网络识别模型建立及车辆速度检测方法

Also Published As

Publication number Publication date
WO2024116543A1 (ja) 2024-06-06
JP7411771B1 (ja) 2024-01-11

Similar Documents

Publication Publication Date Title
JP7461720B2 (ja) 車両位置決定方法及び車両位置決定装置
US20190251374A1 (en) Travel assistance device and computer program
JP5926228B2 (ja) 自律車両用の奥行き検知方法及びシステム
WO2017069191A1 (ja) キャリブレーション装置、キャリブレーション方法、及び、キャリブレーションプログラム
JP4940168B2 (ja) 駐車スペース認識装置
JP5663352B2 (ja) 画像処理装置、画像処理方法、及び画像処理プログラム
CN107273788B (zh) 在车辆中执行车道检测的成像系统与车辆成像系统
KR20120072020A (ko) 자율주행 시스템의 주행정보 인식 방법 및 장치
JP2000020728A (ja) 画像処理装置及び方法
JP2019125116A (ja) 情報処理装置、情報処理方法、およびプログラム
JP4797877B2 (ja) 車両用映像表示装置及び車両周囲映像の表示方法
EP3859390A1 (en) Method and system for rendering a representation of an evinronment of a vehicle
CN111819571A (zh) 具有经调整适配的投影面的全景环视系统
WO2018134897A1 (ja) 位置姿勢検出装置、ar表示装置、位置姿勢検出方法およびar表示方法
WO2020004231A1 (ja) レーン推定装置、方法およびプログラム
EP4213128A1 (en) Obstacle detection device, obstacle detection system, and obstacle detection method
JP2006318062A (ja) 画像処理装置、画像処理方法、および画像処理用プログラム
JP2019533875A (ja) 道路の合成トップビュー画像を生成するための方法およびシステム
JP2022045947A5 (ja)
JP2020068499A (ja) 車両周囲画像表示システム及び車両周囲画像表示方法
JP4752319B2 (ja) 画像認識装置及び画像認識方法
JP7337617B2 (ja) 推定装置、推定方法及びプログラム
WO2024116543A1 (ja) 車両速度検出装置、車両速度検出方法及びプログラム
JP2021033494A (ja) アノテーション支援方法、アノテーション支援装置、及びアノテーション支援プログラム
JP2009077022A (ja) 運転支援システム及び車両

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20221201

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230905

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231020

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20231212

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231225

R150 Certificate of patent or registration of utility model

Ref document number: 7411771

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150