JP2022032520A - 管理システム、管理方法、管理装置、プログラム及び通信端末 - Google Patents

管理システム、管理方法、管理装置、プログラム及び通信端末 Download PDF

Info

Publication number
JP2022032520A
JP2022032520A JP2020136380A JP2020136380A JP2022032520A JP 2022032520 A JP2022032520 A JP 2022032520A JP 2020136380 A JP2020136380 A JP 2020136380A JP 2020136380 A JP2020136380 A JP 2020136380A JP 2022032520 A JP2022032520 A JP 2022032520A
Authority
JP
Japan
Prior art keywords
vehicle
moving image
driver
information
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2020136380A
Other languages
English (en)
Other versions
JP7186749B2 (ja
Inventor
陽介 須田
Yosuke Suda
友佳子 中村
Yukako Nakamura
洸 牧志
Ko Makishi
和彦 佐山
Kazuhiko Sayama
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
SoftBank Corp
Original Assignee
SoftBank Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by SoftBank Corp filed Critical SoftBank Corp
Priority to JP2020136380A priority Critical patent/JP7186749B2/ja
Publication of JP2022032520A publication Critical patent/JP2022032520A/ja
Application granted granted Critical
Publication of JP7186749B2 publication Critical patent/JP7186749B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Time Recorders, Dirve Recorders, Access Control (AREA)
  • Traffic Control Systems (AREA)

Abstract

【課題】車両の管理者が危険運転を適切に確認する。【解決手段】管理装置は、ナンバープレートに関する情報と、ナンバープレートを備える車両までの車間距離との関係をあらかじめ学習した学習済みモデルを記憶する記憶部と、車両に設けられた撮像装置が車両とは異なる他の車両を撮像して生成した第1の動画像を取得する動画像取得部と、第1の動画像に基づいて生成される、他の車両のナンバープレートに関する情報を取得する情報取得部と、取得した他の車両のナンバープレートに関する情報を学習済みモデルに入力することにより、車両と他の車両との車間距離を推定する推定部と、推定した車間距離に基づいて他の車両の危険度を算出する算出部と、危険度に基づいて第1の動画像の一部を抽出することにより第2の動画像を生成する第2生成部と、第2の動画像を送信する第2送信部と、を有する。【選択図】図1

Description

本発明は、管理システム、管理方法、管理装置、プログラム及び通信端末に関する。
近年、自動車の運転に関して、車間距離を急激に狭めて運転する等のあおり運転や、携帯電話の画面を注視しながら運転する等のながら運転に代表される危険運転が問題となっている。このような危険運転への対策として、ドライブレコーダ等の撮像装置を車両に設け、車両の周辺及び車内を撮像することがなされている。また、撮像により生成された画像を送信することにより、車両の管理者が車両の周辺及び車内の様子を確認することを可能とする技術が検討されている。例えば、特許文献1には、事故又は犯罪等のイベントが発生した場合に、イベント発生時の画像データをあらかじめ設定された送信先に送信するドライブレコーダが記載されている。
特開2009-93255号公報
特許文献1に記載のドライブレコーダは、事故が発生した後に管理者が車両の周辺及び車内の様子を確認することを可能とするものである。他方、事故を未然に防止するために、事故に至らない危険運転を管理者が確認できるようにすることが求められていた。
本発明は上述の課題を解決するためになされたものであり、車両の管理者が危険運転を適切に確認することを可能とする管理システム、管理方法、管理装置、プログラム及び通信端末を提供することを目的とする。
本発明に係る管理システムは、車両に設けられる撮像装置と、管理装置と、を有する管理システムであって、撮像装置は、車両とは異なる他の車両を撮像して第1の動画像を生成する第1生成部と、第1の動画像を管理装置に送信する第1送信部と、を有し、管理装置は、ナンバープレートに関する情報と、ナンバープレートを備える車両までの車間距離との関係をあらかじめ学習した学習済みモデルを記憶する記憶部と、第1の動画像を取得する動画像取得部と、第1の動画像に基づいて生成される、他の車両のナンバープレートに関する情報を取得する情報取得部と、取得した他の車両のナンバープレートに関する情報を学習済みモデルに入力することにより、車両と他の車両との車間距離を推定する推定部と、推定した車間距離に基づいて他の車両の危険度を算出する算出部と、危険度に基づいて第1の動画像の一部を抽出することにより第2の動画像を生成する第2生成部と、第2の動画像を送信する第2送信部と、を有する、ことを特徴とする。
本発明に係る管理システムは、車両に設けられる撮像装置と、管理装置と、を有する管理システムであって、撮像装置は、車両の運転者を撮像して第1の動画像を生成する第1生成部と、第1の動画像を管理装置に送信する第1送信部と、を有し、管理装置は、車両の運転者の姿勢に関する情報及び運転者が把持する対象物に関する情報と、運転者が対象物を注視しているか否かを示す情報との関係をあらかじめ学習した学習済みモデルを記憶する記憶部と、第1の動画像を取得する動画像取得部と、第1の動画像に基づいて生成される、車両の運転者の姿勢に関する情報及び運転者が把持する対象物に関する情報を取得する情報取得部と、取得した運転者の姿勢に関する情報及び運転者が把持する対象物に関する情報を学習済みモデルに入力することにより、車両の運転者が対象物を注視しているか否かを推定する推定部と、推定の結果に基づいて車両の運転者の危険度を算出する算出部と、危険度に基づいて第1の動画像の一部を抽出することにより第2の動画像を生成する第2生成部と、第2の動画像を送信する第2送信部と、を有する、ことを特徴とする。
また、本発明に係る管理システムにおいて、算出部は、あらかじめ設定されたルールに基づいて危険度を算出する、ことが好ましい。
また、本発明に係る管理システムにおいて、算出部は、危険度を、第1の動画像の再生時刻と関連付けられた時系列データとして算出し、第2生成部は、危険度が所定の条件を満たした時点から所定時間の範囲が含まれるように第1の動画像の一部を抽出する、ことが好ましい。
また、本発明に係る管理システムにおいて、算出部は、危険度を、第1の動画像の再生時刻と関連付けられた時系列データとして算出し、第2生成部は、危険度が所定の条件を満たしている時間が含まれるように第1の動画像の一部を抽出する、ことが好ましい。
本発明に係る管理方法は、車両に設けられる撮像装置と、管理装置と、を有するシステムによって実行される管理方法であって、撮像装置が、車両とは異なる他の車両を撮像して第1の動画像を生成し、第1の動画像を管理装置に送信し、管理装置が、ナンバープレートに関する情報と、ナンバープレートを備える車両までの車間距離との関係をあらかじめ学習した学習済みモデルを記憶し、第1の動画像を取得し、他の車両のナンバープレートに関する情報を取得し、取得した他の車両のナンバープレートに関する情報を学習済みモデルに入力することにより、車両と他の車両との車間距離を推定し、推定した車間距離に基づいて他の車両の危険度を算出し、運転危険度に基づいて第1の動画像の一部を抽出することにより第2の動画像を生成し、第2の動画像を送信する、ことを含むことを特徴とする。
本発明に係る管理方法は、車両に設けられる撮像装置と、管理装置と、を有するシステムによって実行される管理方法であって、撮像装置が、車両の運転者を撮像して第1の動画像を生成し、第1の動画像を管理装置に送信し、管理装置が、車両の運転者の姿勢に関する情報及び運転者が把持する対象物に関する情報と、運転者が対象物を注視しているか否かを示す情報との関係をあらかじめ学習した学習済みモデルを記憶し、第1の動画像を取得し、第1の動画像に基づいて生成される、運転者の姿勢に関する情報及び運転者が把持する対象物に関する情報を取得し、取得した運転者の姿勢に関する情報及び運転者が把持する対象物に関する情報を学習済みモデルに入力することにより、運転者が対象物を注視しているか否かを推定し、推定の結果に基づいて車両の運転者の危険度を算出し、危険度に基づいて第1の動画像の一部を抽出することにより第2の動画像を生成し、第2の動画像を送信する、ことを含むことを特徴とする。
本発明に係る管理装置は、ナンバープレートに関する情報と、ナンバープレートを備える車両までの車間距離との関係をあらかじめ学習した学習済みモデルを記憶する記憶部と、車両に設けられた撮像装置が車両とは異なる他の車両を撮像して生成した第1の動画像を取得する動画像取得部と、第1の動画像に基づいて生成される、他の車両のナンバープレートに関する情報を取得する情報取得部と、取得した他の車両のナンバープレートに関する情報を学習済みモデルに入力することにより、車両と他の車両との車間距離を推定する推定部と、推定した車間距離に基づいて他の車両の危険度を算出する算出部と、危険度に基づいて第1の動画像の一部を抽出することにより第2の動画像を生成する第2生成部と、第2の動画像を送信する第2送信部と、を有することを特徴とする。
本発明に係る管理装置は、車両の運転者の姿勢に関する情報及び運転者が把持する対象物に関する情報と、運転者が対象物を注視しているか否かを示す情報との関係をあらかじめ学習した学習済みモデルを記憶する記憶部と、車両に設けられた撮像装置が車両の運転者を撮像して生成した第1の動画像を取得する動画像取得部と、第1の動画像に基づいて生成される、車両の運転者の姿勢に関する情報及び運転者が把持する対象物に関する情報を取得する情報取得部と、取得した運転者の姿勢に関する情報及び運転者が把持する対象物に関する情報を学習済みモデルに入力することにより、車両の運転者が対象物を注視しているか否かを推定する推定部と、推定の結果に基づいて車両の運転者の危険度を算出する算出部と、危険度に基づいて第1の動画像の一部を抽出することにより第2の動画像を生成する第2生成部と、第2の動画像を送信する第2送信部と、を有することを特徴とする。
本発明に係るプログラムは、ナンバープレートに関する情報と、前記ナンバープレートを備える車両までの車間距離との関係をあらかじめ学習した学習済みモデルを記憶する記憶部を有するコンピュータのプログラムであって、車両に設けられた撮像装置が車両とは異なる他の車両を撮像して生成した第1の動画像を取得し、第1の動画像に基づいて生成される、他の車両のナンバープレートに関する情報を取得し、取得した他の車両のナンバープレートに関する情報を学習済みモデルに入力することにより、車両と他の車両との車間距離を推定し、推定した車間距離に基づいて他の車両の危険度を算出し、運転危険度に基づいて第1の動画像の一部を抽出することにより第2の動画像を生成し、第2の動画像を送信する、ことをコンピュータに実行させることを特徴とする。
本発明に係るプログラムは、車両の運転者の姿勢に関する情報及び運転者が把持する対象物に関する情報と、運転者が対象物を注視しているか否かを示す情報との関係をあらかじめ学習した学習済みモデルを記憶する記憶部を有するコンピュータのプログラムであって、車両に設けられた撮像装置が車両の運転者を撮像して生成した第1の動画像を取得し、第1の動画像に基づいて生成される、車両の運転者の姿勢に関する情報及び運転者が把持する対象物に関する情報を取得し、取得した運転者の姿勢に関する情報及び運転者が把持する対象物に関する情報を学習済みモデルに入力することにより、車両の運転者が対象物を注視しているか否かを推定し、推定の結果に基づいて車両の運転者の危険度を算出し、危険度に基づいて第1の動画像の一部を抽出することにより第2の動画像を生成し、第2の動画像を送信する、ことをコンピュータに実行させることを特徴とする。
本発明に係る通信端末は、車両に設けられる撮像装置と、管理装置と、を有するシステムの撮像装置及び管理装置と通信可能に接続された通信端末であって、撮像装置が車両とは異なる他の車両を撮像して生成した第1の動画像を撮像装置から受信する受信部と、ナンバープレートに関する情報と、ナンバープレートを備える車両までの車間距離との関係をあらかじめ学習した学習済みモデルを記憶し、第1の動画像を受信した場合に、第1の動画像に基づいて生成される、他の車両のナンバープレートに関する情報を学習済みモデルに入力することにより、車両と他の車両との車間距離を推定し、推定した車間距離に基づいて他の車両の危険度を算出し、危険度に基づいて第1の動画像の一部を抽出することにより第2の動画像を生成して送信する管理装置に、第1の動画像を送信する送信部と、を有することを特徴とする。
本発明に係る通信端末は、車両に設けられる撮像装置と、管理装置と、を有するシステムの撮像装置及び管理装置と通信可能に接続された通信端末であって、撮像装置が車両の運転者を撮像して生成した第1の動画像を撮像装置から受信する受信部と、車両の運転者の姿勢に関する情報及び運転者が把持する対象物に関する情報と、運転者が対象物を注視しているか否かを示す情報との関係をあらかじめ学習した学習済みモデルを記憶し、第1の動画像を受信した場合に、第1の動画像に基づいて生成される、車両の運転者の姿勢に関する情報及び運転者が把持する対象物に関する情報を学習済みモデルに入力することにより、車両の運転者が対象物を注視しているか否かを推定し、推定の結果に基づいて車両の運転者の危険度を算出し、危険度に基づいて第1の動画像の一部を抽出することにより第2の動画像を生成して送信する管理装置に、第1の動画像を送信する送信部と、を有することを特徴とする。
本発明に係る管理システム、管理方法、管理装置、プログラム及び通信端末は、車両の管理者が危険運転を適切に確認することを可能とする。
管理システム1の概要を説明するための模式図である。 管理システム1の概略構成の一例を示す図である。 撮像装置2の概略構成の一例を示す図である。 通信端末3の概略構成の一例を示す図である。 管理装置4の概略構成の一例を示す図である。 第1危険度テーブルT1のデータ構造の一例を示す図である。 第2危険度テーブルT2のデータ構造の一例を示す図である。 車外動画像送信処理の流れの一例を示すシーケンス図である。 車外動画像抽出処理の流れの一例を示すフロー図である。 車内動画像送信処理の流れの一例を示すシーケンス図である。 車内動画像抽出処理の流れの一例を示すフロー図である。
以下、図面を参照して本発明の様々な実施形態について説明する。本発明の技術的範囲はこれらの実施形態に限定されず、特許請求の範囲に記載された発明及びその均等物に及ぶ点に留意されたい。
図1は、本発明に係る管理システム1の概要を説明するための模式図である。管理システム1は、撮像装置2、管理装置4及び表示端末5を有する。撮像装置2、管理装置4及び表示端末5は、相互に通信可能に接続される。管理システム1は、例えば、多数の車両を運行させて旅客や貨物を運送する運送業者等が車両を管理するために用いられる。
撮像装置2は、撮像機能及び通信機能を有する装置であり、例えば、ドライブレコーダである。撮像装置2は、車両11の前方を撮像可能となるように、車両11のフロントガラス付近の上方等に設けられる。撮像装置2は、車両11の前方を走行する他の車両を撮像し、第1の動画像12を生成する。撮像装置2は、第1の動画像12を管理装置4に送信する。
管理装置4は、サーバ又はPC(Personal Computer)等の情報処理装置である。管理装置4は、撮像装置2から第1の動画像12を取得する。管理装置4は、第1の動画像12に基づいて車両11と他の車両との車間距離を推定し、推定した車間距離に基づいて他の車両の危険度を算出する。管理装置4は、他の車両の危険度に基づいて第1の動画像12の一部を抽出することにより第2の動画像13を生成する。他の車両の危険度は、他の車両が危険運転をしている蓋然性を示す値である。危険運転は、例えば車間距離を急激に狭めるあおり運転である。第2の動画像13は、他の車両が危険運転をしている時間が含まれるように第1の動画像12の一部を抽出することにより生成される。管理装置4は、第2の動画像13を表示端末5に送信する。
表示端末5は、PC、携帯電話、タブレット端末又はスマートフォン等の、通信機能及び表示機能を有する情報処理端末である。表示端末5は、車両11の管理者により使用される。表示端末5は、受信した第2の動画像13を表示する。これにより、管理者は危険運転を適切に確認することができる。なお、管理者は、車両11を保有する一個人や複数の車両11を運用する法人(法人の担当者)などの車両11を管理し得る者であれば特に限定されない。
図2は、管理システム1の概略構成の一例を示す図である。管理システム1は、撮像装置2、通信端末3、管理装置4、表示端末5を有する。撮像装置2は、車両11に設けられ、車両11の運転者又は同乗者が携帯するスマートフォン、タブレット端末等の携帯型の通信端末3と相互に通信可能に接続される。通信端末3、管理装置4、表示端末5は、第4世代移動通信システム(4G)又は第5世代移動通信システム(5G)等の移動通信ネットワークを含むネットワーク6を介して相互に通信可能に接続される。
図3は、撮像装置2の概略構成の一例を示す図である。撮像装置2は、前方撮像部21、後方撮像部22、車内撮像部23、車速取得部24、第1記憶部25、第1通信部26及び第1処理部27を有する。
前方撮像部21は、車両の前方を撮像するための構成であり、後方撮像部22は、車両の後方を撮像するための構成であり、車内撮像部23は、車両の運転席を撮像するための構成である。前方撮像部21、後方撮像部22及び車内撮像部23は、例えば、カメラを備える。前方撮像部21及び車内撮像部23は、車両の前方及び運転席を撮像可能となるように、車両のフロントガラス付近に設けられる。後方撮像部22は、車両の後方を撮像可能となるように、車両のリアガラス付近に設けられる。
前方撮像部21、後方撮像部22及び車内撮像部23は、光学レンズ等を用いて被写体からの光線を集束することにより結像した被写体像に対応する画像信号を生成し、所定の形式の画像データに変換して第1処理部27に供給する。
車速取得部24は、車両の走行速度を取得するための構成であり、例えば、車速パルスを伝送する、車両の内部に設けられた信号線と接続可能なインタフェースを備える。車速取得部24は、信号線から車速パルスを受信し、車速パルスのパルス間隔に応じて車両の走行速度を算出し、算出した走行速度を示すデータを第1処理部27に供給する。
第1記憶部25は、データ及びプログラムを記憶するための構成であり、例えば、半導体メモリを備える。第1記憶部25は、第1処理部27による処理に用いられるオペレーティングシステムプログラム、ドライバプログラム、アプリケーションプログラム、データ等を記憶する。プログラムは、CD(Compact Disc)-ROM(Read Only Memory)又はDVD(Digital Versatile Disc)-ROM等のコンピュータ読取可能且つ非一時的な可搬型記憶媒体から公知のセットアッププログラム等を用いてインストールされる。
第1通信部26は、撮像装置2を通信端末3と通信可能にするための構成であり、通信インタフェース回路を備える。第1通信部26が備える通信インタフェース回路は、Wi-Fi等の無線LAN(Local Area Network)の通信インタフェース回路である。第1通信部26は、第1処理部27から供給されたデータを通信端末3に送信するとともに、通信端末3から受信したデータを第1処理部27に供給する。
第1処理部27は、撮像装置2の動作を統括的に制御する構成であり、一又は複数個のプロセッサ及びその周辺回路を備える。第1処理部27は、例えば、CPU(Central Processing Unit)、LSI(Large Scale Integration)又はASIC(Application Specific Integrated Circuit)等を備える。第1処理部27は、GPU(Graphics Processing Unit)、DSP(Digital Signal Processor)、FPGA(Field Programmable Gate Array)等を備えてもよい。第1処理部27は、第1記憶部25に記憶されているプログラムに基づいて、撮像装置2の各種処理が適切に実行されるように撮像装置2の各構成の動作を制御するとともに、各種処理を実行する。
第1処理部27は、動画像生成部271、車速生成部272及び動画像送信部273を有する。これらの各部は、第1処理部27が実行するプログラムによって実現される機能モジュールである。これらの各部は、ファームウェアとして撮像装置2に実装されてもよい。なお、動画像生成部271及び動画像送信部273は、それぞれ第1生成部及び第1送信部の一例である。
図4は、通信端末3の概略構成の一例を示す図である。通信端末3は、第2記憶部31、第2通信部32、第3通信部33及び第2処理部34を有する。
第2記憶部31は、データ及びプログラムを記憶するための構成であり、例えば、半導体メモリを備える。第2記憶部31は、第2処理部34による処理に用いられるオペレーティングシステムプログラム、ドライバプログラム、アプリケーションプログラム、データ等を記憶する。プログラムは、コンピュータ読取可能且つ非一時的な可搬型記憶媒体から公知のセットアッププログラム等を用いてインストールされる。
第2通信部32は、通信端末3を撮像装置2と通信可能にするための構成であり、通信インタフェース回路を備える。第2通信部32が備える通信インタフェース回路は、無線LANの通信インタフェース回路である。第2通信部32は、第2処理部34から供給されたデータを撮像装置2に送信するとともに、撮像装置2から受信したデータを第2処理部34に供給する。
第3通信部33は、ネットワーク6を介して通信端末3を他の装置と通信可能にするための構成であり、通信インタフェース回路を備える。第3通信部33が備える通信インタフェース回路は、LTE(Long Term Evolution)又はNR(New Radio)等の移動通信方式の通信インタフェース回路である。第3通信部33は、第2処理部34から供給されたデータを他の装置に送信するとともに、他の装置から受信したデータを第2処理部34に供給する。
第2処理部34は、通信端末3の動作を統括的に制御する構成であり、一又は複数個のプロセッサ及びその周辺回路を備える。第2処理部34は、例えば、CPU、LSI、ASIC、GPU、DSP、FPGA等を備える。第2処理部34は、第2記憶部31に記憶されているプログラムに基づいて、通信端末3の各種処理が適切に実行されるように通信端末3の各構成の動作を制御するとともに、各種処理を実行する。
第2処理部34は、受信部341及び送信部342を有する。これらの各部は、第2処理部34が実行するプログラムによって実現される機能モジュールである。これらの各部は、ファームウェアとして通信端末3に実装されてもよい。
図5は、管理装置4の概略構成の一例を示す図である。管理装置4は、第3記憶部41、第4通信部42、第3処理部43を有する。
第3記憶部41は、データ及びプログラムを記憶するための構成であり、例えば、半導体メモリを備える。第3記憶部41は、第3処理部43による処理に用いられるオペレーティングシステムプログラム、ドライバプログラム、アプリケーションプログラム、データ等を記憶する。プログラムは、コンピュータ読取可能且つ非一時的な可搬型記憶媒体から公知のセットアッププログラム等を用いてインストールされる。
第4通信部42は、ネットワーク6を介して管理装置4を他の装置と通信可能にするための構成であり、通信インタフェース回路を備える。第4通信部42が備える通信インタフェース回路は、LTE又はNR等の移動通信方式の通信インタフェース回路である。第4通信部42が備える通信インタフェース回路は、無線LAN又は有線LANの通信インタフェース回路等でもよい。第4通信部42は、第3処理部43から供給されたデータを他の装置に送信するとともに、他の装置から受信したデータを第3処理部43に供給する。
第3処理部43は、管理装置4の動作を統括的に制御する構成であり、一又は複数個のプロセッサ及びその周辺回路を備える。第3処理部43は、例えば、CPU、LSI、ASIC、GPU、DSP、FPGA等を備える。第3処理部43は、第3記憶部41に記憶されているプログラムに基づいて、管理装置4の各種処理が適切に実行されるように管理装置4の各構成の動作を制御するとともに、各種処理を実行する。
第3処理部43は、動画像取得部431、情報取得部432、推定部433、算出部434、動画像抽出部435及び抽出動画像送信部436を有する。これらの各部は、第3処理部43によって実行されるプログラムによって実現される機能モジュールである。これらの各部は、ファームウェアとして管理装置4に実装されてもよい。なお、動画像抽出部435及び抽出動画像送信部436は、それぞれ第2生成部及び第2送信部の一例である。
図6は、管理装置4の第3記憶部41に記憶される、車外動画像(前方動画像又は後方動画像をいう。)に関する情報を管理する第1危険度テーブルT1のデータ構造の一例を示す図である。第1危険度テーブルT1は、フレーム識別子、走行速度、ナンバープレート、車間距離及び危険度を相互に関連付けて記憶する。
フレーム識別子は、撮像装置2によって撮像された動画像を構成するフレームを特定するための情報の一例である。フレーム識別子に代えて、動画像において対応するフレームが表示される再生時刻等が記憶されてもよい。走行速度は、対応するフレームが撮像されたときの車両の走行速度を示す情報である。
ナンバープレートは、対応するフレームにおけるナンバープレートの大きさを示す情報である。図6に示す例では、ナンバープレートの大きさは、ナンバープレートを包含するバウンディングボックスの縦方向と横方向の画素数によって示されている。車間距離は、ナンバープレートの大きさに基づいて算出される、他の車両との車間距離である。危険度は、対応するフレームについて算出された運転の危険度を示す情報であり、他の車両があおり運転をしている蓋然性を示す情報である。なお、対応するフレームにおいてナンバープレートが検出されなかった場合、ナンバープレート及び車間距離は記憶されない。
第1危険度テーブルT1の各データは、後述する車外動画像送信処理において管理装置4によって設定される。
図7は、管理装置4の第3記憶部41に記憶される、車内動画像に関する情報を管理する第2危険度テーブルT2のデータ構造の一例を示す図である。第2危険度テーブルT2は、フレーム識別子、走行速度、姿勢、対象物及び危険度を相互に関連付けて記憶する。なお、フレーム識別子及び走行速度は、第1危険度テーブルT1のフレーム識別子及び走行速度と同様のデータである。
姿勢は、対応するフレームにおける運転者の姿勢に関する情報であり、関節位置に関する情報と顔の向きに関する情報とを含む。関節位置に関する情報は、対応するフレームにおける、運転者の複数の関節位置を示す情報である。図7に示す例では、関節位置は、例えば、関節位置に対応する画素のX座標及びY座標によって示されている。顔の向きに関する情報は、運転者の顔の向きの、所定方向(例えば、運転者の顔の中心位置から撮像装置2に向かう方向)に対する傾きを示す情報である。図7に示す例では、顔の向きは、運転者の顔の向きの、所定方向に対するピッチ角、ロール角及びヨー角によって示されている。
対象物は、ながら運転における注視の対象となるスマートフォン、携帯電話等の対象物の、対応するフレームにおける位置を示す情報であり、例えば、対象物のバウンディングボックスの中心位置により示される。なお、対応するフレームにおいて対象物が検出されなかった場合、対象物は記憶されない。危険度は、対応するフレームにおける運転の危険度を示す情報であり、運転者がながら運転をしている蓋然性を示す情報である。
第2危険度テーブルT2の各データは、後述する車内動画像送信処理において管理装置4によって設定される。
管理システム1は、車外動画像送信処理及び車内動画像送信処理を実行する。これらの処理は、定期又は不定期に、それぞれが並行して実行される。また、これらの処理は、管理システム1の各装置の処理部がプログラムを実行し、各装置の構成と協働することにより実現される。
図8は、管理システム1によって実行される車外動画像送信処理の流れの一例を示すシーケンス図である。以下では、図8を参照し、車外動画像として前方撮像部21によって撮像された前方動画像が送信される場合の車外動画像送信処理の流れについて説明する。なお、車外動画像として後方撮像部22によって撮像された後方動画像が送信される場合も同様である。
まず、撮像装置2の動画像生成部271は、車両の前方を走行する前方車両を撮像して前方動画像を生成する(S101)。動画像生成部271は、前方撮像部21を制御して車両の前方を撮像し、所定の長さ(例えば、5分)の前方動画像を生成する。なお、前方車両は車両とは異なる他の車両の一例であり、前方動画像は第1の動画像の一例である。
続いて、車速生成部272は、車両の前方を撮像している時間における車両の走行速度を示す車速データを生成する(S102)。車速生成部272は、車速取得部24を制御して、車両の前方を撮像している時間における車両の走行速度を取得する。車速生成部272は、走行速度と時間とを関連付けて、時系列データである車速データを生成する。
続いて、動画像送信部273は、第1通信部26を介して、前方動画像及び車速データを通信端末3に送信する(S103)。通信端末3の受信部341は、第2通信部32を介して、前方動画像及び車速データを受信する。
続いて、送信部342は、第3通信部33を介して、前方動画像及び車速データを管理装置4に送信する(S104)。管理装置4の動画像取得部431は、第4通信部42を介して、前方動画像及び車速データを受信することにより取得する(S105)。動画像取得部431は、前方動画像を構成する各フレームのフレーム識別子と、各フレームが撮像された時間における車両の走行速度とを関連付けて第1危険度テーブルT1に記憶する。
続いて、管理装置4は、前方動画像抽出処理を実行する(S106)。前方動画像抽出処理は、前方動画像の一部を抽出することにより抽出前方動画像を生成する処理である。なお、抽出前方動画像は第2の動画像の一例である。
続いて、管理装置4の抽出動画像送信部436は、第4通信部42を介して、抽出前方動画像を表示端末5に送信する(S107)。表示端末5は、抽出前方動画像を受信して表示し(S108)、前方動画像送信処理を終了する。
図9は、前方動画像抽出処理の流れの一例を示すフロー図である。
まず、管理装置4の情報取得部432は、前方動画像に基づいて生成される、前方車両のナンバープレートに関する情報を取得する(S201)。情報取得部432は、あらかじめ第3記憶部41に記憶されたナンバープレート検出用の学習済みモデルを用いてナンバープレートに関する情報を取得する。ナンバープレートに関する情報は、前方動画像を構成する各フレームにおける、ナンバープレートに対応する領域の大きさを示す情報である。
ナンバープレート検出用の学習済みモデルは、画像が入力された場合に、その画像においてナンバープレートを包含するバウンディングボックスの大きさを出力するように学習された学習モデルである。学習モデルとしては、例えばSSD(Single Shot Detector)、YOLO(You Only Look once)又はR-CNN(Region with Convolutional Neural Network)等の、物体検出モデルが用いられる。学習モデルは、学習モデルが出力したバウンディングボックスの位置及び形状と、あらかじめ正解データとして設定されたバウンディングボックスの位置及び形状との誤差が小さくなるようにパラメータが更新されることにより学習される。
情報取得部432は、前方動画像を構成する各フレームを学習済みモデルに入力し、各フレームについて出力されたバウンディングボックスの位置及び形状を取得する。情報取得部432は、取得したバウンディングボックスの位置及び形状に基づいて、ナンバープレートに関する情報を生成して取得する。ナンバープレートに関する情報は、例えば、ナンバープレートを包含するバウンディングボックスの縦方向と横方向の画素数である。ナンバープレートに関する情報は、バウンディングボックスの各頂点の位置関係やバウンディングボックスの面積等、ナンバープレートの大きさを示す他の情報でもよい。情報取得部432は、各フレームについて取得したナンバープレートに関する情報を第1危険度テーブルT1に記憶する。
続いて、推定部433は、前方車両のナンバープレートに関する情報を車間距離推定用の学習済みモデルに入力することにより、車両と前方車両との車間距離を推定する(S202)。車間距離推定用の学習済みモデルは、ナンバープレートに関する情報が入力された場合に、車間距離を出力するように学習された学習モデルである。学習モデルとしては、勾配ブースティング決定木等の回帰モデルが用いられる。
学習モデルは、学習用入力画像が入力された場合に学習モデルが出力した車間距離と、あらかじめ学習用入力画像に関連付けて設定された学習用車間距離との誤差が小さくなるようにパラメータが更新されることにより学習される。学習用車間距離は、学習用入力画像が撮像されたときの実際の車間距離を測距センサ等を用いて測定することにより設定される。学習用入力画像及び学習用車間距離は、自動運転シミュレータを用いて生成されてもよい。
推定部433は、学習済みモデルから出力された車間距離を、ナンバープレートに関する情報に関連付けて第1危険度テーブルT1に記憶する。
続いて、算出部434は、推定した車間距離に基づいて前方車両の危険度を算出する(S203)。危険度は、前方動画像のフレームと関連付けられた時系列データとして算出される。
算出部434は、あらかじめ設定されたルールに基づいて前方車両の危険度を算出する。例えば、算出部434は、前方動画像を構成するフレームのうち一のフレームを特定する。算出部434は、特定したフレームを含む直前の所定数のフレーム(例えば、20フレーム)を抽出する。算出部434は、抽出された各フレームについて推定された車間距離が何れも所定値(例えば、3m)以下であり且つ各フレームに対応する走行速度が所定値(例えば、時速10km)以上である場合に、特定したフレームについての危険度が高いと算出し、他の場合に、特定したフレームについての危険度が低いと算出する。
なお、あらかじめ設定されたルールは上述の例に限られない。例えば、算出部434は、抽出された各フレームのうち、推定された車間距離が所定値以下であるフレームが所定割合以上ある場合に、特定したフレームについての危険度が高いと算出してもよい。
算出部434は、各フレームについて算出した危険度を各フレームのフレーム識別子に関連付けて第1危険度テーブルT1に記憶する。
続いて、動画像抽出部435は、危険度に基づいて前方動画像の一部を抽出することにより抽出動画像を生成し(S204)、前方動画像抽出処理を終了する。例えば、動画像抽出部435は、危険度が所定の条件を満たした時点から所定時間の範囲が含まれるように前方動画像の一部を抽出する。
図6に示す例では、フレーム識別子「101」のフレームまでは、危険度が「低」と算出され、フレーム識別子「102」のフレームからは危険度が「高」と算出されている。したがって、所定の条件が、危険度が「高」であることであるとすると、動画像抽出部435は、フレーム識別子が「102」のフレーム以後の所定数のフレームを抽出し、抽出したフレームから構成される抽出動画像を生成する。
図10は、車内動画像送信処理の流れの一例を示す図である。
まず、撮像装置2の動画像生成部271は、車両の運転者を撮像して車内動画像を生成する(S301)。動画像生成部271は、車内撮像部23を制御して車両の運転者を撮像し、所定の長さの車内動画像を生成する。なお、車内動画像は第1の動画像の一例である。
続いて、車速生成部272は、運転者を撮像している時間における車両の走行速度を示す車速データを生成する(S302)。車速生成部272は、車速取得部24を制御して、車両の前方を撮像している時間における車両の走行速度を取得する。車両生成部272は、走行速度と時間とを関連付けて、時系列データである車速データを生成する。
続いて、動画像送信部273は、第1通信部26を介して、車内動画像及び車速データを通信端末3に送信する(S303)。通信端末3の受信部341は、第2通信部32を介して、車内動画像及び車速データを受信する。
続いて、送信部342は、第3通信部33を介して、車内動画像及び車速データを管理装置4に送信する(S304)。管理装置4の動画像取得部431は、第4通信部42を介して、車内動画像及び車速データを受信することにより取得する(S305)。動画像取得部431は、車内動画像を構成する各フレームのフレーム識別子と、各フレームが撮像された時間における車両の走行速度とを関連付けて第2危険度テーブルT2に記憶する。
続いて、管理装置4は、車内動画像抽出処理を実行する(S306)。車内動画像抽出処理は、車内動画像の一部を抽出することにより抽出車内動画像を生成する処理である。なお、抽出車内動画像は第2の動画像の一例である。
続いて、管理装置4の抽出動画像送信部436は、第4通信部42を介して、抽出車内動画像を表示端末5に送信する(S307)。表示端末5は、抽出車内動画像を受信して表示し(S308)、車内動画像送信処理を終了する。
図10は、車内動画像抽出処理の流れの一例を示すフロー図である。
まず、情報取得部432は、車内動画像に基づいて生成される、運転者の姿勢に関する情報及び運転者が把持する対象物に関する情報を取得する(S401)。情報取得部432は、あらかじめ第3記憶部41に記憶された姿勢推定用の学習済みモデル及び対象物検出用の学習済みモデルを用いて、姿勢に関する情報及び対象物に関する情報を取得する。姿勢に関する情報は、車内動画像を構成する各フレームにおける、運転者の関節位置及び顔の向きに関する情報を含む。対象物に関する情報は、車内動画像を構成する各フレームにおける、所謂ながら運転の対象となる物に関する情報である。例えば、対象物に関する情報は、携帯電話、スマートフォン、カーナビ等の無線通話装置又は画像表示装置の位置及び種別に関する情報であってよい。なお、対象物に関する情報は、ながら運転等の危険な運転を検知するために必要な情報であればよく、上記の例に限定されない。また、対象物は、運転中に操作等することにより、ながら運転等の危険な運転と判断され得る物であれば、特に限定されない。
姿勢推定用の学習済みモデルは、関節位置推定用の学習済みモデル及び顔の向き推定用の学習済みモデルを含む。関節位置推定用の学習済みモデルは、画像が入力された場合に、その画像における人物の関節位置を出力するように学習された学習モデルである。学習モデルとしては、例えばPoseNet又はPersonLab等が用いられる。学習モデルは、例えば、学習モデルが出力した関節位置と、あらかじめ正解データとして設定された関節位置との距離の二乗和である誤差が小さくなるようにパラメータが更新されることにより学習される。
顔の向き推定用の学習済みモデルは、画像が入力された場合に、その画像における人物の顔の向き(例えば、ロール角、ピッチ角及びヨー角)を出力するように学習された学習モデルである。学習モデルとしては、例えばFSA-Net等が用いられる。学習モデルは、学習モデルが出力した顔の向きと、あらかじめ正解データとして設定された顔の向きとの誤差が小さくなるようにパラメータが更新されることにより学習される。
対象物検出用の学習済みモデルは、画像が入力された場合に、その画像において対象物に対応する領域を包含するバウンディングボックスの位置、形状及び対象物の種類を出力するように学習された学習モデルである。学習モデルとしては、例えばSSD、YOLO又はR-CNN等の、物体検出モデルが用いられる。学習モデルは、学習モデルが出力したバウンディングボックスの位置、形状及び対象物の種類と、あらかじめ正解データとして設定されたバウンディングボックスの位置、形状及び対象物の種類との誤差が小さくなるようにパラメータが更新されることにより学習される。
情報取得部432は、前方動画像を構成する各フレームを関節位置推定用の学習済みモデル、顔の向き推定用の学習済みモデル及び対象物検出用の学習済みモデルにそれぞれ入力する。情報取得部432は、関節位置推定用の学習済みモデルの出力に基づいて、運転者の関節位置に関する情報を生成する。また、情報取得部432は、顔の向き推定用の学習済みモデルの出力に基づいて、運転者の顔の向きに関する情報を生成する。情報取得部432は、運転者の関節位置に関する情報と顔の向きに関する情報とを関連付けて、運転者の姿勢に関する情報として取得する。また、情報取得部432は、対象物検出用の学習済みモデルの出力に基づいて運転者が把持する対象物に関する情報を生成して取得する。情報取得部432は、取得した姿勢に関する情報及び対象物に関する情報を第2危険度テーブルT2に記憶する。
続いて、推定部433は、運転者の姿勢に関する情報及び運転者が把持する対象物に関する情報を注視状態推定用の学習済みモデルに入力することにより、車両の運転者が対象物を注視しているか否かを推定する(S402)。注視状態推定用の学習済みモデルは、運転者の姿勢に関する情報及び運転者が把持する対象物に関する情報が入力された場合に、運転者が対象物を注視しているか蓋然性を示す確信度を出力するように学習された学習モデルである。学習モデルとしては、勾配ブースティング決定木等の分類モデルが用いられる。
学習モデルは、学習用の姿勢及び対象物に関する情報が入力された場合に学習モデルが出力した確信度と、あらかじめ学習用の姿勢及び対象物に関する情報に関連付けて設定された学習用確信度との交差エントロピー誤差が小さくなるようにパラメータが更新されることにより学習される。学習用の姿勢及び対象物に関する情報は、例えば、学習用に撮像した運転者の画像に基づいて生成される。また、学習用確信度は、学習用に撮像した運転者の画像において、運転者が対象物を注視しているか否かに応じて異なる要素が1となり、他の要素が0となるように設定されたOne-Hotベクトルである。
続いて、算出部434は、推定の結果に基づいて運転者の危険度を算出する(S403)。危険度は、車内動画像のフレームと関連付けられた時系列データとして算出される。
算出部434は、あらかじめ設定されたルールに基づいて運転者の危険度を算出する。例えば、算出部434は、車内動画像を構成するフレームのうちの一のフレームを特定する。算出部434は、特定したフレーム及び特定したフレームの直前の所定数のフレーム(例えば、2秒間に相当する数のフレーム)を抽出する。算出部434は、抽出された各フレームについての推定の結果が何れも運転者が対象物を注視していることを示し且つ各フレームに対応する走行速度が時速0km(すなわち、停車中)でない場合に、特定したフレームについての危険度が高いと算出し、他の場合に、特定したフレームについての危険度が低いと算出する。
続いて、動画像抽出部435は、危険度に基づいて車内動画像の一部を抽出することにより抽出動画像を生成し(S404)、前方動画像抽出処理を終了する。例えば、動画像抽出部435は、危険度が所定の条件を満たした時点から所定時間の範囲が含まれるように前方動画像の一部を抽出する。
以上説明したように、管理装置4は、前方動画像に基づいて生成される他の車両のナンバープレートの情報を学習済みモデルに入力することにより、車両と他の車両との車間距離を推定する。また、管理装置4は、推定した車間距離に基づいて算出される他の車両の危険度に基づいて前方動画像の一部を抽出することにより抽出前方動画像を生成する。これにより、管理装置4は、車両の管理者が危険運転を適切に確認することを可能とする。
すなわち、管理装置4は、車間距離に基づいて他の車両の危険度を算出するため、車間距離を急激に狭めて運転する等の事故に至らないあおり運転を適切に検知することができる。そして、管理装置4は、危険度に基づいて前方動画像の一部を抽出することにより、あおり運転の態様を管理者が効率的に確認することを可能とする。また、管理装置4は、測距センサ等を備えない撮像装置2を用いて車間距離を算出するため、多数の車両を所有する運送業者等が比較的安価に管理システム1を導入することを可能とする。
また、管理装置4は、車内動画像に基づいて生成される車両の運転者の姿勢に関する情報及び運転者が把持する対象物に関する情報を学習済みモデルに入力することにより、運転者が対象物を注視しているか否かを推定する。また、管理装置4は、推定の結果に基づいて算出される運転者の危険度に基づいて車内動画像の一部を抽出することにより抽出車内動画像を生成する。これにより、管理装置4は、車両の管理者が危険運転を適切に確認することを可能とする。
すなわち、管理装置4は、運転者の姿勢に関する情報と対象物に関する情報との両方を用いて運転者が対象物を注視しているか否かを推定することにより、運転者の視線の追跡が困難な場合でも適切にながら運転を検知することができる。また、そして、管理装置4は、推定結果に基づく危険度を用いて車内動画像の一部を抽出することにより、ながら運転の態様を管理者が効率的に確認することを可能とする。
また、管理装置4は、あらかじめ設定されたルールに基づいて危険度を算出する。これにより、管理装置4は、危険運転をより適切に検知することを可能とする。すなわち、ながら運転にあたるか否かの基準は運転者が約2秒以上画面を見続けることとされているから、管理装置4がこのようなルールに基づいて危険度を判定することにより、危険運転をより適切に検知することが可能となる。また、これにより、管理装置4は危険運転の基準の変更に容易に対応することができる。
また、管理装置4は、危険度が所定の条件を満たした時点から所定時間の範囲が含まれるように前方動画像、後方動画像又は車内動画像の一部を抽出する。これにより、管理装置4は、管理者が危険運転の状況及びその前後の状況を適切に確認することを可能とする。
なお、管理装置4は、S204において、危険度が所定の条件を満たしている時間が含まれるように前方動画像の一部を抽出してもよい。図6に示す例では、フレーム識別子「102」のフレームからフレーム識別子「151」のフレームまで、危険度が「高」と算出されている。したがって、所定の条件が、危険度が「高」であることであるとすると、動画像抽出部435は、フレーム識別子が「102」のフレームからフレーム識別子が「151」のフレームまでを抽出し、抽出したフレームから構成される抽出動画像を生成する。同様に、管理装置4は、S404において、危険度が所定の条件を満たしている時間が含まれるように車内動画像の一部を抽出してもよい。
また、この場合において、管理装置4は、危険度が所定の条件を満たしている時間の前後に所定時間(例えば、前後それぞれ5秒ずつ)を付加した時間が含まれるように前方動画像の一部を抽出してもよい。これにより、管理装置4は、管理者が危険運転の前後の状況をより適切に確認することを可能とする。
上述した説明では、車内動画送信処理のS302において、撮像装置2は車速データを生成するものとしたが、撮像装置2は車速データを生成しなくてもよい。この場合、管理装置4は、車両の走行速度にかかわらず、運転者の姿勢及び対象物に関する情報に基づいて危険度を算出する。信号待ち等の、停車中であっても運転者が画像表示装置を注視することは好ましくない場合がある。管理装置4は、このような場合に車両の走行速度に関わらず運転者が画像表示装置を注視したことを検知することができる。
上述した説明では、管理装置4は、取得した動画像の各フレームについて危険度を算出するものとしたが、このような例に限られない。例えば、管理装置4は、動画像を構成するフレームのうちから、所定時間(例えば、1秒)ごとに1つのフレームを抽出し、抽出したフレームに対して危険度を算出するようにしてもよい。これにより、管理装置4の処理負荷を低減することができる。
上述した説明では、管理装置4は、S203において、あらかじめ設定されたルールに基づいて危険度を算出するものとしたが、このような例に限られない。管理装置4は、第3記憶部41に記憶された危険度算出用の学習済みモデルを用いて危険度を算出してもよい。学習済みモデルは、連続する所定数のフレームについて推定された車間距離が入力された場合に、危険度を算出するように学習された、勾配ブースティング決定木等の学習モデルである。
学習モデルは、学習用の車間距離が入力された場合に学習モデルが出力した危険度と、あらかじめ学習用の車間距離に関連付けて設定された学習用危険度との交差エントロピー誤差が小さくなるようにパラメータが更新されることにより学習される。学習用の車間距離は、例えば、学習用に撮像した前方車両の動画像に基づいて生成される。また、学習用危険度は、例えば、学習用に撮像した前方車両の動画像を見た者がどの程度危険に感じたかに基づいて設定される。これにより、管理装置4は、あおり運転をより適切に検知することができる。すなわち、他の車両の運転があおり運転にあたるか否かは運転者の主観的な要素にも基づくと考えられるため、学習済みモデルを用いることで、運転者の主観的な要素を踏まえた適切なあおり運転の検知が可能となる。
上述した説明における管理装置4の機能の一部又は全部は、撮像装置2又は通信端末3によって実現されてもよい。例えば、車外動画像送信処理において、通信端末3が危険度を算出して抽出前方動画像を生成し、通信端末3に送信するようにしてもよい。これにより、ネットワーク6を経由する通信量を低減することができる。
上述した説明では、通信端末3は車両の運転者が携帯するスマートフォン等であるものとしたが、このような例に限られない。例えば、通信端末3は車両に設けられた通信モジュールでもよい。また、撮像装置2の第1通信部25が、管理装置4と直接に通信可能となるように構成されてもよい。
当業者は、本発明の精神及び範囲から外れることなく、様々な変更、置換及び修正をこれに加えることが可能であることを理解されたい。例えば、上述した各部の処理は、本発明の範囲において、適宜に異なる順序で実行されてもよい。また、上述した実施形態及び変形例は、本発明の範囲において、適宜に組み合わせて実施されてもよい。
1 管理システム
2 撮像装置
271 動画像生成部
272 車速生成部
273 動画像送信部
3 通信端末
341 受信部
342 送信部
4 管理装置
431 動画像取得部
432 情報取得部
433 推定部
434 算出部
435 動画像抽出部
436 抽出動画像送信部

Claims (13)

  1. 車両に設けられる撮像装置と、管理装置と、を有する管理システムであって、
    前記撮像装置は、
    前記車両とは異なる他の車両を撮像して第1の動画像を生成する第1生成部と、
    前記第1の動画像を前記管理装置に送信する第1送信部と、を有し、
    前記管理装置は、
    ナンバープレートに関する情報と、前記ナンバープレートを備える車両までの車間距離との関係をあらかじめ学習した学習済みモデルを記憶する記憶部と、
    前記第1の動画像を取得する動画像取得部と、
    前記第1の動画像に基づいて生成される、前記他の車両のナンバープレートに関する情報を取得する情報取得部と、
    前記取得した他の車両のナンバープレートに関する情報を前記学習済みモデルに入力することにより、前記車両と前記他の車両との車間距離を推定する推定部と、
    前記推定した車間距離に基づいて前記他の車両の危険度を算出する算出部と、
    前記危険度に基づいて前記第1の動画像の一部を抽出することにより第2の動画像を生成する第2生成部と、
    前記第2の動画像を送信する第2送信部と、を有する、
    ことを特徴とする管理システム。
  2. 車両に設けられる撮像装置と、管理装置と、を有する管理システムであって、
    前記撮像装置は、
    前記車両の運転者を撮像して第1の動画像を生成する第1生成部と、
    前記第1の動画像を前記管理装置に送信する第1送信部と、を有し、
    前記管理装置は、
    車両の運転者の姿勢に関する情報及び前記運転者が把持する対象物に関する情報と、前記運転者が前記対象物を注視しているか否かを示す情報との関係をあらかじめ学習した学習済みモデルを記憶する記憶部と、
    前記第1の動画像を取得する動画像取得部と、
    前記第1の動画像に基づいて生成される、前記車両の運転者の姿勢に関する情報及び前記運転者が把持する対象物に関する情報を取得する情報取得部と、
    前記取得した運転者の姿勢に関する情報及び前記運転者が把持する対象物に関する情報を前記学習済みモデルに入力することにより、前記車両の運転者が前記対象物を注視しているか否かを推定する推定部と、
    前記推定の結果に基づいて前記車両の運転者の危険度を算出する算出部と、
    前記危険度に基づいて前記第1の動画像の一部を抽出することにより第2の動画像を生成する第2生成部と、
    前記第2の動画像を送信する第2送信部と、を有する、
    ことを特徴とする管理システム。
  3. 前記算出部は、あらかじめ設定されたルールに基づいて前記危険度を算出する、
    請求項1又は2に記載の管理システム。
  4. 前記算出部は、前記危険度を、前記第1の動画像の再生時刻と関連付けられた時系列データとして算出し、
    前記第2生成部は、前記危険度が所定の条件を満たした時点から所定時間の範囲が含まれるように前記第1の動画像の一部を抽出する、
    請求項1-3の何れか一項に記載の管理システム。
  5. 前記算出部は、前記危険度を、前記第1の動画像の再生時刻と関連付けられた時系列データとして算出し、
    前記第2生成部は、前記危険度が所定の条件を満たしている時間が含まれるように前記第1の動画像の一部を抽出する、
    請求項1-3の何れか一項に記載の管理システム。
  6. 車両に設けられる撮像装置と、管理装置と、を有するシステムによって実行される管理方法であって、
    前記撮像装置が、
    前記車両とは異なる他の車両を撮像して第1の動画像を生成し、
    前記第1の動画像を前記管理装置に送信し、
    前記管理装置が、
    ナンバープレートに関する情報と、前記ナンバープレートを備える車両までの車間距離との関係をあらかじめ学習した学習済みモデルを記憶し、
    前記第1の動画像を取得し、
    前記他の車両のナンバープレートに関する情報を取得し、
    前記取得した他の車両のナンバープレートに関する情報を前記学習済みモデルに入力することにより、前記車両と前記他の車両との車間距離を推定し、
    前記推定した車間距離に基づいて前記他の車両の危険度を算出し、
    前記危険度に基づいて前記第1の動画像の一部を抽出することにより第2の動画像を生成し、
    前記第2の動画像を送信する、
    ことを含むことを特徴とする管理方法。
  7. 車両に設けられる撮像装置と、管理装置と、を有するシステムによって実行される管理方法であって、
    前記撮像装置が、
    前記車両の運転者を撮像して第1の動画像を生成し、
    前記第1の動画像を前記管理装置に送信し、
    前記管理装置が、
    車両の運転者の姿勢に関する情報及び前記運転者が把持する対象物に関する情報と、前記運転者が前記対象物を注視しているか否かを示す情報との関係をあらかじめ学習した学習済みモデルを記憶し、
    前記第1の動画像を取得し、
    前記運転者の姿勢に関する情報及び前記運転者が把持する対象物に関する情報を取得し、
    前記取得した運転者の姿勢に関する情報及び前記運転者が把持する対象物に関する情報を前記学習済みモデルに入力することにより、前記運転者が前記対象物を注視しているか否かを推定し、
    前記推定の結果に基づいて前記車両の運転者の危険度を算出し、
    前記危険度に基づいて前記第1の動画像の一部を抽出することにより第2の動画像を生成し、
    前記第2の動画像を送信する、
    ことを含むことを特徴とする管理方法。
  8. ナンバープレートに関する情報と、前記ナンバープレートを備える車両までの車間距離との関係をあらかじめ学習した学習済みモデルを記憶する記憶部と、
    車両に設けられた撮像装置が前記車両とは異なる他の車両を撮像して生成した第1の動画像を取得する動画像取得部と、
    前記第1の動画像に基づいて生成される、前記他の車両のナンバープレートに関する情報を取得する情報取得部と、
    前記取得した他の車両のナンバープレートに関する情報を前記学習済みモデルに入力することにより、前記車両と前記他の車両との車間距離を推定する推定部と、
    前記推定した車間距離に基づいて前記他の車両の危険度を算出する算出部と、
    前記危険度に基づいて前記第1の動画像の一部を抽出することにより第2の動画像を生成する第2生成部と、
    前記第2の動画像を送信する第2送信部と、
    を有することを特徴とする管理装置。
  9. 車両の運転者の姿勢に関する情報及び前記運転者が把持する対象物に関する情報と、前記運転者が前記対象物を注視しているか否かを示す情報との関係をあらかじめ学習した学習済みモデルを記憶する記憶部と、
    車両に設けられた撮像装置が前記車両の運転者を撮像して生成した第1の動画像を取得する動画像取得部と、
    前記第1の動画像に基づいて生成される、前記車両の運転者の姿勢に関する情報及び前記運転者が把持する対象物に関する情報を取得する情報取得部と、
    前記取得した運転者の姿勢に関する情報及び前記運転者が把持する対象物に関する情報を前記学習済みモデルに入力することにより、前記車両の運転者が前記対象物を注視しているか否かを推定する推定部と、
    前記推定の結果に基づいて前記車両の運転者の危険度を算出する算出部と、
    前記危険度に基づいて前記第1の動画像の一部を抽出することにより第2の動画像を生成する第2生成部と、
    前記第2の動画像を送信する第2送信部と、
    を有することを特徴とする管理装置。
  10. ナンバープレートに関する情報と、前記ナンバープレートを備える車両までの車間距離との関係をあらかじめ学習した学習済みモデルを記憶する記憶部を有するコンピュータのプログラムであって、
    車両に設けられた撮像装置が前記車両とは異なる他の車両を撮像して生成した第1の動画像を取得し、
    前記第1の動画像に基づいて生成される、前記他の車両のナンバープレートに関する情報を取得し、
    前記他の車両のナンバープレートに関する情報を前記学習済みモデルに入力することにより、前記車両と前記他の車両との車間距離を推定し、
    前記推定した車間距離に基づいて前記他の車両の危険度を算出し、
    前記危険度に基づいて前記第1の動画像の一部を抽出することにより第2の動画像を生成し、
    前記第2の動画像を送信する、
    ことを前記コンピュータに実行させることを特徴とするプログラム。
  11. 車両の運転者の姿勢に関する情報及び前記運転者が把持する対象物に関する情報と、前記運転者が前記対象物を注視しているか否かを示す情報との関係をあらかじめ学習した学習済みモデルを記憶する記憶部を有するコンピュータのプログラムであって、
    車両に設けられた撮像装置が前記車両の運転者を撮像して生成した第1の動画像を取得し、
    前記第1の動画像に基づいて生成される、前記車両の運転者の姿勢に関する情報及び前記運転者が把持する対象物に関する情報を取得し、
    前記取得した運転者の姿勢に関する情報及び前記運転者が把持する対象物に関する情報を前記学習済みモデルに入力することにより、前記車両の運転者が前記対象物を注視しているか否かを推定し、
    前記推定の結果に基づいて前記車両の運転者の危険度を算出し、
    前記危険度に基づいて前記第1の動画像の一部を抽出することにより第2の動画像を生成し、
    前記第2の動画像を送信する、
    ことを前記コンピュータに実行させることを特徴とするプログラム。
  12. 車両に設けられる撮像装置と、管理装置と、を有するシステムの前記撮像装置及び前記管理装置と通信可能に接続された通信端末であって、
    前記撮像装置が前記車両とは異なる他の車両を撮像して生成した第1の動画像を前記撮像装置から受信する受信部と、
    ナンバープレートに関する情報と、前記ナンバープレートを備える車両までの車間距離との関係をあらかじめ学習した学習済みモデルを記憶し、前記第1の動画像を受信した場合に、前記第1の動画像に基づいて生成される、前記他の車両のナンバープレートに関する情報を前記学習済みモデルに入力することにより、前記車両と前記他の車両との車間距離を推定し、前記推定した車間距離に基づいて前記他の車両の危険度を算出し、前記危険度に基づいて前記第1の動画像の一部を抽出することにより第2の動画像を生成して送信する管理装置に、前記第1の動画像を送信する送信部と、
    を有することを特徴とする通信端末。
  13. 車両に設けられる撮像装置と、管理装置と、を有するシステムの前記撮像装置及び前記管理装置と通信可能に接続された通信端末であって、
    前記撮像装置が前記車両の運転者を撮像して生成した第1の動画像を前記撮像装置から受信する受信部と、
    車両の運転者の姿勢に関する情報及び前記運転者が把持する対象物に関する情報と、前記運転者が前記対象物を注視しているか否かを示す情報との関係をあらかじめ学習した学習済みモデルを記憶し、前記第1の動画像を受信した場合に、前記第1の動画像に基づいて生成される、前記車両の運転者の姿勢に関する情報及び前記運転者が把持する対象物に関する情報を前記学習済みモデルに入力することにより、前記車両の運転者が前記対象物を注視しているか否かを推定し、前記推定の結果に基づいて前記車両の運転者の危険度を算出し、前記危険度に基づいて前記第1の動画像の一部を抽出することにより第2の動画像を生成して送信する管理装置に、前記第1の動画像を送信する送信部と、
    を有することを特徴とする通信端末。
JP2020136380A 2020-08-12 2020-08-12 管理システム、管理方法、管理装置、プログラム及び通信端末 Active JP7186749B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2020136380A JP7186749B2 (ja) 2020-08-12 2020-08-12 管理システム、管理方法、管理装置、プログラム及び通信端末

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020136380A JP7186749B2 (ja) 2020-08-12 2020-08-12 管理システム、管理方法、管理装置、プログラム及び通信端末

Publications (2)

Publication Number Publication Date
JP2022032520A true JP2022032520A (ja) 2022-02-25
JP7186749B2 JP7186749B2 (ja) 2022-12-09

Family

ID=80350128

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020136380A Active JP7186749B2 (ja) 2020-08-12 2020-08-12 管理システム、管理方法、管理装置、プログラム及び通信端末

Country Status (1)

Country Link
JP (1) JP7186749B2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102480011B1 (ko) * 2022-03-11 2022-12-20 김익균 차량 블랙박스와 gps를 이용한 스마트 불법 감시 방지 시스템
KR102505353B1 (ko) * 2022-03-11 2023-02-28 김익균 스마트폰 연동 기능을 이용한 스마트 불법 감시 방지 시스템

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011227663A (ja) * 2010-04-19 2011-11-10 Denso Corp 運転補助装置、及びプログラム
JP2016081086A (ja) * 2014-10-09 2016-05-16 株式会社日立製作所 運転特性診断装置、運転特性診断システム、運転特性診断方法、情報出力装置、情報出力方法
JP2016126756A (ja) * 2014-12-26 2016-07-11 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカPanasonic Intellectual Property Corporation of America 危険判定方法、危険判定装置、危険出力装置及び危険判定システム
JP2016130966A (ja) * 2015-01-14 2016-07-21 株式会社デンソーアイティーラボラトリ 危険度推定装置、危険度推定方法及び危険度推定用コンピュータプログラム
CN107221196A (zh) * 2017-05-26 2017-09-29 广东中星电子有限公司 车辆驾驶风险评估方法、装置、系统及可读存储介质
JP2018152034A (ja) * 2017-03-14 2018-09-27 オムロン株式会社 運転者監視装置、運転者監視方法、学習装置及び学習方法
JP2019032725A (ja) * 2017-08-09 2019-02-28 株式会社ユピテル 車載電子機器、サーバ、及びクライアント端末
JP2019205078A (ja) * 2018-05-24 2019-11-28 株式会社ユピテル システム及びプログラム等
JP2020046728A (ja) * 2018-09-14 2020-03-26 矢崎エナジーシステム株式会社 車載器
CN111301280A (zh) * 2018-12-11 2020-06-19 北京嘀嘀无限科技发展有限公司 一种危险状态识别方法及装置

Patent Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011227663A (ja) * 2010-04-19 2011-11-10 Denso Corp 運転補助装置、及びプログラム
JP2016081086A (ja) * 2014-10-09 2016-05-16 株式会社日立製作所 運転特性診断装置、運転特性診断システム、運転特性診断方法、情報出力装置、情報出力方法
JP2016126756A (ja) * 2014-12-26 2016-07-11 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカPanasonic Intellectual Property Corporation of America 危険判定方法、危険判定装置、危険出力装置及び危険判定システム
JP2016130966A (ja) * 2015-01-14 2016-07-21 株式会社デンソーアイティーラボラトリ 危険度推定装置、危険度推定方法及び危険度推定用コンピュータプログラム
JP2018152034A (ja) * 2017-03-14 2018-09-27 オムロン株式会社 運転者監視装置、運転者監視方法、学習装置及び学習方法
JP2018152038A (ja) * 2017-03-14 2018-09-27 オムロン株式会社 運転者監視装置、運転者監視方法、学習装置及び学習方法
CN107221196A (zh) * 2017-05-26 2017-09-29 广东中星电子有限公司 车辆驾驶风险评估方法、装置、系统及可读存储介质
JP2019032725A (ja) * 2017-08-09 2019-02-28 株式会社ユピテル 車載電子機器、サーバ、及びクライアント端末
JP2019205078A (ja) * 2018-05-24 2019-11-28 株式会社ユピテル システム及びプログラム等
JP2020046728A (ja) * 2018-09-14 2020-03-26 矢崎エナジーシステム株式会社 車載器
CN111301280A (zh) * 2018-12-11 2020-06-19 北京嘀嘀无限科技发展有限公司 一种危险状态识别方法及装置

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102480011B1 (ko) * 2022-03-11 2022-12-20 김익균 차량 블랙박스와 gps를 이용한 스마트 불법 감시 방지 시스템
KR102505353B1 (ko) * 2022-03-11 2023-02-28 김익균 스마트폰 연동 기능을 이용한 스마트 불법 감시 방지 시스템

Also Published As

Publication number Publication date
JP7186749B2 (ja) 2022-12-09

Similar Documents

Publication Publication Date Title
CN110235152B (zh) 交通工具服务系统
US10207716B2 (en) Integrated vehicle monitoring system
US20200213560A1 (en) System and method for a dynamic human machine interface for video conferencing in a vehicle
KR20200050959A (ko) 화상 처리 디바이스, 화상 처리 방법, 및 프로그램
JP2022032520A (ja) 管理システム、管理方法、管理装置、プログラム及び通信端末
JP2007290574A (ja) 列車混雑度通知システム
CN111033559A (zh) 用于图像模糊校正的图像处理、图像处理方法和程序
WO2019088033A1 (ja) 評価装置、評価システム、車両、およびプログラム
US10565072B2 (en) Signal processing device, signal processing method, and program
US20210052156A1 (en) Gaze detector, method for controlling gaze detector, method for detecting corneal reflection image position, and storage medium
CN112689587A (zh) 考虑到在要求接管驾驶任务时驾驶员的非驾驶任务活动的可中断性而分类非驾驶任务活动的方法及因要求接管驾驶任务而中断非驾驶任务活动后重新释放非驾驶任务活动的方法
JP6600344B2 (ja) 車両制御装置、車両制御方法、及び、車両制御装置の制御プログラム
CN112989915A (zh) 用于检测自主载具中的异常乘客行为的系统和方法
US20210290129A1 (en) State estimation device, method and computer program therefor
WO2021186853A1 (ja) 画像生成装置、画像生成方法、およびプログラム
US20220130024A1 (en) Image processing device, image processing method, and image processing system
US10893388B2 (en) Map generation device, map generation system, map generation method, and non-transitory storage medium including instructions for map generation
CN112640444A (zh) 车站监控装置、车站监控方法及程序
CN111355925B (zh) 控制装置、车辆、图像显示系统和图像显示方法
WO2021186854A1 (ja) データ処理装置、送信装置、データ処理方法、およびプログラム
JP7462714B2 (ja) 情報処理装置、情報処理プログラム及び情報処理方法
US11809621B2 (en) State estimation device, method and computer program therefor
US11837094B2 (en) Information processing apparatus, information processing system, non-transitory computer readable medium, and information processing method
US20220392274A1 (en) Information processing apparatus, non-transitory computer readable medium, and information processing method
JP2017146704A (ja) 情報処理装置、情報処理方法およびプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210215

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220510

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220623

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20221101

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221129

R150 Certificate of patent or registration of utility model

Ref document number: 7186749

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150