JP7207434B2 - 余所見判定装置、余所見判定システム、余所見判定方法、プログラム - Google Patents

余所見判定装置、余所見判定システム、余所見判定方法、プログラム Download PDF

Info

Publication number
JP7207434B2
JP7207434B2 JP2020563309A JP2020563309A JP7207434B2 JP 7207434 B2 JP7207434 B2 JP 7207434B2 JP 2020563309 A JP2020563309 A JP 2020563309A JP 2020563309 A JP2020563309 A JP 2020563309A JP 7207434 B2 JP7207434 B2 JP 7207434B2
Authority
JP
Japan
Prior art keywords
looking
driver
line
aside
face
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020563309A
Other languages
English (en)
Other versions
JPWO2020138088A1 (ja
Inventor
奈々 十文字
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Publication of JPWO2020138088A1 publication Critical patent/JPWO2020138088A1/ja
Priority to JP2022212272A priority Critical patent/JP2023052172A/ja
Application granted granted Critical
Publication of JP7207434B2 publication Critical patent/JP7207434B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/59Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
    • G06V20/597Recognising the driver's state or behaviour, e.g. attention or drowsiness
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0059Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
    • A61B5/0077Devices for viewing the surface of the body, e.g. camera, magnifying lens
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/16Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state
    • A61B5/18Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state for vehicle drivers or machine operators
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/68Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient
    • A61B5/6887Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient mounted on external non-worn devices, e.g. non-medical devices
    • A61B5/6893Cars
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/18Eye characteristics, e.g. of the iris
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B21/00Alarms responsive to a single specified undesired or abnormal condition and not otherwise provided for
    • G08B21/02Alarms for ensuring the safety of persons
    • G08B21/06Alarms for ensuring the safety of persons indicating a condition of sleep, e.g. anti-dozing alarms
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B2503/00Evaluating a particular growth phase or type of persons or animals
    • A61B2503/20Workers
    • A61B2503/22Motor vehicles operators, e.g. drivers, pilots, captains
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • G08G1/166Anti-collision systems for active traffic, e.g. moving vehicles, pedestrians, bikes
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G3/00Traffic control systems for marine craft
    • G08G3/02Anti-collision systems

Landscapes

  • Health & Medical Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • General Physics & Mathematics (AREA)
  • Veterinary Medicine (AREA)
  • Medical Informatics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Public Health (AREA)
  • Animal Behavior & Ethology (AREA)
  • Surgery (AREA)
  • Molecular Biology (AREA)
  • Biophysics (AREA)
  • Pathology (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Child & Adolescent Psychology (AREA)
  • Ophthalmology & Optometry (AREA)
  • Social Psychology (AREA)
  • Psychology (AREA)
  • Emergency Management (AREA)
  • Psychiatry (AREA)
  • Business, Economics & Management (AREA)
  • Developmental Disabilities (AREA)
  • Human Computer Interaction (AREA)
  • Hospice & Palliative Care (AREA)
  • Educational Technology (AREA)
  • Traffic Control Systems (AREA)
  • Time Recorders, Dirve Recorders, Access Control (AREA)
  • Image Analysis (AREA)

Description

本発明は、余所見判定装置、余所見判定システム、余所見判定方法、プログラに関する。
車等の移動体を操作する運転者の余所見を検知する技術が特許文献1に開示されている。特許文献1の技術では、人の顔の向きに基づいて人が脇見をしていないと判定された場合に、人の視線の向きに基づいて人が脇見をしているか否かを判定することが記載されている。
特開2009-15549号公報
上述の特許文献1の技術では顔の向きが脇見をしていると判定される方向である場合、脇見と判定されない視線方向であっても脇見と判定されてしまう。
そこでこの発明は、上述の課題を解決する余所見判定装置、余所見判定システム、余所見判定方法、プログラを提供することを目的としている。
本発明の第1の態様によれば、余所見判定装置は、移動体を運転する運転者の撮影画像を取得する撮影画像取得手段と、前記撮影画像に基づいて前記運転者の視線方向を検出し、前記移動体の進行方向を基準とする所定の視線範囲と前記視線方向とに基づいて余所見状態か否かを判定する第一余所見判定手段と、前記視線方向を検出できない場合に、前記移動体の進行方向を基準とする所定の顔方向範囲と前記運転者の顔方向とに基づいて前記余所見状態か否かを判定する第二余所見判定手段と、を備える。
本発明の第2の態様によれば、撮影装置と余所見判定装置とを備え、前記撮影装置と前記余所見判定装置とが通信ネットワークで接続された余所見判定システムであって、前記余所見判定装置が、移動体を運転する運転者の撮影画像を取得する撮影画像取得手段と、前記撮影画像に基づいて前記運転者の視線方向を検出し、前記移動体の進行方向を基準とする所定の視線範囲と前記視線方向とに基づいて余所見状態か否かを判定する第一余所見判定手段と、前記視線方向を検出できない場合に、前記移動体の進行方向を基準とする所定の顔方向範囲と前記運転者の顔方向とに基づいて前記余所見状態か否かを判定する第二余所見判定手段と、を備える。
本発明の第3の態様によれば、余所見判定方法は、移動体を運転する運転者の撮影画像を取得し、前記撮影画像に基づいて前記運転者の視線方向を検出し、前記移動体の進行方向を基準とする所定の視線範囲と前記視線方向とに基づいて余所見状態か否かを判定し、前記視線方向を検出できない場合に、前記移動体の進行方向を基準とする所定の顔方向範囲と前記運転者の顔方向とに基づいて前記余所見状態か否かを判定する。
本発明の第4の態様によればプログラムは、余所見判定装置のコンピュータに、移動体を運転する運転者の撮影画像を取得し、前記撮影画像に基づいて前記運転者の視線方向を検出し、前記移動体の進行方向を基準とする所定の視線範囲と前記視線方向とに基づいて余所見状態か否かを判定し、前記視線方向を検出できない場合に、前記移動体の進行方向を基準とする所定の顔方向範囲と前記運転者の顔方向とに基づいて余所見状態か否かを判定する、処理を実行させる。

本発明によれば、移動体を運転する運転者が余所見状態か否かを、より精度良く判定することができる。
本実施形態による余所見判定システムを示す図である。 本実施形態による余所見判定装置のハードウェア構成図である。 本実施形態による余所見判定装置の機能ブロック図である。 本実施形態による余所見判定部の詳細を示す機能ブロック図である。 本実施形態によるドライブレコーダのハードウェア構成を示す図である。 本実施形態によるドライブレコーダの制御装置の機能ブロック図である。 本実施形態によるドライブレコーダの処理フローを示す図である。 本実施形態による余所見判定装置の処理フローを示す図である。 本実施形態による余所見判定装置の最小構成を示す図である。 本実施形態による最小構成の余所見判定装置の処理フローを示す図である。
以下、本発明の一実施形態による余所見判定装置を図面を参照して説明する。
図1は同実施形態による余所見判定システムを示す図である。
図1で示すように余所見判定システム100は余所見判定装置1と、運転状況センシング装置の一態様であるドライブレコーダ2と含んで構成される。ドライブレコーダ2は、一例としては移動体である車両20のフロントガラス近傍に設けられているものとする。余所見判定装置1とドライブレコーダ2とは無線通信ネットワークや有線通信ネットワークを介して接続される。余所見判定装置1は例えば複数の車両20にそれぞれ設置されたドライブレコーダ2と通信接続する。
図2は余所見判定装置のハードウェア構成図である。
この図が示すように余所見判定装置1はCPU(Central Processing Unit)101、ROM(Read Only Memory)102、RAM(Random Access Memory)103、データベース104、通信モジュール105等の各ハードウェアを備えたコンピュータである。
図3は余所見判定装置の機能ブロック図である。
余所見判定装置1は電源が投入されると起動し、予め記憶する余所見判定プログラムを実行する。これにより余所見判定装置1には、制御部11、情報取得部12、余所見開始判定部13、余所見判定部14、判定結果出力部15、を少なくとも備える。
制御部11は他の機能部を制御する。
情報取得部12は撮影画像、車両情報、天候情報、加速度情報などのドライブレコーダ2から送信された情報を取得する。
余所見開始判定部13は余所見判定を開始するかを判定する。
余所見判定部14は運転者が余所見状態か否かを判定する。
判定結果出力部15は余所見判定結果を出力する。
図4は余所見判定部の詳細を示す機能ブロック図である。
図4で示すように余所見判定部14は、第一余所見判定部141、第二余所見判定部142、及び第三余所見判定部143の機能を備える。
具体的には、第一余所見判定部141は、撮影画像に基づいて運転者の視線方向を検出し、移動体の進行方向を基準とする所定の視線範囲と視線方向とに基づいて余所見状態か否かを判定する。この処理において第一余所見判定部141は、視線方向が所定の視線範囲に含まれていない時間を測定し、当該時間の単位時間当たりの割合が所定割合以上である場合に余所見状態と判定してよい。
また第二余所見判定部142は、視線方向を検出できない場合に、移動体の進行方向を基準とする所定の顔方向範囲と運転者の顔方向とに基づいて、余所見状態か否かを判定する。この処理において第二余所見判定部142は、顔方向が所定の顔方向範囲に含まれていない時間を測定し、当該時間の単位時間当たりの割合が所定割合以上である場合に余所見状態と判定してよい。
また第三余所見判定部143は、視線方向を検出できない場合であって、運転者の顔方向を検出できない場合に、撮影画像に基づいて運転者の顔を検出できるか否かを判定する。第三余所見判定部143は、当該運転者の顔を検出できない場合に、余所見状態と判定する。この処理において、第三余所見判定部143は、運転者の顔が検出できない時間を検出し、その時間の単位時間当たりの割合が所定割合以上である場合に余所見状態と判定する。
図5はドライブレコーダのハードウェア構成を示す図である。
ドライブレコーダ2は、加速度センサ21、通信装置22、カメラ23(撮影装置)、制御装置24、記憶装置25などを含んで構成される。加速度センサ21は車両の加速度を検知する。通信装置22は余所見判定装置1と通信接続する。カメラ23は車両の外部や内部を撮影して、少なくとも動画像、静止画像のいずれかを生成する。
制御装置24はドライブレコーダ2の各機能を制御する。記憶装置25は、動画像及び静止画像のいずれか、加速度センサ21で検知した加速度やその他のドライブレコーダ2の外部から取得した情報等を記憶する。ドライブレコーダ2は基地局等を介して余所見判定装置1と通信接続する。なおドライブレコーダ2の制御装置24は、CPU、ROM、RAM等を備えたコンピュータである。
図6はドライブレコーダ2に備わる制御装置24の機能ブロック図である。
制御装置24はドライブレコーダ2が起動すると制御プログラムを実行する。これにより制御装置24には、車両情報取得部241、天候情報取得部242、加速度情報取得部243、撮影画像取得部244、運転状況データ送信部245、及び撮影画像送信部246の各機能部が備わる。
図7はドライブレコーダ2の処理フローを示す図である。
余所見判定システム100の処理フローについて順を追って説明する。
まずドライブレコーダ2における運転状況情報の送信処理について説明する。
車両20の電気系統が起動するとドライブレコーダ2が動作を始動する(ステップS101)。ドライブレコーダ2の加速度センサ21は、ドライブレコーダ2の始動後に車両の加速度のセンシングを開始する(ステップS102)。またカメラ23は車内および車外の撮影を開始する(ステップS103)。なおカメラ23は車内側レンズと車外側レンズを備えてよい。カメラ23は、車内側レンズを用いて車内を撮影し、車内の運転者の顔の方向の対象物を撮影する。カメラ23は車外側レンズを用いて車外の進行方向の対象物を撮影する。
ドライブレコーダ2の動作中、制御装置24の車両情報取得部241は車両情報を取得する(ステップS104)。車両情報取得部241が取得する車両情報は、車両に備わる各センサによって検出された車速、ハンドル角度、ウィンカー指示方向などである。本実施形態においては、車両情報には、少なくとも車速とウィンカー指示方向とが含まれる。車両情報には、ハンドル角度、ウィンカー指示方向以外の情報がさらに含まれてもよい。
また天候情報取得部242は天候情報を取得する(ステップS105)。天候情報は気象庁や天候情報提供企業に備わるサーバ装置から取得されてもよい。または天候情報は、車両に備わるセンサ(ワイパー動作検出器や雨滴検出器)などから得られる情報であってよい。制御装置24は、ワイパーが動作している場合、又は雨滴検出器が雨滴を検出している場合には雨天であると判定してよい。
加速度情報取得部243は、加速度センサ21から所定の時間間隔で加速度を取得する(ステップS106)。制御装置24は車両情報、天候情報、加速度を所定の間隔で取得する。なお本実施形態においては制御装置24が天候情報と加速度とを取得する態様について説明しているが、天候情報と加速度は、必ずしも取得されなくてもよい。
またドライブレコーダ2の動作中、制御装置24の撮影画像取得部244はカメラ23から撮影画像(少なくとも動画像、静止画像のいずれか)を取得する。当該撮影画像には運転者の顔の範囲の情報が少なくとも含まれる。撮影画像取得部244は撮影画像を撮影画像送信部246へ出力する。
運転状況データ送信部245は、所定の間隔で車両情報、天候情報、及び加速度情報を余所見判定装置1へ送信するよう、通信装置22に指示する。通信装置22は車両情報、天候情報、加速度情報を余所見判定装置1へ送信する(ステップS107)。なお、制御装置24において天候情報と加速度とが取得されない場合には、それらの情報は余所見判定装置1へ送信されなくてよい。
撮影画像送信部246は撮影画像を余所見判定装置1へ送信するよう通信装置22に指示する。通信装置22は撮影画像を余所見判定装置1へ送信する(ステップS108)。制御装置24は処理終了かを判定し(ステップS109)、処理終了であると判定されるまでステップS102からの処理を繰り返す。なお、車両情報、天候情報、加速度情報、撮影画像には、ドライブレコーダ2のID、運転者のID、センシング時刻が付与される。
図8は余所見判定装置1の処理フローを示す図である。
余所見判定装置1において情報取得部12はドライブレコーダ2のID、及び運転者のIDに基づいて、対応する車両情報、天候情報、加速度情報、及び撮影画像の組を当該各IDに紐づけて、順次、データベース104へ記録する(ステップS201)。そして制御部11は余所見判定処理を行うよう余所見開始判定部13、余所見判定部14に指示する。
余所見開始判定部13はある一つのドライブレコーダ2を特定し、特定したドライブレコーダ2のIDに紐づいて記録されているセンシング時刻、車両情報、天候情報、加速度情報、及び撮影画像を取得する。
余所見判定部14は、車両情報に含まれる車速が前方方向の速度(前進)で所定の速度以上を示し、かつウィンカー指示方向が方向指示を指定していないか否かを判定する(ステップS202)。所定の速度は一例としては20km/hなどの値であってよい。車速が前進で所定の速度以上を示し、ウィンカー指示を指定していない場合(ステップS202のYES)、余所見判定部14は余所見判定を開始すると決定する(ステップS203)。
余所見開始判定部13は他の情報を利用して、または他の情報を追加で利用して余所見判定を開始すると決定してもよい。例えば、余所見判定部14は、加速度が0以上か否かを判定して、加速度が0以上である場合に余所見判定を開始すると決定してもよい。また余所見判定部14は、ハンドル角度が所定の範囲内か否かによって余所見判定を開始するか否かを決定してもよい。ハンドル角度の所定の範囲は例えば直進方向を基準とする左右10度などであってよい。また余所見判定部14は、天候情報が雨を示す場合に余所見判定を開始すると決定してもよい。
余所見判定部14は、車外の撮影画像に基づいて余所見判定を開始するか否かを決定してもよい。例えば、撮影画像の直進方向に対象物が映る場合、又は撮影画像に車線のカーブが映る場合に、余所見判定を開始すると決定してよい。余所見判定部14は、車両20が走行する道路における事故情報や付近の催し物開催情報に基づいて、余所見判定を開始するか否かを決定してもよい。ドライブレコーダ2において車両の危険イベント(事故に発展する可能性のある事象)を検知する場合、余所見判定部14はドライブレコーダ2において危険イベントを検知した際に、余所見判定を開始すると決定してもよい。
余所見判定を開始すると決定すると、余所見判定部14は開始を指示する。余所見判定部14は余所見判定を開始するかどうかの判定処理を所定の間隔で繰り返す。
余所見判定部14は、現在の処理対象のドライブレコーダ2のIDに基づいて、情報取得部12が既に取得している撮影画像を当該情報取得部12から入力する。余所見判定部14は余所見判定を開始すると決定した場合、所定の間隔でドライブレコーダ2から受信する撮影画像のうち、車内を撮影した撮影画像を順次読み取る。
余所見判定部14が車内の撮影画像を読み取ると、第一余所見判定部141が新たに取得した撮影画像を用いて運転者の視線方向を検出できるか否かを判定する(ステップS204)。第一余所見判定部141は視線方向の算出を公知の技術を用いて行う。
第一余所見判定部141は、視線方向の算出処理の結果、視線方向を検出できた場合、その視線方向が直進方向を基準とする第一の所定の範囲に含まれていない時間を測定する。第一の所定範囲は、直進方向を基準として左右10度などの範囲であってよい。速度が低速の場合には、運転者が広い範囲を目視する可能性が高くなる。このため、第一余所見判定部141は、直進方向を基準とする第一の所定の範囲の幅を左右20度などと広げるようにしてもよい。
第一余所見判定部141は、視線方向の直進方向を基準とする第一の所定の範囲に含まれていない時間が、単位時間当たりに第一の所定割合以上となるか否かを判定する(ステップS205)。第一余所見判定部141は、視線方向の直進方向を基準とする第一の所定の範囲に含まれていない時間の単位時間当たりの割合が第一の所定割合以上となる場合(ステップS205のYES)、運転者は余所見状態であると判定する(ステップS206)。視線方向の直進方向を基準とする第一の所定の範囲に含まれていない時間の単位時間当たりの割合が第一の所定割合以上とならないと第一余所見判定部141が判定した場合(ステップS205のNO)、制御部11はステップ201からの処理を繰り返すよう制御する。
視線方向の直進方向を基準とする第一の所定の範囲に含まれていない時間については、所定時間のうちの連続した時間でもよいし、所定時間のうちの断続的な時間を合計した時間であってもよい。
ステップS204において運転者の視線方向を検出できないと判定した場合(ステップS204のNO)、第一余所見判定部141は第二余所見判定部142に処理開始を指示する。第二余所見判定部142は、撮影画像を用いて運転者の顔方向を検出できるか否かを判定する(ステップS207)。第二余所見判定部142は顔方向の算出を公知の技術を用いて行う。
第二余所見判定部142は、顔方向の算出処理の結果、顔方向を検出できた場合(ステップS207のYES)、その顔方向が直進方向を基準とする第二の所定の範囲に含まれていない時間を測定する。第二の所定の範囲は直進方向を基準として左右10度などの範囲であってよい。速度が低速の場合には、運転者が広い範囲を目視する可能性が高くなる。このため、第二余所見判定部142は、直進方向を基準とする第二の所定の範囲の幅を左右20度などと広げるようにしてもよい。第二の所定範囲は第一の所定範囲と異なる範囲であってよい。
第二余所見判定部142は、顔方向の直進方向を基準とする第二の所定の範囲に含まれていなない時間の単位時間当たりの割合が第二の所定割合以上となるか否かを判定する(ステップS208)。第二余所見判定部142は、顔方向の直進方向を基準とする第二の所定の範囲内に含まれていない時間の単位時間当たりの割合が第二の所定割合以上となる場合(ステップS208のYES)、運転者は余所見状態であると判定する(ステップS209)。顔方向の直進方向を基準とする第二の所定の範囲内に含まれていない時間の単位時間当たりの割合が第二の所定割合以上とならないと第二余所見判定部142が判定した場合(ステップS208のNO)、制御部11はステップ201からの処理を繰り返すよう制御する。
顔方向の直進方向を基準とする第二の所定の範囲内に含まれていない時間については、所定時間のうちの連続した時間でもよいし、所定時間のうちの断続的な時間を合計した時間であってもよい。第一の所定割合は第二の所定割合と異なる値であってよい。
ステップS207において運転者の顔方向を検出できないと判定した場合(ステップS207のNO)、第二余所見判定部142は第三余所見判定部143に処理開始を指示する。第三余所見判定部143は撮影画像を用いて運転者の顔が検出されているか否かを判定する(ステップS210)。第三余所見判定部143は顔が検出されているか否かの判定を公知の技術を用いて行う。
第三余所見判定部143は、顔が検出されているか否かの判定の結果、顔が検出されていないと判定した場合(ステップS210のNO)、顔が検出されていない時間を測定する。第三余所見判定部143は、顔の検出されていない時間の単位時間当たりの割合が第三の所定割合以上となるか否かを判定する(ステップS211)。第三余所見判定部143は、顔が検出されていない時間の単位時間当たりの割合が第三の所定割合以上となる場合(ステップS211のYES)、運転者は余所見状態であると判定する(ステップS212)。顔が検出されていない時間の単位時間当たりの割合が第三の所定割合以上とならないと第三余所見判定部143が判定した場合(ステップS211のNO)、制御部11はステップ201からの処理を繰り返すよう制御する。
顔が検出されていない時間については、所定時間のうちの連続した時間でもよいし、所定時間のうちの断続的な時間を合計した時間であってもよい。第三の所定割合は、第一の所定割合、及び第二の所定割合と異なる値であってよい。
余所見判定部14は余所見が行われていると判定した場合には(ステップS206、S209、S212)、判定結果出力部15へ余所見判定結果を出力するよう指示する。判定結果出力部15は余所見が行われていると判定したドライブレコーダ2のIDを取得する。判定結果出力部15はドライブレコーダ2のIDに基づいて、その送信先となるドライブレコーダ2のネットワークアドレスをデータベース104から取得する。送信先のネットワークアドレスは予めデータベース104に記録されているものとする。判定結果出力部15は、当該送信先のドライブレコーダ2に余所見検知を示す情報を送信する(ステップS213)。判定結果出力部15は余所見検知を示す情報を、ドライブレコーダ2のIDや運転者のIDに紐づけてデータベース104に記録してもよい。
余所見判定部14は終了するか否かを判定する(ステップS214)。終了しないと判定された場合(ステップS214のNO)、余所見判定装置1は次にドライブレコーダ2から受信した情報等を用いて同様の処理を所定間隔で繰り返す。
ドライブレコーダ2は、余所見判定装置1から余所見検知の情報を受信する。ドライブレコーダ2は余所見検知の情報を受信すると、アラーム音を発信するなど、余所見検知を運転者に知らせる処理を行う。これにより運転者は余所見運転を認識することができる。
上述の処理においてはクラウドサーバとして通信ネットワークに接続された余所見判定装置1が余所見判定を行っている。しかしながら上述の余所見判定の処理はドライブレコーダ2が単独で行うようにしてもよい。つまりドライブレコーダ2が余所見判定装置1として動作してもよい。この場合、ドライブレコーダ2が上述の情報取得部12、余所見開始判定部13、余所見判定部14、及び判定結果出力部15と同様の処理を行うようにしてもよい。
またはドライブレコーダ2と接続され、車内20に搭載されている車載器が情報取得部12、余所見開始判定部13、余所見判定部14、及び判定結果出力部15の処理を備えてもよい。この場合、車載器が余所見判定装置1として動作する。この場合、車載器が、情報取得部12、余所見開始判定部13、余所見判定部14、及び判定結果出力部15と同様の処理を行う。
上述の処理によれば、移動体を運転する運転者が余所見状態か否かを、より精度良く判定することができる。つまり、上述の処理によれば、余所見判定装置1は、最初に運転者の視線方向を検出して当該視線方向と車両20の進行方向を基準とする所定の視線範囲とに基づいて余所見状態か否かを判定する。その後、余所見判定装置1は、視線方向を検出できない場合に、運転者の顔方向に基づいて余所見状態か否かを判定している。
このように、余所見判定装置1は顔方向による余所見状態の判定前に視線方向による余所見状態の判定を行っている。従って、余所見判定装置1は、顔方向が所定範囲を向いていない場合であっても視線方向が進行方向を向いているために余所見状態ではない場合に、余所見状態であると誤認識しない余所見判定装置を提供することができる。
また上述の処理によれば顔方向や視線方向が少しずれただけで余所見検知アラートをすることはなく、所定期間内において所定割合以上に顔方向や視線方向がずれた場合に、余所見検知アラートを出力する。これにより運転者に対する不要な余所見検知アラートの出力を削減することができる。
また上述の余所見判定装置1によれば、所定の速度未満での低速運転など視線方向が前方から離れる可能性が高い状況において余所見であると判定されてしまうことを回避する。これにより運転者に対する不要な余所見検知アラートの出力を削減することができる。
例えば、余所見判定装置1は車両の速度低下に応じて余所見判定の可能性があると判定する場合の直進方向を基準とする範囲を広げる処理を行う。このとき、第一の所定範囲、及び第二の所定の範囲を広げてもよいし、いずれか一方の所定範囲を増大させてもよい。第一の所定範囲と第二の所定の範囲との間で、増大させる度合いが異なっていてもよい。これにより、速度に応じた適切な顔方向、視線方向の範囲に基づく余所見判定を行うことができる。
また、余所見判定装置1は、視線が直進方向を基準とする所定範囲に含まれる時間の単位時間当たりの割合が所定割合以上かを判定する処理において、速度が低下するほど当該所定割合の値を増大させてもよい。このとき、第一の所定割合、第二の所定割合、及び第三の所定割合の全てを増大させてもよいし、一部の所定割合のみを増大させてもよい。第一の所定割合、第二の所定割合、及び第三の所定割合の間で、増大させる度合いが異なっていてもよい。これにより速度に応じた適切な顔方向、視線方向の範囲に基づく余所見判定を行うことができる。
上述の実施形態では、移動体が車両20である場合について説明しているが、余所見判定装置1は、船舶、航空機などの他の移動体の運転者の余所見判定を行うようにしてもよい。
図9は余所見判定装置1の最小構成を示す図である。
図10は最小構成の余所見判定装置1の処理フローを示す図である。
余所見判定装置1は少なくとも情報取得部12(撮影画像取得部)と、第一余所見判定部141と、第二余所見判定部142とを備えればよい。
情報取得部12は、移動体を運転する運転者の撮影画像を取得する(ステップS801)。
第一余所見判定部141は、撮影画像に基づいて運転者の視線方向を検出し、移動体の進行方向を基準とする所定の視線範囲と視線方向とに基づいて余所見状態か否かを判定する(ステップS802)。
第二余所見判定部142は、視線方向を検出できない場合に、運転者の顔方向と移動体の進行方向を基準とする所定の顔方向範囲とに基づいて余所見状態か否かを判定する(ステップS803)。
上述の余所見判定装置1およびドライブレコーダ2は内部に、コンピュータシステムを有している。そして、上述した各処理の過程は、プログラムの形式でコンピュータ読み取り可能な記録媒体に記憶されており、このプログラムをコンピュータが読み出して実行することによって、上記処理が行われる。ここでコンピュータ読み取り可能な記録媒体とは、磁気ディスク、光磁気ディスク、CD-ROM、DVD-ROM、半導体メモリ等をいう。また、このコンピュータプログラムを通信回線によってコンピュータに配信し、この配信を受けたコンピュータが当該プログラムを実行するようにしても良い。
また、上記プログラムは、前述した機能の一部を実現するためのものであっても良い。さらに、前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるもの、いわゆる差分ファイル(差分プログラム)であっても良い。
この出願は、2018年12月27日に日本出願された特願2018-245790号を基礎とする優先権を主張し、その開示の全てをここに取り込む。
本発明によれば、移動体を運転する運転者が余所見状態か否かを、より精度良く判定することができる。
1・・・余所見判定装置
2・・・ドライブレコーダ
11・・・制御部
12・・・情報取得部
13・・・余所見開始判定部
14・・・余所見判定部
15・・・判定結果出力部
21・・・加速度センサ
23・・・カメラ
24・・・制御装置
141・・・第一余所見判定部
142・・・第二余所見判定部
143・・・第三余所見判定部
241・・・車両情報取得部
242・・・天候情報取得部
243・・・加速度情報取得部
244・・・撮影画像取得部
245・・・運転状況データ送信部
246・・・撮影画像送信部

Claims (7)

  1. 移動体を運転する運転者の撮影画像を取得する撮影画像取得手段と、
    前記撮影画像に基づいて前記運転者の視線方向を検出し、前記移動体の進行方向を基準とする所定の視線範囲と前記視線方向とに基づいて余所見状態か否かを判定する第一余所見判定手段と、
    前記視線方向を検出できない場合に、前記移動体の進行方向を基準とする所定の顔方向範囲と前記運転者の顔方向とに基づいて前記余所見状態か否かを判定する第二余所見判定手段と、
    前記視線方向および前記顔方向を検出できない場合に、前記撮影画像に基づいて前記運転者の顔を検出できるか否かを判定し、当該運転者の顔を検出できない場合には、前記余所見状態と判定する第三余所見判定手段と、
    を備える余所見判定装置。
  2. 前記第一余所見判定手段は、前記視線方向が前記所定の視線範囲に含まれていない時間を測定し、当該時間の単位時間当たりの割合が第一の所定割合以上である場合に前記余所見状態と判定する
    請求項1に記載の余所見判定装置。
  3. 前記第二余所見判定手段は、前記顔方向が前記所定の顔方向範囲に含まれていない時間を測定し、当該時間の単位時間当たりの割合が第二の所定割合以上である場合に前記余所見状態と判定する
    請求項1または請求項2に記載の余所見判定装置。
  4. 前記第三余所見判定手段は、前記運転者の顔を検出できない時間を検出し、前記検出した時間の単位時間当たりの割合が第三の所定割合以上である場合に前記余所見状態と判定する
    請求項1から請求項3の何れか一項に記載の余所見判定装置。
  5. 撮影装置と余所見判定装置とを備え、前記撮影装置と前記余所見判定装置とが通信ネットワークで接続された余所見判定システムであって、
    前記余所見判定装置が、
    移動体を運転する運転者の撮影画像を取得する撮影画像取得手段と、
    前記撮影画像に基づいて前記運転者の視線方向を検出し、前記移動体の進行方向を基準とする所定の視線範囲と前記視線方向とに基づいて余所見状態か否かを判定する第一余所見判定手段と、
    前記視線方向を検出できない場合に、前記移動体の進行方向を基準とする所定の顔方向範囲と前記運転者の顔方向とに基づいて前記余所見状態か否かを判定する第二余所見判定手段と、
    前記視線方向および前記顔方向を検出できない場合に、前記撮影画像に基づいて前記運転者の顔を検出できるか否かを判定し、当該運転者の顔を検出できない場合には、前記余所見状態と判定する第三余所見判定手段と、
    を備える余所見判定システム。
  6. 移動体を運転する運転者の撮影画像を取得し、
    前記撮影画像に基づいて前記運転者の視線方向を検出し、前記移動体の進行方向を基準とする所定の視線範囲と前記視線方向とに基づいて余所見状態か否かを判定し、
    前記視線方向を検出できない場合に、前記移動体の進行方向を基準とする所定の顔方向範囲と前記運転者の顔方向とに基づいて前記余所見状態か否かを判定し、
    前記視線方向および前記顔方向を検出できない場合に、前記撮影画像に基づいて前記運転者の顔を検出できるか否かを判定し、当該運転者の顔を検出できない場合には、前記余所見状態と判定する
    余所見判定方法。
  7. 余所見判定装置のコンピュータに、
    移動体を運転する運転者の撮影画像を取得し、
    前記撮影画像に基づいて前記運転者の視線方向を検出し、前記移動体の進行方向を基準とする所定の視線範囲と前記視線方向とに基づいて余所見状態か否かを判定し、
    前記視線方向を検出できない場合に、前記移動体の進行方向を基準とする所定の顔方向範囲と前記運転者の顔方向とに基づいて余所見状態か否かを判定
    前記視線方向および前記顔方向を検出できない場合に、前記撮影画像に基づいて前記運転者の顔を検出できるか否かを判定し、当該運転者の顔を検出できない場合には、前記余所見状態と判定する
    処理を実行させるプログラム。
JP2020563309A 2018-12-27 2019-12-24 余所見判定装置、余所見判定システム、余所見判定方法、プログラム Active JP7207434B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2022212272A JP2023052172A (ja) 2018-12-27 2022-12-28 余所見判定装置、余所見判定システム、余所見判定方法、プログラム、端末装置、車両

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2018245790 2018-12-27
JP2018245790 2018-12-27
PCT/JP2019/050623 WO2020138088A1 (ja) 2018-12-27 2019-12-24 余所見判定装置、余所見判定システム、余所見判定方法、プログラムを記憶する記憶媒体

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2022212272A Division JP2023052172A (ja) 2018-12-27 2022-12-28 余所見判定装置、余所見判定システム、余所見判定方法、プログラム、端末装置、車両

Publications (2)

Publication Number Publication Date
JPWO2020138088A1 JPWO2020138088A1 (ja) 2021-10-07
JP7207434B2 true JP7207434B2 (ja) 2023-01-18

Family

ID=71126437

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2020563309A Active JP7207434B2 (ja) 2018-12-27 2019-12-24 余所見判定装置、余所見判定システム、余所見判定方法、プログラム
JP2022212272A Pending JP2023052172A (ja) 2018-12-27 2022-12-28 余所見判定装置、余所見判定システム、余所見判定方法、プログラム、端末装置、車両

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2022212272A Pending JP2023052172A (ja) 2018-12-27 2022-12-28 余所見判定装置、余所見判定システム、余所見判定方法、プログラム、端末装置、車両

Country Status (3)

Country Link
US (1) US20220067411A1 (ja)
JP (2) JP7207434B2 (ja)
WO (1) WO2020138088A1 (ja)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009157736A (ja) 2007-12-27 2009-07-16 Omron Corp 脇見検出装置および方法、並びに、プログラム
JP2018067198A (ja) 2016-10-20 2018-04-26 矢崎総業株式会社 走行支援装置

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9101279B2 (en) * 2006-02-15 2015-08-11 Virtual Video Reality By Ritchey, Llc Mobile user borne brain activity data and surrounding environment data correlation system
JP7180067B2 (ja) * 2017-11-06 2022-11-30 日本電気株式会社 運転支援装置
US10737666B2 (en) * 2017-11-29 2020-08-11 Ford Global Technologies, Llc Automotive control
US11017249B2 (en) * 2018-01-29 2021-05-25 Futurewei Technologies, Inc. Primary preview region and gaze based driver distraction detection
US10618523B1 (en) * 2018-04-19 2020-04-14 State Farm Mutual Automobile Insurance Company Assessing driver ability to operate an autonomous vehicle
CN113056390A (zh) * 2018-06-26 2021-06-29 伊泰·卡茨 情境驾驶员监控系统
WO2021040060A1 (ko) * 2019-08-23 2021-03-04 엘지전자 주식회사 차량용 전자 장치 및 그의 동작 방법
US11535260B2 (en) * 2020-03-05 2022-12-27 Harman International Industries, Incorporated Attention-based notifications
US20220180109A1 (en) * 2020-12-04 2022-06-09 Nauto, Inc. Devices and methods for monitoring drivers of vehicles
US11562550B1 (en) * 2021-10-06 2023-01-24 Qualcomm Incorporated Vehicle and mobile device interface for vehicle occupant assistance
JP2024013618A (ja) * 2022-07-20 2024-02-01 トヨタ自動車株式会社 漫然運転判定装置及び漫然運転判定方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009157736A (ja) 2007-12-27 2009-07-16 Omron Corp 脇見検出装置および方法、並びに、プログラム
JP2018067198A (ja) 2016-10-20 2018-04-26 矢崎総業株式会社 走行支援装置

Also Published As

Publication number Publication date
JP2023052172A (ja) 2023-04-11
WO2020138088A1 (ja) 2020-07-02
US20220067411A1 (en) 2022-03-03
JPWO2020138088A1 (ja) 2021-10-07

Similar Documents

Publication Publication Date Title
KR102042371B1 (ko) 주차 스페이스 검출 방법 및 장치
US9070293B2 (en) Device and method for traffic sign recognition
US9020747B2 (en) Method for recognizing a turn-off maneuver
US20110128136A1 (en) On-vehicle device and recognition support system
CN110998685B (zh) 行进障碍检测装置和车辆导航系统
US20190143993A1 (en) Distracted driving determination apparatus, distracted driving determination method, and program
US11893806B2 (en) Looking away determination device, looking away determination system, looking away determination method, and storage medium
US20170151945A1 (en) Information processing device, information processing method, control device for vehicle, and control method for vehicle
US11498552B2 (en) Parking assistance device and control method of parking assistance device
JP2008254487A (ja) 横風警告装置、横風警告装置を搭載した自動車、および横風警告方法
JP7124935B2 (ja) 余所見判定装置、余所見判定システム、余所見判定方法、プログラム
US11482020B2 (en) Looking away determination device, looking away determination system, looking away determination method, and storage medium
KR20160079497A (ko) 차량 충돌 경고 방법 및 장치
JP2020071122A (ja) 自車位置推定装置
JP4225190B2 (ja) 車両運転支援装置
JP5321441B2 (ja) 運転支援装置
JP7207434B2 (ja) 余所見判定装置、余所見判定システム、余所見判定方法、プログラム
JP5040851B2 (ja) 脇見運転判定装置
JP6936585B2 (ja) 危険回避支援装置、危険回避支援システム、及び危険回避支援方法
CN110733495B (zh) 驾驶辅助系统和方法
CN112950995B (zh) 泊车辅助装置、辅助装置、相应方法及车辆和服务器
JP7115872B2 (ja) ドライブレコーダ、及び画像記録方法
JP2019120631A (ja) カメラずれ検出装置およびカメラずれ検出方法
JP2020027315A (ja) 運転者情報判定装置
CN116266401A (zh) 道路积水检测方法及装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210412

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210412

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220621

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220819

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20221206

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221219

R151 Written notification of patent or utility model registration

Ref document number: 7207434

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151