課題を解決するための手段及びその効果
本発明は上記課題に鑑みなされたものであって、人物の漫然状態を精度良く判定することができる状態判定装置、該装置を備えた車載機、該車載機を含んで構成される運転評価システム、状態判定方法、該方法を実現するためのプログラムを提供することを目的としている。
上記目的を達成するために本開示に係る状態判定装置(1)は、人物の状態を判定する状態判定装置であって、
前記人物の顔を撮像した画像から前記人物の眼開閉度を検出する眼開閉度検出部と、
該眼開閉度検出部により検出された第1所定期間の前記眼開閉度を用いて、前記人物の閉眼率を算出する閉眼率算出部と、
該閉眼率算出部により算出された第2所定期間の前記閉眼率を用いて、前記閉眼率の変動特徴量を算出する変動特徴量算出部と、
該変動特徴量算出部により算出された前記変動特徴量に基づいて、前記人物の漫然状態を判定する漫然状態判定部とを備えていることを特徴としている。
上記状態判定装置(1)によれば、前記画像から前記人物の眼開閉度が検出され、検出された前記第1所定期間の前記眼開閉度を用いて、前記人物の閉眼率が算出され、算出された前記第2所定期間の前記閉眼率を用いて、前記閉眼率の変動特徴量が算出され、算出された前記変動特徴量に基づいて、前記人物の漫然状態が判定されることとなる。したがって、前記人物の漫然状態が、前記変動特徴量に基づいて判定されるので、例えば、前記閉眼率の個人差、又は前記画像の撮像位置の違いなどの要因によって、覚醒時であっても前記閉眼率が高めに計測されるような場合であっても、これら要因の影響を受けることなく、前記漫然状態を精度良く判定することができる。前記人物は、例えば、車両を運転する運転者であってもよいし、所定の作業を行っている作業者などであってもよい。
また本開示に係る状態判定装置(2)は、上記状態判定装置(1)において、前記閉眼率算出部により算出された前記閉眼率に対して前処理を行う前処理部をさらに備え、
前記変動特徴量算出部が、
前記前処理部により前処理された後の前記閉眼率を用いて、前記変動特徴量を算出するものであることを特徴としている。
上記状態判定装置(2)によれば、前記前処理部によって前記閉眼率に対する前記前処理が行われ、該前処理された後の前記閉眼率を用いて、前記変動特徴量が算出される。したがって、前記変動特徴量の算出に、前記前処理された後の前記閉眼率を用いることによって、前記漫然状態へ移行する特徴をより正確に表す特徴量を算出することが可能となり、前記漫然状態への移行を精度良く判定することができる。
また本開示に係る状態判定装置(3)は、上記状態判定装置(2)において、前記前処理部が、前記閉眼率の平滑化処理を行うものであることを特徴としている。
上記状態判定装置(3)によれば、前記前処理部により前記閉眼率の平滑化処理が行われるので、前記平滑化処理された後の前記閉眼率を用いて前記変動特徴量が算出されることとなり、前記漫然状態へ移行する傾向を表す特徴量の算出が容易となる。前記平滑化処理は、例えば、所定期間毎の前記閉眼率の移動平均を求める処理などであってもよい。
また本開示に係る状態判定装置(4)は、上記状態判定装置(2)において、所定の事象を検出する事象検出部をさらに備え、
前記前処理部が、
前記第2所定期間の前記閉眼率のうち、前記事象検出部により前記所定の事象が検出された時又は期間に算出された前記閉眼率を、前記変動特徴量の算出対象データから除く除去処理を行うものであることを特徴としている。
上記状態判定装置(4)によれば、前記前処理部により、前記第2所定期間の前記閉眼率のうち、前記事象検出部により前記所定の事象が検出された時又は期間に算出された前記閉眼率が、前記変動特徴量の算出対象データから除去される。そして、前記除去処理された後の前記閉眼率を用いて、前記変動特徴量が算出される。したがって、前記変動特徴量の算出に、前記除去処理後の前記閉眼率を用いることによって、前記漫然状態へ移行する特徴をより正確に表す特徴量を算出することができ、前記漫然状態への移行を精度良く判定することができる。
また本開示に係る状態判定装置(5)は、上記状態判定装置(4)において、前記前処理部が、前記除去処理後の前記閉眼率の平滑化処理をさらに行うものであることを特徴としている。
上記状態判定装置(5)によれば、前記前処理部により、前記除去処理後の前記閉眼率の平滑化処理がさらに行われるので、前記平滑化処理された前記閉眼率を、前記変動特徴量の算出に用いることができ、前記変動特徴量を、前記漫然状態へ移行する傾向が把握しやすい特徴量として算出することができ、前記漫然状態への移行を精度良く判定することができる。前記平滑化処理は、例えば、所定期間毎の前記閉眼率の移動平均を求める処理であってもよい。
また本開示に係る状態判定装置(6)は、上記状態判定装置(4)又は(5)において、前記第2所定期間の前記閉眼率のうち、前記除去処理により除去された前記時又は期間における前記閉眼率を補間する補間処理部をさらに備えていることを特徴としている。
上記状態判定装置(6)によれば、前記補間処理部により、前記第2所定期間の前記閉眼率のうち、前記除去処理により除去された前記時又は期間における前記閉眼率が補間される。したがって、前記補間処理部により前記閉眼率を補間することができるので、前記変動特徴量の算出を適切に行うことができる。
また本開示に係る状態判定装置(7)は、上記状態判定装置(4)~(6)のいずれかにおいて、前記人物が、車両の運転者であり、
前記事象検出部が、前記所定の事象として、前記車両が走行する道路種別が切り替わった事象、前記車両が停車した事象、前記車両が走行を開始した事象、前記車両に急ハンドルが発生した事象、前記車両に急ブレーキが発生した事象、及び前記車両に衝撃が発生した事象のうちの少なくともいずれかの事象を検出する車両動態検出部を含んでいることを特徴としている。
上記状態判定装置(7)によれば、前記事象検出部が、前記車両動態検出部を含んでいるので、前記第2所定期間の前記閉眼率のうち、前記車両が走行する道路種別が切り替わった事象、前記車両が停車した事象、前記車両が走行を開始した事象、前記車両に急ハンドルが発生した事象、前記車両に急ブレーキが発生した事象、及び前記車両に衝撃が発生した事象のうちの少なくともいずれかの事象が検出された時又は期間に算出された前記閉眼率を、前記変動特徴量の算出対象データから除くことが可能となる。したがって、前記車両の動態が時々刻々と変化する実車環境であっても、前記漫然状態へ移行する傾向をより正確に示す特徴量として、前記変動特徴量を算出することができ、前記実車環境における前記運転者の漫然状態への移行を精度良く判定することができる。
また本開示に係る状態判定装置(8)は、上記状態判定装置(4)~(6)のいずれかにおいて、前記人物が、車両の運転者であり、
前記事象検出部が、前記所定の事象として、前記車両の運転中に前記人物の顔の向きが変化する事象を検出する顔向き事象検出部を含んでいることを特徴としている。
上記状態判定装置(8)によれば、前記事象検出部が、前記顔向き事象検出部を含んでいるので、前記第2所定期間の前記閉眼率のうち、前記車両の運転中に前記人物の顔の向きが変化する事象が検出された時又は期間に算出された前記閉眼率を、前記変動特徴量の算出対象データから除くことが可能となる。したがって、前記運転者の顔の向きが様々に変化する実車環境であっても、前記漫然状態へ移行する傾向をより正確に示す特徴量として、前記変動特徴量を算出することができ、前記実車環境における前記運転者の漫然状態への移行を精度良く判定することができる。
また本開示に係る状態判定装置(9)は、上記状態判定装置(1)~(8)のいずれかにおいて、前記変動特徴量算出部が、前記変動特徴量として、前記第2所定期間の前記閉眼率のばらつきの程度を示す指標を算出するものであることを特徴としている。
上記状態判定装置(9)によれば、前記変動特徴量算出部により、前記変動特徴量として、前記第2所定期間の前記閉眼率のばらつきの程度を示す指標、例えば、標準偏差、又は分散などの値が算出され、前記指標に基づいて、前記人物の漫然状態が判定される。したがって、前記人物の漫然状態の判定に、前記閉眼率のばらつきの程度、換言すれば、ばらつき度合いの変化が考慮されるので、例えば、覚醒状態であっても前記閉眼率が高めに計測されるような場合であっても、前記閉眼率そのものの値による影響を受けることなく、前記漫然状態へ移行するタイミングを精度良く判定することができる。
また本開示に係る状態判定装置(10)は、上記状態判定装置(1)~(8)のいずれかにおいて、前記変動特徴量算出部が、前記変動特徴量として、前記第2所定期間の前記閉眼率の変化量又は変化率を算出するものであることを特徴としている。
上記状態判定装置(10)によれば、前記変動特徴量算出部により、前記変動特徴量として、前記第2所定期間の前記閉眼率の変化量又は変化率が算出され、前記閉眼率の変化量又は変化率に基づいて、前記人物の漫然状態が判定される。したがって、前記人物の漫然状態の判定に、前記閉眼率の変化量又は変化率、換言すれば、変化の大きさが考慮されるので、例えば、覚醒状態であっても前記閉眼率が高めに計測されるような場合であっても、前記閉眼率そのものの値による影響を受けることなく、前記漫然状態へ移行するタイミングを精度良く判定することができる。
また本開示に係る状態判定装置(11)は、上記状態判定装置(1)~(8)のいずれかにおいて、前記変動特徴量算出部が、前記変動特徴量として、前記第2所定期間における前記閉眼率の上昇時間の割合である上昇時間率を算出するものであることを特徴としている。
上記状態判定装置(11)によれば、前記変動特徴量算出部により、前記変動特徴量として、前記第2所定期間における前記閉眼率の上昇時間率が算出され、該上昇時間率に基づいて、前記人物の漫然状態が判定される。したがって、前記人物の漫然状態の判定に、前記閉眼率の上昇時間率、換言すれば、前記閉眼率が経時的に上昇している変化傾向が考慮されるので、例えば、覚醒状態であっても前記閉眼率が高めに計測されるような場合であっても、前記閉眼率そのものの値による影響を受けることなく、前記漫然状態へ移行するタイミングを精度良く判定することができる。
また本開示に係る状態判定装置(12)は、上記状態判定装置(1)~(11)のいずれかにおいて、前記漫然状態判定部が、2以上の判定閾値を用いて、前記人物の漫然状態を段階的に判定するものであることを特徴としている。
上記状態判定装置(12)によれば、2以上の判定閾値を用いて、前記人物の漫然状態を段階的に判定することが可能となり、前記漫然状態の程度に応じた適切な判定を行うことができる。
また本開示に係る状態判定装置(13)は、上記状態判定装置(1)~(11)のいずれかにおいて、前記漫然状態判定部が、前記変動特徴量が所定期間継続して判定閾値を超えた場合に、前記人物が漫然状態であると判定するものであることを特徴としている。
上記状態判定装置(13)によれば、前記変動特徴量が所定期間継続して判定閾値を超えた場合に、前記人物が漫然状態であると判定されるので、前記人物が漫然状態に移行した状態を適切に判定することができる。
また本開示に係る状態判定装置(14)は、上記状態判定装置(1)~(11)のいずれかにおいて、前記漫然状態判定部が、2種類以上の前記変動特徴量、又は1種類以上の前記変動特徴量及び前記閉眼率に基づいて、前記人物の漫然状態を判定するものであることを特徴としている。
上記状態判定装置(14)によれば、2種類以上の前記変動特徴量、又は1種類以上の前記変動特徴量及び前記閉眼率に基づいて、前記人物の漫然状態を判定することが可能となり、2種類以上の前記変動特徴量を考慮することにより、前記人物が漫然状態に移行するタイミングをより正確に判定することができる。
また本開示に係る状態判定装置(15)は、上記状態判定装置(1)~(11)のいずれかにおいて、前記漫然状態判定部が、算出された前記変動特徴量、又は前記変動特徴量及び前記閉眼率を入力すると、前記人物が漫然状態であるか否かを示す値を出力するように学習した学習済みの学習器を用いて、前記人物の漫然状態を判定するものであることを特徴としている。
上記状態判定装置(15)によれば、前記学習器を用いることによって、前記人物が漫然状態であるか否かを、容易かつ適切に判定することが可能となる。前記学習器は、例えば、ニューラルネットワーク、又はサポートベクターマシン等を含んで構成されてよい。
また本開示に係る状態判定装置(16)は、上記状態判定装置(1)~(15)のいずれかにおいて、前記漫然状態判定部による判定結果を出力する出力部を備えていることを特徴としている。
上記状態判定装置(16)によれば、前記出力部により、前記漫然状態判定部による判定結果を適切に出力することができる。
また本開示に係る状態判定装置(17)は、上記状態判定装置(16)において、前記出力部が出力した前記判定結果に応じた報知を行う報知部を備えていることを特徴としている。
上記状態判定装置(17)によれば、前記報知部により、前記漫然状態判定部の判定結果に応じた報知を適切に行うことができる。
また本開示に係る状態判定装置(18)は、上記状態判定装置(16)又は(17)において、前記出力部が出力した前記判定結果が記憶される判定結果記憶部と、該判定結果記憶部に記憶された前記判定結果を含むデータを所定の送信先へ送信する通信部とを備えていることを特徴としている。
上記状態判定装置(18)によれば、前記判定結果記憶部に前記判定結果が記憶され、前記通信部により、前記判定結果を含むデータを所定の送信先へ適切に送信することが可能となる。したがって、前記所定の送信先において、前記判定結果を適切に利用させることができる。
また本開示に係る車載機(1)は、上記状態判定装置(1)~(18)のいずれかと、前記画像を撮像する撮像部とを備えていることを特徴としている。
上記車載機(1)によれば、上記状態判定装置(1)~(18)のいずれかの効果を奏する車載機を実現することができる。
また本開示に係る運転評価システム(1)は、1以上の前記車載機(1)と、該車載機の前記状態判定装置により判定された前記人物の漫然状態の判定結果を含むデータに基づいて、前記人物の漫然状態の評価を含む運転評価を行う運転評価部、及び該運転評価部により評価された前記人物の漫然状態の評価を含む運転評価結果を出力する評価結果出力部を備えている運転評価装置とを含んで構成されていることを特徴としている。
上記運転評価システム(1)によれば、前記車載機の前記状態判定装置により判定された前記人物の漫然状態の判定結果を含むデータに基づいて、前記人物の漫然状態の評価を含む運転評価が行われ、適切に評価された前記人物の漫然状態の評価を含む運転評価結果を出力することが可能となり、前記人物に対する安全運転教育を適切に行うことができる。
また本開示に係る状態判定方法は、人物の状態を判定する状態判定方法であって、
前記人物の顔を撮像した画像から前記人物の眼開閉度を検出する眼開閉度検出ステップと、
該眼開閉度検出ステップで検出された第1所定期間の前記眼開閉度を用いて、前記人物の閉眼率を算出する閉眼率算出ステップと、
該閉眼率算出ステップで算出された第2所定期間の前記閉眼率を用いて、前記閉眼率の変動特徴量を算出する変動特徴量算出ステップと、
該変動特徴量算出ステップで算出された前記変動特徴量に基づいて、前記人物の漫然状態を判定する漫然状態判定ステップとを含んでいることを特徴としている。
上記状態判定方法によれば、前記画像から前記人物の眼開閉度が検出され、検出された前記第1所定期間の前記眼開閉度を用いて、前記人物の閉眼率が算出され、算出された前記第2所定期間の前記閉眼率を用いて、前記閉眼率の変動特徴量が算出され、算出された前記変動特徴量に基づいて、前記人物の漫然状態が判定されることとなる。したがって、前記人物の漫然状態が、前記変動特徴量に基づいて判定されるので、例えば、前記閉眼率の個人差、又は前記画像の撮像位置の違いなどの要因によって、覚醒時であっても前記閉眼率が高めに計測されるような場合であっても、これら要因の影響を受けることなく、前記漫然状態を精度良く判定することができる。
また本開示に係るプログラムは、人物の状態を判定する処理を少なくとも1以上のコンピュータに実行させるためのプログラムであって、
前記1以上のコンピュータに、
前記人物の顔を撮像した画像から前記人物の眼開閉度を検出する眼開閉度検出ステップと、
該眼開閉度検出ステップで検出された第1所定期間の前記眼開閉度を用いて、前記人物の閉眼率を算出する閉眼率算出ステップと、
該閉眼率算出ステップで算出された第2所定期間の前記閉眼率を用いて、前記閉眼率の変動特徴量を算出する変動特徴量算出ステップと、
該変動特徴量算出ステップで算出された前記変動特徴量に基づいて、前記人物の漫然状態を判定する漫然状態判定ステップとを実行させるためのプログラムであることを特徴としている。
上記プログラムによれば、前記少なくとも1以上のコンピュータに、前記画像から前記人物の眼開閉度を検出させ、検出させた前記第1所定期間の前記眼開閉度を用いて、前記人物の閉眼率を算出させ、算出させた前記第2所定期間の前記閉眼率を用いて、前記閉眼率の変動特徴量を算出させ、算出させた前記変動特徴量に基づいて、前記人物の漫然状態を判定させることができる。そのため、前記閉眼率の個人差、又は前記画像の撮像位置の違いなどの要因によって、覚醒時であっても前記閉眼率が高めに計測されるような場合であっても、これら要因の影響を受けることなく、前記漫然状態を精度良く判定させることができる装置やシステムを実現することができる。上記プログラムは、記憶媒体に保存されたプログラムであってもよいし、通信ネットワークを介して転送可能なプログラムであってもよいし、通信ネットワークを介して実行されるプログラムであってもよい。
以下、本発明に係る状態判定装置、車載機、運転評価システム、状態判定方法、及びプログラムの実施の形態を図面に基づいて説明する。
本発明に係る状態判定装置、状態判定方法、及びプログラムは、人物の状態を判定する各種用途に広く適用可能である。また、本発明に係る状態判定装置を備えた車載機、及び1以上の前記車載機を含んで構成される運転評価システムは、例えば、事業者などが管理する車両の運転者の運転状態を評価して、事故を未然に防ぐ予防安全の観点から運転者の安全意識の改善を図ることを支援するための装置、又はシステムなどに広く適用可能である。
[適用例]
図1は、実施の形態(1)に係る状態判定装置の適用場面の一例を示す模式図である。図1に示す適用例では、状態判定装置20が車載機10に装備され、1台以上の車両2に搭載される車載機10と、各車載機10から取得したデータを処理する少なくとも1つ以上の運転評価装置4とを含んで、各運転者3の運転評価を行う運転評価システム1が構築されている。
車載機10は、状態判定装置20と、運転者3の顔を含む画像を撮像するカメラ11とを含んで構成されている。状態判定装置20は、カメラ11で撮像した画像を取得しながら、運転者3の状態を判定するための各種処理を実行するコンピュータ装置で構成されている。
車載機10が搭載される車両2は、特に限定されない。例えば、運送事業者が管理するトラック、バス事業者が管理するバス、タクシー事業者が管理するタクシー、カーシェアリング事業者が管理するカーシェア車両、レンタカー事業者が管理するレンタカー、会社が所有している社有車、又はカーリース事業者からリースして使用する社有車など、各種の事業を営む事業者が管理する車両が対象とされ得る。また、車載機10が搭載される車両2は、一般の車両であってもよい。例えば、運転評価装置4を、保険会社又は自動車教習所などの安全評価・運転訓練機関により管理又は運営されるものとして構成し、これら安全評価・運転訓練機関において、各車両2の運転者3の運転評価を実行するシステムとして適用することも可能である。
運転評価装置4は、例えば、車載機10から送信されてくる運転者3の運転挙動データ及び車両2の走行挙動データを取得し、取得したデータ群と所定の評価条件とに基づいて、各運転者3の運転評価処理を実行し、運転評価結果を外部装置、例えば、事業者端末6に出力する構成を備えている。運転評価装置4は、例えば、通信ユニット41、制御ユニット42及び記憶ユニット43を含む、1以上のサーバコンピュータで構成されている。
運転者3の運転挙動データには、例えば、カメラ11で撮像した画像を処理して検出された、運転者3の顔の向き、視線の方向、眼開閉度、閉眼率、閉眼率の変動特徴量、所定の顔向き事象、及び漫然状態の判定結果のうちの少なくともいずれかのデータが含まれる。所定の顔向き事象には、例えば、交差点での右左折時確認、交差点での進行方向確認、顔未検出、及び脇見のうちの少なくともいずれかの事象が含まれる。
車両2の走行挙動データには、例えば、車載機10で検出された、車両2の加速度、角速度、位置、速度、所定の車両動態事象のうちの少なくともいずれかのデータが含まれる。所定の車両動態事象には、例えば、交差点通過、道路種別の切り替わり、停車、走行開始急ハンドルの発生、急ブレーキの発生、及び車両2への衝撃発生のうちの少なくともいずれかの事象が含まれる。
車載機10と運転評価装置4とは、通信ネットワーク5を介して通信可能に構成されている。通信ネットワーク5は、基地局を含む携帯電話網や無線LAN(Local Area Network)などの無線通信網を含んでもよいし、公衆電話網などの有線通信網、インターネット、又は専用網などの電気通信回線を含んでもよい。
また、車両2を管理する事業者端末6が、通信ネットワーク5を介して運転評価装置4と通信可能に構成されている。事業者端末6は、通信機能を備えたパーソナルコンピュータでもよいし、携帯電話、スマートフォン、又はタブレット装置などの携帯情報端末などでもよい。また、事業者端末6が、通信ネットワーク5を介して車載機10と通信可能に構成されていてもよい。
車載機10に装備される状態判定装置20は、運転者3の顔を撮影可能に配置されたカメラ11から所定のフレームレートで撮像された画像を取得する。
状態判定装置20は、カメラ11から取得した画像を時系列に処理して、画像から(例えば、1フレーム毎に)運転者3の眼開閉度を検出し、検出した第1所定期間(例えば、1分間程度の所定時間)の眼開閉度を用いて、運転者3の閉眼率を算出する。
状態判定装置20は、算出した第2所定期間(第1所定期間より長い、例えば、10分から15分間程度の所定時間)の閉眼率を用いて、閉眼率の変動特徴量(以下、変動特徴量とも記す)を算出し、算出した前記変動特徴量に基づいて、運転者3の漫然状態(換言すれば、漫然運転の状態)を判定する。
眼開閉度とは、運転者3の眼の開き具合を示す指標であり、例えば、画像から抽出される運転者3の眼の縦幅と横幅の比(例えば、縦幅の画素数/横幅の画素数)を眼開閉度として算出してもよい。
閉眼率とは、閉眼状態である時間の割合(比率)であり、第1所定期間に検出された眼開閉度のうち、所定の閾値以下の眼開閉度の割合を閉眼率として算出してもよい。前記所定の閾値は、閉眼状態であるか否かを判定するための値である。
閉眼率の変動特徴量は、第2所定期間の閉眼率を用いて算出された、閉眼率の変動特徴を示すデータであり、例えば、第2所定期間の閉眼率のばらつきの程度を示す指標(例えば、標準偏差)でもよいし、第2所定期間の閉眼率の変化量又は変化率(傾き)でもよいし、第2所定期間の閉眼率の上昇時間率などでもよい。
漫然状態とは、換言すれば、心理的又は生理的な要因によって集中力又は注意力などが低下した状態(車両2の運転者3の場合、特に前方不注意の状態)を意味し、眠気や疲労に伴い集中力又は注意力などが低下している状態の他、何か考え事をしたりして、ぼんやりとしている状態を含んでもよい。
状態判定装置20が装備された車載機10によれば、運転者3の漫然状態(換言すれば、漫然運転の状態)が、閉眼率の値そのものではなく、上記した閉眼率の変動特徴量に基づいて判定されるので、例えば、各運転者3の閉眼率の個人差、又は各車両2のカメラ11の設置位置(換言すれば、画像の撮像位置)の違いなどの要因によって、覚醒状態であっても閉眼率の値が高めに計測されるような場合であっても、これら要因の影響を受けることなく、各運転者3の漫然状態を精度良く判定することが可能となる。
また、1以上の車載機10と、運転評価装置4とを含んで構成される運転評価システム1によれば、車載機10の状態判定装置20で判定された漫然状態の判定結果を用いることにより、各運転者3の閉眼率の個人差などの影響を受けない、各運転者3に対して公平な漫然状態の評価を行うことが可能となり、より適正な運転評価を行うことが可能となる。
[ハードウェア構成例]
図2は、実施の形態(1)に係る車載機10のハードウェア構成例を示すブロック図である。
車載機10は、状態判定装置20と、カメラ11とを含んで構成され、さらに、加速度センサ12、角速度センサ13、GPS(Global Positioning System)受信部14、通信部15、及び報知部16を含んで構成されている。
状態判定装置20は、制御部21と、記憶部22と、入出力インターフェース(I/F)23とを含んで構成されている。
制御部21は、CPU(Central Processing Unit)、RAM(Random Access Memory)、及びROM(Read Only Memory)を含むマイクロコンピュータで構成されている。制御部21は、カメラ11、加速度センサ12、角速度センサ13、及びGPS受信部14などから取得したデータを記憶部22に記憶する処理を行う。また、制御部21は、記憶部22に記憶されたプログラム221をRAMに展開し、記憶部22に記憶された各種の検出データを読み出し、RAMに展開したプログラム221をCPUにより解釈及び実行することにより、後述する運転者3の状態を判定するための各種処理が実行されるようになっている。
記憶部22は、例えば、半導体メモリなどの1つ以上の記憶装置で構成されている。記憶部22には、プログラム221の他、カメラ11から取得した画像データ、加速度センサ12、角速度センサ13、GPS受信部14などで検出されたデータが時系列で記憶されてもよい。なお、プログラム221は、制御部21のROMに記憶されてもよい。
入出力I/F23は、カメラ11などの機器との間でデータや信号の授受を行うためのインターフェース回路や接続コネクタなどを含んで構成されている。
カメラ11は、運転者3の顔を含む画像を撮像する撮像部として動作し、例えば、図示しないレンズ部、撮像素子部、光照射部、及びこれら各部を制御するカメラ制御部などを含んで構成されている。
前記撮像素子部は、例えば、可視光線波長域、又は近赤外線波長域に感度を有するCCD(Charge Coupled Device)、又はCMOS(Complementary Metal Oxide Semiconductor)などの撮像素子、フィルタ、及びマイクロレンズなどを含んで構成されている。前記光照射部は、LED(Light Emitting Diode)などの発光素子を含み、また、昼夜を問わず運転者の状態を撮像できるように赤外線を照射する発光素子などを用いてもよい。カメラ11は、単眼カメラでもよいし、ステレオカメラであってもよい。
前記カメラ制御部は、例えば、プロセッサなどを含んで構成されている。前記カメラ制御部が、前記撮像素子部と前記光照射部の動作を制御して、該光照射部から光(例えば、近赤外線など)を照射し、前記撮像素子部でその反射光を撮像する制御などを行う。カメラ11は所定のフレームレート(例えば、毎秒15フレーム以上)で画像を撮像し、撮像された画像のデータが状態判定装置20へ出力される。
加速度センサ12は、車両2の加速度を測定するセンサであり、例えば、XYZ軸の3方向の加速度を測定する3軸加速度センサで構成されている。なお、加速度センサ12には、2軸、1軸の加速度センサを用いてもよい。加速度センサ12で測定された加速度データが、例えば、検出時刻と対応付けて(即ち、時系列で)記憶部22に記憶される。
角速度センサ13は、車両2の回転角速度を検出するセンサであり、少なくとも鉛直軸回り(ヨー方向)の回転に応じた角速度、すなわち、車両2の左右方向への回転(旋回)に応じた角速度データを検出可能なセンサ、例えば、ジャイロセンサ(ヨーレートセンサともいう)で構成されている。なお、角速度センサ13には、鉛直軸回りの1軸ジャイロセンサの他、左右方向の水平軸回り(ピッチ方向)の角速度も検出する2軸ジャイロセンサ、さらに前後方向の水平軸回り(ロール方向)の角速度も検出する3軸ジャイロセンサを用いてもよい。これらジャイロセンサには、振動式ジャイロセンサの他、光学式、又は機械式のジャイロセンサを用いてもよい。
角速度センサ13の鉛直軸回りの角速度の検出方向については、例えば、時計回りを負方向に、反時計回りを正方向に設定してもよい。この場合、車両2が右方向に旋回すれば負の角速度データが検出され、左方向に旋回すれば正の角速度データが検出される。角速度センサ13では、所定の周期(例えば、数十ms周期)で角速度が検出され、検出された角速度データが、例えば、検出時刻と対応付けて記憶部22に記憶される。なお、加速度センサ12と角速度センサ13には、これらが一つのパッケージ内に実装された慣性センサを用いてもよい。
GPS受信部14は、アンテナ14aを介して人工衛星からのGPS信号(時刻情報を含む)を所定周期(例えば、1秒毎)で受信して、車両2の現在地の位置データ(緯度、及び経度を含む)を検出する。GPS受信部14で検出された位置データは、例えば、検出時刻と対応付けて記憶部22に記憶される。GPS受信部14に代えて、他の衛星測位システムに対応した受信装置を用いてもよいし、他の位置検出装置を用いてもよい。
通信部15は、アンテナ15aから電波を発し、通信ネットワーク5を介して運転評価装置4にデータを送信する処理の他、アンテナ15aを介して外部からの電波を受信する処理などを行う通信モジュールを含んで構成されている。また、通信部15は、車車間通信、又は路車間通信を行う通信モジュールを含んでもよい。
報知部16は、状態判定装置20からの指令に基づいて、所定の報知音や音声などを出力するスピーカなどを含んで構成されている。
車載機10は、状態判定装置20、カメラ11などが1つの筐体内に収納された、コンパクトな構成にすることが可能である。その場合における車載機10の車内設置箇所は、カメラ11で少なくとも運転者の顔を含む視野を撮像できる位置であれば、特に限定されない。車載機10は、例えば、車両2のダッシュボード中央付近の他、ハンドルコラム部分、メーターパネル付近、ルームミラー近傍位置、又はAピラー部分などに設置してもよい。また、カメラ11は、状態判定装置20と一体に構成される形態の他、別体で構成されてもよい。
[機能構成例]
図3は、実施の形態(1)に係る状態判定装置20の機能構成例を示すブロック図である。
図2に示したように、状態判定装置20の制御部21は、記憶部22に記憶されたプログラム221をRAMに展開する。そして、制御部21は、RAMに展開されたプログラムをCPUにより解釈及び実行して、図3に示す画像取得部30、眼開閉度検出部31、閉眼率算出部32、変動特徴量算出部33、漫然状態判定部34、及び出力部35として動作する。
画像取得部30は、車両2の運転者3の顔を撮像可能に配置されたカメラ11から、運転者3の顔が撮像された画像を取得する処理を行う。画像取得部30は、例えば、毎秒nフレーム(nは、例えば15以上)の画像を取得する。
眼開閉度検出部31は、画像取得部30により取得された画像を解析して、各画像から運転者3の眼開閉度を検出する処理を行う。眼開閉度は、眼の開き具合を示す指標であり、例えば、画像から抽出した運転者3の眼の縦幅(上瞼と下瞼との間の距離)と横幅(目頭と目尻との間の距離)との比(例えば、縦幅の画素数/横幅の画素数)を用いてもよい。なお、眼開閉度検出部31は、左右の眼それぞれの眼開閉度を求めてもよいし、左右の眼開閉度の平均値を求めてもよい。また、左右いずれか一方の眼開閉度を用いてもよい。また、眼開閉度として、眼の縦幅(例えば、縦幅の画素数)のみを用いてもよい。
閉眼率算出部32は、眼開閉度検出部31により検出された第1所定期間(例えば、1分間程度の所定時間)の眼開閉度を用いて、運転者3の閉眼率を算出する処理を行う。例えば、閉眼率算出部32は、第1所定期間に検出される眼開閉度のうち、閉眼状態を示す所定の閾値以下となるデータの割合を算出する。また、閉眼率算出部32は、第1所定期間毎に、閉眼率を算出する処理を行う。
変動特徴量算出部33は、閉眼率算出部32により算出された第2所定期間(例えば、10分から15分間程度の所定時間)の閉眼率を用いて、閉眼率の変動特徴量を算出する。例えば、第1所定期間を1分間、第2所定期間を15分間とした場合、変動特徴量算出部33は、1分間毎に算出される閉眼率の15分間分のデータ(15個のデータ)を用いて、閉眼率の変動特徴量を算出する。変動特徴量算出部33は、画像の取得を開始して、第2所定期間が経過した後から、第1所定期間が経過する毎に、直近の第2所定期間分の閉眼率のデータを用いて、変動特徴量を算出する。すなわち、変動特徴量算出部33は、第2所定期間の経過後、第1所定期間毎に変動特徴量を算出する。
変動特徴量算出部33は、例えば、変動特徴量として、第2所定期間の閉眼率のばらつきの程度を示す指標を算出してもよい。変動特徴量算出部33は、ばらつきの程度を示す指標として、標準偏差を算出してもよいし、分散を算出してもよい。
また、変動特徴量算出部33は、変動特徴量として、第2所定期間の閉眼率の変化量又は変化率(傾き)を算出してもよい。
また、変動特徴量算出部33は、変動特徴量として、第2所定期間における閉眼率の上昇時間の割合である上昇時間率を算出してもよい。変動特徴量算出部33は、上記した2種類以上の変動特徴量を算出してもよい。
漫然状態判定部34は、変動特徴量算出部33により算出された変動特徴量に基づいて、運転者の漫然状態を判定する処理を行う。例えば、変動特徴量として、第2所定期間の閉眼率の標準偏差を算出している場合、閉眼率の標準偏差が、漫然状態への変化を示す所定の閾値以上になったか否かを判定してもよいし、所定期間継続して所定の閾値を超えているか否かを判定してもよい。
また、変動特徴量として、第2所定期間の閉眼率の変化量又は変化率を算出している場合、閉眼率の変化量又は変化率が、漫然状態への変化を示す所定の閾値(変化量又は変化率)以上になったか否かを判定してもよいし、所定期間継続して所定の閾値を超えているか否かを判定してもよい。
また、変動特徴量として、第2所定期間における閉眼率の上昇時間率を算出している場合、閉眼率の上昇時間率が、漫然状態への変化を示す所定の閾値(割合)以上になったか否かを判定してもよいし、所定期間継続して所定の閾値を超えているか否かを判定してもよい。また、漫然状態判定部34は、上記した2種類以上の変動特徴量に基づく判定処理を組み合わせてもよいし、上記した変動特徴量に基づく判定処理と、閉眼率に基づく判定処理とを組み合わせてもよい。
また、漫然状態判定部34が、変動特徴量算出部33で算出された変動特徴量を入力すると、運転者3が漫然状態であるか否かを示す値を出力するように学習した学習済みの学習器を用いて、運転者3の漫然状態を判定してもよい。また、前記学習器は、変動特徴量算出部33で算出された変動特徴量と、閉眼率算出部32で算出された閉眼率とを入力すると、運転者3が漫然状態であるか否かを示す値を出力するように学習したものでもよい。前記学習器は、例えば、入力層、1以上の中間層、及び出力層を有するニューラルネットワーク、又はサポートベクターマシン等で構成されてよい。前記学習器を用いることにより、運転者3が漫然状態であるか否かを、容易かつ適切に判定することが可能となる。
出力部35は、漫然状態判定部34による判定結果を出力する処理を行う。例えば、出力部35は、報知部16を介して前記判定結果に応じた報知処理を行ってもよいし、前記判定結果を記憶部22に記憶し、記憶部22に記憶された前記判定結果を含むデータを所定のタイミングで通信部15を介して運転評価装置4へ送信する処理を行ってもよい。
図4(a)は、平常時における閉眼率が低い運転者の閉眼率の時系列変化を示すグラフの一例であり、図4(b)は、図4(a)に示した閉眼率のデータを用いて算出した閉眼率の標準偏差の時系列変化を示すグラフの一例である。
図5(a)は、平常時における閉眼率が高い運転者の閉眼率の時系列変化を示すグラフの一例であり、図5(b)は、図5(a)に示した閉眼率のデータを用いて算出した閉眼率の変動特徴量の一例である標準偏差の時系列変化を示すグラフである。なお、図中に一点鎖線で示す閾値は、漫然状態であるか否かを判定する基準の一例を示している。
図4(a)と図5(a)とを対比すると、平常時における閉眼率に個人差があることが分かる。図4(a)に示すように、平常時における閉眼率が低めに検出される人もいれば、図5(a)に示すように、平常時における閉眼率が高め検出される人もいる。これら個人差は、例えば、上瞼と下瞼と間の大きさの違い、カメラ11と顔との位置関係(距離や向きなど、カメラ11の設置位置)の違いなどが影響している。
図4(a)に示すように、平常時における閉眼率が低い場合は、閉眼率の閾値判定により、漫然状態であるか否かを比較的正確に判定することが可能である。
一方、図5(a)に示すように、平常時における閉眼率が高い場合は、漫然状態であるか否かを閉眼率の閾値判定で行う(図4(a)と同じ閾値で判定を行う)と、常に漫然状態であるという誤った判定がなされる状態が発生することとなる。
本実施の形態では、運転者3の漫然状態を判定するにあたり、閉眼率の値そのものを利用するのではなく、覚醒状態から漫然状態に移行するときに閉眼率が変動するという特徴を利用する。すなわち、状態判定装置20は、所定期間の閉眼率のデータから閉眼率の変動特徴量(例えば、閉眼率の標準偏差)を算出し、算出した変動特徴量に基づいて、漫然状態への移行を判定する。
上記変動特徴量を用いることにより、図4(b)に示すように、平常時における閉眼率が低い場合でも、また、図5(b)に示すように、平常時における閉眼率が高い場合でも、閉眼率の標準偏差(変動特徴量)の閾値判定により、漫然状態へ移行するタイミングを正確に判定することができ、漫然状態への移行を精度良く推定することが可能となる。
図6は、実施の形態(1)に係る運転評価装置4の機能構成例を示すブロック図である。
運転評価装置4は、通信ユニット41、制御ユニット42、及び記憶ユニット43を含んで構成され、これらが通信バス44を介して接続されている。
通信ユニット41は、通信ネットワーク5を介して、車載機10や事業者端末6などとの間で各種のデータや信号の送受信を実現するための通信装置を含んで構成されている。
制御ユニット42は、各種の演算処理を実行する1つ以上のプロセッサと、所定の運転評価プログラムなどが記憶されたメインメモリとを含むコンピュータ装置で構成され、機能構成として、運転評価部421と、評価結果出力部422とを含んで構成されている。
運転評価部421は、車載機10の状態判定装置20により判定された運転者3の漫然状態の判定結果を含むデータに基づいて、運転者3の漫然状態の評価を含む、各種の運転評価処理を行う。評価結果出力部422は、運転評価部421により評価された運転者3の漫然状態の評価を含む運転評価結果を出力する。評価結果出力部422は、例えば、事業者端末6からの要求に応じて、通信ユニット41を介して、前記運転評価結果を事業者端末6に送信する処理を行う。
記憶ユニット43は、例えば、ハードディスクドライブ、ソリッドステートドライブなど、1以上の大容量記憶装置で構成され、検出データ蓄積部431、評価条件記憶部432、及び評価結果記憶部433などを含んで構成されている。
検出データ蓄積部431には、各車両2の車載機10から取得した検出データが蓄積される。検出データ蓄積部431には、例えば、車載機10の識別情報又は運転者3の識別情報に対応付けて、漫然状態検出時刻と、該漫然状態検出時刻の前後所定時間に検出された運転者3の運転挙動データとが時系列で蓄積される。また、検出データ蓄積部431には、漫然状態検出時刻の前後所定時間に検出された車両2の走行挙動データも時系列で蓄積されてもよい。運転者3の運転挙動データには、例えば、運転者3の顔の向き、視線の方向、眼開閉度、閉眼率、及び閉眼率の変動特徴量のうちの少なくともいずれかのデータが含まれる。車両2の走行挙動データには、車両2の加速度、角速度、位置、及び速度のうちの少なくともいずれかのデータが含まれる。
また、検出データ蓄積部431には、車載機10の識別情報又は運転者3の識別情報に対応付けて、交差点通過時刻と、該交差点通過時刻の前後所定時間に検出された運転者3の運転挙動データ及び車両2の走行挙動データとが時系列で蓄積されてもよい。
評価条件記憶部432には、交差点などで運転者3が行うべき安全確認動作の評価条件が少なくとも1つ以上記憶されている。評価結果記憶部433には、運転評価部421により評価された運転者3の漫然状態の評価を含む運転評価結果などが記憶される。
[処理動作例]
図7は、実施の形態(1)に係る状態判定装置20の制御部21が行う処理動作例を示すフローチャートである。図7では、制御部21が、画像取得部30、眼開閉度検出部31、及び閉眼率算出部32として動作する例を示している。
まず、ステップS1では、制御部21は、画像取得部30として動作し、カメラ11で撮像された画像を取得する処理を行い、ステップS2に処理を進める。制御部21は、例えば、毎秒nフレーム(例えば、nは15以上)の画像を取得する。取得した画像は、例えば、記憶部22に記憶される。
ステップS2では、制御部21は、眼開閉度検出部31として動作し、ステップS1で取得した画像から運転者3の眼開閉度を検出する処理を行い、ステップS3に処理を進める。例えば、制御部21は、取得した画像から運転者3の顔の領域を検出し、検出した顔の領域から、眼、鼻、口などの顔器官を検出し、検出した眼の領域から眼の縦幅と横幅を検出し、検出した眼の縦幅と横幅との比(例えば、縦幅の画素数/横幅の画素数)を眼開閉度として検出する。各画像から検出された眼開閉度は、例えば、画像取得時刻などのデータと紐付けて記憶部22に記憶されてもよい。なお、制御部21は、眼開閉度とともに、公知の手法を用いて、顔の向き、視線の方向などを検出してもよい。また、眼開閉度検出部31は、検出した眼の縦幅と横幅との比を、画像から検出された運転者3の顔の向きに基づいて、運転者3の顔を正面から見たときの値に補正した眼開閉度を算出してもよい。眼開閉度を補正する手法には、例えば、特許第4957711号公報に記載されている手法を適用することが可能である。
ステップS3では、制御部21は、第1所定期間の眼開閉度を検出したか否かを判断し、第1所定期間の眼開閉度を検出していないと判断すれば、ステップS1に戻る一方、第1所定期間の眼開閉度を検出したと判断すれば、ステップS4に処理を進める。第1所定期間は、閉眼率の算出に用いる眼開閉度を必要データ数だけ取得するための期間であり、例えば、1分間程度の所定時間が設定され得る。
ステップS4では、制御部21は、閉眼率算出部32として動作し、第1所定期間に検出された眼開閉度を用いて、運転者3の閉眼率を算出する処理を行い、ステップS5に処理を進める。例えば、制御部21は、第1所定期間に検出される眼開閉度のうち、閉眼状態を示す所定の閾値以下となるデータの割合([閾値以下の眼開閉度のデータ数/第1所定期間の眼開閉度のデータ数]×100(%))を算出する。第1所定期間毎に算出される閉眼率は、例えば、第1所定期間の経過時刻などのデータと紐付けて記憶部22に記憶されてもよい。なお、閉眼率算出部32は、画像から検出された運転者3の視線の方向に基づいて、上記閉眼状態を示す所定の閾値を設定してもよい。所定の閾値を設定する手法には、例えば、特許第4915413号公報に記載されている手法を適用することが可能である。
ステップS5では、制御部21は、第2所定期間の閉眼率を算出したか否かを判断し、第2所定期間の閉眼率を算出していないと判断すれば、ステップS1に戻る一方、第2所定期間の閉眼率を算出したと判断すれば、ステップS6に処理を進める。第2所定期間は、変動特徴量の算出に用いる閉眼率を必要データ数だけ取得するための期間であり、例えば、15分間前後の所定時間が設定され得る。なお、ステップS1で画像の取得を開始して、最初の第2所定期間が経過した後は、新たに第1所定期間が経過する毎に、閉眼率を算出し、直近の第2所定期間の閉眼率を算出したか否かを判断する。
ステップS6では、制御部21は、記憶部22から第2所定期間に算出された閉眼率のデータを読み出し、その後ステップS1に戻り、眼開閉度の検出処理と閉眼率の算出処理を繰り返す。
図8は、実施の形態(1)に係る状態判定装置20の制御部21が行う処理動作例を示すフローチャートである。図8に示す処理動作は、図7に示したステップS6の処理に引き続いて実行される。図8では、制御部21が、変動特徴量算出部33、漫然状態判定部34、及び出力部35として動作する一例を示している。
まず、ステップS7では、制御部21は、変動特徴量算出部33として動作し、ステップS6で読み出した、第2所定期間の閉眼率のデータを用いて、閉眼率の変動特徴量を算出する処理を行い、ステップS8に処理を進める。例えば、第1所定期間が1分間、第2所定期間が15分間に設定されている場合、制御部21は、1分間毎に算出される閉眼率の15分間分のデータ(15個のデータ)を用いて、閉眼率の変動特徴量を算出する。
算出する変動特徴量は、第2所定期間の閉眼率の標準偏差であってもよいし、第2所定期間の閉眼率の変化量又は変化率(傾き)であってもよいし、第2所定期間の閉眼率の上昇時間率であってもよく、これらのうち少なくとも1種類以上の変動特徴量を算出すればよい。算出された変動特徴量は、例えば、第2所定期間の経過時刻などのデータと紐付けて記憶部22に記憶されてもよい。
ステップS8では、制御部21は、漫然状態判定部34として動作し、ステップS7で算出された、閉眼率の変動特徴量に基づいて、運転者3の漫然状態(換言すれば、漫然運転の状態)を判定する処理を行い、ステップS9に処理を進める。例えば、閉眼率の変動特徴量として、閉眼率の標準偏差を算出した場合、閉眼率の標準偏差が、漫然状態への移行を判定する所定の閾値以上であるか否かを判定してもよいし、閉眼率の標準偏差が、所定期間(例えば、一定時間など)継続して所定の閾値を超えたか否かを判定してもよい。この場合、閉眼率の標準偏差が、所定の閾値以上である場合、又は所定期間継続して前記所定の閾値を超えた場合、漫然状態であると判定されることとなる。
また、閉眼率の変動特徴量として、閉眼率の変化量又は変化率を算出した場合、閉眼率の変化量又は変化率が、漫然状態への移行を判定する所定の閾値(変化量又は変化率)以上であるか否かを判定してもよいし、閉眼率の変化量又は変化率が、所定期間(例えば、一定時間など)継続して所定の閾値を超えたか否かを判定してもよい。この場合、閉眼率の変化量又は変化率が、所定の閾値以上である場合、又は所定期間継続して前記所定の閾値を超えた場合、漫然状態であると判定されることとなる。
また、閉眼率の変動特徴量として、第2所定期間における閉眼率の上昇時間率を算出した場合、閉眼率の上昇時間率が、漫然状態への変化を示す所定の閾値(割合)以上になったか否かを判定してもよいし、閉眼率の上昇時間率が、所定期間(例えば、一定時間など)継続して所定の閾値を超えたか否かを判定してもよい。この場合、閉眼率の上昇時間率が、所定の閾値以上である場合、又は所定期間継続して前記所定の閾値を超えた場合、漫然状態であると判定されることとなる。また、制御部21は、上記した2種類以上の変動特徴量に基づいて、運転者3の漫然状態を判定してもよいし、上記した変動特徴量に基づく判定処理と、閉眼率に基づく判定処理とを組み合わせて、運転者3の漫然状態を判定してもよい。
ステップS9では、制御部21は、ステップS8での漫然状態の判定処理の結果、運転者3が漫然状態であるか否かを判断し、漫然状態であると判断すれば、ステップS10に処理を進める。
ステップS10では、制御部21は、出力部35として動作し、運転者3を漫然状態から覚醒状態に移行させるための報知処理、例えば、報知部16を動作させて警告音を出力したり、又は所定のアナウンスなどを出力したりする処理を行い、ステップS11に処理を進める。
ステップS11では、制御部21は、出力部35として動作し、漫然状態であると判定された結果(漫然状態検出結果)を、第2所定期間の経過時刻、位置などのデータと紐付けて記憶部22に記憶する処理を行い、その後処理を終える。なお、制御部21は、ステップS11の後、記憶部22に記憶された漫然状態検出結果を含むデータを所定のタイミングで運転評価装置4へ送信するようにしてもよい。
[作用効果]
実施の形態(1)に係る状態判定装置20を備えた車載機10によれば、運転者3の漫然状態が、閉眼率の値そのものではなく、上記した閉眼率の変動特徴量に基づいて判定される。これにより、例えば、各運転者3の閉眼率の個人差、又は各車両2のカメラ11の設置位置(換言すれば、画像の撮像位置)の違いなどの要因によって、覚醒状態であっても閉眼率の値が高めに計測されるような場合であっても、これら要因の影響を受けることなく、各運転者3の漫然状態、すなわち、漫然運転の状態を精度良く判定することができる。また、運転者ごとに、又は車両の走行開始のたびに、運転者(ユーザ)が閉眼率の判定閾値の設定操作を行い、閉眼率の値で漫然状態の判定を行う方法と比較して、上記実施の形態では、閾値設定などの煩雑な操作を行う必要もなく、手間がかからないため、ユーザにとっての利便性も高めることができる。
また、上記変動特徴量に、第2所定期間の閉眼率のばらつきの程度を示す指標(例えば、標準偏差、又は分散などの値)を用いる場合、運転者3の漫然状態の判定に、閉眼率のばらつき度合いの変化が考慮される。
また、上記変動特徴量に、第2所定期間の閉眼率の変化量又は変化率を用いる場合、運転者3の漫然状態の判定に、閉眼率の変化の大きさが考慮される。
また、上記変動特徴量に、第2所定期間における閉眼率の上昇時間率を用いる場合、運転者3の漫然状態の判定に、閉眼率が経時的に上昇している変化傾向が考慮される。
したがって、これら変動特徴量に基づいて、運転者3の漫然状態を判定することにより、覚醒状態であっても閉眼率が高めに計測されるような場合であっても、閉眼率そのものの値による影響を受けることなく、漫然状態へ移行するタイミングを精度良く判定することができる。
また、1以上の車載機10と、運転評価装置4とを含んで構成される運転評価システム1によれば、車載機10の状態判定装置20で判定された漫然状態の判定結果を用いることにより、運転評価装置4では、各運転者3の閉眼率の個人差などの影響を受けない、各運転者3に対して公平な漫然状態の評価を行うことが可能となり、より適正な運転評価結果を事業者端末6に出力することができる。車両2を管理する事業者は、事業者端末6に表示される運転評価結果を利用して、運転者3に対する安全運転教育を適切に行うことができる。
[実施の形態(2)]
次に実施の形態(2)に係る状態判定装置が装備された車載機について説明する。但し、実施の形態(2)に係る車載機10Aのハードウェア構成例は、図2に示した構成例と略同様であるので、異なる機能を有する状態判定装置20Aとその制御部21Aとには異なる符号を付し、その他の構成部品の説明は省略することとする。
図9は、実施の形態(2)に係る状態判定装置20Aの機能構成例を示すブロック図である。但し、実施の形態(2)に係る状態判定装置20Aの機能構成については、変動特徴量算出部33Aの前段に前処理部36が設けられている点を除いて、図3に示した状態判定装置20の機能構成と略同様であるため、同一機能を有する構成には同一符号を付し、その説明を省略する。
前処理部36は、閉眼率算出部32により算出された閉眼率に対して、所定の前処理を行う。例えば、前処理部36は、前処理として、閉眼率算出部32により算出された閉眼率の平滑化処理を行ってもよい。前処理部36は、平滑化処理として、例えば、所定間隔で閉眼率の移動平均を算出する処理を行ってもよい。所定間隔は、例えば、第1所定期間×m(mは2以上の整数)の間隔としてもよい。
変動特徴量算出部33Aは、前処理部36により前処理された後の閉眼率を用いて、変動特徴量を算出する処理を行う。
図10(a)は、図4(a)に示した平常時の閉眼率が低い運転者の閉眼率の時系列変化を示すグラフに、該閉眼率の移動平均線を重ねたグラフであり、図10(b)は、図5(a)に示した平常時の閉眼率が高い運転者の閉眼率の時系列変化を示すグラフに、該閉眼率の移動平均線を重ねたグラフある。太線が、閉眼率の移動平均線を示している。
図10(a)、(b)から明らかなように、閉眼率の時系列データに対して、移動平均を算出する処理を行うことにより、ノイズを含む閉眼率の時系列データを平滑化することが可能となり、特に、閉眼率の変化量又は変化率で示す変動特徴量をより精度良く抽出することが可能となる。
図11は、実施の形態(2)に係る状態判定装置20Aの制御部21Aが行う処理動作例を示すフローチャートである。図11に示す処理動作は、図7のステップS6の処理に引き続いて実行される。なお、図7のステップS6までの処理動作は同一であるので、その説明を省略する。図11では、制御部21Aが、前処理部36、変動特徴量算出部33A、漫然状態判定部34、及び出力部35として動作する一例を示している。また、図8に示した処理動作と同一の処理内容については、同一ステップ番号を付し、その説明を省略する。
まず、ステップS21では、制御部21Aは、漫然状態の判定に用いる変動特徴量の種類に基づいて、閉眼率の平滑化処理を実行するか否かを判断する。例えば、漫然状態の判定に用いる変動特徴量の種類が、閉眼率の変化量若しくは変化率、又は閉眼率の上昇時間率である場合は、閉眼率の平滑化処理を実行すると判断し、ステップS22に処理を進める。
ステップS22では、制御部21Aは、前処理部36として動作し、ステップS6で読み出した、第2所定期間の閉眼率のデータに対して平滑化処理を行い、ステップS23に処理を進める。制御部21Aは、平滑化処理として、例えば、第2所定期間のうちの一定期間ごとの閉眼率の平均値を、区間をずらしながら計算する処理、すなわち、移動平均を求める処理を行う。
ステップS23では、制御部21Aは、変動特徴量算出部33Aとして動作し、ステップS22で平滑化処理された閉眼率を用いて、閉眼率の変動特徴量を算出する処理を行い、ステップS24に処理を進める。
算出する変動特徴量は、例えば、平滑化処理された閉眼率の変化量又は変化率(傾き)であってもよいし、平滑化処理された閉眼率の上昇時間率であってもよく、これらのうち少なくとも1種類以上の変動特徴量を算出するようにすればよい。算出された変動特徴量は、例えば、第2所定期間の経過時刻などのデータと紐付けて記憶部22に記憶されてもよい。
ステップS24では、制御部21Aは、漫然状態判定部34として動作し、ステップS23で算出された閉眼率の変動特徴量(変化量、変化率、又は上昇時間率)に基づいて、運転者の漫然状態を判定する処理を行い、ステップS9に処理を進める。
ステップS23において、閉眼率の変動特徴量として、平滑化処理された閉眼率の変化量又は変化率を算出した場合は、ステップS24において、平滑化処理された閉眼率の変化量又は変化率が、漫然状態への移行を判定する所定の閾値(変化量又は変化率)以上であるか否かを判定してもよい。この場合、平滑化処理された閉眼率の変化量又は変化率が、所定の閾値以上である場合、漫然状態であると判定されることとなる。
また、ステップS23において、閉眼率の変動特徴量として、平滑化処理された閉眼率の上昇時間率を算出した場合、平滑化処理された閉眼率の上昇時間率が、漫然状態への変化を示す所定の閾値(割合)以上になったか否かを判定してもよい。この場合、平滑化処理された閉眼率の上昇時間率が、所定の閾値以上である場合、漫然状態であると判定されることとなる。
一方、ステップS21において、制御部21Aが、漫然状態の判定に用いる変動特徴量の種類が、例えば、閉眼率の標準偏差である場合は、閉眼率の平滑化処理を実行しないと判断し、ステップS25に処理を進める。
ステップS25では、制御部21Aは、変動特徴量算出部33Aとして動作し、平滑化処理されていない閉眼率を用いて、閉眼率の変動特徴量を算出する処理を行い、ステップS26に処理を進める。算出する変動特徴量は、例えば、閉眼率の標準偏差であり、算出された変動特徴量は、第2所定期間の経過時刻などのデータと紐付けて記憶部22に記憶されてもよい。
ステップS26では、制御部21Aは、ステップS25で算出された、閉眼率の変動特徴量(閉眼率の標準偏差)に基づいて、運転者の漫然状態を判定する処理を行い、ステップS9に処理を進める。なお、ステップS9~S11の処理については、図8におけるステップS9~S11の処理と同様であるので、ここではその説明を省略する。
実施の形態(2)に係る状態判定装置20Aを備えた車載機10Aによれば、漫然状態の判定に用いる変動特徴量の種類に基づいて、閉眼率の平滑化処理を実行するか否かが判断され、変動特徴量が、閉眼率の変化量、変化率、又は上昇時間率である場合、前処理部36によって閉眼率に対する前処理として平滑化処理が行われ、該平滑化処理された後の閉眼率を用いて、閉眼率の変化量、変化率、又は上昇時間率の変動特徴量が算出される。前処理部36で閉眼率の平滑化処理を行うことにより、閉眼率の変化量、変化率、又は上昇時間率で表される変動特徴量を、前記漫然状態へ移行する傾向が把握しやすい特徴量として算出することができ、漫然状態への移行を精度良く判定することができる。
また、漫然状態の判定に用いる変動特徴量の種類が閉眼率の標準偏差である場合は、平滑化処理されていない閉眼率を用いて、閉眼率の標準偏差が算出されるので、前記漫然状態へ移行する傾向が把握しやすい特徴量として、閉眼率の標準偏差を算出することができる。
[実施の形態(3)]
次に実施の形態(3)に係る状態判定装置が装備された車載機について説明する。但し、実施の形態(3)に係る車載機10Bのハードウェア構成例は、図2に示した構成例と略同様であるので、異なる機能を有する状態判定装置20Bとその制御部21Bとには異なる符号を付し、その他の構成部品の説明は省略することとする。
図12は、実施の形態(3)に係る状態判定装置20Bの機能構成例を示すブロック図である。但し、実施の形態(3)に係る状態判定装置20Bの機能構成については、車両動態データ取得部37と、事象検出部38と、前処理部36Aとがさらに装備されている点を除いて、図3に示した状態判定装置20の機能構成と略同様であるため、同一機能を有する構成には同一符号を付し、その説明を省略する。
車両動態データ取得部37は、車載機10の加速度センサ12で検出された車両2の加速度データ、角速度センサ13で検出された車両2の角速度データ、及びGPS受信部14で検出された車両2の位置データのうちの少なくともいずれかの動態データを取得し、取得したデータを事象検出部38に送出する処理を行う。
事象検出部38は、車両動態検出部381と顔向き事象検出部382とを含んで構成されている。車両動態検出部381は、車両動態データ取得部37から取得した車両2の動態データに基づいて、所定の事象を検出する。顔向き事象検出部382は、画像取得部30から取得した画像データに基づいて、運転者3の顔向き事象を検出する。また、顔向き事象検出部382は、画像取得部30から取得した画像データと車両動態データ取得部37から取得した車両2の動態データとに基づいて、運転者3の顔向き事象を検出してもよい。
車両動態検出部381は、前記所定の事象として、車両2が走行する道路種別が切り替わった事象、車両2が停車した事象、車両2が走行を開始した事象、車両2に急ハンドルが発生した事象、車両2に急ブレーキが発生した事象、及び車両2に衝撃が発生した事象のうちの少なくともいずれかの事象を検出する。
顔向き事象検出部382は、車両2の運転中に運転者3の顔の向きが変化する事象を検出する。検出される顔向き事象には、例えば、交差点での右左折時確認、交差点での進行方向確認、顔未検出、及び脇見のうちの少なくともいずれかの事象が含まれる。
前処理部36Aは、閉眼率算出部32により算出された閉眼率に対して、所定の前処理を行う。前処理部36Aは、例えば、閉眼率算出部32により算出された、第2所定期間の閉眼率のうち、事象検出部38により所定の事象が検出された時又は期間(例えば、第1所定期間)に算出された閉眼率を、変動特徴量の算出対象データから除く除去処理を行う。
変動特徴量算出部33は、前処理部36Aにより前処理された後の閉眼率を用いて、変動特徴量を算出する処理を行う。
図13は、実施の形態(3)に係る状態判定装置20Bの制御部21Bが行う処理動作を示すフローチャートである。図13では、制御部21Bが、画像取得部30、眼開閉度検出部31、閉眼率算出部32、車両動態データ取得部37、事象検出部38、及び前処理部36Aとして動作する一例を示している。なお、図7に示した処理動作と同一の処理内容については、同一ステップ番号を付し、ここではその説明を省略することとする。
図13に示すフローチャートでは、ステップS1~S4の閉眼率を算出するまでの処理と、ステップS31~S38の車両2の動態事象を検出する処理と、ステップS41~S43の運転者3の顔向き事象を検出する処理とが並列的に(並行して)実行される。但し、以下で説明する処理手順は一例に過ぎず、適宜変更されてよく、実施の形態に応じて、ステップの省略、置換、及び追加を行ってもよい。
ステップS31では、制御部21Bは、車両動態データ取得部37として動作し、車両2の動態データを取得する処理を行い、ステップS32に処理を進める。制御部21Bは、例えば、加速度センサ12で検出された加速度データ、角速度センサ13で検出された角速度データ、及びGPS受信部14で検出された位置データのうちの少なくともいずれかの動態データを、所定間隔(数十msec、又は数秒間隔)で取得する。
ステップS32では、制御部21Bは、車両動態検出部381として動作し、ステップS31で取得した車両2の動態データを用いて、車両2が交差点を通過中(例えば、右折中又は左折中)か否かを検出する処理を行い、ステップS33に処理を進める。
車両2が交差点を通過中か否かの検出は、例えば、角速度センサ13で検出された角速度の絶対値が所定の角速度閾値を超えたか否か検出し、該角速度閾値を超えた時刻を、交差点の通過時刻として検出してもよい。また、車両2が交差点を通過中か否かの検出において、車速が交差点通過に適した所定速度以下であるという条件を付加してもよい。検出された交差点通過中のデータは、例えば、交差点の通過時刻、及び位置などのデータと紐付けて記憶部22に記憶されてもよい。
ステップS33では、制御部21Bは、車両動態検出部381として動作し、ステップS31で取得した車両2の動態データを用いて、車両2が走行している道路種別の切り替わりを検出する処理を行い、ステップS34に処理を進める。制御部21Bは、例えば、ステップS31で取得した位置データを用いて、単位時間当たりの移動距離から車速を算出し、算出した車速に基づいて、道路種別の切り替わりを検出してもよい。
例えば、時速80km以上の車速が、所定時間(例えば、数十秒以上)継続して検出された場合、一般道路から高速道路への切り替わりを検出してもよい。また、制御部21Bは、車速に基づいて、高速道路から一般道路への切り替わりを検出してもよいし、一般道路から生活道路(例えば、制限速度が時速30km以下の道路)への切り替わりを検出してもよいし、生活道路から一般道路への切り替わりを検出してもよい。
また、車載機10が道路地図データを利用できる場合には、制御部21Bが、道路地図データ(道路種別データを含む)と位置データと照合して、道路種別の切り替わりを検出してもよい。また、制御部21Bは、路車間通信などにより取得した通信信号(例えば、高速道路への進入信号、又は高速道路からの退出信号など)に基づいて、道路種別の切り替わりを検出してもよい。道路種別の切り替わりを検出したデータは、例えば、位置データ、検出時刻などのデータと紐付けて記憶部22に記憶されてもよい。
ステップS34では、制御部21Bは、車両動態検出部381として動作し、ステップS31で取得した車両2の動態データを用いて、車両2の停車を検出する処理を行い、ステップS35に処理を進める。
車両2の停車は、例えば、ステップS31で取得した位置データを用いて、位置データが変化しない状態が所定時間(数秒から数十秒程度)継続して検出された場合、又は位置データから求めた車速が所定値(例えば、徐行速度)以下である状態が検出された場合、車両2が停車しているとして、車両2の停車を検出してもよい。車両2の停車を検出したデータは、例えば、位置データの取得時刻などのデータと紐付けて記憶部22に記憶されてもよい。
ステップS35では、制御部21Bは、車両動態検出部381として動作し、ステップS31で取得した車両2の動態データを用いて、車両2の走行開始を検出する処理を行い、ステップS36に処理を進める。
車両2の走行開始は、例えば、ステップS31で取得した位置データを用いて、位置データが変化していない状態から位置データの変化が所定時間(数秒から数十秒程度)継続して検出された場合、又は、位置データから求めた車速が所定値以上になったことが検出された場合、車両2が走行開始したとして、車両2の走行開始を検出してもよい。車両2の走行開始を検出したデータは、例えば、走行開始を検出した時刻などのデータと紐付けて記憶部22に記憶されてもよい。
ステップS36では、制御部21Bは、車両動態検出部381として動作し、ステップS31で取得した車両2の動態データを用いて、車両2の急ハンドル又は急ブレーキを検出する処理を行い、ステップS37に処理を進める。
車両2の急ハンドル(急操舵)は、例えば、ステップS31で取得した角速度(ヨー角速度を含む)と加速度(左右加速度を含む)のデータを用いて、急ハンドルの発生を判定する所定閾値以上の角速度と加速度が検出された場合、車両2に急ハンドルが発生したとして、車両2の急ハンドルを検出してもよい。
また、車両2の急ブレーキ(急減速)は、例えば、ステップS31で取得した加速度(前後加速度を含む)のデータを用いて、急ブレーキの発生を判定する所定閾値以上の加速度が検出された場合、車両2に急ブレーキが発生したとして、車両2の急ハンドルを検出してもよい。車両2の急ハンドル又は急ブレーキを検出したデータは、例えば、急ハンドル又は急ブレーキを検出した時刻などのデータと紐付けて記憶部22に記憶されてもよい。
ステップS37では、制御部21Bは、車両動態検出部381として動作し、ステップS31で取得した車両2の動態データを用いて、車両2の衝撃を検出する処理を行い、ステップS38に処理を進める。
車両2の衝撃は、例えば、ステップS31で取得した加速度(前後加速度又は左右加速度を含む)のデータを用いて、衝突などによる衝撃の発生を判定する所定閾値以上の加速度が検出された場合、車両2に衝撃が発生したとして、車両2の衝撃を検出してもよい。車両2の衝撃を検出したデータは、例えば、衝撃を検出した時刻などのデータと紐付けて記憶部22に記憶されてもよい。
ステップS38では、制御部21Bは、並列的に処理が行われているステップS4で閉眼率が算出されたか否かを判断し、閉眼率が算出されていないと判断すれば、ステップS31に戻り処理を繰り返す一方、閉眼率が算出されたと判断すれば、ステップS50に処理を進める。
また、上記したステップS31~S38の処理と並列的にステップS41~S43の処理が実行される。
ステップS41では、制御部21Bは、ステップS1でカメラ11から取得した画像を処理して、画像から運転者3の顔の向きを検出する処理を行い、ステップS42に処理を進める。画像から運転者3の顔の向きを検出する手法は特に限定されない。例えば、制御部21Bは、画像中の顔の領域から、眼、鼻、口、眉などの顔の各器官の位置又は形状を検出し、検出した顔の各器官の位置又は形状に基づいて、顔の向きを検出してもよい。
制御部21Bが検出する運転者3の顔の向きは、例えば、運転者の顔のX軸(左右軸)回りの角度(上下の向き)であるピッチ(Pitch)角、顔のY軸(上下軸)回りの角度(左右の向き)であるヨー(Yaw)角、及び顔のZ軸(前後軸)回りの角度(左右傾き)であるロール(Roll)角で示してよく、少なくとも左右の向きを示すヨー角が含まれる。またこれらの角度は、所定の基準方向に対する角度で示すことができ、例えば、前記基準方向が、運転者の正面方向に設定されてもよい。検出された顔の向きのデータは、例えば、画像取得時刻又はフレーム番号などのデータと紐付けて記憶部22に記憶されてもよい。
ステップS42では、制御部21Bは、顔向き事象検出部382として動作し、運転者3の顔向き事象を検出する処理を行い、ステップS43に処理を進める。
運転者3の顔向き事象の検出は、例えば、ステップS41での顔向き検出の結果に基づいて、運転者3の顔未検出状態、脇見状態などの顔向き事象を検出してもよい。また、制御部21Bは、ステップS41での顔向き検出の結果と、ステップS32での交差点を通過中か否かの検出結果とに基づいて、交差点通過時の安全確認動作(左右確認、進行方向確認などの動作)などの事象を検出してもよい。検出された顔向き事象の検出データは、例えば、画像取得時刻、交差点通過時刻、又は位置などのデータと紐付けて記憶部22に記憶されてもよい。
ステップS43では、制御部21Bは、並列的に処理が行われているステップS4で閉眼率が算出されたか否かを判断し、閉眼率が算出されていないと判断すれば、ステップS41に戻り処理を繰り返す一方、閉眼率が算出されたと判断すれば、ステップS50に処理を進める。
ステップS50では、制御部21Bは、ステップS4で算出された閉眼率に対する前処理を行い、ステップS5に処理を進める。ステップS50の前処理の内容については後述する。
ステップS5では、制御部21Bは、第2所定期間の閉眼率を算出したか否かを判断し、第2所定期間の閉眼率を算出していないと判断すれば、ステップS1に戻り処理を繰り返す一方、第2所定期間の閉眼度を算出したと判断すれば、ステップS6に処理を進める。
ステップS6では、制御部21Bは、記憶部22から第2所定期間の前処理された閉眼率のデータを読み出し、その後ステップS1に戻り、眼開閉度の検出処理と閉眼率の算出処理を繰り返す。
図14は、実施の形態(3)に係る状態判定装置20Bの制御部21Bが行う処理動作例を示すフローチャートである。図14は、図13に示したステップS50の閉眼率の前処理の動作例を示している。但し、以下で説明する処理手順は一例に過ぎず、適宜変更されてよく、実施の形態に応じて、ステップの省略、置換、及び追加を行ってもよい。
ステップS51では、制御部21Bは、図13のステップS33において、第1所定期間に道路種別の切り替わりが検出されたか否かを判断し、第1所定期間に道路種別の切り替わりが検出されたと判断すれば、ステップS52に処理を進める。
ステップS52では、制御部21Bは、道路種別の切り替わりが検出される前に算出された閉眼率を、変動特徴量の算出に用いる対象データから除去する処理を行い、その後、前処理を終える。
一方ステップS51において、第1所定期間に道路種別の切り替わりが検出されなかったと判断すれば、ステップS53に処理を進める。
ステップS53では、制御部21Bは、図13のステップS34において、第1所定期間に車両2の停車が検出されたか否かを判断し、第1所定期間に車両2の停車が検出されたと判断すれば、ステップS54に処理を進める。
ステップS54では、制御部21Bは、車両2の停車検出時を含む第1所定期間における閉眼率を算出対象データから除去する処理を行い、その後、前処理を終える。
一方ステップS53において、第1所定期間に車両2の停車が検出されなかったと判断すれば、ステップS55に処理を進める。
ステップS55では、制御部21Bは、図13のステップS35において、第1所定期間に車両2の走行開始が検出されたか否かを判断し、第1所定期間に車両2の走行開始が検出されたと判断すれば、ステップS56に処理を進める。
ステップS56では、制御部21Bは、車両2の走行開始検出時を含む第1所定期間における閉眼率を算出対象データから除去する処理を行い、その後、前処理を終える。
一方ステップS56において、第1所定期間に車両2の走行開始が検出されなかったと判断すれば、ステップS57に処理を進める。
ステップS57では、制御部21Bは、図13のステップS36において、第1所定期間に車両2の急ハンドル又は急ブレーキが検出されたか否かを判断し、第1所定期間に車両2の急ハンドル又は急ブレーキが検出されたと判断すれば、ステップS58に処理を進める。
ステップS58では、制御部21Bは、車両2の急ハンドル又は急ブレーキの検出時を含む第1所定期間における閉眼率を算出対象データから除去する処理を行い、その後、前処理を終える。
一方ステップS57において、第1所定期間に車両2の急ハンドル又は急ブレーキが検出されなかったと判断すれば、ステップS59に処理を進める。
ステップS59では、制御部21Bは、図13のステップS37において、第1所定期間に車両2の衝撃が検出されたか否かを判断し、第1所定期間に車両2の衝撃が検出されたと判断すれば、ステップS60に処理を進める。
ステップS60では、制御部21Bは、車両2の衝撃検出時を含む第1所定期間における閉眼率を算出対象データから除去する処理を行い、その後、前処理を終える。
一方ステップS59において、第1所定期間に車両2の衝撃が検出されなかったと判断すれば、ステップS61に処理を進める。
ステップS61では、制御部21Bは、図13のステップS42において、第1所定期間に運転者3の顔向き事象が検出されたか否かを判断し、第1所定期間に運転者3の顔向き事象が検出されたと判断すれば、ステップS62に処理を進める。
ステップS62では、制御部21Bは、運転者3の顔向き事象の検出時を含む第1所定期間における閉眼率を算出対象データから除去する処理を行い、その後、前処理を終える。
一方ステップS61において、第1所定期間に運転者3の顔向き事象が検出されなかったと判断すれば、その後、前処理を終え、ステップS5に処理を進める。
実施の形態(3)に係る状態判定装置20Bを備えた車載機10Bによれば、前処理部36Aにより、第2所定期間の閉眼率のうち、事象検出部38により所定の事象が検出された時又は期間に算出された閉眼率が、変動特徴量の算出対象データから除去される。そして、前記除去処理された後の閉眼率を用いて、変動特徴量が算出される。したがって、前記変動特徴量の算出に、前記除去処理後の閉眼率を用いることによって、漫然状態へ移行する特徴をより正確に表す特徴量を算出することができ、前記漫然状態への移行を精度良く判定することができる。
また、事象検出部38が、車両動態検出部381を含んでいるので、第2所定期間の閉眼率のうち、車両2が走行する道路種別が切り替わった事象、車両2が停車した事象、及び車両2が走行を開始した事象のうちの少なくともいずれかの事象が検出された時又は期間に算出された閉眼率を、変動特徴量の算出対象データから除くことが可能となる。
また、事象検出部38が、顔向き事象検出部382を含んでいるので、第2所定期間の閉眼率のうち、車両2の運転中に運転者3の顔の向きが変化する事象が検出された時又は期間に算出された閉眼率を、変動特徴量の算出対象データから除くことが可能となる。
したがって、車両2の動態が時々刻々と変化する実車環境であっても、また、運転者3の顔の向きが様々に変化する実車環境であっても、漫然状態へ移行する傾向をより正確に示す特徴量として、変動特徴量を算出することができ、実車環境における運転者3の漫然状態への移行を精度良く判定することができる。
[実施の形態(4)]
次に実施の形態(4)に係る状態判定装置が装備された車載機について説明する。但し、実施の形態(4)に係る車載機10Cのハードウェア構成例は、図2に示した構成例と略同様であるので、異なる機能を有する状態判定装置20Cとその制御部21Cとには異なる符号を付し、その他の構成部品の説明は省略することとする。
図15は、実施の形態(4)に係る状態判定装置20Cの機能構成例を示すブロック図である。但し、実施の形態(4)に係る状態判定装置20Cの機能構成については、前処理部36Bと変動特徴量算出部33Bとの間に補間処理部39が設けられている点と、前処理部36B、変動特徴量算出部33B、及び漫然状態判定部34Aの処理機能とを除いて、図12に示した状態判定装置20Bの機能構成と略同様であるため、同一機能を有する構成には同一符号を付し、その説明を省略する。
前処理部36Bは、閉眼率算出部32により算出された閉眼率に対して、所定の前処理を行う。前処理部36Bは、図12の前処理部36Aと同様に、閉眼率算出部32により算出された、第2所定期間の閉眼率のうち、事象検出部38により所定の事象が検出された時又は期間(例えば、第1所定期間)に算出された閉眼率を、変動特徴量の算出対象データから除く除去処理を行う。
補間処理部39は、第2所定期間の閉眼率のうち、前処理部36Bの除去処理により除去された時又は期間(例えば、第1所定期間)における閉眼率を補間する処理を行う。除去された時又は期間における閉眼率を、変動特徴量を算出する前段で補間することにより、変動特徴量算出部33Bで算出される変動特徴量の精度を高めることが可能となる。
また、前処理部36Bは、例えば、漫然状態の判定に用いる変動特徴量の種類に応じて、上記除去処理及び補間処理された後の閉眼率の平滑化処理を行う。前処理部36Bは、平滑化処理として、例えば、所定間隔で閉眼率の移動平均を算出する処理を行ってもよい。
変動特徴量算出部33Bは、前処理部36Bと補間処理部39により前処理と補間処理(前記除去処理、補間処理、及び平滑化処理)された後の閉眼率を用いて、変動特徴量を算出する処理を行う。
図16は、実施の形態(4)に係る状態判定装置20Cの制御部21Cが行う処理動作を示すフローチャートである。図16に示す処理動作は、図13に示したステップS6の処理に引き続いて実行される。図16では、制御部21Cが、前処理部36B、補間処理部39、変動特徴量算出部33B、漫然状態判定部34A、及び出力部35として動作する一例を示している。なお、図11に示した処理動作と同一の処理内容については、同一ステップ番号を付し、その説明を省略することとする。
ステップS71では、制御部21Cは、補間処理部39として動作し、第2所定期間において、第1所定期間毎に算出された閉眼率のうち、図13のステップS50の前処理により除去された閉眼率を補間する処理を行い、その後ステップS21に処理を進める。
ステップS71の補間処理では、制御部21Cは、例えば、ステップS50の前処理により除去された閉眼率を、除去された閉眼率の直前又は直後に算出された閉眼率で補間する処理を行ってもよい。または、制御部21Cは、除去された閉眼率の直前と直後に算出された閉眼率の平均値で補間する処理を行ってもよいし、除去された閉眼率の直前と直後に算出された閉眼率の変化量又は変化率(傾き)に基づいて補間する処理を行ってもよい。
ステップS21~S26の処理は、補間された閉眼率のデータを用いる点を除き、図11に示すステップS21~S26の処理内容と基本的に同様であるので、ここではその説明を省略する。なお、ステップS22が前処理部36Bの処理動作に対応し、ステップS23、S25が変動特徴量算出部33Bの処理動作に対応し、ステップS24、S26が漫然状態判定部34Aの処理動作に対応する。
そして、ステップS24、又はステップS26において、制御部21Cは、漫然状態の判定処理を行った後、ステップS72に処理を進める。
ステップS72では、制御部21Cは、漫然状態判定部34Aとして動作し、閉眼率の変動特徴量が、警告処理を行う基準に設定された閾値A以上であるか否かを判断し、閾値A以上ではないと判断すれば、処理を終える一方、閾値A以上であると判断すれば、ステップS73に処理を進める。例えば、漫然状態のレベルを低、中、高に分類した場合、閾値Aは、中レベル以下の漫然状態にあることを判定するための基準としてもよい。
ステップS73では、制御部21Cは、出力部35として動作し、運転者3に対する警告処理を行い、ステップS74に処理を進める。制御部21Cは、警告処理として、例えば、報知部16を作動させて、運転者3を覚醒させるための警報音や警告アナウンスを出力する処理を行ってもよい。
ステップS74では、制御部21Cは、漫然状態判定部34Aとして動作し、閉眼率の変動特徴量が、外部通報を行う基準に設定された閾値B以上であるか否かを判断し、閾値B以上ではないと判断すれば、ステップS76に処理を進める一方、閾値B以上であると判断すれば、ステップS75に処理を進める。閾値Bは、閾値Aより大きく、例えば、漫然状態のレベルを低、中、高に分類した場合、中レベルより高い漫然状態にあることを判定するための基準としてもよい。
ステップS75は、制御部21Cは、出力部35として動作し、運転者3が漫然状態であることを外部へ通報する処理を行い、その後ステップS76に処理を進める。外部通報処理として、例えば、通信部15を作動させて、事業者端末6に、運転者3が中レベルより高い漫然状態にあることを通報する処理を行う。
ステップS76では、制御部21Cは、ステップS74で変動特徴量が閾値B以上ではないと判定された場合、閾値A以上である漫然状態の判定結果を第2所定期間の経過時刻、位置などのデータと紐付けて記憶部22に記憶する処理を行い、その後処理を終える。
またステップS76では、制御部21Cは、ステップS74で変動特徴量が閾値B以上であると判定され、ステップS75で外部通報処理が実行された場合、閾値B以上である漫然状態の判定結果を第2所定期間の経過時刻、位置などのデータと紐付けて記憶部22に記憶する処理を行い、その後処理を終える。
なお、制御部21Cは、ステップS76の後、記憶部22に記憶された漫然状態検出結果を含むデータを所定のタイミングで運転評価装置4へ送信するようにしてもよい。
実施の形態(4)に係る状態判定装置20Cを備えた車載機10Cによれば、前処理部36Bにより、第2所定期間の閉眼率のうち、事象検出部38により所定の事象が検出された時又は期間に算出された閉眼率が、変動特徴量の算出対象データから除去される。そして、前記除去処理された後の閉眼率を用いて、前記変動特徴量が算出される。
また、前処理部36Bにより、除去処理後の閉眼率の平滑化処理がさらに行われるので、前記平滑化処理された閉眼率を、前記変動特徴量の算出に用いることができ、前記変動特徴量を、漫然状態へ移行する傾向が把握しやすい特徴量として算出することができ、漫然状態への移行を精度良く判定することができる。
また、漫然状態判定部34Aでは、複数の判定閾値(閾値A、閾値B)を用いて、運転者3の漫然状態が段階的に判定されるので、運転者3の漫然状態を段階的に判定することが可能となり、漫然状態の程度に応じた適切な判定を行うことができ、また、漫然状態の程度に応じた適切な出力を行うことができる。
[変形例]
以上、本発明の実施の形態を詳細に説明したが、前述までの説明はあらゆる点において本発明の例示に過ぎない。本発明の範囲を逸脱することなく、種々の改良や変更を行うことができることは言うまでもない。
なお、上記実施の形態(1)では、状態判定装置20が、カメラ11から画像を取得して、顔の向き、視線の方向、及び眼開閉度のデータを検出する処理を行うようになっていた。別の実施の形態では、カメラ11が、例えば、画像処理プロセッサなどを含む画像解析部を備え、該画像解析部が、撮像した画像から運転者3の顔の向き、視線の方向、及び眼開閉度のデータ(運転挙動データ)を検出する処理などを行うようにしてもよい。そして、状態判定装置20が、運転者3の運転挙動データ、画像データ、及び撮像日時(時刻)データをカメラ11から取得し、取得した眼開閉度のデータを用いて、閉眼率の算出処理以降の処理を実行するようにしてもよい。
また、上記実施の形態では、状態判定装置が車載機に適用された場合について説明したが、状態判定装置は車載機への適用に限定されるものではなく、例えば、状態判定装置を産業機器システムなどに組み込んで、所定の作業を行っている人物の漫然状態を判定する用途などに適用することも可能である。
[付記]
本発明の実施の形態は、以下の付記の様にも記載され得るが、これらに限定されない。
(付記1)
人物の状態を判定する状態判定装置(20)であって、
前記人物の顔を撮像した画像から前記人物の眼開閉度を検出する眼開閉度検出部(31)と、
該眼開閉度検出部(31)により検出された第1所定期間の前記眼開閉度を用いて、前記人物の閉眼率を算出する閉眼率算出部(32)と、
該閉眼率算出部(32)により算出された第2所定期間の前記閉眼率を用いて、前記閉眼率の変動特徴量を算出する変動特徴量算出部(33)と、
該変動特徴量算出部(33)により算出された前記変動特徴量に基づいて、前記人物の漫然状態を判定する漫然状態判定部(34)とを備えていることを特徴とする状態判定装置。
(付記2)
状態判定装置(20)と、
前記画像を撮像する撮像部(11)とを備えていることを特徴とする車載機(10)。
(付記3)
1以上の車載機(10)と、
該車載機(10)の前記状態判定装置(20)により判定された前記人物の漫然状態の判定結果を含むデータに基づいて、前記人物の漫然状態の評価を含む運転評価を行う運転評価部(421)、及び
該運転評価部(421)により評価された前記人物の漫然状態の評価を含む運転評価結果を出力する評価結果出力部(422)を備えている運転評価装置(4)とを含んで構成されていることを特徴とする運転評価システム(1)。
(付記4)
人物の状態を判定する状態判定方法であって、
前記人物の顔を撮像した画像から前記人物の眼開閉度を検出する眼開閉度検出ステップ(S2)と、
該眼開閉度検出ステップ(S2)で検出された第1所定期間の前記眼開閉度を用いて、前記人物の閉眼率を算出する閉眼率算出ステップ(S4)と、
該閉眼率算出ステップ(S4)で算出された第2所定期間の前記閉眼率を用いて、前記閉眼率の変動特徴量を算出する変動特徴量算出ステップ(S7)と、
該変動特徴量算出ステップ(S7)で算出された前記変動特徴量に基づいて、前記人物の漫然状態を判定する漫然状態判定ステップ(S8)とを含んでいることを特徴とする状態判定方法。
(付記5)
人物の状態を判定する処理を少なくとも1以上のコンピュータ(20)に実行させるためのプログラム(221)であって、
前記1以上のコンピュータ(20)に、
前記人物の顔を撮像した画像から前記人物の眼開閉度を検出する眼開閉度検出ステップと(S2)、
該眼開閉度検出ステップ(S2)で検出された第1所定期間の前記眼開閉度を用いて、前記人物の閉眼率を算出する閉眼率算出ステップ(S4)と、
該閉眼率算出ステップ(S4)で算出された第2所定期間の前記閉眼率を用いて、前記閉眼率の変動特徴量を算出する変動特徴量算出ステップ(S7)と、
該変動特徴量算出ステップ(S7)で算出された前記変動特徴量に基づいて、前記人物の漫然状態を判定する漫然状態判定ステップ(S8)とを実行させるためのプログラム。