JP2010122897A - 眠気判定装置、プログラム - Google Patents

眠気判定装置、プログラム Download PDF

Info

Publication number
JP2010122897A
JP2010122897A JP2008295811A JP2008295811A JP2010122897A JP 2010122897 A JP2010122897 A JP 2010122897A JP 2008295811 A JP2008295811 A JP 2008295811A JP 2008295811 A JP2008295811 A JP 2008295811A JP 2010122897 A JP2010122897 A JP 2010122897A
Authority
JP
Japan
Prior art keywords
distance
drowsiness
determination
lip
muscle
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2008295811A
Other languages
English (en)
Other versions
JP5163440B2 (ja
Inventor
Satori Hachisuga
知理 蜂須賀
Kenji Ishida
健二 石田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Corp
Original Assignee
Denso Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Corp filed Critical Denso Corp
Priority to JP2008295811A priority Critical patent/JP5163440B2/ja
Publication of JP2010122897A publication Critical patent/JP2010122897A/ja
Application granted granted Critical
Publication of JP5163440B2 publication Critical patent/JP5163440B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
  • Image Processing (AREA)
  • Emergency Alarm Devices (AREA)
  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)

Abstract

【課題】眠気判定装置において、検出精度を向上させること。
【解決手段】眠気判定装置では、運転者が運転中である時の代表値である運転時特徴距離を、運転者が覚醒状態であるとみなせる時の代表値である覚醒距離と比較する。これにより、左右の大頬骨筋それぞれが弛緩状態であるか否かを判定し(S520,540)、さらに、運転者が開口行動を実行中であるか否かを判定して(S560)、その後、笑筋及び咬筋の両方が弛緩状態であるか否かを判定する(S580)。それらの判定の結果、運転者が開口行動を実行していない場合、弛緩状態である筋肉の数が多いほど運転者に生じている眠気が強いものと判定して、眠気レベルを導出する(S600,620)。その後、運転者の眠気が低下するように、警告や注意を運転者に対して出力する(S610,630)。
【選択図】図9

Description

本発明は、人の眠気を判定する眠気判定装置、及びその眠気判定装置を構成する各手段としてコンピュータを機能させるためのプログラムに関する。
従来より、人(以下、検出対象者と称す)の顔面を被写体とした画像を撮影するカメラと、カメラで撮影した画像に基づいて、検出対象者の眠気を判定する眠気判定装置とを備えた眠気判定システムが知られている。
この眠気判定装置として、検出対象者があくびをかみ殺したことを検知すると、検出対象者に眠気が生じている(即ち、検出対象者の覚醒度が低下している)と判定するものが提案されている(例えば、特許文献1参照)。具体的には、特許文献1に記載の眠気判定装置では、左右の両口角の距離が、覚醒時における両口角の距離よりも長くなると、口周りの筋肉が収縮して、検出対象者は、あくびをかみ殺したものと判定している。
特開2007−264785号公報
ところが、人に眠気が生じたとしても、必ずあくびをするとは限らず、また、あくびをする場合に、そのあくびを必ずかみ殺すとは限らない。
このため、あくびをかみ殺した時に初めて眠気が生じているものと判定する特許文献1に記載の眠気判定装置では、眠気が生じているにも拘わらず、あくびが出ない時や、あくびが出てもかみ殺さない時には、眠気が生じているものとして判定されないという問題があった。
つまり、特許文献1に記載の眠気判定装置では、検出対象者に眠気が生じていることを検出する検出精度が良くないという問題があった。
そこで、本発明は、人の眠気を判定する眠気判定装置において、検出精度を向上させることを目的とする。
上記目的を達成するためになされた本発明は、移動体に搭載される眠気判定装置である。
本願の発明者らが行った研究の結果、「検出対象者(即ち、乗員)に眠気が生じると口唇接続筋は弛緩する」という知見が得られた。本発明の眠気判定装置は、この知見に基づくものである。
その本発明の眠気判定装置では、人の口周りに存在し、眠気が生じると弛緩する複数の筋肉それぞれを口唇接続筋とし、筋肉状態判定手段が、移動体の乗員が有する口唇接続筋が弛緩した弛緩状態であるか否かを判定し、眠気判定手段が、筋肉状態判定手段にて、少なくとも一つの口唇接続筋が弛緩状態であると判定された場合、乗員に眠気が生じているものと判断する。
言い換えれば、本発明の眠気判定装置では、眠気により無意識に生じる現象を検出すると、乗員に眠気が生じているものと判定する。このため、本発明の眠気判定装置によれば、眠気が生じていることを検出する検出精度を向上させることができる。
ところで、検出対象者に生じている眠気が強いほど、複数ある口唇接続筋の中で多くの筋肉が弛緩する。
このため、本発明の眠気判定装置における眠気判定手段は、請求項2に記載のように、筋肉状態判定手段での判定の結果、弛緩状態である口唇接続筋の数が多いほど、眠気が強いものと判断するように構成されていても良い。
このように構成された眠気判定装置によれば、弛緩した筋肉の数に応じて、乗員に生じている眠気の強さをより適切に判定することができる。
さらに、眠気判定手段は、請求項3に記載のように、判断結果として、眠気が強いほど大きな値となる眠気度を導出するように構成されていても良い。
このように構成された本発明の眠気判定装置においては、請求項4に記載のように、眠気度が予め規定された規定値以上である場合、安全制御実行手段が、移動体の移動が安全になされるように移動体の搭載機器を制御する安全制御を実行するように構成されていても良い。
このように構成された眠気判定装置によれば、規定レベル以上の眠気が乗員に生じている場合には、安全制御を実行するため、移動体の運行を安全に実施させることができる。
なお、ここで言う安全制御とは、移動体を安全な位置に停止させるように、ブレーキ機構やパワトレ機構を制御することでも良いし、乗員を覚醒させるために乗員に対して刺激を与える(例えば、冷風を吹き付けたり、ラジオ等のオーディオ装置を作動させたりする)ように、空調制御装置や音響機器制御装置を制御することでも良い。さらに、ここで言う安全制御とは、乗員の眠気度が規定値以上であることを乗員に対して報知するように、モニタに警告を表示したり、スピーカを鳴動させたりすることでも良い。
また、本発明の眠気判定装置における筋肉状態検出手段は、請求項5に記載のように、人の顔面上で、口唇接続筋それぞれに連動して両者間の距離が変化する一対のポイントを特徴点とし、撮影画像取得手段が、乗員の顔面が写り込んだ撮影画像を取得し、特徴点抽出手段が、その取得した撮影画像の中から特徴点を抽出すると共に、特徴距離導出手段が、特徴点それぞれの間の距離である特徴距離を導出して、判定実行手段が、その導出された特徴距離を、その特徴距離の導出に用いた特徴点の間の覚醒時における距離である覚醒距離と比較することにより、弛緩状態であるか否かを判定するように構成されていても良い。
なお、発明者らが研究を行った結果、検出対象者に眠気が生じると、大頬骨筋が弛緩するとの知見が得られた。
このため、本発明の眠気判定装置において、判定実行手段により、弛緩状態であるか否かを判定する口唇接続筋の一つは、請求項6に記載のように、大頬骨筋であることが望ましい。
そして、本願の発明者らは、口唇接続筋の一つである大頬骨筋の状態を検出するための特徴点として、目尻と口角とを(即ち、目尻(頬骨弓)と口角と間の距離を特徴距離として)規定して、実験を行った。この結果、図10(A)に示すように、特徴距離は、眠気が強いほど長くなることが明らかとなった。なお、図10(A)に示すグラフは、横軸に眠気レベル(本発明の眠気度に相当:数値が大きいほど検出対象者に生じている眠気が強い)をとり、縦軸に特徴距離をとったものである。ただし、眠気レベル0が覚醒状態における実験結果(即ち、覚醒距離)を表すものである。
したがって、特徴点として、目尻と口角とが規定されている場合、本発明の眠気判定装置における判定実行手段は、請求項7に記載のように、特徴距離が覚醒距離よりも長くなると、大頬骨筋が弛緩状態であるものと判定するように構成されていることが望ましい。
また、発明者らが実験を行った結果、検出対象者に眠気が生じると、笑筋または咬筋の両方が弛緩するとの知見が得られた。
このため、本発明の眠気判定装置において、判定実行手段により、弛緩状態であるか否かを判定する口唇接続筋とは、請求項8に記載のように笑筋及び咬筋であることが望ましい。
そして、本願の発明者らは、笑筋及び咬筋が弛緩したか否かを判定するための特徴点として、唇の上端と下端とを(即ち、唇の上下端の間の唇縦距離を特徴距離として)規定して、実験を行った。この結果、図10(B)に示すように、特徴距離は、検出対象者に眠気が生じると覚醒時に比べて長くなることが明らかとなった。なお、図10(B)に示すグラフは、横軸に眠気レベルをとり、縦軸に特徴距離(即ち、唇縦距離)をとったものである。
また、本願の発明者らは、笑筋及び咬筋が弛緩したか否かを判定するための特徴点として、左右の口角を(即ち、左右の口角の間の唇横距離を特徴距離として)規定して、実験を行った。この結果、図10(C)に示すように、特徴距離は、検出対象者に眠気が生じると覚醒時に比べて短くなることが明らかとなった。なお、図10(C)に示すグラフは、横軸に眠気レベルをとり、縦軸に特徴距離(即ち、唇横距離)をとったものである。ただし、図10(B),(C)に示すグラフは、眠気レベル0が覚醒状態における実験結果(即ち、覚醒距離)を表すものである。
これらのことから、特徴点として、唇の上下端、及び左右の両口角を規定し、さらに、特徴距離として、唇の上下端の間の唇縦距離、及び左右の口角の間の唇横距離を規定した場合、本発明の眠気判定装置における状態判定手段は、唇縦距離がその唇縦距離に対応する覚醒距離よりも長く、かつ唇横距離がその唇横距離に対応する覚醒距離よりも短くなると、笑筋及び咬筋の両方が弛緩状態であるものと判定するように構成されていることが望ましい。
ところで、例えば、検出対象者が、発話や咀嚼といった下あごを上下に動かす行動を実施した場合、大頬骨筋は、眠気が生じた時とは異なり収縮する。このため、口角と目尻との間の距離からなる特徴距離は、覚醒距離よりも距離が短い範囲である規定範囲内となる。また、検出対象者が、あくびや口笛を吹くといった口をすぼめる行動を実施した場合、唇横距離は、唇縦距離よりも短く、かつ覚醒している時の唇横距離に比べて短い範囲である規定範囲内となる。
つまり、意識的に行う必要のある特定行動を検出対象者が実施している時には、その検出対象者に眠気が生じていない可能性が高く、特徴距離は、眠気が生じている時とは異なる距離の範囲内となる。
この時(即ち、乗員が意識的に特定行動を実施している時点で)、眠気の判定を回避することにより、検出対象者に、眠気が生じていないにも拘わらず、眠気が生じているものと判定することを防止できる。
そこで、乗員が覚醒時に実施する特定行動により変化する特徴距離の範囲を規定範囲とした場合、本発明の眠気判定装置は、請求項10に記載のように、特徴距離が規定範囲内であれば、判定回避手段が、眠気判定手段による眠気の判定を回避するように構成されていることが望ましい。
ところで、本発明は、請求項11に記載のように、プログラムとしてなされたものでも良い。
このようなプログラムとして本発明がなされた場合、例えば、DVD−ROM、CD−ROM、ハードディスク等のコンピュータ読み取り可能な記録媒体に記録し、必要に応じてコンピュータにロードさせて起動することにより用いることができる。
以下に本発明の実施形態を図面と共に説明する。
図1は、本発明が適用され、自動車に搭載される眠気警報システムの概略構成を示したブロック図であり、図2は、眠気警報システムを構成する各部が車室内に配置された様子を示した説明図である。
〈眠気警報システムの全体構成について〉
この眠気警報システム1は、運転者の口周りに存在し、かつ眠気が生じると弛緩する筋肉それぞれ(以下、口唇接続筋とする)の弛緩状態を判定し、その判定の結果に従って、運転者に生じている眠気の強さ(以下、眠気レベルと称す)を導出して、車載機器を制御するものである。
これを実現するため、図1,2に示すように、眠気警報システム1は、レンズを運転席へと向けてインストルメントパネル内に配置され、運転者の顔面を含む画像を撮影するカメラ20と、カメラ20にて撮影された画像に基づいて、口唇接続筋が弛緩状態であるか否かを判定して、眠気レベルを算出し、その算出された眠気レベルに従って車載機器を制御する眠気判定装置10と、当該眠気警報システム1を起動する起動信号、及び当該眠気警報システム1の作動を停止する終了信号を使用者(即ち、乗員)に入力させるためのスイッチ30とを備えている。さらに、眠気警報システム1は、車載機器として、インストルメントパネル上に配置され、車室内に警報を出力する警報装置15と、運転席のヘッドレスト内に設けられ、運転者に冷風を吹き付ける冷風送気装置21と、車載ラジオやCDプレーヤなどの音響機器を制御する音響機器制御装置25と、車両に備えられたブレーキの制動力を制御するブレーキ制御装置27とを備えている。
このうち、カメラ20は、予め規定された時間間隔(例えば、1/30s)にて、レンズを介して撮像素子が受光することにより、その時間間隔毎に画像を撮影する周知のデジタルカメラである。以下では、カメラ20にて撮影された画像を撮影画像と称す。
また、警報装置15は、眠気判定装置10から出力される音声信号に従って鳴動するスピーカ16と、眠気判定装置10から出力される映像信号に従って画像を表示するモニタ17とを備えている。そのモニタ17は、運転席に着座した運転者が視認可能なように、インストルメントパネル上に配置されている。
さらに、冷風送気装置21は、運転席に着座した運転者に冷風を吹きかける周知のものであり、眠気判定装置10からの制御指令に従って、運転者に冷風を吹き付けるように構成されている。
また、音響機器制御装置25は、眠気判定装置10からの制御指令に従って、音響機器を制御し、音響機器のスイッチや音量、チャンネルや楽曲などを切り替えるように構成されている。
さらに、ブレーキ制御装置27は、眠気判定装置10からの制御指令に従って、ブレーキ油圧回路に備えられた増圧制御弁・減圧制御弁を開閉するブレーキアクチュエータを制御するように構成されている。
〈眠気判定装置について〉
一方、眠気判定装置10は、カメラ20から取得した撮影画像に対して画像処理を実行するものである。このため、眠気判定装置10は、電源が切断されても内容を保持する必要のあるデータや処理プログラムを記憶するROM10aと、処理途中で一時的に生じたデータを格納するRAM10bと、ROM10aやRAM10bに記憶された処理プログラムを実行するCPU10cとを備えた周知のマイクロコンピュータを中心に構成されている。
その眠気判定装置10は、カメラ20から取得した撮影画像から、人の顔面上にて、口唇接続筋それぞれに連動して両者間の距離が変化する一対のポイント(即ち、座標)を検出し、それらのポイント間の距離である特徴距離を導出する表情情報取得処理を実行するように構成されている。なお、本実施形態では、以下、一対のポイントを構成する各ポイントを特徴点とし、一対のポイントを特徴点ペアと称す。
その特徴点ペアとして、本実施形態では、図3に示すように、左目尻(以下、特徴点座標を(x1,y1,z1)とする)と左口角(x3,y3,z3)との組合せ、右目尻(x2,y2,z2)と右口角(x4,y4,z4)との組合せが規定されている。すなわち、特徴距離として、左目尻(x1,y1,z1)と左口角(x3,y3,z3)の間の距離(以下、左頬距離Lと称す)と、右目尻(x2,y2,z2)と右口角(x4,y4,z4)との間の距離(以下、右頬距離Rと称す)とがある。
また、本実施形態における特徴点ペアとしては、図4に示すように、左の口角(x3,y3,z3)と右の口角(x4,y4,z4)との組合せ、上唇の上端(x5,y5,z5)と下唇の下端(x6,y6,z6)との組合せが規定されている。すなわち、特徴距離として、左の口角(x3,y3,z3)と右の口角(x4,y4,z4)との間の距離(以下、唇横距離Bhと称す)と、上唇の上端(x5,y5,z5)と下唇の下端(x6,y6,z6)との間の距離(以下、唇縦距離Bvと称す)とがある。
ところで、眠気判定装置10のROM10aには、運転者が覚醒状態である時に取得した撮影画像に基づいて導出した各特徴距離に従って、覚醒時における特徴距離それぞれについての代表値(以下、覚醒距離とする)を導出する覚醒時データ収集処理をCPU10cが実行するための処理プログラムが格納されている。
さらに、ROM10aには、撮影画像に基づいて導出した特徴距離それぞれについての代表値(以下運転時特徴距離と称す)を、覚醒距離と比較することにより、口唇接続筋それぞれが弛緩状態であるか否かを判定し、その判定結果から眠気レベルを導出すると共に、その導出された眠気レベルに従って車載機器を制御する眠気警報処理をCPU10cが実行するための処理プログラム等が格納されている。
なお、以下では、眠気判定装置10のRAM10bにおいて、眠気警報処理の実行途中で一時的に導出されるデータを格納する領域を一時格納領域と称し、眠気警報処理により導出される特徴距離を格納する領域を特徴距離格納領域と称し、覚醒距離それぞれを格納する領域を覚醒距離納領域と称す。
〈眠気警報処理について〉
次に、CPU10cが実行する眠気警報処理について説明する。
ここで、図5は、眠気警報処理の処理手順を示すフローチャートである。
この眠気警報処理は、起動指令が入力された(即ち、乗員が操作することによりスイッチ30がONされた)時に起動されるものである。
そして、眠気警報処理が起動されると、図5に示すように、まず、S10では、覚醒時データ収集処理を実行する。これにより、覚醒距離それぞれが導出され、その導出された各覚醒距離がRAM10bの覚醒距離格納領域に格納される。
つまり、本実施形態のS10では、眠気警報システム1が起動された直後(例えば、運転者が車両に乗り込んだ直後)に、カメラ20から取得する撮影画像に基づいて導出した特徴距離に従って、覚醒距離それぞれを導出する。これは、運転者が車両に乗り込んだ直後であれば、運転者に眠気が生じていない可能性が高く、運転者が覚醒状態であるものとみなせるためである。
続く、S30では、カメラ20から取得した撮影画像に基づいて特徴距離それぞれを導出し、その導出した特徴距離に従って運転時特徴距離を導出する運転時データ収集処理を実行する。
そして、S50では、S30で導出された運転時特徴距離を、S10で導出された覚醒距離と比較することにより、口唇接続筋それぞれが弛緩状態であるか否かを判定し、その判定結果から眠気レベルを導出すると共に、車載機器を制御する眠気判定処理を実行する。
さらに、S70では、終了指令が入力された(即ち、乗員が操作することによりスイッチ30がOFFされた)か否かを判定する。その判定の結果、終了指令が入力されていなければ、S30へと戻り、終了指令が入力されるまで、S30での運転時データ収集処理、及びS50での眠気判定処理を繰り返す。一方、S70での判定の結果、終了指令が入力されていれば、本眠気警報処理を終了する。
〈表情情報取得処理について〉
次に、覚醒時データ収集処理、及び運転時データ収集処理の両方にて実行される表情情報取得処理について説明する。この表情情報取得処理は、カメラ20から取得した撮影画像に基づき、特徴距離それぞれを導出するためのものである。
ここで、図7は、表情情報取得処理の処理手順を示したフローチャートである。
この表情情報取得処理は、起動されると、まず、図7に示すように、S810にて、第二カウント値jを初期値(本実施形態では、0)に設定する。
続く、S820では、カメラ20より撮影画像を取得する。そして、S830では、S820にて取得した撮影画像に対して周知の画像解析を実行して、各特徴点(即ち、座標)を検出する。
つまり、このS830での処理が実行されることにより、左目尻(x1,y1,z1),右目尻(x2,y2,z2),左口角(x3,y3,z3),右口角(x4,y4,z4),上唇の上端(x5,y5,z5),下唇の下端(x6,y6,z6)が、両撮影画像から検出される。なお、特徴点を抽出する技術は、特開平09−270010号公報に記載のように周知であるため、ここでの詳しい説明は省略する。
そして、S840では、S830で検出した各特徴点に基づいて、特徴距離(即ち、左頬距離L、右頬距離R、唇縦距離Bv、唇横距離Bh)それぞれを導出して、それらの導出した特徴距離L,R,Bv,Bhを、RAM10bの特徴距離格納領域に格納する。
具体的に、本実施形態では、S820で導出された各特徴点の座標を、次の各式に代入することで、各特徴距離L,R,Bv,Bhを導出する。
L={(x1−x3)2+(y1−y3)2+(z1−z3)2(1/2)
R={(x2−x4)2+(y2−y4)2+(z2−z4)2(1/2)
Bv={(x5−x6)2+(y5−y6)2+(z5−z6)2(1/2)
Bh={(x3−x4)2+(y3−y4)2+(z3−z4)2(1/2)
そして、S850では、第二カウント値jをインクリメント(j=j+1)して、S860へと進む。
そのS860では、第二カウント値jが設定数m未満であるか否かを判定する。そして、判定の結果、第二カウント値jが設定数m未満であれば、S820へと戻る。一方、第二カウント値jが設定数m以上となると、本表情情報取得処理を終了して、覚醒時データ収集処理または運転時データ収集処理へと戻る。
なお、本実施形態における設定数mは、予め設定された設定時間(例えば、2秒)の間に、カメラ20から取得可能な撮影画像の枚数(例えば、60)である。
つまり、本実施形態における表情情報取得処理では、カメラ20から撮影画像を取得する毎に、その取得した撮影画像から全ての特徴点を検出して、それぞれの特徴距離L,R,Bv,Bhを導出する。そして、表情情報取得処理では、カメラ20から取得した撮影画像の枚数が設定数mとなるまで、特徴距離の導出をくり返す。したがって、表情情報取得処理を実行することにより、RAM10bの特徴距離格納領域には、特徴距離それぞれについて設定数m個ずつ格納されることになる。
〈覚醒時データ収集処理について〉
次に、眠気警報処理のS10にて実行される覚醒時データ収集処理について説明する。
ここで、図6は、覚醒時データ収集処理の処理手順を示したフローチャートである。
この覚醒時データ収集処理は、起動されると、図6に示すように、まず、S110にて、RAM10bの一時格納領域、特徴距離格納領域、及び覚醒距離格納領域に格納されているデータ(即ち、特徴距離、運転時特徴距離、及び覚醒距離)を初期化(即ち、消去)する。続く、S120では、第一カウント値iを初期値(即ち、0)に設定する。
そして、S130では、表情情報取得処理を実行する。つまり、S130では、表情情報取得処理を実行することにより、予め設定された設定時間(例えば、2秒)の間に撮影された撮影画像の枚数分だけ、特徴距離L,R,Bv,Bhが導出され、その導出された全特徴距離L,R,Bv,BhがRAM10bの特徴距離格納領域に格納される。
続く、S140では、今サイクル(ここでは、S130からS170までの一連のステップを表す)におけるS130の表情情報取得処理にて導出された特徴距離それぞれ(即ち、左頬距離L、右頬距離R、唇横距離Bh、唇縦距離Bv)について、予め規定された基準を満たす基準値を導出する。以下、左頬距離L、右頬距離R、唇横距離Bh、唇縦距離Bvそれぞれの基準値には、符合aを付す。つまり、左頬距離Lの基準値であれば、左頬距離Laと記載する。
具体的に、本実施形態のS140では、RAM10bの特徴距離格納領域に格納されている各特徴距離L,R,Bv,Bhを全て読み出し、それらの各特徴距離について度数分布を求める。そして、それぞれの特徴距離についての度数分布に基づき、各特徴距離についての基準値La,Ra,Bva,Bhaを導出し、RAM10bの一時格納領域に格納する。
より具体的には、左頬距離L、右頬距離R、唇縦距離Bvのそれぞれについては、それぞれの度数分布において、累積相対度数が最大値から5%となる値を基準値(即ち、左頬距離La、右頬距離Ra、唇縦距離Bva)として導出する。また、唇横距離Bhについては、唇横距離Bhの度数分布において、累積相対度数が最小値から5%となる値を、基準値(即ち、唇横距離Bha)として導出する。
そして、S150では、RAM10bの特徴距離格納領域に格納されている特徴距離L,R,Bv,Bhを削除する。続く、S160では、第一カウント値iをインクリメント(i=i+1)する。
さらに、S170では、第一カウント値iが、所定値n未満であるか否かを判定し、判定の結果、第一カウント値iが所定値n未満であれば、S130へと戻り、第一カウント値iが所定値n以上となると、S180へと進む。
なお、所定値nは、覚醒距離を導出するために必要な基準値それぞれの個数(例えば、60)として予め規定されたものである。したがって、本実施形態のS170では、特徴距離が、RAM10bの特徴距離格納領域に、所定値nだけ格納されていなければ、所定値nだけ格納されるまで、表情情報取得処理を繰り返し、所定値nだけ格納されていれば、S180へと進む。
そのS180では、S140で導出された各特徴距離の基準値La,Ra,Bva,Bhaに基づいて、それぞれの特徴距離L,R,Bv,Bhについての覚醒距離を導出し、その導出された覚醒距離を、RAM10bの覚醒距離格納領域に格納する。以下、左頬距離L、右頬距離R、唇横距離Bh、唇縦距離Bvそれぞれの覚醒距離には、符合bを付す。つまり、左頬距離Lの基準値であれば、左頬距離Lbと記載する。
具体的に、本実施形態では、RAM10bの一時格納領域に格納されている各特徴距離の基準値(即ち、左頬距離La、右頬距離Ra、唇縦距離Bva、唇横距離Bha)を全て読み出す。まず、各特徴距離それぞれの基準値La,Ra,Bva,Bhaについて、平均値μ、及び標準偏差σをそれぞれ導出すると共に、各特徴距離それぞれの基準値La,Ra,Bva,Bhaについて度数分布を求める。このとき、求められる度数分布は、正規分布としてみなせる可能性が高い。
そして、左頬距離L、右頬距離R、唇縦距離Bvのそれぞれについては、それぞれの基準値についての度数分布において、μ+2σとなる値を覚醒距離(即ち、左頬距離Lb、右頬距離Rb、唇縦距離Bvb)として導出する。また、唇横距離Bhについては、唇横距離Bhの覚醒距離についての度数分布において、μ−2σとなる値を覚醒距離(即ち、唇横距離Bhb)として導出する。
その後、眠気警報処理へと戻り、S30の運転時データ収集処理へと進む。
つまり、本実施形態の覚醒時データ収集処理では、運転者が覚醒状態であるとみなせる時に撮影された撮影画像を取得し、その撮影画像から導出した特徴距離(即ち、左頬距離L、右頬距離R、唇縦距離Bv、唇横距離Bh)に従って、特徴距離それぞれについての覚醒距離(即ち、左頬距離Lb、右頬距離Rb、唇縦距離Bvb、唇横距離Bhb)を導出する。
〈運転時データ収集処理について〉
次に、眠気警報処理のS30にて実行される運転時データ収集処理について説明する。
ここで、図8は、運転時データ収集処理の処理手順を示したフローチャートである。
この運転時データ収集処理は、起動されると、図8に示すように、まず、S310にて、RAM10bの一時格納領域に格納されている基準値La,Ra,Bva,Bha、及びRAM10bの特徴距離格納領域に格納されている全ての特徴距離L,R,Bv,Bhを初期化(即ち、削除)する。
続く、S320では、表情情報取得処理を実行する。つまり、S320では、表情情報取得処理を実行することにより、予め設定された設定時間(例えば、2秒)の間に撮影された撮影画像の枚数分だけ、特徴距離L,R,Bv,Bhが導出され、その導出された全特徴距離L,R,Bv,BhがRAM10bの特徴距離格納領域に格納される。
そして、S330では、今サイクル(ここでは、今回、起動された運転時データ収集処理の1サイクルを表す)におけるS320(表情情報取得処理)にて導出された特徴距離それぞれ(即ち、左頬距離L、右頬距離R、唇横距離Bh、唇縦距離Bv)について、予め規定された基準を満たす値を運転時特徴距離として導出する。以下、左頬距離L、右頬距離R、唇横距離Bh、唇縦距離Bvそれぞれの運転時特徴距離には、符合dを付す。つまり、左頬距離Lの運転時特徴距離であれば、左頬距離Ldと記載する。
具体的に、本実施形態のS330では、RAM10bの特徴距離格納領域に格納されている各特徴距離L,R,Bv,Bhを全て読み出し、それらの特徴距離L,R,Bv,Bhそれぞれについて度数分布を求める。そして、それぞれの度数分布に基づき、各特徴距離についての運転時特徴距離Ld,Rd,Bvd,Bhdを導出し、RAM10bの一時格納領域に格納する。
より具体的には、左頬距離L、右頬距離R、唇縦距離Bvのそれぞれについては、それぞれの度数分布において、累積相対度数が最小値から5%となる値を運転時特徴距離(即ち、左頬距離Ld、右頬距離Rd、唇縦距離Bvd)として導出する。また、唇横距離Bhについては、唇横距離Bhの度数分布において、累積相対度数が最大値から5%となる値を、運転時特徴距離(即ち、唇横距離Bhd)として導出する。
そして、その後、本運転時データ処理を終了して、眠気警報処理へと戻る。
つまり、本実施形態の運転時データ収集処理では、運転者が運転中であるとみなせる時に撮影された撮影画像を取得し、その撮影画像から導出した特徴距離L,R,Bv,Bhに従って、特徴距離それぞれについての運転時特徴距離(即ち、左頬距離Ld、右頬距離Rd、唇縦距離Bvd、唇横距離Bhd)を導出する。
〈眠気判定処理について〉
次に、眠気警報処理のS50にて実行される眠気判定処理について説明する。
ここで、図9は、眠気判定処理の処理手順を示したフローチャートである。
この眠気判定処理は、起動されると、図9に示すように、まず、S510では、詳しくは後述する左頬フラグLf,右頬フラグRf,開口フラグBa,比率フラグBrを初期化する(即ち、ローレベルへと戻す)。
続く、S520では、左頬距離Ld(即ち、運転時特徴距離)が左頬距離Lb(即ち、覚醒距離)よりも長いか否かを判定する。
そして、判定の結果、左頬距離Ldが左頬距離Lbよりも長い場合、口唇接続筋の一つである左の大頬骨筋が弛緩状態であるものと判断して、S530へと進む。そのS530では、左頬フラグLfをハイレベル(Lf=1)に設定して、S540へと進む。一方、S520での判定の結果、左頬距離Ldが左頬距離Lb以下である場合、左の大頬骨筋が弛緩状態ではないものと判断し、左頬フラグLfをローレベル(Lf=0)に維持したまま、S540へと進む。なお、左頬フラグLfは、左の大頬骨筋が弛緩状態であるか否かを表すものである。
そのS540では、右頬距離Rd(即ち、運転時特徴距離)が右頬距離Rb(即ち、覚醒距離)よりも長いか否かを判定する。
そして、判定の結果、右頬距離Rdが右頬距離Rbよりも長い場合、口唇接続筋の一つである右の大頬骨筋が弛緩状態であるものと判断して、S550へと進む。そのS550では、右頬フラグRfをハイレベル(Rf=1)に設定して、S560へと進む。一方、S540での判定の結果、右頬距離Rdが右頬距離Rb以下である場合、右の大頬骨筋が弛緩状態ではないものと判断し、右頬フラグRfをローレベル(Rf=0)に維持したまま、S560へと進む。なお、右頬フラグRfは、右の大頬骨筋が弛緩状態であるか否かを表すものである。
続くS560では、唇横距離Bhd(即ち、運転時特徴距離)が唇縦距離Bvd(即ち、運転時特徴距離)よりも長いか否かを判定する。
そして、判定の結果、唇横距離Bhdが唇縦距離Bvdよりも長い場合、運転者があくびや口笛を吹くなどの口をすぼめる行動(以下、開口行動と称す)を実行中では無いものと判断して、S570へと進む。そのS570では、開口フラグBaをハイレベル(Ba=1)に設定して、S580へと進む。一方、S560での判定の結果、唇横距離Bhdが唇縦距離Bvd以下である場合、運転者が開口行動中であるものと判断し、開口フラグBaをローレベル(Ba=0)に維持したまま、S580へと進む。なお、開口フラグBaは、運転者が開口行動を実行中であるか否かを表すものである。
さらに、S580では、唇縦距離Bvd(即ち、運転時特徴距離)を唇横距離Bhd(即ち、運転時特徴距離)で除した運転時開口比率が、唇縦距離Bvb(即ち、覚醒距離)を唇横距離Bhb(即ち、覚醒距離)で除した覚醒時開口比率よりも大きいか否かを判定する。
そして、判定の結果、運転時開口比率が覚醒時開口比率よりも大きい、即ち、覚醒距離Bvbからの唇縦距離Bvdの伸び率が、覚醒距離Bhbからの唇横距離Bhdの伸び率よりも大きい場合、口唇接続筋を構成する笑筋、咬筋が弛緩状態であるものと判断して、S590へと進む。そのS590では、比率フラグBrをハイレベル(Br=1)に設定して、S600へと進む。一方、S580での判定の結果、運転時開口比率が覚醒時開口比率以下である場合、笑筋,咬筋が弛緩状態ではないものと判断し、比率フラグBrをローレベル(Br=0)に維持したまま、S600へと進む。なお、比率フラグBrは、笑筋,咬筋が弛緩状態であるか否かを表すものである。
そして、S600では、左頬フラグLf,右頬フラグRf,開口フラグBa,比率フラグBrの全てが、ハイレベルであるか否かを判定する。
そのS600での判定の結果、これらのフラグLf,Rf,Ba,Br全てがハイレベルであれば、左右の両大頬骨筋、及び笑筋、咬筋が全て弛緩しており、しかも運転者が開口行動を実行中では無いため、運転者に眠気が生じているものと判断する。その結果、眠気の強さが下から2番目の眠気レベル2として、眠気レベルを導出し、S610へと進む。
さらに、S610では、運転者の眠気が低下(即ち、覚醒度が増加)するように、運転者に警告を出力するための音声信号及び映像信号を警報装置15へと出力する。これにより、スピーカ16から刺激音を出力し、運転者の眠気レベルがレベル2であることを示す画像をモニタ17に表示する。さらに、冷風送気装置21に対して制御指令を出力し、その制御指令を受信した冷風送気装置21は、運転者に冷気を吹きかける。以下では、このS610にて出力する音声信号、映像信号、及び制御指令を第二レベル制御指令と称す。
一方、S600での判定の結果、左頬フラグLf,右頬フラグRf,開口フラグBa,比率フラグBrの全てがハイレベルで無い、即ち、少なくとも一つがローレベルである場合、S620へと進む。
そのS620では、各種フラグLf,Rf,Ba,Brが、予め規定された規定条件を満たすか否かを判定する。なお、本実施形態では、「左頬フラグLf,右頬フラグRf,開口フラグBaの全てがハイレベルであり、かつ比率フラグBrがローレベルである(即ち、比率フラグBrのみがローレベルである)こと」、または、「左頬フラグLf,右頬フラグRfの少なくとも一方がローレベルであり、かつ開口フラグBa,比率フラグBrの何れもがハイレベルであること」が、規定条件として規定されている。
そして、S620での判定の結果、各種フラグLf,Rf,Ba,Brが規定条件を満たしている場合、笑筋及び咬筋の両方、及び左右両方の大頬骨筋のうち、いずれか一方が弛緩状態であることから、運転者にやや弱い眠気が生じているものと判断する。そして、眠気の強さが最も下の眠気レベル1として、眠気レベルを導出し、S630へと進む。
そのS630では、運転者の眠気が低下(即ち、覚醒度が増加)するように、運転者への注意を出力するための映像信号を警報装置15へと出力すると共に、音響機器制御装置25に対して制御指令を出力する。これにより、その制御指令を受信した音響機器制御装置25は、音響機器を作動させ、音量を増加させると共に、チャンネルや楽曲を切り替える。さらに、映像信号を受信したモニタ17は、運転者の眠気レベルがレベル1であることを示す画像を表示する。以下では、このS630で出力する映像信号及び制御指令を第一レベル制御指令と称す。
ところで、S620での判定の結果、各種フラグLf,Rf,Ba,Brが規定条件を満たしていない場合、眠気が生じていないことを表す眠気レベル0として、眠気レベルを導出して、S640へと進む。すなわち、笑筋及び咬筋の両方、及び左右両方の大頬骨筋それぞれが弛緩状態では無い場合、または運転者が開口行動を実行中である場合には、運転者に眠気が生じていない(即ち、覚醒状態である)ものと判断する。
そのS640では、運転者に眠気が生じていないことから、眠気レベル1以上となった場合に出力される第一,第二レベル制御指令の出力を禁止する。その後、S650へと進む。
なお、S610にて第二レベル制御指令を出力した後や、S630にて第一レベル制御指令を出力した後にも、S650へと進む。
そのS650では、RAM10bの特徴距離格納領域に格納されている左頬距離Ld、右頬距離Rd、唇縦距離Bvd、唇横距離Bhdの全て(即ち、運転時特徴距離)を削除する。
そして、その後、眠気警報処理のS70へと戻り、終了指令が入力されるまで、S30での運転時データ収集処理、S50での眠気判定処理を繰り返し実行する。
つまり、本実施形態の眠気判定処理では、左右の大頬骨筋それぞれが弛緩状態であるか否かを判定し、さらに、運転者が開口行動を実行中であるか否かを判定して、その後、笑筋及び咬筋の両方が弛緩状態であるか否かを判定する。そして、判定の結果、運転者が開口行動を実行していないと判断されると、それら大頬骨筋、笑筋及び咬筋が弛緩状態であるか否かの判定結果に基づいて、弛緩状態である筋肉の数が多いほど運転者に生じている眠気が強いものと判定して、眠気レベルを導出している。
さらに、本実施形態の眠気判定処理では、導出した眠気レベルに応じて、運転者の眠気が低下(即ち、覚醒度が増加)するように、警告や注意を運転者に対して出力する。
[実施形態の効果]
以上説明したように、本実施形態の眠気判定装置10では、人に眠気が生じると口唇接続筋(即ち、大頬骨筋、笑筋及び咬筋)が弛緩するという、眠気により無意識に生じる現象を検出すると、運転者に眠気が生じているものと判定している。
したがって、本実施形態の眠気判定装置10によれば、眠気が生じていることを検出する検出精度を向上させることができる。
そして、本実施形態の覚醒時データ収集処理では、特徴距離それぞれの基準値La,Ra,Bva,Bhaとして、特徴距離L,R,Bv,Bhそれぞれの度数分布において、累積相対度数が最大値または最小値から5%となる値を導出している。これにより、本実施形態の覚醒時データ収集処理によれば、設定時間の間に導出された特徴距離L,R,Bv,Bhの中でも、口唇接続筋が自然な(即ち、収縮も弛緩もしていない)状態、換言すれば、運転者が普通の表情をしている時のものを基準値La,Ra,Bva,Bhaとすることができる。
さらに、本実施形態の覚醒時データ収集処理では、特徴距離それぞれの覚醒距離Lb,Rb,Bvb,Bhbとして、基準値La,Ra,Bva,Bhaそれぞれの度数分布において、μ+2σまたはμ−2σとなる値を導出している。これにより、本実施形態の覚醒時データ収集処理によれば、所定値n分の基準値La,Ra,Bva,Bhaの中でも、口唇接続筋が弛緩している状態に近い時のものを覚醒距離Lb、Rb,Bvb,Bhbとすることができる。
また、本実施形態の運転時データ収集処理では、運転時特徴距離Ld,Rd,Bvd,Bhdとして、特徴距離L,R,Bv,Bhそれぞれの度数分布において、累積相対度数が最大値または最小値から5%となる値を導出している。これにより、本実施形態の運転時データ収集処理によれば、設定時間の間に導出した特徴距離L,R,Bv,Bhの中でも、口唇接続筋が収縮している状態に近い時のものを運転時特徴距離Ld、Rd,Bvd,Bhdとすることができる。
つまり、本実施形態の眠気判定処理では、導出された特徴距離の中で、収縮している状態に近い時の距離である運転時特徴距離Ld、Rd,Bvd,Bhdを、弛緩している状態に近い時の距離である覚醒距離Lb、Rb,Bvb,Bhbと比較することで、口唇接続筋が弛緩状態であるか否かを判定している。
この結果、本実施形態の眠気判定装置10によれば、運転者に眠気が生じていないにも拘わらず、眠気が生じていると誤判定することを低減できる。
ところで、あくびや口笛を吹くといった口をすぼめる行動(即ち、開口行動)は、発生頻度が不確定である。しかし、その開口行動を運転者が実行すると、開口行動時に取得された撮影画像に基づく特徴距離L,R,Bv,Bhは、その時に運転者に生じている眠気が正確に反映されたものではなくなる。例えば、運転者が開口行動を実行していれば、唇横距離Bhdは、唇縦距離Bvbに比べて短く、かつ唇横距離Bhbよりも短くなる。
このため、本実施形態の眠気判定処理では、唇横距離Bhdが唇縦距離Bvdよりも短くなると、運転者が開口行動を実行中であるものと判断して、運転者に眠気が生じていないことを表す眠気レベル0を導出している。
つまり、本実施形態の眠気判定装置10によれば、運転者にとって不要な警告や注意が出力されることを防止でき、運転者が煩わしさを感じることを防止できる。
[その他の実施形態]
以上、本発明の実施形態について説明したが、本発明は、上記実施形態に限るものではなく、本発明の要旨を逸脱しない範囲において、様々な態様にて実施することが可能である。
例えば、上記実施形態の眠気判定装置10は、一台のカメラ20にて撮影した画像から、各特徴点について奥行き(即ち、z座標)も求めていたが、眠気判定装置10は、二台のカメラにて同タイミングに撮影された画像から奥行きを求めてるように構成されていても良い。つまり、眠気警報システム1には、二台のカメラ20が備えられていても良い。この場合、二台のカメラ20は、車幅方向に予め規定された間隔を有して配置されていることが望ましい。
なお、眠気判定装置10においては、奥行きを求めなくとも良い。
また、上記実施形態の眠気判定処理におけるS620では、「比率フラグBrのみがローレベル」であるか否か、または、「左頬フラグLf,右頬フラグRfの少なくとも一方がローレベルであり、かつ開口フラグBa,比率フラグBrの何れもがハイレベル」であるか否かを判定していたが、S620における判定は、いずれか一方のみでも良い。
例えば、前者の判定のみを行う場合には、笑筋及び咬筋の両方が弛緩状態で無ければ、後者の判定のみを行う場合には、左右の大頬骨筋の一方が弛緩状態で無ければ、発話や咀嚼といった下あごを動かす行動を運転者が実行しているものと判断し、眠気レベルをレベル0として導出するようにしても良い。これは、大頬骨筋や笑筋、咬筋は、人が下あごをに動かす行動を意識的に実行する場合には、眠気が生じた時とは異なり収縮するという知見に基づくものである。
そして、S620での判定をいずれか一方のみとすれば、乗員が意識的に行動を実施している時点で、眠気の判定を回避することにより、運転者に、眠気が生じていないにも拘わらず、眠気が生じているものと判定することを防止できる。
さらに、上記実施形態の眠気判定処理におけるS610,S630では、運転者に対して冷風を吹きかけたり、音響機器の音量を増加させたりすることで、運転者が覚醒するように運転者に刺激を与えたが、運転者に刺激を与える方法は、これに限るもので無く、例えば、シートベルトを巻き上げても良い。さらに、眠気判定処理のS610では、車両を安全な位置に停止させるように、ブレーキ制御装置27に対して制御指令を出力しても良いし、自動車に搭載されているパワートレイン機構を制御しても良い。
また、上記実施形態の眠気警報処理では、口唇接続筋が弛緩状態であるか否かに基づいて、眠気レベルを導出していたが、これに加えて、運転者の目の動作や、眉の動作などに基づいて、眠気レベルを導出するようにしても良い。
そして、上記実施形態の眠気警報システム1では、運転者に眠気が生じているか否かを判定したが、判定の対象となる人物は、運転者に限るものではなく、例えば、助手席に着座した人物でも良い。また、眠気警報システム1は、自動車に搭載されなくとも良く、例えば、電車や、飛行機、船舶などに搭載されても良い。
さらに、上記実施形態の眠気警報システム1では、特徴点ペアとして、左目尻と左口角との組合せ、右目尻と右口角との組合せ、左の口角と右の口角との組合せ、上唇の上端と下唇の下端との組合せを規定したが、予め規定された特徴点ペアは、これに限るものではない。例えば、左口角と左の耳珠点との組合せや、右口角と右の耳珠点との組合せを特徴点ペアとしても良い。この場合、前者の組合せに基づく特徴距離を左頬距離Lとし、後者の組合せに基づく特徴距離を右頬距離Rとしても良い。
そして、上記実施形態の眠気判定処理では、運転者が開口行動を実行しているか否かを、唇縦距離Bvdと唇横距離Bhdとを比較することで判定し、笑筋及び咬筋の両方が弛緩状態であるか否かを、運転時開口比率を覚醒時開口比率と比較することで判定していたが、運転者が開口行動を実行しているか否かの判定、及び笑筋,咬筋の両方が弛緩状態であるか否かの判定方法は、これに限るものではない。例えば、左の口角と、右の口角と、上唇の上端と、下唇の下端とを通過し、かつ唇縦距離Bvdもしくは唇横距離Bhdと平行である直線に囲まれた矩形(以下、唇矩形と称す)の面積や、唇矩形における両対角線のなす角度を、覚醒時の角度と比較することで判定しても良い。また、覚醒時の唇矩形の形状として予め用意された唇形状パターンを、運転時に撮影された画像にパターンマッチングすることで、判定してもよい。
さらには、上記実施形態における眠気警報システム1では、口唇接続筋として、左右の大頬骨筋,笑筋,咬筋を想定していたが、口唇接続筋はこれに限るものではなく、オトガイ筋や口輪筋が、口唇接続筋として含まれていても良い。つまり、口唇接続筋は、人の口周りに存在し、眠気が生じると弛緩する筋肉であれば、どのようなものでも良い。
なお、上記実施形態における眠気警報システム1では、口唇接続筋が弛緩状態であるか否かを、運転時特徴距離を覚醒距離と比較することで判定していたが、判定方法は、これに限るものではなく、例えば、口唇接続筋それぞれの筋電位を検出して、その検出結果に従って弛緩状態であるか否かを判定しても良い。
つまり、大頬骨筋や笑筋、咬筋などの口唇接続筋が弛緩状態であるか否かを判定できれば、どのような方法を用いても良い。
本実施形態における眠気警報システムの概略構成を示すブロック図である。 眠気警報システムが搭載された車両の車室内を示した説明図である。 特徴点ペア及び特徴距離を説明するための説明図である。 特徴点ペア及び特徴距離を説明するための説明図である。 眠気警報処理の処理手順を示すフローチャートである。 覚醒時データ収集処理の処理手順を示すフローチャートである。 表情情報取得処理の処理手順を示すフローチャートである。 運転時データ収集処理の処理手順を示すフローチャートである。 眠気判定処理の処理手順を示すフローチャートである。 口唇接続筋それぞれに対応する特徴距離と眠気レベルとの関係を示した実験結果である。
符号の説明
1…眠気警報システム 10…眠気判定装置 10a…ROM 10b…RAM 10c…CPU 15…警報装置 16…スピーカ 17…モニタ 20…カメラ 21…冷風送気装置 25…音響機器制御装置 27…ブレーキ制御装置 30…スイッチ

Claims (11)

  1. 移動体に搭載される眠気判定装置であって、
    人の口周りに存在し、眠気が生じると弛緩する複数の筋肉それぞれを口唇接続筋とし、前記移動体の乗員が有する口唇接続筋が弛緩した弛緩状態であるか否かを判定する筋肉状態判定手段と、
    前記筋肉状態判定手段にて、少なくとも一つの口唇接続筋が弛緩状態であると判定された場合、前記乗員に眠気が生じているものと判断する眠気判定手段と
    を備えることを特徴とする眠気判定装置。
  2. 前記眠気判定手段は、
    前記筋肉状態判定手段での判定の結果、弛緩状態である口唇接続筋の数が多いほど、前記眠気が強いものと判断することを特徴とする請求項1に記載の眠気判定装置。
  3. 前記眠気判定手段は、
    判断結果として、前記眠気が強いほど大きな値となる眠気度を導出することを特徴とする請求項1または請求項2に記載の眠気判定装置。
  4. 前記眠気判定手段にて導出された眠気度が予め規定された規定値以上である場合、前記移動体の移動が安全になされるように前記移動体の搭載機器を制御する安全制御を実行する安全制御実行手段と
    を備えることを特徴とする請求項3に記載の眠気判定装置。
  5. 前記筋肉状態判定手段は、
    前記乗員の顔面が写り込んだ撮影画像を取得する撮影画像取得手段と、
    人の顔面上で、前記口唇接続筋それぞれに連動して両者間の距離が変化する一対のポイントを特徴点とし、前記撮影画像取得手段で取得した撮影画像の中から前記特徴点を抽出する特徴点抽出手段と、
    前記特徴点抽出手段で抽出した前記特徴点それぞれの間の距離である特徴距離を導出する特徴距離導出手段と、
    前記特徴距離導出手段で導出される特徴距離を、その特徴距離の導出に用いた前記特徴点の間の覚醒時における距離である覚醒距離と比較することにより、前記弛緩状態であるか否かを判定する判定実行手段と
    を備えることを特徴とする請求項1ないし請求項4のいずれかに記載の眠気判定装置。
  6. 前記口唇接続筋とは、大頬骨筋であることを特徴とする請求項5に記載の眠気判定装置。
  7. 前記特徴点抽出手段が抽出する前記特徴点として、目尻と口角とが規定され、
    前記判定実行手段は、
    前記特徴距離が前記覚醒距離よりも長くなると、前記大頬骨筋が弛緩状態であるものと判定することを特徴とする請求項6に記載の眠気判定装置。
  8. 前記口唇接続筋とは、笑筋及び咬筋であることを特徴とする請求項5ないし請求項7のいずれかに記載の眠気判定装置。
  9. 前記特徴点抽出手段が抽出する前記特徴点として、唇の上下端、及び左右の両口角が規定され、前記特徴距離導出手段が導出する特徴距離として、唇の上下端の間の唇縦距離、及び左右の口角の間の唇横距離が規定され、
    前記状態判定手段は、
    前記唇縦距離が前記覚醒距離よりも長く、かつ前記唇横距離が前記覚醒距離よりも短くなると、前記笑筋及び前記咬筋の両方が弛緩状態であるものと判定することを特徴とする請求項8に記載の眠気判定装置。
  10. 前記乗員が覚醒時に実施する特定行動により変化する前記特徴距離の範囲を規定範囲とし、前記特徴距離導出手段で導出された特徴距離が、前記規定範囲内である場合、前記眠気判定手段による眠気の判定を回避する判定回避手段を備えることを特徴とする請求項5ないし請求項9のいずれかに記載の眠気判定装置。
  11. コンピュータを、
    請求項1ないし請求項10のいずれかに記載された眠気判定装置を構成する各手段として機能させるためのプログラム。
JP2008295811A 2008-11-19 2008-11-19 眠気判定装置、プログラム Expired - Fee Related JP5163440B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2008295811A JP5163440B2 (ja) 2008-11-19 2008-11-19 眠気判定装置、プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008295811A JP5163440B2 (ja) 2008-11-19 2008-11-19 眠気判定装置、プログラム

Publications (2)

Publication Number Publication Date
JP2010122897A true JP2010122897A (ja) 2010-06-03
JP5163440B2 JP5163440B2 (ja) 2013-03-13

Family

ID=42324184

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008295811A Expired - Fee Related JP5163440B2 (ja) 2008-11-19 2008-11-19 眠気判定装置、プログラム

Country Status (1)

Country Link
JP (1) JP5163440B2 (ja)

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9292471B2 (en) 2011-02-18 2016-03-22 Honda Motor Co., Ltd. Coordinated vehicle response system and method for driver behavior
US9296382B2 (en) 2011-02-18 2016-03-29 Honda Motor Co., Ltd. System and method for responding to driver behavior
US9751534B2 (en) 2013-03-15 2017-09-05 Honda Motor Co., Ltd. System and method for responding to driver state
WO2019073732A1 (ja) * 2017-10-10 2019-04-18 株式会社 資生堂 ストレスの評価方法
JP2019111090A (ja) * 2017-12-22 2019-07-11 トヨタ自動車株式会社 眠気推定装置
CN110366388A (zh) * 2017-02-22 2019-10-22 睛姿控股公司 信息处理方法、信息处理装置以及程序
US10499856B2 (en) 2013-04-06 2019-12-10 Honda Motor Co., Ltd. System and method for biological signal processing with highly auto-correlated carrier sequences
DE112017007252T5 (de) 2017-03-14 2019-12-19 Omron Corporation Fahrerüberwachungsvorrichtung, fahrerüberwachungsverfahren, lernvorrichtung und lernverfahren
JP2020054443A (ja) * 2018-09-28 2020-04-09 株式会社Nttドコモ 顎評価システムおよび顎評価方法

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09154835A (ja) * 1995-12-07 1997-06-17 Matsushita Electric Ind Co Ltd 居眠り検出装置
JP2004192551A (ja) * 2002-12-13 2004-07-08 Nissan Motor Co Ltd 開閉眼判定装置
JP2007264785A (ja) * 2006-03-27 2007-10-11 Toyota Motor Corp 眠気検出装置
JP2008140266A (ja) * 2006-12-04 2008-06-19 Toyota Motor Corp 状態推定装置
JP2008212298A (ja) * 2007-03-01 2008-09-18 Toyota Central R&D Labs Inc 眠気判定装置及びプログラム
JP2008242602A (ja) * 2007-03-26 2008-10-09 Denso Corp 眠気警報装置、及びプログラム

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09154835A (ja) * 1995-12-07 1997-06-17 Matsushita Electric Ind Co Ltd 居眠り検出装置
JP2004192551A (ja) * 2002-12-13 2004-07-08 Nissan Motor Co Ltd 開閉眼判定装置
JP2007264785A (ja) * 2006-03-27 2007-10-11 Toyota Motor Corp 眠気検出装置
JP2008140266A (ja) * 2006-12-04 2008-06-19 Toyota Motor Corp 状態推定装置
JP2008212298A (ja) * 2007-03-01 2008-09-18 Toyota Central R&D Labs Inc 眠気判定装置及びプログラム
JP2008242602A (ja) * 2007-03-26 2008-10-09 Denso Corp 眠気警報装置、及びプログラム

Cited By (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9292471B2 (en) 2011-02-18 2016-03-22 Honda Motor Co., Ltd. Coordinated vehicle response system and method for driver behavior
US9296382B2 (en) 2011-02-18 2016-03-29 Honda Motor Co., Ltd. System and method for responding to driver behavior
US9440646B2 (en) 2011-02-18 2016-09-13 Honda Motor Co., Ltd. System and method for responding to driver behavior
US9475502B2 (en) 2011-02-18 2016-10-25 Honda Motor Co., Ltd. Coordinated vehicle response system and method for driver behavior
US9505402B2 (en) 2011-02-18 2016-11-29 Honda Motor Co., Ltd. System and method for responding to driver behavior
US11377094B2 (en) 2011-02-18 2022-07-05 Honda Motor Co., Ltd. System and method for responding to driver behavior
US9855945B2 (en) 2011-02-18 2018-01-02 Honda Motor Co., Ltd. System and method for responding to driver behavior
US9873437B2 (en) 2011-02-18 2018-01-23 Honda Motor Co., Ltd. Coordinated vehicle response system and method for driver behavior
US10875536B2 (en) 2011-02-18 2020-12-29 Honda Motor Co., Ltd. Coordinated vehicle response system and method for driver behavior
US10759436B2 (en) 2013-03-15 2020-09-01 Honda Motor Co., Ltd. System and method for responding to driver state
US10759438B2 (en) 2013-03-15 2020-09-01 Honda Motor Co., Ltd. System and method for responding to driver state
US11383721B2 (en) 2013-03-15 2022-07-12 Honda Motor Co., Ltd. System and method for responding to driver state
US9751534B2 (en) 2013-03-15 2017-09-05 Honda Motor Co., Ltd. System and method for responding to driver state
US10246098B2 (en) 2013-03-15 2019-04-02 Honda Motor Co., Ltd. System and method for responding to driver state
US10780891B2 (en) 2013-03-15 2020-09-22 Honda Motor Co., Ltd. System and method for responding to driver state
US10308258B2 (en) 2013-03-15 2019-06-04 Honda Motor Co., Ltd. System and method for responding to driver state
US10752252B2 (en) 2013-03-15 2020-08-25 Honda Motor Co., Ltd. System and method for responding to driver state
US10759437B2 (en) 2013-03-15 2020-09-01 Honda Motor Co., Ltd. System and method for responding to driver state
US10499856B2 (en) 2013-04-06 2019-12-10 Honda Motor Co., Ltd. System and method for biological signal processing with highly auto-correlated carrier sequences
CN110366388A (zh) * 2017-02-22 2019-10-22 睛姿控股公司 信息处理方法、信息处理装置以及程序
DE112017007252T5 (de) 2017-03-14 2019-12-19 Omron Corporation Fahrerüberwachungsvorrichtung, fahrerüberwachungsverfahren, lernvorrichtung und lernverfahren
WO2019073732A1 (ja) * 2017-10-10 2019-04-18 株式会社 資生堂 ストレスの評価方法
JP2019111090A (ja) * 2017-12-22 2019-07-11 トヨタ自動車株式会社 眠気推定装置
JP2020054443A (ja) * 2018-09-28 2020-04-09 株式会社Nttドコモ 顎評価システムおよび顎評価方法
JP7090245B2 (ja) 2018-09-28 2022-06-24 株式会社Nttドコモ 顎評価システムおよび顎評価方法

Also Published As

Publication number Publication date
JP5163440B2 (ja) 2013-03-13

Similar Documents

Publication Publication Date Title
JP5163440B2 (ja) 眠気判定装置、プログラム
JP4375420B2 (ja) 眠気警報装置、及びプログラム
US20210268902A1 (en) Driving assistance apparatus and driving assistance method
JP4882766B2 (ja) 覚醒度算出装置
JP6314435B2 (ja) ドライバ監視装置
JP2010128649A (ja) 覚醒状態判断装置及び覚醒状態判断方法
US10899356B2 (en) Drowsiness prevention device, drowsiness prevention method, and recording medium
WO2019208450A1 (ja) 運転支援装置、運転支援方法及びプログラム
JP2007006970A (ja) 生理・心理状態判定装置、生理・心理状態判定方法、リファレンスデータ生成装置、及びリファレンスデータ生成方法。
US11084424B2 (en) Video image output apparatus, video image output method, and medium
JP6888542B2 (ja) 眠気推定装置及び眠気推定方法
US11195405B2 (en) Dozing alert apparatus
JP2008167806A (ja) 眠気検知装置
JP2010198313A (ja) 開眼度特定装置
JP2011062465A (ja) 運転支援装置
JP6958982B2 (ja) 覚醒機能を備えた電子装置、覚醒プログラムおよび覚醒方法
US11430231B2 (en) Emotion estimation device and emotion estimation method
JP2008197916A (ja) 車両用居眠り運転防止装置
JP6701951B2 (ja) 運転支援装置
JP2007236488A (ja) 覚醒度推定装置及びシステム並びに方法
JP2010187810A (ja) 居眠り防止装置及び居眠り防止方法
JP6776681B2 (ja) ドライバ状態判定装置、及びドライバ状態判定プログラム
JP6358071B2 (ja) 車両用対話制御装置
JP2006069358A (ja) 車両の運転支援装置
JP2021189704A (ja) 制御装置およびプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110121

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120606

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120612

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120807

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20121120

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20121203

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20151228

Year of fee payment: 3

R151 Written notification of patent or utility model registration

Ref document number: 5163440

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20151228

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees