JP2011159108A - Awakening support device - Google Patents

Awakening support device Download PDF

Info

Publication number
JP2011159108A
JP2011159108A JP2010020303A JP2010020303A JP2011159108A JP 2011159108 A JP2011159108 A JP 2011159108A JP 2010020303 A JP2010020303 A JP 2010020303A JP 2010020303 A JP2010020303 A JP 2010020303A JP 2011159108 A JP2011159108 A JP 2011159108A
Authority
JP
Japan
Prior art keywords
support
awakening
wakefulness
stimulus
sleepiness level
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2010020303A
Other languages
Japanese (ja)
Other versions
JP5343879B2 (en
Inventor
Hiroto Nakatani
浩人 中谷
Takaharu Oguri
崇治 小栗
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Corp
Original Assignee
Denso Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Corp filed Critical Denso Corp
Priority to JP2010020303A priority Critical patent/JP5343879B2/en
Publication of JP2011159108A publication Critical patent/JP2011159108A/en
Application granted granted Critical
Publication of JP5343879B2 publication Critical patent/JP5343879B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Abstract

<P>PROBLEM TO BE SOLVED: To suppress a fright reaction while avoiding a situation that an awakening support effect does not appear since a stimulus is too weak. <P>SOLUTION: Whether it is an awakening support period or not is determined (S1210), and when determining that it is not the awakening support period (NO in S1210), whether a sleepiness level is not less than a threshold or not is determined (S1220). When determining that the sleepiness level is not less than the threshold (YES in S1220), whether start of awakening support is desired or not is inquired (S1230). Whether or not a request for starting awakening support is input within predetermined time from the inquiry is determined (S1240). When determining that request for the start of awakening support is input (YES in S1240), the awakening support is started (S1270). Then, whether the fright reaction appears or not is determined (S1275). When determining the appearance of the fright reaction (YES in S1275), stimulus intensity is reduced only by one level (S1280). Then, when the awakening support effect does not appear, the stimulus intensity is increased. <P>COPYRIGHT: (C)2011,JPO&INPIT

Description

ユーザの覚醒を支援する装置に関する。   The present invention relates to a device that supports user awakening.

操作中に居眠りをした場合、危険を伴う機械(自動車など)におけるユーザに対して刺激を与える(例えば、警告音を発したり、冷風を顔に当てたりする)ことで、覚醒を支援する(眠気を覚ます)覚醒支援装置が既に知られている。このような覚醒支援装置は、刺激の強度をどのように設定するかが課題となることが多い。   If you fall asleep during operation, support users to awaken by giving a stimulus to a user in a dangerous machine (such as a car) (for example, making a warning sound or hitting a cold wind on their face). Awakening support devices are already known. Such an awakening support apparatus often has a problem of how to set the intensity of stimulation.

すなわち、覚醒支援のための刺激が弱すぎると覚醒支援の効果が現れない一方、刺激が強すぎるとユーザに驚愕反応(一般的には「驚愕」は非常に驚いた様子を言うが、本願では少し驚いた様子も含んだ意味で用いる。)が出てしまい、機械の誤操作の誘発や、不快感を与えることにつながる。よって、適切な強度の刺激に設定されるべきなのだが、適切な強度というのはユーザの個人差や状況等によって異なる(例えば、刺激が警告音の場合、適切な音量は周囲の静けさに依存する)ので、予め適切に設定するのは難しい。   In other words, if the stimulus for arousal support is too weak, the effect of the awakening support will not appear, while if the stimulus is too strong, the user will be surprised (generally “surprise” is very surprised, It is used in the meaning that includes a slightly surprised state.), Which leads to induction of machine misoperation and discomfort. Therefore, it should be set to a stimulus with an appropriate intensity, but the appropriate intensity varies depending on individual differences and situations of the user (for example, if the stimulus is a warning sound, the appropriate volume depends on the quietness of the surroundings. Therefore, it is difficult to set appropriately in advance.

このような課題に関する技術として、例えば特許文献1には、覚醒支援直後においては、自動車のステアリング操作に反力を付与するものが開示されている。つまり、覚醒支援が引き起こした驚愕反応によって、運転者がステアリングホイールを誤操作したとしても、操舵角が大きく変化することを防いでいる。   As a technique related to such a problem, for example, Patent Document 1 discloses a technique that applies a reaction force to a steering operation of an automobile immediately after awakening support. In other words, even if the driver misoperates the steering wheel due to the startle response caused by the awakening support, the steering angle is prevented from changing greatly.

特開2009−98731号公報JP 2009-98731 A

先述した従来技術の課題は、驚愕反応の抑制はできないことである。驚愕反応は、ユーザに不快感を与えることがあるので、抑制されるのが望ましい。本発明は、この課題に鑑み、「刺激が弱すぎて覚醒支援の効果が現れない」という状況を避けつつ、驚愕反応を抑制することを目的とする。   The problem with the prior art described above is that the startle response cannot be suppressed. The startle response may be discomforting to the user and is preferably suppressed. In view of this problem, an object of the present invention is to suppress a startle reaction while avoiding a situation where “a stimulus is too weak and an effect of arousal support does not appear”.

この目的を解決するための請求項1の発明は、覚醒支援手段と、驚愕判定手段と、第1設定手段と、眠気レベル推定手段と、第2設定手段とを備える覚醒支援装置である。
覚醒支援手段は、刺激の付与によって、ユーザの覚醒を支援する。また、驚愕判定手段は、覚醒支援手段による刺激によってユーザが驚愕したかを、ユーザの生理指標の変化に基づいて判定する。そして、第1設定手段は、ユーザが驚愕したと驚愕判定手段によって判定された場合、覚醒支援手段によって付与される刺激の強度を弱くする。一方、眠気レベル推定手段は、ユーザの表情に基づいて、ユーザの眠気レベルを推定する。そして、第2設定手段は、眠気レベル推定手段によって推定された眠気レベルが、覚醒支援手段による覚醒支援の最中において増加傾向にある場合、刺激の強度を強くする。
The invention of claim 1 for solving this object is an awakening support device comprising awakening support means, startle determination means, first setting means, drowsiness level estimation means, and second setting means.
The awakening support means supports the user's awakening by applying a stimulus. The startle determination means determines whether the user was startled by the stimulus from the awakening support means based on the change in the user's physiological index. And the 1st setting means weakens the intensity | strength of the stimulus provided by the awakening assistance means, when it is determined by the startle determination means that the user is startled. On the other hand, the sleepiness level estimation means estimates the sleepiness level of the user based on the user's facial expression. The second setting means increases the strength of the stimulus when the sleepiness level estimated by the sleepiness level estimation means tends to increase during the awakening support by the awakening support means.

この発明によれば、「刺激が弱すぎて覚醒支援の効果が現れない」という状況を避けつつ、驚愕反応を抑制することができる。すなわち、覚醒支援手段による刺激によってユーザが驚愕した場合は、刺激を弱くすることで将来の驚愕反応を抑制できる。一方、覚醒支援手段による覚醒支援を行っているにもかかわらず眠気レベルが増加傾向にある場合は、刺激を強くすることで覚醒支援の効果が現れやすくすることができる。   According to the present invention, it is possible to suppress a startle reaction while avoiding a situation where “the stimulus is too weak and the effect of awakening support does not appear”. That is, when the user is surprised by the stimulus by the awakening support means, the future startle response can be suppressed by weakening the stimulus. On the other hand, when the drowsiness level tends to increase in spite of performing the awakening support by the awakening support means, the effect of the awakening support can be easily exhibited by increasing the stimulation.

つまり、驚愕反応を引き起こさず、かつ覚醒支援の効果が現れる範囲(適正範囲)に、刺激の強度を収めることが従来に比べて容易になる。
なお、ここで言う「生理指標」とは、少なくとも、表情を数値化したもの・発汗量・心拍数・筋肉の収縮度合いを数値化したもの(びくっとすることを検出するための指標)・血圧値を含むものであり、生理状態を示す数値全般の少なくとも1つを指している。
That is, it is easier than before to make the intensity of the stimulus fall within a range (appropriate range) that does not cause a startle response and the effect of arousal support appears.
The “physiological index” mentioned here is at least a numerical expression of facial expression, a perspiration amount, a heart rate, and a muscular contraction degree (an index for detecting a jump) The blood pressure value is included and indicates at least one of the general numerical values indicating the physiological state.

ところで、覚醒支援によって眠気が覚めたにもかかわらず、覚醒支援を続行すると、ユーザに不快感を与える可能性がある。このような可能性を低くするために、次のようにすると良い。   By the way, there is a possibility that the user may feel uncomfortable if the awakening support is continued even though the sleepiness is awakened by the awakening support. In order to reduce this possibility, it is better to do the following.

請求項2に記載の覚醒支援装置が備える覚醒支援手段は、眠気レベル推定手段によって推定された眠気レベルが、覚醒支援の実行中に閾値未満になると、覚醒支援を終了する。
この発明によれば、眠気レベルが閾値(覚醒支援の要否の基準となる値)未満となり、覚醒支援が不要になったら、覚醒支援を終了することができる。このようにして不要な覚醒支援を避けることで、ユーザが不快感を覚える可能性を低くすることができる。
The wakefulness support means included in the wakefulness support device according to claim 2 terminates the wakefulness support when the sleepiness level estimated by the sleepiness level estimation means becomes less than the threshold during the execution of the wakefulness support.
According to the present invention, when the drowsiness level becomes less than a threshold value (a value that is a reference for whether or not wake-up support is necessary) and the wake-up support is no longer necessary, the wake-up support can be terminated. By avoiding unnecessary awakening support in this way, the possibility that the user feels uncomfortable can be reduced.

ところで、覚醒支援終了時における刺激の強度を記憶しておいて、覚醒支援を再開する際には、その記憶した強度の刺激を付与することで、覚醒支援開始時から適正範囲の強度による刺激の付与が可能になると考えられる。その一方で、驚愕反応は、開始時に引き起こされることが多い。よって、前回終了時においては適正範囲の強度であったとしても、その強度の刺激を開始時に付与してしまうと、驚愕反応を引き起こしてしまうことも考えられる。そこで、次のようにすると良い。   By the way, memorize the intensity of the stimulus at the end of wakefulness support, and when resuming wakefulness support, give the stimulus with the memorized intensity, so Granting is considered possible. On the other hand, startle responses are often triggered at the beginning. Therefore, even if the intensity is within an appropriate range at the end of the previous time, if a stimulus of that intensity is applied at the start, a startle reaction may be caused. Therefore, the following is recommended.

請求項3に記載の覚醒支援装置は、第3設定手段を備える。この第3設定手段は、覚醒支援手段による覚醒支援が一旦終了した後に再開される場合、覚醒支援手段によって付与される刺激の強度を、前回終了時点よりも弱い強度に設定する。   The awakening support apparatus according to claim 3 includes a third setting unit. The third setting means sets the intensity of the stimulus applied by the wake-up support means to be weaker than the previous end time when the wake-up support by the wake-up support means is resumed once it is finished.

この発明によれば、驚愕反応をより抑制することができる。すなわち、驚愕反応は刺激付与の開始時に起こりやすいという特徴に注目し、覚醒支援の開始時においては、効果が現れた実績のある強度よりも低い強度の刺激を付与することで、驚愕反応を引き起こす可能性を低減することができる。また、効果が現れなければ第2設定手段によって強度が強くなるので、覚醒支援の効果を期待することができる。   According to this invention, the startle reaction can be further suppressed. In other words, attention is given to the feature that startle response is likely to occur at the start of stimulus application, and at start of wakefulness support, startle response is caused by applying a stimulus with a strength lower than the proven strength that has been effective. The possibility can be reduced. Moreover, since the intensity | strength will become strong with a 2nd setting means if an effect does not appear, the effect of arousal support can be anticipated.

ところで、覚醒支援の種類が1種類のみだと、ユーザの好みに合わなかったり、何度か実行している間にユーザが慣れてしまったりする場合が考えられる。よって、覚醒支援の種類は、複数種類の中から選択できるのが望ましいが、このような選択ができる場合は、その選択の方法を決める必要がある。例えばユーザに選択させることもできるが、覚醒支援を開始する度に選択するのは煩わしい。そこで次のようにすると良い。   By the way, if there is only one type of awakening support, there are cases where it does not meet the user's preference or the user gets used to it while performing several times. Therefore, it is desirable that the type of awakening support can be selected from a plurality of types, but when such a selection can be made, it is necessary to determine the selection method. For example, the user can select it, but it is troublesome to select it every time the awakening support is started. Therefore, the following should be done.

請求項4に記載の覚醒支援装置が備える覚醒支援手段は、実行可能な複数種類の覚醒支援の中から、何れかを選択して実行する。一方、この覚醒支援装置は、評価手段を備える。この評価手段は、眠気レベル推定手段によって推定された眠気レベルに基づいて、複数種類の覚醒支援それぞれを評価する。そして、覚醒支援手段は、評価手段による評価が高い覚醒支援を優先的に選択する。   The wake-up support means included in the wake-up support apparatus according to claim 4 selects and executes one of a plurality of types of wake-up support that can be executed. On the other hand, this awakening support apparatus includes an evaluation unit. This evaluation means evaluates each of a plurality of types of wakefulness support based on the sleepiness level estimated by the sleepiness level estimation means. Then, the awakening support means preferentially selects the awakening support that is highly evaluated by the evaluation means.

この発明によれば、ユーザに選択させなくても、覚醒支援装置が自動的に選択するので、ユーザに煩わしさを感じさせることがない。さらに、この発明によれば、推定した眠気レベルによって定まる評価に基づいて、適切な覚醒支援の選択ができる。   According to this invention, even if the user does not make a selection, the awakening support device automatically selects, so that the user does not feel bothered. Furthermore, according to the present invention, it is possible to select appropriate awakening support based on the evaluation determined by the estimated sleepiness level.

ところで、上記評価手段は、具体的には次のようにすると良い。
請求項5に記載の覚醒支援装置が備える評価手段は、眠気レベル推定手段によって推定された眠気レベルが、覚醒支援手段による覚醒支援の最中において増加傾向にある場合、その覚醒支援を低く評価する。
By the way, the evaluation means is preferably as follows.
The evaluation means included in the wakefulness support device according to claim 5 evaluates the wakefulness support low when the sleepiness level estimated by the sleepiness level estimation means tends to increase during the wakefulness support by the wakefulness support means. .

この発明によれば、効果が現れない覚醒支援を低く評価することで、覚醒支援の選択をより適切にできるようになる。
ところで、覚醒支援をある程度続けたにも関わらず効果が現れない場合、そのまま続けても効果が期待できないばかりか、ユーザが覚醒支援に慣れてしまって、一層効果が現れにくくなってしまう。そこで、次のようにすると良い。
According to the present invention, it is possible to more appropriately select the awakening support by evaluating low the awakening support that does not show an effect.
By the way, if the effect does not appear even if the awakening support is continued to some extent, the effect cannot be expected even if it is continued as it is, and the user becomes accustomed to the awakening support, and the effect becomes even less likely to appear. Therefore, the following is recommended.

請求項6に記載の覚醒支援装置は、切替手段を備える。この切替手段は、覚醒支援手段による覚醒支援の最中において、その覚醒支援に対する評価手段による評価が基準を下回った場合、覚醒支援の種類を切り替える。   The wakefulness support device according to claim 6 includes a switching unit. This switching means switches the type of wake-up support when the evaluation by the evaluation means for the wake-up support falls below the standard during the wake-up support by the wake-up support means.

この発明によれば、覚醒支援をある程度続けたにも関わらず効果が現れない覚醒支援を、他の種類に切り替えることができる。しかも、時間等ではなく、評価手段による評価に基づいて切り替えるので、適切なタイミングで実行できる。   According to the present invention, it is possible to switch the awakening support that has no effect even though the awakening support is continued to some extent to another type. And since it switches based not on time etc. but the evaluation by an evaluation means, it can perform at an appropriate timing.

ところで、第1設定手段が刺激の強度を強くする基準、及び評価手段が評価を低くする基準は、互いに同じである。よって、上記のように覚醒支援を切り替えた場合、切り替え直前においては刺激の強度が初期設定よりも強くなっていると考えられる。もし、この覚醒支援を再び実行する場合、その切り替え直前の刺激の強度で開始してしまうと、驚愕反応を引き起こしやすいと考えられる。そこで、次のようにすると良い。   By the way, the reference for the first setting means to increase the intensity of the stimulus and the reference for the evaluation means to lower the evaluation are the same. Therefore, when the arousal support is switched as described above, it is considered that the intensity of the stimulus is stronger than the initial setting immediately before the switching. If this awakening support is executed again, it will be likely to cause a startle response if it starts with the intensity of the stimulus immediately before the switching. Therefore, the following is recommended.

請求項7に記載の覚醒支援装置が備える覚醒支援手段は、切替手段の切り替えによって停止させられた覚醒支援を再び開始する場合、停止させられた時点の刺激の強度に関わらず、開始時においては初期設定の強度による刺激をユーザに付与する。   The wake-up support means provided in the wake-up support device according to claim 7 starts the wake-up support stopped by switching the switching means again, regardless of the intensity of the stimulus at the time of the stop. Give the user a stimulus with the default intensity.

この発明によれば、切り替えによって停止させられた覚醒支援を再び実行する場合において、驚愕反応を抑制しやすくなる。
ところで、上記評価手段は、具体的には次のようにしても良い。
According to the present invention, it is easy to suppress the startle response when the awakening support stopped by switching is executed again.
By the way, the evaluation means may be specifically as follows.

請求項8に記載の覚醒支援装置が備える評価手段は、眠気レベル推定手段によって推定された眠気レベルが、覚醒支援手段による覚醒支援の最中において所定値未満になった場合、その覚醒支援を高く評価する。   The evaluation means included in the wakefulness support device according to claim 8 increases the wakefulness support when the sleepiness level estimated by the sleepiness level estimation means becomes less than a predetermined value during the wakefulness support by the wakefulness support means. evaluate.

この発明によれば、効果が現れた覚醒支援を高く評価することで、覚醒支援の選択をより適切にできるようになる。なお、上記所定値は、請求項1の閾値と同じでも良いし、異なっていても良い。   According to the present invention, it is possible to more appropriately select the awakening support by highly evaluating the awakening support in which the effect appears. The predetermined value may be the same as or different from the threshold value of claim 1.

覚醒支援システムの概略構成を示すブロック図。The block diagram which shows schematic structure of an awakening assistance system. 覚醒支援システムを搭載した自動車の車室内を示した図。The figure which showed the vehicle interior of the motor vehicle carrying an awakening assistance system. 覚醒支援処理を示すフローチャート。The flowchart which shows an awakening assistance process. 眠気推定処理を示すフローチャート。The flowchart which shows sleepiness estimation processing. 表情データを構成する特徴点を示した図。The figure which showed the feature point which comprises facial expression data. 学習データを示した図。The figure which showed learning data. 作動処理を示すフローチャート。The flowchart which shows an operation | movement process. 効果判定処理を示すフローチャート。The flowchart which shows an effect determination process.

[1.ハードウェア構成(図1、図2)]
図1は、本発明が適用された覚醒支援システム1の概略構成を示したブロック図である。この覚醒支援システム1は、自動車に搭載され、運転者の眠気に応じて運転者の覚醒を支援するものである。一方、図2は、覚醒支援システム1を構成する各部が車室内に配置された様子を示した図である。図1、図2に示すように、覚醒支援システム1は、覚醒支援制御装置10、スピーカ16、振動装置17、送風装置18、カメラ20、眠気推定装置21、タッチパネル画面30及び心拍計測装置40を備える。
[1. Hardware configuration (FIGS. 1 and 2)]
FIG. 1 is a block diagram showing a schematic configuration of an awakening support system 1 to which the present invention is applied. The awakening support system 1 is mounted on an automobile and supports the driver's awakening according to the driver's sleepiness. On the other hand, FIG. 2 is a diagram showing a state in which each part constituting the awakening support system 1 is arranged in the vehicle interior. As shown in FIGS. 1 and 2, the wakefulness support system 1 includes a wakefulness support control device 10, a speaker 16, a vibration device 17, a blower device 18, a camera 20, a drowsiness estimation device 21, a touch panel screen 30, and a heart rate measurement device 40. Prepare.

カメラ20は、インストルメントパネル内に配置され、運転者の顔面を含む画像(具体的には、肩付近から上側の部位の画像)を撮影する。タッチパネル画面30は、ナビゲーション装置や、他の車載機器(エアコン等)に関する情報表示および情報入力のためのユーザインターフェイスとして機能し、さらに、後述する覚醒支援の開始や終了を希望するかについての質問の表示や、回答の入力のために用いられる(詳細後述)。   The camera 20 is disposed in the instrument panel and captures an image including the driver's face (specifically, an image of the upper part from the vicinity of the shoulder). The touch panel screen 30 functions as a user interface for displaying information and inputting information related to navigation devices and other in-vehicle devices (air conditioners, etc.), and for asking questions about whether to start or end awakening support, which will be described later. Used for display and input of answers (details will be described later).

心拍計測装置40は、ステアリングホイールに設けられ、指の脈動を捉えることで、運転者の心拍数を計測するようになっている。スピーカ16は、音楽やナビゲーション機能のための音声、さらに、覚醒支援のための警告音等を出力するために用いられる。振動装置17は、覚醒支援のために、運転者の臀部付近および背中に振動(低周波)を与えるものであり、運転席の座面および背もたれの内部に設置されている。送風装置18は、運転者の背中に風を当てるものであり、運転席の背もたれの表面部に設置されている。   The heart rate measuring device 40 is provided on the steering wheel and measures the driver's heart rate by capturing the pulsation of the finger. The speaker 16 is used to output sound for music and navigation functions, and warning sound for awakening support. The vibration device 17 applies vibration (low frequency) to the driver's buttocks and the back to support awakening, and is installed inside the seat surface and backrest of the driver's seat. The blower 18 applies wind to the driver's back and is installed on the surface of the backrest of the driver's seat.

覚醒支援制御装置10や眠気推定装置21は、CPU、ROM、RAM等から構成されるマイコンである。眠気推定装置21は、カメラ20によって撮影された画像に基づいて、運転者の眠気レベルを推定する。覚醒支援制御装置10は、眠気推定装置21によって推定された眠気レベルと、タッチパネル画面30に入力された情報と、心拍計測装置40によって計測された心拍数とに基づき、スピーカ16、振動装置17、及び送風装置18を制御することによって、覚醒支援を実現する。なお、覚醒支援のための刺激を付与するスピーカ16、振動装置17、及び送風装置18を総称して「覚醒支援機器」と呼ぶ。次から、覚醒支援制御装置10や眠気推定装置21が、覚醒支援のために実行する処理を説明する。   The awakening support control device 10 and the drowsiness estimation device 21 are microcomputers composed of a CPU, a ROM, a RAM, and the like. The sleepiness estimation device 21 estimates the driver's sleepiness level based on the image taken by the camera 20. Based on the sleepiness level estimated by the sleepiness estimation device 21, the information input to the touch panel screen 30, and the heart rate measured by the heartbeat measurement device 40, the awakening support control device 10 includes the speaker 16, the vibration device 17, And the awakening support is realized by controlling the blower 18. In addition, the speaker 16, the vibration device 17, and the air blower 18 which give the stimulus for awakening support are collectively referred to as “wakeup support device”. Next, processing executed by the awakening support control device 10 and the drowsiness estimation device 21 for awakening support will be described.

[2.覚醒支援処理(図3)]
図3は、覚醒支援処理を示すフローチャートである。この覚醒支援処理は、自動車が走行可能な期間(原動機(エンジンやモータ)の作動時)に常時、実行される処理である。図3に示すように覚醒支援処理が実行されると、まず眠気推定処理が実行される(S110)。
[2. Awakening support processing (Figure 3)]
FIG. 3 is a flowchart showing the awakening support process. This awakening support process is a process that is always executed during a period during which the vehicle can travel (when the prime mover (engine or motor) operates). When the awakening support process is executed as shown in FIG. 3, the sleepiness estimation process is first executed (S110).

[2−1.眠気推定処理(図4)]
図4は、眠気推定処理を示すフローチャートである。眠気推定処理は、眠気推定装置21が実行主体となる処理である。眠気推定装置21は、眠気推定処理を開始すると、カメラ20から、運転者の顔面を含む撮影画像を取得する(S1110)。そして、その撮影画像に基づき、表情データを生成する(S1120)。表情データを説明するために、図5に移る。
[2-1. Sleepiness estimation processing (Fig. 4)]
FIG. 4 is a flowchart showing sleepiness estimation processing. The sleepiness estimation process is a process in which the sleepiness estimation apparatus 21 is an execution subject. When the sleepiness estimation device 21 starts the sleepiness estimation process, the sleepiness estimation device 21 acquires a photographed image including the driver's face from the camera 20 (S1110). Then, expression data is generated based on the photographed image (S1120). In order to explain the facial expression data, the processing moves to FIG.

図5は、表情データを構成する顔面上の特徴点を示した図である。本実施例では、左右の上まぶた101L・101R、左右の下まぶた102L・102R、左右の目頭103L・103R、左右の目尻104L・104R、左右の眉頭105L・105R、左右の眉上端106L・106R、左右の眉尻107L・107R、左右の鼻108L・108R、上唇109、下唇110、左右の口角111L・111R、輪郭112〜116の25点が定められている。なお、ここで言う「左右」とは、運転者に向かって見たときの左右であり、運転者から見た左右とは反転することになる。   FIG. 5 is a diagram showing feature points on the face constituting the expression data. In this embodiment, left and right upper eyelids 101L and 101R, left and right lower eyelids 102L and 102R, left and right eye heads 103L and 103R, left and right eye corners 104L and 104R, left and right eyebrows 105L and 105R, left and right eyebrow upper ends 106L and 106R, 25 points of left and right eyebrows 107L and 107R, left and right noses 108L and 108R, upper lip 109, lower lip 110, left and right mouth corners 111L and 111R, and contours 112 to 116 are defined. Note that “left and right” as used herein refers to the left and right when viewed toward the driver, and is reversed from the left and right viewed from the driver.

そして、左右の鼻108L・108Rの両点を結ぶ直線をx軸、両点の中点を通り、x軸に直交する直線をy軸として、各点の2次元座標値を計算する。この計算結果が表情データとなる。   Then, a two-dimensional coordinate value of each point is calculated using a straight line connecting both the left and right noses 108L and 108R as an x axis, a straight line passing through the middle point of both points, and a straight line orthogonal to the x axis as a y axis. This calculation result becomes facial expression data.

図4に戻る。表情データを生成すると、眠気推定装置21自身が備えるROMから学習データを取得する(S1130)。学習データを説明するために、図6に移る。
図6は、学習データを示す図である。学習データとは、先述した表情データと眠気レベルとの関係について、予め行われた実験から得られるサンプルデータによって構成されるデータベースのことである。この実験は、聞き取りや観察などによって被験者の眠気レベル(0(覚醒)〜5(強い眠気)の6段階)を決定し、その眠気レベルをその時の表情データと関連付ける、というものである。被験者は複数人であり、各被験者について、各眠気レベルのデータが複数個、取得できるまで実験をする。
Returning to FIG. When the facial expression data is generated, learning data is acquired from the ROM included in the sleepiness estimation device 21 itself (S1130). To explain the learning data, move to FIG.
FIG. 6 is a diagram showing learning data. The learning data is a database composed of sample data obtained from experiments performed in advance on the relationship between the facial expression data and the drowsiness level described above. In this experiment, the sleepiness level (six levels of 0 (wakefulness) to 5 (strong sleepiness)) of the subject is determined by listening and observation, and the sleepiness level is associated with facial expression data at that time. There are a plurality of subjects, and an experiment is performed for each subject until a plurality of data of each sleepiness level can be acquired.

そして、取得した各データを、眠気レベル0に関連付けられた表情データの平均として得られる座標値との差分を取ることによって、規格化する。このようにして得られるのが、学習データである。   Then, each acquired data is normalized by taking a difference from a coordinate value obtained as an average of facial expression data associated with drowsiness level 0. Learning data is obtained in this way.

図4に戻る。次に、運転者の表情データを、上記「眠気レベル0に関連付けられた表情データの平均として得られる座標値」によって規格化する(S1140)。そして、その規格化した運転者の表情データと、学習データとに基づいて運転者の眠気レベルを推定する(S1150)。具体的には、運転者の表情データを学習データに照合して、学習データを構成する表情データの中で、運転者の表情データに最も近い(ユークリッド距離が最も短い)ものを選択する。なお、このユークリッド距離は、表情データが25の特徴点から構成されているので、25次元空間における距離となる。そして、その選択した表情データに対応付けられている眠気レベルを運転者の眠気レベルとして推定する。   Returning to FIG. Next, the driver's facial expression data is normalized by the above "coordinate value obtained as an average of facial expression data associated with sleepiness level 0" (S1140). Then, the driver's sleepiness level is estimated based on the standardized driver's facial expression data and learning data (S1150). Specifically, the driver's facial expression data is collated with the learning data, and the facial expression data composing the learning data is selected to be closest to the driver's facial expression data (the Euclidean distance is the shortest). Note that the Euclidean distance is a distance in a 25-dimensional space because the facial expression data is composed of 25 feature points. Then, the sleepiness level associated with the selected facial expression data is estimated as the driver's sleepiness level.

図3に戻る。眠気推定処理を終えると、次は作動処理が実行される(S120)。
[2−2.作動処理(図7)]
図7は、作動処理を示すフローチャートである。作動処理は、覚醒支援制御装置10が実行主体となる処理であり、覚醒支援の開始や終了等のための処理である。なお、眠気判定処理(S110、及び後述するS150)の実行主体は眠気推定装置21であり、その他のステップの実行主体は、覚醒支援制御装置10である。
Returning to FIG. When the sleepiness estimation process is finished, the operation process is executed next (S120).
[2-2. Operation process (Fig. 7)]
FIG. 7 is a flowchart showing the operation process. The operation process is a process in which the awakening support control device 10 is an execution subject, and is a process for starting or ending awakening support. Note that the execution subject of the sleepiness determination process (S110 and S150 described later) is the sleepiness estimation device 21, and the execution subject of the other steps is the wakefulness support control device 10.

覚醒支援制御装置10は、作動処理を開始すると、覚醒支援中であるかを判定する(S1210)。覚醒支援中でないと判定すると(S1210NO)、直前のS110において推定された眠気レベルが閾値(例えば眠気レベル2)以上であるかを判定する(S1220)。閾値未満であると判定すると(S1220NO)、覚醒支援を開始することなく作動処理を終える。   When the wake-up support control device 10 starts the operation process, it determines whether the wake-up support is being performed (S1210). If it is determined that the awakening support is not being performed (NO in S1210), it is determined whether the sleepiness level estimated in the previous S110 is equal to or higher than a threshold (for example, sleepiness level 2) (S1220). If it determines with it being less than a threshold value (S1220NO), an operation | movement process will be complete | finished, without starting arousal support.

一方、眠気レベルが閾値以上であると判定すると(S1220YES)、スピーカ16及びタッチパネル画面30を通じて、覚醒支援開始を希望するかを運転者に質問する(S1230)。具体的には、「覚醒支援を開始しますか?」というメッセージを、スピーカ16に音声として出力させると共に、タッチパネル画面30に文字として表示させる。さらに、その回答を運転者に入力させるために「Yes」「No」のアイコンをタッチパネル画面30に表示させる。   On the other hand, if it is determined that the drowsiness level is greater than or equal to the threshold (YES in S1220), the driver is asked whether he / she wants to start awakening support through the speaker 16 and the touch panel screen 30 (S1230). Specifically, a message “Do you want to start awakening support?” Is output to the speaker 16 as a voice and displayed on the touch panel screen 30 as a character. Furthermore, icons “Yes” and “No” are displayed on the touch panel screen 30 in order to allow the driver to input the answer.

そして、上記質問をしてから所定時間以内に、覚醒支援の開始を希望する旨の入力があったか(つまり「Yes」がタッチされたか)を判定する(S1240)。覚醒支援の開始を希望する旨の入力が所定時間以内になかった(つまり「No」がタッチされた、又は何れもタッチされないまま所定時間が経った)と判定すると(S1240NO)、覚醒支援を開始することなく作動処理を終える。   Then, it is determined whether or not an input indicating that the start of awakening support is desired (that is, whether “Yes” is touched) within a predetermined time after the above question has been asked (S1240). When it is determined that there is no input for requesting the start of awakening support within a predetermined time (that is, “No” has been touched or a predetermined time has passed without any touch) (S1240 NO), awakening support is started. The operation process is finished without doing.

一方、覚醒支援の開始を希望する旨の入力があったと判定すると(S1240YES)、その入力が原動機の始動から数えて、1回目かを判定する(S1250)。覚醒支援の開始を希望する旨の入力が、原動機の始動から数えて2回目以降であると判定すると(S1250NO)、評価スコアが最大の覚醒支援機器について記憶されている刺激強度を1段階引き下げると共に(S1260)、その覚醒支援機器を作動させることによって、覚醒支援を開始する(S1270)。   On the other hand, if it is determined that there is an input indicating that it is desired to start awakening support (YES in S1240), it is determined whether the input is the first time from the start of the prime mover (S1250). If it is determined that the input for requesting the start of wakefulness support is the second or subsequent count from the start of the prime mover (NO in S1250), the stimulus intensity stored for the wakeup support device with the highest evaluation score is reduced by one level. (S1260), the wake-up support is started by operating the wake-up support device (S1270).

評価スコア及び刺激強度について説明する。まず、評価スコアとは、各覚醒支援機器の実績を数値化したものであり、デフォルトは0で、−2〜3の範囲で変動するようになっている。この変動は、後述する効果判定処理のS1620及びS1660において実現されるようになっている。なお、評価スコアが最大のものが複数ある場合には、最大のものの中からランダムに選択する。   The evaluation score and stimulus intensity will be described. First, the evaluation score is a numerical value of the performance of each wake-up support device. The default is 0, which varies in the range of −2 to 3. This variation is realized in S1620 and S1660 of the effect determination process described later. In addition, when there are a plurality of evaluation scores having the largest evaluation score, the largest evaluation score is selected at random.

また、刺激強度とは、各覚醒支援機器が運転者に与える刺激の強度のことである。スピーカ16の場合であれば、警告音の音量、及び出力周期について3段階(弱…a1dB&1Hz、中…a2(>a1)dB&1.5Hz、強…a3(>a2)dB&2Hz)が用意されている。振動装置17の場合であれば、振動の出力周期について3段階(弱…1Hz、中…1.5Hz、強…2Hz)が用意されている。送風装置18の場合であれば、風量について3段階(弱…4V(ファンモータに印加する電圧)、中…8V、強…12V)が用意されている。   The stimulus intensity is the intensity of the stimulus that each wake-up support device gives to the driver. In the case of the speaker 16, three levels (weak… a1dB & 1Hz, medium ... a2 (> a1) dB & 1.5Hz, strong ... a3 (> a2) dB & 2Hz) are prepared for the volume and output cycle of the warning sound. In the case of the vibration device 17, three stages (weak ... 1 Hz, medium ... 1.5 Hz, strong ... 2 Hz) are prepared for the output period of vibration. In the case of the blower 18, three levels of air volume (weak… 4 V (voltage applied to the fan motor), medium… 8 V, strong… 12 V) are prepared.

さらに、刺激強度は、後述するS1280及びS1640において上下させられるようになっていると共に、後述するS1290において、終了時の強度が記憶されるようになっている。先述したS1260において刺激強度を1段階引き下げるというのは、その記憶した刺激強度に対して1段階引き下げるということであり、目的は驚愕反応の抑制にある。驚愕反応は覚醒支援の開始時に起こりやすいので、開始時に刺激強度を弱くするのは、驚愕反応の抑制に効果的である。なお、刺激強度が弱の場合は、それ以上引き下げることができないので、現状維持となる。   Further, the stimulus intensity is increased or decreased in S1280 and S1640 described later, and the intensity at the end is stored in S1290 described later. In S1260 described above, reducing the stimulus intensity by one step means reducing the stimulus intensity by one step with respect to the stored stimulus intensity, and the purpose is to suppress the startle response. Since startle responses are likely to occur at the start of awakening support, reducing the stimulus intensity at the start is effective in suppressing startle responses. If the stimulus intensity is weak, it cannot be lowered any further, and the current state is maintained.

一方、覚醒支援の開始を希望する旨の入力が原動機の始動から数えて1回目だと判定すると(S1250YES)、S1260をスキップして、S1270に進む。この場合は、運転者が交代している可能性を考慮して、デフォルトの強度刺激(例えば、中の刺激)を採用するようになっている。   On the other hand, if it is determined that the input indicating that the awakening support is desired is the first input from the start of the prime mover (YES at S1250), S1260 is skipped and the process proceeds to S1270. In this case, in consideration of the possibility that the driver is changing, a default intensity stimulus (for example, a medium stimulus) is adopted.

S1270の次は、カメラ20を通じて取得する撮影画像と、心拍計測装置40を通じて取得する運転者の心拍数の変動とに基づいて、運転者に驚愕反応が出たかを判定する(S1275)。具体的には、撮影画像に基づく場合、S110の眠気推定処理において説明した方法と同様な方法によって判定する。つまり、驚愕反応判定用の学習データを予め記憶しておき、運転者の表情データとマッチングさせることで、驚愕反応の有無を判定する。   Next to S1270, it is determined whether or not the driver has a startle response based on the captured image acquired through the camera 20 and the fluctuation of the driver's heart rate acquired through the heartbeat measuring device 40 (S1275). Specifically, when based on a photographed image, the determination is made by a method similar to the method described in the sleepiness estimation process in S110. That is, the learning data for the startle response determination is stored in advance, and the presence or absence of the startle response is determined by matching with the driver's facial expression data.

一方、心拍数の変動に基づく場合は、単位時間当たりの上昇幅が所定値以上になったことを検出すると、驚愕反応が出たと判定する。そして、S1275は、「OR」で判定するようになっている。つまり、撮影画像および心拍数による方法の少なくとも一方によって「驚愕反応が出た」という結果の場合はYES、両方とも「驚愕反応が出ていない」という結果の場合はNOと判定するようになっている。   On the other hand, when it is based on the fluctuation of the heart rate, it is determined that a startle reaction has occurred when it is detected that the increase width per unit time has become a predetermined value or more. In step S1275, determination is made based on “OR”. In other words, if the result of “a startle response” is obtained by at least one of the method based on the photographed image and the heart rate, it is determined to be YES, and if both result “no startle response”, it is determined to be NO. Yes.

そして、運転者に驚愕反応が出ていないと判定すると(S1275NO)、作動処理を終える。一方、運転者に驚愕反応が出たと判定すると(S1275YES)、刺激強度を1段階引き下げて(S1280)、作動処理を終える。刺激強度を引き下げるのは、次回から驚愕反応が出ないようにするためである。   And if it determines with the driver not having the startle reaction (S1275NO), an operation process will be complete | finished. On the other hand, if it is determined that a startle reaction has occurred to the driver (S1275 YES), the stimulation intensity is lowered by one step (S1280), and the operation process is finished. The reason why the stimulation intensity is lowered is to prevent a startle response from the next time.

一方、S1210において覚醒支援中であると判定すると(S1210YES)、直前のS110において推定された眠気レベルが閾値以上であるかを判定する(S1285)。閾値以上であると判定すると(S1285YES)、作動処理を終える。つまり、覚醒支援を継続したままにする。一方、眠気レベルが閾値未満であると判定すると(S1285NO)、作動中の覚醒支援機器の評価スコアと、現在設定されている刺激強度とを、覚醒支援終了時の値として記憶する(S1290)。そして、覚醒支援機器の作動を停止させて(S1295)、作動処理を終える。なお、S1290で記憶した刺激強度は、先述したように、次回のS1260で用いられる。   On the other hand, if it is determined in S1210 that the awakening is being supported (S1210 YES), it is determined whether the sleepiness level estimated in the immediately preceding S110 is greater than or equal to a threshold value (S1285). If it determines with it being more than a threshold value (S1285YES), an operation process will be complete | finished. In other words, keep awakening support continued. On the other hand, if it is determined that the drowsiness level is less than the threshold (NO in S1285), the evaluation score of the active wakefulness support device and the currently set stimulus intensity are stored as values at the end of wakefulness support (S1290). Then, the operation of the awakening support device is stopped (S1295), and the operation process is finished. Note that the stimulus intensity stored in S1290 is used in the next S1260 as described above.

[2−3.S130〜S150(図3)]
図3に戻る。作動処理を終えると、現在、覚醒支援中であるかを判定する(S130)。覚醒支援中でないと判定すると(S130NO)、S110に戻る。一方、覚醒支援中であると判定すると(S130YES)、10秒待機してから(S140)、眠気推定装置21が眠気推定処理を実行する(S150)。この眠気推定処理は、S110で説明した内容と同じなので、詳しい説明は省く。
[2-3. S130 to S150 (FIG. 3)]
Returning to FIG. When the operation process is finished, it is determined whether or not the awakening is currently being supported (S130). If it is determined that the awakening is not being supported (NO at S130), the process returns to S110. On the other hand, if it is determined that wakefulness is being supported (S130 YES), after waiting for 10 seconds (S140), the drowsiness estimation device 21 executes drowsiness estimation processing (S150). Since this sleepiness estimation process is the same as that described in S110, a detailed description is omitted.

なお、S140で10秒待機する理由は、S150及びS160(後述する効果判定処理)を、作動処理の直後に実行すると、不都合があるからである。その不都合については、次の効果判定処理の説明と共に述べる。   The reason for waiting for 10 seconds in S140 is that it is inconvenient if S150 and S160 (effect determination process described later) are executed immediately after the operation process. The inconvenience will be described together with the description of the next effect determination process.

[2−4.効果判定処理(図8)及びS170(図3)]
図8は、効果判定処理を示すフローチャートである。まず初めに、直前のS150において推定された眠気レベルが閾値以上であるかを判定する(S1610)。閾値未満であると判定すると(S1610NO)、評価スコアを1引き上げて(S1620)、効果判定処理を終える。閾値未満であるということは、覚醒支援の効果が現れたということなので、評価スコアを引き上げる。
[2-4. Effect determination process (FIG. 8) and S170 (FIG. 3)]
FIG. 8 is a flowchart showing the effect determination process. First, it is determined whether or not the sleepiness level estimated in the immediately preceding S150 is greater than or equal to a threshold value (S1610). If it determines with it being less than a threshold value (S1610NO), an evaluation score will be raised by 1 (S1620) and an effect determination process will be complete | finished. If it is less than the threshold, it means that the effect of arousal support has appeared, so the evaluation score is raised.

一方、眠気レベルが閾値以上であると判定すると(S1610YES)、眠気レベルが改善したかを判定する(S1630)。つまり、前回のS1630の時点と比べて、眠気レベルの値が小さくなったのか、又は、同じ若しくは大きくなったのかを判定する。   On the other hand, if it is determined that the drowsiness level is equal to or higher than the threshold (YES in S1610), it is determined whether the drowsiness level has been improved (S1630). That is, it is determined whether the value of the drowsiness level has been reduced, or the same or increased as compared to the previous time of S1630.

眠気レベルが改善していないと判定すると(S1630NO)、刺激強度を1段階引き上げる(S1640)。そして、現在実行している効果判定処理が、覚醒支援処理を開始してから1回目であるかを判定する(S1650)。2回目以降であると判定すると(S1650NO)、作動中の覚醒支援機器の評価スコアを1引き下げて(S1660)、S1670に進む。   If it is determined that the drowsiness level has not improved (NO in S1630), the stimulation intensity is increased by one level (S1640). Then, it is determined whether the effect determination process currently being executed is the first time after the awakening support process is started (S1650). If it is determined that it is the second time or later (NO in S1650), the evaluation score of the active awakening support device is lowered by 1 (S1660), and the process proceeds to S1670.

一方、1回目であると判定すると(S1650YES)、S1660をスキップしてS1670に進む。一方、眠気レベルが前回に比べて改善したと判定すると(S1630YES)、S1640・S1650・S1660をスキップしてS1670に進む。   On the other hand, if it is determined that it is the first time (YES in S1650), S1660 is skipped and the process proceeds to S1670. On the other hand, if it is determined that the drowsiness level has improved compared to the previous time (YES in S1630), S1640, S1650, and S1660 are skipped, and the process proceeds to S1670.

このようにS1630〜S1660は、眠気レベルが改善していない場合に、刺激強度を引き上げると共に、評価スコアを引き下げるためのステップである。なお、1回目の効果判定処理においては評価スコアを引き下げない(S1650YESの場合)のは、S1260との整合を取るためである。つまり、驚愕反応を抑制するために、S1260において刺激強度を低くして覚醒支援を開始しているので、刺激強度がそのままであれば効果が出なくても仕方がない。それにも関わらず評価スコアを引き下げてしまうと、過小評価をすることになると考えられるので、1回目の効果判定処理においては評価スコアを引き下げないようにしている。   Thus, S1630 to S1660 are steps for raising the stimulation intensity and lowering the evaluation score when the drowsiness level has not improved. The reason why the evaluation score is not lowered in the first effect determination process (in the case of S1650 YES) is to match with S1260. That is, in order to suppress the startle response, the stimulus intensity is lowered in S1260 and the awakening support is started. Nevertheless, if the evaluation score is lowered, it is considered that the evaluation score is underestimated. Therefore, the evaluation score is not lowered in the first effect determination process.

ここで、先述したS140において10秒待機する理由について述べる。覚醒支援処理は、図3に示したようにS110〜S170の繰り返し構造になっている。そして、もし所定時間待機するステップが無ければ、繰り返しの周期はごく短い時間(例えば1秒未満)になってしまうと考えられる。覚醒支援処理の繰り返し周期が短ければ、当然、S1630〜S1660が繰り返される周期も短くなる。一方、眠気レベルは、覚醒支援を開始しても、そのような短時間ではなかなか改善しない。つまり、所定時間待機するステップが無ければ、覚醒支援処理を開始して直ぐに、S1630〜S1660によって刺激強度は最強となり、評価スコアは最低となってしまう。   Here, the reason for waiting for 10 seconds in the above-described S140 will be described. The awakening support process has a repeated structure of S110 to S170 as shown in FIG. If there is no step for waiting for a predetermined time, it is considered that the repetition cycle is very short (for example, less than 1 second). If the repetition period of the awakening support process is short, naturally, the period in which S1630 to S1660 are repeated is also short. On the other hand, the drowsiness level does not easily improve in such a short time even if the awakening support is started. That is, if there is no step to wait for a predetermined time, immediately after the awakening support process is started, the stimulation intensity becomes the strongest and the evaluation score becomes the lowest by S1630 to S1660.

このような結果になってしまっては、刺激強度や評価スコアを上下させるステップの意味が薄れてしまう。そこで、覚醒支援処理の繰り返しの周期を長くするために、S140で10秒待機するようにしている。また、後述するS170で20秒待機するのも同じ理由である。   If it becomes such a result, the meaning of the step which raises / lowers a stimulus intensity and an evaluation score will fade. Therefore, in order to lengthen the repetition cycle of the awakening support process, the process waits for 10 seconds in S140. Also, the reason for waiting for 20 seconds in S170 described later is the same reason.

ステップの説明に戻る。S1670に進むと、作動中の覚醒支援機器の評価スコアが基準値(例えば−2)以下かを判定する。基準値を超えていると判定すると(S1670NO)、作動中の覚醒支援機器による覚醒支援を続行したまま、効果判定処理を終える。   Return to the step description. If it progresses to S1670, it will be determined whether the evaluation score of the active awakening assistance apparatus is below a reference value (for example, -2). If it is determined that the reference value is exceeded (NO in S1670), the effect determination process is completed while continuing the awakening support by the active awakening support device.

一方、評価スコアが基準値以下であると判定すると(S1670YES)、作動させる覚醒支援機器を、評価スコアが最大のものに切り替える(S1680)。つまり、今まで作動していた覚醒支援機器を停止させ、その他の覚醒支援機器の中で評価スコアが最大のものを作動させる。S1680を実行する理由は、評価スコアが基準値以下になったということは、それ以上続行しても効果が期待できないからである。   On the other hand, if it determines with an evaluation score being below a reference value (S1670 YES), it will switch the awakening assistance apparatus to operate | move to the thing with the largest evaluation score (S1680). That is, the wake-up support device that has been operated so far is stopped, and the other wake-up support device with the highest evaluation score is turned on. The reason for executing S1680 is that the evaluation score has become below the reference value because the effect cannot be expected even if it continues further.

そして、S1680で停止させられた覚醒支援機器の刺激強度をデフォルトに戻して(S1690)、効果判定処理を終える。デフォルトまで刺激強度を下げる目的は、評価スコアが基準値以下になった場合、刺激強度が最強になっている可能性が高いので、次回の作動時に驚愕反応を引き起こさないようにするためである。   Then, the stimulation intensity of the awakening support device stopped in S1680 is returned to the default (S1690), and the effect determination process is finished. The purpose of lowering the stimulus intensity to the default is to prevent the startle response from occurring during the next operation because the possibility that the stimulus intensity is the strongest is high when the evaluation score is below the reference value.

図3に戻る。効果判定処理を終えると、20秒待機して(S170)、S110に戻る。20秒待機する目的は、先述した通り、覚醒支援処理の繰り返し周期を長くするためである。   Returning to FIG. When the effect determination process is completed, the process waits for 20 seconds (S170) and returns to S110. The purpose of waiting for 20 seconds is to lengthen the repetition period of the awakening support process as described above.

[3.効果]
覚醒支援システム1によれば、「刺激が弱すぎて覚醒支援の効果が現れない」という状況を避けつつ、驚愕反応を抑制することができる。つまり、「驚愕反応が起きれば刺激強度を弱くして、覚醒支援の効果が現れなければ刺激強度を強くする」というフィードバック制御によって、覚醒支援の刺激強度を望ましい強さに収束させることができる。
[3. effect]
According to the awakening support system 1, it is possible to suppress the startle response while avoiding the situation that “the stimulus is too weak and the effect of the awakening support does not appear”. In other words, the stimulus intensity of the arousal support can be converged to a desired intensity by feedback control that “the stimulus intensity is weakened if a startle reaction occurs and the stimulus intensity is increased if the awakening support effect does not appear”.

また、驚愕反応は開始時に起きやすいので、S1260において開始時の刺激強度を弱くすることで、驚愕反応を更に抑制できるようになっている。
また、覚醒支援機器それぞれによる効果を評価すると共に、その評価を覚醒支援機器の選択に用いることで、その選択を適切に行えるようになっている(S1270、S1680)。
In addition, since a startle reaction is likely to occur at the start, the startle reaction can be further suppressed by weakening the stimulus intensity at the start in S1260.
Moreover, while evaluating the effect by each wake-up support device and using the evaluation for selection of the wake-up support device, the selection can be appropriately performed (S1270, S1680).

[4.特許請求の範囲との対応]
実施例と特許請求の範囲との対応を述べる。S110/S150が眠気レベル推定手段、S1260が第3設定手段、S1270が覚醒支援手段、S1275が驚愕判定手段、S1280が第1設定手段、S1620及びS1660が評価手段、S1640が第2設定手段、S1680が切替手段、のソフトウェアにそれぞれ対応する。
[4. Correspondence with Claims]
The correspondence between the embodiments and the claims will be described. S110 / S150 is sleepiness level estimation means, S1260 is third setting means, S1270 is awakening support means, S1275 is startle determination means, S1280 is first setting means, S1620 and S1660 are evaluation means, S1640 is second setting means, S1680 Corresponds to the software of the switching means.

[5.他の形態]
(ア)実施例においては、S1630において眠気レベルに変化がない場合、刺激強度を引き上げて評価スコアを引き下げるようになっていたが、眠気レベルが改善した場合と同様に、刺激強度および評価スコアを変化させなくても良い。
(イ)驚愕反応が現れたか否かの判定基準として、発汗量・筋肉の収縮度合いを数値化したもの・血圧値、或いはその他の生理指標を用いても良い。なお「筋肉の収縮度合いを数値化したもの」として、筋電図等を用いても良いが、運転席の座部に与えられる振動に基づいて判定すると良い。この判定は、座った状態で驚愕すると、脚の筋肉が収縮して立ち上がりそうになる反応を利用している。このような反応が起こると座部に振動(衝撃)が与えられることになるので、それを検知することで、驚愕反応の有無を判定することができる。
(ウ)実施例では、閾値以上の眠気レベルが推定されることが覚醒支援機器の作動の必要条件になっていたが、眠気レベルに関わらず運転者からの入力に応じて、覚醒支援を開始するようにしても良い。また、閾値以上の眠気レベルを検出した場合、運転者の希望に関わらず覚醒支援を開始しても良い。
(エ)表情データは、実施例では2次元座標を用いていたが、3次元座標を用いても良い。
(オ)眠気レベルの推定は、実施例で説明したものでなくても、他の方法でも構わない。例えば、心拍計測装置40によって計測される心拍数を用いても良い。或いは、運転者の表情データと、学習データとのマッチングにおいて、統計的な処理をしても良い(例えばknn法)。
(カ)実施例で述べた種々の値(眠気レベルの閾値など)は、変更しても構わない。
(キ)自動車搭載用でなくても、2輪車もしくは他の機械の操作者、又は、その他の居眠りを避けたい状況にあるユーザなどを対象として、本発明を適用しても良い。
[5. Other forms]
(A) In the example, when the drowsiness level did not change in S1630, the stimulation intensity was raised and the evaluation score was lowered. However, the stimulation intensity and the evaluation score are set as in the case where the drowsiness level is improved. It is not necessary to change.
(A) As a criterion for determining whether or not a startle reaction has occurred, a value obtained by digitizing the amount of sweating or the degree of muscle contraction, a blood pressure value, or other physiological indices may be used. Note that an electromyogram or the like may be used as “the value of the degree of muscle contraction”, but it may be determined based on the vibration applied to the seat of the driver's seat. This determination uses the reaction that the leg muscles contract and stand up when surprised while sitting. When such a reaction occurs, vibration (impact) is applied to the seat, and by detecting this, the presence or absence of a startle reaction can be determined.
(C) In the embodiment, it is a necessary condition for the operation of the wake-up support device that the sleepiness level above the threshold is estimated, but the wake-up support is started according to the input from the driver regardless of the sleepiness level. You may make it do. In addition, when a drowsiness level equal to or higher than the threshold value is detected, awakening support may be started regardless of the driver's desire.
(D) Although two-dimensional coordinates are used for expression data in the embodiment, three-dimensional coordinates may be used.
(E) The estimation of the drowsiness level may not be described in the embodiment, but may be another method. For example, the heart rate measured by the heart rate measuring device 40 may be used. Alternatively, statistical processing may be performed in matching between driver's facial expression data and learning data (for example, the knn method).
(F) Various values described in the embodiments (threshold level threshold etc.) may be changed.
(G) The present invention may be applied to an operator of a two-wheeled vehicle or another machine, or a user who is in a situation where he / she wants to avoid falling asleep, even if it is not mounted on an automobile.

1…覚醒支援システム、10…覚醒支援制御装置、16…スピーカ、17…振動装置、18…送風装置、20…カメラ、21…眠気推定装置、30…タッチパネル画面、40…心拍計測装置 DESCRIPTION OF SYMBOLS 1 ... Awakening support system, 10 ... Awakening support control apparatus, 16 ... Speaker, 17 ... Vibration apparatus, 18 ... Blower, 20 ... Camera, 21 ... Drowsiness estimation apparatus, 30 ... Touch panel screen, 40 ... Heart rate measuring apparatus

Claims (8)

刺激の付与によって、ユーザの覚醒を支援する覚醒支援手段と、
前記覚醒支援手段による刺激によってユーザが驚愕したかを、ユーザの生理指標の変化に基づいて判定する驚愕判定手段と、
ユーザが驚愕したと前記驚愕判定手段によって判定された場合、前記覚醒支援手段によって付与される刺激の強度を弱くする第1設定手段と、
ユーザの表情に基づいて、ユーザの眠気レベルを推定する眠気レベル推定手段と、
前記眠気レベル推定手段によって推定された眠気レベルが、前記覚醒支援手段による覚醒支援の最中において増加傾向にある場合、前記刺激の強度を強くする第2設定手段とを備える
ことを特徴とする覚醒支援装置。
Awakening support means for supporting the user's awakening by applying a stimulus;
Startle determination means for determining whether the user was startled by stimulation by the awakening support means based on a change in the user's physiological index;
A first setting unit that weakens the intensity of the stimulus applied by the awakening support unit when the startle determination unit determines that the user is startled;
Sleepiness level estimation means for estimating a user's sleepiness level based on the user's facial expression;
And a second setting means for increasing the intensity of the stimulus when the sleepiness level estimated by the sleepiness level estimation means tends to increase during the awakening support by the awakening support means. Support device.
前記覚醒支援手段は、前記眠気レベル推定手段によって推定された眠気レベルが、覚醒支援の実行中に閾値未満になると、覚醒支援を終了する
ことを特徴とする請求項1に記載の覚醒支援装置。
The wakefulness support device according to claim 1, wherein the wakefulness support means ends the wakefulness support when the sleepiness level estimated by the sleepiness level estimation means becomes less than a threshold during execution of the wakefulness support.
前記覚醒支援手段による覚醒支援が一旦終了した後に再開される場合、前記覚醒支援手段によって付与される刺激の強度を、前回終了時点よりも弱い強度に設定する第3設定手段を備える
ことを特徴とする請求項2に記載の覚醒支援装置。
When the awakening support by the awakening support means is resumed after it has once ended, it comprises a third setting means for setting the intensity of the stimulus applied by the awakening support means to be lower than the previous end time. The awakening support apparatus according to claim 2.
前記覚醒支援手段は、実行可能な複数種類の覚醒支援の中から、何れかを選択して実行し、
前記眠気レベル推定手段によって推定された眠気レベルに基づいて、前記複数種類の覚醒支援それぞれを評価する評価手段を備え、
前記覚醒支援手段は、前記評価手段による評価が高い覚醒支援を優先的に選択する
ことを特徴とする請求項2又は請求項3に記載の覚醒支援装置。
The awakening support means selects and executes one of a plurality of types of waking support that can be executed,
Evaluation means for evaluating each of the plurality of types of wakefulness support based on the sleepiness level estimated by the sleepiness level estimation means;
The wake support device according to claim 2 or 3, wherein the wake support device preferentially selects wake support that is highly evaluated by the evaluation device.
前記評価手段は、前記眠気レベル推定手段によって推定された眠気レベルが、前記覚醒支援手段による覚醒支援の最中において増加傾向にある場合、その覚醒支援を低く評価する
ことを特徴とする請求項4に記載の覚醒支援装置。
5. The evaluation means, when the sleepiness level estimated by the sleepiness level estimation means tends to increase during the wakefulness support by the wakefulness support means, evaluates the wakefulness support low. Awakening support apparatus according to 1.
前記覚醒支援手段による覚醒支援の最中において、その覚醒支援に対する前記評価手段による評価が基準を下回った場合、覚醒支援の種類を切り替える切替手段を備える
ことを特徴とする請求項5に記載の覚醒支援装置。
The wakefulness according to claim 5, further comprising switching means for switching a kind of wakefulness support when the evaluation by the evaluation means for the wakefulness support falls below a standard during the wakefulness support by the wakefulness support means. Support device.
前記覚醒支援手段は、前記切替手段の切り替えによって停止させられた覚醒支援を再び開始する場合、停止させられた時点の刺激の強度に関わらず、開始時においては初期設定の強度による刺激をユーザに付与する
ことを特徴とする請求項6に記載の覚醒支援装置。
When the awakening support means restarts the awakening support that has been stopped by the switching of the switching means, regardless of the intensity of the stimulus at the time of the stop, the awakening support means gives the user a stimulus with the initial strength at the start. The awakening support apparatus according to claim 6, wherein the waking support apparatus is provided.
前記評価手段は、前記眠気レベル推定手段によって推定された眠気レベルが、前記覚醒支援手段による覚醒支援の最中において所定値未満になった場合、その覚醒支援を高く評価する
ことを特徴とする請求項4〜請求項7の何れか1項に記載の覚醒支援装置。
The evaluation means highly evaluates the wakefulness support when the sleepiness level estimated by the sleepiness level estimation means becomes less than a predetermined value during the wakefulness support by the wakefulness support means. The awakening support apparatus according to any one of claims 4 to 7.
JP2010020303A 2010-02-01 2010-02-01 Awakening support device Active JP5343879B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2010020303A JP5343879B2 (en) 2010-02-01 2010-02-01 Awakening support device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010020303A JP5343879B2 (en) 2010-02-01 2010-02-01 Awakening support device

Publications (2)

Publication Number Publication Date
JP2011159108A true JP2011159108A (en) 2011-08-18
JP5343879B2 JP5343879B2 (en) 2013-11-13

Family

ID=44591003

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010020303A Active JP5343879B2 (en) 2010-02-01 2010-02-01 Awakening support device

Country Status (1)

Country Link
JP (1) JP5343879B2 (en)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016518910A (en) * 2013-04-17 2016-06-30 コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. Adjustment of sensory stimulus intensity to enhance sleep slow wave activity
WO2016143415A1 (en) * 2015-03-12 2016-09-15 ソニー株式会社 Information processing apparatus, information processing method, and program
JP2018094940A (en) * 2016-12-08 2018-06-21 株式会社デンソー Vehicular interface
US10137276B2 (en) 2013-04-19 2018-11-27 Koninklijke Philips N.V. System and method for sleep session management based on slow wave sleep activity in a subject
JP2018190321A (en) * 2017-05-11 2018-11-29 いすゞ自動車株式会社 Operation control system of vehicle and operation control method of the same
WO2019008952A1 (en) * 2017-07-06 2019-01-10 株式会社デンソー Alertness maintenance device
WO2019064736A1 (en) * 2017-09-27 2019-04-04 カルソニックカンセイ株式会社 Wakefulness inducing system
CN114762021A (en) * 2019-12-04 2022-07-15 株式会社电装 Wake-up device

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08268287A (en) * 1995-03-30 1996-10-15 Mitsubishi Motors Corp Arousal degree drop warning device
JP2004149035A (en) * 2002-10-31 2004-05-27 Honda Motor Co Ltd Vehicle follow-driving control device
JP2004350773A (en) * 2003-05-27 2004-12-16 Denso Corp Sleepiness degree detector
JP2006158733A (en) * 2004-12-08 2006-06-22 Toyota Motor Corp Arousal judgment apparatus and arousal judgment method
JP2009137336A (en) * 2007-12-04 2009-06-25 Honda Motor Co Ltd On-board warning system
JP2010020618A (en) * 2008-07-11 2010-01-28 Toyota Motor Corp Driver awakener

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08268287A (en) * 1995-03-30 1996-10-15 Mitsubishi Motors Corp Arousal degree drop warning device
JP2004149035A (en) * 2002-10-31 2004-05-27 Honda Motor Co Ltd Vehicle follow-driving control device
JP2004350773A (en) * 2003-05-27 2004-12-16 Denso Corp Sleepiness degree detector
JP2006158733A (en) * 2004-12-08 2006-06-22 Toyota Motor Corp Arousal judgment apparatus and arousal judgment method
JP2009137336A (en) * 2007-12-04 2009-06-25 Honda Motor Co Ltd On-board warning system
JP2010020618A (en) * 2008-07-11 2010-01-28 Toyota Motor Corp Driver awakener

Cited By (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016518910A (en) * 2013-04-17 2016-06-30 コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. Adjustment of sensory stimulus intensity to enhance sleep slow wave activity
US10220183B2 (en) 2013-04-17 2019-03-05 Koninklijke Philips N.V. Adjustment of sensory stimulation intensity to enhance sleep slow wave activity
RU2677008C2 (en) * 2013-04-17 2019-01-14 Конинклейке Филипс Н.В. Adjustment of sensory stimulation intensity to enhance sleep slow wave activity
US10137276B2 (en) 2013-04-19 2018-11-27 Koninklijke Philips N.V. System and method for sleep session management based on slow wave sleep activity in a subject
WO2016143415A1 (en) * 2015-03-12 2016-09-15 ソニー株式会社 Information processing apparatus, information processing method, and program
JP2018094940A (en) * 2016-12-08 2018-06-21 株式会社デンソー Vehicular interface
JP2018190321A (en) * 2017-05-11 2018-11-29 いすゞ自動車株式会社 Operation control system of vehicle and operation control method of the same
CN110651311A (en) * 2017-05-11 2020-01-03 五十铃自动车株式会社 Vehicle driving control system and vehicle driving control method
WO2019008952A1 (en) * 2017-07-06 2019-01-10 株式会社デンソー Alertness maintenance device
WO2019064736A1 (en) * 2017-09-27 2019-04-04 カルソニックカンセイ株式会社 Wakefulness inducing system
JP2019061562A (en) * 2017-09-27 2019-04-18 カルソニックカンセイ株式会社 Awakening guidance system
US11124194B2 (en) 2017-09-27 2021-09-21 Marelli Corporation Wakefulness inducing system
CN114762021A (en) * 2019-12-04 2022-07-15 株式会社电装 Wake-up device
CN114762021B (en) * 2019-12-04 2024-02-06 株式会社电装 Wake-up device

Also Published As

Publication number Publication date
JP5343879B2 (en) 2013-11-13

Similar Documents

Publication Publication Date Title
JP5343879B2 (en) Awakening support device
JP5842857B2 (en) Arousal improvement device
CN108430818B (en) Method for operating a motor vehicle, driver assistance system and motor vehicle
JP5375571B2 (en) Awakening support device
JP5504742B2 (en) Device and method for adjusting arousal level
JP5155805B2 (en) Sleep control device
JP2015181003A (en) Systems, computer media and computer-implemented methods for monitoring health and ergonomic status of drivers of vehicles
JP5601043B2 (en) Awakening guidance device
JP2009048605A (en) Drowsy driving-preventing device
US11195405B2 (en) Dozing alert apparatus
JP2014229123A (en) Awakening maintenance support apparatus
JP6668999B2 (en) Driving support device
JP2021012409A (en) On-vehicle system
JP6701951B2 (en) Driving support device
JP2009031840A (en) Drowsy driving preventing apparatus
WO2016063488A1 (en) Multisensory interface control method, multisensory interface control device, and multisensory interface system
WO2018030018A1 (en) Driving assistance device
JP2019008427A (en) Wakefulness maintaining device
JP2016052374A (en) Moving body and information presenting method
JP2018013811A (en) Driver state determination device and driver state determination program
JP5327064B2 (en) Awakening support device
JP2011186622A (en) Awakening support device
CN110822661B (en) Control method of air conditioner, air conditioner and storage medium
CN110822649B (en) Control method of air conditioner, air conditioner and storage medium
JPH05250589A (en) Alarm device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120228

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130424

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130507

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130625

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130716

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130729

R151 Written notification of patent or utility model registration

Ref document number: 5343879

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250