JP2009018091A - Doze detector - Google Patents

Doze detector Download PDF

Info

Publication number
JP2009018091A
JP2009018091A JP2007184377A JP2007184377A JP2009018091A JP 2009018091 A JP2009018091 A JP 2009018091A JP 2007184377 A JP2007184377 A JP 2007184377A JP 2007184377 A JP2007184377 A JP 2007184377A JP 2009018091 A JP2009018091 A JP 2009018091A
Authority
JP
Japan
Prior art keywords
heart rate
reference value
sleep
component
time
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2007184377A
Other languages
Japanese (ja)
Other versions
JP5007975B2 (en
Inventor
Akiko Noda
明子 野田
Takemoto Wakuta
雄基 湧田
Masahiro Miyaji
正廣 宮治
Mikio Danno
幹男 段野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nagoya University NUC
Toyota Motor Corp
Toyota InfoTechnology Center Co Ltd
Original Assignee
Nagoya University NUC
Toyota Motor Corp
Toyota InfoTechnology Center Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nagoya University NUC, Toyota Motor Corp, Toyota InfoTechnology Center Co Ltd filed Critical Nagoya University NUC
Priority to JP2007184377A priority Critical patent/JP5007975B2/en
Publication of JP2009018091A publication Critical patent/JP2009018091A/en
Application granted granted Critical
Publication of JP5007975B2 publication Critical patent/JP5007975B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

<P>PROBLEM TO BE SOLVED: To provide a technique capable of highly accurately detecting sleep prediction. <P>SOLUTION: This doze detector includes: first measurement means for measuring a blinking time of a subject; second measurement means for measuring the heart rate fluctuation of the subject; storage means for storing a first reference value, or a reference value of a blinking time, and a second reference value, or the reference value of an HF component of the heart rate fluctuation; first monitor means for monitoring the extension of the blinking time of the subject by a comparison between the maximum value of the blinking time measured by the first measurement means with the first reference value; second monitor means for monitoring a rise in HF component of the heart rate fluctuation of the subject by comparison between the HF component of the heart rate fluctuation measured by the second measurement means with the second reference value; and determination means for determining sleep prediction when the HF component of the heart rate fluctuation is started to increase during appealing the extension of the blinking time. <P>COPYRIGHT: (C)2009,JPO&INPIT

Description

本発明は、居眠りを検知するための技術に関する。   The present invention relates to a technique for detecting dozing.

従来より、生体情報をモニタすることによって居眠りを検知する手法が数多く提案されている。   Conventionally, many techniques for detecting dozing by monitoring biological information have been proposed.

特許文献1では、ハンドルに取り付けた電極で運転者の心拍を計測し、居眠り検知を行う装置が提案されている。また特許文献2では、シートに取り付けた心拍センサで運転者の心拍をモニタする装置が提案されている。また特許文献3、4では、まばたきの頻度や時間の長さから居眠りの兆候を判定する手法が提案されている。   Patent Document 1 proposes an apparatus that detects a driver's sleep by measuring a driver's heartbeat with an electrode attached to a handle. Patent Document 2 proposes an apparatus for monitoring a driver's heartbeat with a heartbeat sensor attached to a seat. Patent Documents 3 and 4 propose a method for determining a sign of dozing from the frequency of blinking and the length of time.

また非特許文献1では、12例を対象とした実験に基づいて、脳波、まばたき時間、まばたき回数および心拍数による運転時の眠気予測方法を提案している。また非特許文献2では、睡眠評価に国際基準を使用し、18例の被験者を対象として、指尖脈波傾き時系列、心拍、呼吸、体表面温度の同時記録から、入眠予兆(睡眠第一段階の5〜10分前)が検出できることが報告されている。
国際公開第2004/089209号パンフレット 特開平5−330360号公報 特表2005−525142号公報 特開平9−39603号公報 沼田仲穂、北島洋樹、五井美博、他、「自動車運転時の眠気の予測手法についての研究」、日本機械学会論文集、63、pp.101−108、1997年 藤田悦則、小倉由美、落合直樹、他、「指尖容積脈波情報を用いた入眠予兆現象計測法の開発」、人間工学、41(4)、pp.203−212、2005年
Non-patent document 1 proposes a drowsiness prediction method during driving based on an electroencephalogram, a blinking time, the number of blinks, and a heart rate based on an experiment for 12 cases. In Non-Patent Document 2, an international standard is used for sleep evaluation, and 18 subjects are subjected to simultaneous recording of fingertip pulse wave inclination time series, heart rate, respiration, and body surface temperature, and a sign of sleep onset (sleep first) It has been reported that 5-10 minutes before the stage) can be detected.
International Publication No. 2004/089209 Pamphlet JP-A-5-330360 JP 2005-525142 A Japanese Patent Laid-Open No. 9-39603 Numata Nakaho, Kitajima Hiroki, Goi Mihiro, et al., “Study on prediction method of sleepiness when driving a car”, Transactions of the Japan Society of Mechanical Engineers, 63, pp. 101-108, 1997 Yasunori Fujita, Yumi Ogura, Naoki Ochiai, et al., “Development of a method for measuring the onset of sleep onset using fingertip volume pulse wave information”, Ergonomics, 41 (4), pp. 203-212, 2005

しかしながら、上記従来技術には次に述べるような課題がある。   However, the above prior art has the following problems.

まず、特許文献1〜4のような装置では、眠気および睡眠に関する客観的な評価が無く、まばたきや心拍などの生体情報と睡眠との関連性について医学的検証が十分でない。よって、居眠り検知の精度および信頼性に疑問が残る。これに対し、非特許文献1、2の研究では、医学的あるいは国際的に認められた評価手法を用いて眠気や睡眠を評価しているものの、車両に脳波測定装置を搭載して運転者の脳波をモニタしたり(非特許文献1)、車両内でサーモグラフィによる体表面温度の測定を行うこと(非特許文献2)は、現在の技術では実用化が困難である。   First, devices such as Patent Literatures 1 to 4 do not have an objective evaluation regarding sleepiness and sleep, and medical verification is not sufficient regarding the relevance between biological information such as blinking and heartbeat and sleep. Therefore, doubt remains about the accuracy and reliability of dozing detection. On the other hand, in the researches of Non-Patent Documents 1 and 2, although sleepiness and sleep are evaluated using a medically or internationally recognized evaluation method, an electroencephalogram measuring device is mounted on the vehicle and the driver's Monitoring the electroencephalogram (Non-Patent Document 1) or measuring the body surface temperature by thermography in the vehicle (Non-Patent Document 2) is difficult to put into practical use with the current technology.

また、危険回避や事故防止を目的とした場合、運転者の「入眠」あるいは「睡眠状態」を検知するだけでは時期的に遅すぎる。入眠に至る前の現象すなわち「入眠予兆」をいち早く捉えて、運転者への警告や自動車の制御等を行うことが望ましい。さらに最近の研究では、入眠より前にマイクロスリープ(microsleep)とよばれる現象が現れるケースがあることも報告されており、危険回避や事故防止の観点からは、このようなマイクロスリープも検知可能な手法の実現が望まれる。しかし従来は、入眠予兆を精度よく検知可能な現実的な手法は存在しなかった。   For the purpose of avoiding danger and preventing accidents, it is too late in time to detect the driver's “sleeping” or “sleeping state”. It is desirable to promptly detect a phenomenon before falling asleep, that is, a “predictive of falling asleep”, and give a warning to a driver, control of an automobile, and the like. Furthermore, recent studies have reported that there is a case called microsleep before sleep onset, and such microsleep can be detected from the viewpoint of risk avoidance and accident prevention. Realization of the method is desired. Conventionally, however, there has not been a practical method capable of accurately detecting a sleep onset sign.

本発明は上記実情に鑑みてなされたものであって、その目的とするところは、入眠予兆を精度良く検知可能な技術を提供することにある。   The present invention has been made in view of the above circumstances, and an object of the present invention is to provide a technique capable of accurately detecting a sleep onset sign.

まばたき時間の監視は比較的容易であり、また入眠予兆の簡易的な判定には向いているが、個人差が大きく精度が低いという不利がある。一方、心拍変動解析は、自律神経活動の評価が可能であるため、まばたき時間を使うよりも高精度な居眠り判定を期待できる。しかし、心拍変動解析では、一般に5分間以上のR−R間隔時系列データを観察する必要があるとされており、その時間応答性の悪さから入眠予兆の判定には向いていなかった。   Although it is relatively easy to monitor the blinking time and is suitable for a simple determination of a sleep onset sign, there is a disadvantage in that the individual difference is large and the accuracy is low. On the other hand, since the heart rate variability analysis can evaluate the autonomic nerve activity, it can be expected to make a dozing determination with higher accuracy than using the blinking time. However, in heart rate variability analysis, it is generally necessary to observe RR interval time series data of 5 minutes or more, and due to its poor time response, it has not been suitable for the determination of sleep onset.

そこで、本発明者らは、まばたき時間と心拍変動の2つの生体情報を同時に監視することにより入眠予兆を精度よく判定できるのではないかとの仮説を立て、医学的見地に基づく実験を行った。その結果、最初にまばたき時間の延長が認められ、それに続いて心拍変動のHF成分の上昇が始まり、その後入眠し睡眠状態になる、との知見を得るに至った。本発明の構成はかかる知見に基づくものである。   Therefore, the present inventors made a hypothesis that it is possible to accurately determine a sleep onset sign by simultaneously monitoring two pieces of biological information of blink time and heart rate variability, and conducted an experiment based on a medical viewpoint. As a result, an extension of the blinking time was first observed, followed by the finding that the HF component of heart rate variability began to rise, and then fell asleep and became a sleep state. The configuration of the present invention is based on such knowledge.

具体的には、本発明に係る居眠り検知装置は、対象者のまばたき時間を計測する第1計測手段と、前記対象者の心拍変動を計測する第2計測手段と、まばたき時間の基準値である第1基準値、および、心拍変動のHF成分の基準値である第2基準値を記憶する記憶手段と、前記第1計測手段で計測されるまばたき時間と前記第1基準値との比較によって、前記対象者のまばたき時間の延長を監視する第1監視手段と、前記第2計測手段で計測される心拍変動のHF成分(高周波成分)と前記第2基準値との比較によって、前記対象者の心拍変動のHF成分の上昇を監視する第2監視手段と、まばたき時間の延長が現れている間に心拍変動のHF成分の上昇の開始が認められた場合に、入眠予兆と判定する判定手段と、を備える。   Specifically, the drowsiness detection device according to the present invention is a first measurement means for measuring the blink time of the subject, a second measurement means for measuring the subject's heartbeat fluctuation, and a reference value for the blink time. By comparing the first reference value and the second reference value that is the reference value of the HF component of heart rate variability with the blink time measured by the first measuring means and the first reference value, A comparison between the first monitoring means for monitoring the extension of the subject's blinking time, the HF component (high frequency component) of the heart rate variability measured by the second measuring means, and the second reference value is performed. Second monitoring means for monitoring an increase in the HF component of the heart rate variability, and determination means for determining that the HF component of the heart rate variability is started when an increase in the blinking time is observed, and determining as a sleep onset sign .

この構成により、入眠に至る前の入眠予兆の段階を高精度に検知することができる。そして、入眠予兆を検知した時点で、警告を出力したり、停止信号を出力したりすれば、居眠りの防止や危険回避が確実になる。   With this configuration, it is possible to detect the sleep onset stage before falling asleep with high accuracy. When a warning sign is detected or a stop signal is output at the time when a sleep symptom is detected, it is possible to prevent a dozing and avoid danger.

前記第1基準値が、前記第1計測手段で計測された前記対象者のまばたき時間の計測値に応じて更新されることが好ましい。また、前記第2基準値が、前記第2計測手段で計測された前記対象者の心拍変動の計測値に応じて更新されることも好ましい。   It is preferable that the first reference value is updated according to a measurement value of the subject's blink time measured by the first measurement unit. Moreover, it is also preferable that the second reference value is updated according to the measured value of the subject's heart rate fluctuation measured by the second measuring means.

まばたき時間には個人差がある。また、同一人でも生活条件により日差変動もある。心拍変動は年齢、生活条件および心疾患など基礎疾患の有無により異なることは従来の報告から明らかにされている。よって、画一的な基準値を使用すると判定精度は低下する可能性が高い。そこで、上記の構成のように、対象者本人の計測値を用いて基準値を随時更新するようにすれば、精度のよい判定が実現できる。   There are individual differences in blinking time. In addition, even for the same person, there are day-to-day variations depending on living conditions. It has been clarified from previous reports that heart rate variability varies depending on age, living conditions and the presence or absence of basic diseases such as heart disease. Therefore, when a uniform reference value is used, the determination accuracy is likely to decrease. Therefore, if the reference value is updated as needed using the measurement value of the subject person as in the above configuration, accurate determination can be realized.

前記判定手段は、入眠予兆と判定した後、心拍変動のHF成分と前記第2基準値との差が所定値に達した場合に、入眠と判定し、さらにその後、入眠(睡眠)の状態が所定期間続いた場合に、持続的睡眠と判定することが好ましい。さらに、入眠予兆、入眠、持続的睡眠の各段階で、警告の出力などを行うことが好ましい。   The determination means determines sleep onset when the difference between the HF component of heart rate variability and the second reference value reaches a predetermined value after determining that it is a sign of sleep onset. When it continues for a predetermined period, it is preferable to determine as continuous sleep. Furthermore, it is preferable to output a warning at each stage of sleep onset, sleep on, and continuous sleep.

前記第1計測手段が、非接触で対象者のまばたき時間を計測可能であるとよい。たとえば、対象者をカメラで撮影することにより得られる画像を用いてまばたき時間を計測するとよい。さらに、その画像を用いて、頭部の傾げ(ふらつき)や眼球の動きなどの情報を得て、居眠り判定に利用することも好ましい。   The first measuring unit may be capable of measuring a subject's blinking time without contact. For example, the blinking time may be measured using an image obtained by photographing the subject with a camera. Furthermore, it is also preferable to use the image to obtain information such as the inclination of the head (flicker) and the movement of the eyeball, and use it for doze determination.

前記第2計測手段も、非接触で対象者の心拍変動を計測可能であるとよい。たとえば、マイクロ波を利用して対象者の心拍を非接触で計測する手法などが考えられる。   The second measuring means may be capable of measuring heartbeat fluctuations of the subject without contact. For example, a method of measuring the heartbeat of the subject person in a non-contact manner using microwaves can be considered.

ただし、本発明は、接触式の計測系でまばたき時間や心拍変動を計測する構成を排除するものではない。対象者に多大な負荷や違和感を与えないのであれば、接触式の計測系を利用してもよい。   However, the present invention does not exclude a configuration for measuring the blinking time or heartbeat fluctuations with a contact-type measurement system. A contact-type measurement system may be used as long as it does not give the subject a great load or discomfort.

本発明は、上記手段の少なくとも一部を有する居眠り検知装置として捉えることができる。また、本発明は、上記処理の少なくとも一部を含む居眠り検知方法、または、かかる方法を実現するためのプログラムとして捉えることもできる。上記手段および処理の各々は可能な限り互いに組み合わせて本発明を構成することができる。   The present invention can be understood as a dozing detection device having at least a part of the above means. The present invention can also be understood as a dozing detection method including at least a part of the above processing or a program for realizing the method. Each of the above means and processes can be combined with each other as much as possible to constitute the present invention.

たとえば、本発明の一態様としての居眠り検知方法は、対象者のまばたき時間を計測する工程と、前記対象者の心拍変動を計測する工程と、計測されたまばたき時間と第1基準値との比較によって、前記対象者のまばたき時間の延長を監視する工程と、計測された心拍変動のHF成分と第2基準値との比較によって、前記対象者の心拍変動のHF成分の上昇を監視する工程と、まばたき時間の延長が現れている間に心拍変動のHF成分の上昇の開始が認められた場合に、入眠予兆と判定する工程と、を含むものである。   For example, the dozing detection method as one aspect of the present invention includes a step of measuring a subject's blink time, a step of measuring the subject's heartbeat fluctuation, and a comparison between the measured blink time and a first reference value. Monitoring the extension of the subject's blinking time, and monitoring the increase in the HF component of the subject's heart rate variability by comparing the measured HF component of the heart rate variability with a second reference value; And a step of determining a sleep onset symptom when an increase in the HF component of heart rate variability is recognized while an extension of the blinking time appears.

本発明によれば、入眠予兆を精度良く検知可能となる。   According to the present invention, it is possible to accurately detect a sleep onset sign.

以下に図面を参照して、この発明の好適な実施の形態を例示的に詳しく説明する。なお、以下の実施形態では本発明を車両の居眠り運転防止装置に適用する構成を例示するが、本発明の適用範囲はこれに限られない。たとえば、電車、飛行機、船舶、重機などの操縦、あるいは、工場での作業など、居眠りが危険や事故を誘発する可能性のある場面であれば、本発明を好ましく適用可能である。   Exemplary embodiments of the present invention will be described in detail below with reference to the drawings. In the following embodiments, a configuration in which the present invention is applied to a vehicle drowsiness prevention device is illustrated, but the scope of application of the present invention is not limited thereto. For example, the present invention is preferably applicable to scenes where falling asleep may cause danger or accidents, such as operation of trains, airplanes, ships, heavy machinery, or work in factories.

<装置構成>
図1は、本発明の実施形態に係る居眠り検知装置の構成を示すブロック図である。
<Device configuration>
FIG. 1 is a block diagram showing a configuration of a dozing detection device according to an embodiment of the present invention.

この居眠り検知装置1は、車両に搭載される装置であり、運転者(対象者)の居眠りを検知し防止するためのものである。居眠り検知装置1は、主な構成として、装置本体10、カメラ20、心拍センサ30を備えている。   This dozing detection device 1 is a device mounted on a vehicle, and is for detecting and preventing a driver's (target person's) dozing. The dozing detection device 1 includes a device body 10, a camera 20, and a heart rate sensor 30 as main components.

装置本体10は、CPU(中央演算処理装置)11、記憶装置12、カメラ20とのI/F13、心拍センサ30とのI/F14、警報装置15などを備える情報処理装置である。記憶装置12は、CPU11で実行される各種プログラムや、居眠り検知処理で利用される基準値などの各種パラメータなどを記憶している。居眠り検知装置1の機能は、この記憶装置12に格納されているプログラムがCPU11によって実行され、必要に応じてカメラ20、心拍センサ30、警報装置15を制御することで実現されるものである。なお、車両に搭載されているECUやカーナビゲーションシステムなどの情報処理装置を、居眠り検知装置の装置本体として利用しても構わない。   The apparatus main body 10 is an information processing apparatus including a CPU (Central Processing Unit) 11, a storage device 12, an I / F 13 with the camera 20, an I / F 14 with the heart rate sensor 30, an alarm device 15, and the like. The storage device 12 stores various parameters such as various programs executed by the CPU 11 and reference values used in the dozing detection process. The function of the dozing detection device 1 is realized by the CPU 11 executing a program stored in the storage device 12 and controlling the camera 20, the heart rate sensor 30, and the alarm device 15 as necessary. Note that an information processing device such as an ECU or a car navigation system mounted on the vehicle may be used as the device body of the dozing detection device.

カメラ20は、運転者の映像を取り込むための撮像装置である。カメラ20で取り込まれた画像は、装置本体10において、まばたき時間の計測や頭部の傾げの検出に利用される。よって、カメラ20は、運転者の頭部および顔を撮影可能な位置、たとえば、運転席前方のインパネやハンドルなどに設置される。カメラ20としては、CCDやCMOSなど撮像素子を利用したデジタルカメラが好適である。   The camera 20 is an imaging device for capturing a driver's video. The image captured by the camera 20 is used in the apparatus main body 10 for measuring the blink time and detecting the tilt of the head. Therefore, the camera 20 is installed at a position where the driver's head and face can be photographed, such as an instrument panel or a handle in front of the driver's seat. As the camera 20, a digital camera using an image sensor such as a CCD or a CMOS is suitable.

心拍センサ30は、運転者の心拍変動を計測するための計測装置である。この心拍センサ30は、マイクロ波を利用して運転者の心拍を非接触で計測する方式のセンサである。心拍センサ30の出力信号は装置本体10に取り込まれ、心拍変動解析に供される。   The heart rate sensor 30 is a measurement device for measuring a driver's heart rate variability. The heart rate sensor 30 is a sensor that uses a microwave to measure a driver's heart rate in a non-contact manner. The output signal of the heart rate sensor 30 is taken into the apparatus body 10 and used for heart rate variability analysis.

このように本実施形態では、カメラやマイクロ波センサなどの非接触式のセンサを用いているため、運転者に負荷や違和感を与えることなく、居眠り検知に用いる生体情報(まばたき、心拍変動)を得ることができる。よって、車両への実装が容易かつ現実的である。ただし、運転者に多大な負荷や違和感を与えないのであれば、接触式のセンサを利用しても構わない。たとえば、ハンドル、シート、ヘッドレスト、シートベルトなど、元々運転者との接触がある部材に接触式の心拍センサを設ければ、負荷や違和感を与えることなく心拍変動を計測することが可能である。   As described above, in this embodiment, since non-contact sensors such as a camera and a microwave sensor are used, biological information (blink, heart rate fluctuation) used for detection of falling asleep without giving a load or discomfort to the driver. Obtainable. Therefore, mounting on a vehicle is easy and realistic. However, a contact-type sensor may be used as long as it does not give the driver a great load or uncomfortable feeling. For example, if a contact-type heart rate sensor is provided on a member that originally has contact with the driver, such as a handle, a seat, a headrest, or a seat belt, heart rate variability can be measured without causing a load or a sense of incongruity.

なお、本実施形態においては、装置本体10の記憶装置12が本発明の記憶手段に対応し、カメラ20が本発明の第1計測手段に対応し、心拍センサ30が本発明の第2計測手段に対応している。   In the present embodiment, the storage device 12 of the apparatus body 10 corresponds to the storage means of the present invention, the camera 20 corresponds to the first measurement means of the present invention, and the heart rate sensor 30 corresponds to the second measurement means of the present invention. It corresponds to.

<居眠り検知処理>
図2は、運転者の状態とまばたき時間および心拍変動のHF成分の変化との関係を模式的に示すグラフである。グラフの横軸は時間を示しており、縦軸はまばたき時間と心拍変動のHF成分のレベル(HF値)を示している。破線がまばたき時間の変化であり、実線が心拍変動のHF成分の変化である。なお図2のグラフに示す関係は、本発明者らの実験により得られたデータを基礎としている。この実験の内容については後で詳しく述べる。
<Dozing detection processing>
FIG. 2 is a graph schematically showing the relationship between the driver's condition and blinking time and changes in the HF component of heart rate variability. The horizontal axis of the graph represents time, and the vertical axis represents the blink time and the level (HF value) of the HF component of heart rate variability. The broken line is the change in the blinking time, and the solid line is the change in the HF component of the heart rate variability. Note that the relationship shown in the graph of FIG. 2 is based on data obtained by experiments of the present inventors. Details of this experiment will be described later.

図2のグラフから分かるように、運転者が覚醒状態(かつ安静状態)にあるときは、まばたき時間および心拍変動のHF成分は両者ともに低いレベルにある。一方、運転者が睡眠状態にあるときは、まばたきは消失しており、心拍変動のHF成分は高いレベルにある。覚醒状態から睡眠状態への移行期間を見ると、最初にまばたき時間の延長が現れており、それに続いて心拍変動のHF成分の上昇が始まり、その後入眠し、睡眠状態に至ることがわかる。なお「入眠」とは、睡眠の開始時点のことをいう。本実施形態の居眠り検知装置1は、図2に示す「入眠予兆」、「入眠」、「睡眠状態(持続的睡眠)」の3つの段階の検知を行う。   As can be seen from the graph of FIG. 2, when the driver is in an awake state (and resting), both the blinking time and the HF component of heart rate variability are at low levels. On the other hand, when the driver is in a sleep state, the blink is lost and the HF component of heart rate variability is at a high level. Looking at the transition period from the awake state to the sleep state, it can be seen that an extension of the blinking time appears first, followed by an increase in the HF component of heart rate variability, followed by falling asleep and reaching a sleep state. Note that “sleeping” refers to the start of sleep. The dozing detection device 1 according to the present embodiment performs detection in three stages of “sleep falling predictor”, “sleep falling”, and “sleep state (persistent sleep)” illustrated in FIG. 2.

では、図3のフローチャートを参照して、居眠り検知装置1の動作を説明する。ここで述べる居眠り検知処理は、居眠り検知装置1のCPU11によって実行されるものである。   Now, the operation of the dozing detection apparatus 1 will be described with reference to the flowchart of FIG. The dozing detection process described here is executed by the CPU 11 of the dozing detection device 1.

(ステップS1)
処理がスタートすると、カメラ20および心拍センサ30が計測を開始する。所定時間ごと(たとえば数ミリ秒ごと)に運転者の画像と心拍信号が装置本体10に取り込まれる。CPU11は、順次取り込まれる時系列画像を解析することによって、運転者のまばたき時間を算出する。まばたき時間の算出には、公知の画像処理手法を利用可能である。たとえば、画像処理によって眼、まぶた、瞳、白眼などを検出することで開眼状態か閉眼状態かを判別し、閉眼状態の画像が何枚連続するかでまばたき時間を求める手法などがある。また、CPU11は、順次取り込まれる心拍信号を解析することによって、運転者の心拍変動のHF成分のレベルを算出する。心拍変動のHF成分の評価手法は公知のため、ここでは説明を割愛する。
(Step S1)
When the process starts, the camera 20 and the heart rate sensor 30 start measurement. A driver's image and a heartbeat signal are taken into the apparatus main body 10 every predetermined time (for example, every several milliseconds). CPU11 calculates a driver | operator's blink time by analyzing the time series image taken in sequentially. A known image processing method can be used for calculating the blink time. For example, there is a method of determining whether the eye is open or closed by detecting eyes, eyelids, pupils, white eyes, etc. by image processing, and obtaining the blinking time by how many images in the closed eye state are continuous. Further, the CPU 11 calculates the level of the HF component of the driver's heart rate variability by analyzing the heartbeat signals that are sequentially captured. Since the method for evaluating the HF component of heart rate variability is known, the description thereof is omitted here.

まばたき時間および心拍変動のHF成分の算出結果(計測値)は、所定時間(たとえば1秒)ごとに得られる。この定期的に計測される計測値を用いて、ステップS2以降の処
理が行われる。
The calculation result (measurement value) of the blinking time and the HF component of heart rate variability is obtained every predetermined time (for example, 1 second). Using the measurement values that are periodically measured, the processes after step S2 are performed.

(ステップS2)
ステップS2では、CPU11が、基準値の更新処理を実行する。基準値とは、図2に示すように、運転者の安静覚醒状態におけるまばたき時間および心拍変動のHF成分の値(ベースライン)である。
(Step S2)
In step S2, the CPU 11 executes a reference value update process. As shown in FIG. 2, the reference value is the HF component value (baseline) of the blinking time and heart rate variability in the driver's resting and awake state.

まばたき時間には個人差がある。また、同一人でも生活条件により日差変動もある。心拍変動は年齢、生活条件および心疾患など基礎疾患の有無により異なることは従来の報告から明らかにされている。よって、画一的な基準値を使用すると判定精度は低下する可能性が高い。特に本実施形態では、入眠直前に現れる入眠予兆を精度良く検知することを目的としているため、判定精度を低下させる要因は極力排除することが望まれる。そこで、本実施形態では、居眠り判定に入る前のイニシャライズ処理として、基準値の更新を行う。   There are individual differences in blinking time. In addition, even for the same person, there are day-to-day variations depending on living conditions. It has been clarified from previous reports that heart rate variability varies depending on age, living conditions and the presence or absence of basic diseases such as heart disease. Therefore, when a uniform reference value is used, the determination accuracy is likely to decrease. In particular, the present embodiment aims to accurately detect a sleep onset sign that appears immediately before falling asleep, so it is desirable to eliminate as much as possible the factors that lower the determination accuracy. Therefore, in this embodiment, the reference value is updated as an initialization process before entering the doze determination.

具体的には、CPU11は、所定のイニシャライズ期間のあいだに得られたまばたき時間の計測値を平均することで、当該運転者のまばたき時間の基準値(第1基準値)を算出する。同様に、イニシャライズ期間に得られたHF成分の計測値を平均することで、HF成分の基準値(第2基準値)を得る。ここで算出された基準値は記憶装置12に格納され、ステップS3以降の処理に供される。   Specifically, the CPU 11 calculates the reference value (first reference value) of the driver's blink time by averaging the measured values of the blink time obtained during a predetermined initialization period. Similarly, the HF component reference value (second reference value) is obtained by averaging the measured values of the HF component obtained during the initialization period. The reference value calculated here is stored in the storage device 12, and is used for the processing after step S3.

このように運転者本人の計測値を用いて基準値を随時更新することで、個人差や日差変動にかかわらず精度のよい判定が可能となる。なお、イニシャライズ期間は任意に設定可能である(たとえば数分程度に設定すればよい)。また、本実施形態では計測値の平均を基準値としているが、中間値や最頻値など他の統計値を用いてもよい。   Thus, by updating the reference value as needed using the measurement value of the driver himself / herself, accurate determination can be made regardless of individual differences or daily fluctuations. The initialization period can be arbitrarily set (for example, it may be set to about several minutes). In the present embodiment, the average of the measurement values is used as a reference value, but other statistical values such as an intermediate value and a mode value may be used.

(ステップS3)
基準値の更新処理が終わったら、CPU11は、「入眠予兆」を検知するモードに入る。まず、CPU11は、まばたき時間の計測値と基準値との比較によって、運転者のまばたき時間の延長を監視する。このステップS3の機能が、本発明の第1監視手段に対応している。
(Step S3)
When the update process of the reference value is finished, the CPU 11 enters a mode for detecting “a sleep symptom”. First, the CPU 11 monitors the extension of the driver's blink time by comparing the measured value of the blink time with a reference value. The function of step S3 corresponds to the first monitoring means of the present invention.

たとえば、CPU11は、計測値が得られるたびにまばたき時間の増加率を計算し、その増加率が所定のしきい値を超えた場合に「延長」と判断する。まばたき時間の延長が認められたら、次のステップS4に進む。   For example, the CPU 11 calculates an increase rate of the blinking time every time a measurement value is obtained, and determines that the extension is “extended” when the increase rate exceeds a predetermined threshold value. If extension of the blink time is recognized, the process proceeds to the next step S4.

(ステップS4)
ステップS4では、CPU11が、心拍変動のHF成分の計測値と基準値との比較によって、運転者の心拍変動のHF成分の上昇を監視する。このステップS4の機能が、本発明の第2監視手段に対応している。
(Step S4)
In step S4, the CPU 11 monitors the increase in the HF component of the driver's heart rate variability by comparing the measured value of the HF component of heart rate variability with the reference value. The function of step S4 corresponds to the second monitoring means of the present invention.

たとえば、CPU11は、HF成分の計測値が得られるたびに基準値との差を求め、その差が所定のしきい値を超えたら、HF成分が上昇を開始したと判断する。なお、ステップS4の監視動作中に、まばたき時間の長さが基準値レベルに戻った場合には、ステップS3の監視動作に戻る。   For example, the CPU 11 obtains a difference from the reference value every time a measured value of the HF component is obtained, and determines that the HF component has started to rise when the difference exceeds a predetermined threshold value. If the blink time returns to the reference value level during the monitoring operation in step S4, the process returns to the monitoring operation in step S3.

(ステップS5)
まばたき時間の延長が現れている間に(ステップS3)心拍変動のHF成分の上昇の開始が認められた(ステップS4)という条件が満たされた時、CPU11は、運転者に「入眠予兆」が現れたと判定する。すなわち、図2の点Aの時点を、「入眠予兆」として検
知するのである。本発明者らの実験では、上記条件が揃う点Aの時点は、実際の入眠の時点よりも数秒から数十秒ほど先行することが確認されている。また、後述するようにマイクロスリープ現象が発現する場合も、まばたき時間の延長とHF成分の上昇がみられることから、上記判定条件を使えばマイクロスリープ現象も検知することができる。
(Step S5)
While the extension of the blink time appears (step S3), when the condition that the start of the increase of the HF component of the heart rate variability is recognized (step S4) is satisfied, the CPU 11 gives the driver a “pregnant sleep sign”. Judge that it appeared. That is, the time point of point A in FIG. 2 is detected as a “sleeping symptom”. In the experiments by the present inventors, it has been confirmed that the point A at which the above conditions are met precedes the actual sleep onset by several seconds to several tens of seconds. Also, as will be described later, when the microsleep phenomenon occurs, the blinking time is prolonged and the HF component is increased. Therefore, the microsleep phenomenon can be detected by using the above determination condition.

(ステップS6)
「入眠予兆」と判定した場合、CPU11は、警報装置15を制御して、第一段階の警告を出力する。入眠前にいち早く警告を発することで、運転者の覚醒を促すことができるので、事故や危険を未然に回避することができる。
(Step S6)
If the CPU 11 determines that it is a “predictive of falling asleep”, the CPU 11 controls the alarm device 15 to output a first-stage warning. By issuing a warning immediately before falling asleep, the driver can be awakened, so accidents and dangers can be avoided in advance.

(ステップS7)
第一段階の「入眠予兆」が検知された後、CPU11は、第二段階の「入眠」を検知するモードに入る。図2に示すように、本発明者らの実験によると、入眠の時点では心拍変動のHF成分は上昇の途中にある。この状態を捉えるべく、本実施形態では、HF成分の上昇勾配を監視し、その勾配が所定のしきい値に達した時点で、運転者が「入眠」したと判定する。
(Step S7)
After the first stage “pregnant sleep” is detected, the CPU 11 enters a mode for detecting the second stage “sleeping”. As shown in FIG. 2, according to the experiments of the present inventors, the HF component of heart rate variability is in the middle of rising at the time of falling asleep. In this embodiment, in order to capture this state, the rising slope of the HF component is monitored, and when the slope reaches a predetermined threshold, it is determined that the driver has “sleeped”.

なお、入眠後は閉眼している時間が長くなり、まばたきの頻度が低下するので、HF成分の上昇勾配とともにまばたきの頻度を監視することで、入眠判定の精度を高めてもよい。さらに、入眠後は頭部の傾げも発生しはじめるので、画像における頭部の位置や傾きなどから頭部の傾げを評価し、その情報を入眠判定に利用してもよい。   In addition, since the time for which eyes are closed becomes longer after falling asleep and the frequency of blinking decreases, the accuracy of sleep determination may be improved by monitoring the frequency of blinking together with the rising slope of the HF component. Further, since the head tilt starts to occur after falling asleep, the head tilt may be evaluated from the position and tilt of the head in the image, and the information may be used for sleep determination.

ところで、ステップS7の入眠検知モードにおいて、HF成分の低下やまばたき時間の短縮が認められた場合には、運転者が覚醒状態になったとみなし、再びステップS3の入眠予兆検知モードに戻るとよい。   By the way, in the sleep onset detection mode in step S7, when a decrease in the HF component and shortening of the blinking time are recognized, it is considered that the driver is in an awake state, and the operation returns to the sleep onset sign detection mode in step S3 again.

(ステップS8)
ステップS7で「入眠」と判定した場合、CPU11は、警報装置15を制御して、第二段階の警告を出力する。このとき、第一段階のときよりも大きな音声で警告を出力し、確実に運転者の覚醒を促すことが好ましい。
(Step S8)
If the CPU 11 determines “sleeping” in step S <b> 7, the CPU 11 controls the alarm device 15 to output a second-stage warning. At this time, it is preferable to output a warning with a louder sound than in the first stage and to urge the driver to wake up reliably.

(ステップS9)
第二段階の「入眠」が検出された後、CPU11は、第三段階の「持続的睡眠」を検知するモードに入る。図2に示すように、心拍変動のHF成分は、入眠後しばらく上昇を続けた後、あるレベルで安定する。そこで、本実施形態では、HF成分の計測値と基準値との差分(もしくは上昇率)を監視し、その差分が所定のしきい値を超えている状態が10分以上続いた場合に、運転者が「持続的睡眠」に入ったと判定する。持続的な睡眠状態に入った後は、まばたきが完全に消失するので、その情報を持続的睡眠の判定に利用することも好ましい。なお、このモードにおいてHF成分の低下が認められた場合も、運転者が覚醒状態に復帰したとみなし、ステップS3の入眠予兆検知モードあるいはステップS7の入眠検知モードに戻るとよい。
(Step S9)
After the second stage “sleeping” is detected, the CPU 11 enters a mode for detecting the third stage “persistent sleep”. As shown in FIG. 2, the HF component of heart rate variability stabilizes at a certain level after continuing to rise for a while after falling asleep. Therefore, in this embodiment, the difference (or rate of increase) between the measured value of the HF component and the reference value is monitored, and when the state where the difference exceeds a predetermined threshold continues for 10 minutes or more, the operation is performed. It is determined that the person has entered “continuous sleep”. Since blinking disappears completely after entering the continuous sleep state, it is also preferable to use the information for determination of continuous sleep. In addition, even if a decrease in the HF component is recognized in this mode, it is considered that the driver has returned to the awake state, and the process returns to the sleep onset detection mode in step S3 or the sleep detection mode in step S7.

(ステップS10)
ステップS9で「持続的睡眠」と判定した場合には、CPU11は、警報装置15を制御して第三段階の警告を出力する。
(Step S10)
When it determines with "persistent sleep" at step S9, CPU11 controls the alarm device 15 and outputs the warning of a 3rd step.

なお、ステップS6、S8、S10において、警告を出力するだけでなく、CPU11がECUに信号を送出し車両の動作を制御するようにしてもよい。たとえば、危険回避の目的で、車両のクラクションを鳴らしたり、ハンドルをロックしたり、エンジンの回転数を下げたり、速度を落としたりすることが想定される。また、上記フローではステップS
3、S4を順番に実行しているが、マルチタスク処理によりまばたき時間の監視と心拍変動のHF成分の監視を並列に実行してもよい。
In steps S6, S8, and S10, not only a warning may be output, but the CPU 11 may send a signal to the ECU to control the operation of the vehicle. For example, for the purpose of avoiding danger, it is assumed that a vehicle horn is sounded, a steering wheel is locked, an engine speed is decreased, or a speed is decreased. In the above flow, step S
3 and S4 are executed in order, but monitoring of the blinking time and monitoring of the HF component of heart rate variability may be executed in parallel by multitask processing.

以上述べた居眠り検知装置1によると、「入眠予兆」、「入眠」、「持続的睡眠」の3つの段階を精度よく検知することができる。特に、従来は検知困難であった入眠予兆およびマイクロスリープについても精度良く検知可能であるという利点をもつ。また、非接触式のセンサを用いているため、車両への実装が容易かつ現実的であるという点でも優れている。しかも、次に述べるように、各段階における判定ロジックは医学的な実験を基礎とするものであり、高い信頼性を有している。   According to the drowsiness detection apparatus 1 described above, it is possible to accurately detect the three stages of “asleep sign”, “asleep”, and “a persistent sleep”. In particular, there is an advantage that it is possible to detect a sleep onset symptom and micro sleep, which have been difficult to detect conventionally, with high accuracy. Further, since a non-contact sensor is used, it is excellent in that it can be easily and realistically mounted on a vehicle. Moreover, as will be described below, the decision logic at each stage is based on medical experiments and has high reliability.

<実験の説明>
以下、本発明者らが行った実験の概要を説明する。なお実験の対象は健常大学生25例であった。
<Explanation of experiment>
The outline of the experiment conducted by the present inventors will be described below. The subjects of the experiment were 25 healthy university students.

(1)実験環境
実験は、シールドルーム内の暗室にて行った。被実験者の体位は運転中とあわせ、座位とした。検査前、喫煙および過度な飲酒および運動は禁止した。シールドルーム内の暗室内で20分以上睡眠が得られない場合は検査を中止した。一回目の検査では環境に慣れていないため、2回目以降からのデータを使用した。
(1) Experimental environment The experiment was performed in a dark room in a shield room. The subject's posture was set to the sitting position together with driving. Prior to testing, smoking and excessive drinking and exercise were prohibited. The test was stopped when sleep could not be obtained for more than 20 minutes in the dark room in the shield room. Since the first inspection was not used to the environment, data from the second time onward was used.

(2)睡眠、まばたきおよび心拍変動解析
終夜睡眠ポリグラフィ(Polysomnography:PSG)を用い睡眠を評価した。脳波電極
装着(C4-A1,C3-A2,O2-A1,O1-A2)および睡眠判定は国際基準に従った。このシステムか
ら得られる情報は、睡眠ステージ、心電図R−R間隔、脳波、頤筋電図、眼球運動である。
(2) Sleep, blinking and heart rate variability analysis Sleep was evaluated using polysomnography (PSG) overnight. EEG attachment (C4-A1, C3-A2, O2-A1, O1-A2) and sleep determination were in accordance with international standards. Information obtained from this system is the sleep stage, ECG RR interval, electroencephalogram, electromyogram, and eye movement.

まばたき情報の測定には、AntiSleep(SmartEye社製)を使用した。AntiSleepから得られる情報は、頭部座標、頭部回転、眼球座標、視線方向およびまぶた間隙である。   AntiSleep (manufactured by SmartEye) was used for measurement of blink information. Information obtained from AntiSleep includes head coordinates, head rotation, eyeball coordinates, line-of-sight direction, and eyelid gap.

心電図R−R間隔の心拍変動の周波数解析には、MemCalc/Winを使用した。Low frequency(LF)およびHigh frequency(HF)成分は、各々心電図R−R間隔時系列データのパワースペクトルにおける0.04Hz-0.15Hz、0.15Hz-0.4Hz帯域の周波数積分値として算出
されている。
MemCalc / Win was used for frequency analysis of heart rate variability in the ECG RR interval. The low frequency (LF) and high frequency (HF) components are respectively calculated as frequency integrated values in 0.04 Hz-0.15 Hz and 0.15 Hz-0.4 Hz bands in the power spectrum of the electrocardiogram RR interval time series data.

本実験では、AntiSleepおよびPSGの同時計測を行うことにより、入眠時期周辺におけるAntiSleepから得られるまばたき情報および心拍変動にどのような特徴が認められるか検
討した。
In this experiment, we investigated the characteristics of the blink information and heart rate variability obtained from AntiSleep around sleep onset by simultaneous measurement of AntiSleep and PSG.

二群間の検定にはPaired t-testを用い、P<0.05を有意とした。   Paired t-test was used for the test between the two groups, and P <0.05 was considered significant.

(3)PSGによる取得データの例
図4(a)は、PSGにより取得された脳波、眼球運動、心電図のデータの一例である。PSGでは、30秒区間のデータを1単位(epoch)として睡眠段階(睡眠ステージ)
の判定を行う(20秒区間で判定されることもある。)。脳波深度の分類には、Rechtschaffen&Kalesの分類が広く用いられている。睡眠段階1−4をNREM睡眠と総称する。
睡眠段階3、4はまとめて徐波睡眠(slow wave sleep:SWS)と呼ばれる。
(3) Example of Acquired Data by PSG FIG. 4A is an example of brain wave, eye movement, and electrocardiogram data acquired by PSG. In PSG, sleep stage (sleep stage) with 30-second data as 1 unit (epoch)
(It may be determined in a 20-second section.) The Rechtschaffen & Kales classification is widely used for EEG depth classification. Sleep stages 1-4 are collectively referred to as NREM sleep.
The sleep stages 3 and 4 are collectively called slow wave sleep (SWS).

・覚醒(Stage W):8−12Hzのα波が50%以上を占める。急速な眼球運動がみ
られ、筋電図は相対的に高電位。
・睡眠段階1(Stage I):α波振幅低下、8−12Hzのα波が50%未満。低電位
でさまざまな周波数の脳波がみられる。緩徐な眼球運動がみられる(slow eye movements)。
・睡眠段階2(Stage II):脳波上、紡錘波(spindles)が中心、頭頂部に出現。K複合(Kcomplex)の出現。眼球運動はほとんど消失。
・睡眠段階3(Stage III):脳波上、2Hz以下で振幅が75μV以上のδ波が1epochの20−50%を占める。
・睡眠段階4(Stage IV):脳波上、2Hz以下で振幅が75μV以上のδ波が1epochの50%以上を占める。
・REM睡眠(Stage REM):比較的低電位でさまざまな周波数の脳波がみられる。覚
醒時より1−2Hz遅いα波が出現することもある。特徴的な急速眼球運動がみられ、筋電図は一夜を通して最も低電位。
-Awakening (Stage W): Alpha waves of 8-12 Hz account for 50% or more. Rapid eye movement was observed, and the electromyogram was relatively high potential.
-Sleep stage 1 (Stage I): α wave amplitude decrease, 8-12 Hz α wave is less than 50%. EEGs of various frequencies can be seen at low potential. Slow eye movements are observed.
・ Sleep stage 2 (Stage II): EEG, spindles (spindles) appear at the center and the top of the head. The emergence of Kcomplex. Eye movement almost disappeared.
Sleep stage 3 (Stage III): On the electroencephalogram, δ waves having an amplitude of 75 μV or more at 2 Hz or less occupy 20-50% of 1 epoch.
Sleep stage 4 (Stage IV): On the electroencephalogram, δ waves having an amplitude of 75 μV or more at 2 Hz or less occupy 50% or more of 1 epoch.
REM sleep (Stage REM): Electroencephalograms of various frequencies are seen at a relatively low potential. An alpha wave that is 1-2 Hz slower than the awakening may appear. Characteristic rapid eye movement is observed, and the electromyogram has the lowest potential throughout the night.

(4)睡眠状態および覚醒状態での心拍変動解析結果
図5は、睡眠状態および覚醒状態における心拍変動周波数解析結果を示す。本症例では、LFが覚醒状態において上昇した。また、覚醒状態で、交感神経活動を反映するLF/HFの上昇が認められた。また、睡眠状態で、副交感神経活動を反映するHFの上昇が認められた。
(4) Results of Heart Rate Variability Analysis in Sleep State and Awake State FIG. 5 shows the results of heart rate variability frequency analysis in the sleep state and the awake state. In this case, LF increased in the awake state. In the awake state, an increase in LF / HF reflecting sympathetic nerve activity was observed. In sleep state, an increase in HF reflecting parasympathetic activity was observed.

(5)マイクロスリープ状態および覚醒状態での心拍変動解析結果
本実験では、マイクロスリープ(microsleep)状態と覚醒状態での心拍変動解析も行った。図4(a)は睡眠段階1を示し、図4(b)はマイクロスリープ状態における脳波、眼球運動、心電図R−R間隔のデータを示すものである。マイクロスリープは、「Manual
of Standardized Terminology, Techniques and Scoring System for Sleep Stage of Human Subjects」、「Sleep Disorders Atlas Task Force of the American Sleep Disorders Association. EEG arousals: scoring rules and examples」、および、「Blaivas AJ, et al. Quantifying microsleep to help assess subjective sleepiness. Sleep Medicine 2007;8:156~159」に従い、1epochの3秒以上15秒未満の睡眠と定義した。
(5) Results of heart rate variability analysis in microsleep state and awake state In this experiment, heart rate variability analysis was also performed in the microsleep state and the awake state. FIG. 4 (a) shows sleep stage 1, and FIG. 4 (b) shows brain wave, eye movement, and electrocardiogram RR interval data in the micro sleep state. Micro sleep is `` Manual
of Standardized Terminology, Techniques and Scoring System for Sleep Stage of Human Subjects, Sleep Disorders Atlas Task Force of the American Sleep Disorders Association.EEG arousals: scoring rules and examples, and Blaivas AJ, et al. According to “help assess subjective sleepiness. Sleep Medicine 2007; 8: 156 ~ 159”, it was defined as sleep of 1 epoch for 3 seconds or more and less than 15 seconds.

図6に示すように、マイクロスリープ状態でも睡眠状態と同様に、覚醒状態と比較してLF/HF値が低値である。また、マイクロスリープ状態でもわずかであるがHFの上昇が認められる。   As shown in FIG. 6, the LF / HF value is lower in the micro sleep state than in the awake state, similarly to the sleep state. In addition, a slight increase in HF is observed even in the microsleep state.

(6)まばたき情報の解析
AntiSleepから得られたまぶた間隙(単位はメートル)から、まばたき時間(閉眼時刻
から開眼時刻までの時間)を計算した。そして、覚醒状態でのまばたき時間と入眠10秒前のまばたき時間を比較した。図7に示すように、まばたき時間は覚醒状態に比べて入眠10秒前に有意に延長した。
(6) Analysis of blink information
The blinking time (the time from the eye closing time to the eye opening time) was calculated from the eyelid gap (unit: meters) obtained from AntiSleep. Then, the blinking time in the awake state was compared with the blinking time 10 seconds before falling asleep. As shown in FIG. 7, the blinking time was significantly extended 10 seconds before falling asleep compared to the awake state.

(7)まばたき時間と心拍変動解析指標の統合
図8は、まばたき時間と心拍変動のHF成分(5分間値)の経時変化を示している。この症例では、入眠時期(390秒)に先行してまばたき時間の延長が認められ、その後HF値の上昇が認められた。また、他の症例においても、入眠時期(覚醒から睡眠への移行期)にまばたき時間の延長とHF値の上昇が認められ、まばたき時間の延長はHF値の上昇に先行した。本実験の結果を統合し、一般化したものが、図2のグラフである。
(7) Integration of blink time and heart rate variability analysis index FIG. 8 shows changes over time in the HF component (5-minute value) of the blink time and heart rate variability. In this case, an extension of the blinking time was observed prior to the sleep onset time (390 seconds), and then an increase in the HF value was observed. In other cases, an increase in the blink time and an increase in the HF value were observed at the time of sleep (the transition period from awakening to sleep), and the increase in the blink time preceded the increase in the HF value. The result of this experiment is integrated and generalized in the graph of FIG.

図1は、居眠り検知装置の構成を示すブロック図である。FIG. 1 is a block diagram illustrating a configuration of a dozing detection device. 図2は、運転者の状態と、まばたき時間および心拍変動のHF成分の変化との関係を、模式的に示すグラフである。FIG. 2 is a graph schematically showing the relationship between the driver's state and the blinking time and the change in the HF component of heart rate variability. 図3は、居眠り検知処理の流れを示すフローチャートである。FIG. 3 is a flowchart showing the flow of the dozing detection process. 図4は、PSGにより取得された脳波と眼球運動のデータの一例である。FIG. 4 is an example of electroencephalogram and eye movement data acquired by PSG. 図5は、睡眠状態および覚醒状態における心拍変動周波数解析結果を示す。FIG. 5 shows heart rate variability frequency analysis results in the sleep state and the awake state. 図6は、マイクロスリープ状態および覚醒状態における心拍変動周波数解析結果を示す。FIG. 6 shows heart rate variability frequency analysis results in the microsleep state and the awake state. 図7は、覚醒状態と入眠10秒前のまばたき時間の比較を示す。FIG. 7 shows a comparison between the awake state and the blinking time 10 seconds before falling asleep. 図8は、まばたき時間と心拍変動のHF成分(5分間値)の経時変化を示す。FIG. 8 shows temporal changes of the blinking time and the HF component (5-minute value) of heart rate variability.

符号の説明Explanation of symbols

1 居眠り検知装置
10 装置本体
11 CPU
12 記憶装置
13 カメラとのI/F
14 心拍センサとのI/F
15 警報装置
20 カメラ
30 心拍センサ
1 dozing detection device 10 device body 11 CPU
12 Storage device 13 I / F with camera
14 I / F with heart rate sensor
15 Alarm device 20 Camera 30 Heart rate sensor

Claims (3)

対象者のまばたき時間を計測する第1計測手段と、
前記対象者の心拍変動を計測する第2計測手段と、
まばたき時間の基準値である第1基準値、および、心拍変動のHF成分の基準値である第2基準値を記憶する記憶手段と、
前記第1計測手段で計測されるまばたき時間と前記第1基準値との比較によって、前記対象者のまばたき時間の延長を監視する第1監視手段と、
前記第2計測手段で計測される心拍変動のHF成分と前記第2基準値との比較によって、前記対象者の心拍変動のHF成分の上昇を監視する第2監視手段と、
まばたき時間の延長が現れている間に心拍変動のHF成分の上昇の開始が認められた場合に、入眠予兆と判定する判定手段と、
を備えることを特徴とする居眠り検知装置。
First measuring means for measuring a subject's blink time;
Second measuring means for measuring heart rate variability of the subject;
Storage means for storing a first reference value that is a reference value for blinking time and a second reference value that is a reference value for the HF component of heart rate variability;
First monitoring means for monitoring an extension of the blink time of the subject by comparing the blink time measured by the first measurement means with the first reference value;
Second monitoring means for monitoring an increase in the HF component of the subject's heart rate variability by comparing the HF component of heart rate variability measured by the second measuring means with the second reference value;
A determination means for determining a sleep onset symptom when an increase in the HF component of the heart rate variability is recognized while an extension of the blinking time appears;
A dozing detection device comprising:
前記第1基準値が、前記第1計測手段で計測された前記対象者のまばたき時間の計測値に応じて更新される
ことを特徴とする請求項1に記載の居眠り検知装置。
The dozing detection apparatus according to claim 1, wherein the first reference value is updated according to a measurement value of the blink time of the subject measured by the first measurement unit.
前記第2基準値が、前記第2計測手段で計測された前記対象者の心拍変動の計測値に応じて更新される
ことを特徴とする請求項1または2に記載の居眠り検知装置。
The dozing detection apparatus according to claim 1 or 2, wherein the second reference value is updated in accordance with a measured value of heartbeat variability of the subject measured by the second measuring unit.
JP2007184377A 2007-07-13 2007-07-13 Dozing detection device Expired - Fee Related JP5007975B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007184377A JP5007975B2 (en) 2007-07-13 2007-07-13 Dozing detection device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007184377A JP5007975B2 (en) 2007-07-13 2007-07-13 Dozing detection device

Publications (2)

Publication Number Publication Date
JP2009018091A true JP2009018091A (en) 2009-01-29
JP5007975B2 JP5007975B2 (en) 2012-08-22

Family

ID=40358240

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007184377A Expired - Fee Related JP5007975B2 (en) 2007-07-13 2007-07-13 Dozing detection device

Country Status (1)

Country Link
JP (1) JP5007975B2 (en)

Cited By (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010155072A (en) * 2008-12-01 2010-07-15 Fujitsu Ltd Awakening degree decision apparatus and method
WO2011099600A1 (en) * 2010-02-15 2011-08-18 国立大学法人九州大学 Peak frequency measurement system for subject-state analyzing signal
JP2012203551A (en) * 2011-03-24 2012-10-22 Komatsu Ltd Dozing prevention system and dump truck
JPWO2011118393A1 (en) * 2010-03-23 2013-07-04 アイシン精機株式会社 Awakening level determination device, awakening level determination method, and program
CN105764735A (en) * 2013-10-29 2016-07-13 金在哲 Two-step sleepy driving prevention apparatus through recognizing operation, front face, eye, and mouth shape
JP2016137138A (en) * 2015-01-28 2016-08-04 日本電信電話株式会社 Information processing ability estimation apparatus, method, and program
JP2017158841A (en) * 2016-03-10 2017-09-14 住友重機械工業株式会社 Working machine
JP2018019882A (en) * 2016-08-03 2018-02-08 オムロンオートモーティブエレクトロニクス株式会社 Vital sign detection device
JP2018057449A (en) * 2016-09-30 2018-04-12 東芝情報システム株式会社 Drowsiness estimation device and drowsiness estimation program
JP2018057450A (en) * 2016-09-30 2018-04-12 東芝情報システム株式会社 Drowsiness estimation device and drowsiness estimation program
KR101932147B1 (en) * 2017-03-06 2018-12-26 계명대학교 산학협력단 sleepiness diagnostic method and apparatus using signal of electrocardiogram for driver
WO2020157989A1 (en) * 2019-02-01 2020-08-06 日本電気株式会社 Alertness estimation device, alertness estimation method, and computer readable recording medium
WO2021111648A1 (en) * 2019-12-06 2021-06-10 パナソニックIpマネジメント株式会社 Control method, air conditioner, and program
WO2023105970A1 (en) * 2021-12-10 2023-06-15 パナソニックIpマネジメント株式会社 Estimation device, estimation method, and program

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05184558A (en) * 1992-01-17 1993-07-27 Mitsubishi Motors Corp Device for detecting abnormality of driver
JPH05330360A (en) * 1992-06-02 1993-12-14 Toyota Motor Corp Doze preventer for vehicle
JPH07228171A (en) * 1994-02-21 1995-08-29 Isuzu Motors Ltd Doze warning device
JPH0939603A (en) * 1995-07-31 1997-02-10 Toyota Motor Corp Dozing judgement device
JPH11197127A (en) * 1998-01-16 1999-07-27 Nippon Soken Inc Biological signal detection sensor
JP2002279410A (en) * 2001-03-22 2002-09-27 Nissan Motor Co Ltd Detector for dozing
WO2003049967A1 (en) * 2001-12-12 2003-06-19 Deutsche Telekom Ag Method and device for identifying the drowsiness of drivers of moving objects
WO2004089209A1 (en) * 2003-04-03 2004-10-21 Pioneer Corporation Living body information detecting device, contact member used therefor, and living body information detecting member-use paint
JP2006158733A (en) * 2004-12-08 2006-06-22 Toyota Motor Corp Arousal judgment apparatus and arousal judgment method

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05184558A (en) * 1992-01-17 1993-07-27 Mitsubishi Motors Corp Device for detecting abnormality of driver
JPH05330360A (en) * 1992-06-02 1993-12-14 Toyota Motor Corp Doze preventer for vehicle
JPH07228171A (en) * 1994-02-21 1995-08-29 Isuzu Motors Ltd Doze warning device
JPH0939603A (en) * 1995-07-31 1997-02-10 Toyota Motor Corp Dozing judgement device
JPH11197127A (en) * 1998-01-16 1999-07-27 Nippon Soken Inc Biological signal detection sensor
JP2002279410A (en) * 2001-03-22 2002-09-27 Nissan Motor Co Ltd Detector for dozing
WO2003049967A1 (en) * 2001-12-12 2003-06-19 Deutsche Telekom Ag Method and device for identifying the drowsiness of drivers of moving objects
WO2004089209A1 (en) * 2003-04-03 2004-10-21 Pioneer Corporation Living body information detecting device, contact member used therefor, and living body information detecting member-use paint
JP2006158733A (en) * 2004-12-08 2006-06-22 Toyota Motor Corp Arousal judgment apparatus and arousal judgment method

Cited By (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010155072A (en) * 2008-12-01 2010-07-15 Fujitsu Ltd Awakening degree decision apparatus and method
WO2011099600A1 (en) * 2010-02-15 2011-08-18 国立大学法人九州大学 Peak frequency measurement system for subject-state analyzing signal
JP5709017B2 (en) * 2010-02-15 2015-04-30 国立大学法人九州大学 Signal frequency measurement system for subject condition analysis
US9186079B2 (en) 2010-02-15 2015-11-17 Kyushu University, National University Corporation System for measuring a peak frequency of a signal for analyzing condition of a subject
JPWO2011118393A1 (en) * 2010-03-23 2013-07-04 アイシン精機株式会社 Awakening level determination device, awakening level determination method, and program
JP5585648B2 (en) * 2010-03-23 2014-09-10 アイシン精機株式会社 Awakening level determination device, awakening level determination method, and program
JP2012203551A (en) * 2011-03-24 2012-10-22 Komatsu Ltd Dozing prevention system and dump truck
JP2016539446A (en) * 2013-10-29 2016-12-15 キム,ジェ−チョル A device for preventing doze driving in two stages through recognition of movement, face, eyes and mouth shape
CN105764735A (en) * 2013-10-29 2016-07-13 金在哲 Two-step sleepy driving prevention apparatus through recognizing operation, front face, eye, and mouth shape
JP2016137138A (en) * 2015-01-28 2016-08-04 日本電信電話株式会社 Information processing ability estimation apparatus, method, and program
JP2017158841A (en) * 2016-03-10 2017-09-14 住友重機械工業株式会社 Working machine
JP2018019882A (en) * 2016-08-03 2018-02-08 オムロンオートモーティブエレクトロニクス株式会社 Vital sign detection device
JP2018057449A (en) * 2016-09-30 2018-04-12 東芝情報システム株式会社 Drowsiness estimation device and drowsiness estimation program
JP2018057450A (en) * 2016-09-30 2018-04-12 東芝情報システム株式会社 Drowsiness estimation device and drowsiness estimation program
KR101932147B1 (en) * 2017-03-06 2018-12-26 계명대학교 산학협력단 sleepiness diagnostic method and apparatus using signal of electrocardiogram for driver
WO2020157989A1 (en) * 2019-02-01 2020-08-06 日本電気株式会社 Alertness estimation device, alertness estimation method, and computer readable recording medium
WO2021111648A1 (en) * 2019-12-06 2021-06-10 パナソニックIpマネジメント株式会社 Control method, air conditioner, and program
EP4071419A4 (en) * 2019-12-06 2023-01-11 Panasonic Intellectual Property Management Co., Ltd. Control method, air conditioner, and program
WO2023105970A1 (en) * 2021-12-10 2023-06-15 パナソニックIpマネジメント株式会社 Estimation device, estimation method, and program

Also Published As

Publication number Publication date
JP5007975B2 (en) 2012-08-22

Similar Documents

Publication Publication Date Title
JP5007975B2 (en) Dozing detection device
JP4697185B2 (en) Arousal level determination device and arousal level determination method
JP6757532B2 (en) Sleep stage determination device, sleep stage determination method, sleep stage determination program
Solaz et al. Drowsiness detection based on the analysis of breathing rate obtained from real-time image recognition
US8570176B2 (en) Method and device for the detection of microsleep events
JP5209545B2 (en) Biopsy device, program, and recording medium
JP4867215B2 (en) Physiological / psychological state determination device, physiological / psychological state determination method, reference data generation device, and reference data generation method.
KR102334613B1 (en) Method for assessing depressive state and device for assessing depressive state
Wörle et al. Detecting sleep in drivers during highly automated driving: The potential of physiological parameters
Tateno et al. Development of drowsiness detection system based on respiration changes using heart rate monitoring
JP2010128649A (en) Awakening state determining device and awakening state determining method
JPWO2013035704A1 (en) Dozing detection method and device
Rodríguez-Ibáñez et al. Drowsiness detection by thoracic effort signal analysis in real driving environments
Miyaji Method of drowsy state detection for driver monitoring function
KR20160078020A (en) Apparatus and Method for determining condition of driver based on a signal of heartbeat
JP2009022370A (en) Human condition estimation system
US10596963B2 (en) Fatigue alarm apparatus and method
JP2001245871A (en) Doze judging device using saturation percentage of oxygen in artery blood in judging doze
JPH10272960A (en) Awake degree estimating device
Watson et al. Microsleep prediction using an EKG capable heart rate monitor
JP6836265B2 (en) Biological condition estimation device, biological condition estimation method, computer program and recording medium
Noda et al. Simultaneous measurement of heart rate variability and blinking duration to predict sleep onset and drowsiness in drivers
JP2005312868A (en) Vigilance measuring method using blink
KR101034886B1 (en) System and method for determining drowsy state using alteration in period of heart rate variability
Sakai et al. Slow eye movement as a possible predictor of reaction delays to auditory warning alarms in a drowsy state

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20100712

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100713

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20100712

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20100713

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120215

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120424

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120521

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150608

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313117

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees