JP7376389B2 - Vehicle control system - Google Patents

Vehicle control system Download PDF

Info

Publication number
JP7376389B2
JP7376389B2 JP2020032690A JP2020032690A JP7376389B2 JP 7376389 B2 JP7376389 B2 JP 7376389B2 JP 2020032690 A JP2020032690 A JP 2020032690A JP 2020032690 A JP2020032690 A JP 2020032690A JP 7376389 B2 JP7376389 B2 JP 7376389B2
Authority
JP
Japan
Prior art keywords
detector
biological information
occupant
vehicle
information detected
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020032690A
Other languages
Japanese (ja)
Other versions
JP2021132998A (en
Inventor
能英瑠 佐藤
武史 鳥居
瑠一 澄川
明子 杉山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Subaru Corp
Original Assignee
Subaru Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Subaru Corp filed Critical Subaru Corp
Priority to JP2020032690A priority Critical patent/JP7376389B2/en
Publication of JP2021132998A publication Critical patent/JP2021132998A/en
Application granted granted Critical
Publication of JP7376389B2 publication Critical patent/JP7376389B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、車両用制御システムに関する。 The present invention relates to a vehicle control system.

従来、車両の運転操作を行うドライバの心拍や呼吸、体温等の生体情報を計測する技術が種々提案されている。ドライバの生体情報を計測するにあたり、ウェアラブル機器に代表されるようなドライバの人体に装着される接触式の検出器を用いて計測することが考えられる。例えば、特許文献1には、ユーザに装着されるウェアラブルデバイスを用いてユーザの生体情報を計測し、車両における所定の制御に利用する技術が開示されている。 Conventionally, various techniques have been proposed for measuring biological information such as heartbeat, respiration, and body temperature of a driver who operates a vehicle. When measuring a driver's biological information, it is conceivable to measure it using a contact-type detector worn on the driver's body, such as a wearable device. For example, Patent Document 1 discloses a technology that measures a user's biological information using a wearable device worn by the user and utilizes it for predetermined control in a vehicle.

しかしながら、常時ウェアラブルデバイスを用いる場合には、ウェアラブルデバイスの電力が消費されて利用時間に制限がある。また、人体装着型の検出器では、ドライバが装着作業の煩わしさや、装着中の煩わしさを感じるおそれがあるため、車両に設けられた検出器を用いることが望ましい。例えば、特許文献2には、運転席のシートの背凭れ部に内蔵された非接触電波式の脈拍センサを用いてドライバの脈拍を検出する技術や車内カメラを用いてドライバの体温を検出する技術が開示されている。また、特許文献3には、電波式の無変調ドップラーセンサを用いてドライバの心拍を検出する技術が開示されている。また、特許文献4には、車内カメラを用いて脈波に対応した顔色の変化を抽出する技術が開示されている。 However, when using a wearable device all the time, the power of the wearable device is consumed and the usage time is limited. In addition, in the case of a human body-worn type detector, there is a risk that the driver may find it troublesome to wear the sensor or feel troublesome while wearing the sensor, so it is desirable to use a detector installed in the vehicle. For example, Patent Document 2 describes a technology that detects the driver's pulse using a non-contact radio pulse sensor built into the backrest of the driver's seat, and a technology that uses an in-vehicle camera to detect the driver's body temperature. is disclosed. Further, Patent Document 3 discloses a technique for detecting a driver's heartbeat using a radio wave-type non-modulated Doppler sensor. Additionally, Patent Document 4 discloses a technique for extracting changes in facial color corresponding to pulse waves using an in-vehicle camera.

特開2017-131445号公報Japanese Patent Application Publication No. 2017-131445 特開2018-019882号公報JP2018-019882A 特開2010-120493号公報Japanese Patent Application Publication No. 2010-120493 特開2018-127112号公報Japanese Patent Application Publication No. 2018-127112

しかしながら、車両に設けられる検出器は、車両の走行状態や車室内の光環境等の要因に起因して検出精度が低下するおそれがある。生体情報の検出精度が低下した場合、当該生体情報を用いて行われる制御の精度が低下する。また、車両に設けられる検出器による生体情報の検出精度が低下した場合に、当該生体情報を用いた制御の実行を停止することも考えられるが、そのような制御の実行の停止が頻繁に生じた場合には、生体情報が有効に活用されないことになる。 However, the detection accuracy of a detector installed in a vehicle may be reduced due to factors such as the driving condition of the vehicle and the light environment inside the vehicle. When the detection accuracy of biological information decreases, the accuracy of control performed using the biological information decreases. Additionally, if the detection accuracy of biometric information by a detector installed in a vehicle decreases, it is possible to stop the execution of control using the biometric information, but such control often stops. If this happens, biometric information will not be used effectively.

本発明は、上記問題に鑑みてなされたものであり、本発明の目的とするところは、車両に設けられた検出器により検出される生体情報の検出精度に応じて乗員に装着される検出器により検出される生体情報を有効利用することにより、乗員に装着される検出器の電力消費を抑制しつつ生体情報を活用した制御を実行可能な車両用制御システムを提供することにある。 The present invention has been made in view of the above-mentioned problems, and an object of the present invention is to provide a detector mounted on an occupant according to the detection accuracy of biological information detected by a detector installed in a vehicle. An object of the present invention is to provide a vehicle control system that can perform control utilizing biological information while suppressing power consumption of a detector attached to an occupant by effectively utilizing biological information detected by the vehicle occupant.

上記課題を解決するために、本発明のある観点によれば、車両に設けられて車両の乗員の生体情報を検出する第1の検出器と、乗員に装着されて乗員の生体情報を検出する第2の検出器と、第1の検出器による生体情報の検出精度を推定する推定部と、生体情報に基づいて所定の制御処理を実行する制御部と、を備え、制御部は、第1の検出器による検出精度が高いと推定される場合に第2の検出器の検出機能を停止させて第1の検出器により検出される生体情報を用いて所定の制御処理を実行し、第の検出器による検出精度が低いと推定される場合に第2の検出器により検出される生体情報を用いて所定の制御処理を実行し、第2の検出器の検出機能を停止させている間に第1の検出器により検出される生体情報を第2の検出器に共有させる車両用制御システムが提供される。 In order to solve the above problems, according to one aspect of the present invention, a first detector is provided in a vehicle to detect biometric information of an occupant of the vehicle, and a first detector is attached to the occupant to detect biometric information of the occupant. The controller includes a second detector, an estimation unit that estimates detection accuracy of biological information by the first detector, and a control unit that executes a predetermined control process based on the biological information. When the detection accuracy of the second detector is estimated to be high, the detection function of the second detector is stopped and a predetermined control process is executed using the biological information detected by the first detector, and the first When the detection accuracy of the second detector is estimated to be low, a predetermined control process is executed using the biological information detected by the second detector , and the detection function of the second detector is stopped. A vehicle control system is provided that allows a second detector to share biological information detected by a first detector .

また、制御部は、第1の検出器による検出精度が高いと推定される場合に、第2の検出器による検出機能を停止させ、第1の検出器による検出精度が低いと推定される場合に、第2の検出器による検出機能を起動させてもよい。 The control unit also stops the detection function of the second detector when the detection accuracy of the first detector is estimated to be high, and stops the detection function of the second detector when the detection accuracy of the first detector is estimated to be low. Additionally, the detection function of the second detector may be activated.

また、制御部は、第2の検出器の検出機能を起動させた状態で第2の検出器により検出される生体情報に基づいて第1の検出器により検出される生体情報を補正してもよい。 The control unit may also correct the biological information detected by the first detector based on the biological information detected by the second detector while the detection function of the second detector is activated. good.

また、制御部は、第1の検出器による検出精度が低いと推定される場合に、第2の検出器により検出される生体情報に基づいて第1の検出器により検出される生体情報を補正してもよい。 In addition, when the detection accuracy of the first detector is estimated to be low, the control unit corrects the biological information detected by the first detector based on the biological information detected by the second detector. You may.

また、制御部は、第1の検出器による検出精度が低いほど、第2の検出器により検出される生体情報に基づいて第1の検出器により検出される生体情報を補正する際の補正係数を大きくしてもよい。 In addition, the control unit adjusts the correction coefficient when correcting the biological information detected by the first detector based on the biological information detected by the second detector, as the detection accuracy by the first detector is lower. may be made larger.

また、制御部は、第1の検出器による検出精度と、第2の検出器により検出される生体情報に基づいて第1の検出器により検出される生体情報を補正する際の補正係数と、の相関関係を算出し、相関関係を算出した後、第2の検出器による検出機能を停止させ、相関関係に基づいて第1の検出器により検出される生体情報を補正してもよい。 The control unit also includes a correction coefficient for correcting the biological information detected by the first detector based on the detection accuracy by the first detector and the biological information detected by the second detector; After calculating the correlation, the detection function of the second detector may be stopped, and the biological information detected by the first detector may be corrected based on the correlation.

また、第1の検出器は、乗員を撮影するカメラ、乗員の着座状態での座圧分布を計測する圧力計測器、乗員の心拍を検出するためのマイクロ波センサ、ステアリングホイールに埋設されて乗員の心拍又は心電図を計測する電極組、シートベルトの位置の変化を検出する変位センサ、乗員の位置を検出するためのTOFセンサ、又は、乗員の体温を検出するためのサーモグラフィのうちの少なくとも一つを含んでもよい。 In addition, the first detector includes a camera that photographs the occupant, a pressure measuring device that measures the sitting pressure distribution when the occupant is seated, a microwave sensor that detects the occupant's heartbeat, and a sensor embedded in the steering wheel that measures the occupant's seat pressure. at least one of an electrode set for measuring the heartbeat or electrocardiogram of the passenger, a displacement sensor for detecting changes in the position of the seat belt, a TOF sensor for detecting the passenger's position, or a thermography for detecting the passenger's body temperature. May include.

また、第2の検出器は、内蔵されたバッテリの充電電力により作動するウェアラブル機器であってもよい。 Furthermore, the second detector may be a wearable device that is operated by charging power of a built-in battery.

以上説明したように本発明によれば、車両に設けられた検出器により検出される生体情報の検出精度に応じて乗員に装着される検出器により検出される生体情報を有効利用することにより、乗員に装着される検出器の電力消費を抑制しつつ生体情報を活用した制御を実行することができる。 As explained above, according to the present invention, by effectively utilizing the biological information detected by the detector mounted on the occupant according to the detection accuracy of the biological information detected by the detector installed in the vehicle, It is possible to perform control utilizing biological information while suppressing power consumption of a detector attached to an occupant.

本発明の第1の実施の形態に係る車両用制御システムの概略構成の一例を示すブロック図である。1 is a block diagram showing an example of a schematic configuration of a vehicle control system according to a first embodiment of the present invention. 生体情報の検出精度の推定方法の一例を示す説明図である。FIG. 2 is an explanatory diagram illustrating an example of a method for estimating detection accuracy of biological information. 同実施形態に係る車両用制御システムの制御装置により実行される制御の一例を示すフローチャートである。It is a flow chart which shows an example of control performed by a control device of a control system for vehicles concerning the same embodiment. 同実施形態に係る車両用制御システムの制御装置により実行される制御の別の例を示すフローチャートである。It is a flow chart which shows another example of control performed by a control device of a control system for vehicles concerning the same embodiment.

以下、添付図面を参照しながら、本発明の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。 Hereinafter, preferred embodiments of the present invention will be described in detail with reference to the accompanying drawings. Note that, in this specification and the drawings, components having substantially the same functional configurations are designated by the same reference numerals and redundant explanation will be omitted.

<1.車両用制御システムの構成例>
まず、本発明の実施の形態に係る車両用制御システムの構成例を説明する。図1は、本実施形態に係る車両用制御システム10の構成例を示すブロック図である。本実施形態においては、乗員の生体情報として心拍を検出し、検出した心拍に基づいて所定の制御を実行する例を説明する。
<1. Configuration example of vehicle control system>
First, a configuration example of a vehicle control system according to an embodiment of the present invention will be described. FIG. 1 is a block diagram showing a configuration example of a vehicle control system 10 according to the present embodiment. In this embodiment, an example will be described in which a heartbeat is detected as the occupant's biological information and a predetermined control is executed based on the detected heartbeat.

車両用制御システム10は、第1の検出器としての乗員カメラ41、第2の検出器としてのウェアラブル機器20及び制御装置50を備えている。制御装置50は、例えば、CPU(Central Processing Unit)又はMPU(Micro Processing Unit)等の演算処理装置や、RAM(Random Access Memory)やROM(Read Only Memory)等の記憶素子を備えて構成される。制御装置50の一部又は全部は、ファームウェア等の更新可能なもので構成されてもよく、また、CPU等からの指令によって実行されるプログラムモジュール等であってもよい。 The vehicle control system 10 includes an occupant camera 41 as a first detector, a wearable device 20 as a second detector, and a control device 50. The control device 50 includes, for example, an arithmetic processing unit such as a CPU (Central Processing Unit) or an MPU (Micro Processing Unit), and a storage element such as a RAM (Random Access Memory) or a ROM (Read Only Memory). . Part or all of the control device 50 may be configured with something that can be updated, such as firmware, or may be a program module or the like executed by a command from a CPU or the like.

第1の検出器としての乗員カメラ41は、直接的に、又は、CAN(Controller Area Network)やLIN(Local Inter-Net)等の通信ラインを介して制御装置50と接続されている。乗員カメラ41は、車室内に設置されて乗員の生体情報を検出するために用いられる第1の検出器の一態様である。本実施形態において、乗員カメラ41は、乗員の人体に直接接触しない非接触式の検出器であり、少なくともドライバの顔を撮影できるように設置される。乗員カメラ41は、CCD(Charge Coupled Device)又はCMOS(Complementary Metal Oxide Semiconductor)等の撮像素子を備え、乗員カメラ41により取得された撮像情報は制御装置50に送信される。制御装置50は、乗員カメラ41の撮像情報に基づいて検出される顔の色情報の変化に基づいて、乗員の心拍を検出する。 The occupant camera 41 as a first detector is connected to the control device 50 directly or via a communication line such as a CAN (Controller Area Network) or a LIN (Local Inter-Net). The occupant camera 41 is one aspect of a first detector installed in the vehicle interior and used to detect biological information of the occupant. In this embodiment, the passenger camera 41 is a non-contact type detector that does not come into direct contact with the human body of the passenger, and is installed so as to be able to photograph at least the driver's face. The occupant camera 41 includes an imaging device such as a CCD (Charge Coupled Device) or a CMOS (Complementary Metal Oxide Semiconductor), and the imaging information acquired by the occupant camera 41 is transmitted to the control device 50. The control device 50 detects the passenger's heartbeat based on changes in facial color information detected based on imaging information from the passenger camera 41.

なお、車両に設けられる第1の検出器は、乗員の心拍を検出するための乗員カメラ41に限られるものではない。例えば、乗員カメラ41は、乗員の体温を検出するために用いられてもよい。また、第1の検出器は、乗員の心拍を検出するための電波(マイクロ波)式のドップラーセンサであってもよく、乗員の脈拍を検出するための非接触式の脈拍センサであってもよい。また、第1の検出器は、乗員の心拍又は心電図を計測するためにステアリングホイールに埋設された電極組であってもよい。また、第1の検出器は、乗員が運転席に着座している着座状態での座圧分布を計測するために運転席のシートに埋設された圧力計測器であってもよい。また、第1の検出器は、乗員の心拍又は呼吸を計測するためにシートベルトの位置の変化を検出する変位センサであってもよい。また、第1の検出器は、乗員の位置(生体位置)の情報を検出するためのTOF(Time of Flight)センサであってもよい。また、第1の検出器は、乗員の皮膚の表面温度を計測するためのサーモグラフィであってもよい。 Note that the first detector provided in the vehicle is not limited to the occupant camera 41 for detecting the heartbeat of the occupant. For example, the occupant camera 41 may be used to detect the occupant's body temperature. Further, the first detector may be a radio wave (microwave) type Doppler sensor for detecting the passenger's heartbeat, or a non-contact type pulse sensor for detecting the passenger's pulse. good. Further, the first detector may be an electrode set embedded in the steering wheel to measure the heartbeat or electrocardiogram of the occupant. Further, the first detector may be a pressure measuring device embedded in the seat of the driver's seat in order to measure the distribution of sitting pressure when the occupant is seated in the driver's seat. Furthermore, the first detector may be a displacement sensor that detects changes in the position of the seat belt in order to measure the heartbeat or respiration of the occupant. Further, the first detector may be a TOF (Time of Flight) sensor for detecting information on the position of the occupant (biological position). Further, the first detector may be a thermograph for measuring the surface temperature of the skin of the occupant.

乗員に装着される第2の検出器としてのウェアラブル機器20は、有線又は無線の通信手段を介して制御装置50と接続されている。ウェアラブル機器20は、乗員に装着されて乗員の生体情報を検出するために用いられる接触式の第2の検出器の一態様である。例えば、ウェアラブル機器20は、乗員の手首や腕等に装着されて乗員の心拍を計測する機能を有する。ウェアラブル機器20により検出される生体情報は、少なくとも乗員カメラ41により検出される生体情報と同一の生体情報を含む。ウェアラブル機器20により検出された生体情報は、制御装置50に送信できるように構成されている。また、ウェアラブル機器20の機能のうちの少なくとも心拍を検出する機能は、制御装置50からの遠隔操作により起動又は停止を切換えできるように構成されている。 Wearable device 20, which serves as a second detector worn by the occupant, is connected to control device 50 via wired or wireless communication means. The wearable device 20 is one embodiment of a contact-type second detector that is worn on an occupant and used to detect biological information of the occupant. For example, the wearable device 20 has a function of being worn on the passenger's wrist, arm, or the like and measuring the passenger's heartbeat. The biometric information detected by the wearable device 20 includes at least the same biometric information as the biometric information detected by the occupant camera 41. The biometric information detected by the wearable device 20 is configured to be transmitted to the control device 50. Furthermore, at least the function of detecting heartbeat among the functions of the wearable device 20 is configured to be activated or deactivated by remote control from the control device 50.

なお、車両に設けられる第1の検出器とは、ドライバ等の車両の乗員に装着されるものではなく、車両に設置されて乗員の生体情報を検出するセンサ機器であって、生体情報を検出されていることの体感性が低いセンサ機器である。第1の検出器は、例えば車両の電源から電力供給を受けて作動する。また、乗員に装着される第2の検出器とは、ドライバ等の車両の乗員に装着されて乗員の生体情報を検出するセンサ機器であって、腕時計型、あるいは、頭部又は腕部装着型のデバイスが例示される。第2の検出器は、内蔵されたバッテリの充電電力により作動する。 Note that the first detector installed in the vehicle is not attached to a vehicle occupant such as a driver, but is a sensor device installed in the vehicle to detect the occupant's biological information. It is a sensor device with a low sense of what is happening. The first detector operates by receiving power from the vehicle's power source, for example. In addition, the second detector worn on the occupant is a sensor device that is attached to the occupant of the vehicle such as the driver to detect the occupant's biological information, and is a wristwatch type or a head or arm type sensor device. The following devices are exemplified. The second detector is operated by charging power from a built-in battery.

本実施形態において、制御装置50は、通信部51、演算処理装置53及び記憶部55を備えている。通信部51は、ウェアラブル機器20と制御装置50との間で信号を送受信するためのインタフェースの機能を有する。例えば、通信部51は、Blutooth(登録商標)、NFC(Near Field Communication)、wifi(wireless fidelity)、無線LAN(Local Area Network)等の無線通信手段を介して、ウェアラブル機器20と通信できるように構成されている。 In this embodiment, the control device 50 includes a communication section 51, an arithmetic processing device 53, and a storage section 55. The communication unit 51 has an interface function for transmitting and receiving signals between the wearable device 20 and the control device 50. For example, the communication unit 51 can communicate with the wearable device 20 via wireless communication means such as Bluetooth (registered trademark), NFC (Near Field Communication), WiFi (wireless fidelity), and wireless LAN (Local Area Network). It is configured.

演算処理装置53は、上述のとおり少なくとも一つのCPU又はMPUにより構成され、記憶部55に記憶されたプログラムを実行することにより、種々の演算処理を実行する。記憶部55は、RAMやROM等の記憶素子の他、あるいは、記憶素子に代えて、HDD(Hard Disk Drive)やCD(Compact Disc)、DVD(Digital Versatile Disc)、SSD(Solid State Drive)、USB(Universal Serial Bus)フラッシュ、ストレージ装置等の記憶媒体を備えていてもよい。 The arithmetic processing unit 53 is configured of at least one CPU or MPU as described above, and executes various arithmetic processes by executing programs stored in the storage unit 55. In addition to or instead of a memory element such as a RAM or ROM, the memory unit 55 includes a HDD (Hard Disk Drive), a CD (Compact Disc), a DVD (Digital Versatile Disc), an SSD (Solid State Drive), It may also include a storage medium such as a USB (Universal Serial Bus) flash or a storage device.

制御装置50は、直接的に、又は、CAN(Controller Area Network)やLIN(Local Inter-Net)等の通信ラインを介して、光センサ43及び加速度センサ45と接続されている。 The control device 50 is connected to the optical sensor 43 and the acceleration sensor 45 directly or via a communication line such as a CAN (Controller Area Network) or a LIN (Local Inter-Net).

光センサ43は、車室内に設置されて車内の明暗に関連する指標値を計測するために用いられる。特に、本実施形態において、光センサ43は、運転席のドライバの顔の周囲の明暗を計測できるように設置される。明暗の指標値は、例えば明度、輝度又は照度のいずれかであってよい。光センサ43の種類は特に限定されるものではなく、公知の光センサを適宜用いることができる。光センサ43のセンサ信号は制御装置50に送信される。制御装置50は、光センサ43のセンサ信号に基づいて、乗員の心拍の検出精度を推定する。 The optical sensor 43 is installed inside the vehicle interior and is used to measure an index value related to the brightness and darkness inside the vehicle. In particular, in this embodiment, the optical sensor 43 is installed so as to be able to measure the brightness and darkness around the driver's face in the driver's seat. The index value of brightness may be, for example, brightness, brightness, or illuminance. The type of optical sensor 43 is not particularly limited, and any known optical sensor can be used as appropriate. A sensor signal from the optical sensor 43 is transmitted to the control device 50 . The control device 50 estimates the detection accuracy of the passenger's heartbeat based on the sensor signal from the optical sensor 43.

加速度センサ45は、車両に設けられて車両の振動を計測するために用いられる。加速度センサ45は、車両の駆動制御に用いるために設けられる加速度センサであってもよい。加速度センサ45のセンサ信号は制御装置50に送信される。制御装置50は、加速度センサ45のセンサ信号に基づいて、車両の振動を検出する。なお、他の制御装置が加速度センサのセンサ信号に基づいて車両の振動を検出する場合、制御装置50は、当該他の制御装置から車両の振動の情報を取得してもよい。 The acceleration sensor 45 is provided in a vehicle and used to measure vibrations of the vehicle. The acceleration sensor 45 may be an acceleration sensor provided for use in drive control of the vehicle. A sensor signal from acceleration sensor 45 is transmitted to control device 50 . Control device 50 detects vibrations of the vehicle based on a sensor signal from acceleration sensor 45. Note that when another control device detects vehicle vibration based on a sensor signal of an acceleration sensor, the control device 50 may acquire information on vehicle vibration from the other control device.

また、制御装置50は、直接的に、又は、CANやLIN等の通信ラインを介して、入力部31、表示部33及び車両駆動制御装置37と接続されている。入力部31は、制御装置50に対するユーザ(例えば乗員)の操作入力を受け付ける。入力部31は、例えばタッチパネル式のディスプレイであってもよく、ダイヤル式の操作機器であってもよい。 Further, the control device 50 is connected to the input section 31, the display section 33, and the vehicle drive control device 37 directly or via a communication line such as CAN or LIN. The input unit 31 receives operation input from a user (for example, a passenger) to the control device 50 . The input unit 31 may be, for example, a touch panel display or a dial operation device.

表示部33は、例えば、ダッシュボードに備えられる表示パネルや、フロントウィンドウに投影するHUD(Head Up Display)であり、乗員が視認できるように情報を提示する。表示部33は、インストルメントパネル内のメータ表示機器であってもよく、ナビゲーションシステムの表示装置であってもよく、種々の情報を提示するマルチファンクションディスプレイであってもよい。ただし、表示部33は、上記の表示パネルやHUDに限られない。また、表示部33が入力部31と一体化されていてもよい。 The display unit 33 is, for example, a display panel provided on a dashboard or a HUD (Head Up Display) projected onto a front window, and presents information so that the occupant can view it. The display unit 33 may be a meter display device in an instrument panel, a display device of a navigation system, or a multi-function display that presents various information. However, the display section 33 is not limited to the above-described display panel or HUD. Further, the display section 33 may be integrated with the input section 31.

車両駆動制御装置37は、車両の駆動制御を実行する制御部であり、図示しないエンジンや、一つ又は複数の駆動用モータ、ステアリングシステム、ブレーキシステム等の駆動を制御する一つ又は複数の制御装置により構成される。車両駆動制御装置37は、基本的には、乗員の運転操作に基づいて、車両の駆動制御を実行する。また、車両駆動制御装置37は、本実施形態に係る制御装置50からの指令に基づいて、車両を緊急停止させる制御を実行する。 The vehicle drive control device 37 is a control unit that executes drive control of the vehicle, and includes one or more controls that control the drive of an engine (not shown), one or more drive motors, a steering system, a brake system, etc. Consists of devices. The vehicle drive control device 37 basically executes drive control of the vehicle based on the driving operation of the occupant. Further, the vehicle drive control device 37 executes control to emergency stop the vehicle based on a command from the control device 50 according to the present embodiment.

演算処理装置53は、検出部61、推定部63及び制御部65を備えている。制御部65は、緊急停止制御部67及び警告制御部69を含む。演算処理装置53のこれらの各部は、具体的には、演算処理装置53によるプログラムの実行により実現される機能である。 The arithmetic processing device 53 includes a detection section 61, an estimation section 63, and a control section 65. The control section 65 includes an emergency stop control section 67 and a warning control section 69. Specifically, each of these units of the arithmetic processing device 53 is a function realized by execution of a program by the arithmetic processing device 53.

検出部61は、車両の乗員の生体情報を検出する。本実施形態において、検出部61は、乗員カメラ41から送信される撮像情報に基づいて乗員の心拍を検出する。具体的に、検出部61は、乗員カメラ41から送信される撮像情報に基づいて画像処理を実行し、顔の色情報の変化に基づいて乗員の心拍を計測する。 The detection unit 61 detects biological information of a vehicle occupant. In this embodiment, the detection unit 61 detects the passenger's heartbeat based on imaging information transmitted from the passenger camera 41. Specifically, the detection unit 61 executes image processing based on the imaging information transmitted from the passenger camera 41, and measures the passenger's heartbeat based on changes in facial color information.

推定部63は、乗員カメラ41による生体情報の検出精度を推定する。本実施形態において、推定部63は、乗員カメラ41による乗員の顔の色情報の検出精度に影響を与え得る情報に基づいて、心拍の検出精度を推定する。図2は、推定部63による心拍の検出精度の推定方法の一例を示す説明図である。本実施形態において、推定部63は、車室内の明暗、光による乗員の顔への影の発生量、及び、車両の振動の大きさに基づいて、乗員カメラ41による心拍の検出精度を推定する。本実施形態において、推定部63は、乗員カメラ41による心拍の検出精度のレベルを、第1のレベル(レベル1)~第3のレベル(レベル3)の3段階に分けて推定する。 The estimation unit 63 estimates the detection accuracy of biological information by the occupant camera 41. In the present embodiment, the estimation unit 63 estimates the heartbeat detection accuracy based on information that may affect the detection accuracy of the passenger's facial color information by the passenger camera 41. FIG. 2 is an explanatory diagram showing an example of a method for estimating the heartbeat detection accuracy by the estimation unit 63. In the present embodiment, the estimating unit 63 estimates the accuracy of heartbeat detection by the occupant camera 41 based on the brightness and darkness of the vehicle interior, the amount of shadow cast on the occupant's face by light, and the magnitude of vehicle vibration. . In the present embodiment, the estimating unit 63 estimates the level of accuracy of heartbeat detection by the occupant camera 41 by dividing it into three levels: a first level (level 1) to a third level (level 3).

車室内の明暗は、光センサ43のセンサ信号に基づいて検出することができる。例えば、推定部63は、検出される明暗の指標値が適正範囲内か否かを判定する。また、車両の振動の大きさは、加速度センサ45のセンサ信号に基づいて検出することができる。例えば、推定部63は、加速度センサ45のセンサ信号に基づいて、所定方向の車両の振動の周期又は振幅の大きさを特定し、車両の振動が大きいか小さいかを判定する。また、光による乗員の顔への影の発生量は、乗員カメラ41によって撮像される乗員の顔の撮像情報を画像処理することにより検出することができる。例えば、推定部63は、画像処理により認識される乗員の顔に対応する領域全体の画素あるいは画素群に対する、明暗の指標値が所定値を下回る画素あるいは画素群の比率に基づいて、光による影の発生が多いか少ないかを判定してもよい。 The brightness and darkness in the vehicle interior can be detected based on a sensor signal from the optical sensor 43. For example, the estimation unit 63 determines whether the detected brightness/darkness index value is within an appropriate range. Further, the magnitude of vibration of the vehicle can be detected based on a sensor signal from the acceleration sensor 45. For example, the estimation unit 63 specifies the cycle or amplitude of vibration of the vehicle in a predetermined direction based on the sensor signal of the acceleration sensor 45, and determines whether the vibration of the vehicle is large or small. Further, the amount of shadow cast on the occupant's face by light can be detected by image processing the image information of the occupant's face captured by the occupant camera 41. For example, the estimating unit 63 calculates the shadow caused by light based on the ratio of pixels or pixel groups whose brightness index value is less than a predetermined value to the pixels or pixel groups of the entire area corresponding to the passenger's face recognized by image processing. It may also be determined whether the number of occurrences is high or low.

図2に示した例では、車室内の明暗の指標値が適正範囲外にある場合、推定部63は、乗員カメラ41による心拍の検出精度のレベルを第1のレベル(レベル1)に設定する。例えば西日が眩しい場合等、車室内の明暗の指標値が高すぎる場合(明るすぎる場合)には、乗員カメラ41により撮影される乗員の顔画像が明るくなりすぎて乗員の顔の色情報を精度よく検出することが困難になるおそれがある。一方、車室内の明暗の指標値が低すぎる場合(暗すぎる場合)には、乗員カメラ41により撮影される乗員の顔画像暗くなりすぎて乗員の顔の色情報を精度よく検出することが困難になるおそれがある。したがって、推定部63は、車室内の明暗の指標値が適正範囲外にある場合には、光による影の発生量及び車両の振動の大小にかかわらず乗員カメラ41による心拍の検出精度のレベルを第1のレベル(レベル1)に設定する。 In the example shown in FIG. 2, when the index value of the brightness in the vehicle interior is outside the appropriate range, the estimation unit 63 sets the level of accuracy of heartbeat detection by the passenger camera 41 to the first level (level 1). . For example, when the brightness index value in the vehicle interior is too high (too bright), such as when the setting sun is dazzling, the facial image of the passenger photographed by the passenger camera 41 becomes too bright, and the color information of the passenger's face is lost. Accurate detection may become difficult. On the other hand, if the index value of the brightness in the vehicle interior is too low (too dark), the facial image of the passenger photographed by the passenger camera 41 becomes too dark, making it difficult to accurately detect the color information of the passenger's face. There is a risk of it becoming. Therefore, when the index value of brightness and darkness in the vehicle interior is outside the appropriate range, the estimation unit 63 determines the level of heartbeat detection accuracy by the passenger camera 41 regardless of the amount of shadows caused by light and the magnitude of vehicle vibration. Set to the first level (level 1).

また、車室内の明暗の指標値が適正範囲内にある場合、推定部63は、光による乗員の顔への影の発生量、及び、車両の振動の大小に基づいて、乗員カメラ41による心拍の検出精度のレベルを第1のレベル(レベル1)~第3のレベル(レベル3)のいずれかに設定する。この場合、推定部63は、光による乗員の顔への影の発生量が少ないほど乗員カメラ41による心拍の検出精度のレベルを高くし(検出精度が高い)、車両の振動が小さいほど心拍の検出精度のレベルを高くする。なお、乗員カメラ41による心拍の検出精度のレベルの段階は3段階でなくてもよく、2段階であってもよいし、4段階以上であってもよい。心拍の検出精度のレベルの段階が多いほど、後で説明する補正処理後の心拍の精度を高めることができる。また、推定部63は、さらに乗員の顔の動きに基づいて心拍の検出精度を推定してもよい。例えば、カーブや交差点を走行する際に、乗員は進行方向へ顔を向ける場合があり、このような場合には、乗員の顔の色情報の検出精度が低下するおそれがある。したがって、推定部63は、乗員カメラ41によって撮像される乗員の顔の向きがあらかじめ決められた範囲外を向いている場合に、心拍の検出精度が低下すると判定してもよい。 Further, when the index value of the brightness and darkness in the vehicle interior is within the appropriate range, the estimation unit 63 calculates the heart rate detected by the occupant camera 41 based on the amount of shadows cast on the occupant's face by light and the magnitude of vibration of the vehicle. The detection accuracy level is set to one of the first level (level 1) to the third level (level 3). In this case, the estimation unit 63 increases the level of accuracy in detecting the heartbeat by the occupant camera 41 (higher detection accuracy) as the amount of shadow cast on the passenger's face by light is smaller, and the smaller the vibration of the vehicle, the higher the level of heartbeat detection accuracy. Increase the level of detection accuracy. Note that the level of accuracy of heartbeat detection by the occupant camera 41 does not need to be three levels, but may be two levels, or may be four levels or more. The greater the number of levels of heartbeat detection accuracy, the higher the accuracy of heartbeats after correction processing, which will be described later. Furthermore, the estimation unit 63 may further estimate the heartbeat detection accuracy based on the movement of the occupant's face. For example, when driving around a curve or an intersection, the occupant may turn his/her head in the direction of travel, and in such a case, there is a risk that the accuracy of detecting the color information of the occupant's face may decrease. Therefore, the estimating unit 63 may determine that the heartbeat detection accuracy is reduced when the passenger's face imaged by the passenger camera 41 faces outside a predetermined range.

制御部65は、生体情報に基づいて所定の制御を実行する。例えば、制御部65の緊急停止制御部67は、検出される乗員の心拍に基づいて乗員の身体の異常が検出された場合に、車両を緊急停止させる制御を実行する。具体的に、緊急停止制御部67は、車両駆動制御装置37に対して車両を安全かつ速やかに停止させるよう緊急停止指令を送信する。例えば、車両は、車両の周囲環境を検出するカメラやレーダ等の検出機器を備え、緊急停止指令を受信した車両駆動制御装置37は、エンジンや、一つ又は複数の駆動用モータ、ステアリングシステム、ブレーキシステムを制御して、車両が人や他車両その他の障害物に衝突しないように、スペースが確保された路側帯に車両を停車させる。 The control unit 65 executes predetermined control based on biological information. For example, the emergency stop control unit 67 of the control unit 65 executes control to bring the vehicle to an emergency stop when an abnormality in the occupant's body is detected based on the detected heartbeat of the occupant. Specifically, the emergency stop control unit 67 transmits an emergency stop command to the vehicle drive control device 37 to stop the vehicle safely and quickly. For example, the vehicle is equipped with detection equipment such as a camera or radar that detects the surrounding environment of the vehicle, and the vehicle drive control device 37 that receives the emergency stop command is configured to control the engine, one or more drive motors, the steering system, and the like. Controls the brake system to stop the vehicle on the side of the road where there is enough space to prevent the vehicle from colliding with people, other vehicles, or other obstacles.

また、制御部65の警告制御部69は、検出される乗員の心拍に基づいて乗員の身体の異常が検出された場合に、身体の異常を警告する制御を実行する。具体的に、警告制御部69は、乗員の身体の異常が検出された場合に、警告装置35に対して当該身体の異常を警告するよう警告指令を送信する。警告指令を受信した警告装置35は、警告音や音声、警告ランプの点灯、振動発生等の手段により、乗員の身体の異常の警告動作を行う。 Further, the warning control unit 69 of the control unit 65 executes control to issue a warning of a physical abnormality when an abnormality in the body of the occupant is detected based on the detected heartbeat of the occupant. Specifically, when an abnormality in the body of the occupant is detected, the warning control unit 69 transmits a warning command to the warning device 35 to warn of the abnormality in the body. Upon receiving the warning command, the warning device 35 performs an operation to warn the occupant of an abnormality in the body by means of a warning sound, voice, lighting of a warning lamp, generation of vibration, or the like.

ここで、本実施形態に係る制御装置50の制御部65は、乗員カメラ41による心拍の検出精度が高いと推定される場合には乗員カメラ41により検出される心拍の情報(以下、第1の検出器により検出される生体情報を「第1の生体情報」ともいう)を用いて身体の異常を警告する制御及び車両を緊急停止させる制御を実行する。また、制御部65は、乗員カメラ41による心拍の検出精度が低いと推定される場合にはウェアラブル機器20により検出される心拍の情報(以下、第2の検出器により検出される生体情報を「第2の生体情報」ともいう)を用いて身体の異常を警告する制御及び車両を緊急停止させる制御を実行する。 Here, when the accuracy of heartbeat detection by the occupant camera 41 is estimated to be high, the control unit 65 of the control device 50 according to the present embodiment generates information about the heartbeat detected by the occupant camera 41 (hereinafter, first information). The biological information detected by the detector (also referred to as "first biological information") is used to execute control to warn of abnormalities in the body and control to emergency stop the vehicle. In addition, when it is estimated that the accuracy of heartbeat detection by the passenger camera 41 is low, the control unit 65 controls the information about the heartbeat detected by the wearable device 20 (hereinafter referred to as the biological information detected by the second detector). control to warn of abnormalities in the body and control to emergency stop the vehicle is executed using the second biological information).

乗員カメラ41による心拍の検出精度が高い場合又は低い場合は、推定部63で推定された心拍の検出精度のレベルに応じてあらかじめ設定することができる。例えば、乗員カメラ41による心拍の検出精度のレベルが第3のレベル(レベル3)である場合に心拍の検出精度が高いと判定する一方、乗員カメラ41による心拍の検出精度のレベルが第2のレベル(レベル2)又は第1のレベル(レベル1)である場合に心拍の検出精度が低いと判定してもよい。 If the heartbeat detection accuracy by the occupant camera 41 is high or low, it can be set in advance according to the level of heartbeat detection accuracy estimated by the estimation unit 63. For example, if the level of accuracy of heartbeat detection by the passenger camera 41 is a third level (level 3), it is determined that the heartbeat detection accuracy is high, but if the level of accuracy of heartbeat detection by the passenger camera 41 is a second level It may be determined that the heartbeat detection accuracy is low when the level (level 2) or the first level (level 1) is reached.

制御部65は、乗員カメラ41による心拍の検出精度が高い場合、乗員カメラ41により検出される第1の生体情報を用いて所定の制御を実行するため、ウェアラブル機器20に対して少なくとも心拍の検出機能を停止状態にさせる指令を送信する。また、制御部65は、ウェアラブル機器20の心拍の検出機能が停止状態で、乗員カメラ41による心拍の検出精度が低くなった場合、ウェアラブル機器20により検出される第2の生体情報を用いて所定の制御を実行するため、ウェアラブル機器20に対して少なくとも心拍の検出機能を起動させる指令を送信する。これにより、検出精度の高い心拍の情報を用いて所定の制御を実行することができるとともに、乗員カメラ41による心拍の検出精度が高い期間にはウェアラブル機器20の少なくとも心拍の検出機能による電力消費量が抑制される。 When the accuracy of heartbeat detection by the occupant camera 41 is high, the control unit 65 performs predetermined control using the first biological information detected by the occupant camera 41, so that the control unit 65 detects at least a heartbeat with respect to the wearable device 20. Sends a command to stop the function. Furthermore, when the heartbeat detection function of the wearable device 20 is in a stopped state and the accuracy of heartbeat detection by the occupant camera 41 becomes low, the control unit 65 uses the second biological information detected by the wearable device 20 to perform a predetermined detection function. In order to perform this control, a command to activate at least a heartbeat detection function is transmitted to the wearable device 20. As a result, predetermined control can be executed using heartbeat information with high detection accuracy, and during a period when the passenger camera 41 has high heartbeat detection accuracy, the power consumption of at least the heartbeat detection function of the wearable device 20 is reduced. is suppressed.

また、制御部65は、ウェアラブル機器20の心拍の検出機能が停止状態にされている期間に乗員カメラ41により検出された第1の生体情報をウェアラブル機器20に送信する。これにより、ウェアラブル機器20に記憶される心拍の検出データが補完され、ウェアラブル機器20単体での生体情報の検出機能が担保される。制御部65は、ウェアラブル機器20が停止状態から起動状態に切り換えられたときに、ウェアラブル機器20が停止状態の期間に検出されて記憶されたすべての第1の生体情報をウェアラブル機器20に送信してもよく、ウェアラブル機器20が停止状態の期間中、所定の時間ごとに検出されて記憶された第1の生体情報をウェアラブル機器20に送信してもよい。また、制御部65は、ウェアラブル機器20が停止状態の期間中、第1の生体情報が検出されるごとに第1の生体情報をウェアラブル機器20に送信してもよいが、ウェアラブル機器20の電力消費を抑制する観点から、所定の期間中に検出され記憶された第1の生体情報をまとめてウェアラブル機器20に送信することが好ましい。 Further, the control unit 65 transmits the first biological information detected by the occupant camera 41 to the wearable device 20 during the period when the heartbeat detection function of the wearable device 20 is in a stopped state. As a result, the heartbeat detection data stored in the wearable device 20 is supplemented, and the function of detecting biological information by the wearable device 20 alone is ensured. When the wearable device 20 is switched from the stopped state to the activated state, the control unit 65 transmits to the wearable device 20 all the first biological information detected and stored while the wearable device 20 is in the stopped state. Alternatively, the first biological information detected and stored at predetermined time intervals may be transmitted to the wearable device 20 while the wearable device 20 is in a stopped state. Furthermore, while the wearable device 20 is in a stopped state, the control unit 65 may transmit the first biometric information to the wearable device 20 each time the first biometric information is detected. From the viewpoint of suppressing consumption, it is preferable to transmit the first biological information detected and stored during a predetermined period to the wearable device 20 all at once.

<2.車両用制御システムの動作例>
次に、本実施形態に係る車両用制御システム10の動作例を説明する。図4は、制御装置50による制御の動作例を概略的に示すフローチャートである。
<2. Operation example of vehicle control system>
Next, an example of the operation of the vehicle control system 10 according to the present embodiment will be described. FIG. 4 is a flowchart schematically showing an example of control operation by the control device 50.

まず、制御装置50の推定部63は、第1の検出器による生体情報の検出精度の推定に用いる情報を算出する(ステップS11)。上述のとおり、本実施形態において、推定部63は、車室内の明暗、光による乗員の顔への影の発生量、及び、車両の振動の大きさに基づいて、乗員カメラ41の撮像情報に基づく心拍の検出精度を推定する。具体的に、推定部63は、光センサ43のセンサ信号に基づいて、車室内の明暗の指標値、特に、乗員の顔付近の明暗の指標値を算出する。また、推定部63は、乗員カメラ41によって撮像される乗員の顔の撮像情報を画像処理することにより、光による乗員の顔への影の発生量を算出する。また、推定部63は、加速度センサ45のセンサ信号に基づいて、車両の振動の大きさを算出する。 First, the estimation unit 63 of the control device 50 calculates information used for estimating the detection accuracy of biological information by the first detector (step S11). As described above, in this embodiment, the estimating unit 63 uses the imaging information of the occupant camera 41 based on the brightness and darkness of the vehicle interior, the amount of shadow cast on the occupant's face by light, and the magnitude of vehicle vibration. Estimate the heartbeat detection accuracy based on Specifically, the estimation unit 63 calculates an index value of brightness in the vehicle interior, particularly an index value of brightness near the face of the occupant, based on the sensor signal of the optical sensor 43. Furthermore, the estimation unit 63 calculates the amount of shadow cast on the face of the passenger by light by image processing the image information of the face of the passenger captured by the passenger camera 41. Furthermore, the estimation unit 63 calculates the magnitude of vibration of the vehicle based on the sensor signal of the acceleration sensor 45.

次いで、推定部63は、第1の検出器による生体情報の検出精度を推定する(ステップS13)。本実施形態において、推定部63は、あらかじめ設定された検出精度の推定方法(図2を参照)にしたがって、乗員カメラ41による心拍の検出精度のレベルを、第1のレベル(レベル1)~第3のレベル(レベル3)の3段階に分けて推定する。次いで、制御部65は、推定された心拍の検出精度が高いか否かを判別する(ステップS15)。例えば、制御部65は、心拍の検出精度のレベルが第3のレベル(レベル3)の場合に検出精度が高いと判定し、レベルが第1のレベル(レベル1)及び2の場合に検出精度が低いと判定する。 Next, the estimation unit 63 estimates the detection accuracy of biological information by the first detector (step S13). In this embodiment, the estimating unit 63 sets the level of heartbeat detection accuracy by the passenger camera 41 to a first level (level 1) to a third level according to a preset detection accuracy estimation method (see FIG. 2). The estimation is divided into three levels (Level 3). Next, the control unit 65 determines whether the estimated heartbeat detection accuracy is high (step S15). For example, the control unit 65 determines that the detection accuracy is high when the level of heartbeat detection accuracy is the third level (level 3), and determines that the detection accuracy is high when the level is the first level (level 1) and 2. is determined to be low.

乗員カメラ41による心拍の検出精度が高い場合(S15/Yes)、制御部65は、乗員カメラ41により検出される第1の生体情報を用いて、身体の異常を警告する制御及び車両を緊急停止させる制御を実行するよう設定する(ステップS17)。これにより、緊急停止制御部67及び警告制御部69は、信頼度が高い心拍の情報に基づいて所定の制御を実行することができる。 If the detection accuracy of the heartbeat by the passenger camera 41 is high (S15/Yes), the control unit 65 uses the first biological information detected by the passenger camera 41 to perform control to warn of abnormalities in the body and emergency stop of the vehicle. A setting is made to execute control to cause the change to occur (step S17). Thereby, the emergency stop control section 67 and the warning control section 69 can perform predetermined control based on highly reliable heartbeat information.

次いで、制御部65は、第2の検出器であるウェアラブル機器20の心拍の検出機能が起動状態であるか否かを判別する(ステップS19)。例えば、ウェアラブル機器20が心拍の検出機能の起動又は停止を切り換えた際に、制御装置50に対して起動又は停止を切り替えたことを示す信号を送信するように構成されている場合、制御部65は、記憶部55に記憶されている情報に基づいて、ウェアラブル機器20の心拍の検出機能が起動状態であるか否かを判別することができる。また、制御部65がウェアラブル機器20に対して心拍の検出機能を起動又は停止で切り換えるように指令を送信したときに当該送信した記録を記憶部55に記憶している場合、制御部65は、記憶部55に記憶されている情報に基づいて、ウェアラブル機器20の心拍の検出機能が起動状態であるか否かを判別することができる。また、制御部65は、その都度ウェアラブル機器20に対して心拍の検出機能が起動状態であるかを問い合わせてもよい。 Next, the control unit 65 determines whether the heartbeat detection function of the wearable device 20, which is the second detector, is activated (step S19). For example, if the wearable device 20 is configured to transmit a signal indicating that the heartbeat detection function has been switched to start or stop, the control unit 65 can determine whether the heartbeat detection function of the wearable device 20 is activated based on the information stored in the storage unit 55. Further, when the control unit 65 transmits a command to the wearable device 20 to switch the heartbeat detection function by starting or stopping, if the transmitted record is stored in the storage unit 55, the control unit 65: Based on the information stored in the storage unit 55, it can be determined whether the heartbeat detection function of the wearable device 20 is activated. Further, the control unit 65 may inquire of the wearable device 20 each time whether the heartbeat detection function is activated.

ウェアラブル機器20の心拍の検出機能が起動状態である場合(S19/Yes)、制御部65は、ウェアラブル機器20に対して、少なくとも心拍の検出機能を停止状態にさせる指令を送信し(ステップS21)、ステップS23に進む。一方、ウェアラブル機器20の心拍の検出機能が停止状態である場合(S19/No)、そのままステップS23に進む。 If the heartbeat detection function of the wearable device 20 is activated (S19/Yes), the control unit 65 transmits a command to the wearable device 20 to stop at least the heartbeat detection function (step S21). , proceed to step S23. On the other hand, if the heartbeat detection function of the wearable device 20 is in a stopped state (S19/No), the process directly advances to step S23.

次いで、制御部65は、ウェアラブル機器20の心拍の検出機能が停止状態にされている期間に、乗員カメラ41により検出された第1の生体情報をウェアラブル機器20に送信する(ステップS23)。上述のとおり、制御部65は、ウェアラブル機器20が停止状態から起動状態に切り換えられたときに、ウェアラブル機器20が停止状態の期間に検出されて記憶されたすべての第1の生体情報をウェアラブル機器20に送信してもよく、ウェアラブル機器20が停止状態の期間中、所定の時間ごとに検出されて記憶された第1の生体情報をウェアラブル機器20に送信してもよい。また、制御部65は、ウェアラブル機器20が停止状態の期間中、第1の生体情報が検出されるごとに第1の生体情報をウェアラブル機器20に送信してもよい。 Next, the control unit 65 transmits the first biological information detected by the occupant camera 41 to the wearable device 20 while the heartbeat detection function of the wearable device 20 is in a stopped state (step S23). As described above, when the wearable device 20 is switched from the stopped state to the activated state, the control unit 65 transfers all the first biological information detected and stored while the wearable device 20 is in the stopped state to the wearable device. 20, or the first biological information detected and stored at predetermined time intervals may be transmitted to the wearable device 20 while the wearable device 20 is in a stopped state. Further, the control unit 65 may transmit the first biometric information to the wearable device 20 each time the first biometric information is detected while the wearable device 20 is in a stopped state.

上述のステップS15において、乗員カメラ41による心拍の検出精度が高くない場合(S15/No)、制御部65は、ステップS19と同様の手順で、第2の検出器であるウェアラブル機器20の心拍の検出機能が起動状態であるか否かを判別する(ステップS25)。ウェアラブル機器20の心拍の検出機能が停止状態である場合(S25/No)、制御部65は、ウェアラブル機器20に対して、少なくとも心拍の検出機能を起動状態にさせる指令を送信し(ステップS27)、ステップS29に進む。一方、ウェアラブル機器20の心拍の検出機能が起動状態である場合(S25/Yes)、そのままステップS29に進む。 In step S15 described above, if the accuracy of heartbeat detection by the occupant camera 41 is not high (S15/No), the control unit 65 detects the heartbeat of the wearable device 20, which is the second detector, in the same procedure as step S19. It is determined whether the detection function is activated (step S25). If the heartbeat detection function of the wearable device 20 is in the stopped state (S25/No), the control unit 65 transmits a command to the wearable device 20 to activate at least the heartbeat detection function (step S27). , proceed to step S29. On the other hand, if the heartbeat detection function of the wearable device 20 is activated (S25/Yes), the process directly advances to step S29.

ステップS29において、制御部65は、ウェアラブル機器20により検出される第2の生体情報を用いて、身体の異常を警告する制御及び車両を緊急停止させる制御を実行するよう設定する(ステップS29)。これにより、緊急停止制御部67及び警告制御部69は、信頼度が高い心拍の情報に基づいて所定の制御を実行することができる。 In step S29, the control unit 65 uses the second biological information detected by the wearable device 20 to perform a control to warn of a physical abnormality and a control to make an emergency stop of the vehicle (step S29). Thereby, the emergency stop control section 67 and the warning control section 69 can perform predetermined control based on highly reliable heartbeat information.

以上、説明したように、第1の実施の形態に係る車両用制御システム10によれば、車両に設けられる第1の検出器としての乗員カメラ41により検出される第1の生体情報(心拍)の検出精度が高い場合には、当該第1の生体情報に基づいて所定の制御が実行される。一方、乗員カメラ41により検出される第1の生体情報の検出精度が低い場合には、乗員に装着される第2の検出器としてのウェアラブル機器20により検出される第2の生体情報(心拍)に基づいて所定の制御が実行される。したがって、検出精度の高い心拍の情報を用いて所定の制御を実行することができる。 As described above, according to the vehicle control system 10 according to the first embodiment, the first biological information (heartbeat) detected by the occupant camera 41 as the first detector provided in the vehicle If the detection accuracy is high, predetermined control is executed based on the first biological information. On the other hand, when the detection accuracy of the first biological information detected by the passenger camera 41 is low, the second biological information (heartbeat) detected by the wearable device 20 as a second detector worn by the passenger. Predetermined control is executed based on. Therefore, predetermined control can be performed using heartbeat information with high detection accuracy.

また、本実施形態に係る車両用制御システム10によれば、車両に設置されて車両の電源から電力供給を受ける乗員カメラ41により検出される第1の生体情報の検出精度が高い場合、ウェアラブル機器20の少なくとも第2の生体情報の検出機能を停止状態にして、第1の生体情報を優先的に利用して所定の制御を実行する。このため、内蔵されたバッテリの充電電力により作動するウェアラブル機器20の電力消費を抑制することができる。 Further, according to the vehicle control system 10 according to the present embodiment, when the detection accuracy of the first biological information detected by the occupant camera 41 installed in the vehicle and receiving power from the vehicle power source is high, the wearable device The detection function of at least the second biometric information of 20 is stopped, and the first biometric information is used preferentially to execute predetermined control. Therefore, it is possible to suppress the power consumption of the wearable device 20, which operates using the charging power of the built-in battery.

また、本実施形態に係る車両用制御システム10によれば、ウェアラブル機器20の第2の生体情報の検出機能が停止状態にされている期間に乗員カメラ41により検出された第1の生体情報が、ウェアラブル機器20に送信される。これにより、ウェアラブル機器20の第2の生体情報の検出機能が停止状態にされている期間の生体情報のデータが、検出精度の高い第1の生体情報により保管され、ウェアラブル機器20単体の機能が担保される。 Further, according to the vehicle control system 10 according to the present embodiment, the first biometric information detected by the occupant camera 41 during the period in which the second biometric information detection function of the wearable device 20 is in a stopped state is , is transmitted to the wearable device 20. As a result, the biometric information data during the period when the second biometric information detection function of the wearable device 20 is in a stopped state is stored as the first biometric information with high detection accuracy, and the function of the wearable device 20 alone is stored. Guaranteed.

<<第2の実施の形態>>
次に、本発明の第2の実施の形態に係る車両用制御システムを説明する。本実施形態に係る車両用制御システムは、車両に設けられる第1の検出器により検出される第1の生体情報の検出精度が低い場合に、乗員に装着される第2の検出器により検出される第2の生体情報に基づいて所定の制御を実行するとともに、第1の生体情報の補正係数と第1の検出器の検出精度との相関関係を学習する。かかる相関関係を学習した後、車両用制御システムは、車両に設けられる第1の検出器により検出される第1の生体情報の検出精度が低い場合に、引き続き第1の生体情報を用いて、学習した相関関係により第1の生体情報を補正しながら所定の制御を実行する。以下、主として第1の実施の形態と異なる点を説明する。
<<Second embodiment>>
Next, a vehicle control system according to a second embodiment of the present invention will be described. In the vehicle control system according to the present embodiment, when the detection accuracy of the first biological information detected by the first detector installed in the vehicle is low, the control system detects the first biological information by the second detector attached to the occupant. A predetermined control is executed based on the second biological information, and the correlation between the correction coefficient of the first biological information and the detection accuracy of the first detector is learned. After learning such a correlation, the vehicle control system continues to use the first biological information when the detection accuracy of the first biological information detected by the first detector provided in the vehicle is low. Predetermined control is executed while correcting the first biological information based on the learned correlation. Hereinafter, mainly differences from the first embodiment will be explained.

図4は、本実施形態に係る車両用制御システムの制御装置50による処理の動作例を具体的に示すフローチャートであり、図3に示すステップS25~ステップS29の処理に置き換えられる処理を示している。 FIG. 4 is a flowchart specifically illustrating an operational example of processing by the control device 50 of the vehicle control system according to the present embodiment, and shows processing that can be replaced with the processing of steps S25 to S29 shown in FIG. 3. .

制御部65は、第1の実施の形態において説明したステップS15において、第1の検出器としての乗員カメラ41による心拍の検出精度が推定部63により推定された心拍の検出精度のレベルが高くないと判定された場合(S15/No)、制御部65は、乗員カメラ41により検出される心拍の情報の補正係数と乗員カメラ41による心拍の検出精度との相関関係のデータが記憶されているか否かを判別する(ステップS41)。相関関係のデータが記憶されていない場合(S41/No)、制御部65は、第1の実施の形態において説明した手順に沿ってステップS25~ステップS29の処理を実行する。すなわち、制御部65は、ウェアラブル機器20により検出される第2の生体情報を用いて、身体の異常を警告する制御及び車両を緊急停止させる制御を実行するよう設定する。 In step S15 described in the first embodiment, the control unit 65 determines that the level of heartbeat detection accuracy estimated by the estimation unit 63 is not high in the heartbeat detection accuracy by the passenger camera 41 as the first detector. If it is determined that (S15/No), the control unit 65 determines whether data on the correlation between the correction coefficient of the information on the heartbeat detected by the passenger camera 41 and the accuracy of heartbeat detection by the passenger camera 41 is stored. (Step S41). If correlation data is not stored (S41/No), the control unit 65 executes the processes of steps S25 to S29 in accordance with the procedure described in the first embodiment. That is, the control unit 65 uses the second biological information detected by the wearable device 20 to perform a control to warn of a physical abnormality and a control to emergency stop the vehicle.

次いで、制御部65は、乗員カメラ41により検出される第1の生体情報の補正係数を算出する(ステップS51)。具体的に、制御部65は、同時刻に乗員カメラ41及びウェアラブル機器20によりそれぞれ検出される心拍の情報を比較し、第1の生体情報を第2の生体情報に一致させるための補正係数を算出する。この場合、乗員カメラ41による心拍の検出精度が低いと推定されるほど、補正係数は大きくなる。次いで、制御部65は、第1の実施の形態において説明したステップS13において推定された同時刻における乗員カメラ41による心拍の情報の検出精度と、算出した補正係数とを紐づけて記憶部55に記憶する(ステップS53)。 Next, the control unit 65 calculates a correction coefficient for the first biological information detected by the occupant camera 41 (step S51). Specifically, the control unit 65 compares heartbeat information detected by the occupant camera 41 and the wearable device 20 at the same time, and determines a correction coefficient for matching the first biological information with the second biological information. calculate. In this case, the lower the accuracy of heartbeat detection by the occupant camera 41 is estimated to be, the larger the correction coefficient becomes. Next, the control unit 65 associates the detection accuracy of heartbeat information by the occupant camera 41 at the same time estimated in step S13 described in the first embodiment with the calculated correction coefficient and stores it in the storage unit 55. It is stored (step S53).

次いで、制御部65は、乗員カメラ41による心拍の情報の検出精度と算出した補正係数との相関関係を学習する(ステップS55)。学習された相関関係のデータは、記憶部55に記憶される。相関関係の学習が終了すると、ステップS11に戻る。学習される相関関係は、検出精度と補正係数とを紐づけたデータのサンプル数が多いほど精度が高くなる。このため、制御部65は、記憶されたサンプル数があらかじめ設定された数に到達した場合に相関関係を学習するようにしてもよい。また、乗員カメラ41による心拍の情報の推定精度のレベルの段階が多いほど、学習される相関関係の精度が高くなる。したがって、本実施形態においては、乗員カメラ41による心拍の情報の推定精度のレベルの段階を4段階以上に多くすることが好ましい。また、相関関係を一旦学習した後においても学習を継続し、常時あるいは適宜の間隔で相関関係を更新するようにしてもよい。 Next, the control unit 65 learns the correlation between the detection accuracy of heartbeat information by the occupant camera 41 and the calculated correction coefficient (step S55). The learned correlation data is stored in the storage unit 55. When learning of the correlation is completed, the process returns to step S11. The accuracy of the learned correlation becomes higher as the number of samples of data linking detection accuracy and correction coefficient increases. Therefore, the control unit 65 may learn the correlation when the number of stored samples reaches a preset number. Further, the more the levels of estimation accuracy of heartbeat information by the occupant camera 41, the higher the accuracy of the learned correlation becomes. Therefore, in this embodiment, it is preferable that the level of accuracy of estimating heartbeat information by the occupant camera 41 is increased to four or more levels. Further, even after learning the correlation once, the learning may be continued and the correlation may be updated constantly or at appropriate intervals.

一旦相関関係のデータが学習されると、上述のステップS41において、相関関係のデータが記憶されていると判定される(S41/Yes)。次いで、制御部65は、第2の検出器であるウェアラブル機器20の心拍の検出機能が停止状態であるか否かを判別する(ステップS43)。ウェアラブル機器20の心拍の検出機能が起動状態である場合(S43/No)、制御部65は、ウェアラブル機器20に対して、少なくとも心拍の検出機能を停止状態にさせる指令を送信し(ステップS45)、ステップS47に進む。一方、ウェアラブル機器20の心拍の検出機能が停止状態である場合(S43/Yes)、そのままステップS47に進む。 Once the correlation data is learned, it is determined in step S41 that the correlation data is stored (S41/Yes). Next, the control unit 65 determines whether the heartbeat detection function of the wearable device 20, which is the second detector, is in a stopped state (step S43). If the heartbeat detection function of the wearable device 20 is in the activated state (S43/No), the control unit 65 transmits a command to the wearable device 20 to stop at least the heartbeat detection function (step S45). , proceed to step S47. On the other hand, if the heartbeat detection function of the wearable device 20 is in a stopped state (S43/Yes), the process directly advances to step S47.

ステップS47において、制御部65は、乗員カメラ41により検出される心拍の情報を、相関関係に基づいて補正する(ステップS47)。具体的に、制御部65は、相関関係のデータを参照して、推定部63により推定された乗員カメラ41による心拍の情報の検出精度に対応する補正係数を求め、乗員カメラ41により検出された心拍の情報を補正する。次いで、制御部65は、補正後の心拍の情報を用いて、身体の異常を警告する制御及び車両を緊急停止させる制御を実行するよう設定する(ステップS49)。 In step S47, the control unit 65 corrects the heartbeat information detected by the occupant camera 41 based on the correlation (step S47). Specifically, the control unit 65 refers to the correlation data to obtain a correction coefficient corresponding to the detection accuracy of heartbeat information by the passenger camera 41 estimated by the estimation unit 63, Correct heart rate information. Next, the control unit 65 uses the corrected heartbeat information to perform a control to warn of a physical abnormality and a control to emergency stop the vehicle (step S49).

これにより、相関関係のデータが求められた後は、乗員カメラ41により検出される心拍の情報の検出精度が低い場合であっても、ウェアラブル機器20の心拍の検出機能を停止状態にしたまま乗員カメラ41により検出される心拍の情報を補正しつつ所定の制御を実行することができる。したがって、第2の実施の形態に係る車両用制御システム10によれば、第1の実施の形態に係る車両用制御システム10による効果を得ることができるとともに、ウェアラブル機器20の電力消費をさらに抑制することができる。 As a result, even if the detection accuracy of the heartbeat information detected by the passenger camera 41 is low, after correlation data is obtained, the passenger can leave the heartbeat detection function of the wearable device 20 in a stopped state. Predetermined control can be executed while correcting the information on the heartbeat detected by the camera 41. Therefore, according to the vehicle control system 10 according to the second embodiment, it is possible to obtain the effects of the vehicle control system 10 according to the first embodiment, and further suppress the power consumption of the wearable device 20. can do.

以上、添付図面を参照しながら本発明の好適な実施形態について詳細に説明したが、本発明はかかる例に限定されない。本発明の属する技術の分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例又は修正例に想到し得ることは明らかであり、これらについても、当然に本発明の技術的範囲に属するものと了解される。 Although preferred embodiments of the present invention have been described above in detail with reference to the accompanying drawings, the present invention is not limited to such examples. It is clear that a person with ordinary knowledge in the technical field to which the present invention pertains can come up with various changes or modifications within the scope of the technical idea stated in the claims. It is understood that these also naturally fall within the technical scope of the present invention.

例えば、上記実施の形態においては、乗員の身体の異常があると判断された場合に、車両を安全かつ速やかに停止させる制御が行われるように構成されていたが、車両を緊急停止させる制御に代えて、近隣の適切な病院へ車両を案内する自動運転制御が行われるように構成されてもよい。 For example, in the above embodiment, the control is configured to safely and quickly stop the vehicle when it is determined that there is an abnormality in the body of the occupant. Alternatively, the configuration may be such that automatic driving control is performed to guide the vehicle to a nearby appropriate hospital.

10…車両用制御システム、20…ウェアラブル機器(第2の検出器)、41…乗員カメラ(第1の検出器)、43…光センサ、45…加速度センサ、50…制御装置、51…通信部、53…演算処理装置、55…記憶部、61…検出部、63…推定部、65…制御部、67…緊急停止制御部、69…警告制御部
DESCRIPTION OF SYMBOLS 10... Vehicle control system, 20... Wearable device (2nd detector), 41... Occupant camera (1st detector), 43... Optical sensor, 45... Acceleration sensor, 50... Control device, 51... Communication unit , 53... Arithmetic processing unit, 55... Storage section, 61... Detection section, 63... Estimation section, 65... Control section, 67... Emergency stop control section, 69... Warning control section

Claims (8)

車両に設けられて車両の乗員の生体情報を検出する第1の検出器と、
前記乗員に装着されて前記乗員の生体情報を検出する第2の検出器と、
前記第1の検出器による前記生体情報の検出精度を推定する推定部と、
前記生体情報に基づいて所定の制御処理を実行する制御部と、を備え、
前記制御部は、
前記第1の検出器による前記検出精度が高いと推定される場合に前記第2の検出器の検出機能を停止させて前記第1の検出器により検出される生体情報を用いて所定の制御処理を実行し、
前記第の検出器による前記検出精度が低いと推定される場合に前記第2の検出器により検出される生体情報を用いて所定の制御処理を実行し、
前記第2の検出器の検出機能を停止させている間に前記第1の検出器により検出される生体情報を前記第2の検出器に共有させる、車両用制御システム。
a first detector provided in the vehicle to detect biological information of an occupant of the vehicle;
a second detector attached to the occupant to detect biological information of the occupant;
an estimation unit that estimates the detection accuracy of the biological information by the first detector;
a control unit that executes a predetermined control process based on the biological information,
The control unit includes:
If the detection accuracy by the first detector is estimated to be high , the detection function of the second detector is stopped and a predetermined control process is performed using the biological information detected by the first detector. Run
executing a predetermined control process using biological information detected by the second detector when the detection accuracy by the first detector is estimated to be low ;
A vehicle control system that causes the second detector to share biological information detected by the first detector while the detection function of the second detector is stopped.
前記制御部は、
記第1の検出器による前記検出精度が低いと推定される場合に、前記第2の検出器による検出機能を起動させる、請求項1に記載の車両用制御システム。
The control unit includes:
The vehicle control system according to claim 1, wherein when the detection accuracy by the first detector is estimated to be low, a detection function by the second detector is activated.
前記制御部は、
前記第2の検出器の検出機能を起動させた状態で前記第2の検出器により検出される生体情報に基づいて前記第1の検出器により検出される生体情報を補正する、請求項1に記載の車両用制御システム。
The control unit includes:
According to claim 1, the biological information detected by the first detector is corrected based on the biological information detected by the second detector while the detection function of the second detector is activated. Control system for the vehicle described.
前記制御部は、
前記第1の検出器による前記検出精度が低いと推定される場合に、前記第2の検出器により検出される生体情報に基づいて前記第1の検出器により検出される生体情報を補正する、請求項に記載の車両用制御システム。
The control unit includes:
correcting the biological information detected by the first detector based on the biological information detected by the second detector when the detection accuracy by the first detector is estimated to be low; The vehicle control system according to claim 3 .
前記制御部は、
前記第1の検出器による前記検出精度が低いほど、前記第2の検出器により検出される生体情報に基づいて前記第1の検出器により検出される生体情報を補正する際の補正係数を大きくする、請求項に記載の車両用制御システム。
The control unit includes:
The lower the detection accuracy by the first detector, the larger the correction coefficient when correcting the biological information detected by the first detector based on the biological information detected by the second detector. The vehicle control system according to claim 4 .
前記制御部は、
前記第1の検出器による前記検出精度と、前記第2の検出器により検出される生体情報に基づいて前記第1の検出器により検出される生体情報を補正する際の補正係数と、の相関関係を学習し、
前記相関関係を学習した後、前記第2の検出器による検出機能を停止させ、前記相関関係に基づいて前記第1の検出器により検出される生体情報を補正する、請求項又はに記載の車両用制御システム。
The control unit includes:
Correlation between the detection accuracy by the first detector and a correction coefficient when correcting biological information detected by the first detector based on biological information detected by the second detector learn relationships,
6. After learning the correlation, the detection function of the second detector is stopped , and the biological information detected by the first detector is corrected based on the correlation. control systems for vehicles.
前記第1の検出器は、乗員を撮影するカメラ、乗員の着座状態での座圧分布を計測する圧力計測器、乗員の心拍を検出するためのマイクロ波センサ、ステアリングホイールに埋設されて乗員の心拍又は心電図を計測する電極組、シートベルトの位置の変化を検出する変位センサ、乗員の位置を検出するためのTOFセンサ、又は、乗員の体温を検出するためのサーモグラフィのうちの少なくとも一つを含む、請求項1~のいずれか1項に記載の車両用制御システム。 The first detector includes a camera that photographs the occupant, a pressure measuring device that measures the sitting pressure distribution when the occupant is seated, a microwave sensor that detects the occupant's heartbeat, and a microwave sensor that is embedded in the steering wheel to detect the occupant. At least one of an electrode set for measuring heartbeat or electrocardiogram, a displacement sensor for detecting changes in the position of a seat belt, a TOF sensor for detecting the position of the occupant, or a thermography for detecting the body temperature of the occupant. The vehicle control system according to any one of claims 1 to 6 , comprising: 前記第2の検出器は、内蔵されたバッテリの充電電力により作動するウェアラブル機器である、請求項1~のいずれか1項に記載の車両用制御システム。 The vehicle control system according to any one of claims 1 to 7 , wherein the second detector is a wearable device operated by charging power of a built-in battery.
JP2020032690A 2020-02-28 2020-02-28 Vehicle control system Active JP7376389B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2020032690A JP7376389B2 (en) 2020-02-28 2020-02-28 Vehicle control system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020032690A JP7376389B2 (en) 2020-02-28 2020-02-28 Vehicle control system

Publications (2)

Publication Number Publication Date
JP2021132998A JP2021132998A (en) 2021-09-13
JP7376389B2 true JP7376389B2 (en) 2023-11-08

Family

ID=77662304

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020032690A Active JP7376389B2 (en) 2020-02-28 2020-02-28 Vehicle control system

Country Status (1)

Country Link
JP (1) JP7376389B2 (en)

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017104382A (en) 2015-12-11 2017-06-15 セイコーエプソン株式会社 Biological information detector and control method for the same
JP2018061781A (en) 2016-10-14 2018-04-19 ダイキン工業株式会社 Biological information acquisition device
WO2018121861A1 (en) 2016-12-28 2018-07-05 Ficosa Adas, S.L.U. Respiratory signal extraction
JP2018117740A (en) 2017-01-24 2018-08-02 パイオニア株式会社 Biological information detection apparatus
JP2019033911A (en) 2017-08-17 2019-03-07 テイ・エス テック株式会社 Abnormality detection device and seat
JP2019103581A (en) 2017-12-11 2019-06-27 日産自動車株式会社 Method and apparatus for measuring electroencephalogram

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017104382A (en) 2015-12-11 2017-06-15 セイコーエプソン株式会社 Biological information detector and control method for the same
JP2018061781A (en) 2016-10-14 2018-04-19 ダイキン工業株式会社 Biological information acquisition device
WO2018121861A1 (en) 2016-12-28 2018-07-05 Ficosa Adas, S.L.U. Respiratory signal extraction
JP2018117740A (en) 2017-01-24 2018-08-02 パイオニア株式会社 Biological information detection apparatus
JP2019033911A (en) 2017-08-17 2019-03-07 テイ・エス テック株式会社 Abnormality detection device and seat
JP2019103581A (en) 2017-12-11 2019-06-27 日産自動車株式会社 Method and apparatus for measuring electroencephalogram

Also Published As

Publication number Publication date
JP2021132998A (en) 2021-09-13

Similar Documents

Publication Publication Date Title
EP2288287B1 (en) Driver imaging apparatus and driver imaging method
JP6520737B2 (en) Biological information measuring device, vehicle-mounted device, and biological information measuring system
AU2019261701B2 (en) Method, apparatus and system for determining line of sight, and wearable eye movement device
KR101926921B1 (en) Driver monitoring apparatus and method
JP2014006243A (en) Abnormality diagnostic device, abnormality diagnostic method, imaging apparatus, moving body control system and moving body
JP6926636B2 (en) State estimator
JP2011123653A (en) Test device for driver&#39;s arousal level
JP2017027604A (en) Method and device for estimating direction of view of vehicle occupant, and method and device for determining head movement gain parameter specific for vehicle occupant
JP2023093454A (en) Abnormality detection device
US20210070306A1 (en) Closed eye determination device
JP2017049636A (en) Driver state detection device
JP2021132999A (en) Vehicle control device
JP7376389B2 (en) Vehicle control system
WO2020161768A1 (en) Emotion estimation device and emotion estimation method
WO2018211966A1 (en) Driver monitoring device, driver monitoring method and program for monitoring driver
JP7267467B2 (en) ATTENTION DIRECTION DETERMINATION DEVICE AND ATTENTION DIRECTION DETERMINATION METHOD
JP6796525B2 (en) Image processing equipment, image processing system and image processing method
WO2018168038A1 (en) Driver seating determination device
WO2019138733A1 (en) Detection device and program
JP7485521B2 (en) Vehicle control device
JP7396929B2 (en) Vehicle control devices, information processing devices, and vehicle control systems
JP6689470B1 (en) Information processing apparatus, program, and information processing method
JP2021133842A (en) Vehicular control device
JP2012018527A (en) Vehicle state recording device
JP2019074964A (en) Driving disabled condition prediction device and driving disabled condition prediction system

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230110

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230711

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230718

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230915

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20231003

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231026

R150 Certificate of patent or registration of utility model

Ref document number: 7376389

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150