JP2009119896A - Face temperature calculation device and face temperature calculation method - Google Patents

Face temperature calculation device and face temperature calculation method Download PDF

Info

Publication number
JP2009119896A
JP2009119896A JP2007292730A JP2007292730A JP2009119896A JP 2009119896 A JP2009119896 A JP 2009119896A JP 2007292730 A JP2007292730 A JP 2007292730A JP 2007292730 A JP2007292730 A JP 2007292730A JP 2009119896 A JP2009119896 A JP 2009119896A
Authority
JP
Japan
Prior art keywords
face
temperature
area
occupant
contribution
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2007292730A
Other languages
Japanese (ja)
Inventor
Masabumi Tsuji
正文 辻
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nissan Motor Co Ltd
Original Assignee
Nissan Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nissan Motor Co Ltd filed Critical Nissan Motor Co Ltd
Priority to JP2007292730A priority Critical patent/JP2009119896A/en
Publication of JP2009119896A publication Critical patent/JP2009119896A/en
Pending legal-status Critical Current

Links

Images

Landscapes

  • Air-Conditioning For Vehicles (AREA)

Abstract

<P>PROBLEM TO BE SOLVED: To enable stable measurement results to be provided considering the face direction of an occupant when measuring the face temperature of the occupant. <P>SOLUTION: A thermal image generation section 21 generates a temperature distribution map IM which indicates temperature distribution within the temperature detection range D of an IR camera 10. A face range F of the occupant P is extracted from the temperature distribution map IM generated by a face range extraction section 22. A face direction determination section 23 determines the face direction of the occupant P. According to this determined face direction, a contribution adjustment section 24 adjusts the contribution of the temperature in the center range FC of the face range F and that of peripheral ranges FR, FR. A face temperature calculation section 25 then calculates the occupant's face temperature from the contribution-adjusted temperature in the center range FC of the face range F and that of peripheral ranges FR, FR. <P>COPYRIGHT: (C)2009,JPO&INPIT

Description

本発明は、乗員の顔の温度を算出する顔温度算出装置および顔温度算出方法に関する。   The present invention relates to a face temperature calculation device and a face temperature calculation method for calculating the temperature of an occupant's face.

乗員の表面温度を検出し、検出した表面温度に基づいて空調装置を制御する車両用空調装置として、例えば特許文献1に開示されたものがある。
特開2001−199217号公報
An example of a vehicle air conditioner that detects the surface temperature of an occupant and controls the air conditioner based on the detected surface temperature is disclosed in Patent Document 1, for example.
JP 2001-199217 A

特許文献1に開示された装置では、乗員の顔などの表面温度に加えて、さらに、室内の温度(内気温)に応じて表面温度が変化する天井部と、室外の温度(外気温)に応じて表面温度が変化するガラス部と、日射量に応じて表面温度が変化するシート部の表面温度を、1つの非接触温度センサを用いて検出する。
そして、乗員の表面温度のほかに、内気温、外気温、そして日射量の影響を加味した上で空調装置を制御して、車両内の温度の適切な制御が行えるようにしている。
In the apparatus disclosed in Patent Document 1, in addition to the surface temperature of the occupant's face and the like, the ceiling portion where the surface temperature changes according to the indoor temperature (inside temperature) and the outdoor temperature (outside temperature) The surface temperature of the glass part whose surface temperature changes according to the surface temperature and the sheet part whose surface temperature changes according to the amount of solar radiation is detected using one non-contact temperature sensor.
In addition to the surface temperature of the occupant, the air conditioner is controlled in consideration of the effects of the inside air temperature, the outside air temperature, and the amount of solar radiation so that the temperature inside the vehicle can be controlled appropriately.

しかし、非接触温度センサは、センサから見えている範囲の平均温度を算出する。
そのため、例えば乗員の顔の温度を測定する場合、センサから見えている範囲が乗員の顔の向きにより変化するので、検出される顔の温度が顔の向きによって大きく異なることがある。
この傾向は、例えば、空調装置の空調風の影響などにより、顔の額部分と左右の頬部分とで皮膚温度が大きく異なるような場合に顕著になる。
However, the non-contact temperature sensor calculates the average temperature in the range visible from the sensor.
For this reason, for example, when measuring the temperature of the occupant's face, the range visible from the sensor changes depending on the orientation of the occupant's face, so the detected face temperature may vary greatly depending on the orientation of the face.
This tendency becomes conspicuous when the skin temperature differs greatly between the forehead portion of the face and the left and right cheek portions due to, for example, the influence of the conditioned air from the air conditioner.

よって、本発明は、乗員の顔の温度を測定する際に、乗員の顔の向きを考慮して、安定した測定結果が得られるようにすることを目的とする。   Therefore, an object of the present invention is to obtain a stable measurement result in consideration of the direction of the occupant's face when measuring the temperature of the occupant's face.

本発明は、センサの検知範囲内の温度分布を示す熱画像を生成し、生成した熱画像から乗員の顔領域を抽出し、抽出した顔領域内の温度分布に基づいて乗員の顔温度を算出する際に、乗員の顔の向きを判定し、判定した顔の向きに応じて、顔温度を算出する際の顔領域の中央領域の温度と周辺領域の温度の寄与度を調整する構成とした。   The present invention generates a thermal image showing a temperature distribution within a detection range of a sensor, extracts an occupant's face area from the generated thermal image, and calculates the occupant's face temperature based on the temperature distribution in the extracted face area The orientation of the occupant's face is determined, and the contribution of the temperature of the central region of the face region and the temperature of the peripheral region when calculating the face temperature is adjusted according to the determined face orientation. .

本発明によれば、算出される乗員の顔温度が、乗員の顔の向きにより大きく異なることがない。   According to the present invention, the calculated occupant face temperature does not vary greatly depending on the orientation of the occupant's face.

以下、本発明の好ましい実施例を、添付図面を参照しながら説明する。
図1は、実施例にかかる顔温度算出装置の構成を示すブロック図である。
図2は、IRカメラの設置例を説明する図であり、図3は、IRカメラの温度検知範囲と、IRカメラの出力に基づき生成される温度分布マップを説明する図である。
Hereinafter, preferred embodiments of the present invention will be described with reference to the accompanying drawings.
FIG. 1 is a block diagram illustrating a configuration of a face temperature calculation apparatus according to an embodiment.
FIG. 2 is a diagram for explaining an installation example of an IR camera, and FIG. 3 is a diagram for explaining a temperature detection range of the IR camera and a temperature distribution map generated based on the output of the IR camera.

実施例にかかる顔温度算出装置は、IRカメラ10と、制御部20とより構成され、乗員の顔の皮膚温度(顔温度)を測定して測定結果を空調装置30に出力する。   The face temperature calculation apparatus according to the embodiment includes an IR camera 10 and a control unit 20, measures the skin temperature (face temperature) of the occupant's face, and outputs the measurement result to the air conditioner 30.

図2に示すように、IRカメラ10は、センサ面を車両Vの乗員Pの顔側に向けた状態で、車室内のステアリングコラムの上部に設けられている。
IRカメラ10は、検知対象である乗員Pから放射される赤外線を非接触で検知し、検知した赤外線の量に応じた電気信号を出力する赤外線センサである。
As shown in FIG. 2, the IR camera 10 is provided on the upper part of the steering column in the vehicle compartment with the sensor surface facing the face of the passenger P of the vehicle V.
The IR camera 10 is an infrared sensor that detects infrared rays radiated from the occupant P as a detection target in a non-contact manner and outputs an electrical signal corresponding to the detected amount of infrared rays.

図3の(a)に示すように、IRカメラ10の温度検知範囲Dは、乗員Pの顔およびその周辺領域を含むように設定されており、温度検知範囲Dは格子状に区画されて、複数の矩形の検知領域Sが設定されている。
IRカメラ10のセンサ面には、複数の温度検出素子がマトリックス状に配置されており、各温度検出素子は、温度検知範囲D内の予め決められた検知領域Sの温度を測定し、かかる検知領域Sの平均温度を算出する。
IRカメラ10は、各温度検出素子の算出結果をまとめて、温度検知範囲D内の温度分布を示す熱画像データとして、制御部20に出力する。
ここで、IRカメラ10が出力する熱画像データは、図3の(b)に示すような温度検知範囲D内の温度分布を示す温度分布マップ(熱画像)IMを規定するデータである。
As shown in FIG. 3 (a), the temperature detection range D of the IR camera 10 is set so as to include the face of the occupant P and its surrounding area, and the temperature detection range D is partitioned in a grid pattern, A plurality of rectangular detection areas S are set.
A plurality of temperature detection elements are arranged in a matrix on the sensor surface of the IR camera 10, and each temperature detection element measures the temperature of a predetermined detection region S within the temperature detection range D, and performs such detection. The average temperature of the region S is calculated.
The IR camera 10 collects the calculation results of the temperature detection elements and outputs them to the control unit 20 as thermal image data indicating the temperature distribution within the temperature detection range D.
Here, the thermal image data output from the IR camera 10 is data defining a temperature distribution map (thermal image) IM indicating the temperature distribution within the temperature detection range D as shown in FIG.

制御部20は、熱画像生成部21と、顔領域抽出部22と、顔向き判定部23と、寄与度調整部24と、顔温度算出部25とを備える。   The control unit 20 includes a thermal image generation unit 21, a face region extraction unit 22, a face orientation determination unit 23, a contribution degree adjustment unit 24, and a face temperature calculation unit 25.

熱画像生成部21は、IRカメラ10から入力される熱画像データに基づいて、IRカメラ10の温度検知範囲D内の温度分布マップIMを生成する。
顔領域抽出部22は、温度分布マップから乗員の顔の領域(顔領域)を抽出する。
The thermal image generation unit 21 generates a temperature distribution map IM within the temperature detection range D of the IR camera 10 based on the thermal image data input from the IR camera 10.
The face area extraction unit 22 extracts an occupant's face area (face area) from the temperature distribution map.

顔向き判定部23は、顔領域内の温度分布に基づいて、乗員の顔の左右方向における中心(顔中心)を特定し、特定した顔中心の顔領域内における位置に基づいて、乗員の顔の向きを判定する。   The face orientation determination unit 23 identifies the center (face center) of the occupant's face in the left-right direction based on the temperature distribution in the face area, and based on the position of the identified face center in the face area, Determine the direction.

寄与度調整部24は、後段の顔温度算出部25において乗員の顔温度を算出する際に用いられる顔領域の中央領域の温度と周辺領域の温度の寄与度を、乗員の顔の向きに応じて調整する。   The contribution adjustment unit 24 determines the contribution of the temperature of the central region of the face region and the temperature of the peripheral region used in calculating the occupant's face temperature in the subsequent face temperature calculation unit 25 according to the orientation of the occupant's face. Adjust.

顔温度算出部25は、前記顔領域内の温度分布に基づいて、乗員の顔温度を算出する。また、寄与度調整部24において、顔領域の中央領域の温度と周辺領域の温度の寄与度が調整された場合には、調整後の寄与度を反映させて乗員の顔温度を算出する。   The face temperature calculation unit 25 calculates the occupant's face temperature based on the temperature distribution in the face region. In addition, when the contribution degree adjustment unit 24 adjusts the contribution degree between the temperature of the central area of the face area and the temperature of the peripheral area, the face temperature of the occupant is calculated by reflecting the adjusted contribution degree.

上記した熱画像生成部21、顔領域抽出部22、顔向き判定部23、寄与度調整部24、そして顔温度算出部25の各機能ブロックは、周知のマイクロコンピュータにより構成されており、顔温度算出装置が備える図示しないCPUが、図示しないROMまたはメモリに記憶しているプログラムを実行することで実現される   Each functional block of the thermal image generation unit 21, the face region extraction unit 22, the face orientation determination unit 23, the contribution degree adjustment unit 24, and the face temperature calculation unit 25 is configured by a well-known microcomputer. This is realized by a CPU (not shown) included in the calculation device executing a program stored in a ROM or memory (not shown).

図4は、実施例にかかる顔温度算出装置における処理を説明するフローチャートである。
実施例にかかる顔温度算出装置における処理を説明する。
顔温度算出装置の電源がONにされると、ステップ100において、顔向き判定部23は、図示しないメモリに保持されているカウンタとフラグの値を初期化する。
ここでは、後記する横向きカウンタC、更新フラグF1、そして顔向きフラグF2を初期化して、それぞれの値を「0」にする。
FIG. 4 is a flowchart for explaining processing in the face temperature calculation apparatus according to the embodiment.
Processing in the face temperature calculation apparatus according to the embodiment will be described.
When the power of the face temperature calculation device is turned on, in step 100, the face orientation determining unit 23 initializes counter and flag values held in a memory (not shown).
Here, a horizontal counter C, an update flag F1, and a face direction flag F2, which will be described later, are initialized, and their values are set to “0”.

ステップ200において、熱画像生成部21は、IRカメラ10から出力される熱画像データを取得し、IRカメラ10の温度検知範囲D内の温度分布を示す温度分布マップを生成する(図3の(b)参照)。
この温度分布マップでは、図3の(a)に示す温度検知範囲Dを格子状に区画して設定した検知領域Sのうち、温度が高い検知領域ほど高い濃度値で表示される。ここで、図中、符号aで示す検知領域の温度が最も高く、符号b、符号cで示す検知領域を経て、符号dで示す検知領域になるにつれて温度が低いことを意味する。
In step 200, the thermal image generation unit 21 acquires thermal image data output from the IR camera 10 and generates a temperature distribution map indicating the temperature distribution within the temperature detection range D of the IR camera 10 (((3) in FIG. 3). b)).
In this temperature distribution map, among the detection areas S set by dividing the temperature detection range D shown in FIG. 3A in a lattice shape, a detection area having a higher temperature is displayed with a higher density value. Here, in the figure, it means that the temperature of the detection region indicated by the symbol a is the highest, and the temperature decreases as the detection region indicated by the symbol d passes through the detection regions indicated by the symbols b and c.

ステップ300において、顔領域抽出部22は、IRカメラ10の温度検知範囲D内の温度分布に基づいて乗員Pの顔領域を抽出する。
具体的には、顔領域抽出部22は、IRカメラ10の取付け位置および角度に基づいて、乗員の顔が存在すると予測される範囲を絞り込んだうえで、例えば33±3℃のような所定の温度範囲内の温度を示す検知領域を検索する。そして、検索された検知領域が塊で存在する所定範囲を、乗員の顔領域Fとして抽出する。
In step 300, the face area extraction unit 22 extracts the face area of the occupant P based on the temperature distribution within the temperature detection range D of the IR camera 10.
Specifically, the face area extraction unit 22 narrows down a range in which the occupant's face is predicted based on the attachment position and angle of the IR camera 10, and then, for example, a predetermined value such as 33 ± 3 ° C. A detection area indicating a temperature within the temperature range is searched. Then, a predetermined range in which the detected detection areas exist in a lump is extracted as the occupant face area F.

例えば、図3の(b)において、符号aから符号cで示す検知領域の温度が33±3℃の範囲内にある場合、これら符号aから符号cで示す検知領域が集まっている範囲Fを、乗員の顔領域Fとする。   For example, in FIG. 3B, when the temperature of the detection area indicated by the reference sign a to the reference sign c is within a range of 33 ± 3 ° C., the range F in which the detection areas indicated by the reference sign a to the reference sign c are gathered. , The face area F of the passenger.

ステップ400において、顔向き判定部23は、顔領域F内における乗員Pの顔の左右方向における中心(顔中心)の位置を検出する。   In step 400, the face orientation determination unit 23 detects the position of the center (face center) in the left-right direction of the face of the occupant P within the face region F.

図5は、顔領域内における顔中心の検出と、顔の向きの判定を説明する図である。
顔中心の位置の検出は、例えば目や鼻は額に比べて温度が低いこと、眼鏡やサングラスは低温物として計測されることを利用して、温度分布マップの顔領域内で、目や鼻に対応する検知領域を検索し、検索した検知領域に基づいて顔中心の位置を検出する。
これにより、例えば図5の(a)において符号Cで示すような位置が、顔領域F内における顔中心Cの位置として検出される。
なお、顔中心の位置は、ステップ300において抽出した顔領域の左右対象性を利用して推定するようにしても良い。
FIG. 5 is a diagram for explaining detection of the face center in the face area and determination of the face orientation.
The detection of the center of the face is based on the fact that the temperature of the eyes and nose is lower than that of the forehead, and that glasses and sunglasses are measured as low-temperature objects. Is detected, and the face center position is detected based on the detected detection area.
Thereby, for example, the position indicated by the symbol C in FIG. 5A is detected as the position of the face center C in the face area F.
Note that the position of the face center may be estimated using the right / left target property of the face region extracted in step 300.

ステップ500において、顔向き判定部23は、顔領域F内における顔中心Cの位置に基づいて、顔の向きを判定する。そして、判定結果に基づいて、顔の向きによって異なる値となる「顔向きフラグF2」と「更新フラグF1」の値を設定する。   In step 500, the face orientation determination unit 23 determines the face orientation based on the position of the face center C in the face region F. Then, based on the determination result, the values of “face orientation flag F2” and “update flag F1” that are different values depending on the face orientation are set.

顔領域F内における顔中心Cの位置に基づく顔の向きの判定を例示する。
例えば、図5の(a)に示す顔領域Fが抽出されている場合、顔向き判定部23は、抽出されている顔領域Fの左右方向における幅Wを求める。そして、顔領域Fの幅方向における略中央位置(図中符号Xで示す)に顔中心Cが位置する場合、顔の向きが「正面向き」であると判定する。
また、顔領域Fの幅方向における中央Xを基準に設定される所定範囲(図中5の(b)において符号Yで示す範囲)内に顔中心Cが位置する場合、顔の向きが「斜め向き」であると判定する。
さらに、図中符号Zで示す範囲内に顔中心が位置する場合、乗員Pの顔の頬のうちの一方がIRカメラ10からほぼ見えなくなる位置に、顔中心が位置することになるので、この場合は、顔の向きが「横向き」であると判定する。
The determination of the orientation of the face based on the position of the face center C in the face area F is illustrated.
For example, when the face area F shown in FIG. 5A is extracted, the face orientation determination unit 23 obtains the width W in the left-right direction of the extracted face area F. Then, when the face center C is located at a substantially central position (indicated by the symbol X in the figure) in the width direction of the face region F, it is determined that the face direction is “front-facing”.
Further, when the face center C is located within a predetermined range (a range indicated by a symbol Y in (b) of FIG. 5) set based on the center X in the width direction of the face region F, the face orientation is “oblique” Direction.
Furthermore, when the face center is located within the range indicated by the symbol Z in the figure, the face center is located at a position where one of the cheeks of the face of the occupant P is almost invisible from the IR camera 10. In this case, it is determined that the face orientation is “landscape”.

顔向き判定部23が行う処理を詳細に説明する。
図6は、顔向き判定部23が行う処理を説明するフローチャートである。
Processing performed by the face orientation determination unit 23 will be described in detail.
FIG. 6 is a flowchart for explaining processing performed by the face orientation determination unit 23.

前記したステップ400における処理が完了すると、ステップ501において、顔向き判定部23は、顔領域内における顔中心の位置を特定する。   When the processing in step 400 is completed, in step 501, the face orientation determination unit 23 specifies the position of the face center in the face area.

ステップ502において、顔向き判定部23は、顔が「横向き」であるか否かを判定する。
顔が「横向き」であるか否かは、顔領域F内における顔中心Cの位置が、顔領域Fの右または左端の近傍領域(図5の(b)の符号Zで示す領域)内にあるか否かに基づき判定する。
In step 502, the face orientation determination unit 23 determines whether or not the face is “landscape”.
Whether or not the face is “landscape” is determined based on whether the position of the face center C in the face region F is within a region near the right or left end of the face region F (a region indicated by a symbol Z in FIG. 5B). Judgment based on whether or not there is.

ステップ502において「横向き」であると判定された場合、ステップ503において、顔向き判定部23は、横向きカウンタCを「1」だけインクリメントする。
ここで、横向きカウンタCの値は、顔が「横向き」であると判定されてからの継続時間を示す。
If it is determined in step 502 that it is “landscape”, in step 503, the face orientation determination unit 23 increments the landscape counter C by “1”.
Here, the value of the sideways counter C indicates the duration time after the face is determined to be “sideways”.

ステップ504において、顔向き判定部23は、横向きカウンタCの値と所定時間T0とを比較して、横向きカウンタCの値が所定時間T0未満であるか否かを確認する。
横向きカウンタCが所定時間T0未満である場合(C<T0)、ステップ505において、顔向き判定部23は、更新フラグF1の値を「0」に設定し、顔向きフラグF2の値を「3」に設定する。
In step 504, the face orientation determination unit 23 compares the value of the landscape counter C with a predetermined time T0 to check whether the value of the landscape counter C is less than the predetermined time T0.
When the horizontal counter C is less than the predetermined time T0 (C <T0), in step 505, the face direction determination unit 23 sets the value of the update flag F1 to “0” and sets the value of the face direction flag F2 to “3”. To "".

ここで、横向きカウンタCが所定時間T0未満である場合(C<T0)には、顔が横を向いている時間が短時間であり、この短時間の間には、顔の皮膚温度の変化がほとんど起こらないと判断できる。
よって、この場合には、顔が「横向き」になる直前の結果を保持するために、更新フラグF1の値を「0」に設定し、顔向きフラグF2の値を「3」に設定する。
Here, when the sideways counter C is less than the predetermined time T0 (C <T0), the time during which the face faces sideways is a short time, and during this short time, the change in the skin temperature of the face Can be judged to hardly occur.
Therefore, in this case, the value of the update flag F1 is set to “0” and the value of the face direction flag F2 is set to “3” in order to hold the result immediately before the face becomes “landscape”.

ここで、更新フラグF1の値が「0」であることは、顔温度の算出結果を更新しないことを意味し、顔向きフラグF2の値が「3」であることは、顔が「横向き」である状態が短時間であることを意味する。   Here, the value of the update flag F1 being “0” means that the calculation result of the face temperature is not updated, and the value of the face direction flag F2 being “3” means that the face is “landscape”. This means that the state is a short time.

ちなみに、所定時間T0は、顔の皮膚温度の変化がほとんど起こらない時間、例えば30秒に設定される。すなわち、顔が「横向き」である時間が30秒未満である場合には、30秒というごく短時間の間では、顔温度の変化がほとんど起こらないとして、更新フラグF1の値を「0」にして、顔温度の算出結果を更新しないようにする。   Incidentally, the predetermined time T0 is set to a time when the change in the skin temperature of the face hardly occurs, for example, 30 seconds. That is, if the time during which the face is “landscape” is less than 30 seconds, the value of the update flag F1 is set to “0” because the face temperature hardly changes in a very short time of 30 seconds. Thus, the calculation result of the face temperature is not updated.

ステップ504において横向きカウンタCの値が所定時間T0未満でない場合、ステップ506において、顔向き判定部23は、更新フラグF1の値を「1」に設定し、顔向きフラグF2の値を「2」に設定する。
ここで、横向きカウンタCが所定時間T0未満でない場合、すなわち横向きカウンタCの値が所定時間T0以上である場合(C≧T0)には、顔のIRカメラ10から見えない部位の温度は計測できないと判断する。
If the value of the horizontal direction counter C is not less than the predetermined time T0 in step 504, in step 506, the face direction determination unit 23 sets the value of the update flag F1 to “1” and sets the value of the face direction flag F2 to “2”. Set to.
Here, when the horizontal counter C is not less than the predetermined time T0, that is, when the value of the horizontal counter C is equal to or longer than the predetermined time T0 (C ≧ T0), the temperature of the part of the face that cannot be seen from the IR camera 10 cannot be measured. Judge.

よって、この場合には、後記する寄与度調整部24において、IRカメラ10から見えている頬の部分の温度を用いて、IRカメラ10から見えていない側の頬の部分の温度情報を補完する必要があるので、更新フラグの値を「1」に設定し、顔向きフラグF2の値を「2」に設定する。
ここで、更新フラグF1の値が「1」であることは、顔温度の算出結果を更新することを意味し、顔向きフラグF2の値が「2」であることは、顔が「横向き」であることを意味する。
Therefore, in this case, the contribution degree adjustment unit 24 described later uses the temperature of the cheek portion visible from the IR camera 10 to supplement the temperature information of the cheek portion on the side not visible from the IR camera 10. Since it is necessary, the value of the update flag is set to “1”, and the value of the face direction flag F2 is set to “2”.
Here, the value of the update flag F1 being “1” means updating the calculation result of the face temperature, and the value of the face direction flag F2 being “2” means that the face is “landscape”. It means that.

ステップ502において「横向き」であると判定されなかった場合、すなわち顔が「横向き」でなく、顔の両方の頬がIRカメラ10から見える位置にあると判定された場合、ステップ507において、顔向き判定部23は、顔が「横向き」であると判定されてからの時間を示す横向きカウンタCの値を「0」に設定する。   If it is not determined in step 502 to be “landscape”, that is, if it is determined that the face is not “landscape” and both cheeks of the face are visible from the IR camera 10, face orientation is determined in step 507. The determination unit 23 sets the value of the horizontal counter C indicating “time” after the face is determined to be “horizontal” to “0”.

ステップ508において、顔向き判定部23は、顔が「斜め向き」であるか否かを判定する。
顔が「斜め向き」であるか否かは、顔領域F内における顔中心Cの位置が、顔領域Fの左右方向における中央位置Xから外れているか否かに基づき判定する。
よって、顔中心Cの位置が中央位置Xから外れている場合には、顔が「斜め向き」であると判定し、外れていない場合には、顔が「斜め向き」ではないと判定する。
In step 508, the face orientation determination unit 23 determines whether or not the face is “oblique”.
Whether or not the face is “inclined” is determined based on whether or not the position of the face center C in the face area F deviates from the center position X in the left-right direction of the face area F.
Therefore, when the position of the face center C deviates from the center position X, it is determined that the face is “oblique”, and when it is not deviated, it is determined that the face is not “oblique”.

ステップ508において「斜め向き」であると判定された場合、ステップ509において、顔向き判定部23は、更新フラグF1の値を「1」に設定し、顔向きフラグF2の値を「1」に設定する。
一方、ステップ508において「斜め向き」でないと判定された場合、ステップ510において、顔向き判定部23は、更新フラグの値を「1」に設定し、顔向きフラグF2の値を「0」に設定する。
ここで、更新フラグF1の値が「1」であることは、顔温度の算出結果を更新することを意味し、顔向きフラグF2の値が「1」であることは、顔が「斜め向き」であることを意味し、顔向きフラグF2の値が「0」であることは、顔が「正面向き」であることを意味する。
If it is determined in step 508 that the direction is “oblique”, in step 509, the face direction determination unit 23 sets the value of the update flag F1 to “1” and sets the value of the face direction flag F2 to “1”. Set.
On the other hand, if it is determined in step 508 that it is not “oblique”, the face orientation determination unit 23 sets the value of the update flag to “1” and the value of the face orientation flag F2 to “0” in step 510. Set.
Here, the value of the update flag F1 being “1” means updating the calculation result of the face temperature, and the value of the face direction flag F2 being “1” means that the face is “oblique” And the value of the face direction flag F2 being “0” means that the face is “front-facing”.

このようにして、顔向き判定部23は、顔領域F内における顔中心の位置Cに基づいて、乗員の顔の向きを判定する。そして、後段の寄与度調整部24での処理に必要となる顔向きフラグF2の値と、後段の顔温度算出部25での処理に必要となる更新フラグF1の値とを設定する。
なお、設定された「更新フラグF1」と「顔向きフラグF2」の値は、図示しないメモリに保持される。
In this way, the face orientation determining unit 23 determines the face orientation of the occupant based on the face center position C in the face region F. Then, the value of the face direction flag F2 required for the processing in the contribution level adjustment unit 24 in the subsequent stage and the value of the update flag F1 required in the processing in the face temperature calculation unit 25 in the subsequent stage are set.
The set values of “update flag F1” and “face orientation flag F2” are stored in a memory (not shown).

ステップ600において、寄与度調整部24は、ステップ500における処理で設定された更新フラグF1および顔向きフラグF2に基づいて、後記する顔温度算出部25において乗員の顔の表面の皮膚温度(顔温度)を算出する際に用いられる補正素子数と補正素子合計値を求める。   In step 600, the contribution degree adjustment unit 24 determines the skin temperature (face temperature) of the occupant's face in the face temperature calculation unit 25 described later based on the update flag F1 and the face orientation flag F2 set in the process in step 500. ) Is calculated and the total number of correction elements used.

寄与度調整部24が行う処理を詳細に説明する。
図7は、寄与度調整部24が行う処理を説明するフローチャートである。
前記したステップ500における処理が完了すると、ステップ601において、寄与度調整部24は、ステップ500において設定された「更新フラグF1」と「顔向きフラグF2」の値を、図示しないメモリから読み込む。
The process performed by the contribution adjustment unit 24 will be described in detail.
FIG. 7 is a flowchart for explaining processing performed by the contribution degree adjustment unit 24.
When the processing in step 500 is completed, in step 601, the contribution adjustment unit 24 reads the values of “update flag F1” and “face orientation flag F2” set in step 500 from a memory (not shown).

ステップ602において、寄与度調整部24は、読み込まれた更新フラグF1の値が「1」であるか否か、すなわち顔温度の算出結果の更新が有効であるか否かを確認する。   In step 602, the contribution degree adjustment unit 24 checks whether or not the value of the read update flag F1 is “1”, that is, whether or not the update of the calculation result of the face temperature is valid.

ステップ602において更新フラグF1の値が「1」でない場合、処理を終了する。
ステップ602において更新フラグF1の値が「1」である場合、ステップ603において、寄与度調整部24は、顔向きフラグF2の値が「0」であるか否か、すなわち顔が「正面向き」であるか否かを確認する。
If the value of the update flag F1 is not “1” in step 602, the process ends.
When the value of the update flag F1 is “1” in step 602, in step 603, the contribution degree adjustment unit 24 determines whether or not the value of the face direction flag F2 is “0”, that is, the face is “front-facing”. It is confirmed whether or not.

ステップ603において顔向きフラグF2の値が「0」である場合、ステップ604において、寄与度調整部24は、乗員の顔の右側の頬の温度を測定する温度検出素子と、左側の頬の温度を測定する温度検出素子とから、それぞれ同数ずつ温度検出素子を選択する。そして、選択した温度検出素子の数を補正素子数とし、さらに、選択した温度検出素子の測定値の合計値を、補正素子合計値とする。   When the value of the face orientation flag F2 is “0” in step 603, in step 604, the contribution degree adjustment unit 24 measures the temperature of the right cheek of the occupant's face and the temperature of the left cheek. The same number of temperature detection elements are selected from the temperature detection elements that measure the temperature. The number of selected temperature detection elements is set as the number of correction elements, and the total value of measured values of the selected temperature detection elements is set as the correction element total value.

ここで、ステップ604の処理をより詳細に説明する。
図8は、顔の向きが正面向きである場合の温度分布マップの一例であって、顔領域における中央領域と周辺領域とを説明する図であり、符号FCで示す範囲は顔の中央領域(額領域)の温度分布を示し、符号FL、FRで示す範囲は、それぞれ顔の周辺領域(左頬領域、右頬領域)の温度分布を示す。
Here, the process of step 604 will be described in more detail.
FIG. 8 is an example of a temperature distribution map in the case where the face direction is the front direction, and is a diagram for explaining the central region and the peripheral region in the face region, and the range indicated by the symbol FC is the central region of the face ( Forehead region), and the ranges indicated by symbols FL and FR indicate the temperature distribution of the peripheral region (left cheek region and right cheek region) of the face, respectively.

熱画像データに基づいて、図8の(a)に示すような温度分布マップが得られている場合、ステップ604において、寄与度調整部24は、左頬領域FLと右頬領域FRとから同数ずつ検知領域Sを選択し(図8の(b)参照)、選択した検知領域の数を補正素子数とする。
上記したように、IRカメラ10のセンサ面には複数の温度検出素子が設けられており、各温度検出素子は、それぞれ決められた検知領域S内の平均温度を算出するように設定されているので、例えば左頬領域FL内から選択した検知領域Sの数は、そのまま左頬の温度を測定する温度検出素子の中から選択した温度検出素子の数になるからである。
When the temperature distribution map as shown in FIG. 8A is obtained based on the thermal image data, in step 604, the contribution degree adjustment unit 24 uses the same number from the left cheek region FL and the right cheek region FR. The detection areas S are selected one by one (see FIG. 8B), and the number of selected detection areas is set as the number of correction elements.
As described above, a plurality of temperature detection elements are provided on the sensor surface of the IR camera 10, and each temperature detection element is set so as to calculate an average temperature in the determined detection region S. Therefore, for example, the number of detection areas S selected from the left cheek area FL is the same as the number of temperature detection elements selected from the temperature detection elements for measuring the temperature of the left cheek.

また、同様の理由により、寄与度調整部24は、選択した検知領域Sの温度の合計値を求めて、補正素子合計値とする。   For the same reason, the contribution adjustment unit 24 obtains the total value of the temperatures of the selected detection region S and sets it as the correction element total value.

ここで、例えば左右の頬領域から、4つずつ検知領域を選択し、選択した各検知領域の温度が32℃である場合、補正素子数は「8」となり、補正素子合計値は、選択した検知領域の温度の合計値、すなわち「254(32×8)」となる。   Here, for example, when four detection areas are selected from the left and right cheek areas, and the temperature of each selected detection area is 32 ° C., the number of correction elements is “8”, and the total correction element value is selected. The total value of the temperature in the detection area, that is, “254 (32 × 8)”.

このようにすることで、顔温度算出部25において顔領域F内の温度分布に基づいて乗員の顔温度を算出する際における、顔領域Fの周辺領域(左頬領域FL、右頬領域FR)の温度の寄与度が、中央領域FCの温度の寄与度よりも大きくなるようにし、さらに、顔領域Fの中央領域FCを挟んで、顔領域Fの左右方向における一方側にある左頬領域FLの温度と、他方側にある右頬領域FRの温度の寄与度が等しくなるようにしている。   In this way, when the face temperature calculation unit 25 calculates the occupant's face temperature based on the temperature distribution in the face area F, the peripheral area of the face area F (left cheek area FL, right cheek area FR). The left cheek region FL on the one side in the left-right direction of the face region F across the center region FC of the face region F is further made to be greater than the contribution of the temperature of the center region FC. And the contribution of the temperature of the right cheek region FR on the other side are made equal.

ステップ603において顔向きフラグF2の値が「0」でない場合、ステップ605において、寄与度調整部24は、顔向きフラグF2の値が「1」であるか否か、すなわち顔が「斜め向き」であるか否かを確認する。   If the value of the face orientation flag F2 is not “0” in step 603, in step 605, the contribution degree adjustment unit 24 determines whether or not the value of the face orientation flag F2 is “1”, that is, the face is “oblique”. It is confirmed whether or not.

ステップ605において顔向きフラグF2の値が「1」である場合、ステップ606において、寄与度調整部24は、乗員の顔の右側の頬の温度を測定する温度検出素子と、左側の頬の温度を測定する温度検出素子のうち、IRカメラ10から見えている面積が狭い方の頬の温度を測定する温度検出素子を選択する。そして、選択した温度検出素子に基づいて、補正素子数と補正素子合計値を求める。   When the value of the face direction flag F2 is “1” in step 605, in step 606, the contribution degree adjustment unit 24 detects the temperature of the right cheek of the occupant's face and the temperature of the left cheek. The temperature detection element that measures the temperature of the cheek with the smaller area visible from the IR camera 10 is selected. Then, based on the selected temperature detection element, the number of correction elements and the total correction element value are obtained.

ここで、ステップ606の処理をより詳細に説明する。
図9は、顔の向きが斜め向きである場合の温度マップの一例であって、符号FCで示す範囲は顔の中央領域(額領域)の温度分布を示し、符号FL、FRで示す範囲は、それぞれ顔の周辺領域(左頬領域、右頬領域)の温度分布を示す。
Here, the processing of step 606 will be described in more detail.
FIG. 9 is an example of a temperature map when the face orientation is oblique. The range indicated by reference character FC indicates the temperature distribution of the center region (forehead region) of the face, and the ranges indicated by reference characters FL and FR are shown in FIG. The temperature distribution of the peripheral area (left cheek area, right cheek area) of each face is shown.

熱画像データに基づいて、図9の(a)に示すような温度分布マップが得られている場合、ステップ606において、寄与度調整部24は、左頬領域FLと右頬領域FRのうちの検知領域F内における面積が小さい方から、検知領域を選択し、選択した検知領域の数を補正素子数とする。そして、選択した検知領域Sの温度の合計値を求めて、補正素子合計値とする。   When a temperature distribution map as shown in FIG. 9A is obtained based on the thermal image data, in step 606, the contribution degree adjustment unit 24 selects one of the left cheek region FL and the right cheek region FR. A detection region is selected from the smaller area in the detection region F, and the number of selected detection regions is set as the number of correction elements. And the total value of the temperature of the selected detection area | region S is calculated | required, and it is set as a correction element total value.

図9の(a)の場合、右頬領域FR内の検知領域の数の方が、左頬領域FL内の検知領域の数よりも少なく、右頬領域FRの顔領域Fに占める面積が左頬領域FLよりも小さいので、右頬領域FR内の中から検知領域を選択する。
この際、右頬領域FR内に含まれる検知領域のうち、顔中心から離れた位置にある検知領域を選択する。
なお、図9の(a)の場合、右頬領域FR内には2つしか検知領域が含まれていないので、これら2つが顔中心から離れた位置にある検知領域となる。
In the case of FIG. 9A, the number of detection areas in the right cheek area FR is smaller than the number of detection areas in the left cheek area FL, and the area occupied by the right cheek area FR in the face area F is left. Since the area is smaller than the cheek area FL, the detection area is selected from the right cheek area FR.
At this time, a detection area at a position away from the center of the face is selected from the detection areas included in the right cheek area FR.
In the case of FIG. 9A, since only two detection areas are included in the right cheek area FR, these two detection areas are located away from the face center.

このようにすることで、顔温度算出部25において顔領域F内の温度分布に基づいて乗員の顔温度を算出する際における、顔領域Fの周辺領域(左頬領域FL、右頬領域FR)の温度の寄与度が、中央領域FCの温度の寄与度よりも大きくなるようにし、さらにIRカメラ10から見えている範囲が狭い側の頬領域の温度の寄与度が、見えている範囲の広い側の頬領域の温度の寄与度よりも大きくなるようにしている。   In this way, when the face temperature calculation unit 25 calculates the occupant's face temperature based on the temperature distribution in the face area F, the peripheral area of the face area F (left cheek area FL, right cheek area FR). The contribution of the temperature of the cheek region on the side where the range visible from the IR camera 10 is narrower is larger than the contribution of the temperature of the central region FC. It is set to be larger than the contribution of the temperature of the side cheek region.

ステップ605において顔向きフラグの値が「1」でない場合、すなわち顔が「横向き」である場合、ステップ607において、寄与度調整部24は、IRカメラ10で見えている側の乗員の頬の温度を測定する温度検出素子を選択する。そして、選択した温度検出素子に基づいて、補正素子数と補正素子合計値を求める。
IRカメラ10で見えていない側の頬の温度情報を、見えている側の頬の温度情報を用いて補完するためである。
If the value of the face orientation flag is not “1” in step 605, that is, if the face is “landscape”, in step 607, the contribution degree adjustment unit 24 determines the temperature of the cheek of the passenger on the side visible by the IR camera 10. Select a temperature detection element to measure. Then, based on the selected temperature detection element, the number of correction elements and the total correction element value are obtained.
This is to supplement the temperature information of the cheek on the side not visible with the IR camera 10 using the temperature information of the cheek on the visible side.

ここで、ステップ607の処理をより詳細に説明する
図10は、顔の向きが斜め向きである場合の温度マップの一例であって、符号FCで示す範囲は顔の中央領域(額領域)の温度分布を示し、符号FLで示す範囲は、顔の周辺領域(左頬領域)の温度分布を示す。
Here, the process of step 607 will be described in more detail. FIG. 10 is an example of a temperature map when the face orientation is oblique, and the range indicated by the symbol FC is the center area (forehead area) of the face. The temperature distribution indicates the temperature distribution in the peripheral area (left cheek area) of the face.

熱画像データに基づいて、図10の(a)示すような温度分布マップが得られている場合、ステップ607において、寄与度調整部24は、IRカメラ10で見えている側にある左頬領域FL内の検知領域の中から、検知領域を選択し、選択した検知領域の数を補正素子数とする。そして、選択した検知領域Sの温度の合計値を求めて、補正素子合計値とする。
この際、左頬領域FL内に含まれる検知領域のうち、顔中心から離れた位置にある検知領域を選択する。左頬領域FL内の顔中心から離れた外側に位置する検知領域が選択されて、寄与度が調整されるようにすることで、顔領域F内における中央領域FCと周辺領域FL、FRとを明確に区別しなくても寄与度の調整が行えるようにするためである。
When the temperature distribution map as shown in FIG. 10A is obtained based on the thermal image data, in step 607, the contribution degree adjustment unit 24 determines the left cheek region on the side visible with the IR camera 10. A detection area is selected from the detection areas in the FL, and the number of selected detection areas is set as the number of correction elements. And the total value of the temperature of the selected detection area | region S is calculated | required, and it is set as a correction element total value.
At this time, a detection area at a position away from the center of the face is selected from detection areas included in the left cheek area FL. The detection area located outside the face center in the left cheek area FL is selected, and the contribution is adjusted so that the central area FC and the peripheral areas FL and FR in the face area F are adjusted. This is because the contribution can be adjusted without clearly distinguishing.

このようにすることで、顔温度算出部25において顔領域F内の温度分布に基づいて乗員の顔温度を算出する際における、顔領域Fの周辺領域(左頬領域FL)の温度の寄与度が、中央領域FCの温度の寄与度よりも大きくなるようにし、さらにIRカメラ10から見えていない側の頬領域の温度が、見えている側の頬領域の温度で補完されるようにしている。   In this way, when the face temperature calculation unit 25 calculates the occupant's face temperature based on the temperature distribution in the face area F, the degree of contribution of the temperature in the peripheral area (left cheek area FL) of the face area F However, the temperature of the cheek region on the side not visible from the IR camera 10 is complemented by the temperature of the cheek region on the visible side. .

ここで、図10の(a)の場合、右側頬領域FRは見えていないが、顔の向きが横向きであると判断された場合でも、右側頬領域が僅かに見ていることがある。
この場合は、左頬領域FLと右頬領域FRのうちの検知領域F内における面積が広い方から、検知領域を選択することになる。
Here, in the case of FIG. 10A, the right cheek region FR is not visible, but the right cheek region may be slightly seen even if the face orientation is determined to be landscape.
In this case, the detection area is selected from the one having the larger area in the detection area F of the left cheek area FL and the right cheek area FR.

このようにして、寄与度調整部24は、顔向き判定部23において判定した顔の向きに応じて、補正素子数と補正素子合計値とを決定する。
なお、決定された補正素子数と補正素子合計値は、図示しないメモリに保持される。
In this way, the contribution adjustment unit 24 determines the number of correction elements and the total correction element value according to the face orientation determined by the face direction determination unit 23.
The determined number of correction elements and the total correction element value are held in a memory (not shown).

ステップ700において、顔温度算出部25は、ステップ600で算出された温度検出素子数および素子合計値を用いて乗員の顔温度を算出する。   In step 700, the face temperature calculation unit 25 calculates the occupant's face temperature using the number of temperature detection elements and the element total value calculated in step 600.

顔温度算出部25が行う処理を説明する。
図11は、顔温度算出部25が行う処理を説明するフローチャートである。
ステップ701において、顔温度算出部25は、ステップ500、600における処理により設定された「更新フラグF1」の値と、補正素子数と、補正素子合計値とを、図示しないメモリから読み込む。
Processing performed by the face temperature calculation unit 25 will be described.
FIG. 11 is a flowchart for describing processing performed by the face temperature calculation unit 25.
In step 701, the face temperature calculation unit 25 reads the value of the “update flag F1”, the number of correction elements, and the total correction element value set by the processing in steps 500 and 600 from a memory (not shown).

ステップ702において、顔温度算出部25は、読み込まれた更新フラグの値が「1」であるか否か、すなわち顔温度の算出結果の更新が有効であるか否かを確認する。   In step 702, the face temperature calculation unit 25 checks whether or not the value of the read update flag is “1”, that is, whether or not the update of the calculation result of the face temperature is valid.

ステップ702において更新フラグの値が「1」である場合、ステップ703において、顔温度算出部25は、前記したステップ300における処理で抽出した顔領域F内の顔領域全素子数と顔領域全素子合計値を求める
具体的には、顔領域F内の検知領域Sの数をカウントして顔領域全素子数とし、顔領域F内の検知領域Sの温度の合計値を求めて顔領域全素子合計値とする。
When the value of the update flag is “1” in step 702, in step 703, the face temperature calculation unit 25 determines the total number of face area elements and the face area elements in the face area F extracted in the processing in step 300 described above. Specifically, the total value is obtained by counting the number of detection areas S in the face area F to obtain the total number of elements in the face area F, and obtaining the total value of the temperatures of the detection areas S in the face area F. The total value.

ステップ704において、顔温度算出部25は、顔温度(平均顔皮膚温度)を下記式(1)に基づいて算出する。
顔温度=(顔領域全素子合計値+補正素子合計値)/(顔領域全素子数+補正素子数)・・・・(1)
In step 704, the face temperature calculation unit 25 calculates the face temperature (average face skin temperature) based on the following equation (1).
Face temperature = (total value of all elements in face area + total value of correction elements) / (total number of elements in face area + number of correction elements) (1)

ステップ705において、顔温度算出部25は、算出した顔温度を、保存パラメータP_Resultの値に設定し、図示しないメモリに保持させる。   In step 705, the face temperature calculation unit 25 sets the calculated face temperature to the value of the storage parameter P_Result and stores it in a memory (not shown).

ステップ702において更新フラグの値が「1」でない場合、ステップ706において、顔温度算出部25は、図示しないメモリに記憶されている保存パラメータP_Resultの値を変更せずに、処理を終了する。
すなわち、更新フラグの値が「1」でなく「0」である場合には、過去において算出された顔温度(顔の向きが横向きであると判定される直前に算出された顔温度)を示す保存パラメータP_Resultが、そのままメモリに保持される。
If the value of the update flag is not “1” in step 702, in step 706, the face temperature calculation unit 25 ends the process without changing the value of the saved parameter P_Result stored in the memory (not shown).
That is, when the value of the update flag is “0” instead of “1”, it indicates the face temperature calculated in the past (the face temperature calculated immediately before it is determined that the face orientation is landscape). The saved parameter P_Result is held in the memory as it is.

ステップ800において、顔温度算出部25は、ステップ700における処理で算出した乗員の顔温度を空調装置3に出力したのち、ステップ200の処理に移行する。これにより、以降、同様の処理が繰り返されることになる。   In step 800, the face temperature calculation unit 25 outputs the occupant face temperature calculated in the process in step 700 to the air conditioner 3, and then proceeds to the process in step 200. Thereby, the same processing is repeated thereafter.

ここで、上記したステップ200と熱画像生成部21が、発明における熱画像生成部に相当し、ステップ300と顔領域抽出部22が、発明における顔領域抽出部に相当し、ステップ400およびステップ500と顔向き判定部23が、発明における顔向き判定部に相当し、ステップ600と寄与度調整部24が、発明における寄与度調整部に相当し、ステップ700と顔温度算出部25が、発明における顔温度算出部に相当する。   Here, the above-described step 200 and the thermal image generation unit 21 correspond to the thermal image generation unit in the invention, and the step 300 and the face area extraction unit 22 correspond to the face area extraction unit in the invention. The face orientation determination unit 23 corresponds to the face orientation determination unit in the invention, the step 600 and the contribution degree adjustment unit 24 correspond to the contribution degree adjustment unit in the invention, and the step 700 and the face temperature calculation unit 25 in the invention. It corresponds to a face temperature calculation unit.

以上の通り、本実施例では、IRカメラ10の温度検知範囲D内の温度分布を示す温度分布マップIMを生成する熱画像生成部21と、温度分布マップIM内における乗員Pの顔領域Fを抽出する顔領域抽出部22と、顔領域F内の温度分布に基づいて、乗員Pの顔温度を算出する顔温度算出部25とを備える顔温度算出装置において、乗員Pの顔の向きを判定する顔向き判定部23と、乗員Pの顔の向きに基づいて、乗員Pの顔温度を算出する際の顔領域Fの中央領域FCの温度と周辺領域FL、FRの温度の寄与度を調整する寄与度調整部24とを備える構成とした。
これにより、乗員の顔温度を算出する際に、算出される乗員の顔温度が、乗員の顔の向きにより大きく異なるようなことがないので、乗員の顔の向きを考慮した安定した測定結果が得られるようになる。
As described above, in this embodiment, the thermal image generation unit 21 that generates the temperature distribution map IM indicating the temperature distribution in the temperature detection range D of the IR camera 10 and the face region F of the occupant P in the temperature distribution map IM. In a face temperature calculation device including a face area extraction unit 22 to be extracted and a face temperature calculation unit 25 to calculate the face temperature of the occupant P based on the temperature distribution in the face area F, the orientation of the occupant P's face is determined. Adjusting the degree of contribution of the temperature of the central area FC of the face area F and the temperatures of the peripheral areas FL and FR when calculating the face temperature of the occupant P based on the face orientation determination unit 23 that performs The contribution degree adjusting unit 24 is provided.
As a result, when calculating the occupant's face temperature, the calculated occupant's face temperature does not vary greatly depending on the occupant's face orientation. It will be obtained.

また、寄与度調整部24が、顔領域Fの周辺領域FL、FRの温度の寄与度を、中央領域FCの温度の寄与度よりも大きくする構成とした。
これにより、乗員Pの顔領域Fの左右方向における中央付近の領域(中央領域FC)を額領域、中央領域FCを挟んで左右に位置する周辺領域FL、FRを頬領域とみなして、乗員の顔の向きに応じて、中央領域FCと、周辺領域FL、FRの面積が同等となるように、各領域の使用比率を変更したうえで顔温度が算出されるので、顔の額付近と頬付近の温度情報を反映する顔温度が算出される。
よって、乗員の顔温度を算出する際に、算出される乗員の顔温度が、乗員の顔の向きにより大きく異なるようなことがないので、乗員の顔の向きを考慮した安定した測定結果が得られるようになる。
なお、顔領域Fの中央領域FCの温度の寄与度を、周辺領域FL、FRの温度の寄与度よりも小さくすることでも同様の効果が得られる。
Further, the contribution adjustment unit 24 is configured to make the contribution of the temperatures of the peripheral areas FL and FR of the face area F larger than the contribution of the temperature of the central area FC.
As a result, the region near the center (center region FC) in the left-right direction of the face region F of the occupant P is regarded as the forehead region, and the peripheral regions FL and FR positioned to the left and right across the center region FC are regarded as cheek regions. Depending on the orientation of the face, the face temperature is calculated after changing the usage ratio of each area so that the area of the central area FC and the peripheral areas FL and FR are equal. A face temperature reflecting nearby temperature information is calculated.
Therefore, when calculating the occupant's face temperature, the calculated occupant's face temperature does not vary greatly depending on the occupant's face orientation, so a stable measurement result considering the occupant's face orientation is obtained. Be able to.
The same effect can be obtained by making the contribution of the temperature of the central area FC of the face area F smaller than the contribution of the temperatures of the peripheral areas FL and FR.

さらに、顔向き判定部23が、顔領域F内における乗員Pの顔の左右方向における中心Cの位置に基づいて、乗員Pの顔の向きを、少なくとも正面向き、斜め向き、横向きのうちの何れかに判定する構成とした。
これにより、顔領域F内における乗員の顔中心Cの位置を検出するという単純な操作で、顔の向きを判定することができる。
Further, the face orientation determination unit 23 determines the orientation of the face of the occupant P based on the position of the center C in the left-right direction of the face of the occupant P in the face area F, at least one of front, oblique, and sideways. It was set as the structure which judges.
Thus, the face orientation can be determined by a simple operation of detecting the position of the occupant's face center C in the face area F.

また、寄与度調整部24は、乗員Pの顔の向きが正面向きであると判定された場合、中央領域FCを挟んで顔領域Fの左右方向における一方側にある周辺領域FLの温度と、他方側にある周辺領域FRの温度の寄与度を等しく設定する構成とした。
中央領域FCを挟んで顔領域Fの左右方向における一方側にある周辺領域FLの温度は、例えば左頬の温度を、他方側にある周辺領域FRの温度は、例えば右頬の温度を意味するので、左右の頬に温度差がある場合に、顔温度の算出に左右の頬の温度情報を均等に反映させることができる。
Further, when it is determined that the direction of the face of the occupant P is the front direction, the contribution adjustment unit 24 determines the temperature of the peripheral area FL on one side in the left-right direction of the face area F across the center area FC, The contribution of the temperature of the peripheral region FR on the other side is set to be equal.
The temperature of the peripheral area FL on one side in the left-right direction of the face area F across the central area FC means, for example, the temperature of the left cheek, and the temperature of the peripheral area FR on the other side means, for example, the temperature of the right cheek. Therefore, when there is a temperature difference between the left and right cheeks, the temperature information of the left and right cheeks can be uniformly reflected in the calculation of the face temperature.

さらに、寄与度調整部24は、乗員Pの顔の向きが斜め向きであると判定された場合、中央領域FCを挟んで顔領域Fの左右方向における一方側にある周辺領域FLと、他方側にある周辺領域FRとのうちの、顔領域F内における面積が小さい方の周辺領域の温度の寄与度を高く設定する構成とした。
これにより、非接触温度センサであるIRカメラ10に対して乗員が斜めを向いている場合には、面積が小さい側の頬の寄与度が高くなるので、顔温度の算出に際して、面積が小さい側の頬の温度情報を面積が大きい側の頬の温度情報と同程度に反映させることができる。
Further, when it is determined that the orientation of the face of the occupant P is oblique, the contribution degree adjustment unit 24 has a peripheral area FL on one side in the left-right direction of the face area F across the center area FC, and the other side. Of the peripheral area FR in the area of the face area F, and the contribution of the temperature of the peripheral area with the smaller area in the face area F is set high.
As a result, when the occupant is facing obliquely with respect to the IR camera 10 that is a non-contact temperature sensor, the contribution of the cheek on the side with the smaller area is increased, so that the side with the smaller area is calculated when calculating the face temperature. The cheek temperature information can be reflected to the same extent as the cheek temperature information on the larger side.

また、寄与度調整部24は、乗員Pの顔の向きが横向きであると判定され、かつ横向きであると判定されている時間が所定時間T0以上である場合、中央領域FCを挟んで顔領域Fの左右方向における一方側にある周辺領域FLと、他方側にある周辺領域FRとのうちの、顔領域F内における面積が大きい方の周辺領域の温度の寄与度を高く設定する構成とした。
これにより、非接触温度センサであるIRカメラ10に対して乗員が所定時間T0以上横を向いている場合には、IRカメラ10側にある頬の温度情報を用いて、反対側の頬の温度情報を補完するので、乗員が横を向いたままであっても継続して顔温度を測定できる。
Further, the contribution degree adjustment unit 24 determines that the face direction of the occupant P is horizontal and if the time determined to be horizontal is equal to or longer than the predetermined time T0, the face area is sandwiched between the central area FC. Of the peripheral region FL on one side in the left-right direction of F and the peripheral region FR on the other side, the contribution of the temperature of the peripheral region with the larger area in the face region F is set high. .
As a result, when the occupant faces the IR camera 10 that is a non-contact temperature sensor for a predetermined time T0 or more, the temperature of the cheek on the opposite side is determined using the cheek temperature information on the IR camera 10 side. Since the information is complemented, the face temperature can be continuously measured even if the passenger remains facing sideways.

また、寄与度調整部24は、乗員Pの顔の向きが横向きであると判定され、かつ横向きであると判定されている時間が所定時間T0未満である場合、乗員Pの顔の向きが横向きであると判定される直前に算出した顔温度を乗員Pの顔温度とする構成とした。
これにより、非接触センサであるIRカメラ10に対して乗員が横を向いている時間が所定時間T0未満の短時間である場合には、乗員が横を向く直前に算出された顔温度が保持されて乗員Pの顔温度とされるので、例えば安全確認などのために乗員が顔を短時間だけ横に向けた場合に測定された顔温度が、空調装置30に出力されて、空調装置30の制御に影響を与えることを防止できる。
Further, the contribution degree adjustment unit 24 determines that the face direction of the occupant P is horizontal when the face direction of the occupant P is determined to be horizontal and the time determined to be horizontal is less than the predetermined time T0. The face temperature calculated immediately before it is determined to be the occupant P face temperature is used.
As a result, when the time when the occupant faces sideways with respect to the IR camera 10 that is a non-contact sensor is a short time that is less than the predetermined time T0, the face temperature calculated immediately before the occupant faces sideways is maintained. Therefore, the face temperature of the occupant P is output to the air conditioner 30 when the occupant turns his face sideways for a short time for safety confirmation or the like. Can be prevented from affecting the control.

上記実施例では、説明の便宜上、熱画像データから生成した温度分布マップIMを用いて、顔領域の特定とその後の処理を説明したが、温度検知範囲の各検知領域の温度データは、熱画像データにおいて数値化されているので、制御部20の各部における実際の処理は、数値化された温度データに基づき行われる。   In the above embodiment, for convenience of explanation, the identification of the face area and the subsequent processing have been described using the temperature distribution map IM generated from the thermal image data. However, the temperature data of each detection area in the temperature detection range is the thermal image. Since the data is digitized, actual processing in each part of the control unit 20 is performed based on the digitized temperature data.

上記実施例では、IRカメラ10のお温度検知範囲Dが乗員Pの顔およびその周辺領域を含むように設定されている場合を例に挙げて説明をしたが、例えば車室内の乗員総ての表面温度を測定できるような温度検知範囲としても良い。
また、車室内に設けた座席ごとにIRカメラ10を用意し、用意したIRカメラ10,が各座席に着座している乗員一人一人の表面温度を測定するようにしても良い。
In the above embodiment, the case where the temperature detection range D of the IR camera 10 is set so as to include the face of the occupant P and the surrounding area has been described as an example. It is good also as a temperature detection range which can measure surface temperature.
Alternatively, an IR camera 10 may be prepared for each seat provided in the passenger compartment, and the prepared IR camera 10 may measure the surface temperature of each occupant seated in each seat.

上記実施例では、乗員の顔の向きを判定し、判定した顔の向きに応じて、顔温度を算出する際の顔領域の中央領域の温度と周辺領域の温度の寄与度を調整し、寄与度調整後の顔領域F内の温度分布に基づいて乗員Pの顔温度を算出する顔温度算出装置の有する機能として、本発明を説明した。
しかし、本発明は、コンピュータに上記した顔温度算出装置の機能を実行させる顔温度測定プログラムや、このプログラムを記憶した媒体としても、具現化可能である。
In the above embodiment, the orientation of the occupant's face is determined, and the contribution of the temperature of the central region of the facial region and the temperature of the peripheral region when calculating the facial temperature is adjusted according to the determined facial orientation, The present invention has been described as a function of the face temperature calculation device that calculates the face temperature of the occupant P based on the temperature distribution in the face region F after the degree adjustment.
However, the present invention can also be embodied as a face temperature measurement program that causes a computer to execute the functions of the above-described face temperature calculation device, or a medium that stores this program.

実施例にかかる顔温度算出装置の構成を示すブロック図である。It is a block diagram which shows the structure of the face temperature calculation apparatus concerning an Example. IRカメラの設置例を説明する図である。It is a figure explaining the example of installation of IR camera. IRカメラ10の温度検出範囲と、温度分布マップを説明する図である。It is a figure explaining the temperature detection range of IR camera 10, and a temperature distribution map. 実施例にかかる顔温度算出装置における処理を説明するフローチャートである。It is a flowchart explaining the process in the face temperature calculation apparatus concerning an Example. 顔中心の位置に基づく顔の向きの判定を説明する図である。It is a figure explaining the determination of the direction of the face based on the position of the face center. 顔向き判定部23が行う処理の詳細を説明するフローチャートである。It is a flowchart explaining the detail of the process which the face direction determination part 23 performs. 寄与度調整部24が行う処理の詳細を説明するフローチャートである。It is a flowchart explaining the detail of the process which the contribution degree adjustment part 24 performs. 顔が「正面向き」である場合の温度分布マップを示す図である。It is a figure which shows a temperature distribution map in case a face is "frontward." 顔が「斜め向き」である場合の温度分布マップを示す図である。It is a figure which shows a temperature distribution map in case a face is "diagonal." 顔が「横向き」である場合の温度分布マップを示す図である。It is a figure which shows a temperature distribution map in case a face is "landscape." 顔温度算出部25が行う処理の詳細を説明するフローチャートである。It is a flowchart explaining the detail of the process which the face temperature calculation part 25 performs.

符号の説明Explanation of symbols

3 空調装置
6 乗員
10 IRカメラ
20 制御部
21 熱画像生成部
22 顔領域抽出部
23 顔向き判定部
24 寄与度調整部
25 顔温度算出部
30 空調装置
C カウンタ
D 温度検知範囲
F1 更新フラグ
F2 フラグ
FL 左頬領域
FR 右頬領域
FC 中央領域
IM 温度分布マップ
DESCRIPTION OF SYMBOLS 3 Air conditioner 6 Crew 10 IR camera 20 Control part 21 Thermal image generation part 22 Face area extraction part 23 Face direction determination part 24 Contribution degree adjustment part 25 Face temperature calculation part 30 Air conditioner C Counter D Temperature detection range F1 Update flag F2 flag FL Left cheek area FR Right cheek area FC Center area IM Temperature distribution map

Claims (8)

センサと、
前記センサの検知範囲内の温度分布を示す熱画像を生成する熱画像生成部と、
前記熱画像から乗員の顔領域を抽出する顔領域抽出部と、
前記顔領域内の温度分布に基づいて、前記乗員の顔温度を算出する顔温度算出部とを備える顔温度算出装置において、
前記乗員の顔の向きを判定する顔向き判定部と、
前記乗員の顔の向きに基づいて、前記乗員の顔温度を算出する際の前記顔領域の中央領域の温度と周辺領域の温度の寄与度を調整する寄与度調整部とを備える
ことを特徴とする顔温度算出装置。
A sensor,
A thermal image generation unit that generates a thermal image indicating a temperature distribution within a detection range of the sensor;
A face area extraction unit for extracting a passenger's face area from the thermal image;
In a face temperature calculation device comprising a face temperature calculation unit that calculates the face temperature of the occupant based on the temperature distribution in the face region,
A face orientation determination unit that determines the orientation of the occupant's face;
And a contribution degree adjusting unit that adjusts the contribution of the temperature of the central area of the face area and the temperature of the peripheral area when calculating the face temperature of the occupant based on the orientation of the face of the occupant. Facial temperature calculation device.
前記寄与度調整部は、
前記中央領域の温度の寄与度を前記周辺領域の温度の寄与度よりも小さくする、または前記周辺領域の温度の寄与度を前記中央領域の温度の寄与度よりも大きくする
ことを特徴とする請求項1に記載の顔温度算出装置。
The contribution degree adjustment unit
The contribution of the temperature of the central region is made smaller than the contribution of the temperature of the peripheral region, or the contribution of the temperature of the peripheral region is made larger than the contribution of the temperature of the central region. Item 2. The face temperature calculation device according to Item 1.
前記顔向き判定部は、
前記顔領域内における前記乗員の顔の左右方向における中心の位置に基づいて、前記乗員の顔の向きを、少なくとも正面向き、斜め向き、横向きのうちの何れかに判定する
ことを特徴とする請求項1または請求項2に記載の顔温度算出装置。
The face orientation determination unit
The direction of the occupant's face is determined to be at least one of a front direction, an oblique direction, and a horizontal direction based on a center position of the occupant's face in the left-right direction within the face region. Item 3. The face temperature calculation device according to item 1 or 2.
前記寄与度調整部は、前記乗員の顔の向きが正面向きであると判定された場合、
前記中央領域を挟んで前記顔領域の左右方向における一方側にある周辺領域の温度と、他方側にある周辺領域の温度の寄与度を等しくする
ことを特徴とする請求項3に記載の顔温度算出装置。
When it is determined that the direction of the occupant's face is a frontal direction,
4. The face temperature according to claim 3, wherein the contribution of the temperature of the peripheral region on one side in the left-right direction of the face region across the central region and the temperature of the peripheral region on the other side are made equal. Calculation device.
前記寄与度調整部は、前記乗員の顔の向きが斜め向きであると判定された場合、
前記中央領域を挟んで前記顔領域の左右方向における一方側にある周辺領域と、他方側にある周辺領域とのうちの、前記顔領域内における面積が小さい方の周辺領域の温度の寄与度を高く設定する
ことを特徴とする請求項3または請求項4に記載の顔温度算出装置。
When it is determined that the direction of the occupant's face is oblique, the contribution adjustment unit
The degree of contribution of the temperature of the peripheral area with the smaller area in the face area, out of the peripheral area on one side in the left-right direction of the face area across the central area and the peripheral area on the other side. 5. The face temperature calculation device according to claim 3, wherein the face temperature calculation device is set high.
前記寄与度調整部は、前記乗員の顔の向きが横向きであると判定され、かつ横向きであると判定されている時間が所定時間以上である場合、
前記中央領域を挟んで前記顔領域の左右方向における一方側にある周辺領域と、他方側にある周辺領域とのうちの、前記顔領域内における面積が大きい方の周辺領域の温度の寄与度を高く設定する
ことを特徴とする請求項3から請求項5のうちの何れか一項に記載の顔温度算出装置。
The contribution adjustment unit determines that the direction of the occupant's face is horizontal and the time determined to be horizontal is a predetermined time or more,
Of the peripheral region on one side in the left-right direction of the face region across the central region and the peripheral region on the other side, the degree of contribution of the temperature of the peripheral region with the larger area in the face region The face temperature calculation device according to claim 3, wherein the face temperature calculation device is set high.
前記顔温度算出部は、前記乗員の顔の向きが横向きであると判定され、かつ横向きであると判定されている時間が所定時間未満である場合、
前記乗員の顔の向きが横向きであると判定される直前に算出した顔温度を、前記乗員の顔温度とする
ことを特徴とする請求項3から請求項6のうちの何れか一項に記載の顔温度算出装置。
When the face temperature calculation unit determines that the direction of the occupant's face is horizontal and the time determined to be horizontal is less than a predetermined time,
The face temperature calculated immediately before it is determined that the direction of the occupant's face is sideways is defined as the occupant's face temperature. Face temperature calculation device.
センサの検知範囲内の温度分布を示す熱画像を生成し、生成した熱画像から乗員の顔領域を抽出し、前記顔領域内の前記乗員の顔の向きを判定し、判定した顔の向きに応じて、前記顔領域の中央領域の温度と周辺領域の温度の寄与度を調整したのちに、前記顔領域内の温度分布に基づいて前記乗員の顔温度を算出する
ことを特徴とする顔温度算出方法。
Generate a thermal image showing the temperature distribution within the detection range of the sensor, extract the occupant's face area from the generated thermal image, determine the orientation of the occupant's face in the face area, and determine the orientation of the determined face Accordingly, the face temperature of the occupant is calculated based on the temperature distribution in the face area after adjusting the contribution of the temperature of the central area of the face area and the temperature of the peripheral area. Calculation method.
JP2007292730A 2007-11-12 2007-11-12 Face temperature calculation device and face temperature calculation method Pending JP2009119896A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007292730A JP2009119896A (en) 2007-11-12 2007-11-12 Face temperature calculation device and face temperature calculation method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007292730A JP2009119896A (en) 2007-11-12 2007-11-12 Face temperature calculation device and face temperature calculation method

Publications (1)

Publication Number Publication Date
JP2009119896A true JP2009119896A (en) 2009-06-04

Family

ID=40812560

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007292730A Pending JP2009119896A (en) 2007-11-12 2007-11-12 Face temperature calculation device and face temperature calculation method

Country Status (1)

Country Link
JP (1) JP2009119896A (en)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101287840B1 (en) * 2011-04-12 2013-07-19 충남대학교산학협력단 Apparatus and method for emotion recognition using facial temperature and recording medium thereof
KR20160086687A (en) 2015-01-12 2016-07-20 손서경 Analyses of condition based on the peculiarity of face temperature distribution
JP2018161462A (en) * 2017-03-27 2018-10-18 パナソニックIpマネジメント株式会社 Information processing method, information processing device, and program
CN113375278A (en) * 2021-06-28 2021-09-10 海信(广东)空调有限公司 Air conditioner control method and air conditioner
US11185235B2 (en) 2017-03-27 2021-11-30 Panasonic Intellectual Property Management Co., Ltd. Information processing method, information processing device, and recording medium

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101287840B1 (en) * 2011-04-12 2013-07-19 충남대학교산학협력단 Apparatus and method for emotion recognition using facial temperature and recording medium thereof
KR20160086687A (en) 2015-01-12 2016-07-20 손서경 Analyses of condition based on the peculiarity of face temperature distribution
JP2018161462A (en) * 2017-03-27 2018-10-18 パナソニックIpマネジメント株式会社 Information processing method, information processing device, and program
US11185235B2 (en) 2017-03-27 2021-11-30 Panasonic Intellectual Property Management Co., Ltd. Information processing method, information processing device, and recording medium
JP7065447B2 (en) 2017-03-27 2022-05-12 パナソニックIpマネジメント株式会社 Information processing methods, information processing devices, and programs
CN113375278A (en) * 2021-06-28 2021-09-10 海信(广东)空调有限公司 Air conditioner control method and air conditioner

Similar Documents

Publication Publication Date Title
JP6412177B2 (en) Air conditioner and thermal image sensor system
US9644857B1 (en) Virtual thermostat for a zonal temperature control
KR101127493B1 (en) Image processing apparatus, image processing method and air conditioning control apparatus
US9715627B2 (en) Area information estimating device, area information estimating method, and air conditioning apparatus
JP2009119896A (en) Face temperature calculation device and face temperature calculation method
CN104200192B (en) Driver&#39;s gaze detection system
CN106196484A (en) The control method of air-conditioner and air-conditioner
EP3545818B1 (en) Sight line direction estimation device, sight line direction estimation method, and sight line direction estimation program
JP2008123113A (en) Pedestrian detection device
JP3350721B2 (en) Clothing amount measuring device and clothing amount measuring method
WO2017029762A1 (en) Air conditioner
JPH10197348A (en) Method for processing thermal image
CN110986314A (en) Intelligent air supply adjusting method of air conditioner and air conditioner
JP2018185108A (en) Warm/cold sensation estimation device
CN105675140B (en) The detection method and device of human body clothing amount
CN110316030A (en) A kind of adjusting method and regulating device of vehicle seat
JP2011122802A (en) Air conditioning control device, air conditioning control method and radiation temperature measuring device
JP2004314887A (en) Air-conditioner for vehicle
KR102259461B1 (en) Active type air conditioning control system considering user and method thereof
JP6906943B2 (en) On-board unit
JP2009009244A (en) Looking away judgment device
JP2017044515A (en) Clothing amount estimation device and air-conditioning system
CN106091274A (en) Air conditioning system and control device and control method thereof
WO2023032771A1 (en) Control method, program, and control system
JPH0723934A (en) Face direction discrimination device