JP2021023492A - Concentration degree analysis device, concentration degree analysis method, and program - Google Patents

Concentration degree analysis device, concentration degree analysis method, and program Download PDF

Info

Publication number
JP2021023492A
JP2021023492A JP2019142849A JP2019142849A JP2021023492A JP 2021023492 A JP2021023492 A JP 2021023492A JP 2019142849 A JP2019142849 A JP 2019142849A JP 2019142849 A JP2019142849 A JP 2019142849A JP 2021023492 A JP2021023492 A JP 2021023492A
Authority
JP
Japan
Prior art keywords
concentration
degree
environment
sensor
subject
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2019142849A
Other languages
Japanese (ja)
Inventor
昂志 太田
Takashi Ota
昂志 太田
田中 清明
Kiyoaki Tanaka
清明 田中
和哉 浦部
Kazuya Urabe
和哉 浦部
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Omron Corp
Original Assignee
Omron Corp
Omron Tateisi Electronics Co
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Omron Corp, Omron Tateisi Electronics Co filed Critical Omron Corp
Priority to JP2019142849A priority Critical patent/JP2021023492A/en
Publication of JP2021023492A publication Critical patent/JP2021023492A/en
Pending legal-status Critical Current

Links

Images

Landscapes

  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
  • Image Analysis (AREA)

Abstract

To provide a technology to enable objective evaluation on relationships between a state of ambient environment and a state of a person's concentration.SOLUTION: A concentration degree analysis device includes: a concentration degree estimation unit for estimating a concentration degree, which is an index indicating a concentration degree of an object person, on the basis of data acquired from a first sensor for monitoring a state of the object person; a concentration environment degree estimation unit for estimating a concentration environment degree, which is an index indicating a degree of easiness of concentration in the environment, on the basis of data acquired from a second sensor for monitoring a state of the periphery of the object person; an output unit for temporally associating the concentration degree estimated by the concentration degree estimation unit and the concentration environment degree estimated by the concentration environment degree estimation unit, and outputting them.SELECTED DRAWING: Figure 2

Description

本発明は、周囲環境の状態と人の集中状態との関係を把握するための技術に関する。 The present invention relates to a technique for grasping the relationship between the state of the surrounding environment and the state of concentration of people.

不快な環境や周囲が騒がしい環境のなかでは、集中力が低下し、仕事や勉強などの効率が低下することが経験的に知られている。そこで昨今は、会社や教育機関などにおいて、労働効率や学習効率を高めるための環境改善を試みているところもある。 It is empirically known that in an unpleasant environment or a noisy environment, concentration is reduced and efficiency of work and study is reduced. Therefore, in recent years, some companies and educational institutions are trying to improve the environment in order to improve labor efficiency and learning efficiency.

しかしながら、現状は、周囲環境の状態と人の集中状態との関係を客観的に評価できる仕組みがないために、環境改善の効果測定が難しい。また、人の集中に影響を与える可能性のある因子として、温度、湿度、照度、騒音などのさまざまなものが考えられ、しかもどの因子が最も影響を与えるかはケースバイケースで異なることが予想される。 However, at present, it is difficult to measure the effect of environmental improvement because there is no mechanism for objectively evaluating the relationship between the state of the surrounding environment and the state of concentration of people. In addition, various factors such as temperature, humidity, illuminance, and noise can be considered as factors that may affect people's concentration, and it is expected that which factor has the greatest effect will differ on a case-by-case basis. Will be done.

特許文献1には、カメラの画像解析により車の運転者や工場の作業者の集中度を推定する方法が提案されている。しかしながら、特許文献1には、周囲環境の状態と人の集中状態の関係を客観化する仕組みの開示はない。 Patent Document 1 proposes a method of estimating the concentration of a car driver or a factory worker by image analysis of a camera. However, Patent Document 1 does not disclose a mechanism for objectiveizing the relationship between the state of the surrounding environment and the state of concentration of people.

特許第6245398号公報Japanese Patent No. 6245398

本発明は上記実情に鑑みてなされたものであって、その目的とするところは、周囲環境の状態と人の集中状態の関係の客観的な評価を可能とするための技術を提供することにある。 The present invention has been made in view of the above circumstances, and an object of the present invention is to provide a technique capable of objectively evaluating the relationship between the state of the surrounding environment and the state of concentration of people. is there.

上記目的を達成するために本発明は、以下の構成を採用する。 In order to achieve the above object, the present invention adopts the following configuration.

本発明の第一側面は、対象者の状態をモニタリングするための第1のセンサから得られたデータに基づいて、前記対象者の集中の度合を表す指標である集中度を推定する集中度推定部と、前記対象者の周囲の状態をモニタリングするための第2のセンサから得られたデータに基づいて、集中しやすい環境である度合を表す指標である集中環境度を推定する集中環境度推定部と、前記集中度推定部で推定された集中度と、前記集中環境度推定部で推定された集中環境度とを、時間的に対応付けて、出力する出力部と、を有することを特徴とする集中度解析装置を提供する。 The first aspect of the present invention is concentration estimation, which is an index indicating the degree of concentration of the subject, based on the data obtained from the first sensor for monitoring the condition of the subject. Concentration ratio estimation that estimates the degree of concentration ratio, which is an index showing the degree of an environment in which it is easy to concentrate, based on the data obtained from the unit and the second sensor for monitoring the surrounding condition of the subject. It is characterized by having a unit, an output unit that outputs a concentration ratio estimated by the concentration degree estimation unit, and a concentration environment degree estimated by the concentration environment degree estimation unit in a timely manner. To provide a concentration ratio analyzer.

この構成によれば、「対象者の集中の度合」と「対象者の周囲の状態」とがそれぞれ「集中度」及び「集中環境度」として指標化(数値化)され、それらを時間的に対応付けて把握することができる。これにより、周囲環境の状態と対象者の集中状態の関係を客観的・定量的に把握し、評価することが可能となる。 According to this configuration, the "degree of concentration of the target person" and the "state around the target person" are indexed (quantified) as the "degree of concentration" and the "degree of concentration environment", respectively, and they are temporally measured. It can be grasped in association with each other. This makes it possible to objectively and quantitatively grasp and evaluate the relationship between the state of the surrounding environment and the state of concentration of the subject.

前記出力部は、前記集中度の時系列データと、前記集中環境度の時系列データとを、時間軸上に重ねたグラフを出力してもよい。ユーザは、このようなグラフを観察することによって、周囲環境の状態と集中の状態との関係を客観的に把握することができる。 The output unit may output a graph in which the time-series data of the concentration degree and the time-series data of the concentration environment degree are superimposed on the time axis. By observing such a graph, the user can objectively grasp the relationship between the state of the surrounding environment and the state of concentration.

前記第1のセンサは、前記対象者を撮影するカメラを含み、前記集中度推定部は、前記カメラで得られた画像から前記対象者の動きを解析することによって、前記対象者の集中度を推定してもよい。例えば、前記対象者の動きは、顔の位置の変化、顔の向きの変化、及び、目の開閉度、のうち少なくともいずれかを含んでもよい。カメラの画像を用いる方法によれば、非接触かつ非侵襲で対象者の状態をモニタリングすることができる。 The first sensor includes a camera for photographing the target person, and the concentration ratio estimation unit determines the concentration degree of the target person by analyzing the movement of the target person from an image obtained by the camera. You may estimate. For example, the movement of the subject may include at least one of a change in the position of the face, a change in the orientation of the face, and the degree of opening and closing of the eyes. According to the method using the image of the camera, the condition of the subject can be monitored in a non-contact and non-invasive manner.

前記第1のセンサは、バイタルセンサを含み、前記集中度推定部は、前記バイタルセンサで得られた前記対象者のバイタルデータの変化を解析することによって、前記対象者の集中度を推定してもよい。バイタルデータを用いることにより、対象者の集中状態をより高精度に推定できると期待できる。 The first sensor includes a vital sensor, and the concentration estimation unit estimates the concentration of the subject by analyzing changes in the vital data of the subject obtained by the vital sensor. May be good. By using vital data, it can be expected that the concentration state of the subject can be estimated with higher accuracy.

前記第2のセンサは、温度、湿度、照度、気圧、CO2濃度、揮発性有機化合物濃度、及び、騒音のうち少なくとも2項目以上のデータを出力可能な環境センサを含み、前記集中環境度推定部は、前記環境センサで得られた複数項目のデータを総合することによって、集中環境度を推定してもよい。複数項目の測定データを用いることにより、集中環境度の精度や信頼性を向上することができる。 The second sensor includes an environment sensor capable of outputting data of at least two items of temperature, humidity, illuminance, atmospheric pressure, CO2 concentration, volatile organic compound concentration, and noise, and the centralized environmental degree estimation unit. May estimate the degree of centralized environment by integrating the data of a plurality of items obtained by the environmental sensor. By using the measurement data of a plurality of items, the accuracy and reliability of the degree of centralized environment can be improved.

前記集中環境度の時系列データ及び/又は前記集中度の時系列データをデータ解析する解析部を有し、前記出力部は、データ解析により得られた情報を出力してもよい。集中環境度や集中度の瞬時値だけでなく、値の時間的な変化や傾向などをとらえることで、環境状態と集中状態の関係性をより詳しく把握することができると期待できる。 It has an analysis unit that analyzes the time-series data of the centralized environment degree and / or the time-series data of the centralized degree, and the output unit may output the information obtained by the data analysis. It can be expected that the relationship between the environmental state and the concentration state can be grasped in more detail by grasping not only the concentration environment degree and the instantaneous value of the concentration degree but also the temporal change and tendency of the value.

例えば、前記解析部は、前記集中環境度の時系列データと前記集中度の時系列データの相関に基づいて、前記集中度の低下又は上昇の原因事象としての前記集中環境度の変化を特定してもよい。さらに、前記集中環境度が、環境に関する複数項目のデータを総合することによって推定されている場合に、前記解析部は、前記環境に関する複数項目のうちのどの項目が、前記原因事象としての前記集中環境度の変化に対し、寄与しているかを特定してもよい。このような要因分析によって、集中度の低下又は上昇の要因特定が容易となる。そして集中度の低下又は上昇の要因がわかれば、その情報を環境の改善や環境の自動コントロールなどに役立てることも可能である。 For example, the analysis unit identifies a change in the concentration environment as a causative event of the decrease or increase in the concentration based on the correlation between the time-series data of the concentration environment and the time-series data of the concentration. You may. Further, when the concentration environment degree is estimated by aggregating the data of a plurality of items related to the environment, the analysis unit determines which item among the plurality of items related to the environment is the concentration as the cause event. It may be specified whether it contributes to the change in the degree of environment. By such factor analysis, it becomes easy to identify the cause of the decrease or increase in the degree of concentration. If the cause of the decrease or increase in the degree of concentration is known, the information can be used for improving the environment or automatically controlling the environment.

前記解析部は、前記対象者の前記集中度の時系列データに基づいて、当該対象者の集中度の高さと集中している時間の長さの両方を評価する指標である集中評価値を求めてもよい。このような集中評価値を用いることで、対象者の集中能力を客観的・定量的にとらえることができる。 Based on the time-series data of the concentration of the subject, the analysis unit obtains a concentration evaluation value which is an index for evaluating both the high concentration of the subject and the length of time when the subject is concentrated. You may. By using such a concentration evaluation value, it is possible to objectively and quantitatively grasp the concentration ability of the subject.

前記解析部は、複数の対象者の前記集中度の時系列データ及び/又は複数の環境での前記集中環境度の時系列データに基づいて、統計情報を求めてもよい。統計情報によりマクロな評価を行うことで、有用な情報を得ることができる。 The analysis unit may obtain statistical information based on the time-series data of the concentration degree of a plurality of subjects and / or the time-series data of the concentration environment degree in a plurality of environments. Useful information can be obtained by performing macro evaluation based on statistical information.

前記第1のセンサの異常を検知する異常検知部をさらに有してもよい。第1のセンサに異常があると、集中度の推定に失敗したり、推定結果の信頼性が低下するからである。 An abnormality detection unit that detects an abnormality of the first sensor may be further provided. This is because if there is an abnormality in the first sensor, the estimation of the concentration degree fails or the reliability of the estimation result is lowered.

本発明は、上記手段の少なくとも一部を有する集中度解析装置として捉えてもよいし、集中度評価装置、集中度監視装置、集中環境評価装置などとして捉えてもよい。また、本発明は、上記処理の少なくとも一部を含む方法、または、かかる方法を実現するためのプログラムやそのプログラムを記録した記録媒体として捉えることもできる。なお、上記手段および処理の各々は可能な限り互いに組み合わせて本発明を構成することができる。 The present invention may be regarded as a concentration analysis device having at least a part of the above means, or may be regarded as a concentration evaluation device, a concentration monitoring device, a concentration environment evaluation device, or the like. Further, the present invention can be regarded as a method including at least a part of the above processing, a program for realizing such a method, or a recording medium on which the program is recorded. The present invention can be constructed by combining each of the above means and treatments with each other as much as possible.

本発明によれば、周囲環境の状態と人の集中状態の関係の客観的な評価を可能とすることができる。 According to the present invention, it is possible to objectively evaluate the relationship between the state of the surrounding environment and the state of concentration of people.

図1は、集中度解析装置の適用例を示す図である。FIG. 1 is a diagram showing an application example of the concentration ratio analysis device. 図2は、第1実施形態の集中度解析装置の構成例を示す図である。FIG. 2 is a diagram showing a configuration example of the concentration analysis device of the first embodiment. 図3は、集中度の推定処理の流れを示すフローチャートである。FIG. 3 is a flowchart showing the flow of the concentration estimation process. 図4は、集中環境度の推定処理の流れを示すフローチャートである。FIG. 4 is a flowchart showing the flow of the centralized environment degree estimation process. 図5は、集中度及び集中環境度の推定結果の表示例を示す図である。FIG. 5 is a diagram showing a display example of the estimation results of the concentration degree and the concentration environment degree. 図6は、データ解析結果の表示例を示す図である。FIG. 6 is a diagram showing a display example of the data analysis result. 図7は、対象者の集中評価値の例を示す図である。FIG. 7 is a diagram showing an example of the centralized evaluation value of the subject. 図8は、第2実施形態の集中度解析装置の構成例を示す図である。FIG. 8 is a diagram showing a configuration example of the concentration analysis device of the second embodiment.

<適用例>
図1を参照して、本発明の適用例の一つについて説明する。図1は、学校や学習塾などの教育機関において、本発明の実施形態に係る集中度解析装置10を、授業中の生徒の集中度合の把握及び解析に適用した例を示している。
<Application example>
One of the application examples of the present invention will be described with reference to FIG. FIG. 1 shows an example in which an educational institution such as a school or a cram school applies the concentration analysis device 10 according to the embodiment of the present invention to grasp and analyze the concentration degree of students in class.

図1の例では、対象者(生徒)11の机の上に集中度解析装置10が設置されており、集中度解析装置10が、授業中の対象者11の状態ならびに対象者11の周囲の状態を常にモニタリングしている。集中度解析装置10は、対象者11の状態から対象者11の集中度(集中の度合を表す指標)を推定するとともに、周囲の状態から集中環境度(集中しやすい環境である度合を表す指標)を推定する。そして、集中度解析装置10は、集中度と集中環境度を時間的に対応付けた情報を出力する。さらに、集中度解析装置10は、集中環境度及び/又は集中度の時系列データをデータ解析し、データ解析により得られる各種の情報を出力する。情報の出力先は、集中度解析装置10が有し又は集中度解析装置10に接続された表示装置でもよいし、外部装置12でもよい。外部装置12は、例えば、先生が使用する端末、管理用のサーバ、データストレージなどである。 In the example of FIG. 1, the concentration analysis device 10 is installed on the desk of the subject (student) 11, and the concentration analysis device 10 is in the state of the subject 11 in class and around the subject 11. The condition is constantly monitored. The concentration analysis device 10 estimates the degree of concentration of the subject 11 (an index showing the degree of concentration) from the state of the subject 11, and also estimates the degree of concentration environment (an index showing the degree of concentration) from the surrounding state. ) Is estimated. Then, the concentration analysis device 10 outputs information in which the concentration degree and the concentration environment degree are temporally associated with each other. Further, the concentration analysis device 10 analyzes the time-series data of the concentration environment degree and / or the concentration degree, and outputs various information obtained by the data analysis. The information output destination may be a display device owned by the concentration analysis device 10 or connected to the concentration analysis device 10, or an external device 12. The external device 12 is, for example, a terminal used by the teacher, a server for management, a data storage, and the like.

このような集中度解析装置10によれば、対象者11の周囲環境の状態と対象者11の集中状態とを時間的な対応をとりつつ比較し解析することができるため、周囲環境と集中度合の関係を客観的に評価することが可能となる。得られた評価結果や解析結果は、例えば、授業に集中しやすい環境を構築するための参考データとして活用したり、環境改善が学習効率に与えた影響の効果測定に利用したりすることができる。 According to such a concentration analysis device 10, the state of the surrounding environment of the target person 11 and the concentration state of the target person 11 can be compared and analyzed while taking a temporal correspondence, so that the surrounding environment and the degree of concentration can be analyzed. It becomes possible to objectively evaluate the relationship between. The obtained evaluation results and analysis results can be used, for example, as reference data for constructing an environment in which it is easy to concentrate on lessons, or for measuring the effect of environmental improvement on learning efficiency. ..

なお、ここでは学習機関における生徒の集中度合の把握・評価に本発明を適用したが、本発明の適用範囲はこれに限られない。例えば、オフィスや工場における従業者の集中度合の把握・評価、自動車・列車・飛行機・大型機械・プラントなどにおける運転者(操縦者)の集中度合の把握・評価など、物事への集中が要求されるさまざまなシーンに本発明を好ましく適用可能である。 Although the present invention has been applied here to grasp and evaluate the degree of concentration of students in a learning institution, the scope of application of the present invention is not limited to this. For example, it is required to concentrate on things such as grasping and evaluating the degree of concentration of employees in offices and factories, and grasping and evaluating the degree of concentration of drivers (pilots) in automobiles, trains, airplanes, large machines, plants, etc. The present invention can be preferably applied to various scenes.

<第1実施形態>
図2を参照して、本発明の実施形態に係る集中度解析装置10の具体的な構成例を説明する。
<First Embodiment>
A specific configuration example of the concentration analysis device 10 according to the embodiment of the present invention will be described with reference to FIG.

集中度解析装置10は、概略、カメラ20と、環境センサ21と、情報処理装置22と、表示装置23とを有している。カメラ20、環境センサ21、情報処理装置22、表示装置23を一体で構成してもよいし、これらのうちの一部の構成を別体としてケーブルやバスで接続してもよい。また、集中度解析装置10は専用デバイスでもよいし、パーソナ
ルコンピュータやスマートフォンのような汎用コンピュータにカメラ20や環境センサ21を接続して集中度解析装置10を構成してもよい。なお、汎用コンピュータがカメラやセンサを内蔵している場合には、それらを利用してもよい。あるいは、対象者ごとにカメラや環境センサを設置する構成ではなく、壁や天井などに設置されたセンサから有線又は無線によりデータを取得する構成でもよい。
The concentration analysis device 10 generally includes a camera 20, an environment sensor 21, an information processing device 22, and a display device 23. The camera 20, the environment sensor 21, the information processing device 22, and the display device 23 may be integrally configured, or some of these configurations may be separated and connected by a cable or a bus. Further, the concentration analysis device 10 may be a dedicated device, or the concentration analysis device 10 may be configured by connecting the camera 20 or the environment sensor 21 to a general-purpose computer such as a personal computer or a smartphone. If the general-purpose computer has a built-in camera or sensor, they may be used. Alternatively, instead of installing a camera or an environment sensor for each target person, data may be acquired by wire or wirelessly from a sensor installed on a wall or ceiling.

(カメラ20)
カメラ20は、対象者11の状態をモニタリングするための第1のセンサである。本実施形態では、カメラ20は、対象者11の顔を撮影するような位置に設置される。カメラ20としては、モノクロカメラとカラーカメラのいずれを用いてもよい。カメラ20は所定の時間間隔(例えば30fps)で画像を取り込む。カメラ20で得られた画像データは、情報処理装置22に入力される。
(Camera 20)
The camera 20 is a first sensor for monitoring the state of the subject 11. In the present embodiment, the camera 20 is installed at a position where the face of the subject 11 is photographed. As the camera 20, either a monochrome camera or a color camera may be used. The camera 20 captures images at predetermined time intervals (for example, 30 fps). The image data obtained by the camera 20 is input to the information processing device 22.

(環境センサ21)
環境センサ21は、対象者11の周囲の状態をモニタリングするための第2のセンサである。本実施形態の環境センサ21は、複数種類のセンサモジュールと通信モジュールを有しており、複数項目のセンシングが可能である。センシング項目は、例えば、温度(気温)、湿度、照度、気圧、CO2(二酸化炭素)濃度、VOC(揮発性有機化合物)濃度、騒音などを含む。環境センサ21はこれらの項目のうちの少なくとも2以上の項目に対応しているとよい。環境センサ21で得られた測定データは、情報処理装置22に入力される。
(Environment sensor 21)
The environment sensor 21 is a second sensor for monitoring the surrounding state of the subject 11. The environment sensor 21 of the present embodiment has a plurality of types of sensor modules and communication modules, and can sense a plurality of items. Sensing items include, for example, temperature (air temperature), humidity, illuminance, atmospheric pressure, CO2 (carbon dioxide) concentration, VOC (volatile organic compound) concentration, noise and the like. The environmental sensor 21 may correspond to at least two or more of these items. The measurement data obtained by the environment sensor 21 is input to the information processing device 22.

(情報処理装置22)
情報処理装置22は、カメラ20から得られた対象者11の画像データと、環境センサ21で得られた測定データとに基づいて、集中度及び集中環境度を推定する処理ユニットである。図2に示すように、本実施形態の情報処理装置22は、主な構成として、画像取得部220、環境情報取得部221、集中度推定部222、集中環境度推定部223、解析部224、出力部225、記憶部226を有している。
(Information processing device 22)
The information processing device 22 is a processing unit that estimates the degree of concentration and the degree of concentration environment based on the image data of the target person 11 obtained from the camera 20 and the measurement data obtained by the environment sensor 21. As shown in FIG. 2, the information processing apparatus 22 of the present embodiment has mainly the image acquisition unit 220, the environment information acquisition unit 221 and the concentration estimation unit 222, the concentration environment degree estimation unit 223, and the analysis unit 224. It has an output unit 225 and a storage unit 226.

画像取得部220は、カメラ20から画像データを取得する機能を有する。環境情報取得部221は、環境センサ21から測定データを取得する機能を有する。集中度推定部222は、カメラ20から得られた画像データに基づいて、対象者11の集中度を推定する機能を有する。集中環境度推定部223は、環境センサ21から得られた測定データに基づいて、集中環境度を推定する機能を有する。解析部224は、集中度の時系列データや集中環境度の時系列データを解析する機能を有する。出力部225は、集中度推定部222、集中環境度推定部223、解析部224などで得られた情報を、表示装置23や外部装置に出力する機能を有する。記憶部226は、画像データ、測定データ、集中度及び集中環境度のデータ、解析結果などを記憶する機能を有する。これら各部の詳細については後述する。 The image acquisition unit 220 has a function of acquiring image data from the camera 20. The environmental information acquisition unit 221 has a function of acquiring measurement data from the environment sensor 21. The concentration ratio estimation unit 222 has a function of estimating the concentration level of the subject 11 based on the image data obtained from the camera 20. The centralized environmental degree estimation unit 223 has a function of estimating the centralized environmental degree based on the measurement data obtained from the environment sensor 21. The analysis unit 224 has a function of analyzing the time series data of the concentration degree and the time series data of the concentration environment degree. The output unit 225 has a function of outputting the information obtained by the concentration estimation unit 222, the concentration environment estimation unit 223, the analysis unit 224, and the like to the display device 23 and the external device. The storage unit 226 has a function of storing image data, measurement data, concentration degree and concentration environment degree data, analysis results, and the like. Details of each of these parts will be described later.

情報処理装置22は、例えば、CPU(プロセッサ)、メモリ、不揮発性の記憶装置を少なくとも具備する汎用的なコンピュータにより構成してもよい。その場合、上述した符号220〜226の構成は、記憶装置に格納されたプログラムをメモリに読み込み、CPUが実行することにより、ソフトウェア的に実現される。情報処理装置22の構成はこれに限られず、例えば、分散コンピューティングやクラウドコンピューティングの技術を利用し、複数の装置によって符号220〜226の構成が実現されてもよい。あるいは、符号220〜226の構成の一部又は全部をFPGAやASICのような回路によって実現してもよい。 The information processing device 22 may be composed of, for example, a general-purpose computer including at least a CPU (processor), a memory, and a non-volatile storage device. In that case, the above-described configuration of reference numerals 220 to 226 is realized by software by reading the program stored in the storage device into the memory and executing the program by the CPU. The configuration of the information processing device 22 is not limited to this, and for example, the configurations of reference numerals 220 to 226 may be realized by a plurality of devices by utilizing the techniques of distributed computing and cloud computing. Alternatively, part or all of the configurations of reference numerals 220 to 226 may be realized by a circuit such as FPGA or ASIC.

(集中度の推定)
図3のフローチャートに沿って、集中度解析装置10による集中度の推定処理の流れを説明する。
(Estimation of concentration ratio)
The flow of the concentration estimation process by the concentration analysis device 10 will be described with reference to the flowchart of FIG.

ステップS30において、画像取得部220がカメラ20から所定の判定フレーム数分の画像データを取り込む。「判定フレーム数」は、集中度の計算に用いるフレームの数を決めるパラメータであり、その値は予め設定されている。例えば、30fpsの画像データにおいて、判定フレーム数が150に設定されている場合、5秒間分の動画像における対象者11の動き(挙動)を解析することによって集中度が判定される。 In step S30, the image acquisition unit 220 captures image data for a predetermined number of determination frames from the camera 20. The "determination frame number" is a parameter that determines the number of frames used for calculating the degree of concentration, and its value is set in advance. For example, in the image data of 30 fps, when the number of determination frames is set to 150, the degree of concentration is determined by analyzing the movement (behavior) of the subject 11 in the moving image for 5 seconds.

人が物事に集中している場合、顔及び視線の動きは小さくなり、目の開閉度は大きくなる傾向にある。一方、注意が散漫になっていたり、眠気が生じたりすると、顔及び視線の動きが多くなったり、目の開閉度が小さくなる傾向にある。これらの知見から、本実施形態では、「顔の位置の変化」、「顔の向きの変化」、「目の開閉度」の3つを評価し、それらの評価点を合計したスコアを「集中度」と定義する。 When a person is focused on things, the movement of the face and eyes tends to be small, and the degree of opening and closing of the eyes tends to be large. On the other hand, when attention is distracted or drowsiness occurs, the movement of the face and eyes tends to increase, and the degree of opening and closing of the eyes tends to decrease. Based on these findings, in this embodiment, three evaluations are made: "change in face position", "change in face orientation", and "eye opening / closing degree", and the total score of these evaluation points is "concentrated". Defined as "degree".

ステップS31において、集中度推定部222は、顔の位置の変化を評価する。具体的には、まず、集中度推定部222は、各フレームから顔を検出し、顔の中心座標を求める。例えば、検出された顔を取り囲むバウンディングボックスの中心を顔の中心とみなしてもよいし、顔の輪郭の重心を顔の中心とみなしてもよいし、鼻などの顔器官の位置を顔の中心とみなしてもよい。次に、集中度推定部222は、フレーム毎の顔の移動量を計算する。顔の移動量は、例えば、対象フレームと前フレームのあいだの顔の中心座標の差の絶対値である。次に、集中度推定部222は、判定フレーム数分の画像データにおける顔の移動量の統計値(Vc)を計算する。統計値は、例えば、平均値、中間値、最頻値、最大値、合計値などである。そして、集中度推定部222は、移動量の統計値Vcをしきい値THc1、THc2と比較することにより、以下のように顔の位置の変化の評価点Scを求める。
Vc<THc1 :Sc=2点
THc1≦Vc<THc2:Sc=1点
THc2≦Vc :Sc=0点
すなわち、顔の位置の変化が小さいほど高い評価点が与えられる。
In step S31, the concentration ratio estimation unit 222 evaluates the change in the position of the face. Specifically, first, the concentration estimation unit 222 detects a face from each frame and obtains the center coordinates of the face. For example, the center of the bounding box surrounding the detected face may be regarded as the center of the face, the center of gravity of the contour of the face may be regarded as the center of the face, and the position of facial organs such as the nose may be regarded as the center of the face. May be regarded as. Next, the concentration estimation unit 222 calculates the amount of movement of the face for each frame. The amount of movement of the face is, for example, the absolute value of the difference between the center coordinates of the face between the target frame and the previous frame. Next, the concentration estimation unit 222 calculates the statistical value (Vc) of the movement amount of the face in the image data corresponding to the number of determination frames. The statistical value is, for example, an average value, an intermediate value, a mode value, a maximum value, a total value, and the like. Then, the concentration ratio estimation unit 222 obtains the evaluation point Sc of the change in the position of the face as follows by comparing the statistical value Vc of the movement amount with the threshold values THc1 and THc2.
Vc <THc1: Sc = 2 points THc1 ≦ Vc <THc2: Sc = 1 point THc2 ≦ Vc: Sc = 0 points That is, the smaller the change in the position of the face, the higher the evaluation point is given.

ステップS32において、集中度推定部222は、顔向きの変化を評価する。具体的には、まず、集中度推定部222は、各フレームから検出された顔の「向き」を求める。本実施形態では、上下方向の顔向きと左右方向の顔向きをそれぞれ計算する。顔向きは連続値でもよいし離散値でもよい。次に、集中度推定部222は、判定フレーム数分の画像データにおける顔向きの分散値を、上下方向と左右方向のそれぞれについて計算する。顔向きの分散sは下記式により求まる。

Figure 2021023492

ここで、nは判定フレーム数、xは各フレームでの顔向き、xは判定フレーム数分の画像データにおける顔向きの平均値である。次に、集中度推定部222は、上下方向の分散値と左右方向の分散値のうち大きい方を代表の分散値として採用し、代表の分散値sから標準偏差sを計算する。そして、集中度推定部222は、代表の標準偏差をしきい値THd1、THd2と比較することにより、以下のように顔向きの変化の評価点Sdを求める。
s<THd1 :Sd=2点
THd1≦s<THd2:Sd=1点
THd2≦s :Sd=0点
すなわち、顔向きの変化が小さいほど高い評価点が与えられる。 In step S32, the concentration ratio estimation unit 222 evaluates the change in face orientation. Specifically, first, the concentration ratio estimation unit 222 obtains the "direction" of the face detected from each frame. In the present embodiment, the face orientation in the vertical direction and the face orientation in the horizontal direction are calculated respectively. The face orientation may be a continuous value or a discrete value. Next, the concentration estimation unit 222 calculates the dispersion value of the face orientation in the image data for the number of determination frames in each of the vertical direction and the horizontal direction. The variance s 2 for the face is calculated by the following formula.
Figure 2021023492

Here, n is the number of determination frames, x i is the face orientation in each frame, and x a is the average value of the face orientation in the image data for the number of determination frames. Next, the concentration estimation unit 222 adopts the larger of the vertical variance value and the horizontal variance value as the representative variance value, and calculates the standard deviation s from the representative variance value s 2. Then, the concentration ratio estimation unit 222 obtains the evaluation point Sd of the change in face orientation as follows by comparing the representative standard deviation with the threshold values THd1 and THd2.
s <THd1: Sd = 2 points THd1 ≦ s <THd2: Sd = 1 point THd2 ≦ s: Sd = 0 points That is, the smaller the change in face orientation, the higher the evaluation point is given.

ステップS33において、集中度推定部222は、目の開閉度を評価する。具体的には、まず、集中度推定部222は、各フレームから検出された顔の「目の開閉度」を求める。例えば、集中度推定部222は、目の形状、上瞼と下瞼の距離、他の顔器官との相対関係などから、目の開閉度を求めるとよい。本実施形態では、目が完全に閉じた状態を0、目が最も開いた状態を10とし、10段階で目の開閉度を求める。次に、集中度推定部222は、判定フレーム数分の画像データにおける目の開閉度の統計値(Ve)を計算する。統計値は、例えば、平均値、中間値、最頻値、最大値、合計値などである。そして、集中度推定部222は、目の開閉度の統計値Veをしきい値THeと比較することにより、以下のように目の開閉度の評価点Seを求める。
Ve>THe :Se=1点
Ve≦THe :Se=0点
すなわち、目の開閉度が大きいほど高い評価点が与えられる。
In step S33, the concentration ratio estimation unit 222 evaluates the degree of opening and closing of the eyes. Specifically, first, the concentration ratio estimation unit 222 obtains the "eye opening / closing degree" of the face detected from each frame. For example, the concentration ratio estimation unit 222 may determine the degree of opening and closing of the eyes from the shape of the eyes, the distance between the upper and lower eyelids, the relative relationship with other facial organs, and the like. In the present embodiment, the state in which the eyes are completely closed is 0, the state in which the eyes are most open is 10, and the degree of opening and closing of the eyes is determined in 10 steps. Next, the concentration estimation unit 222 calculates the statistical value (Ve) of the opening / closing degree of the eyes in the image data corresponding to the number of determination frames. The statistical value is, for example, an average value, an intermediate value, a mode value, a maximum value, a total value, and the like. Then, the concentration estimation unit 222 obtains the evaluation point Se of the opening / closing degree of the eyes as follows by comparing the statistical value Ve of the opening / closing degree of the eyes with the threshold value The.
Ve> The: Se = 1 point Ve ≦ The: Se = 0 point That is, the larger the degree of opening and closing of the eyes, the higher the evaluation point is given.

ステップS34において、集中度推定部222は、ステップS31〜S33で求めた評価点Sc、Sd、Seを合計し、集中度=Sc+Sd+Seを計算する。ただし、Sc、Sd、Seのうち1項目でも0点があれば、集中度=0とする。 In step S34, the concentration estimation unit 222 sums the evaluation points Sc, Sd, and Se obtained in steps S31 to S33, and calculates the concentration = Sc + Sd + Se. However, if any one of Sc, Sd, and Se has 0 points, the concentration level is set to 0.

ステップS35において、集中度推定部222は、評価結果や推定結果などを記憶部226に保存する。ここで記録されるデータには、集中度の値と、推定に用いた画像データの撮影時刻とが少なくとも含まれるとよく、さらに、推定に用いた画像データ、ステップS31〜S33で計算された評価点Sc、Sd、Seなどが含まれてもよい。 In step S35, the concentration ratio estimation unit 222 stores the evaluation result, the estimation result, and the like in the storage unit 226. The data recorded here may include at least the value of the degree of concentration and the shooting time of the image data used for the estimation, and further, the image data used for the estimation and the evaluation calculated in steps S31 to S33. Points Sc, Sd, Se and the like may be included.

(集中環境度の推定)
図4のフローチャートに沿って、集中度解析装置10による集中環境度の推定処理の流れを説明する。なお、図4の処理は所定の時間ごと(例えば5秒に1回)に実行される。
(Estimation of centralized environment)
The flow of the concentration environment degree estimation process by the concentration level analysis device 10 will be described with reference to the flowchart of FIG. The process of FIG. 4 is executed at predetermined time intervals (for example, once every 5 seconds).

ステップS40において、環境情報取得部221が環境センサ21から測定データを取り込む。本実施形態の測定データには、温度(気温)、湿度、照度、騒音、二酸化炭素濃度の5項目のデータが含まれている。本実施形態では、温度(気温)と湿度から求まる「不快指数」、「照度」、「騒音」、「二酸化炭素濃度」の4つを評価し、それらの評価点を合計したスコアを「集中環境度」と定義する。 In step S40, the environmental information acquisition unit 221 acquires measurement data from the environment sensor 21. The measurement data of this embodiment includes five items of data: temperature (air temperature), humidity, illuminance, noise, and carbon dioxide concentration. In this embodiment, four "discomfort index", "illuminance", "noise", and "carbon dioxide concentration" obtained from temperature (air temperature) and humidity are evaluated, and the total score of these evaluation points is a "concentrated environment". Defined as "degree".

ステップS41において、集中環境度推定部223は、不快指数DIを評価する。不快指数DIは、温度(気温)をT[℃]、湿度をH[%]とした場合、下記式により求まる。
DI=0.81T+0.01H×(0.99T−14.3)+46.3
そして、集中環境度推定部223は、以下のように不快指数DIの評価点Sdiを求める。
DI<55 :Sdi=−2点
55≦DI<60 :Sdi=−1点
60≦DI<65 :Sdi= 2点
65≦DI<70 :Sdi= 5点
70≦DI<75 :Sdi= 2点
75≦DI<80 :Sdi=−1点
80≦DI<85 :Sdi=−3点
85≦DI :Sdi=−5点
In step S41, the concentration environment degree estimation unit 223 evaluates the discomfort index DI. The discomfort index DI can be obtained by the following formula when the temperature (air temperature) is T [° C.] and the humidity is H [%].
DI = 0.81T + 0.01H x (0.99T-14.3) + 46.3
Then, the concentration environment degree estimation unit 223 obtains the evaluation point Sdi of the discomfort index DI as follows.
DI <55: Sdi = -2 points 55 ≤ DI <60: Sdi = -1 point 60 ≤ DI <65: Sdi = 2 points 65 ≤ DI <70: Sdi = 5 points 70 ≤ DI <75: Sdi = 2 points 75 ≤ DI <80: Sdi = -1 point 80 ≤ DI <85: Sdi = -3 points 85 ≤ DI: Sdi = -5 points

ステップS42において、集中環境度推定部223は、以下のように照度AL[lx]の評価点Salを求める。
AL< 50 :Sal=−5点
50≦AL< 100 :Sal=−3点
100≦AL< 150 :Sal=−1点
150≦AL<1000 :Sal= 3点
1000≦AL<2000 :Sal= 1点
2000≦AL<3000 :Sal=−1点
3000≦AL :Sal=−3点
In step S42, the centralized environment degree estimation unit 223 obtains the evaluation point Sal of the illuminance AL [lp] as follows.
AL <50: Sal = -5 points 50 ≤ AL <100: Sal = -3 points 100 ≤ AL <150: Sal = -1 point 150 ≤ AL <1000: Sal = 3 points 1000 ≤ AL <2000: Sal = 1 Points 2000 ≤ AL <3000: Sal = -1 point 3000 ≤ AL: Sal = -3 points

ステップS43において、集中環境度推定部223は、以下のように騒音SN[dB]の評価点Ssnを求める。
SN< 40 :Ssn= 5点
40≦SN< 50 :Ssn= 4点
50≦SN< 60 :Ssn= 3点
60≦SN< 70 :Ssn= 1点
70≦SN< 80 :Ssn=−1点
80≦SN< 90 :Ssn=−2点
90≦SN<100 :Ssn=−3点
100≦SN :Ssn=−5点
In step S43, the centralized environment degree estimation unit 223 obtains the evaluation point Ssn of the noise SN [dB] as follows.
SN <40: Ssn = 5 points 40 ≦ SN <50: Ssn = 4 points 50 ≦ SN <60: Ssn = 3 points 60 ≦ SN <70: Ssn = 1 point 70 ≦ SN <80: Ssn = -1 point 80 ≦ SN <90: Ssn = -2 points 90 ≦ SN <100: Ssn = -3 points 100 ≦ SN: Ssn = -5 points

ステップS44において、集中環境度推定部223は、以下のように二酸化炭素濃度CO2[ppm]の評価点Sco2を求める。
CO2< 500 :Sco2= 5点
500≦CO2< 700 :Sco2= 3点
700≦CO2< 1000 :Sco2= 1点
1000≦CO2<10000 :Sco2=−2点
10000≦CO2 :Sco2=−5点
In step S44, the centralized environmental degree estimation unit 223 obtains the evaluation point Sco2 of the carbon dioxide concentration CO2 [ppm] as follows.
CO2 <500: Sco2 = 5 points 500 ≦ CO2 <700: Sco2 = 3 points 700 ≦ CO2 <1000: Sco2 = 1 point 1000 ≦ CO2 <10000: Sco2 = -2 points 10000 ≦ CO2: Sco2 = -5 points

ステップS45において、集中環境度推定部223は、ステップS41〜S44で求めた評価点Sdi、Sal、Ssn、Sco2を合計し、集中環境度=Sdi+Sal+Ssn+Sco2を計算する。 In step S45, the concentration environment degree estimation unit 223 sums the evaluation points Sdi, Sal, Ssn, and Sco2 obtained in steps S41 to S44, and calculates the concentration environment degree = Sdi + Sal + Ssn + Sco2.

ステップS46において、集中環境度推定部223は、評価結果や推定結果などを記憶部226に保存する。ここで記録されるデータには、集中環境度の値、推定に用いた測定データの測定時刻が少なくとも含まれるとよく、さらに、推定に用いた測定データ、ステップS41〜S44で計算された評価点Sdi、Sal、Ssn、Sco2などが含まれてもよい。 In step S46, the centralized environment degree estimation unit 223 stores the evaluation result, the estimation result, and the like in the storage unit 226. The data recorded here should include at least the value of the degree of concentration environment and the measurement time of the measurement data used for estimation, and further, the measurement data used for estimation and the evaluation points calculated in steps S41 to S44. Sdi, Sal, Ssn, Sco2 and the like may be included.

図5は、出力部225による集中度及び集中環境度の推定結果の表示例である。この例では、集中度の時系列データと集中環境度の時系列データとを時間軸上に重ねたグラフが出力されている。横軸が時間、縦軸が集中度(実線)と集中環境度(点線)である。ユーザ(管理者)は、このようなグラフを観察することによって、周囲環境の状態と集中の状態との関係を客観的に把握することができる。 FIG. 5 is a display example of the estimation results of the concentration degree and the concentration environment degree by the output unit 225. In this example, a graph in which the time-series data of the concentration degree and the time-series data of the concentration environment are superimposed on the time axis is output. The horizontal axis is time, and the vertical axis is the degree of concentration (solid line) and the degree of concentration environment (dotted line). By observing such a graph, the user (administrator) can objectively grasp the relationship between the state of the surrounding environment and the state of concentration.

(データ解析)
解析部224は、記憶部226に記録・蓄積された、集中度の時系列データや集中環境度の時系列データのデータ解析を行う。解析部224により得られた情報は、集中度や集中環境度のデータと関連づけて記憶部226に記録されるとよい。解析部224によるデ
ータ解析の内容及び取得する情報の種類はどのようなものでもよく、本装置の用途あるいは適用場面や、データ解析の目的などに応じて適宜選択すればよい。以下、データ解析の一例を述べる。
(Data analysis)
The analysis unit 224 analyzes the time-series data of the concentration degree and the time-series data of the concentration environment degree recorded and accumulated in the storage unit 226. The information obtained by the analysis unit 224 may be recorded in the storage unit 226 in association with the data of the degree of concentration and the degree of concentration environment. The content of the data analysis by the analysis unit 224 and the type of information to be acquired may be any, and may be appropriately selected according to the application or application situation of this device, the purpose of data analysis, and the like. An example of data analysis will be described below.

解析部224は、集中環境度の時系列データと集中度の時系列データの相関分析を行ってもよい。例えば、教室内が蒸し暑くなるなど環境が悪化すると、その影響が直ちに集中度の低下となって表れる。すなわち、集中環境度と集中度はある程度の時間遅れをもちながら概ね同じように変化すると予想される。したがって、相関分析を行うことによって集中環境度の変化と集中度の変化の因果関係を把握することができ、集中度の低下又は上昇の原因事象としての集中環境度の変化を特定することが可能となる。例えば、図6に示すように、ある時刻t1に集中環境度の低下がみられ、その数分後の時刻t2に集中度の低下が表れた場合に、解析部224は、時刻t2の集中度の低下の原因が時刻t1の集中環境度の低下にあるとみなす。このときさらに、解析部224は、時刻t1の前後の環境センサ21の測定データの値やその評価値を分析し、複数項目(温度、湿度、照度、二酸化炭素濃度、騒音など)のうちのどの項目が、時刻t1の集中環境度の変化に対し寄与しているかを特定してもよい。このような要因分析によって、集中度低下の要因特定が容易となる。図6に示すように、出力部225は要因分析の結果を表示してもよい。さらに出力部225は、要因分析の結果を空調や照度などの制御装置に通知し、自動で環境をコントロールしてもよい。 The analysis unit 224 may perform a correlation analysis between the time-series data of the concentration environment and the time-series data of the concentration. For example, when the environment deteriorates, such as when the classroom becomes hot and humid, the effect immediately appears as a decrease in concentration. That is, it is expected that the degree of concentration environment and the degree of concentration will change in almost the same way with a certain time delay. Therefore, it is possible to grasp the causal relationship between the change in the concentration environment and the change in the concentration ratio by performing the correlation analysis, and it is possible to identify the change in the concentration environment as the causative event of the decrease or increase in the concentration level. It becomes. For example, as shown in FIG. 6, when a decrease in the concentration environment is observed at a certain time t1 and a decrease in the concentration level appears at a time t2 several minutes later, the analysis unit 224 determines the concentration degree at the time t2. It is considered that the cause of the decrease is the decrease in the concentration ratio at time t1. At this time, the analysis unit 224 further analyzes the value of the measurement data of the environmental sensor 21 before and after the time t1 and its evaluation value, and which of the plurality of items (temperature, humidity, illuminance, carbon dioxide concentration, noise, etc.) It may be specified whether the item contributes to the change in the degree of concentration environment at time t1. By such factor analysis, it becomes easy to identify the cause of the decrease in concentration. As shown in FIG. 6, the output unit 225 may display the result of the factor analysis. Further, the output unit 225 may notify the control device such as air conditioning and illuminance of the result of the factor analysis and automatically control the environment.

解析部224は、対象者11の集中度の時系列データに基づいて、対象者11の集中評価値を計算してもよい。集中評価値は、対象者11の集中度の高さと集中している時間の長さの両方を評価する指標である。例えば、本実施形態では、図7のハッチングで示す部分の面積、すなわち、集中度の時間積分を集中評価値として求める。この集中評価値は、対象者11の集中能力を表している。 The analysis unit 224 may calculate the concentration evaluation value of the target person 11 based on the time series data of the concentration degree of the target person 11. The intensive evaluation value is an index for evaluating both the high degree of concentration and the length of time that the subject 11 is concentrated. For example, in the present embodiment, the area of the portion shown by the hatching in FIG. 7, that is, the time integral of the degree of concentration is obtained as the concentration evaluation value. This concentration evaluation value represents the concentration ability of the subject 11.

解析部224は、複数の対象者の集中度の時系列データに基づいて統計情報を求めてもよい。集中度の統計情報は、例えば、平均値、中間値、最頻値、最大値、最小値などを含んでよい。また、集中度が閾値以上の人数や割合を統計情報として求めてもよい。解析部224は、複数の環境での集中環境度の時系列データに基づいて統計情報を求めてもよい。ここで「複数の環境での集中環境度」は、異なる場所での集中環境度だけでなく、同じ場所での異なる日時における集中環境度を含んでもよい。集中環境度の統計情報は、例えば、平均値、中間値、最頻値、最大値、最小値などを含んでよい。また、集中環境度が閾値以上の数や割合を統計情報として求めてもよい。解析部224は、複数の対象者の集中度の時系列データと複数の環境の集中環境度の時系列データの両方に基づいて統計情報を求めてもよい。 The analysis unit 224 may obtain statistical information based on time-series data of the concentration degree of a plurality of subjects. The concentration statistical information may include, for example, an average value, an intermediate value, a mode value, a maximum value, a minimum value, and the like. In addition, the number of people or the ratio whose concentration level is equal to or higher than the threshold value may be obtained as statistical information. The analysis unit 224 may obtain statistical information based on time-series data of the degree of centralized environment in a plurality of environments. Here, the "concentrated environment degree in a plurality of environments" may include not only the centralized environment degree in different places but also the centralized environment degree in the same place at different dates and times. The statistical information of the degree of concentration environment may include, for example, an average value, an intermediate value, a mode value, a maximum value, a minimum value, and the like. In addition, the number or ratio of the concentration environment degree equal to or higher than the threshold value may be obtained as statistical information. The analysis unit 224 may obtain statistical information based on both the time-series data of the concentration degree of the plurality of subjects and the time-series data of the concentration environment degree of the plurality of environments.

<第2実施形態>
図8に本発明の第2実施形態に係る集中度解析装置10の構成を示す。第2実施形態に係る集中度解析装置10は異常検知部227を備えている。それ以外の構成は第1実施形態のものと同じであるため、以下では第1実施形態と異なる部分を中心に説明し、第1実施形態と共通する構成については説明を省略する。
<Second Embodiment>
FIG. 8 shows the configuration of the concentration ratio analysis device 10 according to the second embodiment of the present invention. The concentration analysis device 10 according to the second embodiment includes an abnormality detection unit 227. Since the other configurations are the same as those of the first embodiment, the parts different from those of the first embodiment will be mainly described below, and the description of the configurations common to the first embodiment will be omitted.

集中度解析装置10の動作中に、カメラ20に手や物が偶然触れるなどしてカメラ20の向きが変わってしまい、対象者11の顔がカメラ20の視界から外れてしまう可能性がある。また、なかには、常にモニタリングされていることに対してネガティブな感情を抱く者もおり、そのような者は、故意にカメラ20の視界を遮ったり、カメラ20の向きを変えたりするおそれもある。カメラ20で対象者11の顔を撮影できないと、集中度の推定に失敗したり、推定結果の信頼性が低下したりするため、好ましくない。 During the operation of the concentration analysis device 10, the direction of the camera 20 may change due to accidental touching of the camera 20 by a hand or an object, and the face of the subject 11 may be out of the field of view of the camera 20. In addition, some people have a negative feeling about being constantly monitored, and such a person may intentionally block the view of the camera 20 or change the direction of the camera 20. Failure to capture the face of the subject 11 with the camera 20 is not preferable because the estimation of the degree of concentration fails and the reliability of the estimation result is lowered.

そこで本実施形態では、異常検知部227によってカメラ20の異常を検知する。ここでいう「カメラの異常」は、カメラ20によって対象者11の顔が正常に撮影できないことを意味する。例えば、カメラ20の視界が遮られること、カメラ20の向きが対象者11の顔から外れること、カメラ20の故障などが、「カメラの異常」に該当する。 Therefore, in the present embodiment, the abnormality detection unit 227 detects the abnormality of the camera 20. The "camera abnormality" here means that the face of the subject 11 cannot be normally photographed by the camera 20. For example, the field of view of the camera 20 is obstructed, the orientation of the camera 20 deviates from the face of the subject 11, the failure of the camera 20, and the like correspond to "camera abnormalities".

異常検知部227は、例えば、ジャイロセンサ、加速度センサ、振動センサなどを用いて、カメラ20の向きが変化したこと、カメラ20に異常な力又は振動が作用したことなどを検知するものであってもよい。あるいは、異常検知部227は、カメラ20から取り込まれた画像と過去に取り込まれた画像の差分をとることで、カメラ20の向きが変化したことを検知するものであってもよいし、カメラ20から取り込まれた画像に顔が含まれるか否かを確認することで、カメラ20の視界が遮られたことやカメラ20の向きが対象者11の顔からはずれたことを検知するものであってもよい。 The abnormality detection unit 227 uses, for example, a gyro sensor, an acceleration sensor, a vibration sensor, or the like to detect that the orientation of the camera 20 has changed, that an abnormal force or vibration has been applied to the camera 20, and the like. May be good. Alternatively, the abnormality detection unit 227 may detect that the orientation of the camera 20 has changed by taking the difference between the image captured from the camera 20 and the image captured in the past, or the camera 20 may be used. By confirming whether or not the image captured from the camera contains a face, it is detected that the field of view of the camera 20 is obstructed and that the direction of the camera 20 is off the face of the subject 11. May be good.

異常検知部227によってカメラ20の異常が検知された場合には、出力部225から異常を検知した旨を出力するとよい。異常を通知することによって、対象者11に対し、集中度解析装置10の正しい使用を促すことができる。 When the abnormality detection unit 227 detects an abnormality in the camera 20, the output unit 225 may output that the abnormality has been detected. By notifying the abnormality, the subject 11 can be encouraged to use the concentration ratio analysis device 10 correctly.

<変形例>
上記実施形態は、本発明の構成例を例示的に説明するものに過ぎない。本発明は上記の具体的な形態には限定されることはなく、その技術的思想の範囲内で種々の変形が可能である。
<Modification example>
The above-described embodiment is merely an example of a configuration example of the present invention. The present invention is not limited to the above-mentioned specific form, and various modifications can be made within the scope of its technical idea.

例えば、上記実施形態では、第1のセンサとしてカメラ20のみ用いたが、カメラ20以外のセンサを用いてもよいし、カメラ20を含む複数のセンサを用いてもよい。例えば、第1のセンサとして、対象者11のバイタルデータを取得するバイタルセンサを用いてもよい。集中度推定部222は、バイタルデータ(例えば、心電図、脈波、呼吸、発汗など)の変化を解析することによって、対象者11の集中度を推定することができる。 For example, in the above embodiment, only the camera 20 is used as the first sensor, but a sensor other than the camera 20 may be used, or a plurality of sensors including the camera 20 may be used. For example, as the first sensor, a vital sensor that acquires vital data of the subject 11 may be used. The concentration ratio estimation unit 222 can estimate the concentration ratio of the subject 11 by analyzing changes in vital data (for example, electrocardiogram, pulse wave, respiration, sweating, etc.).

上記実施形態では、第2のセンサとして環境センサ21のみ用いたが、環境センサ21以外のセンサを用いてもよいし、環境センサ21を含む複数のセンサを用いてもよい。また、第2のセンサが測定する項目は、温度、湿度、照度、二酸化炭素濃度、騒音以外の項目を含んでいてもよい。例えば、気圧、揮発性有機化合物濃度などを測定してもよい。 In the above embodiment, only the environment sensor 21 is used as the second sensor, but a sensor other than the environment sensor 21 may be used, or a plurality of sensors including the environment sensor 21 may be used. Further, the items measured by the second sensor may include items other than temperature, humidity, illuminance, carbon dioxide concentration, and noise. For example, atmospheric pressure, concentration of volatile organic compounds, etc. may be measured.

<付記1>
(1) 対象者(11)の状態をモニタリングするための第1のセンサ(20)から得られたデータに基づいて、前記対象者(11)の集中の度合を表す指標である集中度を推定する集中度推定部(222)と、
前記対象者(11)の周囲の状態をモニタリングするための第2のセンサ(21)から得られたデータに基づいて、集中しやすい環境である度合を表す指標である集中環境度を推定する集中環境度推定部(223)と、
前記集中度推定部(222)で推定された集中度と、前記集中環境度推定部(223)で推定された集中環境度とを、時間的に対応付けて、出力する出力部(225)と、
を有することを特徴とする集中度解析装置(10)。
<Appendix 1>
(1) Based on the data obtained from the first sensor (20) for monitoring the state of the subject (11), the concentration ratio, which is an index showing the degree of concentration of the subject (11), is estimated. Concentration ratio estimation unit (222) and
Based on the data obtained from the second sensor (21) for monitoring the surrounding condition of the subject (11), the concentration that estimates the degree of concentration environment, which is an index indicating the degree of the environment in which it is easy to concentrate. Environmental degree estimation unit (223) and
The output unit (225) that outputs the concentration degree estimated by the concentration degree estimation unit (222) and the concentration environment degree estimated by the concentration environment degree estimation unit (223) in a time-related manner. ,
Concentration ratio analyzer (10).

10:集中度解析装置
11:対象者
12:外部装置
20:カメラ
21:環境センサ
22:情報処理装置
23:表示装置
10: Concentration analysis device 11: Target person 12: External device 20: Camera 21: Environment sensor 22: Information processing device 23: Display device

Claims (14)

対象者の状態をモニタリングするための第1のセンサから得られたデータに基づいて、前記対象者の集中の度合を表す指標である集中度を推定する集中度推定部と、
前記対象者の周囲の状態をモニタリングするための第2のセンサから得られたデータに基づいて、集中しやすい環境である度合を表す指標である集中環境度を推定する集中環境度推定部と、
前記集中度推定部で推定された集中度と、前記集中環境度推定部で推定された集中環境度とを、時間的に対応付けて、出力する出力部と、
を有することを特徴とする集中度解析装置。
Based on the data obtained from the first sensor for monitoring the state of the subject, the concentration estimation unit that estimates the concentration, which is an index showing the degree of concentration of the subject, and the concentration estimation unit.
Based on the data obtained from the second sensor for monitoring the surrounding condition of the subject, the concentration environment degree estimation unit that estimates the concentration environment degree, which is an index indicating the degree of the environment in which it is easy to concentrate,
An output unit that outputs the concentration degree estimated by the concentration degree estimation unit and the concentration environment degree estimated by the concentration environment degree estimation unit in a timely manner.
Concentration ratio analyzer characterized by having.
前記出力部は、前記集中度の時系列データと、前記集中環境度の時系列データとを、時間軸上に重ねたグラフを出力する
ことを特徴とする請求項1に記載の集中度解析装置。
The concentration analysis device according to claim 1, wherein the output unit outputs a graph in which the time-series data of the concentration degree and the time-series data of the concentration environment degree are superimposed on the time axis. ..
前記第1のセンサは、前記対象者を撮影するカメラを含み、
前記集中度推定部は、前記カメラで得られた画像から前記対象者の動きを解析することによって、前記対象者の集中度を推定する
ことを特徴とする請求項1又は2に記載の集中度解析装置。
The first sensor includes a camera that captures the subject.
The concentration ratio according to claim 1 or 2, wherein the concentration ratio estimation unit estimates the concentration ratio of the target person by analyzing the movement of the target person from an image obtained by the camera. Analyst.
前記対象者の動きは、顔の位置の変化、顔の向きの変化、及び、目の開閉度、のうち少なくともいずれかを含む
ことを特徴とする請求項3に記載の集中度解析装置。
The concentration analysis device according to claim 3, wherein the movement of the subject includes at least one of a change in the position of the face, a change in the orientation of the face, and the degree of opening and closing of the eyes.
前記第1のセンサは、バイタルセンサを含み、
前記集中度推定部は、前記バイタルセンサで得られた前記対象者のバイタルデータの変化を解析することによって、前記対象者の集中度を推定する
ことを特徴とする請求項1〜4のうちいずれか1項に記載の集中度解析装置。
The first sensor includes a vital sensor.
Any of claims 1 to 4, wherein the concentration ratio estimating unit estimates the concentration of the target person by analyzing changes in the vital data of the target person obtained by the vital sensor. The concentration analyzer according to item 1.
前記第2のセンサは、温度、湿度、照度、気圧、二酸化炭素濃度、揮発性有機化合物濃度、及び、騒音のうち少なくとも2項目以上のデータを出力可能な環境センサを含み、
前記集中環境度推定部は、前記環境センサで得られた複数項目のデータを総合することによって、集中環境度を推定する
ことを特徴とする請求項1〜5のうちいずれか1項に記載の集中度解析装置。
The second sensor includes an environment sensor capable of outputting data of at least two items of temperature, humidity, illuminance, atmospheric pressure, carbon dioxide concentration, volatile organic compound concentration, and noise.
The centralized environment degree estimation unit according to any one of claims 1 to 5, characterized in that the centralized environmental degree estimation unit estimates the centralized environmental degree by integrating the data of a plurality of items obtained by the environmental sensor. Concentration analyzer.
前記集中環境度の時系列データ及び/又は前記集中度の時系列データをデータ解析する解析部を有し、
前記出力部は、データ解析により得られた情報を出力する
ことを特徴とする請求項1〜6のうちいずれか1項に記載の集中度解析装置。
It has an analysis unit that analyzes the time-series data of the concentration environment and / or the time-series data of the concentration.
The concentration analysis device according to any one of claims 1 to 6, wherein the output unit outputs information obtained by data analysis.
前記解析部は、前記集中環境度の時系列データと前記集中度の時系列データの相関に基づいて、前記集中度の低下又は上昇の原因事象としての前記集中環境度の変化を特定することを特徴とする請求項7に記載の集中度解析装置。 The analysis unit identifies the change in the concentration environment as a causative event of the decrease or increase in the concentration ratio based on the correlation between the time series data of the concentration environment and the time series data of the concentration ratio. The concentration analysis device according to claim 7, which is characterized. 前記集中環境度が、環境に関する複数項目のデータを総合することによって推定されている場合に、
前記解析部は、前記環境に関する複数項目のうちのどの項目が、前記原因事象としての前記集中環境度の変化に対し、寄与しているかを特定する
ことを特徴とする請求項8に記載の集中度解析装置。
When the degree of centralized environment is estimated by combining data of multiple items related to the environment,
The concentration according to claim 8, wherein the analysis unit identifies which of the plurality of items related to the environment contributes to the change in the concentration environment as the cause event. Degree analyzer.
前記解析部は、前記対象者の前記集中度の時系列データに基づいて、当該対象者の集中度の高さと集中している時間の長さの両方を評価する指標である集中評価値を求める
ことを特徴とする請求項7〜9のうちいずれか1項に記載の集中度解析装置。
Based on the time-series data of the concentration of the subject, the analysis unit obtains a concentration evaluation value which is an index for evaluating both the high concentration of the subject and the length of time when the subject is concentrated. The concentration ratio analyzer according to any one of claims 7 to 9, wherein the concentration ratio analyzer is characterized by the above.
前記解析部は、複数の対象者の前記集中度の時系列データ及び/又は複数の環境での前記集中環境度の時系列データに基づいて、統計情報を求める
ことを特徴とする請求項7〜10のうちいずれか1項に記載の集中度解析装置。
Claim 7 to claim 7, wherein the analysis unit obtains statistical information based on the time-series data of the concentration degree of a plurality of subjects and / or the time-series data of the concentration environment degree in a plurality of environments. The concentration analyzer according to any one of 10.
前記第1のセンサの異常を検知する異常検知部をさらに有する
ことを特徴とする請求項1〜11のうちいずれか1項に記載の集中度解析装置。
The concentration analysis device according to any one of claims 1 to 11, further comprising an abnormality detecting unit for detecting an abnormality of the first sensor.
対象者の状態をモニタリングするための第1のセンサから得られたデータに基づいて、前記対象者の集中の度合を表す指標である集中度を推定するステップと、
前記対象者の周囲の状態をモニタリングするための第2のセンサから得られたデータに基づいて、集中しやすい環境である度合を表す指標である集中環境度を推定するステップと、
前記推定された集中度と、前記推定された集中環境度とを、時間的に対応付けて、出力するステップと、
を有することを特徴とする集中度解析方法。
Based on the data obtained from the first sensor for monitoring the condition of the subject, the step of estimating the degree of concentration, which is an index showing the degree of concentration of the subject, and
Based on the data obtained from the second sensor for monitoring the surrounding condition of the subject, the step of estimating the degree of concentration environment, which is an index indicating the degree of the environment in which it is easy to concentrate, and
A step of temporally associating the estimated concentration degree with the estimated concentration environment degree and outputting the step.
Concentration ratio analysis method characterized by having.
請求項13に記載の集中度解析方法の各ステップをプロセッサに実行させるためのプログラム。 A program for causing a processor to execute each step of the concentration analysis method according to claim 13.
JP2019142849A 2019-08-02 2019-08-02 Concentration degree analysis device, concentration degree analysis method, and program Pending JP2021023492A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2019142849A JP2021023492A (en) 2019-08-02 2019-08-02 Concentration degree analysis device, concentration degree analysis method, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019142849A JP2021023492A (en) 2019-08-02 2019-08-02 Concentration degree analysis device, concentration degree analysis method, and program

Publications (1)

Publication Number Publication Date
JP2021023492A true JP2021023492A (en) 2021-02-22

Family

ID=74662257

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019142849A Pending JP2021023492A (en) 2019-08-02 2019-08-02 Concentration degree analysis device, concentration degree analysis method, and program

Country Status (1)

Country Link
JP (1) JP2021023492A (en)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023032058A1 (en) * 2021-08-31 2023-03-09 株式会社I’mbesideyou Video session evaluation terminal, video session evaluation system, and video session evaluation program
JP2023068455A (en) * 2021-11-02 2023-05-17 エヌ・ティ・ティ・コミュニケーションズ株式会社 Educational support device, educational support method, and educational support program
JP7386364B1 (en) 2023-01-10 2023-11-24 旭化成エレクトロニクス株式会社 Information processing device, information processing method, and program
DE112022002348T5 (en) 2021-04-27 2024-02-15 Omron Corporation Pulse wave detection device, pulse wave detection method and pulse wave detection program
WO2024062935A1 (en) * 2022-09-21 2024-03-28 日本電気株式会社 Information processing device, system, information processing method, and program

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE112022002348T5 (en) 2021-04-27 2024-02-15 Omron Corporation Pulse wave detection device, pulse wave detection method and pulse wave detection program
WO2023032058A1 (en) * 2021-08-31 2023-03-09 株式会社I’mbesideyou Video session evaluation terminal, video session evaluation system, and video session evaluation program
JP2023068455A (en) * 2021-11-02 2023-05-17 エヌ・ティ・ティ・コミュニケーションズ株式会社 Educational support device, educational support method, and educational support program
WO2024062935A1 (en) * 2022-09-21 2024-03-28 日本電気株式会社 Information processing device, system, information processing method, and program
JP7386364B1 (en) 2023-01-10 2023-11-24 旭化成エレクトロニクス株式会社 Information processing device, information processing method, and program
JP2024098396A (en) * 2023-01-10 2024-07-23 旭化成エレクトロニクス株式会社 Information processing device, information processing method, and program

Similar Documents

Publication Publication Date Title
JP2021023492A (en) Concentration degree analysis device, concentration degree analysis method, and program
CN107205731B (en) Health management support device and health management support method
US11068831B2 (en) Work analysis assistance device, work analysis assistance method, computer program, and information storage medium
CN109815795A (en) Classroom student&#39;s state analysis method and device based on face monitoring
KR20160139221A (en) Concentrativeness evaluating system
JP2007006427A (en) Video monitor
US11045115B2 (en) Blink detection apparatus
CN111887867A (en) Method and system for analyzing character formation based on expression recognition and psychological test
KR101835578B1 (en) Concentrativeness evaluating system
CN109298786A (en) Mark accuracy rate appraisal procedure and device
JP2021179740A (en) Monitoring device, monitoring method, program, and model training device
US20200279205A1 (en) Techniques for tailoring fabrication environments based on user, task, and expertise
CN105654134B (en) It is a kind of based on the context aware system and its working method and application that have supervision self feed back
WO2020039559A1 (en) Information processing device, information processing method, and work evaluation system
JPWO2016199356A1 (en) Motion analysis apparatus, motion analysis method, and motion analysis program
US20190289202A1 (en) Image sensor
CN111680569A (en) Attendance rate detection method, device, equipment and storage medium based on image analysis
KR20200000680U (en) The Device for improving the study concentration
CN112926364A (en) Head posture recognition method and system, automobile data recorder and intelligent cabin
Gamaethige et al. “SenseA”-Autism Early Signs and Pre-Aggressive Detector through Image Processing
WO2017154477A1 (en) Pulse estimating device, pulse estimating system, and pulse estimating method
JP7166106B2 (en) Installation environment estimation device and program
WO2022059249A1 (en) Information processing device, information processing system, information output method, and information output program
CN114639168A (en) Method and system for running posture recognition
US20220370009A1 (en) Stress estimation device, stress estimation method, and recording media