JP6560137B2 - Concentration estimation device - Google Patents
Concentration estimation device Download PDFInfo
- Publication number
- JP6560137B2 JP6560137B2 JP2016022192A JP2016022192A JP6560137B2 JP 6560137 B2 JP6560137 B2 JP 6560137B2 JP 2016022192 A JP2016022192 A JP 2016022192A JP 2016022192 A JP2016022192 A JP 2016022192A JP 6560137 B2 JP6560137 B2 JP 6560137B2
- Authority
- JP
- Japan
- Prior art keywords
- score
- person
- gaze
- concentration
- calculating
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Measuring Pulse, Heart Rate, Blood Pressure Or Blood Flow (AREA)
- Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
- Image Analysis (AREA)
Description
本発明は、例えば、TV会議システムに参加している人の会議への集中度といった、映像を視聴している人の集中度を推定する技術に関する。 The present invention relates to a technique for estimating the degree of concentration of a person viewing a video, such as the degree of concentration of a person participating in a TV conference system at a meeting.
映像及び音声を遠隔地間で双方向に接続することでコミュニケーションを行うTV会議は、スモール・オフィスや在宅勤務の増加により、利用の増加が見込まれている。しかしながら、TV会議においては、相手方の発話内容や感情を十分に理解することが難しい場合がある。相手方の発話内容や感情を十分に理解できないと、TV会議におけるコミュニケーションが阻害される。 TV conferences that communicate by connecting video and audio bidirectionally between remote locations are expected to increase due to an increase in small offices and telecommuting. However, in a TV conference, it may be difficult to fully understand the content and emotions of the other party. Communication in a TV conference is hindered if the other party's utterances and emotions are not fully understood.
特許文献1は、会議の参加者の視線情報を用いて、参加者の感情を推定する構成を開示している。また、特許文献2は、TV視聴者の脳情報をfMRIにより計測して視聴者の視聴状態を判定する構成を開示している。 Patent document 1 is disclosing the structure which estimates an participant's emotion using the gaze information of the participant of a meeting. Patent Document 2 discloses a configuration in which the TV viewer's brain information is measured by fMRI to determine the viewer's viewing state.
会議の参加者の視線情報により、当該参加者が、例えば、話者を見ていることは判定できるが、当該参加者が、単に、話者を眺めているのみなのか、話者の話す内容を理解し、その内容の是非を判定しようと努めているのかを判定することはできない。一方、参加者の脳情報をfMRIにより取得することで当該参加者が何らかの思考をおこなっていることを判定することができるが、会議の話者に対して何らかの思考をおこなっているのか、会議の内容とは無関係な内容の思考を行っているのかを判定することはできない。 The gaze information of the participants in the conference can determine that the participant is looking at the speaker, for example, but the participant is simply looking at the speaker or the speaker speaks It is impossible to judge whether you are trying to understand the right or wrong of the contents. On the other hand, by acquiring the brain information of the participant by fMRI, it can be determined that the participant is thinking about something, but whether the participant is thinking about the conference, It is not possible to determine whether the content is not related to the content.
本発明は、TV会議システムや映像の視聴者の集中度を推定する推定装置、推定方法及びプログラムを提供することを目的とする。 An object of the present invention is to provide an estimation device, an estimation method, and a program for estimating the degree of concentration of a TV conference system and a viewer of a video.
本発明の一側面によると、映像を視聴している人の集中度を推定する推定装置は、前記人の脳血流における酸素化ヘモグロビン量を測定する測定手段と、前記人の視線方向を示す視線情報を取得する取得手段と、前記映像をブロックに分割し、所定期間に渡る各ブロックの画像の変化度合いを判定する判定手段と、前記視線情報に基づき、前記所定期間以上の判定期間において前記人が見ていたブロックを判定し、前記判定したブロックの前記変化度合いに基づき注視スコアを算出する第1算出手段と、前記判定期間における前記人の酸素化ヘモグロビン量に基づき賦活スコアを算出する第2算出手段と、前記注視スコア及び前記賦活スコアに基づき前記人の集中度を示す集中度スコアを算出する第3算出手段と、を備えていることを特徴とする。 According to one aspect of the present invention, an estimation device for estimating the concentration level of a person who is watching a video shows a measuring means for measuring the amount of oxygenated hemoglobin in the cerebral blood flow of the person, and the line-of-sight direction of the person Acquisition means for acquiring line-of-sight information, determination means for dividing the video into blocks, and determining the degree of change in the image of each block over a predetermined period, and based on the line-of-sight information, in the determination period equal to or greater than the predetermined period A first calculating means for determining a block that a person was viewing and calculating a gaze score based on the degree of change of the determined block; and a first calculating means for calculating an activation score based on the amount of oxygenated hemoglobin of the person in the determination period 2 calculation means, and a third calculation means for calculating a concentration score indicating the concentration of the person based on the gaze score and the activation score. That.
本発明によると、視聴者の集中度を推定することができる。 According to the present invention, the degree of viewer concentration can be estimated.
以下、本発明の例示的な実施形態について図面を参照して説明する。なお、以下の実施形態は例示であり、本発明を実施形態の内容に限定するものではない。また、以下の各図においては、実施形態の説明に必要ではない構成要素については図から省略する。 Hereinafter, exemplary embodiments of the present invention will be described with reference to the drawings. In addition, the following embodiment is an illustration and does not limit this invention to the content of embodiment. In the following drawings, components that are not necessary for the description of the embodiments are omitted from the drawings.
図1は、本実施形態の一例を示す構成図である。図1において、本社300と、スモール・オフィス100とにTV会議システムを設置し、ネットワーク200を介してTV会議が行える様になっている。本実施形態では、例えば、スモール・オフィス100側でTV会議に参加している参加者の会議への集中度を測定する。図2は、本実施形態による推定装置の構成図である。視線計測部1は、参加者の視線方向を測定し、視線方向を示す視線情報を推定部4に出力する。視線計測部1には、例えば、アイカメラといった任意の視線方向の測定機器を使用することができる。脳血流計測部2は、参加者の前頭前野における脳血流情報を取得し、血流情報を推定部4に出力する。本実施形態において、血流情報は、血液中の酸素化ヘモグロビン量を示す情報を含む。血流情報の測定には、近赤外分光法(Near Infrared Spectroscopy)を使用することができる。つまり、血液中の酸素化ヘモグロビン量は、参加者の前頭前野に近赤外光を照射して、その反射光を受光することで得られる。映像検出部3は、本社300のTV会議システムから送信される映像及び音声情報を含む会議情報から、映像情報を取り出して推定部4に出力する。
FIG. 1 is a configuration diagram illustrating an example of the present embodiment. In FIG. 1, a TV conference system is installed in the
図4は、推定部4の構成図である。脳賦活判定部41は、所定の判定期間L毎に、血流情報の平均値を判定し、この平均値を第1閾値と比較する。そして、平均値が第1閾値以下であると、賦活スコアを1とし、平均値が第1閾値より大きいと賦活スコアを0とする。賦活スコアが1であることは、参加者が何らかの思考を行っている状態を示し、賦活スコアが0とは、参加者が思考を行っていない状態を示している。これは、通常、人間が何らかの思考を行うと、前頭前野における酸素化ヘモグロビン量が減少するからである。
FIG. 4 is a configuration diagram of the
視線追随性判定部42は、映像情報が示す映像を所定サイズの複数のブロックに分割し、所定期間である算出間隔T毎に、各ブロックの時間周波数成分を得る。例えば、ブロックの縦及び横の画素数をそれぞれM及びNとすると、1つのブロックについて、算出時間間隔T毎にM×N×T画素の3次元データを得ることができ、この3次元データに対してフーリエ変換等の直交変換を行って、時間周波数の振幅情報を得る。このブロックの振幅情報は、当該ブロックの算出間隔T内における画像の変化度合いを示している。具体的には、ブロックの時間周波数の振幅が大きいことは、算出間隔T内において、当該ブロック内の画像の変化が大きいことを示している。なお、本実施形態において、判定期間Lは、算出間隔Tの整数倍とする。つまり、1つの判定期間L内にk個(kは1以上の整数)の算出間隔Tが含まれるものとする。
The line-of-sight following
そして、視線追随性判定部42は、算出間隔T毎に参加者が見ていたブロックを視線情報に基づき判定し、判定期間Lに渡り参加者が見ていたブロックの時間周波数の振幅の合計値を求める。つまり、判定期間L内にk個の算出間隔Tがあるものとすると、参加者が判定期間内に見ていたk個のブロックの時間周波数の振幅の合計値を視線追随性判定部42は求める。そして、視線追随性判定部42は、求めた合計値を第2閾値と比較し、合計値が第2閾値より大きいと、注視スコアを1として、合計値が第2閾値以下であると注視スコアを0とする。注視スコアが1であることは、参加者が変化の大きいブロックを注視していたことを示し、注視スコアが0であることは、参加者が変化の大きいブロックを注視していなかったことを示す。通常、会議等において、変化の大きいブロックは、話者を含むブロックに対応するため、本実施形態においては、注視スコアが1であることは、参加者が話者を注視していたと判定し、注視スコアが0であることは、参加者が話者を注視していなかったと判定する。
Then, the line-of-sight follow-
算出部43は、判定期間L毎に、参加者の賦活スコア及び注視スコアに基づき、参加者の集中度スコアを求める。例えば、賦活スコア及び注視スコアが共に1であると、集中度スコアを6とし、賦活スコアが0であり、かつ、注視スコアが1であると、集中度スコアを5とし、賦活スコアが1であり、かつ、注視スコアが0であると、集中度スコアを2.5とし、賦活スコア及び注視スコアが共に0であると、集中度スコアを1とする。そして、例えば、判定期間L毎に算出される集中度スコアの会議時間に渡る平均値又は合計値を、例えば、最終的な参加者の集中度スコアとする。なお、集中度スコアは、その値が高い程、参加者が会議に集中していたことを示す。
For each determination period L, the
なお、上記実施形態では、賦活スコア及び注視スコアそれぞれを0又は1の2段階評価としていた。しかしながら、2つ以上の閾値と比較することで、賦活スコア及び/又は注視スコアを3段階以上の評価とすることもできる。具体的には、n個の閾値(nは自然数)により(n+1)段階の賦活スコアを算出し、m個の閾値(mは自然数)により(m+1)段階の注視スコアを算出する構成とすることができる。 In the above embodiment, each of the activation score and the gaze score is a two-stage evaluation of 0 or 1. However, by comparing with two or more threshold values, the activation score and / or the gaze score can be evaluated in three or more stages. Specifically, the (n + 1) stage activation score is calculated using n threshold values (n is a natural number), and the (m + 1) stage gaze score is calculated using m threshold values (m is a natural number). Can do.
なお、本発明による推定装置は会議の参加者の集中度のみならず、映像を視聴している人の映像への集中度の推定にも利用できる。また、本発明による推定装置は、コンピュータを上記推定装置として動作させるプログラムにより実現することができる。これらコンピュータプログラムは、コンピュータが読み取り可能な記憶媒体に記憶されて、又は、ネットワーク経由で配布が可能なものである。 Note that the estimation apparatus according to the present invention can be used not only for the concentration of conference participants but also for the estimation of the concentration of video viewers on the video. The estimation device according to the present invention can be realized by a program that causes a computer to operate as the estimation device. These computer programs can be stored in a computer-readable storage medium or distributed via a network.
41:脳賦活判定部、42:視線追随性判定部、43:算出部 41: Brain activation determination unit, 42: Eye tracking follower determination unit, 43: Calculation unit
Claims (7)
前記人の脳血流における酸素化ヘモグロビン量を測定する測定手段と、
前記人の視線方向を示す視線情報を取得する取得手段と、
前記映像をブロックに分割し、所定期間に渡る各ブロックの画像の変化度合いを判定する判定手段と、
前記視線情報に基づき、前記所定期間以上の判定期間において前記人が見ていたブロックを判定し、前記判定したブロックの前記変化度合いに基づき注視スコアを算出する第1算出手段と、
前記判定期間における前記人の酸素化ヘモグロビン量に基づき賦活スコアを算出する第2算出手段と、
前記注視スコア及び前記賦活スコアに基づき前記人の集中度を示す集中度スコアを算出する第3算出手段と、
を備えていることを特徴とする推定装置。 An estimation device that estimates the degree of concentration of a person watching a video,
Measuring means for measuring the amount of oxygenated hemoglobin in the human cerebral blood flow;
Obtaining means for obtaining gaze information indicating the gaze direction of the person;
Determining means for dividing the video into blocks and determining a degree of change of an image of each block over a predetermined period;
First calculating means for determining a block that the person was looking at in a determination period equal to or greater than the predetermined period based on the line-of-sight information, and calculating a gaze score based on the degree of change of the determined block;
Second calculation means for calculating an activation score based on the amount of oxygenated hemoglobin of the person in the determination period;
Third calculation means for calculating a concentration score indicating the concentration of the person based on the gaze score and the activation score;
An estimation apparatus comprising:
前記人の酸素化ヘモグロビン量が少なくなる程、前記賦活スコアは高くなり、前記賦活スコアが高い程、前記集中度スコアは高くなることを特徴とする請求項1に記載の推定装置。 The second calculating means calculates the activation score of (n + 1) stages by comparing the amount of oxygenated hemoglobin of the person with n first threshold values (n is a natural number),
The estimation apparatus according to claim 1, wherein the activation score increases as the amount of oxygenated hemoglobin of the person decreases, and the concentration score increases as the activation score increases.
前記合計値が大きくなる程、前記注視スコアは高くなり、前記注視スコアが高い程、前記集中度スコアは高くなることを特徴とする請求項4に記載の推定装置。 The first calculation means calculates the gaze score of (m + 1) stages by comparing the total value with m second threshold values (m is a natural number),
The estimation apparatus according to claim 4, wherein the gaze score increases as the total value increases, and the concentration score increases as the gaze score increases.
前記人の脳血流における酸素化ヘモグロビン量を測定する測定ステップと、
前記人の視線方向を示す視線情報を取得する取得ステップと、
前記映像をブロックに分割し、所定期間に渡る各ブロックの画像の変化度合いを判定する判定ステップと、
前記視線情報に基づき、前記所定期間以上の判定期間において前記人が見ていたブロックを判定し、前記判定したブロックの前記変化度合いに基づき注視スコアを算出する第1算出ステップと、
前記判定期間における前記人の酸素化ヘモグロビン量に基づき賦活スコアを算出する第2算出ステップと、
前記注視スコア及び前記賦活スコアに基づき前記人の集中度を示す集中度スコアを算出する第3ステップと、
を含むことを特徴とする推定方法。 An estimation method in an estimation device for estimating the degree of concentration of a person watching a video,
A measurement step of measuring the amount of oxygenated hemoglobin in the cerebral blood flow of the person;
An acquisition step of acquiring gaze information indicating the gaze direction of the person;
A determination step of dividing the video into blocks and determining a degree of change of an image of each block over a predetermined period;
A first calculation step of determining a block that the person was viewing in a determination period equal to or greater than the predetermined period based on the line-of-sight information, and calculating a gaze score based on the degree of change of the determined block;
A second calculation step of calculating an activation score based on the amount of oxygenated hemoglobin of the person in the determination period;
A third step of calculating a concentration score indicating the concentration of the person based on the gaze score and the activation score;
The estimation method characterized by including.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016022192A JP6560137B2 (en) | 2016-02-08 | 2016-02-08 | Concentration estimation device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016022192A JP6560137B2 (en) | 2016-02-08 | 2016-02-08 | Concentration estimation device |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2017140107A JP2017140107A (en) | 2017-08-17 |
JP2017140107A5 JP2017140107A5 (en) | 2018-04-26 |
JP6560137B2 true JP6560137B2 (en) | 2019-08-14 |
Family
ID=59628036
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016022192A Active JP6560137B2 (en) | 2016-02-08 | 2016-02-08 | Concentration estimation device |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6560137B2 (en) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6936198B2 (en) * | 2018-09-14 | 2021-09-15 | Kddi株式会社 | Output device and output method |
WO2022168180A1 (en) * | 2021-02-02 | 2022-08-11 | 株式会社I’mbesideyou | Video session evaluation terminal, video session evaluation system, and video session evaluation program |
WO2022168178A1 (en) * | 2021-02-02 | 2022-08-11 | 株式会社I’mbesideyou | Video session evaluation terminal, video session evaluation system, and video session evaluation program |
JP7269269B2 (en) * | 2021-03-01 | 2023-05-08 | ヤフー株式会社 | Information processing device, information processing method, and information processing program |
WO2022209912A1 (en) * | 2021-03-30 | 2022-10-06 | パナソニックIpマネジメント株式会社 | Concentration value calculation system, concentration value calculation method, program, and concentration value calculation model generation system |
CN113783709B (en) * | 2021-08-31 | 2024-03-19 | 重庆市易平方科技有限公司 | Conference participant monitoring and processing method and device based on conference system and intelligent terminal |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000348189A (en) * | 1999-06-01 | 2000-12-15 | Matsushita Electric Ind Co Ltd | Picture processor |
JP5150942B2 (en) * | 2006-02-03 | 2013-02-27 | 株式会社国際電気通信基礎技術研究所 | Activity assistance system |
JP5467346B2 (en) * | 2009-09-11 | 2014-04-09 | 国立大学法人富山大学 | Motion estimation method, motion estimation device, and motion estimation program |
JP5841538B2 (en) * | 2011-02-04 | 2016-01-13 | パナソニック インテレクチュアル プロパティ コーポレーション オブアメリカPanasonic Intellectual Property Corporation of America | Interest level estimation device and interest level estimation method |
JP5119375B2 (en) * | 2011-05-02 | 2013-01-16 | パナソニック株式会社 | Concentration presence / absence estimation device and content evaluation device |
WO2013186911A1 (en) * | 2012-06-15 | 2013-12-19 | 株式会社日立製作所 | Stimulus presentation system |
CA3187490A1 (en) * | 2013-03-15 | 2014-09-18 | Interaxon Inc. | Wearable computing apparatus and method |
JP6221292B2 (en) * | 2013-03-26 | 2017-11-01 | 富士通株式会社 | Concentration determination program, concentration determination device, and concentration determination method |
-
2016
- 2016-02-08 JP JP2016022192A patent/JP6560137B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
JP2017140107A (en) | 2017-08-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6560137B2 (en) | Concentration estimation device | |
MY197572A (en) | System and method for synthetic interaction with user and devices | |
US9848170B2 (en) | System and method for improving communication productivity | |
US20190340780A1 (en) | Engagement value processing system and engagement value processing apparatus | |
US20100208078A1 (en) | Horizontal gaze estimation for video conferencing | |
US20150327802A1 (en) | Evaluation apparatus for mental state of human being | |
Yi et al. | Gaze patterns and audiovisual speech enhancement | |
WO2020148920A1 (en) | Information processing device, information processing method, and information processing program | |
Shin et al. | The effect of spatial attention on invisible stimuli | |
Kim et al. | Transition of visual attention assessment in stereoscopic images with evaluation of subjective visual quality and discomfort | |
JP2017041673A (en) | Viewing state detection device, viewing state detection system and viewing state detection method | |
Tanveer et al. | Do you see what I see? Designing a sensory substitution device to access non-verbal modes of communication | |
Martinez et al. | Full-reference audio-visual video quality metric | |
Sidaty et al. | Toward an audiovisual attention model for multimodal video content | |
US20120044323A1 (en) | Method and Apparatus for 3D Image and Video Assessment | |
EP4080388A1 (en) | Multimodal, dynamic, privacy preserving age and attribute estimation and learning methods and systems | |
Akhtar et al. | Computational analysis of gaze behavior in autism during interaction with virtual agents | |
JP5829590B2 (en) | Fatigue evaluation device, fatigue evaluation method, and program | |
Cho et al. | The measurement of eyestrain caused from diverse binocular disparities, viewing time and display sizes in watching stereoscopic 3D content | |
Song et al. | Sound effect on visual gaze when looking at videos | |
Arndt et al. | Enhancing video streaming using real-time gaze tracking | |
JP2015082247A (en) | Electronic equipment, determination method, and program | |
US20230014995A1 (en) | Content recommendations for users with disabilities | |
CN103945218A (en) | Stereo image quality evaluating method based on binocular vision fusion | |
KR20190054356A (en) | A method and apparatus for quantifying and evaluating dizziness or visual fatigue of user due to use of a virtual reality device |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180309 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180309 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20190115 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190215 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20190705 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20190718 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6560137 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |