KR101727940B1 - Apparatus and method for decision of psychological state using bio signals - Google Patents

Apparatus and method for decision of psychological state using bio signals Download PDF

Info

Publication number
KR101727940B1
KR101727940B1 KR1020150002757A KR20150002757A KR101727940B1 KR 101727940 B1 KR101727940 B1 KR 101727940B1 KR 1020150002757 A KR1020150002757 A KR 1020150002757A KR 20150002757 A KR20150002757 A KR 20150002757A KR 101727940 B1 KR101727940 B1 KR 101727940B1
Authority
KR
South Korea
Prior art keywords
stimulus
signal
psychological state
user
state
Prior art date
Application number
KR1020150002757A
Other languages
Korean (ko)
Other versions
KR20160085577A (en
Inventor
최종석
윤상석
박성기
임윤섭
Original Assignee
한국과학기술연구원
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 한국과학기술연구원 filed Critical 한국과학기술연구원
Priority to KR1020150002757A priority Critical patent/KR101727940B1/en
Publication of KR20160085577A publication Critical patent/KR20160085577A/en
Application granted granted Critical
Publication of KR101727940B1 publication Critical patent/KR101727940B1/en

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/16Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state
    • A61B5/165Evaluating the state of mind, e.g. depression, anxiety
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/02Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
    • A61B5/024Detecting, measuring or recording pulse rate or heart rate
    • A61B5/02416Detecting, measuring or recording pulse rate or heart rate using photoplethysmograph signals, e.g. generated by infrared radiation
    • A61B5/0402
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/05Detecting, measuring or recording for diagnosis by means of electric currents or magnetic fields; Measuring using microwaves or radio waves 
    • A61B5/053Measuring electrical impedance or conductance of a portion of the body
    • A61B5/0531Measuring skin impedance
    • A61B5/0533Measuring galvanic skin response
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/24Detecting, measuring or recording bioelectric or biomagnetic signals of the body or parts thereof
    • A61B5/316Modalities, i.e. specific diagnostic methods
    • A61B5/318Heart-related electrical modalities, e.g. electrocardiography [ECG]

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • General Health & Medical Sciences (AREA)
  • Veterinary Medicine (AREA)
  • Biophysics (AREA)
  • Pathology (AREA)
  • Physics & Mathematics (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • Surgery (AREA)
  • Animal Behavior & Ethology (AREA)
  • Public Health (AREA)
  • Cardiology (AREA)
  • Psychiatry (AREA)
  • Dermatology (AREA)
  • Child & Adolescent Psychology (AREA)
  • Radiology & Medical Imaging (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Physiology (AREA)
  • Developmental Disabilities (AREA)
  • Educational Technology (AREA)
  • Hospice & Palliative Care (AREA)
  • Psychology (AREA)
  • Social Psychology (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
  • Measurement And Recording Of Electrical Phenomena And Electrical Characteristics Of The Living Body (AREA)

Abstract

본 명세서의 일 실시예에 따른 심리상태 판단 장치는 제1 자극에 의해 발생된, 사용자의 제1 생체신호와 제2 생체신호를 획득하는 생체신호 획득부와, 제1 생체신호와 제2 생체신호를 각각 분석하여 제1 특징 및 제2 특징을 추출하고, 제1 특징 및 제2 특징에 기초하여 사용자의 심리상태를 판단하는 심리상태 판단부를 포함할 수 있다. 여기서, 제1 생체신호와 제2 생체신호는 각각 서로 상이한 바이오 센서로부터 측정되는 자율 신경의 변화를 나타내는 생체신호일 수 있다. 예를 들면, 제1 생체신호는 맥파 센서로부터 측정된 PPG 신호이고, 제2 생체신호는 피부전도 센서로부터 측정된 GSR 신호일 수 있다. The apparatus for determining a psychological state according to an embodiment of the present invention includes a biometric signal acquisition unit for generating a first biometric signal and a second biometric signal of a user generated by a first stimulus, And a psychological state determination unit for determining the psychological state of the user based on the first and second characteristics. Here, the first bio-signal and the second bio-signal may be biomedical signals indicating changes of autonomic nerves measured from different biosensors, respectively. For example, the first living body signal may be a PPG signal measured from a pulse wave sensor, and the second living body signal may be a GSR signal measured from a skin conduction sensor.

Description

생체신호를 이용한 심리상태 판단 장치 및 방법{APPARATUS AND METHOD FOR DECISION OF PSYCHOLOGICAL STATE USING BIO SIGNALS}[0001] APPARATUS AND METHOD FOR DECISION OF PSYCHOLOGICAL STATE USING BIO SIGNALS [0002]

본 명세서는 심리상태 판단 장치 및 방법과 시스템에 관한 것으로, 보다 상세하게는 심전도 신호 및 피부전도 신호와 같은 생체신호를 이용하여 사용자의 현재 심리상태를 판단하는 장치 및 방법에 관한 것이다.BACKGROUND OF THE INVENTION 1. Field of the Invention [0001] The present invention relates to a device and a method for determining a psychological state, and more particularly, to an apparatus and method for determining a current psychological state of a user by using a biological signal such as an electrocardiogram signal and a skin conduction signal.

최근 IT 기술과 의료 기술의 발전에 따라 인간의 감정을 인식하고 이에 대응하는 바이오 피드백을 제공하는 장치들의 개발이 진행되고 있다. Recently, development of devices that recognize human emotions and provide biofeedback in response to the development of IT technology and medical technology are being developed.

종래의 인간의 감정 및 심리를 인식하는 장치들은 음성 및 영상과 같은 복합적인 데이터로부터 특징을 추출하여 감정 및 심리를 판단하는 방식을 택하는데, 이 경우 센싱 범위 등 주변의 동적 환경변화에 취약하고, 피험자가 반응적 행동을 표시하지 않을 경우 정확한 데이터를 추출하지 못하는 문제가 발생한다. 뿐만 아니라, 감성자극 혹은 심리상태에 대한 생리적 반응은 언어적 진술이나 행동특징 추출보다 객관성을 가지며, 한 개인에 있어 높은 일관성을 보여주는 장점을 가지고 있다. 또한, 생체 신호를 이용하여 종래의 감정상태 판단하는 장치는 뇌전도 신호를 이용하여 사용자의 감정상태를 판단하는데, 이 경우 뇌전도 신호 측정에 거부감을 갖는 피험자(예컨대, 자폐 아동)에게 적용하기 어렵다는 문제가 있다. Conventional apparatuses for recognizing human emotions and psychologicals have adopted a method of judging emotion and psychology by extracting features from complex data such as voice and image. In this case, the apparatus is vulnerable to changes in surrounding dynamic environments such as a sensing range, If the subjects do not display reactive behavior, they will not be able to extract accurate data. In addition, physiological responses to emotional stimuli or psychological states have more objectivity than linguistic statements or behavioral feature extraction, and have the advantage of showing high consistency in an individual. In addition, a conventional apparatus for determining an emotion state using a bio-signal determines a user's emotional state using an electroencephalogram signal. In this case, it is difficult to apply it to a subject who has a feeling of refusal to measure an electroencephalogram signal (for example, have.

KR 10-2001-0010023KR 10-2001-0010023

이에, 본 명세서는, 심전도 신호 및 피부전도 신호와 같은 복수의 생체신호를 이용하여 사용자의 현재 심리상태를 판단함을 목적으로 한다.Accordingly, the present invention aims to determine the current psychological state of a user by using a plurality of biological signals such as an electrocardiogram signal and a skin conduction signal.

또한, 사용자의 현재 심리상태를 반영하여 스트레스 관리에 기반한 훈련자극을 결정함을 목적으로 한다.The purpose of this study is to determine the training stimulation based on the stress management by reflecting the current psychological state of the user.

본 명세서의 일 실시예에 따른 심리상태 판단 장치는 제1 자극에 의해 발생된, 사용자의 제1 생체신호와 제2 생체신호를 획득하는 생체신호 획득부; 및 상기 제1 생체신호와 상기 제2 생체신호를 각각 분석하여 제1 특징 및 제2 특징을 추출하고, 상기 제1 특징 및 상기 제2 특징에 기초하여 상기 사용자의 심리상태를 판단하는 심리상태 판단부를 포함하되, 상기 제1 생체신호와 상기 제2 생체신호는 서로 상이한 바이오 센서로부터 측정된 생체신호일 수 있다.The apparatus for determining a psychological state according to an embodiment of the present invention includes a bio-signal acquisition unit for acquiring a first bio-signal and a second bio-signal of a user generated by a first stimulus; And extracting a first feature and a second feature by analyzing the first bio-signal and the second bio-signal, respectively, and determining a psychological state of the user based on the first feature and the second feature, And the first and second bio-signals may be biomedical signals measured from biosensors that are different from each other.

실시예로서, 상기 제1 특징과 상기 제2 특징은 각각 상기 심리상태 판단을 위한 제1 기준과 제2 기준에 연관될 수 있다.In an embodiment, the first feature and the second feature may be associated with a first criterion and a second criterion for determining the psychological state, respectively.

실시예로서, 상기 제1 생체신호가 맥파 센서에 의해 측정된 맥파 신호인 경우, 상기 제1 특징은 감정의 유인가(valence) 및 각성도(arousal) 중 적어도 하나에 연관되고, 상기 제2 생체신호가 피부전도 센서에 의해 측정된 피부전도 신호인 경우, 상기 제2 특징은 감정의 각성도(arousal)에 연관될 수 있다.As an embodiment, when the first vital sign is a pulse wave signal measured by a pulse wave sensor, the first characteristic is related to at least one of valence and arousal of the emotion, Is a skin conduction signal measured by a skin conduction sensor, the second characteristic may be related to arousal of emotion.

실시예로서, 상기 판단된 사용자의 심리상태에 기초하여 상기 사용자에게 제공되는 제2 자극의 종류 및 레벨을 결정하는 자극 결정부를 더 포함할 수 있다.The apparatus may further include a stimulus determination unit that determines a type and a level of a second stimulus provided to the user based on the determined psychology state of the user.

실시예로서, 상기 제1 자극은 변별학습이론(DTT)에 따른 상호작용 훈련을 상기 사용자에게 제공하기 위한 제1 전제 자극이고, 상기 제2 자극은 제1 전제 자극에 대한 상기 사용자의 반응에 대응하는 후속 자극 또는 상기 제1 전제 자극의 다음 전제 자극인 제2 전제 자극일 수 있다. In an embodiment, the first stimulus is a first hypothesis stimulus for providing the user with an interaction training according to differential learning theory (DTT), and the second hypothesis corresponds to the user's response to the first hypothesis stimulus Or a second preconditioned stimulus that is the next preconditioned stimulus of the first preconditioned stimulus.

실시예로서, 상기 제1 자극과 상기 제2 자극은 로봇에 의해 제공되는 로보틱 자극일 수 있다. In an embodiment, the first magnetic pole and the second magnetic pole may be a robotic magnetic pole provided by a robot.

본 명세서의 일 실시예에 따른 심리상태 판단 방법은 제1 자극에 의해 발생된, 사용자의 제1 생체신호와 제2 생체신호를 획득하는 단계; 및 상기 제1 생체신호와 상기 제2 생체신호를 각각 분석하여 제1 특징 및 제2 특징을 추출하고, 상기 제1 특징 및 상기 제2 특징에 기초하여 상기 사용자의 심리상태를 판단하는 단계를 포함하되, 상기 제1 생체신호와 상기 제2 생체신호는 서로 상이한 바이오 센서로부터 측정된 생체신호일 수 있다. A method for determining a psychological state according to an embodiment of the present invention includes: acquiring a first biometric signal and a second biometric signal of a user generated by a first stimulus; And analyzing the first and second bio-signals to extract a first feature and a second feature, and determining a psychological state of the user based on the first feature and the second feature The first and second biomedical signals may be biomedical signals measured from biosensors that are different from each other.

실시예로서, 상기 제1 특징과 상기 제2 특징은 각각 상기 심리상태 판단을 위한 제1 기준과 제2 기준에 연관될 수 있다.In an embodiment, the first feature and the second feature may be associated with a first criterion and a second criterion for determining the psychological state, respectively.

실시예로서, 상기 제1 생체신호가 맥파 센서에 의해 측정된 맥파 신호인 경우, 상기 제1 특징은 감정의 유인가(valence) 및 각성도(arousal) 중 적어도 하나에 연관되고, 상기 제2 생체신호가 피부전도 센서에 의해 측정된 피부전도 신호인 경우, 상기 제2 특징은 감정의 각성도(arousal)에 연관될 수 있다. As an embodiment, when the first vital sign is a pulse wave signal measured by a pulse wave sensor, the first characteristic is related to at least one of valence and arousal of the emotion, Is a skin conduction signal measured by a skin conduction sensor, the second characteristic may be related to arousal of emotion.

실시예로서, 상기 판단된 사용자의 심리상태에 기초하여 상기 사용자에게 제공되는 제2 자극의 종류 및 레벨을 결정하는 단계를 더 포함할 수 있다.The method may further include determining a type and a level of a second stimulus provided to the user based on the determined psychological state of the user.

실시예로서, 상기 제1 자극은 변별학습이론(DTT)에 따른 상호작용 훈련을 상기 사용자에게 제공하기 위한 제1 전제 자극이고, 상기 제2 자극은 제1 전제 자극에 대한 상기 사용자의 반응에 대응하는 후속 자극 또는 상기 제1 전제 자극의 다음 전제 자극인 제2 전제 자극일 수 있다. In an embodiment, the first stimulus is a first hypothesis stimulus for providing the user with an interaction training according to differential learning theory (DTT), and the second hypothesis corresponds to the user's response to the first hypothesis stimulus Or a second preconditioned stimulus that is the next preconditioned stimulus of the first preconditioned stimulus.

실시예로서, 상기 제1 자극과 상기 제2 자극은 로봇에 의해 제공되는 로보틱 자극일 수 있다.In an embodiment, the first magnetic pole and the second magnetic pole may be a robotic magnetic pole provided by a robot.

본 명세서에 따르면, 말초신경계의 일부로 사람의 의지와는 관계없이 자동적으로 작동하는 신경계에 대한 복수의 생체신호를 이용하여 사용자의 심리상태를 판단함으로써, 사용자의 현재 심리상태 및 그 변화를 보다 정확히 판단할 수 있다.According to the present specification, by using a plurality of bio-signals for a nervous system that automatically operates as a part of a peripheral nervous system regardless of the will of the person, the user's psychological state is determined to determine the current psychological state of the user and its change more accurately can do.

또한, 자율 신경계의 항상성 조절 매커니즘을 추적할 수 있는 평가 수단 및 신경계에 영향을 주는 생리적 변화의 측정에 있어서 뇌전도 신호보다 측정이 용이한 심전도 및 피부전도 신호 등을 이용하여 사용자의 심리상태 및 생리적 변화를 판단함으로써 자극에 대한 사용자의 신경계 활성 정도를 명확하게 분별할 수 있다. In addition, evaluation means capable of tracking the homeostatic regulation mechanism of the autonomic nervous system and physiological state and physiological change of the user using the electrocardiogram and skin conduction signal which are easier to measure than the electroencephalogram signal in the measurement of the physiological change affecting the nervous system The degree of activity of the user's nervous system on stimulation can be clearly discriminated.

또한, 사용자의 현재 심리상태를 반영하여 스트레스 관리에 기반한 훈련자극을 제공함으로써, 사용자(예컨대, 자폐 아동)의 집중도를 효과적으로 조절할 수 있다. In addition, by providing a training stimulus based on the stress management reflecting the current psychological state of the user, the concentration of the user (for example, an autistic child) can be effectively controlled.

또한, 다양한 매개물(예컨대, 로봇, 디스플레이 장치 등)을 이용하여 적절한 훈련자극을 제공함으로써, 사람이 직접 사용자의 사회성을 훈련시키는 방법에 비해 일관되고 효과적인 훈련을 제공할 수 있다.In addition, by providing appropriate training stimuli using a variety of media (e.g., robots, display devices, etc.), it is possible to provide consistent and effective training compared to a method in which a person directly training a user's sociality.

도 1은 일 실시예에 따른 심리상태 판단 장치의 구성도이다.
도 2는 일 실시예에 따른 심리상태 판단 장치가 생체신호를 획득하고 사용자의 심리상태를 판단하는 과정을 나타내는 개념도이다.
도 3은 일 실시예에 따른 심리상태 모델의 예시도이다.
도 4는 일 실시예에 따른 심리상태 판단 방법의 순서도이다.
FIG. 1 is a block diagram of a psychological state determining apparatus according to an embodiment of the present invention.
FIG. 2 is a conceptual diagram illustrating a process in which a psychological state determination apparatus according to an exemplary embodiment acquires a biological signal and determines a psychological state of a user.
3 is an illustration of a psychological state model according to one embodiment.
4 is a flowchart of a psychological state determination method according to an embodiment.

이하 첨부 도면들 및 첨부 도면들에 기재된 내용들을 참조하여 실시 예를 상세하게 설명하지만, 청구하고자 하는 범위는 실시 예들에 의해 제한되거나 한정되는 것은 아니다.Hereinafter, embodiments will be described in detail with reference to the accompanying drawings and the accompanying drawings, but the scope of the claims is not limited or limited by the embodiments.

본 명세서에서 사용되는 용어는 기능을 고려하면서 가능한 현재 널리 사용되는 일반적인 용어를 선택하였으나, 이는 당 분야에 종사하는 기술자의 의도 또는 관례 또는 새로운 기술의 출현 등에 따라 달라질 수 있다. 또한, 특정한 경우는 출원인이 임의로 선정한 용어도 있으며, 이 경우 해당되는 명세서의 설명 부분에서 그 의미를 기재할 것이다. 따라서 본 명세서에서 사용되는 용어는, 단순한 용어의 명칭이 아닌 그 용어가 가지는 실질적인 의미와 본 명세서의 전반에 걸친 내용을 토대로 해석되어야 함을 밝혀두고자 한다. As used herein, terms used in the present specification are selected from the general terms that are currently widely used, while taking into consideration the functions, but these may vary depending on the intention or custom of the artisan or the emergence of new techniques. Also, in certain cases, there may be a term selected by the applicant at will, in which case the meaning will be described in the description part of the corresponding specification. Therefore, it is intended that the terminology used herein should be interpreted based on the meaning of the term rather than on the name of the term, and on the entire contents of the specification.

또한, 본 명세서에 기술된 실시예는 전적으로 하드웨어이거나, 부분적으로 하드웨어이고 부분적으로 소프트웨어이거나, 또는 전적으로 소프트웨어인 측면을 가질 수 있다. 본 명세서에서 "부(unit)", "모듈(module)", "장치", "로봇" 또는 "시스템" 등은 하드웨어, 하드웨어와 소프트웨어의 조합, 또는 소프트웨어 등 컴퓨터 관련 엔티티(entity)를 지칭한다. 예를 들어, 부, 모듈, 장치, 로봇 또는 시스템은 플랫폼(platform)의 일부 또는 전부를 구성하는 하드웨어 및/또는 상기 하드웨어를 구동하기 위한 애플리케이션(application) 등의 소프트웨어를 지칭하는 것일 수 있다.
In addition, the embodiments described herein may be wholly hardware, partially hardware, partially software, or entirely software. A "unit", "module", "device", "robot" or "system" or the like in this specification refers to a computer-related entity such as hardware, a combination of hardware and software, . For example, a component, a module, a device, a robot or a system may refer to software such as an application for driving the hardware and / or the hardware constituting part or all of the platform.

본 명세서에서 심리상태 판단 장치는 사용자로부터 측정된 생체 신호를 이용하여 사용자의 심리상태를 판단하는 장치를 말한다. 일 실시예에서, 심리상태 판단 장치는 사용자에게 제공된 자극에 의해 발생하는 사용자의 생체신호의 변화를 분석하여 사용자의 심리상태를 판단하는 장치일 수 있다. 여기서, 심리상태는 사용자의 심리적인 감정상태로서, 예를 들어, 즐거움, 놀람, 화남 등과 같은 감정상태일 수 있다.
In this specification, the psychological state determining apparatus refers to a device for determining a psychological state of a user by using a bio-signal measured by a user. In one embodiment, the psychological state determination apparatus may be a device for determining a psychological state of a user by analyzing a change in a user's bio-signal generated by a stimulus provided to the user. Here, the psychological state may be a psychological state of the user, for example, an emotional state such as pleasure, surprise, angryness, and the like.

도 1은 일 실시예에 따른 심리상태 판단 장치의 구성도이다. 도 1을 참조하면, 심리상태 판단 장치(100)는 생체신호 획득부(110), 심리상태 판단부(120)로 구성될 수 있다. 또한, 장치는 자극 결정부(130) 및 데이터베이스(140)를 더 포함할 수 있다. 여기서, 자극 결정부(130) 및 데이터베이스(140)는 옵셔널한 구성일 수 있다. FIG. 1 is a block diagram of a psychological state determining apparatus according to an embodiment of the present invention. Referring to FIG. 1, the psychological state determination apparatus 100 may include a bio-signal acquisition unit 110 and a psychological state determination unit 120. In addition, the apparatus may further include a stimulus determination unit 130 and a database 140. Here, the stimulus determination unit 130 and the database 140 may have an optional configuration.

생체신호 획득부(110)는 제1 자극에 의해 발생되는, 사용자의 복수의 생체신호를 미리 설정된 시간(예컨대, 5분) 동안 획득할 수 있다. 일 실시예에서, 생체신호 획득부(110)는 심리상태 판단 장치(100)에 내장된 다수의 바이오 센서로부터 측정된 사용자의 복수의 생체신호를 획득할 수 있다. 다른 실시예에서, 생체신호 획득부(110)는 심리상태 판단 장치(100)에 내장되지 않은 다수의 바이오 센서로부터 측정된 사용자의 복수의 생체신호를, 바이오 센서와의 유선 또는 무선 통신을 통해 획득할 수 있다. 여기서, 바이오 센서는 사용자의 신체의 일부에 부착되어 생체신호를 측정하는 부착식 바이오 센서 또는 사용자의 신체의 일부에 부착되지 않고 생체신호를 측정하는 비부착식 바이오 센서일 수 있다. The bio-signal acquisition unit 110 can acquire a plurality of bio-signals of the user, which are generated by the first magnetic poles, for a predetermined time (e.g., 5 minutes). In one embodiment, the bio-signal acquisition unit 110 may acquire a plurality of bio-signals of a user measured from a plurality of bio-sensors built in the psychological state determination apparatus 100. In another embodiment, the bio-signal acquisition unit 110 acquires a plurality of user's bio-signals measured from a plurality of biosensors not incorporated in the psychological state determination apparatus 100 through wired or wireless communication with the biosensor can do. Here, the biosensor may be an attachment type biosensor attached to a part of a user's body to measure a bio-signal, or a non-attachment type biosensor that does not attach to a part of a user's body but measures a bio-signal.

본 명세서에서, 생체신호는 자율신경(교감 또는 부교감 신경)의 변화를 나타내는 신호로서, ECG(Electrocardiogram) 신호(chest beat), PPG(Photoplethysmography) 신호(blood volume purse), PCG(phonocardiogram) 신호(heart sound), EMG(electromyography) 신호(electrical activity in muscles), EA 신호(electrical activity in nerves: GSR(galvanic skin response), SKT(skin temperture), ICG(눈 근육 움직임), 맥파로 간접 유도되는 호흡과 같은 호흡(Respiration) 신호들을 포함할 수 있으나, 이에 한정되지 않는다. 이를 통해, 심리상태 판단 장치(100)는 뇌전도 신호보다 측정이 용이한 상술한 자율신경의 변화를 나타내는 생체신호를 이용하여 사용자의 심리상태를 판단함으로써 뇌파 신호 측정에 거부감을 갖는 사용자(예컨대, 자폐 아동)에게도 적용 가능하다. In this specification, the bio-signal is a signal indicating a change of the autonomic nerve (sympathetic or parasympathetic nerve), and includes an ECG (electrocardiogram) chest beat, a PPG (blood volume purge) signal, a PCG (phonocardiogram) (EEG) signal, electrical activity in nerves (galvanic skin response), SKT (skin temperture), ICG (eye muscle movement), indirectly induced breathing with pulse waves The psychological state judging apparatus 100 may use the bio-signal indicating the change of the autonomic nerve, which is easier to measure than the electroencephalogram signal, The present invention is also applicable to a user (for example, an autistic child) who has a feeling of refusal to measure an EEG signal by judging a psychological state.

일 실시예에서, 제1 자극은 훈련자(예컨대, 로봇)에 의해 제공되는 제1 훈련 자극일 수 있다. 예를 들면, 제1 자극은 변별학습이론(Discrete Time Teaching: DTT)에 따른 상호작용 훈련(예컨대, 눈맞추기, 공동주의, 가리키기, 관심사 공유하기, 놀이행동 모방하기, 호명반응, 얼굴 표정읽기, 상상놀이 훈련 등)을 사용자에게 제공하기 위하여 훈련자(예컨대, 로봇)에 의해 제공되는 제1 전제 자극일 수 있다. 이러한, 변별학습이론(DTT)에 따른 상호작용 훈련은 사용자의 반응을 요청하는 전제자극의 제공, 전제자극에 대한 사용자의 행동반응의 분석, 사용자의 행동반응에 대한 후속자극의 제공이 한 세트로 구성된 사용자의 상호작용 능력을 증진시키는 훈련 방법을 의미한다. In one embodiment, the first stimulus may be a first training stimulus provided by a trainee (e.g., a robot). For example, the first stimulus can be used for interaction training (eg, eye coordination, co-ordination, pointing, sharing of interests, mimicry of play behavior, facial expression response, facial expression reading) according to Discrete Time Teaching , Imaginary play training, etc.) to provide the user with training (e. G., Robots). Interaction training according to the discriminant learning theory (DTT) is a set of provision of pre-stimulation requesting the user's reaction, analysis of the user's behavior response to the pre-stimulation, and provision of subsequent stimulus to the user's behavior response Means a training method that improves the interactivity of a configured user.

일 실시예에서, 복수의 생체신호는 서로 상이한 바이오 센서로부터 측정된 제1 생체신호 및 제2 생체신호를 포함할 수 있다. 예를 들면, 제1 생체신호는 심전도 센서로부터 측정된 심전도 신호(예컨대, 맥파 센서로부터 측정된 맥파(PPG) 신호 등)일 수 있고, 제2 생체 신호는 피부전도 센서로부터 측정된 피부전도 신호(예컨대, 피부전도 센서로부터 측정된 피부전도(GSR) 신호 등)일 수 있다. 제1 생체신호가 심전도 신호 중 PPG 신호이고, 제2 생체신호가 피부전도 신호 중 GSR 신호인 경우에 대한 설명은 도 2를 참조하여 이하에서 상세히 설명하도록 한다. In one embodiment, the plurality of bio-signals may include a first bio-signal and a second bio-signal measured from biosensors that are different from each other. For example, the first living body signal may be an electrocardiogram signal measured from an electrocardiogram sensor (e.g., a pulse wave (PPG) signal measured from a pulse wave sensor), and the second living body signal may be a skin conduction signal (E.g., a skin conduction (GSR) signal measured from a skin conduction sensor, etc.). A description of the case where the first living body signal is the PPG signal of the electrocardiogram signal and the second living body signal is the GSR signal of the skin conduction signal will be described in detail below with reference to FIG.

심리상태 판단부(120)는 미리 정의된 분석 및 판단 알고리즘에 따라 제1 생체신호와 제2 생체신호를 분석하여 사용자의 심리상태를 판단할 수 있다. 일 실시예에서, 심리상태 판단부(120)는 제1 생체신호 및 제2 생체신호를 각각 분석하여 제1 특징 및 제2 특징을 추출하고, 제1 특징과 제2 특징에 기초하여 사용자의 심리상태를 판단할 수 있다. The psychological state determination unit 120 may determine the psychological state of the user by analyzing the first and second bio-signals according to a predetermined analysis and determination algorithm. In one embodiment, the psychological state determination unit 120 analyzes the first biometric signal and the second biometric signal to extract the first characteristic and the second characteristic, respectively. Based on the first characteristic and the second characteristic, The state can be judged.

일 실시예에서, 분석 및 판단 알고리즘은 미리 정의된 또는 사용자에 의해 입력된 심리상태 모델에 기초하여 미리 정의된 분석 및 판단 알고리즘일 수 있다. 본 명세서에서 사용되는 심리상태 모델은, Valence-Arousal(V-A) 차원 모델과 같은 감정상태 모델뿐 아니라, 일반적인 감정상태 모델을 재구성한 모델로서, 예를 들면, 임의의 정성적 상태(예컨대, 좋아함, 보통, 싫어함)로 구분되는 심리상태에 대한 모델이거나 또는 임의의 정량적 상태(예컨대, 안정, 불안정)와 정성적 크기(예컨대, 상, 중, 하)로 구분되는 심리상태에 대한 모델일 수 있다. In one embodiment, the analysis and judgment algorithm may be a predefined analysis and judgment algorithm based on a predefined or user entered psychological state model. The psychological state model used in the present specification is a model in which a general emotion state model is reconstructed as well as an emotion state model such as a Valence-Arousal (VA) dimensional model, for example, a certain qualitative state (e.g., (Eg, normal, disliked), or a model for psychological states separated by any quantitative state (eg, stable, unstable) and qualitative size (eg, upper, middle, lower).

일 실시예에서, 심리상태 판단부(120)는 각 생체신호로부터 특징을 추출하기 전에 각 생체신호를 전처리할 수 있다. 예를 들면, 심리상태 판단부(120)는 피크 검출, 노이즈 제거, 필터링 등과 같은 신호 전처리를 수행할 수 있다. In one embodiment, the psychological state determiner 120 may pre-process each bio-signal before extracting features from each bio-signal. For example, the psychological state determination unit 120 may perform signal preprocessing such as peak detection, noise removal, filtering, and the like.

일 실시예에서, 제1 특징과 제2 특징은 각각 심리상태 판단을 위한 제1 기준과 제2 기준에 연관될 수 있다. 예를 들면, 도 3에서처럼, 심리상태 모델이 V-A 차원 모델인 경우, 제1 특징은 제1 기준인 감정의 유인가(valence)와 연관되고, 제2 특징은 제2 기준인 감정의 각성도(arousal)와 연관될 수 있다. 여기서, 유인가는 감정이 긍정적인지 부정적인지를 나타내는 지수를 말하고, 각성도는 감정의 각성 정도, 즉, 사용자가 감정적으로 얼마나 자극이 되는지를 나타내는 지수를 말한다. In one embodiment, the first and second features may be associated with a first criterion and a second criterion, respectively, for psychological state determination. For example, as shown in FIG. 3, when the psychological state model is a VA-dimensional model, the first characteristic is associated with a valence of a first criterion, and the second characteristic is associated with a second characteristic, arousal ). ≪ / RTI > Herein, the incentive refers to an index indicating whether the emotion is positive or negative, and the arousal refers to the degree of arousal of the emotion, that is, an index indicating how much the user is emotionally stimulated.

이러한 도 3에 대하여 상세히 설명하면, 심리상태 모델의 제1 영역은 사용자의 심리상태가 제1 상태(놀람)임을 나타내고, 제2 영역은 사용자의 심리상태가 제2 상태(화남)임을 나타내고, 제3 영역은 사용자의 심리상태가 제3 상태(산만함)임을 나타내고, 제4 영역은 사용자의 심리상태가 제4 상태(흥분됨)임을 나타내고, 제5 영역은 사용자의 심리상태가 제5 상태(행복함)임을 나타내고, 제6 영역은 사용자의 심리상태가 제6 상태(침착함)임을 나타낼 수 있다. 상술한 도 3의 심리상태 모델은 예시적인 심리 상태 모델로서, 본 명세서의 심리상태 판단 장치(100)는 이와 다른 심리상태 모델을 사용하여 사용자의 심리상태를 판단할 수 있다. 3, the first area of the psychological state model indicates that the psychological state of the user is the first state (surprise), the second area indicates that the psychological state of the user is the second state 3 indicates that the psychological state of the user is the third state (distracting), the fourth region indicates that the psychological state of the user is the fourth state (excited), the fifth region indicates that the psychological state of the user is the fifth state , And the sixth region may indicate that the psychological state of the user is the sixth state (calm). The above-described psychological state model of FIG. 3 is an exemplary psychological state model, and the psychological state judgment apparatus 100 of the present specification can judge the psychological state of the user by using another psychological state model.

실시예로서, 도 3에서처럼, 심리상태 모델이 유인가와 각성도에 따라 6가지 영역으로 구분되는 모델인 경우, 심리상태 판단부(120)는 제1 생체신호(예컨대, PPG 신호)로부터 감정의 유인가와 연관된 제1 특징(예컨대, 맥파전달 시간)을 추출하고 이에 기초하여 유인가가 양(positive) 또는 음(negative)인지를 분류하고, 제2 생체신호(예컨대, GSR 신호)로부터 감정의 각성도와 연관된 제2 특징(예컨대, 피부전도도 변동폭)을 추출하고 이에 기초하여 각성도(높음, 중간, 낮음)를 분류하고, 사용자의 현재 심리상태가 상술한 6가지 영역 중 어느 영역에 포함되는지를 판단함으로써 사용자의 현재 심리상태를 판단할 수 있다. 3, when the psychological state model is a model in which the psychological state model is divided into six regions according to the attractiveness and the arousal level, the psychological state determiner 120 extracts the attractiveness of the emotion from the first bio signal (for example, PPG signal) Extracts a first characteristic (e.g., a pulse wave propagation time) associated with the stimulus and classifies whether the attractor is positive or negative based on the extracted first characteristic (e.g., pulse wave propagation time) (High, medium, and low) of the user's current psychological state are included in the six regions described above by extracting the two characteristics (for example, the fluctuation range of the skin conductivity) You can judge your current psychological state.

예를 들면, 심리상태 판단부(120)는 맥파전달 시간이 기준 시간보다 빠른 경우 유인가를 양(positive)으로 분류하고, 맥파전달 시간이 기준 시간보다 느린 경우 유인가를 음(positive)으로 분류할 수 있다. 또한, 심리상태 판단부(120)는 피부전도도 변동폭이 제1 기준 폭보다 높은 경우 각성도를 높음으로 분류하고, 피부전도도 변동폭이 제1 기준 폭보다 낮고 제2 기준 폭보다 높은 경우 각성도를 중간으로 분류하고, 피부전도도 변동폭이 제2 기준 폭보다 낮은 경우 각성도를 낮음으로 분류할 수 있다. 이후, 심리상태 판단부(120)는 분류된 유인가와 각성도에 기초하여 사용자의 현재 심리상태를 판단할 수 있다. 예를 들면, 심리상태 판단부(120)는 분류된 유인가가 양이고, 분류된 각성도가 중간인 경우, 사용자의 심리상태가 제5 상태(행복함)인 것으로 판단할 수 있다. For example, if the pulse wave delivery time is faster than the reference time, the psychological state determination unit 120 classifies the attracted price as positive, and if the pulse wave delivery time is slower than the reference time, have. The psychological state judging unit 120 classifies the arousal level as high when the fluctuation width of the skin conductivity is higher than the first reference width and when the fluctuation width of the skin conductivity is lower than the first reference width and is higher than the second reference width, And when the fluctuation range of the skin conductivity is lower than the second reference width, the arousal level can be classified as low. Thereafter, the psychological state determination unit 120 may determine the current psychological state of the user based on the classified incentive price and the arousal level. For example, the psychological state judging unit 120 can judge that the psychological state of the user is the fifth state (happy) when the classified attracted price is positive and the classified awakening is intermediate.

상술한 실시예는 예시적인 것에 불과하고, 심리상태 판단부(120)는 추출된 제1 특징 및 제2 특징의 종류 및 특성에 따라 다양한 기준 및 방법을 이용하여 제1 특징 및 제2 특징으로부터 사용자의 현재 심리상태를 판단할 수 있다. 제1 특징 및 제2 특징의 다양한 종류 및 특성에 대하여는 도 2를 참조하여 이하에서 상세히 설명하도록 한다. The embodiment described above is merely an example, and the psychological state judging unit 120 judges from the first feature and the second feature, based on the extracted types and characteristics of the first feature and the second feature, The current psychological state of the user can be determined. The various types and characteristics of the first and second features will be described in detail below with reference to Fig.

자극 결정부(130)는 판단된 사용자의 심리상태에 기초하여 사용자에게 제공되는 제2 자극의 종류 및 레벨을 결정할 수 있다. 일 실시예에서, 제2 자극은 훈련자(예컨대, 로봇)에 의해 제공되는 제1 훈련 자극의 다음 훈련 자극인 제2 훈련 자극일 수 있다. 예를 들면, 제2 자극은 변별학습이론(DTT)에 따른 상호작용 훈련을 사용자에게 제공하기 위하여 훈련자(예컨대, 로봇)에 의해 제공되는, 제1 전제 자극에 대한 사용자의 반응에 대응하는 후속 자극 또는 제1 전제 자극의 다음 전제 자극인 제2 전제 자극일 수 있다. The stimulus determining unit 130 may determine the type and level of the second stimulus provided to the user based on the determined psychological state of the user. In one embodiment, the second stimulus may be a second training stimulus that is the next training stimulus of the first training stimulus provided by the trainee (e.g., a robot). For example, the second stimulus may be a subsequent stimulus corresponding to the user's response to the first hypothesis stimulus, provided by the trainer (e.g., robot) to provide the user with interactive training according to the differential learning theory (DTT) Or a second preconditioning which is the next preconditioning of the first preconditioning.

일 실시예에서, 후속 자극은 사용자의 반응에 대한 보상을 제공하기 위한 자극, 사용자의 반응을 독려하기 위한 자극 또는 중지 자극 중 어느 하나일 수 있다. 일 실시예에서, 제2 전제 자극은 제1 전제 자극과 상이한 종류 또는 상이한 레벨의 자극일 수 있다. 다른 실시예에서, 제2 전제 자극은 제1 전제 자극과 동일한 종류와 레벨의 자극일 수 있다. 심리상태 모델이 도 3의 심리상태 모델인 경우, 사용자의 현재 심리상태의 각각에 대응하는 후속 자극과 제2 전제자극에 대한 예시적인 설명은 아래 표 1과 같다. In one embodiment, the subsequent stimulus may be either a stimulus to provide compensation for a user's response, a stimulus to stimulate a user's response, or a stop stimulus. In one embodiment, the second pre-stimulus may be of a different or different level than the first pre-stimulus. In another embodiment, the second pre-stimulus may be a stimulus of the same type and level as the first pre-stimulus. If the psychological state model is the psychological state model of FIG. 3, an exemplary description of the subsequent stimulus and the second premature stimulus corresponding to each of the user's current psychological states is shown in Table 1 below.

심리상태Psychological state 후속 자극Subsequent stimulation 제2 전제 자극Second premulture 제1 상태The first state 중지stop -- 제2 상태Second state 강한 독려Strong encouragement 긴장 완화 유도Induce relaxation 제3 상태Third state 일반 독려General encouragement 긴장 완화 유도Induce relaxation 제4 상태Fourth state 최고 보상Super reward 스트레스/긴장 유지Stress / tension 제5 상태Fifth state 높은 보상A high reward 스트레스/긴장 유도Stress / tension induction 제6 상태Sixth state 일반 보상General reward 스트레스/긴장 유도Stress / tension induction

일 실시예에서, 제1 자극 및 제2 자극은 로봇에 의해 제공되는 로보틱 자극일 수 있다. 예를 들면, 심리상태 판단 장치(100)의 제어에 따라 로봇이 사용자에게 제1 자극 및 제2 자극을 제공할 수 있다. 여기서, 로봇은 사용자와 상호작용이 가능하도록 프로그래밍(programming)된 임의의 플랫폼을 지칭하는 것으로서 특정 형상 또는 목적을 갖는 로봇에 한정되는 것은 아니다. 일 실시예에서, 로봇은 사용자에게 자극을 제공하도록, 지능 로봇의 표현을 출력하기 위한 하나 이상의 출력 수단(예컨대, 디스플레이, 스피커, 다수의 관절)을 포함할 수 있다.In one embodiment, the first stimulus and the second stimulus may be a robotic stimulus provided by a robot. For example, the robot may provide a first stimulus and a second stimulus to the user under the control of the psychological state determination apparatus 100. [ Here, the robot refers to any platform programmed to be capable of interacting with a user, and is not limited to a robot having a specific shape or purpose. In one embodiment, the robot may include one or more output means (e.g., a display, a speaker, a plurality of joints) for outputting a representation of the intelligent robot to provide stimulation to the user.

이러한 제1 자극 및 제2 자극이 로봇에 의해 제공되는 로보틱 자극인 경우, 사용자(예컨대, 아동)가 선호하는 형태학적 외형(예컨대, 캐릭터 형상의 로봇)에 기반하여 치료사를 통한 훈련제공에 비해 사용자의 훈련 참여도를 높일 수 있다. 또한, 치료사가 행하기 어려운 로봇의 동작학적인 제스처 및 자극 구성을 통해 단순 반복적인 훈련을 사용자에게 제공할 수 있다. If these first stimuli and second stimuli are robotic stimuli provided by the robot, then it is preferable to provide training through the therapist based on the morphological appearance (e.g., character-like robots) preferred by the user The user's participation in training can be increased. In addition, it is possible to provide the user with simple repetitive training through the gestural and stimulus configuration of the robot which is difficult for the therapist to perform.

데이터베이스(140)는 생체신호 정보 및 사용자 심리상태 정보를 저장할 수 있다. 일 실시예에서, 데이터터베이스(140)는 측정된 제1 생체신호와 제2 생체신호에 대한 정보, 및 측정된 제1 생체신호와 제2 생체신호로부터 판단된 사용자의 심리상태에 대한 정보를 사용자 별(예컨대, 사용자 ID 별)로 저장할 수 있다. 이를 통해, 치료사는 사용자 별로 저장된 데이터베이스 정보를 이용하여 사용자의 심리상태의 변화 및 추이 분석에 따른 훈련상황의 치료 및 개선 정도를 파악할 수 있고, 이를 다른 치료사가 모니터링할 수 있는 자료로 활용할 수 있다.The database 140 may store biometric signal information and user psychological state information. In one embodiment, the data base 140 stores information on the measured first bio-signal and the second bio-signal, and information on the psychological state of the user determined from the measured first bio-signal and the second bio-signal (For example, by user ID). Through this, the therapist can grasp the degree of treatment and improvement of the training situation according to the change of the psychological state of the user and analysis of the trend using the database information stored for each user, and utilize it as data that can be monitored by other therapists.

도 1은 본 명세서의 일 실시예에 따른 블록도로서, 분리하여 표시한 블록들은 장치의 구성요소들을 논리적으로 구별하여 도시한 것이다. 따라서 상술한 장치의 구성요소들은 장치의 설계에 따라 하나의 칩으로 또는 복수의 칩으로 장착될 수 있다.
FIG. 1 is a block diagram according to one embodiment of the present invention, wherein blocks separated and shown are logically distinguishing components of the apparatus. Therefore, the components of the above-described apparatus can be mounted as one chip or as a plurality of chips according to the design of the apparatus.

도 2는 일 실시예에 따른 심리상태 판단 장치가 생체신호를 획득하고 심리상태를 판단하는 과정을 나타내는 개념도이다. 도 2에서는, 제1 생체신호가 심전도 신호 중 PPG 신호이고, 제2 생체신호는 피부전도 신호 중 GSR 신호라고 가정한다. FIG. 2 is a conceptual diagram illustrating a process in which a psychological state determination apparatus according to an embodiment acquires a biological signal and determines a psychological state. 2, it is assumed that the first living body signal is the PPG signal of the electrocardiogram signal and the second living body signal is the GSR signal of the skin conduction signal.

도 2를 참조하면, 생체신호 획득부(110)는 미리 설정된 기간(예컨대, 약 5분) 동안, 제1 생체신호로서 PPG 신호를 획득하고, 제2 생체신호로서 GSR 신호를 획득할 수 있다. 이 경우, 맥파 센서는 사용자의 신체의 일부에 적외선을 조사하고, 반사된 적외선에 의해 BVP(Blood Volume Pulse) 변화량인 맥파(PPG)를 측정할 수 있다. 또한, 피부전도 센서는 손목에 접촉된 전극에 인가된 전원에 의해 측정된 전압 값에 따라 피부의 전기전도도(GSR)를 측정할 수 있다. Referring to FIG. 2, the bio-signal acquisition unit 110 may acquire a PPG signal as a first bio-signal and a GSR signal as a second bio-signal for a predetermined period (for example, about 5 minutes). In this case, the pulse wave sensor can irradiate a part of the body of the user with infrared rays and measure the pulse wave (PPG), which is a variation amount of BVP (blood volume pulse), by the reflected infrared rays. In addition, the skin conduction sensor can measure the electrical conductivity (GSR) of the skin according to the voltage value measured by the power source applied to the electrode which is in contact with the wrist.

우선, 심리상태 판단부(120)는 PPG 신호를 전처리할 수 있다. 일 실시예에서, 심리상태 판단부(120)는 피크 검출, 노이즈 제거, 필터링, 통계적 계산 등을 수행함으로써 PPG 신호에 대한 전처리를 수행할 수 있다. 다음으로, 심리상태 판단부(120)는 PPG 신호로부터 제1 특징을 추출할 수 있다. 일 실시예에서, 심리상태 판단부(120)는 PPG 신호에 대한 시간영역 분석 또는 주파수영역 분석을 통해 PPG 신호로부터 제1 특징을 추출할 수 있다. First, the psychological state determination unit 120 can preprocess the PPG signal. In one embodiment, the psychological state determiner 120 may perform preprocessing on the PPG signal by performing peak detection, noise removal, filtering, statistical calculation, and the like. Next, the psychological state determination unit 120 may extract the first feature from the PPG signal. In one embodiment, the psychological state determiner 120 may extract the first characteristic from the PPG signal through time domain analysis or frequency domain analysis on the PPG signal.

예를 들면, 심리상태 판단부(120)는, 아래 표 2에서와 같이, PPG 신호에 대한 시간영역 분석을 통해 산출된 각 피크의 인터벌들의 평균(MEAN), 표준편차(SNDD) 등을 제1 특징으로서 추출할 수 있다. 또한, 심리상태 판단부(120)는, 아래 표 3에서와 같이, PPG 신호에 대한 주파수영역 분석(예컨대, FFT 기반한 분석)을 통해 산출된 저주파수 영역(예컨대, 0.04-0.15Hz)의 전력(LF), 고주파수 영역(예컨대, 0.15-0.4Hz)의 전력(HF), 고주파수영역에 대한 저주파수영역의 전력비(LF/HF) 등을 제1 특징으로서 추출 수 있다. 여기서, 제1 특징은 제1 기준(예컨대, 유인가) 및 제2 기준(예컨대, 각성도) 중 적어도 하나에 연관될 수 있다. 예를 들면, 제1 특징으로서 SDNN과 LH/HF을 추출한 경우, SDNN은 유인가에 연관되고, LH/HF는 유인가 및 각성도에 연관되므로, 제1 특징은 유인가 및 각성도에 연관될 수 있다. 다른 예를 들면, 제1 특징으로서 SDNN만을 추출한 경우, 제1 특징은 유인가에만 연관될 수 있다. For example, as shown in Table 2 below, the psychological state determiner 120 may calculate the mean MEAN, the standard deviation SNDD, and the like of the intervals of the peaks calculated through the time domain analysis on the PPG signal, It can be extracted as a feature. The psychological state judging unit 120 judges whether the power of the low frequency region (for example, 0.04 to 0.15 Hz) (LF (low frequency region)) calculated through the frequency domain analysis (HF) of a high frequency region (e.g., 0.15 to 0.4 Hz), and a power ratio (LF / HF) of a low frequency region to a high frequency region. Here, the first feature may be associated with at least one of a first criterion (e.g., attractor) and a second criterion (e.g., arousal). For example, when SDNN and LH / HF are extracted as the first feature, SDNN is associated with attractor and LH / HF is related to attractor and awakening, so the first trait may be related to attractor and awakening. As another example, if only the SDNN is extracted as the first characteristic, the first characteristic may be associated only with the attractor.

아래 표 2는 PPG 신호에 대한 시간영역 분석을 통해 추출된 제1 특징의 예들을 나타내고, 표 3은 PPG 신호에 대한 주파수영역 분석을 통해 추출된 제1 특징의 예들을 나타낸다. Table 2 below shows examples of the first feature extracted through time domain analysis for the PPG signal, and Table 3 shows examples of the first feature extracted through frequency domain analysis for the PPG signal.

VariableVariable Units Units DescriptionDescription SDNNSDNN msms Standard deviation of all NN intervals(R-R intervals)Standard deviations of all NN intervals (R-R intervals) SDANNSDANN msms Standard deviation of the average of NN intervals in all 5min segments of the entire recordingStandard deviation of the NN intervals in all 5min segments of the entire recording RMSSDRMSSD msms The square root of the mean of the sum of the squares of differences between adjacent NN intervalsThe square root of the mean of the squares of differences between adjacent NN intervals SDNN indexSDNN index msms Mean of the standard deviation of all NN intervals for all 5min segments of the entire recordingMean standard deviation of all NN intervals for all 5 min segments of the entire recording SDSDSDSD msms Standard deviation of adjacent NN intervalsStandard deviation of adjacent NN intervals NN50 countNN50 count msms Number of pairs of adjacent NN intervals differing by more than 50ms in the recordingNumber of pairs of adjacent NN intervals differing by more than 50 ms in the recording pNN50pNN50 %% NN50 count divided by the total number of all NN intervalsNN50 intervals divided by the total number of all NN intervals

VariableVariable UnitsUnits DescriptionDescription Frequency rangeFrequency range 5 min total power5 min total power ms2 ms 2 The variance of NN intervals over the temporal segment The variance of NN intervals over the temporal segment approximately
<=0.4 Hz
approximately
&Lt; = 0.4 Hz
VLFVLF ms2 ms 2 Power in the very low frequency rangePower in the very low frequency range <=0.4 Hz&Lt; = 0.4 Hz LFLF ms2 ms 2 Power in low frequency rangePower in low frequency range 0.04-0.15 Hz0.04-0.15 Hz LF normLF norm -- LF power in normalize units
LF/(Total power-VLF) X 100
LF power in normalize units
LF / (Total power-VLF) X 100
HFHF ms2 ms 2 Power in High frequency range
HF/(Total power-VLF) X 100
Power in High frequency range
HF / (Total power-VLF) X 100
0.15-0.4 Hz0.15-0.4 Hz
HF normHF norm -- LF power in normalize units
HF/(Total power-VLF) X 100
LF power in normalize units
HF / (Total power-VLF) X 100
LH/HFLH / HF -- Ratio LF/HFRatio LF / HF

또한, 심리상태 판단부(120)는 GSR 신호를 전처리할 수 있다. 일 실시예에서, 심리상태 판단부(120)는 기하학적 및 통계적 계산 등을 수행함으로써 GSR 신호에 대한 전처리를 수행할 수 있다. 다음으로, 심리상태 판단부(120)는 GSR 신호로부터 제2 특징을 추출할 수 있다. 일 실시예에서, 심리상태 판단부(120)는 GSR 신호로부터 산출된, GSR의 면적, 평균, 표준편차 및 HR에 대한 GSR의 비율(GSR/HR)을 제2 특징으로서 추출할 수 있다. 여기서, 제2 특징은 제2 기준(예컨대, 각성도)에 연관될 수 있다. In addition, the psychological state determiner 120 may pre-process the GSR signal. In one embodiment, the psychological state determiner 120 may perform preprocessing on the GSR signal by performing geometric and statistical calculations and the like. Next, the psychological state determiner 120 may extract the second feature from the GSR signal. In one embodiment, the psychological state determiner 120 may extract, as a second characteristic, the area, average, standard deviation, and ratio (GSR / HR) of GSR to HR calculated from the GSR signal. Here, the second characteristic may be associated with a second criterion (e.g., a degree of arousal).

예를 들면, 도 3에서처럼, 심리상태 모델이 유인가와 각성도에 따라 구분되는 모델인 경우, 심리상태 판단부(120)는 PPG 신호로부터 감정의 유인가와 연관된 제1 특징(예컨대, SNDD)을 추출하고, GSR 신호로부터 감정의 각성도와 연관된 제2 특징(예컨대, GSR/HR)을 추출할 수 있다. 3, the psychological state determiner 120 extracts a first feature (e.g., SNDD) associated with the attractiveness of the emotion from the PPG signal when the psychological state model is a model in which the psychological state model is classified according to attractiveness and alertness , And a second feature (e.g., GSR / HR) associated with the arousal awareness from the GSR signal.

또한, 심리상태 판단부(120)는 추출된 제1 특징과 제2 특징을 미리 설정된 분류 알고리즘(예컨대, “Linear Discriminant Analysis”, “K-Nearest Neighbors”, “Multi-SVM” 등)에 따라 분류하고, 분류 결과에 기초하여 사용자의 현재 심리상태를 판단할 수 있다. The psychological state determination unit 120 classifies the extracted first feature and second feature according to a predetermined classification algorithm (e.g., "Linear Discriminant Analysis", "K-Nearest Neighbors", "Multi-SVM" And can determine the current psychological state of the user based on the classification result.

예를 들면, 심리상태 모델이 도 3의 심리상태 모델인 경우, 심리상태 판단부(120)는 제1 생체신호로부터 감정의 유인가와 연관된 제1 특징을 추출하고, 제2 생체신호로부터 감정의 각성도와 연관된 제2 특징을 추출하고, 제1 특징 및 제2 특징의 값에 각각 기초하여 유인가 및 각성도를 수치화하고, 수치화된 유인가 및 각성도를 분류하여 도 3의 심리상태 모델의 6가지 영역 중 어느 영역에 포함되는지를 결정함으로써, 사용자의 현재 심리상태를 판단할 수 있다. For example, when the psychological state model is the psychological state model of FIG. 3, the psychological state determination unit 120 extracts a first characteristic associated with the attractiveness of the emotion from the first biological signal, The second feature associated with the second feature is extracted and the attractor and the arousal level are numerically expressed on the basis of the values of the first feature and the second feature respectively and the quantified attractiveness and alertness are classified into the six regions of the psychological state model of Fig. The current psychological state of the user can be determined.

도 4는 본 명세서의 일 실시예에 따른 생체 신호를 이용한 사용자의 심리상태 판단 방법(이하, 심리상태 판단 방법)의 순서도이다. 본 순서도에서는 도 1 내지 도 3의 설명과 중복되는 부분에 대한 설명은 생략하도록 한다. 4 is a flowchart of a method of determining a psychological state of a user using a bio-signal according to an embodiment of the present invention (hereinafter, referred to as a psychological state determination method). In the flowchart, the description of the parts that are the same as those in the description of FIG. 1 to FIG. 3 will be omitted.

심리상태 판단 방법은 제1 자극에 의해 발생되는, 사용자의 복수의 생체신호를 미리 설정된 시간(예컨대, 5분) 동안 획득하는 단계(S10)를 포함할 수 있다. 일 실시예에서, 생체신호를 획득하는 단계(S10)는 심리상태 판단 장치에 내장된 다수의 바이오 센서로부터 측정된 사용자의 복수의 생체신호를 획득할 수 있다. 다른 실시예에서, 생체신호를 획득하는 단계(S10)는 심리상태 판단 장치에 내장되지 않은 다수의 바이오 센서로부터 측정된 사용자의 복수의 생체신호를, 바이오 센서와의 유선 또는 무선 통신을 통해 획득할 수 있다. 여기서, 바이오 센서는 사용자의 신체의 일부에 부착되어 생체신호를 측정하는 부착식 바이오 센서 또는 사용자의 신체의 일부에 부착되지 않고 생체신호를 측정하는 비부착식 바이오 센서일 수 있다. The psychological state judging method may include a step (S10) of acquiring a plurality of user's biological signals generated by the first stimulus for a preset time (e.g., 5 minutes). In one embodiment, step (S10) of acquiring a bio-signal may acquire a plurality of bio-signals of the user measured from a plurality of bio-sensors built in the psychological state determination apparatus. In another embodiment, the step (S10) of acquiring a bio-signal includes acquiring a plurality of bio-signals of the user measured from a plurality of biosensors not embedded in the psychological state determination device through wired or wireless communication with the biosensor . Here, the biosensor may be an attachment type biosensor attached to a part of a user's body to measure a bio-signal, or a non-attachment type biosensor that does not attach to a part of a user's body but measures a bio-signal.

일 실시예에서, 제1 자극은 훈련자(예컨대, 로봇)에 의해 제공되는 제1 훈련 자극일 수 있다. 예를 들면, 제1 자극은 변별학습이론(DTT)에 따른 상호작용 훈련(예컨대, 눈맞추기, 공동주의, 가리키기, 관심사 공유하기, 놀이행동 모방하기, 호명반응, 얼굴 표정읽기, 상상놀이 훈련 등)을 사용자에게 제공하기 위하여 로봇에 의해 제공되는 제1 전제 자극일 수 있다. In one embodiment, the first stimulus may be a first training stimulus provided by a trainee (e.g., a robot). For example, the first stimulus can be used in interaction training (eg, eye coordination, co-awareness, pointing, sharing of interests, mimicry of play behavior, voice response, facial expression reading, Etc.) provided to the user by the robot.

일 실시예에서, 복수의 생체신호는 서로 상이한 바이오 센서로부터 측정된 제1 생체신호 및 제2 생체신호를 포함할 수 있다. 예를 들면, 제1 생체신호는 맥파 센서로부터 측정된 맥파(PPG) 신호일 수 있고, 제2 생체 신호는 피부전도 센서로부터 측정된 피부전도(GSR) 신호일 수 있다. 제1 생체신호가 PPG 신호이고, 제2 생체신호가 GSR 신호인 경우에 대한 설명은 도 2를 참조하여 설명한바 자세한 설명은 생략한다. In one embodiment, the plurality of bio-signals may include a first bio-signal and a second bio-signal measured from biosensors that are different from each other. For example, the first vital signal may be a pulse wave (PPG) signal measured from a pulse wave sensor, and the second vital signal may be a skin conduction (GSR) signal measured from a skin conduction sensor. The description of the case where the first living body signal is the PPG signal and the second living body signal is the GSR signal has been described with reference to FIG. 2, and a detailed description thereof will be omitted.

심리상태 판단 방법은 제1 생체신호 및 제2 생체신호를 각각 분석하여 제1 특징 및 제2 특징을 추출하고, 제1 특징과 제2 특징에 기초하여 사용자의 심리상태를 판단하는 단계(S20)를 포함할 수 있다. 심리상태 판단 장치는 미리 정의된 분석 및 판단 알고리즘에 따라 제1 생체신호와 제2 생체신호를 분석하여 사용자의 심리상태를 판단할 수 있다.(S20) of analyzing the first and second bio-signals to extract a first feature and a second feature, and determining a psychological state of the user based on the first feature and the second feature, . &Lt; / RTI &gt; The psychological state determination device can determine the psychological state of the user by analyzing the first and second bio-signals according to a pre-defined analysis and judgment algorithm.

일 실시예에서, 심리상태 장치는 각 생체신호로부터 특징을 추출하기 전에 각 생체신호를 전처리할 수 있다. 예를 들면, 심리상태 장치는 피크 검출, 노이즈 제거, 필터링 등과 같은 신호 전처리를 수행할 수 있다. In one embodiment, the psychological state apparatus may pre-process each bio-signal prior to extracting features from each bio-signal. For example, the psychophysical device may perform signal preprocessing such as peak detection, noise reduction, filtering, and the like.

일 실시예에서, 제1 특징과 제2 특징은 각각 심리상태 판단을 위한 제1 기준과 제2 기준에 연관될 수 있다. 예를 들면, 심리상태 모델이 V-A 차원 모델인 경우, 제1 특징은 감정의 유인가(valence)와 연관되고, 제2 특징은 감정의 각성도(arousal level)와 연관될 수 있다. 여기서, 유인가는 감정이 긍정적인지 부정적인지를 나타내는 지수를 말하고, 각성도는 감정의 각성 정도, 즉, 사용자가 감정적으로 얼마나 자극이 되는지를 나타내는 지수를 말한다. In one embodiment, the first and second features may be associated with a first criterion and a second criterion, respectively, for psychological state determination. For example, if the psychological state model is a V-A dimensional model, the first characteristic may be associated with the valence of emotion, and the second characteristic may be associated with the arousal level of emotion. Herein, the incentive refers to an index indicating whether the emotion is positive or negative, and the arousal refers to the degree of arousal of the emotion, that is, an index indicating how much the user is emotionally stimulated.

예를 들면, 도 3에서처럼, 심리상태 모델이 유인가와 각성도에 따라 6가지 영역으로 구분되는 모델인 경우, 심리상태 장치는 제1 생체신호로부터 감정의 유인가와 연관된 제1 특징을 추출하고, 제2 생체신호로부터 감정의 각성도와 연관된 제2 특징을 추출하고, 제1 특징과 제2 특징의 값들(예컨대, 제1 특징과 제2 특징의 수치화된 값들)에 기초하여 사용자의 현재 심리상태가 상술한 6가지 영역 중 어느 영역에 포함되는지를 결정함으로써, 사용자의 현재 심리상태를 판단할 수 있다. For example, if the psychological state model is a model in which the psychological state model is divided into six regions according to the attractiveness and the arousal, the psychological state apparatus extracts a first characteristic associated with the attractiveness of emotion from the first biological signal, Extracting a second feature associated with the arousal of the emotion from the biological signal and determining, based on the values of the first feature and the second feature (e.g., the numerical values of the first feature and the second feature) It is possible to determine the current psychological state of the user by determining which of the six areas is included in the area.

심리상태 판단 방법은 판단된 사용자의 심리상태에 기초하여 사용자에게 제공되는 제2 자극의 종류 및 레벨을 결정하는 단계(S30)을 포함할 수 있다. 일 실시예에서, 제2 자극은 로봇에 의해 제공되는 제2 훈련 자극일 수 있다. 예를 들면, 제2 자극은 변별학습이론(DTT)에 따른 상호작용 훈련을 사용자에게 제공하기 위하여 로봇에 의해 제공되는, 제1 전제 자극에 대한 사용자의 반응에 대응하는 후속 자극 또는 제1 전제 자극의 다음 전제 자극인 제2 전제 자극일 수 있다. The method for determining the psychological state may include determining (S30) the type and level of the second stimulus provided to the user based on the determined psychological state of the user. In one embodiment, the second stimulus may be a second training stimulus provided by the robot. For example, the second stimulus may be a subsequent stimulus or first stimulus corresponding to the user's response to the first hypothesis stimulus, provided by the robot to provide the user with interactive training according to the differential learning theory (DTT) Lt; RTI ID = 0.0 &gt; pre-stimulation. &Lt; / RTI &gt;

일 실시예에서, 후속 자극은 사용자의 반응에 대한 보상을 제공하기 위한 자극, 사용자의 반응을 독려하기 위한 자극 또는 중지 자극 중 어느 하나일 수 있다. 일 실시예에서, 제2 전제 자극은 제1 전제 자극과 상이한 종류 또는 상이한 레벨의 자극일 수 있다. 다른 실시예에서, 제2 전제 자극은 제1 전제 자극과 동일한 종류와 레벨의 자극일 수 있다. In one embodiment, the subsequent stimulus may be either a stimulus to provide compensation for a user's response, a stimulus to stimulate a user's response, or a stop stimulus. In one embodiment, the second pre-stimulus may be of a different or different level than the first pre-stimulus. In another embodiment, the second pre-stimulus may be a stimulus of the same type and level as the first pre-stimulus.

일 실시예에서, 제1 자극 및 제2 자극은 로봇에 의해 제공되는 로보틱 자극일 수 있다. 여기서, 로봇은 사용자와 상호작용이 가능하도록 프로그래밍(programming)된 임의의 플랫폼을 지칭하는 것으로서 특정 형상 또는 목적을 갖는 로봇에 한정되는 것은 아니다. 일 실시예에서, 로봇은 사용자에게 자극을 제공하도록, 지능 로봇의 표현을 출력하기 위한 적어도 하나의 출력 수단(예컨대, 디스플레이, 스피커, 다수의 관절)을 포함할 수 있다.In one embodiment, the first stimulus and the second stimulus may be a robotic stimulus provided by a robot. Here, the robot refers to any platform programmed to be capable of interacting with a user, and is not limited to a robot having a specific shape or purpose. In one embodiment, the robot may include at least one output means (e.g., a display, a speaker, a plurality of joints) for outputting a representation of the intelligent robot to provide stimulation to the user.

이러한, 제1 자극 및 제2 자극이 로봇에 의해 제공되는 로보틱 자극인 경우, 사용자(예컨대, 아동)가 선호하는 형태학적 외형(예컨대, 캐릭터 형상의 로봇)에 기반하여 치료사를 통한 훈련제공에 비해 사용자의 훈련 참여도를 높일 수 있다. 또한, 치료사가 행하기 어려운 로봇의 동작학적인 제스처 및 자극 구성을 통해 단순 반복적인 훈련을 사용자에게 제공할 수 있다.If the first stimulus and the second stimulus are robotic stimuli provided by the robot, the user (e.g., a child) may be provided with a training through a therapist based on a morphological profile (e.g., a character-shaped robot) The user participation in the training can be increased. In addition, it is possible to provide the user with simple repetitive training through the gestural and stimulus configuration of the robot which is difficult for the therapist to perform.

이와 같은, 상호작용 훈련 방법은 애플리케이션으로 구현되거나 다양한 컴퓨터 구성요소를 통하여 수행될 수 있는 프로그램 명령어의 형태로 구현되어 컴퓨터 판독 가능한 기록 매체에 기록될 수 있다. 컴퓨터 판독 가능한 기록 매체는 프로그램 명령어, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 컴퓨터 판독 가능한 기록 매체에 기록되는 프로그램 명령어는 본 발명을 위하여 특별히 설계되고 구성된 것들이거니와 컴퓨터 소프트웨어 분야의 당업자에게 공지되어 사용 가능한 것일 수도 있다.Such interactive training methods may be implemented in an application or implemented in the form of program instructions that may be executed through various computer components and recorded on a computer-readable recording medium. The computer-readable recording medium may include program instructions, data files, data structures, and the like, alone or in combination. Program instructions that are recorded on a computer-readable recording medium may be those that are specially designed and constructed for the present invention and are known and available to those skilled in the art of computer software.

컴퓨터 판독 가능한 기록 매체의 예에는, 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체, CD-ROM, DVD와 같은 광기록 매체, 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 ROM, RAM, 플래시 메모리 등과 같은 프로그램 명령어를 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령어의 예에는, 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드도 포함된다. 하드웨어 장치는 본 발명에 따른 처리를 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.Examples of computer-readable recording media include magnetic media such as hard disks, floppy disks and magnetic tape, optical recording media such as CD-ROMs and DVDs, magneto-optical media such as floptical disks, media, and hardware devices specifically configured to store and execute program instructions such as ROM, RAM, flash memory, and the like. Examples of program instructions include machine language code such as those generated by a compiler, as well as high-level language code that can be executed by a computer using an interpreter or the like. A hardware device may be configured to operate as one or more software modules to perform processing in accordance with the present invention, and vice versa.

또한, 이상에서는 바람직한 실시예에 대하여 도시하고 설명하였지만, 본 명세서는 상술한 특정의 실시예에 한정되지 아니하며, 청구 범위에서 청구하는 요지를 벗어남이 없이 당해 명세서가 속하는 기술분야에서 통상의 지식을 가진 자에 의해 다양한 변형실시가 가능한 것은 물론이고, 이러한 변형 실시들은 본 명세서의 기술적 사상이나 전망으로부터 개별적으로 이해되어서는 안될 것이다.While the present invention has been particularly shown and described with reference to exemplary embodiments thereof, it is to be understood that the invention is not limited to the disclosed exemplary embodiments, but, on the contrary, It should be understood that various modifications may be made by those skilled in the art without departing from the spirit and scope of the present invention.

또한, 본 명세서에서는 물건 발명과 방법 발명이 모두 설명되고 있으며, 필요에 따라 양 발명의 설명은 보충적으로 적용될 수 있다.In this specification, both the invention and the method invention are explained, and the description of both inventions can be supplemented as necessary.

100: 심리상태 판단 장치 110: 생체신호 획득부
120: 심리상태 판단부 130: 자극 결정부
140: 데이터베이스
100: psychological state determination device 110: biological signal acquisition unit
120: psychological state judgment unit 130: stimulus judgment unit
140: Database

Claims (16)

변별학습이론(DTT)을 적용하여 자폐아동의 심리상태를 분석 및 치료하기 위한 심리상태 판단 장치로서,
제1 자극에 의해 발생된, 사용자의 제1 생체신호와 제2 생체신호를 미리 설정된 시간 동안 획득하는 생체신호 획득부;
상기 제1 생체신호와 상기 제2 생체신호를 각각 분석하여 제1 특징 및 제2 특징을 추출하고, 상기 제1 특징 및 상기 제2 특징에 기초하여 상기 사용자의 심리상태를 판단하는 심리상태 판단부; 및
상기 판단된 사용자의 심리상태에 기초하여 상기 사용자에게 제공되는 제2 자극의 종류 및 레벨을 결정하는 자극 결정부를 포함하되,
상기 제1 생체신호와 상기 제2 생체신호는 각각 서로 상이한 바이오 센서로부터 측정되는 자율 신경의 변화를 나타내는 상이한 생체신호이고,
상기 제1 자극은 변별학습이론(DTT)에 따른 상호작용 훈련을 상기 사용자에게 제공하기 위한 제1 전제 자극이고,
상기 제2 자극은 제1 전제 자극에 대한 상기 사용자의 반응에 대응하는 후속 자극 또는 상기 제1 전제 자극의 다음 전제 자극인 제2 전제 자극으로서,
상기 심리상태 판단부는 상기 제1 전제 자극에 따른 상기 사용자의 심리상태를 제1 상태 내지 제6 상태 중 하나로 판단하도록 구성되고,
상기 자극 결정부에 의해 결정되는 상기 제2 자극은, 상기 사용자의 심리상태가 제1 상태(놀람)인 경우 중지 자극인 후속 자극이고,
제2 상태(화남)인 경우 소정 강도 이상의 독려 자극인 후속 자극 또는 상기 사용자의 긴장 완화를 유도하는 제2 전제 자극이고,
제3 상태(산만함)인 경우 소정 강도 이하의 독려 자극인 후속 자극 또는 긴장 완화를 유도하는 제2 전제 자극이고,
제4 상태(흥분됨)인 경우 소정 강도 이상의 보상 자극인 후속 자극 또는 스트레스나 긴장을 유지하는 제2 전제 자극이고,
제5 상태(행복함)인 경우 소정 강도 이상의 보상 자극인 후속 자극 또는 스트레스나 긴장을 유도하는 제2 전제 자극이고,
제6 상태(침착함)인 경우 소정 강도 이하의 보상 자극인 후속 자극 또는 스트레스나 긴장을 유도하는 제2 전제 자극인 것을 특징으로 하는,
변별학습이론(DTT)을 적용하여 자폐아동의 심리상태를 분석 및 치료하기 위한 심리상태 판단 장치.
A psychological state judgment device for analyzing and treating the psychological state of autistic children by applying discriminant learning theory (DTT)
A bio-signal acquisition unit for acquiring a first bio-signal and a second bio-signal of a user generated by the first magnetic pole for a predetermined time;
A psychological state judging unit for judging the psychological state of the user on the basis of the first characteristic and the second characteristic by analyzing the first biometric signal and the second biometric signal respectively and extracting the first characteristic and the second characteristic, ; And
And a stimulus determining unit for determining a type and a level of a second stimulus provided to the user based on the determined psychological state of the user,
Wherein the first bio-signal and the second bio-signal are different biomedical signals representing changes of autonomic nerves measured from biosensors that are different from each other,
Wherein the first stimulus is a first hypothesis stimulus for providing the user with interaction training according to differential learning theory (DTT)
Wherein the second stimulus is a subsequent stimulus corresponding to the user's response to the first hypothesis stimulus or a second hypothesis stimulus that is the next hypothesis stimulus of the first hypothesis stimulus,
Wherein the psychological state determination unit is configured to determine the psychological state of the user according to the first precondition as one of the first state to the sixth state,
Wherein the second stimulus determined by the stimulus determination unit is a subsequent stimulus that is a stop stimulus when the psychological state of the user is the first state (surprise)
A second premise stimulus for inducing a subsequent stimulus or relaxation of the user, which is an encouraging stimulus of a predetermined strength or more in the second state (an anger)
And is a second premultimate stimulus that induces subsequent stimulation or relaxation, which is an encouraging stimulus of a predetermined intensity or less in the third state (distracting)
A second hypothesis stimulus that maintains a subsequent stimulus or stress or tension that is a compensating stimulus of a predetermined strength or higher in the fourth state (excited)
A second premultimate stimulus that induces a subsequent stimulus or stress or tension that is a compensating stimulus of a predetermined strength or more in the fifth state (happiness)
Is a second pre stimulus for inducing a subsequent stimulus or stress or tension which is a compensating stimulus of a predetermined intensity or less in the case of a sixth state (deposition)
A psychological state judgment system for analyzing and treating psychological state of autistic child by applying discriminant learning theory (DTT).
제 1 항에 있어서,
상기 제1 특징과 상기 제2 특징은 각각 상기 심리상태 판단을 위한 제1 기준과 제2 기준에 연관되는, 변별학습이론(DTT)을 적용하여 자폐아동의 심리상태를 분석 및 치료하기 위한 심리상태 판단 장치.
The method according to claim 1,
Wherein the first feature and the second feature are related to a first criterion and a second criterion for determining the psychological state, respectively, and the psychological state judgment &lt; RTI ID = 0.0 &gt; Device.
제 2 항에 있어서,
상기 제1 생체신호가 심전도 센서에 의해 측정된 심전도 신호인 경우, 상기 제1 특징은 감정의 유인가(valence) 및 각성도(arousal) 중 적어도 하나에 연관되고,
상기 제2 생체신호가 피부전도 센서에 의해 측정된 피부전도 신호인 경우, 상기 제2 특징은 감정의 각성도에 연관되는, 변별학습이론(DTT)을 적용하여 자폐아동의 심리상태를 분석 및 치료하기 위한 심리상태 판단 장치.
3. The method of claim 2,
Wherein when the first vital sign is an electrocardiogram signal measured by an electrocardiographic sensor, the first characteristic is associated with at least one of a valence and arousal of the emotion,
Wherein the second feature is a function for analyzing and treating the psychological state of the autistic child by applying the discriminant learning theory (DTT), which is related to the arousal of the emotion, when the second biological signal is a skin conduction signal measured by the skin conduction sensor Psychological condition determination device.
제 3 항에 있어서,
상기 심전도 신호는 맥파(PPG) 신호이고, 상기 피부전도 신호는 전기피부반사(GSR) 신호인 것을 특징으로 하는, 변별학습이론(DTT)을 적용하여 자폐아동의 심리상태를 분석 및 치료하기 위한 심리상태 판단 장치.
The method of claim 3,
Characterized in that the electrocardiogram signal is a pulse wave (PPG) signal and the skin conduction signal is an electrical skin reflection (GSR) signal. The psychological state for analyzing and treating the psychological state of the autistic child by applying the discriminant learning theory (DTT) Determination device.
삭제delete 삭제delete 제 1 항에 있어서,
상기 제1 자극과 상기 제2 자극은 로봇에 의해 제공되는 로보틱 자극인, 변별학습이론(DTT)을 적용하여 자폐아동의 심리상태를 분석 및 치료하기 위한 심리상태 판단 장치.
The method according to claim 1,
Wherein the first stimulus and the second stimulus are robotic stimuli provided by a robot, and applying the discriminant learning theory (DTT) to analyze and treat the psychological state of autistic children.
제 1 항에 있어서,
상기 측정된 제1 생체신호와 제2 생체신호에 대한 정보, 및 상기 측정된 제1 생체신호와 제2 생체신호로부터 판단된 상기 사용자의 심리상태에 대한 정보를 사용자 별로 저장하는 데이터베이스를 더 포함하는, 변별학습이론(DTT)을 적용하여 자폐아동의 심리상태를 분석 및 치료하기 위한 심리상태 판단 장치.
The method according to claim 1,
And a database for storing information on the measured first biomedical signal and second biomedical signal and information on the psychological state of the user judged from the measured first biomedical signal and the second biomedical signal, , And psychological state judgment device for analyzing and treating the psychological state of autistic child by applying discriminant learning theory (DTT).
변별학습이론(DTT)을 적용하여 자폐아동의 심리상태를 분석 및 치료하기 위한 심리상태 판단 방법으로서,
제1 자극에 의해 발생된, 사용자의 제1 생체신호와 제2 생체신호를 미리 설정된 시간 동안 획득하는 단계;
상기 제1 생체신호와 상기 제2 생체신호를 각각 분석하여 제1 특징 및 제2 특징을 추출하고, 상기 제1 특징 및 상기 제2 특징에 기초하여 상기 사용자의 심리상태를 판단하는 단계; 및
상기 판단된 사용자의 심리상태에 기초하여 상기 사용자에게 제공되는 제2 자극의 종류 및 레벨을 결정하는 단계를 포함하되,
상기 제1 생체신호와 상기 제2 생체신호는 각각 서로 상이한 바이오 센서로부터 측정되는 자율 신경의 변화를 나타내는 상이한 생체신호이고,
상기 제1 자극은 변별학습이론(DTT)에 따른 상호작용 훈련을 상기 사용자에게 제공하기 위한 제1 전제 자극이고,
상기 제2 자극은 제1 전제 자극에 대한 상기 사용자의 반응에 대응하는 후속 자극 또는 상기 제1 전제 자극의 다음 전제 자극인 제2 전제 자극으로서,
상기 심리상태를 판단하는 단계는 상기 제1 전제 자극에 따른 상기 사용자의 심리상태를 제1 상태 내지 제6 상태 중 하나로 판단하는 단계를 포함하고,
상기 제2 자극은, 상기 사용자의 심리상태가 제1 상태(놀람)인 경우 중지 자극인 후속 자극이고,
제2 상태(화남)인 경우 소정 강도 이상의 독려 자극인 후속 자극 또는 상기 사용자의 긴장 완화를 유도하는 제2 전제 자극이고,
제3 상태(산만함)인 경우 소정 강도 이하의 독려 자극인 후속 자극 또는 긴장 완화를 유도하는 제2 전제 자극이고,
제4 상태(흥분됨)인 경우 소정 강도 이상의 보상 자극인 후속 자극 또는 스트레스나 긴장을 유지하는 제2 전제 자극이고,
제5 상태(행복함)인 경우 소정 강도 이상의 보상 자극인 후속 자극 또는 스트레스나 긴장을 유도하는 제2 전제 자극이고,
제6 상태(침착함)인 경우 소정 강도 이하의 보상 자극인 후속 자극 또는 스트레스나 긴장을 유도하는 제2 전제 자극인 것을 특징으로 하는,
변별학습이론(DTT)을 적용하여 자폐아동의 심리상태를 분석 및 치료하기 위한 심리상태 판단 방법.
A method of psychological state judgment for analyzing and treating psychological state of autistic child by applying discriminant learning theory (DTT)
Acquiring a first biometric signal and a second biometric signal of a user, which are generated by a first magnetic pole, for a predetermined time;
Analyzing the first bio-signal and the second bio-signal to extract a first feature and a second feature, and determining a psychological state of the user based on the first feature and the second feature; And
Determining a type and a level of a second stimulus provided to the user based on the determined psychological state of the user,
Wherein the first bio-signal and the second bio-signal are different biomedical signals representing changes of autonomic nerves measured from biosensors that are different from each other,
Wherein the first stimulus is a first hypothesis stimulus for providing the user with interaction training according to differential learning theory (DTT)
Wherein the second stimulus is a subsequent stimulus corresponding to the user's response to the first hypothesis stimulus or a second hypothesis stimulus that is the next hypothesis stimulus of the first hypothesis stimulus,
Wherein the step of determining the psychological state comprises the step of determining the psychological state of the user according to the first prerequisite stimulus as one of the first state to the sixth state,
Wherein the second stimulus is a subsequent stimulus that is a stop stimulus when the user's psychological state is a first state (surprise)
A second premise stimulus for inducing a subsequent stimulus or relaxation of the user, which is an encouraging stimulus of a predetermined strength or more in the second state (an anger)
And is a second premultimate stimulus that induces subsequent stimulation or relaxation, which is an encouraging stimulus of a predetermined intensity or less in the third state (distracting)
A second hypothesis stimulus that maintains a subsequent stimulus or stress or tension that is a compensating stimulus of a predetermined strength or higher in the fourth state (excited)
A second premultimate stimulus that induces a subsequent stimulus or stress or tension that is a compensating stimulus of a predetermined strength or more in the fifth state (happiness)
Is a second pre stimulus for inducing a subsequent stimulus or stress or tension which is a compensating stimulus of a predetermined intensity or less in the case of a sixth state (deposition)
A psychological state judgment method for analyzing and treating the psychological state of autistic child by applying discriminant learning theory (DTT).
제 9 항에 있어서,
상기 제1 특징과 상기 제2 특징은 각각 상기 심리상태 판단을 위한 제1 기준과 제2 기준에 연관되는, 변별학습이론(DTT)을 적용하여 자폐아동의 심리상태를 분석 및 치료하기 위한 심리상태 판단 방법.
10. The method of claim 9,
Wherein the first feature and the second feature are related to a first criterion and a second criterion for determining the psychological state, respectively, and the psychological state judgment &lt; RTI ID = 0.0 &gt; Way.
제 10 항에 있어서,
상기 제1 생체신호가 심전도 센서에 의해 측정된 심전도 신호인 경우, 상기 제1 특징은 감정의 유인가(valence) 및 각성도(arousal) 중 적어도 하나에 연관되고,
상기 제2 생체신호가 피부전도 센서에 의해 측정된 피부전도 신호인 경우, 상기 제2 특징은 감정의 각성도에 연관되는, 변별학습이론(DTT)을 적용하여 자폐아동의 심리상태를 분석 및 치료하기 위한 심리상태 판단 방법.
11. The method of claim 10,
Wherein when the first vital sign is an electrocardiogram signal measured by an electrocardiographic sensor, the first characteristic is associated with at least one of a valence and arousal of the emotion,
Wherein the second feature is a function for analyzing and treating the psychological state of the autistic child by applying the discriminant learning theory (DTT), which is related to the arousal of the emotion, when the second biological signal is a skin conduction signal measured by the skin conduction sensor How to judge psychological state.
제 11 항에 있어서,
상기 심전도 신호는 맥파(PPG) 신호이고, 상기 피부전도 신호는 전기피부반사(GSR) 신호인 것을 특징으로 하는, 변별학습이론(DTT)을 적용하여 자폐아동의 심리상태를 분석 및 치료하기 위한 심리상태 판단 방법.
12. The method of claim 11,
Characterized in that the electrocardiogram signal is a pulse wave (PPG) signal and the skin conduction signal is an electrical skin reflection (GSR) signal. The psychological state for analyzing and treating the psychological state of the autistic child by applying the discriminant learning theory (DTT) How to judge.
삭제delete 삭제delete 제 9 항에 있어서,
상기 제1 자극과 상기 제2 자극은 로봇에 의해 제공되는 로보틱 자극인, 변별학습이론(DTT)을 적용하여 자폐아동의 심리상태를 분석 및 치료하기 위한 심리상태 판단 방법.
10. The method of claim 9,
Wherein the first stimulus and the second stimulus are robotic stimuli provided by a robot, and applying the discriminant learning theory (DTT) to analyze and treat the psychological state of autistic children.
제 9 항에 있어서,
상기 측정된 제1 생체신호와 제2 생체신호에 대한 정보, 및 상기 측정된 제1 생체신호와 제2 생체신호로부터 판단된 상기 사용자의 심리상태에 대한 정보를 사용자 별로 저장하는 단계를 더 포함하는, 변별학습이론(DTT)을 적용하여 자폐아동의 심리상태를 분석 및 치료하기 위한 심리상태 판단 방법.


10. The method of claim 9,
Further comprising storing information on the measured first biometric signal and second biometric signal and information on the user's psychological state judged from the first biometric signal and the second biometric signal measured for each user , And psychological state judgment method for analyzing and treating psychological state of autistic child by applying discriminant learning theory (DTT).


KR1020150002757A 2015-01-08 2015-01-08 Apparatus and method for decision of psychological state using bio signals KR101727940B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020150002757A KR101727940B1 (en) 2015-01-08 2015-01-08 Apparatus and method for decision of psychological state using bio signals

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020150002757A KR101727940B1 (en) 2015-01-08 2015-01-08 Apparatus and method for decision of psychological state using bio signals

Publications (2)

Publication Number Publication Date
KR20160085577A KR20160085577A (en) 2016-07-18
KR101727940B1 true KR101727940B1 (en) 2017-04-18

Family

ID=56679646

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020150002757A KR101727940B1 (en) 2015-01-08 2015-01-08 Apparatus and method for decision of psychological state using bio signals

Country Status (1)

Country Link
KR (1) KR101727940B1 (en)

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106691430B (en) * 2016-12-21 2019-10-11 深圳欧德蒙科技有限公司 A kind of emotion judgment method and apparatus
WO2019031869A1 (en) * 2017-08-10 2019-02-14 Ewha University - Industry Collaboration Foundation Learning situation determining method, and apparatus for performing the method
KR102098451B1 (en) * 2017-08-23 2020-04-07 이화여자대학교 산학협력단 Method and apparatus of cognitive load decision using the prior knowledge and psychophysiological responses
KR102098449B1 (en) * 2017-08-10 2020-04-07 이화여자대학교 산학협력단 Method and apparatus for determining learning level using physiological data
KR102216360B1 (en) * 2018-07-12 2021-02-16 한양대학교 산학협력단 Emotion recognition method and device using electromyogram signal
KR102611458B1 (en) * 2018-09-06 2023-12-11 주식회사 아이앤나 Method for Providing Augmented Reality by Baby's Emotional Sate using Baby's Peripheral Region
KR102236437B1 (en) * 2019-04-05 2021-04-06 한국과학기술원 Method and apparatus for mental workload assessment of multitasking user using physiological data and simulated data
FR3100972B1 (en) * 2019-09-20 2021-09-10 Ovomind K K SYSTEM FOR DETERMINING A USER'S EMOTION
KR102122976B1 (en) * 2019-11-06 2020-06-16 국방과학연구소 Pilot's workload state detection device and operating method for the same
FR3114232A1 (en) 2020-09-23 2022-03-25 Ovomind K.K Electrodermal equipment

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010264038A (en) * 2009-05-14 2010-11-25 Panasonic Electric Works Co Ltd Device and method for evaluating psycological state
KR101307248B1 (en) * 2010-10-19 2013-09-12 주식회사 라이프사이언스테크놀로지 Apparatus and Method for Decision of Emotional state through analysis of Bio information

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100312710B1 (en) 1999-07-15 2001-11-03 윤종용 Clock pulse generator for digital imaging system

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010264038A (en) * 2009-05-14 2010-11-25 Panasonic Electric Works Co Ltd Device and method for evaluating psycological state
KR101307248B1 (en) * 2010-10-19 2013-09-12 주식회사 라이프사이언스테크놀로지 Apparatus and Method for Decision of Emotional state through analysis of Bio information

Also Published As

Publication number Publication date
KR20160085577A (en) 2016-07-18

Similar Documents

Publication Publication Date Title
KR101727940B1 (en) Apparatus and method for decision of psychological state using bio signals
Giannakakis et al. Review on psychological stress detection using biosignals
Schmidt et al. Introducing wesad, a multimodal dataset for wearable stress and affect detection
Balters et al. Capturing emotion reactivity through physiology measurement as a foundation for affective engineering in engineering design science and engineering practices
Blascovich et al. Social psychophysiology for social and personality psychology
Agrafioti et al. ECG pattern analysis for emotion detection
Masood et al. Modeling mental stress using a deep learning framework
Greco et al. Advances in Electrodermal activity processing with applications for mental health
Villon et al. A user-modeling approach to build user's psycho-physiological maps of emotions using bio-sensors
Schmidt Biosignals in human-computer interaction
Al-Shargie Early detection of mental stress using advanced neuroimaging and artificial intelligence
Handouzi et al. Objective model assessment for short-term anxiety recognition from blood volume pulse signal
JP2012529286A (en) Biological conditioning
Zhang et al. Touch sense: Touch screen based mental stress sense
Rojo et al. Through your skin to your heart and brain: A critical evaluation of physiological methods in Cognitive Translation and Interpreting Studies
Moharreri et al. Modeling the 2D space of emotions based on the poincare plot of heart rate variability signal
Ramírez et al. Assessment of emotional states through physiological signals and its application in music therapy for disabled people
Villar et al. Influence on the user's emotional state of the graphic complexity level in virtual therapies based on a robot-assisted neuro-rehabilitation platform
Handouzi et al. Short-term anxiety recognition from blood volume pulse signal
Blain et al. Peripheral autonomic signals as access pathways for individuals with severe disabilities: a literature appraisal
CN113614751A (en) Electroencephalogram signal identification and extraction
Smith Electroencephalograph based brain computer interfaces
Chu et al. Physiological signals based quantitative evaluation method of the pain
Sim et al. A study on emotion classification utilizing bio-signal (PPG, GSR, RESP)
Niedziela et al. Neuroscience tools: using the right tool for the right question

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E90F Notification of reason for final refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant