KR101752872B1

KR101752872B1 - 신체 미세 움직임을 이용한 사회 관계성 측정 방법 및 시스템

Info

Publication number: KR101752872B1
Application number: KR1020150155291A
Authority: KR
Inventors: 황성택; 황민철; 박상인; 이동원; 원명주
Original assignee: 상명대학교산학협력단
Priority date: 2014-11-18
Filing date: 2015-11-05
Publication date: 2017-07-03
Also published as: KR101725358B1; KR20160075446A; US10102343B2; KR20160059420A; KR101666654B1; KR20160059391A; KR101722708B1; KR20160059414A; KR20160059421A; KR101644586B1; KR20160059415A; KR20160059393A; KR101663239B1; KR20160059392A; KR20160059390A; CN106999062A; US20170323072A1; KR101738097B1; KR101706739B1; KR101646735B1

Abstract

사회적 친밀도를 판단하는 방법 및 시스템에 대해 기술한다. 판단 방법:은 적어도 두 피험자의 신체 미동으로부터 PPG 데이터를 검출하는 단계; 두 피험자의 PPG 데이터로부터 HRC (Heart Rhythm Coherence) 데이터를 검출하는 단계; 그리고 상기 두 피험자의 HRC 데이터를 비교하여 두 피험자간의 관계성(친밀도)을 판단하는 단계;를 포함한다.

Description

신체 미세 움직임을 이용한 사회 관계성 측정 방법 및 시스템{Method and System for social relationship based on Micro movement of body}

본 발명은 사회 관계성 측정 방법 및 시스템에 관한 것으로서 상세하게는 신체 미세 움직임을 이용하여 친밀도 측정 방법 및 이를 적용하는 시스템에 관한 것이다.

사회적 인지 (Social Cognition) 또는 상호작용 (Social Interaction)은 의사소통 하는 다른 대상의 정신적 상태나 행동을 이해하는 것을 의미한다. 다른 사람의 정신적 상태나 행동을 이해하려면 다른 사람과의 공감적 반응이 반드시 요구된다 (Krueger and Michael, 2012). 최근 사회적 인지나 상호작용에 대한 많은 연구들이 진행되고 있다. 이러한 연구들이 고려하고 있는 중요한 개념 중에 하나가 동기화 (Synchronization) 또는 동조현상 (Entrainment)이다. 동기화는 사람들이 사회적 상호작용을 할 때 사람들 사이에 생체리듬이 하나로 화합되는 현상이다 (Kyongsik et al., 2012). 이러한 동기화 현상은 사람에게서만 나타나는 것이 아니라 사물이나 자연 현상에서도 확인할 수 있다. 예를 들면, 여러 시계의 추가 각기 다른 속도를 가지고 좌우로 흔들리는 상황에서 동기화로 인해 같은 방향성과 속도를 가지고 함께 좌우로 흔들리는 현상 (Bennett et al., 2002), 각각 개별적으로 반짝이고 있는 반딧불이 어느 순간 동기화되어 같은 속도로 동시에 모든 반딧불이 함께 반짝이는 현상 (Buck and Buck, 1976)등이 있다.

사람들 사이에서도 이러한 동기화 현상이 나타난다. 두 사람이 함께 걸을 때, 같은 주기로 발을 맞추어 걷는 현상이 그 대표적인 예이다 (Schmidt and Richardson, 2008; Burgoon et al., 1995). Kyongsik et al., (2012)의 연구에서는 두 피험자 사이에 무의식적인 손가락 움직임을 통해 나타나는 동기화 현상을 비교 하였다. 이 연구는, 두 피험자의 손가락 움직임의 동기화 현상이 협력적인 작업을 수행할 때가 그렇지 않은 경우보다 동기화 되는 현상을 보였고 뇌의 신경적 활성화 또한 크게 증가하였음을 보고 하였다. 또 다른 연구에서는 피험자들의 손가락 움직임에 따른 동기화 현상을 비교하였고 같은 속도로 손가락을 움직일 때가 다른 속도로 움직일 때보다 더 동기화 되는 현상을 보고 했다 (Daniel, 2010). 그리고 이러한 몸의 움직임의 동기화 현상은 사람들 사이에 긍정적인 관계를 증대시키는 것과 관련되어 있음을 보고하였다 (Miles et al., 2010).

앞서 언급한대로, 무의식적인 행동의 동기화 현상은 몸의 동기화뿐만 아니라 생체적 반응의 동기화와 긍정적인 효과를 유발 시킨다. 그러나 다른 사람과의 상호작용에 있어서 공감의 반응은 매우 중요한 요소이고 이것은 어떠한 사람과 사회적 관계를 유지하고 의사소통 하느냐에 따라 다르게 나타날 수 있다. 그리고 그 관계는 사회적으로 강하거나 약한 유대를 가진다. 그러나 현재 연구에서 사회적 관계에 대한 연구는 동기화 현상에서 고려되고 있지 않다. 따라서 사회적 관계에 따라서 생리적 반응의 동기화 정도에 차이가 있을 것으로 예상된다. 사회적 관계에 의해 발생되는 생리적 반응은 무의식적인 것이므로 더욱이 그렇다. 최근, 생리적 반응의 동기화 현상은 사회적 관계 유지 및 증대에 유효한 영향을 미치는 것으로 보고되고 있다.

Bennett. M., Schatz, M., Rockwood, H. and Wiesenfeld, K. (2002). Huygens's clocks. Proceedings: Mathematics, Physical and Engineering Sciences, 458, 563 Buck, J. and Buck, E. (1976). Synchronous fireflies. Scientific American. 234, 74 Burgoon, J.K., Stern, L.A. and Dillman, L. (2007). Interpersonal adaptation: Dyadic interaction patterns. Cambridge University press. Daniel, L. (2010). Movement synchrony and perceived entitativity. Journal of Experimental Social Psychology, 46(5), 701 Krueger, J. and Michael, J. (2012). Gestural coupling and social cognition: Mobius syndrome as a case study. Frontiers in human neuroscience, 6. Kyongsik, Y., Katsumi, W. and Shinsuke, S. (2012). Interpersonal body and neural synchronization as a marker of implicit social Miles, L.K., Griffiths, J.L., Richardson, M.J. and Macrae, C.N. (2010). Too late to coordinate: Contextual influences on behavioral synchrony. European Journal of Social Psychology, 40(1), 52 Pan, J. and Tompkins, W.J. (1985). A real Schmidt, R. and Richardson, M. (2008). Coordination: Neural, behavioral and social dynamics. Springer.

본 발명은 실시간 사회적 관계를 정량적으로 평가할 수 있는 방법 및 시스템을 제시한다.

이러한 본 발명은 인체 미세 움직임 정보에 기반하여, 개인간 심장 동조성 (Entrainment) 분석기술을 통해 두 사람 사이의 사회적 관계성(Social relationship) 또는 친밀도를 평가할 수 있는 방법 및 이를 적용하는 시스템을 제안한다.

본 발명에 따른 사회적 관계성 평가 방법:은

마주대하는 두 피험자의 상체 또는 머리 부분의 미세 움직임을 영상 촬영하는 단계;

상기 미세 움직임의 영상에 대한 공간 분리(Spatial Decomposition) 단계, 시간 처리(Temporal Processing) 단계 및 재구성(Reconstruction) 단계를 포함하는 영상 처리 과정을 통하여 상기 두 피험자의 미세 움직임 정보를 각각 검출하는 단계;

상기 미세 움직임 정보로부터 상기 두 피험자의 심박 정보를 각각 검출하는 단계;

두 피험자의 심박 정보로부터 HRC (Heart Rhythm Coherence) 데이터를 검출하는 단계; 그리고

상기 두 피험자의 HRC 데이터를 비교하여 두 피험자 간의 관계성 (친밀도)을 판단하는 단계;를 포함한다.

본 발명의 한 실시 예에 따르면,

상기 HRC 데이터는 FFT (Fast Fourier Tramsform)에 의해 얻어진 HRV (Heart Rhythm Variability)로부터 추출할 수 있다.

본 발명의 한 실시 예에 따르면,

상기 HRV 데이터는 상기 심박 정보로부터 추출되는 PPI (peak to peak Interval) 데이터로부터 획득할 수 있다.

본 발명의 한 실시 예에 따르면,

상기 HRV 데이터는:

상기 PPI 데이터를 시계열 데이터로 변환하는 단계; 그리고

상기 시계열 데이터를 FFT 분석하는 단계;를 포함 할 수 있다.

본 발명의 한 실시 예에 따르면,

상기 HRC 데이터는 상기 HRV 의 HRC 대역에서 추출된 주파수 값 (Dominant peak frequency)과 주파수의 파워 값 (Dominant peak amplitude)를 포함 할 수 있다.

본 발명의 한 실시 예에 따르면,

상기 두 피험자의 HRC 신호 각각에서의 주파수 값 (Dominant peak frequency)과 주파수의 파워 값 (Dominant peak amplitude)의 차이(difference)와 HRC 신호의 상관분석을 통해 얻은 r 스퀘어 (square)값을 두 피험자간 동기화 정도의 판단 변수로 이용 할 수 있다.

본 발명에 한 실시 예에 따르면,

상기 미세 움직임 정보를 검출하는 단계와 심박 정보를 검출하는 단계;는

안면 트랙킹(Face Tracking) 단계;

공간 분리(Spatial Decomposition) 단계;

뉴로 필터(Neuro Filter) 단계;

시간 처리(Temporal Processing) 단계;

재구성(Reconstruction) 단계;

프레임 차 평균화(Frame Difference Average) 단계;

스무스 필터(Smoothing Filter) 단계; 그리고

슬라이딩 피이크 검출(Sliding Peak Detection) 단계;를 포함할 수 있다.

본 발명에 따른 사회관계성 평가 시스템은

상기 사회적 관계성 평가 방법을 수행하는 것으로서,

상기 피험자들로부터 영상을 촬영하는 카메라;

상기 피험자들 적어도 어느 하나에게 특정 상태의 얼굴 표정을 제시하는 디스플레이;

상기 카메라로부터 얻어지는 영상을 처리하는 영상 처리부;

상기 영상 처리부로부터의 정보를 분석하여 피험자간의 친밀도를 분석하는 분석부;를 포함할 수 있다.

본 발명의 한 실시 예에 따른 시스템:에서,

본 발명의 한 실시 예에 따른 시스템:에서

상기 HRV 데이터는 상기 PPG 데이터로부터 추출되는 PP (Peak to Peak Interval) 데이터로부터 획득할 수 있다.

본 발명의 한 실시 예에 따른 시스템:에서

상기 데이터 처리부:는

상기 PPI 데이터를 시계열 데이터로 변환하여 상기 HRV 데이터를 생성할 수 있다.

본 발명의 한 실시 예에 따른 시스템:에서,

상기 HRC 데이터는 상기 HRV 의 HRC 대역에서 추출된 주파수 값 (Dominant peak frequency)과 주파수의 파워 값 (Dominant peak amplitude)를 포함할 수 있다.

본 발명의 한 실시 예에 따른 시스템:은

상기 분석부: 는

상기 두 피험자의 HRC 신호 각각에서의 주파수 값 (Dominant peak frequency)과 주파수의 파워 값 (Dominant peak amplitude)의 차이(difference)와 HRC 신호의 상관분석을 통해 얻은 r 스퀘어 (square)값을 변수로 이용하여 두 피험자간 동기화 정도의 판단할 수 있다.

본 발명의 한 실시 예에 따른 시스템:에서,

상기 분석부:는

안면 트랙킹(Face Tracking) 단계;

공간 분리(Spatial Decomposition) 단계;

뉴로 필터(Neuro Filter) 단계;

시간 처리(Temporal Processing) 단계;

재구성(Reconstruction) 단계;

프레임 차 평균화(Frame Difference Average) 단계;

스무스 필터(Smoothing Filter) 단계; 그리고

슬라이딩 피이크 검출(Sliding Peak Detection) 단계;를 수행할 수 있다.

본 발명은 개인간 심장 동조성 (Entrainment) 분석기술을 통해 두 사람 사이의 사회적 관계 (Social relationship)를 평가할 수 있다. 개인간 심장 동조성 분석은 두 사람 사이에 심장리듬의 동기화 정도를 이용한다. 본 발명이 제안하는 친밀감 평가 방법은 두 사람 사이의 사회적 관계를 정량적으로 평가할 수 있으며, 이를 통해 사회적 병리현상 완화에 도움을 줄 수 있을 것으로 기대된다.

도1은 본 발명의 실험 예에 따라 두 피험자로부터 HRC를 검출하기 위하여 두 피험자로의 측부터 신체 미동을 검출하는 방법의 일례를 도시한다.
도2는 신체 미동을 검출할 때에 피험자간의 얼굴 표정 제시 및 흉내의 순서를 설명한다.
도3은 HRC 검출을 위한 심전도 신호 처리 흐름도이다.
도4는 HRC 변수를 설명하는 도면이다.
도5는 친구 그룹 (firiend)과 낯선 그룹 (stranger)의 각각 리더(Leader)와 팔로워(Follower)의 HRC 분석결과를 보이는 주파수 (Frequency) - PSD (Power Spectrum Density) 그래프이다.
도6은 친구 그룹 (firiend)과 낯선 그룹 (stranger)의 각각 리더(Leader)와 팔로워(Follower)의 HRC의 통계 분석결과를 도시한다
도7은 HRC 변수에 의한 사회적 관계성(친밀도)을 판단하기 위한 룰-베이스를 설명한다.
도8은 검증을 위한 새로운 그룹으로부터 얻어진 HRC를 이용한 룰 베이스 검증결과를 보인다.
도9는 본 발명에 따른 분석 시스템의 개략적 블록다이어그램이다.
도10은 본 발명에 다른 심장 정보 추출 방법의 흐름도이다.
도11은 도10의 각 단계에 대응하는 시나리오를 보인다.
도12는 본 발명에 따른 시스템의 구현결과를 보이는 인터페이스로서 심박 추출 프로그램의 화면의 일례를 도시한다.
도13는 본 발명의 방법이 적용되는 본 발명에 따른 시스템의 개략적 구성도이다.
도14는 두 피험자를 동영상 촬영을 통해서 두 사람간의 친밀도를 측정하기 위한 방법을 설명한다.
도15는 본 발명에 따른 두 피험자간의 친밀도 판단 방법의 전체적인 흐름도이다.
도16은 본 발명에 따른 시스템 및 방법을 적용하여 두 피험자의 동영상 촬영을 통해 이들 간의 친밀도를 평가하는 방법의 구체적 흐름도이다.
도 17은 본 발명에 따른 친밀도 평가 시스템의 화면 구성을 보인다.

이하, 첨부된 도면을 참조하면서 본 발명에 따른 인체 미세 움직임을 이용한 개인별 HRC 기반 친밀도 실기간 평가 시스템의 구체적인 실시 예에 대해 상세히 설명한다.

이하에서, 먼저, 심장 동조성에 의한 인간 관계성 또는 친밀도 측정 가능한 지에 대한 실험 예를 살펴 본다.

현대 사회는 다수의 사람과 접촉하고 커뮤니케이션 해야 하는 상황에 놓여 있다. 최근 이러한 사회 환경에 적응하지 못하고 사회에서 도태되는 사람들의 이야기를 언론을 통해 쉽게 접할 수 있다. 상기의 경우처럼 심하지는 않더라도 우리는 누구나 사회적 관계에 대한 두려움 또는 걱정을 갖고 있다. 사회적 관계 회복을 위해서는 우선적으로 사회적 관계를 정량적으로 평가할 수 있어야 그에 대한 해결책 또한 제시될 수 있다.

이하의 실험 예를 설명을 통해 이해할 수 있는 본 발명은 개인간에 사회적 관계를 정량적으로 평가하는 방법을 제시하며, 이를 통해 사회적 관계 증진 및 병리 현상 해결을 도모할 수 있다.

가. 피험자

대학교 재학생 72 명이 (남자 36 명, 여자 36 명, 평균나이: 24.27±2.24)이 실험에 참여하였다. 실험에 참여한 피험자는 교제기간이 3 년 이상인 사람들을 짝을 이루어 모집하였고 성적 (性的) 효과를 없애기 위해 동성으로만 모집하였다. 모든 피험자는 심혈신경계에 이상이나 병력이 없었고 전날 충분한 수면을 취하도록 하였다. 또한 심혈관계 반응에 영향을 미칠 수 있는 카페인, 흡연, 음주 등의 섭취를 실험 전날 금하도록 하였다. 실험 전, 실험에 참가하는 모든 피험자에게 연구목적을 제외한 실험에 대한 대략적인 사항에 대해 설명한 후 실험을 진행하였고 실험의 대가로 소정의 금액을 지불하였다.

나. 실험 방법

실험에 참여한 피험자는 교제기간을 기준으로 강한 사회적 관계 (친구)와 약한 사회적 관계 그룹 (낯선 사람)으로 나누었다. 강한 사회적 관계 그룹은 피험자를 모집할 때, 교제 기간 3 년 이상인 친구 (friend)를 모집하여 짝을 이루도록 하였고, 약한 사회적 관계 그룹은 모집된 피험자 중 처음 보는 낯선 사람 (stranger)들끼리 짝을 이루도록 하였다. 모집된 피험자의 사회적 관계를 판단 하기 위해 생일, 가족 구성원, 취미 등의 간단한 설문을 실시하였고 통과한 피험자만 실험에 참여하도록 하였다.

두 그룹으로 나뉜 피험자들은 리더(Leader)와 팔로워(Follower)로 다시 나누었다. 도1에 도시된 바와 두 피험자 리더(Leader)와 팔로워(Follower)는 서로 얼굴을 마주본 상태로 편안한 의자에 앉는다. 이때 두 피험자 사이의 거리는 1 미터로 고정 하였다. 두 피험자는 얼굴을 마주본 채로, Ekman이 정의한 6가지 기본 정서 공포(fear), 혐오(disgust), 슬픔(fear), 놀람(surprise), 화남(anger), 행복(happy)에 대한 얼굴표정을 서로 인터랙션 하도록 하였다. 이때 리더(Leader)는 스크린을 통해 제시되는 얼굴표정 가이드라인을 보고 얼굴 표정을 짓고 팔로워(Follower)는 리더(Leader)의 얼굴 표정을 보고 따라 하도록 하였다. 실험이 진행되는 동안 두 사람 사이의 심장리듬을 비교하기 위해 심전도 (ECG, electrocardiogram)를 측정하였다. 도2에 도시된 바와 같이, 전체 실험 태스크 (task)는 reference 60초, introduction 90초, Practice 90초, imitation 240초로 구성되었다. 각 태스크 사이에는 휴식 30초를 포함시켰으며, introduction 와 paractice는 imitation 태스크에서 자연스러운 표정을 지을 수 있도록 표정을 소개하고 연습할 수 있도록 하기 위해 실험에 포함시켰다. 상기에 설명한 실험 과정은 두 그룹에서 각각 진행하고 다른 그룹과 교차하여 한번 더 진행 하였으며, 리더(Leader)와 팔로워(Follower)의 역할은 고정 하였다.

예를 들어, (친밀한) 그룹 A (리더 a, 팔로워 b), (친밀한) 그룹 B (리더(Leader) c, 팔로워(Follower) d)의 피험자 그룹이 있으면, A 그룹끼리 태스크를 수행하고 B 그룹끼리 태스크를 수행 한다. 이것이 친밀할 때의 태스크이고, 피험자인 A 그룹의 리더(Leader) a와 B 그룹의 팔로워(Follower) d가 태스크를 수행하고 B 그룹의 리더(Leader) c와 A 그룹의 팔로워(Follower) b가 태스크를 수행한다. 이것이 친밀하지 않을 때의 태스크이다. 이렇게 총 36 그룹의 피험자가 실험에 참여하였고 랜덤으로 두 그룹을 하나의 큰 그룹으로 묶어서 서로 교차해서 태스크를 수행하였고 리더(Leader)와 팔로워(Follower)의 역할은 바뀌지 않는다. 즉, 친밀 그룹에 대한 태스크에서의 리더(Leader)는 친밀하지 않을 때의 태스크에서도 리더(Leader)의 역할을 수행하였다.

도2에서 전체 태스크(Task)의 각 단계는 아래와 같이 수행된다.

Reference 단계:

자극을 제시하기 전에 어떠한 자극도 제시되지 않는 상태에서 기준치로서 베이스라인의 생체정보를 취득한다.

Introduction 단계:

메인 task (imitation task)에서 원활한 얼굴표정을 짓기 위해 얼굴표정의 종류와 모양을 육안으로 학습한다.

Task rest 단계:

앞선 태스크(task)에서 제시된 자극의 (잔류) 효과를 최소화하여 다음 태스크(task)에서의 자극에 영향을 줄이기 위한 태스크(task) 사이에서 휴식한다.

practice 단계:

메인 태스크(imitation task)에서 원활한 얼굴표정을 짓기 위해 얼굴표정을 직접 따라 해 보고 연습하는 학습하는 단계이다.

task rest 단계:

앞서 제시되는 태스크(task)의 자극 효과를 최소화하여 다음 태스크(task) 자극에 영향을 줄이기 위한 태스크(task) 사이의 휴식 단계

imatation task 단계:

리더(Leader)가 제시된 얼굴표정을 짓고, 팔로워(Follower)는 이를 따라 하며, 이때에 ECG 검출을 실시간 진행한다.

Introduction, Practice, Imitation task 모두에서 6 기본 감성(basic emotion)의 얼굴표정 (공포(fear), 혐오 (disgust), 슬픔 (fear), 놀람 (surprise), 화남 (anger), 행복 (happy) 이 모두 제시되며, introduction과 practice task는 10초씩, imitation task는 35초씩 6 개의 얼굴 표정이 모두 제시되고 각각의 표정과 표정 사이에는 5초의 rest가 포함된다. 상기 6 개의 얼굴표정이 제시되는 순서는 랜덤 하게 결정되며, 얼굴표정을 선택하는 것이 아니라, 6 개의 얼굴표정을 모두 보고 연습하고 따라 한다.

다. 분석 방법

본 실험 에서의 분석 방법은 도9에 예시된 바와 같은 구조의 분석 시스템을 이용한다. 본 발명에 따른 분석 시스템은 피험자들로부터 ECG 신호 (데이터)를 검출하는 ECG 센서 (10), ECG 신호를 전 처리하는 신호처리부 (20), 전 처리된 ECG로부터 HRC 데이터를 검출하여 피험자간의 친밀도를 평가하는 분석부 (30), 그리고 피험자 중 어느 하나에 얼굴 표정을 제시하는 디스플레이를 포함한다. 상기 디스플레이는 하나 또는 표정을 제시하는 디스플레이와 그 결과를 표시하는 디스플레이를 별개로 하는 멀티 디스플레이의 구조를 가질 수 있다. 이러한 요소를 가지는 본 발명에 다른 시스템은 전체적으로 컴퓨터를 기반으로 하며, 따라서, 키보드나 마우스, 프린터 등과 같은 주변장치가 선택적으로 부가될 수 있다.

심전도 신호 (데이터)는 lead-I 방법을 통해 500 Hz로 샘플링 하였다. 본 발명의 실험에서 심전도 신호는 MP100 power supply와 ECG 100C amplifier (Biopac systems Inc., USA)를 통해 신호를 증폭하고 NI-DAQ-Pad9205 (National instruments, USA)를 통해 아날로그 신호를 디지털 신호로 변환하여 취득하였다. 취득한 심전도 신호는 QRS 검출 알고리즘을 통해 R-peak을 검출하였다 (Pan and Tompkins, 1985). 검출된 R-peak은 노이즈를 제외하고 정상 R-peak 간격의 차이를 이용해 RRI (R-peak to R-peak interval)를 추출하였다.

도3은 신호처리 순서를 나타내 보인다. 도3을 참조하면, RRI 데이터는 시계열 데이터(Time series data)로 변환하기 위해 2 Hz로 리샘플링(resampling)된 후 인터폴레이션(interporation) 과정을 거친다. 이에 이어 인터폴레이션 된 데이터에 대한 FFT (Fast Furier Transform) 분석을 통해 HRV (Heart Rate Variability) 스펙트럼 (spectrum)을 추출한다. 추출된 HRV 스텍트럼 데이터에서 HRC (Heart Rhythm Coherence) 대역 (band, 0.4 Hz - 0.26 Hz)에서의 데이터를 추출하고, 추출된 HRC 대역의 데이터에서 가장 큰 파워를 가지는 주파수 값 (Dominant peak frequency)과 주파수의 파워 값(Dominant peak amplitude)을 추출한다.

본 실험에 따르면, 두 사람 간의 심장 코히런스 (HRC, Heart Rhythm Coherence)를 통해 심장의 동기화 현상을 분석하고 이를 이용해 사회적 관계를 평가할 수 있음을 알 수 있다.

심장 동기화 분석에 사용되는 HRC 변수는 위의 과정에서 추출된 dominant peak frequency와 dominant peak amplitude 이다. 변수는 두 사람 변수 값의 차이를 계산하고 그 차이가 적을 수록 두 신호의 동기화가 높은 것으로 판단한다. 또한 HRC 신호를 상관분석을 통해 r 스퀘어 (square)값을 추출하여 동기화 정도의 판단 변수로 활용한다.

도4는 친밀도 인식에 사용한 변수를 설명하기 위한 그래프 이다.

도4에 나와 있는 신호는 모두 ECG 신호를 FFT 분석을 통해 HRV spectrum (0 Hz - 0.4 Hz)에서, peak power와 frequency 값을 추출하기 위해 HRC spectrum 대역 (0.04 Hz - 0.26 Hz)을 표시한 그래프이다. 그래프에서 P1과 P2는 태스크를 수행하는 피험자들로서 리더(Leader), 팔로워(Follower)를 각각 의미한다. 두 피험자의 dominant peak amplitude와 frequency 값의 차이 (difference)가 변수로 이용되었고 또한, 두 피험자의 신호를 상관분석 하여 얻어진 r (상관계수) 값을 제곱하여 r square (r²) 값을 변수로 사용하였다.

또한, 본 실험에 참여한 72 명의 피험자 중에서 32 명의 데이터는 룰 베이스 생성을 위해 사용하고 나머지 40 명의 피험자는 룰 베이스 검증으로 활용하였다. 룰 베이스는 이후에 설명된다.

라. 분석 결과

도5는 친구 그룹 (firiend)과 낯선 그룹(stranger)의 각각 리더(Leader)와 팔로워(Follower)의 HRC의 예를 보이는 주파수 (Frequency) - PSD (Power Spectrum Density) 그래프이다. 각 그룹의 HRC 패턴에서 알 수 있듯이, 친구 그룹이 낯선 그룹 보다 리더(Leader)와 팔로워(Follower)의 HRC 데이터의 동조성이 높고 peak frequency의 차이가 적은 패턴을 보인다.

도6은 친구 그룹 (firiend)과 낯선 그룹 (stranger)의 각각 리더(Leader)와 팔로워(Follower)의 HRC의 통계 분석결과는 도시한다. 상관분석에 따른 r 스퀘어(correlation)는 친구 그룹이 낯선 그룹 보다 통계적으로 유의하게 증가하는 것을 확인하였다. 즉 통계적 유의 수준 (p)이 0.001 보다 작은 (p < .001), 즉, 99.9% 이상의 높은 신뢰도를 나타낸다.

또한 difference of peak frequency는 친구 그룹이 낯선 그룹 보다 통계적으로 유의하게 감소하는 것을 확인하였다 (p < .001). 그러나, difference of peak amplitude는 통계적으로 유의한 차이를 확인 할 수 없었다 (p > .05).

두 그룹 사이에 통계적으로 유의한 차이를 나타낸 변수를 통해 사회적 관계를 구별할 수 있는 룰-베이스를, 예를 들어 도7에 도시된 바와 같이 만들었다. 룰-베이스에 사용된 두 변수는 각각 r 스퀘어와 difference of peak frequency이고 두 변수를 X축과 Y축으로 정의하여 실험에 참여한 피험자의 데이터를 X-Y 좌표 상에 플로팅 (plotting) 하였다. 두 그룹의 데이터 중에서 가장 근접하는 두 데이터의 중심, 예를 들어 (0.044, 0.095)과 0점 (0, 0)을 지나는 직선의 방정식을 룰-베이스로 도출하였다. 도출된 직선 방정식 보다 위에 있을 경우를 강한 사회적 관계(Strong Social Relationship), 아래에 있을 경우를 약한 사회적 관계(Weak Social Relationship)로 정의하였다. 도출된 직선의 방정식은 아래의 식과 같다.

위의 1 차 방적식은 32 명 실험데이터를 통해 결정된 임계치 함수 (일반식)로 친밀함을 판단하는 룰-베이스 이다.

HRC의 룰 베이스를 이용하여 검증한 결과는 도8에 도시된 바와 같다. 룰 베이스의 검증은 전술한 바와 같이 실험되지 않은 나머지 40 명의 피험자로부터 HRC 변수 추출하여 룰 베이스 검증에 이용하였다.

그 결과에 따르면, 강한 사회적 관계의 정확도는 전체 20 그룹의 데이터 중에서 20 그룹의 데이터 모두가 강한 사회적 관계로 분류 되었다 (정확도: (20/20)*100% = 100%). 약한 사회적 관계의 정확도는 전체 20 그룹의 데이터 중에서 19 그룹의 데이터가 약한 사회적 관계로 분류 되었고 1 그룹의 데이터만 강한 사회적 그룹으로 분류 되었다 (정확도: (19/20)*100% = 95%). 전체 40 그룹의 데이터 정확도 검증 결과는 95%로 확인 되었다 (정확도: (39/40)*100% = 97.5%).

위에서 설명을 통해서 개인간 심장 동조성 (Entainment) 분석기술을 통해 두 사람 사이의 사회적 관계(Social relationship)를 평가할 수 있음을 알 수 있다. 즉, 개인간 심장 동조성 분석은 두 사람 사이에 심장리듬의 동기화 정도가 이용되었는데, 매우 정확하게 친밀감 평가가 가능함을 알 수 있다. 이러한 방법은 두 사람 사이의 사회적 관계를 정량적으로 평가할 수 있으며, 이를 통해 사회적 병리현상 완화 또는 해결에 이용될 수 있다.

본 발명은 상기와 같은 심장 동조성 분석 기술을 이용하여 개인간 친밀도를 실시가 평가하는 방법을 제시한다. 이때에, 피험자에게 부담을 줄 수 있는 ECG 전극과 같은 하드웨어등의 착용이 없이 영상 촬영 통해 얻은 영상을 분석하여 심박 정보를 추출하고, 그리고 이 심박 정보로부터 HRV 를 검출하여 상기와 같은 방법으로 HRC를 검출한 후 이를 비교하여 개인간 친밀도를 실시간 평가하는 방법 및 시스템을 제시한다.

이하에서 신체 미동으로부터 심박 정보를 추출하는 본 발명의 방법을 설명한다. 신체 미동은 동영상 촬영으루부터 시작해서 영상분석을 과정을 통해서 신체 미동을 구하고 이로부터 심박 정보를 추출한다.

도10은 본 발명에 따른 심장 정보 추출 방법의 흐름도로서, 총 8단계의 과정을 포함하는 본 발명에 따른 심장 정보 추출 방법의 실시 예를 도시하며, 도11은 도10의 각 단계에 대응하는 시나리오를 보인다.

가. 동영상 입력(Video input) 단계(S11)

이 단계에서는 피험자의 상체 또는 머리 부분에 대해 웹캠이나 기타 동영상 촬영 장치로 비디오 신호를 입력 받는다.

나. 안면 트랙킹(추적, Face Tracking) 단계(S12)

웹캠 등의 카메라를 이용하여 입력 된 영상 데이터를 이용하여 인체의 미세한 움직임을 머리에서 추출하기 위하여 OpenCV(Open Computer Vision) 라이브러리를 이용한 안면인식(프로그램)을 통해 영상 정보를 분리 하도록 한다.

다. 공간 분리(Spatial Decomposition) 단계(S13)

영상의 공간 분리 기법으로 가우시안(Gaussian blur)와 down sample을 통하여 각 주파수(Frequency)별 공간을 분리 할 수 있도록 한다.

위의 식에서, α 는 영상의 증폭 비율값이며, β 는 시간, 공간 주파수 대역으로 필터된 이미지의 값이며, x 는 영상의 가로축(x) 위치값_이며, t 는 시간이며, δ (t)는 입력된 영상과 움직임 영상과의 혼합비율 값이며, 그리고 I' 는 움직인 이미지의 움직임 정도이다.

라. 뉴로 필터(Neuro Filter) 단계(S14)

뉴로 필터(Neuro Filter 단계)는 영상의 공간 주파수를 분리 함에 있어 일반적인 생체신호(bio signal)을 기준으로 영상으로부터 추출 할 수 있는 주파수 대역을 생체신호간 상관성이 있는 대역을 선정하여 주파수 대역을 선정하고 그 선정 된 대역의 영상 정보를 취득하는 것을 의미한다.

예를 들어, 일반적인 PPG Data를 신호처리 할 경우 0.4~1.3Hz 구간의 주파수 성분을 가지고 데이터 분석을 실시함으로 PPG와 유사한 신호를 영상으로부터 취득하기 위해서는 동일 대역 혹은 인근 대역의 주파수 분석을 통해 유사한 데이터를 추출한다.

마. 시간 처리(Temporal Processing) 단계(S15)

영상을 뉴로필터(Neuro Filter) 대역의 주파수 공간으로 분리한 후, 분리된 공간의 주된 성분의 주파수 대역을 시간처리(Temporal Processing)를 이용하여 차이 값을 추출하여 영상이 진행되는 동안(시간이 흐르는 동안) 해당 주파수 성분의 값을 분리하여 추출한다.

바. 재구성(Reconstruction) 단계(S16)

분리된 공간의 성분을 뉴로 필터(Neuro Filter) 대역의 주파수 성분만 시간을 이용하여 분리해내고 분리된 성분 값을 일정량의 증폭을 통해 기존 영상에 복원하여 실제 미세하게 잘 보이지 않는 움직임에 해당하는 주파수 성분의 데이터 값을 만들어 낼 수 있도록 한다.

위의 식에서, α는 영상의 증폭 비율 값이며, δ (t) 는 입력된 영상과 움직임 영상과의 혼합비율 값 이며, 그리고 λ는 이미지 공간의 파장 대역값이다.

사. 프레임 차 평균화(Frame Difference Average) 단계(S7)

분리된 성분의 데이터 값을 매 시간(30fps 기준)마다 측정되는 영상의 움직임 데이터의 1프레임이 평균의 차이 값을 계산하여 이전 상태와 현 상태의 평균적으로 움직임의 차이 값을 계산하여 전체적인 미세 움직임의 양을 추출한다. 여기에서 1 프레임의 평균은 1프레임의 미세 움직임 양을 나타낸다.

위의 식에서, m 은 미세 움직임 양이며, X는 1프레임의 평균 이며, n은 프레임 번호이다.

아. 스무스 필터링(Smoothing Filter) 단계(S8)

추출 된 미세 움직임을 데이터로 추출하였을 때 움직임에 대한 노이즈가 포함되어 신호가 거칠게 일그러지거나 하여 피크(peak) 검출에 어려움이 있어 노이즈를 제거하고 피크(peak) 검출의 정확도를 높이는 데이터를 가공 처리한다.

위 식에서 SMA는 이동평균 값이며, SMAtoday, SMAyesterday은 서로 다른 특정일자의 이동평균 값이며, Pm 은 현재 프레임의 미동의 값이며, n은 이동평균의 윈도우 사이즈(window size)이다.

자. 슬라이딩 피크 검출(Sliding Peak Detection) 단계(S19) 및 PPG 정보 획득(S20)

노이즈를 제거하고 Peak 검출을 위한 가공 처리 된 데이터를 받아 1프레임당 peak 데이터를 30초 크기(size)의 윈도우(windows)를 기준으로 지속적으로 슬라이딩(sliding) 시켜 움직임 영향 및 데이터에 영향을 최소화 시켜 BPM(bit per minute) 신호를 추출 할 수 있도록 한다. 여기에서 얻어진 심박 정보로부터 HRV 데이터 그리고 HRC 데이터를 검출하여 이를 본 발명의 친밀도 평가 방법에 적용되는데, 두 피험자로부터 각각 얻어진다.

위의 식에서 i 는 0, 1, 2…,n 등의 자연수 이며, w 는 윈도우 크기이다.

이하에서, 본 발명에 따른 친밀도 평가 방법을 검증한 과정을 설명한다.

<피험자>

대학교 재학생 10명(남자 5명, 여자 5명)이 편안한 상태에서 호흡을 하면서 실험을 진행하였다. 모든 피험자는 심혈신경계에 이상이나 병력이 없었고 전날 충분한 수면을 취하도록 하였다. 또한 심혈관계 반응에 영향을 미칠 수 있는 카페인, 흡연, 음주 등의 섭취를 실험 전날 금하도록 하였다. 실험 전, 실험에 참가하는 모든 피험자에게 연구목적을 제외한 실험에 대한 대략적인 사항에 대해 설명한 후 실험을 진행하였고 실험의 대가로 소정의 금액을 지불하였다.

<실험방법>

실험은 아무런 얼굴 표정을 짓지 않은 상태에서의 무표정 실험과 표정의 자극을 제시하여 그 표정을 따라서 지을 수 있도록 한 표정 실험으로 진행하였다. 이때 표정 자극은 Ekman의 6가지 기본 정서(공포, 혐오, 슬픔, 놀람, 화남, 행복)에 대한 표정 자극을 동일하게 제시하여 얼굴 표정을 지을 수 있도록 하였다. 실험이 진행 되는 동안 PPG 센서를 착용하고 동시에 상반신의 영상을 측정 하였다. 측정 시간을 무표정 실험 3분, 표정 실험 3분을 각각 진행 하였다.

<분석방법>

맥파(PPG) 신호는 lead-I 방법을 통해 500Hz로 샘플링 하였다. 심전도 신호는 MP100 power supply와 PPG 100C amplifier (Biopac systems Inc., USA)를 통해 신호를 증폭하고 NI-DAQ-Pad9205 (National instruments, USA)를 통해 아날로그 신호를 디지털 신호로 변환하여 취득하였다. 맥파 신호는 Sliding Peak Detection을 이용하여 peak 검출을 하였고 영상 신호는 미세 움직임(미동) 추출 방법을 통해 peak 검출을 실시 하였다. 또한 서로 다른 두 신호간 통계적 검증을 위해 Window size는 30의 동일 조건으로 신호 처리를 실시 하였다. 신호 처리 후 각각 추출 된 데이터는 SPSS 17.0 K를 통해 상관분석을 실시하여 상관계수를 도출 하였다.

<분석결과>

PPG 센서를 이용하여 추출 된 정보와 미세 움직임으로부터 추출 된 정보를 각 10명의 피험자의 데이터를 상관 분석 해본 결과 무표정 실험 일 때 10명의 피험자의 상관계수 평균 수지가 높은 것을 볼 수 있다(r=.89, SD=.054, p<.05). 동일한 피험자 10명으로 움직임에 영향을 줄 수 있는 표정 실험 일 때 상관계수 또한 무표정 보다는 조금 낮지만 높은 상관성을 보이는 것을 알 수 있다.(r=0.74, SD=.087, p<.05)

아래의 표1은 상관분석 결과를 보인다.

도12는 본 발명에 따른 시스템의 구현결과를 보이는 프로그램(인터페이스)으로서 심박 추출 프로그램의 화면의 일례를 도시한다.

도12에 도시된 실시 예의 화면의 경우, 가슴 위 인체의 상반신의 영상을 보여주는 기능을 가지고 있으며 실제 원본 영상의 데이터가 동작되고 있는 화면을 보여준다.

또한, 실제 Biopac 사의 PPG Amp와 센서를 이용하여 취득하는 맥파 신호를 보여주며 미세움직임과 맥파의 Raw 신호를 비교하기 위한 그래프 화면을 보여준다.

그리고, 도12에서, (1)번에서 동작 되고 있는 원본 영상의 데이터를 미동 추출 기술을 통하여 실제 차영상을 통해 보이지 않는 미세한 움직임을 증폭시켜 발생되어 있는 라인 형태의 영상을 보여주는 기능을 가지고 있으며 동그랗게 표시되는 부분이 실제 미세하게 움직였을 때 라인 형태로 움직임이 발생한 부분만 동작되어 보여준다.

나아가서 도12의 화면에 있어서, 미세한 움직임을 증폭시켜 얻은 데이터를 데이터 그래프로 표시하여 움직임에 정보를 실시간으로 표시 할 수 있도록 한다.

도13는 본 발명에서 적용하는 시스템의 개략적 구성도이다.

두 피험자, 즉 팔로워(Follower, 101a)와 리더(Leader, 101b)를 각각 촬영하는 카메라는 동영상 카메라, 예를 들어 웹캠 또는 소형 동영상 카메라(110a, 110b)이다. 카메라(110a, 110b)로부터의 동영상은 영상 처리부(120)를 거쳐서 특정의 영상이 추출되고 이것은 프로세싱 장치(130)에 의해 처리된다. 프로세싱 장치(130)는 전술한 바와 같은 방법을 수행하는 소프트웨어 및 이를 지원하는 하드웨어 시스템을 가진다. 이러한 프로세싱 장치(130)는 컴퓨터 기반의 장치, 예를 들어 전술한 바와 같은 방법 또는 알고리즘을 담고 있는 소프트웨어 및 이 소프트웨어가 구동할 수 있는 하드웨어를 포함하는 범용 컴퓨터 또는 전용 장치일 수 있다. 상기와 같은 프로세싱 장치(130)로부터의 처리 결과는 디스플레이 장치(130)에 의해 표시된다. 위와 같인 시스템은 일반적인 입력를 포함하는 일반적인 외부 인터페이스 장치, 예를 들어 키보드, 마우스 등을 더 포함할 수 있다.

도14는 두 피험자, 즉 팔로워(Follower, 101a)와 리더(Leader, 101b)를 비침습적으로, 그리고 불편한 하드웨어의 부착이 없이 동영상 촬영을 통해서 두 사람간의 친밀도를 측정하기 위한 방법을 설명한다. 이것은 전술한 도1에서와 같은 상태로 테스트를 실시하며, 다만 이때에 ECG 신호 등의 검출이 아닌 동영상 촬영을 수행한다.

동영상 촬영 후, 심박 정보(BPM Signal)의 추출은 도 10와 함께 설명된 전술한 방법이 사용된다. 이러한 방법은 두 피험자에 대해 각각 수행되며, 그 결과를 전술한 친밀도 판단 방법에 적용하여 두 피험자간의 친밀도 유지 여부를 판단한다.

도15는 본 발명에 따른 두 피험자간의 친밀도 판단 방법의 전체적인 흐름도이다.

도15를 참조하면, 리더와 팔로워의 상반신을 두 카메라(110a, 110b)로 촬영한다. 두 카메라(110a, 110b)로부터 얻어진 동영상을 이용하여 리더와 팔로워의 미동을 추출한다(S51). 미동이 추출되면 이를 이용하여 전술한 바와 같은 방법에 의해 심박수(BPM)을 추출한다(S51). 그리고 심박수(BPM)를 이용해 HRV를 추출하고(S53)과 그리고 HRV를 이용하여 리더와 팔로워의 HRC를 비교하여 친밀도를 판단한다(S54). 그리고 그 결과를 디스플레이에 표시한다(S55). 상기 HRC는 FFT (Fast Fourier Transform)에 의해 얻어진 HRV (Heart Rhythm Variability)로부터 얻을 수 있다. 그리고 상기 HRV는 상기 심박 정보로부터 추출되는 PPI (peak to peak Interval) 데이터로부터 획득할 수 있다.

도16은 전술한 시스템 및 방법을 적용하여 본 발명에 따라서 두 피험자의 동영상 촬영을 통해 이들 간의 친밀도를 평가하는 방법의 구체적 흐름도이며, 도 17은 본 발명에 따른 친밀도 평가 시스템의 화면 구성을 보인다.

먼저 도16을 참조하면, 화상 입력(S10)이 시작되면, 도14에 도시된 바와 같이 두 피험자를 마주대한 상태(S20)에서 도13에 도시된 시스템을 이용한 친밀도 검사를 시작한다. 카메라를 이용해 두 피험자(팔로워와 리더)의 미세 진동을 각각 검출한다(S31, S32). 미세 진동이 검출되면 이를 이용해 심박수(S41, 42)를 추출한다. 심박수가 추출되면, 리더(Leader)와 팔로워(Follower)의 심박수(Heart rate) 정보를 HRC(heart rhythm coherence)로 평가하여(S60) 친밀(Intimacy) 와 비친밀(non-Initmacy)로 평가된 결과를 보여 준다(S70). 이러한 평가는 10초 간격으로 진행되며, 강제적인 종료가 없는 한 상기 과정을 지속적으로 반복하여 그때 그때의 친밀도 여부를 표시한다.

도17을 참조하면, 두 피험자의 촬영영역은 가슴 위 상반신이며, 이를 화면을 통해서 보여 준다. 그리고 실제 두 명의 피험자 중 리더(Leader)의 원본 영상의 데이터가 동작되고 있는 화면을 보여준다.

도16에서, (1)번 영역에 표시되는 리더(Leader)의 원본 영상 데이터를 미동 추출 기술을 통하여 실체 차영상을 통해 보이지 않는 미세한 움직임을 증폭시켜 발생되어있는 라인 형태의 영상이 (2) 번 영역에 도시된다. 여기에서 (2)에서 동그랗게 표시되는 부분이 실제 미세하게 움직였을 때 라인 형태로 움직임이 발생 한 부분만 동작되어 보여주게 된다.

(3)의 영역에는 팔로워(Follower)의 원본 영상이 표시되고, 이 영상 데이터를 미동 추출 기술을 통하여 실체 차영상을 통해 보이지 않는 미세한 움직임을 증폭시켜 발생되어있는 라인 형태의 영상을 (4)의 영역에 보여 준다. 이때에 동그랗게 표시되는 부분이 실제 미세하게 움직였을 때 라인 형태로 움직임이 발생 한 부분만 동작되어 표시된다.

(5) 영역은 추출 된 심박수(Heart rate)를 리더(Leader)와 팔로워(Follower) 를 같이 10초 간격으로 실시간 갱신되는 원형 데이터(Raw Data)의 동기(Sync)를 보여주며, 이를 통해서 리더(Leader)와 팔로워(Follower) 간 Raw Data 상의 동기화 정도를 알 수 있다.

(6)의 영역에는 리더(Leader)와 팔로워(Follower)의 심박수(Heart rate) 정보를 HRC(heart rhythm coherence)로 평가하여 10초 간격으로 평가하여 친밀(Intimacy) 와 비친밀(non-Initmacy)로 평가된 결과를 보여 준다.

이러한 본 발명은 도면에 도시된 실시 예를 참고로 설명되었으나 이는 예시적인 것에 불과하며, 해당 분야에서 통상의 지식을 가진 자라면 이로부터 다양한 변형 및 균등한 타 실시 예가 가능함을 이해할 수 있을 것이다. 따라서 본 발명의 진정한 보호범위는 첨부된 특허청구범위에 의해서만 정해져야 할 것이다.

Claims

마주 대하는 두 피험자의 상체 또는 머리 부분의 미세 움직임을 영상 촬영하는 단계;
상기 미세 움직임의 영상에 대한 공간 분리(Spatial Decomposition) 단계, 시간 처리(Temporal Processing) 단계 및 재구성(Reconstruction) 단계를 포함하는 영상 처리 과정을 통하여 상기 두 피험자의 미세 움직임 정보를 각각 검출하는 단계;
상기 미세 움직임 정보로부터 상기 두 피험자의 심박 정보를 각각 검출하는 단계;
두 피험자의 심박 정보로부터 HRC (Heart Rhythm Coherence) 데이터를 각각 검출하는 단계; 그리고
상기 두 피험자의 HRC 데이터를 비교하여 두 피험자 간의 관계성 (친밀도)을 판단하는 단계;를 포함하며,
상기 HRC 데이터는 FFT (Fast Fourier Tramsform)에 의해 얻어진 HRV (Heart Rhythm Variability)로부터 추출하며, 그리고 상기 HRC 데이터는 상기 HRV 의 HRC 대역에서 추출된 주파수 값 (Dominant peak frequency)과 주파수의 파워 값 (Dominant peak amplitude)을 포함하는, 사회적 관계성 판단 방법.
삭제
제1항에 있어서,
상기 HRV 데이터는 상기 심박 정보로부터 추출되는 PPI (peak to peak Interval) 데이터로부터 획득하는 것을 특징으로 하는 사회적 관계성 판단방법.
제3항에 있어서,
상기 HRV 데이터는:
상기 PPI 데이터를 시계열 데이터로 변환하는 단계; 그리고
상기 시계열 데이터를 FFT 분석하는 단계;를 포함하는 사회적 관계성 판단 방법.
삭제
제1항에 있어서,
상기 두 피험자의 HRC 신호 각각에서의 주파수 값 (Dominant peak frequency)과 주파수의 파워 값 (Dominant peak amplitude)의 차이(difference)와 HRC 신호의 상관분석을 통해 얻은 r 스퀘어 (square)값을 두 피험자간 동기화 정도의 판단 변수로 이용하는 것을 특징으로 하는 사회적 관계성 판단 방법.
제1항, 제3항, 제4항 또는 제6항 중의 어느 한 항에 있어서,
상기 미세 움직임 정보를 검출하는 단계와 심박 정보를 검출하는 단계;는
안면 트랙킹(Face Tracking) 단계;
공간 분리(Spatial Decomposition) 단계;
뉴로 필터(Neuro Filter) 단계;
시간 처리(Temporal Processing) 단계;
재구성(Reconstruction) 단계;
프레임 차 평균화(Frame Difference Average) 단계;
스무스 필터(Smoothing Filter) 단계; 그리고
슬라이딩 피이크 검출(Sliding Peak Detection) 단계;를 포함하는 것을 특징으로하는 사회적 관계성 판단 방법.
제1항에 기재된 방법을 수행하는 것으로서,
상기 피험자들로부터 영상을 촬영하는 카메라;
상기 피험자들 적어도 어느 하나에게 특정 상태의 얼굴 표정을 제시하는 디스플레이;
상기 카메라로부터 얻어지는 영상을 처리하는 영상 처리부;
상기 영상 처리부로부터의 정보를 분석하여 피험자간의 친밀도를 분석하는 분석부;를 포함하는 사회적 관계성 판단 시스템.
삭제
삭제
제8항에 있어서,
상기 분석부:는
상기 PPI 데이터를 시계열 데이터로 변환하여 상기 HRV 데이터를 생성하는것을 특징으로 하는 사회적 관계성 판단 시스템.
제8항에 있어서,
상기 HRC 데이터는 상기 HRV 의 HRC 대역에서 추출된 주파수 값 (Dominant peak frequency)과 주파수의 파워 값 (Dominant peak amplitude)를 포함하는 것을 특징으로 하는 사회적 관계성 판단 시스템.
제12항에 있어서,
상기 분석부: 는
상기 두 피험자의 HRC 신호 각각에서의 주파수 값 (Dominant peak frequency)과 주파수의 파워 값 (Dominant peak amplitude)의 차이(difference)와 HRC 신호의 상관분석을 통해 얻은 r 스퀘어 (square)값을 변수로 이용하여 두 피험자간 동기화 정도의 판단하는 것을 특징으로 하는 사회적 관계성 판단 시스템.
제8항, 제11항, 제12항 또는 제13항 중의 어느 한 항에 있어서,
상기 분석부:는
안면 트랙킹(Face Tracking) 단계;
공간 분리(Spatial Decomposition) 단계;
뉴로 필터(Neuro Filter) 단계;
시간 처리(Temporal Processing) 단계;
재구성(Reconstruction) 단계;
프레임 차 평균화(Frame Difference Average) 단계;
스무스 필터(Smoothing Filter) 단계; 그리고
슬라이딩 피이크 검출(Sliding Peak Detection) 단계;를 수행하는 것을 특징으로 하는 사회적 관계성 판단 시스템.