KR20160024725A - 표정을 인식하기 위한 방법, 시스템 및 비일시성의 컴퓨터 판독 가능한 기록 매체 - Google Patents

표정을 인식하기 위한 방법, 시스템 및 비일시성의 컴퓨터 판독 가능한 기록 매체 Download PDF

Info

Publication number
KR20160024725A
KR20160024725A KR1020150003545A KR20150003545A KR20160024725A KR 20160024725 A KR20160024725 A KR 20160024725A KR 1020150003545 A KR1020150003545 A KR 1020150003545A KR 20150003545 A KR20150003545 A KR 20150003545A KR 20160024725 A KR20160024725 A KR 20160024725A
Authority
KR
South Korea
Prior art keywords
facial expression
signal
sensor
user
directional
Prior art date
Application number
KR1020150003545A
Other languages
English (en)
Other versions
KR101788709B1 (ko
Inventor
채용욱
Original Assignee
주식회사 호두랩스코리아
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 주식회사 호두랩스코리아 filed Critical 주식회사 호두랩스코리아
Publication of KR20160024725A publication Critical patent/KR20160024725A/ko
Application granted granted Critical
Publication of KR101788709B1 publication Critical patent/KR101788709B1/ko

Links

Images

Classifications

    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00—Measuring for diagnostic purposes; Identification of persons
    • A61B5/117—Identification of persons
    • A61B5/1171—Identification of persons based on the shapes or appearances of their bodies or parts thereof
    • A61B5/1176—Recognition of faces
    • A61B5/0488—
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00—Measuring for diagnostic purposes; Identification of persons
    • A61B5/103—Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
    • A61B5/11—Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb
    • A61B5/1107—Measuring contraction of parts of the body, e.g. organ, muscle
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00—Measuring for diagnostic purposes; Identification of persons
    • A61B5/103—Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
    • A61B5/11—Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb
    • A61B5/1126—Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb using a particular sensing technique
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00—Measuring for diagnostic purposes; Identification of persons
    • A61B5/24—Detecting, measuring or recording bioelectric or biomagnetic signals of the body or parts thereof
    • A61B5/316—Modalities, i.e. specific diagnostic methods
    • A61B5/389—Electromyography [EMG]
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00—Measuring for diagnostic purposes; Identification of persons
    • A61B5/68—Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient
    • A61B5/6801—Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient specially adapted to be attached to or worn on the body surface
    • A61B5/6813—Specially adapted to be attached to a specific body part
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00—Measuring for diagnostic purposes; Identification of persons
    • A61B5/68—Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient
    • A61B5/6801—Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient specially adapted to be attached to or worn on the body surface
    • A61B5/6813—Specially adapted to be attached to a specific body part
    • A61B5/6814—Head
    • A61B5/682—Mouth, e.g., oral cavity; tongue; Lips; Teeth
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00—Measuring for diagnostic purposes; Identification of persons
    • A61B5/68—Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient
    • A61B5/6801—Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient specially adapted to be attached to or worn on the body surface
    • A61B5/6813—Specially adapted to be attached to a specific body part
    • A61B5/6814—Head
    • A61B5/6821—Eye

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Physics & Mathematics (AREA)
  • Veterinary Medicine (AREA)
  • Biophysics (AREA)
  • Pathology (AREA)
  • Engineering & Computer Science (AREA)
  • Biomedical Technology (AREA)
  • Public Health (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Surgery (AREA)
  • Animal Behavior & Ethology (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Dentistry (AREA)
  • Physiology (AREA)
  • Ophthalmology & Optometry (AREA)
  • Image Analysis (AREA)

Abstract

본 발명의 일 태양에 따르면, 표정을 인식하기 위한 방법으로서, 사용자의 적어도 하나의 신체 부위에 각각 배치되는 적어도 하나의 근전도 센서로부터 근전도 신호를 수신하고, 상기 적어도 하나의 근전도 센서가 각각 배치된 상기 적어도 하나의 신체 부위에서 발생하는 움직임을 감지하는 방향성 센서로부터 방향성 신호를 수신하는 단계, 및 상기 수신된 근전도 신호 및 방향성 신호를 참조로 하여, 상기 사용자의 표정을 인식하는 단계를 포함하는 방법이 제공된다.

Description

표정을 인식하기 위한 방법, 시스템 및 비일시성의 컴퓨터 판독 가능한 기록 매체{METHOD, SYSTEM AND NON-TRANSITORY COMPUTER-READABLE RECORDING MEDIUM FOR RECOGNIZING FACIAL EXPRESSION}
본 발명은 표정을 인식하기 위한 방법, 시스템 및 비일시성의 컴퓨터 판독 가능한 기록 매체에 관한 것이다.
근래에 들어, 스마트폰, 스마트 패드 등과 같이 다양한 기능과 강력한 연산 성능을 갖춘 모바일 스마트 디바이스가 널리 사용되고 있다. 이러한 모바일 스마트 디바이스 중에는 사용자가 신체에 착용하여 휴대할 수 있는 비교적 작은 크기의 웨어러블 디바이스(Wearable Device)(예를 들면, 스마트 글래스, 스마트 워치, 스마트 밴드, 링이나 브로치와 같은 형태의 스마트 디바이스, 신체나 의류에 직접적으로 부착되거나 매립되는 스마트 디바이스 등)도 있다.
웨어러블 디바이스를 비롯한 모바일 스마트 디바이스가 널리 사용됨에 따라, 모바일 스마트 디바이스에 대한 사용자 조작을 지원하는 사용자 인터페이스에 관한 기술도 소개되고 있는데, 아직까지는 음성이나 제스처를 기반으로 하는 사용자 인터페이스를 제공하는 기술이 주류를 이루고 있어서 스마트 글래스와 같이 사용자의 얼굴 부위에 착용되는 웨어러블 디바이스에 적합한 새로운 사용자 인터페이스의 필요성이 대두되고 있는 실정이다.
최근에는, 사용자의 얼굴 부위로부터 획득되는 소정의 신호 또는 정보에 기초하여 사용자의 표정을 인식하거나 구별하는 사용자 인터페이스에 관한 기술이 소개되기도 하였는데, 이러한 종래기술에 따르면, 카메라를 이용하여 사용자의 얼굴 이미지를 촬영하거나 근전도 센서를 이용하여 사용자의 얼굴 부위에서 발생하는 근전도 신호를 측정하게 된다.
하지만, 카메라를 이용하는 종래기술의 경우에, 정확한 표정 인식을 위해서 카메라 장치가 사용자의 얼굴로부터 소정의 거리를 유지한 채 설치되어야 하는데 사용자의 얼굴에 밀착되어 착용되는 스마트 글래스(또는 헤드 마운티드 디스플레이(HMD))와 같은 웨어러블 디바이스가 이러한 카메라 장치를 구비하기 어렵다는 문제점과 주변의 빛에 민감한 카메라 장치가 정확한 측정 결과를 제공하지 못하게 되는 경우가 종종 발생한다는 문제점이 존재한다.
또한, 근전도 센서를 이용하는 종래기술의 경우에는, 하나의 근전도 센서만으로는 해당 근전도 센서가 부착된 부위에서 발생하는 움직임으로 인한 근전도의 변화만을 측정할 수 있을 뿐 얼굴 곳곳의 부위에서 발생하는 움직임의 방향까지 측정하기 어렵기 때문에, 정확한 표정 인식을 위해서 얼굴 곳곳의 부위에 다수의 근전도 센서가 부착될 것이 요구되는데, 무게가 가볍고 부피가 작아야 하는 웨어러블 디바이스에는 이와 같은 다수의 근전도 센서가 구비되기 어렵다는 한계를 가지고 있다.
본 발명은 상술한 문제점을 모두 해결하는 것을 그 목적으로 한다.
또한, 본 발명은 사용자의 적어도 하나의 신체 부위에 각각 배치되는 적어도 하나의 근전도 센서로부터 근전도 신호를 수신하고, 위의 적어도 하나의 근전도 센서가 각각 배치된 적어도 하나의 신체 부위에서 발생하는 움직임을 감지하는 방향성 센서로부터 방향성 신호를 수신하고, 위의 수신된 근전도 신호 및 방향성 신호를 참조로 하여 사용자의 표정을 인식함으로써, 근전도 센서 및 방향성 센서를 이용하여 사용자의 표정을 인식할 수 있도록 하는 것을 다른 목적으로 한다.
상기 목적을 달성하기 위한 본 발명의 대표적인 구성은 다음과 같다.
본 발명의 일 태양에 따르면, 표정을 인식하기 위한 방법으로서, 사용자의 적어도 하나의 신체 부위에 각각 배치되는 적어도 하나의 근전도 센서로부터 근전도 신호를 수신하고, 상기 적어도 하나의 근전도 센서가 각각 배치된 상기 적어도 하나의 신체 부위에서 발생하는 움직임을 감지하는 방향성 센서로부터 방향성 신호를 수신하는 단계, 및 상기 수신된 근전도 신호 및 방향성 신호를 참조로 하여, 상기 사용자의 표정을 인식하는 단계를 포함하는 방법이 제공된다.
본 발명의 다른 태양에 따르면, 표정을 인식하기 위한 시스템으로서, 사용자의 적어도 하나의 신체 부위에 각각 배치되는 적어도 하나의 근전도 센서로부터 근전도 신호를 수신하고, 상기 적어도 하나의 근전도 센서가 배치된 상기 적어도 하나의 신체 부위 각각에서 발생하는 움직임을 감지하는 방향성 센서로부터 방향성 신호를 수신하는 신호 처리부, 및 상기 수신된 근전도 신호 및 방향성 신호를 참조로 하여, 상기 사용자의 표정을 인식하는 표정 인식부를 포함하는 시스템이 제공된다.
이 외에도, 본 발명을 구현하기 위한 다른 방법, 시스템 및 상기 방법을 실행하기 위한 컴퓨터 프로그램을 기록하기 위한 비일시성의 컴퓨터 판독 가능한 기록 매체가 더 제공된다.
본 발명에 의하면, 관찰의 대상이 되는 사용자의 신체 부위(특히, 얼굴)에서 발생하는 움직임의 세기 및 방향을 모두 정확하게 인식할 수 있는 표정 인식 방법 및 시스템을 제공할 수 있게 되는 효과가 달성된다.
또한, 본 발명에 의하면, 적은 수의 센서만을 이용하여 표정을 인식할 수 있으므로, 본 발명에 따른 표정 인식 시스템이 적용되는 웨어러블 디바이스의 복잡도를 경감시키고 사용자 편의성을 높일 수 있게 되는 효과가 달성된다.
도 1은 본 발명의 일 실시예에 따라 표정을 인식하기 위한 전체 시스템의 개략적인 구성을 나타내는 도면이다.
도 2는 본 발명의 일 실시예에 따라 표정 인식 시스템의 내부 구성을 예시적으로 나타내는 도면이다.
도 3 내지 도 5는 본 발명의 일 실시예에 따라 근전도 신호 및 방향성 신호를 이용하여 표정을 인식하는 구성을 예시적으로 나타내는 도면이다.
후술하는 본 발명에 대한 상세한 설명은, 본 발명이 실시될 수 있는 특정 실시예를 예시로서 도시하는 첨부 도면을 참조한다. 이들 실시예는 당업자가 본 발명을 실시할 수 있기에 충분하도록 상세히 설명된다. 본 발명의 다양한 실시예는 서로 다르지만 상호 배타적일 필요는 없음이 이해되어야 한다. 예를 들어, 여기에 기재되어 있는 특정 형상, 구조 및 특성은 일 실시예에 관련하여 본 발명의 정신 및 범위를 벗어나지 않으면서 다른 실시예로 구현될 수 있다. 또한, 각각의 개시된 실시예 내의 개별 구성요소의 위치 또는 배치는 본 발명의 정신 및 범위를 벗어나지 않으면서 변경될 수 있음이 이해되어야 한다. 따라서, 후술하는 상세한 설명은 한정적인 의미로서 취하려는 것이 아니며, 본 발명의 범위는, 적절하게 설명된다면, 그 청구항들이 주장하는 것과 균등한 모든 범위와 더불어 첨부된 청구항에 의해서만 한정된다. 도면에서 유사한 참조부호는 여러 측면에 걸쳐서 동일하거나 유사한 기능을 지칭한다.
이하에서는, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자가 본 발명을 용이하게 실시할 수 있도록 하기 위하여, 본 발명의 바람직한 실시예들에 관하여 첨부된 도면을 참조하여 상세히 설명하기로 한다.
전체 시스템의 구성
도 1은 본 발명의 일 실시예에 따라 표정을 인식하기 위한 전체 시스템의 개략적인 구성을 나타내는 도면이다.
도 1에 도시된 바와 같이, 본 발명의 일 실시예에 따른 전체 시스템은 통신망(100), 표정 인식 시스템(200), 및 디바이스(300)를 포함하여 구성될 수 있다.
먼저, 본 발명의 일 실시예에 따른 통신망(100)은 유선 통신이나 무선 통신과 같은 통신 양태를 가리지 않고 구성될 수 있으며, 근거리 통신망(LAN; Local Area Network), 도시권 통신망(MAN; Metropolitan Area Network), 광역 통신망(WAN; Wide Area Network) 등 다양한 통신망으로 구성될 수 있다. 바람직하게는, 본 명세서에서 말하는 통신망(100)은 공지의 인터넷 또는 월드와이드웹(WWW; World Wide Web)일 수 있다. 그러나, 통신망(100)은, 굳이 이에 국한될 필요 없이, 공지의 유무선 데이터 통신망, 공지의 전화망 또는 공지의 유무선 텔레비전 통신망을 그 적어도 일부에 있어서 포함할 수도 있다.
다음으로, 본 발명의 일 실시예에 따른 표정 인식 시스템(200)은 메모리 수단을 구비하고 마이크로 프로세서를 탑재하여 연산 능력을 갖춘 디지털 기기일 수 있다. 이러한 표정 인식 시스템(200)은 서버 시스템일 수 있다.
이를 위하여, 표정 인식 시스템(200)은, 아래에서 자세하게 설명되는 바와 같이, 사용자의 적어도 하나의 신체 부위에 각각 배치되는 적어도 하나의 근전도 센서로부터 근전도 신호를 수신하고, 위의 적어도 하나의 근전도 센서가 각각 배치된 적어도 하나의 신체 부위에서 발생하는 움직임을 감지하는 방향성 센서로부터 방향성 신호를 수신하고, 위의 수신된 근전도 신호 및 방향성 신호를 참조로 하여 사용자의 표정을 인식함으로써, 근전도 센서 및 방향성 센서를 이용하여 사용자의 표정을 인식하는 기능을 수행할 수 있다.
특히, 본 발명의 일 실시예에 따르면, 표정 인식 시스템(200)에는 사용자의 신체 부위에 배치되어 해당 신체 부위에서 발생하는 근전도 신호를 획득하는 기능을 수행하는 근전도 센서와 근전도 센서가 배치된 신체 부위에서 발생하는 움직임의 방향을 감지하는 기능을 수행하는 방향성 센서가 포함될 수 있다. 본 발명의 일 실시예에 따르면, 방향성 센서의 예로서, 공지의 구성요소인, 가속도 센서, 적외선 센서, 다채널 임피던스 센서, 피에조 센서 등을 들 수 있다.
표정 인식 시스템(200)의 기능에 관하여는 아래에서 더 자세하게 알아보기로 한다. 한편, 표정 인식 시스템(200)에 관하여 위와 같이 설명되었으나, 이러한 설명은 예시적인 것이고, 표정 인식 시스템(200)에 요구되는 기능이나 구성요소의 적어도 일부가 필요에 따라 실제로 표정 인식에 따른 제어가 행해지는 디바이스(300) 내에서 실현되거나 디바이스(300) 내에 포함될 수도 있음은 당업자에게 자명하다.
마지막으로, 본 발명의 일 실시예에 따른 디바이스(300)는 표정 인식 시스템(200) 또는 다른 디바이스(300)에 접속한 후 통신할 수 있는 기능을 포함하는 디지털 기기로서, 메모리 수단을 구비하고 마이크로 프로세서를 탑재하여 연산 능력을 갖춘 디지털 기기라면 얼마든지 본 발명에 따른 디바이스(300)로서 채택될 수 있다. 디바이스(300)는 스마트 글래스, 스마트 워치, 스마트 밴드, 스마트 링, 스마트 넥클리스 등과 같은 웨어러블 디바이스이거나 스마트폰, 스마트 패드, 데스크탑 컴퓨터, 노트북 컴퓨터, 워크스테이션, PDA, 웹 패드, 이동 전화기 등과 같은 다소 전통적인 디바이스일 수 있다.
또한, 디바이스(300)에는 본 발명에 따른 기능을 수행하기 위한 애플리케이션 프로그램이 더 포함되어 있을 수 있다. 이러한 애플리케이션은 해당 디바이스(300) 내에서 프로그램 모듈의 형태로 존재할 수 있다. 이러한 프로그램 모듈의 성격은 전술한 바와 같은 표정 인식 시스템(200)의 신호 처리부(210) 및 표정 인식부(220)와 전반적으로 유사할 수 있다. 여기서, 애플리케이션은 그 적어도 일부가 필요에 따라 그것과 실질적으로 동일하거나 균등한 기능을 수행할 수 있는 하드웨어 장치나 펌웨어 장치로 치환될 수도 있다.
표정 인식 시스템의 구성
이하에서는, 본 발명의 구현을 위하여 중요한 기능을 수행하는 표정 인식 시스템의 내부 구성 및 각 구성요소의 기능에 대하여 살펴보기로 한다.
도 2는 본 발명의 일 실시예에 따른 표정 인식 시스템의 내부 구성을 예시적으로 나타내는 도면이다.
도 2를 참조하면, 본 발명의 일 실시예에 따른 표정 인식 시스템(200)은, 신호 처리부(210), 표정 인식부(220), 통신부(230) 및 제어부(240)를 포함할 수 있다. 본 발명의 일 실시예에 따르면, 신호 처리부(210), 표정 인식부(220), 통신부(230) 및 제어부(240)는 그 중 적어도 일부가 외부 시스템(미도시됨)과 통신하는 프로그램 모듈들일 수 있다. 이러한 프로그램 모듈들은 운영 시스템, 응용 프로그램 모듈 및 기타 프로그램 모듈의 형태로 표정 인식 시스템(200)에 포함될 수 있으며, 물리적으로는 여러 가지 공지의 기억 장치 상에 저장될 수 있다. 또한, 이러한 프로그램 모듈들은 표정 인식 시스템(200)과 통신 가능한 원격 기억 장치에 저장될 수도 있다. 한편, 이러한 프로그램 모듈들은 본 발명에 따라 후술할 특정 업무를 수행하거나 특정 추상 데이터 유형을 실행하는 루틴, 서브루틴, 프로그램, 오브젝트, 컴포넌트, 데이터 구조 등을 포괄하지만, 이에 제한되지는 않는다.
먼저, 본 발명의 일 실시예에 따르면, 신호 처리부(210)는 사용자의 적어도 하나의 신체 부위에 각각 배치되는 적어도 하나의 근전도 센서로부터 근전도 신호를 수신하는 기능을 수행할 수 있다. 본 발명의 일 실시예에 따르면, 근전도 센서는 사용자의 표정 변화에 따라 특징적인 변화를 보이는 눈 주변 부위 또는 입 주변 부위 등의 신체 부위에 배치될 수 있으며, 해당 신체 부위에 부착되는 적어도 하나의 전극을 통하여 해당 신체 부위의 근육에서 발생하는 전위차에 관한 전기적인 신호(즉, 근전도 신호)를 획득할 수 있다.
또한, 본 발명의 일 실시예에 따르면, 신호 처리부(210)는 근전도 센서가 배치된 신체 부위에서 발생하는 움직임의 방향을 감지하는 방향성 센서로부터 방향성 신호를 수신하는 기능을 수행할 수 있다. 본 발명의 일 실시예에 따르면, 방향성 센서에는, 가속도 센서, 적외선 센서, 다채널 임피던스 센서, 피에조 센서 등이 포함될 수 있다.
구체적으로, 본 발명의 일 실시예에 따르면, 가속도 센서는 근전도 센서가 배치된 신체 부위에 부착되어 해당 신체 부위의 근육의 움직임으로 인해 자신의 상대적인 위치가 변화하는 것을 감지하고 이로부터 해당 신체 부위에서 발생하는 움직임의 방향을 측정할 수 있다. 또한, 본 발명의 일 실시예에 따르면, 적외선 센서는 근전도 센서가 배치된 신체 부위의 피부로부터 방출되는 적외선을 감지하고 이로부터 해당 신체 부위에서 발생하는 움직임의 방향을 측정할 수 있다. 또한, 본 발명의 일 실시예에 따르면, 다채널 임피던스 센서는 근전도 센서가 배치된 신체 부위에 부착되는 2개 이상의 임피던스 전극을 통하여 해당 신체 부위의 임피던스의 변화를 감지하고 이로부터 해당 신체 부위에서 발생하는 움직임의 방향을 측정할 수 있다. 또한, 본 발명의 일 실시예에 따르면, 피에조 센서는 근전도 센서가 배치된 신체 부위에 부착되어 해당 신체 부위의 근육의 움직임으로 인해 자신의 상대적인 위치가 변화하는 것을 감지하고 이로부터 해당 신체 부위에서 발생하는 움직임의 방향을 측정할 수 있다.
다음으로, 본 발명의 일 실시예에 따르면, 표정 인식부(220)는 위의 신호 처리부(210)에 의해 수신된 근전도 신호 및 방향성 신호를 참조로 하여 사용자의 표정을 인식하는 기능을 수행할 수 있다.
구체적으로, 본 발명의 일 실시예에 따르면, 표정 인식부(220)는 데이터베이스(미도시됨)에 저장되어 있는 다양한 유형의 표정을 참조로 하거나 표정 인식 과정을 거침에 따라 점차적으로 학습된 다양한 유형의 표정을 참조로 하여 위의 신호 처리부(210)에 의해 수신된 근전도 신호 및 방향성 신호에 부합하는(또는 대응하는) 표정을 현재 사용자가 짓고 있는 표정이라고 결정할 수 있다.
또한, 본 발명의 일 실시예에 따르면, 표정 인식부(220)가 복수의 방향성 센서 각각으로부터 수신되는 방향성 신호를 참조로 하는 경우를 가정할 수 있는데, 이러한 경우에 표정 인식부(220)는 로컬 필드 무브먼트(Local Field Movement) 알고리즘을 이용하여 방향성 신호를 보정함으로써, 해당 신체 부위에서 발생하는 움직임을 보다 정확하게 산출할 수 있다. 구체적으로, 본 발명의 일 실시예에 따르면, 로컬 필드(Local Field)라고 부를 수 있는 소정의 영역의 신체 부위에 N개의 방향성 센서가 배치되어 있는 경우를 가정할 수 있는데, 이러한 경우에 해당 로컬 필드에서 전체적으로 발생하는 움직임을 벡터 S라고 하고 N개의 방향성 센서 각각에서 감지되는 움직임을 벡터 t 1 내지 t N 이라고 하면, N개의 방향성 센서가 각각 배치된 N개의 신체 부위 중 k번째 방향성 센서가 배치된 k번째 신체 부위에서 국부적으로 발생하는 움직임은 "|t k | - |S|/N"으로서 정의될 수 있다.
다만, 본 발명에 따른 표정 인식 알고리즘이 반드시 상기 열거된 것에 한정되는 것은 아니며, 본 발명의 목적을 달성할 수 있는 범위 내에서 변경될 수 있음을 밝혀 둔다.
도 3 내지 도 5는 본 발명의 일 실시예에 따라 근전도 신호 및 방향성 신호를 이용하여 표정을 인식하는 구성을 예시적으로 나타내는 도면이다.
먼저, 도 3 및 도 4를 참조하면, 본 발명의 일 실시예에 따른 표정 인식부(220)는, 눈 주변 부위인 제1 신체 부위(310A)의 근육에서 발생되는 근전도 변화에 관한 근전도 신호와 제1 신체 부위(310A)에서 발생하는 움직임의 방향에 관한 방향성 신호를 참조로 하여, 관찰의 대상이 되는 사용자의 눈 주변 부위에서 발생하는 움직임의 세기 및 방향을 특정하고, 이로부터 유추되는 표정을 인식할 수 있다. 예를 들면, 본 발명의 일 실시예에 따른 표정 인식 시스템(200)은, 사용자가 눈을 크게 뜨려고 하는 경우에, 눈 주변 부위의 근육에서 감지되는 근전도 신호와 눈 주변 부위의 피부가 위아래로 확장되는 것을 가리키는 방향성 신호를 참조로 하여 해당 사용자가 "놀람"에 해당하는 표정을 짓는 것으로 인식할 수 있다.
계속하여, 도 3 및 도 4를 참조하면, 본 발명의 일 실시예에 따른 표정 인식부(220)는, 입 주변 부위인 제2 신체 부위(310B)의 근육에서 발생되는 근전도 변화에 관한 근전도 신호와 제2 신체 부위(310B)에서 발생하는 움직임의 방향에 관한 방향성 신호를 참조로 하여, 관찰의 대상이 되는 사용자의 입 주변 부위에서 발생하는 움직임의 세기 및 방향을 특정하고, 이로부터 유추되는 표정을 인식할 수 있다. 예를 들면, 본 발명의 일 실시예에 따른 표정 인식 시스템(200)은, 사용자가 입꼬리를 올리려고 하는 경우에, 입 주변 부위의 근육에서 감지되는 근전도 신호와 입 주변 부위의 피부가 위쪽으로 밀려 올라가는 것을 가리키는 방향성 신호를 참조로 하여 해당 사용자가 "웃음"에 해당하는 표정을 짓는 것으로 인식할 수 있다.
계속하여, 도 3 및 도 4를 참조하면, 본 발명의 일 실시예에 따른 표정 인식부(220)는, 관찰의 대상이 되는 사용자의 눈 주변 부위(310A)에서 획득되는 제1 근전도 신호 및 제1 방향성 신호와 해당 사용자의 입 주변 부위(310B)에서 획득되는 제2 근전도 신호 및 제2 방향성 신호를 모두 참조로 하여 표정을 인식할 수 있다
다음으로, 도 5를 참조하면, 본 발명의 일 실시예에 따른 표정 인식부(220)는, 관찰의 대상이 되는 사용자의 얼굴에 포함되는 적어도 하나의 신체 부위에서 획득되는 근전도 신호와 방향성 신호를 참조로 하여, 해당 사용자가 "행복한 놀람", "슬픈 놀람", "혐오스러운 놀람", "행복한 혐오감", "화나는 혐오감", "슬픈 두려움" 등에 해당하는 표정을 짓고 있다고 인식할 수 있다.
다음으로, 본 발명의 일 실시예에 따른 통신부(230)는 표정 인식 시스템(200)이 외부 장치와 통신할 수 있도록 하는 기능을 수행한다.
마지막으로, 본 발명의 일 실시예에 따른 제어부(240)는 신호 처리부(210), 표정 인식부(220) 및 통신부(230) 간의 데이터의 흐름을 제어하는 기능을 수행한다. 즉, 제어부(250)는 외부로부터의 또는 표정 인식 시스템(200)의 각 구성요소 간의 데이터의 흐름을 제어함으로써, 신호 처리부(210), 표정 인식부(220) 및 통신부(230)에서 각각 고유 기능을 수행하도록 제어한다.
이상에서, 사용자의 얼굴에서 발생하는 움직임의 세기 및 방향에 관한 신호를 참조로 하여 사용자의 얼굴 표정을 인식하는 실시예에 대하여 주로 설명하였지만, 본 발명이 반드시 이에 한정되는 것은 아님을 밝혀 둔다. 본 발명의 다른 실시예에 따르면, 사용자의 얼굴 이외에 팔, 다리 등의 다른 신체 부위에서 발생하는 움직임의 세기 및 방향에 관한 신호가 측정될 수 있고, 이렇게 측정된 신호를 참조로 하여 사용자의 해당 신체 부위에서 어떤 동작이 행해지고 있는지가 인식될 수 있다.
이상 설명된 본 발명에 따른 실시예들은 다양한 컴퓨터 구성요소를 통하여 수행될 수 있는 프로그램 명령어의 형태로 구현되어 비일시성의 컴퓨터 판독 가능한 기록 매체에 기록될 수 있다. 상기 비일시성의 컴퓨터 판독 가능한 기록 매체는 프로그램 명령어, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 비일시성의 컴퓨터 판독 가능한 기록 매체에 기록되는 프로그램 명령어는 본 발명을 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 분야의 당업자에게 공지되어 사용 가능한 것일 수도 있다. 비일시성의 컴퓨터 판독 가능한 기록 매체의 예에는, 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체, CD-ROM, DVD와 같은 광기록 매체, 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 ROM, RAM, 플래시 메모리 등과 같은 프로그램 명령어를 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령어의 예에는, 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드도 포함된다. 상기 하드웨어 장치는 본 발명에 따른 처리를 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.
이상에서 본 발명이 구체적인 구성요소 등과 같은 특정 사항들과 한정된 실시예 및 도면에 의해 설명되었으나, 이는 본 발명의 보다 전반적인 이해를 돕기 위해서 제공된 것일 뿐, 본 발명이 상기 실시예들에 한정되는 것은 아니며, 본 발명이 속하는 기술분야에서 통상적인 지식을 가진 자라면 이러한 기재로부터 다양한 수정 및 변형을 꾀할 수 있다.
따라서, 본 발명의 사상은 상기 설명된 실시예에 국한되어 정해져서는 아니 되며, 후술하는 특허청구범위뿐만 아니라 이 특허청구범위와 균등하게 또는 등가적으로 변형된 모든 것들은 본 발명의 사상의 범주에 속한다고 할 것이다.
100: 통신망
200: 표정 인식 시스템
201A, 201B: 근전도 센서
202A, 202B: 방향성 센서
210: 신호 처리부
220: 표정 인식부
230: 통신부
240: 제어부
300: 디바이스
310A: 제1 신체 부위
310B: 제2 신체 부위

Claims (6)

  1. 표정을 인식하기 위한 방법으로서,
    사용자의 적어도 하나의 신체 부위에 각각 배치되는 적어도 하나의 근전도 센서로부터 근전도 신호를 수신하고, 상기 적어도 하나의 근전도 센서가 각각 배치된 상기 적어도 하나의 신체 부위에서 발생하는 움직임을 감지하는 방향성 센서로부터 방향성 신호를 수신하는 단계, 및
    상기 수신된 근전도 신호 및 방향성 신호를 참조로 하여, 상기 사용자의 표정을 인식하는 단계
    를 포함하는 방법.
  2. 제1항에 있어서,
    상기 적어도 하나의 신체 부위에는, 눈 주변 부위 및 입 주변 부위 중 적어도 하나가 포함되는 방법.
  3. 제1항에 있어서,
    상기 방향성 센서에는, 가속도 센서, 적외선 센서, 임피던스 센서 및 피에조 센서 중 적어도 하나가 포함되는 방법.
  4. 제1항에 있어서,
    상기 결정 단계는,
    로컬 필드 무브먼트(Local Field Movement) 알고리즘을 적용하여 상기 수신된 방향성 신호를 보정하는 단계, 및
    상기 수신된 근전도 신호 및 상기 보정된 방향성 신호를 참조로 하여, 상기 사용자의 표정을 인식하는 단계
    를 포함하는 방법.
  5. 제1항 내지 제4항 중 어느 한 항에 따른 방법을 실행하기 위한 컴퓨터 프로그램을 기록한 비일시성의 컴퓨터 판독 가능한 기록 매체.
  6. 표정을 인식하기 위한 시스템으로서,
    사용자의 적어도 하나의 신체 부위에 각각 배치되는 적어도 하나의 근전도 센서로부터 근전도 신호를 수신하고, 상기 적어도 하나의 근전도 센서가 배치된 상기 적어도 하나의 신체 부위 각각에서 발생하는 움직임을 감지하는 방향성 센서로부터 방향성 신호를 수신하는 신호 처리부, 및
    상기 수신된 근전도 신호 및 방향성 신호를 참조로 하여, 상기 사용자의 표정을 인식하는 표정 인식부
    를 포함하는 시스템.
KR1020150003545A 2014-08-25 2015-01-09 표정을 인식하기 위한 방법, 시스템 및 비일시성의 컴퓨터 판독 가능한 기록 매체 KR101788709B1 (ko)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR20140110861 2014-08-25
KR1020140110861 2014-08-25

Publications (2)

Publication Number Publication Date
KR20160024725A true KR20160024725A (ko) 2016-03-07
KR101788709B1 KR101788709B1 (ko) 2017-10-20

Family

ID=55540179

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020150003545A KR101788709B1 (ko) 2014-08-25 2015-01-09 표정을 인식하기 위한 방법, 시스템 및 비일시성의 컴퓨터 판독 가능한 기록 매체

Country Status (1)

Country Link
KR (1) KR101788709B1 (ko)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20190130190A (ko) * 2018-04-18 2019-11-22 한국생산기술연구원 로봇의 인간 얼굴 표정 학습 및 표정 구현 방법
US10614295B2 (en) 2016-05-31 2020-04-07 Industry-Academic Cooperation Foundation, Yonsei University Device for recognizing facial expression and method thereof
US10885317B2 (en) 2018-01-08 2021-01-05 Samsung Electronics Co., Ltd. Apparatuses and methods for recognizing object and facial expression robust against change in facial expression, and apparatuses and methods for training
KR20220134693A (ko) * 2021-03-25 2022-10-05 경북대학교 산학협력단 레이저 제어 방법과 이를 수행하기 위한 장치 및 시스템

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3580639A1 (en) 2018-02-09 2019-12-18 Starkey Laboratories, Inc. Use of periauricular muscle signals to estimate a direction of a user's auditory attention locus
WO2020236147A1 (en) * 2019-05-20 2020-11-26 Hewlett-Packard Development Company, L.P. Signal combination of physiological sensor signals

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4395908B2 (ja) * 1999-03-29 2010-01-13 ソニー株式会社 信号処理装置および信号処理方法
EP2011087A4 (en) * 2006-04-24 2010-02-24 Sony Corp PRESENTATION-FACED FACIAL ANIMATION

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10614295B2 (en) 2016-05-31 2020-04-07 Industry-Academic Cooperation Foundation, Yonsei University Device for recognizing facial expression and method thereof
US10885317B2 (en) 2018-01-08 2021-01-05 Samsung Electronics Co., Ltd. Apparatuses and methods for recognizing object and facial expression robust against change in facial expression, and apparatuses and methods for training
KR20190130190A (ko) * 2018-04-18 2019-11-22 한국생산기술연구원 로봇의 인간 얼굴 표정 학습 및 표정 구현 방법
KR20220134693A (ko) * 2021-03-25 2022-10-05 경북대학교 산학협력단 레이저 제어 방법과 이를 수행하기 위한 장치 및 시스템

Also Published As

Publication number Publication date
KR101788709B1 (ko) 2017-10-20

Similar Documents

Publication Publication Date Title
KR101788709B1 (ko) 표정을 인식하기 위한 방법, 시스템 및 비일시성의 컴퓨터 판독 가능한 기록 매체
US9955895B2 (en) Wearable head-mounted, glass-style computing devices with EOG acquisition and analysis for human-computer interfaces
US10146323B1 (en) Magnetometer-based gesture sensing with a wearable device
US20200159325A1 (en) Wearable muscle interface systems, devices and methods that interact with content displayed on an electronic display
EP3171248B1 (en) Gesture recognition method, apparatus and wearable device
US9836663B2 (en) User authenticating method and head mounted device supporting the same
Miluzzo et al. Eyephone: activating mobile phones with your eyes
KR102329765B1 (ko) 홍채 기반 인증 방법 및 이를 지원하는 전자 장치
EP2959394B1 (en) Methods and devices that combine muscle activity sensor signals and inertial sensor signals for gesture-based control
US10599877B2 (en) Protecting content on a display device from a field-of-view of a person or device
US10048761B2 (en) Classification of gesture detection systems through use of known and yet to be worn sensors
CN112789578A (zh) 用于可穿戴或移动设备上的姿势、穿戴、活动或携带检测的神经网络系统
US20160282947A1 (en) Controlling a wearable device using gestures
KR20160130015A (ko) 휴대 장치 및 휴대 장치의 콘텐트 화면 변경방법
KR101638095B1 (ko) 시선 인식 및 생체 신호를 이용한 헤드 마운트 디스플레이를 통해 사용자 인터페이스를 제공하는 방법, 이를 이용한 장치 및 컴퓨터 판독 가능한 기록 매체
KR102548453B1 (ko) 전자 장치 및 그 제어 방법
US11347320B1 (en) Gesture calibration for devices
KR102579895B1 (ko) 전자장치, 이를 활용한 적외선 센서 기반의 심장 박동 수 측정 방법
KR20210052874A (ko) 복수의 센서 신호를 이용하여 사용자의 제스처를 인식하는 전자 장치
CN113613553A (zh) 测量血压的电子设备和测量血压的方法
KR101930942B1 (ko) 수화 인식 시스템 및 방법
CN109077703B (zh) 柔性检测装置以及信息处理方法及装置
WO2015084082A1 (ko) 자세 또는 동작을 인식하기 위한 방법, 디바이스, 시스템 및 비일시성의 컴퓨터 판독 가능한 기록 매체
JP2017227941A (ja) プログラム、情報処理装置、及びアイウエア
US10966651B2 (en) Analytics and processing of biological signals from sensors

Legal Events

Date Code Title Description
N231 Notification of change of applicant
A201 Request for examination
A302 Request for accelerated examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant