KR20180101171A - 제스처를 인식하기 위한 방법 및 그 전자 장치 - Google Patents

제스처를 인식하기 위한 방법 및 그 전자 장치 Download PDF

Info

Publication number
KR20180101171A
KR20180101171A KR1020180009832A KR20180009832A KR20180101171A KR 20180101171 A KR20180101171 A KR 20180101171A KR 1020180009832 A KR1020180009832 A KR 1020180009832A KR 20180009832 A KR20180009832 A KR 20180009832A KR 20180101171 A KR20180101171 A KR 20180101171A
Authority
KR
South Korea
Prior art keywords
signal
gesture
user
signals
reflected
Prior art date
Application number
KR1020180009832A
Other languages
English (en)
Other versions
KR102500128B1 (ko
Inventor
안드레이 블라디미로비치 클리소프
알렉산더 제나디에비치 체르노칼로프
스타니슬라프 블라디미로비치 폴론스키
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to US15/892,800 priority Critical patent/US10684693B2/en
Priority to PCT/KR2018/001786 priority patent/WO2018159949A1/en
Priority to EP18760487.1A priority patent/EP3577544B1/en
Publication of KR20180101171A publication Critical patent/KR20180101171A/ko
Application granted granted Critical
Publication of KR102500128B1 publication Critical patent/KR102500128B1/ko

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017Gesture based interaction, e.g. based on a set of recognized hand gestures
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0033Features or image-related aspects of imaging apparatus classified in A61B5/00, e.g. for MRI, optical tomography or impedance tomography apparatus; arrangements of imaging apparatus in a room
    • A61B5/004Features or image-related aspects of imaging apparatus classified in A61B5/00, e.g. for MRI, optical tomography or impedance tomography apparatus; arrangements of imaging apparatus in a room adapted for image acquisition of a particular organ or body part
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/05Detecting, measuring or recording for diagnosis by means of electric currents or magnetic fields; Measuring using microwaves or radio waves 
    • A61B5/0507Detecting, measuring or recording for diagnosis by means of electric currents or magnetic fields; Measuring using microwaves or radio waves  using microwaves or terahertz waves
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/117Identification of persons
    • A61B5/1171Identification of persons based on the shapes or appearances of their bodies or parts thereof
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/02Systems using reflection of radio waves, e.g. primary radar systems; Analogous systems
    • G01S13/0209Systems with very large relative bandwidth, i.e. larger than 10 %, e.g. baseband, pulse, carrier-free, ultrawideband
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/88Radar or analogous systems specially adapted for specific applications
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/02Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S13/00
    • G01S7/41Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S13/00 using analysis of echo signal for target characterisation; Target signature; Target cross-section
    • G01S7/411Identification of targets based on measurements of radar reflectivity
    • G01S7/412Identification of targets based on measurements of radar reflectivity based on a comparison between measured values and known or stored values
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/02Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S13/00
    • G01S7/41Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S13/00 using analysis of echo signal for target characterisation; Target signature; Target cross-section
    • G01S7/415Identification of targets based on measurements of movement associated with the target
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/02Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S13/00
    • G01S7/41Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S13/00 using analysis of echo signal for target characterisation; Target signature; Target cross-section
    • G01S7/417Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S13/00 using analysis of echo signal for target characterisation; Target signature; Target cross-section involving the use of neural networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • G06F18/241Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G06F18/2413Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on distances to training or reference patterns
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/014Hand-worn input/output arrangements, e.g. data gloves
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/015Input arrangements based on nervous system activity detection, e.g. brain waves [EEG] detection, electromyograms [EMG] detection, electrodermal response detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20Movements or behaviour, e.g. gesture recognition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2218/00Aspects of pattern recognition specially adapted for signal processing
    • G06F2218/12Classification; Matching

Abstract

본 개시(disclosure)는 일반적으로 전자 장치에서 제스처를 인식하고 기능을 제어하기 위한 것으로, 전자 장치의 동작 방법은, RF(radio frequency) 센서를 이용하여 사용자 신체를 향해 방사된 RF 신호의 변화를 감지하는 과정과, 제스처(gesture) 별 기준 데이터에 기반하여, 상기 RF 신호에 대응하는 제스처를 결정하는 과정과, 상기 결정된 제스처에 대응하는 상기 전자 장치의 기능을 실행하는 과정을 포함한다.

Description

제스처를 인식하기 위한 방법 및 그 전자 장치{METHOD FOR RECOGNIZING A GESTURE AND AN ELECTRONIC DEVICE THEREOF}
본 개시(disclosure)는 일반적으로 제스처 인식에 관한 것으로, 보다 구체적으로 무선 주파수(radio frequency, RF) 센서를 사용하여 제스처를 인식하는 장치 및 방법에 관한 것이다.
기술의 발전에 따라 다양한 전자 장치가 사용자의 동작에 의해 제어되는 기능을 갖추게 되었다. 사용자 동작에 의해 전자 장치에 대한 제어 명령을 생성하기 위해서는 기본적으로 제스처 인식이 필요하다. 제스처를 인식하기 위한 다양한 기술이 전자 장치에 사용된다.
전자 장치에서 제스처 제어를 적용하는 솔루션으로 예를 들어, 다음과 같은 인용 참증들이 공지되어 있다.
국제 특허 출원 공개 번호 WO 2016053459 A1, 명칭 "TENDON BASED MOTION AND GESTURE DEVICE FROM A WEARABLE DEVICE"으로 2016년 4월 7일 공개된 특허는, 압전 압력 센서 어레이 또는 광 센서 어레이에 의해 사용자의 동작 및 제스처 입력을 검출하는 장치를 제공한다. 그러나 이에 따르면 센서 어레이는 장치 또는 다른 장치에 명령을 제공하기 위해 사용자 손목에 단단히 고정되어야 한다.
미국 특허 출원 공개 번호 US20150370326 A1, 명칭 "SYSTEMS, ARTICLES, AND METHODS FOR WEARABLE HUMAN-ELECTRONICS INTERFACE DEVICES"으로 2015년 12월 24일 공개된 특허는, 다른 유형의 태핑(tapping) 제스처를 감지하고 구별하기 위해 복수의 미세 전자 기계 시스템(microelectromechanical systems: MEMS) 마이크로폰을 사용하는 전자 밴드를 제공한다. MEMS 진동 또는 소리 센서는 손목 밴드의 손목 둘레에 분산 배치되어야 한다. 그러나 손목에만 센서를 배치하면 충분한 정보를 제공 할 수 없다.
중국 특허 공개 번호 CN105022471, 명칭 "압력 센서 어레이를 기반으로 제스처 인식을 수행하기 위한 장치 및 방법"으로 2015년 11월 4일 공개된 특허는, 손목 밴드의 손목 둘레에 배치되어야 하는 압력 센서 어레이를 기반으로 제스처 인식을 수행하기 위한 장치를 제공한다. 그러나 손목에만 센서를 배치하면 충분한 정보를 제공 할 수 없다.
미국 특허 출원 공개 번호 US2016041617, 명칭 "레이더 기반 제스처 인식 (Radar-Based Gesture Recognition)"으로 2016년 2월 11일 공개된 특허는, 레이더 기반 제스처 인식을 위한 기술과 장치를 개시한다. 상기 개시에 따르면 허공에서의 제스처와 같은 3차원 제스처를 인식 할 수 있다. 이러한 허공 제스처는 텔레비전을 제어하기 위해 소파에 앉아있는 사람, 오븐이나 냉장고를 제어하기 위해 부엌에 서있는 사람, 데스크톱 컴퓨터의 디스플레이에서 몇 밀리미터 떨어진 위치 등 다양한 거리에서 수행할 수 있다. 또한, 상기 개시에 따르면 제스처를 감지 할 수 있는 레이더 필드가 제공된다. 그러나 레이더 센서는 사용자로부터 어느 정도 떨어져 있기 때문에 사용자는 레이더 필드를 유지하기 위해 양손이 모두 필요하다는 사실에 주의해야 한다. 한 손에 센서를 들고 있으면 다른 손은 제스처 제어를 위해 분주할 것이다.
또한, 제스처 제어를 적용하는 데 있어서 다음과 같은 다른 문제점과 단점이 있다. 즉, 사용자의 신체와 검출 장치가 지속적으로 접촉될 수 없어서 발생하는 블라인드 주기로 인해 제스처 검출 신호가 불안정하게 되고, 사용자가 장치 화면에 주의를 기울여야 하며, 사용자가 한 손에 장치를 착용하는 경우 다른 한 손은 장치 제어를 위해 사용하여야 한다. 또한, 압전 장치 기반(piezo-based)의 압력 센서는 장치를 단단히 고정해야 하며, 저렴한 양산 기술이 필요하고, 일부 접근법에서는 장치 외부에 외부 센서를 설치해야 할 수 있고, 피부에 대한 지속적인 접촉이 필요하다.
본 개시는 상기 문제점 및 단점 중 적어도 하나를 해결하고, 이하의 장점들 중 적어도 하나를 제공하기 위한 것이다.
상술한 바와 같은 논의를 바탕으로, 본 개시(disclosure)는, 무선 주파수(radio frequency, RF) 센서를 이용하여 제스처를 인식하는 방법 및 그 전자 장치를 제공한다.
또한, 본 개시는, 필요한 해상도 또는 사용자의 움직임 등에 따라 RF 주파수 대역을 조절하여 제스처를 판단하는 방법 및 그 전자 장치를 제공한다.
또한, 본 개시는, 제스처 별 RF 신호에 대한 기준 데이터를 생성하여, RF 신호 변화에 따라 제스처를 인식하고, 인식된 제스처에 기반하여 전자 장치의 기능을 제어하는 방법 및 그 전자 장치를 제공한다.
본 개시의 다양한 실시 예들에 따르면, RF 센서를 이용한 제스처 인식을 위한 방법을 제공하고, 방법은 다음과 같은 단계들을 포함할 수 있다. 적어도 하나의 송신기에 의해 RF 신호들의 세트들을 연속적으로 생성하고, 적어도 하나의 안테나를 통해 사용자의 신체 부위의 조직(tissue) 안으로 상기 RF 신호들의 세트들을 연속적으로 방사하는 단계, 상기 적어도 하나의 안테나를 통해 적어도 하나의 수신기에 의해 상기 사용자의 신체 부위의 조직에 의해 왜곡되고 상기 조직으로부터 반사된 상기 RF 신호들의 세트들을 수신하는 단계, 상기 적어도 하나의 수신기에 의해 RF 신호들의 각각의 세트에서 각각의 수신된 RF 신호를 제 1 RF 신호 및 제 2 RF 신호로 분리하는 단계를 포함한다. 이때, 상기 제 1 RF 신호는 진폭을 나타내고 상기 제 2 RF 신호는 위상 천이를 나타낸다. 또한, 상기 방법은, 디지털 신호들의 세트들을 얻기 위해, 적어도 하나의 아날로그 디지털 변환기(analog-to-digital, ADC)에 의해 RF 신호들의 각각의 세트 내의 제 1 RF 신호 및 제 2 RF 신호 각각을 디지털 신호들로 변환하는 단계를 포함하고, 상기 디지털 신호들의 각각의 세트는 대응하는 RF 신호들의 세트로부터 획득된다. 또한, 상기 방법은, 제스처를 인식하기 위한 기준 데이터 세트를 이용하여 ANN에 의해 CPU(central processing unit)에서 상기 디지털 신호들의 세트들을 처리하는 단계를 더 포함하며, 이때, 각 기준 데이터 세트는 특정 제스처와 연관되고 상기 ANN의 학습에 의해 획득된다.
상기 ANN의 학습은 복수의 제스처들의 각 제스처를 위해 수행되고, 다음과 같은 단계들을 포함 할 수 있다. 즉, ANN의 학습 방법은, 사용자의 신체 부위가 제스터를 수행하는 경우, 적어도 하나의 송신기에 의해 RF 신호들의 세트를 생성하고, 적어도 하나의 안테나를 통해 상기 사용자의 신체 부위의 조직 안으로 상기 RF 신호들의 세트를 방사하는 단계, 상기 적어도 하나의 안테나를 통해 적어도 하나의 수신기에 의해 상기 사용자의 신체 부위의 조직에 의해 왜곡되고 상기 조직으로부터 반사된 상기 RF 신호들의 세트를 수신하는 단계, 상기 적어도 하나의 수신기에 의해 수신된 각각의 RF 신호를 제 1 RF 신호 및 제 2 RF 신호로 분리하는 단계를 포함하고, 이때, 상기 제 1 RF 신호는 진폭을 나타내고 상기 제 2 RF 신호는 위상 천이를 나타낸다. 또한, 디지털 신호들의 세트들을 얻기 위해, 적어도 하나의 ADC에 의해 제 1 RF 신호 및 제 2 RF 신호 각각을 디지털 신호들로 변환하는 단계, 제스처와 연관된 기준 데이터 세트를 획득하기 위해, 상기 ANN에 의해 상기 디지털 신호들의 세트들을 처리하고, CPU에 포함된 메모리에 상기 기준 데이터 세트를 저장하는 단계를 포함할 수 있다.
RF 신호들의 세트들을 생성하는 단계는 세트에서 상이한 주파수들을 갖는 RF 신호들을 생성하는 단계를 포함할 수 있다.
신호들의 세트들을 생성하는 단계는 저주파 대역 및 고주파 대역 내의 RF 신호들의 세트들을 생성하는 단계를 포함 할 수 있다.
상기 저주파 대역은 약 1-3GHz이고, 상기 고주파 대역은 약 3-10GHz이다.
상기 방법은, 상기 디지털 신호들이 상기 저주파 대역에서 생성된 RF 신호들의 세트들로부터 획득되고, 제스처를 인식하기 위한 기준 데이트 세트들 및 상기 ANN을 이용하여 상기 CPU가 상기 디지털 신호들의 세트들을 처리하고, 상기 제스처가 완벽하게 인식되기 전에 상기 ANN이 0이 아닌 값을 출력하는 경우, 상기 사용자 신체 부위가 상기 제스처를 수행함을 결정하는 단계, 및 상기 고주파 대역 내에서 상기 RF 신호들을 생성하기 위한 상기 적어도 하나의 송신기를 전환(switch)하는 단계를 더 포함한다.
상기 방법은, 움직임 검출기(movement detector)에 의해 상기 사용자 신체 부위의 진동 레벨을 측정하는 단계, ANN을 이용하여 CPU에 의해, 상기 진동 레벨을 임계 값과 비교하는 단계를 포함한다. 이 때, 상기 임계 값은 상기 ANN의 학습에 의해 획득된다. 상기 진동 레벨이 상기 임계 값을 초과하는 경우: 상기 RF 신호들의 세트들이 상기 고주파 대역 내에서 생성될 때, 상기 저주파 대역 내에서 상기 RF 신호들을 생성하기 위해 상기 적어도 하나의 송신기를 전환하거나, 또는 상기 RF 신호들의 세트들이 저주파 대역 내에서 생성되고, 상기 사용자 신체 부위가 제스처를 수행한다고 결정될 때, 상기 저주파 대역 내에서 상기 RF 신호들의 생성을 계속하는 단계를 포함할 수 있다.
상기 ANN의 학습은, 상기 사용자 신체 부위가 상기 제스처를 수행할 때, 상기 움직임 검출기에 의해, 상기 사용자 신체 부위의 진동 레벨들을 측정하는 단계, 측정된 진동 레벨들 중에서 최대 진동 레벨을 선택하는 단계, 상기 최대 진동 레벨을 상기 임계 값으로 할당하는 단계, 및 상기 CPU에 포함된 메모리에 상기 임계 값을 저장하는 단계를 더 포함할 수 있다.
상기 방법은, 하나의 안테나가 상기 송신기 및 상기 수신기의 쌍을 위해 사용된다면: 상기 RF 신호가 방사되는 때, 상기 안테나를 상기 송신기로 전환하는 단계; 및 상기 사용자 신체 부위의 조직에 의해 왜곡되고 상기 조직으로부터 반사된 상기 RF 신호가 수신되는 때, 상기 안테나를 상기 수신기로 전환하는 단계를 더 포함할 수 있다.
따라서, 본 발명의 다른 양태는 RF 센서를 이용하여 제스처 인식 장치에 제공한다. 상기 장치는, 적어도 하나의 안테나, 연속적으로 RF 신호들의 세트들을 생성하고 상기 RF 신호들의 세트들을 적어도 하나의 안테나를 통해 사용자 신체 부위의 조직 안으로 방출하도록 구성된 적어도 하나의 송신기, 상기 적어도 하나의 안테나를 통해 상기 사용자 신체 부위의 조직에 의해 왜곡되고 상기 조직으로부터 반사된 상기 RF 신호들의 세트들을 수신하고, 상기 RF 신호들의 각 세트에서 각각의 수신 RF 신호를 제 1 RF 신호 및 제 2 RF 신호로 분리하도록 구성된 적어도 하나의 수신기를 포함하고, 상기 제 1 RF 신호는 진폭을 나타내고 상기 제 2 RF 신호는 위상 천이를 나타낸다. 상기 장치는, 디지털 신호들의 세트들을 얻기 위해, 상기 RF 신호들의 각 세트에서 상기 제 1 RF 신호들 및 상기 제 2 RF 신호들 각각을 디지털 신호들로 변환하도록 구성된 적어도 하나의 ADC를 더 포함한다. 이 때, 디지털 신호들의 각 세트는 대응하는 RF 신호들의 세트로부터 획득되고, 메모리를 포함하는 CPU, 상기 CPU는 ANN 및 제스처를 인식하기 위한 기준 데이터 세트를 사용하여 상기 디지털 신호들의 세트들을 처리하도록 구성되며, 각각의 기준 데이터 세트는 특정 제스처와 관련되고 상기 ANN에 의해 획득된다.
상기 장치는, 복수 개의 제스처들의 각 제스처를 위한 상기 ANN의 학습을 수행하도록 더 구성될 수 있다. 사용자의 신체 부위가 제스처를 수행할 때, 상기 적어도 하나의 송신기는 RF 신호들의 세트를 생성하고, 사용자의 신체 부위의 조직 안으로 상기 RF 신호들의 세트를 방사한다. 또한, 상기 적어도 하나의 수신기는 상기 적어도 하나의 안테나를 통해 상기 사용자 신체 부위의 조직에 의해 왜곡되고 상기 조직으로부터 반사된 상기 RF 신호들의 세트를 수신하고, 각각의 수신 RF 신호를 상기 제 1 RF 신호 및 상기 제 2 RF 신호로 분리하며, 이 때, 상기 제 1 RF 신호 진폭을 나타내고 상기 제 2 RF 신호는 위상 천이를 나타낸다. 상기 적어도 하나의 ADC는 디지털 신호들의 세트들을 획득하기 위해 상기 제 1 RF 신호들 및 상기 제 2 RF 신호들 각각을 상기 디지털 신호들로 변환하고, 상기 CPU는, 상기 제스처와 연관된 상기 기준 데이터 세트를 획득하기 위해, ANN에 의해 상기 디지털 신호들의 세트들을 처리하고, 상기 기준 데이터 세트를 메모리에 저장한다.
상기 적어도 하나의 송신기는 상기 세트에서 상이한 주파수들을 갖는 RF 신호들을 생성하도록 구성될 수 있다.
상기 적어도 하나의 송신기는 저주파 대역과 고주파 대역 내의 RF 신호들의 세트들을 생성하도록 구성될 수 있다.
저주파 대역은 약 1-3GHz이고, 고주파 대역은 약 3-10GHz이다.
저주파 대역 내에서 생성 된 RF 신호들의 세트들로부터 디지털 신호들이 획득될 때, 상기 CPU는 제스처를 인식하기 위한 기준 데이터 세트 및 상기 ANN을 이용하여 상기 디지털 신호들의 세트들을 처리하고, 상기 제스처가 완전히 인식되기 전에, 상기 ANN은 0이 아닌 값을 출력하며, 상기 CPU는 상기 사용자 신체 부위가 상기 제스처를 수행하는 것으로 판단하고, 고주파 대역 내의 RF 신호들을 생성하기 위해 상기 적어도 하나의 송신기를 전환하도록 구성된다.
상기 장치는, 상기 사용자 신체 부위의 진동 레벨을 측정하도록 구성된 움직임 검출기를 더 포함 할 수 있다. 이 때, 상기 CPU는, 상기 ANN을 이용하여 상기 진동 레벨을 상기 메모리에 저장된 임계 값과 비교하고, 상기 임계 값은 상기 ANN의 학습에 의해 획득된다. 만일 상기 진동 레벨이 상기 임계 값을 초과하는 경우, 상기 적어도 하나의 송신기가 상기 고주파 대역 내에서 상기 RF 신호들의 세트들을 생성할 때, 상기 CPU는 상기 저주파 대역 내에서 상기 RF 신호들을 생성하도록 상기 적어도 하나의 송신기를 전환하거나, 상기 적어도 하나의 송신기가 상기 저주파 대역 내에서 상기 RF 신호들의 세트들을 생성하고 상기 CPU는 사용자 신체 부위가 제스처를 수행할 때, 상기 저주파 대역 내에서 RF 신호들의 생성을 계속한다.
상기 ANN의 학습 시, 상기 사용자 신체 부위가 제스처를 수행 할 때, 상기 움직임 검출기는 상기 사용자 신체 부위의 진동 레벨을 측정하고; 상기CPU는 측정된 진동 레벨 중에서 최대 진동 레벨을 선택하여, 상기 최대 진동 레벨을 상기 임계 값으로서 할당하고, 상기 임계 값을 상기 메모리에 저장한다.
상기 장치는, 만일 하나의 안테나가 상기 송신기 및 상기 수신기 한 쌍에 사용되는 경우, 상기 RF 신호가 방사될 때 상기 안테나를 상기 송신기로 전환하고, 사용자 신체 일부의 조직에 의해 왜곡되고 상기 조직으로부터 반사된 RF 신호가 수신 될 때 상기 안테나를 상기 수신기로 전환하는 수신기를 더 포함할 수 있다. 이 때, 상기 CPU는 상기 스위치를 제어하도록 구성될 수 있다.
움직임 검출기는 가속도계, 자기 센서, 기압계, 3D 포지셔너(positioner) 중 적어도 하나일 수 있다.
RF 센서를 이용하여 제스처를 인식하는 장치는, 웨어러블 장치에 내장될 수 있다.
CPU는 RF 센서를 이용하여 제스처를 인식하는 장치에 내장된 웨어러블 장치의 CPU일 수 있다.
상기 움직임 검출기는 RF 센서를 이용하여 제스처를 인식하는 장치에 내장된 웨어러블 장치의 움직임 검출기일 수 있다.
상기 장치가 내장되는 웨어러블 장치는 스마트 워치(smartwatch), 헤드폰(headphone) 중 적어도 하나이다.
RF 센서를 이용하여 제스처를 인식하는 장치는, RF 신호가 안으로 방사되는 사용자 신체 일부의 측면에 대해 반대편에 배치되고, 사용자 신체 부위의 조직으로 방사된 RF 신호를 반사하도록 구성된 반사기(reflector)를 더 포함 할 수 있다.
본 개시의 다양한 실시 예들에 따르면, 전자 장치의 동작 방법은, RF 센서를 이용하여 사용자 신체를 향해 방사된 RF 신호의 변화를 감지하는 과정과, 제스처 별 기준 데이터에 기반하여, 상기 RF 신호에 대응하는 제스처를 결정하는 과정과, 상기 결정된 제스처에 대응하는 상기 전자 장치의 기능을 실행하는 과정을 포함한다.
본 개시의 다양한 실시 예들에 따르면, 전자 장치는, RF 센서와, 상기 RF 센서와 기능적으로 연결된 적어도 하나의 프로세서를 포함한다. 이 때, 상기 적어도 하나의 프로세서는, 상기 RF 센서를 이용하여 사용자 신체를 향해 방사된 RF 신호의 변화를 감지하고, 제스처 별 기준 데이터에 기반하여, 상기 RF 신호에 대응하는 제스처를 결정하고, 상기 결정된 제스처에 대응하는 상기 전자 장치의 기능을 실행한다.
본 개시의 다양한 실시 예들에 따른 방법 및 그 전자 장치는, RF(radio frequency) 센서를 이용하여 사용자의 제스처를 판단하고, 제스처에 따라 전자 장치의 기능을 제어함으로써, 빠르고 좀 더 편리한 전자 장치의 기능 제어 방법을 제공할 수 있게 한다. 또한, 지속적인 모니터링 (사용자가 움직이는 동안 제스처 처리)이 가능하고, 다양한 웨어러블(wearable) 장치들 (시계, 헤드폰 등)에 내장이 가능하며, 피부에 직접 (전기) 접촉할 필요가 없으며 옷(장갑, 의상, 셔츠, 바지 등)을 통해 작동 가능한 제스처 판단을 위한 전자 장치를 제공할 수 있다. 나아가, 사용자의 신체 부위에 장착된 장치의 가능한 변위(displacement) 거리보다 큰 파장을 갖는 RF 신호를 사용하기 때문에, 제스처 인식을 위해 사용자의 밀착되게 고정할 필요가 없고, 움직임이 감지되는 사용자의 신체 부위(손, 목 등)과 관련이 없는 사용자의 다른 신체 부위의 움직임은 무시 가능하며, 사용자의 하나의 신체 부위만이 장치 제어에 사용될 수 있고, 제스처로 장치를 쉽게 제어 가능하며, 능동 부품들(센서, 안테나)을 끈 안에 넣지 않아도 되며, 적은 수의 센서(안테나)가 필요하고, 방사된 신호의 전력은 RF 신호의 관점에서 낮고 RF 신호가 신체, 뼈 등의 안에서 낮은 감쇠가 있기 때문에, 낮은 전력 소비 및 사용자에 대한 무해한 제스처 인식 장치 및 방법을 제공할 수 있다.
본 개시에서 얻을 수 있는 효과는 이상에서 언급한 효과들로 제한되지 않으며, 언급하지 않은 또 다른 효과들은 아래의 기재로부터 본 개시가 속하는 기술 분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.
도 1은 본 개시의 다양한 실시 예들에 따른 본 발명의 동작 원리를 개략적으로 도시한다.
도 2는 본 개시의 다양한 실시 예들에 따른 상이한 제스처들에 대응하는 RF(radio frequency) 신호들의 예들을 도시한다.
도 3은 본 개시의 다양한 실시 예들에 따른 RF 센서를 이용하여 제스처를 인식하는 장치의 일 실시 예를 나타내는 블록도를 도시한다.
도 4는 본 개시의 다양한 실시 예들에 따른 RF 센서를 이용하여 제스처를 인식하는 장치의 다른 실시 예를 나타내는 블록도를 도시한다.
도 5는 본 개시의 다양한 실시 예들에 따른 제스처 인식을 통해 전자 장치의 기능을 제어하는 흐름도를 도시한다.
도 6은 본 개시의 다양한 실시 예들에 따른 RF 센서를 이용하여 제스처를 인식하는 방법을 나타내는 흐름도를 도시한다.
도 7은 본 개시의 다양한 실시 예들에 따른 제스처와 관련된 기준 데이터 세트를 획득하기 위한 ANN(artificial neural network)의 학습을 나타내는 흐름도를 도시한다.
도 8은 본 개시의 다양한 실시 예들에 따른 진동 레벨에 대한 임계 값을 얻기 위한 ANN의 학습을 나타내는 흐름도를 도시한다.
첨부된 도면을 참조한 이하의 설명은 청구 범위 및 그 균등물에 의해 정의되는 본 개시의 다양한 실시 예의 포괄적인 이해를 돕기 위해 제공된다. 이해를 돕기 위한 다양한 특정 세부 사항을 포함하지만, 이들은 단지 예시적인 것으로 간주되어야 한다. 따라서, 본 기술 분야의 통상의 지식을 가진 자는 본 개시에 기재된 다양한 실시 예들의 다양한 변경 및 수정이 본 개시의 범위를 벗어나지 않고 이루어질 수 있음을 인식할 것이다. 또한, 명료성과 간결성을 위해 잘 알려진 기능 및 구성에 대한 설명은 생략될 수 있다.
다음의 상세한 설명 및 청구 범위에서 사용된 용어 및 단어는 사전적 의미에 한정되지 않고, 본 개시의 명확하고 일관된 이해를 가능하게 하기 위한 목적으로 사용된다. 따라서, 본 개시의 다양한 실시 예에 대한 이하의 설명은 단지 예시적인 설명의 목적으로만 제공된다는 것이 본 기술 분야의 통상의 지식을 가진 자에게 명백할 것이다.
단수 형태의 기재는 문맥상 명확하게 다르게 지시하지 않는 한 복수의 대상을 포함한다고 이해되어야 한다.
본 명세서에서 사용된 "포함하다", "구성하다", "구성하다" 및/또는 "포함하다"라는 용어는 명시된 특징, 정수, 동작, 구성 요소 및/또는 구성 부분이 존재함을 특정하며, 하나 이상의 다른 특징, 정수, 동작, 구성 요소, 구성 부분 및/또는 이들의 조합의 존재 또는 추가를 배제하지 않는다.
본 개시에서 사용되는 용어들은 단지 특정한 실시 예를 설명하기 위해 사용된 것으로, 다른 실시 예의 범위를 한정하려는 의도가 아닐 수 있다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함할 수 있다. 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 용어들은 본 개시에 기재된 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가질 수 있다. 본 개시에 사용된 용어들 중 일반적인 사전에 정의된 용어들은, 관련 기술의 문맥상 가지는 의미와 동일 또는 유사한 의미로 해석될 수 있으며, 본 개시에서 명백하게 정의되지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다. 경우에 따라서, 본 개시에서 정의된 용어일지라도 본 개시의 실시 예들을 배제하도록 해석될 수 없다.
이하에서 설명되는 본 개시의 다양한 실시 예들에서는 하드웨어적인 접근 방법을 예시로서 설명한다. 하지만, 본 개시의 다양한 실시 예들에서는 하드웨어와 소프트웨어를 모두 사용하는 기술을 포함하고 있으므로, 본 개시의 다양한 실시 예들이 소프트웨어 기반의 접근 방법을 제외하는 것은 아니다.
이하, 본 개시의 다양한 실시 예들은 첨부된 도면을 참조하여 상세히 설명된다. 본 개시는 전자 장치에서 사용자 제스처를 인식하기 위한 방법 및 그 전자 장치에 관한 것이다. 구체적으로, 본 개시는 전자 장치에서 사용자 편의성 증대를 위해, RF 센서를 사용하여 제스처를 인식하고, 인식된 제스처에 기반하여 전자 장치의 기능을 제어하는 기술을 설명한다.
이하 설명에서 사용되는 제어 정보를 지칭하는 용어, 장치의 구성 요소를 지칭하는 용어(예: RF(radio frequency) 센서) 등은 설명의 편의를 위해 예시된 것이다. 따라서, 본 개시가 후술되는 용어들에 한정되는 것은 아니며, 동등한 기술적 의미를 가지는 다른 용어가 사용될 수 있다.
또한, 본 개시의 다양한 실시 예들은, RF 센서를 구비한 다양한 종류의 전자 장치에서도, 용이하게 변형되어 적용될 수 있다.
본 발명은, 다양한 장치들을 제어하기 위해, 인식된 제스처에 기반하여 제어 명령을 생성하는데 사용하는 제스처를 인식하기 위한 것이다. 본 발명은, 본 개시에서 기술된 바와 같이 제스처를 인식하고, 무선 통신을 통해 다른 장치로 제어 명령을 전송하는 분리된 웨어러블(wearable) 장치로서 구현될 수 있다. 무선 통신은, 블루투스(Bluetooth), 와이파이(Wi-Fi), GSM(global system for mobile communications), 지그비(ZigBee), ISM(industrial scientific and medical) 등의 규격에서 구현될 수 있다. 또한, 본 발명은 다양한 웨어러블 장치에 내장 될 수 있으며, 본 개시가 적용된 웨어러블 장치 및 이러한 웨어러블 장치와 연결된 장치를 모두 제어하기 위해 사용될 수 있다. 웨어러블 장치는, 상기 웨어러블 장치와 연결된 장치를 제어하거나 또는 제어 대상이 되는 스마트 워치(smartwatch), 헤드셋 및 웨어러블 장치와 결합된 장치를 제어 및/또는 제어해야 하는 다른 웨어러블 장치일 수 있다.
도 1은 본 개시의 다양한 실시 예들에 따른 본 발명의 동작 원리를 개략적으로 도시한다. 도 1은 스마트 워치에서의 애플리케이션과 같은 애플리케이션의 일 예를 사용하는 본 발명의 동작 원리를 도시한다. 이하 사용되는 '…부', '…기' 등의 용어는 적어도 하나의 기능이나 동작을 처리하는 단위를 의미하며, 이는 하드웨어나 소프트웨어, 또는 하드웨어 및 소프트웨어의 결합으로 구현될 수 있다.
본 개시의 다양한 실시 예들에 따른 전자 장치는, 예를 들면, 웨어러블 장치일 수 있다. 웨어러블 장치는 액세서리형(예: 시계, 반지, 팔찌, 발찌, 목걸이, 안경, 콘택트 렌즈, 또는 머리 착용형 장치(head-mounted-device, HMD), 직물 또는 의류 일체형(예: 전자 의복), 신체 부착형(예: 스킨 패드 또는 문신), 또는 생체 이식형 회로 중 적어도 하나를 포함할 수 있다.
도 1을 참고하면, 제스처를 인식하는 장치는 스마트 워치에 내장될 수 있다. 제스처 인식 장치는 CPU(central processing unit) 110, 다수의 송신기들 122-1 내지 122-3과 ADC(analog-to-digital converter)들을 가지는 다수의 수신기들 124-1 내지 124-3 및 다수의 안테나들 126-1 내지 126-3를 포함하는 RF 센서 120를 포함한다.
송신기(Tx) 122-1은 RF 신호들을 생성하고, 생성된 RF 신호들을 제스처를 인식하는 장치가 위치되는 사용자 신체의 부위로 안테나 126-1를 통해 방사한다. 도 1의 예에서, 스마트 워치 애플리케이션에 대한 사용자 신체 부위는 손목이다. 다른 애플리케이션에서, 제스처를 인식하는 장치가 위치되는 사용자의 신체의 부위는, 예를 들어, 손, 다리, 목과 같이, 근육, 힘줄 등을 갖는 사용자의 신체의 어느 부위일 수 있다. RF 신호들은 사용자 신체 조직으로부터 반사하고, 안테나들 126-2, 126-3를 통해 수신기들(Rx) 124-2, 124-3에 의해 수신된다. 수신된 RF 신호들은 ADC(미도시)들에 의해 디지털 신호들로 변환되어 CPU 110에 입력된다. CPU 110은 제스처의 인식을 위해 디지털 신호들을 처리하고, 제스터를 인식한 결과에 기초하여 제어 명령을 생성한다.
다른 실시 예에 따라, 본 발명은 움직임(진동) 검출기(도 1에 미도시)를 선택적으로 포함할 수 있다. 움직임 검출기는 가속도계, 자기 센서, 기압계, 공간상의 미리 결정된 지점(예를 들어, 사용자 머리)과 관련하여 제스처 인식 장치의 위치를 결정하는 제스처 인식 장치의 3D 포지셔너(positioner) 중 하나 일 수 있다. 예를 들어, 스마트 워치와 같은 웨어러블 장치가 CPU 및/또는 움직임 검출기를 갖는다면, 웨어러블 장치의 CPU 및/또는 움직임 검출기는 제스처 인식 장치의 일부로서 사용될 수 있다.
도 2는 본 개시의 다양한 실시 예들에 따른 상이한 제스처들에 대응하는 RF 신호들의 예들을 도시한다. 도 2는 상이한 반사 RF 신호들이 상이한 제스처들에 대응함을 도시한다.
도 2를 참고하면, 사용자 신체 부위에 의해 수행되는 상이한 제스처들 212, 214, 216은 상기 사용자 신체 부위에서 사용자 신체 조직의 상이한 동작들을 야기한다. 상이한 반사 RF 신호들 222, 224, 226은 사용자 신체 조직의 특정 움직임에 따라 사용자 신체 부위의 상이한 동작들에 의해 야기된다. 상이한 제스처들에서 사용자 신체 조직의 상이한 동작들의 결과로서 반사된 RF 신호들 222, 224, 226은, 예컨대 송신기들에 의해 방사된 RF 신호들의 위상들과 수신기들에 의해 수신된 RF 신호들의 위상들에 관련된 감쇠(진폭의 변화) 및 위상 천이(shift)와 같은 상이한 왜곡들을 갖는다. 반사된 RF 신호들 222, 224, 226의 이러한 왜곡들은, CPU에 포함된 ANN (artificial neural network)에 의해, 인식된 제스처에 따라 제어 명령을 생성하는데 사용하는, 사용자 신체 조직의 상이한 동작들에 따른 특정 제스처로 인식된다. 기본적으로 모니터링 될 사용자 신체 조직은 힘줄이지만, 제안된 방법은 근육 등과도 동작할 수 있다.
본 발명은 보조적인 자동차 기능 제어(개방 시동 잠금 / 해제 등), 스마트 홈 제어, 스마트 조명 제어, 신원 확인(제스처 시퀀스에 의해), 손가락/손바닥 제스처 제어, 음악가의 연주 템포(tempo), 키보드 압력 속도, 목 동작 사용, 3D에서 손바닥 위치 제어, 제스처 인식 등에 적용될 수 있다. 또한, 본 발명은 다음과 같은 이점을 갖는다: 손바닥의 뒤쪽에 위치할 때, 사용자는 실제 물건을 손에 잡을 수 있다. "더러운" 손으로 (조리 등을 하는 동안) 제어할 수 있고, 낮은 계산 복잡성으로 성능 좋은 컴퓨터가 필요하지 않으며, 새로운 어플리케이션을 위한 일반적인 레이더 접근법이고, 사용자는 실제 물건을 손에 잡을 수 있다.
본 개시의 일 실시 예에 따라, 이하, RF 센서를 이용한 제스처 인식을 위한 장치의 실시 예들은 도 3 및 도 4를 참고하여 수행될 수 있다.
도 3 및 도 4는 각각 본 개시의 다양한 실시 예들에 따른 RF 센서를 이용하여 제스처를 인식하는 장치의 실시 예들을 나타내는 블록도를 도시한다. 이하 사용되는 '…부', '…기' 등의 용어는 적어도 하나의 기능이나 동작을 처리하는 단위를 의미하며, 이는 하드웨어나 소프트웨어, 또는 하드웨어 및 소프트웨어의 결합으로 구현될 수 있다.
도 3 및 도 4를 참고하면, 제스처 인식 장치는, 메모리를 포함하는 CPU 110와, 적어도 하나의 안테나 126, 적어도 하나의 송신기(Tx) 122, 적어도 하나의 수신기(Rx) 124, 및 적어도 하나의 ADC 128를 포함하는 RF 센서 120를 포함한다. 송신기 122, 수신기 124, ADC 128의 수는 각각 하나 이상일 수 있다. 안테나 126의 수는 송신기 122의 개수와 수신기 124의 개수의 합이나, 송신기 122 및 수신기 124의 쌍들의 개수에 대응할 수 있다.
실시 예들에서, 메모리 112는 CPU 110에 포함된다. 그러나, 메모리 112는 제스처 인식 장치의 별도의 유닛으로 구현될 수 있다. 메모리 112는 또한 임의의 유형의 컴퓨터 판독 가능한 저장 장치 및/또는 저장 디스크를 포함할 수 있다. 일 실시 예들에 따라, 메모리 112를 포함하는 CPU 110는 제어부를 구성할 수 있다. 제어부는 제스처 인식 장치의 전반적인 동작을 제어할 수 있다.
안테나들 101은 송신기들 122 및 수신기들 124과 연결되어 RF 신호를 송수신한다. 도 3에 도시 된 바와 같은 일 실시 예에서, 송신기들 122 각각은 하나의 안테나 126에 연결되고, 수신기들 124 각각은 다른 안테나 126에 연결된다. 도 4에 도시된 다른 실시 예에서, 송신기 122와 수신기 124의 한 쌍은 하나의 안테나 126에 연결된다.
송신기 122와 수신기 124의 한 쌍은 하나의 안테나 126에 연결되어 있는 구성을 개시하는 실시 예에서, 제스처 인식 장치는 스위치들 440을 포함하고, 스위치들 440의 개수는 송신기 122와 수신기 124의 쌍들의 수와 대응한다. 각각의 스위치 440은 스위치 440에 연결된 안테나 126을 전환한다. 각각의 스위치 440은 CPU 110에 의해 제어된다. RF 신호가 방사되어야 할 때, 스위치 440은 안테나 126을 송신기 122로 전환한다. RF 신호가 수신되어야 할 때, 스위치 440은 안테나 126을 수신기 124으로 전환한다.
각각의 송신기 122는 연속적으로 RF 신호들을 생성하고 하나의 안테나 126을 통해 사용자 신체 부위의 조직 내로 RF 신호들을 방사한다. 송신기 122는 약 1-3GHz의 저주파 대역에서 동작하거나, 또는 상기 대역에서 다른 무선 통신 표준에 따라 동작하도록 구성되고, 또한, 각각의 송신기 122는 약 3-10 GHz의 고주파 대역에서 동작하거나, 또는 상기 대역에서 임의의 다른 무선 통신 표준에 따라 동작하도록 구성된다. 따라서, 각각의 송신기 122는 상술한 저주파 대역 또는 고주파 대역에서 단일 RF 신호들의 세트 (주파수 펄스)를 방사한다. 송신기 122는 상기 세트에서 상이한 주파수들을 갖는 RF 신호들을 생성하도록 구성된다. 상기 세트에서 상이한 주파수들을 갖는 모든 RF 신호들은 단계적으로 주파수를 증가시키는 순서로 생성된다. 다른 실시 예들에서, 단일 RF 신호들은 하강 또는 임의의 다른 순서로 생성될 수 있다. RF 신호들의 세트들의 처리는 제스처를 수행하는 통상적인 시간에 비하여 짧은 시간에 수행되므로, RF 신호들의 세트들의 각각은 "단일 측정(single measurement)"으로 처리된다. 이들 세트들 각각은 주기적으로 방사되고, 기간은 CPU 110에 의해 각 세트를 처리하기에 충분히 길다. CPU 110는 송신기 122가 저주파 대역과 고주파 대역 내에서 RF 신호를 생성하도록 제어하고, RF 신호들의 주파수들은 도 3 및 도 4에 도시된 바와 같이, 주파수 제어 라인(주파수 제어)을 통해 CPU에 의해 제어된다. 측정에 있어서 고주파 대역의 적용은 제스처 인식에 대해 정확도를 향상시킬 수 있다. 송신기 122의 동작 주파수 대역으로서의 생성된 RF 신호 세트들의 주파수 대역은, 제스처 인식 장치의 동작 동안 저주파에서 고주파 대역으로 변경될 수 있다. CPU 110는 ANN의 출력 신호에 기초하여 사용자가 동작 수행을 시작하는지 또는 정지하는지를 결정할 수 있다. CPU 110가 제스처의 수행이 시작되었다고 판단한 경우, 제스처 인식의 정확도를 향상시키기 위해, CPU 110는 동작 주파수 대역을 제스처 인식 장치의 해상도를 증가시키기 위한 고주파 대역으로 전환하라는 명령을 송신기 122에 전송할 수 있다. CPU 110가 제스처의 수행이 정지되었다고 판단한 경우, 제스처 인식 장치의 에너지 절약을 위해, CPU 110는 동작 주파수 대역을 저주파 대역으로 전환하라는 명령을 송신기 122에 전송할 수 있다. 동작 주파수 대역은 무선 주파수 규격, RF 신호들의 낮은 감쇠를 제공하는 인간의 신체 조직의 특성 및 제스처 인식을 위한 최고의 해상도에 기초하여 제조사에 의해 정의될 수 있다.
일 실시 예에 따라, CPU 110는, 제스처 인식 장치의 배터리 상태, 실행 중인 어플리케이션 또는 컨텐츠 중 적어도 하나에 기반하여 동작 주파수 대역을 제어할 수 있다. 예를 들어, 제스처 인식 장치의 배터리 상태가 일정 수준 이하이거나, 배터리 소모가 많은 어플리케이션 또는 컨텐츠를 실행 중인 경우, 제스처 인식 장치는 동작 주파수 대역을 저주파 대역으로 전환 시킬 수 있다. 또한, 제스처 인식 장치의 배터리 상태가 일정 수준 이상이거나 정밀한 제스처 인식이 필요한 상황 중 적어도 하나의 경우, 제스처 인식 장치는 동작 주파수 대역을 고주파 대역으로 전환 시킬 수 있다.
방사된 RF 신호들은 사용자 신체 부위의 조직으로부터 반사된다. 이와 동시에, 사용자 신체 부위의 조직은 RF 신호들을 왜곡한다. 수신된 RF 신호의 왜곡이란, RF 신호의 감쇠(진폭의 변화) 및 위상 천이를 의미한다. 각각의 수신기 124은 사용자 신체 부위의 조직으로부터 반사되고 왜곡된 RF 신호들을 수신한다. 또한, 수신기 124은 RF 신호들의 각 세트에서 수신된 각각의 RF 신호를 제1 RF 신호와 제2 RF 신호로 분리한다. 제 1 RF 신호는 진폭을 나타내고, 제 2 RF 신호는 위상 천이를 나타낸다.
각 ADC 128는 각 수신기 124에 연결된다. CPU 110에 제공되는 디지털 신호 세트를 획득하기 위해, ADC 128는 RF 신호들의 각각의 세트에서 제1 RF 신호들 및 제2 RF 신호들을 디지털 신호들로 변환한다. 디지털 신호들의 각 세트는 대응하는 RF 신호들의 세트로부터 얻어 진다.
CPU 110는 전체 측정 과정을 제어한다. CPU 110는 송신기 122로 RF 신호들의 세트를 생성하기 위한 명령을 전송하고, 수신기 124으로부터 측정 결과를 디지털 신호로 읽는다. CPU 110는, CPU 110에 포함된 메모리 112에 저장되어 있는 ANN을 실행한다. CPU 110 제스처를 인식하기 위해 ANN 및 기준 데이터 세트들을 이용하여 디지털 신호들의 세트들을 처리하도록 구성된다. 기준 데이터 세트들은 제스처를 인식기 위한 ANN의 학습 중에 수득되는 ANN의 파라미터들(parameters)이다. 각 참조 데이터 세트는 특정 제스처와 연관되어 있으며, 특정 제스처를 인식하기 위해 ANN을 학습하면서 형성된다. 또한, CPU 110는 제스처가 완전히 인식되기 전에 0이 아닌 값으로서 ANN의 출력에 기반하여, 사용자 신체 부위가 제스처를 수행한 것으로 판단할 수 있다. ANN의 학습 및 테스트와 같은 ANN의 이러한 동작들은 선행 기술에서 잘 알려져 있으며, 상세한 설명은 불필요하다.
다른 실시 예에서, 제스처 인식 장치는 도 4에 도시된 바와 같은 움직임 검출기 430를 선택적으로 포함할 수 있다. 움직임 검출기 430은 가속도계, 자기 센서, 기압계, 공간상의 미리 결정된 지점(예를 들어, 사용자 머리)에 대한 제스처 인식 장치의 위치를 결정하는 제스처 인식 장치의 3D 포지셔너 중 어느 하나일 수 있다.
제스처 인식 장치를 이용하여, 사용자는 걷기, 달리기, 자동자 운전 등과 같은 특정 동작들을 수행할 수 있다. 사용자의 신체의 과도한 진동 레벨은 제스처 인식의 정확도에 영향을 미칠 수 있다. 도 4에 도시된 실시 예에서, 움직임 검출기 430은 제스처 인식을 위한 장치가 고정되는 사용자의 신체 부위의 진동 레벨을 측정하기 위해 제공된다. 측정된 진동 레벨은 CPU 110에 제공된다. ANN을 이용하여, CPU 110는 측정된 진동 레벨을 미리 ANN의 학습에 의해 획득되고 메모리 112에 저장된 임계 값과 비교한다. 송신기 122의 동작 주파수 대역은 진동 레벨 변화로 인해 변경될 수 있다. 송신기 122가 고주파 대역 내에서 RF 신호들의 세트들을 생성할 때, 진동 레벨이 임계 값을 초과하면, CPU 110는 과도한 진동의 영향을 억제하기 위해 저주파 대역 내에서 RF 신호를 생성하도록 송신기 122를 전환한다. 송신기 122가 저주파 대역 내에서 RF 신호들의 세트들을 생성하고 CPU 110가 사용자의 신체 부위가 제스처를 수행하는 것으로 판단하는 경우, 저주파 대역 내에서 RF 신호들의 생성을 계속한다.
제스처 인식 장치는 별도의 장치 또는 스마트 워치, 헤드폰, 및 웨어러블 장치와 연결되는 장치를 제어하거나 제어되는 다른 웨어러블 장치 같은 웨어러블 장치에 내장되어 있는 장치일 수 있다. 제스처 인식 장치가 내장되어 있는 웨어러블 장치가 CPU 및/또는 움직임 검출기를 가지는 경우, 상기 CPU 및/또는 웨어러블 장치의 움직임 검출기는 각각 제스처 인식 장치의 CPU 110 및/또는 움직임 검출기 430으로서 사용될 수 있다.
특정 제스처와 연관된 기준 데이터 세트들을 획득하기 위해, CPU 110의 메모리 112에 저장된 ANN의 학습이 수행된다. 사용자의 신체 부위가 특정 제스처를 수행하는 때, ANN의 학습에서, 각각의 송신기 122는 RF 신호들의 세트를 생성하고, 적어도 하나의 안테나 126을 통해 사용자의 신체 부위의 조직으로 RF 신호들의 세트를 방사한다. 각각의 수신기 124는 안테나 126을 통해 사용자의 신체 부위의 조직으로부터 반사되고 상기 조직에 의해 왜곡된 RF 신호들의 세트를 수신하고, 각각의 수신된 RF 신호를 제1 RF 신호와 제2 RF 신호로 분리한다. 제 1 RF 신호는 진폭을 나타내고, 제 2 RF 신호는 위상 천이를 나타낸다. 각 ADC 128는 제 1 RF 신호들과 제 2 RF 신호들 각각을 디지털 신호들의 세트를 얻기 위해 디지털 신호들로 변환한다. 디지털 신호들의 세트는 RF 신호들의 세트로부터 얻어진다. CPU 110는, ANN을 이용하여, 제스처와 연관된 기준 데이터 세트를 얻기 위해 디지털 신호들의 세트를 처리하고, 기준 데이터 세트를 메모리 112에 저장한다. ANN의 학습은 복수 개의 제스처들의 각 제스처를 위해 반복적으로 수행되고, 기준 데이터 세트는 각 제스처에 대해 얻어진다.
상기 진동 레벨에 대한 임계 값을 획득하기 위해, ANN의 학습이 수행된다. 사용자의 신체 부위가 제스처를 수행할 때, 사용자의 신체 부위의 진동 레벨은 움직임 검출기 430에 의해 측정된다. 측정된 진동 레벨은 CPU 110로 보내진다. CPU 110는 측정된 진동 레벨들 중 최대 진동 레벨을 선택하고, 최대 진동 레벨을 임계 값으로 할당하며, 임계 값을 메모리 112에 저장한다.
제스처 인식 장치는 RF 신호들이 방사되는 사용자의 신체 부위의 측면에서 반대되는 사용자의 신체 부위의 측면에 배치된 반사기를 더 포함 할 수 있다. 반사기는 사용자 신체 부위의 조직으로 방사되고, 수신기 124에 의해 수신되는 반사된 RF 신호의 강도를 증가 시키기 위해 사용자 신체 부위를 통과하는 RF 신호들을 반사하기 위해 제공된다. 반사기는 금속 플레이트로 이루어질 수 있다. 반사기는 제스처 인식 장치를 사용자 신체 부위에 고정하는 제스처 인식 장치의 고정 수단에 부착된다. 상기 고정 수단은 제스처 인식 장치를 사용자 신체 부위에 고정하기 에 적합한 임의의 수단일 수 있다.
일 실시 예들에 따라, 제스처 인식 장치는, 적어도 하나의 안테나 126, 적어도 하나의 송신기 122, 적어도 하나의 수신기 124 및 적어도 하나의 ADC를 포함하는 RF 센서부, CPU 110를 포함하는 제어부를 포함할 수 있다.도 3 및 도 4에 도시되지는 않았으나, 제스처 인식 장치는 다른 장치와 통신을 수행하기 위한 통신부를 더 포함할 수 있다. 통신부는 무선 채널을 통해 신호를 송수신하기 위한 기능들을 수행한다. 예를 들어, 통신부는 시스템의 물리 계층 규격에 따라 기저대역 신호 및 비트열 간 변환 기능을 수행한다. 또한, 통신부는 서로 다른 주파수 대역의 신호들을 처리하기 위해 서로 다른 통신 모듈들을 포함할 수 있다. 예를 들어, 서로 다른 통신 규격들은 블루투스 저 에너지(bluetooth low energy, BLE), Wi-Fi(Wireless Fidelity), WiGig(WiFi Gigabyte), 셀룰러 망(예: LTE(Long Term Evolution) 등을 포함할 수 있다. 통신부는 신호를 송신 및 수신하므로, 송신부, 수신부 또는 송수신부로 지칭될 수 있다.
도 5는 본 개시의 다양한 실시 예들에 따른 제스처 인식을 통해 전자 장치의 기능을 제어하는 흐름도를 도시한다. 도 5는 도 3 내지 4의 제스처 인식 장치의 동작 방법을 예시한다.
도 5를 참고하면, 501 단계에서, 제스처 인식 장치는 RF 센서를 통해 신호의 변화를 감지할 수 있다. 예를 들어, 제스처 인식 장치는 RF 신호를 신체 내부로 방사하고, 반사되는 RF 신호를 수신을 반복하면서, 반사되는 RF 신호 파형의 변화를 감지할 수 있다. 특히, 제스처 인식 장치는 반사되는 RF 신호의 진폭 및 위상 중 적어도 하나의 변화를 감지할 수 있다. 일 실시 예에 따라, 제스처 인식 장치는 사용자 신체로 적어도 하나의 RF 신호를 전송하고, 사용자 신체로부터 반사된 상기 적어도 하나의 RF 신호를 수신한 후, 반사된 적어도 하나의 RF 신호를 진폭을 나타내는 제 1 RF 신호와, 위상을 나타내는 제 2 RF 신호로 분리할 수 있다. 제스처 인식 장치는 제 1 RF 신호와 제 2 RF 신호를 디지털 신호로 변환하여 일정 임계 값 이상 변경이 있는 경우 RF 신호의 변화로 감지할 수 있다. 즉, 제스처 인식 장치는 변환된 디지털 신호가 이전 값 대비 일정 이상 변경된 경우 제스처가 발생한 것으로 판단하고, 미리 특정된 제스처가 실행되었는지 판단하는 단계로 진행할 수 있다.
503 단계에서, 제스처 인식 장치는 기준 데이터에 기반하여 제스처를 판단한다. 예를 들어, 제스처 인식 장치는 다수의 반사된 RF 신호 파형을 수집하여 RF 신호의 진폭 감쇠 및 위상의 변화를 판단할 수 있다. 일 실시 예에 따라, 움직임 검출기 430에 의해 진동 레벨이 임계 값 이상인 것으로 판단되는 경우 내부 진동이 있는 것으로 판단할 수 있다. 진동 레벨이 일정 수준 이상인 경우 제스처 판단에 영향을 미칠 수 있으므로, 제스처 인식 장치는 과도한 진동의 영향을 억제하기 위해 저주파 대역으로 RF 신호 생성 주파수 대역을 변경할 수 있다. 이 후, 제스처 인식 장치는 다시 501 단계를 수행할 수 있다. 다른 실시 예에 따라, 움직임 검출기 430에 의해 진동 레벨이 임계 값보다 작은 것으로 판단되는 경우, 제스처 인식 장치는 수집된 RF 신호를 이용하여 제스처를 판단할 수 있다. 제스처 인식 장치는 수집된 RF 신호를 ANN 기법의 입력으로 하여 미리 수집된 기준 데이터 세트와 비교를 통해 제스처를 판단할 수 있다. 일 실시 예에 따라, 기준 데이터 세트는 제스처 인식 장치에 의해 후술하는 도 7과 같이 획득될 수 있으며, 진동 레벨을 판단하는 임계 값은 도 8과 같이 획득될 수 있다.
505 단계에서, 전자 장치는 제스처에 대응하는 전자 장치의 기능을 실행한다. 예를 들어, 전자 장치는 인식된 제스처에 기반하여 미리 정의된 전자 장치의 기능 실행을 제어할 수 있다. 여기서, 일 실시 예에 따라, 전자 장치는 제스처 인식 장치와 동일한 웨어러블 장치일 수 있다. 다른 실시 예에 따라, 전자 장치는 제스처 인식 장치와 별도의 장치일 수 있으며, 제스처 인식 장치와의 유/무선 통신을 통해 인식된 제스처에 대한 정보를 수신하고, 수신된 제스처에 대한 정보에 기반하여 전자 장치의 기능을 제어할 수 있다.
도 6은 본 개시의 다양한 실시 예들에 따른 RF 센서를 이용하여 제스처를 인식하는 방법을 나타내는 흐름도를 도시한다. 도 6은 도 3 내지 4의 제스처 인식 장치의 동작 방법을 예시한다. 제스처 인식 장치에서 구현될 수 있는 RF 센서를 이용하여 제스처를 인식하기 위해 제안된 방법은 도 6 내지 7을 참조하여 설명된다.
도 6을 참고하면, 단계 601에서, 적어도 하나의 송신기 122는 RF 신호들의 세트들을 연속적으로 생성하고, 적어도 하나의 안테나 126을 통해 사용자 신체 부위의 조직으로 RF 신호들의 세트들을 연속적으로 방사한다. RF 신호들의 세트들을 생성하는 단계는 세트에서 서로 다른 주파수들을 갖는 RF 신호들을 생성하는 단계를 포함할 수 있다. RF 신호들의 세트들을 생성하는 단계는 저주파 대역과 고주파 대역 내에서 RF 신호들의 세트들을 생성하는 단계를 포함할 수 있다.
단계 603에서, 적어도 하나의 수신기 124은 사용자 신체 부위의 조직으로부터 반사되고, 상기 조직에 의해 왜곡된RF 신호들의 세트들을 적어도 하나의 안테나 126을 통해 수신한다.
단계 605에서, 적어도 하나의 수신기 124은 각각의 수신된 RF 신호를 제1 RF 신호와 제2 RF 신호로 분리한다. 이때, 제1 RF 신호는 진폭을 나타내고 제2 RF 신호는 위상 천이를 나타낸다.
단계 607에서, 적어도 하나의 ADC 128는 디지털 신호들의 세트들을 획득하기 위해, RF 신호들의 각 세트에서 제1 RF 신호들과 제2 RF 신호들 각각을 디지털 신호들로 변환한다.
단계 609에서, CPU 110는 제스처를 인식하기 위해, ANN 및 기준 데이터 세트들을 이용하여 디지털 신호들의 세트들을 처리한다. 각각의 기준 데이터 세트는 특정 제스처와 연관되고, ANN의 학습에 의해 얻어진다.
상기 방법은, 상기 디지털 신호들이 저주파 대역 내에서 생성된 RF 신호들의 세트들로부터 획득되고, CPU가 제스처를 인식하기 위해 ANN 및 기준 데이터 세트들을 이용하여 디지털 신호 세트들을 처리하며, ANN은 제스처가 완전히 인식되기 전에 0이 아닌 값을 출력하는 때, 사용자의 신체 부위가 제스처를 수행하는 것으로 결정하는 단계, 및 고주파 대역 내에서 RF 신호들을 생성하기 위해 적어도 하나의 송신기를 전환하는 단계를 포함한다.
제스처 인식 장치가 움직임 검출기 430를 더 포함하는 경우, 상기 방법은 다음의 단계들을 더 포함 할 수 있다. 하나의 추가 단계에서, 움직임 검출기 430은 사용자 신체 부위의 진동 레벨을 측정한다. 제스처 인식 장치의 제어부는, 움직임 검출기 430을 이용하여 사용자 신체 부위의 진동 레벨 측정을 제어할 수 잇다. 다른 추가 단계에서, ANN을 이용한 CPU 110는 상기 진동 레벨을 임계 값과 비교한다. 임계 값은 ANN의 학습에 의해 얻어진다. 다른 추가 단계에서, 진동 레벨이 임계 값을 초과하는 경우, RF 신호들의 세트들이 고주파 대역 내에서 생성된 때, CPU 110는 적어도 하나의 송신기 122가 저주파 대역 내에서 RF 신호들을 생성하도록 전환한다. 다른 추가 단계에서, 진동 레벨이 임계 값을 초과하는 경우, RF 신호들의 세트들이 저주파 대역 내에서 생성되고 사용자 신체 부위가 제스처를 수행하는 것으로 결정된 때, CPU 110는 적어도 하나의 송신기 122가 저주파 대역 내에서 RF 신호들의 생성을 계속하도록 만든다.
제스처 인식 장치가 송신기 122 및 수신기 124의 쌍을 위한 하나의 안테나 126과, 안테나 126을 송신기 122 및 수신기 124 사이에서 전환하기 위한 스위치 440을 포함하는 경우, 상기 방법은 다음의 단계들을 더 포함할 수 있다. 하나의 추가 단계에서, RF 신호를 방사하는 때, 스위치 440은 안테나 126을 송신기 122로 전환한다. 하나의 추가 단계에서, 사용자 신체 부위의 조직으로부터 반사되고 왜곡된 RF 신호가 수신되는 때, 스위치 440은 안테나 126을 수신기 124에 연결한다.
도 7은 본 개시의 다양한 실시 예들에 따른 제스처와 관련된 기준 데이터 세트를 획득하기 위한 ANN의 학습을 나타내는 흐름도를 도시한다. 도 7은 도 3 내지 4의 제스처 인식 장치의 동작 방법을 예시한다. 제스처와 연관된 기준 데이터 세트를 획득하기 위한 ANN의 학습은 도 7을 참조하여 설명된다. ANN의 학습은 복수 개의 제스처들의 각 제스처를 위해 수행되고, 기준 데이터 세트는 각 제스처에 대해 얻어진다.
도 7을 참고하면, 단계 701에서, 사용자 신체 부위가 제스처를 수행하는 때, 적어도 하나의 송신기 122는 RF 신호들의 세트를 생성하고, 적어도 하나의 안테나 126을 통해 사용자 신체 부위의 조직 내로 방사한다.
단계 703에서, 적어도 하나의 수신기 124은 사용자의 신체 부위의 조직에 의해 반사되어 왜곡된 RF 신호들의 세트를 적어도 하나의 안테나 126을 통해 수신한다.
단계 705에서, 적어도 하나의 수신기 124은 수신된 각각의 RF 신호를 제 1 RF 신호와 제 2 RF 신호로 분리한다. 여기서, 상기 제 1 RF 신호는 진폭을 나타내고, 상기 제 2 RF 신호는 위상 천이를 나타낸다.
단계 707에서, 적어도 하나의 ADC는 디지털 신호들의 세트를 얻기 위해, 제 1 RF 신호들과 제 2 RF 신호들 각각을 디지털 신호로 변환한다. 디지털 신호들의 세트는 RF 신호들의 세트로부터 얻어진다.
단계 709에서, CPU 110는 제스처와 연관된 기준 데이터 세트를 획득하기 위해, ANN에 의해 디지털 신호들의 세트를 처리한다. 예를 들어, CPU 110는 단계 707에서 얻어진 디지털 신호들의 세트를 ANN 기법에 의해 처리하여, 특정 제스처에 대한 기준 데이터 세트를 획득할 수 있다.
단계 711에서, CPU 110는 메모리에 기준 데이터 세트를 저장한다. 즉, CPU 110는 단계 709에서 획득된 기준 데이터 세트를 메모리에 저장한다. 이 후, 저장된 기준 데이터 세트에 기반하여, CPU 110는 반사된 RF 신호 패턴에 대한 제스처를 판단할 수 있다.
도 8은 본 개시의 다양한 실시 예들에 따른 진동 레벨에 대한 임계 값을 얻기 위한 ANN의 학습을 나타내는 흐름도를 도시한다. 도 8은 도 3 내지 4의 제스처 인식 장치의 동작 방법을 예시한다. 진동 레벨에 대한 임계 값을 얻기 위한 ANN의 학습은 도 8을 참고하여 설명된다.
도 8을 참고하면, 단계 801에서, 움직임 검출기 430은, 사용자 신체 부위가 동작을 수행하는 때, 상기 사용자 신체 부위의 진동 레벨을 측정한다. 예를 들어, 움직임 검출기 430은 사용자 신체 부위의 움직임이 감지되는 때, 사용자 신체 부위의 진동 레벨들을 측정할 수 있다. 이 때, 움직임 검출기 430은 가속도계, 자기 센서, 기압계, 3D 포지셔너 중 적어도 하나일 수 있다.
단계 803에서, CPU 110는 측정된 진동 레벨들 중 최대 진동 레벨을 선택한다. 즉, CPU는 단계 801에서 측정된 진동 레벨들 중 가장 큰 값의 진동 레벨을 결정할 수 있다.
단계 805에서, CPU 110는 최대 진동 레벨을 임계 값으로 할당한다. CPU 110는 단계 803에서 선택된 최대 진동 레벨을 주파수 대역을 변경하기 위한 판단의 임계 값으로 할당할 수 있다.
단계 807에서, CPU 110는 메모리에 임계 값을 저장한다. 즉, CPU 110는 단계 805에서 할당된 임계 값을 메모리에 저장한다. 이 후, 저장된 임계 값에 기반하여, CPU 110는 진동 레벨이 일정 수준 이상인 경우 주파수 대역을 저주파 대역으로 변경할 지 판단할 수 있다.
제스처와 연관된 기준 데이터 세트를 획득하기 위한 ANN의 학습과, 임계 값을 얻기 위한 ANN의 학습은 개별적으로 또는 단일 학습 처리로 수행될 수 있다.
본 발명의 실시 형태에 대한 상기 설명은 예시에 불과하고, 현재 발명의 범위 내에서 구성 및 구현에 변경이 가능하다. 예를 들어, 본 발명의 실시 예는 일반적으로 도면 1-8과 관련하여 기술되나, 이러한 설명은 예시적이다. 발명의 구조적 특징 또는 방법적 실행에 대한 특정한 언어로 설명되었지만, 첨부 된 청구 범위에서 정의 된 발명의 범위가 반드시 상술한 특정한 특징 또는 작용으로 제한되는 것은 아니다. 오히려, 상술한 특정한 특징 및 작용은 특허 청구 범위를 구현하는 예시적인 형태로서 기재된다. 또한, 본 발명은 방법 단계들의 도시된 순서에 의해 제한되지 않으며, 별다른 노력 없이 당해 기술 분야의 통상의 지식을 가진 자에 의해 변형될 수 있다. 방법 단계들 중 일부 또는 전부는 순차적으로 또는 동시에 수행될 수 있다.
따라서, 본 발명의 실시 예의 범위는 다음의 청구 범위에 의해서만 제한되도록 의도된다.
본 개시의 청구항 또는 명세서에 기재된 실시 예들에 따른 방법들은 하드웨어, 소프트웨어, 또는 하드웨어와 소프트웨어의 조합의 형태로 구현될(implemented) 수 있다.
소프트웨어로 구현하는 경우, 하나 이상의 프로그램(소프트웨어 모듈)을 저장하는 컴퓨터 판독 가능 저장 매체가 제공될 수 있다. 컴퓨터 판독 가능 저장 매체에 저장되는 하나 이상의 프로그램은, 전자 장치(device) 내의 하나 이상의 프로세서에 의해 실행 가능하도록 구성된다(configured for execution). 하나 이상의 프로그램은, 전자 장치로 하여금 본 개시의 청구항 또는 명세서에 기재된 실시 예들에 따른 방법들을 실행하게 하는 명령어(instructions)를 포함한다.
이러한 프로그램(소프트웨어 모듈, 소프트웨어)은 랜덤 액세스 메모리 (random access memory), 플래시(flash) 메모리를 포함하는 불휘발성(non-volatile) 메모리, 롬(ROM: Read Only Memory), 전기적 삭제가능 프로그램가능 롬(EEPROM: Electrically Erasable Programmable Read Only Memory), 자기 디스크 저장 장치(magnetic disc storage device), 컴팩트 디스크 롬(CD-ROM: Compact Disc-ROM), 디지털 다목적 디스크(DVDs: Digital Versatile Discs) 또는 다른 형태의 광학 저장 장치, 마그네틱 카세트(magnetic cassette)에 저장될 수 있다. 또는, 이들의 일부 또는 전부의 조합으로 구성된 메모리에 저장될 수 있다. 또한, 각각의 구성 메모리는 다수 개 포함될 수도 있다.
또한, 프로그램은 인터넷(Internet), 인트라넷(Intranet), LAN(Local Area Network), WLAN(Wide LAN), 또는 SAN(Storage Area Network)과 같은 통신 네트워크, 또는 이들의 조합으로 구성된 통신 네트워크를 통하여 접근(access)할 수 있는 부착 가능한(attachable) 저장 장치(storage device)에 저장될 수 있다. 이러한 저장 장치는 외부 포트를 통하여 본 개시의 실시 예를 수행하는 장치에 접속할 수 있다. 또한, 통신 네트워크상의 별도의 저장장치가 본 개시의 실시 예를 수행하는 장치에 접속할 수도 있다.
상술한 본 개시의 구체적인 실시 예들에서, 개시에 포함되는 구성 요소는 제시된 구체적인 실시 예에 따라 단수 또는 복수로 표현되었다. 그러나, 단수 또는 복수의 표현은 설명의 편의를 위해 제시한 상황에 적합하게 선택된 것으로서, 본 개시가 단수 또는 복수의 구성 요소에 제한되는 것은 아니며, 복수로 표현된 구성 요소라 하더라도 단수로 구성되거나, 단수로 표현된 구성 요소라 하더라도 복수로 구성될 수 있다.
한편 본 개시의 상세한 설명에서는 구체적인 실시 예에 관해 설명하였으나, 본 개시의 범위에서 벗어나지 않는 한도 내에서 여러 가지 변형이 가능함은 물론이다. 그러므로 본 개시의 범위는 설명된 실시 예에 국한되어 정해져서는 아니 되며 후술하는 특허청구의 범위뿐만 아니라 이 특허청구의 범위와 균등한 것들에 의해 정해져야 한다.

Claims (20)

  1. 전자 장치의 동작 방법에 있어서,
    RF(radio frequency) 센서를 이용하여 사용자 신체를 향해 방사된 RF 신호의 변화를 감지하는 과정과,
    제스처(gesture) 별 기준 데이터에 기반하여, 상기 RF 신호에 대응하는 제스처를 결정하는 과정과,
    상기 결정된 제스처에 대응하는 상기 전자 장치의 기능을 실행하는 과정을 포함하는 방법.
  2. 청구항 1에 있어서,
    상기 사용자 신체로부터 반사된 RF 신호들에 기반하여 상기 제스처 별 기준 데이터를 결정하는 과정을 더 포함하는 방법.
  3. 청구항 2에 있어서,
    상기 제스처 별 기준 데이터를 결정하는 과정은,
    상기 전자 장치의 사용자가 특정 제스처를 수행하는 동안, 상기 사용자 신체로 적어도 하나의 RF 신호를 전송하는 과정과,
    상기 사용자 신체로부터 반사된 상기 적어도 하나의 RF 신호를 수신하는 과정과,
    상기 반사된 적어도 하나의 RF 신호에 기반하여, 상기 특정 제스처에 대한 기준 데이터를 결정하는 과정을 포함하는 방법.
  4. 청구항 3에 있어서,
    상기 반사된 적어도 하나의 RF 신호에 기반하여, 상기 특정 제스처에 대한 기준 데이터를 결정하는 과정은,
    상기 반사된 적어도 하나의 RF 신호를 진폭을 나타내는 제 1 RF 신호와, 위상을 나타내는 제 2 RF 신호로 분리하는 과정과,
    상기 제 1 RF 신호 및 상기 제 2 RF 신호를 디지털 신호들로 변환하는 과정과,
    상기 디지털 신호들을 ANN(artificial neural network) 학습에 기반하여 처리하여 상기 특정 제스처에 대한 기준 데이터를 결정하는 과정을 포함하는 방법.
  5. 청구항 1에 있어서,
    상기 RF(radio frequency) 센서를 이용하여 RF 신호의 변화를 감지하는 과정은,
    상기 사용자 신체로 상기 RF 신호를 전송하는 과정과,
    상기 사용자 신체로부터 반사된 상기 RF 신호를 수신하는 과정과,
    상기 반사된 RF 신호와 이전에 수집된 RF 신호의 비교에 기반하여, 상기 RF 신호의 변화를 감지하는 과정을 포함하는 방법.
  6. 청구항 5에 있어서,
    상기 RF 신호에 대응하는 제스처를 결정하는 과정은,
    상기 반사된 RF 신호를 진폭을 나타내는 제 1 RF 신호와, 위상을 나타내는 제 2 RF 신호로 분리하는 과정과,
    상기 제 1 RF 신호 및 상기 제 2 RF 신호를 디지털 신호들로 변환하는 과정과,
    상기 디지털 신호들을 ANN 학습에 기반하여 처리하여 대응하는 제스처를 결정하는 과정을 포함하는 방법.
  7. 청구항 1에 있어서,
    적어도 하나의 센서를 이용하여, 상기 사용자 신체의 진동 레벨을 측정하는 과정과,
    상기 측정된 진동 레벨이 미리 설정된 임계 값 이상인지 판단하는 과정을 더 포함하는 방법.
  8. 청구항 7에 있어서,
    상기 전자 장치의 사용자가 제스처를 수행할 때, 상기 사용자 신체의 진동 레벨들을 측정하는 과정과,
    상기 측정된 진동 레벨들 중 최대 진동 레벨을 선택하는 과정과,
    상기 최대 진동 레벨을 상기 임계 값으로 설정하는 과정을 더 포함하는 방법.
  9. 청구항 7에 있어서,
    상기 측정된 진동 레벨이 상기 임계 값보다 크고 상기 RF 센서의 동작 주파수가 고주파 대역인 경우, 상기 RF 센서의 동작 주파수 대역을 저주파 대역으로 변환하는 과정을 더 포함하는 방법.
  10. 청구항 7에 있어서,
    상기 측정된 진동 레벨이 상기 임계 값보다 작은 경우, 상기 RF 센서의 동작 주파수를 유지하는 과정을 더 포함하는 방법.
  11. 전자 장치에 있어서,
    RF(radio frequency) 센서와,
    상기 RF 센서와 기능적으로 연결된 적어도 하나의 프로세서를 포함하고,
    상기 적어도 하나의 프로세서는,
    상기 RF 센서를 이용하여 사용자 신체를 향해 방사된 RF 신호의 변화를 감지하고,
    제스처(gesture) 별 기준 데이터에 기반하여, 상기 RF 신호에 대응하는 제스처를 결정하고,
    상기 결정된 제스처에 대응하는 상기 전자 장치의 기능을 실행하는 전자 장치.
  12. 청구항 11에 있어서,
    상기 적어도 하나의 프로세서는,
    상기 사용자 신체로부터 반사된 RF 신호들에 기반하여 상기 제스처 별 기준 데이터를 결정하는 전자 장치.
  13. 청구항 12에 있어서,
    상기 RF 센서부는,
    상기 전자 장치의 사용자가 특정 제스처를 수행하는 동안, 상기 사용자 신체로 적어도 하나의 RF 신호를 전송하고,
    상기 사용자 신체로부터 반사된 상기 적어도 하나의 RF 신호를 수신하고,
    상기 적어도 하나의 프로세서는,
    상기 반사된 적어도 하나의 RF 신호에 기반하여, 상기 특정 제스처에 대한 기준 데이터를 결정하는 전자 장치.
  14. 청구항 13에 있어서,
    상기 적어도 하나의 프로세서는,
    상기 반사된 적어도 하나의 RF 신호를 진폭을 나타내는 제 1 RF 신호와, 위상을 나타내는 제 2 RF 신호로 분리하고,
    상기 제 1 RF 신호 및 상기 제 2 RF 신호를 디지털 신호들로 변환하고,
    상기 디지털 신호들을 ANN(artificial neural network) 학습에 기반하여 처리하여 상기 특정 제스처에 대한 기준 데이터를 결정하는 전자 장치.
  15. 청구항 11에 있어서,
    상기 RF 센서부는,
    상기 사용자 신체로 상기 RF 신호를 전송하고,
    상기 사용자 신체로부터 반사된 상기 RF 신호를 수신하고,
    상기 반사된 RF 신호와 이전에 수집된 RF 신호의 비교에 기반하여, 상기 RF 신호의 변화를 감지하는 전자 장치.
  16. 청구항 15에 있어서,
    상기 적어도 하나의 프로세서는,
    상기 반사된 RF 신호를 진폭을 나타내는 제 1 RF 신호와, 위상을 나타내는 제 2 RF 신호로 분리하고,
    상기 제 1 RF 신호 및 상기 제 2 RF 신호를 디지털 신호들로 변환하고,
    상기 디지털 신호들을 ANN 학습에 기반하여 처리하여 대응하는 제스처를 결정하는 전자 장치.
  17. 청구항 11에 있어서,
    상기 적어도 하나의 프로세서는,
    적어도 하나의 센서를 이용하여, 상기 사용자 신체의 진동 레벨을 측정하고,
    상기 측정된 진동 레벨이 미리 설정된 임계 값 이상인지 판단하는 전자 장치.
  18. 청구항 17에 있어서,
    상기 적어도 하나의 프로세서는,
    상기 전자 장치의 사용자가 제스처를 수행할 때, 상기 사용자 신체의 진동 레벨들을 측정하고,
    상기 측정된 진동 레벨들 중 최대 진동 레벨을 선택하고,
    상기 최대 진동 레벨을 상기 임계 값으로 설정하는 전자 장치.
  19. 청구항 17에 있어서,
    상기 적어도 하나의 프로세서는,
    상기 측정된 진동 레벨이 상기 임계 값보다 크고 상기 RF 센서의 동작 주파수가 고주파 대역인 경우, 상기 RF 센서의 동작 주파수 대역을 저주파 대역으로 변환하는 전자 장치.
  20. 청구항 17에 있어서,
    상기 적어도 하나의 프로세서는,
    상기 측정된 진동 레벨이 상기 임계 값보다 작은 경우, 상기 RF 센서의 동작 주파수를 유지하는 전자 장치.
KR1020180009832A 2017-03-02 2018-01-26 제스처를 인식하기 위한 방법 및 그 전자 장치 KR102500128B1 (ko)

Priority Applications (3)

Application Number Priority Date Filing Date Title
US15/892,800 US10684693B2 (en) 2017-03-02 2018-02-09 Method for recognizing a gesture and an electronic device thereof
PCT/KR2018/001786 WO2018159949A1 (en) 2017-03-02 2018-02-12 Method for recognizing a gesture and an electronic device thereof
EP18760487.1A EP3577544B1 (en) 2017-03-02 2018-02-12 Method for recognizing a gesture and an electronic device thereof

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
RU2017106851 2017-03-02
RU2017106851A RU2641269C1 (ru) 2017-03-02 2017-03-02 Устройство и способ для распознавания жестов с использованием радиочастотного датчика

Publications (2)

Publication Number Publication Date
KR20180101171A true KR20180101171A (ko) 2018-09-12
KR102500128B1 KR102500128B1 (ko) 2023-02-15

Family

ID=63593138

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020180009832A KR102500128B1 (ko) 2017-03-02 2018-01-26 제스처를 인식하기 위한 방법 및 그 전자 장치

Country Status (3)

Country Link
EP (1) EP3577544B1 (ko)
KR (1) KR102500128B1 (ko)
RU (1) RU2641269C1 (ko)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102107685B1 (ko) * 2019-10-11 2020-05-07 주식회사 에이치랩 신호 검출 및 인식을 위한 장치 및 방법
WO2020145431A1 (ko) * 2019-01-09 2020-07-16 엘지전자 주식회사 Rf 신호를 이용한 사용자 제스쳐 결정 방법 및 이를 위한 장치
KR20210068768A (ko) * 2019-12-02 2021-06-10 주식회사 알체라 제스처 인식을 통한 디바이스 제어 방법 및 장치

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10944440B2 (en) 2018-04-11 2021-03-09 Booz Allen Hamilton Inc. System and method of processing a radio frequency signal with a neural network
RU2737231C1 (ru) * 2020-03-27 2020-11-26 Федеральное государственное бюджетное учреждение науки "Санкт-Петербургский Федеральный исследовательский центр Российской академии наук" (СПб ФИЦ РАН) Способ многомодального бесконтактного управления мобильным информационным роботом
US11914093B2 (en) 2021-12-07 2024-02-27 Microsoft Technology Licensing, Llc RF antenna scanning for human movement classification

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20100220064A1 (en) * 2009-02-27 2010-09-02 Research In Motion Limited System and method of calibration of a touch screen display
US20110054360A1 (en) * 2009-08-27 2011-03-03 Electronics And Telecommunications Research Institute Finger motion detecting apparatus and method
US20150054639A1 (en) * 2006-08-11 2015-02-26 Michael Rosen Method and apparatus for detecting mobile phone usage
US20160313801A1 (en) * 2015-01-02 2016-10-27 Wearable Devices Ltd. Method and apparatus for a gesture controlled interface for wearable devices
WO2016170011A1 (en) * 2015-04-20 2016-10-27 Resmed Sensor Technologies Limited Gesture recognition with sensors

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8175728B2 (en) * 2007-12-13 2012-05-08 Georgia Tech Research Corporation Detecting user gestures with a personal mobile communication device
JP6071069B2 (ja) * 2010-12-17 2017-02-01 コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. 生体徴候を監視するためのジェスチャ制御
US8873841B2 (en) * 2011-04-21 2014-10-28 Nokia Corporation Methods and apparatuses for facilitating gesture recognition
KR102057196B1 (ko) * 2012-09-18 2019-12-18 삼성전자주식회사 정보 전송 방법 및 시스템과 그 기기
US10327648B2 (en) * 2015-04-01 2019-06-25 Siemens Healthcare Gmbh Blood vessel mechanical signal analysis

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20150054639A1 (en) * 2006-08-11 2015-02-26 Michael Rosen Method and apparatus for detecting mobile phone usage
US20100220064A1 (en) * 2009-02-27 2010-09-02 Research In Motion Limited System and method of calibration of a touch screen display
US20110054360A1 (en) * 2009-08-27 2011-03-03 Electronics And Telecommunications Research Institute Finger motion detecting apparatus and method
US20160313801A1 (en) * 2015-01-02 2016-10-27 Wearable Devices Ltd. Method and apparatus for a gesture controlled interface for wearable devices
WO2016170011A1 (en) * 2015-04-20 2016-10-27 Resmed Sensor Technologies Limited Gesture recognition with sensors

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020145431A1 (ko) * 2019-01-09 2020-07-16 엘지전자 주식회사 Rf 신호를 이용한 사용자 제스쳐 결정 방법 및 이를 위한 장치
KR102107685B1 (ko) * 2019-10-11 2020-05-07 주식회사 에이치랩 신호 검출 및 인식을 위한 장치 및 방법
US10775483B1 (en) 2019-10-11 2020-09-15 H Lab Co., Ltd. Apparatus for detecting and recognizing signals and method thereof
KR20210068768A (ko) * 2019-12-02 2021-06-10 주식회사 알체라 제스처 인식을 통한 디바이스 제어 방법 및 장치

Also Published As

Publication number Publication date
EP3577544A4 (en) 2019-12-18
EP3577544B1 (en) 2023-07-26
KR102500128B1 (ko) 2023-02-15
EP3577544A1 (en) 2019-12-11
RU2641269C1 (ru) 2018-01-16

Similar Documents

Publication Publication Date Title
US10684693B2 (en) Method for recognizing a gesture and an electronic device thereof
KR102500128B1 (ko) 제스처를 인식하기 위한 방법 및 그 전자 장치
CN106774818B (zh) 姿势识别方法、姿势识别设备和可穿戴装置
JP7154803B2 (ja) 生体情報測定装置、方法およびプログラム
EP3649928A2 (en) Blood pressure measurement
US20160051157A1 (en) Frequency domain projection algorithm
WO2018002442A1 (en) Photoplethysmographic sensor configuration
JP2022504877A (ja) オンボディセンサシステム
WO2019169636A1 (zh) 一种测量人体生理参数的方法和终端设备
CN106662898B (zh) 模式身体触摸超声感测方法和装置以及非暂时性存储介质
JP7381506B2 (ja) 無線信号に基づくジェスチャ認識
US20190183419A1 (en) Information processing apparatus, activity amount processing method, and computer-readable recording medium recording activity amount processing program
CN110115071A (zh) 一种控制发射功率的方法及终端
JP2017079807A (ja) 生体センサ、生体データ収集端末、生体データ収集システム、及び生体データ収集方法
CN114366062B (zh) 可穿戴设备及其佩戴检测方法和介质
JP2017533603A (ja) Wban内のmac通信のための好ましい条件を決定するための方法、装置、システム、およびコンピュータ可読媒体
KR101896822B1 (ko) 안테나 제어 장치 및 방법
CN116744846A (zh) 具有多个光学传感器的电子设备及其控制方法
US11490822B2 (en) Apparatus and method for estimating bio-information
US11540727B2 (en) Apparatus and method for measuring bio-signal
KR102655673B1 (ko) 혈압 측정 장치 및 방법
WO2021101674A1 (en) Ear-worn electronic device incorporating gesture control system using frequency-hopping spread spectrum transmission
KR20220117579A (ko) 선택적 클록 동기화를 이용하는 전자 장치 및 방법
EP4059418A1 (en) Apparatus and method for estimating bio-information
US20230152076A1 (en) System and method for emf manipulation

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E90F Notification of reason for final refusal
E701 Decision to grant or registration of patent right