KR20210150862A - Method, system and non-transitory computer-readable recording medium for recognizing a gesture - Google Patents

Method, system and non-transitory computer-readable recording medium for recognizing a gesture Download PDF

Info

Publication number
KR20210150862A
KR20210150862A KR1020200067814A KR20200067814A KR20210150862A KR 20210150862 A KR20210150862 A KR 20210150862A KR 1020200067814 A KR1020200067814 A KR 1020200067814A KR 20200067814 A KR20200067814 A KR 20200067814A KR 20210150862 A KR20210150862 A KR 20210150862A
Authority
KR
South Korea
Prior art keywords
target user
gesture
guide message
message
valid
Prior art date
Application number
KR1020200067814A
Other languages
Korean (ko)
Inventor
김석중
Original Assignee
주식회사 브이터치
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 주식회사 브이터치 filed Critical 주식회사 브이터치
Priority to KR1020200067814A priority Critical patent/KR20210150862A/en
Priority to PCT/KR2021/006911 priority patent/WO2021246795A1/en
Publication of KR20210150862A publication Critical patent/KR20210150862A/en
Priority to KR1020230010347A priority patent/KR102581729B1/en

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/012Head tracking input arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/013Eye tracking input arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017Gesture based interaction, e.g. based on a set of recognized hand gestures
    • G06K9/00335
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20Movements or behaviour, e.g. gesture recognition

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Health & Medical Sciences (AREA)
  • Multimedia (AREA)
  • Social Psychology (AREA)
  • Psychiatry (AREA)
  • General Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Evolutionary Computation (AREA)
  • Evolutionary Biology (AREA)
  • Data Mining & Analysis (AREA)
  • Artificial Intelligence (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

According to one aspect of the present invention, provided is a method for recognizing gestures. The method includes the steps of: providing a guide message to a target user; determining whether a head gesture performed by the target user is a valid gesture by referring to the direction in which the face and/or the gaze of the target user is oriented and the direction or the position associated with the guide message; and determining the intention of the target user by referring to the target user's head gesture determined to be the valid gesture. Accordingly, the present invention can easily and accurately inform a criterion for determining that the head gesture of the target user is a valid gesture.

Description

제스처를 인식하는 방법, 시스템 및 비일시성의 컴퓨터 판독 가능 기록 매체{METHOD, SYSTEM AND NON-TRANSITORY COMPUTER-READABLE RECORDING MEDIUM FOR RECOGNIZING A GESTURE}A method for recognizing a gesture, a system and a non-transitory computer-readable recording medium

본 발명은 제스처를 인식하는 방법, 시스템 및 비일시성의 컴퓨터 판독 가능 기록 매체에 관한 것이다.The present invention relates to a method, system, and non-transitory computer-readable recording medium for recognizing a gesture.

근래에 들어, 모바일 디바이스, 태블릿, 랩탑, PC, 가전 디바이스, 자동차 등 다양한 사용 환경에서 사용자의 제스처를 인식하여 객체를 제어하거나 명령을 실행할 수 있도록 하는 기술들이 소개되고 있다.In recent years, technologies for controlling objects or executing commands by recognizing a user's gesture in various usage environments such as mobile devices, tablets, laptops, PCs, home appliances, and automobiles have been introduced.

이에 관한, 종래 기술의 일 예로서, 한국공개특허공보 제2015-138831호에 개시된 기술을 예로 들 수 있는데, 휴대용 장치를 휴대하는 사용자의 제스처를 검출하는 센서, 상기 검출된 제스처를 식별하고, 상기 식별된 제스처에 기초하여 상기 제스처에 대응되는 외부 장치를 결정하고, 상기 결정된 외부 장치를 제어하는 명령을 결정하는 제어부, 및 상기 명령에 대응하는 명령 신호를 상기 외부 장치로 전송하는 통신부를 포함하고, 특정 명령에 대응하는 제스처를 수행하기 전에 사용자의 제스처 명령 인식이 시작되도록 트리거 신호 또는 활성화 신호를 실행하며, 이러한 트리거 신호에는 스마트 시계의 터치 스크린 상에서 터치 또는 탭(tap)이나 특정 제스처가 포함되는 휴대용 장치가 소개된 바 있다.In this regard, as an example of the prior art, the technology disclosed in Korean Patent Application Laid-Open No. 2015-138831 may be exemplified. A sensor for detecting a gesture of a user carrying a portable device, identifying the detected gesture, and A control unit for determining an external device corresponding to the gesture based on the identified gesture, determining a command for controlling the determined external device, and a communication unit for transmitting a command signal corresponding to the command to the external device, Before performing a gesture corresponding to a specific command, a trigger signal or an activation signal is executed to start recognition of the user's gesture command, and the trigger signal includes a touch or tap on the touch screen of the smart watch or a portable device that includes a specific gesture. The device has been introduced.

하지만, 위와 같은 종래 기술을 비롯하여 지금까지 소개된 기술에 의하면, 제스처 인식을 트리거하거나 제스처 인식을 시작 및 종료하는 방식으로서 하나의 단일한 기준, 즉 기설정된 기준만이 이용될 뿐이고, 이러한 기준을 동적으로 달라지도록 하는 기술에 관하여는 관심을 보이지 않고 있다. 즉, 사용자의 상황이나 제어 대상 객체의 속성을 전혀 고려함이 없이, 제스처 인식을 트리거하기 위해서는 기설정된 조건을 만족시켜야 되므로 사용자 경험적인 측면에서 번거롭거나 트리거하기 곤란한 상황이 종종 발생하게 되는 문제가 있었다.However, according to the techniques introduced so far, including the prior art as described above, only one single criterion, that is, a preset criterion, is used as a method of triggering gesture recognition or starting and ending gesture recognition, and this criterion is dynamically applied. There is no interest in the technology that makes it different. In other words, without considering the user's situation or the properties of the object to be controlled, preset conditions must be satisfied in order to trigger gesture recognition, so there is a problem that a cumbersome or difficult to trigger situation often occurs in terms of user experience. .

이에 본 발명자(들)는, 타겟 사용자의 얼굴 및 시선 중 적어도 하나가 향하는 방향 및 해당 타겟 사용자에게 제공되는 가이드 메시지에 따라 결정되는 방향 또는 위치를 참조하여 타겟 사용자에 의해 행해지는 헤드 제스처가 유효한 제스처인지가 결정되도록 함으로써, 제스처 인식을 신속 정확하면서도 효율적으로 수행할 수 있는 신규하고도 진보된 기술을 제안하는 바이다.Accordingly, the present inventor(s) proposes that the head gesture performed by the target user is a valid gesture with reference to the direction or location determined according to the direction or the position to which at least one of the target user's face and gaze is directed and the guide message provided to the target user. By allowing recognition to be determined, we propose a novel and advanced technology capable of quickly, accurately and efficiently performing gesture recognition.

본 발명은, 전술한 종래 기술의 문제점을 모두 해결하는 것을 그 목적으로 한다.An object of the present invention is to solve all the problems of the prior art described above.

또한, 본 발명은, 가이드 메시지에 따라 타겟 사용자의 헤드 제스처가 유효한 제스처로 결정되는 기준이 동적으로 변동되는 것을 다른 목적으로 한다.Another object of the present invention is to dynamically change a criterion for determining that a head gesture of a target user is a valid gesture according to a guide message.

또한, 본 발명은, 타겟 사용자와 연관되는 메시지 전달 디바이스를 통해 가이드 메시지를 제공함으로써, 타겟 사용자의 헤드 제스처가 유효한 제스처로 결정되는 기준을 쉽고 정확하게 알려주는 것을 또 다른 목적으로 한다.Another object of the present invention is to provide a guide message through a message delivery device associated with a target user to easily and accurately inform a criterion for determining a head gesture of a target user as a valid gesture.

상기 목적을 달성하기 위한 본 발명의 대표적인 구성은 다음과 같다.A representative configuration of the present invention for achieving the above object is as follows.

본 발명의 일 태양에 따르면, 제스처를 인식하는 방법으로서, 타겟 사용자에게 가이드 메시지를 제공하는 단계, 상기 타겟 사용자의 얼굴 및 시선 중 적어도 하나가 향하는 방향 및 상기 가이드 메시지와 연관되는 방향 또는 위치를 참조하여 상기 타겟 사용자에 의해 행해지는 헤드 제스처가 유효한 제스처인지 여부를 결정하는 단계, 및 상기 유효한 제스처인 것으로 결정되는 상기 타겟 사용자의 헤드 제스처를 참조하여 상기 타겟 사용자의 의도를 결정하는 단계를 포함하는 방법이 제공된다.According to an aspect of the present invention, there is provided a method for recognizing a gesture, comprising: providing a guide message to a target user; referring to a direction to which at least one of the target user's face and gaze is directed and a direction or location associated with the guide message to determine whether the head gesture performed by the target user is a valid gesture, and determining the intention of the target user by referring to the head gesture of the target user determined to be the valid gesture. this is provided

본 발명의 다른 태양에 따르면, 제스처를 인식하는 시스템으로서, 타겟 사용자에게 가이드 메시지를 제공하는 가이드 메시지 관리부, 상기 타겟 사용자의 얼굴 및 시선 중 적어도 하나가 향하는 방향 및 상기 가이드 메시지와 연관되는 방향 또는 위치를 참조하여 상기 타겟 사용자에 의해 행해지는 헤드 제스처가 유효한 제스처인지 여부를 결정하는 유효 제스처 관리부, 및 상기 유효한 제스처인 것으로 결정되는 상기 타겟 사용자의 헤드 제스처를 참조하여 상기 타겟 사용자의 의도를 결정하는 사용자 의도 관리부를 포함하는 시스템이 제공된다.According to another aspect of the present invention, there is provided a system for recognizing a gesture, a guide message management unit providing a guide message to a target user, a direction to which at least one of a face and a gaze of the target user is directed, and a direction or position associated with the guide message A valid gesture management unit that determines whether the head gesture performed by the target user is a valid gesture with reference to, and a user who determines the intention of the target user by referring to the target user's head gesture determined to be a valid gesture A system is provided that includes an intent management unit.

이 외에도, 본 발명을 구현하기 위한 다른 방법, 다른 시스템 및 상기 방법을 실행하기 위한 컴퓨터 프로그램을 기록하는 비일시성의 컴퓨터 판독 가능한 기록 매체가 더 제공된다.In addition to this, another method for implementing the present invention, another system, and a non-transitory computer-readable recording medium for recording a computer program for executing the method are further provided.

본 발명에 의하면, 가이드 메시지에 따라 타겟 사용자의 헤드 제스처가 유효한 제스처로 결정되는 기준이 동적으로 변동될 수 있게 된다.According to the present invention, a criterion for determining that a head gesture of a target user is a valid gesture according to a guide message can be dynamically changed.

또한, 본 발명에 의하면, 타겟 사용자와 연관되는 메시지 전달 디바이스를 통해 가이드 메시지를 제공함으로써, 타겟 사용자의 헤드 제스처가 유효한 제스처로 결정되는 기준을 쉽고 정확하게 알려줄 수 있게 된다.In addition, according to the present invention, by providing the guide message through the message delivery device associated with the target user, it is possible to easily and accurately inform the criteria for determining the head gesture of the target user as a valid gesture.

도 1은 본 발명의 일 실시예에 따른 제스처 인식 시스템의 내부 구성을 상세하게 도시하는 도면이다.
도 2은 본 발명의 일 실시예에 따라 메시지 전달 디바이스가 특정되는 상황을 예시적으로 나타내는 도면이다.
도 3 내지 도 11은 본 발명의 일 실시예에 따라 제스처가 인식되는 과정을 예시적으로 나타내는 도면이다.
1 is a diagram illustrating in detail the internal configuration of a gesture recognition system according to an embodiment of the present invention.
2 is a diagram exemplarily illustrating a situation in which a message delivery device is specified according to an embodiment of the present invention.
3 to 11 are diagrams exemplarily illustrating a process of recognizing a gesture according to an embodiment of the present invention.

후술하는 본 발명에 대한 상세한 설명은, 본 발명이 실시될 수 있는 특정 실시예를 예시로서 도시하는 첨부 도면을 참조한다. 이러한 실시예는 당업자가 본 발명을 실시할 수 있기에 충분하도록 상세히 설명된다. 본 발명의 다양한 실시예는 서로 다르지만 상호 배타적일 필요는 없음이 이해되어야 한다. 예를 들어, 본 명세서에 기재되어 있는 특정 형상, 구조 및 특성은 본 발명의 정신과 범위를 벗어나지 않으면서 일 실시예로부터 다른 실시예로 변경되어 구현될 수 있다. 또한, 각각의 실시예 내의 개별 구성요소의 위치 또는 배치도 본 발명의 정신과 범위를 벗어나지 않으면서 변경될 수 있음이 이해되어야 한다. 따라서, 후술하는 상세한 설명은 한정적인 의미로서 행하여지는 것이 아니며, 본 발명의 범위는 특허청구범위의 청구항들이 청구하는 범위 및 그와 균등한 모든 범위를 포괄하는 것으로 받아들여져야 한다. 도면에서 유사한 참조부호는 여러 측면에 걸쳐서 동일하거나 유사한 구성요소를 나타낸다.DETAILED DESCRIPTION OF THE PREFERRED EMBODIMENTS [0012] DETAILED DESCRIPTION OF THE PREFERRED EMBODIMENTS [0010] DETAILED DESCRIPTION OF THE PREFERRED EMBODIMENTS [0010] Reference is made to the accompanying drawings, which show by way of illustration specific embodiments in which the present invention may be practiced. These embodiments are described in sufficient detail to enable those skilled in the art to practice the present invention. It should be understood that the various embodiments of the present invention are different but need not be mutually exclusive. For example, certain shapes, structures, and characteristics described herein may be implemented with changes from one embodiment to another without departing from the spirit and scope of the present invention. In addition, it should be understood that the location or arrangement of individual components within each embodiment may be changed without departing from the spirit and scope of the present invention. Accordingly, the following detailed description is not to be taken in a limiting sense, and the scope of the present invention should be taken as encompassing the scope of the claims and all equivalents thereto. In the drawings, like reference numerals refer to the same or similar elements throughout the various aspects.

이하에서는, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자가 본 발명을 용이하게 실시할 수 있도록 하기 위하여, 본 발명의 여러 바람직한 실시예에 관하여 첨부된 도면을 참조하여 상세히 설명하기로 한다.Hereinafter, various preferred embodiments of the present invention will be described in detail with reference to the accompanying drawings in order to enable those of ordinary skill in the art to easily practice the present invention.

전체 시스템의 구성Whole system configuration

본 발명의 일 실시예에 따른 전체 시스템은 통신망, 제스처 인식 시스템(100) 및 메시지 전달 디바이스를 포함하여 구성될 수 있다.The entire system according to an embodiment of the present invention may be configured to include a communication network, the gesture recognition system 100, and a message delivery device.

먼저, 본 발명의 일 실시예에 따른 통신망은 유선 통신이나 무선 통신과 같은 통신 양태를 가리지 않고 구성될 수 있으며, 근거리 통신망(LAN; Local Area Network), 도시권 통신망(MAN; Metropolitan Area Network), 광역 통신망(WAN; Wide Area Network) 등 다양한 통신망으로 구성될 수 있다. 바람직하게는, 본 명세서에서 말하는 통신망은 공지의 인터넷 또는 월드와이드웹(WWW; World Wide Web)일 수 있다. 그러나, 통신망은, 굳이 이에 국한될 필요 없이, 공지의 유무선 데이터 통신망, 공지의 전화망 또는 공지의 유무선 텔레비전 통신망을 그 적어도 일부에 있어서 포함할 수도 있다.First, the communication network according to an embodiment of the present invention may be configured regardless of communication aspects such as wired communication or wireless communication, and includes a local area network (LAN), a metropolitan area network (MAN), and a wide area. It may be composed of various communication networks, such as a wide area network (WAN). Preferably, the communication network referred to in this specification may be a well-known Internet or World Wide Web (WWW). However, the communication network is not necessarily limited thereto, and may include a known wired/wireless data communication network, a known telephone network, or a known wired/wireless television communication network in at least a part thereof.

예를 들면, 통신망은 무선 데이터 통신망으로서, 무선주파수(RF; Radio Frequency) 통신, 와이파이(WiFi) 통신, 셀룰러(LTE 등) 통신, 블루투스 통신(더 구체적으로는, 저전력 블루투스(BLE; Bluetooth Low Energy)), 적외선 통신, 초음파 통신 등과 같은 종래의 통신 방법을 적어도 그 일부분에 있어서 구현하는 것일 수 있다.For example, the communication network is a wireless data communication network, and includes radio frequency (RF) communication, Wi-Fi communication, cellular (LTE, etc.) communication, and Bluetooth communication (more specifically, Bluetooth Low Energy (BLE) communication). )), infrared communication, ultrasonic communication, etc. may be implemented in at least a part thereof.

다음으로, 본 발명의 일 실시예에 따른 제스처 인식 시스템(100)은 메모리 수단을 구비하고 마이크로 프로세서를 탑재하여 연산 능력을 갖춘 디지털 디바이스일 수 있다. 이러한 제스처 인식 시스템(100)은 서버 시스템일 수 있다.Next, the gesture recognition system 100 according to an embodiment of the present invention may be a digital device having a memory means and a microprocessor mounted therein to have arithmetic capability. The gesture recognition system 100 may be a server system.

본 발명의 일 실시예에 따르면, 제스처 인식 시스템(100)은, 후술할 메시지 전달 디바이스와 통신망 또는 소정의 프로세서(미도시됨)를 통하여 서로 연결될 수 있으며, 타겟 사용자에게 가이드 메시지를 제공하고, 타겟 사용자의 얼굴 및 시선 중 적어도 하나가 향하는 방향 및 가이드 메시지와 연관되는 방향 또는 위치를 참조하여 타겟 사용자에 의해 행해지는 헤드 제스처가 유효한 제스처인지 여부를 결정하고, 유효한 제스처인 것으로 결정되는 타겟 사용자의 헤드 제스처를 참조하여 타겟 사용자의 의도를 결정하는 기능을 수행할 수 있다.According to an embodiment of the present invention, the gesture recognition system 100 may be connected to each other through a message delivery device and a communication network or a predetermined processor (not shown) to be described later, and provides a guide message to a target user, and Determine whether a head gesture performed by the target user is a valid gesture with reference to a direction or location associated with a direction or a guide message and a direction toward which at least one of the user's face and gaze is directed, and the target user's head determined to be a valid gesture A function of determining the intention of the target user may be performed by referring to the gesture.

여기서, 본 발명의 일 실시예에 따른 가이드 메시지는 메시지 전달 디바이스를 통해 타겟 사용자에게 제공되는 시각, 청각 또는 후각 중 적어도 하나의 형태의 메시지일 수 있고, 예를 들어, 텍스트 또는 이미지와 같은 시각 메시지, 음성과 같은 청각 메시지, 또는 동영상과 같은 시청각 메시지를 포함할 수 있으며, 이러한 메시지는 팝업, 배너, 플로팅(floating) 등의 다양한 구현 방식으로 제공되는 것일 수 있다.Here, the guide message according to an embodiment of the present invention may be a message in the form of at least one of sight, hearing, or smell provided to the target user through the message delivery device, for example, a visual message such as text or image , may include an audio message such as a voice, or an audiovisual message such as a video, and these messages may be provided in various implementation methods such as pop-up, banner, and floating.

본 발명에 따른 제스처 인식 시스템(100)의 구성과 기능에 관하여는 아래에서 더 자세하게 알아보기로 한다. 한편, 제스처 인식 시스템(100)에 관하여 위와 같이 설명되었으나, 이러한 설명은 예시적인 것이고, 제스처 인식 시스템(100)에 요구되는 기능이나 구성요소의 적어도 일부가 필요에 따라 외부 디바이스(예를 들면, 메시지 전달 디바이스 등) 또는 외부 시스템(예를 들면, 클라우드 서버 등) 내에서 실현되거나 외부 디바이스 또는 외부 시스템 내에 포함될 수도 있음은 당업자에게 자명하다.The configuration and function of the gesture recognition system 100 according to the present invention will be described in more detail below. On the other hand, although described above with respect to the gesture recognition system 100, this description is exemplary, and at least some of the functions or components required for the gesture recognition system 100 may be provided by an external device (eg, a message It will be apparent to those skilled in the art that it may be implemented in a delivery device, etc.) or an external system (eg, a cloud server, etc.) or included in an external device or external system.

다음으로, 본 발명의 일 실시예에 따른 메시지 전달 디바이스(미도시됨)는 통신망 또는 소정의 프로세서에 의하여 제스처 인식 시스템(100)과 통신이 이루어질 수 있으며, 가이드 메시지를 출력하는 기능을 수행할 수 있다. 예를 들어, 본 발명의 일 실시예에 따른 메시지 전달 디바이스에는 시각 또는 청각 메시지를 출력할 수 있는 디스플레이, 스피커 등 다양한 유형의 디바이스가 포함될 수 있다.Next, the message delivery device (not shown) according to an embodiment of the present invention may communicate with the gesture recognition system 100 through a communication network or a predetermined processor, and may perform a function of outputting a guide message. have. For example, the message delivery device according to an embodiment of the present invention may include various types of devices such as a display capable of outputting a visual or auditory message, a speaker, and the like.

제스처 인식 시스템의 구성Composition of Gesture Recognition System

이하에서는, 본 발명의 구현을 위하여 중요한 기능을 수행하는 제스처 인식 시스템(100)의 내부 구성 및 각 구성요소의 기능에 대하여 살펴보기로 한다.Hereinafter, the internal configuration of the gesture recognition system 100 that performs an important function for the implementation of the present invention and the function of each component will be described.

도 1은 본 발명의 일 실시예에 따른 제스처 인식 시스템(100)의 내부 구성을 상세하게 도시하는 도면이다.1 is a diagram illustrating in detail the internal configuration of a gesture recognition system 100 according to an embodiment of the present invention.

도 1에 도시된 바와 같이, 제스처 인식 시스템(100)은, 가이드 메시지 관리부(110), 유효 제스처 관리부(120), 사용자 의도 관리부(130), 통신부(140) 및 제어부(150)를 포함하여 구성될 수 있다. 본 발명의 일 실시예에 따르면, 가이드 메시지 관리부(110), 유효 제스처 관리부(120), 사용자 의도 관리부(130), 통신부(140) 및 제어부(150)는 그 중 적어도 일부가 외부의 시스템과 통신하는 프로그램 모듈일 수 있다. 이러한 프로그램 모듈은 운영 시스템, 응용 프로그램 모듈 또는 기타 프로그램 모듈의 형태로 제스처 인식 시스템(100)에 포함될 수 있고, 물리적으로는 여러 가지 공지의 기억 장치에 저장될 수 있다. 또한, 이러한 프로그램 모듈은 제스처 인식 시스템(100)과 통신 가능한 원격 기억 장치에 저장될 수도 있다. 한편, 이러한 프로그램 모듈은 본 발명에 따라 후술할 특정 업무를 수행하거나 특정 추상 데이터 유형을 실행하는 루틴, 서브루틴, 프로그램, 오브젝트, 컴포넌트, 데이터 구조 등을 포괄하지만, 이에 제한되지는 않는다.As shown in FIG. 1 , the gesture recognition system 100 includes a guide message management unit 110 , a valid gesture management unit 120 , a user intention management unit 130 , a communication unit 140 , and a control unit 150 . can be According to an embodiment of the present invention, at least some of the guide message management unit 110 , the effective gesture management unit 120 , the user intention management unit 130 , the communication unit 140 , and the control unit 150 communicate with an external system. It may be a program module that does Such a program module may be included in the gesture recognition system 100 in the form of an operating system, an application program module, or other program modules, and may be physically stored in various known storage devices. In addition, such a program module may be stored in a remote storage device capable of communicating with the gesture recognition system 100 . Meanwhile, such a program module includes, but is not limited to, routines, subroutines, programs, objects, components, data structures, etc. that perform specific tasks or execute specific abstract data types according to the present invention.

먼저, 본 발명의 일 실시예에 따른 가이드 메시지 관리부(110)는 타겟 사용자에게 가이드 메시지를 제공하는 기능을 수행할 수 있다.First, the guide message management unit 110 according to an embodiment of the present invention may perform a function of providing a guide message to a target user.

구체적으로, 가이드 메시지 관리부(110)는 타겟 사용자와 연관되는 메시지 전달 디바이스에서 가이드 메시지가 제공되도록 할 수 있다.Specifically, the guide message management unit 110 may provide a guide message from a message delivery device associated with the target user.

예를 들어, 도 2를 참조하면, 가이드 메시지 관리부(110)는 타겟 사용자가 존재하는 위치를 기준으로 해당 타겟 사용자와 가장 가까운 거리에 위치하는 메시지 전달 디바이스(320)에서 가이드 메시지가 타겟 사용자에게 제공되도록 할 수 있다. 보다 구체적으로, 가이드 메시지 관리부(110)는 복수의 메시지 전달 디바이스(310, 320)가 존재하는 위치 및 타겟 사용자가 존재하는 위치 사이의 거리를 각각 산출할 수 있고, 그 산출되는 거리 중 가장 짧은 거리(예를 들어, 유클리드 거리)에 대응되는 메시지 전달 디바이스(320)를 타겟 사용자와 가장 가까운 거리에 위치하는 메시지 전달 디바이스로 결정할 수 있다.For example, referring to FIG. 2 , the guide message management unit 110 provides a guide message to the target user from the message delivery device 320 located at the closest distance to the target user based on the location of the target user. can make it happen More specifically, the guide message management unit 110 may calculate a distance between a location where a plurality of message delivery devices 310 and 320 exist and a location where the target user exists, respectively, and the shortest distance among the calculated distances. The message delivery device 320 corresponding to (eg, the Euclidean distance) may be determined as the message delivery device located at the closest distance to the target user.

다른 예를 들어, 가이드 메시지 관리부(110)는 타겟 사용자의 얼굴 및 시선 중 적어도 하나가 향하는 방향을 기준으로 소정 범위 내에 위치하는 메시지 전달 디바이스에서 가이드 메시지가 타겟 사용자에게 제공되도록 할 수 있다. 보다 구체적으로, 가이드 메시지 관리부(110)는 타겟 사용자의 얼굴 및 시선 중 적어도 하나가 향하는 방향을 기준으로 특정되는 직선(201)(예를 들어, 타겟 사용자의 얼굴 및 시선 중 적어도 하나가 향하는 방향으로 연장되는 직선(201))을 중심선 또는 중심축으로 갖는 2차원 또는 3차원 영역(202)(예를 들어, 원, 타원, 정사각형, 직사각형, 원뿔, 사각뿔 등의 영역)이 특정될 수 있고, 그 영역 내에 포함되는 메시지 전달 디바이스(320)(또는, 그 영역 내에 포함되는 메시지 전달 디바이스 중 타겟 사용자와 가장 가까운 메시지 전달 디바이스)에서 가이드 메시지가 타겟 사용자에게 제공되도록 할 수 있다.As another example, the guide message management unit 110 may provide a guide message to the target user from a message delivery device located within a predetermined range based on the direction in which at least one of the target user's face and gaze is directed. More specifically, the guide message management unit 110 is a straight line 201 that is specified based on a direction in which at least one of the target user's face and gaze is directed (eg, in the direction in which at least one of the target user's face and gaze is directed). A two-dimensional or three-dimensional region 202 (eg, an area such as a circle, an ellipse, a square, a rectangle, a cone, a quadrangular pyramid) having a straight line 201 extending therefrom as a centerline or a central axis may be specified, and the The guide message may be provided to the target user by the message delivery device 320 included in the area (or the message delivery device closest to the target user among the message delivery devices included in the area).

한편, 가이드 메시지 관리부(110)는 타겟 사용자에 관한 문맥(context) 정보를 참조하여 가이드 메시지를 제공할 메시지 전달 디바이스 및 가이드 메시지 전달 유형 중 적어도 하나를 동적으로 결정할 수 있다.Meanwhile, the guide message manager 110 may dynamically determine at least one of a message delivery device and a guide message delivery type that will provide the guide message with reference to context information about the target user.

예를 들어, 가이드 메시지 관리부(110)는 타겟 사용자가 존재하는 위치(또는 장소), 주시 대상, 주시 시간, 주변 소음 정도 등에 관한 정보와 동일하거나 유사한 정보에 매칭되는 사례를 사례 데이터베이스상에서 검색하거나, 타겟 사용자가 존재하는 위치(또는 장소), 주시 대상, 주시 시간, 주변 소음 정도 등에 관하여 기계 학습(machine learning) 또는 딥 러닝(deep learning)을 통해 학습한 결과에 기초하여 대응되는 사례를 특정할 수 있으며, 그 특정되는 사례를 기준으로 타겟 사용자에 관한 문맥 정보를 특정하고 그 특정되는 문맥 정보에 기초하여 타겟 사용자에게 가이드 메시지를 가장 효율적으로 전달하거나 타겟 사용자의 관심을 극대화할 수 있는 메시지 전달 디바이스(예를 들어, 가장 가까운 거리) 및 그 전달 유형(예를 들어, 시끄러운 장소인 경우에는 시각 메시지를 제공하고 조용한 장소인 경우에는 청각 메시지를 제공)을 동적으로 결정할 수 있다.For example, the guide message management unit 110 searches the case database for cases matching the same or similar information to the information about the location (or place) where the target user exists, the target, the gaze time, the level of ambient noise, etc. A corresponding case can be specified based on the result of learning through machine learning or deep learning with respect to the location (or place) where the target user exists, the subject of attention, the time of the gaze, the level of ambient noise, etc. There is a message delivery device ( For example, the nearest distance) and its delivery type (eg, providing a visual message for a noisy location and an audible message for a quiet location) can be dynamically determined.

다음으로, 본 발명의 일 실시예에 따른 유효 제스처 관리부(120)는 타겟 사용자의 얼굴 및 시선 중 적어도 하나가 향하는 방향 및 가이드 메시지와 연관되는 방향 또는 위치를 참조하여 타겟 사용자에 의해 행해지는 헤드 제스처가 유효한 제스처인지 여부를 결정하는 기능을 수행할 수 있다.Next, the effective gesture management unit 120 according to an embodiment of the present invention provides a head gesture performed by the target user with reference to the direction or location associated with the guide message and the direction to which at least one of the target user's face and gaze is directed. may perform a function of determining whether is a valid gesture.

예를 들어, 유효 제스처 관리부(120)는 타겟 사용자의 얼굴 및 시선 중 적어도 하나가 향하는 방향에 기초하여 특정되는(또는 타겟 사용자의 얼굴 및 시선 중 적어도 하나가 향하는 방향으로 연장되는) 선(또는 영역)상에 해당 타겟 사용자에게 가이드 메시지를 제공하는 메시지 전달 디바이스가 위치하면, 해당 타겟 사용자의 얼굴 및 시선 중 적어도 하나가 해당 방향을 향하는 동안 또는 해당 타겟 사용자의 얼굴 및 시선 중 적어도 하나가 해당 방향을 향하는 시점을 기준으로 소정 시간 동안 해당 타겟 사용자에 의해 행해지는 헤드 제스처를 유효한 제스처로서 결정할 수 있다.For example, the effective gesture management unit 120 may determine a line (or region) that is specified based on a direction in which at least one of the target user's face and gaze is directed (or extends in a direction in which at least one of the target user's face and gaze is directed). ), when a message delivery device providing a guide message to the target user is located on the target user, at least one of the target user's face and gaze is directed in the corresponding direction, or at least one of the target user's face and gaze is directed in the corresponding direction A head gesture performed by a corresponding target user for a predetermined period of time based on a point of view may be determined as a valid gesture.

다른 예를 들어, 유효 제스처 관리부(120)는 타겟 사용자의 얼굴 및 시선 중 적어도 하나가 향하는 방향과 가이드 메시지에 의해 지시(또는 특정)되는 방향이 일치하는 경우에 타겟 사용자의 얼굴 및 시선 중 적어도 하나가 해당 방향을 향하는 동안 또는 해당 타겟 사용자의 얼굴 및 시선 중 적어도 하나가 해당 방향을 향하는 시점을 기준으로 소정 시간 동안 해당 타겟 사용자에 의해 행해지는 헤드 제스처를 유효한 제스처로서 결정할 수 있다.For another example, the effective gesture management unit 120 may configure at least one of the target user's face and gaze when the direction indicated (or specified) by the guide message coincides with a direction to which at least one of the target user's face and gaze is directed. It is possible to determine as a valid gesture a head gesture performed by the corresponding target user while is facing the corresponding direction or for a predetermined time based on a point in time when at least one of the target user's face and gaze is directed in the corresponding direction.

보다 구체적으로, 음성 가이드 메시지의 내용에 의해 소정 방향을 향하도록 지시되는 경우에, 타겟 사용자의 얼굴 및 시선 중 적어도 하나가 위의 지시되는 방향을 향하는 동안 또는 해당 타겟 사용자의 얼굴 및 시선 중 적어도 하나가 위의 지시되는 방향을 향하는 시점을 기준으로 소정 시간 동안 해당 타겟 사용자에 의해 행해지는 헤드 제스처를 유효한 제스처로서 결정할 수 있다.More specifically, when directed to face a predetermined direction by the content of the voice guide message, at least one of the target user's face and gaze while at least one of the target user's face and gaze is directed in the above-indicated direction A head gesture performed by the corresponding target user for a predetermined period of time based on a time point in which the is directed in the direction may be determined as a valid gesture.

다음으로, 본 발명의 일 실시예에 따른 사용자 의도 관리부(130)는 유효 제스처 관리부(120)에 의해 유효한 제스처인 것으로 결정되는 타겟 사용자의 헤드 제스처를 참조하여 타겟 사용자의 의도를 결정하는 기능을 수행할 수 있다.Next, the user intention management unit 130 according to an embodiment of the present invention performs a function of determining the intention of the target user with reference to the head gesture of the target user determined to be a valid gesture by the effective gesture management unit 120 . can do.

예를 들어, 도 3을 참조하면, 사용자 의도 관리부(130)는 유효한 제스처인 것으로 결정되는 타겟 사용자의 헤드 제스처의 패턴과 일치 또는 유사한 패턴에 대응되는 의도를 해당 타겟 사용자의 의도로서 결정할 수 있다. 보다 구체적으로, 사용자 의도 관리부(130)는 사용자가 고개를 아래-위 순으로 움직이면 끄덕임(nod) 제스처, 즉 O, 네(yes) 또는 아래(down)을 의미하고, 고개를 좌-우-좌-우 또는 우-좌-우-좌 순으로 움직이면 흔들기(shake) 제스처, 즉 X, 아니오(no) 또는 취소(cancel)을 의미하고, 고개를 우-좌 순으로 움직이면 오른쪽(right) 제스처, 즉 다음(next)을 의미하고, 고개를 좌-우 순으로 움직이면 왼쪽(left) 제스처, 즉 이전(previous)을 의미하고, 고개를 상-하 순으로 움직이면 위쪽(up) 제스처 즉, 위로 이동(up)을 의미하고, 고개를 좌로 기울이면 왼쪽 기울임(lean left) 제스처, 즉 감소(decrease)를 의미하고, 고개를 우로 기울이면 오른쪽 기울임(lean right) 제스처, 즉 증가(increase)를 의미하는 것으로 타겟 사용자의 의도를 결정할 수 있다.For example, referring to FIG. 3 , the user intention management unit 130 may determine an intention corresponding to a pattern that matches or is similar to the pattern of the head gesture of the target user determined to be a valid gesture as the intention of the target user. More specifically, the user intention management unit 130 means a nod gesture, that is, O, yes or down, when the user moves his/her head in the up-down order, and tilts his/her head left-right-left. -Moving right or right-left-right-left means a shake gesture, that is, X, no, or cancel, and moving the head in the right-left order means a right gesture, that is It means next, moving the head in the left-right order means a left gesture, that is, previous, and moving the head in the up-down order means an up gesture, that is, up ), and tilting the head to the left means lean left gesture, i.e. decrease, and tilting the head to the right means lean right gesture, i.e. increase. You can determine the user's intentions.

한편, 사용자 의도 관리부(130)는 타겟 사용자의 의도를 결정하기 위하여 헤드 제스처의 패턴에 대응되는 의도에 관한 룩업 테이블(미도시됨)을 참조할 수 있으며, 이러한 룩업 테이블은 소정 조건 만족 시, 소정 기간 마다 또는 실시간으로 업데이트될 수 있다. 한편, 사용자 의도 관리부(130)는 각 타겟 사용자 또는 복수의 타겟 사용자의 헤드 제스처의 패턴에 기초하여 학습을 수행할 수 있고, 그 학습 결과에 기초하여 타겟 사용자의 의도를 결정할 수 있다. 즉, 사용자 의도 관리부(130)는 타겟 사용자의 패턴에 대응되는 의도를 결정하기 위하여 공지의 다양한 학습 알고리즘을 이용할 수 있으며, 예를 들어, 타겟 사용자의 헤드 제스처의 패턴에 관한 영상을 기반으로 학습을 수행하기 위한 CNN(Convolutional Neural Network) 알고리즘 등이 활용되거나, 타겟 사용자의 헤드 제스처의 패턴으로부터 특정되는 특징(feature)을 기반으로 학습을 수행하기 위한 하는 SVM(Support Vector Machine) 알고리즘 등이 이용될 수 있다.Meanwhile, the user intention management unit 130 may refer to a lookup table (not shown) regarding an intention corresponding to a pattern of a head gesture in order to determine the intention of the target user, and this lookup table is obtained when a predetermined condition is satisfied. It can be updated periodically or in real time. Meanwhile, the user intention management unit 130 may perform learning based on a pattern of head gestures of each target user or a plurality of target users, and may determine the intention of the target user based on the learning result. That is, the user intention management unit 130 may use a variety of known learning algorithms to determine the intention corresponding to the pattern of the target user, for example, learning based on the image about the pattern of the target user's head gesture. A Convolutional Neural Network (CNN) algorithm to perform, or a Support Vector Machine (SVM) algorithm for performing learning based on a feature specified from a pattern of a target user's head gesture, etc. may be used. have.

한편, 나아가, 사용자 의도 관리부(130)는 위와 같이 결정되는 타겟 사용자의 의도를 참조하여 타겟 사용자가 의도한 제어 명령을 특정하고 그 제어 명령이 실행되도록 할 수 있다.Meanwhile, further, the user intention management unit 130 may specify a control command intended by the target user with reference to the intention of the target user determined as above, and execute the control command.

한편, 본 발명의 일 실시예에 따른 통신부(140)는 가이드 메시지 관리부(110), 유효 제스처 관리부(120) 및 사용자 의도 관리부(130)로부터의/로의 데이터 송수신이 가능하도록 하는 기능을 수행할 수 있다.On the other hand, the communication unit 140 according to an embodiment of the present invention may perform a function of enabling data transmission/reception to/from the guide message management unit 110 , the effective gesture management unit 120 , and the user intention management unit 130 . have.

마지막으로, 본 발명의 일 실시예에 따른 제어부(150)는 가이드 메시지 관리부(110), 유효 제스처 관리부(120), 사용자 의도 관리부(130) 및 통신부(140) 간의 데이터의 흐름을 제어하는 기능을 수행할 수 있다. 즉, 본 발명에 따른 제어부(150)는 제스처 인식 시스템(100)의 외부로부터의/로의 데이터 흐름 또는 제스처 인식 시스템(100)의 각 구성요소 간의 데이터 흐름을 제어함으로써, 가이드 메시지 관리부(110), 유효 제스처 관리부(120), 사용자 의도 관리부(130) 및 통신부(140)에서 각각 고유 기능을 수행하도록 제어할 수 있다.Finally, the control unit 150 according to an embodiment of the present invention controls the flow of data between the guide message management unit 110 , the effective gesture management unit 120 , the user intention management unit 130 , and the communication unit 140 . can be done That is, the control unit 150 according to the present invention controls the data flow to/from the outside of the gesture recognition system 100 or the data flow between each component of the gesture recognition system 100, so that the guide message management unit 110, The effective gesture management unit 120 , the user intention management unit 130 , and the communication unit 140 may be controlled to perform their own functions, respectively.

제1 실시예first embodiment

도 4 내지 도 7은 텍스트 및 이미지를 포함하는 가이드 메시지가 타겟 사용자에게 제공되는 상황을 예시적으로 나타내는 도면이다.4 to 7 are diagrams exemplarily illustrating a situation in which a guide message including text and an image is provided to a target user.

도 4 내지 도 7을 참조하면, 먼저, 제1 타겟 사용자(410)의 얼굴 및 시선 중 적어도 하나가 향하는 방향(411)을 기준으로 소정 범위 내에 위치하는 제1 메시지 전달 디바이스(510)를 통해 제1 가이드 메시지가 제공되고(도 4 참조), 제2 타겟 사용자(420)의 얼굴 및 시선 중 적어도 하나가 향하는 방향(421)을 기준으로 소정 범위 내에 위치하는 제2 메시지 전달 디바이스(520)를 통해 제2 가이드 메시지가 제공되고(도 5 참조), 제3 타겟 사용자(430)의 얼굴 및 시선 중 적어도 하나가 향하는 방향(431)을 기준으로 소정 범위 내에 위치하는 제3 메시지 전달 디바이스(530)를 통해 제3 가이드 메시지가 제공되고(도 6 참조), 제4 타겟 사용자(440)의 얼굴 및 시선 중 적어도 하나가 향하는 방향(441)을 기준으로 소정 범위 내에 위치하는 제4 메시지 전달 디바이스(540)를 통해 제4 가이드 메시지가 제공될 수 있다(도 7 참조). 예를 들어, 이러한 가이드 메시지는 "정말인가요? 취소면 흔들기 제스처, 확인이면 끄덕임 제스처를 하세요"(또는 "Are you sure? Shake to Cancel or Nod to Confirm")라는 시각 메시지일 수 있다.4 to 7 , first, through the first message delivery device 510 located within a predetermined range with respect to the direction 411 toward which at least one of the face and the gaze of the first target user 410 is directed, One guide message is provided (see FIG. 4 ), and at least one of the face and the gaze of the second target user 420 is directed through the second message delivery device 520 located within a predetermined range based on the direction 421 . A second guide message is provided (refer to FIG. 5 ), and a third message delivery device 530 positioned within a predetermined range based on a direction 431 toward which at least one of the face and the gaze of the third target user 430 is directed. A third guide message is provided through (see FIG. 6 ), and the fourth message delivery device 540 is located within a predetermined range based on the direction 441 of at least one of the face and the gaze of the fourth target user 440 . A fourth guide message may be provided through (see FIG. 7 ). For example, such a guide message could be a visual message "Are you sure? Shake to Cancel or Nod to Confirm" (or "Are you sure? Shake to Cancel or Nod to Confirm").

그 다음에, 제1 타겟 사용자(410)의 얼굴 및 시선 중 적어도 하나가 향하는 방향(411) 및 제1 가이드 메시지가 디스플레이되는 방향(511)(예를 들어, 제1 가이드 메시지의 법선 방향)을 참조하여 제1 타겟 사용자(410)에 의해 행해지는 헤드 제스처가 유효한 제스처인지 여부가 결정될 수 있고, 제2 타겟 사용자(420)의 얼굴 및 시선 중 적어도 하나가 향하는 방향(421) 및 제2 가이드 메시지가 디스플레이되는 방향(521)(예를 들어, 제2 가이드 메시지의 법선 방향)을 참조하여 제2 타겟 사용자(420)에 의해 행해지는 헤드 제스처가 유효한 제스처인지 여부가 결정될 수 있고, 제3 타겟 사용자(430)의 얼굴 및 시선 중 적어도 하나가 향하는 방향(431) 및 제3 가이드 메시지가 디스플레이되는 방향(531)(예를 들어, 제3 가이드 메시지의 법선 방향)을 참조하여 제3 타겟 사용자(430)에 의해 행해지는 헤드 제스처가 유효한 제스처인지 여부가 결정될 수 있고, 제4 타겟 사용자(440)의 얼굴 및 시선 중 적어도 하나가 향하는 방향(441) 및 제4 가이드 메시지가 디스플레이되는 방향(541)(예를 들어, 제4 가이드 메시지의 법선 방향)을 참조하여 제4 타겟 사용자(440)에 의해 행해지는 헤드 제스처가 유효한 제스처인지 여부가 결정될 수 있다.Next, a direction 411 toward which at least one of the face and gaze of the first target user 410 is directed and a direction 511 in which the first guide message is displayed (eg, a normal direction of the first guide message) are determined. With reference, it may be determined whether the head gesture performed by the first target user 410 is a valid gesture, the direction 421 toward which at least one of the face and the gaze of the second target user 420 is directed and the second guide message Whether the head gesture performed by the second target user 420 is a valid gesture may be determined with reference to the display direction 521 (eg, the normal direction of the second guide message), and the third target user The third target user 430 with reference to the direction 431 in which at least one of the face and the gaze of the 430 is directed and the direction 531 in which the third guide message is displayed (eg, the normal direction of the third guide message) ) may be determined whether the head gesture performed by For example, it may be determined whether the head gesture performed by the fourth target user 440 is a valid gesture with reference to the normal direction of the fourth guide message).

예를 들어, 제1 타겟 사용자(410)의 얼굴 및 시선 중 적어도 하나가 제1 가이드 메시지가 디스플레이되는 방향(511)의 반대 방향을 향하는 상태로 제1 타겟 사용자(410)에 의해 행해지는 제스처가 유효한 제스처로서 결정될 수 있고, 제2 타겟 사용자(420)의 얼굴 및 시선 중 적어도 하나가 제2 가이드 메시지가 디스플레이되는 방향(521)의 반대 방향을 향하는 상태로 제2 타겟 사용자(420)에 의해 행해지는 제스처가 유효한 제스처로서 결정될 수 있고, 제3 타겟 사용자(430)의 얼굴 및 시선 중 적어도 하나가 제3 가이드 메시지가 디스플레이되는 방향(531)의 반대 방향을 향하는 상태로 제3 타겟 사용자(430)에 의해 행해지는 제스처가 유효한 제스처로서 결정될 수 있고, 제4 타겟 사용자(440)의 얼굴 및 시선 중 적어도 하나가 제4 가이드 메시지가 디스플레이되는 방향(541)의 반대 방향을 향하는 상태로 제4 타겟 사용자(440)에 의해 행해지는 제스처가 유효한 제스처로서 결정될 수 있다.For example, a gesture performed by the first target user 410 in a state in which at least one of the face and the gaze of the first target user 410 faces a direction opposite to the direction 511 in which the first guide message is displayed It can be determined as a valid gesture, and is performed by the second target user 420 with at least one of the face and the gaze of the second target user 420 facing a direction opposite to the direction 521 in which the second guide message is displayed. may be determined as a valid gesture, and the third target user 430 in a state in which at least one of the face and the gaze of the third target user 430 faces in a direction opposite to the direction 531 in which the third guide message is displayed. A gesture performed by the user may be determined as a valid gesture, and at least one of a face and a gaze of the fourth target user 440 faces a direction opposite to the direction 541 in which the fourth guide message is displayed. The gesture made by 440 may be determined as a valid gesture.

보다 구체적으로, 제1 타겟 사용자(410)의 얼굴 및 시선 중 적어도 하나가 제1 가이드 메시지가 디스플레이되는 방향(511)의 반대 방향을 향하는 상태에서, 제1 타겟 사용자(410)에 의해 흔들기 제스처가 행해지면 해당 흔들기 제스처가 유효한 제스처로 결정될 수 있고, 제1 타겟 사용자(410)에 의해 끄덕임 제스처가 행해지면 해당 끄덕임 제스처가 유효한 제스처로 결정될 수 있으며, 제2 타겟 사용자(420)의 얼굴 및 시선 중 적어도 하나가 제2 가이드 메시지가 디스플레이되는 방향(521)의 반대 방향을 향하는 상태에서, 제2 타겟 사용자(420)에 의해 흔들기 제스처가 행해지면 해당 흔들기 제스처가 유효한 제스처로 결정될 수 있고, 제2 타겟 사용자(420)에 의해 끄덕임 제스처가 행해지면 해당 끄덕임 제스처가 유효한 제스처로 결정될 수 있으며, 제3 타겟 사용자(430)의 얼굴 및 시선 중 적어도 하나가 제3 가이드 메시지가 디스플레이되는 방향(531)의 반대 방향을 향하는 상태에서, 제3 타겟 사용자(430)에 의해 흔들기 제스처가 행해지면 해당 흔들기 제스처가 유효한 제스처로 결정될 수 있고, 제3 타겟 사용자(430)에 의해 끄덕임 제스처가 행해지면 해당 끄덕임 제스처가 유효한 제스처로 결정될 수 있으며, 제4 타겟 사용자(440)의 얼굴 및 시선 중 적어도 하나가 제4 가이드 메시지가 디스플레이되는 방향(541)의 반대 방향을 향하는 상태에서, 제4 타겟 사용자(440)에 의해 흔들기 제스처가 행해지면 해당 흔들기 제스처가 유효한 제스처로 결정될 수 있고, 제4 타겟 사용자(440)에 의해 끄덕임 제스처가 행해지면 해당 끄덕임 제스처가 유효한 제스처로 결정될 수 있다.More specifically, in a state in which at least one of the face and the gaze of the first target user 410 faces the direction opposite to the direction 511 in which the first guide message is displayed, the shaking gesture is performed by the first target user 410 If performed, the corresponding shaking gesture may be determined as a valid gesture, and if the nod gesture is performed by the first target user 410 , the corresponding nod gesture may be determined as a valid gesture, and among the face and gaze of the second target user 420 . In a state in which at least one of the second guide messages faces in a direction opposite to the direction 521 in which the second guide message is displayed, if a shaking gesture is performed by the second target user 420 , the corresponding shaking gesture may be determined as a valid gesture, and the second target When the nod gesture is performed by the user 420 , the nod gesture may be determined as a valid gesture, and at least one of the face and the gaze of the third target user 430 is opposite to the direction 531 in which the third guide message is displayed. In the direction facing state, if a shaking gesture is performed by the third target user 430 , the shaking gesture may be determined as a valid gesture, and if the nod gesture is performed by the third target user 430 , the nod gesture is valid It may be determined as a gesture, and in a state in which at least one of the face and gaze of the fourth target user 440 faces the direction opposite to the direction 541 in which the fourth guide message is displayed, shaking by the fourth target user 440 When the gesture is performed, the corresponding shaking gesture may be determined as a valid gesture, and if the nod gesture is performed by the fourth target user 440 , the corresponding nod gesture may be determined as a valid gesture.

그 다음에, 위의 유효한 제스처인 것으로 결정되는 각 타겟 사용자(410, 420, 430, 440)의 헤드 제스처를 참조하여 각 타겟 사용자(410, 420, 430, 440)의 의도가 결정될 수 있다.Then, the intention of each target user 410 , 420 , 430 , 440 may be determined with reference to the head gesture of each target user 410 , 420 , 430 , 440 determined to be the above valid gesture.

예를 들어, 제1 내지 제4 타겟 사용자(410, 420, 430, 440)의 흔들기 제스처가 유효한 제스처로 결정되면, 해당 타겟 사용자(410, 420, 430, 440)의 의도는 취소인 것으로 결정될 수 있고, 제1 내지 제4 타겟 사용자(410, 420, 430, 440)의 끄덕임 제스처가 유효한 제스처로 결정되면, 해당 타겟 사용자(410, 420, 430, 440)의 의도는 승낙인 것으로 결정될 수 있다.For example, if the shaking gesture of the first to fourth target users 410, 420, 430, and 440 is determined as a valid gesture, it may be determined that the intention of the corresponding target user 410, 420, 430, 440 is cancellation. If the nod gesture of the first to fourth target users 410 , 420 , 430 , and 440 is determined as a valid gesture, the intention of the corresponding target user 410 , 420 , 430 , 440 may be determined to be consent.

제2 실시예second embodiment

도 8은 음성을 포함하는 가이드 메시지가 타겟 사용자에게 제공되는 상황을 예시적으로 나타내는 도면이다.8 is a diagram exemplarily illustrating a situation in which a guide message including a voice is provided to a target user.

도 8을 참조하면, 먼저, 타겟 사용자(810)의 얼굴 및 시선 중 적어도 하나가 향하는 방향(811)을 기준으로 소정 범위 내에 위치하는 메시지 전달 디바이스(850)(예를 들어, 스피커)를 통해 가이드 메시지가 제공될 수 있다. 예를 들어, 이러한 가이드 메시지는 "볼륨을 높일까요?"(또는 "Should I turn up the volume?")라는 청각 메시지일 수 있다.Referring to FIG. 8 , first, a guide through a message delivery device 850 (eg, a speaker) located within a predetermined range with respect to a direction 811 in which at least one of a face and a gaze of a target user 810 is directed. A message may be provided. For example, such a guide message could be an audible message "Should I turn up the volume?"

그 다음에, 타겟 사용자(810)의 얼굴 및 시선 중 적어도 하나가 향하는 방향(812)과 가이드 메시지가 제공되는 방향 또는 해당 가이드 메시지를 제공한 스피커(850)의 위치를 참조하여 타겟 사용자(810)에 의해 행해지는 헤드 제스처가 유효한 제스처인지 여부가 결정될 수 있다.Next, referring to the direction 812 in which at least one of the face and gaze of the target user 810 is directed and the direction in which the guide message is provided or the location of the speaker 850 providing the guide message, the target user 810 is It may be determined whether the head gesture performed by .

예를 들어, 타겟 사용자(810)의 얼굴 및 시선 중 적어도 하나가 향하는 방향(812)의 연장선상에 해당 가이드 메시지를 제공한 스피커(850)가 존재하는 상태로 해당 타겟 사용자(810)에 의해 행해지는 제스처가 유효한 제스처로서 결정될 수 있다.For example, it is performed by the target user 810 in a state where the speaker 850 providing the guide message is present on an extension of the direction 812 in which at least one of the face and the gaze of the target user 810 is directed. may be determined as a valid gesture.

보다 구체적으로, 타겟 사용자(810)의 얼굴 및 시선 중 적어도 하나가 향하는 방향(812)의 연장선상에 해당 가이드 메시지를 제공한 스피커(850)가 존재하는 상태에서, 해당 타겟 사용자(810)에 의해 오른쪽 기울임 제스처가 행해지면 해당 오른쪽 기울임 제스처가 유효한 제스처로 결정될 수 있다.More specifically, in a state in which the speaker 850 providing the guide message exists on the extension of the direction 812 in which at least one of the face and the gaze of the target user 810 is directed, by the target user 810 When the right tilt gesture is performed, the corresponding right tilt gesture may be determined as a valid gesture.

그 다음에, 위의 유효한 제스처인 것으로 결정되는 타겟 사용자(810)의 헤드 제스처를 참조하여 해당 타겟 사용자(810)의 의도가 결정될 수 있다.Then, the intention of the target user 810 may be determined with reference to the head gesture of the target user 810 determined to be the above valid gesture.

예를 들어, 타겟 사용자(810)의 오른쪽 기울임 제스처가 유효한 제스처로 결정되면, 해당 타겟 사용자(810)의 의도는 볼륨 증가인 것으로 결정될 수 있다.For example, if the right tilting gesture of the target user 810 is determined as a valid gesture, it may be determined that the intention of the target user 810 is to increase the volume.

제3 실시예third embodiment

도 9 및 도 10은 음성을 포함하는 가이드 메시지가 타겟 사용자에게 제공되는 다른 상황을 예시적으로 나타내는 도면이다.9 and 10 are diagrams exemplarily illustrating another situation in which a guide message including a voice is provided to a target user.

도 9를 참조하면, 먼저, 타겟 사용자(910)의 얼굴 및 시선 중 적어도 하나가 향하는 방향(911)을 기준으로 소정 범위 내에 위치하는 메시지 전달 디바이스(950)(예를 들어, 스피커)를 통해 가이드 메시지가 제공될 수 있다. 예를 들어, 이러한 가이드 메시지는 "문을 열기 위해서는 도어 비디오(인터폰)를 향해 끄덕이세요"(또는 "Nod to the door video to open the door")라는 청각 메시지일 수 있다.Referring to FIG. 9 , first, a guide through a message delivery device 950 (eg, a speaker) located within a predetermined range based on a direction 911 in which at least one of the face and gaze of the target user 910 is directed. A message may be provided. For example, such a guide message may be an audible message "Nod to the door video (intercom) to open the door" (or "Nod to the door video to open the door").

그 다음에, 타겟 사용자(910)의 얼굴 및 시선 중 적어도 하나가 향하는 방향(912)과 위의 가이드 메시지의 내용에 의해 지시되는 방향 또는 위치를 참조하여 타겟 사용자(910)에 의해 행해지는 헤드 제스처가 유효한 제스처인지 여부가 결정될 수 있다.Then, the head gesture performed by the target user 910 with reference to the direction 912 toward which at least one of the face and the gaze of the target user 910 is directed and the direction or location indicated by the content of the guide message above. It may be determined whether is a valid gesture.

예를 들어, 타겟 사용자(910)의 얼굴 및 시선 중 적어도 하나가 향하는 방향(912)의 연장선상에 해당 가이드 메시지에서 지시된 도어 비디오(인터폰)(960)가 존재하는 상태로 해당 타겟 사용자(910)에 의해 행해지는 제스처가 유효한 제스처로서 결정될 수 있다.For example, the target user 910 in a state in which the door video (intercom) 960 indicated in the guide message exists on the extension line of the direction 912 in which at least one of the target user 910's face and gaze is directed. ) may be determined as a valid gesture.

보다 구체적으로, 타겟 사용자(910)의 얼굴 및 시선 중 적어도 하나가 향하는 방향(912)의 연장선상에 해당 가이드 메시지의 내용에서 지시된 도어 비디오(960)가 존재하는 상태에서, 해당 타겟 사용자(910)에 의해 끄덕임 제스처가 행해지면 해당 끄덕임 제스처가 유효한 제스처로 결정될 수 있다.More specifically, in a state in which the door video 960 indicated in the content of the guide message exists on the extension line of the direction 912 in which at least one of the target user's face and gaze is directed, the corresponding target user 910 ), when a nod gesture is performed, the nod gesture may be determined as a valid gesture.

그 다음에, 위의 유효한 제스처인 것으로 결정되는 타겟 사용자(910)의 헤드 제스처를 참조하여 해당 타겟 사용자(910)의 의도가 결정될 수 있다.Then, the intention of the target user 910 may be determined with reference to the head gesture of the target user 910 determined to be the above valid gesture.

예를 들어, 타겟 사용자(910)의 끄덕임 제스처가 유효한 제스처로 결정되면, 해당 타겟 사용자(910)의 의도는 승낙인 것(즉, 도어를 개방하는 것)으로 결정될 수 있다.For example, if the nod gesture of the target user 910 is determined to be a valid gesture, the intention of the target user 910 may be determined to be consent (ie, open a door).

한편, 도 10을 참조하면, 본 발명의 일 실시예에 따라 종래의 다른 기능을 수행하는 디바이스에서 본 발명에 따른 가이드 메시지가 제공되거나, 메시지 전달 디바이스가 가이드 메시지를 제공하는 기능 외에 다른 기능을 더 수행할 수도 있다.Meanwhile, referring to FIG. 10 , according to an embodiment of the present invention, a guide message according to the present invention is provided in a device that performs other conventional functions, or a function other than the function of providing a guide message by a message delivery device is added. can also be done

예를 들어, 종래에 인터폰(즉, 종래의 다른 기능을 수행하는 디바이스)(1060)에서 호출 기능이 실행되는 경우에 그 디스플레이에서 해당 호출 기능과 연관된 텍스트를 포함하는 가이드 메시지(예를 들어, 이러한 가이드 메시지는 "열까요?"(또는 "Open?")라는 시각 메시지일 수 있다.)가 타겟 사용자(1010)에게 제공되거나, 메시지 전달 디바이스(1060)가 인터폰의 기능을 더 수행하여 호출 기능이 실행되는 경우에 그 메시지 전달 디바이스에서 해당 호출 기능과 연관된 텍스트를 포함하는 가이드 메시지가 타겟 사용자(1010)에게 제공될 수 있다. 이 경우에 타겟 사용자(1010)의 얼굴 및 시선 중 적어도 하나가 향하는 방향의 연장선상에 해당 가이드 메시지가 제공되는 인터폰(1060)이 존재하는 상태로 해당 타겟 사용자(1010)에 의해 행해지는 제스처가 유효한 제스처로서 결정될 수 있다. 보다 구체적으로, 타겟 사용자(1010)의 얼굴 및 시선 중 적어도 하나가 향하는 방향의 연장선상에 해당 가이드 메시지가 제공되는 인터폰(1060)이 존재하는 상태에서 해당 타겟 사용자(1010)에 의해 끄덕임 제스처가 행해지면 해당 끄덕임 제스처가 유효한 제스처로 결정될 수 있고, 해당 타겟 사용자(1010)의 의도는 승낙(즉, 도어를 개방)인 것으로 결정될 수 있다.For example, when a call function is conventionally executed in the intercom (ie, a device that performs other conventional functions) 1060, a guide message (eg, such The guide message may be a visual message “Shall we open?” (or “Open?”).) is provided to the target user 1010 , or the message delivery device 1060 further performs the function of an intercom so that the calling function is increased. When executed, a guide message including text related to a corresponding call function may be provided to the target user 1010 in the message delivery device. In this case, the gesture performed by the target user 1010 is valid while the intercom 1060 providing the guide message is present on an extension line in the direction in which at least one of the target user 1010's face and gaze is directed. It may be determined as a gesture. More specifically, the nod gesture is performed by the target user 1010 in a state where the intercom 1060 providing the guide message is present on an extension line in the direction in which at least one of the face and the gaze of the target user 1010 is directed. Otherwise, the nod gesture may be determined as a valid gesture, and the intention of the corresponding target user 1010 may be determined to be acceptance (ie, opening the door).

제4 실시예4th embodiment

도 11은 음성을 포함하는 가이드 메시지가 타겟 사용자에게 제공되는 또 다른 상황을 예시적으로 나타내는 도면이다.11 is a diagram illustrating another situation in which a guide message including a voice is provided to a target user.

도 11을 참조하면, 먼저, 타겟 사용자(1110)의 얼굴 및 시선 중 적어도 하나가 향하는 방향(1111)을 기준으로 소정 범위 내에 위치하는 복수의 메시지 전달 디바이스(1120, 1121, 1122, 1123)(예를 들어, 스피커)를 통해 가이드 메시지가 제공될 수 있다. 예를 들어, 이러한 가이드 메시지는 "슬립 모드로 설정해야 할까요?"(또는 " Should I set to sleep mode?")라는 청각 메시지일 수 있다. 이 경우에, 복수의 메시지 전달 디바이스(1120, 1121, 1122, 1123)에서 가이드 메시지를 제공하는 음성의 출력, 위상 등의 소리 요소가 조정됨에 따라 타겟 사용자(1110)의 얼굴 및 시선 중 적어도 하나가 향하는 방향(1111)을 기준으로 소정 범위 내에 위치하는 디스플레이(구체적으로는 디스플레이의 특정 위치)상에 위의 가이드 메시지의 음상(즉, 음성이 출력되는 것으로 인식되는 가상의 지점 또는 소리의 초점이 맺히는 지점)이 위치될 수 있다.Referring to FIG. 11 , first, a plurality of message delivery devices 1120 , 1121 , 1122 , 1123 positioned within a predetermined range with respect to the direction 1111 in which at least one of the face and the gaze of the target user 1110 are directed (examples) For example, a guide message may be provided through a speaker). For example, such a guide message could be an audible message "Should I set to sleep mode?" In this case, at least one of the face and the gaze of the target user 1110 is adjusted as sound elements such as output and phase of the voice providing the guide message are adjusted in the plurality of message delivery devices 1120 , 1121 , 1122 , and 1123 . The sound image of the guide message (that is, a virtual point where the sound is recognized as output or the sound is focused on a display (specifically, a specific position of the display) located within a predetermined range with respect to the direction 1111 is directed. point) can be located.

그 다음에, 타겟 사용자(910)의 얼굴 및 시선 중 적어도 하나가 향하는 방향(1112)과 위의 가이드 메시지가 제공되는 위치(즉, 음상의 위치)(1124)를 참조하여 타겟 사용자(1110)에 의해 행해지는 헤드 제스처가 유효한 제스처인지 여부가 결정될 수 있다.Then, referring to the direction 1112 in which at least one of the face and the gaze of the target user 910 is directed and the location (ie, the location of the sound image) 1124 where the above guide message is provided, the target user 1110 is sent to the target user 1110 . It may be determined whether the head gesture made by the user is a valid gesture.

예를 들어, 타겟 사용자(1110)의 얼굴 및 시선 중 적어도 하나가 향하는 방향(1112)의 연장선상에 위의 음상의 위치(1124) 또는 해당 가이드 메시지가 제공되는 디스플레이가 존재하는 상태로 해당 타겟 사용자(1110)에 의해 행해지는 제스처가 유효한 제스처로서 결정될 수 있다.For example, in a state in which the position 1124 of the above sound image or a display providing a corresponding guide message exists on an extension of the direction 1112 in which at least one of the face and the gaze of the target user 1110 is directed, the corresponding target user The gesture made by 1110 may be determined as a valid gesture.

보다 구체적으로, 타겟 사용자(1110)의 얼굴 및 시선 중 적어도 하나가 향하는 방향(1112)의 연장선상에 위의 음상의 위치(1124) 또는 해당 가이드 메시지가 제공되는 디스플레이가 존재하는 상태에서, 해당 타겟 사용자(1110)에 의해 끄덕임 제스처가 행해지면 해당 끄덕임 제스처가 유효한 제스처로 결정될 수 있다.More specifically, in a state in which the location 1124 of the above sound image or the display providing the guide message exists on an extension of the direction 1112 in which at least one of the face and the gaze of the target user 1110 is directed, the corresponding target When a nod gesture is performed by the user 1110 , the nod gesture may be determined as a valid gesture.

그 다음에, 위의 유효한 제스처인 것으로 결정되는 타겟 사용자(1110)의 헤드 제스처를 참조하여 해당 타겟 사용자(1110)의 의도가 결정될 수 있다.Then, the intention of the target user 1110 may be determined with reference to the head gesture of the target user 1110 determined to be the above valid gesture.

예를 들어, 타겟 사용자(1110)의 끄덕임 제스처가 유효한 제스처로 결정되면, 해당 타겟 사용자(1110)의 의도는 승낙인 것(즉, 슬립 모드를 수행하는 것)으로 결정될 수 있다.For example, if the nod gesture of the target user 1110 is determined to be a valid gesture, the intention of the target user 1110 may be determined to be acceptance (ie, performing a sleep mode).

이상 설명된 본 발명에 따른 실시예는 다양한 컴퓨터 구성요소를 통하여 실행될 수 있는 프로그램 명령어의 형태로 구현되어 컴퓨터 판독 가능한 기록 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능한 기록 매체는 프로그램 명령어, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 컴퓨터 판독 가능한 기록 매체에 기록되는 프로그램 명령어는 본 발명을 위하여 특별히 설계되고 구성된 것이거나 컴퓨터 소프트웨어 분야의 당업자에게 공지되어 사용 가능한 것일 수 있다. 컴퓨터 판독 가능한 기록 매체의 예에는, 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체, CD-ROM 및 DVD와 같은 광기록 매체, 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical medium), 및 ROM, RAM, 플래시 메모리 등과 같은, 프로그램 명령어를 저장하고 실행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령어의 예에는, 컴파일러에 의하여 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용하여 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드도 포함된다. 하드웨어 장치는 본 발명에 따른 처리를 수행하기 위하여 하나 이상의 소프트웨어 모듈로 변경될 수 있으며, 그 역도 마찬가지이다.The embodiments according to the present invention described above may be implemented in the form of program instructions that can be executed through various computer components and recorded in a computer-readable recording medium. The computer-readable recording medium may include program instructions, data files, data structures, etc. alone or in combination. The program instructions recorded on the computer-readable recording medium may be specially designed and configured for the present invention or may be known and used by those skilled in the computer software field. Examples of the computer-readable recording medium include hard disks, magnetic media such as floppy disks and magnetic tapes, optical recording media such as CD-ROMs and DVDs, and magneto-optical media such as floppy disks. medium), and hardware devices specially configured to store and execute program instructions, such as ROM, RAM, flash memory, and the like. Examples of program instructions include not only machine language codes such as those generated by a compiler, but also high-level language codes that can be executed by a computer using an interpreter or the like. A hardware device may be converted into one or more software modules to perform processing in accordance with the present invention, and vice versa.

이상에서 본 발명이 구체적인 구성요소 등과 같은 특정 사항과 한정된 실시예 및 도면에 의하여 설명되었으나, 이는 본 발명의 보다 전반적인 이해를 돕기 위하여 제공된 것일 뿐, 본 발명이 상기 실시예에 한정되는 것은 아니며, 본 발명이 속하는 기술분야에서 통상적인 지식을 가진 자라면 이러한 기재로부터 다양한 수정과 변경을 꾀할 수 있다.In the above, the present invention has been described with reference to specific matters such as specific components and limited embodiments and drawings, but these are provided to help a more general understanding of the present invention, and the present invention is not limited to the above embodiments, and the present invention is not limited to the above embodiments. Those of ordinary skill in the art to which the invention pertains can make various modifications and changes from these descriptions.

따라서, 본 발명의 사상은 상기 설명된 실시예에 국한되어 정해져서는 아니 되며, 후술하는 특허청구범위뿐만 아니라 이 특허청구범위와 균등한 또는 이로부터 등가적으로 변경된 모든 범위는 본 발명의 사상의 범주에 속한다고 할 것이다.Therefore, the spirit of the present invention should not be limited to the above-described embodiments, and the scope of the spirit of the present invention is not limited to the scope of the scope of the present invention. will be said to belong to

100: 제스처 인식 시스템
110: 가이드 메시지 관리부
120: 유효 제스처 관리부
130: 사용자 의도 관리부
140: 통신부
150: 제어부
100: gesture recognition system
110: guide message management unit
120: effective gesture management unit
130: user intent management unit
140: communication department
150: control unit

Claims (7)

제스처를 인식하는 방법으로서,
타겟 사용자에게 가이드 메시지를 제공하는 단계,
상기 타겟 사용자의 얼굴 및 시선 중 적어도 하나가 향하는 방향 및 상기 가이드 메시지와 연관되는 방향 또는 위치를 참조하여 상기 타겟 사용자에 의해 행해지는 헤드 제스처가 유효한 제스처인지 여부를 결정하는 단계, 및
상기 유효한 제스처인 것으로 결정되는 상기 타겟 사용자의 헤드 제스처를 참조하여 상기 타겟 사용자의 의도를 결정하는 단계를 포함하는
방법.
A method for recognizing a gesture, comprising:
providing a guide message to the target user;
determining whether the head gesture performed by the target user is a valid gesture by referring to a direction to which at least one of the target user's face and gaze is directed and a direction or location associated with the guide message; and
determining the intention of the target user with reference to the head gesture of the target user determined to be the valid gesture
Way.
제1항에 있어서,
상기 가이드 메시지를 제공하는 단계에서, 상기 타겟 사용자와 연관되는 메시지 전달 디바이스에서 상기 가이드 메시지가 제공되는
방법.
According to claim 1,
In the step of providing the guide message, the guide message is provided by a message delivery device associated with the target user.
Way.
제2항에 있어서,
상기 메시지 전달 디바이스는 상기 타겟 사용자와 가장 가까운 거리에 위치하는 디바이스인
방법.
3. The method of claim 2,
The message delivery device is a device located at the closest distance to the target user.
Way.
제2항에 있어서,
상기 메시지 전달 디바이스는 상기 타겟 사용자의 얼굴 및 시선 중 적어도 하나가 향하는 방향을 기준으로 소정 범위 내에 위치하는 디바이스인
방법.
3. The method of claim 2,
The message delivery device is a device located within a predetermined range based on a direction in which at least one of the target user's face and gaze is directed.
Way.
제1항에 있어서,
상기 유효한 제스처인지 여부를 결정하는 단계에서, 상기 타겟 사용자의 얼굴 및 시선 중 적어도 하나가 상기 가이드 메시지에 의해 특정되는 방향을 향하는 동안에 상기 타겟 사용자에 의해 행해지는 헤드 제스처를 상기 유효한 제스처로서 결정하는
방법.
According to claim 1,
In the step of determining whether the gesture is valid, a head gesture performed by the target user while at least one of a face and a gaze of the target user faces a direction specified by the guide message is determined as the valid gesture
Way.
제1항에 따른 방법을 실행하기 위한 컴퓨터 프로그램을 기록한 비일시성의 컴퓨터 판독 가능 기록 매체.A non-transitory computer-readable recording medium on which a computer program for executing the method according to claim 1 is recorded. 제스처를 인식하는 시스템으로서,
타겟 사용자에게 가이드 메시지를 제공하는 가이드 메시지 관리부,
상기 타겟 사용자의 얼굴 및 시선 중 적어도 하나가 향하는 방향 및 상기 가이드 메시지와 연관되는 방향 또는 위치를 참조하여 상기 타겟 사용자에 의해 행해지는 헤드 제스처가 유효한 제스처인지 여부를 결정하는 유효 제스처 관리부, 및
상기 유효한 제스처인 것으로 결정되는 상기 타겟 사용자의 헤드 제스처를 참조하여 상기 타겟 사용자의 의도를 결정하는 사용자 의도 관리부를 포함하는
시스템.
A system for recognizing gestures, comprising:
A guide message management unit that provides a guide message to the target user;
An effective gesture management unit that determines whether the head gesture performed by the target user is a valid gesture with reference to a direction to which at least one of the target user's face and gaze is directed and a direction or position associated with the guide message, and
and a user intention manager that determines the intention of the target user with reference to the head gesture of the target user determined to be the valid gesture.
system.
KR1020200067814A 2020-06-04 2020-06-04 Method, system and non-transitory computer-readable recording medium for recognizing a gesture KR20210150862A (en)

Priority Applications (3)

Application Number Priority Date Filing Date Title
KR1020200067814A KR20210150862A (en) 2020-06-04 2020-06-04 Method, system and non-transitory computer-readable recording medium for recognizing a gesture
PCT/KR2021/006911 WO2021246795A1 (en) 2020-06-04 2021-06-03 Method and system for recognizing gestures, and non-transitory computer-readable recording medium
KR1020230010347A KR102581729B1 (en) 2020-06-04 2023-01-26 Method, system and non-transitory computer-readable recording medium for recognizing a gesture

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020200067814A KR20210150862A (en) 2020-06-04 2020-06-04 Method, system and non-transitory computer-readable recording medium for recognizing a gesture

Related Child Applications (1)

Application Number Title Priority Date Filing Date
KR1020230010347A Division KR102581729B1 (en) 2020-06-04 2023-01-26 Method, system and non-transitory computer-readable recording medium for recognizing a gesture

Publications (1)

Publication Number Publication Date
KR20210150862A true KR20210150862A (en) 2021-12-13

Family

ID=78831228

Family Applications (2)

Application Number Title Priority Date Filing Date
KR1020200067814A KR20210150862A (en) 2020-06-04 2020-06-04 Method, system and non-transitory computer-readable recording medium for recognizing a gesture
KR1020230010347A KR102581729B1 (en) 2020-06-04 2023-01-26 Method, system and non-transitory computer-readable recording medium for recognizing a gesture

Family Applications After (1)

Application Number Title Priority Date Filing Date
KR1020230010347A KR102581729B1 (en) 2020-06-04 2023-01-26 Method, system and non-transitory computer-readable recording medium for recognizing a gesture

Country Status (2)

Country Link
KR (2) KR20210150862A (en)
WO (1) WO2021246795A1 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114639205A (en) * 2022-03-30 2022-06-17 中国工商银行股份有限公司 Password input device and method based on air injection induction and self-service equipment

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5743416B2 (en) * 2010-03-29 2015-07-01 ソニー株式会社 Information processing apparatus, information processing method, and program
US8235529B1 (en) * 2011-11-30 2012-08-07 Google Inc. Unlocking a screen using eye tracking information
US10025378B2 (en) * 2013-06-25 2018-07-17 Microsoft Technology Licensing, Llc Selecting user interface elements via position signal
KR102192361B1 (en) * 2013-07-01 2020-12-17 삼성전자주식회사 Method and apparatus for user interface by sensing head movement
US10613642B2 (en) * 2014-03-12 2020-04-07 Microsoft Technology Licensing, Llc Gesture parameter tuning
KR101735484B1 (en) * 2015-06-04 2017-05-15 엘지전자 주식회사 Head mounted display

Also Published As

Publication number Publication date
KR102581729B1 (en) 2023-09-25
KR20230022898A (en) 2023-02-16
WO2021246795A1 (en) 2021-12-09

Similar Documents

Publication Publication Date Title
KR102575634B1 (en) Electronic device and method for operating the same
US10410651B2 (en) De-reverberation control method and device of sound producing equipment
JP6504809B2 (en) System and method for haptically enabled projected user interface
KR102264600B1 (en) Systems and methods for adaptive notification networks
US9794699B2 (en) Hearing device considering external environment of user and control method of hearing device
CN108055408B (en) Application program control method and mobile terminal
WO2015133022A1 (en) Information processing apparatus, information processing method, and program
US20150036835A1 (en) Earpieces with gesture control
CN110235132B (en) Mobile device providing continuous authentication based on context awareness
JP6481210B2 (en) Information processing apparatus, control method, and program
US9543918B1 (en) Configuring notification intensity level using device sensors
US11004452B2 (en) Method and system for multimodal interaction with sound device connected to network
US20170034336A1 (en) Event prompting method and device
US20150139483A1 (en) Interactive Controls For Operating Devices and Systems
CN111444441B (en) Information prompting method, electronic equipment and storage medium
US11036464B2 (en) Spatialized augmented reality (AR) audio menu
US20210326479A1 (en) Permission Management Method and Terminal Device
CN111492329A (en) Apparatus, method and system for identifying target object from multiple objects
KR102581729B1 (en) Method, system and non-transitory computer-readable recording medium for recognizing a gesture
CN114761926A (en) Information acquisition method, terminal and computer storage medium
JP2023552704A (en) Proximity-based control of the second device
US20220122600A1 (en) Information processing device and information processing method
KR102606286B1 (en) Electronic device and method for noise control using electronic device
US11743588B1 (en) Object selection in computer vision
CN114967916A (en) Control method, intelligent terminal and storage medium

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
AMND Amendment
E601 Decision to refuse application
AMND Amendment
X601 Decision of rejection after re-examination