KR102280408B1 - 사용자의 손 모양 제스처를 인식하여 제어 명령을 실행하는 전자 단말 장치 및 그 동작 방법 - Google Patents

사용자의 손 모양 제스처를 인식하여 제어 명령을 실행하는 전자 단말 장치 및 그 동작 방법 Download PDF

Info

Publication number
KR102280408B1
KR102280408B1 KR1020200060732A KR20200060732A KR102280408B1 KR 102280408 B1 KR102280408 B1 KR 102280408B1 KR 1020200060732 A KR1020200060732 A KR 1020200060732A KR 20200060732 A KR20200060732 A KR 20200060732A KR 102280408 B1 KR102280408 B1 KR 102280408B1
Authority
KR
South Korea
Prior art keywords
gesture
user
control command
hand
vector
Prior art date
Application number
KR1020200060732A
Other languages
English (en)
Inventor
배종수
Original Assignee
(주)투비소프트
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by (주)투비소프트 filed Critical (주)투비소프트
Priority to KR1020200060732A priority Critical patent/KR102280408B1/ko
Priority to JP2020158130A priority patent/JP6994206B2/ja
Application granted granted Critical
Publication of KR102280408B1 publication Critical patent/KR102280408B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017—Gesture based interaction, e.g. based on a set of recognized hand gestures
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/002—Specific input/output arrangements not covered by G06F3/01 - G06F3/16
    • G06F3/005—Input arrangements through a video camera
    • G06K9/00355—
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20—Movements or behaviour, e.g. gesture recognition
    • G06V40/28—Recognition of hand or arm movements, e.g. recognition of deaf sign language

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Social Psychology (AREA)
  • Psychiatry (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Image Analysis (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

사용자의 손 모양 제스처를 인식하여 제어 명령을 실행하는 전자 단말 장치 및 그 동작 방법이 개시된다. 본 발명은 사용자가 소정의 손 모양을 취하게 되면, 카메라를 통해 사용자의 손에 대한 이미지를 획득하고, 상기 이미지에서 사용자의 손에 대한 관절 포인트들을 추출하며, 사용자의 손 영역에 대해 제스처 확인을 위한 소정의 기준 원을 생성한 후 각 관절 포인트 중 어떤 관절 포인트가 상기 기준 원 내에 속하는지 속하지 않은지 확인함으로써, 사용자의 손 모양에 대응되는 적절한 제어 명령을 실행할 수 있는 전자 단말 장치 및 그 동작 방법에 대한 것이다.

Description

사용자의 손 모양 제스처를 인식하여 제어 명령을 실행하는 전자 단말 장치 및 그 동작 방법{ELECTRONIC TERMINAL DEVICE FOR EXECUTING A CONTROL COMMAND BY RECOGNIZING A USER'S HAND GESTURE AND OPERATING METHOD THEREOF}
본 발명은 사용자의 손 모양 제스처를 인식하여 제어 명령을 실행하는 전자 단말 장치 및 그 동작 방법에 대한 것이다.
최근, 터치스크린이 탑재된 다양한 전자 단말 장치가 출시되면서, 이러한 전자 단말 장치를 제어하기 위한 다양한 인터페이싱 기술이 등장하고 있다. 터치스크린이 탑재된 전자 단말 장치는 터치스크린 상에 입력되는 사용자의 터치 입력 패턴을 인식하여 해당 패턴에 대응되는 제어 명령을 실행하는 형태로 동작한다.
아울러, 최근에는 VR(Virtual Reality) 기기 등이 등장함에 따라 별도의 콘트롤러 없이 사용자의 제스처만으로 기기를 제어할 수 있도록 하는 인터페이싱 기술에 대한 연구가 활발하게 진행되고 있다.
이러한 인터페이싱 기술은 소정의 카메라를 통해 사용자의 손 모양을 촬영한 후 촬영된 이미지에서의 사용자의 손 모양에 따라 그에 대응되는 적절한 제어 명령을 전자 단말 장치 상에 인가하도록 구성된다.
이렇게, 사용자가 특정 형태의 손 모양을 만드는 것만으로 기기를 제어할 수 있도록 하는 인터페이싱 기술은 VR 기기 등과 같이 별도의 콘트롤러를 사용하지 않는 차세대 멀티미디어 장비에서의 활용성이 높다는 점에서, 기술에 대한 수요가 점점 증가하는 추세이다.
본 발명은 사용자가 소정의 손 모양을 취하게 되면, 카메라를 통해 사용자의 손에 대한 이미지를 획득하고, 상기 이미지에서 사용자의 손에 대한 관절 포인트들을 추출하며, 사용자의 손 영역에 대해 제스처 확인을 위한 소정의 기준 원을 생성한 후 각 관절 포인트 중 어떤 관절 포인트가 상기 기준 원 내에 속하는지 속하지 않은지 확인함으로써, 사용자의 손 모양에 대응되는 적절한 제어 명령을 실행할 수 있는 전자 단말 장치 및 그 동작 방법을 제시하고자 한다.
본 발명의 일실시예에 따른 사용자의 손 모양 제스처를 인식하여 제어 명령을 실행하는 전자 단말 장치는 미리 설정된 서로 다른 복수의 제어 명령들과, 상기 복수의 제어 명령들 각각에 대응되는 것으로 미리 설정된 서로 다른 복수의 n(n은 2이상의 자연수)차원의 제스처 판단 기준 벡터들 - 상기 복수의 제스처 판단 기준 벡터들은 '0'과 '1'의 코드를 성분으로 갖는 벡터임 - 이 저장되어 있는 제스처 판단 기준 벡터 저장부, 카메라를 통해 사용자의 손(hand)을 촬영하여 상기 사용자의 손이 포함된 이미지를 획득하는 이미지 획득부, 상기 이미지에서 상기 사용자의 손 영역을 검출하고, 상기 사용자의 손 영역으로부터 n(n은 2이상의 자연수)개의 관절 포인트들을 추출하는 관절 포인트 추출부, 상기 사용자의 손 영역에 대해 제스처 확인을 위한 가상의 기준 원(circle)을 생성하는 기준 원 생성부, 상기 가상의 기준 원의 내부에 상기 n개의 관절 포인트들이 위치하는지 여부를 확인하여 상기 n개의 관절 포인트들 중 상기 가상의 기준 원의 내부에 위치하는 포인트에 대해 '1'의 코드를 할당하고, 상기 가상의 기준 원의 외부에 위치하는 포인트에 대해 '0'의 코드를 할당함으로써, 상기 n개의 관절 포인트들 각각에 할당된 코드를 성분으로 갖는 n차원의 제스처 벡터를 생성하는 제스처 벡터 생성부, 상기 제스처 판단 기준 벡터 저장부에 저장되어 있는 상기 복수의 제스처 판단 기준 벡터들 각각과 상기 제스처 벡터 간의 유사도를 연산한 후 상기 복수의 제스처 판단 기준 벡터들 중 상기 유사도가 최대로 연산된 제1 제스처 판단 기준 벡터를 확인하는 유사도 확인부 및 상기 제스처 판단 기준 벡터 저장부로부터 상기 제1 제스처 판단 기준 벡터에 대응되어 저장되어 있는 제1 제어 명령을 상기 사용자의 손의 모양에 대응되는 제어 명령으로 확인한 후 상기 제1 제어 명령을 실행하는 제어 명령 실행부를 포함한다.
또한, 본 발명의 일실시예에 따른 사용자의 손 모양 제스처를 인식하여 제어 명령을 실행하는 전자 단말 장치의 동작 방법은 미리 설정된 서로 다른 복수의 제어 명령들과, 상기 복수의 제어 명령들 각각에 대응되는 것으로 미리 설정된 서로 다른 복수의 n(n은 2이상의 자연수)차원의 제스처 판단 기준 벡터들 - 상기 복수의 제스처 판단 기준 벡터들은 '0'과 '1'의 코드를 성분으로 갖는 벡터임 - 이 저장되어 있는 제스처 판단 기준 벡터 저장부를 유지하는 단계, 카메라를 통해 사용자의 손을 촬영하여 상기 사용자의 손이 포함된 이미지를 획득하는 단계, 상기 이미지에서 상기 사용자의 손 영역을 검출하고, 상기 사용자의 손 영역으로부터 n(n은 2이상의 자연수)개의 관절 포인트들을 추출하는 단계, 상기 사용자의 손 영역에 대해 제스처 확인을 위한 가상의 기준 원을 생성하는 단계, 상기 가상의 기준 원의 내부에 상기 n개의 관절 포인트들이 위치하는지 여부를 확인하여 상기 n개의 관절 포인트들 중 상기 가상의 기준 원의 내부에 위치하는 포인트에 대해 '1'의 코드를 할당하고, 상기 가상의 기준 원의 외부에 위치하는 포인트에 대해 '0'의 코드를 할당함으로써, 상기 n개의 관절 포인트들 각각에 할당된 코드를 성분으로 갖는 n차원의 제스처 벡터를 생성하는 단계, 상기 제스처 판단 기준 벡터 저장부에 저장되어 있는 상기 복수의 제스처 판단 기준 벡터들 각각과 상기 제스처 벡터 간의 유사도를 연산한 후 상기 복수의 제스처 판단 기준 벡터들 중 상기 유사도가 최대로 연산된 제1 제스처 판단 기준 벡터를 확인하는 단계 및 상기 제스처 판단 기준 벡터 저장부로부터 상기 제1 제스처 판단 기준 벡터에 대응되어 저장되어 있는 제1 제어 명령을 상기 사용자의 손의 모양에 대응되는 제어 명령으로 확인한 후 상기 제1 제어 명령을 실행하는 단계를 포함한다.
본 발명은 사용자가 소정의 손 모양을 취하게 되면, 카메라를 통해 사용자의 손에 대한 이미지를 획득하고, 상기 이미지에서 사용자의 손에 대한 관절 포인트들을 추출하며, 사용자의 손 영역에 대해 제스처 확인을 위한 소정의 기준 원을 생성한 후 각 관절 포인트 중 어떤 관절 포인트가 상기 기준 원 내에 속하는지 속하지 않은지 확인함으로써, 사용자의 손 모양에 대응되는 적절한 제어 명령을 실행할 수 있는 전자 단말 장치 및 그 동작 방법을 제시할 수 있다.
도 1은 본 발명의 일실시예에 따른 사용자의 손 모양 제스처를 인식하여 제어 명령을 실행하는 전자 단말 장치의 구조를 도시한 도면이다.
도 2 내지 도 5는 본 발명의 일실시예에 따른 사용자의 손 모양 제스처를 인식하여 제어 명령을 실행하는 전자 단말 장치의 동작을 설명하기 위한 도면이다.
도 6은 본 발명의 일실시예에 따른 사용자의 손 모양 제스처를 인식하여 제어 명령을 실행하는 전자 단말 장치의 동작 방법을 도시한 순서도이다.
이하에서는 본 발명에 따른 실시예들을 첨부된 도면을 참조하여 상세하게 설명하기로 한다. 이러한 설명은 본 발명을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다. 각 도면을 설명하면서 유사한 참조부호를 유사한 구성요소에 대해 사용하였으며, 다르게 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함해서 본 명세서 상에서 사용되는 모든 용어들은 본 발명이 속하는 기술분야에서 통상의 지식을 가진 사람에 의해 일반적으로 이해되는 것과 동일한 의미를 가지고 있다.
본 문서에서, 어떤 부분이 어떤 구성요소를 "포함"한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성요소를 더 포함할 수 있다는 것을 의미한다. 또한, 본 발명의 다양한 실시예들에 있어서, 각 구성요소들, 기능 블록들 또는 수단들은 하나 또는 그 이상의 하부 구성요소로 구성될 수 있고, 각 구성요소들이 수행하는 전기, 전자, 기계적 기능들은 전자회로, 집적회로, ASIC(Application Specific Integrated Circuit) 등 공지된 다양한 소자들 또는 기계적 요소들로 구현될 수 있으며, 각각 별개로 구현되거나 2 이상이 하나로 통합되어 구현될 수도 있다.
한편, 첨부된 블록도의 블록들이나 흐름도의 단계들은 범용 컴퓨터, 특수용 컴퓨터, 휴대용 노트북 컴퓨터, 네트워크 컴퓨터 등 데이터 프로세싱이 가능한 장비의 프로세서나 메모리에 탑재되어 지정된 기능들을 수행하는 컴퓨터 프로그램 명령들(instructions)을 의미하는 것으로 해석될 수 있다. 이들 컴퓨터 프로그램 명령들은 컴퓨터 장치에 구비된 메모리 또는 컴퓨터에서 판독 가능한 메모리에 저장될 수 있기 때문에, 블록도의 블록들 또는 흐름도의 단계들에서 설명된 기능들은 이를 수행하는 명령 수단을 내포하는 제조물로 생산될 수도 있다. 아울러, 각 블록 또는 각 단계는 특정된 논리적 기능(들)을 실행하기 위한 하나 이상의 실행 가능한 명령들을 포함하는 모듈, 세그먼트 또는 코드의 일부를 나타낼 수 있다. 또, 몇 가지 대체 가능한 실시예들에서는 블록들 또는 단계들에서 언급된 기능들이 정해진 순서와 달리 실행되는 것도 가능함을 주목해야 한다. 예컨대, 잇달아 도시되어 있는 두 개의 블록들 또는 단계들은 실질적으로 동시에 수행되거나, 역순으로 수행될 수 있으며, 경우에 따라 일부 블록들 또는 단계들이 생략된 채로 수행될 수도 있다.
도 1은 본 발명의 일실시예에 따른 사용자의 손 모양 제스처를 인식하여 제어 명령을 실행하는 전자 단말 장치의 구조를 도시한 도면이다.
도 1을 참조하면, 본 발명에 따른 전자 단말 장치(110)는 제스처 판단 기준 벡터 저장부(111), 이미지 획득부(112), 관절 포인트 추출부(113), 기준 원 생성부(114), 제스처 벡터 생성부(115), 유사도 확인부(116) 및 제어 명령 실행부(117)를 포함한다.
제스처 판단 기준 벡터 저장부(111)에는 미리 설정된 서로 다른 복수의 제어 명령들과, 상기 복수의 제어 명령들 각각에 대응되는 것으로 미리 설정된 서로 다른 복수의 n(n은 2이상의 자연수)차원의 제스처 판단 기준 벡터들이 저장되어 있다.
여기서, 상기 복수의 제스처 판단 기준 벡터들은 '0'과 '1'의 코드를 성분으로 갖는 벡터를 의미한다.
관련해서, n을 21이라고 하는 경우, 제스처 판단 기준 벡터 저장부(111)에는 하기의 표 1과 같이 정보가 저장되어 있을 수 있다.
복수의 제어 명령들 제스처 판단 기준 벡터들
제어 명령 1 [1 0 1 1 1 1 0 0 0 0 0 1 0 1 0 0 0 0 1 1 1]
제어 명령 2 [0 0 1 1 0 1 0 0 0 0 0 1 0 1 0 1 0 0 0 1 1]
제어 명령 3 [1 1 1 1 1 1 0 0 0 0 0 0 0 1 0 0 1 0 0 0 1]
... ...
이미지 획득부(112)는 카메라를 통해 사용자의 손(hand)을 촬영하여 상기 사용자의 손이 포함된 이미지를 획득한다.
관절 포인트 추출부(113)는 상기 이미지에서 상기 사용자의 손 영역을 검출하고, 상기 사용자의 손 영역으로부터 n(n은 2이상의 자연수)개의 관절 포인트들을 추출한다.
여기서, 관절 포인트 추출부(113)는 CPM(Convolutional Pose Machines) 기술을 활용하여 상기 사용자의 손 영역으로부터 상기 n개의 관절 포인트들을 추출할 수 있다.
CPM이란 1명의 사람에 대해 사람 자세(Pose)를 출력하는 네트워크를 학습시킨 모델로, 사람의 관절 간의 관계를 이해하고, 출력을 정제(refine)하기 위해 multi-state의 네트워크 형태로 구성하고 이를 평가(evaluation)한 것이 특징인 모델이다. CNN(Convolutional Neural Networks)을 이용해 각 관절의 Heatmap을 출력하는 네트워크 구조를 가지고 있으며, Stage 1의 결과는 이미지 특징(Feature)과 함께 Stage 2의 입력으로 다시 사용되고, 이렇게 반복적으로 동일한 Heatmap 결과를 여러 Stage에 걸쳐서 처리한 최종적인 결과가 CPM 네트워크의 출력이 된다. 이렇게 하는 것은 초반의 Stage에서는 일부분의 이미지 영역을 통해 관절을 찾아내고, 후반의 Stage에서는 더욱 커진 Receptive Field의 영향으로 서로 다른 관절 간의 관계까지 고려되므로 더욱 정확한 Heatmap 결과를 얻을 수 있기 때문이다.
이때, 관절 포인트 추출부(113)는 이러한 CPM 기술을 활용하여 상기 사용자의 손 영역으로부터 도 2에 도시된 그림과 같이 주요 관절 포인트인 21개의 관절 포인트들(1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11, 12, 13, 14, 15, 16, 17, 18, 19, 20, 21)을 추출할 수 있다.
이때, 본 발명의 일실시예에 따르면, 관절 포인트 추출부(113)는 상기 n개의 관절 포인트들의 상기 사용자의 손 영역에서의 위치에 기초하여 상기 n개의 관절 포인트들 각각에 대응되는 순번을 할당할 수 있다.
관련해서, 관절 포인트 추출부(113)는 도 2에 도시된 그림과 같이, 21개의 관절 포인트들의 상기 사용자의 손 영역에서의 위치에 따라, 1부터 21까지의 순번을 하나씩 할당할 수 있다.
기준 원 생성부(114)는 상기 사용자의 손 영역에 대해 제스처 확인을 위한 가상의 기준 원(circle)을 생성한다.
관련해서, 기준 원 생성부(114)는 도 3에서 도면부호 310으로 표시한 그림과 같이, 상기 사용자의 손 영역에 대해 제스처 확인을 위한 가상의 기준 원(310)을 생성할 수 있다.
제스처 벡터 생성부(115)는 상기 가상의 기준 원의 내부에 상기 n개의 관절 포인트들이 위치하는지 여부를 확인하여 상기 n개의 관절 포인트들 중 상기 가상의 기준 원의 내부에 위치하는 포인트에 대해 '1'의 코드를 할당하고, 상기 가상의 기준 원의 외부에 위치하는 포인트에 대해 '0'의 코드를 할당함으로써, 상기 n개의 관절 포인트들 각각에 할당된 코드를 성분으로 갖는 n차원의 제스처 벡터를 생성한다.
이때, 본 발명의 일실시예에 따르면, 제스처 벡터 생성부(115)는 상기 n개의 관절 포인트들 각각에 대응되는 순번에 따라 상기 n개의 관절 포인트들 각각에 할당된 코드를 벡터의 성분으로 하나씩 지정함으로써, 상기 제스처 벡터를 생성할 수 있다.
관련해서, 도 3에 도시된 그림과 같이, 21개의 관절 포인트들이 추출되었고, 1부터 21까지의 순번이 할당되었다고 하는 경우, 제스처 벡터 생성부(115)는 21개의 관절 포인트들 중 가상의 기준 원(310)의 내부에 위치하는 포인트에 대해 '1'의 코드를 할당하고, 가상의 기준 원(310)의 외부에 위치하는 포인트에 대해 '0'의 코드를 할당할 수 있다.
그리고, 제스처 벡터 생성부(115)는 21개의 관절 포인트들의 순번에 따라 각 관절 포인트에 할당된 코드를 벡터의 성분으로 하나씩 순차적으로 지정함으로써, '[1 1 1 0 1 1 1 1 1 1 0 0 0 1 0 0 0 1 0 0 0]'이라고 하는 21차원의 제스처 벡터를 생성할 수 있다.
유사도 확인부(116)는 제스처 판단 기준 벡터 저장부(111)에 저장되어 있는 상기 복수의 제스처 판단 기준 벡터들 각각과 상기 제스처 벡터 간의 유사도를 연산한 후 상기 복수의 제스처 판단 기준 벡터들 중 상기 유사도가 최대로 연산된 제1 제스처 판단 기준 벡터를 확인한다.
이때, 본 발명의 일실시예에 따르면, 유사도 확인부(116)는 상기 복수의 제스처 판단 기준 벡터들 각각과 상기 제스처 벡터 간의 아다마르 곱(Hadamard product)을 연산하고, 상기 아다마르 곱의 연산에 따라 산출되는 벡터를 구성하는 성분에서 '1'의 코드 값이 존재하는 개수를 상기 유사도로 연산할 수 있다.
여기서, 아다마르 곱이란 같은 크기의 벡터나 행렬에서 각 성분을 곱하는 연산을 의미하는 것으로, [a b c]와 [x y z]라는 벡터가 존재할 때, 두 벡터 간의 아다마르 곱은 [ax by cz]로 연산될 수 있다.
관련해서, 전술한 예시와 같이, 제스처 벡터 생성부(115)에서 '[1 1 1 0 1 1 1 1 1 1 0 0 0 1 0 0 0 1 0 0 0]'라는 21차원의 제스처 벡터가 생성되었다고 하고, 제스처 판단 기준 벡터 저장부(111)에 상기 표 1과 같이 정보가 저장되어 있다고 하는 경우, 유사도 확인부(116)는 제스처 판단 기준 벡터 저장부(111)에 저장되어 있는 첫 번째 제스처 판단 기준 벡터인 '[1 0 1 1 1 1 0 0 0 0 0 1 0 1 0 0 0 0 1 1 1]'와 '[1 1 1 0 1 1 1 1 1 1 0 0 0 1 0 0 0 1 0 0 0]'라는 제스처 벡터 간의 아다마르 곱을 연산하여 '[1 0 1 0 1 1 0 0 0 0 0 0 0 1 0 0 0 0 0 0 0]'이라는 벡터를 산출한 후 산출된 벡터를 구성하는 성분에서 '1'의 코드 값이 존재하는 개수인 '5'를 '[1 0 1 1 1 1 0 0 0 0 0 1 0 1 0 0 0 0 1 1 1]'라는 제스처 판단 기준 벡터와 '[1 1 1 0 1 1 1 1 1 1 0 0 0 1 0 0 0 1 0 0 0]'라는 제스처 벡터 간의 유사도로 연산할 수 있다.
이러한 방식으로, 유사도 확인부(116)는 제스처 판단 기준 벡터 저장부(111)에 저장되어 있는 제스처 판단 기준 벡터들과 상기 제스처 벡터 간의 유사도를 모두 연산할 수 있다.
그 이후, 유사도 확인부(116)는 제스처 판단 기준 벡터 저장부(111)에 저장되어 있는 제스처 판단 기준 벡터들 중 상기 유사도가 최대로 연산된 제스처 판단 기준 벡터를 상기 제1 제스처 판단 기준 벡터로 확인할 수 있다.
제어 명령 실행부(117)는 제스처 판단 기준 벡터 저장부(111)로부터 상기 제1 제스처 판단 기준 벡터에 대응되어 저장되어 있는 제1 제어 명령을 상기 사용자의 손의 모양에 대응되는 제어 명령으로 확인한 후 상기 제1 제어 명령을 실행한다.
관련해서, 상기 제1 제스처 판단 기준 벡터가 '[1 1 1 1 1 1 0 0 0 0 0 0 0 1 0 0 1 0 0 0 1]'라고 하는 경우, 제어 명령 실행부(117)는 상기 표 1과 같은 제스처 판단 기준 벡터 저장부(111)로부터 '[1 1 1 1 1 1 0 0 0 0 0 0 0 1 0 0 1 0 0 0 1]'라는 제스처 판단 기준 벡터에 대응되어 저장되어 있는 '제어 명령 3'을 상기 사용자의 손 모양에 대응되는 제어 명령으로 확인한 후 '제어 명령 3'을 실행할 수 있다.
이때, 본 발명의 일실시예에 따르면, 제어 명령 실행부(117)는 제어 명령 선택 메시지 표시부(120) 및 선택 제어 명령 실행부(121)를 포함할 수 있다.
제어 명령 선택 메시지 표시부(120)는 유사도 확인부(116)에서 상기 복수의 제스처 판단 기준 벡터들 중 상기 유사도가 최대로 연산된 제스처 판단 기준 벡터가 둘 이상 존재하는 것으로 확인된 경우, 제스처 판단 기준 벡터 저장부(111)로부터 상기 둘 이상의 제스처 판단 기준 벡터들에 대응되어 저장되어 있는 둘 이상의 제어 명령들을 확인한 후 상기 둘 이상의 제어 명령들 중 어느 하나의 제어 명령을 선택할 것을 지시하는 선택 메시지를 화면 상에 표시한다.
선택 제어 명령 실행부(121)는 상기 사용자에 의해 상기 둘 이상의 제어 명령들 중 제2 제어 명령이 선택된 경우, 상기 제2 제어 명령을 상기 사용자의 손의 모양에 대응되는 제어 명령으로 확인한 후 상기 제2 제어 명령을 실행한다.
예컨대, 유사도 확인부(116)에서 유사도가 최대로 연산된 제스처 판단 기준 벡터를 확인한 결과, '[1 0 1 1 1 1 0 0 0 0 0 1 0 1 0 0 0 0 1 1 1]'와 '[1 1 1 1 1 1 0 0 0 0 0 0 0 1 0 0 1 0 0 0 1]'라는 제스처 판단 기준 벡터에 대한 유사도가 최대로 연산되었다고 하는 경우, 제어 명령 선택 메시지 표시부(120)는 상기 표 1과 같은 제스처 판단 기준 벡터 저장부(111)로부터 '제어 명령 1'과 '제어 명령 3'을 확인한 후 '제어 명령 1'과 '제어 명령 3' 중 어느 하나의 제어 명령을 선택할 것을 지시하는 선택 메시지를 화면 상에 표시할 수 있다.
이때, 사용자가 상기 선택 메시지를 보고, '제어 명령 3'을 선택하였다고 하는 경우, 선택 제어 명령 실행부(121)는 '제어 명령 3'을 상기 사용자의 손의 모양에 대응되는 제어 명령으로 확인한 후 '제어 명령 3'을 실행할 수 있다.
결국, 본 발명에 따른 전자 단말 장치(110)는 사용자가 소정의 손 모양을 취하게 되면, 카메라를 통해 사용자의 손에 대한 이미지를 획득하고, 상기 이미지에서 사용자의 손에 대한 관절 포인트들을 추출하며, 사용자의 손 영역에 대해 제스처 확인을 위한 소정의 기준 원을 생성한 후 각 관절 포인트 중 어떤 관절 포인트가 상기 기준 원 내에 속하는지 속하지 않은지 확인함으로써, 사용자의 손 모양에 대응되는 적절한 제어 명령을 실행할 수 있다. 이를 통해, 사용자는 별도의 콘트롤러 없이, 손을 이용하여 소정의 제스처를 취하는 것만으로 전자 단말 장치(110)를 손쉽게 제어할 수 있다.
본 발명에 따른 전자 단말 장치(110)는 어떤 관절 포인트가 기준 원에 포함되는지 포함되지 않는지 확인함으로써, 사용자의 손 모양에 대응되는 제스처를 결정하는 방식을 취하고 있다는 점에서, 사용자의 손이 촬영된 이미지의 크기 등에 따라 상기 기준 원의 크기나 위치가 적절하게 지정되어야 할 필요가 있다.
이와 관련해서, 본 발명의 일실시예에 따르면, 기준 원 생성부(114)는 기준 원의 크기나 위치를 적절히 지정하기 위한 구성으로, 생성부(118) 및 배치부(119)를 포함할 수 있다.
생성부(118)는 상기 사용자의 손 영역을 둘러싸는 가상의 사각 영역을 생성하고, 상기 가상의 사각 영역과, 미리 설정된 모양과 크기를 갖는 기준 사각 영역을 서로 비교하여 상기 기준 사각 영역에 대한 상기 가상의 사각 영역의 가로 축 크기 비율과 세로 축 크기 비율을 확인한 후 미리 설정된 모양과 크기를 갖는 참조 원의 가로 축 지름에 대해 상기 가로 축 크기 비율을 곱하고, 상기 참조 원의 세로 축 지름에 대해 상기 세로 축 크기 비율을 곱하여 상기 참조 원의 모양과 크기를 변경함으로써, 상기 가상의 기준 원을 생성한다.
그리고, 배치부(119)는 상기 가상의 사각 영역의 가로 축에서, 좌측 지점을 기준으로 미리 설정된 제1 상대 비율에 해당되는 제1 지점을 확인하고, 상기 가상의 사각 영역의 세로 축에서, 상단 지점을 기준으로 미리 설정된 제2 상대 비율에 해당되는 제2 지점을 확인한 후 상기 제1 지점을 통과하는 세로 선과 상기 제2 지점을 통과하는 가로 선이 만나는 교점을 상기 가상의 기준 원의 중심점으로 설정함으로써, 상기 가상의 기준 원을 상기 가상의 사각 영역 상에 배치한다.
관련해서, 도 3 내지 도 5를 참조하여, 생성부(118)와 배치부(119)의 동작을 예를 들어 설명하면 다음과 같다.
생성부(118)는 도 3에 도시된 그림과 같이, 이미지에서 사용자의 손 영역을 둘러싸는 가상의 사각 영역(320)을 생성할 수 있다.
그러고 나서, 생성부(118)는 도 4의 도면부호 410에 도시된 그림과 같이, 가상의 사각 영역(320)과, 미리 설정된 모양과 크기를 갖는 기준 사각 영역(411)을 서로 비교하여 기준 사각 영역(411)에 대한 가상의 사각 영역(410)의 가로 축 크기 비율과 세로 축 크기 비율을 확인할 수 있다.
그 이후, 생성부(118)는 도 4의 도면부호 420에 도시된 그림과 같이, 미리 설정된 모양과 크기를 갖는 참조 원(421)의 가로 축 지름에 대해 상기 가로 축 크기 비율을 곱하고, 참조 원(421)의 세로 축 지름에 대해 상기 세로 축 크기 비율을 곱하여 참조 원(421)의 모양과 크기를 변경함으로써, 가상의 기준 원(310)을 생성할 수 있다.
예컨대, 상기 가로 축 크기 비율이 '1.3', 상기 세로 축 크기 비율이 '1.8'이라고 하는 경우, 생성부(118)는 참조 원(421)의 가로 축 지름에 대해 '1.3'을 곱하고, 세로 축 지름에 대해 '1.8'을 곱함으로써, 가상의 기준 원(310)을 생성할 수 있다.
이렇게, 가상의 기준 원(310)이 생성되면, 배치부(119)는 도 5에 도시된 그림과 같이, 가상의 사각 영역(320)의 가로 축에서, 좌측 지점을 기준으로 미리 설정된 제1 상대 비율에 해당되는 제1 지점(510)을 확인하고, 가상의 사각 영역(320)의 세로 축에서, 상단 지점을 기준으로 미리 설정된 제2 상대 비율에 해당되는 제2 지점(520)을 확인할 수 있다.
예컨대, 상기 제1 상대 비율이 '3/5', 상기 제2 상대 비율이 '4/7'라고 하는 경우, 배치부(119)는 가상의 사각 영역(320)의 가로 축에서, 좌측 지점을 기준으로 '3/5'에 해당되는 지점을 제1 지점(510)으로 확인하고, 가상의 사각 영역(320)의 세로 축에서, 상단 지점을 기준으로 '4/7'에 해당되는 지점을 제2 지점(520)으로 확인할 수 있다.
그 이후, 배치부(119)는 도 5에 도시된 그림과 같이, 제1 지점(510)을 통과하는 세로 선과 제2 지점(520)을 통과하는 가로 선이 만나는 교점(530)을 가상의 기준 원(310)의 중심점으로 설정함으로써, 가상의 기준 원(310)을 가상의 사각 영역(320) 상에 배치할 수 있다. 이를 통해, 가상의 기준 원(310)은 도 3에 도시된 그림과 같이, 사용자의 손 영역 상의 적절한 위치에 적절한 크기와 모양으로 배치될 수 있다.
도 6은 본 발명의 일실시예에 따른 사용자의 손 모양 제스처를 인식하여 제어 명령을 실행하는 전자 단말 장치의 동작 방법을 도시한 순서도이다.
단계(S610)에서는 미리 설정된 서로 다른 복수의 제어 명령들과, 상기 복수의 제어 명령들 각각에 대응되는 것으로 미리 설정된 서로 다른 복수의 n(n은 2이상의 자연수)차원의 제스처 판단 기준 벡터들(상기 복수의 제스처 판단 기준 벡터들은 '0'과 '1'의 코드를 성분으로 갖는 벡터임)이 저장되어 있는 제스처 판단 기준 벡터 저장부를 유지한다.
단계(S620)에서는 카메라를 통해 사용자의 손을 촬영하여 상기 사용자의 손이 포함된 이미지를 획득한다.
단계(S630)에서는 상기 이미지에서 상기 사용자의 손 영역을 검출하고, 상기 사용자의 손 영역으로부터 n(n은 2이상의 자연수)개의 관절 포인트들을 추출한다.
단계(S640)에서는 상기 사용자의 손 영역에 대해 제스처 확인을 위한 가상의 기준 원을 생성한다.
단계(S650)에서는 상기 가상의 기준 원의 내부에 상기 n개의 관절 포인트들이 위치하는지 여부를 확인하여 상기 n개의 관절 포인트들 중 상기 가상의 기준 원의 내부에 위치하는 포인트에 대해 '1'의 코드를 할당하고, 상기 가상의 기준 원의 외부에 위치하는 포인트에 대해 '0'의 코드를 할당함으로써, 상기 n개의 관절 포인트들 각각에 할당된 코드를 성분으로 갖는 n차원의 제스처 벡터를 생성한다.
단계(S660)에서는 상기 제스처 판단 기준 벡터 저장부에 저장되어 있는 상기 복수의 제스처 판단 기준 벡터들 각각과 상기 제스처 벡터 간의 유사도를 연산한 후 상기 복수의 제스처 판단 기준 벡터들 중 상기 유사도가 최대로 연산된 제1 제스처 판단 기준 벡터를 확인한다.
단계(S670)에서는 상기 제스처 판단 기준 벡터 저장부로부터 상기 제1 제스처 판단 기준 벡터에 대응되어 저장되어 있는 제1 제어 명령을 상기 사용자의 손의 모양에 대응되는 제어 명령으로 확인한 후 상기 제1 제어 명령을 실행한다.
이때, 본 발명의 일실시예에 따르면, 단계(S630)에서는 상기 n개의 관절 포인트들의 상기 사용자의 손 영역에서의 위치에 기초하여 상기 n개의 관절 포인트들 각각에 대응되는 순번을 할당할 수 있다.
이때, 단계(S650)에서는 상기 n개의 관절 포인트들 각각에 대응되는 순번에 따라 상기 n개의 관절 포인트들 각각에 할당된 코드를 벡터의 성분으로 하나씩 지정함으로써, 상기 제스처 벡터를 생성할 수 있다.
또한, 본 발명의 일실시예에 따르면, 단계(S660)에서는 상기 복수의 제스처 판단 기준 벡터들 각각과 상기 제스처 벡터 간의 아다마르 곱을 연산하고, 상기 아다마르 곱의 연산에 따라 산출되는 벡터를 구성하는 성분에서 '1'의 코드 값이 존재하는 개수를 상기 유사도로 연산할 수 있다.
또한, 본 발명의 일실시예에 따르면, 단계(S640)에서는 상기 사용자의 손 영역을 둘러싸는 가상의 사각 영역을 생성하고, 상기 가상의 사각 영역과, 미리 설정된 모양과 크기를 갖는 기준 사각 영역을 서로 비교하여 상기 기준 사각 영역에 대한 상기 가상의 사각 영역의 가로 축 크기 비율과 세로 축 크기 비율을 확인한 후 미리 설정된 모양과 크기를 갖는 참조 원의 가로 축 지름에 대해 상기 가로 축 크기 비율을 곱하고, 상기 참조 원의 세로 축 지름에 대해 상기 세로 축 크기 비율을 곱하여 상기 참조 원의 모양과 크기를 변경함으로써, 상기 가상의 기준 원을 생성하는 단계 및 상기 가상의 사각 영역의 가로 축에서, 좌측 지점을 기준으로 미리 설정된 제1 상대 비율에 해당되는 제1 지점을 확인하고, 상기 가상의 사각 영역의 세로 축에서, 상단 지점을 기준으로 미리 설정된 제2 상대 비율에 해당되는 제2 지점을 확인한 후 상기 제1 지점을 통과하는 세로 선과 상기 제2 지점을 통과하는 가로 선이 만나는 교점을 상기 가상의 기준 원의 중심점으로 설정함으로써, 상기 가상의 기준 원을 상기 가상의 사각 영역 상에 배치하는 단계를 포함할 수 있다.
또한, 본 발명의 일실시예에 따르면, 상기 전자 단말 장치의 동작 방법은 단계(S660)에서 상기 복수의 제스처 판단 기준 벡터들 중 상기 유사도가 최대로 연산된 제스처 판단 기준 벡터가 둘 이상 존재하는 것으로 확인된 경우, 상기 제스처 판단 기준 벡터 저장부로부터 상기 둘 이상의 제스처 판단 기준 벡터들에 대응되어 저장되어 있는 둘 이상의 제어 명령들을 확인한 후 상기 둘 이상의 제어 명령들 중 어느 하나의 제어 명령을 선택할 것을 지시하는 선택 메시지를 화면 상에 표시하는 단계 및 상기 사용자에 의해 상기 둘 이상의 제어 명령들 중 제2 제어 명령이 선택된 경우, 상기 제2 제어 명령을 상기 사용자의 손의 모양에 대응되는 제어 명령으로 확인한 후 상기 제2 제어 명령을 실행하는 단계를 더 포함할 수 있다.
이상, 도 6을 참조하여 본 발명의 일실시예에 따른 사용자의 손 모양 제스처를 인식하여 제어 명령을 실행하는 전자 단말 장치의 동작 방법에 대해 설명하였다. 여기서, 본 발명의 일실시예에 따른 사용자의 손 모양 제스처를 인식하여 제어 명령을 실행하는 전자 단말 장치의 동작 방법은 도 1을 이용하여 설명한 사용자의 손 모양 제스처를 인식하여 제어 명령을 실행하는 전자 단말 장치(110)의 동작에 대한 구성과 대응될 수 있으므로, 이에 대한 보다 상세한 설명은 생략하기로 한다.
본 발명의 일실시예에 따른 사용자의 손 모양 제스처를 인식하여 제어 명령을 실행하는 전자 단말 장치의 동작 방법은 컴퓨터와의 결합을 통해 실행시키기 위한 저장매체에 저장된 컴퓨터 프로그램으로 구현될 수 있다.
또한, 본 발명의 일실시예에 따른 사용자의 손 모양 제스처를 인식하여 제어 명령을 실행하는 전자 단말 장치의 동작 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 본 발명을 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다.
이상과 같이 본 발명에서는 구체적인 구성 요소 등과 같은 특정 사항들과 한정된 실시예 및 도면에 의해 설명되었으나 이는 본 발명의 보다 전반적인 이해를 돕기 위해서 제공된 것일 뿐, 본 발명은 상기의 실시예에 한정되는 것은 아니며, 본 발명이 속하는 분야에서 통상적인 지식을 가진 자라면 이러한 기재로부터 다양한 수정 및 변형이 가능하다.
따라서, 본 발명의 사상은 설명된 실시예에 국한되어 정해져서는 아니되며, 후술하는 특허청구범위뿐 아니라 이 특허청구범위와 균등하거나 등가적 변형이 있는 모든 것들은 본 발명 사상의 범주에 속한다고 할 것이다.
110: 사용자의 손 모양 제스처를 인식하여 제어 명령을 실행하는 전자 단말 장치
111: 제스처 판단 기준 벡터 저장부 112: 이미지 획득부
113: 관절 포인트 추출부 114: 기준 원 생성부
115: 제스처 벡터 생성부 116: 유사도 확인부
117: 제어 명령 실행부 118: 생성부
119: 배치부 120: 제어 명령 선택 메시지 표시부
121: 선택 제어 명령 실행부

Claims (12)

  1. 미리 설정된 서로 다른 복수의 제어 명령들과, 상기 복수의 제어 명령들 각각에 대응되는 것으로 미리 설정된 서로 다른 복수의 n(n은 2이상의 자연수)차원의 제스처 판단 기준 벡터들 - 상기 복수의 제스처 판단 기준 벡터들은 '0'과 '1'의 코드를 성분으로 갖는 벡터임 - 이 저장되어 있는 제스처 판단 기준 벡터 저장부;
    카메라를 통해 사용자의 손(hand)을 촬영하여 상기 사용자의 손이 포함된 이미지를 획득하는 이미지 획득부;
    상기 이미지에서 상기 사용자의 손 영역을 검출하고, 상기 사용자의 손 영역으로부터 n(n은 2이상의 자연수)개의 관절 포인트들을 추출하는 관절 포인트 추출부;
    상기 사용자의 손 영역에 대해 제스처 확인을 위한 가상의 기준 원(circle)을 생성하는 기준 원 생성부;
    상기 가상의 기준 원의 내부에 상기 n개의 관절 포인트들이 위치하는지 여부를 확인하여 상기 n개의 관절 포인트들 중 상기 가상의 기준 원의 내부에 위치하는 포인트에 대해 '1'의 코드를 할당하고, 상기 가상의 기준 원의 외부에 위치하는 포인트에 대해 '0'의 코드를 할당함으로써, 상기 n개의 관절 포인트들 각각에 할당된 코드를 성분으로 갖는 n차원의 제스처 벡터를 생성하는 제스처 벡터 생성부;
    상기 제스처 판단 기준 벡터 저장부에 저장되어 있는 상기 복수의 제스처 판단 기준 벡터들 각각과 상기 제스처 벡터 간의 유사도를 연산한 후 상기 복수의 제스처 판단 기준 벡터들 중 상기 유사도가 최대로 연산된 제1 제스처 판단 기준 벡터를 확인하는 유사도 확인부; 및
    상기 제스처 판단 기준 벡터 저장부로부터 상기 제1 제스처 판단 기준 벡터에 대응되어 저장되어 있는 제1 제어 명령을 상기 사용자의 손의 모양에 대응되는 제어 명령으로 확인한 후 상기 제1 제어 명령을 실행하는 제어 명령 실행부
    를 포함하는 사용자의 손 모양 제스처를 인식하여 제어 명령을 실행하는 전자 단말 장치.
  2. 제1항에 있어서,
    상기 관절 포인트 추출부는
    상기 n개의 관절 포인트들의 상기 사용자의 손 영역에서의 위치에 기초하여 상기 n개의 관절 포인트들 각각에 대응되는 순번을 할당하고,
    상기 제스처 벡터 생성부는
    상기 n개의 관절 포인트들 각각에 대응되는 순번에 따라 상기 n개의 관절 포인트들 각각에 할당된 코드를 벡터의 성분으로 하나씩 지정함으로써, 상기 제스처 벡터를 생성하는 사용자의 손 모양 제스처를 인식하여 제어 명령을 실행하는 전자 단말 장치.
  3. 제1항에 있어서,
    상기 유사도 확인부는
    상기 복수의 제스처 판단 기준 벡터들 각각과 상기 제스처 벡터 간의 아다마르 곱(Hadamard product)을 연산하고, 상기 아다마르 곱의 연산에 따라 산출되는 벡터를 구성하는 성분에서 '1'의 코드 값이 존재하는 개수를 상기 유사도로 연산하는 사용자의 손 모양 제스처를 인식하여 제어 명령을 실행하는 전자 단말 장치.
  4. 제1항에 있어서,
    상기 기준 원 생성부는
    상기 사용자의 손 영역을 둘러싸는 가상의 사각 영역을 생성하고, 상기 가상의 사각 영역과, 미리 설정된 모양과 크기를 갖는 기준 사각 영역을 서로 비교하여 상기 기준 사각 영역에 대한 상기 가상의 사각 영역의 가로 축 크기 비율과 세로 축 크기 비율을 확인한 후 미리 설정된 모양과 크기를 갖는 참조 원의 가로 축 지름에 대해 상기 가로 축 크기 비율을 곱하고, 상기 참조 원의 세로 축 지름에 대해 상기 세로 축 크기 비율을 곱하여 상기 참조 원의 모양과 크기를 변경함으로써, 상기 가상의 기준 원을 생성하는 생성부; 및
    상기 가상의 사각 영역의 가로 축에서, 좌측 지점을 기준으로 미리 설정된 제1 상대 비율에 해당되는 제1 지점을 확인하고, 상기 가상의 사각 영역의 세로 축에서, 상단 지점을 기준으로 미리 설정된 제2 상대 비율에 해당되는 제2 지점을 확인한 후 상기 제1 지점을 통과하는 세로 선과 상기 제2 지점을 통과하는 가로 선이 만나는 교점을 상기 가상의 기준 원의 중심점으로 설정함으로써, 상기 가상의 기준 원을 상기 가상의 사각 영역 상에 배치하는 배치부
    를 포함하는 사용자의 손 모양 제스처를 인식하여 제어 명령을 실행하는 전자 단말 장치.
  5. 제1항에 있어서,
    상기 제어 명령 실행부는
    상기 유사도 확인부에서 상기 복수의 제스처 판단 기준 벡터들 중 상기 유사도가 최대로 연산된 제스처 판단 기준 벡터가 둘 이상 존재하는 것으로 확인된 경우, 상기 제스처 판단 기준 벡터 저장부로부터 상기 둘 이상의 제스처 판단 기준 벡터들에 대응되어 저장되어 있는 둘 이상의 제어 명령들을 확인한 후 상기 둘 이상의 제어 명령들 중 어느 하나의 제어 명령을 선택할 것을 지시하는 선택 메시지를 화면 상에 표시하는 제어 명령 선택 메시지 표시부; 및
    상기 사용자에 의해 상기 둘 이상의 제어 명령들 중 제2 제어 명령이 선택된 경우, 상기 제2 제어 명령을 상기 사용자의 손의 모양에 대응되는 제어 명령으로 확인한 후 상기 제2 제어 명령을 실행하는 선택 제어 명령 실행부
    를 포함하는 사용자의 손 모양 제스처를 인식하여 제어 명령을 실행하는 전자 단말 장치.
  6. 미리 설정된 서로 다른 복수의 제어 명령들과, 상기 복수의 제어 명령들 각각에 대응되는 것으로 미리 설정된 서로 다른 복수의 n(n은 2이상의 자연수)차원의 제스처 판단 기준 벡터들 - 상기 복수의 제스처 판단 기준 벡터들은 '0'과 '1'의 코드를 성분으로 갖는 벡터임 - 이 저장되어 있는 제스처 판단 기준 벡터 저장부를 유지하는 단계;
    카메라를 통해 사용자의 손(hand)을 촬영하여 상기 사용자의 손이 포함된 이미지를 획득하는 단계;
    상기 이미지에서 상기 사용자의 손 영역을 검출하고, 상기 사용자의 손 영역으로부터 n(n은 2이상의 자연수)개의 관절 포인트들을 추출하는 단계;
    상기 사용자의 손 영역에 대해 제스처 확인을 위한 가상의 기준 원(circle)을 생성하는 단계;
    상기 가상의 기준 원의 내부에 상기 n개의 관절 포인트들이 위치하는지 여부를 확인하여 상기 n개의 관절 포인트들 중 상기 가상의 기준 원의 내부에 위치하는 포인트에 대해 '1'의 코드를 할당하고, 상기 가상의 기준 원의 외부에 위치하는 포인트에 대해 '0'의 코드를 할당함으로써, 상기 n개의 관절 포인트들 각각에 할당된 코드를 성분으로 갖는 n차원의 제스처 벡터를 생성하는 단계;
    상기 제스처 판단 기준 벡터 저장부에 저장되어 있는 상기 복수의 제스처 판단 기준 벡터들 각각과 상기 제스처 벡터 간의 유사도를 연산한 후 상기 복수의 제스처 판단 기준 벡터들 중 상기 유사도가 최대로 연산된 제1 제스처 판단 기준 벡터를 확인하는 단계; 및
    상기 제스처 판단 기준 벡터 저장부로부터 상기 제1 제스처 판단 기준 벡터에 대응되어 저장되어 있는 제1 제어 명령을 상기 사용자의 손의 모양에 대응되는 제어 명령으로 확인한 후 상기 제1 제어 명령을 실행하는 단계
    를 포함하는 사용자의 손 모양 제스처를 인식하여 제어 명령을 실행하는 전자 단말 장치의 동작 방법.
  7. 제6항에 있어서,
    상기 추출하는 단계는
    상기 n개의 관절 포인트들의 상기 사용자의 손 영역에서의 위치에 기초하여 상기 n개의 관절 포인트들 각각에 대응되는 순번을 할당하고,
    상기 제스처 벡터를 생성하는 단계는
    상기 n개의 관절 포인트들 각각에 대응되는 순번에 따라 상기 n개의 관절 포인트들 각각에 할당된 코드를 벡터의 성분으로 하나씩 지정함으로써, 상기 제스처 벡터를 생성하는 사용자의 손 모양 제스처를 인식하여 제어 명령을 실행하는 전자 단말 장치의 동작 방법.
  8. 제6항에 있어서,
    상기 확인하는 단계는
    상기 복수의 제스처 판단 기준 벡터들 각각과 상기 제스처 벡터 간의 아다마르 곱(Hadamard product)을 연산하고, 상기 아다마르 곱의 연산에 따라 산출되는 벡터를 구성하는 성분에서 '1'의 코드 값이 존재하는 개수를 상기 유사도로 연산하는 사용자의 손 모양 제스처를 인식하여 제어 명령을 실행하는 전자 단말 장치의 동작 방법.
  9. 제6항에 있어서,
    상기 기준 원을 생성하는 단계는
    상기 사용자의 손 영역을 둘러싸는 가상의 사각 영역을 생성하고, 상기 가상의 사각 영역과, 미리 설정된 모양과 크기를 갖는 기준 사각 영역을 서로 비교하여 상기 기준 사각 영역에 대한 상기 가상의 사각 영역의 가로 축 크기 비율과 세로 축 크기 비율을 확인한 후 미리 설정된 모양과 크기를 갖는 참조 원의 가로 축 지름에 대해 상기 가로 축 크기 비율을 곱하고, 상기 참조 원의 세로 축 지름에 대해 상기 세로 축 크기 비율을 곱하여 상기 참조 원의 모양과 크기를 변경함으로써, 상기 가상의 기준 원을 생성하는 단계; 및
    상기 가상의 사각 영역의 가로 축에서, 좌측 지점을 기준으로 미리 설정된 제1 상대 비율에 해당되는 제1 지점을 확인하고, 상기 가상의 사각 영역의 세로 축에서, 상단 지점을 기준으로 미리 설정된 제2 상대 비율에 해당되는 제2 지점을 확인한 후 상기 제1 지점을 통과하는 세로 선과 상기 제2 지점을 통과하는 가로 선이 만나는 교점을 상기 가상의 기준 원의 중심점으로 설정함으로써, 상기 가상의 기준 원을 상기 가상의 사각 영역 상에 배치하는 단계
    를 포함하는 사용자의 손 모양 제스처를 인식하여 제어 명령을 실행하는 전자 단말 장치의 동작 방법.
  10. 제6항에 있어서,
    상기 확인하는 단계에서 상기 복수의 제스처 판단 기준 벡터들 중 상기 유사도가 최대로 연산된 제스처 판단 기준 벡터가 둘 이상 존재하는 것으로 확인된 경우, 상기 제스처 판단 기준 벡터 저장부로부터 상기 둘 이상의 제스처 판단 기준 벡터들에 대응되어 저장되어 있는 둘 이상의 제어 명령들을 확인한 후 상기 둘 이상의 제어 명령들 중 어느 하나의 제어 명령을 선택할 것을 지시하는 선택 메시지를 화면 상에 표시하는 단계; 및
    상기 사용자에 의해 상기 둘 이상의 제어 명령들 중 제2 제어 명령이 선택된 경우, 상기 제2 제어 명령을 상기 사용자의 손의 모양에 대응되는 제어 명령으로 확인한 후 상기 제2 제어 명령을 실행하는 단계
    를 더 포함하는 사용자의 손 모양 제스처를 인식하여 제어 명령을 실행하는 전자 단말 장치의 동작 방법.
  11. 제6항 내지 제10항 중 어느 한 항의 방법을 컴퓨터와의 결합을 통해 실행시키기 위한 컴퓨터 프로그램을 기록한 컴퓨터 판독 가능 기록 매체.
  12. 제6항 내지 제10항 중 어느 한 항의 방법을 컴퓨터와의 결합을 통해 실행시키기 위한 저장매체에 저장된 컴퓨터 프로그램.
KR1020200060732A 2020-05-21 2020-05-21 사용자의 손 모양 제스처를 인식하여 제어 명령을 실행하는 전자 단말 장치 및 그 동작 방법 KR102280408B1 (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
KR1020200060732A KR102280408B1 (ko) 2020-05-21 2020-05-21 사용자의 손 모양 제스처를 인식하여 제어 명령을 실행하는 전자 단말 장치 및 그 동작 방법
JP2020158130A JP6994206B2 (ja) 2020-05-21 2020-09-23 ユーザのハンドジェスチャーを認識して制御命令を実行する電子端末装置およびその動作方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020200060732A KR102280408B1 (ko) 2020-05-21 2020-05-21 사용자의 손 모양 제스처를 인식하여 제어 명령을 실행하는 전자 단말 장치 및 그 동작 방법

Publications (1)

Publication Number Publication Date
KR102280408B1 true KR102280408B1 (ko) 2021-07-22

Family

ID=77157966

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020200060732A KR102280408B1 (ko) 2020-05-21 2020-05-21 사용자의 손 모양 제스처를 인식하여 제어 명령을 실행하는 전자 단말 장치 및 그 동작 방법

Country Status (2)

Country Link
JP (1) JP6994206B2 (ko)
KR (1) KR102280408B1 (ko)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023181862A1 (ja) * 2022-03-25 2023-09-28 ソニーグループ株式会社 情報処理装置、情報処理方法、記憶媒体

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101548872B1 (ko) * 2014-06-13 2015-09-02 세종대학교산학협력단 영상처리를 이용한 손가락 인식 방법 및 시스템
KR20200051166A (ko) * 2018-11-05 2020-05-13 주식회사 한글과컴퓨터 제스처 인식 기반의 제어 명령의 실행이 가능한 전자 단말 장치 및 그 동작 방법

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101281461B1 (ko) 2012-04-24 2013-07-03 군산대학교산학협력단 영상분석을 이용한 멀티 터치 입력 방법 및 시스템
TWI475422B (zh) 2012-10-31 2015-03-01 Wistron Corp 手勢辨識方法與電子裝置
US9524028B2 (en) 2013-03-08 2016-12-20 Fastvdo Llc Visual language for human computer interfaces
JP2018132319A (ja) 2017-02-13 2018-08-23 キヤノン株式会社 情報処理装置、及び、情報処理装置の制御方法、コンピュータプログラム、記憶媒体

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101548872B1 (ko) * 2014-06-13 2015-09-02 세종대학교산학협력단 영상처리를 이용한 손가락 인식 방법 및 시스템
KR20200051166A (ko) * 2018-11-05 2020-05-13 주식회사 한글과컴퓨터 제스처 인식 기반의 제어 명령의 실행이 가능한 전자 단말 장치 및 그 동작 방법

Also Published As

Publication number Publication date
JP2021184232A (ja) 2021-12-02
JP6994206B2 (ja) 2022-01-14

Similar Documents

Publication Publication Date Title
DK2996015T3 (en) PROCEDURE TO USE IMPROVED REALITY AS HMI VIEW
US8934759B2 (en) Video editing apparatus and video editing method
KR102090116B1 (ko) 반응형 영상 생성방법 및 생성프로그램
US20130009989A1 (en) Methods and systems for image segmentation and related applications
CN109034397A (zh) 模型训练方法、装置、计算机设备及存储介质
KR20220144890A (ko) 다중 사용자 환경에서 손 제스처를 사용하여 디바이스를 제어하기 위한 방법 및 시스템
Arcoverde Neto et al. Enhanced real-time head pose estimation system for mobile device
KR101897072B1 (ko) 얼굴 라이브니스 검증 방법 및 검증 장치
CN109034063A (zh) 人脸特效的多人脸跟踪方法、装置和电子设备
JP5550124B2 (ja) 入力装置、機器、入力方法およびプログラム
CN112150551A (zh) 物体位姿的获取方法、装置和电子设备
KR102280408B1 (ko) 사용자의 손 모양 제스처를 인식하여 제어 명령을 실행하는 전자 단말 장치 및 그 동작 방법
KR102187525B1 (ko) 제스처 인식 기반의 제어 명령의 실행이 가능한 전자 단말 장치 및 그 동작 방법
US20230237777A1 (en) Information processing apparatus, learning apparatus, image recognition apparatus, information processing method, learning method, image recognition method, and non-transitory-computer-readable storage medium
US20170168584A1 (en) Operation screen display device, operation screen display method, and non-temporary recording medium
KR102280412B1 (ko) 사용자의 손 제스처에 대응되는 제어 명령 실행 및 피드백 출력을 수행하는 전자 단말 장치 및 그 동작 방법
KR100845274B1 (ko) 관람자의 시선 방향을 고려한 전시 시스템의 인터페이스방법 및 장치
KR20220090212A (ko) 기계학습 기반의 꼭짓점 추출을 통해 기울어진 차량 번호판 이미지를 직사각형화시킬 수 있는 전자 장치 및 그 동작 방법
JP2013080266A (ja) 入力装置
JP2015203680A (ja) 情報処理装置、方法、プログラム
WO2018048227A1 (ko) 다차원 반응형 영상 생성장치, 방법 및 프로그램, 및 다차원 반응형 영상 재생방법 및 프로그램
JP2019535064A (ja) 多次元反応型映像生成装置、方法及びプログラム、並びに多次元反応型映像再生方法及びプログラム
CN113515192A (zh) 用于可穿戴设备的信息处理方法、装置及可穿戴设备
KR102545256B1 (ko) 기계학습용 데이터의 분류 저장 및 검색을 지원하는 데이터 처리 장치, 및 그 동작 방법
EP4207090A1 (en) A method of learning a target object using a virtual viewpoint camera and a method of augmenting a virtual model on a real object that implements the target object using the same

Legal Events

Date Code Title Description
E701 Decision to grant or registration of patent right
GRNT Written decision to grant