KR100826878B1 - Hand shafe recognition method and apparatus for thereof - Google Patents
Hand shafe recognition method and apparatus for thereof Download PDFInfo
- Publication number
- KR100826878B1 KR100826878B1 KR1020060095012A KR20060095012A KR100826878B1 KR 100826878 B1 KR100826878 B1 KR 100826878B1 KR 1020060095012 A KR1020060095012 A KR 1020060095012A KR 20060095012 A KR20060095012 A KR 20060095012A KR 100826878 B1 KR100826878 B1 KR 100826878B1
- Authority
- KR
- South Korea
- Prior art keywords
- hand
- face
- user
- game
- skin color
- Prior art date
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
- G06F18/2155—Generating training patterns; Bootstrap methods, e.g. bagging or boosting characterised by the incorporation of unlabelled data, e.g. multiple instance learning [MIL], semi-supervised techniques using expectation-maximisation [EM] or naïve labelling
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F3/00—Board games; Raffle games
- A63F3/00697—Playing pieces
- A63F2003/007—Design of classical playing pieces, e.g. classical chess, draughts or go
- A63F2003/00712—Scissors, paper, stone or rock
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F2300/00—Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game
- A63F2300/60—Methods for processing data by generating or executing the game program
- A63F2300/61—Score computation
Landscapes
- Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
Abstract
본 발명은 손 모양을 인식하는 방법 및 이를 위한 장치에 관한 것으로서, 특별한 조명 또는 배경에 대한 제한이 없고, 사용자의 연령이나, 헤어스타일, 메이크업, 사용자의 다양한 포즈 등에 무관하게, 실시간으로 손 모양을 인식할 수 있도록 하기 위하여, 사용자가 촬상된 영상으로부터 얼굴 영역을 검출하고, 상기 검출된 얼굴 영역으로부터 얼굴의 피부색 정보를 수집하여, 상기 피부색 정보에 기초하여 손 영역을 검출한 다음, 상기 검출된 손 영역에 대한 정보에 기초하여 손 모양을 분석한다. The present invention relates to a method for recognizing a hand shape and a device therefor, and there is no particular lighting or background limitation, and the hand shape is real-time regardless of the user's age, hairstyle, makeup, or various poses of the user. In order to be recognized, the user detects a face region from the captured image, collects skin color information of the face from the detected face region, detects a hand region based on the skin color information, and then detects the hand. Analyze hand shape based on information about the area.
손 모양, 인식, 인식, 피부색, 가위바위보, 묵찌빠 Hand, Recognition, Awareness, Color, Rock Paper Scissors
Description
도 1은 본 발명의 바람직한 제1 실시예에 따른 손 모양 인식 방법의 개략적인 흐름을 나타내는 흐름도이다.1 is a flowchart showing a schematic flow of a hand recognition method according to a first embodiment of the present invention.
도 2는 본 발명의 바람직한 제2 실시예에 따라서 손 모양 인식하기 위한 방법과 손 모양을 판독할 필요가 있는 사용자의 손과의 관계를 개략적으로 설명하기 위한 도면이다. FIG. 2 is a diagram schematically illustrating a relationship between a method for recognizing a hand shape and a hand of a user who needs to read a hand shape according to a second preferred embodiment of the present invention.
도 3은 본 발명의 바람직한 제3 실시예에 따른 손 모양의 인식 방법을 이용한 가위바위보 게임을 설명하기 위한 흐름도이다. 3 is a flowchart illustrating a rock-paper-scissors game using a hand recognition method according to a third embodiment of the present invention.
도 4는 본 발명의 바람직한 제4 실시예에 따른 손 모양의 인식 방법을 이용한 묵찌빠 게임을 설명하기 위한 흐름도이다. Figure 4 is a flow chart for explaining the game Mukkippa using the hand recognition method according to a fourth embodiment of the present invention.
도 5는 본 발명의 바람직한 제6 실시예에 따른 손 모양의 인식 장치를 설명하기 위한 개략적인 구조를 나타낸 구조도이다. 5 is a structural diagram showing a schematic structure for explaining a hand recognition apparatus according to a sixth preferred embodiment of the present invention.
도 6은 본 발명의 바람직한 제7 실시예에 따른 손 모양 인식 장치를 포함하는 손을 이용한 게임 장치를 설명하기 위한 개략적인 구조를 나타낸 구조도이다. 6 is a structural diagram illustrating a schematic structure of a game device using a hand including a hand recognition apparatus according to a seventh exemplary embodiment of the present invention.
본 발명은 손 모양을 인식하는 방법 및 이를 위한 장치에 관한 것이다. The present invention relates to a method for recognizing a hand shape and an apparatus therefor.
광학 카메라, CMOS 또는 CCD 광학 센서 등과 같은 각종 화상 입력장치를 이용하여 촬영된 영상 데이터를 입력받아 대상물의 움직임을 인식하는 화상처리시스템의 응용 분야가 TV, 가정용 로봇, 게임기 등으로 확대되고 있다. 이에 사람의 동작이나 제스처, 특히 사람의 손동작에 따른 손 모양을 효과적으로 인식할 수 있는 방법에 대한 필요성이 증대되고 있다.BACKGROUND ART An application field of an image processing system that receives image data photographed using various image input devices such as an optical camera, a CMOS or a CCD optical sensor, and recognizes a movement of an object has been expanded to a TV, a home robot, a game machine, and the like. Accordingly, there is an increasing need for a method for effectively recognizing a person's motion or gesture, particularly a hand shape according to a human's hand gesture.
이러한 수요를 충족하기 위하여, 연속적인 영상에 대하여 연속하여 차분영상(differential image)을 구하여 제스처를 인식하는 방법, 대상이 되는 사람의 움직임 중에서 주요 부위의 에지를 검출하여 분석하는 방법, 광흐름(optical flow)을 이용하는 방법 및 사람의 윤곽선을 추출하여 분석하는 방법 등이 제안되었다. In order to meet such demands, a method of recognizing gestures by continuously obtaining differential images of successive images, a method of detecting and analyzing edges of major parts from the movement of a target person, and an optical flow A method using flow and a method of extracting and analyzing human contours have been proposed.
그러나, 이러한 기술들이 실제 환경에 적용하기 위해서는 다음의 몇가지 조건을 만족해야 한다. 첫째, 특별한 조명 제한이 없어야 한다. 둘째, 특정한 배경 제한이 없어야 한다. 셋째, 사용자의 연령이나, 헤어스타일, 메이크업등에 무관해야 한다. 넷째, 사용자의 다양한 포즈에 무관해야 한다. 다섯번째, 실시간 처리가 가능해야 한다. However, in order for these technologies to be applied in a real environment, some conditions must be met. First, there should be no special lighting restrictions. Second, there should be no specific background restrictions. Third, regardless of the user's age, hairstyle, makeup, etc. should be. Fourth, it should be independent of the user's various poses. Fifth, real time processing should be possible.
그러나, 상기에서 제안된 인식 방법들은 위에 언급된 조건들 중 일부분만을 만족할 뿐, 전체 조건을 만족시키지는 못하였다. 예컨대, 차분영상을 이용하여 제스처를 인식하는 방법의 경우에는, 배경이 복잡해지거나 또는 움직이는 다른 사람이 있는 경우에는 적용하기 곤란하다는 한계가 있었고, 대상이 되는 사람의 움직임 중에서 주요 부위의 에지를 검출한 다음, 이를 분석하는 방법의 경우에는, 사용자의 옷과 배경의 색상이 일치할 때 적용하기 어렵다는 문제가 있었다. 또한, 광 흐름을 이용한 방법과 사람 몸체 윤곽선 추출 방법은 많은 계산 시간을 요하기 때문에 실시간 처리에 부적하다는 문제가 있었다. However, the recognition methods proposed above only satisfy some of the above mentioned conditions, but do not satisfy the entire condition. For example, the method of recognizing a gesture using a differential image has a limitation in that it is difficult to apply when the background becomes complicated or when there is a moving person, and the edge of the main part is detected from the movement of the target person. Next, in the case of analyzing this, there is a problem that it is difficult to apply when the color of the user's clothes and the background match. In addition, the method using the light flow and the method of extracting the human body outline require a lot of computation time, and thus there is a problem in that it is not suitable for real time processing.
본 발명은 상기와 같은 문제를 해결하기 위하여, 특별한 조명 또는 배경에 대한 제한이 없고, 사용자의 연령이나, 헤어스타일, 메이크업, 사용자의 다양한 포즈 등에 무관하게, 실시간으로 손 모양을 인식하는 방법 및 이를 위한 장치를 제공하는 것을 목적으로 한다. The present invention is not limited to a special lighting or background, in order to solve the above problems, regardless of the user's age, hairstyle, makeup, various poses of the user, and the like and a method for recognizing the hand shape in real time It is an object to provide a device for.
상기한 목적을 실현하기 위한 본 발명의 일 실시예에 따른 손 모양 인식 방법은,Hand recognition method according to an embodiment of the present invention for realizing the above object,
대상이 되는 사용자의 얼굴 및 손이 포함된 영상을 입력받는 단계;Receiving an image including a face and a hand of a target user;
상기 영상으로부터 얼굴 영역을 검출하는 단계; Detecting a face region from the image;
상기 검출된 얼굴 영역으로부터 얼굴의 피부색 정보를 수집하는 단계; Collecting skin color information of a face from the detected face area;
상기 수집된 얼굴의 피부색 정보에 기초하여 피부색으로 판정된 영역들을 고립 영역으로 분류하고, 분류된 영역 내에서 가장 큰 영역을 손바닥 영역으로 판정하여 손 영역을 검출하는 단계; 및,Classifying areas determined as skin color based on the collected skin color information of the face as an isolated area, and detecting a hand area by determining the largest area within the classified area as a palm area; And,
상기 검출된 손 영역에 대한 정보에 기초하여 손 모양을 분석하는 단계를 포함한다. Analyzing the shape of the hand based on the detected hand region information.
또한, 본 발명의 또 다른 실시예에 따른 손 모양 인식 방법을 이용한 가위바 위보 게임 방법은,In addition, the scissors bar weaving game method using a hand recognition method according to another embodiment of the present invention,
게임 참가자의 얼굴 및 손을 포함하는 영상을 입력받는 단계; Receiving an image including a face and a hand of a game participant;
컴퓨터가 가위, 바위, 보 중에서 어느 하나를 선택하는 단계; The computer selecting one of the scissors, the rock and the beam;
상기 입력받은 영상을 분석하여 사용자의 손 모양이 가위, 바위, 보 중에서 어느 것인지 판단하는 단계; 및, Analyzing the input image to determine whether a user's hand is a pair of scissors, a rock, or a beam; And,
상기에서 판단된 사용자의 손 모양과 컴퓨터가 선택한 손 모양을 대비하여 승패를 결정하는 단계를 포함하는 가위바위보 게임 방법으로서, A rock-paper-scissors game method comprising the step of determining whether or not the user's hand determined and the computer-selected hand shape are determined.
여기에서 상기 사용자의 손 모양을 판단하는 단계는, 게임 참가자의 손 모양을 포함하는 영상으로부터 얼굴 영역을 검출하는 단계, 상기 검출된 얼굴 영역으로부터 얼굴의 피부색 정보를 수집하는 단계, 상기 수집된 얼굴의 피부색 정보에 기초하여 피부색으로 판정된 영역들을 고립 영역으로 분류하고, 분류된 영역 내에서 가장 큰 영역을 손바닥 영역으로 판정하여 손 영역을 검출하는 단계, 및 상기 검출된 손 영역에 대한 정보에 기초하여 손 모양을 분석하는 단계를 포함하는 가위바위보 게임 방법.The determining of the shape of the user's hand may include detecting a face region from an image including a hand shape of a game participant, collecting skin color information of the face from the detected face region, Classifying areas determined as skin color based on skin color information as isolated areas, detecting the largest area within the classified area as a palm area, and detecting a hand area based on the detected hand area Rock-paper-scissors game method comprising analyzing the shape of the hand.
또한, 본 발명의 또 다른 실시예에 따른 손 모양 인식 방법을 이용한 묵찌빠 게임 방법은, In addition, mujippa game method using a hand recognition method according to another embodiment of the present invention,
게임의 개시를 알리는 선행자를 결정하는 단계; Determining a predecessor announcing the start of the game;
선행자가 컴퓨터이면 영상 또는 음성으로 출력 게임 시작 신호를 출력하고, 선행자가 게임 참가자인 사용자이면, 영상 또는 음성으로 사용자에게 게임 시작신호를 요청한 다음 게임 시작 신호를 수신받는 게임 개시 단계; Outputting a game start signal in video or audio if the predecessor is a computer, and if the predecessor is a user who is a game participant, requesting a game start signal from the user in video or audio and then receiving a game start signal;
사용자의 얼굴 및 손을 포함하는 영상을 입력받는 단계; Receiving an image including a user's face and hands;
컴퓨터가 가위, 바위, 보 중에서 어느 하나를 선택한 다음, 이를 영상 또는 음성으로 출력하는 단계; The computer selecting one of the scissors, the rock, and the beam, and outputting it as an image or an audio;
상기 입력받은 영상을 분석하여 사용자의 손 모양이 묵찌빠 중에서 어느 것인지 판단하는 단계; Analyzing the received image to determine which of the user's hands is a mutt chipper;
상기에서 판단된 사용자의 손 모양과 컴퓨터가 선택한 손 모양이 일치하면 승패를 출력하고, 손 모양이 일치하지 않으면 묵찌바 게임 규칙에 따라 선행자를 결정한 다음, 영상 또는 음성으로 개임 재개를 요청하는 단계를 포함하는 묵찌빠 게임 방법으로서, If the user's hand shape and the computer's hand shape are determined as described above, the result of the game is outputted. If the hand shape does not match, the predecessor is determined according to the game rules. As a game of how to play mutton,
여기에서 상기 사용자의 손 모양을 판단하는 단계는, 게임 참가자의 손 모양을 포함하는 영상으로부터 얼굴 영역을 검출하는 단계, 상기 검출된 얼굴 영역으로부터 얼굴의 피부색 정보를 수집하는 단계, 상기 수집된 얼굴의 피부색 정보에 기초하여 피부색으로 판정된 영역들을 고립 영역으로 분류하고, 분류된 영역 내에서 가장 큰 영역을 손바닥 영역으로 판정하여 손 영역을 검출하는 단계, 및 상기 검출된 손 영역에 대한 정보에 기초하여 손 모양을 분석하는 단계를 포함한다. The determining of the shape of the user's hand may include detecting a face region from an image including a hand shape of a game participant, collecting skin color information of the face from the detected face region, Classifying areas determined as skin color based on skin color information as isolated areas, detecting the largest area within the classified area as a palm area, and detecting a hand area based on the detected hand area Analyzing the shape of the hand.
또한, 본 발명의 또 다른 실시예에 따른 손 모양을 인식하도록 구현되는 컴퓨터 프로그램을 갖는 컴퓨터 판독 가능한 저장매체는,In addition, a computer-readable storage medium having a computer program implemented to recognize a hand shape according to another embodiment of the present invention,
대상이 되는 사용자의 얼굴 및 손이 포함된 영상을 입력받는 단계;Receiving an image including a face and a hand of a target user;
상기 영상으로부터 얼굴 영역을 검출하는 단계; Detecting a face region from the image;
상기 검출된 얼굴 영역으로부터 얼굴의 피부색 정보를 수집하는 단계; Collecting skin color information of a face from the detected face area;
상기 수집된 얼굴의 피부색 정보에 기초하여 피부색으로 판정된 영역들을 고립 영역으로 분류하고, 분류된 영역 내에서 가장 큰 영역을 손바닥 영역으로 판정하여 손 영역을 검출하는 단계; 및, Classifying areas determined as skin color based on the collected skin color information of the face as an isolated area, and detecting a hand area by determining the largest area within the classified area as a palm area; And,
상기 검출된 손 영역에 대한 정보에 기초하여 손 모양을 분석하는 단계를 실행함으로써, 상기 적절하게 프로그램된 시스템이 이동 로봇의 위치를 인식하도록 구현되는 컴퓨터 프로그램을 갖는 컴퓨터 판독가능한 저장매체이다.A computer readable storage medium having a computer program implemented to recognize a position of a mobile robot by performing a step of analyzing a hand shape based on the information about the detected hand area.
또한, 본 발명의 또 다른 실시예에 따른 손 모양 인식장치는,In addition, the hand recognition device according to another embodiment of the present invention,
대상이 되는 사용자의 얼굴 및 손을 포함하는 영상을 입력받는 영상 입력 모듈; An image input module configured to receive an image including a face and a hand of a target user;
상기 입력된 영상에서 얼굴 영역을 추출하기 위한 얼굴 영역 추출 모듈;A face region extraction module for extracting a face region from the input image;
상기에서 추출된 얼굴 영역으로부터 얼굴에 대한 색 정보를 수집하기 위한 얼굴 영역 색정보 추출모듈;A face region color information extraction module for collecting color information of a face from the extracted face region;
상기에서 수집된 얼굴 영역의 색정보에 기초하여 상기 촬상된 사용자의 영상에서 손에 해당되는 부분을 추출하기 위한 손 영역 추출 모듈; 및, A hand region extraction module for extracting a portion corresponding to a hand from the captured image of the user based on the color information of the collected face region; And,
상기 추출된 손 영역에 기초하여 사용자가 어떤 손 모양을 하고 있었는지 판단하는 손 모양 인식 모듈을 포함한다. And a hand recognition module that determines what hand shape the user has made based on the extracted hand region.
또한, 본 발명의 또 다른 실시예에 따른 손 모양 인식 장치를 포함하는 손을 이용한 게임 장치는,In addition, a game device using a hand including a hand recognition device according to another embodiment of the present invention,
게임 참가자를 촬상하여 게임 참가자의 얼굴 및 손을 포함하는 영상을 생성하기 위한 화상입력장치; An image input apparatus for photographing a game participant and generating an image including a face and a hand of the game participant;
상기 영상을 입력받는 영상 입력 모듈, 상기 입력받은 영상에서 얼굴 영역을 추출하기 위한 얼굴 영역 추출 모듈, 얼굴 영역으로부터 얼굴에 대한 색 정보를 수집하기 위한 얼굴 영역 색정보 추출모듈, 수집된 얼굴 영역의 색정보에 기초하여 손에 해당되는 부분을 추출하기 위한 손 영역 추출 모듈 및 손 영역에 기초하여 사용자가 어떤 손 모양을 하고 있었는지 판단하는 손 모양 인식 모듈을 포함하여 구성되는 손 모양 인식장치;An image input module for receiving the image, a face region extraction module for extracting a face region from the input image, a face region color information extraction module for collecting color information about a face from the face region, and a color of the collected face region A hand shape recognition device including a hand region extraction module for extracting a portion corresponding to a hand based on the information, and a hand recognition module for determining which hand shape the user has made based on the hand region;
상기 사용자 및 사용자의 손에 대한 정보를 저장하는 저장장치;A storage device for storing information about the user and the user's hand;
상기 손 모양 인식 장치에 의하여 판단된 손 모양에 기초하여 손을 이용한 게임 장치의 대응 동작을 결정하고, 손을 이용한 게임 장치를 제어하기 위한 제어부; 및,A controller for determining a corresponding operation of the game device using the hand based on the hand shape determined by the hand recognition device, and controlling the game device using the hand; And,
상기 제어부에 의하여 결정된 사항을 사용자에게 전달하기 위한 디스플레이부 및 음성출력부를 포함한다. It includes a display unit and a voice output unit for delivering the information determined by the control unit to the user.
이하 첨부된 도면을 참조하여 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자가 본 발명을 용이하게 실시할 수 있는 바람직한 실시예를 상세히 설명한다. 또한, 도면 전체에 걸쳐 유사한 기능 및 작용을 하는 부분에 대해서는 동일한 도면 부호를 사용한다.Hereinafter, exemplary embodiments of the present invention will be described in detail with reference to the accompanying drawings. In addition, the same reference numerals are used for parts having similar functions and functions throughout the drawings.
본 발명에 따른 바람직한 제1 실시예에 따른 손 모양의 인식 방법을 하기 도 1을 참조하여 상세하게 설명한다. 도 1은 본 발명의 바람직한 제1 실시예에 따른 손 모양 인식 방법의 개략적인 흐름을 나타내는 흐름도이다. A hand recognition method according to a first preferred embodiment of the present invention will be described in detail with reference to FIG. 1. 1 is a flowchart showing a schematic flow of a hand recognition method according to a first embodiment of the present invention.
도 1을 참조하면, 먼저 화상 입력장치를 이용하여 촬상된 대상이 되는 사용자의 얼굴 및 손이 포함된 영상으로부터 얼굴 영역을 검출한다(S101). 얼굴 영역을 검출하는 방법은 당업계에 공지된 아다부스팅(AdaBoosting) 알고리즘을 사용하여, 얼굴 판단의 기준이 되는 특징을 선형적으로 결합한 다음, 이를 계층적으로 구성하여 검출하거나, 본 발명자의 공개특허공보 제 2005-60799호에 기재되어 있는 대칭축을 이용한 얼굴 검출기를 사용하여 검출할 수 있다. Referring to FIG. 1, first, a face region is detected from an image including a face and a hand of a user to be captured using an image input apparatus (S101). The method for detecting a face region may be performed by using ada boosting algorithms known in the art, linearly combining features that are the criteria for face determination, and then hierarchically constructing or detecting the features, or by using the AdaBoosting algorithm. Detection can be made using a face detector using the axis of symmetry described in Publication 2005-60799.
다음으로, 상기 단계 S101에서 검출된 얼굴 영역으로부터 얼굴의 피부색 정보를 수집한다(S105). 즉, 일단 얼굴이 검출되면 얼굴의 피부색을 모델링하여 손에 해당하는 영역을 찾는데 이용한다. 피부색을 모델링하기 위하여 본 발명에 적용할 수 있는 바람직한 방법은 다음과 같다. 먼저, 검출된 얼굴 영역을 스캐닝하면서 피부색으로 판정된 빨간색(red), 녹색(green) 및 파란색(blue) 각각에 대한 최소, 최대값(rmax, rmin, gmax, gmin, bmax, bmin)을 찾는다. 이때, 각 화소가 r > g, r > b의 조건을 만족하면 피부색으로 판정한다. Next, skin color information of the face is collected from the face area detected in step S101 (S105). That is, once a face is detected, the skin color of the face is modeled and used to find an area corresponding to the hand. Preferred methods that can be applied to the present invention to model skin color are as follows. First, the minimum and maximum values r max , r min , g max , g min , b max , for each of the red, green, and blue colors determined as skin color while scanning the detected face area b min ). At this time, when each pixel satisfies the condition of r> g and r> b, it is determined as skin color.
상기와 같은 방법에 의해 얼굴의 피부색으로부터 피부색에 관한 모델링 정보를 얻었다면, 다음 수학식 1 또는 2를 통하여 최종적으로 손의 피부색을 판정한다. 하기 수학식 1은 일정 구역[i = 0~T(폭), j = 0~T(높이)] 내에서 일차적으로 피부색으로 판정되어 얻어진 결과 영상이고, When modeling information about the skin color is obtained from the skin color of the face by the above method, the skin color of the hand is finally determined through the following equation (1) or (2). Equation 1 is a result image obtained by primarily determining the skin color in a predetermined region [i = 0 ~ T (width), j = 0 ~ T (height)],
하기 수학식 2는 상기 T(i,j)중에서 너무 약한 빨간색이거나 너무 진한 빨간색인데 피부색으로 판정된 영역을 제거하는 규칙을 적용한 결과이다. Equation 2 below is a result of applying a rule for removing a region determined as skin color that is too weak red or too dark red in the T (i, j).
다음으로, 상기 수집된 얼굴의 피부색 정보에 기초하여 손 영역을 검출한다(S110). 이를 위하여 고립화(labeling) 알고리즘을 이용하는 것이 바람직한데, 상기에서 피부색으로 이진화된 영역들을 고립 영역으로 분류한 다음, 분류된 영역 내에서 가장 큰 영역을 찾아 손바닥 영역으로 판정한다. 이러한 작업은 대상이 되는 사용자가 촬상한 영상에서 배경에 피부색과 같은 색을 갖는 영역이 없거나, 있어도 실제 손바닥 영역보다는 작다는 가정 하에서 잡음이 아닌 실제 손바닥 영역을 찾기 위한 것이다. Next, the hand region is detected based on the collected skin color information of the face (S110). For this purpose, it is preferable to use a labeling algorithm. The areas binarized by the skin color are classified as isolated areas, and the largest area within the classified areas is determined to determine the palm area. The task is to find the actual palm area, not the noise, on the assumption that there is no area having the same color as the skin color in the image captured by the target user, or even smaller than the actual palm area.
일반적인 경우 이진화된 영상에서 고립화 알고리즘을 사용하면 쉽게 손 영역을 찾을 수 있다. 그러나 사람이 반팔 옷을 입고 있거나, 옷 색상이 피부색과 유사할 경우에는, 고립화 알고리즘만으론 손바닥 영역을 찾을 수 없으므로, 이를 보완하기 위하여 손바닥 영역을 잘라내는 알고리즘을 수행하는 것이 바람직하다. In general, it is easy to find the hand region by using the isolation algorithm in the binary image. However, if a person is wearing short-sleeved clothes or the color of the clothes is similar to the skin color, the palm area cannot be found only by the isolation algorithm. Therefore, it is preferable to perform an algorithm that cuts out the palm area to compensate for this.
본 발명의 실시예에 적용할 수 있는 바람직한 손바닥 영역을 잘라내는 알고리즘의 바람직한 예로는, 먼저 대상이 되는 사용자가 촬상된 영상의 오른쪽 아래, 맨 우측에서부터 왼쪽 및 위로 주사하면서, 상기 단계 S105에서 수집한 피부색에 대응하는 화소가 존재하는지 검사한다. 그러나 이는 오른쪽 영역에 손바닥이 존재한다는 가정에 따른 것으로서, 만일, 손바닥이 왼쪽에 존재한다면 좌우 시작 방향이 바뀌는 것이 타당하다.Preferred examples of the algorithm for cutting out the preferred palm area applicable to the embodiment of the present invention include, firstly, the target user collecting the captured image in step S105 while scanning the image from the lower right and the far right and up and down of the captured image. Check whether there is a pixel corresponding to the skin color. However, this is based on the assumption that the palm exists in the right area, and if the palm exists on the left side, it is reasonable that the left and right starting directions are reversed.
다음으로, 하나의 이미지 라인에 대해서 오른쪽에서 왼쪽으로 주사하면서 피부색 화소를 만나는지 여부를 조사한다. 이때, 피부색 화소를 만나면 피부색 화소의 크기를 오른쪽에서 왼쪽으로 검사하는데, 피부색 화소의 길이가 일정 임계치 이상이면 손 부분으로 설정한 다음 손 부분 높이(height)를 증가시키고, 피부색 화소의 길이가 일정 임계치 이하이면 잡음으로 설정하며, 손 부분의 높이가 일정치 이상 증가하면 현재 손 부분을 추적하는 것으로 판정한다. 만약, 검사를 진행하면서 피부색 화소를 만나지 못하고 앞서 계산된 손 부분의 높이가 일정값(a) 이하이면 잡음으로 판정하고, 피부색 화소를 만나지 못하고 기 계산된 손 부분의 높이가 일정값(a) 이상이면 손끝으로 판정한다. 이때, 손끝으로 판정시, 손끝 부분으로부터 임계치[Th = (찾아진 얼굴 크기의 길이 * b)] 만큼 아래의 부분을 모두 피부색이 아닌 영역으로 할당한다. 이때 상기 일정값(a)는 전체 입력된 영상의 높이의 1/3인 것이 바람직하고, b는 1.5인 것이 바람직하지만, 본 발명이 이에 제한되는 것이 아니며, 상황에 따라 당업자의 선택에 의하여 가변적일 수 있다.Next, it is examined whether one of the image lines meets the skin color pixels while scanning from right to left. At this time, when the skin color pixel is met, the size of the skin color pixel is checked from right to left. If the length of the skin color pixel is greater than or equal to a predetermined threshold, the color is set to the hand and then the height of the hand is increased. If it is below, it is set as noise. If the height of the hand portion increases by a certain value or more, it is determined that the current hand portion is tracked. If, during the inspection, the skin color pixels cannot be met and the height of the previously calculated hand part is equal to or less than a predetermined value (a), it is determined as a noise, and the height of the calculated hand part that does not meet the skin color pixels is more than a predetermined value (a). If it is, it is determined by fingertips. At this time, when judging by the fingertips, all parts below the fingertip threshold threshold [Th = (length of the found face size * b)] are allocated to the non-skin color region. In this case, the predetermined value (a) is preferably 1/3 of the height of the entire input image, and b is preferably 1.5, but the present invention is not limited thereto, and may be variable according to a situation selected by those skilled in the art. Can be.
상기 과정이 종료되면 다시 하나 위의 이미지 라인으로 이동한 후, 오른쪽에서 왼쪽으로 주사하면서 피부색 화소를 만나는지 조사하는 계속해서 반복하면서 진행해 나간다. When the above process is completed, it moves back to the above image line, and then proceeds by repeating the scanning from the right to the left to check whether the skin color pixel is met.
단계 S110의 상기 손바닥 영역을 잘라내는 알고리즘에 의하여, 특정한 크기의 손바닥 영역만을 제외한 아래 영역은 모두 피부색을 갖지 않게 되어 손 영역이 검출되었다면, 상기 검출된 손 영역에 대한 정보에 기초하여 손 모양을 분석한다(S115).If the hand region is detected because all of the lower regions except the palm region having a specific size are not skin color by the algorithm of cutting the palm region of step S110, the hand shape is analyzed based on the information on the detected hand region. (S115).
손 모양을 분석하기 위하여 본 발명에 적용할 수 있는 바람직한 방법은, 상기 단계 S110에서 검출된 손 영역에 대한 정보에 기초하여 런렝스(run length) 알고리즘 및 신경망을 이용한 인식 알고리즘을 종합적으로 이용하는 것이다. A preferred method that can be applied to the present invention for analyzing a hand shape is to comprehensively use a run length algorithm and a recognition algorithm using a neural network based on the information on the hand region detected in step S110.
이때, 런랭스 알고리즘은 인식 대상 영역을 왼쪽에서 오른쪽으로 주사하면서 동일한 배경과 오브젝트 중에서 오브젝트가 몇 개가 존재하는지 검사하는 알고리즘이다. 예컨대, 하기와 같은 구성에서 0을 배경이라 하고, 1을 오브젝트라 가정하여 런랭스 알고리즘을 수행하면, 길이 8짜리 배경 3개, 길이 10짜리 배경 1개, 길이 5짜리 오브젝트 1개, 길이 6짜리 오브젝트 2개의 결과를 얻게 된다. At this time, the run length algorithm is an algorithm that checks how many objects exist among the same background and objects while scanning the recognition target area from left to right. For example, in the following configuration, if the run length algorithm is performed by assuming 0 is a background and 1 is an object, three backgrounds of eight lengths, one background of ten lengths, one object of five lengths, and six lengths You get the result of two objects.
이러한 결과에 따라, 전체 손바닥의 높이를 기준으로 손가락의 개수 즉, 길이가 3개 이상인 오브젝트의 수를 가진 행들의 수와 2개인 행들의 수, 하나인 행들의 수를 계산하면, 손가락 수에 따라 손의 모양을 구별할 수 있다. According to this result, the number of fingers based on the height of the entire palm, that is, the number of rows with two or more objects having a length of three or more, the number of rows with two, and the number of rows with one, are calculated according to the number of fingers. You can distinguish the shape of the hand.
다음으로, 상기 단계 S110에서 검출된 손 영역에 대하여, 신경망을 이용한 인식 알고리즘을 이용하여 5x5 영역의 메슈 특징을 추출한 다음, 손 모양을 인식한다. Next, with respect to the hand region detected in step S110, a mesh feature of the 5x5 region is extracted using a recognition algorithm using a neural network, and then the hand shape is recognized.
다음으로, 상기 런렝스 알고리즘을 통하여 인식된 결과와 신경망을 사용해 인식한 결과를 SVM(support vector machine)기법으로 통합하여 최종 인식 결과를 얻는다. Next, the final recognition result is obtained by integrating the result recognized through the run length algorithm and the result recognized using the neural network into a support vector machine (SVM) technique.
본 발명에 따른 바람직한 제2 실시예에 따르면, 손 모양의 인식 방법은 얼굴 영역을 검출하는 단계, 상기 검출된 얼굴 영역으로부터 얼굴의 피부색 정보를 수집하는 단계, 사용되는 손을 결정하는 단계, 상기 수집된 얼굴의 피부색 정보에 기초하여 손 영역을 검출하는 단계 및 상기 검출된 손 영역에 대한 정보에 기초하여 손 모양을 분석하는 단계를 포함한다. 즉, 상기 제1 실시예의 손 모양 인식방법과 대비하여 사용되는 손을 결정하는 단계를 더 포함하고 있다. According to a second preferred embodiment of the present invention, a hand shape recognition method includes detecting a face region, collecting skin color information of a face from the detected face region, determining a hand to be used, and collecting the face. Detecting a hand region based on skin color information of the detected face, and analyzing a hand shape based on the information on the detected hand region. That is, the method may further include determining a hand to be used in contrast to the hand recognition method of the first embodiment.
도 2는 본 발명의 바람직한 제2 실시예에 따라서 손 모양 인식하기 위한 방법과 손 모양을 판독할 필요가 있는 사용자의 손과의 관계를 개략적으로 설명하기 위한 도면이다. FIG. 2 is a diagram schematically illustrating a relationship between a method for recognizing a hand shape and a hand of a user who needs to read a hand shape according to a second preferred embodiment of the present invention.
일반적으로 사람은 2개의 손을 가지고 있지만, 필요에 따라서 분석하여야 하는 대상이 되는 손이 2개 중에서 사용되고 있는 어느 하나인 경우가 많다. 이때, 사용되는 손이 오른손인 경우에는 손바닥 영역이 얼굴을 기준으로 오른쪽에 위치하고, 사용되는 손이 왼손인 경우에는 손바닥 영역이 왼쪽에 발생된다. In general, a person has two hands, but in many cases, one of two hands is used as an object to be analyzed as necessary. At this time, when the used hand is the right hand, the palm region is located on the right side with respect to the face, and when the used hand is the left hand, the palm region is generated on the left side.
도 2를 참조하면, 상기 제2 실시예에 따른 손 모양의 인식 방법은, 손 모양 영역을 대상이 되는 사용자를 촬상한 전체 영상에서 다 찾는 것이 아니라, 일단 찾아진 얼굴 영상에 대해 상기 제1 실시예에 따른 방법으로 얼굴 인식을 수행한 후, 인식된 얼굴 정보를 바탕으로 사용자가 사용하는 손이 오른손인지 왼손인지 확인한다. 만약 사용된 손이 오른손인 경우에는 오른쪽 영역만을 손 모양 검색 영역으로 할당하고, 왼손이 사용된 경우에는 왼쪽 영역만을 손 모양 검색 영역으로 할당하여 이진화를 수행한다. Referring to FIG. 2, in the hand recognition method according to the second embodiment, the first embodiment is performed with respect to the face image once found, instead of finding the entire hand image of the user as the hand region. After performing the face recognition by the method according to the example, it is checked whether the hand used by the user is the right hand or the left hand based on the recognized face information. If the used hand is the right hand, only the right region is assigned to the hand search region, and if the left hand is used, only the left region is assigned to the hand search region to perform binarization.
본 발명에 따른 바람직한 제3 실시예에 따른 손 모양의 인식 방법을 이용한 가위바위보 게임 방법을 하기 도 3을 참조하여 상세하게 설명한다. 도 3은 본 발명의 바람직한 제3 실시예에 따른 손 모양의 인식 방법을 이용한 가위바위보 게임을 설명하기 위한 흐름도이다. A rock-paper-scissors game method using a hand recognition method according to a third preferred embodiment of the present invention will be described in detail with reference to FIG. 3. 3 is a flowchart illustrating a rock-paper-scissors game using a hand recognition method according to a third embodiment of the present invention.
도 3을 참조하면, 먼저 가위바위보 게임이 시작되는 것을 알리기 위하여 게 임 개시 신호를 출력한다(S300). 이는 영상 또는 음성으로 행하여질 수 있다. 일반적으로 가위바위보를 순서대로 출력하는 방법이 사용될 수 있고, 1~3의 숫자를 순방향 또는 역방향으로 출력하는 방법이 사용될 수 있다.Referring to FIG. 3, first, a game start signal is output to notify that a rock-paper-scissors game starts (S300). This can be done with video or audio. In general, a method of outputting the rock-paper-scissors in order may be used, and a method of outputting a number of 1 to 3 in the forward or reverse direction may be used.
다음으로, 게임 참가자인 사용자의 얼굴 및 손을 포함하는 영상을 입력받고, 컴퓨터는 가위, 바위 또는 보 중에서 어느 하나를 선택한다(S305). 이때, 사용자의 얼굴 및 손을 포함하는 영상을 입력받는 단계는 특정한 손 모양을 취하고 있는 사용자를 얼굴과 손이 포함되도록 전체적으로 촬상한 다음 상기 영상을 입력받는 것을 의미한다. 상기 영상을 입력받고 나서, 컴퓨터가 가위, 바위 또는 보 중에서 어느 하나를 선택하는 것이 바람직 하지만, 컴퓨터가 가위, 바위 또는 보 중에서 어느 하나를 먼저 선택하고 나서 사용자의 손 모양을 입력받을 수 있다. Next, an image including a face and a hand of a user who is a game participant is input, and the computer selects one of the scissors, the rock, and the beam (S305). At this time, the step of receiving an image including the user's face and hand means that the user who takes a specific hand shape is photographed as a whole to include the face and the hand, and then the image is input. After receiving the image, it is preferable that the computer selects one of the scissors, the rock, or the beam, but the computer first selects one of the scissors, the rock, or the beam, and then the user's hand may be input.
이때, 컴퓨터가 가위, 바위 또는 보 중에서 어느 하나를 선택하는 단계는, 게임 참가자와 가위바위보 게임을 진행하기 위한 대응되는 손 모양을 임의로 결정하는 단계로서, 랜덤함수를 이용하여 결정하는 것이 바람직하다. In this case, the step of selecting one of the scissors, the rock, or the beam by the computer is a step of arbitrarily determining a corresponding hand shape for playing the rock-paper-scissors game with the game participant. .
다음으로, 상기 입력받은 영상을 분석하여, 사용자의 손 모양이 가위, 바위, 보 중에서 어느 것인지 판단한다(S310). 이때, 상기 사용자의 손 모양을 판단하는 단계는 상기 제1 실시예 또는 제2 실시예의 손 모양 인식방법을 사용하는 것이 바람직하다. Next, by analyzing the input image, it is determined whether the user's hand shape is scissors, rocks, beams (S310). In this case, the determining of the hand shape of the user may use the hand recognition method of the first or second embodiment.
다음으로, 상기 손 모양이 결정되면, 상기 S310단계에서 결정된 손 모양과 상기 S305단계에서 컴퓨터가 선택한 손 모양을 비교하여, 가위바위보 게임의 규칙에 기초하여 승패를 결정한다(S315). 일반적인 가위바위보 게임은 손 모양이 같은 경우에는 무승부이지만, 손 모양이 다른 경우에는 가위가 보를 이기고, 보가 바위를 이기며, 바위는 가위를 이기는 것을 규칙으로 한다. 그러나, 게임을 시작하기 전에 상기 규칙을 다르게 수정할 수 있으며, 이렇게 규칙이 수정되었다면, 수정된 규칙에 따라서 승패가 결정된다. Next, when the hand shape is determined, the hand shape determined in step S310 is compared with the hand shape selected by the computer in step S305, and the win / loss is determined based on the rules of the rock-paper-scissors game (S315). A typical rock-paper-scissors game is a draw if the hands are the same, but if the hands are different, the rule is that the scissors win the beam, the beam wins the rock, and the rock wins the scissors. However, the rule may be modified differently before starting the game, and if the rule is modified, the winning or losing is decided according to the modified rule.
상기와 같이 승패가 결정되었다면, 이를 사용자에게 알리기 위하여 영상 또는 음성으로 출력하고(S320), 게임을 다시 재개할 것인지 여부를 사용자에게 입력받기 위하여 대기한다(S325). 만일 사용자로부터 가위바위보 게임을 재개한다는 입력을 받았다면, 상기 단계 S300부터 다시 시작된다. If the win or loss is determined as described above, to output the video or audio to inform the user (S320), and waits to receive input from the user whether to resume the game (S325). If an input from the user to resume the rock-paper-scissors game is received, the process starts again from the step S300.
상기 제3 실시예와 관련하여 본 발명에 적용할 수 있는 바람직한 실시예로서, 상기 S300단계 전에, 사용자의 호칭을 입력받아 저장하는 단계를 더 포함하고, 가위바위보 게임의 승패를 결정하는 상기 S315단계 이후에 사용자의 전적을 계산하여 상기 입력받은 호칭과 함께 출력하는 단계를 더 포함할 수 있다. As a preferred embodiment applicable to the present invention with respect to the third embodiment, before the step S300, further comprising the step of receiving and storing the user's name, the rock-paper-scissors game determines the win or lose the S315 After the step may further include the step of calculating the user's record and the output along with the received title.
또한, 상기 제3 실시예와 관련하여 본 발명에 적용할 수 있는 바람직한 실시예로서, 상기 컴퓨터가 가위, 바위 또는 보 중에서 어느 하나를 선택하는 S305 단계 이후 및 승패를 결정하는 S315 단계 이전에, 상기 S305 단계에서 컴퓨터가 선택한 손 모양을 디스플레이하는 단계를 더 포함할 수 있다. In addition, as a preferred embodiment applicable to the present invention with respect to the third embodiment, after the step S305 in which the computer selects any of scissors, rocks or beams and before the step S315 in which the win or loss is determined, In operation S305, the method may further include displaying a hand shape selected by the computer.
본 발명에 따른 바람직한 제4 실시예에 따른 손 모양의 인식 방법을 이용한 묵찌빠 게임 방법을 하기 도 4를 참조하여 상세하게 설명한다. 도 4는 본 발명의 바람직한 제4 실시예에 따른 손 모양의 인식 방법을 이용한 묵찌빠 게임을 설명하기 위한 흐름도이다. The mutt papp game method using the hand recognition method according to the fourth embodiment of the present invention will be described in detail with reference to FIG. 4. Figure 4 is a flow chart for explaining the game Mukkippa using the hand recognition method according to a fourth embodiment of the present invention.
도 4를 참조하면, 먼저 묵찌빠 게임의 개시를 알리는 선행자를 결정한다(S400). 이는 선행자의 손 모양 결정에 대응하여 상대방이 결정한 손 모양에 따라 승패가 결정되는 묵찌빠 게임의 특성에 따른 것으로서, 초기값으로 컴퓨터를 설정하는 것이 바람직하다. Referring to FIG. 4, first, a predecessor for notifying the start of the game is determined (S400). This is in accordance with the characteristics of the game of Mukjipa that win or lose is determined according to the hand shape determined by the opponent in response to the hand shape of the predecessor, it is preferable to set the computer to the initial value.
다음으로, 선행자가 누구인지 판단하여(S405), 선행자가 컴퓨터이면 영상 또는 음성으로 게임 시작 신호를 출력하고(S410), 선행자가 컴퓨터가 아니라 게임 참가자인 사용자이면, 영상 또는 음성으로 사용자에게 게임 시작신호를 요청한 다음(S415), 게임 시작 신호를 수신받는다(S420).Next, by determining who the predecessor is (S405), if the predecessor is a computer outputs the game start signal by video or audio (S410), if the predecessor is a user who is a game participant rather than a computer, start the game to the user by video or audio After requesting a signal (S415), the game start signal is received (S420).
이때, 본 발명에 적용할 수 있는 게임 시작 신호는 디스플레이 장치를 통하여 디스플레이 하거나, 음성 출력장치를 통하여 행하는 것이 바람직하다. 일반적으로 묵찌빠를 순서대로 디스플레이 또는 음성 출력하는 방법이 사용될 수 있고, 1~3의 숫자를 순방향 또는 역방향으로 출력하는 방법이 사용될 수 있다.In this case, the game start signal applicable to the present invention is preferably displayed through a display device or through a voice output device. In general, a method of displaying or outputting mujipa in order may be used, and a method of outputting numbers 1 to 3 in a forward or reverse direction may be used.
다음으로, 게임 참가자인 사용자의 얼굴 및 손을 포함하는 영상을 입력받고 나서(S425), 컴퓨터는 묵, 찌 또는 빠 중에서 어느 하나를 선택한 다음(S430), 이렇게 결정된 것을 영상 또는 음성으로 출력한다(S435). 이때, 사용자의 손 모양을 입력받고 나서, 상기 S430단계를 행하는 것이 바람직 하지만, 사용자의 손 모양을 입력받기 전에 S430단계를 행할 수도 있다. Next, after receiving an image including a face and a hand of a user who is a game participant (S425), the computer selects one of mute, bob, or bar (S430), and then outputs the determined image or audio (S430). S435). At this time, the step S430 is preferably performed after receiving the user's hand, but the step S430 may be performed before the user's hand is input.
이때, 컴퓨터가 묵, 찌 또는 빠 중에서 어느 하나를 선택하는 S430단계는, 사용자와 묵찌빠 게임을 진행하기 위한 대응되는 손 모양을 임의로 결정하는 단계로서, 랜덤함수를 이용하여 결정하는 것이 바람직하다. In this case, the step S430 in which the computer selects one of the mute, the bob, or the bar, is a step of arbitrarily determining a corresponding hand shape for playing the game with the user, preferably using a random function.
다음으로, 상기 S425단계에서 입력받은 사용자의 손 모양을 분석하여, 손 모양이 가위, 바위, 보 중에서 어느 것인지 판단한다(S440). 이때, 상기 입력된 사용자의 손 모양을 판단하는 단계는 상기 제1 실시예 또는 제2 실시예의 손 모양 인식방법을 사용하는 것이 바람직하다. Next, by analyzing the shape of the user's hand received in step S425, it is determined whether the hand shape is scissors, rocks, beams (S440). In this case, it is preferable to use the hand recognition method of the first or second embodiment to determine the input hand shape of the user.
다음으로, 상기 손 모양이 결정되면, 이렇게 결정된 손 모양과 상기 단계 S430에서 컴퓨터가 선택한 손 모양을 비교하여, 묵찌빠 게임의 규칙에 기초하여 승패를 결정하기 위해 손 모양이 일치하는지 여부를 판단한다(S445). 일반적인 묵찌빠 게임은 선행자가 제시한 손 모양에 대하여 상대방이 일치하는 손 모양을 제시하는 경우에는 선행자가 이기지만, 일치하지 않는 손 모양을 제시하는 경우에는 승패가 결정되지 않는다.Next, when the hand shape is determined, the hand shape thus determined is compared with the hand shape selected by the computer in step S430, and it is determined whether or not the hand shape matches to determine a win or loss based on the rules of the game. S445). In a typical mute game, the player wins when the opponent presents the matching hand with respect to the hand presented by the predecessor, but the winner is not determined when the hand does not match.
상기 단계 S445를 통하여 승패가 결정되면 영상 또는 음성으로 승패를 출력하고(S450), 승패가 결정되지 않으면, 선행자를 바꾼 다음(S465) 게임을 재개하는데, 묵과 찌가 제시된 경우에는 묵을 제시한 측이, 찌와 빠가 제시된 경우에는 찌를 제시한 측이, 빠와 묵이 제시된 경우에는 빠를 제시한 측이 선행자가 된다. 그러나, 게임을 시작하기 전에 상기 규칙을 다르게 수정할 수 있으며, 이렇게 규칙이 수정되었다면, 수정된 규칙에 따르는 것이 바람직하다. If the outcome is determined through the step S445, the outcome is output by video or audio (S450), and if the outcome is not determined, the predecessor is changed (S465), and the game is resumed. The predicate is the one who presented the bob, if the bob and mu were presented. However, the rule may be modified differently before starting the game, and if the rule is modified, it is desirable to follow the modified rule.
상기 단계 S450을 통하여 승패가 출력되고 나면, 다시 묵찌빠 게임을 재개할 것인지 여부를 사용자에게 입력받기 위하여 대기한다(S460). 만일 사용자로부터 게 임을 재개한다는 입력을 받으면, 전 게임의 결과에 기초하여 선행자를 결정한 다음(S465), 상기 단계 S405부터 다시 시작된다. After the win or loss is output through the step S450, the user waits to receive input from the user whether to resume the game. If the user receives an input to resume the game, the predecessor is determined based on the result of the previous game (S465), and then starts again from the above step S405.
상기 제4 실시예와 관련하여 본 발명에 적용할 수 있는 바람직한 실시예로서, 상기 S400단계 전에, 게임 참가자의 호칭을 입력받아 저장하는 단계를 더 포함하고, 게임의 승패를 출력하는 상기 S450단계에서, 게임 참가자의 전적을 계산하여 상기 입력받은 호칭과 함께 출력하는 단계를 더 포함할 수 있다. As a preferred embodiment applicable to the present invention with respect to the fourth embodiment, before the step S400, further comprising the step of receiving and storing the title of the game participant, in the step S450 to output the game win or lose The method may further include calculating a record of a game participant and outputting the received title along with the received title.
본 발명에 따른 바람직한 제5 실시예에 따르면, 손 모양을 인식하도록 구현되는 컴퓨터 프로그램을 갖는 컴퓨터 판독 가능한 저장매체는, 대상이 되는 사용자를 촬상한 영상으로부터 얼굴 영역을 검출하는 단계, 상기 검출된 얼굴 영역으로부터 얼굴의 피부색 정보를 수집하는 단계, 상기 수집된 얼굴의 피부색 정보에 기초하여 손 영역을 검출하는 단계 및 상기 검출된 손 영역에 대한 정보에 기초하여 손 모양을 분석하는 단계를 실행함으로써, 상기 적절하게 프로그램된 시스템이 이동 로봇의 위치를 인식하도록 구현되는 컴퓨터 프로그램을 갖는 컴퓨터 판독가능한 저장매체이다.According to a fifth preferred embodiment of the present invention, a computer-readable storage medium having a computer program implemented to recognize a hand shape includes detecting a face region from an image of a target user, and detecting the face. Collecting skin color information of a face from an area, detecting a hand area based on the collected skin color information of the face, and analyzing a hand shape based on the detected hand area information; A suitably programmed system is a computer readable storage medium having a computer program implemented to recognize the position of a mobile robot.
본 발명에 따른 바람직한 제6 실시예에 따른 손 모양 인식 장치에 관하여 하기 도 5를 참조하여 상세하게 설명한다. 도 5는 본 발명의 바람직한 제6 실시예에 따른 손 모양의 인식 장치를 설명하기 위한 개략적인 구조를 나타낸 구조도이다. A hand recognition apparatus according to a sixth exemplary embodiment of the present invention will be described in detail with reference to FIG. 5. 5 is a structural diagram showing a schematic structure for explaining a hand recognition apparatus according to a sixth preferred embodiment of the present invention.
도 5를 참조하면, 본 발명의 바람직한 실시예에 따른 손 모양 인식 장치는, 5, the hand recognition apparatus according to the preferred embodiment of the present invention,
영상 입력 모듈(500), 얼굴 영역 추출 모듈(501), 얼굴 영역 색정보 추출모듈(502), 왼손/오른손 구분 모듈(503), 손 영역 추출 모듈(504), 및 손 모양 인식 모듈(505)을 포함하여 구성된다.
상기 영상 입력 모듈(500)은 대상이 되는 사용자의 얼굴 및 손이 포함되도록 촬상된 영상을 입력받아, 이를 얼굴 영역 추출 모듈(501) 및 손 영역 추출 모듈(504)에 제공한다. The
얼굴 영역 추출 모듈(501)은 영상 입력 모듈(500)로부터 제공받은 영상 데이터로부터 상기 사용자의 얼굴에 해당하는 영역을 추출하는데, 당업계에 공지된 아다부스팅(AdaBoosting) 알고리즘을 사용한 모듈, 또는 얼굴 판단의 기준이 되는 특징을 선형적으로 결합한 다음, 이를 계층적으로 구성하여 검출하거나, 본 발명자의 공개특허공보 제 2005-60799호에 기재되어 있는 대칭축을 이용한 모듈일 수 있다. 상기 얼굴 영역 추출 모듈(501)에서 수집된 자료는 얼굴 영역 색정보 추출 모듈(502) 및 왼손/오른손 구분 모듈(503)로 제공된다. The face
얼굴 영역 색정보 추출모듈(502)은 상기 얼굴 영역 추출 모듈(501)에서 추출된 얼굴 영역으로부터 사용자의 손 영역을 추출하는데 사용되는 색 정보를 수집하고, 왼손/오른손 구분 모듈(503)은, 상기 얼굴 영역 추출모듈(501)에서 인식된 얼굴 정보를 바탕으로 사용자가 사용하는 손이 오른손인지 왼손인지 여부를 확인한다. The face region color
손 영역 추출 모듈(504)는 영상 입력 모듈(500)로부터 제공받은 영상 데이터 에서 왼손/오른손 구분 모듈(503)에 의하여 확인된 손에 대하여, 얼굴 영역 색정보 추출 모듈(504)에서 수집된 색 정보에 기초하여 손에 해당되는 부분을 추출한다. The hand
손 모양 인식 모듈(505)은 상기 손 영역 추출 모듈(504)에서 수집된 손 영역에 기초하여 최종적으로 사용자가 어떤 손 모양을 하고 있었는지 판단한다. The
본 발명에 따른 바람직한 제7 실시예에 따른 손 모양 인식 장치를 포함하는 손을 이용한 게임 장치에 관하여 도 6을 참조하여 상세하게 설명한다. 도 6은 본 발명의 바람직한 제7 실시예에 따른 손 모양 인식 장치를 포함하는 손을 이용한 게임 장치를 설명하기 위한 개략적인 구조를 나타낸 구조도이다. A game device using a hand including a hand recognition apparatus according to a seventh exemplary embodiment of the present invention will be described in detail with reference to FIG. 6. 6 is a structural diagram illustrating a schematic structure of a game device using a hand including a hand recognition apparatus according to a seventh exemplary embodiment of the present invention.
도 6을 참조하면, 본 발명의 바람직한 실시예에 따른 손을 이용한 게임 장치는, 화상 입력장치(600), 손 모양 인식장치(601), 저장장치(602), 제어부(603), 입력장치(604), 디스플레이부(605) 및 음성출력부(606)를 포함하여 구성된다. Referring to FIG. 6, a game device using a hand according to an exemplary embodiment of the present invention may include an
상기 화상 입력장치(600)는 손 모양을 판독할 필요가 있는 사용자를 촬상하여 사용자의 얼굴 및 손을 포함하는 영상을 생성하기 위한 장치로서, 광학적 이미지를 감지하여, 컴퓨터에서 처리할 수 있는 형태의 데이터로 변환하는 장치이다. The
이때 사용되는 화상 입력장치로는 광학 카메라, CMOS 또는 CCD 광학 센서 등과 같은 각종 화상 입력장치가 당업자의 선택에 의하여 사용될 수 있다. 예컨대, 0.5~2m 이내의 거리에서 320x240 해상도로 촬상이 가능한 화상 입력장치가 사용될 수 있다. 이때, 본 발명의 바람직한 실시를 위하여 상기 화상 입력장치는 사용자의 손을 아래쪽에서 촬상할 수 있도록 위치하고 있는 것이 바람직하다. 이는, 손을 정 면 또는 상부면에서 촬상한 영상을 손 모양을 인식하기 위하여 후술하는 바와 같이 피부색을 이용하여 이진화했을 경우, 손의 패턴을 구분하기가 곤란하여 오류가 발생할 확률이 높아지기 때문이다. In this case, as the image input apparatus, various image input apparatuses such as an optical camera, a CMOS or a CCD optical sensor, etc. may be used by those skilled in the art. For example, an image input apparatus capable of capturing at 320x240 resolution at a distance of 0.5 to 2 m may be used. At this time, the image input device is preferably positioned so that the user's hand can be picked up from below for the preferred embodiment of the present invention. This is because when the image captured from the front or upper surface of the hand is binarized using the skin color as described below in order to recognize the shape of the hand, it is difficult to distinguish the pattern of the hand, which increases the probability of error.
상기 화상 입력장치(600)에서 생성된 영상 데이터는 손 모양 인식 장치(601)로 전송되어 상기 사용자의 손 모양을 판독한다. 이를 위하여 손 모양 인식 장치(601)은 제6 실시예와 같은 구성을 갖는 것이 바람직하다. 이렇게 판독된 결과는 저장장치(602)에 저장된 다음, 제어부(603)로 전달된다. The image data generated by the
저장장치(602)는 상기 손 모양 인식 장치(601)를 통하여 판독된 결과 뿐만 아니라, 화상 입력장치(600) 및 입력장치(604)를 통하여 입력되는 사용자 및 사용자의 반응에 대한 정보를 저장할 수 있다. The
제어부는 상기 손 모양 인식 장치(601)을 통하여 판독된 결과, 입력장치(604)를 통하여 입력된 사용자의 반응 및 저장장치(602)에 저장된 정보를 종합적으로 고려하여 사용자와의 손을 이용한 게임을 진행하며, 필요한 경우에는 디스플레이부(605) 또는 음성 출력부(606)를 통하여 사용자에게 게임의 진행상황을 알린다. As a result of the reading by the
이상에서 설명한 본 발명은 전술한 실시예 및 첨부된 도면에 의해 한정되는 것이 아니고, 본 발명의 기술적 사상을 벗어나지 않는 범위 내에서 여러가지 치환, 변형 및 변경이 가능하다는 것이 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 당업자에게 있어 명백할 것이다. The present invention described above is not limited to the above-described embodiments and the accompanying drawings, and it is common in the art that various substitutions, modifications, and changes can be made without departing from the technical spirit of the present invention. It will be apparent to those skilled in the art.
종래의 손 모양 인식은 기술은 손 모양을 추출할 때, 얼굴의 스킨 정보와는 무관하게 손 영역의 스킨 정보만을 이용하여 손 영역을 추출한다. 이에 따라 조명이나, 배경의 외부 환경 변화 및 사용자의 옷 스타일의 변화에 따라 손 영역의 검출 율이 현저히 떨어지는 단점이 있었다. 또한 가위 바위 보 게임을 할 때 낮은 높이에 카메라가 존재하면 사람이 가위바위보 게임을 위해 손을 내밀 때 카메라가 바라보는 각도와 손의 위치가 일직선 상에 놓이게 되어 바위와 가위 형태를 명확하게 구별하기 어려웠다. 또한 높은 높이에 카메라가 존재하면 사람의 얼굴 보다는 바닥을 내려다 보면서 게임을 수행하여만 하고, 이에 따라 배경 및 조명에 따라 손 모양을 구별하기 힘들었다 The conventional hand recognition technology extracts a hand region using only the skin information of the hand region regardless of the skin information of the face when extracting a hand shape. As a result, the detection rate of the hand region is remarkably decreased according to the lighting, the change in the external environment of the background, and the change in the user's clothes style. Also, if you have a camera at a lower height when playing rock-paper-scissors games, the angle that the camera sees and the position of the hand will lie in a straight line when a person reaches out for the rock-paper-scissors game, clearly distinguishing the rock and scissors form. It was hard to do. In addition, if the camera is located at a high height, it is only necessary to play the game while looking down at the floor rather than the face of the person.
본 발명에서는 이를 해결하기 위해 사람이 가위,바위,보 게임을 할 때, 손을 어깨 높이로 들려 올리고 게임을 하는 것을 고안한다. 이 경우 사람의 얼굴과 손이 항상 같은 높이에 존재하게 되므로 손 모양 검출 먼저 얼굴 영역을 검출하고, 검출된 영역에서 추출된 스킨 정보 및 조명 상태를 바탕으로 손 영역을 검출하는 방법으로 보다 정확한 손 영역검출이 가능하다. 이때, 손 바닥 영역과 손 영역이 연결될 경우, 이를 분리하는 알고리즘을 적용한다. 마지막으로 구해진 손 영역은 run length 알고리즘과 신경망을 이용해 인식한 후, 최종적으로 두 정보를 결합한SVM을 통해 가위, 바위, 보 형태로 판정된다.In the present invention to solve this, when a person plays a game of scissors, rock, beam, raise the hand to the shoulder height to devise a game. In this case, since the face and hands of the person are always at the same height, the shape of the hand is first detected by detecting the face, and the hand is detected based on the skin information and lighting conditions extracted from the detected area. Detection is possible. In this case, when the hand region and the hand region are connected, an algorithm for separating them is applied. Finally, the obtained hand region is recognized using run length algorithm and neural network, and finally, it is determined by scissors, rock, beam shape through SVM which combines two pieces of information.
Claims (29)
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020060095012A KR100826878B1 (en) | 2006-09-28 | 2006-09-28 | Hand shafe recognition method and apparatus for thereof |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020060095012A KR100826878B1 (en) | 2006-09-28 | 2006-09-28 | Hand shafe recognition method and apparatus for thereof |
Publications (2)
Publication Number | Publication Date |
---|---|
KR20080029222A KR20080029222A (en) | 2008-04-03 |
KR100826878B1 true KR100826878B1 (en) | 2008-05-06 |
Family
ID=39531827
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020060095012A KR100826878B1 (en) | 2006-09-28 | 2006-09-28 | Hand shafe recognition method and apparatus for thereof |
Country Status (1)
Country | Link |
---|---|
KR (1) | KR100826878B1 (en) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101130063B1 (en) | 2010-04-30 | 2012-03-28 | 동명대학교산학협력단 | Method for contents control based human hand gesture recognition for integrated display device of next generation |
US9412013B2 (en) | 2014-03-03 | 2016-08-09 | Electronics And Telecommunications Research Institute | Method and apparatus for recognizing hand motion |
Families Citing this family (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101158016B1 (en) * | 2008-12-24 | 2012-06-25 | 한국전자통신연구원 | Apparatus and method for detecting upper body pose and hand shape |
KR101669623B1 (en) * | 2010-06-30 | 2016-11-09 | 엘지이노텍 주식회사 | Computer security system using hand shape image, computer security method using hand shape image and recording medium thereof |
KR101364571B1 (en) | 2010-10-06 | 2014-02-26 | 한국전자통신연구원 | Apparatus for hand detecting based on image and method thereof |
GB2488784A (en) * | 2011-03-07 | 2012-09-12 | Sharp Kk | A method for user interaction of the device in which a template is generated from an object |
KR101360322B1 (en) * | 2011-12-30 | 2014-02-25 | 영남대학교 산학협력단 | Apparatus and method for controlling electric boards using multiple hand shape detection and tracking |
KR101436695B1 (en) * | 2012-11-13 | 2014-09-01 | 재단법인대구경북과학기술원 | Apparatus and method for detecting finger using depth image |
KR101385373B1 (en) * | 2012-11-16 | 2014-04-29 | 강전학 | Method for face detection-based hand gesture recognition |
CN108960081B (en) * | 2018-06-15 | 2021-07-30 | 熵基科技股份有限公司 | Palm image recognition method and device and computer readable storage medium |
CN109117817B (en) * | 2018-08-28 | 2022-06-14 | 摩佰尔(天津)大数据科技有限公司 | Face recognition method and device |
KR102516900B1 (en) * | 2020-07-06 | 2023-04-03 | 단국대학교 천안캠퍼스 산학협력단 | Reinforcement training system and method for prevent dementia |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0339185A (en) * | 1989-07-05 | 1991-02-20 | Takata Kogyosho:Kk | Robot for playing game of japanese style mora of 'paper, stone and scissors' |
JPH09206472A (en) * | 1996-02-02 | 1997-08-12 | Ricoh Elemex Corp | Game fighting device |
KR200251199Y1 (en) * | 2001-07-18 | 2001-11-17 | 최종주 | apparatus for recognizing appearance of hand |
JP2004302992A (en) * | 2003-03-31 | 2004-10-28 | Honda Motor Co Ltd | Gesture recognition device, its method and gesture recognition program |
JP2005092419A (en) | 2003-09-16 | 2005-04-07 | Casio Comput Co Ltd | Information processing apparatus and program |
-
2006
- 2006-09-28 KR KR1020060095012A patent/KR100826878B1/en not_active IP Right Cessation
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0339185A (en) * | 1989-07-05 | 1991-02-20 | Takata Kogyosho:Kk | Robot for playing game of japanese style mora of 'paper, stone and scissors' |
JPH09206472A (en) * | 1996-02-02 | 1997-08-12 | Ricoh Elemex Corp | Game fighting device |
KR200251199Y1 (en) * | 2001-07-18 | 2001-11-17 | 최종주 | apparatus for recognizing appearance of hand |
JP2004302992A (en) * | 2003-03-31 | 2004-10-28 | Honda Motor Co Ltd | Gesture recognition device, its method and gesture recognition program |
JP2005092419A (en) | 2003-09-16 | 2005-04-07 | Casio Comput Co Ltd | Information processing apparatus and program |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101130063B1 (en) | 2010-04-30 | 2012-03-28 | 동명대학교산학협력단 | Method for contents control based human hand gesture recognition for integrated display device of next generation |
US9412013B2 (en) | 2014-03-03 | 2016-08-09 | Electronics And Telecommunications Research Institute | Method and apparatus for recognizing hand motion |
Also Published As
Publication number | Publication date |
---|---|
KR20080029222A (en) | 2008-04-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR100826878B1 (en) | Hand shafe recognition method and apparatus for thereof | |
US10990191B2 (en) | Information processing device and method, program and recording medium for identifying a gesture of a person from captured image data | |
KR101581954B1 (en) | Apparatus and method for a real-time extraction of target's multiple hands information | |
Wang et al. | Automatic fall detection of human in video using combination of features | |
JP6013241B2 (en) | Person recognition apparatus and method | |
CN101271514B (en) | Image detection method and device for fast object detection and objective output | |
KR101514169B1 (en) | Information processing device, information processing method, and recording medium | |
KR101083408B1 (en) | Augmented reality apparatus and method for supporting interactive mode | |
JP2001216515A (en) | Method and device for detecting face of person | |
JP2001167110A (en) | Picture retrieving method and its device | |
JP6066093B2 (en) | Finger shape estimation device, finger shape estimation method, and finger shape estimation program | |
JP2012053756A (en) | Image processor and image processing method | |
Liu et al. | An ultra-fast human detection method for color-depth camera | |
Ahn et al. | Dynamic vision sensor camera based bare hand gesture recognition | |
CN107992845A (en) | A kind of face recognition the method for distinguishing and device, computer equipment | |
JP5538781B2 (en) | Image search apparatus and image search method | |
Makris et al. | Robust 3d human pose estimation guided by filtered subsets of body keypoints | |
JP5286574B2 (en) | Object detection recognition apparatus, object detection recognition method, and program | |
KR101653235B1 (en) | Apparatus and method for econgnizing gesture | |
Cao et al. | Real-time head detection with kinect for driving fatigue detection | |
JP6952857B2 (en) | Information processing equipment, information processing methods and programs | |
JP6792446B2 (en) | Information processing device, control method and program of information processing device | |
JP2004157908A (en) | Device and method for extracting movement information | |
Jang et al. | Realtime coarse pose recognition using a multi-scaled local integral histograms |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A201 | Request for examination | ||
E902 | Notification of reason for refusal | ||
E701 | Decision to grant or registration of patent right | ||
GRNT | Written decision to grant | ||
FPAY | Annual fee payment |
Payment date: 20110411 Year of fee payment: 4 |
|
LAPS | Lapse due to unpaid annual fee |