KR20120048334A - The video game console - Google Patents

The video game console Download PDF

Info

Publication number
KR20120048334A
KR20120048334A KR1020100109923A KR20100109923A KR20120048334A KR 20120048334 A KR20120048334 A KR 20120048334A KR 1020100109923 A KR1020100109923 A KR 1020100109923A KR 20100109923 A KR20100109923 A KR 20100109923A KR 20120048334 A KR20120048334 A KR 20120048334A
Authority
KR
South Korea
Prior art keywords
module
player
motion
movement
information
Prior art date
Application number
KR1020100109923A
Other languages
Korean (ko)
Other versions
KR101752496B1 (en
Inventor
육상조
Original Assignee
육상조
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 육상조 filed Critical 육상조
Priority to KR1020100109923A priority Critical patent/KR101752496B1/en
Publication of KR20120048334A publication Critical patent/KR20120048334A/en
Application granted granted Critical
Publication of KR101752496B1 publication Critical patent/KR101752496B1/en

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/20Input arrangements for video game devices
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/20Input arrangements for video game devices
    • A63F13/21Input arrangements for video game devices characterised by their sensors, purposes or types
    • A63F13/213Input arrangements for video game devices characterised by their sensors, purposes or types comprising photodetecting means, e.g. cameras, photodiodes or infrared cells
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/40Processing input control signals of video game devices, e.g. signals generated by the player or derived from the environment
    • A63F13/42Processing input control signals of video game devices, e.g. signals generated by the player or derived from the environment by mapping the input signals into game commands, e.g. mapping the displacement of a stylus on a touch screen to the steering angle of a virtual vehicle
    • A63F13/428Processing input control signals of video game devices, e.g. signals generated by the player or derived from the environment by mapping the input signals into game commands, e.g. mapping the displacement of a stylus on a touch screen to the steering angle of a virtual vehicle involving motion or position input signals, e.g. signals representing the rotation of an input controller or a player's arm motions sensed by accelerometers or gyroscopes
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/50Controlling the output signals based on the game progress
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/70Game security or game management aspects

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Human Computer Interaction (AREA)
  • Business, Economics & Management (AREA)
  • Computer Security & Cryptography (AREA)
  • General Business, Economics & Management (AREA)
  • User Interface Of Digital Computer (AREA)
  • Image Analysis (AREA)
  • Position Input By Displaying (AREA)

Abstract

PURPOSE: A video game machine is provided to rapidly and accurately recognize detail movement of arms hand hands of a player while grasping the whole movement of the player. CONSTITUTION: A video game machine comprises an operating device(10) and a main body(20). The main body recognizes the whole movement pattern of a player around the joints of the player. The operating device comprises a plurality of buttons and action detection sensors and is placed in the hand or foot of the player. The controller of the main body is equipped with a pretreatment module, a video information extraction module, a motion confirmation module, a segmentation module, a recognition module, and a control module.

Description

플레이어의 전체 움직임을 주시하면서 분할된 특정부위의 움직임을 확인하는 비디오 게임기.{The video game console}A video game machine that checks the movement of a specific segmented part while watching the player's overall movement. {The video game console}

본 발명은 적절한 움직임을 취하도록 지시하고 이에 따른 동작결과를 확인하여 게임을 즐기는 시스템에 관한 것으로, 좀더 자세히 설명하면 플레이어의 동작을 인식할 때 팔과 다리 혹은 머리의 움직임을 분할하여 인식하고 더불어 분할된 손과 발의 이동경로를 파악하여 디테일하면서도 빠르고 정확하게 인식할 수 있도록 하는 한편, 키나 체형의 차이로 인해 잘못된 인식결과를 가지는 문제점을 극복한 것이다.The present invention relates to a system for enjoying a game by instructing the user to take an appropriate movement and confirming the result of the operation according to the present invention. By grasping the movement path of the hand and the foot, it is possible to recognize the details quickly and accurately while overcoming the problem of incorrect recognition result due to the difference in height or body shape.

일반적으로 동작을 인식하는 비디오 게임기에는 대표적으로 닌텐도사에서 개발한 윌이라는 게임시스템을 들 수 있다.A typical video game machine that recognizes motion is Will's game system, developed by Nintendo.

여기서 상기와 같은 게임시스템은 본체와 조작장치로 이루어져 있는데, 통상 조작장치에는 적외선센서와 자이로센서 그리고 다수개의 버튼을 포함하여 이루어져 플레이어가 디스플레이장치상의 화면을 보고 주먹으로 치거나 혹은 상하로 움직이는 등의 특정 동작을 취하게 되면 이러한 사실을 감지하여 본체에 전달하고, 더불어 본체에서는 수신부를 포함하여 이루어져 전달된 값들을 바탕으로 제시된 동작을 취했는지의 여부를 확인하도록 되어 있다.Here, the game system as described above is composed of a main body and an operation device, and a general operation device includes an infrared sensor, a gyro sensor, and a plurality of buttons, such that the player looks at the screen on the display device and punches or moves up and down. When a specific operation is taken, the fact is detected and transmitted to the main body, and the main body is configured to include a receiver to check whether or not a given operation is performed based on the transmitted values.

이때, 상기와 같은 게임시스템은 적외선 센서와 자이로센서가 설치되어 있는 손안의 조작장치의 움직임만으로 플레이어의 동작을 확인하기 때문에, 머리나 몸통 혹은 다리의 움직임 등을 파악할 수 없고, 특히 손목이나 팔굼치 혹은 어깨 등의 비틀림과 같은 디테일한 동작을 취할지라도 그 결과를 인식하지 못할 뿐만아니라 인식되더라도 부정확하였다. At this time, the game system as described above checks the operation of the player only by the movement of the operating device in the hand in which the infrared sensor and the gyro sensor are installed. Taking detailed movements such as torsion of the shoulders does not recognize the result and was inaccurate even if recognized.

즉, 종래의 게임시스템은 부분 움직임 패턴으로 플레이어의 전체 움직임 패턴을 인식하기 때문에 처리결과가 늦고 인식되더라도 부정확한 면이 있었던 것었다.In other words, the conventional game system recognizes the player's entire movement pattern as a partial movement pattern, so that even if the processing result is late and recognized, there was an inaccuracy.

더욱이 사용자가 빠르게 움직일 경우에는 중간에 일부 소실된 부족한 정보를 본체에 전달하게 됨으로, 될 수 있는한 플레이어가 느리게 움직여야만 정확한 정보를 확보하여 인식할 수 있었고, 특히 종래의 게임시스템은 일차원적인 정보만을 취득하여 인식하기 때문에 키나 체형이 각기 다른 사람(어린이와 청년)이 동일한 동작을 취할 지라도 각각의 사용자마다 서로 다른 인식결과를 산출하였다.In addition, when the user moves fast, some missing information is lost to the main body, so that the player can move slowly to obtain accurate information and recognize it. Especially, the conventional game system can only recognize one-dimensional information. Because they are acquired and recognized, different recognition results are calculated for each user even if different people (children and young people) with different heights or shapes take the same action.

이에 본 발명에서는 플레이어의 전체 움직임을 파악할 수 있으면서 손이나 팔의 디테일한 움직임도 빠르고 정확하게 인식할 수 있도록 할 수 있도록 하는 한편, 각각의 사용자마다 서로 다른 키나 체형의 차이로 인해 잘못된 인식결과가 나오는 문제점을 극복하기 위한 것이다.Accordingly, the present invention enables the user to grasp the overall movement of the player while allowing the user to quickly and accurately recognize the detailed movement of the hand or the arm, and a wrong recognition result occurs due to the difference in the height or body of each user. To overcome.

이를 위해 본 발명에서는 2인칭시점인 본체의 카메라를 통해 플레이어의 각부(팔, 다리, 머리, 몸통)를 분할하여 인식하고, 더불어 1인칭시점인 조작장치의 동작감지센서를 이용하여 분할된 각부 혹은 특정부위의 이동경로를 감지하여 확인할 수 있도록 함으로써, 사용자의 전체 움직임을 바탕으로 분할된 각부의 움직임을 파악하여 디테일하면서도 빠르고 정확하게 인식할 수 있도록 하는 한편, 각각의 플레이어마다 키나 체형이 각기 다를지라도 동일한 인식결과를 확보토록 한 것이다.To this end, the present invention divides and recognizes each part (arm, leg, head, torso) of the player through the camera of the main body, which is the second person view, and also divides each part using the motion detection sensor of the operation device that is the first person. By detecting and confirming the movement path of a specific part, it is possible to recognize the movement of each part based on the overall movement of the user so that it can recognize the detail quickly and accurately, while the same key or body type is different for each player. The recognition result is secured.

본 발명은 본체의 카메라를 통해 2인칭시점에서 그리고 조작장치을 통해 1인칭시점에서 종합적으로 플레이어의 움직임을 감지하여 인식하기 때문에, 플레이어의 전체 움직임을 확인하면서 분할된 각부 혹은 특정부위의 움직임을 인식하여 디테일하면서도 빠른 처리시간과 정확한 인식결과를 확보할 수 있었다. Since the present invention detects and recognizes the movement of the player in the second person view through the camera of the main body and in the first person view through the operation device, it recognizes the movement of each part or specific part while checking the overall movement of the player. Detailed and fast processing time and accurate recognition results were obtained.

또한, 본 발명은 플레이어의 빠른 움직임으로 인해 동작감지센서를 통해 감지된 정보가 일부 손실될 지라도, 본체의 카메라가 사용자의 전체 움직임을 주시하고 있기 때문에, 부정확하게 인식되거나 잘못된 동작결과가 산출되는 일이 최소화되어 있는 한편, 격렬한 움직임을 요하는 스포츠나 댄스 게임에 적용되어 스피드한 느낌을 가지도록 실시될 수 있었다.In addition, the present invention, even if some of the information detected through the motion sensor due to the rapid movement of the player, because the camera of the main body observes the user's overall movement, incorrectly recognized or wrong operation results are calculated While this is minimized, it can be applied to sports or dance games requiring intense movement and can be implemented to have a speedy feeling.

더불어 본 발명은 각부를 분할하여 인식하고 있기 때문에, 각각의 사용자들이 서로 다른 키나 체형을 가질지라도 같은 동작에 대해서는 동일한 인식결과을 가지게 되어 남녀노소에 상관없이 누구나 즐길 수 있게 되었다.In addition, since the present invention divides and recognizes each part, even if each user has a different key or body type, the same operation results in the same operation so that everyone regardless of gender or age can enjoy.

도 1은 본 발명의 실시 예에 따른 예시도.
도 2는 본 발명의 실시 예에 따른 블럭도.
도 3은 본 발명의 제2실시 예에 따른 블럭도.
도 4는 본 발명의 실시 예에 따른 블럭도.
도 5는 본 발명의 실시 예에 따른 순서도.
1 is an exemplary view according to an embodiment of the present invention.
2 is a block diagram according to an embodiment of the present invention.
3 is a block diagram according to a second embodiment of the present invention.
4 is a block diagram according to an embodiment of the present invention.
5 is a flow chart according to an embodiment of the present invention.

이하, 본 발명을 실시하기 위한 구체적인 내용은 첨부된 도면을 참조하여 자세히 설명하기로 한다.Hereinafter, specific details for carrying out the present invention will be described in detail with reference to the accompanying drawings.

도 1은 본 발명의 실시 예에 따라 춤추는 플레이어의 모습을 예를 들어 설명한 것고, 도 2는 본 발명의 실시 예에 따른 본체(20)와 조작장치의 내부 구성을 보여주는 것으로, 도시된 바와 같이 본 발명은 춤추는 동작을 디스플레이장치(21)에 출력하여 동작일한 동작 혹은 특정 동작을 취하도록 하고, 더불어 영상장치(22)를 통해 사용자의 각부를 분할하여 인식한 다음 각부가 지정된 동작을 취했는지의 여부를 확인하는 본체(20)와, 동작감지센서(11)와 다수개의 버튼을 포함하여 이루어져 사용자의 각부(머리, 팔, 다리, 몸통) 움직임을 감지토록 하기 위한 조작장치을 포함하여 이루어지게 된다.1 illustrates an example of a player dancing according to an exemplary embodiment of the present invention, and FIG. 2 illustrates an internal configuration of a main body 20 and an operating device according to an exemplary embodiment of the present invention. The present invention outputs a dancing motion to the display device 21 to perform a specific motion or a specific motion. In addition, the image device 22 divides and recognizes each part of the user and then determines whether each part has a specified motion. It comprises a main body 20 to check whether or not, including a motion detection sensor 11 and a plurality of buttons made to include an operation device for detecting the movement of each part (head, arm, leg, torso) of the user.

여기서 상기 조작장치은 동작감지센서(11)와 버튼, 그리고 조작제어부(13)와 송신부(12)를 포함하여 이루어지고 다양한 형태로 제작이 가능하나, 실시 예에 따라 손안에 움켜쥐거나 장착할 수 있는 글러브 형태와 바닥에 깔리는 패드의 형태로도 제작이 가능하다. 또한, 상기 조작장치의 동작감지센서(11)는 적외선 센서나 압력센서 혹은 스트레인게이지 및 자이로센서 등을 포함하여 이루어게 되고, 손안에 움켜쥘 수 있는 형태나 장착할 수 있는 형태로 제작될 경우에는 팔에 장착된 조작장치의 적외선 센서와 자이로센서를 통해 상기 본체(20)가 팔의 이동경로를 파악할 수 있도록 되어 있다. Here, the operation device includes a motion detection sensor 11 and a button, and an operation control unit 13 and a transmission unit 12 and may be manufactured in various forms, but glove that can be grasped or mounted in the hand according to an embodiment. It can also be manufactured in the form of a pad and a floor pad. In addition, the motion detection sensor 11 of the operation device is made of an infrared sensor, a pressure sensor or a strain gauge and a gyro sensor, and the like, and when the arm is made in a form that can be grabbed or mounted in the arm Through the infrared sensor and the gyro sensor of the operating device mounted on the main body 20 is to determine the movement path of the arm.

더불어 조작장치에 설치된 압력센서를 통해 혹은 스트레인 게이지를 통해 일측으로 비틀림이 가해지거나 혹은 힘이 가해진 방향을 파악하여 정확한 이동경로와 움직임을 확인할 수도 있도록 되어 있으며, 상기 조작장치을 움켜쥘 때 움켜쥔 정도에 따라 펀치의 강도나 세기를 달리할 수 있다.In addition, it is possible to check the exact movement path and movement by grasping the direction of the torsion or force applied to one side through the pressure sensor installed in the control device or through the strain gauge. Therefore, the strength or strength of the punch can be changed.

또한, 상기 본체(20)는 사용자의 전체 움직임을 파악할 수 있는 하나 이상의 영상장치(22)와 연결되는 영상처리부를 포함하여 이루어지게 되고, 더불어 전체영상중 각부를 분할하여 인식하기 위한 영상처리부와 메인제어부(24) 및 상기 조작장치로부터 전송된 정보를 수신하는 수신부(23)를 포함하여 이루어지게 된다. 이때, 본체(20)는 영상장치(22)로부터 전송된 영상정보를 바탕으로 사용자가 움직임에 따라 변화하지 않는 배경정보만을 별도로 추출하여 제거하고, 남은 사용자의 영상정보만을 이용하여 각부를 분할하여 인식하게 된다. In addition, the main body 20 includes an image processing unit connected to one or more image devices 22 that can grasp the overall movement of the user, and also an image processing unit and main unit for dividing and recognizing each part of the entire image. It includes the control unit 24 and the receiving unit 23 for receiving the information transmitted from the operating device. At this time, the main body 20 separately extracts and removes only background information that does not change as the user moves based on the image information transmitted from the image device 22, and recognizes each part by using only the remaining user's image information. Done.

더불어 사용자의 영상정보는 빠른 처리를 위해 외곽정보만을 추출하여 인식하고, 특히 외곽정보를 기준으로 일측과 타측의 기울기값이 변경되거나 혹은 서로 다른 움직임을 취하는 부분을 바탕으로 각부를 분할하여 인식하도록 되어 있다. 즉, 기울기값이 변경되는 부분과 서로 다른 움직임을 취하는 부분은 각부의 관절부위나 연결부위에 해당하는 곳으로, 이를 바탕으로 각부를 구분하여 인식토록 한 것이다.In addition, the user's image information is recognized by extracting only the outer information for quick processing, and in particular, it is recognized by dividing each part on the basis of the change of the inclination value of one side and the other side or taking different movements based on the outer information. have. In other words, the part where the tilt value is changed and the part that takes different movements correspond to the joint part or the connection part of each part, and based on this, the parts are recognized to be recognized.

따라서 상기 본체(20)는 분할된 손이나 발 혹은 몸통을 기준으로 상기 조작장치을 통해 전달된 정보를 이용하여 각부가 취한 동작을 확인할 수 있음에 따라, 본체(20)는 사용자의 전체상황을 주시하면서 분할된 각부가 취한 움직임만을 별도 인식하여 빠르게 판단할 수 있음으로, 보다 빠른 처리시간을 가지게 된다.Therefore, the main body 20 can check the operation taken by each part using the information transmitted through the operation device on the basis of the divided hand, foot or torso, while the main body 20 observes the entire situation of the user. Since only the movements of the divided parts can be recognized separately, it can be quickly determined, thereby having a faster processing time.

더욱이 본 발명은 본체(20)의 영상장치(22)를 통해 2인칭시점에서 사용자의 전체 움직임 상황을 주시하고 있고, 더불어 조작장치을 통해 1인칭시점에서 각부의 움직임을 확인하고 있음으로 종합적으로 플레이어의 정보를 확보하게 되며, 전체상황을 주시하면서 각부의 움직임을 확인하기 때문에 그리고 빠른 처리시간으로 인해 빠른 움직임을 요하는 격렬한 스포츠나 댄스 게임에 적용하여 실시할지라도 실재와 같은 스피드한 느낌을 가지면서 실시될 수 있는 것이다.Furthermore, the present invention monitors the overall movement of the user in the second person view through the image device 22 of the main body 20, and checks the movement of each part in the first person view through the operation device. It secures information and checks the movement of each part while watching the whole situation, and even if it is applied to intense sports or dance games that require fast movements due to the fast processing time, it is carried out with the same speed feeling as the real thing. It can be.

또한, 본 발명은 전체상황을 주시하면서 플레이어의 각부를 분할하여 인식하고 있기 때문에 각각의 플레이어마다 체형이나 키, 혹은 움직임 반경등이 차이가 있더라도 모든 사람이 동일한 인식결과를 제공하게 된다는 특징을 가지게 된다. 즉, 종래의 경우에는 성인과 아이가 동일한 액션을 취하더라도 신장의 차이로 인해 다르게 인식될 수 있는 문제점을 가지고 있으나, 각부를 분할하여 인식하고 있기 때문에, 동일하게 지시된 액션에 대해서는 각각의 사람마다 동일한 인식결과가 나온다는 특징을 가지게 되는 것이다.In addition, since the present invention divides and recognizes each part of the player while watching the overall situation, even if the body type, height, or radius of movement of each player is different, everyone has the same feature of recognition. . That is, in the conventional case, even if the adult and the child take the same action, there is a problem that can be recognized differently due to the difference in height. However, since each part is recognized, the same action is indicated for each person. It is characterized by the same recognition result.

또한, 상기 본체(20)는 재생되는 음악파일에 맞춰 정해진 시간에 정해진 동작을 취해지도록 제시하고. 특히 상기 음악파일 재생되는 시간에 맞추어 각부의 움직임과 재생되는 영상이 일치하는지의 여부를 파악하도록 되어 있다.In addition, the main body 20 proposes to perform a predetermined operation at a predetermined time in accordance with the music file to be played. In particular, it is determined whether or not the motion of each part coincides with the reproduced video in accordance with the time when the music file is reproduced.

도 3은 본 발명의 실시 예에 따라 사용자의 전체움직임을 주시하면서 각부를 분할하여 처리하기 위한 메인제어부(24)의 구성을 보여주는 것고, 도 4는 플레이어의 전체 움직임 패턴과 관절부위를 중심으로 분할된 각부가 모습을 예를 들어 보여준 것으로, 이때 각각의 모듈이라함은 본 발명의 기술적 사상을 수행하기 위한 하드웨어 및 상기 하드웨어를 구동하기 위한 소프트웨어의 기능적, 구조적 결합을 의미하는 것이다.Figure 3 shows the configuration of the main control unit 24 for processing by dividing each part while watching the overall movement of the user according to an embodiment of the present invention, Figure 4 is divided around the player's overall movement pattern and joint area Each part is shown as an example, wherein each module means a functional and structural combination of hardware for performing the technical idea of the present invention and software for driving the hardware.

도시된 바와 같이 본원발명의 메인제어부(24)는 전처리모듈(24a),영상정보추출모듈(24b), 모션확인모듈(24c), 분할모듈(24d), 인식모듈(24e), 제어모듈(24f), 데이터베이스(24g)를 포함하여 이루어진다.As shown, the main controller 24 of the present invention includes a preprocessing module 24a, an image information extraction module 24b, a motion confirmation module 24c, a division module 24d, a recognition module 24e, and a control module 24f. ), Database 24g.

먼저, 상기 전처리모듈(24a)은 할당된 메모리 영역에 저장된 영상정보중에서 플레이와 함께 촬영된 배경정보만을 별도로 분리하여 가공 처리하는 모듈이며, 필요에 따라 다수개의 필터를 포함하여 이루질 수 있다. 여기서 상기 배경정보는 플레이어가 움직임에 따라 변화하지 않는 주변정보를 말하며, 최대한 깨끗한 정보를 확보하는 한편 불필요한 정보를 제거하여 빠른 처리시간을 확보하기 위한 것이다.First, the preprocessing module 24a is a module that separates and processes only background information photographed with play from image information stored in the allocated memory area, and may include a plurality of filters as necessary. Here, the background information refers to peripheral information that does not change as the player moves. The background information is intended to ensure fast processing time by removing unnecessary information while ensuring clean information as much as possible.

또한, 상기 영상정보추출모듈(24b)은 상기 전처리모듈(24a)을 통해 가공된 영상정보를 이진화하고, 이후 외곽정보만을 추출하여 플레이어의 외곽라인만을 확보함으로써, 최대한 빠른 처리시간을 확보하기 위한 것이다. 이때 상기 영상정보추출모듈(24b)은 색상정보를 바탕으로 각각의 외곽라인을 확보할 실시할 수도 있다.In addition, the image information extraction module 24b is for securing the processing time as fast as possible by binarizing the image information processed by the preprocessing module 24a, and then extracting only the outer information to secure only the outer line of the player. . At this time, the image information extraction module 24b may be implemented to secure each outer line based on the color information.

또한, 상기 모션확인모듈(24c)은 상기 영상정보추출모듈(24b)을 통해 추출된 플레이어의 외곽라인의 기울기 변화나 혹은, 서로 다른 기울기를 가진 부분을 플레이어의 관절 또는 연결부로 인식하여 전체 움직임이 어떠한 움직임 패턴인지 확인한다. 이때 상기 모션확인모듈(24c)은 플레이어의 움직임 패턴을 바탕으로 상기 제어모듈(24f)이 디스플레이장치(21)를 통해 제시한 특정 동작의 움직임 패턴과 비교하여 일치정도를 확인하고, 그 결과를 산출하여 상기 제어모듈(24f)에 인가하여 주도록 되어 있다. In addition, the motion confirmation module 24c recognizes a change in the inclination of the outer line of the player extracted through the image information extraction module 24b or a part having different inclinations as a joint or a connection part of the player, so that the entire motion is improved. Check the movement pattern. At this time, the motion confirmation module 24c checks the degree of matching by comparing the motion pattern of the specific motion presented by the control module 24f through the display apparatus 21 based on the player's motion pattern, and calculates the result. To the control module 24f.

또한, 상기 모션확인모듈(24c)은 상기와 같이 직접 일치정도를 확인할 수 있으나, 호출된 제어모듈(24f)에 의해 비교확인과정을 거치도록 실시할 수도 있다.In addition, the motion confirmation module 24c may directly check the degree of coincidence as described above. However, the motion confirmation module 24c may perform a comparison confirmation process by the called control module 24f.

또한, 상기 분할모듈(24d)은 상기 모션확인모듈(24c)을 통해 확인된 플레이어의 각 관절부위 혹은 연결부위를 기준으로 각부(머리, 몸통, 팔, 다리)를 분할하고, 더불어 분할된 각부중 조작장치을 통해 선택되어진 부위만을 별도로 인식하여 처리하기 위한 것이다. In addition, the splitting module 24d divides each part (head, torso, arm, leg) on the basis of each joint part or connection part of the player identified through the motion checking module 24c, and also divides each part. It is to recognize and process only the part selected through the operation device separately.

또한, 상기 인식모듈(24e)은 상기 분할모듈(24d)을 통해 분할된 부위중 선택되어진 부위의 움직임을 기준으로 어떠한 움직임이 있었는지 확인하게 된다. 이때, 상기 인식모듈(24e)은 상기 제어모듈(24f)을 호출하여 수신부(23)가 수신한 조작장치의 정보(속도, 방향, 비틀림, 압력, 기타정보)를 수취하고, 더불어 상기 조작장치로부터 전송된 정보를 바탕으로 선택되어진 부위의 이동경로나 비틀림 혹은 동작패턴을 확인하도록 되어 있다.In addition, the recognition module 24e checks whether there is any movement based on the movement of the selected region among the regions divided by the division module 24d. At this time, the recognition module 24e calls the control module 24f to receive information (speed, direction, torsion, pressure, other information) of the operation device received by the receiver 23, and from the operation device. Based on the transmitted information, it is possible to check the movement path, twist or motion pattern of the selected part.

또한, 상기 제어모듈(24f)은 상기 모션확인모듈(24c)과 인식모듈(24e)에 의해 호출되어 필요한 정보를 제공하는 한편 그 결과값을 인가받아, 플레이어의 전체 움직임 패턴을 주시하고 있는 상태에서 특정부위의 움직임이 어떠한 움직임을 취했는지 디테일하게 확인할 수 있도록 되어 있는 것이다. In addition, the control module 24f is called by the motion checking module 24c and the recognition module 24e to provide necessary information and receives the resultant value, while watching the entire movement pattern of the player. It is possible to check in detail how the movement of a specific part was taken.

더불어 상기 제어모듈(24f)은 재생되는 음악파일에 맞춰 정해진 시간에 정해진 동작을 취해지도록 디스플레이하고. 더불어 일치정도에 따라 그 결과를 산출하도록 되어 있다.In addition, the control module 24f displays a predetermined operation at a predetermined time in accordance with the music file to be played. In addition, the result is calculated according to the degree of agreement.

이때, 본 발명에서는 실시 예에 따라 빠른 처리시간을 확보하기 위하여 플레이어의 전체 움직임 주시하지 않고 각부를 분할 인식한 다음, 특정부위의 움직임만을 별도로 확인하여 처리할 수도 있다.In this case, according to an embodiment of the present invention, each part may be separately recognized without looking at the entire movement of the player in order to secure fast processing time, and then only the movement of the specific part may be separately identified and processed.

또한, 도 4는 플레이어의 움직임을 촬영한 영상정보 중에서 관절부위를 중심으로 사용자의 전체 움직임을 확인하고, 분할된 부위중 조작장치과 밀착되어 있는 특정부위의 정모만을 별도로 처리하는 모습을 예를 들어 보여준 것으로, 도시된 바와 같이 모션확인모듈(24c)을 통해 기울기 방향이 바뀌거나 서로 다른 움직임을 취하는 부위를 기준으로 플레이어의 전체 움직임 패턴을 확인할 수 있게 된다. 그리고 분할모듈(24d)을 관절부위를 중심으로 a영역과, b영역과 c영역로 분할하여 줄 수 있게 된다. 이때, a영역은 조작장치이 장착된 팔이고 b영역과 c영역은 조작장치이 장착되지 않는 부분으로, a영역의 정보를 기준으로 조작장치의 정보를 수취하여 디테일하게 확인할 수 있도록 한 것이다.In addition, Figure 4 shows an example of checking the overall movement of the user around the joint portion of the image information recording the movement of the player, and separately processing only the hair of the specific part in close contact with the control device of the divided parts As shown, the motion check module 24c may be used to check the overall movement pattern of the player based on a part in which the tilt direction is changed or takes different movements. In addition, the dividing module 24d can be divided into a region, b region and c region around the joint portion. At this time, the area a is the arm on which the operating device is mounted, and the area b and the area c are the parts on which the operating device is not mounted.

또한, 상기 데이터베이스(24g)는 디스플레이되는 영상의 움직임 패턴을 저장하고 있으며, 상기 움직임 패턴중 특정부위의 동작패턴이나 이동경로 등을 저장하고 있으며, 실시예에 따라 하나의 혹은 다수개의 데이터베이스(24g)로 이루어질 수도 있다.In addition, the database 24g stores a movement pattern of the displayed image, and stores an operation pattern or a movement path of a specific portion of the movement patterns, and according to an embodiment, one or more databases 24g. It may be made of.

이하, 도5와 도6 참조하여 본 발명의 작동과정을 자세히 살펴보기로 한다. Hereinafter, the operation of the present invention will be described in detail with reference to FIGS. 5 and 6.

먼저, 본체(20), 조작장치, 영상장치(22), 디스플레이장치(21)들이 구비된 상태에서 상기 본체(20)가 특정 동작을 디시플레이하게 된다. 그리고 이후 상기 본체(20)는 영상장치(22)를 구동시켜 플레이어의 움직임을 촬영하고(S101), 상기 본체(20)는 촬영된 영상정보를 할당된 메모리에 저장하고 상기 전처리모듈(24a)을 통해 불필요한 배경정보를 필터링한 다음 필요한 플레이어의 영상정보만을 취득하게 된다(S102).First, the main body 20 displays a specific operation in a state where the main body 20, the operation device, the image device 22, and the display device 21 are provided. Then, the main body 20 drives the imaging device 22 to capture the movement of the player (S101), and the main body 20 stores the captured image information in the allocated memory and stores the preprocessing module 24a. After filtering unnecessary background information, only necessary video information of the player is acquired (S102).

그리고 상기 본체(20)는 필터링된 정보를 바탕으로 영상정보추출모듈(24b)을 통해 플레이어의 외곽라인 정보만을 취득하고(S103), 상기 모션확인모듈(24c)을 통해 외곽라인의 기울기 변화나 혹은 서로 다른 기울기를 가진 부분을 플레이어의 관절부위 또는 연결부로 인식하여 전체 움직임이 어떠한 움직임 패턴인지 확인하도록 되어 있다(S104). 이때, 본 발명에서는 상기 모션확인모듈(24c)이 제어모듈(24f)을 호출하여 디스플레이장치(21)를 통해 제시한 특정 동작의 움직임 패턴과 비교하여 일치정도를 확인하고, 그 결과를 상기 제어모듈(24f)에 인가하여 줄 수도 있다.The main body 20 acquires only the outer line information of the player through the image information extraction module 24b based on the filtered information (S103), and changes the inclination of the outer line through the motion checking module 24c or Recognizing portions having different inclinations as joint portions or connecting portions of the player is to determine what movement pattern the overall movement is (S104). At this time, in the present invention, the motion confirmation module 24c calls the control module 24f to check the degree of matching by comparing with the movement pattern of the specific operation presented through the display apparatus 21, and the result is the control module. It may be applied to (24f).

그리고 이후 본체(20)는 분할모듈(24d)을 통해 관절부위나 연결부위를 중심으로 각부를 분할하여 인식하고, 더불어 조작버튼을 움켜쥔 손이나 다리 혹은 몸체의 선택된 부위의 정보만을 처리하게 된다.(S105)Then, the main body 20 recognizes each part by dividing each part around the joint part or the connection part through the splitting module 24d, and processes only the information of the selected part of the hand or leg or the body which grabbed the operation button. S105)

그리고 이때 본체(20)의 인식모듈(24e)은 제어모듈(24f)을 호출하여 상기 조작장치로부터 인가된 정보(속도, 방향, 비틀림, 압력)를 바탕으로 상기 분할모듈(24d)이 선택된 부위의 이동경로나 비틀림 혹은 동작패턴 등을 디테일하게 확인하게 된다.(S106, S107)At this time, the recognition module 24e of the main body 20 calls the control module 24f to determine the area of the portion where the division module 24d is selected based on the information (speed, direction, torsion, pressure) applied from the operation device. The movement path, the torsion or the movement pattern are checked in detail. (S106, S107)

이때, 상기 제어모듈(24f)은 상기 모션확인모듈(24c)에 의해 플레이어의 전체 움직임 패턴을 확인하면서 인식모듈(24e)을 통해 특정부위 움직임을 디테일하게 확인하여, 플레이어의 움직임을 정확하게 인식할 수 있게 되는 것이고, 이후 지시된 동작과 비교하여 정확한 결과값을 산출 수 있게 되는 것이다.(S108)At this time, the control module 24f can check the movement of a specific part in detail through the recognition module 24e while checking the entire movement pattern of the player by the motion confirmation module 24c, so that the movement of the player can be correctly recognized. After that, it is possible to calculate an accurate result value compared with the operation instructed (S108).

이때, 본 발명에서는 도 6에 도시된 바와 같이 실시 예에 따라 상기 모션확인모듈(24c)이 플레이어의 관절부위 또는 연결부위만을 인식한 다음(S204), 분할모듈(24d)을 통해 조작장치를 움켜쥔 손이나 상기 조작장치와 밀착된 다리 혹은 몸체의 특정부위만을 분할하여 인식하도록 할 수 있다.(S205)At this time, in the present invention, as shown in FIG. 6, the motion checking module 24c recognizes only the joint part or the connecting part of the player (S204), and then grabs the operation device through the splitting module 24 d. Only a clenched hand or a specific part of the leg or body in close contact with the control device can be divided and recognized. (S205)

그리고 이때 분할된 부위는 상기 조작장치로부터 취득된 정보를 바탕으로 어떠한 동작패턴을 취했는지 확인하고(S206, S207), 상기 제어모듈이 지시된 동작과 플레이어의 움직임을 비교하여 결과값을 산출하게 되는 것이다.(S208)In this case, the divided part checks which operation pattern is taken based on the information acquired from the manipulation apparatus (S206, S207), and compares the indicated action with the movement of the player to calculate a result value. (S208)

따라서 본 발명은 최소화된 영상데이터를 가지고 플레이어가 어떠한 동작패턴을 취했는지 빠르고 정확하게 확인할 수 있게 되는 것이다.Therefore, the present invention is to be able to quickly and accurately determine what operation pattern the player has taken with the minimized image data.

10:조작장치 11:동작감지센서
12:송신부 13:조작제어부
20:본체 21:디스플레이장치
22:영상장치 22a:영상처리부
23:수신부 24:메인제어부
24a:전처리모듈 24b:영상정보추출모듈
24c:모션확인모듈 24d:분할모듈
24e:인식모듈 24f:제어모듈
24g:데이터베이스
10: operating device 11: motion detection sensor
12: Transmission unit 13: Operation control unit
20: main body 21: display device
22: image device 22a: image processing unit
23: receiver 24: main controller
24a: preprocessing module 24b: image information extraction module
24c: Motion confirmation module 24d: Split module
24e: recognition module 24f: control module
24g: Database

Claims (3)

다수개의 버튼 및 동작감지센서를 포함하여 이루어져 손이나 발에 장착되거나 위치되어 동작되는 조작장치와,
특정동작을 디스플레이장치에 디스플레이하고 상기 조작장치를 이용하여 디스플레이된 동작에 대응하는 움직임을 취하도록하는 한편 상기 조작장치로부터 인가된 정보를 바탕으로 플레이어가 취한 동작과 디스플레이된 동작의 움직임 패턴을 비교하여 게임을 즐기는 본체를 포함하여 이루어진 비디오 게임기시스템에 있어서,
상기 게임시스템은 플레이어의 전체 움직임을 촬영할 수 있는 하나 이상의 영상장치를 포함하여 이루어지고,
상기 본체는 상기 영상장치를 통해 촬영된 영상정보를 바탕으로 플레이어의 관절부위를 중심으로 플레이어의 전체 움직임 패턴을 인식하는 한편 상기 관절부위를 중심으로 사지를 분할한후 각각의 분할된 부위중 특정부위의 움직임만을 조작장치를 통해 획득된 정보를 바탕으로 특정부위의 움직임을 확인하는 것을 특징으로 하는 플레이어의 전체 움직임을 주시하면서 분할된 특정부위의 움직임을 확인하는 비디오 게임기.
A control device comprising a plurality of buttons and a motion detection sensor and mounted or positioned on a hand or foot for operation;
Display a specific motion on a display device and take a motion corresponding to the displayed motion by using the control device, and compare the motion pattern of the motion taken by the player with the motion of the displayed motion based on information applied from the control device. In the video game machine system comprising a main body to enjoy the game,
The game system includes at least one video device capable of capturing the entire movement of the player,
The main body recognizes the entire movement pattern of the player based on the joint part of the player based on the image information photographed by the imaging device, divides the limb around the joint part, and then selects a specific part of each divided part. A video game machine for checking the movement of a specific part of a segment while observing the entire movement of the player, wherein the movement of the specific part is confirmed based on the information obtained through the operation device.
제1항에 있어서,
상기 본체의 제어부는 할당된 메모리 영역에 저장된 영상정보중 플레이어가 움직임에 따라 변화하지 않는 배경정보만을 필터링하는 전처리모듈과,
상기 전처리모듈을 통해 필터링된 영상정보를 바탕으로 영상정보중 외곽정보만을 추출하여 플레이어의 외곽라인 정보만을 확보하는 영상정보추출모듈과,
상기 영상정보추출모듈을 통해 추출된 플레이어의 외곽라인의 기울기 변화나 혹은 서로 다른 기울기를 가진 부위을 플레이어의 관절 또는 연결부위로 인식하고 이를 중심으로 플레이어의 전체 움직임 패턴을 확인하는 모션확인모듈과,
상기 모션확인모듈을 통해 확인된 플레이어의 각 관절부위 혹은 연결부위를 기준으로 각부(머리, 몸통, 팔, 다리)를 분할하고 상기 분할된 각부위중 상기 조작장치와 밀착된 선택된 특정부위만을 별도로 인식하는 분할모듈과,
상기 분할모듈을 통해 선택된 특정부위를 기준으로 조작장치로부터 전달된 조작장치의 정보를 수취하여 선택된 특정부위의 이동경로나 비틀림 혹은 동작패턴을 확인하는 인식모듈과,
상기 모션확인모듈과 인식모듈에 의해 호출되어 필요한 정보를 제공하는 한편 상기 모션확인모듈과 인식모듈을 통해 필요한 정보를 인가받아 플레이어의 전체 움직임 패턴을 주시하면서 선택된 특정부위의 움직임을 확인하는 한편, 디스플레이된 특정동작과 비교하여 일치정도에 따라 결과값을 산출하여 디스플레이토록 하는 제어모듈을 포함하여 이루어진 것을 특징으로 하는 플레이어의 전체 움직임을 주시하면서 분할된 특정부위의 움직임을 확인하는 비디오 게임기.
The method of claim 1,
The control unit of the main body is a pre-processing module for filtering only the background information of the image information stored in the allocated memory area does not change as the player moves;
An image information extraction module for extracting only the outer information from the image information based on the filtered image information through the preprocessing module to secure only the outer line information of the player;
A motion check module for recognizing the change of the inclination of the outer line of the player or the parts having different inclinations extracted through the image information extraction module as the joints or connection parts of the player and checking the overall movement pattern of the player based on this;
Each part (head, torso, arm, leg) is divided based on each joint part or connection part of the player identified through the motion checking module, and separately recognizes only the selected specific part in close contact with the operation device among the divided parts. A splitting module,
Recognition module for receiving the information of the operating device transmitted from the operating device on the basis of the specific portion selected through the splitting module to check the movement path or twist or operation pattern of the selected specific portion;
Called by the motion confirmation module and the recognition module to provide the necessary information, while receiving the necessary information through the motion confirmation module and the recognition module to check the movement of the selected specific part while watching the entire movement pattern of the player, and display And a control module configured to calculate and display a result value according to the degree of matching and display the result of comparison with a specific motion.
제1항에 있어서,
본체의 제어부는 할당된 메모리 영역에 저장된 영상정보중 플레이어가 움직임에 따라 변화하지 않는 배경정보만을 필터링하는 전처리모듈과,
상기 전처리모듈을 통해 필터링된 영상정보를 바탕으로 외곽정보만을 추출하여 플레이어의 외곽라인만을 확보하는 영상정보추출모듈과,
상기 영상정보추출모듈을 통해 추출된 플레이어의 외곽라인의 기울기 변화나 혹은 서로 다른 기울기를 가진 부위을 플레이어의 관절 또는 연결부위로 인식하는 모션확인모듈과,
상기 모션확인모듈을 통해 확인된 플레이어의 각 관절부위 혹은 연결부위를 기준으로 조작장치와 밀착된 사용자의 선택된 특정부위만을 별도로 인식하여 처리하는 분할모듈과,
상기 분할모듈을 통해 선택된 특정부위를 기준으로 조작장치로부터 전달된 조작장치의 정보를 수취하여 선택된 특정부위의 이동경로나 비틀림 혹은 동작패턴을 확인하는 인식모듈과,
상기 인식모듈에 의해 호출되어 조작장치의 정보를 상기 인식모듈에 제공하도록는 한편 상기 인식모듈을 통해 확인된 결과를 인가받아 선택된 특정부위의 움직임과 디스플레이되는 특정동작의 움직임을 비교하여 일치정도에 따라 결과값을 산출하여 디스플레이하는 제어모듈을 포함하여 이루어진 것을 특징으로 하는 플레이어의 전체 움직임을 주시하면서 분할된 특정부위의 움직임을 확인하는 비디오 게임기.
The method of claim 1,
The controller of the main body includes a preprocessing module for filtering only background information of the image information stored in the allocated memory area that does not change as the player moves;
An image information extraction module for extracting only the outer information based on the filtered image information through the preprocessing module to secure only the outer line of the player;
A motion check module for recognizing a change in the inclination of the outer line of the player extracted through the image information extraction module or a part having a different inclination as a joint or a connection part of the player;
A splitting module for separately recognizing and processing only a specific part selected by the user in close contact with the control device based on each joint part or connection part of the player identified through the motion checking module;
Recognition module for receiving the information of the operating device transmitted from the operating device on the basis of the specific portion selected through the splitting module to check the movement path or twist or operation pattern of the selected specific portion;
Called by the recognition module to provide the information of the operation device to the recognition module while receiving the result confirmed by the recognition module to compare the movement of the selected specific region and the movement of the displayed specific motion and the result according to the degree of matching And a control module configured to calculate and display a value, wherein the video game machine checks the movement of the divided specific part while watching the entire movement of the player.
KR1020100109923A 2010-11-05 2010-11-05 The video game console KR101752496B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020100109923A KR101752496B1 (en) 2010-11-05 2010-11-05 The video game console

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020100109923A KR101752496B1 (en) 2010-11-05 2010-11-05 The video game console

Publications (2)

Publication Number Publication Date
KR20120048334A true KR20120048334A (en) 2012-05-15
KR101752496B1 KR101752496B1 (en) 2017-07-03

Family

ID=46266696

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020100109923A KR101752496B1 (en) 2010-11-05 2010-11-05 The video game console

Country Status (1)

Country Link
KR (1) KR101752496B1 (en)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101599809B1 (en) * 2015-01-13 2016-03-07 한국기술교육대학교 산학협력단 Apparatus for controlling baseball game
KR20160059847A (en) * 2014-11-19 2016-05-27 엘지이노텍 주식회사 Wireless controller system
KR20200121261A (en) * 2013-09-10 2020-10-23 삼성전자주식회사 Method, apparatus and recovering medium for controlling user interface using a input image
US11061480B2 (en) 2013-09-10 2021-07-13 Samsung Electronics Co., Ltd. Apparatus, method and recording medium for controlling user interface using input image
KR20210101183A (en) * 2020-10-07 2021-08-18 삼성전자주식회사 Method, apparatus and recovering medium for controlling user interface using a input image

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010233671A (en) * 2009-03-30 2010-10-21 Namco Bandai Games Inc Program, information storage medium and game device

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20200121261A (en) * 2013-09-10 2020-10-23 삼성전자주식회사 Method, apparatus and recovering medium for controlling user interface using a input image
US11061480B2 (en) 2013-09-10 2021-07-13 Samsung Electronics Co., Ltd. Apparatus, method and recording medium for controlling user interface using input image
US11513608B2 (en) 2013-09-10 2022-11-29 Samsung Electronics Co., Ltd. Apparatus, method and recording medium for controlling user interface using input image
KR20160059847A (en) * 2014-11-19 2016-05-27 엘지이노텍 주식회사 Wireless controller system
KR101599809B1 (en) * 2015-01-13 2016-03-07 한국기술교육대학교 산학협력단 Apparatus for controlling baseball game
KR20210101183A (en) * 2020-10-07 2021-08-18 삼성전자주식회사 Method, apparatus and recovering medium for controlling user interface using a input image

Also Published As

Publication number Publication date
KR101752496B1 (en) 2017-07-03

Similar Documents

Publication Publication Date Title
CA2748037C (en) Method and system for gesture recognition
US11006864B2 (en) Face detection device, face detection system, and face detection method
KR102320960B1 (en) Personalized home training behavior guidance and correction system
CN109299659A (en) A kind of human posture recognition method and system based on RGB camera and deep learning
KR20120048334A (en) The video game console
KR101745651B1 (en) System and method for recognizing hand gesture
EP2919099B1 (en) Information processing device
KR20180112656A (en) Interactive trampoline play system and control method for the same
CN105452979A (en) Apparatus and method for inputting information in sports applications
KR20090084035A (en) A real time motion recognizing method
CN110520822B (en) Control device, information processing system, control method, and program
JP2006185109A (en) Image measurement device and image measurement method
KR20130107254A (en) Image processing apparatus, image processing method, and storage medium
KR20160099335A (en) Apparaus and method for detecting aggressive actions from streaming 3d skeletton data
US20240282147A1 (en) Action recognition method, action recognition device, and non-transitory computer readable recording medium
JP2009015518A (en) Eye image photographing device and authentication device
JP2010137097A (en) Game machine and information storage medium
KR102151474B1 (en) Non contract fingerprint recognition method using smart terminal
JP2013161406A (en) Data input device, display device, data input method, and data input program
US20060211495A1 (en) Human-machine interactive virtual game control apparatus
KR20210003515A (en) Augmented Reality Implementation Device Supporting Interactive Mode
KR101133437B1 (en) Motion Game System And Motion Game Method Using The Same
CN115942902A (en) Biometric authentication system, authentication terminal, and authentication method
JP2013073434A (en) Information input device and information input method
JP4700565B2 (en) Personal authentication device

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant