WO2017115887A1 - 동작 인식 기반의 게임을 제공하기 위한 장치, 이를 위한 방법 및 이 방법이 기록된 컴퓨터 판독 가능한 기록매체 - Google Patents

동작 인식 기반의 게임을 제공하기 위한 장치, 이를 위한 방법 및 이 방법이 기록된 컴퓨터 판독 가능한 기록매체 Download PDF

Info

Publication number
WO2017115887A1
WO2017115887A1 PCT/KR2015/014440 KR2015014440W WO2017115887A1 WO 2017115887 A1 WO2017115887 A1 WO 2017115887A1 KR 2015014440 W KR2015014440 W KR 2015014440W WO 2017115887 A1 WO2017115887 A1 WO 2017115887A1
Authority
WO
WIPO (PCT)
Prior art keywords
motion
game
user
similarity
joint
Prior art date
Application number
PCT/KR2015/014440
Other languages
English (en)
French (fr)
Inventor
권성근
이우준
Original Assignee
경일대학교 산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 경일대학교 산학협력단 filed Critical 경일대학교 산학협력단
Publication of WO2017115887A1 publication Critical patent/WO2017115887A1/ko

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/20Input arrangements for video game devices
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/20Input arrangements for video game devices
    • A63F13/21Input arrangements for video game devices characterised by their sensors, purposes or types
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/20Input arrangements for video game devices
    • A63F13/21Input arrangements for video game devices characterised by their sensors, purposes or types
    • A63F13/213Input arrangements for video game devices characterised by their sensors, purposes or types comprising photodetecting means, e.g. cameras, photodiodes or infrared cells
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/25Output arrangements for video game devices
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/45Controlling the progress of the video game
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/50Controlling the output signals based on the game progress

Definitions

  • the present invention relates to a technology for providing a game based on motion recognition, and more particularly, to an apparatus for providing a game based on motion recognition by adjusting a difficulty level according to an exercise ability that can be performed according to a user's motion, and a method therefor and the same.
  • a method relates to a computer readable recording medium having recorded thereon.
  • An object of the present invention is to provide an apparatus for providing a game based on motion recognition by adjusting a difficulty level according to an exercise ability that can be performed according to a user's motion, a method therefor, and a computer-readable recording medium on which the method is recorded.
  • a game recognition apparatus based on motion recognition, which includes a display unit for displaying a screen, a camera unit for capturing an image, and a guide of a pilot photographed in advance through the display unit. Displaying a motion, photographing a motion of the user moving along the guide motion through the camera unit, calculating a similarity between the guide motion and the user's motion, evaluating the exercise ability of the user according to the similarity, and performing the motion And a controller for controlling the difficulty of the game in order to sequentially follow a plurality of game operations according to the capability and displaying the same through the display unit.
  • the control unit extracts three-dimensional position coordinates of a plurality of joints from the motion of the user captured by the camera unit, and based on the three-dimensional position coordinates of any one of the plurality of joints and the one of the joints
  • the angle formed by the two line segments is obtained using the dot product of the vector
  • the joint radian value is obtained by expressing the obtained angle in radians, and then the derived joints.
  • the similarity is calculated by comparing a radian value with a joint radian value previously derived from the guide motion.
  • the controller compares an average value or an integral value of the joint radian value derived from a predetermined number of frames in the image photographing the guide motion with the joint radian value derived from the predetermined number and the same number of frames in the image photographing the user's motion. It is characterized by deriving similarity.
  • the control unit sequentially displays a plurality of game operations through the display unit, and photographs a user's motion following the game operation through the camera unit, and thus the degree of similarity between the captured user's motion and the game motion depends on the difficulty level. If it is more than the preset reference value, it is determined that the scoring is successful.
  • a method of providing a game based on gesture recognition includes: photographing a motion of a user moving according to a guide motion of a pre-captured demonstrator; Calculating a degree of similarity with the user, evaluating the exercise ability of the user according to the degree of similarity, and adjusting and providing a difficulty level of the game in the game to sequentially follow a plurality of game operations according to the exercise ability. It includes.
  • the calculating of the similarity may include extracting three-dimensional position coordinates of a plurality of joints from the user's motion, and based on the three-dimensional position coordinates, any one of the plurality of joints and one of the joints.
  • calculating an angle formed by the two line segments using the dot product of the vector and deriving a joint radian value representing the obtained angle in radians.
  • calculating the similarity by comparing the derived joint radian value with the joint radian value previously derived from the guide motion.
  • Computing the degree of similarity by comparing the derived joint radian value and the joint radian value previously derived from the guide motion may include the user's motion and the joint radian value derived from a predetermined number of frames in the image of the guide motion.
  • the degree of similarity may be derived by comparing the average value or the integral value of the joint radian values derived from the predetermined number and the same number of frames in the captured image.
  • the game providing method may include photographing motions of a user who follows a plurality of game motions sequentially displayed, and if the similarity between the photographed user motion and the game motion is equal to or greater than a preset reference value according to the difficulty, And determining the success.
  • a computer-readable recording medium having recorded thereon instructions for executing the above-described game providing method.
  • FIG. 1 is a conceptual diagram of an apparatus for providing a game according to an embodiment of the present invention.
  • FIG. 2 is a block diagram illustrating an internal configuration of an apparatus for providing a game according to an embodiment of the present invention.
  • FIG. 3 is a flowchart illustrating a method for evaluating athletic performance according to an embodiment of the present invention.
  • FIG. 4 is a view for explaining the characteristics of the operation of a person according to an embodiment of the present invention.
  • FIG. 5 is a flowchart illustrating a method for deriving a radian value of a joint according to an embodiment of the present invention.
  • FIG. 6 is a view for explaining a method for deriving a radian value of a joint according to an embodiment of the present invention.
  • FIG. 7 is a view for explaining a method of calculating the similarity according to an embodiment of the present invention.
  • FIG. 8 is a flowchart illustrating a method of providing a game according to an embodiment of the present invention.
  • FIG. 9 is a view for explaining a method for providing a game according to an embodiment of the present invention.
  • FIG. 1 is a conceptual diagram of an apparatus for providing a game according to an embodiment of the present invention
  • Figure 2 is a block diagram for explaining the internal configuration of the apparatus for providing a game according to an embodiment of the present invention.
  • a user device 100 which is a device for providing a game based on motion recognition according to an embodiment of the present invention, is to provide a game suitable for a user's athletic ability.
  • the user device 100 displays the operation of the demonstrator on a screen so that the user follows the operation of the demonstrator.
  • the tester's motion may be provided through a pre-photographed and stored image.
  • the user device 100 may evaluate the user's exercise ability through the user's motion in which the user follows the guide motion.
  • the user device 100 may provide a game suitable for the user based on the exercise ability of the user. Accordingly, the present invention can provide a game suitable for the exercise ability of the user.
  • the user device 100 of the present invention includes a display unit 110, a camera unit 120, a storage unit 130, an input unit 140, and a controller 150.
  • the display unit 110 visually provides a menu, input data, function setting information, and various other information of the user device 100 to the user.
  • the display unit 110 outputs a screen such as a boot screen, a standby screen, a menu screen, and the like of the user device 100.
  • the display unit 110 performs a function of outputting the operation of the demonstrator according to the embodiment of the present invention on the screen.
  • the display unit 110 may be formed of a liquid crystal display (LCD), organic light emitting diodes (OLEDs), active matrix organic light emitting diodes (AMOLEDs), and the like. Meanwhile, the display unit 110 may be implemented as a touch screen.
  • the display unit 110 may include a touch sensor, and the controller 150 may detect a user's touch input through the touch sensor.
  • the touch sensor may be configured as a touch sensing sensor such as capacitive overlay, pressure type, resistive overlay, infrared beam, or pressure sensor. .
  • all kinds of sensor devices capable of detecting contact or pressure of an object may be used as the touch sensor of the present invention.
  • the touch sensor detects a user's touch input, generates a detection signal, and transmits the detected signal to the controller 150.
  • the sensing signal may include coordinate data input by the user.
  • the touch sensor may generate a detection signal including coordinate data of the touch position movement path and transmit the detected signal to the controller 150.
  • some or all of the functions of the input unit 140 may be performed through the display unit 110.
  • the camera unit 120 is for capturing an image, and particularly for capturing a user's motion.
  • the camera unit 120 includes an infrared light emitting module (IR light), a depth image sensor, and a color image sensor.
  • IR light infrared light emitting module
  • the color image sensor receives light reflected from a subject and converts the light into an electrical signal, and may be implemented based on a Charged Coupled Device (CCD), a Complementary Metal-Oxide Semiconductor (CMOS), or the like.
  • CCD Charged Coupled Device
  • CMOS Complementary Metal-Oxide Semiconductor
  • the infrared light emitting module emits infrared rays in pixels.
  • the depth image sensor receives the infrared light emitted by the infrared light emitting module in units of pixels, and measures the distance (or expressed in depth) from which the infrared light is reflected back to the subject. Accordingly, the controller 150 may derive three-dimensional coordinates for each pixel of the subject of the image captured by the camera unit 120 according to the embodiment of the present invention.
  • the depth image sensor and the color image sensor of the camera unit 120 may be a Kinect sensor.
  • the camera unit 120 may further include an analog-to-digital converter, and may convert an electrical signal output from an image sensor into a digital sequence and output the digital sequence to the controller 150.
  • the storage 130 stores a program and data necessary for the operation of the user device 100 and may be divided into a program area and a data area.
  • the program area may store a program for controlling the overall operation of the user device 100, an operating system (OS) for booting the user device 100, an application program, and the like.
  • the data area is an area in which user data generated according to the use of the user device 100 is stored.
  • the storage 130 may store various types of data generated according to the user's use of the user device 100. Such data includes an image made up of a plurality of frames photographing the motion of the demonstrator, the motion of the user, and the like.
  • Various data stored in the storage 130 may be deleted, changed, or added according to a user's manipulation.
  • the input unit 140 receives a key operation of the user for controlling the user device 100, generates an input signal, and transmits the generated input signal to the controller 150.
  • the input unit 140 may include any one of a power key, a numeric key, and a direction key for power on / off, and may be formed as a predetermined function key on one surface of the user device 100.
  • the display unit 110 of the input unit 140 is a touch screen, the functions of the various keys may be performed on the display unit 110, and when the entire function may be performed only by the touch screen, the input unit 140 may be omitted. It may be.
  • the controller 150 may control an overall operation of the user device 100, a signal flow between internal blocks of the user device 100, and may perform a data processing function of processing data.
  • the controller 150 may be a central processing unit (CPU), an application processor, or the like. The operation of the controller 150 will be described in more detail below.
  • the user device 100 is a storage medium insertion unit for inserting an external storage medium such as a memory card to enable data storage, and a connection terminal for data exchange with an external digital device. And a charging terminal.
  • the user device 100 may be configured to further include units having additional functions, such as an audio processor for inputting or outputting an audio signal, a voice signal, etc. through a microphone and a speaker, and an MP3 module for digital sound source reproduction. have. According to the convergence trend of digital devices, variations of mobile devices are very diverse and cannot be enumerated. However, a unit equivalent to the above-mentioned units is further included in the user device 100 according to the present invention. It can be easily understood by those of ordinary skill in the art.
  • the method for providing a game according to an embodiment of the present invention evaluates a user's athletic ability and provides the game with a difficulty that matches the athletic ability. Therefore, the method of evaluating exercise ability according to an embodiment of the present invention will be described first.
  • 3 is a flowchart illustrating a method for evaluating athletic performance according to an embodiment of the present invention.
  • the controller 150 displays a guide operation and a guide message of the demonstrator through the display unit 110 in step S110 to guide the user to follow the guide operation.
  • the guide operation is an operation of the demonstrator included in the image photographed in advance by the camera unit 110 according to the embodiment of the present invention.
  • the controller 150 may additionally guide the user to follow the guide operation through the output of the voice signal.
  • the user may follow the guide operation displayed through the display unit 110.
  • the controller 150 captures the user's motion through the camera unit 120 in step S120.
  • the controller 150 compares the guide motion displayed on the display 110 with the motion of the captured user in operation S130, and calculates similarity between the two motions.
  • the controller 150 evaluates the exercise ability of the user according to the similarity in operation S140 and determines the difficulty level of the game corresponding to the exercise ability.
  • the similarity according to the embodiment of the present invention means a degree similar to the guide operation of the demonstrator. Then, the method of calculating the similarity will be described in more detail.
  • 4 is a view for explaining the characteristics of the operation of a person according to an embodiment of the present invention.
  • 5 is a flowchart illustrating a method for deriving a radian value of a joint according to an embodiment of the present invention.
  • 6 is a view for explaining a method for deriving a radian value of a joint according to an embodiment of the present invention.
  • 7 is a view for explaining a method for calculating the similarity according to an embodiment of the present invention.
  • the elbow joint 10 has a three-dimensional position determined by the shoulder joint 21, and the wrist joint 22 has a three-dimensional position by the elbow joint 10. Is determined.
  • all motions of a person are limited by joints neighboring each other, and the present invention uses the angles observed in these joints to calculate the similarity of motions.
  • the controller 150 captures the user's motion according to the guide motion. Then, the controller 150 may extract three-dimensional coordinates of each joint of the user from the user's motion captured by the camera unit 110 in step S210. For example, referring to FIG. 6, three-dimensional position coordinates of each of the shoulder joint 21, the elbow joint 10, and the wrist joint 22 may be extracted.
  • the controller 150 emits infrared rays to the subject in units of pixels through the camera unit 110 and receives the infrared rays reflected from the subject, so that each part of the pixels in the subject unit is included. Recognize three-dimensional positional coordinates for. At this time, since the subject is a human, the controller 150 derives position data of the main skeleton constituting the human body, that is, three-dimensional coordinates of the joint, by using previously stored skeleton characteristics of the human body.
  • the controller 150 derives a vector from one joint to two neighboring joints in step S220.
  • the controller 150 determines the angle ⁇ between the two line segments when connecting one joint and two neighboring joints of the joint with two different line segments through the dot product of the vector in step S230. Can be obtained.
  • the elbow joint 10 and the shoulder joint 21 are connected by a line segment (first segment), and the elbow joint 10 and the wrist joint 22 are connected.
  • first segment When connected by a line segment (second line segment), an angle ⁇ formed between the first line segment and the second line segment may be obtained through the dot product of the vector u and the vector v.
  • the controller 150 converts the angle ⁇ obtained in operation S240 into a radian value.
  • the present invention is an image photographing a user's motion, wherein any one of a plurality of joints of the user and two joints adjacent to the joint are divided into two line segments.
  • the angle ( ⁇ ) formed by two line segments can be obtained using the dot product of the vector, and can be expressed as a radian value.
  • an expression ⁇ obtained by using one joint and a joint adjacent to the joint is expressed as a radian value, which will be referred to as a joint radian value.
  • the embodiment of the present invention can express the characteristics of all the motions of a person by the joint radian value of each joint.
  • the controller 150 may calculate the similarity by comparing the radian value of the joint derived from the user's motion with the radian value of the joint previously extracted from the guide motion of the demonstrator.
  • the controller 150 may derive a similarity between the radian values of the joints in the joints corresponding to each other in the guide motion of the demonstrator and the motion of the user.
  • the controller 150 captures a joint radian value derived from a predetermined number of frames (eg, 60 frames) of the image photographing the pilot's guide motion and a predetermined number of frames (guide motions) of the image photographing the user's motion. Similarity may be derived by comparing joint radian values derived from a predetermined number of frames and the same number of images).
  • the controller 150 calculates the similarity using the average value of the joint radian values detected for a predetermined number of frames, or compares the integral values when the integral value obtained by integrating the joint radian values for the predetermined number of frames is calculated. Similarity can be calculated. In addition, the similarity may be calculated using an algorithm such as a cosine coefficient method, Euclidean distance, and a vector product product.
  • the exercise ability is evaluated according to the similarity.
  • the calculated similarity will be high. Therefore, the higher the similarity is determined to be higher exercise ability, the lower the similarity is determined to be lower exercise ability. Therefore, the present invention provides a game by adjusting the difficulty of the game according to the athletic ability.
  • a game according to an embodiment of the present invention displays a plurality of game actions in sequence on a screen, and if a user's motion that sequentially follows each of the game actions is equal to or higher than the preset similarity with each game action, the game is recognized as a score. If not, the scoring is made in a way that fails. For example, it is assumed that game operations A, B, and C are the upper, middle, and lower levels of difficulty, respectively. Accordingly, in the embodiment of the present invention, the higher the exercise ability, the more game game A with high difficulty in one game, and the less C game with low difficulty. Conversely, in the embodiment of the present invention, the lower the exercise ability, the lower the game difficulty A of high difficulty in one game, and the lower difficulty C action may be assigned more.
  • FIG. 8 is a flowchart illustrating a method of providing a game according to an embodiment of the present invention
  • FIG. 9 is a diagram illustrating a method of providing a game according to an embodiment of the present invention.
  • the controller 150 starts the game in step S310.
  • the control unit 150 sequentially displays the game operation through the display unit 110 in step S320.
  • the controller 150 may additionally display a guide message to guide the game operation.
  • the controller 150 may guide the user to follow the guide operation through the voice signal output.
  • An example of the game operation is shown in FIG.
  • game operations illustrated in FIGS. 9A, 9B, and 9C may be sequentially displayed on the display unit 110 with a predetermined time interval between the game operations.
  • the game operation is previously photographed by the camera unit 120 according to an embodiment of the present invention, and may be an operation performed by the demonstration person.
  • the controller 150 photographs the user's motion following the game operation in operation S330 and calculates a similarity with the game operation.
  • the similarity calculation method is as described above with reference to FIGS. 4 to 7.
  • the controller 150 determines whether the similarity is equal to or greater than a preset reference value according to the difficulty level in operation S340. As a result of this determination, if the similarity is greater than or equal to the reference value, the controller 150 proceeds to step S350 and determines that the scoring is successful. If not, the controller 150 proceeds to step S360 and determines that the scoring has failed.
  • step S370 This game procedure continues until the controller 370 determines that the game is finished in step S370. That is, steps S320 to S370 are repeated until the game ends. For example, game operations assigned to one game as shown in FIGS. 9A, 9B, and 9C are sequentially displayed through the display unit 110, and whether or not to score is determined according to the similarity determination. If the controller 370 determines that the game is finished in step S370, the controller 370 proceeds to step S380 to end the game.
  • the user's athletic ability when the game ends, the user's athletic ability may be re-evaluated using the similarity calculated as the user follows the game operation. The reevaluated athletic ability can then reset the game's difficulty.
  • the method for providing a game according to an embodiment of the present invention may be implemented in the form of a program readable through various computer means may be recorded on a computer-readable recording medium.
  • the recording medium may include a program command, a data file, a data structure, etc. alone or in combination.
  • Program instructions recorded on the recording medium may be those specially designed and constructed for the present invention, or they may be of the kind well-known and available to those having skill in the computer software arts.
  • the recording medium may be magnetic media such as hard disks, floppy disks and magnetic tapes, optical media such as CD-ROMs, DVDs, or magnetic-optical media such as floptical disks.
  • magneto-optical media and hardware devices specifically configured to store and execute program instructions, such as ROM, RAM, flash memory, and the like.
  • program instructions may include high-level language wires that can be executed by a computer using an interpreter as well as machine language wires such as those produced by a compiler.
  • Such hardware devices may be configured to operate as one or more software modules to perform the operations of the present invention, and vice versa.
  • the present invention relates to a device for providing a motion recognition-based game by adjusting the difficulty level according to the exercise ability that can be performed according to a user's motion, a method therefor, and a computer-readable recording medium on which the method is recorded.
  • a device for providing a motion recognition-based game by adjusting the difficulty level according to the exercise ability that can be performed according to a user's motion, a method therefor, and a computer-readable recording medium on which the method is recorded.
  • UX user experience

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Human Computer Interaction (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biophysics (AREA)
  • Cardiology (AREA)
  • General Health & Medical Sciences (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Business, Economics & Management (AREA)
  • Computer Security & Cryptography (AREA)
  • General Business, Economics & Management (AREA)
  • User Interface Of Digital Computer (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)

Abstract

본 발명은 동작 인식 기반의 게임을 제공하기 위한 장치, 이를 위한 방법 및 이 방법이 기록된 컴퓨터 판독 가능한 기록매체에 관한 것으로, 이러한 본 발명은 화면 표시를 위한 표시부와, 영상 촬영을 위한 카메라부와, 상기 표시부를 통해 미리 촬영된 시범자의 가이드 동작을 표시하고, 상기 카메라부를 통해 상기 가이드 동작을 따라 움직이는 사용자의 동작을 촬영하여 상기 가이드 동작과 사용자의 동작과의 유사도를 산출하며, 상기 유사도에 따라 상기 사용자의 운동 능력을 평가하고, 상기 운동 능력에 따라 복수의 게임 동작을 순차로 따라하도록 하는 게임에서 게임의 난이도를 조절하여 상기 표시부를 통해 표시하도록 제어하는 제어부를 포함하는 것을 특징으로 하는 게임 제공 장치와, 이를 위한 방법 및 이 방법이 기록된 컴퓨터 판독 가능한 기록매체를 제공한다.

Description

동작 인식 기반의 게임을 제공하기 위한 장치, 이를 위한 방법 및 이 방법이 기록된 컴퓨터 판독 가능한 기록매체
본 발명은 동작 인식 기반 게임 제공 기술에 관한 것으로, 보다 상세하게는, 사용자의 동작을 따라 할 수 있는 운동 능력에 따라 난이도를 조절하여 동작 인식 기반의 게임을 제공하기 위한 장치, 이를 위한 방법 및 이 방법이 기록된 컴퓨터 판독 가능한 기록매체에 관한 것이다.
영상 정보 기반의 다양한 멀티미디어 시스템(multi-media system)이 발달하면서 영상이 포함하고 있는 정보를 이해하고 이를 다양한 분야에 응용할 수 있는 기술에 대한 수요가 급증하고 있다. 특히, 제스처 혹은 동작 인식 기반의 각 종 엔터테인먼트 산업이 발전하고 있다.
본 발명의 목적은 사용자의 동작을 따라 할 수 있는 운동 능력에 따라 난이도를 조절하여 동작 인식 기반의 게임을 제공하는 장치, 이를 위한 방법 및 이 방법이 기록된 컴퓨터 판독 가능한 기록매체를 제공함에 있다.
상술한 바와 같은 목적을 달성하기 위한 본 발명의 바람직한 실시예에 따른 동작 인식 기반의 게임 제공 장치는 화면 표시를 위한 표시부와, 영상 촬영을 위한 카메라부와, 상기 표시부를 통해 미리 촬영된 시범자의 가이드 동작을 표시하고, 상기 카메라부를 통해 상기 가이드 동작을 따라 움직이는 사용자의 동작을 촬영하여 상기 가이드 동작과 사용자의 동작과의 유사도를 산출하며, 상기 유사도에 따라 상기 사용자의 운동 능력을 평가하고, 상기 운동 능력에 따라 복수의 게임 동작을 순차로 따라하도록 하는 게임에서 게임의 난이도를 조절하여 상기 표시부를 통해 표시하도록 제어하는 제어부를 포함한다.
상기 제어부는 상기 카메라부를 통해 촬영되는 상기 사용자의 동작으로부터 복수의 관절의 3차원 위치 좌표를 추출하고, 상기 3차원 위치 좌표를 기초로 상기 복수의 관절 중 어느 하나의 관절과 상기 어느 하나의 관절의 이웃하는 2개의 관절을 2개의 선분으로 연결할 때, 벡터의 내적을 이용하여 상기 2개의 선분이 이루는 각을 구하고, 구해진 각을 라디안(radian) 값으로 표현한 관절 라디안 값을 도출한 후, 도출된 관절 라디안 값과, 상기 가이드 동작으로부터 미리 도출된 관절 라디안 값을 비교하여 상기 유사도를 산출하는 것을 특징으로 한다.
상기 제어부는 상기 가이드 동작을 촬영한 영상에서 소정 수의 프레임으로부터 도출되는 관절 라디안 값과 사용자의 동작을 촬영한 영상에서 상기 소정 수와 동수의 프레임으로부터 도출되는 관절 라디안 값의 평균값 혹은 적분값을 비교하여 유사도를 도출하는 것을 특징으로 한다.
상기 제어부는 상기 표시부를 통해 순차로 복수의 게임 동작을 표시하고, 상기 카메라부를 통해 상기 게임 동작을 따라하는 사용자의 동작을 촬영하여, 촬영된 사용자의 동작과 상기 게임 동작의 유사도가 상기 난이도에 따라 미리 설정된 기준치 이상이면, 득점에 성공한 것으로 판정하는 것을 특징으로 한다.
상술한 바와 같은 목적을 달성하기 위한 본 발명의 바람직한 실시예에 따른 동작 인식 기반의 게임 제공 방법은 미리 촬영된 시범자의 가이드 동작 따라 움직이는 사용자의 동작을 촬영하는 단계와, 상기 가이드 동작과 사용자의 동작과의 유사도를 산출하는 단계와, 상기 유사도에 따라 상기 사용자의 운동 능력을 평가하는 단계와, 상기 운동 능력에 따라 복수의 게임 동작을 순차로 따라하도록 하는 게임에서 게임의 난이도를 조절하여 제공하는 단계를 포함한다.
상기 유사도를 산출하는 단계는 상기 사용자의 동작으로부터 복수의 관절의 3차원 위치 좌표를 추출하는 단계와, 상기 3차원 위치 좌표를 기초로 하여 상기 복수의 관절 중 어느 하나의 관절과 상기 어느 하나의 관절에 이웃하는 2개의 관절을 2개의 선분으로 연결할 때, 벡터의 내적을 이용하여 상기 2개의 선분이 이루는 각을 구하는 단계와, 상기 구해진 각을 라디안(radian) 값으로 표현한 관절 라디안 값을 도출하는 단계와, 상기 도출된 관절 라디안 값과 상기 가이드 동작으로부터 미리 도출된 관절 라디안 값을 비교하여 상기 유사도를 산출하는 단계를 포함한다.
상기 도출된 관절 라디안 값과 상기 가이드 동작으로부터 미리 도출된 관절 라디안 값을 비교하여 상기 유사도를 산출하는 단계는 상기 가이드 동작을 촬영한 영상에서 소정 수의 프레임으로부터 도출되는 관절 라디안 값과 사용자의 동작을 촬영한 영상에서 상기 소정 수와 동수의 프레임으로부터 도출되는 관절 라디안 값의 평균값 혹은 적분값을 비교하여 유사도를 도출하는 것을 특징으로 한다.
상기 게임 제공 방법은 순차로 표시되는 복수의 게임 동작을 따라하는 사용자의 동작을 촬영하는 단계와, 상기 촬영된 사용자의 동작과 상기 게임 동작의 유사도가 상기 난이도에 따라 미리 설정된 기준치 이상이면, 득점에 성공한 것으로 판정하는 단계를 더 포함한다.
본 발명의 또 다른 견지에 따르면, 전술한 게임 제공 방법을 실행하는 명령어가 기록된 컴퓨터 판독 가능한 기록매체를 제공한다.
상술한 바와 같은 본 발명에 따르면, 동작 인식을 통해 시범자의 동작과 사용자의 동작의 유사도를 도출하고, 이를 통해 사용자의 운동 능력을 평가하며, 그 운동 능력에 따라 난이도를 조절하는 사용자 맞춤형 게임을 제공함으로써, 사용자에게 적절한 난이도로 게임을 즐길 수 있는 사용자 경험(UX: User eXperience)을 제공할 수 있다.
도 1은 본 발명의 실시예에 따른 게임을 제공하기 위한 장치의 개념도이다.
도 2는 본 발명의 실시예에 따른 게임을 제공하기 위한 장치의 내부 구성을 설명하기 위한 블록도이다.
도 3은 본 발명의 실시예에 따른 운동 능력을 평가하기 위한 방법을 설명하기 위한 흐름도이다.
도 4는 본 발명의 실시예에 따른 사람의 동작의 특징을 설명하기 위한 도면이다.
도 5는 본 발명의 실시예에 따른 관절의 라디안 값을 도출하기 위한 방법을 설명하기 위한 흐름도이다.
도 6은 본 발명의 실시예에 따른 관절의 라디안 값을 도출하기 위한 방법을 설명하기 위한 도면이다.
도 7은 본 발명의 실시예에 따른 유사도를 산출하는 방법을 설명하기 위한 도면이다.
도 8은 본 발명의 실시예에 따른 게임을 제공하는 방법을 설명하기 위한 흐름도이다.
도 9는 본 발명의 실시예에 따른 게임을 제공하는 방법을 설명하기 위한 도면이다.
본 발명의 상세한 설명에 앞서, 이하에서 설명되는 본 명세서 및 청구범위에 사용된 용어나 단어는 통상적이거나 사전적인 의미로 한정해서 해석되어서는 아니 되며, 발명자는 그 자신의 발명을 가장 최선의 방법으로 설명하기 위해 용어의 개념으로 적절하게 정의할 수 있다는 원칙에 입각하여 본 발명의 기술적 사상에 부합하는 의미와 개념으로 해석되어야만 한다. 따라서 본 명세서에 기재된 실시예와 도면에 도시된 구성은 본 발명의 가장 바람직한 실시예에 불과할 뿐, 본 발명의 기술적 사상을 모두 대변하는 것은 아니므로, 본 출원시점에 있어서 이들을 대체할 수 있는 다양한 균등물과 변형 예들이 있을 수 있음을 이해하여야 한다.
이하, 첨부된 도면을 참조하여 본 발명의 바람직한 실시예들을 상세히 설명한다. 이때, 첨부된 도면에서 동일한 구성 요소는 가능한 동일한 부호로 나타내고 있음을 유의해야 한다. 또한, 본 발명의 요지를 흐리게 할 수 있는 공지 기능 및 구성에 대한 상세한 설명은 생략할 것이다. 마찬가지의 이유로 첨부 도면에 있어서 일부 구성요소는 과장되거나 생략되거나 또는 개략적으로 도시되었으며, 각 구성요소의 크기는 실제 크기를 전적으로 반영하는 것이 아니다.
먼저, 본 발명의 실시예에 따른 게임을 제공하기 위한 장치에 대해서 설명하기로 한다. 도 1은 본 발명의 실시예에 따른 게임을 제공하기 위한 장치의 개념도이며, 도 2는 본 발명의 실시예에 따른 게임을 제공하기 위한 장치의 내부 구성을 설명하기 위한 블록도이다.
도 1을 참조하면, 본 발명의 실시예에 따른 동작 인식 기반의 게임을 제공하기 위한 장치인 사용자 장치(100)는 사용자의 운동 능력에 적합한 게임을 제공하기 위한 것이다. 이를 위하여, 사용자 장치(100)는 시범자의 동작을 화면으로 표시하여 사용자로 하여금 해당 시범자의 동작을 따라 한다. 여기서, 시범자의 동작은 미리 촬영되어 저장된 영상을 통해 제공될 수 있다. 이때, 사용자 장치(100)는 사용자가 가이드 동작을 따라하는 사용자의 동작을 통해 사용자의 운동 능력을 평가할 수 있다. 그리고 사용자 장치(100)는 사용자의 운동 능력을 기초로 사용자에게 적합한 게임을 제공할 수 있다. 이에 따라, 본 발명은 사용자의 운동 능력에 적합한 게임을 제공할 수 있다.
도 2를 참조하면, 본 발명의 사용자 장치(100)는 표시부(110), 카메라부(120), 저장부(130), 입력부(140) 및 제어부(150)를 포함한다.
표시부(110)는 사용자 장치(100)의 메뉴, 입력된 데이터, 기능 설정 정보 및 기타 다양한 정보를 사용자에게 시각적으로 제공한다. 표시부(110)는 사용자 장치(100)의 부팅 화면, 대기 화면, 메뉴 화면, 등의 화면을 출력하는 기능을 수행한다. 특히, 표시부(110)는 본 발명의 실시예에 따른 시범자의 동작을 화면으로 출력하는 기능을 수행한다. 이러한 표시부(110)는 액정표시장치(LCD, Liquid Crystal Display), 유기 발광 다이오드(OLED, Organic Light Emitting Diodes), 능동형 유기 발광 다이오드(AMOLED, Active Matrix Organic Light Emitting Diodes) 등으로 형성될 수 있다. 한편, 표시부(110)는 터치스크린으로 구현될 수 있다. 이러한 경우, 표시부(110)는 터치센서를 포함하며, 제어부(150)는 터치센서를 통해 사용자의 터치 입력을 감지할 수 있다. 터치센서는 정전용량 방식(capacitive overlay), 압력식, 저항막 방식(resistive overlay), 적외선 감지 방식(infrared beam) 등의 터치 감지 센서로 구성되거나, 압력 감지 센서(pressure sensor)로 구성될 수도 있다. 상기 센서들 이외에도 물체의 접촉 또는 압력을 감지할 수 있는 모든 종류의 센서 기기가 본 발명의 터치센서로 이용될 수 있다. 터치센서는 사용자의 터치 입력을 감지하고, 감지 신호를 발생시켜 제어부(150)로 전송한다. 이러한 감지 신호에는 사용자가 터치를 입력한 좌표 데이터가 포함될 수 있다. 사용자가 터치 위치 이동 동작을 입력한 경우에 터치센서는 터치 위치 이동 경로의 좌표 데이터를 포함한 감지 신호를 발생시켜 제어부(150)로 전송할 수 있다. 특히, 표시부(110)가 터치스크린으로 이루어진 경우, 입력부(140) 기능의 일부 또는 전부는 표시부(110)를 통해 이루어질 수 있다.
카메라부(120)는 영상을 촬영하기 위한 것으로, 특히, 사용자의 동작을 촬영하기 위한 것이다. 이러한 카메라부(120)는 도시되지는 않았지만, 적외선 발광 모듈(IR light), 깊이 이미지 센서 및 컬러 이미지 센서를 포함한다. 컬러 이미지 센서는 피사체에서 반사되는 빛을 입력받아 전기신호로 변환하며, CCD(Charged Coupled Device), CMOS(Complementary Metal-Oxide Semiconductor) 등을 기반으로 구현될 수 있다. 적외선 발광 모듈은 픽셀 단위로 적외선을 발산한다. 깊이 이미지 센서는 적외선 발광 모듈이 픽셀 단위로 발산한 적외선을 입력받아, 적외선이 피사체에 반사되어 돌아오는 거리(혹은 깊이로 표현되기도 함)를 측정한다. 이에 따라, 제어부(150)는 본 발명의 실시예에 따른 카메라부(120)를 통해 촬영된 영상의 피사체의 각 픽셀에 대해 3차원 좌표를 도출할 수 있다. 이러한 카메라부(120)의 적외선 발광 모듈(IR light), 깊이 이미지 센서 및 컬러 이미지 센서의 대표적인 예로, 키넥트 센서(Kinect sensor)를 예시할 수 있다. 카메라부(120)는 아날로그-디지털 변환기(Analog to Digital Converter)를 더 포함할 수 있으며, 이미지 센서에서 출력되는 전기신호를 디지털 수열로 변환하여 제어부(150)로 출력할 수 있다.
저장부(130)는 사용자 장치(100)의 동작에 필요한 프로그램 및 데이터를 저장하는 역할을 수행하며, 프로그램 영역과 데이터 영역으로 구분될 수 있다. 프로그램 영역은 사용자 장치(100)의 전반적인 동작을 제어하는 프로그램 및 사용자 장치(100)를 부팅시키는 운영체제(OS, Operating System), 응용 프로그램 등을 저장할 수 있다. 데이터 영역은 사용자 장치(100)의 사용에 따라 발생하는 사용자 데이터가 저장되는 영역이다. 또한, 저장부(130)는 사용자의 사용자 장치(100) 사용에 따라 발생되는 각 종 데이터를 저장할 수 있다. 이러한 데이터는 시범자의 동작, 사용자의 동작 등을 촬영한 복수의 프레임으로 이루어진 영상을 포함한다. 저장부(130)에 저장되는 각 종 데이터는 사용자의 조작에 따라, 삭제, 변경, 추가될 수 있다.
입력부(140)는 사용자 장치(100)를 제어하기 위한 사용자의 키 조작을 입력받고 입력 신호를 생성하여 제어부(150)에 전달한다. 입력부(140)는 전원 on/off를 위한 전원 키, 숫자 키, 방향키 중 어느 하나를 포함할 수 있으며, 사용자 장치(100)의 일면에 소정의 기능키로 형성될 수 있다. 입력부(140)의 표시부(110)가 터치스크린으로 이루어진 경우, 각 종 키들의 기능이 표시부(110)에서 이루어질 수 있으며, 터치스크린만으로 모든 기능을 수행할 수 있는 경우, 입력부(140)는 생략될 수도 있다.
제어부(150)는 사용자 장치(100)의 전반적인 동작 및 사용자 장치(100)의 내부 블록들 간 신호 흐름을 제어하고, 데이터를 처리하는 데이터 처리 기능을 수행할 수 있다. 이러한 제어부(150)는 중앙 처리 장치(Central Processing Unit : CPU), 애플리케이션 프로세서(Application Processor) 등이 될 수 있다. 이러한 제어부(150)의 동작은 아래에서 보다 상세하게 설명될 것이다.
또한 도시되진 않았으나, 본 발명의 실시예에 따른 사용자 장치(100)는 메모리 카드와 같은 외부 저장 매체를 삽입하여 데이터 저장을 가능토록 하는 저장매체 삽입부, 외부 디지털 기기와의 데이터 교환을 위한 연결 단자, 충전용 단자를 구비할 수 있다. 또한, 사용자 장치(100)는 마이크 및 스피커를 통해 오디오 신호, 음성 신호 등을 입력 혹은 출력하는 오디오 처리부, 디지털 음원 재생을 위한 MP3 모듈 등의 부가 기능을 갖는 유닛들을 선택적으로 더 포함하여 구성될 수 있다. 디지털 기기의 컨버전스(convergence) 추세에 따라 휴대 기기의 변형이 매우 다양하여 모두 열거할 수는 없으나, 상기 언급된 유닛들과 동등한 수준의 유닛이 본 발명에 따른 사용자 장치(100)에 추가로 더 포함되어 구성될 수 있다는 것은 본 기술분야의 통상의 지식을 가진 자라면 쉽게 이해할 수 있을 것이다.
다음으로, 본 발명의 실시예에 따른 게임을 제공하기 위한 방법에 대해서 설명하기로 한다. 본 발명의 실시예에 따른 게임을 제공하기 위한 방법은 사용자의 운동 능력을 평가하고, 그 운동 능력에 맞는 난이도로 게임을 제공한다. 이에 본 발명의 실시예에 따른 운동 능력 평가 방법에 대해서 먼저 설명한다. 도 3은 본 발명의 실시예에 따른 운동 능력을 평가하기 위한 방법을 설명하기 위한 흐름도이다.
도 3을 참조하면, 사용자의 운동 능력을 평가하기 위하여 제어부(150)는 S110 단계에서 표시부(110)를 통해 시범자의 가이드 동작과 안내 메시지를 표시하여, 가이드 동작을 따라하도록 안내한다. 여기서, 가이드 동작은 본 발명의 실시예에 따른 카메라부(110)를 통해 미리 촬영된 영상에 포함된 시범자의 동작이다. 이러한 S110 단계에서, 제어부(150)는 추가로 음성 신호 출력을 통해 가이드 동작을 따라 하도록 안내할 수 있다.
안내에 따라 사용자는 표시부(110)를 통해 표시되는 가이드 동작을 따라 할 수 있다. 그러면, 제어부(150)는 S120 단계에서 카메라부(120)를 통해 사용자의 동작을 촬영한다. 그런 다음, 제어부(150)는 S130 단계에서 앞서 표시부(110)를 통해 표시된 가이드 동작과 촬영된 사용자의 동작을 비교하여, 두 동작의 유사도를 산출한다. 유사도가 산출되면, 제어부(150)는 S140 단계에서 유사도에 따라 사용자의 운동 능력을 평가하고, 그 운동 능력에 상응하는 게임의 난이도를 결정한다.
앞서 설명된 바와 같이, 본 발명의 실시예에 따른 유사도는 시범자의 가이드 동작과 유사한 정도를 의미한다. 그러면, 이러한 유사도를 산출하는 방법에 대해서 보다 자세하게 설명하기로 한다.
도 4는 본 발명의 실시예에 따른 사람의 동작의 특징을 설명하기 위한 도면이다. 도 5는 본 발명의 실시예에 따른 관절의 라디안 값을 도출하기 위한 방법을 설명하기 위한 흐름도이다. 도 6은 본 발명의 실시예에 따른 관절의 라디안 값을 도출하기 위한 방법을 설명하기 위한 도면이다. 또한, 도 7은 본 발명의 실시예에 따른 유사도를 산출하는 방법을 설명하기 위한 도면이다.
도 4에 보인 바와 같이, 사람의 관절 구조상, 팔꿈치 관절(10)은 어깨 관절(21)에 의해 3차원 위치가 결정되고, 손목 관절(22)은 팔꿈치 관절(10)에 의해 관절의 3차원 위치가 결정된다. 바꿔 말하면, 사람의 모든 동작은 서로 이웃하는 관절에 의해 제한되며, 본 발명은 이러한 관절에 관측되는 각도를 이용하여 동작의 유사도를 산출한다.
도 5를 참조하면, 앞서 S120 단계에서 제어부(150)는 가이드 동작에 따른 사용자의 동작을 촬영하였다. 그러면, 제어부(150)는 S210 단계에서 카메라부(110)를 통해 촬영된 사용자의 동작으로부터 사용자의 각 관절의 3차원 좌표를 추출할 수 있다. 예컨대, 도 6을 참조하면, 어깨 관절(21), 팔꿈치 관절(10) 및 손목 관절(22) 각각의 3차원 위치 좌표를 추출할 수 있다. 좀 더 자세히 설명하면, 제어부(150)는 앞서 설명된 바와 같이, 카메라부(110)를 통해 적외선을 픽셀 단위로 피사체에 방사하고, 피사체로부터 반사되는 적외선을 수신하여, 피사체의 픽셀 단위의 각 부분에 대한 3차원 위치 좌표를 인식할 수 있다. 이때, 피사체는 사람이므로, 제어부(150)는 미리 저장된 인체의 골격 특징을 이용하여, 인체를 구성하는 주요 골격에 대한 위치 데이터, 즉, 관절의 3차원 좌표를 도출한다.
관절의 3차원 좌표가 도출되면, 제어부(150)는 S220 단계에서 어느 하나의 관절로부터 2개의 이웃하는 관절까지의 벡터를 도출한다. 예컨대, 어느 하나의 관절을 팔꿈치 관절(10)이라고 하였을 때, 3차원 위치를 기준으로, 팔꿈치 관절(10)로부터 어깨 관절(21)까지의 벡터 u와, 팔꿈치 관절(10)로부터 손목 관절(22)까지의 벡터 v를 구할 수 있다. 그런 다음, 제어부(150)는 S230 단계에서 벡터의 내적을 통해 어느 하나의 관절과 그 관절의 이웃하는 2개의 관절을 서로 다른 2개의 선분으로 연결하였을 때의 2개의 선분의 사이의 각(θ)을 구할 수 있다. 예컨대, 어느 하나의 관절을 팔꿈치 관절(10)이라고 하였을 때, 팔꿈치 관절(10)과 어깨 관절(21)을 선분(제1 선분)으로 연결하고, 팔꿈치 관절(10)과 손목 관절(22)을 선분(제2 선분)으로 연결하였을 때, 제1 선분과 제2 선분이 이루는 각(θ)을 벡터 u와 벡터 v의 내적을 통해 구할 수 있다. 그리고 제어부(150)는 S240 단계에서 구해진 각(θ)을 라디안 값으로 변환한다.
전술한 도 5 및 도 6을 통해 설명된 바와 같이, 본 발명은 사용자의 동작을 촬영한 영상에서, 사용자의 복수의 관절 중 어느 하나의 관절과 그 관절에 이웃하는 2개의 관절을 2개의 선분으로 연결할 때, 2개의 선분이 이루는 각(θ)을 벡터의 내적을 이용하여 구하고, 라디안(radian) 값으로 표현할 수 있다. 본 발명의 실시예에서 어느 하나의 관절과 그 관절에 이웃하는 관절을 이용하여 구해진 각(θ)을 라디안 값으로 표현한 것을 '관절 라디안 값'으로 칭하기로 한다.
사람이 어떤 동작을 하든지 각 관절은 관절 라디안 값을 가지게 마련이다. 따라서 본 발명의 실시예는 사람의 모든 동작을 모든 관절 각각의 관절 라디안 값으로 그 특징을 표현할 수 있다. 이에, 본 발명의 실시예에 따르면, 제어부(150)는 이러한 사용자 동작으로부터 도출된 관절의 라디안 값과 시범자의 가이드 동작으로부터 미리 추출된 관절의 라디안 값을 비교하여 유사도를 산출할 수 있다.
제어부(150)는 표 1에 보인 바와 같이, 시범자의 가이드 동작 및 사용자의 동작에서 상호 대응하는 관절에서 그 관절의 라디안 값 간의 유사도를 도출할 수 있다.
표 1
관절 유사도
……. …….
왼쪽 어깨 70%
오른쪽 어깨 82%
왼쪽 팔꿈치 83%
오른쪽 팔꿈치 42%
척추의 중앙 22%
왼쪽 둔부 12%
오른쪽 둔부 62%
……. …….
도 7에 보인 바와 같이, 시범자가 가이드 동작으로 율동을 하고, 이에 따라, 사용자가 그 율동을 따라하는 상황을 가정하면, 왼쪽 팔꿈치 관절에 대해 시범자의 가이드 동작을 촬영한 영상에서 소정 수의 프레임에서 도출되는 관절 라디안 값과 사용자의 동작을 촬영한 영상에서 소정 수의 프레임으로부터 도출되는 관절 라디안 값은 움직임에 따라 지속적으로 변할 수 있다. 따라서 제어부(150)는 시범자의 가이드 동작을 촬영한 영상의 소정 수의 프레임(예컨대, 60 프레임)으로부터 도출되는 관절 라디안 값과 사용자의 동작을 촬영한 영상의 소정 수의 프레임(가이드 동작을 촬영한 영상의 소정 수의 프레임과 동수)으로부터 도출되는 관절 라디안 값을 비교하여 유사도를 도출할 수 있다. 이때, 제어부(150)는 소정 수의 프레임 동안 검출되는 관절 라디안 값의 평균값을 이용하여 유사도를 산출하거나, 소정 수의 프레임 동안의 관절 라디안 값을 적분한 적분값이 산출되면, 그 적분값을 비교하여 유사도를 산출할 수 있다. 그 밖에, 유사도는 코사인계수법, 유클리디언 거리, 벡터내적곱 등의 알고리즘을 이용하여 산출할 수 있다.
전술한 바와 같이, 유사도가 산출되면, 유사도에 따라 운동 능력을 평가한다. 본 발명의 실시예에 따르면, 사용자가 가이드 동작을 제대로 따라 하면, 산출되는 유사도가 높을 것이다. 따라서 유사도가 높을수록 운동 능력이 높은 것으로 판단하며, 유사도가 낮을수록 운동 능력이 낮은 것으로 판단한다. 따라서 본 발명은 그 운동 능력에 따라 게임의 난이도를 조절하여 게임을 제공한다.
본 발명의 실시예에 따른 게임은 복수의 게임 동작을 순차로 화면으로 표시하고, 그 게임 동작 각각을 순차로 따라하는 사용자의 동작이 각 게임 동작과 미리 설정된 유사도 이상인 경우, 득점으로 인정하고, 그렇지 않은 경우, 득점이 실패하는 방식으로 진행된다. 예컨대, 게임 동작 A, B 및 C는 각각 난이도가 상, 중, 하인 동작이라고 가정한다. 이에 따라, 본 발명의 실시예는 상대적으로 운동 능력이 높을수록 하나의 게임에서 난이도가 높은 게임 동작 A를 많이 배정하고, 난이도가 낮은 C 동작을 적게 배정한다. 역으로, 본 발명의 실시예는 상대적으로 운동 능력이 낮을수록 하나의 게임에서 난이도가 높은 게임 동작 A를 적게 배정하고, 난이도가 낮은 C 동작을 많이 배정할 수 있다. 가령, 운동 능력이 높은 것으로 평가된 사용자의 경우, 하나의 게임에서 제공되는 게임 동작은 A, B, A, B, A, C, B, C 순으로 제공된다면, 운동 능력이 낮은 것으로 평가된 사용자의 경우, B, C, B, A, C, B, C, B 순으로 제공될 수 있다.
또한, 득점 판정과, 득점 실패 판정에서, 운동 능력이 높을수록 득점으로 인정되는 유사도의 범위를 좁게 설정하고, 운동 능력이 낮을수록 득점으로 인정되는 유사도의 범위를 넓게 설정할 수 있다. 가령, 운동 능력이 상대적으로 높은 사용자의 경우, 어느 하나의 게임 동작과 유사도가 90% 이상인 경우에 득점으로 인정하는 반면, 운동 능력이 상대적으로 낮은 사용자의 경우, 어느 하나의 게임 동작과 유사도가 85% 이상인 경우에 득점으로 인정할 수 있다.
그러면, 이러한 본 발명의 실시예에 따른 게임을 제공하는 방법에 대해서 설명하기로 한다. 도 8은 본 발명의 실시예에 따른 게임을 제공하는 방법을 설명하기 위한 흐름도이며, 도 9는 본 발명의 실시예에 따른 게임을 제공하는 방법을 설명하기 위한 도면이다.
전술한 바와 같이, 사용자의 운동 능력이 평가되고, 난이도가 결정된 상태라고 가정한다. 사용자의 요청에 따라 제어부(150)는 S310 단계에서 게임을 시작한다. 게임이 시작되면, 제어부(150)는 S320 단계에서 게임 동작을 순차로 표시부(110)를 통해 표시한다. S320 단계에서, 추가로 제어부(150)는 안내 메시지를 표시하여, 게임 동작을 따라하도록 안내할 수 있다. 게다가, 제어부(150)는 음성 신호 출력을 통해 가이드 동작을 따라 하도록 안내할 수도 있다. 게임 동작의 예를 도 9에 도시하였다. 예컨대, 도 9의 (A), (B) 및 (C)에 도시된 게임 동작이 순차로 각 게임 동작 간에 일정 시간 간격을 두고 표시부(110)를 통해 표시될 수 있다. 게임 동작은 가이드 동작과 마찬가지로, 본 발명의 실시예에 따른 카메라부(120)를 통해 미리 촬영된 것이며, 시범자가 하는 동작이 될 수 있다.
사용자가 표시부(110)를 통해 표시되는 게임 동작을 따라하면, 제어부(150)는 S330 단계에서 게임 동작을 따라하는 사용자의 동작을 촬영하고, 게임 동작과의 유사도를 산출한다. 유사도 산출 방법은 앞서 도 4 내지 도 7을 참조로 한 바와 같다.
유사도 산출 결과, 제어부(150)는 S340 단계에서 유사도가 난이도에 따라 미리 설정된 기준치 이상인지 여부를 판단한다. 이러한 판단 결과, 유사도가 기준치 이상이면, 제어부(150)는 S350 단계로 진행하여 득점에 성공한 것으로 판정한다. 그렇지 않은 경우, 제어부(150)는 S360 단계로 진행하여 득점에 실패한 것으로 판정한다.
이러한 게임 절차는 제어부(370)가 S370 단계에서 게임이 종료된 것으로 판단될 때까지 계속된다. 즉, S320 단계 내지 S370 단계는 게임이 종료될 때까지 반복된다. 예컨대, 도 9의 (A), (B) 및 (C)에 도시된 바와 같은 하나의 게임에 배정된 게임 동작이 순차로 표시부(110)를 통해 표시되며, 유사도 판정에 따라 득점 여부를 가린다. 만약, 제어부(370)가 S370 단계에서 게임이 종료된 것으로 판단되면, S380 단계로 진행하여 게임을 종료한다.
한편, 본 발명의 실시예에 따르면, 게임이 종료되면, 사용자가 게임 동작을 따라한 바에 따라 산출되는 유사도를 이용하여 사용자의 운동 능력을 재평가할 수 있다. 그런 다음, 재평가된 운동 능력을 통해 게임의 난이도를 재설정할 수 있다.
한편, 본 발명의 실시예에 따른 게임을 제공하기 위한 방법은 다양한 컴퓨터수단을 통하여 판독 가능한 프로그램 형태로 구현되어 컴퓨터로 판독 가능한 기록매체에 기록될 수 있다. 여기서, 기록매체는 프로그램 명령, 데이터 파일, 데이터구조 등을 단독으로 또는 조합하여 포함할 수 있다. 기록매체에 기록되는 프로그램 명령은 본 발명을 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 예컨대 기록매체는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광 기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치를 포함한다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 와이어뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 와이어를 포함할 수 있다. 이러한 하드웨어 장치는 본 발명의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.
이상 본 발명을 몇 가지 바람직한 실시예를 사용하여 설명하였으나, 이들 실시예는 예시적인 것이며 한정적인 것이 아니다. 이와 같이, 본 발명이 속하는 기술분야에서 통상의 지식을 지닌 자라면 본 발명의 사상과 첨부된 특허청구범위에 제시된 권리범위에서 벗어나지 않으면서 균등론에 따라 다양한 변화와 수정을 가할 수 있음을 이해할 것이다.
본 발명은 사용자의 동작을 따라 할 수 있는 운동 능력에 따라 난이도를 조절하여 동작 인식 기반의 게임을 제공하기 위한 장치, 이를 위한 방법 및 이 방법이 기록된 컴퓨터 판독 가능한 기록매체에 관한 것으로, 동작 인식을 통해 시범자의 동작과 사용자의 동작의 유사도를 도출하고, 이를 통해 사용자의 운동 능력을 평가하며, 그 운동 능력에 따라 난이도를 조절하는 사용자 맞춤형 게임을 제공함으로써, 사용자에게 적절한 난이도로 게임을 즐길 수 있는 사용자 경험(UX: User eXperience)을 제공할 수 있다. 이는 시판 또는 영업의 가능성이 충분할 뿐만 아니라 현실적으로 명백하게 실시할 수 있는 정도이므로 산업상 이용가능성이 있다.

Claims (9)

  1. 동작 인식 기반의 게임 제공 장치에 있어서,
    화면 표시를 위한 표시부;
    영상 촬영을 위한 카메라부; 및
    상기 표시부를 통해 미리 촬영된 시범자의 가이드 동작을 표시하고,
    상기 카메라부를 통해 상기 가이드 동작을 따라 움직이는 사용자의 동작을 촬영하여 상기 가이드 동작과 사용자의 동작과의 유사도를 산출하며,
    상기 유사도에 따라 상기 사용자의 운동 능력을 평가하고,
    상기 평가된 운동 능력에 따라 복수의 게임 동작을 순차로 따라하도록 하는 게임에서 게임의 난이도를 조절하여 상기 표시부를 통해 표시하도록 제어하는 제어부;를 포함하는 것을 특징으로 하는 게임 제공 장치.
  2. 제1항에 있어서,
    상기 제어부는
    상기 카메라부를 통해 촬영되는 상기 사용자의 동작으로부터 복수의 관절의 3차원 위치 좌표를 추출하고,
    상기 3차원 위치 좌표를 기초로 상기 복수의 관절 중 어느 하나의 관절과 상기 어느 하나의 관절의 이웃하는 2개의 관절을 2개의 선분으로 연결할 때, 벡터의 내적을 이용하여 상기 2개의 선분이 이루는 각을 구하고,
    상기 구해진 각을 라디안(radian) 값으로 표현한 관절 라디안 값을 도출한 후,
    도출된 관절 라디안 값과, 상기 가이드 동작으로부터 미리 도출된 관절 라디안 값을 비교하여 상기 유사도를 산출하는 것을 특징으로 하는 게임 제공 장치.
  3. 제2항에 있어서,
    상기 제어부는
    상기 가이드 동작을 촬영한 영상에서 소정 수의 프레임으로부터 도출되는 관절 라디안 값과 사용자의 동작을 촬영한 영상에서 상기 소정 수와 동수의 프레임으로부터 도출되는 관절 라디안 값의 평균값 혹은 적분값을 비교하여 유사도를 도출하는 것을 특징으로 하는 게임 제공 장치.
  4. 제1항에 있어서,
    상기 제어부는
    상기 표시부를 통해 순차로 복수의 게임 동작을 표시하고,
    상기 카메라부를 통해 상기 게임 동작을 따라하는 사용자의 동작을 촬영하여,
    촬영된 사용자의 동작과 상기 게임 동작의 유사도가 상기 난이도에 따라 미리 설정된 기준치 이상이면, 득점에 성공한 것으로 판정하는 것을 특징으로 하는 게임 제공 장치.
  5. 동작 인식 기반의 게임 제공 방법에 있어서,
    미리 촬영된 시범자의 가이드 동작 따라 움직이는 사용자의 동작을 촬영하는 단계;
    상기 가이드 동작과 사용자의 동작과의 유사도를 산출하는 단계;
    상기 유사도에 따라 상기 사용자의 운동 능력을 평가하는 단계; 및
    상기 운동 능력에 따라 복수의 게임 동작을 순차로 따라하도록 하는 게임에서 게임의 난이도를 조절하여 제공하는 단계;를 포함하는 것을 특징으로 하는 게임 제공 방법.
  6. 제5항에 있어서,
    상기 유사도를 산출하는 단계는
    상기 사용자의 동작으로부터 복수의 관절의 3차원 위치 좌표를 추출하는 단계;
    상기 3차원 위치 좌표를 기초로 상기 복수의 관절 중 어느 하나의 관절과 상기 어느 하나의 관절의 이웃하는 2개의 관절을 2개의 선분으로 연결할 때, 벡터의 내적을 이용하여 상기 2개의 선분이 이루는 각을 구하는 단계;
    상기 구해진 각을 라디안(radian) 값으로 표현한 관절 라디안 값을 도출하는 단계; 및
    상기 도출된 관절 라디안 값과 상기 가이드 동작으로부터 미리 도출된 관절 라디안 값을 비교하여 상기 유사도를 산출하는 단계;를 포함하는 것을 특징으로 하는 게임 제공 방법.
  7. 제6항에 있어서,
    상기 도출된 관절 라디안 값과 상기 가이드 동작으로부터 미리 도출된 관절 라디안 값을 비교하여 상기 유사도를 산출하는 단계는
    상기 가이드 동작을 촬영한 영상에서 소정 수의 프레임으로부터 도출되는 관절 라디안 값과 사용자의 동작을 촬영한 영상에서 상기 소정 수와 동수의 프레임으로부터 도출되는 관절 라디안 값의 평균값 혹은 적분값을 비교하여 유사도를 도출하는 것을 특징으로 하는 게임 제공 방법.
  8. 제5항에 있어서,
    순차로 표시되는 복수의 게임 동작을 따라하는 사용자의 동작을 촬영하는 단계; 및
    상기 촬영된 사용자의 동작과 상기 게임 동작의 유사도가 상기 난이도에 따라 미리 설정된 기준치 이상이면, 득점에 성공한 것으로 판정하는 단계;를 더 포함하는 것을 특징으로 하는 게임 제공 방법.
  9. 제5항 내지 제8항 중 어느 한 항에 따른 게임 제공 방법을 실행하는 명령어가 기록된 컴퓨터 판독 가능한 기록매체.
PCT/KR2015/014440 2015-12-29 2015-12-29 동작 인식 기반의 게임을 제공하기 위한 장치, 이를 위한 방법 및 이 방법이 기록된 컴퓨터 판독 가능한 기록매체 WO2017115887A1 (ko)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR10-2015-0188441 2015-12-29
KR1020150188441A KR20170078176A (ko) 2015-12-29 2015-12-29 동작 인식 기반의 게임을 제공하기 위한 장치, 이를 위한 방법 및 이 방법이 기록된 컴퓨터 판독 가능한 기록매체

Publications (1)

Publication Number Publication Date
WO2017115887A1 true WO2017115887A1 (ko) 2017-07-06

Family

ID=59224818

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2015/014440 WO2017115887A1 (ko) 2015-12-29 2015-12-29 동작 인식 기반의 게임을 제공하기 위한 장치, 이를 위한 방법 및 이 방법이 기록된 컴퓨터 판독 가능한 기록매체

Country Status (2)

Country Link
KR (1) KR20170078176A (ko)
WO (1) WO2017115887A1 (ko)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107441704A (zh) * 2017-08-28 2017-12-08 广西师范大学 一种一体式游戏机
CN111144217A (zh) * 2019-11-28 2020-05-12 重庆邮电大学 一种基于人体三维关节点检测的动作评价方法
KR20220109981A (ko) * 2021-01-29 2022-08-05 경남대학교 산학협력단 견습생 평가를 위한 가상 교육 시스템, 방법 및 이를 수행하기 위한 컴퓨팅 장치
US20230345074A1 (en) * 2020-07-13 2023-10-26 Huawei Technologies Co., Ltd. Multi-device collaboration method, electronic device, and multi-device collaboration system

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101967997B1 (ko) * 2017-08-29 2019-04-10 안영샘 관절가동범위를 측정하기 위한 장치, 이를 위한 방법 및 이 방법을 수행하는 프로그램이 기록된 컴퓨터 판독 가능한 기록매체
KR20220090185A (ko) * 2020-12-22 2022-06-29 주식회사 네오펙트 동작평가장치 및 동작평가방법
KR102550721B1 (ko) * 2021-02-15 2023-07-04 (주)엘앤에이치랩스 개인체력 평가에 따른 트레이닝 시스템
KR102490429B1 (ko) * 2022-07-25 2023-01-30 주식회사 컴플렉시온 사용자 체력 레벨별 난이도 조절이 가능한 게임 컨텐츠를 제공하는 전자 장치의 제어 방법

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20010081193A (ko) * 2000-02-10 2001-08-29 이수원 모션 캡쳐 기능을 활용한 3차원 가상 현실 기법의 댄스게임 장치
KR100772497B1 (ko) * 2006-10-09 2007-11-01 박찬애 골프 클리닉 시스템 및 그것의 운용방법
KR20140112121A (ko) * 2012-12-24 2014-09-23 디게이트 주식회사 네츄럴 인터렉션 기반의 건강 및 재활 게임 장치 및 방법
US20150080072A1 (en) * 2012-03-20 2015-03-19 Young Dae Kim Karaoke and dance game
KR20150067922A (ko) * 2013-12-10 2015-06-19 서인아 사용자 동작과 연동하는 리듬 게임 장치

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20010081193A (ko) * 2000-02-10 2001-08-29 이수원 모션 캡쳐 기능을 활용한 3차원 가상 현실 기법의 댄스게임 장치
KR100772497B1 (ko) * 2006-10-09 2007-11-01 박찬애 골프 클리닉 시스템 및 그것의 운용방법
US20150080072A1 (en) * 2012-03-20 2015-03-19 Young Dae Kim Karaoke and dance game
KR20140112121A (ko) * 2012-12-24 2014-09-23 디게이트 주식회사 네츄럴 인터렉션 기반의 건강 및 재활 게임 장치 및 방법
KR20150067922A (ko) * 2013-12-10 2015-06-19 서인아 사용자 동작과 연동하는 리듬 게임 장치

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107441704A (zh) * 2017-08-28 2017-12-08 广西师范大学 一种一体式游戏机
CN111144217A (zh) * 2019-11-28 2020-05-12 重庆邮电大学 一种基于人体三维关节点检测的动作评价方法
CN111144217B (zh) * 2019-11-28 2022-07-01 重庆邮电大学 一种基于人体三维关节点检测的动作评价方法
US20230345074A1 (en) * 2020-07-13 2023-10-26 Huawei Technologies Co., Ltd. Multi-device collaboration method, electronic device, and multi-device collaboration system
EP4175302A4 (en) * 2020-07-13 2024-01-03 Huawei Technologies Co., Ltd. METHOD FOR COOPERATION OF MULTIPLE DEVICES, ELECTRONIC DEVICE AND SYSTEM FOR COOPERATION OF MULTIPLE DEVICES
US11979632B2 (en) * 2020-07-13 2024-05-07 Huawei Technologies Co., Ltd Multi-device collaboration method, electronic device, and multi-device collaboration system
KR20220109981A (ko) * 2021-01-29 2022-08-05 경남대학교 산학협력단 견습생 평가를 위한 가상 교육 시스템, 방법 및 이를 수행하기 위한 컴퓨팅 장치
KR102511498B1 (ko) 2021-01-29 2023-03-16 경남대학교 산학협력단 견습생 평가를 위한 가상 교육 시스템, 방법 및 이를 수행하기 위한 컴퓨팅 장치

Also Published As

Publication number Publication date
KR20170078176A (ko) 2017-07-07

Similar Documents

Publication Publication Date Title
WO2017115887A1 (ko) 동작 인식 기반의 게임을 제공하기 위한 장치, 이를 위한 방법 및 이 방법이 기록된 컴퓨터 판독 가능한 기록매체
WO2013129792A1 (en) Method and portable terminal for correcting gaze direction of user in image
US10970850B2 (en) Method and device for recognizing motion
US11586336B2 (en) Private control interfaces for extended reality
JP2022531188A (ja) 人体キーポイント検出方法及び装置、電子機器並びに記憶媒体
US11625091B2 (en) Obfuscated control interfaces for extended reality
WO2018070754A1 (en) System and method to prevent boundary artifacts
CN111242090B (zh) 基于人工智能的人脸识别方法、装置、设备及介质
KR20140010541A (ko) 이미지 내 사용자의 시선 보정 방법, 기계로 읽을 수 있는 저장 매체 및 통신 단말
WO2022174594A1 (zh) 基于多相机的裸手追踪显示方法、装置及系统
US20220358662A1 (en) Image generation method and device
US20210158031A1 (en) Gesture Recognition Method, and Electronic Device and Storage Medium
WO2019190076A1 (ko) 시선 추적 방법 및 이를 수행하기 위한 단말
WO2019135550A1 (en) Electronic device for controlling image display based on scroll input and method thereof
CN113342157B (zh) 眼球追踪处理方法及相关装置
US20140098138A1 (en) Method and system for augmented reality based smart classroom environment
WO2022191424A1 (ko) 전자 장치 및 그 제어 방법
WO2015009112A9 (en) Method and apparatus for displaying images in portable terminal
WO2021261771A1 (ko) 사용자의 시선 추적 방법 및 사용자의 시선 추적 방법을 실행시키는 프로그램이 기록된 기록 매체
KR20140046197A (ko) 동작인식 장치 및 방법, 그리고 프로그램을 저장한 컴퓨터로 판독 가능한 기록매체
CN111569415A (zh) 对于射击游戏中虚拟对象的控制方法、装置、介质及设备
US20230419513A1 (en) Object detection and tracking in extended reality devices
WO2021261770A1 (ko) 사용자의 동공 위치 산출 방법 및 사용자의 동공 위치 산출 방법을 실행시키는 프로그램이 기록된 기록 매체
WO2022025741A1 (en) Array-based depth estimation
WO2023106846A1 (ko) 스켈레톤 포인트 기반 서비스 제공 장치 및 방법

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 15912123

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 15912123

Country of ref document: EP

Kind code of ref document: A1