KR20200083104A - Dance training apparatus using automatic difficulty control of dance motion - Google Patents

Dance training apparatus using automatic difficulty control of dance motion Download PDF

Info

Publication number
KR20200083104A
KR20200083104A KR1020190025552A KR20190025552A KR20200083104A KR 20200083104 A KR20200083104 A KR 20200083104A KR 1020190025552 A KR1020190025552 A KR 1020190025552A KR 20190025552 A KR20190025552 A KR 20190025552A KR 20200083104 A KR20200083104 A KR 20200083104A
Authority
KR
South Korea
Prior art keywords
dance
motion
unit
animation
frame
Prior art date
Application number
KR1020190025552A
Other languages
Korean (ko)
Inventor
손강민
Original Assignee
주식회사 쏘그웨어
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 주식회사 쏘그웨어 filed Critical 주식회사 쏘그웨어
Publication of KR20200083104A publication Critical patent/KR20200083104A/en

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63BAPPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
    • A63B71/00Games or sports accessories not covered in groups A63B1/00 - A63B69/00
    • A63B71/06Indicating or scoring devices for games or players, or for other sports activities
    • A63B71/0619Displays, user interfaces and indicating devices, specially adapted for sport equipment, e.g. display mounted on treadmills
    • A63B71/0622Visual, audio or audio-visual systems for entertaining, instructing or motivating the user
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63BAPPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
    • A63B24/00Electric or electronic controls for exercising apparatus of preceding groups; Controlling or monitoring of exercises, sportive games, training or athletic performances
    • A63B24/0003Analysing the course of a movement or motion sequences during an exercise or trainings sequence, e.g. swing for golf or tennis
    • A63B24/0006Computerised comparison for qualitative assessment of motion sequences or the course of a movement
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63BAPPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
    • A63B71/00Games or sports accessories not covered in groups A63B1/00 - A63B69/00
    • A63B71/06Indicating or scoring devices for games or players, or for other sports activities
    • A63B71/0619Displays, user interfaces and indicating devices, specially adapted for sport equipment, e.g. display mounted on treadmills
    • A63B71/0622Visual, audio or audio-visual systems for entertaining, instructing or motivating the user
    • A63B2071/06363D visualisation
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63BAPPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
    • A63B2244/00Sports without balls
    • A63B2244/22Dancing

Landscapes

  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Physical Education & Sports Medicine (AREA)
  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Human Computer Interaction (AREA)
  • Processing Or Creating Images (AREA)

Abstract

Disclosed is a dance training apparatus using automatic difficulty control of dance motion, which comprises: an animation unit (100) making 3D dance animation of each level; a storage unit (200) storing the 3D dance animation; and a providing unit (300) providing the 3D dance animation by each level. According to the present invention, since important motion video is automatically generated and provided when dance teaching content is generated, a large number of teaching content can be made quickly. While a method in which a user learns dance motion while viewing video is one-directional, the present invention provides the user with a matching ratio of each portion with respect to the important motion, such that a weak portion is recognized by each dance segment and repetitive learning is provided to each dance section to enable the user to quickly master the dance motion. Moreover, beginners widely set an interval in the automatically generated and divided important motion video to learn large motion first and shortly set the interval of the same after being skilled by a predetermined degree to learn detailed motion, thereby providing customized learning by a user′s level.

Description

댄스 동작의 자동 난이도 조절을 이용한 댄스 트레이닝 장치{DANCE TRAINING APPARATUS USING AUTOMATIC DIFFICULTY CONTROL OF DANCE MOTION}Dance training device using automatic difficulty control of dance motion{DANCE TRAINING APPARATUS USING AUTOMATIC DIFFICULTY CONTROL OF DANCE MOTION}

본 발명은 댄스 동작의 자동 난이도 조절을 이용한 댄스 트레이닝 장치에 관한 것으로, 더욱 상세하게는 댄스 동영상을 제공하는 댄스 동작의 자동 난이도 조절을 이용한 댄스 트레이닝 장치에 관한 것이다.The present invention relates to a dance training device using automatic difficulty adjustment of a dance action, and more particularly, to a dance training device using automatic difficulty adjustment of a dance action that provides a dance video.

댄스 게임은 코나미(Konami)사의 댄스댄스레볼루션(DDR, Dance Dance Revolution)으로 시작하였고, 이때 하드웨어장치인 발판위에 표시된 기호가 화면에 표시되며, 이를 연속적으로 따라하여 춤동작과 유사한 행동을 유발하였다. 그러나, 이러한 댄스 동작은 실제 해당 음악의 댄스와는 상관없이 발판의 기호를 옮겨가며 만들어지는 댄스동작이다.The dance game started with Konami's Dance Dance Revolution (DDR), in which a symbol displayed on the scaffold, a hardware device, was displayed on the screen, and it was followed in succession to induce similar behavior to dance. However, this dance movement is a dance movement created by moving the sign of the footing regardless of the dance of the corresponding music.

전세계적으로 케이팝이 유행하게 되고, 아이돌 그룹의 춤을 그대로 따라하는 커버댄스 문화가 새로운 한류로 탄생하게 되었으며, 전세계적으로 유튜브 등의 동영상 공유사이트에 커버댄스 동영상을 공유하고 있다.K-pop is becoming popular all over the world, and the cover dance culture that follows the idol group's dance is born as a new Korean wave, and the cover dance videos are shared on YouTube and other video sharing websites worldwide.

기존에 커버댄스를 배울 수 있는 방법은 이러한 동영상 공유사이트에서 영상을 보고 따라하거나, 댄스 학원 등에서 교습을 받는 방법이 존재한다.Existing ways to learn cover dance exist by watching videos from these video sharing sites and following them, or by receiving lessons from dance academies.

마이크로소프트의 게임콘솔인 Xbox360에서는 모션 카메라 센서인 키넥트를 이용한 댄스 센트럴이 사용자의 동작을 기반으로 춤을 따라할 수 있는 게임으로 제공되고 있으나, 실제 댄스의 강습보다는 게임플레이를 중점적으로 제공했다.In the Xbox360, Microsoft's game console, Dance Central using Kinect, a motion camera sensor, is provided as a game that can dance based on the user's movement, but focused on gameplay rather than the actual dance class.

등록번호: 10-0457201, 댄스 게임 장치Registration number: 10-0457201, dance game device

상기와 같은 문제점을 해결하기 위한 본 발명의 목적은, 사용자가 난이도에 따라 따라할 수 있는 3D 댄스 애니메이션을 제공하는 댄스 동작의 자동 난이도 조절을 이용한 댄스 트레이닝 장치를 제공하는데 있다.An object of the present invention for solving the above problems is to provide a dance training apparatus using automatic difficulty control of a dance motion that provides a 3D dance animation that a user can follow according to the difficulty level.

상기 목적을 달성하기 위한 본 발명은, 수준별 3D 댄스 애니메이션을 만드는 애니메이션부(100); 3D 댄스 애니메이션을 저장하는 저장부(200); 및 수준별로 3D 댄스 애니메이션을 제공하는 제공부(300)를 포함한다.The present invention for achieving the above object, the animation unit 100 to create a 3D dance animation for each level; A storage unit 200 for storing 3D dance animations; And a providing unit 300 providing 3D dance animation for each level.

또한, 애니메이션부(100)는 3차원 공간 데이터의 프레임간 동작을 비교하는 동작 비교부(110); 동작 비교부(110)의 동작 비교 결과에 따라 춤 동작의 변화율 또는 특정 시간간격으로 키모션 프레임을 선택하는 프레임 선택부(120); 선택된 키모션 프레임 사이의 애니메이션을 보간하는 보간부(130); 및 편집 도구를 통해 후처리해서 보간된 애니메이션인 3D 댄스 애니메이션을 출력하는 후처리부(140)를 포함한다.In addition, the animation unit 100 includes a motion comparison unit 110 for comparing the inter-frame motion of 3D spatial data; A frame selector 120 for selecting a key motion frame at a specific time interval or a change rate of a dance motion according to the motion comparison result of the motion comparison unit 110; An interpolation unit 130 interpolating animation between selected key motion frames; And a post-processing unit 140 that outputs a 3D dance animation that is interpolated by post-processing through an editing tool.

또한, 제공부(300)는 3D 댄스 애니메이션에서 2D 이미지 키모션 스냅샷을 제공한다.In addition, the providing unit 300 provides a 2D image key motion snapshot in 3D dance animation.

또한, 3D 댄스 애니메이션과 카메라 영상에 의한 댄스 트레이닝 평가하는 평가부(400)를 더 포함하고, 프레임 선택부(120)는 제공부(300)와 평가부(400)의 피드백으로 신경망(121)에 의해 키모션 프레임을 선택한다.In addition, it further includes an evaluation unit 400 for evaluating dance training based on 3D dance animation and camera images, and the frame selection unit 120 provides feedback to the neural network 121 with feedback from the providing unit 300 and the evaluation unit 400. By selecting the key motion frame.

또한, 프레임 선택부(120)는 키모션 프레임을 선택하는 신경망(121); 및 제공부(300)와 평가부(400)의 출력을 신경망(121)에 피드백하는 피드백부(122)를 포함하고, 신경망(121)은 3D 댄스 애니메이션과 카메라 영상을 입력받고 제공부(300)와 평가부(400)의 입력에 따라 키모션 프레임을 선택하고, 신경망(121)의 뉴럴 네트워크는 3D 댄스 애니메이션, 카메라 영상, 제공부(300)와 평가부(400)의 입력에 따라 키모션 프레임을 선택하고, 키모션 프레임에 따른 제공부(300)와 평가부(400)의 출력에 따라 피드백 학습되고, 3D 댄스 애니메이션 입력에 가중치를 곱한 값을 출력하는 다수의 곱셈기(1211); 다수의 곱셈기(1211) 출력을 더해서 3D 댄스 애니메이션에서 키모션 프레임을 선택하는 값을 출력하는 덧셈기(1212); 및 피드백부(122)에 의해 학습되어 다수의 곱셈기(1211)에 입력되는 가중치를 설정하는 가중치 설정부(1213)를 포함하고, 가중치 설정부(1213)는 난이도 레벨에 따라 가중치 설정을 다르게 선택하는 레벨 선택부를 포함한다.In addition, the frame selector 120 includes a neural network 121 for selecting a key motion frame; And a feedback unit 122 feeding back the outputs of the providing unit 300 and the evaluation unit 400 to the neural network 121, the neural network 121 receiving a 3D dance animation and a camera image and providing the providing unit 300. The key motion frame is selected according to the input of the and evaluation unit 400, and the neural network of the neural network 121 is a 3D dance animation, a camera image, and a key motion frame according to the input of the providing unit 300 and the evaluation unit 400. A plurality of multipliers (1211) for selecting, learning the feedback according to the output of the providing unit 300 and the evaluation unit 400 according to the key motion frame, and outputting a value multiplied by the weight of the 3D dance animation input; An adder 1212 for adding a plurality of multiplier 1211 outputs and outputting a value for selecting a key motion frame in a 3D dance animation; And a weight setting unit 1213 that is set by the feedback unit 122 to set weights input to the multipliers 1211, and the weight setting unit 1213 selects different weight settings according to the difficulty level. It includes a level selector.

또한, 레벨 선택부는 난이도 하 레벨인 경우 제1가중치를 다수의 곱셈기(1211)에 설정하는 하 레벨 선택부; 난이도 중 레벨인 경우 제2가중치를 다수의 곱셈기(1211)에 설정하는 중 레벨 선택부; 및 난이도 상 레벨인 경우 제3가중치를 다수의 곱셈기(1211)에 설정하는 상 레벨 선택부를 포함할 수 있다.In addition, the level selection unit, the lower level selection unit for setting the first weight to a plurality of multipliers 1211 when the level of difficulty; A level selection unit for setting a second weight to a plurality of multipliers 1211 when the level is in the difficulty level; And a phase level selector configured to set the third weight value in the multiplier 1211 when the difficulty level is high.

상기와 같은 본 발명에 따른 댄스 동작의 자동 난이도 조절을 이용한 댄스 트레이닝 장치를 이용할 경우에는 댄스 교습 콘텐츠를 생성함에 있어, 중요동작을 자동으로 생성하여 제시함으로써 빠르게 많은 교습용 콘텐츠를 만들어 낼 수 있다.In the case of using the dance training apparatus using the automatic difficulty control of the dance motion according to the present invention as described above, in generating dance teaching content, it is possible to quickly create and present many teaching content by automatically generating and presenting important motions.

또한, 동영상을 보며 배우는 방식은 일방향성인데 비해, 본 발명은 사용자에게 중요동작에 대하여 부위별로 일치율을 제시함으로써 댄스 구간별 취약부위를 인지하고, 취약구간에 대하여 반복 학습을 제시하여 빠르게 댄스 동작을 마스터할 수 있다.Also, While the way of learning while watching a video is unidirectional, the present invention recognizes vulnerable areas for each dance section by presenting a matching rate for each part to the important motion to the user, and masters the dance motion quickly by suggesting repetitive learning about the vulnerable areas. Can.

또한, 초보자들은 자동 생성되는 중요 구분 동작의 간격을 넓게 잡아 큰 동작을 먼저 익힐 수 있으며, 어느정도 숙련된 경우 중요 구분 동작의 간격을 짧게 잡아 세부 동작을 익힐 수 있도록 함으로써, 사용자의 수준별 맞춤 학습이 가능하다.In addition, beginners can learn the big action first by widening the interval of the important classification action that is automatically generated, and if you are somewhat skilled, you can learn the detailed action by shortening the interval of the important classification action to learn the detailed action. Do.

도 1은 댄스 난이도 자동조절 방법의 개요도이다.
도 2는 댄스 트레이닝 방법을 보인 예시도이다.
도 3은 댄스 트레이닝 장치의 블록도이다.
1 is a schematic diagram of a method for automatically adjusting the difficulty of dance.
2 is an exemplary view showing a dance training method.
3 is a block diagram of a dance training device.

명세서에서 사용된 용어는 그 단어가 본래 가지는 의미가 확대 해석될 수 있으며 서로 다른 의미를 가지는 단어와 단어가 하나의 단어로 조합됨으로써 광의의 새로운 의미를 가지는 합성어 형태를 취한다. 예를 들어 댄스라는 단어와 트레이닝이라는 단어가 합성되어 댄스 트레이닝을 이룸으로써 댄스 트레이닝이 행해짐을 의미하게 된다. 또한, 명세서에서 제시하는 실시예는 실시에 바람직한 실시예이며, 경우에 따라 다른 구성이 부가되거나 본래 있던 구성이 생략됨이 가능하다. 실시예에서 구성을 포함하다 또는 가지다로 실시될 수 있다.The terms used in the specification can be interpreted by expanding the meanings of the original words, and the words and words having different meanings are combined into a single word, thus taking the form of a compound word having a new meaning in a broad sense. For example, the word dance and the word training are combined to achieve dance training, which means that dance training is performed. In addition, the embodiments presented in the specification are preferred embodiments for implementation, and it is possible that other components are added or original components are omitted depending on the case. In embodiments, it may be implemented with or without configurations.

이하, 본 발명에 따른 바람직한 실시예를 첨부된 도면을 참조하여 상세하게 설명한다.Hereinafter, preferred embodiments of the present invention will be described in detail with reference to the accompanying drawings.

본 발명은 사용자가 혼자서 화면 속 가상의 3D 댄스 트레이너와 함께 댄스를 연습할 수 있는 댄스 트레이닝 장치이다.The present invention is a dance training device that allows a user to practice dance with a virtual 3D dance trainer on the screen by himself.

댄스 트레이닝 장치는 빠른 연속적인 동작으로 구성되는 댄스를 익히기 위하여 자동으로 동작 구간을 나누고, 초보자들이 따라 하기 어려운 연속동작은 생략하고 여유있는 댄스 동작을 제공함으로써 초보자들이 쉽게 따라할 수 있고, 숙련도에 따라서 생략되었던 연속 동작을 점진적으로 학습할 수 있는 기능을 제공한다.The dance training device automatically divides the motion section to learn a dance composed of fast continuous motions, and omits continuous motions that are difficult for beginners to follow. It provides a function to gradually learn the skipped continuous motion.

특히, 낮은 일치율로 표시되는 취약 구간을 댄스 트레이닝 장치에서 반복적으로 제시하고, 신체 부위별로 일치율이 낮은 곳을 알려줌으로써 사용자가 잘 따라하지 못하는 곳을 알게 하고 지속적으로 따라하도록 하여 일치율을 높여가는 학습방법을 제안한다.In particular, the dance training device repeatedly presents vulnerable sections indicated by a low match rate, and learns how to increase the match rate by letting the user know where the match rate is low for each part of the body and continuously repeat it so that the user can continuously follow. To suggest.

종래 기술에서는 2D 이미지 형식의 키모션 스냅샷을 자동생성하여 화면에 제시하고, 해당 이미지를 통하여 춤동작을 유추할 수 있거나 따라할 수 있는 방법을 제시하였다. In the prior art, a key motion snapshot in the form of a 2D image is automatically generated and presented on a screen, and a method for inferring or following a dance motion through the corresponding image is proposed.

본 발명에서는 3D 애니메이션의 키모션을 선택하고, 어려운 연속 동작의 애니메이션은 과감히 생략하고, 생략된 애니메이션은 보간법(인터폴레이션)을 통하여 자동생성함으로써, 원본 댄스 동작과는 유사하면서 따라하기 쉬운 댄스 동작부터 익힐 수 있는 방법을 제시한다.In the present invention, the key motion of the 3D animation is selected, the animation of the difficult continuous motion is boldly omitted, and the omitted animation is automatically generated through interpolation (interpolation), so that the dance motion similar to the original dance motion is easy to learn. Here's how to do it.

도 1은 댄스 난이도 자동조절 방법의 개요도이다.1 is a schematic diagram of a method for automatically adjusting the difficulty of dance.

댄스 트레이닝 장치는 춤동작의 3차원 공간 데이터(3D 애니메이션 데이터)의 프레임간 동작을 비교한다.The dance training device compares the inter-frame motion of the 3D spatial data (3D animation data) of the dance motion.

댄스 트레이닝 장치는 춤 동작의 변화율 또는 특정 시간 간격으로 키모션 프레임을 선택한다. 이때 변화율과 시간간격을 낮게 잡으면 더 많은 프레임이 선택되며, 원래의 댄스 동작과 더 유사해지며 댄스 동작의 난이도는 올라가게 된다.The dance training device selects a key motion frame at a specific time interval or a rate of change in dance movement. At this time, if the rate of change and the time interval are held low, more frames are selected, more similar to the original dance motion, and the difficulty of the dance motion increases.

선택된 키모션 프레임 사이의 애니메이션은 보간법(Interpolation)을 통하여 자동생성한다. 애니메이션 보간법은 일반적인 상용 3D 게임엔진(예: 유니티3D, 언리얼엔진 등)에서는 보편적으로 제공하는 기능이다.Animation between selected key motion frames is automatically generated through interpolation. Animation interpolation is a function commonly provided by general commercial 3D game engines (eg Unity 3D, Unreal Engine, etc.).

생성된 3D 애니메이션은 편집도구를 통하여 검토하고, 어색한 부분은 수정할 수 있도록 후처리를 하게 된다. 이때 프레임 간격 또는 시간 간격 등의 파라미터를 고려하여 난이도를 초급, 중급, 고급, 전문가 등으로 구분하여 저장한다. 고급 또는 전문가 등급은 원본 댄스 동작과 동일할 수 있다.The generated 3D animation is reviewed through an editing tool, and post-processing is performed to correct awkward parts. At this time, considering the parameters such as frame interval or time interval, the difficulty is classified and stored as beginner, intermediate, advanced, and expert. The advanced or expert grade can be the same as the original dance moves.

댄스 트레이닝 장치는 난이도별로 3D 댄스 애니메이션을 저장하고, 사용자의 선택 또는 사용자의 실시간 수준 평가를 통하여 알맞은 난이도의 댄스 동작을 제공한다.The dance training device stores 3D dance animations for each difficulty level, and provides dance movements of a suitable difficulty level through user selection or real-time level evaluation of the user.

도 2는 댄스 트레이닝 방법을 보인 예시도이다.2 is an exemplary view showing a dance training method.

댄스 트레이닝 장치는 전문가용 댄스 동작 원본에서 댄스 난이도에 따라 키모션 프레임을 선택하고, 생성된 저수준 초급 댄스 동작인 3D 댄스 애니메이션을 제공한다. 전문가용 댄스 동작 원본은 고수준 고급 댄스 동작으로 사용자가 처음부터 따라 하기 쉽지 않은 댄스 동작을 가지고 있다. 댄스 트레이닝 장치는 전문가용 댄스 동작 원본에서 사용자가 따라 하기 쉬운 댄스 동작을 추출해서 저수준 초급 댄스 동작인 3D 댄스 애니메이션을 제공한다. 댄스 트레이닝 장치는 3D 댄스 애니메이션을 제공하기 위해 전문가용 댄스 동작 원본에서 키모션 프레임을 선택한다. 댄스 트레이닝 장치가 키모션 프레임을 선택할 때 프레임간 동작을 비교하고 춤 동작의 변화율 또는 특정 시간간격으로 키모션 프레임을 선택할 수 있다. 이렇게 키모션 프레임을 선택해서 3D 댄스 애니메이션을 만드는 댄스 트레이닝 장치에 대해 설명하면 다음과 같다.The dance training device selects a key motion frame according to the difficulty of dance from the original dance motion for the professional, and provides 3D dance animation, which is a generated low-level beginner dance motion. The original dance moves for professionals are high-level and advanced dance moves that have dance moves that are not easy for users to follow from the beginning. The dance training device extracts a dance motion that is easy for a user to follow from a professional dance motion original and provides a low-level beginner dance motion 3D dance animation. The dance training device selects a key motion frame from the original dance motion for professional use to provide 3D dance animation. When the dance training device selects a key motion frame, it is possible to compare the motions between frames and select a key motion frame at a change rate or a specific time interval of the dance motion. The dance training device for creating a 3D dance animation by selecting a key motion frame is as follows.

도 3은 댄스 트레이닝 장치의 블록도이다.3 is a block diagram of a dance training device.

댄스 트레이닝 장치는 수준별 3D 댄스 애니메이션을 만드는 애니메이션부(100); 3D 댄스 애니메이션을 저장하는 저장부(200); 및 수준별로 3D 댄스 애니메이션을 제공하는 제공부(300)를 포함한다.The dance training apparatus includes an animation unit 100 that creates 3D dance animations for each level; A storage unit 200 for storing 3D dance animations; And a providing unit 300 providing 3D dance animation for each level.

애니메이션부(100)는 3차원 공간 데이터의 프레임간 동작을 비교하는 동작 비교부(110); 동작 비교부(110)의 동작 비교 결과에 따라 춤 동작의 변화율 또는 특정 시간간격으로 키모션 프레임을 선택하는 프레임 선택부(120); 선택된 키모션 프레임 사이의 애니메이션을 보간하는 보간부(130); 및 편집 도구를 통해 후처리해서 보간된 애니메이션인 3D 댄스 애니메이션을 출력하는 후처리부(140)를 포함한다.The animation unit 100 includes an operation comparison unit 110 for comparing inter-frame operations of 3D spatial data; A frame selector 120 for selecting a key motion frame at a specific time interval or a change rate of a dance motion according to the motion comparison result of the motion comparison unit 110; An interpolation unit 130 interpolating animation between selected key motion frames; And a post-processing unit 140 that outputs a 3D dance animation that is interpolated by post-processing through an editing tool.

제공부(300)는 3D 댄스 애니메이션에서 2D 이미지 키모션 스냅샷을 제공한다.The providing unit 300 provides a 2D image key motion snapshot in 3D dance animation.

3D 댄스 애니메이션과 카메라 영상에 의한 댄스 트레이닝 평가하는 평가부(400)를 더 포함하고, 프레임 선택부(120)는 제공부(300)와 평가부(400)의 피드백으로 신경망(121)에 의해 키모션 프레임을 선택한다.Further comprising an evaluation unit 400 for evaluating dance training based on 3D dance animation and camera images, the frame selection unit 120 is keyed by the neural network 121 with feedback from the providing unit 300 and the evaluation unit 400. Select a motion frame.

프레임 선택부(120)는 키모션 프레임을 선택하는 신경망(121); 및 제공부(300)와 평가부(400)의 출력을 신경망(121)에 피드백하는 피드백부(122)를 포함하고, 신경망(121)은 3D 댄스 애니메이션과 카메라 영상을 입력받고 제공부(300)와 평가부(400)의 입력에 따라 키모션 프레임을 선택하고, 신경망(121)의 뉴럴 네트워크는 3D 댄스 애니메이션, 카메라 영상, 제공부(300)와 평가부(400)의 입력에 따라 키모션 프레임을 선택하고, 키모션 프레임에 따른 제공부(300)와 평가부(400)의 출력에 따라 피드백 학습되고, 3D 댄스 애니메이션 입력에 가중치를 곱한 값을 출력하는 다수의 곱셈기(1211); 다수의 곱셈기(1211) 출력을 더해서 3D 댄스 애니메이션에서 키모션 프레임을 선택하는 값을 출력하는 덧셈기(1212); 및 피드백부(122)에 의해 학습되어 다수의 곱셈기(1211)에 입력되는 가중치를 설정하는 가중치 설정부(1213)를 포함하고, 가중치 설정부(1213)는 난이도 레벨에 따라 가중치 설정을 다르게 선택하는 레벨 선택부를 포함한다.The frame selector 120 includes a neural network 121 for selecting a key motion frame; And a feedback unit 122 feeding back the outputs of the providing unit 300 and the evaluation unit 400 to the neural network 121, the neural network 121 receiving a 3D dance animation and a camera image, and providing the providing unit 300 The key motion frame is selected according to the input of the and evaluation unit 400, and the neural network of the neural network 121 is a 3D dance animation, a camera image, and a key motion frame according to the input of the providing unit 300 and the evaluation unit 400. A plurality of multipliers (1211) for selecting, and learning the feedback according to the output of the providing unit 300 and the evaluation unit 400 according to the key motion frame, and outputting a value multiplied by the weight of the 3D dance animation input; A multiplier 1212 that outputs a value for selecting a key motion frame in a 3D dance animation by adding multiple multiplier 1211 outputs; And a weight setting unit 1213 that is set by the feedback unit 122 to set weights input to the multipliers 1211, and the weight setting unit 1213 selects different weight settings according to the difficulty level. It includes a level selector.

레벨 선택부는 난이도 하 레벨인 경우 제1가중치를 다수의 곱셈기(1211)에 설정하는 하 레벨 선택부; 난이도 중 레벨인 경우 제2가중치를 다수의 곱셈기(1211)에 설정하는 중 레벨 선택부; 및 난이도 상 레벨인 경우 제3가중치를 다수의 곱셈기(1211)에 설정하는 상 레벨 선택부를 포함할 수 있다.The level selector is a lower level selector for setting a first weight to a plurality of multipliers 1211 when the difficulty level is lower; A level selection unit for setting a second weight to a plurality of multipliers 1211 when the level is in the difficulty level; And a phase level selector configured to set the third weight value in the multiplier 1211 when the difficulty level is high.

레벨 선택부가 난이도에 따른 가중치를 설정해서 댄스 트레이닝 장치가 난이도 변화하는 3D 댄스 애니메시이션을 생성할 수 있는 효과를 나타낸다.The level selection unit sets a weight according to the difficulty level, and thus represents the effect that the dance training device can generate a 3D dance animation in which the difficulty level changes.

상기에서는 본 발명의 바람직한 실시예를 참조하여 설명하였지만, 해당 기술 분야의 숙련된 당업자는 하기의 특허 청구의 범위에 기재된 본 발명의 사상 및 영역으로부터 벗어나지 않는 범위 내에서 본 발명을 다양하게 수정 및 변경시킬 수 있음을 이해할 수 있을 것이다.Although described above with reference to preferred embodiments of the present invention, those skilled in the art variously modify and change the present invention without departing from the spirit and scope of the present invention as set forth in the claims below. You can understand that you can.

100: 애니메이션부 110: 동작 비교부
120: 프레임 선택부 121: 신경망
1211: 곱셈기 1212: 덧셈기
1213: 가중치 설정부 122: 피드백부
130: 보간부 140: 후처리부
200: 저장부 300: 제공부
400: 평가부
100: animation unit 110: motion comparison unit
120: frame selector 121: neural network
1211: multiplier 1212: adder
1213: weight setting unit 122: feedback unit
130: interpolation unit 140: post-processing unit
200: storage unit 300: providing unit
400: evaluation unit

Claims (5)

수준별 3D 댄스 애니메이션을 만드는 애니메이션부(100);
3D 댄스 애니메이션을 저장하는 저장부(200); 및
수준별로 3D 댄스 애니메이션을 제공하는 제공부(300)를 포함하는 댄스 동작의 자동 난이도 조절을 이용한 댄스 트레이닝 장치.
Animation unit 100 to create a 3D dance animation for each level;
A storage unit 200 for storing 3D dance animations; And
Dance training device using the automatic difficulty adjustment of the dance movement, including a providing unit 300 for providing 3D dance animation for each level.
제1항에 있어서,
상기 애니메이션부(100)는 3차원 공간 데이터의 프레임간 동작을 비교하는 동작 비교부(110);
상기 동작 비교부(110)의 동작 비교 결과에 따라 춤 동작의 변화율 또는 특정 시간간격으로 키모션 프레임을 선택하는 프레임 선택부(120);
선택된 키모션 프레임 사이의 애니메이션을 보간하는 보간부(130); 및
편집 도구를 통해 후처리해서 보간된 애니메이션인 3D 댄스 애니메이션을 출력하는 후처리부(140)를 포함하는 댄스 동작의 자동 난이도 조절을 이용한 댄스 트레이닝 장치.
According to claim 1,
The animation unit 100 includes an operation comparison unit 110 for comparing inter-frame operation of 3D spatial data;
A frame selector 120 for selecting a key motion frame at a specific time interval or a change rate of a dance motion according to the motion comparison result of the motion comparison unit 110;
An interpolation unit 130 interpolating animation between selected key motion frames; And
Dance training device using the automatic difficulty control of the dance movement, including a post-processing unit 140 for outputting a 3D dance animation that is interpolated by post-processing through an editing tool.
제1항에 있어서,
상기 제공부(300)는 3D 댄스 애니메이션에서 2D 이미지 키모션 스냅샷을 제공하는 댄스 동작의 자동 난이도 조절을 이용한 댄스 트레이닝 장치.
According to claim 1,
The providing unit 300 is a dance training apparatus using automatic difficulty adjustment of a dance motion that provides a 2D image key motion snapshot in a 3D dance animation.
제2항에 있어서,
3D 댄스 애니메이션과 카메라 영상에 의한 댄스 트레이닝 평가하는 평가부(400)를 더 포함하고,
상기 프레임 선택부(120)는 상기 제공부(300)와 상기 평가부(400)의 피드백으로 신경망(121)에 의해 키모션 프레임을 선택하는 댄스 동작의 자동 난이도 조절을 이용한 댄스 트레이닝 장치.
According to claim 2,
Further comprising an evaluation unit 400 for evaluating dance training by 3D dance animation and camera video,
The frame selection unit 120 is a dance training apparatus using automatic difficulty control of a dance operation to select a key motion frame by the neural network 121 with feedback from the providing unit 300 and the evaluation unit 400.
제4항에 있어서,
상기 프레임 선택부(120)는 키모션 프레임을 선택하는 신경망(121); 및
상기 제공부(300)와 상기 평가부(400)의 출력을 신경망(121)에 피드백하는 피드백부(122)를 포함하는 댄스 동작의 자동 난이도 조절을 이용한 댄스 트레이닝 장치.
According to claim 4,
The frame selector 120 includes a neural network 121 for selecting a key motion frame; And
Dance training device using the automatic difficulty control of the dance operation, including a feedback unit (122) for feeding back the output of the providing unit (300) and the evaluation unit (400) to the neural network (121).
KR1020190025552A 2018-12-27 2019-03-06 Dance training apparatus using automatic difficulty control of dance motion KR20200083104A (en)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR20180171096 2018-12-27
KR1020180171096 2018-12-27

Publications (1)

Publication Number Publication Date
KR20200083104A true KR20200083104A (en) 2020-07-08

Family

ID=71600888

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020190025552A KR20200083104A (en) 2018-12-27 2019-03-06 Dance training apparatus using automatic difficulty control of dance motion

Country Status (1)

Country Link
KR (1) KR20200083104A (en)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20220019553A (en) * 2020-08-10 2022-02-17 건국대학교 글로컬산학협력단 Device and method for providing dance learning service
WO2022119288A1 (en) * 2020-12-01 2022-06-09 삼성전자 주식회사 Display device and operation method thereof
CN116910303A (en) * 2023-08-24 2023-10-20 北京小糖科技有限责任公司 Dance video recommendation method and device based on dance room learning stage

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100457201B1 (en) 1999-11-11 2004-11-16 고나미 가부시끼가이샤 Apparatus of dance game

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100457201B1 (en) 1999-11-11 2004-11-16 고나미 가부시끼가이샤 Apparatus of dance game

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20220019553A (en) * 2020-08-10 2022-02-17 건국대학교 글로컬산학협력단 Device and method for providing dance learning service
WO2022119288A1 (en) * 2020-12-01 2022-06-09 삼성전자 주식회사 Display device and operation method thereof
CN116910303A (en) * 2023-08-24 2023-10-20 北京小糖科技有限责任公司 Dance video recommendation method and device based on dance room learning stage
CN116910303B (en) * 2023-08-24 2023-12-08 北京小糖科技有限责任公司 Dance video recommendation method and device based on dance room learning stage

Similar Documents

Publication Publication Date Title
WO2021169431A1 (en) Interaction method and apparatus, and electronic device and storage medium
CN106878820B (en) Live broadcast interaction method and device
KR101711488B1 (en) Method and System for Motion Based Interactive Service
KR20200083104A (en) Dance training apparatus using automatic difficulty control of dance motion
EP3760287A1 (en) Method and device for generating video frames
CA2854001C (en) Dynamic exercise content
KR101328759B1 (en) Augmented reality method and devices using a real time automatic tracking of marker-free textured planar geometrical objects in a video stream
WO2018233398A1 (en) Method, device, and electronic apparatus for monitoring learning
Lee et al. Motion effects synthesis for 4D films
CN110418205A (en) Body-building teaching method, device, equipment, system and storage medium
Tsampounaris et al. Exploring visualizations in real-time motion capture for dance education
CN111225287A (en) Bullet screen processing method and device, electronic equipment and storage medium
JP2017064095A (en) Learning system, learning method, program and record medium
KR101757765B1 (en) System and method for producing 3d animation based on motioncapture
Lee et al. Interactive motion effects design for a moving object in 4D films
JP2020086542A5 (en) Data generator, data generation method and program
US20140118522A1 (en) Dance learning system using a computer
JP2020174971A5 (en)
CN111292234B (en) Panoramic image generation method and device
CN111784847A (en) Method and device for displaying object in three-dimensional scene
CN109584196A (en) Data set generation method, apparatus, electronic equipment and storage medium
Kritopoulou et al. Towards the design of augmented feedforward and feedback for sensorimotor learning of motor skills
KR100863055B1 (en) Taekwondo learning system based on analysis of Image
CN108876866A (en) A kind of media data processing method, device and storage medium
Chiu et al. Cinematography tutorials in virtual reality

Legal Events

Date Code Title Description
E601 Decision to refuse application