KR102448000B1 - Apparatus, method and program for music education for the hearing impaired using vibration and visual data - Google Patents

Apparatus, method and program for music education for the hearing impaired using vibration and visual data Download PDF

Info

Publication number
KR102448000B1
KR102448000B1 KR1020210119814A KR20210119814A KR102448000B1 KR 102448000 B1 KR102448000 B1 KR 102448000B1 KR 1020210119814 A KR1020210119814 A KR 1020210119814A KR 20210119814 A KR20210119814 A KR 20210119814A KR 102448000 B1 KR102448000 B1 KR 102448000B1
Authority
KR
South Korea
Prior art keywords
data
vibration
music education
user
pitch
Prior art date
Application number
KR1020210119814A
Other languages
Korean (ko)
Inventor
조수빈
Original Assignee
이은교육 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 이은교육 주식회사 filed Critical 이은교육 주식회사
Priority to KR1020210119814A priority Critical patent/KR102448000B1/en
Priority to KR1020220110585A priority patent/KR102481267B1/en
Priority to KR1020220110584A priority patent/KR102481261B1/en
Application granted granted Critical
Publication of KR102448000B1 publication Critical patent/KR102448000B1/en

Links

Images

Classifications

    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09BEDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
    • G09B21/00Teaching, or communicating with, the blind, deaf or mute
    • G09B21/009Teaching or communicating with deaf persons
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/016Input arrangements with force or tactile feedback as computer generated output to the user
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16Sound input; Sound output
    • G06F3/165Management of the audio stream, e.g. setting of volume, audio stream path
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09BEDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
    • G09B15/00Teaching music
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/26Speech to text systems

Abstract

Disclosed is an apparatus for music education for the hearing impaired, using vibration and visual data. The apparatus for music education comprises: at least one processor; and a memory for storing instructions instructing the at least one processor to perform at least one operation. The at least one processor receives voice data, and provides at least one of text data, image data, and a vibration control signal for pitch and size corresponding to the received voice data. An objective of the present invention is to provide an apparatus for music education capable of allowing the hearing impaired to learn pitch, sound intensity and tempo through vibration and visual data.

Description

진동 및 시각 데이터를 활용한 청각 장애인 음악 교육 장치, 방법 및 프로그램{APPARATUS, METHOD AND PROGRAM FOR MUSIC EDUCATION FOR THE HEARING IMPAIRED USING VIBRATION AND VISUAL DATA}Apparatus, method, and program for music education for the hearing impaired using vibration and visual data

본 발명은 진동 및 시각 데이터를 활용한 청각 장애인 음악 교육 장치에 관한 것이다.The present invention relates to a music education apparatus for the hearing impaired using vibration and visual data.

음악을 인지하는데 있어서 대부분 영향을 끼치는 감각은 청각이다. 따라서, 청각장애가 있는 사람들에게 음악은 상대적으로 접하기 어려운 매체다. The most influential sense in perceiving music is hearing. Therefore, music is a relatively difficult medium for people with hearing impairments.

학생들을 가르치는 교육과정에는 음악과목이 필수적으로 포함되어 있는 경우가 많으며, 대다수 청각이 정상적인 학생을 주 대상으로 개발된 교육방법만을 이용해 학생들을 가르치고 있다. 다만, 상기 교육방법을 이용해 청각장애인을 가르치는 경우, 정상적인 교육이 이루어지기 어렵다.In many cases, the music subject is included in the curriculum for teaching students, and the majority of students are taught using only educational methods developed for students with normal hearing. However, when teaching the hearing impaired using the above education method, it is difficult to provide normal education.

또한, 비대면 교육이 증가되는 추세인데, 비대면 교육을 통해 음악교육을 진행하는 경우, 청각 이외의 감각에 의존하여 학습하는 청각 장애인에 대한 정상적인 교육이 이루어지기 어렵다. In addition, as non-face-to-face education is on the rise, when music education is conducted through non-face-to-face education, it is difficult to provide normal education for the deaf who learns by relying on senses other than hearing.

또한, 청각 이외의 감각을 통해 청각 장애인에게 음악을 인지하게 하는 장치들이 개발되고 있으나, 상대적으로 높은 가격으로 인해 접근성이 떨어지는 문제가 있다.In addition, although devices for allowing the hearing impaired to recognize music through a sense other than hearing have been developed, there is a problem in that accessibility is poor due to a relatively high price.

상기와 같은 문제점을 해결하기 위한 본 발명의 목적은, 진동 및 시각 데이터를 통해 청각 장애인에게 음정, 음의 세기 및 박자를 학습시킬 수 있는 음악 교육 장치를 제공하는 데 있다.SUMMARY OF THE INVENTION An object of the present invention for solving the above problems is to provide a music education apparatus capable of learning a pitch, a sound intensity, and a time signature to a hearing impaired person through vibration and visual data.

상기와 같은 문제점을 해결하기 위한 본 발명의 다른 목적은, 진동 및 시각 데이터를 통해 청각 장애인에게 음정, 음의 세기 및 박자를 학습시킬 수 있는 음악 교육 방법을 제공하는 데 있다.Another object of the present invention for solving the above problems is to provide a music education method capable of learning a pitch, a sound strength, and a time signature to a hearing impaired person through vibration and visual data.

상기와 같은 문제점을 해결하기 위한 본 발명의 또 다른 목적은, 진동 및 시각 데이터를 통해 청각 장애인에게 음정, 음의 세기 및 박자를 학습시킬 수 있는 음악 교육 프로그램을 제공하는 데 있다.Another object of the present invention for solving the above problems is to provide a music education program that can teach the hearing impaired to pitch, sound intensity, and beat through vibration and visual data.

상기 목적을 달성하기 위한 본 발명의 일 측면은, 진동 및 시각 데이터를 활용한 청각 장애인 음악 교육 장치를 제공한다.One aspect of the present invention for achieving the above object provides a music education apparatus for the hearing impaired using vibration and visual data.

또한, 상기 음악 교육 장치는, 적어도 하나의 프로세서(processor); 및 상기 적어도 하나의 프로세서가 적어도 하나의 동작(operation)을 수행하도록 지시하는 명령어들(instructions)을 저장하는 메모리(memory)를 포함한다.In addition, the music education apparatus, at least one processor (processor); and a memory for storing instructions instructing the at least one processor to perform at least one operation.

또한, 상기 적어도 하나의 프로세서는, 음성 데이터를 수신하고, 수신된 음성 데이터와 대응되는 음정 및 크기에 대한 텍스트 데이터, 이미지 데이터 및 진동 제어신호 중 적어도 하나를 제공한다.In addition, the at least one processor receives the voice data, and provides at least one of text data, image data, and a vibration control signal for a pitch and a size corresponding to the received voice data.

또한, 상기 진동 제어신호는 진동수 데이터 및 크기 데이터를 포함하고, 상기 진동수 데이터는 서로 다른 복수의 진동수 중 어느 하나를 포함하고, 상기 크기 데이터는 서로 다른 복수의 음의 크기 중 어느 하나를 포함하며, 상기 진동수 데이터 및 상기 크기 데이터의 조합은 서로 다른 복수의 음정과 대응될 수 있다.In addition, the vibration control signal includes frequency data and magnitude data, the frequency data includes any one of a plurality of different frequencies, and the magnitude data includes any one of a plurality of different sound levels, A combination of the frequency data and the magnitude data may correspond to a plurality of different pitches.

또한, 상기 음악 교육 장치는 복수의 영역 각각에 배치된 진동 모듈을 포함하는 진동 장치와 통신 가능하게 연결되고, 상기 진동 제어신호는 서로 다른 복수의 음정과 대응되는 위치 데이터 및 서로 다른 복수의 음의 크기와 대응되는 크기 데이터를 포함하고, 상기 위치 데이터는 상기 복수의 영역 중 어느 하나의 영역의 위치를 포함할 수 있다.In addition, the music education device is communicatively connected to a vibration device including a vibration module disposed in each of a plurality of regions, and the vibration control signal includes position data corresponding to a plurality of different pitches and a plurality of different sounds. Size data corresponding to the size may be included, and the location data may include a location of any one of the plurality of areas.

또한, 상기 진동 제어신호는 서로 다른 복수의 옥타브와 대응되는 진동수 데이터를 포함하고, 상기 진동수 데이터는 복수의 진동수 중 어느 하나의 진동수를 포함할 수 있다.In addition, the vibration control signal may include frequency data corresponding to a plurality of different octaves, and the frequency data may include any one of the plurality of frequencies.

또한, 상기 음악 교육 장치는 복수의 영역 각각에 배치된 복수의 진동 모듈을 포함하는 진동 장치와 통신 가능하게 연결되고, 상기 진동 제어신호는 서로 다른 복수의 음정과 대응되는 제1 위치 데이터 및 서로 다른 복수의 음의 크기와 대응되는 제2 위치 데이터를 포함하고, 상기 제1 위치 데이터는 상기 복수의 영역 중 어느 하나의 영역의 위치를 포함하고, 상기 제2 위치 데이터는 상기 복수의 진동 모듈 중 어느 하나의 위치를 포함할 수 있다.In addition, the music education apparatus is communicatively connected to a vibration apparatus including a plurality of vibration modules disposed in each of a plurality of regions, and the vibration control signal includes first position data corresponding to a plurality of different pitches and different It includes second position data corresponding to a plurality of loudnesses, the first position data includes a position of any one of the plurality of regions, and the second position data includes any one of the plurality of vibration modules It may contain one location.

또한, 상기 복수의 진동 모듈은 일 측에서 상기 일 측의 반대편 타 측을 향하여 배열되고, 상기 일 측에서 상기 타 측을 향할수록 대응되는 음의 크기가 증가할 수 있다.In addition, the plurality of vibration modules may be arranged from one side toward the other side opposite to the one side, and a corresponding sound level may increase from the one side toward the other side.

또한, 상기 적어도 하나의 프로세서는, 상기 음성 데이터가 적어도 하나의 옥타브의 모든 음과 매칭됐는지 판단하고, 매칭된 경우, 상기 적어도 하나의 옥타브에 대한 음정 데이터 및 기 설정된 크기 데이터와 대응되는 텍스트 데이터, 이미지 데이터 및 진동 제어신호 중 적어도 하나를 제공할 수 있다.In addition, the at least one processor determines whether the voice data matches all the notes of at least one octave, and, if the match, text data corresponding to pitch data and preset size data for the at least one octave; At least one of image data and a vibration control signal may be provided.

또한, 상기 적어도 하나의 프로세서는, 중복을 허용하는 복수의 음정, 크기 및 박자로 구성된 악보에 관한 텍스트 데이터, 이미지 데이터, 동영상 데이터 및 진동 제어신호 중 적어도 하나를 제공하고, 상기 음성 데이터와 대응되는 음정 및 크기에 대한 텍스트 데이터, 이미지 데이터 및 진동 제어신호 중 적어도 하나를 제공하며, 상기 악보에 관한 텍스트 데이터, 이미지 데이터, 동영상 데이터 및 진동 제어신호 중 적어도 하나와 상기 음성 데이터와 대응되는 음정 및 크기에 대한 텍스트 데이터, 이미지 데이터 및 진동 제어신호 중 적어도 하나를 비교하여 평가 점수를 도출하며, 상기 평가 점수에 기초하여 추천곡을 산출할 수 있다.In addition, the at least one processor provides at least one of text data, image data, video data, and a vibration control signal related to a sheet music composed of a plurality of pitches, sizes, and beats that allow overlap, and corresponding to the voice data. It provides at least one of text data, image data, and vibration control signal for pitch and size, and at least one of text data, image data, video data, and vibration control signal related to the sheet music, and a pitch and size corresponding to the voice data. An evaluation score may be derived by comparing at least one of text data, image data, and a vibration control signal for , and a recommended song may be calculated based on the evaluation score.

또, 상기 목적을 달성하기 위한 본 발명의 다른 측면은, 컴퓨터에 의해 수행되는, 진동 및 시각 데이터를 활용한 청각 장애인 음악 교육 방법을 제공한다.In addition, another aspect of the present invention for achieving the above object provides a method for educating the hearing impaired using vibration and visual data, performed by a computer.

상기 음악 교육 방법은, 음성 데이터를 수신하는 단계; 및 수신된 음성 데이터와 대응되는 음정 및 크기에 대한 텍스트 데이터, 이미지 데이터 및 진동 제어신호 중 적어도 하나를 제공하는 단계를 포함하고, 상기 진동 제어신호는 진동수 데이터 및 크기 데이터를 포함하고, 상기 진동수 데이터는 서로 다른 복수의 진동수 중 어느 하나를 포함하고, 상기 크기 데이터는 서로 다른 복수의 음의 크기 중 어느 하나를 포함하며, 상기 진동수 데이터 및 상기 크기 데이터의 조합은 서로 다른 복수의 음정과 대응된다.The music education method may include: receiving voice data; and providing at least one of text data, image data, and a vibration control signal for pitch and magnitude corresponding to the received voice data, wherein the vibration control signal includes frequency data and magnitude data, and the frequency data includes any one of a plurality of different frequencies, the magnitude data includes any one of a plurality of different sounds, and a combination of the frequency data and the magnitude data corresponds to a plurality of different pitches.

이 외에도, 본 발명을 구현하기 위한 다른 방법, 다른 장치 및 상기 방법을 실행하기 위한 컴퓨터 프로그램을 기록하는 컴퓨터 판독 가능한 기록 매체가 더 제공될 수 있다.In addition to this, another method for implementing the present invention, another apparatus, and a computer-readable recording medium for recording a computer program for executing the method may be further provided.

상기와 같은 본 발명에 진동 및 시각 데이터를 활용한 청각 장애인 음악 교육 장치를 이용할 경우에는, 촉각 및 시각을 이용하여 음의 음정, 크기 및 박자를 학습시킬 수 있다. In the case of using the music education apparatus for the hearing impaired using vibration and visual data in the present invention as described above, it is possible to learn the pitch, size, and tempo of a sound using tactile and visual sensations.

또한, 상대적으로 비용이 낮은 진동 발생 장치를 이용하거나 음악 교육 장치에서 발생될 수 있는 진동을 이용해 학습하므로, 학습에 소요되는 비용이 절감되어 접근성이 높은 장점이 있다.In addition, since learning is performed by using a vibration generating device having a relatively low cost or by using vibration that may be generated in a music education device, the cost required for learning is reduced, and thus, there is an advantage of high accessibility.

또한, 음정, 크기 및 박자 중 적어도 하나에 대한 평가 점수에 기초하여 매칭된 추천곡에 대한 학습이 제공될 수 있어 학습의 효과가 증대되는 장점이 있다.In addition, there is an advantage in that the learning effect is increased because it is possible to provide learning for a matching recommendation song based on the evaluation score for at least one of the pitch, the size, and the time signature.

또한, 선택된 곡이 음정, 크기 및 박자 중 적어도 하나에 대한 평가 점수에 기초하여 보정되고, 보정된 곡에 대한 학습이 제공될 수 있어 학습의 효과가 증대되는 장점이 있다.In addition, the selected song is corrected based on the evaluation score for at least one of the pitch, the size, and the tempo, and learning of the corrected song can be provided, so that the effect of learning is increased.

도 1은 일 실시예에 따른 청각 장애인을 위한 음악 교육 장치에 대한 개요도다.
도 2는 도 1에 따른 음악 교육 장치의 기능적 모듈을 예시적으로 나타낸 블록도다.
도 3은 도 2에 따른 음성 데이터 변환부에서 생성된 진동의 일 실시예를 도시하는 도면이다.
도 4는 도 2에 따른 음성 데이터 변환부에서 생성된 진동의 다른 실시예를 도시하는 도면이다.
도 5는 도 2에 따른 음성 데이터 변환부에서 생성된 진동의 또 다른 실시예를 도시하는 도면이다.
도 6은 도 2에 따른 음 학습부의 기능을 설명하기 위한 개념도다.
도 7은 도 2에 따른 음 학습부의 기능을 설명하기 위한 개념도다.
도 8은 도 2에 따른 음 학습부의 기능을 설명하기 위한 개념도다.
도 9는 도 2에 따른 음 학습부의 기능을 설명하기 위한 개념도다.
도 10은 도 2에 따른 음 학습 평가부의 기능을 설명하기 위한 개념도다.
도 11은 도 1에 따른 음악 교육 장치를 이용한 음악 교육 방법의 과정을 도시하는 흐름도다.
도 12는 도 11에 따른 음 학습 단계(S10)의 과정을 도시하는 흐름도다.
도 13은 도 11에 따른 곡 선택 단계(S60)의 과정을 도시하는 흐름도다.
도 14는 도 1에 따른 음악 교육 장치의 하드웨어 구성을 예시적으로 나타낸 도면이다.
1 is a schematic diagram of a music education apparatus for the hearing impaired according to an embodiment.
FIG. 2 is a block diagram exemplarily showing a functional module of the music education apparatus according to FIG. 1 .
FIG. 3 is a diagram illustrating an embodiment of vibration generated by the voice data conversion unit according to FIG. 2 .
FIG. 4 is a diagram illustrating another embodiment of vibration generated by the voice data conversion unit according to FIG. 2 .
FIG. 5 is a diagram illustrating another embodiment of vibration generated by the voice data conversion unit according to FIG. 2 .
FIG. 6 is a conceptual diagram illustrating a function of the sound learning unit according to FIG. 2 .
FIG. 7 is a conceptual diagram for explaining the function of the sound learning unit according to FIG. 2 .
FIG. 8 is a conceptual diagram for explaining the function of the sound learning unit according to FIG. 2 .
9 is a conceptual diagram illustrating a function of the sound learning unit according to FIG. 2 .
FIG. 10 is a conceptual diagram for explaining the function of the sound learning evaluation unit according to FIG. 2 .
11 is a flowchart illustrating a process of a music education method using the music education apparatus according to FIG. 1 .
12 is a flowchart illustrating the process of the sound learning step S10 according to FIG. 11 .
13 is a flowchart illustrating the process of the song selection step ( S60 ) according to FIG. 11 .
14 is a diagram exemplarily illustrating a hardware configuration of the music education apparatus according to FIG. 1 .

본 발명은 다양한 변경을 가할 수 있고 여러 가지 실시예를 가질 수 있는 바, 특정 실시예들을 도면에 예시하고 상세한 설명에 상세하게 설명하고자 한다. 그러나, 이는 본 발명을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다. 각 도면을 설명하면서 유사한 참조부호를 유사한 구성요소에 대해 사용하였다. Since the present invention can have various changes and can have various embodiments, specific embodiments are illustrated in the drawings and described in detail in the detailed description. However, this is not intended to limit the present invention to specific embodiments, and should be understood to include all modifications, equivalents and substitutes included in the spirit and scope of the present invention. In describing each figure, like reference numerals have been used for like elements.

제1, 제2, A, B 등의 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되어서는 안 된다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다. 예를 들어, 본 발명의 권리 범위를 벗어나지 않으면서 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소도 제1 구성요소로 명명될 수 있다. 및/또는 이라는 용어는 복수의 관련된 기재된 항목들의 조합 또는 복수의 관련된 기재된 항목들 중의 어느 항목을 포함한다. Terms such as first, second, A, and B may be used to describe various elements, but the elements should not be limited by the terms. The above terms are used only for the purpose of distinguishing one component from another. For example, without departing from the scope of the present invention, a first component may be referred to as a second component, and similarly, a second component may also be referred to as a first component. and/or includes a combination of a plurality of related listed items or any of a plurality of related listed items.

어떤 구성요소가 다른 구성요소에 "연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소가 다른 구성요소에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 중간에 다른 구성요소가 존재하지 않는 것으로 이해되어야 할 것이다. When a component is referred to as being “connected” or “connected” to another component, it may be directly connected or connected to the other component, but it is understood that other components may exist in between. it should be On the other hand, when it is said that a certain element is "directly connected" or "directly connected" to another element, it should be understood that the other element does not exist in the middle.

본 출원에서 사용한 용어는 단지 특정한 실시예를 설명하기 위해 사용된 것으로, 본 발명을 한정하려는 의도가 아니다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 출원에서, "포함하다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.The terms used in the present application are only used to describe specific embodiments, and are not intended to limit the present invention. The singular expression includes the plural expression unless the context clearly dictates otherwise. In the present application, terms such as “comprise” or “have” are intended to designate that a feature, number, step, operation, component, part, or combination thereof described in the specification exists, but one or more other features It is to be understood that this does not preclude the possibility of the presence or addition of numbers, steps, operations, components, parts, or combinations thereof.

다르게 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가지고 있다. 일반적으로 사용되는 사전에 정의되어 있는 것과 같은 용어들은 관련 기술의 문맥 상 가지는 의미와 일치하는 의미를 가지는 것으로 해석되어야 하며, 본 출원에서 명백하게 정의하지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다.Unless defined otherwise, all terms used herein, including technical or scientific terms, have the same meaning as commonly understood by one of ordinary skill in the art to which this invention belongs. Terms such as those defined in a commonly used dictionary should be interpreted as having a meaning consistent with the meaning in the context of the related art, and should not be interpreted in an ideal or excessively formal meaning unless explicitly defined in the present application. does not

이하, 본 발명에 따른 바람직한 실시예를 첨부된 도면을 참조하여 상세하게 설명한다.Hereinafter, preferred embodiments according to the present invention will be described in detail with reference to the accompanying drawings.

도 1은 일 실시예에 따른 청각 장애인을 위한 음악 교육 장치(100)에 대한 개요도다.1 is a schematic diagram of a music education apparatus 100 for the hearing impaired according to an embodiment.

도 1을 참조하면, 음악 교육 장치(100)는 청각 장애인의 음악 교육을 위한 진동 및 시각 데이터 중 적어도 하나를 사용자(200)에게 제공할 수 있다. Referring to FIG. 1 , the music education apparatus 100 may provide at least one of vibration and visual data for music education for the hearing impaired to the user 200 .

음악 교육 장치(100)는 기 설정된 주파수 범위의 진동을 발생시키도록 구성된 출력 인터페이스 장치를 포함할 수 있다. 또한, 음악 교육 장치(100)는 음악 교육 장치(100)와 통신 가능하게 연결된 디바이스가 기 설정된 주파수 범위의 진동을 발생시키도록 제어할 수 있다. The music education apparatus 100 may include an output interface device configured to generate vibration in a preset frequency range. Also, the music education apparatus 100 may control a device communicatively connected to the music education apparatus 100 to generate vibrations in a preset frequency range.

음악 교육 장치(100)는 청각 장애인의 음악 교육을 위해 이미지, 텍스트 및 동영상 중 적어도 하나를 포함하는 시각 데이터를 디스플레이하는 출력 인터페이스 장치를 포함할 수 있다. 또한, 음악 교육 장치(100)는 음악 교육 장치(100)와 통신 가능하게 연결된 디바이스가 기 설정된 주파수 범위의 진동을 발생시키도록 제어할 수 있다. The music education apparatus 100 may include an output interface device that displays visual data including at least one of an image, text, and video for music education of the hearing impaired. Also, the music education apparatus 100 may control a device communicatively connected to the music education apparatus 100 to generate vibrations in a preset frequency range.

또, 음악 교육 장치(100)는 사용자(200)의 발화에 의해 발생되는 아날로그 형태의 음성 데이터를 수신할 수 있다. Also, the music education apparatus 100 may receive analog voice data generated by the user 200's utterance.

음악 교육 장치(100)는 아날로그 형태의 음성 데이터를 감지할 수 있도록 구성된 입력 인터페이스 장치를 포함할 수 있다. 또한, 음악 교육 장치(100)는, 음악 교육 장치(100)와 통신 가능하게 연결되고 아날로그 형태의 음성 데이터를 감지할 수 있도록 구성된 디바이스를 통해 음성 데이터를 수신할 수 있다. The music education apparatus 100 may include an input interface device configured to detect analog voice data. Also, the music education apparatus 100 may receive voice data through a device that is communicatively connected to the music education apparatus 100 and configured to detect analog voice data.

또, 음악 교육 장치(100)는 아날로그 형태의 음성 데이터를 디지털 데이터로 변환하고, 변환된 디지털 데이터에 기초하여 진동 제어신호를 생성할 수 있다. Also, the music education apparatus 100 may convert analog voice data into digital data and generate a vibration control signal based on the converted digital data.

음악 교육 장치(100)는 진동 제어신호에 기초하여 진동할 수 있다. 또한, 음악 교육 장치(100)는 음악 교육 장치(100)와 통신 가능하게 연결된 디바이스에 진동 제어신호를 전송하고, 해당 디바이스가 진동하도록 제어할 수도 있다. The music education apparatus 100 may vibrate based on the vibration control signal. Also, the music education apparatus 100 may transmit a vibration control signal to a device communicatively connected to the music education apparatus 100 and control the device to vibrate.

또, 음악 교육 장치(100)는 변환된 디지털 데이터에 기초하여 및 시각 데이터 제어신호를 생성할 수 있다. Also, the music education apparatus 100 may generate a control signal and a visual data based on the converted digital data.

음악 교육 장치(100)는 시각 데이터 제어신호에 기초하여 시각 데이터를 생성할 수 있다. 또한, 음악 교육 장치(100)는 음악 교육 장치(100)와 통신 가능하게 연결된 디바이스에 시각 데이터 제어신호를 전송할 수 있다. The music education apparatus 100 may generate visual data based on the visual data control signal. Also, the music education apparatus 100 may transmit a visual data control signal to a device communicatively connected to the music education apparatus 100 .

도 2는 도 1에 따른 음악 교육 장치(100)의 기능적 모듈을 예시적으로 나타낸 블록도다. 또한, 도 3 내지 도 9는 음악 교육 장치(100)의 기능적 모듈의 동작에 대해 설명하기 위한 개념도다. FIG. 2 is a block diagram exemplarily showing a functional module of the music education apparatus 100 according to FIG. 1 . Also, FIGS. 3 to 9 are conceptual diagrams for explaining the operation of the functional module of the music education apparatus 100 .

이하에서는, 도 2 내지 도 10을 참조하여, 음악 교육 장치(100)의 기능적 모듈에 대해 설명한다. Hereinafter, a functional module of the music education apparatus 100 will be described with reference to FIGS. 2 to 10 .

도 2를 참조하면, 음악 교육 장치(100)는 음성 데이터 변환부(101), 음 학습부(102), 음 학습 평가부(103), 추천곡 학습부(104) 및 선택곡 학습부(105)를 포함한다. 음성 데이터 변환부(101), 음 학습부(102), 음 학습 평가부(103), 추천곡 학습부(104) 및 선택곡 학습부(105)를 적어도 하나의 프로세서로 구성될 수 있다. Referring to FIG. 2 , the music education apparatus 100 includes a voice data conversion unit 101 , a tone learning unit 102 , a tone learning evaluation unit 103 , a recommended song learning unit 104 , and a selection song learning unit 105 . ) is included. The voice data conversion unit 101 , the tone learning unit 102 , the tone learning evaluation unit 103 , the recommended song learning unit 104 , and the selected song learning unit 105 may be configured as at least one processor.

음성 데이터 변환부(101)는 사용자로부터 수신한 아날로그 형태의 음성 데이터를 디지털 데이터로 변환하고, 변환된 디지털 데이터에 기초하여 진동 제어신호 및 시각 데이터 제어신호 중 적어도 하나를 생성한다. The voice data converter 101 converts analog voice data received from the user into digital data, and generates at least one of a vibration control signal and a visual data control signal based on the converted digital data.

일 실시예에서, 진동 제어신호는 음정과 관련된 제1 위치 데이터 및 음의 크기와 관련된 제1 크기 데이터를 포함할 수 있다. 제1 위치 데이터는 각각이 서로 다른 음정과 대응되는 복수의 위치 중 적어도 하나의 위치에 대한 정보를 포함할 수 있다. 제1 크기 데이터는 서로 다른 복수의 세기 중 어느 하나에 대한 정보를 포함할 수 있다. 또한, 음의 크기와 관련하여 제1 크기 데이터가 아닌 제2 위치 데이터를 포함할 수 있다. 제2 위치 데이터는 각각이 서로 다른 복수의 세기와 대응되는 복수의 위치 중 적어도 하나의 위치에 대한 정보를 포함할 수 있다. In an embodiment, the vibration control signal may include first position data related to the pitch and first magnitude data related to the volume. The first location data may include information on at least one location among a plurality of locations each corresponding to a different pitch. The first size data may include information on any one of a plurality of different intensities. In addition, in relation to the sound level, second position data other than the first size data may be included. The second location data may include information on at least one location among a plurality of locations corresponding to a plurality of intensities, each of which is different from each other.

도 3을 참조하면, 음악 교육 장치(100)는 손의 복수의 영역에 진동모듈이 부착된 디바이스와 통신 가능하게 연결된다. 각각의 영역에 부착된 진동모듈은 기 설정된 옥타브에 포함된 음과 매칭된다. 학습하는 음의 영역을 도, 레, 미, 파, 솔, 라 및 시로 설정한 경우, 7개의 영역과 각각 매칭되도록 진동모듈이 매칭된다. 다만, 이에 한정되는 것은 아니며, 다양한 개수의 영역이 설정될 수 있다. 제1 위치 데이터는 7개의 영역 중 어느 하나의 영역에 대한 정보를 포함한다. 또한, 도시되지 않은 실시예에서, 각 영역에는 하나의 진동모듈이 배치될 수 있으며, 기 설정된 음의 크기에 대응되는 크기의 진동을 발생시킨다. 즉, 제1 크기 데이터가 약 진동, 중 진동, 강 진동으로 분류되는 경우, 강 진동이 중 진동에 비해 상대적으로 강한 크기의 진동이다. Referring to FIG. 3 , the music education apparatus 100 is communicatively connected to a device to which a vibration module is attached to a plurality of regions of the hand. The vibration module attached to each area matches the sound included in the preset octave. When the learning sound region is set to do, re, mi, par, sol, la, and si, the vibration module is matched to match each of the seven regions. However, the present invention is not limited thereto, and various numbers of regions may be set. The first location data includes information on any one of the seven areas. In addition, in the not-shown embodiment, one vibration module may be disposed in each region, and generates vibration of a magnitude corresponding to a preset sound volume. That is, when the first magnitude data is classified into a weak vibration, a medium vibration, and a strong vibration, the strong vibration is a vibration having a relatively strong magnitude compared to the medium vibration.

다시 도 3을 참조하면, 각각의 영역에는 복수 개의 진동모듈이 배치된다. 각 영역에 배치된 복수 개의 진동모듈은 기 설정된 음의 크기와 매칭된다. 도시된 실시예에서, 새끼 손가락 영역에는 3개의 진동모듈이 배치되고, 3개의 진동모듈은 기 설정된 3개의 음의 크기와 매칭된다. 이 경우, 제2 위치 데이터는 3개의 진동 모듈 중 어느 하나의 위치에 대한 정보를 포함할 수 있다. 또한, 모든 영역은 각각의 영역에 배치된 복수의 진동모듈이 어느 한 측에서 반대편 타 측을 향하여 배열될 수 있다. 복수의 진동모듈의 배열방향이 통일됨으로서 사용자가 음정을 시각 및 촉각과 매칭하여 인지하는 효과가 극대화될 수 있다. Referring back to FIG. 3 , a plurality of vibration modules are disposed in each area. A plurality of vibration modules disposed in each area are matched with a preset sound level. In the illustrated embodiment, three vibration modules are arranged in the little finger region, and the three vibration modules are matched with preset three sound levels. In this case, the second location data may include information on the location of any one of the three vibration modules. In addition, in all areas, a plurality of vibration modules disposed in each area may be arranged from one side to the other side opposite to each other. As the arrangement direction of the plurality of vibration modules is unified, the effect of matching the pitch with the visual and tactile senses and recognizing the user can be maximized.

또 다른 실시예에서, 진동 제어신호는 음정과 관련된 제1 위치 데이터, 음정과 관련된 제1 진동수 데이터, 음의 크기와 관련된 제1 크기 데이터를 포함할 수 있다. 제1 위치 데이터는 각각이 서로 다른 음정과 대응되는 복수의 위치 중 적어도 하나의 위치에 대한 정보를 포함할 수 있다. 제1 진동수 데이터는 각각이 서로 다른 옥타브와 대응되는 복수의 진동수 중 적어도 하나의 진동수에 대한 정보를 포함할 수 있다. 제1 크기 데이터는 서로 다른 복수의 세기 중 어느 하나에 대한 정보를 포함할 수 있다. 또한, 음의 크기와 관련하여 제1 크기 데이터가 아닌 제2 위치 데이터를 포함할 수 있다. 제2 위치 데이터는 각각이 서로 다른 복수의 세기와 대응되는 복수의 위치 중 적어도 하나의 위치에 대한 정보를 포함할 수 있다.In another embodiment, the vibration control signal may include first position data related to a pitch, first frequency data related to a pitch, and first magnitude data related to a sound level. The first location data may include information on at least one location among a plurality of locations each corresponding to a different pitch. The first frequency data may include information on at least one of a plurality of frequencies corresponding to different octaves, respectively. The first size data may include information on any one of a plurality of different intensities. In addition, in relation to the sound level, second position data other than the first size data may be included. The second location data may include information on at least one location among a plurality of locations corresponding to a plurality of intensities, each of which is different from each other.

도 4를 참조하면, 도 3의 경우 서로 다른 옥타브가 서로 다른 디바이스를 통해 인식되는 것과 달리, 도 4에 따른 디바이스는 동일한 위치의 진동모듈이 서로 다른 옥타브를 표현할 수 있다. 제1 진동수 데이터가 서로 다른 옥타브 중 어느 하나의 옥타브와 대응되는 진동수에 대한 정보를 포함한다. 도시된 실시예에서, 1옥타브는 진동 1회, 2 옥타브는 진동 2회, 3옥타브는 진동 3회로 분류될 수 있다. 다만, 이에 한정되는 것은 아니며 다양한 진동수로 옥타브가 표현될 수 있다. 즉, 도 4에 따른 디바이스는 제1 위치 데이터, 제1 크기 데이터 및 제1 진동수 데이터를 포함하는 진동 제어신호에 의해 제어될 수 있다. 또한, 도 4에 따른 디바이스는 제1 위치 데이터, 제2 위치 데이터 및 제1 진동수 데이터를 포함하는 진동 제어신호에 의해 제어될 수 있다. Referring to FIG. 4 , unlike in the case of FIG. 3 where different octaves are recognized through different devices, in the device according to FIG. 4 , vibration modules at the same location may express different octaves. The first frequency data includes information about a frequency corresponding to any one octave among different octaves. In the illustrated embodiment, 1 octave may be classified as 1 vibration, 2 octaves may be classified as 2 vibrations, and 3 octaves may be classified as 3 vibrations. However, the present invention is not limited thereto, and an octave may be expressed with various frequencies. That is, the device according to FIG. 4 may be controlled by a vibration control signal including first position data, first size data, and first frequency data. In addition, the device according to FIG. 4 may be controlled by a vibration control signal including first position data, second position data, and first frequency data.

또 다른 실시 예에서, 진동 제어신호는 음정과 관련된 제1 진동수 데이터 및 제1 크기 데이터를 포함할 수 있다. 제1 진동수 데이터는 서로 다른 복수의 진동수에 대한 정보를 포함하며, 제1 크기 데이터는 서로 다른 복수의 세기에 대한 정보를 포함한다. 제1 진동수 데이터 및 제1 크기 데이터의 조합은 각각이 서로 다른 음정 중 적어도 하나와 매칭된다. In another embodiment, the vibration control signal may include first frequency data and first magnitude data related to a pitch. The first frequency data includes information on a plurality of different frequencies, and the first magnitude data includes information on a plurality of different intensities. A combination of the first frequency data and the first magnitude data matches at least one of different pitches, respectively.

도 5를 참조하면, 음악 교육 장치(100)는 진동을 발생시킬 수 있도록 구성된 출력 인터페이스 장치를 포함한다. 출력 인터페이스 장치는 기 설정된 범위에 포함된 진동수와 기 설정된 범위에 포함된 음의 크기의 조합을 통해 기 설정된 범위의 음정을 표현한다. 도시된 실시예에서, 진동수 1 내지 6과 크기 1 내지 4의 조합은 1옥타브 도부터 3옥타브 시까지의 음정과 매칭된다. 다만, 이에 한정되는 것은 아니며, 다양한 범위의 조합과 다양한 범위의 음정이 매칭될 수 있다. 출력 인터페이스 장치는 제1 진동수 데이터 및 제1 크기 데이터의 조합을 포함하는 진동 제어신호에 의해 제어될 수 있다. Referring to FIG. 5 , the music education apparatus 100 includes an output interface device configured to generate vibration. The output interface device expresses the pitch of the preset range through a combination of the frequency included in the preset range and the volume included in the preset range. In the illustrated embodiment, combinations of frequencies 1 to 6 and magnitudes 1 to 4 match pitches from one octave degree to three octave hours. However, the present invention is not limited thereto, and combinations of various ranges and pitches of various ranges may be matched. The output interface device may be controlled by a vibration control signal including a combination of the first frequency data and the first magnitude data.

일 실시예에서, 시각 데이터 제어신호는 변환된 디지털 데이터와 매칭되는 음정 및 크기에 대한 텍스트 데이터 및 변환된 디지털 데이터와 매칭되는 음정 및 크기에 대한 이미지 데이터를 포함할 수 있다. In an embodiment, the visual data control signal may include text data for a pitch and a size matching the converted digital data, and image data for a pitch and a size matching the converted digital data.

다시 도 2를 참조하면, 음 학습부(102)는 청각장애인 사용자가 발화한 음성과 대응되는 음정 및 크기에 대해 인지할 수 있도록 사용자에게 음 인식 데이터를 제공한다. Referring back to FIG. 2 , the sound learning unit 102 provides sound recognition data to the user so that the hearing impaired user can recognize the pitch and size corresponding to the voice uttered.

음 인식 데이터는 사용자가 발화한 음성과 대응되는 음정 및 크기에 대한 텍스트 데이터 및 이미지 데이터 중 적어도 하나를 포함할 수 있다.The sound recognition data may include at least one of text data and image data for a pitch and a size corresponding to the voice uttered by the user.

또한, 음 인식 데이터는 사용자가 발화한 음성과 대응되는 음정 및 크기에 대한 진동 제어신호를 포함할 수 있다.Also, the sound recognition data may include a vibration control signal for a pitch and a size corresponding to the voice uttered by the user.

사용자가 발화하는 경우, 음성 데이터 변환부(101)에서 시각 데이터 제어신호 및 진동 제어신호를 생성하고, 음 학습부(102)는 시각 데이터 제어신호에 기초하여 사용자가 발화한 음성과 대응되는 음정 및 크기에 대한 텍스트 데이터 및 이미지 데이터 중 적어도 하나를 생성한다. 생성된 텍스트 데이터 및 이미지 데이터 중 적어도 하나는 음악 교육 장치(100)에 포함된 출력 인터페이스 장치 또는 음악 교육 장치(100)와 통신 가능하게 연결된 디바이스에 의해 디스플레이된다. 생성된 진동 제어신호는 음악 교육 장치(100)에 포함된 출력 인터페이스 장치 또는 음악 교육 장치(100)와 통신 가능하게 연결된 디바이스에 의해 진동으로 변환된다. When the user speaks, the voice data conversion unit 101 generates a visual data control signal and a vibration control signal, and the tone learning unit 102 generates a pitch and a pitch corresponding to the voice uttered by the user based on the visual data control signal. At least one of text data and image data for the size is generated. At least one of the generated text data and image data is displayed by an output interface device included in the music education apparatus 100 or a device communicatively connected to the music education apparatus 100 . The generated vibration control signal is converted into vibration by an output interface device included in the music education apparatus 100 or a device communicatively connected to the music education apparatus 100 .

사용자가 발화한 음성과 대응되는 음의 음정 및 크기가 진동, 텍스트 데이터 및 이미지 데이터로 제공되므로 사용자가 자신이 발화한 음성의 음정 및 크기에 대해 인지할 수 있다. Since the pitch and size of the sound uttered by the user are provided as vibration, text data, and image data, the user can recognize the pitch and size of the voice uttered by the user.

도 6을 참조하면, 음 인식 데이터에 포함된 텍스트 정보 및 이미지 정보가 예시적으로 도시된다. 텍스트 정보는 옥타브, 음정, 주파수 및 크기를 포함할 수 있다. 이미지 정보는 음계에서 음정의 위치를 나타내는 이미지 및 디바이스에서 매칭되는 진동모듈의 위치를 나타내는 이미지를 포함할 수 있다. Referring to FIG. 6 , text information and image information included in sound recognition data are exemplarily illustrated. The text information may include an octave, a pitch, a frequency, and a magnitude. The image information may include an image indicating the position of the pitch in the musical scale and an image indicating the position of the matching vibration module in the device.

다시 도 2를 참조하면, 음 학습부(102)는 사용자에게 음 학습 데이터를 제공할 수 있다.Referring back to FIG. 2 , the sound learning unit 102 may provide sound learning data to the user.

음 학습 데이터는 기 설정된 범위의 음정 중 어느 하나, 및 기 설정된 범위의 크기 중 어느 하나에 해당하는 음에 대한 텍스트 데이터, 이미지 데이터 및 진동 중 적어도 하나를 포함할 수 있다. The sound learning data may include at least one of text data, image data, and vibration for a sound corresponding to any one of pitches of a preset range and any one of sizes of a preset range.

음 학습 데이터에 포함된 텍스트 데이터, 이미지 데이터 및 진동 중 적어도 하나에 대해 인지한 사용자가 이와 매칭되는 음성을 발화하면, 음 학습부(102)가 발화된 음성과 대응되는 음정 및 크기에 대한 텍스트 데이터, 이미지 데이터 및 진동 중 적어도 하나를 사용자에게 제공한다. When a user who recognizes at least one of text data, image data, and vibration included in the sound learning data utters a voice matching it, the sound learning unit 102 is text data for the pitch and size corresponding to the uttered voice. , and provides at least one of image data and vibration to the user.

발화된 음성과 대응되는 음정 및 크기에 대한 텍스트 데이터, 이미지 데이터 및 진동 중 적어도 하나는 음 학습 데이터와 동시에 제공될 수 있다. At least one of text data, image data, and vibration for a pitch and a size corresponding to the spoken voice may be provided simultaneously with the sound learning data.

이를 통해, 사용자가 정답과 본인의 음성을 시각 및 촉각을 통해 비교할 수 있다. 결과적으로, 사용자가 시각 및 촉각을 통해 음정 및 크기에 대해 점차적으로 학습할 수 있다. Through this, the user can compare the correct answer with his or her voice through visual and tactile sense. As a result, the user can gradually learn about pitch and volume through sight and touch.

도 7을 참조하면, 음 학습 데이터에 포함된 텍스트 정보 및 이미지 정보가 예시적으로 도시된다. 텍스트 정보는 문제로 제시된 옥타브 및 음정, 사용자의 음성과 대응되는 음정 및 크기를 포함할 수 있다. 이미지 정보는 음계에서 문제로 제시된 음정 및 사용자의 음성과 대응되는 음정의 위치를 나타내는 이미지, 디바이스에서 문제로 제시된 음정 및 사용자의 음성과 대응되는 음정과 매칭되는 진동모듈의 위치를 나타내는 이미지를 포함할 수 있다. Referring to FIG. 7 , text information and image information included in sound learning data are exemplarily illustrated. The text information may include an octave and a pitch suggested as a problem, and a pitch and a magnitude corresponding to the user's voice. The image information may include an image indicating the position of the pitch suggested as a problem in the scale and the position of the pitch corresponding to the user's voice, and an image indicating the position of the vibration module matching the pitch suggested as a problem in the device and the pitch corresponding to the user's voice. can

다시 도 2를 참조하면, 음 학습부(102)는 청각장애인 사용자가 박자를 인식할 수 있도록 사용자에게 박자 인식 데이터를 제공한다. Referring back to FIG. 2 , the sound learning unit 102 provides beat recognition data to the user so that the hearing impaired user can recognize the beat.

박자 인식 데이터는 기 설정된 박자 중 적어도 하나에 관한 텍스트 데이터, 이미지 데이터, 동영상 데이터 및 진동 제어신호 중 적어도 하나를 포함한다. The beat recognition data includes at least one of text data, image data, video data, and a vibration control signal related to at least one of preset beats.

사용자는 음악 교육 장치(100)에 포함된 출력 인터페이스 장치 또는 음악 교육 장치(100)와 통신 가능하게 연결된 디바이스를 통해 기 설정된 박자 중 적어도 하나에 관한 텍스트 데이터, 이미지 데이터, 동영상 데이터 및 진동을 제공받는다. 이를 통해, 사용자가 기 설정된 박자 중 적어도 하나에 대해 인식할 수 있다. The user is provided with text data, image data, video data, and vibration related to at least one of preset beats through an output interface device included in the music education apparatus 100 or a device communicatively connected to the music education apparatus 100 . . Through this, the user may recognize at least one of the preset beats.

도 8을 참조하면, 박자 인식 데이터에 포함된 텍스트 정보, 이미지 정보 및 동영상 정보가 예시적으로 도시된다. 텍스트 정보는 문제로 제시된 박자에 대한 정보를 포함한다. 이미지 정보는 문제로 제시된 박자와 매칭된 악보를 포함할 수 있다. 동영상 정보는 매칭된 악보와 오버랩되어 시간의 흐름을 나타내는 애니메이션을 포함할 수 있다. Referring to FIG. 8 , text information, image information, and video information included in beat recognition data are exemplarily illustrated. The text information includes information about the beat presented in question. The image information may include sheet music matching the beat presented as a problem. The video information may include an animation that overlaps with the matched sheet music to indicate the passage of time.

다시 도 2를 참조하면, 음 학습부(102)는 사용자에게 박자 학습 데이터를 제공할 수 있다. Referring back to FIG. 2 , the sound learning unit 102 may provide beat learning data to the user.

박자 학습 데이터는 기 설정된 박자 중 적어도 하나에 관한 텍스트 데이터, 이미지 데이터 및 동영상 데이터 중 적어도 하나를 포함한다. The beat learning data includes at least one of text data, image data, and video data related to at least one of preset beats.

박자 학습 데이터에 포함된 텍스트 데이터, 이미지 데이터 및 동영상 데이터 중 적어도 하나에 대해 인지한 사용자가 이와 매칭되도록 음성을 발화하면, 음 학습부(102)가 발화된 음성과 대응되는 음정 및 크기에 대한 텍스트 데이터, 이미지 데이터 및 진동 중 적어도 하나를 사용자에게 제공한다. When a user who recognizes at least one of text data, image data, and video data included in the beat learning data utters a voice to match it, the sound learning unit 102 displays a text for a pitch and a size corresponding to the uttered voice. at least one of data, image data, and vibration is provided to the user.

발화된 음성과 대응되는 음정 및 크기에 대한 텍스트 데이터, 이미지 데이터 및 진동 중 적어도 하나는 박자 학습 데이터와 동시에 제공될 수 있다.At least one of text data, image data, and vibration for a pitch and a magnitude corresponding to the spoken voice may be provided simultaneously with the beat learning data.

이를 통해, 사용자가 정답과 본인의 박자(음성)를 시각 및 촉각을 통해 비교할 수 있다. 결과적으로, 사용자가 시각 및 촉각을 통해 박자에 대해 점차적으로 학습할 수 있다. Through this, the user can compare the correct answer with his/her beat (voice) through visual and tactile sense. As a result, the user can gradually learn about the beat through sight and touch.

도 9를 참조하면, 박자 학습 데이터에 포함된 텍스트 정보, 이미지 정보 및 동영상 정보가 예시적으로 도시된다.Referring to FIG. 9 , text information, image information, and video information included in beat learning data are exemplarily illustrated.

다시 도 2를 참조하면, 음 학습 평가부(103)는 사용자가 음 학습부(102)를 통해 학습한 음정, 크기 및 박자 중 적어도 하나에 대해 평가할 수 있는 평가 데이터를 사용자에게 제공한다.Referring back to FIG. 2 , the sound learning evaluation unit 103 provides the user with evaluation data that can be evaluated for at least one of a pitch, a size, and a time signature learned by the user through the sound learning unit 102 .

평가 데이터는 중복을 허용하는 복수의 음정, 세기 및 박자로 구성된 악보에 관한 텍스트 데이터, 이미지 데이터, 동영상 데이터 및 진동 제어신호 중 적어도 하나를 포함할 수 있다. The evaluation data may include at least one of text data, image data, video data, and a vibration control signal related to sheet music composed of a plurality of pitches, strengths, and beats that allow overlap.

평가 데이터에 포함된 텍스트 데이터, 이미지 데이터, 동영상 데이터 및 진동 제어신호 중 적어도 하나에 대해 인지한 사용자가 이와 매칭되는 음성을 발화하면, 음 학습 평가부(103)가 발화된 음성과 대응되는 음정 및 크기에 대한 텍스트 데이터, 이미지 데이터 및 진동 중 적어도 하나를 사용자에게 제공한다. When a user who recognizes at least one of text data, image data, video data, and a vibration control signal included in the evaluation data utters a voice matching it, the sound learning evaluation unit 103 performs a pitch and At least one of text data, image data, and vibration for size is provided to the user.

평가 데이터에 포함된 관한 텍스트 데이터, 이미지 데이터, 동영상 데이터 및 진동 제어신호 중 적어도 하나와 발화된 음성과 대응되는 음정 및 크기에 대한 텍스트 데이터, 이미지 데이터 및 진동 중 적어도 하나가 동시에 제공될 수 있다. At least one of text data, image data, moving picture data, and vibration control signals included in the evaluation data, and at least one of text data, image data, and vibration for a pitch and size corresponding to the uttered voice may be provided at the same time.

도 10을 참조하면, 평가 데이터에 포함된 관한 텍스트 데이터, 이미지 데이터, 동영상 데이터 및 진동 제어신호 중 적어도 하나와 발화된 음성과 대응되는 음정 및 크기에 대한 텍스트 데이터, 이미지 데이터 및 진동 중 적어도 하나가 동시에 제공되는 과정이 예시적으로 도시된다. Referring to FIG. 10 , at least one of text data, image data, and vibration about the pitch and size corresponding to at least one of text data, image data, video data, and vibration control signals included in the evaluation data, and the uttered voice A process provided at the same time is illustrated by way of example.

또한, 음 학습 평가부(103)는 평가 데이터에 포함된 음정과 발화된 음성과 대응되는 음정을 비교하여 음정 평가 점수를 산출한다. 음 학습 평가부(103)는 평가 데이터에 포함된 음의 크기와 발화된 음성과 대응되는 음의 크기를 비교하여 크기 평가 점수를 산출한다. 음 학습 평가부(103)는 평가 데이터에 포함된 박자와 발화된 음성과 대응되는 박자를 비교하여 박자 평가 점수를 산출한다. 산출된 평가 점수는 텍스트 데이터에 포함되어 사용자에게 제공될 수 있다. Also, the tone learning evaluation unit 103 calculates a pitch evaluation score by comparing a pitch included in the evaluation data with a pitch corresponding to the uttered voice. The sound learning evaluation unit 103 calculates a loudness evaluation score by comparing the loudness of the sound included in the evaluation data with the sound level corresponding to the uttered voice. The sound learning evaluation unit 103 calculates a beat evaluation score by comparing a beat included in the evaluation data with a beat corresponding to the uttered voice. The calculated evaluation score may be included in text data and provided to the user.

다시 도 2를 참조하면, 추천곡 학습부(104)는 산출된 평가 점수에 기초하여 추천곡을 산출하고, 산출된 추천곡에 대한 추천곡 학습 데이터를 사용자에게 제공한다. Referring back to FIG. 2 , the recommended song learning unit 104 calculates a recommended song based on the calculated evaluation score, and provides the calculated recommended song learning data to the user.

추천곡 학습 데이터는 추천곡에 포함된 복수의 음정, 세기 및 박자로 구성된 악보에 관한 텍스트 데이터, 이미지 데이터, 동영상 데이터 및 진동 제어신호 중 적어도 하나를 포함할 수 있다. The recommended song learning data may include at least one of text data, image data, video data, and a vibration control signal related to sheet music composed of a plurality of pitches, strengths, and beats included in the recommended songs.

추천곡 학습 데이터에 포함된 텍스트 데이터, 이미지 데이터, 동영상 데이터 및 진동 제어신호 중 적어도 하나에 대해 인지한 사용자가 이와 매칭되는 음성을 발화하면, 추천곡 학습부(104)가 발화된 음성과 대응되는 음정 및 크기에 대한 텍스트 데이터, 이미지 데이터 및 진동 중 적어도 하나를 사용자에게 제공한다. When a user who recognizes at least one of text data, image data, video data, and a vibration control signal included in the recommended song learning data utters a voice matching it, the recommended song learning unit 104 responds to the uttered voice At least one of text data, image data, and vibration for pitch and size is provided to the user.

추천곡 학습 데이터에 포함된 관한 텍스트 데이터, 이미지 데이터, 동영상 데이터 및 진동 제어신호 중 적어도 하나와 발화된 음성과 대응되는 음정 및 크기에 대한 텍스트 데이터, 이미지 데이터 및 진동 중 적어도 하나가 동시에 제공될 수 있다. At least one of text data, image data, video data, and vibration control signals included in the recommended song learning data, and at least one of text data, image data and vibration for the pitch and size corresponding to the uttered voice can be provided at the same time have.

선택곡 학습부(105)는 사용자로부터 선택곡을 수신한다. 음악 교육 장치(100)는 사용자로부터 선택곡에 대한 선택을 수신할수 있도록 구성된 입력 인터페이스 장치를 포함한다. The selected song learning unit 105 receives the selected song from the user. The music education apparatus 100 includes an input interface device configured to receive a selection for a selection song from a user.

일 실시예에서, 음악 교육 장치(100)는 초등학교, 중학교, 고등학교 교육 과정에 대한 제1 선택, 선택된 교육과정의 학년에 대한 제2 선택, 선택된 학년의 교재에 대한 제3 선택, 선택된 교재에 포함된 곡에 대한 제4 선택을 수신할 수 있다. In one embodiment, the music education device 100 includes a first selection for elementary school, middle school, and high school curriculum, a second selection for a grade of the selected curriculum, a third selection for a textbook of the selected grade, and included in the selected textbook may receive a fourth selection for the song that has been made.

선택곡 학습부(105)는 선택곡에 대한 선택곡 학습 데이터를 사용자에게 제공한다.The selection song learning unit 105 provides the selection song learning data for the selection song to the user.

선택곡 학습 데이터는 선택곡에 포함된 복수의 음정, 세기 및 박자로 구성된 악보에 관한 텍스트 데이터, 이미지 데이터, 동영상 데이터 및 진동 제어신호 중 적어도 하나를 포함할 수 있다. The selection song learning data may include at least one of text data, image data, video data, and a vibration control signal related to sheet music composed of a plurality of pitches, strengths, and beats included in the selection song.

일 실시예에서, 선택곡 학습부(105)는 선택곡에 포함된 복수의 음정, 세기 및 박자와 사용자의 음정 평가 점수, 크기 평가 점수 및 박자 평가 점수를 비교하고, 비교 결과에 기초하여 선택곡에 포함된 복수의 음정, 세기 및 박자를 보정할 수 있다. In an embodiment, the selection song learning unit 105 compares a plurality of pitches, strengths, and beats included in the selection song with the user's pitch evaluation score, size evaluation score, and beat evaluation score, and selects a song based on the comparison result. You can correct a plurality of pitches, strengths, and beats included in .

선택곡 학습 데이터에 포함된 텍스트 데이터, 이미지 데이터, 동영상 데이터 및 진동 제어신호 중 적어도 하나에 대해 인지한 사용자가 이와 매칭되는 음성을 발화하면, 선택곡 학습부(105)가 발화된 음성과 대응되는 음정 및 크기에 대한 텍스트 데이터, 이미지 데이터 및 진동 중 적어도 하나를 사용자에게 제공한다. When a user who recognizes at least one of text data, image data, video data, and a vibration control signal included in the selected song learning data utters a voice matching it, the selected song learning unit 105 responds to the uttered voice At least one of text data, image data, and vibration for pitch and size is provided to the user.

선택곡 학습 데이터에 포함된 관한 텍스트 데이터, 이미지 데이터, 동영상 데이터 및 진동 제어신호 중 적어도 하나와 발화된 음성과 대응되는 음정 및 크기에 대한 텍스트 데이터, 이미지 데이터 및 진동 중 적어도 하나가 동시에 제공될 수 있다. At least one of text data, image data, video data, and vibration control signals included in the selected song learning data and at least one of text data, image data, and vibration for the pitch and size corresponding to the uttered voice can be provided at the same time have.

다음으로, 도 11 내지 도 13을 참조하여, 본 발명의 일 실시예에 다른 음악 교육 방법(S1)의 과정에 대해 구체적으로 설명한다. Next, a process of the music education method S1 according to an embodiment of the present invention will be described in detail with reference to FIGS. 11 to 13 .

도 11을 참조하면, 음악 교육 장치(100)가 사용자가 음정, 크기 및 박자 중 적어도 하나에 대한 학습을 수행할 수 있도록 음 학습을 제공한다(S10).Referring to FIG. 11 , the music education apparatus 100 provides sound learning so that the user can learn about at least one of a pitch, a size, and a beat ( S10 ).

도 12를 참조하면, 음 학습을 제공하는 단계(S10)의 구체적인 흐름이 도시된다.Referring to FIG. 12 , a detailed flow of providing sound learning ( S10 ) is shown.

먼저, 음악 교육 장치(100)가 사용자의 음성 데이터를 수신한다(S11). First, the music education apparatus 100 receives the user's voice data (S11).

사용자의 음성 데이터가 수신되면, 음악 교육 장치(100)는 수신된 음성 데이터가 적어도 하나의 옥타브의 모든 음과 매칭됐는지 판단한다(S12).When the user's voice data is received, the music education apparatus 100 determines whether the received voice data matches all notes of at least one octave (S12).

적어도 하나의 옥타브의 모든 음과 매칭된 경우, 음악 교육 장치(100)는 매칭된 옥타브 중 적어도 하나의 옥타브에 대한 음정 및 크기 학습을 제공한다(S13). When all sounds of at least one octave are matched, the music education apparatus 100 provides pitch and magnitude learning for at least one octave among the matched octaves (S13).

일 실시예에서, 수신된 음성 데이터가 1 옥타브 및 2 옥타브의 도, 레, 미, 파, 솔, 라 및 시와 매칭된 경우, 음악 교육 장치(100)는 1 옥타브 및 2 옥타브 중 적어도 하나에 대한 음정 및 크기 학습을 제공한다. 음정 및 크기 학습에 대한 설명은 음 학습부(102)에 대한 설명에 갈음한다. In one embodiment, when the received voice data is matched with 1 octave and 2 octaves of do, re, mi, fah, sol, la, and si, the music education apparatus 100 stores at least one of 1 octave and 2 octaves. Provides pitch and magnitude learning for A description of pitch and magnitude learning is replaced by a description of the tone learning unit 102 .

사용자가 적어도 하나의 옥타브의 음정에 대해서 인지한 상태에서 음정 및 크기에 대한 학습을 제공하므로, 학습의 효과가 향상될 수 있다. Since the user provides learning about the pitch and the size while recognizing the pitch of at least one octave, the learning effect may be improved.

음악 교육 장치(100)가 사용자에게 박자 학습을 제공한다(S14). 박자 학습에 대한 설명은 음 학습부(102)에 대한 설명에 갈음한다. The music education apparatus 100 provides rhythm learning to the user (S14). The description of the beat learning is replaced by the description of the note learning unit 102 .

다시 도 11을 참조하면, 음 학습이 완료되면, 음악 교육 장치(100)가 사용자에게 음 학습 평가를 제공한다(S20). 음 학습 평가에 대한 설명은 음 학습 평가부(103)에 대한 설명에 갈음한다. Referring back to FIG. 11 , when sound learning is completed, the music education apparatus 100 provides a sound learning evaluation to the user ( S20 ). The description of the sound learning evaluation replaces the description of the sound learning evaluation unit 103 .

음 학습 평가가 완료되면, 음악 교육 장치(100)는 곡 추천 여부에 대해 판단한다(S30). When the sound learning evaluation is completed, the music education apparatus 100 determines whether to recommend a song (S30).

곡 추천이 수행되는 경우, 음악 교육 장치(100)가 사용자의 음정 평가 점수, 크기 평가 점수 및 박자 평가 점수에 기초하여 추천곡을 산출한다(S40). When the song recommendation is performed, the music education apparatus 100 calculates a recommended song based on the user's pitch evaluation score, size evaluation score, and time signature score ( S40 ).

일 실시예에서, 사용자의 음역대 정보, 음정 평가 점수, 크기 평가 점수 및 박자 평가 점수에 기초하여 추천곡을 산출할 수 있다. In an embodiment, a recommended song may be calculated based on the user's sound range information, a pitch evaluation score, a size evaluation score, and a time signature evaluation score.

다른 실시예에서, 음역대, 음정, 크기 및 박자에 대한 사용자의 선호도 정보에 기초하여 서로 다른 가산계수를 산출하고, 사용자의 음역대 정보, 음정 평가 점수, 크기 평가 점수 및 박자 평가 점수와 곡의 매칭도에 서로 다른 가산계수를 곱한 값을 서로 합산할 수 있다. 합산된 값이 가장 높은 곡이 추천곡으로 선정될 수 있다. In another embodiment, different addition coefficients are calculated based on the user's preference information for sound range, pitch, size, and tempo, and the user's range information, pitch evaluation score, size evaluation score, and beat evaluation score and the matching degree of the song Multiplied by different addition factors can be summed together. A song having the highest sum value may be selected as a recommended song.

추천곡이 산출되면, 음악 교육 장치(100)가 사용자에게 추천곡 학습을 제공한다(S50). 추천곡 학습에 대한 설명은 추천곡 학습부(104)에 대한 설명에 갈음한다. When the recommended song is calculated, the music education apparatus 100 provides the recommended song learning to the user ( S50 ). The description of the recommended song learning replaces the description of the recommended song learning unit 104 .

곡 추천이 수행되지 않는 경우, 음악 교육 장치(100)는 사용자로부터 선택곡을 수신한다(S60).When the song recommendation is not performed, the music education apparatus 100 receives a selected song from the user (S60).

도 13을 참조하면, 음악 교육 장치(100)의 선택곡 수신 단계(S60)의 일 실시예가 도시된다. Referring to FIG. 13 , an exemplary embodiment of the selection song receiving step ( S60 ) of the music education apparatus 100 is illustrated.

음악 교육 장치(100)는 사용자로부터 선택곡을 수신한다(S61). The music education apparatus 100 receives a selection song from the user (S61).

음악 교육 장치(100)는 사용자의 음역대 정보, 음정 평가 점수, 크기 평가 점수 및 박자 평가 점수를 선택곡과 비교하고(S62), 오차 범위 이상인 것이 존재하는 경우(S63), 비교 결과에 기초하여 선택곡을 보정할 수 있다(S63). The music education apparatus 100 compares the user's pitch range information, pitch evaluation score, size evaluation score, and tempo evaluation score with the selected song (S62), and if there is something greater than the error range (S63), select based on the comparison result It is possible to correct the song (S63).

일 실시예에서, 사용자의 음역대보다 선택곡의 음역대가 높은 경우, 사용자의 음역대에 맞추어 선택곡의 음역대를 보정할 수 있다. 예를 들어, 선택곡에 사용되는 박자에 대한 사용자의 박자 평가 점수가 낮은 경우, 선택곡의 재생속도(템포)가 느려지도록 보정할 수 있다. In an embodiment, when the sound range of the selected song is higher than the user's sound range, the sound range of the selected song may be corrected according to the user's sound range. For example, when the user's time evaluation score for the time used in the selected song is low, the playback speed (tempo) of the selected song may be corrected to be slow.

사용자의 능력에 맞춰 선택곡을 보정함으로써, 선택곡에 대한 학습 효과가 향상될 수 있다. By correcting the selection song according to the user's ability, the learning effect for the selection song may be improved.

다시 도 11을 참조하면, 음악 교육 장치(100)는 사용자에게 선택곡 학습을 제공한다(S70). 선택곡 학습에 대한 설명은 선택곡 학습부(105)에 대한 설명에 갈음한다.Referring back to FIG. 11 , the music education apparatus 100 provides the user with the selection song learning ( S70 ). The description of the selection song learning replaces the description of the selection song learning unit 105 .

일 실시예에서, 음악 교육 장치(100)는 선택곡의 악보를 마디별로 분할하고, 분할된 마디 중 음정 평가 점수, 크기 평가 점수 및 박자 평가 점수 중 적어도 하나가 기 설정된 오차 범위 이상인 마디를 선별한다. 음악 교육 장치(100)는 선별된 마디를 모두 포함하는 선별 학습 데이터를 생성하고, 선별 학습 데이터에 기초하여 사용자에게 선별 학습을 제공할 수 있다. In an embodiment, the music education apparatus 100 divides the sheet music of the selected song for each measure, and selects a measure in which at least one of a pitch evaluation score, a size evaluation score, and a beat evaluation score is greater than or equal to a preset error range among the divided measures. . The music education apparatus 100 may generate selective learning data including all of the selected measures, and provide selective learning to the user based on the selected learning data.

도 14는 도 1에 따른 음악 교육 장치(100)의 하드웨어 구성을 예시적으로 나타낸 도면이다.FIG. 14 is a diagram exemplarily illustrating a hardware configuration of the music education apparatus 100 according to FIG. 1 .

도 14를 참조하면, 음악 교육 장치(100)는, 적어도 하나의 프로세서(110) 및 상기 적어도 하나의 프로세서(110)가 적어도 하나의 동작(operation)을 수행하도록 지시하는 명령어들(instructions)을 저장하는 메모리(memory)를 포함할 수 있다.Referring to FIG. 14 , the music education apparatus 100 stores at least one processor 110 and instructions for instructing the at least one processor 110 to perform at least one operation. It may include a memory (memory).

상기 적어도 하나의 동작은 전술한 음악 교육 장치(100)의 구성부들(101~105)이나 기타 기능 또는 동작 방법을 포함할 수 있다.The at least one operation may include the components 101 to 105 of the above-described music education apparatus 100 or other functions or operation methods.

여기서 적어도 하나의 프로세서(110)는 중앙 처리 장치(central processing unit, CPU), 그래픽 처리 장치(graphics processing unit, GPU), 또는 본 발명의 실시예들에 따른 방법들이 수행되는 전용의 프로세서를 의미할 수 있다. 메모리(120) 및 저장 장치(160) 각각은 휘발성 저장 매체 및 비휘발성 저장 매체 중에서 적어도 하나로 구성될 수 있다. Here, the at least one processor 110 may mean a central processing unit (CPU), a graphics processing unit (GPU), or a dedicated processor on which methods according to embodiments of the present invention are performed. can Each of the memory 120 and the storage device 160 may be configured as at least one of a volatile storage medium and a non-volatile storage medium.

예를 들어, 메모리(120)는 읽기 전용 메모리(read only memory, ROM) 및 랜덤 액세스 메모리(random access memory, RAM) 중 하나일 수 있고, 저장 장치(160)는, 플래시메모리(flash-memory), 하드디스크 드라이브(HDD), 솔리드 스테이트 드라이브(SSD), 또는 각종 메모리 카드(예를 들어, micro SD 카드) 등일 수 있다.For example, the memory 120 may be one of a read only memory (ROM) and a random access memory (RAM), and the storage device 160 is a flash-memory. , a hard disk drive (HDD), a solid state drive (SSD), or various memory cards (eg, micro SD card).

또한, 음악 교육 장치(100)는, 무선 네트워크를 통해 통신을 수행하는 송수신 장치(transceiver)(130)를 포함할 수 있다. 또한, 음악 교육 장치(100)는 입력 인터페이스 장치(140), 출력 인터페이스 장치(150), 저장 장치(160) 등을 더 포함할 수 있다. 음악 교육 장치(100)에 포함된 각각의 구성 요소들은 버스(bus, 170)에 의해 연결되어 서로 통신을 수행할 수 있다.Also, the music education apparatus 100 may include a transceiver 130 that performs communication through a wireless network. Also, the music education apparatus 100 may further include an input interface device 140 , an output interface device 150 , a storage device 160 , and the like. Each of the components included in the music education apparatus 100 may be connected by a bus 170 to communicate with each other.

음악 교육 장치(100)의 예를 들면, 통신 가능한 데스크탑 컴퓨터(desktop computer), 랩탑 컴퓨터(laptop computer), 노트북(notebook), 스마트폰(smart phone), 태블릿 PC(tablet PC), 모바일폰(mobile phone), 스마트 워치(smart watch), 스마트 글래스(smart glass), e-book 리더기, PMP(portable multimedia player), 휴대용 게임기, 네비게이션(navigation) 장치, 디지털 카메라(digital camera), DMB(digital multimedia broadcasting) 재생기, 디지털 음성 녹음기(digital audio recorder), 디지털 음성 재생기(digital audio player), 디지털 동영상 녹화기(digital video recorder), 디지털 동영상 재생기(digital video player), PDA(Personal Digital Assistant) 등일 수 있다.For example, the music education device 100, a communicable desktop computer (desktop computer), a laptop computer (laptop computer), a notebook (notebook), a smart phone (smart phone), a tablet PC (tablet PC), a mobile phone (mobile) phone), smart watch, smart glass, e-book reader, PMP (portable multimedia player), portable game console, navigation device, digital camera, DMB (digital multimedia broadcasting) ) player, digital audio recorder, digital audio player, digital video recorder, digital video player, PDA (Personal Digital Assistant), and the like.

본 발명에 따른 방법들은 다양한 컴퓨터 수단을 통해 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 컴퓨터 판독 가능 매체에 기록되는 프로그램 명령은 본 발명을 위해 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다.The methods according to the present invention may be implemented in the form of program instructions that can be executed by various computer means and recorded in a computer-readable medium. The computer-readable medium may include program instructions, data files, data structures, and the like, alone or in combination. The program instructions recorded on the computer readable medium may be specially designed and configured for the present invention, or may be known and available to those skilled in the art of computer software.

컴퓨터 판독 가능 매체의 예에는 롬(ROM), 램(RAM), 플래시 메모리(flash memory) 등과 같이 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함될 수 있다. 프로그램 명령의 예에는 컴파일러(compiler)에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터(interpreter) 등을 사용해서 컴퓨터에 의해 실행될 수 있는 고급 언어 코드를 포함할 수 있다. 상술한 하드웨어 장치는 본 발명의 동작을 수행하기 위해 적어도 하나의 소프트웨어 모듈로 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.Examples of computer-readable media may include hardware devices specially configured to store and execute program instructions, such as ROM, RAM, flash memory, and the like. Examples of program instructions may include not only machine language codes such as those generated by a compiler, but also high-level language codes that can be executed by a computer using an interpreter or the like. The hardware device described above may be configured to operate as at least one software module to perform the operations of the present invention, and vice versa.

또한, 상술한 방법 또는 장치는 그 구성이나 기능의 전부 또는 일부가 결합되어 구현되거나, 분리되어 구현될 수 있다. In addition, the above-described method or apparatus may be implemented by combining all or part of its configuration or function, or may be implemented separately.

상기에서는 본 발명의 바람직한 실시예를 참조하여 설명하였지만, 해당 기술 분야의 숙련된 당업자는 하기의 특허 청구의 범위에 기재된 본 발명의 사상 및 영역으로부터 벗어나지 않는 범위 내에서 본 발명을 다양하게 수정 및 변경시킬 수 있음을 이해할 수 있을 것이다. Although the above has been described with reference to preferred embodiments of the present invention, those skilled in the art can variously modify and change the present invention within the scope without departing from the spirit and scope of the present invention as set forth in the claims below. You will understand that it can be done.

Claims (5)

진동 및 시각 데이터를 활용한 청각 장애인을 위한 음악 교육 장치로서,
적어도 하나의 프로세서(processor); 및
상기 적어도 하나의 프로세서가 적어도 하나의 동작(operation)을 수행하도록 지시하는 명령어들(instructions)을 저장하는 메모리(memory)를 포함하고,
상기 적어도 하나의 동작은,
사용자로부터 음성 데이터를 수신하는 동작;
수신된 음성 데이터의 음정 및 크기에 대응하는 텍스트 데이터, 이미지 데이터 및 진동 제어신호 중 적어도 하나를 생성하는 동작; 및
생성된 상기 텍스트 데이터 및 상기 이미지 데이터 중 적어도 하나를 상기 사용자에게 표시하거나, 상기 진동 제어신호에 대응하는 진동을 상기 사용자에게 제공하는 동작을 포함하고,
상기 음악 교육 장치는, 복수의 영역들 각각에 배치된 복수의 진동 모듈들을 포함하는 진동 장치와 통신 가능하게 연결되고,
상기 진동 제어신호는, 서로 다른 복수의 음정들과 대응되는 위치 데이터 및 서로 다른 복수의 음의 크기들과 대응되는 크기 데이터를 포함하고,
상기 위치 데이터는, 상기 복수의 영역들 중 어느 하나의 영역의 위치를 지시하고,
상기 음악 교육 장치는, 상기 사용자의 복수의 영역들 각각에 배치된 복수의 진동 모듈들을 포함하는 진동 장치와 통신 가능하게 연결되고,
상기 진동 제어신호는, 서로 다른 복수의 음정들과 대응되는 위치 데이터 및 서로 다른 복수의 음의 크기들과 대응되는 크기 데이터를 포함하고,
상기 위치 데이터는, 상기 복수의 영역들 중 어느 하나의 영역의 위치를 지시하는, 음악 교육 장치.
As a music education device for the hearing impaired using vibration and visual data,
at least one processor; and
and a memory for storing instructions instructing the at least one processor to perform at least one operation,
The at least one operation is
receiving voice data from a user;
generating at least one of text data, image data, and a vibration control signal corresponding to a pitch and a size of the received voice data; and
Displaying at least one of the generated text data and the image data to the user, or providing a vibration corresponding to the vibration control signal to the user,
The music education device is communicatively connected to a vibration device including a plurality of vibration modules disposed in each of a plurality of regions,
The vibration control signal includes position data corresponding to a plurality of different pitches and magnitude data corresponding to a plurality of different pitches,
The location data indicates the location of any one of the plurality of areas,
The music education device is communicatively connected to a vibration device including a plurality of vibration modules disposed in each of the plurality of regions of the user,
The vibration control signal includes position data corresponding to a plurality of different pitches and magnitude data corresponding to a plurality of different pitches,
The location data indicates the location of any one of the plurality of areas, the music education apparatus.
삭제delete 삭제delete 청구항 1에서,
상기 진동 제어신호는 서로 다른 복수의 옥타브와 대응되는 진동수 데이터를 포함하고,
상기 진동수 데이터는 복수의 진동수들 중 어느 하나의 진동수를 포함하는, 음악 교육 장치.
In claim 1,
The vibration control signal includes frequency data corresponding to a plurality of different octaves,
The frequency data includes any one of a plurality of frequencies, music education apparatus.
청구항 1에서,
상기 진동 제어신호는 서로 다른 복수의 음정들과 대응되는 제1 위치 데이터 및 서로 다른 복수의 음의 크기들과 대응되는 제2 위치 데이터를 포함하고,
상기 제1 위치 데이터는, 상기 복수의 영역들 중 어느 하나의 영역의 위치를 지시하고,
상기 제2 위치 데이터는 상기 복수의 진동 모듈들 중 어느 하나의 위치를 지시하는, 음악 교육 장치.
In claim 1,
The vibration control signal includes first position data corresponding to a plurality of different pitches and second position data corresponding to a plurality of different sound levels,
The first location data indicates the location of any one of the plurality of areas,
The second location data indicates the location of any one of the plurality of vibration modules, music education device.
KR1020210119814A 2021-09-08 2021-09-08 Apparatus, method and program for music education for the hearing impaired using vibration and visual data KR102448000B1 (en)

Priority Applications (3)

Application Number Priority Date Filing Date Title
KR1020210119814A KR102448000B1 (en) 2021-09-08 2021-09-08 Apparatus, method and program for music education for the hearing impaired using vibration and visual data
KR1020220110585A KR102481267B1 (en) 2021-09-08 2022-09-01 Apparatus, method and program for music education for the hearing impaired supporting fuction of correcting the selected music
KR1020220110584A KR102481261B1 (en) 2021-09-08 2022-09-01 Apparatus, method and program for music education for the hearing impaired supporting fuction of learning the recommended music

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020210119814A KR102448000B1 (en) 2021-09-08 2021-09-08 Apparatus, method and program for music education for the hearing impaired using vibration and visual data

Related Child Applications (2)

Application Number Title Priority Date Filing Date
KR1020220110585A Division KR102481267B1 (en) 2021-09-08 2022-09-01 Apparatus, method and program for music education for the hearing impaired supporting fuction of correcting the selected music
KR1020220110584A Division KR102481261B1 (en) 2021-09-08 2022-09-01 Apparatus, method and program for music education for the hearing impaired supporting fuction of learning the recommended music

Publications (1)

Publication Number Publication Date
KR102448000B1 true KR102448000B1 (en) 2022-09-28

Family

ID=83461172

Family Applications (3)

Application Number Title Priority Date Filing Date
KR1020210119814A KR102448000B1 (en) 2021-09-08 2021-09-08 Apparatus, method and program for music education for the hearing impaired using vibration and visual data
KR1020220110584A KR102481261B1 (en) 2021-09-08 2022-09-01 Apparatus, method and program for music education for the hearing impaired supporting fuction of learning the recommended music
KR1020220110585A KR102481267B1 (en) 2021-09-08 2022-09-01 Apparatus, method and program for music education for the hearing impaired supporting fuction of correcting the selected music

Family Applications After (2)

Application Number Title Priority Date Filing Date
KR1020220110584A KR102481261B1 (en) 2021-09-08 2022-09-01 Apparatus, method and program for music education for the hearing impaired supporting fuction of learning the recommended music
KR1020220110585A KR102481267B1 (en) 2021-09-08 2022-09-01 Apparatus, method and program for music education for the hearing impaired supporting fuction of correcting the selected music

Country Status (1)

Country Link
KR (3) KR102448000B1 (en)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2000049834A1 (en) * 1999-02-16 2000-08-24 Yugen Kaisha Gm & M Speech converting device and method
JP3280336B2 (en) * 1999-02-24 2002-05-13 東海技研株式会社 Hearing aid
JP2008283305A (en) * 2007-05-08 2008-11-20 Sony Corp Beat emphasizing device, audio output device, electronic equipment, and beat output method
KR20100056603A (en) * 2008-11-20 2010-05-28 한승룡 Apparatus for providing sound hearing by various sensory organs
KR20180039506A (en) * 2016-10-10 2018-04-18 순천향대학교 산학협력단 Sound recognition apparatus for blind and control method thereof

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2000049834A1 (en) * 1999-02-16 2000-08-24 Yugen Kaisha Gm & M Speech converting device and method
JP3280336B2 (en) * 1999-02-24 2002-05-13 東海技研株式会社 Hearing aid
JP2008283305A (en) * 2007-05-08 2008-11-20 Sony Corp Beat emphasizing device, audio output device, electronic equipment, and beat output method
KR20100056603A (en) * 2008-11-20 2010-05-28 한승룡 Apparatus for providing sound hearing by various sensory organs
KR20180039506A (en) * 2016-10-10 2018-04-18 순천향대학교 산학협력단 Sound recognition apparatus for blind and control method thereof

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
공개특허공보 제10-2010-0056603호(2010.5.28. 공개) 1부.*
공개특허공보 제10-2018-0039506호(2018.4.18. 공개) 1부.*

Also Published As

Publication number Publication date
KR102481267B1 (en) 2022-12-27
KR102481261B1 (en) 2022-12-27

Similar Documents

Publication Publication Date Title
US9558737B2 (en) System and method for audibly presenting selected text
US10121388B2 (en) Methods, systems, and apparatuses to convey chorded input
US20100134261A1 (en) Sensory outputs for communicating data values
KR20160111292A (en) Foreign language learning system and foreign language learning method
WO2001024139A1 (en) Pronunciation evaluation system
Pardue et al. Real-time aural and visual feedback for improving violin intonation
KR20040106458A (en) Voice command and voice recognition for hand-held devices
KR20190053584A (en) Language learning system using speech recognition and game contents
JP6993745B1 (en) Lecture evaluation system and method
KR101111487B1 (en) Apparatus and method for learning english
KR102448000B1 (en) Apparatus, method and program for music education for the hearing impaired using vibration and visual data
CN110890095A (en) Voice detection method, recommendation method, device, storage medium and electronic equipment
JP2007148170A (en) Foreign language learning support system
US9818388B2 (en) Method for adjusting the complexity of a chord in an electronic device
US11508260B2 (en) Deaf-specific language learning system and method
Khaustova et al. CAPTuring accents: An approach to personalize pronunciation training for learners with different L1 backgrounds
KR102272957B1 (en) A music education method and a music education application stored in a recording medium implementing the same
US20130149680A1 (en) Methods and systems for teaching a non-native language
KR102453876B1 (en) Apparatus, program and method for training foreign language speaking
KR102479023B1 (en) Apparatus, method and program for providing foreign language learning service
KR102480682B1 (en) Electronic Device For Providing Audiovisual Data About Graph and The Method
KR102266741B1 (en) Method for Displaying Musical Note
KR20140074459A (en) Apparatus and method for learning word by using native speaker's pronunciation data and syllable of a word and image data
Freire et al. Development of Audio Descriptors Inspired by Schaefferian Criteria: A Set of Tools for Interactive Exploration of Percussive Sounds
KR20190046312A (en) Apparatus and method to improve english skills

Legal Events

Date Code Title Description
A107 Divisional application of patent
GRNT Written decision to grant