KR102520761B1 - System for training of listening ability for hard of hearing patient - Google Patents

System for training of listening ability for hard of hearing patient Download PDF

Info

Publication number
KR102520761B1
KR102520761B1 KR1020210115866A KR20210115866A KR102520761B1 KR 102520761 B1 KR102520761 B1 KR 102520761B1 KR 1020210115866 A KR1020210115866 A KR 1020210115866A KR 20210115866 A KR20210115866 A KR 20210115866A KR 102520761 B1 KR102520761 B1 KR 102520761B1
Authority
KR
South Korea
Prior art keywords
training
user
auditory
unit
data
Prior art date
Application number
KR1020210115866A
Other languages
Korean (ko)
Other versions
KR20210110550A (en
Inventor
서영준
Original Assignee
연세대학교 원주산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 연세대학교 원주산학협력단 filed Critical 연세대학교 원주산학협력단
Priority to KR1020210115866A priority Critical patent/KR102520761B1/en
Publication of KR20210110550A publication Critical patent/KR20210110550A/en
Application granted granted Critical
Publication of KR102520761B1 publication Critical patent/KR102520761B1/en

Links

Images

Classifications

    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09BEDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
    • G09B21/00Teaching, or communicating with, the blind, deaf or mute
    • G09B21/009Teaching or communicating with deaf persons
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/30Authentication, i.e. establishing the identity or authorisation of security principals
    • G06F21/31User authentication
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00Systems or methods specially adapted for specific business sectors, e.g. utilities or tourism
    • G06Q50/10Services
    • G06Q50/20Education
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09BEDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
    • G09B5/00Electrically-operated educational appliances
    • G09B5/06Electrically-operated educational appliances with both visual and audible presentation of the material to be studied
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L13/00Speech synthesis; Text to speech systems
    • G10L13/02Methods for producing synthetic speech; Speech synthesisers
    • G10L13/033Voice editing, e.g. manipulating the voice of the synthesiser

Landscapes

  • Engineering & Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Educational Administration (AREA)
  • Educational Technology (AREA)
  • Computer Security & Cryptography (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • General Health & Medical Sciences (AREA)
  • Tourism & Hospitality (AREA)
  • Economics (AREA)
  • Acoustics & Sound (AREA)
  • Human Resources & Organizations (AREA)
  • Marketing (AREA)
  • Primary Health Care (AREA)
  • Strategic Management (AREA)
  • General Business, Economics & Management (AREA)
  • Multimedia (AREA)
  • Human Computer Interaction (AREA)
  • Computational Linguistics (AREA)
  • Computer Hardware Design (AREA)
  • Software Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Prostheses (AREA)

Abstract

청력 보조장치를 착용한 환자에게 맞춤형의 청능 훈련을 제공하여 환자가 병원에 내원하지 않고도 스스로 청능 훈련을 통한 청력 재활프로그램을 진행할 수 있는 청능 훈련시스템이 제공된다. 청능 훈련시스템은 환자의 이전 청능 훈련의 내용 및 관심분야에 따라 환자에게 맞춤형의 청능 훈련을 제공하여 훈련의 효율성을 높일 수 있다. Provided is an auditory training system that provides customized auditory training to a patient wearing a hearing aid so that the patient can perform a hearing rehabilitation program through auditory training without visiting a hospital. The auditory training system can increase the efficiency of training by providing customized auditory training to the patient according to the contents of previous auditory training and areas of interest of the patient.

Figure R1020210115866
Figure R1020210115866

Description

난청환자를 위한 청능 훈련시스템{System for training of listening ability for hard of hearing patient}Hearing ability training system for hard of hearing patients {System for training of listening ability for hard of hearing patient}

본 발명은 난청환자를 위한 청능 훈련시스템에 관한 것으로, 특히 인공와우장치 등의 청력 보조장치를 착용한 난청환자에게 효율적인 청능 훈련을 제공할 수 있는 청능 훈련시스템에 관한 것이다. The present invention relates to an auditory training system for a hearing-impaired patient, and more particularly, to a hearing-impaired patient wearing a hearing aid such as a cochlear implant.

난청환자를 위한 청능 재활의 가장 중요한 목적은 손상된 청각 기관을 통하여 왜곡된 소리에 대한 인식을 보상해주고, 청각 장애로부터 발생될 수 있는 어려움을 최소화하여 일상생활에서의 의사소통 능력을 향상시키는 데 있다.The most important purpose of auditory rehabilitation for patients with hearing loss is to compensate for the perception of distorted sound through damaged auditory organs and to improve communication skills in daily life by minimizing the difficulties that may arise from hearing impairment.

성공적인 청능 훈련을 위하여, 먼저 청력 손실의 정도, 유형, 형태에 대한 정확한 평가가 이루어져야 하며, 그 결과를 바탕으로 적절한 청력 보조장치, 예컨대 보청기 또는 인공와우의 선택 및 적합, 그리고 청력 보조장치를 통한 충분한 청능 훈련이 뒤따라야 한다. 특히 난청환자의 잔존 청력을 최대한 활용하기 위하여, 적절히 증폭되고 정밀하게 조절된 청력 보조장치를 통하여 듣는 능력을 체계적으로 증진시킬 필요가 있다.For successful hearing training, an accurate evaluation of the degree, type, and form of hearing loss must first be made. Auditory training should follow. In particular, in order to make the most of the residual hearing of patients with hearing loss, it is necessary to systematically improve the hearing ability through appropriately amplified and precisely controlled hearing aids.

기존에는 청력 보조장치를 착용한 환자가 주기적으로 병원을 내원하여 장시간 청능 훈련을 진행하는 청력 재활 프로그램이 진행되고 있었다. Conventionally, a hearing rehabilitation program in which a patient wearing a hearing aid periodically visits a hospital and performs hearing training for a long time has been in progress.

그러나, 고령자나 거동이 어려운 난청환자 또는 병원과 원거리에 있는 난청환자가 병원을 직접 내원하는 것이 어려운 문제가 있어 청능 훈련을 통한 청력 재활이 원활하지 못한 실정이다. However, there is a problem in that it is difficult for an elderly person or a hearing-impaired patient who is difficult to move or a hearing-impaired patient who is far from the hospital to visit the hospital directly, so hearing rehabilitation through hearing training is not smooth.

또한, 기존의 청능 훈련은 미리 정해져 있는 훈련내용에 따라 이루어지므로 환자의 재활 집중도를 저하시키고 있으며, 또한, 환자의 청능 훈련의 진행 정도나 결과를 사람이 수기로 기록하여 저장하고 있어 데이터 소실 및 관리가 어려웠다. In addition, since the existing auditory training is performed according to pre-determined training contents, the patient's rehabilitation concentration is reduced, and the progress or result of the patient's auditory training is recorded and stored by hand, resulting in data loss and management. It was difficult.

KR 등록특허공보 제10-1984991호(2019.05.27)KR Registration Patent Publication No. 10-1984991 (May 27, 2019)

본 발명은 상술한 문제점을 해결하기 위한 것으로, 환자가 병원에 내원하지 않고도 스스로 맞춤형 청능 훈련을 할 수 있는 청능 훈련시스템을 제공하고자 하는 데 있다. SUMMARY OF THE INVENTION The present invention has been made to solve the above problems, and an object of the present invention is to provide an auditory training system in which a patient can perform customized auditory skills training without visiting a hospital.

본 발명의 청능 훈련시스템은, 인공와우장치를 착용한 사용자에게 맞춤형 청능 훈련을 제공할 수 있다. The auditory training system of the present invention can provide customized auditory training to a user wearing a cochlear implant.

이러한 청능 훈련시스템은, 다수의 훈련데이터로부터 사용자의 청능 훈련을 위한 훈련문제를 생성하고, 사용자로부터 피드백 된 답변으로부터 청능 훈련의 결과를 평가하는 제어유닛; 상기 훈련문제를 음성신호 및 영상신호로 변환하여 출력하고, 사용자의 상기 피드백 된 답변을 전기신호로 변환하여 상기 제어유닛에 전달하는 변환유닛; 및 변환된 상기 음성신호 및 영상신호를 사용자에게 출력하고, 사용자의 상기 피드백 답변을 수신하는 입출력유닛, 일정 시간 동안 사용자의 음성을 녹취하고, 녹취된 음성에서 사용자가 주로 사용하고 있는 단어 및 문장을 추출하는 녹취 및 분석유닛, 사용자 인증정보, 사용자 기기인증정보 및 사용자 관심분야정보가 저장된 사용자정보 저장부, 상기 다수의 훈련데이터 및 사용자 훈련 결과데이터가 저장된 훈련정보 저장부, 및 상기 변환유닛에 의해 변환된 피드백 데이터와 상기 다수의 훈련데이터 중 상기 훈련문제에 대응되는 훈련데이터 간의 유사성을 비교하여 사용자의 청능 훈련 결과를 평가하는 훈련평가부를 포함하고, 상기 제어유닛은 상기 녹취 및 분석유닛에서 추출된 단어 및 문장 중 적어도 하나를 이용하여 상기 훈련문제를 생성하고, 상기 사용자 관심분야정보 및 상기 사용자 훈련 결과데이터 중 적어도 하나에 기초하여 상기 다수의 훈련데이터로부터 상기 훈련문제를 생성하게 구성함으로써 달성될 수 있다.This auditory training system includes a control unit that generates training problems for auditory training of a user from a plurality of training data and evaluates auditory training results from answers fed back from the user; a conversion unit that converts the training problems into audio signals and video signals and outputs them, and converts the user's feedbacked answers into electrical signals and transmits them to the control unit; and an input/output unit that outputs the converted audio signal and video signal to the user and receives the feedback response from the user. A recording and analysis unit for extracting, a user information storage unit storing user authentication information, user device authentication information, and user interest field information, a training information storage unit storing the plurality of training data and user training result data, and the conversion unit and a training evaluation unit that evaluates a user's auditory ability training result by comparing similarity between the converted feedback data and training data corresponding to the training problem among the plurality of training data. It can be achieved by generating the training problem using at least one of words and sentences, and generating the training problem from the plurality of training data based on at least one of the user interest field information and the user training result data. there is.

본 발명에 따른 청능 훈련시스템은, 환자가 병원에 내원하지 않더라도 스스로 청능 훈련을 통해 청력 재활프로그램을 진행할 수 있다. According to the auditory training system according to the present invention, even if a patient does not visit a hospital, he or she can perform a hearing rehabilitation program through auditory training.

또한, 본 발명은 환자에게 난이도가 조절된 훈련문제를 통한 청능 훈련을 제공하거나, 환자의 훈련 결과에 따라 반복적으로 청능 훈련을 제공하거나 또는 환자의 관심분야에 대한 훈련문제를 통한 청능 훈련을 제공함으로써, 환자의 청능 훈련의 집중도 및 몰입도를 높여 훈련의 효율성을 높일 수 있다. In addition, the present invention provides auditory ability training through training problems with an adjusted level of difficulty to the patient, repeatedly provides auditory training according to the patient's training results, or provides auditory training through training problems related to the patient's field of interest. , the efficiency of training can be increased by increasing the concentration and immersion of the patient's auditory training.

또한, 본 발명은 후천적 난청환자 외에 영유아나 선천적 난청환자에게도 청능 훈련, 인지 훈련 및 발성 훈련을 제공하여 재활 프로그램이 진행되도록 할 수 있다. In addition, the present invention can provide auditory training, cognitive training, and vocalization training to infants or congenital hearing loss patients in addition to patients with acquired hearing loss so that a rehabilitation program can be performed.

도 1a 내지 도 1c는 난청환자에게 착용되는 청력 보조장치의 일 예를 나타내는 도면이다.
도 2는 본 발명의 실시예에 따른 청능 훈련시스템의 구성을 나타내는 도면이다.
도 3은 본 발명의 실시예에 따른 청능 훈련방법을 나타내는 도면이다.
도 4는 도 3의 청능 훈련을 위한 문제를 생성하는 단계를 구체적으로 나타내는 도면이다.
도 5는 도 3의 사용자의 답변에 따라 청능 훈련을 평가하는 단계를 구체적으로 나타내는 도면이다.
도 6은 본 발명의 청능 훈련장치의 구현 예를 나타내는 도면이다.
1A to 1C are diagrams illustrating an example of a hearing aid worn by a hearing impaired patient.
2 is a diagram showing the configuration of an auditory training system according to an embodiment of the present invention.
3 is a diagram showing a hearing ability training method according to an embodiment of the present invention.
FIG. 4 is a diagram specifically illustrating a step of generating problems for auditory ability training in FIG. 3 .
FIG. 5 is a diagram specifically illustrating a step of evaluating auditory ability training according to the user's answer in FIG. 3 .
6 is a diagram showing an implementation example of the auditory ability training apparatus of the present invention.

이하 본 발명의 실시예에 대하여 첨부된 도면을 참고로 그 구성 및 작용을 설명하기로 한다.Hereinafter, the configuration and operation of embodiments of the present invention will be described with reference to the accompanying drawings.

도면들 중 동일한 구성요소들에 대해서는 비록 다른 도면상에 표시되더라도 가능한 한 동일한 참조번호 및 부호들로 나타내고 있음에 유의해야 한다. 하기에서 본 발명을 설명함에 있어, 관련된 공지 기능 또는 구성에 대한 구체적인 설명이 본 발명의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우에는 그 상세한 설명을 생략할 것이다. 또한, 어떤 부분이 어떤 구성요소를 "포함"한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성요소를 더 포함할 수 있는 것을 의미한다.It should be noted that the same reference numerals and symbols refer to the same components in the drawings as much as possible, even if they are displayed on different drawings. In the following description of the present invention, if it is determined that a detailed description of a related known function or configuration may unnecessarily obscure the subject matter of the present invention, the detailed description will be omitted. In addition, when a part "includes" a certain component, it means that it may further include other components without excluding other components unless otherwise stated.

또한 본 명세서 및 청구범위에 사용된 용어나 단어는 통상적이고 사전적인 의미로 해석되어서는 아니 되며, 발명자들은 그 자신의 발명을 가장 최선의 방법으로 설명하기 위해 용어의 개념을 적절하게 정의할 수 있다는 원칙에 입각하여 본 발명의 기술적 사상에 부합하는 의미와 개념으로 해석되어야 한다. 따라서 본 명세서에 기재된 실시예와 도면에 도시된 구성은 본 발명의 바람직한 실시예에 불과할 뿐이고, 본 발명의 기술적 사상을 모두 대변하는 것은 아니므로, 본 출원시점에 있어서 이들을 대체할 수 있는 다양한 균등물과 변형예들이 있을 수 있으며 본 발명의 범위가 다음에 기술하는 실시예에 한정되는 것은 아니다.In addition, the terms or words used in this specification and claims should not be interpreted in a conventional and dictionary sense, and the inventors can properly define the concept of the term in order to explain their invention in the best way. Based on the principle, it should be interpreted as meaning and concept consistent with the technical idea of the present invention. Therefore, the embodiments described in this specification and the configurations shown in the drawings are only preferred embodiments of the present invention, and do not represent all of the technical spirit of the present invention, so various equivalents that can replace them at the time of the present application. And there may be variations, and the scope of the present invention is not limited to the embodiments described below.

도 1a 내지 도 1c는 난청환자에게 착용되는 청력 보조장치의 일 예를 나타내는 도면이다. 1A to 1C are diagrams illustrating an example of a hearing aid worn by a hearing impaired patient.

도면을 참조하면, 청력 보조장치, 예컨대 인공와우장치(10)는 사용자의 신체에 부착되어 외부에서 수집된 소리, 예컨대 음성을 전기자극신호로 변환하여 와우(달팽이관, 5)의 청신경(acoustic nerve)에 전달할 수 있다. 인공와우장치(10)는 본체(20), 외부코일(30), 내부코일(40), 변환부(50) 및 전극부(60)를 포함할 수 있다. Referring to the drawings, a hearing aid device, for example, a cochlear implant 10, is attached to the user's body and converts externally collected sounds, for example, voice, into an electrical stimulation signal to generate an acoustic nerve of the cochlea (cochlea, 5). can be forwarded to The cochlear implant device 10 may include a body 20 , an external coil 30 , an internal coil 40 , a conversion unit 50 and an electrode unit 60 .

본체(20) 및 외부코일(30)은 사용자의 신체 외부에 배치될 수 있다. 내부코일(40), 변환부(50) 및 전극부(60)는 사용자의 신체 내부에 배치될 수 있다. 여기서, 외부코일(30)과 내부코일(40)은 인접 위치로 배치될 수 있다. The body 20 and the external coil 30 may be disposed outside the user's body. The internal coil 40, the conversion unit 50, and the electrode unit 60 may be disposed inside the user's body. Here, the outer coil 30 and the inner coil 40 may be disposed adjacent to each other.

본체(20)는 상단부에 형성된 이어가이드(21)를 통해 사용자의 귀의 일부를 감싸는 형태로 결합될 수 있다. 본체(20)는 외부의 소리를 수신하는 수신부(23), 수신된 소리를 전기신호로 변환하는 음성처리부(25) 및 수신되는 소리의 볼륨 등을 조절하는 조절부(27)를 포함할 수 있다. The main body 20 may be coupled in a form surrounding a part of the user's ear through the ear guide 21 formed at the upper end. The main body 20 may include a receiver 23 that receives external sound, a voice processor 25 that converts the received sound into an electrical signal, and a control unit 27 that adjusts the volume of the received sound. .

외부코일(30)은 본체(20)와 연결되어 본체(20)로부터 제공된 전기신호를 신체의 내부, 예컨대 내부코일(40)로 전송할 수 있다. The external coil 30 may be connected to the body 20 and transmit electrical signals provided from the body 20 to the inside of the body, for example, the internal coil 40 .

외부코일(30)은 사용자의 귀와 머리 사이의 피부(1)에 밀착 또는 부착되는 구조로 형성될 수 있다. 외부코일(30)은 부착 안정성을 높이기 위해 귀를 감싸는 형태로 형성될 수 있다. The external coil 30 may be formed in a structure that closely adheres to or is attached to the skin 1 between the user's ear and head. The outer coil 30 may be formed in a shape surrounding the ear to increase attachment stability.

외부코일(30)은 내부에 금속 소재의 코일이 구성되며, 이러한 코일이 피부에 접촉되는 것을 방지하기 위해 신축성 및 유연성이 있는 고분자 소재의 외피가 코일을 감싸도록 형성될 수 있다. The outer coil 30 includes a metal coil inside, and an outer shell of a polymer material having elasticity and flexibility may be formed to surround the coil in order to prevent the coil from contacting the skin.

내부코일(40), 변환부(50) 및 전극부(60)는 피부(1)의 내측에 이식되어 신체 내부에 배치될 수 있다. The internal coil 40, the conversion unit 50, and the electrode unit 60 may be implanted inside the skin 1 and disposed inside the body.

여기서, 내부코일(40)은 외부코일(30)로부터의 원활한 전기신호 전송을 위하여 외부코일(30)과 인접된 피부(1)의 내측에 이식되는 것이 바람직하다. 또한, 변환부(50)는 피부(1)의 내측에서 근육(2)과 골조직(3) 사이에서 골조직(3)의 일부를 절개한 부분에 이식되어 배치될 수 있다. 전극부(60)는 변환부(50)로부터 골조직(3)을 관통하여 내이의 와우(5)에 삽입되도록 배치될 수 있다. Here, the internal coil 40 is preferably implanted inside the skin 1 adjacent to the external coil 30 for smooth electrical signal transmission from the external coil 30 . In addition, the conversion unit 50 may be implanted and placed in a part of the bone tissue 3 cut between the muscle 2 and the bone tissue 3 on the inside of the skin 1. The electrode unit 60 may be disposed to penetrate the bone tissue 3 from the conversion unit 50 and be inserted into the cochlea 5 of the inner ear.

내부코일(40)은 외부코일(30)에서 전송된 전기신호를 변환부(50)로 전달할 수 있다. 내부코일(40)은 변환부(50)와 결합되는 형태이거나 또는 분리된 형태일 수 있다. 내부코일(40)과 변환부(50)가 분리된 형태인 경우에, 내부코일(40)과 변환부(50)는 전도성 와이어(미도시)에 의해 전기적으로 연결될 수 있다. The inner coil 40 may transfer the electric signal transmitted from the outer coil 30 to the conversion unit 50 . The internal coil 40 may be combined with the conversion unit 50 or may be separated. When the internal coil 40 and the conversion unit 50 are separated, the internal coil 40 and the conversion unit 50 may be electrically connected by a conductive wire (not shown).

변환부(50)는 내부코일(40)로부터 전달된 전기신호를 전기자극신호로 변환할 수 있다. 변환된 전기자극신호는 전극부(60)를 통해 출력되어 와우(5)의 청신경을 자극할 수 있다. The conversion unit 50 may convert the electrical signal transmitted from the internal coil 40 into an electrical stimulation signal. The converted electrical stimulation signal may be output through the electrode unit 60 to stimulate the auditory nerve of the cochlea 5 .

한편, 도면에 도시되지는 않았으나, 인공와우장치(10)는 후술될 청능 훈련시스템(도 2의 100) 또는 외부서버(도 2의 200)와 통신할 수 있는 통신부(미도시)를 더 포함할 수 있다. 이에, 인공와우장치(10)는 청능 훈련시스템(100) 또는 외부서버(200)와 무선통신을 통한 데이터 송수신을 할 수 있다. Meanwhile, although not shown in the drawings, the cochlear implant device 10 may further include a communication unit (not shown) capable of communicating with an auditory training system (100 in FIG. 2) or an external server (200 in FIG. 2) to be described later. can Accordingly, the cochlear implant device 10 may transmit/receive data with the auditory training system 100 or the external server 200 through wireless communication.

설명한 바와 같이, 인공와우장치(10)는 외부 소리를 전기자극신호로 변환하여 청신경을 자극함으로써 사용자의 대뇌에서 외부 소리를 인지할 수 있도록 하는 청력 보조장치로 동작할 수 있다. As described above, the cochlear implant 10 may operate as a hearing aid device that converts external sound into an electrical stimulation signal and stimulates the auditory nerve so that the user's brain can recognize external sound.

그러나, 인공와우장치(10)에 의해 대뇌에서 인지하는 소리는 일반적으로 공기전도방식을 통해 인지하는 소리와 차이가 있다. 이로 인하여, 인공와우장치(10)를 착용한 사용자는 인공와우장치(10)로부터 대뇌로 전달된 자극에 따른 소리의 의미를 정확하게 인지하지 못하는 경우가 발생한다. 따라서, 사용자가 인공와우장치(10)를 통해 제공되는 자극에 따른 소리의 의미를 정확하게 인지하도록 하는 청능 훈련이 요구된다. However, the sound perceived by the cerebrum by the cochlear implant device 10 is generally different from the sound perceived through the air conduction method. For this reason, a user wearing the cochlear implant 10 may not accurately recognize the meaning of sound according to the stimulus transmitted from the cochlear implant 10 to the brain. Therefore, auditory training is required to allow the user to accurately recognize the meaning of sound according to the stimulus provided through the cochlear implant 10 .

도 2는 본 발명의 실시예에 따른 청능 훈련시스템의 구성을 나타내는 도면이다.2 is a diagram showing the configuration of an auditory training system according to an embodiment of the present invention.

도 2를 참조하면, 본 실시예의 청능 훈련시스템(100)은 청력 보조장치, 예컨대 인공와우장치(10)를 착용한 사용자가 인공와우장치(10)를 통해 인지하는 외부 소리를 정확하게 구별할 수 있도록 하기 위한 청능 훈련을 제공할 수 있다. 청능 훈련시스템(100)은 사용자의 전자기기, 예컨대 컴퓨터, 노트북, 스마트폰, 태블릿PC 등으로 구현될 수 있다. Referring to FIG. 2 , the auditory training system 100 of the present embodiment is designed to accurately distinguish external sounds recognized through the cochlear implant 10 by a user wearing a hearing assisting device, for example, a cochlear implant 10 . Hearing training can be provided for this purpose. The hearing training system 100 may be implemented in a user's electronic device, such as a computer, laptop, smart phone, tablet PC, and the like.

청능 훈련시스템(100)은 제어유닛(110), 변환유닛(120), 입출력유닛(130) 및 저장유닛(140)을 포함하여 구성될 수 있다. The auditory training system 100 may include a control unit 110, a conversion unit 120, an input/output unit 130, and a storage unit 140.

제어유닛(110)은 사용자의 청능 훈련을 제어할 수 있다. 예컨대, 제어유닛(110)은 사용자의 인증, 청능 훈련을 위한 문제 제공, 청능 훈련의 결과 평가 등을 수행할 수 있다. 이를 위하여, 제어유닛(110)은 훈련제어부(111), 문제생성부(112), 환경소음생성부(113), 훈련평가부(114) 및 통신부(115)를 포함할 수 있다. The control unit 110 may control auditory ability training of the user. For example, the control unit 110 may perform user authentication, provision of questions for auditory ability training, and evaluation of auditory training results. To this end, the control unit 110 may include a training control unit 111, a problem generator 112, an environmental noise generator 113, a training evaluation unit 114, and a communication unit 115.

훈련제어부(111)는 청능 훈련을 하고자 하는 사용자 및 사용자의 인공와우장치(10)를 인증할 수 있다. 또한, 훈련제어부(111)는 후술될 문제생성부(112) 및 환경소음생성부(113)의 동작을 제어하여 사용자에게 맞춤형의 청능 훈련문제가 제공되도록 할 수 있다. 또한, 훈련제어부(111)는 통신부(115)를 통해 외부서버(200)와 통신하면서 외부서버(200)로부터 훈련문제를 제공받아 사용자에게 제공하거나 또는 사용자의 청능 훈련결과를 전송할 수 있다. The training control unit 111 may authenticate the user and the cochlear implant 10 of the user who desires auditory training. In addition, the training control unit 111 may control the operation of the problem generation unit 112 and the environmental noise generation unit 113 to be described later so that customized hearing training problems are provided to the user. In addition, the training control unit 111 may receive training problems from the external server 200 and provide them to the user or transmit auditory training results of the user while communicating with the external server 200 through the communication unit 115 .

문제생성부(112)는 사용자의 청능 훈련을 위한 훈련문제를 생성하고, 이를 입출력유닛(130)을 통해 사용자의 인공와우장치(10)로 제공할 수 있다. 문제생성부(112)는 훈련제어부(111)의 제어에 따라 저장유닛(140)으로부터 사용자의 관심도 또는 훈련 난이도가 반영된 훈련문제를 추출하여 제공하거나 또는 통신부(115)를 통해 외부서버(200)에서 제공된 훈련문제를 제공할 수 있다. The problem generation unit 112 may generate training problems for the user's hearing ability training and provide them to the user's cochlear implant 10 through the input/output unit 130 . The problem generator 112 extracts and provides a training problem reflecting the level of interest or training difficulty of the user from the storage unit 140 under the control of the training control unit 111, or from the external server 200 through the communication unit 115. Provided training problems can be provided.

또한, 문제생성부(112)는 사용자가 일정 시간, 예컨대 하루동안 일상생활에서 주로 사용하는 단어나 문장을 이용하여 훈련문제를 생성할 수 있다. 이를 위하여, 본 실시예의 청능 훈련시스템(100)은 녹취 및 분석유닛(미도시)을 더 포함할 수 있다. 녹취 및 분석유닛은 사용자의 음성을 녹취하고, 기 설정된 일정 시간 동안 녹취된 음성 중에서 사용자가 주로 사용하고 있는 단어나 문장 등을 분석 및 추출할 수 있다. 이렇게 추출된 단어나 문장은 문제생성부(112)로 제공되어 사용자의 청능 훈련을 위한 훈련문제로 생성될 수 있다. In addition, the problem generating unit 112 may generate training problems using words or sentences that the user mainly uses in daily life for a certain period of time, for example, a day. To this end, the auditory ability training system 100 of this embodiment may further include a recording and analysis unit (not shown). The recording and analysis unit may record the user's voice, and analyze and extract words or sentences that the user mainly uses among the recorded voices for a predetermined period of time. The words or sentences extracted in this way are provided to the problem generating unit 112 and can be generated as training problems for the user's hearing ability training.

환경소음생성부(113)는 훈련제어부(111)의 제어에 따라 생활 환경에서의 다양한 환경소음을 생성하고, 이를 문제생성부(112)로 제공할 수 있다. 이에, 문제생성부(112)는 환경소음이 포함된 훈련문제를 사용자에게 제공할 수 있다. The environmental noise generation unit 113 may generate various environmental noises in the living environment according to the control of the training control unit 111 and provide them to the problem generation unit 112 . Accordingly, the problem generating unit 112 may provide a training problem including environmental noise to the user.

훈련평가부(114)는 사용자로부터 제공된 훈련문제의 피드백 답변을 분석하고, 분석 결과에 따라 청능 훈련의 결과를 도출하여 훈련 성과를 평가할 수 있다. 훈련평가부(114)는 문제생성부(112)에서 제공된 훈련문제와 사용자의 피드백 답변을 비교 분석하여 동일성을 판단함으로써 훈련 결과를 도출할 수 있다. The training evaluation unit 114 may evaluate training performance by analyzing feedback answers of training problems provided from the user and deriving auditory training results according to the analysis results. The training evaluation unit 114 compares and analyzes the training problems provided by the problem generating unit 112 and the user's feedback answers to determine the sameness, thereby deriving a training result.

통신부(115)는 외부서버(200) 또는 사용자의 인공와우장치(10)와 통신하여 데이터를 송수신할 수 있다. 통신부(115)는 무선인터넷, 블루투스, 지그비 등의 무선 통신방식을 통해 데이터 송수신을 할 수 있다. The communication unit 115 may transmit/receive data by communicating with the external server 200 or the cochlear implant device 10 of the user. The communication unit 115 may transmit and receive data through a wireless communication method such as wireless Internet, Bluetooth, or ZigBee.

변환유닛(120)은 음성변환부(121) 및 영상변환부(122)를 포함할 수 있다. The conversion unit 120 may include a voice conversion unit 121 and an image conversion unit 122.

음성변환부(121)는 양방향으로 신호 및 음성을 변환할 수 있다. 음성변환부(121)는 제어유닛(110)의 문제생성부(112)에서 생성된 훈련문제를 소리, 즉 음성신호로 변환하여 입출력유닛(130)에 전달할 수 있다. 또한, 음성변환부(121)는 입출력유닛(130)에서 전달된 사용자의 소리, 즉 피드백 답변을 전기신호로 변환하여 제어유닛(110)의 훈련평가부(114)에 전달할 수 있다. The voice conversion unit 121 can convert signals and voices in both directions. The voice conversion unit 121 may convert the training problem generated by the problem generation unit 112 of the control unit 110 into a sound, that is, a voice signal, and transmit it to the input/output unit 130 . In addition, the voice conversion unit 121 may convert the user's voice transmitted from the input/output unit 130, that is, a feedback answer into an electrical signal and transmit it to the training evaluation unit 114 of the control unit 110.

즉, 음성변환부(121)는 전기적 신호의 형태를 갖는 훈련문제를 음성으로 변환하여 사용자에게 제공하고, 사용자의 음성을 전기적 신호의 형태를 갖는 데이터로 변환하여 제어유닛(110)에 제공할 수 있다. That is, the voice conversion unit 121 converts the training problem in the form of an electrical signal into voice and provides it to the user, and converts the user's voice into data in the form of an electrical signal and provides it to the control unit 110. there is.

영상변환부(122)는 문제생성부(112)에서 생성된 훈련문제에 영상 또는 이미지가 포함된 경우에, 이를 영상신호로 변환하여 입출력유닛(130)에 전달할 수 있다. 이때, 영상변환부(122)는 훈련문제의 음성과 영상의 동기가 일치하도록 영상신호의 변환을 할 수 있다. 또한, 영상변환부(122)는 훈련문제의 영상 또는 이미지를 3차원 영상으로 변환하여 입출력유닛(130)을 통해 사용자에게 제공할 수 있다. When the training problem generated by the problem generator 112 includes an image or an image, the image conversion unit 122 may convert it into an image signal and transmit it to the input/output unit 130 . At this time, the video conversion unit 122 may convert the video signal so that the synchronization of the audio and video of the training problem coincides. In addition, the image conversion unit 122 may convert a training problem image or image into a 3D image and provide it to the user through the input/output unit 130 .

입출력유닛(130)은 변환유닛(120)에서 제공된 음성 및 영상을 사용자에게 제공하고, 사용자로부터 제공된 음성을 변환유닛(120)에 제공할 수 있다. 입출력유닛(130)은 음성출력부(131), 영상출력부(132) 및 피드백 입력부(133)를 포함할 수 있다. The input/output unit 130 may provide audio and video provided by the conversion unit 120 to the user, and provide audio provided from the user to the conversion unit 120 . The input/output unit 130 may include an audio output unit 131, an image output unit 132, and a feedback input unit 133.

음성출력부(131)는 음성변환부(121)에서 제공된 음성신호 형태의 훈련문제를 사용자에게 출력할 수 있다. 이에, 사용자는 인공와우장치(10)를 통해 훈련문제의 음성신호를 수신할 수 있다. 음성출력부(131)는 스피커 등으로 구성될 수 있다. The voice output unit 131 may output the training problem in the form of a voice signal provided by the voice conversion unit 121 to the user. Accordingly, the user may receive the audio signal of the training problem through the cochlear implant device 10 . The audio output unit 131 may be composed of a speaker or the like.

영상출력부(132)는 영상변환부(122)에서 제공된 영상신호 형태의 훈련문제를 사용자에게 출력할 수 있다. 이에, 사용자는 눈을 통해 훈련문제의 영상신호를 인지할 수 있다. 영상출력부(132)는 청능 훈련시스템(100)에 구비되는 디스플레이부(미도시)로 구성될 수 있다. The video output unit 132 may output training problems in the form of video signals provided by the video conversion unit 122 to the user. Accordingly, the user can recognize the image signal of the training problem through the eyes. The image output unit 132 may be configured as a display unit (not shown) provided in the hearing training system 100 .

여기서, 훈련문제의 음성신호와 영상신호는 동기가 일치된 상태이므로, 사용자는 인공와우장치(10)를 통한 훈련문제의 청신경 자극과 동시에 눈을 통해 훈련문제의 영상을 수신하게 된다. Here, since the audio signal and the video signal of the training problem are synchronized, the user receives the image of the training problem through the eyes at the same time as the auditory nerve stimulation of the training problem through the cochlear implant device 10 .

피드백 입력부(133)는 사용자가 훈련문제에 대한 답변을 하는 경우에 이를 수집하여 변환유닛(120)에 제공할 수 있다. 피드백 입력부(133)는 마이크 등으로 구성될 수 있다. The feedback input unit 133 may collect and provide to the conversion unit 120 when the user gives an answer to the training problem. The feedback input unit 133 may be composed of a microphone or the like.

저장유닛(140)은 사용자정보 저장부(141) 및 훈련정보 저장부(142)를 포함할 수 있다. 기 설명된 제어유닛(110)은 저장유닛(140)으로부터 사용자정보 또는 훈련정보 등을 추출하여 사용자 인증 또는 훈련문제 생성 등을 할 수 있다. The storage unit 140 may include a user information storage unit 141 and a training information storage unit 142 . The previously described control unit 110 may extract user information or training information from the storage unit 140 to authenticate the user or create training problems.

사용자정보 저장부(141)에는 사용자의 개인인증정보 및 사용자 인공와우장치(10)의 기기인증정보가 저장될 수 있다. 또한, 사용자정보 저장부(141)에는 사용자의 개인별 관심분야정보가 저장될 수 있다. The user information storage unit 141 may store user personal authentication information and device authentication information of the user cochlear implant 10 . In addition, the user information storage unit 141 may store interest field information for each user.

훈련정보 저장부(142)에는 사용자의 청능 훈련을 위한 다수의 훈련데이터가 저장될 수 있다. 훈련데이터는 훈련 난이도에 따라 각각 구분되어 저장될 수 있다. 예컨대, 훈련데이터는 "가", "나", "다" 등과 같은 홑단어로 구성된 기초 난이도 훈련데이터부터 다수의 문장으로 구성된 최고 난이도 훈련데이터를 포함할 수 있고, 이들은 난이도별로 구분되어 저장될 수 있다. A plurality of training data for auditory ability training of the user may be stored in the training information storage unit 142 . Training data may be classified and stored according to training difficulty. For example, the training data may include basic difficulty training data composed of single words such as "a", "b", and "c", and the highest difficulty training data composed of a plurality of sentences. there is.

또한, 훈련정보 저장부(142)에는 사용자별 훈련 결과데이터가 저장될 수 있다. 사용자별 훈련 결과데이터에는 청능 훈련의 난이도 수준, 훈련 결과, 평가점수 등이 포함될 수 있다. 사용자별 훈련 결과데이터는 청능 훈련의 횟수마다 기록되어 저장될 수 있다. In addition, training result data for each user may be stored in the training information storage unit 142 . The training result data for each user may include a difficulty level of auditory training, a training result, an evaluation score, and the like. Training result data for each user may be recorded and stored for each number of auditory training sessions.

상술한 바와 같이, 본 실시예의 청능 훈련시스템(100)은 인공와우장치(10)를 착용하고 있는 사용자에게 청능 훈련을 위한 훈련문제를 제공하고, 이에 따라 사용자로부터 피드백 된 답변으로부터 사용자의 청능을 분석하여 판단할 수 있다. As described above, the hearing training system 100 of the present embodiment provides training problems for hearing training to the user wearing the cochlear implant 10, and accordingly analyzes the user's hearing ability from the answers fed back from the user. can be judged by

이러한 청능 훈련시스템(100)은 사용자가 소지하는 전자기기에 프로그램 또는 어플리케이션의 형태로 탑재되어 구성될 수 있다. 따라서, 사용자는 원거리의 병원을 방문하지 않더라도 청능 훈련을 할 수 있어 훈련의 효율성을 높일 수 있다.The auditory training system 100 may be installed and configured in the form of a program or application in an electronic device possessed by a user. Therefore, the user can perform auditory training without visiting a distant hospital, thereby increasing training efficiency.

도 3은 본 발명의 실시예에 따른 청능 훈련방법을 나타내는 도면이다.3 is a diagram showing a hearing ability training method according to an embodiment of the present invention.

도 3을 참조하면, 먼저, 청능 훈련시스템(100)은 청능 훈련을 하고자 하는 사용자 및 사용자가 장착하고 있는 청력 보조장치, 즉 인공와우장치(10)를 인증할 수 있다(S10). Referring to FIG. 3 , first, the auditory training system 100 can authenticate a user who wants to do auditory training and a hearing aid device, that is, a cochlear implant 10 that the user is wearing (S10).

구체적으로, 청능 훈련시스템(100)의 훈련제어부(111)는 사용자로부터 입력된 아이디, 패스워드 등의 개인정보가 사용자정보 저장부(141)에 저장된 사용자 개인인증정보와 일치하는 지를 판단하여 사용자를 인증할 수 있다. Specifically, the training control unit 111 of the auditory training system 100 authenticates the user by determining whether personal information such as ID and password input from the user matches the user's personal authentication information stored in the user information storage unit 141. can do.

또, 훈련제어부(111)는 통신부(115)를 통해 인공와우장치(10)로부터 전송된 정보가 사용자정보 저장부(141)에 저장된 사용자 기기인증정보와 일치하는지를 판단하여 사용자의 인공와우장치(10)를 인증할 수 있다. In addition, the training control unit 111 determines whether the information transmitted from the cochlear implant 10 through the communication unit 115 matches the user device authentication information stored in the user information storage unit 141, so that the user's cochlear implant 10 ) can be verified.

이와 같이, 청능 훈련시스템(100)은 훈련제어부(111)를 통해 사용자 및 사용자의 인공와우장치(10)를 인증함으로써, 허가된 사용자에게 맞춤형의 청능 훈련이 제공되도록 할 수 있다. 여기서, 사용자 인증과 사용자 기기인증은 동시에 진행될 수도 있다. In this way, the hearing training system 100 authenticates the user and the user's cochlear implant 10 through the training controller 111, so that customized auditory training can be provided to the authorized user. Here, user authentication and user device authentication may be performed simultaneously.

이어, 사용자 및 사용자 기기의 인증이 완료된 후, 훈련제어부(111)는 인증된 사용자의 인공와우장치(10)를 훈련 설정값, 예컨대 청능 훈련을 위한 값으로 셋업할 수 있다(S20). Subsequently, after authentication of the user and the user device is completed, the training control unit 111 may set the cochlear implant 10 of the authenticated user to training set values, for example, values for auditory ability training (S20).

여기서, 청능 훈련시스템(100)은 사용자의 청능을 향상시키는 것을 목적으로 하고 있으므로, 훈련제어부(111)는 인공와우장치(10)에 수신되는 음성의 볼륨이 평소보다 5~10% 증가되거나 또는 감소되도록 인공와우장치(10)를 셋업할 수 있다. Here, since the purpose of the hearing training system 100 is to improve the user's hearing ability, the training control unit 111 increases or decreases the volume of the voice received by the cochlear implant device 10 by 5 to 10% compared to usual. The cochlear implant device 10 may be set up so as to be suitable.

훈련제어부(111)는 통신부(115)를 통해 제어데이터를 전송하여 자동으로 셋업이 진행되도록 하거나 또는 청능 훈련시스템(100)의 디스플레이부를 통해 사용자에게 볼륨 조절을 진행할 것을 안내하는 것으로 셋업이 진행되도록 할 수 있다. The training control unit 111 transmits control data through the communication unit 115 so that the setup automatically proceeds, or guides the user to proceed with the volume control through the display unit of the auditory training system 100 so that the setup proceeds. can

계속해서, 청능 훈련시스템(100)의 제어유닛(110)은 사용자의 청능 훈련을 위한 훈련문제를 생성하고, 이를 사용자에게 출력할 수 있다(S30). Subsequently, the control unit 110 of the auditory ability training system 100 may generate training problems for the user's auditory ability training and output them to the user (S30).

제어유닛(110)의 문제생성부(112)는 훈련제어부(111)의 제어에 따라 저장유닛(140)에 저장된 다수의 훈련데이터 중 사용자의 레벨이 적합한 적어도 하나의 데이터를 추출하여 훈련문제를 생성할 수 있다. The problem generating unit 112 of the control unit 110 generates a training problem by extracting at least one data suitable for the level of the user from among a plurality of training data stored in the storage unit 140 under the control of the training control unit 111. can do.

또한, 문제생성부(112)는 통신부(115)를 통해 외부서버(200)로부터 제공된 훈련데이터로부터 훈련문제를 생성하거나 또는, 일정 시간 동안 사용자가 주로 사용하고 있는 단어나 문장 등을 이용하여 훈련문제를 생성할 수 있다.In addition, the problem generator 112 generates training problems from training data provided from the external server 200 through the communication unit 115, or uses words or sentences that are mainly used by the user for a certain period of time. can create

도 4는 도 3의 청능 훈련을 위한 문제를 생성하는 단계를 구체적으로 나타내는 도면이다.FIG. 4 is a diagram specifically illustrating a step of generating problems for auditory ability training in FIG. 3 .

도 3 및 도 4를 참조하면, 훈련제어부(111)는 저장유닛(140)의 훈련정보 저장부(142)에 저장된 사용자의 이전 청능 훈련 내용, 예컨대 훈련 난이도, 훈련 결과, 평가점수 등을 확인할 수 있다(S31). Referring to FIGS. 3 and 4 , the training control unit 111 may check previous auditory training contents of the user stored in the training information storage unit 142 of the storage unit 140, such as training difficulty, training results, evaluation scores, and the like. Yes (S31).

이어, 문제생성부(112)는 저장유닛(140)의 훈련정보 저장부(142)에 저장된 다수의 훈련데이터 중 사용자에게 적합한 적어도 하나의 훈련데이터를 추출할 수 있다(S32). Subsequently, the problem generator 112 may extract at least one training data suitable for the user from among a plurality of training data stored in the training information storage unit 142 of the storage unit 140 (S32).

계속해서, 훈련제어부(111)는 문제생성부(112)에서 추출된 훈련데이터의 적합성을 판단할 수 있다(S33). Subsequently, the training control unit 111 may determine the suitability of the training data extracted from the problem generating unit 112 (S33).

이때, 훈련제어부(111)는 기 확인된 사용자의 이전 훈련 결과에 기초하여 추출된 훈련데이터의 난이도, 사용자의 관심분야 여부 등에 따라 적합성을 판단할 수 있다. At this time, the training control unit 111 may determine suitability according to the difficulty level of the extracted training data based on the user's previously confirmed training results, whether or not the user's field of interest, and the like.

여기서, 훈련데이터의 난이도는 기 확인된 사용자의 이전 청능 훈련 내용으로부터 판단될 수 있다. 또한, 사용자의 관심분야 여부는 저장유닛(140)의 사용자정보 저장부(141)에 저장된 사용자 관심정보를 확인함으로써 판단될 수 있다. Here, the level of difficulty of the training data may be determined based on previously confirmed user's auditory ability training contents. In addition, whether or not the user's field of interest may be determined by checking user interest information stored in the user information storage unit 141 of the storage unit 140 .

추출된 훈련데이터가 부적합한 것으로 판단되면(N), 훈련제어부(111)는 문제생성부(112)가 훈련데이터를 재 추출하도록 할 수 있다(S32). 이어, 재 추출된 훈련데이터의 적합성 판단을 다시 진행할 수 있다(S33). If it is determined that the extracted training data is inappropriate (N), the training control unit 111 may cause the problem generating unit 112 to re-extract the training data (S32). Subsequently, suitability determination of the re-extracted training data may be performed again (S33).

반면, 추출된 훈련데이터가 적합한 것으로 판단되면(Y), 문제생성부(112)는 훈련데이터로부터 훈련문제를 생성할 수 있다(S34). On the other hand, if it is determined that the extracted training data is suitable (Y), the problem generator 112 may generate a training problem from the training data (S34).

이때, 훈련제어부(111)는 환경소음생성부(113)에서 다양한 환경소음, TV나 전화 등의 소리, 주변인들의 소음, 자동차나 공사장 등의 소음 등이 생성되도록 할 수 있다. 그리고, 생성된 환경소음을 문제생성부(112)로 제공하여 훈련문제에 환경소음이 포함되도록 할 수 있다. In this case, the training control unit 111 may allow the environmental noise generation unit 113 to generate various environmental noises, sounds from TV or telephone, noises from people around, noises from cars or construction sites, and the like. In addition, the generated environmental noise may be provided to the problem generator 112 so that the environmental noise is included in the training problem.

이와 같이, 환경소음을 생성하여 훈련문제에 포함하는 것은 기 판단된 청능 훈련의 난이도에 따라 진행되거나 또는 사용자의 요청에 의해 훈련제어부(111)의 제어에 따라 진행될 수 있다. In this way, generating environmental noise and including it in the training problem may be performed according to a pre-determined difficulty level of auditory ability training or under the control of the training control unit 111 at the user's request.

다음으로, 문제생성부(112)는 생성된 훈련문제를 변환유닛(120)을 전송하고, 변환유닛(120)은 이를 음성 및 영상신호의 형태로 변환하여 출력할 수 있다(S35). Next, the problem generator 112 transmits the generated training problem to the conversion unit 120, and the conversion unit 120 converts it into audio and video signals and outputs it (S35).

변환유닛(120)의 음성변환부(121)는 훈련문제의 음성데이터를 소정 레벨의 음성신호로 변환할 수 있다. 이어, 입출력유닛(130)의 음성출력부(131)는 변환된 음성신호를 외부로 출력하여 사용자의 인공와우장치(10)가 이를 수신하도록 할 수 있다. The voice conversion unit 121 of the conversion unit 120 may convert the voice data of the training problem into a voice signal of a predetermined level. Subsequently, the audio output unit 131 of the input/output unit 130 outputs the converted audio signal to the outside so that the user's cochlear implant 10 can receive it.

또한, 변환유닛(120)의 영상변환부(122)는 훈련문제의 영상데이터를 2차원 또는 3차원 영상신호로 변환할 수 있다. 이어, 입출력유닛(130)의 영상출력부(132)는 변환된 영상신호를 사용자가 인지할 수 있도록 출력할 수 있다. In addition, the image conversion unit 122 of the conversion unit 120 may convert the image data of the training problem into a 2D or 3D image signal. Subsequently, the video output unit 132 of the input/output unit 130 may output the converted video signal so that the user can recognize it.

다시 도 3을 참조하면, 청능 훈련시스템(100)에서 청능 훈련을 위한 훈련문제가 사용자에게 제공된 후, 사용자는 이를 통해 청능 훈련을 수행하고, 그에 따른 답변을 피드백할 수 있다. Referring back to FIG. 3 , after training problems for auditory ability training are provided to the user in the auditory training system 100, the user can perform auditory training through the training problem and provide feedback based on the answer.

예컨대, 훈련문제로 "사과"라는 음성신호가 사용자에게 제공되면, 사용자는 이를 인공와우장치(10)를 통해 수신하여 인지한 후 이를 다시 발성할 수 있다. 청능 훈련시스템(100)은 사용자로부터의 발성신호를 입출력유닛(130)의 피드백 입력부(133)를 통해 피드백 답변으로 수신할 수 있다. For example, when a voice signal of “apple” is provided to the user as a training problem, the user may receive and recognize the voice signal through the cochlear implant 10 and then utter it again. The auditory training system 100 may receive a voice signal from the user as a feedback answer through the feedback input unit 133 of the input/output unit 130 .

이어, 청능 훈련시스템(100)은 수신된 사용자의 피드백 답변을 분석하여 사용자가 훈련문제를 제대로 인지하였는지를 평가할 수 있다(S40). Subsequently, the auditory training system 100 may evaluate whether the user correctly recognizes the training problem by analyzing the received user's feedback answer (S40).

도 5는 도 3의 사용자의 답변에 따라 청능 훈련을 평가하는 단계를 구체적으로 나타내는 도면이다. FIG. 5 is a diagram specifically illustrating a step of evaluating auditory ability training according to the user's answer in FIG. 3 .

도 3 및 도 5를 참조하면, 청능 훈련시스템(100)의 입출력유닛(130)은 사용자의 피드백 답변을 수신하고, 이를 변환유닛(120)으로 제공할 수 있다. 이어, 변환유닛(120)의 음성변환부(121)는 사용자의 피드백 답변을 전기적 신호의 형태를 갖는 데이터 신호로 변환할 수 있다(S41). Referring to FIGS. 3 and 5 , the input/output unit 130 of the auditory training system 100 may receive a user's feedback answer and provide it to the conversion unit 120 . Subsequently, the voice conversion unit 121 of the conversion unit 120 may convert the user's feedback answer into a data signal in the form of an electrical signal (S41).

음성변환부(121)는 변환데이터를 훈련평가부(114)로 제공하고, 훈련평가부(114)는 변환데이터를 이에 대응되는 훈련데이터와 비교하여 평가할 수 있다(S42). The voice conversion unit 121 provides the converted data to the training evaluation unit 114, and the training evaluation unit 114 compares the converted data with the corresponding training data and evaluates them (S42).

여기서, 훈련평가부(114)는 변환데이터의 진폭 및 주파수가 훈련데이터의 진폭 및 주파수와 일치되는 정도를 분석하고, 그에 따라 사용자의 훈련문제의 인지 정확도를 평가할 수 있다. Here, the training evaluation unit 114 may analyze the extent to which the amplitude and frequency of the converted data match the amplitude and frequency of the training data, and evaluate the user's cognitive accuracy of the training problem accordingly.

평가 결과, 변환데이터와 훈련데이터가 오차 범위 내에서 일치하면(Y), 훈련평가부(114)는 사용자가 훈련문제를 정확하게 인지한 것으로 평가할 수 있다. 이에, 문제생성부(112)는 다음의 훈련문제를 변환유닛(120) 및 입출력유닛(130)을 통해 출력하여 사용자가 새로운 훈련문제를 통해 청능 훈련을 진행하도록 할 수 있다(S43). As a result of the evaluation, if the conversion data and the training data match within the error range (Y), the training evaluation unit 114 may evaluate that the user correctly recognized the training problem. Accordingly, the problem generating unit 112 outputs the next training problem through the conversion unit 120 and the input/output unit 130 so that the user can proceed with auditory training through the new training problem (S43).

그리고, 도 3에 도시된 바와 같이, 기 제공된 훈련문제에 대한 사용자의 청능 훈련 결과를 저장유닛(140)에 저장할 수 있다(S50). And, as shown in FIG. 3 , the user's auditory ability training results for the previously provided training problems may be stored in the storage unit 140 (S50).

반면, 평가 결과 변환데이터와 훈련데이터가 오차 범위를 벗어나 일치하지 않으면(N), 훈련평가부(114)는 사용자가 훈련문제를 정확하게 인지하지 못한 것으로 평가할 수 있다. On the other hand, if the conversion data and the training data as a result of the evaluation do not coincide beyond the error range (N), the training evaluation unit 114 may evaluate that the user did not accurately recognize the training problem.

이에, 문제생성부(112)는 기 출력했던 훈련문제를 변환유닛(120) 및 입출력유닛(130)을 통해 다시 출력하여 사용자가 동일한 훈련문제로 청능 훈련을 반복하도록 할 수 있다(S44). Accordingly, the problem generating unit 112 outputs the previously output training problem again through the conversion unit 120 and the input/output unit 130 so that the user can repeat auditory training with the same training problem (S44).

그리고, 훈련평가부(114)는 동일 훈련문제에 대한 사용자의 피드백 답변으로부터 사용자의 훈련문제의 인지 정확성을 재 평가할 수 있다. Also, the training evaluation unit 114 may re-evaluate the cognitive accuracy of the user's training problem based on the user's feedback answer to the same training problem.

상술한 바와 같이, 본 실시예에 따른 청능 훈련방법은 사용자에게 청능 훈련을 위한 훈련문제를 제공하고, 사용자로부터 피드백 답변을 수신하여 사용자의 훈련문제 인지 정확성을 평가할 수 있다. 그리고, 평가 결과에 따라 새로운 훈련문제를 통해 청능 훈련을 진행하거나 기존 훈련문제를 반복하여 청능 훈련을 진행하도록 함으로써, 사용자의 청능 훈련의 효율성을 높일 수 있다. As described above, the auditory training method according to the present embodiment may provide a user with a training problem for auditory ability training, receive a feedback answer from the user, and evaluate the accuracy of the user's perception of the training problem. In addition, the efficiency of the user's auditory training can be increased by conducting auditory training through a new training problem or repeating an existing training problem according to the evaluation result.

또한, 본 실시예의 청능 훈련방법은 사용자의 지난 청능 훈련내용을 파악하여 현재 진행되는 청능 훈련의 난이도를 조절하거나, 사용자의 관심분야에 따른 훈련문제를 생성하여 청능 훈련이 진행되도록 할 수 있다. 이에, 사용자에게 맞춤형의 청능 훈련문제를 제공함으로써, 청능 훈련의 집중도 및 관심도를 증가시켜 훈련 효율성을 높일 수 있다. In addition, the auditory training method according to the present embodiment can adjust the level of difficulty of the auditory training currently in progress by grasping the user's previous auditory training, or generate training problems according to the user's field of interest so that the auditory training can proceed. Accordingly, by providing customized auditory training problems to the user, it is possible to increase the concentration and interest in auditory training, thereby increasing training efficiency.

한편, 본 실시예는 음성으로 출력되는 단어나 문장을 이해할 수 있는 정도의 후천적 난청환자인 사용자가 인공와우장치(10)를 장착하고 있는 경우에, 사용자에게 음성신호를 출력하여 청능 훈련을 하는 것을 예로 들어 설명하였다. 그러나, 본 발명은 이에 제한되지 않으며, 음성으로 출력되는 단어나 문장을 이해하지 못하는 영유아 또는 선천적 난청환자인 사용자가 인공와우장치(10)를 장착한 경우에도 사용자에게 청능 훈련을 제공할 수 있다. On the other hand, in the present embodiment, when a user who is a patient with acquired hearing loss who can understand words or sentences output as voice is equipped with the cochlear implant device 10, a voice signal is output to the user to perform hearing training. explained with an example. However, the present invention is not limited thereto, and even when a user who is an infant or a congenital hearing loss patient who does not understand words or sentences output as voice is equipped with the cochlear implant device 10, auditory ability training can be provided to the user.

다시 말해, 본 발명의 청능 훈련시스템(100)은 사용자에게 음성변환부(121) 및 음성출력부(131)를 통해 단어나 문장의 음성을 제공함과 동시에 영상변환부(122) 및 영상출력부(132)는 통해 해당 단어나 문장에 대응되는 영상을 제공할 수 있다. In other words, the auditory training system 100 of the present invention provides the user with the sound of words or sentences through the voice conversion unit 121 and the audio output unit 131, and at the same time, the video conversion unit 122 and the video output unit ( 132) may provide an image corresponding to the corresponding word or sentence.

예컨대, 청능 훈련시스템(100)은 "사과"라는 단어를 음성출력부(131)를 통해 음성으로 출력하면서 동시에 영상출력부(132)를 통해 "사과"에 대응되는 이미지나 영상을 출력할 수 있다. 따라서, 사용자는 음성으로 출력된 단어의 뜻을 이해할 수 있게 되며, 차후 인공와우장치(10)를 통해 수집된 소리 중 동일한 소리를 훈련된 내용에 기반하여 인지할 수 있다. For example, the auditory training system 100 outputs the word "apple" as a voice through the audio output unit 131 and simultaneously outputs an image or video corresponding to "apple" through the video output unit 132. . Accordingly, the user is able to understand the meaning of the word output as a voice, and later, among the sounds collected through the cochlear implant 10, the same sound can be recognized based on the trained content.

즉, 본 발명의 청능 훈련시스템(100)은 후천적 난청환자에게 청능 훈련을 제공할 수 있고, 나아가 영유아 또는 선천적 난청환자에게 청능 훈련, 단어 인지 훈련 및 발성 훈련을 제공하여 재활 프로그램이 진행되도록 할 수 있다. That is, the auditory ability training system 100 of the present invention can provide auditory training to patients with acquired hearing loss, and furthermore, it can provide auditory training, word recognition training, and vocalization training to infants or patients with congenital hearing loss so that a rehabilitation program can be performed. there is.

도 6은 본 발명의 청능 훈련장치의 구현 예를 나타내는 도면이다.6 is a diagram showing an implementation example of the auditory ability training apparatus of the present invention.

도 6에 도시된 바와 같이, 본 발명의 청능 훈련시스템(100)은 사용자의 스마트폰(300)에 어플리케이션의 형태로 탑재되고, 이러한 스마트폰(300)은 사용자의 머리에 착용되는 헤드 마운트 표시장치(1000) 내에 수납될 수 있다. As shown in FIG. 6, the auditory training system 100 of the present invention is loaded in the form of an application on a user's smartphone 300, and the smartphone 300 is a head-mounted display device worn on the user's head. (1000).

이에, 사용자는 헤드 마운트 표시장치(1000)는 착용한 상태에서 스마트폰(300)에 탑재된 청능 훈련시스템(100)으로부터 제공되는 음성 및 영상의 훈련문제에 따라 청능 훈련을 진행할 수 있다. Accordingly, while wearing the head mounted display device 1000, the user may perform hearing training according to training problems of audio and video provided from the hearing training system 100 mounted on the smart phone 300.

또한, 헤드 마운트 표시장치(1000)에 수납된 스마트폰(300)은 청능 훈련시스템(100)의 변환유닛(120)에 의해 3차원 영상 및 음성으로 변환된 훈련문제를 사용자에게 제공하여 사용자의 청능 훈련의 몰입감을 높여 훈련의 효율성을 향상시킬 수 있다. In addition, the smart phone 300 stored in the head mounted display device 1000 provides the user with training problems converted into 3D images and voices by the conversion unit 120 of the auditory training system 100, thereby improving the hearing ability of the user. The efficiency of training can be improved by increasing the immersion of training.

또한, 스마트폰(300)에 탑재된 빅스비, 기가지니, 누구, 시리 등과 같은 인공지능 앱을 청능 훈련시스템(100)과 연동시켜 사용자에게 실시간 대화형의 청능 훈련을 제공할 수 있다. 이러한 인공지능 앱은 음성인식 기능을 포함하고 있으므로, 이를 이용하여 사용자와 대화형으로 청능 훈련을 진행하도록 함으로써, 사용자의 청능 훈련 관심도 및 집중도를 높여 훈련의 효율성을 향상시킬 수 있다. In addition, real-time interactive hearing training may be provided to the user by linking artificial intelligence apps such as Bixby, GiGA Genie, NUGU, Siri, etc. mounted in the smartphone 300 with the auditory training system 100 . Since these artificial intelligence apps include a voice recognition function, it is possible to improve the efficiency of training by increasing the user's interest and concentration in auditory training by interactively conducting auditory training with the user.

10: 인공와우장치 100: 청능 훈련시스템
110: 제어유닛 111: 훈련제어부
112: 문제생성부 113: 환경소음생성부
114: 훈련평가부 115: 통신부
120: 변환유닛 121: 음성변환부
122: 영상변환부 130: 입출력유닛
131: 음성출력부 132: 영상출력부
133: 피드백 입력부 140: 저장유닛
141: 사용자정보 저장부 142: 훈련정보 저장부
200: 외부서버 300: 스마트폰
1000: 헤드 마운트 표시장치
10: cochlear implant 100: auditory training system
110: control unit 111: training control unit
112: problem generating unit 113: environmental noise generating unit
114: training evaluation department 115: communication department
120: conversion unit 121: voice conversion unit
122: image conversion unit 130: input/output unit
131: audio output unit 132: video output unit
133: feedback input unit 140: storage unit
141: user information storage unit 142: training information storage unit
200: external server 300: smartphone
1000: head mounted display device

Claims (5)

인공와우장치를 착용한 사용자에게 맞춤형 청능 훈련을 제공할 수 있는 청능 훈련시스템에 있어서,
다수의 훈련데이터로부터 사용자의 청능 훈련을 위한 훈련문제를 생성하고, 사용자로부터 피드백 된 답변으로부터 청능 훈련의 결과를 평가하는 제어유닛;
상기 훈련문제 중 음성데이터를 음성신호로 변환하고, 상기 피드백 된 답변을 전기신호로 변환하여 출력하는 음성변환부와 상기 훈련문제 중 영상데이터를 2차원 영상신호 및 3차원 영상신호 중 적어도 하나로 변환하여 출력하는 영상변환부를 포함하여 구성되고, 사용자의 상기 피드백 된 답변을 전기신호로 변환하여 상기 제어유닛에 전달하는 변환유닛;
변환된 상기 음성신호 및 영상신호를 사용자에게 출력하고, 사용자의 상기 피드백 답변을 수신하는 입출력유닛;
일정 시간 동안 사용자의 음성을 녹취하고, 녹취된 음성에서 사용자가 주로 사용하고 있는 단어 및 문장을 추출하는 녹취 및 분석유닛;
사용자 인증정보, 사용자 기기인증정보 및 사용자 관심분야정보가 저장된 사용자정보 저장부;
상기 다수의 훈련데이터 및 사용자 훈련 결과데이터가 저장된 훈련정보 저장부;및
상기 변환유닛에 의해 변환된 피드백 데이터와 상기 다수의 훈련데이터 중 상기 훈련문제에 대응되는 훈련데이터 간의 유사성을 비교하여 사용자의 청능 훈련 결과를 평가하는 훈련평가부;
를 포함하고,
상기 제어유닛은,
상기 다수의 훈련데이터 중에서 적어도 하나의 훈련데이터를 추출하는 문제생성부;
추출된 훈련데이터의 적합성을 판단하는 훈련제어부; 및
다양한 환경소음을 생성하는 환경소음생성부;를 포함하고,
상기 훈련제어부는 청능 훈련을 하고자 하는 사용자 인증정보 및 사용자 기기인증정보에 기초하여 사용자 및 사용자의 인공와우장치(10)를 인증하고, 상기 문제생성부 및 상기 환경소음생성부의 동작을 제어하여 사용자에게 맞춤형의 청능 훈련문제를 제공하고,
상기 문제생성부는 상기 훈련제어부의 판단 결과에 따라 상기 추출된 훈련데이터로부터 상기 환경소음이 추가된 상기 훈련문제를 생성하되,
상기 녹취 및 분석유닛에서 추출된 단어 및 문장 중 적어도 하나를 이용하여 상기 훈련문제를 생성하고, 상기 사용자 관심분야정보 및 상기 사용자 훈련 결과데이터 중 적어도 하나에 기초하여 상기 다수의 훈련데이터로부터 상기 훈련문제를 생성하는 것을 특징으로 하는 청능 훈련시스템.
In the auditory training system capable of providing customized auditory training to a user wearing a cochlear implant,
a control unit generating training problems for auditory training of a user from a plurality of training data and evaluating auditory training results from answers fed back from the user;
A voice conversion unit that converts audio data from the training problem into audio signals and converts the feedbacked answer into an electrical signal and outputs it, and converts the video data from the training problem into at least one of a 2D video signal and a 3D video signal. a conversion unit configured to include an image conversion unit for outputting and converting the user's feedbacked answer into an electrical signal and transmitting the converted electrical signal to the control unit;
an input/output unit outputting the converted audio signal and video signal to a user and receiving the user's feedback answer;
a recording and analysis unit that records a user's voice for a certain period of time and extracts words and sentences mainly used by the user from the recorded voice;
a user information storage unit in which user authentication information, user device authentication information, and user interest information are stored;
A training information storage unit in which the plurality of training data and user training result data are stored; and
a training evaluation unit comparing similarity between the feedback data converted by the conversion unit and training data corresponding to the training problem among the plurality of training data to evaluate a user's auditory ability training result;
including,
The control unit,
a problem generating unit extracting at least one training data from among the plurality of training data;
a training control unit that determines the suitability of the extracted training data; and
Including; an environmental noise generating unit that generates various environmental noises,
The training control unit authenticates the user and the user's cochlear implant 10 based on the user authentication information and the user device authentication information for auditory training, and controls the operation of the problem generator and the environmental noise generator to provide information to the user. Provides customized auditory training problems,
The problem generating unit generates the training problem to which the environmental noise is added from the extracted training data according to the determination result of the training control unit,
The training problem is generated using at least one of words and sentences extracted from the recording and analysis unit, and the training problem is obtained from the plurality of training data based on at least one of the user interest field information and the user training result data. Auditory training system, characterized in that for generating.
삭제delete 삭제delete 제1항에 있어서,
외부서버 및 상기 인공와우장치와 데이터를 송수신하는 통신부를 더 포함하고,
상기 제어유닛은 상기 외부서버로부터 상기 통신부를 통해 제공된 훈련데이터로부터 상기 훈련문제를 생성하는 것을 특징으로 하는 청능 훈련시스템.
According to claim 1,
Further comprising a communication unit for transmitting and receiving data to and from an external server and the cochlear implant device;
The auditory training system, characterized in that the control unit generates the training problem from training data provided from the external server through the communication unit.
제1항 또는 제4항 중 어느 한 항의 청능 훈련시스템이 어플리케이션의 형태로 탑재된 것을 특징으로 하는 스마트폰.



A smartphone characterized in that the auditory training system of any one of claims 1 or 4 is loaded in the form of an application.



KR1020210115866A 2019-08-13 2021-08-31 System for training of listening ability for hard of hearing patient KR102520761B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020210115866A KR102520761B1 (en) 2019-08-13 2021-08-31 System for training of listening ability for hard of hearing patient

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020190098663A KR20210019712A (en) 2019-08-13 2019-08-13 System and method for training of listening ability for hard of hearing patient
KR1020210115866A KR102520761B1 (en) 2019-08-13 2021-08-31 System for training of listening ability for hard of hearing patient

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
KR1020190098663A Division KR20210019712A (en) 2019-08-13 2019-08-13 System and method for training of listening ability for hard of hearing patient

Publications (2)

Publication Number Publication Date
KR20210110550A KR20210110550A (en) 2021-09-08
KR102520761B1 true KR102520761B1 (en) 2023-04-12

Family

ID=74687976

Family Applications (2)

Application Number Title Priority Date Filing Date
KR1020190098663A KR20210019712A (en) 2019-08-13 2019-08-13 System and method for training of listening ability for hard of hearing patient
KR1020210115866A KR102520761B1 (en) 2019-08-13 2021-08-31 System for training of listening ability for hard of hearing patient

Family Applications Before (1)

Application Number Title Priority Date Filing Date
KR1020190098663A KR20210019712A (en) 2019-08-13 2019-08-13 System and method for training of listening ability for hard of hearing patient

Country Status (1)

Country Link
KR (2) KR20210019712A (en)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20230088533A (en) 2021-12-10 2023-06-20 한림대학교 산학협력단 Method and program of controlling the music perception test and rehabilitation system for hearing impairment
KR102630356B1 (en) 2022-07-29 2024-01-30 한림대학교 산학협력단 Electronic device, control method, and computer program for auditory language and cognitive rehabilitation of infants and children

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101984991B1 (en) 2018-10-15 2019-06-03 신수연 Device for training of listening ability based on user characteristics

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10149090A (en) * 1996-11-21 1998-06-02 Onkyo Corp Audition ability training device and its training method
KR20160126297A (en) * 2015-04-23 2016-11-02 한림대학교 산학협력단 System and Method of Auditory Training Applying Mobile Device
KR102024221B1 (en) * 2018-01-15 2019-09-23 한림대학교 산학협력단 Method and device for training auditory function

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101984991B1 (en) 2018-10-15 2019-06-03 신수연 Device for training of listening ability based on user characteristics

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
공개특허공보 제10-2016-0126297호(2016.11.2. 공개) 1부.*
공개특허공보 제10-2019-0086868호(2019.7.24. 공개) 1부.*

Also Published As

Publication number Publication date
KR20210110550A (en) 2021-09-08
KR20210019712A (en) 2021-02-23

Similar Documents

Publication Publication Date Title
US20220240842A1 (en) Utilization of vocal acoustic biomarkers for assistive listening device utilization
US20210030371A1 (en) Speech production and the management/prediction of hearing loss
KR102520761B1 (en) System for training of listening ability for hard of hearing patient
US10198964B2 (en) Individualized rehabilitation training of a hearing prosthesis recipient
US11290827B2 (en) Advanced artificial sound hearing training
US20240089679A1 (en) Musical perception of a recipient of an auditory device
US11750989B2 (en) Advanced hearing prosthesis recipient habilitation and/or rehabilitation
US10003895B2 (en) Selective environmental classification synchronization
US20220386902A1 (en) Scoring speech audiometry
US20230007415A1 (en) Individualized own voice detection in a hearing prosthesis
US11735318B2 (en) Dynamic virtual hearing modelling
US11962976B2 (en) Method for operating a hearing aid system, and hearing aid system with a hearing aid
US11877123B2 (en) Audio training
US20220054842A1 (en) Assessing responses to sensory events and performing treatment actions based thereon
US20220076663A1 (en) Prediction and identification techniques used with a hearing prosthesis
CN116171181A (en) Novel tinnitus management technology
WO2023209598A1 (en) Dynamic list-based speech testing

Legal Events

Date Code Title Description
A107 Divisional application of patent
E902 Notification of reason for refusal
AMND Amendment
E601 Decision to refuse application
X091 Application refused [patent]
AMND Amendment
X601 Decision of rejection after re-examination
J201 Request for trial against refusal decision
J301 Trial decision

Free format text: TRIAL NUMBER: 2022101001890; TRIAL DECISION FOR APPEAL AGAINST DECISION TO DECLINE REFUSAL REQUESTED 20221019

Effective date: 20230322

GRNO Decision to grant (after opposition)
GRNT Written decision to grant