KR20240025527A - 청각 신경 신호 변환 방법 및 시스템 - Google Patents
청각 신경 신호 변환 방법 및 시스템 Download PDFInfo
- Publication number
- KR20240025527A KR20240025527A KR1020237043822A KR20237043822A KR20240025527A KR 20240025527 A KR20240025527 A KR 20240025527A KR 1020237043822 A KR1020237043822 A KR 1020237043822A KR 20237043822 A KR20237043822 A KR 20237043822A KR 20240025527 A KR20240025527 A KR 20240025527A
- Authority
- KR
- South Korea
- Prior art keywords
- auditory
- processing device
- audio signal
- subject
- sound
- Prior art date
Links
- 238000000034 method Methods 0.000 title claims abstract description 94
- 210000000860 cochlear nerve Anatomy 0.000 title description 57
- 238000006243 chemical reaction Methods 0.000 title description 7
- 238000012545 processing Methods 0.000 claims abstract description 309
- 230000005236 sound signal Effects 0.000 claims abstract description 196
- 210000005036 nerve Anatomy 0.000 claims abstract description 160
- 210000004556 brain Anatomy 0.000 claims abstract description 132
- 230000001537 neural effect Effects 0.000 claims abstract description 68
- 230000008447 perception Effects 0.000 claims abstract description 50
- 230000008569 process Effects 0.000 claims abstract description 32
- 230000007383 nerve stimulation Effects 0.000 claims abstract description 14
- 230000010255 response to auditory stimulus Effects 0.000 claims abstract description 5
- 238000003860 storage Methods 0.000 claims description 57
- 238000013507 mapping Methods 0.000 claims description 55
- 241001465754 Metazoa Species 0.000 claims description 38
- 230000013707 sensory perception of sound Effects 0.000 claims description 25
- 238000004891 communication Methods 0.000 claims description 22
- 210000005069 ears Anatomy 0.000 abstract description 13
- 230000015654 memory Effects 0.000 description 54
- 230000006870 function Effects 0.000 description 26
- 230000005540 biological transmission Effects 0.000 description 24
- 230000000638 stimulation Effects 0.000 description 24
- 230000004044 response Effects 0.000 description 19
- 238000010586 diagram Methods 0.000 description 16
- 238000012986 modification Methods 0.000 description 14
- 230000004048 modification Effects 0.000 description 14
- 230000008859 change Effects 0.000 description 8
- 210000003926 auditory cortex Anatomy 0.000 description 6
- 238000013500 data storage Methods 0.000 description 6
- 210000002569 neuron Anatomy 0.000 description 6
- 230000003287 optical effect Effects 0.000 description 6
- 230000008054 signal transmission Effects 0.000 description 6
- 241000282465 Canis Species 0.000 description 5
- 241000894007 species Species 0.000 description 5
- 238000004458 analytical method Methods 0.000 description 4
- 239000007943 implant Substances 0.000 description 4
- 230000001939 inductive effect Effects 0.000 description 4
- 238000011160 research Methods 0.000 description 4
- 239000004065 semiconductor Substances 0.000 description 4
- 239000003826 tablet Substances 0.000 description 4
- 241000282324 Felis Species 0.000 description 3
- 238000013528 artificial neural network Methods 0.000 description 3
- 210000003477 cochlea Anatomy 0.000 description 3
- 230000001419 dependent effect Effects 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 230000004927 fusion Effects 0.000 description 3
- 238000010801 machine learning Methods 0.000 description 3
- 239000000463 material Substances 0.000 description 3
- 238000005259 measurement Methods 0.000 description 3
- 238000010295 mobile communication Methods 0.000 description 3
- 230000037361 pathway Effects 0.000 description 3
- 239000011295 pitch Substances 0.000 description 3
- 210000003625 skull Anatomy 0.000 description 3
- 241000271566 Aves Species 0.000 description 2
- 241000282412 Homo Species 0.000 description 2
- 241000288906 Primates Species 0.000 description 2
- 241000251539 Vertebrata <Metazoa> Species 0.000 description 2
- 210000004027 cell Anatomy 0.000 description 2
- 230000001413 cellular effect Effects 0.000 description 2
- 230000008878 coupling Effects 0.000 description 2
- 238000010168 coupling process Methods 0.000 description 2
- 238000005859 coupling reaction Methods 0.000 description 2
- 230000007547 defect Effects 0.000 description 2
- 230000001066 destructive effect Effects 0.000 description 2
- 210000000883 ear external Anatomy 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 230000007613 environmental effect Effects 0.000 description 2
- 210000003128 head Anatomy 0.000 description 2
- 238000002513 implantation Methods 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 210000000653 nervous system Anatomy 0.000 description 2
- 239000011664 nicotinic acid Substances 0.000 description 2
- 238000005070 sampling Methods 0.000 description 2
- 238000001356 surgical procedure Methods 0.000 description 2
- 230000005062 synaptic transmission Effects 0.000 description 2
- 210000003454 tympanic membrane Anatomy 0.000 description 2
- 210000003273 vestibular nerve Anatomy 0.000 description 2
- 241000282693 Cercopithecidae Species 0.000 description 1
- 206010011878 Deafness Diseases 0.000 description 1
- 241000282575 Gorilla Species 0.000 description 1
- 241000283984 Rodentia Species 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000002238 attenuated effect Effects 0.000 description 1
- 210000003984 auditory pathway Anatomy 0.000 description 1
- 210000005013 brain tissue Anatomy 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 239000003990 capacitor Substances 0.000 description 1
- 210000003710 cerebral cortex Anatomy 0.000 description 1
- 230000002490 cerebral effect Effects 0.000 description 1
- 238000004140 cleaning Methods 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 238000012258 culturing Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 201000010099 disease Diseases 0.000 description 1
- 208000037265 diseases, disorders, signs and symptoms Diseases 0.000 description 1
- 235000019800 disodium phosphate Nutrition 0.000 description 1
- 210000003027 ear inner Anatomy 0.000 description 1
- 210000000959 ear middle Anatomy 0.000 description 1
- 230000002708 enhancing effect Effects 0.000 description 1
- 210000001508 eye Anatomy 0.000 description 1
- 230000005669 field effect Effects 0.000 description 1
- 230000010370 hearing loss Effects 0.000 description 1
- 231100000888 hearing loss Toxicity 0.000 description 1
- 208000016354 hearing loss disease Diseases 0.000 description 1
- 238000000338 in vitro Methods 0.000 description 1
- 238000010348 incorporation Methods 0.000 description 1
- 230000006698 induction Effects 0.000 description 1
- 239000002184 metal Substances 0.000 description 1
- 210000000118 neural pathway Anatomy 0.000 description 1
- 230000010004 neural pathway Effects 0.000 description 1
- 208000015122 neurodegenerative disease Diseases 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 238000013139 quantization Methods 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
- 230000002441 reversible effect Effects 0.000 description 1
- 238000010079 rubber tapping Methods 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 230000004936 stimulating effect Effects 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
- 210000003478 temporal lobe Anatomy 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
- 210000001519 tissue Anatomy 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 210000000752 vestibulocochlear nerve Anatomy 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04R—LOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
- H04R25/00—Deaf-aid sets, i.e. electro-acoustic or electro-mechanical hearing aids; Electric tinnitus maskers providing an auditory perception
- H04R25/35—Deaf-aid sets, i.e. electro-acoustic or electro-mechanical hearing aids; Electric tinnitus maskers providing an auditory perception using translation techniques
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61N—ELECTROTHERAPY; MAGNETOTHERAPY; RADIATION THERAPY; ULTRASOUND THERAPY
- A61N1/00—Electrotherapy; Circuits therefor
- A61N1/18—Applying electric currents by contact electrodes
- A61N1/32—Applying electric currents by contact electrodes alternating or intermittent currents
- A61N1/36—Applying electric currents by contact electrodes alternating or intermittent currents for stimulation
- A61N1/36036—Applying electric currents by contact electrodes alternating or intermittent currents for stimulation of the outer, middle or inner ear
- A61N1/36038—Cochlear stimulation
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61N—ELECTROTHERAPY; MAGNETOTHERAPY; RADIATION THERAPY; ULTRASOUND THERAPY
- A61N1/00—Electrotherapy; Circuits therefor
- A61N1/02—Details
- A61N1/04—Electrodes
- A61N1/05—Electrodes for implantation or insertion into the body, e.g. heart electrode
- A61N1/0526—Head electrodes
- A61N1/0541—Cochlear electrodes
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61N—ELECTROTHERAPY; MAGNETOTHERAPY; RADIATION THERAPY; ULTRASOUND THERAPY
- A61N1/00—Electrotherapy; Circuits therefor
- A61N1/18—Applying electric currents by contact electrodes
- A61N1/32—Applying electric currents by contact electrodes alternating or intermittent currents
- A61N1/36—Applying electric currents by contact electrodes alternating or intermittent currents for stimulation
- A61N1/372—Arrangements in connection with the implantation of stimulators
- A61N1/37211—Means for communicating with stimulators
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
- G06F3/015—Input arrangements based on nervous system activity detection, e.g. brain waves [EEG] detection, electromyograms [EMG] detection, electrodermal response detection
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04R—LOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
- H04R2225/00—Details of deaf aids covered by H04R25/00, not provided for in any of its subgroups
- H04R2225/67—Implantable hearing aids or parts thereof not covered by H04R25/606
Landscapes
- Health & Medical Sciences (AREA)
- Engineering & Computer Science (AREA)
- General Health & Medical Sciences (AREA)
- Otolaryngology (AREA)
- Biomedical Technology (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Radiology & Medical Imaging (AREA)
- Life Sciences & Earth Sciences (AREA)
- Animal Behavior & Ethology (AREA)
- Public Health (AREA)
- Veterinary Medicine (AREA)
- Physics & Mathematics (AREA)
- Neurosurgery (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Cardiology (AREA)
- Heart & Thoracic Surgery (AREA)
- Neurology (AREA)
- Human Computer Interaction (AREA)
- General Physics & Mathematics (AREA)
- Dermatology (AREA)
- Acoustics & Sound (AREA)
- Signal Processing (AREA)
- Details Of Audible-Bandwidth Transducers (AREA)
- Stereophonic System (AREA)
- Measurement And Recording Of Electrical Phenomena And Electrical Characteristics Of The Living Body (AREA)
Abstract
처리 장치는 청각 인식을 담당하는 대상체 뇌의 청각 영역과 인터페이싱된다. 처리 장치는 대상체의 귀에 의해서 수집된 소리에 반응하여 대상체 뇌의 청각 영역으로 전달되는 신경 자극과 연관된 신호를 수신한다. 처리 장치는 수신된 신호를 처리하고 귀에 의해서 수집된 소리에 대한 대상체의 청각적 지각을 나타내는 적어도 하나의 오디오 신호를 생성한다. 특정 실시예에서, 처리 장치는 적어도 하나의 소리를 나타내는 적어도 하나의 오디오 신호를 처리하여 적어도 하나의 오디오 신호를 일련의 신경 자극으로 변환하고, 대상체가 적어도 하나의 소리를 청각적으로 인식하도록 일련의 신경 자극을 대상체의 뇌의 청각 영역에 선택적으로 제공한다.
Description
관련 출원에 대한 상호 참조
본 출원은 2021년 6월 28일자로 출원된 미국 가 특허 출원 번호 63/215,569 호에 대한 우선권을 주장하며, 이 출원의 개시는 그 전체가 본 명세서에 원용에 의해 포함된다.
기술 분야
본 발명은 소리 인식에 관한 것이며, 더 구체적으로는 뇌로 그리고 뇌로부터 소리를 전달하는 것에 관한 것이다.
인간의 청각 시스템은 귀, 뇌 및 신경계의 일부를 포함한다. 일반적으로, 기계적 파동(진동)은 귀에 의해 검출되고 신경 또는 신경들을 통해 뇌에 전달되는 신경 펄스로 변환(전환)되어 뇌에서 소리로서 해석되고 인식된다.
본 발명의 실시예는 청각 신경에 의해 전달되는 신경 자극을 나타내는 신호를 획득하고 이들 신호를 청각 신호(아날로그 또는 디지털 신호)로 전환하는 방법 및 시스템을 제공하고, 오디오 신호(아날로그 신호 또는 디지털 신호일 수 있음)를 대응하는 신경 자극으로 변환하고 이들 신경 자극을 예를 들어, 전달용 청신경을 통해 뇌의 청각 영역에 제공하는 방법 및 시스템을 제공함으로써 뇌로의 소리(음성 포함) 및 관련 데이터 이동 경로의 수정을 가능하게 한다.
본 발명의 실시예의 교시에 따르면, 청각 지각을 담당하는 청각 영역을 포함하는 뇌를 가진 동물 대상체에게 사용하기 위한 방법이 제공된다. 상기 방법은 처리 장치를 뇌의 청각 영역과 인터페이싱하는 단계; 대상체의 적어도 한쪽 귀에 의해서 수집된 소리에 반응하여 뇌의 청각 영역으로 전달되는 신경 자극과 관련된 신호를 처리 장치에 의해서 수신하는 단계; 및 대상체의 적어도 한쪽 귀에 의해 수집된 소리에 대한 대상체에 의한 청각적 지각을 나타내는 적어도 하나의 오디오 신호를 생성하기 위해서 수신된 신호를 처리 장치에 의해서 처리하는 단계를 포함한다.
선택적으로, 인터페이싱하는 단계는 처리 장치와 뇌의 청각 영역 사이에 통신을 제공하기 위해서 뇌의 청각 영역과 연관하여 대상체에 기계-대상체 인터페이스의 적어도 일부를 이식하는 단계를 포함한다.
선택적으로, 상기 방법은 하나 이상의 규칙에 따라서 생성된 적어도 하나의 오디오 신호에 대해 적어도 하나의 작동을 수행하는 단계를 더 포함한다.
선택적으로, 적어도 하나의 작동은 생성된 적어도 하나의 오디오 신호를 나타내는 데이터를 처리 장치와 통신 가능하게 결합된 컴퓨터화된 저장 장치에 저장하는 것을 포함한다.
선택적으로, 적어도 하나의 작동은 생성된 적어도 하나의 오디오 신호를 나타내는 데이터를 하나 이상의 통신 네트워크를 통해 처리 장치와 통신 가능하게 결합된 컴퓨터화된 서버 시스템으로 송신하는 것을 포함한다.
선택적으로, 적어도 하나의 작동은 수정된 적어도 하나의 오디오 신호를 생성하기 위해서 생성된 적어도 하나의 오디오 신호를 수정하는 것을 포함한다.
선택적으로, 상기 방법은 하나 이상의 신경 자극으로 적어도 하나의 수정된 오디오 신호를 변환하는 단계; 및 대상체의 적어도 하나의 귀에 의해서 수집된 소리에 대한 대상체의 청각 지각을 증대시키기 위해서 뇌의 청각 영역에 하나 이상의 신경 자극을 제공하는 단계를 더 포함한다.
선택적으로, 뇌의 청각 영역에 하나 이상의 신경 자극을 제공하는 단계는 뇌의 청각 영역과 연결된 하나 이상의 신경을 따라 하나 이상의 신경 자극을 전달하는 단계를 포함한다.
선택적으로, 수신된 오디오 신호를 처리하는 단계는 신경 자극과 오디오 신호 사이를 매핑하는 적어도 하나의 매핑을 수신된 신호에 적용하는 단계를 포함한다.
선택적으로, 적어도 하나의 매핑은 처리 장치와 통신 가능하게 결합된 적어도 하나의 메모리 장치에 저장된다.
선택적으로, 상기 방법은 대상체에 처리 장치를 이식하는 단계를 더 포함한다.
선택적으로, 처리 장치는 대상체 외부에 있다.
본 발명의 교시의 실시예에 따르면, 청각 지각을 담당하는 청각 영역을 포함하는 뇌를 가진 동물 대상체에게 사용하기 위한 시스템이 또한 제공된다. 상기 시스템은 처리 장치; 및 처리 장치를 뇌의 청각 영역과 인터페이싱하기 위한 기계-대상체 인터페이스를 포함하며; 처리 장치는 대상체의 적어도 한쪽 귀에 의해서 수집된 소리에 반응하여 뇌의 청각 영역으로 전달되는 신경 자극과 연관된 신호를 수신하고, 대상체의 적어도 한쪽 귀에 의해서 수집된 소리에 대한 대상체의 청각적 지각을 나타내는 적어도 하나의 오디오 신호를 생성하기 위해서 수신된 신호를 처리하도록 구성된다.
선택적으로, 기계-대상체 인터페이스의 적어도 일부분은 처리 장치와 뇌의 청각 영역 사이에 통신을 제공하기 위해서 뇌의 청각 영역과 연관되어 대상체에 이식되도록 구성된다.
선택적으로, 처리 장치는 생성된 적어도 하나의 오디오 신호를 나타내는 데이터를: i) 처리 장치와 통신 가능하게 결합된 적어도 하나의 컴퓨터화된 저장 장치, 및 ii) 하나 이상의 통신 네트워크를 통해 처리 장치와 통신 가능하게 결합된 적어도 하나의 원격 서버 시스템 중 하나 이상으로 송신하도록 추가로 구성된다.
선택적으로, 처리 장치는 수정된 적어도 하나의 오디오 신호를 생성하기 위해서 생성된 적어도 하나의 오디오 신호를 수정하도록 추가로 구성된다.
선택적으로, 처리 장치는 수정된 적어도 하나의 오디오 신호를 하나 이상의 신경 자극으로 변환하고, 대상체의 적어도 한쪽 귀에 의해 수집된 소리에 대한 대상체의 청각 지각을 증대시키기 위해서 뇌의 청각 영역에 하나 이상의 신경 자극을 제공하도록 추가로 구성된다.
선택적으로, 처리 장치는 뇌의 청각 영역과 연결된 하나 이상의 신경을 따라 하나 이상의 신경 자극을 전달함으로써 뇌의 청각 영역에 하나 이상의 신경 자극을 제공하도록 구성된다.
선택적으로, 수신된 신호를 처리하는 것은 신경 자극과 오디오 신호 사이를 매핑하는 적어도 하나의 매핑을 수신된 신호에 적용하는 것을 포함한다.
본 발명의 교시의 실시예에 따르면, 청각 지각을 담당하는 청각 영역을 포함하는 뇌를 가진 동물 대상체에게 사용하기 위한 방법이 또한 제공된다. 상기 방법은 처리 장치를 뇌의 청각 영역과 인터페이싱하는 단계; 적어도 하나의 오디오 신호를 일련의 신경 자극으로 변환하기 위해서 처리 장치에 의해 적어도 하나의 소리를 나타내는 적어도 하나의 오디오 신호를 처리하는 단계; 및 대상체가 적어도 하나의 소리를 청각적으로 인식하도록 뇌의 청각 영역에 일련의 신경 자극을 선택적으로 제공하는 단계를 포함한다.
선택적으로, 적어도 하나의 오디오 신호는 적어도 하나의 오디오 신호를 나타내는 데이터를 저장하는 처리 장치와 통신 가능하게 결합된 적어도 하나의 메모리 장치, 또는 적어도 하나의 오디오 신호를 생성하기 위해서 소리를 캡처하는 소리 캡처 장치 중 적어도 하나에 의해서 처리 장치에 제공된다.
선택적으로, 적어도 하나의 오디오 신호를 생성하기 위해서 소리 캡처 장치에 의해서 적어도 하나의 소리를 캡처하는 단계; 및 적어도 하나의 오디오 신호를 처리 장치에 제공하는 단계를 더 포함한다.
선택적으로, 신경 자극이 뇌의 청각 영역에 제공될 때 대상체가 침묵을 인식하도록 적어도 하나의 소리는 대상체에게 들리지 않는다.
본 발명의 교시의 실시예에 따르면, 청각 지각을 담당하는 청각 영역을 포함하는 뇌를 가진 동물 대상체에게 사용하기 위한 시스템이 또한 제공된다. 상기 시스템은 처리 장치; 및 처리 장치를 뇌의 청각 영역과 인터페이싱하기 위한 기계-대상체 인터페이스를 포함한다. 처리 장치는 적어도 하나의 오디오 신호를 일련의 신경 자극으로 변환하기 위해서 적어도 하나의 소리를 나타내는 적어도 하나의 오디오 신호를 처리하고, 대상체가 적어도 하나의 소리를 청각적으로 인식하도록 기계-대상체 인터페이스를 통해 뇌의 청각 영역에 일련의 신경 자극을 선택적으로 제공하도록 구성된다.
선택적으로, 상기 시스템은 적어도 하나의 오디오 신호를 생성하기 위해서 적어도 하나의 소리를 캡처하고, 적어도 하나의 오디오 신호를 처리 장치에 제공하기 위한 소리 캡처 장치를 더 포함한다.
선택적으로, 상기 시스템은 하나 이상의 오디오 신호를 나타내는 데이터를 저장하기 위해서 처리 장치와 통신 가능하게 결합된 메모리 장치를 더 포함하며, 처리 장치는 메모리 장치로부터 데이터를 수신하도록 구성된다.
선택적으로, 신경 자극이 뇌의 청각 영역에 제공될 때 대상체가 침묵을 인식하도록 적어도 하나의 소리는 대상체에게 들리지 않는다.
본 명세서에서 달리 정의되지 않는 한, 본 명세서에서 사용된 모든 기술적 및/또는 과학적 용어는 본 발명이 속하는 기술 분야의 숙련자가 일반적으로 이해하는 것과 동일한 의미를 가진다. 본 명세서에서 설명된 것과 유사하거나 등가인 방법 및 재료가 본 발명의 실시예의 실시 또는 테스트에 사용될 수 있지만, 예시적인 방법 및/또는 재료가 아래에서 설명된다. 상충되는 경우에, 정의를 포함한 특허 명세서가 우선한다. 또한, 재료, 방법 및 예는 예시일 뿐 반드시 제한하려는 의도가 아니다.
본 발명의 몇몇 실시예는 첨부된 도면을 참조하여 단지 예로서 본 명세서에서 설명된다. 도면을 구체적으로 참조하면, 도시된 세부사항은 예시로서 그리고 본 발명의 실시예에 대한 예시적인 논의를 위한 것임을 강조한다. 이와 관련하여, 도면과 함께 취해진 설명은 본 발명의 실시예가 어떻게 실시될 수 있는지를 당업자에게 자명하게 한다.
이제 유사한 참조 부호 또는 문자가 상응하거나 유사한 구성요소를 나타내는 도면에 주목한다. 도면에서:
도 1은 본 발명의 실시예에 따른, 대상체 뇌의 청각 영역과 인터페이스하고 신경 자극을 오디오 신호로 또는 그 반대로 변환하기 위한 처리 장치, 소리를 캡처하기 위한 소리 캡처 장치, 및 처리 장치와 소리 캡처 장치와 연관된 제어 유닛을 갖는 시스템의 개략도이며;
도 2는 본 발명의 실시예에 따른, 처리 장치가 청신경 이식을 통해 뇌의 청각 영역과 인터페이스하는 도 1의 처리 장치의 예시적인 전개의 개략도이며;
도 3은 본 발명의 실시예에 따른 예시적인 처리 장치의 블록도이며;
도 4는 본 발명의 실시예에 따른, 신체 장착형 마이크로폰 장치로서 도 1의 소리 캡처 장치의 예시적인 전개의 개략도이며;
도 5는 본 발명의 실시예에 따른, 처리 장치와 대상체 뇌의 청각 영역 사이의 인터페이싱에 사용될 수 있는 전극 어레이를 포함하는 예시적인 유선 인터페이스의 개략도이며;
도 6은 본 발명의 실시예에 따른, 처리 장치에 연결된 송신기 유닛 및 수신기 유닛에 연결된 전극 어레이를 도시하는, 처리 장치와 대상체 뇌의 청각 영역 사이의 인터페이싱에 사용될 수 있는 예시적인 무선 인터페이스의 개략도이며;
도 7은 처리 장치로부터 수신된 데이터를 저장하는 메모리, 및 통신 네트워크를 통한 원격 서버와의 데이터를 교환하기 위해 처리 장치에 연결된 송수신 유닛을 도시하는, 본 발명의 실시예에 따른 처리 장치가 작동할 수 있는 시스템 환경의 개략도이며;
도 8은 본 발명의 실시예에 따른, 도 1에 예시된 시스템과 유사하지만 대상체의 뇌의 상이한 각각의 영역과 인터페이싱하는 한 쌍의 처리 장치가 전개되는 시스템의 개략도이다.
이제 유사한 참조 부호 또는 문자가 상응하거나 유사한 구성요소를 나타내는 도면에 주목한다. 도면에서:
도 1은 본 발명의 실시예에 따른, 대상체 뇌의 청각 영역과 인터페이스하고 신경 자극을 오디오 신호로 또는 그 반대로 변환하기 위한 처리 장치, 소리를 캡처하기 위한 소리 캡처 장치, 및 처리 장치와 소리 캡처 장치와 연관된 제어 유닛을 갖는 시스템의 개략도이며;
도 2는 본 발명의 실시예에 따른, 처리 장치가 청신경 이식을 통해 뇌의 청각 영역과 인터페이스하는 도 1의 처리 장치의 예시적인 전개의 개략도이며;
도 3은 본 발명의 실시예에 따른 예시적인 처리 장치의 블록도이며;
도 4는 본 발명의 실시예에 따른, 신체 장착형 마이크로폰 장치로서 도 1의 소리 캡처 장치의 예시적인 전개의 개략도이며;
도 5는 본 발명의 실시예에 따른, 처리 장치와 대상체 뇌의 청각 영역 사이의 인터페이싱에 사용될 수 있는 전극 어레이를 포함하는 예시적인 유선 인터페이스의 개략도이며;
도 6은 본 발명의 실시예에 따른, 처리 장치에 연결된 송신기 유닛 및 수신기 유닛에 연결된 전극 어레이를 도시하는, 처리 장치와 대상체 뇌의 청각 영역 사이의 인터페이싱에 사용될 수 있는 예시적인 무선 인터페이스의 개략도이며;
도 7은 처리 장치로부터 수신된 데이터를 저장하는 메모리, 및 통신 네트워크를 통한 원격 서버와의 데이터를 교환하기 위해 처리 장치에 연결된 송수신 유닛을 도시하는, 본 발명의 실시예에 따른 처리 장치가 작동할 수 있는 시스템 환경의 개략도이며;
도 8은 본 발명의 실시예에 따른, 도 1에 예시된 시스템과 유사하지만 대상체의 뇌의 상이한 각각의 영역과 인터페이싱하는 한 쌍의 처리 장치가 전개되는 시스템의 개략도이다.
본 발명의 실시예는 청신경에 의해 전달되는 신경 자극을 나타내는 신호를 획득하고 이들 신호를 오디오 신호(아날로그 또는 디지털 신호일 수 있음)로 변환하고, 오디오 신호(아날로그 신호 또는 디지털일 수 있음)를 해당 신경 자극으로 변환하고 이들 신경 자극을 예를 들어, 전달을 위한 청신경을 통해 뇌의 청각 영역에 제공하기 위한 방법 및 시스템을 제공한다.
본 발명에 따른 방법 및 시스템의 원리 및 작동은 설명을 수반하는 도면을 참조하면 더 잘 이해될 수 있다.
본 발명의 적어도 하나의 실시예를 상세히 설명하기 전에, 본 발명은 다음의 설명에 기재되고/되거나 도면 및/또는 예에 예시되는 구성요소의 구성 및 및/또는 방법의 세부사항에 대한 적용으로 반드시 제한되지 않는다는 것을 이해해야 한다. 본 발명은 다른 실시예가 가능하거나 다양한 방식으로 실시 또는 수행될 수 있다.
이제 도면을 참조하면, 도 1은 본 발명의 실시예에 따른, 일반적으로 도면 부호 10으로 지정된 시스템의 개략도이다. 일반적으로 말하면, 시스템(10)은 대상체의 청각 지각을 담당하는 대상체(40)의 뇌(42) 영역(43)에 인터페이싱(통신적으로 결합)하기 위한 컴퓨터 처리 장치(12)(이후에 상호 교환적으로 "처리 장치"로 지칭함)를 포함한다. 이러한 영역(43)은 이후 "청각 영역"으로 지칭된다. 인간 대상체뿐만 아니라 다른 많은 유형의 동물(예를 들어, 개과의 종, 고양이과의 종, 비-인간 영장류 종, 설치류 종 포함)에서, 이러한 청각 영역(43)은 일반적으로 청각 피질(auditory cortex)로 지칭된다. 인간과 다른 많은 척추동물에서, 청각 피질은 청각 정보를 처리하는 측두엽(temporal lobe)의 일부이다. 대뇌 피질이나 청각 피질이 없는 동물 종(예를 들어, 파충류 종, 조류 종, 비-포유류 해양/수생 종)에서, "청각 영역(auditory region)"이라는 용어는 청각 처리를 수행하는 뇌의 등가 부분 또는 부분들을 지칭한다.
예시된 실시예에서, 처리 장치(12)는 여기서 한 쌍의 신경(46)으로 예시된 적어도 하나의 신경(46)을 통해 청각 영역(43)과 인터페이스되며, 이들 각각은 각각의 귀(44)와 뇌(42) 사이의 경로 역할을 한다. 본 개시의 맥락에서, 신경(들)(46)은 청신경(acoustic nerve) 또는 청각 신경(auditory nerve)으로 상호교환적으로 지칭된다. 본 명세서에 사용된 바와 같이 용어 "청신경" 또는 "청각 신경"은 일반적으로, 뇌(그리고 그에 따른 대상체)에 의해 소리로서 해석되고 인식되도록 귀 또는 귀들(44)에 의해 검출된 기계적 파동(예를 들어, 진동)으로부터 변환된 펄스(예를 들어, 신경 자극)를 뇌(42)(특히 뇌의 청각 영역(43))로 전달할 수 있는 임의의 신경 또는 신경 세그먼트(nerve segment)을 지칭한다. 통상적으로, 각각의 귀에는 귀로부터 뇌까지의 경로를 제공하는 연관된 청신경이 있다.
인간 대상에서, 청신경(46)은 전정 신경(vestibular nerve)의 달팽이 신경(cochlear nerve)을 포함하는, 전정와우 신경(vestibulocochlear nerve)(청각 전정 신경으로도 지칭됨)의 하나 이상의 신경을 전형적으로 포함하는 생리학적 청신경이다. 이는 예를 들어, 영장류 종, 개과 종, 고양이과 종뿐만 아니라 기타 척추동물을 포함하는 특정 다른 동물 종에서도 마찬가지일 수 있다.
바람직하지만 제한되지 않는 특정 전개 구성에서, 처리 장치(12)는 달팽이관 신경(즉, 귀(44) 중 하나와 연관된 단일 달팽이관 신경, 또는 각각의 귀(44)와 연관된 두 개의 달팽이관 신경) 중 하나 또는 둘 모두를 통해 청각 영역(43)에 통신 가능하게 결합된다.
아래에서 더 자세히 논의되는 바와 같이, 처리 장치(12)는 소리 정보를 전달하고 뇌(42)의 청각 영역(43)으로 전송되는 신경 자극과 연관된 신호를 수신하도록 작동한다. 처리 장치(12)에 의해 신호를 수신하는 이러한 프로세스는 일반적으로 본 명세서에서 "신경 자극을 수집하는 것" 또는 "신경 자극 수집"으로 지칭된다. 신경 자극은 전형적으로 대상체의 청각 감각 시스템의 청각 자극에 반응하여 신경 경로를 따라 귀(44)에서 뇌(42)의 청각 영역(43)까지 신경(46)에 의해 전달된다.
이러한 청각 자극은 여러 형태일 수 있으며, 대상체("사용자"로도 지칭함)(40)가 자연 오디오 소스 및/또는 전자 오디오 소스를 포함하는 하나 이상의 오디오 소스로부터의 소리에 노출될 때 발생한다. 일반적인 말로, 청각 자극은 한쪽 또는 양쪽 귀(44)가 대상체 환경의 소스, 예를 들어 대상체와 대화하는 사람, 대상체 근처에서 연주되는 음악(라이브 악기 및/또는 노래, 또는 오디오 출력 장치, 예를 들어 라디오, 스테레오 시스템 등에서 재생되는 녹음된 악기 및/또는 노래), 전화 장치의 오디오 출력, 비디오 디스플레이 장치, 예를 들어 텔레비전, 스마트폰 등의 오디오 출력 등에서 방출되는 소리를 수집/감지할 때 발생한다.
청각 자극(소리)에 상응하는 기계적 파동(진동)은 귀(44)에 의해 검출/감지되고, 청신경(46)에 의해 뇌(42)의 청각 영역(43)에 전달되는 신경 자극으로 변환되어 소리로 뇌(42)에 의해 해석된다. 뇌(42)에 의한 신경 자극의 이러한 해석은 본 명세서에서 "청각 지각(auditory perception)"으로 지칭된다.
덧붙여서, 건강하게 기능하는 청각 시스템을 가진 인간 대상체에서, 소리 수집 프로세스는 전형적으로, 외이에 의한 소리 진동이 고막으로 전달되어 중간 주파수 범위의 소리/진동 압력을 증가시키는 것을 포함한다. 그러면 중이의 소골(ossicles of the middle-ear)은 압력을 더욱 증폭시키고(대략 20 배 정도) 진동/압력 파형이 내이의 달팽이관에서 신경 자극으로 변환된다.
처리 장치(12)는 청각 자극의 (대상체(40)에 의한)청각 지각을 나타내는 적어도 하나의 오디오 신호(디지털 신호 또는 아날로그 신호일 수 있음)를 발생(생성)하기 위해서 수신된 신호(수집된 신경 자극)를 처리하도록 추가로 작동한다. 환언하면, 생성된 오디오 신호(또는 신호들)는 귀(44)가 청각 자극에 노출될 때(즉, 귀가 소리를 수집할 때) 대상체(40)가 자신의 귀(44)로 듣는 것을 아날로그 또는 디지털로 표현한 것이다. 바람직하게는, 생성된 적어도 하나의 오디오 신호의 컴퓨터 판독 가능 및 컴퓨터 저장 가능한 버전이 생성될 수 있다. 생성된 적어도 하나의 오디오 신호가 디지털 신호(또는 디지털 신호들)인 실시예에서, 디지털 신호(들)는 본질적으로 컴퓨터 판독 가능하고 컴퓨터 저장 가능하다. 생성된 적어도 하나의 오디오 신호가 아날로그 신호(또는 아날로그 신호)인 실시예에서, 아날로그 신호(들)는 신호 및 오디오 처리 분야의 당업자에게 주지된 임의의 수의 신호변환 방법론(conversion methodologies)을 사용하여 컴퓨터 판독 가능 및 컴퓨터 저장 가능하도록 디지털 형식으로 쉽게 변환될 수 있다.
특정 실시예에서, 처리 장치(12)는 하나 이상의 오디오 신호를 일련의 신경 자극(여기서는 하나 이상의 신경 자극으로 정의됨)으로 변환하고, 대상체(40)가 소리(들)를 귀(44)로 듣는 것처럼 대상체(40)가 소리(들)를 청각적으로 인지하도록 신경 자극을 청각 영역(43)에 선택적으로 제공하거나 전달하기 위해서 하나 이상의 소리를 나타내는 하나 이상의 수신된 오디오 신호(아날로그 신호 또는 디지털 소리 데이터, 즉 디지털 데이터 신호일 수 있음)를 처리하도록 추가로 작동한다. 변환된 오디오 신호(들)에 대한 이러한 가청적/청각적 인식은 대상체가 자신의 귀(44)로 소리(들)를 들었다면 대상체(40)가 인식한 것에 대한 충실한 표현이다.
특정 경우에, 하나 이상의 소리는 대상체(40)가 들을 수 있는 소리(즉, 청각 소리 또는 "대상체가 들을 수 있는 소리")이다. 인간은 전형적으로 약 20 Hz 내지 약 20 kHz의 주파수 범위에서 소리를 검출할 수 있지만, 뇌의 청각 영역은 이러한 범위 밖에서도 소리 정보를 전달하는 신경 입력을 처리할 수 있다. 따라서 인간 대상체의 경우에, 대상체가 들을 수 있는 소리는 약 20 Hz 내지 약 20 kHz 범위의 주파수의 소리뿐만 아니라 뇌에서 소리로 해석할 수 있는 이러한 범위 밖의 주파수도 포함한다.
다른 경우에, 하나 이상의 소리가 실제로/효과적으로 대상체에게 들리지 않으므로 대상체의 관점에서 침묵을 효과적으로 나타낸다. 이들 들리지 않는 소리는 대상체가 들을 수 없거나 대상체가 소리로 인식할 수 없는 소리이다. 이는 시간 영역에서 매우 낮은 진폭(예를 들어, 진폭 0)에 있고/있거나 대상체의 가청 주파수 범위를 벗어난 주파수에 있는 소리일 수 있다. 예를 들어, 인간 대상체의 경우에 들리지 않는 소리는 20 Hz 미만 또는 20 kHz 초과의 주파수 및/또는 뇌에서 소리로 해석할 수 없는 주파수의 소리를 포함할 수 있다. 하나 이상의 소리가 대상체에게 들리지 않는(즉, 들리지 않는 소리 또는 "대상체에게 들리지 않는 소리") 경우에, 하나 이상의 소리를 나타내는 하나 이상의 오디오 신호는 "침묵(silence)"을 효과적으로 나타내며, 예를 들어 시간 영역에서 매우 낮은 진폭(예를 들어, 진폭이 0이거나 진폭이 0에 매우 가까운)의 유한 지속 시간 신호 및/또는 대상체의 가청 범위를 벗어난 주파수에서 주파수 성분만 갖는 유한 지속 시간 신호로 표현될 수 있다.
특정 실시예에서, 처리 장치(12)는 신경(46)을 신호 전송 매체/채널로 사용하여 청각 영역(43)에 신경 자극을 전송하도록 구성된다. 처리 장치(12)는 신경 자극의 신경 전달을 유도하여 신경(46)을 통해 청각 영역(43)에 신경 자극을 제공(전달)할 수 있다. 특정 실시예에서, 처리 장치(12)는 오디오 신호를 신경 자극에 대응하는 신호(예를 들어, 전기 신호)로 변환하고, 변환된 신호에 해당하는 신경 자극의 전달을 유도하는 대상체(40)(예를 들어, 신경(46) 또는 뇌(42)의 일부에 또는 그 부분에)에 이식된 마이크로 장치, 예를 들어 하나 이상의 미세 전극 또는 미세 변환기로 변환된 신호를 전송하여 신경 자극을 신경(46)에 제공한다.
아래에서 더 자세히 논의되는 바와 같이, 신경 자극으로 변환하기 위해서 처리 장치(12)에 의해 수신되고 처리되는 오디오 신호는 다양한 소스로부터 제공될 수 있는 소리를 대표한다. 예를 들어, 오디오 신호는 처리 장치(12)와 전기적으로 연관된 소리 캡처 장치(예를 들어, 마이크로폰)(28)에 의해 캡처된 소리를 나타낼 수 있다. 다른 예로서, 오디오 신호는 처리 장치(12)에 링크되거나, 연결되거나, 아니면 전기적으로 연관된 컴퓨터화된 저장 장치(즉, 메모리)로부터 검색된 디지털 소리 데이터의 아날로그 표현일 수 있다. 따라서, 처리 장치(12)는 바람직하게, 아날로그 입력과 디지털 입력 모두를 처리하도록 작동한다.
계속해서 도 1을 참조하면, 처리 장치(12)와 청각 영역(43)의 통신 결합은 처리 장치(12)를 뇌(42)의 청각 영역(43)과 통신하게 배치하는 기계-대상체 인터페이싱 장치(18)(이하 "기계-대상체 인터페이스" 또는 간단히 "인터페이스"로 상호 교환적으로 지칭됨)에 의해 실행될 수 있다. 특정 실시예에서, 인터페이스(18)는 2 개의 인터페이싱 부분, 즉 제 1 인터페이싱 부분(18a) 및 제 2 인터페이싱 부분(18b)을 포함할 수 있다. 전자 인터페이스 부분(18a)으로도 지칭되는 제 1 인터페이스 부분(18a)은 처리 장치(12)에 연결된다. 대상체 인터페이싱 부분(18b)으로도 지칭되는 제 2 인터페이싱 부분(18b)은 뇌(42)의 청각 영역(43)에 연결되거나 결합될 수 있다. 두 부분(18a, 18b)은 특정 실시예에서 두 부분(18a, 18b) 사이에 유선 연결을 제공할 수 있고, 다른 실시예에서 두 부분(18a, 18b) 사이에 무선 연결을 제공할 수 있는 링크 부분(20)을 통해 상호 연결된다.
청각 영역(43)에 대한 처리 장치(12)의 통신 결합을 달성하기 위한 다양한 전개 구성이 본 명세서에서 고려되며, 여러 예시적인 전개 구성이 아래에서 더 자세히 설명될 것이다. 본 명세서에서 설명된 전개 구성은 침습적 또는 반침습적 기술을 사용할 수 있는 몇몇 유형의 이식이 필요하다. 예를 들어, 침습적 기술은 대상체의 두개골을 통해 대상체의 청신경 및/또는 청각 영역(예를 들어, 청각 피질)에 외과적으로 접근하는(예를 들어, 외과적으로 두개골을 개방하는 것) 이식을 포함할 수 있다. 뇌, 특히 청각 피질과 청신경(들)에 수행되는 수술은 수년에 걸쳐 일반화되었으며, 훈련된 인간 외과의사 및/또는 (미국 샌프란시스코 소재의 Neuralink Corporation에서 사용하는 것과 같은)로봇 외과의사가 필요한 이식을 수행할 수 있다고 주장한다. 여러 전개 구성을 설명하기 전에, 본 명세서에 설명된 전개 구성은 단지 예시일 뿐이며 처리 장치(12)에 대한 가능한 전개 옵션의 비-포괄적인 하위 집합만을 나타낸다는 점에 유의한다. 당업자라면 자명하듯이, 다른 전개 옵션도 가능할 수 있다.
특정한 비-제한적인 실시예에 따른 하나의 예시적인 전개 구성에서, 처리 장치(12)는 인터페이스(18)를 통해 청신경(46)을 태핑(tapping)함으로써 청신경(46)과 통신한다. 그러한 전개 구성에서, 대상체 인터페이스 부분(18b)은 청신경(46)의 세그먼트(섹션, 부분)에 또는 그 상에 이식될 수 있으며, 이는 특정 비-제한적인 구현에서 먼저 청신경(46)을 외과적으로 절단하여 생성될 수 있다. 청신경(46)의 단부를 절단한 다음, 대상체 인터페이스 부분(18b)을 절단된 단부에 연결한다. 그러한 전개 구성에서, 처리 장치(12)는 바람직하게, 대상체(40)의 뇌(42) 외부에 유지되고, 가장 바람직하게는 대상체의 머리를 볼 때 적어도 부분적으로 볼 수 있도록 두개골 외부에 유지된다. 처리 장치(12)가 대상체(40) 외부에 있는 경우에, 대상체 인터페이스 부분(18b)은 링크 부분(20) 전체 또는 대상체 인터페이싱 부분(18b)에 연결되는 링크 부분(20)의 세그먼트과 함께 청신경(46)에 또는 그 위에 이식된다. 대상체 인터페이싱 부분(18b)에 연결되는 링크 부분(20)의 세그먼트만이 이식되는 경우에, 전자기기 인터페이싱 부분(18a)에 연결되는 링크 부분(20)의 나머지 세그먼트는 대상체(40) 외부에 있다. 바람직하게, 대상체 인터페이스 부분(18b)이 이식되는 청신경(46)의 세그먼트는 (각각의 귀(44)로부터의)청신경(46)이 서로 근접하게 되는 영역(도 1에서 48로 지정됨)에 있다.
다른 예시적인 전개 구성에서, 처리 장치(12)는 대상체(40) 외부에 전개되고, 대상체 인터페이싱 부분(18b)은 링크 부분(20) 전체 또는 대상체 인터페이스 부분(18b)에 연결되는 링크 부분(20)의 세그먼트와 함께 청각 영역(43)에 또는 그 위에 이식된다. 대상체 인터페이싱 부분(18b)에 연결되는 링크 부분(20)의 세그먼트만이 이식되는 경우에, 전자기기 인터페이싱 부분(18a)에 연결되는 링크 부분(20)의 나머지 세그먼트는 대상체(40) 외부에 있다. 그러한 예시적인 전개 구성이 도 1에 개략적으로 예시된다.
비-제한적인 특정 실시예에 따른 다른 예시적인 전개 구성에서, 처리 장치(12) 자체는 인터페이스(18) 전체와 함께 청각 영역(43)에 또는 그 위에 이식될 수 있다. 비-제한적인 실시예에 따른 다른 예시적인 전개 구성에서, 처리 장치(12)는 청신경(46)의 세그먼트에 또는 그 위에 이식된다. 도 2는 그러한 전개 구성을 개략적으로 예시한다. 여기서, 이식은 예를 들어, 먼저 청신경(46)을 외과적으로 절단하여 청신경(46)의 절단 단부(50a, 50b)을 생성한 다음에, 외과적 절단 부위에서 처리 장치(12)를 전개하고 인터페이스(18)를 통해 청신경(46)의 절단 단부(50a, 50b)를 처리 장치(12)에 (외과적으로)연결함으로써 실시될 수 있다. 그러한 전개 구성에서, 처리 장치(12)가 이식되는 청신경(46)의 세그먼트는 반드시 그런 것은 아니지만 영역(48)(즉, 2 개의 청신경(46)이 서로 근접해 있는 곳)에 있는 것이 바람직하며, 이에 의해 청신경(46)은 영역(48)에서 또는 영역 내에서 (절단 단부(50a, 50b)를 생성하기 위해서)외과적으로 절단된다. 처리 장치(12) 또는 인터페이스(18)가 청신경(46)에 이식되는 실시예에서, 처리 장치(12)는 인터페이스되는 절단 단부(50a, 50b)가 동일한 신경에 대응하도록 보장하는 데 주의를 기울여야 한다는 점에 유의해야 하며, 그렇지 않으면 예를 들어, 한쪽 귀에 의해 수집된 소리와 연관된 신경 자극이 다른 쪽 귀에 해당하는 청각 영역(43)의 일부로 전달되고 그 반대의 경우도 마찬가지인 교차 매칭이 발생할 수 있다.
위에서 언급한 바와 같이, 처리 장치(12)는 청각 자극에 노출되는 귀(44)에 응답하여 신경(46) 중 하나 이상에 의해 전달되는 신경 자극에 대응하는 수신 신호를 처리하는 기능을 한다. 처리 장치(12)에 의해 처리되는 수신 신호는 신경 자극 그 자체일 수 있거나, 몇몇 유형의 마이크로장치, 예를 들어 처리 장치(12)와 연관된 미세 전극 또는 미세 변환기를 갖는 미세 장치에 의한 신경 자극의 측정 또는 샘플링에 응답하여 생성되는(즉, 발생되는) 대표적인 신호일 수 있다. 처리 장치(12)는 매핑 기능(mapping function) 또는 기능들(매핑 데이터를 포함)을 신호에 적용하여 신호(수집된 신경 자극)를 처리한다. 매핑 기능은 신경 자극와 오디오 신호 사이를 매핑, 즉 신경 자극을 오디오 신호로 또는 그 반대로 변환하여 수신된 신호(신경 자극을 대표함)가 처리 장치(12)에 의한 매핑 기능 적용의 결과로써 오디오 신호로 변환(변형)된다. 이러한 신경 자극 대 오디오 신호 매핑 기능은 바람직하게는 일대일 매핑이고, 이하에서는 "자극-소리 매핑(impulse-sound mapping)"으로 상호 교환적으로 지칭된다. 일대일 매핑이란 단일 신경 자극 신호가 단일 오디오 신호에 매핑되고, 단일 오디오 신호가 단일 신경 자극에 매핑되는 것을 의미한다. 특정 실시예에서, 신경 자극과 오디오 신호 사이의 매핑은 또한, 신경 자극과 디지털 데이터 사이의 매핑을 구성한다(임의의 매핑된 오디오 신호가 오디오/신호 처리 기술을 사용하여 쉽게 디지털화(예를 들어, 샘플링 및 양자화)될 수 있고 그 반대도 마찬가지이기 때문이다).
자극-소리 매핑 기능을 생성하는 다양한 예시적인 방법은 본 개시의 후속 섹션에서 자세히 설명될 것이다.
매핑 기능 또는 기능들은 아래에서 더 설명되는 바와 같이 처리 장치(12)와 연관된 메모리 장치에 저장될 수 있다. 특정 실시예에서, 매핑 기능(들)은 예를 들어, 매핑 매개변수 및 구성을 저장하는 데이터 테이블의 형태로 데이터 항목 또는 데이터 구조로서 저장될 수 있다. 다른 실시예에서, 매핑 기능(들)은 오디오 신호와 신경 자극 사이의 기능 관계를 제공하는 수학식 또는 수학식 세트로 저장될 수 있다. 전술한 형식은 단지 예시일 뿐이며, 본 명세서에는 매핑 기능의 다른 형식도 고려된다.
계속해서 도 1 및 도 2를 참조하고, 또한 본 발명의 비-제한적인 실시예에 따른 처리 장치(12)의 예시적인 블록도를 도시하는 도 3을 참조한다. 처리 장치(12)는 컴퓨터 메모리 등과 같은 컴퓨터 저장 매체(16)에 결합된 하나 이상의 프로세서(14)를 포함한다. 하나 이상의 프로세서(14)는 마이크로프로세서, 마이크로컨트롤러, 주문형 집적 회로(ASIC), 필드 프로그래밍 가능한 게이트 어레이(FPGA), 디지털 신호 프로세서(DSP), 필드 프로그래밍 가능한 논리 어레이(FPLA) 등을 포함하지만, 이에 제한되지 않는 임의의 수의 컴퓨터 프로세서로서 구현될 수 있다. 마이크로프로세서 구현에서, 마이크로프로세서는 예를 들어, 서버, 컴퓨터 및 기타 컴퓨터 장치에 사용되는 것과 같은 기존 프로세서일 수 있다. 예를 들어, 마이크로프로세서는 AMD 및 Intel의 x86 프로세서, Intel의 Xeon® 및 Pentium® 프로세서뿐만 아니라 이들의 조합을 포함할 수 있다. 양자 컴퓨터 프로세서로서 하나 이상의 프로세서(14)의 구현도 본 명세서에서 고려된다. 전술한 컴퓨터 프로세서는 컴퓨터 판독 가능한 매체를 포함하거나 그와 전자 통신할 수 있으며, 컴퓨터 판독 가능한 매체는 컴퓨터 프로세서에 의해 실행될 때 컴퓨터 프로세서가 작동을 수행하게 하는 프로그램 코드 또는 명령어 세트를 저장한다. 컴퓨터 판독 가능한 매체의 유형은 컴퓨터 판독 가능한 명령을 컴퓨터 프로세서에 제공할 수 있는 전자, 광학, 자기 또는 기타 저장 또는 전송 장치를 포함하지만 이에 제한되지 않는다. 하나 이상의 프로세서(14)의 위에서 언급된 구현은 예시적인 구현의 완전하지 않은 목록을 나타낸다는 점에 유의한다. 처리 장치의 다른 구현이 본 명세서에서 고려되며, 예를 들어 생물학적 컴퓨팅 기술을 포함한 본 명세서에 설명되지 않았거나 아직 완전히 개발되지 않은 처리 기술이 본 명세서에서 논의된 임의의 처리 장치를 구현하는 데 적합할 수 있다는 것은 당업자에게 자명할 것이다.
저장소/메모리(16)는 임의의 통상적인 저장 매체 또는 애플리케이션 특정 저장 매체일 수 있으며, 비록 대표적인 목적을 위해서 단일 구성요소로 도시되었지만 다중 구성요소일 수 있다. 저장소/메모리(16)는 예를 들어, 하나 이상의 휘발성 또는 비휘발성 메모리, 플래시 메모리, 읽기 전용 메모리, 랜덤 액세스 메모리 등, 또는 이들의 임의의 조합을 포함하는 다양한 방식으로 구현될 수 있다. 특정 실시예에서, 저장소/메모리(16)는 자극-소리 매핑을 저장하고 유지하기 위한 하나 이상의 구성요소, 및 하나 이상의 프로세서(16)에 의해 실행될 수 있는 기계 실행 가능한 명령어를 저장하도록 구성된 적어도 하나의 구성요소를 포함할 수 있다.
특정 실시예에서, 처리 장치(12)는 하나 이상의 규칙이나 처리 기준에 따라서, 생성된 오디오 신호(들)(자극-소리 매핑의 적용을 통해 신경 자극을 처리함으로써 처리 장치(12)에 의해 생성된 오디오 신호(들)를 포함함)에 대해 적어도 하나의 작업을 수행하도록 추가로 작동한다. 예를 들어, 처리 장치(12)는 데이터 저장 규칙 또는 기준 세트에 따라서 생성된 오디오 신호(들)에 대해 작동하도록 구성될 수 있어서, 처리 장치(12)는 생성된 오디오 신호(들)를 나타내는 디지털 데이터의 일부 또는 전부를 처리 장치(12)와 연관된 하나 이상의 컴퓨터화된 저장소/메모리로 전송한다. 그러한 연관된 저장소/메모리 장치는 예를 들어, 저장소/메모리(16), 또는 이제 논의되는 바와 같이 처리 장치(12)에 링크되거나 연결되는 다른 저장소/메모리 장치를 포함할 수 있다.
도 7을 추가로 참조하면, 처리 장치(12)에 링크되거나 연결될 수 있는 다른 저장소/메모리의 예는 예를 들어, 외부 저장 장치/메모리(32) 및 서버 시스템(34)(메모리를 가짐)을 포함한다. 처리 장치(12)가 생성된 오디오 신호(들)를 나타내는 디지털 데이터의 일부 또는 전부를 서버 시스템(34)에 전송하는 실시예에서, 서버 시스템은 원격 서버 시스템일 수 있으며, 이로써 처리 장치(12)는 통신 네트워크(36)(셀룰러 네트워크, 근거리 네트워크, 인터넷 등과 같은 하나 이상의 통신 네트워크일 수 있음)를 통해 오디오 신호(들)를 나타내는 데이터를 서버 시스템(34)에 전송한다. 그러한 실시예에서, 처리 장치(12)는 네트워크(36)로/로부터 데이터를 전송/수신(즉, 네트워크와 데이터 교환)하기 위한 통신/네트워크 인터페이스를 제공하는 트랜시버(Tx/Rx) 유닛(30)에 링크될 수 있다.
다른 비-제한적인 예에서, 처리 장치(12)는 수정된 오디오 신호 또는 수정된 오디오 신호를 생성하기 위해서 신호 수정 또는 조작 규칙 또는 기준의 세트에 따라 생성된 오디오 신호(들)에 대해 작동하도록 구성될 수 있다. 예를 들어, 처리 장치(12)는 (소리 캡처 장치(28)로부터 또는 처리 장치(12)와 연관된 메모리, 예를 들어 저장 장치/메모리(16), 외부 저장 장치/메모리(16)로부터)추가 소리를 추가함으로써, 및/또는 메모리(32, 서버 시스템(34)), 및/또는 생성된 오디오 신호(들)의 디지털 버전의 데이터 요소(예를 들어, 비트)를 변경 또는 삭제하고/하거나 예를 들어 볼륨, 피치, 톤 등을 포함한 오디오 신호(들)의 오디오 매개변수를 조정함으로써 생성된 오디오 신호(들)를 수정할 수 있다. 예를 들어, 처리 장치(12)는 오디오 신호가 생성된 소리와 연관된 볼륨을 증가시키거나 감소시키기 위해서 오디오 신호를 수정할 수 있다. 다른 예로서, 처리 장치(12)는 소리의 하나 이상의 주파수(음조)를 변경하기 위해서 오디오 신호를 수정할 수 있다. 추가적인 예로서, 처리 장치(12)는 생성된 오디오 신호에 대해 잡음 제거 또는 간섭 감소 신호 처리를 수행하여 생성된 오디오 신호를 수정함으로써 배경 잡음 또는 간섭을 감소시킬 수 있다. 추가 예에서, 처리 장치(12)는 대상체에게 침묵의 인식을 제공하기 위해서 오디오 생성 신호에 대해 취소 처리를 수행함으로써 생성된 오디오 신호를 수정할 수 있다. 예를 들어, 처리 장치(12)는 생성된 오디오 신호를 생성된 오디오 신호의 음의 변위 버전과 조합하여 상쇄 간섭을 유도함으로써 두 신호가 서로 조합하여 효과적으로 서로 상쇄되며, 그에 의해 0-진폭(또는 0에 매우 가까운 진폭)의 유한 지속 시간 신호를 초래할 수 있다.
특정 실시예에서, 처리 장치(12)는 수정된 오디오 신호(들)를 다시 신경 자극으로 변환하고(자극-소리 매핑을 사용하여) 해당 신경 자극을 청신경(46)을 통해 뇌(42)로 전송할 수 있다. 특정 실시예에서, 이는 대상체(40)가 인지한 소리를 증가시키는 데 사용될 수 있으며, 그에 따라 뇌(42)는 수신된 신경 자극을 귀(44)에 의해 감지된 원래 소리로 해석하여 추가 소리로 증폭된다. 예를 들어, 음악을 듣는 사람은 자신의 귀(44)에 의해 감지된 음악 소리를 강화하여 악곡의 다양한 측면(예를 들어, 작곡가/가수 정보, 작품에 대한 영감, 역사적 맥락 등)을 논의하는 음성 해설(voice-over)(예를 들어, 저장소/메모리와 같은 메모리(16)에 저장되고 업로드되는 음성 해설 디지털 소리 데이터)을 가질 수 있다. 다른 실시예에서, 예를 들어 처리 장치(12)가 진폭이 0인 수정된 오디오 신호를 생성하기 위해서 상쇄 간섭을 유도하도록 생성된 오디오 신호를 수정하는 경우에, 신경 자극으로 변환되는 수정된 오디오 신호는 들리지 않는 소리를 나타냄으로써 수정된 오디오 신호에서 생성된 신경 자극이 뇌의 청각 영역(43)에 제공될 때 대상체는 신경 자극을 침묵으로 인식한다.
수정된 오디오 신호(들)는 또한, 메모리(예를 들어, 저장소/메모리(16) 및/또는 외부 저장소/메모리(32) 및/또는 서버 시스템(34))에 디지털 형태로 저장될 수 있다.
특정 실시예에서, 처리 장치(12)는 오디오 신호(아날로그 신호 또는 디지털 소리 데이터 신호일 수 있음)를 신경(46)에 의해 전달되는 신경 자극(또는 신경 자극을 나타내는 전기 신호)으로 변환하도록 추가로 작동한다. 위에서 설명한 자극-소리 매핑 기능을 적용하면 오디오 신호를 신경 자극으로 변환할 수 있다. 각각의 대상체가 소리를 다르게 인식하거나 해석할 수 있으므로 각각의 대상체에 대한 매핑은 대상체별 매핑일 수 있다(즉, 하나의 대상체에 대한 매핑이 다른 대상체에 대한 매핑과 다를 수 있다). 그러나, 주어진 자극-소리 매핑의 특수성에 관계없이, 자극-소리 매핑 기능(들)을 사용하여 오디오 신호로부터 변환된 신경 자극이 대상체(40)에 대한 실제 소리에 대한 청각적 인식을 충실하게 생성하도록 매핑하는 것이 바람직하다.
신경 자극으로 변환될 오디오 신호는 예를 들어 i) 소리를 캡처하고 캡처된 소리로부터 아날로그 오디오 신호를 생성하며 처리를 위해서 처리 장치(12)에 아날로그 오디오 신호를 제공하는 소리 캡처 장치(예를 들어, 도 1 및 2의 소리 캡처 장치(28))와 같은 외부 소스로부터 얻은 아날로그 오디오 신호, ii) 아날로그 소리를 캡처하여 아날로그 소리를 디지털 소리 데이터로 변환하거나 캡처된 아날로그 소리를 디지털화(즉, 디지털로의 변환)를 위해서 처리 장치(12)에 제공하는 소리 캡처 장치와 같은 외부 소스로부터 얻은 디지털 소리 데이터 소리 데이터, iii) 소리를 디지털 형식으로 저장하는 메모리와 같은 외부 소스로부터 얻은 디지털 소리 데이터, iv) 수집된 신경 자극으로부터 처리 장치(12)에 의해 생성된 오디오 신호(들), v) 위에서 논의한 처리 장치(12)에 의해 적용된 수정의 결과인 수정된 오디오 신호(들), vi) 오디오 신호의 임의의 다른 소스 및/또는 위의 i), ii), iii), iv) 및 v)의 임의의 조합일 수 있다.
소리 캡처 장치(28)가 오디오 신호를 디지털 신호(즉, 디지털 데이터)로서 처리 장치(12)에 제공하는 실시예에서, 디지털 신호는 예를 들어, MPEG(Moving Picture Experts Group: 동영상 전문가 그룹)-1 오디오 레이어 III(일반적으로 MP3로 공지됨), AAC(Advanced Audio Coding: 고급 오디오 부호화)와 같은 손실 포맷, 및 예를 들어 FLAC(Free Lossless Audio Codec: 무료 무손실 오디오 코덱), 파형 오디오 파일( WAV) 등과 같은 무손실 또는 무압축 포맷을 포함하는 임의의 적합한 데이터 형식 또는 표준으로 제공될 수 있다. 처리 장치(12)는 특정 실시예에서 디지털 신호(들)를 아날로그 형태로 변환한 다음 자극-소리 매핑을 아날로그 신호(들)에 적용할 수 있다.
소리 캡처 장치(28)가 캡처된 소리를 나타내는 아날로그 오디오 신호를 처리 장치(12)에 제공하는 실시예에서, 처리 장치(12)는 위에 나열된 임의의 포맷 및 표준과 같은 임의의 적합한 소리 데이터 포맷 또는 표준을 준수하는 디지털 데이터로 아날로그 신호를 변환하기 위해 아날로그 신호를 처리하도록 추가로 구성될 수 있다.
또한, 디지털 데이터(오디오 신호를 나타냄)는 예를 들어, 실시간 스트리밍 프로토콜(RTSP), 전송 제어 프로토콜(TCP), 사용자 데이터그램 프로토콜(UDP) 등을 포함하는 임의의 적합한 전송 포맷 또는 표준뿐만 아니라, 셀룰러 표준(예를 들어, 3G, 4G/LTE, 5G 등), 무선 통신 표준(예를 들어, Wi-Fi, Bluetooth 등) 등과 같은 무선 데이터 전송 표준을 포함하는 데이터 전송에 일반적으로 사용되는 임의의 기타 표준, 및 유선통신 표준을 사용하여 처리 장치(12)로 또는 처리 장치(12)로부터 전송될 수 있다.
다른 비-제한적인 예에서, 처리 장치(12)는 재생 규칙 또는 기준 세트에 따라 생성된 오디오 신호(들)에 대해 작동하도록 구성될 수 있다. 예를 들어, 처리 장치(12)는 오디오 재생 장치가 생성된 오디오 신호로 표현되는 소리를 청각적으로 재생하도록 생성된 오디오 신호(들)를 디지털 형태로 처리 장치(12)에 연결되거나 링크된 디지털 오디오 재생 장치(예를 들어, MP3, 디지털 스테레오 등)에 제공하도록 구성될 수 있다. 처리 장치(12)는 임의의 적합한 오디오 전송 포맷이나 표준, 또는 위에서 논의된 포맷 및 표준 중 임의의 포맷을 포함한 데이터 전송에 일반적으로 사용되는 표준을 사용하여 이러한 오디오 재생 장치에 디지털 데이터를 전송하거나 송신할 수 있다. 대안적으로, 처리 장치(12)는 생성된 오디오 신호(들)를 아날로그 형태로 아날로그 오디오 재생 장치에 제공하도록 구성될 수 있다.
도 1 및 도 2에 예시된 예시적인 실시예에서, 시스템(10)은 대상체(40)가 현재 위치하는 환경 또는 대상체의 현재 위치에서 멀리 떨어져 있는 환경을 포함한 환경으로부터 소리를 캡처하도록 작동하는 소리 캡처 장치(28)(본 명세서에서는 "오디오 캡처 장치(audio capture device)"로 상호 교환적으로 지칭됨)를 더 포함한다. 특정 실시예에서, 소리 캡처 장치(28)는 대상체(40)가 소리 캡처 장치(28)에 의해 캡처된 소리를 들을 수 있도록, 또는 소리 캡처 장치(28)에 의해 캡처된 소리로 환경에 대한 대상의 자연스러운 청각/청각 인식을 강화하기 위해서 대상체(40)의 생체공학적인/전자적인 귀로 사용될 수 있다(이는 청력 상실로 고통받는 대상체에게 특히 유리할 수 있다).
특정 실시예에서, 소리 캡처 장치(28)는 소리를 캡처하여 하나 이상의 아날로그 오디오 신호를 생성하고 하나 이상의 아날로그 오디오 신호를 디지털 데이터로 변환하고 디지털 데이터를 처리 장치(12)로 전송한다. 처리 장치(12)는 자극-소리 매핑의 디지털 버전을 사용하여 디지털 데이터를 직접 처리할 수도 있고, 디지털 데이터를 아날로그 형태로 변환한 후 자극-소리 매핑을 적용할 수도 있다. 다른 실시예에서, 소리 캡처 장치(28)는 처리를 위해서 처리 장치(12)에 오디오 아날로그 신호를 제공한다. 처리 장치는 자극-소리 매핑을 사용하여 아날로그 오디오 신호를 처리할 수 있거나, 아날로그 오디오 신호를 디지털화하여 디지털 데이터를 생성한 다음 자극-소리 매핑의 디지털 버전을 사용하여 디지털 데이터를 처리할 수 있다.
아날로그 오디오 신호를 디지털 형식으로 변환하는 것은 신호 및 오디오 처리 분야의 당업자에게 주지된 신호 변환 방법론에 의존하는 위에서 논의된 표준 중 임의의 것을 포함하여 임의의 적합한 포맷 또는 표준에 따라서(소리 캡처 장치(28) 또는 처리 장치(12)에 의해서) 수행되는 것이 바람직하다는 점에 유의한다. 더욱이, 특정 실시예에서 소리 캡처 장치(28)는 임의의 적합한 전송 포맷이나 표준, 또는 위에서 논의된 포맷 및 표준 중 임의의 것을 포함하여 데이터 전송에 일반적으로 사용되는 임의의 표준을 사용하여 처리 장치(12)에 디지털 데이터를 전송할 수 있다.
계속해서 도 1 내지 도 3을 참조하고, 소리 캡처 장치(28)의 비-제한적인 전개 구성을 예시하는 도 4를 또한 참조한다. 여기서, 소리 캡처 장치(28)는 대상체(40), 예를 들어 대상체의 몸통 상부 부분(예를 들어, 가슴)를 덮는 의류 품목(예를 들어, 셔츠, 블라우스 등)에 (바람직하게는 간접적으로)장착된다. 이는 단지 예시일 뿐이며, 소리 캡처 장치(28)는 몸통의 다른 부분(예를 들어, 등, 중간 부분, 허리), 팔, 다리, 머리 등 대상체 신체의 다른 부분에 (바람직하게는 간접적으로)쉽게 장착되거나 부착될 수 있다. 대안적으로, 소리 캡처 장치(28)는 대상체에 의해 휴대되거나 대상체와 연관될 수 있다. 예를 들어, 대상체는 단순히 소리 캡처 장치를 손에 쥐거나 입고 있는 옷의 주머니에 소리 캡처 장치를 보관할 수 있다. 비-제한적인 일 예에서, 대상체의 모바일 통신 장치(예를 들어, 휴대폰, 스마트폰, 태블릿 등)는 예를 들어, 모바일 통신 장치의 프로세서에 의해 실행되는 하나 이상의 소프트웨어 애플리케이션을 통해 소리 캡처 기능을 제공할 수 있다. 간단한 예에서, 오디오 캡처(예를 들어, 녹음) 기능을 갖춘 스마트폰은 소리 캡처 장치로 기능을 할 수 있으며 스마트폰에 의해 실행되는 소프트웨어 애플리케이션을 통해 처리 장치(12)에 연결될 수 있다.
또한, 단일 장치로 예시되지만, 대상체(40)의 공간적 위치 또는 방위와 관련하여 상이한 방향 또는 위치에서 나오는 소리를 캡처하기 위해서 하나 초과의 소리 캡처 장치(28)가 전개될 수 있다. 예를 들어, 하나의 마이크를 제 1 공간 방향으로 전개하여 제 1 방향이나 영역에서 나오는 소리를 캡처할 수 있고, 다른 마이크를 제 2 공간 방향(제 1 공간 방향과 상이함)으로 전개하여 제 1 방향 또는 영역과 상이한(그러나 부분적으로 겹치는)제 2 방향이나 영역에서 나오는 소리를 캡처할 수 있다. 처리 장치(12)는 청각 영역(43)에 개별적으로 또는 조합하여(바람직하게는 대상체가 선택한 선호도에 따라서) (다른 소리에 대응하는)신경 자극을 제공할 수 있다. 예를 들어, 대상체는 처리 장치(12)가 상이한 소리에 해당하는 모든 신경 자극을 청각 영역(43)에 함께 제공하여 대상체가 모든 소리를 함께 듣도록 선택할 수 있다. 다른 예에서, 대상체는 처리 장치(12)가 청각 영역(43)에 순차적으로 상이한 소리에 대응하는 신경 자극을 제공하여, 개별 소리가 대상체에게 별도로 들리도록 선택할 수 있다.
다른 전개 구성에서, 소리 캡처 장치(28)는 대상체(40)에서 멀리 떨어져 있을 수 있다. 예를 들어, 대상체(40)는 제 1 지리적 위치의 환경에 위치될 수 있으며, 소리 캡처 장치(28)는 제 1 지리적 위치에서 멀리 떨어져 있는 제 2 지리적 위치에 위치할 수 있다. 그러한 구성에서, 소리 캡처 장치(28)는 바람직하게, 오디오 신호(소리 캡처 장치(28)에 의해 캡처됨)를 하나 이상의 통신 네트워크를 통해 처리 장치(12)에 연결된 트랜시버(예를 들어, 도 7의 TX/RX 유닛(30))로 전송하기 위해서 작동하는 트랜시버 장치를 포함하거나 연결된다.
위에서 암시된 바와 같이, 특정 실시예에서, 소리 캡처 장치(28)는 처리 장치(12)와 함께 사용하여 대상체(40)에 전자 귀를 제공할 수 있다. 대상체(40)가 건강하게 기능을 하는 청각 시스템을 갖는 상황에서, 대상체는 시스템(10)이 전자 귀로 기능을 하는 동안 (예를 들어, 소음 제거 헤드폰을 착용함으로써)선택적으로 자연 청력을 억제할 수 있다. 일반적으로, 소리 캡처 장치(28)는 환경으로부터 소리를 캡처하고 캡처된 소리(들)를 나타내는 오디오 신호(들)(아날로그 또는 디지털 포맷)를 신경 자극 변환을 위해서 처리 장치(12)에 제공한다. 소리 캡처 장치(28)에 의해서 캡처된 소리는 대상체의 청력이 억제되지 않은 경우에 대상체가 듣게 될 것과 동일한 소리일 수 있거나 (예를 들어, 대상체와 소리 캡처 장치(28)가 상이한 지리적 위치에 있는 경우에)다른 소리일 수 있다.
처리 장치(12)는 자극-소리 매핑을 사용하여 오디오 신호(소리 캡처 장치(28)에 의해 제공됨)를 신경 자극 신호로 변환한다. 그런 다음 처리 장치(12)는 신경 자극을 청신경(46)을 통해 뇌(42)에 전송하며, 여기서 뇌(42)는 수신된 신경 자극을 청력/소리로 해석하여 대상체가 마이크로폰(28)에 의해 캡처된 소리를 마치 대상체가 소리를 스스로 듣는 것처럼(매핑은 가청/청각적 지각이 소리를 충실하게 표현하도록 하는 것이 바람직함) 소리를 인식한다. 다른 실시예에서, 처리 장치(12)와 전기적으로 연관된 메모리(예를 들어, 저장소/메모리(16) 및/또는 외부 저장소/메모리(32) 및/또는 서버 시스템(34))에 저장된 디지털 소리 데이터는 처리 장치(12)에 업로드될 수 있다. 처리 장치(12)는 소리 데이터를 신경 자극으로 변환하기 위해서 자극-소리 매핑을 사용하여 업로드된 소리 데이터를 처리할 수 있다. 그런 다음 처리 장치(12)는 신경 자극을 뇌(42)에 전달하여 신경 자극이 뇌(42)에 의해서 청각/소리로 해석되도록 할 수 있다. 예를 들어, 음악이나 오디오 북(audio book)과 같은 일련의 소리를 메모리에 저장하고 대상체에게 업로드/스트리밍할 수 있다.
본 발명의 특정 실시예에 따르면, 시스템(10)은 대상체(40)가 들을 수 있는 환경 소리를 하나 이상의 추가 소리와 융합함으로써 대상체(40)에게 혼합 현실 경험을 제공하는 데 사용될 수 있다. 비-제한적인 예의 한 세트에서, 융합은 대상체(40)가 자신의 귀(44)로 실제 소리를 청취하고 있을 때(즉, 듣는) 수행될 수 있다. 제 1 예에서, 융합은 실제 소리를 듣는 것에 응답하여 대상체(40)에 의해서 생성된 신경 자극을 하나 이상의 오디오 신호(바람직하게는 디지털 형식)로 변환하기 위해서 처리 장치(12)를 사용함으로써 달성될 수 있다. 그런 다음 처리 장치(12)는 소리 캡처 장치(28)에 의해서 캡처된 소리의 일부를 포함하도록 오디오 신호(들)를 수정할 수 있다. 처리 장치(12)는 수정된 오디오 신호(들)를 신경 자극으로 변환하고 이들 신경 자극을 청각 영역(43)에 제공할 수 있어서, 대상체는 환경 소리와 소리 캡처 장치 소리의 일부를 단일 소리로 인식한다. 제 2 예에서, 융합은 처리 장치(12)를 사용하여 오디오 신호(예를 들어 소리 캡처 장치(28) 또는 컴퓨터 메모리 장치로부터 획득됨)를 신경 자극(또는 신경 자극을 나타내는 전기 신호)으로 변환하고, 이들 신경 자극을 청신경(46)에 제공하여 신경 자극이 청각 영역(43)으로 전달함으로써 달성될 수 있다. 그런 다음 뇌(42)는 소리 정보(처리 장치(12)에 의해 생성된 신경 자극에 의해 전달됨)와 소리 정보(실제 소리를 듣는 것에 응답하여 대상체(40)에 의해 생성된 신경 자극에 의해 전달됨)를 단일 소리로 조합한다.
다른 비-제한적인 예에서, 소리 캡처 장치(28)는 오디오 신호를 생성하기 위해서 소리를 캡처하는 데 사용될 수 있으며, 처리 장치(12)는 다른 소리를 나타내는 (예를 들어, 메모리 또는 다른 오디오 소스로부터의)추가 오디오 신호를 포함하도록 오디오 신호(소리 캡처 장치(28)에 의해 생성됨)를 수정할 수 있다. 처리 장치(12)는 수정된 오디오 신호를 신경 자극으로부터 생성된 오디오 신호(실제 소리를 듣는 것에 응답하여 대상체(40)에 의해 생성됨)와 선택적으로 조합(예를 들어, 중첩을 통해)한 다음 조합된 신호를 신경 자극으로 변환하여 뇌(42)에 (예를 들어 청신경(46)을 통해)신경 자극을 제공할 수 있으며, 이에 따라 뇌(42)는 신경 자극을 단일 소리로 해석한다.
부언하면, 처리 장치(12)에 의해 오디오 신호로부터 변환된 신경 자극은 대상체가 해당 소리를 적절하게 인식할 수 있는 기회를 갖도록 대상체의 청각 영역(43)에 적절한 속도로 제공되어야 한다는 점에 유의한다. 구체적으로, 신경 자극이 청각 영역(43)에 너무 빨리 제공되면, 대상체는 해당 소리를 인식하지 못할 수 있다(즉, 대상체가 알아차리기에는 소리가 너무 빨리 변할 수 있으며, 이로 인해 대상체는 방향 감각을 잃게 될 수 있다). 유사하게, 신경 자극이 청각 영역(43)에 너무 느리게 전달되면, 대상체는 자신의 귀로 듣거나 관찰하는 실제 환경과 더 이상 관련이 없거나, (도플러 효과에 노출되었을 때 대상체가 소리를 인식하는 방식과 유사하게)대상체의 눈으로 보이는 실제 환경의 해당 작동과 더 이상 일치하거나 동기화되지 않는 해당 소리를 인식할 수 있다. 따라서, 처리 장치(12)는 바람직하게, 임의의 그러한 신경 자극이 청각 영역(43)에 제공되는 타이밍을 제어하여 대상체가 해당 소리를 적절하게 인식할 수 있도록 보장한다. (오디오 신호로부터 변환된)신경 자극이 청각 영역(43)에 제공되는 속도는 사용자(즉, 대상체)마다 다를 수 있는데, 이는 일부 사용자가 다른 사용자보다 더 빠른 속도 또는 느린 속도로 소리를 인식할 수 있기 때문이다. 따라서, 신경 자극이 청각 영역(43)에 제공되는 타이밍(속도)의 제어는 바람직하게, 시스템(10)의 사용자에 의해 조정 가능하다.
전술한 전자 귀 및/또는 혼합 현실 실시예에서, 처리 장치(12)는 신경 자극을 오디오 신호(들)로 변환하고 하나 이상의 규칙이나 기준에 따라서 오디오 신호(들)에 대해 적어도 하나의 작동을 수행하도록 추가로 작동할 수 있다. 예를 들어, 처리 장치(12)는 위에서 설명한 것과 유사하게, 데이터 저장 규칙 또는 기준 세트에 따라서 오디오 신호(들)에 대해 작동하도록 구성될 수 있고/있거나 수정 또는 조작 규칙이나 기준 세트에 따라서 오디오 신호(들)에 대해 작동하도록 구성될 수 있다.
처리 장치(12)는 대상체의 신경(46)으로부터 신경 자극(및 그들의 대표적인 전기 신호)을 획득하고 신경 자극(오디오 신호로부터 변환됨)을 신경(46)에 제공하여 제공된 신경 자극의 (신경(46)에 의한)전달을 유도하기 위한 다양한 기술을 사용할 수 있다는 것에 주목해야 한다. 그러한 기술은 전형적으로, 신경 자극을 측정(수신)하고 이에 응답하여 전기 신호를 생성하고/하거나 해당 신경 자극의 전달을 유도하도록 전기 신호로 신경(46)을 자극하기 위해서 미세 전극 또는 미세 변환기와 같은 마이크로 장치를 사용하는 데 의존할 수 있다. 다양한 기관에서 이식이나 기타 침습적 또는 반침습적 수단을 통해 컴퓨터 처리 장치를 뇌, 조직 및 신경에 연결하고 인터페이싱하는 것에 대한 연구, 개발 및 실험을 수행해 왔다. 그러한 연구의 일 예는 2019년 룩셈부르크 대학교에서 발행한 "CONNECT - Developing nervous system-on-a-chip"이라는 제목의 간행물(https://wwwfr.uni.lu/lcsb/research/developmental_and_cellular_biology/news/connect_developing_nervous_system_on_a_chip에서 이용 가능함)에서 찾을 수 있으며, 이는 개별 신경계 구성요소를 배양하고 미세유체 칩(집적 회로)의 구성요소를 연결하는 것을 설명한다.
뇌-기계 인터페이스 분야의 연구 및 실험의 예는 2011년 Procedia Computer Science에 게재된 이탈리아의 파도바(Padova) 대학교의 NeuroChip Laboratory에서 Stefano Vassanelli에 의한 "Brain-Chip Interfaces: The Present and The Future"라는 제목의 기사에 설명되어 있다. 일 예에서, 컴퓨터 처리 장치는 금속 미세 전극 또는 산화물 절연 전기 미세 변환기(예를 들어, 전해질-산화물-반도체 전계효과 트랜지스터(EOSFET) 또는 전해질-산화물-반도체 커패시터(EOSC))를 사용하여 뉴런에 인터페이스되어, 뉴런(neuron) 전기적 활동을 기록(즉, 측정)하거나 자극한다. 다른 예에서, 개별 뉴런으로부터의 대규모 고해상도 기록(즉, 측정)은 대형 다중 트랜지스터 어레이(MTA)를 특징으로 하는 마이크로칩을 사용하거나 이에 결합된 처리 장치를 사용하여 획득된다. 또 다른 예에서, 큰 MTA를 특징으로 하는 마이크로칩은 뇌 조직과 접촉하여 MTA를 전개함으로써 시험관 내에서 세포와 인터페이스하는 데 사용되며, 여기서 신경 자극에 해당하는 신호는 일 예에서, 국소장 전위(local-field-potentials; LFP) 형태이다.
뇌-기계 인터페이스 장치의 예는 미국 샌프란시스코의 Neuralink Corporation에서 개발한 Neuralink 장치이다. Neuralink 장치는 미세 전극을 통해 뉴런에서 얻은 정보를 디지털화하는 ASIC를 포함한다.
위 사항을 염두에 두고, 다음 문단에서는 본 발명의 비-제한적인 예시적인 실시예에 따라서, 기계-뇌 인터페이스를 제공하도록 처리 장치(12)를 대상체(40)에 연결/인터페이스하는 데 사용될 수 있는 인터페이스(18)에 대한 높은 수준의 설명을 제공한다.
계속해서 도 1 내지 도 4를 참조하고, 본 발명의 비-제한적인 실시예에 따른 인터페이스(18)의 개략도를 예시하는 도 5를 참조한다. 여기서, 대상체 인터페이스 부분(18b)은 청신경(46)에 또는 그 위에 전개되는 복수의 전극(23)을 갖는 전극 어레이(22)를 포함한다. 전극(23)은 바람직하게 EOSFET 또는 EOSC와 같은 미세전극이다. 처리 장치(12)가 신경 자극을 오디오 신호로 변환하도록 작동하는 실시예에서, 전극 어레이(22)는 청신경(46)에 의해 전달되는 신경 자극을 측정하고 (측정에 응답하여)신경 자극과 연관된(및 이를 대표하는) 전기 신호를 생성하며, 처리 장치(12)가 신경 자극을 수집하고 신경 자극에 대응하는(즉, 나타내는) 전기 신호를 처리할 수 있도록 이들 신호를 처리 장치(12)에 제공도록 작동한다. 예시된 실시예에서, 링크 부분(20)은 전기 신호가 처리 장치(12)에 전파될 수 있는 물리적 전송 매체를 제공하는 와이어 또는 케이블로서 구현될 수 있다. 특정 실시예에서, 인터페이스(18)는 전극 어레이(22) 대신에 또는 전극 어레이(22)에 추가하여 대상체 인터페이싱 부분(18b)의 일부로서 변환기(바람직하게는 위에서 설명한 마이크로 변환기)를 채용할 수 있다. 변환기는 신경 자극을 오디오 신호(들)로 변환하기 위해서 처리 장치(12)와 함께 사용될 수 있다. 예를 들어, 변환기는 청신경(46)에 의해 전달되는 신경 자극을 수신(측정)하는 것에 응답하여 전기 신호를 생성할 수 있다. 생성된 전기 신호는 신경 자극에 해당하고(즉, 이를 대표하며) 자극-소리 매핑을 사용하여 처리하기 위해서 처리 장치(12)에 제공된다.
처리 장치(12)가 오디오 신호를 신경 자극으로 변환하고 신경 자극을 청신경(46)을 통해 뇌(42)에 전달하여 신경 자극이 뇌(42)에 의해 청각/소리로 해석되도록 작동하는 실시예에서, 신경 자극의 전달은 마이크로장치, 예를 들어 전극 어레이(22)(또는 변환기)에 의해서 청신경(46)의 하나 이상의 뉴런을 자극함으로써 달성될 수 있다. 일반적으로 말하면, 그러한 실시예에서 처리 장치(12)는 오디오 신호를 신경(46)에 의해서 전달될 신경 자극(또는 신경 자극을 나타내는 전기 신호)으로 (자극-소리 매핑을 사용하여)변환할 수 있다. 그런 다음 처리 장치(12)는 신경(46)에 신경 자극을 제공하여 신경 자극의 신경 전달을 유도한다(또는 신경(46)에 전기 충격을 제공하여 전기 충격으로 표시되는 신경 자극의 신경 전달을 유도한다). 특정 실시예에서, 신경 전달의 유도는 전극 어레이(22)(또는 변환기)에 전기 신호를 제공하는 처리 장치(12)에 의해 달성될 수 있으며, 이는 전기 신호에 따라서 청신경(46)의 뉴런을 자극하여 해당 신경 자극의 전달을 유도한다.
도 6은 전극 어레이(22)로 표현된 마이크로디바이스에 전기 신호를 제공하기 위해서 무선 신호 전송을 사용하는 다른 실시예를 예시한다. 여기서, 처리 장치(12)는 와이어 또는 케이블(25)을 통해 송신기(Tx) 유닛(24)에 연결되고, 전극 어레이(22)는 와이어 또는 케이블(27)을 통해 수신기(Rx) 유닛(26)에 연결된다. Tx 유닛(24)은 처리 장치(12)에 의해서 생성된 전기 신호를 무선 인터페이스를 통해 Rx 유닛(26)으로 전송하기 위한 송신기 회로 및 구성요소를 포함한다. Rx 유닛(26)은 전기 신호를 수신하고 수신된 신호를 전극 어레이(22)에 제공하는 구성요소를 포함하며, 이는 신경(46)을 자극하여 신경(46)이 전기 신호에 대응하는 신경 자극을 전송하도록 유도한다.
특정 실시예에서, 무선 전송은 RF 신호 전송일 수 있다. 그러한 실시예에서, Tx 유닛(24)의 송신기 회로 및 구성요소는 예를 들어, 하나 이상의 안테나, 디지털-아날로그 변환 회로, 신호 변조기, 필터, 증폭기 등과 같은 신호 전송 전자 장치 및 구성요소를 포함할 수 있으며, Rx 유닛(26)의 수신기 회로 및 구성요소는 예를 들어, 하나 이상의 안테나, 필터, 증폭기, 복조기(demodulator) 등과 같은 신호 수신 전자 장치 및 구성요소를 포함할 수 있다. 다른 실시예에서, 무선 전송은 Tx 유닛(24) 및 Rx 유닛(26)이 유도 신호 전송 수단을 사용하여 각각 전송 및 수신하도록 작동하는 지시 신호 전송(indictive signal transmission)일 수 있다. 그러한 실시예에서, 예를 들어, Tx 유닛(24)은 유도 코일을 포함할 수 있고, Rx 유닛(26)은 유도 수신기를 포함할 수 있다.
특정 실시예에서, 인터페이싱 장치(18)는 다수의 인터페이스를 포함할 수 있다는 점에 유의한다. 예를 들어, 제 1 인터페이스는 오디오 신호를 신경 자극으로 효과적으로 변환하는 데 사용될 수 있다. 제 1 인터페이스는 유선 연결(예를 들어, 도 5에 도시된 바와 같이) 또는 (예를 들어, 도 6에 도시된 바와 같이)무선 연결을 통해 처리 장치(12)에 연결되거나 링크되는 전극 어레이(22) 또는 마이크로트랜듀서(microtransducer)(예를 들어, EOSC로서 구현됨)를 사용할 수 있다. 제 2 인터페이스는 신경 자극을 오디오 신호로 효과적으로 변환하는 데 사용될 수 있다. 제 2 인터페이스는 (예를 들어 도 5에 도시된 바와 같이)유선 연결을 통해 처리 장치(12)에 연결되거나 링크되는 전극 어레이(22) 및/또는 마이크로트랜듀서(예를 들어, EOSFET로 구현됨)를 사용할 수 있다.
다음 단락에서는 자극-소리 매핑 기능을 생성하는 다양한 방법과 기술뿐만 아니라 매핑 기능을 적용하는 예시적인 프로세스에 대해 설명한다. 자극-소리 매핑을 사용함으로써, 본 발명의 실시예에 따른 시스템(10)은 귀(44)에 의해 인지된 소리(즉, 청각)를 오디오 신호(아날로그 신호 및/또는 디지털 소리 데이터의 형태)로 변환할 수 있으며, (예를 들어, 소리 캡처 장치(예를 들어, 마이크), 컴퓨터 장치(예를 들어, 컴퓨터 메모리, 디지털 오디오 플레이어, 디지털 비디오 플레이어 등)에서 얻은)아날로그 오디오 신호 및/또는 디지털 소리 데이터를 가청/청각 인식을 유도하거나 청각을 강화하기 위해서 뇌로 연결될 수 있는 신경 자극으로 변환할 수 있다.
특정 실시예에 따르면, 자극-소리 매핑의 생성은 기계 학습(ML) 또는 신경망(NN) 알고리즘의 도움을 받을 수 있다. 예를 들어, 처리 장치(12)는 (귀(44)의 청각 자극에 반응하여)신경 자극의 신호 포맷을 학습하고, 예를 들어 처리 장치(12)와 연관된 메모리에 저장된 디지털 데이터 및/또는 소리 캡처에 응답하여 소리 캡처 장치(28)에 의해서 생성된 아날로그 오디오 신호를 포함한 오디오 신호와 신경 자극 포맷을 비교함으로써 매핑을 결정하도록 하나 이상의 ML 또는 NN 알고리즘을 사용할 수 있다.
비-제한적인 일 예로서, 오디오 샘플 신호가 생성될 수 있으며, 이는 일부 고정된 시간 동안 진폭이 변하는 신호이다. 오디오 샘플 신호는 FFT(Fast Fourier Transform: 고속 푸리에 변환)를 포함한 푸리에 분석과 같은 주파수 분석 기술을 사용하여 격리할 수 있는 다양한 소리(주파수 톤)에 해당하는 여러 주파수 구성요소로 구성될 수 있는 아날로그 신호이다. 오디오 샘플 신호로부터의 소리 진동은 귀(44)에 의해서 포착되고 처리 장치(12)는 샘플 오디오를 듣는 것에 응답하여 귀(44)로부터 (청각 신경(46)을 따라)뇌(42)의 청각 영역(43)으로 전송되는 신경 자극을 수집한다. 이어서, 처리 장치(12)에 연결된 소리 캡처 장치(예를 들어, 소리 캡처 장치(28))에 의해서 샘플이 캡처되도록 동일한 오디오 샘플이 재생될 수 있다. 처리 장치(12)는 소리 캡처 장치로부터 처리 장치(12)로 전송된 오디오 신호를 수집하고, 오디오 샘플 신호를 분석/처리한다. 분석/처리는 예를 들어, 디지털화(샘플링 및 양자화) 및/또는 주파수 분석(예를 들어, FFT)을 포함할 수 있다. 이어서, 하나 이상의 신호 특성에 대한 작은 변화가 예를 들어, 오디오 샘플 신호의 하나 이상의 주파수 성분 또는 진폭 값을 변경하여 새로운 오디오 샘플 신호를 생성함으로써 오디오 샘플 신호에 이루어질 수 있다. 새로운 오디오 샘플 신호로부터의 소리 진동은 귀(44)에 의해 포착되고, 처리 장치(12)는 새로운 오디오 샘플 신호를 듣는 것에 응답하여 귀(44)로부터 뇌(42)의 청각 영역(43)(청각 신경(46)을 따라)으로 전송된 신경 자극을 수집한다. 동일한 새로운 오디오 샘플 신호는 샘플이 소리 캡처 장치에 의해 캡처되도록 재생될 수 있으며, 처리 장치(12)는 소리 캡처 장치에서 처리 장치(12)로 전송된 오디오 신호를 수집한다. 처리 장치(12)는 새로운 오디오 샘플 신호를 (예를 들어, 디지털화 및/또는 FFT를 통해)분석/처리한다. 이러한 프로세스는 오디오 샘플 신호의 특성을 한 번에 하나씩 변경(예를 들어, 단일 주파수 구성요소 변경 또는 순간 진폭 값 변경)하거나 점진적으로 더 큰 신호 특성 그룹으로 변경(예를 들어, 여러 주파수 구성요소 변경 및/또는 여러 순간 진폭 값 변경)하여 계속할 수 있다. 오디오 샘플 신호로의 각각의 변화에 대해서, 귀(44)로부터의 신경 자극의 변화(이전 샘플과 비교)는 소리 캡처 장치로부터 처리 장치(12)에 의해 수집된 오디오 신호의 변화와 비교된다. 이러한 프로세스는 귀(44)로부터의 각각의 신경 자극이 소리 캡처 장치에 의해서 전송된 해당 오디오 신호 성분(예를 들어, 소리)과 일치될 수 있을 때까지 계속될 수 있다. 각각의 신경 자극과 해당 오디오 신호 성분 사이의 이러한 일치는 신경 자극과 소리 사이의 매핑(즉, 자극-소리 매핑)을 구성한다. 오디오 샘플 신호에 대한 변경은 바람직하게, 여러 소리 조합(주파수 톤)을 포괄해야 하며, 더 바람직하게는 임의의 주어진 진폭 및/또는 주파수 범위에 걸친 소리를 포함해야 한다는 점에 유의한다.
전형적으로, 자극-소리 매핑을 생성하는 과정은 한 번만 수행하면 되며, 생성된 자극-소리 매핑은 이후에 사용될 수 있다. 그러나 필요하거나 원하는 경우에 매핑의 변경 및/또는 조정 및/또는 개선이 수행될 수 있다.
이제 다시 도 1을 참조하며, 바람직한 실시예에서 시스템(10)은 또한, 처리 장치(12) 및 소리 캡처 장치(28)에 (전자적으로)연결되거나 링크되고 처리 장치(12)의 작동 및 소리 캡처 장치(28)를 제어하도록 구성되는 제어 유닛(15)을 포함한다. 제어 유닛(15)은 바람직하게, 사용자가 제어 유닛(15)에 입력을 제공할 수 있게 하는 하나 이상의 사용자 입력 인터페이스(예를 들어, 터치스크린, 푸시 버튼, 다이얼, 손잡이, 전자 키패드, (전자)키보드 등)를 포함한다. 사용자 입력 인터페이스를 통한 입력 수신에 응답하여, 제어 유닛(15)은 바람직하게, 처리 장치(12) 및/또는 소리 캡처 장치(28)의 작동을 제어하거나 변경하는 제어 명령을 처리 장치(12) 및/또는 소리 캡처 장치(28)에 제공하도록 작동한다.
일 예에서, 제어 유닛(15)은 사용자가 처리 장치(12)에 의해서 생성된 오디오 신호(들)에 대해 수행되는 적어도 하나의 작동을 결정하는 규칙 또는 처리 기준을 정의할 수 있을 뿐만 아니라, 처리 규칙 및/또는 처리 규칙을 선택하고 선택한 규칙을 다른 규칙으로 변경할 수 있게 한다. 예를 들어, 사용자는 처리 장치(12)가 작동하는 규칙 세트를 정의할 수 있다. 추가 예로서, 사용자는 처리 장치(12)가 선택된 규칙(들)(예를 들어, 데이터 저장 규칙(기준) 세트, 신호 수정(조작) 규칙 세트 또는 재생 규칙(기준) 세트)에 따라 작동하도록 기존 규칙/규칙 세트(예를 들어, 데이터 저장 규칙, 신호 수정 규칙, 재생 규칙) 또는 새로 정의된 규칙/규칙 세트를 선택할 수 있다. 또한, 사용자는 제어 유닛(15)을 통해 정의된 규칙과 관련된 매개변수를 선택할 수 있다. 예를 들어, 처리 장치(12)가 신호 수정(조작) 규칙 세트에 따라 작동하도록 사용자가 선택하는 경우에, 사용자는 생성된 오디오 신호를 수정하는 데 사용되는 임의의 추가 소리를 선택하는 것을 포함한, 생성된 오디오 신호(들)가 수정되는 방법을 선택할 수 있다. 이들 추가 소리는 예를 들어, 소리를 디지털 형태로 저장하는 처리 장치(12)와 연관된 컴퓨터 메모리, 마이크로폰 또는 오디오 플레이어와 같은 오디오 캡처 또는 입력 장치 등을 포함하는 다양한 소스로부터 수신될 수 있다.
다른 예로서, 처리 장치(12)가 데이터 저장 규칙 세트에 따라 작동하도록 사용자가 선택하면, 사용자는 생성된 오디오 신호(들)을 나타내는 데이터를 저장하기 위해서 메모리 장치(예를 들어, 저장소/메모리(16), 외부 저장소/메모리(32), 서버 시스템(34))을 선택할 수 있으며, 또한 데이터의 어느 부분(세그먼트 또는 서브-샘플)이 어느 메모리 장치에 저장될 것인지 선택할 수 있다(예를 들어, 사용자는 저장 장치/메모리(16)에 로컬로 저장될 데이터의 일부를 선택할 수 있고, 서버 시스템(34)에 원격으로 저장될 데이터의 다른 부분을 선택할 수 있다).
제어 유닛(15)은 또한, 바람직하게 처리 장치(12)에 의해 신경 자극으로 변환될 오디오 신호(들)를 사용자가 선택할 수 있게 한다. 선택은 제어 유닛(15)의 사용자 입력 인터페이스의 일부인 메뉴를 통해 적용될 수 있다. 메뉴는 처리 장치(12)와 관련된 메모리에 저장된 디지털 오디오 트랙 또는 소리의 목록을 포함할 수 있다. 또한, 제어 유닛(15)은 바람직하게, 처리 장치(12)에 의해서 오디오 신호로부터 변환된 신경 자극이 청각 영역(43)에 제공되는 속도를 사용자가 조정 및 설정하도록 허용한다. 속도 설정은 제어 유닛(15)의 사용자 입력 인터페이스를 통해 적용될 수 있다.
특정 바람직한 실시예에서, 제어 유닛(15)은 사용자 입력에 응답하여 시스템(10)의 상이한 작동 모드 사이의 선택적인 전환을 제공한다. 예를 들어, 제어 유닛(15)은 소리 캡처 장치(28)를 선택적으로 켜거나 끌 수 있고/있거나 소리 캡처 장치(28)를 작동시켜 소리를 캡처할 수 있고/있거나 처리 장치(12)를 작동시켜 소리 캡처 장치(28) 또는 메모리(예를 들어, 저장소/메모리(16), 저장소/메모리(32), 서버 시스템(34))로부터 오디오 신호(들)를 검색할 수 있다. 그 때문에, 제어 유닛(15)은 소리 캡처 장치(28)에 의해 캡처된 메모리(예를 들어, 저장소/메모리(16), 저장소/메모리(32), 서버 시스템(34))로부터의 소리(예를 들어, 디지털 오디오 신호)가 신경 자극으로 변환되는지 여부 및/또는 그러한 변환된 신경 자극이 신경(46)을 통해 전달되는 경우와 시기를 사용자가 제어할 수 있게 할 수 있다. 이러한 방식으로, 사용자는 전자/생체공학 귀를 선택적으로 켜고 끄는 것과 유사하게 사용자가 소리를 인식하는 지의 여부와 시기를 제어할 수 있다.
게다가, 제어 유닛(15)은 바람직하게, 처리 장치(12)와 연관된 메모리에 저장된 캡처된 소리의 오디오 매개변수(볼륨, 피치, 속도, 톤을 포함함)를 조정하기 위해서 처리 장치(12)를 작동하고/하거나 신경 자극으로 변환될 오디오 신호의 소리 매개변수를 조정하도록 작동한다. 이러한 특징은 잡음이 있는 오디오 신호를 향상 및/또는 정리하는 데 특히 유리할 수 있다. 예를 들어, 대상체(40)는 간섭이나 잡음을 제거하거나 감소시키기 위해서 하나 이상의 오디오 필터를 적용하도록 처리 장치(12)를 작동시키기 위해서 제어 유닛(15)을 사용할 수 있다. 다른 예로서, 대상체(40)는 메모리에 저장되거나 소리 캡처 장치(28)로부터 수신되는 디지털 오디오 데이터의 볼륨을 증가시키고/시키거나 재생 속도를 늦추거나 빠르게 하는 것을 선택할 수 있다. 예를 들어, 대상체(40)는 제어 장치(15)를 사용하여 처리 장치(12)를 작동시킴으로써 오디오 신호(들)를 증폭 또는 감쇠시키고/시키거나 재생 타이밍을 제어할 수 있다.
제어 유닛(15)은 컴퓨터화된 저장 매체(예를 들어, 메모리)에 결합된 하나 이상의 컴퓨터 프로세서를 포함하는 컴퓨터화된 제어 유닛이다. 하나 이상의 프로세서는 마이크로프로세서, 마이크로컨트롤러, ASIC, FPGA, DSP, FPLA, 상태 머신, 바이오프로세서 등을 포함하지만, 이에 제한되지 않는 임의의 수의 컴퓨터화된 프로세서로 구현될 수 있다. 마이크로프로세서 구현에서, 마이크로프로세서는 예를 들어, 서버, 컴퓨터 및 기타 컴퓨터 장치에 사용되는 것과 같은 기존 프로세서일 수 있다. 예를 들어, 마이크로프로세서는 AMD로부터의 x86 프로세서 및 Intel로부터의 Intel, Xeon® 및 Pentium® 프로세서를 포함할 수 있다. 전술한 컴퓨터 프로세서는 컴퓨터 판독 가능한 매체를 포함하거나 전자 통신할 수 있으며, 컴퓨터 판독 가능한 매체는 컴퓨터 프로세서에 의해 실행될 때 컴퓨터 프로세서가 작동을 수행하게 하는 프로그램 코드 또는 명령어 세트를 저장한다. 컴퓨터 판독 가능한 매체의 유형은 컴퓨터 판독 가능한 명령을 컴퓨터 프로세서에 제공할 수 있는 전자, 광학, 자기 또는 기타 저장 또는 전송 장치를 포함하지만 이에 제한되지 않는다. 제어 유닛(15)의 저장소/메모리는 임의의 통상적인 저장 매체일 수 있으며, 예를 들어 하나 이상의 휘발성 또는 비휘발성 메모리, 플래시 메모리, 읽기 전용 메모리, 랜덤 액세스 메모리 등, 또는 이들의 조합을 포함한 다양한 방식으로 구현될 수 있다. 특정 실시예에서, 제어 유닛(15)의 저장소/메모리는 제어 유닛(15)의 하나 이상의 프로세서에 의해 실행될 수 있는 기계 실행 가능 명령어를 저장할 수 있다.
특정 실시예에서, 처리 장치(12)와 제어 유닛(15)은 하나 이상의 공통 프로세서를 공유하므로, 처리 장치(12)는 처리 기능과 제어 기능을 모두 수행하도록 작동한다. 때때로 더 바람직한 다른 실시예에서, 제어 유닛(15)과 처리 장치(12)는 유선 또는 무선 연결을 통해 전자적으로 연결된 별도의 전자 장치이다. 그러한 실시예에서, 제어 유닛(15)은 예를 들어, 랩탑, 스마트폰, 태블릿을 포함하지만 이에 제한되지 않는 모바일 컴퓨팅 장치, 및 데스크탑 컴퓨터를 포함하지만 이에 제한되지 않는 고정형 컴퓨팅 장치를 포함하는 사용자 컴퓨터 장치로서 구현될 수 있다.
다른 실시예에서, 제어 유닛(15)은 모바일 통신 장치(예를 들어, 스마트폰, 태블릿 등) 또는 컴퓨터 장치(예를 들어, 노트북, 데스크탑 등)와 같은 전자 장치에서 실행되는 애플리케이션 소프트웨어를 통해 구현된다. 제어 유닛(15)이 스마트폰, 태블릿, 랩탑 등에 구현되는 실시예에서, 소프트웨어 애플리케이션은 사용자 입력 인터페이스를 제공할 수 있다. 특정 실시예에서, 제어 유닛(15)은 처리 장치(12)에 직접 유선 연결 또는 간접 무선 연결을 통해 제어를 제공한다.
지금까지 설명된 실시예가 귀의 청각 자극에 응답하여 수신된 신경 자극을 오디오 신호(들)로 변환하도록 작동하고 오디오 신호를 신경 자극으로 변환하고 이들 신경 자극을 청각 영역(43)에 제공하도록 추가로 작동하는 단일 처리 장치(12)를 사용하는 것에 관한 것이지만, 신경 자극을 오디오 신호(들)로 변환하는 작업과 오디오 신호(들)를 신경 자극으로 변환하는 작업이 두 개(또는 그 초과)의 처리 장치(12) 사이에서 세분되는 다른 실시예도 가능하다. 그러한 실시예는 예를 들어, 퇴행성 질환 또는 질병 치료를 위한 수술 절차의 결과로써, 귀(들)와 청각 영역(43) 사이의 하나 이상의 청신경의 큰 부분이 절단되거나 제거되거나 더 이상 적절하게 기능을 하지 않는 상황에서 특히 가치가 있을 수 있다. 두 개의 처리 장치를 활용하여 대상체에게 회복된 청력을 제공할 수 있다.
도 8은 처리 장치(12-1, 12-2)로 지정된 제 1 및 제 2 처리 장치를 이용하는 비-제한적인 실시예를 개략적으로 예시한다. 도시된 실시예에서, 귀(44)와 청각 영역(43) 사이의 경로는 절단되었으며, 이는 귀와 청각 영역(43) 사이를 연결하는 대부분의 청신경의 부재로 표현된다. 이는 예를 들어, 청신경(46)이 적절히 기능을 하지 못하는 생리적 결함이나 신경 분절의 물리적 부재로 인한(예를 들어, 신경 분절이 없는 생리적 결함, 또는 질병의 치료로 인한) 것일 수 있다. 처리 장치(12-1, 12-2)는 조합되어, 특정 실시예에서 처리 장치(12)와 유사하게 작동하여 귀와 청각 영역(43) 사이의 브리지(또는 청신경 우회) 역할을 함으로써 귀(44)의 청각 자극에 반응하여 생성된 신경 자극이 처리 장치(12-1, 12-2)를 통해 청각 영역(43)에 도달할 수 있다.
제 1 처리 장치(12-1)는 청신경(46)의 부분(47)에서 인터페이스(18-1)(전술한 임의의 인터페이스(18)와 구조 및 작동이 유사할 수 있음)를 통해 귀(44)에 근접한 위치에(예를 들어, 달팽이관에 또는 그 근처에) 있는 청신경(46)에 통신 가능하게 결합된다. 제 1 처리 장치(12-1)는 귀(44)의 청각 자극에 반응하여 생성되어 청신경(46)을 통해 청각 영역(43)으로 전달되는 신경 자극을 수신하고 이러한 신경 자극을 오디오 신호(들)로 변환하도록 작동한다(위에서 설명한 것과 유사하다). 특정 실시예에서, 처리 장치(12-1)는 인터페이스(18-1)를 통해 신경 자극을 나타내는 신호를 얻을 수 있으며, 이는 신경 자극을 측정하거나 샘플링하고 그에 응답하여 전기 신호를 생성하기 위해 인터페이스(18-1)의 대상체 인터페이스 부분에 하나 이상의 EOSFET를 포함할 수 있다. 그런 다음 처리 장치(12-1)는 위에서 논의한 기술을 사용하여 이들 신호를 오디오 신호(들)로 변환할 수 있다.
제 2 처리 장치(12-2)는 예를 들어, 청각 영역(43)에 또는 청각 영역(43) 상에 인터페이스(18-2)의 대상체 인터페이스 부분을 이식함으로써, 또는 청각 영역(43)에 제 2 처리 장치(12)를 이식함으로써 청각 영역(43)에 통신 가능하게 결합될 수 있다. 인터페이스(18-2)는 위에서 논의된 임의의 인터페이스(18)와 구조 및 작동이 유사할 수 있다. 2 개의 처리 장치(12-1, 12-2)는 예를 들어, 예시된 바와 같이 제어 장치(15)를 통해 간접적으로, 또는 임의의 적절한 데이터 연결 수단(예를 들어, 데이터 버스 등)을 통해 직접적으로 서로 링크되거나 연결된다. 제 2 처리 장치(12-2)는 제 1 처리 장치(12-1)에 의해 생성된 오디오 신호(들)를 수신하고, 수신된 오디오 신호(들)를 신경 자극으로 변환하고, 대상체(40)가 귀(44)에 의해 포착된 소리(즉, 외이에 의해 고막으로 전달되는 진동)를 인지하도록 이들 신경 자극을 청각 영역(43)(위에 설명된 기술을 포함하는 임의의 적절한 기술에 따른 인터페이스(18-2)를 통해)에 제공하도록 작동한다. 특정 실시예에서, 처리 장치(12-2)는 생성된 오디오 신호(들)를 대응하는 전기 신호로 변환하고, 처리 장치(12-2)는 이러한 전기 신호를 인터페이스(18-2)의 대상체 인터페이스 부분에 제공하며, 이는 전기 신호에 따라 청각 영역(43)을 자극하는 하나 이상의 EOSC를 포함한다.
각각의 처리 장치(12-1, 12-2)는 전술한 처리 장치(12)와 구조가 유사하다. 즉, 각각의 처리 장치(12-1, 12-2)는 컴퓨터화된 저장 매체에 연결된 하나 이상의 프로세서를 포함한다. 특정 실시예에서, 처리 장치(12-1, 12-2) 중 하나 또는 둘 모두는 위에서 설명한 처리 장치(12)에 의해 수행된 신호 수정과 유사한 방식으로 오디오 신호를 수정하도록 추가로 작동한다. 예를 들어, 제 1 처리 장치(12-1)는 생성된 오디오 신호(들)(제 1 처리 장치(12-1)에 의해서 신경 자극으로부터 변환됨)를 수정한 다음 수정된 오디오 신호(들)를 제 2 처리 장치(12-2)로 전송할 수 있다. 대안적으로 또는 생성된 오디오 신호(들)를 수정하는 제 1 처리 장치(12-1)에 추가하여, 제 2 처리 장치(12-2)는 제 1 처리 장치(12-2)로부터 수신된 생성 오디오 신호(들)를 수정한 후 수정된 오디오 신호(들)를 신경 자극으로 변환할 수 있다.
특정 실시예에서, 처리 장치(12-1, 12-2) 중 하나 또는 둘 모두는 외부 저장소/메모리(도 7의 외부 저장소/메모리(32)와 유사)에 링크될 수 있다. 다른 실시예에서, 처리 장치(12-1, 12-2) 중 하나 또는 둘 모두는 통신 네트워크로/로부터 데이터를 전송하기 위한(즉, 통신 네트워크와 데이터를 교환하기 위한) 통신/네트워크 인터페이스를 제공하는, 도 3의 Tx/Rx 장치(30)와 유사한 Tx/Rx 장치를 포함하거나 그에 링크될 수 있다. 그러한 실시예에서, 처리 장치(12-1, 12-2) 중 하나 또는 둘 모두는 통신 네트워크를 통해 (서버 시스템(34)과 같은)원격 서버 시스템과 통신(즉, 데이터 교환)할 수 있다.
도 8을 참조하여 설명된 실시예는 귀와 뇌 사이의 청각 경로, 즉 각각의 귀(44)와 청각 영역(43) 사이의 신경(46)이 여전히 온전한 상황에도 적용 가능하다. 그러한 상황에서, 신경(46) 중 하나 또는 둘 모두는 두 위치/영역에서 처리 장치(12-1 및 12-2)에 의해 인터페이스(예를 들어, 태핑)될 수 있다. 예를 들어, 제 1 장치(12-1)는 귀(44) 중 하나에 근접해 있는(예를 들어, 달팽이관에 또는 그 근처에 있는) 신경(46) 중 하나의 제 1 부분과 인터페이스할 수 있고, 제 2 장치(12-2)는 청각 영역(43)에 연결되는 신경(46)의 제 2 부분과 인터페이스할 수 있다. 그런 다음 (신경의 제 1 부분과 제 2 부분 사이를 연결하는)신경의 중간 분절 또는 신경 분절들을 선택적으로 비활성화하거나 감쇠하여 두 부분 사이의 전달을 제한할 수 있다.
특정 실시예에서, 청각 영역(43)으로부터 이어지는 신경(46) 중 하나 또는 둘 모두의 한쪽만이 처리 장치(12)(또는 전개 구성에 따라서 12-1 또는 12-2)와 인터페이스 된다는 점도 유의해야 한다. 예를 들어, 도 8의 구성에서 단지 하나의 처리 장치(처리 장치(12-2))만이 전개되고 청각 부분(43)에 연결되는 청각 신경(46)의 일부분과 인터페이스하는 실시예가 고려된다. 그러한 실시예에서, 처리 장치는 소리로서 해석해기 위해서 신경 자극을 뇌에 공급하도록 구성된다.
처리 장치(12)(또는 배치 구성에 따라 12-1 또는 12-2)가 예를 들어, 신호 수정(조작) 규칙 세트에 따라 신호 수정을 일반적으로 수행하는 컴퓨팅 장치로 지금까지 설명되었지만, 그러한 신호 수정은 실제로 처리 장치(12)(또는 12-1 또는 12-2)와 연결되는 임의의 컴퓨팅 장치에 의해서 수행될 수 있음을 주목해야 한다. 예를 들어, 서버 시스템(34)은 처리 장치(12)로부터 신호를 수신하고 신호 수정(조작) 규칙 세트에 따라 해당 신호를 수정한 후 수정된 신호를 추가 처리 또는 신경 전달을 위해서 처리 장치(12)로 다시 전송하도록 구성될 수 있다.
지금까지 설명된 본 발명의 실시예 중 일부가 하나 이상의 오디오 신호(하나 이상의 소리를 나타냄)를 일련의 신경 자극으로 변환하는 처리 장치를 활용한 다음에, 대상체가 하나 이상의 소리를 청각적으로 인식하도록 뇌의 청각 영역에 일련의 신경 자극을 제공하기 위해서 처리 장치를 활용하는 것과 관련되었지만, 대상체가 침묵을 인식하기를 원하는 상황이 발생할 수 있다. 위에서 언급한 바와 같이, 특정 시나리오에서 하나 이상의 소리는 들리지 않는 소리이므로, 대상체는 들리지 않는 소리를 나타내는 오디오 신호로부터 생성된 신경 자극을 침묵으로 인식한다. 그러나 소리가 들을 수 있는 소리인 경우에 대상체는 여전히 침묵을 인식하기를 원할 수 있다. 그러므로, 대상체(40)가 처리 장치(12)를 제어 가능하게 작동시켜 뇌의 청각 영역에 일련의 신경 자극을 선택적으로 제공할 수 있는 것이 바람직하며, 추가로 대상체(40)가 처리 장치(12)를 제어 가능하게 작동시켜 뇌의 청각 영역에 일련의 신경 자극을 제공하는 것을 억제하여 대상체가 하나 이상의 소리를 청각적으로 인식하지 않는 대신에 침묵을 인식하도록 할 수 있는 것도 바람직하다. 따라서, 특정 실시예에서, 대상체는 처리 장치(12)가 생성된 신경 자극을 청각 영역(43)에 제공하는 지의 여부를 제어할 수 있다. 이러한 제어 기능은 예를 들어, 제어 장치(15)를 통해서 제공될 수 있다.
본 발명의 실시예가 인간 청각의 맥락 내에서 적용될 때 특히 유용하지만, 본 개시의 실시예는 다른 영장류 종(예를 들어, 원숭이, 고릴라 등), 개과 종, 고양이 종, 파충류 종, 조류 종, 해양/수생 생물 등을 포함하지만 이에 제한되지 않는 비인간 동물 대상체의 청각에 동등하게 적용될 수 있다. 그러한 비인간 응용에서, 신경 자극은 위에서 논의된 동일하거나 유사한 인터페이싱 방법을 통해 수집될 수 있으며, 종별 진동-소리 매핑을 사용하여 처리 장치(12)에 의해서 디지털 소리로 변환될 수 있다. 예를 들어, 임의의 결과적인 오디오 신호는 추가 처리 또는 사용을 위해서 다른 시스템으로 출력될 수 있다. 예를 들어, 개 대상체의 신경 자극에서 생성된 오디오 신호는 인간 대상체가 들을 수 있도록 재생용으로 제공될 수 있거나, 인간 진공-소리 매핑 기능을 사용하여 신경 자극으로 변환될 수 있으며 개 대상체가 인지하는 소리를 인간 대상체가 들을 수 있도록 인간 대상체의 청신경에 제공될 수 있다.
본 발명의 실시예의 방법 및/또는 시스템의 구현은 선택된 작업을 수동으로, 자동으로, 또는 이들의 조합으로 수행하거나 완료하는 것을 포함할 수 있다. 더욱이, 본 발명의 방법 및/또는 시스템의 실시예의 실제 계측 및 장비에 따르면, 몇몇 선택된 작업은 운영 체제를 사용하여 하드웨어, 소프트웨어, 펌웨어 또는 이들의 조합에 의해서 구현될 수 있다.
예를 들어, 본 발명의 실시예에 따라 선택된 작업을 수행하기 위한 하드웨어는 칩 또는 회로로 구현될 수 있다. 소프트웨어로서, 본 발명의 실시예에 따라 선택된 작업은 임의의 적절한 운영 체제를 사용하여 컴퓨터에 의해 실행되는 복수의 소프트웨어 명령으로 구현될 수 있다. 본 발명의 예시적인 실시예에서, 본 명세서에서 설명된 방법 및/또는 시스템의 예시적인 실시예에 따른 하나 이상의 작업은 복수의 명령을 실행하기 위한 컴퓨팅 플랫폼과 같은 데이터 프로세서에 의해 수행된다. 선택적으로, 데이터 프로세서는 명령 및/또는 데이터를 저장하기 위한 휘발성 메모리 및/또는 비휘발성 저장소, 예를 들어 자기 하드 디스크와 같은 비-일시적 저장 매체 및/또는 명령 및/또는 데이터를 저장하기 위한 이동식 매체를 포함한다. 선택적으로, 네트워크 연결도 제공된다. 디스플레이 및/또는 키보드나 마우스와 같은 사용자 입력 장치도 선택적으로 제공된다.
예를 들어, 하나 이상의 비-일시적 컴퓨터 판독 가능(저장) 매체(들)의 임의의 조합이 본 발명의 위에 나열된 실시예에 따라 활용될 수 있다. 비-일시적 컴퓨터 판독 가능(저장) 매체는 예를 들어, 전자, 자기, 광학, 전자기, 적외선 또는 반도체 시스템, 장치 또는 디바이스, 또는 이들의 임의의 적합한 조합일 수 있지만, 이에 제한되지 않는다. 컴퓨터 판독 가능한 저장 매체의 보다 구체적인 예(완전하지 않은 목록)는 다음: 하나 이상의 전선을 갖는 전기 연결, 휴대용 컴퓨터 디스켓, 하드 디스크, RAM(Random Access Memory: 임의 액세스 메모리), ROM(읽기 전용 메모리), 소거 가능 프로그래밍 가능한 읽기 전용 메모리(EPROM 또는 플래시 메모리), 광섬유, 휴대용 컴팩트 디스크 읽기 전용 메모리(CD-ROM), 광학 저장 장치, 자기 저장 장치, 또는 이들의 임의의 적절한 조합을 포함할 수 있다. 본 문서의 맥락에서, 컴퓨터 판독 가능 저장 매체는 명령 실행 시스템, 장치 또는 디바이스에 의해 사용되거나 이와 관련하여 사용하기 위한 프로그램을 포함하거나 저장할 수 있는 모든 유형의 매체일 수 있다.
위에서 제공된 단락 및 참조 도면을 참조하여 이해되는 바와 같이, 컴퓨터로 구현되는 방법의 다양한 실시예가 본 명세서에 제공되며, 그 중 일부는 본 명세서에 설명된 장치 및 시스템의 다양한 실시예에 의해 수행될 수 있고 그 중 일부는 본 명세서에서 설명된 비-일시적 컴퓨터 판독 가능한 저장 매체에 저장된 명령에 따라 수행될 수 있다. 또한, 본 명세서에 설명된 실시예를 참조하여 당업자에게 자명한 바와 같이, 본 명세서에 제공된 컴퓨터 구현 방법의 몇몇 실시예는 다른 장치 또는 시스템에 의해 수행될 수 있으며 본 명세서에 설명된 것 이외의 컴퓨터 판독 가능한 저장 매체에 저장된 명령에 따라 수행될 수 있다. 다음 컴퓨터 구현 방법과 관련된 시스템 및 컴퓨터 판독 가능한 저장 매체에 대한 모든 참조는 설명 목적으로 제공되며 위에서 설명한 컴퓨터 구현 방법의 실시예와 관련하여 그러한 시스템 및 그러한 비-일시적 컴퓨터 판독 가능한 저장 매체를 제한하려는 의도는 없다. 유사하게, 시스템 및 컴퓨터 판독 가능한 저장 매체와 관련하여 다음 컴퓨터 구현 방법에 대한 모든 참조는 설명의 목적으로 제공되며, 본 명세서에 개시된 컴퓨터 구현 방법 중 어느 것도 제한하려는 의도는 없다.
도면의 흐름도 및 블록도는 본 발명의 다양한 실시예에 따른 시스템, 방법 및 컴퓨터 프로그램 제품의 가능한 구현의 구성, 기능 및 작동을 예시한다. 이와 관련하여, 흐름도 또는 블록도의 각각의 블록은 지정된 논리 기능(들)을 구현하기 위한 하나 이상의 실행 가능한 명령을 포함하는 모듈, 세그먼트 또는 코드의 일부분을 나타낼 수 있다. 또한, 몇몇 대안적인 구현에서, 블록에 언급된 기능은 도면에 언급된 순서를 벗어나 발생할 수 있다는 점에 유의해야 한다. 예를 들어, 연속적으로 도시된 두 블록은 실제로는 실질적으로 동시에 실행될 수 있거나, 관련된 기능에 따라 블록이 때때로 역순으로 실행될 수 있다. 블록도 및/또는 흐름도 예시의 각각의 블록과 블록도 및/또는 흐름도 예시의 블록 조합은 지정된 기능 또는 작동을 수행하는 특수 목적 하드웨어 기반 시스템 또는 특수 목적의 하드웨어와 컴퓨터 명령어의 조합에 의해 구현될 수 있다는 점도 유의해야 한다.
본 발명의 다양한 실시예에 대한 설명은 예시의 목적으로 제시되었지만, 개시된 실시예를 포괄하거나 제한하려는 의도는 아니다. 설명된 실시예의 범주 및 사상을 벗어나지 않으면서 많은 수정 및 변형이 당업자에게 자명할 것이다. 본 명세서에 사용된 용어는 실시예의 원리, 실제 적용 또는 시장에서 발견되는 기술에 대한 기술적 개선을 가장 잘 설명하거나, 당업자가 본 명세서에 개시된 실시예를 이해할 수 있도록 하기 위해서 선택되었다.
본 명세서에서 사용된 단수형 관사("a", "an" 및 "the")는 문맥에서 달리 명시하지 않는 한 복수형을 포함한다. 예를 들어, 단일 신경에 대한 언급은 신경 쌍의 두 신경 모두를 언급할 수도 있다. 더욱이, 하나의 신경 쌍의 두 신경에 대한 언급은 문맥상 명백히 달리 명시되지 않는 한, 단일 신경을 지칭할 수도 있다.
본 명세서에서 "예시적인(exemplary)"이라는 단어는 "예, 사례 또는 예시로서의 역할을 하는"이란 의미로 사용된다. "예시적인" 것으로 설명된 임의의 실시예는 반드시 다른 실시예에 비해 바람직하거나 유리한 것으로 해석되고/되거나 다른 실시예의 특징의 통합을 배제하는 것으로 해석되어서는 안 된다.
명확성을 위해서, 별도의 실시예와 관련하여 설명된 본 발명의 특정 특징은 단일 실시예에서 조합하여 제공될 수도 있다는 것이 이해된다. 반대로, 간략화를 위해서 단일 실시예의 맥락에서 설명된 본 발명의 다양한 특징은 별도로 제공되거나 임의의 적합한 하위 조합으로 또는 본 발명의 임의의 다른 설명된 실시예에 적합하게 제공될 수도 있다. 다양한 실시예의 맥락에서 설명된 특정 특징은 실시예가 해당 요소 없이 작동하지 않는 한, 해당 실시예의 필수적인 특징으로 간주되지 않는다.
그 일부를 포함하는 전술한 프로세스는 소프트웨어, 하드웨어 및 이들의 조합에 의해 수행될 수 있다. 이들 프로세스 및 프로세서의 일부분은 컴퓨터, 컴퓨터형 장치, 워크스테이션, 프로세서, 마이크로프로세서, 기타 전자 검색 도구 및 메모리와 이와 연관된 기타 비-일시적 저장형 장치에 의해 수행될 수 있다. 프로세스 및 프로세서의 일부분은 또한 프로그램 가능한 비-일시적 저장 매체, 예를 들어 컴팩트 디스크(CD) 또는 기계 등으로 판독 가능한 자기, 광학 등을 포함한 기타 디스크, 또는 자기, 광학, 또는 반도체 저장소 또는 기타 전자 신호 소스를 포함한 기타 컴퓨터 사용 가능한 저장 매체에 구현될 수 있다.
본 명세서의 그 구성요소 포함한, 프로세스(방법) 및 시스템은 특정 하드웨어 및 소프트웨어를 예시적으로 참조하여 설명되었다. 프로세스(방법)는 예시적으로 설명되었으며, 특정 단계 및 그 순서는 과도한 실험 없이 실행하도록 이들 실시예를 줄이기 위해서 당업자에 의해 생략 및/또는 변경될 수 있다. 프로세스(방법) 및 시스템은 당업자가 과도한 실험 없이 종래의 기술을 사용하지 않고 임의의 실시예를 실행하는 데 필요할 수 있는 다른 하드웨어 및 소프트웨어를 쉽게 채택할 수 있도록 충분한 방식으로 설명되었다.
첨부된 청구범위가 다중 종속항 없이 초안이 작성된 경우에, 이는 그러한 다중 종속항을 허용하지 않는 관할 국가의 공식 요구사항을 수용하기 위한 것이다. 청구항을 다중 종속항으로 렌더링함으로써 암시되는 모든 가능한 특징의 조합이 명시적으로 예상되며 본 발명의 일부로 간주되어야 한다는 점에 유의해야 한다.
본 발명이 특정 실시예와 관련하여 설명되었지만, 많은 대안, 수정 및 변형이 당업자에게 자명할 것이 분명하다. 따라서, 본 발명은 첨부된 청구범위의 사상과 넓은 범주에 속하는 그러한 모든 대안, 수정 및 변형을 포괄하려는 의도이다.
Claims (27)
- 청각 지각을 담당하는 청각 영역을 포함하는 뇌를 가진 동물 대상체에게 사용하기 위한 방법으로서,
처리 장치를 뇌의 청각 영역과 인터페이싱하는 단계;
대상체의 적어도 한쪽 귀에 의해서 수집된 소리에 반응하여 뇌의 청각 영역으로 전달되는 신경 자극과 관련된 신호를 처리 장치에 의해서 수신하는 단계; 및
대상체의 적어도 한쪽 귀에 의해 수집된 소리에 대한 대상체에 의한 청각적 지각을 나타내는 적어도 하나의 오디오 신호를 생성하기 위해서 수신된 신호를 처리 장치에 의해서 처리하는 단계를 포함하는;
청각 지각을 담당하는 청각 영역을 포함하는 뇌를 가진 동물 대상체에게 사용하기 위한 방법. - 제 1 항에 있어서,
인터페이싱하는 단계는 처리 장치와 뇌의 청각 영역 사이에 통신을 제공하기 위해서 뇌의 청각 영역과 연관하여 대상체에 기계-대상체 인터페이스의 적어도 일부를 이식하는 단계를 포함하는,
청각 지각을 담당하는 청각 영역을 포함하는 뇌를 가진 동물 대상체에게 사용하기 위한 방법. - 제 1 항에 있어서,
하나 이상의 규칙에 따라서 생성된 적어도 하나의 오디오 신호에 대해 적어도 하나의 작동을 수행하는 단계를 더 포함하는,
청각 지각을 담당하는 청각 영역을 포함하는 뇌를 가진 동물 대상체에게 사용하기 위한 방법. - 제 3 항에 있어서,
적어도 하나의 작동은 생성된 적어도 하나의 오디오 신호를 나타내는 데이터를 처리 장치와 통신 가능하게 결합된 컴퓨터화된 저장 장치에 저장하는 것을 포함하는,
청각 지각을 담당하는 청각 영역을 포함하는 뇌를 가진 동물 대상체에게 사용하기 위한 방법. - 제 3 항에 있어서,
적어도 하나의 작동은 생성된 적어도 하나의 오디오 신호를 나타내는 데이터를 하나 이상의 통신 네트워크를 통해 처리 장치와 통신 가능하게 결합된 컴퓨터화된 서버 시스템으로 송신하는 것을 포함하는,
청각 지각을 담당하는 청각 영역을 포함하는 뇌를 가진 동물 대상체에게 사용하기 위한 방법. - 제 3 항에 있어서,
적어도 하나의 작동은 수정된 적어도 하나의 오디오 신호를 생성하기 위해서 생성된 적어도 하나의 오디오 신호를 수정하는 것을 포함하는,
청각 지각을 담당하는 청각 영역을 포함하는 뇌를 가진 동물 대상체에게 사용하기 위한 방법. - 제 6 항에 있어서,
하나 이상의 신경 자극으로 적어도 하나의 수정된 오디오 신호를 변환하는 단계; 및
대상체의 적어도 하나의 귀에 의해서 수집된 소리에 대한 대상체의 청각 지각을 증대시키기 위해서 뇌의 청각 영역에 하나 이상의 신경 자극을 제공하는 단계를 더 포함하는,
청각 지각을 담당하는 청각 영역을 포함하는 뇌를 가진 동물 대상체에게 사용하기 위한 방법. - 제 7 항에 있어서,
뇌의 청각 영역에 하나 이상의 신경 자극을 제공하는 단계는 뇌의 청각 영역과 연결된 하나 이상의 신경을 따라 하나 이상의 신경 자극을 전달하는 단계를 포함하는,
청각 지각을 담당하는 청각 영역을 포함하는 뇌를 가진 동물 대상체에게 사용하기 위한 방법. - 제 1 항에 있어서,
수신된 오디오 신호를 처리하는 단계는 신경 자극과 오디오 신호 사이를 매핑하는 적어도 하나의 매핑을 수신된 신호에 적용하는 단계를 포함하는,
청각 지각을 담당하는 청각 영역을 포함하는 뇌를 가진 동물 대상체에게 사용하기 위한 방법. - 제 9 항에 있어서,
적어도 하나의 매핑은 처리 장치와 통신 가능하게 결합된 적어도 하나의 메모리 장치에 저장되는,
청각 지각을 담당하는 청각 영역을 포함하는 뇌를 가진 동물 대상체에게 사용하기 위한 방법. - 제 1 항에 있어서,
대상체에 처리 장치를 이식하는 단계를 더 포함하는,
청각 지각을 담당하는 청각 영역을 포함하는 뇌를 가진 동물 대상체에게 사용하기 위한 방법. - 제 1 항에 있어서,
처리 장치가 대상체 외부에 있는,
청각 지각을 담당하는 청각 영역을 포함하는 뇌를 가진 동물 대상체에게 사용하기 위한 방법. - 청각 지각을 담당하는 청각 영역을 포함하는 뇌를 가진 동물 대상체에게 사용하기 위한 시스템으로서,
처리 장치; 및
처리 장치를 뇌의 청각 영역과 인터페이싱하기 위한 기계-대상체 인터페이스를 포함하며;
처리 장치는:
대상체의 적어도 한쪽 귀에 의해서 수집된 소리에 반응하여 뇌의 청각 영역으로 전달되는 신경 자극과 연관된 신호를 수신하고,
대상체의 적어도 한쪽 귀에 의해서 수집된 소리에 대한 대상체의 청각적 지각을 나타내는 적어도 하나의 오디오 신호를 생성하기 위해서 수신된 신호를 처리하도록 구성되는,
청각 지각을 담당하는 청각 영역을 포함하는 뇌를 가진 동물 대상체에게 사용하기 위한 시스템. - 제 13 항에 있어서,
기계-대상체 인터페이스의 적어도 일부분은 처리 장치와 뇌의 청각 영역 사이에 통신을 제공하기 위해서 뇌의 청각 영역과 연관되어 대상체에 이식되도록 구성되는,
청각 지각을 담당하는 청각 영역을 포함하는 뇌를 가진 동물 대상체에게 사용하기 위한 시스템. - 제 13 항에 있어서,
처리 장치는 생성된 적어도 하나의 오디오 신호를 나타내는 데이터를:
i) 처리 장치와 통신 가능하게 결합된 적어도 하나의 컴퓨터화된 저장 장치, 및
ii) 하나 이상의 통신 네트워크를 통해 처리 장치와 통신 가능하게 결합된 적어도 하나의 원격 서버 시스템 중 하나 이상으로 송신하도록 추가로 구성되는,
청각 지각을 담당하는 청각 영역을 포함하는 뇌를 가진 동물 대상체에게 사용하기 위한 시스템. - 제 13 항에 있어서,
처리 장치는 수정된 적어도 하나의 오디오 신호를 생성하기 위해서 생성된 적어도 하나의 오디오 신호를 수정하도록 추가로 구성되는,
청각 지각을 담당하는 청각 영역을 포함하는 뇌를 가진 동물 대상체에게 사용하기 위한 시스템. - 제 16 항에 있어서,
처리 장치는 수정된 적어도 하나의 오디오 신호를 하나 이상의 신경 자극으로 변환하고, 대상체의 적어도 한쪽 귀에 의해 수집된 소리에 대한 대상체의 청각 지각을 증대시키기 위해서 뇌의 청각 영역에 하나 이상의 신경 자극을 제공하도록 추가로 구성되는,
청각 지각을 담당하는 청각 영역을 포함하는 뇌를 가진 동물 대상체에게 사용하기 위한 시스템. - 제 17 항에 있어서,
처리 장치는 뇌의 청각 영역과 연결된 하나 이상의 신경을 따라 하나 이상의 신경 자극을 전달함으로써 뇌의 청각 영역에 하나 이상의 신경 자극을 제공하도록 구성되는,
청각 지각을 담당하는 청각 영역을 포함하는 뇌를 가진 동물 대상체에게 사용하기 위한 시스템. - 제 13 항에 있어서,
수신된 신호를 처리하는 것은 신경 자극과 오디오 신호 사이를 매핑하는 적어도 하나의 매핑을 수신된 신호에 적용하는 것을 포함하는,
청각 지각을 담당하는 청각 영역을 포함하는 뇌를 가진 동물 대상체에게 사용하기 위한 시스템. - 청각 지각을 담당하는 청각 영역을 포함하는 뇌를 가진 동물 대상체에게 사용하기 위한 방법으로서,
처리 장치를 뇌의 청각 영역과 인터페이싱하는 단계;
적어도 하나의 오디오 신호를 일련의 신경 자극으로 변환하기 위해서 처리 장치에 의해 적어도 하나의 소리를 나타내는 적어도 하나의 오디오 신호를 처리하는 단계; 및
대상체가 적어도 하나의 소리를 청각적으로 인식하도록 뇌의 청각 영역에 일련의 신경 자극을 선택적으로 제공하는 단계를 포함하는;
청각 지각을 담당하는 청각 영역을 포함하는 뇌를 가진 동물 대상체에게 사용하기 위한 방법. - 제 20 항에 있어서,
적어도 하나의 오디오 신호는 적어도 하나의 오디오 신호를 나타내는 데이터를 저장하는 처리 장치와 통신 가능하게 결합된 적어도 하나의 메모리 장치, 또는 적어도 하나의 오디오 신호를 생성하기 위해서 소리를 캡처하는 소리 캡처 장치 중 적어도 하나에 의해서 처리 장치에 제공되는,
청각 지각을 담당하는 청각 영역을 포함하는 뇌를 가진 동물 대상체에게 사용하기 위한 방법. - 제 20 항에 있어서,
적어도 하나의 오디오 신호를 생성하기 위해서 소리 캡처 장치에 의해서 적어도 하나의 소리를 캡처하는 단계; 및
적어도 하나의 오디오 신호를 처리 장치에 제공하는 단계를 더 포함하는;
청각 지각을 담당하는 청각 영역을 포함하는 뇌를 가진 동물 대상체에게 사용하기 위한 방법. - 제 20 항에 있어서,
신경 자극이 뇌의 청각 영역에 제공될 때 대상체가 침묵을 인식하도록 적어도 하나의 소리가 대상체에게 들리지 않는,
청각 지각을 담당하는 청각 영역을 포함하는 뇌를 가진 동물 대상체에게 사용하기 위한 방법. - 청각 지각을 담당하는 청각 영역을 포함하는 뇌를 가진 동물 대상체에게 사용하기 위한 시스템으로서,
처리 장치; 및
처리 장치를 뇌의 청각 영역과 인터페이싱하기 위한 기계-대상체 인터페이스를 포함하며;
처리 장치는:
적어도 하나의 오디오 신호를 일련의 신경 자극으로 변환하기 위해서 적어도 하나의 소리를 나타내는 적어도 하나의 오디오 신호를 처리하고,
대상체가 적어도 하나의 소리를 청각적으로 인식하도록 기계-대상체 인터페이스를 통해 뇌의 청각 영역에 일련의 신경 자극을 선택적으로 제공하도록 구성되는,
청각 지각을 담당하는 청각 영역을 포함하는 뇌를 가진 동물 대상체에게 사용하기 위한 시스템. - 제 23 항에 있어서,
적어도 하나의 오디오 신호를 생성하기 위해서 적어도 하나의 소리를 캡처하고, 적어도 하나의 오디오 신호를 처리 장치에 제공하기 위한 소리 캡처 장치를 더 포함하는,
청각 지각을 담당하는 청각 영역을 포함하는 뇌를 가진 동물 대상체에게 사용하기 위한 시스템. - 제 23 항에 있어서,
하나 이상의 오디오 신호를 나타내는 데이터를 저장하기 위해서 처리 장치와 통신 가능하게 결합된 메모리 장치를 더 포함하며, 처리 장치는 메모리 장치로부터 데이터를 수신하도록 구성되는,
청각 지각을 담당하는 청각 영역을 포함하는 뇌를 가진 동물 대상체에게 사용하기 위한 시스템. - 제 23 항에 있어서,
신경 자극이 뇌의 청각 영역에 제공될 때 대상체가 침묵을 인식하도록 적어도 하나의 소리가 대상체에게 들리지 않는,
청각 지각을 담당하는 청각 영역을 포함하는 뇌를 가진 동물 대상체에게 사용하기 위한 시스템.
Applications Claiming Priority (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US202163215569P | 2021-06-28 | 2021-06-28 | |
US63/215,569 | 2021-06-28 | ||
US17/728,013 | 2022-04-25 | ||
US17/728,013 US11641555B2 (en) | 2021-06-28 | 2022-04-25 | Methods and systems for auditory nerve signal conversion |
PCT/IB2022/055761 WO2023275671A1 (en) | 2021-06-28 | 2022-06-21 | Methods and systems for auditory nerve signal conversion |
Publications (1)
Publication Number | Publication Date |
---|---|
KR20240025527A true KR20240025527A (ko) | 2024-02-27 |
Family
ID=82361333
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020237043822A KR20240025527A (ko) | 2021-06-28 | 2022-06-21 | 청각 신경 신호 변환 방법 및 시스템 |
Country Status (7)
Country | Link |
---|---|
US (1) | US20230209279A1 (ko) |
EP (1) | EP4363042A1 (ko) |
JP (1) | JP2024525203A (ko) |
KR (1) | KR20240025527A (ko) |
CA (1) | CA3221974A1 (ko) |
IL (1) | IL309836A (ko) |
WO (1) | WO2023275671A1 (ko) |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7991475B1 (en) * | 2005-06-08 | 2011-08-02 | The Regents Of The University Of California | High density micromachined electrode arrays useable for auditory nerve implants and related methods |
-
2022
- 2022-06-21 IL IL309836A patent/IL309836A/en unknown
- 2022-06-21 EP EP22736378.5A patent/EP4363042A1/en active Pending
- 2022-06-21 CA CA3221974A patent/CA3221974A1/en active Pending
- 2022-06-21 JP JP2023579087A patent/JP2024525203A/ja active Pending
- 2022-06-21 KR KR1020237043822A patent/KR20240025527A/ko unknown
- 2022-06-21 WO PCT/IB2022/055761 patent/WO2023275671A1/en active Application Filing
-
2023
- 2023-03-07 US US18/118,233 patent/US20230209279A1/en active Pending
Also Published As
Publication number | Publication date |
---|---|
IL309836A (en) | 2024-02-01 |
US20230209279A1 (en) | 2023-06-29 |
JP2024525203A (ja) | 2024-07-10 |
EP4363042A1 (en) | 2024-05-08 |
CA3221974A1 (en) | 2023-01-05 |
WO2023275671A1 (en) | 2023-01-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Yip et al. | A fully-implantable cochlear implant SoC with piezoelectric middle-ear sensor and arbitrary waveform neural stimulation | |
US9432777B2 (en) | Hearing device with brainwave dependent audio processing | |
CN106233754B (zh) | 听力辅助设备控制 | |
EP2942042B1 (en) | Tinnitus treatment device | |
CN110072434A (zh) | 用于辅助听力设备使用的声音声学生物标记的使用 | |
US20150367132A1 (en) | Hearing system comprising an auditory prosthesis device and a hearing aid | |
JP6037418B2 (ja) | 耳鳴り診断検査装置 | |
Fletcher et al. | Electro-haptic enhancement of spatial hearing in cochlear implant users | |
US10237664B2 (en) | Audio logging for protected privacy | |
CN105764564A (zh) | 使用作为感测声音的周期性的倍数的刺激速度的听觉假体 | |
Fletcher | Can haptic stimulation enhance music perception in hearing-impaired listeners? | |
CN110393015A (zh) | 高级人工声音听觉训练 | |
US11641555B2 (en) | Methods and systems for auditory nerve signal conversion | |
KR20210110550A (ko) | 난청환자를 위한 청능 훈련시스템 | |
US8706247B2 (en) | Remote audio processor module for auditory prosthesis systems | |
Shekar et al. | An evaluation framework for research platforms to advance cochlear implant/hearing aid technology: A case study with CCi-MOBILE | |
CN118718253A (zh) | 音频设备的接受者的音乐感知的改善 | |
US10357655B2 (en) | Frequency-dependent focusing systems and methods for use in a cochlear implant system | |
KR20240025527A (ko) | 청각 신경 신호 변환 방법 및 시스템 | |
CN101310695A (zh) | 基于移动电话和结合语音声调信息的人工电子耳蜗 | |
JP2018101243A (ja) | 生体電気刺激装置、生体電気刺激システムおよび電気刺激提示方法 | |
JP2018185704A (ja) | 生体電気刺激装置、生体電気刺激システムおよび生体電気刺激方法 | |
Ganis et al. | Tickle Tuner-Haptic Smartphone Cover for Cochlear Implant Users’ Musical Training | |
Islam et al. | Investigating the Performance of Gammatone Filters and Their Applicability to Design Cochlear Implant Processing System | |
US20200296523A1 (en) | Acoustic spot identification |