RU2389086C2 - Способ и устройство для улучшения речи с помощью нескольких датчиков - Google Patents

Способ и устройство для улучшения речи с помощью нескольких датчиков Download PDF

Info

Publication number
RU2389086C2
RU2389086C2 RU2005127419/09A RU2005127419A RU2389086C2 RU 2389086 C2 RU2389086 C2 RU 2389086C2 RU 2005127419/09 A RU2005127419/09 A RU 2005127419/09A RU 2005127419 A RU2005127419 A RU 2005127419A RU 2389086 C2 RU2389086 C2 RU 2389086C2
Authority
RU
Russia
Prior art keywords
signal
speech
channel response
value
alternative sensor
Prior art date
Application number
RU2005127419/09A
Other languages
English (en)
Other versions
RU2005127419A (ru
Inventor
Алехандро АСЕРО (US)
Алехандро АСЕРО
Джеймс Дж. ДРОППО (US)
Джеймс Дж. ДРОППО
Сюэдонг Дэвид ХУАН (US)
Сюэдонг Дэвид ХУАН
Чжэню ЧЖАН (US)
Чжэню ЧЖАН
Цзычэн ЛЮ (US)
Цзычэн ЛЮ
Original Assignee
Майкрософт Корпорейшн
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Майкрософт Корпорейшн filed Critical Майкрософт Корпорейшн
Publication of RU2005127419A publication Critical patent/RU2005127419A/ru
Application granted granted Critical
Publication of RU2389086C2 publication Critical patent/RU2389086C2/ru

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/20—Image preprocessing
    • G06V10/30—Noise filtering
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04R—LOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R3/00—Circuits for transducers, loudspeakers or microphones
    • H04R3/005—Circuits for transducers, loudspeakers or microphones for combining the signals of two or more microphones
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L21/00—Speech or voice signal processing techniques to produce another audible or non-audible signal, e.g. visual or tactile, in order to modify its quality or its intelligibility
    • G10L21/02—Speech enhancement, e.g. noise reduction or echo cancellation
    • G10L21/0208—Noise filtering
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04R—LOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R3/00—Circuits for transducers, loudspeakers or microphones
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L21/00—Speech or voice signal processing techniques to produce another audible or non-audible signal, e.g. visual or tactile, in order to modify its quality or its intelligibility
    • G10L21/02—Speech enhancement, e.g. noise reduction or echo cancellation
    • G10L21/0208—Noise filtering
    • G10L21/0216—Noise filtering characterised by the method used for estimating noise
    • G10L2021/02161—Number of inputs available containing the signal or the noise to be suppressed
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04R—LOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R2460/00—Details of hearing devices, i.e. of ear- or headphones covered by H04R1/10 or H04R5/033 but not provided for in any of their subgroups, or of hearing aids covered by H04R25/00 but not provided for in any of its subgroups
    • H04R2460/13—Hearing devices using bone conduction transducers

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Signal Processing (AREA)
  • Acoustics & Sound (AREA)
  • Health & Medical Sciences (AREA)
  • Multimedia (AREA)
  • Quality & Reliability (AREA)
  • Computational Linguistics (AREA)
  • Otolaryngology (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Human Computer Interaction (AREA)
  • General Health & Medical Sciences (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Circuit For Audible Band Transducer (AREA)
  • Measurement Of Mechanical Vibrations Or Ultrasonic Waves (AREA)
  • Machine Translation (AREA)

Abstract

Изобретение относится к понижению шума, в частности к удалению шума из речевых сигналов. Способ и устройство для определения оценки значения речевого сигнала определяют канальный отклик альтернативного датчика с использованием сигнала альтернативного датчика и сигнала микрофона воздушной звукопроводимости. Затем канальный отклик используется для оценивания чистого речевого значения с использованием, по меньшей мере, части сигнала альтернативного датчика. Технический результат - обеспечение оптимальной оценки значения речевых сигналов, когда шумовые условия тест-сигналов согласуются с шумовыми условиями обучающих сигналов. 3 н. и 23 з.п. ф-лы, 7 ил.

Description

УРОВЕНЬ ТЕХНИКИ
Настоящее изобретение относится к понижению шума. В частности, настоящее изобретение относится к удалению шума из речевых сигналов.
Общей проблемой распознавания речи и передачи речи является искажение речевого сигнала аддитивным шумом. В частности, доказано, что искажение вследствие речи другого говорящего трудно обнаружить и/или исправить.
В последнее время была разработана система, которая пытается устранить шум с использованием комбинации альтернативного датчика, например, микрофона костной звукопроводимости, и микрофона воздушной звукопроводимости. Эта система обучается с использованием трех каналов обучения: зашумленного обучающего сигнала альтернативного датчика, зашумленного обучающего сигнала микрофона воздушной звукопроводимости и чистого обучающего сигнала микрофона воздушной звукопроводимости. Каждый из этих сигналов преобразуется в область признаков (компонентов речи). Признаки (характеристики) для зашумленного сигнала альтернативного датчика и зашумленного сигнала микрофона воздушной звукопроводимости комбинируются в единый вектор, представляющий зашумленный сигнал. Признаки для чистого сигнала микрофона воздушной звукопроводимости образуют единый чистый вектор. Затем эти векторы используются для обучения отображения между зашумленными векторами и чистыми векторами. После обучения отображения применяются к зашумленному вектору, образованному из комбинации зашумленного тест-сигнала альтернативного датчика и зашумленного тест-сигнала микрофона воздушной звукопроводимости. Это отображение создает вектор чистого сигнала.
Эта система недостаточно оптимальна, когда шумовые условия тест-сигналов не согласуются с шумовыми условиями обучающих сигналов, так как отображения предназначены для шумовых условий обучающих сигналов.
СУЩНОСТЬ ИЗОБРЕТЕНИЯ
Способ и устройство позволяют определять канальный отклик для альтернативного датчика с использованием сигнала альтернативного датчика и сигнала микрофона воздушной звукопроводимости. Затем канальный отклик используется для оценки чистого речевого значения с использованием, по меньшей мере, части сигнала альтернативного датчика.
КРАТКОЕ ОПИСАНИЕ ЧЕРТЕЖЕЙ
Фиг.1 - блок-схема одной вычислительной среды, в которой можно практически осуществить настоящее изобретение.
Фиг.2 - блок-схема альтернативной вычислительной среды, в которой можно практически осуществить настоящее изобретение.
Фиг.3 - блок-схема системы общей обработки речи, отвечающей настоящему изобретению.
Фиг.4 - блок-схема системы для улучшения речи согласно одному варианту осуществления настоящего изобретения.
Фиг.5 - блок-схема операций для улучшения речи согласно одному варианту осуществления настоящего изобретения.
Фиг.6 - блок-схема операций для улучшения речи согласно другому варианту осуществления настоящего изобретения.
Фиг.7 - блок-схема операций для улучшения речи согласно еще одному варианту осуществления настоящего изобретения.
ПОДРОБНОЕ ОПИСАНИЕ ИЛЛЮСТРАТИВНЫХ ВАРИАНТОВ ОСУЩЕСТВЛЕНИЯ
На фиг.1 показан пример подходящей среды 100 вычислительной системы, в которой можно реализовать изобретение. Среда 100 вычислительной системы является лишь одним примером подходящей вычислительной среды и не призвана накладывать какие-либо ограничения на объем использования или функциональные возможности изобретения. Кроме того, вычислительную среду 100 не следует рассматривать как имеющую какую-либо зависимость или требование в отношении любого компонента, проиллюстрированного в иллюстративной рабочей среде 100 или их комбинации.
Изобретение применимо ко многим другим средам или конфигурациям вычислительных систем общего назначения или специального назначения. Примеры общеизвестных вычислительных систем, сред и/или конфигураций, пригодных для применения изобретения, включают в себя, но без ограничения, персональные компьютеры, компьютеры-серверы, карманные или портативные устройства, многопроцессорные системы, системы на основе микропроцессора, телевизионные приставки, программируемую бытовую электронику, сетевые ПК, мини-компьютеры, универсальные компьютеры, телефонные системы, распределенные вычислительные среды, которые включают в себя любые из вышеперечисленных систем или устройств, и т.п.
Изобретение можно описать в общем контексте компьютерно-выполняемых команд, например, программных модулей, выполняемых компьютером. В общем случае, программные модули включают в себя процедуры, программы, объекты, компоненты, структуры данных и т.д., которые выполняют конкретные задачи или реализуют специфические абстрактные типы данных. Изобретение можно применять на практике в распределенных вычислительных средах, где задачи выполняются удаленными устройствами обработки, связанными друг с другом посредством сети передачи данных. В распределенной вычислительной среде программные модули размещаются как на локальных, так и на удаленных компьютерных носителях данных, включая запоминающие устройства.
Согласно фиг.1, иллюстративная система для реализации изобретения включает в себя вычислительное устройство общего назначения в виде компьютера 110. Компоненты компьютера 110 включают в себя, но без ограничения, процессор 120, системную память 130 и системную шину 121, которая подключает различные компоненты системы, в том числе системную память, к процессору 120. Системная шина 121 может относиться к любому из нескольких типов шинных структур, включая шину памяти или контроллер памяти, периферийную шину и локальную шину с использованием различных шинных архитектур. В порядке примера, но не ограничения, такие архитектуры включают в себя шину «архитектуры промышленного стандарта» (ISA), шину «микроканальной архитектуры» (MCA), шину расширенной ISA (EISA), локальную шину «ассоциации по стандартизации видеоэлектроники» (VESA) и шину «взаимосоединения периферийных компонентов» (PCI), также именуемую шиной расширения.
Компьютер 110 обычно включает в себя различные считываемые компьютером среды. Считываемые компьютером среды могут представлять собой любые имеющиеся среды, к которым компьютер 110 может осуществлять доступ, и включают в себя энергозависимые и энергонезависимые среды, сменные и стационарные среды. В порядке примера, но не ограничения, считываемые компьютером среды могут содержать компьютерные носители данных и среды передачи данных. Компьютерные носители данных включает в себя энергозависимые и энергонезависимые, сменные и стационарные носители, реализованные с помощью любого метода или технологии для хранения информации, например, считываемых компьютером команд, структур данных, программных модулей или других данных. Компьютерные носители данных включает в себя, но без ограничения, ОЗУ, ПЗУ, ЭСППЗУ, цифровые универсальные диски (DVD) или другие оптические диски, магнитные кассеты, магнитную ленту или другие магнитные запоминающие устройства или любой другой носитель, который можно использовать для хранения полезной информации и к которому компьютер 110 может осуществлять доступ. Среды передачи данных обычно реализуют считываемые компьютером команды, структуры данных, программные модули или другие данные в сигнале, модулированном данными, например, несущей волне или другом транспортном механизме, и включают в себя любые среды доставки информации. Термин «сигнал, модулированный данными» означает сигнал, одна или несколько характеристик которого изменяются таким образом, чтобы кодировать информацию в сигнале. В порядке примера, но не ограничения, среды передачи данных включает в себя проводные среды, например, проводную сеть или прямое проводное соединение, и беспроводные среды, например, акустические, РЧ, инфракрасные и другие беспроводные среды. Комбинации любых вышеперечисленных сред также подлежат включению в понятие считываемых компьютером сред.
Системная память 130 включает в себя компьютерные носители данных в виде энергозависимой и/или энергонезависимой памяти, например, постоянной памяти (ПЗУ) 131 и оперативной памяти (ОЗУ) 132. Базовая система ввода/вывода 133 (BIOS), содержащая основные процедуры, которые помогают переносить информацию между элементами компьютера 110, например, при запуске, обычно хранятся в ПЗУ 131. ОЗУ 132 обычно содержит данные и/или программные модули, к которым процессор 120 может непосредственно обращаться или которыми он в данный момент оперирует. В порядке примера, но не ограничения, на фиг.1 показаны операционная система 134, прикладные программы 135, другие программные модули 136 и программные данные 137.
Компьютер 110 также может включать в себя другие сменные/стационарные, энергозависимые/энергонезависимые компьютерные носители данных. Исключительно для примера, на фиг.1 показаны накопитель 141 на жестком диске, который считывает с или записывает на стационарный энергонезависимый магнитный носитель, накопитель 151 на магнитном диске, который считывает с или записывает на сменный энергонезависимый магнитный диск 152, и накопитель 155 на оптическом диске, который считывает с или записывает на сменный энергонезависимый оптический диск 156, например, CD-ROM или другой оптический носитель. Другие сменные/стационарные, энергозависимые/энергонезависимые компьютерные носители данных, которые можно использовать в иллюстративной рабочей среде, включают в себя, но без ограничения, кассеты с магнитной лентой, карты флэш-памяти, цифровые универсальные диски, цифровую видеоленту, полупроводниковое ОЗУ, полупроводниковое ПЗУ и т.д. Накопитель 141 на жестком диске обычно подключен к системной шине 121 через интерфейс стационарной памяти, например интерфейс 140, и накопитель 151 на магнитном диске и накопитель 155 на оптическом диске обычно подключены к системной шине 121 посредством интерфейса сменной памяти, например, интерфейса 150.
Накопители и соответствующие компьютерные носители данных, рассмотренные выше и показанные на фиг.1, обеспечивают хранение считываемых компьютером команд, структур данных, программных модулей и других данных для компьютера 110. Например, на фиг.1 показано, что в накопителе 141 жесткого диска хранятся операционная система 144, прикладные программы 145, другие программные модули 146 и программные данные 147. Заметим, что эти компоненты могут совпадать с или отличаться от операционной системы 134, прикладных программ 135, других программных модулей 136 и программных данных 137. Операционная система 144, прикладные программы 145, другие программные модули 146 и программные данные 147 обозначены здесь другими позициями, чтобы подчеркнуть, что они являются, как минимум, разными копиями.
Пользователь может вводить команды и информацию в компьютер 110 через устройства ввода, например, клавиатуру 162, микрофон 163 и указательное устройство 161, например, мышь, шаровой манипулятор или сенсорную панель. Другие устройства ввода (не показаны) могут включать в себя джойстик, игровую панель, спутниковую антенну, сканер и т.п. Эти и другие устройства ввода часто подключены к процессору 120 через интерфейс 160 пользовательского ввода, который подключен к системной шине, но могут подключаться посредством других интерфейсов и шинных структур, например, параллельного порта, игрового порта или универсальной последовательной шины (USB). Монитор 191 или устройство отображения другого типа также подключен к системной шине 121 через интерфейс, например, видеоинтерфейс 190. Помимо монитора, компьютеры также могут включать в себя другие периферийные устройства вывода, например громкоговорители 197 и принтер 196, которые могут подключаться через интерфейс 195 выходной периферии.
Компьютер 110 работает в сетевой среде с использованием логических соединений с одним или несколькими удаленными компьютерами, например удаленным компьютером 180. Удаленный компьютер 180 может представлять собой персональный компьютер, карманное устройство, сервер, маршрутизатор, сетевой ПК, равноправное устройство или другой общий сетевой узел, и обычно включает в себя многие или все элементы, описанные выше применительно к компьютеру 110. Логические соединения, описанные на фиг.1, включают в себя локальную сеть (ЛС) 171 и глобальную сеть (ГС) 173, но также могут включать в себя другие сети. Такие сетевые среды обычно применяются в учреждениях, компьютерных сетях в масштабе предприятия, интранетах и Интернете.
При использовании в сетевой среде ЛС, компьютер 110 подключен к ЛС 171 через сетевой интерфейс или адаптер 170. При использовании в сетевой среде ГС, компьютер 110 обычно включает в себя модем 172 или другое средство установления связи в ГС 173, например, Интернете. Модем 172, который может быть внутренним или внешним, может быть подключен к системной шине 121 через интерфейс 160 пользовательского ввода или другой пригодный механизм. В сетевой среде программные модули, описанные применительно к компьютеру 110, или часть из них могут храниться в удаленном запоминающем устройстве. В порядке примера, но не ограничения, на фиг.1 показано, что удаленные прикладные программы 185 размещены на удаленном компьютере 180. Заметим, что показанные сетевые соединения являются иллюстративными и можно использовать другие средства установления линии связи между компьютерами.
На фиг.2 показана блок-схема мобильного устройства 200, которое является иллюстративной вычислительной средой. Мобильное устройство 200 включает в себя микропроцессор 202, память 204, компоненты 206 ввода/вывода и интерфейс 208 передачи данных для связи с удаленными компьютерами или другими мобильными устройствами. В одном варианте осуществления вышеупомянутые компоненты соединены для связи друг с другом посредством подходящей шины 210.
Память 204 реализована как энергонезависимая электронная память, например, оперативная память (ОЗУ) с блоком батарейной поддержки (не показан), так что информация, хранящаяся в памяти 204, не теряется при отключении общего питания мобильного устройства 200. Часть памяти 204, предпочтительно, выделена как адресуемая память для выполнения программ, тогда как другая часть памяти 204, предпочтительно, используется для хранения, например, для имитации хранения в дисководе.
Память 204 включает в себя операционную систему 212, прикладные программы 214, а также хранилище 216 объектов. В ходе работы операционная система 212, предпочтительно, выполняется процессором 202 из памяти 204. Операционная система 212 в одном предпочтительном варианте осуществления представляет собой операционную систему WINDOWS® CE, коммерчески доступную от Microsoft Corporation. Операционная система 212, предпочтительно, предназначена для мобильных устройств и реализует особенности базы данных, которые могут использоваться приложениями 214 через набор открытых программных интерфейсов приложений и методов. Объекты в хранилище 216 объектов поддерживаются приложениями 214 и операционной системой 212, по меньшей мере, частично, в ответ на вызовы к открытым программным интерфейсам приложений и методам.
Интерфейс 208 передачи данных представляет многочисленные устройства и технологии, которые позволяют мобильному устройству 200 передавать и принимать информацию. Устройства включают в себя, помимо прочего, проводной и беспроводной модемы, спутниковые приемники и широковещательные тюнеры. Мобильное устройство 200 также может непосредственно подключаться к компьютеру для обмена данными с ним. В таких случаях интерфейс 208 передачи данных может представлять собой инфракрасный приемопередатчик или последовательное или параллельное соединение с передачей данных, любое устройство из которых способно передавать потоковую информацию.
Компоненты 206 ввода/вывода включают в себя разнообразные устройства ввода, например, сенсорный экран, кнопки, ролики и микрофон, а также разнообразные устройства вывода, включая аудиогенератор, вибрационное устройство и дисплей. Вышеперечисленные устройства носят иллюстративный характер и не обязаны присутствовать в мобильном устройстве 200. Кроме того, другие устройства ввода/вывода могут быть присоединены к мобильному устройству 200 или входить в его состав, в рамках объема настоящего изобретения.
На фиг.3 изображена основная блок-схема вариантов осуществления настоящего изобретения. Согласно фиг.3 говорящий 300 генерирует речевой сигнал 302 (X), который регистрируется микрофоном 304 воздушной звукопроводимости и альтернативным датчиком 306. Примеры альтернативных датчиков включают в себя ларингофон, который измеряет горловые вибрации пользователя, датчик костной звукопроводимости, размещенный на или рядом с лицевой или черепной костью пользователя (например, челюстной костью) или в ухе пользователя, и воспринимает вибрации черепа и челюсти, которые соответствуют речи, генерируемой пользователем. Микрофон 304 воздушной звукопроводимости представляет собой микрофон такого типа, который обычно используется для преобразования акустических волн, распространяющихся в воздухе, в электрические сигналы.
Микрофон 304 воздушной звукопроводимости также принимает шум 308 окружающей среды (U), генерируемый одним или несколькими источниками 310 шума, и фоновую речь 312 (V), генерируемую фоновым(и) говорящим(и) 314. В зависимости от типа альтернативного датчика и уровня фоновой речи, фоновая речь 312 также может регистрироваться альтернативным датчиком 306. Однако, согласно вариантам осуществления настоящего изобретения, альтернативный датчик 306 обычно менее чувствителен к шуму окружающей среды и фоновой речи, чем микрофон 304 воздушной звукопроводимости. Таким образом, сигнал 316 альтернативного датчика (B), генерируемый альтернативным датчиком 306, в общем случае включает в себя меньше шума, чем сигнал 318 микрофона воздушной звукопроводимости (Y), генерируемый микрофоном 304 воздушной звукопроводимости. Хотя альтернативный датчик 306 менее чувствителен к шуму окружающей среды, он генерирует некоторый шум 320 датчика (W).
Путь от говорящего 300 к сигналу 316 альтернативного датчика можно смоделировать как канал, имеющий канальный отклик H. Путь от фонового(ых) говорящего(их) 314 к сигналу 316 альтернативного датчика можно смоделировать как канал, имеющий канальный отклик G.
Сигнал 316 альтернативного датчика (B) и сигнал 318 микрофона воздушной звукопроводимости (Y) поступают на блок 322 оценки чистого сигнала, который оценивает чистый сигнал 324 и в некоторых вариантах осуществления оценивает фоновый речевой сигнал 326. Оценка 324 чистого сигнала поступает на блок 328 обработки речи. Оценка 324 чистого сигнала может представлять собой либо сигнал, отфильтрованный во временной области, либо вектор преобразования Фурье. Если оценка 324 чистого сигнала является сигналом во временной области, то блок 328 обработки речи может представлять собой слушающего, систему кодирования речи или систему распознавания речи. Если оценка 324 чистого сигнала является вектором преобразования Фурье, то блок 328 обработки речи обычно является системой распознавания речи или содержит обратное преобразование Фурье для преобразования вектора преобразования Фурье в формы волны.
В блоке 322 улучшения методом прямой фильтрации, сигнал 316 альтернативного датчика и сигнал 318 микрофона преобразуются в частотную область для оценивания чистой речи. Как показано на фиг.4, сигнал 316 альтернативного датчика и сигнал 318 микрофона воздушной звукопроводимости поступают на аналого-цифровые преобразователи 404 и 414 соответственно для генерации последовательности цифровых значений, которые группируются в кадры значений блоками 406 и 416 построения кадров соответственно. В одном варианте осуществления АЦП 404 и 414 дискретизируют аналоговые сигналы на частоте 16 кГц и 16 битов на выборку, создавая таким образом 32 килобайта речевых данных в секунду, и блоки 406 и 416 построения кадров каждые 10 миллисекунд создают новый соответствующий кадр, который включает в себя 20 миллисекунд полезных данных.
Каждый соответствующий кадр данных, обеспеченный блоками 406 и 416 построения кадров, преобразуется в частотную область с использованием блоков 408 и 418 быстрого преобразования Фурье (БПФ) соответственно.
Значения частотной области для сигнала альтернативного датчика и сигнала микрофона воздушной звукопроводимости поступают на блок 420 оценки чистого сигнала, который использует значения частотной области для оценивания чистого речевого сигнала 324 и в некоторых вариантах осуществления - фонового речевого сигнала 326.
В некоторых вариантах осуществления чистый речевой сигнал 324 и фоновый речевой сигнал 326 преобразуются обратно в частотную область с использованием блоков 422 и 424 обратного быстрого преобразования Фурье. В результате получаются версии временной области для чистого речевого сигнала 324 и фонового речевого сигнала 326.
Настоящее изобретение предусматривает методы прямой фильтрации для оценивания чистого речевого сигнала 324. В процессе прямой фильтрации оценка максимального правдоподобия канального(ых) отклика(ов) для альтернативного датчика 306 определяется путем минимизации функции относительно канального(ых) отклика(ов). Затем эти оценки используются для определения оценки максимального правдоподобия чистого речевого сигнала путем минимизации функции относительно чистого речевого сигнала.
Согласно одному варианту осуществления настоящего изобретения, канальный отклик G, соответствующий фоновой речи, регистрируемый альтернативным датчиком, полагается равным нулю, и фоновая речь и шум окружающей среды комбинируются для формирования единого шумового члена. Это приводит к модели между чистым речевым сигналом и сигналом микрофона воздушной звукопроводимости и сигнала альтернативного датчика следующим образом:
Figure 00000001
 (Уравнение 1)
Figure 00000002
 (Уравнение 2)
где
Figure 00000003
- сигнал микрофона воздушной звукопроводимости,
Figure 00000004
- сигнал альтернативного датчика,
Figure 00000005
- чистый речевой сигнал,
Figure 00000006
- комбинированный шумовой сигнал, который включает в себя фоновую речь и шум окружающей среды,
Figure 00000007
- шум альтернативного датчика и
Figure 00000008
- канальный отклик на чистый речевой сигнал, связанный с альтернативным датчиком. Таким образом, в уравнении 2, сигнал альтернативного датчика моделируется как отфильтрованная версия чистой речи, где фильтр имеет импульсный отклик
Figure 00000008
.
В частотной области, уравнения 1 и 2 можно выразить так:
Figure 00000009
 (Уравнение 3)
Figure 00000010
 (Уравнение 4)
где обозначение
Figure 00000011
представляет k-ю частотную составляющую кадра сигнала с центром в моменте времени t. Это обозначение применяется к
Figure 00000012
,
Figure 00000013
,
Figure 00000014
,
Figure 00000015
и
Figure 00000016
. В нижеследующем рассмотрении ссылка на частотную составляющую k опущена для простоты. Однако специалистам в данной области очевидно, что производимые ниже вычисления производятся для каждой частотной составляющей в отдельности.
Согласно этому варианту осуществления, действительная и мнимая части шума
Figure 00000017
и
Figure 00000018
моделируются как независимые гауссовы распределения с нулевым математическим ожиданием, так что:
Figure 00000019
 (Уравнение 5)
Figure 00000020
 (Уравнение 6)
где
Figure 00000021
- дисперсия для шума
Figure 00000022
, и
Figure 00000023
- дисперсия для шума
Figure 00000018
.
Figure 00000024
также моделируется как гауссово распределение, так что
Figure 00000025
 (Уравнение 7)
где
Figure 00000026
- математическое ожидание канального отклика, и
Figure 00000027
- дисперсия канального отклика.
При данных параметрах модели вероятность чистого речевого значения
Figure 00000028
и значения канального отклика
Figure 00000029
описывается условной вероятностью:
Figure 00000030
 (Уравнение 8)
которая пропорциональна
Figure 00000031
 (Уравнение 9)
которая равна
Figure 00000032
 (Уравнение 10)
В одном варианте осуществления априорная вероятность для канального отклика,
Figure 00000033
, и априорная вероятность для чистого речевого сигнала,
Figure 00000034
, игнорируются, и остальные вероятности рассматриваются как распределения Гаусса. Используя эти упрощения, преобразуем уравнение 10:
Figure 00000035
 (Уравнение 11)
Таким образом, оценка максимального правдоподобия
Figure 00000036
для фрагмента речи определяется путем минимизации экспоненциального члена уравнения 11 по всем временным кадрам T во фрагменте речи. Таким образом, оценка максимального правдоподобия задается минимизацией:
Figure 00000037
 (Уравнение 12)
Поскольку уравнение 12 минимизируется относительно двух переменных,
Figure 00000038
, для определения значения этой переменной, которое минимизирует функцию, можно взять частную производную по каждой переменной. В частности,
Figure 00000039
дает:
Figure 00000040
 (Уравнение 13)
где
Figure 00000041
представляет комплексно сопряженную величину
Figure 00000042
, и
Figure 00000043
представляет модуль комплексного значения
Figure 00000044
.
Подставляя это значение
Figure 00000045
в уравнение 12, задавая частную производную
Figure 00000046
, и затем предполагая, что H постоянна по всем временным кадрам Т, получаем решение для Н:
Figure 00000047
 (Уравнение 14)
В уравнении 14 для оценивания Н требуется вычислить несколько сумм по последним Т кадрам в виде:
Figure 00000048
 (Уравнение 15)
где st равно
Figure 00000049
или
Figure 00000050
.
В этой формуле первый кадр (t=1) столь же важен, как и последний кадр (t=T). Однако в других вариантах осуществления предпочтительно, чтобы последние кадры вносили больший вклад в оценку Н, чем более старые кадры. Один из методов, позволяющий добиться этого, называется «экспоненциальное старение», в котором суммирование уравнения 15 заменяется на
Figure 00000051
 (Уравнение 16)
где
Figure 00000052
. Если с=1, то уравнение 16 эквивалентно уравнению 15, если c<1, то последний кадр взвешивается с коэффициентом 1, предпоследний кадр взвешивается с коэффициентом с (т.е. его вклад меньше, чем вклад последнего кадра), и первый кадр взвешивается с коэффициентом cT−1 (т.е. его вклад значительно меньше вклада последнего кадра). Рассмотрим пример. Пусть c=0,99 и T=100, тогда вес первого кадра составляет только 0,9999=0,37.
Согласно одному варианту осуществления уравнение 16 рекурсивно оценивается как
Figure 00000053
 (Уравнение 17)
Поскольку уравнение 17 автоматически взвешивает старые данные меньше, не требуется использовать окно фиксированной длины, и данные последних Т кадров не нужно хранить в памяти. Вместо этого, нужно хранить только значение S(T-1) на предыдущем кадре.
Используя уравнение 17, преобразуем уравнение 14:
Figure 00000054
 (Уравнение 18)
где
Figure 00000055
 (Уравнение 19)
Figure 00000056
 (Уравнение 20)
Значение с в уравнениях 19 и 20 обеспечивает эффективную длину для количества прошлых кадров, которые использовались для вычисления текущего значения J(T) и K(T). В частности, эффективная длина задается
Figure 00000057
 (Уравнение 21)
Асимптотическая эффективная длина задается
Figure 00000058
 (Уравнение 22)
или, эквивалентно,
Figure 00000059
 (Уравнение 23)
Таким образом, используя уравнение 23, можно задать с, чтобы получить разные эффективные длины в уравнении 18. Например, чтобы получить эффективную длину в 200 кадров, с задается как:
Figure 00000060
 (Уравнение 24)
Оценив Н с использованием уравнения 14, его можно использовать вместо всех
Figure 00000042
из уравнения 13 для определения отдельного значения
Figure 00000061
на каждом временном кадре t. Альтернативно, уравнение 18 можно использовать для оценивания
Figure 00000044
на каждом временном кадре t. Значение
Figure 00000044
на каждом кадре затем используется в уравнении 13 для определения
Figure 00000061
.
На фиг.5 показана последовательность этапов способа, отвечающего настоящему изобретению, согласно которому используют уравнения 13 и 14, чтобы оценить чистое речевое значение для фрагмента речи.
На этапе 500 частотные составляющие кадров сигнала микрофона воздушной звукопроводимости и сигнал альтернативного датчика захватывают по всему фрагменту речи.
На этапе 502 дисперсию шума микрофона воздушной звукопроводимости
Figure 00000062
и шума альтернативного датчика
Figure 00000063
определяют из кадров сигнала микрофона воздушной звукопроводимости и сигнала альтернативного датчика соответственно, которые захвачены заранее во фрагменте речи, когда говорящий не говорит.
Согласно способу, определяют, когда говорящий не говорит, идентифицируя низкоэнергичные части сигнала альтернативного датчика, поскольку энергия шума альтернативного датчика гораздо меньше, чем речевой сигнал, захваченный сигналом альтернативного датчика. В других вариантах осуществления известные методы обнаружения можно применять к речевому сигналу воздушной звукопроводимости, чтобы идентифицировать, когда говорящий говорит. В течение периодов, когда не считается, что говорящий говорит,
Figure 00000061
полагают равным нулю, и любой сигнал от микрофона воздушной звукопроводимости или альтернативного датчика рассматривается как шум. Выборки этих шумовых значений собирают из кадров отсутствия речевой активности и используют для оценивания дисперсии шума в сигнале воздушной звукопроводимости и сигнале альтернативного датчика.
На этапе 504 значения сигнала альтернативного датчика и сигнала микрофона воздушной звукопроводимости по всем кадрам фрагмента речи используют для определения значения Н с использованием вышеприведенного уравнения 14. На этапе 506 это значение Н используют совместно с отдельными значениями сигнала микрофона воздушной звукопроводимости и сигнала альтернативного датчика на каждом временном кадре для определения улучшенного речевого значения или речевого значения с пониженным шумом для каждого временного кадра с использованием вышеприведенного уравнения 13.
В других вариантах осуществления вместо того, чтобы использовать все кадры фрагмент речи для определения единого значения Н с использованием уравнения 14,
Figure 00000064
определяют для каждого кадра с использованием уравнения 18. Затем значение
Figure 00000064
используют для вычисления
Figure 00000065
для кадра с использованием вышеприведенного уравнения 13.
Во втором варианте осуществления настоящего изобретения, канальный отклик альтернативного датчика на фоновую речь считают неравным нулю. В этом варианте осуществления сигнал микрофона воздушной звукопроводимости и сигнал альтернативного датчика моделируют как:
Figure 00000066
 (Уравнение 25)
Figure 00000067
 (Уравнение 26)
где шум
Figure 00000068
делится на фоновую речь
Figure 00000069
и шум окружающей среды
Figure 00000070
, и канальный отклик альтернативного датчика на фоновую речь является ненулевым значением
Figure 00000071
.
В этом вариант осуществления априорное знание чистой речи
Figure 00000061
продолжают игнорировать. Исходя из этого предположения, максимальное правдоподобие для чистой речи
Figure 00000061
можно найти, минимизировав целевую функцию:
Figure 00000072
 (Уравнение 27)
В результате уравнение для чистой речи приобретает вид:
Figure 00000073
 (Уравнение 28)
Чтобы решить уравнение 28, нужно знать дисперсии
Figure 00000074
,
Figure 00000075
и
Figure 00000076
, а также значения канального отклика
Figure 00000042
и
Figure 00000077
. На фиг.6 изображена последовательность операций для идентификации этих значений и для определения улучшенных речевых значений для каждого кадра.
На этапе 600 идентифицируют кадры фрагмента речи, когда пользователь не говорит и отсутствует фоновая речь. Затем эти кадры используют для определения дисперсии
Figure 00000074
и
Figure 00000075
для альтернативного датчика и микрофона воздушной звукопроводимости соответственно.
Чтобы идентифицировать кадры, когда пользователь не говорит, можно проверять сигнал альтернативного датчика. Поскольку сигнал альтернативного датчика создает гораздо меньшие значения сигнала для фоновой речи, чем для шума, если энергия сигнал альтернативного датчика низка, можно предположить, что говорящий не говорит. В кадрах, идентифицированных на основании альтернативного сигнала, можно применять алгоритм обнаружения речи к сигналу микрофона воздушной звукопроводимости. Эта система обнаружения речи будет выявлять, присутствует ли фоновая речь в сигнале микрофона воздушной звукопроводимости, когда пользователь не говорит. Такие алгоритмы обнаружения речи широко известны в уровне техники и включают в себя, например, системы отслеживания высоты тона.
После определения дисперсий для шума, связанного с микрофоном воздушной звукопроводимости и альтернативны датчиком, способ, представленный на фиг.6, переходит к этапу 602, на котором идентифицируют кадры, когда пользователь не говорит, но присутствует фоновая речь. Эти кадры идентифицируют с использованием вышеописанного метода, но выбирают те кадры, которые включают в себя фоновую речь, когда пользователь не говорит. Для тех кадров, которые включают в себя фоновую речь, когда пользователь не говорит, предполагается, что фоновая речь гораздо больше, чем шум окружающей среды. Поэтому считается, что любая дисперсия в сигнале микрофона воздушной звукопроводимости в течение этих кадров связана с фоновой речью. В результате, дисперсию
Figure 00000078
можно задать непосредственно из значений сигнал микрофона воздушной звукопроводимости в течение, когда пользователь не говорит, но присутствует фоновая речь.
На этапе 604 идентифицированные кадры, когда пользователь не говорит, но присутствует фоновая речь, используют для оценивания канального отклика G альтернативного датчика для фоновой речи. В частности, G определяют как:
Figure 00000079
 (Уравнение 29)
где D - количество кадров, в которых пользователь не говорит, но присутствует фоновая речь. В уравнении 29 предполагается, что G остается постоянным на протяжение всех кадров фрагмента речи и, таким образом, уже не зависит от временного кадра t.
На этапе 606 значение канального отклика G альтернативного датчика на фоновую речь используют для определения канального отклика альтернативного датчика на чистый речевой сигнал. В частности, Н вычисляют как:
Figure 00000080
  
  (Уравнение 30)
В уравнении 30 суммирование по t можно заменить рекурсивным вычислением экспоненциального спада, описанным выше в связи с уравнениями 15-24.
После определения H на этапе 606 уравнение 28 можно использовать для определения чистого речевого значения для всех кадров. При использовании уравнения 28
Figure 00000042
и
Figure 00000081
заменяют независящими от времени значениями H и G соответственно. Кроме того, согласно некоторым вариантам осуществления, член
Figure 00000082
в уравнении 28 заменяют
Figure 00000083
, поскольку оказалось трудно точно определить разность фаз между фоновой речью и ее рассеиванием в альтернативном датчике.
Если рекурсивное вычисление экспоненциального спада использовать вместо суммирований в уравнении 30, для каждого временного кадра можно определить отдельное значение
Figure 00000042
и можно использовать как
Figure 00000042
в уравнении 28.
В дальнейшем расширении вышеописанного варианта осуществления можно обеспечить оценку фонового речевого сигнала в каждом временном кадре. В частности, когда значение чистой речи определено, фоновое речевое значение в каждом кадре можно определить как:
Figure 00000084
 (Уравнение 31)
Этот необязательный этап показан как этап 610 на фиг.6.
В вышеописанных вариантах осуществления априорное знание канального отклика альтернативного датчика на чистый речевой сигнал игнорировалось. В другом варианте осуществления это априорное знание можно использовать, если оно обеспечено, для генерирования оценки канального отклика в каждом временном кадре
Figure 00000042
и для определения чистого речевого значения
Figure 00000061
.
В этом варианте осуществления канальный отклик на шум фоновой речи снова полагают равным нулю. Таким образом, модель сигнала воздушной звукопроводимости и сигнала альтернативного датчика такая же, как модель, показанная в вышеприведенных уравнениях 3 и 4.
Уравнения для оценивания чистого речевого значения и канального отклика
Figure 00000042
в каждом временном кадре определяются путем минимизации целевой функции:
Figure 00000085
 (Уравнение 32)
Для минимизации этой целевой функции относительно
Figure 00000065
и
Figure 00000042
берут частные производные по этим двум переменным независимо и приравнивают результаты нулю. Таким образом, получаются следующие уравнения для
Figure 00000045
и
Figure 00000042
:
Figure 00000086
 (Уравнение 33)
Figure 00000087
 (Уравнение 34)
где
Figure 00000088
и
Figure 00000089
- математическое ожидание и дисперсия соответственно априорной модели для канального отклика альтернативного датчика к чистому речевому сигналу. Поскольку уравнение для
Figure 00000045
включает в себя
Figure 00000042
, и уравнение для
Figure 00000042
включает в себя переменную
Figure 00000045
, уравнения 33 и 34 нужно решать методом итераций. На фиг.7 показана последовательность операций для осуществления такой итерации.
На этапе 700, показанном на фиг.7, определяют параметры априорной модели для канального отклика. На этапе 702 определяют оценку
Figure 00000045
. Эту оценку можно определить с использованием любого из предыдущих вариантов осуществления, описанных выше, в которых априорная модель канального отклика игнорируется. На этапе 704 параметры априорной модели и начальную оценку
Figure 00000045
используют для определения
Figure 00000042
с помощью уравнения 34. Затем
Figure 00000042
используют для обновления чистых речевых значений с помощью Уравнения 3 на этапе 706. На этапе 707 определяют, нужны ли дополнительные итерации. Если дальнейшие итерации нужны, возвращаются к этапу 704 и обновляют значение
Figure 00000042
с использованием обновленных значений
Figure 00000045
, определенных на этапе 706. Этапы 704 и 706 повторяют, пока на этапе 708 не будет определено, что итерации больше не нужны, и в этот момент процесс оканчивается на этапе 710.
Хотя настоящее изобретение было описано со ссылкой на конкретные варианты осуществления, специалисты в данной области должны понимать, что возможны различные изменения, касающиеся формы и деталей, не выходящие за рамки сущности и объема изобретения.

Claims (26)

1. Способ определения оценки значения речевого сигнала, причем способ содержит этапы, на которых
генерируют речевой сигнал говорящего, который регистрируют с помощью микрофона воздушной звукопроводимости и альтернативного датчика, причем сигнал альтернативного датчика соответствует речевому сигналу говорящего,
генерируют электрический сигнал от микрофона воздушной звукопроводимости,
используют упомянутый сигнал альтернативного датчика и сигнал микрофона воздушной звукопроводимости, чтобы оценить значение канального отклика сигнала альтернативного датчика, и
используют упомянутое оцененное значение канального отклика для получения оценки речевого сигнала с пониженным шумом.
2. Способ по п.1, в котором для оценивания значения канального отклика находят экстремум целевой функции.
3. Способ по п.1, в котором для оценивания канального отклика моделируют сигнал альтернативного датчика как чистый речевой сигнал, свернутый с канальным откликом, и суммируют результат с шумовым членом.
4. Способ по п.1, в котором канальный отклик содержит канальный отклик на чистый речевой сигнал.
5. Способ по п.4, дополнительно содержащий этап, на котором определяют значение канального отклика альтернативного датчика на генерируемый фоновый речевой сигнал.
6. Способ по п.5, в котором при использовании канального отклика для оценивания значения речевого сигнала с пониженным шумом используют канальный отклик на чистый речевой сигнал и канальный отклик на фоновый речевой сигнал, чтобы оценить значение с пониженным шумом.
7. Способ по п.1, дополнительно содержащий этап, на котором используют оценку значения речевого сигнала с пониженным шумом, чтобы оценить значение фонового речевого сигнала.
8. Способ по п.1, в котором при оценивании значения канального отклика используют последовательность кадров сигнала альтернативного датчика и сигнала микрофона воздушной звукопроводимости, чтобы оценить одно значение канального отклика для кадров в последовательности кадров.
9. Способ по п.8, в котором при использовании канального отклика для оценивания значения речевого сигнала с пониженным шумом оценивают отдельное значение с пониженным шумом для каждого кадра в последовательности кадров.
10. Способ по п.1, в котором при оценивании значения канального отклика оценивают это значение для текущего кадра, придавая значениям для сигнала альтернативного датчика и сигнала микрофона воздушной звукопроводимости в текущем кадре более высокий вес, чем значениям для сигнала альтернативного датчика и сигнала микрофона воздушной звукопроводимости в предыдущем кадре.
11. Считываемый компьютером носитель, имеющий выполняемые компьютером команды для реализации способа оценки значения речевого сигнала, содержащего этапы:
генерирование речевого сигнала, который регистрируют с помощью микрофона воздушной звукопроводимости и альтернативного датчика,
определение канального отклика альтернативного датчика с использованием сигнала альтернативного датчика и сигнала микрофона воздушной звукопроводимости,
использование определенного канального отклика для оценивания чистого речевого значения с использованием, по меньшей мере, части сигнала альтернативного датчика.
12. Считываемый компьютером носитель по п.11, в котором определение канального отклика содержит определение одного канального отклика для последовательности кадров сигнала альтернативного датчика и сигнала микрофона воздушной звукопроводимости.
13. Считываемый компьютером носитель по п.11, в котором канальный отклик содержит канальный отклик на чистый речевой сигнал.
14. Считываемый компьютером носитель по п.13, дополнительно содержащий определение канального отклика на генерируемый фоновый речевой сигнал.
15. Считываемый компьютером носитель по п.14, дополнительно содержащий использование канального отклика на упомянутый фоновый речевой сигнал совместно с канальным откликом на чистый речевой сигнал для оценивания чистого речевого значения.
16. Считываемый компьютером носитель по п.11, дополнительно содержащий использование чистого речевого значения для оценивания фонового речевого значения.
17. Способ идентификации чистого речевого сигнала, содержащий этапы, на которых
генерируют речевой сигнал, который регистрируют с помощью микрофона воздушной звукопроводимости и альтернативного датчика,
оценивают шумовые параметры, которые описывают шум в сигнале альтернативного датчика,
используют шумовые параметры для оценивания канального отклика альтернативного датчика и
используют канальный отклик для оценивания значения чистого речевого сигнала.
18. Способ по п.17, в котором при оценивании шумовых параметров используют сигнал альтернативного датчика, чтобы идентифицировать периоды, когда пользователь не говорит.
19. Способ по п.18, дополнительно содержащий этап, на котором осуществляют обнаружение речи в частях сигнала микрофона воздушной звукопроводимости, связанных с периодами, когда пользователь не говорит, чтобы идентифицировать периоды отсутствия речевой активности и периоды фоновой речи.
20. Способ по п.19, дополнительно содержащий этап, на котором используют части сигнала альтернативного датчика, связанные с периодами отсутствия речевой активности, чтобы оценить шумовые параметры.
21. Способ по п.20, дополнительно содержащий этап, на котором используют периоды отсутствия речевой активности для оценивания шумовых параметров, которые описывают шум в сигнале микрофона воздушной звукопроводимости.
22. Способ по п.20, дополнительно содержащий этап, на котором используют части сигнала альтернативного датчика, связанные с периодами фоновой речи, чтобы оценить канальный отклик на фоновую речь.
23. Способ по п.22, дополнительно содержащий этап, на котором используют канальный отклик на фоновую речь, чтобы оценить чистую речь.
24. Способ по п.17, дополнительно содержащий этап, на котором определяют оценку значения фоновой речи.
25. Способ по п.24, в котором при определении оценки фонового речевого значения используют оценку значения чистой речи, чтобы оценить значение фоновой речи.
26. Способ по п.17, дополнительно содержащий этап, на котором используют априорную модель канального отклика, чтобы оценить значение чистой речи.
RU2005127419/09A 2004-09-17 2005-08-31 Способ и устройство для улучшения речи с помощью нескольких датчиков RU2389086C2 (ru)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US10/944,235 US7574008B2 (en) 2004-09-17 2004-09-17 Method and apparatus for multi-sensory speech enhancement
US10/944,235 2004-09-17

Publications (2)

Publication Number Publication Date
RU2005127419A RU2005127419A (ru) 2007-03-10
RU2389086C2 true RU2389086C2 (ru) 2010-05-10

Family

ID=35430655

Family Applications (1)

Application Number Title Priority Date Filing Date
RU2005127419/09A RU2389086C2 (ru) 2004-09-17 2005-08-31 Способ и устройство для улучшения речи с помощью нескольких датчиков

Country Status (11)

Country Link
US (1) US7574008B2 (ru)
EP (1) EP1638084B1 (ru)
JP (1) JP4842583B2 (ru)
KR (1) KR101153093B1 (ru)
CN (1) CN100583243C (ru)
AT (1) ATE448541T1 (ru)
AU (1) AU2005202858A1 (ru)
CA (1) CA2513195C (ru)
DE (1) DE602005017549D1 (ru)
MX (1) MXPA05008740A (ru)
RU (1) RU2389086C2 (ru)

Families Citing this family (38)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6675027B1 (en) * 1999-11-22 2004-01-06 Microsoft Corp Personal mobile computing device having antenna microphone for improved speech recognition
US20050033571A1 (en) * 2003-08-07 2005-02-10 Microsoft Corporation Head mounted multi-sensory audio input system
US7383181B2 (en) * 2003-07-29 2008-06-03 Microsoft Corporation Multi-sensory speech detection system
US7447630B2 (en) * 2003-11-26 2008-11-04 Microsoft Corporation Method and apparatus for multi-sensory speech enhancement
US7499686B2 (en) * 2004-02-24 2009-03-03 Microsoft Corporation Method and apparatus for multi-sensory speech enhancement on a mobile device
US7574008B2 (en) 2004-09-17 2009-08-11 Microsoft Corporation Method and apparatus for multi-sensory speech enhancement
US7283850B2 (en) * 2004-10-12 2007-10-16 Microsoft Corporation Method and apparatus for multi-sensory speech enhancement on a mobile device
US7346504B2 (en) * 2005-06-20 2008-03-18 Microsoft Corporation Multi-sensory speech enhancement using a clean speech prior
US7680656B2 (en) * 2005-06-28 2010-03-16 Microsoft Corporation Multi-sensory speech enhancement using a speech-state model
US7406303B2 (en) 2005-07-05 2008-07-29 Microsoft Corporation Multi-sensory speech enhancement using synthesized sensor signal
KR100738332B1 (ko) * 2005-10-28 2007-07-12 한국전자통신연구원 성대신호 인식 장치 및 그 방법
US7930178B2 (en) * 2005-12-23 2011-04-19 Microsoft Corporation Speech modeling and enhancement based on magnitude-normalized spectra
KR100857877B1 (ko) * 2006-09-14 2008-09-17 유메디칼 주식회사 자동차폐가 가능한 순음청력검사장치
US7925502B2 (en) * 2007-03-01 2011-04-12 Microsoft Corporation Pitch model for noise estimation
ES2613693T3 (es) * 2008-05-09 2017-05-25 Nokia Technologies Oy Aparato de audio
US9767817B2 (en) * 2008-05-14 2017-09-19 Sony Corporation Adaptively filtering a microphone signal responsive to vibration sensed in a user's face while speaking
US8639499B2 (en) * 2010-07-28 2014-01-28 Motorola Solutions, Inc. Formant aided noise cancellation using multiple microphones
EP2482566B1 (en) * 2011-01-28 2014-07-16 Sony Ericsson Mobile Communications AB Method for generating an audio signal
US8670554B2 (en) * 2011-04-20 2014-03-11 Aurenta Inc. Method for encoding multiple microphone signals into a source-separable audio signal for network transmission and an apparatus for directed source separation
US10067093B2 (en) 2013-07-01 2018-09-04 Richard S. Goldhor Decomposing data signals into independent additive terms using reference signals
US10540992B2 (en) 2012-06-29 2020-01-21 Richard S. Goldhor Deflation and decomposition of data signals using reference signals
US10473628B2 (en) * 2012-06-29 2019-11-12 Speech Technology & Applied Research Corporation Signal source separation partially based on non-sensor information
CN103871419B (zh) * 2012-12-11 2017-05-24 联想(北京)有限公司 一种信息处理方法及电子设备
JP6446913B2 (ja) 2014-08-27 2019-01-09 富士通株式会社 音声処理装置、音声処理方法及び音声処理用コンピュータプログラム
US10726859B2 (en) 2015-11-09 2020-07-28 Invisio Communication A/S Method of and system for noise suppression
CN110085250B (zh) * 2016-01-14 2023-07-28 深圳市韶音科技有限公司 气导噪声统计模型的建立方法及应用方法
WO2018083511A1 (zh) * 2016-11-03 2018-05-11 北京金锐德路科技有限公司 一种音频播放装置及方法
US10062373B2 (en) * 2016-11-03 2018-08-28 Bragi GmbH Selective audio isolation from body generated sound system and method
CN106686494A (zh) * 2016-12-27 2017-05-17 广东小天才科技有限公司 一种可穿戴设备的语音输入控制方法及可穿戴设备
GB201713946D0 (en) * 2017-06-16 2017-10-18 Cirrus Logic Int Semiconductor Ltd Earbud speech estimation
CN107910011B (zh) 2017-12-28 2021-05-04 科大讯飞股份有限公司 一种语音降噪方法、装置、服务器及存储介质
US11854566B2 (en) * 2018-06-21 2023-12-26 Magic Leap, Inc. Wearable system speech processing
CN113748462A (zh) 2019-03-01 2021-12-03 奇跃公司 确定用于语音处理引擎的输入
US11049509B2 (en) 2019-03-06 2021-06-29 Plantronics, Inc. Voice signal enhancement for head-worn audio devices
US11328740B2 (en) 2019-08-07 2022-05-10 Magic Leap, Inc. Voice onset detection
US11917384B2 (en) 2020-03-27 2024-02-27 Magic Leap, Inc. Method of waking a device using spoken voice commands
CN111696564B (zh) * 2020-06-05 2023-08-18 北京搜狗科技发展有限公司 语音处理方法、装置和介质
CN116098608B (zh) * 2021-11-10 2024-09-10 复旦大学 喉部运动信息捕获系统

Family Cites Families (109)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US3383466A (en) * 1964-05-28 1968-05-14 Navy Usa Nonacoustic measures in automatic speech recognition
US3389391A (en) * 1967-05-05 1968-06-18 Miner S Keeler Vehicle identification responder
US3746789A (en) * 1971-10-20 1973-07-17 E Alcivar Tissue conduction microphone utilized to activate a voice operated switch
US3787641A (en) * 1972-06-05 1974-01-22 Setcom Corp Bone conduction microphone assembly
US4382164A (en) * 1980-01-25 1983-05-03 Bell Telephone Laboratories, Incorporated Signal stretcher for envelope generator
JPS62239231A (ja) * 1986-04-10 1987-10-20 Kiyarii Rabo:Kk 口唇画像入力による音声認識方法
JPH0755167B2 (ja) * 1988-09-21 1995-06-14 松下電器産業株式会社 移動体
JPH03160851A (ja) * 1989-11-20 1991-07-10 Fujitsu Ltd 携帯電話機
US5054079A (en) * 1990-01-25 1991-10-01 Stanton Magnetics, Inc. Bone conduction microphone with mounting means
US5404577A (en) * 1990-07-13 1995-04-04 Cairns & Brother Inc. Combination head-protective helmet & communications system
US5241692A (en) * 1991-02-19 1993-08-31 Motorola, Inc. Interference reduction system for a speech recognition device
US5295193A (en) * 1992-01-22 1994-03-15 Hiroshi Ono Device for picking up bone-conducted sound in external auditory meatus and communication device using the same
US5590241A (en) * 1993-04-30 1996-12-31 Motorola Inc. Speech processing system and method for enhancing a speech signal in a noisy environment
US5446789A (en) * 1993-11-10 1995-08-29 International Business Machines Corporation Electronic device having antenna for receiving soundwaves
AU684872B2 (en) * 1994-03-10 1998-01-08 Cable And Wireless Plc Communication system
US5828768A (en) * 1994-05-11 1998-10-27 Noise Cancellation Technologies, Inc. Multimedia personal computer with active noise reduction and piezo speakers
EP0984660B1 (en) * 1994-05-18 2003-07-30 Nippon Telegraph and Telephone Corporation Transmitter-receiver having ear-piece type acoustic transducer part
JP3189598B2 (ja) * 1994-10-28 2001-07-16 松下電器産業株式会社 信号合成方法および信号合成装置
JPH08186654A (ja) 1994-12-22 1996-07-16 Internatl Business Mach Corp <Ibm> 携帯端末装置
JPH08223677A (ja) * 1995-02-15 1996-08-30 Nippon Telegr & Teleph Corp <Ntt> 送話器
US5701390A (en) * 1995-02-22 1997-12-23 Digital Voice Systems, Inc. Synthesis of MBE-based coded speech using regenerated phase information
US5692059A (en) * 1995-02-24 1997-11-25 Kruger; Frederick M. Two active element in-the-ear microphone system
US5555449A (en) * 1995-03-07 1996-09-10 Ericsson Inc. Extendible antenna and microphone for portable communication unit
JP3264822B2 (ja) 1995-04-05 2002-03-11 三菱電機株式会社 移動体通信機器
US5651074A (en) 1995-05-11 1997-07-22 Lucent Technologies Inc. Noise canceling gradient microphone assembly
KR960042590A (ko) * 1995-05-23 1996-12-21 김광호 테이프 재생용 음량기기에서의 발음비교방법
JP3591068B2 (ja) * 1995-06-30 2004-11-17 ソニー株式会社 音声信号の雑音低減方法
US5647834A (en) * 1995-06-30 1997-07-15 Ron; Samuel Speech-based biofeedback method and system
JP3674990B2 (ja) * 1995-08-21 2005-07-27 セイコーエプソン株式会社 音声認識対話装置および音声認識対話処理方法
JPH09172479A (ja) * 1995-12-20 1997-06-30 Yokoi Kikaku:Kk 送受話器およびそれを用いた通話装置
US6377919B1 (en) * 1996-02-06 2002-04-23 The Regents Of The University Of California System and method for characterizing voiced excitations of speech and acoustic signals, removing acoustic noise from speech, and synthesizing speech
US6006175A (en) * 1996-02-06 1999-12-21 The Regents Of The University Of California Methods and apparatus for non-acoustic speech characterization and recognition
US6243596B1 (en) * 1996-04-10 2001-06-05 Lextron Systems, Inc. Method and apparatus for modifying and integrating a cellular phone with the capability to access and browse the internet
US5943627A (en) * 1996-09-12 1999-08-24 Kim; Seong-Soo Mobile cellular phone
JPH10261910A (ja) 1997-01-16 1998-09-29 Sony Corp 携帯無線装置およびアンテナ装置
JP2874679B2 (ja) * 1997-01-29 1999-03-24 日本電気株式会社 雑音消去方法及びその装置
JPH10224253A (ja) * 1997-02-10 1998-08-21 Sony Corp 携帯通信機
US6308062B1 (en) * 1997-03-06 2001-10-23 Ericsson Business Networks Ab Wireless telephony system enabling access to PC based functionalities
US5983073A (en) * 1997-04-04 1999-11-09 Ditzik; Richard J. Modular notebook and PDA computer systems for personal computing and wireless communications
US6175633B1 (en) * 1997-04-09 2001-01-16 Cavcom, Inc. Radio communications apparatus with attenuating ear pieces for high noise environments
US6151397A (en) * 1997-05-16 2000-11-21 Motorola, Inc. Method and system for reducing undesired signals in a communication environment
JP4216364B2 (ja) * 1997-08-29 2009-01-28 株式会社東芝 音声符号化／復号化方法および音声信号の成分分離方法
US6434239B1 (en) * 1997-10-03 2002-08-13 Deluca Michael Joseph Anti-sound beam method and apparatus
JPH11249692A (ja) 1998-02-27 1999-09-17 Nec Saitama Ltd 音声認識装置
DE69926290T2 (de) 1998-03-18 2006-04-13 Nippon Telegraph And Telephone Corp. Tragbares Kommunikationsgerät mit Anordnung zum Knochenleitungshören
JPH11265199A (ja) * 1998-03-18 1999-09-28 Nippon Telegr & Teleph Corp <Ntt> 送話器
US6590651B1 (en) * 1998-05-19 2003-07-08 Spectrx, Inc. Apparatus and method for determining tissue characteristics
US6717991B1 (en) * 1998-05-27 2004-04-06 Telefonaktiebolaget Lm Ericsson (Publ) System and method for dual microphone signal noise reduction using spectral subtraction
US6052464A (en) * 1998-05-29 2000-04-18 Motorola, Inc. Telephone set having a microphone for receiving or an earpiece for generating an acoustic signal via a keypad
US6137883A (en) * 1998-05-30 2000-10-24 Motorola, Inc. Telephone set having a microphone for receiving an acoustic signal via keypad
JP3160714B2 (ja) * 1998-07-08 2001-04-25 株式会社シコー技研 携帯無線通信機
US6292674B1 (en) * 1998-08-05 2001-09-18 Ericsson, Inc. One-handed control for wireless telephone
JP3893763B2 (ja) * 1998-08-17 2007-03-14 富士ゼロックス株式会社 音声検出装置
US6289309B1 (en) * 1998-12-16 2001-09-11 Sarnoff Corporation Noise spectrum tracking for speech enhancement
US6760600B2 (en) * 1999-01-27 2004-07-06 Gateway, Inc. Portable communication apparatus
JP2000261534A (ja) * 1999-03-10 2000-09-22 Nippon Telegr & Teleph Corp <Ntt> 送受話器
DE19917169A1 (de) 1999-04-16 2000-11-02 Kamecke Keller Orla Verfahren zur Speicherung und Wiedergabe von Audio-, Video- und Anwendungsprogrammdaten in Mobilfunkendgeräten
US6542721B2 (en) * 1999-10-11 2003-04-01 Peter V. Boesen Cellular telephone, personal digital assistant and pager unit
US6738485B1 (en) * 1999-05-10 2004-05-18 Peter V. Boesen Apparatus, method and system for ultra short range communication
US20020057810A1 (en) * 1999-05-10 2002-05-16 Boesen Peter V. Computer and voice communication unit with handsfree device
US6094492A (en) * 1999-05-10 2000-07-25 Boesen; Peter V. Bone conduction voice transmission apparatus and system
US6952483B2 (en) * 1999-05-10 2005-10-04 Genisus Systems, Inc. Voice transmission apparatus with UWB
US6560468B1 (en) * 1999-05-10 2003-05-06 Peter V. Boesen Cellular telephone, personal digital assistant, and pager unit with capability of short range radio frequency transmissions
US6594629B1 (en) * 1999-08-06 2003-07-15 International Business Machines Corporation Methods and apparatus for audio-visual speech detection and recognition
US6594367B1 (en) * 1999-10-25 2003-07-15 Andrea Electronics Corporation Super directional beamforming design and implementation
US6339706B1 (en) * 1999-11-12 2002-01-15 Telefonaktiebolaget L M Ericsson (Publ) Wireless voice-activated remote control device
US6603823B1 (en) * 1999-11-12 2003-08-05 Intel Corporation Channel estimator
US6675027B1 (en) * 1999-11-22 2004-01-06 Microsoft Corp Personal mobile computing device having antenna microphone for improved speech recognition
US6411933B1 (en) * 1999-11-22 2002-06-25 International Business Machines Corporation Methods and apparatus for correlating biometric attributes and biometric attribute production features
JP3736785B2 (ja) * 1999-12-15 2006-01-18 日本電信電話株式会社 通話装置
GB2357400A (en) * 1999-12-17 2001-06-20 Nokia Mobile Phones Ltd Controlling a terminal of a communication system
US6879952B2 (en) * 2000-04-26 2005-04-12 Microsoft Corporation Sound source separation using convolutional mixing and a priori sound source knowledge
US20030179888A1 (en) * 2002-03-05 2003-09-25 Burnett Gregory C. Voice activity detection (VAD) devices and methods for use with noise suppression systems
US7246058B2 (en) * 2001-05-30 2007-07-17 Aliph, Inc. Detecting voiced and unvoiced speech using both acoustic and nonacoustic sensors
US20020039425A1 (en) * 2000-07-19 2002-04-04 Burnett Gregory C. Method and apparatus for removing noise from electronic signals
JP3339579B2 (ja) * 2000-10-04 2002-10-28 株式会社鷹山 電話装置
KR100394840B1 (ko) * 2000-11-30 2003-08-19 한국과학기술원 독립 성분 분석을 이용한 능동 잡음 제거방법
US6853850B2 (en) * 2000-12-04 2005-02-08 Mobigence, Inc. Automatic speaker volume and microphone gain control in a portable handheld radiotelephone with proximity sensors
US20020075306A1 (en) * 2000-12-18 2002-06-20 Christopher Thompson Method and system for initiating communications with dispersed team members from within a virtual team environment using personal identifiers
US6754623B2 (en) * 2001-01-31 2004-06-22 International Business Machines Corporation Methods and apparatus for ambient noise removal in speech recognition
US6985858B2 (en) * 2001-03-20 2006-01-10 Microsoft Corporation Method and apparatus for removing noise from feature vectors
WO2002098169A1 (en) * 2001-05-30 2002-12-05 Aliphcom Detecting voiced and unvoiced speech using both acoustic and nonacoustic sensors
JP2002358089A (ja) * 2001-06-01 2002-12-13 Denso Corp 音声処理装置及び音声処理方法
US6987986B2 (en) * 2001-06-21 2006-01-17 Boesen Peter V Cellular telephone, personal digital assistant with dual lines for simultaneous uses
US20030128848A1 (en) * 2001-07-12 2003-07-10 Burnett Gregory C. Method and apparatus for removing noise from electronic signals
US7054423B2 (en) * 2001-09-24 2006-05-30 Nebiker Robert M Multi-media communication downloading
US6959276B2 (en) * 2001-09-27 2005-10-25 Microsoft Corporation Including the category of environmental noise when processing speech signals
US6952482B2 (en) * 2001-10-02 2005-10-04 Siemens Corporation Research, Inc. Method and apparatus for noise filtering
JP3532544B2 (ja) * 2001-10-30 2004-05-31 株式会社テムコジャパン 面体又は帽体のストラップ装着用送受話装置
US7162415B2 (en) * 2001-11-06 2007-01-09 The Regents Of The University Of California Ultra-narrow bandwidth voice coding
US6707921B2 (en) * 2001-11-26 2004-03-16 Hewlett-Packard Development Company, Lp. Use of mouth position and mouth movement to filter noise from speech in a hearing aid
DE10158583A1 (de) * 2001-11-29 2003-06-12 Philips Intellectual Property Verfahren zum Betrieb eines Barge-In-Dialogsystems
US6664713B2 (en) * 2001-12-04 2003-12-16 Peter V. Boesen Single chip device for voice communications
US7219062B2 (en) * 2002-01-30 2007-05-15 Koninklijke Philips Electronics N.V. Speech activity detection using acoustic and facial characteristics in an automatic speech recognition system
US9374451B2 (en) 2002-02-04 2016-06-21 Nokia Technologies Oy System and method for multimodal short-cuts to digital services
WO2003096031A2 (en) * 2002-03-05 2003-11-20 Aliphcom Voice activity detection (vad) devices and methods for use with noise suppression systems
JP2003264883A (ja) * 2002-03-08 2003-09-19 Denso Corp 音声処理装置および音声処理方法
US7117148B2 (en) * 2002-04-05 2006-10-03 Microsoft Corporation Method of noise reduction using correction vectors based on dynamic aspects of speech and noise normalization
JP4095348B2 (ja) * 2002-05-31 2008-06-04 学校法人明治大学 雑音除去システムおよびプログラム
US7190797B1 (en) * 2002-06-18 2007-03-13 Plantronics, Inc. Headset with foldable noise canceling and omnidirectional dual-mode boom
US7092529B2 (en) * 2002-11-01 2006-08-15 Nanyang Technological University Adaptive control system for noise cancellation
TW200425763A (en) * 2003-01-30 2004-11-16 Aliphcom Inc Acoustic vibration sensor
US7593851B2 (en) * 2003-03-21 2009-09-22 Intel Corporation Precision piecewise polynomial approximation for Ephraim-Malah filter
US20060008256A1 (en) * 2003-10-01 2006-01-12 Khedouri Robert K Audio visual player apparatus and system and method of content distribution using the same
US7447630B2 (en) * 2003-11-26 2008-11-04 Microsoft Corporation Method and apparatus for multi-sensory speech enhancement
US7499686B2 (en) 2004-02-24 2009-03-03 Microsoft Corporation Method and apparatus for multi-sensory speech enhancement on a mobile device
US8095073B2 (en) * 2004-06-22 2012-01-10 Sony Ericsson Mobile Communications Ab Method and apparatus for improved mobile station and hearing aid compatibility
US7574008B2 (en) 2004-09-17 2009-08-11 Microsoft Corporation Method and apparatus for multi-sensory speech enhancement
US7283850B2 (en) * 2004-10-12 2007-10-16 Microsoft Corporation Method and apparatus for multi-sensory speech enhancement on a mobile device

Also Published As

Publication number Publication date
CA2513195C (en) 2013-12-03
CA2513195A1 (en) 2006-03-17
RU2005127419A (ru) 2007-03-10
JP4842583B2 (ja) 2011-12-21
EP1638084A1 (en) 2006-03-22
JP2006087082A (ja) 2006-03-30
US20060072767A1 (en) 2006-04-06
CN1750123A (zh) 2006-03-22
AU2005202858A1 (en) 2006-04-06
ATE448541T1 (de) 2009-11-15
MXPA05008740A (es) 2007-12-11
DE602005017549D1 (de) 2009-12-24
US7574008B2 (en) 2009-08-11
CN100583243C (zh) 2010-01-20
KR20060048954A (ko) 2006-05-18
KR101153093B1 (ko) 2012-06-11
EP1638084B1 (en) 2009-11-11

Similar Documents

Publication Publication Date Title
RU2389086C2 (ru) Способ и устройство для улучшения речи с помощью нескольких датчиков
RU2407074C2 (ru) Улучшение речи с помощью нескольких датчиков с использованием предшествующей чистой речи
RU2420813C2 (ru) Повышение качества речи с использованием множества датчиков с помощью модели состояний речи
CN108615535B (zh) 语音增强方法、装置、智能语音设备和计算机设备
RU2370831C2 (ru) Способ оценки шума с использованием пошагового байесовского изучения
RU2373584C2 (ru) Способ и устройство для повышения разборчивости речи с использованием нескольких датчиков
CN111048061A (zh) 回声消除滤波器的步长获取方法、装置及设备
JP6891144B2 (ja) 生成装置、生成方法及び生成プログラム

Legal Events

Date Code Title Description
MM4A The patent is invalid due to non-payment of fees

Effective date: 20130901