JP2019527956A5 - - Google Patents
Download PDFInfo
- Publication number
- JP2019527956A5 JP2019527956A5 JP2019501595A JP2019501595A JP2019527956A5 JP 2019527956 A5 JP2019527956 A5 JP 2019527956A5 JP 2019501595 A JP2019501595 A JP 2019501595A JP 2019501595 A JP2019501595 A JP 2019501595A JP 2019527956 A5 JP2019527956 A5 JP 2019527956A5
- Authority
- JP
- Japan
- Prior art keywords
- environment
- audio signal
- virtual sound
- sound
- processor
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Ceased
Links
- 230000005236 sound signal Effects 0.000 claims 19
- 230000000007 visual effect Effects 0.000 claims 6
Claims (15)
- 仮想音を出力するための装置であって、前記装置は、
ある環境中のオーディオ信号を検出するように構成された1つまたは複数のマイクロフォンと、
前記1つまたは複数のマイクロフォンに結合されたプロセッサと、
を備え、前記プロセッサは、
前記オーディオ信号の残響特性を決定することと、
前記オーディオ信号の前記決定した残響特性に基づいて、前記オーディオ信号の音源が前記環境の第1の区域に位置するか、または前記環境の第2の区域に位置するかを決定することと、前記第1の区域は、前記第2の区域よりも前記1つまたは複数のマイクロフォンに近い、
前記環境に仮想音を挿入することと、ここにおいて、前記挿入された仮想音は、前記検出されたオーディオ信号の前記音源とは異なるが前記検出されたオーディオ信号の前記音源と同じ前記環境の区域である位置において、仮想音源を有し、前記挿入された仮想音は、前記仮想音源の前記位置に基づく到来方向と、前記検出されたオーディオ信号の残響特性に基づく前記残響特性とを有する、
を行うように構成される、装置。 - 前記第1の視覚的パラメータは、前記環境の視覚的表現において前記音源の前記位置を示し、前記プロセッサは、
前記環境への前記仮想音の挿入の前に、前記仮想音を生成することと、
前記第1の視覚的パラメータと前記仮想音の前記視覚的パラメータとの比較にさらに基づいて前記環境に前記仮想音を挿入することと
を行うようにさらに構成される、請求項1に記載の装置。 - 前記プロセッサは、
前記1つまたは複数の音響特性をメモリ中の1つまたは複数のエントリと比較することと、各エントリは、異なる仮想音に関連付けられ、
前記環境への前記仮想音の挿入の前に、前記比較に基づいて特定のエントリから前記仮想音を導出することと、
を行うようにさらに構成される、請求項1に記載の装置。 - 前記プロセッサは、
前記オーディオ信号に基づいて、前記音源を特定のオブジェクトに分類することと、
前記特定のオブジェクトの仮想イメージを生成することと、
前記環境中の前記音源の前記位置において、前記仮想イメージを挿入することと、
を行うようにさらに構成される、請求項1に記載の装置。 - 前記プロセッサに結合されたカメラをさらに備え、前記カメラは、前記環境をキャプチャするように構成される、請求項1に記載の装置。
- 前記カメラは、防犯カメラを含む、請求項5に記載の装置。
- 前記カメラ、前記1つまたは複数のマイクロフォン、および前記プロセッサは、ヘッドセットに統合され、前記ヘッドセットは、前記環境の視覚的描写を表示するように構成される、請求項5に記載の装置。
- 前記少なくとも1つの残響特性は、前記オーディオ信号の直接音対残響音比を備える、請求項1に記載の装置。
- 仮想音を出力するための方法であって、前記方法は、
1つまたは複数のマイクロフォンにおいて、ある環境中のオーディオ信号を検出することと、
前記オーディオ信号の音特性を決定することと、
前記オーディオ信号の前記決定した音特性に基づいて、前記オーディオ信号の音源が前記環境の第1の区域に位置するか、または前記環境の第2の区域に位置するかを決定することと、前記第1の区域は、前記第2の区域よりも前記1つまたは複数のマイクロフォンに近い、
前記検出されたオーディオ信号に基づいて、前記検出されたオーディオ信号の前記音源が位置すると決定された前記環境の前記区域の1つまたは複数の音響特性を推定することと、
前記環境に仮想音を挿入することと、ここにおいて、前記挿入された仮想音は、前記検出されたオーディオ信号の前記音源とは異なるが前記検出されたオーディオ信号の前記音源と同じ前記環境の区域である位置において、仮想音源を有し、前記挿入された仮想音は、前記仮想音源の前記位置に基づく到来方向と、前記検出されたオーディオ信号の残響特性に基づく前記残響特性とを有する、
を備える、方法。 - カメラを介して前記環境をキャプチャすることをさらに備える、請求項9に記載の方法。
- 前記カメラは、防犯カメラを含む、請求項10に記載の方法。
- 前記カメラ、前記1つまたは複数のマイクロフォン、および前記プロセッサは、ヘッドセットに統合される、請求項10に記載の方法。
- 前記ヘッドセットにおいて前記環境の視覚的描写を表示することをさらに備える、請求項12に記載の方法。
- 前記少なくとも1つの残響特性は、前記オーディオ信号の直接音対残響音比を備える、請求項9に記載の方法。
- 仮想音を出力するための命令を備える非一時的コンピュータ可読媒体であって、前記命令は、プロセッサによって実行されたとき、前記プロセッサに、請求項11乃至14のいずれかに記載の方法を備える動作を行わせる、非一時的コンピュータ可読媒体。
Applications Claiming Priority (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201662363104P | 2016-07-15 | 2016-07-15 | |
US62/363,104 | 2016-07-15 | ||
US15/238,591 US9906885B2 (en) | 2016-07-15 | 2016-08-16 | Methods and systems for inserting virtual sounds into an environment |
US15/238,591 | 2016-08-16 | ||
PCT/US2017/034522 WO2018013237A1 (en) | 2016-07-15 | 2017-05-25 | Virtual, augmented, and mixed reality |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2019527956A JP2019527956A (ja) | 2019-10-03 |
JP2019527956A5 true JP2019527956A5 (ja) | 2020-06-18 |
Family
ID=60940808
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019501595A Ceased JP2019527956A (ja) | 2016-07-15 | 2017-05-25 | 仮想、拡張、および複合現実 |
Country Status (9)
Country | Link |
---|---|
US (1) | US9906885B2 (ja) |
EP (1) | EP3485346A1 (ja) |
JP (1) | JP2019527956A (ja) |
KR (1) | KR102609668B1 (ja) |
CN (1) | CN109416585B (ja) |
BR (1) | BR112019000398A8 (ja) |
SG (1) | SG11201810874YA (ja) |
TW (1) | TW201804315A (ja) |
WO (1) | WO2018013237A1 (ja) |
Families Citing this family (59)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10547947B2 (en) | 2016-05-18 | 2020-01-28 | Qualcomm Incorporated | Device for generating audio output |
US10445936B1 (en) * | 2016-08-01 | 2019-10-15 | Snap Inc. | Audio responsive augmented reality |
US10896544B2 (en) * | 2016-10-07 | 2021-01-19 | Htc Corporation | System and method for providing simulated environment |
KR20180090022A (ko) * | 2017-02-02 | 2018-08-10 | 한국전자통신연구원 | 다중 전방향 카메라 및 마이크 기반 가상현실 제공 방법 및 가상 현실 제공 방법을 수행하는 음향 신호 처리 장치 및 영상 신호 처리 장치 |
WO2018155026A1 (ja) * | 2017-02-27 | 2018-08-30 | ソニー株式会社 | 情報処理装置、情報処理方法、及びプログラム |
US11361771B2 (en) * | 2017-09-22 | 2022-06-14 | Lg Electronics Inc. | Method for transmitting/receiving audio data and device therefor |
AU2018353008B2 (en) | 2017-10-17 | 2023-04-20 | Magic Leap, Inc. | Mixed reality spatial audio |
US10531222B2 (en) * | 2017-10-18 | 2020-01-07 | Dolby Laboratories Licensing Corporation | Active acoustics control for near- and far-field sounds |
US10410432B2 (en) * | 2017-10-27 | 2019-09-10 | International Business Machines Corporation | Incorporating external sounds in a virtual reality environment |
CN109992089B (zh) * | 2017-12-29 | 2024-08-27 | 索尼公司 | 电子设备、无线通信系统、方法和计算机可读存储介质 |
US20190221035A1 (en) * | 2018-01-12 | 2019-07-18 | International Business Machines Corporation | Physical obstacle avoidance in a virtual reality environment |
US10500496B2 (en) | 2018-01-12 | 2019-12-10 | International Business Machines Corporation | Physical obstacle avoidance in a virtual reality environment |
IL307545A (en) * | 2018-02-15 | 2023-12-01 | Magic Leap Inc | Dual listening positions for mixed reality |
IL305799B1 (en) | 2018-02-15 | 2024-06-01 | Magic Leap Inc | Virtual reverberation in mixed reality |
US11617050B2 (en) | 2018-04-04 | 2023-03-28 | Bose Corporation | Systems and methods for sound source virtualization |
US10585641B2 (en) | 2018-04-30 | 2020-03-10 | Qualcomm Incorporated | Tagging a sound in a virtual environment |
WO2019212794A1 (en) | 2018-05-03 | 2019-11-07 | Dakiana Research Llc | Method and device for sound processing for a synthesized reality setting |
CN112205005B (zh) * | 2018-05-23 | 2022-06-24 | 皇家Kpn公司 | 使声学渲染适应基于图像的对象 |
JPWO2019225192A1 (ja) * | 2018-05-24 | 2021-07-01 | ソニーグループ株式会社 | 情報処理装置及び情報処理方法 |
US11032664B2 (en) | 2018-05-29 | 2021-06-08 | Staton Techiya, Llc | Location based audio signal message processing |
US10497161B1 (en) | 2018-06-08 | 2019-12-03 | Curious Company, LLC | Information display by overlay on an object |
US10863300B2 (en) * | 2018-06-18 | 2020-12-08 | Magic Leap, Inc. | Spatial audio for interactive audio environments |
EP3584695B1 (en) * | 2018-06-20 | 2022-08-10 | Nokia Technologies Oy | An apparatus and associated methods for presentation of first and second virtual-or-augmented reality content |
EP3595336A1 (en) * | 2018-07-09 | 2020-01-15 | Koninklijke Philips N.V. | Audio apparatus and method of operation therefor |
US10902678B2 (en) | 2018-09-06 | 2021-01-26 | Curious Company, LLC | Display of hidden information |
US20220021998A1 (en) * | 2018-11-09 | 2022-01-20 | Whoborn Inc. | Method for generating sound and devices for performing same |
US11055913B2 (en) | 2018-12-04 | 2021-07-06 | Curious Company, LLC | Directional instructions in an hybrid reality system |
US10970935B2 (en) | 2018-12-21 | 2021-04-06 | Curious Company, LLC | Body pose message system |
US10872584B2 (en) | 2019-03-14 | 2020-12-22 | Curious Company, LLC | Providing positional information using beacon devices |
US10674307B1 (en) * | 2019-03-27 | 2020-06-02 | Facebook Technologies, Llc | Determination of acoustic parameters for a headset using a mapping server |
US11853472B2 (en) | 2019-04-05 | 2023-12-26 | Hewlett-Packard Development Company, L.P. | Modify audio based on physiological observations |
GB2582952B (en) * | 2019-04-10 | 2022-06-15 | Sony Interactive Entertainment Inc | Audio contribution identification system and method |
CN113597777B (zh) * | 2019-05-15 | 2023-07-07 | 苹果公司 | 音频处理 |
US11295754B2 (en) * | 2019-07-30 | 2022-04-05 | Apple Inc. | Audio bandwidth reduction |
US11276215B1 (en) | 2019-08-28 | 2022-03-15 | Facebook Technologies, Llc | Spatial audio and avatar control using captured audio signals |
CN110716641B (zh) * | 2019-08-28 | 2021-07-23 | 北京市商汤科技开发有限公司 | 交互方法、装置、设备以及存储介质 |
TWI727421B (zh) * | 2019-09-16 | 2021-05-11 | 藏識科技有限公司 | 混合實境系統 |
US11304017B2 (en) * | 2019-10-25 | 2022-04-12 | Magic Leap, Inc. | Reverberation fingerprint estimation |
WO2021086624A1 (en) | 2019-10-29 | 2021-05-06 | Qsinx Management Llc | Audio encoding with compressed ambience |
WO2021113781A1 (en) * | 2019-12-06 | 2021-06-10 | Magic Leap, Inc. | Environment acoustics persistence |
TWI722738B (zh) | 2019-12-25 | 2021-03-21 | 亞達科技股份有限公司 | 擴增實境裝置與定位方法 |
EP3859516A1 (en) * | 2020-02-03 | 2021-08-04 | Nokia Technologies Oy | Virtual scene |
EP4104456A4 (en) * | 2020-02-14 | 2023-07-19 | Magic Leap, Inc. | AUDIO PLAYBACK WITH MULTIPLE APPLICATIONS |
KR102334091B1 (ko) * | 2020-03-20 | 2021-12-02 | 주식회사 코클리어닷에이아이 | 오디오 인식을 수행하는 증강현실 디바이스 및 그의 제어방법 |
KR20210123198A (ko) | 2020-04-02 | 2021-10-13 | 주식회사 제이렙 | 증강 현실 기반의 전기 음향과 건축 음향 통합 시뮬레이션 장치 |
WO2021235126A1 (ja) * | 2020-05-19 | 2021-11-25 | ソニーグループ株式会社 | 情報処理装置および情報処理方法 |
US11246002B1 (en) | 2020-05-22 | 2022-02-08 | Facebook Technologies, Llc | Determination of composite acoustic parameter value for presentation of audio content |
CN111641898B (zh) * | 2020-06-08 | 2021-12-03 | 京东方科技集团股份有限公司 | 发声装置、显示装置、发声控制方法及装置 |
US11356795B2 (en) | 2020-06-17 | 2022-06-07 | Bose Corporation | Spatialized audio relative to a peripheral device |
US11275629B2 (en) * | 2020-06-25 | 2022-03-15 | Microsoft Technology Licensing, Llc | Mixed reality complementary systems |
US11755275B2 (en) * | 2020-06-29 | 2023-09-12 | Meta Platforms Technologies, Llc | Generating augmented reality experiences utilizing physical objects to represent analogous virtual objects |
CN112071326A (zh) * | 2020-09-07 | 2020-12-11 | 三星电子(中国)研发中心 | 音效处理方法和装置 |
US11982738B2 (en) | 2020-09-16 | 2024-05-14 | Bose Corporation | Methods and systems for determining position and orientation of a device using acoustic beacons |
US11615596B2 (en) * | 2020-09-24 | 2023-03-28 | Apple Inc. | Devices, methods, and graphical user interfaces for interacting with three-dimensional environments |
US11696084B2 (en) | 2020-10-30 | 2023-07-04 | Bose Corporation | Systems and methods for providing augmented audio |
US11700497B2 (en) | 2020-10-30 | 2023-07-11 | Bose Corporation | Systems and methods for providing augmented audio |
US11856378B2 (en) * | 2021-11-26 | 2023-12-26 | Htc Corporation | System with sound adjustment capability, method of adjusting sound and non-transitory computer readable storage medium |
WO2024101683A1 (ko) * | 2022-11-09 | 2024-05-16 | 삼성전자주식회사 | 오디오 신호를 레코딩하기 위한 웨어러블 장치 및 그 방법 |
WO2024175623A1 (en) * | 2023-02-22 | 2024-08-29 | Sony Semiconductor Solutions Corporation | Electronic device, method, and computer program |
Family Cites Families (29)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
FI116990B (fi) * | 1997-10-20 | 2006-04-28 | Nokia Oyj | Menetelmä ja järjestelmä akustisen virtuaaliympäristön käsittelemiseksi |
AU2002303082A1 (en) * | 2001-01-26 | 2002-09-12 | Zaxel Systems, Inc. | Real-time virtual viewpoint in simulated reality environment |
JP4708590B2 (ja) | 2001-03-13 | 2011-06-22 | キヤノン株式会社 | 複合現実感システム、ヘッドマウントディスプレイ装置、複合現実感実現方法及びプログラム |
JP2003334219A (ja) * | 2002-05-21 | 2003-11-25 | Nippon Telegr & Teleph Corp <Ntt> | 遠隔地散策装置 |
JP2005223714A (ja) * | 2004-02-06 | 2005-08-18 | Sony Corp | 音響収音装置、音響収音方法、記録媒体 |
EP1749420A4 (en) * | 2004-05-25 | 2008-10-15 | Huonlabs Pty Ltd | AUDIO APPARATUS AND METHOD |
US8682679B2 (en) * | 2007-06-26 | 2014-03-25 | Koninklijke Philips N.V. | Binaural object-oriented audio decoder |
US8170222B2 (en) | 2008-04-18 | 2012-05-01 | Sony Mobile Communications Ab | Augmented reality enhanced audio |
US8243970B2 (en) | 2008-08-11 | 2012-08-14 | Telefonaktiebolaget L M Ericsson (Publ) | Virtual reality sound for advanced multi-media applications |
US9037468B2 (en) * | 2008-10-27 | 2015-05-19 | Sony Computer Entertainment Inc. | Sound localization for user in motion |
KR101285391B1 (ko) * | 2010-07-28 | 2013-07-10 | 주식회사 팬택 | 음향 객체 정보 융합 장치 및 방법 |
US20120207308A1 (en) | 2011-02-15 | 2012-08-16 | Po-Hsun Sung | Interactive sound playback device |
US20120239690A1 (en) * | 2011-03-16 | 2012-09-20 | Rovi Technologies Corporation | Utilizing time-localized metadata |
US9131305B2 (en) * | 2012-01-17 | 2015-09-08 | LI Creative Technologies, Inc. | Configurable three-dimensional sound system |
US8831255B2 (en) | 2012-03-08 | 2014-09-09 | Disney Enterprises, Inc. | Augmented reality (AR) audio with position and action triggered virtual sound effects |
WO2014178479A1 (ko) * | 2013-04-30 | 2014-11-06 | 인텔렉추얼디스커버리 주식회사 | 헤드 마운트 디스플레이 및 이를 이용한 오디오 콘텐츠 제공 방법 |
US10262462B2 (en) * | 2014-04-18 | 2019-04-16 | Magic Leap, Inc. | Systems and methods for augmented and virtual reality |
JP6227295B2 (ja) * | 2013-06-25 | 2017-11-08 | 日本放送協会 | 空間音響生成装置およびそのプログラム |
US9942685B2 (en) | 2013-06-28 | 2018-04-10 | Microsoft Technology Licensing, Llc | Navigation with three dimensional audio effects |
US9769589B2 (en) | 2013-09-27 | 2017-09-19 | Sony Interactive Entertainment Inc. | Method of improving externalization of virtual surround sound |
EP2863654B1 (en) * | 2013-10-17 | 2018-08-01 | Oticon A/s | A method for reproducing an acoustical sound field |
EP2866217A1 (en) | 2013-10-25 | 2015-04-29 | GN Store Nord A/S | An audio information system based on zones and contexts |
CN104615243A (zh) * | 2015-01-15 | 2015-05-13 | 深圳市掌网立体时代视讯技术有限公司 | 一种头戴式多通道交互系统及多通道交互方法 |
CN105353868B (zh) * | 2015-09-24 | 2019-05-31 | 联想(北京)有限公司 | 一种信息处理方法及电子设备 |
CN105466413A (zh) * | 2015-11-10 | 2016-04-06 | 上海格虏博运动科技有限公司 | 一种基于智能移动平台并结合gps的增强现实实景导航技术 |
CN105657535B (zh) * | 2015-12-29 | 2018-10-30 | 北京搜狗科技发展有限公司 | 一种音频识别方法和装置 |
CN105611481B (zh) * | 2015-12-30 | 2018-04-17 | 北京时代拓灵科技有限公司 | 一种基于空间声的人机交互方法和系统 |
US9881619B2 (en) | 2016-03-25 | 2018-01-30 | Qualcomm Incorporated | Audio processing for an acoustical environment |
US10547947B2 (en) | 2016-05-18 | 2020-01-28 | Qualcomm Incorporated | Device for generating audio output |
-
2016
- 2016-08-16 US US15/238,591 patent/US9906885B2/en active Active
-
2017
- 2017-05-25 TW TW106117430A patent/TW201804315A/zh unknown
- 2017-05-25 BR BR112019000398A patent/BR112019000398A8/pt not_active IP Right Cessation
- 2017-05-25 CN CN201780041372.0A patent/CN109416585B/zh active Active
- 2017-05-25 EP EP17729614.2A patent/EP3485346A1/en active Pending
- 2017-05-25 SG SG11201810874YA patent/SG11201810874YA/en unknown
- 2017-05-25 WO PCT/US2017/034522 patent/WO2018013237A1/en unknown
- 2017-05-25 JP JP2019501595A patent/JP2019527956A/ja not_active Ceased
- 2017-05-25 KR KR1020197000816A patent/KR102609668B1/ko active IP Right Grant
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2019527956A5 (ja) | ||
IL307592A (en) | Spatial audio for mixed reality | |
JP2017527223A5 (ja) | ||
WO2020079485A3 (en) | Hearing aid systems and methods | |
JP2019133160A5 (ja) | ||
EP3531714A3 (en) | Facilitating calibration of an audio playback device | |
IL305799A (en) | Virtual reverberation in mixed reality | |
WO2015175964A8 (en) | Wearable devices for courier processing and methods of use thereof | |
JP2016509820A5 (ja) | ||
JP2017067666A5 (ja) | ||
EP2661097A3 (en) | Audio system | |
EP4297017A3 (en) | Method for processing an audio signal, signal processing unit, binaural renderer, audio encoder and audio decoder | |
EP2830043A3 (en) | Method for Processing an Audio Signal in accordance with a Room Impulse Response, Signal Processing Unit, Audio Encoder, Audio Decoder, and Binaural Renderer | |
EP2887697A3 (en) | Method of audio signal processing and hearing aid system for implementing the same | |
MX2018004891A (es) | Metodo de control de presentacion visual y dispositivo de control de presentacion visual. | |
WO2016055920A3 (en) | A portable alerting system and a method thereof | |
JP2014220723A5 (ja) | 画像表示装置、画像表示方法、およびプログラム | |
EP3513568A4 (en) | GENERATING AN AUDIO SIGNAL FROM MULTIPLE MICROPHONES BASED ON NON-CORRELATED NOISE DETECTION | |
GB2548208A (en) | Audio watermarking for people monitoring | |
GB2543972A (en) | Systems and methods for equalizing audio for playback on an electronic device | |
EP3177040A3 (en) | Information processing apparatus, information processing method, and program | |
WO2015112740A3 (en) | Methods and systems for snore detection and correction | |
MX362441B (es) | Dispositivo para reproducir sonido. | |
JP2014207589A5 (ja) | ||
JP2016524153A5 (ja) |