JP2019527956A5 - - Google Patents

Download PDF

Info

Publication number
JP2019527956A5
JP2019527956A5 JP2019501595A JP2019501595A JP2019527956A5 JP 2019527956 A5 JP2019527956 A5 JP 2019527956A5 JP 2019501595 A JP2019501595 A JP 2019501595A JP 2019501595 A JP2019501595 A JP 2019501595A JP 2019527956 A5 JP2019527956 A5 JP 2019527956A5
Authority
JP
Japan
Prior art keywords
environment
audio signal
virtual sound
sound
processor
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Ceased
Application number
JP2019501595A
Other languages
English (en)
Other versions
JP2019527956A (ja
Filing date
Publication date
Priority claimed from US15/238,591 external-priority patent/US9906885B2/en
Application filed filed Critical
Publication of JP2019527956A publication Critical patent/JP2019527956A/ja
Publication of JP2019527956A5 publication Critical patent/JP2019527956A5/ja
Ceased legal-status Critical Current

Links

Claims (15)

  1. 仮想音を出力するための装置であって、前記装置は、
    ある環境中のオーディオ信号を検出するように構成された1つまたは複数のマイクロフォンと、
    前記1つまたは複数のマイクロフォンに結合されたプロセッサと、
    を備え、前記プロセッサは、
    前記オーディオ信号の残響特性を決定することと、
    前記オーディオ信号の前記決定した残響特性に基づいて、前記オーディオ信号の音源が前記環境の第1の区域に位置するか、または前記環境の第2の区域に位置するかを決定することと、前記第1の区域は、前記第2の区域よりも前記1つまたは複数のマイクロフォンに近い、
    前記環境に仮想音を挿入することと、ここにおいて、前記挿入された仮想音は、前記検出されたオーディオ信号の前記音源とは異なるが前記検出されたオーディオ信号の前記音源と同じ前記環境の区域である位置において、仮想音源を有し、前記挿入された仮想音は、前記仮想音源の前記位置に基づく到来方向と、前記検出されたオーディオ信号の残響特性に基づく前記残響特性とを有する、
    を行うように構成される、装置。
  2. 前記第1の視覚的パラメータは、前記環境の視覚的表現において前記音源の前記位置を示し、前記プロセッサは、
    前記環境への前記仮想音の挿入の前に、前記仮想音を生成することと、
    前記第1の視覚的パラメータと前記仮想音の前記視覚的パラメータとの比較にさらに基づいて前記環境に前記仮想音を挿入することと
    を行うようにさらに構成される、請求項1に記載の装置。
  3. 前記プロセッサは、
    前記1つまたは複数の音響特性をメモリ中の1つまたは複数のエントリと比較することと、各エントリは、異なる仮想音に関連付けられ、
    前記環境への前記仮想音の挿入の前に、前記比較に基づいて特定のエントリから前記仮想音を導出することと、
    を行うようにさらに構成される、請求項1に記載の装置。
  4. 前記プロセッサは、
    前記オーディオ信号に基づいて、前記音源を特定のオブジェクトに分類することと、
    前記特定のオブジェクトの仮想イメージを生成することと、
    前記環境中の前記音源の前記位置において、前記仮想イメージを挿入することと、
    を行うようにさらに構成される、請求項1に記載の装置。
  5. 前記プロセッサに結合されたカメラをさらに備え、前記カメラは、前記環境をキャプチャするように構成される、請求項1に記載の装置。
  6. 前記カメラは、防犯カメラを含む、請求項5に記載の装置。
  7. 前記カメラ、前記1つまたは複数のマイクロフォン、および前記プロセッサは、ヘッドセットに統合され、前記ヘッドセットは、前記環境の視覚的描写を表示するように構成される、請求項5に記載の装置。
  8. 前記少なくとも1つの残響特性は、前記オーディオ信号の直接音対残響音比を備える、請求項に記載の装置。
  9. 仮想音を出力するための方法であって、前記方法は、
    1つまたは複数のマイクロフォンにおいて、ある環境中のオーディオ信号を検出することと、
    前記オーディオ信号の音特性を決定することと、
    前記オーディオ信号の前記決定した音特性に基づいて、前記オーディオ信号の音源が前記環境の第1の区域に位置するか、または前記環境の第2の区域に位置するかを決定することと、前記第1の区域は、前記第2の区域よりも前記1つまたは複数のマイクロフォンに近い、
    前記検出されたオーディオ信号に基づいて、前記検出されたオーディオ信号の前記音源が位置すると決定された前記環境の前記区域の1つまたは複数の音響特性を推定することと、
    前記環境に仮想音を挿入することと、ここにおいて、前記挿入された仮想音は、前記検出されたオーディオ信号の前記音源とは異なるが前記検出されたオーディオ信号の前記音源と同じ前記環境の区域である位置において、仮想音源を有し、前記挿入された仮想音は、前記仮想音源の前記位置に基づく到来方向と、前記検出されたオーディオ信号の残響特性に基づく前記残響特性とを有する、
    を備える、方法。
  10. カメラを介して前記環境をキャプチャすることをさらに備える、請求項に記載の方法。
  11. 前記カメラは、防犯カメラを含む、請求項10に記載の方法。
  12. 前記カメラ、前記1つまたは複数のマイクロフォン、および前記プロセッサは、ヘッドセットに統合される、請求項10に記載の方法。
  13. 前記ヘッドセットにおいて前記環境の視覚的描写を表示することをさらに備える、請求項12に記載の方法。
  14. 前記少なくとも1つの残響特性は、前記オーディオ信号の直接音対残響音比を備える、請求項に記載の方法。
  15. 仮想音を出力するための命令を備える非一時的コンピュータ可読媒体であって、前記命令は、プロセッサによって実行されたとき、前記プロセッサに、請求項11乃至14のいずれかに記載の方法を備える動作を行わせる、非一時的コンピュータ可読媒体。
JP2019501595A 2016-07-15 2017-05-25 仮想、拡張、および複合現実 Ceased JP2019527956A (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US201662363104P 2016-07-15 2016-07-15
US62/363,104 2016-07-15
US15/238,591 US9906885B2 (en) 2016-07-15 2016-08-16 Methods and systems for inserting virtual sounds into an environment
US15/238,591 2016-08-16
PCT/US2017/034522 WO2018013237A1 (en) 2016-07-15 2017-05-25 Virtual, augmented, and mixed reality

Publications (2)

Publication Number Publication Date
JP2019527956A JP2019527956A (ja) 2019-10-03
JP2019527956A5 true JP2019527956A5 (ja) 2020-06-18

Family

ID=60940808

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019501595A Ceased JP2019527956A (ja) 2016-07-15 2017-05-25 仮想、拡張、および複合現実

Country Status (9)

Country Link
US (1) US9906885B2 (ja)
EP (1) EP3485346A1 (ja)
JP (1) JP2019527956A (ja)
KR (1) KR102609668B1 (ja)
CN (1) CN109416585B (ja)
BR (1) BR112019000398A8 (ja)
SG (1) SG11201810874YA (ja)
TW (1) TW201804315A (ja)
WO (1) WO2018013237A1 (ja)

Families Citing this family (59)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10547947B2 (en) 2016-05-18 2020-01-28 Qualcomm Incorporated Device for generating audio output
US10445936B1 (en) * 2016-08-01 2019-10-15 Snap Inc. Audio responsive augmented reality
US10896544B2 (en) * 2016-10-07 2021-01-19 Htc Corporation System and method for providing simulated environment
KR20180090022A (ko) * 2017-02-02 2018-08-10 한국전자통신연구원 다중 전방향 카메라 및 마이크 기반 가상현실 제공 방법 및 가상 현실 제공 방법을 수행하는 음향 신호 처리 장치 및 영상 신호 처리 장치
WO2018155026A1 (ja) * 2017-02-27 2018-08-30 ソニー株式会社 情報処理装置、情報処理方法、及びプログラム
US11361771B2 (en) * 2017-09-22 2022-06-14 Lg Electronics Inc. Method for transmitting/receiving audio data and device therefor
AU2018353008B2 (en) 2017-10-17 2023-04-20 Magic Leap, Inc. Mixed reality spatial audio
US10531222B2 (en) * 2017-10-18 2020-01-07 Dolby Laboratories Licensing Corporation Active acoustics control for near- and far-field sounds
US10410432B2 (en) * 2017-10-27 2019-09-10 International Business Machines Corporation Incorporating external sounds in a virtual reality environment
CN109992089B (zh) * 2017-12-29 2024-08-27 索尼公司 电子设备、无线通信系统、方法和计算机可读存储介质
US20190221035A1 (en) * 2018-01-12 2019-07-18 International Business Machines Corporation Physical obstacle avoidance in a virtual reality environment
US10500496B2 (en) 2018-01-12 2019-12-10 International Business Machines Corporation Physical obstacle avoidance in a virtual reality environment
IL307545A (en) * 2018-02-15 2023-12-01 Magic Leap Inc Dual listening positions for mixed reality
IL305799B1 (en) 2018-02-15 2024-06-01 Magic Leap Inc Virtual reverberation in mixed reality
US11617050B2 (en) 2018-04-04 2023-03-28 Bose Corporation Systems and methods for sound source virtualization
US10585641B2 (en) 2018-04-30 2020-03-10 Qualcomm Incorporated Tagging a sound in a virtual environment
WO2019212794A1 (en) 2018-05-03 2019-11-07 Dakiana Research Llc Method and device for sound processing for a synthesized reality setting
CN112205005B (zh) * 2018-05-23 2022-06-24 皇家Kpn公司 使声学渲染适应基于图像的对象
JPWO2019225192A1 (ja) * 2018-05-24 2021-07-01 ソニーグループ株式会社 情報処理装置及び情報処理方法
US11032664B2 (en) 2018-05-29 2021-06-08 Staton Techiya, Llc Location based audio signal message processing
US10497161B1 (en) 2018-06-08 2019-12-03 Curious Company, LLC Information display by overlay on an object
US10863300B2 (en) * 2018-06-18 2020-12-08 Magic Leap, Inc. Spatial audio for interactive audio environments
EP3584695B1 (en) * 2018-06-20 2022-08-10 Nokia Technologies Oy An apparatus and associated methods for presentation of first and second virtual-or-augmented reality content
EP3595336A1 (en) * 2018-07-09 2020-01-15 Koninklijke Philips N.V. Audio apparatus and method of operation therefor
US10902678B2 (en) 2018-09-06 2021-01-26 Curious Company, LLC Display of hidden information
US20220021998A1 (en) * 2018-11-09 2022-01-20 Whoborn Inc. Method for generating sound and devices for performing same
US11055913B2 (en) 2018-12-04 2021-07-06 Curious Company, LLC Directional instructions in an hybrid reality system
US10970935B2 (en) 2018-12-21 2021-04-06 Curious Company, LLC Body pose message system
US10872584B2 (en) 2019-03-14 2020-12-22 Curious Company, LLC Providing positional information using beacon devices
US10674307B1 (en) * 2019-03-27 2020-06-02 Facebook Technologies, Llc Determination of acoustic parameters for a headset using a mapping server
US11853472B2 (en) 2019-04-05 2023-12-26 Hewlett-Packard Development Company, L.P. Modify audio based on physiological observations
GB2582952B (en) * 2019-04-10 2022-06-15 Sony Interactive Entertainment Inc Audio contribution identification system and method
CN113597777B (zh) * 2019-05-15 2023-07-07 苹果公司 音频处理
US11295754B2 (en) * 2019-07-30 2022-04-05 Apple Inc. Audio bandwidth reduction
US11276215B1 (en) 2019-08-28 2022-03-15 Facebook Technologies, Llc Spatial audio and avatar control using captured audio signals
CN110716641B (zh) * 2019-08-28 2021-07-23 北京市商汤科技开发有限公司 交互方法、装置、设备以及存储介质
TWI727421B (zh) * 2019-09-16 2021-05-11 藏識科技有限公司 混合實境系統
US11304017B2 (en) * 2019-10-25 2022-04-12 Magic Leap, Inc. Reverberation fingerprint estimation
WO2021086624A1 (en) 2019-10-29 2021-05-06 Qsinx Management Llc Audio encoding with compressed ambience
WO2021113781A1 (en) * 2019-12-06 2021-06-10 Magic Leap, Inc. Environment acoustics persistence
TWI722738B (zh) 2019-12-25 2021-03-21 亞達科技股份有限公司 擴增實境裝置與定位方法
EP3859516A1 (en) * 2020-02-03 2021-08-04 Nokia Technologies Oy Virtual scene
EP4104456A4 (en) * 2020-02-14 2023-07-19 Magic Leap, Inc. AUDIO PLAYBACK WITH MULTIPLE APPLICATIONS
KR102334091B1 (ko) * 2020-03-20 2021-12-02 주식회사 코클리어닷에이아이 오디오 인식을 수행하는 증강현실 디바이스 및 그의 제어방법
KR20210123198A (ko) 2020-04-02 2021-10-13 주식회사 제이렙 증강 현실 기반의 전기 음향과 건축 음향 통합 시뮬레이션 장치
WO2021235126A1 (ja) * 2020-05-19 2021-11-25 ソニーグループ株式会社 情報処理装置および情報処理方法
US11246002B1 (en) 2020-05-22 2022-02-08 Facebook Technologies, Llc Determination of composite acoustic parameter value for presentation of audio content
CN111641898B (zh) * 2020-06-08 2021-12-03 京东方科技集团股份有限公司 发声装置、显示装置、发声控制方法及装置
US11356795B2 (en) 2020-06-17 2022-06-07 Bose Corporation Spatialized audio relative to a peripheral device
US11275629B2 (en) * 2020-06-25 2022-03-15 Microsoft Technology Licensing, Llc Mixed reality complementary systems
US11755275B2 (en) * 2020-06-29 2023-09-12 Meta Platforms Technologies, Llc Generating augmented reality experiences utilizing physical objects to represent analogous virtual objects
CN112071326A (zh) * 2020-09-07 2020-12-11 三星电子(中国)研发中心 音效处理方法和装置
US11982738B2 (en) 2020-09-16 2024-05-14 Bose Corporation Methods and systems for determining position and orientation of a device using acoustic beacons
US11615596B2 (en) * 2020-09-24 2023-03-28 Apple Inc. Devices, methods, and graphical user interfaces for interacting with three-dimensional environments
US11696084B2 (en) 2020-10-30 2023-07-04 Bose Corporation Systems and methods for providing augmented audio
US11700497B2 (en) 2020-10-30 2023-07-11 Bose Corporation Systems and methods for providing augmented audio
US11856378B2 (en) * 2021-11-26 2023-12-26 Htc Corporation System with sound adjustment capability, method of adjusting sound and non-transitory computer readable storage medium
WO2024101683A1 (ko) * 2022-11-09 2024-05-16 삼성전자주식회사 오디오 신호를 레코딩하기 위한 웨어러블 장치 및 그 방법
WO2024175623A1 (en) * 2023-02-22 2024-08-29 Sony Semiconductor Solutions Corporation Electronic device, method, and computer program

Family Cites Families (29)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
FI116990B (fi) * 1997-10-20 2006-04-28 Nokia Oyj Menetelmä ja järjestelmä akustisen virtuaaliympäristön käsittelemiseksi
AU2002303082A1 (en) * 2001-01-26 2002-09-12 Zaxel Systems, Inc. Real-time virtual viewpoint in simulated reality environment
JP4708590B2 (ja) 2001-03-13 2011-06-22 キヤノン株式会社 複合現実感システム、ヘッドマウントディスプレイ装置、複合現実感実現方法及びプログラム
JP2003334219A (ja) * 2002-05-21 2003-11-25 Nippon Telegr & Teleph Corp <Ntt> 遠隔地散策装置
JP2005223714A (ja) * 2004-02-06 2005-08-18 Sony Corp 音響収音装置、音響収音方法、記録媒体
EP1749420A4 (en) * 2004-05-25 2008-10-15 Huonlabs Pty Ltd AUDIO APPARATUS AND METHOD
US8682679B2 (en) * 2007-06-26 2014-03-25 Koninklijke Philips N.V. Binaural object-oriented audio decoder
US8170222B2 (en) 2008-04-18 2012-05-01 Sony Mobile Communications Ab Augmented reality enhanced audio
US8243970B2 (en) 2008-08-11 2012-08-14 Telefonaktiebolaget L M Ericsson (Publ) Virtual reality sound for advanced multi-media applications
US9037468B2 (en) * 2008-10-27 2015-05-19 Sony Computer Entertainment Inc. Sound localization for user in motion
KR101285391B1 (ko) * 2010-07-28 2013-07-10 주식회사 팬택 음향 객체 정보 융합 장치 및 방법
US20120207308A1 (en) 2011-02-15 2012-08-16 Po-Hsun Sung Interactive sound playback device
US20120239690A1 (en) * 2011-03-16 2012-09-20 Rovi Technologies Corporation Utilizing time-localized metadata
US9131305B2 (en) * 2012-01-17 2015-09-08 LI Creative Technologies, Inc. Configurable three-dimensional sound system
US8831255B2 (en) 2012-03-08 2014-09-09 Disney Enterprises, Inc. Augmented reality (AR) audio with position and action triggered virtual sound effects
WO2014178479A1 (ko) * 2013-04-30 2014-11-06 인텔렉추얼디스커버리 주식회사 헤드 마운트 디스플레이 및 이를 이용한 오디오 콘텐츠 제공 방법
US10262462B2 (en) * 2014-04-18 2019-04-16 Magic Leap, Inc. Systems and methods for augmented and virtual reality
JP6227295B2 (ja) * 2013-06-25 2017-11-08 日本放送協会 空間音響生成装置およびそのプログラム
US9942685B2 (en) 2013-06-28 2018-04-10 Microsoft Technology Licensing, Llc Navigation with three dimensional audio effects
US9769589B2 (en) 2013-09-27 2017-09-19 Sony Interactive Entertainment Inc. Method of improving externalization of virtual surround sound
EP2863654B1 (en) * 2013-10-17 2018-08-01 Oticon A/s A method for reproducing an acoustical sound field
EP2866217A1 (en) 2013-10-25 2015-04-29 GN Store Nord A/S An audio information system based on zones and contexts
CN104615243A (zh) * 2015-01-15 2015-05-13 深圳市掌网立体时代视讯技术有限公司 一种头戴式多通道交互系统及多通道交互方法
CN105353868B (zh) * 2015-09-24 2019-05-31 联想(北京)有限公司 一种信息处理方法及电子设备
CN105466413A (zh) * 2015-11-10 2016-04-06 上海格虏博运动科技有限公司 一种基于智能移动平台并结合gps的增强现实实景导航技术
CN105657535B (zh) * 2015-12-29 2018-10-30 北京搜狗科技发展有限公司 一种音频识别方法和装置
CN105611481B (zh) * 2015-12-30 2018-04-17 北京时代拓灵科技有限公司 一种基于空间声的人机交互方法和系统
US9881619B2 (en) 2016-03-25 2018-01-30 Qualcomm Incorporated Audio processing for an acoustical environment
US10547947B2 (en) 2016-05-18 2020-01-28 Qualcomm Incorporated Device for generating audio output

Similar Documents

Publication Publication Date Title
JP2019527956A5 (ja)
IL307592A (en) Spatial audio for mixed reality
JP2017527223A5 (ja)
WO2020079485A3 (en) Hearing aid systems and methods
JP2019133160A5 (ja)
EP3531714A3 (en) Facilitating calibration of an audio playback device
IL305799A (en) Virtual reverberation in mixed reality
WO2015175964A8 (en) Wearable devices for courier processing and methods of use thereof
JP2016509820A5 (ja)
JP2017067666A5 (ja)
EP2661097A3 (en) Audio system
EP4297017A3 (en) Method for processing an audio signal, signal processing unit, binaural renderer, audio encoder and audio decoder
EP2830043A3 (en) Method for Processing an Audio Signal in accordance with a Room Impulse Response, Signal Processing Unit, Audio Encoder, Audio Decoder, and Binaural Renderer
EP2887697A3 (en) Method of audio signal processing and hearing aid system for implementing the same
MX2018004891A (es) Metodo de control de presentacion visual y dispositivo de control de presentacion visual.
WO2016055920A3 (en) A portable alerting system and a method thereof
JP2014220723A5 (ja) 画像表示装置、画像表示方法、およびプログラム
EP3513568A4 (en) GENERATING AN AUDIO SIGNAL FROM MULTIPLE MICROPHONES BASED ON NON-CORRELATED NOISE DETECTION
GB2548208A (en) Audio watermarking for people monitoring
GB2543972A (en) Systems and methods for equalizing audio for playback on an electronic device
EP3177040A3 (en) Information processing apparatus, information processing method, and program
WO2015112740A3 (en) Methods and systems for snore detection and correction
MX362441B (es) Dispositivo para reproducir sonido.
JP2014207589A5 (ja)
JP2016524153A5 (ja)