JP7354225B2 - オーディオ装置、オーディオ配信システム及びその動作方法 - Google Patents
オーディオ装置、オーディオ配信システム及びその動作方法 Download PDFInfo
- Publication number
- JP7354225B2 JP7354225B2 JP2021500429A JP2021500429A JP7354225B2 JP 7354225 B2 JP7354225 B2 JP 7354225B2 JP 2021500429 A JP2021500429 A JP 2021500429A JP 2021500429 A JP2021500429 A JP 2021500429A JP 7354225 B2 JP7354225 B2 JP 7354225B2
- Authority
- JP
- Japan
- Prior art keywords
- audio
- proximity
- remote client
- remote
- data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/16—Sound input; Sound output
- G06F3/165—Management of the audio stream, e.g. setting of volume, audio stream path
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L12/00—Data switching networks
- H04L12/02—Details
- H04L12/16—Arrangements for providing special services to substations
- H04L12/18—Arrangements for providing special services to substations for broadcast or conference, e.g. multicast
- H04L12/1813—Arrangements for providing special services to substations for broadcast or conference, e.g. multicast for computer conferences, e.g. chat rooms
- H04L12/1827—Network arrangements for conference optimisation or adaptation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04S—STEREOPHONIC SYSTEMS
- H04S7/00—Indicating arrangements; Control arrangements, e.g. balance control
- H04S7/30—Control circuits for electronic adaptation of the sound field
- H04S7/302—Electronic adaptation of stereophonic sound system to listener position or orientation
- H04S7/303—Tracking of listener position or orientation
- H04S7/304—For headphones
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04S—STEREOPHONIC SYSTEMS
- H04S2400/00—Details of stereophonic systems covered by H04S but not provided for in its groups
- H04S2400/11—Positioning of individual sound objects, e.g. moving airplane, within a sound field
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04S—STEREOPHONIC SYSTEMS
- H04S2400/00—Details of stereophonic systems covered by H04S but not provided for in its groups
- H04S2400/15—Aspects of sound capture and related signal processing for recording or reproduction
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04S—STEREOPHONIC SYSTEMS
- H04S2420/00—Techniques used stereophonic systems covered by H04S but not provided for in its groups
- H04S2420/01—Enhancing the perception of the sound image or of the spatial distribution using head related transfer functions [HRTF's] or equivalents thereof, e.g. interaural time difference [ITD] or interaural level difference [ILD]
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Multimedia (AREA)
- General Engineering & Computer Science (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- Health & Medical Sciences (AREA)
- Acoustics & Sound (AREA)
- Audiology, Speech & Language Pathology (AREA)
- General Health & Medical Sciences (AREA)
- Human Computer Interaction (AREA)
- General Physics & Mathematics (AREA)
- Computer Networks & Wireless Communication (AREA)
- Stereophonic System (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
- Telephonic Communication Services (AREA)
- Reverberation, Karaoke And Other Acoustics (AREA)
Description
本発明の任意の特徴によれば、前記近接度検出器は前記オーディオサーバの一部である。
- ユーザが遅延(遅延聴覚フィードバック)を伴う自身の音声を聞くことは、非常に苛立たしいものであり、精神的ストレスを引き起こすことが知られている。
- ユーザA1が話している場合、それは当該部屋内の他の人(単数または複数)に対して音声明瞭度に悪影響を及ぼし、これは聴取努力および疲労を増加させる。
- ユーザA1が話している場合、当該部屋内の他のユーザのクライアントスピーカからの遅延された音声もユーザA1のマイクロフォンによってピックアップされ、これも他のユーザのスピーカを介して再び再生され、等々となり、潜在的に音響フィードバック(「リンギング」)を引き起こす。
- ユーザA1が話している場合には、これは他のすべてのユーザのマイクロフォンによってもピックアップされ、どの人物が話しているかを当該システムが決定することに関し問題を引き起こし得るか(当該システムがSNRを管理するために他の人物をミュートまたは減衰させることを妨げる)、または信号レベルの蓄積を引き起こし得る。
クライアントからサーバに送信されるデータの構文例は、下表のとおりである:
Claims (14)
- 複数の遠隔クライアントからの到来オーディオを受信すると共に前記到来オーディオから導出されたオーディオを前記複数の遠隔クライアントの少なくとも幾つかに送信するためのオーディオサーバを備えるオーディオ配信システムのためのオーディオ装置であって、前記オーディオ装置は、
各々が前記複数の遠隔クライアントのうちの或る遠隔クライアントからのオーディオを表す複数のオーディオ成分に関するオーディオデータ、及び
前記複数のオーディオ成分のうちの少なくとも1つに関する、現実世界の音響環境における遠隔クライアントの間の物理的近接度を示す近接データ、
を含むデータを受信する受信機と、
前記近接データに応答して前記複数のオーディオ成分のオーディオミックスを生成するための生成器と
を有し、
前記生成器は前記複数の遠隔クライアントのうちの第1の遠隔クライアントのための第1のオーディオミックスを生成し、第2の遠隔クライアントが前記第1の遠隔クライアントに近いことを前記近接データが示す場合に、該第1のオーディオミックスの生成が、前記近接データに応答して前記第2の遠隔クライアントに関する第2のオーディオ成分の前記第1のオーディオミックスにおける減衰を決定するステップを含む、オーディオ装置。 - 前記生成器が、前記第1の遠隔クライアント及び前記第2の遠隔クライアントに対して近接基準を満たす前記近接データに対し前記第1のオーディオミックスにおける前記第2のオーディオ成分を減衰させる、請求項1に記載のオーディオ装置。
- 当該オーディオ装置が前記オーディオサーバの一部である、請求項1又は2に記載のオーディオ装置。
- 当該オーディオ装置が前記複数の遠隔クライアントのうちの或る遠隔クライアントの一部である、請求項1又は2に記載のオーディオ装置。
- 前記近接データは少なくとも第1の遠隔クライアント及び第2の遠隔クライアントに関するスカラ近接指示情報を含み、該スカラ近接指示情報が前記第2の遠隔クライアントのオーディオソースから前記第1の遠隔クライアントのキャプチャ要素までの音響減衰を示す、請求項1から4の何れか一項に記載のオーディオ装置。
- 前記近接データが、第1の遠隔クライアントから第2の遠隔クライアントへは前記第2の遠隔クライアントから前記第1の遠隔クライアントへとは異なる近接指示情報を有する、請求項1から5の何れか一項に記載のオーディオ装置。
- 前記受信機が前記複数の遠隔クライアントのうちの少なくとも1つの位置の変化に動的に適応する近接データを受信する、請求項1に記載のオーディオ装置。
- 複数の遠隔クライアント、及び
前記複数の遠隔クライアントからの到来オーディオを受信すると共に前記到来オーディオから導出されたオーディオを前記複数の遠隔クライアントの少なくとも1つに送信するためのオーディオサーバ、
を有するオーディオ配信システムであって、前記オーディオサーバ及び前記複数の遠隔クライアントのうちの1つの少なくとも一方は、
各々が前記複数の遠隔クライアントのうちの或る遠隔クライアントからのオーディオを表す複数のオーディオ成分に関するオーディオデータ、及び
現実世界の音響環境における遠隔クライアントの間の物理的近接度を示す、前記複数のオーディオ成分のうちの少なくとも1つに関する近接データ、
を含むデータを受信するための受信機と、
前記近接データに応答して前記複数のオーディオ成分のオーディオミックスを生成するための生成器と
を有し、
前記生成器は前記複数の遠隔クライアントのうちの第1の遠隔クライアントのための第1のオーディオミックスを生成し、第2の遠隔クライアントが前記第1の遠隔クライアントに近いことを前記近接データが示す場合に、該第1のオーディオミックスの生成が、前記近接データに応答して前記第2の遠隔クライアントに関する第2のオーディオ成分の前記第1のオーディオミックスにおける減衰を決定するステップを含む、オーディオ配信システム。 - 当該オーディオ配信システムが、第1の遠隔クライアント及び第2の遠隔クライアントに関する近接指示情報を、前記第1の遠隔クライアントに関する第1のオーディオ成分と前記第2の遠隔クライアントに関する第2のオーディオ成分との比較に応答して決定する近接度検出器と、前記近接指示情報を含む近接データを前記受信機に送信するための送信機とを備える、請求項8に記載のオーディオ配信システム。
- 前記近接度検出器が、前記オーディオサーバの一部である、請求項9に記載のオーディオ配信システム。
- 前記複数の遠隔クライアントのうちの第1の遠隔クライアントが、
一組のマイクロフォンによりキャプチャされたオーディオに対応するマイクロフォン信号を生成するための入力部と、
前記第1の遠隔クライアントに関する近接指示情報を前記マイクロフォン信号と前記オーディオサーバから受信されたオーディオとの比較に応答して決定する近接度検出器と、
前記近接指示情報を含む音響オーディオデータを前記オーディオサーバに送信するための送信機と
を備える、請求項8に記載のオーディオ配信システム。 - 前記近接度検出器が前記マイクロフォン信号と前記オーディオサーバから受信されたオーディオとの間の高い相関を検出することに応答して、前記送信機は、現在アクティブな遠隔クライアントが近接していると判定されていることを示す近接データを送信する、請求項11に記載のオーディオ配信システム。
- 複数の遠隔クライアントからの到来オーディオを受信すると共に前記到来オーディオから導出されたオーディオを前記複数の遠隔クライアントのうちの少なくとも幾つかに送信するためのオーディオサーバを備えるオーディオ配信システムのためのオーディオ装置の動作方法であって、前記動作方法は、
各々が前記複数の遠隔クライアントのうちの或る遠隔クライアントからのオーディオを表す複数のオーディオ成分に関するオーディオデータ、及び
現実世界の音響環境における遠隔クライアントの間の物理的近接度を示す、前記複数のオーディオ成分のうちの少なくとも1つに関する近接データ、
を含むデータを受信するステップと、
前記近接データに応答して前記複数のオーディオ成分のオーディオミックスを生成するステップと
を有し、
前記生成するステップは、前記複数の遠隔クライアントのうちの第1の遠隔クライアントのための第1のオーディオミックスを生成するステップを有し、第2の遠隔クライアントが前記第1の遠隔クライアントに近いことを前記近接データが示す場合に、該第1のオーディオミックスの生成が、前記近接データに応答して前記第2の遠隔クライアントに関する第2のオーディオ成分の前記第1のオーディオミックスにおける減衰を決定するステップを含む、オーディオ装置の動作方法。 - コンピュータ上で実行された場合に、請求項13に記載のオーディオ装置の動作方法の全てのステップを実行するコンピュータプログラムコード手段を有する、コンピュータプログラム。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
EP18182366.7A EP3594802A1 (en) | 2018-07-09 | 2018-07-09 | Audio apparatus, audio distribution system and method of operation therefor |
EP18182366.7 | 2018-07-09 | ||
PCT/EP2019/067648 WO2020011588A1 (en) | 2018-07-09 | 2019-07-02 | Audio apparatus, audio distribution system and method of operation therefor |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2021524612A JP2021524612A (ja) | 2021-09-13 |
JPWO2020011588A5 JPWO2020011588A5 (ja) | 2022-07-08 |
JP7354225B2 true JP7354225B2 (ja) | 2023-10-02 |
Family
ID=63077666
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021500429A Active JP7354225B2 (ja) | 2018-07-09 | 2019-07-02 | オーディオ装置、オーディオ配信システム及びその動作方法 |
Country Status (7)
Country | Link |
---|---|
US (2) | US11656839B2 (ja) |
EP (2) | EP3594802A1 (ja) |
JP (1) | JP7354225B2 (ja) |
CN (1) | CN112400158B (ja) |
BR (1) | BR112021000163A2 (ja) |
MX (1) | MX2021000136A (ja) |
WO (1) | WO2020011588A1 (ja) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP3595336A1 (en) * | 2018-07-09 | 2020-01-15 | Koninklijke Philips N.V. | Audio apparatus and method of operation therefor |
WO2021013363A1 (en) * | 2019-07-25 | 2021-01-28 | Unify Patente Gmbh & Co. Kg | Method and system for avoiding howling disturbance on conferences |
WO2022059362A1 (ja) * | 2020-09-18 | 2022-03-24 | ソニーグループ株式会社 | 情報処理装置、情報処理方法および情報処理システム |
US11825026B1 (en) * | 2020-12-10 | 2023-11-21 | Hear360 Inc. | Spatial audio virtualization for conference call applications |
US11670317B2 (en) * | 2021-02-23 | 2023-06-06 | Kyndryl, Inc. | Dynamic audio quality enhancement |
TWI790718B (zh) * | 2021-08-19 | 2023-01-21 | 宏碁股份有限公司 | 會議終端及用於會議的回音消除方法 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004274147A (ja) | 2003-03-05 | 2004-09-30 | Hitachi Communication Technologies Ltd | 音場定位型多地点通話システム |
JP2006254167A (ja) | 2005-03-11 | 2006-09-21 | Hitachi Ltd | 音声会議システム、会議端末および音声サーバ |
US20080252637A1 (en) | 2007-04-14 | 2008-10-16 | Philipp Christian Berndt | Virtual reality-based teleconferencing |
US20150091906A1 (en) | 2013-10-01 | 2015-04-02 | Aaron Scott Dishno | Three-dimensional (3d) browsing |
JP2017028351A (ja) | 2015-07-15 | 2017-02-02 | 富士通株式会社 | ヘッドセット |
WO2017205986A1 (en) | 2016-06-03 | 2017-12-07 | Nureva Inc. | Method, apparatus and computer-readable media for virtual positioning of a remote participant in a sound space |
Family Cites Families (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7379962B1 (en) * | 2000-01-19 | 2008-05-27 | Computer Associates Think, Inc. | Spatialized audio in a three-dimensional computer-based scene |
US8559646B2 (en) * | 2006-12-14 | 2013-10-15 | William G. Gardner | Spatial audio teleconferencing |
US20080159507A1 (en) * | 2006-12-27 | 2008-07-03 | Nokia Corporation | Distributed teleconference multichannel architecture, system, method, and computer program product |
KR101349268B1 (ko) * | 2007-10-16 | 2014-01-15 | 삼성전자주식회사 | 마이크로폰 어레이를 이용한 음원 거리 측정 장치 |
JP4960838B2 (ja) * | 2007-11-09 | 2012-06-27 | 日本電信電話株式会社 | 距離測定装置、距離測定方法、距離測定プログラム、および記録媒体 |
US9736312B2 (en) * | 2010-11-17 | 2017-08-15 | Avaya Inc. | Method and system for controlling audio signals in multiple concurrent conference calls |
US20140074270A1 (en) * | 2011-03-29 | 2014-03-13 | Panasonic Corporation | Audio Read-Out System, Audio Read-Out Device, and Audio Read-Out Method |
US9305458B2 (en) * | 2012-02-25 | 2016-04-05 | ZipSocket, Inc. | Proximity-detection systems and methods |
CN104010265A (zh) * | 2013-02-22 | 2014-08-27 | 杜比实验室特许公司 | 音频空间渲染设备及方法 |
WO2014143060A1 (en) * | 2013-03-15 | 2014-09-18 | Intel Corporation | Mechanism for facilitating dynamic adjustment of audio input/output (i/o) setting devices at conferencing computing devices |
US9704488B2 (en) * | 2015-03-20 | 2017-07-11 | Microsoft Technology Licensing, Llc | Communicating metadata that identifies a current speaker |
US20170010671A1 (en) * | 2015-07-10 | 2017-01-12 | 8982406 Canada Inc. | Haptic interface with localized feedback |
CN106971522A (zh) | 2016-01-14 | 2017-07-21 | 富泰华工业(深圳)有限公司 | 电子装置及使用该电子装置遥控电器的方法 |
US10409548B2 (en) * | 2016-09-27 | 2019-09-10 | Grabango Co. | System and method for differentially locating and modifying audio sources |
US10466777B2 (en) * | 2016-12-07 | 2019-11-05 | LogMeln, Inc. | Private real-time communication between meeting attendees during a meeting using one or more augmented reality headsets |
-
2018
- 2018-07-09 EP EP18182366.7A patent/EP3594802A1/en not_active Withdrawn
-
2019
- 2019-07-02 MX MX2021000136A patent/MX2021000136A/es unknown
- 2019-07-02 US US17/258,822 patent/US11656839B2/en active Active
- 2019-07-02 BR BR112021000163-8A patent/BR112021000163A2/pt unknown
- 2019-07-02 EP EP19733813.0A patent/EP3821333A1/en active Pending
- 2019-07-02 WO PCT/EP2019/067648 patent/WO2020011588A1/en unknown
- 2019-07-02 CN CN201980046011.4A patent/CN112400158B/zh active Active
- 2019-07-02 JP JP2021500429A patent/JP7354225B2/ja active Active
-
2023
- 2023-04-20 US US18/136,902 patent/US20230251819A1/en active Pending
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004274147A (ja) | 2003-03-05 | 2004-09-30 | Hitachi Communication Technologies Ltd | 音場定位型多地点通話システム |
JP2006254167A (ja) | 2005-03-11 | 2006-09-21 | Hitachi Ltd | 音声会議システム、会議端末および音声サーバ |
US20080252637A1 (en) | 2007-04-14 | 2008-10-16 | Philipp Christian Berndt | Virtual reality-based teleconferencing |
US20150091906A1 (en) | 2013-10-01 | 2015-04-02 | Aaron Scott Dishno | Three-dimensional (3d) browsing |
JP2017028351A (ja) | 2015-07-15 | 2017-02-02 | 富士通株式会社 | ヘッドセット |
WO2017205986A1 (en) | 2016-06-03 | 2017-12-07 | Nureva Inc. | Method, apparatus and computer-readable media for virtual positioning of a remote participant in a sound space |
Also Published As
Publication number | Publication date |
---|---|
BR112021000163A2 (pt) | 2021-04-06 |
MX2021000136A (es) | 2021-03-25 |
US11656839B2 (en) | 2023-05-23 |
CN112400158A (zh) | 2021-02-23 |
US20230251819A1 (en) | 2023-08-10 |
CN112400158B (zh) | 2024-05-14 |
US20220137916A1 (en) | 2022-05-05 |
EP3821333A1 (en) | 2021-05-19 |
EP3594802A1 (en) | 2020-01-15 |
WO2020011588A1 (en) | 2020-01-16 |
JP2021524612A (ja) | 2021-09-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7354225B2 (ja) | オーディオ装置、オーディオ配信システム及びその動作方法 | |
US11877135B2 (en) | Audio apparatus and method of audio processing for rendering audio elements of an audio scene | |
US11523219B2 (en) | Audio apparatus and method of operation therefor | |
EP3595337A1 (en) | Audio apparatus and method of audio processing | |
US20220225050A1 (en) | Head tracked spatial audio and/or video rendering | |
RU2816884C2 (ru) | Аудиоустройство, система распределения аудио и способ их работы | |
JP2023546839A (ja) | 視聴覚レンダリング装置およびその動作方法 | |
RU2815621C1 (ru) | Аудиоустройство и способ обработки аудио | |
RU2798414C2 (ru) | Аудиоустройство и способ обработки аудио | |
WO2023286320A1 (ja) | 情報処理装置および方法、並びにプログラム | |
RU2815366C2 (ru) | Аудиоустройство и способ обработки аудио | |
EP4221263A1 (en) | Head tracking and hrtf prediction | |
US20230283976A1 (en) | Device and rendering environment tracking | |
JP2023043497A (ja) | リモート会議システム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220630 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220630 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230621 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230731 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230822 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230920 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7354225 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |