JP2017532816A - 音声再生システム及び方法 - Google Patents

音声再生システム及び方法 Download PDF

Info

Publication number
JP2017532816A
JP2017532816A JP2017507406A JP2017507406A JP2017532816A JP 2017532816 A JP2017532816 A JP 2017532816A JP 2017507406 A JP2017507406 A JP 2017507406A JP 2017507406 A JP2017507406 A JP 2017507406A JP 2017532816 A JP2017532816 A JP 2017532816A
Authority
JP
Japan
Prior art keywords
audio content
microphone
earphone
loudspeaker
mobile device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017507406A
Other languages
English (en)
Other versions
JP6824155B2 (ja
Inventor
マルクス クリストフ,
マルクス クリストフ,
サニッシュ ジョージ ジェイ. アルームカル,
サニッシュ ジョージ ジェイ. アルームカル,
Original Assignee
ハーマン ベッカー オートモーティブ システムズ ゲーエムベーハー
ハーマン ベッカー オートモーティブ システムズ ゲーエムベーハー
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ハーマン ベッカー オートモーティブ システムズ ゲーエムベーハー, ハーマン ベッカー オートモーティブ システムズ ゲーエムベーハー filed Critical ハーマン ベッカー オートモーティブ システムズ ゲーエムベーハー
Publication of JP2017532816A publication Critical patent/JP2017532816A/ja
Application granted granted Critical
Publication of JP6824155B2 publication Critical patent/JP6824155B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R29/00Monitoring arrangements; Testing arrangements
    • H04R29/001Monitoring arrangements; Testing arrangements for loudspeakers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04SSTEREOPHONIC SYSTEMS 
    • H04S7/00Indicating arrangements; Control arrangements, e.g. balance control
    • H04S7/30Control circuits for electronic adaptation of the sound field
    • H04S7/301Automatic calibration of stereophonic sound system, e.g. with test microphone
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04SSTEREOPHONIC SYSTEMS 
    • H04S1/00Two-channel systems
    • H04S1/002Non-adaptive circuits, e.g. manually adjustable or static, for enhancing the sound image or the spatial distribution
    • H04S1/005For headphones
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04SSTEREOPHONIC SYSTEMS 
    • H04S7/00Indicating arrangements; Control arrangements, e.g. balance control
    • H04S7/30Control circuits for electronic adaptation of the sound field
    • H04S7/305Electronic adaptation of stereophonic audio signals to reverberation of the listening space
    • H04S7/306For headphones

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Acoustics & Sound (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Otolaryngology (AREA)
  • Stereophonic System (AREA)
  • Circuit For Audible Band Transducer (AREA)

Abstract

システム及び方法は、内蔵ラウドスピーカを備えたモバイルデバイスをリスニング環境の第1の位置に、少なくとも1つのマイクロフォンをリスニング環境の少なくとも1つの第2の位置に配置することと、リスニング環境の第1の位置のモバイルデバイスのラウドスピーカからテスト音声コンテンツを発することと、リスニング環境の少なくとも1つの第2の位置の少なくとも1つのマイクロフォンを用いて、ラウドスピーカが発したテスト音声コンテンツを受信することと、受信したテスト音声コンテンツに少なくとも部分的に基づいて、所望の音声コンテンツに、少なくとも1つのイヤホーンによって再生される前に適用する1つまたは複数の調整を決定することとを含み、第1の位置及び第2の位置は互いに離れて、少なくとも1つのマイクロフォンは、ラウドスピーカの近距離場内にある。

Description

本開示は、音声再生システム及び方法に関し、詳細には、高度に個別化した音声再生システム及び方法に関する。
イヤホーンを介して音声コンテンツをバイノーラル再生するための多くのアルゴリズムが、市場に存在する。それらのアルゴリズムは、合成バイノーラル室内インパルス応答(BRIR)に基づいており、それは、アルゴリズムが、大きい頭部伝達関数(HRTF)データベースの標準的なダミーヘッドまたは一般的な関数等、一般的なHRTFに基づいていることを意味する。さらに、一部のアルゴリズムは、BRIRの所与のセットから最も適切なBRIRをユーザが選択するのを可能にする。このようなオプションによって、リスニング品質を向上させることができる。このようなオプションは、外在化及び頭外定位を含むが、個別化(例えば、頭部シャドーイング、肩反射または耳介効果)は、信号処理チェーンから抜けている。特に、耳介情報は、指紋と同様、一意である。個人のBRIRによる個別化を追加することによって、自然さを向上させることができる。
本明細書に記載の方法は、リスニング環境の第1の位置に内蔵スピーカを有するモバイルデバイスと、リスニング環境の少なくとも1つの第2の位置に少なくとも1つのマイクロフォンを配置することと、リスニング環境の第1の位置のモバイルデバイスのラウドスピーカからテスト音声コンテンツを発することと、リスニング環境の少なくとも1つの第2の位置の少なくとも1つのマイクロフォンを用いてラウドスピーカが発したテスト音声コンテンツを受信することと、受信したテスト音声コンテンツに少なくとも部分的に基づいて、所望の音声コンテンツに少なくとも1つのイヤホーンによって再生される前に適用する1つまたは複数の調整を決定することと、を含み、第1の位置及び第2の位置は、互いに離れていて、少なくとも1つのマイクロフォンが、ラウドスピーカの近距離場内にある。
バイノーラル室内インパルス応答を測定するシステムは、リスニング環境の第1の位置に配置された内蔵スピーカを備えたモバイルデバイスと、リスニング環境の少なくとも1つの第2の位置に配置された少なくとも1つのマイクロフォンとを備える。モバイルデバイスは、リスニング環境の第1の位置のラウドスピーカを介してテスト音声コンテンツを発し、ラウドスピーカが発し、リスニング環境の少なくとも1つの第2の位置でイヤホーンが受信したテスト音声コンテンツを、イヤホーンから受信するように構成される。モバイルデバイスは、受信した音声コンテンツに少なくとも部分的に基づいて、所望の音声コンテンツにイヤホーンによって再生される前にモバイルデバイスが適用する1つまたは複数の調整を決定するようにさらに構成され、第1の位置と第2の位置は、互いに離れて、少なくとも1つのマイクロフォンは、ラウドスピーカの近距離場内にある。
以下の詳細な記載と図面を検討すると、他のシステム、方法、特徴、及び、長所が、当業者には明らかであろう、または、明らかとなるだろう。このような追加のシステム、方法、特徴、及び、長所は全て、この記載の範囲内であり、発明の範囲内であり、請求項によって保護されるものとする。
以下の記載及び図面を参照すると、システムは、よりよく理解されよう。図面内の構成要素は、必ずしも縮尺通りではなく、発明の原理を示すことに重点が置かれている。さらに、図中、類似の参照番号は、異なる図面を通して、対応する部分を示す。
2チャンネルステレオ、5.1チャンネルステレオ、または、7.1チャンネルステレオの信号をバイノーラル再生するための例示の音声システムを示す概略図である。 スマートフォンとモバイルマイクロフォンレコーダとを用いてBRIRを測定する例示のシステムを示す概略図である。 スマートフォンとヘッドフォンマイクロフォンとを用いてBRIRを測定する別の例示のシステムを示す概略図である。 スマートフォンを用いてBRIRを測定する例示の方法を示すフローチャートである。 異なる刺激に対する周波数応答を示す図である。 (近距離測定から取得した)リヤスマートフォンラウドスピーカの周波数応答、例示の目標周波数応答、及び、逆フィルタを示す図である。 ヘッドフォンの現実室内システムへのBRIR測定の例示の適用を示すフローチャートである。 逆フィルタを計算してスマートフォンのスピーカの欠陥を訂正する例示の方法を示すフローチャートである。 スマートフォンのスピーカの欠陥を訂正する前後の周波数応答の比較を示す図である。 例示のスペクトルバランサアルゴリズムを示すフローチャートである。 イヤホーン特性を測定する例示の装置を示す概略図である。 例示のイヤホーンイコライザアルゴリズムを示すフローチャートである。 ヘッドフォン仮想室内システムでBRIR測定の例示の適用を示すフローチャートである。 残響除去装置で使用される窓関数を示す図である。 図14に示す窓関数を適用する前後のBRIRを示す図である。 様々な例示の測定されたBRIRの振幅応答の比較を示す図である。 図16に示す図の基礎を形成する例示の測定されたBRIRの位相応答の比較を示す図である。 マイクロフォンとして使用されるイヤホーン変換器の振幅応答を示す図である。
録音された「サラウンドサウンド」は、典型的に、5つ、6つ、7つ、または、8つ以上のスピーカを通して伝えられる。現実世界の音は、無限の場所からユーザ(本明細書では、特に、ユーザの音響知覚に関する場合、「リスナー」とも称する)に届く。人間の聴覚系は2チャンネルシステムであるが、リスナーは、三次元空間の全ての軸で方向を容易に感じる。人間の聴覚系への1つの経路は、ヘッドフォン(本明細書では、特に、各耳に関する聴覚の振る舞いとなると「イヤホーン」とも呼ばれる)を介する。ヘッドフォンの弱点は、三次元の、広がりのある、完全に正確な音像を作成できないことである。一部の「仮想サラウンド」プロセッサは、この点で、段階的に進歩し、ヘッドフォンは、原理上、現実の室内で複数のスピーカによって作成されたのと同じように完全な、広がりのある、正確に位置を特定された、生き生きとした音体験を提供できる。
様々な方向から来る音は、頭部及び胴体上部の形と寸法と、外耳(耳介)の形とに衝突すると、変化する。人間の脳は、これらの変化に非常に敏感で、音色の変化とは認識されずに、上、下、前、後ろ、または、間と位置を特定するように、リスナーによってかなり正確に体験される。この音響学的変化は、HRTFによって表すことができる。
一種類の録音によって、2つの音声チャンネルが三次元体験を再現できることが分かった。バイノーラル録音は、一対の近くに置かれたマイクロフォンを用いて行われ、ヘッドフォンリスニングを対象としている。時には、マイクロフォンは、ダミーヘッド、または、頭部/胴体に埋め込まれて、HRTFを作成し、この場合、三次元性の感覚は、増強される。再現された音空間は、納得できるものであるが、元の環境を参照していないので、その正確さは、証明できない。いずれの場合でも、これらは、商用カタログではめったに見られない特殊な録音である。前、後ろ、時には、頭上の音を捕捉するための録音は、複数のマイクロフォンを用いて行われ、複数のチャンネルに記憶され、リスナーの周りに配置された複数のスピーカで再生されることを意図している。
他のシステム(Smyth Realiser等)は、全く異なる体験を提供する。すなわち、(ステレオを含む)マルチチャンネル録音は、現実の室内でラウドスピーカアレイを通して出すのと区別できないほど同じ音がヘッドフォンを通して出る。原理的には、Smyth Realiserは、HRTFをマルチチャンネルサウンドに適用してヘッドフォンを駆動するという点で、他のシステムと類似している。しかし、他の改良点と共に、Smyth Realiserは、パーソナライズと、頭部追跡と、あらゆる実際のリスニング空間及びサウンドシステムの特性の捕捉という、他の製品には見られない3つの重要な構成要素を採用している。Smyth Realiserは、イヤプラグに挿入された一対のごく小さいマイクロフォンを備え、イヤプラグは、測定のためにリスナーの耳に配置される。リスナーは、ラウドスピーカアレイに囲まれたリスニング位置に座る。典型的には、5.1または7.1チャンネルであるが、ハイトチャンネルを含む、任意の設定も適用され得る。短時間のテスト信号セットがラウドスピーカを通して再生され、次に、リスナーがヘッドフォンを装着し、第2の短時間の測定値のセットを取得する。プロシージャ全体は、5分未満である。スピーカを用いた測定において、Smyth Realiserは、リスナーの個人的なHRTFを捕捉するだけでなく、部屋と、スピーカと、スピーカを駆動する電子機器とを完全に特徴づける。ヘッドフォンを用いた測定において、システムは、ヘッドフォンと耳の相互作用と、ヘッドフォン自体の応答を訂正するためのデータを収集する。合成データは、メモリに記憶され、合成データを使用して、音声信号経路に接続されたイコライザを制御できる。
以上のように、バイノーラル測定を行うのに必要な試みは、専用測定マイクロフォン、サウンドカード、及び、他の機器が必要なので面倒である。本明細書に記載の方法及びシステムは、スマートフォンによるBRIRの測定を可能にして、高価なハードウェアを使用せずに、バイノーラル測定を容易にする。
図1は、信号源101によって提供された2チャンネルステレオ、5.1チャンネルステレオ、または、7.1チャンネルステレオの信号をバイノーラル再生するための例示の音声システム100の概略図である。信号源は、CDプレイヤ、DVDプレイヤ、車両ヘッドユニット、MPEGサラウンドサウンド(MPS)デコーダ等であってよい。バイノーラライザ102は、信号源101によって提供された2チャンネルステレオ、5.1チャンネルステレオ、または、7.1チャンネルステレオの信号から、イヤホーン103のための2チャンネル信号を生成する。BRIR測定システム104は、実際のBRIRの測定を可能にし、BRIRを表す信号をバイノーラライザ102に提供して、(ステレオを含む)マルチチャンネル録音が、現実の室内でラウドスピーカアレイを通して出すのと区別できないほど同じ音がイヤホーン103を通して出る。図1に示す例示の音声システム100は、自動車用途のためにパーソナライズされたマルチチャンネルコンテンツの伝達に使用されてよく、また、全てのタイプのヘッドフォン(すなわち、オンイヤーヘッドフォンだけでなくインイヤーヘッドフォン)を対象としてよい。
図2は、スマートフォン201(または、モバイルフォン、ファブレット、タブレット、ラップトップ等)を使用する例示のBRIR測定システム104の概略図で、ラウドスピーカ202と、2つのマイクロフォン204、205に接続されたモバイル音声レコーダ203とを備える。スマートフォン201のラウドスピーカ202は、マイクロフォン204、205によって捕捉された音を放射することによって、ラウドスピーカ202とマイクロフォン204、205との間に音響伝達経路206を確立する。デジタル音声信号及び/または命令を含むデジタルデータが、スマートフォン201とレコーダ203との間で双方向無線接続207を介してやり取りされる。双方向無線接続207は、ブルートゥース(登録商標)(BT)接続であってよい。
図3は、スマートフォン301を使用する別の例示のBRIR測定システム104の概略図で、ラウドスピーカ302と、マイクロフォン304、305を備えたヘッドフォン303とを含む。スマートフォン301のラウドスピーカ302は、マイクロフォン304、305によって捕捉された音を放射することによって、ラウドスピーカ302と、マイクロフォン304、305との間に音響伝達経路306を確立する。デジタルまたはアナログ音声信号は、有線接続307によって、あるいは、BT接続(図3には示さず)等の無線接続によって、マイクロフォン304、305からスマートフォン301に伝達される。同じまたは別個の有線接続または無線接続(図3には示さず)を使用して、デジタルまたはアナログ音声信号をこれらの音声信号の再生のためにスマートフォン301からヘッドフォン303に伝達してよい。
図4を参照する。ユーザからの開始コマンドが、図2に示すシステムのスマートフォン201等のモバイルデバイスによって受信されてよい(プロシージャ401)。開始コマンドを受信すると、スマートフォン201は、専用ソフトウェアアプリケーション(app)を開始して、モバイル音声レコーダ203とのBT接続を確立する(プロシージャ402)。スマートフォン201は、ユーザからの録音コマンドを受信して、BT接続207を介してモバイル音声レコーダ203に録音を開始するように命令する(プロシージャ403)。モバイル音声レコーダ203は、スマートフォン201から命令を受信して、録音を開始する(プロシージャ404)。スマートフォン201は、内蔵スピーカ202を介してテスト音声コンテンツを発し、モバイル音声レコーダ203は、マイクロフォン204、205が受信したテスト音声コンテンツを録音する(プロシージャ405)。スマートフォン201は、BTを介してモバイル音声レコーダ203に録音を停止するように命令する(プロシージャ406)。モバイル音声レコーダ203は、スマートフォン201から命令を受信して、録音を停止する(プロシージャ407)。モバイル音声レコーダ203は、次に、録音したテスト音声コンテンツをBTを介してスマートフォン201に送信し(プロシージャ408)、スマートフォン201は、モバイル音声レコーダ203から録音したテスト音声コンテンツを受信し、受信したテスト音声コンテンツを処理する(プロシージャ409)。スマートフォン201は、次に、モバイルレコーダとのBT接続を絶ち(プロシージャ410)、BRIRを表すデータを出力する(プロシージャ411)。図4に示すプロセスと類似のプロセスを図3に示すシステムに適用してよいが、音声録音は、モバイルデバイス(スマートフォン301)内で行われる。
研究において、図2に示す例示のシステムに関連して4つの刺激(テスト音声コンテンツ)を検討した。風船が割れる501、2つの異なるタイプの拍手502、503、及び、正弦波掃引504である。これらの刺激は、無響室の特定の測定マイクロフォンから約1メートルで録音した。これらの測定値のインパルス応答の振幅を図5に示す。2つの拍手502、503は、正弦波掃引504の測定値と大きく異なっているので、現在の形は理想的でないことがグラフから分かる。比較のために、インパルス刺激505も示している。周波数応答は、理想的には無響室で測定されるべきである。しかしながら、専門家以外は通常、無響室に近づくことができない。代わりに、近距離測定を使用する。近距離測定は、バイノーラル測定に使用されるのと同じマイクロフォンを使用することによって、技術的に実行可能である。従って、一回の拍手の録音では、必ずしも、その部屋の所望の特徴を提供するとは限らない。よって、測定を行うためにエンドユーザからのより実践的な試みが必要である。しかしながら、できるだけ簡単で一般のユーザにとって信頼できる測定プロシージャを作成することが望まれる。
ラウドスピーカ等の音響源は、近距離場領域及び遠距離場領域の両方を有する。近距離場内において、ラウドスピーカ(または、略して、スピーカ)によって生成された波面は、平行でなく、波の強さは、範囲と共に振動する。このため、近距離場領域内の目標物からのエコーのレベルは、位置が少し変わると大きく変動し得る。遠距離場になると、波面は、ほぼ平行となり、逆二乗法則で二乗されるように、強さは範囲と共に変わる。遠距離場内においては、ビームが適切に形成され、エコーレベルは、標準方程式から予測可能である。
スマートフォンスピーカは低周波領域においては応答506が良くないことは図5より分かる。ピークも約6kHzで見られる。これらの欠陥に関わらず、以下に記載する理由のために、スマートフォンスピーカを依然として検討してよい。
a)スマートフォンスピーカは、周波数応答に制限があるが、約600Hzを超える信号をレンダリングすることができる(図6も参照)。
b)スマートフォンスピーカ自体が、測定刺激のレンダリングに用いられる場合、エンドユーザは、測定のために、風船等、追加の物体を持つ必要がない。
c)掃引正弦波刺激は、多くの製造業者及び研究者によって証明され、広く用いられているので、スマートフォンで容易に実施できる。
d)ユーザは、スマートフォン(スピーカ)を自分の頭部の周りの任意の位置に移動させることができる。これによって、任意の方位及び高さの組み合わせでBRIRを柔軟に測定できる。
近距離測定によって生成された例示のスマートフォンスピーカの振幅応答601を図6に示す。図から、スペクトルは、約700Hzから先、均一な特性を有することが分かる。「フラットな」目的関数602と、振幅応答601を目的関数602に適合させるのに適用可能な例示の逆フィルタ関数603も示している。
BRIR計算の2つの例示のアルゴリズムを以下に記載する。ヘッドフォンの現実室内(HRR)プロセスから生じるBRIRを用いて、ユーザの好きなコンテンツを、測定した部屋の情報を含めて、ヘッドフォンを介して聴くことができる。ヘッドフォンの仮想室内(HVR)プロセスから生じるBRIRを用いて、ユーザの好きなコンテンツを、バイノーラル情報のみを含めて、ヘッドフォンを介して聴くことができる。しかしながら、ユーザは、信号チェーンに仮想室をオプションで含むことができる。
HRRシステム及び方法は、ヘッドフォン(イヤホーン)を介したリスナーの部屋の情報を含めて、バイノーラルコンテンツをレンダリングすることを意図している。スマートフォン701を含むHRRシステムへのBRIR測定の例示の適用のフローチャートを図7に示し、以下により詳細に記載する。ビルディングブロックとプロシージャも以下に簡単に記載する。
BRIR測定は、スマートフォンスピーカ702を用いることと、ユーザの外耳道の入口にバイノーラルマイクロフォン(図示せず)を配置することによって行われる。スペクトル分析のための掃引正弦波信号は、所望の方位角及び仰角でスマートフォンスピーカ702を介して再生される。リスナーの外耳道を完全に塞ぐように特別に設計された一対のバイノーラルマイクロフォンを用いてよい。マイクロフォンは、バイノーラルマイクロフォンの別個のセットであってよく、測定ハードウェアは、図2に示すシステム同様、スマートフォン701と別個であってよい。あるいは、イヤホーン変換器自体が、音を捕捉する変換器として用いられてよい。BRIRの測定、前処理、及び、最終計算は、例えば、図4に関して前述したプロセスを行うモバイルアプリケーションを用いて、スマートフォン701によって行われてよい。周波数ごとのスペクトル分析(例えば、上記のような、対応する狭帯域分析に関連する掃引狭帯域刺激)の代わりに、広帯域刺激またはインパルスを、高速フーリエ変換(FFT)またはフィルターバンク等の広帯域スペクトル分析に関連して用いてよい。
スマートフォンのスピーカの欠陥の訂正に関して、BRIRを測定しながら、全ての周波数範囲をカバーするためには、理想的には、全帯域幅ラウドスピーカが必要とされる。帯域制限されたスピーカ、すなわち、スマートフォンスピーカ701を測定に用いるので、欠けている周波数範囲をカバーする必要がある。このため、近距離測定値をバイノーラルマイクロフォンの1つを用いて取得する。ここから、図5に示すように、例示の振幅周波数特性(「周波数特性」または「周波数応答」としても知られる)を用いた逆フィルタを計算して、左と右の耳のBRIR測定値に適用する。所与の例において、目標振幅周波数応答曲線は、フラットに設定されているが、任意の所望の曲線であってよい。位相相違及びレベル相違等の情報は、この方法では補正されないが、必要に応じて補正されてよい。このプロセスのフローチャートを図8に示す。プロセスは、スマートフォンスピーカ702の振幅周波数応答の近距離測定を含む(プロシージャ801)。スマートフォンスピーカ702と測定を行うマイクロフォンとの間の音響経路の対応する伝達関数(「伝達特性」としても知られる)が計算され(プロシージャ802)、逆目標振幅周波数関数803に加えられる(プロシージャ804)。(直線の)有限インパルス応答(FIR)フィルタ係数が、次に、計算され(プロシージャ805)、処理されて、直線位相から最小位相への変換を行う(プロシージャ806)。プロシージャ806で行われたフィルタ係数が、次に、長さを低減された(プロシージャ807)後、長さが低減されたフィルタ係数が出力される(プロシージャ808)。訂正適用後の結果の比較を図9に示す。図9において、グラフ901は、等化前に測定した振幅周波数特性を示し、グラフ902は、等化後に測定された振幅周波数特性を示し、グラフ903は、等化に使用された振幅周波数特性を示す。
(オプションの)スペクトルバランサに関して、ユーザが、音にある音色を埋め込みたい場合、追加の等化を適用できる。このために、左耳と右耳のBRIRの平均値を取得する。そのプロセスのフローチャートを図10に示す。プロセスは、左耳の身体伝達関数BRTF Lを提供すること(プロシージャ1001)、右耳のバイノーラル伝達関数BRTF Rを決定すること(プロシージャ1002)、平滑化すること(例えば、低域フィルタリング)(プロシージャ1003及び1004)、及び、平滑化されたバイノーラル伝達関数BRTF L及びBRTF Rを合計すること(プロシージャ1005)を含む。プロシージャ1005及び目標振幅周波数応答1007によって与えられた和を用いて、次に、対応する逆フィルタのフィルタ係数を計算する(プロシージャ1006)。フィルタ係数は、プロシージャ1008で出力される。
ヘッドフォンイコライザに関して、同じ製造会社でさえ、時には、イヤホーンの周波数特性の大きなばらつきがあるので、イヤホーンからの影響を補正するためにイコライザの適用が必要とされる。これを行うために、個々のイヤホーンの周波数応答が必要とされる。イヤホーン特性のこの測定は、図11に示すように、簡単な装置を用いて行うことができる。イヤホーン特性を測定する装置は、管状の本体部(本明細書では「管1101」と称する)を含む。本体部の一端には、(インイヤ)イヤホーン1103を管1101に結合するためのアダプタ1102を備え、他端には、閉止キャップ1104とキャップ1104に近接して管1101内に配置されたマイクロフォン1105とを備える。実際には、バイノーラルマイクロフォンのうちの1つが、図11に示すマイクロフォン1105の代わりに使用されてよい。管1101は、二端間のどこかに縮径部1006を有してよい。管1101の体積、長さ、及び、直径は、平均的な人間の外耳道と類似するべきである。図示の装置は、圧力室効果を模倣することができるので、測定された応答は、現実に近くなり得る。
対応する測定プロセスの概略を図12に示す。プロセスは、イヤホーン特性を測定すること(プロシージャ1201)、及び、測定から対応する伝達関数を計算すること(プロシージャ1202)を含む。さらに、プロシージャ1204で、目標伝達関数1203が、プロシージャ1202によって得られた伝達関数から減じられる。この和から、FIR係数が、(線形に)計算されて(プロシージャ1205)、続いて、直線位相から最小位相への変換(プロシージャ1206)と長さの低減(プロシージャ1207)が行われる。最後に、フィルタ係数1208が、他のアプリケーション及び/またはシステムに出力される。
図7を再び参照すると、図示のプロセスは、モバイルデバイスのスピーカ、ここでは、スマートフォンスピーカ702の振幅周波数応答の近距離測定を含む(プロシージャ703)。プロシージャ703による信号から、スマートフォンスピーカ702の振幅周波数応答を計算する(プロシージャ704)。次に、逆フィルタ振幅周波数応答が、目標振幅周波数応答706と、スマートフォンスピーカ702の計算した振幅周波数応答とから計算される(プロシージャ705)。スマートフォンスピーカ702を用いてBRIR測定を開始、実行した(プロシージャ707)後、測定したBRIRと計算した逆フィルタ振幅周波数応答を畳み込む(プロシージャ708)。プロシージャ708から生じる信号は、対応する目標周波数応答710に基づいて、ルームイコライザによって処理される(プロシージャ709)。プロシージャ709による信号は、対応する目標周波数応答712に基づいて、イヤホーンイコライザによって処理される(プロシージャ711)。プロシージャ711による信号は、N個のモノラル音声ファイル714(例えば、N=2ステレオ信号、N=6 5.1チャンネル信号またはN=8 7.1チャンネル信号)と畳み込まれ(プロシージャ713)、この畳み込みの結果が、イヤホーンに出力される(プロシージャ715)。
ヘッドフォンの仮想室内(HVR)システムは、イヤホーンを介したリスナーの部屋の情報を含めることなしに、バイノーラルコンテンツのレンダリングを意図している。リスナーは、オプションで、チェーンに仮想室を含むことができる。プロセスの概略を図13に示す。追加のビルディングブロックを以下に簡単に記載する。このプロセスは、図7〜図12に関連して前述したビルディングブロックも必要とする。残響除去装置や人工の残響付加装置等の追加のビルディングブロックのみを以下に記載する。
残響除去装置/平滑化:測定された室内インパルス応答が、不要なピークや谷を含む場合、不快な音響アーチファクトによって、音質を低下させる場合がある。部屋の情報を除くために、または、初期反射音及び後期反射音を除くために、(時間及び/またはスペクトル)窓関数技術を組み込むことができる。適用においては、図14に示すように、矩形窓とブラックマンハリス窓の組み合わせが用いられる。平滑化の前(1501)及び(1502)後の例示のBRIRを図15に示す。
人工の残響付加装置:前のブロックにおいて、全ての部屋関連情報を除いた。すなわち、窓関数(窓)の適用後、直接の情報のみ(例えば、両耳間時間差[ITD]及び両耳間レベル差[ILD])がBRIRに含まれる。よって、耳のすぐ近くに音源があるように感じられる。従って、距離情報を組み込む必要がある場合、人工の残響付加装置をオプションで使用してよい。任意の最先端の残響付加装置を、この目的で使用することができる。
図13から分かるように、残響除去プロシージャ1301及び人工の残響付加プロシージャ1302は、図7に示すプロセスのBRIR測定プロセス707とイヤホーン等化プロシージャ711との間に挿入される。さらに、部屋等化プロシージャ709と対応する目標振幅周波数応答710は、スペクトルバランシングプロシージャ1303と、対応する目標振幅周波数応答1304とに代えられてよい。所与の窓を用いた窓関数を掛けることを含み得る残響除去プロシージャ1301と、畳み込みプロシージャ708とは、逆フィルタ計算プロシージャ705の出力を受信し、畳み込みプロシージャ708は、イヤホーン等化プロシージャ711と畳み込みプロシージャ713との間に行われてよい。
この研究を通して、焦点は、BRIRの位相情報を壊すことではない。例示のBRIRの図16の振幅周波数応答、及び、図17の位相周波数応答を提供する。振幅周波数応答は、BRIRの鋭いピークと谷が、残響除去アルゴリズムの適用後、除かれていることを示している。位相応答は、残響除去後でさえ、位相情報がかなり保存されることを示している。正式でないリスニングでは、畳み込まれた音声の定位も破壊されていないことが分かった。図16において、グラフ1601は、イヤホーン等化後の振幅周波数応答を示し、グラフ1602は、部屋等化後の振幅周波数応答を示し、グラフ1603は、残響除去後の振幅周波数応答を示し、グラフ1604は、スマートフォン欠陥訂正後の振幅周波数応答を示す。図17において、グラフ1701は、イヤホーン等化後の位相周波数応答を示し、グラフ1702は、部屋等化後の位相周波数応答を示し、グラフ1703は、残響除去後の位相周波数応答を示し、グラフ1704は、スマートフォン欠陥訂正後の位相周波数応答を示す。
図18は、マイクロフォンとしての、例示のイヤホーン変換器の振幅周波数応答を示す。本明細書に記載のシステムは、消費者ユーザを対象とし得るので、イヤホーン変換器及びハウジングは、特に、マイクロフォンとして使用されてよい。パイロット実験においては、市販のインイヤイヤホーンをマイクロフォンとして使用して測定値を取得した。2Hzから20kHzにわたる掃引正弦波信号を無響室内のスピーカを通して再生した。イヤホーンカプセルは、スピーカから約1メートル離した。比較のため、基準測定システムを用いて基準測定値を取得した。測定値の振幅周波数応答を図18に示す。図18において、グラフ1801は、左チャンネル(1801)、右チャンネル(1802)、及び、基準測定(1803)の振幅周波数応答を示す。イヤホーンに対応する曲線の形状が、約1,000Hz〜9,000Hzの基準測定の曲線と類似していることがプロットから分かる。
発明の様々な実施形態を記載したが、発明の範囲内でより多くの実施形態及び実装が可能であることは当業者には明らかであろう。従って、発明は、添付の請求項及びその等価のものを考慮する以外は制限を受けない。

Claims (14)

  1. リスニング環境の第1の位置に内蔵スピーカを備えたモバイルデバイスと、前記リスニング環境の少なくとも1つの第2の位置に少なくとも1つのマイクロフォンを配置することと、
    前記リスニング環境の前記第1の位置の前記モバイルデバイスの前記ラウドスピーカからテスト音声コンテンツを発することと、
    前記リスニング環境の前記少なくとも1つの第2の位置の前記少なくとも1つのマイクロフォンを用いて前記ラウドスピーカが発した前記テスト音声コンテンツを受信することと、
    前記受信したテスト音声コンテンツに少なくとも部分的に基づいて、所望の音声コンテンツに少なくとも1つのイヤホーンによって再生する前に適用する1つまたは複数の調整を決定することと、
    を備える方法であって、
    前記第1の位置及び前記第2の位置は、互いに離れて、前記少なくとも1つのマイクロフォンが、前記ラウドスピーカの近距離場内にある、前記方法。
  2. 前記所望の音声コンテンツに適用する1つまたは複数の調整を決定することは、前記テスト音声コンテンツの前記受信した再生にスペクトル分析を行って、前記テスト音声コンテンツの前記受信した再生の周波数応答を提供することを含む、請求項1に記載の方法。
  3. 前記テスト音声コンテンツの前記受信した再生の周波数応答を目標周波数応答と比較することと、
    前記テスト音声コンテンツの前記受信した再生の前記周波数応答と目標周波数応答との比較に少なくとも部分的に基づいて、前記所望の音声コンテンツに適用する1つまたは複数の調整を決定することと、
    をさらに含む、請求項2に記載の方法。
  4. 前記少なくとも1つのマイクロフォンは、前記少なくとも1つのイヤホーン内若しくはイヤホーン上に配置される、または、前記少なくとも1つのインイヤイヤホーンによって提供される、先行請求項のいずれかに記載の方法。
  5. 前記少なくとも1つのイヤホーンは、リスナーの耳に差し込まれたインイヤイヤホーンである、先行請求項のいずれかに記載の方法。
  6. 前記少なくとも1つのイヤホーンは、前記少なくとも1つのイヤホーンをマイクロフォンとして使用する時、受信機周波数特性を有し、
    前記少なくとも1つのイヤホーンの前記周波数特性は、前記テスト音声コンテンツを受信する時、目標受信機周波数特性に基づいて、等化される、
    先行請求項のいずれかに記載の方法。
  7. 前記少なくとも1つのイヤホーンは、前記少なくとも1つのイヤホーンがスピーカとして使用される時、エミッタ周波数特性を有し、
    前記少なくとも1つのイヤホーンの前記エミッタ周波数特性は、前記所望の音声コンテンツを再生する時、目標エミッタ周波数特性に基づいて、等化される、
    先行請求項のいずれかに記載の方法。
  8. 第1のマイクロフォン及び第2のマイクロフォンをさらに備え、前記第1のマイクロフォンは、前記リスニング環境内のリスナーの片方の耳の近くの第1の位置に配置され、第2のマイクロフォンは、前記リスニング環境内の前記リスナーの他方の耳の近くの第1の位置に配置される、先行請求項のいずれかに記載の方法。
  9. 前記モバイルデバイスの前記ラウドスピーカは、ラウドスピーカ目的関数に基づいて等化される周波数特性を有する、先行請求項のいずれかに記載の方法。
  10. 前記少なくとも1つのマイクロフォンの前記周波数特性は、圧力室効果を使用または模倣することによって測定される、先行請求項のいずれかに記載の方法。
  11. 前記所望の音声コンテンツを前記少なくとも1つのイヤホーンによって再生する前に、前記所望の音声コンテンツへの前記調整の適用をさらに含む、先行請求項のいずれかに記載の方法。
  12. リスニング環境の第1の位置に配置された内蔵スピーカを備えるモバイルデバイスと、
    前記リスニング環境の少なくとも1つの第2の位置に配置された少なくとも1つのマイクロフォンと、
    を備えるシステムであって、前記モバイルデバイスは、
    前記リスニング環境の前記第1の位置で前記ラウドスピーカを介してテスト音声コンテンツを発し、
    前記リスニング環境の前記少なくとも1つの第2の位置で前記ラウドスピーカが発した前記テスト音声コンテンツを前記イヤホーンから受信し、
    前記受信した音声コンテンツに少なくとも部分的に基づいて、前記所望の音声コンテンツに前記イヤホーンによって再生される前に前記モバイルデバイスが適用する1つまたは複数の調整を決定するように、
    構成され、
    前記第1の位置及び前記第2の位置は互いに離れて、前記少なくとも1つのマイクロフォンが前記ラウドスピーカの近距離場内にある、
    前記システム。
  13. 前記モバイルデバイスは、モバイルフォン、スマートフォン、ファブレット、または、タブレットを含む、請求項12に記載のシステム。
  14. 前記少なくとも1つのマイクロフォンと前記モバイルデバイスとの間に接続された音声レコーダをさらに備え、前記音声レコーダは、前記モバイルデバイスによって制御され、前記音声レコーダは、前記マイクロフォンによって受信された前記テスト音声コンテンツを録音して、前記録音したテスト音声コンテンツを要求に応じて前記モバイルデバイスに送信するように構成された、請求項12または13に記載のシステム。
JP2017507406A 2014-09-24 2015-09-22 音声再生システム及び方法 Active JP6824155B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
EP14186097.3 2014-09-24
EP14186097.3A EP3001701B1 (en) 2014-09-24 2014-09-24 Audio reproduction systems and methods
PCT/EP2015/071639 WO2016046152A1 (en) 2014-09-24 2015-09-22 Audio reproduction systems and methods

Publications (2)

Publication Number Publication Date
JP2017532816A true JP2017532816A (ja) 2017-11-02
JP6824155B2 JP6824155B2 (ja) 2021-02-03

Family

ID=51619003

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017507406A Active JP6824155B2 (ja) 2014-09-24 2015-09-22 音声再生システム及び方法

Country Status (5)

Country Link
US (1) US10805754B2 (ja)
EP (1) EP3001701B1 (ja)
JP (1) JP6824155B2 (ja)
CN (1) CN106664497B (ja)
WO (1) WO2016046152A1 (ja)

Families Citing this family (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3001701B1 (en) 2014-09-24 2018-11-14 Harman Becker Automotive Systems GmbH Audio reproduction systems and methods
JP6561718B2 (ja) * 2015-09-17 2019-08-21 株式会社Jvcケンウッド 頭外定位処理装置、及び頭外定位処理方法
EP3446499B1 (en) * 2016-04-20 2023-09-27 Genelec OY Method for regularizing the inversion of a headphone transfer function
US10262672B2 (en) * 2017-07-25 2019-04-16 Verizon Patent And Licensing Inc. Audio processing for speech
US10206053B1 (en) * 2017-11-09 2019-02-12 Harman International Industries, Incorporated Extra-aural headphone device and method
FR3073659A1 (fr) * 2017-11-13 2019-05-17 Orange Modelisation d'ensemble de fonctions de transferts acoustiques propre a un individu, carte son tridimensionnel et systeme de reproduction sonore tridimensionnelle
CN108347686A (zh) * 2018-02-07 2018-07-31 广州视源电子科技股份有限公司 音频测试方法、装置、智能设备及存储介质
US10872602B2 (en) 2018-05-24 2020-12-22 Dolby Laboratories Licensing Corporation Training of acoustic models for far-field vocalization processing systems
CN110536199B (zh) * 2018-05-25 2024-09-03 宁波升亚电子有限公司 近耳式音响装置和音效再现方法
EP3837864A1 (en) 2018-08-17 2021-06-23 DTS, Inc. Adaptive loudspeaker equalization
US12010494B1 (en) * 2018-09-27 2024-06-11 Apple Inc. Audio system to determine spatial audio filter based on user-specific acoustic transfer function
CN111107481B (zh) 2018-10-26 2021-06-22 华为技术有限公司 一种音频渲染方法及装置
US11221820B2 (en) * 2019-03-20 2022-01-11 Creative Technology Ltd System and method for processing audio between multiple audio spaces
WO2020210249A1 (en) * 2019-04-08 2020-10-15 Harman International Industries, Incorporated Personalized three-dimensional audio
US11115765B2 (en) 2019-04-16 2021-09-07 Biamp Systems, LLC Centrally controlling communication at a venue
KR20210061696A (ko) * 2019-11-20 2021-05-28 엘지전자 주식회사 음향 입출력 장치의 검사 방법
EP3873105B1 (en) 2020-02-27 2023-08-09 Harman International Industries, Incorporated System and methods for audio signal evaluation and adjustment
CN112367602A (zh) * 2020-11-06 2021-02-12 歌尔科技有限公司 蓝牙耳机测试方法、系统、测试端及计算机可读存储介质
CN113709648A (zh) * 2021-08-27 2021-11-26 重庆紫光华山智安科技有限公司 一种麦克风扬声器协同测试方法、系统、介质及电子终端

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH01240099A (ja) * 1988-03-18 1989-09-25 Toa Tokushu Denki Kk スピーカの周波数特性補正装置
JPH05199596A (ja) * 1992-01-20 1993-08-06 Nippon Telegr & Teleph Corp <Ntt> 音場再生装置
JPH09327086A (ja) * 1996-06-07 1997-12-16 Seiji Hama スピーカーの音場補正方法及びスピーカーシステム並びに音響システム
JP2004128854A (ja) * 2002-10-02 2004-04-22 Matsushita Electric Ind Co Ltd 音響再生装置
JP2013031076A (ja) * 2011-07-29 2013-02-07 Toshiba Corp 情報処理装置および同装置の音響信号処理方法
JP2013247456A (ja) * 2012-05-24 2013-12-09 Toshiba Corp 音響処理装置、音響処理方法、音響処理プログラムおよび音響処理システム
WO2014002640A1 (ja) * 2012-06-29 2014-01-03 ソニー株式会社 映像音響装置

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001134272A (ja) 1999-11-08 2001-05-18 Takahiro Yamashita 音環境体感設備
US7483540B2 (en) * 2002-03-25 2009-01-27 Bose Corporation Automatic audio system equalizing
EP1570703A2 (en) * 2002-12-06 2005-09-07 Koninklijke Philips Electronics N.V. Personalized surround sound headphone system
EP1667487A4 (en) * 2003-09-08 2010-07-14 Panasonic Corp AUDIO PICTURE DEVICE DEVICE TOOL AND AUDIO PICTURE CONTROLLER
GB0419346D0 (en) * 2004-09-01 2004-09-29 Smyth Stephen M F Method and apparatus for improved headphone virtualisation
WO2007028094A1 (en) * 2005-09-02 2007-03-08 Harman International Industries, Incorporated Self-calibrating loudspeaker
US7756281B2 (en) * 2006-05-20 2010-07-13 Personics Holdings Inc. Method of modifying audio content
US8194874B2 (en) * 2007-05-22 2012-06-05 Polk Audio, Inc. In-room acoustic magnitude response smoothing via summation of correction signals
JP2011120028A (ja) 2009-12-03 2011-06-16 Canon Inc 音声再生装置、及びその制御方法
WO2013126603A1 (en) * 2012-02-21 2013-08-29 Intertrust Technologies Corporation Audio reproduction systems and methods
JP6085029B2 (ja) * 2012-08-31 2017-02-22 ドルビー ラボラトリーズ ライセンシング コーポレイション 種々の聴取環境におけるオブジェクトに基づくオーディオのレンダリング及び再生のためのシステム
RU2602346C2 (ru) 2012-08-31 2016-11-20 Долби Лэборетериз Лайсенсинг Корпорейшн Рендеринг отраженного звука для объектно-ориентированной аудиоинформации
US9319019B2 (en) * 2013-02-11 2016-04-19 Symphonic Audio Technologies Corp. Method for augmenting a listening experience
FR3009158A1 (fr) * 2013-07-24 2015-01-30 Orange Spatialisation sonore avec effet de salle
US9565497B2 (en) * 2013-08-01 2017-02-07 Caavo Inc. Enhancing audio using a mobile device
JP6442037B2 (ja) * 2014-03-21 2018-12-19 華為技術有限公司Huawei Technologies Co.,Ltd. 室内インパルス応答の少なくとも第1のペアに基づいて総ミキシング時間を推定する装置および方法、ならびに対応するコンピュータプログラム
EP3001701B1 (en) 2014-09-24 2018-11-14 Harman Becker Automotive Systems GmbH Audio reproduction systems and methods

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH01240099A (ja) * 1988-03-18 1989-09-25 Toa Tokushu Denki Kk スピーカの周波数特性補正装置
JPH05199596A (ja) * 1992-01-20 1993-08-06 Nippon Telegr & Teleph Corp <Ntt> 音場再生装置
JPH09327086A (ja) * 1996-06-07 1997-12-16 Seiji Hama スピーカーの音場補正方法及びスピーカーシステム並びに音響システム
JP2004128854A (ja) * 2002-10-02 2004-04-22 Matsushita Electric Ind Co Ltd 音響再生装置
JP2013031076A (ja) * 2011-07-29 2013-02-07 Toshiba Corp 情報処理装置および同装置の音響信号処理方法
JP2013247456A (ja) * 2012-05-24 2013-12-09 Toshiba Corp 音響処理装置、音響処理方法、音響処理プログラムおよび音響処理システム
WO2014002640A1 (ja) * 2012-06-29 2014-01-03 ソニー株式会社 映像音響装置

Also Published As

Publication number Publication date
CN106664497B (zh) 2021-08-03
US20170295445A1 (en) 2017-10-12
EP3001701A1 (en) 2016-03-30
WO2016046152A1 (en) 2016-03-31
JP6824155B2 (ja) 2021-02-03
CN106664497A (zh) 2017-05-10
EP3001701B1 (en) 2018-11-14
US10805754B2 (en) 2020-10-13

Similar Documents

Publication Publication Date Title
JP6824155B2 (ja) 音声再生システム及び方法
US10341799B2 (en) Impedance matching filters and equalization for headphone surround rendering
US7123731B2 (en) System and method for optimization of three-dimensional audio
US10257630B2 (en) Computer program and method of determining a personalized head-related transfer function and interaural time difference function
EP3103269B1 (en) Audio signal processing device and method for reproducing a binaural signal
US8855341B2 (en) Systems, methods, apparatus, and computer-readable media for head tracking based on recorded sound signals
US10652686B2 (en) Method of improving localization of surround sound
AU2001239516A1 (en) System and method for optimization of three-dimensional audio
CN113196805B (zh) 用于获得及再现双声道录音的方法
EP3847827A1 (en) Method and apparatus for processing an audio signal based on equalization filter
US20130243201A1 (en) Efficient control of sound field rotation in binaural spatial sound
Hládek et al. Communication conditions in virtual acoustic scenes in an underground station
US11653163B2 (en) Headphone device for reproducing three-dimensional sound therein, and associated method
WO2017134711A1 (ja) フィルタ生成装置、フィルタ生成方法、及び音像定位処理方法
JP2018139345A (ja) フィルタ生成装置、フィルタ生成方法、及びプログラム
Tan Binaural recording methods with analysis on inter-aural time, level, and phase differences

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180914

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20191018

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191028

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200128

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20200610

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201006

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20201006

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20201014

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20201015

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20201224

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210112

R150 Certificate of patent or registration of utility model

Ref document number: 6824155

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250