JP2017085362A - 立体音再生装置およびプログラム - Google Patents

立体音再生装置およびプログラム Download PDF

Info

Publication number
JP2017085362A
JP2017085362A JP2015212110A JP2015212110A JP2017085362A JP 2017085362 A JP2017085362 A JP 2017085362A JP 2015212110 A JP2015212110 A JP 2015212110A JP 2015212110 A JP2015212110 A JP 2015212110A JP 2017085362 A JP2017085362 A JP 2017085362A
Authority
JP
Japan
Prior art keywords
transfer function
peak
dimension
center frequency
bandwidth
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015212110A
Other languages
English (en)
Other versions
JP6730568B2 (ja
JP2017085362A5 (ja
Inventor
モクタリ パーハム
Mokhtari Parham
モクタリ パーハム
浩典 竹本
Hironori Takemoto
浩典 竹本
宏明 加藤
Hiroaki Kato
宏明 加藤
竜一 西村
Ryuichi Nishimura
竜一 西村
成悟 榎本
Seigo Enomoto
成悟 榎本
広志 安藤
Hiroshi Ando
広志 安藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
National Institute of Information and Communications Technology
Original Assignee
National Institute of Information and Communications Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by National Institute of Information and Communications Technology filed Critical National Institute of Information and Communications Technology
Priority to JP2015212110A priority Critical patent/JP6730568B2/ja
Publication of JP2017085362A publication Critical patent/JP2017085362A/ja
Publication of JP2017085362A5 publication Critical patent/JP2017085362A5/ja
Application granted granted Critical
Publication of JP6730568B2 publication Critical patent/JP6730568B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Stereophonic System (AREA)
  • Stereophonic Arrangements (AREA)

Abstract

【構成】 立体音再生装置(10)はプロセッサ(12)を含み、入力装置(24)で入力される耳介の特定の部位の寸法d1、d2、d3から、頭部伝達関数HRTFの第1ピークP1、P2、P3の中心周波数F1、F2、F3および帯域幅B1、B2、B3を推定し、さらに第1ノッチN1の中心周波数NF1および帯域幅NW1を推定し、それらに基づいて各伝達関数|H1(f)|、|H2(f)|、|H3(f)|、1/|NH1(f)|を求め、各伝達関数を加算することによって、全体のHRTFを計算する。HRTFに基づいて音源信号を畳み込み演算することによって、個人適応化された左右のバイノーラル信号を生成する。【効果】受聴者の耳介上の所要の寸法を計測するだけで個人適応化したバイノーラル信号を再生することができる。【選択図】 図1

Description

この発明は立体音再生装置およびプログラムに関し、特に、ヘッドホンまたはイヤホン(以下、まとめて「ヘッドホン」と呼ぶ。)を用いてバイノーラル(binaural)信号を再生する、立体音再生装置に関する。
人が2つの耳元における音圧変化だけで3次元的な広がりを知覚できるのは、到来した音波が複雑な形状をした耳で反射や回折することにより、方向に応じて異なる音色に変化することに起因する。この音色の変化を事前に信号処理で音信号に付与してヘッドホンで提示すれば、ヘッドホンをしているにも拘わらず、実際の臨場感をありのまま伝える音として知覚される。
このように、音源信号に頭部伝達関数(Head-Related Transfer Function:HRTF)を畳み込んだバイノーラル信号によって、ヘッドホン聴取において立体音響空間を再現することが、たとえば非特許文献1などで知られている。
平原,大谷,戸嶋,"頭部伝達関数の計測とバイノーラル再生にかかわる諸問題," Fundamentals Review, Vol.2, No.4, pp.68-85, 2009年4月
非特許文献1でも明らかなよう、耳の形状は人によって異なるので臨場感をありのまま再現するためには、その人に合った音色の変化を与えるフィルタで処理しなければならない。この適切なフィルタを選択あるいは生成する手続きは、「個人適応」と呼ばれ、簡便かつ高精度な手法が求められている。
非特許文献1のように、各人ごとに無響室で様々な方向から順番に音を提示し、耳に装着したマイクで録音することで、その人に合ったフィルタを求める手法もあるが、特殊な設備が必要なだけではなく、測定に時間がかかる。したがって、バイノーラル信号を再生する立体音再生装置の実現を容易にする手法が望まれていた。
それゆえに、この発明の主たる目的は、新規な、立体音再生装置およびプログラムを提供することである。
この発明の他の目的は、臨場感のある立体音の再現を容易にする、立体音再生装置およびプログラムを提供することである。
本発明は、上記の課題を解決するために、以下の構成を採用した。なお、括弧内の参照符号および補足説明等は、本発明の理解を助けるために後述する実施の形態との対応関係を示したものであって、本発明を何ら限定するものではない。
第1の発明は、ヘッドホンで立体音を再生する立体音再生装置であって、耳介の第1部位の寸法d1に基づいて第1ピークの中心周波数Fおよび帯域幅Bを推定する第1推定部、耳介の第2部位の寸法d2に基づいて第2ピークの中心周波数Fおよび帯域幅Bを推定する第2推定部、耳介の第3部位の寸法d3に基づいて第3ピークの中心周波数Fおよび帯域幅Bを推定する第3推定部、第1ピークの中心周波数Fおよび帯域幅Bに基づいて第1伝達関数を計算する第1計算部、第2ピークの中心周波数Fおよび帯域幅Bに基づいて第2伝達関数を計算する第2計算部、第3ピークの中心周波数Fおよび帯域幅Bに基づいて第3伝達関数を計算する第3計算部、少なくとも第1伝達関数、第2伝達関数および第3伝達関数を合成して、全体の頭部伝達関数を計算する頭部伝達関数計算部、および全体の頭部伝達関数に基づくフィルタで音源信号を畳み込み演算してバイノーラル信号を生成する生成部を備える、立体音再生装置である。
第1の発明では、立体音再生装置(10:実施例において相当する部分を例示する参照符号。以下、同じ。)は、プロセッサ(12)を含み、たとえばこのプロセッサが生成したバイノーラル音源信号をヘッドホン(22)で再生する。第1推定部、第2推定部および第3推定部(12)は、耳介の第1部位、第2部位および第3部位の寸法d1、d2およびd3に基づいて、それぞれ、第1ピーク、第2ピークおよび第3ピークのそれぞれの中心周波数F、FおよびFと帯域幅B、BおよびBを推定する。第1計算部、第2計算部および第3計算部(12)は、中心周波数F、FおよびFと帯域幅B、BおよびBに基づいて、第1伝達関数、第2伝達関数および第3伝達関数を計算し、頭部伝達関数計算部(12)は、第1伝達関数、第2伝達関数および第3伝達関数を並列加算または直列加算することによって、全体の頭部伝達関数を計算する。そして、生成部(22)は、全体の頭部伝達関数に基づくフィルタで音源信号を畳み込み演算してバイノーラル信号を生成する。そのバイノーラル信号がヘッドホンに供給される。
第1の発明によれば、人の耳介の所定部位の寸法を用いて個人適応化した頭部伝達関数を簡単に生成できるので、臨場感をありのままに再現する立体音再生装置の実現が容易である。
第2の発明は、第1の発明に従属し、第1ピークの中心周波数Fおよび第2ピークの中心周波数Fに基づいて第1ノッチの中心周波数NFを推定する第4推定部、および第1ノッチの中心周波数NFおよび帯域幅NBに基づいて第4伝達関数を計算する第4計算部をさらに備え、頭部伝達関数計算部は、第1伝達関数、第2伝達関数、第3伝達関数および第4伝達関数に従って頭部伝達関数を計算する、立体音再生装置である。
第2の発明では、第4推定部(12)は、たとえば第1ピークおよび第2ピークの中心周波数FとFを求め、2つの放射点の距離をd2、第2ピークPにおける2つの放射点の位相差をπ(逆相)とすることで、正中面における俯仰角と第1ノッチNの周波数NFの関係を求める。そして、第4計算部が第1ノッチの中心周波数NFおよび帯域幅NBに基づいて第4伝達関数を計算し、頭部伝達関数計算部は、第1伝達関数、第2伝達関数、第3伝達関数および第4伝達関数に従って頭部伝達関数を計算する。
第2の発明によれば、頭部伝達関数計算部が第1ノッチの第4伝達関数も考慮して頭部伝達関数を計算するので、音源の俯仰角を正確に再現することができる。
第3の発明は、第1または第2の発明に従属し、第1推定部は、数1に従って第1ピークの中心周波数Fおよび帯域幅Bを推定し、
[数1]
=5939−1030×d1
第2推定部は、数2に従って第2ピークの中心周波数Fおよび帯域幅Bを推定し、
[数2]
=12441−1647×d2
第3推定部は、数3に従って第3ピークの中心周波数Fおよび帯域幅Bを推定すし、
[数3]
=15341−3142×d3
寸法d1はコンカ深さであり、寸法d2は外耳道入口中心と耳輪下縁を結ぶ線分の長さであり、寸法d3は耳甲介腔床の最内点と耳甲介艇壁の最前点を結ぶ線分の正中面への正投射長さである、立体音再生装置である。
第4の発明は、第1または第2の発明に従属し、第1推定部は、耳介の第4部位の寸法d4および寸法d1に基づいて数14に従って第1ピークの中心周波数Fおよび帯域幅Bを推定し、
[数14]
=6461−758×d1−439×d4
第2推定部は、耳介の第5部位の寸法d5および寸法d2づいて数15に従って第2ピークの中心周波数Fおよび帯域幅Bを推定し、
[数15]
=12646−1333×d2−2239×d5
第3推定部は、耳介の第6部位の寸法d6および寸法d3に基づいて数16に従って第3ピークの中心周波数Fおよび帯域幅Bを推定し、
[数16]
=16445−2911×d3−1235×d6
寸法d1はコンカ深さであり、寸法d2は外耳道入口中心と耳輪下縁を結ぶ線分の長さであり、寸法d3は耳甲介腔床の最内点と耳甲介艇壁の最前点を結ぶ線分の正中面への正投射長さであり、寸法d4は腔甲介底面の最後点と対耳輪の最も横の面とを結ぶ線分の長さであり、寸法d5は耳甲介艇の基端における最横の点とであり、耳甲介艇の最上位縁とを水平方向に結ぶ線分の長さであり、寸法d6は耳甲介腔の最前点と耳輪前脚の珠間窩の縁と珠間窩から最も遠い耳輪の下縁上の点を結ぶ線と交差する点とを水平方向に結ぶ線分の長さである、立体音再生装置である。
第5の発明は、ヘッドホンで立体音を再生する立体音再生装置のプロセッサによって実行されるプログラムであって、プロセッサを、耳介の第1部位の寸法d1に基づいて第1ピークの中心周波数Fおよび帯域幅Bを推定する第1推定部、耳介の第2部位の寸法d2に基づいて従って第2ピークの中心周波数Fおよび帯域幅Bを推定する第2推定部、耳介の第3部位の寸法d3に基づいて第3ピークの中心周波数Fおよび帯域幅Bを推定する第3推定部、第1ピークの中心周波数Fおよび帯域幅Bに基づいて第1伝達関数を計算する第1計算部、第2ピークの中心周波数Fおよび帯域幅Bに基づいて第2伝達関数を計算する第2計算部、第3ピークの中心周波数Fおよび帯域幅Bに基づいて第3伝達関数を計算する第3計算部、少なくとも第1伝達関数、第2伝達関数および第3伝達関数を合成して、全体の頭部伝達関数を計算する頭部伝達関数計算部、および全体の頭部伝達関数に基づくフィルタで音源信号を畳み込み演算してバイノーラル信号を生成する生成部として機能させる、立体音再生装置のプログラムである。
第5の発明によっても、第1の発明と同様の効果が期待できる。
この発明によれば、個人適応化した頭部伝達関数を簡単に生成できるので、臨場感をありのままに再現する立体音再生装置の実現が容易である。
この発明の上述の目的,その他の目的,特徴および利点は、図面を参照して行う以下の実施例の詳細な説明から一層明らかとなろう。
図1はこの発明の一実施例の立体音再生装置の構成を示すブロック図である。 図2は正中面の頭部伝達関数と仰角の関係を示すグラフであり、縦軸が仰角[°]を示し、横軸が周波数[kHz]を示す。 図3は耳介の部位の位置および名称を示す概略図である。 図4は実施例において計測する人の耳介の形状の一例を示し、図4(a)が真横から見た図であり、図4(b)が後ろから見た図であり、図4(c)が前から見た図であり、図4(d)が上から見た図であり、図4(e)が下から見た図である。 図5は実施例で用いる耳介中の所定部位の寸法d1を示す図解図である。 図6は実施例で用いる耳介中の所定部位の寸法d2を示す図解図である。 図7は実施例で用いる耳介中の所定部位の寸法d3を示す図解図である。 図8は推定した第1ノッチを示すグラフである。 図9は個別の伝達関数を加算して全体の頭部伝達関数を求める方法の一例を示す図解図である。 図10は第1ノッチを乗算する前の頭部伝達関数を示すグラフである。 図11は図9の方法で求めた全体の頭部伝達関数を示すグラフである。 図12は個別の伝達関数を乗算して全体の頭部伝達関数を求める方法の他の例を示す図解図である。 図13は図12の方法で求めた全体の頭部伝達関数を示すグラフである。 図14は水平角(azimuth)と上昇角(elevation)を示す図で、水平角が0°の面が正中面である。 図15は第2の実施例で用いる耳介中の所定部位の寸法d4を示す図解図である。 図16は第2の実施例で用いる耳介中の所定部位の寸法d5を示す図解図である。 図17は第2の実施例で用いる耳介中の所定部位の寸法d6を示す図解図である。
図1を参照して、この実施例の立体音再生装置10は、基本的には、コンピュータで構成され、プロセッサ12およびこのプロセッサ12に音源信号を入力するための音源14を含む。この音源14は、コンピュータ内部に設けられた記憶媒体(HDD、RAMなど)や外部記憶媒体(光学ディスク、USBメモリなど)16であってもよいし、オンラインで取得する音源であってもよい。音源信号がディジタル音源信号の場合は図1に示す点線に従って、音源14からプロセッサ12に直接入力される。また、音源14からの音源信号がアナログ音源信号のときは、A/D変換器18によってディジタル音源信号に変換してプロセッサ12に入力すればよい。つまり、音源信号はディジタル音源信号であってもよいし、アナログ音源信号であってもよい。
音源14からA/D変換器18を介して読み込まれた音源信号データまたは音源14からそのまま入力された音源信号データに基づいてプロセッサ12が立体音データを生成し、その立体音データがD/A変換器20を経てヘッドホン22によって立体音として再生される。
この実施例の立体音再生装置10はさらに、入力装置24を備え、この入力装置24によって、後述する頭部伝達関数HRTFの第1ピークP1、P2およびP3にそれぞれ相関する受聴者の耳介の特定部位の測定データを入力する。
この実施例の立体音再生装置10では、入力装置24から入力された測定データに基づいて頭部伝達関数HRTF(または耳介伝達関数PRTF)を生成して、その頭部伝達関数HRTF(または耳介伝達関数PRTF)に基づくフィルタで音源信号を畳み込み演算することによって、個人適応化された左右のバイノーラル信号を生成する。
詳しく説明すると、図2に示すように、頭部伝達関数HRTFの低域には3つの主要なピークP、PおよびPがあり、最も周波数の低い第1ピークPの中心周波数Fは方向に依存せず、音量も大きい。第2ピークPおよび第3ピークPは、ともに耳介の表面に沿って垂直方向に生じる共鳴(vertical normal mode)に由来する。なお、図2においては、濃淡が振幅の大きさを示す。
図3は人の耳介(pinna)の解剖学における各部位の名称を示し、上記第2ピークPおよび第3ピークPを形成する縦方向に生じる共鳴は、カバム(cavum:耳甲介)、シンバ(cymba:耳甲介艇)およびフォッサ(fossa)における2つまたは3つの音圧の腹(pressure antinodes)を持つことが知られている。つまり、これらの耳介の部位が耳介共鳴に関係することは知られているが、具体的にどのように関係するかは究明されていない。そこで、この発明は、耳介の各部位がどのように各ピークP、PおよびPに関係するかを解明し、それに基づいて臨場感のある立体音を容易に再現できる方法を提供しようとするものである。
図4は、人の耳介の形状の一例を示し、図4(a)が真横から見た図であり、図4(b)が後ろから見た図であり、図4(c)が前から見た図であり、図4(d)が上から見た図であり、図4(e)が下から見た図である。図4において、「1」‐「18」、「C1」‐「C13」の黒点、白点がそれぞれのランドマーク(landmarks:目印)を示している。これらのランドマークの各番号の説明は次表1のとおりである。
[表1]
番号 説明
1 外耳道入口中心
2 腔甲介底面の最後点(外耳道より後で耳輪脚より下)
3 腔甲介壁上の最前点
4 腔甲介床上の最下点
5 耳殻壁上の最後点
6 耳輪脚(の底面)に沿った最少側部の点
7 耳甲介舟の底面における最少側部の点
8 珠上(または前)窩に近い側面の側
9 対輪の最横面
10 三角窩の後コーナーに近い対輪の縁(L15)
11 耳甲介舟の上縁
12 耳甲介舟壁上の最前点
13 対輪の下脚に沿った最少側部の点
14 三角窩の底面における最少側部の点
15 三角窩の上コーナー
16 三角窩の上コーナー
17 耳輪の下縁に沿った最上点
18 舟状窩の最上点
C1 C12とC13を結ぶ線に垂直に見たときの腔甲介の最も深い部分
C2 珠間窩の縁
C3 甲介孔に垂直に見たときの耳輪脚とC2C5を結ぶ線との交点
C4 甲介孔に垂直に見たときの対耳輪脚とC2C5を結ぶ線との交点
C5 珠間窩(C2)から最遠の耳輪の下縁上の点
C6 珠上(または前部)窩の縁に沿った最前点
C7 対耳輪の縁に沿った後ろの下のコーナー
C8 耳介の主軸に沿った最下の耳たぶ上の点
C9 C8‐C10軸から最遠の耳輪上の点
C10 耳介の主軸に沿った最上の耳輪上の点
C11 C8‐C10軸から最遠の耳輪の縁の上の点
C12 耳珠の最も横の面
C13 対耳輪の最も横の面
上記の各ランドマークの内、第1の実施例に関係あるランドマークとして、「2」は腔甲介底面の最後点(外耳道より後で耳輪脚より下):posterior-most of cavum concha base (posterior to ear-canal entrance and inferior to crus helix)であり、「9」は対輪の最横面(most lateral surface of antitragus)であり、「1」はカナルセンタ(center of ear-canal at its entrance:外耳道入口中心)であり、「4」はカバムコンカ床(cavum concha floor:耳甲介腔床)の最内点であり、「12」はシンバ壁(cymba wall:耳甲介艇壁)の最前点であり、そして「17」はヘリックス下縁(lower rim of helix:耳輪下縁)に沿う最上位点である。
発明者等は、耳介の各部位および各部位間のおよそ3255箇所もの距離の丹念な計測と、それに基づく実験を繰り返した結果、図2に示す各ピークP、PおよびPの中心周波数F、F、Fが、それぞれ、図5に示すような、ランドマーク2とランドマーク9を結ぶ線分の水平面に対する投影距離すなわちコンカ深さd1、図6に示すような、ランドマーク1とランドマーク17を結ぶ線分の長さd2、図7に示すような、ランドマーク4とランドマーク12を結ぶ線分の正中面への正投射長さ(投射長さ)d3と強い相関があることを確認した。
なお、以下に説明するすべての推定や計算は、図1に示すプロセッサ12の内部メモリや外部記憶媒体16に予め設定されているプログラム(図示せず)に従って実行され、その目的で、各数式はそのプログラム中に適宜設定されているということを予め理解されたい。
各ピークの推定
実施例では、発明者等が実験を通じて取得した数1、数2および数3の回帰式に従って、図2に示す第1ピークP、第2ピークPおよび第3ピークPの中心周波数F、FおよびF(Hz)を推定する。なお、寸法d1、d2およびd3は、いずれも、(cm)である。
また、上記各寸法d1、d2およびd3は、次のようにして取得することができる。たとえば、キャリパー(皮脂厚計)を用いて耳介上の各寸法d1、d2およびd3を計測する。そして、その計測結果を、たとえば図1に示す入力装置24から、適宜入力する。ただし、寸法d3は、寸法d1およびd2のような3次元長さではなく、たとえば図7における紙面上の長さ、すなわち矢状面(sagittal)の長さである。
なお、後述の各寸法d4‐d6もこの方法で計測することができるが、これら寸法d1‐d6の計測方法としては、任意の方法、たとえば対象となる耳介のMRI画像を取得し、その画像上で計測する方法なども採用されてよい。
[数1]
=5939−1030×d1
[数2]
=12441−1647×d2
[数3]
=15341−3142×d3
発明者等の実験では、数1の相関係数rは、r=0.81であり、MAE(平均絶対誤差)はMAE=118Hz(6.0%)である。数2では、r=0.79であり、MAE=332Hz(5.8%)であり、数3では、r=0.83であり、MAE=321Hz(4.3%)であった。
さらに、第1ピークPの振幅A(dB)は、同じように発明者等が実験を通じて取得した数4の回帰式から求めることができる。
[数4]
=4.32+7.5×d1
なお、第1ピークPにおける、コンカ深さd1に基づいて中心周波数Fおよび振幅Aを求めるための数1および数4は、J. Acoust. Soc. Am. 137 (2), February 2015で本件発明者等が発表した論文「Frequency and amplitude estimation of the first peak of head-related transfer functions from individual pinna anthropometry」(個々の耳介の計測からの頭部伝達関数の第1ピークの周波数および振幅の推定)に詳しく説明されているので、ここではそれ以上の説明は省略する。
数1で求めた第1ピークPの中心周波数Fおよび数4で求めた振幅Aから、数5に従って、フィルタ方程式(|H(f)|:後述)に適用可能な第1ピークPの帯域幅Bを計算することができる。
[数5]
=F/A
ただし、数5での振幅Aの単位は、dBではなく、1次系単位(linear units)である。
なお、第2ピークPおよび第3ピークPの帯域幅BおよびBは、便宜上、B=Bとし、B=k・Bとする。ただし、ここでの係数kはk≒0.7とした。したがって振幅AはAよりおよそ3dB高い。
第1ノッチの推定
後述のフィルタ方程式|H(f)|を適用するためには、第1ピークP、第2ピークPおよび第3ピークPの、中心周波数F、FおよびFおよび帯域幅B、BおよびBの他、第1ノッチNの中心周波数NFおよび帯域幅NBを求める必要がある。ただし、図2においては、第1ノッチNは太い破線で表わされていて、俯仰角(θ)に応じて変化することがわかる。
2013年9月発行の日本音響学会講演論文集における「正中面の耳介伝達関数における第1ノッチが生じる仰角と周波数の関係」と題する本件発明者等の論文では、耳介上に2つの放射点を仮定し、その2つの放射点の距離と、第1ピークPおよび第2ピークPの周波数FおよびFと、第2ピーク周波数Fにおける2つの放射点の位相差を適当に与えることによって、正中面における俯仰角と第1ノッチNの周波数NFを定式化できることを示している。
たとえば、第1ピークPおよび第2ピークPの周波数FとFを数1と数2で求め、2つの放射点の距離をd2、2つの放射点の位相差は第1ピークPの周波数Fでは0、第2ピークPの周波数Fではπ(逆相)と近似することで、正中面における俯仰角と第1ノッチNの周波数NFの関係を求めることができる。
上記の論文中の8式の
は2つの放射点の位相差であるが、この明細書中でθは俯仰角としているので、位相差を
に変更して、以下説明する。また、位相差は、第1ピークPの周波数Fでは0、第2ピークPの周波数Fではπとなる1次式で表されると仮定する。すなわち、数6となる。
論文中の8式の直線の傾きはtanθだから、数7が得られる。
ここで、kは波数なので、音速を
、第1ノッチNの周波数をfとすると、k=2πf/cである。なお、論文中の8式の分子はπ‐φであるが、本明細書中の俯仰角に合わせて符号を変更している。さらに、論文中の8式では、2つの放射点の距離を2dで表しているが、2d=d2とし、数7を第1ノッチN1の周波数fについて解くと、数8となる。
たとえば、図8は、d2=2.8cm、F=4000Hz、F=6000Hzとしたときの第1ノッチ周波数の推定図である。この図は、先の図2において太い点線で表したノッチパターンにきわめてよく似たパターンを得ることができる。
第1ノッチNの帯域幅NBは、上述の俯仰角θに応じて、θが小さければ狭く、大きければ広くなるが、ここでは500Hzとする。
個々の伝達関数の生成
このようにして、耳介の特定部位の寸法d1、d2およびd3の値を入力することで、数9または数10で示すフィルタ方程式|H(f)|(ここで、nは次数)に必要なすべてのパラメータが求められる。したがって、それらのパラメータを数9または数10に適用することによって、それぞれのピークP、PおよびPを含む伝達関数を計算することができる。
ここで、fは周波数であり、s=σ+jωは複素周波数変数であり、下添字「n」は共鳴の次数(すなわち、n次のスペクトルのピーク)を示し、上添字「*」は複素共役を意味する。中心周波数Fと帯域幅Bは標準的な関係ω=2πFおよびσ=-πBによって数9の「s」と関係する。そのために、共鳴周波数と帯域幅の点から、フィルタ方程式は次のようになる。
もし、周波数および振幅(帯域幅ではなく)だけが特定されるなら、この方程式も使える。なぜなら1つの共鳴に関して言えば、ピークの振幅A(dBではなく、一次系単位)が、Q値のための式A=F/Bによって、中心周波数と帯域幅に関係付けられるからである。
なお、ノッチについても、上記の数9および数10を用いて、伝達関数|NH(f)|を計算することができる。たとえば、第1ノッチNの中心周波数NF(仰角に依存する)および帯域幅NBを上記の同じフィルタ方程式に入力することによって、結果の振幅スペクトル|NH(f)|が計算できる。
全体の伝達関数
上では、1つの共鳴(1つのピーク)の振幅スペクトルを計算するだけであるので、複数の共鳴を考慮した全体の振幅スペクトルを計算するためは、個別のスペクトルを足し算する必要がある。実施例では、図9のように3つの伝達関数|H(f)|、|H(f)|および|H(f)|をまず、数11に従って加算するとともに、先に計算した第1ノッチN1の伝達関数|NH(f)|を逆数(1/|NH(f)|)として乗算することによって、全体の伝達関数が計算できる。
[数11]
|H(f)|=Sum{|H(f)|}+1/|NH(f)|
パラメータF=4000Hz、F=6000Hz、F=8000Hz、B=565Hz、B=848Hz、B=800Hz、NF=5000Hz、NB=89Hzを入力したときの全体の伝達関数の例が図10に示される。点線は、各共鳴を別々に示す対数スペクトルであり、点線h1が第1ピークPの伝達関数|H(f)|を示し、点線h2が第2ピークPの伝達関数|H(f)|を示し、点線h3が第3ピークPの伝達関数|H(f)|を示す。細線が3つの伝達関数|H(f)|、|H(f)|および|H(f)|を加算した(第1ノッチNの伝達関数は考慮しないとき)対数スペクトルであり、それは、個々の振幅スペクトルを加算した後対数に変換することによって得られる。太線は、直流を0dBとするように、細線で示す全体の対数スペクトルをシフトした対数スペクトルすなわち第1ノッチN1の伝達関数|NH(f)|加算する前の伝達関数H’を示す。そして、図11において点線Nhで示すような第1ノッチNの伝達関数|NH(f)|を逆数として乗算すると、図11において太線Hで示すような、第1ノッチNを考慮した、図9の計算で得られる全体の頭部伝達関数|H(f)|が得られる。それを対数スペクトルで表わすと、数12となる。
[数12]
20log10|H(f)|+20log10{1/|HN(f)|}=20log10{|H(f)|/|H(f)|}
なお、第2以降の次数のノッチをも考慮する必要があれば、第1ノッチNの伝達関数H(f)を逆数で加算した方法と同じ方法を繰り返して実行すればよい。
図9の方法では、第1ピークPの伝達関数|H(f)|、第2ピークPの伝達関数|H(f)|および第3ピークPの伝達関数|H(f)|を並列加算した結果に第1ノッチNの伝達関数|NH(f)|の逆数1/|NH(f)|を乗算して、図11の太線Hで示すような全体の頭部伝達関数HRTF求めた。
これに対して、図12に示す方法では、第1ピークPの伝達関数|H(f)|、第2ピークPの伝達関数|H(f)|、第3ピークPの伝達関数|H(f)|および第1ノッチNの伝達関数|NH(f)|の逆数1/|NH(f)|を直列乗算ないしカスケード乗算する。
パラメータF=4000Hz、F=6000Hz、F=8000Hz、B=400Hz、B=600Hz、B=566Hz、NF=5000Hz、NB=89Hzを入力したときの、図12で計算した全体の伝達関数の例が図13に示される。点線は、各共鳴を別々に示す対数スペクトルであり、点線h1が第1ピークPの伝達関数|H(f)|を示し、点線h2が第2ピークPの伝達関数|H(f)|を示し、点線h3が第3ピークPの伝達関数|H(f)|を示し、点線Nhが第1ノッチNの伝達関数|NH(f)|を示す。これらを直列加算した結果得られた全体の頭部伝達関数|H(f)|が太線Hで示され、計算式が数13で表わされる。
ここで、Πは総積であり、Hは各ピークの伝達関数、NHは各ノッチの伝達関数であり、nは次数である。
正中面での頭部伝達関数
数12または数13で計算した伝達関数に基づいて、仰角(θ)の範囲に亘る伝達関数を計算する。上述のように、俯仰角θに応じて各ノッチを計算し、そのノッチで数12または数13を計算することによって、図14に示す正中面での頭部伝達関数HRTFが計算できる。
バイノーラル音源の作成
上述のようにして求めた頭部伝達関数HRTFの逆高速フーリエ変換によって得られる左耳および右耳のHRIR(インパルス応答)で、図1に示す音源14から直接またはA/D変換器16を通して入力された音源信号を畳み込み演算することによって、個人適応化された左右のバイノーラル信号が生成できる。
第2の実施例においては、先に説明した第1の実施例で寸法d1、d2、d3を計測した各点に加えて、図4における各点を用いる。上記の各ランドマークの内、第2の実施例に関係あるランドマークとして、「2」は先に説明した腔甲介底面の最後点であり、「C13」は対耳輪の最も横の面(most lateral surface of antihelix)であり、「1」はカナルセンタ(center of ear-canal at its entrance:外耳道入口中心)であり、「4」はカバムコンカ床(cavum concha floor:耳甲介腔床)の最内点であり、「12」はシンバ壁(cymba wall:耳甲介艇壁)の最前点であり、そして「17」はヘリックス下縁(lower rim of helix:耳輪下縁)に沿う最上位点である。「7」はシンバベース(base of cymba:耳甲介艇の基端)における最横の点であり、「11」シンバの最上位縁であり、「3」は、カバムコンカ(cavum concha:耳甲介腔)の最前点、そして「C3」はクラスヘリックス(crus helix:耳輪前脚)のインタートラジックノッチ(intertragic notch:珠間窩)の縁C2と珠間窩から最も遠いヘリックス下縁(lower rim of helix:耳輪下縁)上の点C5を結ぶ線と交差する点である。
そして、第1ピークP1の中心周波数Fを求める回帰式において、図15に示す寸法d4を用いる。寸法d4は、ランドマーク2とランドマークC13を結ぶ線分の長さである。この寸法d4を先の寸法d1とともに用いて第1ピークPの中心周波数Fを求める回帰式が数14で与えられる。ただし、この数14の回帰式では、相関係数r=0.84であり、平均絶対誤差MAE=118Hz(6.0%)であった。
[数14]
=6461−758×d1−439×d4
第2ピークPの中心周波数Fを求める回帰式において、図16に示す寸法d5を用いる。寸法d5は、ランドマーク7とランドマーク11を水平方向に結ぶ線分の長さである。この寸法d5を先の寸法d2とともに用いて第2ピークPの中心周波数Fを求める回帰式が数15で与えられる。ただし、この数15の回帰式では、相関係数r=0.89であり、平均絶対誤差MAE=257Hz(4.4%)であった。
[数15]
=12646−1333×d2−2239×d5
同じように、第3ピークPの中心周波数Fを求める回帰式において、図17に示す寸法d6を用いる。寸法d6は、ランドマーク3とランドマークC3を水平方向に結ぶ線分の長さである。この寸法d6を先の寸法d3とともに用いて第3ピークPの中心周波数Fを求める回帰式が数16で与えられる。ただし、この数16の回帰式においては、相関係数r=0.92であり、平均絶対誤差MAE=247Hz(3.2%)であった。
[数16]
=16445−2911×d2−1235×d5
なお、上述の寸法d4‐d6も、寸法d1‐d3と同様に、[cm]の単位で表わされる。
数14を用いた場合、第1の実施例における先の数1を用いた場合に比べて、第1ピークの中心周波数Fの推定精度が向上するし、数15を用いた場合、先の数2を用いた場合に比べて、第2ピークの中心周波数Fの推定精度が向上するし、数16を用いた場合、先の数3を用いた場合に比べて、第3ピークの中心周波数Fの推定精度が向上する。したがって、第2の実施例においては、第1の実施例に比べて、一層精度よく頭部伝達関数HRTFを求めることができる。そのため、バイノーラル音源信号の個人適応化が一層向上する。
横方向伝達関数のためのITDおよびILD
上で説明したように、バイノーラル音源信号は、図14に示すような正中面上の音源として作成する。しかしながら、第1の実施例および第2の実施例のいずれにおいても、正中面から外れた音源(横方向左または右に位置する)を所望するなら、伝達関数HRTFセットにバイノーラルキュー(binaural cue)を含ませなければならない。このようなバイノーラルキューは、基本的には、モノラル(正面)キューとは独立している。したがって、第1の近似のために、すべての図14に示す水平角(アジマス:azimuth)φにおける両耳間時間差(ITD)および両耳間レベル差(ILD)とともに、上で計算した正中面の頭部伝達関数HRTFの同じセットがすべての傍矢状平面(para-sagittal plane)において使われる。
ITD
最も簡単な解決策は、ウッドワース(Woodworth)のモデルに基づく数16に従って周波数から独立したITDを計算することである。
[数17]
ITD(φ)=(a/c)×{φ+sin(φ)}
ここで、csは空気中での音速、aは受聴者の頭の半径、アジマス角φは、図14に示すように、正中面ではφ=0であり、同側側(ipsilateral side)ではφ>0で、対側側(contralateral side)でφ<0である。
なお、数17でのアジマス角φは、図1に示す入力装置24から適宜入力することができる。
個人適応化した頭部半径a(cm)は、アルガジ(Algazi)が発見した、最適球状頭モデルに従って推定できる(数18)。
[数18]
a=0.51X+0.18X+3.2
ここで、Xは頭部の半分の幅(頭部の左から右の半分)であり、Xは、頭部の半分長さ(頭部の後ろからほぼ眉への距離の半分)である。ただし、数18で必要な半分幅Xおよび半分長さXは、図1に示す入力装置24から適宜入力することができる。
このような両耳間時間差ITDは、頭部伝達関数HRTFのどれかを修正するかまたは時間領域におけるインパルス応答HRIRを単純に遅らせることによって、一方の耳の応答の、反対の耳の応答に対する遅れとして実現できる。
ILD
ILDについての最も簡単な解決策は、たとえば数19に従って、アジマス角にのみ依存する周波数から独立した値を計算することである。
[数19]
ILD(φ)=ILDmax×sin(φ)
ここで、ILDmax≒15dBである。このような両耳間レベル差ILDは、一方の耳の頭部伝達関数HRTFの全体のレベルを反対の耳のそれらに対して修正することで、実現できる。
なお、上述の実施例では、対象の人の耳介上の寸法d1‐d6を人為的に計測し、それに基づいて各数式に必要な数値を入力装置24から手動的に入力するようにしたが、寸法d1‐d6のすべてまたは一部をたとえばMRI画像上で機械的に計測し、その結果を自動的に入力するようにしてもよい。さらに、MRIに限ることなく、各寸法d1、d2およびd3は、耳介をディジタルカメラ等で複数方向から撮影して耳介の三次元形状を推定することにより得ることも可能である
さらに、上述の各実施例では、ノッチの伝達関数を(逆数で)加算することによって、俯仰角θを考慮したバイノーラル音源信号を再現するようにした。しかしながら、俯仰角を考慮する必要がないなら、たとえば数12または数13においてノッチの伝達関数を使わなくてもよい。
なお、以上の説明では右耳(もしくは左耳)のみに関してのみ説明したが、これをそのまま左耳(もしくは右耳)に適用できることは言うまでもない。また、右耳の測定データだけを使って、右耳の頭部伝達関数HRTFだけでなく左耳の頭部伝達関数HRTFを作成することもできる。
しかしながら、人の耳の左右の違いがかなりあることを考慮すれば、両方の耳介について同じ方法で頭部伝達関数HRTFをそれぞれ求めて、左右別々のバイノーラル音源信号を再生することが望ましい。
実施例においては、上で説明した数1‐数19および図9に示す計算ならびに図12に示す計算も含んで、すべての計算は図1に示すプロセッサ12が実行するものとして説明した。しかしながら、必要なら別の計算手段が利用されてもよい。
10 …立体音再生装置
12 …プロセッサ
14 …音源
18 …ヘッドホン
24 …入力装置

Claims (5)

  1. ヘッドホンで立体音を再生する立体音再生装置であって、
    耳介の第1部位の寸法d1に基づいて第1ピークの中心周波数Fおよび帯域幅Bを推定する第1推定部、
    耳介の第2部位の寸法d2に基づいて第2ピークの中心周波数Fおよび帯域幅Bを推定する第2推定部、
    耳介の第3部位の寸法d3に基づいて第3ピークの中心周波数Fおよび帯域幅Bを推定する第3推定部、
    前記第1ピークの中心周波数Fおよび帯域幅Bに基づいて第1伝達関数を計算する第1計算部、
    前記第2ピークの中心周波数Fおよび帯域幅Bに基づいて第2伝達関数を計算する第2計算部、
    前記第3ピークの中心周波数Fおよび帯域幅Bに基づいて第3伝達関数を計算する第3計算部、
    少なくとも前記第1伝達関数、前記第2伝達関数および前記第3伝達関数を合成して、全体の頭部伝達関数を計算する頭部伝達関数計算部、および
    前記全体の頭部伝達関数に基づくフィルタで音源信号を畳み込み演算してバイノーラル信号を生成する生成部を備える、立体音再生装置。
  2. 前記第1ピークの中心周波数Fおよび前記第2ピークの中心周波数Fに基づいて第1ノッチの中心周波数NFを推定する第4推定部、および
    前記第1ノッチの中心周波数NFおよび帯域幅NBに基づいて第4伝達関数を計算する第4計算部をさらに備え、
    前記頭部伝達関数計算部は、前記第1伝達関数、前記第2伝達関数、前記第3伝達関数および前記第4伝達関数に従って前記頭部伝達関数を計算する、請求項1記載の立体音再生装置。
  3. 前記第1推定部は、数1に従って前記第1ピークの前記中心周波数Fおよび前記帯域幅Bを推定し、
    [数1]
    =5939−1030×d1
    前記第2推定部は、数2に従って前記第2ピークの前記中心周波数Fおよび前記帯域幅Bを推定し、
    [数2]
    =12441−1647×d2
    前記第3推定部は、数3に従って前記第3ピークの前記中心周波数Fおよび前記帯域幅Bを推定し、
    [数3]
    =15341−3142×d3
    前記寸法d1はコンカ深さであり、前記寸法d2は外耳道入口中心と耳輪下縁を結ぶ線分の長さであり、前記寸法d3は耳甲介腔床の最内点と耳甲介艇壁の最前点を結ぶ線分の正中面への正投射長さである、請求項1または2記載の立体音再生装置。
  4. 前記第1推定部は、耳介の第4部位の寸法d4および前記寸法d1に基づいて数14に従って第1ピークの中心周波数Fおよび帯域幅Bを推定し、
    [数14]
    =6461−758×d1−439×d4
    前記第2推定部は、耳介の第5部位の寸法d5および前記寸法d2づいて数15に従って第2ピークの中心周波数Fおよび帯域幅Bを推定し、
    [数15]
    =12646−1333×d2−2239×d5
    前記第3推定部は、耳介の第6部位の寸法d6および前記寸法d3に基づいて数15に従って第3ピークの中心周波数Fおよび帯域幅Bを推定し、
    [数16]
    =16445−2911×d2−1235×d5
    前記寸法d1はコンカ深さであり、前記寸法d2は外耳道入口中心と耳輪下縁を結ぶ線分の長さであり、前記寸法d3は耳甲介腔床の最内点と耳甲介艇壁の最前点を結ぶ線分の正中面への正投射長さであり、前記寸法d4は腔甲介底面の最後点と対耳輪の最も横の面とを結ぶ線分の長さであり、前記寸法d5は耳甲介艇の基端における最横の点とであり、耳甲介艇の最上位縁とを水平方向に結ぶ線分の長さであり、前記寸法d6は耳甲介腔の最前点と耳輪前脚の珠間窩の縁と珠間窩から最も遠い耳輪の下縁上の点を結ぶ線と交差する点とを水平方向に結ぶ線分の長さである、請求項1または2記載の立体音再生装置。
  5. ヘッドホンで立体音を再生する立体音再生装置のプロセッサによって実行されるプログラムであって、前記プロセッサを、
    耳介の第1部位の寸法d1に基づいて第1ピークの中心周波数Fおよび帯域幅Bを推定する第1推定部、
    耳介の第2部位の寸法d2に基づいて従って第2ピークの中心周波数Fおよび帯域幅Bを推定する第2推定部、
    耳介の第3部位の寸法d3に基づいて第3ピークの中心周波数Fおよび帯域幅Bを推定する第3推定部、
    前記第1ピークの中心周波数Fおよび帯域幅Bに基づいて第1伝達関数を計算する第1計算部、
    前記第2ピークの中心周波数Fおよび帯域幅Bに基づいて第2伝達関数を計算する第2計算部、
    前記第3ピークの中心周波数Fおよび帯域幅Bに基づいて第3伝達関数を計算する第3計算部、
    少なくとも前記第1伝達関数、前記第2伝達関数および前記第3伝達関数を合成して、全体の頭部伝達関数を計算する頭部伝達関数計算部、および
    前記全体の頭部伝達関数に基づくフィルタで音源信号を畳み込み演算してバイノーラル信号を生成する生成部
    として機能させる、立体音再生装置のプログラム。
JP2015212110A 2015-10-28 2015-10-28 立体音再生装置およびプログラム Active JP6730568B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015212110A JP6730568B2 (ja) 2015-10-28 2015-10-28 立体音再生装置およびプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015212110A JP6730568B2 (ja) 2015-10-28 2015-10-28 立体音再生装置およびプログラム

Publications (3)

Publication Number Publication Date
JP2017085362A true JP2017085362A (ja) 2017-05-18
JP2017085362A5 JP2017085362A5 (ja) 2019-05-09
JP6730568B2 JP6730568B2 (ja) 2020-07-29

Family

ID=58713365

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015212110A Active JP6730568B2 (ja) 2015-10-28 2015-10-28 立体音再生装置およびプログラム

Country Status (1)

Country Link
JP (1) JP6730568B2 (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019083515A (ja) * 2017-10-05 2019-05-30 ジーエヌ ヒアリング エー/エスGN Hearing A/S 音源定位バイノーラル聴覚システム
JP2020170938A (ja) * 2019-04-03 2020-10-15 アルパイン株式会社 頭部伝達関数学習装置および頭部伝達関数推論装置
WO2021048974A1 (ja) * 2019-09-12 2021-03-18 日本電気株式会社 情報処理装置、情報処理方法及び記憶媒体
JP2021184588A (ja) * 2020-05-22 2021-12-02 学校法人千葉工業大学 頭部伝達関数生成装置、頭部伝達関数生成プログラム及び頭部伝達関数生成方法
US11337021B2 (en) 2020-05-22 2022-05-17 Chiba Institute Of Technology Head-related transfer function generator, head-related transfer function generation program, and head-related transfer function generation method

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019083515A (ja) * 2017-10-05 2019-05-30 ジーエヌ ヒアリング エー/エスGN Hearing A/S 音源定位バイノーラル聴覚システム
US11438713B2 (en) 2017-10-05 2022-09-06 Gn Hearing A/S Binaural hearing system with localization of sound sources
JP2020170938A (ja) * 2019-04-03 2020-10-15 アルパイン株式会社 頭部伝達関数学習装置および頭部伝達関数推論装置
JP7206027B2 (ja) 2019-04-03 2023-01-17 アルパイン株式会社 頭部伝達関数学習装置および頭部伝達関数推論装置
WO2021048974A1 (ja) * 2019-09-12 2021-03-18 日本電気株式会社 情報処理装置、情報処理方法及び記憶媒体
JPWO2021048974A1 (ja) * 2019-09-12 2021-03-18
JP7239007B2 (ja) 2019-09-12 2023-03-14 日本電気株式会社 情報処理装置、情報処理方法及び記憶媒体
US11937040B2 (en) 2019-09-12 2024-03-19 Nec Corporation Information processing device, information processing method, and storage medium
JP2021184588A (ja) * 2020-05-22 2021-12-02 学校法人千葉工業大学 頭部伝達関数生成装置、頭部伝達関数生成プログラム及び頭部伝達関数生成方法
US11337021B2 (en) 2020-05-22 2022-05-17 Chiba Institute Of Technology Head-related transfer function generator, head-related transfer function generation program, and head-related transfer function generation method

Also Published As

Publication number Publication date
JP6730568B2 (ja) 2020-07-29

Similar Documents

Publication Publication Date Title
US9961474B2 (en) Audio signal processing apparatus
US10142761B2 (en) Structural modeling of the head related impulse response
US8270616B2 (en) Virtual surround for headphones and earbuds headphone externalization system
US20190200159A1 (en) Audio signal processing method and apparatus for binaural rendering using phase response characteristics
JP6730568B2 (ja) 立体音再生装置およびプログラム
JP6454027B2 (ja) バイノーラルレンダリングのためのオーディオ信号処理装置及びその方法
RU2513910C2 (ru) Работающее в зависимости от угла устройство или способ получения псевдостереофонического аудиосигнала
RU2540774C2 (ru) Способ и устройство для воспроизведения стереофонического звука
WO2005025270A1 (ja) 音像制御装置の設計ツールおよび音像制御装置
Zhong et al. Head-related transfer functions and virtual auditory display
Oreinos et al. Objective analysis of ambisonics for hearing aid applications: Effect of listener's head, room reverberation, and directional microphones
EP2206364A1 (en) A method for headphone reproduction, a headphone reproduction system, a computer program product
Kates et al. Externalization of remote microphone signals using a structural binaural model of the head and pinna
JP2017085362A5 (ja)
EP3700233A1 (en) Transfer function generation system and method
Lee et al. HRTF measurement for accurate sound localization cues
Inoue et al. Evaluation of HRTFs estimated using physical features
JP5651813B1 (ja) 音声信号処理装置、および音声信号処理方法
CN108966110B (zh) 声音信号处理方法、装置及系统、终端及存储介质
JP6556682B2 (ja) 立体音響信号再生装置、立体音響信号再生方法及び立体音響信号再生プログラム
Romigh et al. The role of spatial detail in sound-source localization: Impact on HRTF modeling and personalization.
Vidal et al. HRTF measurements of five dummy heads at two distances
Marschall et al. A database of near-field head-related transfer functions based on measurements with a laser spark source
WO2020221431A1 (en) Device and method for rendering a binaural audio signal
JP2015211235A (ja) 立体音再生装置およびプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20181001

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190326

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190805

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190924

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191115

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200526

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200611

R150 Certificate of patent or registration of utility model

Ref document number: 6730568

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250