JP2017085362A - 立体音再生装置およびプログラム - Google Patents
立体音再生装置およびプログラム Download PDFInfo
- Publication number
- JP2017085362A JP2017085362A JP2015212110A JP2015212110A JP2017085362A JP 2017085362 A JP2017085362 A JP 2017085362A JP 2015212110 A JP2015212110 A JP 2015212110A JP 2015212110 A JP2015212110 A JP 2015212110A JP 2017085362 A JP2017085362 A JP 2017085362A
- Authority
- JP
- Japan
- Prior art keywords
- transfer function
- peak
- dimension
- center frequency
- bandwidth
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Landscapes
- Stereophonic System (AREA)
- Stereophonic Arrangements (AREA)
Abstract
Description
[数1]
F1=5939−1030×d1
第2推定部は、数2に従って第2ピークの中心周波数F2および帯域幅B2を推定し、
[数2]
F2=12441−1647×d2
第3推定部は、数3に従って第3ピークの中心周波数F3および帯域幅B1を推定すし、
[数3]
F3=15341−3142×d3
寸法d1はコンカ深さであり、寸法d2は外耳道入口中心と耳輪下縁を結ぶ線分の長さであり、寸法d3は耳甲介腔床の最内点と耳甲介艇壁の最前点を結ぶ線分の正中面への正投射長さである、立体音再生装置である。
[数14]
F1=6461−758×d1−439×d4
第2推定部は、耳介の第5部位の寸法d5および寸法d2づいて数15に従って第2ピークの中心周波数F2および帯域幅B2を推定し、
[数15]
F2=12646−1333×d2−2239×d5
第3推定部は、耳介の第6部位の寸法d6および寸法d3に基づいて数16に従って第3ピークの中心周波数F3および帯域幅B1を推定し、
[数16]
F3=16445−2911×d3−1235×d6
寸法d1はコンカ深さであり、寸法d2は外耳道入口中心と耳輪下縁を結ぶ線分の長さであり、寸法d3は耳甲介腔床の最内点と耳甲介艇壁の最前点を結ぶ線分の正中面への正投射長さであり、寸法d4は腔甲介底面の最後点と対耳輪の最も横の面とを結ぶ線分の長さであり、寸法d5は耳甲介艇の基端における最横の点とであり、耳甲介艇の最上位縁とを水平方向に結ぶ線分の長さであり、寸法d6は耳甲介腔の最前点と耳輪前脚の珠間窩の縁と珠間窩から最も遠い耳輪の下縁上の点を結ぶ線と交差する点とを水平方向に結ぶ線分の長さである、立体音再生装置である。
[表1]
番号 説明
1 外耳道入口中心
2 腔甲介底面の最後点(外耳道より後で耳輪脚より下)
3 腔甲介壁上の最前点
4 腔甲介床上の最下点
5 耳殻壁上の最後点
6 耳輪脚(の底面)に沿った最少側部の点
7 耳甲介舟の底面における最少側部の点
8 珠上(または前)窩に近い側面の側
9 対輪の最横面
10 三角窩の後コーナーに近い対輪の縁(L15)
11 耳甲介舟の上縁
12 耳甲介舟壁上の最前点
13 対輪の下脚に沿った最少側部の点
14 三角窩の底面における最少側部の点
15 三角窩の上コーナー
16 三角窩の上コーナー
17 耳輪の下縁に沿った最上点
18 舟状窩の最上点
C1 C12とC13を結ぶ線に垂直に見たときの腔甲介の最も深い部分
C2 珠間窩の縁
C3 甲介孔に垂直に見たときの耳輪脚とC2C5を結ぶ線との交点
C4 甲介孔に垂直に見たときの対耳輪脚とC2C5を結ぶ線との交点
C5 珠間窩(C2)から最遠の耳輪の下縁上の点
C6 珠上(または前部)窩の縁に沿った最前点
C7 対耳輪の縁に沿った後ろの下のコーナー
C8 耳介の主軸に沿った最下の耳たぶ上の点
C9 C8‐C10軸から最遠の耳輪上の点
C10 耳介の主軸に沿った最上の耳輪上の点
C11 C8‐C10軸から最遠の耳輪の縁の上の点
C12 耳珠の最も横の面
C13 対耳輪の最も横の面
上記の各ランドマークの内、第1の実施例に関係あるランドマークとして、「2」は腔甲介底面の最後点(外耳道より後で耳輪脚より下):posterior-most of cavum concha base (posterior to ear-canal entrance and inferior to crus helix)であり、「9」は対輪の最横面(most lateral surface of antitragus)であり、「1」はカナルセンタ(center of ear-canal at its entrance:外耳道入口中心)であり、「4」はカバムコンカ床(cavum concha floor:耳甲介腔床)の最内点であり、「12」はシンバ壁(cymba wall:耳甲介艇壁)の最前点であり、そして「17」はヘリックス下縁(lower rim of helix:耳輪下縁)に沿う最上位点である。
各ピークの推定
実施例では、発明者等が実験を通じて取得した数1、数2および数3の回帰式に従って、図2に示す第1ピークP1、第2ピークP2および第3ピークP3の中心周波数F1、F2およびF3(Hz)を推定する。なお、寸法d1、d2およびd3は、いずれも、(cm)である。
[数1]
F1=5939−1030×d1
[数2]
F2=12441−1647×d2
[数3]
F3=15341−3142×d3
発明者等の実験では、数1の相関係数rは、r=0.81であり、MAE(平均絶対誤差)はMAE=118Hz(6.0%)である。数2では、r=0.79であり、MAE=332Hz(5.8%)であり、数3では、r=0.83であり、MAE=321Hz(4.3%)であった。
[数4]
A1=4.32+7.5×d1
なお、第1ピークP1における、コンカ深さd1に基づいて中心周波数F1および振幅A1を求めるための数1および数4は、J. Acoust. Soc. Am. 137 (2), February 2015で本件発明者等が発表した論文「Frequency and amplitude estimation of the first peak of head-related transfer functions from individual pinna anthropometry」(個々の耳介の計測からの頭部伝達関数の第1ピークの周波数および振幅の推定)に詳しく説明されているので、ここではそれ以上の説明は省略する。
[数5]
B1=F1/A1
ただし、数5での振幅A1の単位は、dBではなく、1次系単位(linear units)である。
第1ノッチの推定
後述のフィルタ方程式|Hn(f)|を適用するためには、第1ピークP1、第2ピークP2および第3ピークP3の、中心周波数F1、F2およびF3および帯域幅B1、B2およびB3の他、第1ノッチN1の中心周波数NF1および帯域幅NB1を求める必要がある。ただし、図2においては、第1ノッチN1は太い破線で表わされていて、俯仰角(θ)に応じて変化することがわかる。
個々の伝達関数の生成
このようにして、耳介の特定部位の寸法d1、d2およびd3の値を入力することで、数9または数10で示すフィルタ方程式|Hn(f)|(ここで、nは次数)に必要なすべてのパラメータが求められる。したがって、それらのパラメータを数9または数10に適用することによって、それぞれのピークP1、P2およびP3を含む伝達関数を計算することができる。
全体の伝達関数
上では、1つの共鳴(1つのピーク)の振幅スペクトルを計算するだけであるので、複数の共鳴を考慮した全体の振幅スペクトルを計算するためは、個別のスペクトルを足し算する必要がある。実施例では、図9のように3つの伝達関数|H1(f)|、|H2(f)|および|H3(f)|をまず、数11に従って加算するとともに、先に計算した第1ノッチN1の伝達関数|NH1(f)|を逆数(1/|NH1(f)|)として乗算することによって、全体の伝達関数が計算できる。
[数11]
|H(f)|=Sumn{|Hn(f)|}+1/|NH1(f)|
パラメータF1=4000Hz、F2=6000Hz、F3=8000Hz、B1=565Hz、B2=848Hz、B3=800Hz、NF1=5000Hz、NB1=89Hzを入力したときの全体の伝達関数の例が図10に示される。点線は、各共鳴を別々に示す対数スペクトルであり、点線h1が第1ピークP1の伝達関数|H1(f)|を示し、点線h2が第2ピークP2の伝達関数|H2(f)|を示し、点線h3が第3ピークP3の伝達関数|H3(f)|を示す。細線が3つの伝達関数|H1(f)|、|H2(f)|および|H3(f)|を加算した(第1ノッチN1の伝達関数は考慮しないとき)対数スペクトルであり、それは、個々の振幅スペクトルを加算した後対数に変換することによって得られる。太線は、直流を0dBとするように、細線で示す全体の対数スペクトルをシフトした対数スペクトルすなわち第1ノッチN1の伝達関数|NH1(f)|加算する前の伝達関数H’を示す。そして、図11において点線Nhで示すような第1ノッチN1の伝達関数|NH1(f)|を逆数として乗算すると、図11において太線Hで示すような、第1ノッチN1を考慮した、図9の計算で得られる全体の頭部伝達関数|H(f)|が得られる。それを対数スペクトルで表わすと、数12となる。
[数12]
20log10|H(f)|+20log10{1/|HN(f)|}=20log10{|H(f)|/|HN(f)|}
なお、第2以降の次数のノッチをも考慮する必要があれば、第1ノッチN1の伝達関数HN(f)を逆数で加算した方法と同じ方法を繰り返して実行すればよい。
正中面での頭部伝達関数
数12または数13で計算した伝達関数に基づいて、仰角(θ)の範囲に亘る伝達関数を計算する。上述のように、俯仰角θに応じて各ノッチを計算し、そのノッチで数12または数13を計算することによって、図14に示す正中面での頭部伝達関数HRTFが計算できる。
バイノーラル音源の作成
上述のようにして求めた頭部伝達関数HRTFの逆高速フーリエ変換によって得られる左耳および右耳のHRIR(インパルス応答)で、図1に示す音源14から直接またはA/D変換器16を通して入力された音源信号を畳み込み演算することによって、個人適応化された左右のバイノーラル信号が生成できる。
[数14]
F1=6461−758×d1−439×d4
第2ピークP2の中心周波数F2を求める回帰式において、図16に示す寸法d5を用いる。寸法d5は、ランドマーク7とランドマーク11を水平方向に結ぶ線分の長さである。この寸法d5を先の寸法d2とともに用いて第2ピークP2の中心周波数F2を求める回帰式が数15で与えられる。ただし、この数15の回帰式では、相関係数r=0.89であり、平均絶対誤差MAE=257Hz(4.4%)であった。
[数15]
F2=12646−1333×d2−2239×d5
同じように、第3ピークP3の中心周波数F3を求める回帰式において、図17に示す寸法d6を用いる。寸法d6は、ランドマーク3とランドマークC3を水平方向に結ぶ線分の長さである。この寸法d6を先の寸法d3とともに用いて第3ピークP3の中心周波数F3を求める回帰式が数16で与えられる。ただし、この数16の回帰式においては、相関係数r=0.92であり、平均絶対誤差MAE=247Hz(3.2%)であった。
[数16]
F3=16445−2911×d2−1235×d5
なお、上述の寸法d4‐d6も、寸法d1‐d3と同様に、[cm]の単位で表わされる。
横方向伝達関数のためのITDおよびILD
上で説明したように、バイノーラル音源信号は、図14に示すような正中面上の音源として作成する。しかしながら、第1の実施例および第2の実施例のいずれにおいても、正中面から外れた音源(横方向左または右に位置する)を所望するなら、伝達関数HRTFセットにバイノーラルキュー(binaural cue)を含ませなければならない。このようなバイノーラルキューは、基本的には、モノラル(正面)キューとは独立している。したがって、第1の近似のために、すべての図14に示す水平角(アジマス:azimuth)φにおける両耳間時間差(ITD)および両耳間レベル差(ILD)とともに、上で計算した正中面の頭部伝達関数HRTFの同じセットがすべての傍矢状平面(para-sagittal plane)において使われる。
ITD
最も簡単な解決策は、ウッドワース(Woodworth)のモデルに基づく数16に従って周波数から独立したITDを計算することである。
[数17]
ITD(φ)=(a/cs)×{φ+sin(φ)}
ここで、csは空気中での音速、aは受聴者の頭の半径、アジマス角φは、図14に示すように、正中面ではφ=0であり、同側側(ipsilateral side)ではφ>0で、対側側(contralateral side)でφ<0である。
[数18]
a=0.51X1+0.18X3+3.2
ここで、X1は頭部の半分の幅(頭部の左から右の半分)であり、X3は、頭部の半分長さ(頭部の後ろからほぼ眉への距離の半分)である。ただし、数18で必要な半分幅X1および半分長さX3は、図1に示す入力装置24から適宜入力することができる。
ILD
ILDについての最も簡単な解決策は、たとえば数19に従って、アジマス角にのみ依存する周波数から独立した値を計算することである。
[数19]
ILD(φ)=ILDmax×sin(φ)
ここで、ILDmax≒15dBである。このような両耳間レベル差ILDは、一方の耳の頭部伝達関数HRTFの全体のレベルを反対の耳のそれらに対して修正することで、実現できる。
さらに、上述の各実施例では、ノッチの伝達関数を(逆数で)加算することによって、俯仰角θを考慮したバイノーラル音源信号を再現するようにした。しかしながら、俯仰角を考慮する必要がないなら、たとえば数12または数13においてノッチの伝達関数を使わなくてもよい。
12 …プロセッサ
14 …音源
18 …ヘッドホン
24 …入力装置
Claims (5)
- ヘッドホンで立体音を再生する立体音再生装置であって、
耳介の第1部位の寸法d1に基づいて第1ピークの中心周波数F1および帯域幅B1を推定する第1推定部、
耳介の第2部位の寸法d2に基づいて第2ピークの中心周波数F2および帯域幅B2を推定する第2推定部、
耳介の第3部位の寸法d3に基づいて第3ピークの中心周波数F3および帯域幅B1を推定する第3推定部、
前記第1ピークの中心周波数F1および帯域幅B1に基づいて第1伝達関数を計算する第1計算部、
前記第2ピークの中心周波数F2および帯域幅B2に基づいて第2伝達関数を計算する第2計算部、
前記第3ピークの中心周波数F3および帯域幅B3に基づいて第3伝達関数を計算する第3計算部、
少なくとも前記第1伝達関数、前記第2伝達関数および前記第3伝達関数を合成して、全体の頭部伝達関数を計算する頭部伝達関数計算部、および
前記全体の頭部伝達関数に基づくフィルタで音源信号を畳み込み演算してバイノーラル信号を生成する生成部を備える、立体音再生装置。 - 前記第1ピークの中心周波数F1および前記第2ピークの中心周波数F2に基づいて第1ノッチの中心周波数NF1を推定する第4推定部、および
前記第1ノッチの中心周波数NF1および帯域幅NB1に基づいて第4伝達関数を計算する第4計算部をさらに備え、
前記頭部伝達関数計算部は、前記第1伝達関数、前記第2伝達関数、前記第3伝達関数および前記第4伝達関数に従って前記頭部伝達関数を計算する、請求項1記載の立体音再生装置。 - 前記第1推定部は、数1に従って前記第1ピークの前記中心周波数F1および前記帯域幅B1を推定し、
[数1]
F1=5939−1030×d1
前記第2推定部は、数2に従って前記第2ピークの前記中心周波数F2および前記帯域幅B2を推定し、
[数2]
F2=12441−1647×d2
前記第3推定部は、数3に従って前記第3ピークの前記中心周波数F3および前記帯域幅B1を推定し、
[数3]
F3=15341−3142×d3
前記寸法d1はコンカ深さであり、前記寸法d2は外耳道入口中心と耳輪下縁を結ぶ線分の長さであり、前記寸法d3は耳甲介腔床の最内点と耳甲介艇壁の最前点を結ぶ線分の正中面への正投射長さである、請求項1または2記載の立体音再生装置。 - 前記第1推定部は、耳介の第4部位の寸法d4および前記寸法d1に基づいて数14に従って第1ピークの中心周波数F1および帯域幅B1を推定し、
[数14]
F1=6461−758×d1−439×d4
前記第2推定部は、耳介の第5部位の寸法d5および前記寸法d2づいて数15に従って第2ピークの中心周波数F2および帯域幅B2を推定し、
[数15]
F2=12646−1333×d2−2239×d5
前記第3推定部は、耳介の第6部位の寸法d6および前記寸法d3に基づいて数15に従って第3ピークの中心周波数F3および帯域幅B1を推定し、
[数16]
F3=16445−2911×d2−1235×d5
前記寸法d1はコンカ深さであり、前記寸法d2は外耳道入口中心と耳輪下縁を結ぶ線分の長さであり、前記寸法d3は耳甲介腔床の最内点と耳甲介艇壁の最前点を結ぶ線分の正中面への正投射長さであり、前記寸法d4は腔甲介底面の最後点と対耳輪の最も横の面とを結ぶ線分の長さであり、前記寸法d5は耳甲介艇の基端における最横の点とであり、耳甲介艇の最上位縁とを水平方向に結ぶ線分の長さであり、前記寸法d6は耳甲介腔の最前点と耳輪前脚の珠間窩の縁と珠間窩から最も遠い耳輪の下縁上の点を結ぶ線と交差する点とを水平方向に結ぶ線分の長さである、請求項1または2記載の立体音再生装置。 - ヘッドホンで立体音を再生する立体音再生装置のプロセッサによって実行されるプログラムであって、前記プロセッサを、
耳介の第1部位の寸法d1に基づいて第1ピークの中心周波数F1および帯域幅B1を推定する第1推定部、
耳介の第2部位の寸法d2に基づいて従って第2ピークの中心周波数F2および帯域幅B2を推定する第2推定部、
耳介の第3部位の寸法d3に基づいて第3ピークの中心周波数F3および帯域幅B1を推定する第3推定部、
前記第1ピークの中心周波数F1および帯域幅B1に基づいて第1伝達関数を計算する第1計算部、
前記第2ピークの中心周波数F2および帯域幅B2に基づいて第2伝達関数を計算する第2計算部、
前記第3ピークの中心周波数F3および帯域幅B3に基づいて第3伝達関数を計算する第3計算部、
少なくとも前記第1伝達関数、前記第2伝達関数および前記第3伝達関数を合成して、全体の頭部伝達関数を計算する頭部伝達関数計算部、および
前記全体の頭部伝達関数に基づくフィルタで音源信号を畳み込み演算してバイノーラル信号を生成する生成部
として機能させる、立体音再生装置のプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015212110A JP6730568B2 (ja) | 2015-10-28 | 2015-10-28 | 立体音再生装置およびプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015212110A JP6730568B2 (ja) | 2015-10-28 | 2015-10-28 | 立体音再生装置およびプログラム |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2017085362A true JP2017085362A (ja) | 2017-05-18 |
JP2017085362A5 JP2017085362A5 (ja) | 2019-05-09 |
JP6730568B2 JP6730568B2 (ja) | 2020-07-29 |
Family
ID=58713365
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015212110A Active JP6730568B2 (ja) | 2015-10-28 | 2015-10-28 | 立体音再生装置およびプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6730568B2 (ja) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2019083515A (ja) * | 2017-10-05 | 2019-05-30 | ジーエヌ ヒアリング エー/エスGN Hearing A/S | 音源定位バイノーラル聴覚システム |
JP2020170938A (ja) * | 2019-04-03 | 2020-10-15 | アルパイン株式会社 | 頭部伝達関数学習装置および頭部伝達関数推論装置 |
WO2021048974A1 (ja) * | 2019-09-12 | 2021-03-18 | 日本電気株式会社 | 情報処理装置、情報処理方法及び記憶媒体 |
JP2021184588A (ja) * | 2020-05-22 | 2021-12-02 | 学校法人千葉工業大学 | 頭部伝達関数生成装置、頭部伝達関数生成プログラム及び頭部伝達関数生成方法 |
US11337021B2 (en) | 2020-05-22 | 2022-05-17 | Chiba Institute Of Technology | Head-related transfer function generator, head-related transfer function generation program, and head-related transfer function generation method |
-
2015
- 2015-10-28 JP JP2015212110A patent/JP6730568B2/ja active Active
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2019083515A (ja) * | 2017-10-05 | 2019-05-30 | ジーエヌ ヒアリング エー/エスGN Hearing A/S | 音源定位バイノーラル聴覚システム |
US11438713B2 (en) | 2017-10-05 | 2022-09-06 | Gn Hearing A/S | Binaural hearing system with localization of sound sources |
JP2020170938A (ja) * | 2019-04-03 | 2020-10-15 | アルパイン株式会社 | 頭部伝達関数学習装置および頭部伝達関数推論装置 |
JP7206027B2 (ja) | 2019-04-03 | 2023-01-17 | アルパイン株式会社 | 頭部伝達関数学習装置および頭部伝達関数推論装置 |
WO2021048974A1 (ja) * | 2019-09-12 | 2021-03-18 | 日本電気株式会社 | 情報処理装置、情報処理方法及び記憶媒体 |
JPWO2021048974A1 (ja) * | 2019-09-12 | 2021-03-18 | ||
JP7239007B2 (ja) | 2019-09-12 | 2023-03-14 | 日本電気株式会社 | 情報処理装置、情報処理方法及び記憶媒体 |
US11937040B2 (en) | 2019-09-12 | 2024-03-19 | Nec Corporation | Information processing device, information processing method, and storage medium |
JP2021184588A (ja) * | 2020-05-22 | 2021-12-02 | 学校法人千葉工業大学 | 頭部伝達関数生成装置、頭部伝達関数生成プログラム及び頭部伝達関数生成方法 |
US11337021B2 (en) | 2020-05-22 | 2022-05-17 | Chiba Institute Of Technology | Head-related transfer function generator, head-related transfer function generation program, and head-related transfer function generation method |
Also Published As
Publication number | Publication date |
---|---|
JP6730568B2 (ja) | 2020-07-29 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9961474B2 (en) | Audio signal processing apparatus | |
US10142761B2 (en) | Structural modeling of the head related impulse response | |
US8270616B2 (en) | Virtual surround for headphones and earbuds headphone externalization system | |
US20190200159A1 (en) | Audio signal processing method and apparatus for binaural rendering using phase response characteristics | |
JP6730568B2 (ja) | 立体音再生装置およびプログラム | |
JP6454027B2 (ja) | バイノーラルレンダリングのためのオーディオ信号処理装置及びその方法 | |
RU2513910C2 (ru) | Работающее в зависимости от угла устройство или способ получения псевдостереофонического аудиосигнала | |
RU2540774C2 (ru) | Способ и устройство для воспроизведения стереофонического звука | |
WO2005025270A1 (ja) | 音像制御装置の設計ツールおよび音像制御装置 | |
Zhong et al. | Head-related transfer functions and virtual auditory display | |
Oreinos et al. | Objective analysis of ambisonics for hearing aid applications: Effect of listener's head, room reverberation, and directional microphones | |
EP2206364A1 (en) | A method for headphone reproduction, a headphone reproduction system, a computer program product | |
Kates et al. | Externalization of remote microphone signals using a structural binaural model of the head and pinna | |
JP2017085362A5 (ja) | ||
EP3700233A1 (en) | Transfer function generation system and method | |
Lee et al. | HRTF measurement for accurate sound localization cues | |
Inoue et al. | Evaluation of HRTFs estimated using physical features | |
JP5651813B1 (ja) | 音声信号処理装置、および音声信号処理方法 | |
CN108966110B (zh) | 声音信号处理方法、装置及系统、终端及存储介质 | |
JP6556682B2 (ja) | 立体音響信号再生装置、立体音響信号再生方法及び立体音響信号再生プログラム | |
Romigh et al. | The role of spatial detail in sound-source localization: Impact on HRTF modeling and personalization. | |
Vidal et al. | HRTF measurements of five dummy heads at two distances | |
Marschall et al. | A database of near-field head-related transfer functions based on measurements with a laser spark source | |
WO2020221431A1 (en) | Device and method for rendering a binaural audio signal | |
JP2015211235A (ja) | 立体音再生装置およびプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20181001 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190326 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20190805 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190924 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20191115 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20200526 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20200611 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6730568 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |