JP6521954B2 - 音源の位置を特定する方法、および当該方法を用いる人型ロボット - Google Patents
音源の位置を特定する方法、および当該方法を用いる人型ロボット Download PDFInfo
- Publication number
- JP6521954B2 JP6521954B2 JP2016519371A JP2016519371A JP6521954B2 JP 6521954 B2 JP6521954 B2 JP 6521954B2 JP 2016519371 A JP2016519371 A JP 2016519371A JP 2016519371 A JP2016519371 A JP 2016519371A JP 6521954 B2 JP6521954 B2 JP 6521954B2
- Authority
- JP
- Japan
- Prior art keywords
- vector
- microphones
- subset
- sound source
- time difference
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims description 57
- 239000013598 vector Substances 0.000 claims description 63
- 230000004807 localization Effects 0.000 claims description 30
- 238000004364 calculation method Methods 0.000 claims description 10
- 230000004044 response Effects 0.000 claims description 10
- 230000005236 sound signal Effects 0.000 claims description 10
- 238000010606 normalization Methods 0.000 claims description 4
- 239000011159 matrix material Substances 0.000 description 8
- 238000013459 approach Methods 0.000 description 6
- 230000006870 function Effects 0.000 description 6
- 230000000875 corresponding effect Effects 0.000 description 5
- 238000002592 echocardiography Methods 0.000 description 4
- 230000015654 memory Effects 0.000 description 4
- 238000012545 processing Methods 0.000 description 4
- 230000003595 spectral effect Effects 0.000 description 4
- 230000000873 masking effect Effects 0.000 description 3
- 230000009466 transformation Effects 0.000 description 3
- 230000002087 whitening effect Effects 0.000 description 3
- 238000001914 filtration Methods 0.000 description 2
- 238000007430 reference method Methods 0.000 description 2
- 238000005303 weighing Methods 0.000 description 2
- 241000282412 Homo Species 0.000 description 1
- 102000005717 Myeloma Proteins Human genes 0.000 description 1
- 108010045503 Myeloma Proteins Proteins 0.000 description 1
- 230000003321 amplification Effects 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 239000002131 composite material Substances 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 230000001934 delay Effects 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 210000005069 ears Anatomy 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000036039 immunity Effects 0.000 description 1
- 238000003199 nucleic acid amplification method Methods 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 238000012552 review Methods 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 238000004904 shortening Methods 0.000 description 1
- 238000003786 synthesis reaction Methods 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 238000000844 transformation Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S3/00—Direction-finders for determining the direction from which infrasonic, sonic, ultrasonic, or electromagnetic waves, or particle emission, not having a directional significance, are being received
- G01S3/80—Direction-finders for determining the direction from which infrasonic, sonic, ultrasonic, or electromagnetic waves, or particle emission, not having a directional significance, are being received using ultrasonic, sonic or infrasonic waves
- G01S3/802—Systems for determining direction or deviation from predetermined direction
- G01S3/808—Systems for determining direction or deviation from predetermined direction using transducers spaced apart and measuring phase or time difference between signals therefrom, i.e. path-difference systems
- G01S3/8083—Systems for determining direction or deviation from predetermined direction using transducers spaced apart and measuring phase or time difference between signals therefrom, i.e. path-difference systems determining direction of source
Landscapes
- Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Circuit For Audible Band Transducer (AREA)
- Manipulator (AREA)
- Measurement Of Velocity Or Position Using Acoustic Or Ultrasonic Waves (AREA)
Description
a)少なくとも3個のマイクロホンの配列により、定位したい音源からの音声信号を捕捉するステップと、
b)前記配列から少なくとも3対のマイクロホンを選択して、前記各対について、捕捉した音声信号の一般化相互相関を計算するステップ、すなわち前記音声信号間の両耳間時間差と呼ばれる遅延の複数の値について前記計算を実行するステップと、
c)前記一般化相互相関から、前記マイクロホンの各対における両耳間時間差のベクトルの関数として表される被制御応答出力を計算するステップと、
d)前記被制御応答出力を最大化する両耳間時間差ベクトルを判定するステップと、
e)ステップd)で判定された両耳間時間差ベクトルに依存する前記音源の定位方向を推定するステップとを含み、
−前記ステップc)およびd)が、前記マイクロホンから無限遠点にある単一の音源から発せられた音声信号と整合するベクトルの第1の部分集合と、前記マイクロホンから無限遠点にある単一の音源から発せられた音声信号と整合しないベクトルの第2の部分集合とを含む集合を形成する複数の両耳間時間差ベクトルを考慮することにより実行され、
−前記第1の部分集合の各ベクトルには対応する単一音源の定位方向が関連付けられ、前記第2の部分集合の各ベクトルには所定計量に従い最も近い前記第1の部分集合のベクトルに関連付けられた定位方向が関連付けられていて、
−前記ステップe)で推定された方向は、前記ステップd)で判定された両耳間時間差ベクトルに関連付けられたものである。
−前記ステップb)で計算された一般化相互相関は、以前に白色化された信号の相互相関に対応するGCC−PHAT型であってよく、
−前記ステップb)において、前記配列のマイクロホンの全ての対が選択されてよく、
−前記被制御応答出力は、前記マイクロホン対についての一般化相互相関の和により与えられるか、または比例していてよく、
−前記第1の部分集合は、Chasles条件と呼ばれる条件
τij+τjk=τik
を自身の要素が満たす前記集合のベクトルを含んでいてよく、
ここに添え字i≠j≠kは前記配列の各種のマイクロホンを表し、τij、τjk、τikは各々が対(i,j)、(j,k)、(i,k)における両耳間時間差を表し、
−前記第2の部分集合は、前記第1の部分集合に属していない前記集合のベクトルおよび当該ベクトルから前記第1の部分集合のベクトルまでの距離を含み、当該距離は前記所定計量に従い決定され、正規化後は所定の閾値未満であり、
−前記所定計量はユークリッド計量であってよく、
−前記ステップe)は、1個の定位方向を前記集合の各値に関連付ける参照テーブルに基づいて実行されてよい。
−少なくとも3個のマイクロホンの配列と、
−前記マイクロホンにより捕捉された入力音声信号として受信すべく前記マイクロホンに接続されたプロセッサであって先行請求項のいずれか1項に記載の方法を実行すべくプログラミングまたは構成されたプロセッサとを含む人型ロボットである。
SRP(τ)=Σsi,sjRsi,sj(τsi,sj) (3)
ここに、和は、マイクロホンの各対に関連付けられた信号si,sjのM個の対に対して計算される(3≦M≦N(N−1)/2)。ベクトル変数τは、M個の成分を有し、その各々が1個の前記対における両耳間時間差に対応する。より一般的には、SRPは一般化相互相関の一次結合として定義できる。
音源の定位方向は、ベクトル変数τに対して関数SRP(τ)を最大化することにより識別される。当該最適化課題を解決するために多くの数値方法を用いてよい。勾配アルゴリズムおよび「総当たり」法の非限定的な例により行うことができる。
−マイクロホンのネットワークから無限遠点にある単一の音源から発せられた音声信号と整合するベクトルτの第1の部分集合E1。数学的観点から、これらのベクトルは「Chasles」条件と呼ばれる条件を満たす成分を有している。
τij+τjk=τik (4)
ここに添え字i≠j≠kは、前記配列の各種マイクロホンを表し、τij、τjk、およびτikは各々が対(i,j)、(j,k)、および(i,k)における両耳間時間差を表している。これらの条件は、ベクトルτが無限遠点にある単一の音源から発せられた音声信号と整合するための必要条件であるが、十分条件ではない。
−マイクロホンのネットワークから無限遠点にある単一の音源から発せられた音声信号と整合しないベクトルτの第2の部分集合E2。特に、当該第2の部分集合は、前記第1の部分集合に属していない前記集合のベクトルおよび当該ベクトルから前記第1の部分集合のベクトルまでの距離を含み、当該距離は所定の(特にユークリッド)計量に従い決定され、正規化(各ベクトルをノルムで除算)後は所定の閾値未満である。当該閾値は本方法を調整するものであって、実験的に決定されてよい。
τ=Ax (5)
ここにAはM×3行列である(Mはベクトルτの成分の個数であることを想起されたい)。行列Aは正方行列でないため、逆行列を直接求めることはできない。マイクロホンが同一平面上にない場合、行列Aの階数は3である。従って、3個の線形独立な行を選択して逆行列演算可能な正方行列
SRP(τ)を最大化するベクトルτ∈E(τmaxと表記)を識別した後、これを音源の定位方向に関連付けることが必要である。τmax∈E1である場合、両耳間時間差のベクトルは唯一の定位方向と整合するため、これは問題ではない。τmax∈E2である場合、前記所定計量に従うτmaxに最も近いE1に属するベクトルと整合する定位方向が選択される。
Claims (10)
- 音源定位方法であって、
a)少なくとも3個のマイクロホン(M1、M2、M3、M4)の配列により、定位したい音源からの音声信号を捕捉するステップと、
b)前記配列から少なくとも3対のマイクロホンを選択して、前記少なくとも3対のマイクロホンの各対について、捕捉した音声信号の一般化相互相関を計算するステップ、すなわち前記音声信号間の両耳間時間差と呼ばれる遅延の複数の値について前記計算を実行するステップと、
c)前記少なくとも3対のマイクロホンの各対における両耳間時間差のベクトルの関数として表される前記一般化相互相関から被制御応答出力を計算するステップと、
d)前記被制御応答出力を最大化する両耳間時間差ベクトルを判定するステップと、
e)ステップd)で判定された両耳間時間差ベクトルに依存する前記音源の定位方向を推定するステップとを含み、
−前記ステップc)およびd)が、前記マイクロホンから無限遠点にある単一の音源から発せられた音声信号と整合するベクトルの第1の部分集合(E1)と、前記マイクロホンから無限遠点にある単一の音源から発せられた音声信号と整合しないベクトルの第2の部分集合(E2)とを含む集合(E)を形成する複数の両耳間時間差ベクトルを考慮することにより実行され、
−前記ステップe)で推定された方向は、前記ステップd)で判定された両耳間時間差ベクトルが前記第1の部分集合に含まれる場合、対応する前記単一の音源の定位方向に関連付けられ、前記第2の部分集合に含まれる場合、所定計量に従い最も近い前記第1の部分集合のベクトルに関連付けられた定位方向に関連付けられたものであることを特徴とする方法。 - 前記ステップb)において計算された一般化相互相関が、以前に白色化された信号の相互相関に対応するGCC−PHAT型である、請求項1に記載の方法。
- 前記ステップb)において、前記配列の前記少なくとも3個のマイクロホンの全ての対が選択されている、請求項1〜2のいずれか1項に記載の方法。
- 前記被制御応答出力が、前記少なくとも3対のマイクロホンについての一般化相互相関の和により与えられるか、または比例している、請求項1〜3のいずれか1項に記載の方法。
- 前記第1の部分集合が、Chasles条件と呼ばれる条件
τij+τjk=τik
を自身の要素が満たす前記集合のベクトルを含み、
ここに添え字i≠j≠kは前記配列の各種のマイクロホンを表し、τij、τjk、τikは各々が対(i,j)、(j,k)、(i,k)における両耳間時間差を表す、請求項1〜4のいずれか1項に記載の方法。 - 前記第2の部分集合が、前記第1の部分集合に属していない前記集合のベクトルおよび当該ベクトルから前記第1の部分集合のベクトルまでの距離を含み、当該距離は前記所定計量に従い決定され、正規化後は所定の閾値未満にある、請求項1〜5のいずれか1項に記載の方法。
- 前記所定計量がユークリッド計量である、請求項1〜6のいずれか1項に記載の方法。
- 前記ステップe)が、1個の定位方向を前記集合の各値に関連付ける参照テーブル(LUT)に基づいて実行される、請求項1〜7のいずれか1項に記載の方法。
- −少なくとも3個のマイクロホンの配列(M1、M2、M3、M4)と、
−前記マイクロホンにより捕捉された入力音声信号として受信すべく前記マイクロホンに接続されたプロセッサ(PR)であって請求項1〜8のいずれか1項に記載の方法を実行すべくプログラミングまたは構成されたプロセッサとを含む人型ロボット。 - 前記マイクロホンが、前記人型ロボットの頭部(TRH)の上面に配置されている、請求項9に記載の人型ロボット。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
FR1359515 | 2013-10-01 | ||
FR1359515A FR3011377B1 (fr) | 2013-10-01 | 2013-10-01 | Procede de localisation d'une source sonore et robot humanoide utilisant un tel procede |
PCT/EP2014/070783 WO2015049199A1 (fr) | 2013-10-01 | 2014-09-29 | Procede de localisation d'une source sonore et robot humanoide utilisant un tel procede |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2016537622A JP2016537622A (ja) | 2016-12-01 |
JP2016537622A5 JP2016537622A5 (ja) | 2018-02-08 |
JP6521954B2 true JP6521954B2 (ja) | 2019-05-29 |
Family
ID=50023689
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016519371A Active JP6521954B2 (ja) | 2013-10-01 | 2014-09-29 | 音源の位置を特定する方法、および当該方法を用いる人型ロボット |
Country Status (11)
Country | Link |
---|---|
US (1) | US10222447B2 (ja) |
EP (1) | EP3052958B1 (ja) |
JP (1) | JP6521954B2 (ja) |
CN (1) | CN106030331B (ja) |
AU (1) | AU2014331210B2 (ja) |
BR (1) | BR112016007215A2 (ja) |
CA (1) | CA2925934C (ja) |
FR (1) | FR3011377B1 (ja) |
MX (1) | MX2016004207A (ja) |
RU (1) | RU2642157C2 (ja) |
WO (1) | WO2015049199A1 (ja) |
Families Citing this family (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105096956B (zh) * | 2015-08-05 | 2018-11-20 | 百度在线网络技术(北京)有限公司 | 基于人工智能的智能机器人的多声源判断方法及装置 |
KR102444061B1 (ko) | 2015-11-02 | 2022-09-16 | 삼성전자주식회사 | 음성 인식이 가능한 전자 장치 및 방법 |
KR102392113B1 (ko) * | 2016-01-20 | 2022-04-29 | 삼성전자주식회사 | 전자 장치 및 전자 장치의 음성 명령 처리 방법 |
CN107340498A (zh) * | 2016-05-03 | 2017-11-10 | 深圳光启合众科技有限公司 | 机器人及声源位置的确定方法和装置 |
CN107071652B (zh) * | 2016-12-27 | 2023-08-04 | 深圳市优必选科技有限公司 | 一种服务机器人 |
CN106842111B (zh) * | 2016-12-28 | 2019-03-29 | 西北工业大学 | 基于传声器镜像的室内声源定位方法 |
JP6976131B2 (ja) | 2017-10-16 | 2021-12-08 | 三菱重工サーマルシステムズ株式会社 | 空調システム及び空調制御方法 |
US11565365B2 (en) * | 2017-11-13 | 2023-01-31 | Taiwan Semiconductor Manufacturing Co., Ltd. | System and method for monitoring chemical mechanical polishing |
CN108962263B (zh) * | 2018-06-04 | 2019-09-20 | 百度在线网络技术(北京)有限公司 | 一种智能设备控制方法及系统 |
CN110716177B (zh) * | 2019-10-22 | 2022-09-09 | 哈尔滨工程大学 | 分布式声学定位网络中多目标分类方法 |
CN112438660A (zh) * | 2020-09-23 | 2021-03-05 | 深圳市修远文化创意有限公司 | 一种基于扫地机器人的语音定位方法及相关装置 |
CN112526452A (zh) * | 2020-11-24 | 2021-03-19 | 杭州萤石软件有限公司 | 声源检测方法、云台摄像机、智能机器人及存储介质 |
CN112379330B (zh) * | 2020-11-27 | 2023-03-10 | 浙江同善人工智能技术有限公司 | 一种多机器人协同的3d声源识别定位方法 |
Family Cites Families (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6453246B1 (en) | 1996-11-04 | 2002-09-17 | 3-Dimensional Pharmaceuticals, Inc. | System, method, and computer program product for representing proximity data in a multi-dimensional space |
US20030072456A1 (en) * | 2001-10-17 | 2003-04-17 | David Graumann | Acoustic source localization by phase signature |
EP1818909B1 (en) * | 2004-12-03 | 2011-11-02 | Honda Motor Co., Ltd. | Voice recognition system |
US20080071540A1 (en) * | 2006-09-13 | 2008-03-20 | Honda Motor Co., Ltd. | Speech recognition method for robot under motor noise thereof |
US8233353B2 (en) * | 2007-01-26 | 2012-07-31 | Microsoft Corporation | Multi-sensor sound source localization |
KR101483269B1 (ko) * | 2008-05-06 | 2015-01-21 | 삼성전자주식회사 | 로봇의 음원 위치 탐색 방법 및 그 장치 |
KR101442172B1 (ko) * | 2008-05-14 | 2014-09-18 | 삼성전자주식회사 | 검색 공간 클러스터링 방법을 이용한 실시간srp-phat 음원 위치 탐색 시스템 및 제어방법 |
CN201210187Y (zh) * | 2008-06-13 | 2009-03-18 | 河北工业大学 | 一种自主搜寻声源的机器人 |
US8233352B2 (en) * | 2009-08-17 | 2012-07-31 | Broadcom Corporation | Audio source localization system and method |
JP2012234150A (ja) * | 2011-04-18 | 2012-11-29 | Sony Corp | 音信号処理装置、および音信号処理方法、並びにプログラム |
CN102809742B (zh) * | 2011-06-01 | 2015-03-18 | 杜比实验室特许公司 | 声源定位设备和方法 |
KR20130048075A (ko) * | 2011-11-01 | 2013-05-09 | 삼성전자주식회사 | 다중 음원 위치추적장치 및 그 위치추적방법 |
CN102707262A (zh) * | 2012-06-20 | 2012-10-03 | 太仓博天网络科技有限公司 | 一种基于麦克风阵列的声源定位系统 |
-
2013
- 2013-10-01 FR FR1359515A patent/FR3011377B1/fr not_active Expired - Fee Related
-
2014
- 2014-09-29 AU AU2014331210A patent/AU2014331210B2/en not_active Ceased
- 2014-09-29 WO PCT/EP2014/070783 patent/WO2015049199A1/fr active Application Filing
- 2014-09-29 EP EP14777580.3A patent/EP3052958B1/fr active Active
- 2014-09-29 MX MX2016004207A patent/MX2016004207A/es unknown
- 2014-09-29 JP JP2016519371A patent/JP6521954B2/ja active Active
- 2014-09-29 US US15/025,539 patent/US10222447B2/en active Active
- 2014-09-29 RU RU2016116896A patent/RU2642157C2/ru not_active IP Right Cessation
- 2014-09-29 CN CN201480054849.5A patent/CN106030331B/zh active Active
- 2014-09-29 CA CA2925934A patent/CA2925934C/fr not_active Expired - Fee Related
- 2014-09-29 BR BR112016007215-4A patent/BR112016007215A2/pt not_active Application Discontinuation
Also Published As
Publication number | Publication date |
---|---|
RU2016116896A (ru) | 2017-11-10 |
FR3011377B1 (fr) | 2015-11-06 |
CN106030331B (zh) | 2019-12-24 |
FR3011377A1 (fr) | 2015-04-03 |
CA2925934A1 (fr) | 2015-04-09 |
AU2014331210B2 (en) | 2017-08-10 |
EP3052958B1 (fr) | 2019-11-20 |
JP2016537622A (ja) | 2016-12-01 |
CN106030331A (zh) | 2016-10-12 |
WO2015049199A1 (fr) | 2015-04-09 |
MX2016004207A (es) | 2017-08-16 |
BR112016007215A2 (pt) | 2018-01-23 |
CA2925934C (fr) | 2020-07-28 |
AU2014331210A1 (en) | 2016-05-19 |
US10222447B2 (en) | 2019-03-05 |
EP3052958A1 (fr) | 2016-08-10 |
US20160274212A1 (en) | 2016-09-22 |
RU2642157C2 (ru) | 2018-01-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6521954B2 (ja) | 音源の位置を特定する方法、および当該方法を用いる人型ロボット | |
JP2016537622A5 (ja) | ||
Gaubitch et al. | Auto-localization in ad-hoc microphone arrays | |
Zhao et al. | Underdetermined direction of arrival estimation using acoustic vector sensor | |
Yook et al. | Fast sound source localization using two-level search space clustering | |
Murray et al. | Robotics sound-source localization and tracking using interaural time difference and cross-correlation | |
Murray et al. | Robotic sound-source localisation architecture using cross-correlation and recurrent neural networks | |
Zhong et al. | Active binaural localization of multiple sound sources | |
Salvati et al. | Sound source and microphone localization from acoustic impulse responses | |
Di Carlo et al. | Mirage: 2d source localization using microphone pair augmentation with echoes | |
US8416642B2 (en) | Signal processing apparatus and method for removing reflected wave generated by robot platform | |
Asano et al. | Sound source localization using joint Bayesian estimation with a hierarchical noise model | |
Gaubitch et al. | Calibration of distributed sound acquisition systems using TOA measurements from a moving acoustic source | |
Suleiman et al. | Search-free decentralized direction-of-arrival estimation using common roots for non-coherent partly calibrated arrays | |
KR20090128221A (ko) | 음원 위치 추정 방법 및 그 방법에 따른 시스템 | |
WO2012164448A1 (en) | Method for self - calibrating a set of acoustic sensors, and corresponding system | |
Jung et al. | Distance estimation of a sound source using the multiple intensity vectors | |
Rao et al. | DOA estimation using sparse vector sensor arrays | |
Al-Sheikh et al. | Sound source direction estimation in horizontal plane using microphone array | |
Sasaki et al. | Online spatial sound perception using microphone array on mobile robot | |
Farmani et al. | TDOA-based self-calibration of dual-microphone arrays | |
Sledevič et al. | An evaluation of hardware-software design for sound source localization based on SoC | |
Al Kassir et al. | DOA Estimation for 6G Communication Systems | |
Catalbas et al. | Dynamic speaker localization based on a novel lightweight R–CNN model | |
Huang et al. | DOA estimation of quasi-stationary signals with a nested array in unknown noise field |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20170606 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20170831 |
|
A524 | Written submission of copy of amendment under article 19 pct |
Free format text: JAPANESE INTERMEDIATE CODE: A524 Effective date: 20171206 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20180508 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20180801 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20181107 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20190326 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20190423 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6521954 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |