JP2010008474A - 非日常音検出システム - Google Patents

非日常音検出システム Download PDF

Info

Publication number
JP2010008474A
JP2010008474A JP2008164395A JP2008164395A JP2010008474A JP 2010008474 A JP2010008474 A JP 2010008474A JP 2008164395 A JP2008164395 A JP 2008164395A JP 2008164395 A JP2008164395 A JP 2008164395A JP 2010008474 A JP2010008474 A JP 2010008474A
Authority
JP
Japan
Prior art keywords
sound
unusual
sound source
source direction
extraordinary
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2008164395A
Other languages
English (en)
Other versions
JP4952950B2 (ja
Inventor
Koichi Kurumaya
浩一 車谷
Mitsuru Kawamoto
満 河本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
National Institute of Advanced Industrial Science and Technology AIST
Original Assignee
National Institute of Advanced Industrial Science and Technology AIST
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by National Institute of Advanced Industrial Science and Technology AIST filed Critical National Institute of Advanced Industrial Science and Technology AIST
Priority to JP2008164395A priority Critical patent/JP4952950B2/ja
Publication of JP2010008474A publication Critical patent/JP2010008474A/ja
Application granted granted Critical
Publication of JP4952950B2 publication Critical patent/JP4952950B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Measurement Of Velocity Or Position Using Acoustic Or Ultrasonic Waves (AREA)

Abstract

【課題】非日常音が日頃起こらない何か危険な信号であると考え、その音を検出し、さらに、非日常的な音源の方向、つまり日頃発生しないような場所から発生する音源の方向の情報も同時に検出することで、これら2つの情報から、公共空間の見守りを行うことのできるシステムを提供する。
【解決手段】システムは、音を観測する音観測手段と、観測音が日常音とは異なる非日常音か否かを検出する非日常音検出手段と、観測音の音源方向が非日常音源方向か否かを検出する非日常音源検出手段とを備える。
【選択図】図1

Description

本発明は、検出対象空間内における非日常音、さらにはその音源方向を検出することのできるシステムに関するものである。
音環境における異常音や危険音を検出する従来システムの多くは、(1)取り出したい異常な音を予め定義し、その定義した異常な音を検出するもの(たとえば特許文献1)、(2)正常な音を予め定義し、その音以外の音が発生したときに異常な事象が起きたと判断するものとに大別できる。
しかしながら、(1)や(2)の問題点は、予め検出したい音や正常音のデータを集めなければならないところにある。さらに、その集めたデータを使って、検出したい音や正常音のモデル化を行うような煩わしい作業もしなければならい。また、モデル化を行わない従来法として、突発的な音を異常音と決めて、その音だけを検出するシステムもあるが、突発的な音が発生する毎に反応するので、誤検出を起こす可能性がかなり大きい。
特開2007−104546号公報
本発明は、上記の事情に鑑みてなされたものであり、非日常音が日頃起こらない何か危険な信号であると考え、その音を検出し、さらに、非日常的な音源の方向、つまり日頃発生しないような場所から発生する音源の方向の情報も同時に検出することで、これら2つの情報から、公共空間の見守りを行うことのできるシステムを提供することを目的としている。
本発明は、上記の課題を解決するものとして、第1には、
音を観測する音観測手段と、
観測音が日常音とは異なる非日常音か否かを検出する非日常音検出手段と、
観測音が非日常音である場合にその音源方向が非日常音源方向か否かを検出する非日常音源方向検出手段と
を備える非日常音検出システムを提供する。
第2には、
非日常音検出手段は、
観測音をそのパワースペクトルの大きさによって分類する手段と、
分類音について同じクラスに分類された過去の全ての音との類似度を計算する手段と、
計算類似度に基づいて観測音が非日常音か否かを判断する手段と
を備える、前記非日常音検出システムを提供する。
第3には、
観測音を蓄積するデータベースをさらに備える、前記非日常音検出システムを提供する。
第4には、
観測音がデータベース中のある非日常音と類似であると判断された場合、該非日常音を表わす特徴量を観測音の特徴量を使って更新する、前記非日常音検出システムを提供する。
第5には、
非日常音源方向検出手段は、
観測音から音源の方向の推定に用いる値を算出する手段と、
算出値について過去の音源方向推定データとの類似度を計算する手段と、
計算類似度に基づいて観測音の音源方向が非日常音源方向か否かを判断する手段と
を備える、前記非日常音検出システムを提供する。
第6には、
観測音の音源方向データを蓄積するデータベースをさらに備える、前記非日常音検出システムを提供する。
第7には、
観測音の音源方向がデータベース中の非日常音源方向と類似であると判断された場合、該非日常音源方向に関する特徴量を観測音の音源方向の特徴量を使って更新する、前記非日常音検出システムを提供する。
第8には、
非日常音および非日常音源方向のいずれか一方又は両方が判断された場合に警告を発する警告手段をさらに備える、前記非日常音検出システムを提供する。
本発明は、さらに、上記の課題を解決するものとして、第9には、
音を観測し、
観測音が日常音とは異なる非日常音か否かを検出し、
観測音が非日常音である場合にその音源方向が非日常音源方向か否かを検出する、非日常音検出方法を提供する。
第10には、
非日常音の検出において、
観測音をそのパワースペクトルの大きさによって分類し、
分類音について同じクラスに分類された過去の全ての音との類似度を計算し、
計算類似度に基づいて観測音が非日常音か否かを判断する、
前記非日常音検出方法を提供する。
第11には、
非日常音源方向の検出において、
観測音から音源の方向の推定に用いる値を算出し、
算出値について過去の音源方向推定データとの類似度を計算し、
計算類似度に基づいて観測音の音源方向が非日常音源方向か否かを判断する、
前記非日常音検出方法を提供する。
第12には、
非日常音および非日常音源方向のいずれか一方又は両方を判断した場合に警告を発する、前記非日常音検出方法を提供する。
第13には、
前記非日常音検出方法をコンピュータに実行させるための非日常音検出プログラムを提供する。
第14には、
前記非日常音検出プログラムを記録したコンピュータ読取可能記録媒体を提供する。
上記のとおりの本発明によれば、
(1)日常音か非日常音か、かつ日常音源方向か非日常音源方向かを、日常の音環境計測を通じて検出することができ、また、
(2)日常音および日常音源方向のデータベースが環境音計測を通じて構築されるので、事前に日常音、非日常音、日常音源方向、非日常音源方向の定義が不要になり、また、
(3)データベースに蓄積される日常音、日常音源方向の特徴量が、新たに計測される日常音、日常音源方向の特徴量によって更新され、その結果、更新された特徴量を使うことによって、日常音および日常音源方向に対する検出精度を上げていくことができる。
以下に、本発明の実施の形態を、図面を参照して説明する。
(実施の形態1)
図1は、本発明のシステムにより実行される各処理のフローチャートである。
まず、見守り対象空間に設置したセンサにより空間内の音を観測し、観測音を必要に応じてA/D変換器等を通した後、音源定位処理にかける。音源定位は図1中の式を用いて行う。
より具体的には、音観察用のセンサは、たとえば図2(a)(b)に例示したマイクロフォンアレイを用いることができる。もちろん本発明による非日常音及び非日常お音源方向検出を実現できる限りこれ以外のセンサを用いてもよいことは言うまでもない。図示したマイクロフォンアレイは、図2(b)のようなキューブ状の剛性躯体におけるo,x,y,z軸に一つずつマイクを設置したマイクロフォンアレイを、図2(a)のように十字状に組まれた剛性フレームに4つ取り付けてなるものであり、これが対象空間の例えば天井近くに設置される。
各マイクロフォンにおけるo,x,y,zのマイクそれぞれで観測される信号は、
であり、合計16個のマイクから観測信号データが得られる。
マイクロフォンアレイで観測された信号は、
により、oとx,y,zとの差分を採ることを特徴とする。ただし、oに対してはそのままの値を用いる。
図示したマイクロフォンアレイは、信号源からの信号が低周波信号の場合の音源定位に特徴がある。
上記式において、観測信号y(t)の入出力関係(観測信号は全て周波数領域で取り扱う)は、以下のとおりである。
上記式をマイクロフォンに到達する直前の信号と観測信号の関係に変形すると、
となる。
以上によるマイクロフォンアレイからの観測音データに基づき、
により音源定位を行い、算出したLxlij)が既定の閾値aよりも大きければ音源があるとみなし、その音源からの音と音源の情報に対して、非日常音、非日常音源の検出を行う。
上記式において、
である。ただし、直接求めることができないので、以下の式を用いる。
以下、図3を用いて、非日常音検出についてさらに詳細に説明する。
まず、非日常音を検出する前処理として、検出音をパワースペクトルのヒストグラムの大きさに従って分類する(ステップS31)。クラス分けを行わなくても非日常音の検出は可能であるが、後述する類似度計算にかなりの時間がかかるため、ここでは、類似度計算の実行時間の大幅な削減を図るべくクラス分けを行う。
図4は検出音のパワースペクトルのヒストグラムの一例である。dmの大きさによってたとえば3段階の値を設定する。
a.dm>I
b.I>=dm>I
c.I>=dm>I
a,b,cに入ったそれぞれのdmの数により、3つのクラスに分類し、それぞれのクラスで非日常音の検出を行う。後述する音種類DBには、これらのクラス毎に検出音が蓄積される。
次に、音種類DB内のクラス毎に、過去の検出音(日常音及び非日常音)と今の検出音の特徴量それぞれを計算する(ステップS32)。特徴量としては、たとえば、音声認識などで用いられるMFCC(Mel-Frequency Cepstral Coefficients)や周波数帯域毎に音の大きさを解析するFluctuation Pattern(FP)などを用いることができるが、検出音と非日常音との違いが算出特徴量に現れて両者を明確に区別することができる限り、特徴量の種類は特に限定されない。
続いて、音種類DBにある過去の検出音の特徴量及び計算された今の検出音の特徴量に基づき、過去の検出音と今の検出音の類似度αを計算する(ステップS33)。この類似度は、過去検出した音全ての特徴量に対して計算される。
そして、一番近い類似度を示した過去の検出音に対して、類似度が既定の閾値bより大きければ、検出した音は過去に似ている音がある、つまり日常音だと判断する(ステップS34−Yes)。逆に類似度が閾値b以下の場合には非日常音だと判断する(ステップS34−No)。
以上により判断された日常音及び非日常音は、それぞれの算出特徴量とともに、音種類DBにクラス毎に保存される。
以下、図4を用いて、非日常音源検出についてさらに詳細に説明する。
まず、検出された音源方向の特徴量と音源方向DBにある過去の音源方向のデータに対する特徴量を計算する(ステップS51)。計算する特徴量は次のとおりである。
・Lxlij)を要素に持つ行列の絶対値最大固有値に対する固有ベクトル。
・i,jに対して計算されるLxlij)の平均値。
次に、音源方向DBにある特徴量及び計算された特徴量に基づき、過去の音源方向データと検出された音源方向の類似度を計算する(ステップS52)。類似度βiは固有ベクトルに関するもの、類似度γiはLxlij)平均値に関するものである。
特徴量としての固有ベクトルおよびLxlij)平均値についてさらに説明すると、音源定位処理データ(たとえば図6参照)における各マス目の値を行列の要素とみなし、行列の固有値分解を行う。このとき、求められた固有値の中で、絶対値が最大な固有値に対する固有ベクトルを特徴量とみなし、過去に計算された全ての特徴量つまり固有ベクトルとの類似度βiを計算する。図6は音源定位処理の結果データの一例を示しており、この例において黄色から茶色のマス目が音源がある方向を示している。固有ベクトルは、音源の方向が変わればベクトルの値が変化するものである。つまり、音源の方向が変われば、すなわち図6の茶色のマス目の位置が変われば、各マス目の値も変化し、行列の値が変化するので、固有ベクトルの値も変化する。この変化に着目して、絶対値が最大な固有値に対する固有ベクトルを、音源方向検出のベースとなる特徴量とみなす。
さらに、数5のLxlij)に対しても、検出された音源位置と過去に検出された全ての音源位置に対して類似度γiを計算する。
そして、一番近い類似度を示した過去の音源方向に対して、類似度βi及びγiの合計が既定の閾値cより大きければ、検出した音源方向は過去に似ている音源方向がある、つまり日常音源だと判断する(ステップS53−Yes)。逆に類似度が閾値c以下の場合には非日常音源だと判断する(ステップS53−No)。ここで二つの特徴量/類似度を使用することにより、非日常音源方向の検出漏れを防ぎ、検出精度を向上させることができる。
以上により判断された日常音源方向及び非日常音源方向は、それぞれの算出特徴量とともに、音源方向DBに保存される。
後は、図7に例示したように、非日常音及び非日常音源方向のいずれか一方または両方を検出した際に、注意を促す例えば「Warning!」サイン等の警告を出力する。
[装置構成]
以上のとおりの本発明における各処理は、図8に例示した全体構成を持つ装置により実行することができる。図8の装置1は、バス15に処理部(CPU)10、記憶部(内部メモリ、外部メモリ)11、入力部(キーボード、マウス)12、出力部(モニタ、プリンタ)13及び通信制御部14が接続される構成である。この装置11は、通信制御部14を介してネットワーク16に接続されている。ネットワーク16に接続された装置1などの端末から他の端末等に格納された各処理に必要な各種データを入手することが可能である。処理部10は、記憶部11に格納されたプログラムを読み出すことにより、前述した各種処理を実行する。
本発明について説明するための機能ブロック及び処理フローを示した図。 マイクロフォンアレイの一例を示した斜視図。 非日常音検出フローの一例を示した図。 検出音のパワースペクトルのヒストグラムの一例を示した図。 非日常音源検出フローの一例を示した図。 音源定位処理データの一例を示した図。 警告フローの一例を示した図。 本発明について説明するためのシステムブロックを示した図。

Claims (14)

  1. 音を観測する音観測手段と、
    観測音が日常音とは異なる非日常音か否かを検出する非日常音検出手段と、
    観測音の音源方向が非日常音源方向か否かを検出する非日常音源検出手段と
    を備える非日常音検出システム。
  2. 非日常音検出手段は、
    観測音をそのパワースペクトルの大きさによって分類する手段と、
    分類音について同じクラスに分類された過去の全ての音との類似度を計算する手段と、
    計算類似度に基づいて観測音が非日常音か否かを判断する手段と
    を備える、請求項1記載の非日常音検出システム。
  3. 観測音を蓄積するデータベースをさらに備える、請求項2記載の非日常音検出システム。
  4. 観測音がデータベース中のある非日常音と類似であると判断された場合、該非日常音を表わす特徴量を観測音の特徴量を使って更新する、請求項3記載の非日常音検出システム。
  5. 非日常音源方向検出手段は、
    観測音から音源の方向の推定に用いる値を算出する手段と、
    算出値について過去の音源方向推定データとの類似度を計算する手段と、
    計算類似度に基づいて観測音の音源方向が非日常音源方向か否かを判断する手段と
    を備える、請求項1記載の非日常音検出システム。
  6. 観測音の音源方向データを蓄積するデータベースをさらに備える、請求項5記載の非日常音検出システム。
  7. 観測音の音源方向がデータベース中の非日常音源方向と類似であると判断された場合、該非日常音源方向に関する特徴量を観測音の音源方向の特徴量を使って更新する、請求項6記載の非日常音検出システム。
  8. 非日常音および非日常音源方向のいずれか一方又は両方が判断された場合に警告を発する警告手段をさらに備える、請求項1ないし7のいずれかに記載の非日常音検出システム。
  9. 音を観測し、
    観測音が日常音とは異なる非日常音か否かを検出し、
    観測音が非日常音である場合にその音源方向が非日常音源方向か否かを検出する、非日常音検出方法。
  10. 非日常音の検出において、
    観測音をそのパワースペクトルの大きさによって分類し、
    分類音について同じクラスに分類された過去の全ての音との類似度を計算し、
    計算類似度に基づいて観測音が非日常音か否かを判断する、
    請求項9記載の非日常音検出方法。
  11. 非日常音源方向の検出において、
    観測音から音源の方向の推定に用いる値を算出し、
    算出値について過去の音源方向推定データとの類似度を計算し、
    計算類似度に基づいて観測音の音源方向が非日常音源方向か否かを判断する、
    請求項9記載の非日常音検出方法。
  12. 非日常音および非日常音源方向のいずれか一方又は両方を判断した場合に警告を発する、請求項9ないし11のいずれかに記載の非日常音検出方法。
  13. 請求項9ないし12のいずれかに記載の非日常音検出方法をコンピュータに実行させるための非日常音検出プログラム。
  14. 請求項13記載の非日常音検出プログラムを記録したコンピュータ読取可能記録媒体。
JP2008164395A 2008-06-24 2008-06-24 非日常音検出システム Active JP4952950B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2008164395A JP4952950B2 (ja) 2008-06-24 2008-06-24 非日常音検出システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008164395A JP4952950B2 (ja) 2008-06-24 2008-06-24 非日常音検出システム

Publications (2)

Publication Number Publication Date
JP2010008474A true JP2010008474A (ja) 2010-01-14
JP4952950B2 JP4952950B2 (ja) 2012-06-13

Family

ID=41589114

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008164395A Active JP4952950B2 (ja) 2008-06-24 2008-06-24 非日常音検出システム

Country Status (1)

Country Link
JP (1) JP4952950B2 (ja)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2013073399A1 (ja) * 2011-11-14 2013-05-23 日産自動車株式会社 他移動体位置検出装置及び他移動体位置検出方法
KR101462420B1 (ko) 2013-08-02 2014-11-19 박성용 사용자위험알림장치 및 그 방법
KR101542492B1 (ko) 2014-12-01 2015-08-18 대한민국 음원 자동화 분석 방법 및 이를 수행하는 컴퓨터 프로그램을 가진 기록매체
CN104952451A (zh) * 2015-06-08 2015-09-30 广东欧珀移动通信有限公司 一种录音处理方法和录音处理装置
CN106328120A (zh) * 2016-08-17 2017-01-11 重庆大学 公共场所异常声音特征提取方法
JP2019066339A (ja) * 2017-10-02 2019-04-25 株式会社日立製作所 音による診断装置、診断方法、および診断システム

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003156387A (ja) * 2001-11-22 2003-05-30 Matsushita Electric Ind Co Ltd 異常音検出装置および異常音検出方法
JP2005252660A (ja) * 2004-03-04 2005-09-15 Matsushita Electric Ind Co Ltd 撮影システム及び撮影制御方法
JP2008054071A (ja) * 2006-08-25 2008-03-06 Hitachi Communication Technologies Ltd 紙擦れ音除去装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003156387A (ja) * 2001-11-22 2003-05-30 Matsushita Electric Ind Co Ltd 異常音検出装置および異常音検出方法
JP2005252660A (ja) * 2004-03-04 2005-09-15 Matsushita Electric Ind Co Ltd 撮影システム及び撮影制御方法
JP2008054071A (ja) * 2006-08-25 2008-03-06 Hitachi Communication Technologies Ltd 紙擦れ音除去装置

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2013073399A1 (ja) * 2011-11-14 2013-05-23 日産自動車株式会社 他移動体位置検出装置及び他移動体位置検出方法
KR101462420B1 (ko) 2013-08-02 2014-11-19 박성용 사용자위험알림장치 및 그 방법
KR101542492B1 (ko) 2014-12-01 2015-08-18 대한민국 음원 자동화 분석 방법 및 이를 수행하는 컴퓨터 프로그램을 가진 기록매체
CN104952451A (zh) * 2015-06-08 2015-09-30 广东欧珀移动通信有限公司 一种录音处理方法和录音处理装置
CN106328120A (zh) * 2016-08-17 2017-01-11 重庆大学 公共场所异常声音特征提取方法
CN106328120B (zh) * 2016-08-17 2020-01-10 重庆大学 公共场所异常声音特征提取方法
JP2019066339A (ja) * 2017-10-02 2019-04-25 株式会社日立製作所 音による診断装置、診断方法、および診断システム

Also Published As

Publication number Publication date
JP4952950B2 (ja) 2012-06-13

Similar Documents

Publication Publication Date Title
JP4952950B2 (ja) 非日常音検出システム
Sohn et al. Structural health monitoring using statistical pattern recognition techniques
Kesavan et al. A wavelet‐based damage diagnosis algorithm using principal component analysis
CN110458248B (zh) 基于多测点振动信号的变压器异常状态检测方法
WO2013105164A1 (ja) 異常信号判定装置、異常信号判定方法、および異常信号判定プログラム
CN108414240B (zh) 一种检测机器异常振动的方法与装置
CN106872945B (zh) 声源定位方法、装置和电子设备
JP5701164B2 (ja) 位置検出装置及び位置検出方法
EP3444809A1 (en) Personalized speech recognition method, and user terminal performing the method
US20060204019A1 (en) Acoustic signal processing apparatus, acoustic signal processing method, acoustic signal processing program, and computer-readable recording medium recording acoustic signal processing program
US20170162195A1 (en) Information processing apparatus, information processing method, and recording medium
US20180188104A1 (en) Signal detection device, signal detection method, and recording medium
WO2014132612A1 (ja) システム分析装置、及び、システム分析方法
KR20160005094A (ko) 트렌딩 및 패턴 인식을 위한 신호 관련 측정치의 정량적 분석
JP2019066339A (ja) 音による診断装置、診断方法、および診断システム
KR20200072030A (ko) 소리와 가속도 데이터를 이용한 멀티모달 기침 감지 장치 및 방법
JP7375692B2 (ja) 情報処理装置、情報処理方法、及び情報処理システム
JP4886460B2 (ja) 異常監視装置
JP2016103245A (ja) 情報処理装置、情報処理方法、プログラム
JP2002323371A (ja) 音響診断装置及び音響診断方法
JP2010071773A (ja) 開閉部材の開閉動作認識装置、開閉部材の開閉動作認識方法
CN116486146A (zh) 一种旋转机械设备的故障检测方法、系统、装置和介质
WO2019097412A1 (en) System and method for multimedia-based performance monitoring of an equipment
Hongyan A simple multi-sensor data fusion algorithm based on principal component analysis
CN115398442A (zh) 用于评估传感器测量值的设备和自动化方法和该设备的应用

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20101028

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20111125

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20111201

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120127

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120216

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120228

R150 Certificate of patent or registration of utility model

Ref document number: 4952950

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150323

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250