JP5050180B2 - 外部雑音改善型発話音声分析システム - Google Patents

外部雑音改善型発話音声分析システム Download PDF

Info

Publication number
JP5050180B2
JP5050180B2 JP2007092826A JP2007092826A JP5050180B2 JP 5050180 B2 JP5050180 B2 JP 5050180B2 JP 2007092826 A JP2007092826 A JP 2007092826A JP 2007092826 A JP2007092826 A JP 2007092826A JP 5050180 B2 JP5050180 B2 JP 5050180B2
Authority
JP
Japan
Prior art keywords
speech
noise
utterance
voice
microphone
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2007092826A
Other languages
English (en)
Other versions
JP2008246036A (ja
Inventor
清 佐藤
貢 澤
直樹 水上
綾子 鈴木
格一 塩見
成男 海津
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Railway Technical Research Institute
Electronic Navigation Research Institute
Original Assignee
Railway Technical Research Institute
Electronic Navigation Research Institute
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Railway Technical Research Institute, Electronic Navigation Research Institute filed Critical Railway Technical Research Institute
Priority to JP2007092826A priority Critical patent/JP5050180B2/ja
Publication of JP2008246036A publication Critical patent/JP2008246036A/ja
Application granted granted Critical
Publication of JP5050180B2 publication Critical patent/JP5050180B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)

Description

本発明は、発話音声から発話者の覚醒状態(脳活性状態)を評価するための発話音声分析システムに係り、特に、そのシステムの外部雑音を改善する外部雑音改善型発話音声分析システムに関するものである。
本発明者らは、既に、カオス論的発話音声分析装置とその応用について先行して開発し、提案している(下記特許文献1〜4)。
そのカオス論的発話音声分析装置(以下、一般名称としての発話音声分析装置との区別を明確にするために、本発明に係る装置については、特にカオス論的発話音声分析装置という)は、発話音声の有するカオス性を評価し、発話者の大脳新皮質の活性度と高い相関を示すと考えられる診断値を算出する装置である。
このカオス論的発話音声分析装置の特徴は、一つの発話音声に対して唯一つの診断値を返すことにあり、一般市場において様々に提供されている発話音声分析装置や、ポリグラフ装置のように多数の診断値やグラフを経験的に解釈して感情レベル等を診断する装置に比較して、恣意性を排除した客観的な診断が容易であることを特徴としている。
なお、ポリグラフ装置等においても、知識情報処理の技術を利用することにより、利用者の経験等を要さない診断を可能とするものは存在するが、知識処理システムそのものが強い恣意性を含む構造を有しており、このような装置で最終的に利用者の恣意性が排除されることと、カオス論的発話音声分析装置が原理的に恣意性を有さないことは、全く別次元の客観的な信頼性を実現し得ることにおいて、明確に区別されるべき事柄である。
特願2006−093267号 特願2006−093268号 特願2006−097389号 特願2006−097391号
しかしながら、逆にカオス論的発話音声分析装置は、一つの発話音声に対して唯一つの診断値(誤解の無いように述べれば、信号処理パラメータを変更すれば、異なる診断値を算出するが、設定が固定されれば、唯一つの診断値が算出される。)のみを算出するため、その入力された音声信号の品質が悪いこと等により診断値の信頼性が低い場合であっても、音声信号の品質が十分に良好な場合と同様の診断値を算出する場合があり、カオス論的発話音声分析装置の運用における信頼性の確保を困難にしている。
具体的には、例えば、カオス論的発話音声分析装置がそれぞれの入力音声に対して200〜1000の間の診断値を返すとすれば、入力音声の品質が十分に高い場合には、眠くてボンヤリしている状態で300前後の診断値を返し、事務作業等を行っている状態で400〜600の診断値を返し、緊張状態や疲労しているにも拘らず作業をしなければならない状況では700程度以上の診断値を返すとすれば、空調機やモーター等による特徴的な周波数スペクトルを有する騒音が強い場合には、緊張しているにも拘らず300程度の低い診断値や、500程度の健常状態と判断される診断値を返す場合がある。また、明確な周波数スペクトルを有さない白色雑音のレベルが高い場合には、その雑音レベルに依存して診断値が高い方にずれて、ボンヤリしているにも拘らず500以上の診断値が返されたり、極めて雑音レベルが高い場合には1000以上の診断値が算出されたりする場合がある。
本発明は、上記状況に鑑みて、カオス論的発話音声分析装置の算出する診断値に対してその信頼性を評価する信頼性指標値(信頼性情報)を同時に算出することにより、カオス論的発話音声分析装置の運用における信頼性の向上を図ることができる外部雑音改善型発話音声分析システムを提供することを目的とする。
本発明は、上記目的を達成するために、
〔1〕外部雑音改善型発話音声分析システムにおいて、発話音声を収録する利用者音声収集用マイクロフォン(1)と、発話環境の雑音状況をモニターする環境雑音収集用マイクロフォン(2)と、カオス論的発話音声分析装置(5)と、環境雑音分析装置(6)と、前記カオス論的発話音声分析装置(5)に接続され、利用者音声診断値(A)が入力されるとともに、前記環境雑音分析装置(6)に接続され、環境雑音評価値(B)が入力される診断値比較判定装置(7)と、前記カオス論的発話音声分析装置(5)に接続され、利用者音声診断値(A)が入力されるとともに、前記診断値比較判定装置(7)に接続され、信頼性指標値(信頼性情報)(C)が入力される診断情報表示及び警告等報知装置(8)とを具備し、前記環境雑音分析装置(2)からの雑音が弱い場合には利用者の発話波形を採用し、前記環境雑音分析装置(2)からの雑音が強い場合には利用者の発話波形を採用せず、再診断を要求することを特徴とする。
〔2〕外部雑音改善型発話音声分析システムにおいて、発話音声を収録する利用者音声収集用マイクロフォン(23)と、発話環境の雑音状況をモニターする環境雑音収集用マイクロフォン(26)と、カオス論的発話音声分析装置(25)と、環境雑音分析装置(27)とを具備し、前記カオス論的発話音声分析装置(25)からの利用者音声診断値(A)と前記環境雑音分析装置(26)からの環境雑音評価値(B)とに基づいて、カオス論的発話音声を評価した信頼性指標値(信頼性情報)(C)を出力するカオス論的発話音声指標値出力評価装置(28)とを具備することを特徴とする。
〔3〕上記〔1〕または2記載の外部雑音改善型発話音声分析システムにおいて、前記発話音声を収録する利用者音声収集用マイクロフォン(1,23)は単一指向性マイクロフォンであり、前記発話環境の雑音状況をモニターする環境雑音収集用マイクロフォン(2,26)は無指向性マイクロフォンであることを特徴とする。
〔4〕上記〔1〕または〔2〕記載の外部雑音改善型発話音声分析システムにおいて、発話環境が車両(21)の運転席(22)である場合、前記発話音声を収録する利用者音声収集用マイクロフォン(23)は運転士(24)の口元に配置し、前記発話環境の雑音状況をモニターする環境雑音収集用マイクロフォン(26)は前記運転席(22)から離れた場所に設置し、前記発話音声を収録する利用者音声収集用マイクロフォン(23)と前記発話環境の雑音状況をモニターする環境雑音収集用マイクロフォン(26)の両方を同一の指向特性を有するマイクロフォンとすることを特徴とする。
〔5〕上記〔4〕記載の外部雑音改善型発話音声分析システムにおいて、前記発話環境の雑音状況をモニターする環境雑音収集用マイクロフォン(26)に代えて振動センサーを備えることを特徴とする。
本発明によれば、カオス論的発話音声分析装置の算出する診断値に対してその信頼性を評価する指標値(信頼性情報)を同時に算出することにより、カオス論的発話音声分析装置の運用における信頼性の向上を図ることができる。
本発明の外部雑音改善型発話音声分析システムは、発話音声を収録する利用者音声収集用マイクロフォン(1)と、発話環境の雑音状況をモニターする環境雑音収集用マイクロフォン(2)と、カオス論的発話音声分析装置(5)と、環境雑音分析装置(6)と、前記カオス論的発話音声分析装置(5)に接続され、利用者音声診断値(A)が入力されるとともに、前記環境雑音分析装置(6)に接続され、環境雑音評価値(B)が入力される診断値比較判定装置(7)と、前記カオス論的発話音声分析装置(5)に接続され、利用者音声診断値(A)が入力されるとともに、前記診断値比較判定装置(7)に接続され、信頼性情報(C)が入力される診断情報表示及び警告等報知装置(8)とを具備し、前記環境雑音分析装置(2)からの雑音が弱い場合には利用者の発話波形を採用し、前記環境雑音分析装置(2)からの雑音が強い場合には利用者の発話波形を採用せず、再診断を要求する。
以下、本発明の実施の形態について詳細に説明する。
図1は本発明の第1実施例を示す外部雑音改善型発話音声分析システムのブロック図である。
この図において、1は発話音声を収録する利用者音声収集用マイクロフォン、2はその発話環境の雑音状況をモニターする環境雑音収集用マイクロフォン、3は利用者音声収集用マイクロフォン1に接続されるアンプ、4は環境雑音収集用マイクロフォン2に接続されるアンプ、5はアンプ3に接続される発話音声分析装置(カオス論的発話音声分析装置)、6はアンプ4に接続される環境雑音分析装置、7は発話音声分析装置5に接続され、利用者音声診断値Aが入力されるとともに、環境雑音分析装置6に接続され、環境雑音分析装置6からの環境雑音評価値Bが入力される診断値比較判定装置、8は発話音声分析装置5に接続され、利用者音声診断値Aが入力されるとともに、診断値比較判定装置7に接続されて、診断値の信頼性指標値(信頼性情報)Cが入力される診断情報表示及び警告等の報知装置である。
図2は本発明の第1実施例を示す外部雑音改善型発話音声分析システムの動作フローチャートである。
この図から明らかなように、このシステムでは、比較判定演算部11では利用者音声診断値Aと環境雑音評価値Bとが考慮されて、信頼性指標値(信頼性情報)Cが生成される。その信頼性指標値(信頼性情報)Cは運用基準部12によって有効の場合は、警告等の報知情報Dを出力し、無効な場合には再診断Eを要求する。
発話音声の収録時に、発話音声を収録する利用者音声収集用マイクロフォン1と共に、発話環境の雑音状況をモニターする環境雑音収集用マイクロフォン2を併設し、発話音声分析装置(カオス論的発話音声分析装置)5による利用者音声診断値Aと、環境雑音分析装置6からの環境雑音評価値Bとを同時に評価する。そして、発話音声分析装置(カオス論的発話音声分析装置)5の算出する利用者音声診断値Aに対して、環境雑音評価値Bを考慮してその信頼性を評価する信頼性指標値(信頼性情報)Cを同時に算出するようにした。これにより、発話音声分析装置(カオス論的発話音声分析装置)5の利用者音声診断値Aの信頼性が低い場合でも、その利用者音声診断値Aの評価を行い、補償するように構成した。
なお、発話音声分析装置(カオス論的発話音声分析装置)5からの診断値はそれなりに出力させ、環境雑音分析装置6の環境雑音評価値Bが大きい場合には、監視者が人的にその診断値による判断を中止(警告等の報知)を行うようにしてもよい。
上記のような、発話音声を収録する利用者音声収集用マイクロフォン1と共に、発話環境の雑音状況をモニターする環境雑音収集用マイクロフォン2を組み合わせる際、両者を近接して設置する必要がある場合には、発話音声を収録する利用者音声収集用マイクロフォン1を単一指向性マイクロフォンとし、発話環境の雑音状況をモニターする環境雑音収集用マイクロフォン2を無指向性マイクロフォンとすれば、十分に利用可能である。
図3は本発明の外部雑音改善型発話音声分析システムの実験例(その1)、図4は本発明の外部雑音改善型発話音声分析システムの実験例(その2)、図5は本発明の外部雑音改善型発話音声分析システムの実験例(その3)を示す図である。
図3において、実線Aで示されているのは利用者の口元の発話波形、薄い線Bで示されているのは少し強い雑音である。この程度であれば、口元の発話波形を採用し、その発話波形を評価できる。
図4においては、実線Cで示されているのは利用者の口元の発話波形、薄い線Dで示されているのは弱い雑音である。このように軽度な弱い雑音であれば、口元の発話波形を採用し、評価するのに問題はない。
図5において、実線Eで示されているのは利用者の口元の発話波形、薄い線Fで示されているのは強い雑音である。このように、強い雑音がある場合には、発話波形の採用には、外部条件を改善する必要があり、再診断を要求するようにする。
図6は本発明の第2実施例を示す外部雑音改善型発話音声分析システムのブロック図である。
この図において、21は車両、22は運転席、23は発話音声を収録する利用者音声収集用マイクロフォン、24は運転士、25は発話音声分析装置(カオス論的発話音声分析装置)、26は発話環境の雑音状況をモニターする環境雑音収集用マイクロフォン、27は環境雑音収集用マイクロフォン26に接続される環境雑音分析装置、28は発話音声分析装置(カオス論的発話音声分析装置)25から出力される診断値に環境雑音分析装置27から出力される環境雑音評価値を考慮して、カオス論的発話音声分析の評価を行い指標値を出力するカオス論的発話音声指標値出力装置である。
このように、車両21の運転席22等の一様な雑音環境であれば、発話音声を収録する利用者音声収集用マイクロフォン23を運転士24の口元に、発話環境の雑音状況をモニターする環境雑音収集用マイクロフォン26を運転席22から離れた場所に設置することとすれば、両方とも同一の指向特性を有するマイクロフォンであっても構わない。
特に、自動車の運転席においてエンジン騒音や路面による騒音を問題とする場合には、発話環境の雑音状況をモニターする環境雑音収集用マイクロフォンとして振動センサー等を利用しても、同様な診断値の評価を行うことは可能である。
なお、本発明は上記実施例に限定されるものではなく、本発明の趣旨に基づき種々の変形が可能であり、これらを本発明の範囲から排除するものではない。
本発明の外部雑音改善型発話音声分析システムは、外部雑音が問題となる発話環境においても、その指標値の信頼性を高めることができる発話音声分析システムとして利用することができる。
本発明の第1実施例を示す外部雑音改善型発話音声分析システムのブロック図である。 本発明の第1実施例を示す外部雑音改善型発話音声分析システムの動作フローチャートである。 本発明の外部雑音改善型発話音声分析システムの実験例(その1)を示す図である。 本発明の外部雑音改善型発話音声分析システムの実験例(その2)を示す図である。 本発明の外部雑音改善型発話音声分析システムの実験例(その3)を示す図である。 本発明の第2実施例を示す外部雑音改善型発話音声分析システムのブロック図である。
1,23 発話音声を収録する利用者音声収集用マイクロフォン
2,26 発話環境の雑音状況をモニターする環境雑音収集用マイクロフォン
3 利用者音声収集用マイクロフォンに接続されるアンプ
4 環境雑音収集用マイクロフォンに接続されるアンプ
5,25 発話音声分析装置(カオス論的発話音声分析装置)
6,27 環境雑音分析装置
7 診断値比較判定装置
8 診断情報表示及び警告等の報知装置
11 比較判定演算部
A 利用者音声診断値
B 環境雑音評価値
C 信頼性情報(信頼性指標値)
12 運用基準部
D 報知情報
E 再診断
21 車両
22 運転席
24 運転士
28 カオス論的発話音声指標値出力装置

Claims (5)

  1. (a)発話音声を収録する利用者音声収集用マイクロフォン(1)と、
    (b)発話環境の雑音状況をモニターする環境雑音収集用マイクロフォン(2)と、
    (c)カオス論的発話音声分析装置(5)と、
    (d)環境雑音分析装置(6)と、
    (e)前記カオス論的発話音声分析装置(5)に接続され、利用者音声診断値(A)が入力されるとともに、前記環境雑音分析装置(6)に接続され、環境雑音評価値(B)が入力される診断値比較判定装置(7)と、
    (f)前記カオス論的発話音声分析装置(5)に接続され、利用者音声診断値A)が入力されるとともに、前記診断値比較判定装置(7)に接続され、信頼性指標値(信頼性情報)(C)が入力される診断情報表示及び警告等報知装置(8)とを具備し、
    (g)前記環境雑音分析装置(2)からの雑音が弱い場合には利用者の発話波形を採用し、前記環境雑音分析装置(2)からの雑音が強い場合には利用者の発話波形を採用せず、再診断を要求することを特徴とする外部雑音改善型発話音声分析システム。
  2. (a)発話音声を収録する利用者音声収集用マイクロフォン(23)と、
    (b)発話環境の雑音状況をモニターする環境雑音収集用マイクロフォン(26)と、
    (c)カオス論的発話音声分析装置(25)と、
    (d)環境雑音分析装置(27)とを具備し、
    (e)前記カオス論的発話音声分析装置(25)からの利用者音声診断値(A)と前記環境雑音分析装置(26)からの環境雑音評価値(B)とに基づいて、カオス論的発話音声を評価した信頼性指標値(信頼性情報)(C)を出力するカオス論的発話音声指標値出力評価装置(28)とを具備することを特徴とする外部雑音改善型発話音声分析システム。
  3. 請求項1または2記載の外部雑音改善型発話音声分析システムにおいて、前記発話音声を収録する利用者音声収集用マイクロフォン(1,23)は単一指向性マイクロフォンであり、前記発話環境の雑音状況をモニターする環境雑音収集用マイクロフォン(2,26)は無指向性マイクロフォンであることを特徴とする外部雑音改善型発話音声分析システム。
  4. 請求項1または2記載の外部雑音改善型発話音声分析システムにおいて、発話環境が車両(21)の運転席(22)である場合、前記発話音声を収録する利用者音声収集用マイクロフォン(23)は運転士(24)の口元に配置し、前記発話環境の雑音状況をモニターする環境雑音収集用マイクロフォン(26)は前記運転席(22)から離れた場所に設置し、前記発話音声を収録する利用者音声収集用マイクロフォン(23)と前記発話環境の雑音状況をモニターする環境雑音収集用マイクロフォン(26)の両方を同一の指向特性を有するマイクロフォンとすることを特徴とする外部雑音改善型発話音声分析システム。
  5. 請求項4記載の外部雑音改善型発話音声分析システムにおいて、前記発話環境の雑音状況をモニターする環境雑音収集用マイクロフォン(26)に代えて振動センサーを備えることを特徴とする外部雑音改善型発話音声分析システム。
JP2007092826A 2007-03-30 2007-03-30 外部雑音改善型発話音声分析システム Expired - Fee Related JP5050180B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007092826A JP5050180B2 (ja) 2007-03-30 2007-03-30 外部雑音改善型発話音声分析システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007092826A JP5050180B2 (ja) 2007-03-30 2007-03-30 外部雑音改善型発話音声分析システム

Publications (2)

Publication Number Publication Date
JP2008246036A JP2008246036A (ja) 2008-10-16
JP5050180B2 true JP5050180B2 (ja) 2012-10-17

Family

ID=39971696

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007092826A Expired - Fee Related JP5050180B2 (ja) 2007-03-30 2007-03-30 外部雑音改善型発話音声分析システム

Country Status (1)

Country Link
JP (1) JP5050180B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11551671B2 (en) 2019-05-16 2023-01-10 Samsung Electronics Co., Ltd. Electronic device and method of controlling thereof

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3257832B2 (ja) * 1992-09-04 2002-02-18 富士通テン株式会社 音声認識装置用騒音低減回路
JPH11161294A (ja) * 1997-11-26 1999-06-18 Kanda Tsushin Kogyo Co Ltd 音声信号送出装置
JP2000338991A (ja) * 1999-05-25 2000-12-08 Nec Saitama Ltd 認識率信頼性表示機能付き音声操作電話装置及びその音声認識方法
JP2002306492A (ja) * 2001-04-16 2002-10-22 Electronic Navigation Research Institute カオス論的ヒューマンファクタ評価装置
JP2003114700A (ja) * 2001-10-05 2003-04-18 Fujitsu Ltd 音声認識装置

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11551671B2 (en) 2019-05-16 2023-01-10 Samsung Electronics Co., Ltd. Electronic device and method of controlling thereof

Also Published As

Publication number Publication date
JP2008246036A (ja) 2008-10-16

Similar Documents

Publication Publication Date Title
JP4725236B2 (ja) 車外警告音報知装置
US9763003B2 (en) Automotive constant signal-to-noise ratio system for enhanced situation awareness
CN101951468B (zh) 车辆图像记录装置及其安装状态通知方法
US10629081B2 (en) Accelerometer-based external sound monitoring for backup assistance in a vehicle
JP2006264390A (ja) 車両の警報音装置
US20210142816A1 (en) Noise suppressor for a vehicle and noise suppressing method for a vehicle
GB2547223A (en) Enhanced sound generation for quiet vehicles
CN110376589A (zh) 用于进行环境感测的方法和用于机动车的环境感测系统
JP2008149917A (ja) 車両用周囲音報知装置
JP7371751B2 (ja) 集音放音方法
JP4360308B2 (ja) 車載音響制御システム及びaiエージェント
JP2019016971A (ja) 音出力装置
JP2005316704A (ja) 周囲状況通知装置、周囲状況通知方法
JP5050180B2 (ja) 外部雑音改善型発話音声分析システム
JP2005304014A (ja) 音情報を伝搬する方法及びシステム
Jay Sound/vibration quality engineering
JP5056466B2 (ja) 異音の判定方法
JP2014209077A (ja) びびり音評価方法
JP2009073417A (ja) 騒音制御装置および方法
WO2005104950A1 (ja) 大脳評価装置
JP2019159147A (ja) 車載装置、走行状態推定方法、サーバ装置、情報処理方法、及び走行状態推定システム
US6549628B1 (en) Method for determining and optionally eliminating a disturbing noise subjectively perceived by an operator
JP2007163336A (ja) 車両ノイズ音検知装置および車両ノイズ音検知方法
EP3664078A1 (en) Vehicle noise cancelling
WO2015145731A1 (ja) 車両情報通知装置

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20100317

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100318

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20100318

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20111228

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120124

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120323

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120619

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120621

R150 Certificate of patent or registration of utility model

Ref document number: 5050180

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150803

Year of fee payment: 3

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313115

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees