JP4566843B2 - 音声処理装置および方法 - Google Patents

音声処理装置および方法 Download PDF

Info

Publication number
JP4566843B2
JP4566843B2 JP2005193086A JP2005193086A JP4566843B2 JP 4566843 B2 JP4566843 B2 JP 4566843B2 JP 2005193086 A JP2005193086 A JP 2005193086A JP 2005193086 A JP2005193086 A JP 2005193086A JP 4566843 B2 JP4566843 B2 JP 4566843B2
Authority
JP
Japan
Prior art keywords
data
output
sound
audio
sound source
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2005193086A
Other languages
English (en)
Other versions
JP2007013732A5 (ja
JP2007013732A (ja
Inventor
勝敏 田尻
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2005193086A priority Critical patent/JP4566843B2/ja
Publication of JP2007013732A publication Critical patent/JP2007013732A/ja
Publication of JP2007013732A5 publication Critical patent/JP2007013732A5/ja
Application granted granted Critical
Publication of JP4566843B2 publication Critical patent/JP4566843B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Circuit For Audible Band Transducer (AREA)
  • Signal Processing For Digital Recording And Reproducing (AREA)
  • Signal Processing Not Specific To The Method Of Recording And Reproducing (AREA)

Description

本発明は、音声処理装置および方法に関し、特に、音声の再生制御に関する。
近年のネットワーク技術の高速化、広帯域化に伴い、ネットワークを利用した映像と音声による監視システムの普及が進んでいる。
図1にネットワークを利用した監視システムのシステム構成例を示す。
監視装置102は、IPネットワーク103を介して、遠隔地に設置されたネットワークカメラ104と接続されている。ネットワークカメラ104は音声入力機器105および音声出力機器106を接続しており、これにより音声入出力機能を備えている。また、監視装置102側も同様に音声入力機器100および音声出力機器101を接続することで音声入出力機能を有する構成である。このようなシステム構成により、監視装置102は、ネットワークカメラ104で撮影された画像を閲覧できるだけでなく、音声入力機器105で収集された音声を音声出力機器101を通して聴くことができる。これにより例えば、映像には異変がなくても異音によって異変を感知することが可能である。また、その逆に、監視装置102側の音声入力機器100に入力された音声をネットワークカメラ104に送り、そこに接続された音声出力機器106に出力させることもできる。これにより例えば、監視現場に指示音声を届けることが可能である。
ネットワークカメラには、画像の動き検知、外部デバイス(センサ、照明など)、タイマーなどによって検出されるイベントをトリガとして、画像や音声を蓄積し、あるいは、音声再生を行う機能が求められている。
ここで、ネットワークカメラにおけるイベント検出をトリガとする音声再生機能について考える。イベント検出による音声再生中に更に別のイベント検出があった場合に、イベント検出による音声再生中に監視装置から音声ストリームが送られてくることが考えられる。このような場合には音声再生途中であっても、より優先度が高い監視装置からの音声ストリームに切り替えて再生する必要がある。
以下、音声再生の切り替え処理、特にここでは、イベント検出による音声再生中に監視装置から音声ストリームが送られてきた場合の音声再生の切り替えについて説明する。
図2は、従来のネットワークカメラ104の音声再生に係る機能構成を示す図である。203はネットワーク103を介して監視装置102より送られてきた音声ストリームの再生処理を行うストリーム再生部である。204はあらかじめ作成された音声ファイルの再生処理を行うファイル再生部である。ネットワークカメラ104はこの他に出力制御部205、バッファ制御部206、出力バッファ207、D/A変換部208、および可変ゲインの増幅器209を備える。出力制御部205は、ストリーム再生部203またはファイル再生部204からの音声データの出力を制御するとともに、出力音量の制御値を増幅器209に供給する。バッファ制御部206は、再生に係る音声データを出力バッファ207に格納する。D/A変換部はバッファ制御部206からの音声データをアナログ信号に変換する。増幅器209は、出力制御部205より供給された制御値に応じたゲインでアナログ音声データを増幅し、音声出力機器106に渡す。
かかる構成のネットワークカメラ104における音声再生処理を、図4のシーケンス図を用いて説明する。図4に示す例は、イベント検出による音声ファイルの再生中に、監視装置102より送信された音声ストリームデータとともにその音声ストリームデータの再生要求を受信した場合を想定している。
ファイル再生部204とストリーム再生部203はそれぞれ独立に動作している。音声データを再生する場合は、出力音量を変更し一定量の音声データを順次、出力制御部402に送信する。
まず、ファイル再生部204から送信された音声データ(1)は、出力制御部205を経由してバッファ制御部206に送られる。バッファ制御部206は出力バッファ207に音声データを蓄積する。そして、バッファ制御部206は、D/A変換部208にて次データの出力準備ができた時点で、出力バッファ207内の音声データをD/A変換部208に送信する。
このように、D/A変換部208が音声データを出力するタイミングはD/A変換部208が主導しているので、ファイル再生部204やストリーム再生部203から送信された音声データは必ずバッファ制御部206にて出力バッファ207に一時的に蓄積されなければならない。
ストリーム再生部203は、音声ストリームデータを出力制御部205に送る前に、出力制御部205に対して出力音量変更を指示する。出力制御部205は、その指示に従い出力音量の制御値を増幅器209に送出する。増幅器209はこの制御値に応じたゲインで音声信号を増幅することになる。その後、出力制御部205は、ストリーム再生部203から受け取ったデータをバッファ制御部206に送る。出力音量を変更された時、D/A変換部208では、まだファイル再生部204からの音声ファイルを再生している最中である。このため、変更する音量によっては、非常に大音量で音声ファイルを再生する状態になりうる。
図4の例では、出力音量1で再生されていた音声ファイル(音声データ(2))が出力音量5(>出力音量1)で再生される。その後、ストリーム再生部203から送られたデータ(3)が出力され始めると、適切な音量で音声ストリームが再生され、大音量状態から復帰する。
この大音量で再生されている期間は、出力バッファ207に蓄積されているデータ量に依存するが、数十〜数百ms程度のものである。したがって、ユーザには、切り替わりの瞬間に大音量の雑音として知覚されることになる。
次に、図1のシステム構成において、ネットワークカメラ104が音声入力機器105から取得した音声データを監視装置102へ送り音声出力機器101から出力している場合について説明する。
再生の対象がネットワークカメラ104から配信された音声ストリームデータに切り替わると、ネットワークカメラ104と監視装置102の間は全二重通信の状態となる。全二重通信になると、上述した音声切替え時のノイズだけでなく、通常の音声さえもが装置間で回り込み、エコーやハウリングが発生することがある。音声の回り込みとは、例えば、監視装置102が送った音声がネットワークカメラ104の音声出力機器106から出力され、その音を音声入力機器105が拾ってネットワークカメラ104が再度監視装置102に送る、またその逆にネットワークカメラ104が送った音声が、監視装置102側を回って戻ってくることである。
特開平5−327935号公報
このように、従来の音声再生処理においては、再生中に再生対象が出力音量の異なる音源に切り替わる瞬間にノイズが発生する場合があった。
また、ネットワークカメラと監視装置との間で全二重通信を行う場合に音声の回り込みによるエコーまたはハウリングが発生してしまうという問題があった。
したがって、本発明は、再生中に再生対象を出力音量の異なる音源に切り替えた際に知覚されるノイズを抑制し、もって音声再生品質を高めることを目的とする。
また、本発明は、再生音声の回り込みによるエコーまたはハウリングを抑制し、もって音声再生品質を高めることを目的とする。
本発明の一側面に係る音声処理装置は、音声データと、前記音声データの出力音量の制御値とを取得する取得手段と、前記取得手段において取得した音声データを一時的に蓄積するバッファ手段と、前記取得手段において取得した前記制御値に基づいて、前記バッファ手段において蓄積された音声データを増幅して出力する増幅手段と、前記取得手段において取得される音声データの音源が第1の音源の音声データから第2の音源の音声データに切り替えられた場合、前記第2の音源の音声データの前に無音データをバッファ手段に出力する制御手段と、前記バッファ手段から無音データが出力されたことを検知する検知手段とを備え、前記増幅手段は、前記検知手段によって無音データが出力されたことが検知された場合、前記第1の音源の音声データに対応する制御値から前記第2の音源の音声データに対応する制御値に切り替えて前記バッファ手段から出力された音声データを増幅することを特徴とする。
本発明によれば、例えば、再生中に再生対象を出力音量の異なる音源に切り替えた際に知覚されるノイズが抑制され、これにより、音声再生品質を高めることができる。
以下、図面を参照して本発明の好適な実施形態について詳細に説明する。なお、本発明は以下の実施形態に限定されるものではなく、本発明の実施に有利な具体例を示すにすぎない。また、以下の実施形態の中で説明されている特徴の組み合わせの全てが本発明の課題解決手段として必須のものであるとは限らない。
(実施形態1)
本実施形態に係る監視システムのシステム構成は上述の図1と同様である。図3は、本発明の音声処理装置が適用されるネットワークカメラ(監視カメラ装置)104の音声再生に係る機能構成を示す図である。その他の機能に関する構成は省略されていることに留意されたい。この構成は図2に示した構成と概ね同様であるが、本実施形態では、出力制御部205とD/A変換部208との間に切り替え検出部301が付加されている点と、出力制御部205に接続されたデータメモリ302が設けられている点が異なっている。
上述したとおり、従来の音声再生処理においては、再生中に再生対象が出力音量の異なる音源に切り替わる瞬間にノイズが発生する場合があった。このようなノイズが発生するのは次の理由による。すなわち、再生対象を第1の音源から出力音源の異なる第2の音源に切り替える場合、出力音量の変更タイミングと、第2の音源の音声データが実際にD/A変換部で処理されるタイミングとにずれが生じるからである。
これに対し、以下説明する本実施形態の制御処理によれば、再生中に再生対象を出力音量の異なる音源に切り替える場合、出力音量の変更タイミングを、切り替える音源の音声データがD/A変換処理されるタイミングにあわせることができるため、音源の切り替えの際に発生していたノイズを抑制することができる。
本実施形態におけるネットワークカメラ104における音声再生処理を、図5のシーケンス図を用いて説明する。図5に示す例は、図4と同様、イベント検出による音声ファイルの再生中に、外部装置である監視装置102より送信された音声ストリームデータの再生要求を受信した場合を想定している。
まず、音源としてのファイル再生部204から出力された音声データ(1)は、出力制御部205で取得され、バッファ制御部206に送られる。バッファ制御部206は出力バッファ207に音声データを蓄積する。そして、バッファ制御部206は、D/A変換部208にて次データの出力準備ができた時点で、出力バッファ207内の音声データをD/A変換部208に送信する。そして、出力制御部205は音声ファイルに付加された制御値に基づいて増幅器209を制御し、音声データを増幅する。
音源としてのストリーム再生部203は、音声データを出力制御部205に出力する前に、予め送信された制御値に基づいて出力制御部205に対して出力音量変更を指示する。これは現在の音声再生に係るファイル再生部204からではなくストリーム再生部203から指示されているので、出力制御部205は、指示された出力音量の制御値をデータメモリ302にいったん保存する。従来であれば、指定された出力音量の制御値で直ちに出力音量を変更していたところである。出力制御部205は、ストリーム再生部203から最初の音声データを受け取ると、その最初の音声データを出力する前に無音データをまずバッファ制御部206を経由して出力バッファ207に蓄積する。そして、現在の出力バッファ207の音声データの蓄積量を切替え検出部301に通知する。その後、出力制御部205は、ストリーム再生部203から受け取った音声データ(3)をバッファ制御部206に送る。
切替え検出部301は、通知された出力バッファ207の蓄積量と、その通知以降出力バッファ207から出力された音声データ量とを比較し、当該出力されたデータ量が通知された蓄積量以上になったときに、D/A変換部208に無音データが出力されたと判断し、出力制御部205に音源の切替え検出を通知する。
出力制御部205は、この切替え検出通知を受信すると、データメモリ302から出力音量の制御値を読み出して、この値を増幅器209に送出する。増幅器209はこの制御値に応じたゲインで音声信号を増幅することになる。
バッファ制御部206は、この動作と関係なくD/A変換部208が出力準備できていれば出力バッファ207内の音声データを送り出す、という処理を続ける。
出力音量の変更は、無音データ再生期間中に完了すればよい。したがってハードウェアの特性に応じて、切替え検出時に一度で出力音量の変更を完了してもよいし、無音データ再生期間内であれば段階的に出力音量を変更してもよい。
以上の制御処理によれば、音源が切り替わる時に無音データが挿入され、その無音データを再生中に出力音量が変更されるので、従来発生していた再生音源の切替え時のノイズを抑制することができる。
なお、上述の例では、切替え検出部301は、第2の音源である音声ストリームデータ挿入前の出力バッファ207の蓄積量分の音声データがD/A変換部208に出力されたときに音源が切り替わったと判断していた。しかし、必ずしも音声データの出力状況を逐一参照し、出力バッファ207の指定蓄積量と出力データ量を比較する必要はなく、指定蓄積量が出力されるまでの時間を算出し、切替え検出部301がその算出時間だけ待ち合わせるという処理で代替することもできる。
あるいは、出力バッファ207に格納した無音データや出力バッファ207中の特定位置の音声データを切替え検出部301に保存しておき、そのデータが出力されたかをD/A変換部208に送信する度にコンペアチェックするという処理で代替することも可能である。
(実施形態2)
前述したように、ネットワークカメラ104が音声入力機器105により収集した音声を監視装置102に送っている途中に、監視装置102からの音声ストリームの再生を行うとエコーやハウリングが発生する場合がある。これは、前述したように配信した音声が監視装置102内で回り込んで、再度自装置に戻ってくることが原因である。このような場合は、エコーキャンセラやハウリングディテクタを有効にすることで、音の回り込み(エコー)を抑制することができる。他方、ネットワークカメラ104自体が有する音声ファイルの再生の場合には、配信した音声が監視装置102内で回り込んでもそのエコーが自装置に戻ってくることはない。このような場合は逆に、エコーキャンセラやハウリングディテクタを無効にしておく方が音質はよくなる。
つまり、監視装置102からの音声ストリームの再生の場合は、エコーキャンセラやハウリングディテクタを有効にすることが好ましい。その一方で、ネットワークカメラ104自体が生成した音声ファイルの再生の場合は、エコーキャンセラやハウリングディテクタを無効にすることが好ましい。
これを実現するため、ネットワークカメラ104が生成した音声ファイルの再生から監視装置102からの音声ストリームデータの再生に切り替えた場合、実施形態1における出力音量変更のタイミングで、エコーキャンセラやハウリングディテクタを有効にする。逆に、監視装置102からの音声ストリームの再生からネットワークカメラ104が生成したファイル再生へ切り替える際には、実施形態1における出力音量の変更タイミングで、エコーキャンセラやハウリングディテクタを無効にする。
このように、出力音量だけでなくエコーやハウリング対策も同時に行うことで、音源の切替えとその後のストリーミング再生でのノイズ、エコー、ハウリングを抑制することができる。
ネットワークを利用した監視システムのシステム構成例を示す図である。 従来のネットワークカメラの音声再生に係る機能構成を示す図である。 実施形態におけるネットワークカメラの音声再生に係る機能構成を示す図である。 従来のネットワークカメラによる音声再生処理のシーケンス図である。 実施形態におけるネットワークカメラによる音声再生処理のシーケンス図である。

Claims (7)

  1. 音声データと、前記音声データの出力音量の制御値とを取得する取得手段と、
    前記取得手段により取得した音声データを一時的に蓄積するバッファ手段と、
    前記取得手段により取得した前記制御値に基づいて、前記バッファ手段に蓄積された音声データを増幅して出力する増幅手段と、
    前記取得手段により取得される音声データ第1の音源の音声データから第2の音源の音声データに切り替えられた場合、前記第2の音源の音声データの前に無音データを前記バッファ手段に出力する制御手段と、
    前記バッファ手段から前記無音データが出力されたことを検知する検知手段と、
    を備え、
    前記増幅手段は、前記検知手段によって前記無音データが出力されたことが検知された場合、前記第1の音源の音声データに対応する制御値から前記第2の音源の音声データに対応する制御値に切り替えて前記バッファ手段から出力された音声データを増幅することを特徴とする音声処理装置。
  2. 前記検知手段は、前記第1の音源の音声データから第2の音源の音声データに切り替わったとき前記バッファ手段蓄積されている音声データ量より、前記第1の音源の音声データから第2の音源の音声データに切り替わった後に前記バッファ手段から出力された音声データ量が大きくなった場合に、前記無音データが前記バッファ手段から出力されたと判断することを特徴とする請求項1に記載の音声処理装置。
  3. 前記検知手段は、前記第1の音源の音声データから第2の音源の音声データに切り替わったとき前記バッファ手段蓄積されている音声データ量のデータが出力されるまでの時間を算出し、その算出した時間が経過した場合に前記無音データが前記バッファ手段から出力されたと判断することを特徴とする請求項1に記載の音声処理装置。
  4. 前記第1の音源の音声データは、外部装置から供給される音声ストリームデータであり、前記第2の音源の音声データは、あらかじめ作成された音声ファイルのデータであることを特徴とする請求項1ないし3のいずれか1項に記載の音声処理装置。
  5. 前記増幅手段の出力信号に基づき音声を出力する音声出力手段と、
    音声を入力する音声入力手段と、
    前記音声出力手段から出力される音声が前記音声入力装置に回り込むことによって生じるエコーまたはハウリングを抑制する抑制手段と、
    を更に有し、
    前記制御手段は更に、前記検知手段によって無音データが出力されたことが検知された場合、前記抑制手段を無効にすることを特徴とする請求項4に記載の音声処理装置。
  6. 請求項1から5までのいずれか1項に記載の音声処理装置を有するカメラ装置。
  7. 音声データと、前記音声データの出力音量の制御値とを取得する取得工程と、
    前記取得工程において取得した音声データを一時的にバッファメモリに蓄積する蓄積工程と、
    前記取得工程において取得した前記制御値に基づいて、前記蓄積工程において蓄積された音声データを増幅して出力する増幅工程と、
    前記取得工程において取得される音声データの音源が第1の音源の音声データから第2の音源の音声データに切り替えられた場合、前記第2の音源の音声データの前に無音データを前記バッファメモリに出力する制御工程と、
    前記バッファメモリから無音データが出力されたことを検知する検知工程と、
    有し、
    前記増幅工程において、前記検知工程において無音データが出力されたことが検知された場合、前記第1の音源の音声データに対応する制御値から前記第2の音源の音声データに対応する制御値に切り替えて前記バッファメモリから出力された音声データを増幅することを特徴とする音声処理方法。
JP2005193086A 2005-06-30 2005-06-30 音声処理装置および方法 Active JP4566843B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2005193086A JP4566843B2 (ja) 2005-06-30 2005-06-30 音声処理装置および方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005193086A JP4566843B2 (ja) 2005-06-30 2005-06-30 音声処理装置および方法

Publications (3)

Publication Number Publication Date
JP2007013732A JP2007013732A (ja) 2007-01-18
JP2007013732A5 JP2007013732A5 (ja) 2008-08-07
JP4566843B2 true JP4566843B2 (ja) 2010-10-20

Family

ID=37751583

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005193086A Active JP4566843B2 (ja) 2005-06-30 2005-06-30 音声処理装置および方法

Country Status (1)

Country Link
JP (1) JP4566843B2 (ja)

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07122951A (ja) * 1993-10-22 1995-05-12 Mitsubishi Electric Corp 音響再生装置および音量制御方法
JPH07175989A (ja) * 1993-12-21 1995-07-14 Hochiki Corp 防災監視装置
JPH11298807A (ja) * 1998-04-07 1999-10-29 Mitsubishi Electric Corp 受像機器
JP2000230832A (ja) * 2000-01-31 2000-08-22 Aisin Aw Co Ltd 車両用経路誘導装置
JP2003050596A (ja) * 2001-08-06 2003-02-21 Matsushita Electric Ind Co Ltd 信号処理回路および信号処理方法
JP2003274367A (ja) * 2002-03-14 2003-09-26 Matsushita Electric Ind Co Ltd 再生装置

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07122951A (ja) * 1993-10-22 1995-05-12 Mitsubishi Electric Corp 音響再生装置および音量制御方法
JPH07175989A (ja) * 1993-12-21 1995-07-14 Hochiki Corp 防災監視装置
JPH11298807A (ja) * 1998-04-07 1999-10-29 Mitsubishi Electric Corp 受像機器
JP2000230832A (ja) * 2000-01-31 2000-08-22 Aisin Aw Co Ltd 車両用経路誘導装置
JP2003050596A (ja) * 2001-08-06 2003-02-21 Matsushita Electric Ind Co Ltd 信号処理回路および信号処理方法
JP2003274367A (ja) * 2002-03-14 2003-09-26 Matsushita Electric Ind Co Ltd 再生装置

Also Published As

Publication number Publication date
JP2007013732A (ja) 2007-01-18

Similar Documents

Publication Publication Date Title
EP2503767A2 (en) Video display apparatus, noise removing method, and video display system
JP2009033470A (ja) 音声取得装置、音声出力装置、雑音除去システム、及び、プログラム
US20110019748A1 (en) Signal and devices for wired networks
JP2008311831A (ja) 動画像通信装置、動画像通信システムおよび動画像通信用の半導体集積回路
JP2007214976A (ja) エコーキャンセル装置、テレビ電話端末、及びエコーキャンセル方法
JP3478690B2 (ja) 情報伝送方法及び情報記録方法と該方法を実施する装置
JP2010157964A (ja) 撮像装置
JP5139994B2 (ja) 記録装置および記録方法
JP2008060675A (ja) 音声再生装置、音声再生方法
JP4566843B2 (ja) 音声処理装置および方法
JP2008067258A (ja) ワイヤレスヘッドホンおよびワイヤレスヘッドホンシステム
JP6582722B2 (ja) コンテンツ配信装置
JP5340880B2 (ja) 遠隔会話システムの出力制御装置、その方法、およびコンピュータが実行可能なプログラム
JP2013183280A (ja) 情報処理装置、撮像装置、及びプログラム
JP2008107397A (ja) Hdmi伝送方式送受信システムおよびその関連技術
JP2008278323A (ja) ネットワークカメラ
JP2006074359A (ja) 遠隔会議システムにおける音声データの送受信システム及び制御方法
JP2008294600A (ja) 放収音装置、および放収音システム
JP5317936B2 (ja) 音声信号処理装置
JP7443662B2 (ja) 拡声装置
JP4947295B2 (ja) 送受信装置、データ量調整方法、データ量調整プログラムおよび通信システム
JP2019091988A (ja) 音声処理装置および音声処理方法
JPH089317A (ja) 画像及び音声記録装置
JP2009157337A (ja) 集音環境判定装置及びそれを備えた電子機器並びに集音環境判定方法
JP2005057609A (ja) カメラ

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080625

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080625

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100727

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100802

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100804

R150 Certificate of patent or registration of utility model

Ref document number: 4566843

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130813

Year of fee payment: 3