JP4787674B2 - テレビ会議システム - Google Patents

テレビ会議システム Download PDF

Info

Publication number
JP4787674B2
JP4787674B2 JP2006139653A JP2006139653A JP4787674B2 JP 4787674 B2 JP4787674 B2 JP 4787674B2 JP 2006139653 A JP2006139653 A JP 2006139653A JP 2006139653 A JP2006139653 A JP 2006139653A JP 4787674 B2 JP4787674 B2 JP 4787674B2
Authority
JP
Japan
Prior art keywords
terminal
compression
audio data
video conference
main speaker
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2006139653A
Other languages
English (en)
Other versions
JP2007312146A (ja
Inventor
潤一 飯澤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Engineering Ltd
Original Assignee
NEC Engineering Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Engineering Ltd filed Critical NEC Engineering Ltd
Priority to JP2006139653A priority Critical patent/JP4787674B2/ja
Publication of JP2007312146A publication Critical patent/JP2007312146A/ja
Application granted granted Critical
Publication of JP4787674B2 publication Critical patent/JP4787674B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Telephonic Communication Services (AREA)

Description

本発明は、テレビ会議システムに関し、特に、多くの端末装置に接続され、音声制御に重点を置いたテレビ会議システムに関する。
従来、テレビ会議システムは、カメラ等で撮影した画像及びマイクロホン等で入力した音声を、符号化及び多重化して通信回線を介して相手側の端末装置に送信し、受信側の端末装置でその多重化信号を分離し、復号化してモニタやスピーカから再生する。
3地点以上に配置された端末装置を接続して会議を行う場合には、各端末装置(以下、「端末」という)から一旦多地点テレビ会議制御装置(Multi point Control Unit、以下、「MCU」という)に接続し、MCUで各端末の画像データ及び音声データを処理して各端末に再び送信する。その際、画像データを縮小して1画面に複数の端末分の画像を表示し、1つの端末の画像を固定的に、又は、切り替えながら表示するよう制御する。また、各端末から受信した音声データは、ミキサーで加算され、各端末に配信される。
また、3地点以上に配置された端末を接続して会議を行う場合には、表示する画像を決めて合成表示する端末を選択するため、音声レベルを検出し、決められたアルゴリズムに基づいて主話者を決定し、その主話者の映像を表示する方法が一般的である。
さらに、例えば、特許文献1には、インターネットに接続され、音声入出力手段及び画像入出力手段を具備するクライアント装置と、これらクライアント装置によるテレビ会議の接続・切断等を制御する制御サーバと、クライアント装置からの画像を収集し、クライアント装置に分配する画像サーバと、クライアント装置からの音声を収集し、クライアント装置に分配する音声サーバと、音声データを各クライアント装置に送信するときに、その音声の音像定位情報を付加して各クライアント装置に送信する音声サーバとで構成され、各クライアント装置は、受信した音を、その音像定位情報に従った音像位置になるように再生する音声伝送システム及び音声再生装置が提案されている。
また、特許文献2には、複数のマイクロホンで集音した各送話者の音声信号を音声信号混合器で混合し、当該混合音声信号を出力信号切替器へ伝送するとともに、前記音声信号の音圧レベルを複数の音圧レベル測定器で測定し、最大音圧レベルマイクロホン判定器により音圧が最大となるマイクロホンを特定し、当該マイクロホン番号を示す制御信号を伝送路を介して出力信号切替器へ伝送し、出力信号切替器によって前記制御信号に応じて、複数のスピーカのうち音圧レベルが最大となったマイクロホンに対応するスピーカを選択し、当該スピーカに前記混合音声信号を与え、当該スピーカから前記混合音声信号を再生するテレビ会議音像定位装置が提案されている。
特開2001−036881号公報 特開平08−140068号公報
しかし、上記従来のテレビ会議システム等においては、主話者の発言中に他の人が発言すると、その音声が加算されるため、主話者の発言が聞き取りづらくなるという問題があった。
そこで、本発明は、上記従来のテレビ会議システムにおける問題点に鑑みてなされたものであって、主話者の発言中に他の人が発言しても、主話者の発言をより明瞭に聞き取ることができるテレビ会議システムを提供することを目的とする。
上記目的を達成するため、本発明は、複数の地点に各々配置された端末と、該複数の端末と通信するテレビ会議制御装置とで構成されるテレビ会議システムであって、前記複数の端末の中から、所定のプログラムに基づいて1機の主話者の端末を選択し、該選択された主話者の端末から入力された音声データのレベルを減衰させる圧縮を開始するまでの時間を所定の時間より延長するか、前記選択された主話者の端末以外の端末から入力された音声データのレベルを減衰させる圧縮を開始するまでの時間を所定の時間より短縮するか、又は、これらの両方を同時に行い、前記変更された圧縮を開始するまでの時間又は所定の時間に基づいて、前記複数の端末から入力された音声データを圧縮し、該圧縮された音声データを加算して前記各々の端末に出力することを特徴とする。
そして、本発明によれば、前記複数の端末の中から、所定のプログラムに基づいて1機の議長等の主話者の端末を選択し、該選択された端末から入力された音声データのレベルを減衰させる圧縮を開始するまでの時間を所定の時間より延長するか、前記選択された端末以外の端末、すなわち他の話者から入力された音声データのレベルを減衰させる圧縮を開始するまでの時間を所定の時間より短縮するか、又は、これらの両方を同時に行うことができるため、議長等の主話者の音声の聴覚上の音場を他の話者より前方に位置付けることができ、また、主話者の音声の立ち上がり部分を他の話者の立ち上がり部分より大きくすることができるとともに、主話者の音声の子音を強調することができるため、主話者の音声を聞き取りやすくすることが可能となる。
前記テレビ会議システムにおいて、前記複数の端末の各々から入力された音声データを所定の音量に均一化することができる。これによって、主話者の音声が小さく、他の話者の音声が大きい場合でも、主話者の音声を聞き取りやすくすることができる。
また、本発明は、複数の地点に各々配置された端末と、該複数の端末と通信するテレビ会議制御装置とで構成されるテレビ会議システムを制御するためのプログラムであって、前記複数の端末の中から、所定のプログラムに基づいて1機の主話者の端末を選択するステップと、該選択された主話者の端末から入力された音声データのレベルを減衰させる圧縮を開始するまでの時間を所定の時間より延長するか、前記選択された主話者の端末以外の端末から入力された音声データのレベルを減衰させる圧縮を開始するまでの時間を所定の時間より短縮するか、又は、これらの両方を同時に行うステップと、前記変更された圧縮を開始するまでの時間又は所定の時間に基づいて、前記複数の端末から入力された音声データを圧縮するステップと、該圧縮された音声データを加算して各々の端末に出力するステップとで構成されることを特徴とする。
そして、本発明によれば、上述のように、前記テレビ会議システム制御プログラムを用いることによって、前記複数の端末の中から、所定のプログラムに基づいて1機の議長等の主話者の端末を選択し、該選択された端末から入力された音声データのレベルを減衰させる圧縮を開始するまでの時間を所定の時間より延長するか、前記選択された端末以外の端末から入力された音声データのレベルを減衰させる圧縮を開始するまでの時間を所定の時間より短縮するか、又は、これらの両方を同時に行うことができるため、議長等の主話者の音声の聴覚上の音場を他の話者より前方に位置付けることができ、また、主話者の音声の立ち上がり部分を他の話者の立ち上がり部分より大きくすることができるとともに、主話者の音声の子音を強調することができるため、主話者の音声を聞き取りやすくすることが可能となる。
前記テレビ会議システム制御プログラムにおいて、前記複数の端末の各々から入力された音声データを所定の音量に均一化するステップを備えることができる。これによって、主話者の音声が小さく、他の話者の音声が大きい場合でも、主話者の音声を聞き取りやすくすることができる。
また、本発明は、複数の地点に各々配置された端末と通信するテレビ会議制御装置であって、前記複数の端末の中から所定のプログラムに基づいて1機の主話者の端末を選択する選択手段と、該選択手段によって選択された主話者の端末の音声データのレベルを減衰させる圧縮を開始するまでの時間を所定の時間より延長するか、前記選択された主話者の端末以外の端末の音声データのレベルを減衰させる圧縮を開始するまでの時間を所定の時間より短縮するか、又は、これらの両方を同時に行う圧縮開始時間変更手段と、前記複数の端末から入力された音声データを、前記圧縮開始時間変更手段が変更した圧縮を開始するまでの時間又は所定の時間に基づいて圧縮する圧縮手段と、該圧縮手段によって圧縮された音声データを加算する加算手段と、該加算手段によって加算された音声データを各々の端末に出力する出力手段とで構成されることを特徴する。
そして、本発明によれば、上述のように、前記テレビ会議制御装置を用いることによって、前記複数の端末の中から、所定のプログラムに基づいて1機の議長等の主話者の端末を選択し、該選択された端末から入力された音声データのレベルを減衰させる圧縮を開始するまでの時間を所定の時間より延長するか、前記選択された端末以外の端末から入力された音声データのレベルを減衰させる圧縮を開始するまでの時間を所定の時間より短縮するか、又は、これらの両方を同時に行うことができるため、議長等の主話者の音声の聴覚上の音場を他の話者より前方に位置付けることができ、また、主話者の音声の立ち上がり部分を他の話者の立ち上がり部分より大きくすることができるとともに、主話者の音声の子音を強調することができるため、主話者の音声を聞き取りやすくすることが可能となる。
前記テレビ会議制御装置において、前記複数の端末の各々から入力された音声データを所定の音量に均一化することができる。これによって、主話者の音声が小さく、他の話者の音声が大きい場合でも、主話者の音声を聞き取りやすくすることができる。
以上のように、本発明によれば、主話者が発言している際に、他の話者が発言したとしても、主話者の音声を明瞭に聞き取ることなどを可能とするテレビ会議システム等を提供することができる。
次に、本発明の実施の形態について図面を参照しながら説明する。
本発明にかかるテレビ会議システムは、大別して、複数の端末1(1A〜1D)と、この複数の端末1と通信するテレビ会議制御装置2とで構成される。
テレビ会議制御装置2は、音声入力101〜104の音声レベルを計測し、決められたアルゴリズムに基づいて主話者となる端末1を決定し、その情報(主話者情報)300をアタックタイム設定部30に伝達するレベル比較部10と、レベル比較部10からの主話者情報300に基づいて、コンプレッサ部21〜24に設定するアタックタイム(コンプレッサ部21〜24が圧縮を開始するまでの時間)を決定して設定するアタックタイム設定部30と、音声入力101〜104が入力され、各端末1の音声レベルが均一になるように、また、アタックタイム設定部30からのアタックタイムの設定に従って各々圧縮を行うコンプレッサ部21〜24と、コンプレッサ部21〜24で圧縮された音声データを加算する加算部40とで構成される。
アタックタイム設定部30は、アタックタイムを、主話者となる端末1は長め(例えば100m/s程度)に設定し、主話者以外の端末1は短め(例えば数m/s程度)に設定するために備えられる。
尚、端末1には、一般に使用されているテレビ電話等を使用することができるため説明を省略する。
次に、本発明にかかるテレビ会議システムの動作について図面を参照しながら説明する。
レベル比較部10は、音声入力101〜104の音声レベルや持続時間を計測し、例えば、「決められた音声レベルを超え、ある一定時間そのレベルを持続した場合に主話者と判定する」というような、予め決められたアルゴリズムに基づいて主話者の端末1を決定し、その情報(主話者情報300)をアタックタイム設定部30に伝達する。
音声入力101〜104は、コンプレッサ部21〜24にも入力され、コンプレッサ部21〜24は、図2に示すように、ある決められた入力レベル(閾値レベル)を超えた入力が入ってきた場合に出力レベルを減衰させる特性を備えた増幅器であり、コンプレッサ部21〜24に各々同じ閾値レベルを設定することで、各端末1の音声レベルの大小差を少なくすることができる。
図3(a)がコンプレッサ部21〜24に入力される音声信号201〜204、図3(b)がコンプレッサ部21〜24から出力される音声信号401〜404の大きさを示す。この機能により、例えば、主話者の発言中に、他の端末1の話者がより大きな声で発言したような場合でも、他の話者の音声レベルが抑えられるため、主話者の音声を聞き取りやすくすることができる。
尚、コンプレッサ部21〜24は、図4に示すように、閾値レベルを越えてから圧縮を開始するまでの時間(アタックタイム)を設定(アタックタイム設定情報501〜504)によって変更する機能を有する。テストトーンを入力した場合のアタックタイムの違いによる出力波形を図5(a)〜(c)に示す。図5(a)は入力波形、図5(b)はアタックタイムが短めの場合の出力波形、図5(c)はアタックタイムが長めの場合の出力波形を示している。圧縮された音声レベルを原音のレベルに増幅すると、相対的に音の立ち上がり部分が強調されることになり、しかもアタックタイムが長めの方が強調される立ち上がり時間が長くなる。したがって、人間の言葉が入力された場合は、アタックタイムが長めの方が言葉の立ち上がり部分、すなわち子音部分がより強調される。
また、コンプレッサを使用して音の立ち上がり部分を強調することにより、聴感上の音場をより前方に定位させることもできる。例えば、音楽CDの制作現場では、バックの楽器の音にボーカルが埋もれてしまうのを防ぐため、図6に示すように、アタックタイムが長めのコンプレッサをボーカルにかけて音場を前方に定位する手法が一般的に用いられている(図6(a))。本発明においても、主話者の音声の立ち上がり部分を、その他の発言者より強調することによって、主話者が一歩前に出て発言しているかのような音場定位を作り出している(図6(b))。
コンプレッサ部21〜24から出力された圧縮音声信号401〜404は、加算部で加算され、各端末1へ送信される。その際、主話者の音声は他の端末1の音声よりも立ち上がり部分が強調されて再生されるため、主話者が他者よりも一歩前に出たような音場定位となり、主話者の音声がより聞き取りやすくなる。
尚、図1に示した実施の形態は、複数の参加者が同等の立場で発言する場合を示すが、例えば、予め決められた議長が存在し、その議長の発言が他の参加者の発言よりも優先される場合、又は、講義形態で講師と受講者が参加し、講師の発言が受講者の発言よりも優先される場合等、特定の話者の発言を他者よりも優先させる必要があるような用途においても本発明を適用することができる。その場合には、レベル比較部10は必要なく、優先されるべき話者の端末を特定してアタックタイム設定部30に通知すればよい。尚、その後の動作は前述の実施の形態と同様であるため説明を省略する。
本発明にかかるテレビ会議システムの一実施の形態の全体構成を示すブロック図である。 本発明におけるコンプレッサ部の基本動作を示す図である。 本発明におけるコンプレッサ部の動作結果を示す図であり、(a)は、コンプレッサ部に入力される音声信号のレベルを示し、(b)は、コンプレッサ部から出力される音声信号のレベルを示す。 本発明におけるコンプレッサ部のアタックタイムを示す図である。 本発明におけるコンプレッサ部のアタックタイムの違いによる動作の違いを示す図であり、(a)は、コンプレッサ部への入力レベルを示し、(b)は、アタックタイムが短めの場合のコンプレッサ部からの出力波形を示し、(c)は、アタックタイムが長めの場合のコンプレッサ部からの出力波形を示す。 コンプレッサを使用した場合の音場定位を示す図であり、(a)は、音楽CD制作現場でコンプレッサが使用された場合の音場定位を示し、(b)は、本発明のテレビ会議システムにおける音場定位を示す。
符号の説明
1(1A〜1D) 端末
2 テレビ会議制御装置
10 レベル比較部
21〜24 コンプレッサ部
30 アタックタイム設定部
40 加算部
101〜104 入力音声信号
201〜204 コンプレッサ部への入力信号
300 主話者情報
401〜404 コンプレッサ部からの出力信号
501〜504 アタックタイム設定情報

Claims (6)

  1. 複数の地点に各々配置された端末装置と、該複数の端末装置と通信するテレビ会議制御装置とで構成されるテレビ会議システムであって、
    前記複数の端末装置の中から、所定のプログラムに基づいて1機の主話者の端末装置を選択し、
    該選択された主話者の端末装置から入力された音声データのレベルを減衰させる圧縮を開始するまでの時間を所定の時間より延長するか、前記選択された主話者の端末装置以外の端末装置から入力された音声データのレベルを減衰させる圧縮を開始するまでの時間を所定の時間より短縮するか、又は、これらの両方を同時に行い、
    前記変更された圧縮を開始するまでの時間又は所定の時間に基づいて、前記複数の端末装置から入力された音声データを圧縮し、
    該圧縮された音声データを加算して前記各々の端末装置に出力することを特徴とするテレビ会議システム。
  2. 前記複数の端末装置の各々から入力された音声データを所定の音量に均一化することを特徴とする請求項1に記載のテレビ会議システム。
  3. 複数の地点に各々配置された端末装置と、該複数の端末装置と通信するテレビ会議制御装置とで構成されるテレビ会議システムを制御するためのプログラムであって、
    前記複数の端末装置の中から、所定のプログラムに基づいて1機の主話者の端末装置を選択するステップと、
    該選択された主話者の端末装置から入力された音声データのレベルを減衰させる圧縮を開始するまでの時間を所定の時間より延長するか、前記選択された主話者の端末装置以外の端末装置から入力された音声データのレベルを減衰させる圧縮を開始するまでの時間を所定の時間より短縮するか、又は、これらの両方を同時に行うステップと、
    前記変更された圧縮を開始するまでの時間又は所定の時間に基づいて、前記複数の端末装置から入力された音声データを圧縮するステップと、
    該圧縮された音声データを加算して各々の端末装置に出力するステップとで構成されることを特徴とするテレビ会議システム制御プログラム。
  4. 前記複数の端末装置の各々から入力された音声データを所定の音量に均一化するステップを備えることを特徴とする請求項3に記載のテレビ会議システム制御プログラム。
  5. 複数の地点に各々配置された端末装置と通信するテレビ会議制御装置であって、
    前記複数の端末装置の中から所定のプログラムに基づいて1機の主話者の端末装置を選択する選択手段と、
    該選択手段によって選択された主話者の端末装置の音声データのレベルを減衰させる圧縮を開始するまでの時間を所定の時間より延長するか、前記選択された主話者の端末装置以外の端末装置の音声データのレベルを減衰させる圧縮を開始するまでの時間を所定の時間より短縮するか、又は、これらの両方を同時に行う圧縮開始時間変更手段と、
    前記複数の端末装置から入力された音声データを、前記圧縮開始時間変更手段が変更した圧縮を開始するまでの時間又は所定の時間に基づいて圧縮する圧縮手段と、
    該圧縮手段によって圧縮された音声データを加算する加算手段と、
    該加算手段によって加算された音声データを各々の端末装置に出力する出力手段とで構成されることを特徴するテレビ会議制御装置。
  6. 前記複数の端末装置の各々から入力された音声データを所定の音量に均一化する音量均一化手段を備えることを特徴とする請求項5に記載のテレビ会議制御装置。
JP2006139653A 2006-05-19 2006-05-19 テレビ会議システム Active JP4787674B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006139653A JP4787674B2 (ja) 2006-05-19 2006-05-19 テレビ会議システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006139653A JP4787674B2 (ja) 2006-05-19 2006-05-19 テレビ会議システム

Publications (2)

Publication Number Publication Date
JP2007312146A JP2007312146A (ja) 2007-11-29
JP4787674B2 true JP4787674B2 (ja) 2011-10-05

Family

ID=38844582

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006139653A Active JP4787674B2 (ja) 2006-05-19 2006-05-19 テレビ会議システム

Country Status (1)

Country Link
JP (1) JP4787674B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102244762A (zh) * 2011-06-03 2011-11-16 深圳市东微智能科技有限公司 一种会议系统的摄像跟踪方法及系统

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07240783A (ja) * 1994-02-25 1995-09-12 Nippondenso Co Ltd 送受話レベル調整装置
JPH1075310A (ja) * 1996-08-29 1998-03-17 Nec Corp 多地点テレビ会議システム
JP3560215B2 (ja) * 1997-11-28 2004-09-02 日本ビクター株式会社 信号レベルの圧縮を用いた音像定位処理装置
JP3743300B2 (ja) * 2001-03-14 2006-02-08 日本電気株式会社 会議端末、その制御方法及び多地点会議システム、その通信方法
JP4256631B2 (ja) * 2002-06-03 2009-04-22 パナソニック株式会社 オートゲインコントロール装置
JP2005020335A (ja) * 2003-06-26 2005-01-20 Hitachi Kokusai Electric Inc 通信装置

Also Published As

Publication number Publication date
JP2007312146A (ja) 2007-11-29

Similar Documents

Publication Publication Date Title
US8718285B2 (en) Decoding device, coding and decoding device, and decoding method
KR100283421B1 (ko) 음성 속도 변환 방법 및 그 장치
JP5339852B2 (ja) 録音装置
US20050281421A1 (en) First person acoustic environment system and method
US8010366B1 (en) Personal hearing suite
EP2175669A1 (en) System and method for configuring a hearing device
US9959881B2 (en) Voice processing device, audio and video output apparatus, communication system, and sound processing method
JP4992591B2 (ja) 通信システム及び通信端末
JP2006254064A (ja) 遠隔会議システム、音像位置割当方法および音質設定方法
CN112688965B (zh) 一种会议音频共享方法、装置、电子设备及存储介质
JP4787674B2 (ja) テレビ会議システム
JP2007158526A (ja) 発話抑制装置、発話抑制方法および発話抑制装置のプログラム
JP2008034979A (ja) 音声通信装置、および音声通信システム
JP4222564B2 (ja) 聴覚補償方式個人適応システム
JP2005151002A (ja) 遠隔会議システム
JP5391175B2 (ja) 遠隔会議方法、遠隔会議システム及び遠隔会議プログラム
US11871199B2 (en) Sound signal processor and control method therefor
US20230035219A1 (en) Teleconference method and teleconference system
JP2005123959A (ja) 高臨場感通信会議装置
JP6952524B2 (ja) 録音機、録音方法及び録音のためのプログラム
JP7293863B2 (ja) 音声処理装置、音声処理方法およびプログラム
JPH11177952A (ja) ビデオ会議装置
WO2013146510A1 (ja) 会議システム、プログラムおよび会議方法
JP2022114044A (ja) 遠隔会議装置、遠隔会議方法、遠隔会議端末および遠隔会議システム
JPH07226930A (ja) 通信会議システム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090413

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110120

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110125

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110328

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110419

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110607

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110628

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110715

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

Ref document number: 4787674

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140722

Year of fee payment: 3

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350