JP3819852B2 - 通信支援方法、通信支援装置、通信支援プログラム及び通信支援プログラムを記録したコンピュータ読み取り可能な記録媒体 - Google Patents

通信支援方法、通信支援装置、通信支援プログラム及び通信支援プログラムを記録したコンピュータ読み取り可能な記録媒体 Download PDF

Info

Publication number
JP3819852B2
JP3819852B2 JP2003021074A JP2003021074A JP3819852B2 JP 3819852 B2 JP3819852 B2 JP 3819852B2 JP 2003021074 A JP2003021074 A JP 2003021074A JP 2003021074 A JP2003021074 A JP 2003021074A JP 3819852 B2 JP3819852 B2 JP 3819852B2
Authority
JP
Japan
Prior art keywords
data
communication
support
support data
user terminals
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2003021074A
Other languages
English (en)
Other versions
JP2004235895A (ja
Inventor
仁 山内
正信 森永
英明 宮崎
愛 矢野
訓行 福山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2003021074A priority Critical patent/JP3819852B2/ja
Priority to US10/742,939 priority patent/US7266368B2/en
Publication of JP2004235895A publication Critical patent/JP2004235895A/ja
Application granted granted Critical
Publication of JP3819852B2 publication Critical patent/JP3819852B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/14Systems for two-way working
    • H04N7/15Conference systems

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Telephonic Communication Services (AREA)
  • Information Transfer Between Computers (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、ネットワークを介して接続される複数のユーザ端末における通信支援方法及び通信支援装置に関する。本発明において、メール及びチャットの通信形態は音声データ、テキストデータ及び画像データを含み、画像データは静止画像及び動画像を含むものとする。また、テキストベースでのメールをテキストメール、音声ベースでのメールを音声メールというものとする。同様に、テキストベースでのチャットをテキストチャット、音声ベースでのチャットを音声チャットというものとする。
【0002】
【従来の技術】
テレビ会議システムには、複数台のパソコンやカメラ等のユーザ端末とユーザ端末を統合するサーバ端末とが接続されている。テレビ会議システムでは、発言内容に関連する蓄積データをサーバから読み出してユーザ端末の画面に表示することにより、円滑に会議を進行することができる技術が使用されている。例えば、あらかじめ会議に関連する情報をサーバに蓄積しておくか、あるいは会議の進行中にユーザ端末から入力された発言内容をサーバに蓄積しておく。そして、あらかじめ蓄積された情報や過去の発言内容を、ユーザ端末からの発言内容に応じて読み出し、画面に表示する。このように、会議中に議題として採りあげられている内容に関連する情報を選択して適宜表示することにより会議を効率的に進めることができる(特許文献1参照)。
【0003】
また、テレビ会議システムにおいてあらかじめ識別子を付して画像を登録しておき、会議中にその識別子が入力されたり、その識別子に関連する発言があると、その識別子に応じた画像を表示する技術が開示されている(特許文献2参照)。
さらに、チャットシステムの付加サービスとして、テキストチャットによる自動応答サービスがある。ここで、チャットシステムは、ネットワークに接続されたチャットサーバと複数のチャットクライアントとによって構成される。このチャットシステムでは、ネットワーク上に設営されたチャネルと呼ばれる仮想的な会話空間を複数のチャットクライアントにより共有して、リアルタイムにメッセージを送受信可能である。また、テキストチャットによる自動応答サービスとは、自動応答サービスを提供する装置がチャットクライアントと同様にチャット会議室へ参加し、ユーザ端末から単語が会議室に送信された場合に、その単語を元に検索を行い、検索結果をチャットで会議室へ送信するサービスである。このような自動応答サービスとして例えば、ユーザ端末によりチャットで指定された会社の株価を画面に表示することにより提供する株価サービス、指定した出発駅の電車時刻を知らせるサービス、ユーザ端末により指定された単語を検索用のWWW(World Wide Web)ページに送信し、関連するURL(Uniform Resource Locator)を知らせるサービスなどがある。このような自動応答サービスにより、チャットクライアント間の円滑な会話を助けている。
【0004】
【特許文献1】
特開平5−347666
【0005】
【特許文献2】
特開平11−355747
【0006】
【発明が解決しようとする課題】
しかし、前記特許文献1及び2に記載の技術や自動応答サービスでは、会議室内の発言内容に応じた情報をユーザ端末に音声データにより提供する場合、ユーザ端末間の音声通信が音声データにより提供される情報により妨害される問題がある。例えば、テレビ会議システム内のユーザ端末は、通常、複数のユーザ端末を含む端末からの音声データを受信する機能を有している。そのため、テレビ会議の議題に関連する情報をユーザ端末に対して音声データにより提供すると、ユーザ端末間における音声通信と重なる場合が生じ得る。よって、ユーザ端末間の音声通信が聞き取りにくくなり、会議が円滑に進まないという問題がある。
【0007】
近年の通信ネットワークの高速化にともなって、ユーザ端末間の通信形態はテキストデータや画像データのみならず、音声データを伴うテレビ会議システムの利用が加速すると予想される。例えば、航空等の乗車券予約、電車乗換え案内、宿泊案内、介護医療情報提供、占い、天気予報等の音声によるサービスの開発が進められており、これらのサービスをテレビ会議システムにおいて利用することが考えられる。さらに、WWWでの検索サービスを、Voice XML(Voice eXtensible Markup Language)を用いた共通のXMLデータを用いて提供するサービスも開発が進められている。よって今後、ユーザ端末間の音声通信のみならずサービス提供側とユーザ端末との音声通信も多くなることに伴い、通信を円滑に行える技術がさらに要求される。
【0008】
そこで、本発明は、通信システムにおいて、通信を円滑に進めるための支援技術を提供することを目的とする。
【0009】
【課題を解決するための手段】
前記課題を解決するために、本願第1発明は、複数のユーザ端末とネットワークを介して接続される通信支援装置が行う通信支援方法を提供する。この通信支援方法は、以下のステップを含む。
・前記複数のユーザ端末間の通信データを受信する受信ステップと、
前記通信データの内容に基づいて抽出される、前記複数のユーザ端末間の通信を支援するための支援データを取得する支援データ取得ステップと、
・前記通信データに音声データが含まれるか否かを判定する通信状況判定ステップと、
・前記支援データに音声データが含まれるか否かを判定する支援データ判定ステップと、
・前記通信状況判定ステップにおいて前記複数のユーザ端末通信データに音声データが含まれていると判定され、かつ前記支援データ判定ステップにおいて前記支援データに音声データが含まれていると判定された場合、前記支援データ中の音声データの音量を調整する音量調整ステップと、
前記支援データを前記複数のユーザ端末に提供する際に、前記ユーザ端末間で音声データを含む通信データが送受信されている場合に、前記音量調整ステップにより音量が調整された音声データを含む支援データを前記複数のユーザ端末に提供する支援データ提供ステップ。
【0010】
上記の通信支援方法においては、ユーザ端末において音声通信が行われているか否かと支援データが音声データを含むか否かとに基づいて支援データの音量を調整してユーザ端末に提供する。そのため、ユーザ端末に提供される支援データが音声データを含む場合、ユーザ端末間の音声通信が妨害されるのを低減しつつユーザ端末に対して支援データを提供できる。よって、ユーザ端末間で支援データを有効に共有しつつ、会話を円滑に進行することができ、会話の質を向上することができる。支援データが音声データを含まない場合は、テキストデータや画像データにより支援データを提供することもできる。
【0011】
また、記憶した語彙と前記受信ステップで受信した通信データとを比較し、前記通信データから前記語彙に含まれる少なくとも1の単語を抽出するようにし、抽出された単語と関連する支援データを取得するようにすると好ましい。このようにすると、ユーザ端末はユーザ端末間の通信の内容に沿った支援データを受け取ることができ、ユーザ端末間の会話の質をさらに向上することができる。
さらに、ユーザ端末から一定時間内に受信した単語を記憶し、その各単語の出現回数を算出する。そして、算出された出現回数が一定回数以上の単語を単語として抽出すると、ユーザ端末間で行われている通信、つまり会話の内容に対する関連が高い支援データを取得することができ好ましい。このとき、有用と思われる支援データを想定される単語と対応づけておくことにより、ユーザ端末間の通信を効率的に促進することができる。
【0012】
また、支援データを記憶しているコンピュータ端末にネットワークを介して接続し、コンピュータ端末から支援データを取得するようにすると、例えばインターネット上のWWWサーバから広範囲に支援データを検索・取得することができ好ましい。
前記通信状況判定ステップにおいて、通信支援装置が、ユーザ端末間における音声通信の音量を測定し、その測定結果に応じて音量を調整するようにすると、ユーザ端末間の音声通信が支援データにより妨害されるのを低減することができるので好ましい。例えば、測定音量が小さい場合は、支援データを測定音量より小さい音量で提供するようにすると音声通信の妨害を低減することができる。
【0013】
さらに、受信した通信データと前記支援データとの関連度合いを各ユーザ端末毎に評価し、その関連度合いに基づいて支援データの音量をユーザ端末毎に調整するようにすると、ユーザ端末毎の支援データへの関心度に応じて効果的に支援データを提供することができ好ましい。例えば、あるユーザ端末と支援データとの関連度合いが他のユーザ端末より高い場合は、そのユーザ端末に提供する支援データの音量を大きくする。一方、別のユーザ端末と支援データとの関連度合いが低い場合は、そのユーザ端末に提供する支援データの音量を小さくする。
【0014】
また、各ユーザ端末における関連度合いを評価する場合、各ユーザ端末から送信された共通の単語の送信順により各ユーザ端末と支援データとの関連度合いを決定すると、自動的に関連度合いを評価し音量を調整することができ好ましい。例えば、最初にある共通の単語を送信したユーザ端末に対して関連する支援データを提供する場合、そのユーザ端末には他のユーザ端末よりも大きな音量で支援データを提供する。各ユーザ端末における関連度合いを各ユーザ端末から送信された共通の単語の送信回数により決定しても良い。例えばある共通の単語の送信回数を各ユーザ端末毎に算出し、送信回数に比例した音量で各ユーザ端末に支援データを提供する。このようにすることで、各ユーザ端末毎における支援データの必要度に応じて音量を調整することができる。
【0015】
本願第2発明は、前記第1発明において、前記複数のユーザ端末から受信した通信データと前記支援データとの関連度合いを評価する第1関連度評価ステップをさらに含み、前記音量調整ステップは、前記第1関連度評価ステップの評価結果に応じて前記複数ユーザ端末に提供する前記支援データ中の音声データの音量を調整する通信支援方法を提供する。
通信支援装置が、複数のユーザ端末と支援データとの関連度合いに応じて音量を調整して複数のユーザ端末に支援データを提供することで、例えばユーザ端末間で話題として採りあげられている度合いに応じて音量を調整することができる。
【0016】
本願第3発明は、前記第1発明の方法を実行する通信支援装置を提供する。
本願第4発明は、前記第1発明の方法をコンピュータに実行させる通信支援プログラムを提供する。
本願第5発明は、前記通信支援プログラムを記録したコンピュータ読み取り可能な記録媒体を提供する。
ここで記録媒体としては、コンピュータが読み書き可能なフレキシブルディスク、ハードディスク、半導体メモリ、CD−ROM、DVD、光磁気ディスク(MO)、その他のものが挙げられる。
【0017】
【発明の実施の形態】
<発明の概要>
電話、マイク等のユーザ端末により音声通信が行われる音声会議システムを用いて、本発明の通信支援方法の概略を説明する。
図1は、本発明の音声会議システムの構成図、図2は図1の音声会議システムにおける通信支援方法の一例を示すフローチャートである。
(1)構成
まず、音声会議システムの構成を説明する。図1の音声会議システムでは、複数のユーザ端末(1a、1b、1c…)1、サーバ端末2及び通信支援装置(4a、4b、4c…)4がネットワーク3を介して互いに接続されている。サーバ端末2は、接続ユーザの情報やユーザ端末1の間で音声通信を行うための音声会議システムの情報を管理している。また、通信支援装置4は、ユーザ端末1間の音声通信に関連する情報の検索を行い、その検索結果をユーザ端末1に音声データにより提供する。ここで、検索結果とはユーザ端末1間の音声通信による通信データに関連した情報であり、以下では支援データというものとする。ユーザ端末1は、この支援データを参照することにより会議を円滑に進行し、会話の質を向上することができる。
(2)処理の流れ
次に、図2のフローチャートを用いて、ユーザ端末に支援データを提供する場合における通信支援装置4の通信支援方法を概説する。通信支援装置4は、複数の単語の集まりである語彙を記憶しているデータベース(以下、単語DB)をあらかじめ備えているものとする。
【0018】
ステップS1:通信支援装置4は、ネットワーク3を介してユーザ端末1間で行われる音声通信の通信データを受信する。
ステップS2:通信支援装置4は、受信した通信データを例えば、文字列として扱うことができるテキストデータに変換及び記憶し、通信データに関するデータベース(以下、テキストDB)を作成する。
ステップS3:ステップS2で作成されたテキストDBと単語DBとを比較し、ユーザ端末1間の通信データから単語を抽出する。このとき、例えば一定時間内の通信データをテキストDBに記憶し、そのテキストDB内に含まれる単語毎に出現回数を算出する。そして、一定数以上になった単語を抽出するようにしても良い。また、単語DBとして、ユーザ端末1間の通信データに関連する可能性のある単語のみを記憶したデータベース(以下、関連単語DB)を作成しておき、その、関連単語DBとテキストDBと比較し、通信データから単語を抽出するようにしても良い。関連単語DBを作成することで、より有用な支援データを検索するための単語を効率的に抽出することができる。
【0019】
ステップS4:ステップS3により単語が抽出された場合、通信支援装置4は、抽出された単語に基づいて、ユーザの通信データに対応する支援データを検索する。この場合の支援データは、音声会議を前提としているので音声データのみとする。通信支援装置4は、例えば通信支援装置4内にあらかじめ記憶されている支援データのデータベース(以下、支援データDB)の中から支援データを検索する。この支援データDB内の支援データは、例えば単語DBや関連単語DB内の単語と関連づけられている。あるいは、通信支援装置4以外のネットワーク3上のコンピュータ端末、例えばインターネット上のWWWサーバから支援データを検索するようにすると、広範囲に支援データを検索し取得することができる。
【0020】
ステップS5:通信支援装置4は、ステップS4で取得した支援データをユーザ端末1に提供するために、ユーザ端末1間で通信が行われているかどうか等の通信状況を把握する。通信状況は、例えばユーザ端末1間での音量を測定して把握するようにしても良い。また、サーバ端末2及び通信支援装置4の通信状況をさらに把握するようにすると、ネットワーク3に接続された全ての端末における通信状況に合わせて支援データを提供できる。例えば、サーバ端末2や通信支援装置4からユーザ端末1に何らかの情報が提供されている提供されている場合、その通信が音声で行われているかにより音量を調整して支援データを提供する等の対応が可能である。
【0021】
ステップS6:ステップS5により把握した通信状況に基づいて、音声通信が行われているか否かを判定する。
ステップS7:ステップS6により音声通信が行われていないことが判定された場合、ユーザ端末1に対して支援データを規定の音量または規定の音量に関係なく提供する。
ステップS8:ステップS7により音声通信が行われていることが判定された場合、支援データの音量を規定の音量よりも下げて提供する。支援データの音量は、ユーザ端末1間での音声通信の音量と比較し、その音量よりも下げて提供するようにしても良い。
【0022】
以上のように、音声データからなる支援データをユーザ端末1に提供する場合、ユーザ端末1の通信状況を把握し、通信状況に応じて支援データの音量を変化させて提供することで、ユーザ端末1間の音声通信が支援データにより妨害されるのを低減しつつ、複数ユーザに対して同時に支援データを提供できる。よって、ユーザ端末1間で、支援データを有効に共有しつつ、会話を円滑に進行することができ、会話の質を向上することができる。
<第1実施形態例>
図3(a)は本発明の第1実施形態例に係るテレビ会議システムの構成図、同図(b)はユーザ端末の一例である。
【0023】
図3(a)のテレビ会議システムは、図1の音声会議システムと同様に、複数のユーザ端末(1a、1b、1c…)1、サーバ端末2及び通信支援装置(4a、4b…)4がネットワーク3を介して接続されている。サーバ端末2には、接続ユーザの情報やユーザ端末1の間で音声データ、テキストデータ及び画像データによる通信を行うためのテレビ会議システムの状態を管理するサーバ5が含まれている。また、通信支援装置4には、ユーザ端末1に提供する支援データの音量を調整する音量管理部6、ユーザ端末1間の通信データ内の単語を抽出する単語管理部7、抽出された単語に基づいて支援データの検索を行う検索管理部8及び支援データが音声データを含むか否かを判定する判定管理部9が含まれている。通信支援装置4では、ユーザ端末1から送信された単語に基づいて検索を行い、その検索結果である支援データをユーザ端末1に音声データ、テキストデータ及び画像データにより提供する。ユーザ端末1は、この支援データを参照することにより会議を円滑に進行し、会話の質を向上することができる。
【0024】
図3(b)は、テレビ会議システムにおけるユーザ端末1の一例であり、音声データ、テキストデータ及び画像データにより通信が可能なように、テキストデータ入力用のキーボード11、音声データ入力用のマイク13、画像データ入力用のカメラ15、音声データ出力用のスピーカ17及びテキスト・画像データ出力用のディスプレイ19等の入出力機器を備える。
図4は、このようなユーザ端末のディスプレイ19における画面例である。ディスプレイ19には、ネットワーク3に接続されている各ユーザ端末1を使用しているユーザの画像やテキストによる会話が表示されている。
【0025】
以下に、第1実施形態例に係るテレビ会議システムにおけるサーバ端末2及び通信支援装置4の具体的構成を説明する。
(1)構成
(1−1)サーバ端末の構成
まずサーバ5について説明する。図5は、サーバ端末2内のサーバ5の構成の一例である。サーバ5は、例えば接続しているユーザ端末1のユーザ名、ユーザID等が記憶されているユーザDB20、ユーザ端末1の間でテレビ会議を行うためのテレビ会議システムの情報を管理する会議システムDB22を有している。サーバ5はこれらの情報により、ユーザ端末1やネットワーク3を介して接続されるユーザ端末1等の端末が構成するテレビ会議システムを管理する。また、サーバ5は、テレビ会議を行うためのテレビ会議サーバ24を有している。さらに、音声・テキストチャット、音声・テキストメールによる通信を行うためのチャットサーバやEmailサーバが設けられていても良い。チャットサーバやEmailサーバは、テレビ会議サーバ24内に含まれていても良い。
(1−2)通信支援装置の構成
図6は、通信支援装置4の構成の一例である。通信支援装置4は、受信部30、音量管理部6、単語管理部7、検索管理部8、判定管理部9及び支援データ送信部100を有している。各部について、以下に説明を行う。
[受信部]
受信部30は、ユーザ端末1から送信された通信データを受信する部分である。受信部30は、ユーザ端末1からの通信データのみならず通信支援装置4やサーバ端末2からの通信データを受信するようにしても良い。受信部30は、例えば、マイク13からの音声データを受信する音声受信部32、キーボード11からのテキストデータを受信するテキスト受信部34及びカメラ15からの画像データを受信する画像受信部36を有している。
【0026】
なお、受信部30は、テレビ会議システムに接続されたユーザ端末1が有しているクライアント機能により実現可能である。その場合には省略可能である。
[単語管理部]
単語管理部7は、受信部30が受信した通信データ内から単語を検出する部分である。単語管理部7は、例えばテキスト変換部72、テキストDB74、単語抽出部76、単語DB77及び単語カウンタ78を有している。
テキスト変換部72は、受信部30で受信した通信データ内の音声データを例えば音声テキスト変換ツールによりテキストデータに、画像データを例えば画像データからテキスト情報を抽出するツール、あるいは画像データから画像データの特徴を示すテキスト情報を生成するツールよりテキストデータに変換する。テキストDB74は、テキスト変換部72によりテキストデータに変換された通信データを蓄積する。テキストDB74は、通信データとその通信データを送信したユーザ端末1を関連づけて蓄積すると、後述の支援データとの関連度合いを判定することができるので好ましい。
【0027】
単語DB77は、複数の単語の集まりである語彙を記憶している。単語抽出部76は、テキストDB74と単語DB77とを比較し、テキストDB74から単語を抽出する。単語の抽出は、例えば一定時間内の単語毎の出現回数を算出し、単語カウンタ78によりカウントし、出現回数の多いものを順に抽出することにより行う。あるいは、出現回数が一定数以上になった単語を抽出するようにしても良い。また、単語DB77としてユーザ端末1間の通信データに関連する可能性のある単語のみを記憶した前述の関連単語DBを備えておき、関連単語DBとテキストDB74とを比較することにより単語を抽出すると、より有用な支援データを検索するための単語を効率的に抽出することができる。その他、検索ボタンがONされたことを検出して単語を抽出するようにしても良い。
【0028】
単語管理部7は、関連度判定部94により関連度合いを判定するために、単語抽出部76は、テキストDB74から抽出された単語とともにその単語を送信したユーザ端末1の情報を抽出し、判定管理部9に送信する。ここで、ユーザ端末1の情報とは、単語を送信したユーザ端末1を使用しているユーザ名、ユーザID、ユーザ端末が単語を送信した日時等の情報を含むものとする。
[検索管理部]
検索管理部8は、単語管理部7により抽出された単語に基づいて支援データを検索する。検索管理部8は、例えば支援データ検索部82及び支援データDB84を有している。
【0029】
支援データDB84には、例えば単語DB内の単語と関連づけられた支援データが蓄積されている。さらに、支援データが前述の関連単語DBと関連づけられて蓄積されていると、より有用な支援データを検索することができ、好ましい。支援データ検索部82は、単語管理部7で抽出した単語に対応する支援データを支援データDB84から検索する。支援データ検索部82は、支援データを検索後、単語管理部7で抽出された単語と支援データとを関連づけて判定管理部9に送信する。検索管理部8が、支援データDB84から支援データを検索する代わりに、ネットワーク3上のコンピュータ端末、例えばインターネット上のWWWサーバから支援データを検索するようにすると、広範囲に支援データを検索し取得することができるので好ましい。
[判定管理部]
判定管理部9は、支援データの形態、つまりデータ形式の判定や支援データとユーザ端末との関連度を判定する。判定管理部9は、例えば、支援データ判定部92及び関連度判定部94を有している。
【0030】
支援データ判定部92は、ユーザ端末1に提供する支援データが音声データ、テキストデータ及び/または画像データであるかを判定する。
関連度判定部94は、単語管理部7で抽出された単語及びその単語を送信したユーザ端末1の情報や、検索管理部8から単語と関連づけられた支援データを受信し、支援データと各ユーザ端末1との関連度合い、または支援データと全てのユーザ端末1との関連度合いを判定する。
例えば、関連度判定部94は、各々のユーザ端末1と支援データとの関連度合いを、各ユーザ端末1が支援データに対応する単語を送信した順番に基づいて決定する。送信した順番は、例えば単語抽出部76により抽出された単語とその単語を送信したユーザ端末1の情報や検索管理部8で抽出された単語と関連づけられた支援データに基づいて決定される。ある共通の単語が複数のユーザ端末1から送信され、その共通の単語に対応する支援データが検索管理部8により検索された場合、単語抽出部76や検索管理部8の情報に基づいてある共通の単語に関する各ユーザ端末1の送信順が判定される。例えば、ユーザ端末1と支援データとの関連度合いは、ある共通の単語を最初に送信したユーザ端末1がもっとも関連度合いが高いということが考えられる。よって、関連度判定部94は、ユーザ端末1aが最初にある共通の単語を送信した場合、ユーザ端末1aが他のユーザ端末1b、1c…よりもある共通の単語との関連度合いが高い、つまり支援データとの関連度合いが高いと判定する。
【0031】
また、各々のユーザ端末1と支援データとの関連度合いを、各々のユーザ端末1からの送信された単語の送信回数により決定する。送信回数は、例えば前述と同様に単語抽出部76から抽出した単語とその共通の単語を送信したユーザ端末1との関係に基づいて決定される。ある共通の単語が複数のユーザ端末1から送信され、その共通の単語に対応する支援データが検索管理部8により検索された場合、ある共通の単語に関する送信回数をユーザ端末1毎に算出する。例えば、あるユーザ端末1aと共通の単語との関連度合いは、ユーザ端末1aにおける単語の送信回数に比例すると考えられる。よって、関連度判定部94が、ユーザ端末1aにおけるある共通の単語の送信回数が他のユーザ端末1b、1c…より相対的に多いと判定すると、ユーザ端末1aとその共通の単語に対応する支援データとの関連度合いが他のユーザ端末1b、1c…より高いと判断する。
【0032】
また、あるユーザ端末1aに着目し、そのユーザ端末1aにおける単語の送信回数を単語(α、β…)毎に算出し、単語の送信回数に基づいて支援データとの関連度合いを判定すると、ユーザ端末1a内での単語の送信回数に基づいて支援データとの関連度合いを判定することができる。この場合、ユーザ端末1aとその他のユーザ端末1b、1c…との関係は考慮されず、ユーザ端末1aから送信された単語の送信回数にのみ基づいて支援データとユーザ端末1aとの関連度合いが判定されるので、個々のユーザ端末と支援データの関連度合いを評価できる。
【0033】
その他、関連度判定部94は、全てのユーザ端末1におけるある単語の送信回数の合計に基づいて、支援データと全てのユーザ端末1との関連度合いを判定しても良い。関連度合いは、複数のユーザ端末1から送信されたある単語の送信回数の合計が多いほど関連度合いが高いと考えられる。よって、送信回数を算出することでユーザ端末1間で話題として採りあげられている度合いを判定することができる。
また、関連度判定部94により同一の支援データが検索された回数を算出し、算出回数が多い場合は支援データが重複して検索・送信されていることを判定しても良い。
【0034】
上記のように、送信順又は送信回数を算出することで、送信順又は送信回数に応じて支援データの音量の調整や支援データの送信が行われているか否かを判定することができる。
さらに、関連度判定部94により支援データの内容の変化を検知するようにしても良い。
[音量管理部]
音量管理部6は、テレビ会議において音声通信が行われているかを検出し、音声データを含む支援データの音量を調整する部分である。音量管理部6は、例えば音声検出部62及び音量調整部64を有している。
【0035】
音声検出部62は、受信部30やテレビ会議システムのクライアント機能により受信した通信データに音声データが含まれているか否かなどの通信状況を検出する。通信データは、ユーザ端末1からの受信の他に、ネットワーク3を介して接続されているサーバ端末2や通信支援装置4から受信すると、ネットワークを介して接続されている端末間における通信状況に応じて音声データを含む支援データの音量を調整することができる。
。音声検出部62では、音声データと雑音とを判別して音声データの有無を検出するようにすると好ましい。また、音声検出部62において音量を測定するようにすると、音声データを含む支援データの音量を測定された音量を基準にして調整することができるので好ましい。さらに話者の性別を検出するようにしても良い。
【0036】
音量調整部64は、音声検出部62により音声データが検出され、かつ支援データ判定部92により支援データに音声データが含まれると判定された場合は、提供する支援データの音量を調整する。よって、ユーザ端末1間の音声通信が支援データにより妨害されるのを低減することができる。
一方、支援データに音声データが含まれない、つまりテキストデータまたは画像データからなると判定された場合は、そのままユーザ端末1に提供し、支援データの提供方法を切り換える。
【0037】
音量を調整する場合は、例えば音声検出部62により音声データが無いと判定されると、支援データの音量を規定の音量、または規定の音量に関係ない音量にする。一方、ユーザ端末1からの音声データがあると判定された場合は、支援データの音量を規定の音量よりも小さい音量、または音声検出部62により測定された音量よりも小さい音量にする。
また、音量調整部64は、支援データが音声データを含む場合は、関連度判定部94の判定結果に応じて以下のように支援データの音量を調整するようにしても良い。
【0038】
関連度判定部94において、単語の送信順に基づいて関連度合いが決定される場合、例えばある共通の単語を最初に送信したユーザ端末1aには、その他のユーザ端末1b、1c…よりも大きな音量で支援データを提供するようにする。また、関連度判定部94において、各ユーザ端末1におけるある共通の単語の送信回数に基づいて関連度合いが判定される場合、例えば送信回数に比例して支援データの音量を調整し、ユーザ端末1に提供する。さらに、あるユーザ端末1aに着目し、そのユーザ端末1aにおける算出した単語毎の送信回数に比例した音量で各ユーザ端末1aに支援データを提供する。
【0039】
このように各ユーザ端末1のある単語との関連度合いに応じて音声データを含む支援データの音量を調整することで、ユーザの必要としている度合いに応じて支援データを提供できる。また、単語の送信順や送信回数により関連度合いを決定することにより、自動的に関連度合いを判定し、音量を調整することができる。さらに、このように音量を調整することで、ユーザ端末間の音声通信が支援データにより妨害されるのを低減することができる。
また、関連度判定部94において、全てのユーザ端末1で話題として採りあげられている度合いが高いと判定した場合は、全てのユーザ端末1に音量を大きくして支援データを提供する。このように音量を調整することで、ユーザ端末間で話題として採りあげられている度合いに応じて自動的に音量を調整することができる。
【0040】
さらに、関連度判定部94においてより同一の支援データの算出回数が多いと判定された場合、その支援データについては音量を小さくし、算出回数の少ないと判定された支援データは音量を大きくすることで、重複して送信されている支援データの音量を小さくすることができる。算出回数の多い支援データについては、ユーザ端末1への出力を不要とすることもできる。
また、関連度判定部94において支援データの内容に変化があったと判定された場合には、音量調整部64により支援データの音量を大きくしてユーザ端末1に提供するようにする。例えば、支援データとして株価が提供されている場合、その株価が大きく変動したときに、音声データによる株価情報の音量を大きくしてユーザ端末1に提供する。
【0041】
また、音量調整部64は、音声検出部62で検出されたユーザ端末1とは異なる性別あるいは同じ性別により音声データを含む支援データを提供するようにしても良い。
[支援データ送信部]
支援データ送信部100は、音量管理部6からの支援データをユーザ端末1に提供する。音声検出部62により音声データが検出され、かつ支援データ判定部92により支援データに音声データが含まれると判定された場合は、音量調整部64により上記のように音量を調整してユーザ端末1に支援データを提供する。ここで、音声データを含む支援データをテキストデータまたは画像データに変換し、音声データを含まない支援データにしてユーザ端末1に提供すると好ましい。音声データをテキストデータまたは画像データに変換すると、音声データを含む支援データであっても音量を調整することなくユーザ端末1に支援データを提供することができ、ユーザ端末間の音声通信が支援データにより妨害されることがないので、会話が円滑に進行する。
【0042】
一方、音声検出部62により音声データが検出されなかった場合は、音声データ、テキストデータ及び/または画像データを含む支援データをユーザ端末1に提供する。
(2)通信支援装置が行う通信支援方法の処理の流れ
次に、テレビ会議システムに接続されている通信支援装置4が、ユーザ端末1に支援データを提供する場合の通信支援方法の処理の流れについて説明する。まず、支援データを検索するための単語を抽出する処理の流れについて説明する。
(2−1)単語抽出処理の流れ
図7は、単語抽出処理の流れの一例を示すフローチャートである。通信支援装置4は、複数の単語の集まりである語彙をあらかじめ記憶しており、単語DB77を備えているものとする。
【0043】
ステップS11:受信部30によりユーザ端末1から送信される通信データを受信する。音声受信部32、テキスト受信部34及び/または画像受信部36により、それぞれ音声データ、テキストデータ及び/または画像データを受信する。
ステップS12:受信部30により受信したユーザ端末1からの通信データを、テキスト変換部72によりテキストデータに変換する。
ステップS13:テキスト変換部72によりテキストデータに変換された通信データをテキストDB74に蓄積し、ユーザ端末1間で行われている通信データ記憶する。
【0044】
ステップS14:テキストDB74と単語DB77とを比較し、テキストDB74から単語を抽出する。単語の抽出は、単語カウンタ78により単語を算出しておき、その回数に基づき抽出しても良い。
(2−2)通信支援方法の流れ
次に、図8を用いてテレビ会議システムにおける通信支援方法の流れについて説明する。図8は、テレビ会議システムにおける通信支援方法の流れの一例を示すフローチャートである。この処理は、前述の単語抽出処理により単語が抽出された後に実行される。
【0045】
ステップS21:前述の単語抽出処理により抽出された単語に基づいて支援データ検索部82により支援データを検索する。
ステップS22:支援データ判定部92により支援データが音声データを含むか否かを判定する。
ステップS23:支援データ判定部92により支援データが音声データを含むと判定された場合は、音声検出部62によりユーザ端末1間の音声データによる通信状況を検出する。ここでは、通信状況の検出は支援データの提供時に行われているが、テレビ会議システムが使用されている間は常に検出するようにすると、ユーザ端末1間の通信状況に応じて随時支援データの音量を調整することができ好ましい。
【0046】
ステップS24:音声検出部62により検出された通信状況に基づいて、音声データの有無を判定する。
ステップS25:ステップS24によりユーザ端末1間の通信データに音声データが含まれていなかった場合は、音声データを含む支援データを規定の音量または規定の音量に関係なく、ユーザ端末1に出力する。
ステップS26:ステップS24によりユーザ端末1からの通信データに音声データが含まれていた場合は、音声データを含む支援データを規定の音量よりも小さい音量、または音声検出部62により測定された音量よりも小さい音量で支援データをユーザ端末1に出力する。また、関連度判定部94により判定された関連度合いに基づいて、各ユーザ端末1a、1b、1c…またはユーザ端末1全体の音量を調整するようにしても良い。さらに、支援データ送信部100により音声データを含む支援データをテキストデータまたは画像データに変換してユーザ端末1に提供するようにしても良い。
【0047】
ステップS27:ステップS22により支援データに音声データが含まれないと判定された場合は、テキストデータ、画像データ等からなる支援データをそのままの形態でユーザ端末1に出力する。
ステップS28:ステップS25において支援データが規定の音量または規定の音量に関係なく出力されている途中に、ユーザ端末1間で音声通信が始まったか否かを検出する。
ステップS29:ステップS28において、支援データがまだ出力途中にユーザ端末1間で音声通信が始まったことを検出した場合は、ステップS26と同様に、支援データの音量を調整、あるいは支援データをテキスト・画像変換等してユーザ端末1に出力する。
【0048】
ステップS30:ステップS28において、ユーザ端末1間での音声通信が検出されなかった場合は、音量を変更せずにユーザ端末1に出力する。
(3)ユーザ端末及び通信支援装置と間で行われる処理の一例
ネットワーク3を介してユーザ端末1と通信支援装置4とが接続されている場合に、ユーザ端末1と通信支援装置4との間で行われる処理の一例を以下に示す。
図4に示すように、例えば5台のユーザ端末1が接続されテレビ会議システムを構成しており、互いに通信を行っているとする。
【0049】
図9は、図4に示す5台のユーザ端末1のうち3台のユーザ端末1と通信支援装置4との通信状況を経時的に示す模式図である。図10は、図9に示す通信が行われているユーザ端末の画面例である。図9、10を参照して、ユーザ端末の間でB会社の株価について音声により通信が行われており、かつ通信支援装置4からユーザ端末1に提供される支援データが音声データを含んでいる場合の処理について説明する。
Taroの端末から“B社の株価は?”という音声データが送信されると、Ichiro及びJiroの端末はTaroの端末からの音声データを受信する。通信支援装置4は、ユーザ端末1の音声通信から単語“B社の株価”を抽出し、その単語に基づいて支援データであるB社の株価情報を検索する。また株価情報が音声データか否かを判定し、その判定の結果、株価情報が音声データであることを認識する。
【0050】
このとき、Ichiroが“B社の方がお買い得では?”という音声データを送信し、Taro及びJiroの端末がIchiroの端末からの音声データを受信している。このとき、通信支援装置4は、株価情報をユーザ端末1に送信するにあたり、ユーザ端末1間の音声データによる通信状況を検出し、音声データにより通信が行われていることを検出する。そこで、通信支援装置4は、株価情報の音量を下げてユーザ端末1に送信する。ここでは、通信支援装置4から“15時、現在のB社の株価は4000円です。”という株価情報が送信され、Taro、Ichiro及びJiroの端末がその株価情報を受信している。
【0051】
図11は、前記ステップS26により支援データが音声データからテキストデータまたは画像データに変換され、メールにより送信される場合のユーザ端末1の画面例である。前記図10においては、ユーザ端末1は、株価情報を比較的小さい音量で受信しているが、図11では、テキストメールで株価情報を受信している。
以上のように、通信支援装置4から提供される支援データが音声データを含んでおり、かつユーザ端末1間で音声通信が行われているときは、その音量を調整して支援データをユーザ端末1に提供する。よって、ユーザ端末1間で音声通信が行われている場合であっても、ユーザ端末1間の音声通信が支援データにより妨害されるのを低減しつつ複数ユーザに対して同時に支援データを提供できる。そのため、ユーザ端末1間で、支援データを有効に共有しつつ、会話を円滑に進行することができ、会話の質を向上することができる。
【0052】
一方、支援データが音声データを含まない場合は、そのままユーザ端末1に提供することができ、ユーザ端末1への支援データのデータ形態に応じて提供方法を切り換えることができる。
<第2実施形態例>
(1)構成
前記図5及び図6を再び用いて、第2実施形態例に係るテレビ会議システムにおけるサーバ端末2及び通信支援装置4の構成を説明する。
【0053】
通信支援装置4は、支援データ判定部92において、支援データに広告が含まれているかどうかを判定する。その他の通信支援装置4及びサーバ端末2の構成は第1実施形態例と同様である。
(2)広告を含む支援データを提供する場合の通信支援方法の処理の流れ
次に、図12を用いて、通信支援装置4が提供する支援データが広告を含む場合の通信支援方法の処理流れについて説明する。図12は、テレビ会議システムにおける通信支援方法の流れの一例を示すフローチャートである。この処理は、前述の単語抽出処理により単語が抽出された後に実行される。
【0054】
ステップS41:前述の単語抽出処理により抽出された単語に基づいて支援データ検索部82により支援データを検索する。
ステップS42:ステップ41により検索された支援データが広告であるか否かを支援データ判定部92により判定する。ここで、支援データに広告が含まれている場合には、支援データと広告とを分離するようにしても良い。
ステップS43:ステップ42により支援データが広告ではないと判定された場合、支援データ判定部92により支援データが音声データを含む情報であるか否かを判定する。
【0055】
ステップS44:支援データ判定部92により支援データが音声データを含むと判定された場合は、音声検出部62によりユーザ端末1間の音声データによる通信状況を検出する。
ステップS45:音声検出部62によりユーザ端末1間の音声データの有無を判定する。
ステップS46:ステップS45によりユーザ端末1間の音声データが検出されなかった場合は、音声データを含む支援データを規定の音量または規定の音量に関係なく、ユーザ端末1に出力する。
【0056】
ステップS47:ステップS45によりユーザ端末1からの音声データが検出された場合は、音声データを含む支援データを規定の音量よりも小さい音量、または音声検出部62により測定された音量よりも小さい音量でユーザ端末1に出力する。また、関連度判定部94により判定された関連度合いに基づいて音量を調整したり、音声データを含む支援データをテキスト・画像データなどに変換して出力するようにしても良い。
ステップS48:ステップS43により支援データに音声データが含まれないと判定された場合は、テキストデータ、画像データ等からなる支援データをそのままの形態でユーザ端末1に出力する。
【0057】
ステップS49:ステップS46による支援データの出力が完了しているか否かを判定する。
ステップS50:ステップS47による支援データの出力が完了しているか否かを判定する。
ステップS51:ステップS48による支援データの出力が完了しているか否かを判定する。
ステップS52:ステップS42により支援データが広告であると判定され、かつステップS49、ステップS50及びステップS51により支援データの出力が完了していると判定された場合は、支援データに含まれている広告をユーザ端末1に出力する。
【0058】
図13は、広告が提供されている場合のユーザ端末1の画面例である。ユーザ端末1間の音声通信や支援データの提供が無い場合(各ユーザ端末の音量は“0”である。)に、ユーザ端末1に広告が提供されている。
図12に示すフローチャートにより、通信支援装置4から提供される支援データが広告である場合、あるいは広告が含まれている場合、ユーザ端末1への支援データの提供が完了しているか否かに応じて広告を提供することができる。つまり、支援データの提供が完了した後で、広告を提供することでユーザが必要とする情報を先に提供することができる。また、支援データの提供が完了し音声データを含む広告を提供する際に、ユーザ端末1において音声通信が行われているかに基づいて広告を提供する。このようにすると、ユーザ端末間の音声通信が音声データを含む広告の提供により妨害されるのを低減することができる。さらに、広告を提供することで、ネットワーク3上の空きリソースを有効に活用することができる。
<第3実施形態例>
図14から図16を用いて、第3実施形態例に係るテレビ会議システムの構成を説明する。図14は第3実施形態例に係るテレビ会議システムの構成図、図15は通信支援装置4の構成の一例、図16は支援データ検索装置10の構成の一例である。
(1)構成
まず、第3実施形態例に係るテレビ会議システムの構成を説明する。
(1−1)全体構成
第3実施形態例に係るテレビ会議システムは、複数のユーザ端末1、通信支援装置4及び支援データ検索装置(10a、10b、…)10がネットワーク3を介して接続されている。通信支援装置4には、サーバ5、音量管理部6、単語管理部7及び判定管理部9が含まれている。また、支援データ検索装置10には、検索管理部8が含まれている。
【0059】
以下に、通信支援装置4及び支援データ検索装置10の具体的構成を説明する。
(1−2)通信支援装置の構成
通信支援装置4は、サーバ5、音量管理部6、単語管理部7、判定管理部9、支援データ送信部100、支援データ受信部102及び単語送信部104を有している。
単語管理部7内のテキスト変換部72及び音量管理部6内の音声検出部62は、サーバ5内のテレビ会議サーバ24から通信データを受信する。ここで、テレビ会議サーバ24は、ネットワーク3に接続されているユーザ端末1、支援データ検索装置10等の端末から音声データ、テキストデータ及び/または画像データ等の通信データを受信している。
【0060】
単語送信部104は、単語管理部7で抽出された単語を支援データ検索装置10に送信する。支援データ受信部102は、支援データ検索装置10から送信された支援データを受信する。判定管理部9は、単語管理部7から抽出された単語とともにその単語を送信したユーザ端末1の情報を受信し、また支援データ受信部102より支援データを受信する。
上記の構成を除いて、サーバ5、音量管理部6、単語管理部7、判定管理部9及び支援データ送信部100内における第1実施形態例と同一の符号番号は、第1実施形態例と同様の構成である。
(1−3)支援データ検索装置の構成
支援データ検索装置10は、検索管理部8、単語受信部106及び支援データ送信部108を有している。
【0061】
単語受信部106は、通信支援装置4内の単語送信部104から抽出された単語を受信し、検索管理部8内の支援データ検索部82に送信する。支援データ検索部82では、受信した単語に基づいて支援データを検索し、支援データと単語とを関連づけて支援データ送信部108に送信する。支援データ送信部108は、単語と関連づけられた支援データを通信支援装置4内の支援データ受信部102に送信する。
上記の構成を除いて、検索管理部8内における第1実施形態例と同一の符号番号は、第1実施形態例と同様の構成である。
(2)第3実施形態例における通信支援方法の処理の概略
次に、第3実施形態例に係るテレビ会議システムの処理の概略を説明する。
【0062】
通信支援装置4内のテレビ会議サーバ24はユーザ端末1からの通信データを受信し、単語管理部7はユーザ端末1間の通信データから単語を抽出する。単語管理部7は、抽出した単語を単語送信部104へ送信し、また抽出した単語及び単語を送信したユーザ端末1の情報を判定管理部9に送信する。次に、単語送信部104は、通信支援装置4とネットワーク3を介して接続された支援データ検索装置10に抽出した単語を送信する。
支援データ検索装置10内の単語受信部106は、単語送信部104から送信された単語を受信し、検索管理部8内の支援データ検索部82に送信する。単語を受信した支援データ検索部82は、支援データDB84から抽出した単語に対応する支援データを検索し、検索した支援データを単語と関連づけて支援データ送信部108へ送信する。支援データ送信部108は、通信支援装置4内の支援データ受信部102へ受信した支援データを送信する。
【0063】
通信支援装置4内の支援データ受信部102は、単語と関連づけられた支援データを判定管理部9へ送信する。判定管理部9は、支援データの形態や関連度合いを判定して音量管理部6に送信する。音量管理部6は、判定管理部9や音声検出部62に応じて支援データの音量を調整し、支援データ送信部100は支援データをユーザ端末1に送信する。
このように、単語の抽出や音量などの調整を通信支援装置4が行い、支援データの検索を検索管理部8が行うことで、前述の処理を分担して並列処理を行うことができる。
<第4実施形態例>
図17から図19を用いて、第4実施形態例に係るテレビ会議システムの構成を説明する。図17は第4実施形態例に係るテレビ会議システムの構成図、図18は通信支援装置4の構成の一例、図19は支援データ検索装置10の構成の一例である。
(1)構成
まず、第4実施形態例に係るテレビ会議システムの構成を説明する。
(1−1)全体構成
第4実施形態例に係るテレビ会議システムは、複数のユーザ端末1、通信支援装置4及び支援データ検索装置10がネットワーク3を介して接続されている。通信支援装置4には、サーバ5、音量管理部6が含まれている。また、支援データ検索装置10には、単語管理部7、検索管理部8及び判定管理部9が含まれている。
(1−2)通信支援装置の構成
通信支援装置4は、サーバ5、音量管理部6、支援データ送信部100及び支援データ受信部102を有している。
【0064】
音量管理部6内の音声検出部62は、サーバ5内のテレビ会議サーバ24から音声データからなる通信データを受信する。ここで、テレビ会議サーバ24は、ネットワーク3に接続されているユーザ端末1、支援データ検索装置10等の端末から音声データ、テキストデータ及び/または画像データ等の通信データを受信している。
支援データ受信部102は、支援データ検索装置10から送信された支援データを受信する。このとき、支援データ検索装置10から送信される支援データは、支援データ検索装置10で抽出された単語、その単語を送信したユーザ端末のID、ユーザ端末が単語を送信した日時、支援データの形態等の情報と関連づけられている。支援データ送信部100は、前述の支援データの情報に基づいて音量を調整し、ユーザ端末1に支援データを送信する。
【0065】
上記の構成を除いて、サーバ5、音量管理部6及び支援データ送信部100内における第1実施形態例と同一の符号番号は、第1実施形態例と同様の構成である。
(1−3)支援データ検索装置の構成
支援データ検索装置10は、受信部30、単語管理部7、検索管理部8、判定管理部9及び支援データ送信部108を有している。
判定管理部9は、単語管理部7で抽出された単語とその単語を送信したユーザ端末の情報及び支援データ検索部82で検索された支援データを受信する。支援データ送信部108は、支援データ判定部92で判定された支援データの形態及び関連度判定部94で判定された関連度合いを判定管理部9より受信し、通信支援装置4内の支援データ受信部102に送信する。
【0066】
上記の構成を除いて、受信部30、単語管理部7、検索管理部8及び判定管理部9内における第1実施形態例と同一の符号番号は、第1実施形態例と同様の構成である。
(2)第4実施形態例における通信支援方法の処理の概略
次に、第4実施形態例に係るテレビ会議システムの処理の概略を説明する。
通信支援装置4内の音声検出部62により音声データの有無を検出する。一方、支援データ検索装置10内の単語管理部7は、受信部30により受信したユーザ端末1からの通信データに基づいて単語管理部7により単語を抽出し、検索管理部8により支援データを検索する。支援データ検索装置10内の支援データ送信部108は、支援データを通信支援装置4へ送信する。このとき、支援データは、支援データの形態、支援データとユーザ端末との関連度合い等の情報及び単語管理部7から抽出された単語と関連づけられている。
【0067】
通信支援装置4内の支援データ受信部102は、支援データ送信部108からの支援データを受信する。音量管理部6内の音量調整部64は、支援データ受信部102から受信した支援データ及び支援データに関連する情報に応じて支援データの音量を調整し、支援データ送信部100に送信する。支援データ送信部100は、ユーザ端末1に支援データを送信する。
このように、音量の調整を通信支援装置4が行い、単語の抽出や支援データの検索等を支援データ検索装置10が行うことで、前述の処理を分担して並列処理を行うことができる。
<第5実施形態例>
図20及び図21を用いて、第5実施形態例に係るテレビ会議システムの構成を説明する。図20は第5実施形態例に係るテレビ会議システムの構成図、図21は通信支援装置4の構成の一例である。
【0068】
第5実施形態例に係るテレビ会議システムは、図20に示すように、複数のユーザ端末1及び通信支援装置4がネットワーク3を介して接続されている。通信支援装置4は、サーバ5、音量管理部6、単語管理部7、検索管理部8、判定管理部9及び支援データ送信部100を有している。
音量管理部6内の音声検出部62は、サーバ5内のテレビ会議サーバ24から音声データからなる通信データを受信する。ここで、テレビ会議サーバ24は、ネットワーク3に接続されているユーザ端末1、支援データ検索装置10等の端末から音声データ、テキストデータ及び/または画像データ等の通信データを受信している。また、単語管理部7のテキスト変換部72はユーザ端末1からの通信データを受信する。上記の構成を除いて、通信支援装置4内における第1実施形態例と同一の符号番号は、第1実施形態例と同様の構成である。
【0069】
通信支援装置4における通信支援方法は、音量管理部6及び単語管理部7がサーバ5内のテレビ会議サーバ24から通信データを受信する以外は第1実施形態例と同様である。
上記のように通信支援装置4のみで、前記第1実施形態例と同様に音量が調整された支援データを提供することができる。
<その他の実施例>
前記通信支援方法を実行するプログラム及びそれを記録したコンピュータ読み取り可能な記録媒体は、本発明に含まれる。ここで記録媒体としては、コンピュータが読み書き可能なフレキシブルディスク、ハードディスク、半導体メモリ、CD−ROM、DVD、光磁気ディスク(MO)、その他のものが挙げられる。
【0070】
<付記>
(付記1)
複数のユーザ端末とネットワークを介して接続される通信支援装置が行う通信支援方法であって、
前記複数のユーザ端末から送信される通信データを受信する受信ステップと、
前記複数のユーザ端末間の通信を支援するための支援データを取得する支援データ取得ステップと、
受信した前記通信データに音声データが含まれるか否かを判定する通信状況判定ステップと、
前記支援データに音声データが含まれるか否かを判定する支援データ判定ステップと、
前記通信状況判定ステップにおいて前記複数のユーザ端末から受信した通信データに音声データが含まれていると判定され、かつ前記支援データ判定ステップにおいて前記支援データに音声データが含まれていると判定された場合、前記支援データ中の音声データの音量を調整する音量調整ステップと、
音量が調整された音声データを含む支援データを前記複数のユーザ端末に提供する支援データ提供ステップと、
を含む通信支援方法。
【0071】
(付記2)
語彙を記憶する語彙記憶ステップと、
前記語彙記憶ステップで記憶した語彙と前記受信ステップで受信した通信データとを比較し、前記通信データから前記語彙に含まれる少なくとも1の単語を抽出する単語抽出ステップとをさらに含み、
前記支援データ取得ステップは、前記単語抽出ステップにより抽出された単語と関連する支援データを取得する、
付記1に記載の通信支援方法。
【0072】
(付記3)
前記単語抽出ステップにより抽出された各単語の出現回数を算出する回数算出ステップと、
前記回数算出ステップにより出現回数が算出された単語の中から、出現回数の高い単語を単語として抽出する単語抽出ステップとをさらに含み、
前記支援データ取得ステップは、前記単語抽出ステップにより抽出された単語と関連する支援データのうち、前記単語と関連する支援データを取得する、
付記2に記載の通信支援方法。
【0073】
(付記4)
前記語彙に含まれる単語と前記支援データとを対応づけて記憶する支援データ記憶ステップをさらに含み、
前記支援データ取得ステップは、前記単語抽出ステップで抽出した単語に対応する前記支援データを検索する検索ステップを含む、付記2に記載の通信支援方法。
(付記5)
前記支援データ取得ステップは、前記支援データを記憶しているコンピュータ端末に前記ネットワークを介して接続し、前記コンピュータ端末から前記支援データを取得する、付記1に記載の通信支援方法。
【0074】
(付記6)
前記支援データ提供ステップは、前記支援データ判定ステップにおいて前記支援データが音声データを含まないと判定された場合、テキストデータ及び/または画像データを含む支援データを前記ユーザ端末に提供する、付記1に記載の通信支援方法。
(付記7)
前記通信状況判定ステップは、前記通信データ中の音声データの音量を測定する音量測定ステップを含み、
前記音量調整ステップは、前記音量測定ステップの測定結果に応じて前記支援データ中の音声データの音量を調整する、付記lに記載の通信支援方法。
【0075】
(付記8)
前記複数のユーザ端末から受信した通信データと前記支援データとの関連度合いを評価する第1関連度評価ステップをさらに含み、
前記音量調整ステップは、前記第1関連度評価ステップの評価結果に応じて前記複数ユーザ端末に提供する前記支援データ中の音声データの音量を調整する、付記1に記載の通信支援方法。
(付記9)
前記複数のユーザ端末から受信した通信データと前記支援データとの関連度合いを各ユーザ端末毎に評価する第2関連度評価ステップをさらに含み、
前記音量調整ステップは、前記第2関連度評価ステップの評価結果に応じて前記支援データ中の音声データの音量を各ユーザ端末毎に調整する、付記1に記載の通信支援方法。
【0076】
(付記10)
語彙を記憶する語彙記憶ステップと、
前記語彙記憶ステップで記憶した語彙と前記受信ステップで受信した通信データとを比較し、前記複数のユーザ端末からそれぞれの通信データ及び前記語彙に含まれる少なくとも1の共通の単語を抽出する共通単語抽出ステップとをさらに含み、
前記第2関連度評価ステップは、前記共通の単語の各ユーザ端末からの送信順に基づいて前記支援データとの関連度合いを評価し、
前記支援データ取得ステップは、前記共通単語抽出ステップにより抽出された共通の単語と関連する支援データを取得する、付記9に記載の通信支援方法。
【0077】
(付記11)
語彙を記憶する語彙記憶ステップと、
前記語彙記憶ステップで記憶した語彙と前記受信ステップで受信した通信データとを比較し、前記複数のユーザ端末からそれぞれの通信データ及び前記語彙に含まれる少なくとも1の共通の単語を抽出する共通単語抽出ステップと、
前記共通の単語の各ユーザ端末毎の送信回数を算出する送信回数算出ステップとをさらに含み、
前記第2関連度評価ステップは、前記送信回数に基づいて前記支援データとの関連度合いを評価し、
前記支援データ取得ステップは、前記共通単語抽出ステップにより抽出された共通の単語と関連する支援データを取得する、付記9に記載の通信支援方法。
【0078】
(付記12)
複数のユーザ端末とネットワークを介して接続される通信支援装置であって、
前記複数のユーザ端末から送信される通信データを受信する受信手段と、
前記複数のユーザ端末間の通信を支援するための支援データを取得する支援データ取得手段と、
受信した前記通信データに音声データが含まれるか否かを判定する通信状況判定手段と、
前記支援データに音声データが含まれるか否かを判定する支援データ判定手段と、
前記通信状況判定手段において前記複数のユーザ端末から受信した通信データに音声データが含まれていると判定され、かつ前記支援データ判定手段において前記支援データに音声データが含まれていると判定された場合、前記支援データ中の音声データの音量を調整する音量調整手段と、
音量が調整された音声データを含む支援データを前記複数のユーザ端末に提供する支援データ提供手段と、
を含む通信支援装置。
【0079】
(付記13)
複数のユーザ端末とネットワークを介して接続されるコンピュータにより実行される通信支援プログラムであって、
前記複数のユーザ端末から送信される通信データを受信する受信手段、
前記複数のユーザ端末間の通信を支援するための支援データを取得する支援データ取得手段、
受信した前記通信データに音声データが含まれるか否かを判定する通信状況判定手段、
前記支援データに音声データが含まれるか否かを判定する支援データ判定手段、
前記通信状況判定手段において前記複数のユーザ端末から受信した通信データに音声データが含まれていると判定され、かつ前記支援データ判定手段において前記支援データに音声データが含まれていると判定された場合、前記支援データ中の音声データの音量を調整する音量調整手段、及び
音量が調整された音声データを含む支援データを前記複数のユーザ端末に提供する支援データ提供手段、
として前記コンピュータを機能させる通信支援プログラム。
【0080】
(付記14)
複数のユーザ端末とネットワークを介して接続されるコンピュータが実行する通信支援プログラムを記録した、コンピュータ読み取り可能な記録媒体であって、
前記複数のユーザ端末から送信される通信データを受信する受信ステップと、
前記複数のユーザ端末間の通信を支援するための支援データを取得する支援データ取得ステップと、
受信した前記通信データに音声データが含まれるか否かを判定する通信状況判定ステップと、
前記支援データに音声データが含まれるか否かを判定する支援データ判定ステップと、
前記通信状況判定ステップにおいて前記複数のユーザ端末から受信した通信データに音声データが含まれていると判定され、かつ前記支援データ判定ステップにおいて前記支援データに音声データが含まれていると判定された場合、前記支援データ中の音声データの音量を調整する音量調整ステップと、
音量が調整された音声データを含む支援データを前記複数のユーザ端末に提供する支援データ提供ステップと、
を実行する通信支援プログラムを記録した、コンピュータ読み取り可能な記録媒体。
【0081】
【発明の効果】
本発明を用いれば、通信システムにおいて、通信を円滑に進めるための支援技術を提供することが可能となる。
【図面の簡単な説明】
【図1】本発明の音声会議システムの構成図。
【図2】図1の音声会議システムにおける通信支援方法の一例を示すフローチャート。
【図3】(a)本発明の第1実施形態例に係るテレビ会議システムの構成図。
(b)ユーザ端末の一例。
本発明の音声会議システムの構成図。
【図4】ユーザ端末のディスプレイ19における画面例。
【図5】サーバ端末2内のサーバ5の構成の一例。
【図6】第1実施形態例の通信支援装置4の構成の一例。
【図7】単語抽出処理の流れの一例を示すフローチャート。
【図8】テレビ会議システムにおける通信支援方法の流れの一例を示すフローチャート。
【図9】会話状況を経時的に示す模式図。
【図10】図9に示す会話が行われているユーザ端末の画面例。
【図11】支援データが音声データからテキストデータまたは画像データに変換され、メールにより送信される場合のユーザ端末1の画面例。
【図12】テレビ会議システムにおいて、広告を提供する場合の通信支援方法の流れの一例を示すフローチャート。
【図13】広告が提供されている場合のユーザ端末1の画面例。
【図14】第3実施形態例に係るテレビ会議システムの構成図。
【図15】第3実施形態例に係る通信支援装置4の構成の一例。
【図16】第3実施形態例に係る支援データ検索装置10の構成の一例。
【図17】第4実施形態例に係るテレビ会議システムの構成図。
【図18】第4実施形態例に係る通信支援装置4の構成の一例。
【図19】第4実施形態例に係る支援データ検索装置10の構成の一例。
【図20】第5実施形態例に係るテレビ会議システムの構成図。
【図21】第5実施形態例に係る通信支援装置4の構成の一例。
【符号の説明】
1 ユーザ端末
2 サーバ端末
3 ネットワーク
4 通信支援装置
5 サーバ
6 音量管理部
7 単語管理部
8 検索管理部
9 判定管理部
10 支援データ検索装置
24 テレビ会議サーバ
30 受信部
62 音声検出部
64 音量調整部
72 テキスト変換部
74 テキストDB
76 単語抽出部
77 単語DB
78 単語カウンタ
82 支援データ検索部
84 支援データDB
92 支援データ判定部
94 関連度判定部
100 支援データ送信部

Claims (5)

  1. 複数のユーザ端末とネットワークを介して接続される通信支援装置が行う通信支援方法であって、
    前記複数のユーザ端末間の通信データを受信する受信ステップと、
    前記通信データの内容に基づいて抽出される、前記複数のユーザ端末間の通信を支援するための支援データを取得する支援データ取得ステップと、
    前記通信データに音声データが含まれるか否かを判定する通信状況判定ステップと、
    前記支援データに音声データが含まれるか否かを判定する支援データ判定ステップと、
    前記通信状況判定ステップにおいて前記複数のユーザ端末通信データに音声データが含まれていると判定され、かつ前記支援データ判定ステップにおいて前記支援データに音声データが含まれていると判定された場合、前記支援データ中の音声データの音量を調整する音量調整ステップと、
    前記支援データを前記複数のユーザ端末に提供する際に、前記ユーザ端末間で音声データを含む通信データが送受信されている場合に、前記音量調整ステップにより音量が調整された音声データを含む支援データを前記複数のユーザ端末に提供する支援データ提供ステップと、
    を含む通信支援方法。
  2. 前記複数のユーザ端末から受信した通信データと前記支援データとの関連度合いを評価する第1関連度評価ステップをさらに含み、
    前記音量調整ステップは、前記第1関連度評価ステップの評価結果に応じて前記複数ユーザ端末に提供する前記支援データ中の音声データの音量を調整する、請求項1に記載の通信支援方法。
  3. 複数のユーザ端末とネットワークを介して接続される通信支援装置であって、
    前記複数のユーザ端末間の通信データを受信する受信手段と、
    前記通信データの内容に基づいて抽出される、前記複数のユーザ端末間の通信を支援するための支援データを取得する支援データ取得手段と、
    前記通信データに音声データが含まれるか否かを判定する通信状況判定手段と、
    前記支援データに音声データが含まれるか否かを判定する支援データ判定手段と、
    前記通信状況判定手段において前記複数のユーザ端末通信データに音声データが含まれていると判定され、かつ前記支援データ判定手段において前記支援データに音声データが含まれていると判定された場合、前記支援データ中の音声データの音量を調整する音量調整手段と、
    前記支援データを前記複数のユーザ端末に提供する際に、前記ユーザ端末間で音声データを含む通信データが送受信されている場合に、前記音量調整手段により音量が調整された音声データを含む支援データを前記複数のユーザ端末に提供する支援データ提供手段と、
    を含む通信支援装置。
  4. 複数のユーザ端末とネットワークを介して接続されるコンピュータにより実行される通信支援プログラムであって、
    前記複数のユーザ端末間の通信データを受信する受信手段、
    前記通信データの内容に基づいて抽出される、前記複数のユーザ端末間の通信を支援するための支援データを取得する支援データ取得手段、
    前記通信データに音声データが含まれるか否かを判定する通信状況判定手段、
    前記支援データに音声データが含まれるか否かを判定する支援データ判定手段、
    前記通信状況判定手段において前記複数のユーザ端末通信データに音声データが含まれていると判定され、かつ前記支援データ判定手段において前記支援データに音声データが含まれていると判定された場合、前記支援データ中の音声データの音量を調整する音量調整手段、及び
    前記支援データを前記複数のユーザ端末に提供する際に、前記ユーザ端末間で音声データを含む通信データが送受信されている場合に、前記音量調整手段により音量が調整された音声データを含む支援データを前記複数のユーザ端末に提供する支援データ提供手段、
    として前記コンピュータを機能させる通信支援プログラム。
  5. 複数のユーザ端末とネットワークを介して接続されるコンピュータが実行する通信支援プログラムを記録した、コンピュータ読み取り可能な記録媒体であって、
    前記複数のユーザ端末間の通信データを受信する受信ステップと、
    前記通信データの内容に基づいて抽出される、前記複数のユーザ端末間の通信を支援するための支援データを取得する支援データ取得ステップと、
    受信した前記通信データに音声データが含まれるか否かを判定する通信状況判定ステップと、
    前記支援データに音声データが含まれるか否かを判定する支援データ判定ステップと、
    前記通信状況判定ステップにおいて前記複数のユーザ端末通信データに音声データが含まれていると判定され、かつ前記支援データ判定ステップにおいて前記支援データに音声データが含まれていると判定された場合、前記支援データ中の音声データの音量を調整する音量調整ステップと、
    前記支援データを前記複数のユーザ端末に提供する際に、前記ユーザ端末間で音声データを含む通信データが送受信されている場合に、前記音量調整ステップにより音量が調整された音声データを含む支援データを前記複数のユーザ端末に提供する支援データ提供ステップと、
    を実行する通信支援プログラムを記録した、コンピュータ読み取り可能な記録媒体。
JP2003021074A 2003-01-29 2003-01-29 通信支援方法、通信支援装置、通信支援プログラム及び通信支援プログラムを記録したコンピュータ読み取り可能な記録媒体 Expired - Fee Related JP3819852B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2003021074A JP3819852B2 (ja) 2003-01-29 2003-01-29 通信支援方法、通信支援装置、通信支援プログラム及び通信支援プログラムを記録したコンピュータ読み取り可能な記録媒体
US10/742,939 US7266368B2 (en) 2003-01-29 2003-12-23 Method and apparatus for presenting assistance data in a communication conference system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2003021074A JP3819852B2 (ja) 2003-01-29 2003-01-29 通信支援方法、通信支援装置、通信支援プログラム及び通信支援プログラムを記録したコンピュータ読み取り可能な記録媒体

Publications (2)

Publication Number Publication Date
JP2004235895A JP2004235895A (ja) 2004-08-19
JP3819852B2 true JP3819852B2 (ja) 2006-09-13

Family

ID=32732874

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003021074A Expired - Fee Related JP3819852B2 (ja) 2003-01-29 2003-01-29 通信支援方法、通信支援装置、通信支援プログラム及び通信支援プログラムを記録したコンピュータ読み取り可能な記録媒体

Country Status (2)

Country Link
US (1) US7266368B2 (ja)
JP (1) JP3819852B2 (ja)

Families Citing this family (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7933958B2 (en) * 2004-06-08 2011-04-26 International Business Machines Corporation Real-time blog interaction
US7765257B2 (en) * 2005-06-29 2010-07-27 Cisco Technology, Inc. Methods and apparatuses for selectively providing privacy through a dynamic social network system
JP4627281B2 (ja) * 2006-06-08 2011-02-09 富士通株式会社 通信支援システム、通信支援方法および通信支援プログラム
US20080075237A1 (en) * 2006-09-11 2008-03-27 Agere Systems, Inc. Speech recognition based data recovery system for use with a telephonic device
US20090100161A1 (en) * 2007-10-15 2009-04-16 International Business Machines Corporation System and method for managing communications
US8817957B1 (en) * 2008-04-03 2014-08-26 Mongoose Metrics, LLC Phone-call triggered system and method for transmitting information via network-enabled server
US8229937B2 (en) * 2008-12-16 2012-07-24 Sap Ag Automatic creation and transmission of data originating from enterprise information systems as audio podcasts
WO2010072945A1 (fr) 2008-12-22 2010-07-01 France Telecom Procédé et dispositif de traitement de données textuelles
JP5404158B2 (ja) * 2009-04-23 2014-01-29 日本電信電話株式会社 音声情報配信システム
US8131848B1 (en) * 2009-09-29 2012-03-06 Jason Adam Denise Image analysis and communication device control technology
JP2011199847A (ja) * 2010-02-25 2011-10-06 Ricoh Co Ltd 会議システムの端末装置、会議システム
US8701020B1 (en) 2011-02-01 2014-04-15 Google Inc. Text chat overlay for video chat
JP2012212191A (ja) * 2011-02-28 2012-11-01 Toshiba Corp 情報処理装置及び情報処理方法
JP5962098B2 (ja) * 2012-03-19 2016-08-03 株式会社リコー 伝送端末、伝送システム、表示制御方法、及びプログラム
US9680659B2 (en) * 2012-08-27 2017-06-13 Ricoh Company, Ltd. Obtaining, managing and archiving conference data
US9444934B2 (en) * 2014-10-02 2016-09-13 Nedelco, Inc. Speech to text training method and system
JP6696363B2 (ja) * 2016-08-31 2020-05-20 株式会社リコー 会議支援装置、会議支援システム、会議支援方法、及びプログラム
US10645035B2 (en) 2017-11-02 2020-05-05 Google Llc Automated assistants with conference capabilities

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05347666A (ja) 1992-06-15 1993-12-27 Omron Corp 電子会議システム
JPH1075310A (ja) * 1996-08-29 1998-03-17 Nec Corp 多地点テレビ会議システム
US5732216A (en) * 1996-10-02 1998-03-24 Internet Angles, Inc. Audio message exchange system
US5916302A (en) * 1996-12-06 1999-06-29 International Business Machines Corporation Multimedia conferencing using parallel networks
JPH11355747A (ja) 1998-06-10 1999-12-24 Nec Corp 映像・音声通信装置と同装置を用いたテレビ会議装置
JP3829485B2 (ja) 1998-07-30 2006-10-04 ソニー株式会社 音声通話装置、音声通話システム、および音声通話方法
EP1039752A4 (en) * 1998-10-09 2007-05-02 Sony Corp TELECOMMUNICATION APPARATUS AND METHOD
US6693661B1 (en) * 1998-10-14 2004-02-17 Polycom, Inc. Conferencing system having an embedded web server, and method of use thereof
JP2002368866A (ja) 2001-06-05 2002-12-20 Nec Miyagi Ltd 音声会議システムの送話レベル調整方法
US20040008249A1 (en) * 2002-07-10 2004-01-15 Steve Nelson Method and apparatus for controllable conference content via back-channel video interface
US7065198B2 (en) * 2002-10-23 2006-06-20 International Business Machines Corporation System and method for volume control management in a personal telephony recorder

Also Published As

Publication number Publication date
JP2004235895A (ja) 2004-08-19
US20040145652A1 (en) 2004-07-29
US7266368B2 (en) 2007-09-04

Similar Documents

Publication Publication Date Title
JP3819852B2 (ja) 通信支援方法、通信支援装置、通信支援プログラム及び通信支援プログラムを記録したコンピュータ読み取り可能な記録媒体
US8126712B2 (en) Information communication terminal, information communication system, information communication method, and storage medium for storing an information communication program thereof for recognizing speech information
US11551697B2 (en) Processing system for intelligently linking messages using markers based on language data
KR102098847B1 (ko) 패킷화된 데이터의 멀티모달 송신
JP4662861B2 (ja) モニタリング装置、評価データ選別装置、応対者評価装置、応対者評価システムおよびプログラム
US7581166B2 (en) System and method of collecting, correlating, and aggregating structured edited content and non-edited content
CN102483917B (zh) 针对显示文本的命令
EP3031213B1 (en) Apparatus and method for providing conversation topic
US20080235018A1 (en) Method and System for Determing the Topic of a Conversation and Locating and Presenting Related Content
US20120158837A1 (en) Method and system for establishing a notification service for a device
US11398224B2 (en) Communication system and method for providing advice to improve a speaking style
JP5154643B2 (ja) 広告及び/又はウェブページを識別するための音声認識
US20060264204A1 (en) Method for sending a message waiting indication
US10560498B2 (en) Contextual based communication method and user interface
CN115547330A (zh) 基于语音交互的信息展示方法、装置和电子设备
US12099945B2 (en) Communication management apparatus
US10847161B2 (en) Processing system using intelligent messaging flow markers based on language data
KR102576267B1 (ko) 다중 통신 플랫폼 환경에서 통신 이벤트에 대한 문맥 키워드 집합을 제공하는 방법, 시스템 및 장치
JP4432298B2 (ja) 映像コンテンツ視聴者間のコミュニケーション支援システム、方法及び装置、並びに、コミュニケーション支援プログラム及びプログラムの記録媒体
JP2006092381A (ja) メディアマイニング方法
CN107786686A (zh) 一种用于输出多媒体数据的系统及方法
JP7439461B2 (ja) コミュニケーション支援プログラム、コミュニケーション支援システム及びコミュニケーション支援方法
WO2021250833A1 (ja) 情報推薦システム、情報検索装置、情報推薦方法、及びプログラム
JP2001257775A (ja) 情報提供システム
EP2466851A1 (en) Method and system for establishing a notification service for a device

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20051003

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20051018

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20051212

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20060613

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20060615

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100623

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110623

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120623

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120623

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130623

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130623

Year of fee payment: 7

LAPS Cancellation because of no payment of annual fees