JP2021069099A - 通信システム、端末装置、通信方法、プログラム - Google Patents

通信システム、端末装置、通信方法、プログラム Download PDF

Info

Publication number
JP2021069099A
JP2021069099A JP2019195630A JP2019195630A JP2021069099A JP 2021069099 A JP2021069099 A JP 2021069099A JP 2019195630 A JP2019195630 A JP 2019195630A JP 2019195630 A JP2019195630 A JP 2019195630A JP 2021069099 A JP2021069099 A JP 2021069099A
Authority
JP
Japan
Prior art keywords
terminal device
proposal
unit
communication
operator
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2019195630A
Other languages
English (en)
Inventor
真夕 計田
Mayu Hakata
真夕 計田
尭志 長谷川
Takashi Hasegawa
尭志 長谷川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2019195630A priority Critical patent/JP2021069099A/ja
Priority to US17/023,630 priority patent/US11398224B2/en
Publication of JP2021069099A publication Critical patent/JP2021069099A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/08Speech classification or search
    • G10L15/10Speech classification or search using distance or distortion measures between unknown speech and reference templates
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/22Procedures used during a speech recognition process, e.g. man-machine dialogue
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/08Speech classification or search
    • G10L15/083Recognition networks
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/24Speech recognition using non-acoustical features
    • G10L15/25Speech recognition using non-acoustical features using position of the lips, movement of the lips or face analysis
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L25/00Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
    • G10L25/48Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use
    • G10L25/51Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use for comparison or discrimination
    • G10L25/60Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use for comparison or discrimination for measuring the quality of voice signals
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/22Procedures used during a speech recognition process, e.g. man-machine dialogue
    • G10L2015/225Feedback of the input speech

Landscapes

  • Engineering & Computer Science (AREA)
  • Computational Linguistics (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • Acoustics & Sound (AREA)
  • Multimedia (AREA)
  • Quality & Reliability (AREA)
  • Signal Processing (AREA)
  • Telephonic Communication Services (AREA)

Abstract

【課題】業務効率を向上させることが可能な通信システムを提供すること。【解決手段】オペレータが操作する第一の端末装置10とゲストが操作する第二の端末装置70がネットワークを介して通信する通信システム100であって、前記第一の端末装置から送信された前記オペレータの音声データ又は前記第二の端末装置から送信された前記ゲストの音声データに基づいて、前記オペレータに対する提案を決定する提案部98と、前記提案を前記第一の端末装置に送信する第一の通信部91と、を有し、前記第一の端末装置は、前記提案を受信する第二の通信部11と、前記第二の通信部が受信した前記提案を表示する表示制御部17と、を有することを特徴とする。【選択図】図1

Description

本発明は、通信システム、端末装置、通信方法、及びプログラムに関する。
遠隔地にある端末装置が画像と音声を相互に送受信して、画像をディスプレイに表示し音声をスピーカから出力することで、遠隔地のユーザが会議などの遠隔通信を可能とする通信システムが知られている。それぞれの端末装置はカメラ、マイク、ディスプレイ、及び、スピーカを有している。カメラによって撮像された画像が通信相手の端末装置のディスプレイに表示され、マイクによって取得された音声が通信相手の端末装置のスピーカから出力される。このような通信システムを利用すれば、例えばコールセンターにいるオペレータが店舗に来店したゲストの顔を見て通話(例えば接客)でき、ゲストもオペレータの顔を見て説明を受けることができる。
また、会話を補助する技術が知られている(例えば、特許文献1参照。)。特許文献1には、会話をリアルタイムに分析し、その利用者の会話相手の受容度及び利用者の会話の巧みさを分析し、ある話題について他人への影響が大きいユーザ(インフルエンサー)を抽出する会話分析装置が開示されている。
しかしながら、従来の会話の分析結果の表示方法では通信システムを使った各種業務の効率を上げにくいという問題があった。例えば、会話の分析結果が単に数値で表示されたのでは、オペレータがそれを確認してもどのように接客に活かせばよいかを理解するまでに時間を要していた。
本発明は、上記課題に鑑み、業務効率を向上させることが可能な通信システムを提供することを目的とする。
上記課題に鑑み、本発明は、オペレータが操作する第一の端末装置とゲストが操作する第二の端末装置がネットワークを介して通信する通信システムであって、前記第一の端末装置から送信された前記オペレータの音声データ又は前記第二の端末装置から送信された前記ゲストの音声データに基づいて、前記オペレータに対する提案を決定する提案部と、
前記提案を前記第一の端末装置に送信する第一の通信部と、を有し、
前記第一の端末装置は、前記提案を受信する第二の通信部と、前記第二の通信部が受信した前記提案を表示する表示制御部と、を有することを特徴とする。
業務効率を向上させることが可能な通信システムを提供することができる。
通信システムが接客効率を改善するための提案の提供について説明する図である。 通信システムの一例の概略構成図である。 端末装置の一例のハードウェア構成図である。 管理システムの一例のハードウェア構成図である。 端末装置の一例のソフトウェア構成図である。 通信システムが有する端末装置、及び管理システムの一例の機能ブロック図である。 宛先管理DB、プレゼンス管理DB、及び、送信先管理DBの一例を示す図である。 提案制御装置の機能をブロックに分けて説明する一例の機能ブロック図である。 記憶部が保持する情報を示す図である。 端末装置が管理システムへログインする処理の一例を示すシーケンス図である。 受付画面の一例を示す図である。 プレゼンス情報を送信する処理の一例を示すシーケンス図である。 特徴毎のプレゼンスを管理する処理の一例を示すフロー図である。 通信を開始する処理の一例を示すシーケンス図である。 プレゼンス管理テーブルが表2の状態である場合に表示される特徴一覧の画面の一例を示す図である。 端末装置間の通信を確立する処理の一例を示すシーケンス図である。 メッセージの表示例を示す図である。 提案制御装置が話し方の改善方法を提案する処理に関するシーケンス図の一例である。 オペレータの要求に応じて提案制御装置が提案を行う処理を説明するシーケンス図の一例である。 オペレータの端末装置が表示する通話中画面の一例を示す図である。 アイコンによる提案の一例を示す図である。 通話中画面に表示される会話テーマの提案例を示す図である。 提案制御装置がオペレータに声を大きくするように促す場合の処理を説明するフローチャート図の一例である。 提案制御装置がオペレータに会話速度を遅くするように促す場合の処理を説明するフローチャート図の一例である。 提案制御装置がオペレータに会話テーマを提案する場合の処理を説明するフローチャート図の一例である。
以下、本発明を実施するための形態の一例として、通信システムと通信システムが行う通信方法について図面を参照しながら説明する。
<全体的な動作の概略>
図1は、本実施形態の通信システム100が接客効率を改善するための提案の提供について説明する図である。図1では2台の端末装置10と端末装置70の間で遠隔コミュニケーションが行われている。遠隔コミュニケーションは遠隔地の拠点で行われる会合である。会合とは相談や討議などのために人々が寄り集まることをいう。会合には接客、会議、集会、打合せ、勉強会、授業、セミナー、発表会など種々の態様がある。必ずしも双方向通信である必要はない。
端末装置10はコールセンターに配置されることが想定され、端末装置70は店舗に配置されることが想定される。端末装置10をオペレータaが操作しており、端末装置70を店舗に来店したゲストgが操作している。端末装置10,70には、Webカメラ101と書画カメラ102が接続されている。また、端末装置70にはタッチパネル190が接続されており、ゲストgが情報を手書きできる。
(1) 図1(a)に示すように、通話中(接客中)、端末装置10(第一の端末装置の一例)は、端末装置70(第二の端末装置の一例)がWebカメラ101又は書画カメラ102で撮像した画像(動画でも静止画でもよい)をディスプレイ720に表示する。同様に、端末装置70は、端末装置10がWebカメラ101又は書画カメラ102で撮像した画像(動画でも静止画でもよい)をディスプレイ720に表示する。オペレータaとゲストgは互いに相手の顔を見ながら会話することができる。
(2) 通話中、管理システム50は、ゲストがオペレータの発言を聞き返す回数、又は、少なくともオペレータの会話速度を検出している。ゲストがオペレータの発言を聞き返すのは発言が聞き取りにくいからであり、オペレータの声が小さいと、ゲストが聞き取りにくいおそれがある。また、オペレータの会話速度が速いとゲストが聞き取りにくいおそれがある。したがって、提案制御装置3は、聞き返す回数又は会話速度の少なくとも一方が閾値を超えると、オペレータに話し方の改善方法を提案する。
(3) 図1(b)はオペレータの端末装置10に表示された改善方法の提案の一例である。図1(b)では「話す速度:もう少し会話速度を落としてもよいかもしれません」と表示されている。したがって、オペレータは会話速度を落として接客を続けることができる。
このように、本実施形態の通信システムは、音声データの分析結果を具体的な改善方法としてリアルタイムに提案するので、接客などの業務効率を向上することができる。
<用語について>
提案とは、案を提出すること又は提出した案をいう。本実施形態では業務効率の向上に結びつく情報であればよい。例えば、接客などに要する平均的な時間が短くなる場合がある。提案は、表示される他、ヘッドセットに音声で出力されてもよいし、警報音で提案してもよい。
<システム構例>
図2は、本実施形態の通信システム100の一例の概略構成図である。本実施形態の通信システム100は、図2に示すように、各拠点に設置された複数の端末装置10、70、1つ以上の中継装置30、1つ以上の管理システム50、及び、提案制御装置3を備える。ここで拠点とは、活動のよりどころとなる所である。端末装置10,70の設置場所又はユーザの所在が拠点である。図2には3つの拠点(コールセンター8、店舗7X、及び、店舗7Y)が示されている。
コールセンター8には端末装置10a〜10dが配置されており、店舗7Xには端末装置70xが配置されており、店舗7Yには端末装置70yが配置されている。これらの数は図示する数に限らない。また、複数の端末装置70x,70yのうち、任意の端末装置を「端末装置70」と表し、複数の端末装置10a〜10dのうち、任意の端末装置を「端末装置10」と表す。複数の店舗7X、7Yのうち、任意の店舗を「店舗7」と表す。
コールセンター8とはゲストからの問い合わせに対応する部署である。コールセンター8で問い合わせに応答する者を本実施形態ではオペレータと称する。コンシェルジュ、説明員、指導員、又はアドバイザーなどと称してもよい。また、店舗7は営業を行うための施設である。商品の実物又はサービスのパンフレットが置いてあり、ゲストが訪問することができる。例えば、旅行代理店、銀行、病院などが考えられるが、ユーザが訪問する施設であればよい。店舗7を訪問したゲストは予め配置されている端末装置70を操作して、コールセンター8の端末装置10とテレビ会議を開始する。こうすることで、店舗7に常駐する店員の数を最小限にすることができたり、専門性の高い店員と各地のゲストがテレビ会議したりすることができる。
なお、図2では、コールセンター8にオペレータ用の端末装置10が配置されているが、店舗7にオペレータ用の端末装置10が配置される場合もある。例えば、店舗7が閑散状態の場合、店舗7のスタッフがオペレータとして対応できるようにするためである。次述するように端末装置10,70は一般的な情報処理装置でよいので、アプリケーションソフト(テレビ会議用のアプリケーションソフト)によりオペレータ用とゲスト用を切り替えることができる。
端末装置10,70はPC(Personal Computer)など一般的な情報処理装置でよい。専用の端末でもよい。端末装置10にはオペレータ向けのアプリケーションソフトがインストールされ、端末装置70にはゲスト向けのアプリケーションソフトがインストールされている。したがって、アプリケーションソフトにより各端末装置10,70の属性情報が決定される。このようにアプリケーションソフトで属性情報が決まってもよいし、後述する通信IDで属性情報が決まってもよい。この場合、通信IDに属性情報が対応付けられたテーブルを各端末装置10,70が利用できる。
端末装置10、70はそれぞれ一般的な情報処理装置であるため、テレビ会議用のアプリケーションソフト以外にもプレゼンテーションやブラウザなどのソフトウェアを実行できる。端末装置10,70はPCの他、タブレット端末、スマートフォン、PDA(Personal Digital Assistant)などである。ただし、アプリケーションソフトが実行可能であればよい。例えば、カーナビゲーション装置、テレビ受像器、デジタルサイネージ端末、電子黒板、プロジェクタなどでもよい。また、端末装置10、70が同じ種類の情報処理装置である必要はない。
なお、端末装置10、70にはテレビ会議に専用の専用端末装置が用いられてもよい。一形態として電源ONだけで管理システム50にログインして映像と音声を送受信する専用端末装置がある。
本実施形態の通信システム100は、テレビ会議に適用されるものとして説明される。しかし、通信システム100は、コミュニケーションシステム、又はデータ通信システムにも適用される。また、通信システム100には、サーバを介して一方の端末装置10から複数の端末装置10に一方向で画像データ又は音声データを送信するデータ提供システムが含まれる。また、テレビ会議をビデオ会議という場合がある。テレビ会議の他、遠隔会議、遠隔相談、遠隔コンサルティングなどと称してもよい。3つ以上の端末装置70が同時に通信できる。
端末装置10、管理システム50、及び、中継装置30は通信ネットワーク1又は2に接続されている。通信ネットワーク1は、例えば、LAN(Local Area Network)、WiFi(Wireless Fidelity)、又はインターネットなど、一般的なネットワークであればよい。例えば、広域イーサネット(登録商標)、VPN(Virtual Private Network)などの専用線を含んでもよい。無線通信の場合、端末装置は基地局2aをアクセスポイントにして通信ネットワーク2(移動体通信網)に接続する。通信ネットワーク2は、3G、4G、LTE(Long Term Evolution)、5G、及び、Bluetooth(登録商標)などの無線による通信が行われる箇所が含まれる。通信ネットワーク1と2の間はゲートウェイにより接続されている。
本実施形態の通信システム100では、複数の端末装置10,70が中継装置30を介した画像データ(静止画及び動画を含む。また、映像データと称してもよい)及び音声データ等の送受信を行う。この際、複数の端末装置10,70の間には、管理システム50を介して、各種の管理情報を送受信するための管理情報用セッションが確立される。また、複数の端末装置10,70の間には、中継装置30を介して、画像データ及び音声データの送受信を行うためのデータ用セッションが確立される。ここで、特に、データ用セッションで送受信される画像データは、スケーラブルに符号化された符号化データであり、例えば、高品質映像の符号化データ、中品質映像の符号化データ、低品質映像の符号化データが、それぞれ別々のチャンネルで送受信される。
テレビ会議の機能として、端末装置10,70はカメラ(撮像装置)で撮像した画像データ、マイクで集音した音声データ、及び、説明などに使用する資料データを、中継装置30を介してテレビ会議に参加している他の拠点の端末装置10,70に送信する機能がある。更に手書き情報を他の拠点の端末装置10,70に送信することもできる。また、他の拠点の端末装置10,70から受信した画像データ、資料データ及び手書き情報をディスプレイに表示し、受信した音声データをスピーカから出力する機能がある。画像データ、資料データ、手書き情報、及び、音声データをまとめて又は1つ以上をコンテンツデータという場合がある。
テレビ会議が開始されると、端末装置10,70は中継装置30に対して画像データ、音声データ、資料データ及び手書き情報を送信し、中継装置30は、テレビ会議に参加している他の端末装置に対して画像データ、音声データ、資料データ及び手書き情報を送信する。また、端末装置10,70は、中継装置30を介して他方の端末装置10から画像データ、音声データ、資料データ及び手書き情報を受信する。
管理システム50は端末装置10、70の通信IDなどを管理し、着信があった場合に2つ以上の端末装置間でセッションを開始するなどの呼制御を行う呼制御サーバとして機能する。管理システム50はサーバであるので情報処理装置の機能を有する。呼制御とは、通信を開始するための発信、その着信、着信への応答、通信の切断など、通話をかけたり切ったりするための一連の処理をいう。この他、端末装置10、70の認証、検索、死活の監視なども行う場合が多い。更に、管理システム50は、端末装置10、70の認証情報など通信システム100の制御に必要なデータベースの管理も行う。
中継装置30は画像データ、音声データ、資料データ及び手書きデータを一方の拠点の端末装置10,70から他の拠点の端末装置10,70に中継するサーバ(情報処理装置)である。管理システム50は通信ネットワーク2の帯域や中継装置30の通信負荷を監視して適切な中継装置30を端末装置10、70に割り当てる。
管理端末40は店舗の管理者等が使用する情報処理装置である。管理端末40ではブラウザソフトが動作している。管理端末40は、PC、タブレット端末、スマートフォン、PDAなど、ブラウザソフトが動作すればよい。
提案制御装置3はオペレータと各ゲストの音声データを分析する。端末装置10,70は音声データを中継装置30に送信するが、中継装置30は提案制御装置3に音声データを転送する。あるいは、中継装置30が提案制御装置3を兼ねてもよいし、管理システム50が提案制御装置3を兼ねてもよい。提案制御装置3はオペレータとゲストの音声データを音声認識して、テキストデータに変換する。これにより、ゲストが聞き返したかどうかやオペレータの会話速度を検出できる。また、提案制御装置3は、テキストデータに含まれる単語を解析して会話テーマを提案することもできる。
<ハードウェア構成例>
<<端末装置>>
図3は、端末装置10,70の一例のハードウェア構成図である。図3に示されているように、端末装置10,70は、端末装置全体の動作を制御するCPU701、プログラムを記憶したROM702(Read Only Memory)、CPU701のワークエリアとして使用されるRAM703、CPU701の制御にしたがってデータの読み出し又は書き込みを行うHDD704(Hard Disk Drive)、フラッシュメモリ等の記録メディア706に対するデータの読み出し又は書き込み(記憶)を制御するメディアI/F707、及びCPU701の制御にしたがって被写体を撮像し画像データを得るカメラ712a、712bを備えている。
なお、HDD704には、CPU701が実行するオペレーティングシステム(OS)、その他のプログラム、及び、種々データが記憶されている。また、カメラ712a、712bは、光を電荷に変換して被写体の画像を電子化する電荷結合素子である。カメラ712a、712bは、CMOS(Complementary Metal Oxide Semiconductor)センサー又はCCD(Charge Coupled Device)センサーでよい。カメラ712a、712bは3つ以上あってもよい。カメラ712a、712bのうち任意のカメラを「カメラ712」という。
更に、端末装置10,70は、音を音信号に変換するマイク714、音信号を音に変換するスピーカ715、アンテナ711a、このアンテナ711aを利用して無線通信信号により、最寄りの基地局2aと通信を行う通信部71、被写体の画像や各種アイコン等を表示する液晶や有機ELなどのディスプレイ720、このディスプレイ720上に載せられ、感圧式又は静電式のパネルによって構成され、指やタッチペン等によるタッチによってディスプレイ720上におけるタッチ位置を検出するタッチパネル721、及び、上記各部を電気的に接続するためのアドレスバスやデータバス等のバスライン710を備えている。
また、図3では、マイク714,スピーカ715が1つであるが、マイク714,スピーカ715が2つ以上あってもよい。
<<管理システム>>
図4は、管理システム50の一例のハードウェア構成図である。管理システム50は、管理システム50全体の動作を制御するCPU201、IPL(Initial Program Reader)等のCPU201の駆動に用いられるプログラムを記憶したROM202、CPU201のワークエリアとして使用されるRAM203、管理システム50用のプログラム等の各種データを記憶するHD204、CPU201の制御にしたがってHD204に対する各種データの読み出し又は書き込みを制御するHDD205(Hard Disk Drive)、フラッシュメモリ等の記録メディア206に対するデータの読み出し又は書き込み(記憶)を制御するメディアI/F207、カーソル、メニュー、ウィンドウ、文字、又は画像などの各種情報を表示するディスプレイ208、通信ネットワーク2を利用してデータ通信するためのネットワークI/F209、文字、数値、各種指示などの入力のための複数のキーを備えたキーボード211、各種指示の選択や実行、処理対象の選択、カーソルの移動などを行うマウス212、着脱可能な記録媒体の一例としてのCD−ROM213(Compact Disc Read Only Memory)に対する各種データの読み出し又は書き込みを制御するCD−ROMドライブ214、及び、上記各構成要素を図4に示されているように電気的に接続するためのアドレスバスやデータバス等のバスライン210を備えている。
中継装置30又は管理端末40は、管理システム50と同様のハードウェア構成を有しているため、その説明を省略する。
<アプリケーションソフト>
図5(a)は、一実施形態に係る端末装置10のソフトウェア構成図である。端末装置10には、オペレータ用のアプリケーションソフトA1がインストールされている。図5(a)に示されているように、OS1020、及びオペレータ用のアプリケーションソフトA1は、端末装置10のRAM703の作業領域1010上で動作する。これらのうち、OS1020は、基本的な機能を提供し、端末装置10全体を管理する基本ソフトウェアである。オペレータ用のアプリケーションソフトA1は、他の端末装置10,70と通信するためのアプリである。
図5(b)は、一実施形態に係る端末装置70のソフトウェア構成図である。端末装置70には、ゲスト用のアプリケーションソフトA7がインストールされている。図5(b)に示されているように、OS1020、及びゲスト用のアプリケーションソフトA7は、RAM703の作業領域1010上で動作する。これらのうち、OS1020は、基本的な機能を提供し、端末装置70全体を管理する基本ソフトウェアである。ゲスト用のアプリケーションソフトA7は、他の端末装置10,70と通信するためのアプリである。
ただし、ゲスト用のアプリケーションソフトA7はオペレータ用のアプリケーションソフトA1に対し機能が制限されている。原則的に操作はオペレータが行い、ゲストは最小限の操作のみを行えばよいとする設計方針のためである。一例として、ゲストが行える操作は、以下のようになっている。
1.オペレータの呼び出しボタンの押下
2.スピーカ715の音量調節
3.自拠点の画像の表示・非表示の切り替え
なお、アプリケーションソフトの通信プロトコルとしては、(1)SIP(Session Initiation Protocol)、(2)H.323、(3)SIPを拡張したプロトコル、(4)インスタントメッセンジャーのプロトコル、(5)SIPのMESSAGEメソッドを利用したプロトコル、(6)インターネットリレーチャットのプロトコル(IRC(Internet Relay chat))、(7)インスタントメッセンジャーのプロトコルを拡張したプロトコル等が挙げられる。このうち、(4)インスタントメッセンジャーのプロトコルは、例えば、(4−1)XMPP(Extensible Messaging and Presence Protocol)、又は(4−2)ICQ(登録商標)、AIM(登録商標)、若しくはSkype(登録商標)などで利用されるプロトコルである。また、(7)インスタントメッセンジャーのプロトコルを拡張したプロトコルは、例えば、Jingleである。
<機能について>
図6は、本実施形態の通信システム100が有する端末装置10、70、及び管理システム50の一例の機能ブロック図である。なお、中継装置30は画像データを中継するに過ぎないため図6ではその機能が省略されている。
<<端末装置の機能構成>>
以下では、コールセンター8のオペレータが使用する端末装置10、及び、店舗7を訪問したゲストが使用する端末装置70の機能をそれぞれ説明する。この機能の違いはアプリケーションソフトの違いである。ただし、コールセンター8の端末装置と店舗7の端末装置が同じアプリケーションソフトを実行し、認証によりオペレータのみが実行できる操作を用意することで機能が異なってもよい。
・コールセンターの端末装置10
コールセンター8の端末装置10は、通信部11、操作入力受付部12、起動部13、表示制御部17、撮像部18、音声出力部19、音声取得部20、及び、記憶・読出処理部29を有している。これら各部は、図3に示されている各構成要素のいずれかが、HDD704からRAM703上に展開されたオペレータ用のアプリケーションソフトA1に従ったCPU701からの命令によって動作することで実現される機能又は手段である。
また、端末装置10は、図3に示されているRAM703、及びHDD704によって構築される記憶部1000を有している。記憶部1000には、管理システム50等からダウンロードしたオペレータ用のアプリケーションソフトA1が記憶されており、また、画像データ、音声データ、資料データ、及び、手書き情報が一時的に保持される。オペレータ用のアプリケーションソフトA1により設定される属性情報(オペレータ)も記憶される。
また、記憶部1000には、端末装置10を識別するための通信ID(Identification)、及びパスワード等が記憶されている。IDはIdentificationの略であり識別子や識別情報という意味である。IDは複数の対象から、ある特定の対象を一意的に区別するために用いられる名称、符号、文字列、数値又はこれらのうち1つ以上の組み合わせをいう。この他のIDについても同様である。
通信部11(第二の通信部の一例)は、通信ネットワーク2を介して管理システム50、及び中継装置30(これらを介して他の端末装置10と通信する)と各種データ(又は情報)の送受信を行う。通信部11は、所望の宛先端末と通話を開始する前から、管理システム50より、通信相手の候補としての各端末の状態を示す各状態情報の受信を開始する。
操作入力受付部12は、コールセンター8のオペレータによる端末装置10に対する各種入力を受け付ける。例えば、利用者が電源スイッチをONにすると、操作入力受付部12が電源オンを受け付けて、起動部13に通知する。
起動部13は、電源のONにより端末装置10を起動させる。例えばIPLを実行して、記憶部1000のオペレータ用のアプリケーションソフトA1を読み出し、図3のRAM703に転送する。更に、起動部13はオペレータ用のアプリケーションソフトA1をCPU701に実行させることにより、端末装置10を管理システム50にログインさせるなどの処理を行う。
表示制御部17は、中継装置30から送信された画像データ、資料データ及び手書き情報をディスプレイ720に送出するための制御を行う。また、表示制御部17は、ディスプレイ720に各種の画面を表示させる。
撮像部18は、カメラ712a、712bにより被写体を撮像して得られた撮像データを、所定の画像データに変換して出力する。撮像部18は、カメラ712a、712bを切り替えて画像を出力できる。
音声出力部19は、中継装置30から送信された音声データをスピーカ715から再生出力する。
音声取得部20は、マイク714によって操作者の音声が音声信号に変換された後、この音声信号を所定の音声データに変換して出力する。
記憶・読出処理部29は、記憶部1000に各種データを記憶したり、記憶部1000に記憶された各種データを読み出したりする処理を行う。
・店舗の端末装置70
店舗7の端末装置70は、通信部71、操作入力受付部72、起動部73、表示制御部77、撮像部78、音声出力部79、音声取得部80、状態管理部81、送信制御部82、及び、記憶・読出処理部89を有している。これらの説明においては主にコールセンター用の端末装置10との相違を説明する。
状態管理部81は、CPU701からの命令によって実現され、端末装置10から送られてくるプレゼンス情報に基づいて、宛先候補(オペレータ)のプレゼンスを管理する。
送信制御部82は、CPU701からの命令によって実現され、宛先候補の状態に基づいて、宛先候補への通話の開始要求の送信を制御する。
店舗7の端末装置70の記憶部7000には、属性情報(ゲスト)7004の他、宛先管理DB7001、プレゼンス管理DB7002、及び、送信先管理DB7003が構築されている。
図7(a)は宛先管理DB7001に記憶されている宛先管理テーブルの一例を示す。宛先管理テーブルでは、宛先候補であるオペレータの端末装置10の通信ID、宛先候補の状態を示すプレゼンス、及びこの宛先候補の特徴を示す特徴情報が関連付けられて管理される。この特徴情報は項目の略称である。通信IDは、通信システム100において、通信先を特定するための情報である。通信IDとしては、特に限定されないが、例えば、端末装置10、70の識別情報、端末装置10、70のユーザの識別情報、メールアドレス等が含まれる。なお、プレゼンスの詳細については後述する。
図7(b)はプレゼンス管理DB7002(状態管理情報記憶部の一例)に記憶されているプレゼンス管理テーブルを示す概念図である。プレゼンス管理テーブルでは、宛先候補の特徴を示す特徴情報、その特徴の各宛先候補の各プレゼンスを統合したプレゼンス、その特徴の宛先候補のうち通話可能なプレゼンス「online」の端末装置10の通信ID、及びその特徴の宛先候補のうち通話中のプレゼンス「chat」の端末装置10の通信IDが関連付けられて管理される。なお、各宛先候補の各プレゼンスを統合して、特徴のプレゼンスを生成する処理については後述する。
図7(c)は、送信先管理DB7003に記憶されている送信先管理テーブルを示す概念図である。端末装置70はゲストによって使用され、端末装置10はオペレータによって使用される。端末装置70は、同じタイミングに複数の端末装置10へ通話の開始要求を送信することができる。送信先管理テーブルは、端末装置70による現在の通話の開始要求の送信先の端末装置10の通信IDを管理する。端末装置70による通話の開始要求の送信処理、通話の開始要求のキャンセルの処理によって送信先管理テーブルにおいて管理される通信IDの数は変動する。
<管理システムの機能構成>
図6に戻って説明する。管理システム50は、通信部51、認証部52、管理部53、セッション制御部54、画面情報生成部57、及び記憶・読出処理部59を有している。これら各部は、図4に示されている各構成要素のいずれかが、HD204からRAM203上に展開された管理システム50用のプログラムに従ったCPU201からの命令によって動作することで実現される機能である。また、管理システム50は、HD204により構築される記憶部5000を有している。更に、記憶部5000には、以下に示すような各テーブルによって各DBが構築される。
図7(d)は、認証管理DB5001に記憶されている認証管理テーブルを示す概念図である。認証管理テーブルでは、管理システム50によって管理される全ての端末装置10,70の各通信IDに対して、認証用のパスワードが関連付けられて管理される。
図7(e)は、端末管理DB5002に記憶されている端末管理テーブルを示す概念図である。端末管理テーブルでは、端末装置10,70の通信ID毎に、端末装置10,70のIPアドレスが関連付けられて管理される。
<管理システムの各機能構成>
次に、管理システム50の各機能構成について詳細に説明する。通信部51は、CPU201からの命令、及びネットワークI/F209によって実現され、通信ネットワーク2を介して各端末装置又はシステムと各種データ(又は情報)の送受信を行う。
認証部52は、CPU201からの命令によって実現され、通信部51で受信された通信ID及びパスワードを検索キーとして、認証管理テーブルを検索し、この認証管理テーブルに同一の通信ID及びパスワードが管理されているかを判断することによって端末の認証を行う。
管理部53は、CPU201からの命令によって実現され、図7(e)に示した端末管理テーブルに端末装置10,70の情報を記録することで、端末装置10,70を管理する。
セッション制御部54は、CPU201からの命令によって、端末装置10,70の間でコンテンツデータを送信するためのセッションを制御する。この制御としては、セッションを確立するための制御、確立されたセッションに端末装置10,70を参加させる制御、セッションから退出する制御等が含まれる。
画面情報生成部57は、Webサーバとして管理端末40が表示する画面の画面情報を生成する。画面情報は、HTML、XML、CSS(Cascade Style Sheet)、及びJavaScript(登録商標)等により作成される。本実施形態では、通話中画面を表示する画面情報を生成する。このような画面をWebページという場合があり、WebページはWebアプリにより提供されてよい。Webアプリとは、ブラウザ上で動作するプログラミング言語(たとえばJavaScript(登録商標))によるプログラムとWebサーバ側のプログラムが協調することによって動作し、ブラウザ上で実行されるソフトウェア又はその仕組みを言う。WebアプリによりWebページを動的に変更できる。
記憶・読出処理部59は、CPU201からの命令及びHDD205によって実現され、又はCPU201からの命令によって実現され、記憶部5000に各種データを記憶したり、記憶部5000に記憶された各種データを抽出したりする処理を行う。
<管理端末>
管理端末40は、通信部41、操作受付部42、及び、表示制御部43を有する。管理端末40が有するこれら各機能部は、これら各部は、図4に示されている各構成要素のいずれかが、HD204からRAM203上に展開された管理端末40用のプログラムに従ったCPU201からの命令によって動作することで実現される機能である。このプログラムは、ブラウザソフトが想定されている。管理端末40は、店舗の管理者が各オペレータの情報を提案制御装置3から取得して表示するために使用される。
管理端末40が有する通信部41は管理システム50等と各種の情報を送受信する。例えば、HTTP通信でポータルサイトのWebページを要求し、Webページに対する各種の操作内容を管理システム50に送信する。
操作受付部42は、管理端末40が表示するWebページ(画面)に対する各種の操作を受け付ける。表示制御部43は、管理システム50から各種の画面情報を解析してディスプレイ208に表示する。
<提案制御装置>
図8は、提案制御装置3の機能をブロックに分けて説明する一例の機能ブロック図である。提案制御装置3は、通信部91、音声認識部92、大きさ記録部93、トーン判断部94、聞き返し検出部95、会話速度検出部96、映像解析部97、及び、提案部98を有している。これら各部は、図4に示されている各構成要素のいずれかが、HD204からRAM203上に展開された提案制御装置3用のプログラムに従ったCPU201からの命令によって動作することで実現される機能である。また、提案制御装置3は、HD204により構築される記憶部99を有している。更に、記憶部99には、以下に示すような各テーブルによって各記憶部が構築される。
図9(a)は、発言記憶部3001に記憶されている発言管理テーブルを示す概念図である。発言管理テーブルでは、オペレータとゲストが発言したテキストデータが単語ごとに記録されている。ただしオペレータについてはテキストデータに変換されていればよく単語に区分しなくてもよい。テキストデータは形態素解析により品詞に区分されている。また、オペレータ又はゲストが単語を発言した時の声の大きさ、トーン、表情などが登録されている。声の大きさ、トーン、又は表情は、単語ごとに登録されていなくてもよく、一文、一定時間、又は、会話が途切れるまでなど、発言のかたまりに対して登録されていてもよい。トーンとは音調であり、声の高さや明るさを表す。
図9(a)の発言管理テーブルは店舗ごとに生成されるが、ゲストが複数人の場合、提案制御装置3が音声認識で複数のゲストを識別し、ゲストごとに発言管理テーブルを生成してもよい。以下のテーブルでも同様である。
図9(b)は、聞き返し回数記憶部3002に記憶されている聞き返し管理テーブルを示す概念図である。聞き返し管理テーブルでは、会議ごとに、ゲストが聞き返した回数が登録されている。聞き返し回数は一定時間ごとに初期化される。
図9(c)は会話速度記憶部3003に記憶されている会話速度管理テーブルを示す概念図である。会話速度管理テーブルでは、会議ごとに、オペレータとゲストの会話速度〔文字数/10sec〕が登録されている。ゲストの会話速度はなくてもよい。会話速度の単位〔文字数/10sec〕は一例であり、一定時間当たりの単語数でもよい。また、1分間当たりの文字数など、10秒当たりでなくてもよい。会話速度は一定時間ごとに更新される。
図9(d)は提案情報記憶部1(符号は3004)に記憶されている提案情報管理テーブル1を示す概念図である。提案情報管理テーブル1では、ゲストが聞き返した回数に提案と表示方法が対応付けて登録されている。例えば、聞き返した回数が20回の場合、提案は「少し大きい声で話しましょう」であり、提案の表示方法は「赤字」となっている。提案は文字に限られず、アイコン、音声メッセージ、又は警報音などの場合もある。
図9(e)は提案情報記憶部2(符号は3005)に記憶されている提案情報管理テーブル2を示す概念図である。提案情報管理テーブル2では、速度差に提案と表示方法が対応付けて登録されている。例えば、速度差が「−10」の場合、提案は「少しゆっくり話しましょう」であり、表示方法は「赤字」となっている。速度差とはオペレータの会話速度と予め決まった基準値との差である。オペレータの会話速度が基準値より速い場合はマイナス値となり、逆の場合はプラス値となる。なお、速度差はゲストとオペレータの会話速度の差でもよい。
図9(f)は時間情報記憶部3006に記憶されている時間情報管理テーブルを示す概念図である。時間情報管理テーブルでは、行き先と平均接客時間が登録されている。旅行代理店の場合、ゲストの行き先によって接客時間が異なるため行き先ごとに平均接客時間が登録されている。行き先はより詳細な地域名でもよい。平均接客時間は、各ゲストが接客に要した時間の平均である。接客に要する時間とは、テレビ会議(通話)が開始されてから終了するまでの時間である。平均接客時間により、提案制御装置3は接客時間の目安を提案できる。
<<提案制御装置の各機能構成>>
次に、提案制御装置3の各機能構成について詳細に説明する。通信部91(第一の通信部の一例)は、通信ネットワーク2を介して中継装置30から音声データ及び映像データを受信する。また、通信部91は、話し方の改善方法や会話テーマに関する提案をオペレータの端末装置10に送信する。
音声認識部92は、通信部91が受信した音声データを音声認識してテキストデータに変換する。音声認識の方法はどのような方法でもよい。例えば、具体的にはHMM(隠れマルコフモデル:hidden Markov model)やN−グラムモデルに代表される生成モデルの統計量を学習データに基づいて最尤推定する方法がある。あるいは、ディープラーニングの一形態であるRNN(Recurrent Neural Network)にLSTM(Long short−term memory)を適用する方法が知られている。
また、音声認識部92は形態素解析してテキストデータを品詞付きの単語に変換する。これにより、単語と品詞を抽出できる。また、同音異義語を適切な単語に変換できる(「うみ」を「海」に変換して検出することができる)。音声認識部92は、抽出した単語を発言記憶部3001に登録する。なお、発言記憶部3001への記録はオペレータとゲストの両方で行うことが好ましいが、本実施形態では、少なくともゲストについて行えばよい。オペレータについては会話速度の検出のために、テキストデータへの変換が行われればよい。
大きさ記録部93は、少なくともゲストの発言の大きさ(声の大きさ)を単語に対応付けて記録する。発言の大きさは音声データの振幅(例えばPCM(pulse code modulation)変換時のビット値)でよい。好ましくは、単語ごとに判断すればよいが、一文、一定時間、又は、会話が途切れるまでなど、発言のかたまりに対して登録されていればよい。
トーン判断部94は声のトーンを判断する。フーリエ変換などで音声データを周波数と強度の関係に変換し、ゲストごとに取り得る周波数の範囲を決定する。例えば、最初の数分間に取った周波数の範囲でよい。そして、範囲を例えば2つの領域に等分して、最も強度が高い周波数が2つの領域のどちらに属するかを決定する。トーン判断部94は少なくともゲストのトーンを単語に対応付けて記録する。好ましくは、単語ごとに判断すればよいが、一文、一定時間、又は、会話が途切れるまでなど、発言のかたまりに対して登録されていればよい。
聞き返し検出部95は、音声認識部92が検出したテキストデータと予め保持している文字列を比較して、聞き返しを検出する。例えば、予め「もう一度」「え?」「聞こえません」「何ていいました」などの文字列を保持しており、これらと一致するゲストのテキストデータが検出された場合に、聞き返しがあったことを検出する。聞き返し検出部95は、聞き返しを検出するごとに聞き返し回数記憶部3002の聞き返しの回数を1つ大きくする。
会話速度検出部96は、少なくともオペレータの会話速度を検出する。音声認識部92が認識したテキストデータの文字数(音節)を一定時間ごとに数えて会話速度とする。なお、ゲストについても会話速度を記録してよい。この一定時間は提案の周期と同じでよいが、同じである必要はない。
オペレータの会話速度SO=文字数/一定時間
ゲストの会話速度 SG=文字数/一定時間
会話速度検出部96は一定時間ごとに、会話速度記憶部3003にオペレータとゲストの会話速度を登録する。過去の会話速度の平均を登録してもよい。
映像解析部97は、オペレータとゲストの映像データを解析する。例えば、笑顔かどうかが判断される。オペレータに関しては、笑顔か否かが例えば定期的に登録され、ゲストに関しては発言記憶部3001に表情(笑顔、普通)が登録される。笑顔の検出は、例えばディープラーニングを利用してよい。予め笑顔であるかそうでないかが教師信号として与えられている画像データをCNN(Convolutional Neural Network)などのニューラルネットワークで情報処理装置が学習しておく。学習により、入力された映像データに対し笑顔か否かを映像解析部97が出力できる。
提案部98は、一定時間ごと、又は、オペレータからの要求に応じて、聞き返しの回数、又は、会話速度に応じた提案をオペレータの端末装置10に送信する。例えば、聞き返しの回数に基づく場合、聞き返しの回数が提案情報記憶部1の回数より大きくなると、提案を送信すると判断する。会話速度に基づく場合、「基準値−SO」を算出してこの値が提案情報記憶部2の速度差より大きくなると、提案を送信すると判断する。
また、提案部98は、発言記憶部3001に記憶されている単語のリストをグラフなどの視覚情報で表して、オペレータの端末装置10に送信することもできる。
<通信システムの処理・動作>
続いて、図10を用いて、端末装置10,70が管理システム50へログインする処理を説明する。図10は、端末装置10,70が管理システム50へログインする処理の一例を示すシーケンス図である。
店舗7のスタッフ等が端末装置70の電源スイッチをONにすると、操作入力受付部72が電源ONを受け付けて、端末装置70を起動させる(ステップS1)。端末装置70が起動すると、起動部73は、端末装置70にインストールされているゲスト用のアプリケーションを起動させる(ステップS2)。以下、端末装置70における処理は、ゲスト用のアプリケーションの命令により実行される。
端末装置70の通信部71は、通信ネットワーク2を介して管理システム50に、ログイン要求を送信する(ステップS3)。このログイン要求には、ログイン要求元である自端末を識別するための通信ID、及びパスワードが含まれている。本実施形態において、端末装置70の通信IDは、頭文字が「C」で表されている。以下、端末装置70X,端末装置70Yの通信IDが「C01,C02」であるものとする。
管理システム50の通信部51は、ログイン要求を受信する。端末装置70から管理システム50へログイン要求が送信されることで、受信側である管理システム50は、送信側である端末装置70のIPアドレスを取得することができる。
次に、管理システム50の認証部52は、ログイン要求に含まれている通信ID及びパスワードを検索キーとして、記憶部5000の図7(d)に示した認証管理テーブルを検索し、この認証管理テーブルに同一の通信ID及びパスワードが管理されているかを判断することによって認証を行う(ステップS4)。
認証部52によって、正当な利用権限を有する端末装置70からのログイン要求であると認証された場合には、管理部53は、図7(e)に示した端末管理テーブルに、ログイン要求元の端末装置70の通信ID、及びIPアドレスを関連付けて記録する(ステップS5)。
管理システム50の通信部51は、認証部52による認証結果が示された認証結果情報を、通信ネットワーク2を介して、ログイン要求元の端末装置70へ送信する(ステップS6)。これにより、端末装置70の通信部71は、認証結果情報を受信する。以下、ログイン要求元の端末装置70X,70Yの認証に成功し、端末装置70X,70Yが管理システム50にログインした場合について説明する。
一方、オペレータ側の端末装置10のオペレータが電源スイッチをONにすると、操作入力受付部12が電源ONを受け付けて、端末装置10を起動させる(ステップS11)。端末装置10が起動すると、起動部13は、端末装置10にインストールされているオペレータ用のアプリケーションソフトA1を起動させる(ステップS12)。以下、端末装置10における処理は、オペレータ用のアプリケーションソフトA1の命令により実行される。
端末装置10の表示制御部17は、端末装置10のユーザであるオペレータの特徴の入力を受け付ける受付画面をディスプレイ720に出力する。
図11は、受付画面の一例を示す図である。受付画面140には、通信ID、及びパスワードの入力を受け付ける欄141,142の他、オペレータの特徴として、旅行先の説明として対応可能な国又は地域の選択肢143と選択用のチェックボックス144が含まれている。オペレータが、対応可能な国又は地域を選択して、受付画面140のOKボタン145を押下する操作を行うと、操作入力受付部12は、オペレータの特徴の入力を受け付ける(ステップS13−1)。
記憶・読出処理部29は、選択された特徴に対応する特徴情報を記憶部1000に記憶させる。以下、特徴「北海道、東北、関東、中部、近畿、山陰山陽、四国、九州」に対応する特徴情報は、それぞれ「hd,th,kt,cb,kk,ss,sk,ks」であるものとする。したがって、図11のチェック状態では「hd、th、ks」がこのオペレータの特徴情報である。
端末装置10は、管理システム50へログイン要求を送信して、管理システム50へログインする(ステップS13−2,S14,S15,S16)。この処理は、端末装置70と管理システム50との間のステップS3,S4,S5,S6の処理と同様であるので、説明を省略する。但し、ログイン要求で端末装置10から管理システム50へ送信される通信IDは、オペレータ側の端末装置10であることを判別可能なように、頭文字が「O」で表されている。以下、端末装置10a,10b,10cの通信IDが「O01,O02,O03」であるものとする。ログイン要求元の端末装置10a,10b,10cの認証に成功すると、端末装置10a,10b,10cは、管理システム50にログインする。
続いて、図12を用いて、端末装置10から端末装置70へ、オペレータ側の状態を示すプレゼンス情報を送信する処理について説明する。図12は、プレゼンス情報を送信する処理の一例を示すシーケンス図である。
オペレータ用のアプリケーションソフトA1は、記憶部1000において、状態遷移の契機となるイベント、及びイベント発生による遷移後のプレゼンスを管理している。プレゼンスは、端末装置10のユーザであるオペレータが通話を開始可能な状態であるか特定するために利用される。通話を開始可能な状態を示すプレゼンスには、当該端末装置10が管理システム50へログインしており、ゲスト側の端末装置70と通信していない状態を示す「online」が含まれる。通話を開始不可能な状態を示すプレゼンスには、当該端末装置10が管理システム50へログインしていない状態を示す「offline」、及び、当該端末装置10が管理システム50へログインしているが、既にカスタマー側の端末装置70と通信しているため新たに通話を開始できない状態を示す「chat」が含まれる。なお、プレゼンスは、上記のものに限定されない。例えば、プレゼンスには、ユーザの入力に基づくものが含まれていても良い。ユーザの入力に基づくプレゼンスのうち、通話を開始不可能な状態を示すプレゼンスの一例としては、「離席中」が挙げられる。
プレゼンス「online」への遷移の契機となるイベントの一例としては、端末装置10による、上記ステップS16の認証結果情報の受信や、ユーザからの通話の終了要求の入力の受け付け等が挙げられる。プレゼンス「offline」への遷移の契機となるイベントの一例としては、端末装置10による、管理システム50からのログアウトが挙げられる。プレゼンス「chat」への遷移の契機となるイベントの一例としては、端末装置70,10間の通信の確立(後述のステップS105)が挙げられる。なお、プレゼンスの遷移の契機となるイベントは、検出可能なものであれば特に限定されず、通信プロトコルやアプリケーションソフトによる処理内容に応じて、任意に設定可能である。
端末装置10aで上記のいずれかのイベントが発生すると(ステップS21)、記憶・読出処理部29は、特徴情報を記憶部1000から読み出す。読み出される特徴情報は、図11の受付画面140によりログイン時に端末装置10aのユーザであるオペレータにより入力された「北海道」等の特徴に対応している。端末装置10aの通信部11は、ステップS21のイベント発生による遷移後の状態を示すプレゼンス、記憶部1000から読み出された特徴情報、及び送信元の端末装置10aの通信ID「O01」が含まれるプレゼンス情報を、管理システム50へ送信する(ステップS22)。例えば、端末装置10aは、ステップS16で認証結果情報を受信すると、プレゼンス「online」を含むプレゼンス情報を管理システム50へ送信する。また、端末装置10aは、ログアウトの要求が受け付けられると、プレゼンス「offline」を含むプレゼンス情報を管理システム50へ送信する。また、端末装置10aは、端末装置70との間の通信の確立に応じて、プレゼンス「chat」を含むプレゼンス情報を管理システム50へ送信する。なお、ステップS13−1で特徴情報が記憶部1000に記録されてから特徴情報が更新されなければ、端末装置10aは、イベントが発生する度に、同じ特徴情報を含むプレゼンス情報を管理システム50へ送信する。
管理システム50の通信部51は、端末装置10aによって送信されるプレゼンス情報を受信すると、受信したプレゼンス情報を、管理システム50へログインしている店舗7の端末装置70x,70yへ送信する(ステップS23,S24)。管理システム50へログインしている店舗側の端末装置70を特定する方法は特に限定されないが、一例として、図7(e)の端末管理テーブルから、「C」が頭文字の通信IDを読み出す方法が挙げられる。
端末装置70x,70yの通信部71は、コールセンター8の端末装置10aから管理システム50を介して送信されるプレゼンス情報を受信する。端末装置70x,70yの記憶・読出処理部89は、受信したプレゼンス情報に含まれる通信ID、プレゼンス、及び特徴情報を関連付けて図7(a)の宛先管理テーブルに記録する(ステップS25,S26)。受信したプレゼンス情報に含まれる通信IDと同一の通信IDのレコードが宛先管理テーブルに存在する場合、記憶・読出処理部89は、新たに受信されたプレゼンス情報に基づいて、このレコードに記録されているプレゼンスを上書更新する。これにより、端末装置70x,70yは、端末装置10a側の最新のプレゼンスを管理することができる。
オペレータ側の端末装置10bにおいて、上記のイベントが発生すると、端末装置10b、管理システム50、及び端末装置70x,70y間では、端末装置10a、管理システム50、及び端末装置70x,70y間のステップS21,S22,S23,S24,S25,S26と同様の処理が実行される(ステップS31,S32,S33,S34,S35,S36)。オペレータ側の端末装置10cにおいて、上記のイベントが発生すると、端末装置10c、管理システム50、及び端末装置70x,70y間では、端末装置10a、管理システム50、及び端末装置70x,70y間のステップS21,S22,S23,S24,S25,S26と同様の処理が実行される(ステップS41,S42,S43,S44,S45,S46)。これにより、端末装置70x,70yは、端末装置10b,10c側の最新のプレゼンスを管理することができる。
続いて、図13を用いて、特徴毎のプレゼンスを管理する処理について説明する。図13は、特徴毎のプレゼンスを管理する処理の一例を示すフロー図である。以下、ゲスト側からオペレータ側へ通話を要求することを想定して、オペレータ側を宛先候補と表す。なお、宛先候補のオペレータがステップS13−1で複数の特徴(例えば、「北海道、東北、九州」)を選択した場合、その宛先候補は、複数の特徴のグループに属することになる。特徴のプレゼンス「online」は、この特徴の宛先候補のうち、いずれかの宛先候補が通話可能なプレゼンス「online」であることを表す。特徴のプレゼンス「chat」は、この特徴のグループの宛先候補のいずれもプレゼンス「online」の状態ではなく、通話中のプレゼンス「chat」の宛先候補が一以上含まれていることを表す。
特徴のプレゼンス「offline」は、この特徴の宛先候補のいずれもプレゼンス「offline」であることを表す。以下、端末装置70xの処理について説明するが、端末装置70yも同様の処理を実行可能である。
端末装置70xの状態管理部81は、ステップS26,S36,S46で、図7(a)に示した宛先管理テーブルのプレゼンスが更新される度、更新されたレコードに記録されている通信ID、プレゼンス、及び特徴情報を取得する(ステップS51)。
端末装置70xの状態管理部81は、図7(b)に示したプレゼンス管理テーブルにおいて、ステップS51で取得される特徴情報が含まれる各レコードを更新する。すなわち、ステップS51で特徴情報「hd,th,ks」が取得された場合、状態管理部81は、プレゼンス管理テーブルにおける、特徴情報「hd,th,ks 」が含まれる各レコードを更新する。
以下、一例として、端末装置10aから端末装置70xへ、プレゼンス情報「online,(hd,th,ks ),O01」が送信され、ステップS51でこれらの情報が取得されたときの処理について説明する(ステップS52のonline)。
まず、ループ処理で、プレゼンス管理テーブルのうち、特徴情報「hd」が記録されたレコードを更新する処理について説明する。端末装置70xの状態管理部81は、プレゼンス管理テーブルのうち、特徴情報「hd」が記録されたレコードにおける通話可能通信IDのフィールドを参照する。これにより、状態管理部81は、通話可能通信IDのフィールドに、ステップS51で取得された通信ID「O01」が含まれているか判断する(ステップS53)。
プレゼンス管理テーブルにおける通話可能通信IDのフィールドに、ステップS51で取得された通信ID「O01」が含まれていないと判断された場合(ステップS53のNO)、状態管理部81は、通話可能通信IDのフィールドに、取得された通信ID「O01」を追加する(ステップS54)。
ステップS54の処理が完了した場合、又は、ステップS53のYESの場合、端末装置70xの状態管理部81は、プレゼンス管理テーブルのうち、特徴情報「hd」が記録されたレコードにおける通話中通信IDのフィールドを参照する。これにより、状態管理部81は、通話中通信IDのフィールドに、ステップS51で取得される通信ID「O01」が含まれているか判断する(ステップS55)。
プレゼンス管理テーブルにおける通話中通信IDのフィールドに、ステップS51で取得された通信ID「O01」が含まれていると判断された場合(ステップS55のYES)、通話中通信IDのフィールドから、取得された通信IDを削除する(ステップS56)。ここまでの処理により、端末装置10a側のプレゼンスが、「chat」から「online」へ遷移する場合も、「offline」から「online」へ遷移する場合も、プレゼンス管理テーブルの特徴情報「hd」が記録されたレコードには、通話可能通信IDのフィールドにのみ端末装置10aの通信IDが記録されるようになる。
ステップS56の処理が完了した場合、又は、ステップS55のNOの場合、端末装置70xの状態管理部81は、プレゼンス管理テーブルのうち、特徴情報「hd」が記録されたレコードにおける特徴のプレゼンスを参照する。これにより、状態管理部81は、グループのプレゼンスが「online」であるか判断する(ステップS57)。
特徴情報「hd」が記録されたレコードにおける特徴のプレゼンスが「online」ではないと判断された場合(ステップS57のNO)、状態管理部81は、この特徴のプレゼンスを「online」に更新する。特徴情報「hd」が記録されたレコードにおける特徴のプレゼンスが「online」であると判断された場合(ステップS57のYES)、状態管理部81は、特徴情報「hd」が記録されたレコードにおける特徴のプレゼンスを更新しない。ここまでの処理により、プレゼンス管理テーブルの特徴情報「hd」が記録されたレコードにおける特徴のプレゼンスは「online」になる(ステップS58)。
ステップS51では特徴情報「hd,th,ks」が取得されているので、状態管理部81は、ループ処理で、プレゼンス管理テーブルにおける特徴情報「th,ks」が記録された各レコードについても、同様に更新する。ループ処理が完了すると、図7(b)のプレゼンス管理テーブルは、表1のように更新される。なお、プレゼンスの変更は図7(a)の宛先管理テーブルにも反映される。
Figure 2021069099

続いて、端末装置10aから端末装置70xへ、プレゼンス情報「chat,(hd,th,ks ),O01」が送信され、ステップS51でこれらのプレゼンス情報が取得されたときの処理について説明する(ステップS52のchat)。
まず、ループ処理で、プレゼンス管理テーブルのうち、特徴情報「hd」が記録されたレコードを更新する処理について説明する。端末装置70xの状態管理部81は、プレゼンス管理テーブルのうち(表1参照)、特徴情報「hd」が記録されたレコードにおける通話可能通信IDのフィールドを参照する。これにより、状態管理部81は、通話可能通信IDのフィールドに、ステップS51で取得された通信ID「O01」が含まれているか判断する(ステップS63)。
プレゼンス管理テーブルにおける通話可能通信IDのフィールドに、ステップS51で取得された通信ID「O01」が含まれていると判断された場合(ステップS63のYES)、通話可能通信IDのフィールドから、取得された通信IDを削除する(ステップS64)。
ステップS64の処理が完了した場合、又は、ステップS63のNOの場合、端末装置70xの状態管理部81は、プレゼンス管理テーブル(表1参照)のうち、特徴情報「hd」が記録されたレコードにおける通話中通信IDのフィールドを参照する。これにより、状態管理部81は、通話中通信IDのフィールドに、ステップS51で取得される通信ID「O01」が含まれているか判断する(ステップS65)
プレゼンス管理テーブルにおける通話中通信IDのフィールドに、ステップS51で取得された通信ID「O01」が含まれていないと判断された場合(ステップS65のNO)、通話中通信IDのフィールドに、取得された通信ID「O01」を追加する(ステップS66)。ここまでの処理により、プレゼンス管理テーブルの特徴情報「hd」が記録されたレコードには、通話中通信IDのフィールドにのみ端末装置10aの通信IDが記録されるようになる。
ステップS66の処理が完了した場合、又は、ステップS65のYESの場合、端末装置70xの状態管理部81は、プレゼンス管理テーブルのうち、特徴情報「hd」が記録されたレコードにおける通話可能通信IDのフィールドを参照する。これにより、状態管理部81は、特徴情報「hd」が記録されたレコードにおける通話可能通信IDのフィールドに記録されている通信IDの数が0であるか判断する(ステップS67)。
特徴情報「hd」が記録されたレコードにおける通話可能通信IDのフィールドに記録されている通信IDの数が0である場合(ステップS67のYES)、状態管理部81は、特徴情報「hd」が記録されたレコードにおける特徴のプレゼンスを「chat」に更新する(ステップS68)。
特徴情報「hd」が記録されたレコードにおける通話可能通信IDのフィールドに記録されている通信IDの数が0ではない場合(ステップS67のNO)、状態管理部81は、特徴情報「hd」が記録されたレコードにおける特徴のプレゼンスを更新しない。すなわち、特徴情報「hd」が記録されたレコードにおける通話可能通信IDのフィールドに通信IDが記録されている場合、対応するプレゼンスは「online」のまま更新されない。
ステップS51では特徴情報「hd,th,ks」が取得されているので、状態管理部81は、ループ処理で、プレゼンス管理テーブルにおける特徴情報「th,ks」が記録された各レコードについても、同様に更新する。これにより、表1のプレゼンス管理テーブルは、表2のようになる。
Figure 2021069099

続いて、端末装置10cから端末装置70xへプレゼンス情報「offline,(hd,kt,cb),O03」が送信され、ステップS51でこれらのプレゼンス情報が取得された場合について説明する(ステップS52のoffline)。
まず、ループ処理で、プレゼンス管理テーブルのうち、特徴情報「hd」が記録されたレコードを更新する処理について説明する。端末装置70xの状態管理部81は、プレゼンス管理テーブル(表2参照)のうち、特徴情報「hd」が記録されたレコードにおける通話可のフィールドを参照する。これにより、状態管理部81は、通話可能通信IDのフィールドに、ステップS51で取得された通信ID「O03」が含まれているか判断する(ステップS73)。
プレゼンス管理テーブルにおける通話可能通信IDのフィールドに、ステップS51で取得された通信ID「O03」が含まれていると判断された場合(ステップS63のYES)、通話可能通信IDのフィールドから、取得された通信ID「O03」を削除する(ステップS74)。
ステップS74の処理が完了した場合、又は、ステップS73のNOの場合、端末装置70xの状態管理部81は、プレゼンス管理テーブル(表2参照)のうち、特徴情報「hd」が記録されたレコードにおける通話中通信IDのフィールドを参照する。これにより、状態管理部81は、通話中通信IDのフィールドに、ステップS51で取得される通信ID「O03」が含まれているか判断する(ステップS75)。
プレゼンス管理テーブルにおける通話中通信IDのフィールドに、ステップS51で取得された通信ID「O03」が含まれていると判断された場合(ステップS75のYES)、通話中通信IDのフィールドから、取得された通信ID「O03」を削除する(ステップS76)。ここまでの処理により、プレゼンス管理テーブルにおける特徴情報「hd」が記録されたレコードから端末装置10cの通信IDが削除される。
ステップS76の処理が完了した場合、又は、ステップS75のNOの場合、端末装置70xの状態管理部81は、プレゼンス管理テーブル(表2参照)のうち、特徴情報「hd」が記録されたレコードにおける通話可能通信ID及び通話中通信IDのフィールドを参照する。これにより、状態管理部81は、条件IF1,IF2に該当するか判断する(ステップS77)。条件IF1は、特徴情報「hd」が記録されたレコードにおける通話可能通信IDのフィールドに記録されている通信IDの数が0であり、通話中通信IDのフィールドに記録されている通信IDの数が0ではない場合である。条件IF2は、特徴情報「hd」が記録されたレコードにおける通話可能通信IDのフィールドに記録されている通信IDの数が0であり、通話中通信IDのフィールドに記録されている通信IDの数が0である場合である。
特徴情報「hd」が記録されたレコードにおける通話可能通信IDのフィールドに記録されている通信IDの数が0であり、通話中通信IDのフィールドに記録されている通信IDの数が0ではない場合(ステップS77のIF1)、状態管理部81は、プレゼンス管理テーブルの特徴情報「hd」が記録されたレコードにおける特徴のプレゼンスを「chat」に更新する(ステップS78)。
特徴情報「hd」が記録されたレコードにおける通話可能通信IDのフィールドに記録されている通信IDの数が0であり、通話中通信IDのフィールドに記録されている通信IDの数が0である場合(ステップS77のIF2)、状態管理部81は、プレゼンス管理テーブルの特徴情報「hd」が記録されたレコードにおける特徴のプレゼンスを「offline」に更新する(ステップS79)。
ステップS77でIF1にもIF2にも該当しない場合(ステップS77のNO)、状態管理部81は、特徴情報「hd」が記録されたレコードにおける特徴のプレゼンスを「online」のまま更新しない。
ステップS51では特徴情報「hd,kt,cb」が取得されているので、状態管理部81は、ループ処理で、プレゼンス管理テーブルにおいて、特徴情報「kt,cb」が記録された各レコードについても、同様に更新する。これにより、表2のプレゼンス管理テーブルは、表3のようになる。
Figure 2021069099

続いて、図14を用いて、通信を開始する処理について説明する。図14は、通信を開始する処理の一例を示すシーケンス図である。以下、一例として、端末装置70xが通信を開始する処理について説明するが、端末装置70yも同様の処理により通信を開始することができる。図14の処理を開始する時点で、宛先管理テーブルは図7(a)の状態であり、プレゼンス管理テーブルは表2の状態である場合について説明する。
端末装置70xの操作入力受付部72は、ユーザによる操作入力に応じて、宛先候補の特徴一覧の表示要求を受け付ける。表示要求に応じて、表示制御部77は、プレゼンス管理テーブル(表2参照)に記録されている各特徴情報、及びこの特徴情報に対応するグループのプレゼンスの組を取得する。記憶部7000には、特徴情報に対応する表示画像、及び特徴のプレゼンスに対応する表示画像のデータが予め記憶されている。一例として、特徴情報「hd」に対応する表示画像のデータは「北海道」を示すテキストデータである。また、一例として、特徴のプレゼンス「online,offline,chat」に対応する表示画像のデータは、それぞれ、通常輝度、低輝度、通常輝度+吹き出しのアイコン、の画像データである。表示制御部77は、取得された特徴情報、及びプレゼンスの組ごとに、対応するテキスト及びアイコンの表示画像のデータの組を記憶部7000から取得する。表示制御部77は、取得された表示画像のデータの組を所定の表示領域の同じ行に対応付けて配列することで特徴一覧の画像データを生成する。表示制御部77は、生成された特徴一覧の画像データをディスプレイ720へ出力する(ステップS81)。
図15は、プレゼンス管理テーブルが表2の状態である場合に表示される特徴一覧の画面の一例を示す図である。
表示制御部77は、プレゼンス管理テーブルが更新される度に、上記の処理を繰り返し実行する。これにより、特徴毎の最新のプレゼンスが示された特徴一覧がディスプレイ720に表示される。
ステップS81で、表示制御部77は、「online」に対応する項目を通常輝度の項目(ボタン)を出力し、「offline」に対応する項目(ボタン)を低輝度で出力し、「chat」に対応する項目を通常輝度+吹き出しのアイコン(ボタン)で出力する。図15では「東北」110bと「九州」110hに吹き出しのアイコン111が表示されている。また、「山陰山陽」110fが低輝度で表示されている。
例えば、ユーザにより、図15に示された特徴一覧における「東北」又は「九州」に対応する項目を押下する操作が行われた場合、操作入力受付部72は、操作入力を受け付け、通話中である旨を表示する。一方、図15に示された特徴一覧における「山陰山陽」の項目を押下する操作が行われた場合、操作入力受付部72は、操作入力を受け付け、不在である旨を表示する。
以下、特徴「北海道」の選択が受け付けられた場合の処理について説明する。操作入力受付部72は、「北海道」に対応する特徴の選択を受け付ける(ステップS82)。
特徴「北海道」の選択が受け付けられると、記憶・読出処理部89は、ステップS82で選択された特徴を示す特徴情報「hd」を検索キーとして、図7(a)の宛先管理テーブルを検索し、対応する通信ID、及びプレゼンスの組「O01,chat」、「O02,online」、「O03,online」を読み出す(ステップS83)。
端末装置70xの通信部71は、ステップS83で読み出された通信IDのうち、対応するプレゼンスが「online」である通信ID「O02」、自端末装置70xの通信ID「C01」、及びステップS82で選択された特徴を示す特徴情報「hd」を含む通話の開始要求を管理システム50へ送信する(ステップS84−1)。
同様に、端末装置70xの通信部71は、ステップS83で読み出された通信IDのうち、対応するプレゼンスが「online」である通信ID「O03」、自端末装置70xの通信ID「C01」、及びステップS82で選択された特徴を示す特徴情報「hd」を含む通話の開始要求を管理システム50へ送信する(ステップS86−1)。
管理システム50の通信部51は、端末装置70xによって送信される通話の開始要求を受信すると、通話の開始要求に含まれる通信ID「O02」によって特定される端末装置10bへ、この通話の開始要求を送信する(ステップS84−2)。同様に、管理システム50の通信部51は、端末装置70xによって送信された通話の開始要求を受信すると、通話の開始要求に含まれる通信ID「O03」によって特定される端末装置10cへ、この通話の開始要求を送信する(ステップS86−2)。
端末装置70xの送信制御部82は、通話の開始要求の送信先の端末装置10bの通信ID「O02」を送信先管理テーブルに記録することにより更新する(ステップS85)。同様に、端末装置70xの送信制御部82は、通話の開始要求の送信先の端末装置10cの通信ID「O03」を送信先管理テーブルに記録することにより更新する(ステップS87)。
オペレータ側の端末装置10aにおいて通話の終了要求の入力が受け付けられると(ステップS21')、通信部11は、記憶部1000から読み出される特徴情報「hd,th,ks」、端末装置10aの通信ID「O01」、プレゼンス「online」を含むプレゼンス情報を管理システム50へ送信する(ステップS22')。
管理システム50の通信部51は、端末装置10aによって送信されたプレゼンス情報を受信すると、受信したプレゼンス情報を、管理システム50へログインしているゲスト側の端末装置70xへ送信する(ステップS24')。
端末装置70xの通信部71は、オペレータ側の端末装置10aから管理システム50を介して送信されるプレゼンス情報を受信する。端末装置70xの記憶・読出処理部89は、受信したプレゼンス情報に含まれる通信ID、プレゼンス、及び特徴情報を宛先管理テーブルに記録する(ステップS26')。これにより、宛先管理テーブルは、図7(a)の状態から表4の状態に更新される。
Figure 2021069099

端末装置70xの送信制御部82は、ステップS24'で受信されたプレゼンス情報の送信元の端末装置10aへ通話の開始要求を送信するか判断する(ステップS88)。この処理で、端末装置70xの送信制御部82は、宛先管理テーブルにおいて更新された端末装置10aのプレゼンスを参照して、このプレゼンスが「online」であるか判断する。端末装置10aのプレゼンスが「online」ではない場合には、送信制御部82は通話の開始要求を送信しない旨、判断して処理を終了する。
端末装置10aのプレゼンスが「online」であると判断された場合、宛先管理テーブルにおいて端末装置10aの特徴情報「hd,th,ks」を参照して、これらの特徴情報のいずれかが、ステップS82で選択された特徴「北海道」を示すか判断する。特徴情報のいずれも選択された特徴を示さない場合には、送信制御部82は開始要求を送信しない旨、判断して処理を終了する。
特徴情報のいずれかが選択された特徴を示す場合、端末装置70xの送信制御部82は、開始要求を送信する旨、判断する。開始要求を送信する旨の判断に応じて、端末装置70xの通信部71は、プレゼンス情報の送信先の端末装置10aの通信ID「O01」、自端末装置70xの通信ID「C01」、及びステップS82で選択された特徴を示す特徴情報「hd」を含む通話の開始要求を管理システム50へ送信する(ステップS89−1)。
管理システム50の通信部51は、端末装置70xによって送信された通話の開始要求を受信すると、通話の開始要求に含まれる通信ID「O01」によって特定される端末装置10aへ、この通話の開始要求を送信する(ステップS89−2)。
続いて、図16を用いて、端末装置10,70間の通信を確立する処理について説明する。図16は、端末装置10,70間の通信を確立する処理の一例を示すシーケンス図である。以下、端末装置10aが、端末装置70xによる通話の開始要求に対して応答する場合について説明する。
端末装置10aの通信部11は、端末装置70xから管理システム50を介して送信される通話の開始要求を受信する(ステップS89−2参照)。通話の開始要求が受信されると、端末装置10aの表示制御部17は、通話の開始要求に含まれる通信ID「CO1」に対応する要求元の情報、及び通話の開始要求に含まれる特徴情報「hd」に対応する特徴「北海道」を含むメッセージをディスプレイ720へ出力する。
図17は、メッセージの表示例である。メッセージ150に特徴151を示すことにより、端末装置70のユーザであるオペレータは、どの国又は地域について説明を求められるか、通話開始する前から事前に把握することができる。
図17のメッセージには、通話の開始の許可を受け付けるための応答ボタン152が含まれている。端末装置10aにおいて、ユーザが画面上の応答ボタン152を押下すると、操作入力受付部12は、応答の許可の操作入力を受け付ける(ステップS101)。応答の許可の操作入力が受け付けられると、端末装置10aの通信部11は、通話の開始要求元の通信ID「C01」、自端末装置10aの通信ID「O01」が含まれる応答を管理システム50へ送信する(ステップS102)。
管理システム50の通信部51は、端末装置10aによって送信される応答を受信する。管理システム50の通信部51は、受信した応答を応答に含まれる通信ID「C01」によって特定される端末装置70xへ送信する(ステップS103)。
端末装置70xの通信部71は、応答を受信すると、応答の送信元の端末装置10aとの間で通信を確立するための通信確立要求を管理システム50へ送信する(ステップS104)。通信確立要求には、自端末装置の通信ID「C01」、及び応答の送信元の端末装置10aの通信ID「O01」が含まれる。
管理システム50の通信部71は、通信確立要求を受信する。管理システム50のセッション制御部54は、通信確立要求に含まれる通信ID「O01,C01」により特定される端末装置10a,70xの間で中継装置30を介して画像データ及び音データのコンテンツデータを送信するためのセッションを確立する制御を行う(ステップS105)。なお、セッションは、上記に限られず、端末装置10a,70xの間で通信ネットワーク2を介して直接コンテンツデータを送信するためのセッションであっても良い。
端末装置10a,70x間の通信が確立すると、端末装置10a,70xは、自端末で撮像された画像の画像データ、及び自端末で集音された音データを、中継装置30を介して相手側の端末装置70x,10aへ送信する。端末装置10a,70xの表示制御部17,77は、受信したコンテンツデータを出力する。これにより、ユーザ間で通話を開始できるようになる。
<提案の流れ>
続いて、図18、図19を用いて、通信の確立後において、提案制御装置3がオペレータに話し方の改善方法を提案する処理について説明する。図18は提案制御装置3が話し方の改善方法を提案する処理に関するシーケンス図の一例である。まず、図18では一定時間ごとに提案が行われる場合を説明する。
S201、S202:通信が確立すると、端末装置10の通信部11と端末装置70の通信部71は、音声データと映像データを繰り返し中継装置30に送信する。
S203:中継装置30はこれらを受信し、音声データと映像データを提案制御装置3に送信する。なお、中継装置30には音声データと映像データと共に通信IDが送信され、通信IDによりゲストとオペレータのどちらが送信したか判断できる。
S204:提案制御装置3の通信部91は、音声データと映像データを受信する。音声認識部92は音声認識を行い、更に形態素解析を行って、単語と品詞を対応付けて発言記憶部3001に登録する。
S205:また、提案制御装置3の大きさ記録部93は音声データの振幅から声の大きさを検出して、単語に対応付けて登録する。また、トーン判断部94は音声データをフーリエ変換して、最大強度の周波数に応じてトーンを判断し、単語に対応付けて登録する。また、映像解析部97は映像データを解析して笑顔かどうかの表情を単語に対応付けて登録する。
S206:また、提案制御装置3の聞き返し検出部95は、予め登録されている文字列が、ゲストが発言した単語のリストに含まれるか否かを判断して、聞き返しを検出する。聞き返しがあった場合は聞き返し回数記憶部3002の聞き返しの回数を更新する(1つ大きくする)。また、会話速度検出部96は一定時間当たりの文字数に基づいてオペレータとゲストの会話速度を検出し、会話速度記憶部3003に登録する。最新の値を登録するとよいが、過去の会話速度の平均を登録してもよい。
S207:提案部98は、後述するように一定時間ごとに、オペレータに話し方の改善方法を提案するか否かを判断する。例えば、ゲストの聞き返し回数が提案情報記憶部1の回数を超えたか否かを判断し、超えた場合は提案すると判断する。また、オペレータの会話速度と基準値の差が提案情報記憶部2の速度差を超えたか否かを判断し、超えた場合は提案すると判断する。また、提案部98は通信の開始からの接客時間を時間情報記憶部3006の平均接客時間と比較し、平均接客時間を経過している場合は提案すると判断する。
S208:提案すると判断した場合、提案制御装置3の提案部98は提案情報記憶部1又は提案情報記憶部2から提案と表示方法を取得する。
S209:提案部98は提案と表示方法をオペレータの端末装置10に送信する。
S210:オペレータの端末装置10の通信部11は提案と表示方法を受信して、表示制御部17は通話中画面に提案を表示する。通話中画面の一例を図20に示す。
このように、オペレータの端末装置10は通話中に一定時間ごとに話し方の改善方法を表示することができるので、接客効率を向上させやすくなる。
図19は、オペレータの要求に応じて提案制御装置3が提案を行う処理を説明するシーケンス図の一例である。
S301〜S306:ステップS201〜S206と同様でよい。
S307:オペレータは自分の話し方に対する改善方法を把握したいと考え、所定の操作を端末装置10に入力する。例えば、オペレータの通話中画面に表示された提案要求ボタンを押下する。操作入力受付部12は押下を受け付け、通信部11は通信IDと共に提案要求を管理システム50に送信する。なお、提案要求には、聞き返し回数と会話速度に関するものだけでなく、会話テーマに関するものがある。オペレータは提案の内容を指定して要求してもよいし、提案可能な全ての提案を要求してもよい。図19の説明では、全ての提案を要求したものとする。
S308:管理システム50の通信部51は提案要求を受信し、提案制御装置3に転送する。
S309:提案制御装置3の提案部98は聞き返し回数、会話速度に基づいて提案するか否かを判断する。この判断方法は図18と同様でよい。提案の必要がない場合には、提案部98はその旨を端末装置10に送信する。会話テーマに関する提案については、提案するかどうかを判断することなく、必ず提案を行う。すなわち、発言記憶部3001に記憶されている単語を声の大きさ、トーン、及び表情の1つ以上で重み付けして、会話中にゲストが興味を示した単語のリストを提供する。詳細は後述する。
S310〜S312:提案制御装置3は、ステップS208〜S210と同様に、提案を送信し、オペレータの端末装置10の表示制御部17が表示する。
なお、図18、図19の聞き返し回数又は会話速度だけでなく、声の大きさ又はトーンに基づいて、提案部98が話し方の改善方法を提案してもよい。例えば、声の大きさが閾値未満の場合、「声を大きくしましょう」という提案を行う。また、トーンが低い場合、「声を明るくしましょう」という提案を行う。また、映像データから解析された表情に笑顔が少ない(閾値未満)場合に「笑顔で接客しましょう」という提案を行う。
<通話中画面に表示される提案例>
図20はオペレータの端末装置10が表示する通話中画面300の一例である。オペレータの通話中画面300なので、ゲストgが大きく写っており、右下にオペレータaの映像がピクチャーインピンで表示されている。また、通話中画面300の右上には提案要求ボタン301が表示されている。提案要求ボタン301は、オペレータが任意のタイミングで話し方の改善方法を要求するためのボタンである。提案要求ボタン301が押下されると、要求項目302がプルダウン表示され、オペレータは「聞き返し回数」「会話速度」「会話テーマ」「全て」から要求項目を選択できる。
「聞き返し回数」「会話速度」について提案制御装置3が提案を送信した場合、通話中画面300は提案を表示する。図20では通話中画面300の下部に「少しゆっくり話しましょう」という提案303が表示されている。オペレータは提案を見て、接客中に話し方を改善できる。なお、提案303の表示位置はどこでもよい。ポップアップ表示してもよい。
提案303は、文字でなくアイコンや画像データなどで表示してもよい。図21はアイコンによる提案の一例を示す図である。まず、図21(a)は会話速度に関する提案を行うアイコン304である。例えば、通話中画面300を常にこのアイコン304が会話速度に応じた速さで移動しており(一定時間ごとに提案が会話速度を通知する)、会話速度が閾値を超えると提案部98が色を変えるなどして注意喚起する。あるいは、通常は通話中画面300にアイコン304が表示されず、会話速度が閾値を超えた場合、提案部98が会話速度を通知し、オペレータの端末装置10が会話速度に応じた速度で移動するアイコン304を表示してもよい。
図21(b)も会話速度を表すアイコン305である。このアイコン305は車両のスピードメータを模倣したものであり、通話中画面300に常にこのアイコン305が表示される。会話速度が速いほど針305aが時計回りに回転して周囲の色を指し示すので、オペレータは針305aが示す色で会話速度が適切かどうかを判断できる。
また、図21(c)は聞き返し回数に応じて声の大きさ表すアイコン306である。このアイコン306はボリュームメータを模倣したバーであり、通話中画面300に常にこのアイコンが表示される。声が大きいほどバーが長くなると共に、左側ほど赤など注意喚起性が高い色で表示される。つまり、バーは左から右方向に異なる色で表示される。したがって、一定の音量未満は赤色などでアイコン306が表示され、オペレータはバーが赤色でのみ表示されると声が小さいと判断できる。
図22は、通話中画面300に表示される会話テーマの提案例を示す図である。図22では通話中画面300にポップアップして円グラフ310が表示されている。表示方法は一例であり、別画面で表示されても、通話中画面300の一部に表示されてもよい。
会話テーマは例えばゲストがどのプランにしようか迷った場合に、過去の会話に含まれる単語から提案制御装置3が適切な単語をオペレータに提案した会話内容の提案例である。オペレータはゲストがいろいろ話した中で、ゲストが興味を示した単語(テーマ)を特定しやすくなる。
図22では、発言記憶部3001に登録されている単語(名詞)に重み付けして算出されたスコアがパーセント表示されている。算出方法を説明する。提案部98は、発言記憶部3001に記憶されている単語から例えば名詞を取得する。なお、名詞に類義語があれば同じ名詞と見なしてよい。例えば、ダイビングと素潜りは同じ名詞と見なされる。このような処理をデータクレンジングという。データクレンジングはデータベースに保存されているデータの中から、重複や誤記、表記の揺れなどを探し出し、削除や修正、正規化などを行い、データの品質を高めることをいう。
次に、名詞に対応付けられている声の大きさの大・中・小、トーンの高・低、及び、表情の笑顔・普通を、それぞれ係数α、β、γに変換して重み付けする。声の大きさの大・中・小がαn(α1〜α3)、トーンの高・低がβn(β1,β2)、表情の笑顔・普通がγn(γ1,γ2)の各係数に対応するものとする。
したがって、各名詞のスコアは以下のようにして算出される。
スコア=Σ(αn×βn×γn)
Σは同じ名詞について加算することを表す。
提案部98は、例えばスコアが閾値以上の名詞のスコアを合計して(つまり、一度しかでてないような名詞は削除して)、合計値で各名詞のスコアを割ることで比率を算出する。
各名詞の比率=各名詞のスコア/各スコアの合計値
名詞の比率から図22のような円グラフを作成する。
なお、形容詞、形容動詞又は助動詞と、名詞との関連を検出して重み付けするとなおよい。例えば、「きれいな海」という場合、ゲストが肯定的に「海」を使用しているが、「海が汚かった」という場合、ゲストが否定的に「海」を使用している。このため、名詞について肯定的な形容詞が検出した場合はスコアを加点し、名詞について否定的な形容詞が検出された場合はスコアを減点する。形容動詞も同様に判断できる。助動詞については例えば「海に行きたい」の「たい」であり、「海に行きたくない」の「たく」「ない」である。前者は海について肯定的であり、後者は否定的なので、同様にスコアを増減できる。
<提案制御装置の詳細な処理の説明>
図23は、提案制御装置3がオペレータに声を大きくするように促す場合の処理を説明するフローチャート図である。図23の処理は例えば通話が開始されるとスタートする。
まず、提案部98は提案情報記憶部1、提案情報記憶部2、及び、時間情報記憶部3006に記憶されている情報を取得する(S401)。
提案制御装置3の通信部91は音声データと映像データを受信する(S402)。音声認識部92は音声データと映像データを解析して単語等を発言記憶部3001に登録する(S403)。
聞き返し検出部95はゲストが聞き返したか否かを判断して、聞き返している場合は聞き返し回数記憶部3002の聞き返し回数を更新する(S404)。
提案部98は一定時間が経過したか否かを判断して(S405)、一定時間が経過するごとに、聞き返し回数記憶部3002に記憶されている聞き返し回数が提案情報記憶部1の回数(閾値)を超えたか否かを判断する(S406)。なお、一定時間だけでなく、オペレータが要求した場合も同様に判断する。
ステップS406の判断がYesの場合、提案部98は声を大きくするよう促す提案をオペレータの端末装置10に送信する(S407)。
提案部98は、聞き返し回数記憶部3002に記憶されている聞き返し回数を初期化する(S408)。すなわち、ゼロに戻す。
このように、一定時間ごとに又はゲストが要求した場合に、提案部98が声を大きくするよう促す提案をオペレータに提供できる。
図24は、提案制御装置3がオペレータに会話速度を遅くするように促す場合の処理を説明するフローチャート図である。図24の処理は例えば通話が開始されるとスタートする。
まず、提案部98は提案情報記憶部1、提案情報記憶部2、及び、時間情報記憶部3006に記憶されている情報を取得する(S501)。
提案制御装置3の通信部91は音声データと映像データを受信する(S502)。音声認識部92は音声データと映像データを解析して単語等を発言記憶部3001に登録する。
会話速度検出部96はオペレータが発言した文字数をカウントする(S503)。この文字数は漢字に変換される前の音節の数である。
会話速度検出部96は一定時間が経過したか否かを判断して(S504)、一定時間が経過するごとに、ゲストが発言した文字数を一定時間で割って会話速度を算出する(S505)。会話速度は会話速度記憶部3003に登録される。オペレータが要求した場合にも会話速度が算出される。この場合、会話速度検出部96は一定時間でなく、文字数のカウントを始めてからオペレータが要求するまでの時間で会話速度を算出する。
提案部98は会話速度と基準値の差が提案情報記憶部2の速度差(閾値)を超えたか否かを判断する(S506)。
ステップS506の判断がYesの場合、提案部98は会話速度を遅くするよう促す提案をオペレータの端末装置10に送信する(S507)。
提案部98は、会話速度記憶部3003に記憶されている会話速度を初期化する(S508)。すなわち、ゼロに戻す。
このように、一定時間ごとに又はゲストが要求した場合に、提案部98が会話速度を遅くするように促す提案をオペレータに提供できる。
なお、図23、図24のいずれか又は両方で、通話の開始からの経過時間が平均接客時間を超えたか否かを判断して、通話時間の短縮を提案してもよい。平均接客時間そのものでなく、平均接客時間×0.8<通話時間、平均接客時間×1.2<通話時間、などの場合に提案してもよい。オペレータは通話時間を把握しながら接客できる。
図25は、提案制御装置3がオペレータに会話テーマを提案する場合の処理を説明するフローチャート図である。図25の処理はゲストから提案要求を受信するとスタートする。
まず、提案制御装置3の通信部91はオペレータの端末装置10から提案要求を受信する(S601)。
提案部98は、発言記憶部3001から、通話中に記録された全ての単語、声の大きさ、トーン、及び表情を取得する(S602)。
次に、提案部98は取得したデータをデータクレンジングする(S603)。提案部98はデータクレンジング後の単語をスコアに変換する。会話テーマとなる名詞を円グラフなどの視覚情報に加工してオペレータの端末装置10に送信する(S604)。これにより、オペレータの端末装置10は円グラフ310等を表示できる。円グラフの他、棒グラフでもよいし、ワードクラウドなどでもよい。ワードクラウドは、テキストデータを単語ごとに分割し、抽出したそれぞれの単語をテキスト中での出現頻度(スコア)に応じた大きさで図示する手法である。
このように、ゲストが要求した場合に、提案部98が会話テーマを提供するので、オペレータはゲストが興味のあるテーマに誘導し、接客効率を向上させることができる。
<主な効果>
以上説明したように、本実施形態の通信システムは、音声データの分析結果を具体的な改善方法として提案するので、接客などの業務効率を向上することができる。また、会話テーマを表示するので、オペレータはゲストが興味のあるテーマに会話を誘導し、業務効率を向上させることができる。
<その他の適用例>
以上、本発明を実施するための最良の形態について実施例を用いて説明したが、本発明はこうした実施例に何等限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々の変形及び置換を加えることができる。
例えば、本実施形態では、旅行代理店の接客を例にして接客効率を向上する方法を説明したが、他の業種にも好適に適用できる。例えば、金融業、保健相談、医療相談などがある。
この他、自治体の窓口にも適用できる。例えば、スタッフが担当する業務(住民票、戸籍謄本、納税、粗大ゴミ、年金など)ごとに接客してよい。
また、管理システム50が中継装置30の機能を有していてもよいし、中継装置30が管理システム50の機能を有していてもよい。また、複数のサーバにより管理システム50の機能が実現されてもよいし、複数の管理システム50が存在してもよい。
また、以上の実施例で示した図6、図8などの構成例は、管理システム50及び端末装置10,70の処理の理解を容易にするために、主な機能に応じて分割したものである。しかし、各処理単位の分割の仕方や名称によって本願発明が制限されることはない。管理システム50及び端末装置10,70は、処理内容に応じて更に多くの処理単位に分割することもできる。また、1つの処理単位が更に多くの処理を含むように分割することもできる。
上記で説明した実施形態の各機能は、一又は複数の処理回路によって実現することが可能である。ここで、本明細書における「処理回路」とは、電子回路により実装されるプロセッサのようにソフトウェアによって各機能を実行するようプログラミングされたプロセッサや、上記で説明した各機能を実行するよう設計されたASIC(Application Specific Integrated Circuit)、DSP(digital signal processor)、FPGA(field programmable gate array)や従来の回路モジュール等のデバイスを含むものとする。
また、ある実施形態では、管理システム、中継装置、又は提案制御装置は、サーバクラスタといった複数のコンピューティングデバイスを含む。複数のコンピューティングデバイスは、ネットワークや共有メモリなどを含む任意のタイプの通信リンクを介して互いに通信するように構成されており、本明細書に開示された処理を実施する。同様に、端末装置10,70は、互いに通信するように構成された複数のコンピューティングデバイスを含むことができる。
更に、管理システム、中継装置、又は提案制御装置は開示された処理ステップを様々な組み合わせで共有するように構成できる。例えば管理システム、中継装置、又は提案制御装置によって実行されるプロセスの一部は、端末装置10、70によって実行され得る。また、端末装置10、70によって実行されるプロセスの一部は、管理システム、中継装置、又は提案制御装置によって実行され得る。
3 提案制御装置
7 店舗
8 コールセンター
50 管理システム
10,70 端末装置
100 通信システム
特開2016−103081号公報

Claims (12)

  1. オペレータが操作する第一の端末装置とゲストが操作する第二の端末装置がネットワークを介して通信する通信システムであって、
    前記第一の端末装置から送信された前記オペレータの音声データ又は前記第二の端末装置から送信された前記ゲストの音声データに基づいて、前記オペレータに対する提案を決定する提案部と、
    前記提案を前記第一の端末装置に送信する第一の通信部と、を有し、
    前記第一の端末装置は、
    前記提案を受信する第二の通信部と、
    前記第二の通信部が受信した前記提案を表示する表示制御部と、
    を有することを特徴とする通信システム。
  2. 前記提案部は、前記第一の端末装置から送信された前記オペレータの音声データ又は前記第二の端末装置から送信された前記ゲストの音声データを解析して、前記オペレータの話し方の改善方法に関する提案を決定し、
    前記第一の端末装置は、
    前記オペレータの話し方の改善方法に関する提案を表示することを特徴とする請求項1に記載の通信システム。
  3. 前記第二の端末装置から送信された前記ゲストの音声データを解析して、前記ゲストの聞き返しを検出する聞き返し検出部を有し、
    前記聞き返し検出部が検出した聞き返しの回数に応じて、前記提案部は前記オペレータの話し方の改善方法に関する提案を決定することを特徴とする請求項2に記載の通信システム。
  4. 前記第一の端末装置から送信された前記オペレータの音声データを解析して、前記オペレータの会話速度を検出する会話速度検出部を有し、
    前記会話速度検出部が検出した会話速度に応じて、前記提案部は前記オペレータの話し方の改善方法に関する提案を決定することを特徴とする請求項2に記載の通信システム。
  5. 前記提案部は、前記オペレータの話し方の改善方法として、声の大きさを大きくする提案を決定することを特徴とする請求項3に記載の通信システム。
  6. 前記提案部は、前記オペレータの話し方の改善方法として、会話速度を遅くする提案を決定することを特徴とする請求項4に記載の通信システム。
  7. 前記第一の端末装置は、
    前記オペレータが前記提案を要求する操作を受け付けるボタンを表示し、
    前記ボタンの押下を受けた場合、前記第二の通信部は提案要求を前記通信システムに送信し、
    前記提案部は、前記提案要求に応じて前記オペレータに対する提案を決定することを特徴とする請求項1〜6のいずれか1項に記載の通信システム。
  8. 前記第二の端末装置から送信された前記ゲストの音声データを音声認識して、前記音声データに含まれる単語を発言記憶部に記憶する音声認識部を有し、
    前記提案部は、前記提案要求に応じて前記発言記憶部に記憶されている前記単語のリストを視覚情報に加工し、
    前記第一の通信部は、前記視覚情報を前記第一の端末装置に送信し、
    前記第一の端末装置は、前記視覚情報を表示することを特徴とする請求項7に記載の通信システム。
  9. 前記第一の通信部は、前記第二の端末装置から前記ゲストが写っている映像データを受信し、
    前記映像データを解析して、前記ゲストの表情を前記単語に対応付けて前記発言記憶部に記憶させる映像解析部を有し、
    前記提案部は、前記提案要求に応じて前記発言記憶部に記憶されている前記単語に前記表情を重み付けして、前記単語のリストを視覚情報に加工し、
    前記第一の端末装置は、前記視覚情報を表示することを特徴とする請求項8に記載の通信システム。
  10. ゲストが操作する第二の端末装置と、システムを介して通信するオペレータが操作する端末装置であって、
    端末装置から送信されたオペレータの音声データ又は前記第二の端末装置から送信された前記ゲストの音声データに基づいて決定された、前記オペレータに対する提案を前記システムから受信する第二の通信部と、
    前記第二の通信部が受信した前記提案を表示する表示制御部と、
    を有することを特徴とする端末装置。
  11. オペレータが操作する第一の端末装置とゲストが操作する第二の端末装置がネットワークを介して通信する通信システムが行う通信方法であって、
    提案部が、前記第一の端末装置から送信された前記オペレータの音声データ又は前記第二の端末装置から送信された前記ゲストの音声データに基づいて、前記オペレータに対する提案を決定するステップと、
    第一の通信部が、前記提案を前記第一の端末装置に送信するステップと、
    前記第一の端末装置は、
    第二の通信部が、前記提案を受信するステップと、
    表示制御部が、前記第二の通信部が受信した前記提案を表示するステップと、
    を有することを特徴とする通信方法。
  12. ゲストが操作する第二の端末装置と、システムを介して通信するオペレータが操作する端末装置を、
    端末装置から送信されたオペレータの音声データ又は前記第二の端末装置から送信された前記ゲストの音声データに基づいて決定された、前記オペレータに対する提案を前記システムから受信する第二の通信部と、
    前記第二の通信部が受信した前記提案を表示する表示制御部、
    として機能させるためのプログラム。
JP2019195630A 2019-10-28 2019-10-28 通信システム、端末装置、通信方法、プログラム Pending JP2021069099A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2019195630A JP2021069099A (ja) 2019-10-28 2019-10-28 通信システム、端末装置、通信方法、プログラム
US17/023,630 US11398224B2 (en) 2019-10-28 2020-09-17 Communication system and method for providing advice to improve a speaking style

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019195630A JP2021069099A (ja) 2019-10-28 2019-10-28 通信システム、端末装置、通信方法、プログラム

Publications (1)

Publication Number Publication Date
JP2021069099A true JP2021069099A (ja) 2021-04-30

Family

ID=75586916

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019195630A Pending JP2021069099A (ja) 2019-10-28 2019-10-28 通信システム、端末装置、通信方法、プログラム

Country Status (2)

Country Link
US (1) US11398224B2 (ja)
JP (1) JP2021069099A (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023243009A1 (ja) * 2022-06-15 2023-12-21 日本電信電話株式会社 情報提示装置、情報提示方法、およびプログラム

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2022089616A (ja) * 2020-12-04 2022-06-16 パナソニックIpマネジメント株式会社 会議システム、ビデオ会議装置および映像処理方法

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8702432B2 (en) * 2007-03-28 2014-04-22 Breakthrough Performancetech, Llc Systems and methods for computerized interactive training
JP2009122776A (ja) * 2007-11-12 2009-06-04 Internatl Business Mach Corp <Ibm> 仮想世界における情報制御方法および装置
US10534623B2 (en) * 2013-12-16 2020-01-14 Nuance Communications, Inc. Systems and methods for providing a virtual assistant
JP6400445B2 (ja) 2014-11-27 2018-10-03 Kddi株式会社 会話分析装置、会話分析システム、会話分析方法及び会話分析プログラム
JPWO2017130908A1 (ja) 2016-01-29 2018-11-22 株式会社リコー 通信端末、通信システム、表示制御方法、及びプログラム
JP6583536B2 (ja) 2016-03-18 2019-10-02 株式会社リコー 通信システム、情報処理装置、通信装置およびプログラム
US10382721B2 (en) 2016-12-14 2019-08-13 Ricoh Company, Ltd. Communication terminal, communication system, communication method, and non-transitory computer-readable medium
JP6907861B2 (ja) * 2017-09-25 2021-07-21 株式会社リコー 通信端末、画像通信システム、表示方法、及びプログラム
US10757148B2 (en) * 2018-03-02 2020-08-25 Ricoh Company, Ltd. Conducting electronic meetings over computer networks using interactive whiteboard appliances and mobile devices
JP2019180027A (ja) * 2018-03-30 2019-10-17 株式会社リコー 通信端末、画像通信システム、表示方法、及びプログラム
JP6496863B1 (ja) 2018-05-09 2019-04-10 一史 渡邉 サーバ及び受付用画面の表示方法
US10764513B2 (en) * 2018-07-31 2020-09-01 Ricoh Company, Ltd. Communication terminal, image data communication system, and communication method
JP7176296B2 (ja) 2018-08-23 2022-11-22 株式会社リコー 通信端末、通信システム、ログデータ送信方法、プログラム
JP7135766B2 (ja) 2018-11-19 2022-09-13 株式会社リコー 通信システム、プログラム、端末装置

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023243009A1 (ja) * 2022-06-15 2023-12-21 日本電信電話株式会社 情報提示装置、情報提示方法、およびプログラム

Also Published As

Publication number Publication date
US11398224B2 (en) 2022-07-26
US20210125602A1 (en) 2021-04-29

Similar Documents

Publication Publication Date Title
JP5094804B2 (ja) 会議中継装置及びコンピュータプログラム
US9591141B1 (en) Controlling conference calls
US8600025B2 (en) System and method for merging voice calls based on topics
US9661130B2 (en) Systems and methods for managing, analyzing, and providing visualizations of multi-party dialogs
US20050209848A1 (en) Conference support system, record generation method and a computer program product
US10586131B2 (en) Multimedia conferencing system for determining participant engagement
JP2002522998A (ja) インターネットおよびイントラネットを含むローカルおよびグローバルネットワークによるオーディオ会議用のコンピューター・アーキテクチャーおよびプロセス
CN111241822A (zh) 输入场景下情绪发现与疏导方法及装置
JP6432177B2 (ja) 対話型通信システム、端末装置およびプログラム
JP7272097B2 (ja) 通信システム、端末装置、通信方法、プログラム
US11398224B2 (en) Communication system and method for providing advice to improve a speaking style
US20230169978A1 (en) Automated Audio-to-Text Transcription in Multi-Device Teleconferences
JP4250938B2 (ja) コミュニケーション支援方法およびコミュニケーションサーバ
US11409808B2 (en) Facilitating a collaboration experience using social networking information
JP2019121093A (ja) 情報生成システム、情報生成方法、情報処理装置、プログラム、端末装置
US10902863B2 (en) Mitigating anomalous sounds
WO2021015948A1 (en) Measuring and responding to attention levels in group teleconferences
EP4322090A1 (en) Information processing device and information processing method
US11943074B2 (en) Real-time video-based audience reaction sentiment analysis
JP7331499B2 (ja) 端末装置、通信システム、通信方法、プログラム
JP2018049140A (ja) 音声分析プログラム、音声分析装置、及び音声分析方法
JP2019125972A (ja) 端末装置、情報処理方法、プログラム、通信システム
US20240187269A1 (en) Recommendation Based On Video-based Audience Sentiment
WO2022091981A1 (ja) 情報処理システム
US20230403174A1 (en) Intelligent virtual event assistant

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220824

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230831

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230919

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20231110

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240115

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20240521