JP2017138972A - 通信端末、通信システム、表示制御方法、及びプログラム - Google Patents

通信端末、通信システム、表示制御方法、及びプログラム Download PDF

Info

Publication number
JP2017138972A
JP2017138972A JP2017006660A JP2017006660A JP2017138972A JP 2017138972 A JP2017138972 A JP 2017138972A JP 2017006660 A JP2017006660 A JP 2017006660A JP 2017006660 A JP2017006660 A JP 2017006660A JP 2017138972 A JP2017138972 A JP 2017138972A
Authority
JP
Japan
Prior art keywords
communication
display
electronic blackboard
information indicating
data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017006660A
Other languages
English (en)
Other versions
JP6776905B2 (ja
Inventor
周平 坪根
Shuhei Tsubone
周平 坪根
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to EP17153070.2A priority Critical patent/EP3200066A1/en
Priority to US15/416,077 priority patent/US10346121B2/en
Publication of JP2017138972A publication Critical patent/JP2017138972A/ja
Priority to US16/381,008 priority patent/US10628117B2/en
Application granted granted Critical
Publication of JP6776905B2 publication Critical patent/JP6776905B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Facsimiles In General (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

【課題】 通信端末において、コンテンツデータを送信する機能が導入されていても、コンテンツデータを入力又は出力する外部装置が設けられていない場合、コミュニケーションを開始することはできない。通信端末のユーザは、通信を開始するまで、上記のコンテンツデータによるコミュニケーションを開始可能であるか把握することができない。
【解決手段】 電子黒板2cの重畳部22Yは、検知部23によって音デバイスの接続が検知される場合に、通話開始の機能を示す情報を所定の輝度で表示させる。電子黒板2cの重畳部22Yは、検知部23によって音デバイスの接続が検知されない場合に、通話開始の機能を示す情報を半輝度で表示する制御を行う。
【選択図】図16

Description

本発明は、通信端末、通信システム、表示制御方法、及びプログラムに関する。
近年、当事者の移動の経費や時間を削減する要請等に伴い、インターネットや専用線等の通信ネットワークを介して通話や会議等を行う通信システムが普及している。このような通信システムでは、通信端末の機能に応じて、会議参加者の映像データ、会議資料等の表示データ、或いは手書操作に基づくストロークデータ等のコンテンツデータを通信端末間で共有することができる。
特許文献1には、クライアント機の電子黒板が、サーバ機の電子黒板を介してストロークデータを共有する方法が開示されている。
例えば、電子黒板のような通信端末であっても、導入された機能に応じて、ストロークデータ以外のコンテンツデータを他の通信端末との間で送信し得る。しかしながら、通信端末において、コンテンツデータを入力又は出力する装置が設けられていない場合、入力又は出力するための外部装置が接続されていなければ、コンテンツデータによるコミュニケーションを開始することはできない。通信端末のユーザは、通信を開始するまで、上記のコンテンツデータによるコミュニケーションを開始可能であるか把握することができないという課題が生じる。
請求項1に係る発明の通信端末は、他の通信端末との間の通信によりコンテンツデータを送信する通信端末であって、前記コンテンツデータを入力又は出力する外部装置の接続を検知する検知手段と、前記検知手段によって前記外部装置の接続が検知される場合に、コミュニケーションを開始する機能を示す情報を第1の表示形式で表示し、前記検知手段によって前記外部装置の接続が検知されない場合に、前記コミュニケーションを開始する機能を示す情報を第2の表示形式で表示する制御を行う表示制御手段と、を有する。
以上説明したように本発明によれば、通信端末は、通信を開始するまでに、コミュニケーションを開始可能であるかユーザに把握させることが可能になるという効果を奏する。
図1は、一実施形態に係る通信システムの全体構成図である。 図2は、一実施形態に係る電子黒板のハードウェア構成図である。 図3は、一実施形態に係る管理システムのハードウェア構成図である。 図4は、一実施形態に係るPCのハードウェア構成図である。 図5(a)は、一実施形態に係る電子黒板のソフトウェア構成図である。
図5(b)は、一実施形態に係るPCのソフトウェア構成図である。
図6は、一実施形態に係る通信システムの一部を構成する電子黒板、PC、及び管理システムの機能ブロック図である。 図7は、一実施形態に係る描画制御部を詳細に示した機能ブロック図である。 図8は、電子黒板間の通信を確立する処理を示すシーケンス図である。 図9は、ログイン処理を示すシーケンス図である。 図10は、ストロークデータを共有する処理を示すシーケンス図である。 図11は、ディスプレイの表示例である。 図12は、UI画像を生成する処理を示すフロー図である。 図13は、ディスプレイの表示例である。 図14は、通話を開始するときの通信システムの処理を示すシーケンス図である。 図15は、通話メニューを表示する処理を示すフロー図である。 図16は、ディスプレイの表示例である。
以下、図面を用いて、本発明の一実施形態について説明する。
<<通信システムの全体構成>>
まず、図1を用いて、通信システム1について説明する。図1は、一実施形態に係る通信システムの全体構成図である。
通信システム1は、複数の電子黒板2a,2b,2c、PC8、及び管理システム50を有する。
電子黒板2a,2b,2cは、通信ネットワーク9aを介して通信可能に接続されている。また、電子黒板2a,2b,2cには、それぞれディスプレイ3a,3b,3cが設けられている。
電子黒板2a,2b,2cは、電子ペン4a,4b,4cによって生じたイベント(ディスプレイ3a,3b,3cへの電子ペン4a,4b,4cのペン先、又は、ペン尻のタッチ)により描画された画像を、ディスプレイ3a,3b,3cに表示させることができる。なお、電子黒板2a,2b,2cは、電子ペン4a,4b,4cだけでなく、ユーザの手Ha,Hb,Hc等によって生じたイベント(拡大、縮小、ページめくり等のジェスチャ)に基づいて、ディスプレイ3a,3b,3c上に表示されている画像を変更させることもできる。以下、電子黒板2a,2b,2cのうち任意の電子黒板を示す場合には、電子黒板2と表す。また、ディスプレイ3a,3b,3cのうち任意のディスプレイを示す場合には、ディスプレイ3と表す。また、電子ペン4a,4b,4cのうち任意の電子ペンを示す場合には電子ペン4と示す。また、ユーザの手Ha,Hb,Hcのうち任意の手を示す場合には手Hと示す。
また、電子黒板2a,2b,2cには、USB(Universal Serial Bus)メモリ5a,5b,5cが接続可能である。電子黒板2a,2b,2cはUSBメモリ5a,5b,5cからPDF(Portable Document Format)等の電子ファイルを読み出したり、USBメモリ5a,5b,5cに電子ファイルを記録したりすることができる。また、電子黒板2aには、DisplayPort、DVI(Digital Visual Interface)、HDMI(登録商標)(High-Definition Multimedia Interface)およびVGA(Video Graphics Array)等の規格による通信が可能なケーブルを介して、ノートPC6a,6b,6cが接続されている。なお、USBメモリ5a,5b,5cのうち任意のUSBメモリを示す場合にはUSBメモリ5と示す。ノートPC6a,6b,6cのうち任意のノートPCを示す場合にはノートPC6と示す。
これにより、一の拠点で電子黒板2のディスプレイ3上に描画されたストロークのストロークデータは、通信ネットワーク9aを介して他の拠点で電子黒板2へ送信されることで、他の拠点のディスプレイ3上にも表示される。逆に他の拠点で電子黒板2のディスプレイ3上に描画されたストロークのストロークデータは、通信ネットワーク9aを介して一の拠点の電子黒板2へ送信されることで、一の拠点の電子黒板2のディスプレイ3上に表示される。このように、通信システム1では、遠隔地において同じ画像を共有する遠隔共有処理を行うことができるため、遠隔地での会議等に用いると、非常に便利である。
なお、上記の電子黒板2に加えて、電子黒板以外の他の通信端末が通信ネットワーク9aに接続することで、電子黒板2との間でストロークデータを共有することもできる。他の通信端末としては、ストローク共有機能を有するPC、テレビ会議端末、タブレット、スマートフォン、電子看板(デジタルサイネージ)、スポーツや天気予報等で利用されるテレストレータ、又は、遠隔画像(映像)診断装置等の画像処理装置、携帯情報端末、デジタルビデオカメラ、デジタルカメラ、ゲーム機等の画像フレームを供給可能な端末等のコンピュータが含まれる。
電子黒板2c、PC(Personal computer)8、管理システム50は、通信ネットワーク9bを介して通信可能に接続されている。
電子黒板2c及びPC8は、コンテンツデータの一例としてテレビ会議用の映像データ及び音データの送受信による通信を行なう。なお、映像データは、動画データであっても静止画データの集合であってもよい。
管理システム50は、電子黒板2c及びPC8の通信状況等を一元的に管理する。
なお、電子黒板2c及びPC8以外の他の通信端末が通信ネットワーク9bに接続することで、他の通信端末と電子黒板2c、PC8との間で映像データを共有することもできる。他の通信端末としては、映像共有機能を有するテレビ会議端末、タブレット、スマートフォン、電子看板(デジタルサイネージ)、テレストレータ、又は、画像処理装置、携帯情報端末、デジタルビデオカメラ、デジタルカメラ、ゲーム機等の画像フレームを供給可能な端末等のコンピュータが含まれる。
なお、電子黒板2cは、ストロークデータを共有するためのモジュール、及び映像データを共有するためのモジュールの双方を起動することで、通信端末間でストロークデータ、映像データ、及び音データを同時に共有することができる。
一実施形態によると、通信ネットワーク9aはイントラネットであり、通信ネットワーク9bはインターネットである。ただし、通信ネットワーク9a,9bは、各通信端末が利用する通信プロトコルに応じて、インターネット、LAN(Local Area Network)、イントラネット、又は携帯電話網等の任意の通信ネットワークから選択される。また、通信ネットワーク9a,9bは、共にインターネットである場合のように同じ通信ネットワークであっても良い。
また、一実施形態では、記録媒体の一例として、USBメモリを説明するが、これに限るものではなく、記録媒体の他の例として、SDカード等の各種記録メディアであってもよい。
<電子黒板のハードウェア構成>
図2を用いて、一実施形態に係る電子黒板のハードウェア構成を説明する。なお、図2は、一実施形態に係る電子黒板のハードウェア構成図である。
図2に示されているように、電子黒板2は、電子黒板2全体の動作を制御するCPU(Central Processing Unit)201、IPL等のCPU201の駆動に用いられるプログラムを記憶したROM202、CPU201のワークエリアとして使用されるRAM203、電子黒板用のプログラム等の各種データを記憶するSSD204、通信ネットワーク9との通信を制御するネットワークI/F205、および、USBメモリ5との通信を制御する外部記憶コントローラ206を備えている。さらに、電子黒板2は、CPU201の制御に従って被写体を撮像するカメラ207と、このカメラ207の駆動を制御する撮像素子I/F208と、ノートPC6のディスプレイに対して映像情報を静止画または動画として表示させるキャプチャデバイス211、グラフィクスを専門に扱うGPU(Graphics Processing Unit)212、および、GPUからの出力画像をディスプレイ3へ出力するために画面表示の制御および管理を行うディスプレイコントローラ213を備えている。さらに、電子黒板2は、接触センサ215の処理を制御するセンサコントローラ214、ディスプレイ3上に電子ペン4やユーザの手H等が接触したことを検知する接触センサ215を備えている。一実施形態における、接触センサ215は、赤外線遮断方式による座標の入力および座標の検出を行う。この座標の入力および座標を検出する方法は、ディスプレイ3の上側両端部に設置された2つ受発光装置が、ディスプレイ3に平行して複数の赤外線を放射し、ディスプレイ3の周囲に設けられた反射部材によって反射されて、受光素子が放射した光の光路と同一の光路上を戻って来る光を受光する方法である。接触センサ215は、物体によって遮断された2つの受発光装置が放射した赤外線のID(Identification)をセンサコントローラ214に出力し、センサコントローラ214が、物体の接触位置である座標位置を特定する。なお、以下に示す全ての各IDは、識別情報の一例である。
また、接触センサ215としては、赤外線遮断方式に限らず、静電容量の変化を検知することにより接触位置を特定する静電容量方式のタッチパネル、対向する2の抵抗膜の電圧変化によって接触位置を特定する抵抗膜方式のタッチパネル、接触物体が表示部に接触することによって生じる電磁誘導を検知して接触位置を特定する電磁誘導方式のタッチパネルなどの種々の検出手段を用いてもよい。また、接触センサ215は、カメラを用いて、接触を判断し、座標位置を特定するものであっても良い。
また、電子黒板2は、電子ペンコントローラ216を備えている。この電子ペンコントローラ216は、電子ペン4と通信することで、ディスプレイ3へのペン先のタッチやペン尻のタッチの有無を判断する。なお、電子ペンコントローラ216が、電子ペン4のペン先およびペン尻だけでなく、電子ペン4のユーザが握る部分や、その他の電子ペンの部分のタッチの有無を判断するようにしてもよい。
さらに、電子黒板2は、CPU101の制御に従って、外部のマイク222、及び外部のスピーカ223との間で音信号の入出力を処理する音入出力I/F224と、ユーザの操作を受け付ける操作ボタン225と、電子黒板2の電源のON/OFFを切り換えるための電源スイッチ226と、を備えている。なお、マイク222及びスピーカ223のいずれかが、電子黒板2に内蔵されていても良い。
さらに、電子黒板2は、上記各構成要素間を相互に電気的に接続するためのアドレスバスやデータバス等のバスライン230を備えている。
なお、電子黒板用のプログラムは、CD−ROM等のコンピュータで読み取り可能な記録媒体や、ネットワーク上のサーバに記録して流通やダウンロードさせるようにしてもよい。
<管理システムのハードウェア構成>
図3を用いて、一実施形態に係る管理システムのハードウェア構成を説明する。なお、図3は、一実施形態に係る管理システムのハードウェア構成図である。
管理システム50は、管理システム50全体の動作を制御するCPU501と、伝送管理用プログラムを記憶したROM502と、CPU501のワークエリアとして使用されるRAM503と、各種データを記憶するHD(Hard Disk)504と、CPU501の制御に従ってHD504に対する各種データの読み出しおよび書き込みを制御するHDD505と、フラッシュメモリ等の記録メディア506に対するデータの読み出しおよび書き込み(記憶)を制御するメディアI/F507とを備えている。さらに、管理システム50は、カーソル、メニュー、ウィンドウ、文字、画像等の各種情報をディスプレイ516に表示させるためのディスプレイI/F508と、通信ネットワーク9を利用してデータ伝送をするためのネットワークI/F509と、文字、数値、各種指示等を入力するための複数のキーを備えたキーボード511と、各種指示の選択や実行、処理対象の選択、マウスカーソルなどのポインティングデバイスの移動等を行うマウス512とを備えている。さらに、管理システム50は、着脱可能な記録媒体の一例としてのCD−ROM(Compact Disc Read Only Memory)513に対するデータの読み出しおよび書き込みを制御するCD−ROMドライブ514と、外部の装置との間で情報を送受信するための外部装置I/F515と、上記各構成要素間を相互に電気的に接続するためのアドレスバスやデータバス等のバスライン510とを備えている。
また、上記伝送管理用プログラムは、インストール可能な形式または実行可能な形式のファイルで、上記記録メディア506やCD−ROM513等のコンピュータで読み取り可能な記録媒体に記録して流通させるようにしてもよい。上記伝送管理用プログラムはHD504に記憶されていてもよい。
<PCのハードウェア構成>
図4は、一実施形態に係るテレビ会議端末としてのPC8のハードウェア構成図である。PC8は、CPU801、ROM802、RAM803、フラッシュメモリ804、SSD805、メディアI/F807、電源スイッチ809、バスライン810、ネットワークI/F811、カメラ812、撮像素子I/F813、マイク814、スピーカ815、音入出力I/F816、ディスプレイI/F817、外部機器接続I/F818、キーボード821、及びマウス822を備えている。これらのうち、CPU801は、PC8全体の動作を制御する。ROM(Read Only Memory)802は、IPL(Initial Program Loader)等のCPU801の駆動に用いられるプログラムを記憶する。RAM(Random Access Memory)803は、CPU801のワークエリアとして使用される。フラッシュメモリ804は、通信用プログラム、表示データ、及び音データ等の各種データを記憶する。SSD(Solid State Drive)805は、CPU801の制御にしたがってフラッシュメモリ804に対する各種データの読み出し又は書き込みを制御する。なお、SSDに代えてHDDを用いてもよい。メディアI/F807は、フラッシュメモリ等の記録メディア806に対するデータの読み出し又は書き込み(記憶)を制御する。
また、ネットワークI/F(Interface)811は、通信ネットワーク9bを利用してデータ通信をするためのインターフェースである。カメラ812は、CPU801の制御に従って被写体を撮像して表示データを得る内蔵型の撮像手段の一種である。撮像素子I/F813は、カメラ812の駆動を制御する回路である。マイク814は、音声を入力する内蔵型の集音手段の一種である。音入出力I/F816は、CPU801の制御に従ってマイク814及びスピーカ815との間で音信号の入出力を処理する回路である。ディスプレイI/F817は、CPU801の制御に従って外付けのディスプレイ820に表示データを送信する回路である。外部機器接続I/F818は、各種の外部機器を接続するためのインターフェースである。キーボード821は、文字、数値、各種指示等を入力するための複数のキーを備えている。マウス822は、各種指示の選択や実行、処理対象の選択、マウスカーソルなどのポインティングデバイスの移動等を行う。
また、バスライン810は、CPU801等の図4に示されている各構成要素を電気的に接続するためのアドレスバスやデータバス等である。
ディスプレイ820は、被写体の画像や操作用アイコン等を表示する液晶や有機ELによって構成された表示手段の一種である。また、ディスプレイ820は、ケーブル820cによってディスプレイI/F817に接続される。このケーブル820cは、アナログRGB(VGA)信号用のケーブルであってもよいし、コンポーネントビデオ用のケーブルであってもよいし、HDMI(登録商標)(High-Definition Multimedia Interface)やDVI(Digital Video Interactive)信号用のケーブルであってもよい。
なお、カメラ812は、レンズや、光を電荷に変換して被写体の画像(映像)を電子化する固体撮像素子を含み、固体撮像素子として、CMOS(Complementary Metal Oxide Semiconductor)や、CCD(Charge Coupled Device)等が用いられる。外部機器接続I/F818には、USB(Universal Serial Bus)ケーブル等によって、外付けカメラ、外付けマイク、及び外付けスピーカ等の外部機器がそれぞれ接続可能である。外付けカメラが接続された場合には、CPU801の制御に従って、内蔵型のカメラ812に優先して、外付けカメラが駆動する。同じく、外付けマイクが接続された場合や、外付けスピーカが接続された場合には、CPU801の制御に従って、それぞれが内蔵型のマイク814や内蔵型のスピーカ815に優先して、外付けマイクや外付けスピーカが駆動する。
また、記録メディア806は、PC8に対して着脱自在な構成となっている。また、CPU801の制御にしたがってデータの読み出し又は書き込みを行う不揮発性メモリであれば、フラッシュメモリ804に限らず、EEPROM(Electrically Erasable and Programmable ROM)等を用いてもよい。
<ソフトウェア構成>
図5(a)は、一実施形態に係る電子黒板のソフトウェア構成図である。図5(a)に示されているように、OS(Operating System)2020、通信アプリケーションA11、及び通信アプリケーションB10は、RAM203の作業領域2010上で動作する。以後、アプリケーションは、「アプリ」と表す。
OS2020は、基本的な機能を提供し、電子黒板全体を管理する基本ソフトウェアである。通信アプリA11,B10は、他の端末と通信を行うためのアプリであり、それぞれ通信プロトコルが異なる。通信アプリA11は、ストロークデータを他の通信端末との間で送信するための通信制御機能と、ストロークデータを画像として出力するための画像処理機能を電子黒板2に実行させるクライアントアプリである。通信アプリB10は、会議映像等の映像データ、及び音データを他の通信端末との間で送信するための通信制御機能と、映像データを入出力するための画像処理機能と、音データを入出力するための音処理機能と、を電子黒板2に実行させるクライアントアプリである。
OS2020、及び、通信アプリA11は、工場出荷前から、電子黒板2にインストールされている。また、通信アプリB10は、工場出荷後に、任意に電子黒板2にインストール可能である。以下、電子黒板2cに通信アプリB10がインストールされており、電子黒板2a,2bに通信アプリB10がインストールされていないものとして説明を続ける。
図5(b)は、一実施形態に係るPCのソフトウェア構成図である。図5(b)に示されているように、OS8020、通信アプリB11は、RAM803の作業領域8010上で動作する。
OS8020は、基本的な機能を提供し、PC8全体を管理する基本ソフトウェアである。通信アプリB11は、会議映像等の映像データを他の通信端末との間で送信するための通信制御機能と、映像データを画像として出力するための画像処理機能と、をPC8に実行させる。
また、OS8020、及び、通信アプリB11は、工場出荷前又は工場出荷後に、PC8にインストールされる。
<<実施形態の機能構成>>
次に、一実施形態に係る通信システムの機能構成について説明する。図6は、一実施形態に係る通信システムの一部を構成する電子黒板、PC、及び管理システム50の機能ブロック図である。図6では、電子黒板2a,2b,2cが、通信ネットワーク9aを介してデータ通信することができるように接続されている。また、図6では、電子黒板2c、PC8、及び管理システム50が、通信ネットワーク9bを介してデータ通信することができるように接続されている。
電子黒板2は、図2に示されているハードウェア構成およびプログラムによって、図6に示されている各機能構成を実現する。また、電子黒板2は、SSD204により構築される記憶部2000を有している。PC8は、図4に示されているハードウェア構成およびプログラムによって、図6に示されている各機能構成を実現する。また、PC8は、SSD805により構築される記憶部8000を有している。
電子黒板2は、最初に遠隔共有処理を開始する「主催装置」となり得ると共に、既に開始されている遠隔共有処理に後から参加する「参加装置」にもなり得る。また、電子黒板2は、大きく分けて、クライアント部20およびサーバ部90の両方によって構成されている。クライアント部20およびサーバ部90は、電子黒板2の1台の筐体内で通信アプリA11が起動することで実現される機能である。なお、クライアント部20およびサーバ部90のうち、電子黒板2にクライアント部20を備え、サーバ部90を配信制御装置などの電子黒板2とは異なる装置とするようにしてもよい。
電子黒板2が主催装置となる場合には、この電子黒板2では、クライアント部20とサーバ部90が実現(実行)される。また、電子黒板2が参加装置となる場合には、この電子黒板2では、クライアント部20は実現(実行)されるが、サーバ部90は実現(実行)されない。即ち、電子黒板2aが主催装置で、電子黒板2b,2cが参加装置となる場合、電子黒板2aのクライアント部20は、同じ電子黒板2a内に実現されたサーバ部90を介して、他の電子黒板2b,2cのクライアント部20と通信を行う。一方、電子黒板2b,2cのクライアント部20は、他の電子黒板2a内に実現されたサーバ部90を介して、他の電子黒板2a,2b又は2cのクライアント部と通信を行う。
また、電子黒板2c及びPC8では、通信アプリB10,B11が起動することでクライアント部80が実現される。クライアント部80は、サーバとしての管理システム50の呼制御により確立される通信において、他の通信端末のクライアント部80と通信を行う。
〔クライアント部20の機能構成〕
電子黒板2のクライアント部20は、電子黒板2において通信アプリA11が起動することにより動作開始する。クライアント部20は、通信制御部21、描画制御部22、及び検知部23を有する。
通信制御部21は、CPU201からの命令、或いはネットワークI/F205によって実現され、他の電子黒板2と行う通信や、同じ電子黒板2のサーバ部90や、同じ電子黒板2のクライアント部80と行う通信を制御する。
描画制御部22は、CPU201からの命令により実現され、ディスプレイ3上の操作により生成するストロークデータ、或いはUSBメモリ5、ノートPC6、通信制御部21、記憶部2000等から取得されるデータに基づいて画像処理を行う。また、描画制御部22は、処理されたデータに基づいて画像レイヤを生成し、これらが重畳された重畳画像を出力する制御を行う。
検知部23は、CPU201からの命令により実現され、OS2020がマイク222及びスピーカ223を認識しているか確認することで、音デバイスと、電子黒板2との間の接続を検知する。
図7は、一実施形態に係る描画制御部を詳細に示した機能ブロック図である。描画制御部22は、ストローク処理部22A、取得部22B、変換部22X、重畳部22Y、及びページ処理部22Zを有している。
ストローク処理部22Aは、CPU201からの命令によって実現され、ディスプレイ3上の電子ペン4や手Hの操作によってストローク描画のイベントが発生すると、操作に応じたストロークデータを生成する処理を行う。
取得部22Bは、CPU201からの命令によって実現され、記憶部2000に記憶されたデータを取得する。
変換部22Xは、CPU201からの命令によって実現され、各種データを変換する処理を行う。この変換には、テキスト化、実データ(バイナリ)変換、シリアライズ、デシリアライズ、エンコード、デコード等が含まれていても良い。
重畳部22Yは、CPU201からの命令によって実現され、各データに基づいて各画像レイヤを生成し、これらを重畳する処理を行う。
ページ処理部22Zは、ストロークデータ等の各表示用のデータを1つのページデータにまとめて、記憶部2000の一部であるページデータ記憶部220に記憶する。
ページデータ記憶部220は、記憶部2000の一部に構築され、表1に示されているようなページデータを記憶する。表1は、ページデータを示す概念図である。ページデータは、ディスプレイ3に表示される1ページ分のデータ(ストローク配列データ(各ストロークデータ)及びメディアデータ)である。
Figure 2017138972
ページデータは、任意の1ページを識別するためのページデータID、このページの表示を開始した時刻を示す開始時刻、ストロークやジェスチャ等によるページの内容の書き換えが行われなくなった時刻を示す終了時刻、電子ペン4やユーザの手Hによるストロークによって生じたストローク配列データを識別するためのストローク配列データID、及びメディアデータを識別するためのメディアデータIDが関連付けて記憶されている。ストローク配列データは、ストローク画像がディスプレイ3上に表示されるためのデータである。メディアデータは、ストローク画像と重畳する他の画像がディスプレイ3上に表示されるためのデータである。
また、ストローク配列データは、表2に示されているように詳細な情報を示している。表2は、ストローク配列データを示す概念図である。表2に示されているように、1つのストローク配列データは、複数のストロークデータによって表される。そして、1つのストロークデータは、このストロークデータを識別するためのストロークデータID、1つのストロークの書き始めの時刻を示す開始時刻、1つのストロークの書き終わりの時刻を示す終了時刻、ストロークの色、ストロークの幅、及び、ストロークの通過点の配列を識別するための座標配列データIDを示している。例えば、ユーザが電子ペン4によってアルファベット「S」を描く場合は一筆書きとなるため、ストロークデータIDが1つで一文字のアルファベット[S]が示される。ところが、ユーザが電子ペン4によってアルファベット「T」を描く場合、二筆書きとなるため、ストロークデータIDが2つで一文字のアルファベット「T」が示されることになる。
Figure 2017138972
更に、この座標配列データは、表3に示されているように詳細な情報を示している。表3は、座標配列データを示す概念図である。座標配列データは、ディスプレイ3上の1点(X座標値、Y座標値)、この1点を通過したときのストロークの開始時刻からの差分の時刻(ms)、及び、この1点における電子ペン4の筆圧の各情報を示している。即ち、表3に示されている1点の集まりが、表2に示されている1つの座標配列データで示されている。例えば、ユーザが電子ペン4によってアルファベット「S」を描く場合、一筆書きとなるが、「S」を描き終えるまでに、複数の通過点を通過するため、座標配列データは、これら複数の通過点の情報を示している。
Figure 2017138972
また、表1に示されているページデータのうちのメディアデータは、表4に示されているように詳細な情報を示している。表4は、メディアデータを示す概念図である。図9に示されているように、メディアデータは、表1に示されているページデータにおけるメディアデータID、メディアデータのデータ種類、メディアデータが記憶された記録時刻、メディアデータによってディスプレイ3上に表示される画像の位置(X座標値、Y座標値)及び画像のサイズ(幅、高さ)、並びにメディアデータの内容を示すデータが関連付けられて示されている。このうち、メディアデータによってディスプレイ3上に表示される画像の位置は、ディスプレイ3の左上端の座標を(X座標値,Y座標値)=(0,0)とした場合に、メディアデータによって表示される画像の左上端の位置を示している。
Figure 2017138972
〔サーバ部90の機能構成〕
サーバ部90は、通信制御部91を有している。
通信制御部91は、CPU201からの命令により実現され、同じ電子黒板2内のクライアント部20における通信制御部21、および通信ネットワーク9aを介して他の電子黒板2内のクライアント部20における通信制御部21との間における通信を制御する。
〔クライアント部80の機能構成〕
電子黒板2のクライアント部80は、電子黒板2において通信アプリB10が起動することにより動作開始する。PC8のクライアント部80は、PC8において、通信アプリB11が起動することにより動作開始する。クライアント部80は、通信制御部81及び表示制御部82を有している。通信制御部81は、CPU201,801からの命令、或いはネットワークI/F205,811により実現され、他の通信端末のクライアント部80における通信制御部81との間、又は管理システム50の通信制御部51との間の通信を制御する。また、電子黒板2の通信制御部81は、CPU201からの命令によって実現され、クライアント部20における通信制御部21と行う通信を制御する。
クライアント部80の表示制御部82は、通信アプリB11を起動することで、CPU801からの命令により実現される機能である。表示制御部82は、通信制御部21、記憶部8000等から取得されるデータに基づいて画像処理を行い、画像を出力する制御を行う。
〔管理システム50の機能構成〕
管理システム50は、図3に示されているハードウェア構成およびプログラムによって、図6に示されている各機能構成を実現する。また、管理システム50は、HD504より構築される記憶部5000を有している。
管理システム50の通信制御部51は、CPU201からの命令により実現され、通信ネットワーク9bを介して電子黒板2又はPC8内のクライアント部80における通信制御部81との通信を制御する。
<<実施の形態の処理>>
続いて、一実施形態に係る処理について説明する。
(電子黒板間の通信確立処理)
図8を用いて、電子黒板2a,2b,2c間の通信アプリA11による通信を確立する処理について説明する。図8は、電子黒板間の通信を確立する処理を示すシーケンス図である。ユーザが電子黒板2aの電源スイッチ226をオンにすると、通信アプリA11が起動することで電子黒板2aのクライアント部20の処理が開始する(ステップS1)。そして、ディスプレイ3a上の操作により会議主催の要求が受け付けられると、クライアント部20の通信制御部21から同じ電子黒板2aのサーバ部90における通信制御部91に、サーバ部90の処理を開始させる指示を出力する。これにより、電子黒板2aでは、クライアント部20だけでなくサーバ部90も各種処理を開始可能となる(ステップS2)。
次に、電子黒板2aの通信制御部91は、当該電子黒板2aとの接続を確立するための接続情報を生成し、生成された接続情報をディスプレイ3aに表示させる(ステップS3)。この接続情報には、主催装置のIPアドレス、および今回の遠隔共有処理のために生成されたパスコードが含まれている。このパスコードは、記憶部2000に記憶される。そして、接続情報は、電子黒板2aのユーザによって、電話や電子メールにより、電子黒板2b,2cのユーザに伝えられる。
次に、電子黒板2b,2cでは、ユーザが電子黒板2b,2cの電源スイッチ226をオンにすると、通信アプリA11が起動することで電子黒板2b,2cのクライアント部20の処理が開始する(ステップS4,S5)。電子黒板2b,2cにおいて、ディスプレイ3b,3c上の操作によって接続情報の入力が受け付けられると、各電子黒板2b,2cのクライアント部20における通信制御部21が、接続情報のIPアドレスに基づき、通信ネットワーク9aを介して、電子黒板2aのサーバ部90における通信制御部91に対してパスコードを送信して参加要求を行う(ステップS6,S7)。電子黒板2aの通信制御部91は、各電子黒板2b,2cから、参加要求(パスコードを含む)を受信する。
次に、通信制御部91は、各電子黒板2b,2cから受信したパスコードに対し、記憶部2000で管理されているパスコードを用いて認証する(ステップS8)。そして、通信制御部91が、各電子黒板2b,2cのクライアント部20に認証結果を通知する(ステップS9,S10)。ステップS8の認証により、各電子黒板2b,2cが正当な電子黒板であると判断されていた場合には、主催装置である電子黒板2aと、参加装置である電子黒板2b,2cとの遠隔共有処理の通信が確立される(ステップS11,S12)。なお、本実施形態では、電子黒板2a,2b,2c間で送信されるコンテンツデータは、ストロークデータを含む場合について説明する。
(電子黒板とPCとの間の通信確立処理)
図9を用いて、電子黒板2c及びPC8が、映像データ及び音データを共有するため、管理システム50にログインする処理について説明する。図9は、ログイン処理を示すシーケンス図である。
電子黒板2cにおいて、ユーザによる起動要求に応じて通信アプリB10が起動することで、クライアント部80は各種処理を開始可能となる(ステップS21)。
続いて、クライアント部80の通信制御部81は、管理システム50に対し、ログイン要求を送信する(ステップS22)。このログイン要求には、アカウントとして、例えばユーザID、及びパスコードが含まれている。これにより、管理システム50の通信制御部51は、ログイン要求を受信する。
管理システム50は、ログイン要求に含まれているユーザID、及びパスコードの組と、記憶部5000に予め記憶されているユーザID、及びパスコードの組とが一致するかに基づいて、ログイン要求元の電子黒板2cを認証する(ステップS23)。管理システム50の通信制御部51は、ログイン要求元の電子黒板2cに対して、認証結果を送信する(ステップS24)。これにより、電子黒板2cの通信制御部81は、認証結果を受信する。以下、上記ステップS23により、正当なログイン要求元であると判断された場合について説明を続ける。
電子黒板2cの記憶部2000には、クライアント部80による通信の状態を示す状態情報を記憶する記憶領域が構築されている。認証の成功を示す認証結果の受信に応じて、電子黒板2cの通信制御部81は、記憶部2000に状態情報「オンライン」を記憶させる(ステップS25)。
PC8において、キーボード821あるいはマウス822の操作に基づいて、通信アプリB11の起動要求が受け付けられると、通信アプリB11が起動して、PC8のクライアント部80の処理が開始可能となる(ステップS31)。
続いて、クライアント部80の通信制御部81は、電子黒板2cによる処理と同様にして、管理システム50に対し、ログイン要求を送信する(ステップS32)。これにより、管理システム50は、ログイン要求を受信する。
管理システム50は、ログイン要求元のPC8を認証し(ステップS33)、PC8に対して、認証結果を送信する(ステップS34)。以下、上記ステップS33により、正当なログイン要求元であると判断された場合について説明を続ける。
(重畳画像の表示)
続いて、図10を用いて、電子黒板2a,2b,2c間でストロークデータを共有する処理について説明する。図10は、ストロークデータを共有する処理を示すシーケンス図である。
まず、電子黒板2cのユーザが電子ペン4cを用いて電子黒板2cにストローク画像を描画すると、ストローク処理部22Aは、電子ペン4cとディスプレイ3cとの接触部の座標位置に基づいて、描画されたストロークのストロークデータを生成する(ステップS61)。なお、生成されるストロークデータは上記の表2に示されている各パラメータを含む。変換部22Xは、複数のストローク単位のストロークデータをまとめることでシリアライズ(直列化)する(ステップS62)。電子黒板2cの通信制御部21は、通信ネットワーク9aを介して、主催装置である電子黒板2aの通信制御部91にシリアライズされたストロークデータを送信する(ステップS63)。なお、電子黒板2bは、描画される度に、ストロークデータを主催装置である電子黒板2aに順次送信しても良い。
電子黒板2aの通信制御部91は、電子黒板2cから送られて来たストロークデータを受信すると、このストロークデータを電子黒板2aのクライアント部20へ送信する。送信されたストロークデータは電子黒板2aのクライアント部20の通信制御部21によって受信される。クライアント部20の描画制御部22における変換部22Xは、ストロークデータをデシリアライズ(並列化)する(ステップS64)。ページ処理部22Zは、ページデータ記憶部220において、すでに記憶されているストロークデータを削除することなく、新たにデシリアライズされたストロークデータを追加して記憶させる。続いて、重畳部22Yは、ページデータ記憶部220に記憶されている各ストロークデータを合成した合成後のストローク画像(B)の画像データを生成する。また、重畳部22Yは、ページデータ記憶部220に記憶されている各オブジェクトデータを合成した合成後の出力画像(C)の画像データを生成する。
そして、重畳部22Yは、ページデータ記憶部220に記憶されている背景画像のレイヤの画像データ(メディアデータ)に、生成された出力画像の画像データ、生成されたストローク画像の画像データ、及び記憶部2000に記憶されているUI(user interface)画像の画像データを合成することで、4層の重畳画像(A,B,C,D)の画像データを生成する。重畳部22Yは、生成された重畳画像(A,B,C,D)の画像データを、ディスプレイ3aへ送信することで、重畳画像(A,B,C,D)をディスプレイ3a上に表示させる(ステップS65)。図11(A)は、UI画像140a、ストローク画像140b、出力画像140c、及び背景画像140dの重畳画像140を示す概念図であり、図11(B)は、重畳画像140の一例である。
また、電子黒板2aの通信制御部91は、電子黒板2cから送られて来たシリアライズされているストロークデータを電子黒板2b,2cのクライアント部20へ送信する(ステップS66,S67)。送信されたストロークデータは電子黒板2b,2cのクライアント部20の通信制御部21によって受信される。電子黒板2b,2cのクライアント部20は、ディスプレイ3b,3cに、電子黒板2aから送られて来たストロークデータに基づいて重畳画像(A,B,C,D)を表示する。この処理は、電子黒板2aのクライアント部20におけるステップS64,S65の処理と同様であるので説明を省略する(ステップS68乃至S71)。
続いて、図12を用いて、ステップS71の処理のうち、電子黒板2cの重畳部22Yが、重畳画像の一レイヤであるUI画像の画像データを生成する処理について詳細に説明する。図12は、UI画像を生成する処理を示すフロー図である。なお、以下では電子黒板2cの処理について説明するが、他の電子黒板2も、以下に示す処理と同様の処理を実行可能である。
電子黒板2cのページデータ記憶部200には、テレビ会議サービスを示すアイコンのうち、選択可能なアイコンとして所定の輝度の通話アイコンの画像データ、及び選択不可能なアイコンとして半輝度の通話アイコンの画像データが予め記憶されている。一例として輝度値の範囲を0〜256としたときに、所定の輝度の輝度値は、200であっても良く、半輝度の輝度値は一例として100であっても良い。なお、2つの通話アイコンの判別が可能であれば、一方の通話アイコンの輝度は、他方の通話アイコンの輝度の半分でなくても良い。また、テレビ会議サービスを示すアイコンは、選択可能なものと選択不可能なもので表示形式の異なる任意の情報に置き換え可能である。任意の情報としては、テキスト、サムネイル等が挙げられる。異なる表示形式としては、色の違い、枠線やアンダーラインの有無、書体や文字等の違い等が挙げられる。
また、記憶部2000には、テレビ会議サービスの利用可否の設定を示す利用可否設定情報が登録されている。利用可否設定情報は、電子黒板2cにおいて、電子黒板用の通信アプリA11が動作しているときに、通信アプリB10によるテレビ会議サービスの利用が可能であるかの設定を示す情報である。設定情報の登録は、電子黒板2の管理者、或いは、通信アプリ(A11,B10)の管理者等に制限されていても良い。
電子黒板2cの重畳部22Yは、クライアント部80が起動するタイミング等の任意のタイミングで、記憶部2000に記憶されている利用可否設定情報を取得する(ステップS71−1)。
電子黒板2cの重畳部22Yは、ステップS71−1において取得される利用可否設定情報が利用可の設定を示すものであるか判断する(ステップS71−2)。利用可否設定情報が利用不可の設定を示すものである場合(ステップS71−2のNO)、重畳部22Yは、ページデータ記憶部200に記憶されているいずれの通話アイコンの画像データも使用せずにUI画像の画像データを生成する(ステップS71−7)。これにより、通話アイコンを含まないUI画像がディスプレイ3cに出力される。
利用可否設定情報が利用可の設定を示すものである場合(ステップS71−2のYES)、クライアント部20の通信制御部21は、クライアント部80による通信の状態を示す状態情報を取得する(ステップS71−3)。状態情報を取得する方法は特に限定されないが、通信制御部21が通信制御部81に状態情報を要求しても良いし、状態情報の更新の度に更新された状態情報を通信制御部81が通信制御部21に通知しても良い。
電子黒板2cの重畳部22Yは、ステップS71−3で取得される状態情報がオンライン状態を示すか判断する(ステップS71−4)。一実施形態において、オンライン状態は、クライアント部80が管理システム50へログインして接続している状態である。オンライン状態を示す状態情報として、「オンライン」及び「オンライン(通話中)」が含まれる。取得される状態情報がオンライン状態を示す場合(ステップS71−4のYES)、重畳部22Yは、ページデータ記憶部200に記憶されている通話アイコンのうち、所定の輝度の通話アイコンの画像データを使用して、UI画像の画像データを生成する(ステップS71−5)。図13(A)はディスプレイの表示例である。重畳部22Yは、生成されたUI画像の画像データをディスプレイ3cに出力することで、選択可能な所定の輝度の通話アイコン141iを含むUI画像141aを表示させる。
取得される状態情報がオンライン状態を示すものではない場合(ステップS71−4のNO)、重畳部22Yは、ページデータ記憶部200に記憶されている通話アイコンのうち、半輝度の通話アイコンの画像データを使用して、UI画像の画像データを生成する(ステップS71−6)。図13(B)はディスプレイの表示例である。重畳部22Yは、生成されたUI画像の画像データをディスプレイ3cに出力することで、選択不可能な半輝度の通話アイコン142iを含むUI画像141aを表示させる。
ステップS71−3乃至S71−8の処理は、クライアント部20が起動している間、重畳部22Yにより繰り返し実行される(ステップS71−8のYES)。これにより、クライアント部80による通信の状態が変更された場合に、UI画像における通話アイコンの輝度が変更される。
続いて、図14を用いて、電子黒板2とPC8の各ユーザ間で通話を開始するときの通信システム1の処理について説明する。図14は、通話を開始するときの通信システムの処理を示すシーケンス図である。
ユーザによる通話アイコン141iの押下を電子黒板2cの描画制御部22が検知すると、電子黒板2cは通話メニューを表示する(ステップS81)。図15を用いて、ステップS81の処理を詳細に説明する。図15は、通話メニューを表示する処理を示すフロー図である。
上記の通り、通話アイコン(141i,142i)のうち、所定の輝度の通話アイコン141iは選択可能に設定され、半輝度の通話アイコン142iは選択不可能に設定されている。このため、通話アイコン(141i,142i)のうち、選択不可能な半輝度の通話アイコン142iがUI画面上で押下されても(ステップS81−1のNO)、電子黒板2cの描画制御部22は、通話メニューの要求を受け付けずに処理を終了する。これに対して、通話アイコン(141i,142i)のうち、選択可能な所定の輝度の通話アイコン141iがUI画面上で押下されると(ステップS81−1のYES)、描画制御部22は、通話メニューの要求を受け付ける。
ステップS81−1のYESで、通話メニューの要求を受け付けられると、描画制御部22は、UI画面上で、認証情報としてユーザID、及びパスコードの入力を受け付ける。描画制御部22は、入力されたユーザID及びパスコードの組と、ステップS22のログイン要求でクライアント部80の通信制御部81が管理システム50へ送信したユーザID及びパスコードの組とが同一であるか確認することで認証する(ステップS81−2)。
ユーザID及びパスコードの組が同一ではなく認証に失敗した場合(ステップS81−2のNO)、描画制御部22は、通話メニューの要求を受け付けずに処理を終了する。ユーザID及びパスコードの組が同一であり認証に成功した場合(ステップS81−2のYES)、検知部23は、テレビ会議サービスで共有されるコンテンツ(映像及び音)を入出力するためのデバイスのうち、電子黒板2cに内蔵されていない音デバイスの接続を検知する(ステップS81−3)。この場合、検知部23は、OS2020がマイク222及びスピーカ223を認識しているか確認することで音デバイスを検知する。なお、音デバイスのうち一方が電子黒板2cに内蔵されているような場合には、検知部23は、OS2020が他方の音デバイスを認識しているか確認する。
マイク222及びスピーカ223がOS2020によって認識されており、音デバイスが検知された場合には(ステップS81−3のYES)、クライアント部20の通信制御部21は、クライアント部80による通信の状態を示す状態情報を取得する(ステップS81−4)。状態情報を取得する方法としては、ステップS71−3と同様の方法が挙げられる。
取得された状態情報が、他のクライアント部80と通信中の状態を示すものである場合(ステップS81−4のYES)、電子黒板2cの重畳部22Yは、通話メニューとして通話を開始するための機能を示す情報、及び通話を終了するための機能を示す情報が共に所定の輝度で示されるUI画像を作成する(ステップS81−5)。一実施形態において、通信中の状態とは、クライアント部80がPC8等の他の端末のクライアント部80との間で映像データ及び音データを送受信している状態である。通信中の状態を示す状態情報として、後述の「オンライン(通話中)」が含まれる。また、一実施形態において、通話メニューにおける所定の輝度の情報は選択可能な情報であり、半輝度の情報は選択不可能な情報である。なお、判別可能であれば、選択不可能な情報の輝度は、選択可能な情報の輝度の半分でなくても良い。また、判別可能であれば、選択可否を、色の違い、枠線やアンダーラインの有無、書体の違い等の表示形式の違いにより表現しても良い。
図16(A)は、ディスプレイの表示例である。図16(A)のように、重畳部22Yは、作成されたUI画像の画像データをディスプレイ3cへ出力することにより、通話を開始するための機能を示す情報、及び通話を終了するための機能を示す情報が共に所定の輝度で示される通話メニュー143を含むUI画像141aを表示させる。これにより、電子黒板2cは、他の相手を通話に参加させるために通話を開始する要求、及び現在の通話を終了する要求を受け付けることができる。
取得された状態情報が通信中の状態を示すものではない場合(ステップS81−4のNO)、電子黒板2cの重畳部22Yは、通話を開始するための機能を示す情報が所定の輝度で示され、通話を終了するための機能を示す情報が半輝度で示されるUI画像を作成する(ステップS81−6)。通信中の状態を示すものではない状態情報として、「オンライン」が含まれる。図16(B)は、ディスプレイの表示例である。図16(B)のように、重畳部22Yは、作成されたUI画像の画像データをディスプレイ3cへ出力することにより、通話を開始するための機能を示す情報が所定の輝度で示され、通話を終了するための機能を示す情報が半輝度で示される通話メニュー144を含むUI画像141aをディスプレイ3cに表示させる。これにより、電子黒板2cは、通話を開始する要求を受け付ける一方で、通話を終了する要求を受け付けない。
ステップS81−3で、音デバイスが検知されなかった場合には(ステップS81−3のNO)、クライアント部20の通信制御部21は、クライアント部80による通信の状態を示す状態情報を取得する(ステップS81−7)。状態情報を取得する方法としては、ステップS71−3と同様の方法が挙げられる。
取得された状態情報が通信中の状態を示すものである場合(ステップS81−7のYES)、電子黒板2cの重畳部22Yは、通話メニューとして通話を開始するための機能を示す情報が半輝度で示され、通話を終了するための機能を示す情報が所定の輝度で示されるUI画像を作成する(ステップS81−8)。図16(C)は、ディスプレイの表示例である。図16(C)のように、重畳部22Yは、作成されたUI画像の画像データをディスプレイ3cへ出力することにより、通話を開始するための機能を示す情報が半輝度で示され、通話を終了するための機能を示す情報が所定の輝度で示される通話メニュー145を含むUI画像141aを表示させる。これにより、例えば、通話中にマイク222の故障等により通話できない状態となったときに、電子黒板2cは、通話を開始する要求を受け付けない一方で、通話を終了する要求を受け付けることができる。
取得された状態情報が通信中の状態を示すものではない場合(ステップS81−7のNO)、電子黒板2cの重畳部22Yは、通話メニューとして通話を開始するための機能を示す情報、及び通話を終了するための機能を示す情報が共に半輝度で示されるUI画像を作成する(ステップS81−9)。図16(D)は、ディスプレイの表示例である。図16(D)のように、重畳部22Yは、作成されたUI画像の画像データをディスプレイ3cへ出力することにより、通話を開始するための機能を示す情報、及び通話を終了するための機能を示す情報が共に半輝度で示される通話メニュー146を含むUI画像141aを表示させる。これにより、例えば、マイク222等が未接続で通話できない状態のときに、電子黒板2cは、通話を開始する要求、及び通話を終了する要求を受け付けないようにすることができる。
上記の通り、通話メニュー143,144,145,146において、選択可能な情報は輝度で示され、選択不可能な情報は半輝度で示されている。このため、通話メニュー145,146において、選択不可能な半輝度の通話を開始するための機能を示す情報がUI画像140a上で押下されても、電子黒板2cの描画制御部22は、通話の開始要求を受け付けない。これに対して、通話メニュー143,144において、選択可能な輝度の通話を開始するための機能を示す情報がUI画像140a上で押下されると、描画制御部22は、通話の開始要求を受け付ける(ステップS82)。通話の開始要求を受け付ける場合、描画制御部22は、通話の宛先を示す宛先情報の選択を受け付ける。以下、PC8が宛先として選択される場合について説明を続ける。
電子黒板2cのクライアント部20における通信制御部21は、クライアント部80における通信制御部81へ、PC8との通話の開始要求を送信する。電子黒板2cの通信制御部81は、通話の開始要求を受信すると、管理システム50に対し、通話の開始要求を送信する(ステップS83)。この通話の開始要求には、通話の開始要求元の電子黒板2cのクライアント部80の通信ID、および宛先のPC8の通信IDが含まれている。これにより、管理システム50は、通信の開始要求を受信する。なお、通信IDは通信先を特定するための情報であって、端末の識別情報や、ユーザアカウント等が含まれる。
次に、管理システム50は、宛先のPC8に対して、通話の開始要求を送信する(ステップS84)。この通話の開始要求には、上記ステップS83によって送られて来た通話の開始要求元の電子黒板2cのクライアント部80の通信IDおよび宛先のPC8の通信IDが含まれている。これにより、宛先のPC8は、通信の開始要求を受信する。
これに対して、PC8の通信制御部81は、ユーザによる操作入力に応じて、管理システム50に対し、応答可否を示す情報を送信する(ステップS85)。以下、PC8が、応答する旨を示す情報を管理システム50へ送信した場合について説明を続ける。
管理システム50の通信制御部51は、応答する旨を示す情報を受信する。管理システム50の通信制御部51は、開始要求元の電子黒板2cに対し、上記ステップS85によって宛先のPC8から送られて来た、応答する旨を示す情報を送信する(ステップS86)。これにより、電子黒板2cの通信制御部81は、応答する旨を示す情報を受信する。
続いて、管理システム50は、電子黒板2cとPC8との間で通信ネットワーク9bを介してコンテンツデータを送信するための通信を確立させる制御を行う(ステップS87)。通信を確立させる方法として、例えば、管理システム50は、コンテンツデータへのアクセス先へのアクセス権限を電子黒板2c及びPC8に付与する。アクセス先は、管理システム50内であっても、管理システム50以外の装置であっても良い。電子黒板2cとPC8との間の通信が確立されると、電子黒板2c及びPC8は、アクセス先へアクセスして、自端末側のカメラ207,812で撮像される映像に対応する映像データ、及びマイク222,814で集音される音に対応する音データを送信するとともに、アクセス先から相手側の映像データ及び音データを取得する。
電子黒板2cとPC8との間の通信が確立されると、電子黒板2c及びPC8は、アクセス先へアクセスして、自端末側のカメラ207,812で撮像される映像の映像データ、及びマイク222,814で集音される音の音データを送信するとともに、アクセス先から相手側の映像データ及び音データを取得する(ステップS88)。
電子黒板2cとPC8との間の通信の確立に応じて、電子黒板2cの通信制御部81は、記憶部2000に記憶されている状態情報を「オンライン」から「オンライン(通話中)」に更新する(ステップS89)。
電子黒板2cのクライアント部80における通信制御部81がPC8側の映像データ及び音データを受信すると、音データをスピーカ223から出力する。また、クライアント部80における通信制御部81は、受信した映像データをクライアント部20における通信制御部21に送信する。電子黒板2cのクライアント部20における通信制御部21が、映像データを受信すると、受信した映像データをメディアデータとして、ページデータ記憶部220へ記憶させる。重畳部22Yは、ページデータ記憶部220に記憶された映像データを読み出して、読み出された映像データを背景画像140dのレイヤとして、ディスプレイ3cへ出力する。これにより、相手側の映像が背景画像としてディスプレイ3cに表示される。
続いて、通話を終了する場合の処理について説明する。上記の通り、通話メニュー143,144,145,146において、選択可能な情報は輝度で示され、選択不可能な情報は半輝度で示されている。このため、通話メニュー144,146において、選択不可能な半輝度の通話を終了するための機能を示す情報がUI画像141a上で押下されても、電子黒板2cの描画制御部22は、通話の終了要求を受け付けない。これに対して、通話メニュー143,145において、選択可能な輝度の通話を終了するための機能を示す情報がUI画面上で押下されると、描画制御部22は、通話の終了要求を受け付ける(ステップS91)。
電子黒板2cにおけるクライアント部20における通信制御部21は、クライアント部80における通信制御部81へ、通話の終了要求を送信する。電子黒板2cの通信制御部81は、通信制御部21から通話の終了要求を受信すると、管理システム50に対し、通話の終了要求を送信する(ステップS92)。
管理システム50の通信制御部51は、通話の終了要求を受信すると、電子黒板2cとPC8との間の通信を切断させる制御を行う(ステップS93)。通信が切断されると、電子黒板2cの通信制御部81及びPC8の通信制御部81の間で映像データ及び音データを相互に送信できなくなる。
電子黒板2cとPC8との間の通信の切断に応じて、電子黒板2cの通信制御部81は、記憶部2000に記憶されている状態情報を「オンライン(通話中)」から「オンライン」に更新する(ステップS94)。
<<実施形態の主な効果>>
上記実施形態の表示制御方法によると、電子黒板2c(通信端末の一例)は、外部の音デバイス(外部装置の一例)であるマイク222から入力される音に対応する音データ(コンテンツデータの一例)をPC8(他の通信端末の一例)へ送信する。また、電子黒板2cは、PC8によって送信される音データを受信して、対応する音を外部の音デバイスであるスピーカ223から出力させる。電子黒板2cの検知部23(検知手段の一例)は、音デバイスの接続を検知する(検知処理の一例)。電子黒板2cの重畳部22Y(表示制御手段の一例)は、検知部23によって音デバイスの接続が検知される場合に、通話(コミュニケーションの一例)開始するための機能を示す情報を所定の輝度(第1の表示形式の一例)で表示させる(表示制御処理の一例)。電子黒板2cの重畳部22Yは、検知部23によって音デバイスの接続が検知されない場合に、通話開始するための機能を示す情報を半輝度(第2の表示形式の一例)で表示する制御を行う(表示制御処理の一例)。電子黒板2cによると、通話開始するための機能を示す情報を表示させることで、通話機能をユーザに示すことができる。ユーザは、その表示の表示形式の違いに基づいて、通話開始可能か判断できる。
電子黒板2cとPC8が通信中の場合に、電子黒板2cの重畳部22Yは、通話終了するための機能を示す情報を所定の輝度で表示する制御を行う。電子黒板2cとPC8が通信中ではない場合に、電子黒板2cの重畳部22Yは、通話終了するための機能を示す情報を半輝度で表示する制御を行う。これにより、電子黒板2cは、通話終了の要求を受け付け可能であるかに応じて、通話終了するための機能を示す情報の表示形式を変えることができる。
電子黒板2cのクライアント部20は、ストロークデータ(コンテンツデータの一例)の送信により通信するためのクライアントとして動作する。また、電子黒板2cのクライアント部80は、音データ(他のコンテンツデータの一例)の送信により通信するための他のクライアントとして動作する。電子黒板2cの重畳部22Yは、クライアント部20によって表示制御されるUI画像141a(表示領域の一例)に、通話開始するための機能を示す情報を表示する制御を行う。これにより、電子黒板2cは、クライアント部20により表示制御される電子黒板のUI画像141a上で、通話開始の要求を受け付けることができる。
電子黒板2cの重畳部22Yは、UI画像141a上に、クライアント部80に対応するテレビ会議サービス(サービスの一例)を示す通話アイコン(141i,142i)(情報の一例)を表示させる。電子黒板2cの重畳部22Yは、クライアント部80が、音データの送信による通信を管理する管理システム50に接続している場合には、テレビ会議サービスを示す通話アイコン141iを所定の輝度(第1の表示形式の一例)で表示し、クライアント部80が管理システム50に接続していない場合には、テレビ会議サービスを示す通話アイコン142iを半輝度(第2の表示形式の一例)で表示する制御を行う。これにより、電子黒板2cはテレビ会議サービスを利用可能な状態であるか、表示形式の違いによりユーザに把握させることができる。
電子黒板2cの描画制御部22は、認証情報としてユーザID及びパスコードの入力を受け付ける。電子黒板2cの重畳部22Yは、描画制御部22によって受け付けられるユーザID及びパスコードと、クライアント部80が管理システム50に接続するときに用いられるユーザID及びパスコード(認証情報の一例)とが同一である場合に、通話開始するための機能を示す情報を表示する。電子黒板2cの重畳部22Yは、描画制御部22によって受け付けられるユーザID及びパスコードと、クライアント部80が管理システム50に接続するときに用いられるユーザID及びパスコードとが同一ではない場合に、通話開始するための機能を示す情報を表示しない制御を行う。これにより、電子黒板2cは、クライアント部20のユーザID及びパスコードと、クライアント部80のユーザID及びパスコードが同一である場合に、通話の開始の要求を受け付けることができる。
電子黒板2cの通信制御部81(送信手段の一例)は、所定の輝度の通話開始するための機能を示す情報が選択された場合に、通話を開始するための要求を管理システム50へ送信し、半輝度の通話開始するための機能を示す情報が選択された場合に、通話を開始するための要求を管理システム50へ送信しない。これにより、電子黒板2cは、音デバイスの未接続により通話を開始できないときに、通話を開始するための要求を管理システム50へ送信することを防ぐことができる。
<<実施形態の補足>>
通信アプリA11,B10,B11は、インストール可能な形式又は実行可能な形式のファイルによって、コンピュータで読み取り可能な記録媒体に記録されて流通されるようにしてもよい。また、上記記録媒体の他の例として、CD−R(Compact Disc Recordable)、DVD(Digital Versatile Disk)、ブルーレイディスク等が挙げられる。また、上記記録媒体、あるいは、これらプログラムが記憶されたHD(Hard Disk)は、プログラム製品(Program Product)として、国内又は国外へ提供可能である。
また、上記実施形態における電子黒板2、PC8、中継装置30、及び管理システム50は、単一の装置によって構築されてもよいし、各部(機能又は手段)を分割して任意に割り当てられた複数の装置によって構築されていてもよい。
また、上記では、画像共有可能な装置の一例として電子黒板2及びPC8について説明したが、これに限るものではない。例えば、画像共有可能な装置として、上記の電子黒板2及びPC8の有する各機能を搭載可能な他の装置を用いることもできる。他の装置としては、例えば、テレビ会議端末、プロジェクター、デジタルサイネージ、テキスト共有装置、カーナビゲーション端末、ゲーム機、PDA(Personal Digital Assistant)、遠隔診断装置等が挙げられる。
1 通信システム
2 電子黒板
3 ディスプレイ
4 電子ペン
5 USBメモリ
6 ノートPC
8 PC
9a,9b 通信ネットワーク
20 クライアント部
21 通信制御部
22 描画制御部
23 検知部
22A ストローク処理部
22B 取得部
22X 変換部
22Y 重畳部
22Z ページ処理部
220 ページデータ記憶部
30 中継装置
50 管理システム
80 クライアント部
81 通信制御部
90 サーバ部
91 通信制御部
2000 記憶部
8000 記憶部
特開2015−84211号公報

Claims (10)

  1. 他の通信端末との間の通信によりコンテンツデータを送信する通信端末であって、
    前記コンテンツデータを入力又は出力する外部装置の接続を検知する検知手段と、
    前記検知手段によって前記外部装置の接続が検知される場合に、コミュニケーションを開始する機能を示す情報を第1の表示形式で表示し、前記検知手段によって前記外部装置の接続が検知されない場合に、前記コミュニケーションを開始する機能を示す情報を第2の表示形式で表示する制御を行う表示制御手段と、
    を有する通信端末。
  2. 前記表示制御手段は、前記他の通信端末と通信中の場合に、前記コミュニケーションを終了する機能を示す情報を前記第1の表示形式で表示し、前記他の通信端末と通信中ではない場合に、前記コミュニケーションを終了する機能を示す情報を前記第2の表示形式で表示する制御を行う請求項1に記載の通信端末。
  3. 前記コンテンツデータの送信により通信するためのクライアント、及び、他のコンテンツデータの送信により通信するための他のクライアントとして動作し、
    前記表示制御手段は、前記他のクライアントによって表示制御される表示領域に、前記コミュニケーションを開始する機能を示す情報を表示する制御を行う請求項1又は2に記載の通信端末。
  4. 前記表示制御手段は、前記他のクライアントによって表示制御される表示領域に、前記クライアントに対応するサービスを示す情報を表示させ、前記クライアントが、前記コンテンツデータの送信による通信を管理する管理システムに接続している場合には、前記サービスを示す情報を前記第1の表示形式で表示し、前記クライアントが前記管理システムに接続していない場合には、前記サービスを示す情報を前記第2の表示形式で表示する制御を行う請求項3に記載の通信端末。
  5. 前記他のクライアントは、認証情報の入力を受け付け、
    前記表示制御手段は、前記他のクライアントによって受け付けられる認証情報、及び前記クライアントが前記管理システムに接続するときに用いられる認証情報が同一である場合に、前記コミュニケーションを開始する機能を示す情報を表示し、前記他のクライアントによって受け付けられる認証情報、及び前記クライアントが管理システムに接続するときに用いられる認証情報が同一ではない場合に、前記コミュニケーションを開始する機能を示す情報を表示しない制御を行うことを特徴とする請求項4に記載の通信端末。
  6. 前記第1の表示形式で表示される前記コミュニケーションを開始する機能を示す情報が選択された場合に、前記コミュニケーションを開始するための要求を前記管理システムへ送信する送信手段を有する請求項4又は5に記載の通信端末。
  7. 請求項1乃至6のいずれか一項に記載の通信端末と、
    前記他の通信端末と、
    を備える通信システム。
  8. 請求項4乃至6のいずれか一項に記載の通信端末と、
    前記管理システムと、
    を備える通信システム。
  9. 他の通信端末との間の通信によりコンテンツデータを送信する通信端末が、
    前記コンテンツデータを入力又は出力する外部装置の接続を検知する検知処理と、
    前記検知処理によって前記外部装置の接続が検知される場合に、コミュニケーションを開始する機能を示す情報を第1の表示形式で表示し、前記検知処理によって前記外部装置の接続が検知されない場合に、前記コミュニケーションを開始する機能を示す情報を第2の表示形式で表示する制御を行う表示制御処理と、
    を実行する表示制御方法。
  10. 他の通信端末との間の通信によりコンテンツデータを送信する通信端末に、
    前記コンテンツデータを入力又は出力する外部装置の接続を検知する検知処理と、
    前記検知処理によって前記外部装置の接続が検知される場合に、コミュニケーションを開始する機能を示す情報を第1の表示形式で表示し、前記検知処理によって前記外部装置の接続が検知されない場合に、前記コミュニケーションを開始する機能を示す情報を第2の表示形式で表示する制御を行う表示制御処理と、
    を実行させるプログラム。
JP2017006660A 2016-01-29 2017-01-18 通信端末、通信システム、表示制御方法、及びプログラム Active JP6776905B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
EP17153070.2A EP3200066A1 (en) 2016-01-29 2017-01-25 Communication terminal, communication system, display control method, and carrier means
US15/416,077 US10346121B2 (en) 2016-01-29 2017-01-26 Communication terminal, communication system, display control method, and recording medium
US16/381,008 US10628117B2 (en) 2016-01-29 2019-04-11 Communication terminal, communication system, display control method, and recording medium

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2016015846 2016-01-29
JP2016015846 2016-01-29

Publications (2)

Publication Number Publication Date
JP2017138972A true JP2017138972A (ja) 2017-08-10
JP6776905B2 JP6776905B2 (ja) 2020-10-28

Family

ID=59565108

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017006660A Active JP6776905B2 (ja) 2016-01-29 2017-01-18 通信端末、通信システム、表示制御方法、及びプログラム

Country Status (1)

Country Link
JP (1) JP6776905B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020149191A (ja) * 2019-03-12 2020-09-17 株式会社リコー 情報処理装置、及びプログラム

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020149191A (ja) * 2019-03-12 2020-09-17 株式会社リコー 情報処理装置、及びプログラム
JP7259426B2 (ja) 2019-03-12 2023-04-18 株式会社リコー 情報処理装置、及びプログラム

Also Published As

Publication number Publication date
JP6776905B2 (ja) 2020-10-28

Similar Documents

Publication Publication Date Title
JP6798288B2 (ja) 通信端末、通信システム、映像出力方法、及びプログラム
JP7255728B2 (ja) 通信端末、通信システム、送信方法、及びプログラム
JP6720513B2 (ja) 通信端末、通信システム、通信制御方法、及びプログラム
JP6471614B2 (ja) 通信端末、通信システム、通信制御方法、及びプログラム
US10628117B2 (en) Communication terminal, communication system, display control method, and recording medium
US10397638B2 (en) Information processing apparatus, and image displaying method
US10511700B2 (en) Communication terminal with first application displaying status of second application
JP6540367B2 (ja) 表示制御装置、通信端末、通信システム、表示制御方法、及びプログラム
US20180203566A1 (en) Electronic blackboard, storage medium, and information display method
US20150341435A1 (en) Communication system, transfer control device, and communication method
US11610560B2 (en) Output apparatus, output system, and method of changing format information
JP6911595B2 (ja) 通信端末、通信システム、出力方法、及びプログラム
US10356361B2 (en) Communication terminal, communication system, and display method
JP6776905B2 (ja) 通信端末、通信システム、表示制御方法、及びプログラム
JP6773145B2 (ja) 電子黒板、通信システム、通信制御方法、及びプログラム
JP2018060513A (ja) 通信端末、通信システム、送信方法、及びプログラム
JP2017153062A (ja) 通信端末、通信システム、出力方法、及びプログラム
JP2020149634A (ja) 画像処理装置、方法、およびプログラム

Legal Events

Date Code Title Description
RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20180209

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20191108

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200630

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200714

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200828

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200908

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200921

R151 Written notification of patent or utility model registration

Ref document number: 6776905

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151