JP6471614B2 - 通信端末、通信システム、通信制御方法、及びプログラム - Google Patents

通信端末、通信システム、通信制御方法、及びプログラム Download PDF

Info

Publication number
JP6471614B2
JP6471614B2 JP2015109871A JP2015109871A JP6471614B2 JP 6471614 B2 JP6471614 B2 JP 6471614B2 JP 2015109871 A JP2015109871 A JP 2015109871A JP 2015109871 A JP2015109871 A JP 2015109871A JP 6471614 B2 JP6471614 B2 JP 6471614B2
Authority
JP
Japan
Prior art keywords
communication
content data
communication terminal
data
display
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015109871A
Other languages
English (en)
Other versions
JP2016224665A (ja
Inventor
加藤 喜永
喜永 加藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2015109871A priority Critical patent/JP6471614B2/ja
Priority to PCT/JP2016/002433 priority patent/WO2016194324A1/en
Priority to US15/565,569 priority patent/US10637895B2/en
Priority to EP16802767.0A priority patent/EP3304323B1/en
Priority to CN201680029117.XA priority patent/CN107615256A/zh
Publication of JP2016224665A publication Critical patent/JP2016224665A/ja
Application granted granted Critical
Publication of JP6471614B2 publication Critical patent/JP6471614B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/40Support for services or applications
    • H04L65/401Support for services or applications wherein the services involve a main real-time session and one or more additional parallel real-time or time sensitive sessions, e.g. white board sharing or spawning of a subconference
    • H04L65/4015Support for services or applications wherein the services involve a main real-time session and one or more additional parallel real-time or time sensitive sessions, e.g. white board sharing or spawning of a subconference where at least one of the additional parallel sessions is real time or time sensitive, e.g. white board sharing, collaboration or spawning of a subconference
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F13/00Interconnection of, or transfer of information or other signals between, memories, input/output devices or central processing units
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/1066Session management
    • H04L65/1083In-session procedures
    • H04L65/1089In-session procedures by adding media; by removing media
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/40Support for services or applications
    • H04L65/403Arrangements for multi-party communication, e.g. for conferences
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/14Systems for two-way working
    • H04N7/141Systems for two-way working between two video terminals, e.g. videophone
    • H04N7/147Communication arrangements, e.g. identifying the communication as a video-communication, intermediate storage of the signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/14Systems for two-way working
    • H04N7/15Conference systems

Landscapes

  • Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Business, Economics & Management (AREA)
  • General Business, Economics & Management (AREA)
  • Human Computer Interaction (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Information Transfer Between Computers (AREA)
  • User Interface Of Digital Computer (AREA)
  • Telephonic Communication Services (AREA)

Description

本発明は、通信端末、通信システム、通信制御方法、及びプログラムに関する。
近年、当事者の移動の経費や時間を削減する要請等に伴い、インターネットや専用線等の通信ネットワークを介して通話や会議等を行う通信システムが普及している。このような通信システムでは、通信端末の有する機能に応じて、会議参加者や会議資料等の表示データや手書操作に基づくストロークデータ等のコンテンツデータを通信端末間で共有することができる。
また、通信ネットワークに接続する電子黒板のうちサーバ機を介して、クライアント機間でストロークデータを共有する方法が開示されている(特許文献1参照)。
通信端末において複数の機能を起動することで複数の機能を同じタイミングに実行することができる。しかしながら、通信端末間で画像を共有する機能を複数起動すると、一方の機能により表示される画像が、他方の機能による、例えば、ポップアップ等の表示の制御に伴って視認し難くなるという課題が生じる。
請求項1に係る発明の通信端末は、配信サーバを介した第1の通信端末との間の通信を制御する第1の通信制御手段と、第2の通信端末との間の通信を制御する第2の通信制御手段と、前記第2の通信制御手段による通信において前記第2の通信端末との間で送信されるコンテンツデータを取得する取得手段と、前記配信サーバによって配信されるコンテンツデータに基づく画像の表示を制御する表示制御手段と、を有しており、前記第1の通信制御手段は、前記取得手段によって取得される前記コンテンツデータを前記配信サーバへ送信し、前記配信サーバによって配信されるコンテンツデータは、前記第1の通信端末によって送信された第1のコンテンツデータと、前記取得手段によって取得され、前記配信サーバへ送信された第2のコンテンツデータとを含んでおり、前記表示制御手段は、前記第1のコンテンツデータのレイヤ及び前記第2のコンテンツデータのレイヤを重畳して表示する制御を行うことを特徴とする。
以上説明したように本発明によれば、通信端末間で画像を共有するための機能を複数起動させたときに、一方の機能により表示される画像が、他方の機能による表示の制御に伴って視認し難くなることを防ぐことが可能になるという効果を奏する。
図1は、一実施形態に係る通信システムの全体構成図である。 図2は、一実施形態に係る電子黒板のハードウェア構成図である。 図3は、一実施形態に係る管理システムのハードウェア構成図である。 図4は、一実施形態に係るテレビ会議端末としてのPCのハードウェア構成図である。 図5(a)は、一実施形態に係る電子黒板のソフトウェア構成図である。 図5(b)は、一実施形態に係るPCのソフトウェア構成図である。 図6は、一実施形態に係る通信システムの一部を構成する電子黒板、及びPCの機能ブロック図である。 図7は、一実施形態に係る描画制御部を詳細に示した機能ブロック図である。 図8は、電子黒板又はPCの処理を示したシーケンス図である。 図9は、電子黒板又はPCの処理を示したシーケンス図である。 図10は、電子黒板又はPCの処理を示したシーケンス図である。 図11は、電子黒板又はPCの処理を示したシーケンス図である。 図12は、電子黒板又はPCの処理を示したシーケンス図である。 図13は、電子黒板又はPCの処理を示したシーケンス図である。 図14は、電子黒板又はPCの処理を示したシーケンス図である。 図15は、ディスプレイの表示例を示す図である。
以下、図面を用いて、本発明の一実施形態について説明する。
<<通信システムの全体構成>>
まず、図1を用いて、通信システム1について説明する。図1は、一実施形態に係る通信システムの全体構成図である。
通信システム1は、複数の電子黒板2a,2b,2c、PC8、中継装置30、及び管理システム50を有する。
電子黒板2a,2b,2cは、通信ネットワーク9aを介して通信可能に接続されている。また、電子黒板2a,2b,2cには、それぞれディスプレイ3a,3b,3cが設けられている。
電子黒板2a,2b,2cは、電子ペン4a,4b,4cによって生じたイベント(ディスプレイ3a,3b,3cへの電子ペン4a,4b,4cのペン先、又は、ペン尻のタッチ)により描画された画像を、ディスプレイ3a,3b,3cに表示させることができる。なお、電子黒板2a,2b,2cは、電子ペン4a,4b,4cだけでなく、ユーザの手Ha,Hb,Hc等によって生じたイベント(拡大、縮小、ページめくり等のジェスチャ)に基づいて、ディスプレイ3a,3b,3c上に表示されている画像を変更させることもできる。以下、電子黒板2a,2b,2cのうち任意の電子黒板を示す場合には、電子黒板2と表す。また、ディスプレイ3a,3b,3cのうち任意のディスプレイを示す場合には、ディスプレイ3と表す。また、電子ペン4a,4b,4cのうち任意の電子ペンを示す場合には電子ペン4と示す。また、ユーザの手Ha,Hb,Hcのうち任意の手を示す場合には手Hと示す。
また、電子黒板2a,2b,2cには、USB(Universal Serial Bus)メモリ5a,5b,5cが接続可能である。電子黒板2a,2b,2cはUSBメモリ5a,5b,5cからPDF(Portable Document Format)等の電子ファイルを読み出したり、USBメモリ5a,5b,5cに電子ファイルを記録したりすることができる。また、電子黒板2aには、DisplayPort、DVI(Digital Visual Interface)、HDMI(登録商標)(High-Definition Multimedia Interface)およびVGA(Video Graphics Array)等の規格による通信が可能なケーブルを介して、ノートPC6a,6b,6cが接続されている。なお、USBメモリ5a,5b,5cのうち任意のUSBメモリを示す場合にはUSBメモリ5と示す。ノートPC6a,6b,6cのうち任意のノートPCを示す場合にはノートPC6と示す。
これにより、一の拠点で電子黒板2のディスプレイ3上に描画されたストロークのストロークデータは、通信ネットワーク9aを介して他の拠点で電子黒板2へ送信されることで、他の拠点のディスプレイ3上にも表示される。逆に他の拠点で電子黒板2のディスプレイ3上に描画されたストロークのストロークデータは、通信ネットワーク9aを介して一の拠点の電子黒板2へ送信されることで、一の拠点の電子黒板2のディスプレイ3上に表示される。このように、通信システム1では、遠隔地において同じ画像を共有する遠隔共有処理を行うことができるため、遠隔地での会議等に用いると、非常に便利である。
なお、上記の電子黒板2に加えて、電子黒板以外の他の通信端末が通信ネットワーク9aに接続することで、通信ネットワーク9aを介して他の通信端末が電子黒板2との間でストロークデータ共有することもできる。他の通信端末としては、PC、テレビ会議端末、タブレット、スマートフォン、電子看板(デジタルサイネージ)、スポーツや天気予報等で利用されるテレストレータ、又は、遠隔画像(映像)診断装置等の画像処理装置、携帯情報端末、デジタルビデオカメラ、デジタルカメラ、ゲーム機等の画像フレームを供給可能な端末等のコンピュータが含まれる。
電子黒板2c、PC(Personal computer)8、中継装置30、管理システム50は、通信ネットワーク9bを介して通信可能に接続されている。
電子黒板2c及びPC8は、コンテンツデータの一例として会議資料等の表示データの送受信による通信を行なう。なお、表示データは、ディスプレイに表示可能な画像の画像データである。表示データは、動画データであっても静止画データであってもよく、動画データと静止画データの両方であってもよい。
中継装置30は、電子黒板2c及びPC8の間で、コンテンツデータを中継する処理を行なう。管理システム50は、電子黒板2c及びPC8の通信状況等を一元的に管理する。
なお、電子黒板2c及びPC8以外の他の通信端末が通信ネットワーク9bに接続することで、通信ネットワーク9bを介して他の通信端末が電子黒板2c、PC8との間で表示データを共有することもできる。他の通信端末としては、テレビ会議端末、タブレット、スマートフォン、電子看板(デジタルサイネージ)、テレストレータ、又は、画像処理装置、携帯情報端末、デジタルビデオカメラ、デジタルカメラ、ゲーム機等の画像フレームを供給可能な端末等のコンピュータが含まれる。
なお、電子黒板2cは、ストロークデータを共有するためのモジュール、及び表示データを共有するためのモジュールの双方を起動することで、通信端末間でストロークデータ及び表示データの両方を同時に共有することができる。
一実施形態によると、通信ネットワーク9aはイントラネットであり,通信ネットワーク9bはインターネットである。ただし、通信ネットワーク9a,9bは、各通信端末のプロトコルに応じて、インターネット、LAN(Local Area Network)、イントラネット、又は携帯電話網等の任意の通信ネットワークから選択される。また、通信ネットワーク9a,9bは、共にインターネットである場合のように同じ通信ネットワークであっても良い。
また、一実施形態では、記録媒体の一例として、USBメモリを説明するが、これに限るものではなく、記録媒体の他の例として、SDカード等の各種記録メディアであってもよい。
<電子黒板のハードウェア構成>
図2を用いて、一実施形態に係る電子黒板のハードウェア構成を説明する。なお、図2は、一実施形態に係る電子黒板のハードウェア構成図である。
図2に示されているように、電子黒板2は、電子黒板2全体の動作を制御するCPU(Central Processing Unit)201、IPL等のCPU201の駆動に用いられるプログラムを記憶したROM202、CPU201のワークエリアとして使用されるRAM203、電子黒板用のプログラム等の各種データを記憶するSSD204、通信ネットワーク9との通信を制御するネットワークコントローラ205、および、USBメモリ5との通信を制御する外部記憶コントローラ206を備えている。さらに、電子黒板2は、CPU201の制御に従って被写体を撮像するカメラ207と、このカメラ207の駆動を制御する撮像素子I/F208と、ノートPC6のディスプレイに対して映像情報を静止画または動画として表示させるキャプチャデバイス211、グラフィクスを専門に扱うGPU(Graphics Processing Unit)212、および、GPUからの出力画像をディスプレイ3へ出力するために画面表示の制御および管理を行うディスプレイコントローラ213を備えている。さらに、電子黒板2は、接触センサ215の処理を制御するセンサコントローラ214、ディスプレイ3上に電子ペン4やユーザの手H等が接触したことを検知する接触センサ215を備えている。一実施形態における、接触センサ215は、赤外線遮断方式による座標の入力および座標の検出を行う。この座標の入力および座標を検出する方法は、ディスプレイ3の上側両端部に設置された2つ受発光装置が、ディスプレイ3に平行して複数の赤外線を放射し、ディスプレイ3の周囲に設けられた反射部材によって反射されて、受光素子が放射した光の光路と同一の光路上を戻って来る光を受光する方法である。接触センサ215は、物体によって遮断された2つの受発光装置が放射した赤外線のID(Identification)をセンサコントローラ214に出力し、センサコントローラ214が、物体の接触位置である座標位置を特定する。なお、以下に示す全ての各IDは、識別情報の一例である。
また、接触センサ215としては、赤外線遮断方式に限らず、静電容量の変化を検知することにより接触位置を特定する静電容量方式のタッチパネル、対向する2の抵抗膜の電圧変化によって接触位置を特定する抵抗膜方式のタッチパネル、接触物体が表示部に接触することによって生じる電磁誘導を検知して接触位置を特定する電磁誘導方式のタッチパネルなどの種々の検出手段を用いてもよい。また、接触センサ215は、カメラを用いて、接触を判断し、座標位置を特定するものであっても良い。
また、電子黒板2は、電子ペンコントローラ216を備えている。この電子ペンコントローラ216は、電子ペン4と通信することで、ディスプレイ3へのペン先のタッチやペン尻のタッチの有無を判断する。なお、電子ペンコントローラ216が、電子ペン4のペン先およびペン尻だけでなく、電子ペン4のユーザが握る部分や、その他の電子ペンの部分のタッチの有無を判断するようにしてもよい。
さらに、電子黒板2は、音声を入力するマイク222と、音声を出力するスピーカ223と、CPU101の制御に従ってマイク222およびスピーカ223との間で音信号の入出力を処理する音入出力I/F224と、ユーザの操作を受け付ける操作ボタン225と、電子黒板2の電源のON/OFFを切り換えるための電源スイッチ226と、を備えている。
さらに、電子黒板2は、上記各構成要素間を相互に電気的に接続するためのアドレスバスやデータバス等のバスライン230を備えている。
なお、電子黒板用のプログラムは、CD−ROM等のコンピュータで読み取り可能な記録媒体や、ネットワーク上のサーバに記録して流通やダウンロードさせるようにしてもよい。
<管理システムのハードウェア構成>
図3を用いて、一実施形態に係る管理システムのハードウェア構成を説明する。なお、図3は、一実施形態に係る管理システムのハードウェア構成図である。
管理システム50は、管理システム50全体の動作を制御するCPU501と、伝送管理用プログラムを記憶したROM502と、CPU501のワークエリアとして使用されるRAM503と、各種データを記憶するHD(Hard Disk)504と、CPU501の制御に従ってHD504に対する各種データの読み出しおよび書き込みを制御するHDD505と、フラッシュメモリ等の記録メディア506に対するデータの読み出しおよび書き込み(記憶)を制御するメディアI/F507とを備えている。さらに、管理システム50は、カーソル、メニュー、ウィンドウ、文字、画像等の各種情報をディスプレイ516に表示させるためのディスプレイI/F508と、通信ネットワーク9を利用してデータ伝送をするためのネットワークI/F509と、文字、数値、各種指示等を入力するための複数のキーを備えたキーボード511と、各種指示の選択や実行、処理対象の選択、マウスカーソルなどのポインティングデバイスの移動等を行うマウス512とを備えている。さらに、管理システム50は、着脱可能な記録媒体の一例としてのCD−ROM(Compact Disc Read Only Memory)513に対するデータの読み出しおよび書き込みを制御するCD−ROMドライブ514と、外部の装置との間で情報を送受信するための外部装置I/F515と、上記各構成要素間を相互に電気的に接続するためのアドレスバスやデータバス等のバスライン510とを備えている。
また、上記伝送管理用プログラムは、インストール可能な形式または実行可能な形式のファイルで、上記記録メディア506やCD−ROM513等のコンピュータで読み取り可能な記録媒体に記録して流通させるようにしてもよい。上記伝送管理用プログラムはHD504に記憶されていてもよい。
<PCのハードウェア構成>
図4は、一実施形態に係るテレビ会議端末としてのPC8のハードウェア構成図である。PC8は、CPU801、ROM802、RAM803、フラッシュメモリ804、SSD805、メディアI/F807、電源スイッチ809、バスライン810、ネットワークI/F811、カメラ812、撮像素子I/F813、マイク814、スピーカ815、音入出力I/F816、ディスプレイI/F817、外部機器接続I/F818、キーボード821、及びマウス822を備えている。これらのうち、CPU801は、PC8全体の動作を制御する。ROM(Read Only Memory)802は、IPL(Initial Program Loader)等のCPU801の駆動に用いられるプログラムを記憶する。RAM(Random Access Memory)803は、CPU801のワークエリアとして使用される。フラッシュメモリ804は、通信用プログラム、表示データ、及び音データ等の各種データを記憶する。SSD(Solid State Drive)805は、CPU801の制御にしたがってフラッシュメモリ804に対する各種データの読み出し又は書き込みを制御する。なお、SSDに代えてHDDを用いてもよい。メディアI/F807は、フラッシュメモリ等の記録メディア806に対するデータの読み出し又は書き込み(記憶)を制御する。
また、ネットワークI/F(Interface)811は、通信ネットワーク9bを利用してデータ通信をするためのインターフェースである。カメラ812は、CPU801の制御に従って被写体を撮像して表示データを得る内蔵型の撮像手段の一種である。撮像素子I/F813は、カメラ812の駆動を制御する回路である。マイク814は、音声を入力する内蔵型の集音手段の一種である。音入出力I/F816は、CPU801の制御に従ってマイク814及びスピーカ815との間で音信号の入出力を処理する回路である。ディスプレイI/F817は、CPU801の制御に従って外付けのディスプレイ820に表示データを送信する回路である。外部機器接続I/F818は、各種の外部機器を接続するためのインターフェースである。キーボード821は、文字、数値、各種指示等を入力するための複数のキーを備えている。マウス822は、各種指示の選択や実行、処理対象の選択、マウスカーソルなどのポインティングデバイスの移動等を行う。
また、バスライン810は、CPU801等の図4に示されている各構成要素を電気的に接続するためのアドレスバスやデータバス等である。
ディスプレイ820は、被写体の画像や操作用アイコン等を表示する液晶や有機ELによって構成された表示手段の一種である。また、ディスプレイ820は、ケーブル820cによってディスプレイI/F817に接続される。このケーブル820cは、アナログRGB(VGA)信号用のケーブルであってもよいし、コンポーネントビデオ用のケーブルであってもよいし、HDMI(登録商標)(High-Definition Multimedia Interface)やDVI(Digital Video Interactive)信号用のケーブルであってもよい。
なお、カメラ812は、レンズや、光を電荷に変換して被写体の画像(映像)を電子化する固体撮像素子を含み、固体撮像素子として、CMOS(Complementary Metal Oxide Semiconductor)や、CCD(Charge Coupled Device)等が用いられる。外部機器接続I/F818には、USB(Universal Serial Bus)ケーブル等によって、外付けカメラ、外付けマイク、及び外付けスピーカ等の外部機器がそれぞれ接続可能である。外付けカメラが接続された場合には、CPU801の制御に従って、内蔵型のカメラ812に優先して、外付けカメラが駆動する。同じく、外付けマイクが接続された場合や、外付けスピーカが接続された場合には、CPU801の制御に従って、それぞれが内蔵型のマイク814や内蔵型のスピーカ815に優先して、外付けマイクや外付けスピーカが駆動する。
また、記録メディア806は、PC8に対して着脱自在な構成となっている。また、CPU801の制御にしたがってデータの読み出し又は書き込みを行う不揮発性メモリであれば、フラッシュメモリ804に限らず、EEPROM(Electrically Erasable and Programmable ROM)等を用いてもよい。
<ソフトウェア構成>
図5(a)は、一実施形態に係る電子黒板のソフトウェア構成図である。図5(a)に示されているように、OS(Operating System)2020、通信アプリケーションA11、及び通信アプリケーションB10は、RAM203の作業領域2010上で動作する。以後、アプリケーションは、「アプリ」と表す。
OS2020は、基本的な機能を提供し、電子黒板全体を管理する基本ソフトウェアである。通信アプリA11,B10は、他の端末と通信を行うためのアプリであり、それぞれ通信プロトコルが異なる。通信アプリA11は、ストロークデータを他の通信端末との間で送信するための通信制御機能と、ストロークデータを画像として出力するための画像処理機能を電子黒板2に実行させる。一方、通信アプリB10は、テレビ会議資料等の表示データを他の通信端末との間で送信するための通信制御機能を電子黒板2に実行させる。一方で、通信アプリB10は、表示データを出力するための画像処理機能を有していない。通信アプリB10は、例えば、表示データに係る通信制御機能及び画像処理機能を共に有する通信アプリB11から、ソフトウェア開発キットを用いて画像処理機能を除いたものであっても良い。
OS2020、及び、通信アプリA11は、工場出荷前から、電子黒板2にインストールされている。また、通信アプリB10は、工場出荷後に、任意に電子黒板2にインストール可能である。以下、電子黒板2cに通信アプリB10がインストールされており、電子黒板2a,abに通信アプリB10がインストールされていないものとして説明を続ける。
図5(b)は、一実施形態に係るPCのソフトウェア構成図である。図5(b)に示されているように、OS8020、通信アプリB11は、RAM803の作業領域8010上で動作する。
OS8020は、基本的な機能を提供し、PC8全体を管理する基本ソフトウェアである。通信アプリB11は、会議資料等の表示データを他の通信端末との間で送信するための通信制御機能と、表示データを画像として出力するための画像処理機能と、をPC8に実行させる。
また、OS8020、及び、通信アプリB11は、工場出荷前又は工場出荷後に、PC8にインストールされる。
<<実施形態の機能構成>>
次に、一実施形態に係る通信システムの機能構成について説明する。図6は、一実施形態に係る通信システムの一部を構成する電子黒板、及びPCの機能ブロック図である。図6では、電子黒板2a,2b,2cが、通信ネットワーク9aを介してデータ通信することができるように接続されている。また、図6では、電子黒板2c及びPC8が、通信ネットワーク9bを介してデータ通信することができるように接続されている。
電子黒板2は、図2に示されているハードウェア構成およびプログラムによって、図6に示されている各機能構成を実現する。また、電子黒板2は、SSD204により構築される記憶部2000を有している。PC8は、図4に示されているハードウェア構成およびプログラムによって、図6に示されている各機能構成を実現する。また、PC8は、SSD805により構築される記憶部8000を有している。
電子黒板2は、最初に遠隔共有処理を開始する「主催装置」となり得ると共に、既に開始されている遠隔共有処理に後から参加する「参加装置」にもなり得る。また、電子黒板2は、大きく分けて、クライアント部20およびサーバ部90の両方によって構成されている。クライアント部20およびサーバ部90は、電子黒板2の1台の筐体内で通信アプリA11が起動することで実現される機能である。なお、クライアント部20およびサーバ部90のうち、電子黒板2にクライアント部20を備え、サーバ部90を配信制御装置などの電子黒板2とは異なる装置とするようにしてもよい。
電子黒板2が主催装置となる場合には、この電子黒板2では、クライアント部20とサーバ部90が実現(実行)される。また、電子黒板2が参加装置となる場合には、この電子黒板2では、クライアント部20は実現(実行)されるが、サーバ部90は実現(実行)されない。即ち、電子黒板2aが主催装置で、電子黒板2b,2cが参加装置となる場合、電子黒板2aのクライアント部20は、同じ電子黒板2a内に実現されたサーバ部90を介して、他の電子黒板2b,2cのクライアント部20と通信を行う。一方、電子黒板2b,2cのクライアント部20は、他の電子黒板2a内に実現されたサーバ部90を介して、他の電子黒板2a,2b又は2cのクライアント部と通信を行う。
また、電子黒板2b及びPC8では、通信アプリB10,B11が起動することでクライアント部80が実現される。クライアント部80は、サーバとしての管理システム50の呼制御により確立される通信において、中継装置30を介して他の通信端末のクライアント部80と通信を行う。
〔クライアント部20の機能構成〕
クライアント部20は、通信制御部21及び描画制御部22を有する。
通信制御部21は、CPU201からの命令、或いはネットワークコントローラ205によって実現され、通信ネットワーク9aを介して、他の電子黒板2と行う通信や、サーバ部90における後述の通信制御部91と行う通信を制御する。
描画制御部22は、CPU201からの命令により実現され、ディスプレイ3上の操作により生成するストロークデータ、或いはUSBメモリ5、ノートPC6、通信制御部21、記憶部2000等から取得されるデータに基づいて画像処理を行う。また、描画制御部22は、処理されたデータに基づいて画像レイヤを生成し、これらが重畳された重畳画像を出力する制御を行う。
図7は、一実施形態に係る描画制御部を詳細に示した機能ブロック図である。描画制御部22は、ストローク処理部22A、取得部22B、変換部22X、重畳部22Y、及びページ処理部22Zを有している。
ストローク処理部22Aは、CPU201からの命令によって実現され、ディスプレイ3上の電子ペン4や手Hの操作によってストローク描画のイベントが発生すると、操作に応じたストロークデータを生成する処理を行う。
取得部22Bは、CPU201からの命令によって実現され、記憶部2000に記憶されたデータを取得する。
変換部22Xは、CPU201からの命令によって実現され、各種データを変換する処理を行う。この変換には、テキスト化、実データ(バイナリ)変換、シリアライズ、デシリアライズ、エンコード、デコード等が含まれていても良い。
重畳部22Yは、CPU201からの命令によって実現され、各データに基づいて各画像レイヤを生成し、これらを重畳する処理を行う。
ページ処理部22Zは、ストロークデータと表示データを1つのページデータにまとめて、記憶部2000の一部であるページデータ記憶部220に記憶する。
ページデータ記憶部220は、記憶部2000の一部に構築され、表1に示されているようなページデータを記憶する。表1は、ページデータを示す概念図である。ページデータは、ディスプレイ3に表示される1ページ分のデータ(ストローク配列データ(各ストロークデータ)及びメディアデータ)である。
Figure 0006471614
ページデータは、任意の1ページを識別するためのページデータID、このページの表示を開始した時刻を示す開始時刻、ストロークやジェスチャ等によるページの内容の書き換えが行われなくなった時刻を示す終了時刻、電子ペン4やユーザの手Hによるストロークによって生じたストローク配列データを識別するためのストローク配列データID、及びメディアデータを識別するためのメディアデータIDが関連付けて記憶されている。ストローク配列データは、ストローク画像がディスプレイ3上に表示されるためのデータである。メディアデータは、ストローク画像と重畳する他の画像がディスプレイ3上に表示されるためのデータである。
また、ストローク配列データは、表2に示されているように詳細な情報を示している。表2は、ストローク配列データを示す概念図である。表2に示されているように、1つのストローク配列データは、複数のストロークデータによって表される。そして、1つのストロークデータは、このストロークデータを識別するためのストロークデータID、1つのストロークの書き始めの時刻を示す開始時刻、1つのストロークの書き終わりの時刻を示す終了時刻、ストロークの色、ストロークの幅、及び、ストロークの通過点の配列を識別するための座標配列データIDを示している。例えば、ユーザが電子ペン4によってアルファベット「S」を描く場合は一筆書きとなるため、ストロークデータIDが1つで一文字のアルファベット[S]が示される。ところが、ユーザが電子ペン4によってアルファベット「T」を描く場合、二筆書きとなるため、ストロークデータIDが2つで一文字のアルファベット「T」が示されることになる。
Figure 0006471614
更に、この座標配列データは、表3に示されているように詳細な情報を示している。表3は、座標配列データを示す概念図である。座標配列データは、ディスプレイ3上の1点(X座標値、Y座標値)、この1点を通過したときのストロークの開始時刻からの差分の時刻(ms)、及び、この1点における電子ペン4の筆圧の各情報を示している。即ち、表3に示されている1点の集まりが、表2に示されている1つの座標配列データで示されている。例えば、ユーザが電子ペン4によってアルファベット「S」を描く場合、一筆書きとなるが、「S」を描き終えるまでに、複数の通過点を通過するため、座標配列データは、これら複数の通過点の情報を示している。
Figure 0006471614
また、表1に示されているページデータのうちのメディアデータは、表4に示されているように詳細な情報を示している。表4は、メディアデータを示す概念図である。図9に示されているように、メディアデータは、表1に示されているページデータにおけるメディアデータID、メディアデータのデータ種類、メディアデータが記憶された記録時刻、メディアデータによってディスプレイ3上に表示される画像の位置(X座標値、Y座標値)及び画像のサイズ(幅、高さ)、並びにメディアデータの内容を示すデータが関連付けられて示されている。このうち、メディアデータによってディスプレイ3上に表示される画像の位置は、ディスプレイ3の左上端の座標を(X座標値,Y座標値)=(0,0)とした場合に、メディアデータによって表示される画像の左上端の位置を示している。
Figure 0006471614
〔サーバ部90の機能構成〕
サーバ部90は、通信制御部91を有している。
通信制御部91は、CPU201からの命令により実現され、同じ電子黒板2内のクライアント部20における通信制御部21、および通信ネットワーク9aを介して他の電子黒板2内のクライアント部20における通信制御部21との間における通信を制御する。
〔クライアント部80の機能構成〕
クライアント部80の通信制御部81は、CPU201,801からの命令、或いはネットワークコントローラ205又はネットワークI/F811により実現され、他の通信端末のクライアント部80における通信制御部81との間の通信を制御する。
クライアント部80の表示制御部82は、通信アプリB11を起動することで、CPU801からの命令により実現される機能である。表示制御部82は、通信制御部21、記憶部8000等から取得されるデータに基づいて画像処理を行い、画像を出力する制御を行う。
<<実施の形態の処理又は動作>>
続いて、図8乃至図11を用いて、一実施形態に係る処理又は動作について説明する。なお、図8乃至図11は、電子黒板又はPCの処理を示したシーケンス図である。
(電子黒板間の通信確立処理)
図8を用いて、電子黒板2a,2b,2c間の通信アプリA11による通信を確立する処理について説明する。ユーザが電子黒板2aの電源スイッチ226をオンにすると、通信アプリA11が起動することで電子黒板2aのクライアント部20の処理が開始する(ステップS1)。そして、ディスプレイ3a上の操作により会議主催の要求が受け付けられると、クライアント部20の通信制御部21から同じ電子黒板2aのサーバ部90における通信制御部91に、サーバ部90の処理を開始させる指示を出力する。これにより、電子黒板2aでは、クライアント部20だけでなくサーバ部90も各種処理を開始可能となる(ステップS2)。
次に、電子黒板2aの通信制御部91が電子黒板2aとの接続を確立するための接続情報を生成し、クライアント部20が生成された接続情報をディスプレイ3aに表示させる(ステップS3)。この接続情報には、主催装置のIPアドレス、および今回の遠隔共有処理のために生成されたパスコードが含まれている。このパスコードは、記憶部2000に記憶される。そして、接続情報は、電子黒板2aのユーザによって、電話や電子メールにより、電子黒板2b,2cのユーザに伝えられる。
次に、電子黒板2b,2cでは、ユーザが電子黒板2b,2cの電源スイッチ226をオンにすると、通信アプリA11が起動することで電子黒板2b,2cのクライアント部20の処理が開始する(ステップS4,S5)。電子黒板2b,2cにおいて、ディスプレイ3b,3c上の操作によって接続情報の入力が受け付けられると、各電子黒板2b,2cのクライアント部20における通信制御部21が、接続情報のIPアドレスに基づき、通信ネットワーク9aを介して、電子黒板2aのサーバ部90における通信制御部91に対してパスコードを送信して参加要求を行う(ステップS6,S7)。電子黒板2aの通信制御部91は、各電子黒板2b,2cから、参加要求(パスコードを含む)を受信する。
次に、通信制御部91は、各電子黒板2b,2cから受信したパスコードに対し、記憶部2000で管理されているパスコードを用いて認証する(ステップS8)。そして、通信制御部91が、各電子黒板2b,2cのクライアント部20に認証結果を通知する(ステップS9,S10)。ステップS8の認証により、各電子黒板2b,2cが正当な電子黒板であると判断されていた場合には、主催装置である電子黒板2aと、参加装置である電子黒板2b,2cとの遠隔共有処理の通信が確立される(ステップS11,S12)。なお、本実施形態では、電子黒板2a,2b,2c間で送信されるコンテンツデータは、ストロークデータを含む場合について説明する。
(電子黒板とPCとの間の通信確立処理)
図9を用いて、電子黒板2c及びPC8間で通信アプリB10,B11による通信を確立する処理について説明する。
電子黒板2cのディスプレイ3c上の操作により、クライアント部20が通信アプリB10の起動要求を受け付けると、クライアント部80は各種処理を開始可能となる(ステップS21)。
続いて、クライアント部80の通信制御部81は、管理システム50に対し、ログイン要求を行う(ステップS22)。これにより、管理システム50は、ログイン要求を受信する。
管理システム50は、ログイン要求元の電子黒板2cを認証し(ステップS23)、ログイン要求元の電子黒板2cに対して、認証結果を送信する(ステップS24)。これにより、電子黒板2cの通信制御部81は、認証結果を受信する。以下、上記ステップS23により、正当なログイン要求元であると判断された場合について説明を続ける。
PC8において、キーボード821あるいはマウス822の操作に基づいて、通信アプリB11の起動要求が受け付けられると、通信アプリB11が起動して、PC8のクライアント部80の処理が開始可能となる(ステップS31)。
続いて、クライアント部80の通信制御部81は、管理システム50に対し、ログイン要求を行う(ステップS32)。これにより、管理システム50は、ログイン要求を受信する。
管理システム50は、ログイン要求元のPC8を認証し(ステップS33)、PC8に対して、認証結果を送信する(ステップS34)。以下、上記ステップS33により、正当なログイン要求元であると判断された場合について説明を続ける。
電子黒板2cの通信制御部81は、ディスプレイ3c上の操作に応じて、管理システム50に対し、通信の開始要求を行う(ステップS41)。この通信の開始要求には、通信の開始要求元の電子黒板2cの通信ID、および宛先のPC8の通信IDが含まれている。これにより、管理システム50は、通信の開始要求を受信する。なお、通信IDは通信先を特定するための情報であって、通信端末の識別情報や、通信端末のユーザのアカウントが含まれる。
次に、管理システム50は、宛先のPC8に対して、通信の開始要求を行う(ステップS42)。この通信の開始要求には、上記ステップS41によって送られて来た通信の開始要求元の電子黒板2cの通信IDおよび宛先のPC8の通信IDが含まれている。これにより、宛先のPC8は、通信の開始要求を受信する。
これに対して、PC8の通信制御部81は、ユーザによる操作入力に応じて、管理システム50に対し、応答可否を示す情報を送信する(ステップS43)。以下、PC8が、応答する旨を示す情報を管理システム50へ送信した場合について説明を続ける。
これにより、管理システム50は、応答する旨を示す情報を受信する。管理システム50は、開始要求元の電子黒板2cに対し、上記ステップS13によって宛先のPC8から送られて来た、応答する旨を示す情報を送信する(ステップS44)。これにより、電子黒板2cの通信制御部81は、応答する旨を示す情報を受信する。
続いて、管理システム50は、電子黒板2cとPC8との間で通信ネットワーク9bを介してコンテンツデータを送信するための通信を確立させる制御を行う(ステップS45)。通信を確立させる方法は、特に限定されないが、例えば、通信ネットワーク9bにコンテンツデータを中継する中継装置30が設けられている場合には、この中継装置に接続するための接続情報を、管理システム50が電子黒板2c及びPC8へ、送信する方法が挙げられる。また、管理システム50は、中継装置30へ、電子黒板2cとPC8との間でコンテンツデータの中継開始の要求を送信してもよい。上記の制御に基づいて、電子黒板2cとPC8との間の通信が確立される(ステップS46)。これにより、電子黒板2c及びPC8は、通信相手との間でコンテンツデータを送受信することができるようになる。なお、本実施形態では、電子黒板2c及びPC8の間で送信されるコンテンツデータは、会議資料の表示データ(映像データ又は静止画データ)を含む場合について説明する。
(重畳画像の表示)
続いて、図10を用いて、遠隔共有処理における重畳画像が表示される処理について説明する。
まず、電子黒板2bのユーザが電子ペン4bを用いて電子黒板2bにストローク画像を描画すると、ストローク処理部22Aは、電子ペン4bとディスプレイ3bとの接触部の座標位置に基づいて、描画されたストロークのストロークデータを生成する(ステップS61)。なお、生成されるストロークデータは上記の表1乃至表3に示されている各パラメータを含む。変換部22Xは、複数のストローク単位のストロークデータをまとめることでシリアライズ(直列化)する(ステップS62)。電子黒板2bの通信制御部21は、通信ネットワーク9aを介して、主催装置である電子黒板2aの通信制御部91にシリアライズされたストロークデータを送信する(ステップS63)。なお、電子黒板2bは、描画される度に、ストロークデータを主催装置である電子黒板2aに順次送信しても良い。
電子黒板2aの通信制御部91は、電子黒板2bから送られて来たストロークデータを受信すると、このストロークデータを電子黒板2aのクライアント部20へ送信する。送信されたストロークデータは電子黒板2aのクライアント部20の通信制御部21によって受信される。クライアント部20の描画制御部22における変換部22Xは、ストロークデータをデシリアライズ(並列化)する(ステップS64)。デシリアライズされたストロークデータは、ページ処理部22Zによってページデータ記憶部220に記憶される。続いて、重畳部22Yは、ページデータ記憶部220に記憶されているデータに基づいて、ストローク単位のデータを合成した合成後のストローク画像(B)のレイヤ、UI画像(A)のレイヤ、出力画像(C)のレイヤ、及び背景画像(D)のレイヤを生成する。そして、重畳部22Yは、生成した各レイヤを重畳して、重畳画像(A,B,C,D)をディスプレイ3a上に表示させる(ステップS65)。なお、ストローク画像(B)のレイヤは、上記処理によってデシリアライズされページデータ記憶部220に記憶されたストロークデータに基づいて生成される。出力画像(C)のレイヤは、ページデータ記憶部220に記憶されたメディアデータに基づいて生成される。UI画像(A)のレイヤ、背景画像(D)は、予め記憶部2000に記憶されているデータに基づいて生成される。図15(A)は、ステップS65におけるディスプレイの表示例を示す図である。
また、電子黒板2aの通信制御部91は、電子黒板2bから送られて来たシリアライズされているストロークデータを電子黒板2b,2cのクライアント部20へ送信する(ステップS66,S67)。送信されたストロークデータは電子黒板2b,2cのクライアント部20の通信制御部21によって受信される。電子黒板2b,2cのクライアント部20は、ディスプレイ3b,3cに、電子黒板2aから送られて来たストロークデータが含まれた重畳画像(A,B,C,D)を表示する。この処理は、電子黒板2aのクライアント部20におけるステップS64,S65の処理と同様であるので説明を省略する(ステップS68乃至S71)。なお、電子黒板2a,2cにおいてストローク画像を描画したときの処理は、電子黒板2bのクライアント部20が、電子黒板2a,2cのクライアント部20に置き換わる点を除きステップS61乃至S71の処理と同様であるので説明を省略する。
(出力画像の表示)
続いて、図11を用いて、遠隔共有処理における出力画像(C)が表示される処理について説明する。
PC8の表示制御部82は、ディスプレイ820に表示された会議資料の画面を取り込んで表示データを取得する(ステップS81)。PC8の通信制御部81は、取得された表示データを、中継装置30を介して、電子黒板2cのクライアント部80へ送信する(ステップS82)。PC8によって送信された表示データは、電子黒板2cの通信制御部81によって受信される。電子黒板2cの通信制御部81は、受信した表示データを記憶部2000に記憶する。
電子黒板2cのクライアント部20の取得部22Bは、記憶部2000に記憶されている表示データを取得する(ステップS83)。電子黒板2cのクライアント部20の変換部22Xは、取得部22Bによって取得された例えばPDFファイル等の表示データを、通信アプリA11によって送信可能な形式として、テキスト形式に変換する(ステップS84)。変換部22Xは、テキスト形式に変換された表示データをシリアライズする(ステップS85)。電子黒板2cの通信制御部21は、通信ネットワーク9aを介して、主催装置である電子黒板2aの通信制御部91にシリアライズされた表示データを送信する(ステップS86)。
電子黒板2aの通信制御部91は、電子黒板2cから送られて来た表示データを受信すると、この表示データを電子黒板2aのクライアント部20へ送信する。送信された表示データは電子黒板2aのクライアント部20の通信制御部21によって受信される。クライアント部20の描画制御部22における変換部22Xは、表示データをデシリアライズする(ステップS87)。更にデシリアライズされた表示データは変換部22Xによって実データ(バイナリ)に変換される。得られた実データは、ページ処理部22Zによってページデータ記憶部220にメディアデータとして記憶される(ステップS88)。続いて、重畳部22Yは、ページデータ記憶部220に記憶されているデータに基づいて、表示データに基づく出力画像(C)のレイヤ、ストローク画像(B)のレイヤ、UI画像(A)のレイヤ、及び背景画像(D)のレイヤを作成する。重畳部22Yは、作成したレイヤを重畳して、重畳画像(A,B,C,D)をディスプレイ3a上に表示させる(ステップS89)。なお、出力画像(C)のレイヤは、上記処理によって実データに変換され、ページデータ記憶部220に記憶されたメディアデータに基づいて生成される。重畳部22Yは、出力画像(C)のレイヤ上にストローク画像のレイヤ(B)を重畳することで、ストロークデータの出力を妨げることなく、表示データを出力することができる。図15(B)は、ステップS89におけるディスプレイの表示例を示す図である。
また、電子黒板2aの通信制御部91は、電子黒板2cから送られて来たシリアライズされた表示データを電子黒板2b,2cのクライアント部20へ送信する(ステップS90,S91)。送信された表示データは電子黒板2b,2cのクライアント部20の通信制御部21によって受信される。電子黒板2b,2cのクライアント部20は、ディスプレイ3b,3cに、電子黒板2aから送られて来た表示データが出力画像(B)として含まれた重畳画像(A,B,C,D)を表示する。この処理は、電子黒板2aのクライアント部20におけるステップS87乃至S89の処理と同様であるので説明を省略する(ステップS92乃至S97)
<<実施形態の変形例A>>
続いて実施形態の変形例Aについて上記の実施形態とは異なる点を説明する。変形例Aでは、PC8の表示制御部82は、マウス822の操作により描画されたストロークデータの表示を制御する機能を有する。
図12は、電子黒板又はPCの処理を示したシーケンス図である。PC8のユーザがマウス822を用いてストローク画像を描画すると、表示制御部82は、ストローク画像に対応するストロークデータを生成する(ステップS100)。このストロークデータは上記表1乃至表3の各パラメータを含んでいる。PC8の通信制御部81は、通信ネットワーク9bを介して、電子黒板2cのクライアント部80へストロークデータを送信する(ステップS101)。
送信されたストロークデータは、電子黒板2cのクライアント部80の通信制御部81によって受信される。ストロークデータが受信される度、受信されたストロークデータは、通信制御部81によって記憶部2000に記憶される。電子黒板2cのクライアント部20の取得部22Bは、記憶部2000に記憶されているストローク単位のストロークデータを取得する(ステップS102)。電子黒板2cのクライアント部20の変換部22Xは、取得部22Bによって取得された複数のストローク単位のストロークデータを通信制御部21によって送信可能な形式にシリアライズする(ステップS103)。電子黒板2cの通信制御部21は、通信ネットワーク9aを介して、主催装置である電子黒板2aの通信制御部91にシリアライズされたストローク画像のデータを送信する(ステップS104)。
電子黒板2aの通信制御部91は、電子黒板2cから送られて来たストロークデータを受信すると、電子黒板2a,2b,2cの各クライアント部20へストロークデータを配信することで、電子黒板2a,2b,2c間でストローク画像の共有を行う。この処理は、ステップS64乃至S71の処理と同様であるので詳細な説明を省略する(ステップS105乃至S112)。
<<実施形態の変形例B>>
続いて実施形態の変形例Bについて上記の実施形態とは異なる点を説明する。変形例Bでは、電子黒板2bで生成されたストロークデータをPC8に送信する処理について説明する。
図13は、電子黒板又はPCの処理を示したシーケンス図である。上記実施形態のステップS61乃至S71の処理により、電子黒板2bで生成されたストロークデータは、電子黒板2cへ配信される。そして、電子黒板2cへ配信されたストロークデータは、デシリアライズされた後、クライアント部20の通信制御部21によって記憶部2000に記憶される。
記憶部2000に記憶されたストロークデータは、クライアント部80の通信制御部81によって取得され、PC8のクライアント部80へ送信される(ステップS121)。このストロークデータは、PC8のクライアント部80の通信制御部81によって受信される。受信されたストロークデータは、PC8のクライアント部80の表示制御部82によってディスプレイ820上に表示される(ステップS122)。
<<実施形態の変形例C>>
続いて実施形態の変形例Cについて上記の実施形態とは異なる点を説明する。変形例Cでは、PC8と電子黒板2cとの間で送信される表示データが映像データである場合について説明する。
図14は、電子黒板又はPCの処理を示したシーケンス図である。PC8の通信制御部81は、カメラ812によって撮影された会議参加者の映像データをストリーミングデータとして、電子黒板2cのクライアント部80へ送信する(ステップS140)。映像データは、電子黒板2cの通信制御部81によって受信される。
電子黒板2cのクライアント部80の通信制御部81は受信された映像データを記憶部2000に記憶する。電子黒板2cのクライアント部80の取得部22Bは、記憶部2000に記憶された映像データを取得する(ステップS141)。電子黒板2cのクライアント部20の変換部22Xは、取得部22Bによって取得された映像データをレンダリングすることにより、静止画データとしての各フレームデータを生成する(ステップS142)。クライアント部の変換部22Xは、各フレームデータをテキスト化して(ステップS143)シリアライズ(ステップS144)する。クライアント部の通信制御部21は、シリアライズされた各フレームデータが生成される度、生成されたフレームデータを表示データとして電子黒板2aのサーバ部90へ送信する(ステップS145)。
送信された表示データは、電子黒板2aのサーバ部90の通信制御部91によって受信される。電子黒板2aのサーバ部90の通信制御部91は、電子黒板2cから表示データが送られて来る度、送られてきた表示データを電子黒板2a,2b,2cの各クライアント部20へ配信する。各電子黒板2a,2b,2cのクライアント部20では、電子黒板2aから表示データが配信される度、配信された表示データを重畳画像として表示する(ステップS146乃至S156)。この処理は、上記のステップS87乃至S97の処理と同様であるので詳細な説明を省略する。配信された表示データは映像の各フレームの静止画データであるので、表示データを連続的に表示することにより、電子黒板2a,2b,2cにおいて、PC8側の映像を再生することが可能となる。
なお、通信アプリA11により所定の形式の映像データを送信可能である場合には、電子黒板2cのクライアント部20は、PC8から送られてきた映像データを所定の形式にエンコードして、電子黒板2aのサーバ部90へ送信しても良い。電子黒板2aのサーバ部90は、電子黒板2cから送られてきた所定の形式にエンコードされた映像データを電子黒板2a,2b,2cのクライアント部20へ配信する。電子黒板2a,2b,2cのクライアント部20は、サーバ部90から送られてきた映像データをデコードして動画として再生しても良い。
<<実施形態の主な効果>>
上記実施形態の通信制御方法によると、電子黒板2c(通信端末の一例)のクライアント部20の通信制御部21(第1の通信制御手段の一例)は、電子黒板2aのサーバ部90(配信サーバの一例)を介した電子黒板2b(第1の通信端末の一例)との間の通信を制御する(第1の通信制御処理)。電子黒板2cのクライアント部80の通信制御部81(第2の通信制御手段の一例)は、PC8(第2の通信端末の一例)との間の通信を制御する(第2の通信制御処理)。電子黒板2cの取得部22B(取得手段の一例)は、通信制御部81による通信においてPC8との間で送信されるコンテンツデータを取得する(取得処理)。電子黒板2cの描画制御部22の重畳部22Y(表示制御手段の一例)は、電子黒板2aのサーバ部90によって配信されるコンテンツデータに基づく画像の表示を制御する(表示制御処理)。電子黒板2c(通信端末の一例)の通信制御部21(第1の通信制御手段の一例)は、取得部22Bによって取得されるコンテンツデータを電子黒板2aのサーバ部90へ送信する。上記実施形態では、クライアント部20によって通信端末間で送信されるコンテンツデータ、及びクライアント部80によって通信端末間で送信されるコンテンツデータの双方の表示をクライアント部20側で制御できるようになる。即ち、上記実施形態によると、通信端末間で画像を共有するためのアプリA11,B10を複数起動しているときに、一方のアプリA11により表示される画像が、他方のアプリB10による表示の制御に伴って視認し難くなることを防ぐことが可能になる。
電子黒板2aのサーバ部90によって配信されるコンテンツデータは、電子黒板2bによって送信されるストロークデータ(第1のコンテンツデータの一例)と、取得部22Bによって取得され、電子黒板2aのサーバ部90へ送信される表示データ(第2のコンテンツデータの一例)とを含んでいる。重畳部22Yは、ストロークデータ及び表示データを重畳して表示する制御を行う。これにより、ストロークデータと表示データを同時に視認することが可能となる。
上記実施形態の変形例Aによると、クライアント部20,80によって送信されるコンテンツデータは共にストロークデータであっても良い。これにより、クライアント部20とクライアント部80との間でストロークデータを直接送信できない場合でも、通信端末間でストロークデータを共有できるようになる。
上記実施形態によると、クライアント部20,80によって送信されるコンテンツデータは異なっており、変換部22X(変換手段の一例)は、クライアント部80により送信される表示データをテキスト化することにより、クライアント部20による通信において送信可能な形式に変換する。これにより、クライアント部20,80によって送信されるコンテンツデータは異なる場合でも、通信端末間でコンテンツデータを共有できるようになる。
上記実施形態の変形例Cによると、クライアント部80によって送信されるコンテンツデータは映像データである。この場合、変換部22Xは、クライアント部80によってPC8との間で送信される映像データを、クライアント部20による通信において送信可能な複数の静止画データにレンダリングすることで変換する。続いて、電子黒板2aのサーバ部90は、複数の静止画データを配信することで、配信先の電子黒板2では動画の再生が可能となる。
電子黒板2cの変換部22X(直列化手段の一例)は、電子黒板2aのサーバ部90へ送信するコンテンツデータをシリアライズ(直列化)する。また、電子黒板2cの変換部22X(並列化手段の一例)は、電子黒板2aのサーバ部90により配信されるコンテンツデータをデシリアライズ(並列化)する。これにより、サーバ側でコンテンツデータを直列化及び並列化する負荷を低減することができる。
電子黒板2cの通信制御部81は、電子黒板2aのサーバ部90によって配信されるコンテンツデータをPC8へ送信する。これにより、電子黒板2側のコンテンツデータをPC8で共有することが可能となる。
<<実施形態の補足>>
通信アプリA11,B10,B11は、インストール可能な形式又は実行可能な形式のファイルによって、コンピュータで読み取り可能な記録媒体に記録されて流通されるようにしてもよい。また、上記記録媒体の他の例として、CD−R(Compact Disc Recordable)、DVD(Digital Versatile Disk)、ブルーレイディスク等が挙げられる。また、上記記録媒体、あるいは、これらプログラムが記憶されたHD(Hard Disk)は、プログラム製品(Program Product)として、国内又は国外へ提供可能である。
また、上記実施形態における電子黒板2、PC8、中継装置30、及び管理システム50は、単一の装置によって構築されてもよいし、各部(機能又は手段)を分割して任意に割り当てられた複数の装置によって構築されていてもよい。
また、上記では、画像共有可能な装置の一例として電子黒板2及びPC8について説明したが、これに限るものではない。例えば、画像共有可能な装置として、上記の電子黒板2及びPC8の有する各機能を搭載可能な他の装置を用いることもできる。他の装置としては、例えば、テレビ会議端末、プロジェクター、デジタルサイネージ、テキスト共有装置、カーナビゲーション端末、ゲーム機、PDA(Personal Digital Assistant)、遠隔診断装置等が挙げられる。
1 通信システム
2 電子黒板
3 ディスプレイ
4 電子ペン
5 USBメモリ
6 ノートPC
8 PC
9a,9b 通信ネットワーク
20 クライアント部
21 通信制御部
22 描画制御部
22A ストローク処理部
22B 取得部
22X 変換部
22Y 重畳部
22Z ページ処理部
220 ページデータ記憶部
30 中継装置
50 管理システム
80 クライアント部
81 通信制御部
82 表示制御部
90 サーバ部
91 通信制御部
2000 記憶部
8000 記憶部
特開2015−70345号公報

Claims (13)

  1. 配信サーバを介した第1の通信端末との間の通信を制御する第1の通信制御手段と、
    第2の通信端末との間の通信を制御する第2の通信制御手段と、
    前記第2の通信制御手段による通信において前記第2の通信端末との間で送信されるコンテンツデータを取得する取得手段と、
    前記配信サーバによって配信されるコンテンツデータに基づく画像の表示を制御する表示制御手段と、を有しており、
    前記第1の通信制御手段は、前記取得手段によって取得される前記コンテンツデータを前記配信サーバへ送信し、
    前記配信サーバによって配信されるコンテンツデータは、前記第1の通信端末によって送信された第1のコンテンツデータと、前記取得手段によって取得され、前記配信サーバへ送信された第2のコンテンツデータとを含んでおり、
    前記表示制御手段は、前記第1のコンテンツデータのレイヤ及び前記第2のコンテンツデータのレイヤを重畳して表示する制御を行うことを特徴とする通信端末。
  2. 前記第1のコンテンツデータ及び前記第2のコンテンツデータは、ストロークデータであることを特徴とする請求項に記載の通信端末。
  3. 前記第1のコンテンツデータ、及び前記第2のコンテンツデータは異なるコンテンツデータであり、
    前記第2のコンテンツデータを、前記第1の通信制御手段による通信において送信可能な形式に変換する変換手段を有することを特徴とする請求項に記載の通信端末。
  4. 前記第2のコンテンツデータは映像データであり、
    前記第2の通信制御手段による通信において前記第2の通信端末との間で送信される映像データを、前記第1の通信制御手段による通信において送信可能な複数の静止画データに変換する変換手段を有することを特徴とする請求項に記載の通信端末。
  5. 前記配信サーバへ送信するコンテンツデータを直列化する直列化手段と、
    前記配信サーバにより配信されるコンテンツデータを並列化する並列化手段と、
    を有することを特徴とする請求項1乃至のいずれか一項に記載の通信端末。
  6. 前記第2の通信制御手段は、前記配信サーバによって配信される前記コンテンツデータを前記第2の通信端末へ送信することを特徴とする請求項1乃至のいずれか一項に記載の通信端末。
  7. 前記第1の通信制御手段を有し、第1のアプリケーションを実行する第1のクライアント手段と、
    前記第2の通信制御手段を有し、第2のアプリケーションを実行する第2のクライアント手段と、を有することを特徴とする請求項1乃至6のいずれか一項に記載の通信端末。
  8. 前記第1の通信制御手段は、第1の通信ネットワーク及び前記配信サーバを介して前記第1の通信端末と通信し、
    前記第2の通信制御手段は、第2の通信ネットワークを介して前記第2の通信端末と通信することを特徴とする請求項1乃至7のいずれか一項に記載の通信端末。
  9. 請求項1乃至のいずれか一項に記載の通信端末と、
    前記第1の通信端末と、
    前記第2の通信端末と、
    前記配信サーバと、
    を有することを特徴とする通信システム。
  10. 前記第1の通信端末は、前記第1の通信制御手段を有しており、
    前記第2の通信端末は、前記第2の通信制御手段を有している
    ことを特徴とする請求項に記載の通信システム。
  11. 通信端末に、
    配信サーバを介した第1の通信端末との間の通信を制御する第1の通信制御処理と、
    第2の通信端末との間の通信を制御する第2の通信制御処理と、
    前記第2の通信制御処理による通信において前記第2の通信端末との間で送信されるコンテンツデータを取得する取得処理と、
    前記配信サーバによって配信されるコンテンツデータに基づく画像の表示を制御する表示制御処理と、を実行させ、
    前記第1の通信制御処理において、前記取得処理によって取得される前記コンテンツデータを前記配信サーバへ送信し、
    前記配信サーバによって配信されるコンテンツデータは、前記第1の通信端末によって送信された第1のコンテンツデータと、前記取得処理において取得され、前記配信サーバへ送信された第2のコンテンツデータとを含んでおり、
    前記表示制御処理では、前記第1のコンテンツデータのレイヤ及び前記第2のコンテンツデータのレイヤを重畳して表示する制御を行うことを特徴とする通信制御方法。
  12. 通信端末に、
    配信サーバを介した第1の通信端末との間の通信を制御する第1の通信制御処理と、
    第2の通信端末との間の通信を制御する第2の通信制御処理と、
    前記第2の通信制御処理による通信において前記第2の通信端末との間で送信されるコンテンツデータを取得する取得処理と、
    前記配信サーバによって配信されるコンテンツデータに基づく画像の表示を制御する表示制御処理と、を実行させ、
    前記第1の通信制御処理において、前記取得処理によって取得される前記コンテンツデータを前記配信サーバへ送信し、
    前記配信サーバによって配信されるコンテンツデータは、前記第1の通信端末によって送信された第1のコンテンツデータと、前記取得処理において取得され、前記配信サーバへ送信された第2のコンテンツデータとを含んでおり、
    前記表示制御処理では、前記第1のコンテンツデータのレイヤ及び前記第2のコンテンツデータのレイヤを重畳して表示する制御を行うことを特徴とするプログラム。
  13. 通信端末に、
    配信サーバを介した第1の通信端末との間の通信を制御する第1の通信制御処理と、
    第2の通信制御処理による通信において第2の通信端末との間で送信されるコンテンツデータを取得する取得処理と、
    前記配信サーバによって配信されるコンテンツデータに基づく画像の表示を制御する表示制御処理と、を実行させ、
    前記第1の通信制御処理において、前記取得処理によって取得される前記コンテンツデータを前記配信サーバへ送信し、
    前記配信サーバによって配信されるコンテンツデータは、前記第1の通信端末によって送信された第1のコンテンツデータと、前記取得処理において取得され、前記配信サーバへ送信された第2のコンテンツデータとを含んでおり、
    前記表示制御処理では、前記第1のコンテンツデータのレイヤ及び前記第2のコンテンツデータのレイヤを重畳して表示する制御を行うことを特徴とするプログラム。
JP2015109871A 2015-05-29 2015-05-29 通信端末、通信システム、通信制御方法、及びプログラム Active JP6471614B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2015109871A JP6471614B2 (ja) 2015-05-29 2015-05-29 通信端末、通信システム、通信制御方法、及びプログラム
PCT/JP2016/002433 WO2016194324A1 (en) 2015-05-29 2016-05-18 Communication terminal, communication system, communication control method and program
US15/565,569 US10637895B2 (en) 2015-05-29 2016-05-18 Communication terminal, communication system, communication control method and program
EP16802767.0A EP3304323B1 (en) 2015-05-29 2016-05-18 Communication terminal, communication control method and recording medium for sharing and displaying stroke data
CN201680029117.XA CN107615256A (zh) 2015-05-29 2016-05-18 通信终端、通信系统、通信控制方法以及程序

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015109871A JP6471614B2 (ja) 2015-05-29 2015-05-29 通信端末、通信システム、通信制御方法、及びプログラム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2019010179A Division JP6773145B2 (ja) 2019-01-24 2019-01-24 電子黒板、通信システム、通信制御方法、及びプログラム

Publications (2)

Publication Number Publication Date
JP2016224665A JP2016224665A (ja) 2016-12-28
JP6471614B2 true JP6471614B2 (ja) 2019-02-20

Family

ID=57440754

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015109871A Active JP6471614B2 (ja) 2015-05-29 2015-05-29 通信端末、通信システム、通信制御方法、及びプログラム

Country Status (5)

Country Link
US (1) US10637895B2 (ja)
EP (1) EP3304323B1 (ja)
JP (1) JP6471614B2 (ja)
CN (1) CN107615256A (ja)
WO (1) WO2016194324A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019079566A (ja) * 2019-01-24 2019-05-23 株式会社リコー 通信端末、通信システム、通信制御方法、及びプログラム

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6681517B2 (ja) 2016-09-27 2020-04-15 メルク・シャープ・アンド・ドーム・コーポレーションMerck Sharp & Dohme Corp. mGluR2陰性アロステリック調節剤としてのクロマン、イソクロマン及びジヒドロイソベンゾフラン誘導体、組成物、及びそれらの使用
CN106790714A (zh) * 2017-03-10 2017-05-31 北京物联港科技发展有限公司 一种显示终端分享发布系统及方法
JP6862952B2 (ja) * 2017-03-16 2021-04-21 株式会社リコー 情報処理システム、情報処理装置、情報処理プログラム及び情報処理方法
US10915777B2 (en) 2017-09-11 2021-02-09 Ricoh Company, Ltd. Communication terminal, communication system, and image processing method
JP2020127095A (ja) * 2019-02-01 2020-08-20 株式会社リコー 情報処理システム、電子黒板、及びプログラム
JP2022029341A (ja) * 2020-08-04 2022-02-17 株式会社リコー 通信システム、通信端末、通信方法、及びプログラム

Family Cites Families (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20030040921A1 (en) * 2001-08-22 2003-02-27 Hughes Larry James Method and system of online data collection
JP2003085084A (ja) * 2001-09-12 2003-03-20 Sony Corp コンテンツ配信システム及びコンテンツ配信方法、携帯端末、配信サーバ、並びに記憶媒体
JP2004112050A (ja) * 2002-09-13 2004-04-08 Pioneer Electronic Corp 通信端末装置、その接続制御方法、そのプログラム
JP4247044B2 (ja) * 2003-05-23 2009-04-02 株式会社東芝 コンテンツ配信サービス提供装置及びコンテンツ配信サービス端末装置
JP4351904B2 (ja) * 2003-12-25 2009-10-28 株式会社東芝 放送受信装置
US20140240526A1 (en) * 2004-12-13 2014-08-28 Kuo-Ching Chiang Method For Sharing By Wireless Non-Volatile Memory
JP4995590B2 (ja) * 2007-02-14 2012-08-08 株式会社エヌ・ティ・ティ・ドコモ コンテンツ流通管理装置、通信端末、プログラム及びコンテンツ流通システム
US20100023395A1 (en) * 2008-07-23 2010-01-28 Michael Bugenhagen System and method for sharing revenue between a content provider and communications service provider for the content provider's use of a content storefront provided by the communications service provider
TW201027373A (en) * 2009-01-09 2010-07-16 Chung Hsin Elec & Mach Mfg Digital lifetime record and display system
US8713215B2 (en) * 2009-05-29 2014-04-29 Z Microsystems, Inc. Systems and methods for image stream processing
JP5573117B2 (ja) * 2009-11-17 2014-08-20 ソニー株式会社 表示制御システム、表示制御装置、および表示制御方法
US20120265992A1 (en) * 2010-02-26 2012-10-18 Nec Europe Ltd. Method for processing a soap message within a network and a network
DE102011083353A1 (de) * 2011-09-23 2013-03-28 Carl Zeiss Ag Abbildungsvorrichtung und Abbildungsverfahren
TWI499309B (zh) * 2012-03-28 2015-09-01 Albert Chang 影像控制系統及其方法
JP6097679B2 (ja) * 2013-02-28 2017-03-15 エルジー アプラス コーポレーション 端末間機能共有方法及びその端末
CN104252325A (zh) * 2013-06-26 2014-12-31 富泰华工业(深圳)有限公司 屏幕共享系统及方法
JP2015012512A (ja) * 2013-06-28 2015-01-19 株式会社東芝 情報処理装置および情報処理方法
JP2015011578A (ja) * 2013-06-28 2015-01-19 株式会社東芝 情報処理装置および表示制御方法
JP6020397B2 (ja) * 2013-09-12 2016-11-02 株式会社リコー 画像処理装置および画像処理システム
JP6143100B2 (ja) * 2013-09-27 2017-06-07 株式会社リコー 画像処理装置及び画像処理システム
WO2015098841A1 (ja) 2013-12-25 2015-07-02 株式会社リコー 情報処理装置、プログラム、及び伝送システム
US20150271467A1 (en) * 2014-03-20 2015-09-24 Neal Weinstock Capture of three-dimensional images using a single-view camera
JP2016143236A (ja) 2015-02-02 2016-08-08 株式会社リコー 配信制御装置、配信制御方法、及びプログラム

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019079566A (ja) * 2019-01-24 2019-05-23 株式会社リコー 通信端末、通信システム、通信制御方法、及びプログラム

Also Published As

Publication number Publication date
JP2016224665A (ja) 2016-12-28
EP3304323B1 (en) 2023-05-10
CN107615256A (zh) 2018-01-19
US10637895B2 (en) 2020-04-28
US20180124137A1 (en) 2018-05-03
EP3304323A4 (en) 2018-05-30
EP3304323A1 (en) 2018-04-11
WO2016194324A1 (en) 2016-12-08

Similar Documents

Publication Publication Date Title
JP6471614B2 (ja) 通信端末、通信システム、通信制御方法、及びプログラム
JP6798288B2 (ja) 通信端末、通信システム、映像出力方法、及びプログラム
JP7255728B2 (ja) 通信端末、通信システム、送信方法、及びプログラム
JP6720513B2 (ja) 通信端末、通信システム、通信制御方法、及びプログラム
US10628117B2 (en) Communication terminal, communication system, display control method, and recording medium
JP6540367B2 (ja) 表示制御装置、通信端末、通信システム、表示制御方法、及びプログラム
US10511700B2 (en) Communication terminal with first application displaying status of second application
JP6020397B2 (ja) 画像処理装置および画像処理システム
JP2019159261A (ja) 電子黒板、映像表示方法、プログラム
JP7310546B2 (ja) 表示装置、表示方法、プログラム、画像処理システム
JP6773145B2 (ja) 電子黒板、通信システム、通信制御方法、及びプログラム
JP6911595B2 (ja) 通信端末、通信システム、出力方法、及びプログラム
JP2018060513A (ja) 通信端末、通信システム、送信方法、及びプログラム
US10356361B2 (en) Communication terminal, communication system, and display method
JP6776905B2 (ja) 通信端末、通信システム、表示制御方法、及びプログラム
JP2017153062A (ja) 通信端末、通信システム、出力方法、及びプログラム
JP2021086576A (ja) 表示装置、表示方法

Legal Events

Date Code Title Description
RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20180209

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180226

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20181016

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20181217

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20181225

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190107

R151 Written notification of patent or utility model registration

Ref document number: 6471614

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151