JP6720513B2 - 通信端末、通信システム、通信制御方法、及びプログラム - Google Patents

通信端末、通信システム、通信制御方法、及びプログラム Download PDF

Info

Publication number
JP6720513B2
JP6720513B2 JP2015234557A JP2015234557A JP6720513B2 JP 6720513 B2 JP6720513 B2 JP 6720513B2 JP 2015234557 A JP2015234557 A JP 2015234557A JP 2015234557 A JP2015234557 A JP 2015234557A JP 6720513 B2 JP6720513 B2 JP 6720513B2
Authority
JP
Japan
Prior art keywords
image
communication
layer
communication terminal
data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2015234557A
Other languages
English (en)
Other versions
JP2017102635A (ja
Inventor
周平 坪根
周平 坪根
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2015234557A priority Critical patent/JP6720513B2/ja
Priority to EP16201404.7A priority patent/EP3177008A1/en
Priority to US15/366,094 priority patent/US9959084B2/en
Publication of JP2017102635A publication Critical patent/JP2017102635A/ja
Application granted granted Critical
Publication of JP6720513B2 publication Critical patent/JP6720513B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • G06F3/1454Digital output to display device ; Cooperation and interconnection of the display device with other functional units involving copying of the display data of a local workstation or window to a remote workstation or window so that an actual copy of the data is displayed simultaneously on two or more displays, e.g. teledisplay
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/10Office automation; Time management
    • G06Q10/101Collaborative creation, e.g. joint development of products or services
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/20Drawing from basic elements, e.g. lines or circles
    • G06T11/203Drawing of straight lines or curves
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/60Editing figures and text; Combining figures or text
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L12/00Data switching networks
    • H04L12/02Details
    • H04L12/16Arrangements for providing special services to substations
    • H04L12/18Arrangements for providing special services to substations for broadcast or conference, e.g. multicast
    • H04L12/1813Arrangements for providing special services to substations for broadcast or conference, e.g. multicast for computer conferences, e.g. chat rooms
    • H04L12/1827Network arrangements for conference optimisation or adaptation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L51/00User-to-user messaging in packet-switching networks, transmitted according to store-and-forward or real-time protocols, e.g. e-mail
    • H04L51/07User-to-user messaging in packet-switching networks, transmitted according to store-and-forward or real-time protocols, e.g. e-mail characterised by the inclusion of specific contents
    • H04L51/10Multimedia information
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/14Systems for two-way working
    • H04N7/15Conference systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/14Systems for two-way working
    • H04N7/15Conference systems
    • H04N7/155Conference systems involving storage of or access to video conference sessions
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00Indexing scheme for image data processing or generation, in general
    • G06T2200/24Indexing scheme for image data processing or generation, in general involving graphical user interfaces [GUIs]

Description

本発明は、通信端末、通信システム、通信制御方法、及びプログラムに関する。
近年、当事者の移動の経費や時間を削減する要請等に伴い、インターネットや専用線等の通信ネットワークを介して通話や会議等を行う通信システムが普及している。このような通信システムでは、通信端末の有する機能に応じて、会議参加者や会議資料等の表示データや手書操作に基づくストロークデータ等のコンテンツデータを通信端末間で共有することができる。
また、通信ネットワークに接続する電子黒板のうちサーバ機を介して、クライアント機間でストロークデータを共有する方法が開示されている(特許文献1参照)。
ところで、通信端末は、相手側の通信端末との間の通信を確立して、例えば、手書操作に基づいて描画されるストロークのストロークデータや、テレビ会議用の映像データ等の複数のコンテンツデータを送信することもできる。しかしながら、相手側の通信端末が、例えば、ストロークデータ等により画像の変更を管理する機能を有していない場合には、相手側の通信端末へストロークデータ等を送信しても、通信端末間で同じ画像を共有することができないという課題が生じる。
請求項1に係る発明の通信端末は、第1の通信アプリケーションおよび第2の通信アプリケーションがインストールされ、前記第1の通信アプリケーションによって、画像の変更を管理する第1の通信端末との間で通信を確立し、前記第2の通信アプリケーションによって、第3の通信アプリケーションがインストールされたコンピュータとの間で通信を確立する通信端末であって、前記画像を変更するための操作入力に応じて、描画されたストロークを示すストロークデータを管理する管理手段と、前記ストロークデータを前記第1の通信端末へ送信する第1の送信手段と、前記第1の通信端末からストロークデータを受信する受信手段と、前記受信手段が受信した前記ストロークデータに基づいて、前記コンピュータが出力可能な映像データを前記コンピュータへ送信する第2の送信手段と、を有することを特徴とする。
以上説明したように本発明によれば、相手側の通信端末が、画像の変更を管理する機能を有していない場合でも、通信端末間で同じ画像を共有することが可能になるという効果を奏する。
図1は、一実施形態に係る通信システムの全体構成図である。 図2は、一実施形態に係る電子黒板のハードウェア構成図である。 図3は、一実施形態に係る管理システムのハードウェア構成図である。 図4は、一実施形態に係るテレビ会議端末としてのPCのハードウェア構成図である。 図5(a)は、一実施形態に係る電子黒板のソフトウェア構成図である。 図5(b)は、一実施形態に係るPCのソフトウェア構成図である。 図6は、一実施形態に係る通信システムの一部を構成する電子黒板、PC、及び管理システムの機能ブロック図である。 図7は、一実施形態に係る描画制御部を詳細に示した機能ブロック図である。 図8は、電子黒板又はPCの処理を示したシーケンス図である。 図9は、電子黒板又はPCの処理を示したシーケンス図である。 図10は、電子黒板又はPCの処理を示したシーケンス図である。 図11は、電子黒板又はPCの処理を示したシーケンス図である。 図12は、電子黒板又はPCの処理を示したシーケンス図である。 図13は、ディスプレイの表示例を示す図である。
以下、図面を用いて、本発明の一実施形態について説明する。
<<通信システムの全体構成>>
まず、図1を用いて、通信システム1について説明する。図1は、一実施形態に係る通信システムの全体構成図である。
通信システム1は、複数の電子黒板2a,2b,2c、PC8、中継装置30、及び管理システム50を有する。
電子黒板2a,2b,2cは、通信ネットワーク9aを介して通信可能に接続されている。また、電子黒板2a,2b,2cには、それぞれディスプレイ3a,3b,3cが設けられている。
電子黒板2a,2b,2cは、電子ペン4a,4b,4cによって生じたイベント(ディスプレイ3a,3b,3cへの電子ペン4a,4b,4cのペン先、又は、ペン尻のタッチ)により描画された画像を、ディスプレイ3a,3b,3cに表示させることができる。なお、電子黒板2a,2b,2cは、電子ペン4a,4b,4cだけでなく、ユーザの手Ha,Hb,Hc等によって生じたイベント(拡大、縮小、ページめくり等のジェスチャ)に基づいて、ディスプレイ3a,3b,3c上に表示されている画像を変更させることもできる。以下、電子黒板2a,2b,2cのうち任意の電子黒板を示す場合には、電子黒板2と表す。また、ディスプレイ3a,3b,3cのうち任意のディスプレイを示す場合には、ディスプレイ3と表す。また、電子ペン4a,4b,4cのうち任意の電子ペンを示す場合には電子ペン4と示す。また、ユーザの手Ha,Hb,Hcのうち任意の手を示す場合には手Hと示す。
また、電子黒板2a,2b,2cには、USB(Universal Serial Bus)メモリ5a,5b,5cが接続可能である。電子黒板2a,2b,2cはUSBメモリ5a,5b,5cからPDF(Portable Document Format)等の電子ファイルを読み出したり、USBメモリ5a,5b,5cに電子ファイルを記録したりすることができる。また、電子黒板2aには、DisplayPort、DVI(Digital Visual Interface)、HDMI(登録商標)(High-Definition Multimedia Interface)およびVGA(Video Graphics Array)等の規格による通信が可能なケーブルを介して、ノートPC6a,6b,6cが接続されている。なお、USBメモリ5a,5b,5cのうち任意のUSBメモリを示す場合にはUSBメモリ5と示す。ノートPC6a,6b,6cのうち任意のノートPCを示す場合にはノートPC6と示す。
これにより、一の拠点で電子黒板2のディスプレイ3上に描画されたストロークのストロークデータは、通信ネットワーク9aを介して他の拠点で電子黒板2へ送信されることで、他の拠点のディスプレイ3上にも表示される。逆に他の拠点で電子黒板2のディスプレイ3上に描画されたストロークのストロークデータは、通信ネットワーク9aを介して一の拠点の電子黒板2へ送信されることで、一の拠点の電子黒板2のディスプレイ3上に表示される。このように、通信システム1では、遠隔地において同じ画像を共有する遠隔共有処理を行うことができるため、遠隔地での会議等に用いると、非常に便利である。
なお、上記の電子黒板2に加えて、電子黒板以外の他の通信端末が通信ネットワーク9aに接続することで、電子黒板2との間でストロークデータを共有することもできる。他の通信端末としては、ストローク共有機能を有するPC、テレビ会議端末、タブレット、スマートフォン、電子看板(デジタルサイネージ)、スポーツや天気予報等で利用されるテレストレータ、又は、遠隔画像(映像)診断装置等の画像処理装置、携帯情報端末、デジタルビデオカメラ、デジタルカメラ、ゲーム機等の画像フレームを供給可能な端末等のコンピュータが含まれる。
電子黒板2c、PC(Personal computer)8、管理システム50は、通信ネットワーク9bを介して通信可能に接続されている。
電子黒板2c及びPC8は、コンテンツデータの一例としてテレビ会議用の映像データの送受信による通信を行なう。なお、映像データは、動画データであっても静止画データの集合であってもよい。
管理システム50は、電子黒板2c及びPC8の通信状況等を一元的に管理する。
なお、電子黒板2c及びPC8以外の他の通信端末が通信ネットワーク9bに接続することで、他の通信端末と電子黒板2c、PC8との間で映像データを共有することもできる。他の通信端末としては、映像共有機能を有するテレビ会議端末、タブレット、スマートフォン、電子看板(デジタルサイネージ)、テレストレータ、又は、画像処理装置、携帯情報端末、デジタルビデオカメラ、デジタルカメラ、ゲーム機等の画像フレームを供給可能な端末等のコンピュータが含まれる。
なお、電子黒板2cは、ストロークデータを共有するためのモジュール、及び映像データを共有するためのモジュールの双方を起動することで、通信端末間でストロークデータ及び映像データの両方を同時に共有することができる。
一実施形態によると、通信ネットワーク9aはイントラネットであり、通信ネットワーク9bはインターネットである。ただし、通信ネットワーク9a,9bは、各通信端末のプロトコルに応じて、インターネット、LAN(Local Area Network)、イントラネット、又は携帯電話網等の任意の通信ネットワークから選択される。また、通信ネットワーク9a,9bは、共にインターネットである場合のように同じ通信ネットワークであっても良い。
また、一実施形態では、記録媒体の一例として、USBメモリを説明するが、これに限るものではなく、記録媒体の他の例として、SDカード等の各種記録メディアであってもよい。
<電子黒板のハードウェア構成>
図2を用いて、一実施形態に係る電子黒板のハードウェア構成を説明する。なお、図2は、一実施形態に係る電子黒板のハードウェア構成図である。
図2に示されているように、電子黒板2は、電子黒板2全体の動作を制御するCPU(Central Processing Unit)201、IPL等のCPU201の駆動に用いられるプログラムを記憶したROM202、CPU201のワークエリアとして使用されるRAM203、電子黒板用のプログラム等の各種データを記憶するSSD204、通信ネットワーク9との通信を制御するネットワークコントローラ205、および、USBメモリ5との通信を制御する外部記憶コントローラ206を備えている。さらに、電子黒板2は、CPU201の制御に従って被写体を撮像するカメラ207と、このカメラ207の駆動を制御する撮像素子I/F208と、ノートPC6のディスプレイに対して映像情報を静止画または動画として表示させるキャプチャデバイス211、グラフィクスを専門に扱うGPU(Graphics Processing Unit)212、および、GPUからの出力画像をディスプレイ3へ出力するために画面表示の制御および管理を行うディスプレイコントローラ213を備えている。さらに、電子黒板2は、接触センサ215の処理を制御するセンサコントローラ214、ディスプレイ3上に電子ペン4やユーザの手H等が接触したことを検知する接触センサ215を備えている。一実施形態における、接触センサ215は、赤外線遮断方式による座標の入力および座標の検出を行う。この座標の入力および座標を検出する方法は、ディスプレイ3の上側両端部に設置された2つ受発光装置が、ディスプレイ3に平行して複数の赤外線を放射し、ディスプレイ3の周囲に設けられた反射部材によって反射されて、受光素子が放射した光の光路と同一の光路上を戻って来る光を受光する方法である。接触センサ215は、物体によって遮断された2つの受発光装置が放射した赤外線のID(Identification)をセンサコントローラ214に出力し、センサコントローラ214が、物体の接触位置である座標位置を特定する。なお、以下に示す全ての各IDは、識別情報の一例である。
また、接触センサ215としては、赤外線遮断方式に限らず、静電容量の変化を検知することにより接触位置を特定する静電容量方式のタッチパネル、対向する2の抵抗膜の電圧変化によって接触位置を特定する抵抗膜方式のタッチパネル、接触物体が表示部に接触することによって生じる電磁誘導を検知して接触位置を特定する電磁誘導方式のタッチパネルなどの種々の検出手段を用いてもよい。また、接触センサ215は、カメラを用いて、接触を判断し、座標位置を特定するものであっても良い。
また、電子黒板2は、電子ペンコントローラ216を備えている。この電子ペンコントローラ216は、電子ペン4と通信することで、ディスプレイ3へのペン先のタッチやペン尻のタッチの有無を判断する。なお、電子ペンコントローラ216が、電子ペン4のペン先およびペン尻だけでなく、電子ペン4のユーザが握る部分や、その他の電子ペンの部分のタッチの有無を判断するようにしてもよい。
さらに、電子黒板2は、音声を入力するマイク222と、音声を出力するスピーカ223と、CPU101の制御に従ってマイク222およびスピーカ223との間で音信号の入出力を処理する音入出力I/F224と、ユーザの操作を受け付ける操作ボタン225と、電子黒板2の電源のON/OFFを切り換えるための電源スイッチ226と、を備えている。
さらに、電子黒板2は、上記各構成要素間を相互に電気的に接続するためのアドレスバスやデータバス等のバスライン230を備えている。
なお、電子黒板用のプログラムは、CD−ROM等のコンピュータで読み取り可能な記録媒体や、ネットワーク上のサーバに記録して流通やダウンロードさせるようにしてもよい。
<管理システムのハードウェア構成>
図3を用いて、一実施形態に係る管理システムのハードウェア構成を説明する。なお、図3は、一実施形態に係る管理システムのハードウェア構成図である。
管理システム50は、管理システム50全体の動作を制御するCPU501と、伝送管理用プログラムを記憶したROM502と、CPU501のワークエリアとして使用されるRAM503と、各種データを記憶するHD(Hard Disk)504と、CPU501の制御に従ってHD504に対する各種データの読み出しおよび書き込みを制御するHDD505と、フラッシュメモリ等の記録メディア506に対するデータの読み出しおよび書き込み(記憶)を制御するメディアI/F507とを備えている。さらに、管理システム50は、カーソル、メニュー、ウィンドウ、文字、画像等の各種情報をディスプレイ516に表示させるためのディスプレイI/F508と、通信ネットワーク9を利用してデータ伝送をするためのネットワークI/F509と、文字、数値、各種指示等を入力するための複数のキーを備えたキーボード511と、各種指示の選択や実行、処理対象の選択、マウスカーソルなどのポインティングデバイスの移動等を行うマウス512とを備えている。さらに、管理システム50は、着脱可能な記録媒体の一例としてのCD−ROM(Compact Disc Read Only Memory)513に対するデータの読み出しおよび書き込みを制御するCD−ROMドライブ514と、外部の装置との間で情報を送受信するための外部装置I/F515と、上記各構成要素間を相互に電気的に接続するためのアドレスバスやデータバス等のバスライン510とを備えている。
また、上記伝送管理用プログラムは、インストール可能な形式または実行可能な形式のファイルで、上記記録メディア506やCD−ROM513等のコンピュータで読み取り可能な記録媒体に記録して流通させるようにしてもよい。上記伝送管理用プログラムはHD504に記憶されていてもよい。
<PCのハードウェア構成>
図4は、一実施形態に係るテレビ会議端末としてのPC8のハードウェア構成図である。PC8は、CPU801、ROM802、RAM803、フラッシュメモリ804、SSD805、メディアI/F807、電源スイッチ809、バスライン810、ネットワークI/F811、カメラ812、撮像素子I/F813、マイク814、スピーカ815、音入出力I/F816、ディスプレイI/F817、外部機器接続I/F818、キーボード821、及びマウス822を備えている。これらのうち、CPU801は、PC8全体の動作を制御する。ROM(Read Only Memory)802は、IPL(Initial Program Loader)等のCPU801の駆動に用いられるプログラムを記憶する。RAM(Random Access Memory)803は、CPU801のワークエリアとして使用される。フラッシュメモリ804は、通信用プログラム、表示データ、及び音データ等の各種データを記憶する。SSD(Solid State Drive)805は、CPU801の制御にしたがってフラッシュメモリ804に対する各種データの読み出し又は書き込みを制御する。なお、SSDに代えてHDDを用いてもよい。メディアI/F807は、フラッシュメモリ等の記録メディア806に対するデータの読み出し又は書き込み(記憶)を制御する。
また、ネットワークI/F(Interface)811は、通信ネットワーク9bを利用してデータ通信をするためのインターフェースである。カメラ812は、CPU801の制御に従って被写体を撮像して表示データを得る内蔵型の撮像手段の一種である。撮像素子I/F813は、カメラ812の駆動を制御する回路である。マイク814は、音声を入力する内蔵型の集音手段の一種である。音入出力I/F816は、CPU801の制御に従ってマイク814及びスピーカ815との間で音信号の入出力を処理する回路である。ディスプレイI/F817は、CPU801の制御に従って外付けのディスプレイ820に表示データを送信する回路である。外部機器接続I/F818は、各種の外部機器を接続するためのインターフェースである。キーボード821は、文字、数値、各種指示等を入力するための複数のキーを備えている。マウス822は、各種指示の選択や実行、処理対象の選択、マウスカーソルなどのポインティングデバイスの移動等を行う。
また、バスライン810は、CPU801等の図4に示されている各構成要素を電気的に接続するためのアドレスバスやデータバス等である。
ディスプレイ820は、被写体の画像や操作用アイコン等を表示する液晶や有機ELによって構成された表示手段の一種である。また、ディスプレイ820は、ケーブル820cによってディスプレイI/F817に接続される。このケーブル820cは、アナログRGB(VGA)信号用のケーブルであってもよいし、コンポーネントビデオ用のケーブルであってもよいし、HDMI(登録商標)(High-Definition Multimedia Interface)やDVI(Digital Video Interactive)信号用のケーブルであってもよい。
なお、カメラ812は、レンズや、光を電荷に変換して被写体の画像(映像)を電子化する固体撮像素子を含み、固体撮像素子として、CMOS(Complementary Metal Oxide Semiconductor)や、CCD(Charge Coupled Device)等が用いられる。外部機器接続I/F818には、USB(Universal Serial Bus)ケーブル等によって、外付けカメラ、外付けマイク、及び外付けスピーカ等の外部機器がそれぞれ接続可能である。外付けカメラが接続された場合には、CPU801の制御に従って、内蔵型のカメラ812に優先して、外付けカメラが駆動する。同じく、外付けマイクが接続された場合や、外付けスピーカが接続された場合には、CPU801の制御に従って、それぞれが内蔵型のマイク814や内蔵型のスピーカ815に優先して、外付けマイクや外付けスピーカが駆動する。
また、記録メディア806は、PC8に対して着脱自在な構成となっている。また、CPU801の制御にしたがってデータの読み出し又は書き込みを行う不揮発性メモリであれば、フラッシュメモリ804に限らず、EEPROM(Electrically Erasable and Programmable ROM)等を用いてもよい。
<ソフトウェア構成>
図5(a)は、一実施形態に係る電子黒板のソフトウェア構成図である。図5(a)に示されているように、OS(Operating System)2020、通信アプリケーションA11、及び通信アプリケーションB10は、RAM203の作業領域2010上で動作する。以後、アプリケーションは、「アプリ」と表す。
OS2020は、基本的な機能を提供し、電子黒板全体を管理する基本ソフトウェアである。通信アプリA11,B10は、他の端末と通信を行うためのアプリであり、それぞれ通信プロトコルが異なる。通信アプリA11は、ストロークデータを他の通信端末との間で送信するための通信制御機能と、ストロークデータを画像として出力するための画像処理機能を電子黒板2に実行させる。通信アプリB10は、会議映像等の映像データを他の通信端末との間で送信するための通信制御機能と、映像データを画像として出力するための画像処理機能と、を電子黒板2に実行させる。
OS2020、及び、通信アプリA11は、工場出荷前から、電子黒板2にインストールされている。また、通信アプリB10は、工場出荷後に、任意に電子黒板2にインストール可能である。以下、電子黒板2cに通信アプリB10がインストールされており、電子黒板2a,2bに通信アプリB10がインストールされていないものとして説明を続ける。
図5(b)は、一実施形態に係るPCのソフトウェア構成図である。図5(b)に示されているように、OS8020、通信アプリB11は、RAM803の作業領域8010上で動作する。
OS8020は、基本的な機能を提供し、PC8全体を管理する基本ソフトウェアである。通信アプリB11は、会議映像等の映像データを他の通信端末との間で送信するための通信制御機能と、映像データを画像として出力するための画像処理機能と、をPC8に実行させる。
また、OS8020、及び、通信アプリB11は、工場出荷前又は工場出荷後に、PC8にインストールされる。
<<実施形態の機能構成>>
次に、一実施形態に係る通信システムの機能構成について説明する。図6は、一実施形態に係る通信システムの一部を構成する電子黒板、PC、及び管理システム50の機能ブロック図である。図6では、電子黒板2a,2b,2cが、通信ネットワーク9aを介してデータ通信することができるように接続されている。また、図6では、電子黒板2c、PC8、及び管理システム50が、通信ネットワーク9bを介してデータ通信することができるように接続されている。
電子黒板2は、図2に示されているハードウェア構成およびプログラムによって、図6に示されている各機能構成を実現する。また、電子黒板2は、SSD204により構築される記憶部2000を有している。PC8は、図4に示されているハードウェア構成およびプログラムによって、図6に示されている各機能構成を実現する。また、PC8は、SSD805により構築される記憶部8000を有している。
電子黒板2は、最初に遠隔共有処理を開始する「主催装置」となり得ると共に、既に開始されている遠隔共有処理に後から参加する「参加装置」にもなり得る。また、電子黒板2は、大きく分けて、クライアント部20およびサーバ部90の両方によって構成されている。クライアント部20およびサーバ部90は、電子黒板2の1台の筐体内で通信アプリA11が起動することで実現される機能である。なお、クライアント部20およびサーバ部90のうち、電子黒板2にクライアント部20を備え、サーバ部90を配信制御装置などの電子黒板2とは異なる装置とするようにしてもよい。
電子黒板2が主催装置となる場合には、この電子黒板2では、クライアント部20とサーバ部90が実現(実行)される。また、電子黒板2が参加装置となる場合には、この電子黒板2では、クライアント部20は実現(実行)されるが、サーバ部90は実現(実行)されない。即ち、電子黒板2aが主催装置で、電子黒板2b,2cが参加装置となる場合、電子黒板2aのクライアント部20は、同じ電子黒板2a内に実現されたサーバ部90を介して、他の電子黒板2b,2cのクライアント部20と通信を行う。一方、電子黒板2b,2cのクライアント部20は、他の電子黒板2a内に実現されたサーバ部90を介して、他の電子黒板2a,2b又は2cのクライアント部と通信を行う。
また、電子黒板2c及びPC8では、通信アプリB10,B11が起動することでクライアント部80が実現される。クライアント部80は、サーバとしての管理システム50の呼制御により確立される通信において、他の通信端末のクライアント部80と通信を行う。
〔クライアント部20の機能構成〕
クライアント部20は、通信制御部21及び描画制御部22を有する。
通信制御部21は、CPU201からの命令、或いはネットワークコントローラ205によって実現され、通信ネットワーク9aを介して、他の電子黒板2と行う通信や、サーバ部90における後述の通信制御部91と行う通信を制御する。
描画制御部22は、CPU201からの命令により実現され、ディスプレイ3上の操作により生成するストロークデータ、或いはUSBメモリ5、ノートPC6、通信制御部21、記憶部2000等から取得されるデータに基づいて画像処理を行う。また、描画制御部22は、処理されたデータに基づいて画像レイヤを生成し、これらが重畳された重畳画像を出力する制御を行う。
図7は、一実施形態に係る描画制御部を詳細に示した機能ブロック図である。描画制御部22は、ストローク処理部22A、取得部22B、変換部22X、重畳部22Y、及びページ処理部22Zを有している。
ストローク処理部22Aは、CPU201からの命令によって実現され、ディスプレイ3上の電子ペン4や手Hの操作によってストローク描画のイベントが発生すると、操作に応じたストロークデータを生成する処理を行う。
取得部22Bは、CPU201からの命令によって実現され、記憶部2000に記憶されたデータを取得する。
変換部22Xは、CPU201からの命令によって実現され、各種データを変換する処理を行う。この変換には、テキスト化、実データ(バイナリ)変換、シリアライズ、デシリアライズ、エンコード、デコード等が含まれていても良い。
重畳部22Yは、CPU201からの命令によって実現され、各データに基づいて各画像レイヤを生成し、これらを重畳する処理を行う。
ページ処理部22Zは、ストロークデータ等の各表示用のデータを1つのページデータにまとめて、記憶部2000の一部であるページデータ記憶部220に記憶する。
ページデータ記憶部220は、記憶部2000の一部に構築され、表1に示されているようなページデータを記憶する。表1は、ページデータを示す概念図である。ページデータは、ディスプレイ3に表示される1ページ分のデータ(ストローク配列データ(各ストロークデータ)及びメディアデータ)である。
Figure 0006720513
ページデータは、任意の1ページを識別するためのページデータID、このページの表示を開始した時刻を示す開始時刻、ストロークやジェスチャ等によるページの内容の書き換えが行われなくなった時刻を示す終了時刻、電子ペン4やユーザの手Hによるストロークによって生じたストローク配列データを識別するためのストローク配列データID、及びメディアデータを識別するためのメディアデータIDが関連付けて記憶されている。ストローク配列データは、ストローク画像がディスプレイ3上に表示されるためのデータである。メディアデータは、ストローク画像と重畳する他の画像がディスプレイ3上に表示されるためのデータである。
また、ストローク配列データは、表2に示されているように詳細な情報を示している。表2は、ストローク配列データを示す概念図である。表2に示されているように、1つのストローク配列データは、複数のストロークデータによって表される。そして、1つのストロークデータは、このストロークデータを識別するためのストロークデータID、1つのストロークの書き始めの時刻を示す開始時刻、1つのストロークの書き終わりの時刻を示す終了時刻、ストロークの色、ストロークの幅、及び、ストロークの通過点の配列を識別するための座標配列データIDを示している。例えば、ユーザが電子ペン4によってアルファベット「S」を描く場合は一筆書きとなるため、ストロークデータIDが1つで一文字のアルファベット[S]が示される。ところが、ユーザが電子ペン4によってアルファベット「T」を描く場合、二筆書きとなるため、ストロークデータIDが2つで一文字のアルファベット「T」が示されることになる。
Figure 0006720513
更に、この座標配列データは、表3に示されているように詳細な情報を示している。表3は、座標配列データを示す概念図である。座標配列データは、ディスプレイ3上の1点(X座標値、Y座標値)、この1点を通過したときのストロークの開始時刻からの差分の時刻(ms)、及び、この1点における電子ペン4の筆圧の各情報を示している。即ち、表3に示されている1点の集まりが、表2に示されている1つの座標配列データで示されている。例えば、ユーザが電子ペン4によってアルファベット「S」を描く場合、一筆書きとなるが、「S」を描き終えるまでに、複数の通過点を通過するため、座標配列データは、これら複数の通過点の情報を示している。
Figure 0006720513
また、表1に示されているページデータのうちのメディアデータは、表4に示されているように詳細な情報を示している。表4は、メディアデータを示す概念図である。図9に示されているように、メディアデータは、表1に示されているページデータにおけるメディアデータID、メディアデータのデータ種類、メディアデータが記憶された記録時刻、メディアデータによってディスプレイ3上に表示される画像の位置(X座標値、Y座標値)及び画像のサイズ(幅、高さ)、並びにメディアデータの内容を示すデータが関連付けられて示されている。このうち、メディアデータによってディスプレイ3上に表示される画像の位置は、ディスプレイ3の左上端の座標を(X座標値,Y座標値)=(0,0)とした場合に、メディアデータによって表示される画像の左上端の位置を示している。
Figure 0006720513
〔サーバ部90の機能構成〕
サーバ部90は、通信制御部91を有している。
通信制御部91は、CPU201からの命令により実現され、同じ電子黒板2内のクライアント部20における通信制御部21、および通信ネットワーク9aを介して他の電子黒板2内のクライアント部20における通信制御部21との間における通信を制御する。
〔クライアント部80の機能構成〕
クライアント部80の通信制御部81は、CPU201,801からの命令、或いはネットワークコントローラ205又はネットワークI/F811により実現され、他の通信端末のクライアント部80における通信制御部81との間、又は管理システム50の通信制御部51との間の通信を制御する。
クライアント部80の表示制御部82は、通信アプリB11を起動することで、CPU801からの命令により実現される機能である。表示制御部82は、通信制御部21、記憶部8000等から取得されるデータに基づいて画像処理を行い、画像を出力する制御を行う。
〔管理システム50の機能構成〕
管理システム50は、図3に示されているハードウェア構成およびプログラムによって、図6に示されている各機能構成を実現する。また、管理システム50は、HD504より構築される記憶部5000を有している。
管理システム50の通信制御部51は、CPU201からの命令により実現され、通信ネットワーク9bを介して電子黒板2又はPC8内のクライアント部80における通信制御部81との通信を制御する。
<<実施の形態の処理又は動作>>
続いて、図8乃至図11を用いて、一実施形態に係る処理又は動作について説明する。なお、図8乃至図11は、電子黒板又はPCの処理を示したシーケンス図である。
(電子黒板間の通信確立処理)
図8を用いて、電子黒板2a,2b,2c間の通信アプリA11による通信を確立する処理について説明する。ユーザが電子黒板2aの電源スイッチ226をオンにすると、通信アプリA11が起動することで電子黒板2aのクライアント部20の処理が開始する(ステップS1)。そして、ディスプレイ3a上の操作により会議主催の要求が受け付けられると、クライアント部20の通信制御部21から同じ電子黒板2aのサーバ部90における通信制御部91に、サーバ部90の処理を開始させる指示を出力する。これにより、電子黒板2aでは、クライアント部20だけでなくサーバ部90も各種処理を開始可能となる(ステップS2)。
次に、電子黒板2aの通信制御部91が電子黒板2aとの接続を確立するための接続情報を生成し、クライアント部20が生成された接続情報をディスプレイ3aに表示させる(ステップS3)。この接続情報には、主催装置のIPアドレス、および今回の遠隔共有処理のために生成されたパスコードが含まれている。このパスコードは、記憶部2000に記憶される。そして、接続情報は、電子黒板2aのユーザによって、電話や電子メールにより、電子黒板2b,2cのユーザに伝えられる。
次に、電子黒板2b,2cでは、ユーザが電子黒板2b,2cの電源スイッチ226をオンにすると、通信アプリA11が起動することで電子黒板2b,2cのクライアント部20の処理が開始する(ステップS4,S5)。電子黒板2b,2cにおいて、ディスプレイ3b,3c上の操作によって接続情報の入力が受け付けられると、各電子黒板2b,2cのクライアント部20における通信制御部21が、接続情報のIPアドレスに基づき、通信ネットワーク9aを介して、電子黒板2aのサーバ部90における通信制御部91に対してパスコードを送信して参加要求を行う(ステップS6,S7)。電子黒板2aの通信制御部91は、各電子黒板2b,2cから、参加要求(パスコードを含む)を受信する。
次に、通信制御部91は、各電子黒板2b,2cから受信したパスコードに対し、記憶部2000で管理されているパスコードを用いて認証する(ステップS8)。そして、通信制御部91が、各電子黒板2b,2cのクライアント部20に認証結果を通知する(ステップS9,S10)。ステップS8の認証により、各電子黒板2b,2cが正当な電子黒板であると判断されていた場合には、主催装置である電子黒板2aと、参加装置である電子黒板2b,2cとの遠隔共有処理の通信が確立される(ステップS11,S12)。なお、本実施形態では、電子黒板2a,2b,2c間で送信されるコンテンツデータは、ストロークデータを含む場合について説明する。
(電子黒板とPCとの間の通信確立処理)
図9を用いて、電子黒板2c及びPC8間で通信アプリB10,B11による通信を確立する処理について説明する。
電子黒板2cのディスプレイ3c上の操作により、クライアント部20が通信アプリB10の起動要求を受け付けると、クライアント部80は各種処理を開始可能となる(ステップS21)。図13(B)はディスプレイの表示例である。図13(B)に示したように、電子黒板2cのクライアント部20の描画制御部22は、ストローク共有用の画面140の一部に、通信アプリB10の起動要求を受け付けるためのアイコン140iを表示させる。この場合、クライアント部20は、ユーザによるアイコン140iの押下を検知することにより、通信アプリB10の起動要求を受け付ける。
続いて、クライアント部80の通信制御部81は、管理システム50に対し、ログイン要求を行う(ステップS22)。これにより、管理システム50は、ログイン要求を受信する。
管理システム50は、ログイン要求元の電子黒板2cを認証し(ステップS23)、ログイン要求元の電子黒板2cに対して、認証結果を送信する(ステップS24)。これにより、電子黒板2cの通信制御部81は、認証結果を受信する。以下、上記ステップS23により、正当なログイン要求元であると判断された場合について説明を続ける。
PC8において、キーボード821あるいはマウス822の操作に基づいて、通信アプリB11の起動要求が受け付けられると、通信アプリB11が起動して、PC8のクライアント部80の処理が開始可能となる(ステップS31)。
続いて、クライアント部80の通信制御部81は、管理システム50に対し、ログイン要求を行う(ステップS32)。これにより、管理システム50は、ログイン要求を受信する。
管理システム50は、ログイン要求元のPC8を認証し(ステップS33)、PC8に対して、認証結果を送信する(ステップS34)。以下、上記ステップS33により、正当なログイン要求元であると判断された場合について説明を続ける。
電子黒板2cの通信制御部81は、ディスプレイ3c上の操作に応じて、管理システム50に対し、通信の開始要求を行う(ステップS41)。この通信の開始要求には、通信の開始要求元の電子黒板2cの通信ID、および宛先のPC8の通信IDが含まれている。これにより、管理システム50は、通信の開始要求を受信する。なお、通信IDは通信先を特定するための情報であって、通信端末の識別情報や、通信端末のユーザのアカウントが含まれる。
次に、管理システム50は、宛先のPC8に対して、通信の開始要求を行う(ステップS42)。この通信の開始要求には、上記ステップS41によって送られて来た通信の開始要求元の電子黒板2cの通信IDおよび宛先のPC8の通信IDが含まれている。これにより、宛先のPC8は、通信の開始要求を受信する。
これに対して、PC8の通信制御部81は、ユーザによる操作入力に応じて、管理システム50に対し、応答可否を示す情報を送信する(ステップS43)。以下、PC8が、応答する旨を示す情報を管理システム50へ送信した場合について説明を続ける。
これにより、管理システム50は、応答する旨を示す情報を受信する。管理システム50は、開始要求元の電子黒板2cに対し、上記ステップS13によって宛先のPC8から送られて来た、応答する旨を示す情報を送信する(ステップS44)。これにより、電子黒板2cの通信制御部81は、応答する旨を示す情報を受信する。
続いて、管理システム50は、電子黒板2cとPC8との間で通信ネットワーク9bを介してコンテンツデータを送信するための通信を確立させる制御を行う(ステップS45)。通信を確立させる方法は、特に限定されない。例えば、管理システム50は、コンテンツデータへのアクセス先へのアクセス権限を電子黒板2c及びPC8に付与する。アクセス先は、管理システム50内であっても、管理システム50以外の通信端末であっても良い。電子黒板2c及びPC8は、アクセス先へアクセスして、自端末側のコンテンツデータを送信するとともに、アクセス先から相手側のコンテンツデータを取得する。
上記の制御に基づいて、電子黒板2cとPC8との間の通信が確立されると、電子黒板2c及びPC8は、通信相手との間でコンテンツデータの送受信を開始する(ステップS46)。なお、本実施形態では、電子黒板2c及びPC8の間で送信されるコンテンツデータは、会議映像の映像データ(動画データ又は静止画データの集合)を含む場合について説明する。
(重畳画像の表示)
続いて、図10を用いて、遠隔共有処理における重畳画像が表示される処理について説明する。
まず、電子黒板2cのユーザが電子ペン4cを用いて電子黒板2cにストローク画像を描画すると、ストローク処理部22Aは、電子ペン4cとディスプレイ3cとの接触部の座標位置に基づいて、描画されたストロークのストロークデータを生成する(ステップS61)。なお、生成されるストロークデータは上記の表2に示されている各パラメータを含む。変換部22Xは、複数のストローク単位のストロークデータをまとめることでシリアライズ(直列化)する(ステップS62)。電子黒板2cの通信制御部21は、通信ネットワーク9aを介して、主催装置である電子黒板2aの通信制御部91にシリアライズされたストロークデータを送信する(ステップS63)。なお、電子黒板2bは、描画される度に、ストロークデータを主催装置である電子黒板2aに順次送信しても良い。
電子黒板2aの通信制御部91は、電子黒板2cから送られて来たストロークデータを受信すると、このストロークデータを電子黒板2aのクライアント部20へ送信する。送信されたストロークデータは電子黒板2aのクライアント部20の通信制御部21によって受信される。クライアント部20の描画制御部22における変換部22Xは、ストロークデータをデシリアライズ(並列化)する(ステップS64)。ページ処理部22Zは、ページデータ記憶部220において、すでに記憶されているストロークデータに追加して、新たにデシリアライズされたストロークデータを記憶させる。続いて、重畳部22Yは、ページデータ記憶部220に記憶されている各ストロークデータを合成した合成後のストローク画像(B)の画像データ、及びページデータ記憶部220に記憶されている各オブジェクトデータを合成した合成後の出力画像(C)の画像データを生成する。なお、オブジェクトデータについては、後述の変形例Aにおいて詳細に説明する。そして、重畳部22Yは、ページデータ記憶部220に記憶されている背景画像のレイヤの画像データ(メディアデータ)に、生成された出力画像の画像データ、生成されたストローク画像の画像データ、及びUI(user interface)画像の画像データを合成することで、4層の重畳画像(A,B,C,D)の画像データを生成する。なお、UI画像の画像データは、特に限定されないが、ページデータ記憶部220に予め記憶されていても良い。重畳部22Yは、生成された重畳画像(A,B,C,D)の画像データを、ディスプレイ3aへ送信することで、重畳画像(A,B,C,D)をディスプレイ3a上に表示させる(ステップS65)。図13(A)は重畳画像の概念図であり、図13(B)は、重畳画像の一例である。
また、電子黒板2aの通信制御部91は、電子黒板2cから送られて来たシリアライズされているストロークデータを電子黒板2b,2cのクライアント部20へ送信する(ステップS66,S67)。送信されたストロークデータは電子黒板2b,2cのクライアント部20の通信制御部21によって受信される。電子黒板2b,2cのクライアント部20は、ディスプレイ3b,3cに、電子黒板2aから送られて来たストロークデータに基づいて重畳画像(A,B,C,D)を表示する。この処理は、電子黒板2aのクライアント部20におけるステップS64,S65の処理と同様であるので説明を省略する(ステップS68乃至S71)。
続いて、電子黒板2cのクライアント部80の通信制御部81は、ステップS71で、重畳部22Yがディスプレイ3cへ送信する重畳画像(A,B,C,D)の画像データを取得する(ステップS72)。取得するタイミングは、特に限定されないが、ステップS67において受信されたストロークデータに基づく重畳画像の画像データが形成される毎でも良いし、一定時間毎でも良い。電子黒板2cの通信制御部81は、管理システム50の通信制御部51との間で確立された通信により、取得された画像データを映像データのフレームデータとして管理システム50へ送信する。管理システム50の通信制御部51は、電子黒板2cから送られてきた映像データを受信すると、この映像データを記憶部5000に記憶する。PC8の通信制御部81は、管理システム50の通信制御部51との間で確立された通信により、記憶部5000に記憶された映像データを取得する。これにより、電子黒板2cとPC8との間で、映像データを共有する(ステップS73)。
取得された映像データは、PC8のクライアント部80の表示制御部82によってディスプレイ820上に表示される(ステップS74)。
なお、上記では、電子黒板2cにおいて、ストローク画像が描画されるときの処理について説明したが、電子黒板2a,2bにおいてストローク画像が描画されるときの処理は、電子黒板2cのクライアント部20が、電子黒板2a,2bのクライアント部20に置き換わる点を除きステップS61乃至S74の処理と同様である。
<<実施形態の変形例A>>
続いて、図11を用いて実施形態の変形例Aについて上記の実施形態とは異なる点を説明する。なお、電子黒板2は、実施形態の変形例A、及び、上記実施形態の両方を実行する機能を有していても良い。変形例Aでは、電子黒板2cにおいてオブジェクトの追加又は削除の要求が入力される場合について説明する。図11は、電子黒板又はPCの処理を示したシーケンス図である。
まず、電子黒板2cのユーザが電子ペン4cを用いて電子黒板2cに、予め定められたオブジェクトを挿入すると、ストローク処理部22Aは、電子ペン4cとディスプレイ3cとの接触部の座標位置に基づいて、挿入された図形オブジェクトのオブジェクトデータを生成する(ステップS61A)。なお、生成されるオブジェクトデータは、電子黒板2においてオブジェクトを再生可能なものであれば特に限定されないが、線、円、多角形、矢印等の図形の種類を示す情報と、図形の端部、中心、頂点等の位置を示す位置情報と、を含むものが例示される。変換部22Xは、オブジェクトデータをシリアライズ(直列化)する(ステップS62A)。電子黒板2cの通信制御部21は、通信ネットワーク9aを介して、主催装置である電子黒板2aの通信制御部91にシリアライズされたストロークデータを送信する(ステップS63A)。
電子黒板2aの通信制御部91は、電子黒板2cから送られて来たオブジェクトデータを受信すると、このオブジェクトデータを電子黒板2aのクライアント部20へ送信する。送信されたオブジェクトデータは電子黒板2aのクライアント部20の通信制御部21によって受信される。クライアント部20の描画制御部22における変換部22Xは、オブジェクトデータをデシリアライズ(並列化)する(ステップS64A)。ページ処理部22Zは、ページデータ記憶部220において、すでに記憶されているオブジェクトデータに追加して、新たにデシリアライズされたストロークデータを記憶させる。続いて、重畳部22Yは、ページデータ記憶部220に記憶されている各オブジェクトデータを合成した合成後の出力画像(C)の画像データ、及びページデータ記憶部220に記憶されている各ストロークデータを合成した合成後のストローク画像(B)の画像データを生成する。そして、重畳部22Yは、ページデータ記憶部220に記憶されている背景画像の画像データ(メディアデータ)に、生成された出力画像の画像データ、生成されたストローク画像の画像データ、及びUI画像の画像データを合成することで、4層の重畳画像(A,B,C,D)の画像データを生成する。なお、UI画像の画像データは、特に限定されないが、ページデータ記憶部220に予め記憶されていても良い。重畳部22Yは、生成された重畳画像(A,B,C,D)の画像データを、ディスプレイ3aへ送信することで、重畳画像(A,B,C,D)をディスプレイ3a上に表示させる(ステップS65A)(図13(A,B)参照)。
以下、ステップS66A乃至S74Aの処理は、ストロークデータがオブジェクトデータに置き換わる点を除いて、上記の実施形態のステップS66乃至S74の処理と同様であるので説明を省略する。
なお、上記では、電子黒板2cにおいて、オブジェクトが描画されるときの処理について説明したが、電子黒板2a,2bにおいてオブジェクト画像が描画されるときの処理は、電子黒板2cのクライアント部20が、電子黒板2a,2bのクライアント部20に置き換わる点を除きステップS61A乃至S74Aの処理と同様である。
<<実施形態の変形例B>>
続いて、図12を用いて実施形態の変形例Bについて上記の実施形態とは異なる点を説明する。なお、電子黒板2は、実施形態の変形例B、並びに、実施形態の変形例A、及び上記実施形態の少なくとも一つを共に実行する機能を有していても良い。変形例Bでは、電子黒板2cにおいて背景画像の追加又は削除の要求が入力される場合について説明する。図12は、電子黒板又はPCの処理を示したシーケンス図である。
まず、電子黒板2cのユーザが電子ペン4cを操作して、外部装置としてのノートPC6cに表示されている画面の取得を要求する旨を電子黒板2cに入力すると、電子黒板2cは、ノートPC6cに表示されている画面の画像データを取得する(ステップSB1)。電子黒板2cの変換部22Xは、取得された画像データをテキスト化する(ステップSB2)。この処理により、画像データは、ストロークデータやオブジェクトデータと同様のテキスト形式に変換される。電子黒板2cの変換部22Xは、テキスト化された画像データをシリアライズ(ステップS62B)する。電子黒板2cの通信制御部21は、通信ネットワーク9aを介して、主催装置である電子黒板2aの通信制御部91にシリアライズされた画像データを送信する(ステップS63B)。
電子黒板2aの通信制御部91は、電子黒板2cから送られて来た画像データを受信すると、この画像データを電子黒板2aのクライアント部20へ送信する。送信された画像データは電子黒板2aのクライアント部20の通信制御部21によって受信される。クライアント部20の描画制御部22における変換部22Xは、画像データをデシリアライズ(並列化)する(ステップS64B)。更に、クライアント部20の描画制御部22における変換部22Xは、テキスト形式の画像データを元の形式の実データに変換する(ステップSB3)。
実データに変換された画像データは、ページ処理部22Zによってページデータ記憶部220にメディアデータとして(表4参照)ページデータ記憶部220に記憶される。続いて、重畳部22Yは、ページデータ記憶部220に記憶されている各ストロークデータを合成した合成後のストローク画像(B)の画像データ、及び、ページデータ記憶部220に記憶されている各オブジェクトデータを合成した合成後の出力画像(C)の画像データを生成する。そして、重畳部22Yは、ページデータ記憶部220に記憶されている背景画像の画像データ(メディアデータ)に、生成された出力画像の画像データ、生成されたストローク画像の画像データ、及びUI画像の画像データを合成することで、4層の重畳画像(A,B,C,D)の画像データを生成する。なお、UI画像の画像データは、特に限定されないが、ページデータ記憶部220に予め記憶されていても良い。重畳部22Yは、生成された重畳画像(A,B,C,D)の画像データを、ディスプレイ3aへ送信することで、重畳画像(A,B,C,D)をディスプレイ3a上に表示させる(ステップS65B)(図13(A,B)参照)。
また、電子黒板2aの通信制御部91は、電子黒板2cから送られて来たシリアライズされている画像データを電子黒板2b,2cのクライアント部20へ送信する(ステップS66B,S67B)。送信された画像データは電子黒板2b,2cのクライアント部20の通信制御部21によって受信される。電子黒板2b,2cのクライアント部20は、ディスプレイ3b,3cに、電子黒板2aから送られて来た画像データに基づいて重畳画像(A,B,C,D)を表示する。この処理は、電子黒板2aのクライアント部20におけるステップS64B,SB3,S65Bの処理と同様であるので説明を省略する(ステップS68B,SB4,S69B,S70B,SB5,S71B)。
また、電子黒板2cとPC8との間で重畳画像を共有する処理は、上記のステップS73,S74と同様であるので、説明を省略する(ステップS73B,S74B)。
なお、上記では、電子黒板2cにおいて、背景画像が取得されるときの処理について説明したが、電子黒板2a,2bにおいて背景画像が取得されるときの処理は、電子黒板2cのクライアント部20が、電子黒板2a,2bのクライアント部20に置き換わる点を除きステップSB1乃至S74Bの処理と同様である。
<<実施形態の主な効果>>
上記実施形態の通信制御方法によると、電子黒板2c(通信端末の一例)は、ストローク画像のレイヤ(第1のレイヤの一例)上のストロークの描画(画像の変更の一例)を管理する電子黒板2a(第1の通信端末の一例)、及び電子黒板2aとは異なる管理システム50(第2の通信端末の一例)との間で通信を確立する。電子黒板2cのページデータ記憶部220(管理手段の一例)は、ストロークの描画の操作入力(画像を変更するための操作入力の一例)に応じて、描画されるストローク(変更される画像の一例)を示すストロークデータ(第1の変更画像情報の一例)を管理する。電子黒板2cの通信制御部21(送信手段の一例)は、ストロークの描画の操作入力に応じて、描画されるストロークを示すストロークデータを管理システム50へ送信する。また、電子黒板2cの通信制御部81(送信手段の一例)は、ページデータ記憶部220において管理される各ストロークデータに基づいて形成されるストローク画像を示す映像データ(形成画像情報の一例)を管理システム50へ送信する。これにより、通信の相手側の管理システム50が、ストロークの描画を管理する機能を有していない場合でも、電子黒板2cと管理システム50との間で同じ画像を共有することが可能になる。
電子黒板2aは、更に、オブジェクト画像のレイヤ(第2のレイヤの一例)上のオブジェクトの描画(画像の変更の一例)を管理する。電子黒板2cのページデータ記憶部220は、更に、オブジェクト画像のレイヤ上のオブジェクトの描画の操作入力に応じて、描画されるオブジェクトを示すオブジェクトデータ(第2の変更画像情報の一例)を管理する。電子黒板2cの通信制御部21は、オブジェクト画像のレイヤ上のオブジェクトの描画の操作入力に応じて、描画されるオブジェクトを示すオブジェクトデータを電子黒板2aへ送信する。また、電子黒板2cの通信制御部21は、ページデータ記憶部220において管理される各ストロークデータに基づいて形成されるストローク画像、及び各オブジェクトデータに基づいて形成されるオブジェクト画像の重畳画像を示す映像データ(重畳画像情報の一例)を管理システム50へ送信する。これにより、通信の相手側の管理システム50が、オブジェクトの描画を管理する機能を有していない場合でも、電子黒板2cと管理システム50との間で同じ画像を共有することが可能になる。
電子黒板2aは、更に背景画像のレイヤ(第3のレイヤの一例)上の背景画像を管理する。電子黒板2cのページデータ記憶部220は、更に、背景画像を取得するための操作入力に応じて、取得される背景画像を示す画像データ(取得画像情報の一例)を管理する。電子黒板2cの通信制御部21は、背景画像のレイヤ上の背景画像を取得するための操作入力に応じて、取得される背景画像を示す画像データを電子黒板2aへ送信する。また、電子黒板2cの通信制御部21は、ページデータ記憶部220において管理される各ストロークデータに基づいて形成されるストローク画像、各オブジェクトデータに基づいて形成されるオブジェクト画像、及び画像データに基づいて形成される背景画像の重畳画像を示す映像データを管理システム50へ送信する。これにより、通信の相手側の管理システム50が、背景画像を管理する機能を有していない場合でも、電子黒板2cと管理システム50との間で同じ画像を共有することが可能になる。
電子黒板2aは、更にUI画像(ユーザインタフェース画像の一例)のレイヤ(第4のレイヤの一例)の画像を管理する。電子黒板2cのページデータ記憶部220は、更に、UI画像のレイヤの画像を管理する。また、電子黒板2cの通信制御部21は、ページデータ記憶部220において管理される各ストロークデータに基づいて形成されるストローク画像、各オブジェクトデータに基づいて形成されるオブジェクト画像、画像データに基づいて形成される背景画像、及びUI画像の重畳画像を示す映像データを管理システム50へ送信する。これにより、通信の相手側の管理システム50が、UI画像を管理しない場合でも、電子黒板2cと管理システム50との間で同じ画像を共有することが可能になる。
電子黒板2cの重畳部22Y(表示制御手段の一例)は、ページデータ記憶部220において管理される各ストロークデータに基づいて形成されるストローク画像、各オブジェクトデータに基づいて形成されるオブジェクト画像、画像データに基づいて形成される背景画像、及びUI画像の重畳画像を表示する制御を行う。これにより、共有画像を表示することが可能となる。
PC8(第3の通信端末の一例)は、管理システム50から上記の映像データを取得する。これにより、PC8が、ストロークデータの描画を管理する機能を有していなくても、PC8と電子黒板2cとの間で、ストローク画像を映像として共有することが可能となる。
<<実施形態の補足>>
通信アプリA11,B10,B11は、インストール可能な形式又は実行可能な形式のファイルによって、コンピュータで読み取り可能な記録媒体に記録されて流通されるようにしてもよい。また、上記記録媒体の他の例として、CD−R(Compact Disc Recordable)、DVD(Digital Versatile Disk)、ブルーレイディスク等が挙げられる。また、上記記録媒体、あるいは、これらプログラムが記憶されたHD(Hard Disk)は、プログラム製品(Program Product)として、国内又は国外へ提供可能である。
また、上記実施形態における電子黒板2、PC8、中継装置30、及び管理システム50は、単一の装置によって構築されてもよいし、各部(機能又は手段)を分割して任意に割り当てられた複数の装置によって構築されていてもよい。
また、上記では、画像共有可能な装置の一例として電子黒板2及びPC8について説明したが、これに限るものではない。例えば、画像共有可能な装置として、上記の電子黒板2及びPC8の有する各機能を搭載可能な他の装置を用いることもできる。他の装置としては、例えば、テレビ会議端末、プロジェクター、デジタルサイネージ、テキスト共有装置、カーナビゲーション端末、ゲーム機、PDA(Personal Digital Assistant)、遠隔診断装置等が挙げられる。
1 通信システム
2 電子黒板
3 ディスプレイ
4 電子ペン
5 USBメモリ
6 ノートPC
8 PC
9a,9b 通信ネットワーク
20 クライアント部
21 通信制御部
22 描画制御部
22A ストローク処理部
22B 取得部
22X 変換部
22Y 重畳部
22Z ページ処理部
220 ページデータ記憶部
30 中継装置
50 管理システム
80 クライアント部
81 通信制御部
82 表示制御部
90 サーバ部
91 通信制御部
2000 記憶部
8000 記憶部
特開2015−70345号公報

Claims (15)

  1. 第1の通信アプリケーションおよび第2の通信アプリケーションがインストールされ、前記第1の通信アプリケーションによって、画像の変更を管理する第1の通信端末との間で通信を確立し、前記第2の通信アプリケーションによって、第3の通信アプリケーションがインストールされたコンピュータとの間で通信を確立する通信端末であって、
    前記画像を変更するための操作入力に応じて、描画されたストロークを示すストロークデータを管理する管理手段と、
    前記ストロークデータを前記第1の通信端末へ送信する第1の送信手段と、
    前記第1の通信端末からストロークデータを受信する受信手段と、
    前記受信手段が受信した前記ストロークデータに基づいて、前記コンピュータが出力可能な映像データを前記コンピュータへ送信する第2の送信手段と、
    を有することを特徴とする通信端末。
  2. 第1の通信アプリケーションおよび第2の通信アプリケーションがインストールされ、前記第1の通信アプリケーションによって、第1のレイヤの画像の変更を管理する第1の通信端末との間で通信を確立し、前記第2の通信アプリケーションによって、第3の通信アプリケーションがインストールされたコンピュータとの間で通信を確立する通信端末であって、
    前記第1のレイヤの画像を変更するための操作入力に応じて、変更される第1のレイヤの画像を示す第1の変更画像情報を管理する管理手段と、
    前記第1の変更画像情報を前記第1の通信端末へ送信する第1の送信手段と、
    前記第1の通信端末から第1の変更画像情報を受信する受信手段と、
    前記受信手段が受信した前記第1の変更画像情報に基づいて、前記コンピュータが出力可能な映像データを前記コンピュータへ送信する第2の送信手段と、
    を有することを特徴とする通信端末。
  3. 前記第1の通信端末は、更に、第2のレイヤの画像の変更を管理し、
    前記管理手段は、更に、前記第2のレイヤの画像を変更するための操作入力に応じて、変更される第2のレイヤの画像を示す第2の変更画像情報を管理し、
    前記第1の送信手段は、更に、前記第2のレイヤの画像を変更するための操作入力に応じて、変更される第2のレイヤの画像を示す第2の変更画像情報を前記第1の通信端末へ送信し、
    前記受信手段は、更に、前記第1の通信端末から第2の変更画像情報を受信し、
    前記第2の送信手段は、前記受信手段が受信した前記第1の変更画像情報に基づいて形成される第1のレイヤの画像、及び前記第2の変更画像情報に基づいて形成される第2のレイヤの画像の重畳画像を示す重畳画像情報を前記コンピュータへ送信することを特徴とする請求項2に記載の通信端末。
  4. 前記第1の通信端末は、更に第3のレイヤの画像を管理し、
    前記管理手段は、更に、前記第3のレイヤの画像を取得するための操作入力に応じて、取得される第3のレイヤの画像を示す取得画像情報を管理し、
    前記第1の送信手段は、更に、前記第3のレイヤの画像を取得するための操作入力に応じて、取得される前記第3のレイヤの画像を示す取得画像情報を前記第1の通信端末へ送信し、
    受信手段は、更に、前記第1の通信端末から取得画像情報を受信し、
    前記第2の送信手段は、前記受信手段が受信した前記第1の変更画像情報に基づいて形成される第1のレイヤの画像、前記第2の変更画像情報に基づいて形成される第2のレイヤの画像、及び前記取得画像情報によって示される前記第3のレイヤの画像の重畳画像を示す重畳画像情報を前記コンピュータへ送信することを特徴とする請求項3に記載の通信端末。
  5. 前記第1の通信端末は、更に第4のレイヤの画像を管理し、
    前記管理手段は、更に、前記第4のレイヤの画像を管理し、
    前記第2の送信手段は、前記受信手段が受信した前記第1の変更画像情報に基づいて形成される第1のレイヤの画像、前記第2の変更画像情報に基づいて形成される第2のレイヤの画像、前記取得画像情報によって示される前記第3のレイヤの画像、及び、前記第4のレイヤの画像の重畳画像を示す重畳画像情報を前記コンピュータへ送信することを特徴とする請求項4に記載の通信端末。
  6. 前記第1のレイヤの画像は、ストローク画像であり、
    前記第2のレイヤの画像は、オブジェクト画像であり、
    前記第3のレイヤの画像は、背景画像であり、
    前記第4のレイヤの画像は、ユーザインタフェース画像であることを特徴とする請求項5に記載の通信端末。
  7. 前記受信手段が受信した前記第1の変更画像情報に基づいて形成される前記第1のレイヤの画像、前記第2の変更画像情報に基づいて形成される前記第2のレイヤの画像、前記取得画像情報によって示される前記第3のレイヤの画像、及び、前記第4のレイヤの画像の重畳画像の表示を制御する表示制御手段を有することを特徴とする請求項5又は6に記載の通信端末。
  8. 前記重畳画像情報は、映像データであることを特徴とする請求項3乃至7のいずれか一項に記載の通信端末。
  9. 請求項1乃至8のいずれか一項に記載の通信端末と、
    前記第1の通信端末と、
    前記コンピュータと、
    を有することを特徴とする通信システム。
  10. 前記コンピュータは、前記映像データを管理する管理システムであることを特徴とする請求項9に記載の通信システム。
  11. 前記管理システムから前記映像データを取得するPC(Personal Computer)を有することを特徴とする請求項10に記載の通信システム。
  12. 第1の通信アプリケーションおよび第2の通信アプリケーションがインストールされ、前記第1の通信アプリケーションによって、画像の変更を管理する第1の通信端末との間で通信を確立し、前記第2の通信アプリケーションによって、第3の通信アプリケーションがインストールされたコンピュータとの間で通信を確立し、前記画像を変更するための操作入力に応じて、描画されたストロークを示すストロークデータを管理する管理手段を有する通信端末が、
    前記ストロークデータを前記第1の通信端末へ送信する処理と、
    前記第1の通信端末からストロークデータを受信する処理と、
    受信した前記ストロークデータに基づいて、前記コンピュータが出力可能な映像データを前記コンピュータへ送信する処理と、
    を実行することを特徴とする通信制御方法。
  13. 第1の通信アプリケーションおよび第2の通信アプリケーションがインストールされ、前記第1の通信アプリケーションによって、第1のレイヤの画像の変更を管理する第1の通信端末との間で通信を確立し、前記第2の通信アプリケーションによって、第3の通信アプリケーションがインストールされたコンピュータとの間で通信を確立し、前記第1のレイヤの画像を変更するための操作入力に応じて、変更される第1のレイヤの画像を示す第1の変更画像情報を管理する管理手段を有する通信端末が、
    前記第1の変更画像情報を前記第1の通信端末へ送信する処理と、
    前記第1の通信端末から第1の変更画像情報を受信する処理と、
    受信した前記第1の変更画像情報に基づいて、前記コンピュータが出力可能な映像データを前記コンピュータへ送信する処理と、
    を実行することを特徴とする通信制御方法。
  14. 第1の通信アプリケーションおよび第2の通信アプリケーションがインストールされ、前記第1の通信アプリケーションによって、画像の変更を管理する第1の通信端末との間で通信を確立し、前記第2の通信アプリケーションによって、第3の通信アプリケーションがインストールされたコンピュータとの間で通信を確立し、前記画像を変更するための操作入力に応じて、描画されたストロークを示すストロークデータを管理する管理手段を有する通信端末に、
    前記ストロークデータを前記第1の通信端末へ送信する処理と、
    前記第1の通信端末からストロークデータを受信する処理と、
    受信した前記ストロークデータに基づいて、前記コンピュータが出力可能な映像データを前記コンピュータへ送信する処理と、
    を実行させることを特徴とするプログラム。
  15. 第1の通信アプリケーションおよび第2の通信アプリケーションがインストールされ、前記第1の通信アプリケーションによって、第1のレイヤの画像の変更を管理する第1の通信端末との間で通信を確立し、前記第2の通信アプリケーションによって、第3の通信アプリケーションがインストールされたコンピュータとの間で通信を確立し、前記第1のレイヤの画像を変更するための操作入力に応じて、変更される第1のレイヤの画像を示す第1の変更画像情報を管理する管理手段を有する通信端末に、
    前記第1の変更画像情報を前記第1の通信端末へ送信する処理と、
    前記第1の通信端末から第1の変更画像情報を受信する処理と、
    受信した前記第1の変更画像情報に基づいて、前記コンピュータが出力可能な映像データを前記コンピュータへ送信する処理と、
    を実行させることを特徴とするプログラム。
JP2015234557A 2015-12-01 2015-12-01 通信端末、通信システム、通信制御方法、及びプログラム Expired - Fee Related JP6720513B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2015234557A JP6720513B2 (ja) 2015-12-01 2015-12-01 通信端末、通信システム、通信制御方法、及びプログラム
EP16201404.7A EP3177008A1 (en) 2015-12-01 2016-11-30 Communication terminal, communication system, communication control method, and carrier means
US15/366,094 US9959084B2 (en) 2015-12-01 2016-12-01 Communication terminal, communication system, communication control method, and recording medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015234557A JP6720513B2 (ja) 2015-12-01 2015-12-01 通信端末、通信システム、通信制御方法、及びプログラム

Publications (2)

Publication Number Publication Date
JP2017102635A JP2017102635A (ja) 2017-06-08
JP6720513B2 true JP6720513B2 (ja) 2020-07-08

Family

ID=57482195

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015234557A Expired - Fee Related JP6720513B2 (ja) 2015-12-01 2015-12-01 通信端末、通信システム、通信制御方法、及びプログラム

Country Status (3)

Country Link
US (1) US9959084B2 (ja)
EP (1) EP3177008A1 (ja)
JP (1) JP6720513B2 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7009904B2 (ja) * 2017-10-17 2022-01-26 株式会社リコー 端末装置、情報処理システム、情報処理方法及びプログラム
CN107992255B (zh) * 2017-12-01 2020-11-20 珠海格力电器股份有限公司 一种生成图像的方法及服务器
CN110769187B (zh) * 2018-07-26 2021-03-12 视联动力信息技术股份有限公司 一种基于视联网的网络会议控制方法和装置
CN111381918A (zh) * 2018-12-29 2020-07-07 中兴通讯股份有限公司 一种实现远程协助的方法及相关设备
CN110727361A (zh) * 2019-09-30 2020-01-24 厦门亿联网络技术股份有限公司 一种信息交互方法、交互系统和应用
CN110971862B (zh) * 2019-11-04 2021-04-23 厦门亿联网络技术股份有限公司 一种视频会议广播方法及装置

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20030077561A1 (en) * 2001-10-18 2003-04-24 Abraham Alsop Web server for printable whiteboards
JP4353259B2 (ja) * 2007-02-22 2009-10-28 ソニー株式会社 情報処理装置、画像表示装置、および、これらにおける制御方法ならびに当該方法をコンピュータに実行させるプログラム
JP2011134122A (ja) * 2009-12-24 2011-07-07 Sharp Corp 情報処理装置、会議システム、情報処理方法、会議支援方法、及びコンピュータプログラム
EP2355472B1 (en) * 2010-01-22 2020-03-04 Samsung Electronics Co., Ltd. Apparatus and method for transmitting and receiving handwriting animation message
JP2012058799A (ja) * 2010-09-06 2012-03-22 Ricoh Co Ltd 画像表示システム、画像表示方法およびプログラム
JP6124543B2 (ja) * 2011-12-26 2017-05-10 キヤノン株式会社 画像処理装置、画像処理方法、画像処理システム、及びプログラム
JP6015086B2 (ja) * 2012-04-17 2016-10-26 株式会社リコー 情報共有装置、情報共有システム、描画処理方法及びプログラム
JP2015069284A (ja) * 2013-09-27 2015-04-13 株式会社リコー 画像処理装置
JP6143100B2 (ja) * 2013-09-27 2017-06-07 株式会社リコー 画像処理装置及び画像処理システム
JP6343897B2 (ja) * 2013-09-30 2018-06-20 株式会社リコー 伝送端末、伝送方法、及びプログラム
US10205754B2 (en) 2014-02-13 2019-02-12 Ricoh Company, Ltd. Transmission system, transmission management apparatus and non-transitory computer-readable information recording medium
JP6372156B2 (ja) 2014-05-13 2018-08-15 株式会社リコー 接続制御システム、通信端末、通信システム、プログラム、及び接続制御方法
JP2016034129A (ja) 2014-07-30 2016-03-10 株式会社リコー 情報送信システム、通信端末、通信システム、情報送信方法、及びプログラム
JP6462386B2 (ja) * 2015-02-05 2019-01-30 任天堂株式会社 プログラム、通信端末及び表示方法

Also Published As

Publication number Publication date
US20170153865A1 (en) 2017-06-01
EP3177008A1 (en) 2017-06-07
JP2017102635A (ja) 2017-06-08
US9959084B2 (en) 2018-05-01

Similar Documents

Publication Publication Date Title
JP6798288B2 (ja) 通信端末、通信システム、映像出力方法、及びプログラム
JP6720513B2 (ja) 通信端末、通信システム、通信制御方法、及びプログラム
JP7255728B2 (ja) 通信端末、通信システム、送信方法、及びプログラム
JP6471614B2 (ja) 通信端末、通信システム、通信制御方法、及びプログラム
JP6379521B2 (ja) 伝送端末、伝送システム、伝送方法及びプログラム
US10628117B2 (en) Communication terminal, communication system, display control method, and recording medium
US10511700B2 (en) Communication terminal with first application displaying status of second application
JP6540367B2 (ja) 表示制御装置、通信端末、通信システム、表示制御方法、及びプログラム
JP7413693B2 (ja) 通信端末、通信システム、データ共有方法およびプログラム
JP6361728B2 (ja) 伝送制御システム、伝送システム、伝送制御方法、及び記録媒体
JP6314539B2 (ja) 伝送端末、伝送システム、伝送方法及びプログラム
JP6911595B2 (ja) 通信端末、通信システム、出力方法、及びプログラム
JP6773145B2 (ja) 電子黒板、通信システム、通信制御方法、及びプログラム
JP2018060513A (ja) 通信端末、通信システム、送信方法、及びプログラム
JP6776905B2 (ja) 通信端末、通信システム、表示制御方法、及びプログラム
JP2019135567A (ja) 情報処理装置、管理システム、画像共有システム、画像共有方法およびプログラム
JP2021022041A (ja) 通信端末、通信システム、表示制御方法およびプログラム
JP2017153062A (ja) 通信端末、通信システム、出力方法、及びプログラム
JP2020161120A (ja) 情報伝送システム、情報処理装置、伝送方法、及びプログラム

Legal Events

Date Code Title Description
RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20180209

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20181108

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190813

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190820

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191016

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200114

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200305

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200519

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200601

R151 Written notification of patent or utility model registration

Ref document number: 6720513

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees