JP6540367B2 - 表示制御装置、通信端末、通信システム、表示制御方法、及びプログラム - Google Patents

表示制御装置、通信端末、通信システム、表示制御方法、及びプログラム Download PDF

Info

Publication number
JP6540367B2
JP6540367B2 JP2015163715A JP2015163715A JP6540367B2 JP 6540367 B2 JP6540367 B2 JP 6540367B2 JP 2015163715 A JP2015163715 A JP 2015163715A JP 2015163715 A JP2015163715 A JP 2015163715A JP 6540367 B2 JP6540367 B2 JP 6540367B2
Authority
JP
Japan
Prior art keywords
image
stroke
display
layer
superimposed
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2015163715A
Other languages
English (en)
Other versions
JP2017041178A (ja
Inventor
及川 辰幸
辰幸 及川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2015163715A priority Critical patent/JP6540367B2/ja
Priority to EP16183913.9A priority patent/EP3133808B1/en
Priority to US15/236,598 priority patent/US10297058B2/en
Publication of JP2017041178A publication Critical patent/JP2017041178A/ja
Application granted granted Critical
Publication of JP6540367B2 publication Critical patent/JP6540367B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/60Editing figures and text; Combining figures or text
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/40Support for services or applications
    • H04L65/401Support for services or applications wherein the services involve a main real-time session and one or more additional parallel real-time or time sensitive sessions, e.g. white board sharing or spawning of a subconference
    • H04L65/4015Support for services or applications wherein the services involve a main real-time session and one or more additional parallel real-time or time sensitive sessions, e.g. white board sharing or spawning of a subconference where at least one of the additional parallel sessions is real time or time sensitive, e.g. white board sharing, collaboration or spawning of a subconference
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/40Support for services or applications
    • H04L65/403Arrangements for multi-party communication, e.g. for conferences
    • H04L65/4046Arrangements for multi-party communication, e.g. for conferences with distributed floor control
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/14Systems for two-way working
    • H04N7/141Systems for two-way working between two video terminals, e.g. videophone
    • H04N7/147Communication arrangements, e.g. identifying the communication as a video-communication, intermediate storage of the signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/14Systems for two-way working
    • H04N7/15Conference systems

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • User Interface Of Digital Computer (AREA)
  • Information Transfer Between Computers (AREA)
  • Controls And Circuits For Display Device (AREA)

Description

本発明は、表示制御装置、通信端末、通信システム、表示制御方法、及びプログラムに関する。
近年、当事者の移動の経費や時間を削減する要請等に伴い、インターネットや専用線等の通信ネットワークを介して通話や会議等を行う通信システムが普及している。このような通信システムでは、通信端末の有する機能に応じて、会議参加者や会議資料等の表示データや手書操作に基づくストロークデータ等のコンテンツデータを通信端末間で共有することができる。
また、通信ネットワークに接続する電子黒板のうちサーバ機を介して、クライアント機間でストロークデータを共有する方法が開示されている(特許文献1参照)。
表示制御装置において、描画操作された位置に形成される文字等の画像に加えて、会議資料等の他の画像を表示することで、多様なコンテンツを用いた会議等のコミュニケーションが可能になる。しかしながら、表示制御装置において、他の画像を優先して表示するように予め設定されている場合には、他の画像と重なる領域に文字等の画像が形成されるときに、文字等の画像の表示が妨げられるという課題が生じる。
請求項1に係る発明の表示制御装置は、ユーザによって描画されたストローク画像の座標情報を含むストロークデータの入力を受け付ける取得部と、入力された前記ストロークデータによって示される位置に前記ストローク画像が形成される第1のレイヤの上に、画像情報に基づく出力画像が形成される第2のレイヤを重ねた第1の重畳画像を表示させる重畳部と、を有し、前記重畳部は、前記出力画像と重なる位置に第1のストローク画像が形成されるときに、前記第1の重畳画像から、前記第2のレイヤの上に前記第1のレイヤを重ねた第2の重畳画像に表示を切り換えるとともに、前記第2の重畳画像に表示を切り替えた後に、前記出力画像と重ならない位置に第2のストローク画像が形成されるときに、前記第2の重畳画像から前記第1の重畳画像に表示を切り替えることを特徴とする。
以上説明したように本発明によれば、表示制御装置において、他の画像を優先して表示するように予め設定されている場合に、他の画像と重なる領域に文字等の画像が形成されるときに、文字等の画像の表示が妨げられることを防ぐことができるという効果を奏する。
図1は、一実施形態に係る通信システムの全体構成図である。 図2は、一実施形態に係る電子黒板のハードウェア構成図である。 図3は、一実施形態に係る管理システムのハードウェア構成図である。 図4は、一実施形態に係るテレビ会議端末としてのPCのハードウェア構成図である。 図5(a)は、一実施形態に係る電子黒板のソフトウェア構成図である。
図5(b)は、一実施形態に係るPCのソフトウェア構成図である。
図6は、一実施形態に係る通信システムの一部を構成する電子黒板、及びPCの機能ブロック図である。 図7は、一実施形態に係る描画制御部を詳細に示した機能ブロック図である。 図8は、電子黒板又はPCの処理を示したシーケンス図である。 図9は、電子黒板又はPCの処理を示したシーケンス図である。 図10は、電子黒板又はPCの処理を示したシーケンス図である。 図11は、電子黒板又はPCの処理を示したシーケンス図である。 図12は、重畳画像を管理する処理を示したフロー図である。 図13は、透過度を制御する処理を示したフロー図である。 図14は、ディスプレイの表示例を示す図である。
以下、図面を用いて、本発明の一実施形態について説明する。
<<通信システムの全体構成>>
まず、図1を用いて、通信システム1について説明する。図1は、一実施形態に係る通信システムの全体構成図である。
通信システム1は、複数の電子黒板2a,2b,2c、PC8、中継装置30、及び管理システム50を有する。
電子黒板2a,2b,2cは、通信ネットワーク9aを介して通信可能に接続されている。また、電子黒板2a,2b,2cには、それぞれディスプレイ3a,3b,3cが設けられている。
電子黒板2a,2b,2cは、電子ペン4a,4b,4cによって生じたイベント(ディスプレイ3a,3b,3cへの電子ペン4a,4b,4cのペン先、又は、ペン尻のタッチ)により描画された画像を、ディスプレイ3a,3b,3cに表示させることができる。なお、電子黒板2a,2b,2cは、電子ペン4a,4b,4cだけでなく、ユーザの手Ha,Hb,Hc等によって生じたイベント(拡大、縮小、ページめくり等のジェスチャ)に基づいて、ディスプレイ3a,3b,3c上に表示されている画像を変更させることもできる。以下、電子黒板2a,2b,2cのうち任意の電子黒板を示す場合には、電子黒板2と表す。また、ディスプレイ3a,3b,3cのうち任意のディスプレイを示す場合には、ディスプレイ3と表す。また、電子ペン4a,4b,4cのうち任意の電子ペンを示す場合には電子ペン4と示す。また、ユーザの手Ha,Hb,Hcのうち任意の手を示す場合には手Hと示す。
また、電子黒板2a,2b,2cには、USB(Universal Serial Bus)メモリ5a,5b,5cが接続可能である。電子黒板2a,2b,2cはUSBメモリ5a,5b,5cからPDF(Portable Document Format)等の電子ファイルを読み出したり、USBメモリ5a,5b,5cに電子ファイルを記録したりすることができる。また、電子黒板2aには、DisplayPort、DVI(Digital Visual Interface)、HDMI(登録商標)(High-Definition Multimedia Interface)およびVGA(Video Graphics Array)等の規格による通信が可能なケーブルを介して、ノートPC6a,6b,6cが接続されている。なお、USBメモリ5a,5b,5cのうち任意のUSBメモリを示す場合にはUSBメモリ5と示す。ノートPC6a,6b,6cのうち任意のノートPCを示す場合にはノートPC6と示す。
これにより、一の拠点で電子黒板2のディスプレイ3上に描画されたストロークのストロークデータは、通信ネットワーク9aを介して他の拠点で電子黒板2へ送信されることで、他の拠点のディスプレイ3上にも表示される。逆に他の拠点で電子黒板2のディスプレイ3上に描画されたストロークのストロークデータは、通信ネットワーク9aを介して一の拠点の電子黒板2へ送信されることで、一の拠点の電子黒板2のディスプレイ3上に表示される。このように、通信システム1では、遠隔地において同じ画像を共有する遠隔共有処理を行うことができるため、遠隔地での会議等に用いると、非常に便利である。
なお、上記の電子黒板2に加えて、電子黒板以外の他の通信端末が通信ネットワーク9aに接続することで、通信ネットワーク9aを介して他の通信端末が電子黒板2との間でストロークデータ共有することもできる。他の通信端末としては、PC、テレビ会議端末、タブレット、スマートフォン、電子看板(デジタルサイネージ)、スポーツや天気予報等で利用されるテレストレータ、又は、遠隔画像(映像)診断装置等の画像処理装置、携帯情報端末、デジタルビデオカメラ、デジタルカメラ、ゲーム機等の画像フレームを供給可能な端末等のコンピュータが含まれる。
電子黒板2c、PC(Personal computer)8、中継装置30、管理システム50は、通信ネットワーク9bを介して通信可能に接続されている。
電子黒板2c及びPC8は、コンテンツデータの一例として会議資料等の表示データの送受信による通信を行なう。なお、表示データは、ディスプレイに表示可能な画像の画像データである。表示データは、動画データであっても静止画データであってもよく、動画データと静止画データの両方であってもよい。
中継装置30は、電子黒板2c及びPC8の間で、コンテンツデータを中継する処理を行なう。管理システム50は、電子黒板2c及びPC8の通信状況等を一元的に管理する。
なお、電子黒板2c及びPC8以外の他の通信端末が通信ネットワーク9bに接続することで、通信ネットワーク9bを介して他の通信端末が電子黒板2c、PC8との間で表示データを共有することもできる。他の通信端末としては、テレビ会議端末、タブレット、スマートフォン、電子看板(デジタルサイネージ)、テレストレータ、又は、画像処理装置、携帯情報端末、デジタルビデオカメラ、デジタルカメラ、ゲーム機等の画像フレームを供給可能な端末等のコンピュータが含まれる。
なお、電子黒板2cは、ストロークデータを共有するためのモジュール、及び表示データを共有するためのモジュールの双方を起動することで、通信端末間でストロークデータ及び表示データの両方を同時に共有することができる。
一実施形態によると、通信ネットワーク9aはイントラネットであり,通信ネットワーク9bはインターネットである。ただし、通信ネットワーク9a,9bは、各通信端末のプロトコルに応じて、インターネット、LAN(Local Area Network)、イントラネット、又は携帯電話網等の任意の通信ネットワークから選択される。また、通信ネットワーク9a,9bは、共にインターネットである場合のように同じ通信ネットワークであっても良い。
また、一実施形態では、記録媒体の一例として、USBメモリを説明するが、これに限るものではなく、記録媒体の他の例として、SDカード等の各種記録メディアであってもよい。
<電子黒板のハードウェア構成>
図2を用いて、一実施形態に係る電子黒板のハードウェア構成を説明する。なお、図2は、一実施形態に係る電子黒板のハードウェア構成図である。
図2に示されているように、電子黒板2は、電子黒板2全体の動作を制御するCPU(Central Processing Unit)201、IPL等のCPU201の駆動に用いられるプログラムを記憶したROM202、CPU201のワークエリアとして使用されるRAM203、電子黒板用のプログラム等の各種データを記憶するSSD204、通信ネットワーク9との通信を制御するネットワークコントローラ205、および、USBメモリ5との通信を制御する外部記憶コントローラ206を備えている。さらに、電子黒板2は、CPU201の制御に従って被写体を撮像するカメラ207と、このカメラ207の駆動を制御する撮像素子I/F208と、ノートPC6のディスプレイに対して映像情報を静止画または動画として表示させるキャプチャデバイス211、グラフィクスを専門に扱うGPU(Graphics Processing Unit)212、および、GPUからの出力画像をディスプレイ3へ出力するために画面表示の制御および管理を行うディスプレイコントローラ213を備えている。さらに、電子黒板2は、接触センサ215の処理を制御するセンサコントローラ214、ディスプレイ3上に電子ペン4やユーザの手H等が接触したことを検知する接触センサ215を備えている。一実施形態における、接触センサ215は、赤外線遮断方式による座標の入力および座標の検出を行う。この座標の入力および座標を検出する方法は、ディスプレイ3の上側両端部に設置された2つ受発光装置が、ディスプレイ3に平行して複数の赤外線を放射し、ディスプレイ3の周囲に設けられた反射部材によって反射されて、受光素子が放射した光の光路と同一の光路上を戻って来る光を受光する方法である。接触センサ215は、物体によって遮断された2つの受発光装置が放射した赤外線のID(Identification)をセンサコントローラ214に出力し、センサコントローラ214が、物体の接触位置である座標位置を特定する。なお、以下に示す全ての各IDは、識別情報の一例である。
また、接触センサ215としては、赤外線遮断方式に限らず、静電容量の変化を検知することにより接触位置を特定する静電容量方式のタッチパネル、対向する2の抵抗膜の電圧変化によって接触位置を特定する抵抗膜方式のタッチパネル、接触物体が表示部に接触することによって生じる電磁誘導を検知して接触位置を特定する電磁誘導方式のタッチパネルなどの種々の検出手段を用いてもよい。また、接触センサ215は、カメラを用いて、接触を判断し、座標位置を特定するものであっても良い。
また、電子黒板2は、電子ペンコントローラ216を備えている。この電子ペンコントローラ216は、電子ペン4と通信することで、ディスプレイ3へのペン先のタッチやペン尻のタッチの有無を判断する。なお、電子ペンコントローラ216が、電子ペン4のペン先およびペン尻だけでなく、電子ペン4のユーザが握る部分や、その他の電子ペンの部分のタッチの有無を判断するようにしてもよい。
さらに、電子黒板2は、音声を入力するマイク222と、音声を出力するスピーカ223と、CPU101の制御に従ってマイク222およびスピーカ223との間で音信号の入出力を処理する音入出力I/F224と、ユーザの操作を受け付ける操作ボタン225と、電子黒板2の電源のON/OFFを切り換えるための電源スイッチ226と、を備えている。
さらに、電子黒板2は、上記各構成要素間を相互に電気的に接続するためのアドレスバスやデータバス等のバスライン230を備えている。
なお、電子黒板用のプログラムは、CD−ROM等のコンピュータで読み取り可能な記録媒体や、ネットワーク上のサーバに記録して流通やダウンロードさせるようにしてもよい。
<管理システムのハードウェア構成>
図3を用いて、一実施形態に係る管理システムのハードウェア構成を説明する。なお、図3は、一実施形態に係る管理システムのハードウェア構成図である。
管理システム50は、管理システム50全体の動作を制御するCPU501と、伝送管理用プログラムを記憶したROM502と、CPU501のワークエリアとして使用されるRAM503と、各種データを記憶するHD(Hard Disk)504と、CPU501の制御に従ってHD504に対する各種データの読み出しおよび書き込みを制御するHDD505と、フラッシュメモリ等の記録メディア506に対するデータの読み出しおよび書き込み(記憶)を制御するメディアI/F507とを備えている。さらに、管理システム50は、カーソル、メニュー、ウィンドウ、文字、画像等の各種情報をディスプレイ516に表示させるためのディスプレイI/F508と、通信ネットワーク9を利用してデータ伝送をするためのネットワークI/F509と、文字、数値、各種指示等を入力するための複数のキーを備えたキーボード511と、各種指示の選択や実行、処理対象の選択、マウスカーソルなどのポインティングデバイスの移動等を行うマウス512とを備えている。さらに、管理システム50は、着脱可能な記録媒体の一例としてのCD−ROM(Compact Disc Read Only Memory)513に対するデータの読み出しおよび書き込みを制御するCD−ROMドライブ514と、外部の装置との間で情報を送受信するための外部装置I/F515と、上記各構成要素間を相互に電気的に接続するためのアドレスバスやデータバス等のバスライン510とを備えている。
また、上記伝送管理用プログラムは、インストール可能な形式または実行可能な形式のファイルで、上記記録メディア506やCD−ROM513等のコンピュータで読み取り可能な記録媒体に記録して流通させるようにしてもよい。上記伝送管理用プログラムはHD504に記憶されていてもよい。
<PCのハードウェア構成>
図4は、一実施形態に係るテレビ会議端末としてのPC8のハードウェア構成図である。PC8は、CPU801、ROM802、RAM803、フラッシュメモリ804、SSD805、メディアI/F807、電源スイッチ809、バスライン810、ネットワークI/F811、カメラ812、撮像素子I/F813、マイク814、スピーカ815、音入出力I/F816、ディスプレイI/F817、外部機器接続I/F818、キーボード821、及びマウス822を備えている。これらのうち、CPU801は、PC8全体の動作を制御する。ROM(Read Only Memory)802は、IPL(Initial Program Loader)等のCPU801の駆動に用いられるプログラムを記憶する。RAM(Random Access Memory)803は、CPU801のワークエリアとして使用される。フラッシュメモリ804は、通信用プログラム、表示データ、及び音データ等の各種データを記憶する。SSD(Solid State Drive)805は、CPU801の制御にしたがってフラッシュメモリ804に対する各種データの読み出し又は書き込みを制御する。なお、SSDに代えてHDDを用いてもよい。メディアI/F807は、フラッシュメモリ等の記録メディア806に対するデータの読み出し又は書き込み(記憶)を制御する。
また、ネットワークI/F(Interface)811は、通信ネットワーク9bを利用してデータ通信をするためのインターフェースである。カメラ812は、CPU801の制御に従って被写体を撮像して表示データを得る内蔵型の撮像手段の一種である。撮像素子I/F813は、カメラ812の駆動を制御する回路である。マイク814は、音声を入力する内蔵型の集音手段の一種である。音入出力I/F816は、CPU801の制御に従ってマイク814及びスピーカ815との間で音信号の入出力を処理する回路である。ディスプレイI/F817は、CPU801の制御に従って外付けのディスプレイ820に表示データを送信する回路である。外部機器接続I/F818は、各種の外部機器を接続するためのインターフェースである。キーボード821は、文字、数値、各種指示等を入力するための複数のキーを備えている。マウス822は、各種指示の選択や実行、処理対象の選択、マウスカーソルなどのポインティングデバイスの移動等を行う。
また、バスライン810は、CPU801等の図4に示されている各構成要素を電気的に接続するためのアドレスバスやデータバス等である。
ディスプレイ820は、被写体の画像や操作用アイコン等を表示する液晶や有機ELによって構成された表示手段の一種である。また、ディスプレイ820は、ケーブル820cによってディスプレイI/F817に接続される。このケーブル820cは、アナログRGB(VGA)信号用のケーブルであってもよいし、コンポーネントビデオ用のケーブルであってもよいし、HDMI(登録商標)(High-Definition Multimedia Interface)やDVI(Digital Video Interactive)信号用のケーブルであってもよい。
なお、カメラ812は、レンズや、光を電荷に変換して被写体の画像(映像)を電子化する固体撮像素子を含み、固体撮像素子として、CMOS(Complementary Metal Oxide Semiconductor)や、CCD(Charge Coupled Device)等が用いられる。外部機器接続I/F818には、USB(Universal Serial Bus)ケーブル等によって、外付けカメラ、外付けマイク、及び外付けスピーカ等の外部機器がそれぞれ接続可能である。外付けカメラが接続された場合には、CPU801の制御に従って、内蔵型のカメラ812に優先して、外付けカメラが駆動する。同じく、外付けマイクが接続された場合や、外付けスピーカが接続された場合には、CPU801の制御に従って、それぞれが内蔵型のマイク814や内蔵型のスピーカ815に優先して、外付けマイクや外付けスピーカが駆動する。
また、記録メディア806は、PC8に対して着脱自在な構成となっている。また、CPU801の制御にしたがってデータの読み出し又は書き込みを行う不揮発性メモリであれば、フラッシュメモリ804に限らず、EEPROM(Electrically Erasable and Programmable ROM)等を用いてもよい。
<ソフトウェア構成>
図5(a)は、一実施形態に係る電子黒板のソフトウェア構成図である。図5(a)に示されているように、OS(Operating System)2020、通信アプリケーションA11、及び通信アプリケーションB10は、RAM203の作業領域2010上で動作する。以後、アプリケーションは、「アプリ」と表す。
OS2020は、基本的な機能を提供し、電子黒板全体を管理する基本ソフトウェアである。通信アプリA11,B10は、他の端末と通信を行うためのアプリであり、それぞれ通信プロトコルが異なる。通信アプリA11は、ストロークデータを他の通信端末との間で送信するための通信制御機能と、ストロークデータを画像として出力するための画像処理機能を電子黒板2に実行させる。一方、通信アプリB10は、テレビ会議資料等の表示データを他の通信端末との間で送信するための通信制御機能を電子黒板2に実行させる。一方で、通信アプリB10は、表示データを出力するための画像処理機能を有していない。通信アプリB10は、例えば、表示データに係る通信制御機能及び画像処理機能を共に有する通信アプリB11から、ソフトウェア開発キットを用いて画像処理機能を除いたものであっても良い。
OS2020、及び、通信アプリA11は、工場出荷前から、電子黒板2にインストールされている。また、通信アプリB10は、工場出荷後に、任意に電子黒板2にインストール可能である。以下、電子黒板2cに通信アプリB10がインストールされており、電子黒板2a,abに通信アプリB10がインストールされていないものとして説明を続ける。
図5(b)は、一実施形態に係るPCのソフトウェア構成図である。図5(b)に示されているように、OS8020、通信アプリB11は、RAM803の作業領域8010上で動作する。
OS8020は、基本的な機能を提供し、PC8全体を管理する基本ソフトウェアである。通信アプリB11は、会議資料等の表示データを他の通信端末との間で送信するための通信制御機能と、表示データを画像として出力するための画像処理機能と、をPC8に実行させる。
また、OS8020、及び、通信アプリB11は、工場出荷前又は工場出荷後に、PC8にインストールされる。
<<実施形態の機能構成>>
次に、一実施形態に係る通信システムの機能構成について説明する。図6は、一実施形態に係る通信システムの一部を構成する電子黒板、及びPCの機能ブロック図である。図6では、電子黒板2a,2b,2cが、通信ネットワーク9aを介してデータ通信することができるように接続されている。また、図6では、電子黒板2c及びPC8が、通信ネットワーク9bを介してデータ通信することができるように接続されている。
電子黒板2は、図2に示されているハードウェア構成およびプログラムによって、図6に示されている各機能構成を実現する。また、電子黒板2は、SSD204により構築される記憶部2000を有している。PC8は、図4に示されているハードウェア構成およびプログラムによって、図6に示されている各機能構成を実現する。また、PC8は、SSD805により構築される記憶部8000を有している。
電子黒板2は、最初に遠隔共有処理を開始する「主催装置」となり得ると共に、既に開始されている遠隔共有処理に後から参加する「参加装置」にもなり得る。また、電子黒板2は、大きく分けて、クライアント部20およびサーバ部90の両方によって構成されている。クライアント部20およびサーバ部90は、電子黒板2の1台の筐体内で通信アプリA11が起動することで実現される機能である。なお、クライアント部20およびサーバ部90のうち、電子黒板2にクライアント部20を備え、サーバ部90を配信制御装置などの電子黒板2とは異なる装置とするようにしてもよい。
電子黒板2が主催装置となる場合には、この電子黒板2では、クライアント部20とサーバ部90が実現(実行)される。また、電子黒板2が参加装置となる場合には、この電子黒板2では、クライアント部20は実現(実行)されるが、サーバ部90は実現(実行)されない。即ち、電子黒板2aが主催装置で、電子黒板2b,2cが参加装置となる場合、電子黒板2aのクライアント部20は、同じ電子黒板2a内に実現されたサーバ部90を介して、他の電子黒板2b,2cのクライアント部20と通信を行う。一方、電子黒板2b,2cのクライアント部20は、他の電子黒板2a内に実現されたサーバ部90を介して、他の電子黒板2a,2b又は2cのクライアント部と通信を行う。
また、電子黒板2b及びPC8では、通信アプリB10,B11が起動することでクライアント部80が実現される。クライアント部80は、サーバとしての管理システム50の呼制御により確立される通信において、中継装置30を介して他の通信端末のクライアント部80と通信を行う。
〔クライアント部20の機能構成〕
クライアント部20は、通信制御部21及び描画制御部22を有する。
通信制御部21は、CPU201からの命令、或いはネットワークコントローラ205によって実現され、通信ネットワーク9aを介して、他の電子黒板2と行う通信や、サーバ部90における後述の通信制御部91と行う通信を制御する。
描画制御部22は、CPU201からの命令により実現され、ディスプレイ3上の操作により生成するストロークデータ、或いはUSBメモリ5、ノートPC6、通信制御部21、記憶部2000等から取得されるデータに基づいて画像処理を行う。また、描画制御部22は、処理されたデータに基づいて画像レイヤを生成し、これらが重畳された重畳画像を出力する制御を行う。
図7は、一実施形態に係る描画制御部を詳細に示した機能ブロック図である。描画制御部22は、ストローク処理部22A、取得部22B、変換部22X、重畳部22Y、及びページ処理部22Zを有している。
ストローク処理部22Aは、CPU201からの命令によって実現され、ディスプレイ3上の電子ペン4や手Hの操作によってストローク描画のイベントが発生すると、操作に応じたストロークデータを生成する処理を行う。
取得部22Bは、CPU201からの命令によって実現され、記憶部2000に記憶されたデータを取得する。
変換部22Xは、CPU201からの命令によって実現され、各種データを変換する処理を行う。この変換には、テキスト化、実データ(バイナリ)変換、シリアライズ、デシリアライズ、エンコード、デコード等が含まれていても良い。
重畳部22Yは、CPU201からの命令によって実現され、各データに基づいて各画像レイヤを生成し、これらを重畳する処理を行う。
ページ処理部22Zは、ストロークデータと表示データを1つのページデータにまとめて、記憶部2000の一部であるページデータ記憶部220に記憶する。
ページデータ記憶部220は、記憶部2000の一部に構築され、表1に示されているようなページデータを記憶する。表1は、ページデータを示す概念図である。ページデータは、ディスプレイ3に表示される1ページ分のデータ(ストローク配列データ(各ストロークデータ)及びメディアデータ)である。
Figure 0006540367
ページデータは、任意の1ページを識別するためのページデータID、このページの表示を開始した時刻を示す開始時刻、ストロークやジェスチャ等によるページの内容の書き換えが行われなくなった時刻を示す終了時刻、電子ペン4やユーザの手Hによるストロークによって生じたストローク配列データを識別するためのストローク配列データID、及びメディアデータを識別するためのメディアデータIDが関連付けて記憶されている。ストローク配列データは、ストローク画像がディスプレイ3上に表示されるためのデータである。メディアデータは、ストローク画像と重畳する他の画像がディスプレイ3上に表示されるためのデータである。
また、ストローク配列データは、表2に示されているように詳細な情報を示している。表2は、ストローク配列データを示す概念図である。表2に示されているように、1つのストローク配列データは、複数のストロークデータによって表される。そして、1つのストロークデータは、このストロークデータを識別するためのストロークデータID、1つのストロークの書き始めの時刻を示す開始時刻、1つのストロークの書き終わりの時刻を示す終了時刻、ストロークの色、ストロークの幅、及び、ストロークの通過点の配列を識別するための座標配列データIDを示している。例えば、ユーザが電子ペン4によってアルファベット「S」を描く場合は一筆書きとなるため、ストロークデータIDが1つで一文字のアルファベット[S]が示される。ところが、ユーザが電子ペン4によってアルファベット「T」を描く場合、二筆書きとなるため、ストロークデータIDが2つで一文字のアルファベット「T」が示されることになる。
Figure 0006540367
更に、この座標配列データは、表3に示されているように詳細な情報を示している。表3は、座標配列データを示す概念図である。座標配列データは、ディスプレイ3上の1点(X座標値、Y座標値)、この1点を通過したときのストロークの開始時刻からの差分の時刻(ms)、及び、この1点における電子ペン4の筆圧の各情報を示している。即ち、表3に示されている1点の集まりが、表2に示されている1つの座標配列データで示されている。例えば、ユーザが電子ペン4によってアルファベット「S」を描く場合、一筆書きとなるが、「S」を描き終えるまでに、複数の通過点を通過するため、座標配列データは、これら複数の通過点の情報を示している。
Figure 0006540367
また、表1に示されているページデータのうちのメディアデータは、表4に示されているように詳細な情報を示している。表4は、メディアデータを示す概念図である。図9に示されているように、メディアデータは、表1に示されているページデータにおけるメディアデータID、メディアデータのデータ種類、メディアデータが記憶された記録時刻、メディアデータによってディスプレイ3上に表示される画像の位置(X座標値、Y座標値)及び画像のサイズ(幅、高さ)、並びにメディアデータの内容を示すデータが関連付けられて示されている。このうち、メディアデータによってディスプレイ3上に表示される画像の位置は、ディスプレイ3の左上端の座標を(X座標値,Y座標値)=(0,0)とした場合に、メディアデータによって表示される画像の左上端の位置を示している。
Figure 0006540367
更に、一実施形態において、ページデータ記憶部220には、端末10においてユーザI/F(user interface,UI)画像のレイヤ、メディアデータに基づく出力画像のレイヤ、ストロークデータに基づくストローク画像のレイヤ、及び背景画像のレイヤの重畳画像を表示するときの各レイヤの優先順位が記憶されている。表5は、デフォルトの優先順位の一例を示す。デフォルトの優先順位では、背景画像のレイヤ上にストローク画像のレイヤ、出力画像のレイヤ、UI画像のレイヤを順に重ねた重畳画像を表示する設定となっている。
Figure 0006540367
〔サーバ部90の機能構成〕
サーバ部90は、通信制御部91を有している。
通信制御部91は、CPU201からの命令により実現され、同じ電子黒板2内のクライアント部20における通信制御部21、および通信ネットワーク9aを介して他の電子黒板2内のクライアント部20における通信制御部21との間における通信を制御する。
〔クライアント部80の機能構成〕
クライアント部80の通信制御部81は、CPU201,801からの命令、或いはネットワークコントローラ205又はネットワークI/F811により実現され、他の通信端末のクライアント部80における通信制御部81との間の通信を制御する。
クライアント部80の表示制御部82は、通信アプリB11を起動することで、CPU801からの命令により実現される機能である。表示制御部82は、通信制御部21、記憶部8000等から取得されるデータに基づいて画像処理を行い、画像を出力する制御を行う。
<<実施の形態の処理又は動作>>
続いて、図8乃至図11を用いて、一実施形態に係る処理又は動作について説明する。なお、図8乃至図11は、電子黒板又はPCの処理を示したシーケンス図である。
(電子黒板間の通信確立処理)
図8を用いて、電子黒板2a,2b,2c間の通信アプリA11による通信を確立する処理について説明する。ユーザが電子黒板2aの電源スイッチ226をオンにすると、通信アプリA11が起動することで電子黒板2aのクライアント部20の処理が開始する(ステップS1)。そして、ディスプレイ3a上の操作により会議主催の要求が受け付けられると、クライアント部20の通信制御部21から同じ電子黒板2aのサーバ部90における通信制御部91に、サーバ部90の処理を開始させる指示を出力する。これにより、電子黒板2aでは、クライアント部20だけでなくサーバ部90も各種処理を開始可能となる(ステップS2)。
次に、電子黒板2aの通信制御部91が電子黒板2aとの接続を確立するための接続情報を生成し、クライアント部20が生成された接続情報をディスプレイ3aに表示させる(ステップS3)。この接続情報には、主催装置のIPアドレス、および今回の遠隔共有処理のために生成されたパスコードが含まれている。このパスコードは、記憶部2000に記憶される。そして、接続情報は、電子黒板2aのユーザによって、電話や電子メールにより、電子黒板2b,2cのユーザに伝えられる。
次に、電子黒板2b,2cでは、ユーザが電子黒板2b,2cの電源スイッチ226をオンにすると、通信アプリA11が起動することで電子黒板2b,2cのクライアント部20の処理が開始する(ステップS4,S5)。電子黒板2b,2cにおいて、ディスプレイ3b,3c上の操作によって接続情報の入力が受け付けられると、各電子黒板2b,2cのクライアント部20における通信制御部21が、接続情報のIPアドレスに基づき、通信ネットワーク9aを介して、電子黒板2aのサーバ部90における通信制御部91に対してパスコードを送信して参加要求を行う(ステップS6,S7)。電子黒板2aの通信制御部91は、各電子黒板2b,2cから、参加要求(パスコードを含む)を受信する。
次に、通信制御部91は、各電子黒板2b,2cから受信したパスコードに対し、記憶部2000で管理されているパスコードを用いて認証する(ステップS8)。そして、通信制御部91が、各電子黒板2b,2cのクライアント部20に認証結果を通知する(ステップS9,S10)。ステップS8の認証により、各電子黒板2b,2cが正当な電子黒板であると判断されていた場合には、主催装置である電子黒板2aと、参加装置である電子黒板2b,2cとの遠隔共有処理の通信が確立される(ステップS11,S12)。なお、本実施形態では、電子黒板2a,2b,2c間で送信されるコンテンツデータは、ストロークデータを含む場合について説明する。
(電子黒板とPCとの間の通信確立処理)
図9を用いて、電子黒板2c及びPC8間で通信アプリB10,B11による通信を確立する処理について説明する。
電子黒板2cのディスプレイ3c上の操作により、クライアント部20が通信アプリB10の起動要求を受け付けると、クライアント部80は各種処理を開始可能となる(ステップS21)。
続いて、クライアント部80の通信制御部81は、管理システム50に対し、ログイン要求を行う(ステップS22)。これにより、管理システム50は、ログイン要求を受信する。
管理システム50は、ログイン要求元の電子黒板2cを認証し(ステップS23)、ログイン要求元の電子黒板2cに対して、認証結果を送信する(ステップS24)。これにより、電子黒板2cの通信制御部81は、認証結果を受信する。以下、上記ステップS23により、正当なログイン要求元であると判断された場合について説明を続ける。
PC8において、キーボード821あるいはマウス822の操作に基づいて、通信アプリB11の起動要求が受け付けられると、通信アプリB11が起動して、PC8のクライアント部80の処理が開始可能となる(ステップS31)。
続いて、クライアント部80の通信制御部81は、管理システム50に対し、ログイン要求を行う(ステップS32)。これにより、管理システム50は、ログイン要求を受信する。
管理システム50は、ログイン要求元のPC8を認証し(ステップS33)、PC8に対して、認証結果を送信する(ステップS34)。以下、上記ステップS33により、正当なログイン要求元であると判断された場合について説明を続ける。
電子黒板2cの通信制御部81は、ディスプレイ3c上の操作に応じて、管理システム50に対し、通信の開始要求を行う(ステップS41)。この通信の開始要求には、通信の開始要求元の電子黒板2cの通信ID、および宛先のPC8の通信IDが含まれている。これにより、管理システム50は、通信の開始要求を受信する。なお、通信IDは通信先を特定するための情報であって、通信端末の識別情報や、通信端末のユーザのアカウントが含まれる。
次に、管理システム50は、宛先のPC8に対して、通信の開始要求を行う(ステップS42)。この通信の開始要求には、上記ステップS41によって送られて来た通信の開始要求元の電子黒板2cの通信IDおよび宛先のPC8の通信IDが含まれている。これにより、宛先のPC8は、通信の開始要求を受信する。
これに対して、PC8の通信制御部81は、ユーザによる操作入力に応じて、管理システム50に対し、応答可否を示す情報を送信する(ステップS43)。以下、PC8が、応答する旨を示す情報を管理システム50へ送信した場合について説明を続ける。
これにより、管理システム50は、応答する旨を示す情報を受信する。管理システム50は、開始要求元の電子黒板2cに対し、上記ステップS13によって宛先のPC8から送られて来た、応答する旨を示す情報を送信する(ステップS44)。これにより、電子黒板2cの通信制御部81は、応答する旨を示す情報を受信する。
続いて、管理システム50は、電子黒板2cとPC8との間で通信ネットワーク9bを介してコンテンツデータを送信するための通信を確立させる制御を行う(ステップS45)。通信を確立させる方法は、特に限定されないが、例えば、通信ネットワーク9bにコンテンツデータを中継する中継装置30が設けられている場合には、この中継装置に接続するための接続情報を、管理システム50が電子黒板2c及びPC8へ、送信する方法が挙げられる。また、管理システム50は、中継装置30へ、電子黒板2cとPC8との間でコンテンツデータの中継開始の要求を送信してもよい。上記の制御に基づいて、電子黒板2cとPC8との間の通信が確立される(ステップS46)。これにより、電子黒板2c及びPC8は、通信相手との間でコンテンツデータを送受信することができるようになる。なお、本実施形態では、電子黒板2c及びPC8の間で送信されるコンテンツデータは、会議資料の表示データ(映像データ又は静止画データ)を含む場合について説明する。
(出力画像の表示)
続いて、図10を用いて、遠隔共有処理における出力画像が表示される処理について説明する。
PC8の表示制御部82は、ディスプレイ820に表示された会議画像を含む表示データを取得する(ステップS51)。PC8の通信制御部81は、取得された表示データを、中継装置30を介して、電子黒板2cのクライアント部80へ送信する(ステップS52)。PC8によって送信された表示データは、電子黒板2cの通信制御部81によって受信される。電子黒板2cの通信制御部81は、受信した表示データを記憶部2000に記憶する。
電子黒板2cのクライアント部20の取得部22Bは、記憶部2000に記憶されている表示データを取得する(ステップS53)。電子黒板2cのクライアント部20の変換部22Xは、取得部22Bによって取得された表示データが動画データである場合、動画データをレンダリングすることにより、静止画データとしての各フレームデータを生成しても良い。電子黒板2cのクライアント部20の変換部22Xは、取得部22Bによって取得された表示データを、通信アプリA11によって送信可能な形式として、テキスト形式に変換する(ステップS54)。変換部22Xは、テキスト形式に変換された表示データをシリアライズする(ステップS55)。電子黒板2cの通信制御部21は、通信ネットワーク9aを介して、主催装置である電子黒板2aの通信制御部91にシリアライズされた表示データを送信する(ステップS56−1)。
電子黒板2aの通信制御部91は、電子黒板2cから送られて来た表示データを受信すると、この表示データを電子黒板2aのクライアント部20へ送信する。送信された表示データは電子黒板2aのクライアント部20の通信制御部21によって受信される。クライアント部20の描画制御部22における変換部22Xは、表示データをデシリアライズする(ステップS57−1)。更にデシリアライズされた表示データは変換部22Xによって実データ(バイナリ)に変換される(ステップS58−1)。ステップS58−1の処理の一環として、ページ処理部22Zは、得られた実データから、メディアデータID、データ種類、記録時刻、座標、画像のサイズ、及び画像のデータを抽出して、ページデータ記憶部220におけるメディアデータのテーブル(表4参照)に登録する。
重畳部22Yは、ページデータ記憶部220において管理されている優先順位(表5参照)に従って、背景画像のレイヤ140dに、ストローク画像のレイヤ140c、出力画像のレイヤ140b、UI画像のレイヤ140aを順に重ねた重畳画像をディスプレイ3aに表示させる(ステップS59−1)。出力画像のレイヤ140bには、重畳部22Yによって出力画像が形成される。この出力画像は、メディアデータのテーブルに登録された会議画像のデータに基づくものである。また、出力画像のレイヤ140bにおいて出力画像は、メディアデータのテーブルに登録された座標に、メディアデータのテーブルに登録されたサイズに形成される。図14(A)は、ディスプレイ3aの表示例を示す。図14(A)は、ストローク画像がまだ生成されていないため、ストローク画像が出力されていない例を示している。また、UI画像、及び背景画像は、予め記憶部2000に記憶されているデータに基づいて生成される。
また、電子黒板2aの通信制御部91は、電子黒板2cから送られて来たシリアライズされた表示データを電子黒板2b,2cのクライアント部20へ送信する(ステップS56−2,S56−3)。送信された表示データは電子黒板2b,2cのクライアント部20の通信制御部21によって受信される。電子黒板2b,2cのクライアント部20は、ディスプレイ3b,3cに、電子黒板2aから送られて来た表示データに基づく出力画像が含まれた重畳画像を表示する。この処理は、電子黒板2aのクライアント部20におけるステップS57−1乃至S59−1の処理と同様であるので説明を省略する(ステップS57−2乃至S59−2、及びS57−3乃至S59−3)
(重畳画像の表示)
続いて、図11を用いて、ストローク画像を含む重畳画像を表示する処理について説明する。
まず、電子黒板2bのユーザが電子ペン4bを用いて電子黒板2bにストローク画像を描画すると、ストローク処理部22Aは、電子ペン4bとディスプレイ3bとの接触部の座標位置に基づいて、描画されたストロークのストロークデータを生成する。これにより、取得部22Bはストロークデータの入力を受け付ける(ステップS61)。このストロークデータは上記の表1乃至表3に示されている各パラメータを含む。変換部22Xは、複数のストローク単位のストロークデータをまとめることでシリアライズ(直列化)する(ステップS62)。電子黒板2bの通信制御部21は、通信ネットワーク9aを介して、主催装置である電子黒板2aの通信制御部91にシリアライズされたストロークデータを送信する(ステップS63−1)。なお、電子黒板2bは、描画される度に、ストロークデータを主催装置である電子黒板2aに順次送信しても良い。
電子黒板2aの通信制御部91は、電子黒板2bから送られて来たストロークデータを受信すると、このストロークデータを電子黒板2aのクライアント部20へ送信する。送信されたストロークデータは電子黒板2aのクライアント部20の通信制御部21によって受信される。クライアント部20の描画制御部22における変換部22Xは、ストロークデータをデシリアライズ(並列化)する(ステップS64)。デシリアライズされたストロークデータは、ページ処理部22Zによってページデータ記憶部220に記憶される。続いて、重畳部22Yは、ページデータ記憶部220に記憶されているストロークデータに基づいて、ストローク単位のデータを合成した合成後のストローク画像を生成する。重畳部22Yは、重畳画像を表示するときの各レイヤの優先順位を管理する(ステップS65)。
ステップS65の処理について図12を用いて詳細に説明する。図12は、重畳画像を管理する処理を示したフロー図である。まず、重畳部22Yは、ページデータ記憶部220に新たに記録されたストロークデータのうちX座標値及びY座標値(表3参照)を参照する(ステップS65−1)。また、重畳部22Yは、ページデータ記憶部220に記録されたメディアデータのうちX座標値、Y座標値、幅、高さ(表4参照)を参照する(ステップS65−2)。
続いて、重畳部22Yは、新たに記録されたストロークデータに基づいて新たに表示するストロークが、メディアデータに基づく出力画像の表示領域と重なるか否かを判断する(ステップS65−3)。表4のメディアデータの例では、X座標値が1400から1800、Y座標値が50から350の範囲140baに出力画像が表示される。ここで、新たに記録されたストロークデータのX座標値が1350、Y座標値が300であれば、ステップS65−3でNOと判断され、新たに記録されたストロークデータのX座標値が1650、Y座標値が300であれば、ステップS65−3でYESと判断される。
ステップS65−3でYESと判断された場合、重畳部22Yは、ストローク画像のレイヤ140cの表示を出力画像のレイヤ140bに対して優先する旨の決定をする(ステップS65−4)。ステップS65−3でNOと判断された場合、重畳部22Yは、出力画像のレイヤ140bの表示をストローク画像のレイヤ140cに対して優先する旨の決定をする(ステップS65−5)。
続いて、重畳部22Yは、ステップS65−4又はS65−5の決定に基づいて、各レイヤの優先順位をページデータ記憶部220(表5)において管理する(ステップS65−6)。例えば、ステップS65−4において、ストローク画像のレイヤ140cの表示を優先する旨の決定がされた場合、重畳部22Yは、優先順位を表6の状態となるように管理する。一方、ステップS65−5において、出力画像のレイヤ140cの表示を優先する旨の決定がされた場合、重畳部22Yは、優先順位を表5の状態となるように管理する。
Figure 0006540367
重畳部22Yは、ページデータ記憶部220において管理されている優先順位に従って、重畳画像をディスプレイ3a上に表示させる(ステップS66)。例えば、優先順位のテーブルが表5の状態である場合、重畳部22Yは、背景画像のレイヤ140dに、ストローク画像のレイヤ140c、出力画像のレイヤ140b、UI画像のレイヤ140aを順に重ねた重畳画像をディスプレイ3aに表示させる。図14(B)は、出力画像のレイヤの表示を優先するときの表示例である。また、優先順位のテーブルが表6の状態である場合、重畳部22Yは、背景画像のレイヤ140d上に、出力画像のレイヤ140b、ストローク画像のレイヤ140c、UI画像のレイヤ140aを順に重ねた重畳画像をディスプレイ3a上に表示させる。図14(C)は、ストローク画像のレイヤの表示を優先するときの表示例である。
また、電子黒板2aの通信制御部91は、電子黒板2bから送られて来たシリアライズされているストロークデータを電子黒板2b,2cのクライアント部20へ送信する(ステップS63−2,S63−3)。送信されたストロークデータは電子黒板2b,2cのクライアント部20の通信制御部21によって受信される。電子黒板2b,2cのクライアント部20は、ディスプレイ3b,3cに、重畳画像を表示する。この処理は、電子黒板2aのクライアント部20におけるステップS64乃至S66の処理と同様であるので説明を省略する(ステップS68乃至S71)。なお、電子黒板2a,2cにおいてストローク画像を描画したときの処理は、電子黒板2bのクライアント部20が、電子黒板2a,2cのクライアント部20に置き換わる点を除きステップS61乃至S71の処理と同様であるので説明を省略する。
なお、上記の実施形態では、ストローク画像のレイヤ140cの表示が優先されるように制御された後、出力画像が表示される範囲とは異なる範囲にストロークが入力されると、ステップS65−3でNOと判断される。これにより、端末10の重畳部22Yの処理によって、自動的に出力画像のレイヤ140bの表示が再び優先されるようになる(ステップS65−5参照)。
<<実施形態の変形例>>
続いて実施形態の変形例について上記の実施形態とは異なる点を説明する。変形例において、端末10は、出力画像のレイヤ140b及びストローク画像のレイヤ140cのうち、優先して表示するレイヤの透過度を制御する。図13は、透過度を制御する処理を示したフロー図である。
図14(D)は、ディスプレイの表示例である。端末10の重畳部22Yは、透過度を設定するためのスライダ140asがUI画像のレイヤ140aに含まれる重畳画像を表示する。ユーザは、スライダ140asの位置を左右に操作することができる。
取得部22Bは、操作後のスライダ140asの位置に応じて、優先して表示するレイヤの透過度の設定入力を受け付ける(ステップS81)。重畳部22Yは、操作後のスライダ140asの位置が左端部であれば、例えば、透過度100%の設定入力を受け付ける。また、重畳部22Yは、操作後のスライダ140asの位置が右端部であれば、例えば、透過度0%の設定入力を受け付ける。また、重畳部22Yは、操作後のスライダ140asの位置が中間部であれば、その位置に応じた透過度の設定入力を受け付ける。
重畳部22Yは、ページデータ記憶部220において管理されている優先順位に従って、重畳画像をディスプレイ3aに表示させる。このとき、重畳部22Yは、出力画像のレイヤ140b及びストローク画像のレイヤ140cのうち、優先して表示するレイヤの透過度を、設定入力された透過度に制御する(ステップS82)。図14(D)のようにストローク画像のレイヤ140cの表示が優先されているときに、例えば、透過度を80%にする設定入力が受け付けられると、ストロークを透過して出力画像を視認可能となる。
<<実施形態の主な効果>>
上記実施形態の表示制御方法によると、端末10(表示制御装置の一例)の取得部22B(入力受付手段の一例)は、電子ペン4bとディスプレイ3bとの接触部の座標を含むストロークデータ(位置情報の一例)の入力を受け付ける(入力受付処理の一例)。また、端末10(通信端末の一例)の通信制御部21(受信手段の一例)は、他の端末10又は自端末のサーバ部90によって送信されたストロークデータを受信する(受信処理の一例)。重畳部22Y(表示制御手段の一例)は、入力又は受信されたストロークデータによって示される位置にストローク画像(第1の画像の一例)が形成されるストローク画像のレイヤ140c(第1のレイヤの一例)、及びメディアデータ(画像情報の一例)に基づく出力画像(第2の画像の一例)が形成される出力画像のレイヤ140b(第2のレイヤの一例)を重ねた重畳画像の表示を制御する(表示制御処理の一例)。出力画像と重なる位置にストローク画像が形成されるときに、重畳部22Yは、ストローク画像のレイヤ140cに出力画像のレイヤ140bを重ねた重畳画像から、出力画像のレイヤ140bにストローク画像のレイヤ140cを重ねた重畳画像に表示を切り換える制御を実行する。これにより、デフォルトで出力画像のレイヤ140bを優先して表示するように予め設定されていた場合でも、出力画像と重なる範囲にストローク画像が形成されるときに、ストローク画像の表示が妨げられることを防ぐことができる。
新たに入力されたストローク情報に基づいて、出力画像と重ならない位置にストローク画像が形成されるときに、重畳部22Yは、出力画像のレイヤ140bにストローク画像のレイヤ140cを重ねた重畳画像から、ストローク画像のレイヤ140cに出力画像のレイヤ140bを重ねた重畳画像に表示を切り換える制御を実行する。これにより、ストローク画像の表示が優先され続けることで、出力画像の表示が妨げられることを防ぐことができる。
取得部22B(設定入力受付手段の一例)は、操作後のスライダ140asの位置に応じて、レイヤの透過度の設定入力を受け付ける。重畳部22Yは、ストローク画像のレイヤ140c及び出力画像のレイヤ140bのうち一方のレイヤを、設定入力に基づく透過度に設定して、他方のレイヤに重ねた重畳画像を表示する制御を実行する。これにより、ストローク画像と出力画像とが重なる場合でも、ユーザは、両方の画像を同時に視認することができる。
メディアデータは他の端末10によって送信され、自端末において受信したものであっても良い。これにより、ストローク画像に加えて、メディアデータに基づく出力画像を自端末と他の端末10との間で共有できるようになる。
<<実施形態の補足>>
通信アプリA11,B10,B11は、インストール可能な形式又は実行可能な形式のファイルによって、コンピュータで読み取り可能な記録媒体に記録されて流通されるようにしてもよい。また、上記記録媒体の他の例として、CD−R(Compact Disc Recordable)、DVD(Digital Versatile Disk)、ブルーレイディスク等が挙げられる。また、上記記録媒体、あるいは、これらプログラムが記憶されたHD(Hard Disk)は、プログラム製品(Program Product)として、国内又は国外へ提供可能である。
また、上記実施形態における電子黒板2、PC8、中継装置30、及び管理システム50は、単一の装置によって構築されてもよいし、各部(機能又は手段)を分割して任意に割り当てられた複数の装置によって構築されていてもよい。
また、上記では、画像共有可能な装置の一例として電子黒板2及びPC8について説明したが、これに限るものではない。例えば、画像共有可能な装置として、上記の電子黒板2及びPC8の有する各機能を搭載可能な他の装置を用いることもできる。他の装置としては、例えば、テレビ会議端末、プロジェクター、デジタルサイネージ、テキスト共有装置、カーナビゲーション端末、ゲーム機、PDA(Personal Digital Assistant)、遠隔診断装置等が挙げられる。
1 通信システム
2 電子黒板
3 ディスプレイ
4 電子ペン
5 USBメモリ
6 ノートPC
8 PC
9a,9b 通信ネットワーク
20 クライアント部
21 通信制御部
22 描画制御部
22A ストローク処理部
22B 取得部
22X 変換部
22Y 重畳部
22Z ページ処理部
220 ページデータ記憶部
30 中継装置
50 管理システム
80 クライアント部
81 通信制御部
82 表示制御部
90 サーバ部
91 通信制御部
2000 記憶部
8000 記憶部
特開2015−70345号公報

Claims (9)

  1. ユーザによって描画されたストローク画像の座標情報を含むストロークデータの入力を受け付ける取得部と、
    入力された前記ストロークデータによって示される位置に前記ストローク画像が形成される第1のレイヤの上に、画像情報に基づく出力画像が形成される第2のレイヤを重ねた第1の重畳画像を表示させる重畳部と、
    を有し、
    前記重畳部は、
    前記出力画像と重なる位置に第1のストローク画像が形成されるときに、前記第1の重畳画像から、前記第2のレイヤの上に前記第1のレイヤを重ねた第2の重畳画像に表示を切り換えるとともに、
    前記第2の重畳画像に表示を切り替えた後に、前記出力画像と重ならない位置に第2のストローク画像が形成されるときに、前記第2の重畳画像から前記第1の重畳画像に表示を切り替える
    ことを特徴とする表示制御装置。
  2. 前記取得部は、レイヤの透過度の設定入力を受け付け
    前記重畳部は、前記第1のレイヤ及び前記第2のレイヤのうち一方のレイヤを前記設定入力に基づく透過度に設定して、他方のレイヤに重ねた重畳画像を表示する制御を実行することを特徴とする請求項に記載の表示制御装置。
  3. 他の通信端末によって送信される、描画されたストローク画像の座標情報を含むストロークデータを受信する通信制御部と、
    受信された前記ストロークデータによって示される位置に前記ストローク画像が形成される第1のレイヤの上に、画像情報に基づく出力画像が形成される第2のレイヤを重ねた第1の重畳画像を表示させる重畳部と、
    を有し、
    前記重畳部は、
    前記出力画像と重なる位置に第1のストローク画像が形成されるときに、前記第1の重畳画像から、前記第2のレイヤの上に前記第1のレイヤを重ねた第2の重畳画像に表示を切り換えるとともに、
    前記第2の重畳画像に表示を切り替えた後に、前記出力画像と重ならない位置に第2のストローク画像が形成されるときに、前記第2の重畳画像から前記第1の重畳画像に表示を切り替える
    ことを特徴とする通信端末。
  4. 前記画像情報は、前記他の通信端末によって送信され、当該通信端末において受信した画像情報であることを特徴とする請求項に記載の通信端末。
  5. 請求項3又は4に記載の通信端末と、
    前記他の通信端末と、
    を有することを特徴とする通信システム。
  6. 表示制御装置が、
    ユーザによって描画されたストローク画像の座標情報を含むストロークデータの入力を受け付ける入力受付処理と、
    入力された前記ストロークデータによって示される位置に前記ストローク画像が形成される第1のレイヤの上に、画像情報に基づく出力画像が形成される第2のレイヤを重ねた第1の重畳画像を表示させる表示制御処理と
    実行し、
    前記表示制御処理は、
    前記出力画像と重なる位置に第1のストローク画像が形成されるときに、前記第1の重畳画像から、前記第2のレイヤの上に前記第1のレイヤを重ねた第2の重畳画像に表示を切り換えるとともに、
    前記第2の重畳画像に表示を切り替えた後に、前記出力画像と重ならない位置に第2のストローク画像が形成されるときに、前記第2の重畳画像から前記第1の重畳画像に表示を切り替える
    ことを特徴とする表示制御方法。
  7. 通信端末が、
    他の通信端末によって送信される、描画されたストローク画像の座標情報を含むストロークデータを受信する受信処理と、
    受信された前記ストロークデータによって示される位置に前記ストローク画像が形成される第1のレイヤの上に、画像情報に基づく出力画像が形成される第2のレイヤを重ねた第1の重畳画像を表示させる表示制御処理と
    実行し、
    前記表示制御処理は、
    前記出力画像と重なる位置に第1のストローク画像が形成されるときに、前記第1の重畳画像から、前記第2のレイヤの上に前記第1のレイヤを重ねた第2の重畳画像に表示を切り換えるとともに、
    前記第2の重畳画像に表示を切り替えた後に、前記出力画像と重ならない位置に第2のストローク画像が形成されるときに、前記第2の重畳画像から前記第1の重畳画像に表示を切り替える
    ことを特徴とする表示制御方法。
  8. 表示制御装置に、
    ユーザによって描画されたストローク画像の座標情報を含むストロークデータの入力を受け付ける入力受付処理と、
    入力された前記ストロークデータによって示される位置に前記ストローク画像が形成される第1のレイヤの上に、画像情報に基づく出力画像が形成される第2のレイヤを重ねた第1の重畳画像を表示させる表示制御処理と
    実行させ、
    前記出力画像と重なる位置に第1のストローク画像が形成されるときに、前記第1の重畳画像から、前記第2のレイヤの上に前記第1のレイヤを重ねた第2の重畳画像に表示を切り換えるとともに、
    前記第2の重畳画像に表示を切り替えた後に、前記出力画像と重ならない位置に第2のストローク画像が形成されるときに、前記第2の重畳画像から前記第1の重畳画像に表示を切り替える
    ことを特徴とするプログラム。
  9. 通信端末に、
    他の通信端末によって送信される、描画されたストローク画像の座標情報を含むストロークデータを受信する受信処理と、
    受信された前記ストロークデータによって示される位置に前記ストローク画像が形成される第1のレイヤの上に、画像情報に基づく出力画像が形成される第2のレイヤを重ねた第1の重畳画像を表示させる表示制御処理と
    実行させ、
    前記表示制御処理は、
    前記出力画像と重なる位置に第1のストローク画像が形成されるときに、前記第1の重畳画像から、前記第2のレイヤの上に前記第1のレイヤを重ねた第2の重畳画像に表示を切り換えるとともに、
    前記第2の重畳画像に表示を切り替えた後に、前記出力画像と重ならない位置に第2のストローク画像が形成されるときに、前記第2の重畳画像から前記第1の重畳画像に表示を切り替える
    ことを特徴とするプログラム。
JP2015163715A 2015-08-21 2015-08-21 表示制御装置、通信端末、通信システム、表示制御方法、及びプログラム Expired - Fee Related JP6540367B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2015163715A JP6540367B2 (ja) 2015-08-21 2015-08-21 表示制御装置、通信端末、通信システム、表示制御方法、及びプログラム
EP16183913.9A EP3133808B1 (en) 2015-08-21 2016-08-12 Apparatus, system, and method of controlling display of image, and carrier means
US15/236,598 US10297058B2 (en) 2015-08-21 2016-08-15 Apparatus, system, and method of controlling display of image, and recording medium for changing an order or image layers based on detected user activity

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015163715A JP6540367B2 (ja) 2015-08-21 2015-08-21 表示制御装置、通信端末、通信システム、表示制御方法、及びプログラム

Publications (2)

Publication Number Publication Date
JP2017041178A JP2017041178A (ja) 2017-02-23
JP6540367B2 true JP6540367B2 (ja) 2019-07-10

Family

ID=57083041

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015163715A Expired - Fee Related JP6540367B2 (ja) 2015-08-21 2015-08-21 表示制御装置、通信端末、通信システム、表示制御方法、及びプログラム

Country Status (3)

Country Link
US (1) US10297058B2 (ja)
EP (1) EP3133808B1 (ja)
JP (1) JP6540367B2 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2016208396A1 (ja) * 2015-06-23 2016-12-29 株式会社リコー 通信端末、管理システム、通信システム、表示方法、及びプログラム
JP6661940B2 (ja) 2015-09-29 2020-03-11 株式会社リコー 通信端末、通信システム、制御方法、及びプログラム
JP6772505B2 (ja) * 2016-03-25 2020-10-21 ブラザー工業株式会社 プログラム及び端末装置
JP6988060B2 (ja) 2016-05-25 2022-01-05 株式会社リコー 画像処理装置、画像処理システム、画像処理方法及びプログラム
US20220051006A1 (en) * 2020-08-17 2022-02-17 Konica Minolta Business Solutions U.S.A., Inc. Method for real time extraction of content written on a whiteboard

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE69315969T2 (de) * 1992-12-15 1998-07-30 Sun Microsystems Inc Darstellung von Informationen in einem Anzeigesystem mit transparenten Fenstern
TW357312B (en) * 1994-05-23 1999-05-01 Ibm Method and apparatus for locating specific information from a plurality of information
US20060041564A1 (en) * 2004-08-20 2006-02-23 Innovative Decision Technologies, Inc. Graphical Annotations and Domain Objects to Create Feature Level Metadata of Images
US7933956B2 (en) * 2006-01-24 2011-04-26 Simulat, Inc. System and method to create a collaborative web-based multimedia layered platform
CN100530343C (zh) * 2006-03-15 2009-08-19 深圳迈瑞生物医疗电子股份有限公司 多屏合成显示装置及方法
JP4894727B2 (ja) * 2007-10-31 2012-03-14 ブラザー工業株式会社 ヘルプ表示装置およびプログラム
US20100057566A1 (en) * 2008-09-03 2010-03-04 Oded Itzhak System and method for multiple layered pay-per-click advertisements
US9134789B2 (en) * 2009-07-14 2015-09-15 Adobe Systems Incorporated Multi-layer computer application with a transparent portion
JP5625615B2 (ja) * 2010-08-20 2014-11-19 株式会社リコー 電子情報ボード装置
CN103459555B (zh) * 2011-03-28 2016-01-13 三菱化学株式会社 液晶元件及液晶组合物
US20140160153A1 (en) * 2012-12-07 2014-06-12 Jatinder Pal Singh Method and system for real-time learning and collaboration solution
JP2014238449A (ja) * 2013-06-06 2014-12-18 株式会社リコー 画像処理装置
JP2015026912A (ja) 2013-07-24 2015-02-05 株式会社リコー 信号判定装置、光投射装置、及び信号判定方法
JP6094550B2 (ja) * 2013-09-17 2017-03-15 株式会社リコー 情報処理装置、プログラム
JP6143100B2 (ja) 2013-09-27 2017-06-07 株式会社リコー 画像処理装置及び画像処理システム
JP2015103106A (ja) 2013-11-26 2015-06-04 株式会社リコー 通信装置、及び通信プログラム
JP2015106333A (ja) * 2013-12-02 2015-06-08 株式会社リコー 情報入力システム、情報入力装置、情報入力方法及びプログラム
JP6307746B2 (ja) 2014-03-18 2018-04-11 株式会社リコー 宛先管理システム、通信システム、宛先管理方法、及びプログラム

Also Published As

Publication number Publication date
EP3133808A3 (en) 2017-03-08
US10297058B2 (en) 2019-05-21
EP3133808A2 (en) 2017-02-22
JP2017041178A (ja) 2017-02-23
EP3133808B1 (en) 2020-11-04
US20170053427A1 (en) 2017-02-23

Similar Documents

Publication Publication Date Title
JP7255728B2 (ja) 通信端末、通信システム、送信方法、及びプログラム
JP6798288B2 (ja) 通信端末、通信システム、映像出力方法、及びプログラム
JP6471614B2 (ja) 通信端末、通信システム、通信制御方法、及びプログラム
JP6540367B2 (ja) 表示制御装置、通信端末、通信システム、表示制御方法、及びプログラム
JP6720513B2 (ja) 通信端末、通信システム、通信制御方法、及びプログラム
JP6493546B2 (ja) 電子黒板、記憶媒体、及び情報表示方法
US10628117B2 (en) Communication terminal, communication system, display control method, and recording medium
US10511700B2 (en) Communication terminal with first application displaying status of second application
JPWO2017138223A1 (ja) 画像処理装置、画像処理システム及び画像処理方法
JP2015056030A (ja) 画像処理装置および画像処理システム
JP6911595B2 (ja) 通信端末、通信システム、出力方法、及びプログラム
JP6773145B2 (ja) 電子黒板、通信システム、通信制御方法、及びプログラム
US10356361B2 (en) Communication terminal, communication system, and display method
JP2018060513A (ja) 通信端末、通信システム、送信方法、及びプログラム
US11610560B2 (en) Output apparatus, output system, and method of changing format information
JP6776905B2 (ja) 通信端末、通信システム、表示制御方法、及びプログラム
JP7306190B2 (ja) 表示装置、表示方法、プログラム
JP2017153062A (ja) 通信端末、通信システム、出力方法、及びプログラム
JP2021165964A (ja) 表示装置、負荷制御方法、プログラム

Legal Events

Date Code Title Description
RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20180209

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180709

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190226

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190228

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190401

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190514

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190527

R151 Written notification of patent or utility model registration

Ref document number: 6540367

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees