JP2022146853A - 表示装置、プログラム、表示方法、表示システム - Google Patents
表示装置、プログラム、表示方法、表示システム Download PDFInfo
- Publication number
- JP2022146853A JP2022146853A JP2021161931A JP2021161931A JP2022146853A JP 2022146853 A JP2022146853 A JP 2022146853A JP 2021161931 A JP2021161931 A JP 2021161931A JP 2021161931 A JP2021161931 A JP 2021161931A JP 2022146853 A JP2022146853 A JP 2022146853A
- Authority
- JP
- Japan
- Prior art keywords
- display
- display device
- selection
- display area
- area
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Processing Or Creating Images (AREA)
- Facsimiles In General (AREA)
- User Interface Of Digital Computer (AREA)
Abstract
【課題】表示領域が移動された場合に特定のオブジェクトを表示領域に残して表示できる表示装置を提供すること。【解決手段】本発明は、手書き入力可能な入力可能領域の一部の表示領域を表示する表示装置であって、前記表示領域に表示されているオブジェクトの選択を受け付ける選択受付手段と、前記表示領域を移動する操作に応じて、前記オブジェクトを移動するオブジェクト管理手段と、移動された前記オブジェクトを移動された前記表示領域に表示する表示制御手段と、を有する。【選択図】図3
Description
本発明は、表示装置、プログラム、表示方法、及び、表示システムに関する。
タッチパネル式のディスプレイにユーザーが専用の電子ペンや指などの入力手段でストロークを描画し、いくつかのストロークで形成される手書きデータを表示する電子黒板などの表示装置が知られている。比較的大型のタッチパネルを備えた表示装置は会議室や公共施設などに配置され、複数のユーザーにより電子黒板などとして利用される。
表示装置の限られた表示領域を有効に活用する技術が考案されている(例えば、特許文献1参照。)。特許文献1には、操作メニューを表示領域に表示した状態で、表示領域に表示するオブジェクトをユーザーが移動させることができるナビゲーション装置が開示されている。
しかしながら、従来の技術では、表示領域が移動された場合に特定のオブジェクトを表示領域に残して表示できないという問題がある。例えば、表示領域よりも広い入力可能領域を有する表示装置の場合、ユーザーは表示領域を移動させ、移動先にできたスペースに手書きできる。しかし、議題のような手書きデータがある領域と、議題の詳細内容がある領域が離れて存在しているような場合、表示領域には手書きデータ又は議題の詳細内容のいずれかしか表示できず、ユーザーは2つの領域を交互に表示させなければならない。
本発明は、上記課題に鑑み、表示領域が移動された場合に特定のオブジェクトを表示領域に残して表示できる表示装置を提供することを目的とする。
上記課題に鑑み、本発明は、手書き入力可能な入力可能領域の一部の表示領域を表示する表示装置であって、前記表示領域に表示されているオブジェクトの選択を受け付ける選択受付手段と、前記表示領域を移動する操作に応じて、前記オブジェクトを移動するオブジェクト管理手段と、移動された前記オブジェクトを移動された前記表示領域に表示する表示制御手段と、を有する表示装置を提供する。
表示領域が移動された場合に特定のオブジェクトを表示領域に残して表示できる表示装置を提供できる。
以下、本発明を実施するための形態の一例として、表示装置と表示装置における表示方法について実施例を挙げながら説明する。
<比較技術について>
まず、本実施例の表示装置を説明するにあたって、参考となる比較技術を説明する。表示領域よりも広い手書き入力可能な入力可能領域を有する表示装置は、ユーザーの操作に応じて入力可能領域の一部を表示領域に表示する。
まず、本実施例の表示装置を説明するにあたって、参考となる比較技術を説明する。表示領域よりも広い手書き入力可能な入力可能領域を有する表示装置は、ユーザーの操作に応じて入力可能領域の一部を表示領域に表示する。
図1は、入力可能領域52と表示領域51の関係を説明する図である。図1(a)は表示装置の入力可能領域52の一例を示す。入力可能領域52とは、ユーザーがオブジェクトを手書きしたり配置したりできる全範囲である。無限の入力可能領域52を有する表示装置も存在する。表示領域51は、現在、表示装置がディスプレイに表示している入力可能領域52の一部の範囲である。ディスプレイの全画面が表示領域51の場合、表示領域51はディスプレイの広さと同じである。
図1(c)は、図1(a)の表示領域51が、実際に、ディスプレイに表示された表示領域51を示す。
ユーザーがスワイプ操作で表示領域51を図1(a)の状態から図1(b)のように移動した場合、ディスプレイには図1(d)のように表示される。スワイプとは、タッチパネルを指で押した状態のまま、上下左右にスライドさせる動作をいう。
このように、表示領域51には入力可能領域52の一部しか表示されないので、ユーザーが参照したいオブジェクトを表示させる場合、スワイプ操作が議論の中断につながってしまう場合がある。
<本実施形態の表示装置の概略>
そこで、本実施形態では、オブジェクトをピン留めするための透明なレイヤー(ピン留めレイヤー)を採用する。
そこで、本実施形態では、オブジェクトをピン留めするための透明なレイヤー(ピン留めレイヤー)を採用する。
図2は、レイヤーの関係を説明する図である。表示装置は、視線方向の奥から、描画レイヤー54、及び、ピン留めレイヤー53を有している。
・描画レイヤー54は全てのオブジェクトを含むレイヤーである。
・ピン留めレイヤー53は、常に描画レイヤー54よりも視線の手前側に位置している。ピン留めレイヤー53は表示領域51に固定されるレイヤーである。つまり、表示領域51が移動してもピン留めレイヤー53にピン留めされたオブジェクトは常に表示される。
・描画レイヤー54は全てのオブジェクトを含むレイヤーである。
・ピン留めレイヤー53は、常に描画レイヤー54よりも視線の手前側に位置している。ピン留めレイヤー53は表示領域51に固定されるレイヤーである。つまり、表示領域51が移動してもピン留めレイヤー53にピン留めされたオブジェクトは常に表示される。
描画レイヤー54は1画素をRGBで表現する。ピン留めレイヤー53は描画レイヤー54のオブジェクトが一時的に記録され、オブジェクト以外の画素は透明(値がゼロ)である。ピン留めレイヤー53にあるオブジェクトは描画レイヤー54の画素を上書きして表示領域51に表示される。
例えば以下の操作により、ユーザーがオブジェクトをピン留めできる。
(i) ユーザーが入力手段でピン留めしたいオブジェクトを長押し、表示されたピン留めボタンを押下する。
(ii) ユーザーが所定のマークを手書きし、更に、手書きデータで領域を囲むと、囲んだ領域をピン留めすることができる。
(i) ユーザーが入力手段でピン留めしたいオブジェクトを長押し、表示されたピン留めボタンを押下する。
(ii) ユーザーが所定のマークを手書きし、更に、手書きデータで領域を囲むと、囲んだ領域をピン留めすることができる。
なお、ユーザーはピン留めしたオブジェクトや領域を解除することができる。
図3を参照して、オブジェクトのピン留めについて説明する。図3は、ピン留めレイヤー53にピン留めされたオブジェクトの表示例を示す。
図3(a)は、入力可能領域52のオブジェクトAとオブジェクトBを示す。点線で示す領域が表示領域51である。表示領域51の左上の角の座標を原点(0,0)とし、オブジェクトの左上の座標を起点座標、右下の座標を終点座標とする。
ユーザーがオブジェクトBを長押しすると表示装置は、表を選択状態にすると共に、ピン留めをするためのピン留めボタン9を表示する(図3(b))。
ユーザーがピン留めボタン9を押下すると、表示装置は描画レイヤー54からオブジェクトBを削除し、ピン留めレイヤー53にオブジェクトBを追加する。
次に、ユーザーは議題の「機材の予約」についての議事メモを書くために、スペースにオブジェクトCを手書きで追加する(図3(c))。
ユーザーが議題の「タイムテーブル決め」についての議事メモを書こうとするが、スペースがないため、表示領域51を左上にスワイプする。オブジェクトBは表示領域51に対し座標の変化がないため表示位置は変わらない。すなわち、移動後の表示領域51において、オブジェクトBの選択を受け付けた時の表示領域51におけるオブジェクトBの位置と同じ位置にオブジェクトBが表示される。
表示領域51が入力可能領域52の移動先に移動されると、オブジェクトBの右側にスペースが得られる(図3(d))。よって、ユーザーは議題の「タイムテーブル決め」についての議事メモを手書きできる。
このように、本実施形態の表示装置はピン留めされたオブジェクトを表示領域51に常に表示することができる。
<用語について>
入力手段とはタッチパネルに座標を指定して手書きが可能な手段であればよい。例えば、電子ペン、人の指や手、棒状部材などがある。
入力手段とはタッチパネルに座標を指定して手書きが可能な手段であればよい。例えば、電子ペン、人の指や手、棒状部材などがある。
ユーザーがディスプレイに入力手段を押しつけてから連続的に移動させた後、ディスプレイから離すという一連の操作をストロークという。ストロークデータとは、入力手段により入力される座標の軌跡に基づいてディスプレイに表示される情報である。ストロークデータは適宜、補間されてよい。手書きデータとは、1つ以上のストロークデータを有するデータである。手書き入力とは、ユーザーによって、手書きデータが入力されることを示している。
手書きデータが文字認識して変換された文字列には、テキストデータの他、「済」などの決まった文字やマークとして表示されるスタンプ、円、矩形、直線、星などの図形、吹き出し、及び、付箋など、ユーザーの操作に基づいて表示されたデータも含まれてよい。文字列とは、コンピュータで扱われる1つ以上の文字である。文字列の実態は文字コードである。文字には、数字、アルファベット、及び、記号等が含まれる。文字列はテキストデータとも言われる。
ディスプレイに表示される表示物をオブジェクトという。オブジェクトとは対象という意味であるが、本実施形態では表示対象などの意味である。本実施形態では、手書きデータ、文字列、図形(円、矩形、矢印等)、スタンプ、吹き出し、付箋、及び、画像などもオブジェクトである。
表示部品とは、画面に表示されるボタンやアイコンである。例えば、ピン留めボタン9は表示部品である。
<構成例>
図4は、表示装置2の概略斜視図の一例を示す。表示装置2をユーザー(利用者)が利用している。本実施形態の表示装置2は、ユーザーが手又は電子ペン2500などの入力手段291でディスプレイ220上に手書きを行うことができる。
図4は、表示装置2の概略斜視図の一例を示す。表示装置2をユーザー(利用者)が利用している。本実施形態の表示装置2は、ユーザーが手又は電子ペン2500などの入力手段291でディスプレイ220上に手書きを行うことができる。
図4の表示装置2は横置きされているが、縦置きすることも可能である。ユーザーは表示装置2をディスプレイ220の中心を軸に回転させて、横置きと縦置きを切り替えることができる。
<ハードウェア構成例>
図5は、表示装置2のハードウェア構成の一例を示す図である。本実施形態の表示装置2は、CPU(Central Processing Unit)201、ROM(Read Only Memory)202、RAM(Random Access Memory)203、SSD(Solid State Drive)204、ネットワークコントローラ205、及び、外部機器接続I/F206(Interface)を備えており、複数のユーザーにより情報を共有するための共有端末である。
図5は、表示装置2のハードウェア構成の一例を示す図である。本実施形態の表示装置2は、CPU(Central Processing Unit)201、ROM(Read Only Memory)202、RAM(Random Access Memory)203、SSD(Solid State Drive)204、ネットワークコントローラ205、及び、外部機器接続I/F206(Interface)を備えており、複数のユーザーにより情報を共有するための共有端末である。
これらのうち、CPU201は、表示装置2全体の動作を制御する。ROM202は、CPU201やIPL(Initial Program Loader)等のCPU201の駆動に用いられるプログラムを記憶する。RAM203は、CPU201のワークエリアとして使用される。
SSD204は、表示装置2用のプログラム等の各種データを記憶する。このプログラムは汎用的なOS(Windows(登録商標)、Mac OS(登録商標)、Android(登録商標)、iOS(登録商標)等)を搭載した情報処理装置で動作するアプリケーションでもよい。この場合、表示装置2は、普段は汎用的な情報処理端末として利用されるが、ユーザーがインストールされたアプリケーションプログラムを実行すると、表示装置としての専用機と同様、ユーザーが手書き等することができる。
ネットワークコントローラ205は、ネットワークとの通信を制御する。外部機器接続I/F206は、USB(Universal Serial Bus)メモリー2600、外付け機器(カメラ2400、スピーカ2300、マイク2200)との通信を制御する。
また、表示装置2は、キャプチャデバイス211、GPU212、ディスプレイコントローラ213、接触センサ214、センサコントローラ215、電子ペンコントローラ216、近距離通信部219、及び近距離通信部219のアンテナ219aを備えている。
これらのうち、キャプチャデバイス211は、PC10のディスプレイに対して映像情報を静止画又は動画として表示させる。GPU(Graphics Processing Unit)212は、グラフィクスを専門に扱う半導体チップである。ディスプレイコントローラ213は、GPU212からの出力画像をディスプレイ220等へ出力するために画面表示の制御及び管理を行う。
接触センサ214は、ディスプレイ220上に電子ペン2500やユーザーの手H等が接触したことを検知する。電子ペン2500と手Hを区別しない場合、入力手段291という。
センサコントローラ215は、接触センサ214の処理を制御する。接触センサ214は、赤外線遮断方式による座標の入力及び座標の検出を行う。この座標の入力及び座標の検出する方法は、ディスプレイ220の上側両端部に設置された2つ受発光装置が、ディスプレイ220に平行して複数の赤外線を放射し、ディスプレイ220の周囲に設けられた反射部材によって反射されて、受光素子が放射した光の光路と同一の光路上を戻って来る光を受光する方法であっても良い。
接触センサ214は、物体によって遮断された2つの受発光装置が放射した赤外線のIDをセンサコントローラ215に出力し、センサコントローラ215が、物体の接触位置である座標位置を特定する。電子ペンコントローラ216は、電子ペン2500と通信することで、ディスプレイ220へのペン先のタッチやペン尻のタッチの有無を判断する。近距離通信部219は、NFC、Bluetooth(登録商標)等の通信回路である。
更に、表示装置2は、バスライン210を備えている。バスライン210は、CPU201等の各構成要素を電気的に接続するためのアドレスバスやデータバス等である。
なお、接触センサ214は、赤外線遮断方式に限らず、静電容量の変化を検知することにより接触位置を特定する静電容量方式のタッチパネルでもよい。接触センサ214は、対向する2つの抵抗膜の電圧変化によって接触位置を特定する抵抗膜方式のタッチパネルでもよい。接触センサ214は、接触物体が表示部に接触することによって生じる電磁誘導を検知して接触位置を特定する電磁誘導方式のタッチパネルでもよい。接触センサ214は、これら種々の検出手段を用いて良い。また、電子ペンコントローラ216が、電子ペン2500のペン先及びペン尻だけでなく、電子ペン2500のユーザーが握る部分や、その他の電子ペンの部分のタッチの有無を判断するようにしても良い。
<機能について>
図6は、表示装置2の機能をブロック状に分けて説明する機能ブロック図の一例を示す図である。図6に示す表示装置2は、描画オブジェクト管理部11、接触位置検出部12、描画データ生成部13、表示制御部14、スワイプ操作検出部15、ネットワーク通信部16、記号認識部17、及び、会議データ記憶部39を有する。
図6は、表示装置2の機能をブロック状に分けて説明する機能ブロック図の一例を示す図である。図6に示す表示装置2は、描画オブジェクト管理部11、接触位置検出部12、描画データ生成部13、表示制御部14、スワイプ操作検出部15、ネットワーク通信部16、記号認識部17、及び、会議データ記憶部39を有する。
表示装置2が有する各機能は、図5に示されている各構成要素のいずれかが、RAM203上に展開されたアプリケーションに従ったCPU201からの命令によって動作することで実現される機能又は手段である。
接触位置検出部12は、入力手段291(指や電子ペン等)がタッチパネルに接触した位置の座標を検出する。接触位置検出部12は、LED等の発光素子からの光を検知できないフォトトランジスタの数(光が遮断された幅)が所定の数以下の場合は、電子ペン2500が接触したと判断し、所定の数より大きい場合はそれ以外の物体(例えば指)が接触したと判断する。
描画データ生成部13はユーザーが手書きすることで接触位置検出部12が検出した座標点列からストロークを生成する。また、描画データ生成部13は、ストロークの形状などから、円や矩形等の図形を生成する。
描画オブジェクト管理部11は、描画データ生成部13が生成したストロークの領域、文字列の領域、円や矩形等の図形の領域、又は、表オブジェクトの領域等をオブジェクトとして管理する。描画オブジェクト管理部11は、これらの各領域に対してオブジェクトIDを付与し、各描画オブジェクトの表示位置(ディスプレイ220の画素位置)も管理する。
表示制御部14は、これらオブジェクトやメニュー等をディスプレイ220に表示するための制御を行う。
記号認識部17は、ユーザーが手書きした「+」等の記号を、予め登録された記号データと照合して認識する。記号認識部17は、パターンマッチングを用いても、機械学習の結果を用いてもよい。
スワイプ操作検出部15は、接触位置検出部12が検出する入力手段291が電子ペン以外の場合に、接触位置検出部12が検出する座標点列を元にスワイプ操作を検出する。なお、電子ペン2500によるスワイプが可能でもよく、本実施形態では、ユーザーは入力手段291でスワイプすると説明する。
会議データ記憶部39は、会議で使用された資料やオブジェクト等をSSD204に記憶する。
ネットワーク通信部16は、LANやインターネット等のネットワークに接続して、他の機器とネットワークを介したデータの送受信を行う。
<オブジェクトの座標>
図7を参照して、描画オブジェクト管理部11が管理するオブジェクトの座標について説明する。画面など表示領域51におけるオブジェクトの座標は、表示装置2が有するディスプレイ220の表示領域51の左上の角にある画素位置を原点として、右方向をX軸の正の方向、下方向をY軸の正の方向とした表示座標で表現する。すなわち、
位置(座標)=(原点の画素からのX軸方向の画素数,原点の画素からのY軸方向の画素数)
である。
図7を参照して、描画オブジェクト管理部11が管理するオブジェクトの座標について説明する。画面など表示領域51におけるオブジェクトの座標は、表示装置2が有するディスプレイ220の表示領域51の左上の角にある画素位置を原点として、右方向をX軸の正の方向、下方向をY軸の正の方向とした表示座標で表現する。すなわち、
位置(座標)=(原点の画素からのX軸方向の画素数,原点の画素からのY軸方向の画素数)
である。
表示領域51は、表示装置2が扱う入力可能領域52のうち、現在、ディスプレイ220に表示される領域である。表示領域51自体の入力可能領域52における座標は、初期状態の表示領域51(ディスプレイ220の一部)の左上の角にある画素位置を原点とする。また、右方向をX軸の正の方向、左方向をX軸の負の方向、下方向をY軸の正の方向、上方向をY軸の負の方向とした座標で表現する。
また、描画オブジェクト管理部11はオブジェクトの領域をオブジェクトに外接する矩形で管理し、この矩形領域の左上の角にある画素位置を起点座標、矩形領域の右下の角にある画素位置を終点座標とする。
タッチパネルの座標の間隔はディスプレイ220の座標の間隔と同じであり、両者の座標は一致しているものとする。
<レイヤー構造と表示制御部との関係>
図8を参照して、レイヤー構造と表示制御部14との関係について説明する。図8は、表示制御部14が表示に用いるレイヤーを説明する図である。表示制御部14は2つのレイヤーに用いてオブジェクトを表示できる。
1.描画レイヤー54
2.ピン留めレイヤー53
どちらのレイヤーも1画素をRGBで表現するデータから構成されている。オブジェクトが生成されるとまず描画レイヤー54に追加される。
図8を参照して、レイヤー構造と表示制御部14との関係について説明する。図8は、表示制御部14が表示に用いるレイヤーを説明する図である。表示制御部14は2つのレイヤーに用いてオブジェクトを表示できる。
1.描画レイヤー54
2.ピン留めレイヤー53
どちらのレイヤーも1画素をRGBで表現するデータから構成されている。オブジェクトが生成されるとまず描画レイヤー54に追加される。
ピン留めレイヤー53はオブジェクトがピン留めされる透明なレイヤーで、常に、描画レイヤー54の上層に位置している。ピン留めレイヤー53には描画レイヤー54のオブジェクトが一時的にコピーされるが、オブジェクト以外の画素は透明である。
表示制御部14は描画レイヤー54とピン留めレイヤー53の画素をOR演算してディスプレイ220に表示する。つまり、表示制御部14は描画レイヤー54とピン留めレイヤー53の画素を合成して表示する。表示制御部14は、単に手前にあるピン留めレイヤー53の画素を優先して表示してもよい。なお、描画レイヤー54の大きさは表示装置が扱う入力可能領域52と一致している。
<ピン留めレイヤーを用いた表示例>
図9を参照して、ピン留めレイヤー53を用いたオブジェクトの表示方法を説明する。図9は、ピン留めレイヤー53に固定されたオブジェクトの表示例を示す図である。
図9を参照して、ピン留めレイヤー53を用いたオブジェクトの表示方法を説明する。図9は、ピン留めレイヤー53に固定されたオブジェクトの表示例を示す図である。
図9(a)に示すように、ユーザーは「〇×セミナー」(オブジェクトA)、議題の一覧表(オブジェクトB)を手書きした。また、ユーザーは「機材の予約」の議題についての議事メモとして「機材予約」と機材リスト(「・マイク」「・ケーブル」「・モニター」「・レーザーポインター」)を手書きした。この議事メモをオブジェクトCとする。
オブジェクトCの「機材予約」「マイク」「ケーブル」「モニター」「レーザーポインター」は、本来、それぞれが1つのオブジェクトである。しかし、本実施形態では、説明上まとめて1つのオブジェクトCと表現する。
本実施形態では、描画オブジェクト管理部11が、所定の時間、ストロークの入力がなくなった場合、又は、所定以上離れた座標にストロークが入力された場合、1つのオブジェクトの入力が完了したと判断する。このほか、オブジェクトの種類に応じてオブジェクトが区分されてもよく、本実施形態では、所定の方法でオブジェクトが区分されるものとする。
表示領域51の左上を原点(0,0)とし、オブジェクトの左上の座標を起点座標、右下の座標を終点座標とした場合、オブジェクトA,B,Cの起点座標と終点座標とレイヤー属性を表1(a)に示す。
ユーザーがストロークを書いてから所定の時間が経過せずに次のストロークを書いた場合、描画オブジェクト管理部11はそれらのストロークを1つのオブジェクトとして管理する。ユーザーがストロークを書いてから所定の時間が経過した後に書かれたストロークは、別のオブジェクトとして管理される。なお、表のオブジェクトの場合、描画オブジェクト管理部11は外枠の領域内のストロークを1つのオブジェクトとみなしてもよい。
「議題の一覧表」(オブジェクトB)の次の議題が議論される場合、この議題のメモを書くスペースが必要なため、ユーザーは「議題の一覧表」(オブジェクトB)の右側を空ける操作を行う。まず、ユーザーは「議題の一覧表」(オブジェクトB)を長押しする。描画オブジェクト管理部11は、接触位置がどのオブジェクトと重なっているか判断する。接触位置が「議題の一覧表」(オブジェクトB)の内側であったため、描画オブジェクト管理部11は「議題の一覧表」(オブジェクトB)を選択状態にし、ピン留めをするためのピン留めボタン9(第一の表示部品の一例)を表示する。
図9(b)はピン留めボタン9が表示された表のオブジェクトBを示す。ユーザーが入力手段291でピン留めボタン9を押下すると、描画オブジェクト管理部11は、描画レイヤー54にある「議題の一覧表」(オブジェクトB)に該当する画素データをピン留めレイヤー53にコピーし、描画レイヤー54にある「議題の一覧表」(オブジェクトB)に該当する画素データを削除する。この状態のオブジェクトA~Cの起点座標・終点座標を表1(b)に示す。
ユーザーは続いて、ディスプレイ220の任意の位置から任意の位置まで入力手段291でスワイプする。スワイプ操作検出部15がスワイプしていることを検出すると、表示制御部14は、所定の時間ごとに、描画レイヤー54のオブジェクトA,Cのx座標からスワイプしているx軸方向の移動量、y座標からスワイプしているy軸方向の移動量を差し引く処理を繰り返す。
表示制御部14は所定の時間ごとにオブジェクトの表示を更新する。ユーザーがスワイプをやめると描画レイヤー54のオブジェクトA,Cの起点座標はそれぞれ、(Sxa-dx, Sya-dy)と(Sxc-dx, Syc-dy)になる。
表示制御部14は表示領域51に該当するピン留めレイヤー53と描画レイヤー54の各画素についてOR演算を行ってディスプレイ220に表示する。オブジェクトBはピン留めレイヤー53にあるので、オブジェクトBの座標の変化がない(表示位置は変わらない)まま、新しい表示領域51が表示される。
図9(c)はオブジェクトA,Cが移動されてできた新しい表示領域51を示す。このように、ユーザーは「議題の一覧表」(オブジェクトB)の次の議題のメモを書くスペースを、「議題の一覧表」(オブジェクトB)の右側に生成できた。図9(c)の状態のオブジェクトA~Cの起点座標・終点座標を表1(c)に示す。
なお、オブジェクトBのピン留めの終了方法については後述する。
<動作手順>
図10は、表示装置2が表示領域に固定されたオブジェクトを表示する手順を示すフローチャート図の一例である。
図10は、表示装置2が表示領域に固定されたオブジェクトを表示する手順を示すフローチャート図の一例である。
接触位置検出部12はストロークが手書きされたか否かを判断する(S1)。
ストロークが手書きされた場合(S1のYes)、ストロークの入力が終わってから所定の時間が経過したか否かを判断する(S2)。
所定の時間が経過するまで、描画オブジェクト管理部11は仮のオブジェクトにストロークを追加していく(S3)。
所定の時間が経過すると、描画オブジェクト管理部11は仮のオブジェクトに入っている複数のストロークを1つのオブジェクトとして決定し、オブジェクトテーブルに登録する(S4)。
次に、オブジェクトが長押しされたことを接触位置検出部12が検出したかどうかを描画オブジェクト管理部11が判断する(S5)。
オブジェクトが長押しされたことを接触位置検出部12が検出した場合(S5のYes)、表示制御部14がピン留めボタン9を、長押しされたオブジェクトの周囲に表示する(S6)。
次に、ピン留めボタン9が押下されたことを接触位置検出部12が検出したかどうかを描画オブジェクト管理部11が判断する(S7)。
描画オブジェクト管理部11はピン留めレイヤー53に長押しされたオブジェクトの画素データをコピーし、描画レイヤー54から該画素データを削除する(S8)。なお、描画レイヤー54の画素データの削除は行わなくてもよいし、描画オブジェクト管理部11は描画レイヤー54の画素データを半輝度にしてコピーされたことを示してもよい。
次に、表示領域がスワイプされていることを接触位置検出部12が検出したかどうかを描画オブジェクト管理部11が判断する(S9)。なお、表示領域上の任意の位置でスワイプされていることを検出されればよく、表示領域上のオブジェクトがスワイプされていることを検出してもよい。
スワイプされてる場合、所定の時間ごとに(S10)、表示制御部14は描画レイヤー54のオブジェクトのx座標からスワイプしているx軸方向の移動量、y座標からスワイプしているy軸方向の移動量を差し引く処理を繰り返す(S11)。こうすることで、表示領域51を移動する操作を受け付けている間、表示制御部14は、オブジェクトの選択を受け付けた時の表示領域51におけるオブジェクトの位置を維持することができる。
また、表示制御部14は、描画レイヤー54の画素データとピン留めレイヤー53の画素データをOR演算して、ディスプレイ220に表示する(S12)。
スワイプが終了すると(入力手段291がディスプレイ220から離れると)、図10の処理は終了する。なお、ユーザーが入力手段291をディスプレイ220から離して再度スワイプする、ことを可能にするため、入力手段291がディスプレイ220から離れてから一定時間、入力手段291の接触が検出されない場合、接触位置検出部12がスワイプの終了を検出するとよい。
以上のように、本実施例によれば、表示装置2はピン留めされたオブジェクトを表示領域51に常に表示することができ、ユーザーがオブジェクトの周囲の新しいスペースに手書きすることができる。
本実施例では、ユーザーがオブジェクトをストロークで囲むことで選択できる表示装置2について説明する。
本実施例においては、上記の実施例にて説明した図5のハードウェア構成図、及び、図6に示した機能ブロック図を援用できるものとして説明する。
<ピン留めレイヤーを用いた表示例>
図11を参照して、ピン留めレイヤー53を用いたオブジェクトの表示方法を説明する。図11は、ピン留めレイヤー53に固定されたオブジェクトの表示例を示す図である。
図11を参照して、ピン留めレイヤー53を用いたオブジェクトの表示方法を説明する。図11は、ピン留めレイヤー53に固定されたオブジェクトの表示例を示す図である。
図11(a)に示すように、ユーザーが「〇×セミナー」(オブジェクトA)、議題の一覧表(オブジェクトB)、及び、機材の予約リスト(オブジェクトC)を手書きした。この状態のオブジェクトテーブルを表2(a)に示す。
次に、図11(b)に示すように、ユーザーがピン留め用の所定のマーク301を描いたのちに(ここでは+を丸で囲むマーク)、ピン留めしたい領域をストローク302で囲む。マーク301は一例であり、どのようなマークでもよい。
記号認識部17はユーザーが手書きしたマーク301が「+を丸で囲むマーク」だと判断した場合、描画オブジェクト管理部11はストローク302により囲まれる範囲を監視する。
描画オブジェクト管理部11はストロークで囲まれた領域に存在するオブジェクトBをピン留めレイヤー53にピン留めする。すなわち、描画オブジェクト管理部11は、描画レイヤー54にあるオブジェクトBの画素データをピン留めレイヤー53にコピーし、描画レイヤー54にあるオブジェクトBに該当する画素データを削除する。オブジェクトBが囲まれた際のオブジェクトA、B、Cの状態を表2(b)のオブジェクトテーブルに示す。
そして、ユーザーは表示領域(任意のオブジェクト又は任意の位置)のスワイプを行う。スワイプ時の表示装置2の処理は実施例1と同様でよい。表示領域(任意のオブジェクト又は任意の位置)の移動後のオブジェクトA、B、Cの状態を表2(c)のオブジェクトテーブルに示す。
図11(c)はスワイプ後の表示領域51を示す。オブジェクトBは座標の変化がないため表示位置は変わらないまま、表示装置2は新しい表示領域51を表示できる。スワイプされた後のオブジェクトA、B、Cの状態を表2(c)のオブジェクトテーブルに示す。
<動作手順>
図12は、表示装置2が表示領域に固定されたオブジェクトを表示する手順を示すフローチャート図の一例である。なお、図12の説明では主に図10との相違を説明する。
図12は、表示装置2が表示領域に固定されたオブジェクトを表示する手順を示すフローチャート図の一例である。なお、図12の説明では主に図10との相違を説明する。
記号認識部17は、ユーザーがピン留め用の所定のマーク301を手書きしたかを描画データ生成部13が生成したストロークに基づいて判断する(S21)。
ピン留め用の所定のマーク301が手書きされた場合(S21のYes)、描画オブジェクト管理部11は描画データ生成部13が生成したストローク302に基づいて、ストローク302の矩形の内側に全体が含まれるオブジェクトがあるか否かを判断する(S22,S23)。この判断において、オブジェクトの一部分がストローク302の矩形からはみ出ていてもよい。描画オブジェクト管理部11はストローク302内のオブジェクトを移動対象のオブジェクトと判断する。
ステップS24~S28の処理は図10のステップS8~S12と同様でよい。
本実施例によれば、ユーザーは、所定のマーク301とオブジェクトBを囲むストロークを手書きすることでオブジェクトBをピン留めしてその他のオブジェクトを移動させ、新しいスペースを作成できる。マーク301は一例であり、どのようなマークでもよい。また、マーク301なしに、オブジェクトBがストロークで囲まれた場合にオブジェクトBをピン留めするようにしてもよい。
本実施例では、ユーザーがオブジェクトの横で所定のマークを手書きすることでオブジェクトを選択できる表示装置2について説明する。
本実施例においては、上記の実施例にて説明した図5のハードウェア構成図、及び、図6に示した機能ブロック図を援用できるものとして説明する。
<ピン留めレイヤーを用いた表示例>
図13を参照して、ピン留めレイヤー53を用いたオブジェクトの表示方法を説明する。図13は、ピン留めレイヤー53に固定されたオブジェクトの表示例を示す図である。
図13を参照して、ピン留めレイヤー53を用いたオブジェクトの表示方法を説明する。図13は、ピン留めレイヤー53に固定されたオブジェクトの表示例を示す図である。
図13(a)に示すように、ユーザーが「〇×セミナー」(オブジェクトA)、議題である「・スケジュール周知」(オブジェクトB)、及び、「・機材の予約」(オブジェクトC)を手書きした。
次に、図13(b)に示すように、ユーザーは「機材の予約」の議題についての議事メモとして機材リスト(「・マイク」「・ケーブル」「・モニター」「・レーザーポインター」)を手書きした。機材リスト(「・マイク」「・ケーブル」「・モニター」「・レーザーポインター」)のそれぞれが1つのオブジェクトであるが、説明の便宜上、まとめてオブジェクトDとする。オブジェクトA~Dが手書きされた際のオブジェクトA~Dのオブジェクトテーブルを表3(a)に示す。
次に、図13(c)に示すように、ユーザーが所定のマーク305(ここでは+マーク)をピン留めしたい「・スケジュール周知」(オブジェクトB)の隣に手書きする。マーク305は一例であり、どのようなマークでもよい。
描画オブジェクト管理部11は、マーク305から距離mの範囲(閾値以内)に他のオブジェクトがあるか否かを判断する。仮に、マーク305と「・スケジュール周知」(オブジェクトB)、「機材予約」(オブジェクトC)が距離mの範囲にある場合、「・スケジュール周知」(オブジェクトB)と「機材予約」(オブジェクトC)を選択状態にし、ユーザーがオブジェクトB又はCを入力手段291で押下することでピン留めしたいオブジェクトを指定することができる。
あるいは、水平方向にのみマーク305から距離mの範囲にあるオブジェクトBを描画オブジェクト管理部11が特定してもよい。
記号認識部17はユーザーが手書きしたマーク305が「+マーク」だと判断すると、描画オブジェクト管理部11は描画レイヤー54にある「・スケジュール周知」(オブジェクトB)に該当する画素データをピン留めレイヤー53にコピーし、描画レイヤー54にある「・スケジュール周知」(オブジェクトB)に該当する画素データを削除する。手書きしたマーク305が「+マーク」だと判断された際のオブジェクトA~Dの状態を表3(b)のオブジェクトテーブルに示す。
そして、ユーザーは表示領域(任意のオブジェクト又は任意の位置)のスワイプを行う。スワイプ時の表示装置2の処理は実施例1と同様でよい。表示領域(任意のオブジェクト又は任意の位置)の移動後のオブジェクトA~Dの状態を表3(c)のオブジェクトテーブルに示す。
図13(d)はスワイプ後の表示領域51を示す。オブジェクトBは座標の変化がないため表示位置は変わらないまま、表示装置2は新しい表示領域51を表示できる。
<動作手順>
図14は、表示装置2が表示領域に固定されたオブジェクトを表示する手順を示すフローチャート図の一例である。なお、図14の説明では主に図10との相違を説明する。
図14は、表示装置2が表示領域に固定されたオブジェクトを表示する手順を示すフローチャート図の一例である。なお、図14の説明では主に図10との相違を説明する。
記号認識部17は、ユーザーがピン留め用の所定のマーク305を手書きしたかを描画データ生成部13が生成したストロークに基づいて判断する(S31)。
マーク305が手書きされた場合、描画オブジェクト管理部11は、マーク305から距離m以内にオブジェクトが存在するか否かを判断する(S32)。描画オブジェクト管理部11はマーク305の外接矩形とオブジェクトの外接矩形の最も近い部分の距離を比較する。描画オブジェクト管理部11はマーク305から距離m以内のオブジェクトを固定対象のオブジェクトと判断する。
ステップS33~S37の処理は図10のステップS8~S12と同様でよい。
本実施例によれば、ユーザーは、所定のマーク305を手書きすることでオブジェクトBをピン留めして他のオブジェクトを移動させ、新しいスペースを作成できる。
本実施例では、操作メニューを操作することでユーザーがオブジェクトをピン留めすることができる表示装置2について説明する。
本実施例においては、上記の実施例にて説明した図5のハードウェア構成図、及び、図6に示した機能ブロック図を援用できるものとして説明する。
<メニューレイヤーについて>
本実施例では操作メニューにピン留めボタン9があり、ユーザーはピン留めボタン9を押下することでオブジェクトをピン留めできる。
本実施例では操作メニューにピン留めボタン9があり、ユーザーはピン留めボタン9を押下することでオブジェクトをピン留めできる。
このため、図15を参照して、メニューレイヤー55について説明する。メニューレイヤー55は他のレイヤーと同じく1画素をRGBで表現する。メニューレイヤー55は機能を選択するためのボタンやアイコン等が表示されるレイヤーで、常にピン留めレイヤー53の上層に位置している。また、メニューレイヤー55の大きさは表示領域51と一致している。
表示制御部14は描画レイヤー54とピン留めレイヤー53の画素をOR演算して、更に、メニューレイヤー55で透明でない画素については、前記のOR演算した画素の値をこのメニューレイヤー55の画素の値に置き換えてディスプレイ220に表示する。つまり、表示制御部14は、メニューレイヤー55を最も手前に表示する。
<ピン留めレイヤーを用いた表示例>
図16を参照して、ピン留めレイヤー53を用いたオブジェクトの表示方法を説明する。図16は、ピン留めアイコン307の押下によりピン留めレイヤー53に固定されたオブジェクトの表示例を示す図である。
図16を参照して、ピン留めレイヤー53を用いたオブジェクトの表示方法を説明する。図16は、ピン留めアイコン307の押下によりピン留めレイヤー53に固定されたオブジェクトの表示例を示す図である。
図16(a)に示すように、ユーザーが「〇×セミナー」(オブジェクトA)と「議題の一覧表」(オブジェクトB)を手書きした。表示領域51の右側には各種の機能の選択を受け付ける操作メニュー306が表示されている。この操作メニュー306がメニューレイヤー55に形成されている。操作メニュー306は、ペン入力、消しゴム、戻る、進む、及び、ピン留めアイコン307を有している(これらは一例に過ぎない)。ピン留めアイコン307は、オブジェクトをピン留めするためのアイコンである。オブジェクトA、Bが手書きされた際のオブジェクトA,Bの状態を表4(a)に示す。
次に、図16(b)に示すように、ユーザーが操作メニュー306からピン留めアイコン307を押下する。描画オブジェクト管理部11はオブジェクトの選択を待ち受ける状態になる。ユーザーが例えば「議題の一覧表」(オブジェクトB)を入力手段291で押下すると、描画オブジェクト管理部11は「議題の一覧表」(オブジェクトB)がピン留め対象であると判断する。
描画オブジェクト管理部11は「議題の一覧表」(オブジェクトB)に該当する画素データを描画レイヤー54からピン留めレイヤー53にコピーし、描画レイヤー54の「議題の一覧表」(オブジェクトB)に該当する画素データを削除する。「議題の一覧表」(オブジェクトB)がユーザーにより選択された状態のオブジェクトA,Bの状態を表4(b)のオブジェクトテーブルに示す。
そして、ユーザーは表示領域(任意のオブジェクト又は任意の位置)のスワイプを行う。スワイプ時の表示装置2の処理は実施例1と同様でよい。表示領域(任意のオブジェクト又は任意の位置)の移動後のオブジェクトA、Bの状態を表4(c)のオブジェクトテーブルに示す。
図16(c)はスワイプ後の表示領域51を示す。オブジェクトBは座標の変化がないため表示位置は変わらないまま、表示装置2は新しい表示領域51を表示できる。また、操作メニュー306は表示領域51に固定されるので、同じ位置に表示される。
<動作手順>
図17は、表示装置2が表示領域51に固定されたオブジェクトを表示する手順を示すフローチャート図の一例である。なお、図17の説明では主に図10との相違を説明する。
図17は、表示装置2が表示領域51に固定されたオブジェクトを表示する手順を示すフローチャート図の一例である。なお、図17の説明では主に図10との相違を説明する。
接触位置検出部12は、ユーザーがピン留めアイコン307を押下したか否かを入力手段291の接触位置に基づいて判断する(S41)。
次に、描画オブジェクト管理部11は、接触位置検出部12が検出する入力手段291の接触位置に基づいて、オブジェクトが押下されたか否かを判断する(S42)。描画オブジェクト管理部11は押下されたオブジェクトを移動対象のオブジェクトと判断する。
ステップS43~S47の処理は図10のステップS8~S12と同様でよい。
本実施例によれば、ユーザーは、ピン留めアイコン307を押下し、オブジェクトを選択することでオブジェクトBをピン留めして他のオブジェクトを移動させ、新しいスペースを作成できる。
本実施例では、操作メニュー306を操作し、オブジェクトをストロークで囲むことでユーザーがオブジェクトをピン留めすることができる表示装置2について説明する。
本実施例においては、上記の実施例にて説明した図5のハードウェア構成図、及び、図6に示した機能ブロック図を援用できるものとして説明する。また、メニューレイヤー55についても実施例4と同様である。
<ピン留めレイヤーを用いた表示例>
図18を参照して、ピン留めレイヤー53を用いたオブジェクトの表示方法を説明する。図18は、ストローク308で囲まれることでピン留めレイヤー53に固定されるオブジェクトの表示例を示す図である。
図18を参照して、ピン留めレイヤー53を用いたオブジェクトの表示方法を説明する。図18は、ストローク308で囲まれることでピン留めレイヤー53に固定されるオブジェクトの表示例を示す図である。
図18(a)に示すように、ユーザーが「〇×セミナー」(オブジェクトA)と「議題の一覧表」(オブジェクトB)を手書きした。表示領域51の右側には各種の機能の選択を受け付ける操作メニュー306が表示されている。操作メニュー306は、ペン入力、消しゴム、戻る、進む、ピン留めアイコン307を有している(これらは一例に過ぎない)。ピン留めアイコン307は、オブジェクトをピン留めするためのアイコンである。オブジェクトA、Bが手書きされた際のオブジェクトA,Bの状態を表5(a)に示す。
次に、図18(b)に示すように、ユーザーが操作メニュー306からピン留めアイコン307を押下する。描画オブジェクト管理部11はオブジェクトの選択を待ち受ける状態になる。ユーザーが例えば「議題の一覧表」(オブジェクトB)をストローク308で囲むと、描画オブジェクト管理部11は「議題の一覧表」(オブジェクトB)がピン留め対象であると判断する。
描画オブジェクト管理部11は「議題の一覧表」(オブジェクトB)に該当する画素データを描画レイヤー54からピン留めレイヤー53にコピーし、描画レイヤー54の「議題の一覧表」(オブジェクトB)に該当する画素データを削除する。「議題の一覧表」(オブジェクトB)がユーザーにより選択された状態のオブジェクトA,Bの状態を表5(b)のオブジェクトテーブルに示す。
そして、ユーザーは表示領域(任意のオブジェクト又は任意の位置)のスワイプを行う。スワイプ時の表示装置2の処理は実施例1と同様でよい。表示領域(任意のオブジェクト又は任意の位置)の移動後のオブジェクトA、Bの状態を表5(c)のオブジェクトテーブルに示す。
図18(c)はスワイプ後の表示領域51を示す。オブジェクトBは座標の変化がないため表示位置は変わらないまま、表示装置2は新しい表示領域51を表示できる。また、操作メニュー306は表示領域51に固定されるので、同じ位置に表示される。
<動作手順>
図19は、表示装置2が表示領域51に固定されたオブジェクトを表示する手順を示すフローチャート図の一例である。なお、図19の説明では主に図10との相違を説明する。
図19は、表示装置2が表示領域51に固定されたオブジェクトを表示する手順を示すフローチャート図の一例である。なお、図19の説明では主に図10との相違を説明する。
接触位置検出部12は、ユーザーがピン留めアイコン307を押下したか否かを入力手段291の接触位置に基づいて判断する(S51)。
ピン留めアイコン307が押下された場合(S51のYes)、描画オブジェクト管理部11は描画データ生成部13が生成したストローク308に基づいて、ストローク308の外接矩形の内側に全体が含まれるオブジェクトがあるか否かを判断する(S52,S53)。この判断ではオブジェクトの一部分がストローク308の矩形からはみ出ていてもよい。
ステップS54~S58の処理は図10のステップS8~S12と同様でよい。
本実施例によれば、ユーザーは、ピン留めアイコン307を押下し、ストローク308でオブジェクトを囲むことでオブジェクトBをピン留めして他のオブジェクトを移動させ、新しいスペースを作成できる。
本実施例では、オブジェクトのピン留めの終了について説明する。
本実施例においては、上記の実施例にて説明した図5のハードウェア構成図、及び、図6に示した機能ブロック図を援用できるものとして説明する。
<ピン留めの終了時の表示例>
図20は、ピン留めの終了時のオブジェクトの表示例について説明する図である。図20(a)は、図9(c)のオブジェクトA~Cの配置の状態で、ユーザーがスペースに「タイムテーブル」(オブジェクトD)を手書きした状態である。オブジェクトDの「10:00~12:00 講師A」「13:00~15:00 講師B」「15:30~17:30 講師C」は、本来、それぞれが1つのオブジェクトである。しかし、本実施形態では、説明上まとめて1つのオブジェクトDと表現する。オブジェクトDが追加された際のオブジェクトA~Dの状態を表6(a)のオブジェクトテーブルに示す。
図20は、ピン留めの終了時のオブジェクトの表示例について説明する図である。図20(a)は、図9(c)のオブジェクトA~Cの配置の状態で、ユーザーがスペースに「タイムテーブル」(オブジェクトD)を手書きした状態である。オブジェクトDの「10:00~12:00 講師A」「13:00~15:00 講師B」「15:30~17:30 講師C」は、本来、それぞれが1つのオブジェクトである。しかし、本実施形態では、説明上まとめて1つのオブジェクトDと表現する。オブジェクトDが追加された際のオブジェクトA~Dの状態を表6(a)のオブジェクトテーブルに示す。
「議題の一覧表」(オブジェクトB)の次の議題が議論される場合、この議題では会場のレイアウト図をユーザーが記載することになった。現在の表示領域51の空きスペースでは足りないため、ユーザーが「議題の一覧表」(オブジェクトB)を表示領域51から非表示領域へ移動させる。
このため、ユーザーが「議題の一覧表」(オブジェクトB)の任意の位置を長押しすると、図20(b)に示すように、描画オブジェクト管理部11は、ピン留めを解除するためのピン留め解除ボタン8((第二の表示部品の一例)を表示する。ユーザーがピン留め解除ボタン8を入力手段291で押下すると、描画オブジェクト管理部11は、ピン留めレイヤー53にある「議題の一覧表」(オブジェクトB)に該当する画素データを描画レイヤー54にコピーして、ピン留めレイヤー53にある「議題の一覧表」(オブジェクトB)に該当する画素データを削除する。
このため、ユーザーが「議題の一覧表」(オブジェクトB)の任意の位置を長押しすると、図20(b)に示すように、描画オブジェクト管理部11は、ピン留めを解除するためのピン留め解除ボタン8((第二の表示部品の一例)を表示する。ユーザーがピン留め解除ボタン8を入力手段291で押下すると、描画オブジェクト管理部11は、ピン留めレイヤー53にある「議題の一覧表」(オブジェクトB)に該当する画素データを描画レイヤー54にコピーして、ピン留めレイヤー53にある「議題の一覧表」(オブジェクトB)に該当する画素データを削除する。
続いて、ユーザーが表示領域51を左にdx、上にdyの距離だけスワイプすると、オブジェクトA~Dはx座標からdx、y座標からdy差し引かれ、図20(c)に示すように、表示領域51からなくなる。表示領域51が移動された際のオブジェクトA~Dの状態を表6(b)のオブジェクトテーブルに示す。
<動作手順>
図21は、表示装置2が表示領域51に固定されたオブジェクトを解除する手順を示すフローチャート図の一例である。なお、図21の説明では主に図10との相違を説明する。
図21は、表示装置2が表示領域51に固定されたオブジェクトを解除する手順を示すフローチャート図の一例である。なお、図21の説明では主に図10との相違を説明する。
描画オブジェクト管理部11は、接触位置検出部12が検出する入力手段291の接触位置に基づいて、ピン留めレイヤーのオブジェクトが長押しされたか否かを判断する(S61)。
ピン留めレイヤーのオブジェクトが長押しされた場合、表示制御部14は、ピン留め解除ボタン8を選択されたオブジェクトの周囲に表示する(S62)。
描画オブジェクト管理部11は、接触位置検出部12が検出する入力手段291の接触位置に基づいて、ピン留め解除ボタン8が押下されたか否かを判断する(S63)。
ピン留め解除ボタン8が押下された場合(S63のYes)、描画オブジェクト管理部11はピン留めレイヤー53のオブジェクトを描画レイヤー54に移動する(S64)。描画オブジェクト管理部11は、ピン留めレイヤー53からオブジェクトの画素データを削除する。
ステップS65~S67の処理は図10のステップS9~S11と同様でよい。
本実施例によれば、ユーザーは、オブジェクトのピン留めを解除し、オブジェクトがない表示領域51を表示できる。
本実施例では、ユーザーがピン留めするオブジェクトを簡単な操作で移動させてから表示領域51を移動する表示装置2について説明する。
本実施例においては、上記の実施例にて説明した図5のハードウェア構成図、及び、図6に示した機能ブロック図を援用できるものとして説明する。
<ピン留めレイヤーを用いた表示例>
図22を参照して、ピン留めレイヤー53を用いたオブジェクトの表示方法を説明する。図22は、ピン留めレイヤー53に固定されたオブジェクトの表示例を示す図である。
図22を参照して、ピン留めレイヤー53を用いたオブジェクトの表示方法を説明する。図22は、ピン留めレイヤー53に固定されたオブジェクトの表示例を示す図である。
図22(a)に示すように、ユーザーが「〇×セミナー」(オブジェクトA)、及び、「議題の一覧表」(オブジェクトB)を手書きした。ディスプレイ220の右側には機能を選択する操作メニュー306が表示されている。
表示領域51の左上を原点(0,0)とし、オブジェクトの左上の座標を起点座標、右下の座標を終点座標とした場合、オブジェクトA,Bの起点座標と終点座標とレイヤー属性を表7(a)に示す。
ユーザーが操作メニュー306からオブジェクトをピン留めするためのピン留めアイコン307を押下すると、表示装置2はピン留めモードへ遷移する。ピン留めモードとは、オブジェクトをピン留めレイヤー53にピン留めして、移動可能にする動作モードである。続いて、図22(b)に示すように、ユーザーが入力手段291でディスプレイ220の任意の位置(Px, Py)を押下する。表示制御部14は、押下された箇所にピン留めボタン9を表示する(図22(c))。
続いて、図22(c)に示すように、ユーザーが入力手段291で「議題の一覧表」(オブジェクトB)の任意の位置を押下する。描画オブジェクト管理部11は、「議題の一覧表」(オブジェクトB)の中心座標がピン留めボタン9の位置となるように「議題の一覧表」(オブジェクトB)に該当する画素データを描画レイヤー54からピン留めレイヤー53にコピーし、描画レイヤー54の「議題の一覧表」(オブジェクトB)に該当する画素データを削除する(図22(d))。この処理後のオブジェクトA,Bの起点座標と終点座標を表 7(b)に示す。なお、描画オブジェクト管理部11は、「議題の一覧表」(オブジェクトB)の左上がピン留めボタン9の位置となるように「議題の一覧表」(オブジェクトB)を移動してもよい。
次の議題に移り、この議題のメモを書くスペースが必要なため、ユーザーが左にdx、上にdy動くようにディスプレイ(任意のオブジェクト又は任意の位置)のスワイプを行う。スワイプ操作検出部15がスワイプしていることを検出し、所定の時間ごとに描画レイヤー54のオブジェクトAのx座標からスワイプしているx軸方向の移動量、y座標からスワイプしているy軸方向の移動量を差し引く処理を繰り返す。表示制御部14は所定の時間ごとに表示データを更新する。ユーザーがスワイプをやめると描画レイヤー54のオブジェクトAの起点座標は (Sxa-dx, Sya-dy)になる。そして、表示制御部14は表示領域51に該当する描画レイヤー54とピン留めレイヤー53の画素をOR演算して、ディスプレイ220に表示する。なお、表示制御部14は、メニューレイヤーを最も手前に表示するが、図22では消去されている。
以上により、図22(e)に示すように、オブジェクトBのみが座標の変化がないためスワイプされずに同じ位置に表示される。この処理後のオブジェクトA,Bの起点座標と終点座標を表 7(c)に示す。
<動作手順>
図23は、表示装置2が表示領域に固定されたオブジェクトを表示する手順を示すフローチャート図の一例である。
図23は、表示装置2が表示領域に固定されたオブジェクトを表示する手順を示すフローチャート図の一例である。
接触位置検出部12は、ピン留めアイコン307に対する入力手段291の押下の有無を判断する(S71)。
ピン留めアイコン307が押下された場合(S71のYes)、描画オブジェクト管理部11はピン留めモードにて動作する。続いて、接触位置検出部12は、ディスプレイ220の任意の位置(Px, Py)に対する入力手段291の押下を検出したか否かを判断する(S72)。
接触位置検出部12が、ディスプレイ220の任意の位置(Px, Py)の押下を検出した場合(S72のYes)、表示制御部14は、押下された箇所にピン留めボタン9を表示する(S73)。
続いて、接触位置検出部12は、ユーザーによる任意のオブジェクトの選択(押下)を検出したか否かを判断する(S74)。オブジェクトの外接矩形内のどの位置が押下されてもよい。
接触位置検出部12が任意のオブジェクトの選択(押下)を検出した場合(S74のYes)、描画オブジェクト管理部11は、選択されたオブジェクトの中心座標がピン留めボタン9の位置となるように「議題の一覧表」(オブジェクトB)に該当する画素データを描画レイヤー54からピン留めレイヤー53にコピーし、描画レイヤー54の「議題の一覧表」(オブジェクトB)に該当する画素データを削除する(S75)。
ステップS76~S79の処理は図10のステップS9~S12と同様でよい。また、オブジェクトのピン留めの終了方法は実施例6と同様でよい。
<主な効果>
本実施例によれば、ユーザーがピン留めするオブジェクトを簡単な操作で移動させてから表示領域51を移動できるので、余白の位置を考慮して予めオブジェクトを移動しておくことができる。
本実施例によれば、ユーザーがピン留めするオブジェクトを簡単な操作で移動させてから表示領域51を移動できるので、余白の位置を考慮して予めオブジェクトを移動しておくことができる。
本実施例では、ユーザーがピン留めする1つまたは複数のオブジェクトを移動して整列させてから表示領域51を移動できる表示装置2について説明する。
本実施例においては、上記の実施例にて説明した図5のハードウェア構成図、及び、図6に示した機能ブロック図を援用できるものとして説明する。
<ピン留めレイヤーを用いた表示例>
図24を参照して、ピン留めレイヤー53を用いたオブジェクトの表示方法を説明する。図24は、ピン留めレイヤー53に固定されたオブジェクトの表示例を示す図である。
図24を参照して、ピン留めレイヤー53を用いたオブジェクトの表示方法を説明する。図24は、ピン留めレイヤー53に固定されたオブジェクトの表示例を示す図である。
図24(a)に示すように、ユーザーが「〇×セミナー」(オブジェクトA)、及び、「議題の一覧表」(オブジェクトB)を手書きした。次に、ユーザーが表示装置2を選択モードに操作する。選択モードとは、入力手段291によるオブジェクトの選択が可能な動作モードである。表示装置2は、ユーザーが入力手段291で矩形領域を指定すると、オブジェクトをピン留めするためのピン留めボタン9を表示する。ピン留めボタン9の位置は図示する位置に限られず任意でよい。
ユーザーがピン留めボタン9を押下すると、表示装置2はユーザーが指定した矩形領域の2点を対角頂点とするピン留め領域320を表示する(図24(b))。表示領域51の左上を原点(0,0)とし、オブジェクトの左上の座標を起点座標、右下の座標を終点座標としたとき、オブジェクトA,B及びピン留め領域の起点座標と終点座標とレイヤー属性を表8(a)に示す。
次に、図24(c)に示すように、「議題の一覧表」(オブジェクトB)をユーザーがドラッグ&ドロップしてピン留め領域320にピン留めする。描画オブジェクト管理部11は、「議題の一覧表」(オブジェクトB)の始点(例えば左上頂点)がピン留め領域320の始点となるように、描画レイヤー54にある「議題の一覧表」(オブジェクトB)に該当する画素データをピン留めレイヤー53へコピーする。コピーされたオブジェクトBを「オブジェクトB'」とする。そして、描画オブジェクト管理部11は、描画レイヤー54にある「議題の一覧表」(オブジェクトB)に該当する画素データを削除する(図24(d))。このように、ユーザーはピン留め領域320にオブジェクトを配置してから表示領域51を移動できる。
ユーザーがピン留め領域320に移動できるオブジェクトは1つに限らない。描画オブジェクト管理部11は、ユーザーがピン留め領域320に移動した全てのオブジェクトがピン留め領域320に入るように、オブジェクトを縮小する。描画オブジェクト管理部11は各オブジェクトをサムネイルやオブジェクトを表すアイコンで表示してもよい。
なお、図24(c)の例では、オブジェクトBの幅がピン留め領域320の幅より大きいため、描画オブジェクト管理部11はピン留め領域320に収まるようにオブジェクトBを縮小してからピン留め領域320に移動する。縮小率αは「ピン留め領域の幅/オブジェクトBの幅」である。オブジェクトBの高さがピン留め領域320の高さより大きい場合、縮小率αは高さの比となる。描画オブジェクト管理部11は縮小率αをオブジェクトB'の高さ・幅にそれぞれかける。オブジェクトA,B'を表8(b)に示す。
ユーザーは続いて、ディスプレイ220の任意の位置で入力手段291を使ってスワイプする。スワイプ操作検出部15がスワイプしていることを検出すると、所定の時間毎に、描画レイヤー54のオブジェクトA,Bのx座標からスワイプしているx軸方向の移動量、y座標からスワイプしているy軸方向の移動量を差し引く処理を繰り返す。表示制御部14は所定の時間ごとに表示データを更新する。ユーザーがスワイプをやめると描画レイヤー54のオブジェクトA,Bの起点座標はそれぞれ、(Sxa-dx, Sya-dy)と(Sxb-dx, Syb-dy)になる。
そして、表示制御部14は、ピン留めレイヤー53と描画レイヤー54の各画素についてOR演算を行ってディスプレイ220に表示する。するとオブジェクトB' のみが座標の変化がないためスワイプされずに同じ位置に表示される(図24(e))。この処理後のオブジェクトA、B'の起点座標・終点座標を表8(c)に示す。
オブジェクトB'はピン留め領域320で縮小されたままでもよいし、ユーザーの操作で、又は、スワイプが終了すると自動で、表示制御部14が表示領域51の元の位置に戻してもよい(図24(f))。
オブジェクトB'がピン留め領域320で縮小されたままの場合、ユーザーがオブジェクトB'を押下すると、表示制御部14は縮小前の大きさでオブジェクトB'のプレビュー321を表示することができる(図24(g))。プレビュー321は元のオブジェクトBと同じサイズかそれよりも大きく、ユーザーがオブジェクトBの内容を確認できる。プレビュー321は一定時間の経過又はユーザー操作で消去される。プレビュー321の状態から、ユーザーが表示領域51の元の位置にオブジェクトBを戻してもよい。
ユーザー操作又は自動的に表示領域51の元の位置にオブジェクトBが戻る場合、描画オブジェクト管理部11はピン留めレイヤー53のオブジェクトを描画レイヤー54にコピーする。描画オブジェクト管理部11は、ピン留めレイヤー53からオブジェクトの画素データを削除する。
<動作手順>
図25は、表示装置2が表示領域51に固定されたオブジェクトを表示する手順を示すフローチャート図の一例である。
図25は、表示装置2が表示領域51に固定されたオブジェクトを表示する手順を示すフローチャート図の一例である。
接触位置検出部12は、選択モードで矩形が手書きされたか否かを判断する(S81)。例えば、矩形が直線の始点と終点を対角頂点とする場合は、接触位置検出部12が直線(ストローク)の入力を検出することで、矩形が手書きされたことが検出される。接触位置検出部12は、矩形かどうかをパターン認識してもよい。
選択モードで矩形が手書きされると(S81のYes)、表示制御部14が矩形内や矩形上にピン留めボタン9を表示する(S82)。
接触位置検出部12は、入力手段291によりピン留めボタン9が押下されたか否かを判断する(S83)。
ピン留めボタン9の押下が検出されない場合(S83のNo)、表示制御部14は所定の時間が経過したか否かを判断する(S84)。所定の時間が経過すると(S84のYes)、表示制御部14は矩形とピン留めボタン9を消去する(S85)。
所定時間内にピン留めボタン9の押下が検出された場合(S83のYes)、描画オブジェクト管理部11は矩形により特定される領域をピン留め領域320に決定する(S86)。矩形により特定される領域とは矩形と同じ領域でもよいし、矩形に元々存在した他のオブジェクトを含まないように調整された領域でもよい。
接触位置検出部12は、任意のオブジェクトがピン留め領域320にドラッグ&ドロップされたか否かを判断する(S87)。すなわち、接触位置検出部12は、入力手段291のドラッグの始点がオブジェクトであり、ドロップされた終点がピン留め領域320内か否かを判断する。
ステップS87の判断がYesの場合、描画オブジェクト管理部11は、オブジェクトの始点がピン留め領域320の始点となるように、描画レイヤー54にあるオブジェクトに該当する画素データをピン留めレイヤー53にコピーして、描画レイヤー54からオブジェクトの画素データを削除する(S88)。この始点は、オブジェクトとピン留め領域320の左上頂点であるが、右上頂点、右下頂点、又は左下頂点でもよい。
ステップS89~S92の処理は図10のステップS9~S12と同様でよい。
<主な効果>
本実施例によれば、ユーザーがピン留めする1つまたは複数のオブジェクトをピン留め領域320に移動して整列させてから表示領域51を移動できる。また、オブジェクトはピン留め領域320に縮小されるので、大きなオブジェクトを表示領域51と共に移動したい場合も余白を作りやすい。
本実施例によれば、ユーザーがピン留めする1つまたは複数のオブジェクトをピン留め領域320に移動して整列させてから表示領域51を移動できる。また、オブジェクトはピン留め領域320に縮小されるので、大きなオブジェクトを表示領域51と共に移動したい場合も余白を作りやすい。
本実施例では、ユーザーがオブジェクトを長押した状態で、表示領域51を移動できる表示装置2について説明する。
本実施例においては、上記の実施例にて説明した図5のハードウェア構成図、及び、図6に示した機能ブロック図を援用できるものとして説明する。
<ピン留めレイヤーを用いた表示例>
図26を参照して、ピン留めレイヤー53を用いたオブジェクトの表示方法を説明する。図26は、ピン留めレイヤー53に固定されたオブジェクトの表示例を示す図である。
図26を参照して、ピン留めレイヤー53を用いたオブジェクトの表示方法を説明する。図26は、ピン留めレイヤー53に固定されたオブジェクトの表示例を示す図である。
図26(a)に示すように、ユーザーはディスプレイ220に、「〇×セミナー」(オブジェクトA)、「議題の一覧表」(オブジェクトB)を手書きする。また、ユーザーは、「機材の予約」の議題についての議事メモとして「機材予約」と機材リスト(「・マイク」「・ケーブル」「・モニター」「・レーザーポインター」)を手書きする。このメモの文字列をオブジェクトCとする(オブジェクトCという用語は説明上使用するものでこれらのメモはグループ化されたオブジェクトではない。)。表示領域51の左上を原点(0,0)とし、オブジェクトの左上の座標を起点座標、右下の座標を終点座標としたとき、オブジェクトA,B,Cの起点座標と終点座標とレイヤー属性を表9(a)に示す。
次の議題に移り、この議題のメモを書くスペースが必要なため、ユーザーは「議題の一覧表」(オブジェクトB)の右側を空ける操作を行う。まず、ユーザーは「議題の一覧表」(オブジェクトBの一部のどこでもよい)を手H(第一の入力手段の一例)で長押しする。描画オブジェクト管理部11は、手Hが接触した座標がどのオブジェクトに該当しているか判断する。この座標が「議題の一覧表」(オブジェクトB)の外接矩形の領域にあるため、描画オブジェクト管理部11は描画レイヤー54にある「議題の一覧表」(オブジェクトB)に該当する画素データをピン留めレイヤー53にコピーし、描画レイヤー54にある「議題の一覧表」(オブジェクトB)に該当する画素データを削除する。
更に、「議題の一覧表」(オブジェクトB)が一時的に固定されていることをユーザーに通知するために、表示制御部14は、「議題の一覧表」(オブジェクトB)の枠323を縁取る(図26(b))。縁取るとは、オブジェクトBの外縁に太枠を表示することをいう。点線枠、点滅枠など、縁取りにより、オブジェクトBが強調されればよい。
ユーザーは手Hをディスプレイ220に接触させたまま、ディスプレイ220の任意の位置で電子ペン2500(第二の入力手段の一例)を使ってスワイプする。
スワイプ操作検出部15がスワイプを検出すると、表示制御部14は、所定の時間毎に、描画レイヤー54のオブジェクトA,Cのx座標からスワイプしているx軸方向の移動量、y座標からスワイプしているy軸方向の移動量を差し引く処理を繰り返す。表示制御部14は所定の時間ごとに表示データを更新する。ユーザーがスワイプをやめると描画レイヤー54のオブジェクトA,Cの起点座標はそれぞれ、(Sxa-dx, Sya-dy)と(Sxc-dx, Syc-dy)になる。
ユーザーが手Hによる「議題の一覧表」(オブジェクトB)の長押しをやめると(ディスプレイ220から手Hを離すと)、描画オブジェクト管理部11はピン留めレイヤー53にある「議題の一覧表」(オブジェクトB)に該当する画素データを描画レイヤー54にコピーして、ピン留めレイヤー53にある「議題の一覧表」(オブジェクトB)に該当する画素データを削除する。そして表示制御部14は表示領域51に該当する描画レイヤー54の各画素をディスプレイ220に表示する。するとオブジェクトBは座標の変化がないため表示位置は変わらないまま、新しい領域が表示される(図26(c))。この処理後のオブジェクトA~Cの起点座標・終点座標を表9(c)に示す。
なお、ユーザーは電子ペン2500でオブジェクトBを長押しして、手Hでスワイプしてもよいし、電子ペン2500でオブジェクトBを長押しして、電子ペン2500でスワイプしてもよいし、手HでオブジェクトBを長押しして、手Hでスワイプしてもよい。
また、図26では、固定されているオブジェクトBが1つだが、ユーザーは複数の指を使用するなどして複数のオブジェクトをピン留めレイヤー53に固定できる。
<動作手順>
図27は、表示装置2が表示領域51に固定されたオブジェクトを表示する手順を示すフローチャート図の一例である。
図27は、表示装置2が表示領域51に固定されたオブジェクトを表示する手順を示すフローチャート図の一例である。
接触位置検出部12は、任意のオブジェクトが手Hにより長押しされたか否かを判断する(S201)。接触位置検出部12は、入力手段291が接触する座標がオブジェクトに重なり、一定時間以上、接触しているかどうかを判断する。
オブジェクトが長押しされている場合(S201のYes)、描画オブジェクト管理部11は描画レイヤー54にある「議題の一覧表」(オブジェクトB)に該当する画素データをピン留めレイヤー53にコピーし、描画レイヤー54にある「議題の一覧表」(オブジェクトB)に該当する画素データを削除する。また、表示制御部14は、「議題の一覧表」(オブジェクトB)の枠を縁取る(S202)。
スワイプ操作検出部15は、手Hがディスプレイ220に接触したことを検出した状態で、ディスプレイ220の任意の位置で電子ペン2500によるスワイプが検出されたか否かを判断する(S203)。
スワイプされている場合、所定の時間ごとに(S204)、表示制御部14は描画レイヤー54のオブジェクトのx座標からスワイプしているx軸方向の移動量、y座標からスワイプしているy軸方向の移動量を差し引く処理を繰り返す(S205)。こうすることで、表示領域51を移動する操作を受け付けている間、表示制御部14は、選択されたオブジェクトの表示領域51における位置を維持することができる。
表示制御部14は、表示領域51に該当するピン留めレイヤー53と描画レイヤー54の各画素についてOR演算を行ってディスプレイ220に表示する(S206)。
次に、接触位置検出部12は、手Hによる長押しが継続して検出されているか否かを判断する(S207)。
長押しが終了する場合(S207のYes)、描画オブジェクト管理部11はピン留めレイヤー53にある「議題の一覧表」(オブジェクトB)に該当する画素データを描画レイヤー54にコピーして、ピン留めレイヤー53にある「議題の一覧表」(オブジェクトB)に該当する画素データを削除する。そして表示制御部14は表示領域51に該当する描画レイヤー54の各画素をディスプレイ220に表示する(S208)。
<主な効果>
本実施例によれば、ユーザーが2つの入力手段291を使うことで、オブジェクトを長押した状態で、表示領域51を移動できる。所定のボタンやアイコンを押下する必要がないので、直感的な操作が可能になる。
本実施例によれば、ユーザーが2つの入力手段291を使うことで、オブジェクトを長押した状態で、表示領域51を移動できる。所定のボタンやアイコンを押下する必要がないので、直感的な操作が可能になる。
本実施例では、2つの拠点に設置された表示装置同士が通信することで、オブジェクトのピン留めを共有する表示システムについて説明する。
<システム構成例>
図28は、表示システム900のシステム構成図の一例である。図28では、拠点Aに表示装置2A(第一の表示装置の一例)、拠点Bに表示装置2B(第二の表示装置の一例)が設置されており、表示装置2Aと表示装置2Bはインターネット等のネットワークNを介して通信可能に接続されている。
図28は、表示システム900のシステム構成図の一例である。図28では、拠点Aに表示装置2A(第一の表示装置の一例)、拠点Bに表示装置2B(第二の表示装置の一例)が設置されており、表示装置2Aと表示装置2Bはインターネット等のネットワークNを介して通信可能に接続されている。
表示装置2Aと表示装置2Bは互いに操作内容を共有して、同じオブジェクトをそれぞれが表示できる。
<機能について>
図29は、表示装置2A、2Bの機能をブロック状に示す機能ブロック図の一例である。なお、図29の説明では主に図6との相違を説明する。
図29は、表示装置2A、2Bの機能をブロック状に示す機能ブロック図の一例である。なお、図29の説明では主に図6との相違を説明する。
本実施例の表示装置2A、2Bは新たに遠隔会議制御部18を有している。拠点Aのユーザーが表示装置2Aに対し、拠点Bの表示装置2Bと遠隔会議を行うという操作を入力すると(例えば、表示装置2Bをリストから選択して、IDやパスワードを入力する)、表示装置2Aの遠隔会議制御部18が、拠点Bの表示装置2Bと会議用のセッションを確立する。遠隔会議制御部18はセッションを介して、操作内容を相互に送受信する。
例えば、図30に示すオブジェクトを拠点Aのユーザーが表示装置2Aに手書きした。表示装置2Aの表示領域51には「○×セミナー」(オブジェクトA)、「議題の一覧表」(オブジェクトB)、及び、「機材予約に関する文字列」(オブジェクトC)が手書きされている。
表示装置2Aの描画データ生成部13は、これらの手書きデータ(座標点列、線の太さや色等の線の属性データ)を、表示制御部14を介してディスプレイ220に表示すると共に、遠隔会議制御部18へ渡す。遠隔会議制御部18はネットワーク通信部16を介して、これらの手書きデータを表示装置2Bへ送信する。
表示装置2Bの遠隔会議制御部18はネットワーク通信部16を介してこれらの手書きデータを受信すると、表示制御部14がディスプレイ220に表示する。このようにして、表示装置2Aのディスプレイ220と表示装置2Bのディスプレイ220には同じオブジェクトが表示される。
<遠隔会議におけるオブジェクトのピン留め>
続いて、実施例1と同様に、ユーザーが「議題の一覧表」(オブジェクトB)の任意の位置を長押ししたことを描画オブジェクト管理部11が検出すると、描画オブジェクト管理部11は、「議題の一覧表」(オブジェクトB)をピン留めするためのピン留めボタン9を表示する。
続いて、実施例1と同様に、ユーザーが「議題の一覧表」(オブジェクトB)の任意の位置を長押ししたことを描画オブジェクト管理部11が検出すると、描画オブジェクト管理部11は、「議題の一覧表」(オブジェクトB)をピン留めするためのピン留めボタン9を表示する。
図31に、ピン留めボタン9が表示された表示領域51を示す図である。図31は図9(b)と同じである。
ユーザーがピン留めボタン9を入力手段291で押下すると、描画オブジェクト管理部は「議題の一覧表」(オブジェクトB)の画素データを描画レイヤー54からピン留めレイヤー53にコピーして、描画レイヤー54の画素データを削除する。
そして、描画オブジェクト管理部11は「議題の一覧表」(オブジェクトB)の画素データと起点座標を遠隔会議制御部18へ渡し、遠隔会議制御部18はこれらのデータをピン留めコマンドに含めてネットワーク通信部16を介して、表示装置2Bへ送信する。
表示装置2Bの遠隔会議制御部18がネットワーク通信部16を介してピン留めコマンドを受信すると、描画オブジェクト管理部11が、受信した「議題の一覧表」(オブジェクトB)の画素データをピン留めレイヤー53の受信した起点座標の位置から記憶する。そして、表示装置2Bの描画オブジェクト管理部11は、描画レイヤー54について受信した起点座標の位置から「議題の一覧表」(オブジェクトB)の画素データを削除する。このようにして、表示装置2Bにおいても「議題の一覧表」がピン留めレイヤー53にピン留めされる。なお、表示装置2Aと表示装置2Bがお互いにオブジェクトIDを共有している場合、遠隔会議制御部18は「議題の一覧表」(オブジェクトB)の画素データそのものを送信するのでなく、「議題の一覧表」(オブジェクトB)のオブジェクトIDを送信してもよい。
「議題の一覧表」(オブジェクトB)の次の議題(タイムテーブル決め)が議論される場合、表示装置2Aのユーザーはこの議題のメモをとるために、スワイプ操作によりピン留めした「議題の一覧表」(オブジェクトB)以外のオブジェクトを移動する。
図32は、ユーザーが「議題の一覧表」(オブジェクトB)以外のオブジェクトを移動することでスペースができた表示領域51を示す。図32は図9(c)と同じである。
表示装置2Aのスワイプ操作検出部15はこのスワイプ操作の始点座標(Ssx,Ssy)と終点座標(Sex,Sey)を遠隔会議制御部18へ渡し、遠隔会議制御部18はこれらのデータをスワイプコマンドに含めてネットワーク通信部16を介して表示装置2Bへ送信する。
表示装置2Bの遠隔会議制御部18がネットワーク通信部16を介してスワイプコマンドを受信すると、描画オブジェクト管理部11が描画レイヤー54にあるオブジェクトをX軸方向へ(Sex - Ssx)、Y軸方向へ(Sey - Ssy)だけ移動する。
そして、表示装置2Bの表示制御部14は描画レイヤー54にある画素データとピン留めレイヤー53にある画素データとをOR演算してディスプレイ220に表示する。したがって、表示装置2Bは図32と同様の表示領域51(オブジェクト)をディスプレイ220に表示される。
<動作手順>
図33は、表示装置2A、2Bの間でオブジェクトのピン留め操作を共有する手順を示すシーケンス図の一例である。
図33は、表示装置2A、2Bの間でオブジェクトのピン留め操作を共有する手順を示すシーケンス図の一例である。
S101:表示装置2Aの遠隔会議制御部18はネットワーク通信部16を介して、表示装置2Bに接続要求(ID,パスワード等)を送信する。
S102:表示装置2Bの遠隔会議制御部18は、接続要求に対し認証が成功すると、接続応答(接続OK)を表示装置2Aに送信する。
S103:表示装置2Aのユーザーが入力手段291で手書きする。描画データ生成部13は手書きデータ等を生成し、描画レイヤー54に書き込む。手書きデータの他、文字認識された文字列、図形、画像などもある。以下、これらを単に手書きデータという。
S104:描画レイヤー54に書き込まれた手書きデータは、遠隔会議制御部18がネットワーク通信部16を介して、所定の時間ごとに表示装置2Bに送信する。
S105:表示装置2Bの遠隔会議制御部18はネットワーク通信部16を介して手書きデータを受信し、描画データ生成部13が描画レイヤー54に書き込む。表示制御部14は描画レイヤー54に書き込まれた手書きデータを使ってオブジェクトをディスプレイ220に表示する。
S106~S111:会議の間、表示装置2Aと2BはステップS103~S105の処理を繰り返す。なお、表示装置2Bから表示装置2Aに手書きデータを送信することもできる。
S112:ユーザーが「議題の一覧表」(オブジェクトB)を長押ししてピン留めボタン9を表示させ、ピン留めボタン9を入力手段291で押下した。描画オブジェクト管理部11は接触位置検出部12が検出する入力手段291の接触位置に基づいてピン留めボタン9の押下を検出する。
S113:描画オブジェクト管理部11は「議題の一覧表」(オブジェクトB)の画素データを描画レイヤー54からピン留めレイヤー53にコピーして、描画レイヤー54の画素データを削除する。
S114:遠隔会議制御部18はネットワーク通信部16を介して、「議題の一覧表」(オブジェクトB)の画素データと起点座標をピン留めコマンドに含めて表示装置2Bへ送信する。
S115:表示装置2Bの遠隔会議制御部18がネットワーク通信部16を介してピン留めコマンドを受信すると、描画オブジェクト管理部11が、受信した「議題の一覧表」(オブジェクトB)の画素データを、ピン留めレイヤー53の受信した起点座標の位置から書き込む。また、表示装置2Bの描画オブジェクト管理部11は、描画レイヤー54について受信した起点座標の位置から「議題の一覧表」(オブジェクトB)の画素データを削除する。
S116:次に、表示装置2Aのユーザーはスワイプ操作によりピン留めした「議題の一覧表」(オブジェクトB)以外のオブジェクトを移動する。
S117:表示装置2Aのスワイプ操作検出部15はこのスワイプ操作の始点座標(Ssx,Ssy)と終点座標(Sex,Sey)を遠隔会議制御部18へ渡し、遠隔会議制御部18はネットワーク通信部16を介して、始点座標(Ssx,Ssy)と終点座標(Sex,Sey)をスワイプコマンドに含めて表示装置2Bへ送信する。
S118:表示装置2Bの遠隔会議制御部18がネットワーク通信部16を介してスワイプコマンドを受信すると、描画オブジェクト管理部11が描画レイヤー54にあるオブジェクトをX軸方向へ(Sex - Ssx)、Y軸方向へ(Sey - Ssy)だけ移動する。表示装置2Bの表示制御部14は描画レイヤー54にある画素データとピン留めレイヤー53にある画素データとをOR演算してディスプレイ220に表示する。
<スペースへのオブジェクトの追加>
次に、表示装置2Aのユーザーは「議題の一覧表」(オブジェクトB)の右側にできたスペースに「タイムテーブル」(オブジェクトD)に関する文字列を手書きする。
次に、表示装置2Aのユーザーは「議題の一覧表」(オブジェクトB)の右側にできたスペースに「タイムテーブル」(オブジェクトD)に関する文字列を手書きする。
図34は、「タイムテーブル」(オブジェクトD)が手書きされた表示領域51を示す。表示装置2Aの描画データ生成部13は、これらの手書きデータ(座標点列、線の太さや色等の線の属性データ)を、表示制御部14を介してディスプレイ220に表示すると共に、遠隔会議制御部18へ渡す。遠隔会議制御部18はネットワーク通信部16を介してこれらの手書きデータを表示装置2Bへ送信する。表示装置2Bはこれらの手書きデータを受信すると、表示制御部14を介してディスプレイ220に表示する。
<主な効果>
以上説明したように、本実施例の表示システム900は、遠隔会議する2つ以上の表示装置2において、オブジェクトのピン留めやスペースの作成を共有できる。
以上説明したように、本実施例の表示システム900は、遠隔会議する2つ以上の表示装置2において、オブジェクトのピン留めやスペースの作成を共有できる。
本実施例では、サーバー装置60を介して2つの拠点に設置された表示装置同士が通信することで、オブジェクトのピン留めを共有する表示システム900について説明する。
<システム構成例>
図35は、表示システム900のシステム構成図の一例である。図35の説明では主に図28との相違を説明する。図35ではネットワークにサーバー装置60が接続されている。表示装置2Aと表示装置2Bの操作内容はサーバー装置60が一元管理し、表示装置2Aと表示装置2Bはサーバー装置60から画像を受信することで同じオブジェクトをそれぞれが表示できる。
図35は、表示システム900のシステム構成図の一例である。図35の説明では主に図28との相違を説明する。図35ではネットワークにサーバー装置60が接続されている。表示装置2Aと表示装置2Bの操作内容はサーバー装置60が一元管理し、表示装置2Aと表示装置2Bはサーバー装置60から画像を受信することで同じオブジェクトをそれぞれが表示できる。
<サーバー装置のハードウェア構成例>
図36は、本実施形態に係るサーバー装置60の一例のハードウェア構成を示す図である。図36に示されているように、サーバー装置60はコンピュータによって構築されており、CPU501、ROM502、RAM503、HD504、HDD(Hard Disk Drive)コントローラ505、ディスプレイ506、外部機器接続I/F(Interface)508、ネットワークI/F509、バスライン510、キーボード511、ポインティングデバイス512、DVD-RW(Digital Versatile Disk Rewritable)ドライブ514、メディアI/F516を備えている。
図36は、本実施形態に係るサーバー装置60の一例のハードウェア構成を示す図である。図36に示されているように、サーバー装置60はコンピュータによって構築されており、CPU501、ROM502、RAM503、HD504、HDD(Hard Disk Drive)コントローラ505、ディスプレイ506、外部機器接続I/F(Interface)508、ネットワークI/F509、バスライン510、キーボード511、ポインティングデバイス512、DVD-RW(Digital Versatile Disk Rewritable)ドライブ514、メディアI/F516を備えている。
これらのうち、CPU501は、サーバー装置60全体の動作を制御する。ROM502は、IPL等のCPU501の駆動に用いられるプログラムを記憶する。RAM503は、CPU501のワークエリアとして使用される。HD504は、プログラム等の各種データを記憶する。HDDコントローラ505は、CPU501の制御にしたがってHD504に対する各種データの読み出し又は書き込みを制御する。ディスプレイ506は、カーソル、メニュー、ウィンドウ、文字、又は画像などの各種情報を表示する。外部機器接続I/F508は、各種の外部機器を接続するためのインターフェースである。この場合の外部機器は、例えば、USB(Universal Serial Bus)メモリーやプリンタ等である。ネットワークI/F509は、ネットワークNを利用してデータ通信をするためのインターフェースである。バスライン510は、図36に示されているCPU501等の各構成要素を電気的に接続するためのアドレスバスやデータバス等である。
また、キーボード511は、文字、数値、各種指示などの入力のための複数のキーを備えた入力手段の一種である。ポインティングデバイス512は、各種指示の選択や実行、処理対象の選択、カーソルの移動などを行う入力手段の一種である。DVD-RWドライブ514は、着脱可能な記録媒体の一例としてのDVD-RW513に対する各種データの読み出し又は書き込みを制御する。なお、DVD-RWは、DVD-R等であってもよい。メディアI/F516は、フラッシュメモリ等の記録メディア515に対するデータの読み出し又は書き込み(記憶)を制御する。
<機能について>
図37は、本実施例の表示装置2の機能をブロック状に分けて説明する機能ブロック図の一例である。表示装置2A、2Bの機能は同じでよい。図37の説明では主に図29との相違を説明する。図37の表示装置は画像復号部19を有している。画像復号部19は、サーバー装置60から受信した画像データを復号する。なお、本実施例では表示装置2がピン留めレイヤー53を有さない。表示領域51の画像の生成はサーバー装置60が行うためである。
図37は、本実施例の表示装置2の機能をブロック状に分けて説明する機能ブロック図の一例である。表示装置2A、2Bの機能は同じでよい。図37の説明では主に図29との相違を説明する。図37の表示装置は画像復号部19を有している。画像復号部19は、サーバー装置60から受信した画像データを復号する。なお、本実施例では表示装置2がピン留めレイヤー53を有さない。表示領域51の画像の生成はサーバー装置60が行うためである。
図38は、サーバー装置60の機能をブロック状に分けて説明する機能ブロック図の一例である。サーバー装置60は、描画オブジェクト管理部21、会議データ記憶部22、描画データ生成部23、ネットワーク通信部26、遠隔会議制御部28、画像符号化部29、及び、認証制御部30、を有している。サーバー装置60が有する各機能は、図36に示されている各構成要素のいずれかが、RAM503上に展開されたプログラムに従ったCPU501からの命令によって動作することで実現される機能又は手段である。
描画オブジェクト管理部21、会議データ記憶部22、描画データ生成部23、ネットワーク通信部26、及び、遠隔会議制御部28については表示装置2の機能と同じでよい。
認証制御部30は、同じ会議に参加する表示装置2A、2Bを認証する。画像符号化部29はサーバー装置60が表示装置2に送信する画像データを符号化する。
<動作手順>
図39A、図39Bは、表示装置2A、2Bがサーバー装置60を介して遠隔会議する手順を説明するシーケンス図の一例である。
図39A、図39Bは、表示装置2A、2Bがサーバー装置60を介して遠隔会議する手順を説明するシーケンス図の一例である。
S121:遠隔会議を行う前に、拠点Aの表示装置2Aと拠点Bの表示装置2Bには同じ会議IDが設定されている。この会議IDはユーザーが表示装置2A、2Bを操作して設定してもよいし、機器予約システムを利用して、機器予約システムから会議IDを表示装置2A、2Bに送信して設定してもよい。
拠点Aのユーザーが表示装置2Aにて、会議参加の操作を行うと、表示装置2Aはサーバー装置60にアクセスして、表示装置2Aのアカウント情報(機器IDとパスワード)と会議IDを送信する。サーバー装置60はアカウント情報と会議IDを受信すると、認証制御部30が会議データ記憶部22に記憶された機器IDとパスワードを照合して、表示装置2Aの接続を許可する。そして、遠隔会議制御部28は、表示装置2Aから受信した会議IDの会議アプリケーションプロセスが起動していない場合は、この会議IDの会議アプリケーションプロセスを起動する。
拠点Bのユーザーが表示装置2Bにて、会議参加の操作を行った場合も同様である。ただし、表示装置2Bから受信した会議IDの会議アプリケーションプロセスが既に起動されているため、遠隔会議制御部28は表示装置2Bをこの会議IDの会議に参加させる。サーバー装置60の遠隔会議制御部28はネットワーク通信部26を介して、表示装置2A、2Bへ会議開始メッセージを送信する。
S122、S123:表示装置2A、2Bがこのメッセージを受信すると、表示制御部14がホワイトボード(表示領域51の画面)をディスプレイ220に表示する。
S124:拠点Aのユーザーは表示装置2Aの表示領域51に図30のように「○×セミナー」(オブジェクトA)、「議題の一覧表」(オブジェクトB)、及び、「機材予約リスト」(オブジェクトC)を手書きした。表示装置2Aの描画データ生成部13は、これらの手書きデータ(座標点列、線の太さや色等の線の属性データ)を表示用の画素データに変換して、描画レイヤー54に書き込み、表示制御部14がディスプレイ220に表示する。
S125:表示装置2Aの遠隔会議制御部18はまた、これらの手書きデータ(座標点列、線の太さや色等の線の属性データ)を、ネットワーク通信部16を介してサーバー装置60へ送信する。なお、表示装置2Aの描画データ生成部13は手書きデータが所定のデータ量になる度に、ネットワーク通信部16を介して、手書きデータをサーバー装置60へ送信する。
S126:サーバー装置60のネットワーク通信部26は手書きデータを受信し、描画データ生成部23は、受信した手書きデータを表示用の画素データに変換して、この画素データを描画レイヤー54に記憶する。
S127:そして、サーバー装置60の遠隔会議制御部28はネットワーク通信部26を介して、画素データと矩形領域(手書きデータの外接矩形)の起点座標を表示装置2Bへ送信する。
S128:表示装置2Bの遠隔会議制御部18がネットワーク通信部16を介して画素データと矩形領域の起点座標を受信すると、描画データ生成部13が受信した画素データを受信した起点座標の位置から描画レイヤー54に書き込む。表示制御部14は、描画レイヤー54の手書きデータをディスプレイ220に表示する。このようにして、表示装置2A、2Bのディスプレイ220には同じ手書きデータが表示される。
以降は同様にステップS129~S138の処理により、表示装置2A、2Bが、各ストロークを共有する。したがって、オブジェクトA~Cが表示装置2A、2Bのディスプレイ220に表示される。
S139:表示装置2Aの遠隔会議制御部18はネットワーク通信部16を介して、オブジェクトA~Cの起点座標と終点座標をサーバー装置60に送信する。なお、ステップS139の処理(オブジェクトの区分)は、サーバー装置60が行ってもよい。
S140:サーバー装置60の遠隔会議制御部28はネットワーク通信部26を介して起点座標と終点座標を受信し、描画オブジェクト管理部21が、受信したこれらの座標データをオブジェクトテーブルに登録する。
次に、ピン留め操作について説明する。本実施例では、ピン留めの操作と画面のスワイプ操作は表示装置2Bにて行われる場合について説明する。表示装置2Aにおいて行われてもよい。
S141:表示装置2Bにおいて、ユーザーが「議題の一覧表」(オブジェクトB)の任意の位置を入力手段291で長押ししたことを、接触位置検出部12が検出する。
S142:表示装置2Bの描画オブジェクト管理部11は、表示装置2Bが管理しているオブジェクトテーブルを参照して、この長押しされた座標がオブジェクトの領域にあるか否かを判断する。この座標は表示装置2Bが管理しているオブジェクトの領域にないため、表示装置2Bの遠隔会議制御部18はネットワーク通信部16を介して、長押しされた座標データをピン留め依頼コマンドに含めてサーバー装置60へ送信する。この座標データによりユーザーが選択したオブジェクトが特定される。
S143:サーバー装置60の遠隔会議制御部28がネットワーク通信部26を介してピン留め依頼コマンドを受信すると、描画オブジェクト管理部21はオブジェクトテーブルを参照して、この座標がオブジェクトの領域にあるか否かを判断する。この座標は「議題の一覧表」(オブジェクトB)の領域にあるため、サーバー装置60の描画データ生成部23は、「議題の一覧表」をピン留めするためのピン留めボタン9のグラフィックデータをHD504から読み出して、これを表示用の画素データに変換して、この画素データを描画レイヤー54の「議題の一覧表」(オブジェクトB)の右上の位置に上書きする。
S144:そして、遠隔会議制御部28はネットワーク通信部26を介して、このピン留めボタン9の画素データと、ピン留めボタン9に外接する矩形領域の起点座標を表示装置2Bへ送信する。
S145:表示装置2Bの遠隔会議制御部18がネットワーク通信部16を介して、ピン留めボタン9を含む画素データを受信すると、描画データ生成部13が画素データを描画レイヤー54の受信した起点座標から上書きして、表示制御部14がディスプレイ220に表示する。これにより表示装置2Bは図31の状態になる。
S146:サーバー装置60の遠隔会議制御部28はネットワーク通信部26を介して、ピン留め準備完了メッセージを表示装置2Bへ送信する。
S147:表示装置2Bの遠隔会議制御部18がネットワーク通信部16を介して、このメッセージを受信すると、描画オブジェクト管理部11がピン留め動作モードになる。
S148、S149:表示装置2Bのユーザーがピン留めボタン9を入力手段291で押下すると、遠隔会議制御部18がネットワーク通信部16を介して、ピン留め実行コマンドをサーバー装置60へ送信する。
S150:サーバー装置60の遠隔会議制御部28がネットワーク通信部26を介してこのメッセージを受信すると、描画オブジェクト管理部21が「議題の一覧表」(オブジェクトB)の画素データを描画レイヤー54からピン留めレイヤー53にコピーして、描画レイヤー54の画素データを削除する。サーバー装置60の描画オブジェクト管理部21はまた、ピン留めボタン9に外接する矩形領域の画素データも削除する。
S151:続いて、サーバー装置60の遠隔会議制御部28がネットワーク通信部26を介して、ステップS142で受信したピン留め依頼コマンドに含まれていた、表示装置2Bにて長押しされた座標データを、ピン留め通知メッセージに含めて表示装置2Aに送信する。
S152:表示装置2Aの遠隔会議制御部18がネットワーク通信部16を介して、メッセージを受信すると、表示制御部14がこのメッセージに含まれた座標の位置にピン留めボタン9(図31に示したものと同じ)を所定の時間、ディスプレイ220に表示させる。表示装置2Aの表示制御部14はまた、「遠隔拠点にてピン留めされました」というメッセージも所定の時間、ディスプレイ220に表示させる。
図40は、表示装置2Aのディスプレイ220に表示されるメッセージ309の一例である。オブジェクトBにピンマーク310が表示されている。これにより、表示装置2Aのユーザーが他拠点でピン留めされたことを把握できる。
S153:図39に戻る。「議題の一覧表」(オブジェクトB)の次の議題(タイムテーブル決め)が議論される場合、表示装置2Bのユーザーはこの議題のメモをとるために、スワイプ操作によりピン留めした「議題の一覧表」(オブジェクトB)以外のオブジェクトを移動する。したがって、表示領域51は図32と同じ状態になる。
S154:表示装置2Bのスワイプ操作検出部15はこのスワイプ操作の開始を検出して、入力手段291の接触位置の移動距離が所定の値になると、遠隔会議制御部18がネットワーク通信部16を介して、スワイプ操作の開始座標(Sx0,Sy0)と現在の接触位置(Sx1,Sy1)をスワイプコマンドに含めてサーバー装置60へ送信する。
S155:サーバー装置60の遠隔会議制御部28がネットワーク通信部26を介してこのコマンドを受信すると、描画オブジェクト管理部21が描画レイヤー54にあるオブジェクトをX軸方向へ(Sx1 - Sx0)、Y軸方向へ(Sy1 - Sy0)だけ移動する。そして、サーバー装置60の描画データ生成部23は表示領域51に該当する描画レイヤー54にある画素データとピン留めレイヤー53にある画素データとをOR演算する。
S156:サーバー装置60の画像符号化部29はこの画素データを例えばPNG形式に圧縮し、ネットワーク通信部26が表示装置2A、2Bへ送信する。
S157,158:表示装置2A、2Bの遠隔会議制御部18がネットワーク通信部16を介してPNGデータを受信し、画像復号部19が表示用の画素データに変換する。表示制御部14はディスプレイ220に画素データを表示する。
S159~S164:表示装置2Bのユーザーがスワイプ操作を行っている間、ステップS153~S158の処理と同様の処理が実行される。
S165、S166:表示装置2Bのユーザーがスワイプ操作を終了すると、ネットワーク通信部16がスワイプコマンドをサーバー装置60に送信する。これは、最後に送信した接触位置と現在の接触位置を送信するためである。
S167~S170:表示装置2Bのユーザーがスワイプ操作を終了して、スワイプコマンドをサーバー装置60に送信すると、ステップS155~S158の処理と同様の処理が実行される。
このようにして、表示装置2A、2Bのディスプレイ220には図32の表示領域51にあるオブジェクトが表示される。
<主な効果>
以上説明したように、本実施例の表示システム900は、サーバー装置60が存在する場合でも、遠隔会議する2つ以上の表示装置2において、オブジェクトのピン留めやスペースの作成を共有できる。
以上説明したように、本実施例の表示システム900は、サーバー装置60が存在する場合でも、遠隔会議する2つ以上の表示装置2において、オブジェクトのピン留めやスペースの作成を共有できる。
以下の実施例では表示装置2の別の構成例について説明する。
<<表示装置の別の構成例1>>
本実施形態の表示装置2は大型のタッチパネルを有するものとして説明されているが、表示装置2はタッチパネルを有するものに限られない。
本実施形態の表示装置2は大型のタッチパネルを有するものとして説明されているが、表示装置2はタッチパネルを有するものに限られない。
図41は、表示装置2の他の構成例を示す図である。図41では、スクリーン413の上辺にプロジェクター411が設置されている。このプロジェクター411が表示装置2に相当する。なお、スクリーンは黒板でもよく、映像を投影するだけの広さの平面であればよい。
プロジェクター411は超短焦点の光学系を有しており、10cm程度から歪みの少ない映像をスクリーン413に投影できる。この映像は、無線又は有線で接続されたPCから送信されてもよいし、プロジェクター411が記憶していてもよい。
ユーザーは専用の電子ペン2501を使ってスクリーン413に手書きする。電子ペン2501は、ユーザーが手書きのためにスクリーン413に押しつけるとスイッチがONになり発光する発光部を例えば先端部に有している。光の波長は近赤外や赤外なのでユーザーの目には見えない。プロジェクター411はカメラを有しており、発光部を撮像して画像を解析し電子ペン2501の方向を特定する。また、電子ペン2501は発光と共に音波を発信しており、プロジェクター411は音波の到達時間により距離を算出する。プロジェクター411は方向と距離により電子ペン2501の位置を特定できる。電子ペン2501の位置には手書きされたデータが描画(投影)される。
プロジェクター411はメニュー430を投影するので、ユーザーが電子ペン2501でボタンを押下すると、プロジェクター411が電子ペン2501の位置とスイッチのON信号により押下されたボタンを特定する。例えば、保存ボタン431が押下されると、ユーザーが手書きしたデータ(座標点列)がプロジェクター411で保存される。プロジェクター411は、予め定められたサーバー412又はUSBメモリー2600等に手書き情報を保存する。
<<表示装置の別の構成例2>>
図42は、表示装置2の他の構成例を示す図である。図42の例では、表示装置2が、端末装置600、画像投影装置700A、及び、ペン動作検出装置810を有する。
図42は、表示装置2の他の構成例を示す図である。図42の例では、表示装置2が、端末装置600、画像投影装置700A、及び、ペン動作検出装置810を有する。
端末装置600は、画像投影装置700A及びペン動作検出装置810と有線で接続されている。画像投影装置700Aは、端末装置600により入力された画像データをスクリーン800に投影させる。
ペン動作検出装置810は、電子ペン820と通信を行っており、スクリーン800の近傍における電子ペン820の動作を検出する。具体的には、ペン動作検出装置810は、スクリーン800上において、電子ペン820が示している点を示す座標情報を検出し(検出方法は図41と同様でよい)、端末装置600へ送信する。
端末装置600は、ペン動作検出装置810から受信した座標情報に基づき、電子ペン820によって入力される手書きデータの画像データを生成し、画像投影装置700Aによって手書きデータの画像をスクリーン800に描画させる。
また、端末装置600は、画像投影装置700Aに投影させている背景画像と、電子ペン820によって入力された手書データの画像とを合成した重畳画像を示す重畳画像データを生成する。
<<表示装置の別の構成例3>>
図43は、表示装置2の構成例を示す図である。図43の例では、表示装置2が、端末装置600と、ディスプレイ800Aと、ペン動作検出装置810Aとを有する。
図43は、表示装置2の構成例を示す図である。図43の例では、表示装置2が、端末装置600と、ディスプレイ800Aと、ペン動作検出装置810Aとを有する。
ペン動作検出装置810Aは、ディスプレイ800Aの近傍に配置され、ディスプレイ800A上に、電子ペン820Aが示している点を示す座標情報を検出し(検出方法は図41と同様でよい)、端末装置600へ送信する。なお、図43の例では、電子ペン820Aは、端末装置600によってUSBコネクタを介して充電されても良い。
端末装置600は、ペン動作検出装置810から受信した座標情報に基づき、電子ペン820Aによって入力される手書データの画像の画像データを生成し、ディスプレイ800Aに表示させる。
<<表示装置の別の構成例4>>
図44は、表示装置2の構成例を示す図である。図44の例では、表示装置2が、端末装置600と、画像投影装置700Aとを有する。
図44は、表示装置2の構成例を示す図である。図44の例では、表示装置2が、端末装置600と、画像投影装置700Aとを有する。
端末装置600は、電子ペン820Bと無線通信(Bluetooth(登録商標)等)を行って、スクリーン800上において電子ペン820Bが示す点の座標情報を受信する。座標情報は、スクリーン800に形成された微小な位置情報を電子ペン820Bが読み取ってもよいし、スクリーン800から座標情報を受信してもよい。
そして、端末装置600は、受信した座標情報に基づき、電子ペン820Bにより入力される手書データの画像の画像データを生成し、画像投影装置700Aに手書データの画像を投影させる。
また、端末装置600は、画像投影装置700Aに投影させている背景画像と、電子ペン820Bによって入力された手書データの画像とを合成した重畳画像を示す重畳画像データを生成する。
以上のように、上記した各実施形態は、様々なシステム構成において適用することができる。
<その他の適用例>
以上、本発明を実施するための最良の形態について実施例を用いて説明したが、本発明はこうした実施例に何等限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々の変形及び置換を加えることができる。
以上、本発明を実施するための最良の形態について実施例を用いて説明したが、本発明はこうした実施例に何等限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々の変形及び置換を加えることができる。
文字列は文字コードとして、手書きデータは座標データとして表示装置2に保存される。また、各種の記憶媒体に保存したり、ネットワーク上の記憶装置に保存したりしておいて、後で、表示装置2からダウンロードして再使用することができる。再使用する表示装置2はどの表示装置でもよく、一般的な情報処理装置でもよい。したがって、ユーザーは手書きした内容を異なる表示装置2で再現して会議などを継続することができる。
例えば、本実施形態では電子黒板を一例として説明したが、電子黒板は、電子ホワイトボード、電子情報ボード、などと呼ばれてよい。また、本実施形態は、タッチパネルを有する情報処理装置であれば好適に適用できる。タッチパネルを搭載した情報処理装置としては、例えば、PJ(Projector:プロジェクター)、デジタルサイネージ等の出力装置、HUD(Head Up Display)装置、産業機械、撮像装置、集音装置、医療機器、ネットワーク家電、ノートPC(Personal Computer)、携帯電話、スマートフォン、タブレット端末、ゲーム機、PDA(Personal Digital Assistant)、デジタルカメラ、ウェアラブルPC又はデスクトップPC等であってもよい。
また、本実施形態の表示装置2は、ペン先の座標をタッチパネルで検知する方法でペンの座標を検出したが、ペン先の座標を超音波により検出してもよい。また、ペンは発光と共に超音波を発信しており、表示装置2は超音波の到達時間により距離を算出する。表示装置2は方向と距離によりペンの位置を特定できる。ペンの軌跡をストロークデータとしてプロジェクターが描画(投影)する。
また、図6などの構成例は、表示装置2による処理の理解を容易にするために、主な機能に応じて分割したものである。処理単位の分割の仕方や名称によって本願発明が制限されることはない。表示装置2の処理は、処理内容に応じて更に多くの処理単位に分割することもできる。また、1つの処理単位が更に多くの処理を含むように分割することもできる。
また、表示装置2が行う処理の一部を、表示装置2とネットワークを介して接続されたサーバーが行ってもよい。
また、上記で説明した実施形態の各機能は、一又は複数の処理回路によって実現することが可能である。ここで、本明細書における「処理回路」とは、電子回路により実装されるプロセッサのようにソフトウェアによって各機能を実行するようプログラミングされたプロセッサや、上記で説明した各機能を実行するよう設計されたASIC(Application Specific Integrated Circuit)、DSP(digital signal processor)、FPGA(field programmable gate array)や従来の回路モジュール等のデバイスを含むものとする。
描画オブジェクト管理部11は選択受付手段の一例である。表示制御部14は表示制御手段の一例である。描画データ生成部23は画像生成手段の一例である。描画オブジェクト管理部11はオブジェクト管理手段の一例である。また、表示装置2A、2Bが有する表示制御部14は第一の表示制御手段又は第二の表示制御手段の一例である。ネットワーク通信部16は送信手段の一例である。表示装置2A、2Bが有するネットワーク通信部16は第一の送信手段の一例であり、サーバー装置60が有するネットワーク通信部26は第二の送信手段の一例である。
2 表示装置
Claims (17)
- 手書き入力可能な入力可能領域の一部の表示領域を表示する表示装置であって、
前記表示領域に表示されているオブジェクトの選択を受け付ける選択受付手段と、
前記表示領域を移動する操作に応じて、前記オブジェクトを移動するオブジェクト管理手段と、
移動された前記オブジェクトを移動された前記表示領域に表示する表示制御手段と、
を有する表示装置。 - 前記表示制御手段は、前記選択受付手段が前記オブジェクトの選択を受け付けた時の前記表示領域における前記オブジェクトと同じ位置に、移動された前記オブジェクトを表示する請求項1に記載の表示装置。
- 前記表示制御手段は、前記表示領域を移動する操作を受け付けている間、前記選択受付手段が前記オブジェクトの選択を受け付けた時の前記表示領域における前記オブジェクトの位置を維持する請求項1又は2に記載の表示装置。
- 前記選択受付手段は、入力手段で長押しされた前記オブジェクトの選択を受け付ける請求項1~3のいずれか1項に記載の表示装置。
- 前記選択受付手段は、所定のマークが手書きされた後、ストロークで囲まれた前記オブジェクトの選択を受け付ける請求項1~3のいずれか1項に記載の表示装置。
- 前記選択受付手段は、前記オブジェクトから閾値以内に処理のマークが手書きされた場合、前記オブジェクトの選択を受け付ける請求項1~3のいずれか1項に記載の表示装置。
- 前記表示制御手段は、操作メニューを表示し、
前記選択受付手段は、前記操作メニューの所定のボタンが押下された後、入力手段で押下された前記オブジェクトの選択を受け付ける請求項1~3のいずれか1項に記載の表示装置。 - 前記表示制御手段は、操作メニューを表示し、
前記選択受付手段は、前記操作メニューの所定のボタンが押下された後、ストロークで囲まれた前記オブジェクトの選択を受け付ける請求項1~3のいずれか1項に記載の表示装置。 - 前記表示制御手段は、前記入力手段で長押しされた前記オブジェクトの周囲に第一の表示部品を表示し、
前記選択受付手段は、前記第一の表示部品が押下された場合に前記オブジェクトの選択を受け付ける請求項4に記載の表示装置。 - 前記表示制御手段は、操作メニューを表示し、
前記表示制御手段は、前記操作メニューの所定のボタンが押下された後、入力手段が接触した位置に、前記入力手段で選択された前記オブジェクトを移動し、
前記選択受付手段は移動した前記オブジェクトの選択を受け付ける請求項1~3のいずれか1項に記載の表示装置。 - 入力手段によるオブジェクトの選択が可能な選択モードにおいて、
前記選択受付手段が、前記入力手段による矩形の入力を受け付けた場合、
前記表示制御手段は、前記入力手段で選択された前記オブジェクトを前記矩形の領域に移動し、前記選択受付手段は移動した前記オブジェクトの選択を受け付ける請求項1~3のいずれか1項に記載の表示装置。 - 前記選択受付手段は、第一の入力手段で長押しされた前記オブジェクトの選択を受け付け、
前記オブジェクト管理手段は、前記第一の入力手段で前記オブジェクトが長押しされた状態の場合、第二の入力手段による前記表示領域を移動する操作に応じて、前記オブジェクトを移動する請求項1~3のいずれか1項に記載の表示装置。 - 前記オブジェクトが移動された後、
移動された前記オブジェクトが入力手段で長押しされた場合、前記オブジェクトの周囲に第二の表示部品を表示し、
前記選択受付手段は、前記第二の表示部品が押下された場合に前記オブジェクトの選択を解除し、
前記表示領域が移動された移動量に応じて、前記表示領域に対する前記オブジェクトの位置を変化させる請求項1~9のいずれか1項に記載の表示装置。 - ネットワークを介して複数の表示装置が通信する表示システムであって、
第一の表示装置は、
手書き入力可能な入力可能領域の一部の表示領域に表示されているオブジェクトの選択を受け付ける選択受付手段と、
前記表示領域を移動する操作に応じて、前記オブジェクトを移動するオブジェクト管理手段と、
移動された前記オブジェクトを移動された前記表示領域に表示する表示制御手段と、
前記選択受付手段が受け付けた前記オブジェクトに関するデータ、前記表示領域における前記オブジェクトの座標、及び、前記オブジェクトの前記移動に関するデータを第二の表示装置に送信する送信手段と、を有し、
前記第二の表示装置は、
前記オブジェクトの移動に関するデータに基づいて移動した前記表示領域に、前記表示領域における前記オブジェクトの座標に基づいて前記オブジェクトを表示する第二の表示制御手段、
を有する表示システム。 - ネットワークに接続された情報処理装置を介して複数の表示装置が通信する表示システムであって、
前記情報処理装置は、
前記複数の表示装置から送信されたオブジェクトに関するデータを保持しており、
第一の表示装置は、
手書き入力可能な入力可能領域の一部の表示領域に前記オブジェクトを表示する表示制御手段と、
前記表示領域に表示されている前記オブジェクトの選択を受け付ける選択受付手段と、
前記表示領域を移動する操作に応じて、前記選択受付手段が受け付けた前記オブジェクトに関するデータ、及び、前記表示領域の前記移動に関するデータを前記情報処理装置に送信する第一の送信手段と、を有し、
前記情報処理装置は、
前記移動に関するデータに基づいて、前記表示領域を前記オブジェクトと共に移動するオブジェクト管理手段と、
前記表示領域の前記オブジェクトを表示する画像を生成する画像生成手段と、
前記画像生成手段が生成した前記画像を前記第一の表示装置及び第二の表示装置に送信する第二の送信手段と、を有し、
前記第一の表示装置及び前記第二の表示装置は、前記情報処理装置から受信した前記画像を表示する表示システム。 - 手書き入力可能な入力可能領域の一部の表示領域を表示する表示装置を、
前記表示領域に表示されているオブジェクトの選択を受け付ける選択受付手段と、
前記表示領域を移動する操作に応じて、前記オブジェクトを移動するオブジェクト管理手段と、
移動された前記オブジェクトを移動された前記表示領域に表示する表示制御手段、
として機能させるためのプログラム。 - 手書き入力可能な入力可能領域の一部の表示領域を表示する表示方法であって、
選択受付手段が、前記表示領域に表示されているオブジェクトの選択を受け付けるステップと、
前記表示領域を移動する操作に応じて、オブジェクト管理手段が、前記オブジェクトを移動するステップと、
表示制御手段が、移動された前記オブジェクトを移動された前記表示領域に表示するステップと、
を有する表示方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US17/688,929 US11782594B2 (en) | 2021-03-22 | 2022-03-08 | Display apparatus, display system, and display method |
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2021047765 | 2021-03-22 | ||
JP2021047765 | 2021-03-22 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2022146853A true JP2022146853A (ja) | 2022-10-05 |
Family
ID=83461349
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021161931A Pending JP2022146853A (ja) | 2021-03-22 | 2021-09-30 | 表示装置、プログラム、表示方法、表示システム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2022146853A (ja) |
-
2021
- 2021-09-30 JP JP2021161931A patent/JP2022146853A/ja active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6094550B2 (ja) | 情報処理装置、プログラム | |
US10855481B2 (en) | Live ink presence for real-time collaboration | |
US11907466B2 (en) | Apparatus and method which displays additional information along with a display component in response to the display component being selected | |
US10725653B2 (en) | Image processing device, image processing system, and image processing method | |
JP7452155B2 (ja) | 手書き入力装置、手書き入力方法、プログラム | |
JP2015026189A (ja) | 画像処理システム、携帯端末装置、表示装置及びコンピュータプログラム | |
JP2022146853A (ja) | 表示装置、プログラム、表示方法、表示システム | |
JP5165661B2 (ja) | 制御装置、制御方法、制御プログラム、及び記録媒体 | |
US11782594B2 (en) | Display apparatus, display system, and display method | |
US11816327B2 (en) | Display apparatus, method for displaying, and non-transitory recording medium | |
JP2022087633A (ja) | 表示装置、消去方法切替方法、プログラム | |
JP2021197024A (ja) | 表示装置、表示方法及びプログラム | |
JP7331578B2 (ja) | 表示装置、画像表示方法、プログラム | |
US11726654B2 (en) | Display apparatus capable of displaying icon corresponding to shape of hand-drafted input, display method, and non-transitory computer-executable medium storing program thereon | |
JP7480608B2 (ja) | 表示装置、表示方法、プログラム | |
US20220300147A1 (en) | Display apparatus, display method, and non-transitory recording medium | |
US11675496B2 (en) | Apparatus, display system, and display control method | |
JP7383959B2 (ja) | 表示装置、使用方法提供方法、プログラム、画像処理システム | |
US20230333731A1 (en) | Display apparatus, display system, display method, and non-transitory recording medium | |
JP2022147384A (ja) | 表示装置、表示方法、プログラム | |
JP2023133110A (ja) | 表示装置、表示方法、プログラム | |
JP6068428B2 (ja) | 画像表示システムの制御方法及び制御装置 | |
JP2023034010A (ja) | 表示装置、表示システム、表示制御方法、及びプログラム | |
JP2022147297A (ja) | 表示装置、表示方法、プログラム | |
JP2022139957A (ja) | 表示装置、プログラム、変換方法、表示システム |