JP2016162032A - 表示装置、表示制御方法およびプログラム - Google Patents

表示装置、表示制御方法およびプログラム Download PDF

Info

Publication number
JP2016162032A
JP2016162032A JP2015037854A JP2015037854A JP2016162032A JP 2016162032 A JP2016162032 A JP 2016162032A JP 2015037854 A JP2015037854 A JP 2015037854A JP 2015037854 A JP2015037854 A JP 2015037854A JP 2016162032 A JP2016162032 A JP 2016162032A
Authority
JP
Japan
Prior art keywords
mode
detected
event
operation mode
display device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015037854A
Other languages
English (en)
Other versions
JP6543960B2 (ja
JP2016162032A5 (ja
Inventor
俊樹 藤森
Toshiki Fujimori
俊樹 藤森
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Seiko Epson Corp
Original Assignee
Seiko Epson Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Seiko Epson Corp filed Critical Seiko Epson Corp
Priority to JP2015037854A priority Critical patent/JP6543960B2/ja
Priority to CN201610095079.XA priority patent/CN105929987B/zh
Priority to US15/050,535 priority patent/US9857969B2/en
Publication of JP2016162032A publication Critical patent/JP2016162032A/ja
Publication of JP2016162032A5 publication Critical patent/JP2016162032A5/ja
Application granted granted Critical
Publication of JP6543960B2 publication Critical patent/JP6543960B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/038Control and interface arrangements therefor, e.g. drivers or device-embedded control circuitry
    • G06F3/0383Signal control means within the pointing device
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G06F3/04883Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures for inputting data by handwriting, e.g. gesture or text
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/0416Control or interface arrangements specially adapted for digitisers
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • User Interface Of Digital Computer (AREA)
  • Position Input By Displaying (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Devices For Indicating Variable Information By Combining Individual Elements (AREA)

Abstract

【課題】ユーザーの意図を反映して自動的に表示装置の動作モードを切り替える。
【解決手段】表示装置は、情報処理装置上で動作しているアプリケーションプログラムの画面を表示面に表示する表示手段と、表示面上における指示体の位置を検知する検知手段と、画面においてアプリケーションプログラムに対して入力を行うための画像オブジェクトを含む所定範囲内に位置があるかの判定結果を受信する受信手段と、自装置の動作モードが第1モードである場合、検知手段により検知された位置の軌跡に応じた線を表示面に描画する描画手段と、動作モードが第2モードである場合、検知手段により検知された位置を示す情報を情報処理装置に送信する第2送信手段と、動作モードが第1モードである場合において、検知手段により検知された位置が所定範囲内であること示す判定結果を受信手段が受信したときは、当該動作モードを第2モードに切り替える切り替え手段とを有する。
【選択図】図1

Description

本発明は、指示体の位置に応じて、第1モードと第2モードで異なる処理を行う表示装置の動作モードを切り替える技術に関する。
表示面上において指示体で指示された位置に応じた画像を表示する表示装置が知られている。例えば特許文献1には、指示体(ポインター)により指示された位置に応じた画像を、映像供給装置(PC)から供給される画像に重ねて投写するプロジェクターが記載されている。このプロジェクターの動作モードには、指示体の座標に応じてプロジェクターが画像を描画する動作モード、および指示体の座標をポインティングデバイスの座標としてPCが画像を描画する動作モードがある。特許文献1において、これら2つの動作モードは、表示されるメニューバーに対する操作に応じて切り替えられる。また、特許文献2には、タッチパネルを有する表示装置において、ドラッグ長(画面をタッチしてから離すまでに移動した長さ)に応じて動作モードを切り替えることが記載されている。
特開2013−134409号公報 特開2005−92538号公報
特許文献1に記載の技術においては、プロジェクターにメニューを表示させ、その中から動作モードの切り替えに相当する項目を選択する操作を行う必要があった。また、ユーザーが動作モードの切り替えを行う意図を有しているかどうかは、指示体により指示された位置において映像供給装置により表示されている画像オブジェクトに依存する場合があるところ、特許文献2に記載の技術においてはこの点が考慮されていなかった。
本発明は、メニューの表示および選択によらずに、よりユーザーの意図を反映して自動的に表示装置の動作モードを切り替える技術を提供する。
本発明は、情報処理装置上で動作しているアプリケーションプログラムの画面を表示面に表示する表示手段と、前記表示面上における指示体の位置を検知する検知手段と、前記検知手段により検知された位置を示す情報を含む問い合わせを前記情報処理装置に送信する第1送信手段と、前記問い合わせに対する回答として、前記画面において前記アプリケーションプログラムに対して入力を行うための画像オブジェクトを含む所定範囲内に前記位置があるかの判定結果を受信する受信手段と、自装置の動作モードが第1モードである場合、前記検知手段により検知された位置の軌跡に応じた線を前記表示面に描画する描画手段と、前記動作モードが第2モードである場合、前記検知手段により検知された位置を示す情報を前記情報処理装置に送信する第2送信手段と、前記動作モードが前記第1モードである場合において、前記検知手段により検知された位置が前記所定範囲内であること示す前記判定結果を前記受信手段が受信したときは、当該動作モードを前記第2モードに切り替える切り替え手段とを有する表示装置を提供する。
この表示装置によれば、メニューの表示および選択によらずに、よりユーザーの意図を反映して自動的に表示装置の動作モードを第2モードに切り替えることができる。
前記検知手段は、前記指示体が前記表示面に接触していることを示す第1イベントを検知し、前記描画手段は、前記第1イベントが連続して検知されている間の前記位置の軌跡に応じて前記線を描画し、前記受信手段が前記回答を受信する前から、前記線の描画を開始し、前記検知手段により検知された位置が前記所定範囲内であること示す前記判定結果を前記受信手段が受信し、かつ、前記線の長さがしきい値よりも短い場合、当該線を消去してもよい。
この表示装置によれば、ユーザーの意図と反して描かれた線を消去することができる。
前記検知手段は、前記指示体が前記表示面に接触していることを示す第1イベントを検知し、前記描画手段は、前記第1イベントが連続して検知されている間の前記位置の軌跡に応じて前記線を描画し、前記受信手段が前記回答を受信するまでは、前記線の描画を開始せず、前記線の長さがしきい値よりも長くなった場合、当該線の少なくとも一部を描画してもよい。
この表示装置によれば、ユーザーが画像オブジェクトに対して行った操作により線が描かれることを防止しつつ、ユーザーが線を描こうとしているときには線を描くことができる。
前記線の長さがしきい値よりも長くなった場合、前記描画手段は、当該線に関し前記第1イベントが最初に検知された点まで遡って当該線を描画してもよい。
この表示装置によれば、ユーザーが線を描こうとしているときには始点まで遡って線を描くことができる。
前記検知手段は、前記表示面に接触していた前記指示体が当該表示面から離れたことを示す第2イベントを検知し、前記第1送信手段は、前記第2イベントが前記検知手段により検知されたことを契機として前記問い合わせを送信し、前記第2イベントが前記検知手段により検知された場合であっても、当該時点で前記線の長さがしきい値よりも長い場合、前記問い合わせを送信しなくてもよい。
この表示装置によれば、問い合わせによる待ち時間が発生する頻度を低減することができる。
前記動作モードが前記第2モードに切り替わってからしきい値時間経過するまで、前記第1送信手段は、前記問い合わせを送信しなくてもよい。
この表示装置によれば、問い合わせによる待ち時間が発生する頻度を低減することができる。
前記検知手段は、前記指示体が前記表示面に接触していることを示す第1イベントを検知し、前記切り替え手段は、前記動作モードが前記第2モードである場合において、前記第1イベントが連続して検知されている間の前記位置の軌跡の長さがしきい値よりも長いときは、当該動作モードを前記第1モードに切り替えてもよい。
この表示装置によれば、メニューの表示および選択によらずに、よりユーザーの意図を反映して自動的に表示装置の動作モードを第1モードに切り替えることができる。
前記検知手段は、前記指示体が前記表示面から離れておりかつ当該表示面との距離がしきい値以下であることを示す第3イベントを検知し、前記第1送信手段は、前記第3イベントが前記検知手段により検知されているときに前記問い合わせを送信してもよい。
この表示装置によれば、ユーザーが体感する待ち時間を低減することができる。
この表示装置は、前記動作モードが切り替わったことをユーザーに通知する通知手段を有してもよい。
この表示装置によれば、ユーザーは、動作モードが切り替わったことを容易に確認することができる。
また、本発明は、情報処理装置上で動作しているアプリケーションプログラムの画面を表示面に表示するステップと、前記表示面上における指示体の位置を検知するステップと、前記検知された位置を示す情報を含む問い合わせを前記情報処理装置に送信するステップと、前記問い合わせに対する回答として、前記画面において前記アプリケーションプログラムに対して入力を行うための画像オブジェクトを含む所定範囲内に前記位置があるかの判定結果を受信するステップと、自装置の動作モードが第1モードである場合、前記検知手段により検知された位置の軌跡に応じた線を前記表示面に描画するステップと、前記動作モードが第2モードである場合、前記検知手段により検知された位置を示す情報を前記情報処理装置に送信するステップと、前記動作モードが前記第1モードである場合において、前記検知された位置が前記所定範囲内であること示す前記判定結果が受信されたときは、当該動作モードを前記第2モードに切り替えるステップとを有する表示制御方法を提供する。
この表示制御方法によれば、メニューの表示および選択によらずに、よりユーザーの意図を反映して自動的に表示装置の動作モードを第2モードに切り替えることができる。
さらに、本発明は、コンピューターに、当該コンピューター上で動作しているアプリケーションプログラムの画面を表示装置により表示面に表示するステップと、前記表示面上において検知された指示体の位置を取得するステップと、前記画面において前記アプリケーションプログラムに対して入力を行うための第1画像オブジェクトを含む所定範囲内に前記位置があるか判定するステップと、自装置の動作モードが第1モードである場合、前記検知された位置の軌跡に応じた線を前記表示面に描画するステップと、前記動作モードが第2モードである場合、前記検知された位置に第2画像オブジェクトを表示させるステップと、前記動作モードが前記第1モードである場合において、前記検知された位置が前記所定範囲内であると判定されたときは、当該動作モードを前記第2モードに切り替えるステップとを実行させるためのプログラムを提供する。
このプログラムによれば、メニューの表示および選択によらずに、よりユーザーの意図を反映して自動的に表示装置の動作モードを第2モードに切り替えることができる。
一実施形態に係る表示システム1の機能構成を示す図。 表示装置10のハードウェア構成を例示する図。 情報処理装置30のハードウェア構成を例示する図。 インタラクティブモードの概要を示す図。 PCモードの概要を示す図。 動作例1に係るモード切り替え処理を示すフローチャート。 動作例2に係るモード切り替え処理を示すフローチャート。 動作例3に係るモード切り替え処理を示すフローチャート。
1.構成
図1は、一実施形態に係る表示システム1の機能構成を示す図である。表示システム1は、表示装置10、指示体20、および情報処理措置30を有する。表示装置10は、情報処理措置30から供給される映像を表示面に表示する装置である。情報処理装置30は、表示装置10に映像を供給する映像供給装置の一例である。この例で、情報処理装置30は汎用のパーソナルコンピューターであり、アプリケーションプログラムを動作させる機能を有する。
指示体20は、表示面上の位置を指示する装置である。表示装置10は、指示体20により指示された位置に応じた処理を行う。この例で、指示された位置に応じた処理は、表示装置10の動作モードによって異なる。表示システム1は、この動作モードを自動的に切り替える機能を有する。
表示装置10は、表示手段11、検知手段12、送信手段13、受信手段14、描画手段15、送信手段16、切り替え手段17、および通知手段18を有する。
表示手段11は、情報処理措置30上で動作しているアプリケーションプログラムの画面を表示面に表示する。アプリケーションプログラムの画面とは、アプリケーションプログラムの実行に伴って情報処理装置30において生成される画面をいい、例えばマルチウインドウのGUI(Graphical User Interface)の場合にはアクティブなアプリケーションプログラムのウインドウを含むデスクトップ画面全体をいう。表示面とは画像が表示される面であり、例えば表示装置10がプロジェクターの場合はスクリーンまたは壁面、表示装置10が液晶ディスプレイの場合は液晶パネルである。
検知手段12は、表示面11上における指示体20の位置(以下単に「指示体20の位置」という)を検知する。この例で、検知手段12は、指示体20の位置を含むイベントを検知する。指示体20は、ユーザーが表示面11上の位置を指定するのに用いるものであり、例えば電子ペンまたはユーザー自身の指である。検知手段12は、例えば、表示面を撮像するカメラを有し、指示体20の形状または色、もしくは指示体20に設けられた発光体(例えば赤外線発光ダイオード)の発光によって指示体20の位置を検知する。検知手段12は、表示面に設けられた圧力センサーや静電センサーにより指示体20の位置を検知してもよい。検知手段12は、例えば発光体の発酵パターンによりイベントの種別を認識する。
指示体20に関するイベントには、例えばペンダウンイベントおよびペンアップイベントがある。ペンダウンイベントは、指示体20が表示面に接触していることを示すイベントである。ペンダウンイベントは、指示体20が表示面に接触している位置を示す情報(例えば座標)を含む。ペンアップイベントは、それまで表示面に接触していた指示体20が表示面から離れたことを示す。ペンアップイベントは、それまで表示面に接触していた指示体20が表示面から離れる前に最後に接触が検知された位置を示す情報を含む。
送信手段13は、情報処理装置30に対して問い合わせを送信する。この問い合わせは、検知手段12により検知された指示体20の位置がUI(User Interface)オブジェクトに相当する位置であるか否かの問い合わせである。UIオブジェクトとは、情報処理装置30上で動作しているアプリケーションプログラムの画面において、そのアプリケーションプログラムに対して入力を行うための画像オブジェクト、例えば、アイコン、ボタン、およびメニュー項目である。UIオブジェクトに相当する位置とは、UIオブジェクトを含む所定範囲(例えばUIオブジェクトの外形に所定のマージンを加えた範囲。第1の範囲の一例)をいう。なお、この問い合わせは、指示体20の位置を示す情報を含む。
受信手段14は、上記の問い合わせに対する回答を受信する。この回答は、指示体20の位置がUIオブジェクトに相当する位置であるか否かの判定結果を含んでいる。
描画手段15は、表示装置10の動作モードが第1モードである場合に有効になる機能であり、指示体20の位置の軌跡に応じた線(すなわち手書き画像)を表示面に描画する。この例で、描画手段15は、ペンダウンイベントが連続して検知されている間の指示体20の位置の軌跡に応じて線を描く。より詳細には、描画手段15は、ペンダウンイベントが検知されていない状態から初めてペンダウンイベントが検知された位置から、その後ペンアップイベントが検知されるまでの位置に応じて線を描く。
送信手段16は、表示装置10の動作モードが第2モードである場合に有効になる機能であり、指示体20の位置を示す情報を情報処理装置30に送信する。なお、描画手段15は、第2モードの間の間に検知した指示体20の位置の軌跡に応じた線は描画しないようにしてもよいし、特定の条件を満たす場合のみ描画するようにしてもよい。
切り替え手段17は、表示装置10の動作モードを切り替える。具体的には、表示装置10の動作モードが第1モードである場合において、指示体20の位置がUIオブジェクトに相当する位置であることを示す判定結果を含む回答を受信手段14が受信したときは、切り替え手段17は、動作モードを第2モードに切り替える。
通知手段18は、動作モードが切り替わったことをユーザーに通知する。ユーザーへの通知は、例えば音、振動、または表示面に表示する画像を介して行われる。
情報処理措置30は、実行手段31、映像供給手段32、および判定手段33を有する。実行手段31は、プログラムを実行する。映像供給手段32は、表示装置10に映像を供給する。この例で、映像供給手段32は、実行手段31が実行しているプログラムの画面を供給する。判定手段33は、表示装置10からの問い合わせに応じて、その問い合わせに係る位置が実行手段31により実行されているプログラムのUIオブジェクトに相当する位置であるか判定する。さらに、判定手段31は、判定結果を表示装置10に送信する。
図2は、表示装置10のハードウェア構成を例示する図である。表示装置10は、CPU(Central Processing Unit)100、ROM(Read Only Memory)101、RAM(Random Access Memory)102、記憶部103、IF部104、画像処理回路105、投写ユニット106、操作パネル107、およびカメラ108を有する。
CPU100は、表示装置10の各部を制御する制御装置である。ROM101は、各種プログラムおよびデータを記憶した不揮発性の記憶装置である。RAM102は、データを記憶する揮発性の記憶装置であり、CPU100が処理を実行する際のワークエリアとして機能する。記憶部103は、データやプログラムなどを記憶する不揮発性の記憶装置であり、例えば、フラッシュROM、SSD(Solid State Drive)、またはHDD(Hard Disk Drive)を含む。なお、記憶部103は、ROM101に含まれていてもよい。あるいは、記憶部103は、ネットワーク上の記憶装置であってもよい。
IF部104は、外部装置(例えば表示装置10)と信号またはデータのやりとりを仲介するインターフェースである。IF部104は、外部装置と信号またはデータのやりとりをするための端子(例えば、VGA端子、USB端子、有線LANインターフェース、S端子、RCA端子、HDMI(High-Definition Multimedia Interface:登録商標)端子、マイクロフォン端子など)および無線LANインターフェースを含む。これらの端子は、映像入力端子に加え、映像出力端子を含んでもよい。
画像処理回路105は、入力された映像信号(以下「入力映像信号」という)に所定の画像処理(例えばサイズ変更、台形補正等)を施す。
投写ユニット106は、画像処理が施された映像信号に従って、スクリーンまたは壁面等の投写面に画像を投写する。投写ユニット106は、光源、光変調器、および光学系(いずれも図示略)を有する。光源は、高圧水銀ランプ、ハロゲンランプ、もしくはメタルハライドランプなどのランプ、またはLED(Light Emitting Diode)もしくはレーザーダイオードなどの固体光源、およびこれらの駆動回路を含む。光変調器は、光源から照射された光を映像信号に応じて変調する装置であり、例えば液晶パネルまたはDMD(Digital Mirror Device)、およびこれらの駆動回路を有する。なお、液晶パネルは、透過型および反射型のいずれの方式であってもよい。光学系は、光変調器により変調された光をスクリーンに投写する素子などで構成されており、例えばミラー、レンズ、およびプリズムを有する。光源および光変調器は色成分毎に設けられていてもよい。
操作パネル107は、ユーザーが表示装置10に対し指示を入力するための入力装置であり、例えば、キーパッド、ボタン、またはタッチパネルを含む。
カメラ108は、指示体20の位置を特定するためのカメラである。この例で、指示体20は、ペン先に発光体(例えば赤外線発光ダイオード)、圧力センサー、および制御回路(いずれも図示略)を有する。圧力センサーによりペン先が物体(投写面等)に触れたことが検知されると、制御回路は、所定の発光パターンで発光体を発光させる。カメラ108は赤外線カメラであり、投写面の画像を撮影する。CPU100は、カメラ108が撮影した画像から指示体20の位置および対応するイベントを特定する。
この例で、投写ユニット106は表示手段11の一例である。投写面が表示面である。カメラ108およびCPU100は検知手段12の一例である。IF部104は送信手段13、受信手段14、および送信手段16の一例である。CPU100は、描画手段15、切り替え手段17、および通知手段18の一例である。
図3は、情報処理装置30のハードウェア構成を例示する図である。情報処理装置30は例えば汎用のパーソナルコンピューターであり、CPU300、ROM301、RAM302、IF部303、記憶部304等のハードウェア要素を有する。記憶部304は、オペレーティングシステム(Operating System、OS)およびアプリケーションプログラム(例えばプレゼンテーションのスライドを順次表示するプログラム)に加え、表示装置10からの問い合わせに対し回答するためのプログラム(以下「位置判定プログラム」という)を記憶している。位置判定プログラムはアプリケーションプログラムのバックグラウンドで動作する。情報処理装置30においてCPU300は実行手段31および判定手段33の一例であり、IF部303は映像供給手段32の一例である。
2.動作モードの概要
ここで、表示装置10の動作モードについて説明する。この例で、表示装置10の動作モードには、インタラクティブモード(第1モードの一例)およびPCモード(第2モードの一例)がある。
図4は、インタラクティブモードの概要を示す図である。インタラクティブモードは、指示体20の軌跡に応じた線(以下「手書き画像」という)を表示装置10が描画する動作モードである。インタラクティブモードにおいては、表示装置10をホワイトボードや電子黒板のように使用することができる。さらに、表示装置10は、映像供給装置から供給される映像に手書き画像を重ねて合成した画像を表示することができる。例えば、表示装置10は、情報処理装置30で実行されているアプリケーションプログラムの画面の上に、手書き画像(この場合はアノテーションやメモ書き)を重ねて表示することができる。図3の例では、ユーザーが指示体20を投写面にタッチ(接触)させながら移動した軌跡に伴って、スクリーンSC上に手書き画像IM1が表示されている。
図5は、PCモードの概要を示す図である。PCモードは、指示体20が情報処理装置30のポインティングデバイスとして用いられる動作モードである。表示装置10は、指示体20の投写面における位置(座標)を含むイベントを示す情報を情報処理装置30に送信する。情報処理装置30のデバイスドライバーは、表示装置10から送信される情報をマウス操作の情報に変換し、OSに引き渡す。
表示装置10は、情報処理装置30で実行されているアプリケーションプログラムの画面を表示する。この例で、この画面は、マウスカーソルCおよびアプリケーションプログラムのウインドウWを含んでいる。ウインドウWは、ボタンBを含んでいる。ボタンBは、ウインドウWを閉じるためのボタンである。ユーザーが指示体20で投写面にタッチすると、マウスカーソルCはタッチされた位置に移動する。ユーザーがタッチした位置がボタンBである場合、ボタンBがクリックされたと解釈され、ウインドウWは閉じる。
3.動作
以下、表示システム1の動作例をいくつか説明する。以下の動作例は単独で用いられてもよいし、2つ以上が組み合わせて用いられてもよい。
3−1.動作例1
図6は、動作例1に係るモード切り替え処理を示すフローチャートである。図6のフローは、例えば表示装置10の電源が投入されたことを契機として開始される。なお、以下の説明において、ソフトフェアを処理の主体として記載する場合があるが、これは、このソフトウェアを実行しているハードウェア資源(CPU等)が他のハードウェア資源(メモリーや通信インターフェース等)と共働して処理を行うことを意味する。
ステップS100において、表示装置10のCPU100は、ペンイベントを検知する。詳細には以下のとおりである。CPU100は、カメラ108により撮影された画像を定期的に取得する。CPU100は、この画像に含まれている発光点の位置および発光強度の変化から、ペンイベントおよびそのペンイベントが発生した位置を特定する。この位置は、スクリーンを基準とした座標系上の座標に変換される。CPU100は、検知したペンイベント(座標を含む)をRAM102に記憶する。
検知されたイベントがペンアップイベントであった場合、CPU100は、処理をステップS110に移行する。検知されたイベントがペンアップイベント以外のイベントであった場合、またはペンイベントが検出されない場合、CPU100は、処理を再びステップS100に移行する。
ステップS110において、CPU100は、直近のペンイベントに関するストローク長を測定する。ストローク長とは、指示体20の位置の軌跡に応じた線の長さをいう。指示体20の位置の軌跡に応じた線とは、連続して検知されたペンダウンイベントに含まれる座標を用いて描かれる線、要するに指示体20が投写面に触れながら移動した軌跡をいう。ここではCPU100は、描き終わったばかりの線(ペンアップイベントが検知されたばかりの線)について、ストローク長を測定する。
ステップS120において、CPU100は、測定されたストローク長がしきい値以下であるか判断する。このしきい値は、動作モードの切り替えの判断基準となるしきい値である。換言すると、このしきい値は、ユーザーによる指示体20の操作が、画面上のUIオブジェクト(アイコンやボタン等)に対する操作であるか、線を描画する操作であるかの判断基準となるしきい値である。ストローク長がUIオブジェクトのサイズ(高さや幅)よりも短い場合、指示体20の操作は、UIオブジェクトへの指示入力(クリック等)である可能性がある。したがって、このしきい値は、UIオブジェクトのサイズ程度の大きさに設定される。なお、この例ではストローク長がしきい値以下であるかの判断を行っているが、ストローク長がしきい値より短いか否かの判断を行うようにしてもよい。
ストローク長がしきい値以下であると判断された場合(S120:YES)、CPU100は、処理をステップS130に移行する。ストローク長がしきい値を超えていると判断された場合(S120:NO)、CPU100は、処理をステップS150に移行する。
ステップS130において、CPU100は、ペンアップイベントが検知された座標に、UIオブジェクトが存在するか判断する。この例では、表示装置10は、この座標にUIオブジェクトが存在するか自分自身だけでは判断することができないので、映像供給装置である情報処理装置30に問い合わせを行う。詳細には以下のとおりである。
CPU100は、情報処理装置30に対し問い合わせを送信する。この問い合わせは、映像信号と同じ経路で送られてもよいし、映像信号と異なる経路で送られてもよい。この問い合わせは、ペンアップイベントが検知された座標を示す情報を含んでいる。
表示装置10から問い合わせを受信すると、情報処理装置30の位置判定プログラムは、問い合わせに含まれる座標を、情報処理装置30のデスクトップ(画面)上の座標に変換する。位置判定プログラムは、その座標にUIオブジェクトが存在するか否か判定する。位置判定プログラムは、例えば、OSに対し、その座標に、クリックにより反応するオブジェクトが存在するか問い合わせることにより、この判定を行う。OSは、座標が指定されると、その座標にクリック可能なオブジェクトが存在するか判定する機能を有している。位置判定プログラムは、この判定の結果を用いて、表示装置10からの問い合わせに対する回答を生成する。この回答は、その座標にUIオブジェクトが存在するか否かの判定結果を含む。位置判定プログラムは、生成された回答を表示装置10に送信する。
情報処理装置30から回答を受信すると、表示装置10のCPU100は、その回答に従って、この座標にUIオブジェクトが存在するか判断する。UIオブジェクトが存在すると判断された場合(S130:YES)、CPU100は、処理をステップS140に移行する。UIオブジェクトが存在しないと判断された場合(S130:NO)、CPU100は、処理をステップS150に移行する。
ステップS140において、CPU100は、動作モードをPCモードに設定する。すなわち、それまで動作モードがインタラクティブモードであった場合、動作モードはPCモードに切り替えられる。この場合において、直近の一連のペンイベント(一連のペンダウンイベントが最初に検知されてからペンアップイベントが検知されるまでの連続したペンイベント)はPCモードにおいて処理される。それまで動作モードがPCモードであった場合、動作モードは維持される。動作モードを設定すると、CPU100は、図6のフローを終了する。
ステップS150において、CPU100は、動作モードをインタラクティブモードに設定する。すなわち、それまで動作モードがPCモードであった場合、動作モードはインタラクティブモードに切り替えられる。この場合において、直近の一連のペンイベントはインタラクティブモードにおいて処理される。それまで動作モードがインタラクティブモードであった場合、動作モードは維持される。動作モードを設定すると、CPU100は、図6のフローを終了する。
図6のフローは、表示装置10の電源が投入されている間は定期的に繰り返し実行される。この動作例によれば、ユーザーの意図をより反映して動作モードの切り替えが行われる。具体的には、指示体20により描かれる線のストロークがしきい値より短く、かつペンアップが検知された位置がUIオブジェクトの位置であった場合、動作モードが自動的にPCモードに切り替えられる。また、ストロークがしきい値よりも長い場合、動作モードが自動的にインタラクティブモードに切り替えられる。なお、ペンアップイベントが検知された場合であっても、ストロークがしきい値よりも長い場合には、問い合わせは行われない。
以下、より具体的に判定の例を説明する。以下の例において、長さの単位は画素(ピクセル)である。また、ステップS120におけるしきい値は10画素である。現在実行中のアプリケーションプログラムにおいて、UIオブジェクトは、(415,17)および(425,27)を結ぶ線を対角線とする矩形領域にのみ表示されている。
(1)例1
この例で、タッチ開始座標(一連のペンイベントにおける最初のペンダウンイベントの座標)が(960,390)であり、タッチ終了座標(一連のペンイベントにおけるペンアップイベントの座標)が(960,395)である。ストローク長は5画素であり、しきい値よりも短いので、表示装置10は、(960,395)にUIオブジェクトがあるか情報処理装置30に問い合わせを行う。この座標にUIオブジェクトは無いので、情報処理装置30は、UIオブジェクトが無い旨の回答を表示装置10に送信する。この回答を受信すると、表示装置10は、動作モードをインタラクティブモードに設定する。すなわち、長さ5画素分の短い線を描画する。
(2)例2
この例で、タッチ開始座標が(420,80)であり、タッチ終了座標が(422,81)である。ストローク長は√5画素であり、しきい値よりも短いので、表示装置10は、座標(960,395)にUIオブジェクトがあるか情報処理装置30に問い合わせを行う。この座標にはUIオブジェクトが有るので、情報処理装置30は、UIオブジェクトが有る旨の回答を表示装置10に送信する。この回答を受信すると、表示装置10は、動作モードをインタラクティブモードに設定する。すなわち、長さ√5画素分の線は描画されず、座標(422,81)がクリックされたことを示すイベントが情報処理装置30に送信される。
3−2.動作例2
図7は、動作例2に係るモード切り替え処理を示すフローチャートである。動作例1においては、ペンアップイベントが発生する度に表示装置10は情報処理装置30に問い合わせを行っていた。すなわち動作例1においてはペンアップイベントが検知される度に情報処理装置30との通信待ちの時間が発生するため、表示装置10と情報処理装置30との通信状況によっては、遅延が生じていると感じられてしまう可能性がある。
動作例2においては、遅延がユーザーに認識される可能性を低減するため、表示装置10が情報処理装置30へ問い合わせを行う頻度を低減する。そのため、動作例2においては、前回のペン操作が行われてから一定時間が経過するまでは、モード切り替えの判断は行われない。詳細には以下のとおりである。
ステップS200において、表示装置10のCPU100は、ペンイベントを検知する。CPU100は、検知したペンイベント(座標を含む)を、そのペンイベントを検知した時刻と共にRAM102に記憶する。検知されたイベントがペンアップイベントであった場合、CPU100は、処理をステップS210に移行する。検知されたイベントがペンアップイベント以外のイベントであった場合、またはペンイベントが検出されない場合、CPU100は、処理を再びステップS200に移行する。
ステップS210において、CPU100は、直前のペン操作からの経過時間ΔTを更新する。ここで、「直前のペン操作」とは、前回検出されたペンアップイベントをいう。すなわち時間ΔTは、前回、線を書き終えてから今回のペンアップイベントに係る線を書き終えるまでに経過した時間を示す。CPU100は、時間ΔTの値を更新し、RAM102に書き込む。
ステップS220において、CPU100は、時間ΔTがしきい値Thを超えているか(すなわちΔT>Thであるか)判断する。しきい値Thは、モード切り替えの判断を行うか否かの判断基準となるしきい値である。時間ΔTがしきい値Th以下であると判断された場合(ステップS220:NO)、CPU100は、処理をステップS230に移行する。
ステップS230において、CPU100は、動作モードを維持する。ステップS240〜S280の処理は、ステップS110〜S150の処理と同様である。この動作例によれば、所定のペンイベントが発生する度に情報処理装置30に問い合わせを行う場合と比較して、問い合わせを行う頻度を低減することができる。すなわちこの例によれば、例えば動作モードがインタラクティブモードからPCモードに切り替わったときに、その後しきい値時間が経過するまでは、インタラクティブモードへの切り替えは行われない。
なお動作例2において、現状の動作モードがインタラクティブモードである場合、CPU100は、時間ΔTを用いた判断(ステップS220)をスキップしてストローク長の計測(ステップS240)に移行してもよい。これは、インタラクティブモードにおいてクリックに相当する動作(短い点が打たれる可能性)が行われる可能性が低いことに起因する。
3−3.動作例3
検知手段12の具体的構成によっては、指示体20が投写面にタッチしているかいないかの2つの状態だけでなく、タッチしている、タッチしていないが投写面との距離が近い(いわゆるホバリング状態)、タッチしておらず投写面との距離が遠い、の3つの状態を検知することができる場合がある。動作例3においては、指示体20がホバリング状態にあるときに、モード切り替えの判定が行われる。
図8は、動作例3に係る処理を示すフローチャートである。ステップS300において、CPU100は、ホバリングイベントを検知する。ホバリングイベントとは、指示体200がホバリング状態にあることを示すイベントである。ホバリングイベントは、指示体がホバリングしている位置(以下「ホバリング位置」という)を示す情報(座標)を含んでいる。ホバリングイベントが検知された場合、CPU100は、処理をステップS310に移行する。ホバリングイベントが検知されない場合、CPU100は、処理を再びステップS300に移行する。
ステップS310において、CPU100は、ホバリング位置にUIオブジェクトが存在するか判断する。この判断は、ステップS130と同様に行われる。ホバリング位置にUIオブジェクトが存在しないと判断された場合(ステップS310:NO)、CPU100は、処理をステップS320に移行する。ホバリング位置にUIオブジェクトが存在すると判断された場合(ステップS310:YES)、CPU100は、処理をステップS330に移行する。
ステップS320において、CPU100は、動作モードを維持する。動作モードを維持することを決定すると、CPU100は、図8のフローを終了する。
ステップS330において、CPU100は、動作モードを待機モードに移行する。待機モードとは、動作モードの切り替えを保留している状態であって、インタラクティブモードにおける線の描画、およびPCモードにおける座標の情報処理装置30への送信のいずれも行わない動作モードをいう。すなわち待機モードにおいては、検知された指示体20の座標は履歴として記録されるだけで、線の描画も情報処理装置30への座標の出力も行われない。なお、動作モードが待機モードに切り替わると、CPU100は、その旨をユーザーに通知してもよい。通知の方法としては、例えば、マウスカーソルの形状をマウスモードおよびインタラクティブモードのときと変える、画面に視覚効果(暗転、明転、点滅等)を加える、電子ペンを振動させる、ビープ音を発生させる等がある。
ステップS340において、表示装置10のCPU100は、ペンイベントを検知する。CPU100は、検知したペンイベント(座標を含む)をRAM102に記憶する。検知されたイベントがペンアップイベントであった場合、CPU100は、処理をステップS350に移行する。検知されたイベントがホバリングイベントであった場合、CPU100は、処理をステップS300に移行する。検知されたイベントがペンアップイベントおよびホバリングイベント以外のイベントであった場合、またはペンイベントが検出されない場合、CPU100は、処理を再びステップS340に移行する。
ステップS350において、CPU100は、直近のペンイベントに関するストローク長を測定する。ステップS360において、CPU100は、測定されたストローク長がしきい値以下であるか判断する。このしきい値は、ステップS120で説明したものと同じである。ストローク長がしきい値以下であると判断された場合(ステップS360:YES)、CPU100は、処理をステップS370に移行する。ストローク長がしきい値を超えていると判断された場合(ステップS360:NO)、CPU100は、処理をステップS390に移行する。
ステップS370において、CPU100は、ペンアップイベントが検知された座標がホバリング位置の近傍であるか、すなわちホバリング位置との距離がしきい値以下であるか判断する。このしきい値は、ステップS360で用いられるしきい値と同じでもよい。ペンアップイベントが検知された座標がホバリング位置の近傍であると判断された場合(ステップS370:YES)、CPU100は、処理をステップS380に移行する。ペンアップイベントが検知された座標がホバリング位置の近傍でないと判断された場合(ステップS370:NO)、CPU100は、処理をステップS390に移行する。
ステップS380において、CPU100は、動作モードをPCモードに設定する。動作モードを設定すると、CPU100は、図8のフローを終了する。
ステップS390において、CPU100は、動作モードをインタラクティブモードに設定する。動作モードを設定すると、CPU100は、図8のフローを終了する。
この動作例によれば、動作モード切り替えの判断は、指示体20の投写面へのタッチに先んじて行われる。すなわち、ユーザーが指示体20を投写面にタッチする前に動作モードの切り替えの判断を行うことができる。
以下、より具体的に判定の例を説明する。以下の例において、ステップS360およびS370におけるしきい値はいずれも10画素である。現在実行中のアプリケーションプログラムにおいて、UIオブジェクトは、(415,17)および(425,27)を結ぶ線を対角線とする矩形領域にのみ表示されている。
(1)例3
この例で、ホバリング位置が(420,80)である。表示装置10は、座標(420,80)にUIオブジェクトがあるか情報処理装置30に問い合わせを行う。この座標にはUIオブジェクトが有るので、情報処理装置30は、UIオブジェクトが有る旨の回答を表示装置10に送信する。この回答を受信すると、表示装置10は、動作モードを待機モードに設定する。その後、ユーザーは、座標(422,82)からタッチを開始し、座標(422,81)において指示体20を投写面から離す。このとき、ストローク長は1画素であり、ステップS360のしきい値よりも短い。さらに、ペンアップイベントの座標とホバリング位置との距離は√8画素であり、しきい値よりも短い。したがって動作モードはPCモードに設定され、座標(422,81)がクリックされたことを示すイベントが情報処理装置30に送信される。
(2)例4
この例で、ホバリング位置が(420,80)である。表示装置10は、座標(420,80)にUIオブジェクトがあるか情報処理装置30に問い合わせを行う。この座標にはUIオブジェクトが有るので、情報処理装置30は、UIオブジェクトが有る旨の回答を表示装置10に送信する。この回答を受信すると、表示装置10は、動作モードを待機モードに設定する。その後、ユーザーは、座標(422,82)からタッチを開始し、座標(500,81)において指示体20を投写面から離す。このとき、ストローク長はステップS360のしきい値よりも長い。したがって動作モードはインタラクティブモードに設定され、指示体20の軌跡に応じた線の画像が画面上に描画される。
(2)例5
この例で、ホバリング位置が(420,80)である。表示装置10は、座標(420,80)にUIオブジェクトがあるか情報処理装置30に問い合わせを行う。この座標にはUIオブジェクトが有るので、情報処理装置30は、UIオブジェクトが有る旨の回答を表示装置10に送信する。この回答を受信すると、表示装置10は、動作モードを待機モードに設定する。その後、ユーザーは、座標(425,80)からタッチを開始し、座標(431,80)において指示体20を投写面から離す。このとき、ストローク長は6画素でありステップS360のしきい値よりも短い。ただし、ペンアップイベントの座標とホバリング位置との距離は11画素でありしきい値よりも長い。したがって動作モードはインタラクティブモードに設定され、指示体20の軌跡に応じた線の画像が画面上に描画される。
4.変形例
本発明は上述の実施形態に限定されるものではなく、種々の変形実施が可能である。以下、変形例をいくつか説明する。以下の変形例のうち2つ以上のものが組み合わせて用いられてもよい。
4−1.変形例1
動作例1〜3において、ストローク長を測定する契機(次の処理へ進む契機)となるペンイベントおよびストローク長についての判断条件の組み合わせは、実施形態で説明したものに限定されない。例えば、ストローク長を測定する契機となるペンイベントがペンダウンイベントおよびペンアップイベントであり、ストローク長についての判断条件が「ストローク長がしきい値より長いか、またはペンアップイベントが検知された時点でストローク長がしきい値以下である」であってもよい。
4−2.変形例2
動作例2において、ステップS200からS210に移行する契機となるペンイベントはペンアップイベントに限定されない。ペンダウンイベントが検知された場合にCPU100はステップS200からS210に処理を移行してもよい。
4−3.変形例3
動作例3の待機モードにおける動作は、実施形態で例示したものに限定されない。以下の(i)〜(iv)の4つの観点の組み合わせにより、待機モードにおける動作が規定されてもよい。(i)待機モードにおいて最初のペンダウンイベントが検知されたことを契機として線の描画を開始するか、最初のペンダウンイベントが検知された時点では線の描画は保留するか。(ii)ストローク長の測定の契機となるイベントはペンアップイベントかペンダウンイベントか。(iii)ストローク長がしきい値より長い場合に次の動作を行うか、短い場合に次の動作を行うか。(iv)「次の動作」は何か。
なお、動作例3では、(i)待機モードにおいて最初のペンダウンイベントが検知された時点では線の描画は保留する、(ii)ストローク長の測定の契機となるイベントはペンアップイベント、(iii)ストローク長がしきい値より短い場合に次の動作を行う。(iv)次の動作は、ステップS370の処理、である。
例えば、待機モードにおける動作は、(i)待機モードにおいて最初のペンダウンイベントが検知されたことを契機として線の描画を開始する、(ii)ストローク長の測定の契機となるイベントはペンアップイベント、(iii)ストローク長がしきい値より短い場合に次の動作を行う、(v)次の動作は、直近に描画した線の消去(その後、ステップS370の処理)であってもよい。
別の例で、待機モードにおける動作は、(i)待機モードにおいて最初のペンダウンイベントが検知された時点では線の描画は保留する、(ii)ストローク長の測定の契機となるイベントはペンダウンイベント、(iii)ストローク長がしきい値より長い場合に次の動作を行う、(v)次の動作は、継続中のペンダウンイベントに係る線の描画。なおこの場合において、CPU100は、ストローク長がしきい値を超えた座標から線の描画を開始してもよいし、最初のペンダウンイベントが検知された座標まで遡って線の描画を開始してもよい。
4−4.変形例4
動作例1および2において、ペンダウンイベントを最初に検出してから、一連のペンイベントに対する動作モードが決定されるまでの間、CPU100は、動作モードを待機モードに移行してもよい。この場合において、以下の(a)〜(d)の4つの観点の組み合わせにより、待機モードにおける動作が規定されてもよい。(a)待機モードにおいて最初のペンダウンイベントが検知されたことを契機として(情報処理装置30からの回答を待たずに)線の描画を開始するか、最初のペンダウンイベントが検知された時点では線の描画は保留するか。(b)ストローク長の測定の契機となるイベントはペンアップイベントかペンダウンイベントか。(c)次の動作に進むための条件は何か。(d)「次の動作」は何か。
動作例1および2における待機モードにおける動作は、(a)待機モードにおいて最初のペンダウンイベントが検知されたことを契機として線の描画を開始する、(b)ストローク長の測定の契機となるイベントはペンアップイベント、(c)次の動作に進むための条件は、情報処理装置30からペンアップの座標にUIオブジェクトが存在するという回答を受信し、かつ描画された線の長さがしきい値よりも短いという条件、(d)次の動作は、直近に描画した線の消去(その後、モード設定)、であってもよい。
別の例で、動作例1および2における待機モードにおける動作は、(a)待機モードにおいて最初のペンダウンイベントが検知された時点では線の描画は保留する、(b)ストローク長の測定の契機となるイベントはペンダウンイベント、(c)次の動作に進むための条件は、継続中のペンダウンイベントに係る線(この判断時点では画面上に描画されていない仮想的な線)の長さがしきい値よりも長いという条件、(d)次の動作は、継続中のペンダウンイベントに係る線の少なくとも一部の描画、であってもよい。なおこの場合において、CPU100は、ストローク長がしきい値を超えた座標から線の描画を開始してもよいし、最初のペンダウンイベントが検知された座標まで遡って線の描画を開始してもよい。
4−5.他の変形例
表示装置10はプロジェクターに限定されず、そのハードウェア構成は図2で例示したものに限定されない。液晶ディスプレイや有機ELディスプレイなど、直視の表示装置であってもよい。この場合において、表示装置はタッチスクリーンを有し、表示面上で指示された位置をタッチスクリーンにより検知する。
検知手段12が表示面上の位置を検知する方法および指示体20に係るイベントを検知する方法は実施形態で説明したものに限定されない。表示装置10は、指示体20の形状または色によって指示体20の位置を特定してもよい。また、指示体20は筐体のグリップ部にボタンを有しており、ユーザーがこのボタンを押したときにペンダウンイベントを示す信号を出力してもよい(この場合、指示体20はペン先に圧力センサーを有していなくてもよい)。あるいは、ビームがスクリーンを覆うように、スクリーンの周囲に発光素子(レーザーダイオード等)および受光素子(フォトダイオード等)を設け、受光素子からの信号を用いて指示体20の位置およびペンイベントを検知してもよい。
指示体20は電子ペンに限定されない。特定の形状または色の筐体を有するスタイラスペンであってもよいし、ユーザーの指であってもよい。
実施形態においては動作モードが待機モードに切り替わったときにユーザーに通知が行われる例を説明したが、インタラクティブモードまたはPCモードに切り替わったときに通知が行われてもよい。この場合において、切り替え後の動作モードに応じて通知の方法が異なっていてもよい。
表示システム1において、表示装置10と情報処理装置30との間の機能の分担は図1で例示したものに限定されない。図1の機能の一部は省略されてもよい。また、実施形態において表示装置10の機能として説明したものの少なくとも一部を、情報処理装置30に実装してもよい。例えば、情報処理装置30が、描画手段15に相当する機能を有していてもよい。この場合、情報処理装置30においては、情報処理装置30上で動作しているアプリケーションプログラムの画面を表示装置10により表示面に表示するステップと、表示面上において検知された指示体20の位置を取得するステップと、画面においてアプリケーションプログラムに対して入力を行うための第1画像オブジェクトを含む所定範囲内に指示体20の位置があるか判定するステップと、自装置の動作モードがインタラクティブモードである場合、検知された位置の軌跡に応じた線を表示面に描画するステップと、動作モードがPCモードである場合、検知された位置に第2画像オブジェクトを表示させるステップと、動作モードがインタラクティブモードである場合において、検知された位置が所定範囲内であると判定されたときは、動作モードをPCモードに切り替えるステップとを実行させるためのプログラムが実行される。なお、このプログラムは、磁気記録媒体(磁気テープ、磁気ディスク(HDD、FD(Flexible Disk))など)、光記録媒体(光ディスク(CD(Compact Disk)、DVD(Digital Versatile Disk))など)、光磁気記録媒体、半導体メモリ(フラッシュROMなど)などのコンピューター読取り可能な記録媒体に記憶した状態で提供されてもよい。また、このプログラムは、インターネットのようなネットワーク経由でダウンロードされてもよい。
1…表示システム、10…表示装置、11…表示手段、12…検知手段、13…送信手段、14…受信手段、15…描画手段、16…送信手段、17…切り替え手段、18…通知手段、20…指示体、30…情報処理装置、31…実行手段、32…映像供給手段、33…判定手段、100…CPU、101…ROM、102…RAM、103…記憶部、104…IF部、105…画像処理回路、106…投写ユニット、107…操作パネル、108…カメラ、300…CPU、301…ROM、302…RAM、303…IF部、304…記憶部

Claims (11)

  1. 表示装置であって、
    情報処理装置上で動作しているアプリケーションプログラムの画面を表示面に表示する表示手段と、
    前記表示面上における指示体の位置を検知する検知手段と、
    前記検知手段により検知された位置を示す情報を含む問い合わせを前記情報処理装置に送信する第1送信手段と、
    前記問い合わせに対する回答として、前記画面において前記アプリケーションプログラムに対して入力を行うための画像オブジェクトを含む第1の範囲内に前記位置があるかの判定結果を受信する受信手段と、
    前記表示装置の動作モードが第1モードである場合、前記検知手段により検知された位置の軌跡に応じた線を前記表示面に描画する描画手段と、
    前記動作モードが第2モードである場合、前記検知手段により検知された位置を示す情報を前記情報処理装置に送信する第2送信手段と、
    前記動作モードが前記第1モードである場合において、前記検知手段により検知された位置が前記第1の範囲内であること示す前記判定結果を前記受信手段が受信したときは、当該動作モードを前記第2モードに切り替える切り替え手段と
    を有する表示装置。
  2. 前記検知手段は、前記指示体が前記表示面に接触していることを示す第1イベントを検知し、
    前記描画手段は、
    前記第1イベントが連続して検知されている間の前記位置の軌跡に応じて前記線を描画し、
    前記受信手段が前記回答を受信する前から、前記線の描画を開始し、
    前記検知手段により検知された位置が前記第1の範囲内であることを示す前記判定結果を前記受信手段が受信し、かつ、前記線の長さが第1のしきい値よりも短い場合、当該線を消去する
    ことを特徴とする請求項1に記載の表示装置。
  3. 前記検知手段は、前記指示体が前記表示面に接触していることを示す第1イベントを検知し、
    前記描画手段は、
    前記第1イベントが連続して検知されている間の前記位置の軌跡に応じて前記線を描画し、
    前記受信手段が前記回答を受信するまでは、前記線の描画を開始せず、
    前記線の長さが第1のしきい値よりも長くなった場合、当該線の少なくとも一部を描画する
    ことを特徴とする請求項1に記載の表示装置。
  4. 前記線の長さが前記第1のしきい値よりも長くなった場合、前記描画手段は、当該線に関し前記第1イベントが最初に検知された点まで遡って当該線を描画する
    ことを特徴とする請求項3に記載の表示装置。
  5. 前記検知手段は、前記表示面に接触していた前記指示体が当該表示面から離れたことを示す第2イベントを検知し、
    前記第1送信手段は、
    前記第2イベントを検知した時点で、前記線が第2のしきい値よりも短い場合、前記第2イベントが前記検知手段により検知されると前記問い合わせを送信し、
    前記第2ベントを検知した時点で、前記線が前記第2のしきい値よりも長い場合、前記第2イベントが前記検知手段により検知されても、前記問い合わせを送信しない
    ことを特徴とする請求項1ないし4のいずれか一項に記載の表示装置。
  6. 前記動作モードが前記第2モードに切り替わってから第1の時間が経過するまで、前記第1送信手段は、前記問い合わせを送信しない
    ことを特徴とする請求項1ないし5のいずれか一項に記載の表示装置。
  7. 前記検知手段は、前記指示体が前記表示面に接触していることを示す第1イベントを検知し、
    前記切り替え手段は、前記動作モードが前記第2モードである場合において、前記第1イベントが連続して検知されている間の前記位置の軌跡の長さが第3のしきい値よりも長いときは、当該動作モードを前記第1モードに切り替える
    ことを特徴とする請求項1に記載の表示装置。
  8. 前記検知手段は、前記指示体が前記表示面から離れておりかつ当該表示面との距離が第4のしきい値以下であることを示す第3イベントを検知し、
    前記第1送信手段は、前記第3イベントが前記検知手段により検知されているときに前記問い合わせを送信する
    ことを特徴とする請求項1ないし7のいずれか一項に記載の表示装置。
  9. 前記動作モードが切り替わったことをユーザーに通知する通知手段
    を有する請求項1ないし8のいずれか一項に記載の表示装置。
  10. 情報処理装置上で動作しているアプリケーションプログラムの画面を表示面に表示するステップと、
    前記表示面上における指示体の位置を検知するステップと、
    前記検知された位置を示す情報を含む問い合わせを前記情報処理装置に送信するステップと、
    前記問い合わせに対する回答として、前記画面において前記アプリケーションプログラムに対して入力を行うための画像オブジェクトを含む第1の範囲内に前記位置があるかの判定結果を受信するステップと、
    自装置の動作モードが第1モードである場合、前記検知された位置の軌跡に応じた線を前記表示面に描画するステップと、
    前記動作モードが第2モードである場合、前記検知された位置を示す情報を前記情報処理装置に送信するステップと、
    前記動作モードが前記第1モードである場合において、前記検知された位置が前記第1の範囲内であること示す前記判定結果が受信されたときは、当該動作モードを前記第2モードに切り替えるステップと
    を有する表示制御方法。
  11. コンピューターに、
    当該コンピューター上で動作しているアプリケーションプログラムの画面を表示装置により表示面に表示するステップと、
    前記表示面上において検知された指示体の位置を取得するステップと、
    前記画面において前記アプリケーションプログラムに対して入力を行うための第1画像オブジェクトを含む第1の範囲内に前記位置があるか判定するステップと、
    自装置の動作モードが第1モードである場合、前記検知された位置の軌跡に応じた線を前記表示面に描画するステップと、
    前記動作モードが第2モードである場合、前記検知された位置に第2画像オブジェクトを表示させるステップと、
    前記動作モードが前記第1モードである場合において、前記検知された位置が前記第1の範囲内であると判定されたときは、当該動作モードを前記第2モードに切り替えるステップと
    を実行させるためのプログラム。
JP2015037854A 2015-02-27 2015-02-27 表示装置、表示制御方法およびプログラム Expired - Fee Related JP6543960B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2015037854A JP6543960B2 (ja) 2015-02-27 2015-02-27 表示装置、表示制御方法およびプログラム
CN201610095079.XA CN105929987B (zh) 2015-02-27 2016-02-22 显示装置、显示控制方法以及程序
US15/050,535 US9857969B2 (en) 2015-02-27 2016-02-23 Display apparatus, display control method, and computer program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015037854A JP6543960B2 (ja) 2015-02-27 2015-02-27 表示装置、表示制御方法およびプログラム

Publications (3)

Publication Number Publication Date
JP2016162032A true JP2016162032A (ja) 2016-09-05
JP2016162032A5 JP2016162032A5 (ja) 2018-03-22
JP6543960B2 JP6543960B2 (ja) 2019-07-17

Family

ID=56798869

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015037854A Expired - Fee Related JP6543960B2 (ja) 2015-02-27 2015-02-27 表示装置、表示制御方法およびプログラム

Country Status (3)

Country Link
US (1) US9857969B2 (ja)
JP (1) JP6543960B2 (ja)
CN (1) CN105929987B (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019121207A (ja) * 2018-01-09 2019-07-22 セイコーエプソン株式会社 画像提供装置、画像提供装置の制御方法、およびプログラム
JP2020513619A (ja) * 2016-12-20 2020-05-14 サムスン エレクトロニクス カンパニー リミテッド ディスプレイ装置及びその制御方法

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6617417B2 (ja) * 2015-03-05 2019-12-11 セイコーエプソン株式会社 表示装置及び表示装置の制御方法
JP6668980B2 (ja) * 2016-07-04 2020-03-18 富士通株式会社 送信制御プログラム、送信制御方法および情報処理装置
CN107122113B (zh) * 2017-03-31 2021-07-13 北京小米移动软件有限公司 生成图片的方法及装置
CN107632886A (zh) * 2017-09-30 2018-01-26 努比亚技术有限公司 一种终端运行模式的切换方法、终端及计算机可读存储介质
JP7069922B2 (ja) * 2018-03-26 2022-05-18 セイコーエプソン株式会社 表示装置、表示システムおよび表示装置の制御方法

Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09319502A (ja) * 1996-05-28 1997-12-12 Toshiba Corp 表示一体型座標入力装置を備えた情報機器
JP2001117685A (ja) * 1999-10-18 2001-04-27 Hitachi Information Systems Ltd ペン操作とマウス操作の切換え方法およびその方法を用いた情報機器
JP2005085242A (ja) * 2003-09-11 2005-03-31 Ricoh Co Ltd タッチパネル付きディスプレイ装置の表示制御方法およびその方法をコンピュータに実行させるためのプログラム、タッチパネル付きディスプレイ装置
JP2005092538A (ja) * 2003-09-17 2005-04-07 Ricoh Co Ltd タッチパネル付きディスプレイ装置の表示制御方法、その方法をコンピュータに実行させるためのプログラム、タッチパネル付きディスプレイ装置
JP2006343856A (ja) * 2005-06-07 2006-12-21 Fujitsu Ltd 手書き情報入力装置。
JP2007323660A (ja) * 2007-06-25 2007-12-13 Sony Corp 描画装置、及び描画方法
JP2010176190A (ja) * 2009-01-27 2010-08-12 Ntt Docomo Inc モード設定システム
JP2012168621A (ja) * 2011-02-10 2012-09-06 Sharp Corp タッチ描画表示装置及びその操作方法
JP2013114593A (ja) * 2011-11-30 2013-06-10 Ricoh Co Ltd 画像表示装置およびその制御方法並びにプログラム
JP2013171554A (ja) * 2012-02-23 2013-09-02 Zenrin Datacom Co Ltd 画像表示装置、コンピュータプログラムおよび画像表示方法
JP2013239147A (ja) * 2012-04-20 2013-11-28 Ricoh Co Ltd 表示制御装置
US20140210744A1 (en) * 2013-01-29 2014-07-31 Yoomee SONG Mobile terminal and controlling method thereof

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008116874A (ja) 2006-11-08 2008-05-22 Seiko Epson Corp マルチディスプレイシステム、及びこのシステム上で実行されるプログラム
JP2010205069A (ja) * 2009-03-04 2010-09-16 Panasonic Corp 入力装置
CN102033682B (zh) * 2009-09-28 2014-09-10 中国移动通信集团公司 一种输入方法和设备
JP5423525B2 (ja) * 2010-03-26 2014-02-19 富士通株式会社 手書き入力装置、手書き入力方法及び手書き入力プログラム
JP6064319B2 (ja) 2011-12-27 2017-01-25 セイコーエプソン株式会社 プロジェクター、及び、プロジェクターの制御方法
JP2014203351A (ja) * 2013-04-08 2014-10-27 船井電機株式会社 描画装置、描画方法、及び描画プログラム
CN103576900B (zh) * 2013-11-14 2016-09-14 沈阳工业大学 基于笔多参数信息的书写绘画与菜单选取无缝链接方法

Patent Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09319502A (ja) * 1996-05-28 1997-12-12 Toshiba Corp 表示一体型座標入力装置を備えた情報機器
JP2001117685A (ja) * 1999-10-18 2001-04-27 Hitachi Information Systems Ltd ペン操作とマウス操作の切換え方法およびその方法を用いた情報機器
JP2005085242A (ja) * 2003-09-11 2005-03-31 Ricoh Co Ltd タッチパネル付きディスプレイ装置の表示制御方法およびその方法をコンピュータに実行させるためのプログラム、タッチパネル付きディスプレイ装置
JP2005092538A (ja) * 2003-09-17 2005-04-07 Ricoh Co Ltd タッチパネル付きディスプレイ装置の表示制御方法、その方法をコンピュータに実行させるためのプログラム、タッチパネル付きディスプレイ装置
JP2006343856A (ja) * 2005-06-07 2006-12-21 Fujitsu Ltd 手書き情報入力装置。
JP2007323660A (ja) * 2007-06-25 2007-12-13 Sony Corp 描画装置、及び描画方法
JP2010176190A (ja) * 2009-01-27 2010-08-12 Ntt Docomo Inc モード設定システム
JP2012168621A (ja) * 2011-02-10 2012-09-06 Sharp Corp タッチ描画表示装置及びその操作方法
JP2013114593A (ja) * 2011-11-30 2013-06-10 Ricoh Co Ltd 画像表示装置およびその制御方法並びにプログラム
JP2013171554A (ja) * 2012-02-23 2013-09-02 Zenrin Datacom Co Ltd 画像表示装置、コンピュータプログラムおよび画像表示方法
JP2013239147A (ja) * 2012-04-20 2013-11-28 Ricoh Co Ltd 表示制御装置
US20140210744A1 (en) * 2013-01-29 2014-07-31 Yoomee SONG Mobile terminal and controlling method thereof

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020513619A (ja) * 2016-12-20 2020-05-14 サムスン エレクトロニクス カンパニー リミテッド ディスプレイ装置及びその制御方法
JP2019121207A (ja) * 2018-01-09 2019-07-22 セイコーエプソン株式会社 画像提供装置、画像提供装置の制御方法、およびプログラム

Also Published As

Publication number Publication date
CN105929987B (zh) 2021-05-14
US20160252984A1 (en) 2016-09-01
US9857969B2 (en) 2018-01-02
JP6543960B2 (ja) 2019-07-17
CN105929987A (zh) 2016-09-07

Similar Documents

Publication Publication Date Title
JP6543960B2 (ja) 表示装置、表示制御方法およびプログラム
JP6492775B2 (ja) 表示装置および表示制御方法
US10276133B2 (en) Projector and display control method for displaying split images
CN106257923B (zh) 图像显示系统以及图像显示方法
JP2016162032A5 (ja)
US10274816B2 (en) Display device, projector, and display control method
US10768710B2 (en) Information processing device, information processing method, and program
WO2018109876A1 (ja) 表示装置、電子黒板システム及びユーザーインターフェース設定方法
US10338750B2 (en) Display apparatus, projector, and display control method
JP6682768B2 (ja) 表示システム、表示装置、情報処理装置及び制御方法
JP6540275B2 (ja) 表示装置および画像表示方法
JP6500665B2 (ja) 画像投影装置及び画像投影システム
JP7331578B2 (ja) 表示装置、画像表示方法、プログラム
KR101700117B1 (ko) 인터렉티브 전자저작도구, 이를 제공하는 컴퓨터 장치 및 방법
JP2016161866A (ja) 表示装置および表示制御方法
JP2016053769A (ja) 情報処理装置、情報処理方法およびプログラム
JP2024032042A (ja) 検出方法、検出装置及びプログラム
JP2018073088A (ja) 情報処理装置およびその制御方法およびプログラム
JP2017182246A (ja) 表示装置および情報処理方法
JP2017111624A (ja) 画像処理装置、画像処理方法、及びプログラム
JP2014160506A (ja) 情報処理装置、情報処理装置の制御方法、制御プログラム、及び記録媒体

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180206

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180206

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20181011

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20181023

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20181218

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190521

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190603

R150 Certificate of patent or registration of utility model

Ref document number: 6543960

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees