以下、本発明をその実施の形態を示す図面に基づいて詳述する。
(実施形態1)
図1は、実施形態1における表示システムの構成例を示す模式図である。実施形態1における表示システムは、情報処理装置1及び表示装置2を備える。情報処理装置1及び表示装置2は通信線3を介して互いに接続し、当該通信線3を介して情報の入出力を行う。情報処理装置1は例えば、電子黒板装置、パーソナルコンピュータ、タブレット端末等の情報処理装置であり、後述の各種のアプリケーションプログラムを実行することにより、表示装置2の表示部22の表示画面221にウィンドウを表示する。ウィンドウは、アプリケーションプログラムが実行されることにより表示されるGUI(Graphical User Interface)を示す画像である。表示装置2の表示部22は、後述の表示パネル22a及びタッチパネル22b(図2参照)を備えており、表示画面221は表示パネル22aの正面側に画像が表示されるときの表示領域を示す。表示装置2は、タッチパネル22bへの接触に基づいて、表示部22の表示画面221に対する接触箇所の位置を検出可能に構成されている。表示システムの使用者は、表示画面221に表示されたウィンドウに対応するタッチパネル22b上の位置に接触することにより、当該ウィンドウに対応するアプリケーションプログラムに係る情報処理を実行することができる。なお、実施形態1における表示システムにおいて、表示装置2の表示部22の大きさは問わない。また、実施形態1においては情報処理装置1及び表示装置2を別体に構成することを説明したが、一体に構成するようにしてもよい。
図2は、情報処理装置1及び表示装置2の構成を示すブロック図である。情報処理装置1は、制御部11、記憶部12、計時部13、入出力部14、及び読取部15を備えており、各部はバスを介して接続されている。制御部11は、一又は複数のCPU(Central Processing Unit)、マルチコアCPU等を有する。制御部11は、記憶部12に記憶されている後述の制御プログラムを読み出し、各部を制御する。
記憶部12は、EEPROM(Electrically Erasable and Programmable ROM)、フラッシュメモリ、HDD(Hard Disk Drive)等の不揮発性メモリと、SRAM(Static RAM)、DRAM(Dynamic RAM)等の揮発性メモリとを備える。また、記憶部12には制御プログラムが記憶されている。制御プログラムは、表示装置2との情報の入出力を行うに際して制御部11が実行する処理内容と、各部を制御する処理内容とが記述されたコンピュータプログラムである。
また、記憶部12には、透明ボードプログラム12a及びプレゼンテーションプログラム12bが記憶されている。記憶部12は、本発明のプログラム記憶部に相当する。透明ボードプログラム12aは使用者の表示部22への接触の軌跡を手書き画像として表示画面221に表示するためのアプリケーションプログラムである。制御部11は、透明ボードプログラム12aを実行することにより、背景色が透明のウィンドウを表示部22に表示させる処理、使用者による表示部22の接触箇所が当該ウィンドウの表示範囲内に位置する場合に、当該接触箇所の移動の軌跡を手書き画像としてウィンドウ内に描画する処理等を行う。以下では適宜、透明ボードプログラム12aが実行されることにより表示パネル22aに表示されるウィンドウを透明ボードと称する。
プレゼンテーションプログラム12bは、複数のページからなる画像(スライド)を作成し、スライド表示するためのアプリケーションプログラムである。制御部11は、プレゼンテーションプログラム12bを実行することにより、複数の画像をページ単位で表示部22に表示させる処理、表示した画像の編集を受付ける処理、編集されたページ単位の画像を統合してスライドを作成する処理等を行う。なお、記憶部12には図示しないその他のアプリケーションプログラムが記憶されていてもよく、例えば、ワードプロセッサ、スプレッドシート、ウェブブラウザ等のアプリケーションプログラムが記憶部12に記憶されていてもよい。
更に、記憶部12には、管理テーブル12cが記憶されている。管理テーブル12cは、透明ボードプログラム12a及びプレゼンテーションプログラム12bを含む各種のアプリケーションプログラムが制御部11によって実行されたときに、表示部22の表示画面221に表示されるウィンドウについての情報が記憶されたテーブルである。管理テーブル12cの詳細については後述する。
計時部13は、例えばタイマ、リアルタイムクロック等を有し、制御部11の制御に従って計時を開始し、計時結果を制御部11に与える。
入出力部14には、通信線3を介して表示装置2が接続されている。制御部11は、入出力部14を介して表示装置2と情報の入出力を行う。具体的には、制御部11は、記憶部12に記憶された各種のプログラムを実行することにより、表示部22に表示させるべき画像を生成し、生成した画像を表す情報を表示装置2に出力する。また、制御部11は、表示部22が接触されたときの位置に係る後述の位置情報が表示装置2から入力される。
読取部15は、CD−ROM、DVD、ブルーレイディスク、又はフレキシブルディスク等である記録媒体4から情報を読み取ることが可能に構成されている。制御部11は、読取部15により読み出された記録媒体4に記録されているデータを、記憶部12に記憶する。記録媒体4には、制御部11が実行することにより本願の情報処理装置として動作するための制御プログラム4aが記録されている。記憶部12に記憶されている制御プログラムは、記録媒体4から読取部15が読み取った制御プログラム4aの複製であってもよい。なお、記録媒体4には、透明ボードプログラム12a、プレゼンテーションプログラム12b等の記憶部12に記憶されるべき他の情報を記憶しておき、制御部11が記憶部12に記憶するのに用いてもよい。
表示装置2は、制御部21、表示部22、バックライト23、及び入出力部24を備え、各部がバスを介して接続されている。制御部21は、マイクロプロセッサ、プログラミングすることができるFPGA(Field Programmable Gate Array)、あるいは特定の用途のために設計・製造されるASIC(Application Specific Integrated Circuit)、その他の演算機能を有する回路などの何れでもよい。制御部21は、情報処理装置1から画像を表す情報が入力され、入力された情報に基づいて、表示部22に表示させるための表示データを生成し、表示部22に出力する。
表示部22は、表示パネル22a及びタッチパネル22bを備える。表示パネル22aは、例えばカラー液晶パネルであり、制御部21が出力した表示データが表す画像、文字等の各種情報を表示画面221内に表示する。
タッチパネル22bは、表示パネル22aの前面側(表示面側)に配置されており、表示パネル22a上に表示された画像に対する使用者の指又はスタイラスペン等の特定の器具の接触箇所を検出するためのタッチセンサ(不図示)を備える。このようなタッチセンサには、静電容量方式、抵抗膜方式、電磁誘導方式、赤外線方式等のセンサを用いることができる。タッチパネル22bは例えば、使用者が指等の接触を検出している間に亘り、表示パネル22a上の当該指等の位置を示す位置情報を、数ミリ秒等の所定周期で取得し、制御部21に出力する。例えば、使用者がタッチパネル22bに2本の指を接触させた場合、タッチパネル22bは各指の接触箇所の位置情報を取得し、取得した位置情報夫々を制御部21に出力する。なお、タッチセンサは、指又は特定の器具等とタッチパネル22bとの接触状態を検出する構成であってもよく、当該接触状態だけでなく、近接状態を検出する構成であってもよい。即ち、接触箇所は、使用者が表示パネル22a上の画像に対するタッチパネル22bに指又は特定の器具等を直接接触させた箇所だけでなく、近接させた箇所も含む。
バックライト23は、白色LED(Light Emitting Diode)又は冷陰極蛍光管等の光源を有し、表示パネル22aを背面側から照明する。制御部21は、バックライト23の点灯及び消灯を制御する
入出力部24には、通信線3を介して情報処理装置1が接続されている。制御部21は、入出力部24を介して情報処理装置1と情報の入出力を行う。具体的には、制御部21は、表示部22が接触されたときの位置情報を出力する。また、制御部21は、表示部22に表示させるべき画像を表す情報が情報処理装置1から入力される。
図3は、管理テーブル12cの具体例を示す説明図である。実施形態1における管理テーブル12cは、「ウィンドウ番号」、「アプリケーション」、「座標」、「幅」、「高さ」、及び「順序」の項目を有するテーブルである。「ウィンドウ番号」の項目には、表示画面221に表示されているウィンドウを識別する番号が記憶されている。「アプリケーション」の項目には、制御部11により実行されているアプリケーションの名称、種別等が記憶されている。「座標」の項目には、ウィンドウ番号により識別されるウィンドウの表示画面221上の表示位置を示す座標が記憶されている。例えば、座標の原点(0,0)を表示画面221の正面視左上角とし、左から右へ向かう方向をX軸正方向とし、上から下へ向かう方向をY軸正方向としたときのウィンドウの正面視左上角の座標が記憶されている。一例として図3中の座標(30,10)は座標原点からX軸正方向に30ピクセル、Y軸正方向に10ピクセル移動した位置にウィンドウの正面視左上角が位置することを表す。「幅」の項目にはウィンドウ番号により識別されるウィンドウの幅の値が記憶されている。ウィンドウの幅は、当該ウィンドウのX軸方向の大きさを示す。「高さ」の項目にはウィンドウ番号により識別されるウィンドウの高さの値が記憶されている。ウィンドウの高さは、当該ウィンドウのY軸方向の大きさを示す。「順序」の項目にはウィンドウ番号により識別されるウィンドウのレイヤの順序の値が記憶されている。レイヤの順序とは、複数のウィンドウが重なって表示されたときの重なり順序を表し、順序の値が小さいウィンドウの方が表示パネル22aの前面側(正面側)に表示される。
このように構成された表示システムにおいて、情報処理装置1は、複数のアプリケーションプログラムを実行し、各アプリケーションプログラムに対応する一又は複数のウィンドウを表示装置2によって表示画面221上に表示させ、表示中のウィンドウの情報を管理テーブル12cに記憶する。以下に表示画面221上に複数のウィンドウが表示されている状態の一例を示す。
図4は、情報処理装置1によって複数のウィンドウが表示されたときにおける表示画面221の具体例を示す説明図である。図4には、表示画面221には、6つのウィンドウW1、W2、W3、W4、W5、及びW6が表示されている状態を模式的に表しており、各ウィンドウW1〜W6の情報が管理テーブル12cに記憶されている。図4に示したウィンドウW1〜W6の情報は夫々、図3の管理テーブル12cのウィンドウ番号1〜6の情報に対応している。例えば、ウィンドウW1は、透明ボードプログラム12aが実行されたときの透明ボードであり、表示画面221全体に表示され、最前面に位置する。また、ウィンドウW2〜W6は夫々、部分的に他のウィンドウと重なっており、重なった領域はレイヤの順序の値が小さい方が前面に表示されている。ウィンドウW6の破線部分は、表示画面221内に表示されない領域を表している。
また、表示画面221の正面視右下には、設定ボタンを表す画像が表示されている。設定ボタンは、表示システムの使用者がタッチパネル22bを接触する際に用いる手が右手である右利き設定又は左手である左利き設定の何れかに設定するための画像である。情報処理装置1の制御部11は例えば、右利き設定又は左利き設定の何れかを表す情報を予め記憶部12に記憶しておき、当該設定ボタンの表示範囲内を示す位置情報が入力される都度、記憶された情報が表す設定と異なる設定に切り替える処理を行う。図4中に示した例においては、右利き設定に設定されていることを示している。
実施形態1における表示システムの使用者は、タッチパネル22bに1本の指を接触させることで透明ボードに手書き画像を描画し、2本の指を接触させることで表示画面221上の接触箇所に位置する透明ボードの次に最前面に表示されているウィンドウに対して操作を行う。以下に、使用者が、透明ボードに手書き画像を描画するときと、プレゼンテーションプログラム12bに係るスライドに対して操作を行うときとの表示システムの使用態様を示す。
図5は、表示システムの使用態様を示す説明図である。図5には、プレゼンテーションプログラム12bが実行されることにより文字列「ABCD」を有するスライドが表示されたウィンドウW3と、ウィンドウW3の前面にある透明ボードとが示されている。図5Aには、ウィンドウW3の前面にある透明ボードに、使用者が手書き画像を描画するときの例が模式的に示されている。例えば使用者は手書き画像を透明ボードに描画する場合、1本の指をタッチパネル22bに接触させた状態で移動させる。情報処理装置1の制御部11は後述の処理によって、使用者の指の軌跡を手書き画像として透明ボード上に描画する。図5Aの例では、使用者がタッチパネル22bに1本の指を接触させた状態で、図中の白抜き矢印の方向に当該指を移動させることによって、移動の軌跡を表す線状の手書き画像が透明ボード上に描画される。
また、図5Bには、使用者が当該スライド中の文字列「ABCD」に対して操作を行う例が模式的に示されている。使用者は例えば、スライドが表示されているウィンドウW3の表示領域に対応するタッチパネル22b上の位置に2本の指を接触させた状態で、透明ボードの背面にある当該スライドに対して操作を行う。図5Bの例では、使用者が文字列「ABCD」の表示領域に対応するタッチパネル22b上の位置に2本の指を接触させた状態で、図中の白抜き矢印の方向に当該指を移動させることによって、当該文字列「ABCD」の大きさを大きくする操作が行われる。ここで、実施形態1においては、2本の指にてウィンドウについて操作を行う場合、図4中の設定ボタンによって右手に設定されているときは、右手の人差指の接触箇所に表示されたウィンドウ内の箇所についての操作が行われる。同様に、設定ボタンによって左手に設定されているときは、左手の人差指の接触箇所に表示されたウィンドウ内の箇所についての操作が行われる。
図5に示したように、使用者はタッチパネル22bに接触させる指の数を変えるだけで、ウィンドウが重なって表示されていた場合であっても、前面のウィンドウを移動させることなく、背面のウィンドウに対して操作を行うことができる。なお、実施形態1においては、スライド中の文字列の大きさを大きくする操作を図5Bに示したが、当該操作は一例であり、その他の文字列に対する操作、スライド中の画像の変更等の画像に対する操作を使用者が行い得ることは言うまでもない。即ち、情報処理装置1は、タッチパネル22bへの接触に応じて使用者が行い得るクリック動作、フリック操作、ドラッグ操作等の操作であれば、接触させる指の本数を2本にすることで前面にウィンドウがあった場合にも当該操作を使用者に行わせることができる。
次に、情報処理装置1の処理手順について説明する。図6は、使用者によって表示部22が接触されたときにおける情報処理装置1の処理手順を示すフローチャートである。情報処理装置1の制御部11は、入出力部14を介して表示装置2から位置情報が入力されたか否かを判定する(ステップS11)。入力されていないと判定した場合(S11:NO)、制御部11は当該位置情報が入力されるまで処理を待つ。
入力されたと判定した場合(S11:YES)、制御部11は始点座標の設定を行う(ステップS12)。始点座標は、使用者による表示画面221への接触の開始地点を表す表示画面221上の座標である。制御部11は例えば、ステップS11で入力された位置情報に基づいて表示画面221に対する接触箇所の座標を検出し、検出した座標を始点座標として記憶部12に一時記憶する。また、制御部11は例えば、ステップS11で位置情報が入力されたときに計時部13に計時を開始させ、100ミリ秒等の所定時間以内に他の位置情報が入力された場合、当該他の位置情報についても同様に始点座標の設定を行う。即ち、制御部11は所定時間以内に入力された位置情報の数の始点座標を記憶部12に一時記憶する。
次いで、制御部11は設定した始点座標の値に基づいて、利き手の設定操作が行われたか否かを判定する(ステップS13)。制御部11は例えば、始点座標が表す表示画面221上の位置が、図4中に示した設定ボタンの表示領域内にあるか否かにより判定する。設定操作が行われたと判定した場合(S13:YES)、制御部11は設定処理を行う(ステップS14)。設定処理は、利き手の設定の変更に係る処理であり、処理手順については後述する。その後、制御部11は処理を終える。
設定操作が行われていないと判定した場合(S13:NO)、制御部11は接触箇所の数が1つであるか否かを判定する(ステップS15)。制御部11は例えば、設定した始点座標の数が1つか否かにより判定を行う。接触箇所の数が1つであると判定した場合(S15:YES)、制御部11は操作対象のウィンドウとして透明ボードを選択する(ステップS16)。即ち、制御部11は接触箇所の数が1つであると判定した場合、レイヤの順序が最前のウィンドウを選択する。制御部11はステップS16において制御プログラムを実行することにより本発明の選択手段として機能する。
その後、制御部11は透明ボードプログラム12aを実行することにより描画処理を行い(ステップS17)、処理を終える。描画処理は透明ボード上に手書き画像を描画するときの処理であり、処理手順については後述する。制御部11はステップS17において制御プログラムを実行することにより、本発明の処理手段として機能する。
ステップS15において接触箇所の数が1つでないと判定した場合(S15:NO)、制御部11は接触箇所の数が2つであるか否かを判定する(ステップS18)。制御部11は例えば、設定した始点座標の数が2つであるか否かにより判定を行う。接触箇所の数が2つであると判定した場合(S18:YES)、制御部11は背面情報処理を行い(ステップS19)、処理を終える。背面情報処理は、透明ボードの背面にあるウィンドウから、操作対象のウィンドウを選択し、選択したウィンドウに対応するアプリケーションプログラムを実行する処理であり、処理手順については後述する。
接触箇所の数が2つでないと判定した場合、即ち接触箇所の数が3つ以上であると判定した場合(S18:NO)、制御部11は、無効画像データを表示装置2に出力する(ステップS20)。無効画像データは、使用者に対してタッチパネル22bへの接触による操作が無効であることを報知するための無効画像の情報であり、例えば、記憶部12に予め記憶されている。表示装置2の制御部21は、情報処理装置1が出力した無効画像データを入力し、無効画像を表示画面221上の適宜位置に表示する。なお、ステップS20の処理は必須ではない。
図7は、図6のステップS14における設定処理のサブルーチンを示すフローチャートである。情報処理装置1の制御部11は、左利き設定になっているか否かを判定する(ステップS21)。制御部11は、左利き設定を表す情報が記憶部12に記憶されているか否かにより判定を行う。左利き設定になっていると判定した場合(S21:YES)、制御部11は記憶部12に右利き設定に変更する(ステップS22)。制御部11は例えば、記憶部12に記憶された左利き設定を表す情報を削除し、右利き設定を表す情報を記憶部12に記憶する。その後、制御部11は設定処理を終える。一方、左利き設定になっていない、即ち右利き設定になっていると判定した場合(S21:NO)、制御部11は左利き設定に変更(ステップS23)する。制御部11は例えば、記憶部12に記憶された右利き設定を表す情報を削除し、左利き設定を表す情報を記憶部12に記憶する。その後、制御部11は設定処理を終える。
図8は、図6のステップS17における描画処理のサブルーチンを示すフローチャートである。情報処理装置1の制御部11は、図6中のステップS12で始点座標が設定された接触箇所が移動したか否かを判定する(ステップS31)。制御部11は例えば、図6中のステップS12において設定した接触箇所の始点座標の変化を、表示装置2から所定周期で入力される始点座標の位置情報に基づいて検出可能に構成されている。接触箇所が移動していないと判定した場合(S31:NO)、制御部11はステップS35に処理を進める。
接触箇所が移動したと判定した場合(S31:YES)、制御部11は、当該接触箇所の終点座標を設定する(ステップS32)。終点座標は、制御部11により接触箇所が移動したと判定された時点の次に表示装置2から入力された位置情報が表す表示画面221上の座標であり、接触箇所の移動先を表す。次いで、制御部11は、始点座標から終点座標までを結ぶ線を表す手書き画像データを生成し、表示装置2に出力する(ステップS33)。表示装置2の制御部21は、情報処理装置1の制御部11から入力された手書き画像データに基づいて、当該手書き画像データが表す手書き画像を表示パネル22aの表示画面221に表示する制御を行う。
次いで、制御部11はステップS32で設定した終点座標を新たな始点座標として設定する(ステップS34)。その後、制御部11は、接触箇所の接触が終了したか否かを判定する(ステップS35)。制御部11は、例えば接触箇所に対応する位置情報が入力されなくなったか否かにより接触が終了したか否かを判定する。接触が終了していないと判定した場合(S35:NO)、制御部11はステップS31に処理を戻す。接触が終了したと判定した場合(S35:YES)、制御部11は描画処理を終える。
以上の描画処理においては、制御部11は表示画面221に対する接触の開始から終了まで、所定時間間隔における接触箇所の始点座標及び終点座標を順次更新し、各始点座標及び終点座標間を結ぶ線を表示画面221に表示させることにより、手書き画像を描画する。
図9は、図6のステップS19における背面情報処理のサブルーチンを示すフローチャートである。情報処理装置1の制御部11は、右利き設定であるか否かを判定する(ステップS41)。制御部11は例えば、記憶部12に右利き設定を表す情報が記憶されているか否かにより判定を行う。右利き設定であると判定した場合(S41:YES)、制御部11は、検出した2つの接触箇所の内、X座標が小さい接触箇所を代表点に設定する(ステップS42)。右利き設定でない、即ち左利き設定であると判定した場合(S41:NO)、制御部11は検出した2つの接触箇所の内、X座標が大きい接触箇所を代表点に設定する(ステップS43)。
ステップS42又はステップS43の処理を行った制御部11は、操作候補を抽出する(ステップS44)。操作候補は、使用者によって操作される対象となるウィンドウの候補である。制御部11は例えば、管理テーブル12cを参照し、表示範囲内に代表点の座標が含まれているウィンドウのウィンドウ番号を抽出する。
次いで、制御部11は抽出したウィンドウ番号に対応するウィンドウから使用者の操作対象となるウィンドウを選択する(ステップS45)。制御部11は例えば、操作候補のレイヤの順序が最前から2番目となるウィンドウを選択する。例えば、レイヤの順序が夫々1番、3番、4番、及び5番となる4つのウィンドウが操作候補として抽出された場合、制御部11はステップS45でレイヤの順序が3番となるウィンドウを選択する。制御部11はステップS45において制御プログラムを実行することにより本発明の選択手段として機能する。
その後、制御部11は代表点が移動したか否かを判定する(ステップS46)。代表点が移動したと判定した場合(S46:YES)、制御部11はステップS49に処理を進める。
代表点が移動していないと判定した場合(S46:NO)、制御部11はステップS42又はステップS43によって代表点が設定されてから所定時間が経過したか否かを判定する(ステップS47)。制御部11は例えば、ステップS42又はステップS42の処理を終えたときに計時部13に計時を開始させ、その後、計時部13による計時時間が所定時間以上であるか否かにより判定を行う。所定時間とは例えば1秒である。所定時間が経過していないと判定した場合(S47:NO)、制御部11はステップS46に処理を戻す。所定時間が経過したと判定した場合(S47:YES)、制御部11は代表点の情報に長押し情報を追加する(ステップS48)。長押し情報は、表示画面221上の1箇所に対して使用者が所定時間以上接触を継続していることを示す情報である。その後、制御部11はステップS49に処理を進める。代表点の情報は、制御部11がステップS45で選択したウィンドウに対応するアプリケーションプログラムを実行する際に用いる情報である。
制御部11は接触箇所の接触が終了したか否かを判定する(ステップS49)。制御部11は、2つの接触箇所双方に対応する位置情報が入力されなくなったか否かにより判定を行う。接触が終了していないと判定した場合(S49:NO)、制御部11は接触が終了するまで待機する。
接触が終了したと判定した場合(S49:YES)、制御部11は代表点の終点座標を設定する(ステップS50)。終点座標は、使用者による表示画面221への接触の開始地点を表す表示画面221上の座標である。制御部11は例えば、接触が終了したと判定した時点の直前に入力された代表点に対応する位置情報が表す表示画面221上の座標を終点座標として設定する。その後、制御部11は、ステップS45で選択したウィンドウに対応するアプリケーションプログラムを、代表点の情報を用いて実行する(ステップS51)。例えば、選択したウィンドウに対応するアプリケーションプログラムがプレゼンテーションプログラム12bであった場合、代表点における始点の座標の情報、終点の座標の情報、又は長押し情報を用いてスライド中の文字の操作に相当する情報処理等を実行する。制御部11はステップS51において制御プログラムを実行することにより、本発明の処理手段として機能する。その後、制御部11は背面情報処理を終える。
以上の構成及び処理によって、表示装置2の表示画面221に複数のウィンドウが重ねて表示されている場合であっても、当該表示画面221への接触態様によって、情報処理を行う対象のウィンドウを選択することができる。また、使用者が2本の指で表示画面221に接触したとき、右手設定であるか左手設定であるかにより、情報処理装置1は使用者のどちらか一方の指の位置に基づいて選択したウィンドウに係る情報処理を行うことができる。
(実施形態2)
実施形態2の表示システムにおいては、表示画面221に対する接触箇所が2つであった場合、情報処理装置1が、当該接触箇所の位置を表示範囲内に含むウィンドウの内、最前から2番目のウィンドウの前に重なったウィンドウを透明又は半透明にする例について説明する。なお、以下で説明する構成及び作用を除くその他の構成及び作用は上述の実施形態1と同様であるため、同様の部分については同一の符号を付し、同様の構成に関する詳細な説明及びその作用効果の説明は省略する。
図10は、実施形態2における表示システムの使用態様を示す説明図である。図10には、図4中のウィンドウW1を除いたウィンドウW2〜W6が表示画面221に表示されている例が示されている。即ち、表示画面221中において、レイヤの順序が最前のウィンドウは、透明ボードではない。また、図10には、使用者が、表示画面221中のウィンドウW4及びW6が重なっている位置に相当するタッチパネル22bに2本の指を接触させている例が示されている。実施形態2の表示システムにおいて、情報処理装置1は、当該使用者の表示画面221に対する接触箇所を検出し、当該接触箇所の位置を表示範囲内に含むウィンドウのレイヤの順序が最前から2番目にあるウィンドウW6に係る情報処理を行う。このとき、情報処理装置1は、ウィンドウW6に重なり、かつレイヤの順序がウィンドウW6よりも前にあるウィンドウW3、W4、及びW5を透明又は半透明にする。即ち、情報処理装置1は、ウィンドウW6全体が使用者によって視認可能なように、前面にあるウィンドウの表示領域を透明又は半透明にする処理を行う。以下、実施形態2における情報処理装置1が行う処理手順について説明する。
図11は、使用者によって表示部22が接触されたときにおける情報処理装置1の処理手順を示すフローチャートである。なお、図11中のステップS61〜ステップS65、ステップS67、及びステップS69の処理は、図6中のステップS11〜ステップS15、ステップS18、及びステップS20の処理と同様であるため説明を省略する。
情報処理装置1の制御部11は、ステップS65で表示画面221に対する接触箇所が1つであると判定した場合(S65:YES)、前面情報処理を行う(ステップS66)。前面情報処理は、当該接触箇所の位置を表示範囲内に含むウィンドウの内、レイヤの順序が最前のウィンドウを選択し、選択したウィンドウに対応するアプリケーションプログラムを制御部11が実行する処理であり、処理手順の詳細を以下に示す。
図12は、図11のステップS66における前面情報処理のサブルーチンを示すフローチャートである。なお、図12中のステップS71〜ステップS78の処理は、実施形態1における図9中の背面情報処理のサブルーチンにおけるステップS44〜ステップS51の処理と同様であるため、異なる部分以外の説明を省略する。
情報処理装置1の制御部11は、管理テーブル12cを参照し、表示範囲内に始点座標が含まれているウィンドウのウィンドウ番号を操作候補として抽出する(ステップS71)。次いで、制御部11は、抽出した操作候補から使用者の操作対象となるウィンドウを選択する(ステップS72)。制御部11は例えば、操作候補のレイヤの順序が最前のウィンドウを選択する。例えば、レイヤの順序が夫々4番、及び6番となる2つのウィンドウが操作候補として抽出された場合、制御部11はステップS72でレイヤの順序が4番となるウィンドウを選択する。制御部11はステップS72において制御プログラムを実行することにより本発明の選択手段として機能する。その後、制御部11はステップS73以降に処理を進める。ここで、ステップS73〜ステップS78までの処理を実行する制御部11は背面情報処理における代表点に代えて、接触箇所について図9中のステップS46〜ステップS51と同様の処理を行う。
図13は、図11のステップS68における背面情報処理のサブルーチンを示すフローチャートである。なお、図13中のステップS81〜85、及びステップS88〜ステップS93の処理は、実施形態1における図9中のステップS41〜45、及びステップS46〜ステップS51の処理と同様であるため、説明を省略する。
情報処理装置1の制御部11は、ステップS85の処理の後、透明化ウィンドウを選択する(ステップS86)。透明化ウィンドウは、ステップS85で選択された操作ウィンドウ全体を視認可能とするために透明又は半透明にするウィンドウを示す。制御部11は、例えば、管理テーブル12cを参照し、操作ウィンドウに重なって表示され、かつ操作ウィンドウのレイヤの順序よりも前の順序にあるウィンドウを選択する。
その後、制御部11は選択した透明化ウィンドウを透明又は半透明にする透明化処理を行い(ステップS87)、ステップS88以降に処理を進める。制御部11は、例えば選択した透明化ウィンドウの色を透明又は半透明の色として表示画面221に表示させる。
以上の構成及び処理によって、表示装置2の表示画面221に複数のウィンドウが重ねて表示されている場合であっても、当該表示画面221への接触態様によって、情報処理を行う対象のウィンドウを選択することができる。また、使用者が当該複数のウィンドウの内、レイヤの順序が最前でないウィンドウを操作対象とする場合に、操作対象の前面にあるウィンドウを透明又は半透明にして表示画面221に表示することによって、操作対象全体を視認可能とすることができる。
(実施形態3)
実施形態1及び2においては、情報処理装置1は表示画面221に対する接触箇所の数及び位置に基づいて、複数のアプリケーションプログラム夫々が実行されることにより表示されるウィンドウをから一のウィンドウを選択する例について説明した。実施形態3においては、当該接触箇所の数及び位置に基づいて、一のアプリケーションプログラム内における複数の画像から一の画像を選択する例について説明する。なお、以下で説明する構成及び作用を除くその他の構成及び作用は上述の実施形態2と同様であるため、同様の部分については同一の符号を付し、同様の構成に関する詳細な説明及びその作用効果の説明は省略する。
図14は、実施形態3における管理テーブル12cの具体例を示す説明図である。実施形態3における管理テーブル12cには、1つのアプリケーションプログラムが実行されることにより表示画面221に表示されている複数の画像の情報がオブジェクト番号毎に記憶されている。管理テーブル12c中の「オブジェクト」の項目には、当該複数の画像を識別する名称が記憶されている。なお、図14中の「座標」、「幅」、「高さ」、及び「順序」の各項目は、図3中の対応する各項目と同様であるため説明を省略する。
図15は、表示システムの使用態様を示す説明図である。図15には、1つのウィンドウ中に矩形の画像を示す矩形オブジェクトRと、楕円形の画像を示す楕円オブジェクトEが表示されている例が示されている。図15Aには、使用者が矩形オブジェクトRと楕円オブジェクトEが重なった領域に対応するタッチパネル22bの位置に1本の指を接触させたときにおける表示システムの使用態様が示されている。図15Bには、使用者がタッチパネル22bの当該位置に2本の指を接触させたときにおける表示システムの使用態様が示されている。使用者が2つのオブジェクトが重なった領域内に1本の指を接触させたときに前面にある矩形オブジェクトRに対する操作が行われる。また使用者が当該領域内に2本の指を接触させたときに矩形オブジェクトRが透明又は半透明となり、楕円オブジェクトEに対する操作が行われる。このときに情報処理装置1が行う処理手順は、実施形態2における図11〜13に示した処理手順と同様であるため説明を省略する。
以上の構成及び処理によって、情報処理装置1は、1つのアプリケーションプログラムにより表示される複数の画像が重ねて表示されている場合であっても、当該表示画面221への接触態様によって、情報処理を行う対象の画像を選択することができる。
なお、実施形態1及び2においては、情報処理装置1は接触箇所の数及び位置、並びにレイヤの順序に応じて情報処理の対象となるウィンドウを選択し、実施形態3においては、情報処理の対象となるウィンドウ中の画像を選択した。しかし情報処理装置1は、ウィンドウ及び画像が混在した中から情報処理の対象となるウィンドウ又は画像を選択してもよい。例えば、情報処理装置1は、ウィンドウとアイコンの画像が混在した中から、情報処理の対象となるウィンドウ又はアイコンの画像を選択してもよい。
また、実施形態1〜3においては、表示画面221に対する接触箇所の数が1つの場合にレイヤの順序が最前の画像が選択され、2つの場合にレイヤの順序が最前から2番目の画像が選択される例を説明した。しかし、本願においては、接触箇所の数と選択する画像におけるレイヤの順序とは一致していなくともよく、接触箇所の数と選択する画像におけるレイヤの順序との対応関係を適宜選択し得る。例えば、接触箇所の数が2つの場合にレイヤの順序が最前の画像を選択し、接触箇所の数が4つの場合にレイヤの順序が最前から2番目の画像を選択するようにしてもよい。また、例えば、接触箇所の数が1つの場合にレイヤの順序が最後の画像を選択し、2つの場合にレイヤの順序が最後から2番目の画像を選択するようにしてもよい。
また、実施形態1〜3においては、表示画面221に対する接触箇所が1つであるか2つであるかにより、当該接触箇所の位置を表示範囲に含む画像からレイヤの順序が異なる2つの画像を情報処理装置1が選択する例を説明した。しかし、本願においては、接触箇所が3つ以上の場合に、更に当該2つの画像以外の異なる画像を選択するようにしてもよい。例えば、表示画面221に対する接触箇所が3つであった場合に、当該接触箇所の位置を表示範囲に含む画像の内、レイヤの順序が最前から3番目の画像を選択するようにしてもよい。なお、この場合においても接触箇所の数と選択する画像におけるレイヤの順序は一致していなくともよい。
更に、今回開示された実施の形態は、全ての点で例示であって、制限的なものではないと考えられるべきである。本発明の範囲は、上述した意味ではなく、特許請求の範囲によって示され、特許請求の範囲と均等の意味及び範囲内での全ての変更が含まれることが意図される。また、本発明の上述の各実施の形態で記載されている技術特徴は、お互いに組み合わせて新しい技術方案を形成することができる。
本発明に係る情報処理装置(1)は、表示画面(221)に対する接触箇所を検出し、検出した接触箇所の位置が該表示画面(221)に表示された画像の表示範囲内にある場合、該画像に係る情報処理を行う情報処理装置(1)において、複数の画像が前記表示画面(221)に重ねて表示されたときにおける各画像の重なり順序を記憶する記憶部(12)と、検出した接触箇所の数及び位置、並びに前記記憶部(12)に記憶された重なり順序に基づいて、前記複数の画像から一の画像を選択する選択手段(11)と、該選択手段(11)が選択した一の画像に係る情報処理を行う処理手段(11)とを備えることを特徴とする。
本発明にあっては、記憶部(12)は、複数の画像が表示画面(221)に重ねて表示されたときにおける各画像の重なり順序を記憶する記憶する。選択手段(11)は、検出した接触箇所の数及び位置、並びに記憶部(12)に記憶された重なり順に基づいて、当該複数の画像から一の画像を選択する。処理手段(11)は、選択手段(11)が選択した一の画像に係る情報処理を行う。従って、表示画面(221)に複数の画像が重ねて表示されている場合であっても、当該表示画面(221)への接触態様によって、情報処理を行う対象の画像を選択することができる。
本発明に係る情報処理装置(1)は、前記選択手段(11)は、前記接触箇所の位置が複数の画像が重なって表示されている位置にある場合、前記接触箇所の数及び重なり順序に基づいて、前記複数の画像から一の画像を選択するようにしてあることを特徴とする。
本発明にあっては、選択手段(11)は、接触箇所の位置が複数の画像が重なって表示されている位置にある場合、当該接触箇所の数及び重なり順序に基づいて、表示画面(221)に表示された複数の画像から一の画像を選択する。従って、使用者が複数の画像が重なって表示されている箇所を接触箇所の数を変えて接触を行うことにより、情報処理装置(1)は当該複数の画像から情報処理を行う対象の画像を選択することができる。
本発明に係る情報処理装置(1)は、複数のアプリケーションプログラムを記憶するプログラム記憶部(12)を更に備え、前記処理手段(11)は、前記プログラム記憶部(12)に記憶された複数のアプリケーションプログラム(12a、12b)夫々を実行し、該複数のアプリケーションプログラム(12a、12b)に係る画像を前記表示画面(221)に各別に表示するようにしてあり、前記選択手段(11)は、前記処理手段(11)により表示された画像から一の画像を選択するようにしてあり、前記処理手段(11)は更に、前記接触箇所に係る情報を用いて、前記一の画像に対応するアプリケーションプログラム(12a、12b)を実行するようにしてあることを特徴とする。
本発明にあっては、プログラム記憶部(12)は、複数のアプリケーションプログラム(12a、12b)を記憶する。処理手段(11)は、プログラム記憶部(12)に記憶された複数のアプリケーションプログラム(12a、12b)夫々を実行し、各アプリケーションプログラム(12a、12b)に係る画像を表示画面(221)に各別に表示する。選択手段(11)は処理手段(11)により表示された画像から一の画像を選択する。処理手段(11)は更に、接触箇所に係る情報を用いて、当該一の画像に対応するアプリケーションプログラム(12a、12b)を実行する。従って、情報処理装置(1)は、表示画面(221)への接触態様によって実行するアプリケーションプログラム(12a、12b)を選択することができる。
本発明に係る情報処理装置(1)は、前記プログラム記憶部(12)には、前記接触箇所の位置に基づいて手書き画像を対応する画像(W1)内に描画する描画プログラム(12a)が記憶されており、前記記憶部(12)は、前記処理手段(11)により前記描画プログラム(12a)が実行された場合、前記画像(W1)を最前の重なり順序として記憶するようにしてあることを特徴とする。
本発明にあっては、プログラム記憶部(12)には、検出した接触箇所の位置に基づいて、手書き画像を対応する画像(W1)内に描画プログラム(12a)が記憶されている。記憶部(12)は、処理手段(11)により描画プログラム(12a)が実行された場合、当該画像(W1)を最前の重なり順序として記憶する。従って、例えば当該描画プログラム(12a)が実行されることにより表示される画像(W1)を透明又は半透明にすることで、背面にある画像に対して手書き画像を表示することができる。
本発明に係る情報処理装置(1)は、前記選択手段(11)は、前記接触箇所の数が1つの場合、前記接触箇所の位置を表示範囲に含む画像の内、重なり順序が最前の一の画像を選択するようにしてあることを特徴とする。
本発明にあっては、選択手段(11)は、検出した接触箇所の数が1つの場合、当該接触箇所の位置を表示範囲に含む画像の内、重なり順序が最前の一の画像を選択する。
本発明に係る情報処理装置(1)は、前記選択手段(11)は、前記接触箇所の数が2つの場合、前記接触箇所の位置を表示範囲に含む画像の内、重なり順序が最前から2番目の一の画像を選択するようにしてあることを特徴とする。
本発明にあっては、選択手段(11)は、検出した接触箇所の数が2つの場合、当該接触箇所の位置に表示された画像の内、接触箇所の位置を表示範囲に含む画像の内、重なり順序が最前から2番目の一の画像を選択する。
本発明に係る情報処理装置(1)は、前記処理手段(11)は、前記接触箇所の数が2つの場合、何れか一方の接触箇所の位置に基づいて、前記一の画像に係る情報処理を行うようにしてあることを特徴とする。
本発明にあっては、処理手段(11)は、検出した接触箇所の数が2つの場合、何れか一方の接触箇所の位置に基づいて、選択手段(11)が選択した一の画像に係る情報処理を行う。従って、例えば、使用者が2本の指で表示画面(221)に接触したとき、情報処理装置(1)は使用者のどちらか一方の指の位置に基づいて選択した画像に係る情報処理を行うことができる。
本発明に係る表示システムは、上述の情報処理装置(1)と、表示部(22)を有し、該表示部(22)が接触されたときの表示画面(221)上の位置を検出し、検出した位置に係る情報を出力する表示装置(2)とを備え、前記情報処理装置(1)は、前記表示装置(2)から出力された情報に基づいて前記表示画面(221)に対する接触箇所を検出するようにしてあることを特徴とする。
本発明にあっては、表示装置(2)は、表示部(22)を有し、当該表示部(22)が接触されたときの表示画面(221)上の位置を検出し、検出した位置に係る情報を出力する。情報処理装置(1)は、表示装置(2)から出力された情報に基づいて表示画面(221)に対する接触箇所を検出する。従って、表示装置(2)の表示画面(221)に複数の画像が重ねて表示されている場合であっても、当該表示画面(221)への接触態様によって、情報処理を行う対象の画像を選択することができる。
本発明に係る情報処理方法は、表示画面(221)に対する接触箇所を検出し、検出した接触箇所の位置が該表示画面(221)に表示された画像の表示範囲内にある場合、該画像に係る情報処理を行う情報処理方法において、複数の画像が前記表示画面(221)に重ねて表示されたときにおける各画像の重なり順序を記憶する記憶ステップと、検出した接触箇所の数及び位置、並びに前記記憶ステップにより記憶された重なり順序に基づいて、前記複数の画像から一の画像を選択する選択ステップと、該選択ステップが選択した一の画像に係る情報処理を行う処理ステップとを含むことを特徴とする。
本発明にあっては、記憶ステップは、複数の画像が表示画面(221)に重ねて表示されたときにおける各画像の重なり順序を記憶する。選択ステップは、検出した接触箇所の数及び位置、並びに記憶ステップにより記憶された重なり順序に基づいて、当該複数の画像から一の画像を選択する。処理ステップは、選択ステップが選択した一の画像に係る情報処理を行う。従って、表示画面(221)に複数の画像が重ねて表示されている場合であっても、当該表示画面(221)への接触態様によって、情報処理を行う対象の画像を選択することができる。
本発明に係るコンピュータプログラム(4a)は、表示画面(221)に対する接触箇所を検出し、検出した接触箇所の位置が該表示画面(221)に表示された画像の表示範囲内にある場合、該画像に係る情報処理を、コンピュータに行わせるコンピュータプログラム(4a)において、前記コンピュータに、複数の画像が前記表示画面(221)に重ねて表示されたときにおける各画像の重なり順序を記憶する記憶ステップと、検出した接触箇所の数及び位置、並びに前記記憶ステップにより記憶された重なり順序に基づいて、前記複数の画像から一の画像を選択する選択ステップと、該選択ステップが選択した一の画像に係る情報処理を行う処理ステップとを実行させることを特徴とする。
本発明にあっては、コンピュータは、複数の画像が表示画面(221)に表示されたときにおける重なり順序を記憶する。コンピュータは、検出した接触箇所の数及び位置、並びに記憶された重なり順序に基づいて、当該複数の画像から一の画像を選択する。コンピュータは、選択した一の画像に係る情報処理を行う。従って、表示画面(221)に複数の画像が重ねて表示されている場合であっても、当該表示画面(221)への接触態様によって、情報処理を行う対象の画像を選択することができる。