以下、本発明に係る表示制御装置、表示制御方法及びプログラムの各実施形態について、図面を参照して説明する。本発明に係る表示制御装置は、データを画面に表示する表示部を含む電子機器であり、例えば携帯電話機、スマートフォン、タブレット端末、デジタルスチルカメラ、PDA(personal digital assistant)又は電子書籍端末等である。以下、各実施形態を説明するための表示制御装置の一例として、携帯端末(例えばスマートフォン)を用いて説明する。
なお、本発明は、装置としての表示制御装置、又は表示制御装置をコンピュータとして表示制御装置が実行する各動作(ステップ)を実行させるためのプログラムとして表現することも可能である。更に、本発明は、表示制御装置により実行される各動作(ステップ)を含む表示制御方法として表現することも可能である。即ち、本発明は、装置、方法及びプログラムのうちいずれのカテゴリーにおいても表現可能である。
(各実施形態に必要な用語の説明)
また、以下の説明において、ユーザからのタッチ操作の受け付けが可能であって、携帯端末の表示部(例えばLCD又は有機ELディスプレイ)の画面に表示されたアプリケーション毎のコンテンツの一部を選択可能とするための項目、又は当該選択によってコンテンツに対する所定の動作を実行させるための項目を「ボタン」と定義する。所定の動作とは、例えばアプリケーションにおいて現在表示されているコンテンツに関連した内容を実行する動作(例えば映像データを再生する動作)である。
アプリケーションに対するユーザからの動作又は設定変更の実行の指示部分としての「ボタン」は、アプリケーションのコンテンツとして、例えばニュースの見出しが表示されている場合、ハイパーリンクされた文字列、即ち、ニュースの見出しでも良いし、ユーザの選択操作を促すための画像(例えばアイコン)でも良いし、又は、文字列と画像との組合せでも良い。携帯端末は、ユーザの入力操作に応じて、ボタンに対する入力操作として、例えばボタンに対応する「ニュースの見出し」の選択を受け付け、選択されたボタンに対応するニュースの詳細を表示することができる。なお、「ボタン」は携帯端末において起動しているアプリケーションに応じて定められる。
以下の説明において、タッチパネルへの指示媒体(検知対象)としては、一例としてユーザの指(例えば人差し指)を用いて説明するが、指に限らず、ユーザの手により把持された導電性のスタイラスを用いても良い。また、指示媒体(検知対象)は、タッチパネルの構造及び検知方式に応じて、タッチパネルへの近接及びタッチ(接触)が検出可能なものであれば特に限定されない。
また、タッチパネル上の水平面を表す2軸をx軸及びy軸とし、タッチパネル上の水平面に対して垂直な方向(高さ方向)を表す軸をz軸とする。更に、以下の説明において、「座標」は、タッチパネルが指のタッチ(接触)を検知した時のタッチパネルの水平面上の位置により定まるタッチ座標(x、y)、又は、タッチパネルが指の近接を検知した時の空間上の位置により定まる近接座標(x、y、z)のいずれかを示す。近接座標のz座標値は、タッチパネルの水平面から指が空間上に離間している高さを表す。
更に、以下の説明において、タッチパネルの水平面上から離間する方向に向かって離間した空間上の近接検知領域内の位置に指をかざす操作を「ホバー操作」と定義し、ホバー操作によってかざされた空間上の位置からタッチパネルの水平面に対して略平行にスライド(移動)する操作を、「ホバースライド操作」と定義する。従って、指がタッチパネルの面上に直接タッチする操作は「ホバー操作」ではなく、「タッチ操作」となる。また、指をタッチパネルの水平面上にタッチ(接触)させてから同水平面上に沿ってスライド(移動)する操作を、「タッチスライド操作」と定義する。
なお、ホバー操作又はホバースライド操作が検知されるためには、指とタッチパネルの面上との距離は、タッチパネルが検出する静電容量値に反比例するため、タッチパネルが検出可能な静電容量値の範囲に対応することが好ましい。このため、以下の各実施形態の携帯端末に搭載されるタッチパネルには、指の近接を検知可能な近接検知領域(z座標値:z3)が予め設けられている(図14(B)参照)。指がタッチパネルに向かって近接検知領域内に進入すると、タッチパネルは、指の近接を検知する。このように、タッチパネルに向かって近接検知領域外の高さから近接検知領域内の高さに指をかざすことで指の近接が検知され始める操作を「ホバーイン」といい、タッチパネルから離間するように近接検知領域内から近接検知領域外に指を移動させることで指の近接が検知されなくなる操作を「ホバーアウト」という。
(第1の実施形態)
第1の実施形態では、携帯端末1は、画面に表示されたQWERTY形式のソフトウェアキーボードのいずれかのキーに対して指が近接した場合に、ホバー操作中又はホバースライド操作中の指の近接座標に対応する画面上の位置(以下、「近接対応位置」と定義する)の周囲に、近接対応位置に表示されている項目(例えばアルファベット「C」のキー)の関連情報又は支援情報として、近接対応位置に表示されているキーとそのキーに隣接する全てのキーとを拡大表示させる。
(第1の実施形態の携帯端末1の機能的構成)
先ず、第1の実施形態の携帯端末1の機能的構成について、図1を参照して説明する。図1は、第1の実施形態の携帯端末1の機能的構成を示すブロック図である。図1に示す携帯端末1は、近接検知部10、近接座標評価部11、タッチ検知部20、タッチ座標評価部21、キー位置/指位置判定部30、キーボードアプリ40、画面表示部50、キーイメージ生成部51、拡大キーイメージ生成部52及びキーイメージ合成部53を含む。キー位置/指位置判定部30は、表示キー位置情報31を保持する。キーボードアプリ40は、同時拡大単位設定情報41(図2参照)、描画切り替え設定情報42(図3参照)及び拡大表示位置設定情報43(図4参照)を保持する。
キー位置/指位置判定部30、キーボードアプリ40、キーイメージ生成部51、拡大キーイメージ生成部52及びキーイメージ合成部53の各部は、携帯端末1に内蔵されるプロセッサ(不図示)が本発明に係るプログラムを読み込んで実行することによって動作可能となる。なお、プロセッサは、例えばCPU(Central Processing Unit)、MPU(Micro Processing Unit)又はDSP(Digital Signal Processor)であり、以下の各実施形態においても同様である。
近接検知部10は、ホバー操作又はホバースライド操作によってユーザの指FG(図2参照)がタッチパネル15に近接したことを検知する。近接検知部5は、指がタッチパネル15に近接した旨の近接通知を近接座標評価部11に出力する。
近接座標評価部11は、近接検知部10から出力された近接通知を基に、指FGのタッチパネル15に対する近接座標(x、y、z)を、近接検知時における近接検知信号として算出する。なお、以下の説明において、近接検知信号は、近接座標であるとして説明するが、近接検知時に算出される静電容量値でも良い。上述したように、近接座標(x、y、z)のうち、x成分及びy成分は画面表示部50の画面DP(図2参照)に搭載されたタッチパネル15の水平面上の位置を表す座標値、即ち近接対応位置を示す座標値であって、z成分は指FGとタッチパネル15との間のz軸方向の距離(高さ)を表す座標値である。近接座標評価部11は、算出された近接座標(x、y、z)の情報をキー位置/指位置判定部30に出力する。なお、近接検知部10と近接座標評価部11とを纏めて近接検知部として構成しても良い。
接触検知部としてのタッチ検知部20は、タッチ操作又はタッチスライド操作によって指FGがタッチパネル15にタッチ(接触)した動作を検知する。タッチ検知部20は、指FGがタッチパネル15にタッチ(接触)した旨の接触通知をタッチ座標評価部21に出力する。
タッチ座標評価部21は、タッチ検知部20から出力された接触通知を基に、指FGがタッチパネル15にタッチ(接触)した時のタッチ座標(x、y)を算出する。タッチ座標評価部21は、算出されたタッチ座標(x、y)の情報をキー位置/指位置判定部30に出力する。なお、タッチ検知部20とタッチ座標評価部21とを纏めて接触検知部として構成しても良い。
なお、本実施形態を含む各実施形態において、指FGのタッチ(接触)と近接との両方を検知可能なタッチパネル15は、近接検知部10、近接座標評価部11、タッチ検知部20及びタッチ座標評価部21とを用いて構成可能である。
キー位置/指位置判定部30は、近接座標評価部11から出力された近接座標(x、y、z)の情報と表示キー位置情報31とを基に、近接座標(x、y、z)のうちx座標値及びy座標値、即ちホバー操作又はホバースライド操作中の指FGの近接対応位置に表示されているキー(以下、「近接対応キー」と定義する)を判定する。
表示キー位置情報31とは、後述する画面表示部50の画面DP(図2参照)にQWERTY形式のソフトウェアキーボードが表示されている場合では、画面DP内における同ソフトウェアキーボードの表示位置及び同ソフトウェアキーボードを構成する各々のキーの表示位置をそれぞれ示す情報である。
なお、表示キー位置情報31はキー位置/指位置判定部30により保持されているが、キーボードアプリ40により保持されていても良い。この場合、キー位置/指位置判定部30は、近接座標評価部11から出力された近接座標(x、y、z)の情報をキーボードアプリ40に出力する。キーボードアプリ40は、キー位置/指位置判定部30から出力された情報を基に、表示キー位置情報31を基に近接対応位置に表示されている近接対応キーの情報を判定してキー位置/指位置判定部30に出力する。
キー位置/指位置判定部30は、近接対応キーを判定した後、判定した近接対応キーと同時に拡大表示するキーの数情報をキーボードアプリ40に問い合わせ、更に、近接対応キーを含む複数のキーの拡大キーイメージ(データ)を生成する旨の拡大キーイメージ生成指示を拡大キーイメージ生成部52に出力する。
動作実行部としてのキーボードアプリ40は、携帯端末1に内蔵されるROM(Read Only Memory)に予め記憶され、例えばQWERTY形式のソフトウェアキーボードの画面データをキーイメージ生成部51に生成させ、画面DPに表示されたQWERTY形式のソフトウェアキーボードに対するユーザの入力操作(例えば文字入力操作)を受け付けるアプリケーションである。
キーボードアプリ40は、同時拡大単位設定情報41を基に、キー位置/指位置判定部30からの問い合わせに対する回答情報として、近接対応キーと同時に拡大表示するキーの数情報をキー位置/指位置判定部30に出力する。
同時拡大単位設定情報41とは、近接対応キーの拡大表示と同時に拡大表示するキーの数を示す情報であり、本実施形態では、近接対応キーに隣接する「全て」のキーを表す情報である。図2は、近接対応キーである「C」のキーと同時に「C」のキーに隣接する全てのキーを拡大表示する様子を示す図である。
例えば指FGが画面DP上に表示されている「C」のキーに近接すると、「C」のキーが近接対応キーとなり、キーボードアプリ40は、同時拡大単位設定情報41を基に、近接対応キーと同時に拡大表示するキーの数情報は近接対応キーに隣接する全てのキーである旨の数情報(=4個)を回答情報としてキー位置/指位置判定部30に出力する。キー位置/指位置判定部30は、キーボードアプリ40からの回答情報と表示キー位置情報31とを基に、近接対応キー(「C」のキー)と同時に拡大表示するキーを、「X」、「V」、「D」、「F」の各キーと判定する。更に、キー位置/指位置判定部30は、近接対応キー(「C」のキー)と近接対応キーと同時に拡大表示するキー(「X」、「V」、「D」、「F」の各キー)とを、拡大キーイメージ生成部52が生成する対象として判定する。キー位置/指位置判定部30は、近接対応キー(「C」のキー)と近接対応キーに隣接する全てのキー(「X」、「V」、「D」、「F」の各キー)との拡大表示キーイメージを生成する旨の拡大キーイメージ生成指示を拡大キーイメージ生成部52に出力する。
従って、図2に示すように、画面DP上に表示されている「C」のキーに指FGが近接すると、携帯端末1は、領域AR1により囲まれた「C」のキーと「C」のキーに隣接する全てのキー(「X」、「V」、「D」、「F」の各キー)とを、拡大表示前の「C」のキーの表示位置を中心としてそれぞれ同一の拡大倍率によって拡大表示する(図2に示す領域AR2参照)。これにより、携帯端末1は、QWERTY形式のソフトウェアキーボードにおいて各々のキーが隣接して表示されている場合に、特定のキーと特定のキーが全方位に隣接するキーとを合わせて関連情報として拡大表示することにより、指FGを近接させたユーザに対する近辺のキーを簡易に選択させることができる。
以下、QWERTY形式のソフトウェアキーボードにおいて、拡大表示されたキーを、単に「拡大表示キー」という。なお、拡大表示された全ての拡大表示キーの領域AR2によって、QWERTY形式のソフトウェアキーボードの一部(具体的には「X」、「C」、「V」、「D」、「F」のキー全部と、「Z」、「S」、「E」、「R」、「T」、「G」、「B」の一部)が隠れる(図2の矢印の右側参照)。
次に、描画切り替え設定情報42とは、ホバー操作中の指FGが画面DPに平行に移動(ホバースライド操作)した場合に、全ての拡大表示キーの表示内容を指FGの移動に応じて切り替えるタイミングを表す情報であり、キーボードアプリ40の動作において予め規定されている。但し、描画切り替え設定情報42は、ユーザの設定変更操作によって適宜変更されても良い。図3は、指FGを移動(ホバースライド操作)させる際に、全ての拡大表示キーの表示内容を切り替えるタイミングを示す図である。図3に示す左側の領域PARは、同図に示す右側の点線の領域PARを拡大表示したものである。
描画切り替え設定情報42は、次の3種類のタイミングを示す情報のうちいずれかである。図3を参照して具体的に説明する。
第1番目のタイミングは、「C」のキーに対してホバー操作中の指FGが矢印RWの方向に移動(ホバースライド操作)する際、拡大表示前の「C」のキーの表示領域の境界線BR1上の点P1を超えたタイミングである。即ち、キー位置/指位置判定部30は、近接座標評価部11から出力された近接座標(x、y、z)の情報をキーボードアプリ40に出力すると共に、キーボードアプリ40は、キー位置/指位置判定部30から出力された近接座標(x、y、z)の情報を基に、近接座標(x、y、z)が描画切り替え設定情報42の第1番目のタイミングを満たした時にその旨の情報を拡大キーイメージ生成部52に出力する。これにより、携帯端末1は、指FGがホバーアウトしなくても連続的な入力操作ができるような上級者のユーザに対し、拡大表示されていない元々の倍率で表示されたキーの境界線を越えた時点で拡大表示キーの表示内容の切り替えを分かり易く認知させることができ、ユーザの操作性を向上させることができる。
第2番目のタイミングは、「C」のキーに対してホバー操作中の指FGが矢印RWの方向に移動(ホバースライド操作)する際、拡大表示後の「C」のキーの表示領域の境界線BR2上の点P2を超えたタイミングである。即ち、キー位置/指位置判定部30は、近接座標評価部11から出力された近接座標(x、y、z)の情報をキーボードアプリ40に出力すると共に、キーボードアプリ40は、キー位置/指位置判定部30から出力された近接座標(x、y、z)の情報を基に、近接座標(x、y、z)が描画切り替え設定情報42の第2番目のタイミングを満たした時にその旨の情報を拡大キーイメージ生成部52に出力する。これにより、携帯端末1は、上級者といえるユーザでなくても、画面DP上に実際に表示されている拡大表示キーの「C」の境界線BR2を超えた時点で拡大表示キーの表示内容の切り替えを明示的に分かり易く認知させることができ、ユーザの誤操作を軽減でき、ユーザの操作性を向上させることができる。
第3番目のタイミングは、「C」のキーに対してホバー操作中の指FGが矢印RWの方向に移動(ホバースライド操作)する際、全ての拡大表示キーの領域AR2の表示領域の外枠に相当する境界線上の点P3を超えたタイミングである。即ち、キー位置/指位置判定部30は、近接座標評価部11から出力された近接座標(x、y、z)の情報をキーボードアプリ40に出力すると共に、キーボードアプリ40は、キー位置/指位置判定部30から出力された近接座標(x、y、z)の情報を基に、近接座標(x、y、z)が描画切り替え設定情報42の第3番目のタイミングを満たした時にその旨の情報を拡大キーイメージ生成部52に出力する。これにより、携帯端末1は、ホバー操作又はホバースライド操作に慣れていない初心者等のユーザに対して、画面DP上に実際に表示されている拡大表示キーの領域AR2の外枠の境界線を超えた時点で拡大表示キーの表示の切り替えを明示的に分かり易く認知させることができ、ユーザの誤操作を軽減でき、ユーザの操作性を向上させることができる。
このように、タッチパネル15に対する指FGの移動時(ホバースライド操作時)の移動速度はユーザのホバー操作又はホバースライド操作の熟練度によって異なるため、携帯端末1は、ユーザが自己の熟練度又は嗜好に応じた描画切り替え設定情報42を用いるように設定することで、ユーザの利便性を考慮した拡大表示キーの切り替えを適切に行うことができる。
次に、拡大表示位置設定情報43とは、近接座標(x、y、z)が描画切り替え設定情報42のタイミングを満たした時に、指FGの移動に応じて拡大表示キーの表示内容を切り替える時の中心となる拡大表示キーの表示位置を示す情報である。図4は、指FGの移動(ホバースライド操作)に応じて切り替えて表示する全ての拡大表示キーのうち中心となる拡大表示キーの表示位置を示す説明図である。
拡大表示位置設定情報43は、次の2種類の表示位置を示す情報である。図4を参照して具体的に説明する。先ず、前提の操作として、ホバー操作中の指FGが、拡大表示前の「C」のキーから移動(ホバースライド操作)し、拡大表示前の「C」のキーと拡大表示前の「V」のキーとの境界を超えて拡大表示前の「V」のキーの表示領域に進入したとする。即ち、図4の説明では、拡大表示キーの表示内容を切り替えるために用いられる描画切り替え設定情報42は、説明及び図4の内容を簡単にするために、第1番目のタイミングを示す情報とする。
第1番目の表示位置は、上述した指FGの前提となる移動(ホバースライド操作)があった場合に、移動(ホバースライド操作)後の指FGの近接対応位置に表示されている拡大表示前のキー(「V」のキー)の表示位置である。即ち、キー位置/指位置判定部30は、上述した指FGの前提となる移動(ホバースライド操作)があった場合には、近接座標評価部11から出力された近接座標(x、y、z)の情報をキーボードアプリ40に出力する。更に、キーボードアプリ40は、キー位置/指位置判定部30から出力された近接座標(x、y、z)の情報を基に、近接座標(x、y、z)が描画切り替え設定情報42の第1番目のタイミングを満たした時に、指FGの移動に応じて拡大表示キーの表示内容を切り替えた時の中心となる拡大表示キーの表示位置の情報は「移動(ホバースライド操作)後の指FGの近接対応位置に表示されている拡大表示前の「V」のキーの表示位置である」旨の情報を拡大キーイメージ生成部52に出力する。従って、携帯端末1は、上述した指FGの前提となる移動(ホバースライド操作)があった場合には、移動(ホバースライド操作)後の指FGの近接対応位置に表示されている拡大表示前の「V」のキーの表示位置を中心として、近接対応キーとしての「V」のキーと「V」のキーに隣接する全てのキー(「C」、「B」、「F」、「G」の各キー)とを拡大表示(描画)する(図4の右上段参照)。
第2番目の表示位置は、上述した指FGの前提となる移動(ホバースライド操作)があった場合に、指FGの移動(ホバースライド操作)前に表示されていた全ての拡大表示キーの初期表示位置のうち、移動(ホバースライド操作)後の指FGの近接対応位置に表示されている拡大表示キーの表示位置である。更に、拡大表示位置設定情報43が第2番目の表示位置を示す情報である場合には、移動後の指FGの近接対応位置に表示されている拡大表示後の「V」のキーの移動(ホバースライド操作)方向に隣接する全てのキー(「B」、「G」の各キー)の拡大表示キーの表示が追加(継続)され、同移動(ホバースライド操作)方向の反対側に隣接する全てのキー(「C」、「F」の各キー)の拡大表示キーの表示が消去される。即ち、キー位置/指位置判定部30は、上述した指FGの前提となる移動(ホバースライド操作)があった場合には、近接座標評価部11から出力された近接座標(x、y、z)の情報をキーボードアプリ40に出力する。更に、キーボードアプリ40は、キー位置/指位置判定部30から出力された近接座標(x、y、z)の情報を基に、近接座標(x、y、z)が描画切り替え設定情報42の第1番目のタイミングを満たした時に、指FGの移動に応じて拡大表示キーの表示内容を切り替えた時の中心となる拡大表示キーの表示位置の情報は「指FGの移動(ホバースライド操作)前に表示されていた全ての拡大表示キーの初期表示位置のうち、移動(ホバースライド操作)後の指FGの近接対応位置に表示されている拡大表示キー(「V」のキー)の初期表示位置である」旨の情報を拡大キーイメージ生成部52に出力する。従って、携帯端末1は、上述した指FGの前提となる移動(ホバースライド操作)があった場合には、移動(ホバースライド操作)後の指FGの近接対応キー(「V」のキー)の初期表示位置を中心に、移動(ホバースライド操作)方向に隣接する全てのキー(「B」、「G」の各キー)の拡大表示キーを追加して表示し、移動(ホバースライド操作)方向の反対方向に隣接する全てのキー(「C」、「F」の各キー)の拡大表示キーを消去する(図4の右下段参照)。
このように、携帯端末1は、ユーザが自己の熟練度又は嗜好に応じた拡大表示位置設定情報43を用いるように設定することで、第1番目の表示位置を示す拡大表示位置設定情報43によれば、第2番目の表示位置を示す拡大表示位置設定情報43を用いる場合に比べて、指FGの移動(ホバースライド操作)によって拡大表示キーの表示内容を切り替える場合の指FGの移動量を相対的に低減することができ、ユーザの操作を簡易化させることができる。
また、携帯端末1は、第2番目の表示位置を示す拡大表示位置設定情報43によれば、既に表示されている拡大表示キーの表示位置を変更せずに、指FGの移動方向に隣接する全てのキーを追加して表示し、移動方向の反対方向に隣接する全てのキーを削除するため、指FGの移動(ホバースライド操作)後における全ての拡大表示キーの視認性を向上させることができる。
画面表示部50は、例えばLCD又は有機ELディスプレイを用いて構成され、画面DPにデータを表示する機能を有し、後述するキーイメージ合成部53から出力された画面データを画面DPに表示する。本実施形態では、画面表示部50が表示する画面データは、QWERTY形式のソフトウェアキーボードの画面のデータ、又は、QWERTY形式のソフトウェアキーボードの画面と拡大表示キーとが合成された画面のデータである。
キーイメージ生成部51は、キーボードアプリ40から出力されたQWERTY形式のソフトウェアキーボードの画面データ生成指示を基に、同形式のソフトウェアキーボード(図2参照)の画面データを生成してキーイメージ合成部53に出力する。
拡大キーイメージ生成部52は、キー位置/指位置判定部30から出力された拡大キーイメージ生成指示を基に、拡大表示キーのイメージデータ(画像データ)を生成してキーイメージ合成部53に出力する。また、拡大キーイメージ生成部52は、キー位置/指位置判定部30から出力された拡大キーイメージ生成指示と、キーボードアプリ40から出力された各情報とを基に、指FGの移動(ホバースライド操作)後における拡大表示キーのイメージデータ(画像データ)を生成してキーイメージ合成部53に出力する。なお、キーボードアプリ40から出力された各情報とは、描画切り替え設定情報42を満たす旨の情報と、指FGの移動に応じて拡大表示キーの表示内容を切り替える時の中心となる拡大表示キーの表示位置の情報とである。更に、拡大キーイメージ生成部52は、キーボードアプリ40から出力された全ての拡大表示キーのうち中心となる拡大表示キーの表示位置に関する情報をキーイメージ合成部53に出力する。
表示制御部としてのキーイメージ合成部53は、キーイメージ生成部51から出力されたQWERTY形式のソフトウェアキーボードの画面データと拡大キーイメージ生成部52から出力された拡大表示キーのイメージデータとを合成し、拡大キーイメージ生成部52から出力された全ての拡大表示キーのうち中心となる拡大表示キーの表示位置に関する情報を基に、合成後の画面データを画面表示部50の画面DPの所定位置に表示させる。所定位置とは、拡大キーイメージ生成部52から出力された中心となる拡大表示キーの表示位置を基にした所定位置である。なお、キーイメージ合成部53は、拡大キーイメージ生成部52から拡大表示キーのイメージデータを入力しない場合には、キーイメージ生成部51から出力されたQWERTY形式のソフトウェアキーボードの画面データをそのまま画面表示部50の画面DPに表示させる。
なお、キーイメージ合成部53は、合成後の画面データを画面表示部50の画面DPに表示させた場合に、現在拡大表示キーが画面DP上に表示されている旨の情報を、携帯端末1に内蔵される不図示のRAM(Random Access Memory)に一時的に記憶する。この情報は、例えばキー位置/指位置判定部30により参照される。
(第1の実施形態の携帯端末1の動作)
図5(A)は、第1の実施形態の携帯端末1の動作手順を説明するフローチャートである。図5(B)は、図5(A)に示す動作手順のうち近接対応位置のキーの拡大表示の動作手順を説明するフローチャートである。図5(A)又は(B)の説明において、必要に応じて、図2から図4の内容を参照する。
図5(A)において、携帯端末1は、近接検知部10がタッチパネル15に対する指FGの近接を検知するまで待機する(S11)。近接検知部10がタッチパネル15に対する指FGの近接を検知した場合には(S11、YES)、近接座標評価部11は、近接検知部10から出力された近接通知を基に、指FGのタッチパネル15に対する近接座標(x、y、z)を算出する。近接座標評価部11は、算出された近接座標(x、y、z)の情報をキー位置/指位置判定部30に出力する。
ステップS11の後、携帯端末1の動作はステップS12に進む。ステップS12の動作の詳細は図5(B)を参照して後述し、先にステップS13以降の動作を説明する。
ステップS12の後、携帯端末1は、タッチ検知部20がタッチパネル15に対する指FGのタッチ(接触)を検知するまで待機する(S13)。タッチ検知部20がタッチパネル15に対する指FGのタッチ(接触)を検知した場合には(S13、YES)、タッチ座標評価部21は、タッチ検知部20から出力された接触通知を基に、指FGのタッチパネル15に対するタッチ座標(x、y)を算出する。タッチ座標評価部21は、算出されたタッチ座標(x、y)の情報をキー位置/指位置判定部30に出力する。
キー位置/指位置判定部30は、タッチ座標評価部21から出力されたタッチ座標(x、y)の情報を基に、タッチ座標(x、y)の位置に表示されているQWERTY形式のソフトウェアキーボードのキーを、ユーザの入力操作の対象の該当キーとして確定する(S14)。キー位置/指位置判定部30は、タッチ座標(x、y)の位置に表示されているキーの情報とそのキーに応じた動作(例えば文字入力操作)を実行させる旨の動作実行指示とをキーボードアプリ40に出力する。キーボードアプリ40は、キー位置/指位置判定部30から出力された動作実行指示を基に、ユーザの入力操作の対象の該当キーとして確定されたキーに応じた動作(例えば文字入力操作)を実行する。この後、携帯端末1の動作はステップ12に戻る。
一方、タッチ検知部20がタッチパネル15に対する指FGのタッチ(接触)を検知しない場合には(S13、NO)、キー位置/指位置判定部30は、図3に示したように、近接座標評価部11から出力された近接座標(x、y、z)の情報を基に、近接対応位置に対してホバー操作中の指FGが近接対応キーを跨いで移動(ホバースライド操作)したか否か、即ち近接座標(x、y、z)が描画切り替え設定情報42により定められるいずれかのタイミングを満たしたか否かをキーボードアプリ40に判定させる(S15)。図5(A)の説明では、図3を参照して上述したように、描画切り替え設定情報42は、第1番目のタイミングを示す情報であるとする。即ち、描画切り替え設定情報42は、図3を参照すると、「C」のキーに対してホバー操作中の指FGが矢印RWの方向に移動(ホバースライド操作)する際、拡大表示前の「C」のキーの表示領域の境界線BR1上の点P1を超えたタイミングを示す情報である。
キーボードアプリ40が近接対応位置に対してホバー操作中の指FGが近接対応キーを跨いで移動(ホバースライド操作)していないと判定した場合には(S15、NO)、指FGの移動(ホバースライド操作)があっても現在表示されている拡大表示キーの表示内容の切り替えは行われず、携帯端末1の動作はステップS13に戻る。
一方、キーボードアプリ40が近接対応位置に対してホバー操作中の指FGが近接対応キーを跨いで移動(ホバースライド操作)したと判定した場合には(S15、YES)、指FGの移動(ホバースライド操作)に応じて現在表示されている拡大表示キーの表示内容が切り替わることになり、携帯端末1の動作はステップS12に戻る。
次に、図5(B)において、キー位置/指位置判定部30は、拡大表示キーが既に表示済みであるか否かを判定する(S12−1)。具体的には、キー位置/指位置判定部30は、携帯端末1に内蔵されるRAM(不図示)に、現在拡大表示キーが画面DP上に表示されている旨の情報が記憶されているか否かに応じて、拡大表示キーが既に表示済みであるか否かを判定する。
キー位置/指位置判定部30は、拡大表示キーが既に表示済みでないと判定した場合には(S12−1、NO)、近接座標評価部11から出力された近接座標(x、y、z)の情報と表示キー位置情報31とを基に、近接対応位置の座標(x、y)に表示されている近接対応キーを判定する。キー位置/指位置判定部30は、近接対応キーを判定した後、判定した近接対応キーと同時に拡大表示するキーの数情報をキーボードアプリ40に問い合わる。
キーボードアプリ40は、同時拡大単位設定情報41を基に、キー位置/指位置判定部30からの問い合わせに対する回答情報として、近接対応キーと同時に拡大表示するキーの数情報(=4個)をキー位置/指位置判定部30に出力する。
キー位置/指位置判定部30は、キーボードアプリ40からの回答情報と表示キー位置情報31とを基に、近接対応キー(「C」のキー)と同時に拡大表示するキーを、「X」、「V」、「D」、「F」の各キーと判定する。更に、キー位置/指位置判定部30は、近接対応キー(「C」のキー)と近接対応キーと同時に拡大表示するキー(「X」、「V」、「D」、「F」の各キー)とを、拡大キーイメージ生成部52が生成する対象として判定する。キー位置/指位置判定部30は、近接対応キー(「C」のキー)と近接対応キーに隣接する全てのキー(「X」、「V」、「D」、「F」の各キー)との拡大表示キーイメージを生成する旨の拡大キーイメージ生成指示を拡大キーイメージ生成部52に出力する。
拡大キーイメージ生成部52は、キー位置/指位置判定部30から出力された拡大キーイメージ生成指示を基に、拡大表示キーのイメージデータを生成してキーイメージ合成部53に出力する。キーイメージ合成部53は、キーイメージ生成部51から出力されたソフトウェアキーボードの画面データと拡大キーイメージ生成部52から出力された拡大表示キーのイメージデータとを合成し、合成後の画面データを画面表示部50の画面DPに表示させる(S12−2)。即ち、キーイメージ合成部53は、画面表示部50の画面DPに表示されているソフトウェアキーボードに対し、拡大表示前の近接対応キー(「C」のキー)の表示位置を中心として、拡大キーイメージ生成部52により生成された拡大表示キーを画面表示部50の画面DPに表示させる(図2参照)。
一方、キー位置/指位置判定部30は、拡大表示キーが既に表示済みであると判定した場合には(S12−1、YES)、近接座標評価部11から出力された近接座標(x、y、z)の情報と表示キー位置情報31とを基に、移動(ホバースライド操作)後の指FGの近接対応位置に表示されている近接対応キーを判定する。キー位置/指位置判定部30は、近接対応キーを判定した後、近接対応キーの情報をキーボードアプリ40に出力すると共に、指FGの移動(ホバースライド操作)に応じて拡大表示キーの表示内容を切り替えた時の中心となる近接対応キーの表示位置を定める拡大表示位置設定情報43をキーボードアプリ40に問い合わせる(S12−3)。キーボードアプリ40は、キー位置/指位置判定部30からの問い合わせに対し、拡大表示位置設定情報43を参照して、指FGの移動(ホバースライド操作)に応じて拡大表示キーの表示内容を切り替えた時の中心となる拡大表示キーの表示位置の情報を拡大キーイメージ生成部52に出力する。更に、キーボードアプリ40は、同時拡大単位設定情報41を基に、キー位置/指位置判定部30からの問い合わせに対する回答情報として、近接対応キーと同時に拡大表示するキーの数情報は近接対応キーに隣接する全てのキーである旨の数情報(=4個)をキー位置/指位置判定部30に出力する。
更に、キー位置/指位置判定部30は、キーボードアプリ40からの回答情報と表示キー位置情報31とを基に、近接対応キー(「C」のキー)と同時に拡大表示するキーを、「X」、「V」、「D」、「F」の各キーと判定する。更に、キー位置/指位置判定部30は、近接対応キー(「C」のキー)と近接対応キーと同時に拡大表示するキー(「X」、「V」、「D」、「F」の各キー)とを、拡大キーイメージ生成部52が生成する対象として判定する。キー位置/指位置判定部30は、近接対応キー(「C」のキー)と近接対応キーに隣接する全てのキー(「X」、「V」、「D」、「F」の各キー)との拡大表示キーイメージを生成する旨の拡大キーイメージ生成指示を拡大キーイメージ生成部52に出力する。
キーボードアプリ40は、拡大表示位置設定情報43が第1の表示位置、即ち移動(ホバースライド操作)後の指FGの近接対応キーに表示されている拡大表示前のキーの表示位置である場合には(S12−3、第1の表示位置)、図4の右上段に示すように、指FGの移動に応じて拡大表示キーの表示内容を切り替えた時の中心となる拡大表示キーの表示位置の情報は「移動(ホバースライド操作)後の指FGの近接対応位置に表示されている拡大表示前の「V」のキーの表示位置である」旨の情報を拡大キーイメージ生成部52に出力する。
拡大キーイメージ生成部52は、キー位置/指位置判定部30から出力された拡大キーイメージ生成指示と、キーボードアプリ40から出力された各情報とを基に、指FGの移動(ホバースライド操作)後における拡大表示キーのイメージデータを生成してキーイメージ合成部53に出力する。キーイメージ合成部53は、キーイメージ生成部51から出力されたソフトウェアキーボードの画面データと拡大キーイメージ生成部52から出力された拡大表示キーのイメージデータとを合成し、合成後の画面データを画面表示部50の画面DPに表示させる。即ち、キーイメージ合成部53は、画面表示部50の画面DPに表示されているソフトウェアキーボードに対し、指FGの移動後における拡大表示前の近接対応キーの表示位置を中心として、拡大キーイメージ生成部52により生成された拡大表示キーを画面表示部50の画面DPに表示(描画)させる(S12−2)。
一方、キーボードアプリ40は、拡大表示位置設定情報43が第2の表示位置、即ち拡大表示キーの初期表示位置を基準とした表示位置である場合には(S12−3、第2の表示位置)、図4の右下段に示すように、指FGの移動に応じて拡大表示キーの表示内容を切り替えた時の中心となる拡大表示キーの表示位置の情報は「指FGの移動(ホバースライド操作)前に表示されていた全ての拡大表示キーの初期表示位置のうち、移動(ホバースライド操作)後の指FGの近接対応位置に表示されている拡大表示キー(「V」のキー)の初期表示位置である」旨の情報を拡大キーイメージ生成部52に出力する。
拡大キーイメージ生成部52は、キー位置/指位置判定部30から出力された拡大キーイメージ生成指示と、キーボードアプリ40から出力された各情報とを基に、指FGの移動(ホバースライド操作)後における拡大表示キーのイメージデータを生成してキーイメージ合成部53に出力する。キーイメージ合成部53は、キーイメージ生成部51から出力されたソフトウェアキーボードの画面データと拡大キーイメージ生成部52から出力された拡大表示キーのイメージデータとを合成し、合成後の画面データを画面表示部50の画面DPに表示させる。即ち、キーイメージ合成部53は、画面表示部50の画面DPに表示されているソフトウェアキーボードに対し、指FGの移動後における近接対応キーの初期表示位置を中心に、移動方向に隣接する全てのキーの拡大表示キーを追加して表示し、移動方向の反対方向に隣接する全てのキーの拡大表示キーの表示を消去する(S12−4)。
以上により、本実施形態の携帯端末1は、QWERTY形式のソフトウェアキーボードが表示された画面DPに対する指FGの近接が検知された際に、ホバー操作中又はホバースライド操作中の指FGの近接座標に対応する画面上の位置である近接対応位置に表示されているキーの関連情報又は支援情報として、近接対応キーに隣接する全てのキーを近接対応位置の周囲に表示する。これにより、携帯端末1は、ユーザの入力操作の対象となるキーをタッチ操作によって確定して選択する前に、近接検知時に入力操作の対象に関する支援情報又は関連情報を明示的に表示(描画)でき、ユーザの正確な入力操作を支援して操作性を向上させることができる。
(第2の実施形態)
第2の実施形態では、携帯端末1Aは、画面に表示されたテンキー形式のソフトウェアキーボードのいずれかのキーに対して指が近接した場合に、近接対応位置の周囲に、近接対応位置に表示されている項目(例えば平仮名「あ」のキー)の関連情報又は支援情報として、近接対応位置に表示されているキー(例えば平仮名「あ」のキー)とそのキーを一回又は複数回押下した場合に選択可能となる関連キー(例えば平仮名「い」、「う」、「え」、「お」の各キー)とを表示又は拡大表示させる(図7参照)。
(第2の実施形態の携帯端末1Aの機能的構成)
図6は、第2の実施形態の携帯端末1Aの機能的構成を示すブロック図である。図1に示す携帯端末1と同一の構成要素については同一の符号を付すことで説明を省略し、異なる内容について説明する。
図6に示す携帯端末1Aは、近接検知部10、近接座標評価部11、タッチ検知部20、タッチ座標評価部21、キー位置/指位置判定部30A、キーボードアプリ40A、画面表示部50、キーイメージ生成部51、キーイメージ合成部53、表示対象キー判定部54及び表示対象キーイメージ生成部55を含む。キーボードアプリ40Aは、表示キー位置情報31及び関連キー情報44(図7参照)を保持する。本実施形態では、表示キー位置情報31はキーボードアプリ40Aにより保持されるが、表示キー位置情報31の内容は第1の実施形態と同一であるので説明を省略する。更に、表示キー位置情報31は、第1の実施形態と同様にキー位置/指位置判定部30Aにより保持されても良い。
キー位置/指位置判定部30A、キーボードアプリ40A、キーイメージ生成部51、キーイメージ合成部53、表示対象キー判定部54及び表示対象キーイメージ生成部55の各部は、携帯端末1Aに内蔵されるプロセッサ(不図示)が本発明に係るプログラムを読み込んで実行することによって動作可能となる。
キー位置/指位置判定部30Aは、近接座標評価部11から出力された近接座標(x、y、z)の情報と近接座標(x、y、z)に対応する近接対応位置に表示されているキーを判定する旨の判定指示とをキーボードアプリ40Aに出力する。更に、キー位置/指位置判定部30Aは、近接が検知された指FGに対する近接対応位置に表示されているキーとそのキーの関連情報又は支援情報となる関連キーとを判定する旨の判定指示を表示対象キー判定部54に出力する。
動作実行部としてのキーボードアプリ40Aは、携帯端末1に内蔵されるROMに予め記憶され、例えばテンキー形式のソフトウェアキーボードの画面データをキーイメージ生成部51に生成させ、画面DPに表示されたテンキー形式のソフトウェアキーボードに対するユーザの入力操作(例えば文字入力操作)を受け付けるアプリケーションである。
キーボードアプリ40Aは、キー位置/指位置判定部30Aから出力された近接座標(x、y、z)の情報と近接座標(x、y、z)に対応する近接対応位置に表示されているキーを判定する旨の判定指示と表示キー位置情報31とを基に、近接座標(x、y、z)のうちx座標値及びy座標値、即ち近接が検知された指FGの近接対応位置に表示されている近接対応キーを判定する。
更に、キーボードアプリ40Aは、関連キー情報44を基に、判定した近接対応キーの関連情報又は支援情報となる関連キーを判定する。図7は、指FGの近接対応キーである平仮名「あ」のキーと平仮名「あ」のキーの関連キーとを表示する様子を示す図である。本実施形態では、図7に示すように、関連キーとは、例えば近接対応キーが平仮名「あ」のキーである場合に、その平仮名「あ」のキーを一回又は複数回押下した場合に選択可能となるキー(例えば平仮名「い」、「う」、「え」、「お」の各キー)であり、ユーザの文字入力を簡易化又は効率化させるための関連情報又は支援情報である。キーボードアプリ40Aは、判定した近接対応キーと関連キーとの各情報を表示対象キー判定部54に出力する。
表示対象項目判定部としての表示対象キー判定部54は、キー位置/指位置判定部30Aから出力された判定指示とキーボードアプリ40Aから出力された近接対応キー及び関連キーの各情報とを基に、近接が検知された指FGに対応する近接対応位置の周囲に関連キーを、近接対応キーの関連情報又は支援情報として表示すると判定する。表示対象キー判定部54は、関連キーの情報と関連キーのイメージデータを生成する旨の関連キーイメージ生成指示とを表示対象キーイメージ生成部55に出力する。
表示対象キーイメージ生成部55は、表示対象キー判定部54から出力された関連キーの情報と関連キーイメージ生成指示とを基に、関連キーのイメージデータを生成してキーイメージ合成部53に出力する。
(第2の実施形態の携帯端末1Aの動作手順)
図8は、第2の実施形態の携帯端末1Aの動作手順を説明するフローチャートである。図8の説明において、必要に応じて、図7の内容を参照する。
図8において、携帯端末1Aは、近接検知部10がタッチパネル15に対する指FGの近接を検知するまで待機する(S21)。近接検知部10がタッチパネル15に対する指FGの近接を検知した場合には(S21、YES)、近接座標評価部11は、近接検知部10から出力された近接通知を基に、指FGのタッチパネル15に対する近接座標(x、y、z)を算出する。近接座標評価部11は、算出された近接座標(x、y、z)の情報をキー位置/指位置判定部30Aに出力する。
キー位置/指位置判定部30Aは、近接座標評価部11から出力された近接座標(x、y、z)の情報と近接座標(x、y、z)に対応する近接対応位置に表示されているキーを判定する旨の判定指示とをキーボードアプリ40Aに出力する。更に、キー位置/指位置判定部30Aは、近接が検知された指FGに対する近接対応位置に表示されているキーとそのキーの関連情報又は支援情報となる関連キーとを判定する旨の判定指示を表示対象キー判定部54に出力する。
キーボードアプリ40Aは、キー位置/指位置判定部30Aから出力された近接座標(x、y、z)の情報と近接座標(x、y、z)に対応する近接対応位置に表示されているキーを判定する旨の判定指示と表示キー位置情報31とを基に、近接座標(x、y、z)のうちx座標値及びy座標値、即ち近接が検知された指FGの近接対応位置に表示されている近接対応キーを判定する(S22)。
更に、キーボードアプリ40Aは、関連キー情報44を基に、判定した近接対応キーの関連情報又は支援情報となる関連キーを判定する(S23)。キーボードアプリ40Aは、判定した近接対応キーと関連キーとの各情報を表示対象キー判定部54に出力する。表示対象キー判定部54は、キー位置/指位置判定部30Aから出力された判定指示とキーボードアプリ40Aから出力された近接対応キー及び関連キーの各情報とを基に、近接が検知された指FGに対応する近接対応位置の周囲に関連キーを、近接対応キーの関連情報又は支援情報として表示すると判定する(S23)。表示対象キー判定部54は、関連キーの情報と関連キーのイメージデータを生成する旨の関連キーイメージ生成指示とを表示対象キーイメージ生成部55に出力する。
表示対象キーイメージ生成部55は、表示対象キー判定部54から出力された関連キーの情報と関連キーイメージ生成指示とを基に、関連キーのイメージデータを生成してキーイメージ合成部53に出力する。キーイメージ合成部53は、キーイメージ生成部51から出力されたテンキー形式のソフトウェアキーボードの画面データと表示対象キーイメージ生成部55から出力された関連キーのイメージデータとを合成し、合成後の画面データを画面表示部50の画面DPに表示させる。即ち、キーイメージ合成部53は、画面表示部50の画面DPに表示されているテンキー形式のソフトウェアキーボードに対し、ホバー操作中の指FGの近接対応キーの表示位置の周囲に、近接対応キーの関連情報又は支援情報としての関連キーを追加して表示(描画)する(S24)。
なお、図7には、関連キー(平仮名「い」、「う」、「え」、「お」の各キー)が近接対応キー(平仮名「あ」のキー)の周囲に表示される例が示されているが、近接対応キーに対する関連キーの相対的な表示位置は予め定まっているとする(図7の領域SPK参照)。また、ステップS24では、キーイメージ合成部53は、近接対応キーと関連キーとを画面表示部50の画面DPに表示させる際に、キーイメージ生成部51が生成したテンキー形式のソフトウェアキーボードのキーと同一の表示倍率で表示しても良いし拡大して表示しても良い。図7では、拡大表示されている例が示されている。
ステップS24の後、携帯端末1Aは、タッチ検知部20がタッチパネル15に対する指FGのタッチ(接触)を検知するまで待機する(S25)。タッチ検知部20がタッチパネル15に対する指FGのタッチ(接触)を検知した場合には(S25、YES)、タッチ座標評価部21は、タッチ検知部20から出力された接触通知を基に、指FGのタッチパネル15に対するタッチ座標(x、y)を算出する。タッチ座標評価部21は、算出されたタッチ座標(x、y)の情報をキー位置/指位置判定部30Aに出力する。
キー位置/指位置判定部30Aは、タッチ座標評価部21から出力されたタッチ座標(x、y)の情報を基に、タッチ座標(x、y)の位置に表示されているテンキー形式のソフトウェアキーボードのキーを、ユーザの入力操作の対象の該当キーとして確定する(S26)。キー位置/指位置判定部30Aは、タッチ座標(x、y)の位置に表示されているキーの情報とそのキーに応じた動作(例えば文字入力操作)を実行させる旨の動作実行指示とをキーボードアプリ40Aに出力する。キーボードアプリ40Aは、キー位置/指位置判定部30Aから出力された動作実行指示を基に、ユーザの入力操作の対象の該当キーとして確定されたキーに応じた動作(例えば文字入力操作)を実行する。この後、図8では携帯端末1Aの動作は終了するが、指FGがホバーアウトしなければ、携帯端末1Aの動作はステップS21に戻っても良い。
一方、タッチ検知部20がタッチパネル15に対する指FGのタッチ(接触)を検知しない場合には(S25、NO)、キー位置/指位置判定部30Aは、近接座標評価部11から出力された近接座標(x、y、z)の情報を基に、ホバー操作中又はホバースライド操作中の指FGが他のキーに移動(ホバースライド操作)したか否かを判定する(S27)。
ホバー操作中又はホバースライド操作中の指FGが他のキーに移動(ホバースライド操作)していないと判定された場合には(S27、NO)、携帯端末1Aの動作はステップS25に戻る。
一方、ホバー操作中又はホバースライド操作中の指FGが他のキーに移動(ホバースライド操作)したと判定された場合には(S27、YES)、携帯端末1Aの動作はステップS22に戻る。
以上により、本実施形態の携帯端末1Aは、テンキー形式のソフトウェアキーボードが表示された画面DPに対する指FGの近接が検知された際に、指FGの近接座標に対応する画面上の位置である近接対応位置に表示されているキーの関連情報又は支援情報として、近接対応キーを一回又は複数回押下した際に選択可能となる関連キーを近接対応位置の周囲に表示する。これにより、携帯端末1Aは、ユーザの入力操作の対象となるキーをタッチ操作によって確定して選択する前に、近接検知時に入力操作の対象に関する支援情報又は関連情報を明示的に表示(描画)でき、ユーザの正確な入力操作を支援して操作性を向上させることができる。
(第3の実施形態)
第3の実施形態では、携帯端末1Bは、カメラ機能のアプリケーションにおけるプレビュー画面において、ユーザに対する被写体の視認性を向上させるために、後述する動作実行項目(例えばボタン)と後述する設定変更項目(例えばボタン)とを被写体に対して透過的に表示する。
また、第3の実施形態では、携帯端末1Bは、カメラ機能のアプリケーションにおけるプレビュー画面において透過的に表示された「設定変更機能を実行させるためのボタン」に対して指が近接した場合に、近接対応位置の周囲に、当該ボタンの関連情報又は支援情報として、当該ボタンに対応する同一グループ内の設定変更機能を有する複数の設定変更項目(例えばボタン)を視認可能な表示形態にて表示する(図10参照)。以下、本実施形態において、設定変更機能を実行させるための設定変更項目を簡易的に示すボタンであって、携帯端末1Bによりプレビュー画面の被写体に対して透過的に且つ簡易的なボタンとして表示されたボタンを、単に「簡易ボタン」という。
また、第3の実施形態では、携帯端末1Bは、カメラ機能のアプリケーションにおけるプレビュー画面において透過的に表示された「動作機能を実行させるためのボタン」に対して指が近接した場合に、近接対応位置に表示されているボタンを視認可能な表示形態にて表示し、更に、画面に表示されている全ての項目(例えばボタン)のうち近接対応位置に表示されているボタンを除く他のボタンを画面から消去する(図11参照)。
また、第3の実施形態において、カメラ機能のアプリケーションにおいて、静止画若しくは動画の撮影動作と撮影されたデータの閲覧動作とを含む動作機能を実行させるためにプレビュー画面において被写体に対して透過的に表示される項目(例えばボタン)を、「動作実行項目」と定義する。更に、カメラ機能のアプリケーションにおいて、撮影動作に対する種々の条件となる設定変更の内容を含む設定変更機能を実行させるためにプレビュー画面において被写体に対して透過的に表示される項目(例えばボタン)を、「設定変更項目」と定義する。
(第3の実施形態の携帯端末1Bの機能的構成)
図9は、第3の実施形態の携帯端末1Bの機能的構成を示すブロック図である。図1に示す携帯端末1と同一の構成要素については同一の符号を付すことで説明を省略し、異なる内容について説明する。
図9に示す携帯端末1Bは、近接検知部10、近接座標評価部11、タッチ検知部20、タッチ座標評価部21、ボタン位置/指位置判定部30B、カメラアプリ40B、画面表示部50、ボタン実行内容判定部56、表示可変ボタンイメージ生成部57、カメラプレビュー画面生成部58及びカメラ画面合成部59を含む。カメラアプリ40Bは、表示ボタン位置情報45及びボタン実行内容情報46を保持する。
ボタン位置/指位置判定部30B、カメラアプリ40B、ボタン実行内容判定部56、表示可変ボタンイメージ生成部57、カメラプレビュー画面生成部58及びカメラ画面合成部59の各部は、携帯端末1Bに内蔵されるプロセッサ(不図示)が本発明に係るプログラムを読み込んで実行することによって動作可能となる。
ボタン位置/指位置判定部30Bは、近接座標評価部11から出力された近接座標(x、y、z)の情報と近接座標(x、y、z)に対応する近接対応位置に表示されているボタン(以下、「近接対応ボタン」と定義する)を判定する旨の判定指示とをカメラアプリ40Bに出力する。更に、ボタン位置/指位置判定部30Bは、近接が検知された指FGに対する近接対応位置に表示されているボタンが動作実行項目であるか設定変更項目であるかを判定する旨の判定指示をボタン実行内容判定部56に出力する。
動作実行部としてのカメラアプリ40Bは、携帯端末1Bに設けられたカメラ機構(不図示)を用いた静止画若しくは動画のデータの撮影動作と撮影されたデータの閲覧動作とを含む動作機能、及び、撮影動作に対する種々の条件となる設定変更の内容を含む設定変更機能を実行するアプリケーションであり、携帯端末1Bに内蔵されるROMに予め記憶されている。また、カメラアプリ40Bは、撮影動作前に被写体を確認的に映し出すプレビュー画面の画面データをカメラプレビュー画面生成部58に生成させ、画面DPに表示されたプレビュー画面の内容に対するユーザの入力操作(例えば静止画の撮影動作の入力操作)を受け付ける。
カメラアプリ40Bは、ボタン位置/指位置判定部30Bから出力された近接座標(x、y、z)の情報と近接座標(x、y、z)に対応する近接対応位置に表示されているボタンを判定する旨の判定指示と表示ボタン位置情報45とを基に、近接座標(x、y、z)のうちx座標値及びy座標値、即ち近接が検知された指FGの近接対応位置に表示されている近接対応ボタンを判定する。
表示ボタン位置情報45は、カメラプレビュー画面生成部58が生成するプレビュー画面において表示される動作実行項目と設定変更項目とのそれぞれの表示位置を定める情報である。カメラアプリ40Bは、ボタン実行内容情報46を基に、表示ボタン位置情報45を用いて判定した近接対応ボタンの実行内容を判定する。
ボタン実行内容情報46は、カメラプレビュー画面生成部58が生成するプレビュー画面において表示される各々の動作実行項目と設定変更項目とがユーザのタッチ操作によって選択された場合に実行する動作又は設定変更の内容を定める情報である。カメラアプリ40Bは、ボタン実行内容情報46を用いて判定した近接対応ボタンの実行内容の情報をボタン実行内容判定部56に出力する。
なお、本実施形態では、ボタン実行内容情報46はカメラアプリ40Bにより保持されるが、ボタン実行内容判定部56により保持されても良い。この場合、ボタン実行内容判定部56は、カメラアプリ40Bから近接対応ボタンの情報を得た後、ボタン実行内容判定部56が保持するボタン実行内容情報46を基に、近接対応ボタンの実行内容を判定する。
項目動作判定部としてのボタン実行内容判定部56は、ボタン位置/指位置判定部30Bから出力された判定指示とカメラアプリ40Bから出力された近接対応ボタンの実行内容の情報とを基に、近接が検知された指FGに対応する近接対応位置に表示されている近接対応ボタンが動作実行項目であるか設定変更項目であるかを判定する。
ボタン実行内容判定部56は、近接対応ボタンが設定変更項目であると判定した場合には、プレビュー画面において被写体に対して透過的に表示されている簡易ボタンに関連する関連情報又は支援情報としての具体的な設定変更内容をユーザに対して視認可能な表示形態にて表示する旨の情報と視認可能な表示形態の設定変更項目のボタンイメージデータを生成する旨の生成指示とを表示可変ボタンイメージ生成部57に出力する。
ボタン実行内容判定部56は、近接対応ボタンが動作実行項目であると判定した場合には、プレビュー画面において近接対応ボタンをユーザに対して視認可能な表示形態にて表示する旨の情報と同プレビュー画面において被写体に対して透過的に表示されている全ての項目のうち近接対応位置に表示されている動作実行項目(例えばボタン)を除く他のボタン(設定変更項目を示す簡易ボタンと動作実行項目とを含む)を画面から消去する旨の消去指示を表示可変ボタンイメージ生成部57に出力する。
表示可変ボタンイメージ生成部57は、ボタン実行内容判定部56から出力された情報と生成指示とを基に、プレビュー画面において近接が検知された指FGに対応する近接対応位置に表示されている設定変更項目(簡易ボタン)の表示形態を、初期状態の透過的な表示形態からユーザが視認可能な表示形態に可変したボタンイメージデータを生成する。表示可変ボタンイメージ生成部57は、生成された設定変更項目のボタンイメージデータをカメラ画面合成部59に出力する。
表示可変ボタンイメージ生成部57は、ボタン実行内容判定部56から出力された情報と消去指示とを基に、プレビュー画面において近接が検知された指FGに対応する近接対応位置に表示されている動作実行項目の表示形態を、初期状態の透過的な表示形態からユーザが視認可能な表示形態に可変したボタンイメージデータを生成すると共に、残りの動作実行項目及び設定変更項目(簡易ボタン)を消去する旨の情報をカメラ画面合成部59に出力する。
カメラプレビュー画面生成部58は、カメラアプリ40Bから出力されたプレビュー画面の画面データの生成指示を基に、プレビュー画面の画面データを生成する。本実施形態では、上述したように、カメラプレビュー画面生成部58は、プレビュー画面において、設定変更項目と動作実行項目とを被写体に対して透過的な表示形態となるように画面データを生成する。カメラプレビュー画面生成部58は、生成された画面データをカメラ画面合成部59に出力する。
表示制御部としてのカメラ画面合成部59は、カメラプレビュー画面生成部58から出力されたプレビュー画面の画面データと表示可変ボタンイメージ生成部57から出力された設定変更項目のボタンイメージデータとを合成し、合成後の画面データを画面表示部50の画面DPに表示させる(図10参照)。カメラ画面合成部59は、図10に示すように、表示可変ボタンイメージ生成部57から出力された設定変更項目のボタンイメージデータを、設定変更項目の簡易ボタンが表示されていた画面DP内における表示位置の周囲に表示させる。
図10は、指FGが設定変更項目の簡易ボタンに近接した場合に、近接対応位置に表示されている簡易ボタンに対応する同一グループのメニュー一覧をユーザが視認可能な表示形態にて表示する様子を示す図である。
図10の左側のプレビュー画面の左端部には、複数の簡易ボタンBT1が被写体に対して透過的な表示形態にて表示されている。図10では一例として5個の簡易ボタンBT1が表示されている。各々の簡易ボタンは、携帯端末1Bのカメラ機能の撮影動作時における設定変更項目の内容を簡易的に示すために表示されている。更に、一つの簡易ボタンに対し、その簡易ボタンに予め割り当てられた同一グループに纏められた複数の設定変更項目が対応付けられている。
一方、図10の左側のプレビュー画面の右端部には、複数のボタンBT2が被写体に対して透過的な表示形態にて表示されている。図10では一例として3個のボタンBT2が表示されている。各々のボタンは、携帯端末1Bのカメラ機能の撮影動作に対する動作実行項目であり、それぞれ図10の左側のプレビュー画面の右端部の上から静止画の撮影用のボタン、動画の撮影用のボタン、撮影済みの静止画若しくは動作の閲覧用のボタンである。
指FGが設定変更項目を示す簡易ボタンのいずれかに近接した場合、携帯端末1Bは、図10の右側のプレビュー画面に示すように、指FGに対応する近接対応位置に表示されている簡易ボタンに対応する複数の設定変更項目GDを、ユーザが視認可能な表示形態にて表示する。これにより、携帯端末1Bは、指FGの近接が検知されていないプレビュー画面では被写体に対して簡易的且つ透過的な表示形態で表示されていた簡易ボタンに対して指FGが近接したことで、当該簡易ボタンの関連情報又は支援情報としての複数の設定変更項目の各ボタンをユーザが視認可能な表示形態で表示することで、ユーザの操作性を向上させることができる。
また、カメラ画面合成部59は、カメラプレビュー画面生成部58から出力されたプレビュー画面の画面データと表示可変ボタンイメージ生成部57から出力された動作実行項目のボタンイメージデータとを合成して画面表示部50の画面DPに表示させる。
更に、カメラ画面合成部59は、近接対応位置に表示されている近接対応ボタンに対する指FGの近接が検知されてから一定時間以上経過した旨の情報を、携帯端末1Bのタイマ(不図示)から取得した場合に、表示可変ボタンイメージ生成部57から出力された消去指示を基に、プレビュー画面の画面データから指FGの近接が検知された近接対応位置に表示されている動作実行項目を除く他の設定変更項目の簡易ボタン及び動作実行項目を消去した画面を、画面表示部50の画面DPに表示させる(図11参照)。
図11は、動作実行項目のボタンとして動画撮影ボタンに所定時間以上、指FGが近接した場合の様子を示す図である。なお、図11の説明では、図10の内容と同一の内容の説明は省略し、異なる内容について説明する。
指FGが動作実行項目を示すボタンBT2のうち中央のボタン(動画の撮影用のボタン)に一定時間以上近接した場合、携帯端末1Bは、図11の右側のプレビュー画面に示すように、指FGに対応する近接対応位置に表示されているボタン(動画の撮影用のボタン)の表示形態をユーザが視認可能な表示形態に変更すると共に、当該ボタン(動画の撮影用のボタン)を除く他の全てのボタンを消去する。即ち、ユーザが動画の撮影動作となる被写体又は撮影条件となる設定変更を行った後等で動画の撮影用のボタンを一定時間以上近接させている場合には、ユーザは動画の撮影を行いたいと考えられる。このため、携帯端末1Bは、動画の撮影動作時に不要なボタンを全て消去することで、ユーザの被写体の動作実行項目に対する動作の実行時における視認性及び操作性を向上させることができる。
(第3の実施形態の携帯端末1Bの動作手順)
図12は、第3の実施形態の携帯端末1Bの動作手順を説明するフローチャートである。図12の説明において、必要に応じて、図10又は図11の内容を参照する。
図12において、カメラ画面合成部59は、カメラアプリ40Bのプレビュー画面において、カメラアプリ40Bにおいて同一のグループとして纏められた複数の設定変更項目を示す単一の簡易ボタンを複数個、画面表示部50の画面DPの左端部に表示させ、更に、カメラアプリ40Bにおける動作実行項目のボタンを画面表示部50の画面DPの右端部に表示させている(S31、図10又は図11参照)。なお、複数の設定変更項目を示す単一の簡易ボタン及び動作実行項目のボタンの各表示位置は、カメラアプリ40Bにおいて予め定められているとする。
携帯端末1Bは、近接検知部10がタッチパネル15に対する指FGの近接を検知するまで待機する(S32)。近接検知部10がタッチパネル15に対する指FGの近接を検知した場合には(S32、YES)、近接座標評価部11は、近接検知部10から出力された近接通知を基に、指FGのタッチパネル15に対する近接座標(x、y、z)を算出する。近接座標評価部11は、算出された近接座標(x、y、z)の情報をボタン位置/指位置判定部30Bに出力する。
ボタン位置/指位置判定部30Bは、近接座標評価部11から出力された近接座標(x、y、z)の情報と近接対応ボタンを判定する旨の判定指示とをカメラアプリ40Bに出力する。更に、ボタン位置/指位置判定部30Bは、近接が検知された指FGに対する近接対応位置に表示されているボタンが動作実行項目であるか設定変更項目であるかを判定する旨の判定指示をボタン実行内容判定部56に出力する。
カメラアプリ40Bは、ボタン位置/指位置判定部30Bから出力された近接座標(x、y、z)の情報と近接座標(x、y、z)に対応する近接対応位置に表示されているボタンを判定する旨の判定指示と表示ボタン位置情報45とを基に、近接座標(x、y、z)のうちx座標値及びy座標値、即ち近接が検知された指FGの近接対応位置に表示されている近接対応ボタンを判定する。カメラアプリ40Bは、ボタン実行内容情報46を基に、表示ボタン位置情報45を用いて判定した近接対応ボタンの実行内容を判定する。カメラアプリ40Bは、ボタン実行内容情報46を用いて判定した近接対応ボタンの実行内容の情報をボタン実行内容判定部56に出力する。
ボタン実行内容判定部56は、ボタン位置/指位置判定部30Bから出力された判定指示とカメラアプリ40Bから出力された近接対応ボタンの実行内容の情報とを基に、近接が検知された指FGに対応する近接対応位置に表示されている近接対応ボタンが動作実行項目であるか設定変更項目であるかを判定する(S33)。
ボタン実行内容判定部56は、近接対応ボタンが設定変更項目であると判定した場合には(S33、設定変更項目)、プレビュー画面において被写体に対して透過的に表示されている設定変更項目の簡易ボタンに関連する関連情報又は支援情報としての具体的な設定変更内容をユーザに対して視認可能な表示形態にて表示する旨の情報と視認可能な表示形態の設定変更項目のボタンイメージデータを生成する旨の生成指示とを表示可変ボタンイメージ生成部57に出力する。
表示可変ボタンイメージ生成部57は、ボタン実行内容判定部56から出力された情報と生成指示とを基に、プレビュー画面において近接が検知された指FGに対応する近接対応位置に表示されている設定変更項目の簡易ボタンの表示形態を、初期状態の透過的な表示形態からユーザが視認可能な表示形態に可変したボタンイメージデータを生成する。表示可変ボタンイメージ生成部57は、設定変更項目のボタンイメージデータをカメラ画面合成部59に出力する。
カメラ画面合成部59は、カメラプレビュー画面生成部58から出力されたプレビュー画面の画面データと表示可変ボタンイメージ生成部57から出力された設定変更項目のボタンイメージデータとを合成し、合成後の画面データを画面表示部50の画面DPに表示させる(S34、図10参照)。
ステップS34の後、携帯端末1Bは、タッチ検知部20がタッチパネル15に対する指FGのタッチ(接触)を検知するまで待機する(S35)。タッチ検知部20がタッチパネル15に対する指FGのタッチ(接触)を検知した場合には(S35、YES)、ボタン位置/指位置判定部30Bは、タッチ座標評価部21から出力されたタッチ座標(x、y)の情報をカメラアプリ40Bに出力する。カメラアプリ40Bは、ボタン位置/指位置判定部30Bから出力されたタッチ座標(x、y)の情報に該当するプレビュー画面上の項目に応じた動作又は設定変更の内容を実行する(S36)。
一方、ボタン実行内容判定部56は、近接対応ボタンが動作実行項目であると判定した場合には(S33、動作実行項目)、プレビュー画面において近接対応ボタンをユーザに対して視認可能な表示形態にて表示する旨の情報と同プレビュー画面において被写体に対して透過的に表示されている全ての項目のうち近接対応位置に表示されている動作実行項目(例えばボタン)を除く他のボタン(設定変更項目の簡易ボタンと動作実行項目とを含む)を画面から消去する旨の消去指示を表示可変ボタンイメージ生成部57に出力する。
表示可変ボタンイメージ生成部57は、ボタン実行内容判定部56から出力された情報と消去指示とを基に、プレビュー画面において近接が検知された指FGに対応する近接対応位置に表示されている動作実行項目の表示形態を、初期状態の透過的な表示形態からユーザが視認可能な表示形態に可変したボタンイメージデータを生成すると共に、残りの動作実行項目及び設定変更項目を消去する旨の情報をカメラ画面合成部59に出力する。
カメラ画面合成部59は、カメラプレビュー画面生成部58から出力されたプレビュー画面の画面データと表示可変ボタンイメージ生成部57から出力された動作実行項目のボタンイメージデータとを合成して画面表示部50の画面DPに表示させる(S37)。
更に、カメラ画面合成部59は、近接対応位置に表示されている近接対応ボタンに対する指FGの近接が検知されてから一定時間以上経過した旨の情報を、携帯端末1Bのタイマ(不図示)から取得した場合に(S38、YES)、表示可変ボタンイメージ生成部57から出力された消去指示を基に、プレビュー画面の画面データから指FGの近接が検知された近接対応位置に表示されている動作実行項目を除く他の設定変更項目の簡易ボタン及び動作実行項目を消去した画面を、画面表示部50の画面DPに表示させる(S39、図11参照)。ステップS39の後、携帯端末1Bの動作はステップS35に戻るので、以降の動作の説明は省略する。
以上により、本実施形態の携帯端末1Bは、カメラ機能のアプリケーション(カメラアプリ40B)のプレビュー画面において透過的に表示されている、それぞれ同一のグループとして予め設定された複数の設定変更項目を示す簡易ボタンに対して指FGが近接した場合に、各簡易ボタンに対応する複数の設定変更項目を透過的な表示形態からユーザが視認可能な表示形態にて表示させる(図10参照)。これにより、携帯端末1Bは、指FGの近接が検知された簡易ボタン(近接対応ボタン)の関連情報又は支援情報として、当該近接対応ボタンが示す複数の設定変更項目の内容を、ユーザが視認可能な表示形態で表示することで、ユーザの操作性を向上させることができる。
更に、携帯端末1Bは、カメラ機能のアプリケーション(カメラアプリ40B)のプレビュー画面において透過的に表示されている各動作実行項目を示すボタンに対して指FGが近接した場合に、近接対応ボタンを透過的な表示形態からユーザが視認可能な表示形態にて表示させ、更に、同一の近接対応ボタンに対する指FG近接が一定時間以上継続した場合に残りの項目(動作実行項目、設定変更項目の簡易ボタン)の各ボタンの表示を消去する。これにより、携帯端末1Bは、例えば指FGが動画の撮影用のボタンを一定時間以上近接させた場合に、動画の撮影時に不要な残りのボタンを全て消去することで、ユーザの被写体の動作実行項目に対する動作の実行時における視認性及び操作性を向上させることができる。
(第4の実施形態)
第4の実施形態では、携帯端末1Cは、一定時間以上ユーザからの入力操作が行われなくなった場合に起動するセキュリティロック(例えば画面ロック)の機能において表示されるセキュリティロック画面において、ユーザがセキュリティロックを解除するための解除操作を支援するための関連情報又は支援情報として、当該解除操作の軌跡のイメージと当該軌跡のイメージにおける近接若しくは接触の検知領域とを識別可能な表示形態で表示させる(図15参照)。
図13は、第4の実施形態の携帯端末1Cの機能的構成を示すブロック図である。図1に示す携帯端末1と同一の構成要素については同一の符号を付すことで説明を省略し、異なる内容について説明する。
図13に示す携帯端末1Cは、近接検知部10、近接座標評価部11、タッチ検知部20、タッチ座標評価部21、軌跡検知位置/指位置判定部32、セキュリティロックアプリ40C、画面表示部50、軌跡保持部60、軌跡イメージ生成部61、セキュリティロック画面生成部62及びセキュリティロック画面合成部63を含む。軌跡検知位置/指位置判定部32は、検知領域情報33を保持している。セキュリティロックアプリ40Cは、軌跡一致判定部47を含む構成であり、更に解除軌跡情報48を保持している。
軌跡検知位置/指位置判定部32、セキュリティロックアプリ40C、軌跡一致判定部47、軌跡イメージ生成部61、セキュリティロック画面生成部62及びセキュリティロック画面合成部63の各部は、携帯端末1Cに内蔵されるプロセッサ(不図示)が本発明に係るプログラムを読み込んで実行することによって動作可能となる。
軌跡位置判定部としての軌跡検知位置/指位置判定部32は、近接座標評価部11から出力された近接座標(x、y、z)又はタッチ座標評価部21から出力されたタッチ座標(x、y)の情報と検知領域情報33とを基に、セキュリティロック画面に対する指FGの解除操作の軌跡位置と指FGが通過している検知領域を判定する。軌跡検知位置/指位置判定部32は、判定した指FGの解除操作の軌跡位置の情報をセキュリティロックアプリ40Cに出力し、更に、判定した指FGの解除操作の軌跡位置と指FGが通過している検知領域の情報とを対応付けて軌跡保持部60に一時的に記憶する。
検知領域情報33は、セキュリティロック画面に対する指FGの解除操作の軌跡位置と予め規定されている検知領域との関係を示す情報である。検知領域情報33について、図14(A)〜(C)を参照して説明する。図14(A)は、セキュリティロック画面とタッチパネル15に設けられた9個の検知点とを示す図である。図14(B)は、タッチ検知領域、低ホバー検知領域及び高ホバー検知領域の概念図である。図14(C)は、各々の検知領域に設けられた検知点と指FGの軌跡とを示す図である。
携帯端末1Cのタッチパネル15では、図14(A)に示すように、画面DPに表示されたセキュリティロック画面において、例えば各検知点の間隔が規定値であって全て等しい合計9個の検知点DT1〜DT9が設けられている。なお、隣接する検知点同士の縦方向の間隔又は横方向における間隔は常に同一値となるように検知点の位置が定められなくても良く、例えば隣接する検知点同士の縦方向の間隔と横方向の間隔とが異なる値でも良い。
更に、携帯端末1Cのタッチパネル15では、図14(A)に示す合計9個の検知点DT1〜DT9が、図14(B)に示すタッチ検知領域(逆ハッチング部参照)と、第1空間近接検知領域としての低ホバー検知領域(ドットパターン部参照)と、第2空間近接検知領域としての高ホバー検知領域(ハッチング部参照)とにおいてそれぞれ設けられ、合計27個の検知点DT1〜DT27が設けられている(図14(C)参照)。
即ち、タッチ検知領域には合計9個の検知点DT1〜DT9が設けられ、低ホバー検知領域には合計9個の検知点DT10〜DT18が設けられ、高ホバー検知領域には合計9個の検知点DT19〜DT27が設けられている。軌跡検知位置/指位置判定部32は、解除操作中の指FGがこれらの合計27個の検知点DT1〜DT27のうちいずれの検知点を通過したかを判定する。なお、タッチ検知領域はz軸方向の高さが0(ゼロ)の位置に設けられ、低ホバー検知領域はz軸方向の高さが0(ゼロ)〜z1の間に設けられ、高ホバー検知領域はz軸方向の高さがz1〜z2の間に設けられている。
更に、軌跡検知位置/指位置判定部32は、軌跡保持部60を参照して指FGの解除操作の軌跡(例えば直線又は曲線)と指FGの解除操作の軌跡が通過している検知領域とを含む軌跡イメージを生成する旨の情報を軌跡イメージ生成部61に出力する。
動作実行部としてのセキュリティロックアプリ40Cは、携帯端末1Cに内蔵されるROMに予め記憶され、携帯端末1Cに対して一定時間以上ユーザからの入力操作が行われなくなった場合に携帯端末1Cのユーザ使用をロックするためのアプリケーションである。セキュリティロックアプリ40Cは、一定時間以上ユーザからの入力操作が行われなくなったことによる携帯端末1Cのサスペンド状態に対して何かしらの入力操作(例えば電源ボタン又は所定のホームボタンの押下)を基に、セキュリティロック画面生成部62にセキュリティロック画面を生成させ、画面表示部50の画面DPに表示されたセキュリティロック画面に対するユーザからの解除操作を受け付ける。
軌跡一致判定部47は、セキュリティロックアプリ40Cが軌跡検知位置/指位置判定部32から出力された軌跡位置の情報を取得し、指FGがホバーアウトした旨の情報を軌跡検知位置/指位置判定部32から出力された場合に、ホバーアウトまでに軌跡検知位置/指位置判定部32から出力された軌跡位置の情報と解除軌跡情報48とを比較する。
更に、軌跡一致判定部47は、比較結果の情報と軌跡検知位置/指位置判定部32が軌跡保持部60に記憶した指FGの解除操作の軌跡位置と指FGが通過している検知領域の情報とを対応付けて軌跡保持部60に一時的に記憶する。軌跡一致判定部47は、ホバーアウトまでに軌跡検知位置/指位置判定部32から出力された軌跡位置の情報と解除軌跡情報48とが一致した場合に、セキュリティロックを解除する旨の情報をセキュリティロックアプリ40Cに出力する。
解除軌跡情報48は、セキュリティロック画面が表示されている場合に、セキュリティロック画面を解除して携帯端末1Cに対するユーザの入力操作を可能とするために予め登録された解除操作の軌跡情報である。解除軌跡情報48は、ユーザの設定変更操作によって適宜、変更されても良い。
軌跡保持部60は、携帯端末1Cに内蔵されるRAMを用いて構成され、軌跡検知位置/指位置判定部32から出力された指FGの解除操作の軌跡位置と指FGが通過している検知領域の情報とを対応付けて一時的に記憶する。また、軌跡保持部60は、軌跡一致判定部47の比較結果と指FGの解除操作の軌跡位置と指FGが通過している検知領域の情報とを対応付けて一時的に記憶する。
軌跡イメージ生成部61は、軌跡検知位置/指位置判定部32から出力された情報を基に、軌跡保持部60を参照して、指FGの解除操作の軌跡(例えば直線又は曲線)と指FGの解除操作の軌跡が通過している検知領域とを含む軌跡イメージデータを生成してセキュリティロック画面合成部63に出力する。軌跡イメージデータについては、図15を参照して後述する。
セキュリティロック画面生成部62は、セキュリティロックアプリ40Cから出力されたセキュリティロック画面の生成指示を基に、セキュリティロック画面の画面データを生成する。セキュリティロック画面生成部62は、生成された画面データをセキュリティロック画面合成部63に出力する。
表示制御部としてのセキュリティロック画面合成部63は、セキュリティロック画面生成部62から出力されたセキュリティロック画面の画面データと軌跡イメージ生成部61から出力された軌跡イメージデータとを合成し、合成後の画面データを画面表示部50の画面DPに表示させる(図15参照)。セキュリティロック画面合成部63は、軌跡イメージ生成部61から出力された軌跡イメージデータを、指FGの解除操作の開始時からの軌跡と軌跡位置(検知領域)とを明示的に画面DPに表示させる。
次に、本実施形態の指FGの解除操作時の軌跡位置と軌跡が通過している検知領域(軌跡位置の高さ)とを示す軌跡イメージデータについて、図15を参照して説明する。図15は、セキュリティロック画面に対する指FGの解除操作の軌跡の表示形態と軌跡位置(高さ)の表示形態とを示す説明図である。図15では、解除操作が入力されている状態として、順番に5つの状態A、状態B、状態C、状態D、状態Eが示されている。
状態Aは、指FGの解除操作が未だ入力されていない状態である。状態Bは、先ず指FGがタッチ検知領域の検知点DT7(図14(A)参照)にタッチした状態を示す。軌跡イメージ生成部61は、状態Bに対応する軌跡イメージデータとして、指FGの軌跡位置の高さ(検知領域)を示す表示形態(例えば半透明の赤色の円形状:図15では逆ハッチング部参照)のイメージデータを生成する。従って、携帯端末1Cは、状態Bでは、指FGの軌跡位置の高さがタッチ検知領域であることを示すイメージデータとして、半透明の赤色の円形状(図15では逆ハッチング部参照)のイメージデータをセキュリティロック画面に表示させる。
次に、状態Cは、指FGが同タッチ検知領域の位置のままで検知点DT8(図14(A)参照)を通過した状態を示す。軌跡イメージ生成部61は、状態Cに対応する軌跡イメージデータとして、指FGの軌跡位置の高さ(検知領域)を示す表示形態(例えば半透明の赤色の円形状:図15では逆ハッチング部参照)のイメージデータを生成し、更に、指FGの軌跡位置の高さ(検知領域)を示す表示形態と同系色の赤色(図15では逆ハッチング部参照)を用いて指FGの軌跡を示す直線のイメージデータを生成する。従って、携帯端末1Cは、状態Cでは、指FGの軌跡位置の高さがタッチ検知領域であることを示すイメージデータとして、半透明の赤色の円形状の(図15では逆ハッチング部参照)イメージデータをセキュリティロック画面に表示させる。更に、携帯端末1Cは、指FGの軌跡位置の高さ(検知領域)を示す表示形態と同系色の赤色(図15では逆ハッチング部参照)を用いて指FGの軌跡を示す直線のイメージデータをセキュリティロック画面に表示させる。
次に、状態Dは、指FGが低ホバー検知領域の位置で同低ホバー検知領域の中央の検知点を通過する直前の状態を示す。軌跡イメージ生成部61は、状態Dに対応する軌跡イメージデータとして、指FGの軌跡位置の高さ(検知領域)を示す表示形態(例えば半透明の緑色の円形状:図15ではドットパターン部参照)のイメージデータを生成し、更に、指FGの軌跡位置の高さ(検知領域)を示す表示形態と同系色の緑色(図15ではドットパターン部参照)を用いて指FGの軌跡を示す直線のイメージデータを生成する。従って、携帯端末1Cは、状態Dでは、指FGの軌跡位置の高さが低ホバー検知領域であることを示すイメージデータとして、半透明の緑色の円形状(図15ではドットパターン部参照)のイメージデータをセキュリティロック画面に表示させる。更に、携帯端末1Cは、指FGの軌跡位置の高さ(検知領域)を示す表示形態と同系色の緑色(図15ではドットパターン部参照)を用いて指FGの軌跡を示す直線のイメージデータをセキュリティロック画面に表示させる。
最後に、状態Eは、指FGが高ホバー検知領域の位置で同高ホバー検知領域の中央の検知点を通過した直後の状態を示す。軌跡イメージ生成部61は、状態Eに対応する軌跡イメージデータとして、指FGの軌跡位置の高さ(検知領域)を示す表示形態(例えば半透明の黄色の円形状:図15ではハッチング部参照)のイメージデータを生成し、更に、指FGの軌跡位置の高さ(検知領域)を示す表示形態と同系色の黄色(図15ではハッチング部参照)を用いて指FGの軌跡を示す直線のイメージデータを生成する。従って、携帯端末1Cは、状態Eでは、指FGの軌跡位置の高さが高ホバー検知領域であることを示すイメージデータとして、半透明の黄色の円形状(図15ではハッチング部参照)のイメージデータをセキュリティロック画面に表示させる。更に、携帯端末1Cは、指FGの軌跡位置の高さ(検知領域)を示す表示形態と同系色の黄色(図15ではハッチング部参照)を用いて指FGの軌跡を示す直線のイメージデータをセキュリティロック画面に表示させる。
このように、携帯端末1Cは、指FGがセキュリティロック画面に対する解除操作の開始時から終了時までの間、所定の検知点の位置の中で指FGの近接又は接触時に通過した時の位置(近接対応位置又は接触位置)の関連情報又は支援情報として、指FGの軌跡位置の高さ(検知領域)と、指FGの同軌跡位置の高さを通過した軌跡とを例えば同系色又は同系パターンの表示形態として表示する。これにより、携帯端末1Cは、解除操作時に指FGが辿った軌跡(例えば直線又は曲線)と現在又はその直前に軌跡が通過した時の検知領域とを対応付けて簡易的に表示させることができる。従って、携帯端末1Cは、ユーザが頭の中で記憶している解除軌跡情報48と現在実行されている解除操作とをユーザに対して視覚的に比較及び確認させながら、セキュリティロック画面の解除操作を容易に行わせることができる。
(第4の実施形態の携帯端末1Cの動作手順)
図16は、第4の実施形態の携帯端末1Cの動作手順を説明するフローチャートである。図16の説明において、必要に応じて、図14又は図15の内容を参照する。
図16において、セキュリティロック画面合成部63は、セキュリティロック画面生成部62が生成したセキュリティロック画面の画面データを画面表示部50の画面DPに表示させている(S41)。携帯端末1Cは、近接検知部10がタッチパネル15に対する指FGの近接又はタッチ検知部20がタッチパネル15に対する指FGの接触のいずれかを検知するまで待機する(S42)。
近接検知部10がタッチパネル15に対する指FGの近接又はタッチ検知部20がタッチパネル15に対する指FGの接触のいずれかを検知した場合には(S42、YES)、軌跡検知位置/指位置判定部32は、近接座標評価部11から出力された近接座標(x、y、z)又はタッチ座標評価部21から出力されたタッチ座標(x、y)の情報と検知領域情報33とを基に、セキュリティロック画面に対する指FGの解除操作の軌跡位置と指FGが通過している検知領域を判定する。軌跡検知位置/指位置判定部32は、判定した指FGの解除操作の軌跡位置の情報をセキュリティロックアプリ40Cに出力し、更に、判定した指FGの解除操作の軌跡位置と指FGが通過している検知領域の情報とを対応付けて軌跡保持部60に一時的に記憶する。更に、軌跡検知位置/指位置判定部32は、軌跡保持部60を参照して指FGの解除操作の軌跡(例えば直線又は曲線)と指FGの解除操作の軌跡が通過している検知領域とを含む軌跡イメージを生成する旨の情報を軌跡イメージ生成部61に出力する。
軌跡イメージ生成部61は、軌跡検知位置/指位置判定部32から出力された情報を基に、軌跡保持部60を参照して、指FGの解除操作の軌跡(例えば直線又は曲線)と指FGの解除操作の軌跡が通過している検知領域とを含む軌跡イメージデータを生成してセキュリティロック画面合成部63に出力する。
セキュリティロック画面合成部63は、セキュリティロック画面生成部62から出力されたセキュリティロック画面の画面データと軌跡イメージ生成部61から出力された軌跡イメージデータとを合成し、合成後の画面データを画面表示部50の画面DPに表示させる(図15参照)。即ち、セキュリティロック画面合成部63は、指FGの位置(高さ)に応じて、指FGの解除操作時の軌跡位置と軌跡が通過している検知領域(軌跡位置の高さ)とを示す軌跡イメージデータをセキュリティロック画面に表示させる(S43、図15の状態B参照)。
ステップS43の後、ホバー操作中又はタッチ操作中の指FGの移動(ホバースライド操作又はタッチスライド操作)があった場合には(S44、YES)、セキュリティロック画面合成部63は、ステップS43と同様に、指FGの移動(ホバースライド操作又はタッチスライド操作)に応じて、指FGの解除操作時の軌跡位置と軌跡が通過している検知領域(軌跡位置の高さ)とを示す軌跡イメージデータをセキュリティロック画面に表示させる(S45、図15の状態C、状態D、状態E参照)。
ステップS45の後、指FGがホバーアウトしていない場合には(S46、NO)、携帯端末1Cの動作はステップS44まで戻る。一方、ステップS45の後、指FGがホバーアウトした場合には(S46、YES)、軌跡一致判定部47は、ホバーアウトまでに検知された指FGの解除操作の軌跡と解除軌跡情報48とを比較する(S47)。
ホバーアウトまでに検知された指FGの解除操作の軌跡と解除軌跡情報48とが一致した場合には(S47、YES)、軌跡一致判定部47は、セキュリティロックを解除する旨の情報をセキュリティロックアプリ40Cに出力する。セキュリティロックアプリ40Cは、軌跡一致判定部47から出力された情報を基に、画面表示部50の画面DPに表示されているセキュリティロック画面を解除し(S49)、ユーザからの携帯端末1Cに対する入力操作を受け付け可能な状態に移行させる。
一方、ホバーアウトまでに検知された指FGの解除操作の軌跡と解除軌跡情報48とが一致しない場合には(S47、NO)、軌跡一致判定部47は、ステップS47の比較時点から一定時間が経過した後に、指FGの解除操作の軌跡を消去する(S50)。ステップS50の後、携帯端末1Cの動作はステップS41に戻る。
以上により、本実施形態の携帯端末1Cは、指FGがホバーアウトしない条件下においてセキュリティロック画面に対する解除操作の開始時から終了時までの間、所定の検知点の位置の中で指FGの近接又は接触時に通過した時の位置の関連情報又は支援情報として、指FGの軌跡位置の高さ(検知領域)と、指FGの同軌跡位置の高さを通過した軌跡とを例えば同系色又は同系パターンの表示形態として表示する。
これにより、携帯端末1Cは、解除操作時に指FGが辿った軌跡(例えば直線又は曲線)と現在又はその直前に軌跡が通過した時の検知領域とを対応付けて簡易的に表示させることができる。従って、携帯端末1Cは、頭の中で記憶している解除軌跡情報48と現在実行されている解除操作とをユーザに視覚的に比較及び確認させながら、セキュリティロック画面の解除操作を容易に行わせることができる。
以上、図面を参照して各種の実施形態について説明したが、本発明はかかる例に限定されないことは言うまでもない。当業者であれば、特許請求の範囲に記載された範疇内において、各種実施の形態の変更例または修正例、更に各種実施の形態の組み合わせ例に想到し得ることは明らかであり、それらについても当然に本発明の技術的範囲に属するものと了解される。
なお、第4の実施形態では、軌跡検知位置/指位置判定部32は、図14(B)に示す3つの検知領域の層(タッチ検知領域、低ホバー検知領域、高ホバー検知領域)毎に規定した各9個の検知点をそれぞれz軸方向において異なる検知点として、指FGの軌跡の一致判定に用いると説明した。また、軌跡検知位置/指位置判定部32は、3つの検知領域の層のうち例えば2つの層(低ホバー検知領域と高ホバー検知領域)又は全ての層のz軸方向における合計2個又は3個の各検知点をそれぞれ1個の検知点とみなして、指FGの軌跡の一致判定の動作を簡易化させても良い(図17参照)。
図17は、タッチ検知領域、低ホバー検知領域及び高ホバー検知領域のz軸方向における合計2個又は3個の各検知点をそれぞれ1個の検知点とみなした場合に入力された指FGの軌跡の画面表示例の説明図である。図17(A)は、各々の検知領域に設けられた検知点と指の軌跡とを示す図である。図17(B)は、全ての検知領域のz軸方向における3個の検知点を1個の検知点とみなした場合の指FGの軌跡(図17(A)参照)の画面表示例である。図17(C)は、低ホバー検知領域及び高ホバー検知領域のz軸方向における2個の検知点を1個の検知点とみなした場合の指FGの軌跡(図17(A)参照)の画面表示例である。図17(D)は、タッチ検知領域における指FGの軌跡(図17(A)参照)の画面表示例である。
図17(B)では、軌跡検知位置/指位置判定部32は、図17(A)に示す3つの検知領域の層(タッチ検知領域、低ホバー検知領域、高ホバー検知領域)の各9個の検知点のうち、x座標値及びy座標値が同一であってz座標値が異なる3個の検知点を1個の検知点とみなす。例えば、図17(B)では、検知点DT1,DT10,DT19が同一の検知点(例えばDT1)とみなされ、図17(A)に示す指FGの軌跡において検知点DT7,DT8,DT5,DT6,DT3を通過した様子が表示されている。
図17(C)では、軌跡検知位置/指位置判定部32は、図17(A)に示す2つの検知領域の層(低ホバー検知領域、高ホバー検知領域)の各9個の検知点のうち、x座標値及びy座標値が同一であってz座標値が異なる2個の検知点を1個の検知点とみなす。例えば、図17(C)では、検知点DT10,DT19が同一の検知点とみなされ、図17(A)に示す指FGの軌跡において検知点DT16,DT17,DT14,DT15を通過した様子が表示されている。
更に、軌跡検知位置/指位置判定部32は、図17(A)に示すタッチ検知領域における合計9個の検知点と、同図に示す低ホバー検知領域及び高ホバー検知領域における合計18個の検知点のうちz軸方向の検知点を同一の検知点とみなした結果としての合計9個の検知点とを、異なる検知点として識別する。例えば、図17(D)では、図17(A)に示す指FGの軌跡のうち、図17(C)に示す指FGの軌跡の画面表示例に続いて、タッチ検知領域における検知点DT6及びDT3を通過した様子が表示されている。これにより、携帯端末1Cは、ユーザのホバー操作又はホバースライド操作がタッチ操作又はタッチスライド操作に比べて安定的に行うことが困難である場合を考慮して、ユーザが行うことができるホバー操作又はホバースライド操作の精度又は嗜好に応じて、セキュリティロック画面に対するロック解除の操作を簡素化することができる。