JP2022122637A - 表示装置、表示方法、及び表示プログラム - Google Patents

Abstract

【課題】表示画面に対するユーザーの非接触による入力操作を受け付ける表示装置においてユーザーのジェスチャー操作による誤入力を防止することが可能な表示装置、表示方法、及び表示プログラムを提供する。
【解決手段】表示装置は、ジェスチャー操作を含む入力操作を検出する入力操作検出部と、第１ジェスチャー操作を検出した場合に入力操作用アイコンを第１表示形態で表示させ、第２ジェスチャー操作を検出した場合に前記入力操作用アイコンを第２表示形態で表示させる表示処理部と、前記第１ジェスチャー操作を検出した場合に移動操作を受け付け、前記第２ジェスチャー操作を検出した場合に選択操作を受け付ける受付処理部と、第３ジェスチャー操作を検出した場合に、前記入力操作用アイコンの表示形態を、前記第１表示形態及び前記第２表示形態の間で段階的又は連続的に変化させる変更処理部と、を備える。
【選択図】図１

Description

本発明は、表示画面に対するユーザーの非接触による入力操作を受け付ける表示装置、表示方法、及び表示プログラムに関する。

従来、表示パネルの表示画面に対して非接触で指示操作などの入力操作（画面操作）を行なうことが可能な表示装置が知られている。例えば、特許文献１には、ユーザーが機器に向かって手を一本指の形状にすると、ディスプレイ上に数字「１」のアイコンが表示されるとともに、１番目のメニューであるテレビの表示が強調表示され、手を二本指の形状にすると、ディスプレイ上に数字「２」のアイコンが表示されるとともに、２番目のメニューであるネットワークの表示が強調表示され、一定時間同じ手の形状を維持することで、１番目のメニュー又は２番目のメニューが選択されるインターフェース装置が開示されている。

特開平９－１８５４５６号公報

ここで、前記システムでは、ユーザーが表示画面に対して非接触で手により入力操作を行う場合、ユーザーが手で第１ジェスチャー操作（手を一本指の形状とする）を行った場合にディスプレイ上に数字「１」のアイコンが表示され、第２ジェスチャー操作（手を二本指の形状にする）を行った場合にディスプレイ上に数字「２」のアイコンが表示され、ユーザーがいずれのジェスチャー操作を行っているのかを認識することができる。

しかしながら、第１ジェスチャー操作と第２ジェスチャー操作の中間状態など、曖昧なジェスチャー状態においては、ユーザーが現在の自分のジェスチャー状態を認識することができなかった。例えば、ユーザーが第１ジェスチャー操作と第２ジェスチャー操作の中間のジェスチャー操作の状態から、手の形状を徐々に変化させて、第１ジェスチャー操作又は第２ジェスチャー操作の状態に変化させる操作を行う場合を想定する。このような場合に、中間のジェスチャー操作の状態において、ユーザーが現在のジェスチャー操作の状態が第１ジェスチャー操作又は第２ジェスチャー操作のいずれにどの程度近い状態であるかを認識することができず、またこのことにより、中間のジェスチャー操作の状態から第１ジェスチャー操作又は第２ジェスチャー操作の状態に変化するタイミングを把握することができなかった。このため、ユーザーの意図するタイミングよりも早い又は遅いタイミングで第１ジェスチャー操作又は第２ジェスチャー操作が行われてしまうなど、ユーザーの意図に反する誤入力が行われる問題があった。

本発明の目的は、表示画面に対するユーザーの非接触による入力操作を受け付ける表示装置においてユーザーのジェスチャー操作による誤入力を防止することが可能な表示装置、表示方法、及び表示プログラムを提供することにある。

本発明の一の態様に係る表示装置は、表示画面に対するユーザーの非接触による入力操作を受け付ける表示装置であって、前記ユーザーの所定のジェスチャー操作を含む入力操作を検出する入力操作検出部と、前記入力操作検出部が前記ユーザーの第１ジェスチャー操作を検出した場合に、入力操作用アイコンを第１表示形態で前記表示画面に表示させ、前記入力操作検出部が前記ユーザーの第２ジェスチャー操作を検出した場合に、前記入力操作用アイコンを第２表示形態で前記表示画面に表示させる表示処理部と、前記入力操作検出部が前記第１ジェスチャー操作を検出した場合に、前記入力操作用アイコンを前記第１ジェスチャー操作に応じて移動させる移動操作を受け付け、前記入力操作検出部が前記第２ジェスチャー操作を検出した場合に、前記入力操作用アイコンにより選択対象を選択させる選択操作を受け付ける受付処理部と、前記入力操作検出部が前記ユーザーの第３ジェスチャー操作を検出した場合に、前記入力操作用アイコンの表示形態を、前記第１表示形態及び前記第２表示形態の間で段階的又は連続的に変化させる変更処理部と、を備える装置である。

本発明の他の態様に係る表示方法は、表示画面に対するユーザーの非接触による入力操作を受け付ける表示方法であって、一又は複数のプロセッサーが、前記ユーザーの所定のジェスチャー操作を含む入力操作を検出する入力操作検出ステップと、前記ユーザーの第１ジェスチャー操作を検出した場合に、入力操作用アイコンを第１表示形態で前記表示画面に表示させ、前記ユーザーの第２ジェスチャー操作を検出した場合に、前記入力操作用アイコンを第２表示形態で前記表示画面に表示させる表示ステップと、前記第１ジェスチャー操作を検出した場合に、前記入力操作用アイコンを前記第１ジェスチャー操作に応じて移動させる移動操作を受け付け、前記第２ジェスチャー操作を検出した場合に、前記入力操作用アイコンにより選択対象を選択させる選択操作を受け付ける受付ステップと、前記ユーザーの第３ジェスチャー操作を検出した場合に、前記入力操作用アイコンの表示形態を、前記第１表示形態及び前記第２表示形態の間で段階的又は連続的に変化させる変更ステップと、を実行する方法である。

本発明の他の態様に係る表示プログラムは、表示画面に対するユーザーの非接触による入力操作を受け付ける表示プログラムであって、前記ユーザーの所定のジェスチャー操作を含む入力操作を検出する入力操作検出ステップと、前記ユーザーの第１ジェスチャー操作を検出した場合に、入力操作用アイコンを第１表示形態で前記表示画面に表示させ、前記ユーザーの第２ジェスチャー操作を検出した場合に、前記入力操作用アイコンを第２表示形態で前記表示画面に表示させる表示ステップと、前記第１ジェスチャー操作を検出した場合に、前記入力操作用アイコンを前記第１ジェスチャー操作に応じて移動させる移動操作を受け付け、前記第２ジェスチャー操作を検出した場合に、前記入力操作用アイコンにより選択対象を選択させる選択操作を受け付ける受付ステップと、前記ユーザーの第３ジェスチャー操作を検出した場合に、前記入力操作用アイコンの表示形態を、前記第１表示形態及び前記第２表示形態の間で段階的又は連続的に変化させる変更ステップと、を一又は複数のプロセッサーに実行させるためのプログラムである。

本発明によれば、表示画面に対するユーザーの非接触による入力操作を受け付ける表示装置においてユーザーのジェスチャー操作による誤入力を防止することが可能な表示装置、表示方法、及び表示プログラムを提供することができる。

図１は、本発明の実施形態に係る表示装置の構成を示すブロック図である。 図２は、本発明の実施形態に係る表示装置における仮想操作面の一例を示す模式図である。 図３は、従来の表示装置における入力操作の一例を示す図である。 図４は、従来の表示装置における入力操作の一例を示す図である。 図５は、本発明の実施形態に係る表示装置におけるジェスチャー操作及び入力操作用アイコンの表示形態の変化の様子を示す図である。 図６は、本発明の実施形態に係る表示装置における入力操作の一例を示す図である。 図７は、本発明の実施形態に係る表示装置における入力操作の一例を示す図である。 図８は、本発明の実施形態に係る表示装置で実行される表示制御処理の手順の一例を説明するためのフローチャートである。 図９は、本発明の実施形態に係る表示装置における仮想操作面の設定方法の一例を示す図である。 図１０は、本発明の実施形態に係る表示装置における仮想操作面の設定方法の一例を示す図である。 図１１は、本発明の実施形態に係る表示装置における仮想操作面の設定方法の一例を示す図である。 図１２は、本発明の実施形態に係る表示装置における仮想操作面の設定方法の一例を示す図である。 図１３は、本発明の実施形態に係る表示装置における仮想操作面の設定方法の一例を示す図である。 図１４は、本発明の実施形態に係る表示装置における仮想操作面の設定方法の一例を示す図である。 図１５は、本発明の実施形態に係る表示装置における仮想操作面の設定方法の一例を示す図である。 図１６は、本発明の実施形態に係る表示装置における仮想操作面の設定方法の一例を示す図である。 図１７は、本発明の実施形態に係る表示装置における仮想操作面の設定方法の一例を示す図である。

以下、添付図面を参照しながら、本発明の実施形態について説明する。なお、以下の実施形態は、本発明を具体化した一例であって、本発明の技術的範囲を限定する性格を有さない。

図１に示すように、本発明の実施形態に係る表示装置１は、制御部１１と、記憶部１２と、表示パネル１３と、操作部１４と、モーションセンサ１５とを備えている。図２には、表示装置１の模式図を示している。モーションセンサ１５は、表示パネル１３の上部に設置され、ユーザーの入力操作を検出する。

表示装置１は、表示画面１３Ａに対するユーザーの非接触による入力操作を受け付ける。例えば、表示装置１は、仮想操作面Ｒ２においてユーザーの前記入力操作を検出すると、表示画面１３Ａに対するユーザーの前記入力操作に応じた入力処理を実行する。例えば、ユーザーが仮想操作面Ｒ２の所定の位置をタッチ操作した場合に、表示装置１は、仮想操作面Ｒ２におけるタッチ位置に対応する表示画面１３Ａ上の位置を検出してタッチ入力を受け付ける。以下、表示装置１の具体的構成について説明する。

モーションセンサ１５は、例えば２個のカメラと３個の赤外線ＬＥＤとを備え、所定の検知範囲においてユーザーの前記入力操作を検知する。モーションセンサ１５は、検知情報を制御部１１に出力する。前記検知情報には、モーションセンサ１５を基準とした検出対象物（例えばユーザーの手、指先、スタイラスペン、支持棒など）の位置座標（Ｘ座標、Ｙ座標、Ｚ座標）が含まれる。モーションセンサ１５は、例えばユーザーの手（右手ＲＨ、左手ＬＨ）の甲（掌）、指の関節、手指の骨格、角度、位置などを検知することが可能である。モーションセンサ１５は、周知の技術を適用することができる。

表示パネル１３は、画像を表示するディスプレイであり、例えば液晶ディスプレイである。操作部１４は、マウス、キーボードなどの操作機器である。なお、操作部１４は、タッチパネルで構成されてもよい。

記憶部１２は、各種の情報を記憶するＨＤＤ（Ｈａｒｄ Ｄｉｓｋ Ｄｒｉｖｅ）又はＳＳＤ（Ｓｏｌｉｄ Ｓｔａｔｅ Ｄｒｉｖｅ）などの不揮発性の記憶部である。具体的には、記憶部１２には、操作領域情報Ｄ１、仮想操作面情報Ｄ２などのデータが記憶される。

操作領域情報Ｄ１は、表示パネル１３の表示画面１３Ａにおける操作領域Ｒ１を示す情報である。操作領域Ｒ１は、表示画面１３Ａのうちユーザーが仮想操作面Ｒ２を介して入力操作を行うことが可能な領域、すなわちユーザーの入力操作を受け付け可能な領域である。操作領域Ｒ１は、表示画面１３Ａの全領域に設定されてもよいし、表示画面１３Ａの一部の領域に設定されてもよい。例えば表示画面１３Ａの全領域が操作領域Ｒ１に設定される場合、操作領域情報Ｄ１には、操作領域Ｒ１を規定する座標情報として、表示画面１３Ａの四隅の座標Ｃ１１～Ｃ１４（図２参照）の情報が含まれる。操作領域情報Ｄ１は、操作領域Ｒ１が設定又は更新されるごとに記憶部１２に登録される。

仮想操作面情報Ｄ２は、表示画面１３Ａに対するユーザーの前記入力操作を受け付ける仮想操作面Ｒ２の領域を示す情報である。具体的には、仮想操作面Ｒ２は、操作領域Ｒ１に対応しており、仮想操作面Ｒ２を規定する四隅の座標Ｃ２１～Ｃ２４（図２参照）と操作領域Ｒ１を規定する座標Ｃ１１～Ｃ１４とが対応付けられる。仮想操作面情報Ｄ２には、仮想操作面Ｒ２を規定する四隅の座標Ｃ２１～Ｃ２４の情報が含まれる。仮想操作面情報Ｄ２は、仮想操作面Ｒ２が設定又は更新されるごとに記憶部１２に登録される。仮想操作面Ｒ２の大きさ及び位置は、予め設定されてもよいし、ユーザーの操作により設定されてもよい。

また、記憶部１２には、制御部１１に後述の表示制御処理（図８参照）を実行させるための表示制御プログラムなどの制御プログラムが記憶されている。例えば、前記表示制御プログラムは、ＣＤ又はＤＶＤなどのコンピュータ読取可能な記録媒体に非一時的に記録され、表示装置１が備えるＣＤドライブ又はＤＶＤドライブなどの読取装置（不図示）で読み取られて記憶部１２に記憶される。なお、前記表示制御プログラムは、クラウドサーバーから配信されて記憶部１２に記憶されてもよい。

制御部１１は、ＣＰＵ、ＲＯＭ、及びＲＡＭなどの制御機器を有する。前記ＣＰＵは、各種の演算処理を実行するプロセッサーである。前記ＲＯＭは、前記ＣＰＵに各種の演算処理を実行させるためのＢＩＯＳ及びＯＳなどの制御プログラムが予め記憶される不揮発性の記憶部である。前記ＲＡＭは、各種の情報を記憶する揮発性又は不揮発性の記憶部であり、前記ＣＰＵが実行する各種の処理の一時記憶メモリー（作業領域）として使用される。そして、制御部１１は、前記ＲＯＭ又は記憶部１２に予め記憶された各種の制御プログラムを前記ＣＰＵで実行することにより表示装置１を制御する。

ところで、従来の技術では、ユーザーが表示画面１３Ａに対して非接触で手により入力操作を行う場合、ユーザーは手を動かすことにより、表示画面１３Ａに表示されるマウスポインタ（入力操作用アイコンＰ１）を所望の位置に移動させる。また従来の技術は、例えばユーザーが手で第１ジェスチャー操作を行った場合にマウスポインタの移動操作を受け付け、ユーザーが手で第２ジェスチャー操作を行った場合にマウスポインタの選択操作（クリック操作）を受け付ける。この場合において、例えばユーザーが第１ジェスチャー操作を意図しているにもかかわらず、第１ジェスチャー操作の状態が曖昧になるとユーザーの意図に反して第２ジェスチャー操作が受け付けられてしまう問題が生じる。以下、この問題の具体例を説明する。

図３及び図４は、従来の技術により生じる前記問題を説明するための図である。例えば図３に示す商品注文画面に、選択対象の画像として「注文」、「戻る」、「その他」の各選択ボタン画像が表示されている場合に、ユーザーが仮想操作面Ｒ２において右手ＲＨの掌を表示画面１３Ａに翳す操作（第１ジェスチャー操作）をして上下左右方向（Ｘ方向及びＹ方向）に移動させると、表示画面１３Ａ上の入力操作用アイコンＰ１が、当該移動操作に応じて移動する。ユーザーは所望の商品を注文する場合、表示画面１３Ａに表示された「注文」の選択ボタン画像を押下するために、入力操作用アイコンＰ１が「注文」の選択ボタン画像に重なった状態で右手ＲＨを握る操作（第２ジェスチャー操作）を行う。これにより、ユーザーは、所望の商品を選択（注文）する操作を行うことができる。

これに対して、図４に示すように、ユーザーが仮想操作面Ｒ２において右手ＲＨの掌を開いたまま上下左右方向（Ｘ方向及びＹ方向）に移動させている途中に、ユーザーが無意識のうちに右手ＲＨの疲労などにより右手ＲＨの姿勢（第１ジェスチャー操作）が崩れ拳を握る姿勢に近づいてしまう場合がある。この場合に第２ジェスチャー操作が検出されてしまうと、ユーザーが意図しない操作、例えば「戻る」の選択ボタン画像を押下する操作が受け付けられてしまう。このように、従来の技術では、ユーザーのジェスチャー操作による誤入力が生じるおそれがある。これに対して、本実施形態に係る表示装置１では、以下に示すように、ユーザーのジェスチャー操作による誤入力を防止することが可能である。

具体的に、制御部１１は、図１に示すように、操作面設定部１１１、入力操作検出部１１２、表示処理部１１３、受付処理部１１４、入力処理部１１５、算出処理部１１６、及び変更処理部１１７などの各種の処理部を含む。なお、制御部１１は、前記ＣＰＵで前記表示制御プログラム及びに従った各種の処理を実行することによって、操作面設定部１１１、入力操作検出部１１２、表示処理部１１３、受付処理部１１４、入力処理部１１５、算出処理部１１６、及び変更処理部１１７として機能する。また、制御部１１に含まれる一部又は全部の処理部が電子回路で構成されていてもよい。なお、前記表示制御プログラムは、複数のプロセッサーを前記各種の処理部として機能させるためのプログラムであってもよい。

操作面設定部１１１は、ユーザーの入力操作を受け付ける仮想操作面Ｒ２を設定する。例えば図２に示すように、操作面設定部１１１は、表示画面１３ＡからＺ方向に所定距離だけ離れた位置に仮想操作面Ｒ２を設定する。操作面設定部１１１は、予め設定された大きさの仮想操作面Ｒ２を予め設定された位置に設定してもよいし、ユーザーの操作に応じた大きさの仮想操作面Ｒ２をユーザーの指定した位置に設定してもよい。詳細は後述（［仮想操作面設定方法］参照）するが、例えばユーザーは、所定のジェスチャー操作を行うことにより所望の大きさの仮想操作面Ｒ２を所望の位置に設定することができる。

入力操作検出部１１２は、ユーザーの所定のジェスチャー操作を含む入力操作を検出する。具体的には、入力操作検出部１１２は、操作面設定部１１１により設定された仮想操作面Ｒ２においてユーザーの前記入力操作を検出する。例えば、入力操作検出部１１２は、モーションセンサ１５から取得する検知情報に基づいて、仮想操作面Ｒ２における検知座標を検出し、当該検知座標から操作領域Ｒ１における入力座標を算出する。前記入力操作には、所定の入力処理を実行させるジェスチャー操作、表示画面１３Ａに手書き画像を描画させる描画操作などが含まれる。入力操作検出部１１２は、本発明の入力操作検出部の一例である。

ここで、仮想操作面Ｒ２と操作領域Ｒ１の比率を、「Ｗ２：Ｗ１＝Ｈ２：Ｈ１＝ａ：ｂ」とした場合（図２参照）、入力操作検出部１１２は、仮想操作面Ｒ２における検知座標［ｓｘ，ｓｙ］に基づいて、入力座標［ｄｘ、ｄｙ］をｄｘ＝ｓｘ×ｂ／ａ、ｄｙ＝ｓｙ×ｂ／ａの式で算出することができる。なお、表示解像度［ｒｘ，ｒｙ］は、Ｍｉｎ［ｄｘ、ｄｙ］＝［０，０］、Ｍａｘ［ｄｘ、ｄｙ］＝［ｄｘ、ｄｙ］である。

ここでは、入力操作検出部１１２が前記ジェスチャー操作を検出する場合の具体例について説明する。

例えばユーザーは、表示画面１３Ａに表示される入力操作用アイコンＰ１（例えばマウスカーソル画像）を移動させたい場合に、第１ジェスチャー操作を行う。前記第１ジェスチャー操作は、例えば表示画面１３Ａの前でユーザーが右手ＲＨを開く操作（例えば右手ＲＨを「パー」の形にする操作）である。また例えばユーザーは、表示画面１３Ａに表示される入力操作用アイコンＰ１で選択対象を選択（クリック）したい場合に、第２ジェスチャー操作を行う。前記第２ジェスチャー操作は、例えば表示画面１３Ａの前でユーザーの右手ＲＨを握る操作（例えば右手ＲＨを「グー」の形にする操作）である。入力操作検出部１１２は、前記第１ジェスチャー操作及び前記第２ジェスチャー操作を検出する。

なお、第１ジェスチャー操作及び第２ジェスチャー操作の組み合わせ、上述の例に限定されない。例えば、前記第１ジェスチャー操作が、右手ＲＨの人差し指を立てるポーズあり、かつ前記第２ジェスチャー操作が、右手ＲＨを握るポーズであってもよい。また、前記第１ジェスチャー操作が、右手ＲＨを開いて垂直に立てたポーズであり、かつ前記第２ジェスチャー操作が、右手ＲＨを開いて９０度に倒したポーズであってもよい。また、前記第１ジェスチャー操作が、右手ＲＨを開くポーズであり、かつ前記第２ジェスチャー操作が、右手ＲＨの親指を立てるポーズ又は右手ＲＨのＯＫサインのポーズであってもよい。

また、入力操作検出部１１２は、前記第１ジェスチャー操作及び前記第２ジェスチャー操作に近似（類似）する第３ジェスチャー操作を検出する。前記第３ジェスチャー操作は、例えば前記第１ジェスチャー操作から前記第２ジェスチャー操作に変化する途中のジェスチャー操作であり、例えば右手ＲＨの「パー」の形と「グー」の形の間の形のジェスチャーである。例えば、ユーザーが右手ＲＨに力を入れて「パー」の形（第１ジェスチャー操作）にした後に、右手ＲＨの力が弱まると「パー」の形が崩れて「グー」の形（第２ジェスチャー操作）に近づいていく。

入力操作検出部１１２は、ユーザーの手指の骨格、角度、及び位置の少なくともいずれかの手指情報に基づいて、前記第１ジェスチャー操作、前記第２ジェスチャー操作、及び前記第３ジェスチャー操作を検出する。また、入力操作検出部１１２は、前記手指情報に応じた手の握り度合いＧｎ（後述）に基づいて、前記第１ジェスチャー操作、前記第２ジェスチャー操作、及び前記第３ジェスチャー操作を検出する。例えば、入力操作検出部１１２は、前記第１ジェスチャー操作に対応する握り度合いＧｎの第１閾値を予め設定しておき、検出した握り度合いＧｎが前記第１閾値未満である場合に前記第１ジェスチャー操作を検出する。また例えば、入力操作検出部１１２は、前記第２ジェスチャー操作に対応する握り度合いＧｎの第２閾値（但し、第１閾値＜第２閾値とする。）を予め設定しておき、検出した握り度合いＧｎが前記第２閾値以上の場合に前記第２ジェスチャー操作を検出する。また、入力操作検出部１１２は、検出した握り度合いＧｎが前記第１閾値以上かつ第２閾値未満の場合に前記第３ジェスチャー操作を検出する。

なお、記憶部１２には、所定のジェスチャー操作と当該ジェスチャー操作に対応する操作内容とを互いに関連付けた設定情報が予め記憶されている。例えば、前記第１ジェスチャー操作及び前記第３ジェスチャー操作には、入力操作用アイコンＰ１の移動操作が関連付けられ、前記第２ジェスチャー操作には、入力操作用アイコンＰ１による選択操作（クリック操作）が関連付けられている。前記所定のジェスチャー操作には、仮想操作面Ｒ２を設定するためのジェスチャー操作（後述の［仮想操作面設定方法］参照）が含まれてもよい。また、前記所定のジェスチャー操作は、表示装置１を使用するユーザーごとに個別に設定されてもよい。

表示処理部１１３は、各種情報を表示パネル１３の表示画面１３Ａに表示させる。例えば、表示処理部１１３は、入力操作用アイコンＰ１の画像（マウスカーソル画像）、ユーザーが入力操作用アイコンＰ１を操作して選択可能な選択対象の画像（例えば図３の「注文」、「戻る」、「その他」の各選択ボタン画像）などを表示画面１３Ａに表示させる。

また、表示処理部１１３は、入力操作検出部１１２がユーザーの前記第１ジェスチャー操作を検出した場合に、入力操作用アイコンＰ１を第１表示形態で表示画面１３Ａに表示させる。また、表示処理部１１３は、入力操作検出部１１２がユーザーの前記第２ジェスチャー操作を検出した場合に、入力操作用アイコンＰ１を第２表示形態で表示画面１３Ａに表示させる。

例えば図５に示すように、表示処理部１１３は、入力操作検出部１１２がユーザーの前記第１ジェスチャー操作（「パー」のポーズ）を検出した場合に、入力操作用アイコンＰ１を第１のサイズ（大きさ）かつ第１の色（白色）で表示させる。一方、表示処理部１１３は、入力操作検出部１１２がユーザーの前記第２ジェスチャー操作（「グー」のポーズ）を検出した場合に、入力操作用アイコンＰ１を第１のサイズよりも小さい第２のサイズかつ第２の色（黒色）で表示させる。表示処理部１１３は、本発明の表示処理部の一例である。

受付処理部１１４は、表示画面１３Ａに対するユーザーの非接触による入力操作を受け付ける。具体的には、受付処理部１１４は、入力操作検出部１１２が前記第１ジェスチャー操作を検出した場合に、入力操作用アイコンＰ１を前記第１ジェスチャー操作に応じて移動させる移動操作を受け付け、入力操作検出部１１２が前記第２ジェスチャー操作を検出した場合に、入力操作用アイコンＰ１により選択対象を選択させる選択操作を受け付ける。また、受付処理部１１４は、入力操作検出部１１２が前記第３ジェスチャー操作を検出した場合に、入力操作用アイコンＰ１を前記第３ジェスチャー操作に応じて移動させる移動操作を受け付ける。例えば、受付処理部１１４は、記憶部１２に記憶された前記設定情報を参照して、所定のジェスチャー操作に対応する入力操作を受け付ける。受付処理部１１４は、本発明の受付処理部の一例である。

入力処理部１１５は、受付処理部１１４が受け付けた入力操作に応じた入力処理を実行する。具体的には、入力処理部１１５は、前記移動操作及び前記選択操作を受け付けた場合に、表示画面１３Ａに対するユーザーの入力操作に応じた入力処理を実行する。例えば受付処理部１１４が前記移動操作を受け付けた場合に、入力処理部１１５は、表示画面１３Ａ上の入力操作用アイコンＰ１を移動させる。また、例えば受付処理部１１４が前記選択操作を受け付けた場合に、入力処理部１１５は、表示画面１３Ａ上の選択対象に応じた処理を実行する。例えば、受付処理部１１４が表示画面１３Ａ上の「注文」の選択ボタン画像を選択する操作を受け付けた場合に、入力処理部１１５は、「注文」の選択ボタン画像に割り当てられた注文処理を実行する。また、受付処理部１１４が前記描画操作を受け付けた場合に、入力処理部１１５は、表示画面１３Ａに手書き画像を描画する描画処理を実行する。入力処理部１１５は、本発明の入力処理部の一例である。

算出処理部１１６は、入力操作検出部１１２がユーザーの前記第３ジェスチャー操作を検出した場合に、前記第３ジェスチャー操作と前記第１ジェスチャー操作及び前記第２ジェスチャー操作との近似度を算出する。算出処理部１１６は、前記手指情報に基づいて前記近似度を算出する。前記近似度は、ユーザーの手の握り度合いＧｎを示す指標である。

例えば図５に示すように、前記第１ジェスチャー操作（手を開く操作）は握り度合いＧｎが「０」（又は０～０．１）に設定されており、前記第２ジェスチャー操作（手を握る操作）は握り度合いＧｎが「１」（又は０．９～１）に設定されている。前記第１ジェスチャー操作及び前記第２ジェスチャー操作のそれぞれに対応する握り度合いＧｎの情報は予め記憶部１２に記憶される。ここで、入力操作検出部１１２がユーザーの前記第３ジェスチャー操作を検出すると、算出処理部１１６は、ユーザーの手指の骨格、角度、及び位置の少なくともいずれかの手指情報に基づいて、前記第３ジェスチャー操作に対応する握り度合いＧｎを算出する。握り度合いＧｎが「０」に近い程、前記第３ジェスチャー操作が前記第１ジェスチャー操作に近似することを示し、握り度合いＧｎが「１」に近い程、前記第３ジェスチャー操作が前記第２ジェスチャー操作に近似することを示している。算出処理部１１６は、前記第３ジェスチャー操作に対応する握り度合いＧｎに基づいて、前記第１ジェスチャー操作と前記第３ジェスチャー操作との近似度Ａ１、及び、前記第２ジェスチャー操作と前記第３ジェスチャー操作との近似度Ａ２を算出する。

変更処理部１１７は、算出処理部１１６により算出される近似度に基づいて入力操作用アイコンＰ１の表示形態を変更する。換言すると、変更処理部１１７は、算出処理部１１６により算出される握り度合いＧｎに基づいて入力操作用アイコンＰ１の表示形態を変更する。具体的には、変更処理部１１７は、算出処理部１１６により算出される近似度Ａ１，Ａ２又は握り度合いＧｎに基づいて、入力操作用アイコンＰ１の大きさを変更する。

例えば、前記第１ジェスチャー操作と前記第３ジェスチャー操作との近似度Ａ１が大きい程、又は、前記第２ジェスチャー操作と前記第３ジェスチャー操作との近似度Ａ２が小さい程、変更処理部１１７は、入力操作用アイコンＰ１の大きさを、前記第１ジェスチャー操作に対応する入力操作用アイコンＰ１の大きさ（第１表示形態）に近付ける。

また例えば、前記第２ジェスチャー操作と前記第３ジェスチャー操作との近似度Ａ２が大きい程、又は、前記第１ジェスチャー操作と前記第３ジェスチャー操作との近似度Ａ１が小さい程、変更処理部１１７は、入力操作用アイコンＰ１の大きさを、前記第２ジェスチャー操作に対応する入力操作用アイコンＰ１の大きさ（第２表示形態）に近付ける。すなわち、変更処理部１１７は、入力操作用アイコンＰ１の大きさを、ユーザーの手の握り度合いＧｎが小さい程、前記第１表示形態に近付け、ユーザーの手の握り度合いＧｎが大きい程、前記第２表示形態に近付ける。このように、変更処理部１１７は、入力操作用アイコンＰ１の大きさを近似度Ａ１，Ａ２又は握り度合いＧｎに応じた大きさに変更する。

他の実施形態として、変更処理部１１７は、算出処理部１１６により算出される近似度Ａ１，Ａ２又は握り度合いＧｎに基づいて、入力操作用アイコンＰ１の色を変更してもよい。

例えば、前記第１ジェスチャー操作と前記第３ジェスチャー操作との近似度Ａ１が大きい程、又は、前記第２ジェスチャー操作と前記第３ジェスチャー操作との近似度Ａ２が小さい程、変更処理部１１７は、入力操作用アイコンＰ１の色を、前記第１ジェスチャー操作に対応する入力操作用アイコンＰ１の色（第１表示形態）に近付ける。

また例えば、前記第２ジェスチャー操作と前記第３ジェスチャー操作との近似度Ａ２が大きい程、又は、前記第１ジェスチャー操作と前記第３ジェスチャー操作との近似度Ａ１が小さい程、変更処理部１１７は、入力操作用アイコンＰ１の色を、前記第２ジェスチャー操作に対応する入力操作用アイコンＰ１の色（第２表示形態）に近付ける。すなわち、変更処理部１１７は、入力操作用アイコンＰ１の色を、ユーザーの手の握り度合いＧｎが小さい程、前記第１表示形態に近付け、ユーザーの手の握り度合いＧｎが大きい程、前記第２表示形態に近付ける。このように、変更処理部１１７は、入力操作用アイコンＰ１の色を近似度Ａ１，Ａ２又は握り度合いＧｎに応じた色に変更する。例えば、変更処理部１１７は、入力操作用アイコンＰ１を近似度Ａ２が大きくなる程、黒色から赤色に変化させてもよい。なお、この場合、変更処理部１１７は、入力操作用アイコンＰ１の大きさを前記第１ジェスチャー操作、前記第２ジェスチャー操作、及び前記第３ジェスチャー操作で共通にしてもよい。

他の実施形態として、変更処理部１１７は、算出処理部１１６により算出される近似度Ａ１，Ａ２又は握り度合いＧｎに基づいて、入力操作用アイコンＰ１の形状を変更してもよい。

例えば、前記第１ジェスチャー操作と前記第３ジェスチャー操作との近似度Ａ１が大きい程、又は、前記第２ジェスチャー操作と前記第３ジェスチャー操作との近似度Ａ２が小さい程、変更処理部１１７は、入力操作用アイコンＰ１の形状を、前記第１ジェスチャー操作に対応する入力操作用アイコンＰ１の形状（第１表示形態）に近付ける。

また例えば、前記第２ジェスチャー操作と前記第３ジェスチャー操作との近似度Ａ２が大きい程、又は、前記第１ジェスチャー操作と前記第３ジェスチャー操作との近似度Ａ１が小さい程、変更処理部１１７は、入力操作用アイコンＰ１の形状を、前記第２ジェスチャー操作に対応する入力操作用アイコンＰ１の形状（第２表示形態）に近付ける。すなわち、変更処理部１１７は、入力操作用アイコンＰ１の形状を、ユーザーの手の握り度合いＧｎが小さい程、前記第１表示形態に近付け、ユーザーの手の握り度合いＧｎが大きい程、前記第２表示形態に近付ける。このように、変更処理部１１７は、入力操作用アイコンＰ１の形状を近似度Ａ１，Ａ２又は握り度合いＧｎに応じた形状に変更する。例えば、変更処理部１１７は、入力操作用アイコンＰ１を近似度Ａ２が大きくなる程、「〇」形状から「□」形状に変化させてもよい。

なお、変更処理部１１７は、算出処理部１１６により算出される近似度Ａ１，Ａ２又は握り度合いＧｎに基づいて、入力操作用アイコンＰ１の大きさ、色、及び形状のうち少なくとも２つの要素を同時に変更してもよい。

また、図５に示すように、変更処理部１１７は、算出処理部１１６により算出される近似度Ａ１，Ａ２又は握り度合いＧｎに基づいて、入力操作用アイコンＰ１の表示形態を、前記第１表示形態及び前記第２表示形態の間で段階的又は連続的に変化させる。これにより、入力操作用アイコンＰ１は、表示画面１３Ａにおいて見た目上、滑らかに変化する。

上述の構成によれば、例えば図６に示すように、ユーザーの右手ＲＨに対応する前記第３ジェスチャー操作が検出された場合に、表示画面１３Ａに表示された入力操作用アイコンＰ１の大きさが前記第３ジェスチャー操作の近似度Ａ１，Ａ２に応じた大きさに変化する。このため、ユーザーは、自身の右手ＲＨが前記第１ジェスチャー操作に対応する形（手を開いた形）から前記第２ジェスチャー操作（選択操作）に対応する形（手を握った形）に近付いていることを認識することができる。これにより、ユーザーは、右手ＲＨを再度前記第１ジェスチャー操作に対応する形に戻すことができるため、ユーザーの意図しない操作（ここでは「戻る」の選択操作）による誤入力を防止することができる。そして、図７に示すように、ユーザーは、右手ＲＨの形を前記第１ジェスチャー操作の状態に維持したまま目標の位置（「注文」）まで入力操作用アイコンＰ１を移動させ、入力操作用アイコンＰ１が「注文」と重なる位置で前記第２ジェスチャー操作を行うことにより、目的の操作（「注文」の選択操作）を行うことができる。

［表示制御処理］
以下、図８を参照しつつ、表示装置１の制御部１１によって実行される表示制御処理について説明する。

なお、本発明は、前記表示制御処理に含まれる一又は複数のステップを実行する表示制御方法（本発明の表示方法の一例）の発明として捉えることができ、ここで説明する表示制御処理に含まれる一又は複数のステップが適宜省略されてもよい。なお、前記表示制御処理における各ステップは同様の作用効果を生じる範囲で実行順序が異なってもよい。さらに、ここでは制御部１１が前記表示制御処理における各ステップを実行する場合を例に挙げて説明するが、複数のプロセッサーが当該表示制御処理における各ステップを分散して実行する表示制御方法も他の実施形態として考えられる。

先ずステップＳ１１において、制御部１１は、ユーザーの入力操作を検出したか否かを判定する。具体的には、制御部１１は、仮想操作面Ｒ２においてユーザーの前記入力操作を検出する。例えば、制御部１１は、モーションセンサ１５から取得する検知情報に基づいて、仮想操作面Ｒ２における検知座標を検出し、当該検知座標から表示画面１３Ａの操作領域Ｒ１における入力座標を算出する。制御部１１が前記入力操作を検出した場合（Ｓ１１：Ｙｅｓ）、処理はステップＳ１２に移行する。制御部１１が前記入力操作を検出しない場合（Ｓ１１：Ｎｏ）、処理はステップＳ１６に移行する。

ステップＳ１２において、制御部１１は、ユーザーの前記第１ジェスチャー操作を検出したか否かを判定する。例えば、制御部１１は、前記手指情報に基づいて、ユーザーの右手ＲＨを開く操作（右手ＲＨを「パー」の形にする操作）を検出したか否かを判定する。制御部１１がユーザーの前記第１ジェスチャー操作を検出した場合（Ｓ１２：Ｙｅｓ）、処理はステップＳ１３に移行する。一方、制御部１１がユーザーの前記第１ジェスチャー操作を検出しない場合（Ｓ１２：Ｎｏ）、処理はステップＳ２１に移行する。ステップＳ１１，Ｓ１２は、本発明の入力操作検出ステップの一例である。

次にステップＳ１３において、制御部１１は、入力操作用アイコンＰ１を前記第１表示形態で表示画面１３Ａに表示させる。例えば、制御部１１は、入力操作用アイコンＰ１を第１のサイズかつ第１の色（白色）で表示画面１３Ａに表示させる（図５参照）。ステップＳ１３は、本発明の表示ステップの一例である。

次にステップＳ１４において、制御部１１は、入力操作用アイコンＰ１の移動操作を受け付ける。例えば、ユーザーが仮想操作面Ｒ２において右手ＲＨを開いた状態（前記第１ジェスチャー操作）で上下左右方向（Ｘ方向及びＹ方向）に移動させると、制御部１１は、当該移動操作を受け付ける。ステップＳ１４は、本発明の受付ステップの一例である。

次にステップＳ１５において、制御部１１は、表示画面１３Ａに対するユーザーの前記移動操作に応じた入力処理を実行する。例えば、制御部１１は、表示画面１３Ａに表示された入力操作用アイコンＰ１をユーザーの右手ＲＨの動きに追従するように移動させる。

次にステップＳ１６において、制御部１１は、前記入力操作が終了したか否かを判定する。前記入力操作が終了した場合（Ｓ１６：Ｙｅｓ）、制御部１１は前記表示制御処理を終了する。前記入力操作が終了しない場合（Ｓ１６：Ｎｏ）、制御部１１はステップＳ１１に戻る。

ステップＳ１１に戻ると、制御部１１は、ステップＳ１１，Ｓ１２の処理を再度実行する。ステップＳ１２において、制御部１１が前記第１ジェスチャー操作を検出しない場合（Ｓ１２：Ｎｏ）、処理はステップＳ２１に移行する。ステップＳ２１において、制御部１１は、ユーザーの前記第２ジェスチャー操作（右手ＲＨを閉じる操作）を検出したか否かを判定する。制御部１１が前記第２ジェスチャー操作を検出しない場合（Ｓ２１：Ｎｏ）、処理はステップＳ３１に移行する。

ここでは、一例として、ユーザーが前記第１ジェスチャー操作を行った後に、意図せず前記第３ジェスチャー操作を行った場合について説明する。

ステップＳ３１において、制御部１１は、ユーザーの前記第３ジェスチャー操作（右手ＲＨを「パー」と「グー」の間の形にする操作）を検出したか否かを判定する。例えばユーザーが右手ＲＨを開いた状態で入力操作用アイコンＰ１を移動させている途中に右手ＲＨが徐々に閉じてきた場合に、制御部１１は、前記手指情報に基づいて、前記第３ジェスチャー操作を検出する（Ｓ３１：Ｙｅｓ）。ステップＳ３１は、本発明の入力操作検出ステップの一例である。

制御部１１は、前記第３ジェスチャー操作を検出すると（Ｓ３１：Ｙｅｓ）、ステップＳ３２において、前記第３ジェスチャー操作と前記第１ジェスチャー操作及び前記第２ジェスチャー操作との近似度Ａ１，Ａ２を算出する。例えば、制御部１１は、ユーザーの手の握り度合いＧｎに基づいて近似度Ａ１，Ａ２を算出する。

具体的には、制御部１１は、前記第３ジェスチャー操作に対応する握り度合いＧｎに基づいて、前記第１ジェスチャー操作と前記第３ジェスチャー操作との近似度Ａ１、及び、前記第２ジェスチャー操作と前記第３ジェスチャー操作との近似度Ａ２を算出する（図５参照）。ステップＳ３２は、本発明の算出ステップの一例である。

次にステップＳ３３において、制御部１１は、算出した近似度Ａ１，Ａ２に基づいて入力操作用アイコンＰ１の表示形態を変更する。換言すると、制御部１１は、算出した握り度合いＧｎに基づいて入力操作用アイコンＰ１の表示形態を変更する。具体的には、制御部１１は、算出した近似度Ａ１，Ａ２又は握り度合いＧｎに基づいて、入力操作用アイコンＰ１の大きさ、色、形状の少なくともいずれかを、前記第１表示形態及び前記第２表示形態の間で段階的又は連続的に変化させる。ステップＳ３３は、本発明の変更ステップの一例である。

その後、処理はステップＳ１４に移行し、制御部１１は、入力操作用アイコンＰ１の移動操作を受け付ける。すなわち、仮想操作面Ｒ２において例えばユーザーが右手ＲＨを半分閉じた状態（前記第３ジェスチャー操作）で上下左右方向（Ｘ方向及びＹ方向）に移動させると、制御部１１は、当該移動操作を受け付ける。

このように、ユーザーが前記第１ジェスチャー操作と前記第２ジェスチャー操作との間の第３ジェスチャー操作をしているときは、制御部１１は、表示画面１３Ａに表示された入力操作用アイコンＰ１を、ユーザーの右手ＲＨの動きに追従するように移動させる（図６参照）。

その後、例えばユーザーが右手ＲＨを閉じる操作（前記第２ジェスチャー操作）を行うと（Ｓ２１：Ｙｅｓ）、制御部１１は、入力操作用アイコンＰ１を前記第２表示形態で表示画面１３Ａに表示させる。例えば、制御部１１は、入力操作用アイコンＰ１を第２のサイズかつ第１の色（黒色）で表示画面１３Ａに表示させる（図５参照）。ステップＳ２１は本発明の入力操作検出ステップの一例であり、ステップＳ２２は本発明の表示ステップの一例である。

次にステップＳ２３において、制御部１１は、入力操作用アイコンＰ１の選択操作を受け付ける。例えば、ユーザーが仮想操作面Ｒ２において右手ＲＨを閉じると、制御部１１は、当該選択操作を受け付ける。制御部１１は、前記選択操作を受け付けると、ステップＳ１５において、表示画面１３Ａ上の選択対象に応じた処理を実行する。例えば図７に示すように、制御部１１は、表示画面１３Ａ上の「注文」の選択ボタン画像を選択する操作を受け付けると、「注文」の選択ボタン画像に割り当てられた注文処理を実行する。ステップＳ２３は、本発明の受付ステップの一例である。

なお、ステップＳ３１において、制御部１１が前記第３ジェスチャー操作を受け付けない場合には（Ｓ３１：Ｎｏ）、ステップＳ１５において、制御部１１は前記第１～前記第３ジェスチャー操作以外の入力操作に応じた入力処理を実行する。例えば、制御部１１は、ユーザーから手書き画像を描画させる描画操作を受け付けた場合に、表示画面１３Ａに手書き画像を描画する描画処理を実行する。

以上のようにして、制御部１１は、前記表示制御処理を実行する。

以上説明したように、本実施形態に係る表示装置１は、表示画面１３Ａに対するユーザーの非接触による入力操作を受け付ける。また表示装置１は、ユーザーの所定のジェスチャー操作を含む入力操作を検出する。また表示装置１は、ユーザーの第１ジェスチャー操作を検出した場合に、入力操作用アイコンＰ１を第１表示形態で表示画面１３Ａに表示させ、ユーザーの第２ジェスチャー操作を検出した場合に、入力操作用アイコンＰ１を第２表示形態で表示画面１３Ａに表示させる。また表示装置１は、前記第１ジェスチャー操作を検出した場合に、入力操作用アイコンＰ１を前記第１ジェスチャー操作に応じて移動させる移動操作を受け付け、前記第２ジェスチャー操作を検出した場合に、入力操作用アイコンＰ１により選択対象を選択させる選択操作を受け付ける。また表示装置１は、ユーザーの第３ジェスチャー操作を検出した場合に、入力操作用アイコンＰ１の表示形態を変更する。例えば、入力操作用アイコンＰ１の表示形態を、前記第１表示形態及び前記第２表示形態の間で段階的又は連続的に変化させる。また表示装置１は、前記第３ジェスチャー操作と前記第１ジェスチャー操作及び前記第２ジェスチャー操作との近似度を算出し、算出した前記近似度に基づいて入力操作用アイコンＰ１の表示形態を変更する。

具体的には、表示装置１は、ユーザーの手を開く操作（第１ジェスチャー操作）を検出すると、入力操作用アイコンＰ１を大きく表示するとともに入力操作用アイコンＰ１をユーザーの手の移動に追従させて移動させ、ユーザーの手を閉じる操作（第２ジェスチャー操作）を検出すると、入力操作用アイコンＰ１を小さく表示するとともに入力操作用アイコンＰ１による選択操作を行なう。また、表示装置１は、ユーザーの手を開いた状態から閉じた状態までの間の状態（第３ジェスチャー操作）を検出すると、入力操作用アイコンＰ１をユーザーの手の握り度合いＧｎ（前記近似度）に応じた大きさで表示するとともに入力操作用アイコンＰ１をユーザーの手の移動に追従させて移動させる。

この構成によれば、ユーザーは自身のジェスチャー操作が前記第１ジェスチャー操作に対応する形（手を開いた形）から前記第２ジェスチャー操作（選択操作）に対応する形（手を握った形）に近付いていることを認識することができる。これにより、ユーザーは、再度前記第１ジェスチャー操作に対応する形に戻すことができるため、ユーザーの意図しない操作による誤入力を防止することができる。

［仮想操作面設定方法］
操作面設定部１１１は、ユーザーの所定の設定用ジェスチャー操作に基づいて所望の大きさの仮想操作面Ｒ２を所望の位置に設定してもよい。

具体的には、操作面設定部１１１は、ユーザーの設定用ジェスチャー操作を検出する。具体的には、操作面設定部１１１は、モーションセンサ１５から取得する検知情報に基づいて、前記設定用ジェスチャー操作を検出する。例えば、操作面設定部１１１は、前記検知情報に含まれる座標情報に基づいてユーザーの手の形状を特定して、記憶部１２に予め登録された複数のジェスチャー操作のうち該当するジェスチャー操作を特定する。

操作面設定部１１１は、ユーザーの所定の第１設定用ジェスチャー操作を検出した場合に、当該第１設定用ジェスチャー操作に応じた領域を表示画面１３Ａに対するユーザーの入力操作を受け付ける仮想操作面Ｒ２として設定する。なお、操作面設定部１１１は、前記第１設定用ジェスチャー操作が所定時間継続して行われた場合に仮想操作面Ｒ２を設定してもよい。前記第１設定用ジェスチャー操作は、例えば左手ＬＨ及び右手ＲＨのそれぞれの掌を表示画面１３Ａに向けて翳す操作である。すなわち、前記第１設定用ジェスチャー操作は、ユーザーが仮想操作面Ｒ２を設定するための設定操作である。

例えば図９に示すように、ユーザーが左手ＬＨの掌を左上の任意の位置で表示画面１３Ａに翳し、右手ＲＨの掌を右下の任意の位置で表示画面１３Ａに翳すと、操作面設定部１１１は、モーションセンサ１５から取得する検知情報に基づいて、左手ＬＨの座標Ｐｈ１と、右手ＲＨの座標Ｐｈ２と、左手ＬＨ及び右手ＲＨを翳す第１設定用ジェスチャー操作とを検出する。操作面設定部１１１は、第１設定用ジェスチャー操作を検出すると、左手ＬＨの座標Ｐｈ１と右手ＲＨの座標Ｐｈ２とに基づいて仮想操作面Ｒ２を設定する。

例えば図９に示すように、操作面設定部１１１は、左手ＬＨの位置（座標Ｐｈ１）と右手ＲＨの位置（座標Ｐｈ２）とを結ぶ線を対角線とする矩形の仮想操作面Ｒ２を設定する。具体的には、操作面設定部１１１は、左手ＬＨの座標Ｐｈ１及び右手ＲＨの座標Ｐｈ２に基づいて矩形の角部の座標Ｃ２１～Ｃ２４（図２参照）を算出して仮想操作面Ｒ２を設定する。

また、例えば、操作面設定部１１１は、表示画面１３Ａから所定距離Ｌ１だけ離れた位置に仮想操作面Ｒ２を設定する。なお、所定距離Ｌ１は、左手ＬＨの座標Ｐｈ１（Ｚ座標）及び右手ＲＨの座標Ｐｈ２（Ｚ座標）に対応する距離である。

また、例えば、操作面設定部１１１は、縦横比が表示画面１３Ａの縦横比と同一比率の仮想操作面Ｒ２を設定してもよい。具体的には、図１０に示すように、操作面設定部１１１は、表示画面１３Ａの縦横比（Ｈ１：Ｗ１）と仮想操作面Ｒ２の縦横比（Ｈ２：Ｗ２）とが同一（Ｈ１：Ｗ１＝Ｈ２：Ｗ２）となる仮想操作面Ｒ２を設定する。

このように、表示画面１３Ａ（操作領域Ｒ１）の大きさと仮想操作面Ｒ２の大きさは、同一であってもよいし異なってもよい。ここで、仮想操作面Ｒ２が操作領域Ｒ１よりも小さい場合は、大型の表示パネル１３をユーザーの手元で操作する用途に好適である。これに対して、仮想操作面Ｒ２が操作領域Ｒ１よりも大きい場合は、小型の表示パネル１３を離れた位置で操作する用途に好適である。

また、図１１に示すように、操作面設定部１１１は、表示画面１３Ａに対して平行でない所定角度ｄ１を有する仮想操作面Ｒ２を設定してもよい。すなわち、仮想操作面Ｒ２は、表示画面１３Ａに対して斜め方向に設定されてもよい。例えば、操作面設定部１１１は、左手ＬＨの座標Ｐｈ１（Ｚ座標）と、右手ＲＨの座標Ｐｈ２（Ｚ座標）とに基づいて所定角度ｄ１を設定する。これにより、ユーザーは表示画面１３Ａに対して斜め方向から入力操作を行うことが可能になる。なお、操作面設定部１１１は、所定角度ｄ１の情報を表示画面１３Ａに表示させてもよい。これにより、ユーザーは表示画面１３Ａに対する仮想操作面Ｒ２の角度（傾き度合い）を把握することができる。

また、操作面設定部１１１は、表示画面１３Ａの一部の領域に対応する仮想操作面Ｒ２を設定してもよい。例えば図１２に示すように、操作面設定部１１１は、表示画面１３Ａの一部（左側領域）の操作領域Ｒ１に対応する仮想操作面Ｒ２を設定する。操作領域Ｒ１の位置及び大きさは、ユーザーの設定操作により設定することが可能である。なお、仮想操作面Ｒ２を設定するユーザーが操作領域Ｒ１を把握し易いように、操作面設定部１１１は、仮想操作面Ｒ２を設定する際に、図１３に示すように、操作領域Ｒ１を示すオブジェクト画像Ｔ１を表示画面１３Ａに表示させてもよい。

なお、操作面設定部１１１は、周知の座標変換（射影変換、アフィン変換など）を利用して、第１設定用ジェスチャー操作に対応する座標に基づいて表示画面１３Ａの操作領域Ｒ１に関連付けられた仮想操作面Ｒ２を設定することができる。

また、操作面設定部１１１は、設定した仮想操作面Ｒ２を調整する処理を実行してもよい。具体的には、操作面設定部１１１は、仮想操作面Ｒ２が設定された後にユーザーの所定の第２設定用ジェスチャー操作を検出した場合に、第２設定用ジェスチャー操作に基づいて仮想操作面Ｒ２の大きさ及び位置の少なくともいずれかを変更する。前記第２設定用ジェスチャー操作は、例えば右手ＲＨによる指差し操作（図１４参照）である。

例えば図１４に示すように、仮想操作面Ｒ２が設定された後にユーザーが右手ＲＨで表示画面１３Ａを指差し操作した場合に、操作面設定部１１１は、モーションセンサ１５から取得する検知情報に基づいて、右手ＲＨの座標Ｐｈ３と、右手ＲＨによる指差し操作の第２設定用ジェスチャー操作とを検出する。操作面設定部１１１は、前記第２設定用ジェスチャー操作を検出すると、右手ＲＨの座標Ｐｈ３に基づいて仮想操作面Ｒ２を移動可能に設定し、ユーザーによる仮想操作面Ｒ２の移動操作を受け付ける。例えばユーザーが右手ＲＨを指差しの状態のまま左方向に動かすと、操作面設定部１１１は、仮想操作面Ｒ２を右手ＲＨの移動量に応じた分だけ左方向に移動させる。すなわち、操作面設定部１１１は、移動後の右手ＲＨの座標Ｐｈ３に仮想操作面Ｒ２を設定する。

また、例えば図１５に示すように、仮想操作面Ｒ２が設定された後にユーザーが左手ＬＨを翳したまま右手ＲＨの拳を握る操作をした場合に、操作面設定部１１１は、モーションセンサ１５から取得する検知情報に基づいて、左手ＬＨの座標Ｐｈ１と、右手ＲＨの座標Ｐｈ２と、左手ＬＨを翳し右手ＲＨを握る第２設定用ジェスチャー操作とを検出する。操作面設定部１１１は、前記第２設定用ジェスチャー操作を検出すると、右手ＲＨの座標Ｐｈ２に基づいて仮想操作面Ｒ２の大きさを変更可能に設定し、ユーザーによる仮想操作面Ｒ２の大きさの変更操作を受け付ける。例えばユーザーが右手ＲＨを拳を握ったまま右下方向に動かすと、操作面設定部１１１は、仮想操作面Ｒ２を右手ＲＨの移動量に応じた分だけ大きさ（面積）を拡大する。すなわち、操作面設定部１１１は、左手ＬＨの座標Ｐｈ１と移動後の右手ＲＨの座標Ｐｈ２により規定される仮想操作面Ｒ２を設定する。

図１６に示す例では、仮想操作面Ｒ２が設定された後にユーザーが右手ＲＨを翳したまま左手ＬＨの拳を握る操作をした場合の例を示している。この場合、操作面設定部１１１は、モーションセンサ１５から取得する検知情報に基づいて、左手ＬＨの座標Ｐｈ１と、右手ＲＨの座標Ｐｈ２と、右手ＲＨを翳し左手ＬＨを握る第２設定用ジェスチャー操作とを検出する。操作面設定部１１１は、前記第２設定用ジェスチャー操作を検出すると、左手ＬＨの座標Ｐｈ１に基づいて仮想操作面Ｒ２の大きさを変更可能に設定し、ユーザーによる仮想操作面Ｒ２の大きさの変更操作を受け付ける。例えばユーザーが左手ＬＨを拳を握ったまま右下方向に動かすと、操作面設定部１１１は、仮想操作面Ｒ２を左手ＬＨの移動量に応じた分だけ大きさ（面積）を縮小する。すなわち、操作面設定部１１１は、右手ＲＨの座標Ｐｈ２と移動後の左手ＬＨの座標Ｐｈ１により規定される仮想操作面Ｒ２を設定する。

なお、操作面設定部１１１は、仮想操作面Ｒ２が設定された後に前記第２設定用ジェスチャー操作を検出した場合に、仮想操作面Ｒ２を示すオブジェクト画像Ｔ２を前記第２設定用ジェスチャー操作に応じて表示画面１３Ａに表示させてもよい。図１７には、大きさが変更された後の仮想操作面Ｒ２を示すオブジェクト画像Ｔ２の一例を示している。この構成によれば、ユーザーは、仮想操作面Ｒ２の変更後の大きさ、位置などを視覚的に把握することが可能になる。

なお、本発明の表示装置は、各請求項に記載された発明の範囲において、以上に示された各実施形態を自由に組み合わせること、或いは各実施形態を適宜、変形又は一部を省略することによって構成されることも可能である。

１ ：表示装置
１１ ：制御部
１２ ：記憶部
１３ ：表示パネル
１３Ａ ：表示画面
１４ ：操作部
１５ ：モーションセンサ
１１１ ：操作面設定部
１１２ ：入力操作検出部
１１３ ：表示処理部
１１４ ：受付処理部
１１５ ：入力処理部
１１６ ：算出処理部
１１７ ：変更処理部
Ｐ１ ：入力操作用アイコン
Ｒ１ ：操作領域
Ｒ２ ：仮想操作面

Claims (11)

1. 表示画面に対するユーザーの非接触による入力操作を受け付ける表示装置であって、
   前記ユーザーの所定のジェスチャー操作を含む入力操作を検出する入力操作検出部と、
   前記入力操作検出部が前記ユーザーの第１ジェスチャー操作を検出した場合に、入力操作用アイコンを第１表示形態で前記表示画面に表示させ、前記入力操作検出部が前記ユーザーの第２ジェスチャー操作を検出した場合に、前記入力操作用アイコンを第２表示形態で前記表示画面に表示させる表示処理部と、
   前記入力操作検出部が前記第１ジェスチャー操作を検出した場合に、前記入力操作用アイコンを前記第１ジェスチャー操作に応じて移動させる移動操作を受け付け、前記入力操作検出部が前記第２ジェスチャー操作を検出した場合に、前記入力操作用アイコンにより選択対象を選択させる選択操作を受け付ける受付処理部と、
   前記入力操作検出部が前記ユーザーの第３ジェスチャー操作を検出した場合に、前記入力操作用アイコンの表示形態を、前記第１表示形態及び前記第２表示形態の間で段階的又は連続的に変化させる変更処理部と、
   を備える表示装置。
2. 前記変更処理部は、前記入力操作用アイコンの大きさを前記第１表示形態及び前記第２表示形態の間で段階的又は連続的に変化させる、
   請求項１に記載の表示装置。
3. 前記変更処理部は、前記入力操作用アイコンの色を前記第１表示形態及び前記第２表示形態の間で段階的又は連続的に変化させる、
   請求項１又は請求項２に記載の表示装置。
4. 前記変更処理部は、前記入力操作用アイコンの形状を前記第１表示形態及び前記第２表示形態の間で段階的又は連続的に変化させる、
   請求項１から請求項３のいずれか１項に記載の表示装置。
5. 前記受付処理部は、前記第３ジェスチャー操作を検出した場合に、前記入力操作用アイコンを前記第３ジェスチャー操作に応じて移動させる移動操作を受け付ける、
   請求項１から請求項４のいずれか１項に記載の表示装置。
6. 前記受付処理部が前記移動操作及び前記選択操作を受け付けた場合に、前記表示画面に対する前記ユーザーの前記入力操作に応じた入力処理を実行する入力処理部をさらに備える、
   請求項１から請求項５のいずれか１項に記載の表示装置。
7. 前記入力操作検出部が前記ユーザーの前記第３ジェスチャー操作を検出した場合に、前記第３ジェスチャー操作と前記第１ジェスチャー操作及び前記第２ジェスチャー操作との近似度を算出する算出処理部をさらに備え、
   前記変更処理部は、前記算出処理部により算出される前記近似度に基づいて、前記第１表示形態及び前記第２表示形態の間で段階的又は連続的に変化させる、
   請求項１から請求項６のいずれか１項に記載の表示装置。
8. 前記入力操作検出部は、前記ユーザーの手指の骨格、角度、及び位置の少なくともいずれかの手指情報に基づいて、前記第１ジェスチャー操作、前記第２ジェスチャー操作、及び前記第３ジェスチャー操作を検出し、
   前記算出処理部は、前記手指情報に基づいて前記近似度を算出する、
   請求項７に記載の表示装置。
9. 前記第１ジェスチャー操作は、前記ユーザーの手を開く操作であり、
   前記第２ジェスチャー操作は、前記ユーザーの手を握る操作であり、
   前記近似度は、前記ユーザーの手の握り度合いを示す指標である、
   請求項７又は請求項８に記載の表示装置。
10. 表示画面に対するユーザーの非接触による入力操作を受け付ける表示方法であって、
    一又は複数のプロセッサーが、
    前記ユーザーの所定のジェスチャー操作を含む入力操作を検出する入力操作検出ステップと、
    前記ユーザーの第１ジェスチャー操作を検出した場合に、入力操作用アイコンを第１表示形態で前記表示画面に表示させ、前記ユーザーの第２ジェスチャー操作を検出した場合に、前記入力操作用アイコンを第２表示形態で前記表示画面に表示させる表示ステップと、
    前記第１ジェスチャー操作を検出した場合に、前記入力操作用アイコンを前記第１ジェスチャー操作に応じて移動させる移動操作を受け付け、前記第２ジェスチャー操作を検出した場合に、前記入力操作用アイコンにより選択対象を選択させる選択操作を受け付ける受付ステップと、
    前記ユーザーの第３ジェスチャー操作を検出した場合に、前記入力操作用アイコンの表示形態を、前記第１表示形態及び前記第２表示形態の間で段階的又は連続的に変化させる変更ステップと、
    を実行する表示方法。
11. 表示画面に対するユーザーの非接触による入力操作を受け付ける表示プログラムであって、
    前記ユーザーの所定のジェスチャー操作を含む入力操作を検出する入力操作検出ステップと、
    前記ユーザーの第１ジェスチャー操作を検出した場合に、入力操作用アイコンを第１表示形態で前記表示画面に表示させ、前記ユーザーの第２ジェスチャー操作を検出した場合に、前記入力操作用アイコンを第２表示形態で前記表示画面に表示させる表示ステップと、
    前記第１ジェスチャー操作を検出した場合に、前記入力操作用アイコンを前記第１ジェスチャー操作に応じて移動させる移動操作を受け付け、前記第２ジェスチャー操作を検出した場合に、前記入力操作用アイコンにより選択対象を選択させる選択操作を受け付ける受付ステップと、
    前記ユーザーの第３ジェスチャー操作を検出した場合に、前記入力操作用アイコンの表示形態を、前記第１表示形態及び前記第２表示形態の間で段階的又は連続的に変化させる変更ステップと、
    を一又は複数のプロセッサーに実行させるための表示プログラム。

Images