JP6236790B2 - 操作メニュー制御プログラム、操作メニュー制御装置、及び、操作メニュー制御方法 - Google Patents

操作メニュー制御プログラム、操作メニュー制御装置、及び、操作メニュー制御方法 Download PDF

Info

Publication number
JP6236790B2
JP6236790B2 JP2013019395A JP2013019395A JP6236790B2 JP 6236790 B2 JP6236790 B2 JP 6236790B2 JP 2013019395 A JP2013019395 A JP 2013019395A JP 2013019395 A JP2013019395 A JP 2013019395A JP 6236790 B2 JP6236790 B2 JP 6236790B2
Authority
JP
Japan
Prior art keywords
operation menu
item
operation target
menu
target
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2013019395A
Other languages
English (en)
Other versions
JP2014149778A (ja
Inventor
晃希 畑田
晃希 畑田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2013019395A priority Critical patent/JP6236790B2/ja
Priority to US14/098,709 priority patent/US20140223367A1/en
Publication of JP2014149778A publication Critical patent/JP2014149778A/ja
Application granted granted Critical
Publication of JP6236790B2 publication Critical patent/JP6236790B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017Gesture based interaction, e.g. based on a set of recognized hand gestures
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/04812Interaction techniques based on cursor appearance or behaviour, e.g. being affected by the presence of displayed objects
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/04842Selection of displayed objects or displayed text elements

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • User Interface Of Digital Computer (AREA)

Description

本発明は、操作メニュー制御プログラム、操作メニュー制御装置、及び、操作メニュー制御方法に関する。
一般的なGUI(Graphical User Interface)において、マウス・キーボードやタッチパネル、タッチパッド、空間ジェスチャなどによって、表示画面上の操作対象を指示・選択することが行われる。例えば、空間ジェスチャでは、ユーザの手や指によるジェスチャが、表示装置の上部に設置されたセンサによって検出され、表示画面上のカーソルがジェスチャに対応して移動する。
ところが、カーソル操作に係る分解能が低く、カーソル操作の精度が低い場合がある。カーソル操作の精度が低く、表示画面上のリンクやボタン、アイコン等の操作対象の領域が狭い場合、ユーザは、空間ジェスチャに基づいて所望の操作対象の位置にカーソルを移動させることが困難になる。
そこで、リンクやボタン等の操作対象を指示、選択する操作を補助する技術が公開されている(例えば、特許文献1、2、非特許文献1)。例えば、所定の操作対象に対応する項目を有する操作メニューが新たに表示される技術が公開される。ユーザは、操作メニューにおいて、所望の操作対象に対応する項目を選択することによって、所望の操作対象の位置に的確にカーソル位置を移動させることができる。
特開2010−282311号公報 特表2006−520024号公報
L.Findlater, et al, Enhanced Area Cursors: Reducing Fine Pointing Demands for People with Motor Impairments, in Proc. of UIST '10, ACM, pp.153-162 (2010)
しかしながら、従来の操作メニューによると、操作対象と、操作メニューにおける項目の対応関係が十分に考慮されていない。または、操作メニューのサイズや表示位置についても考慮されていない。このため、ユーザは、所望の操作対象を選択するに当たり、操作メニューにおいて所望の操作対象に対応する項目を探す必要があり、手間がかかった。
そこで、本発明は、より効果的な操作メニューを表示する操作メニュー制御プログラム、操作メニュー制御装置、及び、操作メニュー制御方法を提案する。
第1の側面は、表示画面において、操作対象がそれぞれ対応付けられた項目を有する操作メニューを表示する操作メニュー制御処理をコンピュータに実行させる操作メニュー制御プログラムであって、前記操作メニュー制御処理は、前記表示画面において、カーソル位置から基準範囲内に位置する1つまたは複数の操作対象を抽出する抽出工程と、前記抽出された操作対象と、前記項目との表示位置の距離に基づいて、前記操作対象と前記項目との対応関係を算出する項目対応算出工程と、前記算出された前記対応関係の表示位置に前記項目を有する操作メニューを表示する表示工程と、を有する。
第1の側面によれば、より効果的な操作メニューが表示される。
空間ジェスチャによるユーザインターフェースの一例について説明する図である。 操作メニューを用いたカーソル操作の一例について説明する図である。 操作メニューの他の例を示す第1の図である。 操作メニューの他の例を示す第2の図である。 本実施の形態例における操作メニュー制御装置の構成の例図である。 本実施の形態例における操作メニュー制御装置のブロック図の例図である。 操作メニューにおける項目と操作対象との対応関係について説明する図である。 操作メニューのサイズについて説明する図である。 操作メニューの表示位置について説明する図である。 操作メニュー制御プログラムの処理の流れを説明するフローチャート図である。 近傍の操作対象の抽出処理について説明する図である。 操作対象とカーソル位置との距離について説明する図である。 アンカー位置の設定例を示す図である。 操作対象と操作メニューにおける項目との対応関係の算出を説明する図である。
以下、図面にしたがって本発明の実施の形態について説明する。ただし、本発明の技術的範囲はこれらの実施の形態に限定されず、特許請求の範囲に記載された事項とその均等物まで及ぶものである。
[空間ジェスチャ・インタフェース・システム]
図1は、空間ジェスチャによるユーザインターフェースを有するシステムの一例を示す図である。同図の例において、ユーザは、手HNのジェスチャに基づいて、表示画面DP上のカーソルppやボタン等の操作を指示する。
図1のシステムは、例えば、パーソナルコンピュータやTV等の表示画面DP、センサSEを有する。なお、ユーザと表示画面DPとは、例えば、1.5m程度離れている。センサSEは、ユーザの手HNの動きを検知し、動きの方向や動きの度合いを検知する。そして、ユーザの手HNの動きに基づいて、表示画面DP上のカーソル位置ppが移動される。空間ジェスチャとは、例えば、手HNの左右上下方向への移動、手HNの結び開き、身体のジャンプ等である。
図1のようなユーザインターフェースでは、カーソル操作の精度の分解能が低いことがある。この場合、空間ジェスチャに対応する表示画面DP上のカーソル位置ppは、ガタガタとした軌跡をたどる。このため、ユーザは、表示画面DP上の狭い領域にカーソル位置ppを移動させることが困難となる。例えば、カーソル位置ppは、対象領域の周辺をさ迷い、意図しないリンクやボタンの領域に移動してしまうことがある。そこで、所望の操作対象を選択可能にする操作メニューが用いられる。
[操作メニュー]
図2は、操作メニューを用いたカーソル位置の移動操作の一連の流れについて説明する図である。同図の(A)〜(D)は、時系列に遷移する表示画面を示す。操作メニューは、表示画面上の操作対象がそれぞれ対応付けられた項目を有するメニューであって、表示画面に重ねて表示される。また、項目は、ユーザが選択可能な領域を示す。操作メニューは、1つまたは複数の項目を有する。
[操作対象]
操作対象とは、例えば、画面上に表示されるボタンやリンクL1〜L6、メニューバーやドロップダウンリストにおける各選択肢等である。つまり、操作対象は、表示画面上に位置し、ユーザによって選択されることによって、当該操作対象に関連付けられた機能が実行される要素を示す。図2の例では、webページ内に表示されるリンクL1〜L6が、操作対象として例示される。
図2の(A)において、初めに、ユーザが、空間ジェスチャに基づいて表示画面上におけるwebページのリンクL1〜L6の周辺にカーソル位置ppを移動させる。ここで、ユーザが、操作メニューの表示を指示するジェスチャを行うと、カーソル位置ppの周辺に位置する操作対象L1〜L4が抽出される。この例では、4つの操作対象L1〜L4が抽出される。そして、図2の(B)に示すような操作メニューMMが表示される。なお、操作メニューの表示を指示するジェスチャは、予め、設定される。
図2の(B)は、操作メニューMMの一例を示す。同図の操作メニューMMは、抽出された4つの操作対象L1〜L4が一対一に対応付けられた4つの項目tmを有する。また、同図の例において、操作対象L1〜L4と項目tmとが、ガイド線htによって対応付けられている。これにより、ユーザは、ガイド線htに基づいて、所望の操作対象が対応付けられた項目tmを容易に検知することができる。また、同図の例において、操作対象L1〜L4に重ねて、項目tmの相対位置を示す矢印(アイコン)yaが表示される。これにより、ユーザは、アイコンに基づいて、所望の操作対象が対応付けられた項目tmを容易に検知することができる。
続いて、図2(C)において、ユーザは、操作メニューMMの項目tmA〜tmDの中から、所望の操作対象に対応付けられた項目を選択する。この例において、所望の操作対象は、操作対象L1である。操作対象L1には、項目tmAが対応付けられる。また、項目tmは、例えば、操作メニューMMにおける当該項目tmが表示される円弧を通過するようにカーソルを移動させることで選択される。そこで、ユーザは、例えば、手を上に動かすジェスチャを行うことによって、カーソル位置を上部の円弧を通過するように移動させ、項目tmAを選択する。これにより、図2の(D)において、操作メニューMMが消えると共に、カーソル位置ppが項目tmAに対応付けられた操作対象L1の領域に移動する。このように、操作メニューMMを利用することによって、ユーザは、所望の操作対象L1に対応する位置に、カーソル位置ppを確実に移動させることが可能になる。
ここで、操作メニューMMの他の例について、具体例を例示する。
[操作メニューの例]
図3は、操作メニューMMの他の具体例を示す第1の例図である。同図の左上の環状の操作メニューMM7は分割され、項目が分散して配置される。このように、操作メニューMM7は、一連の領域である必要はなく、分割した領域によって構成されてもよい。また、同図の操作メニューMM8は環状ではなく、矩形である。このように、操作メニューMM8は、4角形、6角形など任意の形状であってもよい。なお、操作メニューMMにおける項目数はいずれの数であってもよい。また、操作メニューMMにおける項目のすべてが、操作対象に対応付けられていなくてもよい。
図4は、操作メニューMMの他の具体例を示す第2の例図である。同図の左上の操作メニューMM9は、操作対象L1〜L4を取り囲むようにではなく、操作対象L1〜L4の近隣に表示される。このように、本実施の形態例における操作メニューMMは、必ずしも、操作対象を取り囲む位置に表示されていなくてもよい。また、同図の右上の操作メニューMM10は、左の操作メニューMM9と同様にして、操作対象L1〜L4の近隣に表示されるが、操作メニューMM9とは形状が異なる。操作メニューMM10は、ドーナッツ型の形状ではない。このように、本実施の形態例における操作メニューMMは、必ずしも、操作対象L1〜L4を取り囲む形状である必要はない。
また、図4の下に表示される操作メニューMM11は、分散して位置する操作対象B1、B2、L11、L12の間の領域に表示される。このように、操作対象B1、B2、L11、L12が近接せず、分散して位置する場合、操作メニューMM11は操作対象の間の領域に表示されてもよい。ところで、同図のように操作対象B1、B2、L11、L12が密集していない場合であっても、操作メニューMM11の利用は有効である。操作対象が密集していない場合であっても、ジェスチャに基づいて所望の操作対象の位置にカーソルを移動させることが困難なことがあるためである。ユーザは、操作メニューMM11を利用することによって、所望の操作対象の位置にカーソル位置を移動させることが可能になる。
また、図示していないが、たとえ、操作メニューMMの項目に対応付けられる操作対象が1つの場合であっても、操作メニューMMの利用は有効である。操作対象が密集しない場合と同様にして、操作対象が1つである場合であっても、ユーザは、操作メニューMMを利用することにより、当該1つの操作対象の位置に、確実にカーソル位置を移動させることができる。
[操作メニュー制御装置の構成]
図5は、本実施の形態例における操作メニュー制御装置100の構成の一例を示す図である。同図の操作メニュー制御装置100は、例えば、一般的なコンピュータである。操作メニュー制御装置100は、例えば、CPU(Central Processing Unit)11、メモリ12、ストレージ13、ネットワーク装置16、入力装置14、表示装置15を有する。各部は、バス17を介して相互に接続される。
図5において、ストレージ13は、操作メニュー制御装置100全体の制御に係る情報を記憶する。ネットワーク装置16は、例えば、外部の装置との通信処理を行う。また、入力装置14は、例えば、センサによって生成されたユーザのジェスチャ情報や、キーボード等によって入力された操作情報等を受け付ける。表示装置15は、例えば、コンピュータのモニタ、TV等の液晶画面や、プロジェクタによって投影される画面等である。メモリ12は、例えば、本実施の形態例における操作メニュー制御処理を行う操作メニュー制御プログラムPR等を記憶する。CPU11は、操作メニュー制御プログラムPRと協働して、操作メニュー制御処理を行う。なお、操作メニュー制御処理は、等価な処理を行うハードウェアによって実現されていても良い。
なお、ユーザのジェスチャ情報は、図示していないが、例えば、距離センサ、単眼カメラ、ステレオカメラ等のセンサによって生成される。または、ユーザのジェスチャ情報は、センサと、物体トラッキング装置との組み合わせによって取得されてもよい。また、ジェスチャ情報は、ユーザがジャイロセンサ、加速度センサ、超音波などを用いて姿勢や動きを検知可能な端末を装着し、当該端末装置から、操作メニュー制御装置100に送信されてもよい。
[操作メニュー制御装置のブロック図]
図6は、本実施の形態例における操作メニュー制御装置100のブロック図の一例を示す図である。操作メニュー制御装置100は、例えば、位置取得部21、操作対象取得部22、近傍取得部23、中心算出部24、スケール算出部25、対応算出部26、画面表示部27を有する。
位置取得部21は、ユーザのジェスチャ情報を取得すると共に、図3の表示装置15である表示画面におけるカーソルの位置を取得する。操作対象取得部22は、表示画面上の操作対象の位置、及び、操作対象の形状を取得する。近傍取得部23は、操作対象取得部22によって取得された操作対象のうち、位置取得部21で取得されたカーソル位置の近傍に位置する操作対象を抽出する。中心算出部24は、抽出された操作対象に対応する領域の中心位置を算出する。スケール算出部25は、表示する操作メニューのサイズを算出する。対応算出部26は、抽出された操作対象と、操作メニューの項目との対応関係を算出する。
画面表示部27は、スケール算出部25によって算出されたサイズの操作メニューを、画面上における中心算出部24によって算出された位置に表示する。また、このとき、操作メニューの各項目について、対応算出部26によって算出された対応関係に基づいて、操作対象との対応関係が設定される。
ここで、操作メニューについて、より具体的に説明する。具体的に、操作メニューにおける項目と操作対象との対応関係、操作メニューのサイズ、操作メニューの表示位置について、順次説明する。
[操作対象と操作メニューの項目との対応関係]
図7は、操作メニューにおける項目と操作対象との対応関係について説明する図である。同図は、操作対象と項目との対応関係の異なる2つの操作メニューMM1、MM2が表示される。同図において、4つの操作対象bA〜bDが、操作メニューMM1、MM2が有する8つの項目のいずれかに対応付けられる。
図7の(A)は、操作対象bA〜bDと、対応する項目との表示位置の間の距離が小さくなるように対応付けられた操作メニューMM1である。ユーザは、所望の操作対象bA〜bDについて、当該操作対象bA〜bDと最も近い表示位置にある項目とを直感的に対応付け易い。そこで、操作メニューMM1は、操作対象bA〜bDと、対応する項目との表示位置の各距離の総和が最小となる対応関係に基づいて、項目の表示位置が設定される。これにより、ユーザは、所望の操作対象の近くに位置する項目を、所望の操作対象に対応する項目であると推定することで、より容易に、迅速に、所望の操作対象bA〜bDに対応する項目を検知することができる。
一方、図7の(B)は、操作対象bA〜bDと、対応する項目との表示位置の距離が考慮されていない操作メニューMM2である。同図の操作メニューMM2では、各操作対象bA〜bDは、必ずしも、操作メニューMM2の項目のうち近距離に位置する項目に対応付けられていない。これにより、所望の操作対象bA〜bDに対応する項目ついて、ユーザが直感的に推定する項目と、実際に対応付けられる項目とは異なる場合がある。ユーザは、操作メニューMM2によると、所望の操作対象bA〜bDが対応付する項目を探す必要があり、項目の検知に手間がかかる。
このように、操作メニューについて、項目と操作対象との対応関係が考慮されることにより、ユーザは、項目と操作対象の対応関係をより直感的に推定可能になり、所望の操作対象に対応する項目を迅速に検知することができる。なお、図2の(B)に示すように、操作対象と項目とがガイド線htによって対応付けられる場合であっても、対応関係が考慮されない場合、ガイド線htが複雑になってしまう。これにより、かえって対応関係が検知し難くなる場合がある。続いて、操作メニューのサイズについて説明する。
[操作メニューのサイズ及び位置]
図8は、操作メニューのサイズ、及び、表示位置について説明する図である。同図は、サイズ、及び、表示位置の異なる2つの操作メニューMM3、MM4が表示される。同図において、同一の操作対象bA〜bDに対応して異なる操作メニューMM3、MM4が表示される。
図8の(A)は、操作対象bA〜bDに基づいてサイズ、及び、表示位置が設定される操作メニューMM3の一例である。同図の操作メニューMM3は、操作対象bA〜bDにおける一定の領域に基づいて、サイズが設定される。また、同図の操作メニューMM3の表示位置は、一定の領域の中心位置に基づいて設定される。操作対象bA〜bDにおける一定の領域とは、操作メニューMM3と重複させず、ユーザに視認可能にする非重複領域である。非重複領域に基づくことにより、操作メニューMM3のサイズは、操作対象bA〜bDが識別可能であって、操作対象bA〜bDに対して大き過ぎないサイズに設定される。
一方、図8の(B)は、サイズ、及び、表示位置が考慮されていない操作メニューMM4の一例を示す。同図において、操作メニューMM4のサイズは、操作対象bA〜bDに対して必要以上に大きい。また、操作メニューMM4の中心は、操作対象bA〜bDに対応する領域の中心から離れた位置にある。これにより、ユーザは、操作対象bA〜bDとの距離が近い項目を識別することが難しい。また、図示していないが、操作メニューMM4が、操作対象bA〜bDに対して小さすぎる場合、操作メニューが操作対象bA〜bDにおいて視認されるべき領域と重複する。これにより、ユーザは、操作対象bA〜bDを識別することができない。
このように、非重複領域に基づいて操作メニューのサイズが算出されることにより、ユーザは、操作対象bA〜bDを識別可能になると共に、操作対象bA〜bDの近くに位置する項目をより容易に検知可能になる。また、非重複領域の中心付近に操作メニューの中心が位置するように操作メニューが表示されることにより、ユーザは、操作対象bA〜bDにおける非重複領域の近くに位置する項目を容易に検知可能になる。
図9は、操作メニューと操作対象との重複について説明する図である。同図は、操作対象との重複度合いの異なる2つの操作メニューMM5、MM6が表示される。同図の(A)において、操作メニューMM5は、操作対象bE〜bHと重複していない。一方、同図の(B)において、操作メニューMM6は、操作対象bI〜bLの一部の領域と重複する。このように、操作メニューMMは、操作対象と重複しないように配置されてもよいし、操作対象と部分的に重複するように配置されてもよい。ただし、部分的に重複させる場合、操作対象を視認可能にするために、少なくとも非重複領域とは重複しないように配置される。なお、同図の(B)に示すように、操作メニューMM6における全ての領域が項目領域tmとして利用されなくてもよい。操作メニューの一部の領域についてのみ、項目の領域tmとして領域されてもよい。
このように、操作メニューについて、項目と操作対象との対応関係、サイズ、及び、表示位置が考慮されることによって、ユーザは、所望の操作対象に対応する項目を、探す手間を要することなく、より容易に、迅速に推定することができる。そこで、本実施の形態例における操作メニュー制御処理は、表示画面において、カーソル位置から基準範囲内に位置する1つまたは複数の操作対象を抽出する抽出工程と、抽出された操作対象と、項目との表示位置の距離に基づいて、操作対象と項目との対応関係を算出する項目対応算出工程とを有する。そして、操作メニュー制御処理は、算出された対応関係の表示位置に項目を有する操作メニューを表示する。
続いて、本実施の形態例における操作メニュー制御処理の流れについて説明する。
[操作メニュー制御処理の流れ]
図10は、本実施の形態例における操作メニュー制御プログラムPRの処理の流れについて説明するフローチャート図である。まず、位置取得部21は、ユーザの手の動きを検知し、カーソル位置の移動を指示するジェスチャが行われたか否かを検知する(S11)。ジェスチャが検出された場合(S11のYES)、位置取得部21は、ユーザの手の位置に対応した画面上のカーソル位置を算出する。
例えば、空間におけるユーザの手の位置の座標系は次のように設定される。空間における、表示装置の画面の水平方向はx軸(右方向が正)、垂直方向はy軸(下方向が正)として、画面の法線方向はz軸(画面から離れる方向が正)として設定される。位置取得部21は、所定の時間間隔で、手の位置の座標(x,y,z)を取得する。そして、取得した手の位置の座標に基づいて、画面上におけるカーソル座標(x,y)が計算される。このとき、カーソルの座標系は、画面の平面内の水平方向をx軸(右方向を正)、垂直方向をy軸(下方向を正)として設定される。
式1は、手の位置の座標(x,y,z)に基づいて、カーソルの座標(x,y)を算出する数式の一例である。式1において、a、b、a、bは、実数の定数である。実数の定数a、b、a、bは、表示画面の解像度等に基づいて、実験的に定められる。
Figure 0006236790
また、操作対象取得部22は、表示画面上の操作対象の位置、及び、形状を取得する。操作対象取得部22は、パン、ズーム等の処理によって表示画面の外に移動し、画面表示されてない操作対象については対象外とする。なお、本実施の形態例では、操作対象がwebページ内の矩形のリンクである場合について例示する。ただし、本実施の形態例における操作メニュー制御プログラムPRの処理は、リンク以外の操作対象や、矩形以外の操作対象に対しても有効である。
続いて、近傍取得部23は、操作対象取得部22によって取得された操作対象のうち、算出されたカーソル位置の近傍に位置する操作対象を取得する(S12)。具体的に、近傍取得部23は、取得された操作対象のうち、カーソル位置の基点として基準の距離範囲に位置する操作対象を取得する。近傍取得部23の処理の詳細については、具体例に基づいて後述する。
次に、中心算出部24及びスケール算出部25は、抽出した操作対象の領域に基づいて、操作メニューMMの表示位置、及び、操作メニューMMのサイズを算出する(S13)。具体的に、中心算出部24及びスケール算出部25は、操作対象上に設定される非重複領域に基づいて、操作メニューMMのサイズ及び表示位置を算出する。非重複領域は、操作メニューMMと重複させない領域であって、それぞれの操作対象において一様に設定される。非重複領域の設定処理、操作メニューMMのサイズ、及び、表示位置の算出処理の具体例については、後述する。
続いて、対応算出部26は、操作メニューMMについて、項目と、対応する操作対象との表示位置の距離に基づいて、項目と操作対象との対応関係を算出する(S14)。具体的に、対応算出部26は、操作対象と、対応する項目との表示位置の各距離の総和が最小となる対応関係を算出する。処理の具体例については、後述する。そして、画面表示部27は、中心算出部24、スケール算出部25、対応算出部26の結果に基づいて、表示画面に操作メニューMMを表示する(S15)。具体的に、画面表示部27は、中心算出部24によって算出された表示位置に、スケール算出部25によって算出されたサイズの操作メニューMMを表示する。また、表示される操作メニューMMは、対応算出部26によって算出された対応関係の表示位置に項目を有する。なお、画面表示部27は、図2の(B)に示したように、操作メニューMMの項目と操作対象を結ぶガイド線htや、アイコンyaをあわせて表示してもよい。
続いて、位置取得部21は、操作メニューMMの項目を選択するジェスチャを検知する(S16)。項目を選択するジェスチャが検出された場合(S16のYES)、選択された項目に対応する操作対象の表示位置にカーソルが移動され、操作対象が選択される(S17)。一方、操作メニューMMを選択するジェスチャが検知されない場合(S16のNO)、操作メニューMMの表示は解除され、位置を指示するジェスチャの検出工程(S11)に戻る。
なお、工程S15において、画面表示部27は、予め、設定された基準サイズの操作メニューMMを、基準表示位置に表示してもよい。即ち、画面表示部27は、操作メニューMMをパン・ズームさせるのではなく、操作対象を含めた表示コンテンツの方をパン・ズームさせてもよい。この場合、操作メニューMMのサイズ、及び、表示位置に合わせて、操作対象のサイズ、及び、表示位置が変更される。
表示コンテンツをパン・ズームさせる場合、スケール算出部25は、基準サイズの操作メニューMMと操作対象における非重複領域とが重複しない、操作対象のサイズを算出する。即ち、スケール算出部25は、非重複領域のサイズに反比例した値に基づいて、操作対象のサイズを算出する。そして、算出された操作対象のサイズに基づいて、少なくとも操作対象を含む表示コンテンツ(webページ)が拡大、または、縮小される。また、画面表示部27は、基準表示位置に表示された操作メニューMMの重心位置に、非重複領域の重心位置が重なるように、表示コンテンツの表示位置を移動させる。
このように、操作メニューMMのサイズが基準サイズに固定される場合、操作対象のサイズは、非重複領域のサイズに基づいて、操作対象が識別可能であって操作対象の近くに位置する項目をより容易に検知可能なサイズに変更(拡大、縮小)される。また、操作メニューMMの表示位置が基準表示位置に固定される場合、操作対象の表示位置は、非重複領域に基づいて、項目の近くに位置する操作対象をより容易に検知可能な表示位置に変更される。この結果、ユーザは、所望の操作対象に対応する項目をより容易に、迅速に検知可能になる。
なお、図4の操作メニューMM9、MM10のように、操作メニューは、必ずしも、操作対象を取り巻くように配置されなくてもよい。このような形態の操作メニューが表示される場合、表示位置、及び、サイズは算出されなくてもよい。画面表示部27は、例えば、操作対象の近隣に、対応算出部26によって算出された、操作対象と、対応する項目との表示位置の各距離の総和が最小となる対応関係を有する操作メニューMM9、MM10を表示する。このとき、画面表示部27は、操作対象における非重複領域と重ならない位置に、操作メニューを表示してもよい。
また、図4の操作メニューMM11のように、複数の操作対象の間に操作メニューM11が表示される場合、近傍取得部23は、カーソル位置から所定の範囲内に位置する操作対象を取得する。そして、中心算出部24及びスケール算出部25は、抽出した操作対象における非重複領域と重ならないサイズの操作メニューを、非重複領域と重ならない位置に表示する。このとき、操作メニューは、例えば、複数の非重複領域の重心位置と、重心位置が重なるように表示されてもよい。
続いて、フローチャート図における各工程の処理について、具体例に基づいて説明する。
[近傍の操作対象の抽出(S12)]
図11は、近傍の操作対象の抽出処理について説明する図である。同図において、5つの操作対象b1〜b5が例示される。例えば、操作対象b1〜b5は、webページ内のリンクである。この例では、カーソル位置ppから距離R以内に位置する操作対象b1〜b5であって、最大N個の操作対象b1〜b5が抽出される。例えば、N=4であるものとする。同図の例において、全ての操作対象b1〜b5が、カーソル位置ppから距離R以内に位置するものの、N個(4個)を超える。このため、操作対象b1〜b5のうち、斜線で示した、カーソル位置ppからの距離が近い上位4つの操作対象b2〜b5が抽出される。
式2は、カーソル位置ppの近傍の操作対象を取得する処理を示す式である。式2において、Wはすべての操作対象を、wはすべての操作対象のうち、表示画面内に表示される操作対象(図11の例では、b1〜b5)を示す。また、Pは抽出された操作対象の集合であって、Rはカーソル位置ppからの距離を示す定数である。また、式2において、関数d(w, p)は、表示画面内に位置する操作対象wの表示位置とカーソル位置ppとの距離を算出する関数である。
初期化
P ←φ
すべてのw∈W について
if d(w, pp) < R
P ← P∪w ・・・ 式2
式2によると、表示画面内に位置する操作対象wについて、カーソル位置ppとの距離が定数Rより小さい場合に、抽出対象の操作対象を示す集合Pに追加される。なお、抽出対象の操作対象の最大数がN個に設定される場合は、集合Pには、距離の小さい上位N個の操作対象が追加される。続いて、式2において、関数d(w, p)にしたがって算出される距離について具体的に説明する。
図12は、操作対象wとカーソル位置ppとの距離について説明する図である。なお、関数d(w, p)によって算出される距離は、この例に限定されるものではなく、いずれの方法に基づいてもよい。
図12の(A)は、操作対象b2(w)の領域にカーソル位置pp1がある場合を示す。この場合、関数d(w, p)によって算出される距離は0となる。また、同図の(B)は、操作対象b2の周辺にカーソル位置pp2、pp3がある場合を示す。この場合、操作対象b2の境界線上におけるいずれかの点とカーソル位置pp2、pp3とのユークリッド距離の最小値が距離として算出される。例えば、カーソル位置pp2の場合、最小となるユークリッド距離は操作対象b2の左下の頂点との距離D2となる。また、カーソル位置pp3の場合、操作対象b2の境界辺への垂線の距離D3が、最小のユークリッド距離を示す。
図12の(C−1)は、複数の操作対象b2〜b5におけるユークリッド距離の最小値について説明する。同図の例において、操作対象b2、b4、b5は当該操作対象の頂点との距離、操作対象b3は当該操作対象b3の縦辺への垂線の距離、が最小のユークリッド距離として算出される。また、同図の(C−2)は、関数d(w, p)の距離として、カーソル位置pp5と、操作対象b2〜b5の重心位置との距離が算出される場合を例示する。この場合、各操作対象b2〜b5について重心位置が算出され、カーソル位置pp5との距離が算出される。
[操作メニューのサイズ及び表示位置の算出(S13)]
続いて、図10のフローチャート図における工程13の処理について、具体的に説明する。操作メニューのサイズ、及び、表示位置を算出するために、操作対象について非重複領域が設定される。前述したとおり、操作メニューのサイズ、及び、表示位置は、それぞれの操作対象において設定される非重複領域に基づいて算出される。
[非重複領域]
非重複領域は、操作メニューと重複させない操作対象の一部または全部の領域であって、ユーザから視認可能にする領域である。本実施の形態例において、非重複領域は、例えば、各操作対象に対して一様に設定される、1つまたは複数のアンカー位置に基づいて設定される。例えば、アンカー位置は、矩形の操作対象の四隅に設定される。この場合、各操作対象に対して設定されるアンカー位置の数は4つである。または、アンカー位置は、操作対象における1つの頂点(例えば左上頂点)からの一定距離の位置や、操作対象の重心位置に設定される。または、アンカー位置は、操作対象の領域の外接円、または凸包における重心位置に設定される。これらの場合、各操作対象に対して設定されるアンカー位置の数は1つである。
例えば、操作対象の表示内容が、リンクのように文字列を含む場合、操作対象における文字列の開始位置を含む部分領域が非重複領域として設定されてもよい。操作対象が文字列によって表記される場合、ユーザは、文字列の開始部分を検知することによって、文字列全体の内容を推定可能になる。このため、少なくとも文字列の開始位置が非重複領域として設定されることにより、ユーザは、操作対象であるリンクの内容を識別可能になる。これにより、非重複領域が小さく抑えられ、操作メニューのサイズが大きくなり過ぎることが回避される。
[アンカー位置の設定例]
図13は、アンカー位置の設定例を示す図である。同図において、4つの操作対象bA〜bDが例示される。同図の(A)は、アンカー位置apが操作対象の4つの頂点に設定される場合の例である。この方法によると、操作対象bA〜bDの全ての領域が非重複領域として設定される。これは、例えば、ユーザが操作対象を識別するために、操作対象における全領域を視認することが有効である場合を示す。そして、すべてのアンカー位置apを内包する外接矩形B1が設定される。また、同図の(B)は、アンカー位置bpが、操作対象における左上頂点からの一定距離の位置に設定される場合の例である。この場合、操作対象bA〜bDの一部の領域が非重複領域として設定される。そして、すべてのアンカー位置bpを内包する外接矩形B2が設定される。
続いて、設定された外接矩形B1、B2のサイズに基づいて、操作メニューのサイズ、及び、表示位置が算出される。例えば、外接矩形B1、B2に対して余白が設けられた矩形のサイズにに基づいて、操作メニューのサイズが設定される。
[操作メニューのサイズの算出]
式3は、図13において生成された外接矩形B1,B2に余白が設けられた矩形B´を示す式である。式3において、座標(bx,by)は、外接矩形B1、B2の左上の座標を示す。また、値bwは外接矩形B1、B2の幅、値bhは外接矩形B1、B2の高さを示す。式3において、値s1〜s4は、外接矩形B1、B2の各辺に対応する余白の幅を示す定数である。具体的に、値s1は左方向、値s2は上方向、値s3は右方向、値s4は下方向における余白の幅を示す。または、余白の幅の値s1〜s4は、外接矩形B1、B2の幅bw、及び、高さbhに基づいて設定されてもよい。この場合、例えば、外接矩形B1、B2の幅bwおよび高さbhに所定の係数を乗じた値が、余白の幅の値s1〜s4として算出される。
外接矩形B1,B2=(bx, by, bw, bh)
矩形B´=(bx−s1, by−s2, bw+s1+s3, bh+s2+s4)
=(b‘x, b’y, b‘w, b’h) ・・・式3
続いて、式3に基づいて算出された矩形B‘の幅b’w、高さb‘hに基づいて、操作メニューのサイズが算出される。操作メニューの幅及び高さは、例えば、関数Max(b‘w, b’h)の値に比例して算出される。関数Max(b‘w, b’h)は、矩形B‘の幅b’w、高さb‘hのうち、より大きい値を算出する関数である。例えば、操作メニューが環状の操作メニューである場合、矩形B‘の幅b’w、高さb‘hのうち、より大きい値が操作メニューの直径として算出される。または、矩形B‘の幅b’w、高さb‘hのうち、より大きい値に比例したサイズが操作メニューの直径として算出される。
ただし、この例に限定されるものではない。例えば、操作メニューの幅及び高さは、矩形B‘の対角線の長さに比例して算出されてもよい。また、操作メニューのサイズは、余白を設けた矩形B´のサイズではなく、外接矩形B1、B2の対角線の長さに比例したサイズとして算出されてもよい。このように、操作メニューのサイズは、各操作対象における一部または全部の領域であって操作メニューと重複しない非重複領域に比例して算出される。これにより、非重複領域の配置の分布に基づいて、非重複領域と重複することなく、非重複領域の大きさに連動した操作メニューのサイズが算出可能になる。
[中心位置の算出]
また、矩形B‘の重心位置が、操作対象における非重複領域の中心位置として算出される。これにより、算出された矩形B´の重心位置と、操作メニューの重心位置とが重なるように、操作メニューが表示される。具体的に、矩形B´の重心位置の座標に、操作メニューの重心位置が重なるように、操作メニューが表示される。これにより、操作対象の近くに位置する項目の検知が容易になる。一方、前述したように、操作メニューをパン・ズームさせるのではなく、少なくとも操作対象を含む表示コンテンツをパン・ズームさせる場合、予め設定された基準表示位置に表示される操作メニューの重心位置の座標に、矩形B´の重心位置が重なるように表示コンテンツが移動される。この場合についても、同様にして、操作対象の近くに位置する項目の検知が容易になる。
[対応関係の算出(S14)]
図14は、操作対象bA〜bDと、操作メニューMMにおける項目m〜mとの対応関係の算出処理について説明する図である。同図において、4つの操作対象bA〜bDが例示される。また、操作メニューMMの8つの項目m〜mのうち、4つの項目について操作対象bA〜bDと対応付けられる。本実施の形態例において、操作対象bA〜bDと項目m〜mとの対応関係として、例えば、操作対象bA〜bDの代表位置x〜xと、項目m〜mの代表位置a(m)〜a(m)との距離の和が最小となる対応関係が算出される。ただし、この例に限定されるものではない。対応関係は、操作対象bA〜bDの代表位置x〜xと、項目m〜mの代表位置a(m)〜a(m)との少なくとも1つの距離が最小となるように算出されてもよい。
操作対象bA〜bDの代表位置x〜xは、各操作対象bA〜bDの領域を代表する1点の位置である。代表位置x〜xは、例えば、操作対象bA〜bDの領域における特定の位置(例えば左上頂点)からの所定距離の位置、操作対象bA〜bDの領域の重心、操作対象bA〜bDの領域の外接円または凸包の中心位置に設定される。この例において、代表位置x〜xは、操作対象bA〜bDの領域の重心位置に設定される。また、項目m〜mの代表位置a(m)〜a(m)は、各項目m〜mの領域を代表する1点の位置である。項目m〜mの代表位置a(m)〜a(m)についても、操作対象bA〜bDの代表位置x〜xと同様である。
式4は、操作対象bA〜bDの代表位置x〜xと、項目m〜mの代表位置a(m)〜a(m)との距離の和が最小になる対応関係を算出する式である。式4において、x(i=1, … ,N)は、操作対象bA〜bDの代表位置x〜xを示す。また、式4において、mci(ci=1, … ,M)は操作メニューにおける各項目を示し、a(mci)は、各項目における代表位置を示す。そして、関数d(x,a(mci))は、操作対象bA〜bDの代表位置x〜xと、項目m〜mの代表位置a(m)〜a(m)との距離を算出する関数を示す。関数d(x,a(mci))は、例えば、ユークリッド距離に基づく。
Figure 0006236790
式4に基づいて、操作対象bA〜bDと項目m〜mとの組み合わせ毎に、操作対象bA〜bDの代表位置x〜xと、項目m〜mの代表位置a(m)〜a(m)との距離の和Eが算出される。そして、距離の和Eが最小値となる組み合わせが、操作対象bA〜bDと項目m〜mの対応関係として算出される。これにより、操作対象bA〜bDはそれぞれ、近い距離に位置する項目m〜mと対応付けられる。
以上のようにして、本実施の形態例における操作メニュー制御プログラムの操作メニュー制御処理は、表示画面においてカーソル位置から基準範囲内に位置する1つまたは複数の操作対象を抽出する抽出工程と、抽出された操作対象と、項目との表示位置の距離に基づいて、操作対象と項目との対応関係を算出する項目対応算出工程と、算出された対応関係の表示位置に項目を有する操作メニューを表示する表示工程と、を有する。
これにより、本実施の形態例における操作メニュー制御プログラムは、抽出した各操作対象が、近くの項目と対応付けられた操作メニューを表示することができる。ユーザは、所望の操作対象の近くに位置する項目を検知することによって、所望の操作対象に対応する項目をより容易に、迅速に推定することができ、所望の操作対象に対応する項目を探す手間が省ける。これにより、操作メニュー制御プログラムは、表示画面上に位置する複数の操作対象の選択をより容易にする、効果的な操作メニューを表示することができる。
また、本実施の形態例における操作メニュー制御プログラムは、項目との表示位置の距離に基づいて、抽出した操作対象の領域の分布に応じた対応関係を算出する。これにより、抽出された操作対象の形状、及び、配置の分布に関わらず、操作メニューにおける項目は、より近くに位置する操作対象に対応付けられる。したがって、ユーザは、抽出された操作対象の形状、及び、配置分布に関わらず、所望の操作対象に対応する項目をより容易に、迅速に検知することができる。
また、本実施の形態例における操作メニュー制御処理において、項目対応算出工程は、操作対象と、対応する項目との表示位置の各距離の総和が最小となる対応関係を算出する。これにより、操作メニュー制御プログラムは、操作対象それぞれが近い距離に位置する項目と対応付けられた操作メニューを表示することができる。これにより、ユーザは、所望の操作対象に対応する項目を、より迅速に、より容易に検知することができる。
また、本実施の形態例における操作メニュー制御処理は、さらに、各操作対象における一部または全部の領域であって操作メニューと重複しない非重複領域に比例して、操作メニューのサイズを算出する第1のサイズ算出工程と、を有し、表示工程は、算出したサイズの操作メニューを、非重複領域と重複させずに表示する。これにより、操作メニュー制御プログラムは、非重複領域に基づいて、操作対象が識別可能であって、操作対象の近くに位置する項目をより容易に検知可能なサイズの操作メニューを表示することができる。これにより、ユーザは、所望の操作対象に対応する項目を、より容易に、迅速に推定することができる。
また、本実施の形態例における操作メニュー制御処理において、第1のサイズ算出工程は、非重複領域の外接図形の第1のサイズに比例する第2のサイズを、操作メニューのサイズとして算出する。これにより、操作メニュー制御プログラムは、非重複領域の配置の分布に基づいて、すべての操作対象を識別可能であって、操作対象の近くに位置する項目をより容易に検知可能なサイズの操作メニューを表示することができる。
また、本実施の形態例における操作メニュー制御処理において、操作メニューは、基準サイズであって、各操作対象における一部または全部の領域であって操作メニューと重複しない非重複領域に反比例して、操作対象のサイズを算出する第2のサイズ算出工程を有し、表示工程は、操作対象を算出したサイズに変更し、非重複領域と重複させずに操作メニューを表示する。
このように、操作メニュー制御プログラムは、操作メニューのサイズが、予め、基準サイズに固定される場合、操作対象のサイズを、非重複領域に基づいて、操作対象が識別可能であって操作対象の近くに位置する項目をより容易に検知可能なサイズに変更することができる。これにより、ユーザは、操作対象に対応する項目をより容易に、迅速に検知可能になる。
また、本実施の形態例における操作メニュー制御処理において、操作対象の表示は文字列を含み、非重複領域は、操作対象における文字列の開始位置を含む部分領域である。操作対象が文字列によって表記される場合、ユーザは、文字列の開始部分を検知することによって、文字列全体の内容を推定可能になる。このため、操作メニュー制御プログラムは、少なくとも、文字列の開始位置を非重複領域とすることにより、操作対象を識別可能にしながら、非重複領域を小さく抑えて操作メニューのサイズが大きくなり過ぎることを回避することができる。
また、本実施の形態例における操作メニュー制御処理は、さらに、操作メニューの重心位置、及び、非重複領域の外接図形の重心位置を算出する重心位置算出工程と、を有し、表示工程は、操作メニューの重心位置と、外接図形の重心位置とが重なるように操作メニューを表示する。このように、操作メニュー制御プログラムは、非重複領域の中心と操作メニューの中心とが一致するように操作メニューを表示する。これにより、ユーザは、操作対象の近くに位置する項目をより容易に検知可能になり、所望の操作対象に対応する項目をより容易に、迅速に検知可能になる。
また、本実施の形態例における操作メニュー制御処理において、表示工程は、操作対象の表示位置は変更せず、操作メニューの表示位置を変更して表示する。これにより、操作メニュー制御プログラムは、少なくとも操作対象を含む表示コンテンツの表示位置を固定させたまま、操作対象の近くに位置する項目をより容易に検知可能になる位置に、操作メニューを表示させることができる。これにより、ユーザは、所望の操作対象に対応する項目を迅速に検知可能になる。
または、本実施の形態例における操作メニュー制御処理において、表示工程は、操作メニューは基準表示位置に表示し、操作対象の表示位置を変更して表示する。これにより、操作メニュー制御プログラムは、操作メニューの表示位置を固定させ、少なくとも操作対象を含む表示コンテンツを、項目の近くに位置する操作対象をより容易に検知可能になる位置に移動させることができる。これにより、ユーザは、所望の操作対象に対応する項目を迅速に検知可能になる。
以上の実施の形態をまとめると、次の付記のとおりである。
(付記1)
表示画面において、操作対象がそれぞれ対応付けられた項目を有する操作メニューを表示する操作メニュー制御処理をコンピュータに実行させる操作メニュー制御プログラムであって、
前記操作メニュー制御処理は、
前記表示画面において、カーソル位置から基準範囲内に位置する1つまたは複数の操作対象を抽出する抽出工程と、
前記抽出された操作対象と、前記項目との表示位置の距離に基づいて、前記操作対象と前記項目との対応関係を算出する項目対応算出工程と、
前記算出された前記対応関係の表示位置に前記項目を有する操作メニューを表示する表示工程と、を有する操作メニュー制御プログラム。
(付記2)
付記1において、
前記項目対応算出工程は、前記操作対象と、対応する前記項目との表示位置の各距離の総和が最小となる前記対応関係を算出する操作メニュー制御プログラム。
(付記3)
付記1または2において、
前記操作メニュー制御処理は、さらに、
各前記操作対象における一部または全部の領域であって前記操作メニューと重複しない非重複領域に比例して、前記操作メニューのサイズを算出する第1のサイズ算出工程と、を有し、
前記表示工程は、前記算出したサイズの前記操作メニューを、前記非重複領域と重複させずに表示する操作メニュー制御プログラム。
(付記4)
付記3において、
前記第1のサイズ算出工程は、前記非重複領域の外接図形の第1のサイズに比例する第2のサイズを、前記操作メニューのサイズとして算出する操作メニュー制御プログラム。
(付記5)
付記1または2において、
前記操作メニューは、基準サイズであって、
前記操作メニュー制御処理は、さらに、
各前記操作対象における一部または全部の領域であって前記操作メニューと重複しない非重複領域に反比例して、前記操作対象のサイズを算出する第2のサイズ算出工程と、を有し、
前記表示工程は、前記操作対象を前記算出したサイズに変更し、前記非重複領域と重複させずに前記操作メニューを表示する操作メニュー制御プログラム。
(付記6)
付記3乃至5のいずれかにおいて、
前記操作対象の表示は文字列を含み、
前記非重複領域は、前記操作対象における前記文字列の開始位置を含む部分領域である操作メニュー制御プログラム。
(付記7)
付記3乃至6のいずれかにおいて、
前記表示制御処理は、さらに、
前記操作メニューの重心位置、及び、前記非重複領域の外接図形の重心位置を算出する重心位置算出工程と、を有し、
前記表示工程は、前記操作メニューの重心位置と、前記外接図形の重心位置とが重なるように前記操作メニューを表示する操作メニュー制御プログラム。
(付記8)
付記7において、
前記表示工程は、前記操作対象の表示位置は変更せず、前記操作メニューの表示位置を変更して表示する操作メニュー制御プログラム。
(付記9)
付記7において、
前記表示工程は、前記操作メニューは基準表示位置に表示し、前記操作対象の表示位置を変更して表示する操作メニュー制御プログラム。
(付記10)
付記1乃至9のいずれかにおいて、
前記操作メニューは、前記操作対象を取り巻く形状である操作メニュー制御プログラム。
(付記11)
付記1乃至10のいずれかにおいて、
前記操作メニューは、環状である操作メニュー制御プログラム。
(付記12)
表示画面において、操作対象がそれぞれ対応付けられた項目を有する操作メニューを表示する操作メニュー制御装置であって、
前記表示画面において、カーソル位置から基準範囲内に位置する1つまたは複数の操作対象を抽出する抽出手段と、
前記抽出された操作対象と、前記項目との表示位置の距離に基づいて、前記操作対象と前記項目との対応関係を算出する項目対応算出手段と、
前記算出された前記対応関係の表示位置に前記項目を有する操作メニューを表示する表示手段と、を有する操作メニュー制御装置。
(付記13)
表示画面において、操作対象がそれぞれ対応付けられた項目を有する操作メニューを表示する操作メニュー制御方法であって、
前記表示画面において、カーソル位置から基準範囲内に位置する1つまたは複数の操作対象を抽出する抽出工程と、
前記抽出された操作対象と、前記項目との表示位置の距離に基づいて、前記操作対象と前記項目との対応関係を算出する項目対応算出工程と、
前記算出された前記対応関係の表示位置に前記項目を有する操作メニューを表示する表示工程と、を有する操作メニュー制御方法。
100:操作メニュー制御装置、11:CPU、12:メモリ、13:ストレージ、14:入力装置、15:表示装置、16:ネットワーク装置

Claims (12)

  1. 表示画面において、操作対象がそれぞれ対応付けられた項目を有する操作メニューを表示する操作メニュー制御処理をコンピュータに実行させる操作メニュー制御プログラムであって、
    前記操作メニュー制御処理は、
    前記表示画面において、カーソル位置から基準範囲内に位置する複数の操作対象を抽出する抽出工程と、
    前記抽出された操作対象と、前記項目との表示位置の距離に基づいて、前記操作対象と対応する前記項目との各距離の総和が最小となる前記操作対象と前記項目との対応関係を算出する項目対応算出工程と、
    前記項目に対する操作に応答して、前記対応関係に基づいた、当該項目に対応する操作対象を選択する制御工程と、を有する操作メニュー制御プログラム。
  2. 請求項1において、
    前記操作メニュー制御処理は、さらに、
    各前記操作対象における一部または全部の領域であって前記操作メニューと重複しない非重複領域に比例して、前記操作メニューのサイズを算出する第1のサイズ算出工程と、を有し、
    前記制御工程は、前記算出したサイズの前記操作メニューを、前記非重複領域と重複させずに表示する操作メニュー制御プログラム。
  3. 請求項2において、
    前記第1のサイズ算出工程は、前記非重複領域の外接図形の第1のサイズに比例する第2のサイズを、前記操作メニューのサイズとして算出する操作メニュー制御プログラム。
  4. 請求項1において、
    前記操作メニューは、基準サイズであって、
    前記操作メニュー制御処理は、さらに、
    各前記操作対象における一部または全部の領域であって前記操作メニューと重複しない非重複領域に反比例して、前記操作対象のサイズを算出する第2のサイズ算出工程と、を有し、
    前記制御工程は、前記操作対象を前記算出したサイズに変更し、前記非重複領域と重複させずに前記操作メニューを表示する操作メニュー制御プログラム。
  5. 請求項2乃至4のいずれかにおいて、
    前記操作対象の表示は文字列を含み、
    前記非重複領域は、前記操作対象における前記文字列の開始位置を含む部分領域である操作メニュー制御プログラム。
  6. 請求項2乃至5のいずれかにおいて、
    前記操作メニューの重心位置、及び、前記非重複領域の外接図形の重心位置を算出する重心位置算出工程と、をさらに有し、
    前記制御工程は、前記操作メニューの重心位置と、前記外接図形の重心位置とが重なるように前記操作メニューを表示する操作メニュー制御プログラム。
  7. 請求項6において、
    前記制御工程は、前記操作対象の表示位置は変更せず、前記操作メニューの表示位置を変更して表示する操作メニュー制御プログラム。
  8. 請求項6において、
    前記制御工程は、前記操作メニューは基準表示位置に表示し、前記操作対象の表示位置を変更して表示する操作メニュー制御プログラム。
  9. 請求項1乃至8のいずれかにおいて、
    前記操作メニューは、前記操作対象を取り巻く形状である操作メニュー制御プログラム。
  10. 請求項1乃至9のいずれかにおいて、
    前記操作メニューは、環状である操作メニュー制御プログラム。
  11. 表示画面において、操作対象がそれぞれ対応付けられた項目を有する操作メニューを表示する操作メニュー制御装置であって、
    前記表示画面において、カーソル位置から基準範囲内に位置する複数の操作対象を抽出する抽出手段と、
    前記抽出された操作対象と、前記項目との表示位置の距離に基づいて、前記操作対象と対応する前記項目との各距離の総和が最小となる前記操作対象と前記項目との対応関係を算出する項目対応算出手段と、
    前記項目に対する操作に応答して、前記対応関係に基づいた、当該項目に対応する操作対象を選択する制御手段と、を有する操作メニュー制御装置。
  12. 表示画面において、操作対象がそれぞれ対応付けられた項目を有する操作メニューを表示する操作メニュー制御方法であって、
    前記表示画面において、カーソル位置から基準範囲内に位置する複数の操作対象を抽出する抽出工程と、
    前記抽出された操作対象と、前記項目との表示位置の距離に基づいて、前記操作対象と対応する前記項目との各距離の総和が最小となる前記操作対象と前記項目との対応関係を算出する項目対応算出工程と、
    前記項目に対する操作に応答して、前記対応関係に基づいた、当該項目に対応する操作対象を選択する制御工程と、を有する操作メニュー制御方法。
JP2013019395A 2013-02-04 2013-02-04 操作メニュー制御プログラム、操作メニュー制御装置、及び、操作メニュー制御方法 Expired - Fee Related JP6236790B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2013019395A JP6236790B2 (ja) 2013-02-04 2013-02-04 操作メニュー制御プログラム、操作メニュー制御装置、及び、操作メニュー制御方法
US14/098,709 US20140223367A1 (en) 2013-02-04 2013-12-06 Method of controlling operation menu and apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013019395A JP6236790B2 (ja) 2013-02-04 2013-02-04 操作メニュー制御プログラム、操作メニュー制御装置、及び、操作メニュー制御方法

Publications (2)

Publication Number Publication Date
JP2014149778A JP2014149778A (ja) 2014-08-21
JP6236790B2 true JP6236790B2 (ja) 2017-11-29

Family

ID=51260426

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013019395A Expired - Fee Related JP6236790B2 (ja) 2013-02-04 2013-02-04 操作メニュー制御プログラム、操作メニュー制御装置、及び、操作メニュー制御方法

Country Status (2)

Country Link
US (1) US20140223367A1 (ja)
JP (1) JP6236790B2 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6115153B2 (ja) * 2013-01-30 2017-04-19 株式会社リコー 情報処理端末、情報処理方法及びプログラム
FR3024262B1 (fr) * 2014-07-24 2017-11-17 Snecma Dispositif d'aide a la maintenance d'un moteur d'aeronef par reconnaissance de mouvement a distance.
USD768685S1 (en) * 2015-04-29 2016-10-11 Adp, Llc Display screen with an animated graphical user interface
JP6647103B2 (ja) * 2016-03-23 2020-02-14 キヤノン株式会社 表示制御装置およびその制御方法
JP7118656B2 (ja) * 2018-02-08 2022-08-16 キヤノン株式会社 情報処理装置、その制御方法、及びプログラム

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6448986B1 (en) * 1999-09-07 2002-09-10 Spotware Technologies Llc Method and system for displaying graphical objects on a display screen
US20070136690A1 (en) * 2005-12-12 2007-06-14 Microsoft Corporation Wedge menu
JP2010165291A (ja) * 2009-01-19 2010-07-29 Funai Electric Co Ltd 表示装置および拡大表示方法
JP5476790B2 (ja) * 2009-05-13 2014-04-23 富士通株式会社 電子装置、表示方法および表示プログラム
JP5589309B2 (ja) * 2009-06-03 2014-09-17 富士ゼロックス株式会社 表示制御装置、画像処理装置、及びプログラム
TWI450128B (zh) * 2011-12-05 2014-08-21 Wistron Corp 手勢偵測方法、手勢偵測系統及電腦可讀取儲存媒體
JP5987366B2 (ja) * 2012-03-07 2016-09-07 ソニー株式会社 情報処理装置、情報処理方法およびコンピュータプログラム

Also Published As

Publication number Publication date
JP2014149778A (ja) 2014-08-21
US20140223367A1 (en) 2014-08-07

Similar Documents

Publication Publication Date Title
US9684439B2 (en) Motion control touch screen method and apparatus
US10379733B2 (en) Causing display of a three dimensional graphical user interface with dynamic selectability of items
KR102482595B1 (ko) 지도 정보 제공 방법 및 이를 지원하는 전자 장치
US10627990B2 (en) Map information display device, map information display method, and map information display program
US20190199956A1 (en) Image processing system, image processing method, and program
US20200004487A1 (en) Object moving program
JP6236790B2 (ja) 操作メニュー制御プログラム、操作メニュー制御装置、及び、操作メニュー制御方法
US20170300227A1 (en) Method for adjusting input virtual keyboard and input apparatus
JP6171643B2 (ja) ジェスチャ入力装置
JP5489377B1 (ja) 表示装置、表示方法及び表示プログラム
US9323437B2 (en) Method for displaying scale for enlargement and reduction operation, and device therefor
KR20160050682A (ko) 전자장치의 화면 표시 제어 방법 및 장치
JP2010086519A5 (ja)
US9170680B2 (en) Method, system and computer program product for operating a touchscreen
EP2778880B1 (en) Method for controlling display function and an electronic device thereof
JP2012022632A (ja) 情報処理装置およびその制御方法
KR101330531B1 (ko) 3차원 카메라를 이용한 가상 터치 방법 및 장치
US20140247220A1 (en) Electronic Apparatus Having Software Keyboard Function and Method of Controlling Electronic Apparatus Having Software Keyboard Function
JP2013168144A (ja) イメージ表示方法及びその装置
US9483173B2 (en) Information processor input button display that prevents selection of undesired button
JP6524762B2 (ja) コンテンツ表示制御方法、コンテンツ表示制御装置およびコンテンツ表示制御プログラム
JP4856136B2 (ja) 移動制御プログラム
JP2015125457A (ja) 情報処理装置、その情報処理方法、プログラム、及び記憶媒体
KR20150000278A (ko) 디스플레이 장치 및 제어 방법
US8731824B1 (en) Navigation control for a touch screen user interface

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20151007

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160829

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160913

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20161114

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170314

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170512

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20171003

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20171016

R150 Certificate of patent or registration of utility model

Ref document number: 6236790

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees