JP2015049661A - 操作性評価尺度に基づくgui変換プログラム、装置及びgui変換方法 - Google Patents

操作性評価尺度に基づくgui変換プログラム、装置及びgui変換方法 Download PDF

Info

Publication number
JP2015049661A
JP2015049661A JP2013180488A JP2013180488A JP2015049661A JP 2015049661 A JP2015049661 A JP 2015049661A JP 2013180488 A JP2013180488 A JP 2013180488A JP 2013180488 A JP2013180488 A JP 2013180488A JP 2015049661 A JP2015049661 A JP 2015049661A
Authority
JP
Japan
Prior art keywords
gui
conversion
destination
operation object
conversion source
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2013180488A
Other languages
English (en)
Other versions
JP6076864B2 (ja
Inventor
俊晃 上向
Toshiaki Kamiko
俊晃 上向
加藤 恒夫
Tsuneo Kato
恒夫 加藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
KDDI Corp
Original Assignee
KDDI Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by KDDI Corp filed Critical KDDI Corp
Priority to JP2013180488A priority Critical patent/JP6076864B2/ja
Publication of JP2015049661A publication Critical patent/JP2015049661A/ja
Application granted granted Critical
Publication of JP6076864B2 publication Critical patent/JP6076864B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • User Interface Of Digital Computer (AREA)
  • Selective Calling Equipment (AREA)
  • Position Input By Displaying (AREA)

Abstract

【課題】入力デバイス及び出力デバイスの種類及びスペックが異なる情報機器間において、搭載されたアプリケーションのGUIを変換することができるプログラムを提供する。【解決手段】本GUI変換プログラムは、変換元GUI情報に基づいて操作オブジェクトに対する変換元操作性評価尺度を算出する手段と、変換先のGUIにおける操作方法に従って操作される操作オブジェクトに対する変換先操作性評価尺度を算出する手段と、操作オブジェクトを互いの位置関係に基づいて分類したグループ毎に、グループに属する操作オブジェクトのみを含むGUI領域を設定する手段と、変換元操作性評価尺度と変換先操作性評価尺度との相違の度合いに基づいて、変換元のGUIを分割するか否かを判定する操作体系判定手段と、分割すると判定された変換元のGUIを分割して変換先のGUIを決定する変換先GUI生成手段としてコンピュータを機能させる。【選択図】図2

Description

本発明は、情報機器に搭載されたアプリケーションのグラフィカルユーザインタフェース(GUI)を構築する技術に関する。
近年、情報機器の多種多様化に伴い、1つの機器に搭載されたアプリケーションを他の機器においても使用したいとのニーズが高まっている。この際、多くの場合において搭載先の機器に応じてGUIを構築し直さなければならない。しかしながら、情報機器の入力デバイス間および出力デバイス間での仕様(スペック)の相違がこの構築を困難にしている。
このGUIの再構築に関して、例えば、特許文献1は、異なる入出力デバイスを備えた情報端末について、各端末に応じたユーザインタフェース画面を簡便に生成する技術を開示している。具体的には、端末に備えられたデバイスの数や大きさなどの情報をまとめたハードウェア情報を準備し、さらに、アプリケーションソフトウェア内でメニューボタンに関する情報を取得する。次いで、これらの情報に基づいて各メニューボタンに機能を割り当てている。
特開2010−267168号公報
現在、情報機器の入力デバイス及び出力デバイスとして、物理的なハードウェアボタンを用いたもののみならず、タッチセンサやタッチパネル、さらには赤外線等による近距離無線通信を利用した操作端末といった種々のデバイスが使用されている。また、タッチパネル・ディスプレイのように入出力が一体となったデバイスも普及している。
しかしながら、特許文献1に記載の技術のような従来技術では、ハードウェアボタンを用いた入力デバイスを備え、その入力デバイスとディスプレイ等の出力デバイスとが分離している端末を想定したGUIの構築が前提となっている。従って、例えば、ハードウェアボタンとディスプレイとを主要な入出力デバイスとした従来の携帯電話機の間でのGUIの再構築は可能であるが、タッチパネル・ディスプレイを備えたスマートフォンやタブレット型コンピュータの間ではこの再構築は困難である。
さらに、近距離無線通信を利用して入力信号を出力デバイスに伝送する操作端末についても、この操作端末とディスプレイ等の出力デバイスとに合わせたGUIの再構築は、従来技術では非常に困難となる。
そこで、本発明は、入力デバイス及び出力デバイスの種類及びスペックが異なる情報機器間において、搭載されたアプリケーションのGUIを変換することができるプログラム、装置及び変換方法を提供することを目的とする。
本発明によれば、操作オブジェクトを表示可能な情報機器に搭載されたアプリケーションのGUIを変換するGUI変換プログラムであって、
変換元の操作オブジェクトに係る情報である変換元GUI情報に基づいて、操作オブジェクト毎に、当該操作オブジェクトに対する操作タスクを完了させるのに要する時間に対応する変換元操作性評価尺度を算出する変換元GUI特徴量算出手段と、
操作オブジェクト毎に、変換先のGUIにおける操作方法に従って実行される当該操作オブジェクトに対する操作タスクを完了させるのに要する時間に対応する変換先操作性評価尺度を算出する変換先GUI特徴量算出手段と、
変換元のGUIにおける操作オブジェクトの互いの位置関係に基づいて操作オブジェクトを複数のグループに分類し、グループ毎に、当該グループに属する操作オブジェクトのみを含むGUI領域を設定するGUI領域設定手段と、
設定されたGUI領域に含まれる操作オブジェクトについて算出された変換元操作性評価尺度と変換先操作性評価尺度との相違の度合いに基づいて、変換元のGUIを分割するか否かを判定する操作体系判定手段と、
操作体系判定手段によって分割すると判定された変換元のGUIを分割して変換先のGUIを決定する変換先GUI生成手段と
してコンピュータを機能させるGUI変換プログラムが提供される。
この本発明のGUI変換プログラムでは、一実施形態として、所定の操作タスクを完了させるために操作が必要となる操作オブジェクトを含むGUI領域に対し、この所定の操作タスクに応じた重要度を付与する重要度設定手段としてコンピュータを更に機能させ、
操作体系判定手段は、算出された変換元操作性評価尺度及び変換先操作性評価尺度と、付与された重要度とに基づいて、変換元のGUIを分割するか否かを判定することも好ましい。
さらに、上記の実施形態において、操作体系判定手段は、設定されたGUI領域に含まれる操作オブジェクトについて、変換先操作性評価尺度の合計と変換元操作性評価尺度の合計との差もしくは比が所定の尺度閾値以上である場合、及び/又はGUI領域の重要度が所定の重要度閾値以上である場合、GUI領域を独立させて変換元のGUIを分割することも好ましい。
また、本発明に係る変換元操作性評価尺度及び変換先操作性評価尺度は、対応する操作オブジェクトの表示位置、対応する操作オブジェクトの大きさ、対応する操作オブジェクトに対する操作タスクを完了させるために必要な操作数、及び変換元のGUIにおける操作オブジェクトの配置に係る情報のうちの複数の組合せに基づいて算出されることも好ましい。
さらに、本発明のGUI変換プログラムの他の実施形態として、変換元GUI特徴量算出手段は、開始点から操作オブジェクトの中心までの距離Dと操作動作の方向でのこの操作オブジェクトの幅Wとに基づきフィッツの法則(Fitts's Law)を用いて算出した操作時間を、操作オブジェクトの変換元操作性評価尺度とすることも好ましい。
また、本発明のGUI変換プログラムの更なる他の実施形態として、変換先GUI特徴量算出手段は、
操作オブジェクトを変換先操作方法で決定又は選択するのに要する操作回数と、
この操作オブジェクトを変換先操作方法で決定又は選択する際に設定されたGUI領域間の境界を跨ぐ回数mとこの操作オブジェクトの属していないGUI領域での操作回数nとに基づいて算出される複雑度と
に基づいて算出した操作時間を、操作オブジェクトの変換先操作性評価尺度とすることも好ましい。
さらに、本発明のGUI変換プログラムの更なる他の実施形態として、GUI領域設定手段は、各操作オブジェクトについて操作オブジェクトの大きさに応じた広さを有する外周領域を設定し、設定された外周領域が互いに重畳する操作オブジェクト同士を同一のグループに属するものとして操作オブジェクトを複数のグループに分類することも好ましい。
また、上述した重要度設定手段を機能させる実施形態において、1つのGUI領域の重要度は、変換元の当該アプリケーションの所定期間での操作履歴における、当該GUI領域内のいずれかの操作オブジェクトが操作された回数の全操作回数に対する割合に基づいて算出されることも好ましい。
本発明によれば、また、操作オブジェクトを表示可能な情報機器に搭載されたアプリケーションのGUIを変換する装置であって、
変換元の操作オブジェクトに係る情報である変換元GUI情報に基づいて、操作オブジェクト毎に、操作オブジェクトに対する操作タスクを完了させるのに要する時間に対応する変換元操作性評価尺度を算出する変換元GUI特徴量算出手段と、
操作オブジェクト毎に、変換先のGUIにおける操作方法に従って実行される操作オブジェクトに対する操作タスクを完了させるのに要する時間に対応する変換先操作性評価尺度を算出する変換先GUI特徴量算出手段と、
変換元のGUIにおける操作オブジェクトの互いの位置関係に基づいて操作オブジェクトを複数のグループに分類し、グループ毎に、当該グループに属する操作オブジェクトのみを含むGUI領域を設定するGUI領域設定手段と、
設定されたGUI領域に含まれる操作オブジェクトについて算出された変換元操作性評価尺度と変換先操作性評価尺度との相違の度合いに基づいて、変換元のGUIを分割するか否かを判定する操作体系判定手段と、
操作体系判定手段によって分割すると判定された変換元のGUIを分割して変換先のGUIを決定する変換先GUI生成手段と
を有する装置が提供される。
本発明によれば、さらに、操作オブジェクトを表示可能な情報機器に搭載されたアプリケーションのGUIを変換するGUI変換方法であって、
変換元の操作オブジェクトに係る情報である変換元GUI情報に基づいて、操作オブジェクト毎に、当該操作オブジェクトに対する操作タスクを完了させるのに要する時間に対応する変換元操作性評価尺度を算出する第1のステップと、
操作オブジェクト毎に、変換先のGUIにおける操作方法に従って実行される当該操作オブジェクトに対する操作タスクを完了させるのに要する時間に対応する変換先操作性評価尺度を算出する第2のステップと、
変換元のGUIにおける操作オブジェクトの互いの位置関係に基づいて操作オブジェクトを複数のグループに分類し、グループ毎に、当該グループに属する操作オブジェクトのみを含むGUI領域を設定する第3のステップと、
設定されたGUI領域に含まれる操作オブジェクトについて算出された変換元操作性評価尺度と変換先操作性評価尺度との相違の度合いに基づいて、変換元のGUIを分割するか否かを判定する第4のステップと、
第4のステップで分割すると判定された変換元のGUIを分割して変換先のGUIを決定する第5のステップと
を有するGUI変換方法が提供される。
本発明のGUI変換プログラム、GUI変換装置及びGUI変換方法によれば、入力デバイス及び出力デバイスの種類及びスペックが異なる情報機器間において、搭載されたアプリケーションのGUIを変換することができる。
本発明によるGUI変換の一実施例を説明するための模式図である。 本発明によるGUI変換装置の一実施形態としてのSTBの機能構成図である。 変換元GUI情報及び変換元端末・操作情報の一実施例を示す模式図である。 GUI領域設定の一実施例を示す模式図である。 変換先操作性評価尺度の算出方法の一実施例を示す模式図である。 本発明によるGUI変換方法の一実施形態を示すフローチャートである。
以下では、本発明の実施形態について、図面を用いて詳細に説明する。
図1は、本発明によるGUI変換の一実施例を説明するための模式図である。
図1(A)によれば、情報機器であるスマートフォン2は、所定のアプリケーションを起動しており、タッチパネル・ディスプレイの表示画面に、このアプリケーションのGUIとしてアイコン1〜8を表示している。アイコン1〜8は、ユーザによる操作を受け付ける仮想ボタンとしての操作オブジェクトである。さらに、同表示画面には、画像を表示するエリアであるIMG及びテキストを表示するエリアであるTXTも表示されている。IMG及びTXTはユーザによる操作を受け付けない非操作オブジェクトである。
ここで、アイコン1〜8のうちの1つを指でタップすることによって、予めそのアイコンに対応付けられた機能を発動させることができる。特に、本実施例では、アイコン5を指でタップすることによって、例えばアイコン1〜4を用いて選択した又は移動させた何らかの表示されたオブジェクトの選択・位置を決定することができる。さらに、アイコン6〜8は、例えば起動しているアプリケーションにおける3つの機能モードにそれぞれ対応しており、アイコン6〜8のうちの1つをタップすることによって、3つの機能モードのうちの1つを選択することができる。
また、スマートフォン2は、このようなアイコン1〜8を表示しその機能を発動させるためのGUI情報(「変換元GUI情報」)を有している。
図1(B)によれば、情報機器であって本発明によるGUI変換装置であるセットトップボックス(STB)1は、スマートフォン2で起動している図1(A)で示したアプリケーションを起動させることができる。この際、STB1にとって、入力デバイスは物理的な十字配置ボタン(上下左右及び決定ボタン)を備えた操作端末(リモコン)となる。リモコンは、赤外線等を利用した無線通信方法によって、十字配置ボタンに対しユーザによって実行された操作情報をSTB1の本体に伝送する。さらに、STB1にとって、出力デバイスはSTB1と接続されたテレビのディスプレイとなる。
ここで、本発明のGUI変換装置でもあるSTB1は、図1(A)で示したアプリケーションを起動させる際、変換先となるSTB1の入出力デバイス(リモコン及びテレビのディスプレイ)に適合したGUIを生成する。具体的には、
(a)最初に、変換元であるスマートフォン2で表示されたアイコン1〜8に係る情報である「変換元GUI情報」を取得する。
(b)次いで、取得した「変換元GUI情報」に基づいて、アイコン毎に、当該アイコンに対する(タップによる)操作タスクを完了させるのに要する時間に対応する「変換元操作性評価尺度」を算出する。
(c)次いで、アイコン毎に、変換先であるSTB1のGUIにおける操作方法(十字配置ボタンを使った操作法)に従って実行されるアイコンに対する操作タスクを完了させるのに要する時間に対応する「変換先操作性評価尺度」を算出する。
(d)次いで、変換元であるスマートフォン2のGUIにおけるアイコン1〜8の互いの位置関係に基づいてアイコン1〜8を複数のグループに分類し、グループ毎に、当該グループに属するアイコンのみを含む「GUI領域」を設定する。
(e)次いで、所定の操作タスクを完了させるために操作が必要となるアイコンを含む「GUI領域」に対し、この所定の操作タスクに応じた「重要度」を付与する。
(f)次いで、設定された「GUI領域」に含まれるアイコンについて算出された「変換元操作性評価尺度」と「変換先操作性評価尺度」との相違の度合いに基づいて、変換元のGUIを分割するか否かを判定する。ここで、これらの尺度間の相違の度合いに加えて付与された「重要度」にも基づいて判定することも好ましい。
(g)最後に、分割すると判定された変換元のGUIを分割して変換先のGUIを決定する。
図1(B)に示された変換先のGUIは、以上に述べた(a)〜(g)のプロセスによって生成されたGUIである。具体的には、上記(d)で、それぞれアイコン1〜4、アイコン5及びアイコン6〜8を含む3つの「GUI領域」が設定される。ここで、後に詳細に説明する「変換元操作性評価尺度」及び「変換先操作性評価尺度」(及び「重要度」)に基づいて、図1(A)に示した変換元(スマートフォン2)のGUIを、これら3つの「GUI領域」に対応した形で分割するとの判定を行う。次いで、変換元(スマートフォン2)のGUIを分割して、これら3つの「GUI領域」のそれぞれに対応する、図1(B)に示したような3つの画面画像に分割された変換先のGUIが決定される。
図1(B)において、第1の画面画像は、3つの「GUI領域」のうちアイコン5を含む「GUI領域」に対応する画像である。ここでは、アイコン5が表示されるとともに、新たな操作オブジェクトであるアイコンa及びアイコンbが追加されている。
このうち、アイコンaは、タップされることによって、画面画像を第2の画面画像に遷移させるために設置された操作オブジェクトである。遷移先の第2の画面画像は、アイコン1〜4を含む「GUI領域」に対応する画像であり、アイコン1〜4を表示している。一方、アイコンbは、タップされることによって、画面画像を第3の画面画像に遷移させるために設置された操作オブジェクトである。遷移先の第3の画面画像は、アイコン6〜8を含む「GUI領域」に対応する画像であり、アイコン6〜8を表示している。
第2の画面画像においては、アイコン1〜4が画面縦方向一列に配列しており、リモコンの「上」ボタン及び「下」ボタンによって、アイコン1〜4のいずれかの選択(フォーカス)状態を、隣接したアイコンのフォーカス状態に遷移させることができる。例えば、アイコン3がフォーカスされた状態で「下」ボタンを押下すると、アイコン4がフォーカスされた状態に移行する。
さらに、アイコン4が選択された状態で「決定」ボタンを押下すると、画面画像が第1の画面画像に戻る。これは、図1(A)に示した変換元のアイコン4をタップしたことに相当する。ここで、さらに「決定」ボタンを押下すると、アイコン5を指でタップすることに相当し、例えば何らかの表示されたオブジェクトを決定することができる。
ここで、図1(A)に示したGUIは、スマートフォン2のタッチパネル・ディスプレイの比較的小さい画面内にアイコン1〜8を密に並べており、1つの画面画像でユーザの指によって種々の操作をするのに適している。これに対し、本発明のGUI変換装置であるSTB1で変換されたGUIは、複数の(本実施例では3つの)画面画像にわたるものであり、各画面画像ではリモコンの比較的簡素なハードウェアボタンでも容易に選択可能なように、比較的単純なアイコン配置をとっている。
その結果、スマートフォン2の入出力デバイスであるタッチパネル・ディスプレイに適したGUIで操作されるアプリケーションを、リモコン及びテレビディスプレイという入出力デバイスに適したGUIで操作して簡便に使用することができる。
以上に説明したように、本発明のGUI変換装置であるSTB1において、変換元であるスマートフォン2で起動しているアプリケーションのGUIを、変換先であるSTB1についての入出力デバイスに適したGUIに変換することができる。すなわち、本発明によれば、入力デバイス及び出力デバイスの種類及びスペックが異なる情報機器間において、搭載されたアプリケーションのGUIを変換することが可能となることが理解される。
図2は、本発明によるGUI変換装置の一実施形態としてのSTB1の機能構成図である。
図2によれば、STB1は、入出力インタフェース101と、表示・入力部102と、変換元GUI情報蓄積部111と、変換元端末・操作情報蓄積部112と、変換先端末・操作情報蓄積部113と、変換先GUI情報蓄積部114と、プロセッサ・メモリとしての機能構成部とを備えている。ここで、機能構成部(プロセッサ・メモリ)は、STB1に搭載されたコンピュータを機能させるプログラムを実行することによって、その機能を実現する。
この機能構成部(プロセッサ・メモリ)は、変換元GUI特徴量算出部121と、変換先GUI特徴量算出部122と、GUI領域設定部123と、重要度設定部124と、操作体系判定部125と、変換先GUI生成部126と、入出力制御部131と、表示・入力制御部132と、アプリケーション処理部133とを有している。
[変換元・変換先情報]
入出力インタフェース101(図2)は、外部(例えばアプリケーション配信サーバ又はスマートフォン2)から変換元GUI情報及び変換元端末・操作情報を取得し、それぞれ変換元GUI情報蓄積部111及び変換元端末・操作情報蓄積部112に蓄積する。
図3は、変換元GUI情報及び変換元端末・操作情報の一実施例を示す模式図である。
図3(A)によれば、変換元であるスマートフォン2でのGUIは、図1(A)で示したように、操作オブジェクトであるアイコン1〜8と非操作オブジェクトであるIMG及びTXTとを有している。図3(B)によれば、変換元GUI情報は、これらのアイコン又は非操作オブジェクトの位置や大きさ(表示位置範囲)等を規定したものである。図3(A)では、変換元GUIについて1つの画面画像のみを示しているが、複数の画面画像を有する場合、変換元GUI情報は各画面画像について操作オブジェクト及び非操作オブジェクトについての表示位置範囲情報等を規定する。さらに、図3(C)によれば、変換元端末情報は、入力デバイス(タッチパネル、ハードウェアボタン)及び出力デバイス(ディスプレイ)のサイズや方式、機能を規定したものである。
変換先端末・操作情報蓄積部113(図2)は、変換先であるSTB1の入力デバイス(リモコン)及び出力デバイス(テレビディスプレイ)のサイズや方式、機能を規定したものである。また、変換先GUI情報蓄積部114は、本発明によるGUI変換方法(プログラム)によって、変換先(STB1)に適合した形に変換されたGUIを保存する。
[変換元操作性評価尺度]
変換元GUI特徴量算出部121(図2)は、変換元の操作オブジェクトに係る情報である(例えば図3(B)の)変換元GUI情報に基づいて、操作オブジェクト毎に「変換元操作性評価尺度」を算出する。「変換元操作性評価尺度」は、操作オブジェクトに対する操作タスクを完了させるのに要する時間に対応する操作性の指標である。「変換元操作性評価尺度」は、(a)対応する操作オブジェクトの表示位置、(b)対応する操作オブジェクトの大きさ、(c)対応する操作オブジェクトに対する操作タスクを完了させるために必要な操作数、及び(d)変換元のGUIにおける操作オブジェクトの配置に係る情報のうちの複数の組合せに基づいて算出可能である。
1つのアイコン(操作オブジェクト)に対する「変換元操作性評価尺度」算出の一実施例として、フィッツの法則(Fitts's Law)を用いることができる。フィッツの法則は、マンマシンインタフェースにおける人間の動作をモデル化し、対象の領域にまで移動するのに要する時間が対象までの距離と対象の大きさとの関数となると推測するものである。
本実施例では、1つのアイコンの「変換元操作性評価尺度」は、このフィッツの法則で算出される、ユーザの指が開始点からこのアイコンに対する操作を完了するまでの平均所用時間Tに一致するものとする。この平均所用時間Tは、
(1) T=a+blog2(1+D/W)
として算出される。ここで、aは装置の開始・停止時間であり、bはデバイスの速度に依存した係数である。また、Dは開始点からアイコンの中心までの距離であり、Wは操作動作の方向でのアイコンの幅Wである。(1)式から、T値そのものである「変換元操作性評価尺度」は、アイコンが(画面内で)遠い位置にあったり小さかったりした場合により多くの操作時間がかかる事情を勘案して操作性の尺度を導出したものであることが理解される。
ここで、アイコン5(図1(A))の「変換元操作性評価尺度」を算出する。アイコン5の場合、(1)式における距離Dは60(mm)であって幅Wは20(mm)であり、a=0及びb=0.15秒(sec)とすると、「変換元操作性評価尺度」(平均所用時間T)は、0+0.15×log2(1+600/200)=0.3(sec)となる。
[GUI領域設定]
GUI領域設定部123(図2)は、変換元であるスマートフォン2のGUIにおける操作オブジェクトの互いの位置関係に基づいて操作オブジェクトを複数のグループに分類し、グループ毎に、当該グループに属する操作オブジェクトのみを含む「GUI領域」を設定する。
図4は、GUI領域設定の一実施例を示す模式図である。
「GUI領域」設定にあたり、最初に、図4(A)に示すアイコン1〜8同士の位置関係に基づいてアイコン1〜8を複数のグループに分類する。ここで、まず、アイコン(操作オブジェクト)1〜8の各々について当該アイコンの大きさに応じた広さを有する外周領域を設定する。図4(B)では、高さがt4であって幅がw4であるアイコン4の外周領域として、アイコン4を中央に据えており高さが3t4であって幅が3w4である領域が設定されている。
次いで、設定された外周領域が互いに重畳するアイコン同士を同一のグループに属するものとしてアイコン1〜8を複数のグループに分類する。具体的に図4(B)に示した外周領域を採用すると、アイコン1〜4の各外周領域はアイコン1〜4の中で隣接するアイコンの外周領域と互いに重畳し、アイコン5の外周領域はいずれのアイコンの外周領域とも重畳せず、アイコン6〜8の各外周領域はアイコン6〜8の中で隣接するアイコンの外周領域と互いに重畳する。このことから、図4(C)に示すように、アイコン1〜4のみを含む「GUI領域」1と、アイコン5のみを含む「GUI領域」2と、アイコン6〜8のみを含む「GUI領域」3とが設定される。
尚、IMGやTXT等の非操作オブジェクトについても同様に外周領域を設定し、操作オブジェクトと合わせて「GUI領域」に所属させてもよい。また、外周領域内にフレーム分割境界が存在する場合、このフレーム分割境界を境にしてグループを更に分けて別グループとすることも好ましい。ここで、フレーム分割境界は、HTMLでのFrameタグで区切られた境界や、AndroidでのFrameRayoutなどのタグで区切られた境界を指す。
[変換先操作性評価尺度]
変換先GUI特徴量算出部122(図2)は、操作オブジェクト毎に「変換先操作性評価尺度」を算出する。「変換先操作性評価尺度」は、変換先のGUIにおける操作方法に従って実行される操作オブジェクトに対する操作タスクを完了させるのに要する時間に対応する操作性の指標である。この「変換先操作性評価尺度」は、(a)対応する操作オブジェクトの表示位置、(b)対応する操作オブジェクトの大きさ、(c)対応する操作オブジェクトに対する操作タスクを完了させるために必要な操作数、及び(d)変換元のGUIにおける操作オブジェクトの配置に係る情報のうちの複数の組合せに基づいて算出可能である。
ここで、1つのアイコン(操作オブジェクト)についての「変換先操作性評価尺度」算出の一実施例として、
(α)このアイコンを変換先操作方法で決定又は選択するのに要する操作回数Nと、
(β)このアイコンを変換先操作方法で決定又は選択する際に、設定された「GUI領域」間の境界を跨ぐ回数mと、このアイコンの属していない「GUI領域」での操作回数nとに基づいて算出される操作複雑度Cと
に基づいて算出した操作時間を、このアイコンの「変換先操作性評価尺度」とする。例えば、
(2) (変換先操作性評価尺度)=c×(N+C),C=m×n
とすることができる。ここで、cは変換先のデバイスに依存した係数であり、1回当たりの操作に要する時間を示す量である。
図5は、変換先操作性評価尺度の算出方法の一実施例を示す模式図である。
以下、アイコン5(図1(A))の「変換先操作性評価尺度」の算出を説明する。図5(A)によれば、上記(α)操作回数N及び上記(β)操作複雑度Cを算出するのに使用される変換先操作方法は、リモコン(図1(B))における上下左右ボタン及び決定ボタンの押下である。この変換先操作方法をもってアイコン5を決定するのに要する操作回数Nは、図5(B)に示したように、フォーカスが「下」ボタンの押下によってアイコン1から順次移動してアイコン5に至り次いで「決定」ボタンが押下される一連の操作での押下回数であって5である(N=5)。尚、アイコンのフォーカス移動と決定とを同時に行うためのショートカットアイコンが割り当てられている場合、操作回数Nは1となる。
また、リモコン(図1(B))における変換先操作方法をもって、変換元のGUIのアイコン5を決定する際に設定された「GUI領域」間の境界を跨ぐ回数mは、アイコン4からアイコン5への移動の際に「GUI領域」1と「GUI領域」2との境界を跨ぐときの1(回)である(m=1)。さらに、アイコン5の属していない「GUI領域」での操作回数nは、アイコン1〜4でのタップの回数であって4となる(n=4)。従って、操作複雑度C(=m×n)は、1×4であって4となる(C=4)。
これらの結果を式(2)に代入し、係数c=1.1(sec)とすると、アイコン5の「変換先操作性評価尺度」は、1.1×(5+4)=9.9(sec)と算出される。
尚、操作回数N、跨ぐ回数m及び操作回数nは、対象アプリケーションを実際に操作した際のログを分析して取得したり、対象アプリケーションのソースコードを解析して取得したりすることができる。
[重要度]
重要度設定部124(図2)は、所定の操作タスクを完了させるために操作が必要となる操作オブジェクトを含む「GUI領域」に対し、この所定の操作タスクに応じた「重要度」を付与する。具体的には、全ての「GUI領域」の「重要度」の合計を1とし、各「GUI領域」に「重要度」を所定の取り決めによって割り振る。
本実施例では、所定の操作タスクは上下左右ボタン及び決定ボタンの押下である。ここで、図5(B)の「GUI領域」1、2及び3にそれぞれ変数p1、p2及びp3を対応付け、「GUI領域」1、2及び3の「重要度」を、それぞれ
p1/(p1+p2+p3)、p2/(p1+p2+p3)及びp3/(p1+p2+p3)
と定義する。
これらの変数p1、p2及びp3の値は、以下の通りに決定することができる。即ち、所定期間における変換元のアプリケーションでの操作履歴(ログ)において、「GUI領域」毎に、当該「GUI領域」内のいずれかのアイコンが選択(操作)された回数(選択回数)を集計する。次いで、「GUI領域」1〜3での選択回数を、それぞれ変数p1、p2及びp3の値とする。ここで、例えば、変数p1、p2及びp3の値(「GUI領域」1〜3での選択回数)がそれぞれ10(回)、35(回)及び5(回)であったとすると、「GUI領域」1、2及び3の「重要度」はそれぞれ0.2、0.7及び0.1に設定される。
尚、「重要度」の設定は本実施例に限定されるものではなく、例えば、変数p1、p2及びp3の値として、それぞれ「GUI領域」1〜3の面積を採用することも可能である。また、「GUI領域」1〜3での選択回数及び面積をともに考慮して「重要度」を設定することもできる。この場合、例えば、「GUI領域」1〜3での(選択回数)×(面積)の計算結果をそれぞれ変数p1、p2及びp3の値としてもよい。さらに、例えば、左上に位置する「GUI領域」に対して所定の「重要度」分を加点する取り決めをしてもよい。
[変換先GUI生成]
操作体系判定部125(図2)は、設定された「GUI領域」に含まれる操作オブジェクトについて算出された「変換元操作性評価尺度」と「変換先操作性評価尺度」との相違の度合いに基づいて、変換元のGUIを分割するか否かを判定する。ここで、「変換元操作性評価尺度」及び「変換先操作性評価尺度」に加えて、各「GUI領域」に付与された「重要度」にも基づいて、変換元のGUIを分割するか否かを判定することも好ましい。
具体的には、操作体系判定部125は、
(a)設定された「GUI領域」に含まれる操作オブジェクトについて、「変換先操作性評価尺度」の合計と「変換元操作性評価尺度」の合計との差もしくは比が所定の尺度閾値Sth以上である場合、及び/又は
(b)「GUI領域」の「重要度」が所定の重要度閾値Ith以上である場合、
この「GUI領域」を独立させて変換元のGUIを分割することが好ましい。
本実施例においては、例えば「GUI領域」2では、「変換先操作性評価尺度」の合計は、アイコン5の「変換先操作性評価尺度」に相当し、上述した計算結果より0.3(sec)である。一方、「変換先操作性評価尺度」の合計は、アイコン5の「変換先操作性評価尺度」に相当し、上述した計算結果より9.9(sec)である。ここで、尺度の差に関する尺度閾値Sthが3(sec)とすると、「変換先操作性評価尺度」の合計と「変換元操作性評価尺度」の合計との差(9.6(sec))は尺度閾値Sth(3(sec))以上であるから、「GUI領域」2を独立させて変換元のGUIを分割することが判定される。また、本実施例では、同様にして、「GUI領域」1も独立させて分割することが判定される。
さらに、本実施例において、所定の重要度閾値Ithが0.15であるとすると、「GUI領域」1の重要度(0.2)及び「GUI領域」2の重要度(0.7)はいずれもこの重要度閾値Ith(0.15)以上であるので、「GUI領域」1及び「GUI領域」2を独立させて変換元のGUIを分割することを判定してもよい。この際、「変換先操作性評価尺度」の合計と「変換元操作性評価尺度」の合計との差が所定の尺度閾値Sth以上であることに加えて、「重要度」が重要度閾値Ith以上であることを、分割するとの判定を行う条件とすることもできる。
変換先GUI生成部126(図2)は、操作体系判定部125によって分割すると判定された変換元のGUIを分割して変換先のGUIを決定する。本実施例では、「GUI領域」1及び「GUI領域」2を独立させて分割すると判定されているので、結局、変換先のGUIは、図1(B)に示した第1の画面画像、第2の画面画像及び第3の画面画像の3つに決定される。
尚、分割された各画面画像をつなぐために、例えば、画面画像下部に、図1(B)に示した「a」及び「b」アイコンや、「次へ」とキャプション表示したアイコンを追加することも好ましい。また、画面画像の遷移前のGUIでの操作オブジェクトに対する操作完了後、自動的に遷移先の画面画像(GUI)に遷移する機能を付与することも好ましい。さらには、画面画像の総数のうち、何画像目かを示すための「パンくずリスト」(breadcrumb list)機能を付与してもよい。また、それまでの操作オブジェクトによって完了した操作内容を、完了した次以降の画面画像や最終画面画像に表示し、確認させる機能や前の画面画像に戻れる機能を付与することも好ましい。
入出力制御部131(図2)は、入出力インタフェース101を介した、STB機能に係る情報の受信又は送信を制御する。表示・入力部102(図2)は、例えばディスプレイ及びハードウェアボタン又はタッチパネル・ディスプレイであり、STB機能に係る情報を表示し、STBに対する入力操作を受け付ける。また、表示・入力制御部132(図2)は、表示・入力部102の動作を制御する。アプリケーション処理部133(図2)は、STBの機能に係るアプリケーションの動作を制御する。
尚、変換先GUI生成部126で新たに変換されたGUIを、テレビディスプレイ(図1(B))に表示する代わりに表示・入力制御部132(図2)に表示して、リモコンで操作してもよい。この場合、GUIの変換は、表示・入力部102の変換先端末・操作情報を考慮して実行される。
図6は、本発明によるGUI変換方法の一実施形態を示すフローチャートである。
以下、本発明のGUI変換装置としてのSTB1におけるGUI変換を説明する。
(S601)変換元GUI情報蓄積部111(図2)から「変換元GUI情報」を読み込む。
(S602)変換元端末・操作情報蓄積部112(図2)から変換元端末情報を読み込む。
(S603)変換先端末・操作情報蓄積部113(図2)から変換先端末情報を読み込む。
(S604)「変換元GUI情報」を変換テンプレートと照合する。ここで、変換テンプレートは、変換元端末情報と変換先端末情報との対応毎に、過去の変換事例として、変換の頻度の高いGUI情報をGUI情報パターンして記録したものである。
(S605)「変換元GUI情報」と一致する変換テンプレートが存在するか否かを判定する。ここで、「変換元GUI情報」の操作オブジェクトと、変換テンプレートのGUI情報における対応する操作オブジェクトとの位置関係に関する類似度を算出し、この類似度が所定閾値を超える場合、「変換元GUI情報」と変換テンプレートとが一致すると判定してもよい。この類似度としては、「変換元GUI情報」の操作オブジェクトの表示位置範囲と、変換テンプレートのGUI情報における対応する操作オブジェクト表示位置範囲の重畳部分の、画面全体に対する割合とすることができる。
ステップS605で真の判定(一致する変換テンプレートが存在するとの判定)を行った場合、この変換テンプレートに基づいて変換先GUI情報を作成し(ステップS621)、本GUI変換のフローを終了する。一方、ステップS605で偽の判定(一致する変換テンプレートが存在しないとの判定)を行った場合、ステップS606に移行する。
(S606)「変換元GUI情報」に基づいて「変換元操作性評価尺度」を算出する。
(S607)「変換元GUI情報」から「GUI領域」を設定する。
(S608)変換先操作方法に基づいて「変換先操作性評価尺度」を算出する。
(S609)「GUI領域」毎の「重要度」を設定する。
(S610)「変換元操作性評価尺度」と「変換先操作性評価尺度」と「重要度」とに基づいて、設定した「GUI領域」を独立させてGUIを分割するか否かを判定する
(S611)判定結果に基づいてGUIを分割しつつ変換先GUI情報を作成する。
(S612)作成した変換先GUI情報を出力する。
以上、詳細に説明したように、本発明によれば、入力デバイス及び出力デバイスの種類及びスペックが異なる情報機器間において、搭載されたアプリケーションのGUIを変換することができる。この際、「変換元操作性評価尺度」及び「変換先操作性評価尺度」の間の相違(さらには「重要度」)に基づき、設定した「GUI領域」に沿って分割した変換先のGUIを実現する。従って、入出力デバイスの変化に伴う操作性の低下を抑制して十分な操作性を確保した、且つ変換先の入出力デバイスに適合したGUIが提供される。
これにより、例えば、入出力デバイスがタッチパネル・ディスプレイであって1つの画面画像で種々の操作を受け入れるGUIを、入出力デバイスがリモコン(ハードボタン)及びディスプレイであって複数の画面画像を切り換えて各画面で比較的単純な操作を受け入れるGUIに変換することができる。
尚、本発明のGUI変換プログラムは、STB1のような変換先の装置のみならず、スマートフォン2のような変換元の装置や、全く別に設けられたGUI変換装置でも搭載可能である。
以上に述べた本発明の種々の実施形態について、本発明の技術思想及び見地の範囲での種々の変更、修正及び省略は、当業者によれば容易に行うことができる。以上に述べた説明はあくまで例であって、何ら発明の範囲を制約しようとするものではない。本発明は、特許請求の範囲及びその均等物として限定するものにのみ制約される。
1 STB(情報機器)
101 入出力インタフェース
102 表示・入力部
111 変換元GUI情報蓄積部
112 変換元端末・操作情報蓄積部
113 変換先端末・操作情報蓄積部
114 変換先GUI情報蓄積部
121 変換元GUI特徴量算出部
122 変換先GUI特徴量算出部
123 GUI領域設定部
124 重要度設定部
125 操作体系判定部
126 変換先GUI生成部
131 入出力制御部
132 表示・入力制御部
133 アプリケーション処理部
2 スマートフォン(情報機器)

Claims (10)

  1. 操作オブジェクトを表示可能な情報機器に搭載されたアプリケーションのグラフィカルユーザインタフェース(GUI)を変換するGUI変換プログラムであって、
    変換元の操作オブジェクトに係る情報である変換元GUI情報に基づいて、操作オブジェクト毎に、当該操作オブジェクトに対する操作タスクを完了させるのに要する時間に対応する変換元操作性評価尺度を算出する変換元GUI特徴量算出手段と、
    操作オブジェクト毎に、変換先のGUIにおける操作方法に従って実行される当該操作オブジェクトに対する操作タスクを完了させるのに要する時間に対応する変換先操作性評価尺度を算出する変換先GUI特徴量算出手段と、
    変換元のGUIにおける当該操作オブジェクトの互いの位置関係に基づいて当該操作オブジェクトを複数のグループに分類し、グループ毎に、当該グループに属する操作オブジェクトのみを含むGUI領域を設定するGUI領域設定手段と、
    設定されたGUI領域に含まれる操作オブジェクトについて算出された当該変換元操作性評価尺度と当該変換先操作性評価尺度との相違の度合いに基づいて、変換元のGUIを分割するか否かを判定する操作体系判定手段と、
    前記操作体系判定手段によって分割すると判定された変換元のGUIを分割して変換先のGUIを決定する変換先GUI生成手段と
    してコンピュータを機能させることを特徴とするGUI変換プログラム。
  2. 所定の操作タスクを完了させるために操作が必要となる操作オブジェクトを含むGUI領域に対し、該所定の操作タスクに応じた重要度を付与する重要度設定手段としてコンピュータを更に機能させ、
    前記操作体系判定手段は、算出された当該変換元操作性評価尺度及び当該変換先操作性評価尺度と、付与された当該重要度とに基づいて、変換元のGUIを分割するか否かを判定する
    ことを特徴とする請求項1に記載のGUI変換プログラム。
  3. 前記操作体系判定手段は、設定されたGUI領域に含まれる操作オブジェクトについて、当該変換先操作性評価尺度の合計と当該変換元操作性評価尺度の合計との差もしくは比が所定の尺度閾値以上である場合、及び/又は該GUI領域の重要度が所定の重要度閾値以上である場合、該GUI領域を独立させて変換元のGUIを分割する
    ことを特徴とする請求項2に記載のGUI変換プログラム。
  4. 当該変換元操作性評価尺度及び当該変換先操作性評価尺度は、対応する操作オブジェクトの表示位置、対応する操作オブジェクトの大きさ、対応する操作オブジェクトに対する操作タスクを完了させるために必要な操作数、及び変換元のGUIにおける操作オブジェクトの配置に係る情報のうちの複数の組合せに基づいて算出される
    ことを特徴とする請求項1から3のいずれか1項に記載のGUI変換プログラム。
  5. 前記変換元GUI特徴量算出手段は、開始点から操作オブジェクトの中心までの距離Dと操作動作の方向での該操作オブジェクトの幅Wとに基づきフィッツの法則(Fitts's Law)を用いて算出した操作時間を、該操作オブジェクトの変換元操作性評価尺度とすることを特徴とする請求項1から4のいずれか1項に記載のGUI変換プログラム。
  6. 前記変換先GUI特徴量算出手段は、
    操作オブジェクトを変換先操作方法で決定又は選択するのに要する操作回数と、
    該操作オブジェクトを変換先操作方法で決定又は選択する際に設定されたGUI領域間の境界を跨ぐ回数mと該操作オブジェクトの属していないGUI領域での操作回数nとに基づいて算出される複雑度と
    に基づいて算出した操作時間を、該操作オブジェクトの変換先操作性評価尺度とすることを特徴とする請求項1から5のいずれか1項に記載のGUI変換プログラム。
  7. 前記GUI領域設定手段は、各操作オブジェクトについて当該操作オブジェクトの大きさに応じた広さを有する外周領域を設定し、設定された外周領域が互いに重畳する操作オブジェクト同士を同一のグループに属するものとして当該操作オブジェクトを複数のグループに分類することを特徴とする請求項1から6のいずれか1項に記載のGUI変換プログラム。
  8. 1つのGUI領域の重要度は、変換元の当該アプリケーションの所定期間での操作履歴における、当該GUI領域内のいずれかの操作オブジェクトが操作された回数の全操作回数に対する割合に基づいて算出されることを特徴とする請求項2又は3に記載のGUI変換プログラム。
  9. 操作オブジェクトを表示可能な情報機器に搭載されたアプリケーションのGUIを変換する装置であって、
    変換元の操作オブジェクトに係る情報である変換元GUI情報に基づいて、操作オブジェクト毎に、当該操作オブジェクトに対する操作タスクを完了させるのに要する時間に対応する変換元操作性評価尺度を算出する変換元GUI特徴量算出手段と、
    操作オブジェクト毎に、変換先のGUIにおける操作方法に従って実行される当該操作オブジェクトに対する操作タスクを完了させるのに要する時間に対応する変換先操作性評価尺度を算出する変換先GUI特徴量算出手段と、
    変換元のGUIにおける当該操作オブジェクトの互いの位置関係に基づいて当該操作オブジェクトを複数のグループに分類し、グループ毎に、当該グループに属する操作オブジェクトのみを含むGUI領域を設定するGUI領域設定手段と、
    設定されたGUI領域に含まれる操作オブジェクトについて算出された当該変換元操作性評価尺度と当該変換先操作性評価尺度との相違の度合いに基づいて、変換元のGUIを分割するか否かを判定する操作体系判定手段と、
    前記操作体系判定手段によって分割すると判定された変換元のGUIを分割して変換先のGUIを決定する変換先GUI生成手段と
    を有することを特徴とする装置。
  10. 操作オブジェクトを表示可能な情報機器に搭載されたアプリケーションのGUIを変換するGUI変換方法であって、
    変換元の操作オブジェクトに係る情報である変換元GUI情報に基づいて、操作オブジェクト毎に、当該操作オブジェクトに対する操作タスクを完了させるのに要する時間に対応する変換元操作性評価尺度を算出する第1のステップと、
    操作オブジェクト毎に、変換先のGUIにおける操作方法に従って実行される当該操作オブジェクトに対する操作タスクを完了させるのに要する時間に対応する変換先操作性評価尺度を算出する第2のステップと、
    変換元のGUIにおける当該操作オブジェクトの互いの位置関係に基づいて当該操作オブジェクトを複数のグループに分類し、グループ毎に、当該グループに属する操作オブジェクトのみを含むGUI領域を設定する第3のステップと、
    設定されたGUI領域に含まれる操作オブジェクトについて算出された当該変換元操作性評価尺度と当該変換先操作性評価尺度との相違の度合いに基づいて、変換元のGUIを分割するか否かを判定する第4のステップと、
    第4のステップで分割すると判定された変換元のGUIを分割して変換先のGUIを決定する第5のステップと
    を有することを特徴とするGUI変換方法。
JP2013180488A 2013-08-30 2013-08-30 操作性評価尺度に基づくgui変換プログラム、装置及びgui変換方法 Active JP6076864B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013180488A JP6076864B2 (ja) 2013-08-30 2013-08-30 操作性評価尺度に基づくgui変換プログラム、装置及びgui変換方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013180488A JP6076864B2 (ja) 2013-08-30 2013-08-30 操作性評価尺度に基づくgui変換プログラム、装置及びgui変換方法

Publications (2)

Publication Number Publication Date
JP2015049661A true JP2015049661A (ja) 2015-03-16
JP6076864B2 JP6076864B2 (ja) 2017-02-08

Family

ID=52699643

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013180488A Active JP6076864B2 (ja) 2013-08-30 2013-08-30 操作性評価尺度に基づくgui変換プログラム、装置及びgui変換方法

Country Status (1)

Country Link
JP (1) JP6076864B2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20200092452A (ko) * 2019-01-04 2020-08-04 울산과학기술원 Gui 디자인에 대한 피드백을 제공하는 방법 및 장치
EP3865990A1 (en) 2020-02-17 2021-08-18 Fujitsu Limited Information processing apparatus, information processing program, and information processing system

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09212324A (ja) * 1996-02-07 1997-08-15 Fujitsu General Ltd 情報表示端末
JP2000312391A (ja) * 1999-04-27 2000-11-07 Matsushita Electric Ind Co Ltd 機器制御装置、制御装置、双方向リモコン装置および被制御装置
JP2003330715A (ja) * 2002-05-08 2003-11-21 Docomo Communications Laboratories Usa Inc 異種装置プラットフォーム間をマイグレーションするプラットフォーム特定型のグラフィカルユーザインターフェイスのウィジェットのレイアウト
JP2005267450A (ja) * 2004-03-19 2005-09-29 Clarion Co Ltd 情報処理装置、その制御方法及びプログラム
WO2011161966A1 (ja) * 2010-06-25 2011-12-29 パナソニック株式会社 制御装置およびスクリプト変換方法
JP2012014496A (ja) * 2010-07-01 2012-01-19 Nec Corp Gui解析装置、方法、及び、プログラム

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09212324A (ja) * 1996-02-07 1997-08-15 Fujitsu General Ltd 情報表示端末
JP2000312391A (ja) * 1999-04-27 2000-11-07 Matsushita Electric Ind Co Ltd 機器制御装置、制御装置、双方向リモコン装置および被制御装置
JP2003330715A (ja) * 2002-05-08 2003-11-21 Docomo Communications Laboratories Usa Inc 異種装置プラットフォーム間をマイグレーションするプラットフォーム特定型のグラフィカルユーザインターフェイスのウィジェットのレイアウト
JP2005267450A (ja) * 2004-03-19 2005-09-29 Clarion Co Ltd 情報処理装置、その制御方法及びプログラム
WO2011161966A1 (ja) * 2010-06-25 2011-12-29 パナソニック株式会社 制御装置およびスクリプト変換方法
JP2012014496A (ja) * 2010-07-01 2012-01-19 Nec Corp Gui解析装置、方法、及び、プログラム

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
JPN6016048876; 椎尾 一郎: ヒューマンコンピュータインタラクション入門 第1版, 20101210, p.145-157, 株式会社サイエンス社 *

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20200092452A (ko) * 2019-01-04 2020-08-04 울산과학기술원 Gui 디자인에 대한 피드백을 제공하는 방법 및 장치
KR102225356B1 (ko) * 2019-01-04 2021-03-09 울산과학기술원 Gui 디자인에 대한 피드백을 제공하는 방법 및 장치
EP3865990A1 (en) 2020-02-17 2021-08-18 Fujitsu Limited Information processing apparatus, information processing program, and information processing system
US11520453B2 (en) 2020-02-17 2022-12-06 Fujitsu Limited Information processing apparatus, program, and system for a display capable of determining continuous operation and range determination of multiple operators operating multiple objects

Also Published As

Publication number Publication date
JP6076864B2 (ja) 2017-02-08

Similar Documents

Publication Publication Date Title
US9389779B2 (en) Depth-based user interface gesture control
US9317131B2 (en) System and method for generating a representative computerized display of a user'S interactions with a touchscreen based hand held device on a gazed-at screen
EP3690624B1 (en) Display device and method of controlling the same
CN103729136B (zh) 用于视觉反馈删除的方法和设备
KR102059648B1 (ko) 디스플레이 장치 및 그 제어 방법
US9965039B2 (en) Device and method for displaying user interface of virtual input device based on motion recognition
KR102102157B1 (ko) 복수 어플리케이션을 실행하는 디스플레이 장치 및 그 제어 방법
CN106155480A (zh) 一种应用程序的界面显示方法及移动终端
CN110168487A (zh) 一种触摸控制方法及装置
CN105824531A (zh) 数值调整方法及装置
CN103294371A (zh) 电子设备、控制该电子设备的方法
KR20140003149A (ko) 사용자 맞춤형 인터페이스 시스템 및 그 구현 방법
KR20200125558A (ko) 디스플레이 장치 및 그 제어 방법
CN105446468A (zh) 操控模式的切换方法及装置
JP6076864B2 (ja) 操作性評価尺度に基づくgui変換プログラム、装置及びgui変換方法
KR101799838B1 (ko) 단계적 정보 제공 시스템
KR101491648B1 (ko) 촬영부를 이용한 원격 제어 시스템 및 방법
KR20160139376A (ko) 디스플레이 장치 및 이의 제어 방법
CN104063077A (zh) 一种触控输入方法及装置
KR20160097392A (ko) 디스플레이 장치 및 이의 ui 제공 방법
KR20140103631A (ko) 유저 인터페이스를 통한 입력 처리 장치 및 방법
KR20220061921A (ko) 증강현실제공 서버가 이동 단말기에 증강현실정보를 제공하는 방법 및 증강현실제공 서버
CN115469786A (zh) 显示设备及绘画对象选择方法
KR101262018B1 (ko) 입출력 관계 그래프 설정 장치
KR20200047284A (ko) 증강현실제공 서버가 이동 단말기에 증강현실정보를 제공하는 방법 및 증강현실제공 서버

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160303

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20161220

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20161221

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170111

R150 Certificate of patent or registration of utility model

Ref document number: 6076864

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150