JP2013501262A - 統合ユーザインターフェース生成方法及びそれを行う装置 - Google Patents

統合ユーザインターフェース生成方法及びそれを行う装置 Download PDF

Info

Publication number
JP2013501262A
JP2013501262A JP2012522767A JP2012522767A JP2013501262A JP 2013501262 A JP2013501262 A JP 2013501262A JP 2012522767 A JP2012522767 A JP 2012522767A JP 2012522767 A JP2012522767 A JP 2012522767A JP 2013501262 A JP2013501262 A JP 2013501262A
Authority
JP
Japan
Prior art keywords
user interface
application
integrated
providing
widget
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2012522767A
Other languages
English (en)
Other versions
JP5795582B2 (ja
Inventor
パク,キュン−モ
ワン,ソ−ヨン
ソン,ジェ−イェオン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Samsung Electronics Co Ltd
Original Assignee
Samsung Electronics Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Samsung Electronics Co Ltd filed Critical Samsung Electronics Co Ltd
Publication of JP2013501262A publication Critical patent/JP2013501262A/ja
Application granted granted Critical
Publication of JP5795582B2 publication Critical patent/JP5795582B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44Arrangements for executing specific programs
    • G06F9/451Execution arrangements for user interfaces

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Software Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • User Interface Of Digital Computer (AREA)
  • Stored Programmes (AREA)
  • Input From Keyboards Or The Like (AREA)

Abstract

個々のアプリケーションユーザインターフェースを結合して、統合ユーザインターフェースを生成する方法及び装置を提供する。当該装置は、個々のユーザインターフェース提供装置からアプリケーションユーザインターフェースを受信し、それらのアプリケーションユーザインターフェースを結合して、統合ユーザインターフェースを生成し、その統合ユーザインターフェースを表示する。統合ユーザインターフェースからアプリケーションユーザインターフェースが選択されると、選択されたアプリケーションユーザインターフェースに関係する特定の機能が実行されるように、当該装置は、機能実行信号を、対応する端末に送信する。

Description

本発明は、ユーザインターフェースを生成する方法及びそれを行う装置に関し、特に外部の通信エンティティから受信された個々のアプリケーションユーザインターフェースを結合し、1つの統合ユーザインターフェースを生成する方法及びそれを行う装置に関する。
ユーザインターフェースは、ユーザと事物または端末などの間で意思疎通が可能になるように一時的または永久的に情報をやりとりすることを目的で作られた物理的、仮想的媒介体を意味する。また、ユーザインターフェースは、ユーザが端末を操作するための入力と、端末に表示される応答または結果を示す出力とに分類されることができる。
ユーザインターフェースは、端末製造業者により提供され、端末に一度格納されたユーザインターフェースは、再加工したり、修正したりすることができない。しかし、端末で処理することができるデータが多様になり、その量が多くなるにつれて、それを処理するために提供されたユーザインターフェースも多様になっている。言い換えれば、ユーザインターフェースは、単純なイメージやテキストだけを提供する従来のサービス形態から1つのコンテンツとしてテキスト、オーディオ、ビデオ、フォント、イメージ、グラフィックなどのような様々なデータが混合した形態で提供されるリッチメディア(Rich−media)サービス形態に発展している。
前記リッチメディアサービスを提供するための国際標準規格としては、BIFS(BInary Format for Scene)、LASeR(Light−weight Application Scene Representation)などがある。前記LASeRは、通信及び放送の応用技術が多様なメディア要素を利用して、より効果的な情報伝達を行える方法を提供できるように進化するにつれて、シーン記述(Scene Description)、ビデオ(video)、オーディオ(audio)、イメージ(image)、フォント(font)、テキスト(text)、メタデータ(meta−data)、スクリプト(script)などのような多様なマルチメディア要素を利用した自由な表現とユーザとの相互作用を通じてさらに豊かなユーザサービスを提供するために近年開発された国際標準規格である。また、通信技術の発展に伴い、端末間にデータが自由に送受信され、端末は、外部端末を制御し、多様な機能を行うことができるようになってきている。
しかし、端末が外部端末と連動して多様な機能を行うことができるにもかかわらず、端末に表示されるユーザインターフェースは、端末の製造社で設定されたユーザインターフェースだけが提供される。したがって、端末毎に固定されているユーザインターフェースの代わりに、端末と連動する他の端末まで統合的に制御することができるユーザインターフェースが必要となってきている。
前述のような問題点を解決するために、本発明は、ユーザインターフェース表示方法及びそれを行う装置を提案する。
上記目的を達成するために、本発明の実施形態によるユーザインターフェース表示方法は、少なくとも2つのユーザインターフェース提供装置の各々から前記ユーザインターフェース提供装置を制御するための少なくとも1つのアプリケーションユーザインターフェースを提供される過程と;前記提供されたアプリケーションユーザインターフェースを1つの画面に表示する統合ユーザインターフェースに結合する過程と;前記統合ユーザインターフェースを表示する過程とを含む。
また、本発明の実施形態によるユーザインターフェース表示装置は、少なくとも2つのユーザインターフェース提供装置と接続され、前記ユーザインターフェース提供装置の各々から前記ユーザインターフェース提供装置を制御するための少なくとも1つのアプリケーションユーザインターフェースを受信する通信部と;前記ユーザインターフェース提供装置の各々から提供されたアプリケーションユーザインターフェースを1つの画面に表示する統合ユーザインターフェースに結合する制御部と;前記統合ユーザインターフェースを表示する表示部と;により構成される。
本発明によれば、互いに連動された端末に表示されるユーザインターフェースを1つのユーザインターフェースに統合的に表示することができる。また、端末に表示されたユーザインターフェースが外部端末から伝送されるユーザインターフェースと結合することによって、流動的に変更されることも可能となる。このようにユーザインターフェースが流動的に変更されることによって、ユーザは、多数個の端末毎の実行可能な機能を容易に確認することができる。また、統合されたユーザインターフェースを通じて各端末に別々に格納されたデータまたは機能の活用性を高めることができるという効果がある。
本発明の実施形態における統合ユーザインターフェースを生成する装置と個別のユーザインターフェースを提供する装置間の信号フローを示す図である。 本発明の実施形態における統合UI表示装置の構成を示す図である。 本発明の実施形態における統合UI表示画面を例示した画面例示図である。 本発明の実施形態における統合UIを生成する方法を示すフローチャートである。
‘装置’とは、外部装置と有線または無線で接続され、多様なデータを伝送するか、受信して処理することができる端末を意味する。例えば、装置は、携帯端末、ノートパソコン、オーディオ、テレビと家電製品、セットトップボックス、ネットワークを介してサービスを提供するサーバーなどを指す。また、装置は、特定機能を実行するために選択されるアプリケーションユーザインターフェースを表示することができる。以降の説明では、装置を、統合ユーザインターフェース表示装置、UI提供装置に区分して説明する。
‘統合ユーザインターフェース表示装置(以下では、統合UI(User Interface)表示装置という)’とは、有線または無線で連動された少なくとも2つの装置から提供される少なくとも1つのアプリケーションユーザインターフェースを1つのユーザインターフェースに結合して表示する装置を意味する。ここで、統合ユーザインターフェース表示装置は、多数個のアプリケーションUIを管理することができるUI管理エンジンまたはウィジェットマネージャーの役目をすることができる。
‘ユーザインターフェース提供装置(以下では、UI(User Interface)提供装置という)’とは、有線または無線で外部装置と連動することができる装置であり、自分が表示しているアプリケーションユーザインターフェースに関する情報を統合UI表示装置に提供する装置を意味する。
‘アプリケーションユーザインターフェース(以下では、アプリケーションUIという)’とは、装置において実行できる機能をボタン、アイコン、アニメーション、ベクターグラフィックのような視覚的イメージと多重視覚/聴覚/触覚要素で表現するユーザインターフェースである。また、アプリケーションUIは、アプリケーションプログラムの実行、削除、追加、変換機能が含まれた動作的な要素を含む。ここで、アプリケーションUI毎に機能を実行するためのアプリケーションプログラムがマッピングされる。したがって、アプリケーションUIが選択されれば、選択されたアプリケーションUIとマッピングされたアプリケーションプログラムが実行されるとよい。アプリケーションUIとしては、ウィジェットが代表的な例である。例えば、携帯端末でのウィジェットは、ユーザがよく使用する機能を集めてアイコンで表示した形態である。携帯端末のウィジェットとして、気象を表示する気象ウィジェット、写真のようなイメージデータを確認することができるイメージ確認ウィジェット、地下鉄路線図表示を選択することができる地下鉄路線表示ウィジェットなどが使用されるとよい。もし、ユーザが気象ウィジェットを選択すれば、携帯端末は、格納された気象に関連したコンテンツを表示するとよい。
‘コンテンツ’とは、アプリケーションUIが選択された時に実行される機能によって表示されるデータを意味する。例えば、携帯端末での表示可能なコンテンツとして、電話番号のような接続データ、写真のようなイメージデータ、文字メッセージで送受信される文字データなどが使用されるとよい。
‘機能’とは、装置で実行されるすべての処理を意味する。例えば、携帯端末での実行可能な機能は、通話機能、データ表示機能などであるとよい。
‘ユーザインターフェース(以下ではUI)’とは、アプリケーションUIを表示することができ、アプリケーションUIを通じて選択されるコンテンツを表示する画面を意味する。
以下、本発明による好ましい実施形態を添付の図面を参照して詳細に説明する。下記の説明では、本発明による動作を理解するのに必要な部分だけが説明され、その他の部分の説明は、本発明の要旨を不明瞭にしないように省略されていることに留意すべきである。
図1は、本発明の実施形態における統合ユーザインターフェースを生成する装置と個別のユーザインターフェースを提供する装置間の信号フローを示す図である。
図1を参照すれば、少なくとも2つの装置から受信されたアプリケーションUIが結合された統合UIを表示することができる統合UI表示装置10が、統合UI表示装置10にアプリケーションUIを提供する第1UI提供装置20及び第2UI提供装置30と有線・無線ネットワークによって接続されている。
まず、統合UI表示装置10は、ステップ110で、ユーザの選択によって統合UI表示モードを開始する。統合UIは、少なくとも2つのUI提供装置を制御するためのUI提供装置それぞれのアプリケーションUIを結合し、1つの画面に表示されたユーザインターフェースを意味する。
また、統合UI表示装置10は、ステップ115〜ステップ120で、有線または無線で接続された第1UI提供装置20及び第2UI提供装置30を検索する。次に、統合UI表示装置10は、ステップ125〜ステップ130で、第1UI提供装置20から提供される第1アプリケーションUI及び第2UI提供装置30から提供される第2アプリケーションUIを受信する。この際、第1UI提供装置20は、第1アプリケーションUIを構成する特性情報を、第2UI提供装置30は、第2アプリケーションUIを構成する特性情報を、それぞれ、統合UI表示装置10に伝送する。特性情報は、アプリケーションUIを構成するメディア及びグラフィックオブジェクトに該当する情報であり、宣言的方法で表現するエレメント(element)と各エレメントの属性(attribute)、スクリプト、マッピングされた応用プログラムに関する情報などを含む。
統合UI表示装置10は、第1UI提供装置20及び第2UI提供装置30から伝送された特性情報を復号(decoding)した後、デコーディングされた特性情報を利用して第1アプリケーションUI及び第2アプリケーションUIを表現するためのグラフィックオブジェクト及びマッピングされたアプリケーションプログラムを確認する。具体的に、第1UI提供装置20及び第2UI提供装置30から伝送された特性情報は、次の表1のような構造で表されるとよい。
Figure 2013501262
表1において、〈mw:messageOut〉は、当該アプリケーションで出力することができるインターフェースであることを示し、当該インターフェースの名称であるname属性を有している。下位インターフェースは、出力因子である〈mw:output〉と入力因子である〈mw:input〉で表現され、各々入出力因子は、nameとその属性を示すscriptParamTypeを有している。
次に、統合UI表示装置10は、ステップ140で、確認された特性情報を利用して第1アプリケーションUI及び第2アプリケーションUIを統合UIに結合する。さらに詳細に説明すれば、統合UI表示装置10は、各UI提供装置から提供されたアプリケーションUIの特性情報を抽出する。この際、抽出される特性情報には、第1UI提供装置及び第2UI提供装置のそれぞれから提供されるアプリケーションUIを構成するモジュールのサイズ、色相を示すGUI(Grahpic UI)情報とモジュールの機能を構成するインターフェースの名称及び属性情報などがある。このように抽出された特性情報は、プレゼンテーションエンジンや、外部とのコミュニケーションを担当する別途のモジュール、UIを管理する管理エンジン、アプリケーションプログラミングインターフェース、システムライブラリの一時的なメモリー、又は統合UI装置のそれらの等価物でハンドリングすることができる。ここで、UI管理エンジンは、ユーザインターフェースマネージャーあるいはウィジェットマネージャーと称され、リッチメディアエンジン機能が拡張された形態を有するとよい。ここで、リッチメディアエンジンは、既存のオーディオとビデオにグラフィックやフラッシュ技術などが適用された躍動的な情報を双方向に提供することができるメディアエンジンを意味する。また、UI管理エンジンは、リッチメディアエンジンに含まれるか、リッチメディアエンジンを含む別途の機能モジュールであってもよく、リッチメディアエンジンとは完全に別個で構成された別途のモジュールであってもよい。
統合UI表示装置10は、あらかじめ設定された各装置間の連結関係を確認し、第1アプリケーションUI及び第2アプリケーションUI毎に抽出された特性情報を利用して統合UIを生成することができる。言い換えれば、統合UI表示装置10は、各アプリケーションのIDとカテゴリーなどを利用して各UI提供装置から提供されたアプリケーションUIのうち互いに連結可能なアプリケーションUIを抽出する。
統合UI表示装置10は、抽出されたアプリケーションUIを結合し、統合UIを生成する。統合UIは、第1UI提供装置20及び第2UI提供装置30毎に提供される機能を制御するアプリケーションUIを含む。したがって、第1アプリケーションUI及び第2アプリケーションUIを統合UIに結合する時、統合UI表示装置10は、第1アプリケーションUI及び第2アプリケーションUI毎に抽出された特性情報を、統合UIに表示されるアプリケーションUI毎にマッピングする。
また、統合UI表示装置10は、ステップ150で、各々のUI提供装置のアプリケーションUIが結合された統合UIを表示する。この際、統合UI表示装置10は、統合UIに表示される各々のUI提供装置のアプリケーションUIの位置、形状などを再構成することができ、各アプリケーションUIを管理し、制御することができる。
統合UIに含まれた第1アプリケーションUI及び第2アプリケーションUIが選択されれば、統合UI表示装置10は、ステップ155及びステップ160で、選択された第1アプリケーションUIに該当する機能実行を制御する機能実行信号及び第2アプリケーションUIに該当する機能実行を制御する機能実行信号を各々第1UI提供装置20及び第2UI提供装置30に伝送する。各装置に機能実行信号が受信されれば、第1UI提供装置20及び第2UI提供装置30は、ステップ170で当該機能を実行する。
以上では、各UI提供装置から提供された少なくとも1つのアプリケーションUIを統合UIに結合して表示する方法を、各々の装置に送受信される信号のフローによって説明した。次に、統合UIを結合して表示する統合UI表示装置10及び当該装置でアプリケーションUIを統合UIに結合する方法について図2〜図4を参照しながら説明する。
図2は、本発明の実施形態における統合UI表示装置の構成を示す図である。
図2を参照すれば、統合UI表示装置10は、通信部210、入力部220、制御部230、制御部230に含まれた関係確認部240、統合UI結合部250、表示部260を含む。
通信部210は、制御部230の制御の下に有線または無線で少なくとも1つの外部装置と接続され、接続された少なくとも2つの外部装置とデータを送受信することができる。特に、通信部210は、アプリケーションUIを提供する少なくとも1つのUI提供装置から少なくとも1つのアプリケーションUIに対する特性情報が含まれた信号(以下、アプリケーションUI信号という)を受信する。また、通信部210は、受信されたアプリケーションUI信号を制御部230に伝送する。また、通信部210は、制御部230の制御の下にユーザにより選択されたアプリケーションUIに該当する機能を行うための機能実行信号を当該UI提供装置に伝送することができる。
入力部220は、ユーザから入力される数字及び文字情報、各種機能の設定及び装置が実行する機能を制御するためにユーザから入力される信号を制御部230に伝達する。入力部220は、タッチセンサーを通じて感知されるタッチを通じて信号を伝達するタッチスクリーンまたは物理的なキーで構成されるキーパッドまたは無線で接続されるリモートコントローラーなどを含むことができる。ここで、入力部220は、統合UIでユーザによって選択されるアプリケーションUIに対する入力信号を制御部230に伝送する。
制御部230は、統合UI表示装置10を構成するすべての構成の状態及び動作を制御する。制御部230は、有線または無線で接続された各UI提供装置から伝送される少なくとも1つのアプリケーションUIを統合UIに結合することができる。さらに詳しく説明すれば、互いに異なるUI提供装置から提供される少なくとも1つのアプリケーションUIを統合UIに結合し、1つの画面に表示することができる統合UI表示モードが選択されれば、制御部230は、通信部210を制御し、接続された少なくとも1つのUI提供装置を検索する。また、制御部230は、検索された各UI提供装置から提供される少なくとも1つのアプリケーションUI信号を、通信部210を通じて受信する。
制御部230は、受信されたアプリケーションUI信号をアプリケーションUI特性情報にデコーディングする。次に、制御部230は、デコーディングされたアプリケーションUIの特性情報を利用して、各UI提供装置から受信されたアプリケーションUIを統合UIに結合する。また、制御部230は、結合された統合UIを表示部260に表示させる。統合UIは、特定機能実行を制御するためのアプリケーションUIを含む。入力部220を通じて統合UIに含まれたアプリケーションUIのうち1つが選択されれば、制御部230は、通信部210を制御し、選択されたアプリケーションUIに該当する機能が行われるように機能実行信号を各UI提供装置に伝送する。
統合UIを表示するために、制御部230は、各々のアプリケーションUIの特性情報を抽出する。ここで、特性情報は、アプリケーションUIを表示するためのグラフィックオブジェクト、マッピングされたアプリケーションプログラムに関する情報、属性情報などを意味する。また、制御部230は、抽出された各々のアプリケーションUIの特性情報を通じて各々のUI提供装置の連結関係を確認し、確認された連結関係によってアプリケーションUIを統合する。このために、制御部230は、関係確認部240及び統合UI結合部250を含むとよい。
関係確認部240は、アプリケーションUIを提供するUI提供装置間の連結関係を確認することができる。関係確認部240がUI提供装置間の連結関係を確認する方法は、次の通りである。
第一に、関係確認部240があらかじめ格納された連結関係リストを確認し、アプリケーションUI関係を確認する方法である。このために、統合UI提供装置10に連結関係リストがあらかじめ格納されなければならない。連結関係リストは、装置を製造する製造業者によりあらかじめ格納されてもよく、サービス事業者のようにアプリケーションUIを提供するUI提供者により格納されてもよい。
統合UI表示装置10は、連結関係検索を通じてUI提供装置間の連結関係リストを管理することができ、下記の表2のように定義されたインターフェースを通じて、当該UI提供装置間の連結関係を抽出することができる。ここで、統合UI表示装置10は、ウィジェットマネージャー、アプリケーションUIは、ウィジェットであると仮定して説明する。
Figure 2013501262
〈getInterfaceHandlersByType〉メソッドは、ウィジェットがオブジェクトを抽出することができるようにする。このオブジェクトは、所定タイプ(type)のInterfaceHandlerインターフェースを実行しながら結合インターフェースを表現するオブジェクトである。
〈onInterfaceBind〉関数は、インターフェースの結合時にウィジェットマネージャーにより呼出される関数に設定される。〈onInterfaceUnbind〉関数は、インターフェースの結合解除時にウィジェットマネージャーにより呼出される関数に設定される。
〈onActivation〉関数は、コンポーネント(component)の活性化時または活性化失敗時にウィジェットマネージャーにより呼出される関数に設定される。リターンパラメーター(return parameter)は、活性化が成功(true)であるかまたは失敗(false)であるかを示すBooleanである。
〈activateComponentWidget〉メソッドは、コンポーネントウィジェットの活性化を開始するためにウィジェットによって呼出される。
〈deactivateComponentWidget〉メソッドは、コンポーネントウィジェットの不活性化を開始するためにウィジェットによって呼出される。
ウィジェットマネージャーは、表3に示されたように、ウィジェットの定義されたインターフェースごとに〈InterfaceHandler〉オブジェクトを提供する。
Figure 2013501262
表3で、結合(bound)ストリングは、〈InterfaceHandler〉オブジェクトに対応する外部装置のアドレス(例えば、IPアドレス、ホスト名など)を示す。
タイプ(type)ストリングは、〈InterfaceHandler〉オブジェクトに対応する外部装置のタイプを示す。
ウィジェット内のスクリプトは、メッセージを対応する外部装置に伝送するために、〈InterfaceHandler〉オブジェクトからインボーク(invoke)メソッドを呼び出すことができる。メッセージパラメータは、宣言順に各外部装置のインターフェース宣言(declaration)を示す。ウィジェットマネージャーは、装置の応答受信時に〈callBackFunction〉を開始し、〈MsgHandler〉オブジェクトを提供し、スクリプトがコールバック(callback)に多数の呼出を区別できるようにする。
メッセージ受信時にスクリプト関数が呼出される時(すなわち、この関数は、〈mw:messageIn〉要素のmw:inputAction属性に宣言されるから)、スクリプトは発信装置に対し応答する。
〈invokeReply〉メソッドは、以前メッセージに応答を送るために使用される。このメソッドに対する呼出時に、ウィジェットマネージャーは、外部装置にメッセージを返還することができる。メッセージ出力パラメータは、このメソッドの次の独立変数(arguments)に順にマッピングされる。
例えば、ウィジェットAが検索メソッドを定義し、ウィジェットBが当該サービスを使用しようとすると仮定すれば、 ウィジェットマネージャーは、ウィジェットAとBが通信可能であるかを確認し、ウィジェットBの出力をウィジェットAの入力に連結する。ウィジェットBにより“検索”メソッドが始まる時、ウィジェットマネージャーは、メッセージをウィジェットAに伝送する。この際、ウィジェットAは、“SearchFunction”メソッドに呼出を開始する。次に、ウィジェットAは、検索を行い、〈MsgHandler〉客体と返還を生成して格納する。処理が完了すれば、ウィジェットAは、〈MsgHandler〉客体とその処理結果を有する〈invokeReply〉メソッドを呼び出す。このメソッドは、順に応答メッセージを伝送し、このメッセージは、ウィジェットBと結果(URL値)を有する〈myProcessSearchResults〉メソッドをさらに呼び出す。
ウィジェットAのリストは、表4に示されたように、“example:search:interface”タイプのインターフェース内に宣言する。
Figure 2013501262
ウィジェットBのリストは、表5に示されたように、“example:search:interface”タイプのインターフェース内に宣言する。
Figure 2013501262
ウィジェットBで、スクリプトは、表6に示されたように構成される。
Figure 2013501262
ウィジェットAで、スクリプトは、表7に示されたように構成される。
Figure 2013501262
連結関係リストは、表8または表9のような形態で構成されるとよい。
表8は、第1アプリケーションUIと連結されて一緒に表示できる第2アプリケーションUIをリスト化した形態である。
Figure 2013501262
表8のように連結関係リストが定義された場合、関係確認部240は、第1UI提供装置20から受信された第1アプリケーションUIと結合できる第2UI提供装置30から受信された第2アプリケーションUIがどれであるかを判断することができる。例えば、第1アプリケーションUIが地図表示機能を行うことができるアプリケーションUIの場合、関係確認部240は、抽出された第1アプリケーション特性情報を通じて地図アプリケーションUIのIDであるwiget_H_Map01を確認する。また、関係確認部240は、連結関係リストで第1アプリケーションUIと統合可能なアプリケーションUIのIDを確認する。ここで、第1アプリケーションUIと統合可能なアプリケーションUIのIDは、wiget_H_weather01 ... wiget_H_weather04, wiget_H_cal01, wiget_H_cal02が例示されている。また、関係確認部240は、第2UI提供装置が提供した第2アプリケーションUIの特性情報を確認し、連結関係リストに含まれたアプリケーションUIのIDに該当する第2アプリケーションUIだけを抽出する。
表9は、第1アプリケーションUIと連結されて一緒に表示できる第2アプリケーションUIをグループにリスト化した形態である。
Figure 2013501262
表9のように連結関係リストが定義された場合、関係確認部240は、第1アプリケーションUIと結合できる第2アプリケーションUIをグループに結合して確認することができる。ここで、アプリケーションUIグループごとにIDが設定され、アプリケーションUIグループには、UI提供装置において表示されることができるすべてのアプリケーションUIが含まれる。例えば、携帯端末の場合、アプリケーションUIグループとして、ゲームアプリケーションUI、気象アプリケーションUI、カレンダーアプリケーションUI、通話アプリケーションUIなどがある。
グルーピングされたアプリケーションUIを利用して結合可能なアプリケーションUIを確認する方法は、次のように例示して説明することができる。第1アプリケーションUIがカレンダー表示機能を行うことができるアプリケーションUIの場合、関係確認部240は、抽出された第1アプリケーション特性情報を通じてカレンダーアプリケーションUIのIDであるwiget_S_cal01を確認する。また、関係確認部240は、連結関係リストで第1アプリケーションUIと統合可能なアプリケーションUIグループIDを確認する。ここで、第1アプリケーションUIと統合可能なアプリケーションUIグループIDは、widget_Group_S_01が例示されている。また、関係確認部240は、第2アプリケーションUIの特性情報を確認し、連結関係リストに含まれたアプリケーションUIグループIDに該当する第2アプリケーションUIだけを抽出する。
第二に、関係確認部240が、各UI提供装置からアプリケーションUIが提供される度に連結関係リストを生成し、アプリケーションUIの間に連結関係を確認することができる。このために、UI提供装置は、アプリケーションUIを統合UI表示装置10に伝送する時、結合可能なアプリケーションUIに関する情報を特性情報に含ませて伝送する。結合可能なアプリケーションUIに関する情報は、アプリケーションUIのIDが格納されたフィールドにaggregatable=T/Fなどのように作成されるとよい。すると、関係確認部240は、特性情報に含まれた結合可能なアプリケーションUI情報を確認し、連結関係リストを生成する。また、関係確認部240は、各UI提供装置から提供されたアプリケーションUIの特性情報と生成された連結関係リストを比較し、結合可能なアプリケーションUIを確認する。
また、関係確認部240は、各UI提供装置から提供されたアプリケーションUIに対して優先順位を設定することができる。このように設定された優先順位を利用して、統合UI結合部250においてアプリケーションUIが結合される時、優先順位が高いアプリケーションUIは表示され、優先順位が低いアプリケーションUIは削除されることができるようになる。アプリケーションUIの優先順位は、装置を製造する製造業者によって装置の種類によってあらかじめ設定されてもよく、ユーザの使用頻度によって設定されてもよい。
また、関係確認部240により確認された結合可能なアプリケーションUIに関する連結関係情報は、リッチメディアデータで構成されてもよい。また、連結関係情報は、別に連結関係データとして格納するか、アプリケーションUIの特性情報に含まれていてもよい。
統合UI結合部250は、関係確認部240により確認された連結関係情報を利用して各UI提供装置から提供されたアプリケーションUIを統合UIに結合することができる。このために、統合UI結合部250は、結合可能なアプリケーションUIの特性情報を確認する。
Figure 2013501262
表10において、〈mw:interface〉は、特定の通信形式に対するウィジェットの通信能力を示す。また、下位属性として、インターフェースのタイプを示すtype、インターフェースの結合に成功した時に呼び出すスクリプト関数の名称を示すmw:bindAction/mw:unbindAction、外部で当該インターフェースを検索可能に表示するmw:serviceProvider、当該インターフェースと連結関係を示すmw:connectTo、当該インターフェースと複数のインターフェースが連結可能であることを示すmw:multipleBindings、当該インターフェースが活性化される場合、所要のインターフェースであることを示すmw:requiredに区分される。
ここで、特性情報は、グラフィックオブジェクトのような表現及び構成上の特性及び統合UI結合時に、機能が活性化されなければならない条件、移植可能な領域、オブジェクト、属性、部品、機能などに関する情報を含む。このような特性情報は、アプリケーションUIそれ自体の中に記述されるか、manifestに記述されるとよく、別途のファイルまたはデータで構成されてもよい。ここで、統合UI表示装置10は、ウィジェットマネージャー、アプリケーションUIは、ウィジェットであると仮定して、特性情報をさらに詳しく説明すれば、次の通りである。
このリストのローディング時に、ウィジェットマネージャーは、コンポーネントウィゼッドを実際に活性化せず、mw:src属性によって参照されたコンポーネントウィゼッドのリストを抽出するか、〈mw:requiredInterface〉要素によって宣言されたインターフェースに適したウィジェットを発見しようと試みる。もしインターフェースに適したウィジェットがなければ、動作は(特にメインウィジェットのローディングは)、実装固有となる。もし適したウィジェットが発見されれば、このコンポーネントを結合するためのイベントなどは、そのウィジェットの活性化のためのイベントなどがトリガーされた後にトリガーされるものとする。
実際の状況によれば、親(parent)がコンポーネントの活性化を要請する前にコンポーネントが既に活性化された場合、例えば、activatedActionメッセージ及びdeactivatedActionメッセージは受信されない。
次の例で、コンポーネントは、テンプレートウィジェットを生成するために使用される。ウィジェットAは、2つのウィジェットを視覚的にグルーピングすることができるシーン(scene)を参照する。Aのリストは、特定ウィジェットまたは一般的なインターフェースを示す2つのコンポーネントB、Cを使用する。BとCの活性化時に、Aは、活性化され、そのシーンは、表11に示されたように、BとCをどのように視覚的にグルーピングするかをウィジェットマネージャーに示すことができる。
Figure 2013501262
また、統合UI結合部250は、抽出されたアプリケーションUI特性情報を利用して統合UI内にアプリケーションUIが表示される位置、アプリケーションUIにマッピングされる機能などに関する情報を設定することができる。また、統合UI結合部250は、統合UIに含まれたアプリケーションUIの動作手順を、例えば、動作テーブルに設定することができる。
また、各UI提供装置から提供された少なくとも1つのアプリケーションUIが統合UIに結合された時、統合UI結合部250は、アプリケーションUI毎に維持しなければならない特性情報、共有しない特性情報、削除するアプリケーションUI、統合されるアプリケーションUIを設定することができる。また、統合UI結合部250は、アプリケーションUIを結合する時、優先順位を通じてどのアプリケーションUIがメインまたはサブになるかを設定することができる。また、統合UI結合部250は、統合UIに結合された各々のアプリケーションUIを提供したUI提供装置に関する情報を、統合してまたは個別に管理する。UI提供装置に関する情報は、統合UIが解除されるか、さらに統合UIを再設定する時に活用されるとよい。また、ウィジェットマネージャーが独立的なアプリケーションUIを統合UIとして管理することも含む。例えば、別途のエアコン装置で提供するアプリケーションUI(A)と気象情報を提供するアプリケーションUI(B)は、ウィジェットマネージャーにより結合され、統合UI結合部250により結合された独立的なアプリケーションUIで機能を実行することができる。このような場合、気象アプリケーションUIにおいて特定条件イベントが発生すれば、ウィジェットマネージャーあるいは当該アプリケーションUI(B)が発行されたイベントがエアコンアプリケーションAに伝達されるとよい。
次に、制御部230は、表示部260を制御し、統合UI結合部250を通じて結合された統合UIを表示する。この際、統合UIは、アプリケーションUIを提供したUI提供装置毎に実行できる機能に該当するアプリケーションUIを表示する。ユーザによりアプリケーションUIが選択されれば、制御部230は、選択されたアプリケーションUIによって提供される機能を確認する。また、制御部230は、通信部210を制御し、各UI提供装置に確認された機能が実行されるように機能実行信号を伝送する。
表示部260は、統合UI表示装置10の全般的な状態及び動作と関連した情報を表示する。ここで、表示部260は、制御部230の制御の下に少なくとも1つのUI提供装置が提供した少なくとも1つのアプリケーションUIが結合されて生成された統合UIを表示する。統合UIが表示される画面について図3を参照して説明する。
図3は、本発明の実施形態における統合UI表示画面を例示した画面例示図である。
まず、統合UI表示装置10は、携帯端末、第1UI提供装置20は、プリンター、第2UI提供装置30は、カメラと仮定する。
図3を参照すれば、プリンター20は、プリント機能を行うためのプリントアプリケーションUI310と、プリント環境を設定するためのセットアプリケーションUIを表示する。また、カメラ30は、あらかじめ格納されたイメージを表示するためのフォトビューアアプリケーションUI320と、選択された写真イメージを拡大して表示する機能を行うための拡大アプリケーションUI330を表示する。また、携帯端末10からアプリケーションUIを要請する信号が受信されれば、プリンター20は、プリントアプリケーションUI310とセットアプリケーションUIを、カメラ30は、フォトビューアアプリケーションUI320と拡大アプリケーションUI330を携帯端末10に伝送する。
携帯端末10は、プリンター20とカメラ30から受信されたプリントアプリケーションUI310、セットアプリケーションUI、フォトビューアアプリケーションUI320及び拡大アプリケーションUI330の特性情報を抽出する。また、携帯端末10は、抽出された特性情報で各アプリケーションUIのIDを通じて連結関係を確認する。ここで、連結関係情報を通じて結合可能なアプリケーションUIとして、プリントアプリケーションUI310、フォトビューアアプリケーションUI320及び拡大アプリケーションUI330が存在し、フォトビューアアプリケーションUI320の優先順位が1位、プリントアプリケーションUI310の優先順位が2位、拡大アプリケーションUI330の優先順位が3位に設定されていると仮定する。
プリンター20及びカメラ30から受信されたアプリケーションUIから抽出された特性情報を利用して携帯端末10は統合UIを生成する。連結関係情報によれば、プリントアプリケーションUI310、フォトビューアアプリケーションUI320及び拡大アプリケーションUI330が結合可能であり、フォトビューアアプリケーションUI320の優先順位が最も高い。したがって、携帯端末10は、プリントアプリケーションUI310、フォトビューアアプリケーションUI320及び拡大アプリケーションUI330を含む統合UIを生成し、フォトビューアアプリケーションUI320を優先的に表示するように設定する。また、携帯端末10は、生成された統合UIを表示部に表示する。
また、携帯端末10の表示部に表示された統合UIでアプリケーションUIが選択されれば、携帯端末10は、選択されたアプリケーションUIに該当する機能が行われるように機能実行信号を当該UI提供装置に伝送する。例えば、フォトビューアアプリケーションUI320で写真イメージが選択され、プリントアプリケーションUI310が選択されたと仮定する。すると、携帯端末10は、優先順位が高いフォトビューアアプリケーションUI320を提供したカメラ30に選択された写真イメージを要請する機能実行信号を伝送する。また、携帯端末10は、その次の優先順位であるプリントアプリケーションUI310を提供したプリンター20に選択された写真イメージをプリントするプリント機能実行信号を伝送する。すると、カメラ30は、要請された写真イメージを携帯端末10に伝送し、携帯端末10は、伝送された写真イメージをプリンター20に伝送する。また、プリンター20は、受信された写真イメージをプリントする。
ここで、携帯端末10は、カメラ30から受信された写真イメージをプリンター20に伝送すると説明しているが、これに限定されない。カメラ30からフォトビューアアプリケーションUI320で表示される写真データをあらかじめ受信した後、選択される写真データをプリンター20にすぐ伝送してもよい。または、携帯端末10は、プリンター20の識別情報またはIPアドレスなどをカメラ30に伝達すれば、カメラ30は、受信されたプリント20の識別情報またはIPアドレスなどを利用して選択された写真データをプリント20に伝送してもよい。
このように各々のUI提供装置から提供されたアプリケーションUIを統合UIに結合する方法は、機能及びアプリケーション特性情報の一部分を移動させるのに限定されるものではなく、独自のアプリケーションUIで各々のUI提供装置を統合的に管理する方法も含まれる。例えば、第1UI提供装置20がエアコン制御のための第1アプリケーションUIを提供し、第2UI提供装置30が温度計機能を行うための第2アプリケーションUIを提供したら、統合UI表示装置10は、エアコン制御のための第1アプリケーションUI及び温度計機能のための第2アプリケーションUIを結合し、統合UIを生成する。また、温度計機能のための第2アプリケーションUIで温度変化が感知されれば、統合UI表示装置10は、感知された温度変化を第1UI提供装置20に伝送し、エアコンを制御することができる。
また、統合UI結合方法を通じて各装置のアプリケーションUI使用記録またはデータを共有することができ、統合UIが第3の応用プログラムとして活用されてもよい。例えば、アプリケーションUIの使用記録情報/時間またはデータが他のアプリケーションUIを通じて活用されてもよい。
以上では、各UI提供装置から提供されたアプリケーションUIを統合UIに結合する装置及び統合UIを表示する画面について説明した。次に、統合UI表示装置10において各UI提供装置から提供されたアプリケーションUIを結合して表示する方法について図4を参照して説明する。
図4は、本発明の実施形態における統合UIを生成する方法を示すフローチャートである。
図4を参照すれば、統合UI表示装置10は、ステップ410において、統合UI表示モードを開始する。ここで、統合UI表示モードは、メニューまたは機能キーを通じて選択されて実行されるとよい。または、統合UI表示装置10に表示されたアプリケーションUIが統合UIに結合可能なアプリケーションUIなら、統合UI表示装置10は、統合UIに結合可能なアプリケーションUIであることを通知する通知窓を表示する。また、ユーザにより統合UI表示メニューが選択されれば、統合UI表示装置10は、統合UI表示モードを開始してもよい。また、少なくとも1つのUI提供装置からアプリケーションUIが伝送されれば、統合UI表示装置10は、統合UI表示モードを選択することができる選択窓を表示し、ユーザによって統合UI表示が選択されれば、統合UI表示モードを開始するとよい。
次に、統合UI表示装置10は、ステップ420において、有線または無線で接続された第1UI提供装置20及び第2UI提供装置30を検索する。ここで、図示してはいないが、統合UI表示装置10は、検索された第1UI提供装置20及び第2UI提供装置30にアプリケーションUIを要請する信号を伝送してもよい。アプリケーションUI要請信号は、現在各々のUI提供装置に表示されたアプリケーションUIを要請する信号であってもよく、各々のUI提供装置に格納されたアプリケーションUIのうちユーザにより選択されるアプリケーションUIを要請する信号であってもよい。
統合UI表示装置10は、ステップ430において、第1UI提供装置20から少なくとも1つの第1アプリケーションUIを、第2UI提供装置30から少なくとも1つの第2アプリケーションUIを受信する。また、統合UI表示装置10は、ステップ440において、受信された第1アプリケーションUI及び第2アプリケーションUIを通じて第1UI提供装置20及び第2UI提供装置30の連結関係を確認する。さらに詳しく説明すれば、統合UI表示装置10は、あらかじめ設定された連結関係リストと第1アプリケーションUI及び第2アプリケーションUIの特性情報を比較し、結合可能なアプリケーションUIを確認する。また、統合UI表示装置10は、各アプリケーションUIの優先順位を設定する。また、図示してはいないが、第1アプリケーションUIと第2アプリケーションUIとの間に連結関係を確認する時、結合可能なアプリケーションUIが存在しなければ、統合UI表示装置10は、結合可能なアプリケーションUIではないことをユーザにポップアップ、通知窓などのような方法で通知することができる。
統合UI表示装置10は、ステップ450において、確認された連結関係によって第1アプリケーションUI及び第2アプリケーションUIを統合UIに結合する。また、統合UI表示装置10は、ステップ460において、結合された統合UIを表示する。次に、統合UI表示装置10は、ステップ470において、表示された統合UIで選択されるアプリケーションUIに該当する機能が実行されるように機能実行信号を各々のUI提供装置に伝送する。統合UI表示装置10は、アプリケーションUIの優先順位の順にUI提供装置に機能実行信号を伝送する。すなわちアプリケーションUIの優先順位が高いUI提供装置にまず機能実行信号が伝送され、次に、その次の順位に該当するアプリケーションUIを提供したUI提供装置に機能実行信号が伝送される。
本発明において統合UI表示装置10は、少なくとも1つのUI提供装置から提供されるアプリケーションUIを結合して表示するものと説明しているが、これに限定されない。言い換えれば、統合UI表示装置10とUI提供装置が別に構成されるものではなく、1つの装置内で行われる機能に該当する多数個のアプリケーションUIも結合されて表示されてもよい。例えば、携帯端末の場合、メッセージを送ることができるメッセージ機能に該当するメッセージアプリケーションUIと格納された写真を表示することができるイメージ表示機能に該当するイメージ表示アプリケーションUIが1つの統合アプリケーションに結合され、1つの画面に表示されてもよい。または、スケジュール管理をすることができるスケジュール管理機能に該当するスケジュール管理アプリケーションUIとメモ機能に該当するメモアプリケーションUIが1つの統合アプリケーションに結合され、1つの画面に表示されてもよい。
本発明によれば、互いに連動された端末に表示されるユーザインターフェースを1つの端末に統合的に表示することができる。また、端末に表示されたユーザインターフェースが外部端末から伝送されるユーザインターフェースと結合することによって、流動的に変更することができる。このようにユーザインターフェースが流動的に変更されることによって、ユーザは、多数個の端末毎に実行される機能を容易に確認することができる。また、統合されたユーザインターフェースを通じて各端末に格納されたデータまたは実行できる機能の活用性を高めることができるという効果がある。
以上では、本明細書と図面に開示された本発明の実施形態は、本発明の記述内容を容易に説明し、本発明の理解を助けるために特定の実施形態を提示したものに過ぎないものであり、本発明の範囲を限定しようとするものではない。ここで開示された実施形態以外にも、本発明の技術的思想に基づく変形例が実施可能であることは、本発明の属する技術分野における通常の知識を有する者に自明であろう。


Claims (6)

  1. 特定機能を行うための少なくとも1つのアプリケーションユーザインターフェースが含まれるユーザインターフェースを表示する装置のユーザインターフェース表示方法において、
    少なくとも2つのユーザインターフェース提供装置の各々から前記ユーザインターフェース提供装置を制御するための少なくとも1つのアプリケーションユーザインターフェースが提供される過程と;
    前記提供されたアプリケーションユーザインターフェースを1つの画面に表示する統合ユーザインターフェースに結合する過程と;
    前記統合ユーザインターフェースを表示する過程と、を含むユーザインターフェース表示方法。
  2. 前記統合ユーザインターフェースに結合する過程は、
    前記少なくとも2つのユーザインターフェース提供装置の各々から提供された前記アプリケーションユーザインターフェースから、前記アプリケーションユーザインターフェースを表現するためのグラフィックオブジェクト、マッピングされたアプリケーションプログラム情報及び前記アプリケーションユーザインターフェースIDを含む特性情報を抽出する過程と;
    前記抽出された特性情報とあらかじめ設定された連結関係リストとを比較し、結合可能なアプリケーションユーザインターフェースを確認する過程と;
    前記確認された結果によって前記統合ユーザインターフェースを生成する過程と;をさらに含むことを特徴とする請求項1に記載のユーザインターフェース表示方法。
  3. 前記統合ユーザインターフェースに含まれたアプリケーションユーザインターフェースが選択されれば、前記選択されたアプリケーションユーザインターフェースに該当する機能を実行するように制御する機能実行信号を、前記少なくとも2つのユーザインターフェース提供装置に伝送する過程をさらに含むことを特徴とする請求項1に記載のユーザインターフェース表示方法。
  4. 少なくとも2つのユーザインターフェース提供装置と接続され、前記ユーザインターフェース提供装置の各々から前記ユーザインターフェース提供装置を制御するための少なくとも1つのアプリケーションユーザインターフェースを受信する通信部と;
    前記ユーザインターフェース提供装置の各々から提供されたアプリケーションユーザインターフェースを1つの画面に表示する統合ユーザインターフェースに結合する制御部と;
    前記統合ユーザインターフェースを表示する表示部と;で構成されるユーザインターフェース表示装置。
  5. 前記制御部は、
    前記少なくとも2つのユーザインターフェース提供装置の各々から提供された前記アプリケーションユーザインターフェースから、前記アプリケーションユーザインターフェースを表現するためのグラフィックオブジェクト、マッピングされたアプリケーションプログラム情報及び前記アプリケーションユーザインターフェースIDを含む特性情報を抽出し、前記抽出された特性情報とあらかじめ設定された連結関係リストとを比較し、結合可能なアプリケーションユーザインターフェースを確認し、前記統合ユーザインターフェースを生成することを特徴とする請求項4に記載のユーザインターフェース表示装置。
  6. 前記制御部は、
    前記統合ユーザインターフェースに含まれたアプリケーションユーザインターフェースが選択されれば、前記通信部を制御し、前記選択されたアプリケーションユーザインターフェースに該当する機能を実行するように制御する機能実行信号を、前記少なくとも2つのユーザインターフェース提供装置に伝送することを特徴とする請求項4に記載のユーザインターフェース表示装置。
JP2012522767A 2009-07-31 2010-07-30 統合ユーザインターフェース生成方法及びそれを行う装置 Expired - Fee Related JP5795582B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
KR10-2009-0070329 2009-07-31
KR20090070329 2009-07-31
PCT/KR2010/005045 WO2011014040A2 (en) 2009-07-31 2010-07-30 Method and device for creation of integrated user interface

Publications (2)

Publication Number Publication Date
JP2013501262A true JP2013501262A (ja) 2013-01-10
JP5795582B2 JP5795582B2 (ja) 2015-10-14

Family

ID=43529898

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012522767A Expired - Fee Related JP5795582B2 (ja) 2009-07-31 2010-07-30 統合ユーザインターフェース生成方法及びそれを行う装置

Country Status (7)

Country Link
US (1) US9658864B2 (ja)
EP (1) EP2460065A4 (ja)
JP (1) JP5795582B2 (ja)
KR (1) KR20120050986A (ja)
CN (1) CN102576287B (ja)
RU (1) RU2576498C2 (ja)
WO (1) WO2011014040A2 (ja)

Families Citing this family (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2460065A4 (en) * 2009-07-31 2013-01-02 Samsung Electronics Co Ltd METHOD AND DEVICE FOR CREATING AN INTEGRATED USER INTERFACE
KR101660746B1 (ko) * 2010-08-24 2016-10-10 엘지전자 주식회사 이동 단말기 및 이것의 애플리케이션 지시자 설정 방법
US20120089923A1 (en) * 2010-10-08 2012-04-12 Microsoft Corporation Dynamic companion device user interface
US8918719B2 (en) * 2011-02-14 2014-12-23 Universal Electronics Inc. Graphical user interface and data transfer methods in a controlling device
US9733934B2 (en) * 2011-03-08 2017-08-15 Google Inc. Detecting application similarity
US9383800B2 (en) * 2011-03-22 2016-07-05 International Business Machines Corporation Managing a portal application
KR20120137756A (ko) * 2011-06-13 2012-12-24 삼성전자주식회사 휴대용 단말기에서 응용 프로그램 병합을 위한 방법 및 장치
JP5532037B2 (ja) * 2011-09-30 2014-06-25 コニカミノルタ株式会社 連携システム、携帯情報装置、連携方法および連携プログラム
US9448813B2 (en) 2012-05-24 2016-09-20 Microsoft Technology Licensing, Llc Entry points to image-related applications in a mobile device
US11113773B2 (en) 2012-12-06 2021-09-07 Sony Interactive Entertainment LLC System and method for sharing digital objects
US10099115B2 (en) * 2012-12-06 2018-10-16 Sony Interactive Entertainment America Llc System and method for user creation of digital objects
KR102020324B1 (ko) * 2013-03-14 2019-09-10 삼성전자 주식회사 휴대단말기에서의 메시지 통합 방법 및 장치
US9696885B2 (en) 2013-09-20 2017-07-04 International Business Machines Corporation Integrated user interface using linked data
US10242080B1 (en) 2013-11-20 2019-03-26 Google Llc Clustering applications using visual metadata
CN103606077A (zh) * 2013-11-26 2014-02-26 山西农业大学 一种移动办公系统
CN104765595B (zh) * 2014-01-08 2018-05-22 联发科技(新加坡)私人有限公司 一种显示图形用户界面的方法及装置
US9280325B2 (en) 2014-05-30 2016-03-08 International Business Machines Corporation Customized ready-to-go componentized application definitions
KR102642923B1 (ko) * 2016-07-28 2024-03-05 삼성전자주식회사 외부 디바이스를 제어하기 위한 gui를 생성하는 디바이스 및 방법

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20060236328A1 (en) * 2004-12-10 2006-10-19 Siemens Medical Solutions Usa, Inc. Integrated graphical user interface server for use with multiple client applications
JP2007310895A (ja) * 2007-05-31 2007-11-29 Canon Inc 画像形成装置、コンピュータ、情報処理方法、および情報処理システム

Family Cites Families (53)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5226109A (en) * 1990-04-26 1993-07-06 Honeywell Inc. Three dimensional computer graphic symbol generator
US5408653A (en) * 1992-04-15 1995-04-18 International Business Machines Corporation Efficient data base access using a shared electronic store in a multi-system environment with shared disks
US5596702A (en) * 1993-04-16 1997-01-21 International Business Machines Corporation Method and system for dynamically sharing user interface displays among a plurality of application program
JP3344528B2 (ja) * 1995-06-29 2002-11-11 インターナショナル・ビジネス・マシーンズ・コーポレーション ウィンドウの表示方法およびそのシステム
US5684967A (en) * 1995-09-13 1997-11-04 International Business Machines Corporation System and method for generalized network topology representation
US5764226A (en) * 1995-12-29 1998-06-09 International Business Machine Corp. Reusable and modifiable data entry interface part
US5801699A (en) * 1996-01-26 1998-09-01 International Business Machines Corporation Icon aggregation on a graphical user interface
US5760770A (en) * 1996-05-15 1998-06-02 Microsoft Corporation System and method for defining a view to display data
US6300947B1 (en) * 1998-07-06 2001-10-09 International Business Machines Corporation Display screen and window size related web page adaptation system
JP3846666B2 (ja) * 1998-09-24 2006-11-15 富士通株式会社 共有画面制御装置
US6857106B1 (en) * 1999-09-15 2005-02-15 Listen.Com, Inc. Graphical user interface with moveable, mergeable elements
US8793589B2 (en) 2000-03-22 2014-07-29 Ricoh Co., Ltd. Melded user interfaces
US8015494B1 (en) * 2000-03-22 2011-09-06 Ricoh Co., Ltd. Melded user interfaces
FI20010817A (fi) * 2001-04-20 2003-02-14 Nokia Corp Menetelmä informaation esittämiseksi elektroniikkalaitteen näytöllä ja elektroniikkalaite
EP1253750A1 (en) 2001-04-24 2002-10-30 Deutsche Thomson-Brandt Gmbh Method for the control of network devices connected via a bus system
ES2885435T3 (es) * 2001-04-30 2021-12-13 Activemap Llc Mapa interactivo presentado electrónicamente
US7165228B2 (en) * 2001-04-30 2007-01-16 Broadband Graphics, Llc Cell based end user interface
US7185290B2 (en) * 2001-06-08 2007-02-27 Microsoft Corporation User interface for a system and process for providing dynamic communication access and information awareness in an interactive peripheral display
JP4086529B2 (ja) * 2002-04-08 2008-05-14 松下電器産業株式会社 画像処理装置及び画像処理方法
US6898645B2 (en) * 2002-04-17 2005-05-24 Canon Kabushiki Kaisha Dynamic generation of a user interface based on automatic device detection
JP2003345697A (ja) * 2002-05-27 2003-12-05 Hitachi Ltd 統合インタフェース提供方法、装置及び記憶媒体
US7890868B2 (en) * 2002-08-13 2011-02-15 National Instruments Corporation Selecting a connectable element of a hardware device in a measurement system
JP3755500B2 (ja) * 2002-09-06 2006-03-15 ソニー株式会社 Guiアプリケーション開発支援装置および方法、並びにコンピュータ・プログラム
US7519910B2 (en) * 2002-10-10 2009-04-14 International Business Machines Corporation Method for transferring files from one machine to another using adjacent desktop displays in a virtual network
US7315985B1 (en) * 2002-12-31 2008-01-01 Emc Corporation Methods and apparatus for managing network resources using a network topology view
US7430721B2 (en) * 2003-04-08 2008-09-30 Tidebreak, Inc. Pointright: a system to redirect mouse and keyboard control among multiple machines
EP1738251A2 (en) * 2004-04-16 2007-01-03 Cascade Basic Research Corp. Modelling relationships within an on-line connectivity universe
JP2006079413A (ja) * 2004-09-10 2006-03-23 Yokogawa Electric Corp コンピュータ切替装置
US7747966B2 (en) * 2004-09-30 2010-06-29 Microsoft Corporation User interface for providing task management and calendar information
US7747959B2 (en) * 2004-12-17 2010-06-29 Siebel Systems, Inc. Flexible and extensible combination user interfaces
US8631342B2 (en) * 2004-12-22 2014-01-14 Hewlett-Packard Development Company, L.P. Computer display control system and method
US20060150109A1 (en) * 2004-12-30 2006-07-06 Motorola, Inc. Shared user interface
US20060179069A1 (en) * 2005-02-04 2006-08-10 Bechtel Michael E Knowledge discovery tool navigation
US7657837B2 (en) * 2005-04-06 2010-02-02 Ericom Software Ltd. Seamless windows functionality to remote desktop sessions regarding z-order
US9104294B2 (en) * 2005-10-27 2015-08-11 Apple Inc. Linked widgets
US20070162864A1 (en) * 2006-01-10 2007-07-12 International Business Machines Corp. User-directed repartitioning of content on tab-based interfaces
US20080215240A1 (en) * 2006-12-18 2008-09-04 Damian Howard Integrating User Interfaces
TW200830166A (en) * 2007-01-15 2008-07-16 Asustek Comp Inc Method and computer system capable of presenting program graphics interface on title bar of window
US8156201B2 (en) * 2007-02-20 2012-04-10 Microsoft Corporation Unifying discoverability of a website's services
US7770121B2 (en) * 2007-04-12 2010-08-03 Microsoft Corporation Host controlled user interface
US8756512B2 (en) * 2007-05-09 2014-06-17 International Business Machines Corporation Dynamic GUI rendering by aggregation of device capabilities
KR101382504B1 (ko) * 2007-05-21 2014-04-07 삼성전자주식회사 매크로 생성 장치 및 방법
WO2009018177A2 (en) * 2007-07-27 2009-02-05 Deluxe Digital Studios, Inc. Methods and systems for use in customizing displayed content associated with a portable storage medium
US7930600B2 (en) * 2008-02-26 2011-04-19 International Business Machines Corporation Logical to physical connectivity verification in a predefined networking environment
US8108783B2 (en) * 2008-05-20 2012-01-31 International Business Machines Corporation System and method of GUI overlaying for migrating from a first application to a second application
US8286199B1 (en) * 2008-08-22 2012-10-09 SmartVault Corporation Automated method for creating a graphical user interface for a document management system that is visually integrated with an application having limited native GUI-integration capabilities
US8146010B2 (en) * 2008-11-03 2012-03-27 Microsoft Corporation Combinable tabs for a tabbed document interface
US8863007B2 (en) * 2009-04-03 2014-10-14 International Business Machines Corporation Programmatic information transfer
US20100309049A1 (en) * 2009-06-05 2010-12-09 Nokia Corporation Directional data distribution
US9933914B2 (en) * 2009-07-06 2018-04-03 Nokia Technologies Oy Method and apparatus of associating application state information with content and actions
EP2460065A4 (en) * 2009-07-31 2013-01-02 Samsung Electronics Co Ltd METHOD AND DEVICE FOR CREATING AN INTEGRATED USER INTERFACE
US9110495B2 (en) * 2010-02-03 2015-08-18 Microsoft Technology Licensing, Llc Combined surface user interface
US9110686B2 (en) * 2010-06-08 2015-08-18 Microsoft Technology Licensing, Llc Web client command infrastructure integration into a rich client application

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20060236328A1 (en) * 2004-12-10 2006-10-19 Siemens Medical Solutions Usa, Inc. Integrated graphical user interface server for use with multiple client applications
JP2007310895A (ja) * 2007-05-31 2007-11-29 Canon Inc 画像形成装置、コンピュータ、情報処理方法、および情報処理システム

Also Published As

Publication number Publication date
WO2011014040A3 (en) 2011-06-30
KR20120050986A (ko) 2012-05-21
CN102576287A (zh) 2012-07-11
US20110041078A1 (en) 2011-02-17
EP2460065A4 (en) 2013-01-02
JP5795582B2 (ja) 2015-10-14
EP2460065A2 (en) 2012-06-06
RU2012103179A (ru) 2013-08-20
CN102576287B (zh) 2016-09-28
RU2576498C2 (ru) 2016-03-10
US9658864B2 (en) 2017-05-23
WO2011014040A2 (en) 2011-02-03

Similar Documents

Publication Publication Date Title
JP5795582B2 (ja) 統合ユーザインターフェース生成方法及びそれを行う装置
TWI511537B (zh) 智慧型電視系統、智慧型電視、行動裝置及其輸入操作方法
US10642235B2 (en) Control apparatus, control method, and control system that provide display control to display images associated with master and slave devices
WO2013014874A1 (ja) Gui生成装置、集積回路、gui生成方法、gui生成プログラム
US20050232583A1 (en) Control apparatus, control method, and control program product
US20070005607A1 (en) Interface control program, interface control method, interface control apparatus, plug-in program and information processing apparatus
KR102276272B1 (ko) 홈 스크린 페이지를 추가하는 전자 장치 및 방법
US20170318064A1 (en) Method and electronic device for editing content
JPWO2010109849A1 (ja) 情報処理装置、情報処理方法、記録媒体、及び集積回路
JP2008527530A (ja) アプリケーション連動方法およびそのシステム
WO2012169157A1 (ja) 被サポート装置、サポート装置、機器間ガイドシステム、記録媒体、及び集積回路
US8954489B2 (en) Widget activation and communication method
JP7328900B2 (ja) ファイル伝送方法、装置、およびコンピュータ読み取り可能な記憶媒体
US10795633B2 (en) Desktop sharing method and mobile terminal
CN104423922A (zh) 图像显示装置和数据传送方法
US20160359932A1 (en) Display device and method of controlling the same
US9606761B2 (en) Information processing apparatus for controlling an output process and method for the same
US9239818B2 (en) Image forming device for serving a web service and method thereof
KR102208033B1 (ko) 반응형 위젯 개발 장치, 방법 및 기록 매체
JP6468293B2 (ja) アプリケーション機能拡張方法、アプリケーション機能拡張プログラム、及びアプリケーション機能拡張装置
JP2008234118A (ja) ユーザインタフェース提供装置、ユーザインタフェース生成方法、およびプログラム。
US20110090185A1 (en) Information processing apparatus and image display method
KR101414844B1 (ko) 푸쉬를 사용하여 웹 객체를 이동시키는 방법 및 장치
CN117435289A (zh) 数据处理方法及装置
CN113992963A (zh) 一种显示设备及投屏方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20130624

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140228

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140304

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140603

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20141202

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150402

A911 Transfer of reconsideration by examiner before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20150410

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150519

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150612

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150714

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150813

R150 Certificate of patent or registration of utility model

Ref document number: 5795582

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees