JP2009526303A - グラフィックユーザインターフェース装置及びグラフィック客体のディスプレイ方法 - Google Patents

グラフィックユーザインターフェース装置及びグラフィック客体のディスプレイ方法 Download PDF

Info

Publication number
JP2009526303A
JP2009526303A JP2008554119A JP2008554119A JP2009526303A JP 2009526303 A JP2009526303 A JP 2009526303A JP 2008554119 A JP2008554119 A JP 2008554119A JP 2008554119 A JP2008554119 A JP 2008554119A JP 2009526303 A JP2009526303 A JP 2009526303A
Authority
JP
Japan
Prior art keywords
node
graphic object
graphic
nodes
user interface
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2008554119A
Other languages
English (en)
Other versions
JP2009526303A5 (ja
JP5232017B2 (ja
Inventor
イ,スン・ス
オム,ジュ・イル
ヨム,キ・ウォン
イ,ジュン・ホ
パク,ジ・ヒョン
Original Assignee
コリア インスティテュート オブ サイエンス アンド テクノロジー
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by コリア インスティテュート オブ サイエンス アンド テクノロジー filed Critical コリア インスティテュート オブ サイエンス アンド テクノロジー
Publication of JP2009526303A publication Critical patent/JP2009526303A/ja
Publication of JP2009526303A5 publication Critical patent/JP2009526303A5/ja
Application granted granted Critical
Publication of JP5232017B2 publication Critical patent/JP5232017B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/02Input arrangements using manually operated switches, e.g. using keyboards or dials
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G06F3/04883Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures for inputting data by handwriting, e.g. gesture or text
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/0482Interaction with lists of selectable items, e.g. menus

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

グラフィックユーザインターフェースが開示される。グラフィックユーザインターフェースは、グラフィック客体を生成するためにユーザ入力を受信する第1の領域、ユーザ入力を電気信号に変換して処理装置へ伝送する入力変換装置、処理装置からディスプレイ制御信号を受信する制御信号受信装置、及び制御信号に基づいてグラフィック客体をディスプレイする第2の領域を備える。グラフィック客体は、情報の最小単位を示すノード及びノードの間を連結してノードの間の関係を示すリンクを備える。本発明のグラフィックユーザインターフェースは、ユーザが面倒な探索手順を行うことなく現在の案件と関連した資料及びこれらの間の関係を直観的に把握することができるようにする。

Description

本発明は、グラフィックユーザインターフェースに関するものである。より具体的にはグラフィック客体(graphic object)を生成するためにユーザ入力を受け入れる領域及び生成されたグラフィック客体をディスプレイする領域を備えるグラフィックユーザインターフェースに関する。
コンピュータが会議空間で会議をサポートする道具として必須となっている。即ち、会議関連資料はコンピュータで読み出すことができるファイルとして提供されている。このような場合、そのような資料を検索及びディスプレイするためにファイル管理プログラム(例えば、ウィンドウズエクスプローラ)がしばしば用いられてきた。
しかし、フォルダ及びファイルは階層的に構成されるため、既存のエクスプローラまたはプログラムは大量の資料及びそのような資料の間の関係を同時にディスプレイしてこれらを直観的に把握することが難しいという問題があり、会議進行中に現在の案件と関連した資料をディスプレイするためにはユーザが該当資料が含まれたフォルダの位置を探し出さなければならない不便がある。
多数のユーザからの多様な案件を取り扱うために関連資料を表示するための会議進行補助システムが開発されて用いられている。しかし、新たな案件が上程される場合、その新たな案件が多数の資料と連結されており、そのような資料と共にリアルタイムで多数の参加者が認知することができるようにディスプレイする必要がある。即ち、参加者が面倒な探索過程を経なくても即時に現在の案件と関連した多数の資料及びこれらの間の関係を把握することができるように、現在の案件、関連した多数の資料、そしてこれらの間の関係をディスプレイしなければならない。
また、会議進行と関連した資料はイメージファイル、映像ファイル、サウンドファイル、テーブルファイル、テキストファイルなどのような多様な形式を有する資料が含まれていることもあるので、これらを記録してディスプレイする必要があり、そのような資料及び資料の間の関係を反映させて即時に会議を構成することが要求されている。
会議テーブルを取り囲んでいる参加者が会議の進行内容を便利に把握することができ、特に便利にテキスト情報を読み出すことができるようにするディスプレイ方法が要求されている。
要するに、会議進行に必要な機能を提供するために構成されたシステムにおいて、最小限の操作による直観的インターフェースによって会議の進展状況を総合的かつ直観的にディスプレイしてディスプレイ要素を操作することが要求されている。
[発明の詳細な説明]
[技術的課題]
本発明は、前記従来技術の問題を解決するためのものであって、会議進行のために有用なグラフィックユーザインターフェースを提供することを目的とする。このために、会議進行時に必要な多様な情報のそれぞれはグラフィック客体として格納され、表示部上にディスプレイされる。例えば、情報を格納する意味的集合体であるノードは表示部にディスプレイでき、ノードの意味情報の間の関係に基づいてリンクにより他のノードに連結され得る。その上、少なくとも一つのノード及びそのノードに連結されたリンクを備える一つのレイヤーが形成できる。会議進行を容易にして補助するためにこのようなノード、リンクまたはレイヤーを備える構造をディスプレイするグラフィックユーザインターフェースが提供される。
本発明の一実施形態によるグラフィックユーザインターフェースによれば、会議進行に必要な多量の情報が効率的に整理されてディスプレイされ、会議を準備する時に参考にできる資料に容易で速やかにアプローチ可能になり、可視したノードの分布とリンクの構造を通じて過去及び現在の会議進展状況を直観的に把握可能になる。
[技術的解決方法]
前述した目的を達成するために、グラフィック客体を生成するためにユーザ入力を受信する第1の領域、ユーザ入力を電気信号に変換して処理装置へ伝送する入力変換装置、処理装置からディスプレイ制御信号を受信する制御信号受信装置及び制御信号に基づいてグラフィック客体をディスプレイするための第2の領域を備え、前記グラフィック客体は情報の最小単位を示すノード及びノードの間を連結してノードの間の関係を示すリンクを備えるグラフィックユーザインターフェースを提供する。
前述した目的を達成するためにユーザ入力の有無を判断し、ユーザ入力の位置が第1の領域であるか、第2の領域であるか判断し、ユーザ入力の位置が第1の領域であり、入力形態がノード生成に該当すれば、ノードをディスプレイし、位置が第1の領域から始まってノードを二つ以上貫通すれば、貫通したノードを連結するリンクをディスプレイし、位置が第2の領域であれば、該当グラフィック客体を活性化する(activating)グラフィック客体ディスプレイ方法を提供する。
本発明によるグラフィックユーザインターフェースを用いることによってユーザが面倒な探索手順を行うことなく現在の案件と関連した資料及びこれらの間の関係を直観的に把握することができる。
本発明によるグラフィックユーザインターフェースを用いることによって案件と関連した多様な形式の資料を検索及びディスプレイすることができる。さらに、会議参加者がどの位置からでもその進行内容を容易に把握することができるように方向転換が可能であり、ウィンドウズエクスプローラのような従来のファイル管理プログラムで提起されてきた問題を解消することができる。
[発明の実施のための最善の形態]
本発明の一実施形態によってグラフィックユーザインターフェースは、グラフィック客体を生成するためにユーザ入力を受信するための第1の領域と、前記ユーザ入力を電気信号に変換して処理装置へ伝送するための入力変換装置と、前記処理装置からディスプレイ制御信号を受信するための制御信号受信装置と、前記制御信号に基づいてグラフィック客体をディスプレイするための第2の領域とを備え、前記グラフィック客体は、情報の最小単位を示すノード及び前記ノードの間を連結して前記ノードの間の関係を示すリンクを備える。
本発明の他の実施形態によってグラフィックユーザインターフェースを用いてグラフィック客体をディスプレイする方法は、ユーザ入力の有無を判断する段階と、前記ユーザ入力の位置が第1の領域なのか、第2の領域なのか判断する段階と、前記位置が前記第1の領域であり、入力形態がノード生成に該当すれば、ノードをディスプレイする段階と、前記位置が前記第1の領域から始まって前記ノードを二つ以上貫通すれば、前記貫通したノードを連結するリンクをディスプレイする段階と、前記位置が第2領域であれば、該当グラフィック客体を活性化する段階とを備える。
[発明の実施のための形態]
本発明によるグラフィックユーザインターフェースを具体的に説明するに先立ち、本発明で用いる基本概念及び関連用語をまず説明することにする。
本発明で用いる用語の中で、「グラフィック客体」は、表示部にディスプレイされるグラフィック図形であり、同時に情報を備える客体でもある。グラフィック客体を例示する図1を参照すれば、グラフィック客体は円形410、410、直線420、四角形430などのグラフィック図形を備えるが、これらはそれぞれノード、リンク、レイヤーという情報の客体にそれぞれ該当する。具体的には、「ノード410、410」は情報の最小単位を示す情報の客体である。会議に適用される場合、ノード410、410)は会議で論議すべき案件に対するキーワードまたはそのキーワードと関連して導き出されるキーワードを示すことができる。
図2は、表示部にディスプレイされるノードの例示的な形態を示す。ノード410は意見及び資料を縮約するキーワード411の領域を備えることができる。図1の例示を本発明の装置を具現するためのプロジェクト会議に適用すれば、ノード410のキーワードは「手動作基盤の入出力装置」、ノード410のキーワードはノード410の下位構造である「制御部」になり得る。他の例として、ノード410のキーワードは「手動作基盤の入出力装置」、ノード410のキーワードはノード410の開発担当者である「A」になり得る。図1または図2でノードの形状として円形を例示したのは単に例示に過ぎず、三角形などの他の形状になり得ることはもちろんである。
図2でノード410は、ノード410の位置を表示するID領域413をさらに備えることができる。これ以外にノード410がディスプレイされる時ユーザが区分しやすいようにノード410の状態を示すカラー領域415をさらに備えることができる。ノードの状態は、例えばノードが選択されたか否かを備えることができる。ノードは付加情報として中心座標(x,y)値及びサイズである半径(r)値をさらに備えることができる。
「リンク420」はノードとノードとの間を連結してノード間の関係を示す情報の客体である。ここで、「リンク420」が示すノード間の関係は、例えば上/下関係及び前/後関係、あるいは所属関係などを備えることができる。前記例示で、ノード410が手動作基盤の入出力装置、ノード410が制御部の場合、リンク420は二つの装置の間の上/下関係を表示し、ノード410が手動作基盤の入出力装置、ノード410が「A」の場合、リンク420はその装置に対する担当者の所属関係を示す。
図3は、表示部にディスプレイされるリンクの例示的な形態を示す。図3に示した例で、リンク420は二つのノードを連結するが、この二つのノードは親と子の間の関係を有することができる。また、親子関係は上述した通り上/下、前/後、所属関係などを示すことができる。リンク420は親ノードの中心座標421から始まって、子ノードの中心座標422で終わる。リンク420は二つの連結されたノード間の関係によって実線または点線で表示できる。この時、リンクの形状である実線または点線はリンクが示す関係を区別するための例示に過ぎず、これ以外に色または太さなどのグラフィック特性を用いることができる。
「レイヤー430」は、少なくとも一つのノード及び前記ノードに連結されたリンクを備え、含まれたグラフィック客体に対して集合的な属性を示す情報の客体である。例えば、図1に示した通り、レイヤー430が所定の会議を示せば、ノード410、410及びリンク420がその会議で討議された事案に関連した特徴を示すことができる。四角のボックスは、図1でレイヤーを示す形態の一つの例であるだけで、レイヤーの形状はこれに制限されない。図1には二つのノード410または410、一つのリンク420、一つのレイヤー430のみが示されているが、これに制限されず、本発明はさらに多くのノード、リンク、レイヤーとグラフィック客体またはさらに少ないノード、リンク、レイヤーとグラフィック客体を備えることができる。
図4は、複数のレイヤーを備えるグラフィック客体の例を示す。前記会議の例示を続ければ、複数のレイヤー430−430はn番目の会議結果をそれぞれ表示し、一つの束として管理されることができる。この場合、何枚かのレイヤーに目を通すことで現在まで会議が進行された過程を直観的に把握することができる。
これ以外にも、例えばプロジェクトに対して賛否決定をするためのレイヤー、ブレーンストーミングをするためのレイヤー、参加組織構造のためのレイヤー、日程に関するレイヤーなどを一つの束で管理することができる。このように、多数のレイヤーを一つの束で管理するようになれば、多数のレイヤーに目を通すことでプロジェクト全体を直観的に把握することができ、状況に応じてレイヤーの配列順序及び束ねる方式を異にすることによってユーザが会議の進行状態を把握するのに役立つ。
また、リンクの数またはリンクの連結構造もユーザが現在の会議状態を把握するのに役立つ。例えば、図4に見られるように、ノード410は最適に多くのリンクに連結されており、その連結構造はツリー構造形式のレイアウトを有する。これはノード410が意味する案件から多くの案件が導き出されて上程された状態であり、このような案件に対して現在活発に会議が進行していることを意味する。また、例えば点線リンクが未決を意味する場合、ノード410と関連した案件のうち、多数は確実に解決されておらず、それに関する結論を導き出すために多数の方案が具体的に論議されていることが分かるが、このようにユーザはディスプレイを見るだけで会議の進行状態を一目で把握することができる。
グラフィック客体はまた、他のグラフィック客体に対する操作及び情報入力を行う道具客体を備えることができるが、図1に示した制御ボタン束440、仮想キーボード450などをその例に挙げることができる。具体的には、「制御ボタン束440」はグラフィック客体の操作をユーザの直観的な手動作でできるようにする道具客体である。図5に制御ボタン束の例示的な形態が示されている。図1または図5で制御ボタン束が円形であるのは単に例示的なものである。
図5で、制御ボタン束440はレイヤーのズームイン/アウト441、442、レイヤーの生成443及びレイヤーの削除444、グラフィック客体のファイルへの格納445、グラフィック客体が格納されたファイルのオープン446、リンクに連結されたノード構造のスケール調整447、448などを示す記号を含んでいる。
用語「ノード構造」とは、現在選択されたノード、選択されたノードに連結された全てのリンクとそのリンクに連結されたノード全部を称する。用語「ノード構造のスケール調整」とは、このようなノード構造において例えば選択されたノードを中心にノード構造を拡大/縮小したり、または予め定められた基本表示位置を中心にノード構造を拡大/縮小することになり得る。制御ボタン束440はノード構造の位置調整も備えることができる。スケール調整と同様に、ノード構造の位置調整も現在選択されたノードを中心に位置が移動したり基本表示位置を中心に位置が移動することができる。これ以外に上述した記号が示す動作の詳細な内容は制御部の関連部分で説明することにする。
ユーザは、例えば指で所望の動作に該当する制御ボタン束440の記号に触れるような直観的な手動作を通じて該当グラフィック客体の該当する操作を可能にすることができる。上述した制御ボタン束の機能及び記号は単に例示的なものであり、本発明で制御ボタン束の機能及び記号はこれに制限されない。
「仮想キーボード450」はテキスト入力を可能にする道具客体である。ユーザは仮想キーボードを用いて、例えばノード410または410のキーワード、レイヤー430の名前またはグラフィック客体の付加情報を入力及び修正することができる。
図6に仮想キーボードの例示的な形態を示した。仮想キーボードは仮想キーボード領域451、例えばPC/AT 101キー互換ハングルキーボードと配列の同じキーボタン452及びキーボードのサイズを調節することができる選択領域453で構成されている。ユーザは、例えば指で仮想キーボード450上のキーボタン領域452に触れるような直観的な手動作を通じて該当テキストを入力することができる。図6は単に仮想キーボードの例示であるだけであり、本発明の仮想キーボードはこれによって制限されない。
上述したグラフィック客体の概念に基づいて、以下では図7〜図30を参照して本発明の実施形態を詳細に説明する。
図7は本発明の一実施形態による手動作基盤の入出力装置の構成を示したブロック図である。手動作基盤の入出力装置100は、入力部102、制御部104及び表示部106を備える。
入力部102は、ユーザの手動作をセンシングしてこれを電気信号に変換する。手動作のセンシングはタッチスクリーンのように触覚(接触)情報を入力とするセンシング、カメラのように視覚情報を入力とするセンシング、または赤外線送受信装置のような赤外線送受信を用いるセンシングなどを備える。ただし、これに制限されない。入力部102はセンシングされた位置データを処理し、例えば手の初期位置と移動経路などを計算することによって感知された手動作が示す電気信号を発生させる。
図8〜11は、ユーザがとる例示的な手動作を示したものである。図8で、ユーザが指200で入力部102に円を描けば、入力部102はこれをセンシングして円が示す電気信号、例えば「ノード生成」を示す電気信号を発生させる。
図9で、ユーザが指200で入力部102に直線を描けば、入力部102はこれをセンシングして直線が示す電気信号である「リンク生成」を示す電気信号を発生させる。一実施形態で、例えば表示部106上でいかなるグラフィック客体も存在しない領域から始め、二つ以上のノードを貫通する軌跡をドラッグした後、指200を離せば「リンク生成」という電気信号が発生する。望ましい実施形態で、軌跡で最初に接したノードが最上位の親ノードになり、次に接したノードは最初のノードの子ノードになる関係を有することができる。この場合、もし指200が三つ以上のノードを貫通すれば、軌跡上の一つのノードは直前のノードの子ノードになり得る。
図10で、ユーザが入力部102に指200でZ状を描いた場合、入力部102はZ状をセンシングしてZ状の意味を示す、例えば「制御ボタン束440の生成(活性化)」を示す電気信号を発生させ得る。これと同様に、ユーザが入力部102に指200で四角形を描いた場合、入力部102は四角形をセンシングして四角形の意味を示す、例えば「仮想キーボード450の生成(活性化)」を示す電気信号を発生させ得る。
一方、ユーザが入力部102の所定位置を指200で触れる場合(ポインティングイベント)、入力部102はこれをセンシングしてポインティングイベントを示す電気信号の「該当するグラフィック客体(ノード、リンクまたはレイヤー)の選択」を示す電気信号を発生させる。ポインティングイベントが発生した位置がグラフィック客体の記号、例えば、制御ボタン束440などの格納記号上である場合、「グラフィック客体の格納」を示す電気信号を発生させる。同様に、ポインティングイベント発生位置が仮想キーボード450の特定テキスト位置上である場合、「該当テキスト入力」を示す電気信号を発生させる。
図11で、ユーザが指200でスプリング形状を描けば、入力部102はこれをセンシングしてスプリング形状が示す電気信号の「選択されたグラフィック客体の削除」を示す電気信号を発生させる。
一方、ユーザが指200で引っ張る(ドラッグ)場合、入力部102はこれをセンシングしてドラッグが示す電気信号である「選択されたグラフィック客体の移動」を示す電気信号を発生させる。
上述した円、直線、ポインティングイベント、またはスプリング形状などは直観的なジェスチャーの例示であるだけで、これに制限されない。この実施形態で、入力部102で発生する電気信号は、図12に示したメッセージのようなプロトコルで表現できる。即ち、電気信号は動作フィールド、動作が行われる客体フィールド及び付加情報フィールドを表示することができる。
図14は、本発明による手動作基盤入出力装置で制御部104の例示的な詳細構成を示したものである。制御部104は、処理ユニット104aを備えることができる。処理ユニット104aは入力部102から受信された電気信号(またはメッセージ)を解折した後、それによる動作を行う。電気信号が表示部106のディスプレイのためのメッセージとして解折されれば、処理ユニット104aはこれを指示する実行制御信号を表示部106に伝達する。例えば、処理ユニット104aが解折した電気信号の客体及び動作が「ノード」及び「生成」の場合、処理ユニット104aは情報客体のノードを生成した後、表示部106に生成されたノードをディスプレイするように指示する実行制御信号を伝達することができる。このように処理ユニット104aを備える制御部104はマイクロプロセッサのように所定の演算及び制御処理が可能な装置で具現できるが、これに制限されない。
本発明の一実施形態で、制御部104は上述したような処理ユニット104a以外にメモリ104bのように処理ユニット104aでアクセス可能な所定の格納装置をさらに備えることができる。
メモリ104bは、図13のようなマッピングテーブルが格納できる。この実施形態で、制御部104は受信された電気信号をメモリ104bに格納されたマッピングテーブルと対照して電気信号の客体及び動作を解折することができる。
メモリ104bはまた、制御部104が管理するグラフィック客体に関する資料構造(data structure)を格納することができる。本発明の一実施形態によって、制御部104が管理する資料構造の例を図15〜16に示した。図15〜16に示した通り、資料構造の形態はリストとグラフ、2種類の形態があり得る。
図15に示した例示的なリストは、線形資料構造としてそれぞれのグラフィック客体をより容易に生成、削除及び検索することができるようにする。まず、図15のノードリストはノードの識別子(ID)、説明、座標、半径サイズ及び状態フィールドを備える。説明フィールドは該当ノードが含蓄する資料のキーワード、該当ノードの上位ノード及び下位ノードのIDを備えることができる。座標フィールドは該当ノードの中心が位置する座標(x、y)になり、半径サイズフィールドは例えばピクセル単位で半径値になり得る。状態フィールドは以下で詳細に説明する拡張/縮小の状態を備える。フィールド及びフィールドに含まれた内容は単に例示に過ぎず、本発明のノードリストがこれに制限されるのではない。
図15のリンクリストは、リンクのID、説明及び開始と終了フィールドを備える。説明フィールドは該当ノードが連結する二つのノード間の関係を表示することができる。開始及び終了フィールドは開始ノード及び終了ノードのIDを備えることができる。フィールド及びフィールドに含まれた内容も例示的なものであり、本発明はこれによって制限されない。
図15のレイヤーリストはレイヤーのID、レイヤーが備えるノード及びリンクフィールドを備える。ノード及びリンクフィールドは該当レイヤーに含まれたノード及びリンクのIDをそれぞれ備えることができる。示したレイヤーリストのフィールド及びフィールドに含まれた内容も例示的なものであり、本発明はこれによって制限されない。
多数のユーザが本発明によるシステムを用いる場合、グラフィック客体に対して数多くの「生成」、「削除」などの動的作業を行うようになる。グラフィック客体をリストで管理することによってシステム設計時に事前にメモリ空間を確保する必要なく動的に必要なメモリ空間を作って客体を連結することによって効率的なメモリ空間の管理が可能である。
図16に示したグラフは非線形資料構造としてノードと各ノードを連結するリンクの関係及び論理的な構造情報を表現する。図16に示したように、グラフは各ノード間の前/後関係、上/下関係及び所属関係を表現し、表示部106で示した形態のように管理されて操作される。図16に示したように、本発明で非線形資料構造として用いられるグラフはツリーとは異なり、一定の方向性なく意味的に連結された全ての客体間の構造を表現することができる。従って、本発明の一実施形態による手動作基盤の入出力装置はグラフィック客体をグラフで管理することによってグラフィック客体の生成、削除などの制御がユーザの観点から直観的に操作されて表現できるという長所を有する。
図13を参照して制御部104が行う動作を一つ一つ詳察することにする。
制御部104が解折した電気信号の動作が「生成」の場合、制御部104が行う作業はノード、リンクまたはレイヤーなどのグラフィック客体を生成してメモリ104bに格納されたリストまたはグラフのような資料構造に登録し、表示部106に生成されたグラフィック客体をディスプレイするように指示する制御信号を伝送する過程を備えることができる。電気信号の対象が制御ボタン束または仮想キーボードの場合、制御部104は制御ボタン束または仮想キーボードをon状態(活性化されて画面に表示した状態)に設定し、活性化された制御ボタン束または仮想キーボードを表示部106にディスプレイするように指示する制御信号を伝送することができる。
ノード、リンクまたはレイヤーのようなグラフィック客体の生成時に、制御部104はリストにその客体が既に格納されているかどうかをまず確認することができる。例えば、生成されたノードのキーワードとノードリストにある所定のノードのキーワードが同一であれば該当ノードが存在するものと判断され得る。また、生成されたリンクの開始及び終了ノードのIDがリンクリストにある所定のリンクの開始及び終了ノードのIDと同一であれば該当リンクが存在するものと判断され得る。
該当グラフィック客体が存在しなければ、基本情報であるグラフィック客体のIDを該当リストに格納する(図15参照)。ノードを生成する場合、ノードリストに中心座標とサイズ(半径)値を付加的に格納することができる。リンクを生成する場合、リンクリストにリンクの開始、終了ノードのIDを付加的に格納することができるが、この時、二つのノードはノードリストに存在しなければならない。このように登録された客体はグラフに格納されることによって、グラフでの該当グラフィック客体の位置と異なるグラフィック客体との関係を表現することが可能になる(図16参照)。
制御部104が解折した電気信号の動作が「選択」の場合、制御部104は選択されたグラフィック客体のIDを把握する。即ち、「選択」は「移動」、「情報修正」またはレイヤーの「最大/最小化」などのための事前段階として用いられる。例えば、「選択」に対する手動作は指で触れるようなポインティングイベントになり得るが、この場合、制御部104は表示部106と通信して該当客体のIDを確認することができる。
制御部104が解折した電気信号の動作が「移動」の場合、制御部104は(選択された)ノードを移動し、移動した座標をノードリストまたはグラフの該当資料構造に格納した後、ノードを移動した座標で表示部106にディスプレイするように指示する制御信号を伝送する。
本発明の一実施形態でノードの移動は、単一ノード移動と全ての子ノードを移動するという二つを備えることができる。例えば、単一ノードの移動はノードの属性設定モードがonの状態でノードを「選択」した後行われることができる。この実施形態で、単一ノードの移動は「選択」を通じてノードのIDを得てきた後、移動した座標値を計算して選択されたノードのみを移動させることができる。
一方、ノードの属性設定モードがoffである状態(非活性化されて、例えば、画面に半透明状態で表示される状態)でノードを「選択」した後、移動させると、選択された単一ノードに連結された異なるグラフィック客体(例えば、選択されたノードに連結されたリンク及びリンクに連結されたノード)まで共に移動できる。この実施形態で、選択されたノードと連結された全ての他のノードのID値を抽出し、抽出されたノードの移動した座標値を計算した後、再び該当資料構造に格納することができる。
制御部104が解折した電気信号の動作が「情報修正」の場合、この動作はユーザによる仮想キーボード450への入力を要する場合がある。また、ノード、リンクまたはレイヤーのようなグラフィック客体の「選択」が先行しなければならない。ユーザはこのようなグラフィック客体を選択した後、仮想キーボード450を通じて情報を入力することによって該当グラフィック客体の情報を変更させることができる。変更された情報は前述したような該当資料構造に格納できる。
制御部104が解折した電気信号の動作が「削除」の場合、制御部104は選択されたグラフィック客体に関する情報を該当資料構造から除去した後、これを表示部106にディスプレイするように(客体除去)指示する制御信号を伝送する。即ち、この過程は上述した「生成」と反対となる作業に該当する。電気信号の対象が制御ボタン束または仮想キーボードの場合、制御部104は制御ボタン束または仮想キーボードをoff状態に設定(非活性化状態にディスプレイ、例えば半透明状態に)し、これをディスプレイするように指示する制御信号を伝送する。
制御部104が解折した電気信号の動作がノードの「拡張/縮小」の場合、制御部104は表示部106上で該当ノードの子ノードを表示したり、または非表示にするように資料構造で情報を変更した後、これをディスプレイするように指示する制御信号を伝送する。
拡張/縮小の機能は、図17に示した通り、ノードの属性設定モードの機能中の一つになり得る。属性設定モードはノードの属性を設定することができる状態で、例えば該当ノードをダブルクリックすることによってノードのモードを属性設定モードに転換させることができる。一方、属性設定モード状態のノードをダブルクリックする場合、再び基本モードに戻ることができる。このようなモード切替の例は、単なる例示に過ぎず、本発明がこれに制限されるものではない。
属性設定モードの例として、図18〜図20にノードの拡張/縮小、サイズ調整及びキーワード検索を示した。
図18を参照すれば、ユーザは属性設定モード状態で、例えばノード410の+/−記号416を指で触れること(ポインティングイベント)により拡張/縮小を実行させることができる。制御部104は受信された電気信号が「ノードの拡張/縮小」として解折された場合、まず該当ノードが現在拡張された状態なのか縮小された状態なのかを把握することができる。図18の左側に示した通り、ノード410が拡張状態の場合、制御部104は子ノードのID(例えば、410−410)及びリンクのID(例えば、420−420)をノード410の資料構造から収集することができる。次に、制御部104は収集された子ノード410−410及びリンク420−420に対し縮小状態に情報を変更した後、これらの色を例えば、透明に変更することができる。反対に、図18の右側に示した通りノード410が縮小状態の場合、制御部104は収集された子ノード410−410及びリンク420−420に対して情報及び色を縮小の前の状態に、例えば鮮明に変更することができる。拡張/縮小で変更された情報は該当資料構造で格納及び管理される。
図19を参照すれば、属性設定モード状態で、例えばノードのサイズ調整領域417を指で触れた後(ポインティングイベント)、適切に引っ張る(ドラッグ)ことによってノードのサイズを調整することができる。制御部104は受信された電気信号が「ノードのサイズ調整」と解折された場合、ポインティングイベント発生以後から該当ノードの中心座標と現在の指の座標との間の距離を計算してこの距離に比例するようにノードのサイズを調整する。
図19の左側に示したノードを基本ノードサイズと仮定する。ユーザがサイズ調整領域417を指で触った後、例えばノードの外側に指をドラッグすれば、図19の中央に示したように、ノードのサイズを拡大できる。これと反対に、ユーザが例えばノードの内側に指をドラッグすれば、図19の右側に示したように、ノードのサイズを縮小できる。
制御部104は、変更されたノードのサイズを該当ノードの資料構造(例えば、ノードリストのサイズフィールド)に格納し、これをディスプレイするように表示部106に制御信号を伝送する。
ユーザは属性設定モード状態で、例えばノードのキーワード検索領域418を指で触れること(ポインティングイベント)によって「キーワード検索」を実行させることができる。制御部104は、受信された電気信号が「キーワード検索」と解折された場合、所定のデータベース(DB:118;図14参照)を探索して前記ノードのキーワードと関連したファイルを呼出し、パーサー(paser)を通じてファイルを解折した後、これをディスプレイするように指示する制御信号を表示部106へ伝送することができる。
図20はキーワード検索時の表示部106の例示的なディスプレイ状態を示したものである。表示部106は、図20に示した通り、ディスプレイ領域を分割(例えば、470−470)して複数の資料が同時にディスプレイされるようにすることができる。図20で分割領域を4つに示したのは単に例示的なものであり、本発明がこれに制限されるものではない。表示部106は現在キーワード検索が実行された該当ノード410を表示して、ユーザがディスプレイされた資料とこれに関連したキーワードを容易に把握することができる。
ノードのキーワードと関連してディスプレイ領域470−470にディスプレイできるファイルの例としては、ノードに対する簡略な要約情報、参考資料のハイパーリンク、ワードなどのテキスト文書、パワーポイントなどのプレゼンテーション資料、jpgなどのイメージ資料またはaviなどの動画像資料を挙げることができる。また、ファイルはmp3などのサウンド資料またはwavなどの録音資料を備えることができる。ただし、動画像資料、サウンド資料または録音資料などを再生するためにはスピーカのような別途の音源再生装置が必要となる場合がある。このように列挙された資料は単に例示に過ぎず、ノードのキーワードと関連した資料はこれ以外にパーサーを通じて解折されてディスプレイされ得る任意のテキスト及びマルチメディア資料を備えることができる。
図21は、キーワード検索時、探索された資料のディスプレイに便宜を図るための例示的な検索ボタンを示したものである。例えば、検索ボタン460のスクロール記号462、463を指で触れること(ポインティングイベント)により探索された資料が順にディスプレイされるようにすることができる。
図22は、検索ボタンのスクロール記号を用いる一実施形態を示す。図22の左側に見られるように、キーワード検索時に検索されたファイルは最初にディスプレイされ得る。各領域470、470、470、470はそれぞれワード(1)、ウェブページ(2)、パワーポイント(3)及びエクセル(4)ファイルをディスプレイしている。ファイルの番号は目録化された順序を示すことができる。スクロール記号463に触れると、資料のディスプレイが図22の右側に見られるように変わることがある。即ち各領域470、470、470、470はウェブページ(2)、パワーポイント(3)、エクセル(4)及びイメージ(5)ファイルをディスプレイする。この状態でスクロール記号462に触れると、資料のディスプレイは図22の左側に見られるように、再び元に戻る。このようなディスプレイ方式及びスクロール記号は単に例示であるだけであり、本発明がこれに制限されるものではない。
図23は、キーワード検索時にディスプレイされる資料の方向を変更する例を示したものである。キーワード検索時、ユーザが方向変更領域475に触れると、表示部106にディスプレイされる資料の方向が変更される。左側の基本ディスプレイ画面でユーザが方向変更領域475に触れると、図23の右側画面のように、方向変更領域475がテキストの上方になるようにディスプレイ方向が変更される。例えば、方向変更領域475が表示部106の四つの縁に位置すれば、上述したものと同様の形態でディスプレイされる資料の方向が四つの縁の方向に変更される。このような機能は、会議進行時に会議テーブルを取り囲んでいる参加者がどの位置からもその進行内容を容易に把握することができ、特に便利にテキスト情報を読み出すことができるという長所を提供する。
制御部104が解折した電気信号の動作が「ズームイン/アウト」の場合、制御部104は表示部106上でレイヤーのスケールを選択されたサイズに調整するように指示する制御信号を伝送する。この機能は上述したように制御ボタン束440の機能の中の一つの、例えばユーザが、制御ボタン束440がonである状態で制御ボタン束440上の「ズームイン/アウト」の記号441、442に指で触れること(ポインティングイベント)によって実行できる。スケールを拡張させれば、全体ノードのサイズは拡張された比率だけ増加し、スケールを縮小させれば、全体ノードのサイズは縮小された比率だけ減少する。ズームイン/アウトが0%または100%に選択されれば、それぞれ以下で説明されるレイヤーの「最小」または「最大」の場合に該当する。
制御部104が解折した電気信号の動作が「ファイル格納」の場合、制御部104は表示部106にディスプレイ中であるグラフィック客体をコンピュータ読み出し可能媒体に格納できる形態のファイルで格納する。この機能は上述した通り制御ボタン束440の機能中一つの、例えばユーザが制御ボタン束440がオン(on)である状態で制御ボタン束440上の「ファイル格納」の記号445に指で触れること(ポインティングイベント)により実行できる。
本発明の望ましい実施形態で、グラフィック客体が格納されるファイルはXML形態になり得る。この実施形態で、制御部104は、まず、各レイヤーに対する要素(element)を生成する。制御部104が上述した通り、リストとグラフとしてグラフィック客体を2つの資料構造で管理する場合、レイヤーに対する要素はレイヤーリストを参照して生成できる。その次に、ノード要素及びリンク要素を生成する。グラフィック客体がリストで管理される場合、同様にノード及びリンクに対する要素はノードリスト及びリンクリストを参照して生成できる。この実施形態で、リストに含まれている付加情報を属性として追加することができる。全ての要素が生成されれば、それぞれのノード及びリンク要素を該当レイヤー要素に登録することによって一つのファイルが生成される。
制御部104が解折した電気信号の動作が「ファイルオープン」の場合、制御部104はグラフィック客体が格納されたファイルを呼出し、パーサーを通じて解折し、これを表示部106にディスプレイするように指示する制御信号を伝送する。この機能は上述した通り、制御ボタン束440の機能中の一つの、例えばユーザが制御ボタン束440がonである状態で制御ボタン束440上の「ファイルオープン」の記号446に指で触れること(ポインティングイベント)によって実行できる。
本発明の一実施形態で、制御部104の「ファイルオープン」はグラフィック客体が格納されたXMLファイルを呼出すことができる。この実施形態で、制御部104は、まず、ルート要素(root element)を確認して装置で使用可能なファイルなのかを確認した後、ルート要素の子要素(child element)を導き出すことができる。子要素はレイヤー要素で構成され、それぞれのレイヤー要素は子要素としてリンク要素とノード要素を備える。このような情報の表現は単一グラフに関する情報を記述するものでレイヤーとグラフ、即ち、表示領域で表現された情報を制御領域の情報と有機的に連結するためである。リンク要素は属性としてリンクのID、リンクの説明、リンクを連結する2ノードのIDを備えることができ、ノード要素はノードのID、ノードの説明、ノードの座標及びノードのサイズを備えることができる。制御部104が上述したようにリストとグラフとしてグラフィック客体を2つの資料構造で管理する場合、パーサーを通じて解析された情報は各グラフィック客体のためのリスト及びグラフに格納され、グラフィック客体生成過程を通じて表示部106にグラフィック客体がディスプレイされるようにする。
制御部104が解折した電気信号の動作が「最大/最小化」の場合、制御部104は表示部106上で現在活性化状態であるレイヤーに対してその情報を一時的に格納した後、非表示したり(最小化)、現在最小化されたレイヤーに対して一時的に格納された情報をオープンした後、活性化を行う(最大化)ことができる。図4に示した例を参照すれば、レイヤー430は現在活性化された状態であり、レイヤー430−430は最小化された状態である。レイヤー430を最小化させると非表示となり、レイヤー430−430の中の一つを最大化すれば該当レイヤーが活性化される。
表示部106は、制御部104の指示に従ってグラフィック客体をディスプレイする。表示部106は液晶ディスプレイ(LCD)で具現できるが、これに制限されるものではない。
図24は、本発明の望ましい一実施形態で、入力部を表示部上に装着した構成を示したものである。一例示として、入力部102はタッチスクリーンであり、表示部106はLCDになり得る。円状、Z状などの手動作が発生すると、入力部102でこの手動作に該当する電気信号を制御部104へ伝送し、制御部104は受信された電気信号を解折し、解折されたところによって適切な動作を行うが、ディスプレイと関連した動作の場合、これを指示する制御信号を表示部106へ伝送することができる。一方、指でグラフィック客体に触れるようにポインティングイベントが発生すれば、制御部104は表示部106と通信してポインティングされたグラフィック客体に関する情報を得ることができる。この実施形態で、ユーザはディスプレイに基づいて直観的なジェスチャーで入/出力装置を作動することができる。
この実施形態で、入力部102及び表示部106として大型(例えば、55インチ)タッチスクリーン及びLCDを用いれば、複数の人が大型タッチスクリーンを通じて同時に自由に情報を入力することができる。従来技術では複数の人が情報の入力を所望する場合、ノートブック、キーボード、マウスなどを多数接続した後、入力を所望する人にスイッチングしたりまたは一つの入力装置に対して複数の人が順に用いなければならなかった。本発明では使用順序を気にせず、別途の入力装置乃至スイッチング装置を接続する必要なく、一つの入力部を複数の人が便利かつ自由に用いることができる。従って、本発明は会議進行のように複数の人が共に入力し、出力を共有する作業で有利に用いられる。
手動作基盤の入出力装置100は、望ましくは図24に示した通り、グラフィック客体ファイル変換部108を備えることができる。グラフィック客体ファイル変換部108はグラフィック客体に対するファイルを一定の形態のファイルに変換させて既存のシステム及び多様な形態のアプリケーションプログラムと互換性を有するようにすることができる。変換されるファイルの形態は画像ファイル、ワードファイル及びパワーポイントファイル形態の文書を備えることができるが、これに制限されない。
図25は本発明の一実施形態によって、多数の手動作基盤の入出力装置がサーバ100及びクライアント200−200として通信ネットワーク300を通じて連動する構成を示したものである。図25のクライアント200−200はユーザの個人入出力装置で用いるためのものであって、携帯の簡便なノートブック及びタブレットPCで具現できるが、これに制限されない。通信ネットワーク300はLANのような有線ネットワーク、ブルートゥース(Bluetooth)のような無線ネットワークなど、接続された装置間の双方向データ伝送が可能な任意のネットワークを備えることができる。
図25のサーバ−クライアントシステムでサーバ100及びクライアント200−200として用いられる手動作基盤の入出力装置は、それぞれ通信ネットワーク300を通じてグラフィック客体に関する情報を受信する受信部112、212−212及び表示部106、206−206にディスプレイされているグラフィック客体を一時的に格納する臨時格納部116、216−216をさらに備える。受信部112、212−212で通信ネットワーク300を通じてグラフィック客体に関する情報を受信した場合、臨時格納部116、216−216は表示部106、206−206にディスプレイされているグラフィック客体を一時的に格納し、表示部106、206−206は受信されたグラフィック客体をディスプレイする。
サーバ100は、通信ネットワーク300を通じてグラフィック客体に関する情報を伝送する送信部110及びクライアント200−200が通信ネットワーク300を通じてサーバ100に接続を要請する場合、クライアント200−200を認証して接続を許可する認証部114をさらに備える。認証部114は望ましくは、認証されたクライアント200−200の付加情報、即ちID及びIPアドレスをハッシュテーブルに登録して接続するクライアント200−200を管理することができる。
図26−27は、サーバ−クライアントシステムでサーバとクライアントがグラフィック客体に関する情報を送受信する例示的な構成を示したものである。図26を参照すれば、サーバ100の送信部110は、サーバ100に接続されたクライアント200がある場合、サーバ100の表示部106にディスプレイ中であるグラフィック客体に関する情報を、通信ネットワーク300を通じて接続されたクライアント200へ伝送する。一実施形態で、送信部110から伝送するグラフィック客体に関する情報は制御部104が管理するグラフィック客体に関する資料構造を備えることができる。また、グラフィック客体に関する情報を伝送する過程は、上述したファイル格納機能を用いて送信部110を通じてなされる。
サーバ100からグラフィック客体に関する情報を受信したクライアント200は、現在クライアント200の表示部206にディスプレイ中であるグラフィック客体に関する情報を臨時格納部214に格納し、受信したグラフィック客体を表示部206にディスプレイする。このような過程は受信部212から上述したファイルオープン操作を用いて行うことができる。制御部204は最小化機能を用いて現在活性化されていたレイヤーを非表示にし、最大化機能を用いて新たに受信されたレイヤーを活性化させることができる。制御部204がグラフィック客体を上述した資料構造で管理する場合、ファイルオープン過程と同様にパーサーを通じてグラフィック客体の情報を分析した後、新たな資料構造を生成して各グラフィック客体を生成された資料構造に登録することができる。
サーバ−クライアントシステムで、グラフィック客体に関する情報の送受信はXMLに基づく(XML based)ソケットデータ通信を通じて行われることができる。このようなシステムを構成することにより、遠隔ユーザもサーバ上で進行中である作業内容、例えば会議内容を自らの装置(クライアント)でリアルタイムにアップデートしながら見ることができる。
図27は、サーバ−クライアントシステムでクライアントがサーバにグラフィック客体に関する情報を伝送する例を示したものである。クライアント200は通信ネットワーク300を通じてグラフィック客体に関する情報を伝送する送信部210をさらに備える。クライアント200は図26を参照して説明されたような方法でサーバ100にグラフィック客体に関する情報を伝送することができる。サーバ100の受信部112がクライアント200からグラフィック客体に関する情報を受信した場合、図26を参照して説明されたような方法で受信されたグラフィック客体に関する情報を処理することができる。
図26を参照して上述した通り、サーバ100の送信部110は、サーバ100に接続されたクライアント200−200があれば、サーバの表示部106にディスプレイ中であるグラフィック客体に関する情報を、通信ネットワーク300を通じて接続されたクライアント200−200へ伝送する。従って、図27でクライアント200がサーバ100にグラフィック客体に関する情報を伝送すれば、サーバ100はこのグラフィック客体に関する情報を、再び接続された全体クライアント200−200へ伝送するようになる。従って、サーバ−クライアントシステムに従って、一つのクライアントが有するグラフィック客体に関する情報をサーバに接続された全体クライアントがいずれも共有して見ることができるようになる。
これと異なり、権限が委任されたクライアント200がサーバ100だけでなく接続中である他のクライアント200−200に直接グラフィック客体に関する情報を伝送するように具現されることができる。
本発明の望ましい一実施形態で、グラフィック客体の操作権限を有する装置のみがグラフィック客体に関する情報を伝送するようにすることができる。グラフィック客体の操作権限とは、多数のクライアント200−200が通信ネットワーク300を通じてサーバ100と連動中である時、サーバ100の表示部106にディスプレイされるグラフィック客体に関する情報を伝送することができる権限として複数の装置による操作でデータが衝突することを防止するためである。グラフィック客体の操作権限は基本的にサーバ100が有し、クライアント200−200はサーバ100にグラフィック客体の操作権限を委任するように要請することができる。
図27の例を続けて参照すれば、クライアント200はサーバ100からグラフィック客体の操作権限が委任されたのである。従って、この場合、サーバ100にグラフィック客体に関する情報を伝送することができるのはクライアント200だけで他のクライアント200−200はサーバ100にグラフィック客体に関する情報を伝送することができない。しかし、各クライアント200−200は自らの表示部206−206にディスプレイされるグラフィック客体に対してはグラフィック客体の操作権限の如何に関係なく入力部202−202を通じて自由に操作することができる。
一実施形態で、操作権限がクライアント200に委任された場合にもサーバ100の入力部102に入力した手動作が表示部106に反映されるように具現できる。この場合は上述した通りクライアントが客体操作権限に関係なく自由に自らの表示部にディスプレイされたグラフィック客体を生成または削除することができることに該当する。代わりに、クライアント200がサーバ100から操作権限の委任を受けた場合には入力部102はディセーブルでき、入力部102に入力された手動作が表示部106にディスプレイされないことも有り得る。言い換えれば、自己のみの装置として遠距離ユーザが用いるクライアントと複数の人が共通に使用中の近距離ユーザのサーバを別途に取り扱うことができる。これはアプリケーションによってユーザが取捨選択することができる。
図28は、本発明の一実施形態によって手動作基盤の入出力方法(700)を行うための論理的な流れを示したものである。まず、手動作をセンシングし、センシングされた結果を電気信号に変換する(701)。電気信号の例として図12に示したメッセージタイプのプロトコルを挙げることができる。
段階(702)で、電気信号に基づいてマッピングテーブルによって動作を行う。マッピングテーブルの例として図13に示したマッピングテーブルを挙げることができる。段階(703)で、行われた動作を反映させてディスプレイする。
手動作基盤の入出力方法(700)は、クライアントから通信ネットワークを介して接続要請を受信する段階(704)をさらに備えることができる。この場合、サーバは接続を要請するクライアントを認証して接続を許可することができる(705)。次に、サーバはディスプレイされているグラフィック客体に関する情報を接続されたクライアントへ伝送することができる(706)。
手動作基盤の入出力方法(700)は、接続されたクライアントのいずれか一つからグラフィック客体の操作権限に対して委任の要請を受ける段階を備えることができる(708)。サーバは委任要請に応答し、委任を要請したクライアントにグラフィック客体の操作権限を委任することができる(709)。サーバはグラフィック客体の操作権限の委任を受けたクライアントからグラフィック客体に関する情報を受信することができる(710)。サーバは現在サーバの表示部にディスプレイされているグラフィック客体を臨時に格納し、受信されたグラフィック客体をディスプレイすることができる(711)。
図29は、本発明の他の一実施形態による手動作基盤の入出力方法を行うための論理的な流れを示したものである。まず、ユーザジェスチャー信号を受け入れるために入力部102を開放する(801)。その次に、制御部104は各グラフィック客体のための資料構造を生成する(802)。グラフィック客体は上述したノード、リンク、レイヤーなどを備えることができる。次に、制御部104は入力部を通じて電気信号を受信する(803)。制御部104はマッピングテーブルに基づいて電気信号を分析する(804)。マッピングテーブルは例えば、図13に示したマッピングテーブルを備えることができる。制御部104は分析された内容をバッファに格納する(805)。制御部104は分析された内容が、制御部104が行う動作に関するメッセージなのか判断する(806)。メッセージの場合、それによる動作を行う(807)。
行った動作によって表示部106にディスプレイを指示する制御信号を発生させる(808)。発生させた指示信号を表示部106へ伝送する(809)。
手動作基盤の入出力方法(800)は、805段階の後、接続されたクライアントが存在するかを判定する段階(810)をさらに備えることができる。この実施形態で、接続されたクライアントが存在する場合、バッファに格納された内容を接続されたクライアントへ伝送する(811)。
手動作基盤の入出力方法(800)は、複数のクライアントのために受信部112を開放する段階(812)をさらに備えることができる。この実施形態で、受信部112は開放後にクライアントの接続を待機する(813)。クライアントが接続を要請すれば(814)、認証部114でクライアントを認証して接続を許可する(815)。認証されたクライアントの情報をハッシュテーブルに登録して(816)クライアントがファイルなどを伝送した場合、これを制御部104で処理する(807)。制御部104の処理は例えば、上述した通りディスプレイされているグラフィック客体を臨時に格納し、伝送されたグラフィック客体をディスプレイするものとなることができる。
図30は、本発明によって手動作基盤の入力を感知し、ディスプレイする例示的なグラフィックユーザインターフェース方法の論理的流れを示したものである。ポインティングイベント(ユーザの入力)管理者はユーザ入力を感知してポインタの移動する位置を追跡し、これを変数に格納する(910)。ポインティングイベント発生位置がノード内部領域なのか(920)、リンクなのか(930)、グラフィック客体のない空き空間(ベース領域)なのか(940)を判断する。
ユーザ入力位置を判断した結果、ノード内部領域の場合、入力がクリックなのか(921)、ドラッグなのか(922)、ダブルクリックなのか(923)を判断する。クリックの場合、現在ノードを選択された状態でディスプレイ変更する(9211)。ディスプレイ変更は、例えば、ノードのカラー領域(415;図2参照)の色を変更したり発光アニメーション効果(きらめき)を与える方法などからなることができる。ドラッグの場合、該当ノードの中心座標をポインタの座標と一致するように該当ノードのディスプレイを更新する(9221)。この過程をドラッグを止めるまで反復する(9222)。ダブルクリックの場合、ノードが属性設定モードなのかを判断し(9231)、属性設定モードであれば属性設定モードに必要なボタン(例えば、拡張/縮小(416)、スケール調整(417)またはキーワード検索(418)等;図17参照)をディスプレイし(9232)、属性設定モードではない場合、基本ノード形態(図2参照)でディスプレイする(9233)。
ユーザ入力位置を判断した結果、リンクの場合、現在リンクを選択された状態でディスプレイ変更する(931)。ディスプレイ変更は上述したノードと同様の方法でなされる。
ユーザ入力位置を判断した結果、空き空間の場合、ドラッグなのか判断する(941)。ドラッグが所定のジェスチャー(例えば、ノード生成)として認識されれば(9412)、該当ジェスチャーに該当するディスプレイ(例えば、新たなノードディスプレイ)を行う(9413)。ユーザの便宜のために、ドラッグ判断段階とジェスチャー認識段階との間に選択的にドラッグについて行く実線をディスプレイすることができる(9411)。
本発明は、また、コンピュータで読み出すことができる記録媒体にコンピュータが読み出すことができるコードとして具現することが可能である。コンピュータが読み出すことができる記録媒体はコンピュータシステムによって読まれることができるデータが格納される全ての種類の記録装置を備える。コンピュータが読み出すことができる記録媒体の例としてはROM、RAM、CD−ROM、磁気テープ、フロッピーディスク、光データ記憶装置などがあり、また、キャリアウェーブ(例えばインターネットを介した伝送)の形態で具現されるものも備える。また、コンピュータが読み出すことができる記録媒体はネットワークに接続されたコンピュータシステムに分散し、分散方式でコンピュータが読み出すことができるコードが格納されて実行できる。そして、本発明を具現するための機能的な(functional)プログラム、コード及びコードセグメントは本発明の属する技術分野のプログラマにより容易に推察できる。
このような本願発明である方法及び装置は、理解を促進するために図面に示した実施形態を参考までに説明したが、これは例示的なものに過ぎず、当該分野で通常の知識を有する者であればこれから多様な変形及び均等した他実施形態が可能であるという点を理解するはずである。従って、本発明の真正な技術的保護範囲は添付された特許請求の範囲によって定められなければならない。
本発明によるグラフィックユーザインターフェースは、ユーザが面倒な探索手順を行うことなく現在の案件と関連した資料及びこれらの間の関係を直観的に把握することができるようにする。
図1は、本発明の一実施形態による手動作基盤の入力及びディスプレイされるグラフィック客体を表示した図面である。 図2は、本発明の一実施形態によるグラフィック客体を示す図面である。 図3は、本発明の一実施形態によるグラフィック客体を示す図面である。 図4は、本発明の一実施形態によるグラフィック客体を示す図面である。 図5は、本発明の一実施形態によるグラフィック客体を示す図面である。 図6は、本発明の一実施形態によるグラフィック客体を示す図面である。 図7は、本発明の一実施形態による手動作入出力装置の構成図である。 図8は、本発明の一実施形態による手動作入力例示図である。 図9は、本発明の一実施形態による手動作入力例示図である。 図10は、本発明の一実施形態による手動作入力例示図である。 図11は、本発明の一実施形態による手動作入力例示図である。 図12は、本発明の一実施形態によるメッセージタイプの電気信号及びこれを実行動作とマッピングさせるマッピングテーブルを表示した図面である。 図13は、本発明の一実施形態によるメッセージタイプの電気信号及びこれを実行動作とマッピングさせるマッピングテーブルを表示した図面である。 図14は、本発明の一実施形態による制御部の構成例示図である。 図15は、本発明の一実施形態による制御部で管理するグラフィック客体の資料構造図である。 図16は、本発明の一実施形態による制御部で管理するグラフィック客体の資料構造図である。 図17は、本発明の実施形態による属性設定モードの機能を示す図面である。 図18は、本発明の実施形態による属性設定モードの機能を示す図面である。 図19は、本発明の実施形態による属性設定モードの機能を示す図面である。 図20は、本発明の実施形態による属性設定モードの機能を示す図面である。 図21は、本発明の一実施形態によるキーワード検索時の表示部のディスプレイ例示図である。 図22は、本発明の一実施形態によるキーワード検索時の表示部のディスプレイ例示図である。 図23は、本発明の一実施形態によるキーワード検索時の表示部のディスプレイ例示図である。 図24は、本発明の一実施形態によって表示部に入力部を装着した構成の例示図である。 図25は、本発明の一実施形態による手動作基盤の入出力装置を用いたサーバ−クライアントシステムの構成図である。 図26は、本発明の一実施形態によるサーバ−クライアントシステムでグラフィック客体情報の送受信を示す構成図である。 図27は、本発明の一実施形態によるサーバ−クライアントシステムでグラフィック客体情報の送受信を示す構成図である。 図28は、本発明の一実施形態による手動作基盤の入出力方法に関する論理フローチャートである。 図29は、本発明の他の実施形態による手動作基盤の入出力方法に関する論理フローチャートである。 図30は、本発明による手動作基盤の入力を感知及びディスプレイするグラフィックユーザインターフェース方法の論理フローチャートである。

Claims (16)

  1. グラフィック客体を生成するためにユーザ入力を受信するための第1の領域と、
    前記ユーザ入力を電気信号に変換して処理装置へ伝送するための入力変換装置と、
    前記処理装置からディスプレイ制御信号を受信するための制御信号受信装置と、
    前記制御信号に基づいてグラフィック客体をディスプレイするための第2の領域と
    を備え、
    前記グラフィック客体は、情報の最小単位を示すノード及び前記ノードの間を連結して前記ノードの間の関係を示すリンクを備えることを特徴とするグラフィックユーザインターフェース装置。
  2. 前記ノードは、ノードが示す資料を含蓄するキーワードを備えることを特徴とする請求項1に記載のグラフィックユーザインターフェース装置。
  3. 前記リンクが連結する二つのノードのうち、一つは親ノード、もう一つは子ノードであり、前記親/子ノードの関係は上/下関係、前/後の関係または所属関係を備えることを特徴とする請求項1に記載のグラフィックユーザインターフェース装置。
  4. 前記グラフィック客体は、
    少なくとも一つのノード及び前記ノードに連結されたリンクを備えるレイヤーをさらに備え、前記レイヤーは含まれたグラフィック客体に対して全体として属性を示すことを特徴とする請求項1に記載のグラフィックユーザインターフェース装置。
  5. 前記第1の領域で受信されるユーザ入力は、前記グラフィック客体を削除するためのユーザ入力を備えることを特徴とする請求項1に記載のグラフィックユーザインターフェース装置。
  6. 前記ノードは、
    ユーザによって選択された場合、少なくとも一つの作業をすることができるように活性化されることを特徴とする請求項1に記載のグラフィックユーザインターフェース装置。
  7. 前記少なくとも一つの作業は、
    移動、サイズ変更、または前記ノードの下位ノード及び前記ノードと前記下位ノードとの間に連結されたリンクのディスプレイ状態変更を備えることを特徴とする請求項6に記載のグラフィックユーザインターフェース装置。
  8. 前記少なくとも一つの作業は、キーワード検索を備え、
    前記キーワード検索が実行されれば、前記第1及び第2の領域は検索された資料をディスプレイする第3の領域に転換されることを特徴とする請求項6に記載のグラフィックユーザインターフェース装置。
  9. 前記第3の領域は、複数の資料がディスプレイできるように分割されることを特徴とする請求項8に記載のグラフィックユーザインターフェース装置。
  10. ユーザにより選択された場合、前記第3の領域でディスプレイされる資料の方向が変更される第4の領域をさらに備えることを特徴とする請求項8に記載のグラフィックユーザインターフェース装置。
  11. 前記グラフィック客体は、
    前記キーワード検索の開始、終了、または検索された資料のディスプレイを備える作業を行うためのキーワード検索道具
    をさらに備え、前記第3の領域は前記キーワード検索道具をディスプレイすることを特徴とする請求項8に記載のグラフィックユーザインターフェース装置。
  12. 前記グラフィック客体は、
    前記グラフィック個体の格納、または前記グラフィック客体が格納されたファイルのオープンを備える作業を行うための制御道具
    をさらに備えることを特徴とする請求項1に記載のグラフィックユーザインターフェース装置。
  13. 情報の最小単位を示すノード及び前記ノードの間を連結して前記ノードの間の関係を示すリンクを備えるグラフィック客体をディスプレイをする方法であって、
    ユーザ入力の有無を判断する段階と、
    前記ユーザ入力の位置がユーザ入力を受信するための第1の領域なのか、グラフィック客体をディスプレイするための第2の領域なのか判断する段階と、
    前記位置が前記第1の領域であり、入力形態がノード生成に該当すれば、ノードをディスプレイする段階と、
    前記位置が前記第1の領域から始まって前記ノードを二つ以上貫通すれば、前記貫通したノードを連結するリンクをディスプレイする段階と、
    前記位置が第2の領域であれば、該当グラフィック客体を活性化する段階と
    を備えることを特徴とするグラフィック客体のディスプレイ方法。
  14. 前記該当グラフィック客体を活性化する段階は、
    前記該当グラフィック客体が前記ノードの場合、移動、サイズ変更、前記ノードの下位ノード及び前記ノードと前記下位ノードとの間に連結されたリンクのディスプレイ状態変更、または前記ノードが示す情報の検索を備える作業をすることができるように活性化する段階を備えることを特徴とする請求項13に記載のグラフィック客体のディスプレイ方法。
  15. 情報の最小単位を示すノード及び前記ノードの間を連結して前記ノードの間の関係を示すリンクを備えるグラフィック客体をディスプレイをする方法を行うプログラムを収録したコンピュータで読み出すことができる記録媒体として、
    ユーザ入力の有無を判断する段階と、
    前記ユーザ入力の位置がユーザ入力を受信するための第1の領域なのか、グラフィック客体をディスプレイするための第2の領域なのかを判断する段階と、
    前記位置が前記第1の領域であり、入力形態がノード生成に該当すれば、ノードをディスプレイする段階と、
    前記位置が前記第1の領域から始まって前記ノードを二つ以上貫通すれば、前記貫通したノードを連結するリンクをディスプレイする段階と、
    前記位置が第2の領域であれば、該当グラフィック客体を活性化する段階と
    を備えるグラフィック客体のディスプレイ方法を行うプログラムを収録したコンピュータで読み出すことができることを特徴とする記録媒体。
  16. 前記該当グラフィック客体を活性化する段階で、
    前記該当グラフィック客体が前記ノードの場合、移動、サイズ変更、前記ノードの下位ノード及び前記ノードと前記下位ノードとの間に連結されたリンクのディスプレイ状態変更、または前記ノードが示す情報の検索を備える作業をすることができるように活性化する、グラフィック客体のディスプレイ方法を行うプログラムを収録したコンピュータで読み出すことができることを特徴とする請求項15に記載の記録媒体。
JP2008554119A 2006-02-10 2006-12-06 グラフィックユーザインターフェース装置及びグラフィックオブジェクトのディスプレイ方法 Active JP5232017B2 (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
KR20060013260 2006-02-10
KR10-2006-0013260 2006-02-10
KR10-2006-0036763 2006-04-24
KR1020060036763A KR100828017B1 (ko) 2006-02-10 2006-04-24 그래픽 사용자 인터페이스 장치 및 그래픽 객체의디스플레이 방법
PCT/KR2006/005240 WO2007091772A1 (en) 2006-02-10 2006-12-06 Graphic user interface device and method of displaying graphic objects

Publications (3)

Publication Number Publication Date
JP2009526303A true JP2009526303A (ja) 2009-07-16
JP2009526303A5 JP2009526303A5 (ja) 2011-11-10
JP5232017B2 JP5232017B2 (ja) 2013-07-10

Family

ID=38345343

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008554119A Active JP5232017B2 (ja) 2006-02-10 2006-12-06 グラフィックユーザインターフェース装置及びグラフィックオブジェクトのディスプレイ方法

Country Status (5)

Country Link
US (1) US9395906B2 (ja)
EP (1) EP1987412B1 (ja)
JP (1) JP5232017B2 (ja)
KR (2) KR100758288B1 (ja)
WO (1) WO2007091772A1 (ja)

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20090029138A (ko) * 2007-09-17 2009-03-20 삼성전자주식회사 동작에 의한 사용자 명령 입력 방법 및 이를 적용한멀티미디어 기기
US8681093B2 (en) 2008-02-11 2014-03-25 Apple Inc. Motion compensation for screens
US10402078B2 (en) 2009-06-29 2019-09-03 Nokia Technologies Oy Method and apparatus for interactive movement of displayed content
US8674935B2 (en) * 2009-10-21 2014-03-18 Qualcomm Incorporated System delay mitigation in interactive systems
KR101646141B1 (ko) * 2010-01-25 2016-08-08 엘지전자 주식회사 콘텐츠 제어 장치 및 그 방법
US9395907B2 (en) * 2010-08-20 2016-07-19 Nokia Technologies Oy Method and apparatus for adapting a content package comprising a first content segment from a first content source to display a second content segment from a second content source
JP5418508B2 (ja) 2011-01-13 2014-02-19 カシオ計算機株式会社 電子機器、表示制御方法及びプログラム
JP5372091B2 (ja) * 2011-09-15 2013-12-18 株式会社ワコム 電子機器および電子機器の表示画面制御方法
KR20130095970A (ko) * 2012-02-21 2013-08-29 삼성전자주식회사 터치 스크린을 구비하는 기기에서 객체를 제어하기 위한 장치 및 방법
US20140282188A1 (en) * 2013-03-15 2014-09-18 Moresteam Development Llc Computer graphical user interface, system, and method
EP3138269B1 (en) * 2014-04-28 2019-08-07 Koninklijke Philips N.V. Wireless communication system.
US10089343B2 (en) * 2015-11-18 2018-10-02 Sap Se Automated analysis of data reports to determine data structure and to perform automated data processing
US10606448B2 (en) 2017-01-04 2020-03-31 International Business Machines Corporation Searching and displaying child objects of a parent object

Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1185803A (ja) * 1997-08-15 1999-03-30 Internatl Business Mach Corp <Ibm> レコードを図形的に表す方法
JPH11110119A (ja) * 1997-09-29 1999-04-23 Sharp Corp スケジュール入力装置およびスケジュール入力装置制御プログラムを記録した媒体
JPH11282882A (ja) * 1998-12-22 1999-10-15 Hitachi Ltd 文書管理方法
JP2002123368A (ja) * 2000-08-29 2002-04-26 Mitsubishi Electric Research Laboratories Inc 多数のユーザがプレゼンテーションと双方向動作するためのシステムおよび方法
JP2003500771A (ja) * 1999-05-24 2003-01-07 モトローラ・インコーポレイテッド 二次元で入力を記録するデータ入力装置
JP2003178259A (ja) * 2001-09-19 2003-06-27 Ricoh Co Ltd 情報処理装置、情報処理装置の制御方法、その方法をコンピュータに実行させるためのプログラム
JP2003338975A (ja) * 2002-05-21 2003-11-28 Toshiba Corp デジタルスチルカメラ及びタッチパネルを用いたユーザ指示入力方法
JP2003345506A (ja) * 2002-05-28 2003-12-05 Konica Minolta Holdings Inc 操作入力装置および画像形成装置
JP2004110584A (ja) * 2002-09-19 2004-04-08 Ricoh Co Ltd リンク生成装置、方法、プログラム及び記録媒体
JP2005519395A (ja) * 2002-03-06 2005-06-30 キム、ダイ−キュー 情報オブジェクト
US20060001656A1 (en) * 2004-07-02 2006-01-05 Laviola Joseph J Jr Electronic ink system

Family Cites Families (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
IL137478A (en) * 1998-01-26 2005-11-20 Westerman Wayne Method and apparatus for integrating manual input
US7663607B2 (en) 2004-05-06 2010-02-16 Apple Inc. Multipoint touchscreen
US6594673B1 (en) * 1998-09-15 2003-07-15 Microsoft Corporation Visualizations for collaborative information
US6326946B1 (en) * 1998-09-17 2001-12-04 Xerox Corporation Operator icons for information collages
US6985898B1 (en) * 1999-10-01 2006-01-10 Infoglide Corporation System and method for visually representing a hierarchical database objects and their similarity relationships to other objects in the database
KR20000030847A (ko) 2000-03-21 2000-06-05 전대식 인터넷 통합서비스 시스템 및 이 시스템에 접근하는 것을용이하게 하기 위한 사용자 인터페이스장치
US6791530B2 (en) * 2000-08-29 2004-09-14 Mitsubishi Electric Research Laboratories, Inc. Circular graphical user interfaces
US7327376B2 (en) 2000-08-29 2008-02-05 Mitsubishi Electric Research Laboratories, Inc. Multi-user collaborative graphical user interfaces
JP4284855B2 (ja) * 2000-10-25 2009-06-24 ソニー株式会社 情報入出力システム及び情報入出力方法、並びにプログラム記憶媒体
US6931604B2 (en) * 2000-12-18 2005-08-16 Derek Graham Lane Method of navigating a collection of interconnected nodes
US7246325B2 (en) 2001-12-20 2007-07-17 Nokia Corporation System and method for functional elements
DE10204310A1 (de) 2002-02-01 2003-08-14 Correct Software Gmbh Verfahren zur Steuerung eines Computers
CN100538292C (zh) 2003-02-10 2009-09-09 N-特莱格有限公司 数字化器的触摸检测
DE60311805T2 (de) * 2003-08-28 2007-11-22 Accenture Global Services Gmbh Erfassung, Zusammenstellung und/oder Visualisierung von strukturellen Merkmalen von Architekturen
US7259763B2 (en) * 2003-11-13 2007-08-21 International Business Machines Corporation Embedded analytics in information visualization
US20050183035A1 (en) * 2003-11-20 2005-08-18 Ringel Meredith J. Conflict resolution for graphic multi-user interface
KR20050122662A (ko) * 2004-06-25 2005-12-29 주식회사 팬택 이중 센서 기반의 문자입력기능을 가지는 무선통신 단말기및 그 방법
US7454717B2 (en) * 2004-10-20 2008-11-18 Microsoft Corporation Delimiters for selection-action pen gesture phrases
JP2006120056A (ja) * 2004-10-25 2006-05-11 Hewlett-Packard Development Co Lp データベースシステムおよびその方法
JP4262217B2 (ja) * 2005-04-26 2009-05-13 任天堂株式会社 ゲームプログラム及びゲーム装置
US20080123586A1 (en) * 2006-08-29 2008-05-29 Manser David B Visualization of ad hoc network nodes

Patent Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1185803A (ja) * 1997-08-15 1999-03-30 Internatl Business Mach Corp <Ibm> レコードを図形的に表す方法
JPH11110119A (ja) * 1997-09-29 1999-04-23 Sharp Corp スケジュール入力装置およびスケジュール入力装置制御プログラムを記録した媒体
JPH11282882A (ja) * 1998-12-22 1999-10-15 Hitachi Ltd 文書管理方法
JP2003500771A (ja) * 1999-05-24 2003-01-07 モトローラ・インコーポレイテッド 二次元で入力を記録するデータ入力装置
JP2002123368A (ja) * 2000-08-29 2002-04-26 Mitsubishi Electric Research Laboratories Inc 多数のユーザがプレゼンテーションと双方向動作するためのシステムおよび方法
JP2003178259A (ja) * 2001-09-19 2003-06-27 Ricoh Co Ltd 情報処理装置、情報処理装置の制御方法、その方法をコンピュータに実行させるためのプログラム
JP2005519395A (ja) * 2002-03-06 2005-06-30 キム、ダイ−キュー 情報オブジェクト
JP2003338975A (ja) * 2002-05-21 2003-11-28 Toshiba Corp デジタルスチルカメラ及びタッチパネルを用いたユーザ指示入力方法
JP2003345506A (ja) * 2002-05-28 2003-12-05 Konica Minolta Holdings Inc 操作入力装置および画像形成装置
JP2004110584A (ja) * 2002-09-19 2004-04-08 Ricoh Co Ltd リンク生成装置、方法、プログラム及び記録媒体
US20060001656A1 (en) * 2004-07-02 2006-01-05 Laviola Joseph J Jr Electronic ink system

Also Published As

Publication number Publication date
EP1987412A4 (en) 2009-12-16
EP1987412B1 (en) 2015-07-01
EP1987412A1 (en) 2008-11-05
KR20070081401A (ko) 2007-08-16
JP5232017B2 (ja) 2013-07-10
US20090040179A1 (en) 2009-02-12
KR100758288B1 (ko) 2007-09-13
WO2007091772A1 (en) 2007-08-16
KR20070081400A (ko) 2007-08-16
KR100828017B1 (ko) 2008-05-08
US9395906B2 (en) 2016-07-19

Similar Documents

Publication Publication Date Title
JP5232017B2 (ja) グラフィックユーザインターフェース装置及びグラフィックオブジェクトのディスプレイ方法
JP2009526303A5 (ja)
Hamilton et al. Conductor: enabling and understanding cross-device interaction
Bellotti et al. Making sense of sensing systems: five questions for designers and researchers
KR102368943B1 (ko) 전자 스프레드시트와의 터치/제스처 가능한 상호작용 기법
JP6599127B2 (ja) 情報検索システム及び方法
US20050030255A1 (en) Peer to peer gesture based modular presentation system
EP3084634B1 (en) Interaction with spreadsheet application function tokens
CN104737112A (zh) 文档中基于缩略图和文档图的导航
Bellucci et al. Light on horizontal interactive surfaces: Input space for tabletop computing
JP2020161135A (ja) チャットスレッドを表示するための方法およびシステム
CN108292324A (zh) 内容创作内联命令
US20130097501A1 (en) Information Search and Method and System
US20140136938A1 (en) List management in a document management system
JP4053378B2 (ja) 会議支援装置、コンピュータが読み取り可能なプログラム、及び電子会議システム
JP2004272473A (ja) 会議支援装置、電子会議システム、およびコンピュータが読取可能なプログラム
JP5778558B2 (ja) 情報通信装置
JP2003111042A (ja) 会議支援装置、情報処理装置、電子会議システムおよびプログラム
US20180173377A1 (en) Condensed communication chain control surfacing
JP3967234B2 (ja) 会議支援装置、コンピュータが読み取り可能なプログラム、及び電子会議システム
US9710444B2 (en) Organizing unstructured research within a document
AU2010268764A1 (en) A system, method and software application for the control of file transfer
Block et al. A malleable physical interface for copying, pasting, and organizing digital clips
JP2024049016A (ja) 表示装置、操作履歴表示方法、プログラム
Sharma et al. MozArt: an immersive multimodal CAD system for 3D modeling

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110517

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20110715

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20110719

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20110719

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20110804

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20110816

A524 Written submission of copy of amendment under article 19 pct

Free format text: JAPANESE INTERMEDIATE CODE: A524

Effective date: 20110915

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20111122

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120216

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20120626

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20121026

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20121102

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130305

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130322

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160329

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 5232017

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250