JP2006072992A - 家電機器のネットワークの1つの共通グラフィカルユーザインタフェース及び家電機器ネットワーク - Google Patents

家電機器のネットワークの1つの共通グラフィカルユーザインタフェース及び家電機器ネットワーク Download PDF

Info

Publication number
JP2006072992A
JP2006072992A JP2005229863A JP2005229863A JP2006072992A JP 2006072992 A JP2006072992 A JP 2006072992A JP 2005229863 A JP2005229863 A JP 2005229863A JP 2005229863 A JP2005229863 A JP 2005229863A JP 2006072992 A JP2006072992 A JP 2006072992A
Authority
JP
Japan
Prior art keywords
user
utterance
network
interface
agent
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2005229863A
Other languages
English (en)
Inventor
Charles Rich
チャールズ・リッチ
Neal B Lesh
ニール・ビー・レッシュ
Candace L Sidner
キャンディス・エル・シドナー
Andrew Garland
アンドリュー・ガーランド
Shane L Mihelic-Booth
シェーン・レズリー・ミヘリック−ブース
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Research Laboratories Inc
Original Assignee
Mitsubishi Electric Research Laboratories Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Research Laboratories Inc filed Critical Mitsubishi Electric Research Laboratories Inc
Publication of JP2006072992A publication Critical patent/JP2006072992A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0489Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using dedicated keyboard keys or combinations thereof
    • G06F3/04895Guidance during keyboard input operation, e.g. prompting

Abstract

【課題】家電機器ネットワーク用の1つの共通グラフィカルユーザインタフェースを含むシステム。
【解決手段】本システムは、ともにネットワークに接続される通信ウィンドウおよびタスクウィンドウを含む。通信ウィンドウは、ソフトウェアエージェントに関連付けられたエージェント吹き出しと、機器のユーザに関連付けられたユーザ吹き出しとを含む。エージェント吹き出しはエージェントの発話を表示し、ユーザ吹き出しは、ユーザがエージェントの発話に応答して選択するユーザの発話を表示する。タスクウィンドウは、タスクおよび機器を選択するための選択ウィンドウと、選択されたタスクおよび機器用のアプリケーションプログラムインタフェースとを含む。家電機器ネットワークは、ネットワークにより機器コントローラに接続されたいくつかの家電機器を含む。機器コントローラは1つの共通グラフィカルユーザインタフェースを含む。
【選択図】図1

Description

本発明は、包括的には家電機器の分野に関し、より具体的には家電機器の設定および制御に関する。
ほとんどの人にとって、デジタル対応型の家電機器で高度な動作を行うことは非常に困難である。この問題は、より多くのカスタム化動作およびプログラム動作が機器に追加されるにつれて悪化している。多くの家電機器で動作を行う際の困難は、特にほとんど使用しない動作について、製品間でインタフェースに一貫性がないことでさらに助長される。さらに、このインタフェースの非互換性の問題は、家電機器に通常見られる小型の低解像度ディスプレイおよび限られた制御ボタンでは対処することが非常に難しい。
ホームネットワーキングの実現可能性と普及が高まる中で、この問題に対処する機会がもたらされる。家庭内の多くの機器が1つの基地局を共有することができ、ホームネットワークを介して当該基地局に接続される。ホームネットワーキングを用いてより大型の高度なインタフェースを共有することにより、ユーザが特に時々しか使用しない複雑な機能を行うのをシステムが積極的に助ける新たな様式の共同(collaborative)インタフェースが実現する。
システムが、家電機器ネットワーク用の1つの共通グラフィカルユーザインタフェースであって、ともにネットワークに接続される通信ウィンドウおよびタスクウィンドウを含む1つの共通グラフィカルユーザインタフェースを備える。
通信ウィンドウは、ソフトウェアエージェントに関連付けられたエージェント吹き出しと、機器のユーザに関連付けられたユーザ吹き出しとを含む。エージェント吹き出しはエージェントの発話を表示し、ユーザ吹き出しは、ユーザがエージェントの発話に応答して選択するユーザの発話を表示する。
タスクウィンドウは、タスクおよび機器を選択するための選択ウィンドウと、選択されたタスクおよび機器用のアプリケーションプログラムインタフェースとを含む。
家電機器ネットワークは、ネットワークにより機器コントローラに接続された、いくつかの家電機器を含む。機器コントローラは、1つの共通グラフィカルユーザインタフェースを含む。
システムの構造
図1は、本発明による家電機器システム100を示す。システム100は、家電機器121〜124および機器コントローラ200に接続されたネットワーク110を含む。機器コントローラ200は、出力インタフェース132および入力インタフェース131を含むユーザインタフェース300を含む。機器もI/Oインタフェース125を含むことができるが、これは必須ではない。各機器は、関連する識別情報(identity)(ID)129を有する。機器コントローラはスケジューラも含む。
ネットワーク110は有線であっても無線であってもよく、任意の既知のタイプのネットワークプロトコルを使用することができる。機器には、消費者のために動作を行うあらゆる家電機器が含まれる可能性があり、ユーザ入力または出力が限られているか、あるいは全くない。機器は計算能力も限られている可能性がある。機器毎に、機器に固有のプラグイン161〜164が機器の製造業者または第三者によって提供される。
プラグインは、CD−ROM、インターネット150を用いて、または機器コントローラを直接プログラミングすることにより、機器コントローラに供給されることができる。ネットワーク110はさらに、インターネット150を介して、機器に関連するサーバ140にアクセスすることができる。サーバは、機器の製造業者によって従来の方法で運用され得る。
機器コントローラ200は、ラップトップコンピュータ、デスクトップコンピュータ、PDAコンピュータ、または専用プロセッサ上のソフトウェアとして実施され得る。機器コントローラ200の出力インタフェース132は、ディスプレイ画面またはマイクロフォンあるいはその両方であってもよい。機器コントローラ200への入力131は、タッチスクリーン、マウス、またはキーボードを含んでもよい。
システムの動作
機器コントローラ200は動作を機器に送信する。動作は、機器の機能を制御する命令である。一般に、動作は機器において、そのユーザインタフェース(例えばボタンおよびスライダ)を通じて、あるいはネットワーク110を介して行われることができる。機器コントローラは、その動作をネットワークを介して送る。例えば、動作は、炉の目標温度を設定したり、家の全ての照明を消灯したりする。
機器コントローラからの動作に応答して、機器は、ネットワーク110を介して機器コントローラへ状態情報を送信する。機器はまた、ネットワーク110を介した機器コントローラへの状態情報の送信を開始することができる。例えば、洗濯/乾燥機器は、不安定になったとき、あるいは現在のサイクルを終了したときに状態情報を機器コントローラへ送信する。
機器毎に、その機器で動作を行うことによって達成することができる一組のタスクがある。例えば、洗濯/乾燥機に共通するタスクは衣類を洗浄することである。多くのタスクは、衣類を洗うこと、次にそれらを乾かすこと、といった他のタスクに分類することができ、これらのタスクはそれぞれ、一連の動作を行うことによって達成することができる。
本発明は、ユーザが、機器の動作を設定する、および設定した機器の動作をスケジュールするといった複雑なタスクを、機器のインタフェース125ではなく機器コントローラ200を用いて行うことを可能にする。
通常の従来技術の機器インタフェースは機器に非常に固有であり、異なる製造業者が作った同じタイプの機器でさえ完全に異なるインタフェースを呈する。したがって、本発明は、一利点として、全ての機器に対して1つの共通ユーザインタフェースを用いる。さらに、外見およびユーザインタフェースとの対話が全ての機器について統一される。これは、ユーザがタイプの異なる機器毎に複雑なタスクのための固有様式のインタフェースの使い方を学習しなくてもよいことを意味する。その代わりに、ユーザは、各機器について同じように複雑なタスクを行う。
さらに、ユーザインタフェースは共同である。本発明において、共同であるとは、タスクを行うために、システムとユーザがアクションおよび発話を行うことを意味する。ユーザインタフェースは共同であり使い易いため、時々行われる複雑なタスクに特に有利である。
全ての動作は、単純なものであれ複雑なものであれ、機器コントローラを用いて指定することができる。次に、動作が、ネットワーク110を介して機器コントローラから機器へダウンロードされる。この手法では、機器ではなく機器コントローラを用いて機器の動作を指定することができるため、全ての動作をサポートするための入出力機能を機器が含む必要はない。特に、機器は、機器コントローラで指定するほうが簡単である使用頻度の低い複雑な動作のためのユーザインタフェースをサポートする必要がなくなる。これは、機器をより単純かつ低費用で製造できることを意味する。
機器コントローラの構造
図2は、本発明による機器コントローラ200を示す。機器コントローラ200は、メモリ210と、プロセッサ220と、ユーザインタフェース300とを備え、これらは互いにバス230によって接続される。
機器コントローラの動作
メモリ210は、ユーザインタフェース300を実行するソフトウェアと、機器コントローラソフトウェアによって生成されるシステムデータとを記憶する。プロセッサ220は、メモリに記憶される機器コントローラソフトウェアの命令を実行する。
プラグイン
機器毎に、機器コントローラ200に対する入力である、機器に固有のプラグイン161〜164がある。このプラグインは、機器コントローラメモリ210に記憶されるデータである。プラグインは、機器がネットワーク110を介して受け付けることのできる動作と、機器が動作に応答してネットワークを介して送信する状態情報とを指定する、その機器用のアプリケーションプログラムインタフェース(API)を含む。プラグインは、機器がサポートするタスクを記述するタスクモデルも含む。このタスクモデルはソフトウェアエージェント310によって用いられる。プラグインは、出力ユーザインタフェース132の一部として使用される、機器用のグラフィックユーザインタフェース(GUI)、特にタスクウィンドウ304を生成するソフトウェアも含む。
ユーザインタフェースの構造
図3および図4は本発明によるユーザインタフェース300を示す。図4は、以下の要素の例を用いたユーザインタフェース300の図を示す。ユーザインタフェースは、通信ウィンドウ302およびタスクウィンドウ304を含む。通信ウィンドウ302は、ソフトウェアエージェント310に関連付けられたエージェント吹き出し305と、ユーザ309に関連付けられたユーザ吹き出し303とを含む。通信ウィンドウ302にはスクロールバー301、306およびタスクパス307が関連付けられている。
ユーザインタフェースの動作
本発明の好適な実施形態において、機器コントローラは、全ての機器に対して1つの共通ユーザインタフェース300を有する。
発話は、英語または日本語のような自然言語で行われる談話である。機器制御ソフトウェアは、ユーザ309が従うエージェントの発話305を生成する。これらの発話は、ユーザが機器を操作および制御するのを助けるエージェント310から発せられるものとして考えることができる。システムは、ユーザがエージェントの発話に応答してユーザの発話303を選択することも可能にする。
エージェントの発話305は、モニタまたは音声合成装置を用いて表示または発音されるか、あるいはその両方が行われる。ユーザの発話は、キーボード、マウス、タッチスクリーンを用いて、あるいは音声認識サブシステムを介した音声を用いて選択することができる。エージェントとユーザの発話シーケンスは対話と呼ばれ、2者間の話し合いに似ている。発話303および305は通信ウィンドウ302に表示される。
タスクウィンドウ304の構造および内容は、ユーザが動作およびタスクを行うに従って変化する。例えば、ユーザが機器コントローラを用いてDVD装置を操作している場合、タスクウィンドウ304はDVD装置用のグラフィックユーザインタフェース(GUI)を含む。タスクウィンドウのGUIは、その機器に関連する機器に固有のプラグインの一部である。タスクウィンドウ304は、ユーザがタスクおよび機器を選択することを可能にする選択インタフェース320も含むことができる。
アクションは、タスクウィンドウ304を介して発行される命令である。ユーザは、タスクウィンドウ304内で、GUIボタンをクリックする、あるいはGUI要素を或る場所から別の場所へドラッグするといったアクションを行うことができる。機器コントローラもまた、タスクウィンドウ内でアクションを行うことができる。一般に、機器コントローラは、ユーザが行うことのできる全てのアクションを行うことができる。オプションで、例えば「ポインティングハンド」のようなアイコンを表示して、機器コントローラが行っているアクションを示すことができる。例えば、表示された「ボタン」上にアイコンが位置付けられて、機器コントローラがそのボタンと相互作用していることを示す。
通信ウィンドウは、Apple社のチャットウィンドウシステムに従って大まかにモデル化されている。通信ウィンドウは全ての発話のリストを含む。エージェントの発話305は、エージェント310を表すアイコンを指す吹き出し305に左寄せで表示される。ユーザの発話は、ユーザを表すアイコン309を指す吹き出し303に右寄せされる。
対話が進行するにつれて、発話は「スクロールアップ」してウィンドウ302から消えるため、最新の発話のみが表示される。1つまたは複数の吹き出し308の以前の発話は、明るいより最近の発話よりも低輝度で(暗く)表示される。
本発明では、タスクウィンドウおよび通信ウィンドウの状態をユーザインタフェースの現在の「コンテキスト」と呼ぶ。任意の所与の時点において、可能な発話のリストを含む「アクティブな」ユーザ吹き出しがあり、ユーザは、マウスを用いて発話をクリックするか、それに直接触れるか、あるいは音声認識を用いることによって、そのリストから発話を選択することができる。
アクティブなユーザ吹き出し内の一組の発話オプションは、コンテキストと、その機器のプラグインに含まれる情報とから機器コントローラによって生成される。オプションの組は、機器の製造業者が手作業で設計する、すなわちスクリプトを書く(script)こともできる。
発話によっては、アクティブなユーザ吹き出し内の可能な発話のリストに常に存在するものもある。特に、ユーザには、「間違えた」「終わり」および「ヘルプ」を選択するオプションが常に与えられる。「間違えた」というオプションの選択は、ユーザが誤りを犯したことをエージェントに示す。誤りを犯した場合、機器コントローラは、誤りを特定してそれを正すのを助ける対話を開始する。ユーザは、「終わり」を選択した場合、現在のタスクが完了したことをエージェントに示す。場合によっては、ユーザが「終わり」を選択すると、機器コントローラは、ユーザが完了したタスクがコンテキストから明らかでない場合に、これを判定する対話を開始する。ユーザが「ヘルプ」を選択した場合、機器コントローラは、ユーザが必要とする追加情報を判定する対話を開始する。
アクティブなユーザ吹き出しが、現在のタスクを続行する方法のオプションを含まない場合、機器コントローラは、「次は?」というオプションをアクティブなユーザ吹き出しに追加する。ユーザが「次は?」というオプションを選択すると、機器コントローラは、ユーザが次に取り組むことのできる可能なタスクのリストをアクティブなユーザ吹き出しに表示する。
ユーザは、スクロールバー301および306を用いて、通信ウィンドウ302内の発話履歴のどの部分でも閲覧することができる。
ユーザはまた、履歴中の以前の発話を選択することによって、機器コントローラを以前の状態に導くことができる。その時点で、機器コントローラの状態は、選択された発話に対応する状態に戻る。
本発明の好適な実施形態において、機器コントローラは、Richに対して1998年10月6日付で発行された米国特許第5,819,243号「共同インタフェースエージェントを用いるシステム(System with collaborative interface agent)」(参照により本明細書に援用される)に記載されている方法を用いる。この方法は、通信ウィンドウ302、タスクパス307において対話を行い、タスクウィンドウ304においてエージェントアクション、および機器へのプログラムのダウンロードを行う。
人間の協力と同様に、ユーザは常に、タスクウィンドウ内のアクションを行うことを選択するか、あるいは、通信ウィンドウ302を用いて発話を選択することができる。
タスクパス307は、インタフェース300において現在のタスクにつながったタスクの組を要約する。例えば、ユーザが休暇をスケジュールしており、休暇の初日を既に選択していて、現在、休暇の最終日をスケジュールしている場合、タスクパスは、タスクパス307に表示されるアクティビティとして、「休暇をスケジュールする」、続いて「最終日を選択する」を提示する。ユーザが誤りを犯し、日付を選択するのに助けを必要とする場合、タスクパスは、「休暇をスケジュールする」、続いて「最終日を選択する」、続いて「ヘルプ」を表示する。
オプションで、通信ウィンドウは、ユーザのアクションおよび機器コントローラのアクションの説明を含む。すなわち、通信ウィンドウに現れる発話に加えて、通信ウィンドウは、発話により行われたアクションの自然言語による説明を含むことができる。
別法において、アクションの何らかのサブセットまたは要約を通信ウィンドウにおいて説明することができる。例えば、ユーザが多くの連続アクションを行う場合、これらのアクションを、ユーザが行った機器動作の数およびタイプを示す1行に要約することができる。例えば、ユーザが、タスクウィンドウ内の一連のアクションによって家庭用サーモスタットのいくつかの異なるゾーンの目標温度を変更する場合、通信ウィンドウは、「ユーザが温度設定を調整する」という1行でこれらのアクションを説明することができる。
機器の構造
上述のように、機器は、入出力インタフェースと、プロセッサと、識別情報を記憶するメモリとを含むことができ、これらはバスによって従来の方法で接続される。入力インタフェースは、ボタン、ダイヤル、またはタッチスクリーンを含むことができる。出力インタフェースは、LEDまたはLCDディスプレイを含むことができる。
機器の動作
本発明の好適な実施形態では、機器がネットワーク110に接続されると、その機器の存在が機器コントローラ200に知らされる。別法において、ユーザは、例えば機器の識別情報129を与えることによって、その機器の存在を機器コントローラに知らせる。機器コントローラは、新たに接続された機器を制御するために必要なアプリケーションプログラムインタフェース(API)を、例えばサーバ140のうちの1つに接続することによって、あるいはコンパクトディスク上の情報から取得することができる。
機器は、本発明のシステム用に設計されれば、より単純かつ低費用にすることができる。なぜなら、ほとんどの複雑な操作が、機器上で行われるのではなく機器コントローラを介して行われるためである。したがって、機器が必要とする入出力機能および計算能力が少なくなる。
例えば、家庭用サーモスタットは、将来の温度をスケジュールするためのディスプレイおよびボタンを含む必要がない。なぜならそれは、機器コントローラを用いて行うことができるからである。
機器コントローラの機能
機器コントローラは、ユーザが次の機能を行うのを助けることができる:プログラムの作成、機器の将来の動作をスケジュールすること、機器の動的制御、および機器の製造業者に対する集約的な顧客フィードバックの作成。
プログラムの作成
機器コントローラが提供する1つの機能は、機器上で実行される、プログラムと呼ばれる動作シーケンスを作成し、名前を割り当て、保存することである。この動作シーケンスは動作間に、動作が行われないアイドル期間、または機器からのフィードバックに基づいて実行する動作を決める制御点を含む可能性がある。例えば、プログラムは、洗濯/乾燥機の全ての設定を調整して、当該機器が特定のタイプの衣類の洗濯に相応しい状態になるようにするための一連の動作を実行することができ、あるいはプログラムは、特定のタイプのパンを焼くための一連の調理時間および調理温度を指定してもよい。
機器コントローラは、ユーザがプログラムを構築するのを助ける。各プログラムは名前で識別される。プログラムが呼び出されると、その動作が全て指定された順序で実行される。プログラムは、機器コントローラのユーザインタフェース300において発話を選択しアクションを行うことによって呼び出すことができる。さらに、機器によっては、ネットワーク110を介してプログラムすることができるプログラム可能なボタンを用いてイネーブルされるものもある。機器コントローラは、プログラムを、その名前も含めて機器に送信することができる。名前は、機器のプログラム可能なボタンのうちの1つのラベルとして現れる。ユーザがこのプログラム可能なボタンを押すと、関連するプログラムが呼び出される、すなわち、動作シーケンスが実行される。
将来の動作をスケジュールする
機器コントローラが多くのまたは全ての機器に対して提供することのできる別の重要な機能は、将来の動作をスケジュールすることである。本発明の好適な実施形態では、1つのスケジューラがある。ユーザはまた、スケジューラを用いて個人の約束および他のスケジュールに関連する情報をスケジュールおよび追跡記録することができる。
スケジューラを用いる場合、図3のタスクウィンドウ304は、共通のスケジューリングソフトウェアシステム上のインタフェースと同様のスケジューリングインタフェースを含む。スケジューリングインタフェースはカレンダーを表示する。カレンダーは、一日、一週間、または一ヶ月を一覧表示することができる。
機器の将来の動作は、直接的または間接的にスケジュールされる。動作を直接スケジュールするためには、ユーザは、スケジュールの将来の日付の指定した時刻に機器の動作を指定する、例えば、スプリンクラーシステムは2004年8月12日の正午から1時間のあいだ芝生に水を撒かなければならないというエントリを追加する。すると機器コントローラは、指定された日時に指定された動作を開始する。しかし、機器がネットワーク110を介して将来の動作シーケンスを受け付けることができる場合、機器コントローラはスケジュールを機器に送信する。
機器は、将来の動作をスケジュールする機能を機器自身が有さずとも、将来に定められた動作を実行することができることに留意されたい。また、重要な利点として、ユーザは、全ての機器の全ての将来の動作を1つのユーザインタフェース上で確認することができる。
将来の動作は間接的にスケジュールすることもできる。この場合、ユーザは、将来の自分の予期される居場所および行動を指定する。例えば、各ユーザは、ユーザが不在の予定であるとき、あるいはユーザが睡眠中であるとき、またはユーザの居場所をスケジュールすることができる。所与の時間に何もスケジュールされていない場合、機器コントローラは、ユーザは在宅であり、家のあらゆる部分にいる可能性があるものとみなす。次に、機器コントローラは、将来の家の状態、例えば家にユーザが不在であること、あるいはユーザが睡眠中であることを推測することができる。
ユーザは、機器コントローラのユーザインタフェース300を用いて機器コントローラのための規則を作成および修正し、家が異なる状態にあるときに機器があるべき状態を指定することもできる。例えば、ユーザは、家が無人であるとき、家に人がいるとき、あるいは全員が睡眠中であるときに異なる温度目標設定を指定することができる。ユーザは、家が無人であるときに照明の点灯および消灯を指定して、家の外にいる人物に対して人が実際にいるかのような印象を与えることもできる。
さらに、ユーザは、家が或る状態から別の状態に変化した際に、あるいはそうした変化を見込んで行われる動作を指定することができる。例えば、ユーザは、誰かが帰宅する予定の20分前にヒータがオンになるように指定することができる。
機器に固有のプラグインは、機器毎の動作および規則の指定を容易にするソフトウェアウィジェット(widgets)を含む。例えば、家庭用サーモスタットのプラグインは、タスクウィンドウ304に現れる、ユーザが家の各状態、例えば睡眠中、不在、在宅、または家に大人しかいない状態に対して家の各ゾーンまたは部屋の温度範囲を容易に指定することを可能にするGUIウィジェットを含む。
複数の機器の動的制御
本発明による機器コントローラの好適な実施形態は、ユーザが家の状態を動的に指示することも可能にする。例えば、ユーザは、家が睡眠モードになってほしいことを機器コントローラに指示することができ、それにより機器コントローラは、照明やテレビ等をオフにする。機器コントローラは、ネットワーク上の機器とユーザの対話から家の状態を推測することもできる。例えば、機器コントローラは、ユーザが警報システムをオンにすると家が無人であることを示し、また、ユーザが目覚ましを午前7:00に設定した場合、家が午前7:00に睡眠状態から活動(awake)状態に変化しなければならないことを推測する。
フィードバック情報
機器コントローラは、機器の使用状況(usage)情報を収集する機能を有する。そのために、機器は、その機器で行われた全てのユーザ動作をネットワーク110により機器コントローラに知らせる。機器コントローラは、各動作が行われた時刻を記録する。この情報は次に、機器の製造業者または設計者に返送される(relayed back)。製造業者は、この情報を用いて、その機器の将来のバージョンを改良するか、または、機器コントローラ上で用いられているその機器のAPIを改良することができる。
さらに、機器コントローラソフトウェアは、一定の長期間にわたる機器の使用状況を、機器の通常の使用状況と比較する。この比較に基づいて、機器コントローラは、一般的に使用される特徴のうち、ユーザが全く使用しないもの、あるいは一般的に使用される状況で使用していないものをユーザに伝える。
本発明を好適な実施形態の例として説明してきたが、本発明の精神および範囲内で様々な他の適応および修正を行うことができることが理解される。したがって、添付の特許請求の範囲の目的は、本発明の真の精神および範囲に入るかかる変形および修正をすべて網羅することである。
本発明による家電機器ネットワークのブロック図である。 本発明による機器コントローラのブロック図である。 本発明によるユーザインタフェースのブロック図である。 本発明によるグラフィックユーザインタフェースの図である。

Claims (18)

  1. 家電機器のネットワークの1つの共通グラフィカルユーザインタフェースであって、
    前記ネットワークに接続される通信ウィンドウと、
    前記ネットワークに接続されるタスクウィンドウとを備え、
    前記通信ウィンドウは、
    ソフトウェアエージェントに関連付けられた、エージェントの発話を表示するエージェント吹き出しと、
    前記機器のユーザに関連付けられた、前記ユーザが前記エージェントの発話に応答して選択するユーザの発話を表示するユーザ吹き出しとをさらに含み、
    前記タスクウィンドウは、
    タスク及び機器を選択するための選択ウィンドウと、
    選択された1つのタスク及び機器のアプリケーションプログラムインタフェースとをさらに含む
    家電機器のネットワークの1つの共通グラフィカルユーザインタフェース。
  2. 前記通信ウィンドウは、
    スクロールバーと、
    タスクパスとをさらに含む
    請求項1記載のインタフェース。
  3. 前記発話は、自然言語で行われる談話である
    請求項1記載のインタフェース。
  4. 前記エージェントの発話は、音声合成装置を用いて発音される
    請求項1記載のインタフェース。
  5. 前記ユーザの発話は、音声により選択される
    請求項1記載のインタフェース。
  6. 前記ユーザの発話は、機械的な入力装置により選択される
    請求項1記載のインタフェース。
  7. 前記エージェントの発話及び前記ユーザの発話は、対話を成す
    請求項1記載のインタフェース。
  8. 前記エージェントの発話及び前記ユーザの発話は、前記対話の進行に従ってスクロールアップし、最新の発話のみが表示されるようにする
    請求項7記載のインタフェース。
  9. 前記発話の順序は、前記発話の表示強度によって示される
    請求項1記載のインタフェース。
  10. 前記通信ウィンドウ及び前記タスクウィンドウの状態は、前記インタフェースの現在のコンテキストを規定する
    請求項1記載のインタフェース。
  11. 前記発話は、前記コンテキストと、前記機器に関連するプラグインとに従って生成される
    請求項10記載のインタフェース。
  12. 前記スクロールバーは、前記発話の履歴を閲覧するために用いられる
    請求項2記載のインタフェース。
  13. 前記通信ウィンドウ及び前記タスクウィンドウは、前記選択された機器の動作シーケンスを規定するために用いられる
    請求項1記載のインタフェース。
  14. 前記動作シーケンスには、名前が割り当てられる
    請求項13記載のインタフェース。
  15. 前記選択された機器の前記動作シーケンスを前記名前により呼び出す手段をさらに含む
    請求項14記載のインタフェース。
  16. スケジュールを維持する、全ての機器及び全てのタスクに対する1つのスケジューラをさらに含む
    請求項1記載のインタフェース。
  17. 前記動作シーケンスがスケジュールに従って呼び出される、全ての機器及び全てのタスクに対する1つのスケジューラをさらに含む
    請求項14記載のインタフェース。
  18. 複数の家電機器と、
    前記複数の家電機器に接続されるネットワークと、
    前記複数の家電機器に対する1つの機器コントローラとを備え、
    前記1つの機器コントローラは、
    前記ネットワークに接続され、対話を成すエージェントの発話及びユーザの発話を表示するための通信ウィンドウと、
    前記ネットワークに接続され、ユーザタスク及び機器の動作を選択するためのタスクウィンドウとをさらに含む、
    家電機器ネットワーク。
JP2005229863A 2004-08-16 2005-08-08 家電機器のネットワークの1つの共通グラフィカルユーザインタフェース及び家電機器ネットワーク Pending JP2006072992A (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
US10/919,117 US20060036970A1 (en) 2004-08-16 2004-08-16 System for configuring and controlling home appliances

Publications (1)

Publication Number Publication Date
JP2006072992A true JP2006072992A (ja) 2006-03-16

Family

ID=35801451

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005229863A Pending JP2006072992A (ja) 2004-08-16 2005-08-08 家電機器のネットワークの1つの共通グラフィカルユーザインタフェース及び家電機器ネットワーク

Country Status (2)

Country Link
US (1) US20060036970A1 (ja)
JP (1) JP2006072992A (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013536660A (ja) * 2010-08-31 2013-09-19 ヴォルフガング・ブレンデル 位置センサシステムによる無線遠隔制御
US10114604B2 (en) 2014-12-26 2018-10-30 Seiko Epson Corporation Head-mounted display device, control method for head-mounted display device, and computer program
JP2019091151A (ja) * 2017-11-13 2019-06-13 沖電気工業株式会社 情報処理装置、情報処理方法、及びプログラム
WO2019216053A1 (ja) * 2018-05-11 2019-11-14 株式会社Nttドコモ 対話装置

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8005780B2 (en) 2005-06-09 2011-08-23 Whirlpool Corporation Taxonomy engine and dataset for operating an appliance
CN101305350A (zh) * 2005-06-09 2008-11-12 惠而浦公司 与家用电器内的至少一个部件通信以及对其进行管理的软件体系系统和方法
KR20070002637A (ko) * 2005-06-30 2007-01-05 엘지전자 주식회사 아바타 영상부를 갖는 리모트 모니터 장치
US8924869B2 (en) * 2005-08-12 2014-12-30 Barry Fellman Service for generation of customizable display widgets
US8420110B2 (en) * 2008-03-31 2013-04-16 Cordis Corporation Drug coated expandable devices
US8409601B2 (en) * 2008-03-31 2013-04-02 Cordis Corporation Rapamycin coated expandable devices
US20140025219A1 (en) * 2012-07-18 2014-01-23 Jay Andrew Broniak Home energy management system with sabbath compliant functionality
KR102231105B1 (ko) * 2013-09-05 2021-03-24 삼성전자주식회사 제어 장치 및 그 제어 방법
US10120532B2 (en) * 2014-01-06 2018-11-06 Samsung Electronics Co., Ltd. Control apparatus for controlling an operation of at least one electronic device
US10042338B2 (en) * 2014-09-19 2018-08-07 Fujitsu Limited Method and system for controlling devices with a chat interface
DE102016223950A1 (de) * 2016-12-01 2018-06-07 BSH Hausgeräte GmbH Haushaltsgerät mit Netzwerkschnittstelle
EP3699349B1 (en) * 2019-02-20 2024-04-10 BSH Hausgeräte GmbH System comprising a program-controlled domestic appliance and a wireless terminal, method for operating said system and computer readable medium to perform said method

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08305531A (ja) * 1995-04-27 1996-11-22 Nec Corp 家電パソコン用エージェントインタフェース方式
JP2004050975A (ja) * 2002-07-19 2004-02-19 Equos Research Co Ltd 車載装置、データ作成装置、及びデータ作成プログラム

Family Cites Families (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4789962A (en) * 1984-10-31 1988-12-06 International Business Machines Corporation Methods of displaying help information nearest to an operation point at which the help information is requested
US5086385A (en) * 1989-01-31 1992-02-04 Custom Command Systems Expandable home automation system
DE69432199T2 (de) * 1993-05-24 2004-01-08 Sun Microsystems, Inc., Mountain View Graphische Benutzerschnittstelle mit Verfahren zur Schnittstellebildung mit fernsteuernden Einrichtungen
US5918243A (en) * 1996-01-30 1999-06-29 International Business Machines Corporation Computer mechanism for reducing DASD arm contention during parallel processing
US5793366A (en) * 1996-11-12 1998-08-11 Sony Corporation Graphical display of an animated data stream between devices on a bus
IL120855A0 (en) * 1997-05-19 1997-09-30 Creator Ltd Apparatus and methods for controlling household appliances
JP2000513916A (ja) * 1997-06-25 2000-10-17 サムソン エレクトロニクス カンパニー リミテッド ホームネットワーク自動ツリー生成器に対する方法及び装置
FR2770017B1 (fr) * 1997-10-17 1999-12-03 Thomson Multimedia Sa Systeme de controle d'equipement domestique par affichage graphique sur ecran
US6040829A (en) * 1998-05-13 2000-03-21 Croy; Clemens Personal navigator system
ES2342593T3 (es) * 1998-07-17 2010-07-09 United Video Properties, Inc. Sistema de guia interactivo de programas de television que tienen multiples dispositivos dentro de una casa.
US6121593A (en) * 1998-08-19 2000-09-19 Duck Creek Energy, Inc. Home appliances provided with control systems which may be actuated from a remote location
US6584496B1 (en) * 1999-01-29 2003-06-24 Sony Corporation Distributed help system for consumer electronic devices
US6542163B2 (en) * 1999-05-05 2003-04-01 Microsoft Corporation Method and system for providing relevant tips to a user of an application program
JP3975045B2 (ja) * 2000-01-24 2007-09-12 パナソニック コミュニケーションズ株式会社 ネットワーク制御装置及びリモート表示装置
US6580950B1 (en) * 2000-04-28 2003-06-17 Echelon Corporation Internet based home communications system
JP2001319045A (ja) * 2000-05-11 2001-11-16 Matsushita Electric Works Ltd 音声マンマシンインタフェースを用いたホームエージェントシステム、及びプログラム記録媒体
JP2001325052A (ja) * 2000-05-17 2001-11-22 Sharp Corp エージェント表示装置、エージェント表示方法およびエージェント表示プログラムを記録した記録媒体
US20020052913A1 (en) * 2000-09-06 2002-05-02 Teruhiro Yamada User support apparatus and system using agents
EP1233602A4 (en) * 2000-09-27 2004-09-08 Ntt Docomo Inc METHOD FOR REMOTE CONTROL OF ELECTRONIC DEVICES AND INSTALLATION FOR MANAGING SUCH DEVICES
KR100359827B1 (ko) * 2000-11-27 2002-11-07 엘지전자 주식회사 홈 어플라이언스 네트워크 장치 및 방법
US6889207B2 (en) * 2002-06-18 2005-05-03 Bellsouth Intellectual Property Corporation Content control in a device environment
KR100614331B1 (ko) * 2002-08-31 2006-08-18 엘지전자 주식회사 홈 네트워크 제어 방법 및 시스템
US20040054747A1 (en) * 2002-09-12 2004-03-18 International Business Machines Corporation Pervasive home network appliance
DE10319935A1 (de) * 2003-05-02 2004-11-18 Deutsche Thomson-Brandt Gmbh Verfahren zur Bereitstellung einer Bedienoberfläche zur Bedienung eines Gerätes in einem Netzwerk verteilter Stationen sowie Netzwerkgerät für die Durchführung des Verfahrens
US20050044500A1 (en) * 2003-07-18 2005-02-24 Katsunori Orimoto Agent display device and agent display method
EP1505796A1 (en) * 2003-08-06 2005-02-09 STMicroelectronics Limited Method for controlling services
US7114554B2 (en) * 2003-12-01 2006-10-03 Honeywell International Inc. Controller interface with multiple day programming
US7516405B2 (en) * 2004-01-12 2009-04-07 International Business Machines Corporation Displaying help resources

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08305531A (ja) * 1995-04-27 1996-11-22 Nec Corp 家電パソコン用エージェントインタフェース方式
JP2004050975A (ja) * 2002-07-19 2004-02-19 Equos Research Co Ltd 車載装置、データ作成装置、及びデータ作成プログラム

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013536660A (ja) * 2010-08-31 2013-09-19 ヴォルフガング・ブレンデル 位置センサシステムによる無線遠隔制御
US10114604B2 (en) 2014-12-26 2018-10-30 Seiko Epson Corporation Head-mounted display device, control method for head-mounted display device, and computer program
JP2019091151A (ja) * 2017-11-13 2019-06-13 沖電気工業株式会社 情報処理装置、情報処理方法、及びプログラム
JP7009940B2 (ja) 2017-11-13 2022-01-26 沖電気工業株式会社 情報処理装置、情報処理方法、及びプログラム
WO2019216053A1 (ja) * 2018-05-11 2019-11-14 株式会社Nttドコモ 対話装置
JPWO2019216053A1 (ja) * 2018-05-11 2021-01-07 株式会社Nttドコモ 対話装置
US11430440B2 (en) 2018-05-11 2022-08-30 Ntt Docomo, Inc. Dialog device

Also Published As

Publication number Publication date
US20060036970A1 (en) 2006-02-16

Similar Documents

Publication Publication Date Title
JP2006072992A (ja) 家電機器のネットワークの1つの共通グラフィカルユーザインタフェース及び家電機器ネットワーク
JP3964988B2 (ja) ヘルプ情報の表示方法および記録媒体
JP4436141B2 (ja) プログラム可能遠隔制御装置、プログラム可能遠隔制御装置をプログラムする方法、可読メモリ及びプログラム
TW201624254A (zh) 多任務界面的任務管理方法、裝置及終端設備
WO2000019284A1 (en) System for programming a household appliance having an electronic control
JPH0282307A (ja) 情報入力装置
US20220052865A1 (en) Interaction control method for smart home based on smart screen, device and smart screen
JP2016105692A (ja) エネルギーマネジメントシステム、エネルギーマネジメントコントローラ、エネルギーマネジメント方法、及び、プログラム
CN113110093A (zh) 智能家居控制面板的控制方法、装置、设备及存储介质
JP2019076627A (ja) 洗濯システム
CN103257788A (zh) 一种windows桌面动态图标形成方法
KR20210067785A (ko) 사용자 단말 및 그 제어 방법
WO2003032152A2 (en) Device running a user interface application
JP2015170110A (ja) スケジュール管理装置
JP4941674B2 (ja) シミュレーション・システム
CN112075824B (zh) 一种烹饪预约方法、装置及存储介质
JP7256285B2 (ja) 衣類処理装置のインタラクションインターフェースのインタラクション方法
JP6270749B2 (ja) 情報提示装置、端末装置、情報提示システム、情報提示装置の制御方法、および制御プログラム
CN112114729A (zh) 基于烹饪设备的悬浮窗交互控制方法、装置和烹饪设备
WO2020084838A1 (ja) 情報端末、及び、情報端末の操作プログラム
JP2001282329A (ja) 表示器作画装置およびそのシステム
KR100714684B1 (ko) 저장된 메모의 리스트를 표시하는 방법 및 장치
Elliot et al. Building flexible displays for awareness and interaction
JP2021016460A (ja) 洗濯システム、洗濯機、及びプログラム
Rich et al. DiamondHelp: A new interaction design for networked home appliances

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080624

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100928

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20110315