JP2005085274A - 感情あるエージェントを有するプロアクティブユーザインターフェース - Google Patents

感情あるエージェントを有するプロアクティブユーザインターフェース Download PDF

Info

Publication number
JP2005085274A
JP2005085274A JP2004259060A JP2004259060A JP2005085274A JP 2005085274 A JP2005085274 A JP 2005085274A JP 2004259060 A JP2004259060 A JP 2004259060A JP 2004259060 A JP2004259060 A JP 2004259060A JP 2005085274 A JP2005085274 A JP 2005085274A
Authority
JP
Japan
Prior art keywords
user interface
action
user
emotional
agent
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2004259060A
Other languages
English (en)
Inventor
Jong-Goo Lee
鍾九 李
Eyal Toledano
アイヤル・トレダーノ
Natan Linder
ナタン・リンダー
Ran Ben-Yair
ラン・ベン−ヤイル
Yariv Eisenberg
ヤリヴ・アイゼンバーグ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Samsung Electronics Co Ltd
Original Assignee
Samsung Electronics Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from US10/743,476 external-priority patent/US20050054381A1/en
Application filed by Samsung Electronics Co Ltd filed Critical Samsung Electronics Co Ltd
Publication of JP2005085274A publication Critical patent/JP2005085274A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44Arrangements for executing specific programs
    • G06F9/451Execution arrangements for user interfaces
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/0482Interaction with lists of selectable items, e.g. menus
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44Arrangements for executing specific programs
    • G06F9/4401Bootstrapping
    • G06F9/4406Loading of operating system

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Computer Security & Cryptography (AREA)
  • User Interface Of Digital Computer (AREA)
  • Digital Computer Display Output (AREA)

Abstract

【課題】本発明は、プロアクティブユーザインターフェースとそのシステム及び方法に関し、特に、移動情報装置とともに使用するためのユーザインターフェースとそのシステム及び方法に関する。
【解決手段】いずれのタイプの演算装置にも任意に設置されることができる(またはその装置を制御し、そして/または、その装置に関連できる)プロアクティブユーザインターフェースであり、使用者の行動に応じて、演算装置が選択できる予めプログラムされた多様なパターン及び/または特定の使用者との以前の経験に基づいて使用者に能動的に提案する。例えば、メニューまたはその一部を変更し、表示する異なるメニューを提供し、そして/または、タッチスクリーン機能を変更するなど表示部の少なくとも一部のアピアランスを変更することによってその提案を任意に行うことができる。このような提案は、音声によって任意に行われることができる。
【選択図】図2

Description

本発明は、プロアクティブユーザインターフェース(proactive user interface)とそのシステム及び方法に関し、特に、移動情報装置とともに使用するためのユーザインターフェースとそのシステム及び方法に関する。
最近、移動及び携帯無線装置の使用が急激に増加している。変化する機能、内部資源及び性能を有している多い装置があり、このような装置には、移動電話、PDA(Personal Digital Assistants)、医療用及び実験実用機構、スマートカード、及びセットトップボックスなどが含まれるが、それらに限定されることではない。そのような装置はすべて移動情報装置である。これらの装置は、すでに知られている汎用計算機械よりは特殊目的用の機能制限型装置になる傾向がある。これら中の多くの装置は、インターネットに連結されて多様な用途として用いられている。
そのような移動情報装置には、例えば、携帯電話(cellular phone)がある。携帯電話は急速に普遍化されて、携帯電話の使用が既存のPSTN(Public Switched Telephony Network)電話機または“地上線路(land line)”電話機の使用を上回っている。携帯電話は、それ自体にさらに精巧になっており、実際には、事実上の内蔵型オペレーティングシステムを備える演算装置であるといえる。
携帯電話がさらに精巧になるにつれて、携帯電話によって提供される機能の範囲も潜在的にさらに拡大されている。しかし、現在では、携帯電話の機能は、一般(地上線路)電話機にすでに存在する機能を拡張し、そして/またはPDAの特定の機能を携帯電話の機能と統合することに関連することが一般的である。これと類似して、携帯電話とともに提供されるユーザインターフェースも精巧でないことであり、幾つの単純なメニューを通じてスクロールするためのキーパッドを特徴的な要素として備えることが一般的である。着信音及びそれ以外の携帯電話のアクセサリーのために相当な費用を支払っている顧客の立場では、カスタマイズ化(customization)を確実に所望しているが、カスタマイズ化は、いまでも携帯電話の非常に少ない個数の機能に限定されている。また、携帯電話は、現在、移動情報装置の使用を向上させるのに必要な注文製作型機能(custom/tailored functionalities)と、例えば、装置ユーザインターフェースなどのオートマチックパーソナライゼーション(automatic personalization)、及び/または使用者の行動に応じて反応する能力が不足である。
しかし、このような精巧さの不足は、個人用(デスクトップまたはラップトップ)コンピュータ用及びそれ以外の演算装置用ユーザインターフェースでも同様である。通常に、これらの演算装置は、かなり単純な方法にのみカスタマイズ化されることができる。また、このようなカスタマイズ化は使用者によって遂行されなければならないが、使用者は、コンピュータ機能を理解できないか、またはこのようなカスタマイズ化作業の遂行を不便に感じることができる。現在、演算装置は、使用者の行動(動作)パターンを学習して、それに従ってそれら自分の動作をユーザインターフェース用適応型システム(adaptive system)のように調整することが不能である。使用者がコンピュータを手動に調整できなければ、コンピュータが使用者に合うようにその動作を調整するよりは、使用者が自分の動作をコンピュータに合うように調整すべきである。
専門化された実験実用機能のみのためのものであるが、学習できるソフトウェアが開発されたところがある。例えば、“人工知能(Artificial Intelligence;AI)”というソフトウェアが開発された。人工知能という用語に対する多様な定義があるが、その中の1つとして、“人工知能を認知、推論、及び行動を遂行できるようにする演算の研究”であると定義する(Prentice Hall, Pearson Education Inc., 2003年 Stuart Russell, Peter Norvigの“Artificial Intelligence;A Modern Approach (second edition)”で引用する。)。人工知能ソフトウェアは、認知(perception)などの多様な他の概念を結合したもので、これは、推論して行動するために人工知能ソフトウェアを必要とする世界(world)にインターフェースを提供する。例えば、自然言語処理(natural language processing)(自然言語の文献内容及び文脈を伝達(communication)して理解する。)と、コンピュータビジョン(画像源(imagery source)から客体(objects)を認知する。)と、センサーシステム(感覚データ(sensory data)を分析して認知された客体の特徴(features)及び客体を認知する。)などが含まれるが、それらに限定されることではない。
他の重要な概念には、知識ベース(knowledge base)がある。知識表現(knowledge representation)は、知識の抽出及び貯蔵を表現する機能を遂行する。この概念は、また、知識、特徴抽出、及び列挙(enumeration)、客体状態の構成及び定義を一般化する技術も提供する。それ自体を具現するためには、一般的に、グラフ、ベクトル、及びテーブルなどの公知のデータ構造を利用することができる。
また他の重要な概念には、推論(reasoning)がある。自動化された推論は、知識表現及び認知を利用するアルゴリズムを結合して新たな結論を導出し、質問及び答弁を推測し、エージェント目標(agent goals)を達成するようになる。人工知能(AI)推論の例には、次のような概念的なフレームワークがある。すなわち、その例には、規則ベース(rule base)(推論のための認知された状態及び知識ベースに対してシステム規則が評価される。)と、検索システム(利用可能な知識及び目標に従って知識結論の検索のために周知のデータ構造を利用(例えば、決定ツリー(decision tree)、状態グラフ、及びミニマックス決定(minimax decision)などがそれに含まれる。)する。)と、分類器(classifier)(分類器推論システムの目的は、分類タグ(classification tag)のない実験として表現される認知状態(perceived state)を分類するためのものである。)などがある。分類器は、予め分類された(pre-classified)知識ベースに従って、新たな実験の分類を推測するのであろう(ここには、例えば、ベクトル距離発見的方法(vector distance heuristics)、サポートベクトルマシーン(Support Vector Machine)、分類器神経回路網(Classifier Neural Network)などが含まれる。)。
さらに他の重要な概念には学習(learning)がある。学習の目標は、経験を通じた一般化によって人工知能推論システムの潜在的な性能を向上させることにある。学習アルゴリズムに入力されることは実験(experiment)になるものであり、その結果に応じて、知識ベースに対する修正がその学習アルゴリズムから出力されるものであろう(ここには、例えば、補強学習、バッチ学習、及びサポートベクトルマシーンなどが含まれる。)。
ソフトウェア用の遺伝的なアルゴリズム及び進化アルゴリズムのための研究も行われた。このようなソフトウェアの1つの例がKarl Simsの“Evolving Virtual Creatures”に記述されている(Computer Graphics, SIGGRAPH‘94 Proceedings, July 1994, pp.15-22)。この参考資料は、実際に、物理的な世界の模擬形態(simulated version)としての3次元の仮想世界に移動できる“生物(creature)”というソフトウェアについて記述している。この生物は、遺伝的なアルゴリズムを利用して学習及び進化を遂行でき、これにより、指示された外部の入力(directed external input)なしでそれらの行動を変化させる。従って、これらの遺伝的なアルゴリズムは、仮想世界での相互に異なる“適合性(fitness)”または補償(rewards)を有する潜在的な行動(potential behavior)の超空間(hyperspace)を描写した。これらアルゴリズムの自体の具現は指示されたグラフを利用して行われ、これらによって生物の遺伝子型(構成成分)及びそれらの行動を記述した。
そのシミュレーション(simulation)の開始のときに、異なる遺伝子型を有する相互に異なる多い生物が模擬された。生物は、仮想世界で異なる刺激に対してそれらの行動を変化させるように許容された。各“世代(generation)”では、相対的または絶対的なカットオフスコア(cut-off score)に従って、特定の生物のみが生存するように許容され、前記スコアは、生物の行動の適合性(fitness)に従って決定される。ミューテーション(mutations)の発生が許容され、これにより、ミューテーションされた生物の適合性が増加されることもでき、またはその反対であることもできる。また、例えば、ノードに関連した値を無作為に変更し、そして/またはノードを追加しまたは削除することにより指示されたグラフを通じてミューテーションが遂行される。これと類似して、生物間の“交配(mating)”による結果として指示されたグラフ(directed graph)に変化が発生することができる。
前記参考文献に記述されている結果は、仮想生物が事実上変化及び進化を行えることを示している。しかし、その生物は仮想世界内でのみ動作でき、実際の物理的な世界、そして/または人間コンピュータ操作者とは何の連結点または関連点も有していない。
このような背景技術は、特に、人間使用者と相互作用を遂行するために移動情報装置用のインテリジェントソフトウェアが学習して進化できるようにするシステムまたは方法を少なくとも教示するかまたは提案していない。また、背景技術は、プロアクティブ(proactive)ユーザインターフェースが使用者の行動を学習して使用者に選択事項を能動的に提案し、その提案に対する使用者の反応に従う感情を表現できる演算装置用プロアクティブユーザインターフェースに対しても教示するかまたは提案していない。さらにまた、背景技術は、アバターを通じて人間使用者と感情表現を含む相互作用を遂行できる移動情報装置用インテリジェントエージェントに対しても教示するかまたは提案していない。
本発明は、どんな形態の演算装置にも任意に(optionally)設置されることができる(またはそうではない場合、その装置を制御することができ、そして/またはその装置と関連することができる)プロアクティブユーザインターフェースを提供することにより、前述した背景技術の問題点を解決しようとするものである。このようなプロアクティブユーザインターフェースは、特定の使用者との以前の経験(相互作用)に基づいて、そして/または使用者の行動に応じて演算装置が選択できる予めプログラムされた(pre-programmed)多様なパターンに基づいて、使用者に能動的に提案するようになり、そして/または、そうでなければ、決定されないまたは予期せぬ行動(non-deterministic or unexpected behavior)に関与するようになる。例えば、その一部またはメニューを変更し、表示するための異なるメニューを提供し、そして/またはタッチスクリーン機能を変更するなど、表示部の少なくとも一部の外観を変更することにより、前述した提案が任意に行われることができる。また、そのような提案は、音声によって任意に行われることもできる。それ以外の他の形態の提案または伝達メカニズム(delivery mechanism)も可能である。本発明は、そのような提案に対する使用者の反応に従うエージェントの感情を表示することを特徴的な要素として有する。
“提案”によって、前記システムは、与えられた所定の使用者の性向(preferences)を考慮して、また、システムの状態が行為の特定の遂行を許容するか否かに従ってその行為を事実上任意に遂行することができ、また、それに伴うエージェントの感情を表現できることを留意しなければならない。本発明によるエージェントの感情表現は、エージェントの“提案”に対する使用者の選択可否またはエージェントの“提案”に対する使用者の補償に依存する点を特徴とする。
一般的に、プロアクティブユーザインターフェースは、少なくとも知能的であり、双方向(interactive)に見えることが望ましく、使用者と少なくともどの程度の“自由な”(例えば、準備されない(non-scripted)または部分的に準備された)通信を遂行できることが望ましい点を強調することは重要である。使用者の期待(expectations)が“インテリジェント”エージェント/装置との相互作用のために実行されることが望ましい意味で、知能的な外観(intelligent appearance)を有することは重要である。このような期待は、通信できる能力、インターフェースの選択的な外観(optional appearance)、擬人化属性(anthropomorphic attribute(s))の使用などの要素によって任意にシェープ(shaped)されることができ、それらは、プロアクティブユーザインターフェースと使用者との間の相互作用において知能感覚(sense of intelligence)を向上させるのに利用されることが望ましい。使用者から伝達される通信において、プロアクティブユーザインターフェースは、使用者が移動情報装置との相互作用をどんな方式にて遂行することを所望するかを感知できることが望ましい。任意に、通信(情報伝達)は一方向にのみ行われることができる。例えば、インターフェースは、任意に使用者にメッセージまたは情報を提示するが、使用者からは情報を受信しないことができ、またはその反対に具現することも可能である。通信は、使用者との望ましい相互作用のために双方向に行われることが望ましい。
任意にそして望ましく、使用者に伝達される通信のために、プロアクティブインターフェースは、使用者との通信の一部として使用者との相互作用のために模擬された感情(simulated emotions)を表示するかまたは見せられる機能を有する。この後に、さらに詳細に説明するように、これら感情は、インテリジェントエージェントによって提示されるために模擬されることが望ましく、アバターまたは生物(creature)によって表現されることがさらに望ましい。その感情は、感情型システム(emotional system)を通じて生成されることが望ましく、任意に、少なくとも1つの使用者の性向(user preference)に従って部分的に制御されることができる。知能型システムは、使用者がインテリジェントエージェントの反応及び通信を認知するにおいて、信じるべきものになれるようにするのに利用することが望ましい。例えば、インテリジェントエージェントが犬のような生物として提示されると、感情型システムは、その感情が“犬のような”行動に対する使用者の期待と一致できるようにすることが望ましい。
これと類似して、インテリジェントエージェントは、使用者に対して少なくとも知能的に見えることが望ましい。任意に、その知能(intelligence)は、完全に決定的なメカニズム(completely deterministic mechanism)を通じて提供されることができるが、知能的なアピアランスを備えるための基礎になるもので、少なくとも1個以上の無作為または反無作為要素(semi-random elements)が含まれることが望ましい。また、そのような要素は、インテリジェントエージェントの表現(representation)に対して知能と関連した使用者の期待と一致できるように提示されることが望ましい。
使用者の要求または他の通信を満足させるために、少なくともある程度はインテリジェントエージェントが行動を変更することが可能であるようにするために、適応特性または適応機能(adaptiveness)が提示されることが望ましい。プロアクティブユーザインターフェースは、使用者と通信するためのインテリジェントエージェントを含んでいなくても、適応特性によってインターフェースが事前行動的になれるようにすることが望ましい。使用者の移動情報装置との相互作用の観察(observation)によってそのような適応機能が実行されることができるようにすることが望ましく、しかし、任意にそして望ましく、そのような観察に対するプロアクティブユーザインターフェースの反応が知識ベース及び/または規則ベースによって案内されることもできる。
そのような適応機能の非限定的であるが、望ましい特定の例として、特に、複数のメニューを含む移動情報装置において、そのような適応機能には、メニューの少なくとも1つの形態(aspect)を変更できる能力が含まれることができることが望ましい。例えば、任意に、1個以上の短縮キーまたは短縮手段(shortcuts)が提供されて、使用者がメニュー階層(hierarchy)において最終選択対象(final choice)より上位にあるサブメニューまたは以前のメニューのうち少なくとも1つ(より望ましくはそのすべて)を迂回して直接メニュー選択対象に到達できるようにする。任意に(その代わりにまたは付加的に)、1個以上のメニューがプロアクティブユーザインターフェースの適応機能に従って、例えば、使用頻度数に従って再配列されることができる。任意に、そのような再配列には、メニュー選択及び/またはサブメニューのようなメニューの一部をメニュー階層において、現在位置より上位にある新たな位置への移動が含まれることができる。メニュー階層において、上位にあるサブメニューは、下位位置(さらに下位にある位置)にあるものより少ない回数のメニュー選択を通じてさらに速く到達されることができる。
任意にそして望ましく、適応機能及び/または感情(emotions)は、プロアクティブユーザインターフェースによって学習のための補償(rewards)を通じて助けられることができる。使用者が承認した提案または行為は、補償または肯定的なインセンティブをプロアクティブインターフェースに提供して、そのような提案または行為(actions)を継続するようにすることが望ましく、使用者によって承認されなければ、プロアクティブインターフェースにそのような行動(behavior(s))を継続することに対する行動抑制要因(disincentive)を発生させることが望ましい。プロアクティブユーザインターフェースに肯定的または否定的なインセンティブ/行動抑制要因を提供することにより、行動が許容されるかまたは禁止されるもっと“黒白(black or white)”的な方式に比べて、そのインターフェースの行動にニュアンスがさらに与えられるようにすることが望ましい。そのような行動が少なくともある程度使用者によって一括的に承認される/否認される場合に、そのようなニュアンスによって反対されるかまたは矛盾する行動(opposing or contradictory behaviors)が取り扱われることができるようにすることも望ましい。
本発明の任意の(optional)、しかし、好適な実施形態によると、プロアクティブユーザインターフェースが使用者との相互作用を通じて、使用者に対するモデルが構成されることが望ましい。そのようなモデルは、予めプログラムされた、そして/または使用者の行動から決定された人工知能知識ベースを任意にそして望ましく統合するようになるのであろう。また、前記モデルは、プロアクティブユーザインターフェースがユーザインターフェースによって行われた特定の提案に対する使用者の反応を測定することを任意に可能にすることにより、使用者の内在的または非明示的な性向(implicit preferences)に適応するようになる。
そのような演算装置の非限定的な例には、ATM(例えば、使用者行動の特定のパターンが警報器を動作するようにできるので保安性にも関連する。)と、すべてのタイプの一般コンピュータ(デスクトップ(desktop)、ラップトップ(laptop)、小型軽量(thin client)、及び装着型コンピュータ(wearable computer)など)と、携帯電話などの移動情報装置、ページャー装置、それ以外の無線通信装置、オペレーティングシステムを備えた一般電話機、PDA、及び無線PDA、オペレーティングシステムを備えた消費財などが含まれる。以下、“演算装置”という用語はオペレーティングシステムを備えており、演算を遂行できるすべての電子装置を含むものとする。オペレーティングシステムは、任意に内蔵されたシステム及び/または他のタイプのソフトウェア及び/またはハードウェアランタイム環境(run time environment)であることができる。以下、“移動情報装置”という用語は、すべてのタイプの無線通信装置(ここには、携帯電話、無線ページャー、及び無線PDAなどが含まれ、これらに限定されることではない。)を含むと見なされるが、それに限定されることではない。
望ましくは、本発明は、現在の包括的(generic)であり、非柔軟的(non-flexible)であるユーザインターフェースを柔軟性があり、実際に使用しやすいインターフェースに変化させるのみならず、演算装置との向上された使用者の経験及び相互作用を提供するために実現される。より望ましくは、本発明は、使用者と相互に作用するアバター形態でユーザインターフェースを構成する任意の、しかし、望ましい実施形態に従って、演算装置との使用者の向上した感情的な経験(emotional experience)を提供するために実現される。従って、本発明は、特に、例えば、携帯電話のような移動情報装置に“生存型装置(living device)”の経験を与えることができる。この実施形態によると、使用者は、“生存型装置”に感情的な取付け機能(emotional attachment)を形成することもできる。
本発明の他の実施形態によると、適応型システムを含む移動情報装置が提供される。前述したユーザインターフェースのように、この装置もプログラムされたパターン及び/または使用者との以前の経験に依存する。しかし、任意にそして望ましく、適応型システムは、移動情報装置の機能及び環境内での動作にさらに制限されている。
任意にそして望ましく、移動情報装置の適応型システム及びプロアクティブユーザインターフェースのうちいずれか1つまたはその両方のすべては、遺伝的なアルゴリズム、人工知能(AI)アルゴリズム、機械学習(Machine Learning;ML)アルゴリズム、学習された行動、及び進化できるソフトウェア/演算装置で具現される。また、前述した2つのうちのいずれか1つまたはそのすべては、高級水準の音声命令、タッチスクリーン命令、キーボード‘短縮キーまたは短縮手段(short-cuts)’を任意に提供することもできる。
本発明のまた他の、任意の、しかし、好適な実施形態によると、移動情報装置網(network)を経て移動情報装置と使用するための1個以上のインテリジェントエージェントが提供され、これには、エージェントが人間使用者と通信(情報交換)を遂行できるようにするアバター(または“生物”;以下、2つの用語は、置換え可能な用語として使用するものとする。)が含まれることが望ましい。従って、アバターは、使用者との相互作用のためのユーザインターフェースを提供することが望ましい。また、インテリジェントエージェントは、ネットワークを通じて移動情報装置の少なくとも1つの相互作用を制御するためのエージェントを含むことが望ましい。この実施形態は、任意に、移動情報装置網を通じて連結されるそのようなインテリジェントエージェントを複数個含んで、任意に、そのようなエージェントのネットワークを形成できることもある。このような実施形態を通じて多様な応用例が任意に提供されることもでき、その応用例に含まれることは、例えば、一般的な教育(teaching)、そして/または、特に、移動情報装置を使用する方法を学習するための教育、言語教育、通信アプリケーション、コミューニティアプリケーション、ゲーム、娯楽(entertainment)、ショッピング(クーポン獲得など)、ショップ、または他の場所の位置把握、広告及び所望しないメッセージのフィルタリング、ロールプレイニングゲーム、または携帯電話網を通じたそれ以外の双方向(interactive)ゲーム、“チャット”及びミーティング機能、インテリジェントエージェントのための“プレゼント(presents)”を買うか、そうでなければ、そのキャラクタを装飾するための機能などがあり、これらに限定されることではない。理論的には、このようなエージェントの自体にアクセサリーとして“愛玩動物(pet)”が提供されることもできる。
従って、本発明の多様な実施形態によると、相互に異なる多い相互作用が可能である。このような相互作用のうちには、アバターまたはそれ以外のキャラクタまたは使用者のパーソニフィケイション(personification)と装置の使用者との間の相互作用と、アバターまたはそれ以外のキャラクタまたはパーソニフィケイションを通じて装置を駆動するための装置と装置の使用者との間の相互作用と、アバターまたはそれ以外のキャラクタまたはパーソニフィケイションを通じた通信(情報交換)によって、それぞれの装置を利用した二人の使用者間の相互作用と、任意に使用者同士またはエージェントと使用者との間の何の情報交換もなく、2つの装置の間にそれぞれのインテリジェントエージェントを通じた相互作用のうちいずれか1つ以上が含まれる。前記相互作用または可能な相互作用は、本発明の実施形態に従って決定され、これについては、下記にさらに詳細に説明する。
本発明は、演算装置、そして/または、例えば、携帯電話のような移動情報装置の相対的に制限された環境から利益を得るようになるが、その理由は、そのような環境の変数がすでに知られているからである。そのような装置は、例えば、携帯電話網のようなネットワークを通じて通信を遂行しても、それでもやはり前記環境の変数は予め決定されることができる。現在、演算装置は、使用者の受動的かつ直接的な操作でもカスタマイズ化が許容されないか、それがほぼ許容されない包括的なインターフェース(generic interface)のみを提供している。
“ソフトウェア”という用語は、ハードウェアによって動作するフレームワークまたは命令語を任意に含むこともできるという点に留意しなければならない。
(望ましい実施形態)
本発明は、プロアクティブユーザインターフェースに関するもので、どんな形態の演算装置にも任意に設置されることができる(または、そうではない場合に、その装置を制御でき、そして/またはその装置に関連することができる。)。プロアクティブユーザインターフェースは、使用者の行動に応じて、演算装置が選択できる多様な予めプログラムされたパターン及び/または特定の使用者との以前の経験に基づいて使用者に能動的に提案できる。表示部の少なくとも一部の外観を変更することにより、例えば、その一部またはメニューを変更し、表示するための異なるメニューを提供し、そして/またはタッチスクリーン機能を変更するなどによって、前述した提案が任意に行われることができる。また、そのような提案は、音声によって任意に行われることもできる。本発明は、そのような提案に対する使用者の反応に従うエージェントの感情を表示することを特徴的な要素として有する。
プロアクティブユーザインターフェースは、前述したように、オペレーティングシステムを含んでいる演算装置のために実現されることが望ましい。このようなインターフェースは、任意にそして望ましく、使用者とオペレーティングシステムとの間の通信のためのユーザインターフェースを含む。また、望ましく、インターフェースは、ユーザインターフェースとの使用者の相互作用の少なくとも1つのパターンを検出し、検出されたパターンに従って、ユーザインターフェースの少なくとも1つの機能を事前行動的に変更するための学習モジュールを含む。これにより、プロアクティブユーザインターフェースは、使用者の要請を予測して演算装置の所望する機能を選択するときに使用者に役に立つことができる。
本発明の他の実施形態によると、適応型システムを含む移動情報装置が提供される。前述したユーザインターフェースのように、この装置も使用者との以前の経験及び/または予めプログラムされたパターンに依存する。しかし、任意にそして望ましく、そのような適応型システムは、現在PDAからの特定の基本機能を含むこともある、例えば、携帯電話のような移動情報装置の環境及び機能内での駆動にさらに限定される。
望ましく、この適応型システムは、オペレーティングシステムを特徴的な要素として備えた移動情報装置とともに動作する。このオペレーティングシステムは、任意に内蔵型システム(embedded system)を含むことができる。移動情報装置は、携帯電話を任意に含むことができる。
かならずそういうものではないが、適応システムは、移動情報装置の自体によって任意に駆動されることができる。または、移動情報装置がネットワークに連結された場合に、適応型システムは、少なくとも部分的にネットワークから移動情報装置に伝送された命令に従って任意に駆動されることもできる。これを実現するためには、適応型システムの少なくとも1つの動作と関連したデータが移動情報装置とは異なる位置に貯蔵されることが望ましく、このとき、前記位置は、ネットワークを通じてアクセスが可能である。
本発明のまた他の任意の、しかし、好適な実施形態によると、移動情報装置網を通じて移動情報装置と使用するための1個以上のインテリジェントエージェントが提供され、これには、エージェントが人間使用者と情報交換(通信)を可能にするアバターを含むことが望ましい。従って、望ましく、アバターは、使用者との相互作用のためのユーザインターフェースを提供する。また、インテリジェントエージェントは、ネットワークを通じて移動情報装置の少なくとも1つの相互作用を制御するためのエージェントを含むことが望ましい。この実施形態は、移動情報装置網を通じて連結されたそのような複数のアバターを任意に含むことができる。
本発明の好適な実施形態によると、アバターのアピアランス(appearance)の少なくとも1つの特性が、例えば、使用者の命令に従って任意に変更できることが望ましい。任意にそしてより望ましく、アバターのアピアランスの複数の特徴が予め定義されたアバター皮膚に従って変更可能である。その皮膚は、使用者によって任意に予め決定される。“皮膚”によって前記複数の特徴が1つのセットとしてともに変更されることを意味し、このとき、前記セットは、前記皮膚を形成するものである。このような実施形態がネットワーク-アクセス可能な位置に貯蔵されたアバターに関連したデータの少なくとも一部を有する以前の実施形態と結合される場合には、使用者は、同一のアバターを相互に異なる電話機に任意に移動させることができ、そして/または相互に異なる理由のために、例えば、パーティーまたはそれ以外のセレブレイション(celebration)のような特別の場合のために、アバターのアピアランスをカスタマイズ化できる。もちろん、このようなものは、ただ例を挙げるためのもので、特定の方式で限定されるものを意味することではない。
技術的な具現(technical implementation)においては、本発明は、使用者にごくパーソナルデバイス(メモリ、データ処理容量、スクリーン表示の大きさ、及び解像度など)の制限されたシステムの上で動作できることが望ましい。例えば、望ましく、前記装置は、携帯電話などの移動情報装置であり、これは、かならず携帯性及び使用上利便性のために適応されるので、前記装置は、前述した制限のうちの1つ以上またはそのすべてを有することができる。本発明の具現形態は、このような特性の組合せに適合であるようにすることが望ましい。従って、使用者の望ましいパーソナライゼーション(personalization)及び“個人的な感じ(personal feel)”を保持しつつも、前記装置自体の制限を解決するために、次のような多様な解決方案を提案するようにする。これら解決方案は、ただ例に過ぎなく、いずれの方法を使っても、限定的に解釈するように意図されたものではないことに留意しなければならない。
例1:プロアクティブインターフェース - 一般
望ましく、本発明のプロアクティブユーザインターフェースは、使用者の行動に応じて、演算装置が選択できる予めプログラムされた多様なパターン及び/または特定の使用者との以前の経験に基づいて、使用者に能動的に提案するために、いずれのタイプの演算装置も制御することができ、そして/または、その装置にも関連することができることが望ましい。このような提案は、表示部の少なくとも一部のアピアランスを変更することにより、例えば、メニューまたはその一部を変更し、表示するための相互に異なるメニューを提供し、そして/またはタッチスクリーン機能を変更することにより、任意に行われることができる。その提案は、音声によって任意に行われることもできる。
プロアクティブユーザインターフェースは、オペレーティングシステムを含む前記のような演算装置のために実現されることが望ましい。任意にそして望ましく、前記インターフェースは、使用者とオペレーティングシステムとの間の通信のためのユーザインターフェースを含んでいる。望ましく、インターフェースは、使用者のユーザインターフェースとの相互作用の少なくとも1つのパターンを、例えば、学習モジュールの動作を通じて検出することができ、従って、望ましく、検出されたパターンに従って、使用者のインターフェースの少なくとも1つの機能を事前行動的に変更することができる。従って、プロアクティブユーザインターフェースは、使用者の要請を予想することができ、これに従って、演算装置の所望の機能を選択するにおいて使用者に役に立つことができる。
特に、使用者が所望するものとその行動を学習するものに関連して、このようなタイプのプロアクティブ行動は、プロアクティブインターフェースの部分に所定のタイプの学習能力を必要とする。そのような学習能力は、ソフトウェア客体の環境との相互作用及び(ソフトウェアによる)学習に関連する該当技術分野で公知されたアルゴリズムと方法論を通じて任意に提供されることができる。ソフトウェアがその行為を時間に従って向上させられるとき、そのソフトウェアを学習であるといえる。人工知能は、知能型行為選択(intelligent action selection)(推論;reasoning)を示す必要があり、これに従って、ソフトウェアがその環境(その“世界”)を探検して行為の可能性を発見できる能力を有することが望ましい。また、ソフトウェアは、世界の状態とそれ自体の内部状態を表現する能力を有することが望ましい。そして、ソフトウェアは、知能型行為(前記のような知識を利用して)を選択して行動することができることが望ましい。
任意にそして望ましく、例えば、インターフェースの学習モジュールによる学習は補償(rewards)によって補強されることができ、このとき、学習モジュールは、環境の状態に応じて特定の行為を取るものに対して補償を受けるようになる。このような形態の学習は、所定の方式にて行動するように学習モジュールを訓練させることを含む。2以上の行動が許容されれば、学習処理過程は、非決定的なものになって相互に異なる行動を生成することができる。プロアクティブユーザインターフェースに関連して、任意にそして望ましく、前述した補償は、例えば、提示された選択対象が使用者の選択に続くとき(提示された選択対象によって、例えば、プロアクティブユーザインターフェースによって提供されたものとは異なるメニューを選択することにより、使用者が異なるセットの1個以上の選択を探そうとするときとは対照的に)を学習モジュールが検出するように引き起こすことなどを含む。プロアクティブユーザインターフェースが使用者の行動を正しく理解したことを示すもので、明確に、前記インターフェースの提示事項を使用者が直接に選択する比率が最大になるようにすべきである。
本発明は、現在の包括的(generic)であり、非柔軟的(non-flexible)なユーザインターフェースを柔軟性があり、実際に、使用者の親和的なインターフェースに変化させるだけではなく、演算装置との向上した使用者の経験及び相互作用を提供する。また、本発明は、使用者と相互に作用する生物またはアバター形態でユーザインターフェースを構成することによって、演算装置との使用者の向上した感情的な経験(emotional experience)を提供する。従って、本発明は、例えば、携帯電話のような移動情報装置に“生存型装置(living device)”の経験を与えることができる。
以下、本発明の好適な実施形態について添付図を参照しつつ詳細に説明する。下記説明において、本発明の要旨のみを明瞭にするために公知の機能又は構成に対する詳細な説明は省略する。
図1は、反応的な学習(reactive learning)のための本発明による学習モジュールの例を概略的に示すブロック図である。示すように、学習モジュール100は、知識ベース102を望ましく含んでおり、知識ベース102は、環境との相互作用の結果として、学習モジュール100によって収集された情報を貯蔵することにより、望ましくは、学習モジュール100のメモリとしての機能を行う。知識ベース102は、不揮発性メモリ(図示せず)に任意に貯蔵されることができる。知識ベース102は、適切な行為を選択するために学習モジュール100に役に立つ情報を望ましく保持している。そのような情報は、内部神経網のための数値的加重値(numerical weights)などの値、または行為補償値(action reward value)を有するテーブル、または他のすべての形態の情報を任意に含むことができる。
学習モジュール100が環境に対する情報を受信できるようにするためには、学習モジュール100は、複数のセンサー104を特徴的な要素として備えることが望ましい。センサー104は、学習モジュール100がその環境状態を認知できるようにする。センサー104は、その環境に連結されて感知された値を出力する。その値は、プログラムの自体から得られたこと(例えば、画面上の位置、エネルギーレベルなど)、または実際装置の値から得られたこと(例えば、“フリッパー(flipper)”を開けてその装置が動作されるか、着信号が応答されられる携帯電話を開いた状態(flipped state)のような動作状態及びバッテリー状態など)であることができる。
センサー104は、はっきり価値ある情報を提供するが、学習モジュール100がその情報を理解するようになることができる前までその情報を処理する必要がある。従って、学習モジュール100は、センサー104の現在出力が“状態(state)”であると称するその世界の一定の表現になるように処理するために認知部106をさらに含む。そして、そのような状態は、学習モジュール100の“ブレイン(brain)”として記述されることができる推論システム108のための入力が行われることが望ましい。このような設計は、そのシステムを複数のホストプラットホーム(相互に異なる演算装置及び環境)に容易に移動することを支援するのみならず、センサーのメカニズム及び世界の状態を拡張することを支援して、世界の状態が装置に従って変更されることができる。
推論システム108は、知識ベース102で現在状態を処理して、どんな行為を遂行すべきであるか否かに対する意思決定を生成するようにすることが望ましい。推論システム108は、世界の現在状態を受信して遂行されるべき行為を出力し、その選択された行為に対するフィードバックを受信するようになる。このフィードバックに基づいて、推論システム108は、知識ベース102をアップデートすることが望ましい。これは、学習モジュール100が行為を状態に関連させるように学習する1つの反復処理に該当する。
本発明の任意の実施形態によれば、演算装置は、感情的な状態、物理的な状態、動きなどの使用者に対する多様な形態の生物学の情報を感知するための1個以上の生物学センサーを特徴的な要素として有することができる。そして、このような情報は、センサー104に提供されて認知部106が使用者の状態を決定し、それに従って、その装置のための適当な状態を決定するのに役に立つことができる。そのような生物学センサーは、体温(body temperature)、心拍(heart rate)、酸素飽和度(oxygen saturation)の感知用センサーまたは使用者の生物学変数を測定する他のすべての形態のセンサーを含むことができるが、それらに限定されることではない。
図2は、学習モジュール100をさらに特徴としたプロアクティブユーザインターフェースを提供するための本発明によるシステム200の典型的な実施形態を示す。学習モジュール100は、学習モジュール100に関連し、そして/またはこれによって制御され、そして/またはこれを動作させる演算装置(図示せず)のオペレーティングシステム202と通信を遂行することが示されている。オペレーティングシステム202は、インターフェース部204だけではなく、少なくとも1つの他のソフトウェアアプリケーション206の動作を制御することが望ましい(もちろん、そのような多いソフトウェアアプリケーションが任意に存在することができる。)。
使用者は、例えば、メニューから1つの選択対象を選択するようにより、インターフェース部204を通じて通信を遂行する。オペレーティングシステム202は、このような通信情報が受信されてデータに翻訳されられるようにする。そして、望ましく、学習モジュール100は、そのようなデータを受信して任意に命令をオペレーティングシステム202にさらに伝送して、例えば、インターフェース部204の所定の要素(例えば、異なるメニューを提供することにより)を変更し、そして/または、ソフトウェアアプリケーション206を動作させる。そして、使用者は、インターフェース部204を通じて応答を行い、この応答から、望ましく、学習モジュール100は、その行為(学習モジュール100によって伝送された命令)が適切であるか否かを学習するようになる。
図3は、本発明によるプロアクティブユーザインターフェースシステム300の具現例を概略的に示すブロック図である。示すように、システム300は、望ましく3レベル構造を特徴的な要素として有し、このとき、アプリケーションレイヤーは、人工知能(AI)フレームワークによって支援され、これは、続いてホストプラットフォーム演算装置(“ホストプラットフォーム”で示される。)と通信を遂行するようになる。
任意にそして望ましく、アプリケーションレイヤーは、複数の相互に異なるアプリケーションを特徴的な要素として有しており、その中で、MutateApp(ミューテーションアプリケーション)302、PreviousApp(以前のアプリケーション)304、及びTeachingApp(教育アプリケーション)306のような幾つの非限定的な例を示す。
望ましく、MutateApp302は、システム300内のミューテーションを制御し、そして/または、開始させるために呼び出される(invoke)。前述したように、学習モジュールは、指示されたまたは半指示された進化(directed or semi-directed evolution)を通じて、例えば、遺伝的アルゴリズムを通じてその行動を任意に変更することができる。望ましく、MutateApp302は、進化を通じてそのようなミューテーションを制御し、そして/または開始させる。進化の実施形態については、下記にさらに詳細に説明するのであろう。
望ましく、PreviousApp304は、システム300の以前の状態または(学習モジュールの状態のような)その一部分が現在の状態の代わりに呼び出されることができるようにする。さらに具体的に、本発明が進化的アルゴリズムで具現されるものであれば、PreviousApp304は、使用者を以前の進化的なステップに復帰させる。さらに一般的に、システム300は状態保存型(stateful)であるので、以前の状態に任意に復帰することができ、このとき、そのような状態のヒストリーは望ましく保持される。
TeachingApp306は、人工知能フレームワークレイヤーを通じて具現されることができる包括的(generic)アプリケーションの1つの非限定的な例であるだけである。
人工知能フレームワークレイヤーの自体は、ユーザインターフェースがプロアクティブ方式にて行動できるようにする1個以上の構成成分を含んでいる。任意にそして望ましく、フレームワークは、演算装置の状態及び仮想世界の状態を決定し、また、その2つの状態間の関係も決定するためのDeviceWorldMapper(装置世界マッパー)308を含む。望ましく、DeviceWorldMapper308は、仮想世界の状態とその装置の状態を決定するために、例えば、EventHandler(イベントハンドラ)310からの多様なイベントから入力を受信する。
望ましく、DeviceWorldMapper308は、入力データを分析するために、AI(人工知能)/ML(Machine Learning)312との通信を遂行する。また、望ましく、AI/MLモジュール312は、多様な刺激に対応してこのプロアクティブユーザインターフェースの行動を決定し、また、例えば、ユーザインターフェースの相互に異なる形態の行為に対する使用者の反応からこのプロアクティブユーザインターフェースが学習できるようにする。
進化モジュール314は、インテリジェントエージェントの進化を管理するアプリケーションの非限定的な例である。進化モジュール314は、例えば、MutateApp302の動作を通じてそのような進化を支援し、また、望ましくそれを管理する。
このような相互に異なる人工知能タイプのアプリケーションとEventHandler310との間で、1個以上の相互に異なる低水準管理者(low level managers)は、相互に異なるイベントの受信及び取り扱い(処理)とシステム300による相互に異なる行動を望ましく支援するようになる。これらの管理者は、ActionManager(行為管理者)316、UIManager(UI管理者)318、StorageManager(ストレージ管理者)320、及びApplicationManager(アプリケーション管理者)322を含むことができるが、これらに限定されることではない。
ActionManager316は、この後さらに詳細に説明したが、簡略に説明すると、例えば、AI/MLモジュール312の動作を通じて、どんな行為を取るべきであるかをシステム300が決定できるようにすることが望ましい。
望ましく、UIManager318は、例えば、前述したように、ユーザインターフェースに変化を指示することによって、ユーザインターフェースのアピアランスと機能を管理する。
望ましく、StorageManager320は、例えば、システム300の知識ベース(図示せず)に関連したデータの貯蔵及び取り扱い(処理)を管理する。
望ましく、ApplicationManager322は、アプリケーションレイヤーの前述したアプリケーションとの通信を取り扱う。
望ましく、これらの相互に異なる管理者は、すべてEventHandler310からイベントを受信する。
人工知能フレームワークレイヤーの内で、任意にそして望ましく、人工知能基盤構造324はホストプラットフォームとの通信を支援する。望ましく、このホストプラットフォームの自体は、ホストプラットフォームインターフェース326を特徴的な要素として有し、任意にそして望ましく、これは、例えば、ホストプラットフォームのオペレーティングシステムを通じて提供されることができる。
任意にそして望ましく、人工知能基盤構造324は、ホストプラットフォームインターフェース326から入力を受信し、また、任意にホストプラットフォームインターフェース326に命令を伝送するためのI/Oモジュール328を含む。 望ましく、スクリーンモジュール330は、ホストプラットフォーム演算装置の画面上のユーザインターフェースの表示の処理/取り扱いを行う。望ましく、資源モジュール332は、システム300がデータストレージなどの多様なホストプラットフォームの資源(resources)に接続できるようにする。
もちろん、前述した図面は、学習モジュールのためのただ1つの任意の構成を示すだけである。例えば、学習モジュールは、1つのセットの個別エージェントで表現されることもでき、このとき、各エージェントは、1つの単純な目標を有している。学習モジュールは、前述した現在の状態に基づいて所定の行為を遂行するエージェントを選択する。現在の状態とエージェントとの間の適切なマッピングは、補強学習を備えた学習モジュールによって学習されることもできる。
例2:移動情報装置のための適応システム
このような例は、移動情報装置を備えた本発明の適応型システムの例示的な具現に関するものであり、この具現は望ましいが、任意的なものであり、何の方式にも限定するように意図されることではない点に留意しなければならない。
このような適応型システムは、例1において、前述した機能のうちのいずれも任意に含むことができ、前述したように、任意に具現されることもできる。このセクション(section)では、移動情報装置の動作に関連して適応型システムの実際の構造にさらに重点をおくこととする。また、この例は、本発明による生物またはアバターの任意の、しかし、望ましい具現に対して記述している。
その次のセクションは、本発明による適応システムの多様な側面における特定の技術的な具現に対する任意のしかし望ましい実施形態に対して記述している。ただ説明するための目的で、また、何の限定の意図なく、これらの実施形態は、任意に、アバターまたは“生物”として視覚的に表現されるインテリジェントエージェントを通じて使用者との相互作用を行う適応型システムの任意のしかし望ましい実施形態に基づいている。
セクション1:イベント誘導システム(Event Driven System)
このセクションでは、本発明によるイベント誘導システムの望ましい実施形態に対して記述しており、これには、アプリケーション管理者が限定されることなく含まれ、その装置によって動作されるに従って本発明のシステムとその装置の自体との間で発生する相互作用に対して記述している。
図4は、本発明による典型的な適応システム400と、このシステム400と移動情報装置402との相互作用を概略的に示すブロック図である。示すように、望ましく、システム400及び移動情報装置402は、すべて使用者404との相互作用を遂行する。
移動情報装置402は、多い標準機能を任意にそして望ましく有し、示すように、その機能は、ただ説明するための目的で、2通りのカテゴリー(データ及びメカニズム)に分類される。メカニズムには、ユーザインターフェース(UI)システム406(スクリーン、キーパッドまたはタッチスクリーン入力部など)と、着信及び発信呼機能408と、例えば、SMSのためのメッセージ通信機能410と、着信呼またはメッセージ及び/またはアラームを使用者404に知らせるためのサウンド部412及び/または振動部414と、貯蔵部416などの機能が任意に含まれることができる。しかし、これらに限定されることではない。
データには、住所録(電話帳)418と、着信または発信呼情報420と、位置422のような移動情報装置402の位置と、メッセージ情報424と、キャッシュインターネットデータ426と、オーナーデータ428のような使用者に対するデータ404などが任意に含まれることができる。
移動情報装置402は、前述したデータ/メカニズムのうちのいずれか1つ以上も任意に含むことができ、それらすべてをかならず含まなくてもいい、そして/または、図示しない付加的なデータ/メカニズムを含むこともできる。これらは、単純に移動情報装置402に関連した、特に、携帯電話のための非限定的な例として意図されたものである。
本発明による適応型システム400は、適応型(また、望ましくは事前行動的)ユーザインターフェースを提供可能であるようにするために、移動情報装置402のデータ/メカニズムとの相互作用を遂行することにより、使用者404が移動情報装置402との相互作用を遂行するにおいての容易さ及び効率を増加させる。
望ましく、適応型システム400は、ロジック430を特徴的な要素として有し、望ましく、これは、前述した学習モジュールと類似している方式にて機能を遂行し、また、これは、前述した人工知能及び機械学習アルゴリズムに従って任意にそして望ましく動作するようになる。
ロジック430は、図1(特に明記しない限り、同一の参照番号で示した構成要素は、機能が同一であるかまたは類似している。)を参照して説明されたように、知識ベース102と通信できることが望ましい。望ましく、情報貯蔵部432は、移動情報装置402の行為に対するデータ及び使用者情報などを含み、望ましくは、知識ベース102の内のデータを補充するようになる。
望ましく、適応型システム400は、進化ロジック434を通じて進化でき、これは、図3のMutateApp302及び進化モジュール314の前述した機能を任意に統合することもできる(図示せず)。
任意に、適応型システム400は、言語モジュール436によって支援されてテキスト及び/または可聴言語を通じて使用者404と直接に通信できる。
また、任意に、適応型システム400について、使用者404は、ユーザインターフェースのためのアバター(図示せず)が任意に提示されることができる。そのようなアバターは、これが存在すれば、3Dグラフィックモデル438及びアニメーションモジュール440を通じて任意に生成されることができる(具体的な説明は、下記説明を参照する。)。任意に、アバターは、使用者404のためにパーソナライゼーションされて、移動情報装置402との相互作用を遂行するときに、使用者404のための向上した感情的な経験を提供することができる。
図5Aは、典型的なアプリケーション管理システム500を概略的に示すブロック図であって、これは、本発明の適応型システムを支援するための核心的な基盤構造に該当する。前述したように、また、この後にさらに詳細に説明されるように、システム500は、アプリケーション機能を教育させるもののような実施形態を支援するために任意に利用されることもできる。システム500は、本発明による適応型システムの一部である異なる形態のアプリケーションを管理するためのアプリケーション管理者502を特徴的な要素として有することが望ましい。アプリケーション管理者502は、BaseApp(ベースアプリケーション)504と呼ばれるアプリケーションインターフェースとの通信を遂行し、これは、システム500内のすべてのアプリケーションによって実現される。アプリケーション管理者502及びBaseApp504は、すべてEventHandler506を通じてイベントを交換(伝達)する。
アプリケーション管理者502は、システムアプリケーション(システム500の一部としてのアプリケーション)の実行のためのランタイムを管理して提供する機能を行う。そのようなアプリケーションのそれぞれのライフサイクルはBaseApp504で定義され、これによって、アプリケーション管理者502は、そのようなアプリケーションのそれぞれの開始、一時停止(pause)、再開(resume)、及び終了(停止)を遂行することができる。望ましく、アプリケーション管理者502は、BaseApp504のインターフェースのステップ方法(step method)を通じてランタイム実行を管理する。任意にそして望ましく、前記ステップ方法が状態保存型(stateful)であることが望ましいので、システム500は、実行のために使用されて、各ステップが1個以上の状態に(大体的に)対応することが望ましい事実に注目しなければならない。しかし、任意に、実行(execution)は、すべてのタイプの実行方法及び/またはスレッド(threads)に基づくこともできる。
アプリケーション管理者502は、移動情報装置からタイマーイベントを受信する。下記にさらに詳細に説明するように、望ましく、移動情報装置は、オペレーティングシステムを特徴づけることによって、オペレーティングシステムレイヤーからタイマーイベントを受信することが望ましい。タイマーが呼び出されば(invoke)、アプリケーション管理者502は、遂行されている現在アプリケーションのステップを呼び出す。使用者が、例えば、メニューシステムを使用するときに異なるアプリケーションを駆動させると、アプリケーション管理者502は、1つのアプリケーションから他の1つのアプリケーションに転換することが望ましい。
続いて、前記システムアプリケーションの幾つの非限定的な例を示し、ここには、幾つの非限定的な例で示されるように、TeachingMachineApp(教育機械アプリケーション)508、MutateApp(ミューテーションアプリケーション)510、GeneStudioApp(遺伝子スタジオアプリケーション)514、TWizardApp(ティーウィザードアプリケーション)516、FloatingAgentApp(フローティングエージェントアプリケーション)518、TCWorldApp(ティーシーワールドアプリケーション)522、及びHybridApp(ハイブリッドアプリケーション)520などが含まれ、これに限定されるものではない。これらのアプリケーションに対しては、図3を参照してより詳細に説明する。
TCWorldApp522は、インテリジェントエージェントを動作(run)させるアプリケーションであり、望ましくは、生物またはアバターのグラフィック表示とそのエージェントのインテリジェント要素(intelligent aspects)の両方ともを制御する(この両方ともについては、下記でさらに詳細に説明する。)。
TWizardApp516は、使用者に情報を提供する他のタイプのアプリケーションである。これについては、下記例3において、開始ウィザードアプリケーション(Start Wizard application)と関連して記述されている。簡略に説明すると、このアプリケーションは、特に、感情型システム(下記にさらに詳細に説明する。)と関連して、また、目標優先順位(goal priorities)を設定すること(下記にさらに詳細に説明する。)と関連して、インテリジェントエージェントの特性のような人工知能フレームワークの構成及び使用者オプション(user preferences)を含んでいる。
FloatingAgentApp518は、任意にそして望ましく、特に(それが存在すれば)、アバターのアピアランスと関連してユーザインターフェースのアピアランスを制御する。FloatingAgentApp518は、ユーザインターフェースの画像表示の要素(aspects)がアバターの表示と独立的に表示されることができるようにし、従って、これは、例えば、ユーザインターフェースの上に“フロート(float)”に見えることができる。FloatingAgentApp518は、動作中である他のアプリケーションが存在しないときに駆動されるデフォルトアプリケーションであることが望ましい。
図5Bは、本発明によるアプリケーション管理者の動作を示す典型的なシーケンスダイアグラムである。示すように、EventHandler506は、矢印1で示すように、アプリケーション管理者502にイベントに対する通知を発送することが望ましい。そのイベントがタイマーイベントである場合には、アプリケーション管理者502は、矢印1.1.1で示すように、すでに呼び出された関連アプリケーションのインスタンスのステップ(行為)を呼び出す。そのイベントがアプリケーションの実行を開始させるものであれば、アプリケーション管理者502は、矢印1.2.1で示すように、関連アプリケーションのインスタンスを呼び出す。アプリケーションの現在実行中であるインスタンスを一時停止しようとすれば、アプリケーション管理者502は、矢印1.3.1で示すように、そのアプリケーションに一時停止コマンド(pause command)を伝送する。アプリケーションのすでに一時停止されたインスタンスを再開(resume)しようとすれば、アプリケーション管理者502は、矢印1.4.1で示すように、再開コマンドをそのアプリケーションに伝送する。どんな場合でも、前記関連した復帰矢印で示すように、そのステップの実行が成功すればアプリケーション管理者502に復帰される。そして、アプリケーション管理者502は、EventHandler506に実行成功(または失敗)に対して通知する。
このような相互に異なるアプリケーションは、移動情報装置の動作の多様な要素を適応型システムが制御できるようにするにおいて重要なものである。しかし、適応型システムは、また、移動情報装置のオペレーティングシステムを通じて多様な移動情報装置の構成要素と直接に通信することが可能な必要がある。そのような通信は、図6を参照して示す通信システム600を通じて任意に遂行されることができ、望ましくは、後述する行為アルゴリズムで遂行される。
図6A及び図6Bは、各移動情報装置のオペレーティングシステムを通じて1個以上の行為を遂行するために、本発明による適応型システムに必要な基盤構造(infrastructure)の例を示し、図6Bは、通信システム600の動作のためのシーケンスダイアグラムの例を示す。本発明の、任意のしかし望ましい実施形態によると、このような基盤構造は、“人工知能ラッパー(AI wrappers)”または既存のUI(ユーザインターフェース)システムを画期的な人工知能及び機械学習機能で“包装(wrap)”する能力のさらに一般的な概念の一例である。
通信システム600は、前記のようなEventHandler506と通信を遂行するベースクラスイベント602とともに、多様な形態のイベントを処理できることが望ましい。そして、EventDispatcher604は、本発明のシステム内の正しい目標物(object)にイベントをルーティング(伝送)する。ルーティングは、特定のイベントに対してEventDispatcher604にその目標物を登録して決定されることが望ましい。EventDispatcher604は、そのような通知のためにEventHandler506のインターフェースを具現するハンドラ(handler)のレジストリを管理することが望ましい。
任意にそして望ましく、特別なハンドラが具現される特定のイベントは、“フリッパー(flipper)”を開けてその装置が動作されるか、または着信号(incoming call)が応答されることができる携帯電話のためのフリッパーイベントハンドラ606を含み、フリッパーが開けられるかまたは閉じられると、このイベントが発生する。本発明に従って動作されるアプリケーションは、イベントを相互に任意に伝達でき、それらは、InterAppEventハンドラ608によって処理されることが望ましい。生物またはアバターの任意のしかし望ましい進化(変化)に関連したイベントは、EvolutionEventハンドラ610によって処理されることが望ましい。着信または発信電話は、CallEvent handler612によって処理されることが望ましく、これは、さらに2個の追加ハンドラと、通話を開始するためのCallStartedEventハンドラ614と、通話を終了するためのCallEndedEventハンドラ616とを含むことが望ましい。
SMSイベント(着信または発信メッセージ)は、SMSEventハンドラ618によって処理されることが望ましい。そのイベントに含まれることができる任意のしかし望ましいパラメータは、この後にさらに詳細に説明するように、1つの移動情報装置の生物またはアバターと他の移動情報装置の生物またはアバターとのハイブリッド化(hybridization)に関連したパラメータを含む。
そのキー(keys)の動作に関連したイベントは、KeyEventハンドラ620及び/またはKeyCodeEventハンドラ622によって処理されることが望ましい。例えば、使用者が移動情報装置の上でキーを押すと、KeyEventハンドラ620はこのイベントを処理し、これは、本発明によるシステムの動作のための着信情報(incoming call)に関連する。そのシーケンスダイアグラムにおいて、key_eventはクラスKeyEventからの客体であり、これは、キーイベントメッセージ客体を示す。KeyEventハンドラ620は、key_eventの自体を処理する一方、KeyCodeEventハンドラ622は、入力コードに対して注意を注ぐ(この2つの入力イベントは、そのオペレーティングシステムに挿入されるフック(hook)を通じて得られる。)。
BatteryEventハンドラ624は、バッテリー不足(low battery)またはその代わりに低消費電力モードから高消費電力モードへの転換のようなバッテリーに関連したイベントを処理することが望ましい。
DayTimeEventハンドラ626は、アラム、カレンダー、またはリマインダー/ビジネスダイアリー(reminder/appointment diary)イベントに関連することが望ましい。
図6Bは、移動情報装置のオペレーティングシステムまたは他の制御構造と本発明のシステムとの間で、イベントがどのように処理されるかを示す典型的なシーケンスダイアグラムである。この例において、前記移動情報装置は、オペレーティングシステムを含んでいるが、そのようなオペレーティングシステムを備えない装置のためにそれと類似している動作フローが任意に実現されることができる。それが存在すれば、オペレーティングシステムは前記装置に対する入出力を処理し、その装置のために発生する状態及びイベントを管理する。図6Bでのシーケンスダイアグラムは、そのようなイベントに対する(そして、それらと関連した)処理を容易にするために抽象化(abstraction)したものである。
オペレーティングシステムモジュール(os_module)628は、イベントを発生させるかまたはそれに関連したもので、任意にそのようなモジュールが複数個存在することができ、明確にするために図面には1つのみ示したが、これは、何の方式にも限定しようとすることではない。オペレーティングシステムモジュール628は、移動情報装置のオペレーティングシステムの一部である。オペレーティングシステムモジュール628は、オペレーティングシステムモジュール628によって受信されたかまたは生成されたかのイベントに対する通知をフック630に伝送することが望ましい。フック630は、本発明によるシステムの一部として、本発明によるシステムとオペレーティングシステムとの間の通信を許容するために使用される。フック630は、オペレーティングシステムからのイベントを解釈でき、イベント602に理解されることができるメッセージの内にイベントを構成できる。フック630は、EventDispatcher604にそのイベントを発送することもあり、これは(そのようなハンドラが複数個存在することができるが、)、EventHandler506で示したそのイベントのための各ハンドラと通信を遂行する。そして、EventDispatcher604はフック630に報告し、これは、そのイベントの処理に対してオペレーティングシステムモジュール628に報告する。
図7A乃至図7Cは、典型的なイベントを示すもので、そのイベントが(移動情報装置のオペレーティングシステムを通じて)移動情報装置と本発明のシステムとの間の相互作用によってどんば方式にて処理されるかを示す。移動情報装置と関連せず、幾つのイベントが本発明のシステムの内で任意に処理されることができるという点に留意しなければならない。
図7Aは、クアルコム社のMSM(Messaging State Machine)CDMA(Code Division Multiple Access)移動プラットフォームのためのクアルコム社のDMSSオペレーティングシステムの基盤構造を有する移動情報装置に従って記述された典型的なキーイベントシーケンスダイアグラムを示す。このオペレーティングシステムは、電話キー(キーパッド)を使用して入力された対話型入力(interactive input)、I/Oサービス及びユーザインターフェースサービスのようなオペレーティングシステムサービスを提供する。この例は、本発明のシステムによってキーからの入力イベントがどのように生成されて処理されるかを示している。他のイベントは、ほぼ同一の方式にて前記システムに伝送されるが、フック630の機能は、そのイベントを伝送しているオペレーティングシステムモジュールに従って変更され、任意にそして望ましく、そのようなフックが複数個存在し、それぞれのフックがオペレーティングシステムとの相互作用と関連した相互に異なる機能を有している。
図7Aに示すように、ui_do_eventモジュール700は、前記オペレーティングシステムの構成要素として周期的に呼び出される。前記移動装置のキーが押されれば、情報をui_do_eventモジュール700に伝送するユーザインターフェース(UI)の構造はそのキーの値を含む。そうすると、フック630は、そのキーの値を受信し(特に、ui_do_eventモジュール700がグローバルイベントを発送(dispatch)すれば)、任意にそして望ましく、そのイベントをキーイベントとして識別し、キーイベント702を生成する。続いて、そのイベントは、望ましくは、前記のようなイベントハンドラ(図示せず)を通じてそのようなイベントに対する通知の受信を要請したアプリケーション704に伝送される。続いて、望ましく、そのイベントの処理中に成功(または失敗)の通知がEventDispatcher604にさらに戻ってフック630及びui_do_eventモジュール700に伝達される。
図7Bは、イベントを処理するためのシーケンスダイアグラムの第2の具体例を示すもので、この場合に、そのイベントは本発明によるシステムから伝達され、移動情報装置のスクリーン上の絵(drawing)と関連する。情報は、スクリーンが(主に)フレームバッファによって表現されるオペレーティングシステムのスクリーンアクセス方法を通じて伝達される。このフレームバッファはスクリーンドライバーを利用してコピーされ、そのスクリーンによって表示されるメモリセグメントである。本発明のシステムは、オペレーティングシステムにスクリーン上の絵を制御するために必要な情報を発生させる。
図7Bをさらに参照すれば、矢印“1”で示すように(scrn_update_mainモジュール710を通じて)、オペレーティングシステムは、まずスクリーンのためにフレームバッファを更新する。この更新は、例えば、任意にバックグラウンドを描くものと関連することができ、これは、本発明のシステムによって提供された情報からのデータが描かれないスクリーンのすべての部分に表示されることができる。任意に、そのようなバックグラウンドがあり、これによって、半透明ウインドー(semi-transparent windows)の使用を支援するようになり、これは、下記にさらに詳細に記述されるように、生物またはエージェントのために任意にそして望ましく利用されることができる。
そうすると、Scrn_update_mainモジュール710は、更新されたデータのための要請をスクリーンモジュール712に伝送し、これは、本発明のシステムの一部としてオペレーティングシステムと通信するためのフックを特徴として有する。継続して、スクリーンモジュール712は、スクリーンに描かれるべきものに対する更新された情報のために、各アプリケーションウインドー(図面には、agentWindow(エージェントウィンドー)714で示し、任意に複数個が存在することができる。)に要請を伝送する。変更が発生して更新が必要であれば、agentWindow714は、更新が必要であることをスクリーンモジュール712に通知する。そうすると、スクリーンモジュール712は、変更された部分の位置及びサイズを望ましく二度の別個の要請(矢印2.1.2.1及び2.1.2.2でそれぞれ示す。)で要求するようになり、それに対しては、応答がagentWindow714によって伝送される。
スクリーンモジュール712は(望ましくは次のように)、更新された長方形の形態でその情報をscrn_update_main710を通じてオペレーティングシステムに返送する。Scrn_update_main710は、フレームバッファをプリバッファ(pre-buffer)にコピーすることにより、更新の存在に対する通知に応答する(過程3.1)。そうすると、スクリーンモジュール712は、矢印3.2.1で示すように、プリバッファに各ウインドーに対する変更を描く。継続して、プリバッファがフレームバッファにコピーされ、これに従ってスクリーンにコピーされる(矢印3.3)。
図7Cは、スクリーン上に描くための本発明のシステムのためのクラスアーキテクチャーを示す。スクリーンモジュール712及びagentWindow714をすべて示す。そのクラスagentWindow714も3個の他のウインドークラスと通信を遂行し、これらは、BackScreenWindow(バックスクリーンウィンドウ)716、BufferedWindow(バッファウィンドウ)718、及びDirectAccessWindow(直接アクセスウィンドウ)720などのウインドーの更新(または変更)に関する情報を提供する。BufferedWindow718は、それ自体と通信を遂行するTransbufferedWindow(トランスバッファウィンドウ)722及びPreBufferedWindow(プリバッファウィンドウ)724などの2個のウインドークラスを追加に有する。
セクション1:行為選択システム(Action Selection System)
このセクションでは、インセンティブ/行動抑制要因による任意の行為選択などを含む(それに限定されることではない。)本発明による行為選択システムの望ましい実施形態に対して記述する。インテリジェントエージェントの行為がどのように選択されるかに対する説明を助けるために、本発明のシステムによって望ましく提供される仮想環境とのインテリジェントエージェントの相互作用及びインテリジェントエージェントの構造に対してまず説明する。
図8Aは、インテリジェントエージェントの構成例を示し、図8Bは、そのインテリジェントエージェントの動作に対するシーケンスダイアグラムの例を示す。図8Aに示すように、インテリジェントエージェント800は複数のクラスを含むことが望ましい。メインクラスはAICreature(人工知能生物)802であり、これは、その状態、性格、目標などのようなインテリジェントエージェントに対する情報を含み、また、位置、色、及び現在見ることができるか否かなどのそのエージェントを視覚的に示す生物のアピアランスに対する情報を含む。
AICreature802は、World(世界)804と通信を遂行し、これは、インテリジェントエージェント用仮想環境のための基礎クラスである。また、World804は、仮想環境を含むクラスと通信を遂行し、それに対する幾つの非限定的な例を示す。望ましく、World804は、WorldObject(世界客体)806の多様なインスタンス(instances)と通信を遂行し、WorldObject806は、仮想環境で発見される客体を示し、インテリジェントエージェントと相互作用を遂行できる。World804は、そのような相互に異なる客体を管理し、また、それらに対する位置などの属性(property)を含む特性(characteristics)に対する情報を受信する。また、World804は、自ら大きさ及び可視性(visibility)などの仮想環境の属性を管理する。WorldObject806は、2次元または3次元グラフィックまたはそれらが混在したことを任意に利用でき、また、音生成などの移動情報装置の他の機能を任意に利用することもできる。
WorldObject806は、自ら幾つのクラスのうちの1つに属する客体を任意に示すことができる。このような抽象化(abstraction)は、相互に異なる客体クラスが仮想環境に追加されるかそれから除去されることができるようにする。例えば、任意に前記客体は、MenuBallObject(メニューボール客体)808によって表現されたように、メニューの一部として開始されることができる“ボール”になることができ、そのボールを有して遊ぶために生物によって“除去”されることができる。望ましく、GoodAnimalObject(よい動物客体)810もWorldObject806と通信を遂行し、そして、望ましく、(生物のための食べ物を示す)FoodObject(食べ物客体)812と、(生物を腹を立たせて、例えば、けんかをさせられる動物を示す)BadAnimalObject(悪い動物客体)814と、(その生物のための家)HouseObjct(家客体)816などのクラスはGoodAnimalObject810と通信を遂行する。GoodAnimalObject810は、スクリーン上の客体などを描くことができる機能を含み、このために、望ましく、他のクラス及び客体がGoodAnimalObject810と通信を遂行する。もちろん、例えば、その生物に他のオモチャ(toy)が提供されることができるので、このシステムでは、他の多いクラス及び客体が可能である。
任意にそして望ましく、WorldObject806は、例えば、その状態に等級化された入力(graded input)を提供することにより、インテリジェントエージェントの状態と関連することもできる。望ましく、この入力は、インテリジェントエージェントにインセンティブを提供するかまたは行動抑制要因を提供する意味で等級化され、また、それは、中性的な影響(neutral influence)を与えることもできる。望ましく、そのような等級化された複数の入力を集計(aggregation)することによってインテリジェントエージェントの状態が決定される。図8Aのシーケンスダイアグラムと図9A及び図9Bのそれぞれのグラフ探索方法及び行為選択方法ダイアグラムを参考して記述されたように、望ましく、仮想環境からインテリジェントエージェントに与えられる補償を最大にするために等級化された入力が集計される。
そのような等級化された入力は、奨励または妨害フィードバック(encouraging or discouraging feedback)形態の使用者からの入力を任意に含むこともできるので、インテリジェントエージェントは、フィードバックが提供された行動を継続することに対するインセンティブまたは行動抑制要因をそれぞれ有するようになる。使用者からのフィードバックに対する世界状態の計算を、任意にそして望ましく、次のように遂行することができる。
Grade=(weighting_factor*feedback_reward)+((1-weighting_factor)*world_reward))
この式において、feedback_reward(フィードバック_補償)は、使用者によって提供されたフィードバックによるものであり、world_reward(世界_補償)は、前記のような仮想環境からの集計された総補償であり、weighting_factor(加重_因数)は、望ましくそして任意に、0と1との間の値で仮想環境(世界)フィードバックと反対される使用者フィードバックの加重値(weight)を示すものである。
エージェント行動の補償に対する非限定的な例であって、エージェントの提案に対する肯定的または否定的フィードバック、エージェントにボールまたは食べ物のようなWorldObject(世界客体)の提供、電話使用時間、使用者が教育を受ける時間などを挙げることができる。この例において、それぞれ所定のスコアが与えられることができ、蓄積されたスコアに従ってエージェントの行動を拡張しまたは制限できる。例えば、使用者の肯定的なフィードバックは+1点、否定的なフィードバックは−1点、敵(enemy or bad animal)及び遭遇(encounter)は−20点、食べ物、オモチャ、または家の客体(object)の獲得は+5点、バッテリロー(low)のアラムは−1点、エージェントの使用者に対する教育において、正答は+1点、誤答は−1点、アクションなし(no action)の状態が20分持続されると−1点、誤った電話は−1点、SMS使用は+1点などで定めることができるが、以上の例は、異なって適用することができる。
図8Bは、本発明のインテリジェントエージェントと仮想世界との間の一連の相互作用の例を示す典型的なシーケンスダイアグラムである。このシーケンスは、インテリジェントエージェントの状態(status)に対する更新のために仮想世界モジュール818からAICreature812への要請で始まる。仮想世界モジュール818は、自らインテリジェントエージェントを含んで全体の仮想環境の制御及び管理を遂行する。
そして、インテリジェントエージェントは、矢印1.1.1で示すように、行為を遂行するか否かを考慮する。その行為は、望ましく、世界804及び世界客体806と相互作用を行うことによって、すべての世界客体を通じて、続いて循環的(recursive)に各客体のためのすべての行為を通じて探索(矢印1.1.1.1)を通じて選択される。各行為に対する潜在的な補償が求められ(矢印1.1.1.1.1.1)、等級化される(矢印1.1.1.1.1.1.2)。最高の補償値を有する行為が選択される。その後に、インテリジェントエージェントのための全体的な等級が決定され、AICreature802は、選択された行為を遂行する。
続いて、Virtual_world(仮想_世界)818は、World804及びWorldObject806と通信を遂行することにより世界の内のすべての客体の位置及び状態を更新する。
多様な潜在的な行為に対する検索が1個以上の複数の相互に異なる方法に従って任意に遂行されることができる。図9A及び図9Bは、本発明による行為を選択するための2個の典型的な方法を示す。
図9Aは、行為を選択するための規則基盤方式という行為選択方法の例を示す。ステップ1において、仮想環境の状態(status)がWorld state(世界状態)によって決定される。World Event(世界イベント)が発生した後に、そのイベントに適切なState Handler(状態ハンドラ)がステップ2で呼び出される。状態ハンドラは、ステップ3で知識ベースに問合せを行う。任意に、この知識ベースは、呼び出された状態ハンドラに従って別個のセクション及び/または別個の知識ベースに分割されることができる。ステップ4で応答が状態ハンドラに伝達される。
ステップ5で、規則基盤の有効性の判断(validation)が遂行され、このとき、前記応答(とそれによるインテリジェントエージェントを特定の状態になるようにする提案された行為)がその規則と比較される。その行為が有効でなければ、処理はステップ1に復帰される。行為が有効であれば、ステップ6でその行為が生成される。その後にその行為に対する優先順位(以後、図9Cを参考にしてさらに詳細に説明する。)がステップ7で望ましく決定され、より望ましくは、その優先順位は複数の入力に従って決定され、その入力には、行為確率(probability)、行為ユーティリティ及び使用者の性向(user preference)が含まれ、これに限定されることではない。ステップ8で、その行為は、行為管理者のためにキュー(待機行列)(queue)に配置される。ステップ9で、行為管理者は最高の優先順位行為を読み出し、その読み出された行為は、ステップ10で、インテリジェントエージェントによって遂行される。
図9Bは、グラフ探索方法による典型的な行為選択方法を示す。さらに、ステップ1で、世界の状態(仮想環境)を決定することにより、プロセスが開始され、世界の状態には、その世界の内にある客体の状態及びインテリジェントエージェントの状態が含まれる。ステップ2で、インテリジェントエージェントが照会(query)される。ステップ3で、インテリジェントエージェントは、各世界の客体のための一連の(許容されたまたは可能な)法的行為を得るようになり、望ましく、各世界の客体が示すように照会される。
前記方法は、2つの部分に分岐される。一番目の部分では、右側に示すように、各行為経路(action path)のために遂行される。ステップ4で、遂行される行為が模擬(simulated)される。ステップ5で、そのシミュレーションの効果(effect)がその世界のために決定され、ステップ6で、望ましく各世界の客体のために決定される。ステップ7で、各行為の効果のために等級が決定される。
ステップ8で、行為の全体的に蓄積された補償のように、客体の状態及びそれによる世界の状態が決定される。ステップ9で、行為の効果がインテリジェントエージェントに対して模擬され、望ましく、ステップ10で、各世界の客体とインテリジェントエージェントとの間の効果も考慮される。
まず、前記方法の左側の部分に対して説明すると、ステップ11で、望ましく、このような情報がすべて最高補償を有する行為経路を決定するのに利用される。ステップ12で行為が生成される。ステップ13で、望ましく、行為等級または補償に従って行為優先順位が設定される。ステップ14で、図9Aの場合のように、行為は、行為管理者でキューに配置される。ステップ15で、その行為が優先順位に従って行為管理者によって考慮され、優先順位が一番高い行為が選択されてステップ16で望ましく遂行される。
次に、典型的な行為実行方法及び構造に対して説明する。図10は、本発明による典型的な行為実行方法のシーケンスダイアグラムを示す。ハンドラ1000は、矢印1で示すように、行為モジュール1002に行為のための目標(goal)を伝送し、モジュール1002は、ベース行為インターフェースを特徴とすることが望ましい。このベース行為インターフェースは、行為モジュール1002がハンドラ1000と通信を行うようにし、また、システムの他の客体と通信を遂行できるようにし、ここで、これらは、FloatingAgentApp(フローティングエージェントアプリケーション)1006で示したインテリジェントエージェントによる追って実行のために行為を生成して配置(post)することが可能である。これらの行為は、行為管理者1004によって管理される。
行為管理者1004は、行為客体を含む2個のキューを有している。そのうち、1つのキューは、実行準備完了状態キュー(ready for execution queue)であり、他の1つは、実行保留状態キュー(pending for execution queue)である。二番目(後者)のキューは、例えば、行為が生成されたときに使用されることができる。しかし、その行為の内部の状態は、保留状態であるので、その行為は、実行のために準備されない状態である。その行為が実行準備を完了させるように成熟すると、その行為は、前記実行準備完了状態キューに移動されることが望ましい。
アプリケーション管理者1008は、矢印2で示すように、行為を実行するためにFloatingAgentApp1006と相互作用を行うことが望ましい。その後に、FloatingAgentApp1006は、行為管理者1004に次の行為を要求することが望ましく(矢印2.1)、その行為の自体は、行為モジュール1002によって提供されることが望ましい(矢印2.2.1)。望ましく、行為は、ハンドラ1000から行為管理者1004への待機状態(enqueued)になる(矢印3)。望ましく、目標(goal)(及びそれによる優先順位の少なくとも一部分)は、ハンドラ1000と行為モジュール1002との間の通信によって各行為のために設定される(矢印4)。矢印5及び矢印6は、下記にさらに詳細に説明する“harakiri()”方法を示している。
前述したように、その行為は、優先順位の手順に従って待機状態(queued)になることが望ましい。優先順位は、行為管理者1004によって行為モジュール1002のインターフェースに対する照会を通じて決定されることが望ましい。望ましく、行為の優先順位は、複数のパラメータを含む計算に従って決定される。例えば、望ましく、このパラメータには、前記生成される客体によって導出されるかまたは推論されたものとしての優先順位を含み、より望ましく、これは、行為の成功のための予測された確率(predicted probability)と、そのようなタイプの行為による過去の経験に従って(例えば、使用者の需要及び行為の成功に従って)決定されることが望ましい、そのようなタイプの行為の持続的な優先順位(persistent priority)と、使用者の性向(user preferences)に従って決定されることが望ましい目標優先順位(goal priority)などに基づいている。
前記パラメータを管理するための1つの任意の計算は、次のようである。
P(all) = P(action probability) * ((P(persistent priority) + P(action goal)/10))/2)
優先権(優先順位)に基づいた行為実行に対する補完であって、各行為は、生存時間(Time To Live(ttl))という期間を参照可能(referable)に有し、この値ttlは、行為が前記準備完了状態キューに配置されたときとこの行為の終了時間の間に経過した実行時間の量を示す。行為が準備完了状態にあるが、このttlが終了されるときまで実行優先権(priority)を受信しない場合に、行為管理者1004は、前記方法harakiri()を呼び出すことが望ましく、これは、その行為にそれが実行されないことを通知する。そのようなharakiri()の呼出しは、それぞれ基準値(threshold)に到達するときまで行為の優先順位を減少させることが望ましい。この基準値に到達された後には、持続的な優先順位が増加し始める。このようなモデルは、提案または実行が遂行されるが、使用者がその行為を中断して失敗された行為を処理するように動作する。前記持続的な優先順位は、行為の優先順位の計算に過去の経験を含ませることによって減少する。
このような方法は、提案されるかまたは実行された行為が実行のときに特定の使用者の非明示的な性向にどのような方式にて適応されるかを示している。
行為の持続的な優先順位が減少してその行為が動作しない場合に、例えば、使用者が変更を優先すると、それが除去されるかまたは(その他に可能には)、さらに動作することが許容される必要があるので、このようなモデルは、harakiri()メカニズムがなければ完全ではない。harakiri()の幾つの実行の以後に、その行為が動作するための優先順位をさらに回復することができる。
前述したセクション(Sections)では、多様な行為及びメカニズムが本発明の適応型システムを通じて実行されることができるようにする基盤構造を提示している。これらの行為及びメカニズムに対して下記にさらに詳細に説明する。
セクション2:感情型システム(Emotional System)
このセクションでは、本発明による感情型システムの望ましい実施形態を説明しており、特定の感情及びその感情の程度(intensities)に対する説明が含まれているが、これに限定されることではなく、望ましく、それらは、相互に結合されて全体的なムード(mood)を形成する。また、望ましく、前記感情型システムは、気持ちが変更されるようにするためのものであるだけではなく、例えば、変化率のような、そのような変化の1個以上の側面を任意に制御するためのメカニズムを含む。
図11A乃至図11Cは、本発明による典型的な感情型システムの具現例を説明するためのダイアグラムを特徴とする。図11Aは、本発明による感情型システムのための典型的なクラスダイアグラムを示し、一方、図11B及び図11Cは、本発明による感情型システムの動作のための典型的なシーケンスダイアグラムを示す。
本発明による感情型システム1100に対して、示すように、目標クラス1102は、インテリジェントエージェントの抽象的な目標(abstract goal)を示す。“目標(goal)”とは、インテリジェントエージェントが行為を遂行して成就しようとする何かを意味する。Goal1102は、その目標の状態とその移行可能性(chances of fulfillment)に関連した所定のイベントに基づいて感情を生成する機能を行う。
Goal1102は、AICreature802と相互作用を行う(図8を参照して上述すること)。これらの相互干渉については、下記にさらに詳細に説明されている。要約して説明すると、人工知能エージェントは、目標を履行しようとし、目標が移行されたか否かを判断するためにはAICreature802の間の相互作用が必要であり、これは、さらに、インテリジェントエージェントの感情的な状態に影響を与える。
感情的な状態のそれ自体は、クラスEmotionalState1104によって処理され、そして、これは、クラスEmotion1106と連結されている。Emotion1106の自体は、怒りクラスAngerEmotion1108及び喜びクラスJoyEmotion1110のような特定の感情のためのクラスと連結されていることが望ましい。EmotionalState1104もBehavioralPatternMapper(行動パターンマッパー)1112、すなわち、行動パターンを決定するクラスと連結されていることが望ましい。
望ましく、プロアクティブユーザインターフェースがエージェントの感情を生成することは、エージェントの抽象的な目標に対する成功可能性(Likelihood Of Success;LOS)が増加するかまたは減少するときに、または失敗可能性(Likelihood Of Fail;LOF)が増加するかまたは減少するとき、感情型システムを通じて遂行される。その成功可能性が増加すれば、希望の感情(hope emotion)が望ましく生成される。成功可能性が減少すれば、絶望する感情(despair emotion)が望ましく生成される。失敗可能性が増加すれば、恐れる感情(fear emotion)が望ましく生成され、失敗可能性が減少すれば、喜ぶ感情(joy emotion)が望ましく生成される。
目標の成功または失敗は、生成された感情と目標の状態に相当な影響を与える。目標が失敗すれば、絶望感が望ましく生成され、成功可能性が高ければ、挫折感(frustration)も望ましく生成される(その理由は、成功期待感が大きかったからである。)。
目標が成功すれば、喜びが望ましく生成され、期待感と蓄積された成功感が高ければ、自尊心(pride)が望ましく生成される。
Emotion1106は、メイジャー及びマイナータイプの2つの性質(property)を有する構造である。メイジャータイプは、マイナー感情(minor emotion)が属する上位レベルグループを記述するもので、望ましくは、POSITIVE_EMOTION(肯定的_感情)及びNEGATIVE_EMOTION(否定的_感情)を含む。マイナータイプには、望ましく、喜び(JOY)、希望(HOPE)、満足(GLOAT)、自尊心(PRIDE)、好み(LIKE)、怒り(ANGER)、憎悪(HATE)、恐怖(FEAR)、挫折(FRUSTRATION)、悩み(DISTRESS)、及び失望(DISAPPOINTMENT)が含まれる。感情の他の性質には、生成されるときに与えられたその程度(intensity)と、衰退方式(decay policy)(すなわち、感情の変化率)がある。
感情の生成の以後の次のステップは、インテリジェントエージェントによって時間の経過に従って生成された感情を蓄積する感情的な状態(Emotional State)クラス1104によって遂行される。このクラスは、インテリジェントエージェントの現在の感情的な状態を定義する感情インスタンスの収集を示す。望ましく、現在の感情的な状態は、感情タイプの階層を保持することにより定義され、その感情タイプは、集計(aggregation)及び相関(correlation)によって一般化される。例えば、マイナー感情は、集まってPOSITIVE_EMOTIONのためのスコア及びNEGATIVE_EMOTIONのためのスコアになることが望ましく、これら2つの分類は、GOOD/BAD MOOD(よい/悪い機嫌)に相関することが望ましく、これは、インテリジェントエージェントの全体的なムードを記述する。
EmotionalStateクラス1104は、インテリジェントエージェントフローティングアプリケーションによって照会され(前述したモデルで生成され、衰退されて一般化された感情によって)、支配的な行動パターンが変化する度に、インテリジェントエージェントは、望ましくその感情的な状態を表現し、その行動パターンに従って行動する。任意にそして望ましく、インテリジェントエージェントは、テキスト通信エンジン(下記にさらに詳細に説明する。)、3次元アニメーション、顔の表情、2次元活動効果(animated effects)、及びサウンドのうちの1つ以上を利用してその感情的な状態を表現する。
図11Bは、本発明による感情型システムによって感情を生成するための典型的なシーケンスダイアグラムを示す。示すように、アプリケーション管理者502(図5を参照してさらに詳細に説明される。)は、矢印1で示すように、ステップをFloatingAgentApp(フローティングエージェントアプリケーション)1006(図10を参照してさらに詳細に説明される。)に伝送する。その後に、FloatingAgentApp1006は、矢印1.1のように、目標クラス1102を照会することにより、失敗可能性(Likelihood Of Failure;LOF)を決定する。そして、Goal1102は、その失敗可能性を決定し、新たな失敗可能性が以前に決定された失敗可能性より大きい場合には、矢印1.1.1.1のように、感情クラス1106に要請して恐怖が望ましく生成される。この恐怖の感情もEmotionalState1104との通信によって感情的な状態に追加される。
次に、アプリケーション管理者502は、また他のステップ(矢印2)をFloatingAgentApp1006に伝送し、これは、矢印2.1のように、さらに、Goal1102に照会して成功可能性(Likelihood of Success;LOS)を決定する。続いて、Goal1102は、その成功可能性を決定し、その新たな成功可能性が以前に決定された成功可能性より大きい場合には、矢印2.1.1.1のように、感情クラス1106に要請して希望感が望ましく生成される。この希望の感情も矢印2.1.1.2のように、EmotionalState1104との通信によって感情的な状態に追加される。
矢印3は、FloatingAgentApp1006にまた他のステップを伝送するアプリケーション管理者502を示すもので、これは、行為の実際の成果に従って感情の決定を要請する。その行為が失敗し、最後の成功の確率が0.5のような所定の因数より大きければ(これは、成功を期待したことを意味する。)、FloatingAgentApp1006は、矢印3.1.1.1のように、Goal1102がEmotion1106によって生成された絶望感を有するようにする。この絶望的な感情も矢印3.1.1.2のように、EmotionalState1104との通信によって感情的な状態に追加される。また(望ましくは、成功期待感とは無関係に)、行為が失敗した場合には、矢印3.1.2のように、Emotion1106によって悩みが望ましく生成される。この悩みの感情も、矢印3.1.3のように、EmotionalState1104との通信によって感情的な状態に追加される。
次に、アプリケーション管理者502は、また他のステップ(矢印4)をFloatingAgentApp1006に伝送し、これは、矢印4.1のように、目標1102にメッセージを伝送することにより、実際に成功に基づいて感情を更新するようになる。続いて、望ましく、目標1102は、矢印4.1.1のように、楽しみが感情クラス1106に対する要請によって望ましく生成されるようにする。この楽しみの感情も、矢印4.1.2のように、EmotionalState1104との通信によって感情的な状態に追加される。
実際に成功度が予想より大きい場合には、Goal1102は、望ましく、矢印4.1.3.1のように、自身感が感情クラス1106に対する要請によって生成されるようにする。この自身感も矢印4.1.3.2のように、EmotionalState1104との通信によって感情的な状態に追加される。
図11Cは、本発明による感情型システムによって感情を表現するための典型的なシーケンスダイアグラムを示す。このような表現は、使用者オプション(preferences)によって左右されることが望ましい。アプリケーション管理者502は、ステップ(矢印1)をFloatingAgentApp1006に伝送することにより感情的な表現を開始させ、これは、矢印1.1のように、インテリジェントエージェントの行動パターンに対してbp_mapper1108に問い合わせる。支配的な行動(dominant behavior)が変更されれば、FloatingAgentApp1006は、要請をbp_display1110に伝送して行動パターンを設定する(矢印1.2.1)。bp_display1110は、感情の実際表示を制御する。そうすると、FloatingAgentApp1006は、行為が行為管理者1004に対するメッセージに待機状態(enqueue)になるように要請する(矢印1.2.2)。
アプリケーション管理者502は、また他のステップ(矢印2)をFloatingAgentApp1006に伝送し、これは、その行為が行為管理者1004に対するキュー(矢印2.1)から除去され、その行為がbp_display1110によって行われるように要請する。
下記表は、エージェントが獲得した補償スコアに対して、等級別にエージェントが行動可能な動作の内容を規定する非限定的な例である。
Figure 2005085274
この例において、エージェントは、座り、眠り、クンクン嗅ぎ、吠え、悲しさ、及び幸福などの基本動作は、獲得した補償スコアに無関係に行動できる。エージェントのレベルは、補償スコアが+200点を超過するときにさらに高い段階になり、−200点を超過すると、さらに低い段階になるようにできるが、レベル変化の基準になる補償スコアは、これとは異なって定めることができる。エージェントの基本レベルを3等級に定めた場合、前記例を挙げた基本動作と幸福2、思索、走り、及びジャンプなどの動作を取ることができる。エージェントの補償スコアが+200点になると、エージェントのレベルは4等級になり、エージェントは、基本動作とダンス2、走り、ジャンプ、及び飛びなどの動作を取ることができる。各等級が許容する動作のうちのどのような動作を取るかは、前述した行為選択システムが決定し、それぞれの動作に従う感情表現は、感情型システムが制御する。エージェントは、このような動作及び感情表現とともに、後述する使用者との通信に基づいた感情表現を行う。
セクション3:使用者との通信(Communication with the User)
このセクションでは、本発明による使用者との通信のための通信システムの望ましい実施形態に対して説明しており、これには、テキスト通信、オーディオ通信、及びグラフィック通信が含まれ、これらに限定されることではない。ただ説明するための目的で限定する意図なく、テキスト通信は、そのようなタイプの通信の一例で記述した。このセクションで説明する使用者との通信は、エージェントの提案、使用者に対する情報提供、またはエージェントの感情表現に使用されることができるが、これに限定されない。
図12は、本発明によるテキスト通信のための典型的なシーケンスダイアグラムを示す。テキストエンジン1200は、所定のイベントに関連してインテリジェントエージェントによって伝達されることができるテキストを生成する機能を遂行する。テキストエンジン1200は、望ましく予め決定され、フィラー(fillers)のためのプレースホルダー(place holder)を含むテンプレート(templates)に従って短いフレーズ(phrase)または文章の自然言語生成を含むことが望ましい。そのテンプレートとフィラーとを結合することによって、テキストエンジン1200は、そのテンプレートが属するイベントに関連する多い数のフレーズを生成するようになる。
このようなフレームワークは、付加フィラーのように付加テンプレートが追加されることもできるので、新しく、そして/または変化する多いイベントまたは対象(subjects)のために任意に拡張されることができる。
図12に示すように、FloatingAgentApp1006は、まず、望ましく、特定のイベントのためにテキストを生成せよとの要請を伝送することにより、テキストエンジン1200と通信を遂行する(矢印1)。テキストエンジン1200は、望ましく、このイベントに適合した複数のテンプレートからテンプレートを選択することが望ましい(矢印1.1)。また、テキストエンジン1200は、望ましく、このイベントに適合した複数のフィラーからそのテンプレートのためのフィラーを選択することが望ましい(矢印1.2.1)。継続して、満たされたテンプレートは、さらにFloatingAgentApp1006に伝達される。
次に説明することは、インテリジェントエージェントが現在幸福な状態にある場合に、幾つの典型的でありかつ非限定的なテンプレートとフィラーとで気持ちの変化のイベントのためのテキストを生成する例である。任意に、前記テンプレートは、次の通りである。
Happy template 1(幸福テンプレート1): “%noun1 is %happy_adj2”
Happy template 2(幸福テンプレート2): “%self_f_pronoun %happy_adj1”
任意に、前記フィラーは、次の通りである。
%noun1 = {“the world(世界)”,“everything(すべてのもの)”,“life(生活)”,“this day(今日)”,“the spirit(気持ち)”}
%happy_adj1 = {“happy(幸福な)”,“joyful(楽しい)”,“glad(うれしい)”,“pleased(満足らしい)”,“cheerful(愉快な)”,“in high spirits(上機嫌で)”, “blissful(この上なく幸福な)”,“exultant(大喜びの)”,“delighted(非常に喜ぶ)”,“cheery(活気付ける)”,“jovial(陽気な)”,“on cloud nine(天にも昇る心地よい)”}
%happy_adj2 = {“nice(よい)”,“beautiful(すてきな)”,“great(すばらしい)”, “happy(幸福な)”,“joyful(楽しい)”,“ good(よい)”,“fun(愉快な)”}
%self_f_pronoun = {“I am(私は)”,“I'm(私は)”,“your intelligent agent(あなたのインテリジェントエージェント)”,“your agent friend(あなたのエージェントフレンド)”}
下記に説明することは、テンプレートとフィラーとの組合せから得られた幾つのテキスト通信句(phrases)の例である。
I'm cheerful(私は愉快である。)
the spirit is joyful(うれしい。)
I am exultant(私は大喜ぶ。)
life is beautiful(人生はすてきだ。)
life is good(人生はよい。)
I'm pleased(私は満足らしい。)
I'm jovial(私は気持ちがいい。)
I am joyful(私は楽しい。)
the world is joyful(世界は楽しい。)
I'm glad(私はうれしい。)
the spirit is joyful(うれしい。)
the spirit is happy(幸福である。)
the world is nice(世界はよい。)
I am happy(私は幸福である。)
また他の非限定的な例として、受信を失敗した電話テンプレート(missed call template)が次のように構成されることができる。
%user missed a call from %missed %reaction
この例において、使用者の名前は%userのために使用され、その名前または(例えば、電話番号のような)他の識別子が%missedに入力され、%reactionは選択的なもので、例えば、失望を表現するもの(例えば、“私は悲しい”)のようなインテリジェントエージェントの反応のために使用される。
このような例で示すように、テキストエンジン1200は、受信を失敗した電話イベントからバッテリー不足のイベントに至る数多いイベントのために関連した文章を生成することができ、これにより、さらに豊富であり、さらに多く理解可能であるように、使用者が移動情報装置と相互作用を遂行することができる。
図12Bは、移動電話装置で、エージェントが“私は幸福だ(I am happy)”という感情を表現する非限定的な例を示している。
例3:本発明と使用者の相互作用(USER INTERACTIONS WITH THE PRESENT INVENTION)
この例は、使用者と相互作用を行う本発明によるシステムの、任意のしかし望ましい、実施形態を説明するためのもので、代表的であり、非限定的であり、例示的な複数のスクリーンショット(screenshots)を参照して説明する。
図13は、本発明の実施形態による生物またはアバター(インテリジェントエージェントの視覚的な表現)である“フローティングエージェント”の典型的なスクリーンショット(screenshot)を示す。
図14は、本発明の実施形態によるインテリジェントエージェントの仮想世界のための客体を選択するためのメニューの典型的なスクリーンショットを示す。
図15は、本発明の実施形態による使用者のオプション(preferences)だけではなく、使用者がエージェントの設定を構成でき、そして、変更できるようにする開始ウィザードアプリケーション(Start Wizard application)を示す。
前記ウィザードで遂行される行為の例として、インテリジェントエージェントの感情型システムのための設定の決定、すなわち、“個性決定(Set Personality)”を挙げることができる。このとき、使用者は、生物の個性及び傾向を構成することができる。
使用者は、熱意(Enthusiasm)、社交性(Sociability)、非社交的な行動(Anti_social behavior)、性質(Temper)(忍耐の水準)、憂うつ(Melancholy)、利己的な行動などの多様な性格(characteristics)の水準を増加させ、その反対を行って、その水準を減少させるために、右側矢印キーを押してその生物の設定を任意にそして望ましく決定することができる。
使用者は、例えば、手助けをどれくらい速く受けることができるのかを決定するために、使用者のオプションを望ましく設定することができる。これらオプションのうちの幾つの非限定的な例には、通信(そのエージェントが通信する程度)、entertain_user(使用者を_楽しませること)(使用者と遊ぶエージェントの制御)、entertain_self(自分を_楽しませること)(一人で遊ぶエージェントの制御)、preserve_battery(バッテリー_保存)(バッテリーの寿命延長)、及びtransparency_level(透明度_水準)(生物の透明度の水準)などが含まれる。
また、使用者は、その開始ウィザードで使用者の身の上情報(User Details)を望ましく設定し、その使用者の身の上情報には、使用者の名前、誕生日、及び性別などが含まれ、これらに限定されることではない。本発明の任意の実施形態によれば、前記誕生日の値は、使用者間の相性可能性(konghup possibility(Korean“konghup”means marital harmony as predicted by a fortuneteller;韓国語の“クンハップ”とは、占い師が予言した琴瑟を意味する。);ここでは、相性可能性が対人関係によい占星術パターン(favorable astrology pattern)で定義されることができるのであろう。)を有するハイブリッド(hybrid)を生成できる能力を意味するもので、相性オプション(konghup option)は、日付及び星占い(horoscopes)に対する適切なテーブルに従って構成される。)を決定するので、ハイブリッドSMSにおいて重要である。
また、使用者は、生物の身の上情報(Creature Details)も望ましく設定することができる。
前記生物が行えるアニメーションタイプには、歩き(walking)、座り(sitting)、匂い嗅ぎ(smelling)、飛び(flying)、及びジャンプ(jumping)などが任意に含まれ、これらに限定されることではない。
本発明を限定された個数の実施形態を利用して説明したが、本発明に対する多い変更、修正、及び他の応用が行われることができる。
本発明による学習モジュールの例を示す概略ブロック図である。 プロアクティブユーザインターフェースを利用するための本発明によるシステムの例を示す概略ブロック図である。 本発明によるプロアクティブユーザインターフェースシステムの具現例を示す図である。 本発明による適応型システムの具現例を示す概略ブロック図である。 本発明によるアプリケーション管理システムの例を示す概略ブロック図である。 本発明によるアプリケーション管理システムの例を示すシーケンスダイアグラムである。 移動情報装置のオペレーティングシステムを通じて1つ以上の行為を遂行するために、本発明による適応型システムに必要な基盤構造(infrastructure)の例を示し、これに対する本発明によるシーケンスダイアグラムの例を示す図である。 移動情報装置のオペレーティングシステムを通じて1つ以上の行為を遂行するために、本発明による適応型システムに必要な基盤構造(infrastructure)の例を示し、これに対する本発明によるシーケンスダイアグラムの例を示す図である。 典型的なイベントを示すもので、そのイベントが移動情報装置(移動情報装置のオペレーティングシステムを通じて)と本発明のシステムとの間の相互作用によって処理される方法を示す図である。 典型的なイベントを示すもので、そのイベントが移動情報装置(移動情報装置のオペレーティングシステムを通じて)と本発明のシステムとの間の相互作用によって処理される方法を示す図である。 典型的なイベントを示すもので、そのイベントが移動情報装置(移動情報装置のオペレーティングシステムを通じて)と本発明のシステムとの間の相互作用によって処理される方法を示す図である。 インテリジェントエージェントの構成例を示す図である。 インテリジェントエージェントの動作に対するシーケンスダイアグラムの例を示す図である。 本発明による行為を選択するための2つの方法を示す図である。 本発明による行為を選択するための2つの方法を示す図である。 本発明による行為遂行(action execution)の例を示すシーケンスダイアグラムである。 本発明による典型的な感情型システムの具現例を説明するためのダイアグラムを特徴とする図である。 本発明による典型的な感情型システムの具現例を説明するためのダイアグラムを特徴とする図である。 本発明による典型的な感情型システムの具現例を説明するためのダイアグラムを特徴とする図である。 本発明によるテキスト形式の通信のための典型的なシーケンスダイアグラムである。 移動電話装置でエージェントが感情を表現する非限定的な例を示す図である。 本発明の実施形態による生物またはアバター(インテリジェントエージェントの視覚的な表現)である“フローティングエージェント”の典型的なスクリーンショットを示す図である。 本発明の実施形態によるインテリジェントエージェントの仮想世界のための客体を選択するためのメニューの典型的なスクリーンショットを示す図である。 本発明の実施形態によるエージェントの設定を使用者が構成及び変更を遂行することができるようにする開始ウィザードアプリケーションを示す図である。
符号の説明
100 学習モジュール
200 システム
202 オペレーティングシステム
204 インターフェース部
206 ソフトウェアアプリケーション

Claims (20)

  1. オペレーティングシステムを備えた演算装置のためのプロアクティブユーザインターフェースにおいて、
    a) 使用者と情報交換を可能にするエージェントが提供され、前記使用者と前記オペレーティングシステムとの間の通信のためのインターフェース部と、
    b) 前記オペレーティングシステムにより制御される少なくとも一つのソフトウェアアプリケーションと、
    c) 前記アプリケーションを支援して、前記オペレーティングシステムを有するホストプラットホームと通信して、前記インターフェース部と前記使用者との相互作用の少なくとも一つのパターンを検出して、前記検出されたパターンに従って、使用者にユーザインターフェースの少なくとも一つの機能を変化させるための選択事項を能動的に提案する人工知能フレームワークと、から構成され、
    前記エージェントは、前記提案に対する使用者の反応に従う感情を表現することを特徴とする感情あるエージェントを有するプロアクティブユーザインターフェース。
  2. 前記インターフェース部と前記使用者との少なくとも一度の以前の相互作用によって決定されたパターンと、予め決定されたパターン、またはその組合せでなされた群から選択される情報を貯蔵する知識ベースをさらに備える請求項1に記載の感情あるエージェントを有するプロアクティブユーザインターフェース。
  3. 前記人工知能フレームワークは、
    人工知能/機械学習モジュールと、
    前記アプリケーションとの通信を取り扱うアプリケーション管理者と、
    システムの前記知識ベースに関連したデータの貯蔵及び取扱いを管理するストレージ管理者と、
    前記人工知能/機械学習モジュールの動作を通じて、前記プロアクティブユーザインターフェースがどんな行為を取るべきであるかを決定する行為管理者と、
    前記ユーザインターフェースに変化を指示して、前記ユーザインターフェースのアピアランスと機能を管理するユーザインターフェース管理者と、
    前記演算装置の状態と仮想世界の状態及びその2状態間の関係を決定する装置世界マッパーと、を備える請求項2に記載の感情あるエージェントを有するプロアクティブユーザインターフェース。
  4. 前記人工知能/機械学習モジュールは、色々な刺激に対応して前記プロアクティブユーザインターフェースの行動を決定して、相異なる形態の行為に対する使用者の反応から前記プロアクティブユーザインターフェースが学習できるようにする請求項3に記載の感情あるエージェントを有するプロアクティブユーザインターフェース。
  5. 前記人工知能フレームワークは、イベントハンドラをさらに備え、
    前記行為管理者、ユーザインターフェース管理者、ストレージ管理者、及びアプリケーション管理者を含む低水準の管理者は、前記アプリケーションと前記イベントハンドラとの間で異なるイベントの受信及び取扱いを行う請求項3または請求項4に記載の感情あるエージェントを有するプロアクティブユーザインターフェース。
  6. 前記アプリケーション管理者は、前記アプリケーションのそれぞれの開始、一時停止、再開及び終了を遂行することができる請求項4に記載の感情あるエージェントを有するプロアクティブユーザインターフェース。
  7. 前記演算装置は、一般コンピュータと、ATMと、携帯電話を含む移動情報装置と、PDAまたはオペレーティングシステムを備えた消費財でなされた群から選択される請求項1乃至請求項6のうちいずれか1項に記載の感情あるエージェントを有するプロアクティブユーザインターフェース。
  8. 前記エージェントは、3Dグラフィックモデルで生成されたアバターである請求項7に記載の感情あるエージェントを有するプロアクティブユーザインターフェース。
  9. 前記プロアクティブユーザインターフェースは、前記アバターをユーザインターフェースの画像表示の要素に独立して表示するように制御する請求項8に記載の感情あるエージェントを有するプロアクティブユーザインターフェース。
  10. 前記エージェントは、仮想環境で発見される客体と通信する請求項7に記載の感情あるエージェントを有するプロアクティブユーザインターフェース。
  11. 前記仮想環境で発見される客体は、球、良い動物、食べ物、悪い動物、家、オモチャのうちいずれか一つ以上を備える請求項10に記載の感情あるエージェントを有するプロアクティブユーザインターフェース。
  12. 前記仮想環境で発見される客体は、その状態に等級化された入力を含む請求項11に記載の感情あるエージェントを有するプロアクティブユーザインターフェース。
  13. 前記仮想環境で発見される客体は、知能型エージェントがフィードバックの提供された行動を継続することに対するインセンティブまたは行動抑制要因になる請求項12に記載の感情あるエージェントを有するプロアクティブユーザインターフェース。
  14. 前記等級化された入力は、エージェントに対する補償点数になり、前記エージェントは、獲得した補償点数に従って取れる動作の種類を異ならせる請求項12に記載の感情あるエージェントを有するプロアクティブユーザインターフェース。
  15. 前記提案は、規則基盤方式によって決定される請求項7に記載の感情あるエージェントを有するプロアクティブユーザインターフェース。
  16. 前記規則基盤方式は、
    a) イベントの発生のときに知識ベースに問い合わせて応答を得るステップと、
    b) そのイベントの有効性を判断するステップと、
    c) そのイベントに対応する行為を生成して、その行為の優先順位を決定するステップと、
    d) 前記イベントに対応する行為のうち最高の優先順位の行為を遂行するステップと、からなる請求項15に記載の感情あるエージェントを有するプロアクティブユーザインターフェース。
  17. 前記最高の優先順位の行為は、奨励または妨害フィードバック形態の等級化された入力または仮想環境から集計された総補償を最大化する行為である請求項16に記載の感情あるエージェントを有するプロアクティブユーザインターフェース。
  18. 前記プロアクティブユーザインターフェースは、前記エージェントの抽象的な目標に対する成功可能性または失敗可能性が増加し、または減少するときに前記エージェントの感情を生成する請求項15乃至請求項17のうちいずれか1項に記載の感情あるエージェントを有するプロアクティブユーザインターフェース。
  19. 前記生成された感情は、蓄積され、支配的な行動パターンが変化する度に、前記エージェントは、その感情的な状態を表現する請求項18に記載の感情あるエージェントを有するプロアクティブユーザインターフェース。
  20. 前記表現される感情は、テキスト通信、3次元アニメーション、顔表情、2次元活動効果及びサウンドのうち一つ以上を利用して表現される請求項19に記載の感情あるエージェントを有するプロアクティブユーザインターフェース。

JP2004259060A 2003-09-05 2004-09-06 感情あるエージェントを有するプロアクティブユーザインターフェース Pending JP2005085274A (ja)

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
US50066903P 2003-09-05 2003-09-05
US10/743,476 US20050054381A1 (en) 2003-09-05 2003-12-23 Proactive user interface
KR20040016263 2004-03-10
KR1020040067663A KR100680191B1 (ko) 2003-09-05 2004-08-27 감정 있는 에이전트를 갖는 사전 행동적 사용자 인터페이스 시스템

Publications (1)

Publication Number Publication Date
JP2005085274A true JP2005085274A (ja) 2005-03-31

Family

ID=37059501

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004259060A Pending JP2005085274A (ja) 2003-09-05 2004-09-06 感情あるエージェントを有するプロアクティブユーザインターフェース

Country Status (6)

Country Link
EP (1) EP1522920B1 (ja)
JP (1) JP2005085274A (ja)
KR (1) KR100680191B1 (ja)
CN (1) CN100377044C (ja)
IL (1) IL174116A (ja)
RU (1) RU2331918C2 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007148983A (ja) * 2005-11-30 2007-06-14 Oki Electric Ind Co Ltd 口座取引システム及び口座取引方法
US8260739B1 (en) * 2005-12-29 2012-09-04 At&T Intellectual Property Ii, L.P. Method and apparatus for layering software agents in a distributed computing system
JP2017535844A (ja) * 2014-09-23 2017-11-30 インテル コーポレイション マルチファクタインテリジェントエージェント制御

Families Citing this family (33)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8938688B2 (en) 1998-12-04 2015-01-20 Nuance Communications, Inc. Contextual prediction of user words and user actions
US7712053B2 (en) 1998-12-04 2010-05-04 Tegic Communications, Inc. Explicit character filtering of ambiguous text entry
US8583440B2 (en) 2002-06-20 2013-11-12 Tegic Communications, Inc. Apparatus and method for providing visual indication of character ambiguity during text entry
US8095364B2 (en) 2004-06-02 2012-01-10 Tegic Communications, Inc. Multimodal disambiguation of speech recognition
KR20060047890A (ko) 2004-10-01 2006-05-18 삼성전자주식회사 휴대단말기의 이벤트 표시 장치 및 방법
WO2006038779A1 (en) 2004-10-01 2006-04-13 Samsung Electronics Co., Ltd. Device and method for displaying event in wireless terminal
US8478081B2 (en) * 2005-06-30 2013-07-02 Agc Flat Glass North America, Inc. Monolithic image perception device and method
US7941200B2 (en) 2005-12-08 2011-05-10 Roche Diagnostics Operations, Inc. System and method for determining drug administration information
KR100703990B1 (ko) * 2006-04-13 2007-04-09 한국과학기술원 인간과 애완동물간의 인터랙션을 위한 장치
EP1895505A1 (en) 2006-09-04 2008-03-05 Sony Deutschland GmbH Method and device for musical mood detection
US8312373B2 (en) * 2007-10-18 2012-11-13 Nokia Corporation Apparatus, method, and computer program product for affecting an arrangement of selectable items
US9386139B2 (en) * 2009-03-20 2016-07-05 Nokia Technologies Oy Method and apparatus for providing an emotion-based user interface
US8732602B2 (en) * 2009-03-27 2014-05-20 Schneider Electric It Corporation System and method for altering a user interface of a power device
DE102009018165A1 (de) * 2009-04-18 2010-10-21 Schreiber & Friends Verfahren zur Darstellung eines animierten Objekts
CN101588323B (zh) * 2009-06-11 2011-07-06 腾讯科技(深圳)有限公司 一种使用聊天机器人在im群中主动发布消息的方法和系统
US9159151B2 (en) 2009-07-13 2015-10-13 Microsoft Technology Licensing, Llc Bringing a visual representation to life via learned input from the user
US8305433B2 (en) 2009-12-23 2012-11-06 Motorola Mobility Llc Method and device for visual compensation
US8446411B2 (en) * 2010-06-11 2013-05-21 Microsoft Corporation Adaptive image rendering and use of imposter
US9276930B2 (en) 2011-10-19 2016-03-01 Artashes Valeryevich Ikonomov Device for controlling network user data
WO2013191592A1 (ru) * 2012-06-21 2013-12-27 Ikonomov Artashes Valeryevich Система проведения голосования
CN102929476A (zh) * 2012-09-06 2013-02-13 北京天宇朗通通信设备股份有限公司 终端主菜单的控制方法和装置
WO2014058349A1 (ru) 2012-10-10 2014-04-17 Ikonomov Artashes Valeryevich Электронная платежная система
WO2015074565A1 (en) 2013-11-19 2015-05-28 Huawei Technologies Co., Ltd. Method and device for processing application of mobile terminal
US9886710B2 (en) 2014-03-25 2018-02-06 Ebay Inc. Data mesh visualization
US9786299B2 (en) * 2014-12-04 2017-10-10 Microsoft Technology Licensing, Llc Emotion type classification for interactive dialog system
KR102423754B1 (ko) 2017-09-19 2022-07-21 삼성전자주식회사 디바이스 사용 문의에 대한 응답을 제공하는 디바이스 및 방법
CN111954889A (zh) * 2018-01-29 2020-11-17 埃美杰斯有限责任公司 用于促成基于情感状态的人工智能的系统和方法
RU2721897C1 (ru) * 2019-11-28 2020-05-25 Общество с ограниченной ответственностью "ВиАр Суперсоник" Автоматизированная система для создания сценариев обучающей виртуальной среды
RU2724606C1 (ru) * 2020-01-09 2020-06-25 Общество с ограниченной ответственностью "ВиАр Суперсоник" Автоматизированная система обеспечения пользователя обучающей виртуальной средой и модуль анализа действий пользователя по верификации данных предметов обучающей виртуальной среды
RU2726342C1 (ru) * 2020-01-17 2020-07-13 Общество с ограниченной ответственностью «ЯЛОС МОБАЙЛ» Система отображения данных мультипликационного озвученного изображения на дисплее вычислительного устройства в соответствии с уведомлениями
KR20220131721A (ko) * 2021-03-22 2022-09-29 삼성전자주식회사 콘텐츠에 기초하여 루틴을 실행하는 전자 장치 및 전자 장치의 동작 방법
US11893399B2 (en) 2021-03-22 2024-02-06 Samsung Electronics Co., Ltd. Electronic device for executing routine based on content and operating method of the electronic device
WO2024049415A1 (en) * 2022-08-30 2024-03-07 Google Llc Intelligent asset suggestions based on both previous phrase and whole asset performance

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0981632A (ja) * 1995-09-13 1997-03-28 Toshiba Corp 情報公開装置
JPH11259446A (ja) * 1998-03-12 1999-09-24 Aqueous Reserch:Kk エージェント装置
JPH11265239A (ja) * 1998-03-17 1999-09-28 Toshiba Corp 感情生成装置及び感情生成方法
JP2001249949A (ja) * 2000-03-07 2001-09-14 Nec Corp 感情生成方法、感情生成装置、記録媒体
JP2002049934A (ja) * 2000-08-07 2002-02-15 Atr Ningen Joho Tsushin Kenkyusho:Kk 仮想空間構築システム
JP2002073233A (ja) * 2000-08-29 2002-03-12 Pineapple Company:Kk 処理方法、処理システム、処理装置、処理支援装置、及び記録媒体

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5901246A (en) * 1995-06-06 1999-05-04 Hoffberg; Steven M. Ergonomic man-machine interface incorporating adaptive pattern recognition based control system
JPH0612401A (ja) * 1992-06-26 1994-01-21 Fuji Xerox Co Ltd 感情模擬装置
US6633861B2 (en) * 1993-03-19 2003-10-14 Ricoh Company Limited Automatic invocation of computational resources without user intervention across a network
US5802296A (en) * 1996-08-02 1998-09-01 Fujitsu Software Corporation Supervisory powers that provide additional control over images on computers system displays to users interactings via computer systems
US5884029A (en) * 1996-11-14 1999-03-16 International Business Machines Corporation User interaction with intelligent virtual objects, avatars, which interact with other avatars controlled by different users
CN1421799A (zh) * 2001-11-30 2003-06-04 英业达股份有限公司 实时数据客户服务系统及其方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0981632A (ja) * 1995-09-13 1997-03-28 Toshiba Corp 情報公開装置
JPH11259446A (ja) * 1998-03-12 1999-09-24 Aqueous Reserch:Kk エージェント装置
JPH11265239A (ja) * 1998-03-17 1999-09-28 Toshiba Corp 感情生成装置及び感情生成方法
JP2001249949A (ja) * 2000-03-07 2001-09-14 Nec Corp 感情生成方法、感情生成装置、記録媒体
JP2002049934A (ja) * 2000-08-07 2002-02-15 Atr Ningen Joho Tsushin Kenkyusho:Kk 仮想空間構築システム
JP2002073233A (ja) * 2000-08-29 2002-03-12 Pineapple Company:Kk 処理方法、処理システム、処理装置、処理支援装置、及び記録媒体

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007148983A (ja) * 2005-11-30 2007-06-14 Oki Electric Ind Co Ltd 口座取引システム及び口座取引方法
US8260739B1 (en) * 2005-12-29 2012-09-04 At&T Intellectual Property Ii, L.P. Method and apparatus for layering software agents in a distributed computing system
US20120331035A1 (en) * 2005-12-29 2012-12-27 At&T Corp. Method and apparatus for layering software agents in a distributed computing system
US8706814B2 (en) 2005-12-29 2014-04-22 At&T Intellectual Property Ii, L.P. Method and apparatus for layering software agents in a distributed computing system
JP2017535844A (ja) * 2014-09-23 2017-11-30 インテル コーポレイション マルチファクタインテリジェントエージェント制御
US10429803B2 (en) 2014-09-23 2019-10-01 Intel Corporation Multifactor intelligent agent control

Also Published As

Publication number Publication date
RU2006110940A (ru) 2006-08-10
KR100680191B1 (ko) 2007-02-08
IL174116A0 (en) 2006-08-01
EP1522920B1 (en) 2013-06-05
IL174116A (en) 2013-08-29
CN1627235A (zh) 2005-06-15
RU2331918C2 (ru) 2008-08-20
EP1522920A2 (en) 2005-04-13
CN100377044C (zh) 2008-03-26
EP1522920A3 (en) 2007-01-03
KR20050025288A (ko) 2005-03-14

Similar Documents

Publication Publication Date Title
US7725419B2 (en) Proactive user interface including emotional agent
KR100680191B1 (ko) 감정 있는 에이전트를 갖는 사전 행동적 사용자 인터페이스 시스템
AU2003288790B2 (en) Proactive user interface
US8990688B2 (en) Proactive user interface including evolving agent
CA2536233C (en) Proactive user interface including evolving agent
US7711778B2 (en) Method for transmitting software robot message

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20070201

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070213

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070510

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20071030

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080227

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20080303

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20080620