JP2020505691A - 物理的グラフに基づいてアクションをとること - Google Patents

物理的グラフに基づいてアクションをとること Download PDF

Info

Publication number
JP2020505691A
JP2020505691A JP2019538596A JP2019538596A JP2020505691A JP 2020505691 A JP2020505691 A JP 2020505691A JP 2019538596 A JP2019538596 A JP 2019538596A JP 2019538596 A JP2019538596 A JP 2019538596A JP 2020505691 A JP2020505691 A JP 2020505691A
Authority
JP
Japan
Prior art keywords
physical
computing system
detected
graph
entity
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2019538596A
Other languages
English (en)
Inventor
ミタル,ビジャイ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Microsoft Corp
Original Assignee
Microsoft Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Microsoft Corp filed Critical Microsoft Corp
Publication of JP2020505691A publication Critical patent/JP2020505691A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/53Querying
    • G06F16/532Query formulation, e.g. graphical querying
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90Details of database functions independent of the retrieved data types
    • G06F16/901Indexing; Data structures therefor; Storage structures
    • G06F16/9024Graphs; Linked lists
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N5/00Computing arrangements using knowledge-based models
    • G06N5/04Inference or reasoning models
    • G06N5/045Explanation of inference; Explainable artificial intelligence [XAI]; Interpretable artificial intelligence
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/08Speech classification or search
    • G10L15/18Speech classification or search using natural language modelling
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/22Procedures used during a speech recognition process, e.g. man-machine dialogue
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L12/00Data switching networks
    • H04L12/28Data switching networks characterised by path configuration, e.g. LAN [Local Area Networks] or WAN [Wide Area Networks]
    • H04L12/2803Home automation networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/004Artificial life, i.e. computing arrangements simulating life
    • G06N3/006Artificial life, i.e. computing arrangements simulating life based on simulated virtual individual or collective life forms, e.g. social simulations or particle swarm optimisation [PSO]
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/22Procedures used during a speech recognition process, e.g. man-machine dialogue
    • G10L2015/223Execution procedure of a spoken command

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Databases & Information Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Acoustics & Sound (AREA)
  • Human Computer Interaction (AREA)
  • Multimedia (AREA)
  • Artificial Intelligence (AREA)
  • Software Systems (AREA)
  • Mathematical Physics (AREA)
  • Computing Systems (AREA)
  • Evolutionary Computation (AREA)
  • Medical Informatics (AREA)
  • Signal Processing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Automation & Control Theory (AREA)
  • User Interface Of Digital Computer (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Navigation (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Image Analysis (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Manipulator (AREA)
  • Pharmaceuticals Containing Other Organic And Inorganic Compounds (AREA)

Abstract

物理的グラフに基づいてアクションをとること。アクションをとることは、ユーザからのコマンド(自然言語コマンドなど)を解釈するエージェントの使用によって発生する。エージェントは、物理的空間の中の、および、複数のセンサにより観測される、1つまたは複数の物理的実体の状態を表す物理的グラフに対する少なくとも1つの問い合わせを組み立てることにより、コマンドに応答する。エージェントは、次いで、物理的グラフに対する問い合わせまたは複数の問い合わせを使用する。それらの問い合わせへの応答に応答して、エージェントは、とるべきアクションを識別する。そのようなアクションは、情報をユーザに提示すること、および、通信物を他のものへと外に送出することなどのアクションを含み得る。しかしながら、アクションは、物理的アクションを含むことさえある。実例として、エージェントは、(ロボットまたはドローンによってなどで)物理的アクションを実行する物理的アクションエンジンを含み得る。

Description

[0001]コンピューティングシステム、および、関連付けられるネットワークは、私たちの世界に大きな変革を起こした。最初は、コンピューティングシステムは、単純なタスクを実行することができるのみであった。しかしながら、処理パワーが増大し、ますます利用可能になったことにつれて、コンピューティングシステムにより実行されるタスクの複雑度は大幅に増大した。同じように、コンピューティングシステムのハードウェア複雑度および能力が、大きいデータセンタによりサポートされるクラウドコンピューティングによって例示されるように、大幅に増大した。
[0002]長い期間の時間の間、コンピューティングシステムは、本質的に、それらが、それらの命令またはソフトウェアにより命じられたことを行うにすぎなかった。しかしながら、ソフトウェア、および、ハードウェアの採用は、とても進歩させられた様態になりつつあるので、コンピューティングシステムは今や、これまでにないほど、より高いレベルでの、ある程度のレベルの意思決定の能力がある。現在では、いくつかの点において、意思決定のレベルは、意思決定する人間脳の能力に近付く、その能力に匹敵する、または、その能力を上回ることさえある。換言すれば、コンピューティングシステムは今や、ある程度のレベルの人工知能を用いる能力がある。
[0003]人工知能の1つの例は、物理的世界からの外部刺激の認識である。実例として、音声認識技術が、話されている単語を、および、話している人物のアイデンティティさえも、検出することにおいて高い度合いの正確性を可能とするように、大幅に向上した。同じように、コンピュータビジョンは、コンピューティングシステムが、自動的に、個別の写真、もしくは、ビデオのフレームの中の物体を識別すること、または、人間のアクティビティ(activity)を一連のビデオフレームにわたって認識することを可能とする。例として、顔認識技術は、コンピューティングシステムが顔を認識することを可能とし、アクティビティ認識技術は、コンピューティングシステムが、2人の近接する人々が一緒に作業しているかどうかを知ることを可能とする。
[0004]これらの技術の各々は、深層学習(深層ニューラルネットワークベースの、および、強化ベースの学習機構)および機械学習アルゴリズムを用いて、経験から、音を生じさせているもの、および、画像の中にある物体または人々を学習し、以て、認識の正確性を経時的に向上させることができる。大きい数の視覚的な気を散らすものを伴う、より複雑な画像化されたシーンの中の物体を認識することの領域において、進歩させられたコンピュータビジョン技術は今や、そのシーンの中の関心の物体を素早く、および正確に認識する人間の能力を上回る。従来のグラフィカル処理ユニット(GPU)内の行列変換ハードウェアなどのハードウェアが、さらには、深層ニューラルネットワークの背景状況においての物体認識においての迅速な速さの一因となり得る。
[0005]本明細書で請求される主題は、何らかの欠点を解決する、または、上記で説明されたものなどの環境においてのみ動作する、実施形態に制限されない。むしろ、本背景技術は、本明細書で説明される一部の実施形態が実践され得る、1つの例示的な技術領域を例解するために提供されるのみである。
[0006]本明細書で説明される少なくとも一部の実施形態は、物理的グラフに基づいてアクションをとることに関係する。アクションをとることは、ユーザからの1つまたは複数のコマンドを解釈するエージェントの使用によって発生する。実例として、コマンドは、ユーザにより自然言語の形で発行され得るものであり、その事例において、コマンドは、自然言語エンジンによって解釈される。エージェントは、物理的空間の中の、および、複数のセンサにより観測される、1つまたは複数の物理的実体の状態を表す物理的グラフに対する少なくとも1つの問い合わせを組み立てる(formulating)ことにより、コマンドに応答する。エージェントは、次いで、物理的グラフに対する問い合わせまたは複数の問い合わせを使用する。それらの問い合わせへの応答に応答して、エージェントは、とるべきアクションを識別する。そのようなアクションは、情報をユーザに提示すること、および、通信物を他のものへと外に送出することなどのアクションを含み得る。しかしながら、アクションは、物理的アクションを含むことさえある。実例として、エージェントは、(例えば、ロボットまたはドローンによって)物理的アクションを実行する物理的アクションエンジンを含み得る。
[0007]かくして、本明細書で説明される原理は、現実世界の一部分のグラフを評価することにより、ユーザ発行される問い合わせおよびコマンドに応答する現実感エージェント(reality agent)を提供する。一部の実施形態において、現実感エージェントは、ユーザ発行される問い合わせおよびコマンドに応答して、現実世界に影響力を及ぼすことさえある。エージェントは、現実世界それ自体においてのユーザの増幅になる。エージェントは、しばしばユーザを缶詰にする(can a user)現実世界情報およびアクティビティを観測する、より多くの性能を有する。エージェントは、そのような現実世界情報を記憶に留め、そのような現実世界情報について推論する、より多くの性能を有する。最後に、エージェントは、潜在的に、現実世界からの情報、および、現実世界について推論することに基づいて、現実世界において物理的アクションをとる、より多くの能力を有する。
[0008]本概要は、発明を実施するための形態において下記でさらに説明される、単純化された形式での概念の選択物を紹介するために提供されるものである。本概要は、請求される主題の、主要な特徴、または本質的な特徴を識別することを意図されず、本概要は、請求される主題の範囲を決定することにおいて一助として使用されることもまた意図されない。
[0009]本発明の上記で詳説された、および他の、利点および特徴が得られ得る様式を説明するために、上記で簡潔に説明された本発明のより詳しい説明が、添付される図面において例解される、本発明の具体的な実施形態への参照により与えられることになる。これらの図面は、本発明の典型的な実施形態のみを描写し、それゆえに、本発明の範囲について制限的であると考えられることにはならないということを理解して、本発明が、付随する図面の使用によって、追加的な特殊性および詳細を伴って、記載および説明されることになる。
[0010]本明細書で説明される原理が用いられ得る例コンピュータシステムを例解する図である。 [0011]複数個の物理的実体および複数個のセンサを含む物理的空間と、物理的空間の中の物理的実体の特徴を検知する認識構成要素と、そのような物理的実体の検知される特徴を、計算および問い合わせすることがそれらの特徴に対して実行され得るように記憶する特徴ストア(記憶装置;store)とを含む、本明細書で説明される原理が動作し得る環境を例解する図である。 [0012]場所の中の物理的実体を追跡するための、および、図2の環境において実行され得る、方法のフローチャートを例解する図である。 [0013]図3の方法を実行することを支援するために使用され得る、および、追跡される物理的実体に関する問い合わせを後で実行するために使用され得る、実体追跡データ構造を例解する図である。 [0013]関心の信号セグメントを効率的にレンダリングするための方法のフローチャートを例解する図である。 [0014]物理的空間内の1つもしくは複数のセンサにより検知される情報の作成、または、その情報へのアクセスを制御するための方法のフローチャートを例解する図である。 [0015]物理的空間内の検知される特徴のコンピュータナビゲート可能グラフ(computer−navigable graph)を作成することに加えて、さらには、コンピュータナビゲート可能グラフのプルーニング(枝刈り;pruning)が存在することが、以て、現実世界のコンピュータナビゲート可能グラフを管理可能なサイズで保つためにあり得るということを示す、再帰フローを例解する図である。 [0016]エージェント(さらには、本明細書では「現実感エージェント」と呼ばれる)が、現実世界観測に基づいてアクションをとるための方法のフローチャートを例解する図である。 [0017]エージェント(図8のエージェントなど)が、ユーザコマンドに応答してアクションをとるための例動作環境を例解する図である。 [0018]1つまたは複数の物理的条件を、それらを基に1つまたは複数のアクションを実行するためにセットするための方法のフローチャートを例解する図である。
[0019]本明細書で説明される少なくとも一部の実施形態は、物理的グラフに基づいてアクションをとることに関係する。アクションをとることは、ユーザからの1つまたは複数のコマンドを解釈するエージェントの使用によって発生する。実例として、コマンドは、ユーザにより自然言語の形で発行され得るものであり、その事例において、コマンドは、自然言語エンジンによって解釈される。エージェントは、物理的空間の中の、および、複数のセンサにより観測される、1つまたは複数の物理的実体の状態を表す物理的グラフに対する少なくとも1つの問い合わせを組み立てることにより、コマンドに応答する。エージェントは、次いで、物理的グラフに対する問い合わせまたは複数の問い合わせを使用する。それらの問い合わせへの応答に応答して、エージェントは、とるべきアクションを識別する。そのようなアクションは、情報をユーザに提示すること、および、通信物を他のものへと外に送出することなどのアクションを含み得る。しかしながら、アクションは、物理的アクションを含むことさえある。実例として、エージェントは、(例えば、ロボットまたはドローンによって)物理的アクションを実行する物理的アクションエンジンを含み得る。
[0020]かくして、本明細書で説明される原理は、現実世界の一部分のグラフを評価することにより、ユーザ発行される問い合わせおよびコマンドに応答する現実感エージェントを提供する。一部の実施形態において、現実感エージェントは、ユーザ発行される問い合わせおよびコマンドに応答して、現実世界に影響力を及ぼすことさえある。エージェントは、現実世界それ自体においてのユーザの増幅になる。エージェントは、しばしばユーザを缶詰にする現実世界情報およびアクティビティを観測する、より多くの性能を有する。エージェントは、そのような現実世界情報を記憶に留め、そのような現実世界情報について推論する、より多くの性能を有する。最後に、エージェントは、潜在的に、現実世界からの情報、および、現実世界について推論することに基づいて、現実世界において物理的アクションをとる、より多くの能力を有する。
[0021]本明細書で説明される原理は、コンピューティングシステムの背景状況において動作するので、コンピューティングシステムが、図1について説明されることになる。次いで、基にしてアンビエントコンピューティングが実行され得る、基盤の原理が、次いで、図2ないし4について説明されることになる。コンピュータナビゲート可能グラフからの信号セグメントを得ることが、次いで、図5について説明されることになる。その後、アンビエントコンピューティングの背景状況においてのセキュリティのアプリケーションが、図6について説明されることになる。コンピュータナビゲート可能グラフのサイズを管理することが、図7について説明されることになる。現実感エージェントが、次いで、図8および9について説明されることになる。最後に、物理的条件を指定することにより将来に影響を及ぼすための方法が、図10について説明される。
[0022]コンピューティングシステムは、今やますます、多種多様の形式をとっている。コンピューティングシステムは、例えば、ハンドヘルドデバイス、家電、ラップトップコンピュータ、デスクトップコンピュータ、メインフレーム、分散型コンピューティングシステム、データセンタであることがあり、または、ウェアラブル(例えば、眼鏡、腕時計、バンド、等々)などの、従来からコンピューティングシステムと考えられなかったデバイスであることさえある。本説明において、および、特許請求の範囲において、用語「コンピューティングシステム」は、少なくとも1つの物理的および有形なプロセッサと、プロセッサにより実行され得るコンピュータ実行可能命令を有する能力がある物理的および有形なメモリとを含む、任意のデバイスまたはシステム(または、それらの組み合わせ)を含むと幅広く定義される。メモリは、任意の形式をとり得るものであり、コンピューティングシステムの性質および形式に依存し得る。コンピューティングシステムは、ネットワーク環境にわたって分散型であり得るものであり、複数個の構成物コンピューティングシステムを含み得る。
[0023]図1において例解されるように、その最も基本的な構成において、コンピューティングシステム100は、典型的には、少なくとも1つのハードウェア処理ユニット102と、メモリ104とを含む。メモリ104は、揮発性、不揮発性、または、その2つの何らかの組み合わせであり得る、物理的システムメモリであり得る。用語「メモリ」は、さらには、本明細書では、物理的記憶媒体などの不揮発性大容量記憶機構を指すために使用され得る。コンピューティングシステムが分散型であるならば、処理、メモリ、および/または記憶能力もまた分散型であり得る。
[0024]コンピューティングシステム100は、しばしば「実行可能構成要素」と呼称される、複数個の構造を有する。実例として、コンピューティングシステム100のメモリ104は、実行可能構成要素106を含むように例解される。用語「実行可能構成要素」は、ソフトウェア、ハードウェア、または、それらの組み合わせであり得る構造であると、コンピューティングの分野の当業者に十分に理解されている構造に対する名前である。実例として、ソフトウェアの形で実現されるとき、当業者は、実行可能構成要素の構造は、そのような実行可能構成要素がコンピューティングシステムのヒープ内に実在するかどうかを問わず、または、実行可能構成要素がコンピュータ可読記憶媒体上に実在するかどうかを問わず、コンピューティングシステム上で実行され得るソフトウェアオブジェクト、ルーチン、メソッドを含み得るということを理解するであろう。
[0025]そのような事例において、当業者は、実行可能構成要素の構造は、コンピューティングシステムの1つまたは複数のプロセッサにより(例えば、プロセッサスレッドにより)解釈されるときに、コンピューティングシステムが機能を実行することを引き起こされるように、コンピュータ可読媒体上に実在するということを認識するであろう。そのような構造は、(実行可能構成要素がバイナリであるならば事実であるが)プロセッサにより直接的にコンピュータ可読であり得る。代替的に、構造は、解釈可能であるように、および/または、プロセッサにより直接的に解釈可能であるそのようなバイナリを生成するために(単一の段階においてか、複数個の段階においてかを問わず)コンパイルされるように構造化され得る。実行可能構成要素の例構造のそのような理解は、十分に、用語「実行可能構成要素」を使用するときのコンピューティングの技術分野の当業者の理解の範囲内である。
[0026]用語「実行可能構成要素」は、さらには、当業者により、フィールドプログラマブルゲートアレイ(FPGA)、特定用途向け集積回路(ASIC)、または、任意の他の特殊化された回路の中でなど、ハードウェアの形で、専一に、または、ほぼ専一に実現される構造を含むと十分に理解されている。よって、用語「実行可能構成要素」は、実現されるのがソフトウェアの形か、ハードウェアの形か、組み合わせの形かを問わず、コンピューティングの技術分野の当業者により、十分に理解されている構造に対する用語である。本説明において、用語「構成要素」が、さらには使用され得る。本説明において、および、その事例において使用される際、この用語(用語が1つまたは複数の修飾語句によって修飾されるかどうかに関わらず)は、さらには、用語「実行可能構成要素」と同義であり、または、そのような「実行可能構成要素」の特定のタイプであり、かくして、さらには、コンピューティングの技術分野の当業者により、十分に理解されている構造を有することを意図される。
[0027]後に続く説明において、実施形態は、1つまたは複数のコンピューティングシステムにより実行される行為を参照して説明される。そのような行為がソフトウェアの形で実現されるならば、(行為を実行する、関連付けられるコンピューティングシステムの)1つまたは複数のプロセッサは、実行可能構成要素を組成するコンピュータ実行可能命令を実行したことに応答して、コンピューティングシステムの動作を指図する。例えば、そのようなコンピュータ実行可能命令は、コンピュータプログラム製品をする、1つまたは複数のコンピュータ可読媒体上で実施され得る。そのような動作の例は、データの操作を必然的に含む。
[0028]コンピュータ実行可能命令(および、操作されたデータ)は、コンピューティングシステム100のメモリ104内に記憶され得る。コンピューティングシステム100は、さらには、コンピューティングシステム100が、他のコンピューティングシステムと、例えばネットワーク110を介して通信することを可能とする、通信チャネル108を内包し得る。
[0029]すべてのコンピューティングシステムがユーザインターフェイスを要するとは限らないが、一部の実施形態において、コンピューティングシステム100は、ユーザとインターフェイス接続することにおいての使用のためのユーザインターフェイス112を含む。ユーザインターフェイス112は、出力機構112Aと、入力機構112Bとを含み得る。本明細書で説明される原理は、寸分違わない出力機構112Aまたは入力機構112Bに制限されるものではなく、なぜならば、そのようなものは、デバイスの性質に依存することになるからである。しかしながら、出力機構112Aは、実例として、スピーカ、ディスプレイ、触覚出力、ホログラム、仮想現実感、等々を含み得る。入力機構112Bの例は、実例として、マイクロホン、タッチスクリーン、ホログラム、仮想現実感、カメラ、キーボード、他のポインタ入力のマウス、任意のタイプのセンサ、等々を含み得る。
[0030]本明細書で説明される実施形態は、例えば、下記でより詳細に論考されるような、1つまたは複数のプロセッサおよびシステムメモリなどのコンピュータハードウェアを含む、専用または汎用コンピューティングシステムを、含む、または、利用することがある。本明細書で説明される実施形態は、さらには、コンピュータ実行可能命令および/またはデータ構造を、搬送または記憶するための、物理的な、および他のコンピュータ可読媒体を含む。そのようなコンピュータ可読媒体は、汎用または専用コンピューティングシステムによりアクセスされ得る、任意の利用可能な媒体であり得る。コンピュータ実行可能命令を記憶するコンピュータ可読媒体は、物理的記憶媒体である。コンピュータ実行可能命令を搬送するコンピュータ可読媒体は、伝送媒体である。かくして、制限ではなく例として、実施形態は、少なくとも2つの明確に異なる種類のコンピュータ可読媒体:記憶媒体および伝送媒体を含み得る。
[0031]コンピュータ可読記憶媒体は、所望されるプログラムコード手段をコンピュータ実行可能命令またはデータ構造の形式で記憶するために使用され得る、および、汎用または専用コンピューティングシステムによりアクセスされ得る、RAM、ROM、EEPROM、CD−ROMもしくは他の光学ディスク記憶機構、磁気ディスク記憶機構もしくは他の磁気記憶デバイス、または、任意の他の物理的および有形な記憶媒体を含む。
[0032]「ネットワーク」は、コンピューティングシステム、および/またはモジュール、および/または他の電子デバイスの間の電子データの移送を可能にする、1つまたは複数のデータリンクと定義される。情報が、ネットワークまたは別の通信接続(ハードワイヤード、ワイヤレス、または、ハードワイヤードもしくはワイヤレスの組み合わせのいずれか)を介して、コンピューティングシステムに転送または提供されるとき、コンピューティングシステムは、当然のことながら、接続を伝送媒体とみなす。伝送媒体は、所望されるプログラムコード手段をコンピュータ実行可能命令またはデータ構造の形式で搬送するために使用され得る、および、汎用または専用コンピューティングシステムによりアクセスされ得る、ネットワークおよび/またはデータリンクを含み得る。上記のものの組み合わせが、さらには、コンピュータ可読媒体の範囲の中に含まれるべきである。
[0033]さらに、様々なコンピューティングシステム構成要素に達すると、コンピュータ実行可能命令またはデータ構造の形式でのプログラムコード手段は、自動的に、伝送媒体から記憶媒体に(または、その逆に)転送され得る。例えば、ネットワークまたはデータリンクを介して受信される、コンピュータ実行可能命令またはデータ構造は、ネットワークインターフェイスモジュール(例えば、「NIC」)の中のRAM内にバッファリングされ得るものであり、次いで結局のところは、コンピューティングシステムRAMに、および/または、コンピューティングシステムにおいての、より揮発性でない記憶媒体に転送され得る。かくして、可読媒体は、さらには(または、主としてでさえあるが)伝送媒体を利用するコンピューティングシステム構成要素内に含まれ得るということが理解されるべきである。
[0034]コンピュータ実行可能命令は、例えば、プロセッサにおいて実行されるときに、汎用コンピューティングシステム、専用コンピューティングシステム、または専用処理デバイスが、所定の機能、または機能のグループを実行することを引き起こす、命令およびデータを含む。代替的に、または加えて、コンピュータ実行可能命令は、コンピューティングシステムを、所定の機能、または機能のグループを実行するように構成し得る。コンピュータ実行可能命令は、例えば、バイナリであることがあり、または、アセンブリ言語などの中間フォーマット命令などの、プロセッサによる直接的な実行の前に何らかの翻訳(コンパイルなど)を経る命令であることさえあり、または、ソースコードであることさえある。
[0035]当業者は、本発明が、パーソナルコンピュータ、デスクトップコンピュータ、ラップトップコンピュータ、メッセージプロセッサ、ハンドヘルドデバイス、マルチプロセッサシステム、マイクロプロセッサベースの、またはプログラマブルな民生用電子機器、ネットワークPC、ミニコンピュータ、メインフレームコンピュータ、移動電話、PDA、ページャ、ルータ、スイッチ、データセンタ、ウェアラブル(眼鏡または腕時計など)、および同類のものを含む、多くのタイプのコンピューティングシステム構成によって、ネットワークコンピューティング環境において実践され得るということを察知するであろう。本発明は、さらには、分散型システム環境において実践され得るものであり、それらの環境において、ネットワークを通して(ハードワイヤードデータリンク、ワイヤレスデータリンクによって、または、ハードワイヤードデータリンクおよびワイヤレスデータリンクの組み合わせによってのいずれかで)リンクされる、ローカルコンピューティングシステムおよびリモートコンピューティングシステムが、両方ともタスクを実行する。分散型システム環境において、プログラムモジュールは、ローカルおよびリモートの両方のメモリ記憶デバイス内に配置され得る。
[0036]当業者は、さらには、本発明が、クラウドコンピューティング環境において実践され得るということを察知するであろう。クラウドコンピューティング環境は分散型であり得るが、このことは要されるものではない。分散型のとき、クラウドコンピューティング環境は、組織の中で国際的に分散型であり得るものであり、および/または、複数個の組織にわたって所有される構成要素を有し得る。本説明、および、後に続く特許請求の範囲において、「クラウドコンピューティング」は、構成可能コンピューティングリソース(例えば、ネットワーク、サーバ、記憶機構、アプリケーション、およびサービス)の共有プールへのオンデマンドネットワークアクセスを可能にするためのモデルと定義される。「クラウドコンピューティング」の定義は、適正に配備されるときにそのようなモデルから得られ得る、他の数多くの利点のいずれにも制限されない。
[0037]実例として、クラウドコンピューティングは現在、構成可能コンピューティングリソースの共有プールへの、ユビキタスな、および便利なオンデマンドアクセスを供するように、市場において用いられる。さらにまた、構成可能コンピューティングリソースの共有プールは、仮想化によって迅速にプロビジョニングされ、低い管理労力またはサービスプロバイダ対話によって解放され、次いで、適宜スケーリングされ得る。
[0038]クラウドコンピューティングモデルは、オンデマンドセルフサービス、幅広いネットワークアクセス、リソースプーリング、迅速な弾力性(rapid elasticity)、測定されるサービス、等々のような、様々な特性からなり得る。クラウドコンピューティングモデルは、さらには、例えば、サービスとしてのソフトウェア(「SaaS」)、サービスとしてのプラットフォーム(「PaaS」)、および、サービスとしてのインフラストラクチャ(「IaaS」)などの、様々なサービスモデルの形式で生じ得る。クラウドコンピューティングモデルは、さらには、プライベートクラウド、コミュニティクラウド、パブリッククラウド、ハイブリッドクラウド、等々のような、異なる配備モデルを使用して配備され得る。本説明において、および、特許請求の範囲において、「クラウドコンピューティング環境」は、クラウドコンピューティングが用いられる環境である。
[0039]図2は、本明細書で説明される原理が動作し得る環境200を例解する。環境200は、パターンを有する、物理的信号(電磁放射または音響など)を放出する、または反射させる、任意の現存の物体、人物、または物であり得る、複数個の物理的実体210を含む、物理的空間201を含み、そのパターンは、それぞれの物体、人物、または物の、1つまたは複数の物理的特徴(さらには、本明細書では状態と呼ばれる)を潜在的に識別するために使用され得る。そのような潜在的に識別する電磁放射の例は、光パターンを有する可視光(例えば、静止画像またはビデオ)であり、その光パターンから、可視実体の特性が探知され得る。そのような光パターンは、任意の時間的な、空間的な、または、より高くさえある次元の空間であり得る。そのような音響の例は、正常の動作においての、または、アクティビティもしくは事象を経る、人間の音声、物体の音、あるいは、反射させられる音響エコーであり得る。
[0040]環境200は、さらには、物理的実体210から物理的信号を受信するセンサ220を含む。センサは、当然ながら、物理的実体が放出する、または反射させる、あらゆる物理的信号を拾い上げる必要はない。実例として、可視光カメラ(静止またはビデオ)は、電磁放射を可視光の形式で受信し、そのような信号を処理可能な形式へと変換する能力があるが、カメラはすべて有限のダイナミックレンジを有するので、任意の周波数のすべての電磁放射を拾い上げることはできない。音響センサは、同じように、所定の周波数レンジに対して設計される、制限されたダイナミックレンジを有する。任意の事例において、センサ220は、(矢印229により表されるように)結果的に生じるセンサ信号を認識構成要素230に提供する。
[0041]認識構成要素230は、受信されるセンサ信号において検出されるパターンに基づいて、場所の中の物理的実体210の1つまたは複数の特徴を、少なくとも推定(例えば、推定または認識)する。認識構成要素230は、さらには、物理的実体の特徴の「少なくとも推定」と関連付けられる信頼度レベルを生成し得る。その信頼度レベルが100%未満であるならば、「少なくとも推定」は推定にすぎない。その信頼度レベルが100%であるならば、「少なくとも推定」は現実に推定を超えるものであり、それは認識である。本説明の残りにおいて、および、特許請求の範囲において、「少なくとも推定される」特徴は、さらには、明快さを高めるために、「検知される」特徴と呼称されることになる。このことは、用語「検知する」の通常の使用法と整合するものであり、なぜならば、「検知される」特徴は、常に完全な確実性を伴って存在するとは限らないからである。認識構成要素230は、深層学習(深層ニューラルネットワークベースの、および、強化ベースの学習機構)および機械学習アルゴリズムを用いて、経験から、画像の中にある全部の物体または人々を学習し、以て、認識の正確性を経時的に向上させることができる。
[0042]認識構成要素230は、(矢印239により表されるように)検知される特徴を、検知される特徴ストア240内へと提供するものであり、その検知される特徴ストア240は、物理的実体が物理的空間の中にあるのが、短い時間の間か、長い時間の間か、永続的にかを問わず、場所201の中の各々の物理的実体に対する、検知される特徴(および、関連付けられる信頼度レベル)を記憶することができる。計算構成要素250は、次いで、検知される特徴ストア240内で提供される、検知される特徴データに関する種々の問い合わせおよび/または計算を実行し得る。問い合わせおよび/または計算は、計算構成要素250と、検知される特徴ストア240との間の(矢印249により表される)対話により可能にされ得る。
[0043]一部の実施形態において、認識構成要素230が、センサにより提供されるセンサ信号を使用して、場所201の中の物理的実体の検知される特徴を検知するとき、センサ信号は、さらには、検知される特徴ストアなどのストアに提供される。実例として、図2において、検知される特徴ストア240は、検知される特徴241と、検知特徴の証拠を表す、対応するセンサ信号242とを含むように例解される。
[0044]検知される複数の実体のうちの少なくとも1つに対する、検知される特徴のうちの少なくとも1つ(および、好ましくは、多く)に対して、少なくとも1つの信号セグメントが、検知される特徴とコンピュータで関連付けられ、そのことによって、検知される特徴へのコンピュータナビゲーションが、さらには、信号セグメントへのコンピュータナビゲーションを可能とする。検知される信号の、関連付けられる信号セグメントとの関連付けは、継続的に実行され得るものであり、かくして、拡張するグラフ、および、信号セグメントの拡張するコレクションを結果的に生じさせる。それでもやはり、下記でさらに説明されるように、ガベージコレクションプロセスが、古くさい、または、もはや関心のものではない、検知される特徴および/または信号セグメントをクリーンアップするために使用され得る。
[0045]信号セグメントは、実例として、信号セグメントを生成したセンサまたは複数のセンサの識別情報などの、複数個のまとまりのメタデータを含み得る。信号セグメントは、そのセンサにより生成された信号のすべてを含む必要はなく、短さのために、おそらくは、個別の物理的実体の検知される特徴を検知するために使用された、信号の一部分のみを含み得る。その事例において、メタデータは、記憶された元の信号セグメントの一部分の記述を含み得る。
[0046]検知される信号は、センサにより生成される任意のタイプの信号であり得る。例は、ビデオ、画像、およびオーディオ信号を含む。しかしながら、信号の多様性は、人間により検知され得るものに制限されない。実例として、信号セグメントは、より良好な人間注目の人間観測を可能とするために、センサにより生成される信号の変換されるバージョンを表し得る。そのような変換は、フィルタリング、周波数に基づくそのようなフィルタリング、または量子化を含み得る。そのような変換は、さらには、増幅、周波数偏移、速さ調整、拡大、振幅調整、等々を含み得る。
[0047]記憶域所要量の低減、および、関心の信号への適正な注目を可能とするために、おそらくは、信号セグメントの一部分のみが記憶される。実例として、ビデオ信号ならば、おそらくは、ビデオのフレームの一部分のみが記憶される。さらにまた、任意の所与の画像に対して、おそらくは、フレームの、関連性のある一部分のみが記憶される。同じように、センサ信号が画像であったならば、おそらくは、画像の、関連性のある一部分のみが記憶される。信号セグメントを使用して特徴を検知する認識サービスは、信号セグメントのどの一部分が特徴を検知するために使用されたかを承知している。よって、認識サービスは、任意の所与の検知される特徴に対して、信号の、関連性のある一部分を具体的にくりぬくことができる。
[0048]計算構成要素250は、さらには、検知される特徴ストア240に関するデータへのアクセスを決定し得るセキュリティ構成要素251を有し得る。実例として、セキュリティ構成要素251は、どのユーザが、検知される特徴データ241および/またはセンサ信号242にアクセスし得るかを制御し得る。さらにまた、セキュリティ構成要素251は、検知される特徴データのどれにわたって計算が実行されるか、および/または、どのユーザが何のタイプの計算もしくは問い合わせを実行することを認可されるかを制御することさえある。かくして、セキュリティが効果的に達成される。このセキュリティに関する、より多くのことは、図6について下記で説明されることになる。
[0049]検知される特徴データは、物理的空間201の中の物理的実体の検知される特徴を経時的に表すので、複雑なコンピューティングが、物理的空間201の中の物理的実体に関して実行され得る。下記で説明されることになるように、ユーザにとって、それはあたかも、まさに環境それ自体が、その物理的空間に関する任意のコンピューティング問い合わせまたは計算に対して準備を整えている、助けになるコンピューティングパワーで満たされるかのようである。このことは、本明細書では以降、さらには「アンビエントコンピューティング」と呼称されることになる。
[0050]さらにまた、検知される特徴が関心のものであるときはいつでも、その特徴のその認識構成要素検知をサポートする証拠が再構築され得る。実例として、コンピューティング構成要素240は、個別の物理的実体が個別の場所に最初に進入したときのビデオ証拠を提供し得る。複数個のセンサが、その特徴を検知するために認識構成要素により使用されたセンサ信号を生成したならば、任意の個々のセンサ、または、センサの組み合わせに対するセンサ信号が、再構築および評価され得る。かくして、実例として、個別の場所に最初に進入する物理的実体のビデオ証拠が、異なる角度から再調査され得る。
[0051]物理的空間201は、図2において例解され、内にセンサを有する任意の物理的空間の抽象的表現であることを意図されるにすぎない。そのような物理的空間の無限の例があるが、例は、部屋、家、近所、工場、競技場、ビルディング、フロア、事務所、車、飛行機、宇宙船、ペトリ皿、パイプまたはチューブ、大気圏、地下空間、洞窟、陸地、それらの組み合わせおよび/または一部分を含む。物理的空間201は、その場所の中の物理的実体から放出される、それらの物理的実体により影響を及ぼされる(例えば、回折、周波数偏移、エコー、その他)、および/または、それらの物理的実体から反射させられる信号を受信する能力があるセンサが存在する限りにおいて、観測可能な宇宙の全体、または、その任意の一部分であり得る。
[0052]物理的空間201の中の物理的実体210は、単に例として、4つの物理的実体211、212、213、および214を含むように例解される。省略符号215は、センサ220からのデータに基づいて検知されている特徴を有する、任意の数の、および種々の物理的実体が存し得るということを表す。省略符号215は、さらには、物理的実体が場所201を抜け出る、および、場所201に進入することがあるということを表す。かくして、場所201の中の物理的実体の数およびアイデンティティは、経時的に変化し得る。
[0053]物理的実体の位置が、さらには経時的に変動し得る。物理的実体の位置は、図2において物理的空間201の上側の一部分において示されるが、このことは、単純に、分かりやすい標示の目的のためのものである。本明細書で説明される原理は、物理的空間201の中の任意の個別の物理的位置を占有する、任意の個別の物理的実体に依存的ではない。
[0054]最後にあたって、単に約束事のために、および、物理的実体210をセンサ220と区別するために、物理的実体210は三角として例解され、センサ220は円として例解される。物理的実体210およびセンサ220は、当然ながら、任意の物理的形状またはサイズを有し得る。物理的実体は、典型的には、形状において三角形ではなく、センサは、典型的には、形状において円形ではない。さらにまた、センサ220は、物理的空間201の中の物理的実体を観測することを、それらのセンサ220がその物理的空間201の中で物理的に配置されるか否かに対して関係なく行い得る。
[0055]物理的空間201の中のセンサ220は、単に例として、2つのセンサ221および222を含むように例解される。省略符号223は、物理的空間の中の物理的実体により放出される、影響を及ぼされる(例えば、回折、周波数偏移、エコー、その他によって)、および/または、反射させられる信号を受信する能力がある、任意の数の、および種々のセンサが存在し得るということを表す。動作可能なセンサの数および能力は、物理的空間の中のセンサが、追加される、除去される、アップグレードである、壊される、置換される、等々の際に、経時的に変化し得る。
[0056]図3は、物理的空間の中の物理的実体を追跡するための方法300のフローチャートを例解する。方法300は、図2の物理的空間201の中の物理的実体210を追跡するために実行され得るので、図3の方法300は、今から、図2の環境200を頻繁に参照して説明されることになる。さらには、図4は、方法300を実行することを支援するために使用され得る、ならびに、追跡される物理的実体に関する問い合わせを後で実行するために、および、おそらくはさらには、追跡される物理的実体と関連付けられるセンサ信号にアクセスし、それらのセンサ信号を再調査するために使用され得る、実体追跡データ構造400を例解する。さらにまた、実体追跡データ構造400は、図4の検知される特徴ストア240内に記憶され得る(そのことは、検知される特徴データ241として表される)。よって、図3の方法300は、さらには、図4の実体追跡データ構造400を頻繁に参照して説明されることになる。
[0057]追跡することを支援するために、物理的空間に対する空間−時間データ構造がセットアップされる(行為301)。このデータ構造は、分散型データ構造または非分散型データ構造であり得る。図4は、空間−時間データ構造401を含む実体追跡データ構造400の例を例解する。この実体追跡データ構造400は、検知される特徴データ241として、図2の検知される特徴ストア240の中に含まれ得る。本明細書で説明される原理は、物理的実体、ならびに、それらの検知される特徴およびアクティビティを追跡することについて説明されるが、本明細書で説明される原理は、2つ以上の場所の中の物理的実体(ならびに、それらの検知される特徴およびアクティビティ)を追跡することのために動作し得る。その事例において、おそらくは空間−時間データ構造401は、(省略符号402Aおよび402Bにより象徴化されるように)実体追跡データ構造400により表されるツリー内のルートノードではない。むしろ、共通ルートノードを介して相互接続され得る、複数個の空間−時間データ構造が存在し得る。
[0058]次いで、図3に戻ると、囲み310Aの内容が、物理的空間(例えば、物理的空間201)の中に少なくとも一時的にある、複数個の物理的実体(例えば、物理的実体210)の各々に対して実行され得る。さらにまた、囲み310Bの内容が、囲み310Aの中に入れ子にされているように例解され、その内容が、所与の物理的実体に対して、複数回の各々において実行され得るということを表す。方法300を実行することにより、複雑な実体追跡データ構造400が、作成され、成長させられることが、以て、場所の中に1つまたは複数の回数ある、物理的実体の検知される特徴を記録するために行われ得る。さらにまた、実体追跡データ構造400は、潜在的にさらには、所定の検知される特徴(または、特徴変化)が認識されることを結果的に生じさせた、検知される信号にアクセスするために使用され得る。
[0059]個別の時間においての場所内の個別の物理的実体に対して、物理的実体は、1つまたは複数のセンサにより検知される(行為311)。換言すれば、物理的実体から放出される、物理的実体により影響を及ぼされる(例えば、回折、周波数偏移、エコー、その他によって)、および/または、物理的実体から反射させられる、1つまたは複数の物理的信号が、センサのうちの1つまたは複数により受信される。図1を参照して、物理的実体211が、個別の時間においてセンサ221および222の両方により検知される、1つまたは複数の特徴を有するということを想定する。
[0060]セキュリティの1つの態様が、この時点において登場し得る。認識構成要素230は、個別のセッティングによって、個別の物理的実体と関連付けられる、検知される特徴を記録することを、個別のタイプの、および/もしくは、個別の時間において生成されるセンサ信号から検知された、検知される特徴を記録することを、または、それらの組み合わせを記録することを拒絶し得るセキュリティ構成要素231を有し得る。実例として、おそらくは認識構成要素230は、場所の中にいる、いかなる人々の検知される特徴も記録しないことになる。よりきめの細かい例として、おそらくは認識構成要素230は、1組の人々の検知される特徴を記録することを、それらの検知される特徴が、人物のアイデンティティまたは性別に関係する場合、および、それらの検知される特徴が、個別の時間フレームにおいて生成されたセンサ信号から結果的に生じた場合、行わないことになる。このセキュリティに関する、より多くのことは、やはり、図6について下記で説明されることになる。
[0061]許されるならば、物理的実体が検知された個別の時間の少なくとも近似が、物理的実体に対応する実体データ構造の中で表され、これは、空間−時間データ構造とコンピューティングで関連付けられる(行為312)。実例として、図4を参照すると、実体データ構造410Aは、物理的実体211に対応し得るものであり、空間−時間データ構造401と(線430Aにより表されるように)コンピューティングで関連付けられる。本説明において、および、特許請求の範囲において、データ構造の1つのノードは、コンピューティングシステムが、何の手段によってであれ、2つのノードの間の関連付けを検出することができるならば、データ構造の別のノードと「コンピューティングで関連付けられる」。実例として、ポインタの使用は、コンピューティング関連付けに対する1つの機構である。データ構造のノードは、さらには、データ構造の他のノードの中に含まれることにより、および、コンピューティングシステムにより関連付けであると認識される任意の他の機構により、コンピューティングで関連付けられ得る。
[0062]時間データ411は、実体データ構造410Aの中で、物理的実体が(少なくとも、囲み310Bの内容の、この時間反復において)検知された時間の少なくとも近似を表す。時間は、実時間(例えば、原子時計について具現される)であり得るものであり、または、人為的な時間であり得る。実例として、人為的な時間は、実時間からずらされる、および/または、実時間とは異なる様式で具現される時間(例えば、千年紀の最後の変わり目からの秒または分の数)であり得る。人為的な時間は、さらには、各々の検知においてインクリメントする、単調に増大する数により具現される時間などの論理的時間であり得る。
[0063]さらには、(行為311においての)個別の時間においての個別の物理的実体の検知に基づいて、個別の物理的実体が個別の時間において実在する環境は、個別の物理的実体の、少なくとも1つの物理的特徴(および、おそらくは複数個)を検知する(行為313)。実例として、図2を参照すると、認識構成要素230は、物理的実体211の、少なくとも1つの物理的特徴を、(例えば、矢印229により表されるように)センサ221および222から受信される信号に基づいて検知し得る。
[0064]個別の物理的実体の、検知される少なくとも1つの物理的特徴は、次いで、個別の時間の少なくとも近似とコンピューティングで関連付けられる様式で、実体データ構造内で表される(行為314)。実例として、図2において、検知される特徴データは、(矢印239により表されるように)検知される特徴ストア240に提供される。一部の実施形態において、この検知される特徴データは、実体追跡データ構造400を実質的に1つの行為において修正するように、個別の時間の少なくとも近似とともに提供され得る。換言すれば、行為312および行為314は、検知される特徴ストア240内への書き込み動作を低減するために、実質的に同じ時間に実行され得る。
[0065]さらにまた、許されるならば、認識構成要素が、検知される特徴を検知するために依拠したセンサ信号が、検知される特徴とコンピュータで関連付けられる様式で記録される(行為315)。実例として、検知される特徴データ241内(例えば、空間−時間データ構造401内)にある、検知される特徴は、検知される信号データ242内に記憶される、そのようなセンサ信号とコンピューティングで関連付けられ得る。
[0066]図4を参照すると、第1の実体データ構造は今、時間411とコンピューティングで関連付けられる、検知される特徴データ421を有する。この例において、検知される特徴データ421は、物理的実体の、2つの検知される物理的特徴421Aおよび421Bを含む。しかしながら、省略符号421Cは、検知される特徴データ421の部分として実体データ構造401の中に記憶される、物理的実体の、任意の数の検知される特徴が存在し得るということを表す。実例として、任意の個別の時間において検出される際に、任意の所与の物理的実体に対して、単一の検知される特徴、または、無数の検知される特徴、または、中間の任意の数が存在し得る。
[0067]一部の事例において、検知される特徴は、他の特徴と関連付けられ得る。実例として、物理的実体が人物であるならば、特徴は人物の名前であり得る。その具体的に識別される人物は、実体データ構造の中で表されない特徴に基づく、知られている特性を有することがある。実例として、人物は、組織の中での所定の地位または身分を有する、所定の訓練を有する、所定の身長である、等々のことがある。実体データ構造は、データ構造に関する問い合わせすることおよび/または他の計算のリッチさをいっそうさらに伸展するように、個別の特徴が検知される(例えば、名前)とき、その物理的実体の追加的な特徴(例えば、地位、身分、訓練、身長)をポイントすることにより伸展され得る。
[0068]検知される特徴データは、さらには、物理的実体が現実に個別の時間410Aにおいて、検知される特徴を有するということの推定される確率を表す、各々の検知される特徴と関連付けられる信頼度レベルを有し得る。この例において、信頼度レベル421aが、検知される特徴421Aと関連付けられ、物理的実体211が現実に検知される特徴421Aを有するということの信頼度を表す。同じように、信頼度レベル421bが、検知される特徴421Bと関連付けられ、物理的実体211が現実に検知される特徴421Bを有するということの信頼度を表す。省略符号421cは、やはり、任意の数の物理的特徴に対して具現される信頼度レベルが存在し得るということを表す。さらにまた、(例えば、確実性が存在する事例において、または、検知される物理的特徴の信頼度を測定することが、重要でない、もしくは望ましくない事例において)具現される信頼度レベルが存在しない、一部の物理的特徴が存在することがある。
[0069]検知される特徴データは、さらには、その信頼度レベルの検知特徴を検知するために認識構成要素により使用されたセンサ信号へのコンピューティング関連付け(例えば、ポインタ)を有し得る。実例として、図4において、センサ信号421Aaが、検知される特徴421Aとコンピューティングで関連付けられ、時間411において、検知される特徴421Aを検知するために使用されたセンサ信号を表す。同じように、センサ信号421Bbが、検知される特徴421Bとコンピューティングで関連付けられ、時間411において、検知される特徴421Bを検知するために使用されたセンサ信号を表す。省略符号421Ccは、やはり、任意の数の物理的特徴のコンピューティング関連付けが存在し得るということを表す。
[0070]認識構成要素230のセキュリティ構成要素231は、さらには、個別の時間において個別の特徴を検知するために使用されたセンサ信号を記録すべきか否かを判断することにおいて、セキュリティを働かせ得る。かくして、セキュリティ構成要素231は、1)個別の特徴が検知されたということを記録すべきかどうかを決定すること、2)個別の物理的実体と関連付けられる特徴を記録すべきかどうかを決定すること、3)個別の時間において検知される特徴を記録すべきかどうかを決定すること、4)センサ信号を記録すべきかどうか、および、そうであるならば、どの信号を検知される特徴の証拠として記録すべきかを決定すること、等々において、セキュリティを働かせ得る。
[0071]例として、追跡されている場所が部屋であるということを想定する。今から、画像センサ(例えば、カメラ)が、部屋の中の何かを検知するということを想定する。例の検知される特徴は、「物」が人間であるということである。別の例の検知される特徴は、「物」が個別の名付けられた人物であるということである。「物」が人物であるということの100パーセントの信頼度レベル、ただし、人物が具体的な識別される人物であるということのわずか20パーセントの信頼度レベルが存在することがある。この事例において、検知される特徴セットは、より具体的なタイプの別の特徴である1つの特徴を含む。さらにまた、カメラからの画像データが、個別の時間においての個別の物理的実体の検知される特徴の記録によりポイントされ得る。
[0072]別の例特徴は、物理的実体が、単純に場所の中に、または、場所の中の個別の位置に実在するということである。別の例は、これが、個別の時間からの(例えば、近時の時間において、または、これまででということさえある)物理的実体の最初の出現であるということである。特徴の別の例は、品目が無生物(例えば、99パーセント確実性を伴う)、道具(例えば、80パーセント確実性を伴う)、およびハンマ(例えば、60パーセント確実性を伴う)であるということである。別の例特徴は、物理的実体が、場所から、もはや存在しない(例えば、欠けている)、または、個別の姿勢を有する、所定の方角に向きを定められる、または、場所の中の別の物理的実体との位置的関係性を有する(例えば、「テーブル上に」、または、「椅子#5に座る」)ということである。
[0073]任意の事例において、任意の場所の中の物理的実体の数およびタイプから検知され得る、特徴の数およびタイプは無数である。さらには、以前に述べられたように、囲み310Bにより表されるように、囲み310Bの中の行為は、潜在的に、任意の所与の物理的実体に対して、複数回、実行され得る。実例として、物理的実体211は、センサ221および222のうちの1つまたは両方により、対照をなして検出され得る。図4を参照すると、この検出は、実体データ構造410の中で表されることになる、次の検出の時間(または、近似である)を結果的に生じさせる。実例として、時間412が、さらには、実体データ構造の中で表される。さらにまた、検知される特徴422(例えば、おそらくは、検知される特徴422Aおよび422Bを、やはり柔軟性を表す省略符号422Cとともに含む)が、第2の時間412とコンピューティングで関連付けられる。さらにまた、それらの検知される特徴は、さらには、関連付けられる信頼度レベル(例えば、422a、422b、省略符号422c)を有し得る。同じように、それらの検知される特徴は、さらには、関連付けられるセンサ信号(例えば、422Aa、422Bb、省略符号422Cc)を有し得る。
[0074]第2の時間において検知される、検知される特徴は、第1の時間において検知される、検知される特徴と同じ、または異なることがある。信頼度レベルは、経時的に変化し得る。例として、人間が、時間#1において、大きい部屋の1つの側部において、画像によって、90パーセント信頼度を伴って検出され、人間は、具体的には、John Doeであると、30パーセント信頼度を伴って検知されるということを想定する。今、0.1秒後である時間#2において、John Doeは、部屋の別の部分において15.24m(50フィート)離れて、100パーセント信頼度を伴って検知され、人間が、John Doeが時間1において、いることを思索された同じ場所にとどまる。人間は、(少なくとも事務所セッティングにおいて)15.24m(50フィート)を1秒の10分の1で移動しないので、今や、時間1において検出された人間は、まったくJohn Doeではないということが結論付けられ得る。そのため、人間がJohn Doeであるということの時間#1に対する信頼度は、ゼロに低減される。
[0075]図2に戻ると、省略符号413および423は、物理的実体が場所の中で検出され得る回数の数に対する制限が存在しないということを表す。後続の検出が行われる際、より多くのことが、物理的実体に関して学習され得るものであり、かくして、検知される特徴は、各々の検知される特徴に対する信頼度レベルに対する対応する調整によって、適切なように追加(または除去)され得る。
[0076]今や、囲み310Bの外側に移り、ただし囲み310Aの中にとどまって、任意の所与の物理的実体に対して、異なる時間においての個別の物理的実体の検知される特徴の比較(行為321)に基づいて、個別の実体においての特徴変化が検知され得る(行為322)。この検知される変化は、認識構成要素230または計算構成要素250により実行され得る。所望されるならば、それらの検知される変化は、さらには記録され得る(行為323)。実例として、検知される変化は、個別の時間とコンピューティングで関連付けられる、または、おそらくは関連付けられない様式で、実体データ構造410A内に記録され得る。特徴変化の証拠となるセンサ信号が、各々の時間において、検知される特徴の証拠となったセンサ信号を使用して再構築され得る。
[0077]実例として、第1の時間においての検知される特徴が、場所の中の物理的実体の存在であることに基づいて、および、第2の時間においての第2の特徴が、場所の中の物理的実体の欠けであることに基づいて、物理的実体は物理的空間を抜け出たということが結論付けられ得る。反対に、第1の時間においての検知される特徴が、場所からの物理的実体の欠けであり、第2の時間においての第2の特徴が、場所の中の物理的実体の存在であることに基づいて、物理的実体は場所に進入したということが結論付けられ得る。一部の事例において、おそらくは、物理的空間からの欠けは、物理的実体において、その物理的実体が物理的空間内に存在すると最初に検出されるまでは探し求められない。
[0078]今、囲み310Aを参照すると、物理的実体の特徴のこの追跡は、経時的に複数個の実体に対して実行され得る。実例として、囲み310Aの内容は、物理的空間201の中の物理的実体211、212、213、もしくは214の各々に対して、または、物理的空間201に進入する、もしくは、物理的空間201を抜け出る、他の物理的実体に対して実行され得る。図4を参照すると、空間−時間データ構造401は、さらには、(おそらくは、図2の第2の物理的実体212と関連付けられる)第2の実体データ構造410B、(おそらくは、図2の第3の物理的実体213と関連付けられる)第3の実体データ構造410C、および、(おそらくは、図2の第4の物理的実体214と関連付けられる)第4の実体データ構造410Dと(線430B、430C、および430Dにより表されるように)コンピューティングで関連付けられる。
[0079]空間−時間データ構造401は、さらには、条件およびアクションを定義する、1つまたは複数のトリガを含み得る。条件が満たされるとき、対応するアクションが発生することになる。トリガは、空間−時間データ構造内の任意の場所に記憶され得る。実例として、条件が/またはアクションが、個別の実体データ構造についてのものであるならば、トリガは、対応する実体データ構造内に記憶され得る。条件および/またはアクションが、個別の実体データ構造の個別の特徴についてのものであるならば、トリガは、対応する特徴データ構造内に記憶され得る。
[0080]省略符号410Eは、実体データ構造の数が変化し得るということを表す。実例として、追跡データが、物理的空間の中にずっとある物理的実体について永久に保たれるならば、追加的な実体データ構造が、新しい物理的実体が場所の中で検出される各々の時間に追加され得るものであり、任意の所与の実体データ構造が、物理的実体が物理的空間の中で検出される各々の時間に増され得る。しかしながら、ガベージコレクションが、(例えば、クリーンアップ構成要素260により)実体追跡データ構造400に、適正に編集、記憶、および/またはナビゲートされるには大きすぎるように成長させないために実行され得るということを想起されたい。
[0081]囲み310Aの外側で、関連付けられる実体データ構造の比較(行為331)に基づいて、異なる物理的実体の間の物理的関係性が検知され得る(行為332)。それらの物理的関係性は、同じように、おそらくは、検知される物理的関係性を有する、関連付けられる実体データ構造の中で、および/または、おそらくは、物理的実体が関係性を有すると検知される時間と関連付けられて、実体追跡データ構造401内に記録され得る(行為333)。実例として、時間を通しての異なる物理的実体に対する実体データ構造の分析により、個別の時間においてということ、物理的実体が別の物理的実体の背後に隠され得るということ、または、物理的実体が別の物理的実体の検知を不明瞭にしていることがあるということ、または、2つの物理的実体が結び付けられたということ、または、物理的実体が複数個の物理的実体を作成するために引き離されたということが決定され得る。物理的実体関係性の証拠となるセンサ信号が、適切な時間において、および、各々の物理的実体に対して、検知される特徴の証拠となったセンサ信号を使用して再構築され得る。
[0082]特徴データストア240は、今や、物理的空間の中の経時的な物理的実体の表現に対する複雑な関数および問い合わせを、それを基に計算するための、強力なストアとして使用され得る。そのような計算および問い合わせすることは、計算構成要素250により実行され得る。このことは、数え上げられる数の助けになる実施形態を可能にし、実際、本明細書では「アンビエントコンピューティング」と呼称される、全体的に新しい形式のコンピューティングを導き入れる。センサを有する物理的空間の中で、それはあたかも、まさに空気それ自体が、物理的世界に関する状態を計算および検知するために使用され得るかのようである。それはあたかも、水晶球が今や、その物理的空間に対して作成されており、その水晶球から、その場所に関する多くの物、およびその歴史を、問い合わせおよび/または計算することが可能であるかのようである。
[0083]例として、ユーザは今、物体がまさしく今、物理的空間内にあるかどうか、または、どこに物体が、個別の時間において物理的空間の中にあったかを問い合わせすることができる。ユーザは、さらには、個別の特徴(例えば、会社の中での地位または身分)を有するどの人物が、まさしく今、その物体の近くにいるかを問い合わせし、物体をユーザに持っていくように、その人物と通信することができる。ユーザは、物理的実体の間の関係性に関して問い合わせすることができる。実例として、ユーザは、誰が物体の所有権を有するかを問い合わせすることができる。ユーザは、物体の状態に関して、それが隠されているかどうか、および、何の他の物体がその物体の視認を不明瞭にしているかを問い合わせすることができる。ユーザは、いつ物理的実体が物理的空間の中に最初に出現したか、いつそれらが抜け出たか、等々を問い合わせすることができる。ユーザは、さらには、いつ明かりが消されたか、いつシステムが物理的実体の1つまたは複数の特徴の中のいくつかになったかを問い合わせすることができる。ユーザは、さらには、物体の特徴に関して検索することができる。ユーザは、さらには、場所の中で発生したアクティビティに関して問い合わせすることができる。ユーザは、個別のタイプの物理的実体が場所の中にある平均時間を計算する、どこに物理的実体が何らかの将来の時間において、あることになるかを予想する、等々のことができる。よって、リッチなコンピューティングおよび問い合わせすることが、センサを有する物理的空間に関して実行され得る。
[0084]以前に述べられたように、コンピュータナビゲート可能グラフは、検知される特徴と関連付けられる信号セグメントを有し得る。図5は、関心の信号セグメントを効率的にレンダリングするための方法500のフローチャートを例解する。最初に、コンピューティングシステムは、検知される特徴のナビゲート可能グラフをナビゲートして、個別の検知される特徴に達する(行為501)。実例として、このナビゲーションは、自動的に、または、ユーザ入力に応答して実行され得る。ナビゲーションは、算出の結果であり得るものであり、または単純に、関心の検知される特徴を識別することを必然的に含み得る。別の例として、ナビゲーションは、ユーザ問い合わせの結果であり得る。一部の実施形態において、算出または問い合わせは、複数個の検知される特徴がナビゲートされることを結果的に生じさせ得る。例として、コンピューティングシステムは、図2においての検知される特徴222Aへとナビゲートするということを想定する。
[0085]コンピューティングシステムは、次いで、個別の検知される特徴と、関連付けられるセンサ信号との間のコンピュータ関連付けを使用して、個別の検知される特徴とコンピュータで関連付けられる、検知される信号へとナビゲートする(行為502)。実例として、図2において、検知される特徴が、検知される特徴222Aであると、コンピュータ関連付けが、信号セグメント222Aaへとナビゲートするために使用される。
[0086]最後に、信号セグメントが、次いで、適切な出力デバイス上でレンダリングされ得る(行為503)。実例として、コンピューティングシステムが、図1のコンピューティングシステム100であるならば、適切な出力デバイスは、出力機構112Aのうちの1つまたは複数であり得る。実例として、オーディオ信号が、スピーカを使用してレンダリングされ得るものであり、視覚データが、ディスプレイを使用してレンダリングされ得る。検知される信号へとナビゲートする後、複数のことが生起し得る。ユーザは、個別の信号セグメントをプレイする、または、おそらくは、特徴の一因となった複数個の信号セグメントから選定することができる。ビューが、複数個の信号セグメントから合成され得る。
[0087]コンピューティングが物理的世界に関して実行されることによって、新しいタイプのアンビエント計算が可能にされる。それはあたかも、コンピュータが、空気それ自体の中で実施される、まさにアンビエント環境において利用可能であり、その空気と接触している任意の地点にあった物理的実体に関する計算を実行することができるかのようである。作業場において、生産性は、このアンビエントコンピューティングを使用して大幅に向上させられ得る。実例として、ユーザは、置き違えられた道具を素早く見つけ出すことがあり、または、道具に近い同僚と通信することができることがあり、そのことによって、ユーザは、その同僚に、その道具をつかんで、それをユーザに持っていくように頼むことができる。さらにまた、アンビエントコンピューティングに加えて、人間は、関心の個別の時間において、関心の個別の物理的実体に対する、関心の特徴を検知するために使用されたセンサ信号を再調査することができる。しかしながら、アンビエントコンピューティングの、責任の重い使用に起因することによる、物理的生産性を向上させるためのシナリオの数は無制限である。
[0088]今やアンビエントコンピューティングの原理が、図2ないし5について説明されたので、そのようなアンビエントコンピューティングの背景状況において実行され得るセキュリティ機構が、図6について説明されることになる。図6は、物理的空間内の1つもしくは複数のセンサにより検知される情報の作成、または、その情報へのアクセスを制御するための方法600のフローチャートを例解する。方法は、経時的に物理的空間内で検知される、検知される物理的実体の特徴のコンピュータナビゲート可能グラフを作成するステップ(行為601)を含む。本明細書で説明される原理は、そのようなコンピュータナビゲート可能グラフの寸分違わない構造に制限されない。例構造、および、その作成は、図2ないし4について説明されている。
[0089]方法600は、さらには、コンピュータナビゲート可能グラフのノードの作成、または、それらのノードへのアクセスを、1つまたは複数の判定基準に基づいて制約するステップ(行為602)を含む。かくして、セキュリティが、コンピュータナビゲート可能グラフに課される。矢印603および604は、グラフを作成すること、および、そのグラフのノードに対する作成/アクセスを制約することのプロセスが、継続的なプロセスであり得るということを表す。グラフは、継続的に、ノードがグラフに追加され(および、おそらくは、グラフから除去され)得る。さらにまた、作成の制約は、ノードの作成の可能性があるときはいつでも考慮され得る。アクセスの制約は、グラフのノードが作成されるときに、または、その後の任意の時点において判断され得る。制約の例は、実例として、検知される物理的実体の見込みのアイデンティティ、検知される物理的実体の検知される特徴、等々を含み得る。
[0090]コンピュータナビゲート可能グラフのノードへのアクセスが認可されるかどうかを決定することにおいて、各々のノードに対するアクセス判定基準が存在し得る。そのようなアクセス判定基準は、明示的または暗黙のものであり得る。すなわち、アクセスされることになるノードに対して明示的なアクセス判定基準が存在しないならば、おそらくは、アクセス判定基準のデフォルトセットが適用され得る。任意の所与のノードに対するアクセス判定基準は、任意の様式で組織化され得る。実例として、1つの実施形態において、ノードに対するアクセス判定基準は、コンピュータナビゲート可能グラフ内のノードとともに記憶され得る。
[0091]アクセス制約は、さらには、要求されるアクセスのタイプに基づく制約を含み得る。実例として、計算的アクセスは、ノードが、直接的にアクセスされるのではなく、計算において使用されるということを意味する。ノードの内容を読み出すための直接的なアクセスが制約され得る一方で、ノードの厳密な内容を報告しない計算的アクセスは可能とされ得る。
[0092]アクセス制約は、さらには、アクセスされるノードのタイプに基づくものであり得る。実例として、コンピュータナビゲート可能グラフの個別の実体データ構造ノードへのアクセスにおいての制約が存在し得る。実例として、その個別の実体データ構造ノードが、物理的空間内の個別の人物の検出を表すならば、アクセスは拒否され得る。さらには、コンピュータナビゲート可能グラフの個別の信号セグメントノードへのアクセスにおいての制約が存在し得る。例として、おそらくは誰しも、人物が所与の時間において、ある場所内にいたと決定することはでき得るが、その場所においてのその人物のビデオ記録物を再調査することはでき得ない。アクセス制約は、さらには、誰がアクセスの要求者であるかに基づくものであり得る。
[0093]コンピュータナビゲート可能グラフの、個別の検知される特徴ノードの作成を制約すべきかどうかを決定することにおいて、考慮される種々の判定基準が存在し得る。実例として、コンピュータナビゲート可能グラフの、個別の信号セグメントノードの作成においての制約が存在し得る。
[0094]図7は、物理的空間内の検知される特徴のコンピュータナビゲート可能グラフを作成すること(行為701)に加えて、さらには、コンピュータナビゲート可能グラフのプルーニング(行為702)が存在し得るということを示す、再帰フロー700を例解する。これらの行為は、(矢印703および704により表されるように)同時的および継続的に発生することがあり、以て、検知される特徴のコンピュータナビゲート可能グラフを管理可能なサイズで保つために起こることさえある。どのようにコンピュータナビゲート可能グラフが作成され得るか(行為701として表される)に関して、本明細書内に相当量の説明が存在している。
[0095]今から、本説明は、どのようにコンピュータナビゲート可能グラフが、コンピュータナビゲート可能グラフの、1つまたは複数のノードを除去するためにプルーニングされ得るか(行為702)に重点を置くことになる。コンピュータナビゲート可能グラフの任意のノードは、除去に従わなければならないことがある。実例として、物理的実体データ構造の検知される特徴は、特定の時間、または、時間のグループに対して除去され得る。物理的実体データ構造の検知される特徴は、さらには、すべての時間に対して除去され得る。物理的実体データ構造の、2つ以上の検知される特徴が、任意の所与の時間に対して、または、時間の任意のグループに対して除去され得る。さらにまた、物理的実体データ構造は、一部の事例において、全体的に除去され得る。
[0096]ノードの除去は、実例として、物理的グラフが、物理の法則を与えられたとすると不可能である何かを表すときに発生し得る。実例として、所与の物体は、同じ時間に2つの所にはあり得ないものであり、その物体は、短い量の時間内に相当量の距離を移動することを、そのような移動が、もっともらしくない、または不可能である環境において行うこともまたできない。よって、物理的実体が、1つの場所において絶対的な確実性を伴って追跡されるならば、同じ物理的実体が、整合しない場所にあるということを、より少ない信頼度を伴って表す、任意の物理的実体データ構造は削除され得る。
[0097]ノードの除去は、さらには、より多くの信頼度が、物理的実体の検知される特徴に関して得られるときに発生し得る。実例として、場所の中の物理的実体の検知される特徴が、100パーセント確実性を伴って決定されるならば、その物理的実体のその検知される特徴の確実性レベルは、さらにはすべての先行の時間に対して100パーセントを読み出すために更新され得る。さらにまた、物理的実体に適用可能でないように学習された(すなわち、信頼度レベルが、ゼロまたは無視できるほどに低減した)検知される特徴、その検知される特徴が、その物理的実体に対して除去され得る。
[0098]さらにまた、コンピュータナビゲート可能グラフ内の一部の情報は、単純に、陳腐すぎて有用でないことがある。実例として、物理的実体が、物理的実体の先行の認識をもはや関連性のないものにするように、相当量の期間の時間の間、物理的空間内で観測されなかったならば、物理的実体データ構造全体が除去され得る。さらにまた、陳腐化された様態になった物理的実体の検出は除去され得るが、物理的実体データ構造は、より近時の検出を反映するように残存する。かくして、コンピュータナビゲート可能グラフのクレンジング(またはプルーニング)が、内的分析によって、および/または、外的情報によって実行され得る。このプルーニングは、より少ない品質の情報を除去すること、および、記憶されるべき、より関連性のある情報に対する空間を空けることにより、コンピュータナビゲート可能グラフ内で表される情報の品質を内的に向上させる。
[0099]よって、本明細書で説明される原理は、物理的世界のコンピュータナビゲート可能グラフを可能とする。グラフは、検索可能および問い合わせ可能であり得るものであり、以て、検索すること、および問い合わせすること、および他の計算が、現実世界に関して実行されることを可能とする。セキュリティが、そのような環境においてさらに課され得る。最後に、グラフは、クレンジングおよびプルーニングによって、管理可能なサイズへと保たれ得る。かくして、コンピューティングにおいての新しいパラダイムが達成された。
[00100]物理的空間の、上記で説明されたコンピュータナビゲート可能グラフは、多種多様の用途および技術的成果を可能にする。そのような用途のうちの2つが、今から説明されることになる。第1のものは、現実世界を観測する、現実世界について推論する、および、潜在的にさらには、現実世界に作用する(act in)、ユーザの能力を増幅する現実感エージェントである。第2のものは、ユーザが、現実世界において発生し得る物理的条件を具現することを可能とするシステムであり、そのことによって、ユーザは、物理的条件が満たされることがあれば、将来に影響を及ぼすことができる。いずれの事例においても、自然言語解釈が、コマンドを現実感エージェントに発行する、および/または、物理的条件を、それらを基に将来においてアクションをとるために具現するために用いられ得る。
[00101]図8は、エージェント(さらには、本明細書では「現実感エージェント」と呼ばれる)が、現実世界観測に基づいてアクションをとるための方法800のフローチャートを例解する。図9は、エージェント910のための例動作環境900を例解する。エージェント910は、図8の方法800を実行し得るので、図8は、図9の環境900を頻繁に参照して説明されることになる。エージェントは、実例として、コンピューティングシステム上で走るコンポーネントであり得る。
[00102]図8の方法800によれば、エージェントは、ユーザから受信される1つまたは複数のコマンドを解釈する(行為801)。実例として、図9において、ユーザ901は、矢印902および903により表されるように、コマンドを発行する。これらのコマンドは、自然言語コマンドであり得る(例えば、ユーザがコマンドを話す)。その事例において、自然言語コマンドは、矢印902により表され、自然言語エンジン911によりエージェント910において受信される。本明細書で説明される原理は、どのように自然言語コマンド解釈が発生するかに制限されない。それでも、自然言語コマンド902は、自然言語エンジン911により(矢印903により表されるように)コンピュータ可読コマンドへと解釈される。
[00103]図8の方法800によれば、エージェントは、物理的グラフに対する少なくとも1つの問い合わせを組み立てることにより、コマンドに応答する(行為802)。実例として、図9において、問い合わせ生成器912は、物理的グラフ920に対して発行されることになる複数個の問い合わせを生成し得る。物理的グラフ920は、物理的空間の中の、および、複数個のセンサにより観測される、1つまたは複数の物理的実体の状態を表す。そのような物理的グラフ920のより具体的な例は、図1ないし4について上記で説明されている。
[00104]図8の方法800によれば、エージェントは、次いで、物理的グラフに対する(または、物理的グラフへの)1つまたは複数の問い合わせを発行する(行為803)。実例として、図9において、問い合わせ生成器912は、矢印904により表されるように、物理的グラフ920への問い合わせを発行する。当然ながら、問い合わせへの応答が、さらには、エージェントにより、物理的グラフ920から返ってきて受信される(行為804)。問い合わせを発信すること(行為803)、および、応答を受信すること(行為804)のプロセスは、1つの単純な要求および応答において発生する必要はなく、物理的グラフ920との複雑な対話を表すことがある。実例として、1つの問い合わせへの応答が、1つまたは複数のさらなる問い合わせを生成するために使用され得る。任意の事例において、応答は、エージェントにより、アクション識別器913において受信される。
[00105]図8の方法800によれば、エージェントは、次いで、問い合わせ応答に応答的に、とるべきアクションを識別する(行為805)。そのようなアクションは、ユーザから受信されるコマンドにおいて要求される情報をユーザに通知すること、信号セグメントをユーザに対してレンダリングすること、物理的世界について計算すること、および、結果をユーザに提示することなどの仮想アクション、他の人間および/またはそれらのエージェントとの通信、等々を含み得る。しかしながら、そのようなアクションは、さらには物理的アクションを含み得る。
[00106]図8の方法800によれば、エージェントは、次いで、アクションが始動されることを引き起こし得る(行為806)。実例として、図9において、アクション識別器913は、(矢印906により表されるように)アクションエージェント914に、アクションをとるようにシグナリングする。アクションエージェント914は、仮想アクション(それの例は、先行段落において提供された)を実行し得るものであり、または、物理的アクションを現に実行することを、以て、物理的作業に影響を与えるために行い得る。
[00107]例として、ユーザが、所定の作業場において何らかの流出があるかどうかを尋ねる、および、そうであるならば、区域を立ち入り禁止にするための、現実感エージェントに関するコマンドを発行するということを想定する。現実感エージェントは、その作業場の物理的グラフを問い合わせして、流出を識別し、次いで、ドローンまたはロボットが区域に送り出されることを引き起こして、個人がその区域内へと歩いていくことを防止する。
[00108]物理的アクションは、即時ではないことがあり、何らかの物理的条件を、それを基に何らかの将来のアクションをとるためにセットすることを含み得る。例として、そのような物理的条件は、個別の場所内の少なくとも1つの識別される物理的実体の、物理的存在または欠けを含み得る。代替的に、または加えて、そのような物理的条件は、物理的アクティビティの発生または欠けを含み得る。代替的に、または加えて、そのような物理的条件は、2つ以上の物理的実体の間の物理的関係性の存在または欠けを含み得る。
[00109]図10は、1つまたは複数の物理的条件を、それらを基に1つまたは複数のアクションを実行するためにセットするための方法1000のフローチャートを例解する。方法1000は、物理的条件をセットするステップ(行為1001)を含む。この物理的条件は、(例えば、図9のアクションエンジン914によって、図8の行為806において)コマンドを基に何らかのアクションをとる現実感エージェントの部分としてセットされ得る。しかしながら、物理的条件のセットすることは、代替的に、ユーザからの直接的なコマンドにより実行されていることがある。やはり、そのようなコマンドは、自然言語エンジンにより解釈されるような自然言語コマンドであることさえある。かくして、現実感エージェント910は、さらには、物理的条件を、それらを基に何らかの将来のアクションをとるために直接的にセットするために使用され得る。
[00110]システム(例えば、おそらくは現実感エージェント910)は、さらには、物理的条件の発生を基に、とるべきアクションを識別する(行為1002)。行為1002は、物理的条件のセットすること(行為1001)との時間的関係性を伴わずに示されるものであり、なぜならば、そのようなアクションの識別は、物理的条件の発生に先行して発生し得るものであり、および/または、物理的条件の発生に応答的に行われ得るからである。かくして、行為1002は、行為1001の前と同じくらい早期に発生し得るものであり、または、物理的条件の検出の後(判断ブロック1004においての「はい」)に発生し得るものであり、または両方である。とられるべきアクションは、システムにより決定され得る、または、ユーザにより具現され得る。
[00111]物理的条件がセットされるとき(行為1001)、システムは、物理的条件の、可能性のある急迫した発生の発生に対して監視する(行為1003)。物理的条件の発生または急迫が検出されるならば(判断ブロック1004においての「はい」)、アクションがとられる(行為1005)。そのようなアクションは、1つもしくは複数の、個人もしくはシステムに、物理的条件が発生した、もしくは急迫であるということを注意喚起すること、1人もしくは複数の個人と、物理的条件に関して通信すること、信号セグメントを提示することなどの仮想アクション、または、他の仮想アクションであり得る。アクションは、さらには、(物理的条件が、より公算が大きく見えることの理由で)発生する物理的条件を回避すること(または、促進すること)などの物理的アクションであり得る。そのようなアクションは、物理的条件の発生に対処するための、ロボットまたはドローンの送り出すことを含み得る。流出例において、ユーザは、現実感エージェントに、流出を警戒し、それが発生するならば、作業員がその区域に進入することを防止すること、安全チームに通知すること等々を行うための特定の物理的アクションをとるように命令することができる。
[00112]かくして、本明細書で説明される原理は、現実世界の一部分のグラフを評価することにより、ユーザ発行される問い合わせおよびコマンドに応答する現実感エージェントを提供する。一部の実施形態において、現実感エージェントは、ユーザ発行される問い合わせおよびコマンドに応答して、現実世界に影響力を及ぼすことさえある。エージェントは、現実世界それ自体においてのユーザの増幅になる。エージェントは、しばしばユーザを缶詰にする現実世界情報およびアクティビティを観測する、より多くの性能を有する。エージェントは、そのような現実世界情報を記憶に留め、そのような現実世界情報について推論する、より多くの性能を有する。最後に、エージェントは、潜在的に、現実世界からの情報、および、現実世界について推論することに基づいて、現実世界において物理的アクションをとる、より多くの能力を有する。さらにまた、本明細書で説明される原理は、任意の物理的条件の発生に対して現実世界を観測し、物理的条件に応答して任意のアクション(仮想または物理的)を実行するための機構を提供する。かくして、ユーザは、現実世界条件を、それを基にアクションをとるために具現することにより、現実世界の将来に影響を及ぼす権限を与えられた様態になる。
[00113]本発明は、その趣旨または本質的な特性から逸脱することなく、他の特定の形式で実施され得る。説明された実施形態は、すべての点において、単に、制約的ではなく例解的と考えられるべきものである。本発明の範囲は、それゆえに、上述の説明によってというよりむしろ、添付される特許請求の範囲により指示される。特許請求の範囲の均等性の意味および範囲の中にあるすべての変化は、その特許請求の範囲の、範囲の中に包容されることになる。

Claims (10)

  1. コンピューティングシステムであって、
    1つまたは複数のプロセッサと、
    前記1つまたは複数のプロセッサにより実行されるとき、前記コンピューティングシステムに、エージェントを始動することおよび動作させることの一方または双方をさせるように構造化されたコンピュータ実行可能命令を有する1つまたは複数のコンピュータ可読媒体と
    を備え、前記エージェントは、
    ユーザからの1つまたは複数のコマンドを解釈することと、
    前記1つまたは複数のコマンドのうちの少なくとも1つに応答することであって、
    物理的空間の中の複数のセンサにより観測される1つまたは複数の物理的実体の状態を表す物理的グラフに対する少なくとも1つの問い合わせを組み立て、
    前記物理的グラフに対する前記少なくとも1つの問い合わせを発行し、
    前記物理的グラフに対する前記少なくとも1つの問い合わせへの1つまたは複数の応答に応答して、とるべきアクションを識別する
    ことによって、前記1つまたは複数のコマンドのうちの少なくとも1つに応答することと
    を行うように構成された、コンピューティングシステム。
  2. 請求項1に記載のコンピューティングシステムであって、前記エージェントは、
    自然言語エンジンを備え、前記ユーザからの前記1つまたは複数のコマンドは、自然言語コマンドを含む、コンピューティングシステム。
  3. 請求項1に記載のコンピューティングシステムであって、前記エージェントは、
    1つまたは複数の物理的行為が実行されることを引き起こすように構成された物理的アクションエンジンを備え、識別される前記アクションは、物理的アクションを含む、コンピューティングシステム。
  4. 請求項1に記載のコンピューティングシステムであって、識別される前記アクションは、状態が前記物理的グラフにおいて達成されるならばアクションがトリガされるように、前記物理的グラフ内にトリガを作成することを含む、コンピューティングシステム。
  5. 請求項1に記載のコンピューティングシステムであって、識別される前記アクションは、前記ユーザからの前記1つまたは複数のコマンドのうちの前記少なくとも1つにおいて要求される情報を前記ユーザに通知することである、コンピューティングシステム。
  6. 請求項1に記載のコンピューティングシステムであって、識別される前記アクションは、信号セグメントを前記ユーザに対してレンダリングすることを含む、コンピューティングシステム。
  7. 請求項1に記載のコンピューティングシステムであって、識別される前記アクションは、1人または複数の他の人間と通信することである、コンピューティングシステム。
  8. 請求項1に記載のコンピューティングシステムであって、識別される前記アクションは、物理的条件をセットすることと、前記物理的条件の発生に対する前記物理的グラフの監視を継続することとを含む、コンピューティングシステム。
  9. 請求項1に記載のコンピューティングシステムであって、識別される前記アクションは、物理的条件の潜在的な発生に対して前記物理的グラフを監視することと、前記物理的条件を回避または促進するための物理的アクションをとることとを含む、コンピューティングシステム。
  10. エージェントが動作するための方法であって、
    前記エージェントが、ユーザからの1つまたは複数のコマンドを解釈するステップと、
    前記エージェントが、前記1つまたは複数のコマンドのうちの少なくとも1つに応答するステップであって、
    物理的空間の中の複数のセンサにより観測される1つまたは複数の物理的実体の状態を表す物理的グラフに対する少なくとも1つの問い合わせを組み立て、
    前記物理的グラフに対する前記少なくとも1つの問い合わせを発行し、
    前記物理的グラフに対する前記少なくとも1つの問い合わせへの1つまたは複数の応答に応答して、とるべきアクションを識別する
    ことによって、前記1つまたは複数のコマンドのうちの少なくとも1つに応答するステップと
    を含む、方法。
JP2019538596A 2017-01-18 2018-01-11 物理的グラフに基づいてアクションをとること Pending JP2020505691A (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US201762447790P 2017-01-18 2017-01-18
US62/447,790 2017-01-18
US15/436,686 2017-02-17
US15/436,686 US20180203881A1 (en) 2017-01-18 2017-02-17 Taking action based on physical graph
PCT/US2018/013232 WO2018136280A1 (en) 2017-01-18 2018-01-11 Taking action based on physical graph

Publications (1)

Publication Number Publication Date
JP2020505691A true JP2020505691A (ja) 2020-02-20

Family

ID=62841410

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019538596A Pending JP2020505691A (ja) 2017-01-18 2018-01-11 物理的グラフに基づいてアクションをとること

Country Status (16)

Country Link
US (1) US20180203881A1 (ja)
EP (1) EP3571640A1 (ja)
JP (1) JP2020505691A (ja)
KR (1) KR20190107029A (ja)
CN (1) CN110192209A (ja)
AU (1) AU2018210202A1 (ja)
BR (1) BR112019012808A2 (ja)
CA (1) CA3046332A1 (ja)
CL (1) CL2019001929A1 (ja)
CO (1) CO2019007636A2 (ja)
IL (1) IL267900A (ja)
MX (1) MX2019008497A (ja)
PH (1) PH12019550122A1 (ja)
RU (1) RU2019125863A (ja)
SG (1) SG11201905466YA (ja)
WO (1) WO2018136280A1 (ja)

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9230560B2 (en) * 2012-10-08 2016-01-05 Nant Holdings Ip, Llc Smart home automation systems and methods
US9871865B2 (en) * 2013-07-11 2018-01-16 Neura, Inc. Physical environment profiling through internet of things integration platform
JP6048590B2 (ja) * 2013-10-21 2016-12-21 株式会社島津製作所 包括的2次元クロマトグラフ用データ処理装置
US9594109B2 (en) * 2014-02-17 2017-03-14 Scadata, Inc. Monitoring system for electrical equipment failure and method
US9542648B2 (en) * 2014-04-10 2017-01-10 Palo Alto Research Center Incorporated Intelligent contextually aware digital assistants
US10154321B2 (en) * 2014-05-26 2018-12-11 Agt International Gmbh System and method for registering sensors used in monitoring-systems
JP6388356B2 (ja) * 2014-06-17 2018-09-12 ナント ホールディングス アイピー, エルエルシー 行動認識システム及び方法
US10592093B2 (en) * 2014-10-09 2020-03-17 Splunk Inc. Anomaly detection
WO2017023386A2 (en) * 2015-05-08 2017-02-09 YC Wellness, Inc. Integration platform and application interfaces for remote data management and security
US11202172B2 (en) * 2015-10-29 2021-12-14 Stratacache Limited System and method for managing indoor positioning data
JP6365554B2 (ja) * 2016-01-14 2018-08-01 マツダ株式会社 運転支援装置
US10313382B2 (en) * 2016-03-29 2019-06-04 The Mitre Corporation System and method for visualizing and analyzing cyber-attacks using a graph model

Also Published As

Publication number Publication date
CL2019001929A1 (es) 2019-11-29
CO2019007636A2 (es) 2019-07-31
SG11201905466YA (en) 2019-08-27
PH12019550122A1 (en) 2020-02-10
KR20190107029A (ko) 2019-09-18
EP3571640A1 (en) 2019-11-27
MX2019008497A (es) 2019-09-10
CA3046332A1 (en) 2018-07-26
BR112019012808A2 (pt) 2019-12-03
IL267900A (en) 2019-09-26
US20180203881A1 (en) 2018-07-19
AU2018210202A1 (en) 2019-07-11
RU2019125863A (ru) 2021-02-19
CN110192209A (zh) 2019-08-30
WO2018136280A1 (en) 2018-07-26

Similar Documents

Publication Publication Date Title
WO2018136314A1 (en) Automatic routing to event endpoints
US11410672B2 (en) Organization of signal segments supporting sensed features
JP2020518841A (ja) 自動化されたアクティビティ−時間訓練
US11070504B2 (en) Communication routing based on physical status
US10606814B2 (en) Computer-aided tracking of physical entities
CN110192208B (zh) 共享物理图形的信号片段
US20180204096A1 (en) Taking action upon physical condition
US10679669B2 (en) Automatic narration of signal segment
JP2020505691A (ja) 物理的グラフに基づいてアクションをとること
US20180203885A1 (en) Controlling creation/access of physically senses features
EP3571019A1 (en) Automated movement orchestration
US20180203886A1 (en) Cleansing of computer-navigable physical feature graph