JP2022141580A - ユーザによる実証を通じた協働ロボットの訓練 - Google Patents

Abstract

【課題】協働タスクを実行するよう複数のロボットを訓練するコンピューティング装置及びコンピュータプログラムを提供する。【解決手段】機械学習（ＭＬ）モデル訓練システム４００は、タスクを実行するために協働しているマルチロボットシステム内のロボットを制御するようＭＬモデルを訓練する。例えば、協働タスクを実行するための物体の操作に関連付けられた軌道を決定すると共に、協働してタスクを完了するマルチロボットシステム内のロボットの制御アクションを出力するよう、ＭＬモデル５００を訓練する。【選択図】図４

Description

本開示は、概して、ロボットの訓練に関し、より具体的には、協働タスクを実行するよう複数のロボットを訓練することに関する。

例えば製造、小売り、住宅供給等の現代の用途では、機械学習（ＭＬ）がますます用いられるようになっている。別の技術的な進歩は、複数のロボットシステムを用いることである。これらのロボットシステムでは、低レイテンシで実行され得ることが多い複雑または正確な動きを伴う複雑なタスクを多数のロボットが協働で実行する。例えば、複数のロボットが、協働して工場内の製品（例えば、電子デバイス、車両、航空機または家具等）を共同で組み立てるようにプログラムされ得る。別の例として、複数のロボットが、協働して、製品（例えば、データセンタ内のサーバ等）を共同で点検したり、食料品店の在庫を補充したりするようプログラムされ得る。

しかしながら、与えられたタスクが正常に実行され得るように効率的、容易かつ実用的な方式で協働するよう複数のロボットをプログラムするのは（または、ＭＬの場合、訓練するのは）、些細なことではない。例えば、計画および制御ベースの方法など、従来のロボットプログラミング方法は、容易にスケーラブルなものではない。つまり、そのような方法は、うまくスケーリングしない。なぜなら、タスクについて協働するロボットの数が増えるからである。

任意の特定の要素または動作の説明を容易に識別できるよう、参照番号における最上位の１つまたは複数の桁は、その要素が最初に紹介される図番号を指す。

本開示の少なくとも１つの例によるマルチロボットシステム１００を示す。

本開示の少なくとも１つの例によるマルチロボット訓練システム２００を示す。

本開示の少なくとも１つの例によるデータ収集およびシミュレーションシステム３００を示す。

本開示の少なくとも１つの例によるＭＬモデル訓練システム４００を示す。

本開示の少なくとも１つの例によるＭＬモデル５００を示す。

本開示の少なくとも１つの例による画像６００ａを示す。

本開示の少なくとも１つの例による画像６００ｂを示す。

本開示の少なくとも１つの例による、訓練用にロボットの軌道を決定するためのルーチン７００を示す。

本開示の少なくとも１つの例による、協働的挙動用にロボットを訓練するためのルーチン８００を示す。

本開示の例によるコンピュータ可読記憶媒体９００を示す。

本開示の例によるコンピューティングシステムを示す。

上で紹介したように、現代では、ＭＬおよびマルチロボットシステムがますます用いられるようになっている。しかしながら、従来のロボットプログラミングおよび訓練方法論は、マルチロボットシステムの訓練に用いるには不十分である。例えば、模倣学習および挙動クローニングは、アクティビティを実証する人などの実証者によりモデル化されるタスクおよび挙動をロボットが学習することを可能にする技術である。しかしながら、現在のアプローチは、単一のロボットのみを伴うロボットタスクを訓練するために開発されている。これらの従来の学習方法論を協働ロボットタスクに適用するのは効率的ではない。なぜなら、従来の方法論は、一度に１つのロボットの訓練のみを可能にするからである。さらに、マルチロボットタスク（例えば、１つのロボットがレセプタクルを保持し、別のロボットが物体をそのレセプタクルに配置する等）の性質を仮定すると、タスクにおける個々の役割に応じて各ロボットを別個に訓練するのに多数の専門家実証者が必要となり、非効率的かつ煩雑である。このように、マルチロボットシステムにおけるロボットの訓練に対する従来のアプローチは、うまくスケーリングしない。なぜなら、各ロボットは、別個の訓練を必要とするからである。さらに、協働タスク用に複数のロボットを訓練することに対するこの総当たりアプローチは、協働しているロボット間のインタラクションをキャプチャおよび同期するには不十分である。

複数のロボットを協働用に訓練することに対する別の主要な課題は、専門家による実証（軌道）を収集することと、訓練されたポリシーを視覚的に検証してタスクを保証することとが配置時に期待通りに実行される複雑なロボットシミュレーション環境およびモデルの生成である。これらのマルチロボットシミュレーションモデルの生成は、関連するタスク、環境およびモデルの複雑さに起因して煩雑であると共に、高度な技術知識を必要とすることが多い。このことに起因して、典型的な工場労働者は、模倣学習を介してロボットアームを訓練またはプログラムすることができない。なぜなら、これには、シミュレーションツールおよび環境の生成と共に機能するＭＬの専門知識が必要とされるからである。つまり、実証の知識を有する専門家は、従来のロボット訓練システムと共に機能する知識を有していないことが多い。このように、マルチロボットシステムを従来のように訓練するのに、典型的には追加のリソースが必要とされる。

本開示は、複数のロボットを協働タスク（例えば、共同物体ハンドリング、共同組み立て、共同メンテナンス等）用に効果的かつ同時に訓練するための装置および模倣学習方法論を提供する。これらの装置および模倣学習方法では、ユーザによる実証の総数が低減され得るように、複数の協働しているロボットのための専門家による実証が同時に取得され、異なる役割を実行する複数のロボットが同時に訓練される。このように、本開示の装置および訓練方法論は、スケーリングされ得ると共に、従来の方法よりも必要な実証が少ない。なぜなら、訓練されるロボットの数が増えているからである。

概して、本開示は、単一のＭＬモデルが、協働しているロボットの全てについて訓練されるようにする。一方で、従来の方法は、グループ内の個々のロボットの各々について、異なるＭＬモデルを訓練する。追加的に、本開示は、視覚的分析および画像学習アルゴリズムを用いて訓練および可視化環境を生成することを可能にする。例えば、本開示は、カメラのアレイと、専門家実証者（例えば、実証者の手または同様のもの）および操作されている物体に取り付けられたマーカとを介して専門家による実証を収集することを提供する。カメラアレイにより追跡されるマーカは、部品の共同組み立てなどの協働タスクにおける異なる役割を実行する複数の別個のロボットアームを訓練するための基準軌道を同時に取得するために用いられる。上記とは異なるように、本開示は、全ての協働しているロボットの全ての基準軌道を（例えば、可能な限り少ない実証セッションで等）同時に取得することと、システム内で協働している全てのロボット用のアクションを出力するよう訓練される単一のポリシーＭＬモデルを訓練することとを提供する。

さらに、本開示は、カメラアレイにより撮像される画像に基づいてシミュレーション環境を生成することを提供する。例えば、画像を処理することで、協働タスクが実行される環境のレイアウトを識別でき、協働タスクの一部として操作される物体を識別できる。さらに、画像を処理することで、ロボットの数と、その開始位置とを識別できる。いくつかの例において、シミュレーション環境を用いることで、ＭＬモデルを検証でき、および／またはＭＬモデルの訓練中にフィードバックを提供できる。

したがって、本開示は、協働タスクを「一度で」実行するためのマルチロボットシステム用の訓練を提供できる。専門家実証者は、マーカを装着し、現実世界（例えば、工場等）設定におけるタスクを実行する。このシステムは、実証に関連付けられた軌道を識別することと、シミュレーション環境を生成することと、ポリシーを学習してマルチロボットシステム内の全てのロボットを軌道とシミュレーション環境とに基づいて制御するよう単一のＭＬモデルを訓練することとを提供する。

図１は、本開示の非限定的な例によるマルチロボットシステム１００を示す。マルチロボットシステム１００は、例示の目的でのみ提供されており、限定的なものとして意図されていない。しかしながら、本開示がマルチロボットシステムの訓練を提供すると仮定して、マルチロボットシステム１００の一例を示す。マルチロボットシステム１００は、ロボット１０２、ロボット１０４および物体１０６を含む。概して、ロボット１０２および１０４は、物体１０６を操作するために配置される。本開示において想定されるように、ロボット１０２および１０４は、関節ジョイント１０８とグリッパ１１０とを有するロボットアーム（例えば、示されるようなもの）など、任意のタイプのロボットであり得る。ロボット１０２および１０４は、固定式または可動式であってよい。さらに、グリッパ１１０は、例えば、手、ピンチャまたは磁石等、様々なグリッパのいずれかであってよい。本開示は、ロボット１０２および１０４の制御において用いるためのＭＬモデルを訓練するための装置および方法論を提供する。概して、マルチロボットシステム１００は、例えば、工業、小売り、製造、セキュリティまたは住宅供給等、様々な用途のいずれかで提供され得る。ロボット１０２および１０４により操作される物体１０６は、任意のタイプの物体であってよく、これらの可能な例の包括的な性質を考慮して、例を提供しない。

図２は、本開示の非限定的な例によるマルチロボット訓練システム２００を示す。マルチロボット訓練システム２００は、データ収集およびシミュレーションシステム３００と、ＭＬモデル訓練システム４００とを含む。データ収集およびシミュレーションシステム３００とＭＬモデル訓練システム４００との個々のサブシステムを以下でより詳細に説明する。しかしながら、概して、マルチロボット訓練システム２００は、単一のＭＬモデルを用いて複数のロボットのためのポリシー学習を同時に提供するために配置される。例えば、マルチロボット訓練システム２００は、物体１０６を操作するために協働しているマルチロボットシステム１００のロボット１０２および１０４を制御する際に用いるためのＭＬモデル（図５を参照されたい）を訓練するために提供され得る。

データ収集およびシミュレーションシステム３００は、ロボットが訓練される協働タスクの軌道をインサイチュで収集することを提供する。さらに、データ収集およびシミュレーションシステム３００には、模倣学習アルゴリズム（例えば、ＭＬモデル訓練システム４００により実装される）と組み合わされた場合、従来の学習方法論に対する訓練に必要とされる低減された軌道でポリシーを学習できるようにする、予測状態推定制約が設けられる。

さらに、データ収集およびシミュレーションシステム３００は、特定のタスクおよびロボット構成のためのマルチロボットシミュレーションを提供する。具体的には、データ収集およびシミュレーションシステム３００は、実証から取得された軌道に基づいてマルチロボットシミュレーションモデルを生成するために配置されるコンピュータビジョンシステムを提供する。

ＭＬモデル訓練システム４００は、データ収集およびシミュレーションシステム３００を介して収集される軌道と、データ収集およびシミュレーションシステム３００により生成されるシミュレーション環境とに基づいて、ＭＬモデル（例えば、ＭＬモデル５００等）に関する訓練を提供する。

図３は、本開示の非限定的な例によるデータ収集およびシミュレーションシステム３００を示す。概して、データ収集およびシミュレーションシステム３００は、実証中に専門家実証者（例えば、人の実証者等）からロボット状態および／またはアクションを撮像するためのシステムである。データ収集およびシミュレーションシステム３００は、コンピューティングデバイス３０２、カメラアレイ３１２およびマーカ３１４を含む。

概して、マーカ３１４は、実証中に軌道を識別するために用いられる様々なマーカのいずれかであり得る。例えば、マーカ３１４は、ＯｐｅｎＣＶ ＡｒＵｃｏマーカであり得る。具体例として、専門家実証者は、それぞれの手にマーカ３１４を装着できる。各マーカ３１４は、協働ロボットシステム（例えば、マルチロボットシステム１００）内の個々のロボットがマッピングされ得る固有識別子（ＩＤ）を有し得る。上記とは異なるように、マーカ３１４は、ロボットＩＤ３２２へマッピングされ得るマーカＩＤ３２０を有し得る。いくつかの例において、ロボットＩＤ３２２には、実証の前に、マーカＩＤ３２０が割り当てられる。なお、マーカは、複数の位置に取り付けられ得る。具体例として、マーカ３１４は、専門家実証者の複数の部位（例えば、右手、左手、腕、右足、左足、または指等）に取り付けられ得る。同様に、マーカ３１４は、固定位置または基準点および操作される物体に取り付けられ得る。例えば、固定位置に取り付けられたマーカ３１４は、実証中に記録されるカメラアレイ３１２の異なるカメラから取得されるマーカの位置の変換および組み合わせを行うために用いられ得る。

概して、マーカ３１４は、複数の方式で専門家実証者に取り付けられ得る。一例として、マーカ３１４は、専門家実証者の各部分（例えば、手、指、手首または腕等）に素早く取り付けられるために配置されたステッカーであり得る。別の例として、マーカ３１４は、グラフィカルマーカ（例えば、ＡｃＵｃｏマーカもしくは同様のもの）または電子マーカ（例えば、無線自動識別（ＲＦＩＤ）エミッタもしくは赤外線（ＩＲ）エミッタ等）を有するグローブとして実装され得る。追加的に、グローブには、センサ（例えば、圧力センサまたは温度センサ等）が設けられ得る。さらに、マーカ３１４は、専門家実証者により操作される物体、および環境内の固定された物体（または基準点）に取り付けられ得る。

カメラアレイ３１２は、カメラアレイ３１２のカメラがマーカ３１４を読み取るように、スキャンするように、そうでなければ撮像するために配置されていることを条件として、様々なカメラ（例えば、ビデオカメラ、スチルカメラ、ＩＲカメラ、ＡｒＵｃｏリーダカメラまたはＲＦＩＤリーダカメラ等）のいずれかを含み得る。カメラアレイ３１２内のカメラは、実証が行われる現実世界の環境内に配置され得る。さらに、カメラアレイ３１２内のカメラの配置は、実証されるタスクに基づき得る。例えば、協働ロボットシステム内のロボットが協働中に互いに近づくタスクでは、より多くのカメラを用いてもよく、カメラを環境の周囲の異なる位置および向きに配置して、専門家による実証中に発生し得るあらゆる遮蔽を軽減してもよい。

概して、コンピューティングデバイス３０２は、カメラアレイ３１２に結合されると共に、カメラアレイ３１２から情報データまたは画像３１８を受信するように、かつ、ＭＬモデル（例えば、ＭＬモデル５００または同様のもの）を訓練できる模倣学習データセット３２４生成するために配置される。コンピューティングデバイス３０２は、プロセッサ３０４、メモリ３０６、入力および／または出力（Ｉ／Ｏ）デバイス３０８およびネットワークインタフェース３１０を含む。

プロセッサ３０４は、例えば、様々な商用プロセッサのいずれかなど、回路またはプロセッサロジックを含み得る。いくつかの例において、プロセッサ３０４は、複数のプロセッサ、マルチスレッドプロセッサ、マルチコアプロセッサ（複数のコアが同じまたは別個のダイ上に共存しているかどうかを問わない）、および／または複数の物理的に別個のプロセッサがある態様でリンクしているいくつかの他の様々なマルチプロセッサアーキテクチャを含み得る。追加的に、いくつかの例において。プロセッサ３０４は、グラフィック処理部を含んでよく、専用メモリ、マルチスレッド処理および／またはある他の並列処理機能を含んでよい。いくつかの例において、プロセッサ３０４は、特定用途向け集積回路（ＡＳＩＣ）またはフィールドプログラマブル集積回路（ＦＰＧＡ）であってよい。

メモリ３０６は、ロジックを含み得る。このロジックの一部分は、データを永続的に格納するための不揮発性メモリまたは不揮発性メモリと揮発性メモリとの組み合わせを形成する集積回路のアレイを含む。メモリ３０６は様々な技術のいずれかに基づき得ることが理解されよう。特に、メモリ１２０に含まれる集積回路のアレイは、例えば、ダイナミックランダムアクセスメモリ（ＤＲＡＭ）、ＮＡＮＤメモリまたはＮＯＲメモリなど、１つまたは複数のタイプのメモリを形成するために配置され得る。

Ｉ／Ｏデバイス３０８は、入力の受信および／または出力の提供のための様々なデバイスのいずれかであり得る。例えば、Ｉ／Ｏデバイス３０８は、キーボード、マウス、ジョイスティック、フットペダル、ディスプレイ、タッチ対応ディスプレイ、触覚フィードバックデバイスまたはＬＥＤ等を含み得る。

ネットワークインタフェース３１０は、通信インタフェースをサポートするためのロジックおよび／または機能を含み得る。例えば、ネットワークインタフェース３１０は、直接リンクまたはネットワーク通信リンク上で通信するために様々な通信プロトコルまたは通信規格に従って動作する１つまたは複数のインタフェースを含み得る。直接通信は、１つまたは複数の業界標準において説明される通信プロトコルまたは通信規格（後継版および変形版を含む）の使用を介して行われ得る。例えば、ネットワークインタフェース３１０は、例えば、ペリフェラルコンポーネントインターコネクトエクスプレス（ＰＣＩｅ）不揮発性メモリエクスプレス（ＮＶＭｅ）、ユニバーサルシリアルバス（ＵＳＢ）、システム管理バス（ＳＭＢｕｓ）、ＳＡＳ（例えば、シリアルアタッチドスモールコンピュータシステムインタフェース（ＳＣＳＩ））インタフェースまたはシリアルＡＴＡアタッチメント（ＳＡＴＡ）インタフェースなどのバスを介した通信を容易にし得る。追加的に、ネットワークインタフェース３１０は、様々な有線ネットワーク規格または無線ネットワーク規格（例えば、８０２（削除済み）．１１通信規格）を介した通信を可能にするためのロジックおよび／または機能を含み得る。例えば、ネットワークインタフェース３１０は、イーサネット（登録商標）または同様のものなど、有線通信プロトコルまたは有線通信規格をサポートするために配置され得る。別の例として、ネットワークインタフェース３１０は、例えば、Ｗｉ－Ｆｉ（登録商標）、Ｂｌｕｅｔｏｏｔｈ（登録商標）、Ｚｉｇｂｅｅ（登録商標）、ＬＴＥまたは５Ｇなど、無線通信プロトコルまたは無線通信規格をサポートするために配置され得る。

メモリ３０６は、命令３１６、画像３１８、マーカＩＤ３２０、ロボットＩＤ３２２、模倣学習データセット３２４、ロボットシミュレーションデータセット３３２、予測される物体状態３３８およびＭＬモデル５００を含み得る。

模倣学習データセット３２４は、軌道３２６、物体状態３２８およびロボットパラメータ３３０を含む。一方、ロボットシミュレーションデータセット３３２は、環境レイアウト３３４および物体レイアウト３３６を含む。

動作中、プロセッサ３０４は、命令３１６を実行して、カメラアレイ３１２から画像３１８を受信できる。さらに、プロセッサ３０４は、命令３１６を実行することで、画像３１８を処理して画像３１８内のマーカ３１４を検出し、環境、固定点または物体等に対するマーカの位置を決定できる。例えば、命令３１６は、プロセッサ３０４により実行された場合にマーカＩＤ３２０と画像３１８の各々からの計算された位置とを発行できるＲＯＳノード（例えば、ＯｐｅｎＣＶライブラリまたは同様のものに基づく）を含み得る。計算された位置は、軌道３２６として保存され得る。同様に、マーカ３１４は、操作される物体（例えば、物体１０６または同様のもの）に取り付けられてよく、物体状態または位置が、上で示されたように導出されてよい。計算された物体状態は、物体状態３２８として保存され得る。

さらに、プロセッサ３０４は、命令３１６を実行して、画像認識技術を画像３１８に適用できる。具体例として、プロセッサ３０４は、命令３１６を実行して、顔の特徴（例えば、まばたき、口を開く、笑顔または相槌等）を検出し、マーカ３１４に基づいて、検出した表情を専門家実証者に関連付けることができる。いくつかの例では、表情を用いて、様々なロボットパラメータ（例えば、グリップアクチュエータまたは同様のもの）のインジケーションを提供できる。別の例では、Ｉ／Ｏデバイス３０８を用いて、実証に関連するアクションのインジケーションを提供できる。例えば、操作されている物体に専門家実証者が加える圧力が、（例えば、グローブ内のセンサまたは専門家実証者の表情等に基づいて）キャプチャされ得る。プロセッサ３０４は、命令３１６を実行して、識別されたアクションをロボットパラメータ３３０として保存できる。

これに応じて、データ収集およびシミュレーションシステム３００が説明されている。ここでは、協働ロボット用のタスクに関連する軌道が撮像され得る。例えば、第１の専門家実証者が腕を上方へ上げた場合、軌道３２６により同じ動きが反映される。軌道３２６は、対応するアクションまたは動きを行うように第１のロボットを制御するようＭＬモデルを訓練するために用いられる。

データ収集およびシミュレーションシステム３００は追加的に、視覚認知を活用してシミュレーション環境を生成することで、訓練プロセス全体についてのフィードバックを提供する際に用いるために、ロボットがタスクを協働で実行することをシミュレーションする。上記とは異なるように、プロセッサ３０４は、専門家実証者が協働タスクの実証を開始する前に、命令３１６を実行して、必要な物体および必要な数のロボットを用いて中間タスクシミュレーション環境を生成できる。

プロセッサ３０４は、命令３１６を実行して、環境レイアウト３３４（例えば、テーブル、物体、ロボットアームの数または初期ロボット位置等）を決定できる。いくつかの例では、プロセッサ３０４は、命令３１６を実行して、タスクを実現するために必要とされるロボットアームの数をマーカ３１４の数に基づいて決定できる。追加的に、プロセッサ３０４は、命令３１６を実行して、ロボットの初期姿勢を例えばマーカ３１４の初期向きに基づいて決定できる。

プロセッサ３０４はさらに、命令３１６を実行して、ロボット（例えば、ロボット１０２および１０４）により操作される物体のタイプおよび姿勢を含む物体レイアウト３３６を識別する。いくつかの例において、マーカ３１４は、マーカのサブセットまたは複数の異なるタイプのマーカを含み得る。例えば、１つのタイプのマーカ３１４を、ロボットをマーキングするために用いることができ、一方、別のタイプのマーカ３１４を、物体をマーキングするために用いることができ、さらに別のタイプのマーカ３１４を、固定された基準位置をマーキングするために用いることができる。

図４は、本開示の非限定的な例によるＭＬモデル訓練システム４００を示す。いくつかの例では、ＭＬモデル訓練システム４００は、コンピューティングデバイス３０２などのコンピューティングデバイスにより実装され得る。例えば、ＭＬモデル訓練システム４００は、プロセッサ３０４により実行可能な命令３１６により実装され得る。概して、ＭＬモデル訓練システム４００は、模倣学習データセット３２４とロボットシミュレーションデータセット３３２とに基づいてＭＬモデル５００を訓練するために配置され得る。

ＭＬモデル訓練システム４００は、ＭＬ訓練命令セット４０２およびロボットシミュレーション命令セット４０４を含み得る。ＭＬ訓練命令セット４０２は、１つまたは複数のＭＬモデル訓練アルゴリズム（例えば、バックプロパゲーション式、畳み込み式または敵対的式のもの等）を利用して、模倣学習データセット３２４およびロボットシミュレーションデータセット３３２からのＭＬモデル５００を訓練し得る。ＭＬモデル５００を訓練することは、反復プロセスであることが多い。この反復プロセスでは、ＭＬモデル５００内の重みおよび接続が、ＭＬモデル５００について、満足できるレベルの推論へ収束するように調整される（例えば、ロボットアクションを出力すること、または同様のこと）。なお、様々なＭＬモデル訓練アルゴリズムが、本開示に従って提供され得る。しかしながら、ＭＬモデル５００および図５を参照して、１つの例示的な訓練方法論を以下で説明する。

ロボットシミュレーション命令セット４０４は、訓練されているロボットのシミュレーションを提供する。例えば、ＭＬモデル５００は、制御アクション（例えば、動き制御アクションまたはグリッパステータス制御アクション等）を出力するために配置され、ロボットシミュレーション命令セット４０４は、予測される物体状態３３８をこれらの出力に基づいてシミュレーションするために提供され得る。模倣学習データセット３２４とロボットシミュレーションデータセット３３２とに沿った予測される物体状態３３８は、ＭＬモデル５００を訓練および／または試験するために用いられ得る。

図５は、本開示の非限定的な例によるＭＬモデル５００を示す。ＭＬモデル５００は、マルチレイヤニューラルネットワークとして示されている。しかしながら、実際には、ＭＬモデル５００は、例えば、ニューラルネットワーク（図示）、畳み込みニューラルネットワーク、ファジーロジックネットワークまたは決定木ネットワークなど、様々なＭＬモデルのいずれかであり得る。例は、この文脈において限定されない。ＭＬモデル５００は、入力層５０２、隠れ層５０４および出力層５０６を含む。概して、マルチロボット訓練システム２００は、ＭＬモデル５００を訓練するために配置され得る。より具体的には、ＭＬ訓練命令セット４０２は、データ収集およびシミュレーションシステム３００によりキャプチャされるデータ（例えば、軌道または同様のもの）に基づいてＭＬモデル５００を訓練するために配置され得る。

入力層５０２は、入力状態５０８ａ、５０８ｂ、５０８ｃおよび５０８ｄの入力を含む。概して、入力状態５０８ａ、５０８ｂ、５０８ｃおよび５０８ｄは、システム内のロボット（例えば、ロボット１０２および１０４等）に関連付けられた状態（または入力）、および、ロボットにより操作される物体または部位（例えば、物体１０６または同様のもの）の状態、ならびに、ＭＬモデル５００が制御を行うよう訓練されるマルチロボットシステム１００の目的に関連付けられた入力であり得る。隠れ層５０４は、複数のニューロンを含む。実際には、隠れ入力層５０２内のニューロンの各層は、多くのニューロン（例えば、６４、１２８、２５６等）を有し得る。しかしながら、例示を簡潔にするために、隠れニューロン５１０ａ、５１０ｂ、５１０ｃ、５１０ｄ、５１２ａ、５１２ｂ、５１２ｃおよび５１２ｄが示されている。概して、隠れ層５０４内のニューロンは、完全に接続されてもよく（例えば、図示のように）、そうでなくてもよい。さらに、隠れ層５０４内のニューロンは、様々な活性化関数のいずれかを有し得る。具体例において、隠れ層５０４内のニューロンは、正規化線形ユニット（ＲｅＬｕ）活性化関数を有し得る。出力層５０６は、出力ニューロン５１４ａ、５１４ｂ、５１４ｃおよび５１４ｄならびに出力状態５１６ａ、５１６ｂ、５１６ｃおよび５１６ｄを含む。出力ニューロンは、隠れ層のニューロンと同じ活性化関数または異なる活性化関数（例えば、双曲線正接（Ｔａｎｈ）または同様のもの）を有し得る。出力状態５１６ａ、５１６ｂ、５１６ｃおよび５１６ｄは、ロボット（例えば、ロボット１０２および１０４等）のアクション、および、操作される物体（例えば、物体１０６または同様のもの）の予測される将来の状態に対応し得る。

具体例として、入力状態は、連続する時間ステップ間のロボットのアクション（例えば、グリッパ変位、作動等）に対応し得る。いくつかの例では、ロボット状態および物体状態に対応するデータが収集される（以下でより詳細に説明する）。ロボット状態および／または物体状態に対応する入力データが正規化され得る。そのような入力データは、例えば、サンプル平均値または分散など、様々な技術を介して正規化され得る。正規化された入力データは、連結され、ニューラルネットワークへの入力として用いられる。

ＭＬモデル５００は、軌道と、グリッパ作動と、推定損失との重み付けされた組み合わせを用いて訓練される。例えば、軌道損失（Ｔｒａｊｅｃｔｏｒ＿ＭＳＥ）が、予測されるグリッパ状態と、専門家による実証中にそのステージで実行された実際のグリッパ状態との間の平均二乗誤差（ＭＳＥ）として導出され得る。特に、ＭＬモデル５００の訓練中に用いられる訓練損失は、損失＝Ｔｒａｊｅｃｔｏｒｙ＿ＭＳＥ＋α×Ａｃｔｕａｔｉｏｎ＿ＭＳＥ＋β×Ｓｔａｔｅ＿ｅｓｔｉｍａｔｉｏｎ＿ＭＳＥであり得る。グリッパ作動損失（Ａｃｔｕａｔｉｏｎ＿ＭＳＥ）は、予測されるグリッパ力とその実証との間のＭＳＥであり得る。同様に、状態推定損失（Ｓｔａｔｅ＿ｅｓｔｉｍａｔｉｏｎ＿ＭＳＥ）は、予測される将来の物体状態と、タスクの実証中に観察される物体状態との間の損失であり得る。変数アルファ（α）およびベータ（β）は、訓練中のハイパーパラメータとして調整されてもよく、一定のままにされてもよいスカラである。なお、いくつかの例では、状態推定出力は、学習プロセスの訓練フェーズにおいて用いられ、関連する損失動作は、ＭＬモデル５００がより少ない数の専門家軌道を用いて訓練することを可能にする補助コスト機能として用いられる。

述べたように、データ収集およびシミュレーションシステム３００は、専門家による実証中に複数の角度または視点から画像を撮像するために配置されたカメラアレイ３１２を含む。図６Ａおよび図６Ｂは、画像６００ａおよび６００ｂをそれぞれ示す。これらの画像は、実証中にカメラアレイ３１２により撮像される画像３１８に対応し得る。画像６００ａおよび６００ｂは、マーカ６０２ａ、６０２ｂおよび６０２ｃを異なる角度から示している。なお、冗長性を生成するために、複数の視点または角度が撮像される。冗長性は、軌道３２６（例えば、上述した）が計算される位置推定をより正確なものにすると共に、遮蔽に起因していくつかのマーカ（例えば、マーカ３１４または同様のもの）が１つの画像から消え得る場合に特に有用である。例えば、画像６００ｂからのマーカ６０２ｃは、画像６００ａにおけるよりも鮮明でも可視でもない。いくつかの実証において、専門家実証者または物体は、カメラアレイ３１２内のカメラのうちの１つまたは複数の視野からマーカ３１４を塞ぎ得る。

プロセッサ３０４は、命令３１６を実行することで、カメラアレイからのフレームまたは画像を並列に処理して模倣学習データセット３２４を生成できる。例えば、軌道３２６は、固定マーカ６０２ｃに対するマーカ６０２ａおよび６０２ｂの位置に基づいて決定され得る。同様に、ロボットパラメータ３３０は、顔認証または他の受信される入力に基づいて決定され得る。例えば、マイクは、アクティブであってよく、口頭での命令（例えば、グリッパを開け、グリッパを閉じろ、軽いタッチ、しっかり握る等）を記録してよい。これらの命令は、ロボットパラメータ３３０として格納される。実証の前に撮像された画像３１８のフレームが、上述の環境レイアウト３３４および物体レイアウト３３６を決定するために、同様に並列に処理され得る。

さらに、プロセッサ３０４は、命令３１６を実行して、シミュレーション環境（例えば、ロボットシミュレーションデータセット３３２または同様のものにより反映される）を生成できる。シミュレーション環境は、データ収集（例えば、軌道３２６または同様のものの決定）および協働タスクを完了させる際に用いるためのロボット１０２および１０４の識別の両方に用いられる。例えば、プロセッサ３０４は、専門家が協働タスクの実証を開始する前に、命令３１６を実行して、必要な物体および必要な数のロボットを用いてタスクシミュレーション環境を生成できる。シミュレーション環境に関連付けられた環境パラメータは、タスク画像レイアウト（例えば、テーブル、物体、ロボットアームの数またはそれらの位置等）を用いて抽出され、環境レイアウト３３４および／または物体レイアウト３３６に格納され得る。いくつかの例では、初期動作が、タスクを実現するために必要とされるロボットアームの数を決定することであり得る。例えば、プロセッサ３０４は、命令３１６を実行して、画像３１８に反映された、専門家実証者により装着されているマーカ３１４の数に基づき、ロボットアームの必要数を決定できる。さらに、プロセッサ３０４は、命令３１６を実行して、シミュレーション内でのロボットの初期姿勢を決定できる。

その後、プロセッサ３０４は、命令３１６を実行して、操作される物体（例えば物体１０６または同様のもの）のタイプおよび姿勢を認識できる。例えば、プロセッサ３０４は、命令３１６を実行して、予め定義された規格ライブラリ（例えば、立方体または円筒等）上で訓練され得るＹＯＬＯｖ３などの物体認識パッケージに基づき、物体のタイプを識別できる。追加的に、プロセッサ３０４は、命令３１６を実行して、物体上に存在するマーカ３１４に基づき、物体の姿勢を識別できる。上述のように、異なるタイプ（例えば、色またはパターン等）のマーカ３１４を用いて、専門家実証者と物体とを区別できる。

図７は、本開示の非限定的な例によるルーチン７００を示す。概して、ルーチン７００は、コンピューティングデバイス３０２などのコンピューティングデバイスにより実装され得る。ルーチン７００は、ロボットの訓練に関する技術的問題を解決することに関連し、具体的には、タスクの実行に際して協働するよう複数のロボットを訓練することに関連する。ルーチン７００は、ブロック７０２、ブロック７２２およびブロック７３０において始まり得る。ブロック７０２「シミュレーションされたロボット旋回位置」において、ロボット１０２および１０４の旋回位置（例えば、姿勢または更新された姿勢等）が決定される。同様に、ブロック７２２「マーカおよびその位置を識別する」において、マーカ３１４およびそのそれぞれの位置が決定される。さらに、ブロック７３０「ロボット作動状態」において、ロボット１０２および１０４の作動状態（例えば、開／閉というグリッパ状態または同様のもの）が決定される。例えば、プロセッサ３０４は、命令３１６を実行することで、画像３１８を処理し、マーカ３１４および「てがかり」（例えば、顔の特徴または同様のもの）を識別して、シミュレーションされたロボット位置、初期マーカ位置およびロボット作動状態を決定できる。

ブロック７２２からブロック７２４、７２６および７２８へ続く。ブロック７２４「実証者マーカの位置」において、実証者に関連付けられたマーカの位置が決定され、一方、ブロック７２８「固定マーカの位置」において、固定マーカの位置が決定される。さらに、ブロック７２６「マーカをロボットへマッピングする」において、識別されたマーカが、例えば、教示ロボットまたは同様のものに関連付けられたマーカＩＤに基づいて、特定のロボットへマッピングされる。例えば、プロセッサ３０４は、命令３１６を実行して、マーカと特定のロボットとの間のマッピングを決定でき、かつ、実証者に固定されたマーカおよび取り付けられたマーカの両方の位置を決定できる。

ブロック７０２、７２４および７２８から、ロボットアーム（例えば、グリッパ１１０または同様のもの）の位置が決定されてよく、ブロック７０４において、当該位置が変換および／またはスケーリングされてよい。ルーチン７００は、ブロック７０６および７３２において継続する。ブロック７０６「シミュレータにおけるロボットグリッパの位置を設定する」およびブロック７３２「シミュレータにおけるロボット作動状態を設定する」において、ロボット１０２および１０４のグリッパ１１０の位置および状態が、シミュレータにおいて設定され得る。ブロック７０８「ロボットアクションを導出する」へ続き、ロボット１０２および１０４のアクションが、グリッパ１１０の位置および状態から導出される。例えば、プロセッサ３０４は、命令３１６を実行して、グリッパ１１０の決定された位置および状態に基づき、ロボット１０２および１０４のアクションを導出できる。

ブロック７０８から、サブルーチンブロック７１０「マルチロボット環境シミュレータ」が、導出されたロボットアクションに基づいて、環境状態を決定する。例えば、プロセッサ３０４は、命令３１６を実行して、導出されたロボットアクションに基づき、環境の状態（例えば、環境レイアウト３３４、物体レイアウト３３６または予測される物体状態３３８等）を決定できる。

ブロック７１２「環境状態を取得する」およびブロック７１４「タスク完了ステータスを取得する」へ続き、現在の環境状態と、タスクの完了ステータスが、環境の決定された状態から識別され得る。決定ブロック７１６において、「タスクが実行された？」が、ブロック７１２および７１４において決定された環境状態とタスク完了ステータスとに基づいて決定される。決定ブロック７１６から、ルーチン７００が完了し、ブロック７１８「軌道を保存する」において、ブロック７０８において決定されたロボットアクションに基づき、軌道３２６が保存され、または、ブロック７０８において決定されたロボットアクションが軌道として保存され、ルーチン７００が、追加の軌道を決定するために続く。

図８は、本開示の非限定的な例によるルーチン８００を示す。概して、ルーチン８００は、コンピューティングデバイス３０２などのコンピューティングデバイスにより実装され得る。ルーチン８００は、ロボットの訓練に関する技術的問題を解決することに関連し、具体的には、タスクの実行に際して協働するよう複数のロボットを訓練することに関連する。ルーチン８００は、ブロック８０２において始まり得る。ブロック８０２「物体を伴う協働タスクを少なくとも２人の専門家実証者が実証する環境内に配置されたカメラのアレイにより撮像された画像をコンピュータで受信する」において、協働タスクの専門家による実証中に撮像された画像が受信され得る。例えば、コンピューティングデバイス３０２のプロセッサ３０４は、命令３１６を実行して、カメラアレイ３１２から画像３１８を受信できる。

ブロック８０４「画像からマーカの数を識別する」へ続き、画像内のマーカが識別され得る。例えば、コンピューティングデバイス３０２のプロセッサ３０４は、命令３１６を実行して、ブロック８０２において受信した画像３１８からマーカ３１４を識別できる。例えば、プロセッサ３０４は、命令３１６を実行して、画像認識技術を介して、または別の方法（例えば、ＲＦＩＤまたはＩＲセンシング技術等）を介して、画像３１８からマーカ３１４を識別できる。

ブロック８０６「画像とマーカの数とに基づいて物体の初期状態を識別する」へ続き、専門家による実証中に専門家により操作される物体の初期状態が識別され得る。例えば、コンピューティングデバイス３０２のプロセッサ３０４は、命令３１６を実行して、操作される物体（例えば、物体１０６または同様のもの）の初期状態を識別できる。いくつかの例において、物体１０６の初期状態は、物体に取り付けられたマーカ３１４と、固定された基準点または環境レイアウト３３４に取り付けられたマーカ３１４とに基づいて識別され得る。

ブロック８０８「協働タスクに関連付けられた軌道の数を画像とマーカの数とから決定する」へ続き、協働タスク（例えば、物体の操作または同様のこと）に関連付けられた軌道が決定される。例えば、コンピューティングデバイス３０２のプロセッサ３０４は、命令３１６を実行して、専門家実証者による物体１０６の操作などの協働タスクに関連付けられた軌道３２６を決定できる。

ブロック８１０「協働して物体を伴う協働タスクを軌道と物体の初期状態とに基づいて実行するための複数のロボットの制御状態を出力するよう、ＭＬモデルを訓練する」へ続き、協働タスクを実行するためのマルチロボットシステム内のロボットの制御状態を出力するよう、ＭＬモデルが訓練され得る。例えば、コンピューティングデバイス３０２のプロセッサ３０４は、命令３１６を実行することで、ロボット１０２および１０４の制御状態を出力し、軌道３２６と、初期物体状態および予測される物体状態３３８を含む物体状態３２８とに基づいて物体１０６を協働方式で操作するよう、ＭＬモデル５００を訓練できる。

図９は、コンピュータ可読記憶媒体９００を示す。コンピュータ可読記憶媒体９００は、光記憶媒体、磁気記憶媒体または半導体記憶媒体など、任意の非一時的コンピュータ可読記憶媒体または機械可読記憶媒体を含み得る。様々な実施形態において、コンピュータ可読記憶媒体９００は、製造品を含み得る。いくつかの実施形態において、コンピュータ可読記憶媒体９００は、回路（例えば、プロセッサ３０４または同様のもの）が実行できるコンピュータ実行可能命令９０２を格納し得る。例えば、コンピュータ実行可能命令９０２は、命令３１６、ルーチン７００および／またはルーチン８００に関連して説明される動作を実装するための命令を含み得る。コンピュータ可読記憶媒体９００または機械可読記憶媒体の例は、揮発性メモリまたは不揮発性メモリ、リムーバブルメモリまたは非リムーバブルメモリ、消去可能メモリまたは消去不可能メモリ、書き込み可能メモリまたは書き換え可能メモリ等を含む、電子データを格納することが可能な任意の有形の媒体を含み得る。コンピュータ実行可能命令９０２の例は、ソースコード、コンパイルされたコード、解釈されたコード、実行可能コード、スタティックコード、ダイナミックコード、物体指向コードおよび視覚的コードなど、任意の適切なタイプのコードを含み得る。

図１０は、システム１０００の実施形態を示す。システム１０００は、分散コンピューティングシステム、スーパーコンピュータ、高性能コンピューティングシステム、コンピューティングクラスタ、メインフレームコンピュータ、ミニコンピュータ、クライアントサーバシステム、パーソナルコンピュータ（ＰＣ）、ワークステーション、サーバ、ポータブルコンピュータ、ラップトップコンピュータ、タブレットコンピュータ、パーソナルデジタルアシスタント（ＰＤＡ）などのハンドヘルドデバイス、または情報を処理、表示もしくは送信するための他のデバイスなど、複数のプロセッサコアを有するコンピュータシステムである。同様の実施形態が、例えば、ポータブル音楽プレーヤもしくはポータブルビデオプレーヤ、スマートフォンもしくは他の携帯電話、電話、デジタルビデオカメラ、デジタルスチルカメラまたは外部ストレージデバイスなど、エンタテインメントデバイスを含み得る。さらなる実施形態が、より大規模なサーバ構成を実装する。他の実施形態において、システム１０００は、１つのコアを含む単一のプロセッサ、または１つよりも多くのプロセッサを有し得る。なお、「プロセッサ」という用語は、シングルコアを有するプロセッサ、または複数のプロセッサコアを有するプロセッサパッケージを指す。少なくとも１つの実施形態において、コンピューティングシステム１０００は、マルチロボット訓練システム２００のコンポーネントを表す。具体例として、システム１０００は、コンピューティングデバイス３０２のコンポーネントを表す。より一般的には、コンピューティングシステム１０００は、図１から図９を参照して本明細書において説明されたロジック、システム、ロジックフロー、方法、装置および機能の全てを実装するように構成される。

本願において用いられる場合、「システム」、「コンポーネント」および「モジュール」という用語は、ハードウェア、ハードウェアとソフトウェアとの組み合わせ、ソフトウェアまたは実行中のソフトウェアのいずれかであるコンピュータ関連エンティティを指すよう意図されており、このコンピュータ関連エンティティの例が、例示的なシステム１０００により提供されている。例えば、コンポーネントは、プロセッサ上で動作するプロセス、プロセッサ、ハードディスクドライブ、（光記憶媒体および／または磁気記憶媒体の）複数のストレージドライブ、オブジェクト、実行ファイル、実行スレッド、プログラムおよび／またはコンピュータであり得るが、これらに限定されない。例示として、サーバ上で動作するアプリケーションおよび当該サーバの両方が、コンポーネントであり得る。１つまたは複数のコンポーネントが、プロセスおよび／または実行スレッド内に存在してよく、１つのコンポーネントが、１つのコンピュータ上に局在してよく、および／または２つまたはそれより多くのコンピュータ間に分散されてよい。さらに、コンポーネントは、動作を調整するために、様々なタイプの通信媒体によって互いに通信可能に結合され得る。この調整は、情報の単方向または双方向の交換を伴い得る。例えば、コンポーネントは、通信媒体にわたって伝達される信号の形態で情報を伝達し得る。情報は、様々な信号線に割り当てられる信号として実装され得る。そのような割り当てにおいて、各メッセージが信号である。しかしながら、さらなる実施形態が代替的に、データメッセージを使用し得る。そのようなデータメッセージは、様々な接続にまたがって送信され得る。例示的な接続は、パラレルインターフェース、シリアルインタフェースおよびバスインタフェースを含む。

この図に示されるように、システム１０００は、プラットフォームコンポーネントを搭載するためのマザーボードまたはシステムオンチップ（ＳｏＣ）１００２を備える。マザーボードまたはシステムオンチップ（ＳｏＣ）１００２は、Ｕｌｔｒａ Ｐａｔｈ Ｉｎｔｅｒｃｏｎｎｅｃｔ（ＵＰＩ）などのポイントツーポイントインターコネクト１０７０を介して結合された第１のプロセッサ１００４および第２のプロセッサ１００６を含むポイントツーポイント（Ｐ２Ｐ）インターコネクトプラットフォームである。他の実施形態において、システム１０００は、マルチドロップバスなど、別のバスアーキテクチャであってよい。さらに、プロセッサ１００４およびプロセッサ１００６の各々は、コア１００８およびコア１０１０をそれぞれ含む複数のプロセッサコアと、レジスタ１０１２およびレジスタ１０１４などの複数のレジスタ、メモリまたはキャッシュをそれぞれ有するプロセッサパッケージであってよい。システム１０００は、２ソケット（２Ｓ）プラットフォームの一例であるが、他の実施形態は、２つよりも多いソケットまたは１つのソケットを含み得る。例えば、いくつかの実施形態は、４ソケット（４Ｓ）プラットフォームまたは８ソケット（８Ｓ）プラットフォームを含み得る。各ソケットは、プロセッサ用のマウントであり、ソケット識別子を有し得る。なお、プラットフォームという用語は、プロセッサ１００４およびチップセット１０３２などの搭載された特定のコンポーネントを有するマザーボードを指す。いくつかのプラットフォームは、追加のコンポーネントを含んでよく、いくつかのプラットフォームは、プロセッサおよび／またはチップセットを搭載するためのソケットのみを含んでよい。さらに、いくつかのプラットフォームは、ソケット（例えば、ＳｏＣまたは同様のもの）を有さなくてよい。

プロセッサ１００４およびプロセッサ１００６は、Ｉｎｔｅｌ（登録商標）のＣｅｌｅｒｏｎ（登録商標）プロセッサ、Ｃｏｒｅ（登録商標）プロセッサ、Ｃｏｒｅ（２）Ｄｕｏ（登録商標）プロセッサ、Ｉｔａｎｉｕｍ（登録商標）プロセッサ、Ｐｅｎｔｉｕｍ（登録商標）プロセッサ、Ｘｅｏｎ（登録商標）プロセッサおよびＸＳｃａｌｅ（登録商標）プロセッサ、ＡＭＤ（登録商標）のＡｔｈｌｏｎ（登録商標）プロセッサ、Ｄｕｒｏｎ（登録商標）プロセッサおよびＯｐｔｅｒｏｎ（登録商標）プロセッサ、ＡＲＭ（登録商標）のアプリケーション、埋め込み型のセキュアなプロセッサ、ＩＢＭ（登録商標）およびＭｏｔｏｒｏｌａ（登録商標）のＤｒａｇｏｎＢａｌｌ（登録商標）プロセッサおよびＰｏｗｅｒＰＣ（登録商標）プロセッサ、ＩＢＭおよびＳｏｎｙ（登録商標）のＣｅｌｌプロセッサならびに同様のプロセッサを限定されることなく含む様々な市販のプロセッサのいずれかであり得る。デュアルマイクロプロセッサ、マルチコアプロセッサおよび他のマルチプロセッサアーキテクチャも、プロセッサ１００４および／またはプロセッサ１００６として使用され得る。追加的に、プロセッサ１００４は、プロセッサ１００６と同一である必要はない。

プロセッサ１００４は、集積メモリコントローラ（ＩＭＣ）１０２０ならびにポイントツーポイント（Ｐ２Ｐ）インタフェース１０２４およびＰ２Ｐインタフェース１０２８を含む。同様に、プロセッサ１００６は、ＩＭＣ１０２２ならびにＰ２Ｐインタフェース１０２６およびＰ２Ｐインタフェース１０３０を含む。ＩＭＣ１０２０およびＩＭＣ１０２２は、プロセッサ１００４およびプロセッサ１００６というプロセッサをそれぞれ、それぞれのメモリ（例えば、メモリ１０１６およびメモリ１０１８）に結合する。メモリ１０１６およびメモリ１０１８は、ダブルデータレートタイプ３（ＤＤＲ３）またはタイプ４（ＤＤＲ４）シンクロナスＤＲＡＭ（ＳＤＲＡＭ）など、プラットフォーム用のメインメモリ（例えば、ダイナミックランダムアクセスメモリ（ＤＲＡＭ））の各部分であってよい。本実施形態において、メモリ１０１６およびメモリ１０１８というメモリは、それぞれのプロセッサ（すなわち、プロセッサ１００４およびプロセッサ１００６）に局所的に取り付けられる。他の実施形態において、メインメモリは、バスおよび共有メモリハブを介してプロセッサと結合し得る。

システム１０００は、プロセッサ１００４およびプロセッサ１００６に結合されたチップセット１０３２を含む。さらに、チップセット１０３２は、例えば、インタフェース（Ｉ／Ｆ）１０３８を介して、ストレージデバイス１０５０に結合され得る。Ｉ／Ｆ１０３８は、例えば、ペリフェラルコンポーネントインターコネクトエンハンスト（ＰＣＩ－ｅ）であってよい。ストレージデバイス１０５０は、システム１０００の回路（例えば、プロセッサ１００４、プロセッサ１００６、ＧＰＵ１０４８、ＭＬアクセラレータ１０５４または視覚処理ユニット１０５６等）により実行可能な命令を格納し得る。例えば、ストレージデバイス１０５０は、コンピュータ可読記憶媒体９００、具体的には命令３１６、および／またはルーチン８００用の命令等を格納できる。

プロセッサ１００４は、Ｐ２Ｐインタフェース１０２８およびＰ２Ｐ１０３４を介してチップセット１０３２に結合し、一方、プロセッサ１００６は、Ｐ２Ｐインタフェース１０３０およびＰ２Ｐ１０３６を介してチップセット１０３２に結合する。ダイレクトメディアインタフェース（ＤＭＩ）１０７６およびＤＭＩ１０７８はそれぞれ、Ｐ２Ｐインタフェース１０２８およびＰ２Ｐ１０３４ならびにＰ２Ｐインタフェース１０３０およびＰ２Ｐ１０３６に結合し得る。ＤＭＩ１０７６およびＤＭＩ１０７８は、例えば毎秒８ギガ（ＧＴ／ｓ）の転送高速を容易にする、ＤＭＩ３．０などのインターコネクトであってよい。他の実施形態において、プロセッサ１００４およびプロセッサ１００６は、バスを介して相互接続し得る。

チップセット１０３２は、プラットフォームコントローラハブ（ＰＣＨ）などのコントローラハブを含み得る。チップセット１０３２は、クロッキング機能を実行するためのシステムクロックを含んでよく、プラットフォーム上の周辺デバイスの接続を容易にするために、Ｉ／Ｏバス用のインタフェースを含んでよい。これらのインタフェースは、例えば、ユニバーサルシリアルバス（ＵＳＢ）、ペリフェラルコンポーネントインターコネクト（ＰＣＩ）、シリアルペリフェラルインターコネクト（ＳＰＩ）および統合インターコネクト（Ｉ２Ｃ）等である。他の実施形態において、チップセット１０３２は、メモリコントローラハブと、グラフィックコントローラハブと、入力／出力（Ｉ／Ｏ）コントローラハブとを有するチップセットなど、１つよりも多くのコントローラハブを含み得る。

図示される例において、チップセット１０３２は、Ｉ／Ｆ１０４２を介して、トラステッドプラットフォームモジュール（ＴＰＭ）１０４４およびＵＥＦＩ、ＢＩＯＳ、フラッシュ回路１０４６と結合する。ＴＰＭ１０４４は、暗号鍵をデバイスに統合することによりハードウェアをセキュリティ保護するように設計された専用マイクロコントローラである。ＵＥＦＩ、ＢＩＯＳ、フラッシュ回路１０４６は、プレブートコードを提供し得る。

さらに、チップセット１０３２は、グラフィック処理回路またはグラフィック処理ユニット（ＧＰＵ）１０４８などの高性能グラフィックエンジンにチップセット１０３２を結合させるためのＩ／Ｆ１０３８を含む。他の実施形態において、システム１０００は、プロセッサ１００４および／またはプロセッサ１００６とチップセット１０３２との間にフレキシブルディスプレイインタフェース（ＦＤＩ）（不図示）を含み得る。ＦＤＩは、プロセッサ１００４および／またはプロセッサ１００６のうちの一方または両方におけるグラフィックプロセッサコアをチップセット１０３２と相互接続する。

追加的に、ＭＬアクセラレータ１０５４および／または視覚処理ユニット１０５６は、Ｉ／Ｆ１０３８を介してチップセット１０３２に結合され得る。ＭＬアクセラレータ１０５４は、ＭＬモデル用のＭＬ関連動作（例えば、訓練、推論等）を実行するために配置された回路であり得る。同様に、視覚処理ユニット１０５６は、視覚処理の特定の動作または関連する動作を実行するために配置された回路であり得る。特に、ＭＬアクセラレータ１０５４および／または視覚処理ユニット１０５６は、機械学習、ニューラルネットワーク処理、人工知能、視覚処理等に有用である数学的な演算および／またはオペランドを実行するために配置され得る。

様々なＩ／Ｏデバイス１０６０およびディスプレイ１０５２が、バスブリッジ１０５８に沿ってバス１０７２に結合し、バスブリッジ１０５８は、バス１０７２を第２のバス１０７４およびＩ／Ｆ１０４０に結合し、Ｉ／Ｆ１０４０は、バス１０７２をチップセット１０３２と接続する。一実施形態において、第２のバス１０７４は、ローピンカウント（ＬＰＣ）バスであってよい。様々なデバイスが、例えば、キーボード１０６２と、マウス１０６４と、通信デバイス１０６６とを含む第２のバス１０７４に結合し得る。

さらに、オーディオＩ／Ｏ１０６８が、第２のバス１０７４に結合し得る。Ｉ／Ｏデバイス１０６０および通信デバイス１０６６のうちの多くがマザーボードまたはシステムオンチップ（ＳｏＣ）１００２上に存在し得るが、キーボード１０６２およびマウス１０６４はアドオン周辺機器であってよい。他の実施形態において、Ｉ／Ｏデバイス１０６０および通信デバイス１０６６のいくつかまたは全ては、アドオン周辺機器であり、マザーボードまたはシステムオンチップ（ＳｏＣ）１００２上に存在しない。

以下の例は、さらなる実施形態に関連しており、これらから、多数の変形および構成が明らかになるであろう。

（例１）
コンピューティング装置であって、
プロセッサと、
命令を格納したメモリと
を備え、
前記命令は、前記プロセッサにより実行された場合、
複数の画像のインジケーションを受信することであって、前記複数の画像は、少なくとも１つの物体を伴う協働タスクを少なくとも２人の専門家実証者が実証する環境内に配置されたカメラのアレイにより撮像される、受信することと、
前記複数の画像から複数のマーカを識別することと、
前記複数の画像および前記複数のマーカから前記物体の初期状態を識別することと、
前記複数の画像および前記複数のマーカから、前記協働タスクに関連付けられた複数の軌道を決定することと、
協働して前記物体を伴う前記協働タスクを前記軌道と前記物体の前記初期状態とに基づいて実行するための少なくとも２つのロボットの制御状態を出力するよう、機械学習（ＭＬ）モデルを訓練することと
を実行するように前記装置を構成する、
コンピューティング装置。

（例２）
前記命令は、前記プロセッサにより実行された場合、前記複数の画像および前記複数のマーカから、識別された前記マーカに基づいて前記少なくとも２人の専門家実証者の初期状態を決定することを実行するように前記装置をさらに構成する、例１に記載のコンピューティング装置。

（例３）
前記命令は、前記プロセッサにより実行された場合、
前記複数の画像から少なくとも１つの固定マーカを識別することと、
前記固定マーカに対する前記複数のマーカの位置に基づいて前記複数の軌道を決定することと
を実行するように前記装置をさらに構成する、例１に記載のコンピューティング装置。

（例４）
前記命令は、前記プロセッサにより実行された場合、
前記複数のマーカのうちの少なくとも最初のものと第１のロボットとの間の第１のマッピングを識別することと、
前記複数のマーカのうちの少なくとも２番目のものと第２のロボットとの間の第２のマッピングを識別することと、
前記軌道と、前記物体の前記初期状態と、前記第１のマッピングと、前記第２のマッピングとに基づいて前記ＭＬモデルを訓練することと
を実行するように前記装置をさらに構成する、例１に記載のコンピューティング装置。

（例５）
前記命令は、前記プロセッサにより実行された場合、前記複数の画像から前記環境のレイアウトを識別するように前記装置をさらに構成する、例４に記載のコンピューティング装置。

（例６）
前記命令は、前記プロセッサにより実行された場合、前記軌道と、前記物体の前記初期状態と、前記第１のマッピングと、前記第２のマッピングと、前記レイアウトとに基づいて前記ＭＬモデルを訓練するように前記装置をさらに構成する、例５に記載のコンピューティング装置。

（例７）
前記命令は、前記プロセッサにより実行された場合、
前記初期物体状態と、前記レイアウトと、前記少なくとも２つのロボットの前記制御状態とから、更新された物体状態をシミュレーションすることと、
前記軌道と、前記物体の前記初期状態と、前記第１のマッピングと、前記第２のマッピングと、前記レイアウトと、前記更新された物体状態とに基づいて前記ＭＬモデルを訓練することと
を実行するように前記装置をさらに構成する、例６に記載のコンピューティング装置。

（例８）
命令を含む非一時的コンピュータ可読記憶媒体であって、前記命令は、コンピュータにより実行された場合、
複数の画像をコンピュータにおいて受信する手順であって、前記複数の画像は、少なくとも１つの物体を伴う協働タスクを少なくとも２人の専門家実証者が実証する環境内に配置されたカメラのアレイにより撮像される、受信する手順と、
前記複数の画像から複数のマーカを識別する手順と、
前記複数の画像および前記複数のマーカから前記物体の初期状態を識別する手順と、
前記複数の画像および前記複数のマーカから、前記協働タスクに関連付けられた複数の軌道を決定する手順と、
協働して前記物体を伴う前記協働タスクを前記軌道と前記物体の前記初期状態とに基づいて実行するための少なくとも２つのロボットの制御状態を出力するよう、機械学習（ＭＬ）モデルを訓練する手順と
を前記コンピュータに実行させる、
コンピュータ可読記憶媒体。

（例９）
前記命令は、前記複数の画像および前記複数のマーカから、識別された前記マーカに基づいて前記少なくとも２人の専門家実証者の初期状態を決定する手順を前記コンピュータにさらに実行させる、例８に記載のコンピュータ可読記憶媒体。

（例１０）
前記命令は、
前記複数の画像から少なくとも１つの固定マーカを識別する手順と、
前記固定マーカに対する前記複数のマーカの位置に基づいて前記複数の軌道を決定する手順と
を前記コンピュータにさらに実行させる、例８に記載のコンピュータ可読記憶媒体。

（例１１）
前記命令は、
前記複数のマーカのうちの少なくとも最初のものと第１のロボットとの間の第１のマッピングを識別することと、
前記複数のマーカのうちの少なくとも２番目のものと第２のロボットとの間の第２のマッピングを識別することと、
前記軌道と、前記物体の前記初期状態と、前記第１のマッピングと、前記第２のマッピングとに基づいて前記ＭＬモデルを訓練することと
を前記コンピュータにさらに実行させる、例８に記載のコンピュータ可読記憶媒体。

（例１２）
前記命令は、前記コンピュータの前記処理回路により前記複数の画像から前記環境のレイアウトを識別する手順を前記コンピュータにさらに実行させる、例１１に記載のコンピュータ可読記憶媒体。

（例１３）
前記命令は、前記軌道と、前記物体の前記初期状態と、前記第１のマッピングと、前記第２のマッピングと、前記レイアウトとに基づいて前記ＭＬモデルを訓練する手順を前記コンピュータにさらに実行させる、例１２に記載の非一時的コンピュータ可読記憶媒体。

（例１４）
前記命令は、前記コンピュータの前記処理回路により、前記初期物体状態と、前記レイアウトと、前記少なくとも２つのロボットの前記制御状態とから、更新された物体状態をシミュレーションする手順と、
前記軌道と、前記物体の前記初期状態と、前記第１のマッピングと、前記第２のマッピングと、前記レイアウトと、前記更新された物体状態とに基づいて前記ＭＬモデルを訓練する手順と
を前記コンピュータにさらに実行させる、例１３に記載のコンピュータ可読記憶媒体。

（例１５）
複数の画像をコンピュータにおいて受信する段階であって、前記複数の画像は、少なくとも１つの物体を伴う協働タスクを少なくとも２人の専門家実証者が実証する環境内に配置されたカメラのアレイにより撮像される、受信する段階と、
前記コンピュータの処理回路により前記複数の画像から複数のマーカを識別する段階と、
前記コンピュータの前記処理回路により前記複数の画像および前記複数のマーカから前記物体の初期状態を識別する段階と、
前記コンピュータの前記処理回路により、前記複数の画像および前記複数のマーカから、前記協働タスクに関連付けられた複数の軌道を決定する段階と、
協働して前記物体を伴う前記協働タスクを前記軌道と前記物体の前記初期状態とに基づいて実行するための少なくとも２つのロボットの制御状態を出力するよう、機械学習（ＭＬ）モデルを訓練する段階と
を備える、協働的挙動用にロボットを訓練するための方法。

（例１６）
前記コンピュータの前記処理回路により、前記複数の画像および前記複数のマーカから、識別された前記マーカに基づいて前記少なくとも２人の専門家実証者の初期状態を決定する段階を備える、例１５に記載のロボットを訓練するための方法。

（例１７）
前記コンピュータの前記処理回路により前記複数の画像から少なくとも１つの固定マーカを識別する段階と、
前記固定マーカに対する前記複数のマーカの位置に基づいて前記複数の軌道を決定する段階と
を備える、例１５に記載のロボットを訓練するための方法。

（例１８）
前記複数のマーカのうちの少なくとも最初のものと第１のロボットとの間の第１のマッピングを識別する段階と、
前記複数のマーカのうちの少なくとも２番目のものと第２のロボットとの間の第２のマッピングを識別する段階と、
前記軌道と、前記物体の前記初期状態と、前記第１のマッピングと、前記第２のマッピングとに基づいて前記ＭＬモデルを訓練する段階と
を備える、例１５に記載のロボットを訓練するための方法。

（例１９）
前記コンピュータの前記処理回路により前記複数の画像から前記環境のレイアウトを識別する段階を備える、例１８に記載のロボットを訓練するための方法。

（例２０）
前記軌道と、前記物体の前記初期状態と、前記第１のマッピングと、前記第２のマッピングと、前記レイアウトとに基づいて前記ＭＬモデルを訓練する段階を備える、例１９に記載のロボットを訓練するための方法。

（例２１）
前記コンピュータの前記処理回路により、前記初期物体状態と、前記レイアウトと、前記少なくとも２つのロボットの前記制御状態とから、更新された物体状態をシミュレーションする段階と、
前記軌道と、前記物体の前記初期状態と、前記第１のマッピングと、前記第２のマッピングと、前記レイアウトと、前記更新された物体状態とに基づいて前記ＭＬモデルを訓練する段階と
を備える、例２０に記載のロボットを訓練するための方法。

（例２２）
例１５から２１のいずれか１つに記載の機能を実装するために配置された手段を備える装置。

以下の図、説明および特許請求の範囲から、当業者には、他の技術的特徴が容易に明らかになり得る。

加えて、前述の図、説明および特許請求の範囲では、本開示を合理化するよう、様々な特徴が単一の例において共にグループ化されている。この開示の方法は、特許請求された例が、各請求項に明示的に記載されたものよりも多くの特徴を必要とするという意図を反映するものと解釈されるべきではない。むしろ、以下の特許請求の範囲が反映しているように、発明の主題は、単一の開示例の全ての特徴よりも少ないものにある。したがって、以下の特許請求の範囲は、本明細書により、発明を実施するための形態に組み込まれ、各請求項は、別個の例として独立している。添付の特許請求の範囲において、「ｉｎｃｌｕｄｉｎｇ」および「ｉｎ ｗｈｉｃｈ」という用語はそれぞれ、「ｃｏｍｐｒｉｓｉｎｇ」および「ｗｈｅｒｅｉｎ」というそれぞれの用語の平易な英語での均等物として用いられている。さらに、「第１の」、「第２の」および「第３の」等の用語は、表示として用いられているに過ぎず、それらの対象に数値的要件を課すよう意図されてはいない。

構造的特徴および／または方法論的動作に固有の文言で主題を説明してきたが、添付の特許請求の範囲において定義されている主題が必ずしも上述の特定の特徴または動作に限定されないことを理解されたい。むしろ、上述の特定の特徴および動作は、特許請求の範囲を実施する例示的な形態として開示されている。

プログラムコードの格納および／または実行に適したデータ処理システムは、メモリ素子直接、またはシステムバスを通じて間接的に結合された少なくとも１つのプロセッサを含む。メモリ素子は、プログラムコード、大容量記憶装置およびキャッシュメモリの実際の実行中に使用されるローカルメモリを含んでよい。これらのプログラムコード、大容量記憶装置およびキャッシュメモリは、実行中にコードが大容量記憶装置から取得される回数を低減するために、少なくともあるプログラムコードの一時記憶を提供する。「コード」という用語は、アプリケーション、ドライバ、プロセス、ルーチン、方法、モジュール、ファームウェア、マイクロコードおよびサブプログラムを含む、広範囲のソフトウェアコンポーネントおよび構築物を包含する。したがって、「コード」という用語は、処理システムにより実行された場合に所望の１つまたは複数の動作を実行するための命令のあらゆる収集を指すのに用いられ得る。

本明細書において説明されている論理回路、デバイスおよびインタフェースは、ハードウェアにおいて実装される機能と、１つまたは複数のプロセッサ上で実行されるコードを用いて実装される機能とを実行し得る。論理回路は、ハードウェア、または、ハードウェアと、１つまたは複数の論理機能を実装するコードとを指す。回路は、ハードウェアであり、１つまたは複数の回路を指し得る。各回路は、特定の機能を実行し得る。回路全体のうちのある回路は、１つまたは複数の導体と相互接続された個別の電気コンポーネント、集積回路、チップパッケージ、チップセットまたはメモリ等を含み得る。集積回路は、シリコンウェハなどの基板上に生成された回路を含み、コンポーネントを含み得る。また、集積回路、プロセッサパッケージ、チップパッケージおよびチップセットは、１つまたは複数のプロセッサを含み得る。

プロセッサは、命令および／またはデータなどの信号を入力において受信し、信号を処理して、少なくとも１つの出力を生成し得る。コードの実行中に、コードは、プロセッサパイプラインを構成するトランジスタの物理的な状態および特徴を変化させる。トランジスタの物理的な状態は、プロセッサ内のレジスタに格納される１および０の論理ビットに変換される。プロセッサは、トランジスタの物理的な状態をレジスタに転送でき、トランジスタの物理的な状態を別の記憶媒体に転送できる。

プロセッサは、プロセッサの全体的な機能を実行するために実装される１つまたは複数のサブ機能を実行するための回路を含み得る。プロセッサの１つの例が、少なくとも１つの入力と少なくとも１つの出力とを含むステートマシンまたは特定用途向け集積回路（ＡＳＩＣ）である。ステートマシンは、予め定められた一連の連続的および／または並列的な操作または変換を少なくとも１つの入力に対して実行することにより、少なくとも１つの入力を操作して、少なくとも１つの出力を生成し得る。

上述のロジックは、集積回路チップの設計の一部であってよい。チップ設計は、グラフィカルコンピュータプログラミング言語で生成され、コンピュータ記憶媒体またはデータ記憶媒体（例えば、ディスク、テープ、物理ハードドライブ、または、ストレージアクセスネットワーク内のものなどの仮想ハードドライブ）に格納される。チップ、またはチップを製造するために用いられるフォトリソグラフィマスクを設計者が製造していない場合、設計者は、結果として得られる設計を、物理的手段により（例えば、設計を格納した記憶媒体のコピーを提供することにより）、または電子的に（例えば、インターネットを通じて）、そのようなエンティティへ直接または間接的に送信する。次に、格納された設計は、製造のための適切なフォーマット（例えば、ＧＤＳＩＩ）に変換される。

結果として得られる集積回路チップは、ベアダイとして未処理のウェハの形態で（つまり、複数のパッケージ化されていないチップを有する単一のウェハとして）、またはパッケージ化された形態で、製造者により販売され得る。後者の場合、チップは、シングルチップパッケージ（マザーボードに取り付けられたリードを有するプラスチックキャリア、または他のより高レベルのキャリアなど）またはマルチチップパッケージ（表面相互接続または埋設型相互接続のいずれかまたは両方を有するセラミックキャリアなど）に搭載される。いずれの場合も、チップは次に、（ａ）プロセッサボード、サーバプラットフォームもしくはマザーボードなどの中間生成物または（ｂ）最終製品のいずれかの一部として、他のチップ、個別の回路要素および／または他の信号処理デバイスと統合される。

例示的な実施形態の前述の説明は、例示および説明の目的で提示されている。包括的であることも、開示された正確な形態に本開示を限定することも、意図されていない。本開示に照らして、多くの修正および変形が可能である。本開示の範囲が、この詳細な説明ではなく、むしろ本明細書に添付された特許請求の範囲によって限定されることが意図されている。本願の優先権を主張する将来の出願は、開示された主題を異なる方式で主張してよく、概して、本明細書において様々に開示されているかそうでなければ実証されている１つまたは複数の限定の任意のセットを含み得る。
［他の考えられる項目］
（項目１）
コンピューティング装置であって、
プロセッサと、
命令を格納したメモリと
を備え、
前記命令は、前記プロセッサにより実行された場合、
複数の画像のインジケーションを受信することであって、前記複数の画像は、少なくとも１つの物体を伴う協働タスクを少なくとも２人の専門家実証者が実証する環境内に配置されたカメラのアレイにより撮像される、受信することと、
前記複数の画像から複数のマーカを識別することと、
前記複数の画像および前記複数のマーカから前記少なくとも１つの物体の初期状態を識別することと、
前記複数の画像および前記複数のマーカから、前記協働タスクに関連付けられた複数の軌道を決定することと、
協働して前記少なくとも１つの物体を伴う前記協働タスクを前記複数の軌道と前記少なくとも１つの物体の前記初期状態とに基づいて実行するための少なくとも２つのロボットの制御状態を出力するよう、機械学習（ＭＬ）モデルを訓練することと
を実行するように前記装置を構成する、
コンピューティング装置。
（項目２）
前記命令は、前記プロセッサにより実行された場合、前記複数の画像および前記複数のマーカから、識別された前記複数のマーカに基づいて前記少なくとも２人の専門家実証者の初期状態を決定することを実行するように前記装置をさらに構成する、項目１に記載のコンピューティング装置。
（項目３）
前記命令は、前記プロセッサにより実行された場合、
前記複数の画像から少なくとも１つの固定マーカを識別することと、
前記固定マーカに対する前記複数のマーカの位置に基づいて前記複数の軌道を決定することと
を実行するように前記装置をさらに構成する、項目１に記載のコンピューティング装置。
（項目４）
前記命令は、前記プロセッサにより実行された場合、
前記複数のマーカのうちの少なくとも最初のものと第１のロボットとの間の第１のマッピングを識別することと、
前記複数のマーカのうちの少なくとも２番目のものと第２のロボットとの間の第２のマッピングを識別することと、
前記複数の軌道と、前記少なくとも１つの物体の前記初期状態と、前記第１のマッピングと、前記第２のマッピングとに基づいて前記ＭＬモデルを訓練することと
を実行するように前記装置をさらに構成する、項目１に記載のコンピューティング装置。
（項目５）
前記命令は、前記プロセッサにより実行された場合、前記複数の画像から前記環境のレイアウトを識別するように前記装置をさらに構成する、項目４に記載のコンピューティング装置。
（項目６）
前記命令は、前記プロセッサにより実行された場合、前記複数の軌道と、前記少なくとも１つの物体の前記初期状態と、前記第１のマッピングと、前記第２のマッピングと、前記レイアウトとに基づいて前記ＭＬモデルを訓練するように前記装置をさらに構成する、項目５に記載のコンピューティング装置。
（項目７）
前記命令は、前記プロセッサにより実行された場合、
前記初期物体状態と、前記レイアウトと、前記少なくとも２つのロボットの前記制御状態とから、更新された物体状態をシミュレーションすることと、
前記複数の軌道と、前記少なくとも１つの物体の前記初期状態と、前記第１のマッピングと、前記第２のマッピングと、前記レイアウトと、前記更新された物体状態とに基づいて前記ＭＬモデルを訓練することと
を実行するように前記装置をさらに構成する、項目６に記載のコンピューティング装置。
（項目８）
命令を含む非一時的コンピュータ可読記憶媒体であって、前記命令は、コンピュータにより実行された場合、
複数の画像をコンピュータにおいて受信する手順であって、前記複数の画像は、少なくとも１つの物体を伴う協働タスクを少なくとも２人の専門家実証者が実証する環境内に配置されたカメラのアレイにより撮像される、受信する手順と、
前記複数の画像から複数のマーカを識別する手順と、
前記複数の画像および前記複数のマーカから前記少なくとも１つの物体の初期状態を識別する手順と、
前記複数の画像および前記複数のマーカから、前記協働タスクに関連付けられた複数の軌道を決定する手順と、
協働して前記少なくとも１つの物体を伴う前記協働タスクを前記複数の軌道と前記少なくとも１つの物体の前記初期状態とに基づいて実行するための少なくとも２つのロボットの制御状態を出力するよう、機械学習（ＭＬ）モデルを訓練する手順と
を前記コンピュータに実行させる、
コンピュータ可読記憶媒体。
（項目９）
前記命令は、前記複数の画像および前記複数のマーカから、識別された前記複数のマーカに基づいて前記少なくとも２人の専門家実証者の初期状態を決定する手順を前記コンピュータにさらに実行させる、項目８に記載のコンピュータ可読記憶媒体。
（項目１０）
前記命令は、
前記複数の画像から少なくとも１つの固定マーカを識別する手順と、
前記固定マーカに対する前記複数のマーカの位置に基づいて前記複数の軌道を決定する手順と
を前記コンピュータにさらに実行させる、項目８に記載のコンピュータ可読記憶媒体。
（項目１１）
前記命令は、
前記複数のマーカのうちの少なくとも最初のものと第１のロボットとの間の第１のマッピングを識別することと、
前記複数のマーカのうちの少なくとも２番目のものと第２のロボットとの間の第２のマッピングを識別することと、
前記複数の軌道と、前記少なくとも１つの物体の前記初期状態と、前記第１のマッピングと、前記第２のマッピングとに基づいて前記ＭＬモデルを訓練することと
を前記コンピュータにさらに実行させる、項目８に記載のコンピュータ可読記憶媒体。
（項目１２）
前記命令は、前記コンピュータの前記処理回路により前記複数の画像から前記環境のレイアウトを識別する手順を前記コンピュータにさらに実行させる、項目１１に記載のコンピュータ可読記憶媒体。
（項目１３）
前記命令は、前記複数の軌道と、前記少なくとも１つの物体の前記初期状態と、前記第１のマッピングと、前記第２のマッピングと、前記レイアウトとに基づいて前記ＭＬモデルを訓練する手順を前記コンピュータにさらに実行させる、項目１２に記載の非一時的コンピュータ可読記憶媒体。
（項目１４）
前記命令は、前記コンピュータの前記処理回路により、前記初期物体状態と、前記レイアウトと、前記少なくとも２つのロボットの前記制御状態とから、更新された物体状態をシミュレーションする手順と、
前記複数の軌道と、前記少なくとも１つの物体の前記初期状態と、前記第１のマッピングと、前記第２のマッピングと、前記レイアウトと、前記更新された物体状態とに基づいて前記ＭＬモデルを訓練する手順と
を前記コンピュータにさらに実行させる、項目１３に記載のコンピュータ可読記憶媒体。
（項目１５）
複数の画像をコンピュータにおいて受信するための手段であって、前記複数の画像は、少なくとも１つの物体を伴う協働タスクを少なくとも２人の専門家実証者が実証する環境内に配置されたカメラのアレイにより撮像される、受信するための手段と、
前記コンピュータの処理回路により前記複数の画像から複数のマーカを識別するための手段と、
前記コンピュータの前記処理回路により前記複数の画像および前記複数のマーカから前記少なくとも１つの物体の初期状態を識別するための手段と、
前記コンピュータの前記処理回路により、前記複数の画像および前記複数のマーカから、前記協働タスクに関連付けられた複数の軌道を決定するための手段と、
協働して前記少なくとも１つの物体を伴う前記協働タスクを前記複数の軌道と前記少なくとも１つの物体の前記初期状態とに基づいて実行するための少なくとも２つのロボットの制御状態を出力するよう、機械学習（ＭＬ）モデルを訓練するための手段と
を備える、ロボットを訓練するための装置。
（項目１６）
前記コンピュータの前記処理回路により、前記複数の画像および前記複数のマーカから、識別された前記複数のマーカに基づいて前記少なくとも２人の専門家実証者の初期状態を決定するための手段を備える、項目１５に記載のロボットを訓練するための装置。
（項目１７）
前記コンピュータの前記処理回路により前記複数の画像から少なくとも１つの固定マーカを識別するための手段と、
前記固定マーカに対する前記複数のマーカの位置に基づいて前記複数の軌道を決定するための手段と
を備える、項目１５に記載のロボットを訓練するための装置。
（項目１８）
前記複数のマーカのうちの少なくとも最初のものと第１のロボットとの間の第１のマッピングを識別するための手段と、
前記複数のマーカのうちの少なくとも２番目のものと第２のロボットとの間の第２のマッピングを識別するための手段と、
前記複数の軌道と、前記少なくとも１つの物体の前記初期状態と、前記第１のマッピングと、前記第２のマッピングとに基づいて前記ＭＬモデルを訓練するための手段と
を備える、項目１５に記載のロボットを訓練するための装置。
（項目１９）
前記コンピュータの前記処理回路により前記複数の画像から前記環境のレイアウトを識別するための手段を備える、項目１８に記載のロボットを訓練するための装置。
（項目２０）
前記複数の軌道と、前記少なくとも１つの物体の前記初期状態と、前記第１のマッピングと、前記第２のマッピングと、前記レイアウトとに基づいて前記ＭＬモデルを訓練するための手段を備える、項目１９に記載のロボットを訓練するための装置。
（項目２１）
前記コンピュータの前記処理回路により、前記初期物体状態と、前記レイアウトと、前記少なくとも２つのロボットの前記制御状態とから、更新された物体状態をシミュレーションするための手段と、
前記複数の軌道と、前記少なくとも１つの物体の前記初期状態と、前記第１のマッピングと、前記第２のマッピングと、前記レイアウトと、前記更新された物体状態とに基づいて前記ＭＬモデルを訓練するための手段と
を備える、項目２０に記載のロボットを訓練するための装置。

Claims (21)

1. コンピューティング装置であって、
   プロセッサと、
   命令を格納したメモリと
   を備え、
   前記命令は、前記プロセッサにより実行された場合、
   複数の画像のインジケーションを受信することであって、前記複数の画像は、少なくとも１つの物体を伴う協働タスクを少なくとも２人の専門家実証者が実証する環境内に配置されたカメラのアレイにより撮像される、受信することと、
   前記複数の画像から複数のマーカを識別することと、
   前記複数の画像および前記複数のマーカから前記少なくとも１つの物体の初期状態を識別することと、
   前記複数の画像および前記複数のマーカから、前記協働タスクに関連付けられた複数の軌道を決定することと、
   協働して前記少なくとも１つの物体を伴う前記協働タスクを前記複数の軌道と前記少なくとも１つの物体の前記初期状態とに基づいて実行するための少なくとも２つのロボットの制御状態を出力するよう、機械学習（ＭＬ）モデルを訓練することと
   を実行するように前記コンピューティング装置を構成する、
   コンピューティング装置。
2. 前記命令は、前記プロセッサにより実行された場合、前記複数の画像および前記複数のマーカから、識別された前記複数のマーカに基づいて前記少なくとも２人の専門家実証者の初期状態を決定することを実行するように前記コンピューティング装置をさらに構成する、請求項１に記載のコンピューティング装置。
3. 前記命令は、前記プロセッサにより実行された場合、
   前記複数の画像から少なくとも１つの固定マーカを識別することと、
   前記固定マーカに対する前記複数のマーカの位置に基づいて前記複数の軌道を決定することと
   を実行するように前記コンピューティング装置をさらに構成する、請求項１または２に記載のコンピューティング装置。
4. 前記命令は、前記プロセッサにより実行された場合、
   前記複数のマーカのうちの少なくとも最初のものと第１のロボットとの間の第１のマッピングを識別することと、
   前記複数のマーカのうちの少なくとも２番目のものと第２のロボットとの間の第２のマッピングを識別することと、
   前記複数の軌道と、前記少なくとも１つの物体の前記初期状態と、前記第１のマッピングと、前記第２のマッピングとに基づいて前記ＭＬモデルを訓練することと
   を実行するように前記コンピューティング装置をさらに構成する、請求項１から３のいずれか一項に記載のコンピューティング装置。
5. 前記命令は、前記プロセッサにより実行された場合、前記複数の軌道と、前記少なくとも１つの物体の前記初期状態と、前記第１のマッピングと、前記第２のマッピングと、レイアウトとに基づいて前記ＭＬモデルを訓練するように前記コンピューティング装置をさらに構成する、請求項４に記載のコンピューティング装置。
6. 前記命令は、前記プロセッサにより実行された場合、
   前記初期状態と、レイアウトと、前記少なくとも２つのロボットの前記制御状態とから、更新された物体状態をシミュレーションすることと、
   前記複数の軌道と、前記少なくとも１つの物体の前記初期状態と、前記第１のマッピングと、前記第２のマッピングと、前記レイアウトと、前記更新された物体状態とに基づいて前記ＭＬモデルを訓練することと
   を実行するように前記コンピューティング装置をさらに構成する、請求項４または５に記載のコンピューティング装置。
7. 前記命令は、前記プロセッサにより実行された場合、前記複数の画像から前記環境のレイアウトを識別するように前記コンピューティング装置をさらに構成する、請求項１から６のいずれか一項に記載のコンピューティング装置。
8. 複数の画像をコンピュータにおいて受信する手順であって、前記複数の画像は、少なくとも１つの物体を伴う協働タスクを少なくとも２人の専門家実証者が実証する環境内に配置されたカメラのアレイにより撮像される、受信する手順と、
   前記複数の画像から複数のマーカを識別する手順と、
   前記複数の画像および前記複数のマーカから前記少なくとも１つの物体の初期状態を識別する手順と、
   前記複数の画像および前記複数のマーカから、前記協働タスクに関連付けられた複数の軌道を決定する手順と、
   協働して前記少なくとも１つの物体を伴う前記協働タスクを前記複数の軌道と前記少なくとも１つの物体の前記初期状態とに基づいて実行するための少なくとも２つのロボットの制御状態を出力するよう、機械学習（ＭＬ）モデルを訓練する手順と
   をコンピュータに実行させるコンピュータプログラム。
9. 前記複数の画像および前記複数のマーカから、識別された前記複数のマーカに基づいて前記少なくとも２人の専門家実証者の初期状態を決定する手順を前記コンピュータにさらに実行させる、請求項８に記載のコンピュータプログラム。
10. 前記複数の画像から少なくとも１つの固定マーカを識別する手順と、
    前記固定マーカに対する前記複数のマーカの位置に基づいて前記複数の軌道を決定する手順と
    を前記コンピュータにさらに実行させる、請求項８または９に記載のコンピュータプログラム。
11. 前記複数のマーカのうちの少なくとも最初のものと第１のロボットとの間の第１のマッピングを識別する手順と、
    前記複数のマーカのうちの少なくとも２番目のものと第２のロボットとの間の第２のマッピングを識別する手順と、
    前記複数の軌道と、前記少なくとも１つの物体の前記初期状態と、前記第１のマッピングと、前記第２のマッピングとに基づいて前記ＭＬモデルを訓練する手順と
    を前記コンピュータにさらに実行させる、請求項８から１０のいずれか一項に記載のコンピュータプログラム。
12. 前記コンピュータの処理回路により前記複数の画像から前記環境のレイアウトを識別する手順を前記コンピュータにさらに実行させる、請求項１１に記載のコンピュータプログラム。
13. 前記コンピュータの処理回路により、前記初期状態と、前記環境のレイアウトと、前記少なくとも２つのロボットの前記制御状態とから、更新された物体状態をシミュレーションする手順と、
    前記複数の軌道と、前記少なくとも１つの物体の前記初期状態と、前記第１のマッピングと、前記第２のマッピングと、前記レイアウトと、前記更新された物体状態とに基づいて前記ＭＬモデルを訓練する手順と
    を前記コンピュータにさらに実行させる、請求項１１または１２に記載のコンピュータプログラム。
14. 前記複数の軌道と、前記少なくとも１つの物体の前記初期状態と、前記第１のマッピングと、前記第２のマッピングと、前記環境のレイアウトとに基づいて前記ＭＬモデルを訓練する手順を前記コンピュータにさらに実行させる、請求項１１から１３のいずれか一項に記載のコンピュータプログラム。
15. 複数の画像をコンピュータにおいて受信するための手段であって、前記複数の画像は、少なくとも１つの物体を伴う協働タスクを少なくとも２人の専門家実証者が実証する環境内に配置されたカメラのアレイにより撮像される、受信するための手段と、
    前記コンピュータの処理回路により前記複数の画像から複数のマーカを識別するための手段と、
    前記コンピュータの前記処理回路により前記複数の画像および前記複数のマーカから前記少なくとも１つの物体の初期状態を識別するための手段と、
    前記コンピュータの前記処理回路により、前記複数の画像および前記複数のマーカから、前記協働タスクに関連付けられた複数の軌道を決定するための手段と、
    協働して前記少なくとも１つの物体を伴う前記協働タスクを前記複数の軌道と前記少なくとも１つの物体の前記初期状態とに基づいて実行するための少なくとも２つのロボットの制御状態を出力するよう、機械学習（ＭＬ）モデルを訓練するための手段と
    を備える、ロボットを訓練するための装置。
16. 前記コンピュータの前記処理回路により、前記複数の画像および前記複数のマーカから、識別された前記複数のマーカに基づいて前記少なくとも２人の専門家実証者の初期状態を決定するための手段を備える、請求項１５に記載のロボットを訓練するための装置。
17. 前記コンピュータの前記処理回路により前記複数の画像から少なくとも１つの固定マーカを識別するための手段と、
    前記固定マーカに対する前記複数のマーカの位置に基づいて前記複数の軌道を決定するための手段と
    を備える、請求項１５または１６に記載のロボットを訓練するための装置。
18. 前記複数のマーカのうちの少なくとも最初のものと第１のロボットとの間の第１のマッピングを識別するための手段と、
    前記複数のマーカのうちの少なくとも２番目のものと第２のロボットとの間の第２のマッピングを識別するための手段と、
    前記複数の軌道と、前記少なくとも１つの物体の前記初期状態と、前記第１のマッピングと、前記第２のマッピングとに基づいて前記ＭＬモデルを訓練するための手段と
    を備える、請求項１５から１７のいずれか一項に記載のロボットを訓練するための装置。
19. 前記コンピュータの前記処理回路により前記複数の画像から前記環境のレイアウトを識別するための手段を備える、請求項１８に記載のロボットを訓練するための装置。
20. 前記コンピュータの前記処理回路により、前記初期状態と、前記レイアウトと、前記少なくとも２つのロボットの前記制御状態とから、更新された物体状態をシミュレーションするための手段と、
    前記複数の軌道と、前記少なくとも１つの物体の前記初期状態と、前記第１のマッピングと、前記第２のマッピングと、前記レイアウトと、前記更新された物体状態とに基づいて前記ＭＬモデルを訓練するための手段と
    を備える、請求項１９に記載のロボットを訓練するための装置。
21. 前記複数の軌道と、前記少なくとも１つの物体の前記初期状態と、前記第１のマッピングと、前記第２のマッピングと、前記環境のレイアウトとに基づいて前記ＭＬモデルを訓練するための手段を備える、請求項１８から２０のいずれか一項に記載のロボットを訓練するための装置。

Images