JP2022536349A - 生体力学的モデルアニメーションのためのバイオメトリック感覚運動制御の深層学習 - Google Patents

Abstract

本発明の実施形態による感覚運動制御フレームワークを訓練および実装するためのシステムおよび方法が、例証される。一実施形態は、感覚運動制御フレームワークを動作させる方法を含む。方法は、筋骨格モデルの現在の状態を決定するステップと、筋骨格モデルの所望の状態を決定するステップと、現在の状態と所望の状態との間の差異に基づいて、筋肉活性化の組を算出するステップと、算出された筋肉活性化に基づいて、筋骨格モデルを駆動するステップとを含む。

Description

本発明は、概して、モデルアニメーションに関し、より具体的に、モデルアニメーションのためのバイオメトリック感覚運動制御に関する。

ヒトの解剖学的構造に基づくグラフィカルな特性のモデル化は、コンピュータアニメーションにおいてより多くの注目を引き付けつつある。人体のますます正確かつ生体力学的なモデル化は、原理上、より現実的なヒトアニメーションをもたらすはずである。しかしながら、二百個超の骨と、約千個の収縮性筋肉アクチュエータとを伴う複雑な生体力学的ヒト筋骨格モデルを制御することは、非常に困難な課題のままである。

さらに、胴体（すなわち、胴部）は、中心部分に関する解剖学的用語であり、一般的な話し言葉では、四肢（すなわち、頭部および頸部および肢部）を除外した多くの動物の体幹（ｃｏｒｅ）に関する。これは、実際に、人体に重要である体幹のものであるが、胴体は、現在まで、コンピュータグラフィック文献において不十分な注目を受けている。当然ながら、その全筋骨格複合体内で脊柱を含む胴体を生体力学的にシミュレートし、制御することは、困難である。

本発明の実施形態による、感覚運動制御フレームワークを訓練および実装するためのシステムおよび方法が、例証される。一実施形態は、感覚運動制御フレームワークを動作させる方法を含む。方法は、筋骨格モデルの現在の状態を決定するためのステップと、筋骨格モデルの所望の状態を決定するためのステップとを含む。方法は、現在の状態と所望の状態との間の差異に基づいて、筋肉活性化の組を算出するためのステップと、算出された筋肉活性化に基づいて、筋骨格モデルを駆動するためのステップとをさらに含む。

さらなる実施形態では、現在の状態および所望の状態は、位置、向き、筋肉歪み、および歪み率のうちの少なくとも１つを含む。

さらに別の実施形態では、筋骨格モデルは、ヒトのモデルであり、複数のＨｉｌｌタイプアクチュエータを含む。

なおもさらなる実施形態では、筋骨格モデルは、複数の複合体を含み、筋肉活性化の組を算出することは、第１の複合体に関する筋肉活性化の第１の組を算出することと、第２の複合体に関する筋肉活性化の第２の組を算出することとを含む。

さらに別の実施形態では、複数の複合体は、腕複合体、脚複合体、頭頸部複合体、および胴体複合体のうちの少なくとも１つを含む。

さらにさらなる実施形態では、第２の複合体に関する筋肉活性化の第２の組を算出することは、筋肉活性化の第１の組からの力を算出することと、算出された力に基づいて、筋肉活性化の第２の組を算出することとを含む。

別の追加の実施形態では、方法は、感覚要素から感覚入力を受信するためのステップをさらに含み、感覚要素は、眼モデルであり、感覚入力は、１次元視神経ベクトル（ＯＮＶ）を含む。

さらなる追加の実施形態では、眼モデルは、網膜上に光受容体の不均一な分布を有する。

一実施形態は、感覚運動制御フレームワークを動作させる方法を含む。方法は、胴体複合体と１つ以上の肢部複合体の組とを含む筋骨格モデルの現在の状態を決定するためのステップと、筋骨格モデルの所望の状態を決定するためのステップと、肢部複合体の組に関する力を算出するためのステップと、肢部複合体の組に関する力および胴体複合体の現在の状態と所望の状態との間の差異に基づいて、胴体複合体に関する筋肉活性化の組を算出するためのステップと、算出された筋肉活性化に基づいて、筋骨格モデルを駆動するためのステップとを含む。

さらなる実施形態では、筋肉活性化の組を算出することは、随意コントローラを使用して随意信号を算出することと、反射コントローラを使用して反射信号を算出することと、随意コントローラからの出力および反射コントローラからの出力に基づいて、筋肉活性化の組を算出することとを含む。

さらに別の実施形態では、随意コントローラは、関連付けられた筋肉群のうちの筋肉に関する標的向きおよび出力活性化を入力として受け取る。

なおもさらなる実施形態では、反射コントローラは、関連付けられた筋肉群のうちの筋肉の筋肉歪みおよび歪み率を入力として受け取る。

一実施形態は、胴体複合体の胴体コントローラを訓練する方法を含む。方法は、標的入力の組と標的状態とを含む訓練データを受信するためのステップと、胴体複合体に取り付けられる肢部複合体によって及ぼされる力を決定するためのステップと、標的入力、標的状態、および決定された力に基づいて、胴体複合体に関する筋肉活性化を算出するためのステップと、筋肉活性化の結果と標的状態との間の差異を算出するためのステップと、標的状態と現在の状態との間の差異に基づいて、胴体コントローラのパラメータを修正するためのステップとを含む。

さらに別の実施形態では、方法は、訓練データを合成するためのステップをさらに含む。

さらにさらなる実施形態では、訓練データを合成することは、モデルに関する現在の位置および標的位置を規定することと、現在の位置と標的位置との間の相違を決定することと、現在の位置の相違および筋肉活性化に基づいて、筋肉活性化調節を決定することとを含み、相違を決定することは、逆運動学の問題を解決することを含む。

別の追加の実施形態では、相違は、角度相違、線形相違、および加速度相違のうちの少なくとも１つを含む。

さらなる追加の実施形態では、筋肉活性化調節を決定することは、筋肉最適化技法を実施し、所望のトルクを発生させることができる最小筋肉活性化を算出することを含む。

再び別の実施形態では、訓練データを合成することは、モデルに関する現在および所望の筋肉歪みおよび歪み率を規定することと、制御される群の筋肉に関する筋肉歪みおよび歪み率の変化を決定することと、筋肉歪みおよび歪み率の変化に基づいて、筋肉活性化調節を決定することとを含む。

再びさらなる実施形態では、肢部複合体によって示される力を決定することは、活性化信号を肢部複合体に送信することによって、肢部複合体の組に関するランダム力を算出することを含む。

追加の実施形態および特徴が、部分的に、続く説明において記載され、部分的に、本明細書の考察の結果、当業者に明白な状態となるか、または、本発明の実践によって学習され得る。本開示の一部を形成する本明細書の残りの部分および図面の参照によって、本発明の性質および利点のさらなる理解が、実現され得る。

本説明および請求項は、本発明の例示的実施形態として提示され、本発明の範囲の完全な列挙として解釈されるべきではない以下の図およびデータグラフを参照して、より完全に理解されるであろう。

図１は、生体力学的にシミュレートされたヒト筋骨格モデルのある例を図示する。

図２は、本発明のある実施形態による、感覚運動制御システムのある例を図示する。

図３は、本発明のある実施形態による、神経筋コントローラの例示的アーキテクチャを図示する。

図４は、本発明のある実施形態による、コントローラを訓練するためのプロセスのある例を概念的に図示する。

図５は、本発明のある実施形態による、随意コントローラのための訓練データを合成するためのプロセスのある例を概念的に図示する。

図６は、本発明のある実施形態による、反射コントローラのための訓練データを合成するためのプロセスのある例を概念的に図示する。

図７は、本発明のある実施形態による、感覚運動制御フレームワークを訓練および実装するシステムのある例を図示する。

図８は、本発明のある実施形態による、感覚運動制御システムの動作に関するプロセスのある例を概念的に図示する。

本発明の種々の実施形態によるシステムおよび方法は、モデルを制御し、アニメーション化するために使用され得るバイオメトリック感覚運動制御フレームワークを提供する。本発明の多くの実施形態によるバイオメトリック感覚運動制御フレームワークは、感覚情報を処理し、モデルに筋骨格制御を提供することができる。いくつかの実施形態では、バイオメトリック感覚運動制御フレームワークは、包括的で解剖学的に正確な筋肉作動生体力学的ヒトモデルと感覚運動制御システムとを含むことができる。

本発明の多くの実施形態によるヒトモデルは、多数の筋肉によって作動させられる生体力学的にシミュレートされたヒト筋骨格モデルを含むことができる。いくつかの実施形態では、システムおよびプロセスは、数百個の筋肉によって作動させられる関節運動自由度の完全な組を伴う全身の生体力学的ヒトモデルを提供することができる。いくつかの実施形態では、モデルは、現実的な眼球運動が可能であるヒトのような眼の中に中心窩網膜を含むバイオメトリック視覚システムを採用することができる。光線トレーシングは、網膜上での光受容体の生体創発的な不均一な分散によって捕捉される照射を算出することにおいて役に立つ。ある実施形態では、シミュレートされたモデルは、その網膜が不均一に分散させられた光受容体を有する、眼を含むことができる。

本発明のいくつかの実施形態による感覚運動制御システムは、（限定ではないが）感覚サブシステムおよび神経筋運動サブシステム等のいくつかのサブシステムを含むことができる。いくつかの実施形態では、各サブシステムは、いくつかの訓練された機械学習モデルまたはネットワーク（例えば、深層ニューラルネットワーク（ＤＮＮ））から構成される。本発明の種々の実施形態による神経筋運動サブシステムは、身体のエリア内の筋肉の作動を制御するコントローラ（またはＤＮＮ）を含むことができる。多数の実施形態では、コントローラは、所望の運動および平衡反射のための筋肉活性化を生産するために使用され得る随意ネットワークと、反射ネットワークとを含むことができる。

いくつかの実施形態では、感覚運動制御システムの訓練ネットワークが、生体力学的ヒト筋骨格モデル自体によって合成された大量の訓練データを用いて訓練されることができる。本発明の種々の実施形態に従ってネットワークを訓練することは、生体力学的ヒト筋骨格モデルシミュレータに基づいて訓練データを合成することを含むことができる。本発明のある実施形態による運動コントローラが、現在の筋肉活性化と身体部分の現在の位置と標的位置との間の相違とに基づいて、筋肉活性化調節を生産するように訓練されることができる。種々の実施形態では、反射コントローラは、入力される筋肉歪みおよび歪み率に基づいて筋肉安定化信号を生産するように訓練されることができる。
（ヒトモデル）

生体力学的にシミュレートされたヒト筋骨格モデルのある例が、図１に図示される。この例では、モデル１００は、１９３個の骨と、８２３個のＨｉｌｌタイプ筋肉アクチュエータとを含む。いくつかの実施形態では、各骨格筋が、その挿入および取り付け点において骨に力を加えるＨｉｌｌタイプ単軸収縮アクチュエータとしてモデル化される。生体力学的にシミュレートされたヒト筋骨格モデルの具体的例が、上記に議論されるが、多くの筋骨格モデルが、本発明の多くの異なる実施形態に従って実装されることができる。例えば、本明細書に説明される例の多くが、ヒトモデルを参照して説明されるが、当業者は、類似のプロセスが、他のタイプの動物の筋骨格モデルに適用され得ることを認識するであろう。したがって、本発明が、本発明の範囲および精神から逸脱することなく、具体的に説明されるもの以外の方法において実践され得ることを理解されたい。

ある実施形態では、ヒトモデルは、ヒトの眼のように見えるようにモデル化された眼も含む。本発明の多数の実施形態による眼モデルが、理想的なピンホールカメラとしてモデル化される。ある実施形態では、眼モデルは、入射光強度に適応するように拡張および収縮する有限開口瞳を含むことができる。本発明の多くの実施形態による眼モデルは、光線を屈折させるためのレンズコンポーネントと角膜コンポーネントとを含むことができ、レンズ変形の能動的な毛様筋制御を通して光学被写界深度を調節することが可能であることができる。多数の実施形態では、眼モデルは、単に運動学的回転球体である。本発明の種々の実施形態による眼モデルは、生体力学的であり、視線方向の周囲における捻じれ移動を誘発するための２つの斜筋と４つの直筋とを含む外眼筋によって作動させられることができる。

バイオメトリック中心窩視覚をエミュレートするために、本発明の多くの実施形態による眼モデルが、ノイズの多い対数極分布に従って光受容体を半球状の網膜上に位置付け、それは、以前の中心窩視覚モデルと比較してより高い生物学的忠実度を有する。種々の実施形態では、光受容体は、２つの網膜上のわずかに異なる位置に設置されることができる。

多数の実施形態では、各眼によって捕捉される中心窩網膜のＲＧＢ画像が、ピクセルの２Ｄアレイとしてではなく、本明細書では視神経ベクトル（ＯＮＶ）として参照される１Ｄベクトルとして、さらに処理するために視覚経路に沿って出力される。本発明のある実施形態によるＯＮＶは、眼の中の光受容体の数と、各光受容体のための層（例えば、色）の数とに基づく長さを有する。例えば、眼が３，６００個の光受容体と３つの層とを有する場合、ＯＮＶは、長さ１０，８００（３，６００×３＝１０，８００）を有し得る。本発明の種々の実施形態によるＯＮＶ内にエンコードされる未加工の感覚情報が、神経筋運動コントローラネットワークにフィードされることができ、神経筋運動コントローラネットワークは、眼球運動を直接制御する視覚ネットワークおよび／または頸部によって作動させられる頭部運動および肢部のアクションを調整する。種々の実施形態では、ＯＮＶは、１Ｄの網膜ＯＮＶ出力から２Ｄの網膜皮質マップを構築するために使用される。

種々の実施形態では、ヒトモデルは、ヒトの内耳および関連する神経回路のそれをエミュレートする前庭系も含むことができる。本発明のいくつかの実施形態によるヒトモデルは、前庭動眼反射（ＶＯＲ）を通して頭部向きを眼球運動に適切に結合する、訓練された神経コントローラを利用することができる。
（感覚運動制御システム）

本発明のある実施形態による感覚運動制御システムのある例が、図２に図示される。感覚運動制御システムは、ある環境内で感知、移動、および反応するために使用されることができる。感覚運動制御システム２００は、感覚サブシステム２１０と、神経筋運動サブシステム２４０とを含む。

本発明の多くの実施形態による感覚サブシステムが、環境および／または環境内の物体を感知する（例えば、見る、聞く、触知する等）ために使用されることができる。いくつかの実施形態では、感覚サブシステムは、眼球運動および頭部移動を駆動することができ、および／または、モデルの眼からの光受容体応答から腕および脚のアクションを直接指示するために要求される視覚情報を抽出することができる。本発明の種々の実施形態による神経筋運動サブシステムが、感知された環境のみならず、モデルによって受信され得る他の入力および／または命令にも基づいて、モデルの筋肉および移動を活性化させ、制御するために使用されることができる。

いくつかの実施形態では、感覚サブシステムは、（例えば、１０，８００次元のＯＮＶを介して）ヒトモデルの眼によって提供される感覚情報を解釈する中心窩ネットワークと、肢部視覚ネットワークとを含むことができる。この例では、感覚サブシステム２１０は、中心窩ネットワーク２１５と、肢部視覚ネットワーク２２０とを含む。

本発明の種々の実施形態による中心窩ネットワークが、モデルの眼および／または頭部を移動させることによってモデルの眼の視野内の物体を追跡するために使用されることができる。本発明のいくつかの実施形態による感覚サブシステムは、左中心窩ネットワークと右中心窩ネットワークとを含み、それらは、着目可視物体を中心視するように衝動性眼球運動を駆動し、それによって、最大視力を用いてそれらを観察することによって、視線方向における随意変化を生産するように動作し得る。衝動性眼球運動の最高速度は、９００度／秒であり、眼は、ほぼ瞬時に、視覚標的を中心視するように回転する。中心視、固視、および視覚追跡を補助するために、眼球運動は、たとえ頭部のかなりの質量に起因するはるかにより反応が遅いものであっても代償的な頭部移動を誘発する。故に、本発明の種々の実施形態による中心窩ネットワークは、頭頸部神経筋随意運動ネットワークも駆動することによって頭部移動を制御するように動作することができる。いくつかの実施形態では、頭頸部神経筋随意運動ネットワークは、左中心窩ネットワークおよび右中心窩ネットワークの出力の集合体（例えば、平均）によって駆動されることができる。ある実施形態では、中心窩ネットワークは、テーパ型完全接続ＤＮＮであり、ＯＮＶの次元に従って単位の数（例えば、１０，８００）を有する入力層と、眼の回転調節を表す単位ΔθおよびΔφを伴う出力層とを伴う。そのＯＮＶ入力を所与として、中心窩ネットワークの所望の出力は、眼の実際の視線方向と、球体を中心視するであろう既知の視線方向との間の角度相違ΔθおよびΔφであることができる。

本発明のいくつかの実施形態による肢部視覚ネットワークは、コントローラネットワーク内にフィードし、ヒトモデルの移動および筋肉を制御することができる。いくつかの実施形態では、感覚サブシステムは、各肢部（例えば、右腕、左腕、右脚、左脚等）に関する別個の肢部視覚ネットワークを含む。本発明のいくつかの実施形態による左および右の肢部（腕および脚）視覚ネットワークが、エンドエフェクタ（手または足）の位置と視覚標的の位置との間の３Ｄ空間内の分離を推定し、したがって、関連付けられた肢部神経筋運動コントローラを駆動し、標的に接触するように肢部を拡張させるために使用されることができる。ある実施形態では、肢部視覚ネットワークは、肢部神経筋運動コントローラを介して肢部のアクションを駆動する腕と標的との間の３Ｄ相違Δｘ、Δｙ、およびΔｚを推定することができる。本発明の多くの実施形態による感覚サブシステムは、訓練されたニューラルネットワークを利用する視覚性運動反射（ＯＫＲ）を含むことができる。種々の実施形態では、肢部視覚ネットワークのアーキテクチャは、エンドエフェクタと視覚標的との３Ｄ位置間に推定される相違である３つの単位Δｘ、Δｙ、およびΔｚを有する出力層のサイズを除いて、中心窩ネットワークと同じである。

この例の神経筋運動サブシステム２４０は、肢部コントローラ２４５と、頭頸部コントローラ２５０と、胴体コントローラ２５５とを含む。本発明のいくつかの実施形態による神経筋運動サブシステムは、神経筋制御を達成するための制御ネットワーク（またはコントローラ）を含むことができる。多くの実施形態では、コントローラは、モデルを所望の向きにおいて位置付けるために筋肉群のための筋肉活性化信号を生産するように訓練されたネットワークの組を含むことができる。いくつかの実施形態では、複数のコントローラが、（限定ではないが）頭頸部複合体、肢部複合体（例えば、腕および脚）、および／または胴体複合体等の別個の筋肉群のために使用される。いくつかの実施形態では、コントローラは、肢部視覚ネットワークの出力の集合体（例えば、平均）によって駆動されることができる。代替として、または結合的に、特定のコントローラが、他の肢部視覚ネットワークからのさらなる入力を伴わずに、特定のコントローラのために特に訓練された特定の肢部視覚ネットワークによって駆動されることができる。

例えば、本発明のいくつかの実施形態による神経筋運動サブシステムは、自然な頭部移動を生産するための頭頸部筋骨格複合体を作動させる２１６個の頸部筋肉を制御するための制御ネットワークと、各肢部（例えば、各腕の２９個の筋肉および各脚の３９個の筋肉）を制御するための他の制御ネットワークとを含むことができる。いくつかの実施形態では、運動サブシステム内の神経筋コントローラは、ヒトモデルの１つ以上の複合体（例えば、頭頸部、肢部、体幹等）のための神経筋制御ネットワーク（またはコントローラ）を含むことができる。

本発明のいくつかの実施形態による体幹筋骨格複合体のためのコントローラが、５つの四肢（すなわち、頭頸部、２つの腕、および２つの脚筋骨格複合体）に専門化された神経筋コントローラと協調して稼働するように訓練されることができる。いくつかの実施形態では、胴体の深部神経筋コントローラが、胴体と四肢との間の共変動によって引き起こされる相互作用を考慮し、自然な現実的な全身ヒトアニメーションをもたらす。

本発明の多くの実施形態による神経筋コントローラの例示的アーキテクチャが、図３に図示される。神経筋運動コントローラアーキテクチャ３００は、随意コントローラ３０５と、反射コントローラ３１０とを含む。この例では、筋肉活性化信号ａが、入力として随意コントローラ３０５にフィードバックし、神経筋コントローラ３００を再帰型ニューラルネットワークにする。多数の実施形態では、随意コントローラおよび反射コントローラの両方は、筋肉活性化調節（Δ）信号を生産する訓練ネットワーク（例えば、ＤＮＮ）であることができる。

本発明の多くの実施形態による随意コントローラが、モデルのために種々の機能を実施するために筋肉群を制御するために使用されることができる。例えば、本発明のいくつかの実施形態による頭頸部随意運動ネットワークは、標的頭部姿勢を達成するための現実的な頭部移動を作動させながら、可撓性の頸椎頂上での重力における頭部の質量を平衡させるために、頸部筋肉への遠心性の活性化信号を発生させることができる。多数の実施形態では、４つの肢部の随意運動ネットワークの機能は、標的に到達するために肢部を拡張させること等の制御された腕および脚の移動を実行するために、４つの肢部の筋肉への遠心性の活性化信号を発生させることである。本発明の多くの実施形態による、胴体随意運動ネットワークの機能は、腕および頭部の目的にかなう標的胴部姿勢を達成するために現実的な胴体移動を作動させながら、可撓性の頸椎頂上での重力における胴部の質量を平衡させるために、胴体筋肉への遠心性の活性化信号を発生させることである。

多くの実施形態では、各筋肉群に関する随意コントローラは、関連付けられた筋肉群のうちの筋肉に関する標的向きおよび／または、位置および出力活性化を入力として受け取る。本発明の種々の実施形態による随意コントローラは、入力として、標的相違δと、再帰的に、筋肉活性化αとを受け取る。いくつかの実施形態では、随意コントローラは、関連付けられた筋骨格複合体の所望の作動を誘発し得る信号Δａ_ｖを生産することができる。

いくつかの実施形態では、異なる複合体の全てのための随意運動ネットワークのアーキテクチャは、入力および出力層のサイズを除いて、同じである。本発明のいくつかの実施形態による随意運動ネットワークの入力層は、頭部向きまたは手／足位置等の仮想のヒトの状態のある関連のある特徴の値と、その特徴の標的値との間の相違の（角度または線形）成分を表す単位のみならず、関連付けられた骨格筋複合体内のｎ個の筋肉の各々の現在の活性化ａ_ｉ（ｔ）（１≦ｉ≦ｎ）を表す単位も含む。本発明のいくつかの実施形態による出力層は、筋肉活性化に対して調節Δａ_ｉ（ｔ）（１≦ｉ≦ｎに関する）をエンコードする単位を含むことができ、それは、次いで、筋肉活性化を更新ことにａ_ｖとして相加的に寄与することができる。

本発明のある実施形態による反射コントローラは、入力として筋肉歪みｅおよび歪み率

の変化を受け取ることができる。種々の実施形態では、反射コントローラは、筋肉安定化信号Δａ_ｒを生産することができる。本発明の種々の実施形態による神経筋運動コントローラの出力は、

によって求められることができる。

反射筋肉活性化信号は、

であり、式中、ｅおよび

は、現在の筋肉歪みおよび歪み率であり、

は、それぞれ、所望の歪みおよび歪み率であり、飽和関数は、以下の通りである。

飽和関数は、過度に大きい導関数フィードバックから不安定性を回避する。種々の実施形態では、所望の歪みおよび歪み率が、設定点法によって算出されることができる。ある実施形態では、入力は、歪みΔｅ＝ｅ^ｄ－ｅおよび歪み率

の所望の調整値の連結値である一方、入力に応答するネットワークの所望の出力は、反射活性化調節Δａ_ｒであり、それは、神経筋コントローラ出力に追加されることができる。

本発明の多数の実施形態によるプロセスは、現在の姿勢ｑと標的姿勢ｑ^＊との間の差異が最小化されるように、勾配降下法様式において関節角度を反復的に更新することができる。多くの実施形態では、コントローラは、以下のＰＤアプローチを使用して、各時間ステップｈにおいて標的に到達するために要求される加速度を決定することができる。

比例利得は、

であり、式中、γは、誤差低減率であり、低減利得ｋ_ｄ＝２／ｈである。

本発明のいくつかの実施形態によるプロセスは、加速度が規定された関節のための所望の加速度およびトルクが規定された関節のための所望のトルクを算出することを可能にするハイブリッド再帰動力学アルゴリズムを実装する。種々の実施形態では、プロセスは、加速度が規定された関節として筋肉によって駆動される関節を設定することができる一方、受動関節は、トルクが規定された関節のままである。筋肉によって駆動される関節のための所望の加速度が、算出されることができ、ハイブリッド動力学アルゴリズムが、受動関節のための結果として生じる加速度を算出するために起動されることができる。いくつかの実施形態では、システムは、一次インプリシットオイラー法を使用して次の時間ステップまで前進させられることができ、ハイブリッド動力学アルゴリズムが、筋肉によって駆動される関節のためのトルクを算出し、したがって、筋肉によって駆動される関節の所望のトルクおよび受動関節のための加速度を取得するために使用されることができる。所望のトルクが、取得された後、アゴニストおよびアンタゴニスト筋肉に関する最適化問題が、解決され、所望の最小労力筋肉活性化レベルを算出することができる。
（訓練）

本発明の多数の実施形態による訓練プロセスは、その体験から持続的に学習するための能力をモデルに与え得るオンラインの持続的な深部補強学習スキームを組み込む。そのような学習プロセスは、特に、ヒトが持続的に実践し、それらの技能を改良する、スポーツを行うこと等の明確な目的を伴う、運動のために重要であることができる。種々の実施形態では、訓練データは、生体力学的ヒト筋骨格モデルシミュレータを使用して、オフラインで合成される。訓練されると、ネットワークは、たちまち、要求される筋肉活性化信号をオンラインで生産することができる。

本発明のある実施形態による、コントローラを訓練するためのプロセスのある例が、図４に概念的に図示される。プロセス４００は、訓練データを合成する（４０５）。本発明の種々の実施形態による訓練データを合成することは、生体力学的にシミュレートされたヒト筋骨格モデルを使用して実施されることができる。本発明の多数の実施形態による訓練データは、（限定ではないが）位置の相違、筋肉歪みの変化、歪み率の変化、現在の状態、所望の状態、他の複合体からの力、および／または筋肉活性化を含むことができる。訓練データを合成するための例示的プロセスが、図５および６を参照して下記に説明される。

プロセス４００は、コントローラ（例えば、反射運動コントローラまたは随意運動コントローラ）に訓練データを入力し（４１０）、入力データに基づいて筋肉活性化を算出する（４１５）。プロセス４００は、算出された筋肉活性化と訓練データからの所望の筋肉活性化との間の差異を計算する（４２０）。プロセス４００は、決定された筋肉活性化と算出された活性化との間の差異に基づいて、コントローラを修正する（４２５）。いくつかの実施形態では、コントローラは、ニューラルネットワークの重みを調節する逆伝搬プロセスを通して訓練され得る深層ニューラルネットワークである。

感覚運動制御システムのコントローラを訓練する具体的方法が、上記に議論されるが、多くの方法が、本発明の多くの異なる実施形態に従って実装されることができる。したがって、本発明が、本発明の範囲および精神から逸脱することなく、具体的に説明されるもの以外の方法において実践され得ることを理解されたい。

ある実施形態では、運動ネットワークおよび反射ネットワークを訓練および利用するためのプロセスは、大部分が類似しているが、それらは、異なる入力の組に基づく。本発明の多くの実施形態による随意運動制御ネットワークは、ｎ＋ｋ個の入力に基づいて訓練され、ｎは、制御されている筋肉の数であり、ｋは、相違の数である。ｎ個の筋肉の各々は、入力に関する現在の筋肉活性化を提供することができる。本発明のいくつかの実施形態による相違は、現在の位置（または向き）と標的位置との間で計算される線形相違および／または角度相違を含むことができる。本発明の種々の実施形態による、反射制御ネットワークは、２ｎ個の入力に関して訓練される。本発明のいくつかの実施形態に従って反射制御ネットワークを訓練するための入力は、制御される複合体のｎ個の筋肉の各々に関する筋肉歪みおよび歪み率の変化を含む。

上記に説明されるように、本発明のいくつかの実施形態による感覚運動制御システムは、合成された訓練データに基づいて訓練されることができる。随意コントローラおよび反射コントローラのために訓練データを合成することの例が、図５および６を参照して下記に説明される。一連のランダム標的位置を規定し、肢部をそれらに到達させるように作動させることを繰り返し行うことによって、本発明のある実施形態によるプロセスは、随意運動コントローラおよび反射運動コントローラの各々を訓練するための入力／出力対の大きい訓練データセットを発生させることができる。

本発明のある実施形態による、随意コントローラのために訓練データを合成するためのプロセスのある例が、図５に概念的に図示される。プロセス５００は、モデルに関する現在位置および標的位置を規定する（５０５）。モデルに関する位置（または姿勢）はまた、（限定ではないが）四肢の位置、頭部の向き等を含むことができる。プロセス５００は、現在の位置と標的位置との間の相違を決定する（５１０）。標的位置が、所望の姿勢、遂行されるべき目的等に基づいて決定されることができる。相違は、（限定ではないが）（例えば、頭部の向きの）角度相違と、線形相違（例えば、３Ｄ空間内の線形距離）とを含むことができる。ある実施形態では、関節または身体部分に関する相違が、逆運動学の問題を解決することによって算出されることができる。多数の実施形態では、関節に関する所望の加速度が、所与の時間ステップにおいて所望の運動を達成するために算出されることができる。ある運動のために要求される関節トルクが、重力等の外力を受ける、関節毎の逆動力学の問題を解決することによって、本発明のいくつかの実施形態に従って算出されることができる。

プロセス５００は、次いで、モデルの相違および現在の筋肉活性化に基づいて、筋肉活性化調節を決定する（５１５）。多数の実施形態では、筋肉活性化調節は、関節毎の所望のトルクを発生させ得る最小限の筋肉活性化、すなわち、最小労力目的を算出するために適用され得る筋肉最適化技法を通して決定されることができる。本発明の種々の実施形態による随意コントローラのために合成された訓練データは、シミュレートされたモデルに基づいて算出される、モデル状態（例えば、位置、向き等）と、相違と、筋肉活性化調節とを含むことができる。

本発明のある実施形態による反射コントローラのために訓練データを合成するためのプロセスのある例が、図６に概念的に図示される。プロセス６００は、モデルに関する現在および所望の筋肉歪みおよび歪み率を規定する（６０５）。本発明の多くの実施形態による所望の歪みおよび歪み率は、設定点法によって算出されることができる。プロセス６００は、制御される群の筋肉に関する筋肉歪みおよび歪み率の変化を決定する（６１０）。プロセス６００は、次いで、筋肉歪みおよび歪み率の変化に基づいて、筋肉活性化調節を決定する（６１５）。本発明の種々の実施形態による、反射コントローラのために合成された訓練データは、筋肉歪みおよび歪み率のための所望の調節と、シミュレートされたモデルに基づいて算出された所望の調節と関連付けられた筋肉活性化調節とを含むことができる。

訓練データを合成する具体的な方法が、上記に議論されるが、多くの方法が、本発明の多くの異なる例に従って実装されることができる。したがって、本発明が、本発明の範囲および精神から逸脱することなく、具体的に説明されるもの以外の方法において実践され得ることを理解されたい。

いくつかの実施形態では、感覚運動制御システムは、肢部複合体のため、および／または頭頸部複合体のためのコントローラと連動して訓練され得る胴体コントローラを含むことができる。体幹（または胴体）および５つの四肢のそれぞれの筋骨格複合体が、異なる神経筋コントローラの制御下における筋肉の異なる組を含むという事実にもかかわらず、四肢と体幹との間の力の結合が、異なる筋骨格複合体にわたる関節および筋肉を通して完全に自然な様式において遂行されることができる。多数の実施形態では、関節運動される生体力学的骨格構造は、移動する間、接続されたままである。特に、頸椎のＣ７椎骨と胸椎のＴ１椎骨との間の脊柱関節が、頭頸部筋骨格複合体を胴体に拘束する力を加えることができる。肩において、各上腕の頭部が、胴体内のそのそれぞれの肩甲骨の関節窩と関節結合し、腕筋骨格複合体を胴体に拘束するように力を加え得る肩関節を形成する。股関節において、各大腿骨の頭部が、胴体内の骨盤骨内の臼蓋窩と関節結合し、脚筋骨格複合体を胴体に拘束するように力を加え得る股関節を形成する。

さらに、多数の実施形態では、四肢の筋骨格複合体の各々は、胴体内の主要な骨に取り付く複数の重大な筋肉を含むことができる。これらは、僧帽筋等の頸部の長い表在筋、二頭筋、三頭筋、および回旋筋腱板を構成する筋肉等の肩の筋肉、および臀筋群、内転筋群等の股関節の筋肉等を含むことができる。これらの筋肉の仮想の対応物が、本発明のいくつかの実施形態による筋骨格モデル内に存在し、それらは、胴体の主要な骨と四肢の筋骨格複合体の近位骨との間に共通の力を加えることができる。

各筋骨格複合体を単独で扱い、それらの運動コントローラを互いに独立して訓練するのではなく、実行可能な体幹訓練のために、本発明の種々の実施形態によるプロセスは、全身モデルを統合されたシステムとして見なすことができる。したがって、胴体訓練データ合成中、本発明のいくつかの実施形態によるプロセスは、胴体神経筋コントローラが、四肢から導出される力の結果を学習し得るように、四肢からのランダム力を胴体上に導入することができる。ランダム活性化信号をそれらの筋肉に送信することによって、腕、脚、および頭頸部複合体は、胴体神経筋運動コントローラのための訓練データを合成するために若干の量だけランダムに作動させられることができる。多くの実施形態では、ランダム活性化信号は、訓練データが脚神経筋運動コントローラのために合成されるにつれて、胴体筋肉に送信されることができる。平衡を学習するために、圧力の中心が、支持ポリゴンの縁部に近接しすぎる場合、生体力学的モデルが、直立状態姿勢にリセットされ、データ合成手順が、再度開始される。

それ自身の訓練データを合成することによって、本発明の種々の実施形態による仮想のヒトは、移動する標的を捉えるための視覚的に誘導される肢部到達アクションと結合された標的物体の中心視および視覚追求を伴う些細ではないタスクを実施するためのみならず、描画および書込タスクを行うためにも、その眼、頭部、および肢部の効率的なオンラインの能動的感覚運動制御を自動的に学習することができる。多数の実施形態では、バイオメトリック感覚運動制御システムは、（限定ではないが）自然な能動的視覚の良好に調整された眼頭部移動特性、静的および動的視覚標的に到達するための自然な肢部運動、およびモデルの手による書込および／または描画を含むいくつかの些細ではないタスクを実施することが可能であることができる。実験は、本発明のいくつかの実施形態に従って訓練されている感覚運動システムが、多くの場合、そのために具体的に訓練されていなかった状況に対して一般化することが可能であることを示している。
（システム）

本発明のある実施形態に従う感覚運動制御フレームワークを訓練し、実装するシステムが、図７に示される。ネットワーク７００は、通信ネットワーク７６０を含む。通信ネットワーク７６０は、ネットワーク７６０に接続されるデバイスが、他の接続されるデバイスと通信することを可能にするインターネット等のネットワークである。サーバシステム７１０、７４０、および７７０が、ネットワーク７６０に接続される。サーバシステム７１０、７４０、および７７０の各々は、ネットワーク７６０を経由してユーザにクラウドサービスを提供するプロセスを実行する内部ネットワークを介して互いに通信可能に接続される１つ以上のサーバコンピュータシステムの群である。この議論の目的のために、クラウドサービスは、ネットワークを経由してデバイスにデータおよび／または実行可能アプリケーションを提供するために１つ以上のサーバシステムによって実行される１つ以上のアプリケーションである。サーバシステム７１０、７４０、および７７０は、各々が、内部ネットワークを介して接続される３つのサーバを有するように示される。しかしながら、サーバシステム７１０、７４０、および７７０は、任意の数のサーバを含み得、任意の追加の数のサーバシステムが、ネットワーク７６０に接続され、限定ではないが、仮想化サーバシステムを含むクラウドサービスを提供し得る。本発明の種々の実施形態によると、感覚運動制御フレームワークを訓練および／または実装するためのプロセスは、ネットワーク７６０を経由して通信する単一のサーバシステムおよび／またはサーバシステムの群上で実行する１つ以上のソフトウェアアプリケーションによって提供されることができる。

ユーザは、本発明の種々の実施形態に従って感覚運動制御フレームワークを訓練および／または実装するための処理を実施するために、ネットワーク７６０に接続するパーソナルデバイス７８０および７２０を使用し得る。図示される実施形態では、パーソナルデバイス７８０が、ネットワーク７６０に従来の「有線」接続を介して接続されるデスクトップコンピュータとして示される。しかしながら、パーソナルデバイス７８０は、「有線」または「無線」ネットワーク接続を介してネットワーク７６０に接続する、デスクトップコンピュータ、ラップトップコンピュータ、スマートテレビ、エンターテインメントゲーム用コンソール、または任意の他のデバイスであり得る。モバイルデバイス７２０は、無線接続を使用してネットワーク７６０に接続する。無線接続は、無線周波数（ＲＦ）信号、赤外線信号、またはネットワーク７６０に接続するための任意の他の形態の無線信号伝達を使用する接続である。図７では、モバイルデバイス７２０は、携帯電話である。しかしながら、モバイルデバイス７２０は、本発明から逸脱することなく、無線接続を介してネットワーク７６０に接続するモバイルフォン、携帯情報端末（ＰＤＡ）、タブレット、スマートフォン、仮想現実ヘッドセット、拡張現実ヘッドセット、複合現実ヘッドセット、または任意の他のタイプのデバイスであり得る。本発明のいくつかの実施形態によると、感覚運動制御フレームワークを訓練および／または実装するためのプロセスが、ユーザデバイスによって実施される。いくつかの他の実施形態では、ユーザデバイスによって実行されているアプリケーションが、モデルと相互作用する、および／または感覚運動制御フレームワークを訓練および／または実装するための処理を実施するサーバシステムによって処理される、感覚運動制御フレームワークの結果を閲覧するために使用され得る。

容易に理解され得るように、感覚運動制御フレームワークを訓練および／または実装するために使用される具体的なコンピューティングシステムは、主として、所与の用途の要件に依存し、いかなる具体的なコンピューティングシステム実装にも限定されるものとして考慮されるべきではない。
（方法）

本発明のある実施形態による、感覚運動制御システムの動作のためのプロセスのある例が、図８に図示される。プロセス８００は、感覚要素によって発生させられ得る感覚入力を受信する（８０５）。本発明の種々の実施形態による感覚出力が、シミュレートされたヒトモデルの仮想の眼のための光線トレースデータを含むとことができる。プロセス８００は、随意に、受信された感覚入力から視神経ベクトル（ＯＮＶ）を発生させることができる（８１０）。プロセス８００は、視覚ネットワークの組によって、発生させられたＯＮＶを処理する（８１５）。本発明の多くの実施形態による視覚ネットワークは、中心窩ネットワークと、肢部視覚ネットワークとを含むことができる。プロセス８００は、処理されたＯＮＶに基づいて、シミュレートされたヒトモデルを駆動する（８２０）。いくつかの実施形態では、プロセスは、移動する標的の衝動性中心視および視覚追跡をもたらす、増分的な眼球回転を駆動することができる。本発明の多くの実施形態によるプロセスは、神経筋運動コントローラにフィードすることによって、ヒトモデルを駆動することができ、神経筋運動コントローラは、頭頸部および肢部筋骨格複合体に関する筋肉活性化信号を生産することができる。

プロセス８００は、生体力学シミュレータを使用し、時間を通して筋骨格システムの状態を前進させ、したがって、重力等の外力を受ける５つの複合体を増分的に作動させる（８２５）。このプロセスは、次いで、新しい状態に基づいて繰り返されることができる。３つのメインシミュレーションコンポーネントが、本発明のいくつかの実施形態に従って、非同期的に起動することができる。

感覚運動制御システムを動作させる具体的な方法が、上記に議論されるが、多くの方法が、本発明の多くの異なる実施形態に従って実装されることができる。したがって、本発明が、本発明の範囲および精神から逸脱することなく、具体的に説明されるもの以外の方法において実践され得ることを理解されたい。したがって、本発明の実施形態は、全ての点で、例証的であり、かつ制限的ではないと見なされるべきである。故に、本発明の範囲は、例証される実施形態によってではなく、添付の請求項およびそれらの均等物によって決定されるべきである。

Claims (19)

1. 感覚運動制御フレームワークを動作させる方法であって、前記方法は、
   筋骨格モデルの現在の状態を決定することと、
   前記筋骨格モデルの所望の状態を決定することと、
   前記現在の状態と前記所望の状態との間の差異に基づいて、筋肉活性化の組を算出することと、
   前記算出された筋肉活性化に基づいて、筋骨格モデルを駆動することと
   を含む、方法。
2. 前記現在の状態および前記所望の状態は、位置、向き、筋肉歪み、および歪み率のうちの少なくとも１つを備えている、請求項１に記載の方法。
3. 前記筋骨格モデルは、ヒトのモデルであり、複数のＨｉｌｌタイプアクチュエータを備えている、請求項１に記載の方法。
4. 前記筋骨格モデルは、複数の複合体を備え、前記筋肉活性化の組を算出することは、第１の複合体に関する筋肉活性化の第１の組を算出することと、第２の複合体に関する筋肉活性化の第２の組を算出することとを含む、請求項１に記載の方法。
5. 前記複数の複合体は、腕複合体、脚複合体、頭頸部複合体、および胴体複合体のうちの少なくとも１つを備えている、請求項４に記載の方法。
6. 前記第２の複合体に関する前記筋肉活性化の第２の組を算出することは、
   前記筋肉活性化の第１の組からの力を算出することと、
   前記算出された力に基づいて、前記筋肉活性化の第２の組を算出することと
   を含む、請求項４に記載の方法。
7. 感覚要素から感覚入力を受信することをさらに含み、前記感覚要素は、眼モデルであり、前記感覚入力は、１次元視神経ベクトル（ＯＮＶ）を備えている、請求項１に記載の方法。
8. 前記眼モデルは、網膜上に光受容体の不均一な分布を有する、請求項７に記載の方法。
9. 感覚運動制御フレームワークを動作させる方法であって、前記方法は、
   胴体複合体と１つ以上の肢部複合体の組とを備えている筋骨格モデルの現在の状態を決定することと、
   前記筋骨格モデルの所望の状態を決定することと、
   前記肢部複合体の組に関する力を算出することと、
   前記肢部複合体の組に関する前記力と、前記胴体複合体の前記現在の状態と前記所望の状態との間の差異とに基づいて、前記胴体複合体に関する筋肉活性化の組を算出することと、
   前記算出された筋肉活性化に基づいて、筋骨格モデルを駆動することと
   を含む、方法。
10. 前記筋肉活性化の組を算出することは、
    随意コントローラを使用して随意信号を算出することと、
    反射コントローラを使用して反射信号を算出することと、
    前記随意コントローラからの出力および前記反射コントローラからの出力に基づいて、前記筋肉活性化の組を算出することと
    を含む、請求項９に記載の方法。
11. 前記随意コントローラは、関連付けられた筋肉群のうちの筋肉に関する標的向きおよび出力活性化を入力として受け取る、請求項１０に記載の方法。
12. 前記反射コントローラは、関連付けられた筋肉群のうちの筋肉の筋肉歪みおよび歪み率を入力として受け取る、請求項１０に記載の方法。
13. 胴体複合体の胴体コントローラを訓練する方法であって、前記方法は、
    標的入力の組と標的状態とを備えている訓練データを受信することと、
    前記胴体複合体に取り付けられた肢部複合体によって及ぼされる力を決定することと、
    前記標的入力、前記標的状態、および前記決定された力に基づいて、前記胴体複合体に関する筋肉活性化を算出することと、
    前記筋肉活性化の結果と前記標的状態との間の差異を算出することと、
    前記標的状態と現在の状態との間の前記差異に基づいて、前記胴体コントローラのパラメータを修正することと
    を含む、方法。
14. 前記訓練データを合成することをさらに含む、請求項１３に記載の方法。
15. 前記訓練データを合成することは、
    モデルに関する現在の位置および標的位置を規定することと、
    前記現在の位置と前記標的位置との間の相違を決定することと、
    前記現在の位置の前記相違および筋肉活性化に基づいて、筋肉活性化調節を決定することと
    を含み、
    相違を決定することは、逆運動学の問題を解決することを含む、請求項１４に記載の方法。
16. 前記相違は、角度相違、線形相違、および加速度相違のうちの少なくとも１つを備えている、請求項１５に記載の方法。
17. 筋肉活性化調節を決定することは、筋肉最適化技法を実施し、所望のトルクを発生させることができる最小筋肉活性化を算出することを含む、請求項１５に記載の方法。
18. 前記訓練データを合成することは、
    モデルに関する現在および所望の筋肉歪みおよび歪み率を規定することと、
    制御される群の筋肉に関する筋肉歪みおよび歪み率における変化を決定することと、
    前記筋肉歪みおよび歪み率における変化に基づいて、筋肉活性化調節を決定することと
    を含む、請求項１４に記載の方法。
19. 肢部複合体によって示される力を決定することは、活性化信号を前記肢部複合体に送信することによって、前記肢部複合体の組に関するランダム力を算出することを含む、請求項１４に記載の方法。

Images