JP2019502212A5 - - Google Patents

Claims (23)

1. 第１情報を出力する第１ニューラルネットワークと、
   時間依存性情報を含む第２情報を出力する第２ニューラルネットワークと、
   を備えるコンピュータシステムであって、
   前記第１ニューラルネットワークは、時系列データと、前記第２ニューラルネットワークから出力された前記第２情報の第１バージョンと、に基づいて、前記第１情報を出力し、
   前記第２ニューラルネットワークは、当該第２ニューラルネットワークから出力された前記第２情報の第１バージョンと、前記第１ニューラルネットワークから出力された前記第１情報と前記時系列データと、に基づいて、前記第２情報の第２バージョンを出力する、
   ように構成されたコンピュータシステム。
2. 前記第２ニューラルネットワークは、前記時系列データと、当該第２ニューラルネットワークから出力された前記第２情報の第１バージョンと、前記第１ニューラルネットワークから出力された前記第１情報と前記時系列データと、に基づいて、前記第２情報の第２バージョンを出力するように構成された、
   請求項１に記載のコンピュータシステム。
3. 前記第１情報は前記時系列データに対応する潜在変数を含む、
   請求１又は２に記載のコンピュータシステム。
4. 前記第１情報は前記時系列データに対応する潜在分布を含む、
   請求項１乃至３のいずれか１項に記載のコンピュータシステム。
5. 前記第１ニューラルネットワークと前記第２ニューラルネットワークとは、前記第１情報の出力と前記第２情報の出力とを交互に繰り返し実行する、
   請求項１乃至４のいずれか１項に記載のコンピュータシステム。
6. 前記第１ニューラルネットワークから出力された前記第１情報に基づいて所定のタスクを実行する、
   請求項１乃至５のいずれか１項に記載のコンピュータシステム。
7. 前記所定のタスクとは、予想、予測、分類、クラスタリング、異常検出、認識、のうちの少なくとも１つである、
   請求項６に記載のコンピュータシステム。
8. 前記第１ニューラルネットワークは、変分推論マシンを含む、
   請求項１乃至７のいずれか１項に記載のコンピュータシステム。
9. 前記第２ニューラルネットワークは、シーケンシャルデータ予測マシンを含む、
   請求項１乃至８のいずれか１項に記載のコンピュータシステム。
10. 前記第２ニューラルネットワークは、入力層、隠れ層、出力層を有し、
    前記隠れ層は、前記第２情報を出力する、
    請求項１乃至９のいずれか１項に記載のコンピュータシステム。
11. 前記時系列データは、所定時間間隔で取得される時系列データである、
    請求項１乃至１０のいずれか１項に記載のコンピュータシステム。
12. 前記時系列データは、画像データ、音声データ、加速度データ、バイナリデータ、の少なくとも１つを含む、
    請求項１１に記載のコンピュータシステム。
13. 前記時系列データは、センサによって取得された時系列データである、
    請求項１乃至１２のいずれか１項に記載のコンピュータシステム。
14. 前記コンピュータシステムは、エッジデバイスに実装される、
    請求項１乃至１３のいずれか１項に記載のコンピュータシステム。
15. 前記第２情報の第２バージョンは、当該第２情報の第１バージョンに対応する時刻の次の時刻に対応する前記第２情報のバージョンである、
    請求項１乃至１４のいずれか１項に記載のコンピュータシステム。
16. 時系列データが入力されると当該時系列データに対応する分散表現を出力するニューラルネットワークシステムであって、
    前記ニューラルネットワークシステムは第１ニューラルネットワークと第２ニューラルネットワークとを有し、
    前記第１ニューラルネットワークは、対象時刻における前記時系列データと、前記第２ニューラルネットワークから出力されるデータと、に少なくとも基づいて、当該対象時刻における前記分散表現を出力し、
    前記第２ニューラルネットワークは、当該第２ニューラルネットワークの所定ノードのデータを、前記対象時刻より前の時刻における前記時系列データに依存したデータに更新し、当該所定ノードのデータを前記第１ニューラルネットワークに出力する、
    ように構成されるニューラルネットワークシステム。
17. 前記第２ニューラルネットワークは、前記第１ニューラルネットワークに入力される前記時系列データおよび前記第１ニューラルネットワークから出力される前記分散表現の少なくとも一方が入力され、当該入力、および、前記第２ニューラルネットワーク内の一部のノードのデータに基づいて、前記所定ノードのデータを更新する、
    請求項１６に記載のニューラルネットワークシステム。
18. 前記第２ニューラルネットワークは、前記対象時刻における前記時系列データの次の時刻における前記時系列データを予測する、
    請求項１６又は１７に記載のニューラルネットワークシステム。
19. 前記ネットワークシステムは、所定タスクに関する機械学習モデルを有し、
    前記機械学習モデルは、前記第１ニューラルネットワークから出力された前記分散表現に基づいて前記所定タスクの処理を実行する、
    請求項１６乃至１８のいずれか１項に記載のニューラルネットワークシステム。
20. 第１情報を出力する第１ニューラルネットワークと、
    時間依存性情報を含む第２情報を出力する第２ニューラルネットワークと、
    を備えるコンピュータシステムによって実行される方法であって、
    前記第１ニューラルネットワークによって、時系列データと、前記第２ニューラルネットワークから出力された前記第２情報の第１バージョンと、に基づいて、前記第１情報を出力し、
    前記第２ニューラルネットワークによって、当該第２ニューラルネットワークから出力された前記第２情報の第１バージョンと、前記第１ニューラルネットワークから出力された前記第１情報と前記時系列データと、に基づいて、前記第２情報の第２バージョンを出力する、
    前記コンピュータシステムによって実行される方法。
21. 第１情報を出力する第１ニューラルネットワークと、
    時間依存性情報を含む第２情報を出力する第２ニューラルネットワークと、
    を用いて実行されるコンピュータ実行可能プログラムであって、
    前記第１ニューラルネットワークによって、時系列データと、前記第２ニューラルネットワークから出力された前記第２情報の第１バージョンと、に基づいて、前記第１情報を出力し、
    前記第２ニューラルネットワークは、当該第２ニューラルネットワークから出力された前記第２情報の第１バージョンと、前記第１ニューラルネットワークから出力された前記第１情報と前記時系列データと、に基づいて、前記第２情報の第２バージョンを出力する、
    ようにコンピュータを機能させるコンピュータ実行可能プログラム。
22. 第１情報を出力する第１ニューラルネットワークと、
    時間依存性情報を含む第２情報を出力する第２ニューラルネットワークと、
    を有するシステムが搭載される車両であって、
    前記第１ニューラルネットワークは、時系列データと、前記第２ニューラルネットワークから出力された前記第２情報の第１バージョンと、に基づいて、前記第１情報を出力するように構成され、
    前記第２ニューラルネットワークは、当該第２ニューラルネットワークから出力された前記第２情報の第１バージョンと、前記第１ニューラルネットワークから出力された前記第１情報と前記時系列データと、に基づいて、前記第２情報の第２バージョンを出力するように構成される、車両。
23. 前記システムは、所定タスクに関する機械学習モデルを有し、
    前記機械学習モデルは、前記第１ニューラルネットワークから出力された前記第１情報に基づいて前記所定タスクの処理を実行するように構成される、
    請求項２２に記載の車両。