JP2016523402A5 - - Google Patents

Claims (15)

1. それぞれの複数のタスクに関連付けされた複数の目的関数を使用する最適化の実施に関連した用途のためのシステムであって、：
   少なくとも１つのコンピュータハードウエアプロセッサ；および
   プロセッサ実行可能命令を記憶する少なくとも１つの非一時的コンピュータ可読記憶媒体であって、前記少なくとも１つのコンピュータハードウエアプロセッサによって実行されたとき、少なくとも１つのコンピュータハードウエアプロセッサに、
   前記複数の目的関数の同時確率モデルに少なくとも部分的に基づいて、複数の目的関数内の目的関数を評価する第１のポイントを識別すること；
   前記同時確率モデルに少なくとも部分的に基づいて、前記複数の目的関数内の識別済み第１のポイントにおいて評価する第１の目的関数を選択すること；
   前記識別済み第１のポイントにおいて前記第１の目的関数を評価すること；および
   前記評価の結果に基づいて前記同時確率モデルを更新して更新後の同時確率モデルを獲得すること；
   を実施させる、プロセッサ実行可能命令を記憶する少なくとも１つの非一時的コンピュータ可読記憶媒体
   を含む、前記システム。
2. 前記第１の目的関数は、機械学習システムのハイパーパラメータの値を、機械学習システムのパフォーマンスの測度を提供する値と関係させる、請求項１に記載のシステム。
3. 前記第１の目的関数は、画像内の対象物を識別するためのニューラルネットワークの複数のハイパーパラメータの値を、画像内の対象物の識別におけるニューラルネットワークのパフォーマンスの測度を提供するそれぞれの値と関係させる、請求項１またはそのほかのいずれかの先行する請求項に記載のシステム。
4. 前記プロセッサ実行可能命令は、前記少なくとも１つのコンピュータハードウエアプロセッサに、
   前記複数の目的関数の前記更新後の同時確率モデルに少なくとも部分的に基づいて、複数の目的関数内の目的関数を評価する第２のポイントを識別すること；
   前記同時確率モデルに少なくとも部分的に基づいて、前記複数の目的関数内の、前記識別済み第１のポイントにおいて評価する第２の目的関数を選択すること；および
   前記識別済み第１のポイントにおいて前記第２の目的関数を評価すること
   をさらに実施させ、
   前記第１の目的関数は、前記第２の目的関数とは異なる、
   請求項１またはそのほかのいずれかの先行する請求項に記載のシステム。
5. 前記複数の目的関数の前記同時確率モデルは、前記複数のタスク内のタスクの間の相関をモデリングする、請求項１またはそのほかのいずれかの先行する請求項に記載のシステム。
6. 前記複数の目的関数の前記同時確率モデルは、ベクトル値ガウス過程を含む、請求項１またはそのほかのいずれかの先行する請求項に記載のシステム。
7. 前記同時確率モデルは、前記複数のタスク内のタスクの間の相関をモデリングする第１の共分散カーネル、および複数の目的関数内の目的関数を評価できるポイント間の相関をモデリングする第２の共分散カーネルに、少なくとも部分的に基づいて獲得される共分散カーネルを含む、請求項１またはそのほかのいずれかの先行する請求項に記載のシステム。
8. 前記識別することは、さらに、コスト荷重エントロピーサーチユーティリティ関数に基づいて実施される、請求項１またはそのほかのいずれかの先行する請求項に記載のシステム。
9. それぞれの複数のタスクに関連付けされた複数の目的関数を使用する最適化の実施に関連した用途のための方法であって、該方法が以下：
   少なくとも１つのコンピュータハードウエアプロセッサを、
   前記複数の目的関数の同時確率モデルに少なくとも部分的に基づいて、複数の目的関数内の目的関数を評価する第１のポイントを識別すること；
   前記同時確率モデルに少なくとも部分的に基づいて、前記複数の目的関数内の識別済み第１のポイントにおいて評価する第１の目的関数を選択すること；
   前記識別済み第１のポイントにおいて前記第１の目的関数を評価すること；および
   前記評価の結果に基づいて前記同時確率モデルを更新して更新後の同時確率モデルを獲得すること
   を実施するために使用することを含む、前記方法。
10. 前記第１の目的関数は、機械学習システムのハイパーパラメータの値を、機械学習システムのパフォーマンスの測度を提供する値と関係させる、請求項９またはそのほかのいずれかの先行する請求項に記載の方法。
11. 前記複数の目的関数の前記更新後の同時確率モデルに少なくとも部分的に基づいて、複数の目的関数内の目的関数を評価する第２のポイントを識別すること；
    前記同時確率モデルに少なくとも部分的に基づいて、前記複数の目的関数内の、前記識別済み第１のポイントにおいて評価する第２の目的関数を選択すること；および
    前記識別済み第１のポイントにおいて前記第２の目的関数を評価すること
    をさらに含む、請求項９またはそのほかのいずれかの先行する請求項に記載の方法。
12. 前記複数の目的関数の前記同時確率モデルは、前記複数のタスク内のタスクの間の相関をモデリングする、請求項９またはそのほかのいずれかの先行する請求項に記載の方法。
13. 前記複数の目的関数の前記同時確率モデルは、ベクトル値ガウス過程を含む、請求項９またはそのほかのいずれかの先行する請求項に記載の方法。
14. 前記同時確率モデルは、前記複数のタスク内のタスクの間の相関をモデリングする第１の共分散カーネル、および複数の目的関数内の目的関数を評価できるポイント間の相関をモデリングする第２の共分散カーネルに、少なくとも部分的に基づいて獲得される共分散カーネルを含む、請求項９またはそのほかのいずれかの先行する請求項に記載の方法。
15. 少なくとも１つのコンピュータハードウエアプロセッサによって実行されたとき、前記少なくとも１つのコンピュータハードウエアプロセッサに、それぞれの複数のタスクに関連付けされた複数の目的関数を使用する最適化の実施に関連した用途のために請求項９〜１４に記載の方法を実施させる、プロセッサ実行可能命令を記憶する少なくとも１つの非一時的コンピュータ可読記憶媒体。