JP2021504799A - ネットワークアクセス可能な機械学習モデル訓練またはホスティングシステム - Google Patents
ネットワークアクセス可能な機械学習モデル訓練またはホスティングシステム Download PDFInfo
- Publication number
- JP2021504799A JP2021504799A JP2020528075A JP2020528075A JP2021504799A JP 2021504799 A JP2021504799 A JP 2021504799A JP 2020528075 A JP2020528075 A JP 2020528075A JP 2020528075 A JP2020528075 A JP 2020528075A JP 2021504799 A JP2021504799 A JP 2021504799A
- Authority
- JP
- Japan
- Prior art keywords
- training
- container
- model
- virtual machine
- data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5061—Partitioning or combining of resources
- G06F9/5072—Grid computing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/44—Arrangements for executing specific programs
- G06F9/455—Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
- G06F9/45533—Hypervisors; Virtual machine monitors
- G06F9/45558—Hypervisor-specific management and integration aspects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
- G06N20/10—Machine learning using kernel methods, e.g. support vector machines [SVM]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/44—Arrangements for executing specific programs
- G06F9/455—Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
- G06F9/45533—Hypervisors; Virtual machine monitors
- G06F9/45558—Hypervisor-specific management and integration aspects
- G06F2009/4557—Distribution of virtual machine instances; Migration and load balancing
Landscapes
- Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Mathematical Physics (AREA)
- Evolutionary Computation (AREA)
- Computing Systems (AREA)
- Medical Informatics (AREA)
- Data Mining & Analysis (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Artificial Intelligence (AREA)
- Debugging And Monitoring (AREA)
- Stored Programmes (AREA)
- Image Analysis (AREA)
Abstract
Description
図1は、いくつかの実施形態における、機械学習モデルが訓練され、ホスティングされる例示的な動作環境100のブロック図である。動作環境100は、エンドユーザデバイス102、モデル訓練システム120、モデルホスティングシステム140、訓練データストア160、訓練メトリックデータストア165、コンテナデータストア170、訓練モデルデータストア175またはモデル予測データストア180を含む。
いくつかの実施形態では、ユーザは、ユーザデバイス102を経由してモデル訓練システム120と対話することにより、モデル訓練システム120に1つ以上の機械学習モデルを訓練させるデータを提供する。ユーザデバイス102は、モデル訓練システム120のフロントエンド129を介してモデル訓練システム120と対話することができる。例えば、ユーザデバイス102は、訓練要求をフロントエンド129に提供することができる。この訓練要求は、コンテナイメージ(もしくは複数のコンテナイメージ)、入力データの指示子(例えば、入力データのアドレスもしくは位置)、ハイパーパラメータ値(例えば、アルゴリズムがどのように動作するか、並列に動作するアルゴリズムはいくつか、データを区別するためのクラスタはいくつかなどを示す値)、または/または機械学習モデルを訓練するコンピューティングマシンについて記載した情報(例えば、グラフィック処理ユニット(GPU)インスタンスタイプ、中央処理ユニット(CPU)インスタンスタイプ、割り当てるメモリ量、訓練に使用する仮想マシンインスタンスの種類など)を含む。
いくつかの実施形態では、モデル訓練システム140は、1つ以上のコンピューティングネットワーク(図示せず)を使用して相互接続された単一の物理コンピューティングデバイスまたは複数の物理コンピューティングデバイスを含む。ここで、物理コンピューティングデバイス(複数可)は、1つ以上の仮想マシンインスタンス142をホスティングする。モデルホスティングシステム140は、訓練済みの機械学習モデルの実行の必要性に基づいて計算容量(例えば、コンテナ、インスタンスなど)の入手または設定をハンドリングすることができる。以下でより詳細に説明されるように、モデルホスティングシステム140は、次いで、計算容量を使用して機械学習モデルを実行することができる。モデルホスティングシステム140は、モデルホスティングシステム140のフロントエンド149を介してユーザデバイス102から受信した実行要求の量に基づいて自動的に拡大または縮小することができる。それにより、過剰利用(例えば、非常に少ないコンピューティングリソースを入手し、性能に問題をきたすこと)、または過少利用(例えば、機械学習モデルを実行するのに必要であるよりも多くのコンピューティングリソースを入手し、したがって余分に支払うこと)について心配しなければならない負担からユーザを開放する。
いくつかの実施形態では、動作環境100は、マルチアームバンディットモデル、強化学習モデル、アンサンブル機械学習モデル、深層学習モデルまたは/または同種のものなどの、多くの様々な種類の機械学習モデルに対応する。
図2は、いくつかの実施形態にしたがった、機械学習モデルを訓練するために動作環境100の構成要素によって実行される動作を示す図1の動作環境100のブロック図である。図2に示すように、ユーザデバイス102は、(1)で、コンテナイメージの位置または訓練データの位置をフロントエンド129に送信する。フロントエンド129は、次いで、(2)で、仮想マシンインスタンス122を初期化させ、コンテナイメージの位置または訓練データの位置を、初期化された仮想マシンインスタンス122に転送する。いくつかの実施形態では、コンテナイメージの位置または訓練データの位置は、訓練要求の一部として送信される。
図3は、いくつかの実施形態にしたがった、機械学習モデルの訓練を修正するために動作環境100の構成要素によって実行される動作を示す図1の動作環境100のブロック図である。図3に示すように、ユーザデバイス102は、(1)で、訓練メトリックデータストア165に保存された品質メトリックを読み出す。いくつかの実施形態では、ユーザは、ユーザデバイス102を介して、依然として訓練中の機械学習モデルの精度を決定するために品質メトリックを読み出す。
図4は、いくつかの実施形態にしたがった、機械学習モデル訓練プロセスを並列化するために動作環境100の構成要素によって実行される動作を示す図1の動作環境100のブロック図である。図4に示すように、ユーザデバイス102は、(1)でコンテナイメージの位置または訓練データの位置をフロントエンド129に送信する。これに応答して、フロントエンド129は、第1の仮想マシンインスタンス122Aまたは第2の仮想マシンインスタンス122Bを初期化して、第1の仮想マシンインスタンス122Aが訓練データの第1の部分を使用して機械学習モデルの部分的な訓練を実行し、第2の仮想マシンインスタンス122Bが訓練データの第2の部分を使用して機械学習モデルの部分的な訓練を実行することができるようにする。フロントエンド129は、次いで、(2A)でコンテナイメージの位置または訓練データの第1の部分の位置を仮想マシンインスタンス122Aに送信する。コンテナイメージの位置または訓練データの第1の部分の位置を仮想マシンインスタンス122Aに送信する前、送信している間、または送信した後に、フロントエンド129は、(2B)でコンテナイメージの位置または訓練データの第2の部分の位置を仮想マシンインスタンス122Bに送信する。いくつかの実施形態では、コンテナイメージの位置または訓練データの位置は、訓練要求の一部として送信される。
図5Aは、いくつかの実施形態にしたがった、訓練済みの機械学習モデルを展開するために動作環境100の構成要素によって実行される動作を示す図1の動作環境100のブロック図である。図5Aに示すように、ユーザデバイス102は、(1)で機械学習モデル展開要求をフロントエンド149に送信する。フロントエンド149は、(2)で仮想マシンインスタンス142を初期化し、(3)で展開要求を仮想マシンインスタンス142に送信することができる。展開要求は、訓練モデルデータストア175に保存された1つ以上のモデルデータファイルの位置を含む。いくつかの実施形態では、展開要求はエンドポイント名を含む。いくつかの実施形態では、展開要求はエンドポイント名を含まない。
図6は、いくつかの実施形態にしたがった、関連する機械学習モデルを実行するために動作環境100の構成要素によって実行される動作を示す図1の動作環境100のブロック図である。図6に示すように、ユーザデバイス102は、(1)で機械学習モデル実行要求をフロントエンド149に送信する。フロントエンド149は、次いで、(2)で、仮想マシンインスタンス142内で初期化された第1のMLスコアリングコンテナ150Aに実行要求を転送する。いくつかの実施形態では、実行要求は、仮想マシンインスタンス142内で初期化された第2のMLスコアリングコンテナ150Bによって実行される第2の機械学習モデルからの出力を求める要求を含むことができる。しかしながら、出力を生成するために、MLスコアリングコンテナ150Bは、MLスコアリングコンテナ150Aによって実行される第1の機械学習モデルの実行からのデータを必要とする。したがって、仮想マシンインスタンス142は、最初に、実行要求をMLスコアリングコンテナ150Aにルーティングする。いくつかの実施形態では、MLスコアリングコンテナ150Aは、他のMLスコアリングコンテナ(例えば、MLスコアリングコンテナ150B)との間の通信を管理するマスタコンテナとして機能する。
図7は、いくつかの実施形態にしたがった、モデル訓練システムによって例示的に実施される機械学習モデル訓練ルーチン700を表したフロー図である。例として、図1のモデル訓練システム120は、機械学習モデル訓練ルーチン700を実行するように構成することができる。機械学習モデル訓練ルーチン700は、ブロック702から開始される。
図8は、本出願にしたがって機械学習モデルを訓練または/またはホスティングする、モデル訓練システム120またはモデルホスティングシステム140などの、例示的なモデルシステム800のアーキテクチャのいくつかの実施形態を表す。図8に表されたモデルシステムの概略的なアーキテクチャは、本開示の態様を実施するために使用することができるコンピュータハードウェアまたはソフトウェア構成要素の配置構成を含む。示したように、モデルシステム800は、処理ユニット804、ネットワークインタフェース806、コンピュータ可読媒体ドライブ807または入出力デバイスインタフェース820を含み、これらの全ては、通信バスを経由して互いに通信し得る。
図9は、本出願にしたがってデータを受信し、データを準備し、モデル訓練システム120に訓練要求を送信し、モデルホスティングシステム140に展開要求または/または実行要求を送信することができる例示的なエンドユーザデバイス102のアーキテクチャのいくつかの実施形態を表す。図9に表されたエンドユーザデバイス102の概略的なアーキテクチャは、本開示の態様を実施し、本開示の態様にアクセスするために使用することができるコンピュータハードウェアまたはソフトウェア構成要素の配置構成を含む。示したように、エンドユーザデバイス102は、処理ユニット904、ネットワークインタフェース906、コンピュータ可読媒体ドライブ907、入出力デバイスインタフェース920、任意選択のディスプレイ930、または入力デバイス940を含み、これらの全ては、通信バスを経由して互いに通信し得る。
本明細書で説明される方法またはタスクの全ては、コンピュータシステムによって実行され、完全に自動化されてもよい。コンピュータシステムは、場合によっては、説明される機能を実行するためにネットワークを通じて通信し、相互作用する複数の別々コンピュータまたはコンピューティングデバイス(例えば、物理サーバ、ワークステーション、記憶アレイ、クラウドコンピューティングリソースなど)を含んでもよい。このような各コンピューティングデバイスは、通常、メモリまたは他の非一時的コンピュータ可読記憶媒体もしくはデバイス(例えば、ソリッドステート記憶デバイス、ディスクドライブなど)に保存されたプログラム命令またはモジュールを実行するプロセッサ(または複数のプロセッサ)を含む。本明細書に開示された各種の機能は、このようなプログラム命令で具現化されてもよく、またはコンピュータシステムの特定用途向け回路(例えば、ASICもしくはFPGA)で実装されてもよい。コンピュータシステムが複数のコンピューティングデバイスを含む場合、これらのデバイスは、同じ位置に配置されてもよいが、必ずしもそうする必要はない。開示された方法またはタスクの結果は、ソリッドステートメモリチップまたは磁気ディスクなどの物理記憶デバイスを異なる状態に変えることによって永続的に記憶されてもよい。いくつかの実施形態では、コンピュータシステムは、複数の別々の事業体または他のユーザによって処理リソースが共有されるクラウドベースのコンピューティングシステムであってもよい。
条項1.訓練モデルデータストアと、
第1の仮想マシンインスタンスをホスティングする第1のコンピューティングデバイスであって、実行されると、前記第1のコンピューティングデバイスに、
ユーザデバイスから、コンテナイメージの指示子と、訓練データの指示子と、1つ以上の第1のハイパーパラメータ値とを含む訓練要求を取得することと、
前記第1の仮想マシンインスタンス内で機械学習(ML)訓練コンテナを初期化することであって、前記ML訓練コンテナが前記コンテナイメージから形成される、前記初期化することと、
前記第1の仮想マシンインスタンスに、前記1つ以上の第1のハイパーパラメータ値にしたがって前記ML訓練コンテナ内に保存されたコードを実行させることであって、前記コードの実行により、前記第1の仮想マシンインスタンスが、前記訓練データを使用して機械学習モデルを訓練し、前記機械学習モデルの特性を表すモデルデータを生成する、前記実行させることと、
前記モデルデータを前記訓練モデルデータストアに保存することと、を行わせるコンピュータ実行可能命令を含む前記第1のコンピューティングデバイスとを含む、システム。
訓練中の前記機械学習モデルを修正するための修正要求であって、第2のコンテナイメージの指示子を含む前記修正要求を取得することと、
前記第1の仮想マシンインスタンスに前記コードの実行を停止させることと、
前記ML訓練コンテナを、前記第2のコンテナイメージを使用して形成された第2のML訓練コンテナに置き換えることと、
前記第1の仮想マシンインスタンスに前記第2のML訓練コンテナ内に保存された第2のコードを実行させることであって、前記第2のコードの実行により、前記第1のマシンインスタンスが、前記機械学習モデルを再訓練し、第2のモデルデータを生成する、前記実行させることと、をさらに行わせる、条項1に記載のシステム。
1つ以上の第2のハイパーパラメータ値を取得することと、
前記第1の仮想マシンインスタンスに、前記1つ以上の第1のハイパーパラメータ値の代わりに前記1つ以上の第2のハイパーパラメータ値にしたがって前記ML訓練コンテナ内に保存された前記コードを実行させることと、をさらに行わせる、条項1に記載のシステム。
入力データと既知の結果とを含む評価データを取得することと、
前記入力データを入力として使用して前記モデルデータによって定められた前記機械学習モデルを実行してモデル出力データを生成することと、
前記モデル出力データと前記既知の結果とを比較して前記機械学習モデルの品質メトリックを決定することと、
前記品質メトリックを保存することと、をさらに行わせる、条項1に記載のシステム。
前記第1の仮想マシンインスタンス内で第2のML訓練コンテナを初期化することであって、前記第2のML訓練コンテナが前記コンテナイメージから形成される、前記初期化することと、
前記第1の仮想マシンインスタンスに、前記ML訓練コンテナ内に保存された前記コードの前記実行と並列に、前記1つ以上の第1のハイパーパラメータ値にしたがって前記第2のML訓練コンテナ内に保存された第2のコードを実行させることとをさらに行わせる、条項1に記載のシステム。
第1のコンピューティングデバイスによってホスティングされた第1の仮想マシンインスタンス内で機械学習(ML)訓練コンテナを初期化することであって、前記ML訓練コンテナが前記コンテナイメージから形成される、前記初期化することと、
前記第1の仮想マシンインスタンスに、前記ML訓練コンテナ内に保存されたコードを実行させることであって、前記コードの実行により、前記第1の仮想マシンインスタンスが、前記訓練データを使用して機械学習モデルを訓練し、前記機械学習モデルの特性を表すモデルデータを生成する、前記実行させることと、を含む、コンピュータ実施方法。
前記第1の仮想マシンインスタンスに前記コードの実行を停止させることと、
前記第1の仮想マシンインスタンス内で第2のML訓練コンテナを初期化することであって、前記第2のML訓練コンテナが前記コンテナイメージを使用して形成される、前記初期化することと、
前記第1の仮想マシンインスタンスに前記第2のML訓練コンテナ内に保存された第2のコードを実行させることであって、前記第2のコードの実行により、前記第1のマシンインスタンスが、前記機械学習モデルを再訓練し、第2のモデルデータを生成する、前記実行させることと、をさらに含む、条項6に記載のコンピュータ実施方法。
前記入力データを入力として使用して前記モデルデータによって定められた前記機械学習モデルを実行してモデル出力データを生成することと、
前記モデル出力データと前記既知の結果とを比較して前記機械学習モデルの品質メトリックを決定することとをさらに含む、条項6に記載のコンピュータ実施方法。
前記第1の仮想マシンインスタンスに、前記ML訓練コンテナ内に保存された前記コードの前記実行と並列に、前記第2のML訓練コンテナ内に保存された第2のコードを実行させることであって、前記第2のコードの実行により前記第1のマシンインスタンスが第2のモデルデータを生成し、前記モデルデータと前記第2のモデルデータとの組み合わせが前記機械学習モデルの訓練済みのバージョンの特性を定める、前記実行させることとをさらに含む、条項6に記載のコンピュータ実施方法。
前記モデルデータを前記MLスコアリングコンテナに保存することと、
前記ユーザデバイスから、入力データを含む実行要求を受信することと、
前記入力データを使用して前記MLスコアリングコンテナに保存された第2のコードを実行して出力を生成することと、
前記出力を前記ユーザデバイスに送信することと、をさらに含む、条項6に記載のコンピュータ実施方法。
前記第1の仮想マシンインスタンスに、前記1つ以上の第1のハイパーパラメータ値ではなく前記1つ以上の第2のハイパーパラメータ値にしたがって前記ML訓練コンテナ内に保存された前記コードを実行させることと、をさらに含む、条項12に記載のコンピュータ実施方法。
ユーザデバイスから、コンテナイメージの指示子と訓練データの指示子とを取得することと、
前記コンテナイメージを使用して第1の仮想マシンインスタンス内で訓練コンテナを初期化することと、
前記第1の仮想マシンインスタンスに前記訓練コンテナ内に保存されたコードを実行させることであって、前記コードの実行により、前記第1の仮想マシンインスタンスが、前記訓練データを使用して機械学習モデルを訓練し、前記機械学習モデルの特性を表すモデルデータを生成する、前記実行させることと、を行わせるコンピュータ実行可能命令を記憶する、前記非一時的コンピュータ可読記憶媒体。
第2のコンテナイメージの指示子を受信することと、
前記第1の仮想マシンインスタンスに前記コードの実行を停止させることと、
前記第1の仮想マシンインスタンス内で第2の訓練コンテナを初期化することであって、前記第2の訓練コンテナが前記第2のコンテナイメージを使用して形成される、前記初期化することと、
前記第1の仮想マシンインスタンスに前記第2の訓練コンテナ内に保存された第2のコードを実行させることであって、前記第2のコードの実行により、前記第1のマシンインスタンスが、前記機械学習モデルを再訓練し、第2のモデルデータを生成する、前記実行させることと、をさらに行わせる、条項15に記載の非一時的コンピュータ可読記憶媒体。
前記第1の仮想マシンインスタンス内で第2の訓練コンテナを初期化することであって、前記第2の訓練コンテナが前記コンテナイメージから形成される、前記初期化することと、
前記第1の仮想マシンインスタンスに、前記訓練コンテナ内に記憶された前記コードの前記実行と並列に、前記第2の訓練コンテナ内に保存された第2のコードを実行させることであって、前記第2のコードの実行により前記第1の仮想マシンインスタンスが第2のモデルデータを生成し、前記モデルデータと前記第2のモデルデータとの組み合わせが前記機械学習モデルの訓練済みのバージョンの特性を定める、前記実行させることとをさらに行わせる、条項15に記載の非一時的コンピュータ可読記憶媒体。
第2のコンピューティングデバイスによってホスティングされた第2の仮想マシンインスタンス内でスコアリングコンテナを初期化することであって、前記スコアリングコンテナが前記コンテナイメージから形成される、前記初期化することと、
前記モデルデータを前記スコアリングコンテナに保存することと、をさらに行わせる、条項15に記載の非一時的コンピュータ可読記憶媒体。
前記ユーザデバイスから、入力データを含む実行要求を受信することと、
前記入力データを使用して前記スコアリングコンテナに保存された第2のコードを実行して出力を生成することと、
前記出力を前記ユーザデバイスに送信することと、をさらに行わせる、条項18に記載の非一時的コンピュータ可読記憶媒体。
1つ以上の第1のハイパーパラメータ値を取得することと、
前記第1の仮想マシンインスタンスに、前記1つ以上の第1のハイパーパラメータ値にしたがって前記訓練コンテナ内に保存された前記コードを実行させることと、をさらに行わせる、条項15に記載の非一時的コンピュータ可読記憶媒体。
Claims (15)
- 訓練モデルデータストアと、
第1の仮想マシンインスタンスをホスティングする第1のコンピューティングデバイスと、
を含むシステムであって、
前記第1のコンピューティングデバイスは、コンピュータ実行可能命令を含み、前記コンピュータ実行可能命令は、実行されると、前記第1のコンピューティングデバイスに、
ユーザデバイスから、コンテナイメージの指示子と、訓練データの指示子と、1つ以上の第1のハイパーパラメータ値と、を含む訓練要求を取得させ、
前記第1の仮想マシンインスタンス内で機械学習(ML)訓練コンテナを初期化させ、前記ML訓練コンテナは、前記コンテナイメージから形成され、
前記第1の仮想マシンインスタンスに、前記1つ以上の第1のハイパーパラメータ値にしたがって前記ML訓練コンテナ内に保存されたコードを実行させ、前記コードの実行により、前記第1の仮想マシンインスタンスが、前記訓練データを使用して機械学習モデルを訓練し、前記機械学習モデルの特性を表すモデルデータを生成し、
前記モデルデータを前記訓練モデルデータストアに保存させる、
システム。 - 前記コンピュータ実行可能命令は、実行されると、前記第1のコンピューティングデバイスに、さらに、
訓練中の前記機械学習モデルを修正するための修正要求であって、第2のコンテナイメージの指示子を含む前記修正要求を取得させ、
前記第1の仮想マシンインスタンスに前記コードの実行を停止させ、
前記ML訓練コンテナを、前記第2のコンテナイメージを使用して形成された第2のML訓練コンテナに置き換え、
前記第1の仮想マシンインスタンスに前記第2のML訓練コンテナ内に保存された第2のコードを実行させ、前記第2のコードの実行により、前記第1の仮想マシンインスタンスが、前記機械学習モデルを再訓練し、第2のモデルデータを生成する、
請求項1に記載のシステム。 - 前記コンピュータ実行可能命令は、実行されると、前記第1のコンピューティングデバイスに、さらに、
1つ以上の第2のハイパーパラメータ値を取得させ、
前記第1の仮想マシンインスタンスに、前記1つ以上の第1のハイパーパラメータ値の代わりに前記1つ以上の第2のハイパーパラメータ値にしたがって前記ML訓練コンテナ内に保存された前記コードを実行させる、
請求項1に記載のシステム。 - 前記コンピュータ実行可能命令は、実行されると、前記第1のコンピューティングデバイスに、さらに
入力データと既知の結果とを含む評価データを取得させ、
前記入力データを入力として使用して前記モデルデータによって定められた前記機械学習モデルを実行してモデル出力データを生成させ、
前記モデル出力データと前記既知の結果とを比較して前記機械学習モデルの品質メトリックを決定させ、
前記品質メトリックを保存させる、
請求項1に記載のシステム。 - 前記コンピュータ実行可能命令は、実行されると、前記第1のコンピューティングデバイスに、さらに、
前記第1の仮想マシンインスタンス内で第2のML訓練コンテナを初期化させ、前記第2のML訓練コンテナは、前記コンテナイメージから形成され、
前記第1の仮想マシンインスタンスに、前記ML訓練コンテナ内に保存された前記コードの前記実行と並列に、前記1つ以上の第1のハイパーパラメータ値にしたがって前記第2のML訓練コンテナ内に保存された第2のコードを実行させる、
請求項1に記載のシステム。 - 前記第2のコードの実行により、前記第1の仮想マシンインスタンスは、第2のモデルデータを生成し、前記モデルデータと前記第2のモデルデータとの組み合わせは、前記機械学習モデルの訓練済みのバージョンの特性を定める、
請求項5に記載のシステム。 - コンピュータ実施方法であって、
ネットワークを通じてユーザデバイスから、コンテナイメージの指示子と訓練データの指示子とを含む訓練要求を受信するステップと、
第1のコンピューティングデバイスによってホスティングされた第1の仮想マシンインスタンス内で機械学習(ML)訓練コンテナを初期化するステップであって、前記ML訓練コンテナは、前記コンテナイメージから形成されるステップと、
前記第1の仮想マシンインスタンスに、前記ML訓練コンテナ内に保存されたコードを実行させるステップであって、前記コードの実行により、前記第1の仮想マシンインスタンスは、前記訓練データを使用して機械学習モデルを訓練し、前記機械学習モデルの特性を表すモデルデータを生成するステップと、
を含むコンピュータ実施方法。 - 訓練中の前記機械学習モデルを修正するための修正要求であって、第2のコンテナイメージの指示子を含む前記修正要求を受信するステップと、
前記第1の仮想マシンインスタンスに前記コードの実行を停止させるステップと、
前記第1の仮想マシンインスタンス内で第2のML訓練コンテナを初期化するステップであって、前記第2のML訓練コンテナは、前記コンテナイメージを使用して形成されるステップと、
前記第1の仮想マシンインスタンスに前記第2のML訓練コンテナ内に保存された第2のコードを実行させるステップであって、前記第2のコードの実行により、前記第1の仮想マシンインスタンスは、前記機械学習モデルを再訓練し、第2のモデルデータを生成するステップと、
をさらに含む、
請求項7に記載のコンピュータ実施方法。 - 入力データと既知の結果とを含む評価データを取得するステップと、
前記入力データを入力として使用して前記モデルデータによって定められた前記機械学習モデルを実行してモデル出力データを生成するステップと、
前記モデル出力データと前記既知の結果とを比較して前記機械学習モデルの品質メトリックを決定するステップと、
をさらに含む、
請求項7に記載のコンピュータ実施方法。 - 前記第1の仮想マシンインスタンス内で第2のML訓練コンテナを初期化するステップであって、前記第2のML訓練コンテナは、前記コンテナイメージから形成されるステップと、
前記第1の仮想マシンインスタンスに、前記ML訓練コンテナ内に保存された前記コードの前記実行と並列に、前記第2のML訓練コンテナ内に保存された第2のコードを実行させるステップであって、前記第2のコードの実行により、前記第1の仮想マシンインスタンスが第2のモデルデータを生成し、前記モデルデータと前記第2のモデルデータとの組み合わせは、前記機械学習モデルの訓練済みのバージョンの特性を定めるステップと、
をさらに含む、
請求項7に記載のコンピュータ実施方法。 - 第2のコンピューティングデバイスによってホスティングされた第2の仮想マシンインスタンス内でMLスコアリングコンテナを初期化するステップであって、前記MLスコアリングコンテナは、前記コンテナイメージから形成されるステップと、
前記モデルデータを前記MLスコアリングコンテナに保存するステップと、
前記ユーザデバイスから、入力データを含む実行要求を受信するステップと、
前記入力データを使用して前記MLスコアリングコンテナに保存された第2のコードを実行して出力を生成するステップと、
前記出力を前記ユーザデバイスに送信するステップと、
をさらに含む、
請求項7に記載のコンピュータ実施方法。 - 前記訓練要求は、1つ以上の第1のハイパーパラメータ値をさらに含む、
請求項7に記載のコンピュータ実施方法。 - 前記第1の仮想マシンインスタンスに前記ML訓練コンテナ内に保存されたコードを実行させるステップは、前記第1の仮想マシンインスタンスに、前記1つ以上の第1のハイパーパラメータ値にしたがって前記ML訓練コンテナ内に保存された前記コードを実行させるステップをさらに含む、
請求項12に記載のコンピュータ実施方法。 - 1つ以上の第2のハイパーパラメータ値を取得するステップと、
前記第1の仮想マシンインスタンスに、前記1つ以上の第1のハイパーパラメータ値ではなく前記1つ以上の第2のハイパーパラメータ値にしたがって前記ML訓練コンテナ内に保存された前記コードを実行させるステップと、
をさらに含む、
請求項13に記載のコンピュータ実施方法。 - 前記訓練要求は、前記第1のコンピューティングデバイスのグラフィック処理ユニット(GPU)インスタンスタイプ、前記第1のコンピューティングデバイスの中央処理ユニット(CPU)インスタンスタイプ、前記第1のコンピューティングデバイスに割り当てるメモリ量または前記第1の仮想マシンインスタンスの種類の少なくとも1つをさらに含む、
請求項7に記載のコンピュータ実施方法。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US15/821,585 | 2017-11-22 | ||
US15/821,585 US11977958B2 (en) | 2017-11-22 | 2017-11-22 | Network-accessible machine learning model training and hosting system |
PCT/US2018/062064 WO2019104063A1 (en) | 2017-11-22 | 2018-11-20 | Network-accessible machine learning model training and hosting system |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2021504799A true JP2021504799A (ja) | 2021-02-15 |
JP6997315B2 JP6997315B2 (ja) | 2022-01-17 |
Family
ID=64661498
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020528075A Active JP6997315B2 (ja) | 2017-11-22 | 2018-11-20 | ネットワークアクセス可能な機械学習モデル訓練またはホスティングシステム |
Country Status (7)
Country | Link |
---|---|
US (1) | US11977958B2 (ja) |
EP (1) | EP3714365A1 (ja) |
JP (1) | JP6997315B2 (ja) |
KR (1) | KR102428293B1 (ja) |
CN (1) | CN111448550B (ja) |
AU (1) | AU2018373029B2 (ja) |
WO (1) | WO2019104063A1 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2022239979A1 (ko) * | 2021-05-10 | 2022-11-17 | 현대자동차주식회사 | M2m 시스템에서 인공지능 서비스를 가능하게 하기 위한 방법 및 장치 |
Families Citing this family (27)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20220188700A1 (en) * | 2014-09-26 | 2022-06-16 | Bombora, Inc. | Distributed machine learning hyperparameter optimization |
US11188392B2 (en) * | 2017-09-20 | 2021-11-30 | Algorithmia inc. | Scheduling system for computational work on heterogeneous hardware |
US11977958B2 (en) | 2017-11-22 | 2024-05-07 | Amazon Technologies, Inc. | Network-accessible machine learning model training and hosting system |
US11537439B1 (en) * | 2017-11-22 | 2022-12-27 | Amazon Technologies, Inc. | Intelligent compute resource selection for machine learning training jobs |
CN113762504A (zh) * | 2017-11-29 | 2021-12-07 | 华为技术有限公司 | 模型训练系统、方法和存储介质 |
JP7047636B2 (ja) * | 2018-06-29 | 2022-04-05 | 日本電信電話株式会社 | 通信システム及び通信方法 |
US20200160229A1 (en) * | 2018-11-15 | 2020-05-21 | Adobe Inc. | Creating User Experiences with Behavioral Information and Machine Learning |
CN111082961B (zh) * | 2019-05-28 | 2023-01-20 | 中兴通讯股份有限公司 | 域间的数据交互方法及装置 |
CN112148348B (zh) * | 2019-06-28 | 2023-10-20 | 杭州海康威视数字技术股份有限公司 | 任务处理方法、装置及存储介质 |
US20210065049A1 (en) * | 2019-09-03 | 2021-03-04 | Sap Se | Automated data processing based on machine learning |
WO2021107830A1 (en) * | 2019-11-28 | 2021-06-03 | Telefonaktiebolaget Lm Ericsson (Publ) | Methods for determining application of models in multi-vendor networks |
US11475328B2 (en) * | 2020-03-13 | 2022-10-18 | Cisco Technology, Inc. | Decomposed machine learning model evaluation system |
US11734614B1 (en) * | 2020-03-26 | 2023-08-22 | Amazon Technologies, Inc. | Training service for an aggregated machine learning model |
US11768945B2 (en) * | 2020-04-07 | 2023-09-26 | Allstate Insurance Company | Machine learning system for determining a security vulnerability in computer software |
US11829873B2 (en) * | 2020-05-21 | 2023-11-28 | Applied Materials, Inc. | Predictive modeling of a manufacturing process using a set of trained inverted models |
CN111782185B (zh) | 2020-06-30 | 2024-01-09 | 北京百度网讯科技有限公司 | 人工智能开发平台的管理方法及设备、介质 |
US20220058498A1 (en) * | 2020-08-24 | 2022-02-24 | Kyndryl, Inc. | Intelligent backup and restoration of containerized environment |
KR102382317B1 (ko) * | 2020-10-22 | 2022-04-04 | 국방과학연구소 | 사이버 훈련 도구 다운로드 시스템 및 방법 |
KR102481870B1 (ko) * | 2020-10-27 | 2022-12-28 | 한국과학기술정보연구원 | 인공 지능 학습을 위한 컴퓨팅 환경 구축 방법 및 장치 |
US11693878B2 (en) | 2020-11-19 | 2023-07-04 | International Business Machines Corporation | Generation of a dataset in the format of a machine learning framework |
US20220237506A1 (en) * | 2021-01-27 | 2022-07-28 | Salesforce.Com, Inc. | Using container and model information to select containers for executing models |
US20220237505A1 (en) * | 2021-01-27 | 2022-07-28 | Salesforce.Com, Inc. | Using container information to select containers for executing models |
EP4099164A1 (en) * | 2021-06-02 | 2022-12-07 | Amadeus S.A.S. | Architecture to employ machine-learning model |
WO2023022405A1 (ko) * | 2021-08-20 | 2023-02-23 | (주)뤼이드 | 사전 학습을 위한 자동화 머신 러닝 |
US20230315678A1 (en) * | 2022-03-29 | 2023-10-05 | International Business Machines Corporation | Storage driver for managing a multiple layer file system on the cloud |
CN117076037A (zh) * | 2022-05-09 | 2023-11-17 | 杭州海康威视数字技术股份有限公司 | 一种算法模型运行处理方法、装置及边缘智能设备 |
US20230412449A1 (en) * | 2022-06-09 | 2023-12-21 | Hewlett Packard Enterprise Development Lp | Network alert detection utilizing trained edge classification models |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2017520068A (ja) * | 2014-05-23 | 2017-07-20 | データロボット, インコーポレイテッド | 予測データ分析のためのシステムおよび技術 |
US20170220949A1 (en) * | 2016-01-29 | 2017-08-03 | Yahoo! Inc. | Method and system for distributed deep machine learning |
JP2017524183A (ja) * | 2014-06-30 | 2017-08-24 | アマゾン・テクノロジーズ・インコーポレーテッド | 機械学習サービス |
Family Cites Families (102)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6321307B1 (en) | 1997-12-31 | 2001-11-20 | Compaq Computer Corporation | Computer system and method employing speculative snooping for optimizing performance |
US6263308B1 (en) | 2000-03-20 | 2001-07-17 | Microsoft Corporation | Methods and apparatus for performing speech recognition using acoustic models which are improved through an interactive process |
US7451207B2 (en) | 2002-06-28 | 2008-11-11 | Intel Corporation | Predictive provisioning of media resources |
US7958507B2 (en) | 2005-06-16 | 2011-06-07 | Hewlett-Packard Development Company, L.P. | Job scheduling system and method |
US8938463B1 (en) | 2007-03-12 | 2015-01-20 | Google Inc. | Modifying search result ranking based on implicit user feedback and a model of presentation bias |
WO2008131520A1 (en) | 2007-04-25 | 2008-11-06 | Miovision Technologies Incorporated | Method and system for analyzing multimedia content |
US20080288622A1 (en) | 2007-05-18 | 2008-11-20 | Microsoft Corporation | Managing Server Farms |
US8521664B1 (en) | 2010-05-14 | 2013-08-27 | Google Inc. | Predictive analytical model matching |
KR101166303B1 (ko) | 2010-05-19 | 2012-07-18 | 박배억 | 온라인 교육 시스템 및 이를 위한 통신 단말기 |
US8880403B2 (en) | 2010-09-03 | 2014-11-04 | Canyon Ip Holdings Llc | Methods and systems for obtaining language models for transcribing communications |
US9152464B2 (en) | 2010-09-03 | 2015-10-06 | Ianywhere Solutions, Inc. | Adjusting a server multiprogramming level based on collected throughput values |
US8341573B2 (en) | 2010-10-15 | 2012-12-25 | Lsi Corporation | Modeling approach for timing closure in hierarchical designs leveraging the separation of horizontal and vertical aspects of the design flow |
US10228959B1 (en) | 2011-06-02 | 2019-03-12 | Google Llc | Virtual network for virtual machine communication and migration |
US8606728B1 (en) | 2011-06-15 | 2013-12-10 | Google Inc. | Suggesting training examples |
US9286103B2 (en) | 2012-04-21 | 2016-03-15 | International Business Machines Corporation | Method and apparatus for providing a test network as an IP accessible cloud service |
US9454733B1 (en) | 2012-08-15 | 2016-09-27 | Context Relevant, Inc. | Training a machine learning model |
US9363154B2 (en) | 2012-09-26 | 2016-06-07 | International Business Machines Corporaion | Prediction-based provisioning planning for cloud environments |
US8996372B1 (en) | 2012-10-30 | 2015-03-31 | Amazon Technologies, Inc. | Using adaptation data with cloud-based speech recognition |
US8978032B2 (en) | 2012-11-15 | 2015-03-10 | Bank Of America Corporation | Host naming application programming interface |
EP2962101A4 (en) | 2013-02-28 | 2016-10-19 | Progyny Inc | APPARATUS, METHOD AND SYSTEM FOR CLASSIFYING HUMAN EMBRYONIC CELLS FROM IMAGES |
US9235801B2 (en) | 2013-03-15 | 2016-01-12 | Citrix Systems, Inc. | Managing computer server capacity |
US9350747B2 (en) | 2013-10-31 | 2016-05-24 | Cyberpoint International Llc | Methods and systems for malware analysis |
CN105378667B (zh) | 2013-12-10 | 2018-09-28 | 华为技术有限公司 | 一种虚拟机资源的调度方法和装置 |
US20150170053A1 (en) | 2013-12-13 | 2015-06-18 | Microsoft Corporation | Personalized machine learning models |
EP3108365A1 (en) | 2014-02-20 | 2016-12-28 | Telefonaktiebolaget LM Ericsson (publ) | Methods, apparatuses, and computer program products for deploying and managing software containers |
US10235639B1 (en) | 2014-03-14 | 2019-03-19 | Directly Software, Inc. | Al based CRM system |
US20150332169A1 (en) | 2014-05-15 | 2015-11-19 | International Business Machines Corporation | Introducing user trustworthiness in implicit feedback based search result ranking |
US10558924B2 (en) | 2014-05-23 | 2020-02-11 | DataRobot, Inc. | Systems for second-order predictive data analytics, and related methods and apparatus |
US11100420B2 (en) | 2014-06-30 | 2021-08-24 | Amazon Technologies, Inc. | Input processing for machine learning |
US9886670B2 (en) * | 2014-06-30 | 2018-02-06 | Amazon Technologies, Inc. | Feature processing recipes for machine learning |
WO2016040699A1 (en) * | 2014-09-10 | 2016-03-17 | Amazon Technologies, Inc. | Computing instance launch time |
US9378731B2 (en) | 2014-09-25 | 2016-06-28 | Google Inc. | Acoustic model training corpus selection |
US9600312B2 (en) * | 2014-09-30 | 2017-03-21 | Amazon Technologies, Inc. | Threading as a service |
US20160148115A1 (en) | 2014-11-26 | 2016-05-26 | Microsoft Technology Licensing | Easy deployment of machine learning models |
US10104345B2 (en) | 2014-12-16 | 2018-10-16 | Sighthound, Inc. | Data-enhanced video viewing system and methods for computer vision processing |
US9667484B2 (en) | 2015-01-07 | 2017-05-30 | Verizon Patent And Licensing Inc. | Delayed incremental and adaptive provisioning of wireless services |
JP6349264B2 (ja) | 2015-01-19 | 2018-06-27 | 株式会社日立製作所 | 計算資源割当て方法およびシステム |
US20170017903A1 (en) | 2015-02-11 | 2017-01-19 | Skytree, Inc. | User Interface for a Unified Data Science Platform Including Management of Models, Experiments, Data Sets, Projects, Actions, Reports and Features |
US9378044B1 (en) | 2015-03-28 | 2016-06-28 | Vmware, Inc. | Method and system that anticipates deleterious virtual-machine state changes within a virtualization layer |
US9667656B2 (en) | 2015-03-30 | 2017-05-30 | Amazon Technologies, Inc. | Networking flow logs for multi-tenant environments |
EP3304322A4 (en) | 2015-06-05 | 2018-11-07 | Nutanix, Inc. | Optimizable full-path encryption in a virtualization environment |
US10255907B2 (en) | 2015-06-07 | 2019-04-09 | Apple Inc. | Automatic accent detection using acoustic models |
TWI591982B (zh) | 2015-07-21 | 2017-07-11 | 黃能富 | 網路流量辨識方法及辨識系統 |
WO2017040852A1 (en) | 2015-09-03 | 2017-03-09 | Skytree, Inc. | Modeling of geospatial location over time |
US9772934B2 (en) | 2015-09-14 | 2017-09-26 | Palantir Technologies Inc. | Pluggable fault detection tests for data pipelines |
US10084658B2 (en) * | 2015-09-28 | 2018-09-25 | Cisco Technology, Inc. | Enhanced cloud demand prediction for smart data centers |
US10116521B2 (en) | 2015-10-15 | 2018-10-30 | Citrix Systems, Inc. | Systems and methods for determining network configurations using historical real-time network metrics data |
US10332509B2 (en) | 2015-11-25 | 2019-06-25 | Baidu USA, LLC | End-to-end speech recognition |
US11210595B2 (en) | 2015-11-30 | 2021-12-28 | Allegro Artificial Intelligence Ltd | System and method for selective use of examples |
US10904360B1 (en) | 2015-12-02 | 2021-01-26 | Zeta Global Corp. | Method and apparatus for real-time personalization |
US10269119B2 (en) | 2015-12-07 | 2019-04-23 | Avigilon Analytics Corporation | System and method for background and foreground segmentation |
US10387798B2 (en) | 2015-12-16 | 2019-08-20 | Accenture Global Solutions Limited | Machine for development of analytical models |
US10438132B2 (en) | 2015-12-16 | 2019-10-08 | Accenture Global Solutions Limited | Machine for development and deployment of analytical models |
US10002247B2 (en) * | 2015-12-18 | 2018-06-19 | Amazon Technologies, Inc. | Software container registry container image deployment |
US9910713B2 (en) | 2015-12-21 | 2018-03-06 | Amazon Technologies, Inc. | Code execution request routing |
US11715025B2 (en) * | 2015-12-30 | 2023-08-01 | Nutanix, Inc. | Method for forecasting distributed resource utilization in a virtualization environment |
US20170212829A1 (en) | 2016-01-21 | 2017-07-27 | American Software Safety Reliability Company | Deep Learning Source Code Analyzer and Repairer |
US20170213213A1 (en) | 2016-01-25 | 2017-07-27 | Sigue Corporation | Enhanced authentication security applicable in an at least partially insecure network environment |
US11100423B2 (en) | 2016-01-27 | 2021-08-24 | Microsoft Technology Licensing, Llc | Artificial intelligence engine hosted on an online platform |
US11841789B2 (en) | 2016-01-27 | 2023-12-12 | Microsoft Technology Licensing, Llc | Visual aids for debugging |
US10002029B1 (en) | 2016-02-05 | 2018-06-19 | Sas Institute Inc. | Automated transfer of neural network definitions among federated areas |
US10230786B2 (en) | 2016-02-26 | 2019-03-12 | Red Hat, Inc. | Hot deployment in a distributed cluster system |
US20170270427A1 (en) | 2016-03-17 | 2017-09-21 | Microsoft Technology Licensing, Llc | Multi-view machine learning |
US10810491B1 (en) | 2016-03-18 | 2020-10-20 | Amazon Technologies, Inc. | Real-time visualization of machine learning models |
RU2632143C1 (ru) | 2016-04-11 | 2017-10-02 | Общество С Ограниченной Ответственностью "Яндекс" | Способ обучения модуля ранжирования с использованием обучающей выборки с зашумленными ярлыками |
US10503401B2 (en) | 2016-05-16 | 2019-12-10 | International Business Machines Corporation | Opportunistic data analytics using memory bandwidth in disaggregated computing systems |
US10712906B2 (en) | 2016-05-25 | 2020-07-14 | Lenovo (Singapore) Pte. Ltd. | Systems and methods for presentation of elements on a display based on context |
EP3476103B1 (en) | 2016-06-23 | 2020-04-15 | Koninklijke Philips N.V. | Method, apparatus and machine readable medium for measuring user availability or receptiveness to notifications |
US9830315B1 (en) | 2016-07-13 | 2017-11-28 | Xerox Corporation | Sequence-based structured prediction for semantic parsing |
US20180053099A1 (en) | 2016-08-16 | 2018-02-22 | International Business Machines Corporation | Automatic evaluation of a knowledge canvassing application |
US11789724B2 (en) | 2016-08-23 | 2023-10-17 | International Business Machines Corporation | Machine learning to facilitate incremental static program analysis |
US11681943B2 (en) | 2016-09-27 | 2023-06-20 | Clarifai, Inc. | Artificial intelligence development via user-selectable/connectable model representations |
US10585693B2 (en) | 2016-09-30 | 2020-03-10 | Uchicago Argonne, Llc | Systems and methods for metric driven deployments to cloud service providers |
US10303388B1 (en) * | 2016-09-30 | 2019-05-28 | EMC IP Holding Company LLC | Storage filtering using container images |
US11188551B2 (en) | 2016-11-04 | 2021-11-30 | Microsoft Technology Licensing, Llc | Multi-level data pagination |
US20200026576A1 (en) | 2017-01-19 | 2020-01-23 | Nutanix, Inc. | Determining a number of nodes required in a networked virtualization system based on increasing node density |
CN106953862B (zh) * | 2017-03-23 | 2020-09-25 | 全球能源互联网研究院有限公司 | 网络安全态势的感知方法和装置及感知模型训练方法和装置 |
US20180300653A1 (en) * | 2017-04-18 | 2018-10-18 | Distributed Systems, Inc. | Distributed Machine Learning System |
US10691514B2 (en) | 2017-05-08 | 2020-06-23 | Datapipe, Inc. | System and method for integration, testing, deployment, orchestration, and management of applications |
WO2018226790A1 (en) * | 2017-06-09 | 2018-12-13 | ORock Holdings, LLC | Secure network-accessible system for executing remote applications |
US20170330078A1 (en) | 2017-07-18 | 2017-11-16 | Ashok Reddy | Method and system for automated model building |
US10735273B2 (en) | 2017-07-31 | 2020-08-04 | Accenture Global Solutions Limited | Using machine learning to make network management decisions |
US11396825B2 (en) | 2017-08-14 | 2022-07-26 | General Electric Company | Turbine diagnostic feature selection system |
WO2019050952A1 (en) | 2017-09-05 | 2019-03-14 | Brandeis University | SYSTEMS, METHODS, AND MEDIA FOR DISTRIBUTING DATABASE INTERROGATIONS THROUGH A PAYING VIRTUAL NETWORK |
US10484392B2 (en) | 2017-09-08 | 2019-11-19 | Verizon Patent And Licensing Inc. | Isolating containers on a host |
US20190095794A1 (en) | 2017-09-26 | 2019-03-28 | Intel Corporation | Methods and apparatus for training a neural network |
US11720813B2 (en) | 2017-09-29 | 2023-08-08 | Oracle International Corporation | Machine learning platform for dynamic model selection |
US10846341B2 (en) | 2017-10-13 | 2020-11-24 | Kpmg Llp | System and method for analysis of structured and unstructured data |
US11544743B2 (en) | 2017-10-16 | 2023-01-03 | Adobe Inc. | Digital content control based on shared machine learning properties |
US10275710B1 (en) | 2017-10-31 | 2019-04-30 | KenSci Inc. | Machine learning model repository |
US11537868B2 (en) | 2017-11-13 | 2022-12-27 | Lyft, Inc. | Generation and update of HD maps using data from heterogeneous sources |
US12045693B2 (en) | 2017-11-22 | 2024-07-23 | Amazon Technologies, Inc. | Packaging and deploying algorithms for flexible machine learning |
US10621019B1 (en) | 2017-11-22 | 2020-04-14 | Amazon Technologies, Inc. | Using a client to manage remote machine learning jobs |
US10534965B2 (en) | 2017-11-22 | 2020-01-14 | Amazon Technologies, Inc. | Analysis of video content |
US10831519B2 (en) | 2017-11-22 | 2020-11-10 | Amazon Technologies, Inc. | Packaging and deploying algorithms for flexible machine learning |
US11748610B1 (en) | 2017-11-22 | 2023-09-05 | Amazon Technologies, Inc. | Building sequence to sequence (S2S) models using previously generated S2S models with similar use cases |
US11537439B1 (en) | 2017-11-22 | 2022-12-27 | Amazon Technologies, Inc. | Intelligent compute resource selection for machine learning training jobs |
US11977958B2 (en) | 2017-11-22 | 2024-05-07 | Amazon Technologies, Inc. | Network-accessible machine learning model training and hosting system |
US10490183B2 (en) | 2017-11-22 | 2019-11-26 | Amazon Technologies, Inc. | Fully managed and continuously trained automatic speech recognition service |
US11257002B2 (en) | 2017-11-22 | 2022-02-22 | Amazon Technologies, Inc. | Dynamic accuracy-based deployment and monitoring of machine learning models in provider networks |
US10715549B2 (en) | 2017-12-01 | 2020-07-14 | KnowBe4, Inc. | Systems and methods for AIDA based role models |
CN114546391A (zh) | 2020-11-25 | 2022-05-27 | 阿里巴巴集团控股有限公司 | 一种算子处理方法、装置、设备、系统及存储介质 |
-
2017
- 2017-11-22 US US15/821,585 patent/US11977958B2/en active Active
-
2018
- 2018-11-20 KR KR1020207017954A patent/KR102428293B1/ko active IP Right Grant
- 2018-11-20 AU AU2018373029A patent/AU2018373029B2/en active Active
- 2018-11-20 WO PCT/US2018/062064 patent/WO2019104063A1/en unknown
- 2018-11-20 EP EP18815894.3A patent/EP3714365A1/en active Pending
- 2018-11-20 CN CN201880074178.7A patent/CN111448550B/zh active Active
- 2018-11-20 JP JP2020528075A patent/JP6997315B2/ja active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2017520068A (ja) * | 2014-05-23 | 2017-07-20 | データロボット, インコーポレイテッド | 予測データ分析のためのシステムおよび技術 |
JP2017524183A (ja) * | 2014-06-30 | 2017-08-24 | アマゾン・テクノロジーズ・インコーポレーテッド | 機械学習サービス |
US20170220949A1 (en) * | 2016-01-29 | 2017-08-03 | Yahoo! Inc. | Method and system for distributed deep machine learning |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2022239979A1 (ko) * | 2021-05-10 | 2022-11-17 | 현대자동차주식회사 | M2m 시스템에서 인공지능 서비스를 가능하게 하기 위한 방법 및 장치 |
Also Published As
Publication number | Publication date |
---|---|
WO2019104063A9 (en) | 2020-06-04 |
EP3714365A1 (en) | 2020-09-30 |
US11977958B2 (en) | 2024-05-07 |
AU2018373029A1 (en) | 2020-05-28 |
AU2018373029B2 (en) | 2021-08-05 |
CN111448550A (zh) | 2020-07-24 |
KR102428293B1 (ko) | 2022-08-02 |
WO2019104063A1 (en) | 2019-05-31 |
JP6997315B2 (ja) | 2022-01-17 |
KR20200087853A (ko) | 2020-07-21 |
CN111448550B (zh) | 2024-03-19 |
US20190156244A1 (en) | 2019-05-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6997315B2 (ja) | ネットワークアクセス可能な機械学習モデル訓練またはホスティングシステム | |
US11550614B2 (en) | Packaging and deploying algorithms for flexible machine learning | |
US12045693B2 (en) | Packaging and deploying algorithms for flexible machine learning | |
US11948022B2 (en) | Using a client to manage remote machine learning jobs | |
US11537439B1 (en) | Intelligent compute resource selection for machine learning training jobs | |
US11775868B1 (en) | Machine learning inference calls for database query processing | |
US11727314B2 (en) | Automated machine learning pipeline exploration and deployment | |
US11853401B1 (en) | Machine learning model creation via user-configured model building blocks | |
US11593704B1 (en) | Automatic determination of hyperparameters | |
US11295165B1 (en) | Systems, methods, and apparatuses for determining data relevance and labeling, model updating, and deployment | |
US11373119B1 (en) | Framework for building, orchestrating and deploying large-scale machine learning applications | |
US11748610B1 (en) | Building sequence to sequence (S2S) models using previously generated S2S models with similar use cases | |
US11593675B1 (en) | Machine learning-based program analysis using synthetically generated labeled data | |
US11605021B1 (en) | Iterative model training and deployment for automated learning systems | |
US11341339B1 (en) | Confidence calibration for natural-language understanding models that provides optimal interpretability | |
US11797535B1 (en) | Use of batch mode function execution in database engines to enable efficient calls to remote services | |
US11966396B1 (en) | Machine learning inference calls for database query processing | |
US20240012663A1 (en) | Source archive optimizations for reducing container image sizes | |
US12014748B1 (en) | Speech enhancement machine learning model for estimation of reverberation in a multi-task learning framework |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200521 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20210609 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210621 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20210921 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20211005 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20211018 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20211116 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20211216 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6997315 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |