JP2017519282A - 分散モデル学習 - Google Patents
分散モデル学習 Download PDFInfo
- Publication number
- JP2017519282A JP2017519282A JP2016567368A JP2016567368A JP2017519282A JP 2017519282 A JP2017519282 A JP 2017519282A JP 2016567368 A JP2016567368 A JP 2016567368A JP 2016567368 A JP2016567368 A JP 2016567368A JP 2017519282 A JP2017519282 A JP 2017519282A
- Authority
- JP
- Japan
- Prior art keywords
- model
- update
- data
- updated
- user
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Software Systems (AREA)
- Mathematical Physics (AREA)
- Artificial Intelligence (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Biomedical Technology (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Medical Informatics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Analysis (AREA)
Abstract
Description
例示的なニューラルシステム、トレーニングおよび動作
シナプスタイプ
シナプス可塑性の決定
ニューロンモデルおよび演算
Hunzinger Coldモデル
共通特徴にわたる分散モデル学習およびカスタマイズされた分類子
モデル更新の計算
モデル承認
外れ値検出
アーキテクチャ更新
分類子特徴学習者分割
モデルパラメータの送信
デバイスから中央サーバへ
中央サーバからデバイスへ
共通特徴にわたるカスタマイズされた分類子
ユーザフィードバック
タイプ1:新しいラベル、ユーザが、分類子は所与の入力に対して誤ったラベルを生成したと信じ、正しいラベルが何であるべきかを知っている場合;
タイプ2:「間違ったラベル」メッセージ、ユーザが、分類子は所与の入力に対して誤ったラベルを生成したと信じるが、正しいラベルが何であるべきかを知らない場合;または、
タイプ3:分類子の初期結果に基づいて、ユーザが同じデータに対してより具体化された分類子を適用したい場合、異なる分類子をロードする要求。
モデルストア
他の例示的な使用ケース
以下に本願発明の当初の特許請求の範囲に記載された発明を付記する。
[C1]
モデルを学習する方法であって、
少なくとも1人のユーザからモデル更新を受信することと
前のモデルおよび前記モデル更新に少なくとも部分的に基づいて更新されたモデルを計算することと
前記更新されたモデルに少なくとも部分的に基づいて前記少なくとも1人のユーザに前記更新されたモデルのサブセットに関するデータを送信することと
を備える、方法。
[C2]
前記更新されたモデルは、性能メトリックまたはモデル容量のうちの少なくとも1つに少なくとも部分的に基づいて承認される、
C1に記載の方法。
[C3]
前記計算することは、前記モデル更新の比較分析に少なくとも部分的に基づいて外れ値を検出することに少なくとも部分的に基づく、
C1に記載の方法。
[C4]
前記更新されたモデルは、モデルアーキテクチャまたは学習率のうちの少なくとも1つの変化を含む、
C1に記載の方法。
[C5]
前記モデルアーキテクチャまたは前記学習率のうちの少なくとも1つは、承認データに対するモデル性能または重み更新の希薄さのうちの少なくとも1つに少なくとも部分的に基づいて決定される、
C4に記載の方法。
[C6]
前記サブセットは、新しくトレーニングされたレイヤに関するデータのみを備える、
C1に記載の方法。
[C7]
モデルを学習する方法であって、
共有された推論モデルに少なくとも部分的に基づいてサーバからデータを受信することと、
前記モデルに少なくとも部分的に基づいて推論を計算することと、
前記推論に少なくとも部分的に基づいて少なくとも1つのモデルパラメータ更新を計算することと、
前記少なくとも1つのモデルパラメータ更新に少なくとも部分的に基づいてデータを前記サーバに送信することと
を備える、方法。
[C8]
前記受信されたデータに少なくとも部分的に基づいて少なくとも1つのモデルパラメータを含む前記モデルを生成することをさらに備える、
C7に記載の方法。
[C9]
前記生成することは、ローカルにキャッシュされたトレーニング例を使用して分類子をトレーニングすることを含む、
C8に記載の方法。
[C10]
前記送信することは、現在のモデル更新と前のモデル更新とに少なくとも部分的に基づく、
C7に記載の方法。
[C11]
前記計算することまたは前記送信することのうちの少なくとも1つは、計算または送るためにモデルパラメータのサブセットを選択することを含む、
C7に記載の方法。
[C12]
モデルを学習するための装置であって、
メモリと、
前記メモリに結合される少なくとも1つのプロセッサと
を備え、前記少なくとも1つのプロセッサは、
少なくとも1つのユーザからモデル更新を受信することと、
前のモデルと前記モデル更新とに少なくとも部分的に基づいて更新されたモデルを計算することと、
前記更新されたモデルに少なくとも部分的に基づいて前記少なくとも1人のユーザに前記更新されたモデルのサブセットに関するデータを送信することと
を行うように構成される、装置。
[C13]
前記少なくとも1つのプロセッサは、性能メトリックまたはモデル容量のうちの少なくとも1つに少なくとも部分的に基づいて前記更新されたモデルを承認することを行うようにさらに構成される、
C12に記載の装置。
[C14]
前記少なくとも1つのプロセッサは、前記モデル更新の比較分析に少なくとも部分的に基づいて外れ値を検出することに少なくとも部分的に基づいて前記更新されたモデルを計算することを行うようにさらに構成される、
C12に記載の装置。
[C15]
前記更新されたモデルは、モデルアーキテクチャまたは学習率のうちの少なくとも1つの変化を含む、
C12に記載の装置。
[C16]
前記モデルアーキテクチャまたは前記学習率のうちの少なくとも1つは、承認データに対するモデル性能または重み更新の希薄さのうちの少なくとも1つに少なくとも部分的に基づいて決定される、
C15に記載の装置。
[C17]
前記サブセットは、新しくトレーニングされたレイヤに関するデータのみを備える、
C12に記載の装置。
[C18]
モデルを学習するための装置であって、
メモリと、
前記メモリに結合される少なくとも1つのプロセッサと
を備え、前記少なくとも1つのプロセッサは、
共有された推論モデルに少なくとも部分的に基づいてサーバからデータを受信することと、
前記モデルに少なくとも部分的に基づいて推論を計算することと、
前記推論に少なくとも部分的に基づいて少なくとも1つのモデルパラメータ更新を計算することと、
前記少なくとも1つのモデルパラメータ更新に少なくとも部分的に基づいてデータを前記サーバに送信することと
を行うように構成される、装置。
[C19]
前記少なくとも1つのプロセッサは、前記受信されたデータに少なくとも部分的に基づいて少なくとも1つのモデルパラメータを含む前記モデルを生成することを行うようにさらに構成される、
C18に記載の装置。
[C20]
前記少なくとも1つのプロセッサは、ローカルにキャッシュされたトレーニング例を使用して分類子をトレーニングすることによって前記モデルを生成することを行うようにさらに構成される、
C19に記載の装置。
[C21]
前記少なくとも1つのプロセッサは、現在のモデル更新と前のモデル更新とに少なくとも部分的に基づいて前記データを送信することを行うようにさらに構成される、
C18に記載の装置。
[C22]
前記少なくとも1つのプロセッサは、計算または送るためにモデルパラメータのサブセットを選択することによって前記データを送信するまたは前記少なくとも1つのモデルパラメータ更新を計算することを行うようにさらに構成される、
C18に記載の装置。
[C23]
モデルを学習するための装置であって、
少なくとも1人のユーザからモデル更新を受信するための手段と
前のモデルおよび前記モデル更新に少なくとも部分的に基づいて更新されたモデルを計算するための手段と、前記更新されたモデルに少なくとも部分的に基づいて前記少なくとも1人のユーザに前記更新されたモデルのサブセットに関連するデータを送信するための手段と
を備える、装置。
[C24]
モデルを学習するための装置であって、
共有された推論モデルに少なくとも部分的に基づいてサーバからデータを受信するための手段と、
前記モデルに少なくとも部分的に基づいて推論を計算するための手段と、
前記推論に少なくとも部分的に基づいて少なくとも1つのモデルパラメータ更新を計算するための手段と、
前記少なくとも1つのモデルパラメータ更新に少なくとも部分的に基づいてデータを前記サーバに送信するための手段と
を備える、装置。
[C25]
モデルを学習するためのコンピュータプログラム製品であって、
符号化されたプログラムコードを有する非一時的コンピュータプログラム可読媒体であって、前記プログラムコードは、
少なくとも1人のユーザからモデル更新を受信するプログラムコードと
前のモデルおよび前記モデル更新に少なくとも部分的に基づいて更新されたモデルを計算するプログラムコードと
前記更新されたモデルに少なくとも部分的に基づいて前記少なくとも1人のユーザに前記更新されたモデルのサブセットに関連するデータを送信するプログラムコードと
を備える、コンピュータプログラム製品。
[C26]
モデルを学習するためのコンピュータプログラム製品であって、
符号化されたプログラムコードを有する非一時的コンピュータプログラム可読媒体であって、前記プログラムコードは、
共有された推論モデルに少なくとも部分的に基づいてサーバからデータを受信するプログラムコードと、
前記モデルに少なくとも部分的に基づいて推論を計算するプログラムコードと、
前記推論に少なくとも部分的に基づいて少なくとも1つのモデルパラメータ更新を計算するプログラムコードと、
前記少なくとも1つのモデルパラメータ更新に少なくとも部分的に基づいてデータを前記サーバに送信するプログラムコードと
を備える、コンピュータプログラム製品。
Claims (26)
- モデルを学習する方法であって、
少なくとも1人のユーザからモデル更新を受信することと
前のモデルおよび前記モデル更新に少なくとも部分的に基づいて更新されたモデルを計算することと
前記更新されたモデルに少なくとも部分的に基づいて前記少なくとも1人のユーザに前記更新されたモデルのサブセットに関するデータを送信することと
を備える、方法。 - 前記更新されたモデルは、性能メトリックまたはモデル容量のうちの少なくとも1つに少なくとも部分的に基づいて承認される、
請求項1に記載の方法。 - 前記計算することは、前記モデル更新の比較分析に少なくとも部分的に基づいて外れ値を検出することに少なくとも部分的に基づく、
請求項1に記載の方法。 - 前記更新されたモデルは、モデルアーキテクチャまたは学習率のうちの少なくとも1つの変化を含む、
請求項1に記載の方法。 - 前記モデルアーキテクチャまたは前記学習率のうちの少なくとも1つは、承認データに対するモデル性能または重み更新の希薄さのうちの少なくとも1つに少なくとも部分的に基づいて決定される、
請求項4に記載の方法。 - 前記サブセットは、新しくトレーニングされたレイヤに関するデータのみを備える、
請求項1に記載の方法。 - モデルを学習する方法であって、
共有された推論モデルに少なくとも部分的に基づいてサーバからデータを受信することと、
前記モデルに少なくとも部分的に基づいて推論を計算することと、
前記推論に少なくとも部分的に基づいて少なくとも1つのモデルパラメータ更新を計算することと、
前記少なくとも1つのモデルパラメータ更新に少なくとも部分的に基づいてデータを前記サーバに送信することと
を備える、方法。 - 前記受信されたデータに少なくとも部分的に基づいて少なくとも1つのモデルパラメータを含む前記モデルを生成することをさらに備える、
請求項7に記載の方法。 - 前記生成することは、ローカルにキャッシュされたトレーニング例を使用して分類子をトレーニングすることを含む、
請求項8に記載の方法。 - 前記送信することは、現在のモデル更新と前のモデル更新とに少なくとも部分的に基づく、
請求項7に記載の方法。 - 前記計算することまたは前記送信することのうちの少なくとも1つは、計算または送るためにモデルパラメータのサブセットを選択することを含む、
請求項7に記載の方法。 - モデルを学習するための装置であって、
メモリと、
前記メモリに結合される少なくとも1つのプロセッサと
を備え、前記少なくとも1つのプロセッサは、
少なくとも1つのユーザからモデル更新を受信することと、
前のモデルと前記モデル更新とに少なくとも部分的に基づいて更新されたモデルを計算することと、
前記更新されたモデルに少なくとも部分的に基づいて前記少なくとも1人のユーザに前記更新されたモデルのサブセットに関するデータを送信することと
を行うように構成される、装置。 - 前記少なくとも1つのプロセッサは、性能メトリックまたはモデル容量のうちの少なくとも1つに少なくとも部分的に基づいて前記更新されたモデルを承認することを行うようにさらに構成される、
請求項12に記載の装置。 - 前記少なくとも1つのプロセッサは、前記モデル更新の比較分析に少なくとも部分的に基づいて外れ値を検出することに少なくとも部分的に基づいて前記更新されたモデルを計算することを行うようにさらに構成される、
請求項12に記載の装置。 - 前記更新されたモデルは、モデルアーキテクチャまたは学習率のうちの少なくとも1つの変化を含む、
請求項12に記載の装置。 - 前記モデルアーキテクチャまたは前記学習率のうちの少なくとも1つは、承認データに対するモデル性能または重み更新の希薄さのうちの少なくとも1つに少なくとも部分的に基づいて決定される、
請求項15に記載の装置。 - 前記サブセットは、新しくトレーニングされたレイヤに関するデータのみを備える、
請求項12に記載の装置。 - モデルを学習するための装置であって、
メモリと、
前記メモリに結合される少なくとも1つのプロセッサと
を備え、前記少なくとも1つのプロセッサは、
共有された推論モデルに少なくとも部分的に基づいてサーバからデータを受信することと、
前記モデルに少なくとも部分的に基づいて推論を計算することと、
前記推論に少なくとも部分的に基づいて少なくとも1つのモデルパラメータ更新を計算することと、
前記少なくとも1つのモデルパラメータ更新に少なくとも部分的に基づいてデータを前記サーバに送信することと
を行うように構成される、装置。 - 前記少なくとも1つのプロセッサは、前記受信されたデータに少なくとも部分的に基づいて少なくとも1つのモデルパラメータを含む前記モデルを生成することを行うようにさらに構成される、
請求項18に記載の装置。 - 前記少なくとも1つのプロセッサは、ローカルにキャッシュされたトレーニング例を使用して分類子をトレーニングすることによって前記モデルを生成することを行うようにさらに構成される、
請求項19に記載の装置。 - 前記少なくとも1つのプロセッサは、現在のモデル更新と前のモデル更新とに少なくとも部分的に基づいて前記データを送信することを行うようにさらに構成される、
請求項18に記載の装置。 - 前記少なくとも1つのプロセッサは、計算または送るためにモデルパラメータのサブセットを選択することによって前記データを送信するまたは前記少なくとも1つのモデルパラメータ更新を計算することを行うようにさらに構成される、
請求項18に記載の装置。 - モデルを学習するための装置であって、
少なくとも1人のユーザからモデル更新を受信するための手段と
前のモデルおよび前記モデル更新に少なくとも部分的に基づいて更新されたモデルを計算するための手段と、
前記更新されたモデルに少なくとも部分的に基づいて前記少なくとも1人のユーザに前記更新されたモデルのサブセットに関連するデータを送信するための手段と
を備える、装置。 - モデルを学習するための装置であって、
共有された推論モデルに少なくとも部分的に基づいてサーバからデータを受信するための手段と、
前記モデルに少なくとも部分的に基づいて推論を計算するための手段と、
前記推論に少なくとも部分的に基づいて少なくとも1つのモデルパラメータ更新を計算するための手段と、
前記少なくとも1つのモデルパラメータ更新に少なくとも部分的に基づいてデータを前記サーバに送信するための手段と
を備える、装置。 - モデルを学習するためのコンピュータプログラム製品であって、
符号化されたプログラムコードを有する非一時的コンピュータプログラム可読媒体であって、前記プログラムコードは、
少なくとも1人のユーザからモデル更新を受信するプログラムコードと
前のモデルおよび前記モデル更新に少なくとも部分的に基づいて更新されたモデルを計算するプログラムコードと
前記更新されたモデルに少なくとも部分的に基づいて前記少なくとも1人のユーザに前記更新されたモデルのサブセットに関連するデータを送信するプログラムコードと
を備える、コンピュータプログラム製品。 - モデルを学習するためのコンピュータプログラム製品であって、
符号化されたプログラムコードを有する非一時的コンピュータプログラム可読媒体であって、前記プログラムコードは、
共有された推論モデルに少なくとも部分的に基づいてサーバからデータを受信するプログラムコードと、
前記モデルに少なくとも部分的に基づいて推論を計算するプログラムコードと、
前記推論に少なくとも部分的に基づいて少なくとも1つのモデルパラメータ更新を計算するプログラムコードと、
前記少なくとも1つのモデルパラメータ更新に少なくとも部分的に基づいてデータを前記サーバに送信するプログラムコードと
を備える、コンピュータプログラム製品。
Applications Claiming Priority (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201461992166P | 2014-05-12 | 2014-05-12 | |
US61/992,166 | 2014-05-12 | ||
US14/464,558 US20150324686A1 (en) | 2014-05-12 | 2014-08-20 | Distributed model learning |
US14/464,558 | 2014-08-20 | ||
PCT/US2015/026617 WO2015175155A1 (en) | 2014-05-12 | 2015-04-20 | Distributed model learning |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2017519282A true JP2017519282A (ja) | 2017-07-13 |
JP2017519282A5 JP2017519282A5 (ja) | 2018-05-10 |
Family
ID=54368121
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016567368A Pending JP2017519282A (ja) | 2014-05-12 | 2015-04-20 | 分散モデル学習 |
Country Status (5)
Country | Link |
---|---|
US (1) | US20150324686A1 (ja) |
EP (1) | EP3143563B1 (ja) |
JP (1) | JP2017519282A (ja) |
CN (1) | CN106687995A (ja) |
WO (1) | WO2015175155A1 (ja) |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2018036779A (ja) * | 2016-08-30 | 2018-03-08 | 株式会社東芝 | 電子装置、方法及び情報処理システム |
WO2019022052A1 (ja) * | 2017-07-28 | 2019-01-31 | プラスマン合同会社 | 情報処理装置、システムおよび情報処理方法 |
KR20190023787A (ko) * | 2017-08-30 | 2019-03-08 | 순천향대학교 산학협력단 | 스마트폰 사용자를 위한 사용자 정의 기계학습 장치 및 그 방법 |
JP2019121256A (ja) * | 2018-01-10 | 2019-07-22 | 国立研究開発法人情報通信研究機構 | 学習システム及び学習方法 |
WO2020049636A1 (ja) * | 2018-09-04 | 2020-03-12 | 日本電気株式会社 | 識別システム、モデル提供方法およびモデル提供プログラム |
JP2020101860A (ja) * | 2018-12-19 | 2020-07-02 | キヤノンメディカルシステムズ株式会社 | 医用画像処理装置、システム及びプログラム |
KR102530115B1 (ko) * | 2022-01-20 | 2023-05-08 | 가천대학교 산학협력단 | 엣지서버에서 수행되는 데이터 분포 정보 기반 연합학습 데이터 샘플링 기술의 구현방법 |
Families Citing this family (86)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10121108B2 (en) * | 2015-07-31 | 2018-11-06 | Bluvector, Inc. | System and method for in-situ classifier retraining for malware identification and model heterogeneity |
US11250335B2 (en) * | 2015-10-26 | 2022-02-15 | NetraDyne, Inc. | Joint processing for embedded data inference |
US11210595B2 (en) * | 2015-11-30 | 2021-12-28 | Allegro Artificial Intelligence Ltd | System and method for selective use of examples |
WO2017176384A2 (en) * | 2016-02-24 | 2017-10-12 | Sri International | Low precision neural networks using subband decomposition |
US10380503B2 (en) * | 2016-04-08 | 2019-08-13 | Here Global B.V. | Distributed online learning for privacy-preserving personal predictive models |
US11093834B2 (en) | 2016-07-06 | 2021-08-17 | Palo Alto Research Center Incorporated | Computer-implemented system and method for predicting activity outcome based on user attention |
US11477302B2 (en) * | 2016-07-06 | 2022-10-18 | Palo Alto Research Center Incorporated | Computer-implemented system and method for distributed activity detection |
US10885478B2 (en) | 2016-07-06 | 2021-01-05 | Palo Alto Research Center Incorporated | Computer-implemented system and method for providing contextually relevant task recommendations to qualified users |
US10614798B2 (en) | 2016-07-29 | 2020-04-07 | Arizona Board Of Regents On Behalf Of Arizona State University | Memory compression in a deep neural network |
CN109643347A (zh) * | 2016-08-11 | 2019-04-16 | 推特公司 | 检测与社交媒体平台的脚本化或其他异常交互 |
US11107016B2 (en) * | 2016-08-18 | 2021-08-31 | Virtual Power Systems, Inc. | Augmented power control within a datacenter using predictive modeling |
EP4300381A3 (en) | 2016-08-19 | 2024-03-20 | Movidius Limited | Systems and methods for distributed training of deep learning models |
CN116823593A (zh) * | 2016-10-21 | 2023-09-29 | 谷歌有限责任公司 | 风格化输入图像 |
US10769549B2 (en) * | 2016-11-21 | 2020-09-08 | Google Llc | Management and evaluation of machine-learned models based on locally logged data |
JP2018132830A (ja) * | 2017-02-13 | 2018-08-23 | LeapMind株式会社 | ニューラルネットワーク構築方法、ニューラルネットワーク装置及びニューラルネットワーク装置更新方法 |
JP2020511723A (ja) | 2017-03-17 | 2020-04-16 | ニューララ インコーポレイテッド | 深層ニューラルネットワークおよびニューラルネットワークアプリケーション向けのデータストリームのタグ付けおよびラベル付けのためのオンラインでのインクリメンタルリアルタイム学習 |
US11062215B2 (en) | 2017-03-17 | 2021-07-13 | Microsoft Technology Licensing, Llc | Using different data sources for a predictive model |
US10360732B2 (en) * | 2017-03-23 | 2019-07-23 | Intel Corporation | Method and system of determining object positions for image processing using wireless network angle of transmission |
US11145421B2 (en) * | 2017-04-05 | 2021-10-12 | Sharecare AI, Inc. | System and method for remote medical information exchange |
US11026634B2 (en) | 2017-04-05 | 2021-06-08 | doc.ai incorporated | Image-based system and method for predicting physiological parameters |
US11276011B2 (en) | 2017-04-10 | 2022-03-15 | International Business Machines Corporation | Self-managed adaptable models for prediction systems |
US11252260B2 (en) * | 2017-04-17 | 2022-02-15 | Petuum Inc | Efficient peer-to-peer architecture for distributed machine learning |
EP3622447A1 (en) * | 2017-05-08 | 2020-03-18 | British Telecommunications Public Limited Company | Interoperation of machine learning algorithms |
JP7317717B2 (ja) * | 2017-05-09 | 2023-07-31 | ニューララ インコーポレイテッド | ネットワーク計算エッジにわたってアプリケーションを連続して操作する、人工知能および深層学習においてメモリで境界された継続学習を可能にするシステムおよび方法 |
JP6866762B2 (ja) * | 2017-05-18 | 2021-04-28 | いすゞ自動車株式会社 | 車両用情報処理システム |
US11573573B2 (en) | 2017-06-06 | 2023-02-07 | Plusai, Inc. | Method and system for distributed learning and adaptation in autonomous driving vehicles |
US11392133B2 (en) | 2017-06-06 | 2022-07-19 | Plusai, Inc. | Method and system for object centric stereo in autonomous driving vehicles |
US11042155B2 (en) * | 2017-06-06 | 2021-06-22 | Plusai Limited | Method and system for closed loop perception in autonomous driving vehicles |
CN109389412B (zh) * | 2017-08-02 | 2022-03-04 | 创新先进技术有限公司 | 一种训练模型的方法、装置、服务设备以及用户设备 |
CN107609652B (zh) * | 2017-08-30 | 2019-10-25 | 第四范式(北京)技术有限公司 | 执行机器学习的分布式系统及其方法 |
KR102477404B1 (ko) * | 2017-08-31 | 2022-12-13 | 캠브리콘 테크놀로지스 코퍼레이션 리미티드 | 칩 장치 및 관련 제품 |
US11373091B2 (en) * | 2017-10-19 | 2022-06-28 | Syntiant | Systems and methods for customizing neural networks |
WO2019096754A1 (en) * | 2017-11-20 | 2019-05-23 | Koninklijke Philips N.V. | Training first and second neural network models |
US11580452B2 (en) * | 2017-12-01 | 2023-02-14 | Telefonaktiebolaget Lm Ericsson (Publ) | Selecting learning model |
US11488054B2 (en) * | 2017-12-06 | 2022-11-01 | Google Llc | Systems and methods for distributed on-device learning with data-correlated availability |
US11663476B2 (en) | 2017-12-15 | 2023-05-30 | Electronics And Telecommunications Research Institute | Method and device for providing compression and transmission of training parameters in distributed processing environment |
US11328210B2 (en) * | 2017-12-29 | 2022-05-10 | Micron Technology, Inc. | Self-learning in distributed architecture for enhancing artificial neural network |
US10574890B2 (en) | 2018-01-12 | 2020-02-25 | Movidius Ltd. | Methods and apparatus to operate a mobile camera for low-power usage |
JP6849621B2 (ja) * | 2018-02-02 | 2021-03-24 | 日本電信電話株式会社 | 学習装置、学習方法及び学習プログラム |
EP3528179A1 (en) * | 2018-02-15 | 2019-08-21 | Koninklijke Philips N.V. | Training a neural network |
US11368457B2 (en) | 2018-02-20 | 2022-06-21 | Visa International Service Association | Dynamic learning system for intelligent authentication |
US10892953B2 (en) * | 2018-02-23 | 2021-01-12 | Nec Corporation | Network-based application acceleration |
US20190279082A1 (en) * | 2018-03-07 | 2019-09-12 | Movidius Ltd. | Methods and apparatus to determine weights for use with convolutional neural networks |
SG10201802670TA (en) * | 2018-03-29 | 2019-10-30 | Nec Asia Pacific Pte Ltd | Method and system for performance modeling of crowd estimation techniques |
US11373115B2 (en) | 2018-04-09 | 2022-06-28 | Here Global B.V. | Asynchronous parameter aggregation for machine learning |
US10522038B2 (en) | 2018-04-19 | 2019-12-31 | Micron Technology, Inc. | Systems and methods for automatically warning nearby vehicles of potential hazards |
KR102096388B1 (ko) * | 2018-06-05 | 2020-04-06 | 네이버 주식회사 | 모바일 환경에서 실시간 추론이 가능한 dnn 구성을 위한 최적화 기법 |
KR20200003444A (ko) * | 2018-07-02 | 2020-01-10 | 삼성전자주식회사 | 영상 모델 구축 장치 및 방법 |
CN110740252A (zh) * | 2018-07-20 | 2020-01-31 | 华为技术有限公司 | 一种图像获取的方法、装置及终端 |
EP3611588A1 (de) * | 2018-08-14 | 2020-02-19 | Siemens Aktiengesellschaft | Anordnung und verfahren zur prognose einer restnutzungsdauer einer maschine |
US11574235B2 (en) | 2018-09-19 | 2023-02-07 | Servicenow, Inc. | Machine learning worker node architecture |
US10915995B2 (en) | 2018-09-24 | 2021-02-09 | Movidius Ltd. | Methods and apparatus to generate masked images based on selective privacy and/or location tracking |
CN109284361A (zh) * | 2018-09-29 | 2019-01-29 | 深圳追科技有限公司 | 一种基于深度学习的实体抽取方法及系统 |
US11641406B2 (en) * | 2018-10-17 | 2023-05-02 | Servicenow, Inc. | Identifying applications with machine learning |
KR20200046188A (ko) * | 2018-10-19 | 2020-05-07 | 삼성전자주식회사 | 인공 지능 모델을 재구성하기 위한 전자 장치 및 그의 제어 방법 |
US11989634B2 (en) * | 2018-11-30 | 2024-05-21 | Apple Inc. | Private federated learning with protection against reconstruction |
KR20200093093A (ko) | 2019-01-08 | 2020-08-05 | 삼성전자주식회사 | 분산 추론 시스템 및 이의 동작 방법 |
US10789510B2 (en) | 2019-01-11 | 2020-09-29 | Google Llc | Dynamic minibatch sizes |
US11373466B2 (en) | 2019-01-31 | 2022-06-28 | Micron Technology, Inc. | Data recorders of autonomous vehicles |
US11410475B2 (en) | 2019-01-31 | 2022-08-09 | Micron Technology, Inc. | Autonomous vehicle data recorders |
KR102425039B1 (ko) * | 2019-02-27 | 2022-07-28 | 한국전력공사 | 분산 딥러닝 환경에서 데이터 압축 장치 및 방법 |
CN111680798A (zh) * | 2019-03-11 | 2020-09-18 | 人工智能医生股份有限公司 | 联合学习模型系统和方法、装置和计算机可读存储介质 |
WO2020185973A1 (en) * | 2019-03-11 | 2020-09-17 | doc.ai incorporated | System and method with federated learning model for medical research applications |
CN110175636A (zh) * | 2019-05-08 | 2019-08-27 | 深圳欧翼思特科技有限公司 | 一种物联网深度神经网络分布式判别推论系统及方法 |
EP3736709A1 (de) * | 2019-05-10 | 2020-11-11 | Aicura Medical GmbH | Klassifikatorsystem und verfahren zum verteilten erzeugen von klassifikationsmodellen |
CN110602029B (zh) * | 2019-05-15 | 2022-06-28 | 上海云盾信息技术有限公司 | 一种用于识别网络攻击的方法和系统 |
EP3748545A1 (en) * | 2019-06-07 | 2020-12-09 | Tata Consultancy Services Limited | Sparsity constraints and knowledge distillation based learning of sparser and compressed neural networks |
US11165954B1 (en) * | 2019-06-19 | 2021-11-02 | Objectvideo Labs, Llc | Scene-aware custom tuned video surveillance detection system |
US11915802B2 (en) | 2019-08-05 | 2024-02-27 | Sharecare AI, Inc. | Accelerated processing of genomic data and streamlined visualization of genomic insights |
US20220262356A1 (en) * | 2019-08-08 | 2022-08-18 | Nippon Telegraph And Telephone Corporation | Determination device, training device, determination method, and determination program |
US11392796B2 (en) | 2019-08-20 | 2022-07-19 | Micron Technology, Inc. | Feature dictionary for bandwidth enhancement |
US11755884B2 (en) | 2019-08-20 | 2023-09-12 | Micron Technology, Inc. | Distributed machine learning with privacy protection |
US11636334B2 (en) | 2019-08-20 | 2023-04-25 | Micron Technology, Inc. | Machine learning with feature obfuscation |
US11443240B2 (en) * | 2019-09-06 | 2022-09-13 | Oracle International Corporation | Privacy preserving collaborative learning with domain adaptation |
CN110717785A (zh) * | 2019-09-29 | 2020-01-21 | 支付宝(杭州)信息技术有限公司 | 基于标签分布学习的决策方法、系统及装置 |
US11494647B2 (en) * | 2019-12-06 | 2022-11-08 | Adobe Inc. | Slot filling with contextual information |
CN114787832A (zh) * | 2019-12-10 | 2022-07-22 | 新加坡科技研究局 | 联邦机器学习的方法和服务器 |
CN113597618A (zh) * | 2019-12-20 | 2021-11-02 | 京东方科技集团股份有限公司 | 推理计算装置、模型训练装置、推理计算系统 |
GB202001468D0 (en) * | 2020-02-04 | 2020-03-18 | Tom Tom Navigation B V | Navigation system |
US11177960B2 (en) | 2020-04-21 | 2021-11-16 | Sharecare AI, Inc. | Systems and methods to verify identity of an authenticated user using a digital health passport |
CN111523686B (zh) * | 2020-04-23 | 2021-08-03 | 支付宝(杭州)信息技术有限公司 | 一种模型联合训练的方法和系统 |
JP2022045615A (ja) * | 2020-09-09 | 2022-03-22 | キオクシア株式会社 | 演算装置及び演算方法 |
CN112381218B (zh) * | 2020-11-20 | 2022-04-12 | 中国人民解放军国防科技大学 | 一种用于分布式深度学习训练的本地更新方法 |
US12010128B2 (en) * | 2020-12-17 | 2024-06-11 | Mcafee, Llc | Methods, systems, articles of manufacture and apparatus to build privacy preserving models |
WO2022173602A1 (en) * | 2021-02-10 | 2022-08-18 | Carnegie Mellon University | System and method for domain adaptive object detection via gradient detach based stacked complementary losses |
US11520576B1 (en) * | 2022-01-07 | 2022-12-06 | Plusai, Inc. | Methods and apparatus for automatically labeling data processing events in autonomous driving vehicles via machine learning |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
GB8929146D0 (en) * | 1989-12-22 | 1990-02-28 | British Telecomm | Neural networks |
US20060224532A1 (en) * | 2005-03-09 | 2006-10-05 | Case Western Reserve University | Iterative feature weighting with neural networks |
US7756881B2 (en) * | 2006-03-09 | 2010-07-13 | Microsoft Corporation | Partitioning of data mining training set |
US9485134B2 (en) * | 2009-12-10 | 2016-11-01 | International Business Machines Corporation | Managing configurations of system management agents in a distributed environment |
CN102118803A (zh) * | 2011-04-14 | 2011-07-06 | 北京邮电大学 | 一种基于QoE预测的移动通信系统视频跨层调度方法 |
CN102186241A (zh) * | 2011-04-26 | 2011-09-14 | 江苏科技大学 | 基于并行分布式粒子滤波的无线传感器网络目标跟踪方法 |
US20130159228A1 (en) * | 2011-12-16 | 2013-06-20 | Microsoft Corporation | Dynamic user experience adaptation and services provisioning |
-
2014
- 2014-08-20 US US14/464,558 patent/US20150324686A1/en not_active Abandoned
-
2015
- 2015-04-20 WO PCT/US2015/026617 patent/WO2015175155A1/en active Application Filing
- 2015-04-20 EP EP15720526.1A patent/EP3143563B1/en active Active
- 2015-04-20 CN CN201580024706.4A patent/CN106687995A/zh active Pending
- 2015-04-20 JP JP2016567368A patent/JP2017519282A/ja active Pending
Cited By (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2018036779A (ja) * | 2016-08-30 | 2018-03-08 | 株式会社東芝 | 電子装置、方法及び情報処理システム |
WO2019022052A1 (ja) * | 2017-07-28 | 2019-01-31 | プラスマン合同会社 | 情報処理装置、システムおよび情報処理方法 |
JP2019028656A (ja) * | 2017-07-28 | 2019-02-21 | プラスマン合同会社 | 情報処理装置、システムおよび情報処理方法 |
KR20190023787A (ko) * | 2017-08-30 | 2019-03-08 | 순천향대학교 산학협력단 | 스마트폰 사용자를 위한 사용자 정의 기계학습 장치 및 그 방법 |
KR102086640B1 (ko) | 2017-08-30 | 2020-03-09 | 순천향대학교 산학협력단 | 스마트폰 사용자를 위한 사용자 정의 기계학습 장치 및 그 방법 |
JP2019121256A (ja) * | 2018-01-10 | 2019-07-22 | 国立研究開発法人情報通信研究機構 | 学習システム及び学習方法 |
JP7058440B2 (ja) | 2018-01-10 | 2022-04-22 | 国立研究開発法人情報通信研究機構 | 学習システム及び学習方法 |
WO2020049636A1 (ja) * | 2018-09-04 | 2020-03-12 | 日本電気株式会社 | 識別システム、モデル提供方法およびモデル提供プログラム |
JPWO2020049636A1 (ja) * | 2018-09-04 | 2021-05-20 | 日本電気株式会社 | 識別システム、モデル提供方法およびモデル提供プログラム |
JP2020101860A (ja) * | 2018-12-19 | 2020-07-02 | キヤノンメディカルシステムズ株式会社 | 医用画像処理装置、システム及びプログラム |
JP7163168B2 (ja) | 2018-12-19 | 2022-10-31 | キヤノンメディカルシステムズ株式会社 | 医用画像処理装置、システム及びプログラム |
KR102530115B1 (ko) * | 2022-01-20 | 2023-05-08 | 가천대학교 산학협력단 | 엣지서버에서 수행되는 데이터 분포 정보 기반 연합학습 데이터 샘플링 기술의 구현방법 |
Also Published As
Publication number | Publication date |
---|---|
CN106687995A (zh) | 2017-05-17 |
EP3143563A1 (en) | 2017-03-22 |
US20150324686A1 (en) | 2015-11-12 |
EP3143563B1 (en) | 2023-05-24 |
WO2015175155A1 (en) | 2015-11-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2017519282A (ja) | 分散モデル学習 | |
CN106575377B (zh) | 共同特征上的分类器更新 | |
JP2017516192A (ja) | ニューラルネットワークにおける差分符号化 | |
Neftci | Data and power efficient intelligence with neuromorphic learning machines | |
US9558442B2 (en) | Monitoring neural networks with shadow networks | |
JP2017515189A (ja) | 写真管理 | |
JP2017525038A (ja) | ニューラルネットワークにおける畳込み演算の分解 | |
WO2019074532A1 (en) | METHOD, APPARATUS AND SYSTEM FOR PERFORMING ACTION RECOGNITION USING AN IMPULSE NEURAL NETWORK | |
JP2017531240A (ja) | データのナレッジグラフバイアス分類 | |
JP2017509978A (ja) | 確率論的スパイキングベイジアンネットワークに関する事象に基づく推論および学習 | |
JP2017509953A (ja) | 低スパイキングレートのためのニューラルネットワークを構成すること | |
JP2017515205A (ja) | Coldニューロンスパイクタイミングバックプロバゲーション | |
WO2017197375A1 (en) | System and methods for facilitating pattern recognition | |
JP2017511936A (ja) | 現在の計算リソースへのニューラルネットワーク適応 | |
JP2017509980A (ja) | 動的な空間ターゲット選択 | |
JP6133517B2 (ja) | 座標変換のための位相コーディング | |
Gurusamy et al. | DGSLSTM: deep gated stacked long short-term memory neural network for traffic flow forecasting of transportation networks on big data environment | |
CN113779396B (zh) | 题目推荐方法和装置、电子设备、存储介质 | |
JP2017509979A (ja) | 空間ターゲット選択のためのアンバランスな交差抑制メカニズム | |
Kancharla | Event-Based Velocity Prediction with Spiking Neural Networks | |
Wimer et al. | PPHR: A Personalized AI System for Proactive Robots | |
Stadtmann et al. | NoisyDECOLLE: Robust Local Learning for SNNs on Neuromorphic Hardware | |
An | for Spiking Neural Networks | |
CN117216548A (zh) | 推荐数据评估模型的构建方法、推荐数据评估方法和装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20170119 Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20170120 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180322 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180322 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190521 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20191224 |