JP6928616B2 - 共有機械学習データ構造 - Google Patents
共有機械学習データ構造 Download PDFInfo
- Publication number
- JP6928616B2 JP6928616B2 JP2018557033A JP2018557033A JP6928616B2 JP 6928616 B2 JP6928616 B2 JP 6928616B2 JP 2018557033 A JP2018557033 A JP 2018557033A JP 2018557033 A JP2018557033 A JP 2018557033A JP 6928616 B2 JP6928616 B2 JP 6928616B2
- Authority
- JP
- Japan
- Prior art keywords
- machine learning
- processing
- processing resource
- model
- data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000010801 machine learning Methods 0.000 title claims description 250
- 238000012545 processing Methods 0.000 claims description 361
- 230000015654 memory Effects 0.000 claims description 165
- 238000000034 method Methods 0.000 claims description 37
- 230000008569 process Effects 0.000 claims description 27
- 238000012549 training Methods 0.000 claims description 4
- 238000010586 diagram Methods 0.000 description 7
- 230000002093 peripheral effect Effects 0.000 description 4
- 230000002085 persistent effect Effects 0.000 description 4
- 230000006399 behavior Effects 0.000 description 3
- 230000009471 action Effects 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 238000005259 measurement Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000009467 reduction Effects 0.000 description 2
- 238000013519 translation Methods 0.000 description 2
- VYPSYNLAJGMNEJ-UHFFFAOYSA-N Silicium dioxide Chemical compound O=[Si]=O VYPSYNLAJGMNEJ-UHFFFAOYSA-N 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 230000001427 coherent effect Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000003066 decision tree Methods 0.000 description 1
- 230000009977 dual effect Effects 0.000 description 1
- 230000005670 electromagnetic radiation Effects 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 229910052710 silicon Inorganic materials 0.000 description 1
- 239000010703 silicon Substances 0.000 description 1
- 229910052814 silicon oxide Inorganic materials 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
- 230000026676 system process Effects 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/30—Arrangements for executing machine instructions, e.g. instruction decode
- G06F9/38—Concurrent instruction execution, e.g. pipeline or look ahead
- G06F9/3885—Concurrent instruction execution, e.g. pipeline or look ahead using a plurality of independent parallel functional units
- G06F9/3889—Concurrent instruction execution, e.g. pipeline or look ahead using a plurality of independent parallel functional units controlled by multiple instructions, e.g. MIMD, decoupled access or execute
- G06F9/3891—Concurrent instruction execution, e.g. pipeline or look ahead using a plurality of independent parallel functional units controlled by multiple instructions, e.g. MIMD, decoupled access or execute organised in groups of units sharing resources, e.g. clusters
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F12/00—Accessing, addressing or allocating within memory systems or architectures
- G06F12/02—Addressing or allocation; Relocation
- G06F12/08—Addressing or allocation; Relocation in hierarchically structured memory systems, e.g. virtual memory systems
- G06F12/0802—Addressing of a memory level in which the access to the desired data or data block requires associative addressing means, e.g. caches
- G06F12/0806—Multiuser, multiprocessor or multiprocessing cache systems
- G06F12/084—Multiuser, multiprocessor or multiprocessing cache systems with a shared cache
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F13/00—Interconnection of, or transfer of information or other signals between, memories, input/output devices or central processing units
- G06F13/14—Handling requests for interconnection or transfer
- G06F13/16—Handling requests for interconnection or transfer for access to memory bus
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F13/00—Interconnection of, or transfer of information or other signals between, memories, input/output devices or central processing units
- G06F13/14—Handling requests for interconnection or transfer
- G06F13/16—Handling requests for interconnection or transfer for access to memory bus
- G06F13/1605—Handling requests for interconnection or transfer for access to memory bus based on arbitration
- G06F13/1652—Handling requests for interconnection or transfer for access to memory bus based on arbitration in a multiprocessor architecture
- G06F13/1663—Access to shared memory
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/48—Program initiating; Program switching, e.g. by interrupt
- G06F9/4806—Task transfer initiation or dispatching
- G06F9/4843—Task transfer initiation or dispatching by program, e.g. task dispatcher, supervisor, operating system
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T1/00—General purpose image data processing
- G06T1/20—Processor architectures; Processor configuration, e.g. pipelining
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T1/00—General purpose image data processing
- G06T1/60—Memory management
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Physics & Mathematics (AREA)
- Software Systems (AREA)
- General Engineering & Computer Science (AREA)
- Evolutionary Computation (AREA)
- Medical Informatics (AREA)
- Computing Systems (AREA)
- Data Mining & Analysis (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Mathematical Physics (AREA)
- Artificial Intelligence (AREA)
- Image Analysis (AREA)
- Advance Control (AREA)
- Memory System (AREA)
- Storing Facsimile Image Data (AREA)
- Memory System Of A Hierarchy Structure (AREA)
Description
Claims (16)
- 少なくとも1つの機械学習モデルを含む機械学習データ構造を格納するための不揮発性メモリと、
前記機械学習データ構造にアクセスするために前記不揮発性メモリに結合された第1の処理資源と、
少なくとも1つのグラフィックス処理コアを有する第2の処理資源であって、前記機械学習データ構造が前記第1の処理資源と前記第2の処理資源の共有メモリ空間となるように、前記機械学習データ構造にアクセスするために前記不揮発性メモリに結合された第2の処理資源と、および
前記第2の処理資源の前記少なくとも1つのグラフィックス処理コアを用いて前記少なくとも1つの機械学習モデルの処理を実行しているときに、第1の処理資源を用いて前記少なくとも1つの機械学習モデルの動作に関連する命令及び/又はデータを取り出す処理エンジン
を含む、システム。 - 前記第1の処理資源に結合されたリアルタイムデータ入力部をさらに備え、
前記処理エンジンは、
前記第1の処理資源を用いて、前記不揮発性メモリの前記機械学習データ構造に、前記リアルタイムデータ入力部から受け取ったリアルタイムデータストリームを格納し、及び、
前記少なくとも1つのグラフィックス処理コアを用いて、前記リアルタイムデータストリームについてのモデル結果を生成するために、該リアルタイムデータストリームのサブセットに対して、前記少なくとも1つの機械学習モデルの処理を実行する、請求項1のシステム。 - 前記リアルタイムデータストリームは、リアルタイムビデオデータストリームであり、前記リアルタイムデータストリームの前記サブセットは、前記リアルタイムビデオデータストリームのタイムスライスに対応し、前記少なくとも1つの機械学習モデルは、物体認識機械学習モデルを含む、請求項2のシステム。
- 前記機械学習データ構造は少なくとも2つの機械学習モデルを含み、
前記処理エンジンは、前記第1の処理資源を用いて、前記第2の処理資源における前記少なくとも1つのグラフィックス処理コアによる前記少なくとも2つの機械学習モデルの実行の切り替えを行う、請求項1から3のいずれか1のシステム。 - 前記機械学習データ構造は1セットの機械学習モデルを格納することができ、
前記処理エンジンは、
前記第1の処理資源を用いて、前記機械学習データ構造にリアルタイムデータストリームを格納し、
前記第1の処理資源を用いて、前記1セットの機械学習モデルから、前記リアルタイムデータに関連するデータのタイプに少なくとも部分的に基づいて、実行するための少なくとも第1の機械学習モデル及び第2の機械学習モデルを決定し、
前記リアルタイムデータのそれぞれのサブセットについて、前記リアルタイムデータを前記機械学習データ構造に格納するのと並行して、
前記リアルタイムデータの前記それぞれのサブセットについてそれぞれの第1のモデル結果を生成するために、前記第2の処理資源の前記少なくとも1つのグラフィックス処理コアを用いて、前記リアルタイムデータの前記それぞれのサブセットに対して前記第1の機械学習モデルの処理を実行し、
前記第1の機械学習モデルの実行後に、前記第1の処理資源を用いて前記第2の機械学習モデルの実行への切り替えを行い、及び、
前記リアルタイムデータの前記それぞれのサブセットについてそれぞれの第2のモデル結果を生成するために、前記第2の処理資源の前記少なくとも1つのグラフィックス処理コアを用いて、前記リアルタイムデータの前記それぞれのサブセットに対して前記第2の機械学習モデルの処理を実行する、請求項1から3のいずれか1のシステム。 - 前記処理エンジンはさらに、前記第1の処理資源を用いて、前記リアルタイムデータのそれぞれのサブセットに対応する前記それぞれの第1のモデル結果及び第2のモデル結果を処理する、請求項5のシステム。
- 前記機械学習データ構造は、機械学習データインデックスを格納することができ、前記第1の処理資源は、前記機械学習データインデックスに少なくとも部分的に基づいて前記機械学習データ構造にアクセスすることができ、前記第2の処理資源は、前記機械学習データインデックスに少なくとも部分的に基づいて前記機械学習データ構造にアクセスすることができる、請求項1から6のいずれか1のシステム。
- 前記不揮発性メモリはストレージクラスメモリ(SCM)の不揮発性メモリである、請求項1から7のいずれか1のシステム。
- 不揮発性メモリに結合された第1の処理資源によって、前記不揮発性メモリの共有メモリ空間に格納されている機械学習データ構造にアクセスし、
前記不揮発性メモリに結合された少なくとも1つのグラフィックス処理コアを含む第2の処理資源によって、前記機械学習データ構造にアクセスし、および
前記第2の処理資源の前記少なくとも1つのグラフィックス処理コアによって、前記機械学習データ構造に格納されているデータセットに対して、該機械学習データ構造に格納されている少なくとも2つの機械学習モデルの処理を実行しているときに、前記第1の処理資源を用いて前記機械学習モデルに対応する命令及び/又はデータを取り出すことを含む方法。 - 前記少なくとも2つの機械学習モデルの処理を実行することが、
第1のモデル結果を生成するために、前記データセットに対して第1の機械学習モデルの処理を実行することと、
前記第1の機械学習モデルの処理の実行後に、第2のモデル結果を生成するために、前記データセットに対する第2の機械学習モデルの処理の実行に切り替えることを含む、請求項9の方法。 - 前記第1のモデル結果に少なくとも部分的に基づいて、前記第1の機械学習モデルを更新し、
前記第2のモデル結果に少なくとも部分的に基づいて、前記第2の機械学習モデルを更新し、
前記第1及び第2の機械学習モデルを更新した後に、更新された第1のモデル結果及び更新された第2のモデル結果を生成するために、前記データセットに対して前記第1の機械学習モデル及び前記第2の機械学習モデルの処理を実行することをさらに含む、請求項10の方法。 - 前記データセットはリアルタイムデータストリームであり、
第1の処理資源によって前記機械学習データ構造にアクセスすることが、前記第1の処理資源によって、前記機械学習データ構造に前記リアルタイムデータストリームを格納することを含み、前記リアルタイムデータストリームに対する前記格納されている少なくとも2つの機械学習モデルの前記処理は、前記第1の処理資源によって前記機械学習データ構造に前記リアルタイムデータストリームを格納するのと並行して、前記少なくとも1つのグラフィックス処理コアによって実行される、請求項9から11のいずれか1の方法。 - 前記機械学習データ構造は1セットの機械学習モデルを格納し、
前記方法がさらに、前記データセットのデータタイプに少なくとも部分的に基づいて、前記データセットに対して実行するための前記少なくとも2つの機械学習モデルを決定することを含む、請求項9から12のいずれか1の方法。 - システムの処理資源によって実行可能な命令を含む非一時的な機械可読記憶媒体であって、
前記命令は、前記システムに、
前記システムの第1の処理資源によって、該システムの不揮発性メモリの共有メモリ空間に格納されている機械学習データ構造にアクセスし、
前記第1の処理資源によって、前記機械学習データ構造に格納されているデータセットに対して実行するための、前記機械学習データ構造に格納されている1セットの機械学習モデルを決定し、
少なくとも1つのグラフィックス処理コアを備える前記システムの第2の処理資源によって、前記機械学習データ構造にアクセスし、および
前記1セットの機械学習モデルのそれぞれの機械学習モデルについてモデル結果を生成するために、前記第2の処理資源の前記少なくとも1つのグラフィックス処理コアによって前記データセットに対して前記1セットの機械学習モデルの処理を実行しているときに、前記第1の処理資源を用いて前記機械学習モデルに対応する命令及び/又はデータを取り出すこと
を実行させる、機械可読記憶媒体。 - 前記少なくとも1つのグラフィックス処理コアによって前記データセットに対して前記1セットの機械学習モデルの処理を実行させる前記命令が、前記システムに、
前記データセットの各データサブセットについて、前記1セットの機械学習モデルのそれぞれの機械学習モデルの処理を実行した後に、前記第2の処理資源の前記少なくとも1つのグラフィックス処理コアによる前記1セットの機械学習モデルのうちの次のそれぞれの機械学習モデルの処理の実行に切り替えさせるための命令を含む、請求項14の機械可読記憶媒体。 - 前記データセットはリアルタイムデータストリームであり、
前記機械可読記憶媒体はさらに、前記システムに、前記第1の処理資源によって、前記不揮発性メモリの前記機械学習データ構造に前記リアルタイムデータストリームを格納させるための命令を含み、
前記システムは、前記機械学習データ構造に前記リアルタイムデータストリームを格納するのと並行して、前記第2の処理資源の前記少なくとも1つのグラフィックス処理コアによって、前記リアルタイムデータストリームに対して前記1セットの機械学習モデルの処理を実行することができる、請求項14または15の機械可読記憶媒体。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/US2016/038128 WO2017218009A1 (en) | 2016-06-17 | 2016-06-17 | Shared machine-learning data structure |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2019525277A JP2019525277A (ja) | 2019-09-05 |
JP6928616B2 true JP6928616B2 (ja) | 2021-09-01 |
Family
ID=60664580
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018557033A Active JP6928616B2 (ja) | 2016-06-17 | 2016-06-17 | 共有機械学習データ構造 |
Country Status (7)
Country | Link |
---|---|
US (1) | US11797459B2 (ja) |
EP (1) | EP3436929A4 (ja) |
JP (1) | JP6928616B2 (ja) |
KR (1) | KR102205087B1 (ja) |
CN (1) | CN109416636B (ja) |
BR (1) | BR112018072407A2 (ja) |
WO (1) | WO2017218009A1 (ja) |
Families Citing this family (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10803941B2 (en) * | 2014-12-22 | 2020-10-13 | Mohammad A. Mazed | System on chip (SoC) based on neural processor or microprocessor |
US10241921B2 (en) * | 2017-04-17 | 2019-03-26 | Intel Corporation | Avoid cache lookup for cold cache |
US11562288B2 (en) | 2018-09-28 | 2023-01-24 | Amazon Technologies, Inc. | Pre-warming scheme to load machine learning models |
US11436524B2 (en) * | 2018-09-28 | 2022-09-06 | Amazon Technologies, Inc. | Hosting machine learning models |
KR102167643B1 (ko) * | 2019-01-25 | 2020-10-19 | 서울대학교산학협력단 | 머신러닝 기반의 비정상 분기 탐지 장치 및 그 방법 |
US11176493B2 (en) * | 2019-04-29 | 2021-11-16 | Google Llc | Virtualizing external memory as local to a machine learning accelerator |
US11175958B2 (en) * | 2019-05-01 | 2021-11-16 | International Business Machines Corporation | Determine a load balancing mechanism for allocation of shared resources in a storage system using a machine learning module based on number of I/O operations |
US11397694B2 (en) * | 2019-09-17 | 2022-07-26 | Micron Technology, Inc. | Memory chip connecting a system on a chip and an accelerator chip |
US12026626B1 (en) * | 2020-02-18 | 2024-07-02 | Nvidia Corporation | Multi-level and multi-label content classification using unsupervised and ensemble machine learning techniques |
US11371148B2 (en) * | 2020-08-24 | 2022-06-28 | Applied Materials, Inc. | Fabricating a recursive flow gas distribution stack using multiple layers |
WO2023010302A1 (en) * | 2021-08-04 | 2023-02-09 | Qualcomm Incorporated | Machine learning group switching |
CN113722319A (zh) * | 2021-08-05 | 2021-11-30 | 平凯星辰(北京)科技有限公司 | 基于学习索引的数据存储方法 |
US20230083161A1 (en) * | 2021-09-16 | 2023-03-16 | Accenture Global Solutions Limited | Systems and methods for low latency analytics and control of devices via edge nodes and next generation networks |
KR20240024485A (ko) * | 2022-08-17 | 2024-02-26 | 삼성전자주식회사 | 모델들에 의하여 공통으로 이용되는 정보에 기반하여 모델들을 구동하기 위한 전자 장치 및 그 방법 |
Family Cites Families (32)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5829013A (en) * | 1995-12-26 | 1998-10-27 | Intel Corporation | Memory manager to allow non-volatile memory to be used to supplement main memory |
US7219085B2 (en) | 2003-12-09 | 2007-05-15 | Microsoft Corporation | System and method for accelerating and optimizing the processing of machine learning techniques using a graphics processing unit |
JP4912028B2 (ja) | 2006-05-01 | 2012-04-04 | 日本電信電話株式会社 | 逐次学習式非定常映像検出装置,逐次学習式非定常映像検出方法及びその方法を実装したプログラム |
ES2522589T3 (es) * | 2007-02-08 | 2014-11-17 | Behavioral Recognition Systems, Inc. | Sistema de reconocimiento conductual |
US8189905B2 (en) | 2007-07-11 | 2012-05-29 | Behavioral Recognition Systems, Inc. | Cognitive model for a machine-learning engine in a video analysis system |
GB2462860B (en) | 2008-08-22 | 2012-05-16 | Advanced Risc Mach Ltd | Apparatus and method for communicating between a central processing unit and a graphics processing unit |
US8311115B2 (en) | 2009-01-29 | 2012-11-13 | Microsoft Corporation | Video encoding using previously calculated motion information |
US9177486B2 (en) | 2009-09-29 | 2015-11-03 | Advanced Training System Llc | Shifter force detection |
US8538741B2 (en) | 2009-12-15 | 2013-09-17 | Ati Technologies Ulc | Apparatus and method for partitioning a display surface into a plurality of virtual display areas |
US8669990B2 (en) * | 2009-12-31 | 2014-03-11 | Intel Corporation | Sharing resources between a CPU and GPU |
CN102004671B (zh) | 2010-11-15 | 2013-03-13 | 北京航空航天大学 | 一种云计算环境下数据中心基于统计模型的资源管理方法 |
JP5369079B2 (ja) | 2010-12-03 | 2013-12-18 | 日本電信電話株式会社 | 音響モデル作成方法とその装置とプログラム |
US9171264B2 (en) | 2010-12-15 | 2015-10-27 | Microsoft Technology Licensing, Llc | Parallel processing machine learning decision tree training |
US8762298B1 (en) * | 2011-01-05 | 2014-06-24 | Narus, Inc. | Machine learning based botnet detection using real-time connectivity graph based traffic features |
US8364613B1 (en) | 2011-07-14 | 2013-01-29 | Google Inc. | Hosting predictive models |
WO2013100935A1 (en) | 2011-12-28 | 2013-07-04 | Intel Corporation | A method and device to augment volatile memory in a graphics subsystem with non-volatile memory |
CN104137080A (zh) * | 2011-12-30 | 2014-11-05 | 英特尔公司 | 用于存储类存储器的写机制 |
US9378572B2 (en) | 2012-08-17 | 2016-06-28 | Intel Corporation | Shared virtual memory |
CA2841472C (en) * | 2013-02-01 | 2022-04-19 | Brokersavant, Inc. | Machine learning data annotation apparatuses, methods and systems |
US9171478B2 (en) | 2013-03-15 | 2015-10-27 | International Business Machines Corporation | Learning model for dynamic component utilization in a question answering system |
US9626732B2 (en) | 2013-10-10 | 2017-04-18 | Intel Corporation | Supporting atomic operations as post-synchronization operations in graphics processing architectures |
JP6201792B2 (ja) | 2014-02-06 | 2017-09-27 | 富士ゼロックス株式会社 | 情報処理装置及び情報処理プログラム |
CN104036451B (zh) | 2014-06-20 | 2018-12-11 | 深圳市腾讯计算机系统有限公司 | 基于多图形处理器的模型并行处理方法及装置 |
CN104035751B (zh) | 2014-06-20 | 2016-10-12 | 深圳市腾讯计算机系统有限公司 | 基于多图形处理器的数据并行处理方法及装置 |
US10102480B2 (en) * | 2014-06-30 | 2018-10-16 | Amazon Technologies, Inc. | Machine learning service |
US10325219B2 (en) | 2014-07-18 | 2019-06-18 | Facebook, Inc. | Parallel retrieval of training data from multiple producers for machine learning systems |
US10409910B2 (en) * | 2014-12-12 | 2019-09-10 | Omni Ai, Inc. | Perceptual associative memory for a neuro-linguistic behavior recognition system |
US10387794B2 (en) * | 2015-01-22 | 2019-08-20 | Preferred Networks, Inc. | Machine learning with model filtering and model mixing for edge devices in a heterogeneous environment |
CN105094985A (zh) * | 2015-07-15 | 2015-11-25 | 上海新储集成电路有限公司 | 一种共享内存池的低功耗数据中心及其工作方法 |
CN105227669A (zh) | 2015-10-15 | 2016-01-06 | 浪潮(北京)电子信息产业有限公司 | 一种面向深度学习的cpu与gpu混合的集群架构系统 |
US11087234B2 (en) * | 2016-01-29 | 2021-08-10 | Verizon Media Inc. | Method and system for distributed deep machine learning |
CN105912500B (zh) * | 2016-03-30 | 2017-11-14 | 百度在线网络技术(北京)有限公司 | 机器学习模型生成方法和装置 |
-
2016
- 2016-06-17 CN CN201680085228.2A patent/CN109416636B/zh active Active
- 2016-06-17 BR BR112018072407-6A patent/BR112018072407A2/pt not_active Application Discontinuation
- 2016-06-17 KR KR1020187031723A patent/KR102205087B1/ko active IP Right Grant
- 2016-06-17 US US16/096,446 patent/US11797459B2/en active Active
- 2016-06-17 EP EP16905662.9A patent/EP3436929A4/en not_active Withdrawn
- 2016-06-17 WO PCT/US2016/038128 patent/WO2017218009A1/en active Application Filing
- 2016-06-17 JP JP2018557033A patent/JP6928616B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
US20190130300A1 (en) | 2019-05-02 |
EP3436929A4 (en) | 2019-10-16 |
CN109416636B (zh) | 2023-05-26 |
JP2019525277A (ja) | 2019-09-05 |
EP3436929A1 (en) | 2019-02-06 |
BR112018072407A2 (pt) | 2019-02-19 |
WO2017218009A1 (en) | 2017-12-21 |
KR20180122741A (ko) | 2018-11-13 |
US11797459B2 (en) | 2023-10-24 |
KR102205087B1 (ko) | 2021-01-20 |
CN109416636A (zh) | 2019-03-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6928616B2 (ja) | 共有機械学習データ構造 | |
US11741345B2 (en) | Multi-memory on-chip computational network | |
US10210935B2 (en) | Associative row decoder | |
US10846621B2 (en) | Fast context switching for computational networks | |
US10884957B2 (en) | Pipeline circuit architecture to provide in-memory computation functionality | |
US20190180183A1 (en) | On-chip computational network | |
CN111465943B (zh) | 一种集成电路和用于神经网络处理的方法 | |
CN108541313A (zh) | 虚拟寄存器堆 | |
US20190057727A1 (en) | Memory device to provide in-memory computation functionality for a pipeline circuit architecture | |
KR101743409B1 (ko) | 메모리 관리 | |
US11887647B2 (en) | Deep learning accelerator and random access memory with separate memory access connections | |
US12020065B2 (en) | Hierarchical processor selection | |
US20220147808A1 (en) | Compiler configurable to generate instructions executable by different deep learning accelerators from a description of an artificial neural network | |
US20220044107A1 (en) | Optimized sensor fusion in deep learning accelerator with integrated random access memory | |
US12094531B2 (en) | Caching techniques for deep learning accelerator | |
US20220147809A1 (en) | Deep learning accelerators with configurable hardware options optimizable via compiler | |
US20160132442A1 (en) | Data writing system and method for dma | |
US20230069768A1 (en) | Distributed Camera System | |
US20220358748A1 (en) | Object Detection with a Deep Learning Accelerator of Artificial Neural Networks | |
US20220147810A1 (en) | Discovery of hardware characteristics of deep learning accelerators for optimization via compiler | |
Lin | Memory-Centric Architectures for Big Data Applications | |
WO2022098497A1 (en) | Implement the computation of an artificial neural network using multiple deep learning accelerators |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20181213 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190424 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20191223 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20200107 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200406 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20200630 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200929 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20210302 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210624 |
|
C60 | Trial request (containing other claim documents, opposition documents) |
Free format text: JAPANESE INTERMEDIATE CODE: C60 Effective date: 20210624 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20210706 |
|
C21 | Notice of transfer of a case for reconsideration by examiners before appeal proceedings |
Free format text: JAPANESE INTERMEDIATE CODE: C21 Effective date: 20210713 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20210803 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20210806 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6928616 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |