JP6882398B2 - メモリプロセッサを用いた多重処理システム及びその動作方法 - Google Patents
メモリプロセッサを用いた多重処理システム及びその動作方法 Download PDFInfo
- Publication number
- JP6882398B2 JP6882398B2 JP2019167463A JP2019167463A JP6882398B2 JP 6882398 B2 JP6882398 B2 JP 6882398B2 JP 2019167463 A JP2019167463 A JP 2019167463A JP 2019167463 A JP2019167463 A JP 2019167463A JP 6882398 B2 JP6882398 B2 JP 6882398B2
- Authority
- JP
- Japan
- Prior art keywords
- calculation
- processing
- processing devices
- main processor
- work
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/48—Program initiating; Program switching, e.g. by interrupt
- G06F9/4806—Task transfer initiation or dispatching
- G06F9/4843—Task transfer initiation or dispatching by program, e.g. task dispatcher, supervisor, operating system
- G06F9/4881—Scheduling strategies for dispatcher, e.g. round robin, multi-level priority queues
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
- G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F15/00—Digital computers in general; Data processing equipment in general
- G06F15/76—Architectures of general purpose stored program computers
- G06F15/78—Architectures of general purpose stored program computers comprising a single central processing unit
- G06F15/7807—System on chip, i.e. computer system on a single chip; System in package, i.e. computer system on one or more chips in a single package
- G06F15/7821—Tightly coupled to memory, e.g. computational memory, smart memory, processor in memory
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/30—Arrangements for executing machine instructions, e.g. instruction decode
- G06F9/38—Concurrent instruction execution, e.g. pipeline, look ahead
- G06F9/3877—Concurrent instruction execution, e.g. pipeline, look ahead using a slave processor, e.g. coprocessor
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
- G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
- G06F9/5038—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals considering the execution order of a plurality of tasks, e.g. taking priority or time dependency constraints into consideration
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/54—Interprogram communication
- G06F9/542—Event management; Broadcasting; Multicasting; Notifications
Description
110、210 主プロセッサ
120_1〜120_N、220_1〜220_N メモリチップ
121_1〜121_N、221_1〜221_N 処理装置
122_1〜122_N、222_1〜222_N データ保存領域
211 ジョブキュー
212 データインデックス機構
223_1〜223_N タスクキュー
C1 第1のチャンネル
C2_1〜C2_N 第2のチャンネル
S310、S320、S330、S340、S350、S410、S420、S430 ステップ
Claims (28)
- データインデックス機構を備える主プロセッサと、
前記主プロセッサに接続され、複数の処理装置及び複数のデータ保存領域を備える複数のメモリチップであって、前記処理装置及び前記データ保存領域は、それぞれ、前記メモリチップに一対一で配置され、前記データ保存領域は、データセットの複数の副データセットを共有するように構成される、メモリチップと、を備え、
前記主プロセッサは、前記メモリチップの前記処理装置の1つに対して、計算作業を割り当て、前記処理装置の1つは、対応する前記データ保存領域にアクセスして、前記副データセットの一部に従って計算作業を実行し、
前記処理装置の前記1つが前記計算作業に失敗した場合、前記処理装置の前記1つは、前記計算作業を前記主プロセッサへと戻し、前記主プロセッサは、いずれかの前記処理装置の1つが前記計算作業に成功するまで、前記計算作業を別の前記処理装置へと割り当て続ける、
メモリプロセッサを用いた多重処理システム。 - 前記主プロセッサは、前記データインデックス機構を備え、前記主プロセッサは、前記データインデックス機構に従って、前記メモリチップの前記処理装置の前記1つに対して前記計算作業を割り当てることを決定する、
請求項1の多重処理システム。 - 前記主プロセッサは、さらに、ジョブキューを備え、主プロセッサは、前記ジョブキュー及び前記データインデックス機構に従って、前記メモリチップの前記処理装置の少なくとも1つに対して、複数の計算作業を連続的に割り当てる、
請求項2の多重処理システム。 - 各前記処理装置は、タスクキューを備え、前記処理装置の前記1つが1つ以上の計算作業を連続的に受け取った場合、前記1つ以上の計算作業は、前記処理装置の前記1つの前記タスクキューに連続的に配列され、それにより、前記処理装置の前記1つは、前記タスクキューに従って、前記計算作業を連続的に実行する、
請求項3の多重処理システム。 - 前記処理装置の前記1つは、前記計算作業に対応する特定の副データセットが、対応する前記データ保存領域中の前記副データセットの一部に存在するかを検索し、前記計算作業に対応する前記特定の副データセットを継続して実行する、
請求項1乃至4のいずれかの多重処理システム。 - 前記処理装置の前記1つが前記計算作業に成功した場合、それに対応して、前記処理装置の前記1つは、計算結果を前記主プロセッサへと戻し、前記主プロセッサは、別の計算作業を継続して割り当てる、
請求項1乃至5のいずれかの多重処理システム。 - 前記主プロセッサは、第1のチャンネルを介して、前記メモリチップと時分割通信する、
請求項1乃至6のいずれかの多重処理システム。 - 前記処理装置は、それぞれ、複数の第2のチャンネルを介して、前記データ保存領域に一対一でアクセスし、前記第2のチャンネルの帯域幅は、前記第1のチャンネルの帯域幅よりも大きい、
請求項7の多重処理システム。 - 前記メモリチップの数は、前記データセットのデータ容量に応じて決定される、
請求項1乃至8のいずれかの多重処理システム。 - 前記主プロセッサは、無線通信、ピアトゥピア通信、又はスロットによって、別の複数のメモリチップに接続され、前記複数のメモリチップの1つ及び別の複数のメモリチップに対して、前記計算作業を選択的に割り当てる、
請求項1乃至9のいずれかの多重処理システム。 - 前記処理装置及び対応する前記データ保存領域は、それぞれ、同じメモリチップ又は異なるメモリチップに一対一で配置される、
請求項1乃至10のいずれかの多重処理システム。 - 前記主プロセッサは、前記処理装置に対して、同じ計算イベントの複数の計算作業を割り当て、前記処理装置は、割り当てに従って前記計算作業を実行する、
請求項1乃至11のいずれかの多重処理システム。 - 前記主プロセッサは、前記処理装置に対して、複数の計算イベントの複数の計算作業を同時に割り当て、前記処理装置は、前記計算イベントの前記計算作業を個別に実行する、
請求項1乃至12のいずれかの多重処理システム。 - 前記各処理装置は、それぞれ、論理動作装置を備える、請求項1乃至13のいずれかの多重処理システム。
- 主プロセッサによって、複数のメモリチップの複数の処理装置の1つに対して、計算作業を割り当て、
前記処理装置の1つによって、対応して、複数のデータ保存領域の1つにアクセスして、データセットの複数の副データセットの一部を捕捉し、
前記処理装置の1つによって、前記副データセットの一部に従って、計算作業を実行し、
前記処理装置の1つによって前記副データセットの一部に従って前記計算作業を実行することは、
前記処理装置の前記1つが前記計算作業に失敗した場合、前記処理装置の前記1つによって、前記計算作業を前記主プロセッサへと戻し、
前記主プロセッサは、いずれかの前記処理装置の1つが前記計算作業に成功するまで、前記計算作業を別の前記処理装置へと割り当て続ける、
メモリプロセッサを用いた多重処理アーキテクチャの動作方法。 - 前記主プロセッサによって前記メモリチップの前記処理装置の前記1つに対して前記計算作業を割り当てることは、
前記主プロセッサによって、データインデックス機構に従って、前記メモリチップの前記処理装置の前記1つに対して前記計算作業を割り当てることを決定することを含む、
請求項15の多重処理アーキテクチャの動作方法。 - 前記主プロセッサによって前記メモリチップの前記処理装置の前記1つに対して前記計算作業を割り当てることは、
ジョブキュー及び前記データインデックス機構に従って、前記メモリチップの前記処理装置の少なくとも1つに対して、複数の計算作業を連続的に割り当てることを含む、
請求項16の多重処理アーキテクチャの動作方法。 - さらに、前記処理装置の前記1つが1つ以上の計算作業を連続的に受け取った場合、前記1つ以上の計算作業は、前記処理装置のタスクキューに連続的に配列され、
それにより、前記処理装置の前記1つは、前記タスクキューに従って、前記計算作業を連続的に実行する、
請求項17の多重処理アーキテクチャの動作方法。 - 前記処理装置の1つによって前記副データセットの一部に従って前記計算作業を実行することは、
前記処理装置の前記1つによって、前記計算作業に対応する特定の副データセットが、
対応する前記データ保存領域中の前記副データセットの一部に存在するかを検索し、前記計算作業に対応する前記特定の副データセットを継続して実行することを含む、
請求項15乃至18のいずれかの多重処理アーキテクチャの動作方法。 - 前記処理装置の1つによって前記副データセットの一部に従って前記計算作業を実行することは、
前記処理装置の前記1つが前記計算作業に成功した場合、それに対応して、前記処理装置の前記1つによって、計算結果を前記主プロセッサへと戻し、前記主プロセッサは、別の計算作業を継続して割り当てることを含む、
請求項15乃至19のいずれかの多重処理アーキテクチャ動作方法。 - 前記主プロセッサは、第1のチャンネルを介して、前記メモリチップと時分割通信する、
請求項15乃至20のいずれかの多重処理アーキテクチャの動作方法。 - 前記処理装置は、それぞれ、複数の第2のチャンネルを介して、前記データ保存領域に一対一でアクセスし、前記第2のチャンネルの帯域幅は、前記第1のチャンネルの帯域幅よりも大きい、
請求項21の多重処理アーキテクチャの動作方法。 - 前記メモリチップの数は、前記データセットのデータ容量に応じて決定される、
請求項15乃至22のいずれかの多重処理アーキテクチャの動作方法。 - 前記主プロセッサは、無線通信、ピアトゥピア通信、又はスロットによって、別の複数のメモリチップに接続され、前記複数のメモリチップの1つ及び別の複数のメモリチップに対して、前記計算作業を選択的に割り当てる、
請求項15乃至23のいずれかの多重処理アーキテクチャの動作方法。 - 前記処理装置及び対応する前記データ保存領域は、それぞれ、同じメモリチップ又は異なるメモリチップに一対一で配置される、
請求項15乃至24のいずれかの多重処理アーキテクチャの動作方法。 - 前記主プロセッサは、前記処理装置に対して、同じ計算イベントの複数の計算作業を割り当て、前記処理装置は、割り当てに従って前記計算作業を実行する、
請求項15乃至25のいずれかの多重処理アーキテクチャの動作方法。 - 前記主プロセッサは、前記処理装置に対して、複数の計算イベントの複数の計算作業を同時に割り当て、前記処理装置は、前記計算イベントの前記計算作業を個別に実行する、
請求項15乃至26のいずれかの多重処理アーキテクチャの動作方法。 - 前記各処理装置は、それぞれ、論理動作装置を備える、請求項15乃至27のいずれかの多重処理アーキテクチャの動作方法。
Applications Claiming Priority (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201862744140P | 2018-10-11 | 2018-10-11 | |
US62/744,140 | 2018-10-11 | ||
TW108110441 | 2019-03-26 | ||
TW108110441A TWI690848B (zh) | 2018-10-11 | 2019-03-26 | 基於記憶體處理器的多處理架構及其操作方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020061133A JP2020061133A (ja) | 2020-04-16 |
JP6882398B2 true JP6882398B2 (ja) | 2021-06-02 |
Family
ID=70160745
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019167463A Active JP6882398B2 (ja) | 2018-10-11 | 2019-09-13 | メモリプロセッサを用いた多重処理システム及びその動作方法 |
Country Status (2)
Country | Link |
---|---|
US (1) | US11436046B2 (ja) |
JP (1) | JP6882398B2 (ja) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7069455B2 (ja) * | 2019-04-26 | 2022-05-18 | 株式会社アクセル | 情報処理装置 |
KR20220077484A (ko) * | 2020-12-02 | 2022-06-09 | 삼성전자주식회사 | 능동적 스케줄링 방법과 컴퓨팅 장치 |
CN116483013B (zh) * | 2023-06-19 | 2023-09-05 | 成都实时技术股份有限公司 | 一种基于多通道采集器的高速信号采集系统及方法 |
Family Cites Families (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006031480A (ja) | 2004-07-16 | 2006-02-02 | Sony Corp | 情報処理システム及び情報処理方法、並びにコンピュータプログラム |
JP5084310B2 (ja) * | 2007-03-16 | 2012-11-28 | 日本電気株式会社 | 複数プロセッサに分散されたデータを再配置可能なデータベースサーバ、再配置方法、およびプログラム |
US8418181B1 (en) * | 2009-06-02 | 2013-04-09 | Amazon Technologies, Inc. | Managing program execution based on data storage location |
US8769541B2 (en) * | 2009-12-31 | 2014-07-01 | Facebook, Inc. | Load balancing web service by rejecting connections |
KR20150017526A (ko) * | 2013-08-07 | 2015-02-17 | 삼성전자주식회사 | 메모리 명령 스케줄러 및 메모리 명령 스케줄링 방법 |
US9396795B1 (en) | 2014-12-30 | 2016-07-19 | The Regents Of The University Of Michigan | Storage device supporting logical operations, methods and storage medium |
US9983996B2 (en) * | 2015-12-10 | 2018-05-29 | Intel Corporation | Technologies for managing cache memory in a distributed shared memory compute system |
US20180115496A1 (en) | 2016-10-21 | 2018-04-26 | Advanced Micro Devices, Inc. | Mechanisms to improve data locality for distributed gpus |
US10073733B1 (en) | 2017-09-01 | 2018-09-11 | Purdue Research Foundation | System and method for in-memory computing |
US20190163493A1 (en) * | 2017-11-30 | 2019-05-30 | Western Digital Technologies, Inc. | Methods, systems and devices for recovering from corruptions in data processing units |
US10880071B2 (en) * | 2018-02-23 | 2020-12-29 | Samsung Electronics Co., Ltd. | Programmable blockchain solid state drive and switch |
CN108549696B (zh) | 2018-04-16 | 2022-02-01 | 安徽工业大学 | 一种基于内存计算的时间序列数据相似性查询方法 |
-
2019
- 2019-07-05 US US16/503,652 patent/US11436046B2/en active Active
- 2019-09-13 JP JP2019167463A patent/JP6882398B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
US11436046B2 (en) | 2022-09-06 |
US20200117505A1 (en) | 2020-04-16 |
JP2020061133A (ja) | 2020-04-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6882398B2 (ja) | メモリプロセッサを用いた多重処理システム及びその動作方法 | |
US8082400B1 (en) | Partitioning a memory pool among plural computing nodes | |
JP2020529684A (ja) | 低レイテンシ動作をサポートするssdアーキテクチャ | |
US20160092109A1 (en) | Performance of de-clustered disk array | |
US11042412B2 (en) | Memory allocation method and server | |
CN103218208A (zh) | 用于实施成形的存储器访问操作的系统和方法 | |
KR102635453B1 (ko) | Gpu를 위한 피드백 기반 분할 작업 그룹 디스패치 | |
US20210191765A1 (en) | Method for static scheduling of artificial neural networks for a processor | |
CN103197916A (zh) | 用于源操作数收集器高速缓存的方法和装置 | |
JP3910573B2 (ja) | 連続したメモリ・アドレスを提供する方法、システムおよびコンピュータ・ソフトウェア | |
CN103365631A (zh) | 用于存储器访问的动态库模式寻址 | |
CN102346682A (zh) | 信息处理装置及信息处理方法 | |
US9600187B2 (en) | Virtual grouping of memory | |
KR20140013010A (ko) | 메모리 셀들을 액세스하는 방법들, 메모리 요청들을 분배하는 방법, 시스템들, 및 메모리 제어기들 | |
CN111158868A (zh) | 计算系统及用于操作计算系统的方法 | |
CN111045979B (zh) | 基于存储器处理器的多处理架构及其操作方法 | |
US20100153678A1 (en) | Memory management apparatus and method | |
CN116401043A (zh) | 一种计算任务的执行方法和相关设备 | |
US8881163B2 (en) | Kernel processor grouping | |
US20220276966A1 (en) | Data processors | |
Morari et al. | Efficient sorting on the tilera manycore architecture | |
Daoud et al. | Processor allocation algorithm based on frame combing with memorization for 2d mesh cmps | |
US10488911B2 (en) | Method and computing system of allocating registers | |
CN116483536B (zh) | 数据调度方法、计算芯片及电子设备 | |
Parsons | Initial benchmarking of the Intel 3D-stacked MCDRAM |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190913 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20201005 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20201110 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210127 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20210413 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20210506 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6882398 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |