CN106022468A - 人工神经网络处理器集成电路及该集成电路的设计方法 - Google Patents
人工神经网络处理器集成电路及该集成电路的设计方法 Download PDFInfo
- Publication number
- CN106022468A CN106022468A CN201610327324.5A CN201610327324A CN106022468A CN 106022468 A CN106022468 A CN 106022468A CN 201610327324 A CN201610327324 A CN 201610327324A CN 106022468 A CN106022468 A CN 106022468A
- Authority
- CN
- China
- Prior art keywords
- computing
- operation result
- neuron
- buffer
- data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/06—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
- G06N3/061—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using biological neurons, e.g. biological neurons connected to an integrated circuit
Abstract
Description
Claims (12)
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201610327324.5A CN106022468B (zh) | 2016-05-17 | 2016-05-17 | 人工神经网络处理器集成电路及该集成电路的设计方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201610327324.5A CN106022468B (zh) | 2016-05-17 | 2016-05-17 | 人工神经网络处理器集成电路及该集成电路的设计方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN106022468A true CN106022468A (zh) | 2016-10-12 |
CN106022468B CN106022468B (zh) | 2018-06-01 |
Family
ID=57097522
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201610327324.5A Active CN106022468B (zh) | 2016-05-17 | 2016-05-17 | 人工神经网络处理器集成电路及该集成电路的设计方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN106022468B (zh) |
Cited By (35)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107016175A (zh) * | 2017-03-23 | 2017-08-04 | 中国科学院计算技术研究所 | 适用神经网络处理器的自动化设计方法、装置及优化方法 |
CN107103113A (zh) * | 2017-03-23 | 2017-08-29 | 中国科学院计算技术研究所 | 面向神经网络处理器的自动化设计方法、装置及优化方法 |
CN107563502A (zh) * | 2017-09-09 | 2018-01-09 | 胡明建 | 一种可编码多态输出人工神经元的设计方法 |
CN107609640A (zh) * | 2017-10-01 | 2018-01-19 | 胡明建 | 一种阀值择端分级电位式人工神经元的设计方法 |
CN108133268A (zh) * | 2016-12-01 | 2018-06-08 | 上海兆芯集成电路有限公司 | 具有可作为牺牲高速缓存或神经网络单元存储器操作的存储器阵列的处理器 |
WO2018103472A1 (zh) * | 2016-12-09 | 2018-06-14 | 杭州海康威视数字技术股份有限公司 | 一种应用于深度学习网络的缓存优化方法及装置 |
WO2018112699A1 (zh) * | 2016-12-19 | 2018-06-28 | 上海寒武纪信息科技有限公司 | 人工神经网络反向训练装置和方法 |
WO2018133567A1 (zh) * | 2017-01-20 | 2018-07-26 | 清华大学 | 神经元权重信息处理方法和系统、神经元信息处理方法和系统及计算机设备 |
CN108334944A (zh) * | 2016-12-23 | 2018-07-27 | 北京中科寒武纪科技有限公司 | 一种人工神经网络运算的装置及方法 |
CN108345936A (zh) * | 2018-01-31 | 2018-07-31 | 清华大学 | 一种基于内部状态标志的神经形态芯片、系统及方法 |
CN108573304A (zh) * | 2017-03-09 | 2018-09-25 | 谷歌有限责任公司 | 硬件中转置神经网络矩阵 |
CN109086075A (zh) * | 2017-10-30 | 2018-12-25 | 上海寒武纪信息科技有限公司 | 人工智能处理器及使用处理器执行矩阵乘向量指令的方法 |
CN109359732A (zh) * | 2018-09-30 | 2019-02-19 | 阿里巴巴集团控股有限公司 | 一种芯片及基于其的数据处理方法 |
CN109409510A (zh) * | 2018-09-14 | 2019-03-01 | 中国科学院深圳先进技术研究院 | 神经元电路、芯片、系统及其方法、存储介质 |
CN109816105A (zh) * | 2019-01-16 | 2019-05-28 | 北京时代民芯科技有限公司 | 一种可配置的神经网络激活函数实现装置 |
CN109976887A (zh) * | 2017-12-28 | 2019-07-05 | 北京中科寒武纪科技有限公司 | 调度方法及相关装置 |
CN110036367A (zh) * | 2018-08-15 | 2019-07-19 | 深圳鲲云信息科技有限公司 | 一种ai运算结果的验证方法及相关产品 |
US10387298B2 (en) | 2017-04-04 | 2019-08-20 | Hailo Technologies Ltd | Artificial neural network incorporating emphasis and focus techniques |
CN110147873A (zh) * | 2018-05-18 | 2019-08-20 | 北京中科寒武纪科技有限公司 | 卷积神经网络的处理器及训练方法 |
CN110178146A (zh) * | 2018-01-15 | 2019-08-27 | 深圳鲲云信息科技有限公司 | 反卷积器及其所应用的人工智能处理装置 |
CN110909872A (zh) * | 2017-12-14 | 2020-03-24 | 中科寒武纪科技股份有限公司 | 集成电路芯片装置及相关产品 |
WO2020062299A1 (zh) * | 2018-09-30 | 2020-04-02 | 华为技术有限公司 | 一种神经网络处理器、数据处理方法及相关设备 |
CN111260025A (zh) * | 2016-12-30 | 2020-06-09 | 上海寒武纪信息科技有限公司 | 用于执行lstm神经网络运算的装置和运算方法 |
CN113570034A (zh) * | 2021-06-18 | 2021-10-29 | 北京百度网讯科技有限公司 | 处理装置、神经网络的处理方法及其装置 |
US11221929B1 (en) | 2020-09-29 | 2022-01-11 | Hailo Technologies Ltd. | Data stream fault detection mechanism in an artificial neural network processor |
US11237894B1 (en) | 2020-09-29 | 2022-02-01 | Hailo Technologies Ltd. | Layer control unit instruction addressing safety mechanism in an artificial neural network processor |
US11238334B2 (en) | 2017-04-04 | 2022-02-01 | Hailo Technologies Ltd. | System and method of input alignment for efficient vector operations in an artificial neural network |
US11263077B1 (en) | 2020-09-29 | 2022-03-01 | Hailo Technologies Ltd. | Neural network intermediate results safety mechanism in an artificial neural network processor |
CN114970406A (zh) * | 2022-05-30 | 2022-08-30 | 中昊芯英(杭州)科技有限公司 | 数字集成电路的定制方法、装置、介质和计算设备 |
CN114997392A (zh) * | 2022-08-03 | 2022-09-02 | 成都图影视讯科技有限公司 | 用于神经网络计算的架构以及架构方法 |
CN115358381A (zh) * | 2022-09-01 | 2022-11-18 | 清华大学 | 光学全加器及其神经网络设计方法、设备及介质 |
US11544545B2 (en) | 2017-04-04 | 2023-01-03 | Hailo Technologies Ltd. | Structured activation based sparsity in an artificial neural network |
US11551028B2 (en) | 2017-04-04 | 2023-01-10 | Hailo Technologies Ltd. | Structured weight based sparsity in an artificial neural network |
US11615297B2 (en) | 2017-04-04 | 2023-03-28 | Hailo Technologies Ltd. | Structured weight based sparsity in an artificial neural network compiler |
US11811421B2 (en) | 2020-09-29 | 2023-11-07 | Hailo Technologies Ltd. | Weights safety mechanism in an artificial neural network processor |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6523018B1 (en) * | 1998-12-29 | 2003-02-18 | International Business Machines Corporation | Neural chip architecture and neural networks incorporated therein |
RU2420803C1 (ru) * | 2009-12-23 | 2011-06-10 | Федеральное государственное учреждение "Межотраслевой научно-технический комплекс "Микрохирургия глаза" имени академика С.Н. Федорова Федерального агентства по высокотехнологичной медицинской помощи" | Локальная компьютерная офтальмомикрохирургическая сеть витреоретинальных операций |
CN105095967B (zh) * | 2015-07-16 | 2018-02-16 | 清华大学 | 一种多模态神经形态网络核 |
CN205139973U (zh) * | 2015-10-26 | 2016-04-06 | 中国人民解放军军械工程学院 | 基于fpga器件构建的bp神经网络 |
-
2016
- 2016-05-17 CN CN201610327324.5A patent/CN106022468B/zh active Active
Cited By (69)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108133268B (zh) * | 2016-12-01 | 2020-07-03 | 上海兆芯集成电路有限公司 | 具有存储器阵列的处理器 |
CN108133268A (zh) * | 2016-12-01 | 2018-06-08 | 上海兆芯集成电路有限公司 | 具有可作为牺牲高速缓存或神经网络单元存储器操作的存储器阵列的处理器 |
CN108615077A (zh) * | 2016-12-09 | 2018-10-02 | 杭州海康威视数字技术股份有限公司 | 一种应用于深度学习网络的缓存优化方法及装置 |
WO2018103472A1 (zh) * | 2016-12-09 | 2018-06-14 | 杭州海康威视数字技术股份有限公司 | 一种应用于深度学习网络的缓存优化方法及装置 |
CN108615077B (zh) * | 2016-12-09 | 2021-08-24 | 杭州海康威视数字技术股份有限公司 | 一种应用于深度学习网络的缓存优化方法及装置 |
WO2018112699A1 (zh) * | 2016-12-19 | 2018-06-28 | 上海寒武纪信息科技有限公司 | 人工神经网络反向训练装置和方法 |
CN108334944A (zh) * | 2016-12-23 | 2018-07-27 | 北京中科寒武纪科技有限公司 | 一种人工神经网络运算的装置及方法 |
CN108334944B (zh) * | 2016-12-23 | 2020-04-17 | 中科寒武纪科技股份有限公司 | 一种人工神经网络运算的装置及方法 |
CN111260025A (zh) * | 2016-12-30 | 2020-06-09 | 上海寒武纪信息科技有限公司 | 用于执行lstm神经网络运算的装置和运算方法 |
CN111260025B (zh) * | 2016-12-30 | 2023-11-14 | 上海寒武纪信息科技有限公司 | 用于执行lstm神经网络运算的装置和运算方法 |
WO2018133567A1 (zh) * | 2017-01-20 | 2018-07-26 | 清华大学 | 神经元权重信息处理方法和系统、神经元信息处理方法和系统及计算机设备 |
US11704547B2 (en) | 2017-03-09 | 2023-07-18 | Google Llc | Transposing neural network matrices in hardware |
CN108573304A (zh) * | 2017-03-09 | 2018-09-25 | 谷歌有限责任公司 | 硬件中转置神经网络矩阵 |
TWI765168B (zh) * | 2017-03-09 | 2022-05-21 | 美商谷歌有限責任公司 | 用於硬體中之轉置神經網路矩陣之方法、系統及電腦儲存媒體 |
CN108573304B (zh) * | 2017-03-09 | 2022-07-26 | 谷歌有限责任公司 | 硬件中转置神经网络矩阵 |
WO2018171715A1 (zh) * | 2017-03-23 | 2018-09-27 | 中国科学院计算技术研究所 | 适用神经网络处理器的自动化设计方法及系统 |
WO2018171717A1 (zh) * | 2017-03-23 | 2018-09-27 | 中国科学院计算技术研究所 | 面向神经网络处理器的自动化设计方法和系统 |
CN107016175B (zh) * | 2017-03-23 | 2018-08-31 | 中国科学院计算技术研究所 | 适用神经网络处理器的自动化设计方法、装置及优化方法 |
CN107103113B (zh) * | 2017-03-23 | 2019-01-11 | 中国科学院计算技术研究所 | 面向神经网络处理器的自动化设计方法、装置及优化方法 |
CN107016175A (zh) * | 2017-03-23 | 2017-08-04 | 中国科学院计算技术研究所 | 适用神经网络处理器的自动化设计方法、装置及优化方法 |
CN107103113A (zh) * | 2017-03-23 | 2017-08-29 | 中国科学院计算技术研究所 | 面向神经网络处理器的自动化设计方法、装置及优化方法 |
US11216717B2 (en) | 2017-04-04 | 2022-01-04 | Hailo Technologies Ltd. | Neural network processor incorporating multi-level hierarchical aggregated computing and memory elements |
US11263512B2 (en) | 2017-04-04 | 2022-03-01 | Hailo Technologies Ltd. | Neural network processor incorporating separate control and data fabric |
US11461615B2 (en) | 2017-04-04 | 2022-10-04 | Hailo Technologies Ltd. | System and method of memory access of multi-dimensional data |
US11461614B2 (en) | 2017-04-04 | 2022-10-04 | Hailo Technologies Ltd. | Data driven quantization optimization of weights and input data in an artificial neural network |
US11514291B2 (en) | 2017-04-04 | 2022-11-29 | Hailo Technologies Ltd. | Neural network processing element incorporating compute and local memory elements |
US11354563B2 (en) | 2017-04-04 | 2022-06-07 | Hallo Technologies Ltd. | Configurable and programmable sliding window based memory access in a neural network processor |
US11615297B2 (en) | 2017-04-04 | 2023-03-28 | Hailo Technologies Ltd. | Structured weight based sparsity in an artificial neural network compiler |
US11675693B2 (en) | 2017-04-04 | 2023-06-13 | Hailo Technologies Ltd. | Neural network processor incorporating inter-device connectivity |
US10387298B2 (en) | 2017-04-04 | 2019-08-20 | Hailo Technologies Ltd | Artificial neural network incorporating emphasis and focus techniques |
US11544545B2 (en) | 2017-04-04 | 2023-01-03 | Hailo Technologies Ltd. | Structured activation based sparsity in an artificial neural network |
US11238334B2 (en) | 2017-04-04 | 2022-02-01 | Hailo Technologies Ltd. | System and method of input alignment for efficient vector operations in an artificial neural network |
US11238331B2 (en) | 2017-04-04 | 2022-02-01 | Hailo Technologies Ltd. | System and method for augmenting an existing artificial neural network |
US11551028B2 (en) | 2017-04-04 | 2023-01-10 | Hailo Technologies Ltd. | Structured weight based sparsity in an artificial neural network |
CN107563502A (zh) * | 2017-09-09 | 2018-01-09 | 胡明建 | 一种可编码多态输出人工神经元的设计方法 |
CN107609640A (zh) * | 2017-10-01 | 2018-01-19 | 胡明建 | 一种阀值择端分级电位式人工神经元的设计方法 |
US11762631B2 (en) | 2017-10-30 | 2023-09-19 | Shanghai Cambricon Information Technology Co., Ltd. | Information processing method and terminal device |
US11922132B2 (en) | 2017-10-30 | 2024-03-05 | Shanghai Cambricon Information Technology Co., Ltd. | Information processing method and terminal device |
CN109086075A (zh) * | 2017-10-30 | 2018-12-25 | 上海寒武纪信息科技有限公司 | 人工智能处理器及使用处理器执行矩阵乘向量指令的方法 |
CN109086075B (zh) * | 2017-10-30 | 2021-06-08 | 上海寒武纪信息科技有限公司 | 人工智能处理器及使用处理器执行矩阵乘向量指令的方法 |
CN110909872A (zh) * | 2017-12-14 | 2020-03-24 | 中科寒武纪科技股份有限公司 | 集成电路芯片装置及相关产品 |
CN110909872B (zh) * | 2017-12-14 | 2023-08-25 | 中科寒武纪科技股份有限公司 | 集成电路芯片装置及相关产品 |
CN109976887A (zh) * | 2017-12-28 | 2019-07-05 | 北京中科寒武纪科技有限公司 | 调度方法及相关装置 |
CN109976887B (zh) * | 2017-12-28 | 2020-03-24 | 中科寒武纪科技股份有限公司 | 调度方法及相关装置 |
CN110178146B (zh) * | 2018-01-15 | 2023-05-12 | 深圳鲲云信息科技有限公司 | 反卷积器及其所应用的人工智能处理装置 |
CN110178146A (zh) * | 2018-01-15 | 2019-08-27 | 深圳鲲云信息科技有限公司 | 反卷积器及其所应用的人工智能处理装置 |
CN108345936B (zh) * | 2018-01-31 | 2020-12-04 | 清华大学 | 一种基于内部状态标志的神经形态芯片、系统及方法 |
CN108345936A (zh) * | 2018-01-31 | 2018-07-31 | 清华大学 | 一种基于内部状态标志的神经形态芯片、系统及方法 |
CN110147873B (zh) * | 2018-05-18 | 2020-02-18 | 中科寒武纪科技股份有限公司 | 卷积神经网络的处理器及训练方法 |
CN110147873A (zh) * | 2018-05-18 | 2019-08-20 | 北京中科寒武纪科技有限公司 | 卷积神经网络的处理器及训练方法 |
CN110036367A (zh) * | 2018-08-15 | 2019-07-19 | 深圳鲲云信息科技有限公司 | 一种ai运算结果的验证方法及相关产品 |
WO2020034116A1 (zh) * | 2018-08-15 | 2020-02-20 | 深圳鲲云信息科技有限公司 | 一种ai运算结果的验证方法及相关产品 |
CN109409510A (zh) * | 2018-09-14 | 2019-03-01 | 中国科学院深圳先进技术研究院 | 神经元电路、芯片、系统及其方法、存储介质 |
WO2020062299A1 (zh) * | 2018-09-30 | 2020-04-02 | 华为技术有限公司 | 一种神经网络处理器、数据处理方法及相关设备 |
US11361217B2 (en) | 2018-09-30 | 2022-06-14 | Advanced New Technologies Co., Ltd. | Chip and chip-based data processing method |
CN109359732A (zh) * | 2018-09-30 | 2019-02-19 | 阿里巴巴集团控股有限公司 | 一种芯片及基于其的数据处理方法 |
CN109359732B (zh) * | 2018-09-30 | 2020-06-09 | 阿里巴巴集团控股有限公司 | 一种芯片及基于其的数据处理方法 |
US11062201B2 (en) | 2018-09-30 | 2021-07-13 | Advanced New Technologies Co., Ltd. | Chip and chip-based data processing method |
CN109816105A (zh) * | 2019-01-16 | 2019-05-28 | 北京时代民芯科技有限公司 | 一种可配置的神经网络激活函数实现装置 |
CN109816105B (zh) * | 2019-01-16 | 2021-02-23 | 北京时代民芯科技有限公司 | 一种可配置的神经网络激活函数实现装置 |
US11237894B1 (en) | 2020-09-29 | 2022-02-01 | Hailo Technologies Ltd. | Layer control unit instruction addressing safety mechanism in an artificial neural network processor |
US11221929B1 (en) | 2020-09-29 | 2022-01-11 | Hailo Technologies Ltd. | Data stream fault detection mechanism in an artificial neural network processor |
US11263077B1 (en) | 2020-09-29 | 2022-03-01 | Hailo Technologies Ltd. | Neural network intermediate results safety mechanism in an artificial neural network processor |
US11811421B2 (en) | 2020-09-29 | 2023-11-07 | Hailo Technologies Ltd. | Weights safety mechanism in an artificial neural network processor |
CN113570034A (zh) * | 2021-06-18 | 2021-10-29 | 北京百度网讯科技有限公司 | 处理装置、神经网络的处理方法及其装置 |
CN114970406A (zh) * | 2022-05-30 | 2022-08-30 | 中昊芯英(杭州)科技有限公司 | 数字集成电路的定制方法、装置、介质和计算设备 |
CN114997392A (zh) * | 2022-08-03 | 2022-09-02 | 成都图影视讯科技有限公司 | 用于神经网络计算的架构以及架构方法 |
CN114997392B (zh) * | 2022-08-03 | 2022-10-21 | 成都图影视讯科技有限公司 | 用于神经网络计算的架构以及架构方法 |
CN115358381A (zh) * | 2022-09-01 | 2022-11-18 | 清华大学 | 光学全加器及其神经网络设计方法、设备及介质 |
Also Published As
Publication number | Publication date |
---|---|
CN106022468B (zh) | 2018-06-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN106022468B (zh) | 人工神经网络处理器集成电路及该集成电路的设计方法 | |
CN108108809B (zh) | 一种针对卷积神经元网络进行推理加速的硬件架构及其工作方法 | |
CN107832804A (zh) | 一种信息处理方法及相关产品 | |
CN205139973U (zh) | 基于fpga器件构建的bp神经网络 | |
US20180157969A1 (en) | Apparatus and Method for Achieving Accelerator of Sparse Convolutional Neural Network | |
Zainab et al. | Fpga based implementations of rnn and cnn: A brief analysis | |
CN108647773B (zh) | 一种可重构卷积神经网络的硬件互连系统 | |
CN106951395A (zh) | 面向压缩卷积神经网络的并行卷积运算方法及装置 | |
CN108416436A (zh) | 使用多核心处理模块进行神经网络划分的方法及其系统 | |
CN106485317A (zh) | 一种神经网络加速器以及神经网络模型的实现方法 | |
CN110163357A (zh) | 一种计算装置及方法 | |
CN110321064A (zh) | 用于神经网络的计算平台实现方法及系统 | |
CN106156851A (zh) | 面向深度学习业务的加速装置及方法 | |
CN109934336A (zh) | 基于最优结构搜索的神经网络动态加速平台设计方法及神经网络动态加速平台 | |
CN107203808A (zh) | 一种二值卷积装置及相应的二值卷积神经网络处理器 | |
Hoffmann et al. | A survey on CNN and RNN implementations | |
CN108717571A (zh) | 一种用于人工智能的加速方法和装置 | |
CN109657794A (zh) | 一种基于指令队列的分布式深度神经网络性能建模方法 | |
CN109670581A (zh) | 一种计算装置及板卡 | |
CN109359542A (zh) | 基于神经网络的车辆损伤级别的确定方法及终端设备 | |
Adel et al. | Accelerating deep neural networks using FPGA | |
Johnson et al. | WeightMom: Learning Sparse Networks using Iterative Momentum-based pruning | |
CN109978143B (zh) | 一种基于simd架构的堆栈式自编码器及编码方法 | |
CN114519425A (zh) | 一种规模可扩展的卷积神经网络加速系统 | |
Mukhopodhyay et al. | The camel approach to stacked sensor smart cameras |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
PE01 | Entry into force of the registration of the contract for pledge of patent right | ||
PE01 | Entry into force of the registration of the contract for pledge of patent right |
Denomination of invention: Artificial neural network processor integrated circuit and design method therefor Effective date of registration: 20190611 Granted publication date: 20180601 Pledgee: Chengdu SME financing Company Limited by Guarantee Pledgor: Chengdu leader Technology Co., Ltd. Registration number: 2019510000065 |
|
PC01 | Cancellation of the registration of the contract for pledge of patent right | ||
PC01 | Cancellation of the registration of the contract for pledge of patent right |
Date of cancellation: 20200723 Granted publication date: 20180601 Pledgee: Chengdu SME financing Company Limited by Guarantee Pledgor: CHIPINTELLI TECHNOLOGY Co.,Ltd. Registration number: 2019510000065 |