FR3050846B1 - Dispositif et procede de distribution de donnees de convolution d'un reseau de neurones convolutionnel - Google Patents

Dispositif et procede de distribution de donnees de convolution d'un reseau de neurones convolutionnel Download PDF

Info

Publication number
FR3050846B1
FR3050846B1 FR1653744A FR1653744A FR3050846B1 FR 3050846 B1 FR3050846 B1 FR 3050846B1 FR 1653744 A FR1653744 A FR 1653744A FR 1653744 A FR1653744 A FR 1653744A FR 3050846 B1 FR3050846 B1 FR 3050846B1
Authority
FR
France
Prior art keywords
convolution
distributing
permutation
input
neuron network
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
FR1653744A
Other languages
English (en)
Other versions
FR3050846A1 (fr
Inventor
Olivier Bichler
Antoine Dupret
Vincent LORRAIN
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Commissariat a lEnergie Atomique et aux Energies Alternatives CEA
Original Assignee
Commissariat a lEnergie Atomique CEA
Commissariat a lEnergie Atomique et aux Energies Alternatives CEA
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Commissariat a lEnergie Atomique CEA, Commissariat a lEnergie Atomique et aux Energies Alternatives CEA filed Critical Commissariat a lEnergie Atomique CEA
Priority to FR1653744A priority Critical patent/FR3050846B1/fr
Priority to PCT/EP2017/060017 priority patent/WO2017186830A1/fr
Priority to US16/095,923 priority patent/US11423296B2/en
Priority to EP17720462.5A priority patent/EP3449424A1/fr
Publication of FR3050846A1 publication Critical patent/FR3050846A1/fr
Application granted granted Critical
Publication of FR3050846B1 publication Critical patent/FR3050846B1/fr
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/049—Temporal neural networks, e.g. delay elements, oscillating neurons or pulsed inputs
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/06—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
    • G06N3/063—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using electronic means

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • General Health & Medical Sciences (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Computational Linguistics (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Artificial Intelligence (AREA)
  • Neurology (AREA)
  • Complex Calculations (AREA)

Abstract

L'invention propose un dispositif pour distribuer des coefficients de convolution d'au moins un noyau de convolution d'un réseau de neurones convolutionnel portés par un bus d'entrée (201) vers un ensemble d'unités de traitement dans un calculateur basé sur une architecture de réseau de neurones convolutionnel. Le dispositif comprend au moins un réseau de permutation (30) pilotée par au moins une unité de contrôle (32), le réseau de permutation comprenant un ensemble de permutateurs (30) agencés pour effectuer des décalages circulaires d'au moins une partie du bus d'entrée. Pour chaque noyau de convolution, chaque unité de contrôle est configurée pour piloter dynamiquement certains au moins des permutateurs des réseaux de permutation (30) en réponse à un événement d'entrée appliqué sur le noyau de convolution et d'au moins un paramètre représentant la taille maximale des noyaux de convolution.
FR1653744A 2016-04-27 2016-04-27 Dispositif et procede de distribution de donnees de convolution d'un reseau de neurones convolutionnel Active FR3050846B1 (fr)

Priority Applications (4)

Application Number Priority Date Filing Date Title
FR1653744A FR3050846B1 (fr) 2016-04-27 2016-04-27 Dispositif et procede de distribution de donnees de convolution d'un reseau de neurones convolutionnel
PCT/EP2017/060017 WO2017186830A1 (fr) 2016-04-27 2017-04-27 Dispositif et procede de distribution de donnees de convolution d'un reseau de neurones convolutionnel
US16/095,923 US11423296B2 (en) 2016-04-27 2017-04-27 Device and method for distributing convolutional data of a convolutional neural network
EP17720462.5A EP3449424A1 (fr) 2016-04-27 2017-04-27 Dispositif et procede de distribution de donnees de convolution d'un reseau de neurones convolutionnel

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
FR1653744A FR3050846B1 (fr) 2016-04-27 2016-04-27 Dispositif et procede de distribution de donnees de convolution d'un reseau de neurones convolutionnel
FR1653744 2016-04-27

Publications (2)

Publication Number Publication Date
FR3050846A1 FR3050846A1 (fr) 2017-11-03
FR3050846B1 true FR3050846B1 (fr) 2019-05-03

Family

ID=57113426

Family Applications (1)

Application Number Title Priority Date Filing Date
FR1653744A Active FR3050846B1 (fr) 2016-04-27 2016-04-27 Dispositif et procede de distribution de donnees de convolution d'un reseau de neurones convolutionnel

Country Status (4)

Country Link
US (1) US11423296B2 (fr)
EP (1) EP3449424A1 (fr)
FR (1) FR3050846B1 (fr)
WO (1) WO2017186830A1 (fr)

Families Citing this family (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10360470B2 (en) * 2016-10-10 2019-07-23 Gyrfalcon Technology Inc. Implementation of MobileNet in a CNN based digital integrated circuit
US10366328B2 (en) * 2017-09-19 2019-07-30 Gyrfalcon Technology Inc. Approximating fully-connected layers with multiple arrays of 3x3 convolutional filter kernels in a CNN based integrated circuit
US11164071B2 (en) * 2017-04-18 2021-11-02 Samsung Electronics Co., Ltd. Method and apparatus for reducing computational complexity of convolutional neural networks
JP2019200675A (ja) * 2018-05-17 2019-11-21 東芝メモリ株式会社 演算デバイス及びデータの処理方法
US20190392287A1 (en) 2018-06-22 2019-12-26 Samsung Electronics Co., Ltd. Neural processor
FR3085517B1 (fr) 2018-08-31 2020-11-13 Commissariat Energie Atomique Architecture de calculateur d'une couche de convolution dans un reseau de neurones convolutionnel
AU2019350918B2 (en) * 2018-09-30 2021-10-07 Boe Technology Group Co., Ltd. Apparatus and method for image processing, and system for training neural network
CN109493300B (zh) * 2018-11-15 2022-05-20 湖南鲲鹏智汇无人机技术有限公司 基于fpga卷积神经网络的航拍图像实时去雾方法及无人机
US11526753B2 (en) * 2019-02-12 2022-12-13 Irida Labs S.A. System and a method to achieve time-aware approximated inference
US11211944B2 (en) 2019-04-17 2021-12-28 Samsung Electronics Co., Ltd. Mixed-precision compression with random access
US11671111B2 (en) 2019-04-17 2023-06-06 Samsung Electronics Co., Ltd. Hardware channel-parallel data compression/decompression
US11880760B2 (en) 2019-05-01 2024-01-23 Samsung Electronics Co., Ltd. Mixed-precision NPU tile with depth-wise convolution
CN112215329B (zh) * 2019-07-09 2023-09-29 杭州海康威视数字技术股份有限公司 基于神经网络的卷积计算方法及装置
CN112308107A (zh) 2019-07-25 2021-02-02 智力芯片有限责任公司 可重构和时间编码卷积尖峰神经网络中基于事件的特征分类
CN110728303B (zh) * 2019-09-12 2022-03-11 东南大学 基于卷积神经网络数据复杂度的动态自适应计算阵列
US11625453B1 (en) 2019-12-12 2023-04-11 Amazon Technologies, Inc. Using shared data bus to support systolic array tiling
KR20210105053A (ko) * 2020-02-18 2021-08-26 에스케이하이닉스 주식회사 연산 회로 및 그것을 포함하는 딥 러닝 시스템
CN111783997B (zh) * 2020-06-29 2024-04-23 杭州海康威视数字技术股份有限公司 一种数据处理方法、装置及设备
CN112101284A (zh) * 2020-09-25 2020-12-18 北京百度网讯科技有限公司 图像识别方法、图像识别模型的训练方法、装置及系统
CN113570031B (zh) * 2021-06-08 2024-02-02 中国科学院深圳先进技术研究院 卷积运算的处理方法、电子设备及计算机可读存储介质
US11966358B1 (en) * 2022-12-14 2024-04-23 Rebellions Inc. Neural processor

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7237055B1 (en) * 2003-10-22 2007-06-26 Stretch, Inc. System, apparatus and method for data path routing configurable to perform dynamic bit permutations
US9342780B2 (en) * 2010-07-30 2016-05-17 Hewlett Packard Enterprise Development Lp Systems and methods for modeling binary synapses
FR3015068B1 (fr) * 2013-12-18 2016-01-01 Commissariat Energie Atomique Module de traitement du signal, notamment pour reseau de neurones et circuit neuronal
FR3025344B1 (fr) * 2014-08-28 2017-11-24 Commissariat Energie Atomique Reseau de neurones convolutionnels

Also Published As

Publication number Publication date
WO2017186830A1 (fr) 2017-11-02
FR3050846A1 (fr) 2017-11-03
US11423296B2 (en) 2022-08-23
US20190156201A1 (en) 2019-05-23
EP3449424A1 (fr) 2019-03-06

Similar Documents

Publication Publication Date Title
FR3050846B1 (fr) Dispositif et procede de distribution de donnees de convolution d'un reseau de neurones convolutionnel
JP2020525688A5 (fr)
US20210182254A1 (en) Distributable model with biases contained within distributed data
Narita Match or mismatch? Learning and inertia in school choice
JP2019096006A5 (fr)
FR3050855B1 (fr) Dispositif et procede de calcul de convolution d'un reseau de neurones convolutionnel
US8848019B1 (en) System and method for enabling virtual live video
EP3525139A1 (fr) Réseaux neuronaux à mise à l'échelle automatique en fonction d'une charge
CN108369504A (zh) 被分发到变化拓扑的由模型驱动的更新
JP2019531540A5 (fr)
US20200005171A1 (en) System, method and computer product for classifying user expertise
CN108170538A (zh) 一种信息处理方法、装置以及电子设备
FR3069682B1 (fr) Calculateur pour reseau de neurones impulsionnel avec agregation maximale
FR3055715B1 (fr) Methodes et dispositifs pour contourner le cache interne d'un controleur memoire dram evolue
EP3229160A3 (fr) Procédé de configuration d'un instrument médical, système de configuration d'un instrument médical, produit-programme informatique et support lisible par ordinateur
WO2019100056A1 (fr) Systèmes et procédés d'évaluation et d'attribution de scores assistées par ordinateur
CN108108893A (zh) 会议系统的座位管理方法
US9940188B2 (en) Resolving conflicts between multiple software and hardware processes
WO2019118271A9 (fr) Réductions multivaleurs parallèles
US20180318622A1 (en) Cognitive solution to enhance firefighting capabilities
EP1675047A8 (fr) Méthode à la creation et à l'examen de la politique de garantie de données d'un modèle de processus, et dispositif de calcul et élément de logiciel pour ceci
EP3832416A3 (fr) Modèles de données permettant de définir le flux de travail de transmission de données et faciliter la communication de données
WO2023039114A1 (fr) Technologies basées sur l'intelligence artificielle permettant d'améliorer l'admission de patient
Lengler et al. Note on the coefficient of variations of neuronal spike trains
MA49416B1 (fr) Systèmes et procédés de commande de lignes de production et/ou de distribution

Legal Events

Date Code Title Description
PLFP Fee payment

Year of fee payment: 2

PLSC Publication of the preliminary search report

Effective date: 20171103

PLFP Fee payment

Year of fee payment: 3

PLFP Fee payment

Year of fee payment: 4

PLFP Fee payment

Year of fee payment: 5

PLFP Fee payment

Year of fee payment: 6

PLFP Fee payment

Year of fee payment: 7

PLFP Fee payment

Year of fee payment: 8