FR3136571B1 - Procédé et dispositif pour arrondir dans un calcul à précision variable - Google Patents

Procédé et dispositif pour arrondir dans un calcul à précision variable Download PDF

Info

Publication number
FR3136571B1
FR3136571B1 FR2205598A FR2205598A FR3136571B1 FR 3136571 B1 FR3136571 B1 FR 3136571B1 FR 2205598 A FR2205598 A FR 2205598A FR 2205598 A FR2205598 A FR 2205598A FR 3136571 B1 FR3136571 B1 FR 3136571B1
Authority
FR
France
Prior art keywords
rounding
bit
byte length
circuit
result
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
FR2205598A
Other languages
English (en)
Other versions
FR3136571A1 (fr
Inventor
Riccardo Alidori
Andrea Bocco
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Commissariat a lEnergie Atomique et aux Energies Alternatives CEA
Original Assignee
Commissariat a lEnergie Atomique CEA
Commissariat a lEnergie Atomique et aux Energies Alternatives CEA
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Commissariat a lEnergie Atomique CEA, Commissariat a lEnergie Atomique et aux Energies Alternatives CEA filed Critical Commissariat a lEnergie Atomique CEA
Priority to FR2205598A priority Critical patent/FR3136571B1/fr
Priority to EP23176897.9A priority patent/EP4290363A1/fr
Priority to US18/330,530 priority patent/US20230401035A1/en
Publication of FR3136571A1 publication Critical patent/FR3136571A1/fr
Application granted granted Critical
Publication of FR3136571B1 publication Critical patent/FR3136571B1/fr
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F7/00—Methods or arrangements for processing data by operating upon the order or content of the data handled
    • G06F7/38—Methods or arrangements for performing computations using exclusively denominational number representation, e.g. using binary, ternary, decimal representation
    • G06F7/48—Methods or arrangements for performing computations using exclusively denominational number representation, e.g. using binary, ternary, decimal representation using non-contact-making devices, e.g. tube, solid state device; using unspecified devices
    • G06F7/499—Denomination or exception handling, e.g. rounding or overflow
    • G06F7/49942—Significance control
    • G06F7/49947—Rounding
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F7/00—Methods or arrangements for processing data by operating upon the order or content of the data handled
    • G06F7/38—Methods or arrangements for performing computations using exclusively denominational number representation, e.g. using binary, ternary, decimal representation
    • G06F7/48—Methods or arrangements for performing computations using exclusively denominational number representation, e.g. using binary, ternary, decimal representation using non-contact-making devices, e.g. tube, solid state device; using unspecified devices
    • G06F7/483—Computations with numbers represented by a non-linear combination of denominational numbers, e.g. rational numbers, logarithmic number system or floating-point numbers
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2207/00—Indexing scheme relating to methods or arrangements for processing data by operating upon the order or content of the data handled
    • G06F2207/38—Indexing scheme relating to groups G06F7/38 - G06F7/575
    • G06F2207/3804—Details
    • G06F2207/3808—Details concerning the type of numbers or the way they are handled
    • G06F2207/3812—Devices capable of handling different types of numbers
    • G06F2207/382—Reconfigurable for different fixed word lengths

Landscapes

  • Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computing Systems (AREA)
  • Mathematical Analysis (AREA)
  • Mathematical Optimization (AREA)
  • Pure & Applied Mathematics (AREA)
  • Computational Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Nonlinear Science (AREA)
  • Executing Machine-Instructions (AREA)
  • Complex Calculations (AREA)

Abstract

Procédé et dispositif pour arrondir dans un calcul à précision variable La présente description concerne un dispositif de calcul à virgule flottante comprenant : un premier circuit d'opération à virgule flottante (FP) (3202) comprenant une première unité de traitement (3204) configurée pour effectuer une première opération sur au moins une valeur FP d'entrée (F1, F2) pour générer un résultat ; un premier circuit arrondisseur (3206) ; et un premier circuit de commande (3202) configuré pour commander une longueur de bits ou d'octets appliquée par une opération d'arrondi du premier circuit arrondisseur (3206), dans lequel le circuit de commande (3302) est configuré pour appliquer une première longueur de bits ou d'octets (BLA) si le résultat de la première opération doit être stocké dans une mémoire interne du dispositif de calcul à virgule flottante à utiliser pour une opération suivante et pour appliquer une deuxième longueur de bits ou d'octets (BLS), différente de la première longueur de bits ou d'octets, si le résultat de la première opération doit être stocké dans une mémoire externe. Figure pour l'abrégé : Fig. 32
FR2205598A 2022-06-10 2022-06-10 Procédé et dispositif pour arrondir dans un calcul à précision variable Active FR3136571B1 (fr)

Priority Applications (3)

Application Number Priority Date Filing Date Title
FR2205598A FR3136571B1 (fr) 2022-06-10 2022-06-10 Procédé et dispositif pour arrondir dans un calcul à précision variable
EP23176897.9A EP4290363A1 (fr) 2022-06-10 2023-06-02 Procédé et dispositif d'arrondi dans un calcul de précision variable
US18/330,530 US20230401035A1 (en) 2022-06-10 2023-06-07 Method and device for rounding in variable precision computing

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
FR2205598 2022-06-10
FR2205598A FR3136571B1 (fr) 2022-06-10 2022-06-10 Procédé et dispositif pour arrondir dans un calcul à précision variable

Publications (2)

Publication Number Publication Date
FR3136571A1 FR3136571A1 (fr) 2023-12-15
FR3136571B1 true FR3136571B1 (fr) 2024-04-26

Family

ID=83189093

Family Applications (1)

Application Number Title Priority Date Filing Date
FR2205598A Active FR3136571B1 (fr) 2022-06-10 2022-06-10 Procédé et dispositif pour arrondir dans un calcul à précision variable

Country Status (3)

Country Link
US (1) US20230401035A1 (fr)
EP (1) EP4290363A1 (fr)
FR (1) FR3136571B1 (fr)

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5761105A (en) * 1995-09-26 1998-06-02 Advanced Micro Devices, Inc. Reservation station including addressable constant store for a floating point processing unit
JP2012221188A (ja) * 2011-04-08 2012-11-12 Fujitsu Ltd 演算回路、演算処理装置、及び演算回路の制御方法
FR3093571B1 (fr) 2019-03-08 2021-03-19 Commissariat Energie Atomique Procédé et dispositif de représentation en virgule flottante avec précision variable

Also Published As

Publication number Publication date
EP4290363A1 (fr) 2023-12-13
US20230401035A1 (en) 2023-12-14
FR3136571A1 (fr) 2023-12-15

Similar Documents

Publication Publication Date Title
CN109840589B (zh) 一种在fpga上运行卷积神经网络的方法和装置
WO2021135603A1 (fr) Procédé de reconnaissance d'intention, serveur et support de stockage
WO2022052625A1 (fr) Convertisseur à virgule fixe et à virgule flottante, processeur, procédé, et support de stockage
FR3136571B1 (fr) Procédé et dispositif pour arrondir dans un calcul à précision variable
KR20210092575A (ko) 목표 성능에 따라 신경망을 압축하는 반도체 장치
CN102567254B (zh) 采用dma控制器进行数据归一化处理的方法
WO2019161768A1 (fr) Détection d'anomalie de trafic
WO2019136799A1 (fr) Procédé et appareil de discrétisation de données, dispositif informatique et support de stockage
WO2022001722A1 (fr) Procédé et dispositif d'implémentation pour le calcul d'une fonction sinus ou cosinus
CN112637485B (zh) 视觉辅助镜头自动调焦方法、系统、设备及存储介质
KR101922462B1 (ko) 데이터 처리장치 및 이진수에 대해 시프트 기능을 수행하는 방법
CN114691082A (zh) 乘法器电路、芯片、电子设备及计算机可读存储介质
CN112860218A (zh) 用于fp16浮点数据和int8整型数据运算的混合精度运算器
CN113780545A (zh) 神经网络激活函数的通用拟合方法及装置
KR940008610B1 (ko) 고속 수렴 인자 결정 방법 및 프로세서
WO2024016893A1 (fr) Procédé et appareil de détermination de données de hauteur, dispositif informatique et support de stockage
Lipow A branching model by population size dependence
CN113608671B (zh) 一种提高固态硬盘读性能的方法、系统、设备及介质
US20030208515A1 (en) Digital method for increasing the calculation accuracy in non-linear functions and hardware architecture for carrying out said method
JPH05274116A (ja) 浮動小数点演算装置
Korsen Towards control or empowerment? How performance measurement systems and performance management practices interact with digital technologies in Norwegian manufacturing organisations
JP3245884B2 (ja) シフト加減算装置
JPS6162931A (ja) デ−タ処理装置
CN109389211A (zh) 定点位数的确认方法、存储介质和装置
JP2512230B2 (ja) 演算処理装置

Legal Events

Date Code Title Description
PLFP Fee payment

Year of fee payment: 2

PLSC Publication of the preliminary search report

Effective date: 20231215

PLFP Fee payment

Year of fee payment: 3