JP2022513300A - 数を変換するためのハードウェア・モジュール - Google Patents
数を変換するためのハードウェア・モジュール Download PDFInfo
- Publication number
- JP2022513300A JP2022513300A JP2021534940A JP2021534940A JP2022513300A JP 2022513300 A JP2022513300 A JP 2022513300A JP 2021534940 A JP2021534940 A JP 2021534940A JP 2021534940 A JP2021534940 A JP 2021534940A JP 2022513300 A JP2022513300 A JP 2022513300A
- Authority
- JP
- Japan
- Prior art keywords
- bit
- bits
- bit sequence
- sequence
- hardware module
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 claims description 45
- 238000009826 distribution Methods 0.000 claims description 42
- 238000004590 computer program Methods 0.000 claims description 6
- 230000004044 response Effects 0.000 claims description 3
- 230000002085 persistent effect Effects 0.000 claims 1
- 238000013528 artificial neural network Methods 0.000 description 13
- 230000008569 process Effects 0.000 description 12
- 230000004913 activation Effects 0.000 description 9
- 238000001994 activation Methods 0.000 description 9
- 230000006870 function Effects 0.000 description 7
- 238000006243 chemical reaction Methods 0.000 description 5
- 238000010586 diagram Methods 0.000 description 5
- 238000009827 uniform distribution Methods 0.000 description 5
- 238000004364 calculation method Methods 0.000 description 4
- 239000013598 vector Substances 0.000 description 4
- 210000002569 neuron Anatomy 0.000 description 2
- 238000013473 artificial intelligence Methods 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 210000004556 brain Anatomy 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 230000000644 propagated effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F7/00—Methods or arrangements for processing data by operating upon the order or content of the data handled
- G06F7/58—Random or pseudo-random number generators
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F7/00—Methods or arrangements for processing data by operating upon the order or content of the data handled
- G06F7/38—Methods or arrangements for performing computations using exclusively denominational number representation, e.g. using binary, ternary, decimal representation
- G06F7/48—Methods or arrangements for performing computations using exclusively denominational number representation, e.g. using binary, ternary, decimal representation using non-contact-making devices, e.g. tube, solid state device; using unspecified devices
- G06F7/483—Computations with numbers represented by a non-linear combination of denominational numbers, e.g. rational numbers, logarithmic number system or floating-point numbers
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F7/00—Methods or arrangements for processing data by operating upon the order or content of the data handled
- G06F7/58—Random or pseudo-random number generators
- G06F7/588—Random number generators, i.e. based on natural stochastic processes
-
- H—ELECTRICITY
- H03—ELECTRONIC CIRCUITRY
- H03M—CODING; DECODING; CODE CONVERSION IN GENERAL
- H03M7/00—Conversion of a code where information is represented by a given sequence or number of digits to a code where the same, similar or subset of information is represented by a different sequence or number of digits
- H03M7/02—Conversion to or from weighted codes, i.e. the weight given to a digit depending on the position of the digit within the block or code word
- H03M7/04—Conversion to or from weighted codes, i.e. the weight given to a digit depending on the position of the digit within the block or code word the radix thereof being two
-
- H—ELECTRICITY
- H03—ELECTRONIC CIRCUITRY
- H03M—CODING; DECODING; CODE CONVERSION IN GENERAL
- H03M7/00—Conversion of a code where information is represented by a given sequence or number of digits to a code where the same, similar or subset of information is represented by a different sequence or number of digits
- H03M7/14—Conversion to or from non-weighted codes
- H03M7/24—Conversion to or from floating-point codes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2207/00—Indexing scheme relating to methods or arrangements for processing data by operating upon the order or content of the data handled
- G06F2207/38—Indexing scheme relating to groups G06F7/38 - G06F7/575
- G06F2207/3804—Details
- G06F2207/3808—Details concerning the type of numbers or the way they are handled
- G06F2207/3832—Less usual number representations
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Physics & Mathematics (AREA)
- Mathematical Analysis (AREA)
- Computational Mathematics (AREA)
- Mathematical Optimization (AREA)
- Pure & Applied Mathematics (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Nonlinear Science (AREA)
- Complex Calculations (AREA)
- Analogue/Digital Conversion (AREA)
- Advance Control (AREA)
Abstract
Description
float=((2*uint)+1-2n)/2(n+1)
ここで、nは浮動小数点数の仮数を表すビット数である。この方式での表示可能な最大の大きさは、0.5-(2-(n+1))である。本出願の各実施形態は、対称的で均一なランダム浮動小数点数のハードウェア実装を実現する。
指数=expBias+expMax-leadingZeroCount+roundingCarry
expBiasは、指数バイアスに等しく(すなわち、単精度形式では127であり、半精度形式では15である)。expMaxは、ビット・シーケンス810の長さに基づいて取得できる実現可能な最大指数をもたらすためのオフセットである。ビット・シーケンス810が32ビットから構成される場合、expMaxは31に等しく、leadingZeroCountは、ビット・シーケンス830の先頭のゼロの数であり、roundingCarryは、仮数850がすべて1から構成される場合に生じることのある丸め桁上げである。
Claims (22)
- nビットのシーケンスをハードウェア・モジュールのレジスタに記憶し、
前記nビットのシーケンスの最上位ビットが1に等しい場合は、大きさ成分の最上位ビットのn-1個のビットのそれぞれを、前記nビットのシーケンスのn-1個の最下位ビットの対応するビットと等しくなるように設定し、
符号ビットをゼロに設定し、
前記nビットのシーケンスの前記最上位ビットがゼロに等しい場合は、
前記大きさ成分の前記最上位ビットの前記n-1個のビットのそれぞれを、前記nビットのシーケンスの前記n-1個の最下位ビットの前記対応するビットの逆数と等しくなるように設定し、
前記符号ビットを1に設定して、
前記大きさ成分及び前記符号ビットを含む符号付き整数を生成するように構成された回路を備える、
ハードウェア・モジュール。 - 前記大きさ成分の最下位ビットを1に設定するように構成される、請求項1に記載のハードウェア・モジュール。
- 前記nビットのシーケンスの前記最上位ビットを入力し、前記符号ビットを出力するように構成されたNOTゲートを備える、請求項1又は2に記載のハードウェア・モジュール。
- 複数のXNORゲートを備え、各XNORゲートが、
前記nビットのシーケンスの前記最上位ビットを入力とし、
前記nビットのシーケンスの前記n-1個の最下位ビットのうちの1つを入力とし、
前記大きさ成分の前記n-1個の最上位ビットの前記対応するビットを出力として提供するように構成される、請求項1~3のいずれか一項に記載のハードウェア・モジュール。 - ランダムに生成されたビットのシーケンスとして、前記nビットのシーケンスを提供するように構成された乱数生成器を備える、請求項1~4のいずれか一項に記載のハードウェア・モジュール。
- 前記符号付き整数から浮動小数点数を生成するように構成される、請求項1~5のいずれか一項に記載のハードウェア・モジュール。
- 前記符号付き整数の前記符号ビットをゼロに設定して、符号なしビット・シーケンスを生成することと、
前記符号なしビット・シーケンスの先頭のゼロの数に等しい量だけ、前記符号なしビット・シーケンスに左シフトを実行することと、
前記シフトされた符号なしビット・シーケンスを仮数に指定されたビットの数にまで切り捨てることと、
によって、前記浮動小数点数の仮数を生成するように構成される、請求項6に記載のハードウェア・モジュール。 - 先頭のゼロの数に基づいて、前記浮動小数点数の指数を設定するように構成される、請求項7に記載のハードウェア・モジュール。
- 前記浮動小数点数の指数を-1に設定するように構成される、請求項6又は7に記載のハードウェア・モジュール。
- それぞれのビット・シーケンスから、ゼロを中心とする分布での複数の符号付き整数を生成するように構成される、請求項1~9のいずれか一項に記載のハードウェア・モジュール。
- 前記それぞれのビット・シーケンスから、ゼロを中心とする分布での複数の浮動小数点数を生成するように構成される、請求項10に記載のハードウェア・モジュール。
- 前記回路が、少なくとも1つの特定用途向け集積回路、及び少なくとも1つのフィールド・プログラマブル・ゲート・アレイのうちの1つ又は複数を備える、請求項1~11のいずれか一項に記載のハードウェア・モジュール。
- ビットのシーケンスに2を乗算して第1の中間結果を生成することと、
前記第1の中間結果に1を加算して第2の中間結果を生成することと、
前記第2の中間結果から2のn乗を減算することと、
によって、前記大きさ成分を計算するように構成される、請求項1~12のいずれか一項に記載のハードウェア・モジュール。 - 大きさ成分及び符号ビットを含む符号付き整数を生成する方法であって、
nビットのシーケンスをハードウェア・モジュールのレジスタに記憶することと、
前記nビットのシーケンスの最上位ビットが1に等しい場合は、
前記大きさ成分の最上位ビットのn-1個のビットのそれぞれを、前記nビットのシーケンスのn-1個の最下位ビットの対応するビットと等しくなるように設定することと、
前記符号ビットをゼロに設定することと、
前記nビットのシーケンスの前記最上位ビットがゼロに等しい場合には、
前記大きさ成分の前記最上位ビットの前記n-1個のビットのそれぞれを、前記nビットのシーケンスの前記n-1個の最下位ビットの前記対応するビットの逆数と等しくなるように設定することと、
前記符号ビットを1に設定することと、
を含む、方法。 - 命令に応答して、前記大きさ成分の前記最下位ビットを1に設定することを含む、請求項14に記載の方法。
- ランダムに生成されたビットのシーケンスとして、前記nビットのシーケンスを提供することを含む、請求項14又は15に記載の方法。
- 前記符号付き整数から浮動小数点数を生成することを含む、請求項14~16のいずれか一項に記載の方法。
- 前記符号付き整数の前記符号ビットをゼロに設定して、符号なしビット・シーケンスを生成することと、
前記符号なしビット・シーケンスの先頭のゼロの数に等しい量だけ、前記符号なしビット・シーケンスに左シフトを実行することと、
前記シフトされた符号なしビット・シーケンスを仮数に指定されたビットの数にまで切り捨てることと、
によって、前記浮動小数点数の仮数を生成することを含む、請求項17に記載の方法。 - 先頭のゼロの数に基づいて、前記浮動小数点数の指数を設定することを含む、請求項18に記載の方法。
- 前記それぞれのビット・シーケンスから、ゼロを中心とする分布での複数の浮動小数点数を生成することを含む、請求項19に記載の方法。
- ビットのシーケンスに2を乗算して第1の中間結果を生成することと、
前記第1の中間結果に1を加算して第2の中間結果を生成することと、
前記第2の中間結果から2のn乗を減算することと、
によって、前記大きさ成分を計算することを含む、請求項14~20のいずれか一項に記載の方法。 - 実行されると、請求項14~21のいずれか一項に記載の方法をハードウェア・モジュールが実行できるようにする、持続的な媒体に記録されるコンピュータ・プログラム命令を有するコンピュータ・プログラムを含む、コンピュータ・プログラム製品。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
GB1821120.1A GB2580160B (en) | 2018-12-21 | 2018-12-21 | Hardware module for converting numbers |
GB1821120.1 | 2018-12-21 | ||
PCT/EP2019/066477 WO2020126124A1 (en) | 2018-12-21 | 2019-06-21 | Hardware module for converting numbers |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2022513300A true JP2022513300A (ja) | 2022-02-07 |
JP7405851B2 JP7405851B2 (ja) | 2023-12-26 |
Family
ID=65364567
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021534940A Active JP7405851B2 (ja) | 2018-12-21 | 2019-06-21 | 数を変換するためのハードウェア・モジュール |
Country Status (7)
Country | Link |
---|---|
US (1) | US11449309B2 (ja) |
EP (1) | EP3847544B1 (ja) |
JP (1) | JP7405851B2 (ja) |
KR (1) | KR20210103552A (ja) |
CN (1) | CN113168310B (ja) |
GB (1) | GB2580160B (ja) |
WO (1) | WO2020126124A1 (ja) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113791756B (zh) * | 2021-09-18 | 2022-12-23 | 中科寒武纪科技股份有限公司 | 转数方法、存储介质、装置及板卡 |
CN114462350B (zh) * | 2021-12-21 | 2022-11-15 | 北京百度网讯科技有限公司 | 集成电路芯片验证方法、装置、电子设备及存储介质 |
EP4310666A1 (en) * | 2022-07-18 | 2024-01-24 | Quside Technologies S.L. | Computer-implemented method for transforming a bit stream into a floating point number |
CN118092856B (zh) * | 2024-04-22 | 2024-07-19 | 北京壁仞科技开发有限公司 | 实现随机舍入的方法、计算装置、介质和程序产品 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US4218749A (en) * | 1978-09-25 | 1980-08-19 | Sangamo Weston, Inc. | Apparatus and method for digital noise synthesis |
US20160211862A1 (en) * | 2015-01-15 | 2016-07-21 | Huong Ho | Method and apparatus for converting from floating point to integer representation |
Family Cites Families (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US3786490A (en) * | 1972-04-20 | 1974-01-15 | Bell Telephone Labor Inc | Reversible 2{40 s complement to sign-magnitude converter |
US4520347A (en) * | 1982-11-22 | 1985-05-28 | Motorola, Inc. | Code conversion circuit |
JPH06100961B2 (ja) * | 1988-04-18 | 1994-12-12 | 富士通テン株式会社 | デジタル信号処理プロセッサ |
US6269384B1 (en) * | 1998-03-27 | 2001-07-31 | Advanced Micro Devices, Inc. | Method and apparatus for rounding and normalizing results within a multiplier |
US6542539B1 (en) * | 1997-12-23 | 2003-04-01 | Agere Systems Guardian Corp. | Multiported register file for coefficient use in filters |
US20030023653A1 (en) * | 2001-01-29 | 2003-01-30 | Andrew Dunlop | System, method and article of manufacture for a single-cycle floating point library |
US7236995B2 (en) * | 2002-12-27 | 2007-06-26 | Arm Limited | Data processing apparatus and method for converting a number between fixed-point and floating-point representations |
JP4418713B2 (ja) | 2004-06-11 | 2010-02-24 | キヤノン株式会社 | 乱数発生方法及び乱数発生装置 |
US8880571B2 (en) * | 2006-05-05 | 2014-11-04 | Microsoft Corporation | High dynamic range data format conversions for digital media |
WO2010019169A1 (en) * | 2008-08-15 | 2010-02-18 | Lsi Corporation | Rom list-decoding of near codewords |
CN101674180B (zh) | 2008-09-10 | 2012-12-12 | 中国人民解放军信息工程大学 | 一种伪随机序列产生方法及加密方法 |
CN101394266B (zh) * | 2008-10-24 | 2010-12-08 | 华中科技大学 | 一种生成变参数混沌信号的方法及混沌保密通信系统 |
KR101443575B1 (ko) * | 2013-04-29 | 2014-09-23 | 한국전자통신연구원 | 이진 난수열을 정수 난수로 변환하는 장치 및 방법 |
CN104009848B (zh) | 2014-05-26 | 2017-09-29 | 华南理工大学 | 一种混合型的多变量数字签名系统及方法 |
US10089073B2 (en) * | 2015-01-30 | 2018-10-02 | Huawei Technologies Co., Ltd. | Method and apparatus for converting from integer to floating point representation |
CN108287681B (zh) | 2018-02-14 | 2020-12-18 | 中国科学院电子学研究所 | 一种单精度浮点融合点乘运算装置 |
-
2018
- 2018-12-21 GB GB1821120.1A patent/GB2580160B/en active Active
-
2019
- 2019-06-21 CN CN201980077105.8A patent/CN113168310B/zh active Active
- 2019-06-21 EP EP19732999.8A patent/EP3847544B1/en active Active
- 2019-06-21 US US16/646,507 patent/US11449309B2/en active Active
- 2019-06-21 WO PCT/EP2019/066477 patent/WO2020126124A1/en unknown
- 2019-06-21 JP JP2021534940A patent/JP7405851B2/ja active Active
- 2019-06-21 KR KR1020217023037A patent/KR20210103552A/ko not_active Application Discontinuation
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US4218749A (en) * | 1978-09-25 | 1980-08-19 | Sangamo Weston, Inc. | Apparatus and method for digital noise synthesis |
US20160211862A1 (en) * | 2015-01-15 | 2016-07-21 | Huong Ho | Method and apparatus for converting from floating point to integer representation |
Also Published As
Publication number | Publication date |
---|---|
GB2580160A (en) | 2020-07-15 |
US11449309B2 (en) | 2022-09-20 |
CN113168310A (zh) | 2021-07-23 |
EP3847544B1 (en) | 2022-08-17 |
GB2580160B (en) | 2021-01-06 |
KR20210103552A (ko) | 2021-08-23 |
EP3847544A1 (en) | 2021-07-14 |
JP7405851B2 (ja) | 2023-12-26 |
US20210091786A1 (en) | 2021-03-25 |
GB201821120D0 (en) | 2019-02-06 |
CN113168310B (zh) | 2022-08-16 |
WO2020126124A1 (en) | 2020-06-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7405851B2 (ja) | 数を変換するためのハードウェア・モジュール | |
US11169778B2 (en) | Converting floating point numbers to reduce the precision | |
CN109697048B (zh) | 在神经网络中生成随机性 | |
KR20200004700A (ko) | 뉴럴 네트워크에서 파라미터를 처리하는 방법 및 장치 | |
JP7096828B2 (ja) | 入力オペランド値を処理するための装置及び方法 | |
US10534576B2 (en) | Optimization apparatus and control method thereof | |
JPH07248841A (ja) | 非線形関数発生装置およびフォーマット変換装置 | |
US11106431B2 (en) | Apparatus and method of fast floating-point adder tree for neural networks | |
JP2021517301A (ja) | 確率的丸めロジック | |
US11526761B2 (en) | Neural network training with decreased memory consumption and processor utilization | |
JP6877812B2 (ja) | 重複伝搬演算 | |
CN109697506B (zh) | 神经网络中的处理 | |
JP6918358B2 (ja) | 近似計算装置、近似計算方法及びプログラム | |
JP2019168783A (ja) | 半導体装置 | |
JP7506276B2 (ja) | 半導体ハードウェアにおいてニューラルネットワークを処理するための実装および方法 | |
KR20210152956A (ko) | 곱셈/누산 연산을 수행하기 위한 디바이스 | |
Das et al. | Design of a Parallel Adder Circuit for a Heavy Computing Environment and the Performance Analysis of Multiplication Algorithm | |
CN115952847A (zh) | 神经网络模型的处理方法及处理装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220512 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230627 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230926 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20231205 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20231214 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7405851 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |