KR101084581B1 - 고정 소수점 지수함수 연산 방법, 장치 및 기록매체 - Google Patents
고정 소수점 지수함수 연산 방법, 장치 및 기록매체 Download PDFInfo
- Publication number
- KR101084581B1 KR101084581B1 KR1020090104896A KR20090104896A KR101084581B1 KR 101084581 B1 KR101084581 B1 KR 101084581B1 KR 1020090104896 A KR1020090104896 A KR 1020090104896A KR 20090104896 A KR20090104896 A KR 20090104896A KR 101084581 B1 KR101084581 B1 KR 101084581B1
- Authority
- KR
- South Korea
- Prior art keywords
- value
- exponential function
- range
- precision
- fixed point
- Prior art date
Links
- 238000004364 calculation method Methods 0.000 title claims abstract description 42
- 238000000034 method Methods 0.000 claims abstract description 30
- 238000006243 chemical reaction Methods 0.000 claims abstract description 18
- 238000013215 result calculation Methods 0.000 claims description 2
- 238000010586 diagram Methods 0.000 description 4
- 230000004075 alteration Effects 0.000 description 1
- 229910002056 binary alloy Inorganic materials 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F7/00—Methods or arrangements for processing data by operating upon the order or content of the data handled
- G06F7/38—Methods or arrangements for performing computations using exclusively denominational number representation, e.g. using binary, ternary, decimal representation
- G06F7/48—Methods or arrangements for performing computations using exclusively denominational number representation, e.g. using binary, ternary, decimal representation using non-contact-making devices, e.g. tube, solid state device; using unspecified devices
- G06F7/544—Methods or arrangements for performing computations using exclusively denominational number representation, e.g. using binary, ternary, decimal representation using non-contact-making devices, e.g. tube, solid state device; using unspecified devices for evaluating functions by calculation
- G06F7/556—Logarithmic or exponential functions
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F7/00—Methods or arrangements for processing data by operating upon the order or content of the data handled
- G06F7/38—Methods or arrangements for performing computations using exclusively denominational number representation, e.g. using binary, ternary, decimal representation
- G06F7/48—Methods or arrangements for performing computations using exclusively denominational number representation, e.g. using binary, ternary, decimal representation using non-contact-making devices, e.g. tube, solid state device; using unspecified devices
- G06F7/483—Computations with numbers represented by a non-linear combination of denominational numbers, e.g. rational numbers, logarithmic number system or floating-point numbers
Landscapes
- Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Physics & Mathematics (AREA)
- Pure & Applied Mathematics (AREA)
- Computational Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Mathematical Analysis (AREA)
- Mathematical Optimization (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Nonlinear Science (AREA)
- Complex Calculations (AREA)
- Compression, Expansion, Code Conversion, And Decoders (AREA)
Abstract
Description
Claims (16)
- 임의의 입력값에 대하여 상기 입력값을 지수함수의 지수로 하고, 미리 설정된 진법의 진법수를 지수함수의 밑수로 하여 지수함수 형식으로 변환하는 지수함수변환단계;상기 입력값의 데이터 형식 중 입력값의 비트(bit)수에 따라 상기 입력값이 가질 수 있는 범위에 대응하는 출력값의 범위를 산출하는 출력값범위산출단계;상기 출력값 범위의 정밀도가 미리 설정된 정밀도요구값을 만족하는지 여부를 판단하는 정밀도판단단계;상기 출력값 범위의 정밀도가 상기 정밀도요구값을 만족하지 않는 경우에는 상기 입력값의 각 자릿수의 값에 대응하는 스케일팩터(scale factor)를 산출하는 스케일팩터산출단계;상기 스케일팩터를 상기 출력값 범위의 하한값에 곱하는 연산을 통하여 출력값 범위를 갱신하는 출력값범위갱신단계; 및갱신된 출력값 범위의 정밀도가 상기 정밀도요구값을 만족하는 경우 상기 갱신된 출력값 범위 내에서 결과값을 산출하는 결과값산출단계;를 포함하는 것을 특징으로 하는 고정 소수점 지수함수 연산 방법.
- 제 1항에 있어서,상기 입력값이 고정 소수점 형식인지를 판단하는 입력값형식판단단계; 및상기 입력값이 부동 소수점 형식이면 상기 고정 소수점 형식으로 변환하는 고정소수점변환단계;를 더 포함하는 것을 특징으로 하는 고정 소수점 지수함수 연산 방법.
- 제 2항에 있어서, 상기 고정소수점변환단계는상기 입력값이 부동 소수점 형식인 경우 Q포맷을 적용하여 고정소수점 형식으로 변환하는 것을 특징으로 하는 고정 소수점 지수함수 연산 방법.
- 제 1항에 있어서,상기 정밀도판단단계 내지 상기 출력값범위갱신단계는상기 출력값 범위의 정밀도가 상기 정밀도요구값을 만족할 때까지 반복되는 것을 특징으로 하는 고정 소수점 지수함수 연산 방법.
- 제 1항에 있어서, 상기 진법수는가변될 수 있는 것을 특징으로 하는 고정 소수점 지수함수 연산 방법.
- 제 1항에 있어서, 상기 정밀도요구값은상기 결과값의 유효숫자의 자릿수로서 미리 설정될 수 있는 것을 특징으로 하는 고정 소수점 지수함수 연산 방법.
- 제 1항에 있어서, 상기 스케일팩터는상기 밑수에 대하여 상기 입력값을 지수로 갖는 값으로 산출되는 것을 특징으로 하는 고정 소수점 지수함수 연산 방법.
- 제 1항에 있어서, 상기 결과값산출단계는상기 갱신된 출력값 범위 내의 중간값을 결과값으로 산출하는 것을 특징으로 하는 고정 소수점 지수함수 연산 방법.
- 임의의 입력값에 대하여 상기 입력값을 지수함수의 지수로, 미리 설정된 진법의 진법수를 지수함수의 밑수로 하여 지수함수 형식으로 변환하는 지수함수형식변환부;상기 입력값의 데이터 형식 중 입력값의 비트수에 따라 입력값이 가질 수 있 는 범위에 대응하는 출력값의 범위를 얻는 출력값범위산출부;상기 출력값 범위의 정밀도가 미리 설정된 정밀도요구값을 만족하는지 여부를 판단하는 정밀도판단부;상기 출력값 범위의 정밀도가 상기 정밀도요구값을 만족하지 않는 경우에는 상기 입력값의 각 자릿수의 값에 대응하는 스케일팩터(scale factor)를 산출하는 스케일팩터산출부;상기 스케일팩터를 상기 출력값 범위의 하한값에 곱하는 연산을 통하여 출력값 범위를 갱신하는 출력값범위갱신부; 및상기 정밀도요구값을 만족하는 경우 출력값 범위 내에서 결과값을 산출하는 결과값산출부;를 포함하는 것을 특징으로 하는 고정 소수점 지수함수 연산 장치.
- 제 9항에 있어서,상기 입력값이 고정 소수점 형식인지를 판단하여 상기 입력값이 부동 소수점 형식이면 고정 소수점 형식으로 변환하는 고정소수점형식변환부;를 더 포함하는 것을 특징으로 하는 고정 소수점 지수함수 연산 장치.
- 제 10항에 있어서, 상기 고정소수점형식변환부는상기 입력값이 부동 소수점 형식인 경우 Q포맷을 적용하여 고정소수점 형식으로 변환하는 것을 특징으로 하는 고정 소수점 지수함수 연산 장치.
- 제 9항에 있어서, 상기 진법수는가변될 수 있는 것을 특징으로 하는 고정 소수점 지수함수 연산 장치.
- 제 9항에 있어서, 상기 정밀도요구값은상기 결과값의 유효숫자의 자릿수로서 미리 설정될 수 있는 것을 특징으로 하는 고정 소수점 지수함수 연산 장치.
- 제 9항에 있어서, 상기 스케일팩터는상기 밑수에 대하여 상기 입력값을 지수로 갖는 값으로 산출되는 것을 특징으로 하는 고정 소수점 지수함수 연산 장치.
- 제 9항에 있어서, 상기 결과값산출부는상기 갱신된 출력값 범위 내의 중간값을 결과값으로 산출하는 것을 특징으로 하는 고정 소수점 지수함수 연산 장치.
- 제 1항 내지 제 8항 중 어느 한 항에 기재된 고정 소수점 지수함수 연산 방법을 컴퓨터에 실행시키기 위한 프로그램을 기록한 컴퓨터로 읽을 수 있는 기록매체.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020090104896A KR101084581B1 (ko) | 2009-11-02 | 2009-11-02 | 고정 소수점 지수함수 연산 방법, 장치 및 기록매체 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020090104896A KR101084581B1 (ko) | 2009-11-02 | 2009-11-02 | 고정 소수점 지수함수 연산 방법, 장치 및 기록매체 |
Publications (2)
Publication Number | Publication Date |
---|---|
KR20110048200A KR20110048200A (ko) | 2011-05-11 |
KR101084581B1 true KR101084581B1 (ko) | 2011-11-17 |
Family
ID=44239396
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020090104896A KR101084581B1 (ko) | 2009-11-02 | 2009-11-02 | 고정 소수점 지수함수 연산 방법, 장치 및 기록매체 |
Country Status (1)
Country | Link |
---|---|
KR (1) | KR101084581B1 (ko) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11593625B2 (en) | 2017-10-19 | 2023-02-28 | Samsung Electronics Co., Ltd. | Method and apparatus with neural network parameter quantization |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR102252375B1 (ko) | 2014-09-18 | 2021-05-14 | 삼성전자주식회사 | 광선-노드 교차검사를 수행하는 방법 및 장치 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR100443395B1 (ko) | 2000-11-13 | 2004-08-23 | 엔이씨 일렉트로닉스 가부시키가이샤 | 축소된 회로 규모로 고정 소수점 데이터를 생성하는 회로및 방법 |
WO2008016438A2 (en) | 2006-08-01 | 2008-02-07 | Brainmedia Llc | Method for reducing round-off error in fixed-point arithmetic |
-
2009
- 2009-11-02 KR KR1020090104896A patent/KR101084581B1/ko not_active IP Right Cessation
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR100443395B1 (ko) | 2000-11-13 | 2004-08-23 | 엔이씨 일렉트로닉스 가부시키가이샤 | 축소된 회로 규모로 고정 소수점 데이터를 생성하는 회로및 방법 |
WO2008016438A2 (en) | 2006-08-01 | 2008-02-07 | Brainmedia Llc | Method for reducing round-off error in fixed-point arithmetic |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11593625B2 (en) | 2017-10-19 | 2023-02-28 | Samsung Electronics Co., Ltd. | Method and apparatus with neural network parameter quantization |
Also Published As
Publication number | Publication date |
---|---|
KR20110048200A (ko) | 2011-05-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107451658B (zh) | 浮点运算定点化方法及系统 | |
CN101133389B (zh) | 多用途乘法-加法功能单元 | |
CN100472392C (zh) | 对数处理系统和方法 | |
JP2018124681A (ja) | 演算処理装置、情報処理装置、方法、およびプログラム | |
EP1857925A2 (en) | Method and apparatus for decimal number multiplication using hardware for binary number operations | |
WO2002023326A1 (en) | Handler for floating-point denormalized numbers | |
CN112241291B (zh) | 用于指数函数实施的浮点单元 | |
CN108139912A (zh) | 在浮点运算期间计算和保留误差边界的装置和方法 | |
KR101084581B1 (ko) | 고정 소수점 지수함수 연산 방법, 장치 및 기록매체 | |
US20030191788A1 (en) | Method of performing quantization within a multimedia bitstream utilizing division-free instructions | |
KR100847934B1 (ko) | 스케일링된 정수를 사용하는 부동 소수점 연산 | |
US20070266073A1 (en) | Method and apparatus for decimal number addition using hardware for binary number operations | |
JP6290886B2 (ja) | 装飾構成に基づくモーダル区間計算 | |
KR101107923B1 (ko) | 부호대칭 라운딩 오차들을 갖는 다이애딕 분수들에 의한 곱들의 고속 계산 | |
JP2019212112A (ja) | 演算処理装置、演算処理装置の制御プログラム及び演算処理装置の制御方法 | |
CN117648959A (zh) | 支持神经网络运算的多精度操作数运算装置 | |
JP2020067897A (ja) | 演算処理装置、学習プログラム及び学習方法 | |
WO2009017849A1 (en) | Method and system for creating fixed-point software code | |
CN114691082A (zh) | 乘法器电路、芯片、电子设备及计算机可读存储介质 | |
Campos et al. | FPGA implementation of custom floating-point logarithm and division | |
JP4243277B2 (ja) | データ処理装置 | |
CN114174982A (zh) | 用于乘法的计算单元、方法和计算机程序 | |
CN119272811A (zh) | 一种基于硬件的PReLU激活卷积算子计算的方法 | |
CN114817839B (zh) | 一种针对基-2^kFFT旋转因子常数值确定的图解算法 | |
JP4528924B2 (ja) | 量子化ステップパラメータ初期値決定装置および量子化ステップパラメータ初期値決定方法、並びに量子化ステップパラメータ初期値決定プログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A201 | Request for examination | ||
PA0109 | Patent application |
Patent event code: PA01091R01D Comment text: Patent Application Patent event date: 20091102 |
|
PA0201 | Request for examination | ||
E902 | Notification of reason for refusal | ||
PE0902 | Notice of grounds for rejection |
Comment text: Notification of reason for refusal Patent event date: 20110318 Patent event code: PE09021S01D |
|
PG1501 | Laying open of application | ||
E701 | Decision to grant or registration of patent right | ||
PE0701 | Decision of registration |
Patent event code: PE07011S01D Comment text: Decision to Grant Registration Patent event date: 20111031 |
|
GRNT | Written decision to grant | ||
PR0701 | Registration of establishment |
Comment text: Registration of Establishment Patent event date: 20111111 Patent event code: PR07011E01D |
|
PR1002 | Payment of registration fee |
Payment date: 20111114 End annual number: 3 Start annual number: 1 |
|
PG1601 | Publication of registration | ||
LAPS | Lapse due to unpaid annual fee | ||
PC1903 | Unpaid annual fee |
Termination category: Default of registration fee Termination date: 20151009 |