JPS592055B2 - Square root calculation method - Google Patents

Square root calculation method

Info

Publication number
JPS592055B2
JPS592055B2 JP5824376A JP5824376A JPS592055B2 JP S592055 B2 JPS592055 B2 JP S592055B2 JP 5824376 A JP5824376 A JP 5824376A JP 5824376 A JP5824376 A JP 5824376A JP S592055 B2 JPS592055 B2 JP S592055B2
Authority
JP
Japan
Prior art keywords
register
square root
digit
contents
content
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired
Application number
JP5824376A
Other languages
Japanese (ja)
Other versions
JPS52141146A (en
Inventor
孝昭 川崎
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Original Assignee
Tokyo Shibaura Electric Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tokyo Shibaura Electric Co Ltd filed Critical Tokyo Shibaura Electric Co Ltd
Priority to JP5824376A priority Critical patent/JPS592055B2/en
Publication of JPS52141146A publication Critical patent/JPS52141146A/en
Publication of JPS592055B2 publication Critical patent/JPS592055B2/en
Expired legal-status Critical Current

Links

Landscapes

  • Complex Calculations (AREA)

Description

【発明の詳細な説明】 この発明は開平演算方式に係り、とくに2進数の特性を
利用した開平演算方式に関する。
DETAILED DESCRIPTION OF THE INVENTION The present invention relates to a square root calculation method, and particularly to a square root calculation method that utilizes the characteristics of binary numbers.

従来、電子計算機で開平演算を行なうような場合には、
四則演算命令を使い、例えばニュートン法などにより、
ソフトウェアで近似値を得るのが普通である。
Conventionally, when performing square root calculation on an electronic computer,
Using the four arithmetic instructions, such as Newton's method,
Approximate values are usually obtained using software.

一方、卓上計算機では被開平数が奇数の順列の「何番目
」迄を加えた数になるかにより「何番目」かを平方根と
する方式がとられている。このような従来方式の場合、
構成が複雑となつたり、演算途中に種々の誤差が発生し
たりするおそれがあつた。この発明は、上記の点に鑑み
、簡単な構成により、高精度、高速度で平方根を得るこ
とができる開平演算方式を提供しようとするものである
On the other hand, desktop calculators use a method in which the square root is determined by adding up the number of permutations of odd numbers to the open whole number. In the case of this conventional method,
There was a risk that the configuration would become complicated and that various errors would occur during calculations. In view of the above points, the present invention aims to provide a square root calculation method that can obtain square roots with high precision and high speed with a simple configuration.

以下、この発明に係る開平演算方式の実施例を図面に従
つて説明する。第1図は、f丁b開平演算を2進数を用
いた筆算で求めた例を示す。
Embodiments of the square root calculation method according to the present invention will be described below with reference to the drawings. FIG. 1 shows an example of f-b square root calculation obtained by hand calculation using binary numbers.

この計算方法は、10進の開平演算の場合と同様で公知
のものであるが、10進の場合0〜9の10種類の数値
により試行して、割算を行ない剰余を求めるという作業
が必要であるのに比較して、2進の場合は第1図の如く
「O」 、「1」の2種類の数値しかないので、演算
過程がすべて桁シフトと加減算のみで実行可能である。
なお、第1図において符号A、B、C、Dで示す数値は
、それぞれ第2図で示すレジスタの内容A,B,C,D
に対応している。
This calculation method is similar to the square root operation in decimal and is well-known, but in decimal, it is necessary to try 10 different numbers from 0 to 9 and perform division to find the remainder. In comparison, in the case of binary, there are only two types of numerical values, ``O'' and ``1'' as shown in Figure 1, so all arithmetic operations can be performed only by digit shifting and addition/subtraction.
In addition, the numerical values indicated by symbols A, B, C, and D in FIG. 1 correspond to the register contents A, B, C, and D shown in FIG. 2, respectively.
It corresponds to

この図で求めた*平刀根を10進に変換すれば次式のよ
うになり、10進の汀と一致する。第2図は第1図の演
算を実行する演算装置を示す。
If we convert the *flat root found in this figure to decimal, we get the following formula, which matches the decimal value. FIG. 2 shows an arithmetic device that executes the arithmetic operations shown in FIG.

この装置は、第1図の符号Aで指示した被開平数がセツ
トされるレジスタAと、鎖線部Bで指示した数値がセツ
トされるレジスタBと、鎖線部Cで指示した数値がセツ
トされるレジスタCと、符号Dで指示した平方根がセツ
トされるレジスタDとを有している。
This device has a register A in which the undivided fraction indicated by the symbol A in FIG. It has a register C and a register D in which the square root indicated by the symbol D is set.

さらに、レジスタBとCとの内容の差をとる減算器SU
Bと、レジスタB,Cの内容の大小を比較する比較器C
MPと、レジスタCの内容に1づつ加算する加算器AD
Dと、求める平力根の必要桁数nを計数するカウンタC
NTと、演算ステツプを指示するステツプコントロール
STCとが設けられている。次に、第3図および第5図
を参照して第2図の演算装置の動昨を説明する。
Furthermore, a subtractor SU that takes the difference between the contents of registers B and C
A comparator C that compares B and the contents of registers B and C.
MP and an adder AD that adds 1 to the contents of register C
D and a counter C that counts the required number of digits n of the heir force root to be found.
NT and a step control STC for instructing calculation steps. Next, the operation of the arithmetic unit shown in FIG. 2 will be explained with reference to FIGS. 3 and 5.

第3図は、第2図の演算装置の動作を示すフローチヤー
トである。また、第5図は第2図に示す演算装置を用い
て、第1図に示す開平演算力式により2進数の10を開
平したとき、各レジスタの内容A,B,C,Dの変化を
ステツプごとに示した説明図である。なお、ステツプ1
2,3,3′,4,5は第3図のステツプ1,2,3,
3′,4,5に対応している,まず、レジスタAに被開
平数10をセツトするとともに、レジスタB,C,Dを
りセツトする(0にする)。次に、演算ステツプ1を実
行する。すなわち、レジスタAの最上位桁とBの最下位
桁とを接続し、これらのレジスタを左へ2桁(2ビツト
)シフトさせ、レジスタAの最下位桁にOをシフトイン
する。このようとすると第5図の例において、レジスタ
Aは00、レジスタBは10になる。次に、ステツプ2
を行なう。
FIG. 3 is a flowchart showing the operation of the arithmetic device of FIG. Furthermore, Fig. 5 shows the changes in the contents A, B, C, and D of each register when the arithmetic unit shown in Fig. 2 is used to square root a binary number 10 using the square root calculation power formula shown in Fig. 1. It is an explanatory diagram showing each step. In addition, step 1
2, 3, 3', 4, 5 are steps 1, 2, 3,
3', 4, and 5. First, register A is set to 10, and registers B, C, and D are reset (set to 0). Next, calculation step 1 is executed. That is, the most significant digit of register A and the least significant digit of register B are connected, these registers are shifted two digits (two bits) to the left, and O is shifted into the least significant digit of register A. In this case, in the example of FIG. 5, register A becomes 00 and register B becomes 10. Next, step 2
Do this.

このステツプ2ではレジスタCに加算器ADDで1を加
え(第5図の例ではC=0+l−1となる)、これとレ
ジスタBの内容とを比較器CMPで比較する。この比較
結果がB冫Cであれば、ステツプ3へ、B<Cであれば
、ステツプ3′へ進む。第5図の例では、B =10,
C=1でB冫Cなので、ステツプ3に進む。ステツプ3
においては、レジスタBの内容からレジスタCの内容を
減算器SUBで減算し(B−(B)−(C))、減算結
果をあらためてレジスタBにセツトする。
In step 2, 1 is added to register C by adder ADD (in the example of FIG. 5, C=0+1-1), and this is compared with the contents of register B by comparator CMP. If the result of this comparison is B - C, the process proceeds to step 3; if B<C, the process proceeds to step 3'. In the example of FIG. 5, B = 10,
Since C=1 and B is C, proceed to step 3. Step 3
, the contents of register C are subtracted from the contents of register B by subtractor SUB (B-(B)-(C)), and the result of the subtraction is set in register B again.

このようにすると、第5図の例ではB=10−1−1と
なる。これと同時にレジスタCに加算器ADDで1だけ
加算する(C−(0+1)とともにレジスタDの内容を
1だけ増加させる(D=(1))+1)。すなわちレジ
スタDの最下位ビツトを1にセツトする。このようにす
ると、C=1+1=10,D= 0 +1二1となる。
一力、B<Cのときはステツプ3が実行されるが(第5
図の例では、最初はこのステツプ3′には進まない)ス
テツプ3′ではレジスタCの内容を1だけ減じられる。
If this is done, B=10-1-1 in the example of FIG. At the same time, adder ADD adds 1 to register C (C-(0+1)) and increases the contents of register D by 1 (D=(1))+1). That is, the least significant bit of register D is set to 1. In this way, C=1+1=10, D=0+121.
If B<C, step 3 is executed (fifth step).
In the illustrated example, the program does not proceed to step 3' at first.) In step 3', the contents of register C are decremented by 1.

すなわち、最下位ビツトを0にりセツトすればよい。こ
れらのステツプ2,3,3′でレジスタCに1を加えて
レジスタBと比較する動作は、10進においては0〜9
種類の数値により試行しなければならないが、2進数で
演算を行なえば、第5図の例で示す如く 「O」「1」
の2種類の数しかあり得ず、「1」がだめなら「O」で
あり、しかも試行している桁の答も「O」か「1」しか
あり得ないため剰余はBそのもの(B−C米0)又は(
B−C米1)であるという簡単なロジツクとなつている
。以上のステツプ3(B<Cのときは、ステツプ3′)
までの処理が済んだ後、ステツプ4により演算の終了を
判定する。
That is, it is sufficient to set the least significant bit to 0. The operation of adding 1 to register C and comparing it with register B in steps 2, 3, and 3' corresponds to 0 to 9 in decimal notation.
You have to try different types of numerical values, but if you perform operations using binary numbers, you can get "O" and "1" as shown in the example in Figure 5.
There can only be two kinds of numbers, and if "1" is not possible, it is "O", and the answer of the digit being tried can only be "O" or "1", so the remainder is B itself (B - C rice 0) or (
It is a simple logic that B-C rice 1). Step 3 above (if B<C, step 3')
After the processing up to this point has been completed, the end of the calculation is determined in step 4.

これはカウンタCNTにて上記動作が何回繰返されたか
を計数し、必要な平方根の桁数n未満かどうかを判定す
るものである。そして、必要な桁数に達していない場合
にはステツプ5に移る。このステツプ5ではレジスタC
,Dの内容を左へ1ビツトシフトし、C,Dの最下位桁
に「O」をシフトインする。このようにすると、第5図
の例ではレジスタCは10−100となり、レジスタD
は卜峠10となる。その後ステツプ1に戻り、第5図の
例で示す如く上記の演算を必要な平力根桁数nが得られ
るまで繰返す。
This is to count how many times the above operation has been repeated by the counter CNT, and to determine whether or not the number of digits of the square root is less than the required number of square root digits. If the required number of digits has not been reached, the process moves to step 5. In this step 5, register C
, D are shifted one bit to the left, and "O" is shifted into the least significant digit of C and D. In this way, in the example of FIG. 5, register C becomes 10-100, and register D becomes 10-100.
becomes Bokutoge 10. Thereafter, the process returns to step 1, and as shown in the example of FIG. 5, the above calculation is repeated until the required number n of power root digits is obtained.

そしてカウンタCNTの計数値がnとなつたとき、ステ
ツプ6に移り、゛演算終了となる。このときのレジスタ
Dの値が2進数で示された平方根の数値になる。このよ
うに、上記実施例の演算の過程は、桁シフト(ビツトシ
フト)と加減算のみであるため、途中に種々の誤差は発
生せず、高精度、高速度でしかも安価で簡単な構成によ
り平力根を得ることができる。
When the count value of the counter CNT reaches n, the process moves to step 6, and the calculation ends. The value of register D at this time becomes the square root value expressed in binary. In this way, since the calculation process in the above embodiment is only digit shift (bit shift) and addition/subtraction, various errors do not occur during the process, and the calculation process is high precision, high speed, inexpensive, and simple. You can get roots.

とくに、電子計算機に適用する場合は、既に持つている
ハードウエア、フアームウエアに若干の追加変更を行う
だけですむので、その効果は大きい、この場合、他の四
則演算命令とあわせて、例えば被開平数を倍長語で与え
、根は単長語とすればよい。なお、第2図の構成では、
減算器SUBと比較器CMPとを各々設けているが、減
算器SUBl個のみを設け、これに比較器としての働き
を兼用させることができる。
In particular, when applied to electronic computers, it is very effective as it only requires a few additional changes to the existing hardware and firmware. The square root number can be given as a double word, and the root can be a single word. Note that in the configuration shown in Figure 2,
Although a subtracter SUB and a comparator CMP are provided, only SUBl subtracters can be provided and these can also serve as a comparator.

これにより回路素子を減らすことができる。また、求め
る平方根の必要桁数をnとしたとき、レジスタCを(n
+1)ビツト長にしておけばレジスタDを省略すること
ができる。すなわち、演算終了時レジスタCの内容はD
Cの2倍となつているので、一=σであり、従つゝ 2
て、レジスタCの内容を右へ1ビツト又はレジスタの最
上位桁と最下位桁とを接続してnビツトシフトすること
によりVAが求められる。
This allows the number of circuit elements to be reduced. Also, when the required number of digits for the square root to be found is n, register C is (n
+1) If the bit length is set, register D can be omitted. In other words, the contents of register C at the end of the operation are D.
Since it is twice C, 1 = σ, so 2
Then, VA is obtained by shifting the contents of register C to the right by 1 bit or by n bits by connecting the most significant digit and the least significant digit of the register.

電子計算機では、普通加減算の桁上け桁下げのため1ビ
ツトのレジスタがあるのでそれを使用すればよい。以上
の実施例の説明では、必要桁以後の計算を打切る(それ
以後の数値を切捨てる)場合を例にとつて求べたが、単
に切捨てずに、もう1桁計算後四捨五人することもでき
る。このように四捨五人を実行するとともにレジスタD
を省略した場合の動作を第4図のフローチヤートで示す
。この場合、レジスタA!′1tn米2ビツト、Bはn
ビツトレジスタ、Cは(n+1)ビツトレジスタであり
、Nは繰返し回数カウンタ、nは繰返し回数である。そ
してステツプ1〜ステツプ5までは第3図の場合と実質
的に同じであり、あらたにステツプ6A1及びステツプ
7が加えられている点が異なる。ステツプ6Aではレジ
スタCの内容を2で割ることにより、平方根を求め、さ
らにステツプ7で最下位桁の四捨五人を行なつている。
すなわち、n回の計算終了後、更にもう1桁計算すると
仮定すれば、ステツプ1においてレジスタAよりBにシ
フトインされるのは必ず2桁の「0」である(n回の計
算ですでにAの当初の内容はBに全部シフトインされて
いるからである。)またレジスタCの最下位桁は必ず「
O」になつており、その下に「O」又は「1」をセツト
したとき、Bと比較してどうなるかによりDにセツトす
る値を決めるが、Bの下2桁は「00」であるのでBの
下2桁、Cの下1桁を切捨てて比較し、(8)〉(C)
なら切上げ、(B)≦(C)なら切捨てとしても等価で
ある。このことからステツプ7にてBとCとの内容を比
較し、切上げ、切捨て操作を行なう。なお、取扱う数値
が浮動小数点の場合にも、次のようにして開平すること
ができる。
Electronic computers usually have a 1-bit register for carrying up and down in addition and subtraction, so you can use that. In the explanation of the above embodiment, we took as an example the case where calculations after the required digit are discontinued (values after that are rounded down), but instead of simply rounding down, it is also possible to round off after calculating one more digit You can also do it. In this way, execute the rounder and register D
The operation in the case where is omitted is shown in the flowchart of FIG. In this case, register A! '1tn rice 2 bits, B is n
The bit register C is an (n+1) bit register, N is a repeat number counter, and n is the repeat number. Steps 1 to 5 are substantially the same as in the case of FIG. 3, except that step 6A1 and step 7 are newly added. In step 6A, the contents of register C are divided by 2 to find the square root, and in step 7, the least significant digit is rounded off.
In other words, if we assume that one more digit is to be calculated after completing n calculations, what is always shifted into register B from register A in step 1 is a two-digit ``0'' (already in n calculations). (This is because the original contents of A have all been shifted into B.) Also, the least significant digit of register C is always "
O", and when "O" or "1" is set below it, the value to be set in D is determined depending on how it compares with B, but the last two digits of B are "00". Therefore, the last two digits of B and the last digit of C are rounded down and compared, (8)>(C)
It is equivalent to rounding up if (B)≦(C), and rounding down if (B)≦(C). Therefore, in step 7, the contents of B and C are compared and rounded up or rounded down. Note that even if the number to be handled is a floating point number, square rooting can be performed as follows.

浮動小数点は指数部と仮数部で表現される。Floating point numbers are represented by an exponent and a mantissa.

その平方根は、指数÷2とf頁数とになる。指数が偶数
の場合は、上記の実施例により阪数の平方根を求めれば
、同様に求められる。また指数が奇数の場合、偶数にな
るよう1桁小さく又は大きくし、その分を仮数の桁移動
により補正してから、仮数部の平方根をとり、指数部を
一にすればよい。指数部を2で割ることは右へ1ビツト
シフトすれば良く、このとぎ指数部をおくレジスタの最
下位桁からあふれてくるビツトが「1」(奇数)か「0
」(偶数)かにより仮数部の補正を行うか、行なわない
かを判定すればよい。仮数部の補正量は仮数が2進桁、
8進桁、16進桁で指定されている場合、夫々1ビツト
、3ビツト、4ビツトの桁移動を行なえばよい。叙上の
様に、この発明方式によれば、簡単な構成により、高精
度、高速度で平方根を得ることができる。
The square root is the index divided by 2 and the number of f pages. If the exponent is an even number, it can be found in the same way by finding the square root of the number according to the above embodiment. If the exponent is an odd number, the exponent may be made smaller or larger by one digit to make it an even number, corrected by shifting the mantissa, and then the square root of the mantissa is taken to make the exponent equal to one. To divide the exponent part by 2, it is enough to shift it one bit to the right, and the bits overflowing from the lowest digit of the register storing the exponent part are either "1" (odd number) or "0".
” (an even number), it may be determined whether or not to correct the mantissa part. The amount of correction for the mantissa is that the mantissa has binary digits,
When specified in octal digits or hexadecimal digits, digits may be shifted by 1 bit, 3 bits, or 4 bits, respectively. As described above, according to the method of this invention, square roots can be obtained with high precision and high speed with a simple configuration.

【図面の簡単な説明】[Brief explanation of the drawing]

第1図は2進数を用いて開平を筆算により実行した場合
を示す説明図、第2図は本発明に係る開平演算方式の実
施例を示すプロツク図、第3図はその動作を示すフロー
チヤート、第4図は他の実施例を示すフローチヤート、
第5図は第2図に示す演算装置で第1図の演算方式によ
り2進数の10を開平演算したときのレジスタの内容A
,B,C,Dの説明図である。 A,B,C,D・・・・・ルジスタ、ADD・・・・・
・加算器、CMP・・・・・・比較器、CNT・・・・
・・カウンタ、SUB・・・・・・減算器。
Fig. 1 is an explanatory diagram showing the case where square root is executed by hand calculation using binary numbers, Fig. 2 is a block diagram showing an embodiment of the square root calculation method according to the present invention, and Fig. 3 is a flowchart showing its operation. , FIG. 4 is a flowchart showing another embodiment,
Figure 5 shows the register contents A when the square root of a binary number 10 is calculated using the calculation method shown in Figure 1 using the calculation device shown in Figure 2.
, B, C, and D. A, B, C, D... Lujista, ADD...
・Adder, CMP... Comparator, CNT...
...Counter, SUB...Subtractor.

Claims (1)

【特許請求の範囲】 1 被開平数をセットした第1のレジスタの内容Aを最
上桁から2桁ずつ第2のレジスタにシフトインする第1
ステップと、前記第2のレジスタの内容Bと最下位桁に
1がセットされた第3のレジスタの内容Cとを比較する
第2ステップと、B≧Cのとき(B−C)を前記第2の
レジスタにセットするとともに、(C+1)を前記第3
のレジスタにセットし、B<Cのとき前記第3のレジス
タの内容Cを1だけ減じる第3のステップとを備え、前
記第1乃至第3のステップが所定の回数だけ繰り返され
ていないときは、前記第3のレジスタの内容Cを1桁だ
け上位桁へシフトして最下位桁に0をセットしたのち、
前記第1乃至第3のステップを繰り返して実行し、前記
第1乃至第3のステップが所定の回数だけ繰り返された
ときは、前記第3のレジスタに開平結果の2倍の演算結
果を生じるようにしたことを特徴とする開平演算方式。 2 第3のステップはB<Cのとき前記第3のレジスタ
の内容Cを1だけ減じ、第4のレジスタの内容Dに1を
セットするステップであり、前記第1乃至第3のステッ
プが所定の回数だけ繰り返されていないときは、前記第
3、第4のレジスタの内容C、Dをそれぞれ1桁ずつ上
位桁へシフトしてそれぞれの最下位桁に0をセットした
のち、前記第1乃至第3のステップを繰り返して実行し
、前記第1乃至第3のステップが所定の回数だけ繰り返
されたときは、前記第4レジスタに開平結果を生じるよ
うにした特許請求の範囲第1項記載の開平演算方式。
[Claims] 1. A first method for shifting the contents A of the first register, in which the arrangable fraction is set, into the second register two digits at a time starting from the most significant digit.
a second step of comparing the content B of the second register with the content C of the third register whose least significant digit is set to 1; 2 and set (C+1) to the third register.
and a third step of setting the content C in the third register by 1 when B<C, and when the first to third steps are not repeated a predetermined number of times. , after shifting the content C of the third register to the upper digit by one digit and setting 0 to the lowest digit,
The first to third steps are repeatedly executed, and when the first to third steps are repeated a predetermined number of times, an operation result twice the square root result is generated in the third register. A square root calculation method characterized by the following. 2 The third step is a step of subtracting the content C of the third register by 1 and setting the content D of the fourth register to 1 when B<C, and the first to third steps are If it is not repeated the number of times, shift the contents C and D of the third and fourth registers to the upper digits by one digit and set 0 to the lowest digit of each, and then Claim 1, wherein the third step is repeatedly executed, and when the first to third steps are repeated a predetermined number of times, a square root result is generated in the fourth register. Square root calculation method.
JP5824376A 1976-05-20 1976-05-20 Square root calculation method Expired JPS592055B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP5824376A JPS592055B2 (en) 1976-05-20 1976-05-20 Square root calculation method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP5824376A JPS592055B2 (en) 1976-05-20 1976-05-20 Square root calculation method

Publications (2)

Publication Number Publication Date
JPS52141146A JPS52141146A (en) 1977-11-25
JPS592055B2 true JPS592055B2 (en) 1984-01-17

Family

ID=13078664

Family Applications (1)

Application Number Title Priority Date Filing Date
JP5824376A Expired JPS592055B2 (en) 1976-05-20 1976-05-20 Square root calculation method

Country Status (1)

Country Link
JP (1) JPS592055B2 (en)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS60126962U (en) * 1984-02-03 1985-08-26 日本電気株式会社 flat display panel
JPS61139559U (en) * 1985-02-20 1986-08-29

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4734878A (en) * 1985-10-31 1988-03-29 General Electric Company Circuit for performing square root functions

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS60126962U (en) * 1984-02-03 1985-08-26 日本電気株式会社 flat display panel
JPS61139559U (en) * 1985-02-20 1986-08-29

Also Published As

Publication number Publication date
JPS52141146A (en) 1977-11-25

Similar Documents

Publication Publication Date Title
US5506799A (en) Booth array multiplying circuit having carry correction
US6138135A (en) Propagating NaNs during high precision calculations using lesser precision hardware
US4110831A (en) Method and means for tracking digit significance in arithmetic operations executed on decimal computers
US9009209B2 (en) Processor, control method of processor, and computer readable storage medium storing processing program for division operation
JP2502836B2 (en) Preprocessing device for division circuit
JP2822399B2 (en) Logarithmic function arithmetic unit
JPS592055B2 (en) Square root calculation method
JP5175983B2 (en) Arithmetic unit
JPH07107664B2 (en) Multiplication circuit
JP2645422B2 (en) Floating point processor
JP3415569B2 (en) Decimal data division method and program recording medium therefor
JPH0831024B2 (en) Arithmetic processor
JPS6129020B2 (en)
JP2777265B2 (en) High radix square root arithmetic unit
JPS623330A (en) Adder
JP4042215B2 (en) Arithmetic processing apparatus and method
JP3477866B2 (en) Divider division method
JPH0628153A (en) Low-error calculation processor
JP2508286B2 (en) Square root calculator
JP2790923B2 (en) Square root value calculation circuit
JP3539077B2 (en) Division method by parallel operation method
JPH07244578A (en) Method and device for dividing integer
JPH0242251B2 (en)
JP2000137701A (en) Product-sum operation error correcting method and product sum arithmetic unit
JPH0427587B2 (en)