WO2021106253A1 - 情報処理装置、プログラム、及び情報処理方法 - Google Patents

情報処理装置、プログラム、及び情報処理方法 Download PDF

Info

Publication number
WO2021106253A1
WO2021106253A1 PCT/JP2020/024260 JP2020024260W WO2021106253A1 WO 2021106253 A1 WO2021106253 A1 WO 2021106253A1 JP 2020024260 W JP2020024260 W JP 2020024260W WO 2021106253 A1 WO2021106253 A1 WO 2021106253A1
Authority
WO
WIPO (PCT)
Prior art keywords
digits
calculation
precision
computers
extended
Prior art date
Application number
PCT/JP2020/024260
Other languages
English (en)
French (fr)
Inventor
下村　克則
紀成 田口
顕 川崎
礼貴 山本
Original Assignee
株式会社コアコンセプト・テクノロジー
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 株式会社コアコンセプト・テクノロジー filed Critical 株式会社コアコンセプト・テクノロジー
Priority to EP20891904.3A priority Critical patent/EP4068080A4/en
Priority to US17/056,367 priority patent/US11334317B2/en
Priority to JP2020542917A priority patent/JP6810437B1/ja
Priority to TW109141100A priority patent/TWI753668B/zh
Publication of WO2021106253A1 publication Critical patent/WO2021106253A1/ja

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F7/00—Methods or arrangements for processing data by operating upon the order or content of the data handled
    • G06F7/38—Methods or arrangements for performing computations using exclusively denominational number representation, e.g. using binary, ternary, decimal representation
    • G06F7/48—Methods or arrangements for performing computations using exclusively denominational number representation, e.g. using binary, ternary, decimal representation using non-contact-making devices, e.g. tube, solid state device; using unspecified devices
    • G06F7/483—Computations with numbers represented by a non-linear combination of denominational numbers, e.g. rational numbers, logarithmic number system or floating-point numbers
    • G06F7/485—Adding; Subtracting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F7/00—Methods or arrangements for processing data by operating upon the order or content of the data handled
    • G06F7/38—Methods or arrangements for performing computations using exclusively denominational number representation, e.g. using binary, ternary, decimal representation
    • G06F7/48—Methods or arrangements for performing computations using exclusively denominational number representation, e.g. using binary, ternary, decimal representation using non-contact-making devices, e.g. tube, solid state device; using unspecified devices
    • G06F7/483—Computations with numbers represented by a non-linear combination of denominational numbers, e.g. rational numbers, logarithmic number system or floating-point numbers
    • G06F7/487—Multiplying; Dividing
    • G06F7/4876—Multiplying
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F7/00—Methods or arrangements for processing data by operating upon the order or content of the data handled
    • G06F7/38—Methods or arrangements for performing computations using exclusively denominational number representation, e.g. using binary, ternary, decimal representation
    • G06F7/48—Methods or arrangements for performing computations using exclusively denominational number representation, e.g. using binary, ternary, decimal representation using non-contact-making devices, e.g. tube, solid state device; using unspecified devices
    • G06F7/499—Denomination or exception handling, e.g. rounding or overflow
    • G06F7/49942—Significance control
    • G06F7/49989—Interval arithmetic
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/30—Arrangements for executing machine instructions, e.g. instruction decode

Definitions

  • This technology relates to information processing devices, programs, and information processing methods that perform numerical calculations. This application claims priority on the basis of Japanese Patent Application No. Japanese Patent Application No. 2019-214678 filed on November 27, 2019 in Japan. It will be used.
  • Numerical calculation is a calculation or method for numerically solving a problem that is difficult to solve analytically, and a floating-point arithmetic by a computer is usually used for the calculation.
  • IEEE Institute of Electrical and Electronics Engineers
  • Floating-point arithmetic has some drawbacks, such as overflow / underflow, digit loss, information loss, leftovers, and rounding error. Therefore, at the ⁇ m level, no major problem occurred even in double-precision floating-point arithmetic, but at the nm level, there is a concern that the number of significant digits may be insufficient. Furthermore, if a series of higher-order polynomials is used, it is assumed that calculation errors are likely to occur.
  • This technology has been proposed in view of such conventional circumstances, and provides an information processing device, a program, and an information processing method capable of easily performing numerical calculation with guaranteed accuracy.
  • the information processing apparatus has an input unit for inputting the number of high-precision computers in which the real number A and the real number B are defined in the following equations (11) and (12), respectively, and the number of high-precision computers.
  • a storage unit for storing, calculated using the determined number a 1, b 1 of the high number of precision computer stored in the storage unit, the following (13) extended absolute number of significant digits so as to satisfy the formula (gamma + gamma ') It is provided with a calculation unit that determines and stores the number of high-precision computers of the calculation result in the storage unit.
  • the program according to the present technology stores the input step for inputting the number of high-precision computers in which the real number A and the real number B are defined in the following equations (11) and (12), respectively, and the number of high-precision computers.
  • the information processing method includes an input step for inputting a number of high-precision computers in which real numbers A and B are defined by the following equations (11) and (12), and the number of high-precision computers.
  • a storing step of storing in the storage unit said storage confirmation number of the number of high-precision computer stored in section a 1, b 1 is calculated using the following (13) extended absolute number of significant digits so as to satisfy the equation (gamma + gamma ′) Is determined, and the number of high-precision computers of the calculation result is stored in the storage unit.
  • a 1 and b 1 are fixed numbers whose numerical values are fixed, and a 2 and b 2 are uncertain numbers whose numerical values are not fixed.
  • C indicates the radix.
  • h a + h a ', h b + h b' are each
  • ⁇ C hb + hb' is the smallest expansion digits satisfying describes the extension maximum number of digits
  • h a, h b indicates the maximum number of digits which is an integer
  • h a ′ and h b ′ indicate the number of decimal places which is a decimal number of 0 ⁇ h a ′ ⁇ 1, 0 ⁇ h b ′ ⁇ 1, respectively.
  • e a + e a ′, e b + e b ′, ⁇ + ⁇ ′ indicate the number of extended absolute effective digits, which is the number of extended digits
  • e a , e b , ⁇ indicate the number of absolute effective digits which are integers
  • e a ′, e b ′ and r ′ indicate the number of decimal places, which is a decimal number of 0 ⁇ e a ′ ⁇ 1,0 ⁇ e b ′ ⁇ 1,0 ⁇ r ′ ⁇ 1, respectively.
  • (A, B) are the calculation results of the real numbers A and B
  • (a, b) 1 is the calculation result of the fixed numbers a 1 and b 1
  • (a, b) 2 is the uncertain number a 2 , a calculation result of b 2.
  • FIG. 1 is a block diagram showing a functional configuration of an information processing device according to the present technology.
  • FIG. 2 is a diagram showing the relationship between the real number and the number of computers.
  • FIG. 3 is a diagram for explaining a buffer for storing the number of computers.
  • FIG. 4 is a block diagram showing a hardware configuration for exerting the functions of the information processing device.
  • FIG. 6 is a diagram for explaining a method of obtaining the minimum integer r such that C m + ⁇ + C ⁇ + m + C m + n ⁇ C r.
  • FIG. 7 is an example of expressing the number of computers in C language.
  • FIG. 1 is a block diagram showing a functional configuration of an information processing device according to the present technology.
  • FIG. 2 is a diagram showing the relationship between the real number and the number of computers.
  • FIG. 3 is a diagram for
  • FIG. 8 is an example in which the formats of multiplication, addition, and division of the number of computers are expressed in C language.
  • FIG. 9 is an example of a program for calculating the Rump formula in C language.
  • FIG. 10 is an example in which the program example shown in FIG. 9 is converted into a program using the number of computers.
  • FIG. 11 is a diagram showing an example of bit representation of the calculation result of the positive portion f1.
  • FIG. 12 is a diagram showing an example of bit representation of the calculation result of the negative portion f2.
  • FIG. 13 is a diagram showing an example of bit representation of the calculation result of the difference f.
  • FIG. 15 is a block diagram showing a functional configuration of the information processing apparatus according to the second embodiment of the present technology.
  • FIG. 16 is a diagram showing the relationship between the real number and the number of high-precision computers.
  • FIG. 17 is an example of a numerical representation of a number of high-precision computers by a computer.
  • FIG. 18 is an example of the definition of the number of high-precision computers.
  • FIG. 20 is a diagram for explaining how to obtain the decimal digit number h'of the extended maximum digit number.
  • FIG. 20 is a diagram for explaining how to obtain the decimal digit number h'of the extended maximum digit number.
  • FIG. 21 is a diagram showing 32 bits extracted for obtaining the decimal digit number h'of the extended maximum digit number.
  • FIG. 22 is a diagram for explaining an 8-bit- ⁇ 'table.
  • FIG. 24 is a diagram for explaining a specific calculation method of supC ⁇ ' + supC ⁇ + ⁇ '.
  • FIG. 25 is a diagram for explaining the position of a fixed number of addition of two high-precision computers.
  • FIG. 26 is a diagram for explaining the trim processing.
  • FIG. 27 is a diagram showing an example of an extended digit addition table.
  • FIG. 28 is a diagram for explaining the position of the fixed number (b 1 / a 1 ) of the division of the number of high-precision computers.
  • FIG. 30 is a diagram for explaining a specific calculation method of infC ⁇ '- supC ⁇ + ⁇ '.
  • FIG. 31 is a diagram showing a double precision floating point representation.
  • FIG. 32 is a diagram showing an example in which the decimal number “0.1” is bit-represented by the number of high-precision computers.
  • FIG. 33 is a diagram showing an example in which the decimal number “1.1” is bit-represented by the number of high-precision computers.
  • FIG. 34 shows an example of the result of calculating "0.1 + 1.1" using the number of high-precision computers after converting the decimal numbers "0.1” and "1.1” into the number of high-precision computers. It is a figure.
  • FIG. 35 is a diagram showing an example of the result of calculating a decimal number “0.1 ⁇ 1.1” with a floating point number and converting it into a high-precision computer number.
  • FIG. 36 is a diagram showing an example in which the decimal number “0.000000001” is expressed in bits by a high-precision computer number.
  • FIG. 37 is a diagram showing an example in which the decimal number “1.0” is bit-represented by the number of high-precision computers.
  • FIG. 35 is a diagram showing an example of the result of calculating a decimal number “0.1 ⁇ 1.1” with a floating point number and converting it into a high-precision computer number.
  • FIG. 36 is a diagram showing an example in which the decimal number “0.000000001” is expressed
  • FIG. 39 is a diagram showing an example of a result obtained by performing a calculation of adding "0.000000001” to "1.0” 100 times in floating point and converting the result into a high-precision computer number.
  • FIG. 40 is an example of the result of converting the decimal numbers “0.1” and “1.1” into the number of high-precision computers and calculating “0.1 ⁇ 1.1” using the number of high-precision computers. It is a figure which shows.
  • FIG. 41 is a diagram showing an example of the result of calculating a decimal number “0.1 ⁇ 1.1” with a floating point number and converting it into a high-precision computer number.
  • FIG. 42 is a diagram showing an example of the result of calculating the decimal number “0.000000001” by multiplying “1.1” 100 times by the number of high-precision computers.
  • FIG. 43 is a diagram showing an example of the result of converting the decimal numbers “1” and “3” into the number of high-precision computers and calculating “1/3” using the number of high-precision computers.
  • FIG. 44 is a diagram showing an example in which the decimal number “0.1”, which is the denominator, is expressed in bits by the number of high-precision computers.
  • FIG. 41 is a diagram showing an example of the result of calculating a decimal number “0.1 ⁇ 1.1” with a floating point number and converting it into a high-precision computer number.
  • FIG. 42 is a diagram showing an example of
  • FIG. 45 is a diagram showing an example in which the decimal number “1”, which is a molecule, is expressed in bits by a high-precision computer number.
  • FIG. 46 is a diagram showing an example of the result of calculating “1 ⁇ 0.1” using the number of high-precision computers.
  • FIG. 47 is a diagram showing an example in which the decimal number “0.1”, which is the denominator, is expressed in bits by the number of high-precision computers.
  • FIG. 48 is a diagram showing an example in which the decimal number “0.2”, which is a numerator, is expressed in bits by a high-precision computer number.
  • FIG. 49 is a diagram showing an example of the result of calculating “0.2 ⁇ 0.1” using the number of high-precision computers.
  • FIG. 1 is a block diagram showing a functional configuration of an information processing device according to the present technology.
  • the information processing apparatus includes an input unit 11 for inputting the number of computers in which the real number A and the real number B are defined in the following equations (1) and (2), and a storage for storing the number of computers.
  • a calculation is performed using the unit 12 and the fixed numbers a 1 and b 1 of the number of computers stored in the storage unit 12, the absolute effective digit number ⁇ is determined so as to satisfy the following equation (3), and the computer of the calculation result is obtained.
  • a calculation unit 13 for storing a number in the storage unit 12 is provided.
  • a 1 and b 1 are fixed numbers whose numerical values are fixed, and a 2 and b 2 are uncertain numbers whose numerical values are not fixed.
  • C indicates the radix.
  • h a, h b are each
  • e a , e b , and ⁇ indicate the number of significant significant digits that are integers.
  • (A, B) are the calculation results of the real numbers A and B
  • (a, b) 1 is the calculation result of the fixed numbers a 1 and b 1
  • (a, b) 2 is the uncertain number a 2 , a calculation result of b 2.
  • the radix C of the number of computers is not particularly limited, but is preferably any of 2, 8, or 16. This makes it possible to verify the calculation of binary numbers, octal numbers, or hexadecimal numbers used in general-purpose computers.
  • FIG. 2 is a diagram showing the relationship between the real number and the number of computers.
  • the number of computers (a + b) is based on the idea of the uncertainty principle , in which the real number A is in the range of a-C ⁇ ⁇ A ⁇ a + C ⁇ . ..
  • the fixed number a is a numerical value that is valid up to the absolute significant digit (minimum digit), and the numerical value is guaranteed.
  • the absolute number of significant digits indicates the number of reliable digits after the decimal point, and is the value of ⁇ at which the error is C ⁇ .
  • the input unit 11 inputs the number of computers in which the real number A and the real number B are defined by the following equations (1) and (2), respectively.
  • a 1 and b 1 are fixed numbers whose numerical values are fixed, and a 2 and b 2 are uncertain numbers whose numerical values are not fixed.
  • C indicates the radix.
  • h a, h b are each
  • e a , e b , and ⁇ indicate the number of significant significant digits that are integers.
  • the input unit 11 is, for example, an array of a sign (sign), a highest digit (high order max), a lowest digit (low order max), an absolute effective digit number (absolute effective digit), and an array. Enter the number of computers for which the number of array is set.
  • the storage unit 12 is for storing the number of computers and is a so-called buffer.
  • the buffer is secured based on the most significant digit and the least significant digit input by the input unit 11.
  • FIG. 3 is a diagram for explaining a buffer for storing the number of computers.
  • the calculation unit 13 calculates using the fixed numbers a 1 and b 1 of the number of computers stored in the storage unit 12, determines the absolute number of effective digits r so as to satisfy the following equation (3), and determines the absolute number of effective digits r of the calculation result.
  • the number of computers is stored in the storage unit 12.
  • C represents a radix.
  • ⁇ is an exponential part and is an absolute number of significant digits.
  • (A, B) are the calculation results of the real numbers A and B,
  • (a, b) 1 is the calculation result of the fixed numbers a 1 and b 1 , and
  • (a, b) 2 is the uncertain number a 2 , This is the calculation result of b 2.
  • the calculation of the number of computers is calculated assuming that the real number A and the real number B are in the range of a 1- C ea ⁇ A ⁇ a 1 + C ea and b 1- C eb ⁇ B ⁇ b 1 + C eb , respectively. Since it is a thing and the calculation result is also the number of computers, the equation (3) is satisfied.
  • the fixed numbers a 1 , b 1 and the uncertain numbers a 2 , b 2 are separated, the fixed numbers a 1 , b 1 are calculated as they are, and the absolute significant digits r of the calculation result are calculated according to various conditions. decide.
  • the maximum number of absolute significant digits can be specified in the calculation of the number of computers.
  • the absolute number of significant digits can be specified for division and functions such as root, sin, and cos. As a result, it is possible to guarantee a numerical value equal to or greater than the absolute number of significant digits.
  • the calculation of the number of computers can be considered as a special pattern of interval calculation.
  • the interval arithmetic indicates a real number in a range and strictly calculates the four arithmetic operations on the range
  • the four arithmetic operations on the number of computers differ in that the error is controlled by the number of absolute significant digits.
  • the concept of interval arithmetic and the starting point are different in the first place. Therefore, the calculation of the number of computers itself is simpler than the interval calculation, and the evaluation of the error (unclear part) is regarded as the absolute number of significant digits to simplify the calculation.
  • the information processing apparatus converts a real numerical value calculation program into a computer number numerical calculation program, executes the computer number numerical calculation program, and stores the number of computers of the calculation result in the calculation unit 13 in the storage unit 12. It is preferable that the portion 14 is further provided. This makes it possible to keep a history of the absolute significant digits of each variable during execution of the computer number numerical calculation program, and to check whether or not the required absolute significant digits are finally obtained. .. It is also possible to back-calculate the absolute significant digits of the value of each variable required to obtain the calculation of the absolute significant digits to be obtained.
  • FIG. 4 is a block diagram showing a hardware configuration for exerting the functions of the information processing device.
  • the information processing apparatus includes a CPU (Central Processing Unit) 21 that performs program execution processing, a GPU (Graphics Processing Unit) 22 that performs arithmetic processing, and a ROM that stores a program executed by the CPU 21.
  • CPU Central Processing Unit
  • GPU Graphics Processing Unit
  • ROM Read Only Memory
  • RAM Random Access Memory
  • an operation input unit 25 for receiving various input operations by the user
  • a storage 26 for fixedly storing programs and data. It has an input / output interface 27 for inputting / outputting data. That is, the information processing device 2 shown in FIG. 4 is a so-called computer.
  • the CPU 21 can process the calculation unit 13 and the control unit 14 in the functional configuration shown in FIG. 1, calculates the number of computers with the computer number calculation library, and stores the number of computers of the calculation result in the storage unit 12. Further, the CPU 21 controls the operation of each block by reading, for example, a numerical calculation program for the number of computers recorded in the storage 26, expanding the program in the RAM 24, and executing the program.
  • the GPU 22 has a video memory (VRAM), can perform drawing processing and calculation processing according to a request from the CPU 21, and may calculate the number of computers by the computer number calculation library.
  • the ROM 23 is, for example, a non-volatile memory that can only be read, and stores information such as constants required for the operation of each block of the information processing device 2.
  • the RAM 24 is a volatile memory, and is used not only as an expansion area for an operation program but also as a storage area for temporarily storing intermediate data and the like output in the operation of each block of the information processing device 2.
  • the operation input unit 25 is a user interface that can process the input unit 11 in the functional configuration shown in FIG. 1 and is used when performing an input operation on the information processing device.
  • the operation input unit 25 outputs an instruction such as execution or stop of the numerical calculation program processing to the CPU 21 according to the input operation of the user.
  • the storage 26 records a numerical calculation program or the like developed in the RAM 24.
  • an HDD Hard disk drive
  • an SSD Solid State Drive
  • an optical drive or the like can be used.
  • the input / output interface 27 can output the image generated by the GPU 22 to the display device.
  • the functional configuration shown in FIG. 1 can be realized by linking software executed by the CPU 21, GPU 22, ROM 23, RAM 24, CPU 21, and the like. Further, the software program may be stored in a recording medium such as an optical disk or a semiconductor memory and distributed, or may be downloaded via the Internet or the like.
  • a 1 and b 1 are fixed numbers whose numerical values are fixed, and a 2 and b 2 are uncertain numbers whose numerical values are not fixed.
  • C indicates the radix.
  • h a, h b are each
  • e a , e b , and ⁇ indicate the number of significant significant digits that are integers.
  • m, n, and r will be used instead of the absolute significant digits e a , e b, and ⁇ , respectively.
  • a + B (a 1 + b 1 ) + (A + B) 2
  • (A 1 + b 1) is a number determined, (A + B) 2 is indeterminate number satisfies -C r ⁇ (A + B) 2 ⁇ C r, r is the absolute number of significant digits.
  • the minimum digit of the fixed number (a 1 + b 1 ) may be smaller than the absolute significant digits. The following will be described by dividing the pattern according to the code of (a 1 + b 1).
  • a and B are both positive.
  • a 1 ⁇ C ⁇ ; ⁇ is the smallest integer for which the inequality sign holds.
  • . b 1 ⁇ C ⁇ ; ⁇ is the smallest integer for which the inequality sign holds.
  • a x B a 1 b 1 + (A x B) 2 a 1 b 1 is determined number, (A ⁇ B) 2 is indeterminate number satisfies -C r ⁇ (A ⁇ B) 2 ⁇ C r, r is the absolute number of significant digits. The smallest digit of the fixed number a 1 b 1 may be smaller than the number of significant digits.
  • FIG. 6 is a diagram for explaining a method of obtaining the minimum integer r such that C m + ⁇ + C ⁇ + m + C m + n ⁇ C r. 6, each frame represents the position of the 2-bit sequence, a white circle a is C m + ⁇ , C ⁇ + m, indicates the bit position of C m + n, black circle b indicates the bit position of C r, dotted circle c This bit Indicates that it is vacant.
  • C m + ⁇ + C ⁇ + m + C m + n C r.
  • FIG. 7 is an example in which the number of computers is expressed in C language
  • FIG. 8 is an example in which the forms of multiplication, addition, and division of the number of computers are expressed in C language.
  • the number of computers includes the sign s (sign), the most significant digit h (high order max), the least significant digit l (low order max), and the absolute effective digit e (absolute effective digit). It is defined by the number of array n (number of array) and the array a.
  • the most significant digit h is a value such that
  • the least significant digit l is the minimum digit of a fixed number in binary.
  • the absolute significant digit e is the smallest integer such that -2 e ⁇ indeterminate number ⁇ 2 e.
  • the number of arrays n is the number of unsigned integers that store fixed numbers.
  • Array a is an array of unsigned integers that stores fixed numbers.
  • the number of significant digits k is the smallest integer such that (log 2
  • the multiplication, addition, and division of the number of computers shown in FIG. 8 uses the number of computers as a variable. It is necessary to set the absolute number of significant digits for division.
  • FIG. 9 shows an example of a program for calculating the Rump formula in C language
  • FIG. 10 shows the program shown in FIG. 9 converted into a program using the number of computers.
  • the positive part f1 and the negative part f2 were calculated, and the difference f was calculated.
  • the absolute number of significant digits was set to -200.
  • FIG. 11 is a diagram showing a bit representation of the calculation result of the positive portion f1
  • FIG. 12 is a diagram showing a bit representation of the calculation result of the negative portion f2
  • FIG. 13 is a diagram showing the calculation result of the difference f. It is a figure which shows the bit representation.
  • the calculation result of the difference f is ⁇ 0.8273960599 ..., Which is slightly different from the true value, but is very superior to the calculation on S / 370. [Calculation of series]
  • 1 / (1-x) 1-x + x 2 + ... + (-1) n x n ... (-1 ⁇ x ⁇ 1)
  • 1-1 / (1-x) 1-x + x 2 + ... + (-1) n x n ... (-1 ⁇ x ⁇ 1)
  • Table 1 shows the calculation results using double-precision floating point. There was no change in the error depending on the value of ⁇ . Since each term of the series in the middle is also a sum of smaller values than the initial value when calculating the sum of the series, it can be seen that the number of significant digits is smaller than the initial value. Even if you use double-precision floating point numbers, you may not be good at calculating the sum of series. On the other hand, in the calculation of the number of computers, the number of significant digits was -500 and the calculation was 0.
  • the absolute number of significant digits is about 3 plus, so if the multiplication is repeated, the accuracy of the number of computers will drop sharply. Further, even in addition with different absolute significant digits, the absolute significant digits are always +1. Therefore, if the addition is repeated, the accuracy will surely decrease.
  • the number of high-precision computers is used instead of the number of computers in the first embodiment.
  • the number of extended digits (maximum number of extended digits, number of extended absolute significant digits) ( ⁇ + ⁇ ') is used instead of the number of digits of the number of computers (maximum number of digits, absolute significant digits).
  • ⁇ is an integer, and this value is the number of digits.
  • ⁇ ' is a decimal digit number that is a decimal number of 0 ⁇ ⁇ ′ ⁇ 1, and for example, ⁇ ′ can be a / 2 n (0 ⁇ a ⁇ 2 n ).
  • the extended absolute significant digits are an integer.
  • the number of decimal digits of the extended absolute significant digits can suppress the decrease in accuracy when the four arithmetic operations are repeated, and is very effective especially when there is a difference in the absolute significant digits.
  • FIG. 15 is a block diagram showing a functional configuration of the information processing apparatus according to the second embodiment of the present technology.
  • the information processing apparatus includes an input unit 31 for inputting the number of high-precision computers in which the real number A and the real number B are defined by the following equations (11) and (12), and the number of high-precision computers.
  • the number of high-precision computers stored in the storage unit 32 and the fixed number a 1 and b 1 of the high-precision computer stored in the storage unit 32 are used for calculation, and the number of extended absolute effective digits ( ⁇ + ⁇ ′) is extended so as to satisfy the following equation (13). ),
  • a calculation unit 33 for storing the number of high-precision computers of the calculation result in the storage unit 32.
  • a 1 and b 1 are fixed numbers whose numerical values are fixed, and a 2 and b 2 are uncertain numbers whose numerical values are not fixed.
  • C indicates the radix.
  • h a + h a ', h b + h b' are each
  • ⁇ C hb + hb' is the smallest expansion digits satisfying describes the extension maximum number of digits
  • h a, h b indicates the maximum number of digits which is an integer
  • h a ′ and h b ′ indicate the number of decimal places which is a decimal number of 0 ⁇ h a ′ ⁇ 1, 0 ⁇ h b ′ ⁇ 1, respectively.
  • e a + e a ′, e b + e b ′, ⁇ + ⁇ ′ indicate the number of extended absolute effective digits, which is the number of extended digits
  • e a , e b , ⁇ indicate the number of absolute effective digits which are integers
  • e a ′, e b ′ and r ′ indicate the number of decimal places, which is a decimal number of 0 ⁇ e a ′ ⁇ 1,0 ⁇ e b ′ ⁇ 1,0 ⁇ r ′ ⁇ 1, respectively.
  • (A, B) are the calculation results of the real numbers A and B
  • (a, b) 1 is the calculation result of the fixed numbers a 1 and b 1
  • (a, b) 2 is the uncertain number a 2 , a calculation result of b 2.
  • the radix C of the number of computers is not particularly limited, but is preferably any of 2, 8, or 16. This makes it possible to verify the calculation of binary numbers, octal numbers, or hexadecimal numbers used in general-purpose computers.
  • the number of decimal digits h a ', h b', e a ', e b', r ' are each h a' / 2 n (0 ⁇ h a ⁇ 2 n), h b '/ 2 n (0 ⁇ h b ′ ⁇ 2 n ), e a ′ / 2 n (0 ⁇ e a ′ ⁇ 2 n ), e b ′ / 2 n (0 ⁇ e b ′ ⁇ 2 n ), r ′ / 2 n (0) ⁇ r' ⁇ 2 n ), n is preferably represented by a natural number.
  • n is preferably 32 or less, more preferably 16 or less, still more preferably 8 or less. Increasing n improves accuracy, but increases calculation costs. If the number of decimal places h a ′, h b ′, e a ′, e b ′, r ′ is set to 0, it is the number of computers according to the first embodiment.
  • FIG. 16 is a diagram showing the relationship between the real number and the number of high-precision computers.
  • the precision computer number (a 1 + a 2 ) has an uncertainty principle in which the real number A is in the range of a 1 ⁇ C ⁇ + ⁇ ′ ⁇ A ⁇ a 1 + C ⁇ + ⁇ ′.
  • the idea is as follows. Determine the number a 1 is a numerical value is valid until the extension absolute number of significant digits (least significant), numerical values is guaranteed.
  • the extended absolute significant digits indicate the reliable number of digits after the decimal point, and is the value of ⁇ + ⁇ 'where the error is C ⁇ + ⁇ '.
  • ⁇ ′ is the number of decimal places of 0 ⁇ ⁇ ′ ⁇ 1.
  • a 2 0 (the number of extended absolute significant digits is infinitesimal), it is the number of fixed computers whose numerical value is fixed, and otherwise it is the number of uncertain computers whose numerical value is not fixed.
  • the input unit 31 inputs the number of high-precision computers in which the real numbers A and B are defined by the following equations (11) and (12), respectively.
  • a 1 and b 1 are fixed numbers whose numerical values are fixed, and a 2 and b 2 are uncertain numbers whose numerical values are not fixed.
  • C indicates the radix.
  • h a + h a ', h b + h b' are each
  • ⁇ C hb + hb' is the smallest expansion digits satisfying describes the extension maximum number of digits
  • h a, h b indicates the maximum number of digits which is an integer
  • h a ′ and h b ′ indicate the number of decimal places which is a decimal number of 0 ⁇ h a ′ ⁇ 1, 0 ⁇ h b ′ ⁇ 1, respectively.
  • e a + e a ', e b + e b' indicates the number of extended absolute significant digits is extended digits, e a, e b represents the absolute number of significant digits is an integer, e a ', e b' are each Indicates the number of decimal places, which is a decimal number of 0 ⁇ e a ′ ⁇ 1, 0 ⁇ e b ′ ⁇ 1.
  • the input unit 31 has, for example, a sign, a maximum digit number h (high order max) which is the most significant digit, a fractional digit number h ′ (high order max sub) which is the maximum digit number, and a lowest digit.
  • the minimum number of digits l (low order max), the number of absolute effective digits e (effective digit), the number of fractional digits of the absolute effective digit e'(effective digit sub), the number of arrays a (number of array), etc. are set. Enter the number of high-precision computers that have been created.
  • the storage unit 32 is for storing the number of high-precision computers, and is a so-called buffer.
  • the buffer is secured based on the most significant digit h and the least significant digit l input by the input unit 31. For example, as shown in FIG. 3, the buffer can store a plurality of arrays in which data of the same type are arranged in a row.
  • the calculation unit 33 calculates using the fixed numbers a 1 and b 1 of the number of computers stored in the storage unit 32, determines the number of extended absolute significant digits ( ⁇ + ⁇ ′) so as to satisfy the following equation (13), and determines the number of extended absolute significant digits ( ⁇ + ⁇ ′).
  • the number of computers of the calculation result is stored in the storage unit 32.
  • C represents a radix.
  • ⁇ + ⁇ ′ indicates the number of extended absolute significant digits
  • ⁇ indicates the number of absolute significant digits which is an integer
  • ⁇ ′ indicates the number of decimal digits which is a decimal number of 0 ⁇ ⁇ ′ ⁇ 1.
  • (A, B) are the calculation results of the real numbers A and B
  • (a, b) 1 is the calculation result of the fixed numbers a 1 , b 1
  • (a, b) 2 is the uncertain number a 2 , a calculation result of b 2.
  • the number of operations precision computer, real A and real B are somewhere between a 1 -C ea + ea ' ⁇ A ⁇ a 1 + C ea + ea' and b 1 -C eb + eb ' ⁇ B ⁇ b 1 + C eb + eb' , respectively Since it is calculated assuming that it is within the range and the calculation result is also the number of high-precision computers, the equation (13) is satisfied.
  • the fixed numbers a 1 , b 1 and the uncertain numbers a 2 , b 2 are separated, the fixed numbers a 1 and b 1 are calculated as they are, and the extended absolute significant digits of the calculation result are calculated according to various conditions. Determine the number ( ⁇ + ⁇ ').
  • the number of significant digits k is the smallest integer such that log C
  • the calculation unit 33 can set the minimum number of extended digits satisfying the following equation (14) as the number of extended absolute significant digits.
  • the calculation unit 33 can set the minimum number of extended digits satisfying the following equation (15) as the number of extended absolute significant digits.
  • the calculation unit 33 trims the fixed number of supC ⁇ + ⁇ ′ + supC ⁇ + ⁇ ′ ⁇ infC ⁇ + ⁇ ′ based on the difference of infC ⁇ + ⁇ ′ ⁇ (supC ⁇ + ⁇ ′ + supC ⁇ + ⁇ ′). As a result, it is possible to suppress the calculation cost when the calculation is repeated.
  • the information processing apparatus converts a real numerical calculation program into a numerical calculation program of a high-precision computer number, executes a numerical calculation program of a high-precision computer number, and stores the number of computers of the calculation result in the calculation unit 33. It is preferable to further include a control unit 34 to be stored in the computer. Specifically, it is preferable to convert the floating point representation into a precision computer number. This makes it possible to keep a history of the extended absolute significant digits of each variable during execution of a high-precision computer number numerical calculation program, and check whether the required extended absolute significant digits can be finally obtained. can do. It is also possible to back-calculate the absolute significant digits of the value of each variable required to obtain the extended absolute significant digit calculation to be obtained.
  • the information processing apparatus can include, for example, the hardware configuration shown in FIG. 4, as in the first embodiment.
  • the functional configuration shown in FIG. 15 can be realized by linking software executed by the CPU 21, GPU 22, ROM 23, RAM 24, CPU 21, and the like.
  • the software program may be stored in a recording medium such as an optical disk or a semiconductor memory and distributed, or may be downloaded via the Internet or the like.
  • the functional configuration shown in FIG. 15 may be incorporated into the FPGA (Field Programmable Gate Array).
  • FIG. 17 is an example of the numerical representation of the number of high-precision computers by a computer
  • FIG. 18 is an example of the definition of the number of high-precision computers.
  • the first header portion has a 1-bit code s and a 7-bit array a size.
  • the second header part includes a 16-bit maximum digit number h, an 8-bit maximum digit number decimal digit number h', a 16-bit minimum digit number l, a 16-bit absolute effective digit number e, and 8 It has a decimal digit number e'of the absolute effective digit number of the bit.
  • a signed 16-bit integer can be used for the maximum number of digits (most significant digit) h, the minimum number of digits (lowest digit) l, and the absolute number of significant digits (significant digits) e. Since the signed 16-bit integer is ⁇ 32768, it can be sufficiently expressed. When the absolute number of significant digits e is -32768 (1000000000000000000 in binary notation), the error is considered to be 0.
  • an unsigned 8-bit integer such as an unsigned char variable in C language can be used.
  • the number of decimal places h'of the maximum number of digits is 0, there are two meanings.
  • the size of the array a does not change in the number of high-precision computers, but the minimum value of the array a is exceptionally set to 0. When the number of computers is other than 0, the 0th bit of the array a is always 1.
  • FIG. 20 is a diagram for explaining how to obtain the decimal digit number h'of the extended maximum digit number
  • FIG. 21 is a diagram of 32 bits extracted for obtaining the decimal digit number h'of the extended maximum digit number. It is a figure which shows. Here, it is assumed that the maximum number of digits h and the minimum number of digits l are fixed. The maximum number of digits h represents the highest digit when the array a is a bit string, and the minimum number of digits l represents the lowest digit when the array a is a bit string.
  • 32 bits are extracted from the beginning of the effective bit length.
  • the geta value is set to 1, and when it is 32 bits or less, the geta value is set to 0.
  • FIG. 22 is a diagram for explaining an 8-bit- ⁇ 'table.
  • the upper ⁇ ' is checked from the 8-bit- ⁇ 'table to obtain C ⁇ 'having a lower limit value larger than 32 bits.
  • the above-mentioned extended digit number table is referred to and the lower limit value is higher than this. Find ⁇ 'and let it be h'.
  • a 1 and b 1 are fixed numbers whose numerical values are fixed, and a 2 and b 2 are uncertain numbers whose numerical values are not fixed.
  • C 2.
  • h a + h a ', h b + h b' are each
  • ⁇ 2 hb + hb' is the smallest expansion digits satisfying describes the extension maximum number of digits, h a, h b represents the maximum number of digits is an integer, h a ', h b' indicates the number of decimal places is h a '/ 256, h b ' / 256 , respectively.
  • e a + e a ', e b + e b' indicates the number of extended absolute significant digits is extended digits, e a, e b represents the absolute number of significant digits is an integer, e a ', e b' are each Indicates the number of significant digits, which is a decimal number of e a ′ / 256 and e b ′ / 256.
  • a + B is represented by the following formulas (21) to (23).
  • B is ⁇ C ⁇ 31 ⁇ B ⁇ C ⁇ 31 .
  • ⁇ ' is, ⁇ ' is / 2 8. Then, the minimum number of extended digits of C ⁇ + ⁇ ′ including the maximum possible value of C ⁇ ′ + C ⁇ + ⁇ ′ is obtained.
  • FIG. 24 is a diagram for explaining a specific calculation method of supC ⁇ ' + supC ⁇ + ⁇ '.
  • supC ⁇ 'and supC ⁇ + ⁇ ' represents a a 32-bit combined the least significant bit of supC ⁇ + ⁇ 'to the least significant bit of the 64-bit, performs calculations with unsigned 64-bit integer. This process does not exceed the 64-bit range.
  • supC ⁇ 'and supC ⁇ + ⁇ ' and the copies to 64-bit moving the supC ⁇ 'to the left - ⁇ bits. Then, the sum of these values is calculated. In the calculation of this sum, the first non-zero bit is obtained, and the position of the most significant bit of infC ⁇ is adjusted with respect to that bit.
  • the position of ⁇ + ⁇ is the position of the original number of digits, and the number of digits less than the number of digits of the difference moved from this position may be rounded down. That is, this difference is absorbed in the difference.
  • FIG. 25 is a diagram for explaining the position of a fixed number of addition of two high-precision computers.
  • the fixed number of addition of two computer numbers can be suppressed by the width of the uncertain number (supC ⁇ ′ + supC ⁇ + ⁇ ).
  • the number of extended digits ( ⁇ + ⁇ ') such that supC ⁇ ' + supC ⁇ + ⁇ ' ⁇ infC ⁇ + ⁇ 'is obtained.
  • FIG. 26 is a diagram for explaining the trim process. As shown in FIG. 26, the position from the position of ⁇ to the beginning of the shaded portion is offset.
  • the offset value means that the digits below the offset value from ⁇ may be ignored.
  • trim the ( ⁇ -offset) digit or less. As a result, it is possible to prevent the number of digits of the calculated value from becoming large.
  • the processing in this case performs the same processing as division which will be described later, with the difference ( ⁇ + ⁇ ') + 1/256 in the extended absolute number of significant digits and, C gamma + gamma' and C ⁇ + ⁇ '+ 1/ 256, Calculated Suppress the number of digits of.
  • the extended digit addition table is classified by ⁇ (integer from 0 to -32) and outputs ⁇ , ⁇ 'and the number of difference digits for ⁇ ', ⁇ '.
  • ⁇ 0, the case of ⁇ ' ⁇ ⁇ ', supC ⁇ '+ supC ⁇ + ⁇ ' ⁇ infC ⁇ + ⁇ ' to become extended digits ( ⁇ + ⁇ ') look, the difference (infC ⁇ + ⁇ '- ( supC ⁇ ' + supC ⁇ + ⁇ By evaluating ′ )), a table of ⁇ ′, ⁇ ′, ⁇ , ⁇ ′, and the number of digits of the difference is created.
  • FIG. 27 is a diagram showing an example of an extended digit addition table.
  • a 1 and b 1 are fixed numbers whose numerical values are fixed, and a 2 and b 2 are uncertain numbers whose numerical values are not fixed.
  • C 2.
  • h a + h a ', h b + h b' are each
  • ⁇ 2 hb + hb' is the smallest expansion digits satisfying describes the extension maximum number of digits, h a, h b represents the maximum number of digits is an integer, h a ', h b' indicates the number of decimal places is h a '/ 256, h b ' / 256 , respectively.
  • e a + e a ', e b + e b' indicates the number of extended absolute significant digits is extended digits, e a, e b represents the absolute number of significant digits is an integer, e a ', e b' are each Indicates the number of significant digits, which is a decimal number of e a ′ / 256 and e b ′ / 256.
  • a ⁇ B is represented by the following formula (31).
  • h a, h a ', h b, h b' each m a, m a ', m b, m b' will be described with referred to as.
  • the formula (31) is represented by the following formula (39), and the number of extended digits satisfying the formula (40) may be obtained.
  • the formula (31) is represented by the following formula (50), and the number of extended digits satisfying the formula (51) may be obtained.
  • the formula (31) is represented by the following formula (59), and the number of extended digits satisfying the formula (60) may be obtained.
  • the formula (31) is represented by the following formula (68), and the number of extended digits satisfying the formula (69) may be obtained.
  • a 1 and b 1 are fixed numbers whose numerical values are fixed, and a 2 and b 2 are uncertain numbers whose numerical values are not fixed.
  • C 2.
  • h a + h a ', h b + h b' are each
  • ⁇ 2 hb + hb' is the smallest expansion digits satisfying describes the extension maximum number of digits, h a, h b represents the maximum number of digits is an integer, h a ', h b' indicates the number of decimal places is h a '/ 256, h b ' / 256 , respectively.
  • e a + e a ', e b + e b' indicates the number of extended absolute significant digits is extended digits, e a, e b represents the absolute number of significant digits is an integer, e a ', e b' are each Indicates the number of significant digits, which is a decimal number of e a ′ / 256 and e b ′ / 256.
  • the equation (95) is referred to as the equation (96). Then, using the difference between C ⁇ + ⁇ 'and C ⁇ + ⁇ ' , trimming of the extended absolute significant digits is performed.
  • FIG. 28 is a diagram for explaining the position of the fixed number (b 1 / a 1 ) of the division of the number of high-precision computers.
  • ⁇ C ⁇ + ⁇ ′ -C ⁇ + ⁇ ′ Approximate b 1 / a 1 below.
  • the specific value of ⁇ is obtained as the infC ⁇ + ⁇ ⁇ ′ supC ⁇ + ⁇ ′ value.
  • ⁇ ' ⁇ 137 the offset value is 9, and when ⁇ '> 137, the offset value is 8.
  • B is ⁇ C ⁇ 31 ⁇ B ⁇ C ⁇ 31 .
  • ⁇ ' is, ⁇ ' is / 2 8.
  • the maximum number of extended digits of C ⁇ + ⁇ ′ including the minimum possible value of C ⁇ ′ + C ⁇ + ⁇ ′ is obtained.
  • C ⁇ + ⁇ ′ such that infC ⁇ ′ -supC ⁇ + ⁇ ′ ⁇ supC ⁇ + ⁇ ′ is obtained.
  • the difference (supC ⁇ + ⁇ ' -(infC ⁇ '- supC ⁇ + ⁇ ' )) is calculated.
  • FIG. 30 is a diagram for explaining a specific calculation method of infC ⁇ '- supC ⁇ + ⁇ '.
  • INFC alpha 'and supC ⁇ + ⁇ ' represents a a 32-bit combined the least significant bit of supC ⁇ + ⁇ 'to the least significant bit of the 64-bit, performs calculations with unsigned 64-bit integer. This process does not exceed the 64-bit range.
  • the double-precision floating-point representation was converted to the number of high-precision computers, and the calculation was performed using the number of high-precision computers.
  • the process of converting a double-precision floating-point representation to a high-precision computer number is performed by examining the sign and exponent part of the double-precision floating-point number and copying the mantissa part.
  • FIG. 31 is a diagram showing a double-precision floating-point representation
  • FIG. 32 is a diagram showing an example in which the decimal number "0.1" is bit-represented by a high-precision computer number.
  • sign (0) indicates a positive number
  • An (2) indicates that the number of 32-bit arrays used is “2”.
  • h (-4) indicates that the maximum number of digits is "-4”
  • h'(174) indicates that the extension part (decimal number of digits) of the maximum number of digits is "174”.
  • l (55) indicates that the least significant bit of the array a [0] is -55 digits in binary.
  • the mantissa part (fraction) of the double-precision floating-point representation is substituted as it is in the arrays a [1] and a [0].
  • the number of high-precision computers is right-justified.
  • the decimal number "0.1" is a value like the fourth line because an accurate value cannot be represented by a computer.
  • the first bit is the maximum number of digits h, and can be calculated from a double-precision floating-point representation.
  • the extension part (decimal number of digits) h'of the maximum number of digits can be obtained by referring to the above-mentioned extended digit number table.
  • the first 9 bits of the array (A) are "110011001", and the 8 bits after that are "101001".
  • the extension part h'with the maximum number of digits can be obtained.
  • “101001” is a decimal number of 153, and the 153rd (starting with 0) numerical value (174) of the "8-bit- ⁇ 'table" is read.
  • 2 174/256 is calculated to be 1.601279275568269339353793846241591.
  • the top 32 bits of the value of the array (A) is 3435973836, by dividing this value by 2 31, the head 1 bit of can be zero digit binary number. When this value is obtained, it is 1.5999999999927477097015380859375. Therefore, if the first digit of the array (A) is the 0th digit of the binary number, it can be seen that the array (A) can be suppressed by 2 174/256. Since the beginning of the array (A) is -4 in binary digits, it can be seen that 0.1 ⁇ 2 -4 + 174/256 is satisfied.
  • FIG. 33 is a diagram showing an example in which the decimal number “1.1” is expressed in bits by the number of high-precision computers
  • FIG. 34 is a diagram showing the decimal numbers “0.1” and “1.1” in the high-precision computer. It is a figure which shows an example of the result of having calculated "0.1 + 1.1” using the number of high-precision computers after conversion into a number.
  • h (0) and h'(68) indicate that 1.2 ⁇ 2 68/256 .
  • the following calculation result is obtained, and it can be seen that 267/256 ⁇ 0.1 ⁇ 2 68/256.
  • 2 67/256 1.19890616707438048177...
  • 2 68/256 1.2021567314527031420 ...
  • the extended absolute significant digits e (-53) and e'(23) of the calculation result are the extended absolute significant digits e (-57) and e'(0) of the number of high-precision computers of "0.1".
  • extended absolute number of significant digits e (-53) accurate number of computers of "1.1”, e '(0) by using a, 2 -53 + 22/256 ⁇ 2 -57 +2 -53 ⁇ 2 -53 + 23 It shows that it is / 256.
  • 2 22/256 1.061377227289262 ...
  • the offset value of the extended digit addition table is 10.
  • the number after the decimal point is ".0000000001******", and the part after "1******" can be truncated. This indicates that the binary number may be rounded down from the -53rd digit to the 10th digit or less.
  • the minimum number of digits l is -55 digits, which is less than or equal to the absolute number of significant digits e (-53).
  • a binary number of -55 digits or less is originally 0.
  • FIG. 35 is a diagram showing an example of the result of calculating a decimal number "0.1 ⁇ 1.1" with a floating point number and converting it into a high-precision computer number. It can be seen that the accuracy is somewhat improved by converting to the number of high-precision computers and calculating.
  • FIG. 36 is a diagram showing an example in which the decimal number “0.000000001” is expressed in bits by the number of high-precision computers
  • FIG. 37 is an example in which the decimal number “1.0” is expressed in bits by the number of high-precision computers. It is a figure which shows.
  • FIG. 38 after converting the decimal numbers “0.000000001” and “1.0” into the number of high-precision computers, “0.000000001” is changed to “1.0” by 100 using the number of high-precision computers. It is a figure which shows an example of the result of the addition. It can be seen that there is no change in the absolute significant digit number e (-53), and only the decimal digit number e'is 100.
  • the value of the absolute significant digits e increases by about 3 each time, so that the number of significant digits becomes meaningless when the addition is performed 100 times. It can be improved by the number of high-precision computers.
  • FIG. 39 is a diagram showing an example of a result obtained by performing a calculation of adding "0.000000001" to "1.0" 100 times in floating point and converting the result into a high-precision computer number.
  • the number of significant digits is 15 decimal digits.
  • FIG. 40 is an example of the result of converting the decimal numbers “0.1” and “1.1” into the number of high-precision computers and calculating “0.1 ⁇ 1.1” using the number of high-precision computers. It is a figure which shows.
  • h (-4) and h'(209) indicate that 0.11 ⁇ 2 -4 + 209/256 .
  • 2 -4 + 208/256 0.1097657600233312 ...
  • 2 -4 + 209/256 0.11006336518984898 ...
  • the minimum number of digits is l (-63), which is smaller than e (-56). Below this digit, it is assumed that 0 is 2 or more consecutive.
  • FIG. 41 is a diagram showing an example of the result of calculating a decimal number "0.1 ⁇ 1.1" with a floating point number and converting it into a high-precision computer number. It can be seen that the calculation result by the number of high-precision computers is the same as the calculation result by the floating point number.
  • FIG. 42 is a diagram showing an example of the result of calculating the decimal number “0.000000001” by multiplying “1.1” 100 times by the number of high-precision computers.
  • the number of significant digits of the calculation result shown in FIG. 42 and the number of high-precision computers of "1.1” shown in FIG. 33 are compared.
  • the number of significant digits is the smallest integer such that log C
  • Figure 33: (0 + 36/256)-(-53) 53 + 36/256
  • Figure 42: (-2326 + 202/256)-(-2372 + 1/256) 43 + 203/256
  • FIG. 44 is a diagram showing an example in which the decimal number “0.1” which is the denominator is expressed in bits by the number of high-precision computers
  • FIG. 45 is a diagram showing the decimal number “1” which is the molecule by the number of high-precision computers. It is a figure which shows an example of bit representation.
  • FIG. 47 is a diagram showing an example in which the decimal number “0.1” which is the denominator is expressed in bits by a high-precision computer number
  • FIG. 48 is a diagram showing a decimal number “0.2” which is a molecule in a high-precision computer. It is a figure which shows an example which bit-represented by a number
  • FIG. 49 is a diagram showing an example of the result of calculating “0.2 ⁇ 0.1” using the number of high-precision computers. Case indeterminate number of numerator and denominator is not 0 (e a ⁇ - ⁇ , e b ⁇ - ⁇ ) performing calculations at.
  • the number of extended absolute significant digits of the calculation result is -52 + 85/256 plus 1/256 in the method when the offset value is ⁇ (e (e (e). -52), e'(86)).

Landscapes

  • Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computing Systems (AREA)
  • Mathematical Analysis (AREA)
  • Mathematical Optimization (AREA)
  • Pure & Applied Mathematics (AREA)
  • Computational Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Nonlinear Science (AREA)
  • Software Systems (AREA)
  • Executing Machine-Instructions (AREA)
  • Complex Calculations (AREA)

Abstract

精度保証付き数値計算を簡便に行うことができる情報処理装置、プログラム、及び情報処理方法を提供する。　下記式（１）及び式（２）にて実数Ａ及び実数Ｂがそれぞれ定義されたコンピュータ数の確定数ａ１，ｂ１を用いて演算し、下記（３）式を満たすように絶対有効桁数γを決定する。 Ａ＝ａ１＋ａ２，｜ａ１｜≦Ｃｈａ，－Ｃｅａ≦ａ２＜Ｃｅａ・・・式（１） Ｂ＝ｂ１＋ｂ２，｜ａ１｜≦Ｃｈｂ，－Ｃｅｂ≦ｂ２＜Ｃｅｂ・・・式（２） （Ａ，Ｂ）＝（ａ，ｂ）１＋（ａ，ｂ）２，－Ｃγ≦（ａ，ｂ）２＜Ｃγ・・・式（３）　ここで、ａ１，ｂ１は数値が確定した確定数であり、ａ２，ｂ２は数値が確定していない不確定数である。Ｃは基数を示す。ｈａ，ｈｂはそれぞれ｜ａ１｜≦Ｃｈａ，｜ｂ１｜≦Ｃｈｂを満たす最小の拡張桁数である拡張最大桁数を示し、ｈａ，ｈｂは整数である最大桁数を示す。ｅａ，ｅｂ，γは整数である絶対有効桁数を示す。

Description

情報処理装置、プログラム、及び情報処理方法
　本技術は、数値計算を行う情報処理装置、プログラム、及び情報処理方法に関する。本出願は、日本国において２０１９年１１月２７日に出願された日本特許出願番号特願２０１９－２１４６７８を基礎として優先権を主張するものであり、この出願は参照されることにより、本出願に援用される。
　数値計算は、解析的に解くのが困難な問題を数値的に解く計算やその手法であり、その計算には、通常、コンピュータによる浮動小数点演算が用いられる。浮動小数点演算の標準的な規格として、ＩＥＥＥ（Institute of Electrical and Electronic Engineers）７５４がある。現在、ほとんどの数値計算プログラムは、ＩＥＥＥ７５４方式で実装されており、その資産は膨大である。
　浮動小数点数演算には、欠点がいくつか存在し、オーバーフロー／アンダーフロー、桁落ち、情報落ち、積み残し、丸め誤差というエラーがある。このため、μｍレベルでは、倍精度の浮動小数点演算でも大きな問題は発生していなかったが、ｎｍレベルになると、有効桁数が不足するのではないかという懸念がある。さらに、高次多項式の級数を使うことになれば、計算誤差が発生し易くなることが想定される。
　現在、誤差を考慮した演算（精度保証付き数値計算）が知られており、ソフトウェアにより真の解がどのような範囲にあるかを確かめながら計算を行い、連続数学の問題に対して数学的に真に正しいと保証された演算結果を導くものがある。このソフトウェアによる精度保証は、演算対象となる真値を、演算処理装置で扱うことができる浮動小数点数を両端とする区間の中に挟み込み、それによって連続数の問題を扱おうとするものである。この区間を数と同様に扱うための四則演算は、区間演算と呼ばれ、この区間演算を浮動小数点により行うものは機械区間演算と呼ばれている。しかしながら、区間演算は、実数を範囲で示して範囲に対する四則演算を厳密に計算するため、計算量が多く、複雑である。
特開２００４－０５３９５号公報
　本技術は、このような従来の実情に鑑みて提案されたものであり、精度保証付き数値計算を簡便に行うことができる情報処理装置、プログラム、及び情報処理方法を提供する。
　本願発明者は、鋭意検討の結果、基数ｎによってｎ進数で表すことができる実数の部分集合に属する数を確定数と不確定数に分けて表現する（高精度）コンピュータ数を導入することにより、前記課題を解決できることを見出した。
　すなわち、本技術に係る情報処理装置は、下記式（１１）及び式（１２）にて実数Ａ及び実数Ｂがそれぞれ定義された高精度コンピュータ数を入力する入力部と、前記高精度コンピュータ数を格納する格納部と、前記格納部に格納された高精度コンピュータ数の確定数ａ１，ｂ１を用いて演算し、下記（１３）式を満たすように拡張絶対有効桁数（γ＋γ′）を決定し、該演算結果の高精度コンピュータ数を前記格納部に格納する演算部とを備える。
　また、本技術に係るプログラムは、下記式（１１）及び式（１２）にて実数Ａ及び実数Ｂがそれぞれ定義された高精度コンピュータ数を入力する入力ステップと、前記高精度コンピュータ数を格納部に格納する格納ステップと、前記格納部に格納された高精度コンピュータ数の確定数ａ１，ｂ１を用いて演算し、下記（１３）式を満たすように拡張絶対有効桁数（γ＋γ′）を決定し、該演算結果の高精度コンピュータ数を前記格納部に格納する演算ステップとを有する処理をコンピュータに実行させる。
　また、本技術に係る情報処理方法は、下記式（１１）及び式（１２）にて実数Ａ及び実数Ｂがそれぞれ定義された高精度コンピュータ数を入力する入力ステップと、前記高精度コンピュータ数を格納部に格納する格納ステップと、前記格納部に格納された高精度コンピュータ数の確定数ａ１，ｂ１を用いて演算し、下記（１３）式を満たすように拡張絶対有効桁数（γ＋γ′）を決定し、該演算結果の高精度コンピュータ数を前記格納部に格納する演算ステップとを有する。
Figure JPOXMLDOC01-appb-M000007
　ここで、ａ１，ｂ１は数値が確定した確定数であり、ａ２，ｂ２は数値が確定していない不確定数である。Ｃは基数を示す。ｈａ＋ｈａ′，ｈｂ＋ｈｂ′はそれぞれ｜ａ１｜≦Ｃｈａ＋ｈａ′，｜ｂ１｜≦Ｃｈｂ＋ｈｂ′を満たす最小の拡張桁数である拡張最大桁数を示し、ｈａ，ｈｂは整数である最大桁数を示し、ｈａ′，ｈｂ′はそれぞれ０≦ｈａ′＜１，０≦ｈｂ′＜１の小数である小数桁数を示す。ｅａ＋ｅａ′，ｅｂ＋ｅｂ′，γ＋γ′は拡張桁数である拡張絶対有効桁数を示し、ｅａ，ｅｂ，γは整数である絶対有効桁数を示し、ｅａ′，ｅｂ′，ｒ′はそれぞれ０≦ｅａ′＜１，０≦ｅｂ′＜１，０≦ｒ′＜１の小数である小数桁数を示す。（Ａ，Ｂ）は実数Ａ及び実数Ｂの演算結果であり、（ａ，ｂ）1は確定数ａ１，ｂ１の演算結果であり、（ａ，ｂ）２は不確定数ａ２，ｂ２の演算結果である。
　本技術によれば、精度保証付き数値計算を簡便に行うことができる。ただし、区間演算は、数を範囲として扱うのに対して、コンピュータ数はあくまでも一つの数であり、不確定数が正確には得られていないため、絶対有効桁数の範囲内の値をどこでも取りうるという考え方をするところが異なる。
図１は、本技術に係る情報処理装置の機能構成を示すブロック図である。 図２は、実数とコンピュータ数との関係を示す図である。 図３は、コンピュータ数を格納するためのバッファを説明するための図である。 図４は、情報処理装置の機能を発揮するためのハードウェア構成を示すブロック図である。 図５は、（ａ１＋ｂ１）＝α＋β＋γとしたときを説明するための図である。 図６は、Ｃｍ＋β＋Ｃα＋ｍ＋Ｃｍ＋ｎ≦Ｃｒとなる最小の整数ｒを求める方法を説明するための図である。 図７は、Ｃ言語でコンピュータ数を表現した一例である。 図８は、Ｃ言語でコンピュータ数の掛け算、足し算、及び割り算の形式を表現した一例である。 図９は、Ｃ言語でＲｕｍｐ式を計算するプログラム例である。 図１０は、図９に示すプログラム例を、コンピュータ数を用いたプログラムに変換した例である。 図１１は、正の部分ｆ１の計算結果のビット表現例を示す図である。 図１２は、負の部分ｆ２の計算結果のビット表現例を示す図である。 図１３は、差分ｆの計算結果のビット表現例を示す図である。 図１４は、ｙ＝１／（１－ｘ）を示すグラフである。 図１５は、本技術の第２の実施の形態に係る情報処理装置の機能構成を示すブロック図である。 図１６は、実数と高精度コンピュータ数との関係を示す図である。 図１７は、高精度コンピュータ数のコンピュータによる数値表現の一例である。 図１８は、高精度コンピュータ数の定義の一例である。 図１９は、Ｃα＋α′＝Ａ＋Ｂ（Ａ：確定数、Ｂ：不確定数）としたときのＡの３２ビット表現の一例である。 ２０は、拡張最大桁数の小数桁数ｈ′の求め方を説明するための図である。 図２１は、拡張最大桁数の小数桁数ｈ′の求めるために抽出した３２ビット分を示す図である。 図２２は、８ビット－α′表の説明するための図である。 図２３は、Ｃα′＝Ａ＋Ｂ（Ａ：確定数、Ｂ：不確定数）としたときのＡの３２ビット表現の一例である。 図２４は、supＣα′＋supＣβ＋β′の具体的な計算方法を説明するための図である。 図２５は、２つの高精度コンピュータ数の足し算の確定数の位置を説明するための図である。 図２６は、トリム処理を説明するための図である。 図２７は、拡張桁数足し算表の一例を示す図である。 図２８は、高精度コンピュータ数の割り算の確定数（ｂ１／ａ１）の位置を説明するための図である。 図２９は、Ｃα′＝Ａ＋Ｂ（Ａ：確定数、Ｂ：不確定数）としたときのＡの３２ビット表現の一例である。 図３０は、infＣα′－supＣβ＋β′の具体的な計算方法を説明するための図である。 図３１は、倍精度浮動小数点表現を示す図である。 図３２は、１０進数の「０．１」を高精度コンピュータ数によりビット表現した一例を示す図である。 図３３は、１０進数の「１．１」を高精度コンピュータ数によりビット表現した一例を示す図である。 図３４は、１０進数の「０．１」及び「１．１」を高精度コンピュータ数に変換した後、高精度コンピュータ数を用いて「０．１＋１．１」を計算した結果の一例を示す図である。 図３５は、１０進数の「０．１×１．１」を浮動小数点で計算し、高精度コンピュータ数に変換した結果の一例を示す図である。 図３６は、１０進数の「０．００００００１」を高精度コンピュータ数によりビット表現した一例を示す図である。 図３７は、１０進数の「１．０」を高精度コンピュータ数によりビット表現した一例を示す図である。 図３８は、１０進数の「０．００００００１」及び「１．０」を高精度コンピュータ数に変換した後、高精度コンピュータ数を用いて「１．０」に「０．００００００１」を１００回加算した結果の一例を示す図である。 図３９は、「１．０」に「０．００００００１」を１００回加算する計算を浮動小数点で行い、その結果を高精度コンピュータ数に変換した結果の一例を示す図である。 図４０は、１０進数の「０．１」及び「１．１」を高精度コンピュータ数に変換し、高精度コンピュータ数を用いて「０．１×１．１」を計算した結果の一例を示す図である。 図４１は、１０進数の「０．１×１．１」を浮動小数点で計算し、高精度コンピュータ数に変換した結果の一例を示す図である。 図４２は、１０進数の「０．００００００１」を「１．１」に１００回かける計算を高精度コンピュータ数で計算した結果の一例を示す図である。 図４３は、１０進数の「１」及び「３」を高精度コンピュータ数に変換し、高精度コンピュータ数を用いて「１÷３」を計算した結果の一例を示す図である。 図４４は、分母である１０進数の「０．１」を高精度コンピュータ数によりビット表現した一例を示す図である。 図４５は、分子である１０進数の「１」を高精度コンピュータ数によりビット表現した一例を示す図である。 図４６は、高精度コンピュータ数を用いて「１÷０．１」を計算した結果の一例を示す図である。 図４７は、分母である１０進数の「０．１」を高精度コンピュータ数によりビット表現した一例を示す図である。 図４８は、分子である１０進数の「０．２」を高精度コンピュータ数によりビット表現した一例を示す図である。 図４９は、高精度コンピュータ数を用いて「０．２÷０．１」を計算した結果の一例を示す図である。
　＜＜１．第１の実施の形態＞＞
　以下、本技術の第１の実施の形態について、図面を参照しながら下記順序にて詳細に説明する。なお、本技術は、以下の実施の形態のみに限定されるものではなく、本技術の要旨を逸脱しない範囲内において種々の変更が可能であることは勿論である。
　１－１．情報処理装置
　１－２．コンピュータ数の計算
　１－３．具体例
　＜１－１．情報処理装置＞
　［機能構成］
　図１は、本技術に係る情報処理装置の機能構成を示すブロック図である。図１に示すように、情報処理装置は、下記式（１）及び式（２）にて実数Ａ及び実数Ｂがそれぞれ定義されたコンピュータ数を入力する入力部１１と、コンピュータ数を格納する格納部１２と、格納部１２に格納されたコンピュータ数の確定数ａ１，ｂ１を用いて演算し、下記（３）式を満たすように絶対有効桁数γを決定し、該演算結果のコンピュータ数を格納部１２に格納する演算部１３とを備える。
Figure JPOXMLDOC01-appb-M000008
　ここで、ａ１，ｂ１は数値が確定した確定数であり、ａ２，ｂ２は数値が確定していない不確定数である。Ｃは基数を示す。ｈａ，ｈｂはそれぞれ｜ａ１｜≦Ｃｈａ，｜ｂ１｜≦Ｃｈｂを満たす最小の拡張桁数である拡張最大桁数を示し、ｈａ，ｈｂは整数である最大桁数を示す。ｅａ，ｅｂ，γは整数である絶対有効桁数を示す。（Ａ，Ｂ）は実数Ａ及び実数Ｂの演算結果であり、（ａ，ｂ）1は確定数ａ１，ｂ１の演算結果であり、（ａ，ｂ）２は不確定数ａ２，ｂ２の演算結果である。
　コンピュータ数の基数Ｃは、特に限定されるものではないが、２、８、又は１６のいずれかであることが好ましい。これにより、汎用コンピュータで使用される２進数、８進数、又は１６進数の計算の検証を行うことができる。
　図２は、実数とコンピュータ数との関係を示す図である。図２に示すように、コンピュータ数（ａ＋ｂ）は、実数数Ａがａ－Ｃγ≦Ａ＜ａ＋Ｃγの間のいずれかの範囲にある、不確定性原理のような考え方とするものである。確定数ａは、絶対有効桁数（最小桁）まで有効である数値であり、数値が保証されている。ここで、絶対有効桁数とは、小数点以下の信頼できる桁数を示すものであり、誤差がＣγとなるγの値のことである。ｂ＝０（絶対有効桁数ｍが無限小）である場合、数値が確定した確定コンピュータ数であり、それ以外は数値が確定していない不確定コンピュータ数である。例えば、πや√２を基数Ｃによって絶対有効桁数γまで展開した場合、絶対有効桁数γまで展開した数値は確定数ａとなり、それ以降は不確定数ｂとなる不確定コンピュータ数である。
　入力部１１は、下記式（１）及び式（２）にて実数Ａ及び実数Ｂがそれぞれ定義されたコンピュータ数を入力する。
Figure JPOXMLDOC01-appb-M000009
　ここで、ａ１，ｂ１は数値が確定した確定数であり、ａ２，ｂ２は数値が確定していない不確定数である。Ｃは基数を示す。ｈａ，ｈｂはそれぞれ｜ａ１｜≦Ｃｈａ，｜ｂ１｜≦Ｃｈｂを満たす最小の拡張桁数である拡張最大桁数を示し、ｈａ，ｈｂは整数である最大桁数を示す。ｅａ，ｅｂ，γは整数である絶対有効桁数を示す。
　具体的には、入力部１１は、例えば、符号（sign）と、最上位桁（high order max）と、最下位桁（low order max）と、絶対有効桁数（absolute effective digit）と、配列数（number of array）とが設定されたコンピュータ数を入力する。
　格納部１２は、コンピュータ数を格納するためのものであり、所謂バッファである。バッファは、入力部１１で入力された最上位桁及び最下位桁に基づいて確保される。
　図３は、コンピュータ数を格納するためのバッファを説明するための図である。図３に示すように、バッファには、同一の型のデータを一列に並べた配列（array）を複数格納する。例えば３２ビット配列を１０列確保することにより、コンピュータの内部処理の２進数（Ｃ＝２）において３２０桁分確保することができる。また、８進数（Ｃ＝８）の場合は小数点を起点として３桁毎に区切ることで最大で１０６桁分確保することができ、１６進数（Ｃ＝１６）の場合は、小数点を起点として４桁毎に区切ることで最大で８０桁分確保することができる。
　演算部１３は、格納部１２に格納されたコンピュータ数の確定数ａ１，ｂ１を用いて演算し、下記（３）式を満たすように絶対有効桁数ｒを決定し、該演算結果のコンピュータ数を格納部１２に格納する。
Figure JPOXMLDOC01-appb-M000010
　ここで、Ｃは基数を示す。γは指数部であり、絶対有効桁数である。（Ａ，Ｂ）は実数Ａ及び実数Ｂの演算結果であり、（ａ，ｂ）1は確定数ａ１，ｂ１の演算結果であり、（ａ，ｂ）２は不確定数ａ2，ｂ2の演算結果である。
　コンピュータ数の演算は、実数Ａ及び実数Ｂがそれぞれａ１－Ｃｅａ≦Ａ＜ａ１＋Ｃｅａ及びｂ１－Ｃｅｂ≦Ｂ＜ｂ１＋Ｃｅｂの間のいずれかの範囲にあるとして計算するものであり、その計算結果もコンピュータ数であるから（３）式を満たす。コンピュータ数の演算は、確定数ａ１，ｂ１と不確定数ａ2，ｂ2とを分け、確定数ａ１，ｂ１をそのまま計算し、各種条件により計算結果の絶対有効桁数ｒを決定する。
　また、コンピュータ数の演算においては、絶対有効桁数の最大値を指定することができる。特に、割算や、ｒｏｏｔ、ｓｉｎ、ｃｏｓなどの関数に対して絶対有効桁数を指定することができる。これにより、絶対有効桁数以上の数値を保証することができる。
　コンピュータ数の演算は、区間演算の特別なパタンであるとも考えられる。ただし、区間演算が実数を範囲で示して、範囲に対する四則演算を厳密に計算するのに対して、コンピュータ数の四則演算では絶対有効桁数で誤差をコントロールする点で異なる。また、コンピュータ数の演算は、実数の代わりの数の体系を求めてからその応用を考えているため、そもそも区間演算の考え方と出発点が異なる。このため、コンピュータ数の計算自体は、区間演算に比較してシンプルであり、誤差（不明確な部分）の評価を絶対有効桁数として計算を簡素化している。
　このような情報処理装置によれば、絶対有効桁数が必要な部分のみをコンピュータ数計算ライブラリで計算でき、計算結果の絶対有効桁数を確認することができるため、精度保証付き数値計算を簡便に行うことができる。
　また、情報処理装置は、実数の数値計算プログラムをコンピュータ数の数値計算プログラムに変換し、コンピュータ数の数値計算プログラムを実行し、演算部１３における演算結果のコンピュータ数を格納部１２に格納させる制御部１４をさらに備えることが好ましい。これにより、コンピュータ数の数値計算プログラムの実行中に、各変数の絶対有効桁数の履歴を保持することができ、最終的に必要な絶対有効桁数が得られるかどうかをチェックすることができる。また、求めたい絶対有効桁数の計算を得るために必要な各変数の値の絶対有効桁数を逆計算することもできる。
　［ハードウェア構成］
　図４は、情報処理装置の機能を発揮するためのハードウェア構成を示すブロック図である。図４に示すように、情報処理装置は、プログラムの実行処理を行うＣＰＵ（Central Processing Unit）２１と、演算処理を行うＧＰＵ（Graphics Processing Unit）２２と、ＣＰＵ２１により実行されるプログラムを格納するＲＯＭ（Read Only Memory）２３と、プログラムやデータを展開するＲＡＭ（Random Access Memory）２４と、ユーザにより各種の入力操作を受ける操作入力部２５と、プログラムやデータを固定的に保存するストレージ２６と、データを入出力する入出力インターフェース２７とを有する。すなわち、図４に示す情報処理装置２は、いわゆるコンピュータである。
　ＣＰＵ２１は、図１に示す機能構成における演算部１３及び制御部１４の処理が可能であり、コンピュータ数計算ライブラリでコンピュータ数を演算し、演算結果のコンピュータ数を格納部１２に格納する。また、ＣＰＵ２１は、例えばストレージ２６に記録されているコンピュータ数の数値計算プログラムを読み出し、ＲＡＭ２４に展開して実行することにより、各ブロックの動作を制御する。
　ＧＰＵ２２は、ビデオメモリ（ＶＲＡＭ）を有し、ＣＰＵ２１から要求に応じて描画処理及び計算処理が可能であり、コンピュータ数計算ライブラリによるコンピュータ数を演算してもよい。ＲＯＭ２３は、例えば読み込みのみ可能な不揮発性メモリであり、情報処理装置２が有する各ブロックの動作に必要な定数等の情報を記憶する。ＲＡＭ２４は、揮発性メモリであり、動作プログラムの展開領域としてだけでなく、情報処理装置２が有する各ブロックの動作において出力された中間データ等を一時的に記憶する格納領域としても用いられる。
　操作入力部２５は、図１に示す機能構成における入力部１１の処理が可能であり、情報処理装置に対して入力操作を行う際に用いられるユーザインタフェースである。操作入力部２５は、ユーザの入力操作に応じて数値計算プログラム処理の実行または停止等の命令をＣＰＵ２１に対して出力する。
　ストレージ２６は、ＲＡＭ２４に展開される数値計算プログラムなどを記録する。なお、ストレージ２６としては、ＨＤＤ（Hard disk drive）、ＳＳＤ（Solid State Drive）、光学ドライブなどを用いることができる。入出力インターフェース２７は、ＧＰＵ２２によって生成した画像を表示装置に出力することが可能である。
　このようなハードウェア構成において、図１に示す機能構成は、ＣＰＵ２１、ＧＰＵ２２、ＲＯＭ２３、ＲＡＭ２４、ＣＰＵ２１などにより実行されたソフトウェアの連携によって実現することができる。また、ソフトウェアプログラムは、光ディスクや半導体メモリなどの記録媒体に記憶させて配布する他に、インターネットなどを経由してダウンロードさせる構成としてもよい。
　＜２．コンピュータ数の計算＞
　以下、コンピュータ数の基数を２（Ｃ＝２）として、演算方法について説明する。
　［足し算］
　実数Ａ及び実数Ｂをそれぞれ式（１）及び式（２）にて定義されるコンピュータ数とする。
Figure JPOXMLDOC01-appb-M000011
　ここで、ａ１，ｂ１は数値が確定した確定数であり、ａ２，ｂ２は数値が確定していない不確定数である。Ｃは基数を示す。ｈａ，ｈｂはそれぞれ｜ａ１｜≦Ｃｈａ，｜ｂ１｜≦Ｃｈｂを満たす最小の拡張桁数である拡張最大桁数を示し、ｈａ，ｈｂは整数である最大桁数を示す。ｅａ，ｅｂ，γは整数である絶対有効桁数を示す。
　以下、絶対有効桁数ｅａ，ｅｂ，γの代わりに、それぞれｍ，ｎ，ｒを用いて説明する。
　Ａ＋Ｂ＝ａ１＋ａ２＋ｂ１＋ｂ２＝（ａ１＋ｂ１）＋（ａ２＋ｂ２）
　⇒（ａ１＋ｂ１）－Ｃｍ－Ｃｎ≦Ａ＋Ｂ＜（ａ１＋ｂ１）＋Ｃｍ＋Ｃｎ
　ｒをＣｍ＋Ｃｎ≦Ｃｒとなる最小の整数とする。
　ｍ＝ｎのときｒ＝ｍ＋１、ｍ≠ｎのときｒ＝ｍａｘ（ｍ,ｎ）＋１であるから、ｒ＝ｍａｘ（ｍ,ｎ）＋１である。
　Ａ＋Ｂ＝（ａ１＋ｂ１）＋（Ａ＋Ｂ）２
　（ａ１＋ｂ１）が確定数であり、（Ａ＋Ｂ）２が不確定数であり、－Ｃｒ≦（Ａ＋Ｂ）２＜Ｃｒを満たし、ｒは絶対有効桁数である。確定数（ａ１＋ｂ１）の最小の位は、絶対有効桁数よりも小さい場合がある。（ａ１＋ｂ１）の符号別にパタン分けして説明する。
　図５は、（ａ１＋ｂ１）＝α＋β＋γとしたときを説明するための図である。図５に示すように、（ａ１＋ｂ１）＝α＋β＋γとし、αは(ｒ＋１)桁以上の部分、βはｒ桁の部分、γは(ｒ－１)桁以下の部分とする。
　（ａ１＋ｂ１）－Ｃｒ≦Ａ＋Ｂ＜（ａ１＋ｂ１）＋Ｃｒ
　⇒（α＋β）＋γ－Ｃｒ≦Ａ＋Ｂ＜（α＋β）＋γ＋Ｃｒ
　γ＞０（（ａ１＋ｂ１）＞０）のとき、
　（α＋β）－Ｃｒ－１≦Ａ＋Ｂ＜（α＋β）＋Ｃｒ－１
　γ＜０（（ａ１＋ｂ１）＜０）のとき、
　（α＋β）－Ｃｒ＋１≦Ａ＋Ｂ＜（α＋β）＋Ｃｒ＋１
　であるから、（α＋β）－Ｃｒ＋１≦Ａ＋Ｂ＜（α＋β）＋Ｃｒ＋１が成り立ち、（α＋β）が確定数であり、絶対有効桁数はｒ＋１である。
　γ＝０のときは、（α＋β）－Ｃｒ≦Ａ＋Ｂ＜（α＋β）＋Ｃｒが成り立ち、（α＋β）が確定数であり、絶対有効桁数はｒである。
　［掛け算］
　Ａ×Ｂ＝（ａ１＋ａ２）×（ｂ１＋ｂ２）＝ａ１ｂ１＋ａ２ｂ１＋ａ１ｂ２＋ａ２ｂ２
　Ａ、Ｂとも正であるとする。
　ａ１≦Ｃα；αは不等号が成立する最小の整数。好ましくはｌｏｇ２｜ａ１｜。
　ｂ１≦Ｃβ；βは不等号が成立する最小の整数。好ましくはｌｏｇ２｜ｂ１｜。
　－ＣｍＣβ≦ａ２ｂ１＜ＣｍＣβ　
　－ＣαＣｍ≦ａ１ｂ２＜ＣαＣｍ　
　－ＣｍＣｎ＜ａ２ｂ２≦ＣｍＣｎ　
より、
　ａ１ｂ１－ＣｍＣβ－ＣαＣｍ－ＣｍＣｎ＜Ａ×Ｂ＜ａ１ｂ１＋ＣｍＣβ＋ＣαＣｍ＋ＣｍＣｎ
　⇒ａ１ｂ１－Ｃｍ＋β－Ｃα＋ｍ－Ｃｍ＋ｎ＜Ａ×Ｂ＜ａ１ｂ１＋Ｃｍ＋β＋Ｃα＋ｍ＋Ｃｍ＋ｎ
ｒをＣｍ＋β＋Ｃα＋ｍ＋Ｃｍ＋ｎ≦Ｃｒとなる最小の整数とする。
　Ａ×Ｂ＝ａ１ｂ１＋（Ａ×Ｂ）２
　ａ１ｂ１が確定数であり、（Ａ×Ｂ）２が不確定数であり、－Ｃｒ≦（Ａ×Ｂ）２＜Ｃｒを満たし、ｒは絶対有効桁数である。確定数ａ１ｂ１の最小の位は、有効桁数よりも小さい場合がある。
　意味のない桁の部分を考慮した確定数と絶対有効桁数は、足し算における正のケースと同様である。
　図６は、Ｃｍ＋β＋Ｃα＋ｍ＋Ｃｍ＋ｎ≦Ｃｒとなる最小の整数ｒを求める方法を説明するための図である。図６において、各枠は２ビット配列の位置を表し、白丸ａはＣｍ＋β，Ｃα＋ｍ，Ｃｍ＋ｎのビット位置を示し、黒丸ｂはＣｒのビット位置を示し、点線丸ｃはこのビットが空いていることを示す。
　Ｃｍ＋β＋Ｃα＋ｍ＋Ｃｍ＋ｎ≦Ｃｒとなる最小の整数をｒとすると、Ｃｍ＋β＋Ｃα＋ｍ＋Ｃｍ＋ｎ＝Ｃｒとなるケースは、パタン３のみである。Ｃｍ＋β＋Ｃα＋ｍ＋Ｃｍ＋ｎ≦Ｃｒとなるｒは、（ｍ＋β），（α＋ｎ），（ｍ＋ｎ）がパタン１、パタン２のときには、最大値＋２（ｒ＝ｍａｘ（ｍ,ｎ）＋２）、それ以外は最大値＋１（ｒ＝ｍａｘ（ｍ,ｎ）＋１）となる。Ｃｍ＋β＋Ｃα＋ｍ＋Ｃｍ＋ｎ＜Ｃｒとなるｒは、（ｍ＋β），（α＋ｎ），（ｍ＋ｎ）がパタン１、パタン２、パタン３のときには、最大値＋２（ｒ＝ｍａｘ（ｍ,ｎ）＋２）、それ以外は最大値＋１（ｒ＝ｍａｘ（ｍ,ｎ）＋１）となる。
　＜３．具体例＞
　次に、前述したコンピュータ数を用いたソフトウェアの計算例について説明する。図７は、Ｃ言語でコンピュータ数を表現した一例であり、図８は、Ｃ言語でコンピュータ数の掛け算、足し算、及び割り算の形式を表現した一例である。
　図７に示すように、コンピュータ数は、符号ｓ（sign）と、最上位桁ｈ（high order max）と、最下位桁ｌ（low order max）と、絶対有効桁数ｅ（absolute effective digit）と、配列数ｎ（number of array）と、配列ａにより定義される。符号ｓは、ｓ＝１のとき正であり、ｓ＝－１のとき負である。最上位桁ｈは、｜確定数｜≦ｌｏｇ２ｈとなる値である。最下位桁ｌは、確定数の２進数による最小桁である。絶対有効桁数ｅは、－２ｅ≦不確定数＜２ｅとなる最小の整数である。配列数ｎは、確定数を格納する符号なし整数の個数である。配列ａは、確定数を格納する符号なし整数の配列である。なお、有効桁数ｋは、（ｌｏｇ２｜確定数｜－絶対有効桁数）≦ｋとなる最小の整数である。
　図８に示すコンピュータ数の掛け算、足し算、及び割り算は、コンピュータ数を変数としている。割算に関しては絶対有効桁数を設定する必要がある。
　［Ｒｕｍｐ式の計算］
　Ｓ．Ｍ．Ｒｕｍｐが考案した下記式に、ａ＝７７６１７，ｂ＝３３０９６を代入したｆ（ａ，ｂ）の値を評価する。
　ｆ（ｘ，ｙ）＝３３３．７５ｙ６＋ｘ２（１１ｘ２ｙ２－ｙ６－１２１ｙ４－２）
＋５５ｙ８＋ｘ／２ｙ
　これをＩＢＭのメインフレームＳ／３７０上で演算精度を変えて実行すると、以下の結果となる。
単精度（１０進数約８桁）：ｆ（ｘ，ｙ）≒1.1720603…
倍精度（１０進数約１７桁）：ｆ（ｘ，ｙ）≒1.17206039400531…
拡張精度（１０進数約３４桁）：ｆ（ｘ，ｙ）≒1.1720603940053178…
　真の値は、ｆ（ａ，ｂ）＝－０．８２７３８６・・・であり、Ｓ／３７０上での計算は、符号もあっていない間違った結果となる。
　図９は、Ｃ言語でＲｕｍｐ式を計算するプログラム例であり、図１０は、図９に示すプログラムを、コンピュータ数を用いたプログラムに変換したものである。図１０及び図９に示すように、正の部分ｆ１，負の部分ｆ２を計算し、その差分ｆを計算した。また、「inverse_digital_expression (&k2y, -200, &k2yinv, &status)」の割算において、絶対有効桁数を－２００とした。
　ｆ１＝３３３．７５ｙ６＋ｘ２×１１ｘ２ｙ２＋５５ｙ８＋ｘ／２ｙ
　ｆ２＝ｘ２×ｙ６＋ｘ２×１２１ｙ４＋ｘ２×２
　ｆ＝ｆ１－ｆ２
　図１１は、正の部分ｆ１の計算結果のビット表現を示す図であり、図１２は、負の部分ｆ２の計算結果のビット表現を示す図であり、図１３は、差分ｆの計算結果のビット表現を示す図である。正の部分ｆ１，負の部分ｆ２のビット表現を合わせて表示すると、黒枠まではビットの並びが一致している。差分ｆ（＝ｆ１－ｆ２）を正しく計算するためには１３９ビット以上の桁数が必要であることがわかる。差分ｆの計算結果は－０．８２７３９６０５９９・・・であり、真の値と若干異なっているが、Ｓ／３７０上での計算に比べ、非常に優れている。
　［級数の計算］
　１／（１－ｘ）＝１－ｘ＋ｘ２＋…＋（－１）ｎｘｎ・・・　（－１＜ｘ＜１）
　マクローリン展開の式を評価する。１－１／（１－ｘ）に、－ｘ＋ｘ２＋…＋（－１）ｎｘｎ・・・のように順次、項を足し算していくと０に近づくはずである。
　図１４は、ｙ＝１／（１－ｘ）を示すグラフである。図１４に示すように、δを１／１０００，１／１００００，１／１０００００，１／１００００００にそれぞれ設定し、このδを１００分割して上記の計算を行って誤差を評価した。項の数ｎは５０として計算した。
　表１に、倍精度浮動小数点による計算結果を示す。δの値によって誤差に変化がなかった。級数の和を求めるときの初期値に対して、途中の級数の各項もそれ以下の小さな値の和であるので、有効桁数は初期値に対して小さくなっていることがわかる。倍精度浮動小数点数を使用しても級数の和を計算することは苦手としている可能性がある。一方、コンピュータ数の計算では有効桁数－５００として計算すると０となった。
Figure JPOXMLDOC01-appb-T000012
　＜＜２．第２の実施の形態＞＞
　以下、本技術の第２の実施の形態について、図面を参照しながら下記順序にて詳細に説明する。なお、本技術は、以下の実施の形態のみに限定されるものではなく、本技術の要旨を逸脱しない範囲内において種々の変更が可能であることは勿論である。
　２－１．情報処理装置
　２－２．高精度コンピュータ数の計算
　２－３．具体例
　第１の実施の形態のコンピュータ数の掛け算の計算においては、絶対有効桁数が３桁程度プラスになるため、かけ算を繰り返すと急激にコンピュータ数の精度が低下する。また、絶対有効桁数の異なる足し算においても、必ず絶対有効桁数が＋１になるので、足し算を繰り返すと精度が確実に低下する。
　そこで、第２の実施の形態では、第１の実施の形態のコンピュータ数の代わりに、高精度コンピュータ数を使用する。高精度コンピュータ数では、コンピュータ数の桁数（最大桁数、絶対有効桁数）の代わりに、拡張桁数（拡張最大桁数、拡張絶対有効桁数）（α＋α′）を使用する。ここで、αは整数であり、この値が桁数である。α′は０≦α′＜１の小数である小数桁数であり、例えばα′はａ／２ｎ（０≦ａ＜２ｎ)とすることができる。
　最初に高精度コンピュータ数を生成するときには、拡張絶対有効桁数は整数である。拡張絶対有効桁数の小数桁数は、四則演算を繰り返した場合の精度低下を抑制することができ、特に絶対有効桁数に差がある場合に非常に有効である。
　＜２－１．情報処理装置＞
　［機能構成］
　図１５は、本技術の第２の実施の形態に係る情報処理装置の機能構成を示すブロック図である。図１５に示すように、情報処理装置は、下記式（１１）及び式（１２）にて実数Ａ及び実数Ｂがそれぞれ定義された高精度コンピュータ数を入力する入力部３１と、高精度コンピュータ数を格納する格納部３２と、格納部３２に格納された高精度コンピュータ数の確定数ａ１，ｂ１を用いて演算し、下記（１３）式を満たすように拡張絶対有効桁数（γ＋γ′）を決定し、該演算結果の高精度コンピュータ数を格納部３２に格納する演算部３３とを備える。
Figure JPOXMLDOC01-appb-M000013
　ここで、ａ１，ｂ１は数値が確定した確定数であり、ａ２，ｂ２は数値が確定していない不確定数である。Ｃは基数を示す。ｈａ＋ｈａ′，ｈｂ＋ｈｂ′はそれぞれ｜ａ１｜≦Ｃｈａ＋ｈａ′，｜ｂ１｜≦Ｃｈｂ＋ｈｂ′を満たす最小の拡張桁数である拡張最大桁数を示し、ｈａ，ｈｂは整数である最大桁数を示し、ｈａ′，ｈｂ′はそれぞれ０≦ｈａ′＜１，０≦ｈｂ′＜１の小数である小数桁数を示す。ｅａ＋ｅａ′，ｅｂ＋ｅｂ′，γ＋γ′は拡張桁数である拡張絶対有効桁数を示し、ｅａ，ｅｂ，γは整数である絶対有効桁数を示し、ｅａ′，ｅｂ′，ｒ′はそれぞれ０≦ｅａ′＜１，０≦ｅｂ′＜１，０≦ｒ′＜１の小数である小数桁数を示す。（Ａ，Ｂ）は実数Ａ及び実数Ｂの演算結果であり、（ａ，ｂ）1は確定数ａ１，ｂ１の演算結果であり、（ａ，ｂ）２は不確定数ａ２，ｂ２の演算結果である。
　コンピュータ数の基数Ｃは、特に限定されるものではないが、２、８、又は１６のいずれかであることが好ましい。これにより、汎用コンピュータで使用される２進数、８進数、又は１６進数の計算の検証を行うことができる。
　また、小数桁数ｈａ′，ｈｂ′，ｅａ′，ｅｂ′，ｒ′は、それぞれｈａ′／２ｎ（０≦ｈａ＜２ｎ）、ｈｂ′／２ｎ（０≦ｈｂ′＜２ｎ）、ｅａ′／２ｎ（０≦ｅａ′＜２ｎ）、ｅｂ′／２ｎ（０≦ｅｂ′＜２ｎ）、ｒ′／２ｎ（０≦ｒ′＜２ｎ）、ｎは自然数で表されることが好ましい。ｎは好ましくは３２以下、より好ましくは１６以下、さらに好ましくは８以下である。ｎを大きくすれば精度が向上するが、計算コストが上がってしまう。なお、小数桁数ｈａ′，ｈｂ′，ｅａ′，ｅｂ′，ｒ′を０とすれば、第１の実施の形態のコンピュータ数である。
　図１６は、実数と高精度コンピュータ数との関係を示す図である。図１６に示すように、高精度コンピュータ数（ａ１＋ａ２）は、実数Ａがａ１－Ｃγ＋γ′≦Ａ＜ａ１＋Ｃγ＋γ′の間のいずれかの範囲にある、不確定性原理のような考え方とするものである。確定数ａ１は、拡張絶対有効桁数（最小桁）まで有効である数値であり、数値が保証されている。ここで、拡張絶対有効桁数とは、小数点以下の信頼できる桁数を示すものであり、誤差がＣγ＋γ′となるγ＋γ′の値のことである。また、γ′は０≦γ′＜１の小数桁数である。ａ２＝０（拡張絶対有効桁数が無限小）である場合、数値が確定した確定コンピュータ数であり、それ以外は数値が確定していない不確定コンピュータ数である。
　入力部３１は、下記式（１１）及び式（１２）にて実数Ａ及び実数Ｂがそれぞれ定義された高精度コンピュータ数を入力する。
Figure JPOXMLDOC01-appb-M000014
　ここで、ａ１，ｂ１は数値が確定した確定数であり、ａ２，ｂ２は数値が確定していない不確定数である。Ｃは基数を示す。ｈａ＋ｈａ′，ｈｂ＋ｈｂ′はそれぞれ｜ａ１｜≦Ｃｈａ＋ｈａ′，｜ｂ１｜≦Ｃｈｂ＋ｈｂ′を満たす最小の拡張桁数である拡張最大桁数を示し、ｈａ，ｈｂは整数である最大桁数を示し、ｈａ′，ｈｂ′はそれぞれ０≦ｈａ′＜１，０≦ｈｂ′＜１の小数である小数桁数を示す。ｅａ＋ｅａ′，ｅｂ＋ｅｂ′は拡張桁数である拡張絶対有効桁数を示し、ｅａ，ｅｂは整数である絶対有効桁数を示し、ｅａ′，ｅｂ′はそれぞれ０≦ｅａ′＜１，０≦ｅｂ′＜１の小数である小数桁数を示す。
　具体的には、入力部３１は、例えば、符号（sign）、最上位桁である最大桁数ｈ（high order max）、最大桁数の小数桁数ｈ′（high order max sub）、最下位桁である最小桁数ｌ（low order max）、絶対有効桁数ｅ（effective digit）、絶対有効桁数の小数桁数ｅ′（effective digit sub）、配列数ａ（number of array）等が設定された高精度コンピュータ数を入力する。
　格納部３２は、高精度コンピュータ数を格納するためのものであり、所謂バッファである。バッファは、入力部３１で入力された最上位桁ｈ及び最下位桁ｌに基づいて確保される。例えば、図３に示すように、バッファには、同一の型のデータを一列に並べた配列（array）を複数格納することができる。
　演算部３３は、格納部３２に格納されたコンピュータ数の確定数ａ１，ｂ１を用いて演算し、下記（１３）式を満たすように拡張絶対有効桁数（γ＋γ′）を決定し、該演算結果のコンピュータ数を格納部３２に格納する。
Figure JPOXMLDOC01-appb-M000015
　ここで、Ｃは基数を示す。γ＋γ′は拡張絶対有効桁数を示し、γは整数である絶対有効桁数を示し、γ′は０≦γ′＜１の小数である小数桁数を示す。（Ａ，Ｂ）は実数Ａ及び実数Ｂの演算結果であり、（ａ，ｂ）１は確定数ａ１，ｂ１の演算結果であり、（ａ，ｂ）２は不確定数ａ２，ｂ２の演算結果である。
　高精度コンピュータ数の演算は、実数Ａ及び実数Ｂがそれぞれａ１－Ｃｅａ＋ｅａ′≦Ａ＜ａ１＋Ｃｅａ＋ｅａ′及びｂ１－Ｃｅｂ＋ｅｂ′≦Ｂ＜ｂ１＋Ｃｅｂ＋ｅｂ′の間のいずれかの範囲にあるとして計算するものであり、その計算結果も高精度コンピュータ数であるから（１３）式を満たす。高精度コンピュータ数の演算は、確定数ａ１，ｂ１と不確定数ａ2，ｂ2とを分け、確定数ａ１，ｂ１をそのまま計算し、各種条件により計算結果の拡張絶対有効桁数（γ＋γ′）を決定する。なお、有効桁数ｋは、ｌｏｇＣ｜確定数｜－拡張絶対有効桁数（γ＋γ′）≦ｋとなる最小の整数である。
　足し算（Ａ＋Ｂ）の計算において、演算部３３は、下記式（１４）を満たす最小の拡張桁数を拡張絶対有効桁数とすることができる。
Figure JPOXMLDOC01-appb-M000016
　掛け算（Ａ×Ｂ）の計算において、演算部３３は、下記式（１５）を満たす最小の拡張桁数を拡張絶対有効桁数とすることができる。
Figure JPOXMLDOC01-appb-M000017
　割り算（Ｂ／Ａ）の計算において、演算部は、ｈａ＋ｈａ′，ｈｂ＋ｈｂ′の代わりに、それぞれｈａ＋ｈａ′－１／２５６，ｈｂ＋ｈｂ′－１／２５６を用い、下記式（１６）及び式（１７）にて定義される高精度コンピュータ数として下記式（１８）を評価し、拡張絶対有効桁数を決定することができる。
Figure JPOXMLDOC01-appb-M000018
　高精度コンピュータ数の四則演算においては、｜ａ｜≦infＣα＋α′（Ｃ：基数、ａ：確定数）、supＣα＋α′＋supＣβ＋β′≦infＣγ＋γ′（Ｃ：基数）、infＣα＋α′－supＣβ＋β′≧supＣγ＋γ′（Ｃ：基数）などの計算を行う必要がある。なお、supＡは、Ａの上限値、infＡは、Ａの下限値を表す。
　演算部３３は、｜ａ｜≦infＣα＋α′について、α＝０のときのα′に対するａの値の一覧テーブル、supＣα＋α′＋supＣβ＋β′≦infＣγ＋γ′について、α＝０のときのα′，β，β′に対するγ，γ′の値の一覧テーブル、infＣα＋α′－supＣβ＋β′≧supＣγ＋γ′について、α＝０のときのα′，β，β′に対するγ，γ′の値の一覧テーブルを用いて演算することが好ましい。これにより、高精度コンピュータ数の計算を高速化させることができる。
　また、演算部３３は、supＣα＋α′＋supＣβ＋β′≦infＣγ＋γ′について、infＣγ＋γ′－（supＣα＋α′＋supＣβ＋β′）の差分に基づいて確定数をトリム処理することが好ましい。これにより、演算を繰り返した場合の計算コストを抑制することができる。また、infＣα＋α′－supＣβ＋β′≧supＣγ＋γ′についても同様に、infＣα＋α′－supＣβ＋β′－supＣγ＋γ′の差分に基づいて確定数をトリム処理することにより、演算を繰り返した場合の計算コストを抑制することができる。
　また、情報処理装置は、実数の数値計算プログラムを高精度コンピュータ数の数値計算プログラムに変換し、高精度コンピュータ数の数値計算プログラムを実行し、演算部３３における演算結果のコンピュータ数を格納部３２に格納させる制御部３４をさらに備えることが好ましい。具体的には、浮動小数点表現を高精度コンピュータ数に変換することが好ましい。これにより、高精度コンピュータ数の数値計算プログラムの実行中に、各変数の拡張絶対有効桁数の履歴を保持することができ、最終的に必要な拡張絶対有効桁数が得られるかどうかをチェックすることができる。また、求めたい拡張絶対有効桁数計算を得るために必要な各変数の値の絶対有効桁数を逆計算することもできる。
　このような情報処理装置によれば、拡張絶対有効桁数が必要な部分のみを高精度コンピュータ数計算ライブラリで計算でき、計算結果の拡張絶対有効桁数を確認することができるため、精度保証付き数値計算を簡便に行うことができる。
　［ハードウェア構成］
　情報処理装置は、第１の実施の形態と同様に、例えば図４に示すハードウェア構成を備えることができる。図４に示すハードウェア構成において、図１５に示す機能構成は、ＣＰＵ２１、ＧＰＵ２２、ＲＯＭ２３、ＲＡＭ２４、ＣＰＵ２１などにより実行されたソフトウェアの連携によって実現することができる。また、ソフトウェアプログラムは、光ディスクや半導体メモリなどの記録媒体に記憶させて配布する他に、インターネットなどを経由してダウンロードさせる構成としてもよい。また、図１５に示す機能構成をＦＰＧＡ（Field Programmable Gate Array）に組み込んでもよい。
　＜２．高精度コンピュータ数の計算＞
　以下、高精度コンピュータ数の基数を２（Ｃ＝２）とし、指数部の小数桁数ｈａ′，ｈｂ′，ｅａ′，ｅｂ′，ｒ′をそれぞれｈａ′／２８（０≦ｈａ′＜２８），ｈｂ′／２８（０≦ｈｂ′＜２８），ｅａ′／２８（０≦ｅａ′＜２８），ｅｂ′／２８（０≦ｅｂ′＜２８），ｒ′／２８（０≦ｒ′＜２８）として、演算方法について説明する。ただし、記述を簡単にするため、指数部の小数桁数をｈａ′，ｈｂ′，ｅａ′，ｅｂ′，ｒ′と記載することがある。
　ｎ＝８の場合、例えば、supＣα＋α′＋supＣβ＋β′≦infＣγ＋γ′の関係において、infＣγ＋γ－（supＣα＋α′＋supＣβ＋β′）の差分は特定の場合以外は０にはならず、隙間が生じる。この隙間以下の部分を切り捨てても計算には影響がないため、トリム処理することができ、演算を繰り返した場合の計算コストを抑制することができる。
　図１７は、高精度コンピュータ数のコンピュータによる数値表現の一例であり、図１８は、高精度コンピュータ数の定義の一例である。図１７に示すように、第１のヘッダ部は、１ビットの符号ｓと、７ビットの配列ａのサイズとを有する。第２のヘッダ部は、１６ビットの最大桁数ｈと、８ビットの最大桁数の小数桁数ｈ′と、１６ビットの最小桁数ｌと、１６ビットの絶対有効桁数ｅと、８ビットの絶対有効桁数の小数桁数ｅ′とを有する。
　仮数部には、３２ビットの配列ａが格納され、配列ａの最大数は１２７である。配列ａは符号なし整数値であるため、仮数部の最大は、１２７×３２＝４０６４ビットである。これは、１０進数で１２２３桁を表現可能である。例えば、１光年が９兆５０００億ｋｍ＜１０兆ｋｍ＝１０１３ｋｍ＝１０１９ｍｍ＝１０２５ｎｍであるから、宇宙の大きさを１３７憶光年、約１００憶光年とすると、１００憶光年＝１０１０光年＝１０３５ｎｍであり、宇宙の大きさをｎｍで表すと３５桁（１０進数）で十分である。これに対し、高精度コンピュータ数は、非常に大きい桁の演算を行うことができる。
　最大桁数（最上位桁）ｈ、最小桁数（最下位桁）ｌ、絶対有効桁数（有効桁）ｅは、符号付き１６ビット整数を用いることができる。符号付き１６ビット整数は、±３２７６８であるから、十分な表現が可能である。なお、絶対有効桁数ｅが－３２７６８（２進数表現で１０００００００００００００００）の時は、誤差は０であるとみなす。
　最大桁数の小数桁数ｈ′、絶対有効桁数の小数桁数ｅ′は、例えばＣ言語のｕｎｓｉｇｎｅｄ ｃｈａｒ変数などの符号なし８ビット整数を用いることができる。最大桁数の小数桁数ｈ′が０の時は２つの意味がある。ｈ＝ｌのときは、そのまま０であるが、ｈ＞ｌのときには、ｈ′＝２５６となり、最大桁数は（ｈ＋ｌ）となる。
　［不確定数０の扱い］
　不確定数の範囲は、拡張絶対有効桁数を使い、－Ｃｅ＋ｅ′≦（不確定数）＜Ｃｅ＋ｅ′と表す。絶対有効桁数ｅを－∞とすると、不確定数の取りうる幅は限りなく０になる。コンピュータによる高精度コンピュータ数の表現では絶対有効桁数ｅの最小値は－３２７６８であり、この値を－∞として扱う。ｅ→－∞となるとき、不確定数は０であると定義する。高精度コンピュータ数の計算において取りうる絶対有効桁数ｅの値は、－３２７６７から３２７６７までの値であり、この範囲を超えたときには計算エラーとして扱う。
　［高精度コンピュータ数における０］
　高精度コンピュータ数における０の表現は、以下のように定義する。
　ｓ(符号)→０
　ｈ(最大桁数)→０
　ｈｄ(最大桁数の小数桁数)→０
　ｌ(最小桁数)→０
　ｅ(絶対有効桁数)→計算値
　ｅｄ(絶対有効桁数の小数桁数)→計算値
　配列ａ→ａ［０］＝０
　高精度コンピュータ数における配列ａのサイズは変わらないが、例外的に配列ａの最小の値を０とする。０以外のコンピュータ数においては、配列ａの０ビット目は必ず１となる。
　［拡張桁数表］
　図１９は、Ｃα＋α′＝Ａ＋Ｂ（Ａ：確定数、Ｂ：不確定数）としたときのＡの３２ビット表現の一例である。Ｂは、－Ｃα－３１≦Ｂ＜Ｃα－３１である。高精度コンピュータ数の計算の高速化に利用するため、α＝０としたときのα′に対し、Ａの値を出力する拡張桁表を予め作成することが好ましい。
　［拡張最大桁数の小数桁数ｈ′］
　図２０は、拡張最大桁数の小数桁数ｈ′の求め方を説明するための図であり、図２１は、拡張最大桁数の小数桁数ｈ′の求めるために抽出した３２ビット分を示す図である。ここで、最大桁数ｈと最小桁数ｌは確定しているものとする。最大桁数ｈは、配列ａをビット列としたときの最上位の桁を表し、最小桁数ｌは、配列ａをビット列としたときの最下位の桁を表す。
　図２０及び図２１に示すように、有効なビット長の先頭から３２ビット分を抽出する。有効なビット長が３２ビットよりも長いときは、下駄値を１とし、３２ビット以下のときは下駄値を０とする。
　抽出した３２ビットの先頭９ビットを使って、これを２５６で割った値よりも下限値が大きくなるα′を求める。この処理は８ビットの整数からα′を出力する８ビット－α′表を参照することにより行う。
　図２２は、８ビット－α′表の説明するための図である。８ビット－α′表から上位のα′をチェックして、３２ビットよりも大きな下限値をもつＣα′を求める。具体的には、図２２に示すように、８ビット数を左の********部分に設定したときに、前述した拡張桁数表を参照し、これ以上の下限値を持つα′を求め、ｈ′とする。
　［足し算］
　実数Ａ及び実数Ｂをそれぞれ式（１１）及び式（１２）にて定義される高精度コンピュータ数とする。
Figure JPOXMLDOC01-appb-M000019
　ここで、ａ１，ｂ１は数値が確定した確定数であり、ａ２，ｂ２は数値が確定していない不確定数である。Ｃ＝２である。ｈａ＋ｈａ′，ｈｂ＋ｈｂ′はそれぞれ｜ａ１｜≦２ｈａ＋ｈａ′，｜ｂ１｜≦２ｈｂ＋ｈｂ′を満たす最小の拡張桁数である拡張最大桁数を示し、ｈａ，ｈｂは整数である最大桁数を示し、ｈａ′，ｈｂ′はそれぞれｈａ′／２５６，ｈｂ′／２５６である小数桁数を示す。ｅａ＋ｅａ′，ｅｂ＋ｅｂ′は拡張桁数である拡張絶対有効桁数を示し、ｅａ，ｅｂは整数である絶対有効桁数を示し、ｅａ′，ｅｂ′はそれぞれｅａ′／２５６，ｅｂ′／２５６の小数である小数桁数を示す。
　Ａ＋Ｂは、下記式（２１）～（２３）で表される。
Figure JPOXMLDOC01-appb-M000020
　式（２３）を満たす最小の拡張桁数を求める。Ｃｅａ＋ｅａ′，Ｃｅｂ＋ｅｂ′，Ｃγ＋γ′などの値は高精度コンピュータ数で表現し、supＣｅａ＋ｅａ′＋supＣｅｂ＋ｅｂ′≦infＣγ＋γ′を求める。ここでsupＡは、Ａの上限値、infＡは、Ａの下限値を表す。
　［不確定数が０の場合］
　式（２１）に示すＡ＋Ｂにおいて、実数Ｂの不確定数ｂ２が０の場合、式（２２）に示す不等式は、下記式（２４）となる。
Figure JPOXMLDOC01-appb-M000021
　さらに実数Ａの不確定数ａ２が０の場合、Ａ＋Ｂの不確定数は０になる。この場合、下位桁のトリム処理は行わない。
　［拡張桁数足し算表］
　式（２３）に示すようなsupＣｅａ＋ｅａ′＋supＣｅｂ＋ｅｂ′≦infＣγ＋γ′の計算は、Ｃα′，Ｃβ＋β′に対して、Ｃα′＋Ｃβ＋β′≦Ｃγ＋γ′を満たす最小の拡張桁数（γ＋γ′）を出力する拡張桁数足し算表を用いる。ここで、０≧βであり、α′，β′は、それぞれα′／２８，β′／２８である。
　図２３は、Ｃα′＝Ａ＋Ｂ（Ａ：確定数、Ｂ：不確定数）としたときのＡの３２ビット表現の一例である。Ｂは、－Ｃ－３１≦Ｂ＜Ｃ－３１である。ここで、α′は、α′／２８である。そして、Ｃα′＋Ｃβ＋β′の取りうる最大値を含むＣγ＋γ′の最小の拡張桁数を求める。具体的には、supＣα′＋supＣβ＋β′≦infＣγ＋γ′となるＣγ＋γ′を求め、その差（infＣγ＋γ′－（supＣα′＋supＣβ＋β′））を計算する。
　図２４は、supＣα′＋supＣβ＋β′の具体的な計算方法を説明するための図である。supＣα′とsupＣβ＋β′とを３２ビットで表し、supＣβ＋β′の最下位ビットを６４ビットの最下位ビットに合わせて、符号なし６４ビット整数で計算を行う。この処理であれば６４ビットの範囲を超えることはない。supＣα′とsupＣβ＋β′とを６４ビットにコピーし、supＣα′を－βビット左に移動させる。そして、これらの値の和を計算する。この和の計算において、最初が０ではないビットを求め、そのビットに対してinfＣγの最上位ビットの位置を合わせる。
　確定数において、γ＋βの位置が本来の桁数の位置であって、この位置から差分の桁数移動した桁数未満は切り捨ててもよいことが分かる。つまり、この差は差分の中に吸収される。
　図２５は、２つの高精度コンピュータ数の足し算の確定数の位置を説明するための図である。図２５に示すように、２つのコンピュータ数の足し算の確定数は、不確定数の幅（supＣα′＋supＣβ＋β）で抑えることができる。これをＣγ＋γ′で抑えるためにはsupＣα′＋supＣβ＋β′≦infＣγ＋γ′となる拡張桁数(γ＋γ′)を求める。その差（infＣγ＋γ′－（supＣα′＋supＣβ＋β′））をδとすると、確定数の位置を±δ移動しても、誤差がＣγ＋γ′の範囲であれば、高精度コンピュータ数（確定数＋不確定数）を含むことになる。確定数の位置Ａを±δ移動すると、全体的には±δ誤差が大きくなるが、Ｃα′＋Ｃβ＋β′≦Ｃγ＋γ′を抑えるために、δの誤差を許容する。一方、このδの誤差を利用して確定数の下位の桁をトリムする。
　図２６は、トリム処理を説明するための図である。図２６に示すように、γの位置から斜線部分の先頭までの位置をオフセットしている。オフセット値は、γからオフセット値の桁以下を無視してもよいということを意味している。具体的な計算では、（γ－オフセット）桁以下をトリムする。これにより、計算値の桁数が大きくなるのを防ぐことができる。
　Ｃα＋α′＋Ｃβ＋β′≦Ｃγ＋γ′において、(α＋α′)と(β＋β′)とが一致するときに、γ＝２α、γ′＝α′となり、オフセット値は∞になる。実際には１６ビット整数の最大値である６５５３５（プログラム内ではbit16max）で表される。このとき、差分が０となるため、計算値の桁数が大きくなってしまう。この場合の処理については、後述する割り算と同じ処理を行い、(γ＋γ′)＋１/２５６を拡張絶対有効桁数にして、Ｃγ＋γ′とＣγ＋γ′＋１／２５６の差分を使って、計算値の桁数を抑制する。
　拡張桁数足し算表は、β(０から－３２までの整数）によって分類され、α′，β′に対してγ，γ′，差分の桁数を出力する。
　（１）β＝０，α′≧β′の場合、supＣα′＋supＣβ＋β′≦infＣγ＋γ′となる拡張桁数(γ＋γ′)を求め、その差（infＣγ＋γ′－（supＣα′＋supＣβ＋β′））を評価することにより、α′，β′，γ，γ′，及び、差分の桁数の表が作成される。
　（２）βが－１から－９の場合、（１）と同様に、supＣα′＋supＣβ＋β′≦infＣγ＋γ′となる拡張桁数(γ＋γ′)を求め、その差（infＣγ＋γ′－（supＣα′＋supＣβ＋β′））を評価することにより、α′，β′，γ，γ′，及び、差分の桁数の表が作成される。
　（３）βが－１０から－３２の場合、β′の値に関係なく、γ＝－βとなり、γ′=α′＋１となる。ただし、α′＝２５５のときは、γ＝－β＋１，γ′＝０となる。また、その差（infＣγ＋γ′－（supＣα′＋supＣβ＋β′））を評価することにより、α′，β′，γ，γ′，及び、差分の桁数の表が作成される。
　（４）βが－３３以下の場合、（３）と同様に、β′の値に関係なく、γ＝－βとなり、γ′=α′＋１となる。ただし、α′＝２５５のときは、γ＝－β＋１，γ′＝０となる。その差（infＣγ＋γ′－（supＣα′＋supＣβ＋β′））を評価することにより、α′，β′，γ，γ′，及び、差分の桁数の表が作成される。なお、差分の桁数は、９以下である。
　（５）β＝０，α′＝β′の場合、差分の桁数は６５５３５とする。これは符号なし単精度整数の最大値である。この場合、配列ａのトリム処理は行わない。
　図２７は、拡張桁数足し算表の一例を示す図である。図２７に示す表は、β＝０のときの、α′，β′の値に対する拡張桁数（γ＋γ′）、及びオフセット値を示している。４番目の列について、２２／２５６＋２０≦２１＋２/２５６となる最小の拡張桁数（γ＋γ′）であるか否かを検証する。左辺及び右辺の計算結果は、下記の通りである。
２２／２５６＋２０＝2.0054299011…
２１＋２/２５６＝2.010859802…
　また、２１＋１/２５６＝2.005422550…であるから、２１＋２/２５６が最小の値である。
　また、差分（２１＋２/２５６－（２２／２５６＋２０））は、0.0054299009…である。この値に２５６を掛けると1.3900546304となる。これは、差分の値を８ビット左に移動すると、先頭の位置がγの位置になることを示している。そのため、γから８ビット右に移動し、差分の桁数９未満を０にする。
　［掛け算］
　実数Ａ及び実数Ｂをそれぞれ式（１１）及び式（１２）にて定義される高精度コンピュータ数とする。
Figure JPOXMLDOC01-appb-M000022
　ここで、ａ１，ｂ１は数値が確定した確定数であり、ａ２，ｂ２は数値が確定していない不確定数である。Ｃ＝２である。ｈａ＋ｈａ′，ｈｂ＋ｈｂ′はそれぞれ｜ａ１｜≦２ｈａ＋ｈａ′，｜ｂ１｜≦２ｈｂ＋ｈｂ′を満たす最小の拡張桁数である拡張最大桁数を示し、ｈａ，ｈｂは整数である最大桁数を示し、ｈａ′，ｈｂ′はそれぞれｈａ′／２５６，ｈｂ′／２５６である小数桁数を示す。ｅａ＋ｅａ′，ｅｂ＋ｅｂ′は拡張桁数である拡張絶対有効桁数を示し、ｅａ，ｅｂは整数である絶対有効桁数を示し、ｅａ′，ｅｂ′はそれぞれｅａ′／２５６，ｅｂ′／２５６の小数である小数桁数を示す。
　Ａ×Ｂは、下記式（３１）で表される。
Figure JPOXMLDOC01-appb-M000023
　以下、ｈａ，ｈａ′，ｈｂ，ｈｂ′をそれぞれｍａ，ｍａ′，ｍｂ，ｍｂ′と表記して説明する。
　（１）Ａ＞０，Ｂ＞０である場合、ａ１≦Ｃｍａ＋ｍａ′，ｂ１≦Ｃｍｂ＋ｍｂ′であり、下記式（３２）～（３４）を満たす。
Figure JPOXMLDOC01-appb-M000024
　式（３２）～（３４）を整理すると、下記式（３５）～（３７）で表される。
Figure JPOXMLDOC01-appb-M000025
　下記式（３８）とすると、式（３１）は下記式（３９）で表され、式（４０）を満たす拡張桁数を求めればよい。
Figure JPOXMLDOC01-appb-M000026
　この拡張桁数を求めるには、下記式（４１）を満たす最小の拡張桁数を求めればよい。
Figure JPOXMLDOC01-appb-M000027
　また、実数Ｂの不確定数ｂ２が０の場合、式（３８）は下記式（４２）となる。
Figure JPOXMLDOC01-appb-M000028
　実数Ａ,Ｂの両方の不確定数が０の場合、γ→－∞となり、絶対有効桁数ｅの値は－３２７６８（0b1000000000000000)となる。実数Ａ,Ｂのどちらか一方の不確定数が０のときは、下位桁のトリム処理は行わない。
　（２）Ａ＞０，Ｂ＜０である場合、ａ１≦Ｃｍａ＋ｍａ′，－ｂ１≦Ｃｍｂ＋ｍｂ′であり、下記式（４３）～（４５）を満たす。
Figure JPOXMLDOC01-appb-M000029
　式（４３）～（４５）を整理すると、下記式（４６）～（４８）で表される。
Figure JPOXMLDOC01-appb-M000030
　下記式（４９）とすると、式（３１）は下記式（５０）で表され、式（５１）を満たす拡張桁数を求めればよい。
Figure JPOXMLDOC01-appb-M000031
　不確定数が０のときの扱いは、（１）Ａ＞０，Ｂ＞０のケースと同じである。
　（３）Ａ＜０，Ｂ＞０である場合、－ａ１≦Ｃｍａ＋ｍａ′，ｂ１≦Ｃｍｂ＋ｍｂ′であり、下記式（５２）～（５４）を満たす。
Figure JPOXMLDOC01-appb-M000032
　式（５２）～（５４）を整理すると、下記式（５５）～（５７）で表される。
Figure JPOXMLDOC01-appb-M000033
　下記式（５８）とすると、式（３１）は下記式（５９）で表され、式（６０）を満たす拡張桁数を求めればよい。
Figure JPOXMLDOC01-appb-M000034
　不確定数が０のときの扱いは、（１）Ａ＞０，Ｂ＞０のケースと同じである。
　（４）Ａ＜０，Ｂ＜０である場合、－ａ１≦Ｃｍａ＋ｍａ′，－ｂ１≦Ｃｍｂ＋ｍｂ′であり、下記式（６１）～（６３）を満たす。
Figure JPOXMLDOC01-appb-M000035
　式（６１）～（６３）を整理すると、下記式（６４）～（６６）で表される。
Figure JPOXMLDOC01-appb-M000036
　下記式（６７）とすると、式（３１）は下記式（６８）で表され、式（６９）を満たす拡張桁数を求めればよい。
Figure JPOXMLDOC01-appb-M000037
　不確定数が０のときの扱いは、（１）Ａ＞０，Ｂ＞０のケースと同じである。
　［割り算］
　実数Ａ及び実数Ｂをそれぞれ式（１１）及び式（１２）にて定義される高精度コンピュータ数とする。
Figure JPOXMLDOC01-appb-M000038
　ここで、ａ１，ｂ１は数値が確定した確定数であり、ａ２，ｂ２は数値が確定していない不確定数である。Ｃ＝２である。ｈａ＋ｈａ′，ｈｂ＋ｈｂ′はそれぞれ｜ａ１｜≦２ｈａ＋ｈａ′，｜ｂ１｜≦２ｈｂ＋ｈｂ′を満たす最小の拡張桁数である拡張最大桁数を示し、ｈａ，ｈｂは整数である最大桁数を示し、ｈａ′，ｈｂ′はそれぞれｈａ′／２５６，ｈｂ′／２５６である小数桁数を示す。ｅａ＋ｅａ′，ｅｂ＋ｅｂ′は拡張桁数である拡張絶対有効桁数を示し、ｅａ，ｅｂは整数である絶対有効桁数を示し、ｅａ′，ｅｂ′はそれぞれｅａ′／２５６，ｅｂ′／２５６の小数である小数桁数を示す。
　Ｂ／Ａでは、拡張最大桁数（ｈａ＋ｈａ′，ｈｂ＋ｈｂ′）の代わりに、ｈａ＋ｈａ′－１／２５６，ｈｂ＋ｈｂ′－１／２５６を用い、下記式（７１）及び式（７２）にて定義される高精度コンピュータ数とする。
Figure JPOXMLDOC01-appb-M000039
　Ｂ／Ａは、下記式（７３）で表される。
Figure JPOXMLDOC01-appb-M000040
　式（７３）を評価する。
Figure JPOXMLDOC01-appb-M000041
　この式（７４）は、Ｃｈａ＋ｈａ′－１／２５６－Ｃｅａ＋ｅａ′が０になることはない想定である。この値が０以下になるということは、Ａが０になる可能性があることを意味しているため、割算が成立しない。
Figure JPOXMLDOC01-appb-M000042
　式（７５）を満たす拡張桁数（Ｈａ＋Ｈａ′）を求めると、下記式（７６）となる。Ｈａ＋Ｈａ′は、Ｃα′，Ｃβ＋β′に対して、Ｃα′－Ｃβ＋β′≧Ｃγ＋γ′を満たす最大の拡張桁数（γ＋γ′）を出力する拡張桁数引き算表を参照して求めることができる。
Figure JPOXMLDOC01-appb-M000043
　次に、ｂ２ａ１－ｂ１ａ２をそれぞれの項に分けて評価する。ａ１＞０のとき下記式（７７）、ａ１＜０のとき下記式（７８）、ｂ１＞０のとき下記式（７９）、ｂ１＜０のとき下記式（８０）で表される。
Figure JPOXMLDOC01-appb-M000044
　よって、ａ１＞０，ｂ１＞０のとき下記式（８１）、ａ１＞０，ｂ１＜０のとき下記式（８２）、ａ１＜０，ｂ１＞０のとき下記式（８３）、ａ１＜０，ｂ１＜０のとき下記式（８４）で表される。
Figure JPOXMLDOC01-appb-M000045
Figure JPOXMLDOC01-appb-M000046
　式（８５）を満たす拡張桁数（Ｈａｂ＋Ｈａｂ′）を求めると、下記式（８６）となる。
Figure JPOXMLDOC01-appb-M000047
　よって、式（７３）の第２項は下記式（８７）で表される。
Figure JPOXMLDOC01-appb-M000048
　次に、ｂ１／ａ１の桁数について説明する。ｂ１／ａ１の桁数は、不確定部分の計算において、式（８５）を満たす拡張桁数（Ｈａ＋Ｈａ′）を求めるところの差分に丸め込むことができるので、丸め誤差以上の桁を求めておけばよい。丸め込みについて、下記式（８８）～式（９０）用いて説明する。
Figure JPOXMLDOC01-appb-M000049
　式（９０）のようにすると、ε以下の桁は丸めることができる。
　次に、不確定数が０のとき、すなわち、ｅａ，ｅｂが－∞のときの処理について説明する。
　（１）ｅａ＝－∞の場合
　前述の式（７３）を評価するときの式（７４）において、式（７５）を満たす拡張桁数（Ｈａ＋Ｈａ′）を求めると、下記式（９１）となる。
Figure JPOXMLDOC01-appb-M000050
　また、式（８５）を満たす拡張桁数（Ｈａｂ＋Ｈａｂ′）を求めると、下記式（９２）となる。
Figure JPOXMLDOC01-appb-M000051
　このため、式（８８）の不等式は、式（９３）であるから、式（９４）となる。
Figure JPOXMLDOC01-appb-M000052
　(９４)式において、（９５）式として（９６）式とする。そして、Ｃα＋α′とＣβ＋β′との差を使い、拡張絶対有効桁数のトリム処理を行う。
Figure JPOXMLDOC01-appb-M000053
　図２８は、高精度コンピュータ数の割り算の確定数（ｂ１／ａ１）の位置を説明するための図である。ε＝Ｃβ＋β′－Ｃα＋α′以下でｂ１／ａ１を近似する。εの具体的な値は、infＣβ＋β－′supＣα＋α′値として求める。α′≦１３７の場合、オフセット値は９となり、α′＞１３７の場合、オフセット値は８となる。
　ｅｂ＝－∞の場合は。誤差は０となる。このため、外部から有効桁数の指定が必要である。
　（２）ｅａ≠－∞，ｅｂ＝－∞の場合
　式（８５）を満たす拡張桁数（Ｈａｂ＋Ｈａｂ′）を求めると、下記式（９７）となる。
Figure JPOXMLDOC01-appb-M000054
　このため、式（８８）の不等式は、式（９８）であるから、式（９９）となる。
Figure JPOXMLDOC01-appb-M000055
　そして、（１）ｅａ＝－∞の場合と同様に、Ｃα＋α′とＣβ＋β′との差を使い、拡張絶対有効桁数のトリム処理を行う。
　［拡張桁数引き算表］
　Ｃα′，Ｃβ＋β′に対して、Ｃα′－Ｃβ＋β′≧Ｃγ＋γ′を満たす最大の拡張桁数（γ＋γ′）を出力する拡張桁数引き算表について説明する。ここで、０≧βであり、α′，β′は、それぞれα′／２８，β′／２８である。０＝βのときは、α′≧β′とする。拡張桁数引き算表を用いることにより、例えば式（７５）を満たす拡張桁数（Ｈａ＋Ｈａ′）を求める場合、計算を高速化させることができる。
　図２９は、Ｃα′＝Ａ＋Ｂ（Ａ：確定数、Ｂ：不確定数）としたときのＡの３２ビット表現の一例である。Ｂは、－Ｃ－３１≦Ｂ＜Ｃ－３１である。ここで、α′は、α′／２８である。そして、Ｃα′＋Ｃβ＋β′の取りうる最小値を含むＣγ＋γ′の最大の拡張桁数を求める。具体的には、infＣα′－supＣβ＋β′≧supＣγ＋γ′となるＣγ＋γ′を求める。また、その差（supＣγ＋γ′－（infＣα′－supＣβ＋β′））を計算する。
　β＝０かつα′＝β′のときには、Ｃα′－Ｃβ＋β′≧Ｃ－∞である。γの取りうる値は、単精度整数の範囲であり、最も小さい値を－∞として扱う。その値は、２ビット表現で「0b1000000000000000」となる。
　図３０は、infＣα′－supＣβ＋β′の具体的な計算方法を説明するための図である。infＣα′とsupＣβ＋β′とを３２ビットで表し、supＣβ＋β′の最下位ビットを６４ビットの最下位ビットに合わせて、符号なし６４ビット整数で計算を行う。この処理であれば６４ビットの範囲を超えることはない。infＣα′とsupＣβ＋β′とを６４ビットにコピーし、infＣα′を－βビット左に移動させる。そして、これらの値の差を計算する。この差の計算において、最初が０ではないビットを求め、そのビットに対してsupＣγの最上位ビットの位置を合わせる。
　＜３．具体例＞
　以下、高精度コンピュータ数による計算例について説明する。基数は２（Ｃ＝２）であり、指数部の拡張部（小数部）ｈａ′，ｈｂ′，ｅａ′，ｅｂ′，ｒ′はそれぞれｈａ′／２８（０≦ｈａ′＜２８），ｈｂ′／２８（０≦ｈｂ′＜２８），ｅａ′／２８（０≦ｅａ′＜２８），ｅｂ′／２８（０≦ｅｂ′＜２８），ｒ′／２８（０≦ｒ′＜２８）である。
　また、計算例では、倍精度浮動小数点表現を高精度コンピュータ数に変換し、高精度コンピュータ数を用いて計算を行った。倍精度浮動小数点表現を高精度コンピュータ数に変換する処理は、倍精度浮動小数点の符号、指数部を調べ、仮数部をコピーすることにより行われる。
　図３１は、倍精度浮動小数点表現を示す図であり、図３２は、１０進数の「０．１」を高精度コンピュータ数によりビット表現した一例を示す図である。図３２に示す高精度コンピュータ数において、ｓｉｇｎ（０）は、正の数、Ａｎ（２）は、３２ビットの配列の使用数が「２」であることを示す。ｈ（－４）は、最大桁数が「－４」であることを示し、ｈ′（１７４）は、最大桁数の拡張部（小数桁数）が「１７４」であることを示す。ｌ（５５）は、配列ａ［０］の最下位ビットが２進数で－５５桁であることを示す。
　ｅ（－５７）は、有効桁数が２進数で－５７まで有効であることを示す。１０進数で表すと、ｌｏｇ１０２＝０．３０１０２９９９５６６３９８１・・・であるから、ｌｏｇ１０２－５７＝－１７．１５８７０９７５２８４６９２８１・・・となり、１０進数で－１７桁まで有効であることを示す（図３２の４行目を参照）。
　配列ａ［１］,ａ［０］は、倍精度浮動小数点表現の仮数部（ｆｒａｃｔｉｏｎ）がそのまま代入される。なお、高精度コンピュータ数では、右詰めである。１０進数の「０．１」は、正確な値をコンピュータで表すことはできないため、４行目のような値になっている。
　１０進数の「０．１」を倍精度浮動小数点表現した仮数部を高精度コンピュータ数の配列に代入すると、下記配列（Ａ）となる。これは、図３３に示す高精度コンピュータ数の配列ａ［１］と配列ａ［０］とを連結したものである。
　0000000000001100110011001100110011001100110011001100110011001101　（Ａ）
　先頭の１のビットは、最大桁数ｈであり、倍精度浮動小数点表現から計算で求めることができる。最大桁数の拡張部（小数桁数）ｈ′は、前述した拡張桁数表を参照して求めることができる。配列（Ａ）の先頭９ビットは「１１００１１００１」であり、その後ろの８ビットは「１００１１００１」である。この８ビットを使って、前述した「８ビット－α‘表」を参照することにより、最大桁数の拡張部ｈ′を求めることができる。「１００１１００１」は１０進数で１５３であり、「８ビット－α‘表」の１５３番目（先頭は０）の数値（１７４）を読み込む。
　２１７４／２５６を計算すると、１．６０１７９２７５５６８２６９３３５３７９３８４６２４１５９１となる。一方、配列（Ａ）の先頭３２ビットの値は、３４３５９７３８３６であり、この値を２３１で割ることにより、先頭の１ビット目を２進数の０桁目とすることができる。この値を求めると、１．５９９９９９９９９６２７４７０９７０１５３８０８５９３７５であるため、配列（Ａ）の先頭１の桁を２進数の０桁目とすると、配列（Ａ）は、２１７４／２５６で抑えることができることが分かる。配列（Ａ）の先頭は、２進数の桁で－４であるから、０．１≦２－４＋１７４／２５６を満たすこと分かる。
　実際に計算すると下記計算結果となり、２－４＋１７３／２５６≦０．１≦２－４＋１７４／２５６であることが分かる。
　２－４＋１７４／２５６＝0.10011204723016833461211539009943
　２－４＋１７３／２５６＝0.09984134986928919364142626838804
　［足し算］
　図３３は、１０進数の「１．１」を高精度コンピュータ数によりビット表現した一例を示す図であり、図３４は、１０進数の「０．１」及び「１．１」を高精度コンピュータ数に変換した後、高精度コンピュータ数を用いて「０．１＋１．１」を計算した結果の一例を示す図である。
　図３４に示す高精度コンピュータ数において、ｈ（０）,ｈ′（６８）は、１．２≦２６８／２５６であること示している。実際に計算すると下記計算結果となり、２６７／２５６≦０．１≦２６８／２５６であることが分かる。
　２６７／２５６＝1.19890616707438048177…
　２６８／２５６＝1.2021567314527031420…
　また、計算結果の拡張絶対有効桁数ｅ（－５３），ｅ′（２３）は、「０．１」の高精度コンピュータ数の拡張絶対有効桁数ｅ（－５７），ｅ′（０）と、「１．１」の高精度コンピュータ数の拡張絶対有効桁数ｅ（－５３），ｅ′（０）とを使用し、２－５３＋２２／２５６≦２－５７＋２－５３≦２－５３＋２３／２５６であることを示している。両辺に２５３を掛けて、実際に計算すると下記計算結果となり、２２２／２５６≦２－４＋１≦２２３／２５６であることが分かる。
　２２２／２５６＝1.061377227289262…
　２－４＋１＝1.0625
　２２３／２５６＝1.0642549128844645…
　次に、オフセット値を求める。
　0.1＝0.100000000 0000000055 5111512312 +α　|α|≦２－５７
　1.1＝1.10000000 0000000088 8178419700 +β　|β|≦２－５３
　1.2＝1.20000000000000009436895709312 +α＋β
　ここで、α＋β≦２－５７＋２－５３＝２－５３（２－４＋１）であるから、（１＋２－４）≦２γ′／２５６を満たす最小のγ′を求める。（１＋２－４）において１＝２０，２－４＝２－４であり、α′＝０、β＝－４、β′＝０であるから、この値から前述した拡張桁数足し算表を参照し、γ′，差分の桁数（オフセット値）を求める。
　拡張桁数足し算表の値（γ′＝２３）を使うと（１＋２－４）≦２２３／２５６であり、実際に両辺をそれぞれ計算すると下記計算結果となる。
　１＋２－４＝1.0625
　２２３／２５６＝1.0642549128844645497886112570016
　また、拡張桁数足し算表のオフセット値は１０である。差分の計算結果は下記通りである。
　２２３／２５６－（１＋２－４）＝0.00175491288446454978861125700158
　これに２１０を掛けた計算結果は、下記の通りである。
　1.7970307936916989835379271696181
　２進数で表したときの小数点以下は、「.0000000001********」となり、「1********」以下は切り捨てることができる。これは、２進数で－５３桁目から１０桁以下を切り捨ててもよいことを示している。これによって最小桁数ｌは、－５５桁となっており、絶対有効桁数ｅ（－５３）以下となっている。２進数で－５５桁以下がもともと０である。
　図３５は、１０進数の「０．１×１．１」を浮動小数点で計算し、高精度コンピュータ数に変換した結果の一例を示す図である。高精度コンピュータ数に変換して計算した方が、精度が幾分向上していることが分かる。
　図３６は、１０進数の「０．００００００１」を高精度コンピュータ数によりビット表現した一例を示す図であり、図３７は、１０進数の「１．０」を高精度コンピュータ数によりビット表現した一例を示す図である。また、図３８は、１０進数の「０．００００００１」及び「１．０」を高精度コンピュータ数に変換した後、高精度コンピュータ数を用いて「１．０」に「０．００００００１」を１００回加算した結果の一例を示す図である。絶対有効桁数ｅ（－５３）に変化はなく、小数桁数ｅ′のみが１００になっていることが分かる。第１の実施の形態のコンピュータ数の繰り返し計算では、一回ごとに絶対有効桁数ｅの値が３程度増えるため、１００回たし算を行うと、有効桁数の意味がなくなっていたが、高精度コンピュータ数により改善することができる。
　また、図３９は、「１．０」に「０．００００００１」を１００回加算する計算を浮動小数点で行い、その結果を高精度コンピュータ数に変換した結果の一例を示す図である。有効桁数が１０進で１５桁になっている。
　［掛け算］
　図４０は、１０進数の「０．１」及び「１．１」を高精度コンピュータ数に変換し、高精度コンピュータ数を用いて「０．１×１．１」を計算した結果の一例を示す図である。
　図４０に示す高精度コンピュータ数において、ｈ（－４）,ｈ′（２０９）は、０．１１≦２－４＋２０９／２５６であること示している。実際に計算すると下記計算結果となり、２－４＋２０８／２５６≦０．１１≦２－４＋２０９／２５６であることが分かる。
　２－４＋２０８／２５６＝0.1097657600233312…
　２－４＋２０９／２５６＝0.11006336518984898…
　図４０に示す高精度コンピュータ数において、ｅ（－５６），ｅ′（１１２）は、２５７Ｃ′≦２５７（２－５６＋１１２／２５６）あることを示している。また、Ａ，Ｂ共に正であるときの式（３８）に示すＣ′の具体的な計算結果は、下記の通りである。
Figure JPOXMLDOC01-appb-M000056
Ｃ′＝２０－５７＋３６／２５６＋０＋２－４－５３＋１７４／２５６＋０＋２－５７－５３＋０＋０
Ｃ′＝２－５７＋３６／２５６＋２－５７＋１７４／２５６＋２－１１０
２５７Ｃ′＝２３６／２５６＋２１７４／２５６＋２－５３
　実際に計算すると下記計算結果となり、２５７（２－５６＋１１１／２５６）≦２５７Ｃ′≦２５７（２－５６＋１１２／２５６）であることが分かる。また、ｅ（－５６），ｅ′（１１２）は、Ｃ′≦Ｃγ＋γ′を満たす最小の拡張桁数であり、拡張有効桁数（ｅ＋ｅ′／２５６）であることが分かる。
２５７（２－５６＋１１２／２５６）＝2.708511093873…
２５７Ｃ′＝2.704175338990…
２５７（２－５６＋１１１／２５６）＝2.701187431…
　また、オフセット値は９であるから、最小桁数がｌ（－６３）であり、ｅ（－５６）よりも小さくなっている。この桁以下は０が２以上連続しているものと想定される。
　図４１は、１０進数の「０．１×１．１」を浮動小数点で計算し、高精度コンピュータ数に変換した結果の一例を示す図である。高精度コンピュータ数による計算結果は、浮動小数点による計算結果と同様であることが分かる。
　図４２は、１０進数の「０．００００００１」を「１．１」に１００回かける計算を高精度コンピュータ数で計算した結果の一例を示す図である。図４２に示す計算結果と、図３３に示す「１．１」の高精度コンピュータ数との、有効桁数を比較する。有効桁数は、ｌｏｇＣ｜確定数｜－拡張絶対有効桁数（γ＋γ′）≦ｋとなる最小の整数である。
　図３３：(0+36/256)-(-53)=53＋36/256
　図４２：(-2326+202/256)-(-2372+1/256)=43+203/256
　有効桁数が６＋８９／２５６ほど低下しているが、第１の実施形態におけるコンピュータ数と比較して改善されている。
　［割り算］
　図４３は、１０進数の「１」及び「３」を高精度コンピュータ数に変換し、高精度コンピュータ数を用いて「１÷３」を計算した結果の一例を示す図である。１と３は不確定数部分がないため（ｅａ＝－∞，ｅｂ＝－∞）、拡張絶対有効桁数を－１００に指定した。
　図４４は、分母である１０進数の「０．１」を高精度コンピュータ数によりビット表現した一例を示す図であり、図４５は、分子である１０進数の「１」を高精度コンピュータ数によりビット表現した一例を示す図である。また、図４６は、高精度コンピュータ数を用いて「１÷０．１」を計算した結果の一例を示す図である。１は不確定数部分がないため、分子の不確定数が０のケース（ｅａ≠－∞，ｅｂ＝－∞）で計算を行う。
Figure JPOXMLDOC01-appb-M000057
　上記式（７５）において、ｈａ＋ｈａ′－１／２５６，ｅａ＋ｅａ′を計算すると下記の通りとなる。
　ｈａ＋ｈａ′－１／２５６＝－４＋１７３／２５６
　ｅａ＋ｅａ′＝－５７
　そして、この数値を用い、前述した拡張桁数引き算表を参照してＨａ＋Ｈａ′を求める。ｈａに対してｅａが小さいため、ｈａ＋ｈａ′－１／２５６から１／２５６を引いた値となる。
　Ｈａ＋Ｈａ′＝－４＋１７２／２５６
Figure JPOXMLDOC01-appb-M000058
　上記式（９９）において、（ｈｂ＋ｅａ－Ｈａ－ｈａ）＋（ｈｂ′＋ｅａ′－Ｈａ′－ｈａ′＋１／２５６）は、－５１＋１６８／２５６となり、拡張絶対有効桁数ｅ（－５１），ｅ′（１６９）の計算結果となる。オフセット値は８であるため、最小桁数ｌ（－５３）に対して拡張絶対有効桁数が大きくなっている。
　図４７は、分母である１０進数の「０．１」を高精度コンピュータ数によりビット表現した一例を示す図であり、図４８は、分子である１０進数の「０．２」を高精度コンピュータ数によりビット表現した一例を示す図である。また、図４９は、高精度コンピュータ数を用いて「０．２÷０．１」を計算した結果の一例を示す図である。分子及び分母の不確定数が０ではないケース（ｅａ≠－∞，ｅｂ≠－∞）で計算を行う。
Figure JPOXMLDOC01-appb-M000059
　上記式（７５）において、ｈａ＋ｈａ′－１／２５６，ｅａ＋ｅａ′を計算すると下記の通りとなる。
　ｈａ＋ｈａ′－１／２５６＝－４＋１７３／２５６
　ｅａ＋ｅａ′＝－５７
　そして、この数値を用い、前述した拡張桁数引き算表を参照してＨａ＋Ｈａ′を求める。ｈａに対してｅａが小さいため、ｈａ＋ｈａ′－１／２５６から１／２５６を引いた値となる。
　Ｈａ＋Ｈａ′＝－４＋１７２／２５６
Figure JPOXMLDOC01-appb-M000060
　上記式（８９）において、指数部の下記２つの値を算出する。
　（ｅｂ－Ｈａ）＋（ｅｂ′－Ｈａ′＋１／２５６）＝－５３＋８５／２５６
　（ｈｂ＋ｅａ－Ｈａ－ｈａ）＋（ｈｂ′＋ｅａ′－Ｈａ′－ｈａ′＋１／２５６）＝－５３＋８５／２５６
　これらの２つの値は、差分が存在しないため、オフセット値が∞のときの方法で、計算結果の拡張絶対有効桁数は、－５２＋８５／２５６に１/２５６をプラスした値になる（ｅ（－５２），ｅ′（８６））。
　１１　入力部、１２　格納部、１３　演算部、１４　制御部、２１　ＣＰＵ、２２　ＧＰＵ、２３　ＲＯＭ、２４　ＲＡＭ、２５　操作入力部、２６　ストレージ、２７　入出力インターフェース、３１　入力部、３２　格納部、３３　演算部、３４　制御部、
 

Claims (10)

  1. 　下記式（１１）及び式（１２）にて実数Ａ及び実数Ｂがそれぞれ定義された高精度コンピュータ数を入力する入力部と、
    　前記高精度コンピュータ数を格納する格納部と、
    　前記格納部に格納された高精度コンピュータ数の確定数ａ１，ｂ１を用いて演算し、下記（１３）式を満たすように拡張絶対有効桁数（γ＋γ′）を決定し、該演算結果の高精度コンピュータ数を前記格納部に格納する演算部と
    　を備える情報処理装置。
    Figure JPOXMLDOC01-appb-M000001
    　ここで、ａ１，ｂ１は数値が確定した確定数であり、ａ２，ｂ２は数値が確定していない不確定数である。Ｃは基数を示す。ｈａ＋ｈａ′，ｈｂ＋ｈｂ′はそれぞれ｜ａ１｜≦Ｃｈａ＋ｈａ′，｜ｂ１｜≦Ｃｈｂ＋ｈｂ′を満たす最小の拡張桁数である拡張最大桁数を示し、ｈａ，ｈｂは整数である最大桁数を示し、ｈａ′，ｈｂ′はそれぞれ０≦ｈａ′＜１，０≦ｈｂ′＜１の小数である小数桁数を示す。ｅａ＋ｅａ′，ｅｂ＋ｅｂ′，γ＋γ′は拡張桁数である拡張絶対有効桁数を示し、ｅａ，ｅｂ，γは整数である絶対有効桁数を示し、ｅａ′，ｅｂ′，ｒ′はそれぞれ０≦ｅａ′＜１，０≦ｅｂ′＜１，０≦ｒ′＜１の小数である小数桁数を示す。（Ａ，Ｂ）は実数Ａ及び実数Ｂの演算結果であり、（ａ，ｂ）1は確定数ａ１，ｂ１の演算結果であり、（ａ，ｂ）２は不確定数ａ２，ｂ２の演算結果である。
  2. 　前記高精度コンピュータ数の基数Ｃが、２、８、又は１６のいずれかである請求項１記載の情報処理装置。
  3. 　前記小数桁数ｈａ′，ｈｂ′，ｅａ′，ｅｂ′，ｒ′が、それぞれｈａ′／２ｎ（０≦ｈａ＜２ｎ）、ｈｂ′／２ｎ（０≦ｈｂ′＜２ｎ）、ｅａ′／２ｎ（０≦ｅａ′＜２ｎ）、ｅｂ′／２ｎ（０≦ｅｂ′＜２ｎ）、ｒ′／２ｎ（０≦ｒ′＜２ｎ）、ｎは自然数で表される請求項２記載の情報処理装置。
  4. 　前記高精度コンピュータ数の基数Ｃが、２であり、
    　前記小数桁数のｎが、８である請求項３記載の情報処理装置。
  5. 　前記演算部は、足し算（Ａ＋Ｂ）において、下記式（１４）を満たす最小の拡張桁数を拡張絶対有効桁数とする請求項４記載の情報処理装置。
    Figure JPOXMLDOC01-appb-M000002
  6. 　前記演算部は、掛け算（Ａ×Ｂ）において、下記式（１５）を満たす最小の拡張桁数を拡張絶対有効桁数とする請求項４記載の情報処理装置。
    Figure JPOXMLDOC01-appb-M000003
  7. 　前記演算部は、割り算（Ｂ／Ａ）において、ｈａ＋ｈａ′，ｈｂ＋ｈｂ′の代わりに、それぞれｈａ＋ｈａ′－１／２５６，ｈｂ＋ｈｂ′－１／２５６を用い、下記式（１６）及び式（１７）にて定義される高精度コンピュータ数として下記式（１８）を評価し、拡張絶対有効桁数を決定する請求項４記載の情報処理装置。
    Figure JPOXMLDOC01-appb-M000004
  8. 　下記式（１１）及び式（１２）にて実数Ａ及び実数Ｂがそれぞれ定義された高精度コンピュータ数を入力する入力ステップと、
    　前記高精度コンピュータ数を格納部に格納する格納ステップと、
    　前記格納部に格納された高精度コンピュータ数の確定数ａ１，ｂ１を用いて演算し、下記（１３）式を満たすように拡張絶対有効桁数（γ＋γ′）を決定し、該演算結果の高精度コンピュータ数を前記格納部に格納する演算ステップと
    　を有する処理をコンピュータに実行させるプログラム。
    Figure JPOXMLDOC01-appb-M000005
    　ここで、ａ１，ｂ１は数値が確定した確定数であり、ａ２，ｂ２は数値が確定していない不確定数である。Ｃは基数を示す。ｈａ＋ｈａ′，ｈｂ＋ｈｂ′はそれぞれ｜ａ１｜≦Ｃｈａ＋ｈａ′，｜ｂ１｜≦Ｃｈｂ＋ｈｂ′を満たす最小の拡張桁数である拡張最大桁数を示し、ｈａ，ｈｂは整数である最大桁数を示し、ｈａ′，ｈｂ′はそれぞれ０≦ｈａ′＜１，０≦ｈｂ′＜１の小数である小数桁数を示す。ｅａ＋ｅａ′，ｅｂ＋ｅｂ′，γ＋γ′は拡張桁数である拡張絶対有効桁数を示し、ｅａ，ｅｂ，γは整数である絶対有効桁数を示し、ｅａ′，ｅｂ′，ｒ′はそれぞれ０≦ｅａ′＜１，０≦ｅｂ′＜１，０≦ｒ′＜１の小数である小数桁数を示す。（Ａ，Ｂ）は実数Ａ及び実数Ｂの演算結果であり、（ａ，ｂ）1は確定数ａ１，ｂ１の演算結果であり、（ａ，ｂ）２は不確定数ａ２，ｂ２の演算結果である。
  9. 　請求項８に記載のプログラムを記録した記録媒体。
  10. 　下記式（１１）及び式（１２）にて実数Ａ及び実数Ｂがそれぞれ定義された高精度コンピュータ数を入力する入力ステップと、
    　前記高精度コンピュータ数を格納部に格納する格納ステップと、
    　前記格納部に格納された高精度コンピュータ数の確定数ａ１，ｂ１を用いて演算し、下記（１３）式を満たすように拡張絶対有効桁数（γ＋γ′）を決定し、該演算結果の高精度コンピュータ数を前記格納部に格納する演算ステップと
    　を有する情報処理方法。
    Figure JPOXMLDOC01-appb-M000006
    　ここで、ａ１，ｂ１は数値が確定した確定数であり、ａ２，ｂ２は数値が確定していない不確定数である。Ｃは基数を示す。ｈａ＋ｈａ′，ｈｂ＋ｈｂ′はそれぞれ｜ａ１｜≦Ｃｈａ＋ｈａ′，｜ｂ１｜≦Ｃｈｂ＋ｈｂ′を満たす最小の拡張桁数である拡張最大桁数を示し、ｈａ，ｈｂは整数である最大桁数を示し、ｈａ′，ｈｂ′はそれぞれ０≦ｈａ′＜１，０≦ｈｂ′＜１の小数である小数桁数を示す。ｅａ＋ｅａ′，ｅｂ＋ｅｂ′，γ＋γ′は拡張桁数である拡張絶対有効桁数を示し、ｅａ，ｅｂ，γは整数である絶対有効桁数を示し、ｅａ′，ｅｂ′，ｒ′はそれぞれ０≦ｅａ′＜１，０≦ｅｂ′＜１，０≦ｒ′＜１の小数である小数桁数を示す。（Ａ，Ｂ）は実数Ａ及び実数Ｂの演算結果であり、（ａ，ｂ）1は確定数ａ１，ｂ１の演算結果であり、（ａ，ｂ）２は不確定数ａ２，ｂ２の演算結果である。
PCT/JP2020/024260 2019-11-27 2020-06-19 情報処理装置、プログラム、及び情報処理方法 WO2021106253A1 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
EP20891904.3A EP4068080A4 (en) 2019-11-27 2020-06-19 INFORMATION PROCESSING DEVICE, INFORMATION PROCESSING PROGRAM AND METHOD
US17/056,367 US11334317B2 (en) 2019-11-27 2020-06-19 Information processing apparatus, program, and information processing method configured to handle a high-precision computer number
JP2020542917A JP6810437B1 (ja) 2019-11-27 2020-06-19 情報処理装置、プログラム、及び情報処理方法
TW109141100A TWI753668B (zh) 2019-11-27 2020-11-24 資訊處理裝置、電腦程式、記錄媒體及資訊處理方法

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2019-214678 2019-11-27
JP2019214678 2019-11-27

Publications (1)

Publication Number Publication Date
WO2021106253A1 true WO2021106253A1 (ja) 2021-06-03

Family

ID=76130447

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2020/024260 WO2021106253A1 (ja) 2019-11-27 2020-06-19 情報処理装置、プログラム、及び情報処理方法

Country Status (2)

Country Link
JP (1) JP2021089737A (ja)
WO (1) WO2021106253A1 (ja)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004005395A (ja) 2002-04-16 2004-01-08 Sony Computer Entertainment Inc 演算処理装置、半導体デバイス
JP2006323710A (ja) * 2005-05-20 2006-11-30 Renesas Technology Corp データプロセッサ、データ処理方法及び演算制御プログラム
JP2015232833A (ja) * 2014-06-10 2015-12-24 本田技研工業株式会社 浮動小数点演算装置、プログラム、及び演算装置
JP2017538197A (ja) * 2014-11-03 2017-12-21 エイアールエム リミテッド 有効度整合
JP2019214678A (ja) 2018-06-13 2019-12-19 上野製薬株式会社 ポリプロピレン樹脂組成物

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004005395A (ja) 2002-04-16 2004-01-08 Sony Computer Entertainment Inc 演算処理装置、半導体デバイス
JP2006323710A (ja) * 2005-05-20 2006-11-30 Renesas Technology Corp データプロセッサ、データ処理方法及び演算制御プログラム
JP2015232833A (ja) * 2014-06-10 2015-12-24 本田技研工業株式会社 浮動小数点演算装置、プログラム、及び演算装置
JP2017538197A (ja) * 2014-11-03 2017-12-21 エイアールエム リミテッド 有効度整合
JP2019214678A (ja) 2018-06-13 2019-12-19 上野製薬株式会社 ポリプロピレン樹脂組成物

Also Published As

Publication number Publication date
JP2021089737A (ja) 2021-06-10

Similar Documents

Publication Publication Date Title
CN107077415B (zh) 用于执行转换运算的装置和方法
Schulte et al. Approximating elementary functions with symmetric bipartite tables
Ackleh et al. Classical and modern numerical analysis: Theory, methods and practice
US10019231B2 (en) Apparatus and method for fixed point to floating point conversion and negative power of two detector
JPH07182143A (ja) コンピュータにおいて除算および平方根計算を実施するための方法および装置
JP7096828B2 (ja) 入力オペランド値を処理するための装置及び方法
US5463574A (en) Apparatus for argument reduction in exponential computations of IEEE standard floating-point numbers
EP3769208B1 (en) Stochastic rounding logic
Lim et al. One polynomial approximation to produce correctly rounded results of an elementary function for multiple representations and rounding modes
WO2021106253A1 (ja) 情報処理装置、プログラム、及び情報処理方法
JP6810437B1 (ja) 情報処理装置、プログラム、及び情報処理方法
Matoussi et al. Error analysis of the square root operation for the purpose of precision tuning: A case study on k-means
Chung Provably correct posit arithmetic with fixed-point big integer
Gil et al. On the computation and inversion of the cumulative noncentral beta distribution function
US10915385B2 (en) Residue prediction of packed data
US20050289208A1 (en) Methods and apparatus for determining quotients
Ruiz et al. Algebraic circuits
US20140164463A1 (en) Exponent flow checking
Graillat et al. Numerical validation in quadruple precision using stochastic arithmetic
Rump IEEE-754 precision-p base-β arithmetic implemented in binary
Bruguera Radix-64 floating-point division and square root: Iterative and pipelined units
JP3541086B2 (ja) 除算結果、及び開平算結果に正確な丸め処理を行う方法、及び装置
Lefevre The generic multiple-precision floating-point addition with exact rounding (as in the MPFR library)
JP2005208327A (ja) 剰余装置、剰余方法、プログラム及び記録媒体
Khoury et al. Numerical Representation

Legal Events

Date Code Title Description
ENP Entry into the national phase

Ref document number: 2020542917

Country of ref document: JP

Kind code of ref document: A

121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 20891904

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

ENP Entry into the national phase

Ref document number: 2020891904

Country of ref document: EP

Effective date: 20220627