JPH0628153A - 低誤差計算処理装置 - Google Patents

低誤差計算処理装置

Info

Publication number
JPH0628153A
JPH0628153A JP4182721A JP18272192A JPH0628153A JP H0628153 A JPH0628153 A JP H0628153A JP 4182721 A JP4182721 A JP 4182721A JP 18272192 A JP18272192 A JP 18272192A JP H0628153 A JPH0628153 A JP H0628153A
Authority
JP
Japan
Prior art keywords
storage device
symbol
arithmetic
digits
calculation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP4182721A
Other languages
English (en)
Inventor
Hiroyuki Ishii
宏幸 石井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP4182721A priority Critical patent/JPH0628153A/ja
Publication of JPH0628153A publication Critical patent/JPH0628153A/ja
Withdrawn legal-status Critical Current

Links

Landscapes

  • Complex Calculations (AREA)
  • Calculators And Similar Devices (AREA)

Abstract

(57)【要約】 【目的】数値データの記憶、演算において、誤差を低減
することのできる低誤差計算処理装置に関し、有理数、
無理数をそのままの形で記憶し、演算処理の最終段階で
数値データに変換することにより、誤差の発生の少ない
低誤差計算処理装置を実現することを目的とする。 【構成】入力装置10と、演算装置20と、記憶装置3
0と、出力装置40と、制御装置50からなる計算処理
装置において、記憶装置30の中に、無理数、分数等の
数字を記号として記憶する記号記憶装置31を設け、演
算装置20における数値演算の途上で、無理数、分数等
の無限の桁数を有する数字が発生した際、有限の桁数の
数字には変換せず、そのままの形で記号として、記号記
憶装置31の中に記憶しておき、演算の最終段階で、記
号記憶装置31の中に記憶している記号を、有限の桁数
の数値に変換して演算を行うように構成する。

Description

【発明の詳細な説明】
【0001】
【産業上の利用分野】本発明は数値データの記憶、演算
において、誤差を低減することのできる低誤差計算処理
装置に関する。
【0002】近年の電子計算機の技術の進展により、電
卓から汎用機にいたるまでの広い範囲で各種の数値演算
が行われている。電子計算機における数値演算は、記憶
形式が整数型、実数型、複素数型の3種類で構成されて
おり、電子計算機で処理を行おうとする数値は、この何
れかの型式で表現しなければならず、かつ有限の桁数で
表現しなければならないので、丸め誤差(例えば、無理
数を実数型で処理するときの誤差等)が発生してしま
う。
【0003】かかる、数値演算に際して、誤差発生の割
合の少ない計算処理装置が要求されている。
【0004】
【従来の技術】図4は従来例を説明するブロック図を示
す。図は数値演算を行う計算処理装置の例であり、10
はキーボード等の入力装置、20は演算装置、30は記
憶装置、40はディスプレイ等の出力装置、50は制御
装置である。
【0005】ここで、数値演算を行うとき、入力装置1
0より、指定の計算式が入力され、演算装置20は制御
装置50の制御のもとに、記憶装置30に書き込まれて
いるプログラムを読み出し、そのプログラムにしたがい
演算を行う。
【0006】このとき、複数の演算を行って最終の結果
を求めるとき、演算の途上で発生する数値、および最終
の演算結果を記憶装置30の中に書き込んでおき、その
演算結果はディスプレイあるいはプリンタ等の出力装置
40より出力される。
【0007】
【発明が解決しようとする課題】上述の従来例におい
て、例えば、 3÷21×7= を計算する場合、まず、 3÷21=0.14285714285・・・・ を求め、指定の桁数で切捨て(例として、12桁の切捨
てで説明する)、 0.14285714285×7=0.9999999
9995 を求める。
【0008】一方、3÷21×7=1であり、従来例の
計算結果では、0.00000000005の計算誤差
が生じている。通常、電子計算機の中では、数値データ
は整数型式、実数型式、複素数型式の3型式で記憶して
いる。
【0009】ところが、有理数を有理数として、無理数
を無理数として、定数を定数として記憶する記憶型式が
存在していないので、計算の過程において、それぞれの
数値を記憶するとき、数値データに変換して記憶するの
で、上述の従来例で説明したように、数値の丸め誤差が
発生してしまう。また、演算をひとつずつ行っていくの
で誤差は累積してしまう。
【0010】そこで、科学計算等の桁数の多い演算を行
う場合には、誤差解析により、誤差の含有率を解析した
上でその演算を行うことが必要である。本発明は有理
数、無理数をそのままの形で記憶し、演算処理の最終段
階で数値データに変換して、演算を行うことにより、誤
差の発生の少ない低誤差計算処理装置を実現しようとす
る。
【0011】
【課題を解決するための手段】図1は本発明の原理を説
明するブロック図である。図中の10は計算式を入力す
る入力装置であり、20は指定の演算を実行する演算装
置であり、30はプログラムおよび数値データを記憶す
る記憶装置であり、40は演算結果を出力する出力装置
であり、50は入力装置10、演算装置20、記憶装置
30および出力装置40の制御を行う制御装置である。
【0012】また、31は、記憶装置30の中に設け
る、無理数、分数等の数字を記号として記憶する記号記
憶装置であり、演算装置20における数値演算の途上
で、無理数、分数等の無限の桁数を有する数字が発生し
た際、その数字を有限の桁数の数字には変換せず、その
ままの形で記号として記号記憶装置31の中に記憶して
おき、演算の最終段階で記号記憶装置31の中に記憶し
ている記号を、有限の桁数の数値に変換して演算を行
う。
【0013】
【作用】例えば、有理数の1/3を小数点以下10桁の
実数型式で記憶装置30に記憶する場合、0.3333
333333となり、0.0000000000333
3・・・の誤差が生ずる。
【0014】そこで、1/3を分子と分母に分け、
「1」と「3」という整数の組み合わせで記号記憶装置
31に記憶しておき、演算の最後に実数型式に変換する
ことにより誤差を低減することができる。
【0015】また、平方根等の無理数を指定される有効
桁で丸めて記憶すると、丸めを行った桁で丸め誤差が発
生するので、平方根は平方根という記号として記号記憶
装置31に記憶しておき、演算の最後に実数型式に変換
して、演算を行うことにより誤差を低減させることがで
きる。
【0016】
【実施例】図2は本発明の実施例による記憶型式を説明
する図である。例えば、分数の場合には、循環小数とな
り、無限に数字が連続する場合がある。そこで、分数は
分子と分母の二つの数字で記号記憶装置31に記憶して
おき、最終段階で、通分、約分を行い数値を簡略化した
後、数値演算を行う。
【0017】π、21/2 等の無理数は無限に連続する数
字である。そこで、これらの無理数は文字定数として記
号記憶装置31に記憶しておき、最後に指定の桁数の数
値データに変換して数値演算を実行する。
【0018】図3は本発明の実施例による計算例を示
す。(A)は従来例で説明したと同じ例である。計算の
手順は、分子、分母をそれぞれ演算するものとし、最終
演算の前に通分を行い誤差をできるだけ少なくしてい
る。
【0019】 3÷21×7=(3×7)/21=(3×7)/(3×7)=1 ここで、分子、分母の最大公約数を求めることは電子計
算機の処理により簡単に求めることが可能である。
【0020】(B)は無理数πを含む計算の例である。
〔(5/3)×π×0.72 〕の計算において、従来例
では逐次計算を行ってゆく。
【0021】まず、従来例では5/3を求め、有限の桁
数で切捨て、ここでは12桁で演算を行うものとする、
その結果にπ(ここでは5桁を使用するものとする)を
乗算する。
【0022】さらに、その積に0.7の乗算を行い、そ
の積に0.7の乗算を行い最終結果を求める。従来例の
計算結果は、2.56555833331となる。
【0023】一方、本発明の実施例では、πはπという
記号として記号記憶装置31に記憶しておき、最後にπ
を指定の桁数の実数データに戻して、数値演算を行い結
果を求める。
【0024】すなわち、 〔(5/3)×π×0.72 〕 =〔(5/3)×(7/10)×(7/10)×π〕 =〔(1/3)×(7/2)×(7/10)×π〕 =(49/60)×π =2.56555833333 となり、誤差を低減することが可能となる。
【0025】
【発明の効果】本発明は、数値演算を行う電子計算機に
おいて、有理数、無理数は記号として記憶しておき、演
算の最終段階で実数に変換して数値演算を行うことによ
り、誤差の発生の少ない低誤差計算処理装置を実現する
ことができる。
【図面の簡単な説明】
【図1】 本発明の原理を説明するブロック図
【図2】 本発明の実施例の記憶型式を説明する図
【図3】 本発明の実施例による計算例
【図4】 従来例を説明するブロック図
【符号の説明】
10 入力装置 20 演算装置 30 記憶装置 31 記号記憶装置 40 出力装置 50 制御装置

Claims (1)

    【特許請求の範囲】
  1. 【請求項1】 入力装置(10)と、演算装置(20)
    と、記憶装置(30)と、出力装置(40)と、制御装
    置(50)からなる計算処理装置において、 前記記憶装置(30)の中に、無理数、分数等の数字を
    記号として記憶する記号記憶装置(31)を設け、 前記演算装置(20)における数値演算の途上で、無理
    数、分数等の無限の桁数を有する数字が発生した際、そ
    の数字を有限の桁数の数字には変換せず、そのままの形
    で記号として前記記号記憶装置(31)の中に記憶して
    おき、演算の最終段階で、前記記号記憶装置(31)の
    中に記憶している記号を、有限の桁数の数値に変換して
    演算を行うことを特徴とする低誤差計算処理装置。
JP4182721A 1992-07-10 1992-07-10 低誤差計算処理装置 Withdrawn JPH0628153A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP4182721A JPH0628153A (ja) 1992-07-10 1992-07-10 低誤差計算処理装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP4182721A JPH0628153A (ja) 1992-07-10 1992-07-10 低誤差計算処理装置

Publications (1)

Publication Number Publication Date
JPH0628153A true JPH0628153A (ja) 1994-02-04

Family

ID=16123285

Family Applications (1)

Application Number Title Priority Date Filing Date
JP4182721A Withdrawn JPH0628153A (ja) 1992-07-10 1992-07-10 低誤差計算処理装置

Country Status (1)

Country Link
JP (1) JPH0628153A (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9669851B2 (en) 2012-11-21 2017-06-06 General Electric Company Route examination system and method
US9834237B2 (en) 2012-11-21 2017-12-05 General Electric Company Route examining system and method
US10308265B2 (en) 2006-03-20 2019-06-04 Ge Global Sourcing Llc Vehicle control system and method

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10308265B2 (en) 2006-03-20 2019-06-04 Ge Global Sourcing Llc Vehicle control system and method
US9669851B2 (en) 2012-11-21 2017-06-06 General Electric Company Route examination system and method
US9834237B2 (en) 2012-11-21 2017-12-05 General Electric Company Route examining system and method

Similar Documents

Publication Publication Date Title
JPS6347874A (ja) 算術演算装置
JPH0690668B2 (ja) ファジイ演算装置
JPH0628153A (ja) 低誤差計算処理装置
JP2737933B2 (ja) 除算装置
JP3019796B2 (ja) 乗算器
JP2705162B2 (ja) 演算処理装置
JP2835366B2 (ja) 高速フーリエ変換用アドレス情報発生装置
JPS63254525A (ja) 除算装置
JP2985965B2 (ja) 因数分解装置
JP3074910B2 (ja) 除算装置
JPS61118835A (ja) ハ−ドウエア除算器
JP2974683B2 (ja) 数値データ管理処理方式
JP2605792B2 (ja) 演算処理装置
JP2777265B2 (ja) 高基数開平演算装置
JPH04250555A (ja) 電子計算機
JPS592055B2 (ja) 開平演算方式
JPH01161437A (ja) 除算装置
JPS63310023A (ja) 符号付固定小数点乗算装置
JPS62182841A (ja) 平方根演算方式
JPH02178833A (ja) 異なるビット長のデータを加算する加算器
JPS62214435A (ja) デイジタル除算回路
JPH0651949A (ja) 乗算回路
JPH0635678A (ja) 十進除算回路
JPH0922343A (ja) 演算装置
JPS6226538A (ja) 除算器

Legal Events

Date Code Title Description
A300 Withdrawal of application because of no request for examination

Free format text: JAPANESE INTERMEDIATE CODE: A300

Effective date: 19991005