JP2000222173A - 端数処理装置及びその方法並びに該端数処理を実行するプログラムを記録した記録媒体 - Google Patents
端数処理装置及びその方法並びに該端数処理を実行するプログラムを記録した記録媒体Info
- Publication number
- JP2000222173A JP2000222173A JP11019982A JP1998299A JP2000222173A JP 2000222173 A JP2000222173 A JP 2000222173A JP 11019982 A JP11019982 A JP 11019982A JP 1998299 A JP1998299 A JP 1998299A JP 2000222173 A JP2000222173 A JP 2000222173A
- Authority
- JP
- Japan
- Prior art keywords
- numerical value
- rounding
- stored
- rounding width
- width
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F7/00—Methods or arrangements for processing data by operating upon the order or content of the data handled
- G06F7/38—Methods or arrangements for performing computations using exclusively denominational number representation, e.g. using binary, ternary, decimal representation
- G06F7/48—Methods or arrangements for performing computations using exclusively denominational number representation, e.g. using binary, ternary, decimal representation using non-contact-making devices, e.g. tube, solid state device; using unspecified devices
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F7/00—Methods or arrangements for processing data by operating upon the order or content of the data handled
- G06F7/38—Methods or arrangements for performing computations using exclusively denominational number representation, e.g. using binary, ternary, decimal representation
- G06F7/48—Methods or arrangements for performing computations using exclusively denominational number representation, e.g. using binary, ternary, decimal representation using non-contact-making devices, e.g. tube, solid state device; using unspecified devices
- G06F7/499—Denomination or exception handling, e.g. rounding or overflow
- G06F7/49942—Significance control
- G06F7/49947—Rounding
- G06F7/49963—Rounding to nearest
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computational Mathematics (AREA)
- Computing Systems (AREA)
- Mathematical Analysis (AREA)
- Mathematical Optimization (AREA)
- Pure & Applied Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Complex Calculations (AREA)
Abstract
とができる端数処理装置等を提供する。 【解決手段】 入力部1により端数処理される数値xと
丸めの幅wとを入力し、入力された数値xを各桁毎に数
値記憶部21に記憶し、入力された丸めの幅wを丸め幅
記憶部22に記憶し、下位数値抽出部31により数値記
憶部21に記憶されている数値xのうち、丸め幅記憶部
22に記憶されている丸めの幅wに対応する桁より下位
の桁から構成される下位数値yを抽出し、端数処理部4
により丸め幅記憶部22に記憶されている丸めの幅wと
下位数値抽出部31により抽出された下位数値yを2倍
した数値とを比較した結果に基づいて、数値記憶部21
に記憶されている数値xを、丸め幅記憶部22に記憶さ
れている丸めの幅wの整数倍の系列の中から選んだ数値
に置き換える。
Description
等に必要な端数処理を行う端数処理装置及び方法並びに
そのためのプログラムを記録した記録媒体に関し、より
詳細には、丸めの幅による数値丸めを行う端数処理装置
及び方法並びにそのためのプログラムを記録した記録媒
体に関する。
理は広く行われており、例えば、実験データの整理、会
計処理等を挙げることができる。四捨五入を行う処理
は、高級言語やデータ処理ソフトにおいては関数として
用意されていることが多く、ユーザーは、数値と処理す
る桁の位置とを指定することにより、四捨五入された数
値を得ることが可能である。
す。まず、ユーザーが処理する数値xと処理する桁の位
置pを入力する(ステップS601)。処理する桁の位
置pは、例えば、百の位であれば−2、整数にするので
あれば0、小数点以下第3位であれば+3のようにして
指定する方法が挙げられる。次に、与えられた数値xを
各桁毎にメモリに格納し(ステップS602)、指定さ
れた桁の位置pの1つ右の桁の数値をメモリから取得し
(ステップS603)、該数値が5以上であるか否かを
判別する(ステップS604)。そして、判別結果が5
以上となった時には切り上げ処理を行い(ステップS6
05)、5以上でない時には切り捨て処理を行う(ステ
ップS606)。
従来の端数処理には以下の問題点があった。 (1)丸めの幅を直接用いた端数処理を行うことができ
ない。
あるISO 31-0:1992(E)の付録BGuide to the roundi
ng of numbersに基づくものであり、丸めの幅を用いた
端数処理とは、与えられた数値を、ある一定の丸めの幅
の整数倍の系列の中から選んだ数値に置き換えることを
いう。例えば、丸めの幅が0.1の場合、12.849
は、12.8に、13.451は13.5に丸められ、
丸めの幅が10の場合、1284.9は1280に、1
345.1は1350に丸められる。従って、丸めの幅
を用いた端数処理で最初に入力されるのは、処理する桁
の位置ではなく、丸めの幅である。しかしながら、現在
市販されている表計算ソフトは、もともと丸めの幅によ
る端数処理という概念を持っておらず、丸めの幅を直接
入力して端数処理することはできなかった。従って、丸
めの幅を用いて従来の端数処理を行うためには、丸めの
幅を処理する桁の位置に変換する新たな処理が必要にな
り、処理が複雑化して処理時間が増えるという問題があ
った。 (2)JIS規格に対応できない 単純な四捨五入では、データの数字によって結果に偏り
が生じてしまうため、その偏りを補正して丸め誤差を最
小にする端数処理、即ち丸めが必要となる。JIS規格
では、そのための丸め方法を定めており、例えば官公庁
に提出する資料等では、このJIS規格に従って、数値
の丸めを行わなければならない場合が多い。
丸め方法を示す。これは、基本的には四捨六入を行い、
残った5について振り分け処理を行うものである。ある
数値を有効数字n桁の数値に丸める場合には(n+1)
桁目以下の数値を、次のように整理する。 (a)(n+1)桁目以下の数値がn桁目の1単位の1
/2未満の場合には切り捨てる。 (b)(n+1)桁目以下の数値がn桁目の1単位の1
/2を越える場合にはn桁目を1単位だけ増す。 (c)(n+1)桁目以下の数値がn桁目の1単位の1
/2である場合には次の(i)、(ii)のようにする。
8であれば切り捨てる。
であれば、n桁目を1単位だけ増す。
数字の位から数えたものとする。また、この丸め方は、
1段階に行わなければならない。例えば、5.346を
この方法で有効数字2桁に丸めれば、5.3となる。こ
れを2段階に分けてしまうと1段階目で5.35、2段
階目で5.4となってしまう。
し(ステップS701)、(n+1)桁目の数字が6以
上か否かを判別し(ステップS702)、6以上であれ
ばn桁目を1だけ増し、(n+1)桁目以降を切り捨て
る(ステップS706)。例えば、これに従って13.
461を有効数字3桁に丸めるのであれば、13.5と
する。
るか否かを判別し(ステップS703)、4以下である
場合には(n+1)桁目以降を切り捨てる(ステップS
707)。例えば、12.849を有効数字3桁に丸め
るのであれば、12.8とする。
下でもない場合、すなわち(n+1)桁目が5である場
合には、(n+2)桁目以降が全て0であるか否かを判
別し(ステップS704)、(n+2)桁目以降に0以
外の数があれば、n桁目を1だけ増し、(n+1)桁目
以降を切り捨てる(ステップS706)。例えば、これ
に従って13.451を有効数字3桁に丸めるのであれ
ば、13.5とする。
場合には、n桁目が偶数であるか奇数であるかを判別す
る(ステップS705)。その結果、n桁目が偶数であ
る場合には、(n+1)桁目以降を切り捨てる(ステッ
プS707)。例えば、11.450を有効数字3桁に
丸めるのであれば、11.4とする。逆に、n桁目が奇
数である場合には、n桁目を1だけ増し、(n+1)桁
目以降を切り捨てる(ステップS706)。例えば、1
2.750を有効数字3桁に丸めるのであれば、12.
8とする。
も、丸めの幅を直接入力して端数処理することはでき
ず、丸めの幅を用いて従来の端数処理を行うためには、
丸めの幅を桁の位置に変換する新たな処理が必要にな
り、この場合も処理が複雑化して処理時間が増えるとい
う問題があった。
て端数処理を行うことができる端数処理装置等を提供す
ることである。
用いてJIS規格のように丸め誤差を最小にする端数処
理を行うことができる端数処理装置等を提供することで
ある。
は、端数処理される数値xと丸めの幅wとを入力するた
めの入力手段と、入力された数値xを各桁毎に記憶する
数値記憶手段と、入力された丸めの幅wを記憶する丸め
幅記憶手段と、前記数値記憶手段に記憶されている数値
xのうち、前記丸め幅記憶手段に記憶されている丸めの
幅wに対応する桁より下位の桁から構成される下位数値
yを抽出する下位数値抽出手段と、前記丸め幅記憶手段
に記憶されている丸めの幅wと前記下位数値抽出手段に
より抽出された下位数値yを2倍した数値とを比較した
結果に基づいて、前記数値記憶手段に記憶されている数
値xを、前記丸め幅記憶手段に記憶されている丸めの幅
wの整数倍の系列の中から選んだ数値に置き換える端数
処理手段とを備えるものである。
yを2倍した数値と比較することにより、下位数値yの
最上位桁の数値が5より大きいか、等しいか又は小さい
かを判断することができ、丸めの幅を桁の位置に変換す
ることなく、丸めの幅をそのまま用いて端数処理を行う
ことができる。
手段に記憶されている数値xのうち、前記丸め幅記憶手
段に記憶されている丸めの幅wに対応する桁に格納され
ている丸め数値aを抽出する丸め数値抽出手段をさらに
備え、前記端数処理手段は、前記丸め数値抽出手段によ
り抽出された丸め数値aを2で割ったときの剰余bを算
出する剰余算出手段と、前記丸め幅記憶手段に記憶され
ている丸めの幅wが前記下位数値抽出手段により抽出さ
れた下位数値yを2倍した数値より小さい場合、又は、
前記丸め幅記憶手段に記憶されている丸めの幅wが前記
下位数値抽出手段により抽出された下位数値yを2倍し
た数値に等しく、且つ、前記剰余算出手段により算出さ
れた剰余bが1の場合、前記丸め数値抽出手段により抽
出された丸め数値aに1を加算する加算手段と、前記下
位数値抽出手段により抽出された下位数値yを切り捨て
る切り捨て手段とを備えることが好ましい。
かを判断することにより、丸め数値aが偶数であるか否
かを判断することができるので、丸めの幅をそのまま用
いてJIS規格のように丸め誤差を最小にする端数処理
を行うことができる。また、上記の処理では、乗算する
数値及び除算する数値として2を用いているので、2進
法の場合、シフト演算のみで乗算及び除算を行うことが
でき、より単純な処理で端数処理することができ、プロ
グラムの作製が容易となると共に、処理時間も短縮する
ことができる。
される数値xと丸めの幅wとを入力する第一のステップ
と、入力された数値xを各桁毎に数値記録部に記憶する
第二のステップと、入力された丸めの幅wを丸め幅記憶
部に記憶する第三のステップと、前記数値記憶部に記憶
されている数値xのうち、前記丸め幅記憶部に記憶され
ている丸めの幅wに対応する桁より下位の桁から構成さ
れる下位数値yを抽出する第四のステップと、前記丸め
幅記憶部に記憶されている丸めの幅wと前記第四のステ
ップで抽出された下位数値yを2倍した数値とを比較し
た結果に基づいて、前記数値記憶部に記憶されている数
値xを、前記丸め幅記憶部に記憶されている丸めの幅w
の整数倍の系列の中から選んだ数値に置き換える第五の
ステップとを含むものである。
部に記憶されている数値xのうち、前記丸め幅記憶部に
記憶されている丸めの幅wに対応する桁に格納されてい
る丸め数値aを抽出する第六のステップをさらに含み、
前記第五のステップは、前記第六のステップで抽出され
た丸め数値aを2で割ったときの剰余bを算出する第七
のステップと、前記丸め幅記憶部に記憶されている丸め
の幅wが前記第四のステップで抽出された下位数値yを
2倍した数値より小さい場合、又は、前記丸め幅記憶部
に記憶されている丸めの幅wが前記第四のステップで抽
出された下位数値yを2倍した数値に等しく、且つ、前
記第七のステップで算出された剰余bが1の場合、前記
第六のステップで抽出された丸め数値aに1を加算する
第八のステップと、前記第四のステップで抽出された下
位数値yを切り捨てる第九のステップとを含むことが好
ましい。
な記録媒体は、端数処理される数値xと丸めの幅wとを
入力するための入力手段、入力された数値xを各桁毎に
記憶する数値記憶手段、入力された丸めの幅wを記憶す
る丸め幅記憶手段、前記数値記憶手段に記憶されている
数値xのうち、前記丸め幅記憶手段に記憶されている丸
めの幅wに対応する桁より下位の桁から構成される下位
数値yを抽出する下位数値抽出手段、前記丸め幅記憶手
段に記憶されている丸めの幅wと前記下位数値抽出手段
により抽出された下位数値yを2倍した数値とを比較し
た結果に基づいて、前記数値記憶手段に記憶されている
数値xを、前記丸め幅記憶手段に記憶されている丸めの
幅wの整数倍の系列の中から選んだ数値に置き換える端
数処理手段としてコンピュータを機能させるためのプロ
グラムを記録したものである。
記憶手段に記憶されている数値xのうち、前記丸め幅記
憶手段に記憶されている丸めの幅wに対応する桁に格納
されている丸め数値aを抽出する丸め数値抽出手段とし
てコンピュータを機能させるためのプログラムを記録さ
れ、前記端数処理手段は、前記丸め数値抽出手段により
抽出された丸め数値aを2で割ったときの剰余bを算出
する剰余算出手段と、前記丸め幅記憶手段に記憶されて
いる丸めの幅wが前記下位数値抽出手段により抽出され
た下位数値yを2倍した数値より小さい場合、又は、前
記丸め幅記憶手段に記憶されている丸めの幅wが前記下
位数値抽出手段により抽出された下位数値yを2倍した
数値に等しく、且つ、前記剰余算出手段により算出され
た剰余bが1の場合、前記丸め数値抽出手段により抽出
された丸め数値aに1を加算する加算手段と、前記下位
数値抽出手段により抽出された下位数値yを切り捨てる
切り捨て手段とを備えることが好ましい。
明の好適な実施形態について説明する。図1は本発明の
一実施の形態の端数処理装置の構成を示すブロック図で
ある。
部1、記憶部2、抽出部3、端数処理部4、及び出力部
5を備える。記憶部2は、数値記憶部21及び丸め幅記
憶部22を備える。抽出部3は、下位数値抽出部31及
び丸め数値抽出部32を備える。端数処理部4は、剰余
算出部41、加算部42及び切り捨て部43を備える。
の幅wとを入力するために使用される。数値記憶部21
は、入力された数値xを各桁毎に記憶し、丸め幅記憶部
22は、入力された丸めの幅wを記憶する。下位数値抽
出部31は、数値記憶部21に記憶されている数値xの
うち、丸め幅記憶部22に記憶されている丸めの幅wに
対応する桁より下位の桁により構成される下位数値yを
抽出する。丸め数値抽出部32は、数値記憶部21に記
憶されている数値xのうち、丸め幅記憶部22に記憶さ
れている丸めの幅wに対応する桁に格納される丸め数値
aを抽出する。剰余算出部41は、丸め数値抽出部32
により抽出された丸め数値aを2で割ったときの剰余b
を算出する。加算部42は、丸め幅記憶部22に記憶さ
れている丸めの幅wが下位数値抽出部31により抽出さ
れた下位数値yを2倍した数値より小さい場合、又は、
丸め幅記憶部22に記憶されている丸めの幅wが下位数
値抽出部31により抽出された下位数値yを2倍した数
値に等しく、且つ、剰余算出部41により算出された剰
余bが1の場合、丸め数値抽出部32により抽出された
丸め数値aに1を加算し、数値記憶部21に格納されて
いる丸め数値aを書き換える。切り捨て部43は、下位
数値抽出部32により抽出された下位数値yを切り捨
て、数値記憶部21の下位数値yを構成する各桁に格納
されている数値を0に書き換える。出力部5は、数値記
憶部21に格納されている書き換え後の各数値から構成
される数値を端数処理後の数値として出力する。なお、
数値記憶部21の各数値を書き換えることなく、数値記
憶部21とは別個に端数処理後の数値を格納する端数処
理後数値記憶部を記憶部2に設けてもよい。
を用いて実現したときのハードウエア構成の一例を図2
に示す。
装置11、表示装置12、外部記憶装置13、記録媒体
14、RAM15、CPU16、ROM17、印刷装置
18、バスライン19を備える。入力装置11は、例え
ば、テンキーを備えるキーボード、マウス等から構成さ
れ、ユーザーが所望の処理を選択したり、端数処理され
る数値x及び丸めの幅wを入力するために使用される。
入力されたデータ等は、バスライン19を介してCPU
16に伝送され、必要に応じてRAM15又は外部記憶
装置13の記録媒体14に記憶される。表示装置12
は、例えば、液晶表示装置、CRT等から構成され、所
定の画面を表示する。外部記憶装置13は、例えば、ハ
ードディスクドライブ、フロッピーディスクドライブ、
CD−ROMドライブ、光磁気ディスクドライブ等から
構成され、CPU16により処理されたデータ等を、ハ
ードディスク、フロッピーディスク、CD−ROM、光
磁気ディスク等からなる記憶媒体14に記録したり、記
録媒体14に記録されているデータ等をCPU16へ出
力する。RAM15には、CPU16が処理したデータ
等が記憶され、該データ等は必要に応じてCPU16に
より読み出される。ROM17又は記憶媒体14には、
図1に示す端数処理装置の各機能を実行するためのプロ
グラム等が記憶され、CPU16は、このプログラムに
従いバスライン19を介して各部を制御する。印刷装置
18は、レーザープリンタ等から構成され、CPU16
により処理されたデータ等を印字して出力する。
理装置と、図1に示す端数処理装置との対応関係は、例
えば、以下のようになる。入力部1が入力装置11、R
AM24又は外部記憶装置23に対応し、記憶部2がR
AM24又は外部記憶装置23に対応し、抽出部3及び
端数処理部4がCPU16に対応する。出力部5が表示
装置12又は印刷装置18に対応する。なお、以下に説
明する端数処理に対応するプログラムは、ROM16に
予め記憶されていてもよいし、外部記憶装置13を用い
て、CD−ROM、フロッピーディスク、光磁気ディス
ク、半導体メモリを用いた記憶媒体等の記録媒体14か
らインストールされるようにしてもよい。
限定されず、通常のコンピュータを用いることができ、
例えば、サーバー、デスクトップ・パソコン、ラップト
ップ・コンピュータ、携帯用情報端末等を用いることが
でき、さらに、マイクロコンピュータ等を備える分析機
器、計測機器等であってもよい。また、使用されるプロ
グラム言語も特に限定されず、種々の言語で記述するこ
とができる。なお、分析機器、計測機器等の場合、実験
等の測定結果や計算結果等の数値データを格納する計算
・計測結果記憶部等を外部記憶装置13の記録媒体14
又はRAM15に設けてもよい。
置により実行される端数処理について詳細に説明する。
図3は、図1に示す端数処理装置の端数処理を説明する
ためのフローチャートである。
おいて、入力部5により端数処理される数値x及び丸め
の幅wが入力され、入力された数値xは、数値xを構成
する各桁毎の数値が各々数値記憶部21に格納され、丸
めの幅wは、丸め幅記憶部22に格納される。ここで、
数値xは、オペレータが入力部1を用いて直接入力する
ようにしてもよいし、計測機器等の場合、記憶部2の計
算・計測結果記憶部等に格納されている数値を数値記憶
部21及び丸め幅記憶部22へ入力するようにしてもよ
い。
出部32は、数値記憶部21から丸めの幅wに対応する
桁に格納されている丸め数値aを抽出する。例えば、数
値xとして12.354が、丸めの幅wとして0.1が
入力された場合、数値記憶部21に格納されている、
「1」、「2」、「3」、「5」及び「4」のうち、丸
めの幅0.1に対応する桁の数値すなわち小数点以下第
一位の桁の数値「3」が抽出される。
41により丸め数値aが2で除算され、その剰余bが算
出される。なお、剰余bは、0又は1であり、0の場
合、丸め数値aは偶数であり、1の場合は、丸め数値a
は奇数であることがわかる。
出部31は、丸めの幅bに対応する桁より下位の桁から
構成される下位数値yを抽出する。例えば、数値xとし
て12.354が、丸めの幅wとして0.1が入力され
た場合、数値記憶部21に格納されている、「1」、
「2」、「3」、「5」及び「4」のうち、丸めの幅
0.1に対応する桁より下位の桁である、「5」及び
「4」から構成される下位数値0.054が抽出され
る。
により、丸めの幅wが下位数値yを2倍した数値より小
さいか否か、又は、丸めの幅wが下位数値yを2倍した
数値に等しく且つ剰余bが1であるか否かが判断され、
丸めの幅wが下位数値yを2倍した数値より小さい場
合、及び、丸めの幅wが下位数値yを2倍した数値に等
しく且つ剰余bが1の場合、ステップS6へ移行する。
上記以外の場合、すなわち、丸めの幅wが下位数値yを
2倍した数値より大きい場合、及び、丸めの幅wが下位
数値yを2倍した数値に等しく且つ剰余bが0の場合、
ステップS7へ移行する。
方と対比すると、丸めの幅wが下位数値yを2倍した数
値より小さい場合とは、(n+1)桁目以下の数値がn
桁目の1単位の1/2を越える場合すなわちn桁目を1
単位だけ増す場合であり、丸めの幅wが下位数値yを2
倍した数値に等しく且つ剰余bが1の場合とは、(n+
1)桁目以下の数値がn桁目の1単位の1/2であり且
つn桁目の数値が、1、3、5、7、9の場合すなわち
n桁目を1単位だけ増す場合である。一方、丸めの幅w
が下位数値yを2倍した数値より大きい場合とは、(n
+1)桁目以下の数値がn桁目の1単位の1/2未満の
場合すなわち切り捨てる場合であり、丸めの幅wが下位
数値yを2倍した数値に等しく且つ剰余bが0の場合と
は、(n+1)桁目以下の数値がn桁目の1単位の1/
2であり且つn桁目の数値が、0、2、4、6、8の場
合すなわち切り捨てる場合である。従って、上記の判断
処理は、JIS規格による数値の丸め処理の判断処理に
適合するものである。
を2倍した数値より小さい、又は、丸めの幅wが下位数
値yを2倍した数値に等しく且つ剰余bが1であると判
断された場合、ステップS6において、丸め数値aに1
を加算し、数値記憶部21に格納されている丸め数値a
を書き換える。なお、加算時に桁の繰り上がりがある場
合は、丸め数値aを0に書き換え、丸め数値aの一つ上
位の桁の数値に1を加算して該数値を書き換える。
を切り捨て、数値記憶部21に格納されている下位数値
yを構成する各数値を0に書き換える。
部21に格納されている書き換え後の各数値から構成さ
れる数値、すなわち数値xを端数処理した数値が出力さ
れる。
幅wが下位数値yを2倍した数値より小さい場合すなわ
ち(n+1)桁目以下の数値がn桁目の1単位の1/2
を越える場合、及び、丸めの幅wが下位数値yを2倍し
た数値に等しく且つ剰余bが1の場合すなわち(n+
1)桁目以下の数値がn桁目の1単位の1/2であり且
つn桁目の数値が、1、3、5、7、9の場合、丸め数
値aに1が加算されるとともに、下位数値yが切り捨て
られ、切り上げ処理が実行される。
数値より大きい場合すなわち(n+1)桁目以下の数値
がn桁目の1単位の1/2未満の場合、及び、丸めの幅
wが下位数値yを2倍した数値に等しく且つ剰余bが0
の場合すなわち(n+1)桁目以下の数値がn桁目の1
単位の1/2であり且つn桁目の数値が、0、2、4、
6、8の場合、丸め数値aはそのままで下位数値yが切
り捨てられ、切り捨て処理が行われる。
の位置に変換することなく、丸めの幅をそのまま比較処
理に用いることができるとともに、JIS規格のように
丸め誤差を最小にする端数処理を行うことができる。ま
た、上記の処理では、乗算する数値及び除算する数値と
して2を用いているので、2進法の場合、シフト演算の
みで乗算及び除算を行うことができ、より少ないステッ
プ数で端数処理を行うことができ、プログラムの作製が
容易となると共に、処理時間も短縮することができる。
装置について説明する。図4は、本発明の他の実施の形
態の端数処理装置の構成を示すブロック図である。図4
に示す端数処理装置は、丸めの幅をそのまま用いて四捨
五入による端数処理を行うものであり、図1に示す端数
処理装置の剰余算出部41が不要となり、加算部42が
加算時の判断条件が異なる加算部42aに変更された点
を除き、図1に示す端数処理装置と同様であるので、同
一部分には同一符号を付し、以下詳細な説明を省略す
る。また、図4に示す端数処理装置をコンピュータを用
いて実現したときのハードウエア構成も図2に示すもの
とほぼ同様であるので図示及び詳細な説明を省略する。
算部42a及び切り捨て部43を備え、加算部42a
は、丸め幅記憶部22に記憶されている丸めの幅wが下
位数値抽出部31により抽出された下位数値yを2倍し
た数値以下の場合、丸め数値抽出部32により抽出され
た丸め数値aに1を加算し、数値記憶部21に格納され
ている丸め数値aを書き換える。
置により実行される端数処理について説明する。図5
は、図4に示す端数処理装置の端数処理を説明するため
のフローチャートである。図5に示すフローチャート
は、図3に示すフローチャートのスッテプS3が削除さ
れ、ステップS5がステップS9に変更された点を除
き、図3に示すフローチャートと同様であるので、以下
異なる点のみを説明する。
S4において、図3に示すステップS1、S2、S4と
同様の処理が行われ、ステップS9において、丸めの幅
wが下位数値yを2倍した数値以下であるか否かが判断
され、丸めの幅wが下位数値yを2倍した数値以下の場
合、ステップS6へ移行し、上記以外の場合、すなわ
ち、丸めの幅wが下位数値yを2倍した数値より大きい
場合、ステップS7へ移行する。ここで、丸めの幅wが
下位数値yを2倍した数値以下の場合とは、下位数値y
の最上位の数値が5以上の場合すなわち四捨五入の切り
上げ処理を行う場合である。一方、丸めの幅wが下位数
値yを2倍した数値より大きい場合とは、下位数値yの
最上位の数値が4以下の場合すなわち四捨五入の切り捨
て処理を行う場合である。
のステップS6〜S8と同様の処理が行われ、最終的
に、数値記憶部21に格納されている書き換え後の各数
値から構成される数値、すなわち数値xを四捨五入によ
る端数処理した数値が出力される。従って、本実施の形
態でも、丸めの幅を桁の位置に変換することなく、丸め
の幅をそのまま比較処理に用いて端数処理を行うことが
できる。また、上記の処理でも、乗算する数値として2
を用いているので、2進法の場合、シフト演算のみで乗
算を行うことができ、より少ないステップ数で端数処理
することができ、プログラムの作製が容易となると共
に、処理時間も短縮することができる。
では、プログラムの作製が容易となると共に、処理時間
も短縮することができ、このことは、コンピュータの処
理能力に関係なくソフトウエア化できることを意味して
おり、本発明に係る処理手順は、端数処理を行う様々な
分野に適用することができる。本発明の応用分野として
は、以下のものを例示することができる。 1.表計算ソフトウエアに関数として組み込む。
us 1-2-3、三四郎等を挙げることができる。 2.分析・計測・計算ソフトウエアに組み込む。
濃度を求めるソフトウエア、薬品の成分濃度を求めるソ
フトウエア等が含まれる。 3.分析・計測機器に組み込む。
器、光化学分析機器、電磁気分析機器、分離分析機器、
熱分析機器等を挙げることができる。 4.物理量・物性測定機に組み込む。
度・露点計、測光・測色機器等が含まれる。 5.特殊機器に組み込む。
農林・水産・畜産関連機器、気象観測機器、海洋観測機
器等に組み込むこともできる。 6.国際規格ISO9000やISO14000の審査
登録取得作業に組み込む。
アや試験、測定及び監視用ソフトウエア等に組み込むこ
ともできる。
wと下位数値yを2倍した数値と比較することにより、
下位数値yの最上位桁の数値が5より大きいか、等しい
か又は小さいかを判断することができるので、丸めの幅
をそのまま用いて端数処理を行うことができる。
に、剰余bが1であるか否かを判断することにより、丸
め数値aが偶数であるか否かを判断することができるの
で、丸めの幅をそのまま用いてJIS規格のように丸め
誤差を最小にする端数処理を行うことができる。
示すブロック図である。
て実現したときのハードウエア構成の一例を示すブロッ
ク図である。
ためのフローチャートである。
を示すブロック図である。
ためのフローチャートである。
ローチャートである。
を用いてコンピュータで処理する場合のフローチャート
である。
Claims (4)
- 【請求項1】 端数処理される数値xと丸めの幅wとを
入力するための入力手段と、 入力された数値xを各桁毎に記憶する数値記憶手段と、 入力された丸めの幅wを記憶する丸め幅記憶手段と、 前記数値記憶手段に記憶されている数値xのうち、前記
丸め幅記憶手段に記憶されている丸めの幅wに対応する
桁より下位の桁から構成される下位数値yを抽出する下
位数値抽出手段と、 前記丸め幅記憶手段に記憶されている丸めの幅wと前記
下位数値抽出手段により抽出された下位数値yを2倍し
た数値とを比較した結果に基づいて、前記数値記憶手段
に記憶されている数値xを、前記丸め幅記憶手段に記憶
されている丸めの幅wの整数倍の系列の中から選んだ数
値に置き換える端数処理手段とを備える端数処理装置。 - 【請求項2】 前記数値記憶手段に記憶されている数値
xのうち、前記丸め幅記憶手段に記憶されている丸めの
幅wに対応する桁に格納されている丸め数値aを抽出す
る丸め数値抽出手段をさらに備え、 前記端数処理手段は、 前記丸め数値抽出手段により抽出された丸め数値aを2
で割ったときの剰余bを算出する剰余算出手段と、 前記丸め幅記憶手段に記憶されている丸めの幅wが前記
下位数値抽出手段により抽出された下位数値yを2倍し
た数値より小さい場合、又は、前記丸め幅記憶手段に記
憶されている丸めの幅wが前記下位数値抽出手段により
抽出された下位数値yを2倍した数値に等しく、且つ、
前記剰余算出手段により算出された剰余bが1の場合、
前記丸め数値抽出手段により抽出された丸め数値aに1
を加算する加算手段と、 前記下位数値抽出手段により抽出された下位数値yを切
り捨てる切り捨て手段とを備える請求項1記載の端数処
理装置。 - 【請求項3】 端数処理される数値xと丸めの幅wとを
入力する第一のステップと、 入力された数値xを各桁毎に数値記録部に記憶する第二
のステップと、 入力された丸めの幅wを丸め幅記憶部に記憶する第三の
ステップと、 前記数値記憶部に記憶されている数値xのうち、前記丸
め幅記憶部に記憶されている丸めの幅wに対応する桁よ
り下位の桁から構成される下位数値yを抽出する第四の
ステップと、 前記丸め幅記憶部に記憶されている丸めの幅wと前記第
四のステップで抽出された下位数値yを2倍した数値と
を比較した結果に基づいて、前記数値記憶部に記憶され
ている数値xを、前記丸め幅記憶部に記憶されている丸
めの幅wの整数倍の系列の中から選んだ数値に置き換え
る第五のステップとを含む端数処理方法。 - 【請求項4】 端数処理される数値xと丸めの幅wとを
入力するための入力手段、 入力された数値xを各桁毎に記憶する数値記憶手段、 入力された丸めの幅wを記憶する丸め幅記憶手段、 前記数値記憶手段に記憶されている数値xのうち、前記
丸め幅記憶手段に記憶されている丸めの幅wに対応する
桁より下位の桁から構成される下位数値yを抽出する下
位数値抽出手段、 前記丸め幅記憶手段に記憶されている丸めの幅wと前記
下位数値抽出手段により抽出された下位数値yを2倍し
た数値とを比較した結果に基づいて、前記数値記憶手段
に記憶されている数値xを、前記丸め幅記憶手段に記憶
されている丸めの幅wの整数倍の系列の中から選んだ数
値に置き換える端数処理手段としてコンピュータを機能
させるためのプログラムを記録したコンピュータ読み取
り可能な記録媒体。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP01998299A JP3789245B2 (ja) | 1999-01-28 | 1999-01-28 | 端数処理装置及びその方法並びに該端数処理を実行するプログラムを記録した記録媒体 |
US09/283,799 US6493738B1 (en) | 1999-01-28 | 1999-04-01 | Apparatus and method for rounding numerical values according to significant digits or rounding interval |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP01998299A JP3789245B2 (ja) | 1999-01-28 | 1999-01-28 | 端数処理装置及びその方法並びに該端数処理を実行するプログラムを記録した記録媒体 |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2004183916A Division JP2004334906A (ja) | 2004-06-22 | 2004-06-22 | 端数処理装置及びその方法並びに該端数処理を実行するプログラムを記録した記録媒体 |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2000222173A true JP2000222173A (ja) | 2000-08-11 |
JP2000222173A5 JP2000222173A5 (ja) | 2005-04-28 |
JP3789245B2 JP3789245B2 (ja) | 2006-06-21 |
Family
ID=12014399
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP01998299A Expired - Fee Related JP3789245B2 (ja) | 1999-01-28 | 1999-01-28 | 端数処理装置及びその方法並びに該端数処理を実行するプログラムを記録した記録媒体 |
Country Status (2)
Country | Link |
---|---|
US (1) | US6493738B1 (ja) |
JP (1) | JP3789245B2 (ja) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2001042907A2 (en) * | 1999-12-10 | 2001-06-14 | Broadcom Corporation | Apparatus and method for reducing precision of data |
JP3755602B2 (ja) * | 2003-03-04 | 2006-03-15 | ソニー株式会社 | 信号処理装置、信用処理装置用プログラム、信号処理装置用プログラムを記録した記録媒体、及び信号処理方法 |
US8206380B2 (en) * | 2008-06-13 | 2012-06-26 | Advanced Caridiac Therapeutics Inc. | Method and apparatus for measuring catheter contact force during a medical procedure |
US8745108B2 (en) * | 2009-12-08 | 2014-06-03 | Mitutoyo Corporation | Display configuration for multimode electronic calipers having a ratiometric measurement mode |
US8370226B1 (en) * | 2010-04-19 | 2013-02-05 | Intuit Inc. | Technique for correcting round-off errors |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US4149261A (en) * | 1976-03-19 | 1979-04-10 | Canon Kabushiki Kaisha | Computer having circuitry for rounding-off insignificant digits |
JPS5852746A (ja) * | 1981-09-25 | 1983-03-29 | Fujitsu Ltd | 2進デ−タの丸め処理装置 |
US5325316A (en) * | 1990-10-11 | 1994-06-28 | Fujitsu Limited | Compression processing method of real number data in processing system and apparatus therefor |
-
1999
- 1999-01-28 JP JP01998299A patent/JP3789245B2/ja not_active Expired - Fee Related
- 1999-04-01 US US09/283,799 patent/US6493738B1/en not_active Expired - Lifetime
Also Published As
Publication number | Publication date |
---|---|
JP3789245B2 (ja) | 2006-06-21 |
US6493738B1 (en) | 2002-12-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Cormen et al. | Introduction to algorithms | |
Hemerik et al. | Permutation-based simultaneous confidence bounds for the false discovery proportion | |
US11393237B1 (en) | Automatic human-emulative document analysis | |
Hong et al. | To rarefy or not to rarefy: robustness and efficiency trade-offs of rarefying microbiome data | |
Hong et al. | Dirichlet process mixture models for insurance loss data | |
Rajaratnam et al. | Influence diagnostics for high-dimensional lasso regression | |
Lubeck et al. | Subsums of the harmonic series | |
Weiß et al. | Using small samples to estimate neutral component size and robustness in the genotype–phenotype map of RNA secondary structure | |
Fernau et al. | Pattern matching with variables: Efficient algorithms and complexity results | |
JP3789245B2 (ja) | 端数処理装置及びその方法並びに該端数処理を実行するプログラムを記録した記録媒体 | |
Rasool et al. | ForeStatistics: A windows-based feature-rich software program for performing statistics in forensic DNA analysis, paternity and relationship testing | |
Liu et al. | Maximum empirical likelihood estimation for abundance in a closed population from capture-recapture data | |
JP2981769B2 (ja) | 波形表示装置 | |
US6745215B2 (en) | Computer apparatus, program and method for determining the equivalence of two algebraic functions | |
JP4045999B2 (ja) | 機器分析用データ管理装置 | |
US8189931B2 (en) | Method and apparatus for matching of bracketed patterns in test strings | |
Mandape et al. | MMDIT: A tool for the deconvolution and interpretation of mitochondrial DNA mixtures | |
Setiyanto et al. | Data science with excel | |
JP3054273B2 (ja) | 病態型自動判定方法 | |
JP2004334906A (ja) | 端数処理装置及びその方法並びに該端数処理を実行するプログラムを記録した記録媒体 | |
Fitts | Expected and empirical coverages of different methods for generating noncentral t confidence intervals for a standardized mean difference | |
KR20060114569A (ko) | 특허정보시스템의 작동방법 | |
CN114462381A (zh) | 数据处理方法、装置、设备及存储介质 | |
US7487197B2 (en) | Data processing apparatus incorporating a numeric processing mechanism | |
KR20040099462A (ko) | 수치 데이터 처리 방법, 수치 포맷 처리 방법 및 시스템,컴퓨터 판독가능 매체, 및 수치 데이터 처리 시스템 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20040525 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20040604 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A821 Effective date: 20040525 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20040622 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20040622 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20040528 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A821 Effective date: 20040607 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20060324 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20060328 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100407 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110407 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120407 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130407 Year of fee payment: 7 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |