JP2000222173A - 端数処理装置及びその方法並びに該端数処理を実行するプログラムを記録した記録媒体 - Google Patents

端数処理装置及びその方法並びに該端数処理を実行するプログラムを記録した記録媒体

Info

Publication number
JP2000222173A
JP2000222173A JP11019982A JP1998299A JP2000222173A JP 2000222173 A JP2000222173 A JP 2000222173A JP 11019982 A JP11019982 A JP 11019982A JP 1998299 A JP1998299 A JP 1998299A JP 2000222173 A JP2000222173 A JP 2000222173A
Authority
JP
Japan
Prior art keywords
numerical value
rounding
stored
rounding width
width
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP11019982A
Other languages
English (en)
Other versions
JP2000222173A5 (ja
JP3789245B2 (ja
Inventor
Tomoaki Yoshimi
知明 吉見
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Data Action Co Ltd
Original Assignee
Data Action Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Data Action Co Ltd filed Critical Data Action Co Ltd
Priority to JP01998299A priority Critical patent/JP3789245B2/ja
Priority to US09/283,799 priority patent/US6493738B1/en
Publication of JP2000222173A publication Critical patent/JP2000222173A/ja
Publication of JP2000222173A5 publication Critical patent/JP2000222173A5/ja
Application granted granted Critical
Publication of JP3789245B2 publication Critical patent/JP3789245B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F7/00Methods or arrangements for processing data by operating upon the order or content of the data handled
    • G06F7/38Methods or arrangements for performing computations using exclusively denominational number representation, e.g. using binary, ternary, decimal representation
    • G06F7/48Methods or arrangements for performing computations using exclusively denominational number representation, e.g. using binary, ternary, decimal representation using non-contact-making devices, e.g. tube, solid state device; using unspecified devices
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F7/00Methods or arrangements for processing data by operating upon the order or content of the data handled
    • G06F7/38Methods or arrangements for performing computations using exclusively denominational number representation, e.g. using binary, ternary, decimal representation
    • G06F7/48Methods or arrangements for performing computations using exclusively denominational number representation, e.g. using binary, ternary, decimal representation using non-contact-making devices, e.g. tube, solid state device; using unspecified devices
    • G06F7/499Denomination or exception handling, e.g. rounding or overflow
    • G06F7/49942Significance control
    • G06F7/49947Rounding
    • G06F7/49963Rounding to nearest

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computational Mathematics (AREA)
  • Computing Systems (AREA)
  • Mathematical Analysis (AREA)
  • Mathematical Optimization (AREA)
  • Pure & Applied Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Complex Calculations (AREA)

Abstract

(57)【要約】 【課題】 丸めの幅をそのまま用いて端数処理を行うこ
とができる端数処理装置等を提供する。 【解決手段】 入力部1により端数処理される数値xと
丸めの幅wとを入力し、入力された数値xを各桁毎に数
値記憶部21に記憶し、入力された丸めの幅wを丸め幅
記憶部22に記憶し、下位数値抽出部31により数値記
憶部21に記憶されている数値xのうち、丸め幅記憶部
22に記憶されている丸めの幅wに対応する桁より下位
の桁から構成される下位数値yを抽出し、端数処理部4
により丸め幅記憶部22に記憶されている丸めの幅wと
下位数値抽出部31により抽出された下位数値yを2倍
した数値とを比較した結果に基づいて、数値記憶部21
に記憶されている数値xを、丸め幅記憶部22に記憶さ
れている丸めの幅wの整数倍の系列の中から選んだ数値
に置き換える。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、分析、計測、調査
等に必要な端数処理を行う端数処理装置及び方法並びに
そのためのプログラムを記録した記録媒体に関し、より
詳細には、丸めの幅による数値丸めを行う端数処理装置
及び方法並びにそのためのプログラムを記録した記録媒
体に関する。
【0002】
【従来の技術】一般に、四捨五入等に代表される端数処
理は広く行われており、例えば、実験データの整理、会
計処理等を挙げることができる。四捨五入を行う処理
は、高級言語やデータ処理ソフトにおいては関数として
用意されていることが多く、ユーザーは、数値と処理す
る桁の位置とを指定することにより、四捨五入された数
値を得ることが可能である。
【0003】図6に従来の四捨五入関数が行う処理を示
す。まず、ユーザーが処理する数値xと処理する桁の位
置pを入力する(ステップS601)。処理する桁の位
置pは、例えば、百の位であれば−2、整数にするので
あれば0、小数点以下第3位であれば+3のようにして
指定する方法が挙げられる。次に、与えられた数値xを
各桁毎にメモリに格納し(ステップS602)、指定さ
れた桁の位置pの1つ右の桁の数値をメモリから取得し
(ステップS603)、該数値が5以上であるか否かを
判別する(ステップS604)。そして、判別結果が5
以上となった時には切り上げ処理を行い(ステップS6
05)、5以上でない時には切り捨て処理を行う(ステ
ップS606)。
【0004】
【発明が解決しようとする課題】しかしながら、上記の
従来の端数処理には以下の問題点があった。 (1)丸めの幅を直接用いた端数処理を行うことができ
ない。
【0005】丸めの幅を用いた端数処理は、国際規格で
あるISO 31-0:1992(E)の付録BGuide to the roundi
ng of numbersに基づくものであり、丸めの幅を用いた
端数処理とは、与えられた数値を、ある一定の丸めの幅
の整数倍の系列の中から選んだ数値に置き換えることを
いう。例えば、丸めの幅が0.1の場合、12.849
は、12.8に、13.451は13.5に丸められ、
丸めの幅が10の場合、1284.9は1280に、1
345.1は1350に丸められる。従って、丸めの幅
を用いた端数処理で最初に入力されるのは、処理する桁
の位置ではなく、丸めの幅である。しかしながら、現在
市販されている表計算ソフトは、もともと丸めの幅によ
る端数処理という概念を持っておらず、丸めの幅を直接
入力して端数処理することはできなかった。従って、丸
めの幅を用いて従来の端数処理を行うためには、丸めの
幅を処理する桁の位置に変換する新たな処理が必要にな
り、処理が複雑化して処理時間が増えるという問題があ
った。 (2)JIS規格に対応できない 単純な四捨五入では、データの数字によって結果に偏り
が生じてしまうため、その偏りを補正して丸め誤差を最
小にする端数処理、即ち丸めが必要となる。JIS規格
では、そのための丸め方法を定めており、例えば官公庁
に提出する資料等では、このJIS規格に従って、数値
の丸めを行わなければならない場合が多い。
【0006】図7にJIS規格(Z8401)で定める
丸め方法を示す。これは、基本的には四捨六入を行い、
残った5について振り分け処理を行うものである。ある
数値を有効数字n桁の数値に丸める場合には(n+1)
桁目以下の数値を、次のように整理する。 (a)(n+1)桁目以下の数値がn桁目の1単位の1
/2未満の場合には切り捨てる。 (b)(n+1)桁目以下の数値がn桁目の1単位の1
/2を越える場合にはn桁目を1単位だけ増す。 (c)(n+1)桁目以下の数値がn桁目の1単位の1
/2である場合には次の(i)、(ii)のようにする。
【0007】(i) n桁目の数値が、0、2、4、6、
8であれば切り捨てる。
【0008】(ii)n桁目の数値が、1、3、5、7、9
であれば、n桁目を1単位だけ増す。
【0009】ここで、有効数字とは、0でない最高位の
数字の位から数えたものとする。また、この丸め方は、
1段階に行わなければならない。例えば、5.346を
この方法で有効数字2桁に丸めれば、5.3となる。こ
れを2段階に分けてしまうと1段階目で5.35、2段
階目で5.4となってしまう。
【0010】処理手順としては、まず、数値の桁を判断
し(ステップS701)、(n+1)桁目の数字が6以
上か否かを判別し(ステップS702)、6以上であれ
ばn桁目を1だけ増し、(n+1)桁目以降を切り捨て
る(ステップS706)。例えば、これに従って13.
461を有効数字3桁に丸めるのであれば、13.5と
する。
【0011】次に、(n+1)桁目の数字が4以下であ
るか否かを判別し(ステップS703)、4以下である
場合には(n+1)桁目以降を切り捨てる(ステップS
707)。例えば、12.849を有効数字3桁に丸め
るのであれば、12.8とする。
【0012】そして、(n+1)桁目が6以上でも4以
下でもない場合、すなわち(n+1)桁目が5である場
合には、(n+2)桁目以降が全て0であるか否かを判
別し(ステップS704)、(n+2)桁目以降に0以
外の数があれば、n桁目を1だけ増し、(n+1)桁目
以降を切り捨てる(ステップS706)。例えば、これ
に従って13.451を有効数字3桁に丸めるのであれ
ば、13.5とする。
【0013】一方、(n+2)桁目以降が全て0である
場合には、n桁目が偶数であるか奇数であるかを判別す
る(ステップS705)。その結果、n桁目が偶数であ
る場合には、(n+1)桁目以降を切り捨てる(ステッ
プS707)。例えば、11.450を有効数字3桁に
丸めるのであれば、11.4とする。逆に、n桁目が奇
数である場合には、n桁目を1だけ増し、(n+1)桁
目以降を切り捨てる(ステップS706)。例えば、1
2.750を有効数字3桁に丸めるのであれば、12.
8とする。
【0014】しかしながら、上記の端数処理において
も、丸めの幅を直接入力して端数処理することはでき
ず、丸めの幅を用いて従来の端数処理を行うためには、
丸めの幅を桁の位置に変換する新たな処理が必要にな
り、この場合も処理が複雑化して処理時間が増えるとい
う問題があった。
【0015】本発明の目的は、丸めの幅をそのまま用い
て端数処理を行うことができる端数処理装置等を提供す
ることである。
【0016】本発明の他の目的は、丸めの幅をそのまま
用いてJIS規格のように丸め誤差を最小にする端数処
理を行うことができる端数処理装置等を提供することで
ある。
【0017】
【課題を解決するための手段】本発明の端数処理装置
は、端数処理される数値xと丸めの幅wとを入力するた
めの入力手段と、入力された数値xを各桁毎に記憶する
数値記憶手段と、入力された丸めの幅wを記憶する丸め
幅記憶手段と、前記数値記憶手段に記憶されている数値
xのうち、前記丸め幅記憶手段に記憶されている丸めの
幅wに対応する桁より下位の桁から構成される下位数値
yを抽出する下位数値抽出手段と、前記丸め幅記憶手段
に記憶されている丸めの幅wと前記下位数値抽出手段に
より抽出された下位数値yを2倍した数値とを比較した
結果に基づいて、前記数値記憶手段に記憶されている数
値xを、前記丸め幅記憶手段に記憶されている丸めの幅
wの整数倍の系列の中から選んだ数値に置き換える端数
処理手段とを備えるものである。
【0018】上記の構成により、丸めの幅wと下位数値
yを2倍した数値と比較することにより、下位数値yの
最上位桁の数値が5より大きいか、等しいか又は小さい
かを判断することができ、丸めの幅を桁の位置に変換す
ることなく、丸めの幅をそのまま用いて端数処理を行う
ことができる。
【0019】また、前記端数処理装置は、前記数値記憶
手段に記憶されている数値xのうち、前記丸め幅記憶手
段に記憶されている丸めの幅wに対応する桁に格納され
ている丸め数値aを抽出する丸め数値抽出手段をさらに
備え、前記端数処理手段は、前記丸め数値抽出手段によ
り抽出された丸め数値aを2で割ったときの剰余bを算
出する剰余算出手段と、前記丸め幅記憶手段に記憶され
ている丸めの幅wが前記下位数値抽出手段により抽出さ
れた下位数値yを2倍した数値より小さい場合、又は、
前記丸め幅記憶手段に記憶されている丸めの幅wが前記
下位数値抽出手段により抽出された下位数値yを2倍し
た数値に等しく、且つ、前記剰余算出手段により算出さ
れた剰余bが1の場合、前記丸め数値抽出手段により抽
出された丸め数値aに1を加算する加算手段と、前記下
位数値抽出手段により抽出された下位数値yを切り捨て
る切り捨て手段とを備えることが好ましい。
【0020】この場合、さらに、剰余bが1であるか否
かを判断することにより、丸め数値aが偶数であるか否
かを判断することができるので、丸めの幅をそのまま用
いてJIS規格のように丸め誤差を最小にする端数処理
を行うことができる。また、上記の処理では、乗算する
数値及び除算する数値として2を用いているので、2進
法の場合、シフト演算のみで乗算及び除算を行うことが
でき、より単純な処理で端数処理することができ、プロ
グラムの作製が容易となると共に、処理時間も短縮する
ことができる。
【0021】また、本発明の端数処理方法は、端数処理
される数値xと丸めの幅wとを入力する第一のステップ
と、入力された数値xを各桁毎に数値記録部に記憶する
第二のステップと、入力された丸めの幅wを丸め幅記憶
部に記憶する第三のステップと、前記数値記憶部に記憶
されている数値xのうち、前記丸め幅記憶部に記憶され
ている丸めの幅wに対応する桁より下位の桁から構成さ
れる下位数値yを抽出する第四のステップと、前記丸め
幅記憶部に記憶されている丸めの幅wと前記第四のステ
ップで抽出された下位数値yを2倍した数値とを比較し
た結果に基づいて、前記数値記憶部に記憶されている数
値xを、前記丸め幅記憶部に記憶されている丸めの幅w
の整数倍の系列の中から選んだ数値に置き換える第五の
ステップとを含むものである。
【0022】また、前記端数処理方法は、前記数値記憶
部に記憶されている数値xのうち、前記丸め幅記憶部に
記憶されている丸めの幅wに対応する桁に格納されてい
る丸め数値aを抽出する第六のステップをさらに含み、
前記第五のステップは、前記第六のステップで抽出され
た丸め数値aを2で割ったときの剰余bを算出する第七
のステップと、前記丸め幅記憶部に記憶されている丸め
の幅wが前記第四のステップで抽出された下位数値yを
2倍した数値より小さい場合、又は、前記丸め幅記憶部
に記憶されている丸めの幅wが前記第四のステップで抽
出された下位数値yを2倍した数値に等しく、且つ、前
記第七のステップで算出された剰余bが1の場合、前記
第六のステップで抽出された丸め数値aに1を加算する
第八のステップと、前記第四のステップで抽出された下
位数値yを切り捨てる第九のステップとを含むことが好
ましい。
【0023】また、本発明のコンピュータ読み取り可能
な記録媒体は、端数処理される数値xと丸めの幅wとを
入力するための入力手段、入力された数値xを各桁毎に
記憶する数値記憶手段、入力された丸めの幅wを記憶す
る丸め幅記憶手段、前記数値記憶手段に記憶されている
数値xのうち、前記丸め幅記憶手段に記憶されている丸
めの幅wに対応する桁より下位の桁から構成される下位
数値yを抽出する下位数値抽出手段、前記丸め幅記憶手
段に記憶されている丸めの幅wと前記下位数値抽出手段
により抽出された下位数値yを2倍した数値とを比較し
た結果に基づいて、前記数値記憶手段に記憶されている
数値xを、前記丸め幅記憶手段に記憶されている丸めの
幅wの整数倍の系列の中から選んだ数値に置き換える端
数処理手段としてコンピュータを機能させるためのプロ
グラムを記録したものである。
【0024】また、前記記録媒体は、さらに、前記数値
記憶手段に記憶されている数値xのうち、前記丸め幅記
憶手段に記憶されている丸めの幅wに対応する桁に格納
されている丸め数値aを抽出する丸め数値抽出手段とし
てコンピュータを機能させるためのプログラムを記録さ
れ、前記端数処理手段は、前記丸め数値抽出手段により
抽出された丸め数値aを2で割ったときの剰余bを算出
する剰余算出手段と、前記丸め幅記憶手段に記憶されて
いる丸めの幅wが前記下位数値抽出手段により抽出され
た下位数値yを2倍した数値より小さい場合、又は、前
記丸め幅記憶手段に記憶されている丸めの幅wが前記下
位数値抽出手段により抽出された下位数値yを2倍した
数値に等しく、且つ、前記剰余算出手段により算出され
た剰余bが1の場合、前記丸め数値抽出手段により抽出
された丸め数値aに1を加算する加算手段と、前記下位
数値抽出手段により抽出された下位数値yを切り捨てる
切り捨て手段とを備えることが好ましい。
【0025】
【発明の実施の形態】以下、添付図面を参照しつつ本発
明の好適な実施形態について説明する。図1は本発明の
一実施の形態の端数処理装置の構成を示すブロック図で
ある。
【0026】図1に示すように、端数処理装置は、入力
部1、記憶部2、抽出部3、端数処理部4、及び出力部
5を備える。記憶部2は、数値記憶部21及び丸め幅記
憶部22を備える。抽出部3は、下位数値抽出部31及
び丸め数値抽出部32を備える。端数処理部4は、剰余
算出部41、加算部42及び切り捨て部43を備える。
【0027】入力部1は、端数処理される数値xと丸め
の幅wとを入力するために使用される。数値記憶部21
は、入力された数値xを各桁毎に記憶し、丸め幅記憶部
22は、入力された丸めの幅wを記憶する。下位数値抽
出部31は、数値記憶部21に記憶されている数値xの
うち、丸め幅記憶部22に記憶されている丸めの幅wに
対応する桁より下位の桁により構成される下位数値yを
抽出する。丸め数値抽出部32は、数値記憶部21に記
憶されている数値xのうち、丸め幅記憶部22に記憶さ
れている丸めの幅wに対応する桁に格納される丸め数値
aを抽出する。剰余算出部41は、丸め数値抽出部32
により抽出された丸め数値aを2で割ったときの剰余b
を算出する。加算部42は、丸め幅記憶部22に記憶さ
れている丸めの幅wが下位数値抽出部31により抽出さ
れた下位数値yを2倍した数値より小さい場合、又は、
丸め幅記憶部22に記憶されている丸めの幅wが下位数
値抽出部31により抽出された下位数値yを2倍した数
値に等しく、且つ、剰余算出部41により算出された剰
余bが1の場合、丸め数値抽出部32により抽出された
丸め数値aに1を加算し、数値記憶部21に格納されて
いる丸め数値aを書き換える。切り捨て部43は、下位
数値抽出部32により抽出された下位数値yを切り捨
て、数値記憶部21の下位数値yを構成する各桁に格納
されている数値を0に書き換える。出力部5は、数値記
憶部21に格納されている書き換え後の各数値から構成
される数値を端数処理後の数値として出力する。なお、
数値記憶部21の各数値を書き換えることなく、数値記
憶部21とは別個に端数処理後の数値を格納する端数処
理後数値記憶部を記憶部2に設けてもよい。
【0028】次に、上記の端数処理装置をコンピュータ
を用いて実現したときのハードウエア構成の一例を図2
に示す。
【0029】図2に示すように、端数処理装置は、入力
装置11、表示装置12、外部記憶装置13、記録媒体
14、RAM15、CPU16、ROM17、印刷装置
18、バスライン19を備える。入力装置11は、例え
ば、テンキーを備えるキーボード、マウス等から構成さ
れ、ユーザーが所望の処理を選択したり、端数処理され
る数値x及び丸めの幅wを入力するために使用される。
入力されたデータ等は、バスライン19を介してCPU
16に伝送され、必要に応じてRAM15又は外部記憶
装置13の記録媒体14に記憶される。表示装置12
は、例えば、液晶表示装置、CRT等から構成され、所
定の画面を表示する。外部記憶装置13は、例えば、ハ
ードディスクドライブ、フロッピーディスクドライブ、
CD−ROMドライブ、光磁気ディスクドライブ等から
構成され、CPU16により処理されたデータ等を、ハ
ードディスク、フロッピーディスク、CD−ROM、光
磁気ディスク等からなる記憶媒体14に記録したり、記
録媒体14に記録されているデータ等をCPU16へ出
力する。RAM15には、CPU16が処理したデータ
等が記憶され、該データ等は必要に応じてCPU16に
より読み出される。ROM17又は記憶媒体14には、
図1に示す端数処理装置の各機能を実行するためのプロ
グラム等が記憶され、CPU16は、このプログラムに
従いバスライン19を介して各部を制御する。印刷装置
18は、レーザープリンタ等から構成され、CPU16
により処理されたデータ等を印字して出力する。
【0030】上記のように構成された図2に示す端数処
理装置と、図1に示す端数処理装置との対応関係は、例
えば、以下のようになる。入力部1が入力装置11、R
AM24又は外部記憶装置23に対応し、記憶部2がR
AM24又は外部記憶装置23に対応し、抽出部3及び
端数処理部4がCPU16に対応する。出力部5が表示
装置12又は印刷装置18に対応する。なお、以下に説
明する端数処理に対応するプログラムは、ROM16に
予め記憶されていてもよいし、外部記憶装置13を用い
て、CD−ROM、フロッピーディスク、光磁気ディス
ク、半導体メモリを用いた記憶媒体等の記録媒体14か
らインストールされるようにしてもよい。
【0031】また、上記のコンピュータとしては、特に
限定されず、通常のコンピュータを用いることができ、
例えば、サーバー、デスクトップ・パソコン、ラップト
ップ・コンピュータ、携帯用情報端末等を用いることが
でき、さらに、マイクロコンピュータ等を備える分析機
器、計測機器等であってもよい。また、使用されるプロ
グラム言語も特に限定されず、種々の言語で記述するこ
とができる。なお、分析機器、計測機器等の場合、実験
等の測定結果や計算結果等の数値データを格納する計算
・計測結果記憶部等を外部記憶装置13の記録媒体14
又はRAM15に設けてもよい。
【0032】次に、上記のように構成された端数処理装
置により実行される端数処理について詳細に説明する。
図3は、図1に示す端数処理装置の端数処理を説明する
ためのフローチャートである。
【0033】図3に示すように、まず、ステップS1に
おいて、入力部5により端数処理される数値x及び丸め
の幅wが入力され、入力された数値xは、数値xを構成
する各桁毎の数値が各々数値記憶部21に格納され、丸
めの幅wは、丸め幅記憶部22に格納される。ここで、
数値xは、オペレータが入力部1を用いて直接入力する
ようにしてもよいし、計測機器等の場合、記憶部2の計
算・計測結果記憶部等に格納されている数値を数値記憶
部21及び丸め幅記憶部22へ入力するようにしてもよ
い。
【0034】次に、ステップS2において、丸め数値抽
出部32は、数値記憶部21から丸めの幅wに対応する
桁に格納されている丸め数値aを抽出する。例えば、数
値xとして12.354が、丸めの幅wとして0.1が
入力された場合、数値記憶部21に格納されている、
「1」、「2」、「3」、「5」及び「4」のうち、丸
めの幅0.1に対応する桁の数値すなわち小数点以下第
一位の桁の数値「3」が抽出される。
【0035】次に、ステップS3において、剰余算出部
41により丸め数値aが2で除算され、その剰余bが算
出される。なお、剰余bは、0又は1であり、0の場
合、丸め数値aは偶数であり、1の場合は、丸め数値a
は奇数であることがわかる。
【0036】次に、ステップS4において、下位数値抽
出部31は、丸めの幅bに対応する桁より下位の桁から
構成される下位数値yを抽出する。例えば、数値xとし
て12.354が、丸めの幅wとして0.1が入力され
た場合、数値記憶部21に格納されている、「1」、
「2」、「3」、「5」及び「4」のうち、丸めの幅
0.1に対応する桁より下位の桁である、「5」及び
「4」から構成される下位数値0.054が抽出され
る。
【0037】次に、ステップS5において、加算部42
により、丸めの幅wが下位数値yを2倍した数値より小
さいか否か、又は、丸めの幅wが下位数値yを2倍した
数値に等しく且つ剰余bが1であるか否かが判断され、
丸めの幅wが下位数値yを2倍した数値より小さい場
合、及び、丸めの幅wが下位数値yを2倍した数値に等
しく且つ剰余bが1の場合、ステップS6へ移行する。
上記以外の場合、すなわち、丸めの幅wが下位数値yを
2倍した数値より大きい場合、及び、丸めの幅wが下位
数値yを2倍した数値に等しく且つ剰余bが0の場合、
ステップS7へ移行する。
【0038】ここで、上記のJIS規格での数値の丸め
方と対比すると、丸めの幅wが下位数値yを2倍した数
値より小さい場合とは、(n+1)桁目以下の数値がn
桁目の1単位の1/2を越える場合すなわちn桁目を1
単位だけ増す場合であり、丸めの幅wが下位数値yを2
倍した数値に等しく且つ剰余bが1の場合とは、(n+
1)桁目以下の数値がn桁目の1単位の1/2であり且
つn桁目の数値が、1、3、5、7、9の場合すなわち
n桁目を1単位だけ増す場合である。一方、丸めの幅w
が下位数値yを2倍した数値より大きい場合とは、(n
+1)桁目以下の数値がn桁目の1単位の1/2未満の
場合すなわち切り捨てる場合であり、丸めの幅wが下位
数値yを2倍した数値に等しく且つ剰余bが0の場合と
は、(n+1)桁目以下の数値がn桁目の1単位の1/
2であり且つn桁目の数値が、0、2、4、6、8の場
合すなわち切り捨てる場合である。従って、上記の判断
処理は、JIS規格による数値の丸め処理の判断処理に
適合するものである。
【0039】ステップS5で、丸めの幅wが下位数値y
を2倍した数値より小さい、又は、丸めの幅wが下位数
値yを2倍した数値に等しく且つ剰余bが1であると判
断された場合、ステップS6において、丸め数値aに1
を加算し、数値記憶部21に格納されている丸め数値a
を書き換える。なお、加算時に桁の繰り上がりがある場
合は、丸め数値aを0に書き換え、丸め数値aの一つ上
位の桁の数値に1を加算して該数値を書き換える。
【0040】次に、ステップS7において、下位数値y
を切り捨て、数値記憶部21に格納されている下位数値
yを構成する各数値を0に書き換える。
【0041】最後に、ステップS8において、数値記憶
部21に格納されている書き換え後の各数値から構成さ
れる数値、すなわち数値xを端数処理した数値が出力さ
れる。
【0042】上記のステップS5〜S7により、丸めの
幅wが下位数値yを2倍した数値より小さい場合すなわ
ち(n+1)桁目以下の数値がn桁目の1単位の1/2
を越える場合、及び、丸めの幅wが下位数値yを2倍し
た数値に等しく且つ剰余bが1の場合すなわち(n+
1)桁目以下の数値がn桁目の1単位の1/2であり且
つn桁目の数値が、1、3、5、7、9の場合、丸め数
値aに1が加算されるとともに、下位数値yが切り捨て
られ、切り上げ処理が実行される。
【0043】一方、丸めの幅wが下位数値yを2倍した
数値より大きい場合すなわち(n+1)桁目以下の数値
がn桁目の1単位の1/2未満の場合、及び、丸めの幅
wが下位数値yを2倍した数値に等しく且つ剰余bが0
の場合すなわち(n+1)桁目以下の数値がn桁目の1
単位の1/2であり且つn桁目の数値が、0、2、4、
6、8の場合、丸め数値aはそのままで下位数値yが切
り捨てられ、切り捨て処理が行われる。
【0044】従って、上記の処理により、丸めの幅を桁
の位置に変換することなく、丸めの幅をそのまま比較処
理に用いることができるとともに、JIS規格のように
丸め誤差を最小にする端数処理を行うことができる。ま
た、上記の処理では、乗算する数値及び除算する数値と
して2を用いているので、2進法の場合、シフト演算の
みで乗算及び除算を行うことができ、より少ないステッ
プ数で端数処理を行うことができ、プログラムの作製が
容易となると共に、処理時間も短縮することができる。
【0045】次に、本発明の他の実施の形態の端数処理
装置について説明する。図4は、本発明の他の実施の形
態の端数処理装置の構成を示すブロック図である。図4
に示す端数処理装置は、丸めの幅をそのまま用いて四捨
五入による端数処理を行うものであり、図1に示す端数
処理装置の剰余算出部41が不要となり、加算部42が
加算時の判断条件が異なる加算部42aに変更された点
を除き、図1に示す端数処理装置と同様であるので、同
一部分には同一符号を付し、以下詳細な説明を省略す
る。また、図4に示す端数処理装置をコンピュータを用
いて実現したときのハードウエア構成も図2に示すもの
とほぼ同様であるので図示及び詳細な説明を省略する。
【0046】図4に示すように、端数処理部4aは、加
算部42a及び切り捨て部43を備え、加算部42a
は、丸め幅記憶部22に記憶されている丸めの幅wが下
位数値抽出部31により抽出された下位数値yを2倍し
た数値以下の場合、丸め数値抽出部32により抽出され
た丸め数値aに1を加算し、数値記憶部21に格納され
ている丸め数値aを書き換える。
【0047】次に、上記のように構成された端数処理装
置により実行される端数処理について説明する。図5
は、図4に示す端数処理装置の端数処理を説明するため
のフローチャートである。図5に示すフローチャート
は、図3に示すフローチャートのスッテプS3が削除さ
れ、ステップS5がステップS9に変更された点を除
き、図3に示すフローチャートと同様であるので、以下
異なる点のみを説明する。
【0048】図5に示すように、ステップS1、S2、
S4において、図3に示すステップS1、S2、S4と
同様の処理が行われ、ステップS9において、丸めの幅
wが下位数値yを2倍した数値以下であるか否かが判断
され、丸めの幅wが下位数値yを2倍した数値以下の場
合、ステップS6へ移行し、上記以外の場合、すなわ
ち、丸めの幅wが下位数値yを2倍した数値より大きい
場合、ステップS7へ移行する。ここで、丸めの幅wが
下位数値yを2倍した数値以下の場合とは、下位数値y
の最上位の数値が5以上の場合すなわち四捨五入の切り
上げ処理を行う場合である。一方、丸めの幅wが下位数
値yを2倍した数値より大きい場合とは、下位数値yの
最上位の数値が4以下の場合すなわち四捨五入の切り捨
て処理を行う場合である。
【0049】次に、ステップS6〜S8において、図3
のステップS6〜S8と同様の処理が行われ、最終的
に、数値記憶部21に格納されている書き換え後の各数
値から構成される数値、すなわち数値xを四捨五入によ
る端数処理した数値が出力される。従って、本実施の形
態でも、丸めの幅を桁の位置に変換することなく、丸め
の幅をそのまま比較処理に用いて端数処理を行うことが
できる。また、上記の処理でも、乗算する数値として2
を用いているので、2進法の場合、シフト演算のみで乗
算を行うことができ、より少ないステップ数で端数処理
することができ、プログラムの作製が容易となると共
に、処理時間も短縮することができる。
【0050】上記のように、本発明に従う端数処理装置
では、プログラムの作製が容易となると共に、処理時間
も短縮することができ、このことは、コンピュータの処
理能力に関係なくソフトウエア化できることを意味して
おり、本発明に係る処理手順は、端数処理を行う様々な
分野に適用することができる。本発明の応用分野として
は、以下のものを例示することができる。 1.表計算ソフトウエアに関数として組み込む。
【0051】表計算ソフトウエアとしては、EXCEL、Lot
us 1-2-3、三四郎等を挙げることができる。 2.分析・計測・計算ソフトウエアに組み込む。
【0052】このようなソフトウエアには、窒素酸化物
濃度を求めるソフトウエア、薬品の成分濃度を求めるソ
フトウエア等が含まれる。 3.分析・計測機器に組み込む。
【0053】このような機器としては、電気化学分析機
器、光化学分析機器、電磁気分析機器、分離分析機器、
熱分析機器等を挙げることができる。 4.物理量・物性測定機に組み込む。
【0054】これには、物理量・物性測定器、温度・湿
度・露点計、測光・測色機器等が含まれる。 5.特殊機器に組み込む。
【0055】例えば、開発関連機器、バイオ関連機器、
農林・水産・畜産関連機器、気象観測機器、海洋観測機
器等に組み込むこともできる。 6.国際規格ISO9000やISO14000の審査
登録取得作業に組み込む。
【0056】例えば、試験、測定及び監視用ハードウェ
アや試験、測定及び監視用ソフトウエア等に組み込むこ
ともできる。
【0057】
【発明の効果】本発明の端数処理装置等では、丸めの幅
wと下位数値yを2倍した数値と比較することにより、
下位数値yの最上位桁の数値が5より大きいか、等しい
か又は小さいかを判断することができるので、丸めの幅
をそのまま用いて端数処理を行うことができる。
【0058】また、本発明の端数処理装置等では、さら
に、剰余bが1であるか否かを判断することにより、丸
め数値aが偶数であるか否かを判断することができるの
で、丸めの幅をそのまま用いてJIS規格のように丸め
誤差を最小にする端数処理を行うことができる。
【図面の簡単な説明】
【図1】本発明の一実施の形態の端数処理装置の構成を
示すブロック図である。
【図2】図1に示す端数処理装置をコンピュータを用い
て実現したときのハードウエア構成の一例を示すブロッ
ク図である。
【図3】図1に示す端数処理装置の端数処理を説明する
ためのフローチャートである。
【図4】本発明の他の実施の形態の端数処理装置の構成
を示すブロック図である。
【図5】図4に示す端数処理装置の端数処理を説明する
ためのフローチャートである。
【図6】四捨五入を行う場合の従来の処理手順を示すフ
ローチャートである。
【図7】JIS規格に定める数値丸めを従来の処理手順
を用いてコンピュータで処理する場合のフローチャート
である。
【符号の説明】
1 入力部 2 記憶部 3 抽出部 4、4a 端数処理部 5 出力部 21 数値記憶部 22 丸め幅記憶部 31 下位数値抽出部 32 丸め数値抽出部 41 剰余算出部 42、42a 加算部 43 切り捨て部

Claims (4)

    【特許請求の範囲】
  1. 【請求項1】 端数処理される数値xと丸めの幅wとを
    入力するための入力手段と、 入力された数値xを各桁毎に記憶する数値記憶手段と、 入力された丸めの幅wを記憶する丸め幅記憶手段と、 前記数値記憶手段に記憶されている数値xのうち、前記
    丸め幅記憶手段に記憶されている丸めの幅wに対応する
    桁より下位の桁から構成される下位数値yを抽出する下
    位数値抽出手段と、 前記丸め幅記憶手段に記憶されている丸めの幅wと前記
    下位数値抽出手段により抽出された下位数値yを2倍し
    た数値とを比較した結果に基づいて、前記数値記憶手段
    に記憶されている数値xを、前記丸め幅記憶手段に記憶
    されている丸めの幅wの整数倍の系列の中から選んだ数
    値に置き換える端数処理手段とを備える端数処理装置。
  2. 【請求項2】 前記数値記憶手段に記憶されている数値
    xのうち、前記丸め幅記憶手段に記憶されている丸めの
    幅wに対応する桁に格納されている丸め数値aを抽出す
    る丸め数値抽出手段をさらに備え、 前記端数処理手段は、 前記丸め数値抽出手段により抽出された丸め数値aを2
    で割ったときの剰余bを算出する剰余算出手段と、 前記丸め幅記憶手段に記憶されている丸めの幅wが前記
    下位数値抽出手段により抽出された下位数値yを2倍し
    た数値より小さい場合、又は、前記丸め幅記憶手段に記
    憶されている丸めの幅wが前記下位数値抽出手段により
    抽出された下位数値yを2倍した数値に等しく、且つ、
    前記剰余算出手段により算出された剰余bが1の場合、
    前記丸め数値抽出手段により抽出された丸め数値aに1
    を加算する加算手段と、 前記下位数値抽出手段により抽出された下位数値yを切
    り捨てる切り捨て手段とを備える請求項1記載の端数処
    理装置。
  3. 【請求項3】 端数処理される数値xと丸めの幅wとを
    入力する第一のステップと、 入力された数値xを各桁毎に数値記録部に記憶する第二
    のステップと、 入力された丸めの幅wを丸め幅記憶部に記憶する第三の
    ステップと、 前記数値記憶部に記憶されている数値xのうち、前記丸
    め幅記憶部に記憶されている丸めの幅wに対応する桁よ
    り下位の桁から構成される下位数値yを抽出する第四の
    ステップと、 前記丸め幅記憶部に記憶されている丸めの幅wと前記第
    四のステップで抽出された下位数値yを2倍した数値と
    を比較した結果に基づいて、前記数値記憶部に記憶され
    ている数値xを、前記丸め幅記憶部に記憶されている丸
    めの幅wの整数倍の系列の中から選んだ数値に置き換え
    る第五のステップとを含む端数処理方法。
  4. 【請求項4】 端数処理される数値xと丸めの幅wとを
    入力するための入力手段、 入力された数値xを各桁毎に記憶する数値記憶手段、 入力された丸めの幅wを記憶する丸め幅記憶手段、 前記数値記憶手段に記憶されている数値xのうち、前記
    丸め幅記憶手段に記憶されている丸めの幅wに対応する
    桁より下位の桁から構成される下位数値yを抽出する下
    位数値抽出手段、 前記丸め幅記憶手段に記憶されている丸めの幅wと前記
    下位数値抽出手段により抽出された下位数値yを2倍し
    た数値とを比較した結果に基づいて、前記数値記憶手段
    に記憶されている数値xを、前記丸め幅記憶手段に記憶
    されている丸めの幅wの整数倍の系列の中から選んだ数
    値に置き換える端数処理手段としてコンピュータを機能
    させるためのプログラムを記録したコンピュータ読み取
    り可能な記録媒体。
JP01998299A 1999-01-28 1999-01-28 端数処理装置及びその方法並びに該端数処理を実行するプログラムを記録した記録媒体 Expired - Fee Related JP3789245B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP01998299A JP3789245B2 (ja) 1999-01-28 1999-01-28 端数処理装置及びその方法並びに該端数処理を実行するプログラムを記録した記録媒体
US09/283,799 US6493738B1 (en) 1999-01-28 1999-04-01 Apparatus and method for rounding numerical values according to significant digits or rounding interval

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP01998299A JP3789245B2 (ja) 1999-01-28 1999-01-28 端数処理装置及びその方法並びに該端数処理を実行するプログラムを記録した記録媒体

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2004183916A Division JP2004334906A (ja) 2004-06-22 2004-06-22 端数処理装置及びその方法並びに該端数処理を実行するプログラムを記録した記録媒体

Publications (3)

Publication Number Publication Date
JP2000222173A true JP2000222173A (ja) 2000-08-11
JP2000222173A5 JP2000222173A5 (ja) 2005-04-28
JP3789245B2 JP3789245B2 (ja) 2006-06-21

Family

ID=12014399

Family Applications (1)

Application Number Title Priority Date Filing Date
JP01998299A Expired - Fee Related JP3789245B2 (ja) 1999-01-28 1999-01-28 端数処理装置及びその方法並びに該端数処理を実行するプログラムを記録した記録媒体

Country Status (2)

Country Link
US (1) US6493738B1 (ja)
JP (1) JP3789245B2 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2001042907A2 (en) * 1999-12-10 2001-06-14 Broadcom Corporation Apparatus and method for reducing precision of data
JP3755602B2 (ja) * 2003-03-04 2006-03-15 ソニー株式会社 信号処理装置、信用処理装置用プログラム、信号処理装置用プログラムを記録した記録媒体、及び信号処理方法
US8206380B2 (en) * 2008-06-13 2012-06-26 Advanced Caridiac Therapeutics Inc. Method and apparatus for measuring catheter contact force during a medical procedure
US8745108B2 (en) * 2009-12-08 2014-06-03 Mitutoyo Corporation Display configuration for multimode electronic calipers having a ratiometric measurement mode
US8370226B1 (en) * 2010-04-19 2013-02-05 Intuit Inc. Technique for correcting round-off errors

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4149261A (en) * 1976-03-19 1979-04-10 Canon Kabushiki Kaisha Computer having circuitry for rounding-off insignificant digits
JPS5852746A (ja) * 1981-09-25 1983-03-29 Fujitsu Ltd 2進デ−タの丸め処理装置
US5325316A (en) * 1990-10-11 1994-06-28 Fujitsu Limited Compression processing method of real number data in processing system and apparatus therefor

Also Published As

Publication number Publication date
JP3789245B2 (ja) 2006-06-21
US6493738B1 (en) 2002-12-10

Similar Documents

Publication Publication Date Title
Cormen et al. Introduction to algorithms
Hemerik et al. Permutation-based simultaneous confidence bounds for the false discovery proportion
US11393237B1 (en) Automatic human-emulative document analysis
Hong et al. To rarefy or not to rarefy: robustness and efficiency trade-offs of rarefying microbiome data
Hong et al. Dirichlet process mixture models for insurance loss data
Rajaratnam et al. Influence diagnostics for high-dimensional lasso regression
Lubeck et al. Subsums of the harmonic series
Weiß et al. Using small samples to estimate neutral component size and robustness in the genotype–phenotype map of RNA secondary structure
Fernau et al. Pattern matching with variables: Efficient algorithms and complexity results
JP3789245B2 (ja) 端数処理装置及びその方法並びに該端数処理を実行するプログラムを記録した記録媒体
Rasool et al. ForeStatistics: A windows-based feature-rich software program for performing statistics in forensic DNA analysis, paternity and relationship testing
Liu et al. Maximum empirical likelihood estimation for abundance in a closed population from capture-recapture data
JP2981769B2 (ja) 波形表示装置
US6745215B2 (en) Computer apparatus, program and method for determining the equivalence of two algebraic functions
JP4045999B2 (ja) 機器分析用データ管理装置
US8189931B2 (en) Method and apparatus for matching of bracketed patterns in test strings
Mandape et al. MMDIT: A tool for the deconvolution and interpretation of mitochondrial DNA mixtures
Setiyanto et al. Data science with excel
JP3054273B2 (ja) 病態型自動判定方法
JP2004334906A (ja) 端数処理装置及びその方法並びに該端数処理を実行するプログラムを記録した記録媒体
Fitts Expected and empirical coverages of different methods for generating noncentral t confidence intervals for a standardized mean difference
KR20060114569A (ko) 특허정보시스템의 작동방법
CN114462381A (zh) 数据处理方法、装置、设备及存储介质
US7487197B2 (en) Data processing apparatus incorporating a numeric processing mechanism
KR20040099462A (ko) 수치 데이터 처리 방법, 수치 포맷 처리 방법 및 시스템,컴퓨터 판독가능 매체, 및 수치 데이터 처리 시스템

Legal Events

Date Code Title Description
RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20040525

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20040604

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20040525

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20040622

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20040622

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20040528

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20040607

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20060324

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20060328

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100407

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110407

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120407

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130407

Year of fee payment: 7

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees