JPH05189205A - 計算器および計算器における数値の丸め表示方法 - Google Patents

計算器および計算器における数値の丸め表示方法

Info

Publication number
JPH05189205A
JPH05189205A JP4041891A JP4189192A JPH05189205A JP H05189205 A JPH05189205 A JP H05189205A JP 4041891 A JP4041891 A JP 4041891A JP 4189192 A JP4189192 A JP 4189192A JP H05189205 A JPH05189205 A JP H05189205A
Authority
JP
Japan
Prior art keywords
value
numerical value
formatted
display
received
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP4041891A
Other languages
English (en)
Inventor
Mark A Smith
マーク・エー・スミス
Chris M Bunsen
クリス・エム・ブンセン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
HP Inc
Original Assignee
Hewlett Packard Co
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hewlett Packard Co filed Critical Hewlett Packard Co
Publication of JPH05189205A publication Critical patent/JPH05189205A/ja
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • G06F3/1407General aspects irrespective of display type, e.g. determination of decimal point position, display with fixed or driving decimal point, suppression of non-significant zeros

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Calculators And Similar Devices (AREA)

Abstract

(57)【要約】 【目的】計算器が表示する数値の丸め方向及び丸めの有
無を表示する計算器。 【構成】本発明は分数及び10進値の丸め状態を表示す
る。かかる方法は、数値を受信し、数値を分数あるいは
10進法でフォーマット化し、実際の値とフォーマット
化した値を比較する。そして、実際の値がフォーマット
化した値より大きい場合フォーマット化した数値に「大
きいこと」を表示し、実際の値がフォーマット化した値
よりも小さい場合「小さいこと」を表示する。したがっ
て、計算器に表示される数値が丸められているかおよび
切捨て、切上げ等の丸めの方向を迅速に表示し、丸めに
おける誤差を削減することができる。

Description

【発明の詳細な説明】
【0001】
【産業上の利用分野】本発明は「ab/c」の式(a、
b、cは整数であり、「a」は整数部(whole v
alue characteristic)であり、
「b/c」は小数部を表す)の計算装置に表示される分
数値、あるいは表示がユーザによって意図的に切り捨て
られるか、表示がアーキテクチャ的に全10進数値を表
示する能力がない場合に計算装置に表示される10進数
値、あるいは他の数値フォーマットのいずれかの丸め状
態を表示する方法に関するものである。
【0002】
【従来技術とその問題点】分数、10進法あるいはその
他のいずれかの形式で計算結果を表示する計算および測
定装置においては、通常、ある種の数値の丸め誤差が存
在する。このような装置のユーザは表示された値が正確
に計算された値であるかどうか、そうでなければ数値丸
め方向(切り上げまたは切り捨て)を知ることを望んで
いる。
【0003】この点に関して、かかる計算装置のユーザ
に表示された値が正確に計算された値であるかどうか、
あるいはそれが実際の値より大きいのか小さいのかを知
らせる試みはこれまでなされていない。実際の計算値を
丸めることは有益であり、また必要でもあるが、この動
作がユーザにとって誤差の源となる必要はない。丸めイ
ンディケータを用いることによって、ユーザに表示され
た値が計算された厳密な値ではないことを警告すると同
時にユーザに丸めの方向を知らせることができる。
【0004】
【発明の目的】本発明の目的はこの情報をユーザに与え
る簡便な手段を提供することにある。
【0005】
【発明の概要】本発明の好適な実施例によれば、また純
分数値あるいは10進数値の表示に関して、三つの状態
を表示する状態インディケータが用いられる。状態1は
表示された値が実際の計算値から切り捨てを行ったもの
である場合に表示される。状態2は表示された値が実際
の計算値から切り上げを行ったものであることを表示す
るのに用いられる。状態3は表示された値が実際の計算
値から丸められなかったものを表すために用いられる。
本発明の以上の特徴と利点およびその他の特徴と利点は
図面に基づく次の詳細な説明よりさらに明らかになる。
【0006】
【発明の実施例】装置 図1には本発明に用いる代表的な計算器20を示す。計
算器20のハードウェアとアーキテクチャ(図2参照)
は従来の設計のものとすることができる。この計算器は
キーボード22等の入力手段とLCD表示部24等の表
示手段を含む。キーボードにはそれぞれが多数の機能を
有する複数のキーが設けられている。本発明に関するも
のとして10進小数点入力キー40、左および右シフト
キー28、30およびエンター(ENTER)キー50
がある。
【0007】計算器20のアーキテクチャには中央処理
装置(CPU)38が含まれ、この中央処理装置(CP
U)38は各種のバスを介してキーボード22、表示部
24、およびROM42とRAM44からなるメモリと
接続する。CPUを動作させる命令は従来の方法でRO
M42に格納される。RAM44はキーボード22から
入力されるデータと本発明に従ったおこなわれる計算の
実行過程においてCPU38によって生成されるデータ
を格納させることが可能である。またフラグレジスタお
よびスタックレジスタがCPU38と関係して設けられ
る。
【0008】汎用コンピュータ等の他の同等な計算装置
の使用が可能なことは理解される。マウス等のあらゆる
データ入力装置はキーボードと同様に用いることもでき
る。CRT、ハードコピー装置等のあらゆる種類の表示
装置はLCD表示部と同様に用いることができる。
【0009】分数部の入力 本発明では分数部とは「ab/c」あるいは「b/c」
の式で表わされる実数値であり、a、b、cは整数であ
る。分数部はいつでもメモリ・スタックレジスタに入力
することができる。小数部の入力方法については本願出
願人が本願と同日に提出した米国特許出願番号6486
80に詳述されている。上記の方法を用いてユーザは計
算器20のキーボード22上であらゆる数を分数部とし
て入力することができる。これには分子が分母より大き
い不適当な分数部が含まれる。しかしながら、代表的な
計算器20はユーザが回路アーキテクチャ上の制限を無
視する場合エラー符号を表示する。本発明ではかかる制
約は整数及び分子は決して12桁以上であってはなら
ず、分母は4桁以上であってはならないことが含まれ
る。加えて、分数部はその値の進法が(2進法、8進
法、16進法ではなく)10である場合にのみ入力する
ことができる。
【0010】分数部の表示 本発明に用いられる計算器20が初期的に稼動すると、
入力されたあらゆる数値が10進法の形式で表示され
る。この10進法表示モードは省略時表示モードであ
る。ユーザが「ab/c」あるいは「b/c」の式で表
わされる分数値を含む計算を実行した場合、CPU38
を分数部表示モードにリセットすることができる。これ
はシフトをおこなうキー28と40の組合せを押圧する
ことによって行うことができる。
【0011】分数部表示モードにおいては、数値は内部
的に10進値として評価され、可能な最も正確な分数部
を用いて24に表示される。このモードは以下のように
実施される。たとえば、キーを12、「.」、
3、「.」、「8」の順に入力する。これによってキー
インされる通りに文字が表示される。表示24上に「1
23/8_」と表示される。ENTERキー50を押
す。これによって数字入力が終了し、入力された数値を
現在の省略時10進法表示フォーマットで表示する。最
後に、シフトをおこなうキーの組合せ28と40を押
す。これによってこの数が小数部として表示される。
「12 3/8」が表示される。
【0012】さらに例を挙げると、3/4をXレジスタ
(スタック)中の数値「12 3/8」に加算すること
ができる。キーは3、「.」、「.」、4あるい
は「.」、3、「−」、4の順に入力される。これによ
ってユーザがキーインする通りに文字が表示される。
「3/4_」が表示される。次に(+)キー62を押圧
する。このキーストロークによって、XレジスタとYレ
ジスタの数が加算され、その結果が小数部として表示さ
れる。「13 1/8」が表示される。最後に、ENT
ERキー50とシフトされたキーの組合せ28と40を
順に押す。これによって現在の10進法表示フォーマッ
トに切り替わり、「13.1250」が表示される。
【0013】表示パラメータ 計算され、表示装置24に表示される分数部は入力され
たものと異なる場合がある。省略時状態において、計算
器20は以下のルールにしたがって分数値を表示する。 1.その値は整数部を有し、必要であれば適当な分数部
を有する(分子は分母より小さい)。 2.実施例のアーキテクチャ上の理由から分母は409
5より小さいものとする。 3.分数部は可能な限り約す。 入力される数値と結果の表示の例を次に示す。比較のた
め、内部の12桁の値も示す。最終行の上向きの矢印
(△)インディケータと下向きの矢印(▽)インディケ
ータについては以下に説明する。
【表1】
【0014】精度インジケータ 本発明では、精度表示器あるいはインディケータは表示
24に内蔵され、12桁の10進数値と比較したときの
小数部の不正確さの方向を示す。表示された小数部の精
度は表示の最上部に上向きの矢印(△)(△:実際の表
示はベタヌリの三角形だが、入力上このように代用す
る。)82あるいは下向きの矢印(▽)(:実際の表示
はベタヌリの三角形だが、入力上このように代用す
る。)▽80表示によって表示される。これは図4の拡
大図に示す。
【0015】図3は本発明の動作を示すフローチャート
であり、各ステップは対応する番号で以下に説明する。
CPU38は数値を受け取る。この数値は一桁でも複数
桁でもよく(84)、また分数部あるいは10進法入力
として計算あるいは入力される。その後、この値は上述
したような計算装置の現在の表示モード(分数部表示モ
ード、10進法表示モードのいずれか)によって規定さ
れる方法でフォーマット化される(86)。次に、入力
された値が適当なフォーマットで表示される(88)。
CPUは実際に受け取った値とフォーマット化された値
を比較する(90)。実際の値がフォーマット化された
値より大きい場合(92)、「より大きい」インディケ
ータ(△)82が表示24のフォーマット化された値の
近くに点灯する(94)。実際の値がフォーマット化さ
れた値より小さい場合(96)、「より小さい」インデ
ィケータ(▽)80が表示24のフォーマット化された
値の近くに点灯する(98)。実際の値がフォーマット
化された値と完全に一致する場合、インジケータは点灯
しない。代わりに、フォーマット化された値がどの方向
に丸められたかを示すことが望ましい場合、インディケ
ータ80と82の役割は逆にすることができる。
【0016】繰り返すと、上向きの矢印82が点灯すれ
ば内部の12桁の値の小数部は表示された値、すなわち
分数部あるいは丸められた10進法の値より少し大き
い。下向きの矢印80が点灯すれば内部の12桁の値の
小数部は表示された値より少し小さい。
【0017】この特徴はユーザが小数部の表示の態様の
変更を行う場合に特に重要である。たとえば、ユーザが
すべての分数部が5を分母とするようにしたい場合、2
/3は「(△)0 3/5」として表示される。これは
正確な小数部は約3.3333/5であり3/5より
「少し上」であるためである。同様に、2/3は
「(△)−0 3/5」として表示される。これは真の
分子は3より「少し上」であるためである。図4は表示
された小数部に近い値に対する関係を示す。上向きの矢
印(△)82は正確な分子が表示された分子より「少し
上」であることを意味する。下向きの矢印(▽)80は
正確な分子が表示された分子より「少し下」であること
を意味する。
【0018】ユーザが予測しないときにインディケータ
が点灯することがある。たとえば、ユーザが2 2/3
を入力する場合、「(△)2 2/3」がそれがたとえ
正確な入力値であっても表示24に表示される。計算器
20は常に内部の値の小数部と小数部の12桁の値を比
較する。内部の値が整数部を有する場合、その小数部は
12桁以下である。したがってそれは12桁すべてを用
いる小数部と正確には一致しえない。
【0019】本発明の原理を実施例を参照して説明およ
び図示したが、本発明から離れることなくその構成や細
部に変更が可能なことは当業者にとって自明のことであ
る。
【0020】
【発明の効果】以上説明したように、本願発明では、計
算器に表示される数値が丸められているかおよび切捨
て、切上げ等の丸めの方向を迅速に表示し、丸めにおけ
る誤差を削減することができる。
【図面の簡単な説明】
【図1】本発明の一実施例に用いられる計算器の概略
図。
【図2】図1の内部アーキテクチャを示す図。
【図3】本発明の一実施例の動作説明図。
【図4】本発明の一実施例で得られた表示例を示す図。
【符号の説明】
20:計算器 22:キーボード 24:表示部 28:左シフト・キー 30:右シフト・キー 40:10進小数点入力キー 50:エンター・キー 38:CPU 42:ROM 44:RAM

Claims (7)

    【特許請求の範囲】
  1. 【請求項1】表示部と数値を入力するための複数のキー
    を有するキーボードと数値を受信する手段と規定された
    フォーマットに前記数値をフォーマット化する手段とフ
    ォーマット化した数値と前記受信した数値を比較する手
    段と前記フォーマット化した数値が前記受信した数値と
    異なるかどうかを前記表示部に示す手段を備える処理手
    段とよりなることを特徴とする計算器。
  2. 【請求項2】請求項第1項記載の計算器において、前記
    処理手段は前記表示部に受信した数値がフォーマット化
    した数値より大きいか小さいかを表示することを特徴と
    する計算器。
  3. 【請求項3】請求項第1項記載の計算器において、前記
    計算器に規定されるフォーマットは受信した値の表示を
    切捨てるためのフォーマット・キーを規定することを特
    徴とする計算器。
  4. 【請求項4】請求項第1項記載の計算器において、前記
    受信した値は入力数値であることを特徴とする計算器。
  5. 【請求項5】請求項第1項記載の計算器において、前記
    受信した値は計算数値であることを特徴とする計算器。
  6. 【請求項6】次の(イ)から(ニ)からなる計算器にお
    ける数値の丸め表示方法。 (イ)計算式に基づいて数値を計算し、(ロ)前記計算
    器に規定されるフォーマットで前記計算数値を表示し、
    (ハ)前記表示する数値を前記計算値と比較し、(ニ)
    前記表示する数値が前記計算値より異なるかどうかを前
    記表示部に示す。
  7. 【請求項7】次の(イ)から(ヘ)からなる計算器にお
    ける数値の丸め表示方法。 (イ)数値を受信し、(ロ)前記計算器に規定されるフ
    ォーマットにしたがって前記数値をフォーマット化し、
    (ハ)前記フォーマット化した数値を前記受信した数値
    と比較し、(ニ)前記フォーマット化した数値が前記受
    信した数値よりも大きい場合、前記フォーマット化した
    値に隣接して前記フォーマット化した値が前記受信した
    数値を切上げたものであることを示し、(ホ)前記フォ
    ーマット化した数値が前記受信した数値よりも小さい場
    合、前記フォーマット化した値に隣接して前記フォーマ
    ット化した値が前記受信した数値を切り捨てたものであ
    ることを示し、(ヘ)前記フォーマット化した数値が前
    記受信した数値と等しい場合、前記フォーマット化した
    値に丸めの表示をしない。
JP4041891A 1991-01-31 1992-01-31 計算器および計算器における数値の丸め表示方法 Pending JPH05189205A (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US07/648,669 US5128887A (en) 1991-01-31 1991-01-31 Numerical accuracy indicator for rounded numeric value display method
US648669 1991-01-31

Publications (1)

Publication Number Publication Date
JPH05189205A true JPH05189205A (ja) 1993-07-30

Family

ID=24601726

Family Applications (1)

Application Number Title Priority Date Filing Date
JP4041891A Pending JPH05189205A (ja) 1991-01-31 1992-01-31 計算器および計算器における数値の丸め表示方法

Country Status (2)

Country Link
US (1) US5128887A (ja)
JP (1) JPH05189205A (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08329261A (ja) * 1995-05-31 1996-12-13 Canon Inc パラメータ曲線発生器
DE19743551C1 (de) * 1997-10-01 1999-02-11 Siemens Ag Verfahren zum Einlesen eines Datenwertes
JP3755602B2 (ja) * 2003-03-04 2006-03-15 ソニー株式会社 信号処理装置、信用処理装置用プログラム、信号処理装置用プログラムを記録した記録媒体、及び信号処理方法

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US3973113A (en) * 1974-09-19 1976-08-03 Goldsamt Alan B Electronic calculator for feet-inch-fraction numerics
JPS5238857A (en) * 1975-09-23 1977-03-25 Casio Comput Co Ltd Small size electronic computer
JPS58213369A (ja) * 1982-06-05 1983-12-12 Casio Comput Co Ltd 検算機能付小型電子式計算機
US4545022A (en) * 1983-02-10 1985-10-01 Hughins James T Fractional calculator
US4744044A (en) * 1986-06-20 1988-05-10 Electronic Teacher's Aids, Inc. Hand-held calculator for dimensional calculations

Also Published As

Publication number Publication date
US5128887A (en) 1992-07-07

Similar Documents

Publication Publication Date Title
US5216627A (en) Method and apparatus for computing with terms having units
US5155697A (en) Most precise fraction display method
US4064398A (en) Electronic calculator
JPH05189205A (ja) 計算器および計算器における数値の丸め表示方法
JP2981769B2 (ja) 波形表示装置
US5138566A (en) Fractional/decimal/digital converting calculator
GB2376773A (en) Display and/or precision operations of numerical values in binary systems
EP0271852B1 (en) Electronic calculator
US3987290A (en) Calculator apparatus for displaying data in engineering notation
US5485410A (en) Measurement calculator
GB2137002A (en) Electronic Scale
JPH06168104A (ja) 電子式計算機
CA1173164A (en) Fraction calculator
JP2564742B2 (ja) 電子データ処理装置
JP3521919B2 (ja) 計算器および計算器における分数の入力及び表示方法
JP2695296B2 (ja) 計算機
JPH03119457A (ja) 電子計算機
US6865586B2 (en) Calculator capable of recovering cleared values
JPS58178459A (ja) 単位換算機能付小型電子式計算機
JPH05119755A (ja) キヤラクタ表示装置
EP0434881A1 (en) Calculator for assisting the teaching of mathematics in elementary classes
JPH05128088A (ja) 電子卓上計算機
JPS60243742A (ja) 円弧計算装置
JP3496499B2 (ja) 計算データ処理装置
JPH0155491B2 (ja)