JP4893340B2 - 計算装置及び計算プログラム - Google Patents
計算装置及び計算プログラム Download PDFInfo
- Publication number
- JP4893340B2 JP4893340B2 JP2007018881A JP2007018881A JP4893340B2 JP 4893340 B2 JP4893340 B2 JP 4893340B2 JP 2007018881 A JP2007018881 A JP 2007018881A JP 2007018881 A JP2007018881 A JP 2007018881A JP 4893340 B2 JP4893340 B2 JP 4893340B2
- Authority
- JP
- Japan
- Prior art keywords
- calculation
- error
- numerical
- digits
- result
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Calculators And Similar Devices (AREA)
Description
演算桁数を記憶する演算桁数記憶手段と、
ユーザ操作に基づいて数値計算式を入力する入力手段と、
前記入力手段により入力された数値計算式に含まれる各計算数値の仮数部の桁数が前記演算桁数以下であるか否かに基づいて、当該各計算数値中の誤差の有無を判別する計算数値誤差判別手段と、
前記数値計算式を前記演算桁数で計算する計算手段と、
前記計算数値誤差判別手段により何れかの計算数値が誤差有りと判別された場合に、前記計算手段による計算結果が誤差有りであると判別する結果数値誤差判別手段と、
前記計算結果と、前記結果誤差判別手段による判別結果とを表示する表示手段と、
を備えることを特徴とする。
前記入力手段は、
ユーザ操作に基づいて前記演算桁数記憶手段の前記演算桁数を任意に設定する演算桁数設定手段を有することを特徴とする。
結果数値誤差判別手段は、
前記計算手段による前記演算桁数での計算で桁落ちが生じた場合に、前記計算結果が誤差有りであると判別する桁落ち判別手段を有することを特徴とする。
コンピュータに、
演算桁数を記憶する演算桁数記憶機能と、
ユーザ操作に基づいて数値計算式を入力する入力機能と、
前記入力機能により入力された数値計算式に含まれる各計算数値の仮数部の桁数が前記演算桁数以下であるか否かに基づいて、当該各計算数値中の誤差の有無を判別する計算数値誤差判別機能と、
前記数値計算式を前記演算桁数で計算する計算機能と、
前記計算数値誤差判別機能により何れかの計算数値が誤差有りと判別された場合に、前 記計算機能による計算結果が誤差有りであると判別する結果数値誤差判別機能と、
前記計算結果と、前記結果誤差判別機能による判別結果とを表示する表示機能と、
を実現させることを特徴とする。
図1は、関数電卓1の概観図である。
この図に示すように、関数電卓1は、各種操作キーを含むキー群2及びディスプレイ3を備えている。
図5は、CPU40により計算プログラム502が読み出されて実行されることにより関数電卓1において実行される計算処理中の置数処理を示すフローチャートである。
続いて、本発明に係る計算装置の第2実施形態について説明する。なお、上記第1実施の形態との間で互いに対応する部分が同様に構成されている場合には、同一の符号を付して、その説明を省略する。
ROM50Aは、特定数値記憶テーブル501と、本発明に係る計算プログラム502Aとを格納している。
n+m桁計算結果格納領域64は、十進演算器70により演算桁数「n+m」(但し、mはm<nを満たす正の整数)で計算された数値計算式全体の計算結果や、数値計算式中の各計算部分の計算結果を格納するための領域である。また、最終計算結果格納領域65は、数値計算式全体の最終的な計算結果として表示部30に表示される「n」桁以下の数値を格納するための領域である。なお、本実施の形態における最終計算結果格納領域65には、n桁計算結果格納領域63と同じ数値が格納されることとして説明するが、n桁計算結果格納領域63内の数値をn+m桁計算結果格納領域64内の数値で補正して得られる数値が格納されることとしても良い。このような補正の手法としては、従来より公知の手法を用いることができる。
図9〜図12は、CPU40により計算プログラム502Aが読み出されて実行されることにより関数電卓1において実行される計算処理中の四則演算処理、開平計算処理、一価関数計算処理、べき乗計算処理の流れを示すフローチャートである。
以下、これらの処理について順に説明する。
処理対象の計算部分が四則演算部分である場合には、図9に示すように、まずCPU40は、上述の置数処理を行った後(ステップS10)、当該四則演算部分における被演算数が非有限数値であるか否かを判定し(ステップS11)、非有限数値であると判定した場合(ステップS11;Yes)には、十進演算器70によって「n」桁で四則演算を行って演算結果をn桁計算結果格納領域63に格納させた後(ステップS12)、誤差フラグ記憶領域66の誤差フラグを「1」に設定し(ステップS13)、四則演算処理を終了する。
また、処理対象の計算部分が開平計算部分である場合には、図10に示すように、まずCPU40は、上述の置数処理を行った後(ステップS20)、当該開平計算部分における演算数が非有限数値であるか否かを判定し(ステップS21)、非有限数値であると判定した場合(ステップS21;Yes)には、十進演算器70によって「n」桁や「n+m」桁で開平計算を行って計算結果をn桁計算結果格納領域63やn+m桁計算結果格納領域64に格納させた後(ステップS22)、誤差フラグ記憶領域66の誤差フラグを「1」に設定し(ステップS23)、開平計算処理を終了する。
=a0100+ a110-1+ a210-2+… (A)
(但し、各akは0〜9の整数)
=a0100・a0100+ a110-1(2a0100+ a110-1)+ a210-2(2a0100+ a110-1+ a210-2)+… (B)
X2=X-(a110-1(2a0100+ a110-1))、Y2=(a0100+ a1101) (2)
Yi=((a0100+ a1101+…ai10-i) (3)
また、処理対象の計算部分が所定の一価関数、例えば上述の図8の左側に示す「log(x)」(但し、xは任意の数値)等に相当する場合には、図11に示すように、まずCPU40は、上述の置数処理を行った後(ステップS30)、当該一価関数部分における演算数が非有限数値であるか否かを判定し(ステップS31)、非有限数値であると判定した場合(ステップS31;Yes)には、十進演算器70によって「n」桁や「n+m」桁で一価関数部分の計算を行って計算結果をn桁計算結果格納領域63やn+m桁計算結果格納領域64に格納させた後(ステップS32)、誤差フラグ記憶領域66の誤差フラグを「1」に設定し(ステップS33)、一価関数計算処理を終了する。
また、処理対象の計算部分がべき乗計算部分である場合には、図12に示すように、まずCPU40は、上述の置数処理を行った後(ステップS40)、当該べき乗計算部分における被演算数が非有限数値であるか否かを判定し(ステップS41)、非有限数値であると判定した場合(ステップS41;Yes)には、十進演算器70によって「n」桁や「n+m」桁でべき乗部分の計算を行って計算結果をn桁計算結果格納領域63やn+m桁計算結果格納領域64に格納させた後(ステップS42)、誤差フラグ記憶領域66の誤差フラグを「1」に設定し(ステップS43)、べき乗計算処理を終了する。
20 入力部(入力手段,演算桁数設定手段)
30 表示部(表示手段)
70 十進演算器(計算手段)
40 CPU(計算数値誤差判別手段、結果数値誤差判別手段、
桁落ち判別手段、一価関数判別手段、数式展開判別手段)
62 演算桁数格納領域(演算桁数記憶手段)
502,502A 計算プログラム
Claims (4)
- 演算桁数を記憶する演算桁数記憶手段と、
ユーザ操作に基づいて数値計算式を入力する入力手段と、
前記入力手段により入力された数値計算式に含まれる各計算数値の仮数部の桁数が前記演算桁数以下であるか否かに基づいて、当該各計算数値中の誤差の有無を判別する計算数値誤差判別手段と、
前記数値計算式を前記演算桁数で計算する計算手段と、
前記計算数値誤差判別手段により何れかの計算数値が誤差有りと判別された場合に、前記計算手段による計算結果が誤差有りであると判別する結果数値誤差判別手段と、
前記計算結果と、前記結果誤差判別手段による判別結果とを表示する表示手段と、
を備えることを特徴とする計算装置。 - 請求項1記載の計算装置において、
前記入力手段は、
ユーザ操作に基づいて前記演算桁数記憶手段の前記演算桁数を任意に設定する演算桁数設定手段を有することを特徴とする計算装置。 - 請求項1または2記載の計算装置において、
結果数値誤差判別手段は、
前記計算手段による前記演算桁数での計算で桁落ちが生じた場合に、前記計算結果が誤差有りであると判別する桁落ち判別手段を有することを特徴とする計算装置。 - コンピュータに、
演算桁数を記憶する演算桁数記憶機能と、
ユーザ操作に基づいて数値計算式を入力する入力機能と、
前記入力機能により入力された数値計算式に含まれる各計算数値の仮数部の桁数が前記演算桁数以下であるか否かに基づいて、当該各計算数値中の誤差の有無を判別する計算数値誤差判別機能と、
前記数値計算式を前記演算桁数で計算する計算機能と、
前記計算数値誤差判別機能により何れかの計算数値が誤差有りと判別された場合に、前記計算機能による計算結果が誤差有りであると判別する結果数値誤差判別機能と、
前記計算結果と、前記結果誤差判別機能による判別結果とを表示する表示機能と、
を実現させることを特徴とする計算プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007018881A JP4893340B2 (ja) | 2007-01-30 | 2007-01-30 | 計算装置及び計算プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007018881A JP4893340B2 (ja) | 2007-01-30 | 2007-01-30 | 計算装置及び計算プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2008186224A JP2008186224A (ja) | 2008-08-14 |
JP4893340B2 true JP4893340B2 (ja) | 2012-03-07 |
Family
ID=39729226
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2007018881A Active JP4893340B2 (ja) | 2007-01-30 | 2007-01-30 | 計算装置及び計算プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4893340B2 (ja) |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3194080B2 (ja) * | 1996-09-13 | 2001-07-30 | 株式会社データアクション | 端数処理装置 |
JP2001160034A (ja) * | 1999-12-03 | 2001-06-12 | Sharp Corp | 情報処理装置およびその表示方法 |
-
2007
- 2007-01-30 JP JP2007018881A patent/JP4893340B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
JP2008186224A (ja) | 2008-08-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20170255464A1 (en) | Merged floating point operation using a modebit | |
KR101560340B1 (ko) | 포화가 적용된 정수 곱셈 연산 및 곱셈-덧셈 연산 | |
JP2010238011A (ja) | ベクトル乗算処理装置および方法ならびにプログラム | |
JP4893340B2 (ja) | 計算装置及び計算プログラム | |
JP4997812B2 (ja) | 計算装置及び計算プログラム | |
CN115269003A (zh) | 数据处理方法及装置、处理器、电子设备、存储介质 | |
JP4126498B2 (ja) | 電子計算装置および計算表示処理プログラム | |
CN111124361A (zh) | 算术处理装置及其控制方法 | |
JP4193773B2 (ja) | 演算制御装置及びプログラム | |
JP5979212B2 (ja) | 電子機器およびプログラム | |
US5285399A (en) | Calculator with easily enterable constant calculation mode | |
JP5487997B2 (ja) | 電子計算機及びプログラム | |
JP2005128907A (ja) | 演算装置の制御方法、演算装置、並びに、そのプログラムおよび記録媒体 | |
JP5315712B2 (ja) | 演算機能を備えた電子装置および演算処理プログラム | |
JPH01282633A (ja) | 非正規化数の処理方式 | |
JP4109181B2 (ja) | 論理回路、および、それを使用した浮動小数点演算回路とマイクロプロセッサ | |
JP2008059314A (ja) | 公式計算装置及び公式計算プログラム | |
JP5659760B2 (ja) | 電子計算機およびプログラム | |
JP4271589B2 (ja) | 演算装置の制御方法、並びに、そのプログラムおよび記録媒体 | |
JP4428778B2 (ja) | 演算装置及び演算方法並びに計算装置 | |
CN117270813A (zh) | 运算器、处理器和电子设备 | |
JP2024024089A (ja) | 電子機器、表示方法及びプログラム | |
JP2903529B2 (ja) | ベクトル演算方式 | |
JP3100868B2 (ja) | 浮動小数点数のための算術演算装置 | |
JP2011186771A (ja) | 演算装置及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20100115 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20110913 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20111107 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20111107 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20111122 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20111205 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 4893340 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20150106 Year of fee payment: 3 |