JPH01297721A - 実数データの変換装置 - Google Patents

実数データの変換装置

Info

Publication number
JPH01297721A
JPH01297721A JP63128794A JP12879488A JPH01297721A JP H01297721 A JPH01297721 A JP H01297721A JP 63128794 A JP63128794 A JP 63128794A JP 12879488 A JP12879488 A JP 12879488A JP H01297721 A JPH01297721 A JP H01297721A
Authority
JP
Japan
Prior art keywords
code
number data
real number
format
decimal point
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP63128794A
Other languages
English (en)
Inventor
Junko Suzuki
純子 鈴木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP63128794A priority Critical patent/JPH01297721A/ja
Publication of JPH01297721A publication Critical patent/JPH01297721A/ja
Pending legal-status Critical Current

Links

Abstract

(57)【要約】本公報は電子出願前の出願データであるた
め要約のデータは記録されません。

Description

【発明の詳細な説明】 〔概要〕 計韓機上での実数データの表現形式を変換する実数デー
タの変換装置に関し、 有効桁を正確に伝えることができ、アンダー70−及び
オーバーフローを防止する表現形式に実数データを変換
することを目的とし、 符号、小数点及び最大N(Nは2以上の整数)桁の数値
部々を複数ビットのコードで表わすコード形式の実数デ
ータを、符号ビットを含む属性部と小数点位置を整数で
示す小数点位置指示部とN桁の数値部々を複数ビットで
表わす数値部とよりなる表現形式の実数データに変換す
る実数データの変換装置であって、該コード形式の実数
データ中の最大N桁の数値のみを順次取り出し該数値部
に右詰めで格納する数値変換手段と、該=1−′ド形式
の実数データ中の最下位桁の数値の=1−ド位置から小
数点のコード位置までの桁数を泪数し−C1その計数値
を該小数点位置指示部に格納づる小数点位置変換手段と
、該コード形式の実数データ中の符号のコードを判別し
て該属性部の稍号ビットを設定する符号変換手段とを有
し構成J−る。
〔産業上の利用分野〕
本発明は実数データの変換装置に関し、計算機上での実
数データの表視形式を変換する実数データの変換装置に
関覆る。
近年、訓算機を用いて人出の各種f−夕を迅速に統h1
処理し、評価する技術が要求されている。
測定時の有効桁数が意味を持っている実数データを取り
扱う場合には、常にこの有効桁数に注意Jる必要がある
〔従来の技術〕
従来においては、第7図(A)に示す如く、符号部S、
指数部F、仮数部Mに分離して表現する浮動小数点形式
、同図(B)に示す如く、4ビツトコードで符号、小数
点、数値(10進数)を1文字ずつ表現づる4ビツトコ
ード形式等で実数データを表現している。
上記の浮動小数点形式では、指数部Eの値がa」−26
で、仮数部Mの各4ビツトの値が夫々b1〜b6である
とぎ実数データの値Xは次式の如く表わされる。
X = 16ax  (b1/16+b2/162+ 
b3/163+b4/164   +b5/165  
−ト b6/166   )上記の4ビット]−ド形式
では各4ピツ1−で表わされる16進数O〜9が10進
数のO〜9を表わし、16進数Aが小数点、16進数B
が「」−」、16進数Cが1−1を夫々表わす。
〔発明が解決しようとする課題〕
浮動小数点形式では仮数部の何桁までが有効桁なのかを
伝えることができないという問題がある。
また、例えば実数値ro、10jを表現Jるとき仮数部
Mの各4ビツトb1〜b6は16進で[CO”O’12
3 A’5 Jどなり、これは実数値[0,10000
0024Jを表わすもので誤差を含んでいる。またこれ
を倍精度で表現しても誤差をなくすことは不可能である
という問題がある。
また、4ビツトコード形式では有効桁の最下桁を第7図
(A)の28ビツトからの4ビツトに置いて有効桁を表
わずことも可能゛であるが、例えば実数値1” 0.0
006 Jの単位がμVであるとして、これをrl/に
単位変換すると「0000000」だりしか表現できず
、小数点以下7桁目の16」は切捨てられてアンダーツ
1コーが生じ、また逆にオーバーしローを生じるという
問題がある。
本発明は上記の点に鑑みなされたもので、有効桁を正確
に伝えることができ、アンターフロー及びオーバーゲー
を防止する□表ツ形式に2リデータを変換する実数デー
タの変換装置を提供覆ることを目的とする。
〔課題を解決するための手段〕
第1図は本発明装置の一実施例の原理ブロック図を示す
。同図中、符号、小数点及び最大N(Nは2以上の整数
)桁の数値部々を複数ビットのコードで表わすコード形
式の実数データ50は、CPU10によって、符号ビッ
トを含む属性部40と小数点位置を整数で示す小数点位
置指示部41とN桁の数値部々を複数ビットで表わす数
値部42とよりなる表視形式の実数データ51に変換さ
れる。
CPU10内の数値変換手段10aはコード形式の実数
データ中の最大N桁の数値のみを順次取り出し数値部4
2に右詰めで格納する。
小数点位置変換手段10’bは′、コード形式の実数デ
ータ50中の最下位桁の数値のコード位置から小数点の
コード位置までの桁数を計数して、その計数値を小数点
位置指示部41に格納する。
符号変換手段1”Ocは、コード形式の実数データ50
中の符号のコードを判別して属性部40の符号ビットを
設定する。
〔作用〕
本発明装置によれば、属性部40、小数点位l指示部4
1、数値部42よりなる実数データ51が得られ、この
実数データは単位変換を行なっても小数点位置指示部4
1の値だりが変化し、数値部42に有効桁の数値が常に
保持される。
(実施例〕 まず、本発明の実数データの変換装置の[要を説明する
に、第2図は本発明装置の一実施例のシステム構成図を
示す。
第2図において、10はCP Uであり、11〜13夫
々は記憶装置である。記憶装置11には第3図に示す処
理を実行するプログラムが格納されており、cpulo
によってステップ毎に読出され実行される。記憶装置1
2には変換前の実数データが記憶され、記憶装置13に
は本発明装置で得られた変換後の実数データが記憶され
る。
CPU10の変換処理で得られた変換後のデータはCP
U10からプリンタ14に供給され、ここでプリント表
示される。
第3図は本発明装置の一実施例のフローチャートを示す
同図中、測定された実数は第7図(B)に示す形式の例
えばEBCDICコード又はASCIIコード8バイト
で第4図(A)に示す如きコードデータ領域に入力され
ている。…ず、ステップ20では第4図(B)に示す如
きρバイトのワーク領域をスペースクリアし、更にワー
ク領域の最上位バイト(左端)からのバイト数を示す変
数Mにr9Jをセットし、ワーク領域での小数点のバイ
ト位置を示す変数NPRDに「8」をセットする(ステ
ップ21)。
この後、変数Nをr8JからrIJずつ減じて「1」と
なるまでステップ22〜25を繰り返す。
ステップ22ではコードデータ領域のNバイト目がスペ
ースであるかどうか判別し、スペースでなければ変数M
を11」だけ減じ(ステップ23)、コードデータ領域
のNバイト目をワーク領域のMバイト目に格納しくステ
ップ24)、変数Mの値を変数NPRDに格納する(ス
テップ25)。
スアツ、ブ25の終了又はステップ22でスペースと判
別された場合はステップ22に移行しで繰り返しを行な
う。これによってワーク領域に8バイトの実数データが
右詰めされる。上記のステップ20〜25は次のステッ
プ26をも含めて所謂前処理である。
この後、第4図(C)に示す4バイトで最上位ビット(
左端)から4ビツト毎に1−1」〜[−8」の格納位置
を持つ変換後データ領域をゼロクリアし、かつ符号フラ
グに正を表わすv Ovをセットする(ステップ26)
。更に、変数Nを「1」から「1」ずつ増加させて「8
」となるまでステップ27〜32を繰り返す。ステップ
27ではワーク領域のNバイト目がスペース又は小数点
又は符号「+」であるかどうかを判別し、いずれでもな
い場合には符号「−」であるかどうかを判別しくステッ
プ28)、符号「−」でない場合は変換NPRDが「8
」であるか又は変#IANより小さいかを判別する(ス
テップ29)。ステップ29を満足しない場合はワーク
領域のNバイト目の下位4ビツトを変換データ領域の格
納位置N、 −1−1に格納しくステップ30)、満足
する場合はワーク領域のNバイト目の下位4ビツトを格
納位置Nに格納する(ステップ31)、。なお、E B
、C,、D jCコード及びASCffコードでは10
進数rOJ〜「9」夫々を表わす、各バイトの下位4ビ
ツトがその数値を16進で表示している。
また、ステップ28で符号「−」と判別された場合は符
号フラグに負を表わす717をセットする(ステップ3
2) 。
ステップ30,31.32夫々の終了又はステップ27
でスペース又は小数点又は符号「+」と判別された場合
はステップ27に移行して繰り返しを行なう。
これによって変換データ領域には各4ビツトを16進で
表わす数値が右詰めされる。
更に、ステップ33で(8−NPRD)の値を後述する
小数点位置指示部41に格納し、処理を終了する。
ここで、ステップ21〜26,30.31が数値変換手
段10aに対応し、ステップ26.32が符号変換手段
10Cに対応し、ステップ21へ・25.33が小数点
位置変換手段10bに対応している。
どころで、第7図(A)に示す形式の実数データの場合
は例えば7n−t〜シランお(プる変換命令FT11.
TIによって第4図(B)に示J如き文字形式に変換し
て第3図の処理を実行づる。
また、測定機器によって浮動小数点形式が異なる場合に
は、−担第7図(A)の形式に変換した後、変換命令F
TT1.Tによる文字形式への変換を行ない、第3図の
処理を行なう。
上記第3図の処理によって得られる変換後の実数データ
は第5図に示す形式どされる。
第5図において、実数データは8バイトで表わされ、2
バイ1〜の属性部40と、2バイ1への小数点位置指示
部41と、4バイトの数値部42とより構成される。
属性部40は実数データの属性を表わしており、そのう
ちの1ビツトが符号フラグとされており、ステップ26
.32ではこの符号フラグの設定が行なわれる。
小数点位置指示部41は2バイトの整数値で数値部42
の最下桁(右端の4ビツト)を基準とする小数点の位置
を指示する。例えばこの指示部41の値がrOJのとき
最下桁の右に小数点があり最下桁が一位であることを表
わし、「+1」のとき最下桁より1桁上位の桁の左に小
数点があり最下桁が十分の一位であることを表わし、「
−1」のとき最下桁より1桁下位の桁の左に小数点があ
り最下桁が1位であることを表わす。
数値部42は4ビツトで1桁の数値を表わし、全体で8
桁の数値を有効桁まで表わしており第4図(C)に示す
変換データ領域が即ちこの数値部42である。
例えば有効桁数5桁の実数r−140004を表わす場
合、符号ピッ1へは717となり、小数点位置指示部4
1の整数値は「−3」となり、整数部42の上位3バイ
1−はオールゼロ、整数部42の格納位置7番目、8番
目夫々の4ビツトが16進数の「14」となる。
この実数r−14000J (7)単位が(mV)rあ
るとして、これを単位(V)に単位変換すると、小数点
位置指示部41の整数値が「0」となるだりで属性部4
0及び数値部42は何ら変化せず、数値部42の数値か
ら有効桁数が5桁であることを知り得る。
第6図(A)にはプリンタ14による測定実数値の単位
(mV)のプリント表示例を示し、同図(B)に単位(
V)のプリン1〜表示例全表示。同図(A)、(B)夫
々において、測定実数値の1行目は有効桁数3桁、2行
目は有効桁数4桁、3行目は有効桁数2桁である。
このように第5図の形式の実数データは有効桁を正確に
伝えることができ、この有効桁内に誤差を含んでいない
。また単位変換によってアンダーフロー及びオーバーフ
ローを生じることがない。
〔発明の効果〕
上述の如く、本発明の実数データの変換装置によれば、
属性部と小数点位置指示部と数値部とよりなる実数デー
タが得られ、数値部には有効桁の数値がコードで格納さ
れるため、有効桁を正確に伝えることができ、アンダー
フロー及びオーバーフローを防止でき、実用上きわめて
有用である。
【図面の簡単な説明】
第1図は本発明装置の原理ブロック図、第2図は本発明
装置の一実施例のシステム構成図、 第3図は本発明装置の一実施例のフローヂャート、 第4図は本発明装置を説明するだめの図、第5図は本発
明装置で得られる実数データの表現形式を示す図、 第6図は第5図の形式の実数のプリント表示例を示す図
、 第7図は従来の実数データの表現形式を示す図である。 図において、 10はcpu。 11〜13は記憶装置、 14はプリンタ、 20〜33はステップ、 40は属性部、 41は小数点位置指示部、 42は数値部 を示す。 特許出願人 富 士 通 株式会社

Claims (1)

  1. 【特許請求の範囲】 符号、小数点及び最大N(Nは2以上の整数)桁の数値
    夫々を複数ビットのコードで表わすコード形式の実数デ
    ータを、符号ビットを含む属性部(40)と小数点位置
    を整数で示す小数点位置指示部(41)とN桁の数値夫
    々を複数ビットで表わす数値部(42)とよりなる表現
    形式の実数データに変換する実数データの変換装置であ
    つて、該コード形式の実数データ中の最大N桁の数値の
    みを順次取り出し該数値部(42)に右詰めで格納する
    数値変換手段(10a)と、 該コード形式の実数データ中の最下位桁の数値のコード
    位置から小数点のコード位置までの桁数を計数して、そ
    の計数値を該小数点位置指示部(41)に格納する小数
    点位置変換手段(10b)該コード形式の実数データ中
    の符号のコードを判別して該属性部(40)の符号ビッ
    トを設定する符号変換手段(10c)とを有することを
    特徴とする実数データの変換装置。
JP63128794A 1988-05-26 1988-05-26 実数データの変換装置 Pending JPH01297721A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP63128794A JPH01297721A (ja) 1988-05-26 1988-05-26 実数データの変換装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP63128794A JPH01297721A (ja) 1988-05-26 1988-05-26 実数データの変換装置

Publications (1)

Publication Number Publication Date
JPH01297721A true JPH01297721A (ja) 1989-11-30

Family

ID=14993608

Family Applications (1)

Application Number Title Priority Date Filing Date
JP63128794A Pending JPH01297721A (ja) 1988-05-26 1988-05-26 実数データの変換装置

Country Status (1)

Country Link
JP (1) JPH01297721A (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004213622A (ja) * 2002-12-27 2004-07-29 Arm Ltd 固定小数点表示と浮動小数点表示との間で数を変換するデータ処理装置および方法
JP2009093631A (ja) * 2007-09-20 2009-04-30 Canon Inc 文書符号化装置、文書符号化方法

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS56159734A (en) * 1980-05-13 1981-12-09 Casio Comput Co Ltd Arithmetic system
JPS63113726A (ja) * 1986-10-31 1988-05-18 Hitachi Ltd 演算処理装置

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS56159734A (en) * 1980-05-13 1981-12-09 Casio Comput Co Ltd Arithmetic system
JPS63113726A (ja) * 1986-10-31 1988-05-18 Hitachi Ltd 演算処理装置

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004213622A (ja) * 2002-12-27 2004-07-29 Arm Ltd 固定小数点表示と浮動小数点表示との間で数を変換するデータ処理装置および方法
JP2009093631A (ja) * 2007-09-20 2009-04-30 Canon Inc 文書符号化装置、文書符号化方法

Similar Documents

Publication Publication Date Title
US10782932B2 (en) Round for reround mode in a decimal floating point instruction
US9804823B2 (en) Shift significand of decimal floating point data
US9461668B2 (en) Decomposition of decimal floating point data
US8423595B2 (en) Convert significand of decimal floating point data to packed decimal format
US5572207A (en) Method and apparatus for numeric-to-string conversion
US8468184B2 (en) Extract biased exponent of decimal floating point data
US7584170B2 (en) Converting numeric values to strings for optimized database storage
US7890558B2 (en) Apparatus and method for precision binary numbers and numerical operations
JP3178746B2 (ja) 浮動小数点数のためのフォーマット変換装置
JPH04291418A (ja) 除算回路の前処理装置
JPH01297721A (ja) 実数データの変換装置
US20060179098A1 (en) System and method for reduction of leading zero detect for decimal floating point numbers
RU2698413C1 (ru) Устройство для сравнения чисел в системе остаточных классов
EP0274102A2 (en) Method of detecting and correcting an error in a digital computer
US6128636A (en) Method for interfacing floating point and integer processes in a computer system
JPS6275838A (ja) 可変精度数値デ−タ演算装置
JP2606580B2 (ja) 数値データ演算方法
JPS61109139A (ja) 演算装置
JPH0275084A (ja) パターンマッチング用類似度演算回路
JPH02165225A (ja) 精度つき浮動小数点数演算処理装置
JPS6126135A (ja) 浮動小数点デ−タ変換回路
JPH07248898A (ja) スケールファクタ算出方法
Lewin et al. Data representation and computer arithmetic
JPS60105038A (ja) 文字データの文字数計数装置
JPH07117892B2 (ja) シフタ