JP2002523913A - バイアスを招かないで固定少数点フォーマットに信号を圧縮するための方法と装置 - Google Patents

バイアスを招かないで固定少数点フォーマットに信号を圧縮するための方法と装置

Info

Publication number
JP2002523913A
JP2002523913A JP2000565606A JP2000565606A JP2002523913A JP 2002523913 A JP2002523913 A JP 2002523913A JP 2000565606 A JP2000565606 A JP 2000565606A JP 2000565606 A JP2000565606 A JP 2000565606A JP 2002523913 A JP2002523913 A JP 2002523913A
Authority
JP
Japan
Prior art keywords
signal
bit
bits
output
significant
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2000565606A
Other languages
English (en)
Other versions
JP4354648B2 (ja
JP2002523913A5 (ja
Inventor
リドル、クリストファー・シー
レビン、ジェフリー・エー
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Qualcomm Inc
Original Assignee
Qualcomm Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Qualcomm Inc filed Critical Qualcomm Inc
Publication of JP2002523913A publication Critical patent/JP2002523913A/ja
Publication of JP2002523913A5 publication Critical patent/JP2002523913A5/ja
Application granted granted Critical
Publication of JP4354648B2 publication Critical patent/JP4354648B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H03ELECTRONIC CIRCUITRY
    • H03MCODING; DECODING; CODE CONVERSION IN GENERAL
    • H03M7/00Conversion of a code where information is represented by a given sequence or number of digits to a code where the same, similar or subset of information is represented by a different sequence or number of digits
    • H03M7/30Compression; Expansion; Suppression of unnecessary data, e.g. redundancy reduction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F7/00Methods or arrangements for processing data by operating upon the order or content of the data handled
    • G06F7/38Methods or arrangements for performing computations using exclusively denominational number representation, e.g. using binary, ternary, decimal representation
    • G06F7/48Methods or arrangements for performing computations using exclusively denominational number representation, e.g. using binary, ternary, decimal representation using non-contact-making devices, e.g. tube, solid state device; using unspecified devices
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F7/00Methods or arrangements for processing data by operating upon the order or content of the data handled
    • G06F7/38Methods or arrangements for performing computations using exclusively denominational number representation, e.g. using binary, ternary, decimal representation
    • G06F7/48Methods or arrangements for performing computations using exclusively denominational number representation, e.g. using binary, ternary, decimal representation using non-contact-making devices, e.g. tube, solid state device; using unspecified devices
    • G06F7/499Denomination or exception handling, e.g. rounding or overflow
    • G06F7/49942Significance control
    • G06F7/49947Rounding
    • G06F7/49952Sticky bit
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F7/00Methods or arrangements for processing data by operating upon the order or content of the data handled
    • G06F7/38Methods or arrangements for performing computations using exclusively denominational number representation, e.g. using binary, ternary, decimal representation
    • G06F7/48Methods or arrangements for performing computations using exclusively denominational number representation, e.g. using binary, ternary, decimal representation using non-contact-making devices, e.g. tube, solid state device; using unspecified devices
    • G06F7/499Denomination or exception handling, e.g. rounding or overflow
    • G06F7/49942Significance control
    • G06F7/49947Rounding
    • G06F7/49963Rounding to nearest

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Computing Systems (AREA)
  • Mathematical Analysis (AREA)
  • Mathematical Optimization (AREA)
  • Pure & Applied Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Computational Mathematics (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)
  • Reduction Or Emphasis Of Bandwidth Of Signals (AREA)
  • Transmission Systems Not Characterized By The Medium Used For Transmission (AREA)

Abstract

(57)【要約】 【課題】 バイアスを招かないで固定少数点フォーマットに信号を圧縮するための方法と装置 【解決手段】 バイアスを招かないで固定少数点信号を圧縮するための方法と装置。信号は、ディザによる切上げ方法により圧縮され、方法の中で、信号値は、ほぼ等しい確率で切り上げられるか切り下げられ、確率とほぼ等しく切り下げるか切り上げないと、切上げあるいは切下げ演算から生ずるバイアスを打ち消す。信号値を切り下げるべきかあるいは切り下げるべきかどうかを決定するために入力信号の数値特性が活用される。従って、信号のバイアスを蓄積して、下流の性能を劣化させないで、信号圧縮を、システムの中の多重点で導入することができ。更に、最低限度のハードウエアの量で、特定の効率的な方法で、1ビット信号圧縮を、達成することができる。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】
本発明は信号圧縮に関する。より具体的には、本発明は、バイアスを招かずに
固定少数点信号を圧縮するための新規性のある改善された方法と装置に関する。
【0002】
【従来の技術】
電子デジタルシステムは、二つの異なるフォーマット、即ち浮動少数点(float
ing point)と固定少数点(fixed point)に従って内部で数値を示す。浮動少数点
の表記法は、固定点を有さない。数値は、2個の成分による浮動少数点、即ち仮
数と指数で示される。固定点は、反対に、全ての数的量が、予め設定された桁の
数字で、絶対的に予め設定された位置の所にある小数点を付けて示されるフォー
マットである。固定点の数字は、本発明の主題である。
【0003】 システムの設計者は、できるだけ少ないビットで数字を示すように努力する。
ハードウエアのコストと複雑さは、部分的にビット数により左右され、ビットが
大きいほど、ハードウエアは複雑になる。たとえ1個のビットを節約しても、そ
れは直接ハードウエアのコスト削減に反映される。設計者は、システムの動的範
囲の必要条件を決定して、それに従ってビットの数を設定する。
【0004】 デジタルシステムの中の種々の信号を、種々の動的範囲の必要条件を有するも
のとすることができる。例えば、Mビット数のNビット数による乗算の結果は、
正確にはM+Nビットを有する積である。しかし、システムは、必ずしも積の信
号がこの高い動的範囲を必要としない。従って、信号からビットを捨てる(即ち
信号を圧縮する)ことが好ましい。
【0005】 信号を圧縮するための従来の方法は、切捨てと丸めである。切捨ては、この場
合、信号から単に1個あるいはそれ以上の最下位のビットあるいは桁を落とすこ
とを指す。しかし、切捨ては、切捨てが、正の量(切り捨てられたビット)を捨
てることが常に伴うので、負のバイアスを圧縮された信号に招く。より多くの切
捨て演算がなされると、これらのバイアスは蓄積する。特に低い信号レベルの環
境の中では、これらのバイアスが、著しく下流の性能を劣化させる可能性がある
。丸めは、切捨てより良く性能を発揮するが、それでも、また下流の性能を劣化
指せる可能性があるビットを招く。
【0006】 従って、バイアスを招かない固定少数点信号を圧縮するための設計された方法
と装置が必要である。
【0007】
【課題を解決するための手段】
本発明は、バイアスを招かないで固定少数点信号を圧縮するための新規性があ
る改善された方法と装置である。本発明に従って、信号は、ディザ(dithered)に
よる切上げ方法により圧縮され、信号値は、ほぼ等しい確率で切り上げられまた
切り捨てられ、そうでなければ前記の丸め演算から生ずるバイアスを取り消す。
本発明は、入力信号の数字の特性を活用して、信号値が切上げあられるべきか切
り捨てられるべきかどうかを決定する。
【0008】 本発明により提供される利点は、信号の圧縮が、バイアスを招かないで達成さ
れることである。従って、信号圧縮を、信号バイアスを蓄積して、下流の性能を
劣化することなく、システムの中の多重点の所に導くことができる。
【0009】 本発明の特徴は、1ビットの信号の圧縮を、最低限のハードウエアの量で一般
的に達成することができることである。
【0010】
【発明の実施の形態】
本発明の特徴、目的、利点は、図面全体をつうじて同じ要素に対して同じ参照
符号が振られている、別添の図面を引用したときに下記の詳しい説明から明かと
なる。
【0011】 本発明の目的は、バイアスを招かないで固定少数点信号を圧縮するための新規
性のある改善された方法と装置である。図1は、Nビットの入力信号102をN
−Kビット出力信号104(Kビット圧縮)に圧縮する圧縮器106を示してい
る。当業者にとって公知であるように、本明細書の意味での信号圧縮(signal co
mpression)は、信号を示すためのビットの数をシステム的に減らすことを指す。
図1の中で示されているとおり、圧縮器106は、入力信号102を示すビット
数をKビットだけ減らし、よって、出力信号104を形成する。
【0012】 図1の中で示されているとおり、入力信号102と出力信号104のビットは
、段々と上位に行く順序で引用されている。例えば、ビット1は最下位のビット
を指し、ビットKはK番目の最下位ビットを指し、またビットNは、Nビット数
の最上位のビットを指す。ビットのグループは、また、例えば(N―ビット数の
ビットN−KからビットNまでを特定する)N−K最上位ビット、または(少な
くともKビットを有する数のビット1からビットKまでを特定する)K最下位ビ
ットを指す。更に、入力信号102と出力信号104は、整数成分(N−K最上
位ビット)を有するものと、また少数成分(K最下位ビット)を指す。
【0013】 信号圧縮器106の種々の実施形態が、下記に説明されている。本発明に従っ
た信号圧縮方法が、最初に図2−5と6を引用して説明されている。次にKビッ
ト信号圧縮器の実施形態が、図7を引用して説明されている。1ビット信号圧縮
器の実施形態は、図8を引用して説明されている。 II.信号圧縮方法 このセクションと次のセクションは、図2−5と6を引用して本発明に従った
信号圧縮方法を説明している。図2、3、4は、1ビット信号圧縮の3個の方法
の入力/出力関係を示している(グラフ200、202、204で示されている
とおり)。これらのグラフは、所与の入力数値の範囲にわたる信号圧縮器106
による数値出力を記載している。最初の2つのグラフ(200と202)は、従
来の信号圧縮方法を示している一方で、第3(204)は、本発明に従った方法
を示している。入力と出力数値の双方が、信号入力102と信号出力104とし
て2の補数(2’s complement)2進フォーマットで示されているのに、便宜上
10進法のフォーマットで示されていることに留意しなければならない。
【0014】 図2−5(200、202および204)の3つのグラフは4ビット入力信号
の3ビット出力信号に対する1ビット圧縮を示している。当業者であれば、固定
少数点フォーマットの中の1ビットの圧縮の数が、入手できる動的範囲を半分だ
け減らしてることが分かるはずである。例えば、4ビット信号入力102を、“
0”を含む“7”から“−8”の範囲内の整数信号値で示すことができる。3ビ
ット信号入力104を、“0”を含む“3”から“−4”の範囲内の整数信号で
示すことができる。ビット整数の切捨てあるいは丸めは、2の冪(power)で除算
の線形演算に近付ける。平均あるいはこの理想的な予期される偏差はバイアスで
ある。2による除算の線形演算は、破線で、グラフ200、202、204のグ
ラフの中で示されている。しかし2により除算されたときの奇数の入力値は、整
数の出力数値の結果とならないので、出力信号104により正確に示されること
ができない。下記で説明されているとおりの使用される特定の信号圧縮方法は、
どの整数出力値が、これ等の状況で入力値を示すかを決定する。グラフ200、
202、204が、簡単な1ビットの信号圧縮の場合を示しているが、下記の解
説が、一般的にKビット圧縮に言及しており、当業者が、3つのグラフの中で伝
達されている情報を、容易にKビット圧縮に拡大させることができることが分か
るはずであることに留意しなければならない。
【0015】 図2は、従来の1ビット切捨ての入力/出力関係を示している。当業者にとっ
て公知であるとおり、切捨ては、出力信号104を形成するために、単に入力信
号102からKの最下位ビット(小数点以下成分)を切り捨てることを指す。言
い換えれば、出力値は、常に丸めて切り捨てられている。図2の中の実線は、こ
の関係を示している。例えば、“5”(2進0101)の入力値は、理想的に“
2.5”の数値に圧縮される。従来の切捨てでは、入力値の整数成分である出力
値の“2”(2進010)が作られる。当業者であれば、実際の入力値が、常に
理想値と等しいかあるいはそれ以下であるので、従来の切捨てが、平均して負の
バイアスを出力信号104に招くことが分かるはずである。
【0016】 図3は、従来の1ビット丸めの入力/出力関係を示している。従来の丸めに従
って、出力値は、常に切り上げられる、2個の整数の間の中間の理想的数値(即
ち、0.5で終る理想値)で、最も理想値に近い整数と等しい。1ビットの圧縮
に対して、奇数入力値の各々は、従って、理想的な圧縮された数値が、2個の整
数の間の中間であるので、切り上げられる(図3の中の実線により示されている
とおり)。例えば、理想的に“2.5”の数値に圧縮される“5”の入力値は、
“2.5”が、整数“2”と“3”との中間であるので、“3”の出力値に切り
上げられる。正の従来の丸めにより招じ入れられたバイアスを、図3の中で明ら
かに見ることができる、即ち、実際の出力値は、常に理想値と等しいかそれより
大きい。
【0017】 図4は、この発明に従った、“ディザ丸め(dithered rounding)”と呼ばれる
信号圧縮方法の入力/出力関係を示している。ディザ丸めは、従来の丸めのよう
に、理想値に最も近い整数に等しい出力値を作り出す。しかし、ディザ丸めは、
2個の整数の中間の理想的な圧縮値を結果として生ずるこれらの入力値上で、異
なって演算される。ディザ丸めは、これ等の数値の一方の約半分に切上げようと
努力し、他方の半分を切り捨てようと努力する。ディザ丸めは、従来の丸めによ
り招じ入れられた多くのバイアスを取り消す。前記で説明されているとおり、従
来の1ビットの丸めは、各々の奇数入力値に対する常に切上げにより正のバイア
スを出力信号104に招き入れる。ディザ丸めされた1ビットは、図2Cの中で
示されているとおり、一部の奇数入力値(“−7”、“−3”、“1”、および
“5”)に対して切り上げ、他の奇数(“−5”、“−1”、“3”、および“
7”)に対して切り捨てる。従って、平均してディザ丸めは、負のバイアスを招
く入力値が、正のバイアスを招く入力値を取り消すので、バイアスを作り出さな
い(入力値が、入力の動的範囲を横断して均等に配分されていると仮定して)。
【0018】 図2Dは、平均誤差を従来の切捨て、従来の丸め、ディザ丸めに対して比較し
ている表206である。表206は、4ビット数の3ビット数への1ビット圧縮
の結果を示している。誤差は、各々の入力値、と三つの方法の各々に対する全体
の平均誤差に対して計算されている。表の中で見ることができるように、従来の
切捨ては、最も高い平均誤差を生み、従来の切上げは、次に高い平均誤差を有し
、またディザ丸めは、平均誤差が無い。
【0019】 当業者であれば、誤差(“エッジ効果(edge effect)”として知られている)
が、時によっては、2の補数がたとえ圧縮されたとしても、最も大きな正の入力
値(the most positive input value)を招くことが分かるはずである。この理由
は、場合によっては、次の最も高い整数に丸められる最も大きな正数の圧縮され
た数値を示すことが不可能であるからである。例えば、従来の丸めに従って、“
7”の入力値は“4”の入力値となるはずである。しかし3ビットの2の補数フ
ォーマットを使用して“4”を示すことは不可能である。“7”の入力値は、従
って、従来の丸めの規則を破って“3”として示されなければならない。当業者
であれば、エッジ効果を、入力値が最も大きな正数にほとんど近付かないように
入力信号をスケーリングすることで最小限度に抑えることができることが分かる
はずである。しかし、これらのエッジ効果は、1ビット圧縮より大きいもの、に
対してのみ現れる、即ち、圧縮は、エッジ効果の影響を受けない。
【0020】 次のセクションで、本発明に従ったディザ丸めが、詳しく説明される。後のセ
クションは、ディザ丸めを実行する信号圧縮の実施形態を説明している。 III.ディザ丸め 図6は、本発明に従ったディザ丸めを示しているフローチャート300である
。この方法は、入力信号102を、Kビットで圧縮して、入力信号102の数値
的特性を基礎とする出力信号104を形成している。下記の説明は、入力信号1
02と出力信号104が、2の補数フォーマットで示されているものと仮定して
いる。当業者であれば、下記に説明されているアイディアを、容易に他のフォー
マットで示されている2進数字に応用できることが分かるはずである。
【0021】 工程302の中で、ビットは、入力信号102のKビットが“0”かどうか点
検される。入力信号102のKビットが“0”であれば、処理は、工程304に
進む。工程304の中で、入力信号102のN−K最上位ビットは、Kビット出
力104としての出力である。工程302の条件を満たす入力値(即ちこれらの
数値が“0”と等しいK番目ビットを有している)は、理想的な圧縮された数値
が、次の最も近いより低い整数値である数値であり、従って、切り捨てられる。
入力信号1032のビットKが“0”でない場合は、処理は工程306に進む。
【0022】 工程306の中で、ビットは、入力信号102のビットKが“1”であるかど
うか点検される。入力信号102のビットKが“1”であり、またビット1から
K−1までがすべて“0”でない場合は、処理は工程308に進む。工程308
の中で、“1”が入力信号102のN−K最上位のビットに加算され、その結果
、N−Kビット出力信号104として出力される。工程306の中で“1”に対
するテストを満たす入力値は、理想的に圧縮された数値が、次に大きな出力整数
値に最も近い数値であり、従って切り上げられる。
【0023】 入力信号102のビットKが“1”であり、またビット1からK−1がすべて
“0”である場合は、処理は、工程310に進む。これらの入力値は、2個の整
数の中間の理想的な圧縮された数値である。前記で説明されているとおり、本発
明のディザ丸めは、これ等の数値の一方の約半分に切上げようと努力し、他方の
半分を切り捨てようと努力する。丸めは、入力信号102のN−K最上位ビット
(入力信号102の整数成分)が、奇数あるは偶数であるかどうか(即ち、唯一
であると見なされるN−K最上位が、奇数あるいは偶数を示しているかどうか)
ビットを決定することで達成される。当業者であれば、入力値の一方の半分が、
奇数整数成分を有しており、他方の半分が、偶数整数成分を有していることが分
かるはずである。好ましい実施形態の中で、偶数整数成分を有するこれらの入力
値は、切り上げられ、奇数整数成分を有するものは切り捨てられる。
【0024】 別の実施形態の中で、この従来の丸めは、反対となる。即ち、奇数整数成分を
有するこれらの入力値は、切り上げられ、偶数整数成分を有するものは、切り捨
てられる。当業者であれば、これらの2つの実施形態が、別の実施形態と異なり
、好ましい実施形態が、1ビット圧縮に対するエッジ効果の影響を受けないこと
を除いて、ほぼ同じ結果を生むことが分かるはずである。当業者であれば、また
、ハードウエアに対する配慮が、所定の応用の中で実施するのに、どの実施形態
が最も適しているかを左右する可能性があることが分かるはずである。
【0025】 入力信号102の奇数性/偶数性(oddness/evenness)は、できれば、入力信号
102のビットK+1を検査することで決定されることが好ましい。奇数整数成
分は、ビットK+1で“1”により示されるのに対して、偶数整数成分は、“0
”により示される。当業者であれば、奇数性/偶数性を、他の方法で決定できる
ことが分かるはずである。
【0026】 偶数の場合は、処理は、“1”が入力信号102のN−K最上位ビットに加算
され、また結果がN−Kビット出力信号104としての出力である工程312に
進む。奇数の場合は、処理は、入力信号102のN−K最上位ビットがN−Kビ
ット出力信号104として出力される工程314に進む。その結果、工程310
で試験された入力値の一方のほぼ半分は、切り上げられ、他方の半分は切り捨て
られる。
【0027】 ディザ丸めを使用する信号圧縮器106複数の実施形態が、次に説明される。
Kビット丸めを実行する実施形態が、初めに説明され、次に、より複雑な1ビッ
トディザ丸めの実施形態が説明される。当業者であれば、下記に記載されている
説明が、等しくハードウエアとソフトウエアあるいは双方の組み合せに応用され
ることが分かるはずである。例えば、汎用ハードウエア装置あるいはコンピュー
タをプログラミングして、必要とする機能を発揮させること、あるいは、特定の
ハードウエアを使用することで、加算器を実施することができる。 IV.Kビットディザ丸めの実施形態 図7は、Kビットディザ丸め信号圧縮器402を示している。信号圧縮器40
2は、KビットによりNビット入力信号102を圧縮して、N−Kビット出力信
号104を形成する。圧縮Kの量は、1ビットからN−1ビットまで変化するこ
とがある。信号圧縮器402は、できれば、ORゲート(410と416)、A
NDゲート408、NORゲート412、加算器406を含むことが好ましい。
前記で説明されているとおり、当業者であれば、信号圧縮器402の成分が、ハ
ードウエアの用語(例えばゲート)で説明されていても、これらの機能を、ソフ
トウエアあるいはハードウエアとソフトウエアの組み合せの中で等しく発揮させ
ることができることが分かるはずである。更に、当業者であれば、同等の機能を
発揮する代案としてのデジタル論理あるいは演算を、本明細書の中の論理と取っ
て代わらせることができることが分かるはずである。
【0028】 加算器406は、選択的に、“1”を入力信号102(即ちN−K最上位ビッ
ト)の整数成分に加算して、N−Kビット出力信号104を形成する。信号圧縮
器402の成分の残りは、“1”を加えるかどうかを決定する。前記で説明され
ているとおり、“1”は切り上げられるべき整数成分に対して加算される。
【0029】 ANDゲート408は、入力の双方が“1”、即ち入力信号102とORゲー
ト410の出力のビットKである場合は、“1”のみを加算器406に出力する
。従って、入力信号102のビットKが“1”でない場合は、入力信号102の
整数成分は、切り上げられない。
【0030】 ORゲート410は、入力の何れかが“1”である場合は、“1”を出力する
。従って、その入力の一つは、入力信号102の整数成分が切り上げられるため
に、“1”のはずである。ORゲート410は、入力信号102のK−1最下位
ビットの何れかが“1”であるかどうかを決定する。これらのビットの何れかが
“1”である場合は、ORゲート416は“1”を出力して、ORゲート410
がまた“1”を出力させるようにする。あるいは、入力信号102のK−1最下
位ビットが“0”である場合は、ORゲート416の出力は“0”である。K+
1ビットがまた“0”である場合は、NORゲート412の出力は“1”であり
、ORゲート410が“1”を出力させるようにする。
【0031】 信号圧縮器402は、K−ビット信号圧縮を実施するための好ましい実施形態
である。下記のセクションは、1ビットディザ丸めのための代案としての実施形
態を説明している。 V.1ビットディザ丸め実施形態 図8は、1ビットディザ丸め信号圧縮器502を示している。信号圧縮器50
2は、単一ビットによりN−ビット入力信号102を圧縮して、N−1ビット出
力信号104を形成する。信号圧縮器502は、ORゲート504から成る。当
業者であれば、単一ビットの圧縮のみしか必要としない複雑さの著しい削減が得
られることが分かるはずである。従って、圧縮器502は、1ビット圧縮が必要
である状況では、好ましい実施形態である。
【0032】 ORゲート504は、選択的に、“1”を入力信号102(即ち、N−1の最
上位ビット)の整数成分に加算して、N−1ビット出力信号104を形成する。
ORゲート504は、入力信号102のビット1あるいはビット2の何れかが“
1”である場合、“1”を出力する。従って、入力信号102の整数成分は、ビ
ット2が“0”であり、またビット2が“1”である場合に切り上げられる。
【0033】 VI.結論 好ましい実施形態の前記の説明は、当業者が、本発明を利用できるように行わ
れた。本発明が、特に本発明の好ましい実施形態を引用して示され説明されてき
たが、当業者であれば、種々の形態と詳細の変更を、本発明の精神と範囲を逸脱
することなく行うことができることが分かるはずである。
【図面の簡単な説明】
【図1】 Kビットによる信号圧縮を示す図。
【図2】 従来の切捨ての入力/出力の関係を示しているグラフ。
【図3】 従来の丸めの入力/出力の関係を示しているグラフ。
【図4】 本発明に従ったディザ丸めの入力/出力の関係を示しているグラフ。
【図5】 従来の丸めにより生成された平均丸め誤差を、1ビットの従来の切捨てとまた
ディザ丸めと比較している表。
【図6】 Kビットのディザ丸めを示すフローチャート。
【図7】 Kビットのディザ丸めを実行するための回路の好ましい実施形態を示している
グラフ。
【図8】 1ビットのディザ丸めを実行するための回路の好ましい実施形態を示している
グラフ。
───────────────────────────────────────────────────── フロントページの続き (81)指定国 EP(AT,BE,CH,CY, DE,DK,ES,FI,FR,GB,GR,IE,I T,LU,MC,NL,PT,SE),OA(BF,BJ ,CF,CG,CI,CM,GA,GN,GW,ML, MR,NE,SN,TD,TG),AP(GH,GM,K E,LS,MW,SD,SL,SZ,UG,ZW),E A(AM,AZ,BY,KG,KZ,MD,RU,TJ ,TM),AE,AL,AM,AT,AU,AZ,BA ,BB,BG,BR,BY,CA,CH,CN,CU, CZ,DE,DK,EE,ES,FI,GB,GD,G E,GH,GM,HR,HU,ID,IL,IN,IS ,JP,KE,KG,KP,KR,KZ,LC,LK, LR,LS,LT,LU,LV,MD,MG,MK,M N,MW,MX,NO,NZ,PL,PT,RO,RU ,SD,SE,SG,SI,SK,SL,TJ,TM, TR,TT,UA,UG,UZ,VN,YU,ZA,Z W (72)発明者 レビン、ジェフリー・エー アメリカ合衆国 カリフォルニア州 92130 サン・ディエゴ、ハーウィック・ レーン 13063

Claims (6)

    【特許請求の範囲】
  1. 【請求項1】下記工程を具備する、KビットによりNビット信号を圧縮する
    方法、ここで、該信号は2の補数フォーマットで表現され、そしてK<Nであり
    、該信号のビット1は最下位ビットであり、そして該信号のビットNは最上位ビ
    ットである: 該信号のビットKが“0”に等しい場合、該信号のN-K最上位ビットを 出力する; 該信号のビットKが“1”に等しい場合及び該信号のビットK-1からビット
    1までが“0”に全て等しくない場合、該信号のN-K最上位ビットに“1”を
    加えそして前記加えた結果を出力する;及び 該信号のビットKが“1”に等しい場合及び該信号のビットK-1からビット
    1までが全て“0”に等しい場合、該信号のN-K最上位ビットの奇数性或いは
    偶数性を決定し、そして偶数の場合、該信号のN-K最上位ビットに“1”を加
    え、前記加えた結果を出力する、そして偶数の場合、該信号のN-K最上位ビッ
    トを出力する。
  2. 【請求項2】奇数性或いは偶数性を決定する前記工程は、該信号のビットK
    +1ビットを検査することを具備する、ここでビットK+1が“1”に等しい場
    合該信号は奇数であり、ビットK+1が“0”に等しい場合該信号は偶数である
    、請求項1の方法。
  3. 【請求項3】下記を具備する,KビットによりN-ビット信号を圧縮するシ
    ステム、ここで該信号は2の補数フォーマットで表現され、そしてK<Nであり
    、そして該信号のビット1は最下位ビットでありそして該信号のビットNは最上
    位ビットである: 該信号のビットKが“0”に等しいか否かを決定し、等しい場合、該信号のN
    -K最上位ビットを出力するための第一の手段; 該信号のビットKが“1”に等しいか否かを決定し、等しい場合、該信号のビ
    ットK-1からビット1までが全て“0”に等しくないか否かを決定し、等しく
    ない場合、該信号のN-K最上位ビットに“1”を加え、そして前記加えた結果
    を出力するための第二の手段;及び 該信号のビットKが“1”に等しいか否かを決定し、等しい場合、該信号のビ
    ットK-1からビット1までが全て“0”に等しいか否かを決定し、等しい場合
    、該信号のN-K最上位ビットの奇数性或いは偶数性を決定し、偶数の場合、該
    信号のN-K最上位ビットに“1”を加えて前記加えた結果を出力し、奇数の場
    合、該信号のN-K最上位ビットを出力するための第三の手段。
  4. 【請求項4】奇数性或いは偶数性を決定する前記第三の手段は、該信号のビ
    ットK+1ビットビットを検査ための手段、ここでビットK+1が“1”に等し
    い場合該信号は奇数であり、ビットK+1が“0”に等しい場合該信号は偶数で
    ある、を具備する、請求項3のシステム。
  5. 【請求項5】下記を具備する,KビットによりN-ビット信号を圧縮するシ
    ステム、ここで該信号は2の補数フォーマットで表現され、そしてK<Nであり
    、そして該信号のビット1は最下位ビットでありそして該信号のビットNは最上
    位ビットである: 該信号のビット1からK−1までの一つ以上が“1”に等しいか否かを決定す
    るための第一のOR手段、ここで前記第一のOR手段は第一の出力を有する; 前記第一の出力と該信号のビットK+1が共に“0”であるか否かを決定する
    ための第一のNOR手段、ここで前記第一のNOR手段は第二の出力を有する; 前記第一の出力又は前記第二の出力のいずれかが“1”であるか否かを決定す
    るための第二のOR手段、ここで前記第二のOR手段は第三の出力を有する; 前記第三の出力と該信号のビットKとが共に“1”であるか否かを決定するた
    めの第二のAND手段、ここで前記第二のAND手段は第四の出力を有する;及
    び 該信号のN−K最上位ビットに前記第四の出力を加え、前記加えられた結果を
    出力するための加算器。
  6. 【請求項6】下記を具備する、1ビットによりN−ビット信号を圧縮するた
    めのシステム、ここで該信号は2の補数フォーマットで表現され、そしてここで
    該信号のビット1は最下位ビットであり、そして該信号のビットNは最上位ビッ
    トである: 該信号のビット1又は該信号のビット2のいずれかが“1”に等しいか否かを
    決定するためのOR手段、ここで前記OR手段は出力を有する;及び 該信号のN―1最上位ビットに前記AND手段の出力を加え、そして前記加え
    た結果を出力するための加算器。
JP2000565606A 1998-08-14 1999-08-13 バイアスを招かないで固定少数点フォーマットに信号を圧縮するための方法と装置 Expired - Fee Related JP4354648B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US09/134,248 US6148317A (en) 1998-08-14 1998-08-14 Method and apparatus for compressing signals in a fixed point format without introducing a bias
US09/134,248 1998-08-14
PCT/US1999/018546 WO2000010253A2 (en) 1998-08-14 1999-08-13 A method and apparatus for compressing signals in a fixed point format without introducing a bias

Publications (3)

Publication Number Publication Date
JP2002523913A true JP2002523913A (ja) 2002-07-30
JP2002523913A5 JP2002523913A5 (ja) 2006-10-05
JP4354648B2 JP4354648B2 (ja) 2009-10-28

Family

ID=22462453

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2000565606A Expired - Fee Related JP4354648B2 (ja) 1998-08-14 1999-08-13 バイアスを招かないで固定少数点フォーマットに信号を圧縮するための方法と装置

Country Status (11)

Country Link
US (1) US6148317A (ja)
EP (1) EP1110325B1 (ja)
JP (1) JP4354648B2 (ja)
KR (1) KR20010072504A (ja)
CN (1) CN1321269A (ja)
AT (1) ATE270009T1 (ja)
AU (1) AU767325B2 (ja)
CA (1) CA2340421A1 (ja)
DE (1) DE69918313T2 (ja)
RU (1) RU2233024C2 (ja)
WO (1) WO2000010253A2 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6243728B1 (en) * 1999-07-12 2001-06-05 Sony Corporation Of Japan Partitioned shift right logic circuit having rounding support
GB0031771D0 (en) * 2000-12-29 2001-02-07 Lsi Logic Corp Bit reduction using dither,rounding and error feedback
JP3755602B2 (ja) * 2003-03-04 2006-03-15 ソニー株式会社 信号処理装置、信用処理装置用プログラム、信号処理装置用プログラムを記録した記録媒体、及び信号処理方法
US8301803B2 (en) * 2009-10-23 2012-10-30 Samplify Systems, Inc. Block floating point compression of signal data

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3199371B2 (ja) * 1990-07-30 2001-08-20 松下電器産業株式会社 丸め装置
US5214598A (en) * 1990-11-09 1993-05-25 Adaptive Solutions, Inc. Unbiased bit disposal apparatus and method
EP0511971A4 (en) * 1990-11-09 1993-08-11 Adaptive Solutions, Inc. Unbiased bit disposal apparatus and method
US5424967A (en) * 1993-11-29 1995-06-13 Hewlett-Packard Company Shift and rounding circuit and method
US5696710A (en) * 1995-12-29 1997-12-09 Thomson Consumer Electronics, Inc. Apparatus for symmetrically reducing N least significant bits of an M-bit digital signal

Also Published As

Publication number Publication date
ATE270009T1 (de) 2004-07-15
AU5486699A (en) 2000-03-06
CA2340421A1 (en) 2000-02-24
EP1110325B1 (en) 2004-06-23
WO2000010253A3 (en) 2000-05-18
JP4354648B2 (ja) 2009-10-28
RU2233024C2 (ru) 2004-07-20
DE69918313T2 (de) 2005-09-29
WO2000010253A2 (en) 2000-02-24
EP1110325A2 (en) 2001-06-27
KR20010072504A (ko) 2001-07-31
US6148317A (en) 2000-11-14
CN1321269A (zh) 2001-11-07
DE69918313D1 (de) 2004-07-29
AU767325B2 (en) 2003-11-06

Similar Documents

Publication Publication Date Title
US4758972A (en) Precision rounding in a floating point arithmetic unit
US6175851B1 (en) Fast adder/subtractor for signed floating point numbers
US5930159A (en) Right-shifting an integer operand and rounding a fractional intermediate result to obtain a rounded integer result
US20020129075A1 (en) Apparatus and method of performing addition and rounding operation in parallel for floating-point arithmetic logical unit
JPH08339291A (ja) 最大値選択回路
JP2002523913A (ja) バイアスを招かないで固定少数点フォーマットに信号を圧縮するための方法と装置
KR20010042988A (ko) 음성 신호를 디코딩하기 위한 방법 및 장치
JP3356613B2 (ja) 加算方法および加算器
EP0539010A2 (en) Method and device for generating sum information/rounding control signal
US5357457A (en) Adder with carry look ahead circuit
US6134572A (en) Galois Field arithmetic apparatus and method
TW425526B (en) Carry increment adder using clock phase
EP0332215A2 (en) Operation circuit based on floating-point representation
US20020059351A1 (en) Digital filter
EP0568373A2 (en) Parallelized magnitude comparator
US6044063A (en) Unsigned integer comparator
US6044391A (en) Method of generating the sticky-bit from the input operands
US6343303B1 (en) Method of determining a scaling factor
JP3693748B2 (ja) 制御可能な幅のorゲート
US6683530B1 (en) Method and apparatus for performing a floating point compare operation
GB2275355A (en) Detection of exponent underflow and overflow in a floating point adder
US11461625B1 (en) Tensor compression
US6360242B1 (en) Summing circuit with high precision
JP2000010763A (ja) 除算回路
US20040167949A1 (en) Data saturation manager and corresponding method

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060801

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060801

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20081110

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20081118

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20090218

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20090225

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090518

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090630

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090730

R150 Certificate of patent or registration of utility model

Ref document number: 4354648

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120807

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130807

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees