JP2006048590A - 正規化処理装置及び正規化処理方法 - Google Patents
正規化処理装置及び正規化処理方法 Download PDFInfo
- Publication number
- JP2006048590A JP2006048590A JP2004232194A JP2004232194A JP2006048590A JP 2006048590 A JP2006048590 A JP 2006048590A JP 2004232194 A JP2004232194 A JP 2004232194A JP 2004232194 A JP2004232194 A JP 2004232194A JP 2006048590 A JP2006048590 A JP 2006048590A
- Authority
- JP
- Japan
- Prior art keywords
- normalization
- range
- input data
- value
- normalization range
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Abstract
【課題】 入力データのうち、最大値から離れたデータの情報を失うことなく、限られたビット数で最大値正規化処理を行うことができる正規化処理装置及び正規化処理方法を提供する。
【解決手段】 正規化範囲判定部103は、平均・標準偏差計算部102によって算出された入力データの平均値及び標準偏差値に基づいて、正規化演算の対象とする入力データの範囲を決定し、決定した範囲を正規化範囲として、入力データが正規化範囲内であるか正規化範囲外であるかを判定する。正規化演算部104は、正規化範囲内において絶対値が最大となる入力データを基準とし、正規化範囲内であると判定された入力データを正規化し、クリッピング処理部105は、正規化範囲外であると判定された入力データを正規化範囲内で正規化範囲外との境界となる値に張り付かせるクリッピング処理を行う。
【選択図】 図1
【解決手段】 正規化範囲判定部103は、平均・標準偏差計算部102によって算出された入力データの平均値及び標準偏差値に基づいて、正規化演算の対象とする入力データの範囲を決定し、決定した範囲を正規化範囲として、入力データが正規化範囲内であるか正規化範囲外であるかを判定する。正規化演算部104は、正規化範囲内において絶対値が最大となる入力データを基準とし、正規化範囲内であると判定された入力データを正規化し、クリッピング処理部105は、正規化範囲外であると判定された入力データを正規化範囲内で正規化範囲外との境界となる値に張り付かせるクリッピング処理を行う。
【選択図】 図1
Description
本発明は、2進浮動小数点データを限られたビット数で最大値(最小指数値)正規化処理を行う正規化処理装置及び正規化処理方法に関する。
一般に、コンピュータ等の演算装置で処理される数値は、「0」と「1」の2進数であり、この2進数には、固定小数点数と浮動小数点数とがある。科学技術計算では、計算精度が高く、処理可能な数値範囲が広いことなどが要求されており、このような理由から浮動小数点数が用いられることが多い。
浮動小数点数は、1つの数値を符号部、指数部、仮数部で表現するものであり、データフォーマットが定められている。そのため、仮数部の上位に無用な「0」が並ばないように桁合わせを行って、小数点位置を調整する正規化処理が必要となる。
このような浮動小数点数を用いた演算について特許文献1が知られている。特許文献1には、仮数オーバーフローの発生を検出し、仮数オーバーフローの発生の有無に応じた丸め処理を正規化処理前に行い、丸め処理によって発生する仮数オーバーフローも含めて正規化処理を行うことにより、処理段数の削減及び処理の高速化を図る技術が開示されている。
特開平1−171023号公報
しかしながら、上述した特許文献1に開示された技術では、入力データの最大値をクリッピングさせることなく出力値を表現できるものの、入力データの最大値(絶対値の最大値)が他のデータから飛び抜けた値であると、その値を基準に正規化が行われるため、絶対値の小さい入力データを適切な出力値として表現できない場合がある。
以下、具体例を挙げて説明する。例えば、入力データを「0.001」「0.001」「0.0001」「0.00005」とし、出力データを8ビットの固定小数点数に最大値正規化する場合を考える。この中で絶対値が最大となる入力データは「0.001」であり、この値が出力の最大値「127」になるよう全ての入力データを正規化する。従って、出力データは、「127」「127」「12」「6」となる。
一方、入力データを「0.1」「0.001」「0.0001」「0.00005」とし、出力データを8ビットの固定小数点数に最大値正規化した場合、この中で絶対値が最大となる入力データは「0.1」なので、出力データは「127」「1」「0」「0」となり、「0.001」「0.00005」は適切に表現できない。つまり、最大値データを基準に考えた場合には、その127分の1以下の数値については正確に表現することができなくなる。
このように入力データを限られたビット数で最大値正規化する場合、絶対値が最大となるデータが他のデータから飛び抜けて大きいと、最大値から離れた0付近のデータは「0」以外で表現できなくなるため、分布上「0」付近のデータが集中している場合にはそれら多くのデータが失われてしまう。
本発明はかかる点に鑑みてなされたものであり、入力データのうち、最大値から離れたデータの情報を失うことなく、限られたビット数で最大値正規化処理を行う正規化処理装置及び正規化処理方法を提供することを目的とする。
本発明の正規化処理装置は、入力データの統計分布を示す統計データを取得する統計データ取得手段と、前記統計データに基づいて、正規化演算の対象とする入力データの範囲を決定し、決定した範囲を正規化範囲として、入力データが正規化範囲内であるか正規化範囲外であるかを判定する正規化範囲判定手段と、正規化範囲内において絶対値が最大となる入力データを基準とし、正規化範囲内であると判定された入力データを正規化する正規化演算手段と、正規化範囲外であると判定された入力データを正規化範囲内で正規化範囲外との境界となる値に張り付かせるクリッピング処理を行うクリッピング処理手段と、を具備する構成を採る。
この構成によれば、入力データに飛び抜けた値がある場合でも、飛び抜けた値を正規化範囲外の入力データとしてクリッピングし、正規化範囲内の入力データを正規化することにより、失う情報量を最小限に抑えることができ、正規化処理を精度よく行うことができる。
本発明の正規化処理装置は、上記構成において、前記統計データに基づいて第1正規化範囲を決定し、入力データが第1正規化範囲内であるか第1正規化範囲外であるかを仮判定する正規化範囲仮判定手段と、第1正規化範囲内であると仮判定された入力データのうち、絶対値が上位となる入力データを検出する上位データ検出手段と、を具備し、前記正規化範囲判定手段は、絶対値が上位となる入力データを除いた入力データの統計データに基づいて第2正規化範囲を決定し、前記正規化範囲仮判定手段によって第2正規化範囲内であると仮判定され、かつ、前記上位データ検出手段によって検出された絶対値が上位となる入力データを除いた入力データが第2正規化範囲内であるか第2正規化範囲外であるかを判定する構成を採る。
この構成によれば、第1正規化範囲内の入力データのうち、絶対値が上位となる入力データを検出するため、統計データだけでは判定できない飛び抜けた値を検出することができ、正規化の精度をより向上させることができる。
本発明の正規化処理装置は、上記構成において、前記クリッピング処理手段が、前記正規化範囲仮判定手段によって第1正規化範囲外であると仮判定された入力データ及び前記上位データ検出手段によって検出された絶対値が上位となる入力データを第2正規化範囲内で第2正規化範囲外との境界となる値にクリッピングする構成を採る。
この構成によれば、統計データだけでは判定できない飛び抜けた値をクリッピングすることができるので、飛び抜けた値を基準とする正規化を行わずに済むので、失う情報量を抑えることができる。
本発明の正規化処理装置は、上記構成において、前記統計データ取得手段が、入力データの平均値及び標準偏差値を算出する構成を採る。
この構成によれば、統計データとして平均値及び標準偏差値を用いることにより、統計データを容易に算出することができる。
本発明の正規化処理装置は、上記構成において、前記正規化範囲判定手段が、平均値を中心として標準偏差値の4倍の範囲を正規化範囲と決定する構成を採る。
この構成によれば、正規化範囲内と判定される入力データを全体の95%とすることができ、これらの入力データは正規化を行っても失われないので、正規化処理を精度よく行うことができる。
本発明の正規化処理方法は、入力データの統計分布を示す統計データを取得する統計データ取得工程と、前記統計データに基づいて、正規化演算の対象とする入力データの範囲を決定し、決定した範囲を正規化範囲として、入力データが正規化範囲内であるか正規化範囲外であるかを判定する正規化範囲判定工程と、正規化範囲内において絶対値が最大となる入力データを基準とし、正規化範囲内であると判定された入力データを正規化する正規化演算工程と、正規化範囲外であると判定された入力データを正規化範囲内で正規化範囲外との境界となる値に張り付かせるクリッピング処理を行うクリッピング処理工程と、を具備するようにした。
この方法によれば、入力データに飛び抜けた値がある場合でも、飛び抜けた値を正規化範囲外の入力データとしてクリッピングし、正規化範囲内の入力データを正規化することにより、失う情報量を最小限に抑えることができ、正規化処理を精度よく行うことができる。
本発明によれば、入力データのうち、最大値から離れたデータの情報を失うことなく、限られたビット数で最大値正規化処理を行う正規化処理装置及び正規化処理方法を提供することができる。
以下、本発明の実施の形態について、図面を参照して詳細に説明する。なお、実施の形態において、同一機能を有する構成には同一符号を付し、重複する説明については省略する。
(実施の形態1)
図1は、本発明の実施の形態1に係る正規化処理装置100の構成を示す。この図において、データバッファ101は、入力データを一時保持し、一定のデータ量を保持したら、保持した入力データを平均・標準偏差計算部102及び正規化範囲判定部103に出力する。ここで、入力データのデータフォーマットを図2に示す。図2では、符号部Sが入力データの符号(正負)を1ビットで表し、「0」で正の数を示し、「1」で負の数を示す。また、指数部IN_e(6)が指数の符号を含む指数を6ビットで表し、仮数部IN_m(8)が仮数部の8ビットを表すことを示している。
図1は、本発明の実施の形態1に係る正規化処理装置100の構成を示す。この図において、データバッファ101は、入力データを一時保持し、一定のデータ量を保持したら、保持した入力データを平均・標準偏差計算部102及び正規化範囲判定部103に出力する。ここで、入力データのデータフォーマットを図2に示す。図2では、符号部Sが入力データの符号(正負)を1ビットで表し、「0」で正の数を示し、「1」で負の数を示す。また、指数部IN_e(6)が指数の符号を含む指数を6ビットで表し、仮数部IN_m(8)が仮数部の8ビットを表すことを示している。
統計データ取得手段としての平均・標準偏差計算部102は、データバッファ101から出力された入力データの統計データである平均値μと標準偏差値σとを求める。求めた平均値μと標準偏差値σとを正規化範囲判定部103に出力する。
正規化範囲判定部103は、平均・標準偏差計算部102から出力された平均値μと標準偏差値σとから正規化の対象とする入力データの範囲(以下、「正規化範囲」とうい)Xをμ−2σ<X<μ+2σとし、データバッファ101から出力された入力データが正規化範囲に入るか否かを判定する。ここで、入力データと正規化範囲の関係を図3に示す。正規化範囲Xをμ−2σ<X<μ+2σ(平均値を中心として標準偏差値の4倍の範囲)とすると、正規化範囲内のデータは全体の95%となり、正規化範囲外のデータは全体の5%となる。正規化範囲判定部103は、正規化範囲内の入力データを正規化演算部104に出力し、また、正規化範囲外の入力データをクリッピング処理部105に出力する。
正規化演算部104は、正規化範囲判定部103から出力された入力データを正規化し、正規化されたデータ(以下、「正規化データ」という)を得る。特に、入力データが正の値で絶対値最大となる場合には、その値の正規化データを「127」とし、入力データが負の値で絶対値最大となる場合には、その値の正規化データを「−128」とする。正規化演算部104は、入力データの絶対値が最大となるデータを基準にその他の入力データを正規化し、正規化データを出力する。
クリッピング処理部105は、正規化範囲判定部103において正規化範囲外と判定された入力データを正規化範囲内で正規化範囲外との境界となる値(正規化後の最大値)に張り付けるクリッピング処理を行う。すなわち、入力データが正の値であれば、その値を「127」にクリッピングし、入力データが負の値であれば、その値を「−128」にクリッピングし、正規化データとする。言い換えれば、正規化範囲外の入力データの絶対値を正規化範囲内に含まれる入力データの絶対値が最大となる値に置き換えることになる。
ちなみに、正規化データのデータフォーマットは図4に示すように固定小数点数の表現形式であり、符号部Sが正規化データの符号(正負)を1ビットで表し、「0」で正の数を示し、「1」で負の数を示す。また、仮数部OUT_m(8)が仮数部の8ビットを表す。
次に、図1に示す正規化処理装置100の動作手順について図5を用いて説明する。図5において、ステップ(以下、「ST」と省略する)111では、平均・標準偏差計算部102が下記の式(1)に示す計算式を用いて入力データの平均値を算出し、ST112では、下記の式(2)に示す計算式を用いて入力データの標準偏差を算出する。
ST113では、正規化範囲判定部103が、基準指数値(Min_exp)を6ビットで最大の値(2進数では111111、16進数では0x3F)に設定し、ST114では、入力データ番号i(0<=i<N:Nは入力データ数)を0に設定する。
ST115では、入力データが正規化範囲に含まれるか否かを正規化範囲判定部103が判定する。具体的には、μ−2σより大きくμ+2σ未満の範囲に入力データが含まれるか否かが判定される。これを式で示すと以下のようになる。
ST115において、正規化範囲に含まれる(YES)と判定されればST116に移行し、正規化範囲に含まれない(NO)と判定されればST124に移行する。
ST116では、ST115において正規化範囲に含まれると判定された入力データの指数値(IN_e[i])が基準指数値(Min_exp)より小さいか否かを正規化範囲判定部103が判定する。入力データの指数値(IN_e[i])が基準指数値(Min_exp)より小さい(YES)と判定されればST117に移行し、小さくない(NO)と判定されればST118に移行する。
ST117では、ST116において基準指数値(Min_exp)より小さいと判定された指数値(IN_e[i])を基準指数値(Min_exp)に更新する。
ST118では、入力データ番号iをインクリメントし、ST119では、全ての入力データについて正規化範囲判定を行ったか否かが判定される。すなわち、i=N−1である(YES)と判定されればST120に移行し、i=N−1ではない(NO)と判定されればST115に戻り、i=N−1であると判定されるまでST115からST119までの処理が繰り返される。ST115からST119までの処理が繰り返されることにより、全入力データのうち最小の指数値を有する入力データが求まる。ちなみに、ここでの2進浮動小数点数は、仮数部の一番左(符号を除く。この例では、7ビット目)に1が立つように指数値が計算されるので、指数値の大小によって入力データの大小が決まる。
ST120では、正規化演算部104が入力データ番号iを0に設定し、ST121では、入力データの正規化を行い、正規化データ(OUT_m[i])を出力する。なお、正規化範囲内であると判定された入力データについては限られたビット数で表現することができるので、正規化範囲内の入力データは失われない。ST121における正規化は以下の式で表すことができる。
ST122では、入力データ番号iをインクリメントし、ST123では、ST115において正規化範囲内と判定された全ての入力データについて正規化を行ったか否かを正規化演算部104が判定する。すなわち、i=N−1である(YES)と判定されれば、正規化を行うべき入力データは存在しないので、正規化処理装置100における一連の動作を終了し、i=N−1ではない(NO)と判定されれば、正規化を行うべき入力データが存在するので、ST121に戻り、i=N−1であると判定されるまでST121からST123までの処理が繰り返される。
ST124では、ST115において正規化範囲外であると判定された入力データの符号(符号部S)が正(S=0)であるか否かを正規化範囲判定部103が判定する。入力データの符号が正(YES)であると判定されればST125に移行し、負(NO)であると判定されればST126に移行する。
ST125では、クリッピング処理部105が正規化範囲外である正の入力データを「127」にクリッピングし、正規化データとして出力する。また、ST126では、クリッピング処理部105が正規化範囲外である負の入力データを「−128」にクリッピングし、正規化データとして出力する。ST125又はST126の処理を経て、正規化処理装置100における一連の動作を終了する。
このように実施の形態1によれば、入力データの統計分布に基づいて、入力データのうち正規化の対象とする範囲である正規化範囲を求め、正規化範囲外のデータを正規化範囲内の正規化後データ最大値にクリッピングし、正規化範囲内のデータを最大値正規化することにより、失う情報量を最小限に抑えることができ、限られたビット数で最大値正規化処理を精度よく行うことができる。
(実施の形態2)
図6は、本発明の実施の形態2に係る正規化処理装置130の構成を示す。この図において、正規化範囲仮判定部131は、平均・標準偏差計算部102から出力された平均値μと標準偏差値σとから正規化の対象とするデータの範囲X(正規化範囲)をμ−2σ<X<μ+2σとし、データバッファ101から出力された入力データが正規化範囲に入るか否かを仮判定する。正規化範囲仮判定部131は、正規化範囲内の入力データを指数値比較部132に出力し、また、正規化範囲外の入力データをクリッピング処理部105に出力する。
図6は、本発明の実施の形態2に係る正規化処理装置130の構成を示す。この図において、正規化範囲仮判定部131は、平均・標準偏差計算部102から出力された平均値μと標準偏差値σとから正規化の対象とするデータの範囲X(正規化範囲)をμ−2σ<X<μ+2σとし、データバッファ101から出力された入力データが正規化範囲に入るか否かを仮判定する。正規化範囲仮判定部131は、正規化範囲内の入力データを指数値比較部132に出力し、また、正規化範囲外の入力データをクリッピング処理部105に出力する。
上位データ検出手段としての指数値比較部132は、正規化範囲仮判定部131において正規化範囲内と判定された入力データの指数値を比較し、指数値が最も小さい第1最小指数値と第1最小指数値より大きい直近の指数値を有する第2最小指数値を検出する。すなわち、絶対値が上位となる入力データを検出する。ここで、上位いくつの入力データを検出するかは適宜設定しうるものとする。
指数値比較部132で検出された第1最小指数値及び第2最小指数値は、クリッピング処理部105に出力され、検出された第1最小指数値及び第2最小指数値を除き、指数値比較された入力データが平均・標準偏差計算部102及び正規化範囲判定部103に出力される。
平均・標準偏差計算部102は、指数値比較部132から出力された入力データ、すなわち、正規化範囲仮判定部131において正規化範囲内と判定された入力データのうち、第1最小指数値及び第2最小指数値を除いた入力データの平均値μ’と標準偏差値σ’を求め、求めた平均値μ’と標準偏差値σ’とを正規化範囲判定部103に出力する。
正規化範囲判定部103は、平均・標準偏差計算部102から出力された平均値μ’と標準偏差値σ’とから正規化の対象とするデータの範囲X’(正規化範囲)をμ’−2σ’<X’<μ’+2σ’とし、指数値比較部132から出力された入力データが正規化範囲に入るか否かを判定する。
クリッピング処理部105は、正規化範囲仮判定部131において正規化範囲外と判定された入力データ、正規化範囲判定部103において正規化範囲外と判定された入力データ及び指数値比較部132において検出された第1最小指数値及び第2最小指数値を正規化データの最大値に張り付けるクリッピング処理を行う。
次に、図6に示す正規化処理装置130の動作手順について図7(a)及び(b)を用いて説明する。ただし、図7が図5と共通する動作については図7と同一の符号を付し、その詳しい説明は省略する。図7(a)において、ST141では、指数値比較部132が第1最小指数値(1st_min_exp)及び第2最小指数値(2nd_min_exp)を0に設定し、ST142では、入力データ番号i(0<=i<N’:N’はST115において正規化範囲内であると仮判定された入力データ数)を0に設定する。
ST143では、入力データの指数値(In_exp)が第2最小指数値(2nd_min_exp)より小さいか否かを指数値比較部132が判定する。小さい(YES)と判定されればST144に移行し、小さくない(NO)と判定されればST147に移行する。
ST144では、指数値比較部132が入力データの指数値(In_exp)を第2最小指数値(2nd_min_exp)に変更し、ST145では、第2最小指数値が第1最小指数値より小さいか否かが判定される。小さい(YES)と判定されればST146に移行し、小さくない(NO)と判定されればST147に移行する。
ST146では、ST145において大小比較された第1最小指数値と第2最小指数値とを指数値比較部132が入れ替える。すなわち、ST145において第1最小指数値より小さいと判定された第2最小指数値を新たに第1最小指数値に変更し、元の第1最小指数値を新たな第2最小指数値に変更する。
ST147では、指数値比較部132が入力データ番号iをインクリメントし、ST148では、ST115において正規化範囲内であると仮判定された入力データの全てについて指数値比較を行ったか否かが判定される。具体的には、i=N’−1である(YES)と判定されればST149に移行し、i=N’−1ではない(NO)と判定されればST143に戻り、i=N’−1であると判定されるまでST143からST148までの処理が繰り返される。
ST149では、第1最小指数値が正の数であるか否かをクリッピング処理部105が判定し、正(YES)であると判定すればST150において第1最小指数値を「127」にクリッピングし、負(NO)であると判定すればST151において第1最小指数値を「−128」にクリッピングし、正規化データとして出力する。ST150又はST151の処理を経て、ST152に移行する。
ST152では、第2最小指数値が正の数であるか否かをクリッピング処理部105が判定し、正(YES)であると判定すればST153において第2最小指数値を「127」にクリッピングし、負(NO)であると判定すればST154において第2最小指数値を「−128」にクリッピングし、正規化データとして出力する。ST153又はST154の処理を経て、図7(b)に示すST155に移行する。
ST155では、ST115において正規化範囲内であると仮判定された入力データのうち、ST143〜ST148において最終的に第1最小指数値及び第2最小指数値と判定された入力データを除いた入力データ(この入力データ数をN”とする)について、平均値μ’を算出し、ST156では、同じく標準偏差値σ’を算出する。
ST157では、基準指数値(Min_exp)を6ビットで最大の値(2進数では111111、16進数では0x3F)に設定し、ST158では、入力データ番号i(0<=i<N”)を0に設定する。
ST159では、入力データが正規化範囲に含まれるか否かを判定する。具体的には、μ’−2σ’より大きくμ’+2σ’未満の範囲に入力データが含まれるか否かが判定される。これを式で示すと以下のようになる。
ST159において、正規化範囲に含まれる(YES)と判定されればST116に移行し、正規化範囲に含まれない(NO)と判定されればST124に移行する。
このように実施の形態2によれば、全入力データについて正規化範囲仮判定を行い、正規化範囲内に含まれる入力データのうち、第1最小指数値及び第2最小指数値を除いた入力データについて正規化範囲判定を行うことにより、統計データだけでは判定できない飛び抜けた値を検出することができ、正規化の精度をより向上させることができる。
本願発明にかかる正規化処理装置及び正規化処理方法は、科学技術計算を行うCPU等の演算装置に適用できる。
101 データバッファ
102 平均・標準偏差計算部
103 正規化範囲判定部
104 正規化演算部
105 クリッピング処理部
131 正規化範囲仮判定部
132 指数値比較部
102 平均・標準偏差計算部
103 正規化範囲判定部
104 正規化演算部
105 クリッピング処理部
131 正規化範囲仮判定部
132 指数値比較部
Claims (6)
- 入力データの統計分布を示す統計データを取得する統計データ取得手段と、
前記統計データに基づいて、正規化演算の対象とする入力データの範囲を決定し、決定した範囲を正規化範囲として、入力データが正規化範囲内であるか正規化範囲外であるかを判定する正規化範囲判定手段と、
正規化範囲内において絶対値が最大となる入力データを基準とし、正規化範囲内であると判定された入力データを正規化する正規化演算手段と、
正規化範囲外であると判定された入力データを正規化範囲内で正規化範囲外との境界となる値に張り付かせるクリッピング処理を行うクリッピング処理手段と、
を具備することを特徴とする正規化処理装置。 - 前記統計データに基づいて第1正規化範囲を決定し、入力データが第1正規化範囲内であるか第1正規化範囲外であるかを仮判定する正規化範囲仮判定手段と、
第1正規化範囲内であると仮判定された入力データのうち、絶対値が上位となる入力データを検出する上位データ検出手段と、
を具備し、
前記正規化範囲判定手段は、絶対値が上位となる入力データを除いた入力データの統計データに基づいて第2正規化範囲を決定し、前記正規化範囲仮判定手段によって第2正規化範囲内であると仮判定され、かつ、前記上位データ検出手段によって検出された絶対値が上位となる入力データを除いた入力データが第2正規化範囲内であるか第2正規化範囲外であるかを判定することを特徴とする請求項1に記載の正規化処理装置。 - 前記クリッピング処理手段は、前記正規化範囲仮判定手段によって第1正規化範囲外であると仮判定された入力データ及び前記上位データ検出手段によって検出された絶対値が上位となる入力データを第2正規化範囲内で第2正規化範囲外との境界となる値にクリッピングすることを特徴とする請求項2に記載の正規化処理装置。
- 前記統計データ取得手段は、入力データの平均値及び標準偏差値を算出することを特徴とする請求項1から請求項3のいずれかに記載の正規化処理装置。
- 前記正規化範囲判定手段は、平均値を中心として標準偏差値の4倍の範囲を正規化範囲と決定することを特徴とする請求項4に記載の正規化処理装置。
- 入力データの統計分布を示す統計データを取得する統計データ取得工程と、
前記統計データに基づいて、正規化演算の対象とする入力データの範囲を決定し、決定した範囲を正規化範囲として、入力データが正規化範囲内であるか正規化範囲外であるかを判定する正規化範囲判定工程と、
正規化範囲内において絶対値が最大となる入力データを基準とし、正規化範囲内であると判定された入力データを正規化する正規化演算工程と、
正規化範囲外であると判定された入力データを正規化範囲内で正規化範囲外との境界となる値に張り付かせるクリッピング処理を行うクリッピング処理工程と、
を具備することを特徴とする正規化処理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004232194A JP2006048590A (ja) | 2004-08-09 | 2004-08-09 | 正規化処理装置及び正規化処理方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004232194A JP2006048590A (ja) | 2004-08-09 | 2004-08-09 | 正規化処理装置及び正規化処理方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2006048590A true JP2006048590A (ja) | 2006-02-16 |
Family
ID=36027038
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2004232194A Pending JP2006048590A (ja) | 2004-08-09 | 2004-08-09 | 正規化処理装置及び正規化処理方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2006048590A (ja) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8392199B2 (en) | 2008-07-30 | 2013-03-05 | Fujitsu Limited | Clipping detection device and method |
WO2018139266A1 (ja) * | 2017-01-30 | 2018-08-02 | 富士通株式会社 | 演算処理装置、情報処理装置、方法、およびプログラム |
JP2019074951A (ja) * | 2017-10-17 | 2019-05-16 | 富士通株式会社 | 演算処理回路、演算処理回路を含む演算処理装置、演算処理装置を含む情報処理装置、および方法 |
JP2019148972A (ja) * | 2018-02-27 | 2019-09-05 | 富士通株式会社 | 演算処理装置、情報処理装置、情報処理方法、およびプログラム |
EP3699752A1 (en) | 2019-02-21 | 2020-08-26 | Fujitsu Limited | Arithmetic processing device, information processing apparatus, and arithmetic processing method |
-
2004
- 2004-08-09 JP JP2004232194A patent/JP2006048590A/ja active Pending
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8392199B2 (en) | 2008-07-30 | 2013-03-05 | Fujitsu Limited | Clipping detection device and method |
WO2018139266A1 (ja) * | 2017-01-30 | 2018-08-02 | 富士通株式会社 | 演算処理装置、情報処理装置、方法、およびプログラム |
JP2018124681A (ja) * | 2017-01-30 | 2018-08-09 | 富士通株式会社 | 演算処理装置、情報処理装置、方法、およびプログラム |
US11137981B2 (en) | 2017-01-30 | 2021-10-05 | Fujitsu Limited | Operation processing device, information processing device, and information processing method |
JP2019074951A (ja) * | 2017-10-17 | 2019-05-16 | 富士通株式会社 | 演算処理回路、演算処理回路を含む演算処理装置、演算処理装置を含む情報処理装置、および方法 |
JP2019148972A (ja) * | 2018-02-27 | 2019-09-05 | 富士通株式会社 | 演算処理装置、情報処理装置、情報処理方法、およびプログラム |
EP3699752A1 (en) | 2019-02-21 | 2020-08-26 | Fujitsu Limited | Arithmetic processing device, information processing apparatus, and arithmetic processing method |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110036368B (zh) | 用于执行算术运算以累加浮点数的装置及方法 | |
JP2021072103A (ja) | 人工ニューラルネットワークの量子化方法とそのためのシステム及び人工ニューラルネットワーク装置 | |
US5341320A (en) | Method for rapidly processing floating-point operations which involve exceptions | |
US10296290B2 (en) | Digital signal processor | |
US20190087155A1 (en) | Comparison of wide data types | |
JP2006048590A (ja) | 正規化処理装置及び正規化処理方法 | |
US9182960B2 (en) | Loop distribution detection program and loop distribution detection method | |
CN114153496A (zh) | 一种基于区块链的高速可并行代码相似度对比方法和系统 | |
TW201901416A (zh) | 加速壓縮方法以及使用此方法的裝置 | |
US10635395B2 (en) | Architecture and instruction set to support interruptible floating point division | |
CN112181355B (zh) | 一种移位饱和处理方法及其应用 | |
CN114003385A (zh) | 一种用于提升后处理性能的并行化方法 | |
WO2020082224A1 (zh) | 基于fpga的重测序分析方法和装置 | |
CN113360158A (zh) | 基于向量掩码和向量计数距离的循环向量化 | |
GB2524642A (en) | A data processsing apparatus and method for performing a shift function on a binary number | |
JP4865449B2 (ja) | 差分生成装置及び差分適用装置及び差分生成プログラム及び差分適用プログラム及び差分生成適用システム及び差分生成適用方法 | |
Huang et al. | DTW-based subsequence similarity search on AMD heterogeneous computing platform | |
CN113434571B (zh) | 一种知识挖掘方法、平台、系统及存储介质 | |
US20240046624A1 (en) | Image processing apparatus, image processing method, and recording medium | |
KR102380437B1 (ko) | 정밀도 스케일링을 이용한 알고리즘 성능 최적화 방법 | |
US10534580B2 (en) | Comparing a runlength of bits with a variable number | |
JP2752948B2 (ja) | 浮動小数点演算装置 | |
JP2868127B2 (ja) | 字句解析における空白読み飛ばし装置 | |
JP2005031847A (ja) | 整数演算の方法および整数演算プログラム、ならびに整数演算装置 | |
JP3612248B2 (ja) | 固定小数点演算回路 |