JP2004070947A5 - - Google Patents

Download PDF

Info

Publication number
JP2004070947A5
JP2004070947A5 JP2003274730A JP2003274730A JP2004070947A5 JP 2004070947 A5 JP2004070947 A5 JP 2004070947A5 JP 2003274730 A JP2003274730 A JP 2003274730A JP 2003274730 A JP2003274730 A JP 2003274730A JP 2004070947 A5 JP2004070947 A5 JP 2004070947A5
Authority
JP
Japan
Prior art keywords
approximate
histogram
point representation
bin number
histogram bin
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2003274730A
Other languages
English (en)
Other versions
JP2004070947A (ja
JP4251484B2 (ja
Filing date
Publication date
Priority claimed from US10/209,978 external-priority patent/US20040024801A1/en
Application filed filed Critical
Publication of JP2004070947A publication Critical patent/JP2004070947A/ja
Publication of JP2004070947A5 publication Critical patent/JP2004070947A5/ja
Application granted granted Critical
Publication of JP4251484B2 publication Critical patent/JP4251484B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Claims (13)

  1. 指数間隔のビンを持つヒストグラムを計算する為のヒストグラム計算システムであって、データサンプルの浮動小数点表の近似底2対数を生成するように構成された底2対数推定器と、前記近似底2対数に関連する近似ヒストグラムビン番号を計算するように構成された近似ヒストグラムビン計算機と、前記近似ヒストグラムビン番号を表すデータ値と前記データサンプルとの間の比較に基づいて前記近似ヒストグラムビン番号を調整することにより正確なヒストグラムビン番号を得るように構成されたヒストグラムビン調整器とを含むヒストグラム計算システム。
  2. 前記データサンプルの固定小数点表現を前記浮動小数点表現へと変換するように構成された変換器を更に含む請求項1に記載のヒストグラム計算システム。
  3. 前記変換器が、前記固定小数点表現における最上位「1」ビットの位置を示すように構成されたプライオリティエンコーダと、前記固定小数点表現に表される端数ビット数を前記固定小数点表現中の前記最上位「1」ビットの位置から減算することにより前記浮動小数点表現の累乗指数を得るように構成された減算器と、前記累乗指数に関連する乗算値を生成するように構成された乗算ルックアップテーブルと、前記固定小数点表現に前記乗算値を乗算することにより前記浮動小数点表現の正規化値を生成するように構成された乗算器とを含むことを特徴とする請求項2に記載のヒストグラム計算システム。
  4. 前記変換器が、前記固定小数点表現における最上位「1」ビットの位置を示すように構成されたプライオリティエンコーダと、前記固定小数点表現に表される端数ビット数を前記固定小数点表現中の前記最上位「1」ビットの位置から減算することにより前記浮動小数点表現の累乗指数を得るように構成された減算器と、そして前記固定小数点表現を前記累乗指数分シフトすることにより前記浮動小数点表現の正規化値を生成するように構成されたシフタとを含むことを特徴とする請求項2に記載のヒストグラム計算システム。
  5. 前記底2対数推定器が、前記正規化値の近似底2対数を生成するように構成された底2対数近似ルックアップテーブルと、そして前記正規化値の前記近似底2対数を前記累乗指数へと加算することにより前記浮動小数点表現の前記近似底2対数が得られるように構成された加算器とを含むことを特徴とする請求項1に記載のヒストグラム計算システム。
  6. 前記近似ヒストグラムビン計算機が、前記浮動小数点表現の前記近似底2対数をヒストグラム変換係数により乗算することで仮の近似ヒストグラムビン番号が得られるように構成された乗算器と、そして前記予備近似ヒストグラムビン番号から2分の1を減算することにより近似ヒストグラムビン番号を生成するように構成された減算器とを含むことを特徴とする請求項1に記載のヒストグラム計算システム。
  7. 前記ヒストグラムビン番号調整器が、前記近似ヒストグラムビン番号を表す前記データ値を生成するように構成され、前記データ値が基本的に前記近似ヒストグラムビン番号に関連するビンの最高境界値に等しいことを特徴とするルックアップテーブルと、前記データサンプルを前記近似ヒストグラムビン番号を表す前記データ値と比較するように構成された比較器と、前記データサンプルが前記近似ヒストグラムビン番号を表す前記データ値よりも大きい場合に、前記近似ヒストグラムビン番号を増分するように構成された加算器とを含むことを特徴とする請求項1に記載のヒストグラム計算システム。
  8. 前記システムがパイプライン方式で実現されていることを特徴とする請求項1に記載のシステム。
  9. 請求項1に記載のシステムを組み込むように構成されたことを特徴とする電子試験装置。
  10. 指数間隔のビンを持つヒストグラムを計算するヒストグラム計算方法であって、データサンプルの浮動小数点表現の近似底2対数を生成するステップと、前記近似底2対数に関連する近似ヒストグラムビン番号を計算するステップと、前記近似ヒストグラムビン番号を表すデータ値と前記データサンプルの比較に基づいて前記近似ヒストグラムビン番号を調節することにより正確なヒストグラムビン番号を生成するステップとを含むヒストグラム計算方法。
  11. 前記データサンプルの固定小数点表現を、浮動小数点表現へと変換するステップを更に含む請求項10に記載のヒストグラム計算方法。
  12. 前記ヒストグラム計算方法がパイプライン方式にて実現されていることを特徴とする請求項10に記載のヒストグラム計算方法。
  13. 請求項10に記載のヒストグラム計算方法を組み込むように構成された電子試験装置。
JP2003274730A 2002-07-31 2003-07-15 ヒストグラム計算システム、電子試験装置及びヒストグラム計算方法 Expired - Fee Related JP4251484B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
US10/209,978 US20040024801A1 (en) 2002-07-31 2002-07-31 System and method for computing histograms with exponentially-spaced bins

Publications (3)

Publication Number Publication Date
JP2004070947A JP2004070947A (ja) 2004-03-04
JP2004070947A5 true JP2004070947A5 (ja) 2006-07-27
JP4251484B2 JP4251484B2 (ja) 2009-04-08

Family

ID=31187181

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003274730A Expired - Fee Related JP4251484B2 (ja) 2002-07-31 2003-07-15 ヒストグラム計算システム、電子試験装置及びヒストグラム計算方法

Country Status (3)

Country Link
US (1) US20040024801A1 (ja)
JP (1) JP4251484B2 (ja)
DE (1) DE10317915A1 (ja)

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7058540B2 (en) * 2003-12-15 2006-06-06 Agilent Technologies, Inc. Method and system for accelerating power complementary cumulative distribution function measurements
US7606850B2 (en) * 2005-03-30 2009-10-20 Lockheed Martin Corporation Method and apparatus for providing a base-2 logarithm approximation to a binary number
GB2426066A (en) * 2005-05-13 2006-11-15 Agilent Technologies Inc Apparatus and method for generating a complementary cumulative distribution function (CCDF) curve
US7269406B2 (en) 2005-05-26 2007-09-11 Intel Corporation Methods and apparatus for providing information indicative of traffic delay of a wireless link
EP1938268A4 (en) * 2005-08-29 2010-02-17 Tektronix Inc MEASURE AND DISPLAY FOR VIDEO TIP JITTER WITH EXPECTED PROBABILITY
US9697316B1 (en) * 2011-12-13 2017-07-04 Amazon Technologies, Inc. System and method for efficient data aggregation with sparse exponential histogram
KR101949294B1 (ko) 2012-07-24 2019-02-18 삼성전자주식회사 영상의 히스토그램 축적 계산 장치 및 방법
US20140207607A1 (en) 2013-01-24 2014-07-24 Wilson Sporting Goods Co. System for customizing a ball bat
US10909177B1 (en) * 2017-01-17 2021-02-02 Workday, Inc. Percentile determination system
US11190419B1 (en) 2017-05-24 2021-11-30 Amazon Technologies, Inc. Tunable-granularity multi-level histograms for efficient computer system metric analysis
US20200110580A1 (en) * 2018-10-04 2020-04-09 Ca, Inc. Storing floating point values in integer representations for histogram recording
JP7137067B2 (ja) * 2018-10-25 2022-09-14 富士通株式会社 演算処理装置、学習プログラム及び学習方法
US10983888B1 (en) 2018-12-12 2021-04-20 Amazon Technologies, Inc. System and method for generating dynamic sparse exponential histograms
US11188510B2 (en) 2020-01-30 2021-11-30 PagerDuty, Inc. Analytical platform for distributed data

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB2046051B (en) * 1979-03-29 1983-01-26 Philips Electronic Associated Real time histogram modification system for image processing
US4774681A (en) * 1985-03-11 1988-09-27 Tektronix, Inc. Method and apparatus for providing a histogram
US4852175A (en) * 1988-02-03 1989-07-25 Siemens Hearing Instr Inc Hearing aid signal-processing system
US5651077A (en) * 1993-12-21 1997-07-22 Hewlett-Packard Company Automatic threshold determination for a digital scanner
JP4323663B2 (ja) * 2000-02-29 2009-09-02 キヤノン株式会社 画像フィルタ回路及び画像フィルタリング方法

Similar Documents

Publication Publication Date Title
JP2004070947A5 (ja)
US8631061B2 (en) Apparatus, method, and program for arithmetic processing
CN1637422A (zh) 用于计量电功率的仪表
JP4251484B2 (ja) ヒストグラム計算システム、電子試験装置及びヒストグラム計算方法
KR101718817B1 (ko) 부동 소수점 데이터와 정수형 데이터 간의 변환장치 및 그 방법
CN110852434A (zh) 基于低精度浮点数的cnn量化方法、前向计算方法及装置
US20070276889A1 (en) Method for creating a representation of a calculation result linearly dependent upon a square of a value
WO2003034710A1 (fr) Dispositif et procede de conversion de couleur
WO2017107327A1 (zh) 基于查表法的cpm调制数字化实现方法及数字化cpm调制模块
US4388491A (en) Speech pitch period extraction apparatus
JP3493574B2 (ja) 逆量子化装置及び逆量子化方法
CN111753249B (zh) 一种基于fpga芯片计算信号频谱的方法及系统
CN101056415B (zh) 一种乘法操作转换为加法和移位操作的方法及装置
US20060224648A1 (en) Method and apparatus for providing a base-2 logarithm approximation to a binary number
Francesconi et al. A low power logarithmic A/D converter
CN112199072A (zh) 一种基于神经网络层的数据处理方法、装置及设备
US6549924B1 (en) Function generating interpolation method and apparatus
Rinne Analysis of fixed-point and floating-point arithmetic representations’ impact on synthesized area of a digital integrated circuit
US20090319589A1 (en) Using fractional exponents to reduce the computational complexity of numerical operations
JP4259110B2 (ja) 波形データ符号化装置及び波形データ符号化方法
CN115099397A (zh) 面向硬件的Adam算法二阶矩估计优化方法及系统
CN117827145B (zh) 浮点运算装置及其处理方法、信息处理系统、硬件加速器
TWI417785B (zh) 低延遲時間之餘切硬體結構及其計算方法
KR100202308B1 (ko) 데시벨 변환 및 역변환방법
JPH03217898A (ja) エンベロープフォロア