JP2004070947A5 - - Google Patents
Download PDFInfo
- Publication number
- JP2004070947A5 JP2004070947A5 JP2003274730A JP2003274730A JP2004070947A5 JP 2004070947 A5 JP2004070947 A5 JP 2004070947A5 JP 2003274730 A JP2003274730 A JP 2003274730A JP 2003274730 A JP2003274730 A JP 2003274730A JP 2004070947 A5 JP2004070947 A5 JP 2004070947A5
- Authority
- JP
- Japan
- Prior art keywords
- approximate
- histogram
- point representation
- bin number
- histogram bin
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Claims (13)
- 指数間隔のビンを持つヒストグラムを計算する為のヒストグラム計算システムであって、データサンプルの浮動小数点表現の近似底2対数を生成するように構成された底2対数推定器と、前記近似底2対数に関連する近似ヒストグラムビン番号を計算するように構成された近似ヒストグラムビン計算機と、前記近似ヒストグラムビン番号を表すデータ値と前記データサンプルとの間の比較に基づいて前記近似ヒストグラムビン番号を調整することにより正確なヒストグラムビン番号を得るように構成されたヒストグラムビン調整器とを含むヒストグラム計算システム。
- 前記データサンプルの固定小数点表現を前記浮動小数点表現へと変換するように構成された変換器を更に含む請求項1に記載のヒストグラム計算システム。
- 前記変換器が、前記固定小数点表現における最上位「1」ビットの位置を示すように構成されたプライオリティエンコーダと、前記固定小数点表現に表される端数ビット数を前記固定小数点表現中の前記最上位「1」ビットの位置から減算することにより前記浮動小数点表現の累乗指数を得るように構成された減算器と、前記累乗指数に関連する乗算値を生成するように構成された乗算ルックアップテーブルと、前記固定小数点表現に前記乗算値を乗算することにより前記浮動小数点表現の正規化値を生成するように構成された乗算器とを含むことを特徴とする請求項2に記載のヒストグラム計算システム。
- 前記変換器が、前記固定小数点表現における最上位「1」ビットの位置を示すように構成されたプライオリティエンコーダと、前記固定小数点表現に表される端数ビット数を前記固定小数点表現中の前記最上位「1」ビットの位置から減算することにより前記浮動小数点表現の累乗指数を得るように構成された減算器と、そして前記固定小数点表現を前記累乗指数分シフトすることにより前記浮動小数点表現の正規化値を生成するように構成されたシフタとを含むことを特徴とする請求項2に記載のヒストグラム計算システム。
- 前記底2対数推定器が、前記正規化値の近似底2対数を生成するように構成された底2対数近似ルックアップテーブルと、そして前記正規化値の前記近似底2対数を前記累乗指数へと加算することにより前記浮動小数点表現の前記近似底2対数が得られるように構成された加算器とを含むことを特徴とする請求項1に記載のヒストグラム計算システム。
- 前記近似ヒストグラムビン計算機が、前記浮動小数点表現の前記近似底2対数をヒストグラム変換係数により乗算することで仮の近似ヒストグラムビン番号が得られるように構成された乗算器と、そして前記予備近似ヒストグラムビン番号から2分の1を減算することにより近似ヒストグラムビン番号を生成するように構成された減算器とを含むことを特徴とする請求項1に記載のヒストグラム計算システム。
- 前記ヒストグラムビン番号調整器が、前記近似ヒストグラムビン番号を表す前記データ値を生成するように構成され、前記データ値が基本的に前記近似ヒストグラムビン番号に関連するビンの最高境界値に等しいことを特徴とするルックアップテーブルと、前記データサンプルを前記近似ヒストグラムビン番号を表す前記データ値と比較するように構成された比較器と、前記データサンプルが前記近似ヒストグラムビン番号を表す前記データ値よりも大きい場合に、前記近似ヒストグラムビン番号を増分するように構成された加算器とを含むことを特徴とする請求項1に記載のヒストグラム計算システム。
- 前記システムがパイプライン方式で実現されていることを特徴とする請求項1に記載のシステム。
- 請求項1に記載のシステムを組み込むように構成されたことを特徴とする電子試験装置。
- 指数間隔のビンを持つヒストグラムを計算するヒストグラム計算方法であって、データサンプルの浮動小数点表現の近似底2対数を生成するステップと、前記近似底2対数に関連する近似ヒストグラムビン番号を計算するステップと、前記近似ヒストグラムビン番号を表すデータ値と前記データサンプルの比較に基づいて前記近似ヒストグラムビン番号を調節することにより正確なヒストグラムビン番号を生成するステップとを含むヒストグラム計算方法。
- 前記データサンプルの固定小数点表現を、浮動小数点表現へと変換するステップを更に含む請求項10に記載のヒストグラム計算方法。
- 前記ヒストグラム計算方法がパイプライン方式にて実現されていることを特徴とする請求項10に記載のヒストグラム計算方法。
- 請求項10に記載のヒストグラム計算方法を組み込むように構成された電子試験装置。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US10/209,978 US20040024801A1 (en) | 2002-07-31 | 2002-07-31 | System and method for computing histograms with exponentially-spaced bins |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2004070947A JP2004070947A (ja) | 2004-03-04 |
JP2004070947A5 true JP2004070947A5 (ja) | 2006-07-27 |
JP4251484B2 JP4251484B2 (ja) | 2009-04-08 |
Family
ID=31187181
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003274730A Expired - Fee Related JP4251484B2 (ja) | 2002-07-31 | 2003-07-15 | ヒストグラム計算システム、電子試験装置及びヒストグラム計算方法 |
Country Status (3)
Country | Link |
---|---|
US (1) | US20040024801A1 (ja) |
JP (1) | JP4251484B2 (ja) |
DE (1) | DE10317915A1 (ja) |
Families Citing this family (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7058540B2 (en) * | 2003-12-15 | 2006-06-06 | Agilent Technologies, Inc. | Method and system for accelerating power complementary cumulative distribution function measurements |
US7606850B2 (en) * | 2005-03-30 | 2009-10-20 | Lockheed Martin Corporation | Method and apparatus for providing a base-2 logarithm approximation to a binary number |
GB2426066A (en) * | 2005-05-13 | 2006-11-15 | Agilent Technologies Inc | Apparatus and method for generating a complementary cumulative distribution function (CCDF) curve |
US7269406B2 (en) | 2005-05-26 | 2007-09-11 | Intel Corporation | Methods and apparatus for providing information indicative of traffic delay of a wireless link |
EP1938268A4 (en) * | 2005-08-29 | 2010-02-17 | Tektronix Inc | MEASURE AND DISPLAY FOR VIDEO TIP JITTER WITH EXPECTED PROBABILITY |
US9697316B1 (en) * | 2011-12-13 | 2017-07-04 | Amazon Technologies, Inc. | System and method for efficient data aggregation with sparse exponential histogram |
KR101949294B1 (ko) | 2012-07-24 | 2019-02-18 | 삼성전자주식회사 | 영상의 히스토그램 축적 계산 장치 및 방법 |
US20140207607A1 (en) | 2013-01-24 | 2014-07-24 | Wilson Sporting Goods Co. | System for customizing a ball bat |
US10909177B1 (en) * | 2017-01-17 | 2021-02-02 | Workday, Inc. | Percentile determination system |
US11190419B1 (en) | 2017-05-24 | 2021-11-30 | Amazon Technologies, Inc. | Tunable-granularity multi-level histograms for efficient computer system metric analysis |
US20200110580A1 (en) * | 2018-10-04 | 2020-04-09 | Ca, Inc. | Storing floating point values in integer representations for histogram recording |
JP7137067B2 (ja) * | 2018-10-25 | 2022-09-14 | 富士通株式会社 | 演算処理装置、学習プログラム及び学習方法 |
US10983888B1 (en) | 2018-12-12 | 2021-04-20 | Amazon Technologies, Inc. | System and method for generating dynamic sparse exponential histograms |
US11188510B2 (en) | 2020-01-30 | 2021-11-30 | PagerDuty, Inc. | Analytical platform for distributed data |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
GB2046051B (en) * | 1979-03-29 | 1983-01-26 | Philips Electronic Associated | Real time histogram modification system for image processing |
US4774681A (en) * | 1985-03-11 | 1988-09-27 | Tektronix, Inc. | Method and apparatus for providing a histogram |
US4852175A (en) * | 1988-02-03 | 1989-07-25 | Siemens Hearing Instr Inc | Hearing aid signal-processing system |
US5651077A (en) * | 1993-12-21 | 1997-07-22 | Hewlett-Packard Company | Automatic threshold determination for a digital scanner |
JP4323663B2 (ja) * | 2000-02-29 | 2009-09-02 | キヤノン株式会社 | 画像フィルタ回路及び画像フィルタリング方法 |
-
2002
- 2002-07-31 US US10/209,978 patent/US20040024801A1/en not_active Abandoned
-
2003
- 2003-04-17 DE DE10317915A patent/DE10317915A1/de not_active Ceased
- 2003-07-15 JP JP2003274730A patent/JP4251484B2/ja not_active Expired - Fee Related
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2004070947A5 (ja) | ||
US8631061B2 (en) | Apparatus, method, and program for arithmetic processing | |
CN1637422A (zh) | 用于计量电功率的仪表 | |
JP4251484B2 (ja) | ヒストグラム計算システム、電子試験装置及びヒストグラム計算方法 | |
KR101718817B1 (ko) | 부동 소수점 데이터와 정수형 데이터 간의 변환장치 및 그 방법 | |
CN110852434A (zh) | 基于低精度浮点数的cnn量化方法、前向计算方法及装置 | |
US20070276889A1 (en) | Method for creating a representation of a calculation result linearly dependent upon a square of a value | |
WO2003034710A1 (fr) | Dispositif et procede de conversion de couleur | |
WO2017107327A1 (zh) | 基于查表法的cpm调制数字化实现方法及数字化cpm调制模块 | |
US4388491A (en) | Speech pitch period extraction apparatus | |
JP3493574B2 (ja) | 逆量子化装置及び逆量子化方法 | |
CN111753249B (zh) | 一种基于fpga芯片计算信号频谱的方法及系统 | |
CN101056415B (zh) | 一种乘法操作转换为加法和移位操作的方法及装置 | |
US20060224648A1 (en) | Method and apparatus for providing a base-2 logarithm approximation to a binary number | |
Francesconi et al. | A low power logarithmic A/D converter | |
CN112199072A (zh) | 一种基于神经网络层的数据处理方法、装置及设备 | |
US6549924B1 (en) | Function generating interpolation method and apparatus | |
Rinne | Analysis of fixed-point and floating-point arithmetic representations’ impact on synthesized area of a digital integrated circuit | |
US20090319589A1 (en) | Using fractional exponents to reduce the computational complexity of numerical operations | |
JP4259110B2 (ja) | 波形データ符号化装置及び波形データ符号化方法 | |
CN115099397A (zh) | 面向硬件的Adam算法二阶矩估计优化方法及系统 | |
CN117827145B (zh) | 浮点运算装置及其处理方法、信息处理系统、硬件加速器 | |
TWI417785B (zh) | 低延遲時間之餘切硬體結構及其計算方法 | |
KR100202308B1 (ko) | 데시벨 변환 및 역변환방법 | |
JPH03217898A (ja) | エンベロープフォロア |