JP4251484B2 - ヒストグラム計算システム、電子試験装置及びヒストグラム計算方法 - Google Patents
ヒストグラム計算システム、電子試験装置及びヒストグラム計算方法 Download PDFInfo
- Publication number
- JP4251484B2 JP4251484B2 JP2003274730A JP2003274730A JP4251484B2 JP 4251484 B2 JP4251484 B2 JP 4251484B2 JP 2003274730 A JP2003274730 A JP 2003274730A JP 2003274730 A JP2003274730 A JP 2003274730A JP 4251484 B2 JP4251484 B2 JP 4251484B2
- Authority
- JP
- Japan
- Prior art keywords
- approximate
- histogram
- bin number
- histogram bin
- point representation
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
- G06F17/10—Complex mathematical operations
- G06F17/18—Complex mathematical operations for evaluating statistical data, e.g. average values, frequency distributions, probability functions, regression analysis
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Optimization (AREA)
- Pure & Applied Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Mathematical Physics (AREA)
- Computational Mathematics (AREA)
- Mathematical Analysis (AREA)
- Life Sciences & Earth Sciences (AREA)
- Operations Research (AREA)
- Probability & Statistics with Applications (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Algebra (AREA)
- Evolutionary Biology (AREA)
- Databases & Information Systems (AREA)
- Software Systems (AREA)
- General Engineering & Computer Science (AREA)
- Bioinformatics & Computational Biology (AREA)
- Complex Calculations (AREA)
Description
0.01b≦log10P<0.01(b+1)
b≦100(log10P)<b+1
よってb=(100(log10P)の端数切り捨て整数)
=(log2(正規化値165))+(log22E)
=(log2(正規化値165))+ E
=(log2(正規化値165))+(累乗指数160)
図4においては、底2対数近似ルックアップテーブル310を利用して正規化値165の近似底2対数350が生成されている。可能な正規化値165の各々について、対応する近時底2対数350が生成される。底2対数近似ルックアップテーブル310中に必要とされるエントリ数は、ビン番号を予測する目的において意義があると思われる正規化値165中のビットの数による。そして、これは計算されるヒストグラムのビンの数及び間隔に依存する。例えば、図1のヒストグラムの場合、各エントリが7ビットの固定小数点数を含む128エントリを有する底2対数近似ルックアップテーブル310が適正だと思われる。この実施例においては、ルックアップテーブル310のインデックス用に用いられる7ビットは正規化値165の7個の最上位端数ビットである。正規化されたバイナリ値においては、小数点左側の第一のビットが常に最も左にある「1」ビットであり、よってその値を有すると想定することが出来る。例えば、正規化値165が1.0111010の値を持っていた場合、値0111010が底2対数近似ルックアップテーブル310のインデックスとして使用されるものであり、その値でインデックスされた近似底2対数350は、1.0111010の底2対数である。
従って、この場合の変換係数450は(100/(log2(10)))となる。
110 変換器
120 底2対数推定器
130 近似ヒストグラムビン計算機
140 ヒストグラムビン調整器
150、151 データサンプル
155 端数ビット数
160 累乗指数
165 正規化値
170 近似底2対数
175 近似ヒストグラムビン番号
180 正確なヒストグラムビン番号
210 プライオリティエンコーダ
220 減算器
230 乗算ルックアップテーブル
240 乗算器
250 最上位「1」ビットの位置(MSB位置)
255 乗算値
310 底2対数近似ルックアップテーブル
320 加算器
350 近似底2対数
410 乗算器
420 減算器
450 ヒストグラム変換係数
455 2分の1
460 仮の近似ヒストグラムビン番号
510 データ値ルックアップテーブル
520 比較器
530 加算器
550 データ値
Claims (11)
- 指数間隔のビンを持つヒストグラムを計算する為のヒストグラム計算システムであって、データサンプルの浮動小数点表現の近似底2対数を生成するように構成された底2対数推定器と、前記近似底2対数に関連する近似ヒストグラムビン番号を計算するように構成された近似ヒストグラムビン計算機と、前記近似ヒストグラムビン番号を表すデータ値と前記データサンプルとの間の比較に基づいて前記近似ヒストグラムビン番号を調整することにより正確なヒストグラムビン番号を得るように構成されたヒストグラムビン調整器とを含み、
前記近似ヒストグラムビン計算機が、前記浮動小数点表現の前記近似底2対数をヒストグラム変換係数により乗算することで仮の近似ヒストグラムビン番号が得られるように構成された乗算器と、前記仮の近似ヒストグラムビン番号から2分の1を減算することにより近似ヒストグラムビン番号を生成するように構成された減算器とを含み、
前記ヒストグラムビン調整器が、前記近似ヒストグラムビン番号を表す前記データ値を生成するように構成され前記データ値が基本的に前記近似ヒストグラムビン番号に関連するビンの最高境界値に等しいことを特徴とするルックアップテーブルと、前記データサンプルを前記近似ヒストグラムビン番号を表す前記データ値と比較するように構成された比較器と、前記データサンプルが前記近似ヒストグラムビン番号を表す前記データ値よりも大きい場合に、前記近似ヒストグラムビン番号を増分するように構成された加算器とを含む、ヒストグラム計算システム。 - 前記データサンプルの固定小数点表現を前記浮動小数点表現へと変換するように構成された変換器を更に含む請求項1に記載のヒストグラム計算システム。
- 前記変換器が、前記固定小数点表現における最上位「1」ビットの位置を示すように構成されたプライオリティエンコーダと、前記固定小数点表現に表される端数ビット数を前記固定小数点表現中の前記最上位「1」ビットの位置から減算することにより前記浮動小数点表現の累乗指数を得るように構成された減算器と、前記累乗指数に関連する乗算値を生成するように構成された乗算ルックアップテーブルと、前記固定小数点表現に前記乗算値を乗算することにより前記浮動小数点表現の正規化値を生成するように構成された乗算器とを含むことを特徴とする請求項2に記載のヒストグラム計算システム。
- 前記変換器が、前記固定小数点表現における最上位「1」ビットの位置を示すように構成されたプライオリティエンコーダと、前記固定小数点表現に表される端数ビット数を前記固定小数点表現中の前記最上位「1」ビットの位置から減算することにより前記浮動小数点表現の累乗指数を得るように構成された減算器と、そして前記固定小数点表現を前記累乗指数分シフトすることにより前記浮動小数点表現の正規化値を生成するように構成されたシフタとを含むことを特徴とする請求項2に記載のヒストグラム計算システム。
- 前記底2対数推定器が、前記正規化値の近似底2対数を生成するように構成された底2対数近似ルックアップテーブルと、そして前記正規化値の前記近似底2対数を前記累乗指数へと加算することにより前記浮動小数点表現の前記近似底2対数が得られるように構成された加算器とを含むことを特徴とする請求項1に記載のヒストグラム計算システム。
- 前記システムがパイプライン方式で実現されていることを特徴とする請求項1に記載のシステム。
- 請求項1に記載のシステムを組み込むように構成されたことを特徴とする電子試験装置。
- 指数間隔のビンを持つヒストグラムを計算するヒストグラム計算方法であって、底2対数推定器がデータサンプルの浮動小数点表現の近似底2対数を生成するステップと、近似ヒストグラムビン計算機が前記近似底2対数に関連する近似ヒストグラムビン番号を計算するステップと、ヒストグラムビン調整器が前記近似ヒストグラムビン番号を表すデータ値と前記データサンプルの比較に基づいて前記近似ヒストグラムビン番号を調節することにより正確なヒストグラムビン番号を生成するステップとを含み、
前記近似ヒストグラムビン番号を計算するステップは、乗算器によって前記浮動小数点表現の前記近似底2対数をヒストグラム変換係数により乗算することで仮の近似ヒストグラムビン番号を得るステップと、減算器によって前記仮の近似ヒストグラムビン番号から2分の1を減算することにより近似ヒストグラムビン番号を生成するステップとを含み、
前記正確なヒストグラムビン番号を生成するステップは、前記近似ヒストグラムビン番号を表す前記データ値を生成するルックアップテーブルであって前記データ値が基本的に前記近似ヒストグラムビン番号に関連するビンの最高境界値に等しいことを特徴とするルックアップテーブルから取得した前記近似ヒストグラムビン番号を表す前記データ値と、前記データサンプルとを比較器によって比較するステップと、前記データサンプルが前記近似ヒストグラムビン番号を表す前記データ値よりも大きい場合に、加算器によって前記近似ヒストグラムビン番号を増分するステップとを含む、ヒストグラム計算方法。 - 変換器によって前記データサンプルの固定小数点表現を、浮動小数点表現へと変換するステップを更に含む請求項8に記載のヒストグラム計算方法。
- 前記ヒストグラム計算方法がパイプライン方式にて実現されていることを特徴とする請求項8に記載のヒストグラム計算方法。
- 請求項8に記載のヒストグラム計算方法を組み込むように構成された電子試験装置。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US10/209,978 US20040024801A1 (en) | 2002-07-31 | 2002-07-31 | System and method for computing histograms with exponentially-spaced bins |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2004070947A JP2004070947A (ja) | 2004-03-04 |
JP2004070947A5 JP2004070947A5 (ja) | 2006-07-27 |
JP4251484B2 true JP4251484B2 (ja) | 2009-04-08 |
Family
ID=31187181
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003274730A Expired - Fee Related JP4251484B2 (ja) | 2002-07-31 | 2003-07-15 | ヒストグラム計算システム、電子試験装置及びヒストグラム計算方法 |
Country Status (3)
Country | Link |
---|---|
US (1) | US20040024801A1 (ja) |
JP (1) | JP4251484B2 (ja) |
DE (1) | DE10317915A1 (ja) |
Families Citing this family (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7058540B2 (en) * | 2003-12-15 | 2006-06-06 | Agilent Technologies, Inc. | Method and system for accelerating power complementary cumulative distribution function measurements |
US7606850B2 (en) * | 2005-03-30 | 2009-10-20 | Lockheed Martin Corporation | Method and apparatus for providing a base-2 logarithm approximation to a binary number |
GB2426066A (en) * | 2005-05-13 | 2006-11-15 | Agilent Technologies Inc | Apparatus and method for generating a complementary cumulative distribution function (CCDF) curve |
US7269406B2 (en) * | 2005-05-26 | 2007-09-11 | Intel Corporation | Methods and apparatus for providing information indicative of traffic delay of a wireless link |
CN101300599A (zh) * | 2005-08-29 | 2008-11-05 | 特克特朗尼克公司 | 具有期望概率的视频峰抖动的测量和显示 |
US9697316B1 (en) * | 2011-12-13 | 2017-07-04 | Amazon Technologies, Inc. | System and method for efficient data aggregation with sparse exponential histogram |
KR101949294B1 (ko) | 2012-07-24 | 2019-02-18 | 삼성전자주식회사 | 영상의 히스토그램 축적 계산 장치 및 방법 |
US9242156B2 (en) | 2013-01-24 | 2016-01-26 | Wilson Sporting Goods Co. | Tapered isolating element for a ball bat and system for using same |
US10909177B1 (en) * | 2017-01-17 | 2021-02-02 | Workday, Inc. | Percentile determination system |
US11190419B1 (en) | 2017-05-24 | 2021-11-30 | Amazon Technologies, Inc. | Tunable-granularity multi-level histograms for efficient computer system metric analysis |
US20200110580A1 (en) * | 2018-10-04 | 2020-04-09 | Ca, Inc. | Storing floating point values in integer representations for histogram recording |
JP7137067B2 (ja) * | 2018-10-25 | 2022-09-14 | 富士通株式会社 | 演算処理装置、学習プログラム及び学習方法 |
US10983888B1 (en) | 2018-12-12 | 2021-04-20 | Amazon Technologies, Inc. | System and method for generating dynamic sparse exponential histograms |
US11188510B2 (en) | 2020-01-30 | 2021-11-30 | PagerDuty, Inc. | Analytical platform for distributed data |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
GB2046051B (en) * | 1979-03-29 | 1983-01-26 | Philips Electronic Associated | Real time histogram modification system for image processing |
US4774681A (en) * | 1985-03-11 | 1988-09-27 | Tektronix, Inc. | Method and apparatus for providing a histogram |
US4852175A (en) * | 1988-02-03 | 1989-07-25 | Siemens Hearing Instr Inc | Hearing aid signal-processing system |
US5651077A (en) * | 1993-12-21 | 1997-07-22 | Hewlett-Packard Company | Automatic threshold determination for a digital scanner |
JP4323663B2 (ja) * | 2000-02-29 | 2009-09-02 | キヤノン株式会社 | 画像フィルタ回路及び画像フィルタリング方法 |
-
2002
- 2002-07-31 US US10/209,978 patent/US20040024801A1/en not_active Abandoned
-
2003
- 2003-04-17 DE DE10317915A patent/DE10317915A1/de not_active Ceased
- 2003-07-15 JP JP2003274730A patent/JP4251484B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2004070947A (ja) | 2004-03-04 |
US20040024801A1 (en) | 2004-02-05 |
DE10317915A1 (de) | 2004-02-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4251484B2 (ja) | ヒストグラム計算システム、電子試験装置及びヒストグラム計算方法 | |
US7298296B1 (en) | Real-time sample rate converter having a non-polynomial convolution kernel | |
KR20020021079A (ko) | 디지털 값 처리기 | |
KR19980701802A (ko) | 로그/역로그 변환기, 계산 장치 및 로그값 발생 방법 | |
WO1997005543A1 (en) | Log converter utilizing offset and method of use thereof | |
JP2004070947A5 (ja) | ||
US7809784B2 (en) | Apparatus and method for calculation of divisions and square roots | |
CN111753249B (zh) | 一种基于fpga芯片计算信号频谱的方法及系统 | |
CN112200299B (zh) | 神经网络计算装置、数据处理方法及装置 | |
US20060224648A1 (en) | Method and apparatus for providing a base-2 logarithm approximation to a binary number | |
US8352534B2 (en) | Integer division circuit with allowable error | |
CN101056415B (zh) | 一种乘法操作转换为加法和移位操作的方法及装置 | |
JP2007163318A (ja) | レーダ信号処理装置とその一定誤警報確率検出方法 | |
JP2006287634A (ja) | 信号処理装置、信号処理方法およびノイズ低減装置 | |
Zhang et al. | ADC characterization based on singular value decomposition | |
KR100457925B1 (ko) | 로그 변환과 선형 근사를 이용하여 주파수 오프셋을계산하는 방법 | |
JP2006172475A (ja) | 電子回路中で乗算演算または除算演算を行う方法およびその装置 | |
Wenxu et al. | Performance analysis of improved dynamic kernel function in fast Fourier transform | |
Shumikhin et al. | An interpolator for signal peak detection in front-end electronics | |
KR960011424B1 (ko) | 타이밍 복원 시스템에서의 위상오차 검출회로 | |
CN103297359A (zh) | 同相正交数字基带信号处理方法及装置 | |
JPH0227703B2 (ja) | ||
US20040133615A1 (en) | Data processing apparatus for used in FFT/IFFT and method thereof | |
JPH074658Y2 (ja) | 対数変換回路 | |
KR20070014888A (ko) | 제곱근 계산 장치 및 방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20060608 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20060608 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20070508 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20070514 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20080314 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20080325 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080624 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20081216 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20090115 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20090115 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120130 Year of fee payment: 3 |
|
LAPS | Cancellation because of no payment of annual fees |