JP2004070947A - ヒストグラム計算システム、電子試験装置及びヒストグラム計算方法 - Google Patents
ヒストグラム計算システム、電子試験装置及びヒストグラム計算方法 Download PDFInfo
- Publication number
- JP2004070947A JP2004070947A JP2003274730A JP2003274730A JP2004070947A JP 2004070947 A JP2004070947 A JP 2004070947A JP 2003274730 A JP2003274730 A JP 2003274730A JP 2003274730 A JP2003274730 A JP 2003274730A JP 2004070947 A JP2004070947 A JP 2004070947A
- Authority
- JP
- Japan
- Prior art keywords
- histogram
- approximate
- bin
- base
- value
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
- G06F17/10—Complex mathematical operations
- G06F17/18—Complex mathematical operations for evaluating statistical data, e.g. average values, frequency distributions, probability functions, regression analysis
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Optimization (AREA)
- Pure & Applied Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Mathematical Physics (AREA)
- Computational Mathematics (AREA)
- Mathematical Analysis (AREA)
- Life Sciences & Earth Sciences (AREA)
- Operations Research (AREA)
- Probability & Statistics with Applications (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Algebra (AREA)
- Evolutionary Biology (AREA)
- Databases & Information Systems (AREA)
- Software Systems (AREA)
- General Engineering & Computer Science (AREA)
- Bioinformatics & Computational Biology (AREA)
- Complex Calculations (AREA)
Abstract
【解決手段】指数間隔のビンを持つヒストグラムを計算する為のシステム(101)は、データサンプルの浮動小数点表示(160、165)の近似底2対数(170)を生成するように構成された底2対数推定器(120)と、前記近似底2対数(170)に関連する近似ヒストグラムビン番号(175)を計算するように構成された近似ヒストグラムビン計算機(130)と、前記近似ヒストグラムビン番号を表すデータ値とデータサンプルとの間の比較に基づいて前記近似ヒストグラムビン番号(175)を調整することにより正確なヒストグラムビン番号(180)を得るように構成されたヒストグラムビン調整器(140)とを含む。
【選択図】 図2B
Description
0.01b≦log10P<0.01(b+1)
b≦100(log10P)<b+1
よってb=(100(log10P)の端数切り捨て整数)
しかしながら、底10対数関数においては通常、多量の計算が実施され、取り込まれた全てのサンプルについて実時間で対数計算を実施することは困難である。これは、現在の多くの電子試験・測定装置におけるサンプリング時間が10ナノセカンド(ns)以下等であるように、高速サンプリングの場合、特に困難である。これらのサンプリング速度において対数関数の直接計算を実施する為には必要とされる回路の量という意味でコストがかかり、集積回路(IC)上で使用可能な「フットプリント」即ち表面領域における使用面積も尋常ではなくなる。
=(log2(正規化値165))+(log22E)
=(log2(正規化値165))+ E
=(log2(正規化値165))+(累乗指数160)
図4においては、底2対数近似ルックアップテーブル310を利用して正規化値165の近似底2対数350が生成されている。可能な正規化値165の各々について、対応する近時底2対数350が生成される。底2対数近似ルックアップテーブル310中に必要とされるエントリ数は、ビン番号を予測する目的において意義があると思われる正規化値165中のビットの数による。そして、これは計算されるヒストグラムのビンの数及び間隔に依存する。例えば、図1のヒストグラムの場合、各エントリが7ビットの固定小数点数を含む128エントリを有する底2対数近似ルックアップテーブル310が適正だと思われる。この実施例においては、ルックアップテーブル310のインデックス用に用いられる7ビットは正規化値165の7個の最上位端数ビットである。正規化されたバイナリ値においては、小数点左側の第一のビットが常に最も左にある「1」ビットであり、よってその値を有すると想定することが出来る。例えば、正規化値165が1.0111010の値を持っていた場合、値0111010が底2対数近似ルックアップテーブル310のインデックスとして使用されるものであり、その値でインデックスされた近似底2対数350は、1.0111010の底2対数である。
従って、この場合の変換係数450は(100/(log2(10)))となる。
110 変換器
120 底2対数推定器
130 近似ヒストグラムビン計算機
140 ヒストグラムビン調整器
150、151 データサンプル
155 端数ビット数
160 累乗指数
165 正規化値
170 近似底2対数
175 近似ヒストグラムビン番号
180 正確なヒストグラムビン番号
210 プライオリティエンコーダ
220 減算器
230 乗算ルックアップテーブル
240 乗算器
250 最上位「1」ビットの位置(MSB位置)
255 乗算値
310 底2対数近似ルックアップテーブル
320 加算器
350 近似底2対数
410 乗算器
420 減算器
450 ヒストグラム変換係数
455 2分の1
460 仮の近似ヒストグラムビン番号
510 データ値ルックアップテーブル
520 比較器
530 加算器
550 データ値
Claims (1)
- 指数間隔のビンを持つヒストグラムを計算する為のシステムであって、データサンプルの浮動小数点表示の近似底2対数を生成するように構成された底2対数推定器と、前記近似底2対数に関連する近似ヒストグラムビン番号を計算するように構成された近似ヒストグラムビン計算機と、前記近似ヒストグラムビン番号を表すデータ値と前記データサンプルとの間の比較に基づいて前記近似ヒストグラムビン番号を調整することにより正確なヒストグラムビン番号を得るように構成されたヒストグラムビン調整器とを含むヒストグラム計算システム。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US10/209,978 US20040024801A1 (en) | 2002-07-31 | 2002-07-31 | System and method for computing histograms with exponentially-spaced bins |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2004070947A true JP2004070947A (ja) | 2004-03-04 |
JP2004070947A5 JP2004070947A5 (ja) | 2006-07-27 |
JP4251484B2 JP4251484B2 (ja) | 2009-04-08 |
Family
ID=31187181
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003274730A Expired - Fee Related JP4251484B2 (ja) | 2002-07-31 | 2003-07-15 | ヒストグラム計算システム、電子試験装置及びヒストグラム計算方法 |
Country Status (3)
Country | Link |
---|---|
US (1) | US20040024801A1 (ja) |
JP (1) | JP4251484B2 (ja) |
DE (1) | DE10317915A1 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2020067897A (ja) * | 2018-10-25 | 2020-04-30 | 富士通株式会社 | 演算処理装置、学習プログラム及び学習方法 |
Families Citing this family (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7058540B2 (en) * | 2003-12-15 | 2006-06-06 | Agilent Technologies, Inc. | Method and system for accelerating power complementary cumulative distribution function measurements |
US7606850B2 (en) * | 2005-03-30 | 2009-10-20 | Lockheed Martin Corporation | Method and apparatus for providing a base-2 logarithm approximation to a binary number |
GB2426066A (en) * | 2005-05-13 | 2006-11-15 | Agilent Technologies Inc | Apparatus and method for generating a complementary cumulative distribution function (CCDF) curve |
US7269406B2 (en) | 2005-05-26 | 2007-09-11 | Intel Corporation | Methods and apparatus for providing information indicative of traffic delay of a wireless link |
EP1938268A4 (en) * | 2005-08-29 | 2010-02-17 | Tektronix Inc | MEASURE AND DISPLAY FOR VIDEO TIP JITTER WITH EXPECTED PROBABILITY |
US9697316B1 (en) * | 2011-12-13 | 2017-07-04 | Amazon Technologies, Inc. | System and method for efficient data aggregation with sparse exponential histogram |
KR101949294B1 (ko) | 2012-07-24 | 2019-02-18 | 삼성전자주식회사 | 영상의 히스토그램 축적 계산 장치 및 방법 |
US9802094B2 (en) | 2013-01-24 | 2017-10-31 | Wilson Sporting Goods Co. | Tapered isolating element for a ball bat and system for using same |
US10909177B1 (en) * | 2017-01-17 | 2021-02-02 | Workday, Inc. | Percentile determination system |
US11190419B1 (en) | 2017-05-24 | 2021-11-30 | Amazon Technologies, Inc. | Tunable-granularity multi-level histograms for efficient computer system metric analysis |
US20200110580A1 (en) * | 2018-10-04 | 2020-04-09 | Ca, Inc. | Storing floating point values in integer representations for histogram recording |
US10983888B1 (en) | 2018-12-12 | 2021-04-20 | Amazon Technologies, Inc. | System and method for generating dynamic sparse exponential histograms |
US11188510B2 (en) * | 2020-01-30 | 2021-11-30 | PagerDuty, Inc. | Analytical platform for distributed data |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
GB2046051B (en) * | 1979-03-29 | 1983-01-26 | Philips Electronic Associated | Real time histogram modification system for image processing |
US4774681A (en) * | 1985-03-11 | 1988-09-27 | Tektronix, Inc. | Method and apparatus for providing a histogram |
US4852175A (en) * | 1988-02-03 | 1989-07-25 | Siemens Hearing Instr Inc | Hearing aid signal-processing system |
US5651077A (en) * | 1993-12-21 | 1997-07-22 | Hewlett-Packard Company | Automatic threshold determination for a digital scanner |
JP4323663B2 (ja) * | 2000-02-29 | 2009-09-02 | キヤノン株式会社 | 画像フィルタ回路及び画像フィルタリング方法 |
-
2002
- 2002-07-31 US US10/209,978 patent/US20040024801A1/en not_active Abandoned
-
2003
- 2003-04-17 DE DE10317915A patent/DE10317915A1/de not_active Ceased
- 2003-07-15 JP JP2003274730A patent/JP4251484B2/ja not_active Expired - Fee Related
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2020067897A (ja) * | 2018-10-25 | 2020-04-30 | 富士通株式会社 | 演算処理装置、学習プログラム及び学習方法 |
JP7137067B2 (ja) | 2018-10-25 | 2022-09-14 | 富士通株式会社 | 演算処理装置、学習プログラム及び学習方法 |
Also Published As
Publication number | Publication date |
---|---|
DE10317915A1 (de) | 2004-02-26 |
JP4251484B2 (ja) | 2009-04-08 |
US20040024801A1 (en) | 2004-02-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4251484B2 (ja) | ヒストグラム計算システム、電子試験装置及びヒストグラム計算方法 | |
JP2599545B2 (ja) | 対数を計算するコンピュータ・システム及びコンピュータシステムを動作させる方法 | |
CN110688088A (zh) | 一种面向神经网络的通用非线性激活函数计算装置和方法 | |
US7298296B1 (en) | Real-time sample rate converter having a non-polynomial convolution kernel | |
US7197525B2 (en) | Method and system for fixed point fast fourier transform with improved SNR | |
US6065031A (en) | Log converter utilizing offset and method of use thereof | |
JP3551113B2 (ja) | 除算器 | |
US7809784B2 (en) | Apparatus and method for calculation of divisions and square roots | |
US7606850B2 (en) | Method and apparatus for providing a base-2 logarithm approximation to a binary number | |
JP3003467B2 (ja) | 演算装置 | |
CN112200299A (zh) | 神经网络计算装置、数据处理方法及装置 | |
JP2010067251A (ja) | 許容誤差内の整数除算回路 | |
US11740270B2 (en) | Pattern generator and built-in-self test device including the same | |
CN116388759A (zh) | 一种数字信号杂散检测及校正电路及方法 | |
JP2006287634A (ja) | 信号処理装置、信号処理方法およびノイズ低減装置 | |
JP2006172475A (ja) | 電子回路中で乗算演算または除算演算を行う方法およびその装置 | |
CN113778378A (zh) | 一种求解复数n次方根的装置和方法 | |
Zhang et al. | An Efficient FPGA Design for Fixed-point Exponential Calculation | |
Wenxu et al. | Performance analysis of improved dynamic kernel function in fast Fourier transform | |
CN103297359A (zh) | 同相正交数字基带信号处理方法及装置 | |
CN113515259B (zh) | 一种适用于浮点格式的复数的近似取模实现电路及方法 | |
KR20010067226A (ko) | 인터폴레이션 방법 및 장치 | |
JPH08202533A (ja) | 除算処理装置 | |
JP2005227811A (ja) | 近似回路 | |
KR20070014888A (ko) | 제곱근 계산 장치 및 방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20060608 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20060608 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20070508 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20070514 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20080314 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20080325 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080624 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20081216 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20090115 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20090115 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120130 Year of fee payment: 3 |
|
LAPS | Cancellation because of no payment of annual fees |