JP3389815B2 - Digital calibration method for analog measurement unit - Google Patents

Digital calibration method for analog measurement unit

Info

Publication number
JP3389815B2
JP3389815B2 JP11165597A JP11165597A JP3389815B2 JP 3389815 B2 JP3389815 B2 JP 3389815B2 JP 11165597 A JP11165597 A JP 11165597A JP 11165597 A JP11165597 A JP 11165597A JP 3389815 B2 JP3389815 B2 JP 3389815B2
Authority
JP
Japan
Prior art keywords
digital code
voltage
digital
input
output
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP11165597A
Other languages
Japanese (ja)
Other versions
JPH10300826A (en
Inventor
雅一 知久
Original Assignee
安藤電気株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 安藤電気株式会社 filed Critical 安藤電気株式会社
Priority to JP11165597A priority Critical patent/JP3389815B2/en
Publication of JPH10300826A publication Critical patent/JPH10300826A/en
Application granted granted Critical
Publication of JP3389815B2 publication Critical patent/JP3389815B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Tests Of Electronic Circuits (AREA)
  • Analogue/Digital Conversion (AREA)

Description

【発明の詳細な説明】Detailed Description of the Invention

【0001】[0001]

【発明の属する技術分野】本発明は、ICテスタ等のア
ナログ測定ユニットのキャリブレーション方法に関す
る。
BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to a calibration method for an analog measurement unit such as an IC tester.

【0002】[0002]

【従来の技術】従来におけるアナログ測定ユニットのキ
ャリブレーションを行うための回路構成図を図5に示
す。図5の20はキャリブレーションデータを取得する
ための設定データを出力するテストコントローラ、21
はテストコントローラ20とアナログ測定ユニットとの
間に設けられたI/O制御回路である。
2. Description of the Related Art FIG. 5 shows a circuit configuration diagram for calibrating a conventional analog measurement unit. Reference numeral 20 in FIG. 5 denotes a test controller that outputs setting data for acquiring calibration data, 21
Is an I / O control circuit provided between the test controller 20 and the analog measurement unit.

【0003】22a〜22eはレジスタ、23はデジタ
ル・アナログ変換器(以下、「DAC」という)、24
はアナログ・デジタル変換器(以下、「ADC」とい
う)、25〜28は調整用DAC、29は設定値出力用
のアナログ回路、30はユニット入出力点における電圧
検出用のアナログ回路であり、これらによってアナログ
測定ユニットが構成されている。そして、テストコント
ローラ20から供給されるデジタルコードデータに応じ
た電圧を図中のユニット入出力点にて発生させると共
に、ユニット入出力点に印加された電圧をデジタル信号
に変換してテストコントローラ20側へ伝達する。
22a to 22e are registers, 23 is a digital / analog converter (hereinafter referred to as "DAC"), 24
Is an analog-digital converter (hereinafter referred to as “ADC”), 25 to 28 are adjustment DACs, 29 is an analog circuit for setting value output, 30 is an analog circuit for voltage detection at a unit input / output point, An analog measurement unit is configured by. Then, a voltage according to the digital code data supplied from the test controller 20 is generated at the unit input / output point in the figure, and the voltage applied to the unit input / output point is converted into a digital signal to test controller 20 side. Communicate to.

【0004】アナログ測定ユニットにおいては、DAC
23がゲイン及びオフセット調整用端子を備えており、
ゲイン調整用端子にゲイン調整用DAC25、オフセッ
ト調整用端子にオフセット調整用DAC26が接続さ
れ、これらによってDAC23の補正調整を行うように
なっている。すなわち、DAC23のオフセット調整
は、テストコントローラ20から“−FULL”コード
データをレジスタ22bに書込んでこれをDAC23に
印加し、このときのユニット入出力点における電圧測定
値がDAC23の出力振幅の最大負電圧となるように、
テストコントローラ20からレジスタ22cにデジタル
コードデータを書込み、オフセット調整用DAC26の
入力に印加してオフセットを補正することによって行
う。
In the analog measurement unit, the DAC
23 has terminals for gain and offset adjustment,
The gain adjusting terminal is connected to the gain adjusting DAC 25, and the offset adjusting terminal is connected to the offset adjusting DAC 26, so that the correction adjustment of the DAC 23 is performed. That is, the offset adjustment of the DAC 23 is performed by writing "-FULL" code data from the test controller 20 into the register 22b and applying this to the DAC 23, and the voltage measured value at the unit input / output point at this time is the maximum output amplitude of the DAC 23. So that it has a negative voltage
This is performed by writing digital code data from the test controller 20 to the register 22c and applying it to the input of the offset adjusting DAC 26 to correct the offset.

【0005】又、DAC23のゲイン調整は、テストコ
ントローラ20から“+FULL”コードデータをレジ
スタ22bに書込んでこれをDAC23に印加し、この
ときのユニット入出力点における電圧測定値がDAC2
3の出力振幅の最大正電圧となるように、テストコント
ローラ20からレジスタ22aにデジタルコードデータ
を書込み、ゲイン調整用DAC25の入力に印加してゲ
インを補正することによって行う。
To adjust the gain of the DAC 23, "+ FULL" code data is written from the test controller 20 to the register 22b and applied to the DAC 23. At this time, the measured voltage value at the unit input / output point is DAC2.
This is performed by writing digital code data from the test controller 20 to the register 22a so as to obtain the maximum positive voltage of the output amplitude of 3, and applying it to the input of the gain adjusting DAC 25 to correct the gain.

【0006】一方、ADC24もゲイン及びオフセット
調整用端子を備えており、ゲイン調整用端子にゲイン調
整用DAC27、オフセット調整用端子にオフセット調
整用DAC28が接続され、これらによってADC24
の補正調整を行うようになっている。すなわち、ADC
24のオフセット調整は、ユニット入出力点にADC2
4の入力振幅の最大負電圧を印加し、このときのADC
24の出力コードが“−FULL”コードになるよう
に、テストコントローラ20からレジスタ22eにデジ
タルコードデータを書込み、オフセット調整用DAC2
8の入力に印加してオフセットを補正することによって
行う。
On the other hand, the ADC 24 is also provided with a gain and offset adjusting terminal. A gain adjusting terminal is connected to a gain adjusting DAC 27 and an offset adjusting terminal is connected to an offset adjusting DAC 28.
It is designed to make correction adjustments. That is, ADC
Offset adjustment of 24 is done by ADC2
The maximum negative voltage of the input amplitude of 4 is applied, and the ADC at this time
The digital code data is written from the test controller 20 to the register 22e so that the output code of 24 becomes the "-FULL" code, and the DAC2 for offset adjustment is used.
8 to correct the offset by applying to 8 inputs.

【0007】又、ADC24のゲイン調整は、ユニット
入出力点にADC24の入力振幅の最大正電圧を印加
し、このときのADC24の出力コードが“+FUL
L”コードになるように、テストコントローラ20から
レジスタ22dにデジタルコードデータを書込み、オフ
セット調整用DAC27の入力に印加してゲインを補正
することによって行う。
Further, the gain of the ADC 24 is adjusted by applying the maximum positive voltage of the input amplitude of the ADC 24 to the unit input / output point, and the output code of the ADC 24 at this time is "+ FUL.
This is performed by writing digital code data from the test controller 20 to the register 22d so as to obtain an L ″ code, and applying the digital code data to the input of the offset adjusting DAC 27 to correct the gain.

【0008】[0008]

【発明が解決しようとする課題】上述した従来のキャリ
ブレーションを行うための回路構成においては、オフセ
ット及びゲイン調整用にそれぞれDACと、それらDA
Cの印加コード用のレジスタとが必要となり、回路構成
の煩雑化、大型化等を招くという問題点を有していた。
又、DACあるいはADCに備えるオフセット、ゲイン
調整用端子での補正は調整範囲が限られることから、ユ
ニット入出力点までのアナログ回路に高精度な部品が必
要となり、高価なものとなる。更に、“+FULL”と
“−FULL”の2点間のみの補正データを用いるもの
であることから、補正調整をしてもその精度があまりよ
くないという問題もある。
In the above-described conventional circuit configuration for performing the calibration, the DAC for adjusting the offset and the DAC for adjusting the gain are provided.
A register for the C application code is required, and there is a problem that the circuit configuration becomes complicated and the size is increased.
In addition, since the adjustment range of the offset and gain adjustment terminals provided in the DAC or ADC is limited, highly accurate parts are required in the analog circuit up to the input / output point of the unit, which is expensive. Further, since the correction data between only two points of "+ FULL" and "-FULL" is used, there is a problem that the accuracy is not so good even if the correction adjustment is performed.

【0009】本発明はこのような事情に鑑みてなされた
もので、キャリブレーションのための調整用回路を削除
し、所定の演算結果に基づいて調整を行うことで補正の
調整範囲を広げることを可能とすると共に、回路構成を
高精度な部品を必要としない安価なものとし、かつ、複
数の補正データを備えることで精度の高いキャリブレー
ションを行うことができるアナログ測定ユニットのデジ
タルキャリブレーション方法を提供することを目的とす
る。
The present invention has been made in view of such circumstances, and it is possible to widen the adjustment range of correction by eliminating the adjustment circuit for calibration and performing adjustment based on a predetermined calculation result. A digital calibration method for an analog measurement unit that enables high-accuracy calibration by making possible a low-cost circuit configuration that does not require high-precision parts, and by providing multiple correction data. The purpose is to provide.

【0010】[0010]

【課題を解決するための手段】請求項1記載の発明は、
供給されたデジタルコードに対応する電圧を入出力点へ
出力するDA変換手段を有するアナログ測定ユニットの
デジタルキャリブレーション方法であって、0のデジタ
ルコード、正側のデジタルコード、負側のデジタルコー
ドを供給したときの前記入出力点における電圧をそれぞ
れ測定する第1の過程と、供給されるデジタルコードに
対する前記入出力点における電圧の理想特性と同一の勾
配を有し、0のデジタルコードに対して前記第1の過程
で測定された電圧を示す特性において、電圧が0となる
点のデジタルコードをオフセットデジタルコードとして
求める第2の過程と、前記理想特性の勾配と、デジタル
コードに対して前記第1の過程で測定された電圧を示す
特性の勾配とに基づき、供給するデジタルコードのゲイ
ン補正を求める第3の過程とを有し、前記オフセットデ
ジタルコード及び前記ゲイン補正に基づいて前記DA変
換手段へ供給するデジタルコードを補正して前記入出力
点における電圧を補正することを特徴としている。
The invention according to claim 1 is
A digital calibration method for an analog measurement unit having a DA conversion means for outputting a voltage corresponding to a supplied digital code to an input / output point, wherein a digital code of 0, a positive digital code, and a negative digital code are The first step of measuring the voltage at the input / output point when supplied, and the same slope as the ideal characteristic of the voltage at the input / output point for the supplied digital code, and for the digital code of 0 In the characteristic indicating the voltage measured in the first step, the second step of obtaining a digital code at a point where the voltage becomes 0 as an offset digital code, the slope of the ideal characteristic, and the digital code with the first step The gain correction of the supplied digital code is obtained based on the slope of the characteristic indicating the voltage measured in the first step. And a process is characterized by correcting the voltage at the input point by correcting a digital code supplied to the DA conversion unit based on the offset digital code and said gain correction.

【0011】請求項2記載の発明は、入出力点における
電圧に対応するデジタルコードを出力するAD変換手段
を有するアナログ測定ユニットのデジタルキャリブレー
ション方法であって、0の電圧、正側のデジタルコード
に対する理想電圧、負側のデジタルコードに対する理想
電圧を前記入出力点に印加したときに前記AD変換手段
から出力されるデジタルコードをそれぞれ測定する第4
の過程と、前記入出力点への印加電圧に対する前記AD
変換手段から出力されるデジタルコードを示す理想特性
の勾配と、前記第4の過程で印加した電圧に対して測定
されたデジタルコードを示す特性の勾配とに基づき、前
記AD変換手段から出力されるデジタルコードのゲイン
補正を求める第5の過程とを有し、前記第4の過程で0
の電圧を印加したときに測定されたデジタルコードをオ
フセットデジタルコードとし、これと前記ゲイン補正と
に基づいて前記AD変換手段から出力されたデジタルコ
ードを補正して前記入出力点に印加された電圧に対応す
るデジタルコードを得ることを特徴としている。
According to a second aspect of the present invention, there is provided a digital calibration method for an analog measurement unit having AD conversion means for outputting a digital code corresponding to a voltage at an input / output point, wherein a voltage of 0 and a digital code on the positive side are provided. And an ideal voltage for the negative side digital code and an ideal voltage for the negative side digital code are applied to the input / output points, respectively.
And the AD with respect to the voltage applied to the input / output point
Based on the slope of the ideal characteristic indicating the digital code output from the converting unit and the slope of the characteristic indicating the digital code measured with respect to the voltage applied in the fourth step, the AD converting unit outputs the output. And a fifth step of obtaining the gain correction of the digital code, wherein 0 is obtained in the fourth step.
The digital code measured when the voltage is applied is an offset digital code, and the digital code output from the AD conversion means is corrected based on the offset digital code and the voltage applied to the input / output point. It is characterized by obtaining a digital code corresponding to.

【0012】請求項3記載の発明は、供給されたデジタ
ルコードに対応する電圧を入出力点へ出力するDA変換
手段及び入出力点における電圧に対応するデジタルコー
ドを出力するAD変換手段を有するアナログ測定ユニッ
トのデジタルキャリブレーション方法であって、請求項
1記載の第1、第2及び第3の過程を有し、前記第2の
過程で求めたオフセットデジタルコード及び前記第3の
過程で求めたゲイン補正に基づいて前記DA変換手段へ
供給するデジタルコードを補正して前記入出力点におけ
る電圧を補正すると共に、請求項2記載の第4及び第5
の過程を有し、前記第4の過程で0の電圧を印加したと
きに測定されたデジタルコードをオフセットデジタルコ
ードとし、これと前記第5の過程で求めたゲイン補正と
に基づいて前記AD変換手段から出力されたデジタルコ
ードを補正して前記入出力点に印加された電圧に対応す
るデジタルコードを得ることを特徴としている。
According to a third aspect of the present invention, an analog having DA conversion means for outputting a voltage corresponding to the supplied digital code to the input / output point and AD conversion means for outputting a digital code corresponding to the voltage at the input / output point. A method for digitally calibrating a measuring unit, comprising the first, second and third steps according to claim 1, the offset digital code obtained in the second step and the offset digital code obtained in the third step. The digital code supplied to the DA conversion means is corrected based on the gain correction to correct the voltage at the input / output point, and the fourth and fifth aspects of the present invention are also described.
And a digital code measured when a voltage of 0 is applied in the fourth step is used as an offset digital code, and the AD conversion is performed based on the offset digital code and the gain correction obtained in the fifth step. The digital code output from the means is corrected to obtain a digital code corresponding to the voltage applied to the input / output point.

【0013】請求項4記載の発明は、請求項1〜3のい
ずれかの項記載のアナログ測定ユニットのデジタルキャ
リブレーション方法において、測定した電圧若しくはデ
ジタルコードそれぞれの間の領域について前記ゲイン補
正を求め、前記DA変換手段へ供給するデジタルコード
若しくは前記AD変換手段から出力されたデジタルコー
ドを、当該デジタルコードが存する領域について求めた
ゲイン補正に基づいて補正することを特徴としている。
According to a fourth aspect of the present invention, in the digital calibration method for an analog measuring unit according to any one of the first to third aspects, the gain correction is obtained for a region between measured voltage or digital code. The digital code supplied to the DA conversion means or the digital code output from the AD conversion means is corrected based on the gain correction obtained for the area in which the digital code exists.

【0014】[0014]

【発明の実施の形態】以下に本発明の実施の形態につい
て説明する。図1は本発明の一実施形態によるアナログ
測定ユニットのデジタルキャリブレーション方法を実行
する回路構成を示した図である。尚、アナログ測定ユニ
ットは、試験対象となるIC等のピンの数に応じて設け
られているものであるが、図が煩雑となるのを避けるた
め、ここでは1つのアナログ測定ユニットのみを示す。
BEST MODE FOR CARRYING OUT THE INVENTION Embodiments of the present invention will be described below. FIG. 1 is a diagram showing a circuit configuration for executing a digital calibration method for an analog measurement unit according to an embodiment of the present invention. Although the analog measurement unit is provided according to the number of pins of the IC or the like to be tested, only one analog measurement unit is shown here in order to avoid complication of the drawing.

【0015】この図において、1はテストコントローラ
であり、I/O制御回路2を介してキャリブレーション
を行うためのキャリブレーションデータ取得情報及び演
算器3の制御信号を出力する。I/O制御回路2は、テ
ストコントローラ1と後述する各構成要素との間に設け
られ、コントローラ1のデータの入出力制御を行う。
In the figure, reference numeral 1 is a test controller, which outputs calibration data acquisition information for performing calibration through the I / O control circuit 2 and a control signal for the arithmetic unit 3. The I / O control circuit 2 is provided between the test controller 1 and each component described later, and controls input / output of data of the controller 1.

【0016】演算器3は、テストコントローラ1からの
制御信号やメモリ4に記憶された情報等に基づいてキャ
リブレーションデータ取得のための各種演算処理(後
述)を行う。4はテストコントローラ1からのキャリブ
レーションデータ取得情報及び演算器3からの演算結果
等を格納するメモリである。5は演算器3から出力され
るアドレス及びライト/リード信号により、どのDA
C、ADCを動作させるかの制御信号を出力するデコー
ド回路である。
The arithmetic unit 3 performs various arithmetic processes (to be described later) for acquiring calibration data based on the control signal from the test controller 1 and the information stored in the memory 4. Reference numeral 4 is a memory for storing the calibration data acquisition information from the test controller 1, the calculation result from the calculator 3, and the like. 5 indicates which DA depends on the address and the write / read signal output from the arithmetic unit 3.
This is a decoding circuit that outputs a control signal indicating whether to operate the C and ADC.

【0017】6は演算器3からの設定データとデコード
回路5からの制御信号(ライト信号)を入力とするDA
Cであり、制御信号を受けたときに供給されている設定
データをアナログ信号に変換して後段のアナログ回路7
へ出力する。ここに、アナログ回路7は、DAC6から
出力されたアナログ信号により、設定データに対応する
設定値電圧をユニット入出力点に出力するための回路で
あり、入力抵抗7a、フォースアンプ7b、バッファ7
c、センスアンプ7d及び帰還抵抗7eによって構成さ
れている。
A DA 6 receives the setting data from the arithmetic unit 3 and the control signal (write signal) from the decoding circuit 5.
C, which converts the setting data supplied when the control signal is received into an analog signal and converts it to the analog circuit 7 in the subsequent stage.
Output to. The analog circuit 7 is a circuit for outputting the set value voltage corresponding to the setting data to the unit input / output point by the analog signal output from the DAC 6, and includes the input resistor 7a, the force amplifier 7b, and the buffer 7
c, a sense amplifier 7d, and a feedback resistor 7e.

【0018】8はデコード回路5からの制御信号(リー
ド信号)を入力とするADCであり、制御信号を受けた
ときにアナログ回路9を介して供給されている電圧に応
じたデジタルコードを出力する。ここに、アナログ回路
9は、ユニット入出力点における電圧をADC8で検出
するための回路であり、電流検出抵抗9a及び電圧検出
アンプ9bによって構成されている。
An ADC 8 receives a control signal (read signal) from the decoding circuit 5 and outputs a digital code corresponding to the voltage supplied through the analog circuit 9 when receiving the control signal. . Here, the analog circuit 9 is a circuit for detecting the voltage at the unit input / output point by the ADC 8, and is configured by a current detection resistor 9a and a voltage detection amplifier 9b.

【0019】10はデジタルボルトメーター(以下、
「DVM」という)であり、ユニット入出力点における
電圧を測定し、その測定値をデジタル信号に変換してテ
ストコントローラ1へ供給する。
10 is a digital voltmeter (hereinafter,
"DVM"), measures the voltage at the input / output points of the unit, converts the measured value into a digital signal, and supplies the digital signal to the test controller 1.

【0020】次に、上記構成による動作を図2のキャリ
ブレーションデータ取得フローチャートを参照して説明
する。図2は、図1のアナログ測定ユニットに搭載して
いるDAC6及びADC8の補正データを取得するまで
の処理を示したフローチャートである。
Next, the operation of the above configuration will be described with reference to the calibration data acquisition flow chart of FIG. FIG. 2 is a flowchart showing a process until the correction data of the DAC 6 and the ADC 8 mounted on the analog measurement unit of FIG. 1 is acquired.

【0021】図において、キャリブレーションデータ取
得のための処理が開始されると、まず、ステップS1で
テストコントローラ1が測定対象とするアナログ測定ユ
ニットを選択し、その選択したアナログ測定ユニット
(以下、「対象ユニット」という)を特定するデータ及
び当該対象ユニットのパラメータ設定データからなるキ
ャリブレーションデータ取得情報をメモリ4に書込む。
In the figure, when the process for acquiring the calibration data is started, first, in step S1, the test controller 1 selects an analog measurement unit to be measured, and the selected analog measurement unit (hereinafter referred to as " Calibration data acquisition information including data for specifying "target unit") and parameter setting data of the target unit is written in the memory 4.

【0022】続いて、テストコントローラ1は、演算器
3に対して図中ステップSa1〜Sa4に示す“演算器処理
”の実行を要求するキャリブレーションデータ取得実
行命令を出す(ステップS2)。これは、上記キャリブ
レーションデータ取得情報中のパラメータ設定データに
基づく印加コードをDAC6にセットすることを要求す
るものであり、これにより、ステップSa1からの処理が
演算器3にて開始される。
Subsequently, the test controller 1 issues a calibration data acquisition execution command requesting the execution of the "operation unit processing" shown in steps Sa1 to Sa4 in the figure to the operation unit 3 (step S2). This requests that the application code based on the parameter setting data in the calibration data acquisition information be set in the DAC 6, whereby the processing from step Sa1 is started by the computing unit 3.

【0023】ステップSa1では、演算器3は、演算器処
理中であることを示すフラグをセットする。これ以降、
テストコントローラ1は、この演算器処理中フラグを監
視し(ステップS3)、演算器3での“演算器処理”
が終了するまで待機する。
In step Sa1, the arithmetic unit 3 sets a flag indicating that arithmetic unit processing is being performed. After this,
The test controller 1 monitors this arithmetic unit processing flag (step S3), and the "arithmetic unit processing" in the arithmetic unit 3 is performed.
Wait until the end.

【0024】次に、演算器3は、テストコントローラ1
がステップS1でメモリ4に書込んだキャリブレーショ
ンデータ取得情報をリードし(ステップSa2)、そのリ
ードデータに基づき、印加コードを対象ユニットのDA
C6へ出力すると共に、アドレス及びライト信号をデコ
ード回路5へ出力する。これにより、デコード回路5か
らDAC6を動作させる制御信号を出力させ、DAC6
に当該印加コードをセットして対象ユニットから電圧を
出力させる(ステップSa3)。
Next, the arithmetic unit 3 is the test controller 1
Reads the calibration data acquisition information written in the memory 4 in step S1 (step Sa2), and based on the read data, applies the applied code to the DA of the target unit.
The address and write signals are output to the decode circuit 5 as well as output to C6. This causes the decoding circuit 5 to output a control signal for operating the DAC 6,
Then, the application code is set to and the voltage is output from the target unit (step Sa3).

【0025】その後、演算器3は、演算器処理中フラグ
をクリアして“演算器処理”を終了する(ステップS
a4)。すると、テストコントローラ1は、演算器3の処
理が終了したことを認識してステップS3からステップ
S4の処理へと進み、対象ユニットの入出力点における
電圧をDVM10の測定データにより取得してメモリ4
に書込む(ステップS5)。
Thereafter, the arithmetic unit 3 clears the arithmetic unit processing flag and ends the "arithmetic unit processing" (step S).
a4). Then, the test controller 1 recognizes that the processing of the arithmetic unit 3 is completed, and proceeds to the processing of step S3 to step S4 to acquire the voltage at the input / output point of the target unit from the measured data of the DVM 10 and store it in the memory 4
Write in (step S5).

【0026】次に、ステップS6でテストコントローラ
1が対象ユニットの全測定点(測定を行うべき印加コー
ド)のデータを取得したかを確認する。そして、データ
を取得していない測定点があればステップS1へ戻り、
パラメータ設定データを変更して上記ステップS1〜S5
(及びSa1〜Sa4)の処理を繰り返し、全測定点でのデ
ータ取得が終了していればステップS7の処理へと進
む。ここで、測定点としては、“0”、“+FUL
L”、“−FULL”のデジタルコードデータを印加コ
ードに用いる場合を予め設定しておく。又、必要に応じ
てこれら以外の複数のデジタルコードデータをそれぞれ
印加コードに用いる場合も予め選んで設定しておく。
Next, in step S6, it is confirmed whether the test controller 1 has acquired the data of all the measurement points (application codes to be measured) of the target unit. Then, if there is a measurement point for which data has not been acquired, the procedure returns to step S1,
Change the parameter setting data and perform the above steps S1 to S5.
The processing of (and Sa1 to Sa4) is repeated, and if the data acquisition at all measurement points is completed, the process proceeds to step S7. Here, the measurement points are "0", "+ FUL"
The case where digital code data of L "and" -FULL "is used for the application code is set in advance. Also, when a plurality of digital code data other than these are used for the application code, they are selected and set in advance. I'll do it.

【0027】ステップS7では、テストコントローラ1
は、演算器3に対して図中ステップSb1〜Sb5に示す
“演算器処理”の実行を要求するキャリブレーション
データ演算命令を出す。これは、上述の測定によって得
られたデータによるオフセット補正及びゲイン補正のた
めのキャリブレーションデータ演算の実行を要求するも
のであり、これにより、ステップSb1からの処理が演算
器3にて開始される。
In step S7, the test controller 1
Issues a calibration data operation instruction requesting the execution of the "operation unit processing" shown in steps Sb1 to Sb5 in the figure to the operation unit 3. This requires execution of calibration data calculation for offset correction and gain correction based on the data obtained by the above-described measurement, and the processing from step Sb1 is started by the calculation unit 3 by this. .

【0028】ステップSb1では、演算器3は、演算器処
理中であることを示すフラグをセットする。これ以降、
テストコントローラ1は、この演算器処理中フラグを監
視し(ステップS8)、演算器3での“演算器処理”
が終了するまで待機する。
In step Sb1, the arithmetic unit 3 sets a flag indicating that arithmetic unit processing is being performed. After this,
The test controller 1 monitors this arithmetic unit processing in-progress flag (step S8), and "arithmetic unit processing" in the arithmetic unit 3 is performed.
Wait until the end.

【0029】次に、演算器3は、テストコントローラ1
がステップS5でメモリ4に書込んだ測定データをリー
ド(ステップSb2)し、ステップSb3へ進んで各測定点
のオフセット補正及びゲイン補正を演算するキャリブレ
ーションデータ演算を行う。このキャリブレーションデ
ータ演算の内容については後に詳細に説明する。
Next, the arithmetic unit 3 is the test controller 1
Reads the measurement data written in the memory 4 in step S5 (step Sb2) and proceeds to step Sb3 to perform calibration data calculation for calculating offset correction and gain correction of each measurement point. The contents of this calibration data calculation will be described later in detail.

【0030】続いて、演算器3はステップSb3における
キャリブレーション演算の結果をメモリ4に書込み(ス
テップSb4)、ステップSb5で演算器処理中フラグをク
リアして“演算器処理”を終了する。すると、テスト
コントローラ1は、演算器3の処理が終了したことを認
識してステップS8からステップS9の処理へと進む。
Subsequently, the arithmetic unit 3 writes the result of the calibration calculation in step Sb3 to the memory 4 (step Sb4), clears the arithmetic unit processing flag in step Sb5, and ends the "arithmetic unit processing". Then, the test controller 1 recognizes that the processing of the arithmetic unit 3 is completed, and proceeds from step S8 to step S9.

【0031】ステップS9では、テストコントローラ1
が必要なすべてのキャリブレーションデータを取得した
かを確認する。そして、キャリブレーションデータを取
得すべきアナログ測定ユニットで未だ上述の測定及び演
算処理を行っていないものがあればステップS1へ戻
り、対象ユニット及びパラメータ設定データを変更して
上記ステップS1〜S8(及びSa1〜Sa4、Sb1〜Sb5)
の処理を繰り返し、必要なすべてのキャリブレーション
データの取得が終了していれば図2のキャリブレーショ
ンデータ取得処理を終了する。
In step S9, the test controller 1
Make sure that you have acquired all the required calibration data. Then, if there is an analog measurement unit for which the calibration data is to be acquired, which has not yet been subjected to the above-described measurement and arithmetic processing, the process returns to step S1, and the target unit and the parameter setting data are changed to perform the above steps S1 to S8 (and Sa1 to Sa4, Sb1 to Sb5)
The processing is repeated, and if acquisition of all necessary calibration data is completed, the calibration data acquisition processing of FIG. 2 is ended.

【0032】次に、上記回路構成によるキャリブレーシ
ョンデータ取得処理におけるキャリブレーションデータ
演算(図2のステップSb3)の内容について、図3を参
照して詳細に説明する。図3は、図1に示したDAC6
のオフセット及びゲイン調整の関係を示す図である。
Next, the contents of the calibration data calculation (step Sb3 in FIG. 2) in the calibration data acquisition process with the above circuit configuration will be described in detail with reference to FIG. FIG. 3 shows the DAC 6 shown in FIG.
It is a figure which shows the relationship of offset and gain adjustment of.

【0033】この図において、b点はデジタルコード
“0”を印加したときのユニット入出力点における測定
電圧を示し、c点はデジタルコード“+FULL”を印
加したときのユニット入出力点における測定電圧を示
し、d点はデジタルコード“−FULL”を印加したと
きのユニット入出力点における測定電圧を示している。
In this figure, point b shows the measured voltage at the unit input / output point when the digital code "0" is applied, and point c shows the measured voltage at the unit input / output point when the digital code "+ FULL" is applied. And point d shows the measured voltage at the unit input / output point when the digital code "-FULL" is applied.

【0034】破線OはDAC6の理想特性を示してい
る。e点は理想特性の傾きでb点を通る直線(点線P)
において電圧が0ボルトとなる点であり、このe点が対
応するデジタルコードがオフセットデジタルコードに相
当することとなる。ゲイン補正Aはb点とc点の2点間
を結んだ直線の傾きと理想特性の傾きの差を示し、ゲイ
ン補正Bはb点とd点の2点間を結んだ直線の傾きと理
想特性の傾きの差を示す。
A broken line O shows the ideal characteristic of the DAC 6. Point e is a straight line passing through point b with the inclination of the ideal characteristic (dotted line P)
At the point where the voltage becomes 0 V, the digital code corresponding to this point e corresponds to the offset digital code. Gain correction A indicates the difference between the slope of the straight line connecting the two points b and c and the slope of the ideal characteristic, and gain correction B indicates the slope of the straight line connecting the two points b and d and the ideal. The difference in the slope of the characteristics is shown.

【0035】キャリブレーションデータ演算では、以上
の測定データをもとに、DAC6のオフセットデジタル
コード、ゲイン補正A,Bの演算を行う。まず、理想特
性(破線O)の傾きは、 (理想特性の傾き)=(“+FULL”のデジタルコード)/(“+FULL” の理想電圧) ・・・・・(1) で表される。尚、ここでは演算処理の便宜上、電圧の変
化に対するデジタルコードの変化分を傾きとしている。
従って、点線Pは、 (測定電圧)={1/(理想特性の傾き)}×(デジタルコード)+(b点の測 定電圧) ・・・・・(2) で表される。オフセットデジタルコードは、この(2)
式において測定電圧が0ボルトとなるデジタルコードで
ある。そこで、(1)式と(2)式からオフセットデジ
タルコードを (オフセット =−(b点の測定電圧)×(理想特性の傾き) デジタルコード) =−(b点の測定電圧)×(“+FULL”のデジタルコー ド)/(“+FULL”の理想電圧) ・・・・・(3) として求める。
In the calibration data calculation, the offset digital code of the DAC 6 and the gain corrections A and B are calculated based on the above measurement data. First, the slope of the ideal characteristic (broken line O) is represented by (slope of ideal characteristic) = (digital code of "+ FULL") / (ideal voltage of "+ FULL") (1). Note that, here, for convenience of calculation processing, the change amount of the digital code with respect to the change of the voltage is used as the slope.
Therefore, the dotted line P is represented by (measurement voltage) = {1 / (gradient of ideal characteristic)} × (digital code) + (measured voltage at point b) (2). Offset digital code is this (2)
It is a digital code whose measured voltage is 0 volt in the formula. Therefore, from equations (1) and (2), the offset digital code is (offset = − (measurement voltage at point b) × (ideal characteristic slope) digital code) = − (measurement voltage at point b) × (“+ FULL "Digital code) / (ideal voltage of" + FULL ") ... (3)

【0036】次に、b点とc点の2点間を結んだ直線の
傾きは、 (b−c間の傾き)=(“+FULL”のデジタルコード)/(c点の測定電圧 −b点の測定電圧) ・・・・・(4) で表される。そこで、(1)式と(4)式からゲイン補
正Aを (ゲイン補正A)=(理想特性の傾き)/(b−c間の傾き) ={(“+FULL”のデジタルコード)/(“+FULL” の理想電圧)}/{(“+FULL”のデジタルコード)/ (c点の測定電圧−b点の測定電圧)} ・・・・・(5) として求める。
Next, the slope of the straight line connecting the points b and c is (slope between b and c) = (digital code of "+ FULL") / (measured voltage at point c-point b) Measured voltage of ・ ・ ・ ・ ・ ・ ・ ・ (4) Therefore, the gain correction A is calculated from the equations (1) and (4) as follows: (gain correction A) = (inclination of ideal characteristic) / (inclination between b and c) = {(digital code of “+ FULL”) / (“ (Ideal voltage of + FULL)) / {(digital code of “+ FULL”) / (measured voltage at point c−measured voltage at point b)} (5)

【0037】又、b点とd点の2点間を結んだ直線の傾
きは、 (b−d間の傾き)=(“−FULL”のデジタルコード)/(b点の測定電圧 −d点の測定電圧) ・・・・・(6) で表される。そこで、(1)式と(6)式からゲイン補
正Bを (ゲイン補正B)=(理想特性の傾き)/(b−d間の傾き) ={(“+FULL”のデジタルコード)/(“+FULL” の理想電圧)}/{(“−FULL”のデジタルコード)/ (b点の測定電圧−d点の測定電圧)} ・・・・・(7) として求める。
The slope of the straight line connecting the two points b and d is (slope between b and d) = (digital code of "-FULL") / (measured voltage at point b-d point Measured voltage of ・ ・ ・ ・ ・ ・ ・ ・ (6) Therefore, the gain correction B is calculated from the equations (1) and (6) as follows: (gain correction B) = (slope of ideal characteristic) / (slope between b and d) = {(digital code of “+ FULL”) / (“ + (FULL) "ideal voltage)} / {("-FULL "digital code) / (measured voltage at point b-measured voltage at point d)} (7)

【0038】このようにして求めたオフセットデジタル
コード、ゲイン補正A及びゲイン補正Bをメモリ4に格
納しておく。そして、アナログ測定ユニットから電圧を
出力する際には、これらの補正データでデジタルコード
を補正してユニット入出力点における電圧を補正する。
The offset digital code, the gain correction A, and the gain correction B thus obtained are stored in the memory 4. Then, when the voltage is output from the analog measurement unit, the digital code is corrected by these correction data to correct the voltage at the input / output point of the unit.

【0039】ここで、オフセットデジタルコード、ゲイ
ン補正A及びゲイン補正Bを用いた補正は、測定点の2
点間を結ぶ直線を補正することに相当する。従って、上
述したように“0”、“+FULL”及び“−FUL
L”のデジタルコードデータ以外の複数のデジタルコー
ドデータを印加コードとした測定点についてもキャリブ
レーションデータを取得しておき、それらの測定点から
適当な2点を選び、上記同様の演算によって当該2測定
点間を結ぶ直線を補正するオフセットデジタルコード及
びゲイン補正を求めることとしてもよい。すなわち、複
数の測定電圧を取得することで複数のオフセットデジタ
ルコードとゲイン補正のデータを備え、それぞれの測定
にて設定したデジタルコードの2点間に対応する補正デ
ータとして用いることとしてもよいのである。
Here, the correction using the offset digital code, the gain correction A and the gain correction B is performed at the measurement point 2
This is equivalent to correcting the straight line connecting the points. Therefore, as described above, "0", "+ FULL", and "-FUL"
Calibration data is also acquired for measurement points using a plurality of digital code data other than L ″ digital code data as applied codes, and appropriate two points are selected from these measurement points, and the same calculation is performed for the two points. It is also possible to obtain an offset digital code and a gain correction for correcting the straight line connecting the measurement points, that is, by obtaining a plurality of measurement voltages, a plurality of offset digital codes and gain correction data are provided, and each measurement voltage is provided. It may be used as correction data corresponding to two points of the digital code set by the above.

【0040】次に、図1のADC8の補正データ(オフ
セットデジタルコード及びゲイン補正)を得る処理につ
いて説明する。図4は、ADC8のオフセット及びゲイ
ン調整の関係を示す図である。
Next, the process of obtaining the correction data (offset digital code and gain correction) of the ADC 8 of FIG. 1 will be described. FIG. 4 is a diagram showing the relationship between the offset and gain adjustment of the ADC 8.

【0041】この図において、b1点はユニット入出力
点に0ボルトの電圧を印加したときのデジタルコードを
示している。このデジタルコードの測定では、まず、ユ
ニット入出力点に0ボルトの電圧を印加し、演算器3が
アドレス及びリード信号をデコード回路5へ出力してデ
コード回路5にADC8を動作させる制御信号を出力さ
せる。そして、このときにアナログ回路9を介して供給
されている電圧に応じたデジタルコードをADC8に出
力させ、これを演算器3にて受けることによってb1点
におけるデジタルコードを測定する。
In this figure, point b1 shows a digital code when a voltage of 0 volt is applied to the unit input / output point. In the measurement of this digital code, first, a voltage of 0 volt is applied to the unit input / output point, the arithmetic unit 3 outputs an address and a read signal to the decoding circuit 5, and outputs a control signal for operating the ADC 8 to the decoding circuit 5. Let Then, at this time, a digital code corresponding to the voltage supplied via the analog circuit 9 is output to the ADC 8, and the arithmetic unit 3 receives the digital code to measure the digital code at the point b1.

【0042】尚、このような測定及び以下に説明する演
算処理は、テストコントローラ1が測定対象とするアナ
ログ測定ユニットを選択し、その選択したアナログ測定
ユニットを特定するデータ及び当該対象ユニットのAD
Cを動作させる制御データからなるキャリブレーション
データ取得情報をメモリ4に書込むことによって開始す
ることとし、上述した図2と同様の手順によって行う。
In the measurement and the arithmetic processing described below, the test controller 1 selects the analog measurement unit to be measured, the data specifying the selected analog measurement unit, and the AD of the target unit.
The calibration data acquisition information consisting of control data for operating C is started by writing in the memory 4, and the procedure is similar to that of FIG. 2 described above.

【0043】c1点は“+FULL”の理想電圧をユニ
ット入出力点に印加したときのデジタルコードを示し、
d1点は“−FULL”の理想電圧をユニット入出力点
に印加したときのデジタルコードを示す。これらのデジ
タルコードも上記同様にユニット入出力点に当該電圧を
印加し、演算器3がアドレス及びリード信号を出力して
ADC8にデジタルコードを出力させることによって測
定する。
Point c1 shows a digital code when an ideal voltage of "+ FULL" is applied to the unit input / output point,
Point d1 indicates a digital code when an ideal voltage of "-FULL" is applied to the unit input / output point. Similar to the above, these digital codes are also measured by applying the voltage to the input / output points of the unit and causing the arithmetic unit 3 to output the address and read signals to cause the ADC 8 to output the digital codes.

【0044】破線O1はADC8の理想特性を示し、点
線P1は理想特性の傾きでb1点を通る直線を示してい
る。ゲイン補正A1はb1点とc1点の2点間を結んだ
直線の傾きと理想特性の傾きの差を示し、ゲイン補正B
1はb1点とd1点の2点間を結んだ直線の傾きと理想
特性の傾きの差を示している。以上の測定データをもと
にADC8のオフセットデジタルコード、ゲイン補正A
1及びB1の演算を行う。
The broken line O1 shows the ideal characteristic of the ADC 8, and the dotted line P1 shows the straight line passing through the point b1 with the inclination of the ideal characteristic. The gain correction A1 indicates the difference between the slope of the straight line connecting the two points b1 and c1 and the slope of the ideal characteristic.
Reference numeral 1 denotes the difference between the slope of the straight line connecting the two points b1 and d1 and the slope of the ideal characteristic. Based on the above measurement data, offset digital code of ADC8, gain correction A
1 and B1 are calculated.

【0045】ここで、b1点のデジタルコードは、ユニ
ット入出力点における電圧が0ボルトのときのデジタル
コードであることから、これがオフセットデジタルコー
ドとなる。
Since the digital code at point b1 is a digital code when the voltage at the input / output point of the unit is 0 volt, this is an offset digital code.

【0046】次に、ゲイン補正A1、B1の演算におい
ては、まず、理想特性(破線O1)の傾きが、 (理想特性の傾き)=(“+FULL”のデジタルコード)/(“+FULL” の理想電圧) ・・・・・(8) で表され、b1点とc1点の2点間を結んだ直線の傾き
は、 (b1−c1間の傾き)=(c1点のデジタルコード−b1点のデジタルコード )/(c1点の印加電圧) ・・・・・(9) で表される。そこで、(8)式と(9)式からゲイン補
正A1を (ゲイン補正A1)=(理想特性の傾き)/(b1−c1間の傾き) ={(“+FULL”のデジタルコード)/(“+FULL ”の理想電圧)}/{(c1点のデジタルコード−b1点 のデジタルコード)/(c1点の印加電圧)} ・・・・・(10) として求める。
Next, in the calculation of the gain corrections A1 and B1, first, the slope of the ideal characteristic (broken line O1) is (the slope of the ideal characteristic) = (digital code of "+ FULL") / (ideal of "+ FULL" Voltage) (8), the slope of the straight line connecting the two points b1 and c1 is (slope between b1 and c1) = (digital code of c1 point−b1 point Digital code) / (applied voltage at point c1) ... (9) Therefore, the gain correction A1 is calculated from the equations (8) and (9) as follows: (gain correction A1) = (slope of ideal characteristic) / (slope between b1 and c1) = {(digital code of “+ FULL”) / (“ + (FULL ″ ideal voltage)} / {(digital code at c1 point−digital code at b1 point) / (applied voltage at c1 point)} (10)

【0047】又、b1点とd1点の2点間を結んだ直線
の傾きは、 (b1−d1間の傾き)=(b1点のデジタルコード−d1点のデジタルコード )/d1点の印加電圧 ・・・・・(11) で表される。そこで、(8)式と(11)式からゲイン
補正B1を (ゲイン補正B1)=(理想特性の傾き)/(b1−d1間の傾き) ={(“+FULL”のデジタルコード)/(“+FULL ”の理想電圧)}/{(b1点のデジタルコード−d1点 のデジタルコード)/(d1点の印加電圧)} ・・・・・(12) として求める。
The slope of the straight line connecting the two points b1 and d1 is: (slope between b1 and d1) = (digital code of b1 point−digital code of d1 point) / applied voltage of d1 point It is represented by (11). Therefore, from the equations (8) and (11), the gain correction B1 can be calculated by (gain correction B1) = (inclination of ideal characteristic) / (inclination between b1 and d1) = {(digital code of “+ FULL”) / (“ + FULL ″ ideal voltage)} / {(digital code of b1 point−digital code of d1 point) / (applied voltage of d1 point)} (12)

【0048】このようにして求めたオフセットデジタル
コード、ゲイン補正A及びゲイン補正Bをメモリ4に格
納しておく。そして、ユニット入出力点へ入力されてい
る電圧を検出する際には、これらの補正データでADC
8から出力されるデジタルコードを補正してユニット入
出力点における電圧値に対応するデジタルコードを得
る。
The offset digital code, the gain correction A and the gain correction B thus obtained are stored in the memory 4. Then, when the voltage input to the unit input / output point is detected, the ADC
The digital code output from 8 is corrected to obtain the digital code corresponding to the voltage value at the unit input / output point.

【0049】尚、上述したDAC6についての補正デー
タと同様に、“0”、“+FULL”及び“−FUL
L”の印加電圧以外の複数の印加電圧をユニット入出力
点に印加してデジタルコードを測定し、それらの測定点
から適当な2点を選び、上記同様の演算によって当該2
測定点間を結ぶ直線を補正するオフセットデジタルコー
ド及びゲイン補正を求めることとしてもよい。
As with the correction data for the DAC 6 described above, "0", "+ FULL", and "-FUL".
A plurality of applied voltages other than the applied voltage of L ″ are applied to the unit input / output points, the digital code is measured, two appropriate points are selected from the measured points, and the same calculation as above is performed.
The offset digital code for correcting the straight line connecting the measurement points and the gain correction may be obtained.

【0050】[0050]

【発明の効果】以上説明したように本発明によれば、所
定の演算によってオフセットデジタルコードとゲイン補
正を求め、これらに基づいてDA変換手段へ供給するデ
ジタルコードやAD変換手段から出力されるデジタルコ
ードを補正することとしたので、従来の回路において必
要とされていた調整用DACやその印加コード用のレジ
スタを削除することができる。更に、調整範囲が限られ
ることもなくなるので、アナログ測定ユニットに使用す
る高精度な部品が不要となり、安価な回路構成を実現す
ることができる。又、請求項4記載の発明によれば、複
数の補正データを備えることとするので、精度の高いキ
ャリブレーションを行うことができる。
As described above, according to the present invention, the offset digital code and the gain correction are obtained by a predetermined calculation, and the digital code supplied to the DA conversion means or the digital output from the AD conversion means based on these values. Since the code is corrected, the adjustment DAC and the register for the applied code, which are required in the conventional circuit, can be deleted. Further, since the adjustment range is not limited, high-precision parts used for the analog measurement unit are unnecessary, and an inexpensive circuit configuration can be realized. Further, according to the invention described in claim 4, since a plurality of correction data are provided, it is possible to perform highly accurate calibration.

【図面の簡単な説明】[Brief description of drawings]

【図1】 本発明の一実施形態によるアナログ測定ユニ
ットのデジタルキャリブレーション方法を実行する回路
構成を示した図である。
FIG. 1 is a diagram showing a circuit configuration for executing a digital calibration method for an analog measurement unit according to an embodiment of the present invention.

【図2】 図1のアナログ測定ユニットに搭載している
DAC6及びADC8の補正データを取得するまでの処
理を示したフローチャートである。
FIG. 2 is a flowchart showing a process up to acquisition of correction data for the DAC 6 and the ADC 8 mounted on the analog measurement unit shown in FIG.

【図3】 DAC6のオフセット及びゲイン調整の関係
を示す図である。
FIG. 3 is a diagram showing a relationship between offset and gain adjustment of the DAC 6.

【図4】 ADC8のオフセット及びゲイン調整の関係
を示す図である。
FIG. 4 is a diagram showing a relationship between offset and gain adjustment of the ADC 8.

【図5】 従来におけるアナログ測定ユニットのキャリ
ブレーションを行うための回路構成図である。
FIG. 5 is a circuit configuration diagram for calibrating a conventional analog measurement unit.

【符号の説明】[Explanation of symbols]

1 テストコントローラ 3 演算器 4 メモリ 5 デコード回路 6 DAC 8 ADC 10 DVM 1 Test controller 3 calculator 4 memory 5 Decoding circuit 6 DAC 8 ADC 10 DVM

Claims (4)

(57)【特許請求の範囲】(57) [Claims] 【請求項1】 供給されたデジタルコードに対応する電
圧を入出力点へ出力するDA変換手段を有するアナログ
測定ユニットのデジタルキャリブレーション方法であっ
て、 0のデジタルコード、正側のデジタルコード、負側のデ
ジタルコードを供給したときの前記入出力点における電
圧をそれぞれ測定する第1の過程と、 供給されるデジタルコードに対する前記入出力点におけ
る電圧の理想特性と同一の勾配を有し、0のデジタルコ
ードに対して前記第1の過程で測定された電圧を示す特
性において、電圧が0となる点のデジタルコードをオフ
セットデジタルコードとして求める第2の過程と、 前記理想特性の勾配と、デジタルコードに対して前記第
1の過程で測定された電圧を示す特性の勾配とに基づ
き、供給するデジタルコードのゲイン補正を求める第3
の過程とを有し、 前記オフセットデジタルコード及び前記ゲイン補正に基
づいて前記DA変換手段へ供給するデジタルコードを補
正して前記入出力点における電圧を補正することを特徴
とするアナログ測定ユニットのデジタルキャリブレーシ
ョン方法。
1. A digital calibration method for an analog measurement unit having DA conversion means for outputting a voltage corresponding to a supplied digital code to an input / output point, wherein the digital code is 0, the positive digital code, and the negative digital code. The first step of measuring the voltage at the input / output point when the digital code on the side is supplied, and the same slope as the ideal characteristic of the voltage at the input / output point for the supplied digital code, A second step of obtaining a digital code at a point where the voltage is 0 in the characteristic indicating the voltage measured in the first step with respect to the digital code as an offset digital code, the slope of the ideal characteristic, and the digital code. And the slope of the characteristic indicating the voltage measured in the first step with respect to the gain of the digital code to be supplied. Third to seek correction
And a voltage at the input / output point is corrected by correcting the digital code supplied to the DA conversion means based on the offset digital code and the gain correction. Calibration method.
【請求項2】 入出力点における電圧に対応するデジタ
ルコードを出力するAD変換手段を有するアナログ測定
ユニットのデジタルキャリブレーション方法であって、 0の電圧、正側のデジタルコードに対する理想電圧、負
側のデジタルコードに対する理想電圧を前記入出力点に
印加したときに前記AD変換手段から出力されるデジタ
ルコードをそれぞれ測定する第4の過程と、 前記入出力点への印加電圧に対する前記AD変換手段か
ら出力されるデジタルコードを示す理想特性の勾配と、
前記第4の過程で印加した電圧に対して測定されたデジ
タルコードを示す特性の勾配とに基づき、前記AD変換
手段から出力されるデジタルコードのゲイン補正を求め
る第5の過程とを有し、 前記第4の過程で0の電圧を印加したときに測定された
デジタルコードをオフセットデジタルコードとし、これ
と前記ゲイン補正とに基づいて前記AD変換手段から出
力されたデジタルコードを補正して前記入出力点に印加
された電圧に対応するデジタルコードを得ることを特徴
とするアナログ測定ユニットのデジタルキャリブレーシ
ョン方法。
2. A digital calibration method for an analog measurement unit having AD conversion means for outputting a digital code corresponding to a voltage at an input / output point, which is a voltage of 0, an ideal voltage for a digital code on the positive side, and a negative side. And a fourth step of measuring the digital code output from the AD conversion means when the ideal voltage for the digital code is applied to the input / output point, and from the AD conversion means with respect to the applied voltage to the input / output point. The slope of the ideal characteristic that indicates the digital code to be output,
And a fifth step of obtaining a gain correction of the digital code output from the AD conversion means, based on a characteristic gradient indicating the digital code measured with respect to the voltage applied in the fourth step. The digital code measured when a voltage of 0 is applied in the fourth step is used as an offset digital code, and the digital code output from the AD conversion means is corrected based on the offset digital code and the gain correction. A digital calibration method for an analog measuring unit, characterized in that a digital code corresponding to a voltage applied to an output point is obtained.
【請求項3】 供給されたデジタルコードに対応する電
圧を入出力点へ出力するDA変換手段及び入出力点にお
ける電圧に対応するデジタルコードを出力するAD変換
手段を有するアナログ測定ユニットのデジタルキャリブ
レーション方法であって、 請求項1記載の第1、第2及び第3の過程を有し、 前記第2の過程で求めたオフセットデジタルコード及び
前記第3の過程で求めたゲイン補正に基づいて前記DA
変換手段へ供給するデジタルコードを補正して前記入出
力点における電圧を補正すると共に、 請求項2記載の第4及び第5の過程を有し、 前記第4の過程で0の電圧を印加したときに測定された
デジタルコードをオフセットデジタルコードとし、これ
と前記第5の過程で求めたゲイン補正とに基づいて前記
AD変換手段から出力されたデジタルコードを補正して
前記入出力点に印加された電圧に対応するデジタルコー
ドを得ることを特徴とするアナログ測定ユニットのデジ
タルキャリブレーション方法。
3. Digital calibration of an analog measuring unit having DA conversion means for outputting a voltage corresponding to a supplied digital code to an input / output point and AD conversion means for outputting a digital code corresponding to a voltage at the input / output point. A method comprising the first, second, and third steps of claim 1, wherein the offset digital code obtained in the second step and the gain correction obtained in the third step DA
The digital code supplied to the conversion means is corrected to correct the voltage at the input / output point, and the method has the fourth and fifth steps according to claim 2, and a voltage of 0 is applied in the fourth step. The digital code measured at this time is used as an offset digital code, and the digital code output from the AD conversion means is corrected based on the offset digital code and the gain correction obtained in the fifth step and applied to the input / output point. A method for digital calibration of an analog measurement unit, characterized in that a digital code corresponding to the measured voltage is obtained.
【請求項4】 請求項1〜3のいずれかの項記載のアナ
ログ測定ユニットのデジタルキャリブレーション方法に
おいて、 測定した電圧若しくはデジタルコードそれぞれの間の領
域について前記ゲイン補正を求め、 前記DA変換手段へ供給するデジタルコード若しくは前
記AD変換手段から出力されたデジタルコードを、当該
デジタルコードが存する領域について求めたゲイン補正
に基づいて補正することを特徴とするアナログ測定ユニ
ットのデジタルキャリブレーション方法。
4. The digital calibration method for an analog measurement unit according to claim 1, wherein the gain correction is obtained for a region between each of the measured voltage and the digital code, and the DA correction means is provided. A digital calibration method for an analog measuring unit, characterized in that a digital code supplied or a digital code output from the AD conversion means is corrected based on a gain correction obtained for a region where the digital code exists.
JP11165597A 1997-04-28 1997-04-28 Digital calibration method for analog measurement unit Expired - Fee Related JP3389815B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP11165597A JP3389815B2 (en) 1997-04-28 1997-04-28 Digital calibration method for analog measurement unit

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP11165597A JP3389815B2 (en) 1997-04-28 1997-04-28 Digital calibration method for analog measurement unit

Publications (2)

Publication Number Publication Date
JPH10300826A JPH10300826A (en) 1998-11-13
JP3389815B2 true JP3389815B2 (en) 2003-03-24

Family

ID=14566840

Family Applications (1)

Application Number Title Priority Date Filing Date
JP11165597A Expired - Fee Related JP3389815B2 (en) 1997-04-28 1997-04-28 Digital calibration method for analog measurement unit

Country Status (1)

Country Link
JP (1) JP3389815B2 (en)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9671485B2 (en) 2009-10-26 2017-06-06 Fluke Corporation System and method for calibrating a high resolution data acquisition system with a low resolution digital to analog converter
CN103293505B (en) * 2013-06-06 2015-11-25 中国电子科技集团公司第四十一研究所 A kind of temperature compensation widening operating temperature range
JP2016096204A (en) * 2014-11-13 2016-05-26 株式会社ニューフレアテクノロジー Output adjustment method and electron beam lithography system
US9900020B2 (en) 2016-05-11 2018-02-20 Samsung Electronics Co., Ltd. Digital/analog converter and communication device including the same
CN109375126A (en) * 2018-09-30 2019-02-22 中国船舶重工集团公司第七0九研究所 Integrated circuit test system self-checking device and method based on digital analog converter
CN116773900B (en) * 2023-08-17 2024-05-28 深圳市首航新能源股份有限公司 Residual current detection circuit and method thereof

Also Published As

Publication number Publication date
JPH10300826A (en) 1998-11-13

Similar Documents

Publication Publication Date Title
US20110119015A1 (en) Geomagnetic sensor control device
US5121119A (en) Analog-to-digital conversion method and system with correction of analog gain and offset
US9362938B2 (en) Error measurement and calibration of analog to digital converters
JPS6343005B2 (en)
US9857823B2 (en) Programmable temperature compensated voltage generator
JP3389815B2 (en) Digital calibration method for analog measurement unit
JP3508489B2 (en) Calibration device for programmable comparator
JP2000295102A (en) Digital calibration method and system for a/d converter or d/a converter
JPH10145231A (en) Data correcting method for a/d conversion device and d/a conversion device
JPS58219465A (en) Tester for d/a converter
JPH0241077B2 (en)
JPH11118617A (en) Temperature controller
JP2594722B2 (en) Analog input method
JPS6141918A (en) Error correcting device for flying capacitor multiplexer circuit
JP2018119972A (en) Physical quantity sensor device
JPS63224522A (en) Amplifier
JPH0915272A (en) Voltage measuring circuit
JP2000241202A (en) Sensor device
JP2008304426A (en) Optional waveform generator and semiconductor test apparatus
US20050242977A1 (en) Method and apparatus for calculating an analog to digital converter
JP2001308705A (en) Digital to analog converter and its conversion error reduction method
JP3068504U (en) Semiconductor test equipment
JP2019203854A (en) Position detector
TW586272B (en) Method and apparatus for analog to digital conversion
JPH09250957A (en) Method for correcting temperature in force sensor

Legal Events

Date Code Title Description
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20021217

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees