JPH0661749A - 補正係数決定方法 - Google Patents

補正係数決定方法

Info

Publication number
JPH0661749A
JPH0661749A JP4212672A JP21267292A JPH0661749A JP H0661749 A JPH0661749 A JP H0661749A JP 4212672 A JP4212672 A JP 4212672A JP 21267292 A JP21267292 A JP 21267292A JP H0661749 A JPH0661749 A JP H0661749A
Authority
JP
Japan
Prior art keywords
converter
set value
correction coefficient
voltage
digital
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP4212672A
Other languages
English (en)
Inventor
Junichi Komiyama
潤一 小宮山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Yokogawa Electric Corp
Original Assignee
Yokogawa Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Yokogawa Electric Corp filed Critical Yokogawa Electric Corp
Priority to JP4212672A priority Critical patent/JPH0661749A/ja
Publication of JPH0661749A publication Critical patent/JPH0661749A/ja
Pending legal-status Critical Current

Links

Landscapes

  • Amplifiers (AREA)

Abstract

(57)【要約】 【目的】複数の基準電圧を使用して補正係数を決定する
ことにより、少数の散発的測定誤差によって生じる係数
への誤差の影響を軽減する。 【構成】設定値をアナログ信号に変換するD/A変換器
と、減衰器と増幅器を介して与えられる被測定電圧とD
/A変換器の出力とを比較する比較器と、D/A変換器
に与える設定値を変化させて比較器での2つの信号が一
致したときの設定値から被測定電圧を測定するCPU
と、更にCPUからの設定値をアナログ変換して基準電
圧を発生する第2のD/A変換器を備え、CPUにより
第2のD/A変換器に複数の設定値を与えて複数の基準
電圧を発生させ、この複数の設定値と各基準電圧測定時
の各設定値とから最小二乗法を用いて直線近似すること
によって直線を求め、この直線の係数より補正係数を決
定する。

Description

【発明の詳細な説明】
【0001】
【産業上の利用分野】本発明は、入力アンプ系の直流ゲ
イン誤差およびオフセット誤差の補正係数の決定方法の
改善に関するものである。
【0002】
【従来の技術】従来より図3に示すように、設定電圧と
の比較によって被測定電圧を測定する方式の電圧測定装
置がある。図において、切替え器9で選択された信号は
減衰器1と増幅器2を介して比較器3に導かれる。比較
器ではデジタル・アナログ変換器(D/A変換器)4の
値と比較する。レベル検出器5ではその比較結果(HI
GHまたはLOWレベル)をモニターし、比較結果が変
化したときそれをマイクロプロセッサ(以下CPUとい
う)6に知らせる。他方CPU6はレベル検出器5の出
力をみながらD/A変換器4に与える値を変化させ、比
較器3の出力が変化したとき(例えば信号レベルがLO
WレベルからHIGHレベルになったとき)D/A変換
器4への出力値を確定し、同時にメモリ7に保存する
(この値が被測定電圧Vinに対応する)。このようにし
て被測定電圧を測定することができるが、高精度測定を
行なうにあたって入力アンプ系の直流ゲイン誤差やオフ
セット誤差が無視できない場合はこれを補正する必要が
ある。補正の方式には従来より各種の方式が試みられて
いるが、本願出願人が出願した特願平3−129763
号「誤差補正方法」は、比較的簡単な構成でリニアリテ
ィの良い補正ができる補正方法の1つである。
【0003】この誤差補正方法を簡単に説明すると次の
通りである。図3の構成において、減衰器1のゲイン係
数をKa 、増幅器2のゲイン係数をKb 、増幅器2のオ
フセットをOb 、比較器3のオフセットをOc とする。
また、D/A変換器4のゲイン係数をKd 、オフセット
をOd とする。さて、入力電圧がVinであり、D/A変
換器4の設定電圧をVadとしたとき比較器3の出力が反
転したとすると、次式が成り立つ。 Vad=(Ka ×Kb /Kd )×Vin+(Ob +Oc −Od )/Kd
【0004】ここで、α=Ka ×Kb /Kd 、β=(O
b +Oc −Od )/Kd とおくと、上式は次のように表
わせる。 Vad=αVin+β (1) 次に、2つの基準入力信号Vin1 とVin2 を択一的に入
力し、そのとき比較器3の出力が反転するときのD/A
変換器4のそれぞれの値をVad1 ,Vad2 とすると、 α=(Vad1 −Vad2 )/(Vin1 −Vin2 ) (2) β=Vad1 −((Vad1 −Vad2 )/(Vin1 −Vin2 ))×Vin1 (3) となり、補正係数αとβを求めることができる。この値
はメモリ7に記憶され、実際に未知電圧(被測定信号)
Vinを測定する際には(2) および(3) 式を(1) 式に代入
した式から、Vinを求める。この場合上式から明かなよ
うに、入力アンプ系のゲイン誤差とオフセット誤差が同
時に補正される。
【0005】
【発明が解決しようとする課題】しかしながら、このよ
うな補正係数決定方法においては、2つの基準電圧が正
確である必要がある。もし基準電圧のいずれか一方ある
いは両方が不正確であった場合には、正確な補正係数が
得られず、当然被測定電圧も正確に測定できないという
問題があった。本発明の目的は、このような点に鑑み
て、複数の基準電圧を使用して補正係数を決定すること
により、少数の散発的測定誤差によって生じる係数への
誤差の影響を著しく軽減することのできる補正係数決定
方法を提供することにある。
【0006】
【課題を解決するための手段】このような目的を達成す
るために本発明は、減衰器経由の被測定電圧を適宜増幅
する増幅器と、設定値をアナログ信号に変換するデジタ
ル・アナログ変換器と、増幅器の出力とデジタル・アナ
ログ変換器の出力とを比較する比較器と、デジタル・ア
ナログ変換器に与える設定値を変化させて比較器での2
つの信号が一致したときの設定値から被測定電圧を測定
するマイクロプロセッサと、更にマイクロプロセッサか
らの設定値をアナログ変換して基準電圧を発生する第2
のデジタル・アナログ変換器を備え、マイクロプロセッ
サにより、第2のデジタル・アナログ変換器に複数の設
定値を与えて複数の基準電圧を発生させ、この複数の設
定値と各基準電圧測定時の各設定値とから最小二乗法を
用いて直線近似することによって直線を求め、この直線
の係数より補正係数を決定するようにしたことを特徴と
する。
【0007】
【作用】従来の装置にデジタル・アナログ変換器を追加
して基準電圧として複数の基準電圧を発生する。この複
数の基準電圧を発生させる場合の設定値と、各基準電圧
を測定した時に設定した設定値を要素として、最小二乗
法により直線近似し近似直線を求める。そしてこの直線
から補正係数を決定する。
【0008】
【実施例】以下図面を用いて本発明を詳しく説明する。
図1は本発明の方法を実施するための装置の要部構成図
である。図において、図3と同等部分には同一符号を付
してある。8はCPU6から与えられるデジタル値をア
ナログ信号に変換する第2のD/A変換器である(混同
を避けるためにD/A変換器4を第1のD/A変換器と
いう)。CPU6は第2のD/A変換器8に対して複数
の値(その値はメモリに記憶されている)を設定するこ
とができる。またCPU6は、第2のD/A変換器8に
与えた各設定値と、その各設定値において比較器3が丁
度反転するときの第1のD/A変換器4の各設定値(メ
モリ7に記憶される)とから最小二乗法を用いて補正係
数αとβを求める機能を有する。9は切替え器であり、
被測定電圧Vinかまたは第2のD/A変換器8のいずれ
かを選択するして減衰器1に与える。
【0009】このような構成における動作を次に説明す
る。 (1) 切替え器9を介して被測定電圧Vinを選択して減衰
器1に加えておき、CPU6から与える第1のD/A変
換器4の設定電圧がVdac1になったとき比較器3の出力
が反転したとする。CPU6から複数個の設定値を第2
のD/A変換器8に与える(減衰器1に互いに異なる複
数の基準電圧が印加されることになる)。その設定電圧
をVdac2(i) (ただし、i>1 である)とする。そしてこ
れら設定値に対応して、比較器出力が反転する時の第1
のD/A変換器4の各設定値をVdac1(i) (ただし、i>
1 )とする。
【0010】最小二乗法と最小二乗推定量より、
【数1】 のとき、
【数2】 とすると、(Vdac2,Vdac1)の複数の測定点は、図2
に示すVdac1−Vdac2平面内で直線方程式((3) 式)上
の点として近似できる。
【数3】 このようにして(3) 式により被測定電圧を求めることが
でき、この場合の設定値の散発的な誤差の補正係数への
影響は、明らかに従来のものより少ないことが分かる。
【0011】
【発明の効果】以上説明したように本発明によれば、少
数の散発的測定誤差によって生じる補正係数への誤差の
影響を著しく軽減することができ、従来のような2つの
基準電圧による場合よりもより正確な補正係数決定が可
能となる。
【図面の簡単な説明】
【図1】本発明に係る誤差補正方法を実施するための装
置の構成図である。
【図2】各D/A変換器の設定値と近似直線についての
説明図である。
【図3】従来の誤差補正方法を実施するための装置の構
成図である。
【符号の説明】
1 減衰器 2 増幅器 3 比較器 4 第1のD/A変換器 5 レベル検出器 6 CPU 7 メモリ 8 第2のD/A変換器 9 切替え器

Claims (1)

    【特許請求の範囲】
  1. 【請求項1】減衰器経由の被測定電圧を適宜増幅する増
    幅器と、設定値をアナログ信号に変換するデジタル・ア
    ナログ変換器と、増幅器の出力とデジタル・アナログ変
    換器の出力とを比較する比較器と、デジタル・アナログ
    変換器に与える設定値を変化させて比較器での2つの信
    号が一致したときの設定値から被測定電圧を測定するマ
    イクロプロセッサを備えた測定装置において、基準電圧
    を入力し基準電圧測定時の設定値から系の直流ゲインと
    オフセット誤差を補正するための補正係数を決定するよ
    うにした補正係数決定方法であって、 マイクロプロセッサからの設定値をアナログ変換して基
    準電圧を発生する第2のデジタル・アナログ変換器を備
    え、 前記マイクロプロセッサにより、前記第2のデジタル・
    アナログ変換器に複数の設定値を与えて複数の基準電圧
    を発生させ、この複数の設定値と各基準電圧測定時の各
    設定値とを基に最小二乗法により直線近似して直線を求
    め、この直線の係数より補正係数を決定するようにした
    ことを特徴とする補正係数決定方法。
JP4212672A 1992-08-10 1992-08-10 補正係数決定方法 Pending JPH0661749A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP4212672A JPH0661749A (ja) 1992-08-10 1992-08-10 補正係数決定方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP4212672A JPH0661749A (ja) 1992-08-10 1992-08-10 補正係数決定方法

Publications (1)

Publication Number Publication Date
JPH0661749A true JPH0661749A (ja) 1994-03-04

Family

ID=16626491

Family Applications (1)

Application Number Title Priority Date Filing Date
JP4212672A Pending JPH0661749A (ja) 1992-08-10 1992-08-10 補正係数決定方法

Country Status (1)

Country Link
JP (1) JPH0661749A (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0569432A (ja) * 1991-09-11 1993-03-23 Shimizu Corp 外装用パネル製作方法
CN107706121A (zh) * 2017-08-31 2018-02-16 华润赛美科微电子(深圳)有限公司 多台测试设备批量测试的精度一致性修正方法和系统

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0569432A (ja) * 1991-09-11 1993-03-23 Shimizu Corp 外装用パネル製作方法
JPH0661749B2 (ja) * 1991-09-11 1994-08-17 清水建設株式会社 外装用パネル製作方法
CN107706121A (zh) * 2017-08-31 2018-02-16 华润赛美科微电子(深圳)有限公司 多台测试设备批量测试的精度一致性修正方法和系统

Similar Documents

Publication Publication Date Title
JPS6071966A (ja) デジタルスペクトルアナライザ
US6351228B1 (en) Digital calibration method and apparatus for A/D or D/A converters
CN109654125A (zh) 一种位移校正装置、磁悬浮轴承系统及其位移校正方法
JPH0364216A (ja) アナログ信号を正確にディジタル化するための方法と装置
JP2000295102A (ja) Ad変換器又はda変換器のためのデジタルキャリブレーション方法及び装置
JPH0856160A (ja) Adコンバータの異常検出装置
JPH06273458A (ja) 電力測定装置および方法
CN108387834B (zh) 一种广域adc误差修正测试方法及装置
JPH0661749A (ja) 補正係数決定方法
JP2002031670A (ja) A/d変換器試験用の効率的データ転送を含む装置及び方法
JPH08189940A (ja) ディジタル測定器
JPH0241077B2 (ja)
JPH08122166A (ja) 温度測定方法および装置
JP3389815B2 (ja) アナログ測定ユニットのデジタルキャリブレーション方法
JPH07218547A (ja) 信号測定装置
JPH04370769A (ja) A/d変換器を用いた電圧・電流信号の補正方法
KR100417114B1 (ko) 고주파 전력 측정 장치 및 방법
JP3351167B2 (ja) バッテリ電圧測定装置
CN111879981B (zh) 单音信号过载的补偿方法及装置
JPH0712852A (ja) 波形生成機能付き波形測定装置
JP2672690B2 (ja) 半導体デバイスの試験方法
JPH04353716A (ja) 誤差補正方法
JPH07198305A (ja) 位置検出装置
KR100200714B1 (ko) 집적회로 측정 방법 및 이를 위한 장치
JPH0634703A (ja) 直流特性測定装置のキャリブレーション方式