JP2003032108A - Linearity compensation device and linearity compensation method - Google Patents

Linearity compensation device and linearity compensation method

Info

Publication number
JP2003032108A
JP2003032108A JP2001211132A JP2001211132A JP2003032108A JP 2003032108 A JP2003032108 A JP 2003032108A JP 2001211132 A JP2001211132 A JP 2001211132A JP 2001211132 A JP2001211132 A JP 2001211132A JP 2003032108 A JP2003032108 A JP 2003032108A
Authority
JP
Japan
Prior art keywords
data
converter
linearity
correction
conversion
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2001211132A
Other languages
Japanese (ja)
Other versions
JP2003032108A5 (en
Inventor
Masahito Nakada
雅人 中田
Tsutomu Miyoshi
努 三好
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tanita Corp
Original Assignee
Tanita Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tanita Corp filed Critical Tanita Corp
Priority to JP2001211132A priority Critical patent/JP2003032108A/en
Publication of JP2003032108A publication Critical patent/JP2003032108A/en
Publication of JP2003032108A5 publication Critical patent/JP2003032108A5/ja
Pending legal-status Critical Current

Links

Landscapes

  • Indication And Recording Devices For Special Purposes And Tariff Metering Devices (AREA)
  • Analogue/Digital Conversion (AREA)

Abstract

PROBLEM TO BE SOLVED: To provide a linearity compensation device and a linearity compensation method that can enhance the economy, the work efficiency and the accuracy for linearity compensation. SOLUTION: A correction data arithmetic means 1 calculates a difference between reference data instructed by a level instruction means 4 and given to an analog/digital converter 8 from a reference data generating means 11 and reference conversion data outputted from the analog/digital converter 8 as correction data and a correction data storage means 6 stores the difference in cross-reference with the reference data. Then a correction arithmetic means 2 measures a measurement object to apply correction arithmetic operation to object conversion data outputted from the analog/digital converter 8 on the basis of the correction data stored in the correction data storage means 6 thereby implementing linearity compensation without the need for using an expensive hardware component and for a job needing man-hours.

Description

【発明の詳細な説明】Detailed Description of the Invention

【0001】[0001]

【発明の属する技術分野】本発明は、マイコンで制御さ
れるA/Dコンバータの非直線性特性を補償する直線性
補償装置及び直線性補償方法に関する。
BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to a linearity compensating apparatus and a linearity compensating method for compensating the nonlinearity characteristic of an A / D converter controlled by a microcomputer.

【0002】[0002]

【従来の技術】A/Dコンバータは、ラダー抵抗の相対
精度やスイッチングのばらつきやサンプリングコンデン
サの充放電特性等の影響で非直線性特性を示すものであ
る。
2. Description of the Related Art An A / D converter exhibits a non-linear characteristic due to the influence of relative accuracy of ladder resistance, variation in switching, charging / discharging characteristic of a sampling capacitor, and the like.

【0003】従来、A/Dコンバータの非直線性特性を
補償するには、A/Dコンバータの非直線性特性と逆の
特性を有するハードウェアを追加したり、A/Dコンバ
ータの非直線性を引き起こしている素子に直線性のよい
ものを用いたりして目的とする直線性を得ていた。
Conventionally, in order to compensate the non-linear characteristic of the A / D converter, hardware having a characteristic opposite to the non-linear characteristic of the A / D converter is added, or the non-linear characteristic of the A / D converter is added. The desired linearity was obtained by using a device having good linearity as the element causing the phenomenon.

【0004】また、マイコンで制御されるA/Dコンバ
ータが組み込まれた装置に基準となる負荷を与え、その
ときの非直線性を記憶し、この記憶された非直線性にあ
たる分の補正をすることにより目的とする直線性を得て
いた。例えば、マイコンで制御されるA/Dコンバータ
が組み込まれた質量計に基準分銅を負荷し、そのときA
/Dコンバータから出力される出力値と基準分銅の表示
量との差を補正量として記憶部に記憶しておき、対象物
が測定されてA/Dコンバータから出力される出力値に
記憶部に記憶される補正量分の補正をして表示部に出力
していた。
Further, a reference load is applied to a device incorporating an A / D converter controlled by a microcomputer, the non-linearity at that time is stored, and a correction corresponding to the stored non-linearity is performed. As a result, the desired linearity was obtained. For example, a reference weight is loaded on a mass meter that incorporates an A / D converter controlled by a microcomputer.
The difference between the output value output from the A / D converter and the display amount of the reference weight is stored in the storage unit as a correction amount, and the output value output from the A / D converter when the object is measured is stored in the storage unit. The correction amount corresponding to the stored correction amount was output to the display unit.

【0005】[0005]

【発明が解決しようとする課題】しかしながら、上述し
た従来の技術は、ハードウェアを追加したり、直線性の
よい素子を用いたりすることにより、直線性補償のため
のコストが高価なものとなった。また、A/Dコンバー
タの非直線性特性には一定のばらつきがあり、量産にお
いて高精度の直線性補償をするには、製品毎の非直線性
特性に応じたハードウェアを追加する必要があり、幾種
ものハードウェアを準備したり、ハードウェアの取付交
換等の工数を要する作業をしたりしなければならず作業
効率が低かった。
However, in the above-mentioned conventional technique, the cost for linearity compensation becomes high due to the addition of hardware or the use of an element having good linearity. It was Further, there is a certain variation in the non-linearity characteristics of the A / D converter, and in order to perform highly accurate linearity compensation in mass production, it is necessary to add hardware according to the non-linearity characteristics of each product. However, it was necessary to prepare various kinds of hardware, and to perform work that requires man-hours such as installation and replacement of hardware, and the work efficiency was low.

【0006】また、マイコンで制御されるA/Dコンバ
ータが組み込まれた質量計等の装置においては、無負荷
時のセンサからの出力が温度等で変化した場合には、A
/Dコンバータに入力される電圧がシフトするために、
補償する量が変化するという問題があった。
In a device such as a mass meter incorporating an A / D converter controlled by a microcomputer, if the output from the sensor under no load changes due to temperature or the like, A
Since the voltage input to the / D converter shifts,
There was a problem that the amount of compensation changed.

【0007】そこで、本発明は、上記のような従来の問
題点を解決することを目的とするもので、直線性補償の
ための経済性や作業効率や精度を向上させた直線性補償
装置及び直線性補償方法を提供することを課題とする。
Therefore, the present invention is intended to solve the above-mentioned conventional problems, and a linearity compensator and a linearity compensator having improved economic efficiency, work efficiency, and accuracy for linearity compensation. An object is to provide a linearity compensation method.

【0008】[0008]

【課題を解決するための手段】本発明では、上記目的を
達成するために、本発明の一つの観点によれば、マイコ
ンに内蔵されたA/Dコンバータの非直線性特性を補償
する直線性補償装置において、前記A/Dコンバータに
基準データが入力された際に前記A/Dコンバータから
出力される基準変換データと前記基準データとの差を補
正用データとして演算する補正用データ演算手段と、前
記補正用データ演算手段で演算された前記補正用データ
を基準データと対応するように記憶する補正用データ記
憶手段と、前記A/Dコンバータに測定対象を測定する
ことにより得られた対象データが入力された際に前記A
/Dコンバータから出力される対象変換データの非直線
性を前記補正用データ記憶手段に記憶される前記補正用
データに基づいて補正演算する補正演算手段とを備える
ことを特徴とする直線性補償装置が提供される。
According to one aspect of the present invention, in order to achieve the above-mentioned object, the linearity for compensating for the non-linearity characteristic of an A / D converter incorporated in a microcomputer. In the compensating device, a correction data calculation means for calculating a difference between the reference conversion data output from the A / D converter and the reference data as correction data when the reference data is input to the A / D converter. Correction data storage means for storing the correction data calculated by the correction data calculation means so as to correspond to reference data, and target data obtained by measuring a measurement target in the A / D converter When A is entered, the above A
A linearity compensating device, comprising: a non-linearity of the target conversion data output from the / D converter, and a correction calculation unit that performs a correction calculation based on the correction data stored in the correction data storage unit. Will be provided.

【0009】本発明の一つの実施の形態によれば、前記
A/Dコンバータは、基準データを基準変換データとし
てA/D変換する際にオーバーサンプリングにより行う
ことを特徴とする。
According to one embodiment of the present invention, the A / D converter performs oversampling when A / D converting the reference data as reference conversion data.

【0010】本発明の別の実施の形態によれば、前記A
/Dコンバータは、基準データを基準変換データとして
A/D変換する際及び対象データを対象変換データとし
てA/D変換する際にオーバーサンプリングにより行う
ことを特徴とする。
According to another embodiment of the present invention, the above A
The / D converter is characterized by performing oversampling when performing A / D conversion of reference data as reference conversion data and during A / D conversion of target data as target conversion data.

【0011】本発明のさらに別の実施の形態によれば、
前記A/Dコンバータに基準データを与えるための指示
データを出力するレベル指示手段を更に備える。
According to yet another embodiment of the present invention,
It further comprises a level indicating means for outputting instruction data for giving reference data to the A / D converter.

【0012】本発明のさらに別の実施の形態によれば、
前記A/Dコンバータに基準データを与える基準データ
発生手段を更に備える。
According to yet another embodiment of the present invention,
It further comprises reference data generating means for providing reference data to the A / D converter.

【0013】本発明のさらに別の実施の形態によれば、
前記各手段は、前記A/Dコンバータを内蔵するマイコ
ンと共に同一電子回路基板10に設けられる。
According to yet another embodiment of the present invention,
The respective means are provided on the same electronic circuit board 10 together with the microcomputer having the A / D converter built therein.

【0014】本発明のさらに別の実施の形態によれば、
前記各手段は、前記A/Dコンバータを内蔵するマイコ
ン内に設けられる。
According to yet another embodiment of the present invention,
Each of the means is provided in a microcomputer having the A / D converter built therein.

【0015】本発明のさらに別の実施の形態によれば、
体重計もしくは体脂肪計に用いられることを特徴とする
According to yet another embodiment of the present invention,
Characterized by being used for a weight scale or body fat scale

【0016】本発明の別の観点によれば、マイコンに内
蔵されたA/Dコンバータの非直線性特性を補償する直
線性補償方法において、前記A/Dコンバータに基準デ
ータを入力し、その際に前記A/Dコンバータから出力
される基準変換データと前記基準データとの差を補正用
データとして演算し、前記補正用データを基準データと
対応するように記憶し、前記A/Dコンバータに測定対
象を測定することにより得られた対象データが入力され
た際に前記A/Dコンバータから出力される対象変換デ
ータの非直線性を記憶した前記補正用データに基づいて
補正演算することを特徴とする直線性補償方法が提供さ
れる。
According to another aspect of the present invention, in a linearity compensating method for compensating the non-linearity characteristic of an A / D converter incorporated in a microcomputer, reference data is input to the A / D converter, , The difference between the reference conversion data output from the A / D converter and the reference data is calculated as correction data, the correction data is stored so as to correspond to the reference data, and measured by the A / D converter. A correction calculation is performed based on the correction data that stores the non-linearity of the target conversion data output from the A / D converter when the target data obtained by measuring the target is input. A linearity compensation method is provided.

【0017】[0017]

【発明の実施の形態】以下、本発明の実施の形態につい
て図面を用いて説明する。
BEST MODE FOR CARRYING OUT THE INVENTION Embodiments of the present invention will be described below with reference to the drawings.

【0018】図1にマイコンに内蔵されたA/Dコンバ
ータに直線性補償装置の構成を備えたブロック図を示
す。本発明の直線性補償装置は、マイコンに内蔵された
A/Dコンバータ8と、補正用データ演算手段1と補正
演算手段2とを兼ねる演算部3と、レベル指示手段4を
兼ねる制御部5と、補正用データ記憶手段6とにより構
成する。そして、これらのA/Dコンバータ8と演算部
3と制御部5とは、測定対象から検出されたアナログデ
ータを増幅するアンプ7と共にマイコン9に内蔵され
る。また、このマイコン9と補正用データ記憶手段6と
は電子回路基板10上に設けられる。
FIG. 1 shows a block diagram in which an A / D converter incorporated in a microcomputer is provided with a configuration of a linearity compensating device. The linearity compensating device of the present invention includes an A / D converter 8 built in a microcomputer, a calculation unit 3 that also functions as a correction data calculation unit 1 and a correction calculation unit 2, and a control unit 5 that also functions as a level instruction unit 4. , And the correction data storage means 6. The A / D converter 8, the arithmetic unit 3, and the control unit 5 are built in the microcomputer 9 together with the amplifier 7 that amplifies the analog data detected from the measurement target. Further, the microcomputer 9 and the correction data storage means 6 are provided on the electronic circuit board 10.

【0019】A/Dコンバータ8は、アンプ7からのア
ナログデータ(対象データ)をデジタルデータに変換す
る。例えば、このA/Dコンバータ8には、分解能10
bit、積分非直線性誤差±2LSBの逐次比較型が用
いられる。
The A / D converter 8 converts analog data (target data) from the amplifier 7 into digital data. For example, this A / D converter 8 has a resolution of 10
A successive approximation type of bit, integral nonlinearity error ± 2LSB is used.

【0020】補正用データ演算手段1は、電子回路基板
10の外部に設けられて所定レベルの基準データを発生
する基準データ発生手段11(16bitD/Aコンバ
ータを含む)からA/Dコンバータ8に入力された基準
データと、この基準データの入力に基づいてA/Dコン
バータ8から出力される基準変換データとの差を補正用
データとして演算する。なお、例えば、基準データ発生
手段11には、高精度基準電圧発生器(16bitD/
Aコンバータを含む)を用いる。また、ここで所定レベ
ルとは、目的とする直線性補償の程度に応じて段階的に
決められたレベルのことである。
The correction data calculation means 1 is input to the A / D converter 8 from the reference data generation means 11 (including a 16-bit D / A converter) which is provided outside the electronic circuit board 10 and generates reference data of a predetermined level. The difference between the reference data thus generated and the reference conversion data output from the A / D converter 8 based on the input of the reference data is calculated as correction data. Note that, for example, the reference data generating means 11 includes a high precision reference voltage generator (16 bit D /
(Including A converter). Also, the predetermined level here is a level that is determined stepwise according to the degree of linearity compensation that is desired.

【0021】補正用データ記憶手段6は、この補正用デ
ータ演算手段1で演算された補正用データを、この補正
用データを演算したときの基準データと対応するように
記憶する。なお、例えば、補正用データ記憶手段6には
EEPROMを用いる。また、ここで基準データと対応
するようにとは、基準データと共に、もしくは基準デー
タ別に区分けされた場所に、ということを意味する。
The correction data storage means 6 stores the correction data calculated by the correction data calculation means 1 so as to correspond to the reference data when the correction data is calculated. An EEPROM is used as the correction data storage means 6, for example. In addition, "corresponding to the reference data" means that the reference data is provided together with the reference data or in a location divided by the reference data.

【0022】補正演算手段2では、測定対象を測定する
ことにより得た対象データの入力によりA/Dコンバー
タ8から出力される対象変換データをこの補正用データ
記憶手段6に記憶される基準データと対応させた補正用
データに基づいて補正演算する。
In the correction calculation means 2, the target conversion data output from the A / D converter 8 when the target data obtained by measuring the measurement target is input is used as the reference data stored in the correction data storage means 6. A correction calculation is performed based on the corresponding correction data.

【0023】制御部5は、補正用データ演算手段1、補
正用データ記憶手段6及び補正演算手段2等の制御を行
うと共に、所定レベルの基準データを発生させるための
指示データを基準データ発生手段11に出力するレベル
指示手段4を兼ねる。
The control unit 5 controls the correction data calculation unit 1, the correction data storage unit 6, the correction calculation unit 2 and the like, and at the same time, outputs the instruction data for generating the reference data of a predetermined level as the reference data generation unit. It also serves as the level indicating means 4 for outputting to 11.

【0024】次に、前述したような直線性補償装置の動
作に関連させて、本発明に係わる直線性補償方法につい
て詳述する。図2は直線性補償装置の設定段階での動作
処理手順を表すフローチャートである。また、図3は直
線性補償装置の補正段階での動作処理手順を表すフロー
チャートである。
Next, the linearity compensating method according to the present invention will be described in detail with reference to the operation of the linearity compensating apparatus as described above. FIG. 2 is a flowchart showing an operation processing procedure at the setting stage of the linearity compensation device. Further, FIG. 3 is a flowchart showing an operation processing procedure at the correction stage of the linearity compensation device.

【0025】まず、図2を用いて、非直線性を補正する
ための準備として設定段階について説明する。レベル指
示手段4(制御部5)の出力部と基準データ発生手段1
1の入力部、及び基準データ発生手段11の出力部とA
/Dコンバータ8の入力部を接続状態とし、レベル指示
手段4(制御部5)の出力部から基準データ発生手段1
1の入力部に対して、A/Dコンバータ8の入力範囲の
最低レベルに該当する基準データを発生させるための指
示データを出力する(ステップ1)。なお、入力範囲の
最低レベルや最大レベルの特定についても基準データ発
生手段を用いて公知技術であるディザ法にて行うことが
可能である。
First, the setting step as a preparation for correcting non-linearity will be described with reference to FIG. Output unit of level instructing unit 4 (control unit 5) and reference data generating unit 1
1 and the output of the reference data generating means 11 and A
The input section of the / D converter 8 is connected, and the output section of the level indicating means 4 (control section 5) changes from the reference data generating means 1
The instruction data for generating the reference data corresponding to the lowest level of the input range of the A / D converter 8 is output to the first input section (step 1). Note that the minimum level and the maximum level of the input range can be specified by the dither method, which is a known technique, using the reference data generating means.

【0026】続いて、この指示データを受けた基準デー
タ発生手段11の出力部からA/Dコンバータ8の入力
範囲の最低レベルに該当する基準データが出力され、A
/Dコンバータ8の入力部に入力される(ステップ
2)。
Subsequently, the reference data corresponding to the lowest level of the input range of the A / D converter 8 is output from the output section of the reference data generating means 11 which has received this instruction data, and A
It is input to the input section of the / D converter 8 (step 2).

【0027】続いて、A/Dコンバータ8に入力された
この基準データは、信号が増幅され、4096回のオー
バーサンプリングによりA/D変換されて16bit精
度の基準変換データとなり、補正用データ演算手段1に
出力される(ステップ3)。
Subsequently, the reference data input to the A / D converter 8 is amplified in signal and A / D-converted by oversampling 4096 times to become 16-bit precision reference conversion data. 1 (step 3).

【0028】続いて、この基準変換データを受けた補正
用データ演算手段1では、この基準変換データと、基準
データ発生手段11からA/Dコンバータ8に出力した
基準データとの差を補正用データとして演算し、補正用
データ記憶手段6に出力する(ステップ4)。
Next, in the correction data calculation means 1 which has received the reference conversion data, the difference between the reference conversion data and the reference data output from the reference data generating means 11 to the A / D converter 8 is used as the correction data. And outputs it to the correction data storage means 6 (step 4).

【0029】続いて、この補正用データを受けた補正用
データ記憶手段6では、この補正用データを、A/Dコ
ンバータ8の入力範囲の最低レベルに該当するものとし
て基準データと対応するように記憶する(ステップ
5)。
Subsequently, in the correction data storage means 6 which has received the correction data, the correction data is made to correspond to the reference data by assuming that the correction data corresponds to the lowest level of the input range of the A / D converter 8. Store (step 5).

【0030】続いて、ステップ6においてステップ1に
戻り、レベル指示手段4からA/Dコンバータ8の入力
範囲の別の段階のレベルに該当する基準データを発生さ
せるための指示データを出力し、ステップ2からステッ
プ6を繰り返す。なお、ステップ1からステップ6まで
のステップは、目的とする直線性補償の程度に応じて決
められた段階分だけ繰り返される(ステップ6でN
o)。例えば、A/Dコンバータ8の入力範囲を均等に
分割した0/8(最低レベルに該当)から8/8(最高
レベルに該当)までの9段階のレベル、すなわち10b
itA/Dコンバータの入力0から1024まで128
LSBごとの入力コードについて、ステップ1からステ
ップ5までのステップを9回行う。ちなみに、レベルの
段階を多くするとA/Dコンバータ8の入力範囲内のポ
イントを密にカバーできるので直線性補償の程度が高
く、レベルの段階を少なくするとA/Dコンバータ8の
入力範囲内のポイントが粗となるので直線性補償の程度
が低くなる。
Then, in step 6, the process returns to step 1 and outputs the instruction data for generating the reference data corresponding to the level at another stage of the input range of the A / D converter 8 from the level instructing means 4, and step Repeat steps 2 to 6. It should be noted that steps 1 to 6 are repeated by the number of stages determined according to the desired degree of linearity compensation (N in step 6).
o). For example, the input range of the A / D converter 8 is evenly divided into 9 levels from 0/8 (corresponding to the lowest level) to 8/8 (corresponding to the highest level), that is, 10b.
Input 0 to 1024 of it / A / D converter 128
The steps from step 1 to step 5 are performed 9 times for the input code for each LSB. By the way, if the number of level steps is increased, the points within the input range of the A / D converter 8 can be covered closely, so the degree of linearity compensation is high, and if the number of level steps is decreased, the points within the input range of the A / D converter 8 are increased. Is coarse, the degree of linearity compensation is low.

【0031】続いて、ステップ1からステップ6までの
ステップを目的とする段階分行なわれると(ステップ6
でYes)、直線性補償装置の直線性補償のための設定
が完了する。
Subsequently, when the steps for the purpose of the steps 1 to 6 are performed (step 6)
Yes), the setting for linearity compensation of the linearity compensation device is completed.

【0032】次に、図3を用いて、測定対象の測定する
ことによりA/Dコンバータ8で発生する非直線性を補
正する段階について説明する。レベル指示手段4(制御
部5)の出力部と基準データ発生手段11の入力部、及
び基準データ発生手段11の出力部とA/Dコンバータ
8の入力部を接続状態を切り離す。そして、アンプ7の
入力部を測定対象からのアナログデータの出力部と接続
し、測定対象を測定する(ステップ7)。
Next, the step of correcting the non-linearity generated in the A / D converter 8 by measuring the measurement object will be described with reference to FIG. The output state of the level instructing unit 4 (control unit 5) and the input unit of the reference data generating unit 11, and the output unit of the reference data generating unit 11 and the input unit of the A / D converter 8 are disconnected. Then, the input part of the amplifier 7 is connected to the output part of the analog data from the measurement object, and the measurement object is measured (step 7).

【0033】続いて、測定対象からのアナログデータは
A/Dコンバータ8を経てデジタルデータとなり、対象
変換データとして補正演算手段2に入力される。そし
て、補正演算手段2では、補正用データ記憶手段6を参
照し、ステップ6において記憶された目的とする段階分
の補正用データに基づいてこの対象変換データを補正す
る(ステップ8)。より具体的に詳述すると、ステップ
6において記憶された目的とする段階分の補正用データ
(補正量)は、図4に対象変換データに対する補正量の
関係の一例を表すグラフに示すように、0/8地点から
8/8地点までプロットされる。ちなみに、グラフは縦
軸に補正量、横軸に対象変換データを表し、プロットさ
れた各ポイント間を結ぶ直線上が各ポイント間の対象変
換データに対応する補正量となる。ある地点(例えば2
/8地点)から別のある地点(例えば3/8地点)に至
る範囲に補正したい対象変換データSmがある場合に
は、補正量はMmとなる。そして、この補正量を加味し
た補正された対象変換データSrは、次の式(1)にて
演算することにより求める。 Sr=Sm+{(Sm−A)/(A−A)}(M−M)+M・・・(1) A:補正したい対象変換データより低くて最も近い対
象変換データ M:A時の補正量 A:補正したい対象変換データより高くて最も近い対
象変換データ M:A時の補正量
Subsequently, the analog data from the object to be measured becomes digital data through the A / D converter 8 and is input to the correction calculation means 2 as target conversion data. Then, the correction calculation means 2 refers to the correction data storage means 6 and corrects the target conversion data based on the correction data for the target stage stored in step 6 (step 8). More specifically, the correction data (correction amount) for the target stage stored in step 6 is as shown in a graph showing an example of the relationship between the correction amount and the target conversion data in FIG. It is plotted from 0/8 to 8/8. Incidentally, the graph shows the correction amount on the vertical axis and the target conversion data on the horizontal axis, and the straight line connecting the plotted points is the correction amount corresponding to the target conversion data between the points. Some point (eg 2
If there is target conversion data Sm to be corrected in a range from a point (/ 8 point) to another point (for example, 3/8 point), the correction amount is Mm. Then, the corrected target conversion data Sr in which this correction amount is added is obtained by calculating by the following equation (1). Sr = Sm + {(Sm−A 1 ) / (A 2 −A 1 )} (M 2 −M 1 ) + M 1 (1) A 1 : Target conversion data lower than and closest to the conversion data to be corrected M 1 : correction amount at A 1 time A 2 : target conversion data higher and closest to the target conversion data to be corrected M 2 : correction amount at A 2

【0034】続いて、補正された対象変換データは、表
示手段等の出力部に出力され(ステップ9)、直線性補
償装置の直線性補償のための補正の処理手順が終了す
る。
Subsequently, the corrected target conversion data is output to the output unit such as the display means (step 9), and the correction processing procedure for the linearity compensation of the linearity compensator is completed.

【0035】上述したように、本発明の直線性補償装置
及び直線性補償方法では、補正用データ演算手段1にお
いて、A/Dコンバータ8に入力された基準データと、
A/Dコンバータ8から出力された基準変換データとの
差を補正用データとして演算し、補正用データ記憶手段
6において、この補正用データを基準データと対応する
ように記憶しておき、補正演算手段2において、測定対
象を測定することによりA/Dコンバータ8から出力さ
れる対象変換データを補正用データ記憶手段6に記憶し
た補正用データに基づいて補正演算することで、高価な
ハードウェア部品の使用や工数を要する作業をすること
なく直線性補償をすることができる。
As described above, in the linearity compensating apparatus and the linearity compensating method of the present invention, the reference data input to the A / D converter 8 in the correction data calculation means 1
The difference from the reference conversion data output from the A / D converter 8 is calculated as correction data, and the correction data storage unit 6 stores the correction data so as to correspond to the reference data, and performs correction calculation. In the means 2, the object conversion data output from the A / D converter 8 by measuring the object to be measured is corrected and calculated based on the correction data stored in the correction data storage means 6, thereby making an expensive hardware component. The linearity can be compensated without the use of or work requiring labor.

【0036】また、レベル指示手段4からA/Dコンバ
ータ8に基準データを与えるための指示データを出力す
ることで、A/Dコンバータ8に入力するための基準デ
ータが認識可能となる。
Further, by outputting instruction data for giving reference data to the A / D converter 8 from the level instructing means 4, the reference data for input to the A / D converter 8 can be recognized.

【0037】また、A/Dコンバータ8を内蔵するマイ
コン9と共に同一電子回路基板10に各手段を設けるこ
とで、手軽に取扱えるものとなる。
Further, by providing each means on the same electronic circuit board 10 together with the microcomputer 9 having the built-in A / D converter 8, it becomes easy to handle.

【0038】また、A/Dコンバータにおいて、オーバ
ーサンプリングにより基準変換データや対象変換データ
が求められることは、分解能が向上する。例えば、分解
能10bit、積分非直線性誤差±2LSBの逐次比較
型A/Dコンバータ8で4096回=212のオーバー
サンプリングを行えば、収束値10+12/2=16b
itの分解能が得られる。
Further, in the A / D converter, the reference conversion data and the target conversion data are obtained by oversampling, which improves the resolution. For example, the resolution 10bit, by performing the successive approximation A / D converter 8 at 4096 = 2 12 oversampling integral nonlinearity error ± 2LSB, the convergence value 10 + 12/2 = 16b
The resolution of it is obtained.

【0039】なお、直線性補償装置に基準データ発生手
段11を備えてもよい。これにより、補正用データ記憶
手段6に補正用データを記憶し、直線性補償のための設
定を完了させるまでの一連のステップを自動的に行うこ
とが可能となる。
Note that the linearity compensator may be provided with the reference data generating means 11. This makes it possible to store the correction data in the correction data storage means 6 and automatically perform a series of steps until the setting for linearity compensation is completed.

【0040】また、A/Dコンバータ8を内蔵するマイ
コン9内に各手段を設けてもよい。これにより、より取
扱いやすいものとなる。
Further, each means may be provided in the microcomputer 9 containing the A / D converter 8. This makes it easier to handle.

【0041】また、A/Dコンバータ8の温度特性や電
源電圧依存性も記憶しておき、上述した直線性の補償と
合わせて温度補償をすれば、A/D変換の特性をよい結
果とすることができるものとなる。
If the temperature characteristics and power supply voltage dependency of the A / D converter 8 are also stored and temperature compensation is performed together with the above-described linearity compensation, the A / D conversion characteristics will be good results. You will be able to.

【0042】また、オーバーサンプリングにより直線近
似して推定された値の精度は、使用するA/Dコンバー
タの直線性誤差の分布の仕方により異なるため、上述に
おいて説明した同じ9レベルでも誤差の分布により基準
レベルの間隔を決めなおして誤差が均等になるようにし
てもよいし、全領域を測定して誤差の分布が均等あるい
は一定以下となるようレベル数を変えたり、レベルの間
隔を変えたりしてもよい。また、9レベルの誤差の測定
値をスプライン曲線などで結び確度を高めてもよい。
The accuracy of the value estimated by linear approximation by oversampling differs depending on the distribution method of the linearity error of the A / D converter used. You may redetermine the intervals of the reference levels so that the errors are even, or you can measure the entire area and change the number of levels so that the error distribution is even or below a certain level, or change the level intervals. May be. Further, the accuracy of tying the measured values of the 9-level error with a spline curve or the like may be increased.

【0043】また、A/Dコンバータはマイコンに内蔵
されるものとして上述したが、マイコンの外部に設けら
れても同様に実施可能である。
Although the A / D converter is described as being built in the microcomputer, it can be implemented in the same way even if it is provided outside the microcomputer.

【0044】[0044]

【発明の効果】測定対象を測定することによりA/Dコ
ンバータから出力される対象変換データを補正用データ
に基づいてソフトウェア的に補正することにより、高価
なハードウェア部品の使用や工数を要する作業をするこ
とがないので、経済性や作業効率を向上させることがで
きる。
EFFECT OF THE INVENTION By measuring the object to be measured, the object conversion data output from the A / D converter is corrected by software based on the correction data, so that an expensive hardware component is used and man-hours are required. Since there is no need to do so, it is possible to improve economic efficiency and work efficiency.

【図面の簡単な説明】[Brief description of drawings]

【図1】マイコンに内蔵されたA/Dコンバータに直線
性補償装置の構成を備えたブロック図である。
FIG. 1 is a block diagram in which an A / D converter incorporated in a microcomputer is provided with a configuration of a linearity compensating device.

【図2】直線性補償装置の設定段階での動作処理手順を
表すフローチャートである。
FIG. 2 is a flowchart showing an operation processing procedure at a setting stage of the linearity compensation device.

【図3】直線性補償装置の補正段階での動作処理手順を
表すフローチャートである。
FIG. 3 is a flowchart showing an operation processing procedure in a correction stage of the linearity compensation device.

【図4】対象変換データに対する補正量の関係の一例を
表すグラフである。
FIG. 4 is a graph showing an example of a relationship between a target conversion data and a correction amount.

【符号の説明】[Explanation of symbols]

1 補正用データ演算手段 2 補正演算手段 3 演算部 4 レベル指示手段 5 制御部 6 補正用データ記憶手段 7 アンプ 8 A/Dコンバータ 9 マイコン 10 電子回路基板 11 基準データ発生手段 1 Correction data calculation means 2 Correction calculation means 3 operation unit 4 level instruction means 5 control unit 6 Correction data storage means 7 amplifier 8 A / D converter 9 Microcomputer 10 Electronic circuit board 11 Reference data generation means

Claims (9)

【特許請求の範囲】[Claims] 【請求項1】 マイコンで制御されるA/Dコンバータ
の非直線性特性を補償する直線性補償装置において、前
記A/Dコンバータに基準データが入力された際に前記
A/Dコンバータから出力される基準変換データと前記
基準データとの差を補正用データとして演算する補正用
データ演算手段と、前記補正用データ演算手段で演算さ
れた前記補正用データを前記基準データと対応するよう
に記憶する補正用データ記憶手段と、前記A/Dコンバ
ータに測定対象を測定することにより得られた対象デー
タが入力された際に前記A/Dコンバータから出力され
る対象変換データの非直線性を前記補正用データ記憶手
段に記憶される前記補正用データに基づいて補正演算す
る補正演算手段とを備えることを特徴とする直線性補償
装置。
1. A linearity compensating device for compensating for the non-linearity characteristic of an A / D converter controlled by a microcomputer, which is output from the A / D converter when reference data is input to the A / D converter. Correction data calculation means for calculating a difference between the reference conversion data and the reference data as correction data, and the correction data calculated by the correction data calculation means are stored so as to correspond to the reference data. The correction data storage means and the correction of the non-linearity of the target conversion data output from the A / D converter when the target data obtained by measuring the measurement target in the A / D converter are input. A linearity compensating device, comprising: a correction calculation unit that performs a correction calculation based on the correction data stored in the correction data storage unit.
【請求項2】 前記A/Dコンバータは、基準データを
基準変換データとしてA/D変換する際にオーバーサン
プリングにより行うことを特徴とする請求項1記載の直
線性補償装置。
2. The linearity compensation apparatus according to claim 1, wherein the A / D converter performs oversampling when A / D converting the reference data as reference conversion data.
【請求項3】 前記A/Dコンバータは、基準データを
基準変換データとしてA/D変換する際及び対象データ
を対象変換データとしてA/D変換する際にオーバーサ
ンプリングにより行うことを特徴とする請求項1記載の
直線性補償装置。
3. The A / D converter performs oversampling when performing A / D conversion of reference data as reference conversion data and during A / D conversion of target data as target conversion data. Item 1. A linearity compensator according to item 1.
【請求項4】 前記A/Dコンバータに基準データを与
えるための指示データを出力するレベル指示手段を更に
備えることを特徴とする請求項1乃至3のいずれか一項
に記載の直線性補償装置。
4. The linearity compensating apparatus according to claim 1, further comprising level indicating means for outputting instruction data for giving reference data to the A / D converter. .
【請求項5】 前記A/Dコンバータに基準データを与
える基準データ発生手段を更に備えることを特徴とする
請求項1乃至4のいずれか一項に記載の直線性補償装
置。
5. The linearity compensating apparatus according to claim 1, further comprising a reference data generating unit that supplies reference data to the A / D converter.
【請求項6】 前記各手段は、前記A/Dコンバータを
制御するマイコンと共に同一電子回路基板10に設けら
れることを特徴とする請求項1乃至5のいずれか一項に
記載の直線性補償装置。
6. The linearity compensator according to claim 1, wherein each of the means is provided on the same electronic circuit board 10 together with a microcomputer that controls the A / D converter. .
【請求項7】 前記各手段は、前記A/Dコンバータを
制御するマイコン内に設けられることを特徴とする請求
項1乃至5のいずれか一項に記載の直線性補償装置。
7. The linearity compensating apparatus according to claim 1, wherein each of the means is provided in a microcomputer that controls the A / D converter.
【請求項8】 体重計もしくは体脂肪計に用いられるこ
とを特徴とする請求項1乃至7のいずれか一項に記載の
直線性補償装置。
8. The linearity compensating device according to claim 1, wherein the linearity compensating device is used in a weight scale or a body fat scale.
【請求項9】 マイコンで制御されるA/Dコンバータ
の非直線性特性を補償する直線性補償方法において、前
記A/Dコンバータに基準データを入力し、その際に前
記A/Dコンバータから出力される基準変換データと前
記基準データとの差を演算して補正用データとして基準
データと対応するように記憶し、前記A/Dコンバータ
に測定対象を測定することにより得られた対象データが
入力された際に前記A/Dコンバータから出力される対
象変換データの非直線性を記憶した前記補正用データに
基づいて補正演算することを特徴とする直線性補償方
法。
9. A linearity compensating method for compensating the non-linearity characteristic of an A / D converter controlled by a microcomputer, wherein reference data is input to the A / D converter and output from the A / D converter at that time. The difference between the reference conversion data and the reference data is calculated and stored as correction data so as to correspond to the reference data, and the target data obtained by measuring the measurement target is input to the A / D converter. A linearity compensating method comprising performing a correction operation based on the correction data that stores the non-linearity of the target conversion data output from the A / D converter when the correction is performed.
JP2001211132A 2001-07-11 2001-07-11 Linearity compensation device and linearity compensation method Pending JP2003032108A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2001211132A JP2003032108A (en) 2001-07-11 2001-07-11 Linearity compensation device and linearity compensation method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2001211132A JP2003032108A (en) 2001-07-11 2001-07-11 Linearity compensation device and linearity compensation method

Publications (2)

Publication Number Publication Date
JP2003032108A true JP2003032108A (en) 2003-01-31
JP2003032108A5 JP2003032108A5 (en) 2005-04-07

Family

ID=19046498

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2001211132A Pending JP2003032108A (en) 2001-07-11 2001-07-11 Linearity compensation device and linearity compensation method

Country Status (1)

Country Link
JP (1) JP2003032108A (en)

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6861967B2 (en) 2003-07-22 2005-03-01 Denso Corporation Non-linearity correcting method and device for A/D conversion output data
JP2007189535A (en) * 2006-01-13 2007-07-26 Hitachi Kokusai Electric Inc Distortion compensation amplifier
JP2009089360A (en) * 2007-09-13 2009-04-23 Ricoh Co Ltd A/d conversion controlling device, and image forming apparatus
JP2010091406A (en) * 2008-10-08 2010-04-22 Sumitomo Electric Ind Ltd Method of correcting otdr nonlinearity
JP2012114756A (en) * 2010-11-26 2012-06-14 Hitachi Ltd Analog-to-digital converter
JP2013131838A (en) * 2011-12-20 2013-07-04 Advantest Corp D/a converter system and testing apparatus using the same
JP2015204608A (en) * 2014-04-16 2015-11-16 富士電機株式会社 Physical quantity sensor device, and adjustment method of physical quantity sensor device
JP2021069047A (en) * 2019-10-25 2021-04-30 日立Astemo株式会社 Electronic control device
CN113776632A (en) * 2021-08-17 2021-12-10 浙江大华技术股份有限公司 Weighing unbalance loading compensation method and device, computer equipment and storage medium

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6861967B2 (en) 2003-07-22 2005-03-01 Denso Corporation Non-linearity correcting method and device for A/D conversion output data
JP2007189535A (en) * 2006-01-13 2007-07-26 Hitachi Kokusai Electric Inc Distortion compensation amplifier
JP2009089360A (en) * 2007-09-13 2009-04-23 Ricoh Co Ltd A/d conversion controlling device, and image forming apparatus
JP2010091406A (en) * 2008-10-08 2010-04-22 Sumitomo Electric Ind Ltd Method of correcting otdr nonlinearity
JP2012114756A (en) * 2010-11-26 2012-06-14 Hitachi Ltd Analog-to-digital converter
JP2013131838A (en) * 2011-12-20 2013-07-04 Advantest Corp D/a converter system and testing apparatus using the same
JP2015204608A (en) * 2014-04-16 2015-11-16 富士電機株式会社 Physical quantity sensor device, and adjustment method of physical quantity sensor device
US10126145B2 (en) 2014-04-16 2018-11-13 Fuji Electric Co., Ltd. Physical quantity sensor device and method of adjusting physical quantity sensor device
JP2021069047A (en) * 2019-10-25 2021-04-30 日立Astemo株式会社 Electronic control device
CN113776632A (en) * 2021-08-17 2021-12-10 浙江大华技术股份有限公司 Weighing unbalance loading compensation method and device, computer equipment and storage medium

Similar Documents

Publication Publication Date Title
JP5261349B2 (en) Apparatus and method for compensated sensor output
US5361067A (en) Digital linearization calibration for analog to digital converter
FI70485B (en) MAETNINGSFOERFARANDE FOER IMPEDANSER SAERSKILT SMAO CAPACITANSER VID VILKET MAN ANVAENDER EN ELLER FLERA REFERENSER
KR101399047B1 (en) Temperature sensor bow compensation
JP5465965B2 (en) Data processing apparatus and data processing system
EP0553090B1 (en) A/d or d/a converter, a/d and d/a converter system and a calibration method thereof
JP2003032108A (en) Linearity compensation device and linearity compensation method
JPS6343005B2 (en)
WO2005081407A1 (en) Waveform generation method, radar device, and oscillator for radar device
US7068193B2 (en) Integrated digital calibration circuit and digital to analog converter (DAC)
JP3515747B2 (en) Digital-to-analog conversion circuit
EP2405578B1 (en) Analog-to-digital conversion apparatus, analog-to-digital conversion method, and electronic device
US7061325B2 (en) Digital compensation for offset and gain correction
JPH0755588A (en) Temperature detector
JP5128910B2 (en) Temperature correction apparatus and temperature correction method
JP2003032108A5 (en)
US11038517B1 (en) Multiplying digital-to-analog converter (MDAC) with nonlinear calibration
JPH11125555A (en) Load cell balance
JPH08122166A (en) Method and instrument for measuring temperature
JP2648080B2 (en) Digital temperature compensated oscillator
JP3547614B2 (en) Power supply
RU2596073C2 (en) Method of digital signal processing of pressure sensors
KR20200034034A (en) System and method for calibrating offset of analog to digital converter
JPS58222616A (en) Digital-analog converting circuit
JP2940321B2 (en) Temperature compensation device for operational amplifier

Legal Events

Date Code Title Description
A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20040520

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20040520

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20060501

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20060517

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20060914