CN110657833A - 一种用于高精度源表一体化测量设备的新型校准方法 - Google Patents

一种用于高精度源表一体化测量设备的新型校准方法 Download PDF

Info

Publication number
CN110657833A
CN110657833A CN201910966129.0A CN201910966129A CN110657833A CN 110657833 A CN110657833 A CN 110657833A CN 201910966129 A CN201910966129 A CN 201910966129A CN 110657833 A CN110657833 A CN 110657833A
Authority
CN
China
Prior art keywords
value
fitting
calibration
original data
measuring equipment
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201910966129.0A
Other languages
English (en)
Other versions
CN110657833B (zh
Inventor
刘国福
徐伟专
甘伟
尚帅
文诚
胡能钢
熊艳
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
HUNAN YINHE ELECTRIC CO Ltd
Original Assignee
HUNAN YINHE ELECTRIC CO Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by HUNAN YINHE ELECTRIC CO Ltd filed Critical HUNAN YINHE ELECTRIC CO Ltd
Priority to CN201910966129.0A priority Critical patent/CN110657833B/zh
Publication of CN110657833A publication Critical patent/CN110657833A/zh
Application granted granted Critical
Publication of CN110657833B publication Critical patent/CN110657833B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01D—MEASURING NOT SPECIALLY ADAPTED FOR A SPECIFIC VARIABLE; ARRANGEMENTS FOR MEASURING TWO OR MORE VARIABLES NOT COVERED IN A SINGLE OTHER SUBCLASS; TARIFF METERING APPARATUS; MEASURING OR TESTING NOT OTHERWISE PROVIDED FOR
    • G01D18/00—Testing or calibrating apparatus or arrangements provided for in groups G01D1/00 - G01D15/00
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01R—MEASURING ELECTRIC VARIABLES; MEASURING MAGNETIC VARIABLES
    • G01R35/00—Testing or calibrating of apparatus covered by the other groups of this subclass
    • G01R35/005—Calibrating; Standards or reference devices, e.g. voltage or resistance standards, "golden" references
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
    • G06F17/10—Complex mathematical operations

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Theoretical Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Computational Mathematics (AREA)
  • Mathematical Optimization (AREA)
  • Mathematical Analysis (AREA)
  • Pure & Applied Mathematics (AREA)
  • Databases & Information Systems (AREA)
  • Software Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Algebra (AREA)
  • Indication And Recording Devices For Special Purposes And Tariff Metering Devices (AREA)
  • Testing Or Calibration Of Command Recording Devices (AREA)

Abstract

本发明涉及本发明涉及测量设备的校准方法，特别涉及一种用于高精度源表一体化测量设备的新型校准方法，其包括获取原始数据；分析获取的原始数据；将输出真值作为拟合对象，对实测值进行拟合，得到校准系数；将设置值Z作为拟合对象，对输出真值Y进行拟合，得到另一组校准系数，微处理器根据上述两组校准系数和原始数据校正得到校准后的实测值和设置值。本发明是基于非线性最小二乘法的高效拟合方法，其选取三次样条函数作为拟合函数。该方法无需求取反函数，也就避免了牛顿迭代法的求导和除法，而且只需要六次乘法和三次加法即可求取一组校准系数，无需先进算法复杂的计算过程和庞大的计算量。

Description

一种用于高精度源表一体化测量设备的新型校准方法
技术领域
本发明涉及测量设备的校准方法，特别涉及一种用于高精度源表一体化测量设备的新型校准方法。
背景技术
随着科技的进步和社会的发展，各行业对设备的性能追求越来越高，高精密仪器仪表将获得更加广泛的应用空间。高精度源表一体化测量设备(Source Measure Unit，简称SMU)，作为高精密仪器仪表的一个重要分支，在投入使用前需要经过严格的校准，以确保真实输出值和实测值都与输出真值保持一致。现代化的SMU都具备宽量程和高分辨率的特点，有的甚至要求电压在0.1V分辨率和1～10000V的量程范围内的所有取值都能达到万分之一的精度，这对于校准工作提出了严峻的挑战。
在假设SMU的设置值和实测值相等的前提下，若对实测值校准采用多项式拟合的方法，那么对设置值校准则需要求取多项式的反函数，难免会引入求根运算和除法运算。目前广泛采用的求根方法包括牛顿迭代法和较为先进的蚁群算法、模拟退火算法和遗传算法等。牛顿迭代法对初值的要求较高，当初值选取较为精确时，收敛是很快的，但每步都要计算函数的导数，使得运算量很大，而且还引入了除法，易导致系统不稳定；而先进的智能算法则都需要复杂的计算过程和庞大的计算量，实用性较差。
发明内容
针对上述技术问题，本发明提供一种基于非线性最小二乘法的、高效的用于高精度源表一体化测量设备的新型校准方法。
本发明解决上述技术问题所采用的技术方案为：一种用于高精度源表一体化测量设备的新型校准方法，其包括以下步骤：
(1)获取原始数据，包括SMU的输出真值Y、实测值X和设置值Z；
(2)计算原始数据相对设置值的相对误差，将相对误差接近的采样点划分至同一个区间，对每个区间进行拟合；
(3)将输出真值Y作为拟合对象，对实测值X进行拟合，得到一组校准系数，拟合表达式如下：
Y＝a[0]X3+a[1]X2+a[2]X+a[3] (1)
(4)为避免求取反函数，将输出真值Y代替设置值Z作为拟合对象，对设置值Z进行拟合(本该对输出真值Y进行拟合)，得到另一组校准系数，拟合表达式如下：
Y＝b[0]Z3+b[1]Z2+b[2]Z+b[3] (2)
此时Z表示设置值，为避免求取反函数，实际计算参数时Z取的却是输出真值，而Y取的是设置值。
(5)微处理器根据上述两组校准系数和原始数据校正得到校准后的实测值和设置值。
从以上技术方案可知，本发明用于高精度源表一体化测量设备的新型校准方法是基于非线性最小二乘法的高效拟合方法，其选取三次样条函数作为拟合函数。该方法无需求取反函数，也就避免了牛顿迭代法的求导和除法，而且只需要六次乘法和三次加法即可求取一组校准系数，无需先进算法复杂的计算过程和庞大的计算量，运算量非常小而且确保系统稳定，且能够对宽量程范围和高分辨率的SMU进行校准，易于实现，适用性强。
附图说明
图1是本发明的流程示意图。
具体实施方式
下面结合图1和实施例详细介绍本发明，在此本发明的示意性实施例以及说明用来解释本发明，但并不作为对本发明的限定。
如图1，本发明提供了用于高精度源表一体化测量设备的新型校准方法，其包括以下步骤：
(1)获取原始数据，包括SMU的输出真值Y、实测值X和设置值Z；
(2)计算原始数据相对设置值的相对误差，将相对误差接近的采样点划分至同一个区间，对每个区间进行拟合；
(3)将输出真值Y作为拟合对象，对实测值X进行拟合，得到一组校准系数，拟合表达式如下：
Y＝a[0]X3+a[1]X2+a[2]X+a[3] (1)
(4)为避免求取反函数，将输出真值Y代替设置值Z作为拟合对象，对设置值Z进行拟合(本该对输出真值Y进行拟合)，得到另一组校准系数，拟合表达式如下：
Y＝b[0]Z3+b[1]Z2+b[2]Z+b[3] (2)
注意：此处Z表示设置值，为避免求取反函数，实际计算参数时Z取的却是输出真值，而Y取的是设置值。
(5)微处理器根据上述两组校准系数和原始数据计算得到校准后的实测值和设置值。
本发明的非线性最小二乘法是以误差的平方和最小为准则来估计非线性静态模型参数的一种参数估计方法，该方法是以区间内的整体拟合效果最优为目标。选取最常用的三次样条函数作为拟合函数，在确保拟合效果达标的同时可使计算量达到最小。该方法同样适用于其它高精密仪器仪表的校准。
实施例
下面以SMU的电压为校准对象，讲述在50Hz的情况下，100～1000V范围内的具体实现方法。
下表为获取的原始数据：
表1
Figure BDA0002230537050000041
首先对SMU的实测值进行校准，采用非线性最小二乘法通过式(1)得到校准表达式为：
X′＝-9.4847*10-11*X3+1.91653913*10-7*X2+0.999189812*X-0.0992891821 (3)
将SMU校准前的实测值X代入即可得到校准后的实测值X′。
然后对SMU的设置值进行校准，采用非线性最小二乘法通过式(2)得到校准表达式为：
Z′＝-4.394824*10-9*Z3+6.63190422*10-6*Z2+0.998267961Z+0.183169069 (4)
将SMU校准前的设置值Z代入即可得到校准后的设置值Z′。

Claims (1)

1.一种用于高精度源表一体化测量设备的新型校准方法，其特征包括以下步骤：
(1)获取原始数据，包括SMU的输出真值Y、实测值X和设置值Z；
(2)计算原始数据相对设置值的相对误差，将相对误差接近的采样点划分至同一个区间，对每个区间进行拟合；
(3)将输出真值Y作为拟合对象，对实测值X进行拟合，得到一组校准系数，拟合表达式如下：
Y＝a[0]X3+a[1]X2+a[2]X+a[3] (1)
(4)为避免求取反函数，将输出真值Y代替设置值Z作为拟合对象，对设置值Z进行拟合，得到另一组校准系数，拟合表达式如下：
Y＝b[0]Z3+b[1]Z2+b[2]Z+b[3] (2)
为避免求取反函数，实际计算参数时Z取输出真值，Y取设置值；
(5)微处理器根据上述两组校准系数和原始数据校正得到校准后的实测值和设置值。
CN201910966129.0A 2019-10-12 2019-10-12 一种用于高精度源表一体化测量设备的新型校准方法 Active CN110657833B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910966129.0A CN110657833B (zh) 2019-10-12 2019-10-12 一种用于高精度源表一体化测量设备的新型校准方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910966129.0A CN110657833B (zh) 2019-10-12 2019-10-12 一种用于高精度源表一体化测量设备的新型校准方法

Publications (2)

Publication Number Publication Date
CN110657833A true CN110657833A (zh) 2020-01-07
CN110657833B CN110657833B (zh) 2023-02-10

Family

ID=69040697

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910966129.0A Active CN110657833B (zh) 2019-10-12 2019-10-12 一种用于高精度源表一体化测量设备的新型校准方法

Country Status (1)

Country Link
CN (1) CN110657833B (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114264865A (zh) * 2022-03-03 2022-04-01 武汉格蓝若智能技术有限公司 一种电流采集装置在线自校准方法

Citations (30)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS62167432A (ja) * 1985-12-28 1987-07-23 Shimadzu Corp 材料試験機
US4771237A (en) * 1986-02-19 1988-09-13 Panametrics Method and apparatus for calibrating a displacement probe using a polynomial equation to generate a displacement look-up table
JPH10332420A (ja) * 1997-05-30 1998-12-18 Satoshi Kiyono センサの自律校正方法
JPH11316545A (ja) * 1998-01-29 1999-11-16 Toyo Commun Equip Co Ltd 有限体上の２次多項式の求根方法及び求根回路
US20060092058A1 (en) * 2004-11-04 2006-05-04 Slavin Keith R Calibration system and method for a linearity corrector using filter products
CN1898674A (zh) * 2003-10-20 2007-01-17 瑟诺生物科学有限责任公司 用于校准质谱仪(ms)与其它仪器系统和用于处理ms与其它数据的方法
US20070241760A1 (en) * 2006-04-17 2007-10-18 Takashi Yamasaki Method for partial re-calibrating a network analyzer, and a network analyzer
EP1659374B1 (en) * 2004-11-12 2007-11-21 Societe de Technologie Michelin Centralized calibration coefficients for sensor based measurements.
CN101149927A (zh) * 2006-09-18 2008-03-26 展讯通信（上海）有限公司 在线性预测分析中确定isf参数的方法
US20090121908A1 (en) * 2007-11-08 2009-05-14 Regier Christopher G Source-Measure Unit Based on Digital Control Loop
CN101718584A (zh) * 2008-10-10 2010-06-02 电子科技大学 一种基于多项式拟合的全光采样的线性度和转换效率计算方法
CN102096057A (zh) * 2010-11-16 2011-06-15 北京航天测控技术开发公司 一种电容测量电路的校准方法及装置
CN102589686A (zh) * 2011-01-07 2012-07-18 上海微电子装备有限公司 一种能量传感器的校准方法
US20120306517A1 (en) * 2011-06-06 2012-12-06 Regier Christopher G Compensation Methods for Digital Source-Measure-Units (SMUs)
CN103336255A (zh) * 2013-06-09 2013-10-02 福建奥通迈胜电力科技有限公司 一种高精度故障指示器的校准方法
CN103743427A (zh) * 2013-12-31 2014-04-23 江苏嘉钰新能源技术有限公司 一种线性校准方法
CN204142821U (zh) * 2014-09-26 2015-02-04 中国电子科技集团公司第十三研究所 一种皮纳安级直流电流源高精度校准系统
CN104614593A (zh) * 2014-12-26 2015-05-13 同济大学 一种基于自校准的高精度智能仪表系统及其应用方法
CN106019207A (zh) * 2016-07-18 2016-10-12 上海交通大学 一种电能计量校准方法
CN106124078A (zh) * 2016-07-25 2016-11-16 北京航空航天大学 一种采用双热电偶测量强瞬变流体温度的方法
US20170146575A1 (en) * 2015-11-23 2017-05-25 National Instruments Corporation Digitally Compensating for the Impact of Input Bias Current on Current Measurements
CN107024674A (zh) * 2017-05-26 2017-08-08 北京航空航天大学 一种基于递推最小二乘法的磁强计现场快速标定方法
CN107084818A (zh) * 2017-03-22 2017-08-22 深圳市博巨兴实业发展有限公司 一种高精度压力传感器芯片的校准方法
CN107273336A (zh) * 2017-05-10 2017-10-20 北京航天控制仪器研究所 一种基于最小二乘法的曲线拟合方法
CN107621279A (zh) * 2017-09-12 2018-01-23 歌尔股份有限公司 数据处理方法、传感器数据校准方法及装置
CN108362911A (zh) * 2018-02-09 2018-08-03 西京学院 一种基于最小二乘法和插值法的流速仪标定方法
CN108375748A (zh) * 2018-01-30 2018-08-07 电子科技大学 一种基于正弦激励和dft变换的非线性校准方法
CN108593203A (zh) * 2018-04-28 2018-09-28 福州大学 基于8051的压力传感器校准算法
CN208224357U (zh) * 2018-05-29 2018-12-11 广州思林杰网络科技有限公司 源测量嵌入式smu仪器
CN109073414A (zh) * 2016-04-13 2018-12-21 ams有限公司 位置传感器和用于生成传感器输出信号的方法

Patent Citations (30)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS62167432A (ja) * 1985-12-28 1987-07-23 Shimadzu Corp 材料試験機
US4771237A (en) * 1986-02-19 1988-09-13 Panametrics Method and apparatus for calibrating a displacement probe using a polynomial equation to generate a displacement look-up table
JPH10332420A (ja) * 1997-05-30 1998-12-18 Satoshi Kiyono センサの自律校正方法
JPH11316545A (ja) * 1998-01-29 1999-11-16 Toyo Commun Equip Co Ltd 有限体上の２次多項式の求根方法及び求根回路
CN1898674A (zh) * 2003-10-20 2007-01-17 瑟诺生物科学有限责任公司 用于校准质谱仪(ms)与其它仪器系统和用于处理ms与其它数据的方法
US20060092058A1 (en) * 2004-11-04 2006-05-04 Slavin Keith R Calibration system and method for a linearity corrector using filter products
EP1659374B1 (en) * 2004-11-12 2007-11-21 Societe de Technologie Michelin Centralized calibration coefficients for sensor based measurements.
US20070241760A1 (en) * 2006-04-17 2007-10-18 Takashi Yamasaki Method for partial re-calibrating a network analyzer, and a network analyzer
CN101149927A (zh) * 2006-09-18 2008-03-26 展讯通信（上海）有限公司 在线性预测分析中确定isf参数的方法
US20090121908A1 (en) * 2007-11-08 2009-05-14 Regier Christopher G Source-Measure Unit Based on Digital Control Loop
CN101718584A (zh) * 2008-10-10 2010-06-02 电子科技大学 一种基于多项式拟合的全光采样的线性度和转换效率计算方法
CN102096057A (zh) * 2010-11-16 2011-06-15 北京航天测控技术开发公司 一种电容测量电路的校准方法及装置
CN102589686A (zh) * 2011-01-07 2012-07-18 上海微电子装备有限公司 一种能量传感器的校准方法
US20120306517A1 (en) * 2011-06-06 2012-12-06 Regier Christopher G Compensation Methods for Digital Source-Measure-Units (SMUs)
CN103336255A (zh) * 2013-06-09 2013-10-02 福建奥通迈胜电力科技有限公司 一种高精度故障指示器的校准方法
CN103743427A (zh) * 2013-12-31 2014-04-23 江苏嘉钰新能源技术有限公司 一种线性校准方法
CN204142821U (zh) * 2014-09-26 2015-02-04 中国电子科技集团公司第十三研究所 一种皮纳安级直流电流源高精度校准系统
CN104614593A (zh) * 2014-12-26 2015-05-13 同济大学 一种基于自校准的高精度智能仪表系统及其应用方法
US20170146575A1 (en) * 2015-11-23 2017-05-25 National Instruments Corporation Digitally Compensating for the Impact of Input Bias Current on Current Measurements
CN109073414A (zh) * 2016-04-13 2018-12-21 ams有限公司 位置传感器和用于生成传感器输出信号的方法
CN106019207A (zh) * 2016-07-18 2016-10-12 上海交通大学 一种电能计量校准方法
CN106124078A (zh) * 2016-07-25 2016-11-16 北京航空航天大学 一种采用双热电偶测量强瞬变流体温度的方法
CN107084818A (zh) * 2017-03-22 2017-08-22 深圳市博巨兴实业发展有限公司 一种高精度压力传感器芯片的校准方法
CN107273336A (zh) * 2017-05-10 2017-10-20 北京航天控制仪器研究所 一种基于最小二乘法的曲线拟合方法
CN107024674A (zh) * 2017-05-26 2017-08-08 北京航空航天大学 一种基于递推最小二乘法的磁强计现场快速标定方法
CN107621279A (zh) * 2017-09-12 2018-01-23 歌尔股份有限公司 数据处理方法、传感器数据校准方法及装置
CN108375748A (zh) * 2018-01-30 2018-08-07 电子科技大学 一种基于正弦激励和dft变换的非线性校准方法
CN108362911A (zh) * 2018-02-09 2018-08-03 西京学院 一种基于最小二乘法和插值法的流速仪标定方法
CN108593203A (zh) * 2018-04-28 2018-09-28 福州大学 基于8051的压力传感器校准算法
CN208224357U (zh) * 2018-05-29 2018-12-11 广州思林杰网络科技有限公司 源测量嵌入式smu仪器

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
刘霞美等: "一种高精度数字源表小电流校准方法", 《宇航计测技术》 *
杨俊贤等: "海洋水文气象观测设备误差校准算法研究", 《山东科学》 *

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114264865A (zh) * 2022-03-03 2022-04-01 武汉格蓝若智能技术有限公司 一种电流采集装置在线自校准方法
CN114264865B (zh) * 2022-03-03 2022-05-24 武汉格蓝若智能技术有限公司 一种电流采集装置在线自校准方法

Also Published As

Publication number Publication date
CN110657833B (zh) 2023-02-10

Similar Documents

Publication Publication Date Title
CN102095430B (zh) 基于阶跃响应的传感器动态误差频域修正技术
CN104102836B (zh) 一种电力系统快速抗差状态估计方法
CN107272821B (zh) 实时时钟校准方法及装置、存储介质、电子设备
CN109581018B (zh) 宽带取样示波器时基误差同步补偿方法及装置
CN106096223A (zh) 一种五孔探针数据处理方法
CN109100755A (zh) 高精度gnss接收机射频前端群时延畸变的校正方法
CN111983539B (zh) 在片s参数测量系统校准方法
CN116337783A (zh) 一种气体分析仪的多点标定方法和系统
CN110967658B (zh) 一种基于数字微差法的模拟量输入合并单元校验仪溯源的方法
CN110657833B (zh) 一种用于高精度源表一体化测量设备的新型校准方法
CN112946560A (zh) 电能表校准方法、装置、电能表及电能表系统
CN103543425A (zh) 一种自动补偿网络分析仪测量面变化误差的方法
CN105846920A (zh) N+1接收机结构矢量网络分析仪8项误差校准方法
CN109781342A (zh) 气压计校准方法及装置
CN107800434A (zh) 一种基于参数提取的快速adc测试方法
US8736841B1 (en) Method and apparatus for aligning and validating the measurements of color measurement instruments
RU2199088C1 (ru) Способ коррекции статических характеристик измерительных преобразователей
CN106597021B (zh) 一种基于调制函数的加速度计测量通道延迟时间估计方法
CN116380339B (zh) 一种薄膜规真空计校准方法及相关设备
CN106227150B (zh) 一种基于软件标定精度的方法和装置
CN104819703B (zh) 一种用于倾角传感支点的倾斜角度参数拟合方法
CN113848453B (zh) 一种i/f电路线性度校准方法及系统
CN102508041A (zh) 一种Delta型电容参数测算方法
CN110865577B (zh) 一种用于交流电阻校准的数字采样方法及装置
CN113407908B (zh) 一种多峰频谱中矢量拟合的方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant