加权补偿拟合算法、计算机装置和存储介质制造方法及图纸

技术编号：40636748 阅读：8 留言：0更新日期：2024-03-13 21:20

本发明专利技术公开了加权补偿拟合算法、计算机装置和存储介质，步骤为：S100：建立多个标定点(x<subgt;i</subgt;,y<subgt;i</subgt;)，i＝(1,2,3,4...N)；S200：对每个标定点多次采样，获取每个标定点的误差样本集；S300：求出每个误差样本集的均值得到一组坐标S400：以(x<subgt;1</subgt;,y<subgt;1</subgt;)为基点，计算坐标中其余其余坐标点与基点连线的斜率k<subgt;i</subgt;；其中，S500：计算每个斜率k<subgt;i</subgt;的斜率值的权重w<subgt;i</subgt;；其中，S600：计算得出最终的斜率k；其中，S700：得出最终的拟合直线：y＝k(x‑x<subgt;1</subgt;)+y<subgt;1</subgt;，本发明专利技术中通过增加了斜率的权重值，从而使得得到的补偿值拟合直线更加准确。

全部详细技术资料下载

【技术实现步骤摘要】

本专利技术涉及补偿值校准领域，特别涉及加权补偿拟合算法、计算机装置和存储介质。

技术介绍

1、在高精度数据测量时，由于测量范围，温度等因素的影响会测出不同的结果，这些因素可以被测量仪器感知。仪器可以通过软件校准的方式，给予不同的补偿值，从而在各个场景下都能测出较为精确的值。

2、但校准无法对所有的测量值都预先测出校准值，只能选择部分校准点，然后根据校准点的校准数据算出当前测量值对应的补偿值(如测量1v～10v之间的电压值，我们不能事先确定每个测量电压应该补偿多少，只能在部分校准点如：1v或10v处测量出补偿值，然后根据线性关系计算出测量电压如：2v，5v，8.2v时的补偿值)。在测量值与补偿值大致呈线性关系的场景下，线性拟合算法决定了补偿值的计算是否准确。

3、目前常用的线性拟合算法主要有3种：

4、1、最小二乘法；

5、2、梯度下降法；

6、3、高斯牛顿.列.马算法；

7、虽然计算方法不一样，但目的都是找出一条直线y＝kx+b,使得所有的样本点到该直线的竖直距离的平方和最小，即公式中的s最小：

8、

9、在精度测量的场景下，我们更希望在较小的测量值时，误差控制更严格，因为此时的绝对误差值放大的百分比误差会更大，不是太关注在较大的测量值时的绝对误差。因此本文提出一种带权重的线性拟合算法能够较好的满足精度测量需求。

技术实现思路

1、本专利技术解决的技术问题是提供一种加权补偿拟合算法，其能很好的满足精度测量要求。

2、本专利技术解决其技术问题所采用的技术方案是：加权补偿拟合算法，其步骤为：

3、s100：建立多个标定点(xi,yi)，i＝(1,2,3,4...n)；

4、s200：对每个标定点多次采样，获取每个标定点的误差样本集；

5、s300：求出每个误差样本集的均值得到一组坐标

6、s400：以(x1,y1)为基点，计算坐标中其余其余坐标点与基点连线的斜率ki；

7、其中，

8、s500：计算每个斜率ki的斜率值的权重wi；

9、其中，

10、s600：计算得出最终的斜率k；

11、其中，

12、s700：得出最终的补偿值拟合直线：y＝k(x-x1)+y1，该直线上的y值就是对应的各个测量值x的补偿值。

13、进一步的是：在步骤s200中，对每个标定点多次采样，获取每个标定点的误差样本集，对每个标定点的误差样本集进行异常值过滤。

14、进一步的是：对每个标定点的误差样本集进行异常值过滤的具体步骤为：

15、s201：针对每个点xi得到一组误差数据yi1、yi2、yi3...yim；

16、s202：计算样本均值ui和样本标准差σi；

17、其中，

18、其中，

19、s203：对于误差数据yim，若|yim-ui|＞3σ，则将该误差数据yim剔除，若|yim-ui|≤3σ，则该误差数据保留。

20、本专利技术还公开了一种计算机装置，包括：处理器、存储器、通信接口和通信总线，所述处理器、存储器和通信接口通过所述通信总线完成相互间的通信，所述存储器用于存放至少一可执行指令，所述可执行指令使所述处理器执行如权利要求1至3中任意一项所述的加权补偿拟合算法对应的操作。

21、本专利技术还公开了一种计算机存储介质，所述计算机存储介质中存储有至少一个可执行指令，所述可执行指令使处理器执行如权利要求1至3中任意一项所述的加权补偿拟合算法对应的操作。

22、本专利技术的有益效果是：本专利技术中通过增加了斜率的权重值，从而使得得到的补偿值拟合直线更加准确。

本文档来自技高网...

【技术保护点】

1.加权补偿拟合算法，其特征在于：

2.如权利要求1所述的加权补偿拟合算法，其特征在于：在步骤S200中，对每个标定点多次采样，获取每个标定点的误差样本集，对每个标定点的误差样本集进行异常值过滤。

3.如权利要求2所述的加权补偿拟合算法，其特征在于：对每个标定点的误差样本集进行异常值过滤的具体步骤为：

4.一种计算机装置，其特征在于，包括：处理器、存储器、通信接口和通信总线，所述处理器、存储器和通信接口通过所述通信总线完成相互间的通信，所述存储器用于存放至少一可执行指令，所述可执行指令使所述处理器执行如权利要求1至3中任意一项所述的加权补偿拟合算法对应的操作。

5.一种计算机存储介质，其特征在于，所述计算机存储介质中存储有至少一个可执行指令，所述可执行指令使处理器执行如权利要求1至3中任意一项所述的加权补偿拟合算法对应的操作。

【技术特征摘要】

1.加权补偿拟合算法，其特征在于：

2.如权利要求1所述的加权补偿拟合算法，其特征在于：在步骤s200中，对每个标定点多次采样，获取每个标定点的误差样本集，对每个标定点的误差样本集进行异常值过滤。

3.如权利要求2所述的加权补偿拟合算法，其特征在于：对每个标定点的误差样本集进行异常值过滤的具体步骤为：

4.一种计算机装置，其特征在于，包括：处理器、存储器...

【专利技术属性】
技术研发人员：李鹏举，张军，
申请(专利权)人：希尔塔苏州信息技术有限公司，
类型：发明
国别省市：

全部详细技术资料下载我是这个专利的主人