电平误差校正方法、装置、计算机设备和存储介质制造方法及图纸

本申请涉及一种电平误差校正方法、装置、计算机设备和存储介质，其中，该电平误差校正方法包括：获取初始校正集合；基于所述初始校正集合获取线性回归方程；基于所述初始校正集合以及所述线性回归方程获取误差值；将所述误差值与预设误差值进行比对；若所述误差值小于所述预设误差值，则基于所述线性回归方程对待校准预设电平进行校正；若所述误差值大于所述预设误差值，则转至基于所述初始校正集合获取线性回归方程的步骤。上述电平误差校正方法、装置、计算机设备和存储介质，通过将误差值与预设误差值进行比对，并基于比对结果重新确定范围较小的校正集合，迭代确定不同范围的线性回归方程，提高了校正精度。提高了校正精度。提高了校正精度。

【技术实现步骤摘要】
电平误差校正方法、装置、计算机设备和存储介质


[0001]本申请涉及数字测试
，特别是涉及一种电平误差校正方法、装置、计算机设备和存储介质。

技术介绍

[0002]为了提高数字测试通道集成度，传统数字板卡的设计思路如下：数字测试的功能通过FPGA和专用PE（Pin electronic）芯片实现，再辅以外围的电源，ADDA芯片等，就可以实现数字测试的功能。因此数字测试板卡的输出精度，一方面取决于PE芯片的自身DAC分辨率和精度，一方面也取决于数字测试板卡的电路设计，包括PE芯片供电电源的选型和设计，ADDA相关电路和PCB的设计。
[0003]受限于专用PE芯片和ADDA芯片的分辨率和精度，数字测试板卡需要通过校准算法来提高通道的稳定性和精度。大部分校准算法都是通过计算出每个通道的Gain和Offset，逼近硬件的精度极限，但总体校正精度较差。
[0004]目前针对相关技术中数字测试系统电平校正精度较差的问题，尚未提出有效的解决方案。

技术实现思路

[0005]本申请实施例提供了一种电平误差校正方法、装置、本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种电平误差校正方法，其特征在于，包括：获取初始校正集合，所述初始校正集合包括预设电平以及对应的实际输出电平；基于所述初始校正集合获取线性回归方程；基于所述初始校正集合以及所述线性回归方程获取误差值；将所述误差值与预设误差值进行比对；若所述误差值小于所述预设误差值，则基于所述线性回归方程对待校准预设电平进行校正；若所述误差值大于所述预设误差值，则获取所述误差值对应的预设电平以及实际输出电平，基于所述预设电平以及实际输出电平获取第一校正集合，所述第一校正集合归属于所述初始校正集合，并以所述第一校正集合作为所述初始校正集合，转至基于所述初始校正集合获取线性回归方程的步骤。2.根据权利要求1所述的电平误差校正方法，其特征在于，所述基于所述初始校正集合获取线性回归方程包括：建立预设电平与理论输出电平的理想线性回归模型；基于所述实际输出电平以及理论输出电平对所述理想线性回归模型进行求解，得到线性回归参数；基于所述线性回归参数以及理想线性回归模型得到所述线性回归方程。3.根据权利要求1所述的电平误差校正方法，其特征在于，所述将所述误差值与预设误差值进行比对还包括：将所述初始校正集合基于预设电平的大小进行排序，所述实际输出电平与对应的所述预设电平绑定，形成数值对；基于所述排序的结果，以所述预设电平为最小值的数值对为起点，依次选取所述初始校正集合中预设数量的数值对作为第一集合，所述初始校正集合中除第一集合外的数值对为第二集合；以所述第一集合中所述预设电平最大的数值对为起点，将所述第一集合中的数值对对应的误差值依次与预设误差值进行比对；以所述第二集合中所述预设电平最小的数值对为起点，将所述第二集合中的数值对对应的误差值依次与预设误差值进行比对。4.根据权利要求3所述的电平误差校正方法，其特征在于，所述若所述误差值大于所述预设误差值，则获取所述误差值对应的预设电平以及实际输出电平，基于所述预设电平以及实际输出电平获取第一校正集合还包括：若所述数值对的误差值大于所述预设误差值，则获取所述误差值对应的数值对作为偏差数值对；若所述偏差数值对属于所述第一集合，则选取所述第一集合中所述预设电平小于所述偏差数值对的预设电平的数值对作为第一校正集合；若所述偏差数值对属于所述第二集合，则选取所述第二集合中所述预设电平大于所述偏差数值对的预设电平的数值对作为第一校正集合。5.根据权利要求4所述的电平误差校正方法，其特征在于，所述以所述第一校正集合作为所述初始校正集合，转至基于所述初始校正...

【专利技术属性】
技术研发人员：赵阳，钟锋浩，
申请(专利权)人：杭州长川科技股份有限公司，
类型：发明
国别省市：