【技术实现步骤摘要】
本专利技术涉及数据处理，尤其涉及提高小数计算精度方法、装置、计算机设备及存储介质。
技术介绍
1、在浏览器网页应用中，前端开发经常需要对浮点数进行四则运算。然而，由于javascript采用ieee 754标准的双精度浮点数格式存储数值，而计算机内部是以二进制形式处理数据，导致大多数十进制小数无法被二进制精确表示，从而在运算过程中产生精度丢失问题。例如在典型场景中，0.1与0.2相加的结果并非预期的0.3，而是0.30000000000000004。现有技术中，有的是通过转换倍数将待计算算式中的所有双精度浮点数转换为整数。简单说就是2位小数直接乘以100变成整数。因为浮点数本身的精度不准，直接放大n倍仍会出现精度不准的情况。比如：0.29*100＝28.999999999999996。这种精度误差会直接影响计算结果的准确性。
2、在电商、金融等涉及金额计算的网页应用中，商品价格经常需要经过多步浮点数运算(如折扣、税费、分摊等)。由于javascript采用二进制浮点数算术标准(ieee 754)，十进制小数无法被精确表示，导...
【技术保护点】
1.一种提高小数计算精度方法，其特征在于，包括下述步骤：
2.根据权利要求1所述的提高小数计算精度方法，其特征在于，所述接收并解析用户输入的数字和运算符的步骤具体包括：
3.根据权利要求1所述的提高小数计算精度方法，其特征在于，所述智能验证用户输入的数字和运算符的合法性，进行错误处理的步骤具体包括：
4.根据权利要求3所述的提高小数计算精度方法，其特征在于，所述计算所有数字的小数部分最大长度，并确定运算精度的步骤具体包括：
5.根据权利要求1所述的提高小数计算精度方法，其特征在于，所述根据所确定的运算精度，将所有数字转换...
【技术特征摘要】
1.一种提高小数计算精度方法，其特征在于，包括下述步骤：
2.根据权利要求1所述的提高小数计算精度方法，其特征在于，所述接收并解析用户输入的数字和运算符的步骤具体包括：
3.根据权利要求1所述的提高小数计算精度方法，其特征在于，所述智能验证用户输入的数字和运算符的合法性，进行错误处理的步骤具体包括：
4.根据权利要求3所述的提高小数计算精度方法，其特征在于，所述计算所有数字的小数部分最大长度，并确定运算精度的步骤具体包括：
5.根据权利要求1所述的提高小数计算精度方法，其特征在于，所述根据所确定的运算精度，将所有数字转换为整数的步骤具体包括：
6.根据权利要求1所述的提高小数计算精度...
【专利技术属性】
技术研发人员：谢忠阳，
申请(专利权)人：深圳联友科技有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。