【技术实现步骤摘要】
数值处理方法、装置、处理设备及计算机可读存储介质
本申请涉及计算领域,尤其涉及数值处理方法、装置、处理设备及计算机可读存储介质。
技术介绍
对于各式各样的应用程序,尤其是高频更新变量的应用程序中,常常需要对项目的两数值进行相加,来更新变量,例如游戏应用程序,某些项目的数值在设计时可能会很大,例如,设计的数值可能是几十位甚至几百位数字组成的超大数值,越大的数值可为应用程序的各种变量带来越大的区分性,由此可见,大数值的存在具有其实际意义。而在现有的相关技术的研究过程中,专利技术人发现,部分应用程序在运行过程在进行数值的加法处理时,偶尔出现数据溢出的情况,或者说,由于数值的位数存在限制,超过位数限制的加法处理,无法得到正确的计算结果。因此,如何如破位数的限制得到两数值正确的相加结果,需要优化器计算方式。
技术实现思路
本申请提供了数值处理方法、装置、处理设备及计算机可读存储介质,用于对两数值进行加法处理时,有效突破位数的限制,避免出现数据溢出的情况。第一方面,本申请提供了一种数值处理方法 ...
【技术保护点】
1.一种数值处理方法,其特征在于,所述方法包括:/n处理设备获取当前待进行加法处理的第一数值以及第二数值,所述加法处理用于计算所述第一数值与所述第二数值的和;/n所述处理设备按照预设数值分段位数对所述第一数值进行分段存储,得到第一数组,以及按照所述预设数值分段位数对所述第二数值进行分段存储,得到第二数组;/n所述处理设备对所述第一数组以及所述第二数组进行加法运算,得到第三数组,所述第三数值用于指示所述第一数值与所述第二数值的和。/n
【技术特征摘要】
1.一种数值处理方法,其特征在于,所述方法包括:
处理设备获取当前待进行加法处理的第一数值以及第二数值,所述加法处理用于计算所述第一数值与所述第二数值的和;
所述处理设备按照预设数值分段位数对所述第一数值进行分段存储,得到第一数组,以及按照所述预设数值分段位数对所述第二数值进行分段存储,得到第二数组;
所述处理设备对所述第一数组以及所述第二数组进行加法运算,得到第三数组,所述第三数值用于指示所述第一数值与所述第二数值的和。
2.根据权利要求1所述的方法,其特征在于,所述处理设备按照预设数值分段位数对所述第一数值进行分段存储,得到第一数组,以及按照所述预设数值分段位数对所述第二数值进行分段存储,得到第二数组之前,所述方法还包括:
所述处理设备判断所述第一数值与所述第二数值的和是否存在数据溢出风险;
若是,则所述处理设备触发按照所述预设数值分段位数对所述第一数值进行分段存储以及按照所述预设数值分段位数对所述第二数值进行分段存储。
3.根据权利要求2所述的方法,其特征在于,所述处理设备判断所述第一数值与所述第二数值的和是否存在数据溢出风险包括:
所述处理设备获取所述第一数值以及所述第二数值两者的数据存储结构类型;
当所述两者的数据存储结构类型为存在数据溢出风险的预设数据存储结构类型时,所述处理设备确定所述第一数值与所述第二数值的和存在数据溢出风险。
4.根据权利要求3所述的方法,其特征在于,所述预设数据结构类型为number数据存储结构类型。
5.根据权利要求1所述的方法,其特征在于,所述处理设备按照预设数值分段位数对所述第一数值进行分段存储,得到第一数组,以及按照所述预设数值分段位数对所述第二数值进行分段存储,得到第二数组之前,所述方法还包括:
所述处理设备获取所述第一数值的第一位数、所述第二数值的第二位数;
当所述第一位数或者所述第二位数大于预设数量级的位数时,所述处理设备触发按照所述预设数值分段位数对所述第一数值进行分段存储以及按照所述预...
【专利技术属性】
技术研发人员:贾聪,吴柳,
申请(专利权)人:武汉虚咖科技有限公司,
类型:发明
国别省市:湖北;42
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。