浅谈iOS 关于小数精确计算（NSDecimalNumber）

做了好一段时间的金融产品，对数字是要非常敏感，差个零点零几都不行，精确度是要非常重视的，将后台传给我的floatValue转成NSString，一直没发现问题，最近项目有关个人账户的资产显示，发现总是和web和android有点误差，百思不得其解，在Stack Overflow上面问了一下，发现了NSDecimalNumber这个API，这个类为OC程序提供定点算法功能，它被设计不会损失精度并且可预先设置凑整规则的10进制计算，它比浮点数更好去表达货币，作为代价，它的计算相对复杂，相对耗时。

举个栗子：

float a = 0.01;
int b = 99999999;
double c = 0.0;
c = a * b;
NSLog(@"%f",c);
NSLog(@"%.2f",c);

2017-08-02 15:41:25.620 DecimalNumber[3014:155231] 1000000.000000
2017-08-02 15:41:25.620 DecimalNumber[3014:155231] 1000000.00

明显已经已经失真了。

那么我们换个类型，把精度调高，会不会好点呢？

c = a*(double)b;
NSLog(@"%f",c);
NSLog(@"%.2f",c);

然并卵，

2017-08-02 16:16:32.293 DecimalNumber[3144:167125] 999999.967648
2017-08-02 16:16:32.294 DecimalNumber[3144:167125] 999999.97

这都是什么鬼，数学白学了。

最后想到了一个方法，我把它转成了字符串，然后再转成double类型，没想到精度就达到要求了

NSString *aString = [NSString stringWithFormat:@"%.2f", a];

NSString *bSting = [NSString stringWithFormat:@"%.2f", (double)b];

c = [aString doubleValue] * [bString doubleValue];

NSLog(@"%.2f",c);

2017-08-02 16:27:32.590 DecimalNumber[3252:172900] 999999.99

不过看起来有点别扭，转过来转过去的就不说了，一看感觉感觉不专业。下面通过NSDecimalNumber提供计算方式，这是官方建议的货币计算API,精确度比较高，对乘除计算都有单独的接口提供。

NSDecimalNumber *decimalNumber1 = [NSDecimalNumber decimalNumberWithString:aString];

NSDecimalNumber *decimalNumber2 = [NSDecimalNumber decimalNumberWithString:bString];

NSDecimalNumber *result = [decimalNumber1 decimalNumberByMultiplyingBy:decimalNumber2];

NSLog(@"%@",result);

2017-08-02 16:35:32.779 DecimalNumber[3369:177485] 999999.99

这样看起来就舒服多了，精确度也得到了满足

在对于货币的计算显示，要时刻注意精度的问题。优先选用此API，下面是官方的说明NSDecimalNumber

以上就是本文的全部内容，希望对大家的学习有所帮助，也希望大家多多支持我们。

赞 (0)

相关推荐

  • PHP四舍五入精确小数位及取整

    进一法取整.四舍五入取整.忽略小数等的取整数方法大全 PHP取整数函数常用的四种方法,下面收集了四个函数:经常用到取整的函数,今天小小的总结一下!其实很简单,就是几个函数而已--主要是:ceil,floor,round,intval PHP取整数函数常用的四种方法,下面收集了四个函数:经常用到取整的函数,今天小小的总结一下!其实很简单,就是几个函数而已--主要是:ceil,floor,round,intval 一.ceil - 进一法取整 说明float ceil ( float value )

  • java精度计算代码 java指定精确小数位

    java精度计算代码 java指定精确小数位

    本文实例为大家分享了java指定精确小数位的具体代码,供大家参考,具体内容如下 java代码: public class App2 { public static void main(String[] args) { String val = checkNumber("10.1234155", 2, 6).toString(); System.out.println(val); } public static BigDecimal checkNumber(String number,

  • EditText限制输入数字,精确到小数点后1位的设置方法

    在EditText的布局文件里面设置: android:inputType="numberDecimal" 在代码中: /** 输入框小数的位数*/ private static final int DECIMAL_DIGITS = 1; InputFilter lengthfilter = new InputFilter() { public CharSequence filter(CharSequence source, int start, int end, Spanned de

  • js输出数据精确到小数点后n位代码

    编写两种方法,可以输出数据 num 精确到小数点后第 n 位,具体内容如下 1. 借助于 Math.pow(10,n): 2. 借助于 ..toFixed(n) (JS 1.5(IE5.5+,NS6+以上版本支持). 测试 pi=3.14159265 的输出结果: 精确到小数点后 n 位, 借助于 Math.pow(10,n): 3.1 3.14 3.142 3.1416 精确到小数点后 n 位, 借助于 ..toFixed(n): 3.1 3.14 3.142 3.1416 <html> &

  • jquery精度计算代码 jquery指定精确小数位

    jquery精度计算代码 jquery指定精确小数位

    本文实例为大家分享了jquery指定精确小数位的具体代码,供大家参考,具体内容如下 /** * 将标签的值格式化 * id 标签id * min 最小值 * max 最大值 */ function toFloat(id,min,max){ var htmlVal = $("#"+id).html(); var index = htmlVal.indexOf("."); var result = ""; if(index > 0){ html

  • 浅谈iOS 关于小数精确计算（NSDecimalNumber）

    做了好一段时间的金融产品,对数字是要非常敏感,差个零点零几都不行,精确度是要非常重视的,将后台传给我的floatValue转成NSString,一直没发现问题,最近项目有关个人账户的资产显示,发现总是和web和android有点误差,百思不得其解,在Stack Overflow上面问了一下,发现了NSDecimalNumber这个API,这个类为OC程序提供定点算法功能,它被设计不会损失精度并且可预先设置凑整规则的10进制计算,它比浮点数更好去表达货币,作为代价,它的计算相对复杂,相对耗时. 举

  • 浅谈iOS应用中的相关正则及验证

    1.手机号码的验证正则 正则表达式: ^((13[0-9])|(15[^4,\\D])|(18[0,0-9]))\\d{8}$ 详细解释 解释: •^...$: ^:开始 $:结束 中间为要处理的字串 •(13[0-9]): 以13开头接下来一位为0-9之间的数 13 : 以13开头 [0-9]:分割语法,13后面是0-9之间的数 •| : 或(or), 将前后两个匹配条件进行or运算 • (15[^4\\D]) : 以15开头接下来一位是除4之外的0-9数字 15 : 以15开头 [^4\\D

  • 浅谈JavaScript中小数和大整数的精度丢失

    先来看两个问题: 0.1 + 0.2 == 0.3; // false 9999999999999999 == 10000000000000000; // true 第一个问题是小数的精度问题,在业界不少博客里已有讨论.第二个问题,去年公司有个系统的数据库在做数据订正时,发现有部分数据重复的诡异现象.本文将从规范出发,对上面的问题做个小结. 最大整数 JavaScript 中的数字是用 IEEE 754 双精度 64 位浮点数 来存储的,其格式为: s x m x 2^e s 是符号位,表示正负

  • 浅谈IOS屏幕刷新ADisplayLink

    什么是CADisplayLink 我们在应用中创建一个新的CADisplayLink对象,把它添加到一个runloop中,并给它提供一个target和selector在屏幕刷新的时候调用. 一但CADisplayLink以特定的模式注册到runloop之后,每当屏幕需要刷新的时候,runloop就会调用CADisplayLink绑定的target上的selector,这时target可以读到CADisplayLink的每次调用的时间戳,用来准备下一帧显示需要的数据.例如一个视频应用使用时间戳来计

  • 浅谈iOS开发中static变量的三大作用

    (1)先来介绍它的第一条也是最重要的一条:隐藏 当我们同时编译多个文件时,所有未加static前缀的全局变量和函数都具有全局可见性.为理解这句话,我举例来说明.我们要同时编译两个源文件,一个是a.c,另一个是main.c. 下面是a.c的内容 char a = 'A'; // global variable void msg() { printf("Hello\n"); } 下面是main.c的内容 int main(void) { extern char a; // extern v

  • 浅谈iOS中几个常用协议 NSCopying/NSMutableCopying

    1.几点说明 说到NSCopying和NSMutableCopying协议,不得不说的就是copy和mutableCopy. 如果类想要支持copy操作,则必须实现NSCopying协议,也就是说实现copyWithZone方法; 如果类想要支持mutableCopy操作,则必须实现NSMutableCopying协议,也就是说实现mutableCopyWithZone方法; iOS系统中的一些类已经实现了NSCopying或者NSMutableCopying协议的方法,如果向未实现相应方法的系

  • 浅谈c++性能测试工具之计算时间复杂度

    浅谈c++性能测试工具之计算时间复杂度

    google benchmark已经为我们提供了类似的功能,而且使用相当简单. 具体的解释在后面,我们先来看几个例子,我们人为制造几个时间复杂度分别为O(n), O(logn), O(n^n)的测试用例: // 这里都是为了演示而写成的代码,没有什么实际意义 static void bench_N(benchmark::State& state) { int n = 0; for ([[maybe_unused]] auto _ : state) { for (int i = 0; i <

  • 浅谈IOS如何对app进行安全加固

    防止 tweak 依附 通常来说,我们要分析一个 app,最开始一般是砸壳, $ DYLD_INSERT_LIBRARIES=dumpdecrypted.dylib /path/to/XXX.app/XXX 然后将解密之后的二进制文件扔给类似 hopper 这样的反编译器处理.直接将没有砸壳的二进制文件扔个 hopper 反编译出来的内容是无法阅读的(被苹果加密了).所以说砸壳是破解分析 app 的第一步.对于这一步的防范,有两种方式. 1.限制二进制文件头内的段 通过在 Xcode 里面工程配

  • 浅谈iOS中的锁的介绍及使用

    浅谈iOS中的锁的介绍及使用

    在平时的开发中经常使用到多线程,在使用多线程的过程中,难免会遇到资源竞争的问题,那我们怎么来避免出现这种问题那? 线程安全是什么? 当一个线程访问数据的时候,其他的线程不能对其进行访问,直到该线程访问完毕.简单来讲就是在同一时刻,对同一个数据操作的线程只有一个.只有确保了这样,才能使数据不会被其他线程影响.而线程不安全,则是在同一时刻可以有多个线程对该数据进行访问,从而得不到预期的结果. 比如写文件和读文件,当一个线程在写文件的时候,理论上来说,如果这个时候另一个线程来直接读取的话,那么得到的结

  • 浅谈iOS中三种生成随机数方法

    ios 有如下三种随机数方法: //第一种 srand((unsigned)time(0)); //不加这句每次产生的随机数不变 int i = rand() % 5; //第二种 srandom(time(0)); int i = random() % 5; //第三种 int i = arc4random() % 5 ; 注: ① rand()和random()实际并不是一个真正的伪随机数发生器,在使用之前需要先初始化随机种子,否则每次生成的随机数一样. ② arc4random() 是一个

随机推荐