问题标签 [nsdecimalnumber]
For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.
objective-c - 我在使用 decimalNumberBySubtracting 和 decimalNumberByDividingBy 时遇到问题
简而言之,decimalNumberBySubtracting
根本decimalNumberByDividingBy
不工作。没有错误,只是搞砸了结果。我真的需要解决这个问题,但我没有收到任何错误,我想不出任何其他方法来进行计算!我得到如下数字:
257849691392950000000000000000000000000000000000000000000000000000000000000000000
他们应该评估的地方:
-0.581
这是长篇大论。我正在尝试对数据集进行简单的 Z-Score 计算。AZscore
定义为(X - Average)/(stdDev)
。很简单。我的测试数据包括 5 个板,每个板有 96 个样本。此代码识别每个单独的板,为每个板生成平均值和标准差,然后对于该板中的每个样本,执行上述计算。
问题是,当我运行这个计算时,我应该从 ~(-6,6) 中得到一个数字,其中 99% 的值介于 -3 和 3 之间。返回的一个数据点是:
257849691392950000000000000000000000000000000000000000000000000000000000000000000
好吧,我通过将变量deltaTemp
, numerator
,插入到我的 NSTableView 中zscoreMean
进行了一些故障排除。zscoreStdDev
这个想法是看看 XCode 评估这些变量的目的是什么,并解决哪个是麻烦制造者。是否使用此代码:
我得到了变量的值:
这计算为 Z 分数 = -0.581...
这是一个完全有效的 ZScore ......所以问题出在:
变量分子没有正确评估,zscore 值也没有。我的 CoreData DataModel 特别将每个数字变量的输入类型定义为 NSDecimalNumber 所以我假设我的数字编码很好,因为它们被单独插入而没有任何问题......
iphone - How to display currency without rounding as string in Xcode?
I have trouble when I have currency value
999999999999999999.99
From that value, I want to display it as String. The problem is that value always rounded to
1000000000000000000.00
I'm not expect that value rounded. I want the original value displayed. Do you have any idea how to solve this problem? I tried this code from some answer/turorial in stackoverflow.com :
iphone - Objective-C - 如何从字符串中删除字符?
我有一个 UILabel,它有一个格式化的字符串(格式化为货币),所以有一个美元符号,21.34 美元。
在核心数据实体中,属性是双精度类型,我使用 NSDecimalNumber 保存到数据库。
无论如何,我需要它不是 NaN,所以我的想法是删除美元符号,但我不知道该怎么做,或者也许有更好的方法来实现我的目标。
objective-c - 我可以在任何需要 NSNumber 的地方使用 NSDecimalNumber 吗?
NSDecimalNumber 是 NSNumber 的子类,据我所知,它实现了 NSNumber 实例所期望的所有 NSNumber 方法。
鉴于此,是否可以将 NSDecimalNumbers 提供给任何需要 NSNumber 的代码?
唯一可能的问题可能是检查参数是否为 NSNumber 实例的代码,但由于 NSNumber 是一个类簇,这样的代码必须检查该实例是否为 NSNumber 的子类,并且 NSDecimalNumber 实例应该传递相同的测试。
iphone - 如何添加 NSDecimalNumbers?
好的,这可能是当天的愚蠢问题,但假设我有一堂课:
为什么我不能有一个添加这些数字的函数:
我提前为自己是个白痴道歉,谢谢!
objective-c - 将 NSDecimalNumber 转换为 NSString
我正在从如下所示的对象中检索密钥:
键值是这样检索的:
typeId 不是一个 NSString,而是一个 NSDecimalNumber。这是为什么?
如何将其转换为 NSString?
objective-c - NSDecimalNumber 乘法奇怪
ExclusivePrice, quantity 都是 NSDecimalNumbers。
我得到的结果:
我所期望的:
任何人都可以解释一下吗?
编辑:
完整复制:
cocoa - NSDecimalNumber 减法
我需要从数字 a 中减去 0.5 并将答案设置为数字 b。我的代码看起来可以工作,但我不确定我做错了什么。我得到的错误在减法线上,错误说incompatible type for argument 1 of 'decimalNumberBySubtracting:'
。
这是我的标题:(注意:我只显示了数字,因为标题很大)
剩下的就是:(假设这是在 IBAction 中)
如果有人知道如何正确减去任何帮助,将不胜感激。
cocoa - NSDecimalNumber 的 ceilf 和 floorf 等效方法
NSDecimalNumber 类型的 ceilf 和 floorf 是否有等效的方法?我似乎找不到任何东西。
iphone - 将 NSDecimalNumber 提高到负幂
我需要一个等效于 C 的 pow() 函数,它可以与 NSDecimalNumbers 一起使用。使用 pow 您可以使用负数,例如pow(1514,-1234)
,使用 NSDecimal 的 decimalNumberByRaisingToPower: 方法,您不得不使用似乎需要正值的 NSUInteger。
我希望能够做这样的事情:
或者
不会因溢出或下溢异常而崩溃。