问题标签 [division]
For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.
c++ - 大数除法
我需要一些可以处理大整数(128 位)的除法算法。我已经问过如何通过位移运算符来做到这一点。但是,我目前的实现似乎要求更好的方法
基本上,我将数字存储为 2long long unsigned int
的格式
A * 2 ^ 64 + B
与B < 2 ^ 64
.
这个数字可以被 整除24
,我想把它除以24
。
我目前的方法是将其转换为
但是,这是错误的。
(请注意, floor 是A / 24
并且mod
是A % 24
。正常除法存储在 中long double
,整数存储在long long unsigned int
.
由于24
等于11000
二进制,第二个加数不应该改变第四个加数范围内的任何东西,因为它向左移动了 64 位。
因此,如果A * 2 ^ 64 + B
可以被 24 整除,而 B 不能,则很容易表明它存在错误,因为它返回了一些非整数。
我的实施中有什么错误?
haskell - Haskell 除数
我有一个问题,我想了解更多,以及如何避免。我有这个代码
这会导致以下错误
现在,我知道这个错误(感谢 irc.freenode.net#haskell)是除法函数的结果
但是,我不知道该怎么做。我的avg
函数签名应该与除法运算符的怪癖(需要类型类)无关Fractional
。所以,我认为克服这个问题的正确方法是通过强制转换为隐含他们类型类的类型,Fractional
但我不知道如何,或者即使这是正确的?有任何想法吗?
64-bit - 64 位机器上的无符号 128 位除法
我有一个 128 位数字存储为 2 个 64 位数字(“Hi”和“Lo”)。我只需要将它除以一个 32 位数字。我怎么能做到这一点,使用来自 CPU 的本机 64 位操作?
(请注意,我不需要任意精度库。只需要知道如何使用本机操作进行这个简单的除法。谢谢)。
java - Java无符号除法没有转换为长?
我编写了一个解释器,要求我对无符号整数执行 32 位除法。在 Java 中,我可以这样做:
但我想避免转换为 long 并返回 int。Java 已经为这种特殊情况提供了无符号右移运算符>>>
,因此也许有一种聪明的方法可以以相同的方式进行无符号除法。
请注意,加法和乘法可以正常工作,因为二进制的补码可以正常工作。
Java中有没有更好的方法来做到这一点?
assembly - 组装快速除以 2
在汇编中是否有比下面示例中的更快的除以 2 的方法(带符号)?
c# - 将美元金额(十进制)除以整数
我需要为我正在构建的程序编写一个会计例程,它可以将小数除以整数。例如:
我在这里看过这篇文章:在 c# 中均匀除法,但它似乎只适用于整数除法。对这个问题的优雅解决方案有任何想法吗?
c# - DivideByZeroException 太慢
这非常慢:
这大约快 5 倍:
谁能告诉我为什么?
assembly - 分裂有多快?
我曾经应该编写一个简短的汇编代码来用不是 2 的幂的数字进行除法。我的解决方案是以周期为单位减去除法器,而周期数是实际结果。有什么更快的吗?解决这个问题的通常方法是什么?
c - 为什么 C 给我的答案与我的计算器不同?
我在这段代码中遇到了一个奇怪的问题:
legibIndex = 206.385 - 84.6 * (countSylb / countWord) - 1.015 * (countWord / countSent);
这是给定文本文件的易读性指数的计算。由于这是一项家庭作业,我们被告知索引应该是多少(80,或者正好是 80.3)
我的音节数、字数和句子数都是正确的(它们与示例文本文件的给定数字相匹配。
即使我将数字硬编码,我也没有得到 80,即使当我将它完全放入我的计算器时,我也得到了 80。我无法想象出了什么问题。
这是我们得到的等式:
Index = 206.835 - 84.6 * (# syllables/# words) - 1.015 * (# words/# sentences)
如您所见,我只是插入了我的变量(它们包含正确的值。作为参考,这些值是:55 个音节,40 个单词,4 个句子,由讲师给出。我的程序在运行时产生的值是易读性指数 112。
我错过了一些括号,还是什么?我难住了!
python - 为什么在 Python 中除以 2/5.0 时会出错?
在 python 中,2/5.0
或2/float(5)
返回0.40000000000000002
为什么最后会出现该错误,如何获得正确的值以用于其他计算?