问题标签 [division]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
6 回答
2928 浏览

c# - 加倍和除法的问题

可能的重复:在 c# 中
进行除法
1/252 = 0 的整数和双精度数?

你好,

也许是因为今天是星期五,但我无法理解:

为什么最后一个操作是0?:S

亲切的问候。

0 投票
1 回答
5084 浏览

python - 在python中计算最大公分母

如果您在 python 中有一个整数列表,例如L = [4,8,12,24],您如何计算它们的最大公分母/除数(在这种情况下为 4)?

0 投票
1 回答
1850 浏览

mysql - MySQL除法查询有问题(可能是简单的修复)

我试图找出用户的总体比例。基本上我需要查看两列来计算比率,total_emails 和 total_hours。

这似乎多次将比率相加,当我应该得到像 0.45 这样的数字时,我得到了一个像 8.45 这样的数字

知道我做错了什么吗?

0 投票
3 回答
852 浏览

delphi - Delphi 6 编译器选项(奔腾安全的 FDIV)

我收到了来自用户的 MadExcept 的崩溃报告。异常是无效的浮点运算。

奇怪的是,调用堆栈在@FSafeDivide 处死掉了。

我做了一个谷歌,发现这是对某些没有正确除法的奔腾芯片的检查。如果测试失败,所有部门都将在软件而不是硬件中完成。我在编译器设置中打开了 Pentium-Safe FDIV 选项。

这会导致错误吗?我还在其他地方读到,作为异常类的 EInvalidOp 可能是堆栈溢出或其他东西。

如果您想阅读它,这里有一个 mad except 消息的片段。

异常类:EInvalidOp 异常消息:无效的浮点运算。

0 投票
4 回答
20029 浏览

matlab - MATLAB 除法... 29/128 应该返回 0 吗?

我真的不认为这是一个精度问题,答案应该是 0.226 左右。这是确切的代码:

I只是我从中获取值的矩阵。这是 MATLAB 的输出:

我错过了什么?

0 投票
1 回答
14325 浏览

python - Python 2.6.5:将 timedelta 除以 timedelta

我正在尝试将一个timedelta对象与另一个对象分开来计算服务器正常运行时间:

我知道这已经在 Python 3.2 中解决了,但是除了计算微秒数、秒数和天数以及除法之外,在 Python 的早期版本中是否有一种方便的方法来处理它?

谢谢,

亚当

0 投票
1 回答
877 浏览

mysql - mysql上的奇怪除法问题

看MYSQL上的奇怪问题。 替代文字

查看第 3 列。结果是 0.02876121,但实际结果应该是第 4 列 = 0.02876。为什么MYSQL在小数点上给出错误值?

*另一件事是,如果我附加“Where column = 'uniquevalue'”来返回我想要的结果,它只会给出错误的值。如果我删除 where 条件,给出表中的所有记录,则该值是正确的。

0 投票
6 回答
50808 浏览

java - 为什么将浮点数除以整数返回 0.0?

因此,如果我有一个数字范围“0 - 1024”并且我想将它们带入“0 - 255”,那么数学将要求将输入除以输入的最大值(在这种情况下为 1024),这将给出我是一个介于 0.0 - 1.0 之间的数字。然后乘以目标范围,(255)。

这就是我想做的!

但是由于某种原因在 Java 中(使用处理)它总是会返回一个 0 的值。

代码就这么简单

但我只得到0.0。我试过双精度和整数。一切都无济于事。为什么!?

0 投票
2 回答
27441 浏览

python - 除以零错误

我对教授的这个问题有疑问。这是问题:

编写一个函数 typing_speed 的定义,它接收两个参数。第一个是一个人在特定时间间隔内输入的单词数(大于或等于零的 int)。第二个是以秒为单位的时间间隔长度(大于零的 int)。该函数以每分钟字数(浮点数)返回该人的打字速度。

这是我的代码:

我知道“因子”被分配为 0,因为它没有被正确舍入或其他东西。我不知道如何正确处理这些小数。Float 显然没有做任何事情。

任何帮助表示赞赏,谢谢。

0 投票
3 回答
6243 浏览

c - 除以 2 的幂,向零舍入

我需要计算一个数字 (a/(2**b) 仅使用按位运算符,例如 ! & ^ ~ 和移位。我得到了以下提示,但我是 C 新手,我不知道代码的含义:

谁能给我解释一下?

我认为 a>>b 会起作用,但我认为它不适用于负数。