问题标签 [integer-math]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
2 回答
37223 浏览

python - python 32位和64位整数数学与故意溢出

在 32 位和 64 位中进行整数数学运算的最佳方法是什么,以便像在 C 中那样发生溢出?

例如 (65536*65536+1)*(65536*65536+1) 在 64 位数学中应该是 0x0000000200000001,而不是它的确切值(非溢出)0x10000000200000001。

0 投票
1 回答
302 浏览

c - 仅使用基本数学函数对 C 中的整数进行排序

我正在尝试用 C 编写程序

给定三个唯一的非负int类型数字的输入,程序应该对它们进行排序并按升序排序输出它们。对于这个程序,只允许基本的数学结构。( +, -, /, *, %)

输入示例为:

输入三个整数:32 29 21

然后,示例输出应该是:

排序号码:21 29 31

明确不允许使用逻辑运算符,如和> <以及==选择语句。if forswitch

0 投票
1 回答
92 浏览

c - 没有浮点数的有效计算方法,C

我需要做一个数学运算,将从传感器接收到的 16 位值转换为真实的相对湿度值。它是用以下公式计算的:

公式 rh=-6+125*(Srh/2^16)

鉴于浮点数学中的这一点,这将是:

但我想避免浮点数学,因为我的平台是“FPUless”。

在这里以整数数学计算和存储 RH 的最有效方法是什么?考虑到它的湿度,实际值应该在 0 到 100% 之间,但有时近似值可能会导致 rh 可能略小于 0 或高于 100(如果我要离开那个浮动,我可以做类似的事情if (rh<0) rh=0; else if (rh>100) rh=100;)而且我只关心小数点后的最后 2 位数字 (%.2f)。

目前我已经解决了这个问题:

并与rhint / 100; rhint % 100. 但可能有更有效的方法?

0 投票
0 回答
365 浏览

math - 如何用汇编语言计算 x^y?

这就是我到目前为止所得到的。这是32位乘法是32位。我想改进这段代码并计算 x^y。如果您给我一个示例代码,我将不胜感激。此代码使用子程序

例如)4^3=64