问题标签 [floating-point-exceptions]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
2 回答
727 浏览

php - 在php中减去靠近的数字

为什么

<?php echo 194.95-194.94; ?>

输出

我在这里想念什么?这是 php 5.2。

0 投票
7 回答
4756 浏览

c - 关于 C 中“浮点异常”的简单问题

我有以下 C 程序:

我得到的输出是

但是当我改变线 double x=0; 到int x = 0;输出变成

谁能解释为什么?

0 投票
3 回答
384 浏览

c - 为什么会产生浮点异常?

这是维基百科SIGFPE 页面的第二个示例。

它将符号反转为 INT_MIN 的正数。怎么可能是FPE?

0 投票
1 回答
9485 浏览

sql - 发生了无效的浮点运算。SQL Server 2008

我对这段代码有一个奇怪的问题:如果我如下所示运行它,我会收到错误:

发生了无效的浮点运算。

但是,如果我将参数更改@Longitude为 -98.508730 请注意仅更改了最后一位,代码就可以正常工作。

该代码应该列出@MilesRadius某个 LatLng 点周围的属性。
@Latitude 和@Longitude 参数与地址表中的经度和纬度字段的类型相同。

我可以在这里做什么?谢谢。

0 投票
1 回答
2637 浏览

delphi - Delphi XE2,TWebBrowser,浮点除以零

在 Delphi 2010 和 Delphi 2007 中,我在 WebBrowserBeforeNavigate / WebBrowserDocumentComplete 上使用 Set8087CW 以防止 ActiveX 中的 FPU 错误削弱我的应用程序。

但不知何故,这在 Delphi XE2 中不起作用,至少在 64 位模式下是这样。

单击链接(任何)时,我得到“浮点除以零”。(将网站地址或内容初始加载到 TWebBrowser 工作正常。)

调用堆栈显示这发生在 system32\D3D10Warp.dll (可能被 IE9 使用?)以响应 TApplication.ProcessMessage (以及两者之间的一些???)

0 投票
0 回答
402 浏览

python - python GTK中没有回溯的浮点异常

我有一个正在开发的 GTK python 程序。我需要根据用户正在进行的活动类型来更改窗口的外观。我正在使用一个 Gtk.Grid() 对象,我计划只在需要显示的内容上调用 widget.hide() 并在需要显示更改的内容上调用 widget2.show()。我从来没有做过这样的事情,并且正在尝试。

GUI界面的一个例子是这个

当我单击按钮时,调用我创建的调用 Label1.hide() 等的可迭代对象。该界面是一个水平 Gtk.Box(),左侧是标签网格,右侧是按钮对象.

当我到达最后一个 Label3 然后单击“按钮”按钮时,程序意外退出,输出如下:

没有追溯。我认为它来自 GTK 本身。我正在使用使用 gobject 内省的 GTK3。

什么可能导致异常,有没有办法解决?

我相信我可以通过在乘坐最后一个 (Label3) 对象之前执行 Label4.show() 来解决这个问题。我只是好奇首先是什么原因。

我已经做了很多谷歌搜索,但似乎没有解决这个问题。

谢谢,

纳尼

0 投票
2 回答
313 浏览

c++ - 双打会溢出吗?

是否可以使用双精度或浮点数溢出(环绕)?如果在 x86 或 x64 硬件上达到最大值(或最小值)会发生什么?

0 投票
2 回答
6852 浏览

c++ - 将浮点数输入字符串流时出现“浮点无效操作”

我有一段简单的代码,它从 FORTRAN 生成的 REAL 数组中提取一个浮点数,然后将其插入到流中进行记录。虽然这适用于前 30 个案例,但在 31 日它会因“浮点无效操作”而崩溃。

代码是:

调试时,崩溃前实例的 swap_float 的值(在上面的最后一行)是 1711696.3 - 除了比到目前为止的大多数值大得多之外,它没有什么特别的地方。

我也尝试用 cerr 替换 message_stream,并遇到了同样的问题。迄今为止,我一直认为 cerr 几乎是坚不可摧的——一个简单的浮子怎么能摧毁它?

编辑:

感谢评论:我已经添加了mrSwap的声明。mrSwap 大约有 200 长,所以我离结束还有很长的路要走。它在我的控制之外填充,并且可能不会填充单个条目 - 但据我所知,这只是意味着 swap_float 将设置为随机浮点数?

0 投票
1 回答
805 浏览

python - Python time.sleep() 遇到浮点异常

我在 GNURadio 程序中使用 Python time.sleep() 函数。然而,尽管我提供了一个浮点参数,代码还是遇到了一个意外的浮点异常。请在下面找到相关的代码片段(请忽略调试“呵呵”的:-)):

这给出了以下输出:

所以错误点确实是time.sleep()。有人可以解释一下这里会发生什么吗?我的 Python 版本是 2.7.1。

谢谢和问候, Dhrubo

0 投票
1 回答
923 浏览

c - 使用 valgrind 的 C 程序的浮点陷阱

我试图弄清楚如何找到用 C 编写的模拟代码生成 NaN 的确切位置。我在 Debian 挤压上使用普通 C89(但我可以移至 C99/C11)和 gcc 4.4.5。

显然有一个valgrind 的补丁应该能够执行此检查。不幸的是,它不包含在 Debian 分发的二进制文件中。实际上,尝试编译 vanilla valgrind 加上 exp-floattrap 也不起作用(它似乎不包含在最终的可执行文件中)。

您是否继续在 C 源代码中查找此类错误的来源?

谢谢你的帮助。