问题标签 [floating-point-exceptions]
For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.
php - 在php中减去靠近的数字
为什么
<?php echo 194.95-194.94; ?>
输出
我在这里想念什么?这是 php 5.2。
c - 关于 C 中“浮点异常”的简单问题
我有以下 C 程序:
我得到的输出是
但是当我改变线 double x=0; 到int x = 0;输出变成
谁能解释为什么?
c - 为什么会产生浮点异常?
这是维基百科SIGFPE 页面的第二个示例。
它将符号反转为 INT_MIN 的正数。怎么可能是FPE?
sql - 发生了无效的浮点运算。SQL Server 2008
我对这段代码有一个奇怪的问题:如果我如下所示运行它,我会收到错误:
发生了无效的浮点运算。
但是,如果我将参数更改@Longitude
为 -98.508730 (请注意仅更改了最后一位),代码就可以正常工作。
该代码应该列出@MilesRadius
某个 LatLng 点周围的属性。
@Latitude 和@Longitude 参数与地址表中的经度和纬度字段的类型相同。
我可以在这里做什么?谢谢。
delphi - Delphi XE2,TWebBrowser,浮点除以零
在 Delphi 2010 和 Delphi 2007 中,我在 WebBrowserBeforeNavigate / WebBrowserDocumentComplete 上使用 Set8087CW 以防止 ActiveX 中的 FPU 错误削弱我的应用程序。
但不知何故,这在 Delphi XE2 中不起作用,至少在 64 位模式下是这样。
单击链接(任何)时,我得到“浮点除以零”。(将网站地址或内容初始加载到 TWebBrowser 工作正常。)
调用堆栈显示这发生在 system32\D3D10Warp.dll (可能被 IE9 使用?)以响应 TApplication.ProcessMessage (以及两者之间的一些???)
python - python GTK中没有回溯的浮点异常
我有一个正在开发的 GTK python 程序。我需要根据用户正在进行的活动类型来更改窗口的外观。我正在使用一个 Gtk.Grid() 对象,我计划只在需要显示的内容上调用 widget.hide() 并在需要显示更改的内容上调用 widget2.show()。我从来没有做过这样的事情,并且正在尝试。
GUI界面的一个例子是这个
当我单击按钮时,调用我创建的调用 Label1.hide() 等的可迭代对象。该界面是一个水平 Gtk.Box(),左侧是标签网格,右侧是按钮对象.
当我到达最后一个 Label3 然后单击“按钮”按钮时,程序意外退出,输出如下:
没有追溯。我认为它来自 GTK 本身。我正在使用使用 gobject 内省的 GTK3。
什么可能导致异常,有没有办法解决?
我相信我可以通过在乘坐最后一个 (Label3) 对象之前执行 Label4.show() 来解决这个问题。我只是好奇首先是什么原因。
我已经做了很多谷歌搜索,但似乎没有解决这个问题。
谢谢,
纳尼
c++ - 双打会溢出吗?
是否可以使用双精度或浮点数溢出(环绕)?如果在 x86 或 x64 硬件上达到最大值(或最小值)会发生什么?
c++ - 将浮点数输入字符串流时出现“浮点无效操作”
我有一段简单的代码,它从 FORTRAN 生成的 REAL 数组中提取一个浮点数,然后将其插入到流中进行记录。虽然这适用于前 30 个案例,但在 31 日它会因“浮点无效操作”而崩溃。
代码是:
调试时,崩溃前实例的 swap_float 的值(在上面的最后一行)是 1711696.3 - 除了比到目前为止的大多数值大得多之外,它没有什么特别的地方。
我也尝试用 cerr 替换 message_stream,并遇到了同样的问题。迄今为止,我一直认为 cerr 几乎是坚不可摧的——一个简单的浮子怎么能摧毁它?
编辑:
感谢评论:我已经添加了mrSwap的声明。mrSwap 大约有 200 长,所以我离结束还有很长的路要走。它在我的控制之外填充,并且可能不会填充单个条目 - 但据我所知,这只是意味着 swap_float 将设置为随机浮点数?
python - Python time.sleep() 遇到浮点异常
我在 GNURadio 程序中使用 Python time.sleep() 函数。然而,尽管我提供了一个浮点参数,代码还是遇到了一个意外的浮点异常。请在下面找到相关的代码片段(请忽略调试“呵呵”的:-)):
这给出了以下输出:
所以错误点确实是time.sleep()。有人可以解释一下这里会发生什么吗?我的 Python 版本是 2.7.1。
谢谢和问候, Dhrubo
c - 使用 valgrind 的 C 程序的浮点陷阱
我试图弄清楚如何找到用 C 编写的模拟代码生成 NaN 的确切位置。我在 Debian 挤压上使用普通 C89(但我可以移至 C99/C11)和 gcc 4.4.5。
显然有一个valgrind 的补丁应该能够执行此检查。不幸的是,它不包含在 Debian 分发的二进制文件中。实际上,尝试编译 vanilla valgrind 加上 exp-floattrap 也不起作用(它似乎不包含在最终的可执行文件中)。
您是否继续在 C 源代码中查找此类错误的来源?
谢谢你的帮助。