问题标签 [significant-digits]
For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.
java - 在 Matlab 中限制有效数字。从 Java 导入的数据
我有一个使用 javaaddpath 导入数据的表。我想在 Matlab 中限制这个 java 数据库的有效数字。
我使用 javaaddpath 添加我想使用的字符串，然后从那里选择一个数据库。进入数据库后，我用来自 java 数据库的消息填充列表框。从那里我生成一个模板并检查我想要使用的模板并点击一个绘图按钮。这会用数据填充表（同样，来自 java 中的数据库）。我想知道如何限制填满该表的数字的有效数字。
和
在这里与我并不真正相关，因为我试图将输出放入一个表中，该表存储为一个单元格数组。我目前正在尝试该功能
但它不接受元胞数组或矩阵。我愿意照常填充表格，提取数据，格式化，然后重新填充表格，我只是不确定该怎么做。
任何帮助或指向我的网站将不胜感激。我还在 Mathworks 帮助论坛（此处）上发布了此查询，但没有任何运气。
iphone - 如何使浮点数仅显示有效数字Objective C
我有一个浮点数，无论如何都会显示一定数量的小数位，即使它是一个整数。如何格式化它，以便它只显示有效数字而没有尾随零。
c++ - 如何左移最不重要的零？
执行以下逐位转换的最快方法是什么？
因此，最低有效的零位必须设置为 1，并且留给它的位（无论是零还是一）必须设置为零，仅此而已。
r - 如何在xtable输出中指定小数位不是有效数字
我正在使用 Rxtable包将我的数据框打印为 LaTeX 表。我一直在使用该digits选项来指定表中值的有效位数。但是，使用digits=3，我得到如下输出：
我希望能够在我的表格中指定小数位数，以便所有内容都有 3 个小数位，即使最后几个位用零填充。因此，例如，第一个数字列将具有
这样所有内容都有 3 个小数位，因此所有内容都排列得很好。
有没有办法做到这一点？
python - 精确解的 8 位有效数字内的解
我正在用 python 编写一个程序，我希望我的解决方案在精确解决方案的 8 个有效数字内返回。
我在这里搜索了论坛，但似乎没有任何直接答案。我想要一个简单的解决方案来确保程序计算的答案在该限制范围内。我知道它应该只需要 2 行，也许是 3 行代码，我只是不知道如何实现它。
例如：
解决方案应该在这个范围内。
python - 在python中使用两位十进制数字将列表保存到csv？
我有看起来像的数据
我使用以下几行将其保存到 csv：
就像一个魅力，除了我想只用两位小数显示我的值。在我的代码前面，我压缩了两个列表来获取数据。因此，如果需要，我可以在之前进行更改。
谢谢！
crystal-reports - 在水晶报表 2008 中显示有效数字的特定数量而不是小数位
早上好！
我在 Crystal Reports 2008 中工作，并且有一个我想与各种动态参数（在下游应用程序中调用）一起使用的报告模板。
我的数据范围从 0-1 到 1,000-10,000 不等。
我想用 3 个有效数字显示它，所以当报告引入一个数据集时
看起来像这样 --> 像这样显示
0.76895 --> 0.769
0.6672 --> 0.667
1.0335 --> 1.03
但是当数据集
看起来像这样 --> 像这样显示
12,125.65 --> 12,100
956.35 --> 956
4,352.22 --> 4,350
我目前的工作是制作两个模板 - 一个用于我的小值数据，设置为显示 3 个小数位；另一个用于我的大值数据，设置为不显示小数位。
我想知道是否有办法设置显示的有效数字而不是小数点？
哦！我会先在 SQL 中执行它并将其作为字符串传递，但我需要将这些作为数值，以便我可以在报告的其他地方总结它们。谢谢。
java - 用于显示重要数字的内置方法
有很多关于有效数字舍入的问题，以及提供了一种新的舍入方法的答案，例如：
这些问题和解决方案大多是在 2009~2010 年左右。
我想要一个简单的内置方法（或来自标准众所周知的库，例如来自 Apache 或 Spring），它给定数字和有效数字，打印出限制为指定有效数字的数字。
IE：
- 123.456789 // 到 2 个重要数字：120
- 123.456789 // 到 4 个重要数字：123.4
- 123.456789 // 到 7 个重要数字：123.4567
c - 在 C 中设置最低有效位
我用 Bmp 图像用 C 语言编写了一个简单的隐写术工具。
我将图像读入内存，文本一次隐藏在 char bytes[8] 中一个字符。
所以例如。
然后我将转到第一个图像字节（char *ptr points每次）将字节 [0] 放入 LSB，然后是下一个，依此类推。
如果*ptr=0xff or 0b11111111我必须将最后一个 1 设置为 0。这可以与
但是如果*ptr = 0x00or 或0b00000000xor 不起作用，因为0^1=1
我很困惑如何设置案例。如果 LSB 为 1 或 0，我需要一个操作员每次都将最后一位设为 0，并且不要接触其他位。
java - Java 中的双文字应该使用多少位有效数字？
定义 a 时我应该使用多少个有效数字double在 Java 中这是假设我试图用比双精度数更多的数字来表示一个数字。
在Math.java我看到 20 和 21：
这比 IEEE 754 提供的 15-17 位有效数字多。那么一般的经验法则是什么？