问题标签 [real-datatype]

昨天在 SQL Server 上发现了一个有趣的问题，试试这个：

这似乎是一个精度问题，以及如何编译 case 语句。它可以通过在 case 语句中将 REAL @a 转换为小数来轻松解决，但由于它是 @c 我们正在返回并且其他情况不应该被击中，这是一个奇怪的问题。任何人都足够了解 SQL 编译来解释这一点？

对于以下代码，

-Objective-C 怎么知道在复数上加一个“i”？当我在 Complex.m 文件中将“实数”和“虚数”定义为双精度值时，我认为 Xcode 只会知道“实数”和“虚数”是双精度值。

- 如果我在 main.m 文件中的复数末尾添加“i”，例如，如果我打开“myComplex.imaginary = 7;” 进入“myComplex.imaginary = 7i;” 该行的输出变为 0.00000i，如果我添加任何其他字母，程序将根本无法运行，这是为什么呢？

基本上，在我看来，Xcode 已经知道“真实”和“想象”的含义，我正在关注的书没有具体说明这一点，所以我有点困惑。

另外，我应该注意，我没有创建以下代码，因为我自己无法找出问题所在，此代码是从我的图书论坛的成员那里复制的。

我有

和

我想做

我需要做哪些类型签名和转换功能才能完成这项工作？如果我想有能力将 val 推广到任何类型的 Num，我必须做什么？

这个：

给我这个编译器警告：

我知道那不是我最初问的，我在清理代码时犯了一些错误。

现在有一个系数类型：

产生的错误：

尝试将实数转换为字符串时，我在 fortran 中遇到以下错误。

以下是我收到错误的代码。99999.5 中引发上述错误的值

为什么会抛出这个错误？

我正在尝试编写一个程序来计算两个向量的叉积（输入是“真实”类型，例如 [1.3 3.4 1,5]）。但我不断收到许多错误：

这是我得到的错误：

知道问题可能是什么吗？

在这个fortran程序中，我被告知要调试，我得到了错误：

“在 (1) 处的参数 'p1' 中的类型不匹配；将 REAL(4) 传递给 TYPE(point)”

而且我似乎无法弄清楚错误发生在哪里。我尝试定义不同的变量来传递给每个函数，而不是 p1 和 p2，但错误相同。有任何想法吗？

我刚开始学习帕斯卡，我必须做一个帕斯卡程序作为家庭作业。我做到了，但我不知道如何计算实数中的小数位数（“。”之后的位数）。

我需要它来很好地格式化一个实数（比如我不知道如何知道的十进制数在哪里）write(real:0:dec)。dec我想这样做是因为我不希望它采用科学计数法或许多不必要的零。

例如，如果一个实数是 1.51 (x)，我写 writeln(x:0:4); 或 WriteLn(Format('%*.*f', [0, 4, x])); 它会显示 1.5100 但我希望它只是 1.51；如果数字像 1.513436，它将仅显示 1.5134 。所以我会让它像 writeln(x:0:dec); 用一些东西使 dec 成为 x 的小数位数。

我制作了一个 gfortran 程序，它使用 READ 语句将字符串转换为实数。

问题：当使用命令 READ(line(54:67),*) t 从文件中读取字符串 ('1.00000E-03') 时，程序返回 t：1.76617300510772955878279319145152225E-0003。这是一个错误的转换。

但是当我写 READ('1.00000E-03',*) t 时，程序返回 1.00000000000366461737654319145152225E-0003。没关系。

有人承认这个失败吗？谁能帮我？

有没有办法格式化输出的实数，使得宽度和小数部分都未指定？只需执行以下操作，ifort 就可以做到这一点：

write (*, '(F)') num

...但我知道这种用法是特定于编译器的扩展。Gfortran 确实接受符合标准的 0 宽度说明符，但我在标准和 gfortran 的文档中都找不到关于如何不指定小数部分的任何内容。显而易见的猜测是也只使用 0，但这会产生不同的结果。例如，鉴于此：

...输出只是3.. 我知道我可以指定一个大于零的十进制值，但是我很可能会打印出不需要的额外零。

我有哪些选择？我有吗？

这个问题以前没有回答过。我试图在 Fortran 中正确地表示一个实数或任何数字。gfortran 为我做的事情还很遥远。例如，当我声明变量 REAL pi=3.14159 fortran 打印 pi = 3.14159012 而不是说 3.14159000。见下文：

这打印：

我可能期望像 PI = 3.14159000 这样的东西，因为 REAL 应该至少精确到小数点后 8 位。