1

我在使用matlab的符号工具箱时偶然发现了以下奇怪的事情

/ >> syms e

/>> y=11111111111111111^e

y = 11111111111111112^e

处理大量数字时似乎存在限制。这可以在不更改为完全不同的系统(如圣人)的情况下解决吗?

4

2 回答 2

2

我认为问题在于 Matlab 在将数字转换为符号表达式之前将其解析为双精度数。由于双精度数具有 52 位尾数,因此您有大约 16 个有效数字,但您的数字更长。

作为替代方案,您可以尝试直接从字符串创建数字:

y=sym('11111111111111111')^e

不幸的是,我现在没有可用的 Matlab,所以这个答案未经测试。

于 2012-09-03T11:26:41.227 回答
2

这不是一个错误,这是一个功能。它被称为“舍入误差”

matlab 使用 double 格式来存储普通变量,就像 C 编程语言中的 double 以及许多其他语言(如 C++)一样。

实际上,“错误”与“^x”无关,我们可以看到:

>> clear
>> syms y
>> format bank
>> y=11111111111111111
y =
 11111111111111112.00

即使是简单的分配也会触发“错误”。

我们可以看到一个双变量是如何在 VS 中使用调试模式真正存储在内存中的:

在此处输入图像描述

正如您在屏幕截图中看到的,a 和 b 都在内存中存储为“2ea37c58cccccccc”,这意味着计算机无法区分两者。

这就是您发现“错误”的原因。

为避免这种情况,您可以改用符号常量:

>> y=sym('11111111111111111')
y =
11111111111111111

这样,计算机会将“y”以不同的格式存储在内存中,这样可以避免四舍五入的错误并消耗更多的内存。

于 2016-10-27T13:19:37.783 回答