我在使用matlab的符号工具箱时偶然发现了以下奇怪的事情
/ >> syms e
/>> y=11111111111111111^e
y = 11111111111111112^e
处理大量数字时似乎存在限制。这可以在不更改为完全不同的系统(如圣人)的情况下解决吗?
我在使用matlab的符号工具箱时偶然发现了以下奇怪的事情
/ >> syms e
/>> y=11111111111111111^e
y = 11111111111111112^e
处理大量数字时似乎存在限制。这可以在不更改为完全不同的系统(如圣人)的情况下解决吗?
我认为问题在于 Matlab 在将数字转换为符号表达式之前将其解析为双精度数。由于双精度数具有 52 位尾数,因此您有大约 16 个有效数字,但您的数字更长。
作为替代方案,您可以尝试直接从字符串创建数字:
y=sym('11111111111111111')^e
不幸的是,我现在没有可用的 Matlab,所以这个答案未经测试。
这不是一个错误,这是一个功能。它被称为“舍入误差”
matlab 使用 double 格式来存储普通变量,就像 C 编程语言中的 double 以及许多其他语言(如 C++)一样。
实际上,“错误”与“^x”无关,我们可以看到:
>> clear
>> syms y
>> format bank
>> y=11111111111111111
y =
11111111111111112.00
即使是简单的分配也会触发“错误”。
我们可以看到一个双变量是如何在 VS 中使用调试模式真正存储在内存中的:
正如您在屏幕截图中看到的,a 和 b 都在内存中存储为“2ea37c58cccccccc”,这意味着计算机无法区分两者。
这就是您发现“错误”的原因。
为避免这种情况,您可以改用符号常量:
>> y=sym('11111111111111111')
y =
11111111111111111
这样,计算机会将“y”以不同的格式存储在内存中,这样可以避免四舍五入的错误并消耗更多的内存。