问题标签 [overflowexception]
For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.
c# - SQLiteDataReader OverflowException 在 decimal.MaxValue 上使用 SQLiteDataReader
问题
这部分是我成为自己最大的敌人。我有单元测试来验证我编写然后从 SQLite 数据库检索所有不同的基本数据类型的能力。在我的测试中,我验证了每种数据类型的几个不同值,包括(但不限于)<datatype>.MinValue
和<datatype>.MaxValue
.
当我将 a 写入decimal.MaxValue
数据库,然后尝试检索它时,我得到一个溢出异常(感谢数据库本身的舍入)。
注意:我已经将我的实际类剥离到最简单的部分,并将它们放在一个测试方法中,这样我就可以更容易地展示所有内容。
输出:
解决方法
我找到了一种解决方法(我只是不喜欢它)。本质上,我让它失败了,然后返回并尝试将其作为 Double 抓取;然后将其转换为我需要的;因为它溢出我知道它必须是最大值或最小值:
更大的问题(如我所见)
这不是我遇到这个问题的唯一地方。decimal.MinValue 和 ulong.MaxValue 也会发生这种情况。我并不完全喜欢我的解决方案,因为我只是假设如果有溢出我需要最大/最小值。我还想概括它,这样它就不会硬编码我可能需要的最小/最大值。再次,我找到了解决方案;但同样,它很丑(一个传递类型以将值转换为然后对其进行切换的函数......恶心)。
python - 如何计算一个非常非常大的数字并将其写入python中的文件?
这似乎是一个重复的问题,也许确实如此,但我检查了许多其他来源,但似乎没有一个解决方案有效。我要计算的数字是 999,999^999,999,而且它毫无意义地大,但我已经尝试了一段时间了。我想将结果写入文本文件。我通常会收到溢出错误,在尝试解决另一个问题后,我开始收到不同的溢出消息。有什么办法可以计算出这个数字吗?如果python不能做到这一点,还有别的吗?
我此时的代码:
错误:
c# - C#中整数数组的所有值求和期间溢出异常
嗨,我在 Hackerrank 上解决了一个非常基本的问题,即确定整数数组中所有值的 Mini-Max Sum。基本上给定一个包含 5 个值的数组,例如 [1, 2, 3, 4, 5],最小和将为 1+2+3+4 = 10,最大和为 2+3+4+5 = 14。非常一个简单的问题,但我遇到了某个大输入值的问题。以下是我的解决方案及其结果。
下面是使用内置的Sum()方法。
下面是使用聚合扩展方法。
如果我使用如下的常规 foreach 循环:
此处的 OverflowException 类描述说“算术运算产生的结果超出了操作返回的数据类型的范围”。但该arrSum
值在long
范围内,所以我无法找出问题所在。所以不确定我是否遗漏了任何东西或错误地使用了这些功能,但无法理解这种行为。
任何细节表示赞赏。
c# - C# 是否为浮点数抛出 OverflowException?
C# 编译器是否会为浮点数值类型抛出 OverflowException?
我试过这个来弄清楚:
我在控制台窗口中看到的是一个∞。
∞ 在调试时是否比异常更有用?
python - 在python中获取OverflowError
我需要在 Python 代码中表达和使用以下等式。但是,当我替换X = 340.15
为:
我在 Google 上进行了快速搜索,但无法找到如何运行等式。
.net - 单声道框架反射调用抛出 OverFlowException
在dotnet框架或mono框架中,通过反射调用方法,调用过程中的异常会被TargetInvocationException包裹。但是我发现OverFlowException在单声道中表现出不同的行为,它直接抛出而没有任何包装,这是单声道框架的错误吗?
示例代码:
相同的代码,在 mono 和 dotnet 中执行不同,只有 OverflowException 显示了这种差异,有人能解释为什么吗?
c# - 解析json时如何处理int和int64
我有一个循环通过 json 并获取值的程序。这可以找到直到它得到一个高于 int32 处理的整数。
是否可以在下面同时处理 int32 和 int64 ?我尝试使用以下方法,但似乎没有用
c# - CSharp:无法读取 LARGE .npy 文件。例外是“NumSharp.dll 算术运算导致溢出”。
我正在尝试在 CSharp 中读取一个大的 .npy 文件。为了做到这一点,我正在尝试使用NumSharp nuget。
该文件是 7GB 锯齿状浮点数组 (float[][])。它有大约 100 万个向量,每个向量都是 960 维。
注意: 更具体地说,我使用的数据是来自以下链接Approximate Nearest Neighbors Large datasets的 GIST 。
以下是我用来加载数据的方法,但它失败并出现异常:
例外是:
引发异常:NumSharp.dll 中的“System.OverflowException” NumSharp.dll 中发生“System.OverflowException”类型的未处理异常算术运算导致溢出。
我该如何解决这个问题?
更新
如果文件太大,NumSharp 包有限制。阅读下面的评论/答案以获得更多解释。我添加了一个带有解决方法建议的答案
但是,一个好的选择是将数据保存为 .npz(请参阅:numpy.savez()),然后以下包可以完成这项工作:
https://github.com/matajoh/libnpy
代码示例: