问题标签 [numeric]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
2 回答
5831 浏览

scala - Scala - Int 到 Numeric [Int] 的隐式转换

我创建了一个可以通过任何可以转换为数字的东西来参数化的类

然后在代码的其他地方我尝试:

这会引发编译错误,因为(令人惊讶的是)在 Int 和 Numeric[Int] 之间甚至在 Int 和 Integral[Int] 之间没有隐式转换。

我错过了什么吗?在我没有看到的地方有隐式转换吗?

在 Numeric.scala 中定义了一个名为 IntIsIntegral 的隐式对象。我尝试使用它来创建自己的隐式转换方法:

我很惊讶这是必需的,无论如何,它似乎会导致无限递归到 .fromInt 方法。

我确信我缺少一些基本的东西(正如你所知道的,我是 Scala 的新手),所以我会很感激你朝着正确的方向前进。

正如您从示例中看到的那样,我试图让一个复杂的数字实现工作,它可以接受和使用任何数字类型。我希望将其贡献给 scalala(线性代数)项目。接下来,我想介绍一个描述矩阵中元素职责的特征(主要只是 + 和 * 运算符),并将对复数的支持改进到矩阵操作库中。

0 投票
1 回答
43 浏览

numeric - 在软件中模拟数值运算

我们在程序中进行的数值运算受到语言为给定数据类型(或者硬件支持)指定的字节数的限制。假设我可以使用整数来计算我的薪水(即使“短”也足以满足一年的收入!!!;))但不能对比尔·盖茨的财富做同样的事情。因此,我们会选择 long long 之类的东西。但是,我们不是仍然受制于给我们的比特数吗?

那么,如果我在软件中模拟数值运算呢?说一个抽象的类,可以对具有 1000 位数字的数字进行数值运算......当然它会太慢,但我不太担心复杂性,而是更多地关注可计算性......

也许我可以用它在几个月内将 PI 计算到 1000 位的精度,或者在几年内计算出梅森素数并带回家 10 万美元;)

所以现在我的问题是,1)是否已经有任何这样的库可以做这种事情(在 C/C++ 中)。2)如果我要实施一个,你对我有什么建议吗?(+、-、*、/、%、<<、>> 操作我猜应该足够了)


PS:

  1. 我是 C/C++ 程序员。

  2. 这个限制从我的学生时代就开始困扰我。

0 投票
2 回答
1863 浏览

string - OWL:将属性值限制为数字字符串

在我的数据库中,我有字符串属性的东西。某些属性值与数字字符串匹配(仅包含数字)。我想给这些东西一个特殊的类型(它们的子类型)。在OWL中这样的事情可能吗?

0 投票
2 回答
507 浏览

ios - 将 `NSDecimalNumber` 转换为 `SInt64` 而不损失精度。(SInt64、iOS 范围内)

目前,[NSDecimalNumber longLongValue]使用字符串@"9999999999999999"返回创建10000000000000000

这意味着该类将其值转换为doublefirst,然后重新转换为SInt64( signed long long)

如何规避这种行为?我想得到范围内的精确整数SInt64

PS。我考虑过转换为NSString并重新转换为SInt64with NSScanneror strtoll,但我相信有更好的方法。但如果你确定没有其他办法,请告诉我。

0 投票
2 回答
470 浏览

validation - Rails 3. 在表单中留下错误的整数属性值

我有模型“人类”,这个模型有整数属性:年龄
例如,我对这个整数属性:age使用验证。

当我添加具有错误值的新 ' Human ' :age(例如"2aaa3")时,它会使我返回错误,但它也会被削减 :age 像"2"。但我不想要它。我想留下最后一个错误的值"2aaa3"

所以,问题是“我该怎么做?”

0 投票
3 回答
2959 浏览

jquery - 粘贴后jQuery验证数字

我知道如何验证数字值的字段,但是如果无效字符已粘贴到字段中,您如何验证该字段。通常我们有一个数字字段,然后是一个操作按钮,当单击操作按钮时,数字字段可能不会触发模糊事件。在这种情况下如何强制(重新)验证?你是在动作按钮的点击事件中再做一次,还是有更优雅的解决方案?

0 投票
4 回答
1575 浏览

.net - Sql 数据类型 numeric 的优势是什么?

Sql 数值数据类型(如 numeric(10,2))有什么优势。十进制和数字有什么区别?还有.net中数字的类型匹配是什么?

0 投票
2 回答
2786 浏览

python - 将 Python 警告/错误跟踪到 numpy 和 scipy 中的行号

我收到错误消息:

从 Python 中,我相信错误是由 numpy 引发的(使用版本 1.5.0)。但是,由于我在几个地方调用了“日志”函数,我不确定错误来自哪里。有没有办法让 numpy 打印产生此错误的行号?

我假设警告是由于取一个小到可以四舍五入为 0 或更小(负)的数字的对数引起的。是对的吗?这些警告的通常来源是什么?

0 投票
3 回答
1197 浏览

c++ - numeric_limits 的问题

为什么这不起作用?

我收到错误:错误 1 ​​错误 C2057:预期的常量表达式
它有什么不恒定的?long int 的限制在编译时是已知的,那么问题是什么?

0 投票
5 回答
10101 浏览

c# - 如何在 C# 中指定指数常数?

我有一些将指数数定义为常数的 C 代码。我如何用 C# 编写这个?