为什么浮动投掷双重抛出不正常,双浮动不浮动?
Why is float to double cast unprecise, double to float not?

我知道浮点变量在投射时会失去精度。 但是我不明白的是,为什么从较小的原始演员到较大的演员阵容都是非法的,反之亦然。 我会 ...

保存时,django float或decimal会无意中舍入
django float or decimal are rounded unintentionally when saving

我想在地方模型中保存经度和纬度。 我尝试了两个字段,floatfield和decimalfield。 1. FloatField模型类Place1(models.Model):latitude = models.FloatField()...

如何在单元测试中避免浮点四舍五入错误?
How to avoid floating point round off error in unit tests?

我正在尝试编写一些简单的矢量数学函数的单元测试,这些函数对单精度浮点数的数组进行操作。 这些函数使用SSE内在函数,我得到误报...

为什么Groovy以这种方式执行浮点运算?
Why does Groovy perform floating point arithmetic this way?

试用Groovy中的浮点运算。 不知道为什么/如何/ groovy在幕后做了什么来造成这些不同类型的行为? 双点2 = 0.2双点1 = 0.1双...

C#浮点舍入行为
C# floating point rounding behavior

我一直在试图解决由浮点算法引起的错误,并将其简化为一段简单的代码,导致我不明白的行为:float one = 1; 浮动三= = ...

并行性和共线性的Ray- / segment-intersection测试失败了python中float精度的bcz
Ray-/segment-intersection test for parallelism and collinearity fails bcz of float accuracy in python

我试图实现一个函数,以查找Gareth Rees的伟大指令中的python中的ray- / segment交集:https://stackoverflow.com/a/14318254/7235455和https://stackoverflow.com/a / ...

在Python中主持网络字节顺序转换为float
Host to network byteorder conversion for float in Python

我有这个代码,我想做主机到网络的浮动值(t&u)#! / usr / bin / env python import socket import sys,struct x = int(sys.argv [1])y = int(sys.argv [2])z = socket ....

generate_canonical输出是否跨平台一致?
Is generate_canonical output consistent across platforms?

C ++标准在[rand.util.canonical]中详细说明了模板函数std :: generate_canonical是如何工作的(虽然它只呈现伪代码,而不是C ++代码)。 是...

Processing.js FloatList不适用于Web
Processing.js FloatList doesn't work on web

我的processing.js草图使用FloatList,它在我用Sublime构建时起作用。 但是,当我尝试在网页上运行它时,草图不会加载,并且我得到Uncaught Processing.js:无法...

long long int型函数返回十进制值
long long int type function returning decimal value

我写了一段代码,它会返回一个整数的平方根(没有小数位数,即平方根的底部)。 但是当我打电话时,它给了我一个十进制值。为什么是...

解组可选的float64字段在Go上返回错误
Unmarshalling optional float64 field returns error on Go

我的应用程序正在使用的外部API有时不返回其中一个float64字段的值。 发生这种情况时,我无法解组文档的其余部分。 这里是示例代码在...

我如何获取浮点类型的二进制表示?
How can I take binary representation of float-pointing types?

我如何获取浮点类型的二进制表示? 或者我怎样才能获得浮点数的尾数和指数?

我如何在javacard中使用浮点型指数来实现2的幂运算?
How can I do in javacard a power of 2 with a floating exponent?

我需要在Java Card中使用浮点型指数来执行2的幂。 正如您可能知道的那样,Java Card规范中禁止浮点类型。 我需要做这样的操作:short n = 2 ^(...

格式化浮点值
Formatting float values

这可能是一个愚蠢的问题,但无论如何。 我想要在我的标签上设置的编号很好地像这个20,000,000一样形成。 我该怎么做呢 ? 现在我已经将小数点数设置为0 ...

C - float_t和double_t格式说明符
C - float_t and double_t format specifiers

intN_t类型有新的格式说明符,例如%“PRIiN”和%“SCNiN”,用于printf和scanf系列函数。 如果有的话,float_t和double_t的新格式说明符是什么? (...

几乎同样没有损失地分割一个浮点数
Splitting a floating point number almost-equally with no loss

假设浮点数的十进制视觉表示(例如:货币)之后有2位数字,那么以最小总误差分割数量的最佳方法是什么? 例如,要分发100.00 ...

为什么整数除法的结果和转换为一个int后分裂大数不同?
Why are the results of integer division and converting to an int after division different for large numbers?

打印(10 ** 40 // 2)print(int(10 ** 40/2))代码输出:5000000000000000000000000000000000000000 5000000000000000151893014213501833445376为什么不同的值? 为什么第二次打印的输出(...

用awk减去浮点数
Subtracting floating points using awk

我有一个bash脚本,它使用awk从较大的数字中减去0.0001。 当数字有四位小数时,它不起作用。 它使用这些参数awk ... balance = $(awk -vn1 =“$ ...

将ast.Num转换为decimal.Decimal以获取python中的精度
Convert ast.Num to decimal.Decimal for precision in python

我目前正在编写一个解析器来解析简单的算术公式:它只需要(和限制)来支持+ - * / on数字和变量。 例如:100.50 * num *折扣基本上用于......

获得漂浮秒数
Get chrono seconds in float

在http://en.cppreference.com/w/cpp/chrono的示例中,秒值是以double形式获得的。 这是我想要的行为。 但是,这似乎依赖于隐含的假设,即时间......

将浮点数扩展到额外的小数位数
Extending A Floating Point Number to Extra Decimal Places

所以,在我的初学者python类中,我们被要求对用户输入的数字进行一些基本算术,基本的东西。 它应该返回一个有2位小数的数字,但我只能得到......

逻辑/ sigmoid函数实现数值精度
logistic / sigmoid function implementation numerical precision

在scipy.special.expit中,逻辑函数实现如下:if x <0 a = exp(x)a /(1 + a)else 1 /(1 + exp(-x))但是,其他 ...

如何计算python中使用unicode组件的字符串的数值?
How do I calculate the numeric value of a string with unicode components in python?

根据我以前的问题,我如何将unicode字符转换为Python中的浮点数? ,我想找到一个更优雅的解决方案来计算字符串的值,包含...

我可以将任何字符串转换为浮点而不丢失Python的精度吗?
Can I convert any string to float without losing precision in Python?

我解析API的一些价格信息,如果我只是做price = float(price_str),我是否需要担心失去精度? 或者我必须使用decimal.Decimal来确保原始值是...

迭代ArrayList添加值
Iterating over an ArrayList adding values

是否有可能迭代一个ArrayList,而不是每增加12个都添加一个实例? 有很多线程使用addAll来添加所有的实例,但不是部分。 我目前有一个ArrayList ...

十六进制 - >浮点数转换不准确
Hexadecimal -> Float Conversion Inaccurate

我使用下面的代码将十六进制字符串转换为浮点字符串:private static String removeScientificNotation(float value){return new BigDecimal(Float.toString(value))....

输入输出浮点数发行python
input output floating number issue python

Python似乎对浮点数做了些有趣的事情,它会从输入我产生的输入产生不同的浮点数,我希望浮点数保持与输入相同。 ...

使用C ++中的floor函数舍入错误
Rounding error using the floor function in C++

我被问到以下代码的输出是什么:floor((0.7 + 0.6)* 10); 它返回12.我知道浮点表示不允许表示所有具有无限的数字...

Java double和Oracle浮动到SQL Server数字中
Java double and Oracle float into SQL Server numeric

我正在研究一个SQL Server数据库,并且需要确保数据类型对于数据足够大。 有两个来源:Java double和Oracle float(126)。 SQL Server类型是...

复杂的字符串来双重转换
complex string to double conversion

我有一个XML文件中的字符串,它是双精度(或浮点数),例如:<VIPair> <电压> + 100mV </电压> <当前> + 1.05pA </ current> </ VIPair> <VIPair>&。 ..

是否有可能胁迫int文字在Rust中漂浮而不添加小数点?
Is it possible to coerce int literals to floats in Rust without adding decimal point?

我有一些测试数据从另一种语言格式化。 数据是一个浮点数组,但有些成员会错过小数点。 [0,0],[0,1],[1,0.5],...(100多项)。 有没有办法...

int()不适用于浮动?
int() not working for floats?

我最近在Python 3.5中遇到了这个问题:>>> flt ='3.14'>>> integer ='5'>>> float(integer)5.0 >>> float(flt)3.14 >>> int(integer)5> >> int(...

终止小数
Terminating decimal

#include <iostream> #include <string> #include <cstdlib> using namespace std; int main(){double a,b,res; while(c >> a >> b){res = a / b; 如果((res * b)== a)...

误解了MATLAB的整合
Misunderstanding the integration of MATLAB

大家好! 请你们解释为什么准确积分quad(@(x)x。^ 3-2。* x,0,2)的答案是-2.220446049250313e-016,而不是零,就像它应该是?

浮点零和日志
floating point zero and log

我的函数接收一个浮点数,并且在出现问题之前尝试捕捉零点,但它不起作用。 它挂在这里:exp = -math.ceil(math.log(v,2))def logfun(v):if v <0:v = -v ...

用php查找字符串中的浮点数
Find float number in string with php

我有这些字符串:$ txt1 =“8,742 MW”; $ txt2 =“7,750 KW”; $ txt2 =“2,350 GW”; 我需要一个正则表达式来查找这些字符串中的有效浮点数......我该怎么做? 谢谢。

Python的行为用于丰富的比较(或者,当Decimal('100.0')<.01)
Python's behavior for rich comparison (Or, when Decimal('100.0') < .01)

所以我有一个班轮:进口小数; h = decimal.Decimal('100.0'); (h> .01,h <.01,h .__ gt __(。01),h .__ lt __(。01))它所做的就是使一个保持100.0的小数对象,并将其与.01 ...进行比较

与浮点运算一致的整数除法
Consistent integer division with floating point operations

我需要在JavaScript中进行整数除法,这只能让我使用双精度浮点数。 通常我只是做Math.floor(a / b)(或a / b | 0)并且完成它,...

如何使用_mm_extract_ps在C / C ++中将十六进制浮点数转换为浮点数SSE GCC instrinc函数
How to convert a hex float to a float in C/C++ using _mm_extract_ps SSE GCC instrinc function

我正在编写一个SSE代码到2D卷积,但SSE文档非常稀疏。 我正在使用_mm_dp_ps计算点积,并使用_mm_extract_ps来获得点积结果,但_mm_extract_ps ...

给定两个双打,如何确定他们的商是否确切?
Given two doubles, how to determine if their quotient is exact?

给定两个双值p和q,我怎样才能确定它们的商数:double result = p / q; 是p和q的二进制值的准确结果? 也就是说,无论结果是不是......

Sql查询两个double值之间
Sql Query Between two double values

我正在使用sql查询来获取两个纬度和经度之间的所有商店。 查询在下面给出SELECT ID FROM场地WHERE(北纬41.439998626708984和41.939998626708984)...

计算中点
calculate midpoint

为什么在二分法中,最好是用c = a +(b - a)/ 2来计算a和b之间的中点c,而不是简单的:c =(a + b)/ 2。所有变量都是浮点。

我怎样才能输出足够精确的值来揭示Debug和Release之间的算术差异?
How may I output values to precision sufficient to reveal this arithmetic discrepancy between Debug and Release?

在我的程序中这个片段:trace.Log(String.Format(“a = {0:F10} b = {1:F10} a <b = {2}”),b.GetPixel(447,517).GetBrightness() ,(100F / 255F),b.GetPixel(447,517).GetBrightness()<(100F / ...

在Matlab中对浮点数进行位修改
Performing Bit modification on Floating point numbers in Matlab

我正在Matlab中使用非负矩阵分解将矩阵分解为两个因子。 使用这个我得到了两个双精度浮点矩阵,B和C样本结果...

将字节流转换为数字数据类型
Converting byte-stream into numeric data-type

假设我有一个字节流,我知道64位值(64位随机数)的位置。 字节顺序是Little-Endian。 由于PHP的整数数据类型限于32位(至少在32位...

Jython:将文本解析为包含逗号的浮点数
Jython: parsing text to float containing commas

我怎样才能解析一个从工作表扫描的浮动文本为文本,包含逗号? txt =“1,903.44”value = float(txt)#由于字符串UPDATE中的','而失败:抱歉,我不清楚。 我使用的是jython 2.5,...

浮点等价?
Floating point equivalence?

我希望能够比较两个双打,而不考虑可能的精确损失。 有没有办法处理这种情况? 如果没有,是否有一个门槛/准则知道多少是...

Fscanf Seg错误
Fscanf Seg Error

在一个项目中,我必须有一个生成数字的文件。 第一行是生成的int。 随后是浮动(单独的行)。 (我正在做单独的行,因为我觉得它使...

为什么0.1f的最后二进制位四舍五入为1?
Why is 0.1f's last binary bit rounded to 1?

我在大学学习操作系统课程,最近我们学习了如何在内存中表示浮点数。 我们的功课是关于将浮动数字(浮动)转换为他们的...

NSNumber和NSFloat
NSNumber and NSFloat

为什么不把这个输出5连接到控制台? 它输出0?! settingsData.sensitivitySettingValue是在模型类中定义的NSNumber。 - (void)viewDidLoad {[super viewDidLoad]; 浮动...
1 2 3 4 5 6 7 32 33