问题标签 [absolute-value]
For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.
x86 - 使用 SSE 计算绝对值的最快方法
我知道3种方法,但据我所知,一般只使用前2种:
andps
使用或屏蔽符号位andnotps
。- 优点:如果掩码已经在寄存器中,则一条快速指令,这使得它非常适合在循环中多次执行此操作。
- 缺点:掩码可能不在寄存器中或更糟,甚至不在高速缓存中,从而导致非常长的内存获取。
将值从零减去取反,然后得到原始和取反的最大值。
- 优点:固定成本,因为不需要像面具一样获取任何东西。
- 缺点:如果条件理想,总是会比掩码方法慢,并且我们必须等待
subps
完成才能使用maxps
指令。
与选项 2 类似,将原始值从零减去以求反,然后使用
andps
. 我进行了一个测试,将其与方法 2 进行比较,它的行为似乎与方法 2 相同,除了在处理NaN
s 时,在这种情况下,结果将NaN
与方法 2 的结果不同。- 优点:应该比方法 2 稍快,因为
andps
通常比maxps
. NaN
缺点:当涉及到 s时,这会导致任何意外行为吗?也许不是,因为 aNaN
仍然是 aNaN
,即使它是 的不同值NaN
,对吧?
- 优点:应该比方法 2 稍快,因为
欢迎提出想法和意见。
python - 在 Python 中计算绝对值
如何制作一个在 Python 中要求一个浮点数然后计算绝对值的程序?我已经尝试过询问,但我无法在计算绝对值的地方创建行。
python - 如何使用 matplotlib 定义具有绝对值的颜色图
我使用以下脚本进行绘图:
我定义的颜色图使用相对值(函数 1 最大值的 0 最小值)。问题是我想使用该代码来绘制数百个不同的文件,并且我希望每个图都具有完全相同的颜色图。是否有可能用绝对值定义颜色图?那将解决我的问题。
c++ - simd code to check if two double values are sufficiently different
Suppose I have two double values, old and new. I would like to implement a vectorized function that returns old if abs(x-y) < p, and new otherwise.
Here is the code (test.cpp):
To build:
We first compute fabs(x-y), compare to p, and combine x, y using the obtained mask.
Does anyone see a more efficient way to code this? Thanks.
excel - 在 Excel 中的值范围内查找最接近 0 的值(使用非数字字段)
我在 Excel 中有一系列具有各种正数和负数的单元格。单元格的值由 IF 公式确定,区域中的某些单元格没有值 ("")。
我需要找到最接近 0 的单元格的绝对值。因此,如果我有一个包含 -10、-5、-1、3、6 和“”的列表:我需要得到 1 的结果。
我尝试了多种方法,但我有非数字单元格的事实似乎是一个导致错误的问题。
我试过的:
{=Min(ABS(A1:D10))}
,我按 Ctrl-Shift-Enter (由于非数字而返回错误)
{=IF(MAX(D3:D22)<=0,-1,IF(MIN(ABS(D3:D22))=MIN(ABS(IF(D3:D22>0,D3:D22,MAX(D3:D22)))),1,-1))*MIN(ABS(D3:D22))}
,我按 Ctrl-Shift-Enter (由于非数字而返回错误)
{=IF(OR((D3:D22)>0),MIN(ABS(D3:D22)),-MIN(ABS(D3:D22)))}
,我按 Ctrl-Shift-Enter (由于非数字而返回错误)
python - 从不同列中取最大绝对值并过滤掉 NaN Python
这是我的尝试。例如
过滤掉NaN
值,但它得到 0 或负值,而不是绝对值的最高值
结果应该是一列
c++ - 应用于浮点值时,std::abs 和 std::fabs 之间有什么区别吗?
有一个相关的问题,但我相信它不能回答这个问题。
查看std::abs
和std::fabs
记录它们似乎具有完全相同的行为。作为个人笔记,在我看来这std::fabs
是更可取的,因为它减轻了(见注)中std::abs(int)
定义的歧义。<cstdlib>
所以我的问题是:除了潜在的歧义之外,在应用于浮点值之间以及应用于浮点值时std::abs(int)
是否有任何区别?std::abs
std::fabs
r - 计算两列中值之间的绝对差
我正在编写一个 R 代码来计算/选择两列中两个值的绝对差小于某个值(比如 0.1)的行。它读取两个文件和两个列号,在此基础上完成计算。
测试文件:两个以制表符分隔的测试文件。
跑步:
我无法在代码中完成绝对值计算。它给出了这个错误:
错误消息的第一行也来自这里:
java - 用 if 语句求绝对值
我有 2 个用户需要输入的 int 变量,我需要找到它们差异的绝对值,有没有办法按照我在这段代码中开始的相同原理来做到这一点?
c - 使用位算术从二进制 int 获取绝对值
这是我的代码,在值 -32 上调用函数返回 .125。我很困惑,因为这是一个非常直接的 abs on bits 公式,但我似乎遗漏了一些东西。有任何想法吗?