问题标签 [absolute-value]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
1 回答
9341 浏览

x86 - 使用 SSE 计算绝对值的最快方法

我知道3种方法,但据我所知,一般只使用前2种:

  1. andps使用或屏蔽符号位andnotps

    • 优点:如果掩码已经在寄存器中,则一条快速指令,这使得它非常适合在循环中多次执行此操作。
    • 缺点:掩码可能不在寄存器中或更糟,甚至不在高速缓存中,从而导致非常长的内存获取。
  2. 将值从零减去取反,然后得到原始和取反的最大值。

    • 优点:固定成本,因为不需要像面具一样获取任何东西。
    • 缺点:如果条件理想,总是会比掩码方法慢,并且我们必须等待subps完成才能使用maxps指令。
  3. 与选项 2 类似,将原始值从零减去以求反,然后使用andps. 我进行了一个测试,将其与方法 2 进行比较,它的行为似乎与方法 2 相同,除了在处理NaNs 时,在这种情况下,结果将NaN与方法 2 的结果不同。

    • 优点:应该比方法 2 稍快,因为andps通常比maxps.
    • NaN缺点:当涉及到 s时,这会导致任何意外行为吗?也许不是,因为 aNaN仍然是 a NaN,即使它是 的不同值NaN,对吧?

欢迎提出想法和意见。

0 投票
1 回答
17267 浏览

python - 在 Python 中计算绝对值

如何制作一个在 Python 中要求一个浮点数然后计算绝对值的程序?我已经尝试过询问,但我无法在计算绝对值的地方创建行。

0 投票
1 回答
7525 浏览

python - 如何使用 matplotlib 定义具有绝对值的颜色图

我使用以下脚本进行绘图:

我定义的颜色图使用相对值(函数 1 最大值的 0 最小值)。问题是我想使用该代码来绘制数百个不同的文件,并且我希望每个图都具有完全相同的颜色图。是否有可能用绝对值定义颜色图?那将解决我的问题。

0 投票
1 回答
141 浏览

c++ - simd code to check if two double values are sufficiently different

Suppose I have two double values, old and new. I would like to implement a vectorized function that returns old if abs(x-y) < p, and new otherwise.

Here is the code (test.cpp):

To build:

We first compute fabs(x-y), compare to p, and combine x, y using the obtained mask.

Does anyone see a more efficient way to code this? Thanks.

0 投票
4 回答
15710 浏览

excel - 在 Excel 中的值范围内查找最接近 0 的值(使用非数字字段)

我在 Excel 中有一系列具有各种正数和负数的单元格。单元格的值由 IF 公式确定,区域中的某些单元格没有值 ("")。

我需要找到最接近 0 的单元格的绝对值。因此,如果我有一个包含 -10、-5、-1、3、6 和“”的列表:我需要得到 1 的结果。

我尝试了多种方法,但我有非数字单元格的事实似乎是一个导致错误的问题。

我试过的:

{=Min(ABS(A1:D10))},我按 Ctrl-Shift-Enter (由于非数字而返回错误)

{=IF(MAX(D3:D22)<=0,-1,IF(MIN(ABS(D3:D22))=MIN(ABS(IF(D3:D22>0,D3:D22,MAX(D3:D22)))),1,-1))*MIN(ABS(D3:D22))},我按 Ctrl-Shift-Enter (由于非数字而返回错误)

{=IF(OR((D3:D22)>0),MIN(ABS(D3:D22)),-MIN(ABS(D3:D22)))},我按 Ctrl-Shift-Enter (由于非数字而返回错误)

0 投票
5 回答
11639 浏览

python - 从不同列中取最大绝对值并过滤掉 NaN Python

这是我的尝试。例如

过滤掉NaN值,但它得到 0 或负值,而不是绝对值的最高值

结果应该是一列

0 投票
2 回答
6322 浏览

c++ - 应用于浮点值时,std::abs 和 std::fabs 之间有什么区别吗?

有一个相关的问题,但我相信它不能回答这个问题。

查看std::absstd::fabs记录它们似乎具有完全相同的行为。作为个人笔记,在我看来这std::fabs是更可取的,因为它减轻了(见)中std::abs(int)定义的歧义。<cstdlib>

所以我的问题是:除了潜在的歧义之外,在应用于浮点值之间以及应用于浮点值时std::abs(int)是否有任何区别?std::absstd::fabs

0 投票
1 回答
16237 浏览

r - 计算两列中值之间的绝对差

我正在编写一个 R 代码来计算/选择两列中两个值的绝对差小于某个值(比如 0.1)的行。它读取两个文件和两个列号,在此基础上完成计算。

测试文件:两个以制表符分隔的测试文件。

跑步:

我无法在代码中完成绝对值计算。它给出了这个错误:

错误消息的第一行也来自这里:

0 投票
2 回答
1783 浏览

java - 用 if 语句求绝对值

我有 2 个用户需要输入的 int 变量,我需要找到它们差异的绝对值,有没有办法按照我在这段代码中开始的相同原理来做到这一点?

0 投票
2 回答
887 浏览

c - 使用位算术从二进制 int 获取绝对值

这是我的代码,在值 -32 上调用函数返回 .125。我很困惑,因为这是一个非常直接的 abs on bits 公式,但我似乎遗漏了一些东西。有任何想法吗?