2

[总结和回答:显然问题在于随机数生成器的播种需要很长时间。请看下面我的回答。]

在 Google Compute Engine (GCE) 中,我的 Java 虚拟机应用程序向scrypt密码哈希函数发出的第一个请求需要很长时间——因为我想代码还没有被即时编译。scrypt("pswd", 2,1,1)所以我正在通过在服务器启动时进行虚拟调用来预热 scrypt 。然而,发生的情况是 CPU 上升到 300%+,在那里停留 10-20 秒,然后回落到 1%,尽管对 scrypt() 的请求还没有完成。现在,CPU 保持在 1%,持续数分钟(长达半小时,使用 2 个 GCE vCPU),直到最终 scrypt() 完成。

为什么会有这种奇怪的行为?

为什么 scrypt() 在完成之前不会继续以 300% 的 CPU 运行?它没有耗尽内存。看看下面的 Docker 统计数据。

在第一个 scrypt() 请求之后,后续请求“立即”完成。例如,this: SCryptUtil.scrypt("pswd", 65536, 8, 1) 耗时 < 0.2 秒,尽管它比: SCryptUtil.scrypt("pswd", 2, 1, 1) which(如前所述)是我的第一次 scrypt() 调用,通常需要几分钟,使用 4 个 GCE vCPU — 通常大约半小时,具有 2 个 GCE vCPU。

我正在使用具有 4 个 vCPU、3.6 GB RAM 的 GCE 实例。码头工人 1.11.1。OpenJDK 1.8.0_77。在 Alpine Linux 3.3 Docker 容器中,Ubuntu 16.04 Docker 主机。无法在我的笔记本电脑上重现此内容;在我的笔记本电脑上,scrypt 总是很快,不需要任何预热。

docker stats,5-10 秒后:(现在 edp_play_1,第 2 行,使用 300+% CPU)

CONTAINER           CPU %               MEM USAGE / LIMIT     MEM %               NET I/O               BLOCK I/O           PIDS
edp_nginx_1         0.02%               55.92 MB / 104.9 MB   53.33%              6.191 kB / 2.897 kB   0 B / 0 B           6
edp_play_1          315.12%             914.7 MB / 2.831 GB   32.31%              43.4 kB / 66.09 kB    0 B / 2.58 MB       67
edp_postgres_1      0.33%               29.84 MB / 314.6 MB   9.49%               529.1 kB / 307.9 kB   0 B / 327.7 kB      17
edp_redis_1         0.08%               6.513 MB / 52.43 MB   12.42%              4.984 kB / 1.289 kB   0 B / 0 B           3

docker stats半分钟后:(现在 edp_play_1 仅使用 0.97% 的 CPU — 并保持这种状态,最多半小时,直到完成)

CONTAINER           CPU %               MEM USAGE / LIMIT     MEM %               NET I/O               BLOCK I/O           PIDS
edp_nginx_1         0.02%               55.92 MB / 104.9 MB   53.33%              6.341 kB / 3.047 kB   0 B / 0 B           6
edp_play_1          0.97%               1.011 GB / 2.831 GB   35.71%              130.2 kB / 215.2 kB   0 B / 5.546 MB      66
edp_postgres_1      0.28%               29.84 MB / 314.6 MB   9.49%               678.2 kB / 394.7 kB   0 B / 458.8 kB      17
edp_redis_1         0.06%               6.513 MB / 52.43 MB   12.42%              4.984 kB / 1.289 kB   0 B / 0 B           3

如果你想在 Scala 和 sbt 中测试,这就是我在 GCE 中发生的事情:

scala> import com.lambdaworks.crypto.SCryptUtil
import com.lambdaworks.crypto.SCryptUtil

scala> def time[R](block: => R): R = { val t0 = System.nanoTime() ; val result = block ; val t1 = System.nanoTime() ; println("Elapsed time: " + (t1 - t0) + "ns") ; result ; }
time: [R](block: => R)R

scala> time { SCryptUtil.scrypt("dummy password 1", 2, 1, 1) }
Elapsed time: 313823012366ns   <-- 5 minutes
res0: String = $s0$10101$2g6nrD0f5gDOTuP44f0mKg==$kqEe4TWSFXwtwGy3YgmIcqAhDvjMS89acST7cwPf/n4=

scala> time { SCryptUtil.scrypt("dummy password 1", 2, 1, 1) }
Elapsed time: 178461ns
res1: String = $s0$10101$C0iGNvfP+ywAxDS0ARoqVw==$k60w5Jpdt28PHGKT0ypByPocCyJISrq+T1XwmPlHR5w=

scala> time { SCryptUtil.scrypt("dummy password 1", 65536, 8, 1) }
Elapsed time: 130900544ns   <-- 0.1 seconds
res2: String = $s0$100801$UMTfIuBRY6lO1asECmVNYg==$b8i7GABgeczVHKVssJ8c2M7Z011u0TMBtVF4VSRohKI=

scala> 313823012366L / 1e9
res3: Double = 313.823012366

scala> 130900544L / 1e9
res4: Double = 0.130900544

注意:这与 Docker 无关。我刚刚在 Docker 外部进行了测试,直接在 GCE 实例上安装了 openjdk 8,结果是一样的:scrypt(..)第一次大约需要 3 分钟,但 CPU 90-100% 空闲。此后,对 scrypt 的请求立即完成。

4

1 回答 1

2

问题是随机数生成器的播种需要很长时间。Scrypt 这样做:

public static String scrypt(String passwd, int N, int r, int p) {
    try {
        byte[] salt = new byte[16];
        SecureRandom.getInstance("SHA1PRNG").nextBytes(salt);   <--- look

        byte[] derived = SCrypt.scrypt(passwd.getBytes("UTF-8"), salt, N, r, p, 32);

这里

在我的 Google Compute Engine 实例上,调用 会nextBytes(salt)导致 SecureRandom 对象自行播种,这需要半小时。

这与 Java 或 Docker 无关,相反,请看这里:(直接在主机上,不在任何 Docker 容器内)

# < /dev/random stdbuf -o0 strings --bytes 1 | stdbuf -o0 tr -d '\n\t '

这从 /dev/random 读取随机字符,我已经运行了几分钟,但几分钟后,到目前为止只输出了 3 个字符。所以超级慢。

改用随机性较小但速度更快的 /dev/urandom ,然后:

# < /dev/urandom stdbuf -o0 strings --bytes 1 | stdbuf -o0 tr -d '\n\t '

立即打印 99999 个字符。

(我在这里找到了上述< /dev/random ...命令:https ://unix.stackexchange.com/a/114883/128585 )

不过,在我的笔记本电脑上,该/dev/random/版本会立即打印 30-40 个字符。然后它会阻塞,并每 10 秒左右打印一个或几个字符。当我使用鼠标、键盘或网络时,它可能会从我这里得到随机性。


更新

我做了什么:我现在正在使用/dev/urandom- 据我在互联网上阅读,这完全没问题。

我也开始使用硬件随机数生成器;显然 GCE 实例有这些。

apt install rng-tools  # start using any hardware rand num gen, on Ubuntu
于 2016-05-24T07:04:24.327 回答