swift - CoreML 推理时间是否会随着迭代而增长？

Question

我必须在 Swift 中测量我的 ML 模型的推理时间。为此，我想多次执行推理，然后平均所有推理时间以获得更精确的值。我注意到推理时间随着迭代而增长。我一定做错了什么，我不熟悉 Swift：

Duration :  4756 ms
Duration :  4879 ms
Duration :  5325 ms
Duration :  5712 ms
Duration :  5952 ms
Duration :  6059 ms
Duration :  6223 ms
Duration :  6244 ms
Duration :  6088 ms
Duration :  6286 ms

这是我的代码片段：

for _ in 1...nb_it {

    // Timer
    let tic = CFAbsoluteTimeGetCurrent()

    // Inference    
    _ = try model.prediction(input: input, options: options)

    // Timer
    let toc = CFAbsoluteTimeGetCurrent()
    let duration = Int32(1000 * (toc - tic))

    // Report
    print(String(format: "Duration : %5d ms", duration))
}

正常吗？知道如果不是吗？提前致谢！

Answer 1

是的，如果手机变热，这是可能的。您的模型似乎很大（每次预测 4 秒），所以它做了很多工作，加热了 CPU 和/或 GPU。手机将减速以避免过热。