Optuna 的常见问题解答在研究期间动态调整参数范围时给出了明确的答案：它没有问题，因为每个采样器都是单独定义的。
但是添加和/或删除参数呢？Optuna 是否能够处理此类调整？
这样做时我注意到的一件事是，在结果数据框中，这些参数获取nan其他试验的条目。能够将这些nans 设置为未采样时的（默认）值会有什么好处吗？在所有这些未知值的情况下，这项研究仍然合理吗？
问问题
122 次
1 回答
1
问题在这里得到了回答：
谢谢你的问题。Optuna 内部支持两种类型的采样：
optuna.samplers.BaseSampler.sample_independent和optuna.samplers.BaseSampler.sample_relative.前者
optuna.samplers.BaseSampler.sample_independent是对每个参数独立采样的方法，不受参数增减影响。添加的参数从添加的时间开始考虑。后者
optuna.samplers.BaseSampler.sample_relative是一种通过考虑参数的相关性进行采样的方法，并受到参数的增加或去除的影响。Optuna 的默认相关搜索空间是从超参数调整开始到现在存在的参数域的乘积集。实现采样器的开发者可以实现自己的搜索空间计算方法optuna.samplers.BaseSampler.infer_relative_search_space。这可能允许为已添加或删除的超参数考虑相关性，但这取决于采样算法，因此没有 API 可供普通用户修改。
于 2021-01-03T04:57:45.303 回答