python - 如何使用 Keras Tuner 调整优化功能？

Question

如何使用 Keras Tuner 调整优化功能？我想尝试 SGD、Adam 和 RMSprop。

我试过：

hp_lr = hp.Choice('learning_rate', values=[1e-2, 1e-3, 1e-4])
hp_optimizer = hp.Choice('optimizer', values=[SGD(learning_rate=hp_lr), RMSprop(learning_rate=hp_lr), Adam(learning_rate=hp_lr)])

model.compile(optimizer=hp_optimizer,
              loss="sparse_categorical_crossentropy",
              metrics=["accuracy"])

但这不起作用，因为“AChoice只能包含一种类型的值”

Answer 1

可能最好的方法是做这样的事情：

hp_optimizer = hp.Choice('optimizer', values=['sgd', 'rmsprop', 'adam'])

if hp_optimizer == 'sgd':
    optimizer = SGD(learning_rate=hp_lr)
elif hp_optimizer == 'rmsprop':
    optimizer = RMSprop(learning_rate=hp_lr)
elif hp_optimzier == 'adam':
    optimizer = Adam(learning_rate=hp_lr)
else:
    raise

model.compile(optimizer=optimizer,
              loss="sparse_categorical_crossentropy",
              metrics=["accuracy"])

显然，您想要一个更具描述性的异常（或者只是保留它，因为它无论如何都不应该发生）。即使不同的优化器属于同一类，IIRC 也hp.Choice只允许整数、浮点数、布尔值和字符串，所以我看不出像这样的方法。