python - TensorFlow Dense Layers：一维权重？

Question

我按以下方式设置了我的网络：

model = keras.Sequential([
    keras.layers.Flatten(input_shape=(28, 28)),
    keras.layers.Dense(128, activation='relu'),
    keras.layers.Dense(10, activation='softmax')
])

我希望这个配置是这样的：

[784 neurons]
(784,128 weights)
[128 neurons]
(128,10 weights)
[10 neurons]

但是，当我使用 model.get_weights() 打印网络的权重时，它会产生以下输出：

for w in model.get_weights():
    print(w.shape,"\n")

(784, 128)

(128,)

(128, 10)

(10,)

为什么在这个模型中存在 (128,) 和 (10,)？

Answer 1

(784, 128)是最后(128, 10)两层的权重。(128,)并且(10,)是最后两层偏差。如果不需要bias，可以使用use_bias参数来设置。例如：

import keras

model = keras.Sequential([
    keras.layers.Flatten(input_shape=(28, 28)),
    keras.layers.Dense(128, use_bias=False,activation='relu'),
    keras.layers.Dense(10, use_bias=False,activation='softmax')
])

for w in model.get_weights():
    print(w.shape,"\n")

# print
(784, 128) 

(128, 10)