0

我正在尝试在我的Keras顺序模型（TensorFlow 2.6.0）中使用自定义损失函数。这种自定义损失（理想情况下）将计算数据损失加上物理方程的残差（例如，扩散方程、Navier Stokes 等）。这个残差是基于模型输出导数 wrt 它的输入，我想使用GradientTape.

在这个 MWE 中，我删除了数据损失项和其他方程损失，只使用了输出对其输入的导数。数据集可以在这里找到。

from numpy import loadtxt
from keras.models import Sequential
from keras.layers import Dense
import tensorflow as tf #tf.__version__ = '2.6.0'
# load the dataset
dataset = loadtxt('pima-indians-diabetes.csv', delimiter=',')
# split into input (X) and output (y) variables
X = dataset[:,0:8] #X.shape = (768, 8)
y = dataset[:,8]
X = tf.convert_to_tensor(X, dtype=tf.float32)
y = tf.convert_to_tensor(y, dtype=tf.float32)

def customLoss(y_true,y_pred):
    x_tensor = tf.convert_to_tensor(model.input, dtype=tf.float32)
#     x_tensor = tf.cast(x_tensor, tf.float32)
    with tf.GradientTape() as t:
        t.watch(x_tensor)
        output = model(x_tensor)
    DyDX = t.gradient(output, x_tensor)
    dy_t = DyDX[:, 5:6]
    R_pred=dy_t
    # loss_data = tf.reduce_mean(tf.square(yTrue - yPred), axis=-1)
    loss_PDE = tf.reduce_mean(tf.square(R_pred))
    return loss_PDE

model = Sequential()
model.add(Dense(12, input_dim=8, activation='relu'))
model.add(Dense(12, activation='relu'))
model.add(Dense(12, activation='relu'))
model.add(Dense(1, activation='sigmoid'))

model.compile(loss=customLoss, optimizer='adam', metrics=['accuracy'])

model.fit(X, y, epochs=15)

执行后，我得到这个ValueError：

ValueError: Passed in object of type <class 'keras.engine.keras_tensor.KerasTensor'>, not tf.Tensor

当我更改loss=customLoss为loss='mse'时，模型开始训练，但使用它customLoss就是重点。有任何想法吗？

4

1 回答 1

0

问题似乎来自损失函数中的model.input，如果我正确理解您的代码，您可以使用 loss ：

def custom_loss_pass(model, x_tensor):
    def custom_loss(y_true,y_pred):
        with tf.GradientTape() as t:
            t.watch(x_tensor)
            output = model(x_tensor)
        DyDX = t.gradient(output, x_tensor)
        dy_t = DyDX[:, 5:6]
        R_pred=dy_t
        # loss_data = tf.reduce_mean(tf.square(yTrue - yPred), axis=-1)
        loss_PDE = tf.reduce_mean(tf.square(R_pred))
        return loss_PDE
    return custom_loss

接着：

model.compile(loss=custom_loss_pass(model, X), optimizer='adam', metrics=['accuracy'])

我不确定它是否符合您的要求，但至少它有效！

于 2021-10-18T07:04:39.473 回答