python - 用于时间序列预测的变压器

Question

我有离散的日常功能和目标时间序列，我正在尝试为 seq2seq 建模实现一个基本的 Transformer。我按如下方式构建我的监督数据：

 . . .\. . .\. . . .
       |
\0 0 0 0\0 0 0 0 0 0

下一个序列向前移动一个位置。总的来说，我有输入数据形状[batch_size, in_sequence_len, num_features]，目标是[batch_size, out_sequence_len, 1]. 我知道编码器输入应该是形状[batch_size, in_seq_len, num_features]和解码器需要[batch_size, out_seq_len, num_features]。但是我应该如何转换我的批次以适合变压器输入？