LSTM过度拟合,但验证精度没有提高

我正在尝试的任务是将EEG信号分为4类。数据分为试验。受试者被要求思考四个动作中的一个,分类任务是根据脑电图信号预测他们在想什么。

我有大约2500次试验。对于每个试验,有22个通道的EEG传感器输入和1000个时间步。我的基线是单层MLP,验证准确率约为45%。

由于keras LSTM需要y的一个热编码向量,所以在进行训练之前,我将0,1,2,3映射到相应的一个热编码(y\u total\u new)。起初,我手动创建了一个80/20列车/测试分割,但后来选择让keras进行分割(validation\u split=0.2)。

这是我第一次做LSTM实验。我从100个单元开始。为了映射到输出类,我添加了一个具有四个神经元的完全连接层,并将categorical\u crossentropy用于我的损失函数。到目前为止,对于LSTM,我无法获得超过25%的验证准确率。如果我将下面的代码运行50个历元而不是3个历元,那么LSTM会过度拟合数据,但验证精度保持在0.25左右。

由于这是我第一次使用LSTM,我想知道是否有人可以深入了解我可能错过的设计线索,或者为我指明正确的方向。

from keras.models import Sequential
from keras.layers import Dense, Dropout
from keras.layers import Embedding
from keras.layers import LSTM


time_steps = 1000
n_features = 22

model = Sequential()
model.add(LSTM(1000, return_sequences=False, input_shape=(time_steps, n_features)))
model.add(Dropout(0.2))
model.add(Dense(22, activation='tanh'))
model.add(Dense(4, activation='sigmoid'))

model.compile(loss='categorical_crossentropy',
              optimizer='adam',
              metrics=['accuracy'])

model.fit(X, y_total_new, validation_split=0.2, batch_size=16, epochs=50)
#score = model.evaluate(X_test, y_test_new, batch_size=16)