모델 구조
class sub_lstm(tf.keras.Model):
def __init__(self, vocab_size, embedding_units, lstm_units):
super(sub_lstm, self).__init__()
self.embedding_layer = Embedding(vocab_size, embedding_units)
self.lstm_layer = LSTM(lstm_units)
self.output_layer = Dense(1, activation='sigmoid')
def call(self, inputs):
inputs = tf.cast(inputs, dtype=tf.float32)
x = self.embedding_layer(inputs)
x = self.lstm_layer(x)
outputs = self.output_layer(x)
return outputs
모델 빌드
하이퍼 밴드 파라미터 튜닝 학습 결과
하이퍼 파라미터 튜닝 시에도 52의 정확도를 보임, epochs = 3
모델 최종 훈련
평가
- 반복학습을 해도 기존 정확도에서 올라가지 않음
- 기존 정확도도 52% 로 이진 분류에서는 매우 낮은 수치이며 검증 손실률도 70%에 육박하여 매우 높음
피드백
- 2차원의 입력값 (피처 개수, 시퀀스 길이) 를 임베딩 레이어를 통해 3차원으로 변환
-
3차원 (피처 개수, 시퀀스 길이, 임베딩 유닛 개수(=임베딩 레이어의 출력 값))
-