[ 딥러닝 ] learning rate 를 옵티마이저에서 셋팅하는 코드

1. Learning Rate란?

- 딥러닝 신경망이 확률적 경사 하강법(SGD) 최적화 알고리즘을 사용하여 훈련하는데서 나온 파라미터이다.

- 모델의 가중치(weight)가 업데이트 될때마다 예상 오류에 대한 응답으로 모델을 조정하고 제어하면서 모델학습에 영향을 주는 하이퍼 파라미터이다.

 

def model_build() :
  model = Sequential()
  model.add(Dense(64, activation='relu', input_shape=(8,)))
  model.add(Dense(units=64, activation='relu'))
  model.add(Dense(units=1, activation='linear'))

  # 옵티마이저의 learning rate 을 설정하는 방법
  model.compile(tf.keras.optimizers.RMSprop(learning_rate=0.001),loss='mse', metrics=['mse', 'mae'])
  return model