Reference · 인쇄용

Keras 회귀 기초 치트시트

keras/keras01.py ~ keras13_ddarung.py 전체에서 뽑은 핵심 사실. 객관식 시험 직전 5분에 읽을 문서.

0. 모든 파일이 공유하는 4단계 골격

#1. 데이터   → x, y 준비 · (필요하면) train/test 분리 · 스케일링
#2. 모델구성 → Sequential() + model.add(Dense(...))
#3. 컴파일·훈련 → model.compile(loss, optimizer) · model.fit(x, y, epochs, batch_size)
#4. 평가·예측 → model.evaluate(x_test, y_test) · model.predict(x_new)

이 4단계 주석은 keras01.py부터 keras13_ddarung.py까지 한 번도 바뀌지 않는다. 문제에서 "다음 코드의 빈칸"이 나오면 거의 이 순서 안의 한 칸이다.

1. 모델 구성: Sequential + Dense

Dense가 실제로 계산하는 식: output = activation(dot(input, kernel) + bias). activation을 안 주면 선형(a(x)=x) — 이 폴더의 모든 모델이 그렇다.^[1]

파라미터 수 = (입력 수 × 노드 수) + 노드 수(bias). 예: Dense(5, input_dim=1) → 1×5+5 = 10개.

2. 데이터 shape 읽기 (keras07, keras08)

차원 수는 arr.ndim, shape는 arr.shape로 확인한다. 이름은 0차원 스칼라 / 1차원 벡터 / 2차원 행렬 / 3차원 이상 텐서지만, 엄밀히는 전부 텐서다(TensorFlow의 rank-N tensor). 이 폴더는 Dense만 쓰므로 2차원까지만 등장한다. 3차원은 RNN (샘플, 타임스텝, 특성), 4차원은 컬러 이미지 (샘플, 높이, 너비, 채널)에서 나온다.

전치(transpose)가 필요한 이유

x = np.array([[1,2,3,4,5], [6,7,8,9,10]])   # (2, 5) ← 샘플 2개, 특성 5개로 잘못 해석됨
x = x.T                                      # (5, 2) ← 샘플 5개, 특성 2개  ✔
y = np.array([1,2,3,4,5])                    # (5,)  ← 타깃(정답), 샘플 5개
# x.T == x.transpose()

y가 [1,2,3,4,5](샘플 5개)이므로 x의 행도 5여야 한다. x.T를 빼먹으면 shape 에러.

다:1 / 다:다 (MLP)

model.predict(np.array([[10, 31, 211]]))   # (1, 3) ← 특성 3개인 샘플 1개  ✔
model.predict(np.array([10, 31, 211]))     # (3,)  ← 특성 1개인 샘플 3개로 읽힘  ✗
# ValueError: Expected shape (None, 3), but input has incompatible shape (3,)

3. 컴파일 & 훈련

하이퍼파라미터(keras06 주석): 노드 개수, 에폭 수, 레이어 깊이, 배치 사이즈. = 사람이 정하는 값. 가중치·bias는 학습으로 정해지므로 하이퍼파라미터가 아니다.

mse 계산 순서 = 이름을 거꾸로 읽기

Error(오차) → Squared(제곱) → Mean(평균) 순으로 계산한다.

mse = mean(square(y_true - y_pred))     # Keras 공식 문서의 정의식

# 정답 y = [1, 2, 3], 예측 ŷ = [1.5, 2, 2.0] 일 때
# 1) 오차: -0.5,  0,  +1.0
# 2) 제곱:  0.25, 0,   1.0
# 3) 평균: (0.25 + 0 + 1.0) / 3 = 0.4167   ← mse

mse의 약점은 단위가 제곱된다는 것. 집값을 만원 단위로 예측하면 mse의 단위는 "만원²"이라 값이 직관적으로 안 읽힌다. 그래서 학습은 loss='mse', 사람이 볼 지표는 RMSE·MAE로 따로 두는 조합이 흔하다. RMSE는 문자열 이름이 없어 클래스로 넣는다: model.compile(loss='mse', optimizer='adam', metrics=[keras.metrics.RootMeanSquaredError()]).

4. train / test 분리 (keras09~10)

# ① 수동             ② 슬라이싱                   ③ 사이킷런 (실전)
x_train = np.array(   x_train = x[:7]              x_train, x_test, y_train, y_test = \
    range(1,8))       x_test  = x[7:]                  train_test_split(x, y, train_size=0.8,
                                                            shuffle=True, random_state=42)

왜 나누는가: 훈련에 쓴 데이터로 평가하면 점수가 부풀려진다. evaluate는 반드시 본 적 없는 x_test로.

5. 스케일링 (keras11~13)

scaler = StandardScaler()
x_train = scaler.fit_transform(x_train)   # train에서 평균·표준편차를 배우고 변환
x_test  = scaler.transform(x_test)        # test는 변환만 (fit 금지!)

각 열을 (x - 평균) / 표준편차로 바꿔 평균 0, 표준편차 1로 만든다.^[4] 시험 포인트 x_test에 fit_transform을 쓰면 테스트 정보가 새어 들어간다(데이터 누수). y는 스케일링하지 않는다.

6. 평가 지표 (keras12)

R² = 1 - SSE / SST
#   SSE = Σ(y_test - y_pred)²      내 모델의 오차합
#   SST = Σ(y_test - y_test.mean())²  평균만 예측하는 모델의 오차합

# y_test = [100, 200, 300, 400, 500] (평균 300, SST = 100000) 일 때
# 예측 [110,190,310,390,505] → SSE=    425 → R² =  0.9958   오차 99.6% 줄임
# 예측 [300,300,300,300,300] → SSE= 100000 → R² =  0.0000   기준선과 동급
# 예측 [500,400,300,200,100] → SSE= 400000 → R² = -3.0000   기준선보다 나쁨

RMSE는 사이킷런에 없어서 직접 만든다 — keras12의 세 파일 모두 같은 함수:

def RMSE(y_test, y_pred):
    return np.sqrt(mean_squared_error(y_test, y_pred))

사이킷런 지표의 인자 순서는 항상 (y_true, y_pred) = (y_test, y_pred), 즉 실제값이 먼저다. MSE·MAE는 차이를 제곱·절댓값 처리하므로 뒤집어도 값이 같지만, R²는 첫 인자의 분산을 기준으로 삼아 뒤집으면 다른 값이 나온다 — 에러 없이 조용히 틀린다.

loss = model.evaluate(x_test, y_test)              # ① Keras가 계산

y_pred = model.predict(x_test)
mse    = mean_squared_error(y_test, y_pred)        # ② 사이킷런으로 계산 (위 표)
# loss == mse  (같은 데이터 x_test/y_test + 같은 수식)

fit 로그의 loss는 train MSE, val_loss는 validation MSE로 위 값과 전부 다르다. 본 적 없는 데이터로 잰 evaluate 값만이 신뢰할 수 있는 성능이다.

7. 데이터셋별 input_dim

8. CSV 데이터 (keras13 따릉이)

train_csv = pd.read_csv(path + "train.csv", index_col=0)  # 0번째 열을 인덱스로 → 특성에서 제외
train_csv = train_csv.dropna()                            # 결측치 행 삭제 (1459 → 1328)
x = train_csv.drop(["count"], axis=1)                     # axis=1 = 열 삭제 → (1328, 9)
y = train_csv["count"]                                    # 타깃 열

9. 자주 나오는 함정

인용

1. Keras 3 API — Dense layer: output = activation(dot(input, kernel) + bias), 기본 activation은 linear.
2. Keras 3 API — Model training APIs (fit): "If unspecified, batch_size will default to 32"; validation 데이터는 "selected from the last samples … before shuffling".
3. scikit-learn — train_test_split: shuffle 기본 True, random_state는 재현성 제어, test_size/train_size 모두 None이면 test 0.25.
4. scikit-learn — StandardScaler: z = (x - u) / s.
5. scikit-learn — r2_score: "Best possible score is 1.0 and it can be negative"; 평균만 예측하는 모델은 0.0.
6. scikit-learn — Glossary, sample: "a noun to indicate a single feature vector. Elsewhere a sample is called an instance, data point, or observation. n_samples … being the number of rows in a data array X".