손실 함수(loss function)

loss function = 손실 함수

: 모델이 예측한 값과 실제 값 사이의 차이를 측정하는 함수

: 모델의 성능을 평가하고 어떤 방향으로 개선이 되어야 하는지 알려주는 역할

: 손실 함수의 값이 낮을수록 모델의 예측이 실제값에 가까워진다.

: 모델 학습의 목표 --> 손실 함수의 값을 최소화하는 것

 

---

손실 함수의 종류

MSE(Mean Squared Error)

- 평균제곱오차

- 예측값과 실제값의 차이를 제곱한 후 평균을 낸 값

- 이상치가 많이 존재한다며, 과대평가할 가능성이 있다.

MAE(Mean Absolute Error)

- 평균절대오차

- 예측값과 실체값의 차이를 평균을 낸 값

- 이상치가 많아 MSE로 평가하기에 문제가 있을 때, MAE를 사용한다. --> MSE에 비해 MAE는 이상치에 비교적 강건하다.

RMSE(Root Mean Squared Error)

- MSE에서 루트를 씌어준 값

---

손실 함수의 중요성

: 손실 함수를 사용하면, 모델이 어떤 방향으로 개선되어야 할 지 알 수 있다.

• 모델이 학습하는 방향을 결정하고 최적화 과정을 이끌며 문제 유형에 따라 적절한 성능평가를 가능하게 하는 핵심요소이다.

: 모델 학습에서 🧭 나침반 같은 역할을 한다고 생각하면 쉬울 것 같다.

 

 

 

 

 

(출처)

https://www.datarobot.com/blog/introduction-to-loss-functions/

https://iii.ad/c18195