파이썬 텐서플로우 & 머신러닝 기초 3강 - 비용(Cost)

비용(Cost) : 가설이 얼마나 정확한지 판단하는 기준

알고리즘 분야에서 중요한 개념!

 

비용계산 : 실제 데이터 ~ 예측값 거리 구하기

 

 

 

 

비용함수(cost function) : (예측값 - 실제 값)^2의 평균

 

 

• W, b 값을 이용하여 계산
• 비용이 적을수록 좋은 것

제곱해주는이유 : 음수 값이 나오지 않게 하기 위함

 

가장 합리적인 값을 도출하기 위해 => 경사 하강 (Gradient Descent)을 이용

• H(x) = Wx로 식을 간단히 함.
• 따라서 비용함수는 (Wx - y)^2 를 따른다.

 

이 식을 따르면 다음과 같은 그래프가 나온다.

 

x축을 W라고 생각하고, 임의의 W를 정하고 경사를 타고 내려감 (이동), 특정 간격으로 jump

가장 깊은 골짜기 도달할때까지

 

 

 

 

미분을 통해 기울기를 구하면서 이동

기울기가 0에 가까울수록 좋은 식

 

한 step jump하는 과정과 같은 과정

 

곡선에서 x축을 조금 이동할때, 처음에는 y값이 크게 변경됨 --> 위 그래프에서 첫번째 직선 그래프의 움직임이 큰 것을 설명

 

 

 

핵심 !

• 곡선의 특성상 초반에 변화 폭이 크다.
• 너무 작게 점프하면 학습이 오래 걸린다.
• 너무 크게 점프하면 학습 결과가 부정확하다.

 

 

 

https://www.youtube.com/watch?v=YK9PNTJ_aFA&list=PLRx0vPvlEmdAbnmLH9yh03cw9UQU_o7PO&index=3