컴퓨터 비전 4주차(2)

[학습목표]

텐서플로 프로그램의 기초에 대해 설명할 수 있다.

---

 

단층 퍼셉트론 예시)
2개의 입력 값이 들어와서 각각의 가중치 값을 곱하고 활성화 조절 함수인 편향 값을 더해 주어서 신호 합산기의 결과를 활성화 함수에 태워서 나온 결과가 바로 이 모델이 예측한 결과이다. 

[텐서플로로 퍼셉트론 프로그래밍]
순전파와 역전파가 이루어질 때 순전파를 통해서 예측 값과 실제 값에 대한 차이가 바로 오차이다.
이 오차를 가중치에 어떻게 반영할 것이냐, 반영하는 방법을 우리가 옵티마이저라고 하는데, 이 옵티마이저는 가장 일반적으로 쓰이는 경사 하강법을 사용하겠다고 정해진 것이고 학습할 때 학습률은 0.1로 정해두었다.

 

활성화 함수 : 이 순전파를 통해서 예측 값을 구하기 위한 함수이다.
예측 값을 구한다는 얘기는, 지금까지 가지고 있는 이 가중치 값과 이 편향 값을 가중 합을 통해 그 결과를 만들어내고 이 가중 합을 통해서 활성화 함수를 태운 결과가 아웃풋 (return o)이 된다.

 

손실 함수 : 순전파에서 나온 결과와 정답의 차이이다.

실제값과 예측 값의 차이가 오차이다. 이 오차에 대한 값을 구하는 것이 바로 손실 함수이다. 

손실값 = 실제값 - 예측값 "오차"

SGD라고 하는 경사 하강법을 사용했는데 경사 하강법에서는 학습률을 0.1로 정해 주었다.
즉, 순전파와 역전파를 통해서 오차가 줄어드는 것이다.
줄여 나가는 길 안내자 역할을 하는 것이 바로 옵티마이저이다.
그러면 기울기를 얼마나 더 반영할 것이냐?
학습률이 높게되면 굉장히 큰 값을 반영하겠다는 것이고 학습률이 낮다고 이야기하는 것은 오차가 나오면 그 오차를 조금 더 작은 비율로 반영하겠다고 이해하면 된다. 이것이 옵티마이저이다. 손실함수를 사용할 때 알고리즘은 여기서 평균제곱오차 방법을 사용한다. 

출력값이 -1, 1, 1, 1 하이퍼볼릭 탄젠트 활성화 함수
출력값이 0, 1, 1, 1 : 시그모이드 활성화함수