[Week 1- Day 4] 회고

# 활성화 함수

비선형 근사를 위해 사용. 대게 일부 혹은 특정 변수만 고려.

 

 

시그모이드 함수

Sigmoid(로지스틱) 함수

 

 

하이퍼폴릭 탄젠트 함수

tanh(x)

 

 

ReLU 함수

ReLU(x)

 

 

소프트맥스 함수

Vector로 모든 변수를 고려O.

ex. 분류문제에서 model 출력값을 특정 class에 속할 확률 값으로 변환해줌. 단, 추론에는 안쓰이고 onehot()이 쓰임.

Softmax(x)

 

 

# 확률론

ML에서 loss function(손실함수) 작동 원리가, data를 통계적으로 해석하기 위함으로써 risk를 최소화하기 위한 원리임.

ex1. 회귀분석에서, L2-norm = error 분산을 최소화하는 방향으로 유도.

ex2. 분류문제에서, Cross-entropy = model 불확실성을 최소화하는 방향으로 유도.

 

등등.

 

 

## 피어 세션

미션 : 오늘 진도체크, 모르는 거 질문

기본퀴즈3에서 마지막 문제 질문. 균등분포에서의 표본분산 문제였는데, 편차 제곱 후에 n을 나누지 않아서 틀린 것이었음;;

오늘 되게 힘들었음. 그냥 내일은 강의 잘 듣고, 퀴즈 다 풀고, 편하게 살아라.

 

## 마스터 세션

수학은 직관적으로 이해하려고 하기보다, 익숙해지면 차차 알게된다.

Q. 대학원에 갈까요? -> GAN과 같이 잘 알려진 모델을 활용하거나 어떻게 해보려고 가는 거라면 취업하고, 잘 알려지지 않은 새로운 방식을 알기 위해서라면 많은 도움을 받을 수 있을테니 가라. 근데 아마 논문보고, 모델로 구현하고 등등 본인이 꾸준히 하지 않는다면 경쟁력을 갖기 힘들 듯.

 

TMI ..

오늘 심화과제1을 하고 있음. 생각보다 1주일이 빠르게 흘러감.

내일은 빨리 강의&퀴즈 수행해야지. 피어세션이 2번인데, 걱정하지 마라. 어차피 목적은 공부하고 프로젝트 수행하는 것이니.