2021-01-19 TIL

in TIL on 머신러닝, 딥러닝, 기계 학습

기계 학습

  • 모델 용량은 모델이 학습할 수 있는 파라미터의 개수와 비례관계에 있다는 것을 알게되었다.
  • 모델의 용량으로 과소적합, 과잉적합을 이해했다.
  • 파라미터가 곧 가중치라는 것을 배웠다. 이것은 가중치 감소가 모델 용량을 적게하고, 오버피팅을 막는다는 것을 배웠다.
  • 규제가 왜 필요한지 배웠다.
  • 벡터의 내적의 의미는 기준점(매개변수)로 부터 입력 데이터가 얼만큼 유사한지를 판단하는 의미라는 것을 배웠다.
  • 선형 결합은 행렬의 곱셈과 덧셈으로만 이루어진 결과라는 것을 배웠다.

의문점

  • 퍼셉트론에서의 W는 가중치 벡터인데, 이 가중치라는 것이 모델의 매개변수가 맞는지 의문이 든다. 그리고 w는 label 개수에 따라 정해진다는 것인지 궁금하다.
  • 고유분해와 특잇값 분해가 왜 쓰이는지 잘 모르겠다.