hegelty 님의 블로그

Support Vector Machine(SVM) 간략하게 이해하기

공간에서 각 class 간의 거리를 최대화(maximize)하는 머신 러닝 방법. Kernel Trick을 이용하여 비선형(nonlinear) 함수를 학습한다.구분하고자 하는 두 class 사이 간격(margin)을 최대화하는 초평면(hyperplan)을 찾는다.Kernel Trick비선형(nonlinear) 함수는 찾기가 어렵다. 선형(linear) 함수를 찾으려고 data를 더 높은 차원으로 대응(mapping)시키면 연산이 너무나 많이 필요하다.이러한 계산 과정을 생략할 수 있도록 Kernel function을 사용하는 것을 Kernel trick이라 한다.Kernel trick을 사용하면 직접 data를 높은 차원으로 대응(mapping)시키지 않더라도 기존 차원에서 Kernel function을..

Nearst Neighbor, Linear ,Cubic Interpolation(최근접이웃, 선형, 삼차 보간)

각 보간법의 결과 예시Cubic Interpolation은 과적합 위험이 크다.보간(Interpolation)이란?Known data points를 바탕으로 새로운 data point의 값을 추정하는 기법 회귀(Regression)과 차이점Interpolation은 정확한 값을 알고 있을 때, 정확한 값들의 범위 내에서 새로운 값을 추정한다. 따라서 보간식은 항상 known data points를 모두 지난다.Regression은 데이터의 경향성을 설명하는 함수를 찾아내어 새로운 값을 추정한다. 회귀식은 known data points를 지나지 않을 수 있으며(보통 지나지 않는다), 범위의 제한이 없다.Nearst Neighbor Interpolation값을 추정하고자 하는 data point에서 가장..