[ML] XGBoost 개념 정리

테일러 급수: 근사 다항함수로 표현한 식

복잡한 수식을 다항함수로 표현 가능 (=복잡한 함수를 다루기 쉽고 이해하기 쉬운 다항함수로 대체시키기 위해서)

테일러 급수는 결국 x = a에서 f(x)와 동일한 미분계수를 갖는 어떤 다항함수로 f(x)를 근사시키는 것입니다. 위 식에서 f(a) = p(a), f'(a) = p'(a), f''(a) = p''(a), ... 임은 쉽게 확인할 수 있을 것입니다. 테일러 급수를 이용해 이와같이 x = a에서 미분계수를 일치시키면 x = a 뿐만 아니라 그 주변의 일정 구간에서도 f(x)와 p(x)가 거의 일치되게 됩니다.

https://darkpgmr.tistory.com/59 

 

Ensemble: 여러 모델을 사용해 각 예측 결과를 만들고, 최종 예측 결과 결정

 

• Bagging: 병렬 처리 가능