머신러닝1 부스팅(Boosting) 부스팅 알고리즘은 분류기에서 진행되는 과정간에 오차 분류 data에 다가 가중치를 주어 다시 분류를 진행하는 과정으로 반복적으로 하여 개선해 나가는 학습 방법이다. 의사결정트리모델의 앙상블 기법에는 Baggin과 Boosting이 있다. Boosting은 Bagging과는 목적성이 다른 방법이다. 부스팅의 목적은 모델의 Bias를 감소하는데에 있다. Low variance하고 High Bias를 가진 모델에 적합한 기법이다. Low variance라는 것은 입력변수에 따라 예측값이 일정하게, 분산이 크지 않게 나오는 것을 의미하고, high bias라는 것은 정답과의 괴리가 높다는 것을 의미한다. 즉, 예측값의 분산이 크지 않지만 정답과 거리가 있게 나오는 모델에 부스팅이 효과적일 수 있다. 왜냐면, 부.. 2020. 12. 4. 이전 1 다음