GradientBoost1 부스팅 알고리즘 (Boosting Algorithm) Boosting 부스팅이란? 앙상블 학습 유형 중 하나로 약한 분류기를 순차적으로 학습-예측하면서 가중치를 조정하여 오류를 개선하면서 학습하는 방식. 부스팅의 특징 각 분류기가 순차적으로 진행 결과 도출시에도 각 모델 결과에 가중치를 반영한다. 나중 모델의 결과에 더 높은 가중치를 둔다. 배깅 방식에 비해 속도가 느리며 데이터셋에 과적화될 위험성이 큼 대표적인 부스팅 알고리즘 AdaBoost GradientBoost XGBoost, LightGBM, CatBoost 등 AdaBoost 예측 성능이 낮은 학습기를 구축 및 조합하여 가중치 조절을 통해 좋은 성능을 발휘하는 강한 분류기를 합성하는 알고리즘 진행 과정 정리 AdaBoost는 매 단계마다 이전 분류기에서 오차가 크거나 오분류된 데이터들의 가중치를.. 2022. 10. 5. 이전 1 다음