metamong-data 님의 블로그

1. 분류 모델 평가 지표 (Classification Metrics)1.1 기본 지표정확도 (Accuracy)전체 예측 중 올바른 예측의 비율(TP + TN) / (TP + TN + FP + FN)불균형 데이터셋에서는 신뢰성이 떨어질 수 있음정밀도 (Precision)양성으로 예측한 것 중 실제 양성인 비율TP / (TP + FP)거짓 양성(False Positive)을 최소화하는 것이 중요할 때 사용재현율 (Recall)실제 양성 중 양성으로 예측한 비율TP / (TP + FN)거짓 음성(False Negative)을 최소화하는 것이 중요할 때 사용F1 점수 (F1 Score)정밀도와 재현율의 조화평균2 * (Precision * Recall) / (Precision + Recall)정밀도와 재현율의..

특징1. Level-wise TreeXGBoost와 더불어 Catboost는 Level-wise로 트리를 만들어나갑니다.Level-wise와 Leaf-wise의 차이는, 직관적으로 Level-wise는 BFS같이 트리를 만들어 나가는 형태이며, Leaf-wise는 DFS같이 트리를 만들어나가는 형태이며, 물론 max_depth = -1 이면서 둘은 같은 형태지만, 대부분의 부스팅 모델에서의 트리를 max_depth ≠ -1 이기 때문에 이 둘을 구분하는 것이다.2. Orderd BoostingCatboost는 기존의 부스팅 과정과 전체적인 양상은 비슷하지만 다르다.기존의 boosting 모델이 일괄적으로 모든 훈련 데이터를 대상으로 잔차 계산을 했지만, Catboost는 일부만을 가지고 잔차 계산을 한 ..