모델 선택과 평가 제대로 이해하기 — NFL부터 교차검증·Selection Bias까지

·
AI
이번 강의자료는 "모델을 만드는 법"이 아니라 "만든 모델을 어떻게 고르고 믿을 수 있게 평가하느냐"에 관한 파트였습니다. 슬라이드가 목적 함수·가설 같은 용어 정리에서 시작해서 No Free Lunch, 오컴의 면도날 같은 철학적 전제를 깔고, 거기서 Bias-Variance 분해로 오차의 정체를 파고든 다음, 홀드아웃·교차검증·하이퍼파라미터 탐색까지 쭉 이어지더라고요. 중간중간 Wolpert, Domingos, Kohavi, Bergstra·Bengio, Cawley·Talbot 같은 원논문 인용이 계속 튀어나오는 게 인상적이었습니다.개념이 워낙 많아서, 이 글에서는 자료의 뼈대를 이루는 네 개의 질문으로 압축해 정리하려고 합니다. "완벽한 모델이 왜 없는가 → 오차는 어디서 오는가 → 성능을 어떻게..