의사 결정 트리

이번에는 의사 결정 트리에 대해 알아보자. 의사 결정 트리는 약간 flow chart와 비슷하다. 어떤 입력 값에 대해 '참', '거짓'으로 분기를 타는 로직을 거쳐서 정답을 찾아나가는 과정이다. 이전 포스팅에서 언급한 kNN과는 어떠한 차이가 있을까?? kNN 같은 경우에는 모든 데이터에 대한 학습 데이터가 필요하다. 왜냐하면 데이터 하나하나 마다의 거리를 구해야 하기 때문이다. 하지만 decision tree 같은 경우에는 트리 모양만 만들어 주게 되면 따로 input 데이터가 들어왔을 시 kNN 처럼 일일이 계산을 해줄 필요는 없다. 그럼 이제 어떻게 decision tree를 만들어야 할 것인지에 대해 알아보기로 하자. decision tree를 설계하기 위해 엔트로피라는 단어가 나온다. 원래는 ..

2015.08.13