본문 바로가기

소프트웨어/패턴인식

유전알고리즘(Genetic algorithms) 2018/02/24 - [딥러닝,패턴인식/패턴인식] - 의사결정트리 / 랜덤 포레스트 / 부스팅 / 배깅 (Decision Tree / Forest) part.12018/02/25 - [딥러닝,패턴인식/패턴인식] - 의사결정트리 / 랜덤 포레스트 / 부스팅 / 배깅 (Decision Tree / Forest) part.22018/02/25 - [딥러닝,패턴인식/패턴인식] - 의사결정트리 / 랜덤 포레스트 / 부스팅 / 배깅 (Decision Tree / Forest) part.3오늘은 유전 알고리즘(Genetic Algorithm)에 대해서 정리해볼려고 한다. 여기서는 2진수로 접근하는 것이 아닌 10진수의 실제 정답을 찾는 방법으로 접근을 할 것이다. 유전알고리즘의 기본적인 시퀀스는 아래와 같다. 임이.. 더보기
의사결정트리 / 랜덤 포레스트 / 부스팅 / 배깅 (Decision Tree / Forest) part.3 2018/02/24 - [딥러닝,패턴인식/패턴인식] - 의사결정트리 / 랜덤 포레스트 / 부스팅 / 배깅 (Decision Tree / Forest) part.1 2018/02/25 - [딥러닝,패턴인식/패턴인식] - 의사결정트리 / 랜덤 포레스트 / 부스팅 / 배깅 (Decision Tree / Forest) part.2 Part.2에 이어서 랜덤포레스트(Random Forest)에 대해서 설명하도록 하겠다. 랜덤포레스트의 간단한 설명은 아래와 같다. 앞에 설명을 모두 이해했다면 그림만 보더라도 충분히 이해가 될 것이다. 부트스트랩을 이용하여 샘플링을 하고 그 샘플을 가지고 의사결정트리(Decision Tree)를 만든다. 그 이후에 배깅(Bagging)과 부스팅(Boosting)방법을 이용하여 랜덤포.. 더보기
의사결정트리 / 랜덤 포레스트 / 부스팅 / 배깅 (Decision Tree / Forest) part.2 2018/02/24 - [딥러닝,패턴인식/패턴인식] - 의사결정트리 / 랜덤 포레스트 / 부스팅 / 배깅 (Decision Tree / Forest) part.1 Part.1에 이어서 의사결정트리(Dicision Tree) / 랜덤포레스트(Random Forest)에 대한 설명을 해보겠다. 앞서 말한 것과 같이 엔트로피(Entropy), 지니계수(Gini Index)를 이용하여 어떤 속성(Attribute)을 가지고 나눠야 하는 지를 결정 할 수 있다. 엔트로피의 경우 무질서라고 알고 있다 당연히 높을수록 무질서도가 높아지니 낮은 값이 더 좋은 속성(Attribute)라는 것을 알 수 있을 것이다. 아래 2개의 테이블이 있다. 왼쪽은 모든(A,B,C,D) 속성이 1/4 로 구별할수 있는 반면에 오른쪽은 .. 더보기
의사결정트리 / 랜덤 포레스트 / 부스팅 / 배깅 (Decision Tree / Forest) part.1 오늘은 간단히 의사결정트리(DecisionTree) / 랜덤 포레스트(RandomForest)에 대해서 정리해보려고 한다. 1. Supervised(지도학습) VS Unsupervised(비지도학습) 랜덤트리/포레스트는 지도학습이다. 바로 정답을 알려주고 Training을 진행 후 Train된 모델을 이용하여 입력값에 대하여 출력값을 알아 맞추는 방법이다. 지도학습과 비지도학습에 따라서 다양한 알고리즘들이 존재 하며 지도학습은 Parametric과 Non parametric으로 구별할 수 있다. 2. Bootstrap (sample re-sampling) 랜덤트리/포레스트를 만들기 위해서는 많은 데이터에서 모델을 Training할 샘플을 뽑아야 한다. 부트스트랩은 샘플을 뽑는 방법 중 하나다. 간단히 생.. 더보기