Feature engineering

feature engineering (피처 엔지니어링)

최초 데이터에 대해 일련의 공정 처리를 가해 피처로 만들어 알고리즘과 모델에서 입력으로 사용하는 것

• 데이터에 끼어 있는 잡음(noise)와 중복 데이터를 제거하고 더 효율적인 피처를 얻음으로써 해결하려는 문제와 예측 모델 간의 관계를 설명하는 것이 목적

※ 특성이 너무 많으면 training set에서 과대적합, test set에서 과소적합

---

데이터 유형

정형 데이터

• 관계형 데이터베이스의 테이블
• 각 열마다 매우 명확하게 정의가 되어있고 수치형, 카테고리형 데이터를 포함
• 각 행은 하나의 샘플에 대한 정보를 담고 있음

비정형 데이터

• 텍스트, 이미지, 음성, 비디오 데이터 등을 포함
• 간단한 하나의 수치로 표현하기 힘듦
• 클래스에 대한 정의도 불명확하고 각 데이터의 크기 또한 천차만별

---

Feature normalization

• 피처에 대한 정규화 처리를 통해 서로 다른 지표들을 비교할 수 있도록 만듦 〓 모든 특징을 대략적으로 비슷한 수치 구간 내로 이동 e.g 사람의 키와 몸무게가 건강에 미치는 영향 → m와 kg 같은 서로 다른 단위를 동시에 사용할 경우 분석 결과는 수치 범위가 비교적 넓은 체중에 편향(bias)될 것. 따라서 더 정확한 결과를 얻기 위해 피처 정규화 처리를 해야 함.
• 선형회귀, 로지스틱 회귀, 서포트 벡터 머신, 신경망 등의 모델에서는 일반적으로 정규화를 함
• 결정트리모델은 정규화가 필요 없음

Min-Max Scaling (선형함수 정규화)

• 데이터에 대해 선형변환을 진행해 결괏값이 [0, 1] 범위에 투영되도록 변형 = 데이터를 동일한 비율로 축소하거나 확대
• $ X_{norm} = \frac{X - X_{min}}{X_{max} - X_{min}}$
• $ X_{max}, X_{min}$은 각각 데이터의 최댓값과 최솟값

z-score Normalization (표준 정규화)

• 데이터를 평균이 0이고 표준편차가 1인 분포상으로 투영
• 평균이 $\mu$ 이고 표준편차가 $\sigma$ 일 때 $z = \frac{x-\mu}{\sigma}$

★ 더 많은 내용 보러가기 click click! ★