변수의 선택

목차

1) 모든 가능한 변수를 포함한 회귀식(spss=> 입력)

2) 후진선택방법

3) 전진선택방법

4) 단계식선택방법 (SPSS=> 단계 선택)

본문내용

_3
이라 하면
x_3
에 대한 부분 F검정을 행하여 유의하지 않으면 더 선택할 변수가 없다고 판단하여
x_1
과
x_2
만으로 회귀모형을 적합시키며
x_3
가 유의한 경우 3개의 변수를 포함하는 회귀모형
hat y &=hat _0 &+hat _1 x_1 &+hat _2 x_2 &+hat _3 x_3
를 적합시킨 후, 미리 선택된
x_1
과
x_2
각각에 대하여 부분
F
검정을 실시한 후 유의한 결과가 얻어지면 그 변수를 포함하고 아니면 그 변수를 제거한 뒤에 다음 단계로 넘어간다. (만약 앞의 순서 ②에서 미리 선택된 변수
x_1
이
x_2
가 새로 선택됨으로 해서 유의하지 않게 되면
x_1
을 제거하고
x_2
만으로 구성되는 회귀모형
hat y &=hat _0 &+hat _2 x_2
을 적합시킨 후 새로운 변수를 선택하기 위하여 순서 ②부터 다시 시작한다)
이상과 같은 절차를 새로이 선택되는 변수가 유의하지 않을 때까지 계속하며 동시에 미리 선택된 변수들에 대하여 중요성을 다시 확인해 나가므로, 기존에 선택되었던 변수가 다시 제거될 수 있다는 것이 특색이다. (이는 후에 들어온 변수들의 조합이 높은 상관계수로 인해 기존 변수의 영향력을 뺏어가기 때문이다)
2), 3), 4) 방법은 변수를 추가하고, 제거하는 단계를 반복하는데 이때 추가하는 기준(유의성)과 제거하는 기준을 정해줘야 한다. 진입은 유의수준을 낮게(즉 진입조건이 까다로움) 제거는 유의수준을 높게(기왕 포함된 변수는 되도록 보유) 잡아준다.
SPSS에서는 default가 진입이 0.05, 제거가 0.1로 잡혀있다.

키워드

변수,   선택,   후진선택,   전진선택,   단계식선택