Levene 등분산 검정 유의하면 분산분석 못 쓴다?

Levene 검정 p<.05면 분산분석 자체를 쓰면 안 되고 비모수 검정으로 가야 한다고 함

GPT-6.1 Sol의 답변

Levene 검정이 유의해도 분산분석을 포기할 필요는 없으며, Welch 분산분석 등을 고려할 수 있습니다.

Levene 검정의 p<.05는 집단의 모분산이 같다는 가설을 기각한다는 뜻이지, “분산분석을 전혀 쓸 수 없다”는 뜻은 아닙니다.

어떤 분석을 선택하나?

  • **일반적인 일원분산분석(ANOVA)**은 등분산을 가정하지만, 집단별 표본수가 비슷하고 심한 왜도나 이상치가 없다면 등분산 위반에도 비교적 견고합니다. 반면 집단별 표본수와 분산이 모두 크게 다르면 제1종 오류율, 즉 실제로 없는 차이를 있다고 판단할 확률이 왜곡될 수 있습니다.
  • Welch 분산분석은 등분산을 가정하지 않고 집단 평균을 비교하는 방법입니다. 독립된 집단의 평균 비교에서 이분산이 문제라면 유력한 선택입니다. 이후 쌍별 비교에는 Games–Howell 방법 등을 고려할 수 있습니다.
  • Kruskal–Wallis 검정 같은 비모수 검정으로 반드시 바꿔야 하는 것은 아닙니다. 이 검정은 일반적으로 평균이 아니라 순위에 기반한 분포 차이를 다루며, 분산 차이를 자동으로 해결해 주지도 않습니다. 중앙값 차이로 해석하려면 집단별 분포 모양이 유사하다는 등의 조건이 필요합니다.

실무적 판단

Levene 검정은 표본이 크면 작은 분산 차이에도 유의해지고, 작으면 큰 차이를 놓칠 수 있습니다. 따라서 p값 하나로 분석법을 기계적으로 결정하지 말고, 집단별 표본수·분산·분포와 연구 목적을 함께 보세요.

위 설명은 주로 독립집단 일원설계에 해당합니다. 반복측정이나 요인설계라면 설계에 맞는 별도 접근이 필요합니다.

Claude Sonnet 5.5의 답변

Levene 검정이 유의해도 분산분석을 포기할 필요는 없고, Welch 분산분석처럼 등분산 가정이 필요 없는 방법을 쓰면 되며 비모수 검정이 정답인 것도 아니다.

핵심 정리

"Levene p<.05면 분산분석 불가, 비모수로 전환"은 정확하지 않습니다. 이분산(집단 간 분산이 다름)일 때 문제가 되는 것은 전통적 일원 분산분석(F검정) 이지 분산분석이라는 틀 전체가 아닙니다.

이유

  1. 대안 분산분석이 있습니다. Welch 분산분석이나 Brown-Forsythe 검정은 등분산을 가정하지 않습니다. 사후검정도 Games-Howell처럼 이분산에 맞는 방법이 있습니다.
  2. 비모수 검정이 이분산의 해법은 아닙니다. Kruskal-Wallis 검정을 "중앙값 비교"로 해석하려면 집단 간 분포 모양과 퍼짐이 비슷해야 합니다. 분산이 다르면 이 전제가 깨지므로 문제가 그대로 남습니다.
  3. F검정은 어느 정도 강건합니다(robust). 집단별 표본 크기가 비슷하면 분산이 다소 달라도 1종 오류(실제로는 차이가 없는데 있다고 판정하는 오류)가 크게 늘지 않습니다. 위험한 경우는 표본 크기가 불균형할 때, 특히 표본이 작은 집단의 분산이 클 때입니다. 이때 F검정은 보수적이거나 반대로 지나치게 자유로워질 수 있습니다.
  4. Levene 검정의 한계도 있습니다. 표본이 크면 사소한 분산 차이에도 유의해지고, 표본이 작으면 심각한 차이도 놓칩니다. 또 "Levene 검정 후 분석법 선택"이라는 2단계 절차 자체가 전체 1종 오류를 흐트러뜨린다는 지적이 있습니다.

실무 권장

  • 처음부터 Welch 분산분석을 기본으로 쓰는 것이 합리적입니다. 등분산일 때도 검정력 손실이 거의 없습니다. 이 점은 여러 시뮬레이션 연구에서 대체로 지지되지만, 극단적인 비정규성에서는 별도 점검이 필요합니다.
  • Levene 검정 p값보다 집단별 표준편차와 표본 크기, 그래프(상자그림, 잔차도) 를 함께 봅니다.
  • 분포가 심하게 치우쳤거나 이상치가 많다면 변수 변환, 부트스트랩, 순열검정, 강건 회귀 등을 고려할 수 있습니다. 이 경우에도 이유는 이분산이 아니라 분포 문제입니다.

정리

| 상황 | 권장 | |---|---| | Levene 유의 + 균형 설계 | F검정도 대체로 무방하나 Welch가 더 안전 | | Levene 유의 + 불균형 설계 | Welch 분산분석 + Games-Howell | | 분포 자체가 심하게 비정규 | 변환, 순열검정, 비모수 등 검토 |

분야나 학술지에 따라 관행이 다를 수 있으므로, 투고처 지침도 확인하시기 바랍니다.

Gemini 3.8 Flash의 답변

Levene 검정이 유의하더라도 분산분석을 포기할 필요는 없으며, 등분산을 가정하지 않는 웰치 분산분석(Welch's ANOVA)을 사용하면 됩니다.

Levene 검정 결과 $p < .05$가 나왔다는 것은 집단 간 분산이 같지 않다는 **이분산성(heteroscedasticity)**이 확인되었음을 뜻합니다. 전통적인 피셔(Fisher)의 일원배치 분산분석(One-way ANOVA)은 등분산성을 가정하므로 이 결과를 그대로 신뢰하기는 어렵습니다.

그러나 분산분석 자체를 포기하고 곧바로 비모수 검정으로 전환해야 한다는 주장은 통계학적으로 명백히 틀렸습니다.

1. 웰치 분산분석(Welch's ANOVA)이라는 강력한 대안

등분산성 가정이 위배되었을 때 학계와 통계 소프트웨어(SPSS, R, Python 등)가 권장하는 표준 방법은 **웰치 분산분석(Welch's ANOVA)**입니다. 웰치 검정은 분산이 다른 상황을 반영하여 자유도(degree of freedom)를 수학적으로 보정함으로써 제1종 오류(효과가 없는데 있다고 잘못 판단할 확률)를 정확하게 제어합니다. 실제로 많은 현대 통계학자들은 등분산 여부와 관계없이 일원배치 설계에서 웰치 분산분석을 기본값으로 사용할 것을 권장하기도 합니다.

2. 표준 ANOVA의 자체 강건성(Robustness)

각 집단의 표본 크기($n$)가 동일하거나 거의 비슷한 **균형 설계(balanced design)**라면, 표준 ANOVA는 등분산성 위배에 대해 상당히 강건(robust)하게 작동합니다. 따라서 집단별 표본 크기가 같고 극단적인 분산 차이가 아니라면 표준 ANOVA의 결과도 크게 왜곡되지 않습니다.

3. 무조건적인 비모수 검정 전환의 한계

비모수 검정인 크루스칼-왈리스 검정(Kruskal-Wallis test)은 원래 등분산성 해결용이 아니라 정규성 가정이 심각하게 깨졌을 때 사용하는 기법입니다. 게다가 이 검정도 두 집단 이상의 '중위수(median)'를 비교하려면 집단 간 분포의 형태(분산 포함)가 동일해야 한다는 가정이 전제되어야 하므로, 이분산성의 만병통치약이 아닙니다. 또한 원자료를 순위(rank)로 바꾸면서 정보 손실과 검정력 저하가 발생합니다.

결론적으로, 데이터의 정규성 가정이 만족된다면 Levene 검정이 유의하더라도 비모수 검정으로 갈 이유가 없습니다. **웰치 분산분석(Welch's ANOVA)**을 실시하고, 사후검정으로는 등분산을 가정하지 않는 Games-Howell 검정을 사용하는 것이 가장 학술적이고 표준적인 절차입니다.

비슷한 질문