도구 / 통계적 유의성 계산기

통계적 유의성 계산기

두 안의 방문자와 전환을 입력하세요. p값, 상대 리프트, 그리고 차이가 유의한지에 대한 분명한 답을 얻을 수 있어요.

z = (p̂B − p̂A) ÷ √( p̄(1 − p̄)(1/nA + 1/nB) )

값을 입력하면 결과가 보입니다

  1. 1

    A안을 입력하세요

    대조군을 본 방문자 수와 그중 전환한 수입니다.

  2. 2

    B안을 입력하세요

    도전안에 대해서도 같은 두 숫자입니다. 전환은 방문자 수를 넘을 수 없습니다.

  3. 3

    판정을 읽으세요

    두 전환율, 상대 리프트, z 통계량, p값, 그리고 0.05를 통과하는지 여부를 모두 얻습니다.

유의성을 검정하는 이유

B안이 앞서 있다는 것과 B안이 더 낫다는 것은 다릅니다. 이 도구는 진짜 차이와 평범한 잡음을 갈라 줍니다.

표준 검정

풀링한 두 비율 z 검정으로, 대부분의 A/B 테스트 도구가 내부에서 보고하는 방식입니다.

유의성과 함께 리프트

유의한 0.2% 리프트와 유의하지 않은 40% 리프트는 전혀 다른 결정을 요구합니다. 두 숫자를 모두 보여 줍니다.

기준에 대해 솔직하게

판정은 관례적인 0.05 기준을 쓰고 그것을 밝힙니다. p값을 배지 뒤에 숨기지 않습니다.

무엇을 검정할까

랜딩 페이지 A/B 테스트

두 페이지 버전의 가입률이나 구매율을 비교합니다.

이메일 제목

오픈율이나 클릭률 차이가 잡음 이상인지 확인합니다.

설문 문항 표현

같은 질문의 두 표현에서 「예」 비율을 비교합니다.

풀링한 두 비율 z 검정

z = (p̂_B − p̂_A) ÷ √( p̄(1 − p̄) × (1/n_A + 1/n_B) ) 여기서 p̄ = (x_A + x_B) ÷ (n_A + n_B)

p̄는 두 안을 합친 전환율로, 귀무가설이 「두 비율이 같다」이기 때문에 사용합니다. p값은 그 z에 대한 양측 정규 확률입니다.

승자를 선언하기 전에

  • 테스트를 시작하기 전에 표본 크기를 정하고, 그 수에 도달할 때까지 건드리지 마세요.
  • 매일 확인하고 초록으로 바뀐 순간 멈추는 것이 거짓 양성을 배포하게 되는 길입니다.
  • 평일과 주말 트래픽이 모두 반영되도록 주 단위로 돌리세요.
  • 전환 30건에서 나온 유의한 결과는 취약합니다. p값만이 아니라 절대 수치를 보세요.

유의성 vs 전환율

유의성 (이 페이지)

  • 두 안을 비교
  • 격차가 진짜인지 답함
  • 방문자와 전환이 모두 필요

관련 계산기

자주 묻는 질문

A/B 테스트의 통계적 유의성은 어떻게 계산하나요?

두 비율 z 검정을 씁니다. 두 안의 전환율을 풀링하고, 차이의 표준오차를 구하고, 관측된 차이를 그것으로 나눈 뒤, 그 z를 양측 p값으로 바꿉니다.

p가 0.05보다 작으면 그 차이를 관례적으로 통계적으로 유의하다고 합니다.

통계적으로 유의하다는 게 실제로 무슨 뜻인가요?

두 안의 성과가 정말 같다면 이만큼 큰 차이는 나오기 어렵다는 뜻입니다. 차이가 크다는 뜻도, 사업적으로 중요하다는 뜻도 아닙니다.

배포를 결정하기 전에 p값 옆의 리프트를 항상 함께 읽으세요.

안별로 방문자가 몇 명 필요한가요?

기준 비율과 감지할 만한 최소 리프트에 달려 있습니다. 낮은 기준 비율에서 작은 상대 리프트를 감지하려면 안마다 수만 명의 방문자가 필요할 수 있습니다.

표본 크기 계산기가 목표 오차 한계에 대한 출발 수치를 줍니다.

유의성에 도달하는 즉시 테스트를 멈춰도 되나요?

아니요. 반복해서 들여다보고 처음 초록이 뜬 순간 멈추면 거짓 양성률이 5%를 훨씬 넘습니다.

표본 크기를 미리 정하고, 그만큼 돌리고, 결과는 한 번만 읽으세요.

이 계산기는 어떤 신뢰 수준을 쓰나요?

판정은 표준 95% 수준, 즉 p < 0.05를 씁니다. 정확한 p값이 항상 표시되므로 상황에 따라 더 엄격한 기준을 적용할 수 있습니다.

테스트가 유의하지 않으면?

두 안이 다르다는 증거가 충분하지 않다는 뜻입니다. 같다는 증명은 아닙니다. 더 큰 표본까지 계속 돌리거나, 실제 차이가 있더라도 쫓을 가치가 없을 만큼 작다는 점을 받아들이세요.

안이 셋 이상일 때도 되나요?

바로는 안 됩니다. 여러 안을 한꺼번에 비교하면 거짓 양성 확률이 올라가므로 보정이나 총괄 검정이 필요합니다. 카이제곱 계산기가 다중 안 전환 표를 처리합니다.

입력한 숫자가 저장되나요?

아니요. 모든 계산이 브라우저에서 이루어집니다.

새 설문 응답을 모으나요? 써 보세요: Formms 로, 짧은 링크와 QR이 있는 폼을.

다음은 휴대폰에서 응답을 모아 보세요.

Formms가 프롬프트에서 설문을 만들고, 그 뒤 언제든 건수를 이 계산기들에 붙여 넣을 수 있어요.

무료 폼 만들기 내 폼
iOS에서 다운로드
스캔해서 iOS 앱 받기
Android에서 다운로드
스캔해서 Android 앱 받기
데모 폼 보기 →