O que é um Teste A/B?
Um teste A/B (ou split test) compara duas versões de uma página, anúncio ou e-mail para determinar qual performa melhor. O grupo Controle (A) recebe a versão original e o grupo Variação (B) recebe a versão modificada.
Significância Estatística
Um resultado é estatisticamente significativo quando a diferença observada entre os grupos é improvável de ter ocorrido por acaso. O Nível de Confiança (90%, 95%, 99%) indica a certeza exigida: com 95% de confiança, há apenas 5% de chance de que o resultado seja ruído aleatório.
Fórmulas utilizadas (Z-test bicaudal)
CR = Conversões ÷ Visitantes
Pp = (Conv_A + Conv_B) ÷ (Visit_A + Visit_B)
SEp = √(Pp × (1 − Pp) × (1/n₁ + 1/n₂))
Z = (CR_B − CR_A) ÷ SEp
P-value = 2 × (1 − Φ(|Z|))
Como interpretar o resultado
Se o P-value for menor que o nível de significância (α = 1 − confiança), o teste é considerado estatisticamente significativo e a diferença entre os grupos é real. Caso contrário, não há evidência suficiente para concluir que a variação é melhor — colete mais dados.