AB Tasty and VWO have united, because half the loop was never enough.

Learn about the merger

Free Tool

A/B Test Statistical Significance
Calculator

Deseja realizar um teste A/B online? Calcule sua significância com a nossa calculadora orientada por bayesianos criada para experimentação, CRO e otimização de UX.

Controle
Número de Visitantes
Número de Conversões
Variante
Número de Visitantes
Número de Conversões

Testing Objective: Melhor

MDE: 20%

ROPE: 1%

Objetivo do Teste
%
A value for this field is required.
%
A value for this field is required.
Variações
Conversões/
Visitantes
Taxa de Conversão
Esperada
Melhoria
Probabilidades de decisão
As probabilidades de decisão mostram a chance de sua variação ser pior, equivalente ou melhor.
C Controle Linha de base -
V Variante
Pior
Equivalente
Melhor

Uma melhora de ↑ 4.1% pode ser esperada com uma probabilidade de 95% de ser melhor.

Variações
Conversões/
Visitantes
Taxa de Conversão
Esperada
Melhoria
P-Value
Este valor representa a probabilidade de que a melhoria observada seja simplesmente devido ao acaso. Um valor menor indica maior confiança de que a diferença é estatisticamente significativa.
C Controle Linha de base -
V Variante -

P-Value

(Range from 0-1)

0.334

Significance

No

Peek inside Wingify's testing brain

Get a Demo

Automatize a significância e crie testes confiáveis

Explore parâmetros estatísticos avançados como ROPE, MDR e FPR

Aprofunde-se em Sequential Testing, Correção de Bonferroni e Fixed Horizon Tests

O que é significância estatística?

Significância estatística é a quantificação da probabilidade de um resultado obtido ser devido ao acaso ou a algum fator de interesse. Você pode utilizar uma calculadora de significância para avaliar e interpretar seus resultados com confiança. A abordagem orientada por dados permite que você tome decisões informadas para otimização e, por fim, alcance os resultados desejados.

Different approaches to calculate statistical
significance

As duas abordagens comumente usadas são a Frequentista e a Bayesiana, que alimentam diferentes calculadoras de estatísticas de teste. Veja a seguir uma breve informação sobre cada uma delas.

Frequentista

A estatística frequentista envolve o exame da frequência dos eventos. Ela analisa a frequência com que algo acontece em uma determinada situação.

Bayesiana

Bayesian statistics is all about changing your opinion. It starts with an initial belief called the prior, which comes from domain expertise. Then, you gather evidence to support or challenge that belief. After examining the evidence, your opinion should be updated based on the new information you’ve acquired.

Como calculamos a significância estatística?

Veja como você pode calcular a significância estatística usando as abordagens frequentista e bayesiana.

Abordagem Frequentista

The Frequentist approach to statistical significance is based on the p-value. To determine the p-value using the Frequentist approach, you will need the following key pieces of information:

  • A diferença média entre as duas hipóteses
  • O desvio padrão da diferença entre as duas hipóteses
  • O tamanho da amostra de cada hipótese

Once you have gathered this necessary data, you can easily compute the p-value using a significance testing tool or significance level calculator. If the p-value you get is 0.05, the probability of the variation is 5%.

Abordagem Bayesiana

Nessa abordagem, o cálculo da significância estatística é feito por meio da probabilidade posterior. A probabilidade posterior considera os dados disponíveis e representa a probabilidade de a hipótese A ou B ser verdadeira. A abordagem leva em conta tanto as crenças anteriores quanto as evidências observadas nos dados.

To calculate the posterior probability, Bayes' theorem is employed. Bayes' theorem is a mathematical formula that combines the prior probability of a hypothesis with the likelihood of the data to derive the updated or posterior probability.

A posterior probability of greater than 95% is considered to be strong evidence in favor of the hypothesis.

Know more about our Bayesian approach in the article series we created on Bayesian A/B testing at Wingify.

Por que usamos a estatística bayesiana?

Relatórios de Teste Intuitivos

At Wingify, we recognize that non-statistical users often misinterpret the frequentist p-value as a Bayesian posterior probability, which leads to incorrect conclusions about the superiority of one variation over another. To address this issue, we developed the industry's first Bayesian statistical engine.

Nosso mecanismo estatístico bayesiano fornece aos usuários resultados facilmente compreensíveis, eliminando o risco de cometer erros ao realizar testes A/B sobre faturamento ou outros indicadores-chave de desempenho (KPIs) cruciais. Ao adotar uma abordagem mais intuitiva, garantimos que nossos usuários obtenham insights precisos de nossa calculadora de significância estatística de teste A/B.

Com a nossa solução, você pode ter confiança na significância estatística dos seus resultados, tomando decisões informadas para otimizar seus testes, a geração de faturamento e a experiência geral do usuário. Diga adeus às interpretações errôneas e aproveite o poder da calculadora de teste A/B bayesiana para obter resultados de teste A/B confiáveis e acionáveis.

Sample test report comparing Variation A and Variation B conversion rates
Probability chart showing worse, equivalent, and better outcomes against the baseline

Obtenha comparações claras com a linha de base

Identifique se as variações têm desempenho superior, igual ou inferior ao da linha de base com nosso mecanismo de estatísticas avançadas. Os resultados são declarados em um limite de probabilidade de 95%. Gráficos detalhados oferecem insights claros para uma tomada de decisão eficaz.

Power curves for Better and Better or Equivalent testing objectives

Resultados acionáveis, mais rápido

Wingify offers two testing objectives, "Better" and "Better or Equivalent," both built on ROPE (Region of Practical Equivalence), which offers asymmetric power in tests.

O objetivo “Melhor” o ajuda a identificar rapidamente variações de baixo desempenho. Isso acelera suas avaliações e permite que você se concentre mais rapidamente na implementação de mudanças bem-sucedidas.

O objetivo “Melhor ou Equivalente” fornece resultados de experimentos mais rápidos quando você está procurando uma melhoria em relação à linha de base ou um desempenho que seja essencialmente o mesmo.

Show your shoppers what they came for.

Get a Demo Start Trial
Esta é a taxa de conversão mediana que você pode esperar da variação.
Esta é a melhoria mediana que você pode esperar em relação à linha de base se implementar a variação.
Os dados reais observados na campanha que são considerados como verdade de base para a análise estatística.
In the area where there is an overlap among variations, we are uncertain about which variation is performing better. If your best performing variation has a lot of uncertainty overlap, we strongly recommend that you should run the test for a longer duration.
By how much your conversion rate might still be improved. If your Absolute Potential loss is 2% and the expected conversion rate is 10%, it means you still have a chance to improve this conversion rate and increase it to 12%.