Google Experiments лучше или нет?

Сегодня я столкнулся с какой-то странной вещью в Google Analytics. Один из моих экспериментов закончился с вероятностью превзойти оригинал 94,7 % и превзойти оригинал на 52 % и все еще со статусом «Победитель не найден».

Кто-нибудь встречался с такой ситуацией? Почему это так?


person user3483951    schedule 01.04.2014    source источник


Ответы (1)


Это означает, что, хотя у вас есть версии, которые лучше, чем ваша контрольная, они не выигрывают настолько, чтобы достичь 95% доверительный интервал. Другими словами, у вас есть победитель, но он не является статистически значимым, или есть некоторая вероятность того, что результат этого теста является случайным.

Не видя количества показов и конверсий, трудно сказать что-то конкретное. Я предполагаю, что либо коэффициент конверсии для этого теста очень низкий, либо количество улучшений в победивших версиях очень мало, либо и то, и другое.

У вас есть несколько вариантов дальнейших действий.

  1. Повторите тест, используя только контроль и самый сильный вариант. Возможно, повторив тест только с двумя версиями, ваш тест достигнет значимости.
  2. Реализуйте самый сильный вариант и найдите что-то еще для тестирования. Это, вероятно, то, что я бы выбрал. В идеале вы хотите определить элементы страницы, которые окажут наибольшее влияние на коэффициент конверсии.

В любом случае, я бы закончил текущий тест. На данный момент нет ничего, что можно было бы получить, позволяя ему работать дольше.

person Lenwood    schedule 03.06.2014
comment
Спасибо. Да, проблема была с досягаемостью значимости - person user3483951; 04.06.2014
comment
Если я ответил на ваш вопрос, не могли бы вы отметить это как ответ? - person Lenwood; 04.06.2014
comment
Ты имеешь в виду галочку слева? Сделал это :-) - person user3483951; 05.06.2014