9 Октября 2015 в 17:05

Когда мультивариантные тесты лучше A/B-тестов?

7 8835
Редактор-переводчик,
SEOnews

Для оптимизации сайта и страниц A/B-тестирование – инструмент по умолчанию. Разберем, что такое мультивариантные тесты и когда они лучше A/B/n…

Что такое мультивариантный тест?

В A/B-тестах обычно сравнивают два варианта, которые значительно отличаются друг от друга. Это выглядит так:

abtesting-conversion.jpg

Мультивариантное тестирование измеряет эффект от взаимодействия независимых элементов, чтобы выявить наилучшую комбинацию. Как если бы вы проводили несколько A/B-тестов на одной странице одновременно.

При помощи A/B-тестов можно сравнить дизайнерские решения и получить значительные результаты (так как тестируемые варианты значительно отличаются друг от друга).

МВТ помогут выявить элементы влияния, которые помогут добиться цели. Например, что имеет значение: шаблон страницы, изображения или CTA.

multivariate-testing.jpg

Убойный заголовок останется незамеченным, если крутая фотография привлекает внимание к другому элементу на странице.


A/B-тесты подходят для крупных изменений. 

Поиграть цветами и шрифтами – это к мультивариантному тестированию.


Таким образом, сначала определяемся с лучшим вариантом при помощи A/B-теста. А затем проводим МВТ, чтобы оптимизировать заголовки, тексты на кнопках и так далее.

Типы МВТ

Виды мультивариантных тестов: полный (full factorial), частичный полный (fractional factorial) и тест Тагучи (Taguchi).

1. Полный тест. Весь трафик распределяется между вариациями. Например, из 16 проверяемых комбинаций каждая получит 1/16 трафика сайта. Так как варианты получают одинаковый трафик, тест предоставит информацию о том, какая комбинация приносят лучший результат.

2. Частичный полный тест. Посетители сайта увидят только часть тестируемых комбинаций. Процент конверсии для «невидимых» вариаций принимается за аналогичный определенным комбинациям, которые были включены в тест.

full-fractional-versus-fractional-factorial.png

В блоге Adobe частичный мультивариантный тест сравнивают с барометром. Ценность барометра не в точном измерении атмосферного давления, а в указании на изменение.

3. Тест Тагучи. Изначально использовался в промышленности. Выводы сделали для сокращения количества вариантов, которые тестировали в ходе QA и других экспериментов. Основан на эвристических оценках и не подходит для онлайн-тестов. 

Как правильно

Ошибки, связанные с проведением МВТ, неуникальны и справедливы для A/B-тестов.

Основные:

1) мало трафика;

2) не учитывать вероятность ложноположительных результатов;

3) не использовать МВТ для оптимизации сайта.

1. Трафик.

Главное условие: много трафика или высокая конверсия.

Например, типичный МВТ – 3 х 2 (проверка двух версий трех элементов дизайна) потребует столько же трафика, сколько A/B-тест с 9 вариантами (32).

mvt3-2.jpg

В полном тесте трафик делится между всеми вариациями, что увеличивает необходимое количество трафика для получения показательной статистики. И тест проводить придется дольше. Чтобы оценить трафик, необходимый для значимого результата, используйте калькулятор.

Чтобы снизить потребность в трафике при МВТ, проводите частичный тест.


Правило: если ваш трафик меньше 100 000 уников в месяц, проводите A/B-тест. 

Исключение – высокая конверсия (10%-30%).


2. Вероятность ложноположительных результатов.

В процессе мультивариативного тестирования возрастает вероятность ложноположительного результата.

Для каждого варианта вы проводите отдельные A/B-тесты. Если вы проверяете 20 изменений и есть 5% вероятность, что для каждого вы получите ложнопозитивные результаты, то одна вариация внезапно может оказаться значимой.

Способы срабатывать с погрешностями называют корректировками мультитестирования. Чтобы получить заметный результат, потребуется большое количество посетителей на сайте.

3. МВТ и оптимизация.

Оптимизация требует информации для обоснования решений. МВТ поможет собрать данные.

Чем меньше времени вы тратите на принятие решений, тем выше ROI. Чем быстрее вы двигаетесь, тем быстрее подниметесь на новый уровень. Используйте МВТ как инструмент сбора данных, который показывает, куда направить ресурсы.

Обязательно определите, чего вы ожидаете от МВТ: выявить лучшую комбинацию элементов или определить, какой элемент (заголовок или кнопка) работает лучше прочих?

Инструменты

AB Tasty

Maxymiser

Monetate

Optimizely

Visual Website Optimizer

Итоги

1. Тестируйте, чтобы собрать данные для решения об оптимизации сайта.

2. Если трафик на сайт меньше 100 000 уников в месяц, проводите A/B-тест. Исключение – высокая конверсия (10%-30%).

3. Используйте A/B-тесты, чтобы определить лучшую структуру. Используйте МВТ, чтобы довести ее до совершенства, убедиться, что элементы взаимодействуют лучшим образом.

7 комментариев
Подписаться 
Подписаться на дискуссию:
E-mail:
ОК
Вы подписаны на комментарии
Ошибка. Пожалуйста, попробуйте ещё раз.
Поделиться 
Поделиться дискуссией:
  • Даниэл Херени
    5
    комментариев
    0
    читателей
    Даниэл Херени
    больше года назад
    Лайки в комментах к статье вылились в совместную акцию с SEONews.ru
    Вот тут условия акции по МВТ - www.seonews.ru/events/spetsproekt-multivariativnoe-testirovanie-vashego-sayta-sobiraem-zayavki/  
    -
    0
    +
    Ответить
    Поделиться
  • Daniel Hereni
    3
    комментария
    0
    читателей
    Daniel Hereni
    больше года назад
    Комментарий был удален модератором
    -
    17
    +
    Ответить
    Поделиться
  • Daniel Hereni
    3
    комментария
    0
    читателей
    Daniel Hereni
    больше года назад
    У конвра уже есть реальные кейсы.
    Вот один из них - directcalls.ru/multivariativnoe-testirovanie-dlya-insales-ru/
    Для платформы Insales.ru (платформы для создания интернат магазинов) было протестировано 1 500 000 уникальных вариаций посадочной страницы (МОРДЫ).
    Конверсию подняли на 23%
    -
    28
    +
    Ответить
    Поделиться
    • Roman Tsapin
      2
      комментария
      0
      читателей
      Roman Tsapin
      Daniel Hereni
      больше года назад
      Подтверждаю! В результате тестирования нашли наиболее конверсионную комбинацию, которая сейчас используется как основная.
      -
      3
      +
      Ответить
      Поделиться
  • Daniel Hereni
    3
    комментария
    0
    читателей
    Daniel Hereni
    больше года назад
    Фишка сервиса в том, что он на много круче, чем выше перечисленные инструмены для МВТ!
    Т.к. позволяет тестировать одновременно ни 10-20 вариантов.
    А десятки вариаций по десяткам факторов. Т.е. одновременно можно тестировать от 100 000 до 100 000 000 вариаций. Для успешного тестирования достаточно накопить 1000 конверсий!!!
    Для большого сайта это совсем не много!

    -
    24
    +
    Ответить
    Поделиться
  • Daniel Hereni
    3
    комментария
    0
    читателей
    Daniel Hereni
    больше года назад
    Спасибо за интересную статью! Жаль не сразу увидел её.

    Существует такой сервис МультиВариативного Тестирования (МВТ), как konvr.ru
    Его разработчик Евгений Трофименко всем известны сеошник и парсер Яндекса и авто tools.ptomosite.ru (думаю, что любой сеошник хоть раз в жизни проверял Апдейты яндекса на тулс.промосайте).
    -
    22
    +
    Ответить
    Поделиться

Отправьте отзыв!
X | Закрыть