A/B-тестирование в Adapty Mail

A/B-тест в Adapty Mail сравнивает две и более полноценные email-кампании друг с другом. Каждый вариант — это отдельная независимая кампания. Когда пользователь соответствует сегменту теста в потоке, Adapty Mail направляет его в один из вариантов согласно настроенным весам и отслеживает доставку, вовлечённость и выручку по каждому варианту.

Что такое вариант

Каждый вариант — это полноценная кампания. Варианты могут отличаться текстом, главными изображениями, тоном, длиной цепочки или задержками между письмами.

Они не могут отличаться тем, кто получает письма и когда. На весь тест действует один сегмент. Каждая кампания в нём имеет одно назначение — жизненный момент, который она охватывает, названный так же, как флоу называет свой триггер. Именно это определяет, в каком флоу может быть запущен тест.

Каждую кампанию вы пишете отдельно, а затем добавляете их как варианты.

Создание A/B-теста

  1. Сначала создайте кампании в разделе Campaigns. Каждый вариант требует отдельной кампании, и у всех должна быть одинаковая цель.
  2. В Adapty Mail перейдите в A/B Tests и нажмите Create.
  3. Добавьте каждую кампанию как вариант и укажите её вес. Сумма весов должна составлять 100%.
  4. Назначьте сегмент, чтобы определить, на каких пользователей распространяется тест.
  5. Сохраните.

Тест сохраняется как черновик и пока ничего не отправляет. Чтобы запустить его, необходимо привязать тест к флоу.

Форма создания A/B-теста с вариантами, весами и выбором сегмента

Запуск из флоу

Запускать и завершать A/B-тест нужно из флоу, а не со страницы A/B Tests.

  1. В Adapty Mail перейдите в Flows и откройте триггер, с которого должен стартовать тест.
  2. Нажмите Create в новой строке. В диалоге установите Content type в значение A/B Test, выберите сохранённый тест и нажмите Save.
  3. В строке нажмите Launch A/B test.

Статус теста изменится с draft на live, и новые пользователи, соответствующие сегменту, начнут распределяться по вариантам. Остальные возможности описаны в разделе Управление сегментами в флоу.

Форма создания A/B-теста с вариантами, весами и выбором сегмента

Как работает маршрутизация

Когда пользователь попадает в триггер потока и соответствует сегменту A/B-теста, Adapty Mail выбирает вариант с помощью взвешенного случайного выбора — вес каждого варианта определяет его долю в выборке. Маршрутизация не детерминирована для конкретного пользователя.

Читайте результаты

На странице A/B-тестов для каждого варианта отображаются сырые счётчики и производные показатели:

  • Delivery: Sends, Deliveries, Bounces.
  • Engagement: Opens, Clicks, Unsubs.
  • Revenue: Purchases, Revenue.

В разделе Аналитика кампаний описано, что считает каждая метрика и как атрибутируется выручка.

Результаты A/B-теста с метриками по каждому варианту рядом

Завершение теста

  1. Откройте триггер, который запускает тест.
  2. Нажмите Finish A/B test.
  3. В диалоге Finish A/B test выберите выигравшую кампанию в выпадающем списке Replace with campaign — или оставьте поле пустым, чтобы полностью удалить сегмент из флоу.
  4. Подтвердите действие.
Note

Пользователи, которые уже находятся в середине последовательности в любом из вариантов — победившем или проигравшем — продолжат получать запланированные письма. Они не переключаются на победителя.

Результаты A/B-теста с метриками по каждому варианту рядом

Жизненный цикл

A/B-тест проходит через четыре состояния:

  • Draft: Создан, но ещё не добавлен во флоу.
  • Live: Подключён и запущен; распределяет входящих пользователей.
  • Finished: Остановлен через Finish A/B test.
  • Archived: Скрыт из списка (мягкое удаление).