Типы A/B-тестов

Adapty предлагает два типа A/B-тестов, каждый из которых подходит для разных сценариев тестирования:

  • Обычный A/B-тест: A/B-тест, созданный для одного плейсмента флоу/пейвола/онбординга.
  • Кроссплейсментный A/B-тест: A/B-тест, созданный для нескольких плейсментов флоу или пейвола в вашем приложении. После того как A/B-тест назначает вариант , он показывает этот вариант одинаково во всех выбранных разделах приложения.

Каждый флоу/пейвол/онбординг получает вес, определяющий распределение трафика во время теста.

Например, при весах 70% и 30% первый пейвол будет показан примерно 700 из 1000 пользователей, второй — около 300. В кросс-плейсментных тестах веса задаются для каждого варианта, а не для флоу или пейвола.

Такая настройка позволяет сравнивать разные флоу и пейволы и принимать решения на основе данных для стратегии монетизации вашего приложения.

Когда использовать каждый тип

Каждый тип A/B-теста полезен в следующих случаях:

  • Обычные A/B-тесты:
    • В вашем приложении только один плейсмент.
    • Вы хотите запустить A/B-тест на одном плейсменте и отслеживать изменения экономики только для него, даже если в приложении несколько плейсментов.
    • Вы хотите запустить A/B-тест на старых пользователях (тех, кто уже видел хотя бы один пейвол Adapty).
  • Кросс-плейсментный A/B-тест:
    • Вы хотите синхронизировать варианты между несколькими плейсментами. Например, изменить цены одновременно в онбординге и в настройках приложения.
    • Вы хотите оценить общую экономику приложения. Запуск теста на всех плейсментах упрощает анализ статистики A/B-теста по сравнению с тестированием отдельных плейсментов.
    • Вы хотите запустить A/B-тест только на новых пользователях, то есть тех, кто ещё ни разу не видел ни одного пейвола Adapty.
    • Вы хотите использовать несколько флоу или пейволов в рамках одного варианта:
Пример нескольких пейволов в рамках одного варианта кросс-плейсментного A/B-теста

Ключевые различия

FeatureRegular A/B TestCrossplacement A/B Test
What is being testedОдин флоу/пейвол/онбордингНабор флоу или пейволов, принадлежащих одному варианту
Variant consistencyВариант определяется отдельно для каждого плейсментаОдин и тот же вариант используется во всех плейсментах теста
Audience targetingЗадаётся для каждого плейсмента флоу/пейвола/онбордингаОбщая для всех плейсментов теста
AnalyticsАнализируется один плейсмент флоу/пейвола/онбордингаАнализируется всё приложение в рамках плейсментов, входящих в тест
Variant weight distributionНа каждый флоу/пейвол/онбордингНа набор флоу или пейволов
UsersДля всех пользователейТолько для новых пользователей (тех, кто ещё не видел пейвол Adapty)
Adapty SDK versionДля флоу: v4.0.0+. Для пейволов: любая. Для онбордингов: v3.8.0+ (iOS, Android, React Native, Flutter), v3.14.0+ (Unity), v3.15.0+ (KMP, Capacitor)4.0.0+ для флоу, 3.5.0+ для пейволов
Best forТестирование независимых изменений в одном плейсменте флоу/пейвола/онбординга без учёта общей экономики приложенияОценка стратегий монетизации в масштабах всего приложения

Логика выбора A/B-теста

Кроссплейсментные A/B-тесты имеют приоритет над обычными A/B-тестами. Однако кроссплейсментные тесты показываются только новым пользователям — тем, кто ещё не видел ни одного флоу или пейвола Adapty (приложение ни разу не вызывало для них getFlow или getPaywall). Это обеспечивает согласованность результатов по всем плейсментам.

На диаграмме ниже показана логика, которую Adapty использует при выборе A/B-теста для плейсмента:

Diagram showing the A/B test selection logic for a paywall placement

На странице A/B Tests тесты флоу, пейволов и онбординга отображаются на отдельных вкладках. Кросс-плейсментные тесты имеют две собственные вкладки: Crossplacement (Flows) и Crossplacement (Paywalls).

Страница списка A/B-тестов с вкладками для тестов Flow, Paywall, Crossplacement (Flows) и Crossplacement (Paywalls)

Ограничения кросс-плейсментных A/B-тестов

Warning

Кросс-плейсментные A/B-тесты не могут включать плейсменты с онбордингами. Один тест не может смешивать плейсменты с флоу и пейволами.

Кросс-плейсментные A/B-тесты гарантируют, что каждый пользователь видит один и тот же вариант во всех плейсментах теста. Это создаёт следующие ограничения:

  • Участвовать могут только новые пользователи. Новым считается пользователь, который ещё не видел ни одного флоу или пейвола Adapty и чьё приложение ни разу не вызывало getFlow или getPaywall. Для остальных пользователей Adapty не может гарантировать согласованную цепочку флоу или пейволов.

  • Первый плейсмент, с которым встречается пользователь, определяет, какой флоу или пейвол Adapty покажет. Изменить назначение пользователя или записать одного и того же пользователя более чем в один межплейсментный A/B-тест невозможно.

  • Устройство узнаёт о межплейсментных назначениях, сделанных в другом месте — например, на другом устройстве пользователя, — только когда приложение становится активным, и не чаще одного раза в 60 секунд. Принудительно запустить эту синхронизацию нельзя, поэтому назначение может достигнуть долгоживущей сессии не ранее чем через минуту или до следующего перехода приложения на передний план.

Warning

Как только пользователь получает кроссплейсментный флоу или пейвол, он видит его в течение 90 дней, даже если вы остановите тест. Чтобы изменить эту продолжительность, в настройках General измените значение Cross-placement variation stickiness.

Приоритет Crossplacement A/B-тестов

  • Crossplacement A/B-тесты всегда имеют приоритет над обычными A/B-тестами и A/B-тестами онбордингов. Если новый пользователь подходит одновременно для Crossplacement-теста и обычного теста на одном плейсменте, будет показан Crossplacement-тест.

  • Когда несколько Crossplacement A/B-тестов с одной и той же аудиторией используют один плейсмент, Adapty автоматически расставляет приоритеты по порядку добавления тестов. Первый добавленный тест получает наивысший приоритет. Изменить его вручную нельзя.

  • Тесты, нацеленные на меньшие сегменты аудитории, автоматически получают приоритет над тестами, которые нацелены на сегмент «Все пользователи».

Note

В Analytics кросс-плейсментный A/B-тест отображается как несколько дочерних тестов — по одному на каждый плейсмент. Дочерние тесты именуются по шаблону <test-name> child-0, <test-name> child-1 и так далее. Нумерация соответствует порядку плейсментов на странице с деталями A/B-теста. Чтобы просмотреть результаты по конкретному плейсменту, используйте фильтр Placement.

Следующие шаги