2023-02-17 10:31:07
Второй этап развития А/Б тестов в компаниях по опыту Рона Кохави.Он называется Walk, что с английского означает – ходить.
Инструменты настроены, одобрение бизнеса получено. Фокус смещается к определению метрик и экспериментальной платформе.
Начинают определяться стандартизированные продуктовые метрики: кроме примитивных кликов и просмотров появляются, например, среднее количество кликов на пользователя или среднее время сессии.
Также выделяются четыре типа метрик:
метрики успеха – над улучшением которых работает продукт;
оградительные метрики – ограничения, которые нежелательно нарушать;
метрики качества данных — гарантируют, что эксперименты будут проведены корректно;
метрики отладки – помогают глубже детализировать метрики успеха и оградительные метрики.
Поскольку тесты проводятся теперь каждую неделю (~50 в год), появляется потребность в платформе для экспериментов. Для этого компании либо начинают использовать готовые инструменты (Optimizely, Mixpanel, Oracle Maxymiser), либо работают над созданием собственного решения.
Независимо от выбранного пути, у платформы на этом этапе должны быть реализованы расчет размера выборки и А/А тестирование. Взаимное влияние между экспериментами отслеживается вручную.
Ответственность в планировании экспериментов переходит на продуктового менеджера. Проведение, мониторинг и анализ экспериментов остается на Data Scientist’ах.
Цель этапа: масштабирование количества экспериментов за счет платформы.
Во вторник я расскажу о третьем этапе развития А/Б тестов.
А у меня на этой неделе на этом все. Хороших всем выходных! До встречи в понедельник.)
#продуктоваяаналитика #абтесты
693 viewsПавел Бухтик, 07:31