Получи случайную криптовалюту за регистрацию!

Product Science

Логотип телеграм канала @product_science — Product Science P
Логотип телеграм канала @product_science — Product Science
Адрес канала: @product_science
Категории: Блоги
Язык: Русский
Количество подписчиков: 5.67K
Описание канала:

I diagnose with data and treat with design.
More hardcore materials here – @co_intelligence
@martsen | martsen.me | p13n.ru

Рейтинги и Отзывы

3.00

3 отзыва

Оценить канал product_science и оставить отзыв — могут только зарегестрированные пользователи. Все отзывы проходят модерацию.

5 звезд

1

4 звезд

0

3 звезд

1

2 звезд

0

1 звезд

1


Последние сообщения 2

2022-06-02 20:09:34
1.0K viewsAnton Martsen, 17:09
Открыть/Комментировать
2022-05-29 10:25:24 https://measuringu.com/guide-to-study-based-ux-metrics/
601 viewsAnton Martsen, 07:25
Открыть/Комментировать
2022-05-19 10:07:47 https://www.smashingmagazine.com/2022/04/boosting-ux-with-design-kpis/
814 viewsAnton Martsen, 07:07
Открыть/Комментировать
2022-05-17 18:04:49
В последний год ходили хоть раз в библиотеку по работе?
Anonymous Poll
13%
Да
87%
Нет
236 voters811 viewsAnton Martsen, 15:04
Открыть/Комментировать
2022-05-17 18:04:06
Последний полгода-год все чаще заглядываю в библиотеку, чтобы достать какие-нибудь академические исследования.

Например, я работаю над продуктами про здоровье, фитнес и ЗОЖ. В библиотеках есть целые секции про спортивную медицину, в которых можно подчеркнуть много фактов, наблюдений и воросов. На их основе быстрее строить полезные гипотезы и инвестировать в них время команды.
826 viewsAnton Martsen, edited  15:04
Открыть/Комментировать
2022-05-11 12:02:41 A Guide to Task-Based UX Metrics

Бомбейший справочник метрик для оценки конкретных сценариев интерфейса от Jeff Sauro и Jim Lewis. В том числе много сверхдетальных и небанальных.

Взято из дайджеста Юрия Ветрова.
1.0K viewsAnton Martsen, 09:02
Открыть/Комментировать
2022-04-12 13:56:41 In this blog post, we introduced the STEDII (Sensitivity, Trustworthiness, Efficiency, Debuggability, Interpretability, and Inclusivity) framework to define and evaluate the good properties of a metric and of an A/B test analysis in general. Each of these properties are essential; and together, they reinforce each other to ensure a good set of metrics for a proper analysis of an A/B test, which will yield valuable insights and enable good product decisions. Many metric authors at Microsoft have successfully used this framework, and we hope that all our readers find it equally valuable!

https://www.microsoft.com/en-us/research/group/experimentation-platform-exp/articles/stedii-properties-of-a-good-metric/
967 viewsAnton Martsen, 10:56
Открыть/Комментировать
2022-03-29 15:42:58 Пожалуй, буду выкладывать сюда заметки, которые пишу по итогам тредов в чате аналитиков.

Возник вопрос о поиске хороших гайдов по дизайну метрик.

Сразу порекомендовали
1. Towards universal event analytics - building an event grammar от Snowplow (хотя это руководство больше про ивенты, чем про метрики)
2. Guide to product metrics от Mixpanel
3. Designing and evaluating metrics
4. Отслеживание роста продукта на длинном периоде и подходы к оценке устойчивости собраны в статье Data informed product building (главы 1-5) из блога Sequoia

Одна из целей дизайна метрик - определение NSM (North Star Metric) - главной стратегической метрики. Поэтому, был упомянут чеклист для NSM от Amplitude c оговоркой, что он довольно абстрактный.

1. It expresses value. We can see why it matters to customers.
2. It represents vision and strategy. Our company’s product and business
strategy are reflected in it.
3. It’s a leading indicator of success. It predicts future results, rather than reflecting past results.
4. It’s actionable. We can take action to influence it.
5. It’s understandable. It’s framed in plain language that non-technical
partners can understand.
6. It’s measurable. We can instrument our products to track it.
7. It’s not a vanity metric. When it changes we can be confident that the change is meaningful and valuable, rather than being something that doesn’t actually predict long-term success—even if it makes the team feel good about itself.

Для погружения в проблематику подходов к определению NSM, можно посмотреть лекцию Андрея Пушвинцева из Miro с прошлого Матемаркетинга (необходима регистрация), где он рассказывает о процессе внедрения NSM-framework для фокусирования компании на ценности для пользователей, а не на деньгах.

Важное замечание к ссылкам выше: любой гайд, в котором нет руководства про проверке метрик на надежность и чувствительность, не является полноценным и поэтому подход к имплементации и внедрению ”в лоб” довольно опасен и может скрывать множество подводных камней. О том, как искать прокси-метрики в продуктах хорошо рассказано здесь. При этом, важно учитывать, что чувствительно метрик и чувствительность KPI не совсем одно и тоже - с KPI сложнее и чувствительность низкая. Для погружения в тему можно изучить руководство по Measuring Metrics.

@internetanalytics
1.7K viewsAnton Martsen, 12:42
Открыть/Комментировать
2022-02-27 00:52:32 Открытое письмо представителей российской ИТ-индустрии против военной операции на территории Украины

«Мы, работники российской ИТ-индустрии, категорически против военных действий на территории Украины, начатых вооруженными силами Российской Федерации.

Мы считаем любое проявление силы, которое ведет к развязыванию войны, неоправданным и призываем отменить решения, которые могут неминуемо повлечь за собой человеческие жертвы с каждой стороны. Наши страны всегда были близки друг другу. И сегодня мы волнуемся за наших украинских коллег, друзей, родных. Мы обеспокоены и морально угнетены тем, что сейчас происходит в городах Украины.

В своей работе мы делаем лучшие продукты, лучший сервис, мы искренне делаем все, чтобы российскими ИТ-решениям можно было гордиться. Мы хотим, чтобы наша страна ассоциировалась не с войной, а с миром и прогрессом.

Прогресс и развитие технологий во благо человеку невозможны в условиях войны и угроз жизням и здоровью людей, они возможны только в условиях сотрудничества, разнообразия точек зрения, обмена информацией и открытого диалога.

Просим руководство нашей страны обратить внимание на наш призыв, найти способы урегулировать эту ситуацию мирным путем и не допустить человеческих жертв.»

Если вы работаете в российской IT-индустрии, то можете оставить свою подпись под открытым письмом по ссылке

https://docs.google.com/forms/d/e/1FAIpQLScEsxsoXl_7R4aD5F8-B7fCCBVwU_BXBaOVJsKszbFyRHRkkw/viewform
555 viewsAnton Martsen, 21:52
Открыть/Комментировать
2022-02-16 12:37:45 Что не так с попыткой заработать денег с помощью рекомендательной системы

Допустим, у вас есть интернет-магазин, и на странице товара вы показываете несколько похожих или сопутствующих товаров. Например, можете показывать другие товары из той же категории или популярные. И тут вам приходит в голову персонализировать эти предложения.

Внедрив персональные рекомендации с помощью ML, вы смотрите статистику по кликам и покупкам и замечаете, что через клик на рекомендательный блок товары начали покупать вдвое чаще. Ура, вы поднимаете конверсию в покупку вдвое, теперь заработаете вдвое больше денег. Или нет? Вот, увы, нет.

Во-первых, конверсия с блока рекомендаций и конверсия с захода на сайт в покупку - не одно и то же. Например, если 80% трафика у вас идёт через каталог и игнорирует рекомендации, а 20% пользуется рекомендациями, то увеличение конверсии блока может быть связано, например, с тем, что вы обслуживаете им все те же 20% клиентов, просто более результативно. На практике конечно чем лучше рекомендации, тем больше клиентов вовлекаются в их использование в принципе, но это приводит нас к следующему тезису.

Вторая проблема - тот факт, что люди покупают товар с помощью рекомендаций, ещё не значит, что не купили бы без них. Возможно, они итак бы нашли товар через поиск и навигацию по каталогу, но рекомендации каннибализировали трафик с других элементов интерфейса, т.к. пользователю стало просто удобнее кликать по ним. В чем боль? В том, что рекомендации вроде бы и полезны, но не обязательно создают дополнительные продажи.

Как же тогда понять пользу от рекомендаций? Сделайте А/В тест, в одной группе показывайте новые рекомендации, в другой группе старые неперсонализированные, оцените статзначимость различий в выручке с пользователя или конверсиях с захода на сайт в покупку.

Скорее всего, вас ждёт два грустных открытия:
1) чтобы данных за несколько недель хватало для статзначимости, ваш магазин должен быть Озоном, Яндекс.Маркетом или Wildberries, а гонять тесты дольше при каждой доработке рекомендаций - не рабочая история,
2) конверсию в покупку вы в лучшем случае увеличиваете на несколько процентов, а деньги вовсе не значимы (точнее, не статзначимы).

Итог: миллионные и миллиардные эффекты от рекомендательных систем можно насчитать только в формате «на сколько напродавали с использованием рекомендаций», но не в формате «сколько заработанных денег мы бы недополучили без рекомендаций».

В следующих частях - что люди придумывали, чтобы заставить рекомендательные системы приносить деньги, и что делать, чтобы правда заработать на рекомендациях
609 viewsAnton Martsen, 09:37
Открыть/Комментировать