ВИДЕО: Жизнь без A/B: как ещё сравнивать версии ML-систем? | LeanDS

ВИДЕО: Жизнь без A/B: как ещё сравнивать версии ML-систем?

спикер: Евгений Никитин

Как понять, что новая версия ML-системы будет работать лучше, чем предыдущая? Обычно достаточно провести офлайн-валидацию (померить метрики) и онлайн-тест (например, в формате A/B). А что делать, если проведение онлайн-теста невозможно по техническим, юридическим или экономическим причинам? В этом докладе на примере медицинских ML-систем мы попробуем разобраться как минимизировать риск деплоя плохих моделек, когда с онлайн-тестами всё сложно.
— — —
ССЫЛКА НА ВИДЕО: