​Fairness Flow: новый инструмент для оценки предвзятости ИИ от | AI - все об искусственном интеллекте

​Fairness Flow: новый инструмент для оценки предвзятости ИИ от FAIR | neurohive

Fairness Flow – это набор инструментов диагностики, который помогает сравнить, насколько справедливо модели и разметчики лейблов работают для отдельных групп пользователей.

Зачем это нужно

Специалисты Facebook AI убеждены, что случаи предвзятости ИИ могут привести к нежелательным последствиям, и даже навредить пользователям сервисов. Пример предвзятости модели: один и тот же контент от различных пользователей может быть либо отмечен как спам, либо не отмечен. Пример предвзятости лейблов: разметчики по-разному оценивают один и тот же контент за авторством различных пользователей. Fairness Flow обнаруживает случаи предвзятости моделей и лейблов по отношению к группам пользователей (по гендеру, возрасту и т.д.).