Тем временем подвезли очередную серию страшилок про то, какой | WTF_HR
Тем временем подвезли очередную серию страшилок про то, какой ИИ сексист и расист в рабочем контексте. Известную генеративную модель попросили нарисовать представителей различных профессий - ну и понеслась.
В общем, CEO по мнению этой самой модели оказались в подавляющем большинстве белые мужчины. О сексуальной ориентации героев по картинкам говорить сложно, но мы почему-то уверены, что мужчины эти были самые что ни на есть цисгендерные.
Дальше люди, интересующиеся вопросом, могут уже и сами сочинить, но мы таки продолжим - чем белее была кожа персонажа и более он был похож на мужчину, тем что? Правильно, тем больше была его доля среди представителей высококвалифицированных профессий (инженер, архитектор, адвокат) и разных там начальников, которых рисовала нейросетка.
Женщин и разноцветных граждан было много на картинках с низкооплачиваемыми профессиями - уборщик, работник фаст-фуда и все такое прочее.
Отдельно нужно сказать про то, что среди представителей таких, с позволения сказать, профессий, как террорист и грабитель, нейросетка тоже рисовала в основном людей с темной кожей.
Но самое интересное, что нейросеткины рисунки значимо не совпадали с реальностью - среди представителей высокооплачиваемых профессий женщин и разнообразных небелых значительно больше, чем на её рисунках, а среди низкооплачиваемых - значительно больше белых.
А все почему? Потому что нейросетки, как белковые (то есть человеки), так и кремниевые ориентируется при создании художественных произведений не на статистику, а на собственную насмотренность.
А "насмотренность" нейросети типа Stable Diffusion формируется из изображений, которые в неё загружают. В общем, этот ваш ИИ - сексист и расист ровно настолько, насколько средний человеческий художник, картинки или фотографии которого с соответствующими метками дают покушать нейросети. Всё как обычно, в общем.
Основная опасность такого положения дел, по мнению авторов, состоит в том, что молодежь вот насмотрится на нейросеткины художества, да и пойдет выбирать себе профессии в соответствии с цветом кожи и разрезом глаз. Если белый мужчина – значит сразу в архитекторы, адвокаты и CEO, а ежели черная женщина – то немедленно в уборщицы или кассирши.
Но мы, честно говоря, не понимаем, чем эта опасность больше той, которую представляли испокон веку средства массовой информации, а также это ваше важнейшее из искусств под названием кино.
Несмотря на десятилетиями транслировавшийся через Голливуд образ традиционной американской семьи, в которой дяденька зарабатывает деньги и ездит на машине, а тетенька в красивом платье готовит ему дома ужин, тысячи американских юных тетенек ровно в те же годы отправились учиться в университеты и стали не только архитекторами и инженерами, но даже CEO и – страшно сказать – политиками.
Поэтому мы не только мало верим во всепоглощающее влияние расизма и сексизма ИИ на умы молодежи, но та же понимаем, что если скормить нейросети еще какое-то количество тысяч идеологически правильных картинок, то она и рисовать будет то что надо. Так что о будущем карьерном выборе разнообразных небелых небинарных немужчин мы почему-то совсем не переживаем.
