2021-03-07 13:35:09
Многие пропустили или просто не поняли эту новую интереснейшую статью от OpenAI, в которой учёные рассказали о своих недавних обнаружениях в нейросети CLIP.
Разбираясь в слоях этой мощной системы классификации изображений, они нашли нейрон, который ранее был замечен только в человеческом мозге. Нейрон посвящён восприятию абстракции — это явление, когда человек распознаёт что-то знакомое, например друга или знаменитость. То есть теперь для распознавания объекта можно использовать не целую нейросеть из всяких слоёв, а только этот нейрон, который обнаружили у CLIP. Учтите, что это объяснение довольно грубое и упрощённое для того, что бы вам было понятно.
Но вместе с этим учёные заметили серьёзную проблему: теперь CLIP слишком абстрактно воспринимает некоторую информацию. Например, у алгоритма начались формироваться сексистские и расистские ассоциации, которые могут оказаться вредными, если CLIP будут использовать в коммерческих предложениях. А всё из-за наборов данных, которые используются для тренировок — они настолько огромные, что там попадаются такие ассоциации.
Ну и в статье продемонстрированы сгенерированные картинки о том, как обнаруженный нейрон видит разные объекты, часть из них можете посмотреть ниже.
#Neural_network | Not Boring Tech
1.5K viewsedited 10:35