Последние новости о творящих нейросетках и ИИ в целом заставля | Культурный

Последние новости о творящих нейросетках и ИИ в целом заставляют в очередной раз задуматься о том, что цифровым технологиям нужна новая политическая философия, со своим понятийным аппаратом. Мыслительные рамки для описания приватности, применимые к ситуации паноптической слежки или частного подглядывания, нельзя просто перенести в среду децентрализованного взаимного слежения. Любой клик кормит темные паттерны, влияющие на наши потребительские привычки или желание голосовать за одно против другого. Любые оставленные в Сети "данные" (data) превращаются во "взятые" (capta), от текста до живописи.

Это раньше в дополнение к каким-то вещам присовокуплялся компьютер. В начале века сложная электроника уже переместилась в центр технокосма; теперь же этот центр занимают плеяды связанных и удаленных от человека машин, к которым он получает временный доступ, начиная с банковских приложений и заканчивая мессенджерами, хранящими данные на своих серверах. В условиях такой неотъемлемости в нашей жизни сложных систем любой "программный инженер" становится, хочет он того или нет, инженером социальным.

Актуальная проблема видится в том, что относительно справедливая система отношений должна реализовать как запрос на справедливость, так и запрос на возможность добиться внутри этой системы какого-то успеха или хотя бы поддержания адекватного уровня жизни. Фундамент конфликта между нами и Алгоритмом заключается в том, что для экономики всякая технология является инструментом сжатия времени, что делает человеческую экспертизу и активность слишком дорогими и медленными. Электронная почта быстрее голубиной, колесо быстрее ноги, двигатель быстрее сердца, Stable Diffusion быстрее художника.

Это напрямую влияет на рынок труда. Корпорации уже не рассматривают резюме соискателей глазами рекрутеров: примерно треть из ста лучших работодателей по версии Fortune использует один и тот же алгоритм отбора Hirevue. Человек в этой цепочке нужен скорее для обслуживания машины, с легкостью заменяющей тысячу эйчаров. На решение человека может повлиять какой-то произвольный фактор — интересный вкус в одежде, такой же свитер, необычная манера говорить. Алгоритмы тоже не лишены влияния таких факторов, ведь мы уже знаем, что при одинаковом наборе требуемых навыков одно и то же резюме может пройти, а может и не пройти порог, выставленный машиной. Если же все будут пользоваться одной вычислительной рамкой, то конкретный "человек в фиолетовом свитере" получит отказ не в одной компании, а во всех сразу. Разница между случайным отказом и возведением произвольных факторов в константу есть разница между мелкой прихотью и цифровым Левиафаном. Звучит парадоксально, но одно из возможных решений здесь — применение решений, снижающих системность или универсальность суждений алгоритмов. Суждения с учетом произвольных факторов не должны всегда возвращать один и тот же результат при оценке людей.

Произвольность решений всегда растет с увеличением масштаба системы, это распространенная проблема машинного обучения. Чрезмерно обученная модель страдает от "оверфиттинга" — она запоминает не столько обобщаемые шаблоны, сколько набор данных, как если бы мы запоминали по отдельности каждое дерево, но не смогли бы сказать, на какой лес мы смотрим, и лес ли это вообще. В противоположном случае модель не срабатывает тогда, когда должна это делать. Желание сделать глаз машины более острым приводит к включению этих самых произвольных факторов. Из популярного: мы хотим, чтобы нейронка различала на фотографиях волков. Волков статистически чаще фотографируют на фоне яркого белого снега, и одним из произвольных факторов может стать именно наличие снега на фотографиях. При достаточной неаккуратности машина может принимать решение, что если на фото нет снега, то нет и волка. Из относительно недавних случаев вспоминается диагностика пневмонии на снимках легких. В этой истории нейронка "научилась" определять наличие пневмонии по штампу на самих снимках — его ставили, если снимок делался портативным сканером. Дело было в том, что больных пневмонией чаще перевозили скорой, где и делали снимки.