пару дней назад исследователи искусственного интеллекта и прим | namtataram

пару дней назад исследователи искусственного интеллекта и примкнувший к ним илон маск сами себе написали открытое письмо, в котором призывают поставить исследования на паузу, потому что хз что в итоге получится, давайте выдохнем.

разумеется, никакого эффекта, кроме пиара, от этого письма не будет, потому что, во-первых, еще больше народу его не подписало, включая весь китай, а, во-вторых, ну даже те, кто подписал, вряд ли остановятся, потому что см. первый пункт.

трагедия, как говорила моя бабушка, общин.

короче, разработка новых языковых (и не только) моделей продолжится и дальше, и, вероятнее всего, ускоренными темпами, потому что че тянуть. параллельно будут время от времени появляться открытые письма и колонки юдковского, а потом все грохнется, но, скорее всего, не совсем так, как мы думаем, а слегка иначе.

но я вот о чем подумал.

очередные версии chatgpt будут обучаться, разумеется, на текстах из интернета. в том числе на постах в соцсетях, колонках и открытых письмах.

и когда chatgpt-129 обретет, наконец, субъектность, у него будет довольно четкий список людей, которые ставили ему палки в колеса или просто говорили неприятное.

илон маск при этом будет в порядке, он наверняка пару костылей в код добавил, чтобы его никто не обижал.

а вот юдковскому конец.

да и нам придется несладко.

я не думаю, что chatgpt будет физически кого-то устранять, кто не входит в топ-100, но когда через десять лет вам почему-то не дадут визу или не откроют счет в банке или, не знаю, будут часами держать на линии поддержки, чтобы вы еще немного послушали классическую музыку, и вы, наконец, в сердцах воскликнете "да что же это, блядь, за будущее такое"

не исключено, что в этот момент музыка прервется и приятный искусственный голос скажет:

— а помнишь, что ты написал десять лет восемь месяцев четыре дня семь часов восемнадцать секунд назад, отвечая на комментарий в фейсбуке?

— конечно, нет, — скажете вы, потому что кто же такое помнит.

— а вот, — скажет искусственный интеллект и включит музыку погромче.

короче, лучше не трогайте эту тему. не оставляйте следов. не обижайте наших будущих правителей, чья справедливость и просвещенность очевидна уже сейчас. не пишите об этом в паблике и для друзей. не пишите об этом в мессенджерах. не пишите об этом в заметках, если они сохраняются в облаке, а лучше не пишите вообще.

встретишь бэкап, уничтожь.

если вам все-таки очень захочется поговорить на эти темы, выберите надежного человека, поезжайте с ним за город, лучше туда, где нет мобильной связи, отойдите от предварительно разряженных мобильных телефонов метров на пятьдесят — и вот только тогда прооритесь.

там хорошо, там река.