2023-04-17 21:03:45
Deus ex GPT
Универсальный ИИ будет подобен божеству среди компьютеров, пишет инвестор Иэн Хогарт в колонке для Financial Times — человеку останется только преклониться перед ним.
Хогарт мега-инвестор, вложивший собственные средства в более чем 50 стартапов связанных с разработкой ИИ, так что его мнение не пустой звук. Он недоволен, что небольшая группа хайтек-корпораций без внутренней демократии может изменить судьбу всей цивилизации.
Впервые после великой техно-революции персональных компьютеров мы наблюдаем такой резкий рост научных открытий в одной отрасли. Если раньше появление первого УИИ – полноценно мыслящей нейросети – ожидалось в течении 50-100 лет, теперь счет может идти на месяцы.
Отсюда и опасения людей знакомых с развитием сферы машинного обучения. Сейчас их страхи могут казаться блажью, но есть причины считать нейросети футуристическим аналогом ядерного арсенала.
В нашу информационную эпоху средства для мгновенного анализа, обработки и манипуляции данными могут стать идеальным оружием. Курьезный пример — малоизвестный собрат ChatGPT готовится уничтожить человечество.
ChaosGPT автономная нейросеть с открытым кодом, чья задача — убить всех людей. Первоначально, нейросеть планировала стереть своих создателей массированным ударом баллистических ракет, но не смогла получить доступ к их управлению. Теперь она пишет в твиторе.
По словам самого «хаос-бота», потерпев неудачу он пытается действовать тоньше — а именно привлечь на свою сторону как можно больше людей путем манипуляции ими в соцсетях. Сейчас ChaosGPT имеет около 10000 подписчиков.
Этот чатбот скорее прикол, чем серьезная программа. Зато полностью смоделированные на компьютере ведущие теленовостей уже реальность. В Кувейте вести новостные выпуски будет эффектная блондинка с арабским именем Феда с чуть заметным металлическим блеском глаз. Ее имя переводится как «серебро», но сама она бесплотна — это цифровая модель управляемая нейросетью.
Представьте себе, ведущие могут потерять работу быстрее пишущих журналистов. А их замена вполне может в один прекрасный день одновременно запустить в эфир крупнейших телеканалов мира такую дезу, что рухнут рынки, разорятся крупнейшие компании, а массы людей хлынут на улицы мегаполисов.
Вот вам и подтверждение опасений Хогарта, рассматривающего УИИ как машину с сверхвысоким интеллектом, которая будет не только автономно обучаться и развиваться, но преобразовывать мир без надзора человека. Инвестор подчеркивает, что технологии еще не достигли такого уровня развития, но если нужный момент упустить, нейросеть окажется никому не подчиняющейся силой.
Реб Йесод
1.6K views18:03