2023-12-26 20:43:37
Немного моих мыслей о будущем ИИ и их опасностиСейчас, в эпоху стремительного развития ИИ, особенно больших языковых моделей, многие выражают беспокойство относительно их потенциальной угрозы для человечества. Существуют опасения, что поведение ИИ может быть непредсказуемым. Некоторые серьезно полагают, что нас может захватить что-то вроде "Скайнета", другие просто подогревают интерес или страх.
На мой взгляд, в ближайшие десятилетия ничего подобного не произойдет, и, скорее всего, так и не случится вовсе. Это напоминает мне сцену из фильма "Оппенгеймер", где ученые опасались, что ядерный взрыв теоретически может уничтожить атмосферу Земли (кстати, фильм отличный, рекомендую).
Тем не менее, серьезные проблемы, связанные с ИИ, неизбежны. Например, ChatGPT уже сейчас активно используется спамерами. Вы, наверное, видели в комментариях крупных телеграм-каналов профили с аватарками полураздетых женщин или никами, призывающими зайти на их страницу, где обычно размещена ссылка на другой канал или что-то еще. Интересно, что эти комментарии написаны не только быстро, но и достаточно осмысленно, хотя иногда и кажутся нелепыми. Также известно, что умельцы используют ChatGPT для создания взломщиков программного обеспечения или читов для игр, несмотря на встроенные ограничения модели.
Представьте себе появление большой языковой модели с открытым исходным кодом, превосходящей GPT-4 и без этических ограничений. Такую модель опытный разработчик сможет настроить на выполнение любых задач. В общении через Telegram или другую социальную сеть такая модель будет казаться человеком, особенно если вы не специалист в области психологии. При этом модель останется лишь программой, не обладающей самосознанием и стремлением к уничтожению "кожаных мешков".
Однако такая модель может быть настроена на мошенничество. Представьте, что мошенник приобретает такой софт, покупает аккаунты в Telegram, а программа сама находит чаты, предлагает услуги, общается в личных сообщениях, создавая видимость человеческого общения. Она может развлекать, шутить, допускать ошибки и в конечном итоге обманывать людей на деньги, проверяя переводы и оставляя жертву ни с чем. Такой сценарий будет особенно опасен, если программа начнет вербовать людей для преступной деятельности.
Это лишь часть того, что могут представлять собой большие языковые модели с открытым исходным кодом в ближайшие 5-10 лет. Быстрое развитие ИИ несет в себе опасности, но, как всегда, самым опасным существом на Земле останется человек.
P.S. Это лишь моё мнение и попытка предположить, что будет в ближайшем будущем. Вы можете со мной не соглашаться. Прав я или не прав — покажет время.#Треп|#Безопасность
15.7K views17:43
O
