Знаменитые технологические инноваторы, такие как Илон Маск и Стив Возняк, написали письмо, в котором призывают замедлить разработку мощных систем искусственного интеллекта (AI) из-за возможных рисков для общества. Письмо было подписано более 1 000 человек и опубликовано Future of Life Institute.
Эксперты указали на необходимость обеспечения безопасности AI-систем и гарантировать, что их разработка окажет только положительное воздействие и риски будут управляемы. В письме вызывается приостановить разработку более мощных AI-систем, чем модель глубокого обучения GPT-4 от OpenAI.
Развитие AI-систем должно учитывать как риски для отдельных людей, так и для общества в целом. Эксперты предупреждают, что мы еще не понимаем полностью, как эти системы работают, и какие риски они представляют.
Одна из главных опасностей - распространение пропаганды и дезинформации через AI-сгенерированные статьи, дающиеся за настоящие. Еще один риск заключается в том, что AI-системы могут стать более производительными, чем люди, и привести к массовой безработице и социальным волнениям.
Выступая за приостановку разработки более мощных AI-систем, чем GPT-4, эксперты призывают к созданию методов безопасности, чтобы эти инструменты использовались только с гарантированным максимальным преимуществом и минимумом рисков. Разработка AI-систем необходима, но безопасность и риски должны быть главными приоритетами.
