Эксперты: искусственный интеллект уничтожит человечество с вероятностью в 10 %
Бывший сотрудник Anthropic уверен, что создатели ИИ действуют безрассудно и ставят под угрозу весь цивилизованный мир
Специалист по искусственному интеллекту Джейкоб Коксон, ранее работавший в Anthropic, предупредил о смертельной угрозе, которую ИИ может представлять для человечества. Другой эксперт оценил вероятность, что ИИ-агенты выйдут из-под контроля и уничтожат всех людей, в 10 %, сообщает NBK.
ИИ опаснее ядерной бомбы?
Коксон обвинил Anthropic и её главного конкурента OpenAI в безответственном отношении к угрозам, которые может представлять искусственный интеллект, пишет CNBC. Его пост набрал более 70 млн просмотров и актуализировал дискуссию о правовом регулировании ИИ-моделей.
Джейкоб Коксон, успевший поработать в обеих крупнейших компаниях по разработке ИИ, уволился из Anthropic во вторник и сразу стал знаменитостью благодаря своим мрачным прогнозам. По его словам, он покинул должность из-за несогласия с тем, что корпорации играют человеческими жизнями. Коксон верит, что существует реальная угроза выхода ИИ из-под контроля, в результате которой искусственный интеллект «убьёт нас всех к концу десятилетия».
«Не стоит недооценивать мощь этой технологии. Скоро появятся системы, превосходящие человеческие способности. Они смогут взломать что угодно, совершить революционные открытия в любой области знаний за одну ночь, обрести реальную власть и ресурсы», — заявил Джейкоб Коксон.
Глава регуляторного направления Anthropic Эван Хабинджер поддержал бывшего коллегу: в своём посте он отметил, что искусственный интеллект действительно способен уничтожить человечество в течение следующего десятилетия, и такая вероятность превышает 10 %.
«Anthropic прилагает все усилия, чтобы этого не произошло, но у нас пока нет плана по регулированию сверхинтеллекта», — признался Хабинджер.
Разработчики создали монстра
Следом за Коксоном и Хабинджером целый ряд разработчиков и специалистов по кибербезопасности, в том числе из OpenAI и Anthropic, выступили с призывами замедлиться и ограничить или вовсе прекратить разработку ИИ-агентов, способных к самостоятельному усовершенствованию.
«ИИ-разработчики уверены, что их технологии способны привести к вымиранию человечества (или чему-то столь же плохому). И это "что-то" может случиться уже в ближайшие несколько лет. Чем более высокую должность занимает сотрудник, тем сильнее он обеспокоен», — подчеркнул ещё один разработчик из Anthropic Сэмюэль Маркс.
Чего боятся эксперты
Эти прогнозы могут показаться слишком мрачными, но представители IT-сферы уже не первый месяц говорят о необходимости более строгого регулирования технологий ИИ. Особое беспокойство у экспертов вызывают модели, способные обучаться, самовоспроизводиться и создавать новые алгоритмы без участия людей. Ещё в 2023 году ведущие исследователи в области искусственного интеллекта подписали заявление, в котором признали выход ИИ из-под контроля риском, сравнимым с ядерной войной или пандемией.
Новые предупреждения об опасности искусственного интеллекта звучат особенно тревожно на фоне массового недовольства строительством дата-центров в США и недавних заявлений компании OpenAI, предупредившей о рисках безопасности при использовании своей новой ИИ-модели.
