Руководители компаний, создающих одни из самых мощных систем искусственного интеллекта в мире, неожиданно заговорили о необходимости притормозить. Глава Anthropic Дарио Амодей предупреждает, что возможности ИИ растут быстрее, чем способность людей контролировать их. Его поддержали Илон Маск и глава OpenAI Сэм Альтман. А вот президент США Дональд Трамп выступил против замедления: по его мнению, в гонке с Китаем Америка не может позволить себе сбавить скорость. Разбираемся простыми словами, чего именно опасаются разработчики и действительно ли они предлагают остановить развитие искусственного интеллекта.
Глава Anthropic: мы должны замедлиться
Одним из самых заметных предупреждений последних дней стала большая публикация генерального директора Anthropic Дарио Амодея под названием We Must Pace the Frontier — примерно это можно перевести как «Мы должны контролировать темп развития передовых ИИ».
Anthropic одна из крупнейших компаний в сфере искусственного интеллекта и разработчик Claude, одного из главных конкурентов ChatGPT.
Сам Амодей работает в сфере ИИ около 12 лет и вовсе не считает технологию злом. Напротив, он полагает, что искусственный интеллект способен в ближайшие годы ускорить разработку лекарств, повысить темпы экономического роста и значительно улучшить качество жизни людей.
Но одновременно, считает он, скорость развития технологии стала опасной.
По словам Амодея, особенно сильно ситуация изменилась летом 2026 года. ИИ становится все лучше не только в выполнении человеческих задач, но и в создании следующего поколения самого искусственного интеллекта.
Получается своеобразный круг: люди создают более мощный ИИ, он помогает им создавать еще более мощный ИИ, тот ускоряет разработку следующего поколения и так далее.
Этот процесс называют рекурсивным самоулучшением. Проблема в том, что в какой-то момент скорость такого развития может стать выше скорости, с которой люди успевают понимать новые системы, тестировать их и создавать для них защитные механизмы.
Амодей предупреждает, что если ничего не менять, уже через 6-12 месяцев возможности групп ИИ-агентов теоретически могут вырасти настолько, что они смогут создавать огромные ботнеты и атаковать значительную часть интернет-инфраструктуры.
Речь пока идет о прогнозе, а не о том, что искусственный интеллект уже способен самостоятельно «захватить интернет». Но повод для опасений у разработчиков появился не на пустом месте.
Источник: Your.tj
Нет комментариев