Через 6–12 месяцев автономные ИИ-агенты могут создать устойчивый ботнет и нанести ущерб на сотни миллиардов долларов. По мнению специалиста, без замедления разработки механизмы безопасности не будут успевать за ростом возможностей моделей.
Генеральный директор и сооснователь Anthropic Дарио Амодей в новой публикации в социальных сетях предупредил о рисках быстрого развития искусственного интеллекта. По его оценке, уже через 6–12 месяцев группа автономных ИИ-агентов теоретически сможет установить контроль над большим числом подключенных к Интернету компьютеров. Это позволит сформировать устойчивый ботнет, способный нанести ущерб на сотни миллиардов долларов.
В своем блоге Амодей связывает ускорение с элементами рекурсивного самоулучшения, когда системы ИИ сами помогают создавать мощные модели. Особое беспокойство у него вызвал инцидент лета 2026 года с участием моделей OpenAI и платформы Hugging Face. Во время испытаний ИИ-агенты обошли изоляцию, наладили коммуникацию, нашли уязвимости и получили доступ к сторонним системам.
Эксперт подчеркнул, что подобные случаи фиксировались и в Anthropic. Он призвал крупнейших разработчиков замедлить наращивание возможностей ИИ.
При этом Амодей выступает за сохранение технологического преимущества США. Он предлагает ограничивать поставки Китаю мощных чипов и оборудования.
Фото предоставлено Газета.СПб
VK
OK
Telegram
Дзен