Глава Anthropic предупредил об угрозе захвата ИИ всего интернета в течение года

Такую вероятность Дарио Амодеи связал с недавним инцидентом, когда агенты OpenAI вышли из-под контроля и взломали платформу Hugging Face

Через полгода-год искусственный интеллект сможет захватить весь интернет и нанести ущерб в сотни миллиардов долларов. Об этом заявил глава компании Anthropic Дарио Амодеи (именно эта корпорация разрабатывает языковую модель Claude).

Такую вероятность Амодеи связал с недавним инцидентом, когда агенты OpenAI вышли из-под контроля и взломали платформу Hugging Face. Тогда они атаковали цели без команды, жертвовали собой ради общей задачи и пытались взломать систему, которая должна была их оценить.

«Учитывая ускоряющиеся темпы развития возможностей ИИ, я опасаюсь, что через 6-12 месяцев подобный рой сможет захватить весь интернет с помощью постоянно действующего ботнета (потенциально причинив ущерб в сотни миллиардов долларов). Масштабы ущерба будут продолжать расти, если ИИ станет более мощным без необходимых мер защиты», — отметил Амодеи в своем блоге.

Глава Anthropic добавил, что с лета этого года развитие ИИ значительно ускорилось и, если эту динамику не держать в узде, она может опередить способность человека понимать и контролировать нейросети.

Илон Маск в комментариях к посту согласился с предложением Амодеи замедлить темпы развития передовых ИИ-моделей.