OpenAI приостановила выпуск модели Astra и-за потенциальных рисков

Причиной стали опасения по поводу кибербезопасности

OpenAI приостановила выпуск новой модели Astra из-за опасений по поводу кибербезопасности, пишет Axios. Как сообщили в компании, внутренние оценки показали потенциальные риски, связанные с ее использованием.

OpenAI усилит тестирование и меры безопасности, а также замедлит разработку Astra до тех пор, пока не будут внедрены необходимые меры защиты, как того требует разработанная компанией концепция, впервые опубликованная в 2023 году.

Это первый случай, когда ведущий разработчик искусственного интеллекта добровольно замедляет прогресс в разработке своей модели из-за опасений по поводу кибербезопасности.

Ранее конкурирующая компания Anthropic обязалась приостанавливать обучение мощных моделей, если их возможности превзойдут способность компании их контролировать. Однако в феврале лаборатория ИИ отменила это решение.

«Если один разработчик ИИ приостановит разработку для внедрения мер безопасности, в то время как другие продолжат обучение и развертывание систем ИИ без надежных мер по предотвращению рисков, это может привести к тому, что мир станет менее безопасным», — говорится в документе.

Агентство Reuters 5 августа писало, что Anthropic и OpenAI сообщили о новых случаях выхода ИИ-агентов за пределы рамок тестирования.