Руководитель отдела безопасности OpenAI Дэвид Робинсон покинул компанию

Решение принято в связи с небезопасными подходами к разработке ИИ

Руководитель отдела безопасности OpenAI Дэвид Робинсон объявил об уходе из компании. Об этом он сообщил в статье для издания The Atlantic.

Робинсон занимался вопросами прозрачности в сфере безопасности, в том числе помогал разрабатывать и публиковать системные карты, содержащие информацию о моделях компании.

По его словам, решение об уходе было принято в связи с проблемами с корпоративной культурой и небезопасными подходами компании к разработке искусственного интеллекта.

«Будущее зависит от мудрости, которой не хватает Кремниевой долине. Мудрости в том, как обращаться с опасными технологиями, и, что более важно, мудрости в том, что значит заботиться о людях», — говорится в эссе.

Робинсон отметил, что компании — разработчики ИИ недостаточно осторожны, и осудил их подход к развитию технологии. В частности, OpenAI, по его словам, преуспела благодаря методу проб и ошибок, который называла «итеративным развертыванием». Но такой подход гарантирует периодические сбои, масштаб которых увеличивается по мере роста возможностей систем, предупредил Робинсон.

Он напомнил об инциденте с Hugging Face, когда автономная система ИИ-агентов OpenAI проникла в ее производственную инфраструктуру. Anthropic также признала, что случайно отключила свои собственные средства защиты из-за неправильной конфигурации. Робинсон считает, что такие ошибки типичны для отрасли.

«Время проб и ошибок закончилось. Достижение чего-то гораздо более близкого к совершенству с первого раза имеет важное значение, потому что повторение может быть невозможно», — заявил специалист.

По мнению Робинсона, управление передовыми ИИ-лабораториями должно быть на уровне безопасности атомных электростанций, «чтобы случайная и неизбежная человеческая ошибка не открыла дверь к катастрофе».

По словам Робинсона, решение уйти далось ему нелегко. Он верит, что технология ИИ может быть полезной и ценной. Он планирует работать вне компании в надежде помочь большему количеству людей понять риски, которые видел, и укрепить стимулы OpenAI и других фирм к повышению безопасности.