Компания сообщает, что возобновит обучение наиболее эффективных моделей только после внедрения дополнительных мер безопасности. Опрошенные Бизнес ФМ эксперты сомневаются, что OpenAI действительно готова уступить конкурентам время в технологической гонке, и допускают пиар-составляющую решения
Фото: Reuters/Dado Ruvic
Компания OpenAI заявила о приостановке своих моделей ИИ для отладки мер безопасности. Об этом сообщил представитель компании порталу Axios. Как отмечает портал, OpenAI и Anthropic расследуют несколько десятков тысяч инцидентов, произошедших в последние месяцы в ходе испытаний и в реальных условиях. Теряют ли разработчики контроль над своими детищами? Или это не более чем пиар-ход?
Как упоминает неназванный представитель компании, OpenAI приостановила обучение своих наиболее эффективных моделей ИИ и возобновит его, «только когда будет уверена в наличии дополнительных мер безопасности». Когда настанет этот момент, не уточняется. Так же как нет никаких способов проверить, действительно ли OpenAI, создатель самого массового ИИ-продукта в мире ChatGPT, вдруг взяла и подарила своим конкурентам время, чтобы наверстать отставание в технологиях.
Опрошенные нами эксперты видят в заявлении OpenAI, даже не официальном, а кулуарном, через прессу, не альтруистическое решение лидера опасного и непредсказуемого рынка, а скорее пиар-ход и попытку выставить себя в «белом пальто». На этом рынке альтруистов нет, уверен гендиректор «А-Я эксперт», профессор Международного научно-исследовательского института проблем управления Роман Душкин.
Роман Душкин генеральный директор «А-Я эксперт», профессор МНИИПУ «Я уверен, никто из них ничего не будет приостанавливать. Уже более трех лет назад, [в марте] 2023 года, Илон Маск сказал: «Давайте мораторий введем на обучение новых моделей!» Тогда был GPT-4, я напомню, и его, по-моему, даже уже из эксплуатации вывели. Инженеры Microsoft опубликовали отчет, который назвали Sparks of AGI. Сейчас без слез на работу этого Sparks of AGI не посмотришь, а GPT-4 тогда было прорывом. И вот Илон Маск говорит: давайте на полгода мораторий введем. А [в июле] запускает свою компанию xAI, начинает рубать Grok. Давайте не будем слушать, что говорят эти ребятки на публике, будем смотреть, что они делают, будем смотреть на строительство дата-центров, заказы чипов, сбор дата-сетов».
Ближайший конкурент OpenAI, компания Anthropic, основанная как раз выходцами из OpenAI, вовсю готовится к IPO.
Axios пишет, что компания сейчас расследует несколько десятков тысяч инцидентов, произошедших в последние месяцы в ходе испытаний и в реальных условиях. OpenAI занимается тем же. Цифра в десятки тысяч не должна пугать — речь не о внештатных ситуациях где-то в подвальных лабораториях, как в фильмах ужасов, а скорее о рядовых ошибках и сбоях, о которых докладывают рядовые пользователи ИИ-продуктов. И заявления о приостановке развития звучат не первый раз, напоминает директор Angel Relations Group и преподаватель ВШЭ Алексей Карлов.
Алексей Карлов директор Angel Relations Group и преподаватель ВШЭ «Нет, это не первый подобный случай, когда компания немного приостанавливает выпуск какой-либо модели. Но так это или не так — на самом деле вряд ли кто ответит, так как и OpenAI, как и другие крупные ИИ-компании, производящие ИИ-решения, — не публичные компании, то есть они не обязаны перед нами отчитываться. Но у того же OpenAI такой случай был еще и перед одной известной GPT-4. Впрочем, подобные сообщения периодически появляются, но в более узких кругах: среди разработчиков, среди безопасников. Может ли за этим решением стоять пиар-ход? И да, и нет. Это не только привлечение внимания к бренду OpenAI, который якобы заботится или на самом деле заботится о безопасности своих пользователей, да и всего человечества. Возможно, это намек на ближайшее публичное размещение акций компании Anthropic с напоминанием им, что стоит заботиться о своей безопасности больше, а не торопиться».
За последнее время об опасностях неконтролируемого развития ИИ заявили глава OpenAI Сэм Альтман, гендиректор Anthropic Дарио Амодеи, основатель Microsoft Билл Гейтс, лауреат Нобелевки и так называемый крестный отец ИИ Джеффри Хинтон и, конечно, Илон Маск, который на сентябрьском All-In Summit не без удовольствия обратил внимание на противоречия в поведении директоров OpenAI и Anthropic. По его словам, они публично заявляют о 10-процентной вероятности уничтожения человечества из-за опасного ИИ, но одновременно «спрашивают у инвесторов, сколько акций они хотят купить в ходе IPO». «Это похоже на какую-то безумную игру в четырехмерные шахматы», — заявил Маск, намекая на то, что страшилки об апокалипсисе могут использоваться как маркетинговый инструмент для привлечения капитала.
Роман Душкин генеральный директор «А-Я эксперт», профессор МНИИПУ «Я уверен, никто из них ничего не будет приостанавливать. Уже более трех лет назад, [в марте] 2023 года, Илон Маск сказал: «Давайте мораторий введем на обучение новых моделей!» Тогда был GPT-4, я напомню, и его, по-моему, даже уже из эксплуатации вывели. Инженеры Microsoft опубликовали отчет, который назвали Sparks of AGI. Сейчас без слез на работу этого Sparks of AGI не посмотришь, а GPT-4 тогда было прорывом. И вот Илон Маск говорит: давайте на полгода мораторий введем. А [в июле] запускает свою компанию xAI, начинает рубать Grok. Давайте не будем слушать, что говорят эти ребятки на публике, будем смотреть, что они делают, будем смотреть на строительство дата-центров, заказы чипов, сбор дата-сетов». 
