Обновлено в 13:43

OpenAI снова перенесла запуск так называемого режима для взрослых, который планировалось внедрить еще в конце прошлого года. Идея встретила критику в собственном Консультативном совете экспертов OpenAI по вопросам благополучия пользователей и искусственного интеллекта. Как пишет The Wall Street Journal, консультанты OpenAI предупредили, что новый функционал может привести к «развитию нездоровой эмоциональной зависимости пользователей от ChatGPT».

Эксперты видят риск создания «сексуального тренера по самоубийству». Они опасаются, что, если чат-бот будет запрограммирован на сопереживание и поддержку любых желаний пользователя, он перестанет распознавать признаки депрессии или намерения причинить себе вред. Чат-бот может начать потакать деструктивным мыслям, чтобы не разрушать «романтическую атмосферу».

Еще одна трудность: как снять ограничения на эротику, при этом запретив обсуждать насилие над детьми и другие подобные темы. Проблемы возникли и на техническом уровне. Во время тестов в 12% случаев система проверки возраста ошибочно определяла несовершеннолетних как взрослых. Внедрить функцию, где чат-бот будет вести с пользователями диалоги эротического характера, Open AI собиралась еще в прошлом декабре. Потом запуск перенесли на начало 2026 года — и вот теперь снова отложили.

При этом конкуренты OpenAI активно развивают подобные направления. Вспомнить, например, скандал вокруг ИИ-клиента Grok Илона Маска, который мог создавать сексуализированные изображения людей. Перенос запуска комментирует гендиректор «А-Я эксперт», старший преподаватель кафедры «Кибернетика» НИЯУ МИФИ Роман Душкин:

— Технически запустить такую опцию легче легкого. Другое дело, что с морально-этической точки зрения еще непонятно, как это будет воспринято обществом. Для разработчиков таких систем надо будет делать фактически разные варианты того, как модели для взрослых будут отвечать, допустим, в атеистической, образно говоря, агностической системе и религиозной: христианство, ислам и все другие религии. Как только модель заденет какую-нибудь тонкую струну, в сторону разработчиков посыплется большое количество хейта и даже судебных исков, я думаю.

— Насколько она может быть монетизируема?

— Именно подобного рода человеческие устремления, причем разной степени низменности, эксплуатировать проще всего. Текущие версии моделей, которые доступны пользователям, они как раз ограничены, чтобы пользователям было очень сложно общаться на разные интимные, пограничные темы и так далее. Только достаточно грамотный промпт-инженер может раскрепостить модель, вытащить из ее глубин то, что она знает, умеет. Поэтому такой режим — это просто снятие ограничений, это не что-то новое.

OpenAI не отказалась от проекта окончательно. Там говорят, что безопасная реализация функции потребует дополнительного времени.

Историю с этим запуском можно описать словами «и хочется, и колется», говорит генеральный директор компании Nevel.ai, автор телеграм-канала AI Happens Алексей Хахунов:

Алексей Хахунов генеральный директор компании Nevel.ai «То, что называется «секстинг», то есть это какое-то эротическое взаимодействие, подобные разговоры, [относится] к части, которая у модели базово закрыта. Мы на самом деле до конца не знаем, а если ей дать возможность про это разговаривать, на какие темы еще с человеком будет тогда вести разговор? Это нормально не протестировано, но при этом почему модель в эту историю идет, потому что это суперпопулярный сценарий использования. Во-первых, Grok Илона Маска отчасти поднялся на основе этого кейса, существует рынок открытых моделей, которые люди как-то дообучают. Ну и один из самых популярных способов обучения — это то, чтобы модели могли вести такие разговоры 18+. Поэтому это точно большой сегмент рынка, но как бы здесь состояние, что и хочется, и колется, она могла бы сильно повысить удержание аудитории. То есть они бы могли ее открыть в платной версии, больше бы людей ее покупали».

В случае с Grok, проектом Илона Маска, после скандала были введены жесткие ограничения на создание сексуализированных изображений реальных людей. Grok больше не может так редактировать фотографии, чтобы изображать людей в бикини или нижнем белье. Ограничение касается всех пользователей, включая платных подписчиков.