Насколько реальна угроза со стороны искусственного интеллекта?

Развитие технологий происходит быстрее, чем люди успевают это осознавать, особенно это касается развития нейросетей. Даже со стороны разработчиков уже раздаются голоса о необходимости искусственного ограничения их возможностей либо предоставления человеку последнего слова в принятии решений

Технологическая отрасль в целом уже неоднократно предупреждала о рисках, которые в себе несет эта технология. А сотрудник Anthropic покинул компанию как раз из-за опасений того, что ИИ-модели вскоре выйдут из-под контроля. К тому же недавно вышла новая модель от OpenAI под названием GPT-6 Astra с впечатляющими и одновременно пугающими возможностями.Непрекращающееся развитие возможностей искусственного интеллекта теперь пугает не только людей, далеких от технологий, но и самих разработчиков до такой степени, что они готовы увольняться. Бывший ИИ-исследователь Anthropic Джейкоб Коксон покинул компанию, по его словам, из-за опасений, что такие системы вскоре могут выйти из-под контроля. По его мнению, отрасль в целом должна замедлить разработки или должны вмешаться государства, чтобы контролировать этот неуемный процесс. Иначе ИИ-системы могут развиться настолько, что перестанут выполнять команды.

Развитие технологий происходит быстрее, чем люди успевают это осознавать. Настоящий масштаб этой проблемы пока понимают далеко не все, указывает сооснователь университета «Зерокодер» и научный сотрудник Иннополиса Кирилл Пшинник:

Кирилл Пшинник сооснователь университета «Зерокодер» и научный сотрудник Иннополиса «Мы рассчитываем, что такой искусственный интеллект поможет лечить болезни, делать научные открытия, развивать экономику, но пока не знаем, как гарантировать, что такая система вообще будет действовать в наших интересах. А цена потери контроля может быть огромной. Со стороны очень легко сказать: «Просто установите ограничения» или «Просто остановите разработку», но за каждым таким «просто» стоят нерешенные технические проблемы и конкуренция компаний, государств. При этом значительная часть общества, на мой взгляд, еще не осознала масштабы происходящего, для многих искусственный интеллект до сих пор остается сервисом, который пишет тексты и рисует картинки, а обсуждать уже приходится гораздо более серьезные вопросы: как сохранить контроль над системами, которые во многих задачах превосходят человека? Этот разговор должен идти далеко за пределами технологической индустрии, на уровне государств, на уровне лабораторий, на уровне разработчиков. И здесь нужна общая координация из разных стран и совместное сотрудничество».

Проблема еще в том, что американские разработки ориентированы на то, чтобы бить рекорды, быть умнее, быть производительнее. При этом настолько огромные мощности людям зачастую и не нужны, поэтому, например, сильный толчок в развитии получили китайские модели, которые почти такие же умные, но более удобные, более открытые и более прикладные.

Американские лаборатории оперируют огромными средствами, инвестиции там примерно в 20-30 раз больше, чем у российских, говорит руководитель направления «Алисы» и умных устройств «Яндекса» Валерий Стромов:

Валерий Стромов руководитель направления «Алисы» и умных устройств «Яндекса» «Я думаю, что это 20-30 раз, примерно такое значение сейчас годовой разницы между, например, OpenAI, Anthropic, Google и нами. Но нашим конкурентам, которых мы сейчас назвали, им надо обрабатывать трафик со всего мира. То есть это примерно раз в 40-50 большее количество трафика. То есть физически нужно больше карт для того, чтобы работать глобально. Вторая вещь — это, конечно, доступ к капиталу, там он выше, поэтому проще такими суммами оперировать, проще вкладывать их в инфраструктуру. Фактически же наш мир — это когда не на каждый вопрос пользователя нужен этот суперинтеллект».

Как раз на днях вышла новая ИИ-модель от OpenAI — GPT-6 Astra, и уже появились примеры ее реального использования. У нее впечатляющая графическая составляющая, она может создать 3D-модель какого-либо объекта лишь по одной фотографии, может делать сложные инженерные конструкции и самостоятельно создавать цепочки производства контента, то есть написать текст, озвучить его нейроголосом и нарисовать нейрокартинку. Astra даже решила одну из так называемых «задач тысячелетия», уравнение Навье — Стокса. Однако ситуация пока не вполне понятная, профессор Нью-Йоркского университета Тристан Бакмастер заявил, что способ решения Astra у него украла, так как ранее он консультировался с другими моделями от OpenAI. Там кражу отрицают.

Но в любом случае все такие возможности несут в себе риски. Они возрастают с каждой новой моделью, говорит директор по продуктам Just AI Глеб Обломский:

директор по продуктам Just AI Глеб Обломский

«Очевидно, что модель фронтир, то есть она прямо топовая. Но тем не менее на практике пока говорить про то, что Astra это революция, не стоит, но это сильный шаг. То, где точно есть риск с появлением таких вот высокоинтеллектуальных моделей, как Astra или Fable, возникает действительно риск какого-то масштабного сбоя, утечки, агента, который злонамеренно или непреднамеренно может уже привести к тому, что будут реальные сбои реальных систем по миру».

Предотвратить потенциальные масштабные сбои можно, например, одним понятным способом — не исключать живого человека из процесса принятия решений, указывает старший эксперт Kaspersky GReAT Георгий Кучерин:

Георгий Кучерин старший эксперт Kaspersky GReAT «Конечно, это не будет выглядеть как всеобщее восстание машин. Предположим, у нас есть система управления электросетью, и искусственный интеллект изменил ее код, так что там ошибка. Человек этого не замечает, эту систему запускает, и через какое-то время весь город остается без света, приходится чинить. Чтобы подобных ситуаций не происходило, надо очень аккуратно перепроверять те выводы, тот код, который пишет искусственный интеллект. Есть много способов это сделать, можно даже для этого пользоваться другим искусственным интеллектом, но очень важно, чтобы в цепочке проверок присутствовал человек, потому что только человек может критически оценить код или те данные, которые выдал искусственный интеллект, и внести в него правки».

Технологические реалии поменялись слишком быстро. И пока что, как говорят эксперты, готового решения у государств и человечества в целом нет. Тем более что Штаты с огромной долей вероятности не пойдут на замедление разработок, опасаясь того, что свои разработки не замедлит Китай.