Роман Душкин

«Один из ведущих подходов на текущий момент — это так называемый RAG (Retrieval Augmented Generation), то есть генерация, дополненная некими материалами, добытыми откуда-то: из базы данных, из результата поиска, из базы знаний, из каких-то информационных систем. И вот это сейчас становится трендом, который доступен всем людям. То есть это уже не галлюцинации, над которыми мы так смеялись полгода назад. То есть, когда системы только начинали входить в общее пользование, очень много было такого, что они выдумывали ответы, пользователи все это в социальных сетях копировали, показывали, скриншотами делились и так далее. А сейчас это по-другому. Это действительно генерация, основанная на авторитетных источниках, вся генерация подтверждена».

«Каждый раз, когда я читаю подобные декларации, у меня возникает стойкое ощущение, что именно эти декларации генерировал ChatGPT. Вот он потоком начинает выдавать тезисы и принципы, но очень поверхностные и пустые, как и вот эти декларации. Ну да, есть определенные риски, и эти риски надо выявлять, классифицировать, прорабатывать. Но самому по себе ИИ уже 70 лет с лишним, лично я не считаю эту технологию такой, которая несет в себе экзистенциальную угрозу. Пока он не станет воплощенным в виде роботов-андроидов, которые будут автономно действовать в нашей реальности, такого не будет, что система сама себя осознает и поймет, что человечество представляет угрозу, начнет воевать с ним. То, что политики бьют какую-то там тревогу, ну у них работа такая. Правильно делают, что бьют и какие-то рамки применения пытаются ввести. Самое главное, чтобы не вводили рамки в исследования, потому что это будет больше похоже на неолуддизм (критика влияния научно-технического прогресса на человека и общество».

«Модель здесь ни при чем. Что пользователь спросит, то она ему ответит. Разработчик модели должен делать ограждающие механизмы: если пользователь задает прямые вопросы на тему того, как сделать запрещенные вещества или еще что-нибудь противозаконное, модель должна ему отказывать. Но еще есть принцип — грамотный промпт-инженер при желании может достать все что угодно. А не обучать модели тоже нельзя, потому что, если они не будут этого знать, они не смогут защищать пользователя от этого».