Роман Душкин

«Каждый раз, когда я читаю подобные декларации, у меня возникает стойкое ощущение, что именно эти декларации генерировал ChatGPT. Вот он потоком начинает выдавать тезисы и принципы, но очень поверхностные и пустые, как и вот эти декларации. Ну да, есть определенные риски, и эти риски надо выявлять, классифицировать, прорабатывать. Но самому по себе ИИ уже 70 лет с лишним, лично я не считаю эту технологию такой, которая несет в себе экзистенциальную угрозу. Пока он не станет воплощенным в виде роботов-андроидов, которые будут автономно действовать в нашей реальности, такого не будет, что система сама себя осознает и поймет, что человечество представляет угрозу, начнет воевать с ним. То, что политики бьют какую-то там тревогу, ну у них работа такая. Правильно делают, что бьют и какие-то рамки применения пытаются ввести. Самое главное, чтобы не вводили рамки в исследования, потому что это будет больше похоже на неолуддизм (критика влияния научно-технического прогресса на человека и общество».

«Полиморфные вирусы в процессе распространения меняют свой код. Здесь действуют определенные законы, которые, похоже, не изменить. Каким бы полиморфным вирус ни был, у него должно быть неизменяемое ядро. Антивирус отыскивает полиморфные вирусы как раз по таким сигнатурам. Хотя с этим тоже можно бороться, есть методы и со стороны зловредов, и со стороны антивирусов. Но поскольку теме полиморфных вирусов в компьютере 40 лет, специалисты в области кибербезопасности прекрасно знакомы с этой концепцией. Даже если будут появляться новые идеи в области вирусописательства, их не позволят сгенерировать в ChatGPT, их будут делать люди, нацеленные на деструктивную деятельность. Даже в случае, если человек придумал новую будоражащую идею, реализовал ее, в том числе при помощи нейросети, это все равно придумал человек. Нельзя говорить, что искусственный интеллект начинает нас порабощать, выдумывает новые концепции, разрушающие современные рамки кибербезопасности. Такого нет и такое вряд ли в ближайшее время произойдет. Человек может при помощи ChatGPT писать программы, но это не так просто, как может показаться. Потому что программы, которые он выдает, могут содержать ошибки. Если человек не обладает навыками программирования, алгоритмическим мышлением, ему будет сложно это обнаружить. Но если он худо-бедно знаком с азами программирования, или вообще продвинутый программист, то ChatGPT позволяет открыть кроличью нору и посмотреть, насколько она глубока. Он позволяет очень быстро делать то, что называется code snippets — маленькие кусочки кода, которые можно использовать в своей программе для решения тех или иных задач».

«Когда задаешь какой-то вопрос агенту, он начинает внутренние рассуждения — как бы разговаривает сам с собой. Он запускает обмен мнениями между внутренними экспертами. И когда они приходят к консенсусу, то есть согласию относительно того, какой ответ выдать пользователю, соответственно, пользователю выдается этот ответ. Это очень повысило качество работы моделей. Это всего лишь архитектурный подход, но он был сделан, он показал свой резон. И я могу сказать, что мы повторили это мгновенно. Когда OpenAI опубликовала то, как они это сделали, мои инженеры буквально в тот же день повторили то же самое, в том числе на слабых моделях типа GPT-4o mini. А поскольку GPT-4o mini стоит копейки, она практически бесплатная, решение серьезных задач при помощи нее становится намного качественней».