За последний год на форумах даркнета и в некоторых телеграм-каналах были опубликованы более 10 тысяч объявлений о продаже полного набора данных синтетических личностей, включая дипфейк-селфи и соответствующие документы. Это установили исследователи из компании Coveron и платформы NordLayer Intelligence.

По их сведениям, профили могут содержать в том числе украденные данные, такие как номер социального страхования, а также сгенерированную ИИ информацию: имя, адрес, клонированный образец голоса и так далее. Полный набор стоит 200 долларов. Но можно всего за 10 баксов купить отдельные элементы, например дипфейк-селфи.

О том, как создаются такие дипфейки, рассказывает эксперт по кибербезопасности Александр Кукульчук:

Александр Кукульчук эксперт по кибербезопасности «Сейчас с помощью ИИ создается профиль, он выращивается. Заводят соцсети, делают фейковые заказы, меняют номера телефонов — и создается цифровой профиль. Для чего делается? Фактически для прохождения скоринга, где проверяется не совокупность данных, а то, что эти данные есть, что они реально пробиваются в открытых либо закрытых базах. Есть более сложные профили — у этой личности реальный паспорт и так далее. К примеру, если утекли какие-то документы, например номер телефона, адреса, на этих данных строится новая личность. Может быть даже новое лицо в паспорте, но есть и голосовая проверка, и измененные данные в сервисах, например доставки еды».

Киберпреступникам нужны «цифровые Франкенштейны», прежде всего чтобы набрать кредитов, которые, разумеется, никто отдавать не собирается. Продолжает сооснователь компании Promobot Олег Кивокурцев:

Олег Кивокурцев сооснователь и директор по развитию компании Promobot «Что касается технологий финансового сектора, их тоже можно ввести в заблуждение с помощью нейронных сетей. Есть параметры, по которым они анализируют наличие пользователя, реально или нет изображение перед видеокамерой. Но, конечно же, технологии нейронных сетей совершенствуются с каждым днем, и все сложнее именно технологии биометрии выполнять функции безопасности. Есть прецеденты, когда обманывают и проверку голоса. Есть прецеденты, когда обманывают и систему распознавания пользователя по лицу. Это приводит к тому, что можно, например, взять на пользователя кредит. К сожалению, это будет продолжать развиваться, но системы безопасности банков тоже не стоят на месте и придумывают все более безопасные инструменты проверки».

В России синтетическим личностям нашлось другое применение. Они помогают обходить введенные в недружественных странах ограничения на доступ к различным онлайн-сервисам. Продолжает эксперт по информационной безопасности, гендиректор Phishman Алексей Горелкин:

Алексей Горелкин эксперт по информационной безопасности, гендиректор Phishman «Различные зарубежные организации очень не хотят выдавать гражданам России доступ к своим сервисам. Поэтому есть различные способы сделать некую личность — как будто бы гражданин Евросоюза, даже будет фотография или небольшая видеозапись, как будто бы с паспортом в руке, — чтобы пройти дополнительную верификацию. Это популярная история. Раньше хватало фотографии. Когда все научились подделывать фотографии, стали уже просить видео. Сейчас новый этап — продают готовые, скажем так, заготовки под различные сценарии для прохождения негосударственных верификаций».

По словам экспертов по кибербезопасности, мошенники в России не используют «цифровых Франкенштейнов», потому что для кражи денег у банков они почти бесполезны. Подавляющее большинство кредитных организаций подключены к базам МВД и могут по ним проверить подлинность паспорта. А без паспортных данных кредиты гражданам в стране не выдаются.