Дарья Фокина

«Это скорее сигнал, что гонка стала слишком быстрой: модели становятся мощнее, дешевле и уже начинают выполнять реальные бизнес-процессы. Остановить развитие ИИ глобально практически невозможно. США, Китай, Европа, корпорации и государства продолжат инвестировать, потому что это вопрос конкурентоспособности и безопасности. Но регулирование точно нужно, но не как запрет, а как правила применения: какие задачи можно отдавать ИИ, где человек должен оставаться в контуре, кто отвечает за ошибку, как защищаются данные. И реальные риски — это не восстание машин, а перестройка рынка труда, ошибки в критичных решениях, киберугрозы, зависимость бизнеса от нескольких ИИ-платформ».

«Риск ухудшения ИИ-моделей есть. Современные ИИ-модели учатся не только на чистых датасетах, но и на огромном массиве публичного контента. Если в этой среде растет доля примитивного, повторяющегося ИИ-контента, возникает эффект замкнутого круга: модели начинают учиться на собственных же упрощенных производных. Чтобы ухудшение качества не происходило, крупные игроки уже сейчас инвестируют в фильтрацию данных, синтетические чистые датасеты и ручную экспертизу обучения. Таким образом, эта проблема пока решается».

«Практика загрузки внутренних данных в нейросети сейчас идет повсеместно. Вы не представляете масштаб. Одни работодатели это ловят или предотвращают, а другие закрывают глаза, пока эффективность сотрудников растет за счет использования нейросетей. Перед тем, как проводить корпоративное обучение для клиентов, мы всегда запрашиваем политику кибербезопасности компании, и зачастую ее не существует. Или в худшем случае, говорят, ничего никуда нельзя загружать, мы еще сами не разобрались. Что дальше? Приходит бизнес, давит на сотрудников, что надо пользоваться ИИ, и все просто закрывают глаза. Потом это приводит к подобным заголовкам. Основной риск здесь — коммерческая тайна. Никто не знает, как обучается модель DeepSeek, что они будут запоминать и использовать для дальнейшего обучения, а что нет. Поэтому по умолчанию лучше считать, что используется все. Были кейсы, когда через ИИ сервисы компании узнавали политику конкурентов, которые те активно генерили искусственным интеллектом. Что можно сделать? Выработать политику внутри компании, отдел безопасности не может сопротивляться нейросетям, а значит, должен возглавить, прийти к сотрудникам и сказать, это можно загружать, это нельзя, вот так корректно работать. Второе — завести локальную модель в контур компании или протоколы по шифрованию данных. Это частый запрос к нашему отделу разработки сейчас от тех, кто осознанно к этому подходит. Поэтому моя рекомендация компаниям — не взваливать эту ответственность на сотрудников, а проактивно выработать политику и способы использования нейросетей без слива чувствительной информации».