Китай установил свод судебных правил для регулирования нейросетей. Верховный народный суд КНР на этой неделе опубликовал свое мнение относительно того, как должны рассматриваться в судах дела, связанные с нейросетями и их алгоритмами.

Мнение Верховного суда — это еще не закон, но документ оценивается юристами как очень важный и значительный для правовой системы Китая. В нем 24 пункта, и их называют сигналом для IT-бизнеса о том, что эпоха бесконтрольного роста в сфере ИИ закончилась. Наступает эпоха регулирования.

Пекин пока выбрал тактику точечных вмешательств туда, где технологии могут угрожать общественной безопасности, и в этом смысле всех опередил, говорит управляющий партнер адвокатского бюро «Духина и партнеры» Екатерина Духина:

Екатерина Духина управляющий партнер адвокатского бюро «Духина и партнеры» «Китай, он, в общем, впереди планеты всей в этом смысле: и систематизировал практику, и дал указания судам, как и в каких случаях действовать, в частности в отношении случаев, когда действиями с помощью любого алгоритма был причинен ущерб. Например, вы с другом или подругой одновременно ищете один и тот же отель, покупаете билеты на самолет или вызываете такси из одной точки. И вдруг видите, что цены в приложении — ну или в той ссылке, на которую вы зашли, — у вас разные. Потому что у вас, например, техника подороже, телефон и история заказов побогаче. Алгоритм это проанализировал и решил, что вы можете заплатить больше, и выставил вам цену гораздо большую, чем подруге или другу. В Китае теперь это официально можно оспорить в суде, поскольку перед законом все потребители должны быть равны, значит, алгоритм не вправе устанавливать цены по своему усмотрению. Пример второй. Кто-то взял видео с вашим лицом или запись голоса из социальных сетей, прогнал все это через нейросетку. И вот уже вы в рекламе каких-нибудь, не дай бог, БАДов. А еще хуже — просите у мамы перевести деньги на карту. Китайский народный суд устанавливает, что совершенно неважно, заработали ли в этом случае те, кто запустил генерацию, или нет: если это было сделано без вашего согласия, это серьезное нарушение, и отвечать будет тот, кто это сделал. Также определены правила ответственности в отношении любых беспилотных систем — такси, доставка и прочее. Кто отвечает за ущерб? Презюмируется, что отвечать в большинстве случаев будет производитель и оператор — или водитель, только если нарушил правила дорожного движения или накосячил каким-то другим образом».

Отдельный раздел документа касается использования ИИ в судебном разбирательстве. Верховный народный суд ужесточил требования к цифровым доказательствам. Сторонам необходимо будет теперь доказать не только факт наличия записи или документа, но и то, что они не сгенерированы нейросетью или изменены с ее помощью.

Использование нейросетей для фальсификации доказательств или ведения фиктивных судебных процессов приравнено к препятствованию правосудию. За это может грозить уголовная ответственность.