В России собираются маркировать ИИ-контент: что известно о новом законопроекте
Почему хотят ввести закон о маркировке контента от искусственного интеллекта
О новых потенциальных ограничениях высказался член думского комитета Антон Немкин. Причина таких мер, по его словам, достаточно очевидна — попытка защитить пользователей от недостоверной информации, которая в огромном количестве генерируется искусственным интеллектом. Притом проверить ее зачастую крайне сложно, а данные могут быть выдуманы с нуля — что открывает простор для мошенников и специалистам по деструктивным психологическим операциям.
Депутат предложил следующую схему: ставить на такую информацию графические или водяные знаки — в таком случае российские ИИ-сервисы будут обязаны автоматически добавлять их на тексты, картинки, аудио и другой контент.
Однако механизм реализации пока точно не ясен — все упирается в экспертизу, которая должна работать по отработанному алгоритму. Поэтому заниматься этим, судя по всему, предстоит Роскомнадзору: который бы фильтровал вредный контент, в том числе, и в ручном режиме.
Что думают эксперты о маркировке ИИ-контента
«Считаю, что это очень важно и актуально. И делать это надо сейчас — откладывать нельзя, проект даже запаздывает», — говорит Мария Аверкиева, маркетолог-аналитик и специалист по клиентскому сервису и поведенческим факторам. По ее мнению, ситуация, когда нет понимания, человек или ИИ создает контент, противоречит тренду на честность и открытость.
Поэтому контент должен делиться на авторский и созданный нейросетями, о чем пользователь должен быть предупрежден. Для этого важно ввести юридическую ответственность: как, например, в случае с законностью аудио- и видеозаписи. В других странах такие законы уже есть или вскоре появятся — в Китае он уже действует, в Европе готовится, а вот США пока с этим не спешит. Тем не менее, уже точно есть, на что ориентироваться.
Как рассказала эксперт по информационному праву и регулированию искусственного интеллекта Марина Родимцева, депутаты далеко не в первый раз говорят о таком законопроекте. О планах маркировки до Антона Немкина говорили Антон Горелкин и Александр Хинштейн. Однако возникает ряд вопросов — к примеру, кто будет осуществлять маркировку? Другой момент, как она будет выглядеть: вотермарка, штрих-код, QR или другой набор символов.
«Самое интересное, можно ли подделать такую маркировку — чтобы применить на вполне легальный, сгенерированный без применения ИИ контент, и скомпрометировать автора», — задается вопросом эксперт.
«Я бы подождала опыт наших коллег. Например, того же Китая, либо опыт применения AI Act в Евросоюзе — для того, чтобы посмотреть, как будет обеспечиваться оборот контента», — подытожила Марина.
Самые важные и оперативные новости — в нашем телеграм-канале «Ямал-Медиа».