Система «Вепрь» найдет опасный контент в Сети. Это поможет бороться с фейками, но есть недостатки
Эксперт по кибербезопасности Курочкин: информационная система «Вепрь» будет вычислять «скандальные посты»
Актуальная система
В России готовится запуск новой информационной системы «Вепрь». Ее разработка длится уже второй год, сейчас система проходит внутренние тестирования. По данным «Известий», «Вепрь» будет искать потенциальные точки напряженности в интернете, которые могут перерасти в реальные угрозы.
Разработка начнет работать в паре с другой системой — «Окулус». Ее запустили в начале 2023 года. Задачи «Окулуса» — выявлять фотографии и видеоролики, на которых, например, есть призывы к суициду, пропаганда наркотиков и экстремизм.
В пресс-службе Главного радиочастотного центра (ГРЧЦ), подведомственного Роскомнадзору, рассказали, что системы помогут быстрее находить запрещенных контент и пресекать его. Сейчас это особенно актуально. Скорость распространения фейков в соцсетях после начала СВО бьет рекорды, сообщили в ГРЧЦ. Ложную информацию блокируют, но полностью очистить от нее интернет без искусственного интеллекта нереально.
Облегчит работу и сделает Сеть безопасной
Эксперт по кибербезопасности Алексей Курочкин пояснил, что «Вепрь» будет вычислять не только фейковый контент, но и «скандальные посты», в которых есть оскорбления российских чиновников и ведомств.
В беседе с «Ямал-Медиа» он отметил, что система облегчит работу специалистов, которые выявляют запрещенные материалы вручную. «Вепрь», по его словам, сможет анализировать до миллиона страниц во «ВКонтакте» и вычислять незаконный контент. Решать, что с ним делать, будет человек.
Большой объем данных человек пересмотреть, прочитать, переработать не может. <…> Принимать решение о конкретных действиях, «реакции» или «не реакции» (что делать с выявленным контентом — прим. ред.) будет живой человек.
Алексей Курочкин
эксперт по кибербезопасности
Искусственный интеллект сможет выполнять «рутинные процедуры» и искать запрещенный контент по различным ключевым словам, рассказал «Ямал-Медиа» эксперт по кибербезопасности и директор департамента информационной безопасности Sitronics Group Александр Дворянский.
«Это могут быть фейковые сообщения (которые будет вычислять «Вепрь» — прим. ред.), сообщения, которые не носят под собой какой-то проверенной информации, либо различные подстрекательства, которые так или иначе присутствуют в Сети. Ну и любые запрещенные материалы, которые могут на массу оказывать влияние. <…> То есть эти вещи вполне себе можно автоматизировать», — пояснил специалист.
Несовершенная система
Дворянский считает, что оценивать возможные недочеты новой разработки пока преждевременно. Он отметил, что подобные системы есть в других странах и они успешно справляются с поставленными задачами.
Но есть опасения, что неправильное использование системы может дать обратный эффект — законные материалы будут признаваться запрещенными, рассказал специалист отдела комплексных систем защиты информации компании «Газинформсервис» Дмитрий Овчинников.
«Если задать слишком жесткие метрики, то подобная система будет работать лишь немногим лучше, чем группа живых операторов. Если же метрики сделать слишком свободными, то тогда будет совершенно обратный эффект», — пояснил он.
В то же время благодаря умению системы «Вепрь» мониторить настроения людей в Сети по комментариям можно будет предотвращать преступления в школах, отметил Овинников.
«Если вовремя предвидеть проблему, можно заранее ее предотвратить, что существенно снизит социальную напряженность и увеличит стабильность работы государственных органов», — заключил эксперт.
Самые актуальные новости — в нашем телеграм-канале «Ямал-Медиа».