«Одноклассники» начали автоматически скрывать эротические изображения
Для обучения модели машинного обучения ОК провели опрос среди пользователей, предложив им оценить откровенность изображений и выразить желание или нежелание видеть их в соцсети. В результате были разработаны две модели: одна сканирует картинку и определяет ее визуальное содержание, вторая относит контент к определенному типу и решает, размывать его или оставить в первоначальном виде. Для обучения моделей было использовано более 6 миллионов файлов.
«Создание комфортной среды для взаимодействия пользователей — один из главных приоритетов ОК. За последние два года мы реализовали десятки улучшений в продукте, которые позволяют людям чаще общаться, смотреть видео, комментировать и знакомиться друг с другом на площадке, не опасаясь грубости, неприемлемого контента или навязчивых знакомств. Теперь благодаря помощи наших пользователей и технологиям люди в ОК будут видеть еще меньше нежелательного контента», — отметил директор по продукту ОК Александр Москвичев.
«Одноклассники» определили категории изображений, которые можно показывать пользователям соцсети. В результате, обновление не затрагивает изобразительное искусство, фотографии спортсменов и пляжные снимки пользователей. Но пользователи все также смогут пожаловаться на нежелательный и неприемлемый контент любой категории в интерфейсе соцсети или через обращение в службу поддержки.
Ранее «Одноклассники» ввели новую функцию, которая автоматически заменяет нецензурные слова звездочками. Это делается для создания более комфортной и безопасной среды в соцсети и снижения уровня токсичности в общении.
Самые важные и оперативные новости — в нашем телеграм-канале «Ямал-Медиа».