Российская соцсеть (сеть (сокр) "Одноклассники" внедрила новоиспеченную технологию для борьбы с агрессивными высказываниями и разжиганием розни в комментариях. Система, построенная на базе нейросети, будет анализировать публичные сообщения на присутствие угроз, оскорблений, травли по национальной или религиозной принадлежности и другого токсичного содержимого, после чего направлять их модераторам на проверку.
Проверяться будет не лишь текст, но и прикрепленные к записи изображения. ИИ проанализирует картинку, а при наличии шокирующего контента и актов насилия — заблокирует ее после проверки.
"Все лозунги к разжиганию ненависти и ксенофобии по отношению к любой нации или другой группе людей, в том числе с использованием нецензурной лексики, а также угрозы иным пользователям будут блокироваться", — пояснили "Смотрим" в пресс-службе компании.
Записи будут проверяться в самодействующем режиме. В случае, если будет зафиксировано нарушение, авторам враждебных комментариев временно запретят участвовать в любых дискуссиях. Пользователю, какой снова попытается проявить агрессию, покажут уведомление и ссылку на правила поведения в соцсети.
"Миролюбивая" нейросеть уже запущена в десктопной версии "Одноклассников". В приложениях на iOS и Android эта функция заработает в ближайшее время.