ИТ-бизнес

“ВКонтакте” разрабатывает нейросеть для борьбы с враждебными высказываниями – ПРАЙМ, 20.08.2020

Социальная сеть “ВКонтакте” разрабатывает решение для автоматического распознавания материалов с хейтспичем — враждебными высказываниями — на основе искусственного интеллекта, говорится в сообщении компании.

“Новая нейросеть поможет быстрее находить материалы с враждебными высказываниями, а также публикации, которые провоцируют аудиторию проявлять агрессию. Нейросеть учится определять самые разные категории оскорблений и угроз. Среди них — проявления ксенофобии, расизма, гомофобии, сексизма и других предрассудков, а также оскорбления на почве религиозной принадлежности, возраста, внешности или наличия заболеваний”, — уточняется в сообщении.

Технология призвана ускорить время обработки жалоб и помочь пользователям реже сталкиваться с проявлениями нетерпимости.

Чтобы усилить модерацию по теме языка ненависти и обучить искусственный интеллект, соцсеть добавила новую категорию жалоб — “Враждебные высказывания”. Пользователь может выбрать её, если нажмёт кнопку “пожаловаться” у оскорбительной публикации. После этого материал попадёт на рассмотрение к модераторам, что позволит позволит точнее откалибровать уже существующие инструменты и собрать новые на основе нейросетей.

Помимо этого, команды модерации и поддержки не только реагируют на жалобы, но и проводят проактивный внутренний мониторинг — в частности, с помощью механизмов автоматического поиска, технологии цифровых отпечатков и нейронных сетей, отметили в компании.

За первую половину 2020 года на платформе было удалено 520 тысяч единиц контента по теме разжигания вражды и ненависти, а также заблокировано 1340 профилей и 2470 сообществ, распространяющих враждебные высказывания.

 

Источник

Похожие статьи

Кнопка «Наверх»
Закрыть
Закрыть