ОНТ Онлайн-вещание Онлайн-вещание
Telegram youtube tiktok Instagram vk Одноклассники facebook music.yandex
карта сайта Версия для слабовидящих
ОНТ Онлайн-вещание Онлайн-вещание Онлайн-вещание
  • Президент
  • Новости
  • Программы и проекты
  • Телепрограмма
  • О компании
Главная / Новости / Новости технологий
26.11.2024, 18:20 Обновлено: 30.08.2025, 14:59

В «Одноклассниках» сократили «токсичность» в комментариях. Помог искусственный интеллект

Добавить в основные
источники Google

Социальная сеть «Одноклассники» (ОК) стали временно ограничивать пользователей, которые пишут оскорбительные комментарии. Разработка на основе машинного обучения позволила сократить долю и количество негативных высказываний под постами, фотографиями и видео на 47%.

«Одноклассники» внедрили модель машинного обучения, позволяющую автоматически выявлять «токсичные» комментарии и ограничивать их авторов в написании новых на определенный промежуток времени – от одного часа до 24 часов, в зависимости от того, как часто пользователь оставляет негативные высказывания в адрес других.

По данным исследования ОК, негативные посты вызывают злость у более чем 40% пользователей, принявших участие в опросе. ML-модель была обучена на 400 тысячах высказываний, которые можно описать как недружелюбные или провоцирующие негативную дискуссию. Чтобы выяснить, какие комментарии, по мнению пользователей ОК, «токсичны» и нежелательны, соцсеть провела исследование среди своей аудитории. Запуск ML-модели позволил сократить время обработки жалоб на токсичные посты в три раза и быстрее помочь людям с решением их проблем.

«Мы видим по запросам пользователей, что у нашей аудитории есть потребность в пространстве для безопасного и уважительного общения: треть всех жалоб на платформе связаны с негативными, по мнению пользователей, комментариями, а 80% обращений в службу поддержки по поводу комментариев нацелены против "токсичности". Мы обучали эту модель больше года и продолжим совершенствовать ее в дальнейшем. Вместе с другими продуктовыми решениями, которые мы внедрили за последние два года, ограничение "токсичных" комментаторов позволит соцсети не только быстрее вернуть на платформу редко посещающих ОК пользователей, но и привлечь новых», – прокомментировал нововведение директор по продукту ОК Александр Москвичев.
 

Ранее в этом году соцсеть начала автоматически обнаруживать на платформе нецензурные слова и скрывать их, а также размывать изображения эротического характера. ОК используют модерацию на базе машинного обучения, чтобы ограничивать другой нежелательный и неприемлемый контент. Например, блокируют то, что предназначено для аудитории 18+, размывают и удаляют фотографии со сценами насилия. В прошлом году соцсеть также запустила ML-модель, ограничивающую навязчивые знакомства и общение с нежелательными собеседниками на площадке.

Фото: Pixabay / носит иллюстративный характер  

Теги

Новости технологий Общество Россия Соцсети

Еще по теме

22.11.2024
10 лет лишения свободы грозит организатору «голой вечеринки» Игорю Мишину
22.11.2024
В WhatsApp появилась функция расшифровки голосовых сообщений

Для обеспечения удобства пользователей сайта используются cookies

Подробнее
Принять
Отклонить
О компании
  • Команда ОНТ
  • История ОНТ
  • О радио
Реклама и услуги
  • Размещение рекламы на радио «Центр FM»
  • Размещение рекламы на телеканале ОНТ
Вакансии
  • Вакансии ОНТ

Общенациональное телевидение, 220029, 
г. Минск, ул. Коммунистическая, 6

217-04-24 (горячая линия), 
290-66-72 (приемная)

ont@ont.by (приемная), reklama@ont.by 
(дирекция продаж и маркетинга)

2002—2026 © ЗАО «Второй национальный телеканал». При любом использовании материалов активная индексируемая гиперссылка на «ONT.BY» обязательна.

Разработка сайта — 

Белта
Telegram youtube tiktok Instagram vk Одноклассники facebook music.yandex