Социальная сеть ВКонтакте объявила о запуске масштабного эксперимента для борьбы с оскорблениями и травлей в комментариях при помощи нейросети. Он пройдёт сегодня, 4 ноября, когда в России отмечается День народного единства.
В течение суток команда ВКонтакте протестирует две новые функции на основе искусственного интеллекта, которые должны защитить пользователей социальной сети от нетерпимости и травли в комментариях. В рамках однодневного эксперимента администраторы сообществ смогут включить в настройках специальный фильтр враждебных высказываний, который с помощью нейросети будет определять и удалять комментарии, содержащие угрозы — от пожеланий смерти до оскорблений по национальному признаку или религии. А участники сообществ при написании комментария получат предложение отказаться от обидных реплик, если нейросеть заметит в их сообщении признаки оскорблений. Сохранится и возможность сообщить модераторам об оскорбительных публикациях или комментариях с помощью кнопки «Пожаловаться».
Стоит отметить, что в прошлом году ВКонтакте уже проводила подобный однодневный эксперимент. Тогда за сутки удалось снизить количество оскорблений в комментариях на 36%. Но на этом социальная сеть останавливаться не собирается и планирует запустить долгосрочный тест, по результатам которого будет принято решение о дальнейшей судьбе новой функции.
В течение суток команда ВКонтакте протестирует две новые функции на основе искусственного интеллекта, которые должны защитить пользователей социальной сети от нетерпимости и травли в комментариях. В рамках однодневного эксперимента администраторы сообществ смогут включить в настройках специальный фильтр враждебных высказываний, который с помощью нейросети будет определять и удалять комментарии, содержащие угрозы — от пожеланий смерти до оскорблений по национальному признаку или религии. А участники сообществ при написании комментария получат предложение отказаться от обидных реплик, если нейросеть заметит в их сообщении признаки оскорблений. Сохранится и возможность сообщить модераторам об оскорбительных публикациях или комментариях с помощью кнопки «Пожаловаться».
Стоит отметить, что в прошлом году ВКонтакте уже проводила подобный однодневный эксперимент. Тогда за сутки удалось снизить количество оскорблений в комментариях на 36%. Но на этом социальная сеть останавливаться не собирается и планирует запустить долгосрочный тест, по результатам которого будет принято решение о дальнейшей судьбе новой функции.
