Проблема: Токсичность в интернете. Интернет тролли не дают покоя адекватным пользователям, а модераторы не всегда справляются с удалением токсичного контента Решение: Разработать систему удаления материалов на основе ИИ. Обучить искусственного модератора на основе имеющихся хороших и плохих материалов для дальнейшей фильтрации контента.
Это уже применяется, но не повсеместно. Так еще есть проблема ложной трактовки сообщения. Главный критерий для ИИ сейчас - наличие мата в комментариях.
Это давно используется во многих соц.сетях, на некоторых сайтах. Вносится определенный список «запретных» слов, если пользователь их использует, то чаще всего он попадает в чёрный список, а комментарии удаляются.