ИИ научился определять оскорбления на Facebook, а мемы пока нет

Соцсеть Facebook научила искусственный интеллект определять оскорбительные публикации. Как утверждают в компании, точность составляет 95%. Именно в таком объеме технология может обнаруживать нежелательный контент без вмешательства живых модераторов. Однако модель пока не понимает мемы, говорится в отчете Community Standards Enforcement Report.

Компания потратила несколько лет на создание уникального алгоритма. Сейчас разработчики пытаются понять, каким образом можно удалять оставшиеся 5% оскорбительной информации.

Отмечается, что искусственный интеллект нашел 22 миллиона публикаций. Также исследователи выяснили, что самый сложный контент для него – тот, который основан на мемах и подсказках, которые модель пока определить не может. Facebook сейчас работает над тем, чтобы научить ИИ находить картинки, разжигающие ненависть.

Ранее сообщалось, что власти Соломоновых Островов запретили Facebook. Они объяснили необходимость ограничений «неоднозначными и спорными публикациями», которые содержали критику в адрес властей.