Искусственный интеллект займётся модерацией контента в Facebook

Искусственный интеллект займётся модерацией контента в Facebook

Социальная сеть Facebook представила абсолютно новую систему модерации содержания выставляемых пользователями постов, основанную на возможностях искусственного интеллекта (ИИ). Подробности – в материале Информ-UA.

Новый метод, как сообщили в компании Facebook, пока проходит тестирование. Если он окажется действенным, более всего опасные и травмирующие людей посты будут моментально автоматически удаляться.

Фейсбук

Как пишет издание «Хайтек», все публикации, нарушающие правила соцсети, а это – размещение спама, материалов, разжигающих ненависть или пропагандирующих насилие, будут вычисляться искусственным разумом по заданным алгоритмам. Те публикации, в которых ИИ будет сомневаться, будут отправляться на просмотр модераторам Facebook. По всему миру их в данное время работает более 15 тысяч человек.

Несмотря на столь большой и профессионально подготовленный штат, в адрес модераторов со стороны пользователей и ряда СМИ поступала критика и жалобы,

Ранее сотрудники Facebook просматривали размещаемые пользователями посты по факту их публикации. Этот подход в компании решили изменить, чтобы на рассмотрение сначала попадали публикации с наибольшим охватом. Специально разработанная программа на базе ИИ будет отбирать посты по ряду заданных критериев. В первую очередь, оценивать вирусность материалов, а потом – вероятность нарушения правил соцсети.

Отмечено, что новый метод проверки контента позволит удалять «вредные» для пользователей материалы, а сомнительные, потенциально опасные – помечать для первостепенного рассмотрения модераторами.

Это ускорит процесс удаления контента, в котором так или иначе есть призывы к террористической деятельности, эксплуатации детей или другими проявлениями какого-либо насилия. Спам будет рассматриваться в последнюю очередь, так как подобные посты раздражают пользователей, но не несут реальной опасности для психики людей.

В целом, отметили в Facebook, алгоритмы, прописанные для ИИ, позволяют системе эффективно оценить любой пост — текстовой или иллюстрированный, и даже содержание видеоматериалов.

]]>

admin