Система определения экстремистского контента может выйти за рамки цензуры.

Как сообщает TechCrunch, Facebook, Microsoft, Twitter и YouTube объявили о намерении скооперироваться, чтобы помочь друг другу ограничить распространение террористического контента в интернете. Компании заявили о намерении создать общую базу данных, которая будет использоваться для идентификации такого рода контента, включая и то, что компании называют «экстремистскими и призывающими к терроризму фото, видео и публикациями».

По словам Facebook, это будет выглядеть как обширная хешируемая база данных с использованием уникальных отпечатков пальцев. Благодаря им идентификация и удаление контента будет производиться быстрее и эффективнее компьютерными системами и алгоритмами компаний.

Такая система схожа с системой ограничения распространения, например, детского порно. Если в двух словах, то каждой единице контента присваивается уникальный идентификатор. Если при анализе других файлов выявляется схожесть с первоначальным, им присваивается тот же идентификатор, и на этой основе контент блокируется. Подобная схема используется и для защиты авторских прав.

Основное отличие антитеррористической системы состоит в том, что предположительно экстремистский контент не будет удаляться сразу. Вместо этого компании будут определять судьбу публикаций, фото и видео, основываясь на собственной политике размещений и разработанной «системе антитерроризма», которая может выйти за рамки цензуры.