Наблюдательный совет Meta признал текущую систему маркировки дипфейков провальной
По данным Engadget, Наблюдательный совет Meta опубликовал решения по серии новых инцидентов с генеративным видео и признал текущую политику платформы в отношении ИИ-контента неадекватной.
Маркировка не работает как защита
Рост числа дипфейков вскрыл структурную несостоятельность схемы, в которой маркировка возложена на загружающего, а не встроена в процесс верификации.
Где ломается конвейер
Архитектура текущей проверки примитивна. Загруженный файл анализируется на наличие метаданных или явных текстовых меток. Если пометки нет — система пропускает контент без дополнительного вмешательства. На этом стыке и возникает разрыв: дисциплина маркировки держится исключительно на доброй воле автора, а не на обязательной процедуре распознавания синтетического происхождения. Без сигнала на уровне модели-инференса любая генерация обходится одним удалением атрибуции — достаточно базового редактора метаданных.
Совет рекомендовал Meta ужесточить модерацию и сместить приоритет на проверку именно помеченного ИИ-контента. Логика решения обратная традиционной: подозрение должно вызывать не то, что скрыто, а то, что заявлено как синтетическое. Это сдвиг от пассивной фильтрации к активной валидации, где каждый флаг требует ручной или автоматической перепроверки. Для инженерной команды Meta это означает переписывание приоритетов очередей модерации и рост нагрузки на ревьюеров.
Что отслеживать дальше
Корпоративная самопроверка проигрывает скорости выхода новых моделей. Пока инженеры Meta перестраивают конвейер, очередная волна дипфейков уже проходит дистрибуцию. Радикального решения на уровне одной платформы не существует — есть только последовательное ужесточение правил, которое обречено догонять генеративные инструменты.
Аудитории остаётся опираться на собственные методы верификации: проверку происхождения через обратный поиск, чтение метаданных файла, сопоставление с эталонными источниками. В текущих условиях маркировка — индикатор повышенного риска, а не гарантия подлинности. Данные показывают, что период между публикацией синтетического видео и его разоблачением измеряется часами, а не минутами — этого достаточно для массового охвата до того, как модерация отреагирует.
