Дипфейки предлагают останавливать раньше проверки

Главный радиочастотный центр Роскомнадзора предложил новый подход к борьбе с дипфейками в соцсетях. Идея в том, чтобы площадки могли самостоятельно выявлять и временно блокировать вирусный ИИ-контент ещё до того, как его достоверность подтвердят или опровергнут доверенные источники.

Речь идёт не о спокойной модерации уже после жалоб, а о реакции в момент, когда ролик или изображение быстро набирают охваты. Представитель ГРЧЦ Станислав Махортов объяснил это тем, что дипфейки могут распространяться быстрее обычных новостей, а значит, ждать полноценной проверки бывает слишком долго.

По сути, соцсетям предлагают дать возможность нажимать на паузу раньше, чем станет окончательно понятно, фейк перед ними или нет. В теории это может снизить вред от вирусных подделок. На практике у такого подхода сразу появляется несколько сложных вопросов.

Где начинается главная проблема

Участники рынка предупреждают: точного и надёжного способа автоматически отличать дипфейки от настоящих фото и видео пока нет. Современные генеративные модели быстро улучшаются, а ИИ-детекторы не всегда успевают за ними.

Из-за этого под ограничения могут попасть не только подделки, но и реальные материалы. Для соцсетей это уже не просто техническая задача, а риск конфликтов с пользователями: если настоящий ролик ошибочно ограничат или удалят, владелец контента может потребовать объяснений.

Ещё одна сложность — масштаб. Соцсети ежедневно обрабатывают огромные объёмы изображений и видео, и ручная проверка всего подозрительного контента выглядит почти нереалистично. Значит, без автоматизации не обойтись, но именно к ней у рынка больше всего вопросов.

Что ещё предлагают

Среди идей ГРЧЦ также упоминаются база технологических угроз для просвещения пользователей и обязательная маркировка сгенерированного контента до его распространения. Это уже ближе не только к блокировкам, но и к попытке заранее обозначать материалы, созданные с помощью ИИ.

Отдельно обсуждается вариант не полного удаления, а временного ограничения охватов подозрительного контента до проверки. Такой сценарий выглядит мягче, чем немедленная блокировка, но тоже требует понятных правил: кто решает, что считать подозрительным, сколько длится проверка и как пользователь может оспорить ограничение.

Контекст здесь важный. В марте 2026 года Минцифры уже представляло законопроект о регулировании искусственного интеллекта, где соцсети должны были проверять маркировку нейросетевого контента и удалять нарушения. Бизнес выступал против, ссылаясь на техническую сложность и расходы на модерацию. В мае 2026 года эту норму смягчили: обязанность проверять маркировку с площадок убрали, а ответственность перенесли на владельцев нейросетей.

Теперь обсуждение фактически возвращается к той же проблеме, но с другой стороны: не только кто должен маркировать ИИ-контент, но и кто должен быстро останавливать его распространение.

Что остаётся неясным

Пока ключевой вопрос — критерии. Без понятных правил соцсети могут либо блокировать слишком много, чтобы перестраховаться, либо наоборот действовать осторожно и пропускать часть вредных дипфейков.

Для пользователей это тоже чувствительная тема. Одно дело — ограничить очевидную подделку, другое — временно скрыть реальное видео только потому, что алгоритм счёл его подозрительным. В таких историях цена ошибки может быть заметной и для человека, и для площадки.

Сама идея быстрее реагировать на вирусные дипфейки понятна. Но она будет работать только если рядом появятся прозрачные процедуры проверки, обжалования и маркировки. Иначе борьба с подделками легко превратится в ещё один спор о том, где заканчивается безопасность и начинается чрезмерная модерация.

История с дипфейками всё меньше похожа на разговор только о технологиях. Главная проблема уже не в том, что ИИ умеет создавать подделки, а в том, как быстро они расходятся по соцсетям. Поэтому следующий спор, похоже, будет не только о маркировке, но и о праве площадок ограничивать контент ещё до окончательной проверки.

Сама идея быстрее реагировать на вирусные дипфейки понятна. Если поддельное видео уже разошлось по соцсетям, опровержение часто приходит слишком поздно. Но без прозрачных правил такая система быстро упрётся в другую проблему: кто и на каком основании решает, что материал подозрительный.

Более осторожным вариантом выглядит не мгновенное удаление, а временное ограничение охватов до проверки. Но и здесь нужны понятные сроки, возможность обжалования и ответственность за ошибки. Иначе борьба с дипфейками легко превратится в спор о том, где заканчивается защита пользователей и начинается чрезмерная модерация.

Источник: rb.ru