Законы о цифровой безопасности: как платформы будут защищать пользователей

По данным The Conversation и Phys.org, федеральное правительство Австралии представило проект закона о «цифровой обязанности заботы» — правила, которые должны заставить онлайн-платформы учитывать безопасность пользователей не после скандала, а ещё на этапе проектирования сервисов. Под ударом — соцсети, генеративные ИИ-сервисы, мессенджеры, сайты и интерактивные игры. Для тебя это может означать меньше автоматического «тебе точно понравится» и больше формального контроля над тем, как платформы удерживают внимание.

Алгоритм больше не единственный хозяин ленты

Главная практическая мера касается Facebook, Instagram и TikTok. Платформы должны будут предложить пользователю выбор: оставить персонализированную ленту, которую формирует рекомендательный алгоритм, или перейти к режиму, где показываются публикации только друзей и аккаунтов, на которые человек подписан.

Ожидается, что выбор появится в виде всплывающего окна при использовании соцсетей. Формально это выглядит как маленькая настройка. По сути — попытка вытащить на свет божий главный корпоративный фокус: дофаминовую петлю, замаскированную под «персональный опыт».

Можно будет и дальше выбрать алгоритмическую ленту. В этом и состоит политический маркетинг инициативы: государство не обещает отключить рекомендации, а требует хотя бы показать пользователю дверь наружу. Дальше — сам решай, заходить ли обратно в бесконечный скролл.

Под контроль попадут не только публикации

Проект предусматривает обязанность цифровых сервисов защищать всех пользователей от серьёзно вредного и незаконного контента. В описании инициативы упоминаются материалы, связанные с сексуальной эксплуатацией детей, грумингом, пропагандой сексуального насилия, поддержкой терроризма, поощрением преступлений, употребления запрещённых веществ и особо жестокого поведения.

Для детей и подростков список шире. Платформы должны будут учитывать не только содержание публикаций, но и функции, способные формировать зависимое использование. Отдельно названы порнография, материалы, поощряющие расстройства пищевого поведения, враждебность к женщинам и гендерному равенству, опасные трюки, травлю и харассмент.

Здесь начинается самое интересное. Корпоратам придётся анализировать не только то, что пользователь публикует, но и то, как устроен сам продукт: какие кнопки нажимаются автоматически, какие уведомления возвращают человека в приложение, какие рекомендации подталкивают к следующему ролику. Контентная модерация — вчерашний патч. Теперь речь идёт о дизайне всей машины.

Компании также должны будут регулярно оценивать все разумно предсказуемые риски, включая опасные материалы и функции интерфейса. По запросу эти оценки нужно будет предоставить австралийскому комиссару по электронной безопасности в течение 30 дней.

У ведомства появятся и дополнительные полномочия: например, возможность требовать удаления приложений и сайтов, которые используют «обнажение» людей с помощью цифровых инструментов. Также планируется упростить действующие механизмы рассмотрения случаев кибербуллинга детей и онлайн-абьюза взрослых.

Австралия догоняет европейский регуляторный поезд

Законопроект пока остаётся проектом. Его принятие не гарантировано, а детали могут измениться. Но направление уже считывается без лупы: платформы хотят оценивать не только по тому, удаляют ли они запрещённые посты, но и по тому, какие поведенческие механики встроены в сервис.

Похожий подход действует в Великобритании и Европейском союзе. В ЕС с 2024 года Digital Services Act используется, в частности, для проверки потенциально зависимых функций платформ Meta. Недавно европейские законодатели потребовали, чтобы Meta изменила дизайн своих сервисов, который они считают аддиктивным.

Для пользователя вывод прозаичный и неприятно полезный: следи не только за тем, что появляется в ленте, но и за тем, почему именно это появилось. Если соцсеть начнёт предлагать выбор между алгоритмическими рекомендациями и публикациями подписок, не кликай автоматически — это не новый кликбейт, а редкий момент, когда интерфейс обязан спросить тебя напрямую.

И да, не путай цифровую безопасность с паникой вокруг рынков: почему падение курса биткоина не повод для паники — отдельная история. Здесь ставка не на курс монеты, а на курс твоего внимания.