EU Kids Act удаляет функцию, которая сделала Character.AI привлекательным для подростков

Character.AI и Replika больше не смогут запоминать, что подростки рассказывают им. Закон ЕС о защите детей в цифровой среде (EU Kids Act) — предложенный Европейской комиссией регламент по цифровой безопасности, полный текст которого уже опубликован, — обязывает приложения-компаньоны на базе ИИ удалять память о любом разговоре с несовершеннолетним сразу после его завершения, если только эти данные напрямую не необходимы для защиты безопасности пользователя. Дизайн, который сделал эти приложения культурно значимыми для миллионов подростков, теперь запрещён европейским законодательством.

Положения о компаньонах идут дальше, чем просто удаление памяти. Платформы обязаны отключать эмоциональные функции-компаньоны по умолчанию для всех пользователей младше 18 лет. Любой элемент дизайна, который имитирует межличностные отношения, способствует эмоциональной привязанности или поощряет частое взаимодействие, прямо запрещён. Комиссия назвала точные механизмы, которые эти приложения используют для удержания подростков: непрерывность разговора, ощущение, что тебя знают, чувство, что ИИ заинтересован в жизни пользователя. Всё это должно быть удалено.

Закон охватывает гораздо больше, чем просто ИИ-чаты. Детям младше 13 лет запрещено пользоваться социальными платформами, онлайн-играми и ИИ-приложениями без разрешения родителей. Автовоспроизведение, бесконечная прокрутка и уведомления о взаимодействии в ночное время запрещены для всех пользователей младше 18 лет. Геолокация, доступ к микрофону и камеры должны быть отключены по умолчанию. Самостоятельное указание возраста больше не удовлетворяет требованиям верификации; платформы обязаны интегрировать сертифицированные в ЕС системы проверки возраста.

Рекомендуем прочитатьКаждый чат-бот в Европе теперь обязан сообщать, что он ИИ — или его создатель заплатит 15 миллионов евро

Character.AI уже объявила о введении родительского контроля и ограничений по времени сессий — шаги, предпринятые под растущим регуляторным давлением ещё до появления официального текста закона. Replika обязалась создать «границы в общении с компаньоном»: ИИ будет сообщать пользователям, что не может заменить человеческие отношения. Крупные платформы — Meta, Google, Snap, OpenAI — не сделали официальных публичных заявлений. Аналитики по соблюдению нормативных требований оценивают значительные затраты на редизайн для всех них. Meta, которая недавно урегулировала иск на сумму 17,1 миллиарда долларов в 47 штатах США по обвинениям в том, что её платформы были спроектированы так, чтобы вызывать зависимость у детей, сталкивается с дополнительными рисками по новым правилам.

Скептицизм имеет под собой веские основания. Закон о защите детей — это предложение, а не закон. Он вступит в силу после нескольких месяцев переговоров между Европейским парламентом и государствами-членами, и его окончательные положения, скорее всего, изменятся. Настоящая проверка возраста в масштабах Instagram или TikTok остаётся технически сложной задачей. Встраивание удаления памяти в ИИ-компаньоны, построенные на непрерывности, — более серьёзная инженерная проблема, чем могли ожидать регуляторы. Компании уже отмечают, что во многих реализациях чат-боты-компаньоны не сохраняют память между отдельными сессиями, что делает сферу действия запрета на практике неясной.

Более широкий контекст важен и для читателей за пределами Европы. В конце прошлого года Австралия запретила социальные сети для детей младше 16 лет. Сорок семь штатов США достигли совокупного урегулирования с Meta на сумму 17,1 миллиарда долларов по обвинениям в детской зависимости, и во многих штатах США действуют законы, ограничивающие доступ несовершеннолетних к социальным сетям. Закон ЕС о защите детей — самое агрессивное предложение на данный момент; его цель — не доступ, а сам эмоциональный дизайн.

Европейская комиссия опубликовала полный текст закона 19 сентября. Парламентские переговоры начнутся в октябре. После реализации компании будут обязаны в течение шести месяцев выявить существующие аккаунты пользователей младше 15 лет и либо перевести их в режим родительского контроля, либо деактивировать. Нарушения предусматривают штрафы в размере до 6% от годовой мировой выручки.

Теги: AI regulation, Character.ai, European Commission, AI chatbots, children digital safety, EU Kids Act

Похожее

Подростки сами просят ограничить их ИИ-компаньонов

Через 16,68 миллиарда долларов Meta вынуждена добавить ограничения по времени, которых Instagram избегал

ChatGPT запустил режим для подростков — родители могут ограничить, но не читать чаты

Скрывать хакерскую атаку в Европе теперь незаконно — производители обязаны сообщить за 24 часа

Индустрия «цифровых» поминок стоит пять миллиардов. Покойники ничего не подписывали

Люди обращаются к ИИ за помощью с психикой, потому что он отвечает, а не потому что помогает