TikTok подсовывал подросткам кнопку-плацебо для сброса ленты, утверждает Нью-Йорк

Когда тысячи пользователей TikTok, в том числе подростки и дети, нажали в приложении кнопку, чтобы очистить рекомендации и начать всё сначала, ничего не произошло — об этом говорится в недавно рассекреченных материалах судебного иска Нью-Йорка против компании. Пользователям показывали сообщение о том, что перезагрузка прошла успешно. Но в ленте For You им по-прежнему попадались видео того же типа.

Инструмент, оказавшийся в центре обвинений, — Algo Refresh — один из немногих способов, которыми TikTok позволяет пользователю изменить ленту, если та увела его туда, где он больше не хочет находиться. Предполагается, что после его применения страница For You должна выглядеть так, словно аккаунт только что создан. По утверждению Нью-Йорка, некоторых пользователей, воспользовавшихся этой функцией, включили в тестовую группу и предоставили им версию, которая ничего не меняла, тогда как для пользователей за пределами эксперимента перезагрузка работала.

В иске говорится, что затем TikTok сравнил две группы по времени, проведённому в приложении, и доходам от рекламы. Там же приводится возражение, высказанное внутри компании. Менеджер по продукту из команды TikTok Digital Well Being написал в чате: «Эта функция нужна для прозрачности алгоритма и контроля над ним», добавив: «Группа плацебо полностью противоречит этой цели». Нью-Йорк также утверждает, что даже работавшая перезагрузка давала лишь временный эффект.

TikTok отвергает эту версию. Представитель компании сообщил Reuters: «Мы регулярно тестируем новые продукты и функции, чтобы проверить пользовательский опыт и понять, как они работают в реальных условиях», — и заявил, что иск искажает принцип работы Algo Refresh. В судебном документе компания признала, что в ходе тестов «часть трафика платформы могла продолжать получать исходный вариант интерфейса», однако отрицала, что это делало таких пользователей менее защищёнными.

Впрочем, известны далеко не все обстоятельства. Это утверждения из дополненной жалобы, а не выводы суда; в опубликованных на данный момент фрагментах не указано, сколько человек попало в группу плацебо, как долго шёл тест и к каким результатам он привёл. Сравнение изменений с контрольной группой — стандартная практика во всей технологической отрасли. Спорный вопрос заключается в том, допустимо ли вообще таким образом тестировать инструмент безопасности, которым пользуются несовершеннолетние. Дело касается Нью-Йорка, но в обнародованных материалах, о которых сообщалось до сих пор, не сказано, где жили пользователи, участвовавшие в тесте.

Для тех, кто пользуется этой кнопкой сейчас, практический вывод проще. Перезагрузка не доказывает, что алгоритм вас забыл. Фильтры по ключевым словам, настройка ограничения контента и возможность скрывать отдельных авторов — отдельные инструменты управления, и после перезагрузки они остаются включёнными.

Согласно материалам дела, описанные тесты проходили в 2023 году — в том же году TikTok запустил функцию обновления ленты For You. Генеральный прокурор штата Нью-Йорк Летиция Джеймс впервые подала иск против компании в октябре 2024 года. Обвинения, связанные с группой плацебо, содержатся в дополненной жалобе, поданной под грифом секретности в конце августа; позднее судья распорядился её рассекретить. Об этом Reuters сообщило 7 октября.

В материалах дела описан и другой эксперимент. В августе Bloomberg сообщил, что TikTok не предоставил отдельное обновление безопасности примерно 10% пользователей в США — около 15 миллионов человек, — и что 16-летний житель Нью-Йорка из этой группы покончил с собой в 2022 году. Ни один суд не установил связи между его смертью и тестированием.

Против TikTok подали иски более двух десятков штатов США: они обвиняют компанию в том, что она разработала приложение так, чтобы оно затягивало детей, и вводила семьи в заблуждение относительно инструментов безопасности. Алабама, дело которой первым должно было дойти до суда, в сентябре заключила мировое соглашение на сумму до 300 миллионов долларов. Дату слушаний по делу Нью-Йорка пока не объявляли.

Теги: Нью-Йорк, tiktok, соцсети, Algo Refresh, безопасность детей, Рекомендации