Amazon по одному заказу легинсов записал покупательнице «плоские ягодицы»

У Amazon есть страница, где перечислено, к каким выводам о вас пришли алгоритмы компании. Одна покупательница обнаружила там запись «плоские ягодицы». Вероятнее всего, она появилась после заказа легинсов со сборкой на ягодицах и соседствовала с заметками о вечеринках, которые женщина устраивала, и товарах, которыми она владеет. Скриншот, опубликованный ею в Threads, за сутки набрал больше миллиона просмотров и побудил тысячи людей проверить собственные аккаунты.

Перед ними предстала внутренняя кухня всех тех разделов «Рекомендуем вам», только изложенная обычными словами. Центр About You превращает покупки, поисковые запросы, отзывы о товарах, сохранённые списки и переписку с помощником Alexa for Shopping в короткие утверждения о том, кто вы такой. Их распределяют по категориям вроде «Предпочтения в товарах», «Интересы и увлечения», «Дом и семья». На основе этих сведений Amazon выбирает, какие товары, скидки и рекомендации вам показывать.

Многие записи звучат скучно: «Покупает в отделах женской одежды». «Вероятно, владеет роботом-пылесосом Shark». «Читает научно-популярную литературу разных направлений». Другие похожи на догадки незнакомца о вашей личной жизни. В комментариях к исходной публикации пользователи рассказали, что видели, например, такие записи: «у мужа худые ноги», «матерится, когда пугается» и «нравятся мускулистые брюнетки». Покупатели сами ничего подобного не вводили: каждое утверждение — это ярлык, выведенный из истории заказов.

Алгоритму рекомендаций не нужно знать, зачем вы купили утягивающие легинсы. Ему достаточно ярлыка, который можно сопоставить с другими товарами, а проще всего составить такой ярлык, сделав вывод о самом покупателе. Так профиль постепенно перестаёт описывать то, что вы покупаете, и начинает рассказывать, каковы, по мнению системы, ваше тело, ваш партнёр и ваш характер. Подарок другу, покупка для супруга или разовый заказ ради шутки могут превратиться в «факт» о владельце аккаунта.

Проверить собственный список можно меньше чем за минуту. В приложении Amazon Shopping откройте меню, выберите «Аккаунт», затем «Настройки покупок» и About You. На компьютере эта же страница находится в разделе «Ваш аккаунт», в настройках покупок. Amazon также сообщает, что можно спросить Alexa for Shopping: «Что ты знаешь обо мне?» — и обновить сведения прямо там.

Возможности управления не так широки, как может показаться. Amazon позволяет исправить запись, оставить о ней отзыв или удалить сведения, которые вы не хотите использовать для персонализации. Но это обещание касается того, что магазин показывает вам. Компания не утверждает, что вместе с ошибочным выводом удаляется и история покупок, на которой он основан, или что ярлык перестаёт влиять на рекламу в других подразделениях Amazon. На странице также не сказано, перечислены ли там все выводы компании о вас или только те, которые она решила показать. Удаление записи «плоские ягодицы» убирает предложение с экрана. Заказ, который к нему привёл, по-прежнему хранится в системе.

На странице до сих пор стоит пометка «бета», а опубликованные к этому моменту скриншоты сделаны в аккаунтах американского магазина Amazon. Компания не сообщила, видят ли такую же страницу покупатели в Европе, Индии, Японии и Латинской Америке. У клиентов из Евросоюза и Великобритании уже есть более широкое право, закреплённое законодательством о защите данных: они могут запросить у Amazon копию всех хранящихся о них персональных данных. Это гораздо больше, чем составленный компанией список заметок о характере и привычках.

Amazon представила About You в мае, а публикация в Threads, благодаря которой страница оказалась в центре внимания, разошлась в первую неделю октября — как раз тогда, когда распродажа Amazon Prime Big Deal Days в октябре принесла в ту же систему новую волну заказов. Amazon не сообщила, когда завершится бета-тестирование и появится ли на странице информация о том, какая именно покупка привела к каждому выводу. Каждый заказ, сделанный во время распродажи, становится сырьём для следующей записи.

Теги: amazon, конфиденциальность, онлайн-покупки, Alexa for Shopping, Amazon About You, Threads