Perplexity показывал рискованные магазины в 15% ответов, ChatGPT — в 8%

Спросите чат-бота с искусственным интеллектом, где купить онлайн товары какого-нибудь бренда, — и в ответе может оказаться поддельный магазин, продавец контрафакта или старый домен бренда, который теперь принадлежит кому-то другому. В новом исследовании ChatGPT, Gemini и Perplexity проверили на тысячах вопросов о покупках: все три сервиса предлагали такие сайты, а небольшие бренды оказывались самой лёгкой мишенью. Если в этом сезоне вы поручили чат-боту искать подарки, относитесь к полученной от него ссылке с той же осторожностью, что и к сообщению от незнакомца.

Исследование провела Podqi — компания, защищающая интеллектуальную собственность брендов. Его результаты эксклюзивно передали изданию The Verge. Podqi задавала чат-ботам вопросы, которые мог бы ввести любой покупатель: на каких сайтах лучше покупать товары конкретного бренда, где найти их онлайн и доставляет ли бренд за границу через региональные сайты. Определение сомнительного сайта было намеренно широким: оно охватывало страницы, выдающие себя за настоящих продавцов, магазины с контрафактом, просроченные домены брендов, заново зарегистрированные посторонними людьми, а также заброшенные сайты, которые может купить и использовать кто угодно.

Хуже всех выступил Perplexity: сомнительный сайт встречался в 15% его ответов. У ChatGPT показатель составил 8%, у Gemini — 4%. Всего проанализировали 6 795 ответов о 151 бренде: от Lululemon, Birkenstock и Le Creuset до марок уличной одежды Stüssy и Madhappy. В эти цифры включены все случаи упоминания, в том числе те, когда чат-бот называл сомнительный сайт, чтобы предостеречь от него. ChatGPT оказался самым осторожным из трёх сервисов, однако предупреждал лишь о 24% сомнительных сайтов, которые предлагал.

Больше всего проблем возникало с запросами о региональных интернет-магазинах. Когда пользователи просили найти магазин для конкретной страны, чат-боты порой указывали региональные сайты брендов, у которых таких сайтов нет. В одном из диалогов Perplexity назвал неправильную страницу официальным сайтом Stüssy и охарактеризовал её как «лучшее место, с которого стоит начать, если нужны гарантированно подлинные товары». В ответах на запросы о крупных компаниях сомнительные сайты появлялись примерно вдвое реже, чем в ответах о небольших брендах. Получается, чем менее известна марка, тем проще самозванцу попасть в ответ.

Формат только усугубляет проблему. Страница поисковой выдачи показывает несколько вариантов, оставляя выбор за вами. Чат-бот же уверенным тоном называет один-два магазина — так, словно лично их рекомендует. Компании, разрабатывающие ИИ, активно продвигают своих помощников для поиска товаров и сравнения цен. А именно в этот момент покупатель уже готов ввести данные банковской карты.

У исследования есть очевидные ограничения. Podqi составила собственные запросы вместо того, чтобы анализировать реальные диалоги пользователей; кроме того, один из проверенных брендов, Madhappy, — клиент Podqi. Компания также продаёт услуги по защите брендов, поэтому ей выгодно, если проблема самозванцев выглядит серьёзной угрозой. Результаты не показывают, сколько людей перешли по сомнительной ссылке или потеряли деньги, и отражают работу моделей, которые меняются каждые несколько недель.

Компании прокомментировали результаты официально. Google заявил, что рад лучшему результату Gemini, и отметил, что сервис показывает ссылки на источники, позволяя пользователям проверять ответы. OpenAI сообщил, что совершенствует меры защиты, чтобы сомнительные сайты реже появлялись в ответах о покупках. Perplexity отстоял точность своих ответов и подчеркнул, что никогда не заявлял о стопроцентной точности.

Эти результаты вписываются в более общую картину. В сентябре компания по кибербезопасности Eset предупредила: мошенники создают целые потоки страниц, напичканных ключевыми словами, чтобы ИИ-инструменты могли собирать с них информацию и выдавать её пользователям за надёжный совет. Сооснователь Podqi Тревор Уэст (Trevor West) даёт простой совет: «всегда лучше проверить источник», прежде чем вводить личные данные или данные банковской карты. Испытания прошли в два этапа в сентябре, и их сроки важны для покупателей во всех странах, где работают эти чат-боты: 27 ноября наступает Чёрная пятница, а 30 ноября — Киберпонедельник, и миллионы людей впервые зайдут в незнакомые магазины.

Теги: OpenAI, Gemini, chatgpt, онлайн-покупки, Perplexity, мошенничество