Клонированные ИИ голоса гендиректоров выманили $129 млн у больниц и банков

Голос в трубке звучал точь-в-точь как голос начальника, а позвонивший следом юрист — как партнер одной из крупнейших юридических фирм мира. Но ни того ни другого не существовало, утверждают федеральные прокуроры Манхэттена. По их версии, трое мужчин с помощью искусственного интеллекта подделывали голоса руководителей компаний и адвокатов, убеждая бухгалтеров больниц, банков и других компаний переводить деньги за конфиденциальные сделки, которых на самом деле не было. Затем деньги конвертировали в криптовалюту и делили между сообщниками.

Это дело касается гораздо большего, чем компаний, лишившихся денег. Никто не взламывал компьютеры. Схема опиралась на то, что почти каждый офисный работник делает не задумываясь: доверяет знакомому голосу, который просит о помощи. Выступления руководителей компаний, звонки с обсуждением финансовых результатов и их участие в дискуссиях на конференциях доступны публике, а программам для клонирования голоса достаточно аудиозаписей такого рода. Если мошенник может говорить голосом вашего руководителя, телефонный звонок уже не доказывает, кто на другом конце провода.

В обвинительном заключении, поданном в Южном округе Нью-Йорка, фигурируют 41-летний Джейкоб Соалл (Jacob Soall), проживающий в Марбелье, Испании, и Великобритании; 54-летний Шарон Хазан (Sharon Hazan) из Израиля; и 42-летний Гай Шитрит (Guy Sheetrit), проживающий в Израиле и Объединенных Арабских Эмиратах. Каждому предъявлено обвинение по семи пунктам, в том числе в сговоре с целью мошенничества с использованием электронных переводов, отягченном хищении личных данных и отмывании денег. По словам прокуроров, группа получила от компаний в США и других странах около 129 миллионов долларов.

Сценарий почти не менялся, говорится в обвинительном заключении. Обычно всё начиналось с письма, отправленного через сервис электронной подписи вроде DocuSign: оно якобы приходило от гендиректора компании-мишени, который просил помочь с секретной сделкой и прикладывал соглашение о неразглашении. Затем следовали звонки: по версии обвинения, сообщники с помощью ИИ имитировали голос руководителя, а иногда и его лицо. Поддельный гендиректор передавал сотрудника фальшивому юристу, который обычно выдавал себя за настоящего адвоката из европейского офиса одной из 50 крупнейших юридических фирм. Как утверждают прокуроры, Соалл хранил рукописный сценарий под названием «Звонок юриста»: в нем делался упор на конфиденциальность и правила против инсайдерской торговли, чтобы сотрудники не обсуждали происходящее с коллегами.

Имена пострадавших не раскрываются, однако перечисленные в обвинительных документах суммы потерь дают представление о самых разных отраслях экономики. Больничная сеть в штате Миссури перевела 4 829 580 долларов. Банк в Род-Айленде потерял 2 684 580 долларов, а больничная сеть в Калифорнии — 2 968 497 долларов. Британская финансово-технологическая компания лишилась 11 578 474 долларов, компания взаимных фондов из Массачусетса — 4 639 918 долларов, а производитель кормов для домашних животных из Флориды — 5 242 747 долларов. Деньги поступали на счета в США, Испании, Португалии, Греции, ОАЭ, Сингапуре, Австрии, Словакии и Китае, после чего их конвертировали в криптовалюту.

Одну из потенциальных жертв удалось уберечь от потерь. В крупном нью-йоркском инвестиционном банке сотрудник одобрил платеж примерно на 2,85 миллиона долларов, однако служба бэк-офиса остановила перевод до его отправки, утверждают прокуроры. Сработала не система распознавания дипфейков, а простая проверка еще одним сотрудником.

Использование ИИ — новшество, а само преступление хорошо знакомо. В сообщении Министерства юстиции инструменты названы «сверхинтеллектом», тогда как в обвинительном заключении говорится об искусственном интеллекте; опубликованные документы не указывают ни на что сложнее коммерчески доступных средств клонирования голоса и лица. Всё остальное — старая схема: поддельные письма от имени руководителей, переводы денег через счета в нескольких странах, а затем отмывание. По словам прокуроров, Хазан, осужденный в том же суде за сговор с целью мошенничества с банками в 2008 году, хвастался, что за три года отмыл более 400 миллионов долларов и был «номером один во всем мире». Пока это лишь обвинения: ни один из троих не осужден, а прокуроры не сообщили, какую сумму удалось вернуть и какие именно инструменты для клонирования использовались.

Компании уже сталкивались с подобной угрозой. В 2024 году инженерная компания Arup потеряла около 25 миллионов долларов после того, как сотрудник в Гонконге присоединился к видеозвонку, в котором остальные участники оказались дипфейками. Стандартные рекомендации остаются прежними: перезвоните руководителю по уже известному вам номеру, требуйте одобрения крупных переводов еще одним сотрудником и считайте требования о секретности тревожным сигналом. «Призываю граждан и представителей бизнеса подумать о том, как лучше защититься от растущей угрозы преступлений с использованием сверхинтеллекта (SI)», — заявил прокурор США Джейми Макдональд (Jamie McDonald).

По версии обвинения, заговор действовал как минимум с июля 2024-го по февраль 2026 года. Соалла арестовали в Испании 17 июня, Хазана — в Испании 5 августа, а Шитрита — в Великобритании 7 сентября. Обвинительное заключение рассекретили в первую неделю ноября; запросы об экстрадиции всех троих пока рассматриваются. За мошенничество с использованием электронных переводов и отмывание денег грозит до 20 лет тюрьмы по каждому из этих обвинений, а ФБР призывает других возможных пострадавших обратиться через страницу для сообщений о преступлениях.

У банка, которому удалось сохранить деньги, не было более совершенного ИИ. В его бэк-офисе просто нашелся человек, который проверил перевод до отправки.

Теги: Folarin Balogun, Baker Mayfield, Meghan Markle, кибербезопасность, дипфейки, клонирование голоса