Технологии

Ян Лекун обратился к университетской науке: «Вам категорически не стоит заниматься LLM»

Adrian Kessler
Добавьте нас в Google

Ян Лекун годами убеждает индустрию ИИ, что большие языковые модели — это обходной путь. В отрывке лекции, который сейчас активно распространяют в X, лауреат премии Тьюринга обращается уже к более узкой и уязвимой аудитории — исследователям университетских лабораторий — и не оставляет места для оговорок.

«Не занимайтесь большими языковыми моделями. По крайней мере, если вы работаете в академической среде, вам категорически не стоит заниматься большими языковыми моделями. Вам нечего предложить. Если вы хотите добиться реального прогресса в ИИ, создать, так сказать, ИИ, укоренённый в реальном мире, если вас интересует физический ИИ, не занимайтесь большими языковыми моделями и генеративными моделями тоже».

Он произнёс эти слова в ETH Zurich во время лекции «World Models: Enabling the Next AI Revolution» в рамках цикла Frontiers of Embodied AI 29 мая. На этой неделе комментатор ИИ Рохан Пол (Rohan Paul) опубликовал отрывок, назвав его «последним выступлением» Лекуна, хотя на самом деле записи уже четыре месяца. Следующая фраза вызвала смех: «Как вы, наверное, догадались, в Кремниевой долине я из-за этого не пользуюсь особой популярностью». На слайде за его спиной под заголовком «Рекомендации коллегам — учёным в области ИИ» красными заглавными буквами написано: «Если вас интересует ИИ человеческого уровня, не занимайтесь большими языковыми моделями».

Первая часть — о вычислительных ресурсах

Если отбросить провокационную форму, то в основе академического совета лежит экономика. Прогресс в области больших языковых моделей обеспечивают тренировочные запуски на вычислительных кластерах, которые по карману лишь нескольким компаниям. Аспирант мало что может добавить в гонке, исход которой определяют бюджеты, — именно это на практике означает фраза «вам нечего предложить». Лекун говорит об этом уже давно: как сообщало VentureBeat, на VivaTech в Париже в 2024 году он сказал студентам, которые хотели создать ИИ следующего поколения, что большие языковые модели находятся в руках крупных компаний.

На слайде также перечислено, чему, по его мнению, стоит посвятить время. Архитектурам совместного встраивания — вместо генеративных моделей. Моделям на основе энергии — вместо вероятностных. Регуляризованным методам — вместо контрастивных. Управлению с прогнозированием модели — вместо обучения с подкреплением, которое он оставил бы лишь для корректировки плана, когда мир ведёт себя не так, как предсказывалось. Эти идеи можно проверять на скромном оборудовании — и именно здесь у университетских лабораторий всё ещё есть преимущество.

Вторая часть — настоящая провокация

Фраза «не занимайтесь и генеративными моделями» выходит за рамки привычной критики чат-ботов. Она отвергает сам принцип генерации — идею создавать интеллект, предсказывая следующее слово или пиксель, — и ставит Лекуна в противоречие со значительной частью направления физического ИИ, в рамках которого его обычно рассматривают. На прошлой неделе AMD согласилась приобрести World Labs Фэй-Фэй Ли (Fei-Fei Li) в рамках сделки с оплатой акциями, оценившей компанию примерно в 8,2 миллиарда долларов. The Register назвал эту покупку страховкой на случай, если большие языковые модели окажутся тупиком, и отметил, что Лекун давно говорит то же самое. Однако World Labs создаёт модели, генерирующие и симулирующие трёхмерные среды. Cosmos 3 от NVIDIA — тоже генеративная модель мира, а Physical Intelligence строит модели для роботов на основе зрительно-языковых моделей. Деньги, направляемые на «миры, а не слова», в основном идут не на ту версию этого подхода, которую предлагает Лекун.

Советы человека с долей в компании

Нужно учитывать и положение самого выступающего. Лекун ушёл из Meta и теперь занимает пост исполнительного председателя AMI Labs в Париже. В марте компания привлекла 1,03 миллиарда долларов при оценке в 3,5 миллиарда — это крупнейший посевной раунд в Европе. Средства направят на создание моделей мира в качестве альтернативы большим языковым моделям. Компания набирает сотрудников в Париже, Нью-Йорке, Монреале и Сингапуре. Каждый исследователь, который последует его совету, может стать потенциальным сотрудником.

Это не значит, что совет продиктован цинизмом. Лекун придерживался таких взглядов ещё до появления AMI и расплачивался за них репутацией задолго до того, как инвесторы вложили в них деньги. Но в 2026 году его рекомендация исследователям и бизнес-план указывают совершенно в одном направлении — студентам стоит это учитывать.

Лекун пошутил, что из-за этой фразы теряет друзей в Кремниевой долине. Для студента, выбирающего тему диссертации, ставки выше: он может поставить докторскую работу на архитектуру, доказать состоятельность которой Лекун только что привлёк миллиард долларов.

Теги: , , , ,

Добавьте нас в Google

Обсуждение

Имеется 0 комментариев.