Демис Хассабис о человеческом мозге: «биологическое приближение к машине Тьюринга»

Демис Хассабис (Demis Hassabis) построил карьеру на представлении о человеческом мозге как о единственном работающем образце общего интеллекта. На этой неделе фрагмент его высказывания стал символом всего, что, по мнению критиков, индустрия ИИ неверно понимает в устройстве разума. Но полная фраза, из которой вырвали эти слова, звучит уже и вместе с тем говорит гораздо больше, чем разошедшаяся цитата.

«биологическое приближение к машине Тьюринга».

Эта фраза стала отправной точкой для эссе Бенджамина Райли (Benjamin Riley) в The Verge под заголовком «Our minds aren’t equipped to handle AI». Райли начинает с мысли пионера кибернетики Норберта Винера (Norbert Wiener): «В мысли каждой эпохи отражается её техника», — и приводит Хассабиса, ныне председателя Google DeepMind и главного научного сотрудника Alphabet, как наиболее наглядный пример того, как индустрия видит собственные машины, глядя на человеческий череп. Сами эти слова взяты из беседы с Джеймсом Маникой (James Manyika), опубликованной в этом году в Dædalus — журнале Американской академии искусств и наук.

О чём говорит полная цитата

В Dædalus Хассабис объяснял, что для него означает AGI. Он определяет его как «систему, обладающую всеми когнитивными способностями человеческого разума», потому что мозг — «единственное известное нам на данный момент доказательство того, что общий интеллект вообще возможен, возможно, даже во всей Вселенной». А вот полная цитата: «Мозг можно рассматривать как биологическое приближение к машине Тьюринга, то есть теоретически он способен научиться всему, что поддаётся вычислению». Следующее предложение тут же вносит оговорку: любой конечной системе «в какой-то мере необходима специализация, поскольку время, память и информация ограничены».

В таком прочтении речь не о том, что люди — это ноутбуки. Речь о диапазоне возможностей, о том, чему мозг в принципе способен научиться, и одновременно о техническом задании. Если мозг — эталонная машина, то AGI — это система, соответствующая всему диапазону его возможностей. Хассабис даже набрасывает своего рода экзамен: обучить модель, ограниченную знаниями до 1910 года, и проверить, сможет ли она прийти к общей теории относительности, как это сделал Эйнштейн в 1915-м. «Пока ответ очевиден: нет», — говорит он.

Критика касается другого уровня

Возражение Райли лежит в другой плоскости. Опираясь на работы Пола Цисека (Paul Cisek), нейробиолога из Монреальского университета, он утверждает, что мозг лучше понимать как систему управления с обратной связью: она воздействует на мир, меняя то, что воспринимает, а формируется сначала эволюцией, а затем культурой — подражанием, языком, письмом, школами. В рамках этой модели чат-бот, который берёт на себя трудоёмкую часть мышления, — это «когнитивный хот-дог»: соблазнительное угощение здесь и сейчас, но вредное, если сделать его постоянной частью рациона. Райли напоминает, что руководитель направления образования в OpenAI Лиа Белски (Leah Belsky) назвала ChatGPT «крупнейшей в мире обучающей платформой», а также ссылается на исследование из Китая, согласно которому тысячи учащихся практически перестали делать домашние задания, начав пользоваться ИИ.

Решающая оговорка

Самое острое противоречие обнаруживается в собственном абзаце Хассабиса. Несколькими строками ниже он говорит, что ключевое здесь — «потенциал мозга научиться почти чему угодно, особенно когда мы можем создавать инструменты и машины, помогающие нам получать знания». В этой оговорке заключён весь спор. Райли не столько доказывает, что представление о мозге как о машине Тьюринга неверно, сколько приводит доводы против инструментов, которые учатся вместо человека, а не помогают ему получать знания. Утверждение о вычислимости описывает, что мозг теоретически способен усвоить. Но оно ничего не говорит о том, делает ли конкретный продукт знания ученика богаче или, наоборот, оставляет его с пустой головой.

Теперь этот вопрос обращён к человеку, определяющему научный курс Alphabet. В августе Хассабис оставил повседневное руководство компанией в должности CEO, чтобы сосредоточиться на стратегии и науке в области AGI. Как сообщило издание Fortune, он сказал сотрудникам, что AGI уже близок и что для человечества крайне важно правильно определить дальнейшие шаги. Лаборатория, которая сравнивает свои машины со всем диапазоном возможностей человеческого мозга, напрямую заинтересована в том, чтобы этот диапазон не сужался у людей, которые пользуются её технологиями.

Даже приближение к машине Тьюринга требует, чтобы что-то её запрограммировало. Для человека этим всегда был медленный процесс обучения — и именно этот этап инструмент способен либо усилить, либо незаметно пропустить.

Теги: Demis Hassabis, Google DeepMind, AI in education, Artificial general intelligence, Turing machine