Гонка за AGI: Хассабис и Амодеи спорят о дате конца привычного мира

В Давосе Демис Хассабис из Google DeepMind и Дарио Амодеи из Anthropic сели за один стол, чтобы обсудить тему «День после AGI», — и разошлись в главном: когда наступит день, после которого имеет смысл говорить о «после». Хассабис ставит на конец десятилетия, Амодеи допускает, что неожиданные скачки возможностей ИИ могут начаться значительно раньше.

Кто и о чём спорил в Давосе

В швейцарских горах, где обычно решают судьбы мировой экономики, на этот раз пытались понять, когда эта самая экономика перестанет быть чисто человеческим делом. В Давосе случилось событие, которое в индустрии ждали давно: Демис Хассабис из Google DeepMind и Дарио Амодеи из Anthropic сели за один стол. Модератор сравнил их с Beatles и Rolling Stones — сравнение хромает, потому что в отличие от рок-звёзд эти двое не спорят о чартах, а пытаются вычислить дату, когда искусственный интеллект сравняется с человеком или перепрыгнет через его голову. Тема была заявлена амбициозно: «День после AGI». Но прежде чем планировать завтрак в мире сверхразума, нужно понять, когда наступит этот самый рассвет.

Ещё пару лет назад термин AGI (общий искусственный интеллект) считался уделом гиков и авторов научной фантастики. Сегодня это пункт в квартальных отчётах крупнейших корпораций мира.

Аргументы Хассабиса: AGI как инструмент для науки

Хассабис, человек, который фактически запустил современную волну ИИ, купив DeepMind для Google, всегда был осторожным оптимистом. Он строит системы, которые играют в го, предсказывают структуру белков и теперь пытаются рассуждать. Его видение AGI — это инструмент, который решит проблемы физики и биологии. Для него это эволюция, пусть и очень быстрая: мощный рычаг, который поможет человечеству справиться с тем, что не под силу ему самому.

Аргументы Амодеи: нелинейный рост и точка невозврата

Дарио Амодеи из Anthropic играет в другую игру. Его компания родилась из раскола в OpenAI именно на почве безопасности. Если Хассабис — инженер-исследователь, то Амодеи — человек, который смотрит на экспоненциальные кривые и видит в них не только прогресс, но и угрозу. В Давосе он снова напомнил о законах масштабирования: в вычислительные мощности вливаются миллиарды долларов, и нейросети послушно становятся умнее, но этот рост нелинеен. Мир может проснуться с моделью следующего поколения, которая внезапно проявит способности, к которым никто не готов ни законодательно, ни морально. Амодеи подчёркивает, что точка невозврата ближе, чем кажется многим регуляторам.

Почему расхождение в сроках имеет значение

Разница в подходах обнажает главный конфликт индустрии: вера в то, что процесс можно контролировать и постепенно интегрировать ИИ в науку и быт, — против опасения, что скорость развития технологий уже превысила скорость адаптации социальных институтов. Когда модератор спросил о конкретных сроках, в воздухе повисло напряжение: Хассабис ставит на конец десятилетия, Амодеи же намекает, что сюрпризы могут начаться гораздо раньше. От этих дат зависит, куда потекут следующие триллионы долларов инвестиций и какие законы примут в ЕС и США в ближайшие месяцы.

Эпоха «игрушечных» чат-ботов заканчивается, индустрия переходит к агентам, способным действовать самостоятельно. Если лидеры двух компаний, которые фактически держат ключи от этой технологии, расходятся в оценке фундаментальных рисков, это повод задуматься: получается ситуация, когда создатели двигателя спорят о том, есть ли у машины тормоза и где находится обрыв. При этом оба продолжают давить на газ, потому что остановиться в этой гонке означает проиграть всё. Давосская встреча показала, что консенсуса нет даже на самом верху, и «день после AGI» может наступить внезапно для всех участников процесса.

Хассабис и Амодеи согласны в одном: AGI неизбежен и близок. Но если Google видит в нём супер-ассистента для учёных, то Anthropic предупреждает о тектоническом сдвиге, к которому мир не готов.

Когда, по мнению Хассабиса и Амодеи, наступит AGI?

Хассабис ставит на конец десятилетия. Амодеи же намекает, что неожиданные скачки в возможностях ИИ могут начаться значительно раньше — он подчёркивает, что точка невозврата ближе, чем кажется многим регуляторам.

Почему Хассабис и Амодеи расходятся в оценке рисков ИИ?

Хассабис видит в AGI инструмент и эволюцию, пусть и очень быструю, — рычаг, который поможет решить проблемы физики и биологии. Амодеи, чья компания Anthropic родилась из раскола в OpenAI на почве безопасности, указывает на нелинейный рост возможностей моделей по мере роста вычислительных мощностей и предупреждает, что мир может оказаться не готов к этому ни законодательно, ни морально.

В чём сходятся Хассабис и Амодеи?

Оба согласны, что AGI неизбежен и близок. Расходятся они в том, что это значит: Google видит в AGI супер-ассистента для учёных, а Anthropic предупреждает о тектоническом сдвиге, к которому мир не готов.