Barry Diller защищает Альтмана, но предупреждает об опасности AGI

Barry Diller защитил Sam Altman, но с оговоркой, которая звучит как предупреждение: доверие человеку неактуально, когда на горизонте AGI.

Защита и тревога одновременно Медиа-магнат и основатель IAC не стал отзываться критически о CEO OpenAI.

Дилер признал компетентность Альтмана. Но затем добавил жесткую оговорку: в условиях приближения AGI компетентность лидера — это не решение. Доверие человеку становится иррелевантным перед лицом технологии, которую сложно или невозможно полностью контролировать.

Почему доверие неактуально АГИ — это гипотетическая разумная система, которая превзойдёт

человеческий интеллект во всех сферах. Если AGI и правда наступит, то мотивы, компетентность и честность отдельного человека окажутся недостаточной защитой. Система, превосходящая человеческий ум, может выйти из контроля независимо от намерений её создателей.

• Даже добросовестный лидер не сможет гарантировать безопасность AGI Проблема — в самой природе AGI, а не в качестве управления Требуются технические ограничения, которые заложены в саму систему > «Доверие неактуально, когда речь идёт об AGI» — суть позиции Дилера, хотя он и не отрицает профессионализма Альтмана.

Guardrails как единственный путь Дилер подчёркивает необходимость «guardrails» — механизмов

контроля и ограничения, которые должны быть встроены в AGI на уровне архитектуры и алгоритмов. Это не вопрос менеджмента и не вопрос культуры компании. Это вопрос технической безопасности. Такие механизмы должны предотвращать отклонение системы от заложенных целей, независимо от того, кто её контролирует. Guardrails работают автоматически, на уровне кода и алгоритмов, а не на уровне человеческого решения.

Что это значит Заявление Дилера отражает растущий консенсус в AI-сообществе: готовиться к AGI

нужно не через подбор хороших людей на руководящие должности, а через построение техники, которая будет безопасной по умолчанию. Защита от AGI — это не вопрос доверия к Sam Altman или любому другому лидеру. Это вопрос инженерии.