Почему Microsoft, OpenAI и Anthropic просят не доверять собственным ИИ

В прошлом месяце издания TechCrunch, TechRadar и PCMag раскопали скандальный парадокс: крупнейшие ИИ-компании в своих Terms of Service фактически признают, что их модели слишком ненадёжны для реальной работы. При этом они активно продают эти же модели как революционный инструмент для замены работников.

Microsoft: развлечение под видом продуктивности

Microsoft в разделе «Кодекс поведения» документа Условий использования Copilot заявляет прямо: «Copilot предназначен исключительно для развлекательных целей. Он может допускать ошибки и работать не так, как задумано. Не полагайтесь на Copilot при принятии важных решений».

Кроме того, раздел «Важные предупреждения и раскрытия информации» полностью освобождает Microsoft от ответственности. Пользователи обязаны согласиться не предъявлять претензии компании за любой ущерб, нанесённый инструментом, включая убытки бизнесу. Если вы используете Copilot как профессиональный помощник, а не развлечение, — вы теряете право на компенсацию.

Это создаёт абсурдную ситуацию: продукт, который компания продаёт как следующую великую революцию в профессиональной продуктивности, одновременно объявляется небезопасным для использования в реальных задачах.

OpenAI и Anthropic: юридический камуфляж

OpenAI идёт похожим путём, но маскирует это лучше. В их Условиях есть огромный раздел о недостаточной точности ChatGPT и интегрированного Gemini. Они требуют, чтобы пользователи «оценивали результаты на точность и уместность» и проводили «проверку человеком, прежде чем использовать или распространять результаты работы Сервисов». Одновременно компания полностью снимает с себя ответственность за косвенные, побочные и специальные убытки (и пишет это КАПСОМ для драматизма).

Anthropic, позиционирующая себя как более этичный игрок ИИ-индустрии, на самом деле поступает ещё циничнее. В своих Условиях она указывает, что сервисы предназначены «только для некоммерческого использования» (при просмотре с европейского IP). Но главное — в ограничении ответственности: Anthropic обязуется выплатить максимум £100 (примерно 8000 рублей) за любой ущерб, нанесённый Claude, Claude Code или любыми другими их моделями. Сто фунтов — вот во сколько компания оценивает максимально возможный вред от своего ИИ.

Почему это признание опасности

Всё это не случайно. ИИ-компании просто признают то, что подтверждают независимые исследования.

Мельбурнский университет показал, что ИИ слишком ненадёжен как инструмент продуктивности, потому что микроменеджмент (отлавливание и исправление ошибок) требует столько времени, что никакого прироста производительности не происходит. Исследование Карнеги-Меллон обнаружило, что даже лучшие «агентные» ИИ провалили реалистичные фрилансерские задачи из-за галлюцинаций и полных отказов.

Сам OpenAI опубликовал исследование, которое показало: увеличение вычислительной мощности и объёма данных не может снизить уровень галлюцинаций (частоту ошибок) ниже текущего порога. Работа Вишала Сикки и его сына Варина Сикки подтвердила: эти модели обречены остаться ненадёжными и не смогут выполнять сложные вычислительные и агентные задачи.

Экономический пузырь вместо инновации

В этом суть парадокса. ИИ-компании знают, что их модели опасно неточны. Они знают, что значимого улучшения не будет. И они знают, что все обещания о замене работников и революции в продуктивности — это хайп.

Тем не менее вместо остановки этого безумия они активно защищают себя юридически, продолжая раздувать пузырь и привлекать сотни миллиардов долларов инвестиций. Это позволяет гиперскейлерам вливать астрономические суммы в строительство всё более крупных дата-центров и закупку вычислительных мощностей.

Стратегия ясна: пока инвестиции текут, можно одновременно продавать революцию и юридически защищать себя от её последствий. Условия использования Microsoft, OpenAI и Anthropic доказывают, что ИИ-компании осознают расхождение между хайпом и реальностью. Но вместо признания проблемы они предпочитают прибыль — и жидко пишут мелким шрифтом то, что знают все.