Эфир 18.11 · Поток 318 ноября в 19:00 МСК — бесплатный практический эфир по ИИ-агентам · Живой Поток 3 стартует 23.11Эфир 18 ноября →Поток 3 (23.11)
Безопасность и правоНаучная статья · В песочницуMIT News→ оригинал

MIT научил робота обобщать запреты человека: обновление правил занимает около 5 секунд

Роботу приходится объяснять очевидное: если кофе опасен для ноутбука, телефон тоже стоит поберечь. Исследователи MIT и Нью-Йоркского университета разработали FLEX — систему, которая с помощью GPT-4o обобщает такие замечания и обновляет правила движения. В трёх виртуальных задачах робот учитывал запреты на контакт с электроникой, горючими и хрупкими предметами.

AI-обработка оригинала MIT News; редакция Hamidun News
MIT научил робота обобщать запреты человека: обновление правил занимает около 5 секунд
Источник: MIT News. Коллаж: Hamidun News.
Слушать статью
Паспорт материала и цифры
ПараметрДанные
ПервоисточникMIT News ↗
Главный редактор
Ключевой факт #1Обновление правил занимает около пяти секунд — это ещё не мгновенная реакция.
Ключевой факт #2Все описанные испытания прошли в симуляции роботизированной руки.
Ключевой факт #3Компьютерное зрение помогает исключать из списка исчезнувшие объекты.

Робот несёт кофе через стол. Вы замечаете ноутбук на его пути и говорите: «Не пролей на компьютер». Но рядом лежит ещё и телефон. Объяснять отдельно, что его тоже нельзя заливать, довольно утомительно. Для разработчика домашнего робота это конкретная продуктовая проблема: сколько правил пользователь должен перечислить, прежде чем помощником станет удобно пользоваться?

Исследователи MIT и Нью-Йоркского университета предложили FLEX — систему, которая извлекает из такого замечания более общее правило и меняет план движения. В примере с кофе запрет распространяется на электронику. Полный цикл обновления занимает около пяти секунд. Пока подход проверили на виртуальной роботизированной руке: результаты показывают направление для разработки, но ещё не доказывают надёжность в квартире.

Как одно замечание становится правилом

FLEX работает в три шага. Сначала система добавляет в список важных для задачи признаков то, на что указал человек. Если робот переносит шар для боулинга и получает замечание «Не урони на мою кружку», кружка становится объектом, который нужно учитывать при выборе траектории.

Сам по себе этот шаг знаком робототехнике. Его неудобство в том, что список отдельных запретов постепенно растёт. Пользователю приходится указывать всё новые предметы, а часть старых ограничений теряет смысл после изменения обстановки.

На втором шаге подключается языковая модель. В исследовании использовали GPT-4o. Она рассматривает указанные человеком объекты и предлагает обобщение: например, беречь хрупкие вещи. Тогда робот может учитывать другие предметы этой категории, хотя пользователь их не называл.

Третий шаг отвечает за актуальность списка. Компьютерное зрение определяет, каких объектов больше нет в окружении, и система исключает их из списка учитываемых объектов. Это помогает планировщику работать с текущей обстановкой.

Здесь важно устройство всей связки. Языковая модель помогает сформулировать ограничение, зрение оценивает окружение, а планировщик рассчитывает движение. Для инженера ценность представляет именно такой способ связать разговорную поправку с конкретным изменением поведения.

Что проверили и чего пока не знаем

Авторы описали три задачи в симуляции: перенос чашки кофе, свечи и шара для боулинга. Добровольцы вводили команды текстом. В ответ система учитывала как конкретный запрет, так и более широкую категорию: электронику, горючие материалы или хрупкие предметы.

Эти примеры хорошо объясняют замысел, однако границы результата существенны. В предоставленном материале нет показателей успешности, сравнения частоты ошибок или данных о работе физического робота. Поэтому нельзя заключить, что FLEX уже делает бытовые манипуляторы безопаснее на измеренную величину.

Пять секунд тоже нужно понимать правильно: столько занимает весь описанный цикл из трёх шагов. Это не заявленная задержка экстренной остановки. Если чашка уже падает, из публикации нельзя сделать вывод, что FLEX успеет предотвратить происшествие.

Есть и вопрос к самим обобщениям. Человек может просить беречь конкретную кружку из-за её личной ценности, а не хрупкости. Это возможная неоднозначность подхода; представленный текст не объясняет, как система выясняет такие намерения и исправляет неверные предположения.

Что взять разработчику и продакту

Практическая идея FLEX — сократить число повторных объяснений при настройке робота под человека. Вместо длинного списка исключений пользователь даёт короткую поправку, из которой система получает правило для похожих ситуаций. Это особенно интересно для домашних помощников, которым предстоит работать среди разных предметов и учитывать разные предпочтения владельцев.

Для прототипа полезно разделить три задачи: извлечение предпочтения из фразы, проверку его применимости к окружению и изменение траектории. Такая архитектура позволяет отдельно разбирать, где возникла ошибка: модель неверно поняла человека, зрение перепутало предмет или планировщик выбрал неудачный путь.

Следующий продуктовый вопрос — как показать человеку полученное правило и дать его поправить. Это уже вывод из устройства FLEX, а не проверенный результат исследования. Но именно здесь проходит путь от впечатляющего примера с кофе к помощнику, чьё поведение пользователь может понять и настроить.

Сюжет

Вопросы и ответы по материалу

Что известно по теме: как одно замечание становится правилом?

FLEX работает в три шага. Сначала система добавляет в список важных для задачи признаков то, на что указал человек. Если робот переносит шар для боулинга и получает замечание «Не урони на мою кружку», кружка становится объектом, который нужно учитывать при выборе траектории. Сам по себе этот шаг знаком робототехнике. Его неудобство в том, что список отдельных запретов постепенно растёт. Пользователю приходится указывать всё новые предметы, а часть старых ограничений теряет смысл после изменения обстановки.

Что известно по теме: что проверили и чего пока не знаем?

Авторы описали три задачи в симуляции: перенос чашки кофе, свечи и шара для боулинга. Добровольцы вводили команды текстом. В ответ система учитывала как конкретный запрет, так и более широкую категорию: электронику, горючие материалы или хрупкие предметы. Эти примеры хорошо объясняют замысел, однако границы результата существенны. В предоставленном материале нет показателей успешности, сравнения частоты ошибок или данных о работе физического робота.

Что известно по теме: что взять разработчику и продакту?

Практическая идея FLEX — сократить число повторных объяснений при настройке робота под человека. Вместо длинного списка исключений пользователь даёт короткую поправку, из которой система получает правило для похожих ситуаций. Это особенно интересно для домашних помощников, которым предстоит работать среди разных предметов и учитывать разные предпочтения владельцев. Для прототипа полезно разделить три задачи: извлечение предпочтения из фразы, проверку его применимости к окружению и изменение траектории.

ЖХ
Жемал Хамидун — CPO Alpina Digital, продакт-менеджер AlpinaGPT. Делает AI-продукты с 2019 года. Hamidun News — pet project, который вырос в production-агрегатор с 6000+ читателей.
✦ Единое AI-пространство · Nomad

Протестируйте новые LLM и мультимодальные модели в одном окне

Платформа Nomad AI (nomadnet.ai) даёт прямой доступ к Claude Opus 5.5, GPT-6, Gemini 3.1, DeepSeek и автономным агентам без VPN, зарубежных карт и зоопарка подписок.

Открыть Nomad AI →Автономный Nomad Agent
Что вы думаете?
Загружаем комментарии…