Планирование шагов ИИ-агента: цикл от цели до остановки
Планирование ИИ-агента — это не одноразовый длинный план, а повторяемый цикл: зафиксировать цель и текущее состояние, выбрать один разрешённый шаг, получить наблюдаемый результат и заново решить, завершена ли задача, нужен ли следующий шаг или эскалация.
В этом материале8 разделовРедакционная схема PENROUZ NEWS. План обновляется после каждого наблюдаемого результата, а не исполняется вслепую.PENROUZ NEWS
Короткий ответ: агент планирует по одному подтверждаемому шагу
Полезный цикл планирования начинается не со списка из десяти будущих действий, а с одного проверяемого перехода. Система знает ожидаемый результат, доступные данные, ограничения и разрешённые инструменты. Агент выбирает следующий шаг, доверенный код проверяет его допустимость и выполняет действие, после чего фактический результат возвращается в состояние. Затем агент заново оценивает: цель достигнута, нужны ещё данные, можно продолжать или пора передать решение человеку.
Такой подход защищает от главной ошибки длинного плана: последующие шаги быстро становятся неверными, если первое действие вернуло неожиданный результат. Поэтому план — это рабочая гипотеза о ближайшем переходе, а не разрешение исполнить всю цепочку вслепую. У каждого перехода должны быть вход, допустимое действие, наблюдаемое последствие и условие остановки.
Общую границу системы раскрывает материал о том, чем ИИ-агент отличается от чат-бота. Здесь задача уже: разобрать внутренний цикл выбора следующего действия и критерии, по которым этот цикл продолжается или завершается.
Пять частей цикла планирования
Рабочая модель одного шага агента
Часть
Главный вопрос
Проверяемый результат
Цель
Что должно измениться после выполнения задачи?
Один итог и явный критерий готовности
Состояние
Что подтверждено сейчас, а что неизвестно?
Факты, версии, ограничения и открытые вопросы
Варианты
Какие действия разрешены в этом состоянии?
Небольшой список допустимых переходов
Действие
Какой один шаг лучше всего уменьшает неопределённость?
Вызов инструмента с проверенными параметрами
Проверка
Что фактически произошло и что делать дальше?
Обновлённое состояние, завершение, повтор или эскалация
Схема цикла планирования. Она описывает проверяемую конструкцию, а не скрытые рассуждения модели.
Цель должна описывать результат, а не деятельность. Формулировка «изучить документы» не сообщает, когда работа закончена. Формулировка «выбрать действующую редакцию документа и вернуть три подтверждённых условия со ссылками на разделы» задаёт наблюдаемый итог. Если в одном запросе смешаны поиск, изменение данных и публикация, их лучше разделить: разные последствия требуют разных полномочий и критериев приёмки.
Состояние — это короткая запись того, что системе разрешено считать истинным на текущем шаге. В неё входят результаты инструментов, выбранные версии, уже принятые решения, лимиты и неизвестное. Предположение модели не становится фактом только потому, что звучит убедительно. Неизвестное нужно сохранять явно: оно помогает выбрать уточняющий шаг вместо правдоподобной догадки.
Где хранить текущие решения и как не смешать их с долговременными сведениями, объясняет материал про память ИИ-агента. Для планирования достаточно минимального состояния задачи: полный архив беседы обычно только затрудняет выбор следующего действия.
Как выбирать следующий шаг
Сначала приложение формирует набор разрешённых действий для текущего состояния. Если идентификатор документа неизвестен, доступны поиск или запрос уточнения, но не изменение документа. Если результат уже подтверждён, повторное чтение может быть лишним. Если действие имеет последствия, предложение модели проходит отдельную проверку прав, схемы параметров и необходимости подтверждения человеком.
Затем каждый вариант оценивается по практическому вопросу: какой шаг сильнее приблизит к критерию готовности или уменьшит важную неопределённость при допустимом риске и стоимости? Это не требует раскрывать внутреннюю цепочку рассуждений. В журнале достаточно наблюдаемого решения: состояние, выбранный инструмент, параметры, основание из политики и ожидаемый тип результата.
План должен допускать отказ от действия. Если ни один инструмент не разрешён, данных недостаточно или результат требует человеческого решения, корректный следующий шаг — запросить уточнение либо эскалировать. «Ничего не делать» может быть правильнее, чем вызвать похожий инструмент с выдуманными параметрами.
Шаблон состояния для одного перехода
Копируемая карточка шага агента
task_id: task-example-21
goal: выбрать действующую редакцию памятки и вернуть три условия
completion_criteria:
- указана версия документа
- для каждого условия есть ссылка на раздел
confirmed_state:
- найден документ A, версия не подтверждена
unknowns:
- какая редакция действует
allowed_actions:
- list_document_versions
- ask_document_owner
forbidden_actions:
- edit_document
- publish
next_action: list_document_versions
expected_observation: список версий с признаком действующей
stop_if:
- действующая версия найдена и три условия подтверждены
escalate_if:
- версии конфликтуют или признак действующей отсутствует
Карточка не хранит литературный пересказ «хода мыслей». Она фиксирует то, что можно проверить: цель, подтверждённое состояние, допустимые операции и ожидаемое наблюдение. После вызова list_document_versions поле next_action больше не считается актуальным. Система записывает фактический ответ инструмента и строит новый переход из обновлённого состояния.
Вымышленный сценарий: выбрать редакцию документа
Предположим, агенту поручили подготовить карточку внутренней памятки. На первом шаге известен документ A, но не его действующая версия. Агент не начинает извлекать условия из случайной копии: выбирает разрешённый инструмент списка версий. Доверенный слой проверяет идентификатор и права чтения, затем возвращает версии 2 и 3, причём версия 3 помечена действующей.
На втором шаге состояние уже содержит подтверждённую версию 3. Агент читает нужные разделы и находит два условия из трёх. Третье в документе отсутствует. Цель ещё не достигнута, но повторное чтение того же раздела не уменьшит неопределённость. Поэтому следующий шаг — запрос владельцу документа, а не выдумывание условия по аналогии.
Если владелец подтверждает, что третье условие не определено, цикл завершается результатом «два условия подтверждены, третье отсутствует» и ссылками на основания. Если версии конфликтуют или права не позволяют открыть документ, агент останавливается раньше и возвращает причину эскалации. В обоих случаях критерий готовности защищает от ложного отчёта о полном выполнении.
Остановка, повтор и защита от зацикливания
У цикла должно быть несколько явных причин завершения. Первая — критерий готовности выполнен. Вторая — задача невозможна в текущих полномочиях. Третья — требуется решение человека. Четвёртая — достигнут лимит шагов, времени или повторов. Лимит не заменяет смысловой критерий, но останавливает бесконечное уточнение и повтор одного инструмента.
Повтор допустим, когда изменились параметры или появился новый факт. Если инструмент вернул ту же ошибку с теми же входными данными, простое повторение не является новым планом. Система должна изменить стратегию, запросить недостающее либо завершить задачу с понятным статусом. Для действий с последствиями нужен идентификатор операции, чтобы повтор доставки не создавал вторую запись.
Чтобы понять, почему цикл застрял или выбрал неверный инструмент, нужен журнал переходов; его состав разобран в статье про наблюдаемость ИИ-агента. Трасса должна показывать состояние до шага, предложенное действие, результат проверки полномочий, фактический ответ инструмента и причину следующего перехода.
Когда планирование должно перейти в handoff
Передача другому исполнителю нужна не потому, что шаг оказался сложным, а когда меняется владелец оставшейся задачи: требуется другая специализация, отдельные полномочия или иной набор инструментов. До приёмки исходный координатор сохраняет ответственность. Он передаёт цель, подтверждённое состояние, открытые вопросы и критерий возврата, а не весь необработанный диалог.
Практический пакет приёмки и возврата описан в материале о передаче задачи между ИИ-агентами. Внутри текущего цикла handoff — один из разрешённых переходов, после которого система должна явно зафиксировать нового владельца либо отклонение передачи.
Как проверить цикл на контрольном наборе
Нормальный путь: каждый инструмент возвращает ожидаемые данные, агент достигает критерия и останавливается.
Недостающие данные: агент запрашивает уточнение до действия и не заполняет пробелы догадкой.
Запрещённый шаг: проверка полномочий блокирует вызов, а цикл выбирает безопасную альтернативу или эскалацию.
Пустой результат: состояние сохраняет отсутствие данных и не превращает его в успешное выполнение.
Повтор ошибки: те же входные данные не запускают бесконечный повтор; срабатывает смена стратегии или лимит.
Частичный результат: подтверждённая часть возвращается с основаниями, а неизвестное остаётся видимым.
Handoff: владелец меняется только после приёмки пакета, а отклонение не теряет исходную задачу.
Для каждого случая заранее запишите ожидаемый финальный статус, допустимые инструменты, запрещённые действия и максимальное число переходов. Проверяйте не красоту ответа, а воспроизводимость: можно ли по журналу восстановить, какое состояние привело к действию и почему система остановилась.
Цикл готов к ограниченному использованию, если он выбирает только разрешённые шаги, обновляет состояние фактическими результатами, сохраняет неизвестное, завершает задачу по явному критерию и безопасно эскалирует исключения. Если последующие действия исполняются по старому плану без учёта наблюдений, это ещё не управляемое планирование.
Учебный сценарий иллюстрирует логику переходов; он не содержит результатов испытаний конкретного продукта.