Главная / Статьи

Agent Loop Engineering — полный блог о создании ИИ в промышленных целях

Инженерия циклов для производственных ИИ-агентов: от предоставления инструментов большим языковым моделям к проектированию самого цикла агента с архитектурой, необходимой на каждом этапе.

Издатель: REACTAPP.TOP11 мин чтения2569 слов

Источники: Agent Loop Engineering : A Complete Blog to Production AI Agent Architecture — Part-2

В этом руководстве показано, как пройти путь от сырья до рабочей системы для проекта Agent Loop Engineering: полный блог об архитектуре производственных ИИ-агентов — Часть 2. Основное внимание уделяется выполнимым шагам, четким проверкам и коду, который можно просто добавить в репозиторий без необходимости догадываться о его назначении. На этапе обзора необходимо определить входные данные, ответственного за шаг и критерии завершения перед изменением кода. Операторы должны иметь возможность перезапустить шаг с известной точки контроля, не догадываясь о скрытом состоянии. Лучше использовать небольшие, тестируемые единицы кода вместо обширных скриптов. При сбое шага он должен указывать на конкретную проблему, а не на сложную цепочку операций.

Часть 2: Инженерия циклов

При работе над этапом проектирования циклов в части 2 сначала запишите контракт: необходимые входные данные, сигнал успешного завершения и действия при частичной неудаче. Такой список помогает сохранять честность при последующих изменениях кода. Рассматривайте этот этап как контракт между входными данными и проверенными выходными результатами. Дайте названия элементам, определите критерии успешности и не допускайте молчаливого частичного выполнения задачи. Выполняйте контрольные точки после дорогостоящих шагов. Система возобновления работы не должна снова взимать плату за один и тот же вызов большой языковой модели, когда оператор пытается выполнить следующий элемент.

При работе над этапом «Инструменты для агентов, осуществляющих передачу», сначала запишите условия контракта: необходимые параметры входных данных, сигнал о успешном выполнении и действия при частичной неудаче. Такой чек-лист помогает сохранять честность при последующих изменениях кода. Рядом с функциональными результатами заносите информацию о времени выполнения и стоимости токенов или запросов. Отображение затрат с самого начала предотвращает неожиданные счета при переходе от демо-среды к общедоступным средам. Для каждого вызова фиксируйте название инструмента, хеш аргументов, время задержки и результат. Без такой записи отладка циклов агента занимает часы.

Но есть проблема.

При работе над проектом с несколькими этапами сначала необходимо описать «контракт»: требуемые входные данные, сигнал о успехе и действия при частичной неудаче. Такой чек-лист помогает сохранять честность последующих изменений в коде. Храните конфигурацию отдельно от кода приложения. Файлы среды, хранилища секретов и флаги функций должны находиться в одном месте, чтобы операторы могли их проверять, не читая весь код. Создавайте контрольные точки после дорогостоящих операций. Механизм возобновления работы не должен повторно взимать плату за один и тот же вызов большой языковой модели при повторной попытке обработки последующего этапа. При работе над проектом с несколькими этапами сначала необходимо описать «контракт»: требуемые входные данные, сигнал о успехе и действия при частичной неудаче. Такой чек-лист помогает сохранять честность последующих изменений в коде. Предпочитайте небольшие, тестируемые единицы кода вместо обширных скриптов. При сбое какого-либо этапа причина неудачи должна указывать на конкретную ответственность, а не на запутанную структуру обработки данных.

Что такое инжиниринг циклов?

Этап «Что такое цикл» работает наилучшим образом, когда его рассматривают как измеримую поверхность. Соберите один идеальный пример работы, один случай сбоя и запись о возврате к предыдущему состоянию перед расширением объёма работ. Рассматривайте этот этап как контракт между входными данными и проверенными выходными результатами. Дайте названия создаваемым элементам, определите критерии успеха и не соглашайтесь на молчаливое частичное выполнение задачи. Сохраняйте структуру графа простой и типизированной. Вложенные структуры скрывают информацию о том, какой узел заполнил тот или иной поле, что приводит к нарушению возобновления работы после перерывов.

II. Почему каждому ИИ-агенту нужны циклы

Вторая причина, по которой каждый этап ИИ работает наилучшим образом, когда его рассматривают как измеримую поверхность: сначала зафиксируйте один идеальный пример работы, один случай сбоя и записку о возврате к предыдущему состоянию, прежде чем расширять объем работ. Записывайте временные показатели, а также стоимость токенов или запросов рядом с функциональными результатами. Отслеживание затрат на раннем этапе предотвращает неожиданные счета при переходе от демо-версии к общедоступным средам. Сохраняйте структуру графа простой и типизированной; вложенные структуры скрывают информацию о том, какой узел заполнил тот или иной поле, и могут нарушить работу при прерываниях.

1. Основной цикл агента

Этап «1 Основной цикл агента» работает наилучшим образом, когда его рассматривают как измеримую структуру. Соберите один идеальный пример работы, один случай сбоя и запись о возврате к предыдущему состоянию перед расширением объёма работы. Храните конфигурацию вне кода приложения. Файлы среды, хранилища секретов и флаги функций должны находиться в одном месте, чтобы операторы могли их проверять, не читая весь код. Сохраняйте состояние структуры простым и типизированным. Вложенные объекты скрывают информацию о том, какой узел заполнил тот или иной поле, и мешают возобновлению работы после прерываний.

while not goal_reached:
    result = agent.act()
    evidence = evaluate(result)
  if evidence.success:
     break
  agent.learn(evidence.feedback)

Этап «1 Основной цикл агента» работает наилучшим образом, когда его рассматривают как измеримую структуру. Соберите один идеальный пример работы, один случай сбоя и запись о возврате к предыдущему состоянию перед расширением объёма работы. Предпочитайте небольшие, тестируемые единицы кода большим, запутанным скриптам. Когда какой-то шаг сбивается, причина сбоя должна указывать на конкретную ответственность, а не на сложную цепочку операций.

Пример: Код агента

На этапе примерного агента кодирования необходимо определить входные данные, ответственного за выполнение шага и критерии завершения перед изменением кода. Операторы должны иметь возможность перезапустить шаг с известной точки контроля, не догадываясь о скрытом состоянии. Рассматривайте этот этап как контракт между входными данными и проверенными выходными результатами. Укажите названия элементов, определите критерии успеха и не допускайте молчаливого частичного завершения работы. Внедряйте утверждение человека для операций, связанных с тратой денег или изменением производственных данных. Настройка на этапе компиляции не эквивалентна полноте выполнения бизнес-задач.

III. Анатомия хорошо спроектированной петли

Для III этапа анализа необходимо заранее определить входные данные, ответственного за выполнение шага и критерии завершения перед изменением кода. Операторы должны иметь возможность перезапустить шаг с известной точки контроля, не догадываясь о скрытом состоянии. Рядом с функциональными результатами следует записывать время выполнения и стоимость токенов или запросов. Отображение затрат на раннем этапе предотвращает неожиданные счета при переходе от демо-среды к общедоступным средам. Необходимо ввести человеческое утверждение для операций, связанных с тратой денег или изменением производственных данных. Подключение компонентов во время компиляции не гарантирует полноты реализации бизнес-логики.

Хороший цикл включает несколько четко определенных элементов:

Хороший цикл включает определение этапов, входных данных, ответственного за выполнение шага и критериев завершения перед изменением кода. Операторы должны иметь возможность перезапустить шаг с известной точки контроля, не догадываясь о скрытом состоянии. Конфигурацию следует хранить отдельно от кода приложения. Файлы среды, хранилища конфиденциальных данных и флаги функций должны находиться в одном месте, чтобы операторы могли их проверять, не читая весь код. Для операций, связанных с тратой денег или изменением производственных данных, необходимо использовать утверждение человека. Подключения, созданные во время компиляции, не гарантируют полноты охвата бизнес-логики.

1. Триггер

На этапе 1 «Триггер» необходимо определить входные данные, ответственного за выполнение шага и критерии завершения перед изменением кода. Операторы должны иметь возможность перезапустить шаг с известной точки контроля, не догадываясь о скрытом состоянии. Необходимо задокументировать как успешный, так и восстановительный сценарии работы. Повторные попытки, проверки человеком и обработка неработоспособных сообщений являются частью продукта, а не элементами последующей доработки. Внедрять утверждение человеком для операций, связанных с тратой денег или изменением производственных данных. Подключение компонентов во время компиляции не гарантирует полноты функционала продукта.

2. Цель

На этапе с двумя целями необходимо заранее определить входные данные, ответственного за выполнение шага и критерии завершения перед изменением кода. Операторы должны иметь возможность перезапустить шаг, исходя из известной точки контроля, без необходимости угадывать скрытое состояние. Лучше использовать небольшие, тестируемые единицы кода вместо обширных скриптов. При сбое шага он должен указывать на конкретную причину, а не на сложную структуру обработки данных. Внедрять человеческое утверждение для операций, связанных с тратой денег или изменением производственных данных. Наличие связей во время компиляции не гарантирует полноты бизнес-логики.

"All unit tests must pass."
"Make it better."

3. Состояние

На этапе 3 State необходимо определить входные данные, ответственного за выполнение шага и критерии завершения перед изменением кода. Операторы должны иметь возможность перезапустить шаг с известной точки контроля, не догадываясь о скрытом состоянии. Рассматривайте этот этап как контракт между входными данными и проверенными выходными результатами. Дайте названия элементам, определите критерии успеха и не допускайте молчаливого частичного завершения работы. Внедрите проверку человека для операций, связанных с тратой денег или изменением производственных данных. Подключение компонентов во время компиляции не гарантирует полноты выполнения бизнес-задач.

4. Политика действий

На этапе 4 политики действий необходимо определить входные данные, ответственного за выполнение шага и критерии завершения перед изменением кода. Операторы должны иметь возможность перезапустить шаг с известной точки контроля, не догадываясь о скрытом состоянии. Рядом с функциональными результатами следует записывать время выполнения и стоимость токенов или запросов. Отображение затрат на раннем этапе предотвращает неожиданные счета при переходе с демо-среды в общедоступные среды. Для операций, связанных с тратой денег или изменением производственных данных, требуется утверждение человека. Настройка на этапе компиляции не гарантирует полноты решения для бизнеса.

Что разрешено делать агенту?

На этапе определения составляющих агента необходимо заранее описать входные данные, ответственного за выполнение шага и критерии завершения перед внесением изменений в код. Операторы должны иметь возможность перезапустить шаг с известной точки контроля, не догадываясь о скрытом состоянии. Храните конфигурацию вне кода приложения. Файлы среды, хранилища секретов и флаги функций должны находиться в одном месте, чтобы операторы могли их проверять, не читая весь кодовый граф. Вводите ручное утверждение для операций, связанных с тратой денег или изменением производственных данных. Подключение компонентов во время компиляции не гарантирует полноты охвата бизнес-логики. На этапе определения составляющих агента необходимо заранее описать входные данные, ответственного за выполнение шага и критерии завершения перед внесением изменений в код. Операторы должны иметь возможность перезапустить шаг с известной точки контроля, не догадываясь о скрытом состоянии. Предпочитайте небольшие, тестируемые единицы кода большим, запутанным скриптам. При сбое шага он должен указывать на конкретную причину, а не на сложную структуру обработки данных.

5. Доказательства

На этапе 5 «Доказательства» сначала запишите условия контракта: необходимые входные данные, сигнал успешного выполнения и действия при частичной неудаче. Такой чек-лист поможет сохранять честность при последующих изменениях кода. Рассматривайте этот этап как контракт между входными данными и проверенными выходными результатами. Укажите названия элементов, определите критерии успеха и не допускайте молчаливого частичного выполнения задачи. Выполняйте контрольные точки после дорогостоящих операций. Система возмещения расходов не должна снова взимать плату за один и тот же вызов большой языковой модели, когда оператор пытается выполнить следующий этап.

6. Обратная связь

При работе над 6 этапами обратной связи сначала запишите условия работы: необходимые входные данные, сигнал успешного выполнения и действия при частичной неудаче. Такой список помогает сохранять честность при последующих изменениях кода. Рядом с функциональными результатами занесите информацию о времени выполнения и стоимости токенов или запросов. Отображение затрат с самого начала предотвращает неожиданные счета при переходе от демо-среды к общедоступным средам. Выполняйте контрольные точки после дорогостоящих шагов. Система возобновления работы не должна снова взимать плату за один и тот же вызов большой языковой модели, когда оператор пытается выполнить последующий узел.

"Try again."
"Three tests failed because the API returns a string where an integer is expected."

7. Правило остановки

При работе с этапом правила «7 остановок» сначала запишите условия работы алгоритма: необходимые входные данные, сигнал о успешном выполнении и действия при частичной неудаче. Такой чек-лист помогает сохранять честность последующих изменений в коде. Храните конфигурацию отдельно от кода приложения. Файлы с настройками окружения, хранилища секретов и флаги функций должны находиться в одном месте, чтобы операторы могли их проверять, не читая весь код. Создавайте контрольные точки после дорогостоящих операций. Механизм возобновления выполнения не должен повторно взимать плату за один и тот же вызов большой языковой модели, когда оператор пытается выполнить следующий этап. При работе с этапом правила «7 остановок» сначала запишите условия работы алгоритма: необходимые входные данные, сигнал о успешном выполнении и действия при частичной неудаче. Такой чек-лист помогает сохранять честность последующих изменений в коде. Предпочитайте небольшие, тестируемые единицы кода большим скриптам. При сбое какого-либо этапа причина неудачи должна указывать на конкретную ответственность, а не на запутанную структуру обработки данных.

IV. Циклы, основанные на доказательствах, против циклов, основанных на уверенности

Этап IV «Ориентация на доказательства против ориентации на уверенность» работает наилучшим образом, если рассматривать его как измеримую структуру. Соберите один идеальный пример работы, один случай сбоя и запись о возврате к предыдущему состоянию перед расширением объёма работ. Рассматривайте этот этап как контракт между входными данными и проверенными результатами. Дайте названия всем элементам, определите критерии успеха и не соглашайтесь на молчаливое частичное выполнение задачи. Сохраняйте структуру графа простой и типизированной. Вложенные структуры данных маскируют информацию о том, какой узел заполнил тот или иной поле, что приводит к нарушению последовательности выполнения после перерывов.

"The code looks correct."
"The tests pass, the type checker passes, and the API returns the expected response."

V. Распространённые шаблоны циклов

Этап V Common Loop Patterns работает наилучшим образом, если рассматривать его как измеримую поверхность. Соберите один идеальный пример работы, один случай сбоя и запись о возврате к предыдущему состоянию перед расширением объёма работ. Записывайте временные показатели, а также стоимость токенов или запросов рядом с функциональными результатами. Отображение стоимости на ранних этапах предотвращает неожиданные счёты при переходе от демо-среды к общедоступным средам. Сохраняйте структуру графа простой и типизированной; вложенные структуры скрывают информацию о том, какой узел заполнил тот или иной поле, и могут нарушить возобновление работы после прерываний.

1. Циклы повторных попыток

Этап «1 цикл попыток» работает наилучшим образом, если рассматривать его как измеримую структуру. Соберите один идеальный пример работы, один случай сбоя и записку о возврате к предыдущему состоянию перед расширением объёма работы. Храните конфигурацию вне кода приложения. Файлы среды, хранилища секретов и флаги функций должны находиться в одном месте, чтобы операторы могли их проверять, не читая весь код. Сохраняйте структуру графа простой и типизированной. Вложенные структуры данных маскируют информацию о том, какой узел заполнил тот или иной поле, что приводит к нарушению возобновления работы после перерывов. Этап «1 цикл попыток» работает наилучшим образом, если рассматривать его как измеримую структуру. Соберите один идеальный пример работы, один случай сбоя и записку о возврате к предыдущему состоянию перед расширением объёма работы. Предпочитайте небольшие, тестируемые единицы кода вместо обширных скриптов. Когда какой-либо шаг срабатывает некорректно, причина сбоя должна указывать на конкретную ответственность, а не на запутанную цепочку операций.

2. Циклы рефлексии

На этапе 2 циклов отражения необходимо заранее определить входные данные, ответственного за выполнение шага и критерии завершения перед изменением кода. Операторы должны иметь возможность перезапустить шаг с известной точки контроля, не догадываясь о скрытом состоянии. Рассматривайте этот этап как контракт между входными данными и проверенными выходными результатами. Дайте названия элементам, определите критерии успеха и не допускайте молчаливого частичного завершения работы. Обеспечьте человеческое утверждение для операций, связанных с тратой денег или изменением производственных данных. Подключение компонентов во время компиляции не гарантирует полноты выполнения бизнес-задач.

3. Циклы оценки

4. Циклы самокоррекции

def solve_problem(problem):
    for _ in range(5):
        solution = agent.generate(problem)

        result = run_tests(solution)

        if result.passed:
            return solution

        problem = agent.analyze_failure(
            problem,
            result.errors
        )

    raise RuntimeError("Unable to solve the problem")

VI. Примеры из реальной жизни

1. Агенты для программирования

Пример: агент для программирования

Фрагмент кода: цикл программирования, основанный на доказательствах

for attempt in range(MAX_RETRIES):
    code = agent.generate()
    result = run_tests(code)
    if result.passed:
        return code
    agent.update(result.errors)
raise RuntimeError("Could not produce a valid solution")

2. Исследовательские агенты

Фрагмент кода:

MAX_ITERATIONS=6

def research_agent(topic):
    state = {
        "sources": [],
        "gaps": [topic]
    }

    for _ in range(MAX_ITERATIONS):

        # 1.Search
        results=search_web(state["gaps"])

        # 2.Read
        documents=read_sources(results)

        # 3.Evaluate
        useful_sources=evaluate_sources(documents)
        state["sources"].extend(useful_sources)

        # 4.Identify gaps
        state["gaps"]=find_knowledge_gaps(
            topic,
            state["sources"]
        )

        # 5.Stop when enough evidence exists
        if not state["gaps"]:
            break

    # 6.Synthesize
    return synthesize_report(
        topic,
        state["sources"]
    )

3. Генерация контента

Фрагмент кода

def content_agent(topic, requirements):
    draft = generate_draft(topic)
    for _ in range(3):
        evaluation = evaluate(
            draft,
            requirements
        )
        if evaluation.passes:
            return draft

        draft = revise(
            draft,
            evaluation.feedback
        )
    raise RuntimeError("Could not satisfy requirements!")

VII. Распространённые ошибки

1. Бесконечные циклы

2. Слепые попытки повтора

3. Отсутствие внешних доказательств

4. Слабая обратная связь

5. Потеря состояния

Чек-лист для работы