Главная / Статьи

Вызов инструментов в LangChain: механизм работы агентных приложений

Зарегистрируйте функции Python в качестве инструментов LangChain и запустите четырёхэтапный цикл, в ходе которого модель выбирает инструменты, они выполняются внешне, а результаты возвращаются в виде сообщений.

Издатель: REACTAPP.TOP6 мин чтения1280 слов

Источники: Agentic AI with LangChain — Part 3: Tool Calling in LangChain

Это третья статья в серии «Агентные ИИ с LangChain». Во второй части был создан рабочий процесс агентного RAG с использованием LangGraph. Следующим шагом является расширение функционала на более разные области — кулинарию, плавание, классическую музыку, а также информацию о погоде в городах по всему миру, при этом не перегружая граф новыми узлами.

Следуя подходу второй части, можно добавлять по одному узлу поиска на каждую область, причем каждый из них будет иметь собственный индекс Pinecone, плюс узел для получения данных о погоде через общедоступный API. По мере увеличения количества узлов умножается и количество связей между ними, что затрудняет обслуживание графа.

Использование инструментов — это выход из ситуации. Вместо того чтобы создавать отдельный узел для каждой функции, регистрируйте эти функции как инструменты LangChain и позвольте модели самой решать, когда их вызывать, как использовать полученные результаты и как интегрировать их в окончательный ответ. Это упрощает рабочий процесс и расширяет возможности модели за счёт точных вычислений, запросов к базам данных, поиска в интернете и API в реальном времени.

Далее рассматриваются основные идеи и цикл вызова инструментов в LangChain. Эта основа подготавливает почву для следующей статьи о ReAct. Понимая принципы ReAct, можно упростить рабочий процесс из части 2 с использованием тех же идей. Код находится в репозитории GitHub.

Темы:

  • Что такое вызов инструментов и почему это важно.
  • Как реализовать инструменты LangChain.
  • Как работает четырёхэтапный цикл вызова инструментов.

Лексика

  • Инструмент LangChain: функция на Python, декорированная атрибутом @tool, которая предоставляет модели её схему и инструкции по использованию.
  • Вызов инструмента: механизм, с помощью которого модель запрашивает выполнение внешней функции.
  • Сообщение инструмента: тип сообщения, который возвращает результаты работы инструмента обратно в модель.
  • Цикл вызова инструмента: процесс, в ходе которого модель выбирает инструмент, он выполняется вне модели, затем возвращаются результаты, которые модель использует для формирования ответа.

Настройка

Создайте файл .env с ключами от OpenAI и Tavily.

OPENAI_API_KEY="<Your OpenAI API Key>"
TAVILY_API_KEY=<Your TAVILY API Key>

Загружайте их с помощью класса настроек Pydantic.

class BaseConfig(BaseSettings):
    OPENAI_API_KEY: Optional[str]
    PINECONE_API_KEY: Optional[str]
    TAVILY_API_KEY: Optional[str]

model_config = SettingsConfigDict(env_file=".env", extra="ignore")

В проекте инструменты хранятся в пакете tools, вместе с простыми примерами, такими как помощник для вычисления суммы и инструмент для получения информации о погоде.

project/
|
├── tools
│   ├── get_sum.py    # a simple LangChain tool example
|   └── weather.py    # get_weather LangChain tool using open source APIs
|
|── tool_call.py      # implement tool-calling loop using LangChain tools
├── config.py         # pydantic BaseConfig
├── .env              # environment variable definition
├── .gitignore
└── requirements.txt  # package requirements

Что такое инструмент LangChain

Инструмент — это обычная функция на Python с декоратором @tool. Декоратор оборачивает функцию, создаёт схему на основе документации и указаний типов, а также передаёт модели инструкции по её вызову.

from langchain.tools import tool


@tool
def get_sum(a: int, b: int) -> int:
    """
    get the summation of two integers
    :param a: int, input integer
    :param b: int, input integer
    :return: int, the sum of a and b
    """
    return a + b

Инструмент погоды

get_weather использует бесплатный API Open-Meteo. Сначала определяются координаты города, затем получается информация о текущей погоде. Такая схема — сначала определение, затем получение данных — типична для инструментов в реальном времени.

Цикл вызова инструментов

Как только инструменты существуют, возникает вопрос о том, как модель ими пользуется. Ответом является четырехэтапный цикл.

  1. Пользователь отправляет запрос.
  2. Модель решает, какой инструмент или инструменты необходимо вызвать, и отправляет сообщение с их именами и аргументами.
  3. Инструменты выполняются внешне относительно модели, а их результаты возвращаются в виде сообщений от инструментов.
  4. Модель учитывает эти результаты и формирует окончательный ответ.

Модель никогда не выполняет инструменты сама. Все происходит внешне, а результаты возвращаются в виде сообщений от инструментов, которые затем анализируются моделью.

Модель также может запросить несколько инструментов в одном ответе, что называется параллельными вызовами инструментов. При запросе о температуре в Бостоне и сумме трех и пяти она может одновременно использовать get_weather и get_sum; цикл выполняет оба вызова перед тем, как дать ответ.

Реализация цикла в LangChain

Класс WeatherAssistant объединяет функции получения погодных данных и веб-поиска с помощью get_weather и tavily_search.

LLM и инструменты

В конструкторе задаётся модель OpenAI, словарь инструментов, ограниченный LLM, способный их вызывать, список сообщений и системное указание, которое говорит модели, когда использовать каждый инструмент.

class WeatherAssistant:
    def __init__(self):

        # initialize llm
        self.llm = ChatOpenAI(api_key=api_key, model="gpt-4o-mini", temperature=0)

        # initialize a tool dictionary
        self.tools = {"get_weather": get_weather,
                      "tavily_search": TavilySearch(max_results=3, tavily_api_key=TAVILY_API_KEY)}
        # bind LangChain tools to llm
        self.llm_with_tools = self.llm.bind_tools(list(self.tools.values()))

        # initialize messages to store message list
        self.messages = []

        # System prompt
        self.system_prompt = f"""You are a helpful assistant for question-answering tasks.
        When users ask about weather, use the get_weather tool to get weather. For other questions,
        use web_search. If you don't know the answer, just say that you don't know.
        Be conversational and helpful in your responses."""

        self.messages.append(SystemMessage(content=self.system_prompt))

Метод чата

chat добавляет сообщение пользователя, вызывает модель, и если присутствуют вызовы инструментов, выполняет каждый инструмент в цикле, добавляя каждый результат в виде ToolMessage, затем снова вызывает модель для получения окончательного ответа. Такой подход позволяет обрабатывать как одиночные, так и параллельные вызовы.

async def chat(self, message: str):
    # Wrap User message in a HumanMessage and add it to message list
    self.messages.append(HumanMessage(content=message))

    # Get AI response (it may or may not contain tool calls)
    response = await self.llm_with_tools.ainvoke(self.messages)
    self.messages.append(response)

    # If there is any tool calls in the AI response
    if response.tool_calls:

        # process tool calls
        for tool_call in response.tool_calls:

            # retrieve function name from tool_call, then
            # retrieve the tool from tool dictionary, and invoke it,
            # append resulting tool message to message list
            tool = self.tools[tool_call["name"]]
            tool_result = await tool.ainvoke(tool_call)
            self.messages.append(tool_result)

        # Get final response after tool execution
        final_response = await self.llm_with_tools.ainvoke(self.messages)
        self.messages.append(final_response)

Короткий тест

Небольшой асинхронный модуль создаёт помощника и запрашивает температуру в Токио.

async def main():
    print("hello tool calling!")
    assistant = WeatherAssistant()
    message = "What is the temperature in Tokyo?"
    await assistant.chat(message)
    for msg in assistant.messages:
        msg.pretty_print()
if __name__ == "__main__":
    asyncio.run(main())

Список сообщений показывает четкую последовательность: сообщение от человека с вопросом, сообщение от ИИ с вызовом инструмента get_weather, сообщение от инструмента с данными о погоде и окончательное сообщение от ИИ с устным ответом.

Примечание о ошибках и повторных попытках\n\nЕсли инструмент выдает исключение, цикл должен поймать его, преобразовать в понятное сообщение от инструмента и позволить модели решить, стоит ли попробовать снова или извиниться. Слепые повторные попытки с теми же некорректными аргументами тратят время; лучше показать текст ошибки, чтобы модель могла скорректировать свои действия.\n\n## Почему это важно для серии

Вызов инструментов является основой подхода ReAct и любого агента, который сам принимает решения о своих действиях. Как только такой цикл сформирован, добавление новых возможностей означает создание ещё одной функции @tool, а не нового узла графа. Именно такое упрощение было необходимо для более сложных рабочих процессов, описанных в Части 2. После однократной регистрации инструментов новые области перестают считаться новыми узлами графа и становятся новыми функциями, которые модель может обнаружить на основе их схем и документации. В следующей статье будет развиваться этот цикл с использованием паттерна ReAct, а затем снова рассмотрится граф Части 2, чтобы показать, насколько уменьшается количество необходимых связей, когда принятие решений осуществляется через вызовы инструментов.