Главная / Статьи

Как работает современный ИИ: ЯЗЫКИ больших моделей, формулировка запросов, RAG, агенты и MCP объяснены.

Простое объяснение стека ИИ на английском языке: как ЯЗЫКИ больших моделей предсказывают токены, четыре метода формулировки запросов, RAG с эмбеддингами, цикл агента ReAct и функции MCP.

Издатель: REACTAPP.TOP9 мин чтения1988 слов

Источники: Beyond the Buzzwords: How Modern AI Actually Works (From LLMs to Agents)

LLM, GenAI, RAG, MCP. Аббревиатуры появляются быстрее, чем кто-либо успевает их поискать, и может создаться впечатление, что кто-то просто бросает буквы в стену. Однако идеи, стоящие за ними, не являются чем-то волшебным. Если убрать жаргон, каждая из них довольно интуитивна. Вот как элементы современного ИИ связаны между собой в порядке, который позволяет легче всего их понять.

Генеративный ИИ и LLM — это не одно и то же

Люди используют эти два термина как синонимы, но один включает в себя другой.

  • Генеративный ИИ — это общая категория. Она охватывает любые системы, создающие что-то новое: текст, изображения, аудио или видео.
  • Большие языковые модели — это одна из его ветвей. Если генеративный ИИ — это «автомобили», то LLM — это спортивный автомобиль: система, обученная на огромном количестве текста, чтобы понимать и генерировать человеческий язык.

Как работает LLM внутри

LLM — это машина прогнозирования, и в ней нет ничего, что напоминало бы человеческое мышление или эмоции. Самое близкое сравнение — это самая продвинутая система автодополнения, когда-либо созданная.

Ваш ввод разделяется на небольшие единицы, называемые токенами, обычно целыми словами или их фрагментами. На основе всего, что было усвоено в процессе обучения, модель вычисляет вероятность каждого возможного следующего токена. Если вы введете «Чашка горячего...», математические расчеты могут показать вероятность слова «кофе» в 90% и слова «цемент» — в 1%. Модель выбирает наиболее вероятное продолжение, добавляет его и повторяет процесс с поразительной скоростью.

Инжиниринг запросов

Если LLM — это просто машины вероятностей, как они создают хорошие эссе или рабочий код? Ответ во многом заключается в том, как вы формулируете запросы. Инжиниринг запросов — это практика формулировки просьб так, чтобы результат был максимально полезным.

Представьте себе талантливого стажера, который прекрасно разбирается в мире, но совершенно не знает ваших целей. Размытое задание приводит к размытому результату, а четко сформулированное — к точной работе.

Существует десятки техник, но четыре из них покрывают большинство ситуаций, в которых нуждаются разработчики и активные пользователи.

1. Указание роли. Предоставьте модели определенную роль, например «действуйте как старший инженер по программному обеспечению, проверяющий устаревшую базу кода». Это сужает ее словарный запас и привычки форматирования, что устраняет общие шаблонные ответы и способствует получению практических решений, соответствующих конкретной области.

2. Использование примеров. Перед выполнением реальной задачи покажите два-три готовых примера желаемого формата входных и выходных данных. Структуры кода и схемы JSON легко неправильно интерпретировать, а один четкий пример «хорошего» результата устраняет большинство догадок и ошибок форматирования.

3. Цепочка запросов. Разделите крупную задачу на серию более мелких запросов. Один запрос может определить архитектуру, следующий — создать схему базы данных, а третий — написать точки входа API на основе этой схемы. Модели теряют концентрацию при длительной работе, поэтому разбиение на небольшие шаги позволяет получать лучший код и меньше ошибок компиляции.

4. Метазапросы. Попросите модель написать, улучшить или отладить сам запрос, например: «Я хочу достичь X, поэтому напишите лучший запрос для LLM для этого». Модель довольно хорошо понимает собственные ограничения, что может сэкономить часы проб и ошибок.

Все четыре метода работают одинаково. Управляя контекстом, вы сужаете диапазон возможных вариантов модели, заставляя её опираться только на ту часть знаний, которая связана с «экспертом-инженером».

RAG: предоставление модели свежих фактов

У больших языковых моделей есть встроенное ограничение: они «замораживаются» по окончании обучения. Модель, обученная в 2023 году, не может знать о том, что команда RCB выиграла кубок IPL в мае 2026 года. Она также не имеет никакой информации о конфиденциальных материалах, таких как внутренние PDF-файлы вашей компании.

Технология усиленного генерирования с поиском информации, или RAG, устраняет этот недостаток. Представьте экзамен с открытой книгой: вместо того чтобы полагаться только на то, что было запомнено давно (базовое обучение), вы можете пользоваться толстым учебником во время ответов.

Четыре шага

  1. Вопрос. Вы задаете вопрос вроде «Каковы были наши цели по продажам за 3-й квартал?»
  2. Поиск. Прежде чем модель увидит вопрос, система ищет среди собственных документов компании информацию о целях по продажам за 3-й квартал.
  3. Усиление. Найденные документы вставляются в текст запроса.
  • Генерация. Модель читает их и отвечает на основе актуальных, релевантных данных.
  • Почему модели выдумывают

    Поскольку LLM — это прогнозатор слов, его основная цель — звучать статистически обоснованно, а не быть фактически верным. Если спросить о политике компании, которой не существует, вы не увидите ошибки 404. Модель сама придумает убедительную политику из ничего. Она не лжет намеренно, а следует своим вероятностям к тому, что выглядит как правильный ответ. RAG снижает это, заставляя модель основывать свой ответ на реальных фактах, которые вы предоставляете.

    Почему поиск происходит так быстро

    Классические поисковые системы ищут точные совпадения ключевых слов, но ИИ должен понимать смысл, и это задача эмбеддингов.

    Когда загружаются PDF-документы компании, специализированная модель преобразует текст в длинный список чисел, отражающих его смысл. Эти списки хранятся в векторной базе данных. При поступлении вопроса система таким же образом превращает его в числа и находит наиболее близкие соответствия в базе данных. Именно поэтому правильный отрывок выводится даже тогда, когда формулировка вопроса отличается от формулировки в документе.

    RAG по сравнению с тонкой настройкой

    Эти два подхода часто вызывают путаницу. RAG — это экзамен с открытой книгой: вы передаете модели временные заметки, связанные с конкретным вопросом. Тонкая настройка больше похожа на возвращение модели в аспирантуру: она постоянно изменяет внутренние веса модели, позволяя ей осваивать определенный тон, формат или специализированную лексику, такую как медицинский или юридический язык. Для обновления фактических знаний RAG работает быстрее, дешевле и гораздо проще в управлении.

    Агентные ИИ: от чат-бота до цифрового работника

    Большинство людей по-прежнему используют ИИ пассивно: вы вводите запрос, получаете ответ, и обмен заканчивается. Агентные ИИ превращают пассивного помощника в активного агента. Агент получает цель, набор инструментов и свободу самостоятельно определять способы достижения цели без постоянного руководства.

    Рабочий процесс

    Если попросить обычный LLM спланировать пятидневную поездку в Бангалор, он сразу же предоставит стандартный маршрут. Агент работает в циклах, а не предсказывая один ответ. Этот подход называется ReAct — сокращение от reasoning and acting, и он включает этапы размышления, действия и наблюдения:

                      ┌────────────────────────┐
                      │                        │
                      ▼                        │
    [Thought] ──> [Action] ──> [Observation]  ─┘
    
    • Мысль — это этап рассуждения. Модель анализирует запрос и принимает решение о дальнейших действиях. Если кто-то хочет узнать погоду в Хайдарабаде, модель приходит к выводу, что не знает текущих условий погоды и нуждается в внешнем источнике информации.
    • Действие — это выбор моделью инструмента или API для вызова, например call_weather_api(location="Hyderabad").
    • Наблюдение — это результат, полученный от этого инструмента в реальном мире, например «25°C и дождь».

    Затем цикл начинается заново. Модель использует полученные данные, формирует новую мысль (теперь у нее есть информация о погоде, и она может написать ответ) и в конце концов отвечает.

    MCP: универсальный разъем

    По мере распространения агентов возникает проблема: как им добраться до остальной части цифрового мира? Slack, GitHub, Google Drive и Notion организуют свои данные по-разному, и раньше для подключения ИИ к каждой из этих платформ приходилось создавать отдельный инструмент для каждого приложения.

    Model Context Protocol (MCP) — это открытый стандарт, который функционирует как универсальный порт USB-C для ИИ.

    [ AI Model ]
         │
         ▼ (Via MCP - Universal Standard)
    [ MCP Server / Plug ]
      ├── Connected to your Slack
      ├── Connected to your GitHub
      └── Connected to your Local Files
    

    Вместо тысяч отдельных интеграций приложения реализуют MCP всего один раз. После этого любая совместимая модель может безопасно читать данные приложения, использовать его инструменты и понимать контекст. Именно эта инфраструктура позволяет агентам обрабатывать электронную почту, обновлять таблицы и работать с кодовыми базами.

    Проще сформулировать

    MCP делает для программного обеспечения то же, что UPI сделал для платежей в Индии. До появления UPI для перевода денег требовалось собирать номер счета, код IFSC и название филиала, затем ждать активации получателя или использовать пять разных приложений-кошельков, которые не могли взаимодействовать друг с другом. UPI заменил это одним сканируемым кодом, доступным во всех банках. MCP — это аналогичный универсальный инструмент для ИИ. Разработчикам больше не нужно писать специальный код API для подключения модели к Slack, затем к GitHub и далее к другому приложению. Каждое приложение устанавливает стандартный плагин MCP, и любая модель может подключаться, читать данные и запускать действия. Это своего рода «автомагистраль», позволяющая агентам перемещаться между доской Jira, почтой Outlook и рабочей базой кода.

    Как всё это связано

    Если расставить все элементы по местам, направление становится ясным. Генеративные ИИ и большие языковые модели научились говорить как люди. Инжиниринг промптов научил пользователей эффективно взаимодействовать с ними. Технология RAG обеспечивает доступ к актуальным фактам и приватным данным. Агентные ИИ теперь справляются с сложными задачами, причем MCP выступает своего рода соединителем, объединяющим эти агенты с программным обеспечением в любом месте.

    Бум ИИ связан не с тем, что машины становятся сознательными. Речь идет о том, что машины превращаются в хорошо связанные, функциональные инструменты, и понимание того, как устроены их механизмы, помогает максимально эффективно ими пользоваться.