ОпенАЙ опубликовали статью Цикл агента (Agent Loop)
В основе любого ИИ-агента лежит так называемый цикл агента. Простейший вариант этого цикла выглядит так:
1. Агент получает ввод от пользователя и формирует из него текстовые инструкции для модели — промпт.
2. Далее агент отправляет этот промпт в модель и получает ответ — это называется вывод модели или inference.
• Во время него текст сначала превращается в последовательность токенов (чисел), которые модель использует для генерации ответа.
• Сгенерированные токены снова преобразуются в текст — ответ модели.
3. В результате модель либо
(1) выдаёт окончательный ответ пользователю, либо
(2) запрашивает вызов инструмента (например: «выполнить ls и вернуть вывод»).
• В случае (2) агент выполняет инструмент и добавляет его результат к исходному промпту, а затем отправляет обновлённый промпт модели снова.
• Это повторяется до тех пор, пока модель не прекращает запросы инструментов и не выдаёт финальный ответ.
Таким образом агент не ограничивается только текстовым ответом: он может выполнять инструментальные действия (например, команды системы) и записывать изменения в код на машине пользователя.
Добавить комментарий