Стэнфорд представил Shepherd — песочницу с Git-логикой для контроля и отката ИИ-агентов

Исследователи из Стэнфорда разработали Shepherd — среду выполнения для ИИ-агентов с механикой управления версиями. Фреймворк записывает каждый шаг работы языковой модели как отдельный коммит. Если агент допускает ошибку, задачу не нужно перезапускать с нуля. Shepherd откатывает выполнение до последнего корректного состояния вместе с файлами и процессами. При повторном запуске сохраняется до 95% вычислений KV-кэша.

Любая задача оформляется как Python-функция без тела. Агент работает в изолированной песочнице и возвращает результат в виде черновика. Изменения не затрагивают основную файловую систему до явного подтверждения через команду shepherd run apply. Права доступа задаются прямо в сигнатурах функций. Аргумент May[GitRepo, ReadOnly] жестко блокирует запись на уровне системных вызовов через macOS Seatbelt или Linux Landlock.

Архитектура построена на базе copy-on-write форков. Создание слепка среды происходит примерно в пять раз быстрее docker commit. Такой подход удобен для разработки мета-агентов. Они могут в реальном времени наблюдать за другими моделями, ветвить процессы и проводить обучение на основе сохраненных трассировок.