Концепция Guardian Angels: персонализированные LLM с непрерывным обучением для защиты и продуктивности

Исследователь Гверн Бранвен представил концепцию Guardian Angels — цифровых двойников на базе LLM, которые обучаются эмулировать личность, ценности и предпочтения конкретного пользователя. Текущие языковые модели функционируют как обобщенные чат-боты, чьи ограничения в виде замороженных весов и лимитов контекстного окна не позволяют эффективно справляться со сложными задачами исследователей. При этом массовое распространение генеративного контента и автоматизированных атак создает угрозу информационной безопасности, что требует перехода от универсальных агентов к индивидуальным защитным системам.

Техническая реализация таких моделей строится на отказе от стандартного промпт-инжиниринга в пользу continual learning и активного обучения. Архитектура предполагает использование динамической оценки моделей в реальном времени, генерации синтетических данных через внутренний монолог агента и постоянных запросов к пользователю для корректировки действий. Дополнительно применяется ансамбль файнтьюнов и персональный претрейн языковой модели под каждого человека, что минимизирует вероятность критических ошибок и повышает точность эмуляции решений.

В результате применения такого подхода пользователь переходит в роль руководителя, определяющего стратегические цели, в то время как Guardian Angel берет на себя тактическое выполнение и жесткую фильтрацию входящей информации. Подобная локальная система решает проблему агент-принципал путем максимального сближения целей человека и алгоритма, выступая одновременно инструментом кратного увеличения продуктивности и единственным барьером против масштабируемых ИИ-угроз, таких как синтетические медиа или целевой фишинг.