Динамический рейтинг бесплатных LLM для агентов: спасение для прототипов или API-рулетка

Принято считать, что бесплатные LLM — отличный старт для инди-разработки. На практике попытка собрать агентскую систему на моделях с нулевой стоимостью обычно заканчивается тайм-аутами и кривым JSON. Проект Free LLM for Agents пытается обойти эту проблему, предлагая ежедневно обновляемый рейтинг бесплатных эндпоинтов с OpenRouter, заточенных именно под работу агентов.

Сервис оценивает кандидатов по наличию tool calling, поддержке структурированного вывода и размеру контекста. Прямо сейчас алгоритм рекомендует использовать openrouter/elephant-alpha с заявленным окном в 262k токенов. Оценка формируется из анализа метаданных и базовой проверки доступности. Вопрос в том, насколько разовый ежедневный пинг защищает от внезапных лимитов и падений, которые неизбежны на бесплатных тарифах.

Автор честно указывает, что его инструмент — это скорее практическая эвристика. На случай недоступности лидера предлагается использовать универсальный фоллбэк openrouter/free, который вслепую перенаправит запрос на любую живую модель. Строить на такой маршрутизации серьезный продакшен слишком рискованно из-за непредсказуемого качества ответов. Правда, для локальных тестов и быстрой проверки гипотез без привязки банковской карты этот подход действительно экономит время на перебор отваливающихся API.