Trend Radar

INFRA · DAILY · 26 ИЮНЯ

AI-инфраструктура смещается от гонки моделей к управлению стеком: локальный inference, gateways…

AI-инфраструктура смещается от гонки моделей к управлению стеком: локальный inference, gateways, агентные исследования, compute и политический контроль релизов

Практический слой вокруг агентов взрослеет быстрее, чем сами модели: важнее становятся маршрутизация, переносимость, локальный deployment и evals. Big labs одновременно концентрируют таланты и попадают под давление государств по безопасности релизов

⚡ Big Labs

Белый дом просит

Белый дом просит OpenAI замедлить публичный релиз GPT-5.6 из-за safety-рисков, поэтому модель может сначала выйти только для ограниченного круга партнёров

Для агентной инфраструктуры это сигнал проектировать fallback-стратегии, staged rollout и независимость от внезапных ограничений big labs

techcrunch.com

🚀 Funding

Ведёт переговоры привлечении

General Intuition ведёт переговоры о привлечении $300 млн при оценке около $2 млрд, чтобы масштабировать compute и выпустить новый агентный продукт

Это подтверждает, что уникальные данные плюс вычислительная мощность становятся ключевым moat для продуктовых AI-агентов

techcrunch.com

🔧 Tools

Продолжает развиваться вызова

LiteLLM продолжает развиваться как AI Gateway и Python SDK для вызова разных LLM-провайдеров и A2A-агентов через единый слой

Gateway-слой нужен для контроля стоимости, маршрутизации моделей, observability и переносимости агентной системы между провайдерами

github.com

Систематизирует ключевые исследования

LLM-Agent-Paper-List систематизирует ключевые исследования по LLM-агентам и показывает накопление инженерных паттернов вокруг агентных систем

нужен живой research radar по памяти, planning, tools, evaluation и multi-agent workflows, чтобы не строить инфраструктуру вслепую

github.com · github.com

🏗 Infrastructure

Собирает практические бенчмарки

llmdev.guide собирает практические бенчмарки и данные по устройствам для локального LLM inference без маркетингового шума

Локальный inference важен для приватности, latency, отказоустойчивости и снижения зависимости от облачных моделей в агентной инфраструктуре

github.com

ПоделитьсяTelegramX
Ещё из Infra