На повышении эффективности и доступности AI-моделей. Ключевые анонсы включают новые архитектуры для работы на edge-устройствах и в браузере, а также методы оптимизации мультимодальных трансформеров
Основной тренд дня — "демократизация" и "децентрализация" AI. Вместо наращивания мощности в облаке, исследователи и разработчики активно ищут способы сделать AI более эффективным и перенести вычисления ближе к пользователю — на edge-устройства и в браузеры. Это фундаментальный сдвиг, который повлияет на архитектуру будущих агентных систем, делая их более автономными и приватными. Кроме того, инвестиции в вертикальные AI-решения указывают на зрелость рынка и его расширение
🧠 Model
Агентные трансформеры для Edge
Представлен фреймворк AMI (Adaptive Multimodal Intelligence), который позволяет агентным мультимодальным моделям работать на устройствах с ограниченными ресурсами (edge devices), интеллектуально решая, когда собирать данные, а когда делать выводы
Это прямой путь к созданию автономных агентов, работающих локально на пользовательских устройствах. Такая архитектура снижает задержки, повышает приватность и открывает новые сценарии использования, не зависящие от постоянного подключения к облаку
Трансформер с самонастраиваемой архитектурой
Разработан новый тип трансформера, который может инкрементально наращивать и изменять собственную архитектуру (количество голов, глубину) прямо в процессе работы, вместо того чтобы иметь фиксированную структуру
Это может кардинально изменить подход к развертыванию моделей для агентов. Вместо выбора модели под задачу, мы сможем использовать одну адаптивную модель, которая сама оптимизирует свою сложность и ресурсы под конкретный контекст, что идеально для динамичной агентной среды
Линейное внимание для мультимодальности
Исследование показывает эффективность применения Linear Attention (LA) в мультимодальных трансформерах, что значительно снижает вычислительную сложность по сравнению со стандартным квадратичным вниманием
агенты должны обрабатывать разнообразные данные (текст, изображения). Оптимизация мультимодальных моделей с помощью LA позволит запускать более сложных и способных агентов на той же инфраструктуре, снижая затраты и увеличивая скорость ответа
🚀 Funding
Финансирование AI-стартапа Pillar
Платформа для управления финансовыми рисками Pillar привлекла $20 млн в сид-раунде под руководством a16z. Стартап нацелен на предоставление сложных AI-инструментов для малого и среднего бизнеса
Это подтверждает тренд на создание вертикальных AI-решений и высокий интерес инвесторов к ним. для рынка это сигнал, что инфраструктура для агентов должна быть достаточно гибкой, чтобы поддерживать создание специализированных B2B-агентов для конкретных отраслей
🔧 Tools
Web-LLM запускает Llama 3 в браузере
Web-LLM — это высокопроизводительный движок, позволяющий запускать большие языковые модели, такие как Llama 3 и Phi 3, непосредственно в браузере без необходимости серверной части
Возможность выполнять инференс на клиенте — это прорыв для агентной инфраструктуры. Это позволяет создавать полностью децентрализованных, приватных и отзывчивых агентов, работающих прямо в браузере пользователя, что снижает нагрузку на серверы и стоимость эксплуатации
Библиотека для AI-агентов на PHP
Выпущена библиотека symfony/ai-agent, предоставляющая инструменты для создания агентных приложений на языке PHP
Появление фреймворков для создания агентов за пределами экосистемы Python (в данном случае PHP) говорит о расширении рынка и росте спроса. инфраструктура должна быть готова к интеграции с агентами, написанными на разных языках, и предоставлять универсальные API