Black Baron

Qualcomm готовит серьёзное обновление своей ИИ-платформы. Компания раскрыла детали нового поколения нейронного процессора Hexagon, который появится в будущих флагманских чипах Snapdragon Elite. Главный акцент — на запуске сложных ИИ-моделей и агентов прямо на смартфоне, без постоянной зависимости от облака.

Element Accelerator и работа с трансформерами

Одним из ключевых нововведений стал специальный блок Element Accelerator. Он дополняет уже существующие скалярные, векторные и тензорные блоки NPU и предназначен в первую очередь для ускорения трансформерных моделей. Благодаря этому ИИ-агенты смогут быстрее обрабатывать запросы и реагировать на действия пользователя, сохраняя при этом энергоэффективность.

Больше памяти для контекста

Qualcomm увеличила объём общей памяти, доступной вычислительным блокам NPU. Это позволяет хранить больше данных, необходимых модели для работы с длинным контекстом, непосредственно рядом с процессором. В результате реже приходится обращаться к оперативной памяти смартфона, что особенно важно для агентных сценариев, где ИИ должен удерживать большой объём информации и одновременно работать с несколькими задачами.

Поддержка Mixture-of-Experts

Ещё одно важное изменение — поддержка архитектуры Mixture-of-Experts (MoE). В таких моделях параметры разделены на специализированные «эксперты», и для каждого запроса активируется только часть из них. Благодаря этому на устройстве можно запускать более крупные модели, не задействуя одновременно все параметры. Qualcomm заявляет, что новый NPU способен локально работать с MoE-моделями размером до 30 млрд параметров.

Прирост производительности

Компания обещает заметный рост скорости. По данным Qualcomm, новый NPU обеспечивает до 50 % более высокую производительность на этапе предварительной обработки входных данных (prefill) при работе с моделями в формате INT4. Также улучшены скорость декодирования и эффективность спекулятивного декодирования — метода, при котором небольшая вспомогательная модель заранее предлагает несколько следующих токенов, а основная их проверяет.

Важно понимать, что заявленные цифры относятся к конкретным сценариям и форматам данных, поэтому общий прирост скорости ИИ на устройстве может отличаться в зависимости от задачи.

Фокус на агентном ИИ

Все эти улучшения направлены на развитие агентного искусственного интеллекта на смартфонах. ИИ-агент способен самостоятельно разбивать задачу на шаги, обращаться к приложениям и данным устройства и выполнять действия без постоянного контроля со стороны пользователя. Ускорение обработки контекста и снижение требований к памяти должны сделать такие сценарии быстрее и удобнее.

Новое поколение NPU Hexagon станет частью следующего семейства флагманских Snapdragon, которое Qualcomm представит 22 сентября на Snapdragon Summit. Компания уже показала обновления CPU и GPU, а теперь усиливает и специализированную ИИ-часть платформы.

Если заявленные возможности подтвердятся на практике, смартфоны следующего поколения смогут запускать более сложные модели и агентные сценарии локально, без постоянной зависимости от облачных сервисов. Это может стать важным шагом к более быстрым, приватным и энергоэффективным ИИ-функциям на мобильных устройствах.