Qualcomm описала нейропроцессор будущего флагманского чипа Snapdragon 8 Elite Gen 6 Pro. Полный анонс состоится на Snapdragon Summit 22 сентября, но часть характеристик компания раскрыла заранее сама.
В Hexagon NPU добавлен блок Element Accelerator, сделанный под трансформерные модели — те, на которых работают генеративные и агентные ИИ-сервисы. Общая память блока выросла на 50%: по объяснению Qualcomm, именно нехватка памяти, а не вычислений, чаще всего упирает производительность таких моделей на телефоне. Этап prefill — первичная обработка запроса до выдачи первого токена — для моделей в формате INT4 ускорен до 50%. Отдельно заявлена оптимизация под схему Mixture-of-Experts, где из большой модели на каждый запрос включается только часть блоков.
Набор задач, под который Qualcomm описывает новый NPU: постоянно работающий ИИ, рассуждение с длинным контекстом, мультимодальные модели, несколько агентов одновременно и сценарии с низкой задержкой отклика.
Что из этого попадёт в смартфоны и в какие именно — Qualcomm назовёт 22 сентября. Подробности архитектуры — в блоге Qualcomm.
