Alice AI Foundation LLM: что это за модель Яндекса и как её скачать

Добавить recomixtech.com в список основных источников в Google
Доклад об обучении Alice AI Foundation на конференции Practical ML Conf

Alice AI Foundation LLM — открытая языковая модель Яндекса на 80 млрд параметров, обученная с нуля и опубликованная 21 сентября 2026 года под лицензией Apache 2.0. Скачать её можно бесплатно на Hugging Face, но это базовая модель без дообучения под диалог: чат-бота вроде Алисы из неё «из коробки» не получится, а для запуска нужен серверный уровень железа.

Что такое Alice AI Foundation LLM

Это претрейн-версия — модель после предобучения, до этапа, на котором её учат вести диалог и выполнять инструкции. Яндекс использует её как экспериментальную основу для будущей рассуждающей модели, на которой будут строиться агентные функции Алисы AI. Полное имя в репозитории — AliceAI-Foundation-80B-A3B-Base.

  • Архитектура — смесь экспертов (MoE): из 80 млрд параметров на каждый токен работают только 3 млрд, поэтому модель считает быстрее, чем подсказывает её размер.
  • Языки — русский и английский.
  • Длина контекста — 262 144 токена.
  • Лицензия Apache 2.0 разрешает и исследовательское, и коммерческое использование.

Главная сильная сторона — русскоязычные знания. В замерах Яндекса модель заметно опережает открытых конкурентов своего класса на русских фактах и школьных экзаменах:

БенчмаркAlice AI FoundationQwen3.5-35B-A3B-BaseNemotron-3-Super-120B-Base
WikiWebFacts (русские факты)86,562,472,8
EGE CoT (задания ЕГЭ)90,584,784,3
MATH-50091,181,984,8
TriviaQA (англ. факты)79,071,489,8

Последняя строка показывает и обратную сторону: на англоязычных фактах более крупные модели её обходят. Все цифры — собственные замеры Яндекса, независимо их пока никто не повторял.

Как скачать Alice AI Foundation LLM

Модель лежит в открытом доступе в репозитории Яндекса на Hugging Face — без регистрации заявки и подтверждения доступа. Веса в формате BF16 разбиты на 49 файлов и весят около 163 ГБ. Скачать их можно через сайт по одному файлу, но удобнее утилитой командой «huggingface-cli download yandex/AliceAI-Foundation-80B-A3B-Base».

Сторонние пользователи уже выложили сжатые версии: FP8 (около 85 ГБ) и 4-битную для Mac в формате MLX (около 45 ГБ). Это неофициальные сборки, Яндекс их не проверял.

Как пользоваться Alice AI Foundation LLM

Для обычного пользователя — никак: приложения с интерфейсом у модели нет, и на домашнем компьютере с одной видеокартой она не запустится. Яндекс приводит два официальных способа:

  • Transformers — библиотека Hugging Face версии 5.16.1 с пакетом flash-linear-attention 0.5.0 для особых слоёв внимания модели;
  • vLLM в Docker — сервер с OpenAI-совместимым API; пример в карточке рассчитан на четыре видеокарты NVIDIA по 80 ГБ.

Модель продолжает текст, а не отвечает на реплики, поэтому для чат-бота или ассистента её нужно дообучать. Для этого в репозитории есть шаблон разметки диалогов и пример LoRA-дообучения — тоже на четырёх GPU по 80 ГБ. Сам Яндекс предупреждает, что модель выложена «как есть», без настройки безопасности, и предназначена прежде всего для исследований.

Частые вопросы

Можно ли запустить Alice AI Foundation LLM на своём компьютере?

Полную версию — нет: ей нужны около 163 ГБ видеопамяти, то есть несколько серверных GPU. Неофициальную 4-битную версию на 45 ГБ теоретически можно запустить на Mac с 64 ГБ памяти и больше, но это сторонняя сборка, и работать она будет как базовая модель — без диалога.

Чем Alice AI Foundation отличается от Алисы AI?

Алиса AI — готовый ассистент в приложениях Яндекса, дообученный под разговор и задачи пользователя. Alice AI Foundation — открытая базовая модель без такого дообучения, на которой Яндекс отрабатывает решения для будущей рассуждающей модели. Поговорить с ней как с Алисой нельзя.

Алиса AI Foundation бесплатная?

Да. Веса распространяются бесплатно по лицензии Apache 2.0: модель можно скачивать, изменять, дообучать и использовать в коммерческих продуктах, сохраняя уведомление о лицензии. Платить придётся только за железо или облачные GPU для запуска.

Tagged: