Apple выпустила AFM 3 Core Advanced — 20 млрд параметров на iPhone 17 Pro

Что произошло

Apple представила третье поколение Foundation Models. Главная модель AFM 3 Core Advanced содержит 20 млрд параметров и полностью работает на устройстве iPhone 17 Pro, а серверный вариант запускается на NVIDIA GPU.

Детали

• AFM 3 Core Advanced — 20 млрд параметров, on‑device.
• Дробная загрузка 1‑4 млрд параметров за запрос из flash‑памяти.
• Модель работает на iPhone 17 Pro; облачная версия использует NVIDIA GPU.
• Линейка из пяти моделей покрывает сценарии от edge до Private Cloud Compute.

Что это значит

Для инженеров это демонстрирует практический способ масштабировать LLM на ограниченных по памяти устройствах без компромисса в качестве.

Загружайте только нужные «эксперты» модели из flash‑памяти (1‑4 млрд параметров) вместо полной модели, чтобы запускать 20‑млрд‑параметровый LLM на мобильных устройствах.