Мини‑ПК для ИИ‑задач: NVIDIA DGX Spark 128 GB

Компактная рабочая станция для локальной разработки, инференса и дообучения нейросетей. Позволяет запускать большие языковые модели (LLM) прямо на рабочем месте без облака.

Ключевые характеристики

• Суперчип: NVIDIA GB10 (архитектура Grace Blackwell) — объединяет CPU и GPU в едином кристалле.
• Процессор: 20‑ядерный Arm (10 ядер Cortex‑X925 + 10 ядер Cortex‑A725) — для быстрой предобработки данных и оркестрации задач.
• Графика: GPU на архитектуре Blackwell с тензорными ядрами 5‑го поколения и RT‑ядрами 4‑го поколения — максимальная эффективность для ИИ‑вычислений.
• Память: 128 ГБ LPDDR5x, единая для CPU и GPU (когерентная унифицированная память) — позволяет загружать крупные модели целиком. Пропускная способность 273 ГБ/с, интерфейс 256 бит.
• Накопитель: NVMe M.2 SSD 4 ТБ с аппаратным шифрованием — достаточно места для моделей, датасетов и проектов, плюс защита данных.
• Производительность: до 1 PFLOP в FP4 с разреженностью — теоретический максимум для ресурсосберегающих методов (LoRA, QLoRA и т. п.).
• Сеть: 10‑гигабитный Ethernet (RJ‑45), сетевой адаптер NVIDIA ConnectX‑7 (до 200 Гбит/с), Wi‑Fi 7, Bluetooth 5.4 — удобно для объединения устройств в кластер и быстрой передачи данных.
• Интерфейсы: 4 × USB Type‑C, HDMI 2.1a — подключение мониторов, накопителей и периферии.
• Питание: внешний блок 240 Вт; TDP чипа GB10 — 140 Вт.
• Габариты и вес: 150 × 150 × 50,5 мм, 1,2 кг — помещается на столе, как мини‑ПК.
• ОС: NVIDIA DGX OS на базе Ubuntu 24.04 с предустановленным ИИ‑стеком (CUDA, TensorRT, PyTorch и др.) — можно сразу начинать работу.

Возможности и сценарии

• Запуск LLM до 200 млрд параметров на одном устройстве.
• Дообучение (fine‑tuning) моделей до 70 млрд параметров методами LoRA/QLoRA.
• RAG‑системы и ИИ‑агенты: локальная работа с собственной базой знаний без передачи данных в облако.
• Масштабирование: две станции можно объединить через ConnectX‑7 для работы с моделями до 405 млрд параметров.

Важные нюансы

• Не все 128 ГБ доступны под веса модели — часть памяти занимает ОС, библиотеки и фоновые процессы.
• Пиковая производительность (1 PFLOP) достигается в FP4 с разреженностью; реальная скорость зависит от модели, квантизации и длины контекста.
• Устройство не предназначено для массового обучения или многопользовательского инференса — это платформа для прототипирования и локальной разработки.