- Локальные ИИ-агенты
- Разработка и постоянный запуск автономных ассистентов без зависимости от облачной генерации токенов
- Запуск моделей
- Инференс, тестирование и развёртывание языковых и мультимодальных моделей до 200 млрд параметров
- Дообучение
- Fine-tuning моделей до 70 млрд параметров под данные и задачи компании
- Генеративный ИИ
- Чат-боты, поиск и суммаризация документов, генерация изображений и прототипирование AI-приложений
- Data Science
- Анализ больших наборов данных, машинное обучение и вычислительные эксперименты на рабочем столе
- Компьютерное зрение и робототехника
- Разработка решений на NVIDIA Isaac, Metropolis и Holoscan для роботов, камер и edge-систем
- Конфиденциальные данные
- Локальная обработка документов, базы знаний и корпоративных данных внутри вашей инфраструктуры
- Масштабирование
- Перенос готовых проектов в NVIDIA DGX Cloud, дата-центр или другую NVIDIA-ускоренную инфраструктуру
- Суперчип
- NVIDIA GB10 Grace Blackwell
- Производительность ИИ
- До 1 PFLOP FP4
- Процессор
- 20-ядерный Arm (10 Cortex-X925 + 10 Cortex-A725)
- Память
- 128 ГБ LPDDR5x, объединённая когерентная память
- Пропускная способность памяти
- 273 ГБ/с
- Накопитель
- 4 ТБ NVMe M.2 с самошифрованием
- Сеть
- 10GbE, ConnectX-7 200 Гбит/с, Wi-Fi 7, Bluetooth 5.4
- Программная платформа
- NVIDIA DGX OS, CUDA, PyTorch, TensorRT-LLM, NVIDIA NIM, Docker и NGC
- Поддерживаемые модели
- До 200 млрд параметров
- Разъёмы
- 4 × USB-C, HDMI 2.1a, RJ-45 10GbE и 2 × QSFP ConnectX-7
- Размеры и масса
- 150 × 150 × 50,5 мм, 1,2 кг
- Питание
- Внешний блок питания 240 Вт, TDP суперчипа 140 Вт