本页介绍 DGX Spark 的整体架构、核心功能与软件环境,帮助用户快速了解系统能力及各种访问方式,为后续开发、部署和微调大型 AI 模型奠定基础。
灵活的访问与使用方式
DGX Spark 在访问和使用方式上追求最大灵活性,可根据需要在不同访问模式之间无缝切换:
- 本地访问:连接键盘、鼠标和显示器,直接在系统上操作
- 网络访问:通过 SSH、NVIDIA Sync 或远程桌面工具,从同一网络中的其他计算机访问系统
- 混合使用:灵活组合多种访问方式——今天本地使用,明天远程访问,甚至同时并用
所有访问方式均完全受支持且能力对等。无论您是坐在桌前连接显示器,还是将其作为网络设备远程访问,DGX Spark 都能适配您的工作流程。
核心功能
DGX Spark 支持以下能力:
- 运行推理(Inference):部署模型用于实时 AI 应用
- 开发 AI 模型:训练和微调参数量高达 2000 亿的模型
- 处理数据:借助高性能计算处理大规模数据集
- 自由实验:无需云计算成本即可测试新想法
- 扩展工作负载:连接多台系统以承载更大规模的项目
系统架构
DGX Spark 基于 NVIDIA Grace Blackwell 架构构建,具备以下特性:
- 统一内存(Unified Memory):128 GB 高带宽内存,可容纳大型模型
- 高性能计算:20 核 ARM64 处理器,集成 GPU
- 先进连接性:Wi-Fi 7、10 GbE、ConnectX-7 NIC 及多种 I/O 接口
- 紧凑外形:150mm × 150mm × 50.5mm 桌面设计
如需了解详细硬件规格,请参阅硬件概览。
软件
系统预配置了以下组件:
- NVIDIA DGX OS:针对 AI 工作负载优化的操作系统
- 开发工具:CUDA、cuDNN 及 NVIDIA 开发生态系统
- 容器支持:Docker 与 NVIDIA Container Runtime,便于快速部署
- NGC 集成:访问 NVIDIA 容器镜像仓库
如需了解详细软件信息,请参阅软件。
快速开始
开始使用 DGX Spark:
- 初始设置:按照首次启动初始设置配置系统
- 探索示例:尝试示例工作负载,了解系统能力
- 配置开发环境:搭建您偏好的工具和框架
- 开始构建:启动您的 AI 开发项目
NOTE
如需获取最新教程和示例,请访问 https://build.nvidia.com/spark。该站点持续更新,是实用指南和用例的主要资源。
本页译自 NVIDIA 官方文档 System Overview,由社区整理,仅供参考;如与官方英文文档不一致,请以官方为准。