{/* This page is auto-generated from the skill's SKILL.md by website/scripts/generate-skill-docs.py. Edit the source SKILL.md, not this page. */}

Lambda Labs Gpu Cloud

用于 ML 训练和推理的预留及按需 GPU 云实例。当你需要具备简单 SSH 访问的专用 GPU 实例、持久化文件系统，或用于大规模训练的高性能多节点集群时，请使用此 skill。

Skill 元数据


来源	可选 — 通过 `hermes skills install official/mlops/lambda-labs` 安装
路径	`optional-skills/mlops/lambda-labs`
版本	`1.0.0`
作者	Orchestra Research
许可证	MIT
依赖	`lambda-cloud-client>=1.0.0`
平台	linux, macos, windows
标签	`Infrastructure`, `GPU Cloud`, `Training`, `Inference`, `Lambda Labs`

参考：完整 SKILL.md

信息

以下是 Hermes 在触发此 skill 时加载的完整 skill 定义。这是 agent 在 skill 激活时所看到的指令内容。

Lambda Labs GPU Cloud

在 Lambda Labs GPU 云上运行 ML 工作负载的综合指南，涵盖按需实例和 1-Click Clusters。

何时使用 Lambda Labs

在以下情况下使用 Lambda Labs：

需要具备完整 SSH 访问权限的专用 GPU 实例

运行长时间训练任务（数小时至数天）

希望简单定价且无出口费用

需要跨会话的持久化存储

需要高性能多节点集群（16-512 个 GPU）

希望使用预装 ML 栈（Lambda Stack，含 PyTorch、CUDA、NCCL）

主要特性：

GPU 种类：B200、H100、GH200、A100、A10、A6000、V100

Lambda Stack：预装 PyTorch、TensorFlow、CUDA、cuDNN、NCCL

持久化文件系统：实例重启后数据保留

1-Click Clusters：16-512 个 GPU 的 Slurm 集群，配备 InfiniBand

简单定价：按分钟计费，无出口费用

全球区域：全球 12+ 个区域

以下情况请使用替代方案：

Modal：用于无服务器、自动扩缩容工作负载

SkyPilot：用于多云编排和成本优化

RunPod：用于更便宜的竞价实例和无服务器端点

Vast.ai：用于价格最低的 GPU 市场

快速开始

账户设置

在 https://lambda.ai 创建账户

添加付款方式

从控制台生成 API 密钥

添加 SSH 密钥（启动实例前必须完成）

通过控制台启动

前往 https://cloud.lambda.ai/instances

点击"Launch instance"

选择 GPU 类型和区域

选择 SSH 密钥

可选择挂载文件系统

启动并等待 3-15 分钟

通过 SSH 连接

GPU 实例

可用 GPU

GPU	显存	价格/GPU/小时	最适用场景
B200 SXM6	180 GB	$4.99	最大模型，最快训练
H100 SXM	80 GB	$2.99-3.29	大模型训练
H100 PCIe	80 GB	$2.49	性价比 H100
GH200	96 GB	$1.49	单 GPU 大模型
A100 80GB	80 GB	$1.79	生产训练
A100 40GB	40 GB	$1.29	标准训练
A10	24 GB	$0.75	推理、微调
A6000	48 GB	$0.80	显存/价格比优
V100	16 GB	$0.55	低成本训练

实例配置

8x GPU: 最适合分布式训练（DDP、FSDP）
4x GPU: 大模型、多 GPU 训练
2x GPU: 中等工作负载
1x GPU: 微调、推理、开发

启动时间

单 GPU：3-5 分钟

多 GPU：10-15 分钟

Lambda Stack

所有实例均预装 Lambda Stack：

验证安装

Python API

安装

认证

列出可用实例

启动实例

列出运行中的实例

终止实例

SSH 密钥管理

使用 curl 的 CLI

列出实例类型

启动实例

终止实例

持久化存储

文件系统

文件系统在实例重启后保留数据：

创建文件系统

前往 Lambda 控制台中的 Storage

点击"Create filesystem"

选择区域（必须与实例区域一致）

命名并创建

挂载到实例

文件系统必须在实例启动时挂载：

通过控制台：启动时选择文件系统

通过 API：在启动请求中包含 file_system_names

最佳实践

SSH 配置

添加 SSH 密钥

多个密钥

从 GitHub 导入

SSH 隧道

JupyterLab

从控制台启动

前往 Instances 页面

点击 Cloud IDE 列中的"Launch"

JupyterLab 在浏览器中打开

手动访问

训练工作流

单 GPU 训练

多 GPU 训练（单节点）

检查点保存到文件系统

1-Click Clusters

概述

高性能 Slurm 集群，具备：

16-512 个 NVIDIA H100 或 B200 GPU

NVIDIA Quantum-2 400 Gb/s InfiniBand

GPUDirect RDMA，速率 3200 Gb/s

预装分布式 ML 栈

包含软件

Ubuntu 22.04 LTS + Lambda Stack

NCCL、Open MPI

PyTorch（含 DDP 和 FSDP）

TensorFlow

OFED 驱动

存储

每个计算节点 24 TB NVMe（临时）

Lambda 文件系统用于持久化数据

多节点训练

网络

带宽

实例间（同一区域）：最高 200 Gbps

互联网出站：最高 20 Gbps

防火墙

默认：仅开放 22 端口（SSH）

在 Lambda 控制台中配置其他端口

默认允许 ICMP 流量

私有 IP

常见工作流

工作流 1：微调 LLM

工作流 2：批量推理

成本优化

选择合适的 GPU

任务	推荐 GPU
LLM 微调（7B）	A100 40GB
LLM 微调（70B）	8x H100
推理	A10、A6000
开发	V100、A10
最高性能	B200

降低成本

使用文件系统：避免重复下载数据

频繁保存检查点：恢复中断的训练

合理配置：不要过度分配 GPU

终止空闲实例：无自动停止，需手动终止

监控使用情况

控制台显示实时 GPU 利用率

通过 API 进行程序化监控

常见问题

问题	解决方案
实例无法启动	检查区域可用性，尝试不同 GPU
SSH 连接被拒绝	等待实例初始化（3-15 分钟）
终止后数据丢失	使用持久化文件系统
数据传输缓慢	使用同一区域的文件系统
GPU 未被检测到	重启实例，检查驱动

参考资料

高级用法 — 多节点训练、API 自动化

故障排查 — 常见问题及解决方案

资源

文档：https://docs.lambda.ai

控制台：https://cloud.lambda.ai

定价：https://lambda.ai/instances

支持：https://support.lambdalabs.com

博客：https://lambda.ai/blog

"Lambda Labs Gpu Cloud — 用于 ML 训练和推理的预留及按需 GPU 云实例"

Lambda Labs Gpu Cloud#

Skill 元数据#

参考：完整 SKILL.md#

Lambda Labs GPU Cloud#

何时使用 Lambda Labs#

快速开始#

账户设置#

通过控制台启动#

通过 SSH 连接#

GPU 实例#

可用 GPU#

实例配置#

启动时间#

Lambda Stack#

验证安装#

Python API#

安装#

认证#

列出可用实例#

启动实例#

列出运行中的实例#

终止实例#

SSH 密钥管理#

使用 curl 的 CLI#

列出实例类型#

启动实例#

终止实例#

持久化存储#

文件系统#

创建文件系统#

挂载到实例#

最佳实践#

SSH 配置#

添加 SSH 密钥#

多个密钥#

从 GitHub 导入#

SSH 隧道#

JupyterLab#

从控制台启动#

手动访问#

训练工作流#

单 GPU 训练#

多 GPU 训练（单节点）#

检查点保存到文件系统#

1-Click Clusters#

概述#

包含软件#

存储#

多节点训练#

网络#

带宽#

防火墙#

私有 IP#

常见工作流#

工作流 1：微调 LLM#

工作流 2：批量推理#

成本优化#

选择合适的 GPU#

降低成本#

监控使用情况#

常见问题#

参考资料#

资源#

Lambda Labs Gpu Cloud

Skill 元数据

参考：完整 SKILL.md

Lambda Labs GPU Cloud

何时使用 Lambda Labs

快速开始

账户设置

通过控制台启动

通过 SSH 连接

GPU 实例

可用 GPU

实例配置

启动时间

Lambda Stack

验证安装

Python API

安装

认证

列出可用实例

启动实例

列出运行中的实例

终止实例

SSH 密钥管理

使用 curl 的 CLI

列出实例类型

启动实例

终止实例

持久化存储

文件系统

创建文件系统

挂载到实例

最佳实践

SSH 配置

添加 SSH 密钥

多个密钥

从 GitHub 导入

SSH 隧道

JupyterLab

从控制台启动

手动访问

训练工作流

单 GPU 训练

多 GPU 训练（单节点）

检查点保存到文件系统

1-Click Clusters

概述

包含软件

存储

多节点训练

网络

带宽

防火墙

私有 IP

常见工作流

工作流 1：微调 LLM

工作流 2：批量推理

成本优化

选择合适的 GPU

降低成本

监控使用情况

常见问题

参考资料

资源