主流选择及适用场景：
NVIDIA A100/A800：适合大模型训练（如 70B 参数 LLM）、高性能科学计算，凭借 80GB HBM2 显存和强大多卡互联能力成为企业级首选。
NVIDIA V100：性价比之王，40GB 显存足以支撑 10B 参数模型训练，适合预算有限的中小企业。
RTX 3090/4090：24GB 显存适配深度学习入门（如 ResNet、BERT 微调）和 3D 渲染，消费级定位使其租赁成本更低（RTX 4090 时租约 5-8 元）。
关键指标：除型号外，需关注 CUDA 核心数（并行计算能力）、Tensor 核心数（AI 加速）、显存带宽（数据吞吐效率）。例如，A100 的显存带宽达 1.6TB/s，是 RTX 4090（1TB/s）的 1.6 倍，在大模型训练中优势明显。
数量决策：单卡适用于小规模任务（如 10 万样本分类）；多卡集群（如 8 卡 A100）通过 NVLink 互联，适合分布式训练（如千亿参数模型），但需注意：多卡总价 = 单卡价 × 数量 ×1.2（互联溢价）。
避坑核心：显存不足会直接导致任务失败（报 “OutOfMemoryError”），务必按 “模型需求 + 20% 缓冲” 配置。
小模型（如 BERT-base、YOLOv5-small）：需 8-16GB 显存，RTX 3090 足够。
中大型模型（如 LLaMA-7B、Stable Diffusion）：需 24-40GB 显存，A100 40GB 或 RTX 4090 适配。
超大模型（如 LLaMA-70B）：单卡需 60GB+，必须选 A100 80GB 或 H100 80GB。
实测案例：某团队用 RTX 3090（24GB）训练 LLaMA-13B，因未留缓冲（模型实际占用 23GB），频繁因数据波动导致显存溢出，换成 A100 40GB 后问题解决。
CPU：负责数据预处理（如图像解码、文本分词），多核高频处理器能减少 GPU 等待时间。推荐配置：
入门任务：Intel Xeon E5 或 AMD Ryzen 9（8 核以上）。
专业任务：Intel Xeon Gold（16 核以上）或 AMD EPYC（24 核以上），支持超线程技术。
内存：需满足 “≥GPU 显存总量的 2 倍”，避免数据加载瓶颈。例如，8 卡 A100 80GB 集群（总显存 640GB），内存应≥1.2TB。
避坑点：某平台的 “低价 A100 实例” 搭配 4 核 CPU 和 64GB 内存，导致数据预处理速度比 GPU 训练慢 5 倍，实际效率反不如高配 RTX 4090。
必须选 NVMe SSD：其读写速度（≥3GB/s）是 SATA SSD 的 3 倍以上，能快速加载大型数据集（如 100GB 图像库）。
容量规划：至少预留 “数据集大小 + 模型文件 + 临时文件” 的 1.5 倍空间。例如，50GB 数据集需配 100GB 以上 SSD。
隐藏问题：部分平台用 “共享存储” 降低成本，导致多实例竞争带宽，实际速度仅标称值的 1/3，需选择 “本地 NVMe” 实例。
单机任务：1Gbps 带宽足够（满足模型下载、日志上传）。
分布式训练 / 多机渲染：需 10Gbps + 带宽，且支持 RDMA 协议（减少延迟）。极智算等平台的集群节点间带宽达 200Gbps，比普通云平台快 20 倍。
数据传输成本：公网流量费可能成为隐形支出（如某平台每 GB 收费 0.8 元），优先选支持 “内网直连对象存储” 的平台（如极智算与阿里云 OSS 内网互通，免流量费）。
模式 | 适用场景 | 单价特点 | 风险点 |
按需计费 | 短期任务（<1 周）、测试 | 最高（如 A100 时租 15-40 元） | 长期使用总成本高 |
包年包月 / 预留实例 | 长期稳定任务（>1 个月） | 低（按需价的 3-7 折） | 预估不足导致闲置浪费 |
竞价实例 | 可中断任务（如数据预处理） | 极低（按需价的 2-5 折） | 可能被随时回收，需断点续跑机制 |
硬件规格：A100 80GB 比 40GB 贵 20%-30%，带 NVLink 的多卡实例比单卡叠加贵 20%。
租赁时长：极智算的 A100 80GB，按需时租 1.8 美元，包月折后等效时租 1.2 美元，包年再降 10%。
地域差异：同配置实例，北美节点比亚太节点贵 15%-20%，国内平台（极智算、AutoDL）因本地化优势，价格比国际云厂商低 30%。
公网流量费：上传下载数据按 GB 计费，某团队传输 1TB 数据集，被收取 800 元流量费（占总租金的 20%）。
存储费：部分平台对数据盘按天收费（如 0.5 元 / GB / 月），即使实例关机也计费，100GB 硬盘年成本 60 元。
镜像与软件费：预装特定商业软件（如 MATLAB）的镜像可能加收 5%-10% 费用，开源镜像（如 PyTorch）通常免费。
管理费：少数平台收取 “集群调度费”（约总租金的 5%），签约前需明确是否包含在内。
首选按需计费：按实际使用时长付费，避免 “用 3 天付 1 个月钱”。例如，3 天的模型测试，A100 80GB 按需总费用 1.8×72=129.6 美元，比包月（1296 美元）省 90%。
尝试竞价实例：适合可中断任务（如渲染非关键帧、数据预处理），但需做好 “自动保存 + 重跑” 预案。某团队用竞价实例处理 100 万张图像，成本仅为按需计费的 30%。
必选包年包月：以极智算 A100 80GB 为例，月均使用 30 天（720 小时）：
按需总费用：1.8×720=1296 美元
包月费用：1296 美元（不限时），若实际使用超 720 小时，每多 1 小时相当于免费。
精确预估时长：用 “小批量试跑” 估算总时长，例如试跑 10% 数据耗时 2 小时，全量任务约需 20 小时（加 20% 缓冲 = 24 小时）。
阶梯策略：初期用按需计费测试（1-2 天），明确需求后转包月。某高校团队先花 50 美元测试，确认需持续 1 个月后转包月，比全程按需节省 600 美元。
混合模式：核心任务用包月保障稳定性，突发需求用按需补充（如临时增加的模型调优）。
背景验证：优先选择运营 3 年以上、有知名机构投资的平台（如极智算获 AI 领域基金投资），避免 “跑路风险”。
用户评价：在技术社区（知乎、GitHub、V2EX）搜索真实反馈，重点关注 “故障率”“退款政策”。某平台因频繁断网被用户投诉，退款周期长达 1 个月，需避雷。
现货充足度：热门型号（如 A100、RTX 4090）能否 “即点即用”，高峰期（如大模型竞赛期间）是否需要排队。极智算的现货率达 95%，而部分小平台常出现 “下单后 3 天才能开通” 的情况。
配置透明度：是否明确标注硬件参数（如 CPU 型号、内存频率、SSD 类型），避免 “标称 A100，实际用阉割版”。
明码标价：官网是否清晰列出不同配置、计费模式的价格，是否有 “价格计算器” 可预估总成本。
隐藏费用公示：流量费、存储费、管理费等是否提前说明，避免签约后 “被迫消费”。
性能基准：要求平台提供实测数据（如训练 ResNet-50 的 epoch 时间），避免 “虚标算力”。极智算公开 A100 80GB 的测试报告：训练 LLaMA-7B 单轮耗时比行业平均快 15%。
资源隔离：是否提供 “物理机独占” 实例，避免与其他用户共享硬件导致性能波动（某用户租用 “共享 A100”，实际算力仅标称值的 60%）。
响应速度：7×24 小时在线客服是刚需，复杂问题（如多卡通信故障）应在 30 分钟内响应。极智算提供 “1v1 技术顾问”，工程师平均 15 分钟接入。
故障处理：硬件故障能否 4 小时内更换，网络中断是否有赔偿机制（如 SLA 承诺 “年可用性 99.9%，每 downtime 1 小时赔偿 10% 租金”）。
学习资源：是否提供新手教程、常见问题手册（FAQ）、社区问答，降低入门门槛。
忽视显存缓冲：按 “模型需求 + 20%” 配置，例如模型需 20GB 显存，选 24GB 以上（如 RTX 4090）。
CPU / 内存拖后腿：避免 “高配 GPU + 低配 CPU”，内存至少是 GPU 显存的 2 倍。
网络带宽不足：分布式任务务必选 10Gbps + 带宽，否则多卡集群效率不如单卡。
被低价时租迷惑：计算总成本（时租 × 时长），长期使用选包月更划算（如每月用 20 天，包月成本比按需低 40%）。
忽视流量与存储费：大文件传输优先用内网，闲置数据及时删除，避免存储费累积。
盲目选择竞价实例：关键任务慎用，若用需每 10 分钟自动保存一次进度。
不测试直接上生产：先用小数据测试 2 小时，验证性能、兼容性和网络稳定性，再大规模投入。
忘记释放资源：设置 “任务结束自动关机” 脚本，或用平台的 “闲置释放” 功能（如极智算支持 “30 分钟无负载自动关机”）。
数据不备份：重要模型和结果同步到本地或对象存储，避免平台故障导致数据丢失。
忽视 SLA 条款：明确 “可用性承诺”“故障赔偿”“数据清除政策”，避免纠纷时无据可依。
自动续费陷阱：关闭包月实例的 “自动续费”，避免项目结束后继续扣费。
下一篇：NVIDIA A100 GPU 租赁全指南：小时计费与包月计费的最优选择