Modal Blog·· 2024-02-06AI 评分47
Modal 上线 NVIDIA H100 GPU,所有用户现可使用
Introducing: H100s on Modal
AI 导读
Modal 宣布所有用户现在都能使用 NVIDIA H100 GPU。按 NVIDIA 基准,H100 对比 A100 最高带来 4 倍训练加速和 30 倍推理加速,单卡 80 GB 显存、每小时 7.65 美元,最多可 8 卡通过 NVLink 互联。在 Modal decorator 中把 GPU 类型设为 “H100” 即可运行,且只按实际用量付费。
来源:Modal Blog · modal.com