简介
Modal 是一个云基础设施平台,服务于大规模开发、训练和部署 AI 应用的团队。它针对机器学习工程中的一个常见问题:分配 GPU、管理集群以及维持推理端点运行,通常需要专门的基建工作,从而拖慢开发进度。
Modal 让工程师以极少的配置就能把代码跑在云端。容器数秒内启动,空闲时自动缩容至零,用户只需为实际使用的计算时间按秒付费。平台围绕几个核心原语构建:用于无服务器计算的 Functions、用于运行不受信任代码和 Agent 工作负载的 Sandboxes,以及用于低延迟 LLM 推理的 Servers。Modal 由 Modal Labs 打造,提供 Python、Go 和 JavaScript/TypeScript 官方 SDK 以及 CLI,并可调用分布在多个全球区域的 20 多朵云的计算容量。
主要功能
定价与费用
- 定价:按用量计费、按秒结算。GPU 价格从 $0.000164/秒到 $0.001972/秒;CPU 为每核每秒 $0.0000131;内存为每 GiB 每秒 $0.00000222;卷存储为每 GiB 每月 $0.09;网络出站流量为每 GiB $0.04。
- 套餐:Starter 免费,含每月 $30 额度、3 个席位和 10 路并发 GPU;Team 为每月 $250 加计算费用,含每月 $100 额度、不限席位和 50 路并发 GPU;Enterprise 为定制报价并提供批量折扣。
- 免费套餐:Starter 套餐无需月费,并附带周期性免费额度,用户可以零前期成本试用平台。
- SDK 与工具:提供 Python、Go 和 JavaScript/TypeScript 官方 SDK、CLI,以及基于浏览器的 Playground 用于探索平台。
适用人群
Modal 面向 AI 与机器学习工程师、基础设施团队和研究人员,他们需要运行计算密集型工作负载,但不想管理服务器。典型用户包括提供 LLM 或多模态推理端点的团队、微调模型或运行强化学习 rollout 的研究人员、构建需要安全沙箱执行的编码 Agent 的开发者,以及运行大规模并行批处理任务的数据团队。对于希望按秒付费并自动缩容至零、而非维护预留 GPU 集群的初创公司和企业,Modal 同样适用。
常见问题
Modal 是什么?Modal 是一个运行 AI 工作负载的无服务器云平台,涵盖模型推理、微调与强化学习、并行批处理计算,以及为编码 Agent 和不受信任代码提供的沙箱化执行。
Modal 有免费套餐吗?有。Starter 套餐月费为 $0,外加计算费用,包含每月 $30 免费额度、3 个工作区席位和 10 路并发 GPU。
Modal 支持哪些编程语言和工具?Modal 提供 Python、Go 和 JavaScript/TypeScript 官方 SDK,以及功能完整的 CLI 和基于浏览器的 Playground。
Modal 的定价如何计算?Modal 按实际使用的计算量按秒计费,空闲资源不收费;例如 Nvidia H100 SXM5 为每秒 $0.001097,CPU 为每核每秒 $0.0000131。
Modal 如何处理安全与隔离?Modal 的工作负载在设计上即相互隔离,支持可配置的网络和端点访问以及审计日志,Sandboxes 则专为安全运行不受信任代码而设计。