Modal

Modal

Modal 是一个面向 AI 和数据团队的无服务器云平台,支持在按需扩展的 GPU 上运行推理、训练和沙箱化代码执行。

关注
最后更新 2026 年 10 月 20 日
Modal 截图

简介

Modal 是一个云基础设施平台,服务于大规模开发、训练和部署 AI 应用的团队。它针对机器学习工程中的一个常见问题:分配 GPU、管理集群以及维持推理端点运行,通常需要专门的基建工作,从而拖慢开发进度。

Modal 让工程师以极少的配置就能把代码跑在云端。容器数秒内启动,空闲时自动缩容至零,用户只需为实际使用的计算时间按秒付费。平台围绕几个核心原语构建:用于无服务器计算的 Functions、用于运行不受信任代码和 Agent 工作负载的 Sandboxes,以及用于低延迟 LLM 推理的 Servers。Modal 由 Modal Labs 打造,提供 Python、Go 和 JavaScript/TypeScript 官方 SDK 以及 CLI,并可调用分布在多个全球区域的 20 多朵云的计算容量。

主要功能

推理:通过实时端点或批处理任务提供 LLM、图像、视频和音频模型服务,包括 OpenAI 兼容端点,并支持自定义推理技术栈。
训练:在单 GPU 或多节点环境下进行微调和强化学习,支持 RL、SFT、LoRA 以及全量微调等框架和技术。
沙箱:面向编码 Agent、强化学习 rollout 和不受信任代码的隔离环境,可扩展至数百万并发实例,支持快照与恢复以实现快速启动。
Functions:以大规模并行计算、异步批处理任务或 HTTPS 端点的形式运行任意 Python 或其他代码,支持自动扩缩容并在空闲时归零。
按需使用任意 GPU:数秒内获取从 Nvidia T4 到 B300 的各类 GPU,无需配额申请,容量在全球分布式资源池中自动调度。
快速容器调度:自研容器运行时和镜像系统,配合类 CDN 的分布式文件系统,以满带宽加载镜像、模型权重和数据集。
企业级管控:工作负载天生隔离、可配置的网络访问、审计日志,以及内置于平台的可观测能力。

定价与费用

  • 定价:按用量计费、按秒结算。GPU 价格从 $0.000164/秒到 $0.001972/秒;CPU 为每核每秒 $0.0000131;内存为每 GiB 每秒 $0.00000222;卷存储为每 GiB 每月 $0.09;网络出站流量为每 GiB $0.04。
  • 套餐:Starter 免费,含每月 $30 额度、3 个席位和 10 路并发 GPU;Team 为每月 $250 加计算费用,含每月 $100 额度、不限席位和 50 路并发 GPU;Enterprise 为定制报价并提供批量折扣。
  • 免费套餐:Starter 套餐无需月费,并附带周期性免费额度,用户可以零前期成本试用平台。
  • SDK 与工具:提供 Python、Go 和 JavaScript/TypeScript 官方 SDK、CLI,以及基于浏览器的 Playground 用于探索平台。

适用人群

Modal 面向 AI 与机器学习工程师、基础设施团队和研究人员,他们需要运行计算密集型工作负载,但不想管理服务器。典型用户包括提供 LLM 或多模态推理端点的团队、微调模型或运行强化学习 rollout 的研究人员、构建需要安全沙箱执行的编码 Agent 的开发者,以及运行大规模并行批处理任务的数据团队。对于希望按秒付费并自动缩容至零、而非维护预留 GPU 集群的初创公司和企业,Modal 同样适用。

常见问题

Modal 是什么?Modal 是一个运行 AI 工作负载的无服务器云平台,涵盖模型推理、微调与强化学习、并行批处理计算,以及为编码 Agent 和不受信任代码提供的沙箱化执行。

Modal 有免费套餐吗?有。Starter 套餐月费为 $0,外加计算费用,包含每月 $30 免费额度、3 个工作区席位和 10 路并发 GPU。

Modal 支持哪些编程语言和工具?Modal 提供 Python、Go 和 JavaScript/TypeScript 官方 SDK,以及功能完整的 CLI 和基于浏览器的 Playground。

Modal 的定价如何计算?Modal 按实际使用的计算量按秒计费,空闲资源不收费;例如 Nvidia H100 SXM5 为每秒 $0.001097,CPU 为每核每秒 $0.0000131。

Modal 如何处理安全与隔离?Modal 的工作负载在设计上即相互隔离,支持可配置的网络和端点访问以及审计日志,Sandboxes 则专为安全运行不受信任代码而设计。