Flyte

Flyte

访问网站

Flyte 是一个采用 Apache 2.0 协议的开源持久化 AI 运行时，用 Python 编排训练、推理服务与智能体工作负载，并在基础设施或代码故障时自动恢复，适合机器学习工程师和平台团队使用。

关注
标签
开源AIai-workflow开发工具自动化AI Agent
最后更新 2026 年 10 月 22 日
Flyte 截图

简介

Flyte 是一个开源运行时，用于构建和运行各类 AI 工作负载——批量推理、微调、预训练、强化学习以及智能体循环——并能在基础设施故障和代码错误发生时自动恢复。它针对机器学习流水线中一个常见痛点：当某一环节失败时，整个任务往往需要从头重跑，浪费算力和时间。Flyte 会记录每个步骤的输入与输出，因此执行可以从失败的任务处继续，而不必重启整条流水线。

项目采用 Apache 2.0 协议开源，由 Linux Foundation AI & Data 倡议治理。开发者使用各语言原生 SDK（Python、TypeScript、Rust、Go 和 Mojo）以普通代码定义工作流，并通过 TaskEnvironment 结构声明镜像、资源、密钥和重试策略。同一份代码可以在本地、开发环境或生产集群上运行。对于需要托管平台的团队，Union.ai 提供 Flyte 的企业托管发行版。

主要功能

可自动恢复的持久化执行：在 OOM 被杀、抢占型 spot 节点、GPU 消失和节点中断等情况下，Flyte 会自动重新提交任务，有时还会带上修正后的资源配置，无需人工干预。
感知失败的重试与续跑：代码异常、API 速率限制等逻辑性失败会以完全相同的输入触发重试，且任务中已完成的分片不会被重跑。
用多语言 SDK 以普通代码编写工作流：开发者可以用 Python、TypeScript、Rust、Go 或 Mojo 将任务写成普通的异步函数，并使用标准控制流实现分支、循环和扇出——不需要单独的 DSL 或 YAML。
实时端点与仪表盘：同一套 Python API 可用于运行长驻应用，原生集成 Streamlit、FastAPI、vLLM、SGLang 和 Ollama，包括支持模型流式输出和张量并行的 OpenAI 兼容 LLM 端点。
广泛的生态集成：官方集成涵盖 Apache Spark、Ray、PyTorch Elastic、BigQuery、Snowflake、Weights & Biases、MLflow、Dask、Databricks，以及 OpenAI Agents SDK、LangGraph、CrewAI、Pydantic AI 等智能体框架。
自动伸缩与缩容至零：基础设施可根据工作负载需求自动扩缩，服务型应用的副本数或缩容行为只需一行配置即可设定。
面向生产的 UI 与智能体工具：专为生产运行设计的 UI 支持调试，智能体代码可被沙箱化，并对每一次 LLM 调用进行追踪。

定价与费用

  • 定价：Flyte 本身在 Apache 2.0 协议下免费开源；Union.ai 提供的企业版套餐在我们查看的页面上未公开标价，请前往官网了解最新条款。
  • 许可与治理：采用 Apache 2.0 协议，在 Linux Foundation AI & Data 下开放治理。
  • 交互式环境：Flyte Devbox 和 GitHub Codespaces 选项让开发者快速上手，并支持 Claude Code、Codex CLI、OpenCode 等工具的 harness。
  • 公开的生产用户案例：官网案例研究介绍了 Spotify（财务预测流水线）、Wayve（自动驾驶研发中 PB 级视觉工作负载）和 Cradle（蛋白质设计机器学习流水线）的使用情况。
  • 迁移支持：为从 Flyte 1 迁移到 Flyte 2 的团队提供了专门的迁移资料。

适用人群

Flyte 面向在可变或 spot 算力上运行训练、批量推理或智能体工作负载，并需要流水线在故障中存续的机器学习工程师、平台团队和研究人员。典型场景包括微调与预训练任务、基于 Ray 或 PyTorch 的分布式训练、针对 BigQuery 或 Snowflake 的数仓查询，以及用 vLLM 或 SGLang 提供 LLM 端点服务。它适合需要可复现、可断点续跑的流水线以及跨实验和生产阶段可观测性的组织，也适合构建需要追踪每次 LLM 调用的智能体系统的团队。

常见问题

Flyte 是什么？Flyte 是一个开源的 Apache 2.0 持久化 AI 运行时，用于编排训练、推理服务和智能体工作负载，设计上可从基础设施和代码故障中自动恢复。

Flyte 免费吗？是的，开源项目在 Apache 2.0 协议下免费；Union.ai 另行提供企业托管版，在我们查看的页面上未公开其定价。

Flyte 支持哪些语言和集成？Flyte 提供 Python、TypeScript、Rust、Go 和 Mojo 的 SDK，并通过官方和社区插件集成 Apache Spark、Ray、PyTorch Elastic、BigQuery、Snowflake、Weights & Biases、MLflow、vLLM、SGLang、LangGraph、CrewAI 等。

Flyte 如何处理故障？它会以原始输入重试失败的任务，针对 API 速率限制等错误按配置的重试策略退避，在基础设施故障后重新提交任务，并从失败步骤处续跑而非重跑整条流水线。

谁在生产环境使用 Flyte？官网记录了 Spotify、Wayve 和 Cradle 的案例——Spotify 用于财务预测，Wayve 用于自动驾驶研发，Cradle 用于蛋白质设计机器学习。

用户评价 (0)

你会推荐 Flyte 吗？留下你的评价

0/5000

相关教程

查看全部 →
AI 早报 10月23日
AI 早报 10月23日 阅读更多 →
AI 早报 10月22日
AI 早报 10月22日 阅读更多 →
AI 早报 10月21日
AI 早报 10月21日 阅读更多 →
AI 早报 10月20日
AI 早报 10月20日 阅读更多 →
AI 早报 10月19日
AI 早报 10月19日 阅读更多 →

相关工具

查看全部 →
DKnownAI Guard DKnownAI Guard DKnownAI Guard 是一款面向 AI agent 的安全 API，用于检测提示注入、越狱和 agent 劫持行为，并将每个请求划分为四个风险等级，帮助开发团队在 agent 执行操作前拦截攻击。 Exa Exa Exa 是一个面向 AI 应用的网络搜索 API 与研究平台，为 AI 智能体提供实时网页访问、结构化的公司与人物数据，以及深度研究结果。 Composio Composio Composio 是一个集成平台，让 AI agents 和 LLM 安全访问 1,500 多款应用，提供托管认证、工具执行、技能和企业管理控制，适合开发者和企业团队使用。 Pinecone Pinecone Pinecone 是一款全托管向量数据库与 AI 知识平台，帮助 AI agent 以可预期的成本快速、准确地检索企业数据，适合构建 RAG 与智能应用的团队使用。 Encord Encord Encord 是一个多模态数据平台，帮助 AI 团队管理、筛选、标注和评估训练数据，尤其面向物理 AI 和企业级机器学习应用场景。