SGLang官方文档提供框架使用指南和API参考，帮助开发者高效构建语言模型应用。

TensorRT-LLM 是 NVIDIA 推出的高性能深度学习推理库，专为大语言模型优化，提供详细的文档和开发指南。

OpenVINO Toolkit 是英特尔推出的用于优化和部署 AI 推理的开发工具，可提升计算机视觉、语音识别和自然语言处理等深度学习应用的性能。

RamaLama是一个基于人工智能技术的创新平台，致力于提供智能化的解决方案和服务。

GPUStack提供云端GPU资源服务，支持AI训练和推理任务的高性能计算解决方案。

Xinference 是一个开源平台，提供高效、可扩展的模型推理服务，支持多种深度学习框架和部署环境。

NVIDIA Dynamo 是一个用于在分布式环境中服务生成式AI模型的开源模块化推理框架。

Ollama 提供大型语言模型的快速部署与运行服务。

LlamaIndex 是一个用于构建基于企业数据的知识助手的灵活框架。

开源语音和多模态对话AI框架。

AutoGen 是一个用于开发基于 AI 智能体应用程序的框架。

开源智能体框架与云平台，为具备视觉、听觉及语音能力的应用程序提供支持。

Agno 是一个用于构建、运行和管理云端安全多智能体系统的高性能运行时环境。

CAMEL-AI.org 是首个致力于探索智能体规模法则的开源多智能体框架与社区。

Eliza 是一个提供框架以支持开发的平台。

CrewAI是一个领先的多智能体协作平台，旨在通过智能体协同工作流解决复杂任务。

一个基于Pydantic的生成式AI智能体开发框架。

LLM网关（OpenAI代理），统一管理100+大型语言模型的认证、负载均衡和支出追踪，兼容OpenAI格式。

Supabase 是一个基于 Postgres 的开发平台，提供数据库、身份认证、即时 API、实时功能、云函数、存储和向量嵌入等服务，助力构建生产级应用。

ComfyUI 是一个模块化的可视化人工智能引擎和应用，支持生成视频、图像、3D内容和音频。