功能类

Explore products by function — smart home, office tools and everyday devices to boost efficiency, convenience and innovation.

vLLM - Efficient LLM Serving vLLM - Efficient LLM Serving vLLM 是一个专为大型语言模型设计的高吞吐量和内存高效推理与服务引擎。 SGLang SGLang SGLang官方文档提供框架使用指南和API参考,帮助开发者高效构建语言模型应用。 TensorRT-LLM TensorRT-LLM TensorRT-LLM 是 NVIDIA 推出的高性能深度学习推理库,专为大语言模型优化,提供详细的文档和开发指南。 OpenVINO OpenVINO OpenVINO Toolkit 是英特尔推出的用于优化和部署 AI 推理的开发工具,可提升计算机视觉、语音识别和自然语言处理等深度学习应用的性能。 RamaLama RamaLama RamaLama是一个基于人工智能技术的创新平台,致力于提供智能化的解决方案和服务。 GPUStack GPUStack GPUStack提供云端GPU资源服务,支持AI训练和推理任务的高性能计算解决方案。 Xinference Xinference Xinference 是一个开源平台,提供高效、可扩展的模型推理服务,支持多种深度学习框架和部署环境。 NVIDIA Dynamo NVIDIA Dynamo NVIDIA Dynamo 是一个用于在分布式环境中服务生成式AI模型的开源模块化推理框架。 Ollama Ollama Ollama 提供大型语言模型的快速部署与运行服务。 Spring Spring Spring 是一个专业的 Java 开发框架,提供全面的编程和配置模型支持。 LlamaIndex LlamaIndex LlamaIndex 是一个用于构建基于企业数据的知识助手的灵活框架。 Pipecat Pipecat 开源语音和多模态对话AI框架。 AutoGen AutoGen AutoGen 是一个用于开发基于 AI 智能体应用程序的框架。 LiveKit LiveKit 开源智能体框架与云平台,为具备视觉、听觉及语音能力的应用程序提供支持。 Agno Agno Agno 是一个用于构建、运行和管理云端安全多智能体系统的高性能运行时环境。 CAMEL-AI CAMEL-AI CAMEL-AI.org 是首个致力于探索智能体规模法则的开源多智能体框架与社区。 Wayve - 端到端具身智能驾驶系统 Wayve - 端到端具身智能驾驶系统 Wayve 利用创新的具身人工智能技术引领自动驾驶领域的发展。 Eliza Eliza Eliza 是一个提供框架以支持开发的平台。 Pydantic AI Pydantic AI 一个基于Pydantic的生成式AI智能体开发框架。 LiteLLM LiteLLM LLM网关(OpenAI代理),统一管理100+大型语言模型的认证、负载均衡和支出追踪,兼容OpenAI格式。
滚动至顶部