LPU推理引擎是专为AI大模型设计的高效推理加速器,提供低延迟、高吞吐的推理性能,适用于自然语言处理和深度学习任务。
Groq提供基于LPU™推理引擎的硬件软件平台,为AI应用提供高性能、高能效的云端及本地推理解决方案。
返回顶部