https://www.qikqiak.com/tags/%E5%BC%80%E6%BA%90/ Recent content in 开源 on 阳明的博客 Hugo en-us Tue, 17 Dec 2024 00:00:00 +0000 https://www.qikqiak.com/post/gpustack-introduction/ Tue, 17 Dec 2024 00:00:00 +0000 https://www.qikqiak.com/post/gpustack-introduction/ <p>最近，一个国产开源项目凭借高质量的代码、飞快的迭代速度和简洁友好的操作体验正在悄然崛起。短短半年内，这个项目已经在国内外开源社区获得了众多的拥趸和生产用户。它就是今天要介绍的开源项目 - <strong>GPUStack</strong>。</p> <p><img src="https://picdn.youdianzhishi.com/images/1734438885545.png" alt="GPUStack"></p> <p><code>GPUStack</code> 是一个 100% 开源的大模型服务平台，用户只需要简单的设置，就可以高效整合包括 NVIDIA、Apple Metal、华为昇腾和摩尔线程在内的各种异构 GPU/NPU 资源，构建异构 GPU 集群，在私有环境提供企业级的大模型部署解决方案。</p> <p><code>GPUStack</code> 支持私有化部署 RAG 系统和 AI Agent 系统所需的各种关键模型，包括 LLM 大语言模型、VLM 多模态模型、Embedding 文本嵌入模型、Rerank 重排序模型、Text-to-Image 文生图模型，以及 Speech-to-Text（STT）和 Text-to-Speech（TTS）语音模型等。并提供统一认证和高可用负载均衡的 OpenAI 兼容 API，供用户从各类大模型云服务无缝迁移到本地部署的私有大模型服务。</p> <blockquote> <p>GitHub：<strong><a href="https://github.com/gpustack/gpustack">https://github.com/gpustack/gpustack</a></strong></p> </blockquote>