大模型web服务部署—open-webui

这里我们使用的是一个叫做open-webui的开源项目

目前这个项目在Github 上已经得到了比较高的star 数

这个项目提供了多种部署方式，这里我们使用docker 进行部署，如果你的web 服务和你的模型服务在同一个节点上，可以使用下面的命令

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui

好文推荐

评论可见，请评论后查看内容，谢谢！！！
 您阅读本篇文章共花了：