开源项目 · 2026-10-20 13:15:00 · 阅读 482

一台 16G 机器上的 Open WebUI

官方编排能起来,卡住的是模型权限和上传大小,不是界面。

背景

想给同事一个浏览器入口,机器只有 16G 内存,不能再套一层复杂平台。

做法

按仓库的 compose 起服务:open-webui。改了两处:上传限制,还有默认模型只留本机已经拉下来的那个。

docker compose up -d

第一次拉取很慢,之后重启就正常。

结果

同事能自己换对话,不用再问我要地址。内存平时停在还能远程登录的水平。

边界

同时开两个大模型会把机器打满。没有做账号体系以外的审计,不适合拿它当对外服务。

评论

还没有评论

登录后评论