AI托管工具 Open WebUI
一个可扩展、功能丰富且用户友好的自托管 AI 平台,旨在完全离线运行。
Open WebUI 是一个可扩展、功能丰富且用户友好的自托管 AI 平台,旨在完全离线运行3。以下是其相关介绍:
- 特点1
- 部署简单:使用 Docker 或 Kubernetes 即可无缝安装,支持
ollama
和cuda
标签的镜像。
- 多模型支持:支持 Ollama 本地大模型和 OpenAI 云端 API,可自定义 OpenAI API URL,以链接 LMStudio、GroqCloud、Mistral、OpenRouter 等。能自动识别本地 Ollama 模型,支持多种模型,用户可在不同模型间即时切换。
- 权限管理严格:采用三权分立权限体系(用户 / 管理员 / 超级管理员),基于角色的访问控制(RBAC),支持双因素认证和细粒度权限控制,管理员可创建详细的用户角色和权限。
- 界面友好:类 ChatGPT 界面,提供直观的聊天界面设计。跨平台响应式设计,完美适配桌面 / 移动端,并且是适用于移动设备的渐进式 Web 应用程序(PWA),支持本地离线访问,界面流畅。内置中文等 12 种语言界面,支持多语言智能切换和 RTL 语言布局。
- 功能2
- 交互功能丰富:支持 Markdown 格式对话,支持完整的 Markdown 和 LaTeX 功能,支持语音输入,支持静音自动提交,集成免提语音和视频通话功能。支持实时生成代码 / 图片 / 表格,图像生成可通过 AUTOMATIC1111 API 或 ComfyUI(本地)以及 OpenAI 的 DALL - E(外部)等选项实现。具备网页浏览功能,使用
#
命令后跟 URL,可将网站无缝集成到聊天体验中。
- 模型管理便捷:支持模型仓库管理,可在 Web 界面直接下载 / 删除模型。支持 GGUF 模型创建,可直接上传 / 从 Hugging Face 下载。通过模型构建器,可轻松创建 Ollama 模型,创建和添加自定义角色 / 智能体,定制聊天元素,并通过社区集成轻松导入模型。
- 自带函数调用:原生 Python 函数调用工具,在工具工作区中提供内置代码编辑器支持,通过简单添加纯 Python 函数实现 “自带函数”(BYOF),与大语言模型无缝集成。
- RAG 集成:引入检索增强生成(RAG)支持,将文档交互无缝融入聊天体验,可直接在聊天中加载文档,或添加文件到文档库,并使用
#
命令在查询前轻松访问这些文件。还能使用 SearXNG、Google PSE、Brave Search、DuckDuckGo 等提供程序执行 Web 搜索,并将结果直接注入聊天体验。
Open WebUI 应用广泛,可用于个人学习和研究,让用户在本地环境中尝试各种 AI 模型和技术;也可用于企业级应用,如构建智能客服系统、数据分析和预测等3。