Open WebUI — чат-интерфейс для локальных LLM

★ 143.4K

Open WebUI — это открытый веб-интерфейс для работы с языковыми моделями, который разворачивается на своём сервере и работает офлайн. Его берут, когда нужно дать команде удобный чат с моделями, не покупая подписки на каждого: одна установка, учётные записи с правами, история диалогов, общие наборы промптов. Подключается к локальному Ollama и к любому совместимому облачному API — LM Studio, Groq, Mistral, OpenRouter, vLLM, — так что модель меняется в настройках без переписывания ничего. Внутри есть поиск по своим документам: загружаете файлы и спрашиваете по ним, поддерживается девять векторных хранилищ на выбор. Есть распознавание речи, генерация картинок, вызов внешних инструментов и расширения. Разворачивается контейнером. Это интерфейс, а не модель: сам он ничего не считает, всё упирается в подключённый движок.