PrivateGPT — локальный RAG без передачи данных

★ 57.4K

PrivateGPT — это открытый слой API поверх локальных моделей, который позволяет строить приложения с нейросетью так, чтобы данные не покидали ваш контур. Его берут, когда работать с облаком нельзя по требованиям безопасности, а приложение нужно обычное: чат с документами, поиск по внутренней базе, обработка обращений. Подключается к любому OpenAI-совместимому серверу инференса — Ollama, llama.cpp и другим, — и отдаёт наружу привычный интерфейс, так что код приложения почти не отличается от кода для облачной модели. Внутри есть готовые части конвейера: загрузка документов, нарезка, векторный поиск, сборка ответа с указанием источников. Это не готовое приложение для конечного пользователя, а основа для разработки: интерфейс и бизнес-логику вы делаете сами.