Lupine — удалённый GPU как локальный

★ 2.4K

lupine — это открытый инструмент GPU-over-IP, который позволяет подключить видеокарту с удалённой машины к серверу без GPU: процессы на CPU-машине видят удалённую карту как локальную, без изменений в коде и моделях. Берут, когда мощная карта на рабочей станции простаивает ночью, а инференс нужно запустить на сервере без видеокарты; когда карты распределены по нескольким машинам и хочется объединить их в один пул без переноса данных и окружения; когда покупать отдельный GPU-сервер нецелесообразно для небольшой команды. Инструмент разворачивается через Docker: сервер запускается на машине с GPU (`--gpus all`), клиент — на CPU-машине с переменной `LUPINE_SERVER`. Python-проекты подключаются через `pip install "lupine[auto]"` без явных вызовов LUPINE API. Поддерживаются Linux, macOS и Windows (amd64 и arm64); на macOS доступны шимы CUDA/NVML через `ctypes`, но PyTorch требует Linux- или Windows-сборки с CUDA. Сервер публикует образы в GHCR с тегами `cuda-<version>-ubuntu<version>`. Есть поддержка graceful drain по SIGTERM и checkpoint-провайдера. Направление — пробрасывает GPU к CPU, а не балансирует нагрузку между несколькими GPU локально. Подойдёт для пакетной обработки и обучения; н