LM Studio — локальный запуск языковых моделей

★ —

LM Studio — это десктопное приложение (Windows, macOS, Linux) для запуска больших языковых моделей локально, без интернета и без передачи данных на сторонние серверы. Берут, когда хочется работать с открытыми моделями на своём компьютере в удобном виде: найти и скачать модель с Hugging Face, пообщаться в встроенном чате, подобрать квантизацию под своё железо, а при необходимости поднять локальный сервер с API, совместимым с OpenAI, чтобы подключать модель в свои приложения. Всё приватно — данные не уходят из машины. Направление — готовое приложение «скачал и запустил модель» с графическим интерфейсом, а не библиотека для разработчика и не облачный сервис: под капотом llama.cpp/MLX, поэтому нужны достаточно оперативной памяти и, желательно, GPU. Для консольного/серверного сценария без GUI чаще берут Ollama, для веб-интерфейса на команду — Open WebUI.