Ollama — локальный запуск языковых моделей

★ 176.6K

Ollama — это открытый инструмент для запуска языковых моделей на своём компьютере. Его берут, когда работать с моделью нужно локально: данные не должны уходить в облако, нет подписки, нужен доступ без интернета или просто хочется поэкспериментировать бесплатно. Устроен предельно просто: одна команда скачивает модель, вторая запускает разговор — Gemma, LLaMA, DeepSeek, Qwen и десятки других доступны из общего каталога, без ручного подбора файлов и параметров. Кроме командной строки поднимает локальный API, совместимый по формату с популярными сервисами, поэтому к нему подключаются сторонние приложения и ваш собственный код; есть библиотеки для Python и JavaScript. Работает на macOS, Windows, Linux и в Docker. Скорость и качество упираются в железо: чем больше памяти видеокарты, тем крупнее модель.