Llama 3 — открытые LLM-модели от Meta

★ 27k

Llama 3 — это официальный репозиторий Meta с открытыми (open-weight) моделями семейства Llama 3: веса, минимальный код инференса и лицензия для локального запуска и дообучения. Берут, когда нужна свободная LLM для развёртывания на своём железе, файнтюна под предметную область и встраивания в продукт без привязки к закрытому API. Даёт доступ к моделям разных размеров (например, 8B и 70B), инструкцию по скачиванию весов и примеры запуска чата/генерации. Направление — эталонная точка входа к моделям Llama 3 и их запуску, а не готовое приложение и не высоконагруженный сервер: для скорости и батчинга в бою берут vLLM, для локального чата без кода — Ollama или LM Studio (там же квантованные сборки под слабое железо), для дообучения на своих данных удобны unsloth и text-generation-webui.