Modal — запуск ML на serverless GPU

★ 7.7 · devops

modal — это скилл для Claude Code, который помогает запускать ML-нагрузки на serverless GPU-платформе Modal без управления инфраструктурой. Поддерживаются GPU от T4 (16 ГБ) до H200 (141 ГБ) и B200 (Blackwell) с оплатой посекундно и автомасштабированием от нуля до 100+ GPU. Инфраструктура описывается на чистом Python без YAML: доступны компоненты App, Function, Cls, Image, Volume и Secret, а команды modal run, modal serve и modal deploy покрывают весь цикл — от прототипа до продакшена. Скилл охватывает деплой моделей как REST API через FastAPI/ASGI, динамический батчинг, кэширование слоёв контейнеров и персистентное хранилище Volume. Подходит ML-инженерам, которым нужен быстрый on-demand доступ к GPU для инференса, пакетного обучения или cron-задач без простоя и затрат на резервирование.