Introdução
Modal é uma plataforma de infraestrutura em nuvem para equipes que desenvolvem, treinam e servem aplicações de IA em escala. Ela resolve um problema comum na engenharia de machine learning: provisionar GPUs, gerenciar clusters e manter endpoints de inferência funcionando geralmente exige trabalho dedicado de infraestrutura que atrasa o desenvolvimento.
O Modal permite que engenheiros escrevam código que roda na nuvem com configuração mínima. Os containers iniciam em segundos, escalam até zero quando ociosos, e os usuários pagam apenas pelo tempo de computação real, cobrado por segundo. A plataforma é construída em torno de primitivas como Functions para computação serverless, Sandboxes para execução de código não confiável e cargas de trabalho de agentes, e Servers para inferência de LLMs com baixa latência. O Modal, desenvolvido pela Modal Labs, oferece SDKs oficiais em Python, Go e JavaScript/TypeScript, além de uma CLI, e utiliza capacidade de mais de 20 nuvens em diversas regiões globais.
Principais Recursos
- Inferência: Sirva LLMs e modelos de imagem, vídeo e áudio, desde endpoints em tempo real até jobs em lote, incluindo endpoints compatíveis com OpenAI e suporte a stacks de inferência personalizadas.
- Treinamento: Faça fine-tuning e execute aprendizado por reforço em configurações de GPU única ou múltiplos nós, com suporte a frameworks e técnicas como RL, SFT, LoRA e fine-tuning completo.
- Sandboxes: Ambientes isolados para agentes de código, rollouts de RL e código não confiável que podem escalar para milhões de instâncias simultâneas, com snapshot e restore para inicialização rápida.
- Functions: Execute código Python ou de outras linguagens como computação massivamente paralela, jobs assíncronos em lote ou endpoints HTTPS com autoscaling e escala a zero quando ociosos.
- Qualquer GPU, sob demanda: Acesse GPUs que vão de Nvidia T4 a B300 em segundos, sem pedidos de cota, com roteamento automático em um pool global de capacidade distribuída.
- Agendamento rápido de containers: Um runtime e sistema de imagens de containers próprios, além de um sistema de arquivos distribuído estilo CDN para carregar imagens, pesos de modelos e datasets com largura de banda total.
- Controles empresariais: Isolamento de workloads por design, acesso de rede configurável, logs de auditoria e observabilidade integrados à plataforma.
Destaques
- Preços: Baseado em uso, cobrado por segundo. Os preços das GPUs variam de $0.000164/segundo (Nvidia T4) a $0.001972/segundo (Nvidia B300); CPU custa $0.0000131 por núcleo por segundo; memória custa $0.00000222 por GiB por segundo; volumes custam $0.09 por GiB por mês; egresso de rede custa $0.04 por GiB.
- Planos: O Starter é gratuito com $30/mês em créditos, 3 assentos e 10 de concorrência de GPU; o Team custa $250/mês mais computação, com $100/mês em créditos, assentos ilimitados e 50 de concorrência de GPU; o Enterprise tem preço personalizado com descontos por volume.
- Nível gratuito: O plano Starter não tem taxa mensal e inclui créditos gratuitos recorrentes, permitindo que os usuários testem a plataforma sem custo inicial.
- SDKs e ferramentas: SDKs oficiais em Python, Go e JavaScript/TypeScript, uma CLI e um Playground baseado em navegador para explorar a plataforma.
Para Quem É
O Modal é voltado para engenheiros de IA e machine learning, equipes de infraestrutura e pesquisadores que precisam executar cargas de trabalho intensivas em computação sem gerenciar servidores. Os usuários típicos incluem equipes que servem endpoints de inferência de LLMs ou modelos multimodais, pesquisadores fazendo fine-tuning de modelos ou executando rollouts de aprendizado por reforço, desenvolvedores construindo agentes de código que precisam de execução segura em sandbox, e equipes de dados executando grandes jobs paralelos em lote. Também atende startups e empresas que desejam cobrança por segundo e autoscaling até zero, em vez de manter clusters de GPUs reservados.
