← Todas as ferramentas
O Que Eu Consigo Rodar Localmente?
Um guia aproximado, baseado em regras práticas, sobre quais tamanhos de modelo de IA local seu hardware consegue rodar de verdade.
O que você provavelmente consegue rodar
Na CPU / RAM do sistema
Modelos grandes
Até cerca de 22B de parâmetros — próximos do topo dos modelos abertos, melhor com uma GPU forte.
- em quantização de 8 bits
- ~11B
- em quantização de 4 bits
- ~22B
Esses números usam aproximações práticas amplamente citadas (~1GB por bilhão de parâmetros em 8 bits, ~0,5GB por bilhão em 4 bits, com margem reservada para contexto e o sistema operacional) — não são especificações precisas. O tamanho realmente utilizável depende da arquitetura do modelo, do comprimento de contexto, do método de quantização e do software usado.