Lista de LLMs para Rodar Localmente [Gratuitos]

Por Prof. AMR. Em, 13/10/2025.

Segundo o portal Medevel, a tendência atual é a de executar Modelos de Linguagem Grandes [LLMs] diretamente em máquinas com sistema operacional Windows ou macOS. Para melhorar o entendimento, desmistifica o processo, apresentando um guia prático com diversas ferramentas gratuitas e de código aberto que permitem a funcionalidade offline, com maior privacidade, redução de custos e maior flexibilidade de personalização. No link ao final você encontra todas as ferramentas.

Por que Executar LLMs Localmente?

Executar LLMs localmente em sua máquina Windows oferece benefícios substanciais:

• Privacidade Aprimorada: Seus dados permanecem na sua máquina, sem transitar por servidores externos, garantindo maior confidencialidade.
• Redução de Custos: Elimina a necessidade de pagamentos recorrentes por serviços de IA baseados em nuvem, tornando-se uma opção mais econômica a longo prazo.
• Velocidade e Latência: O processamento local tende a ser mais rápido por não depender de conexões de rede externas.
• Flexibilidade e Personalização: Permite ajustar e adaptar os modelos para atender a necessidades específicas, como geração de conteúdo personalizado, estratégias de marketing ou automação de codificação.

Ferramentas para Executar LLMs Offline no Windows e macOS:

A seguir, uma lista das ferramentas destacadas na página, com suas respectivas funcionalidades:

1. GPT4ALL
   • Descrição: Um projeto gratuito que permite executar mais de 1.000 modelos de linguagem grandes localmente, priorizando a privacidade.
   • Funcionalidades: Oferece a instalação e uso de dezenas de modelos gratuitos para geração de conteúdo, escrita de código e testes. Suporta a OpenAI API e outros serviços de API de LLM. É compatível com Windows, Linux e macOS.
2. Jan
   • Descrição: Uma alternativa de código aberto ao ChatGPT, projetada para rodar 100% offline no seu computador.
   • Funcionalidades: Suporta múltiplos mecanismos, como llama.cpp e TensorRT-LLM. Funciona em macOS (Intel, M1, M2, M3) e em configurações Linux Manjaro com GPUs NVIDIA.
3. OfflineAI
   • Descrição: Uma inteligência artificial que opera offline, utilizando aprendizado de máquina para executar tarefas com base no código fornecido.
   • Funcionalidades: Emprega modelos como Phi-3-mini-4k-instruct.Q4_0 (da Microsoft) e modelos da Mistral AI. O modelo padrão requer cerca de 2 GB de armazenamento e 4 GB de RAM. É necessário conhecimento em Python para sua operação.
4. Follamac
   • Descrição: Uma aplicação desktop gratuita que facilita a interação com Ollama e LLMs.
   • Funcionalidades: Requer que o Ollama esteja previamente instalado e rodando localmente. Permite puxar modelos diretamente pela interface do Follamac ou via linha de comando (ex: ollama pull llama3).
5. Local.ai
   • Descrição: Uma plataforma de código aberto focada em executar modelos de IA localmente, sem depender de serviços em nuvem.
   • Funcionalidades: Oferece privacidade e funcionalidades offline, suportando uma variedade de modelos e frameworks de machine learning. É ideal para desenvolvedores que necessitam processar dados de forma segura e ter controle total sobre seus projetos de IA.
6. CodeProject.AI Server
   • Descrição: Um servidor de IA de código aberto que fornece serviços de visão computacional e aprendizado de máquina.
   • Funcionalidades: Projetado para rodar localmente, oferece recursos como detecção de objetos, reconhecimento facial, classificação de imagens, geração de texto (LLMs), text-to-image e modelos multimodais. Funciona em Windows, macOS, Linux, Raspberry Pi e Docker, com suporte para VS Code.
7. LM Studio
   • Descrição: Uma ferramenta que permite aos usuários construir e implantar modelos de linguagem personalizados.
   • Funcionalidades: Oferece ferramentas para treinamento, ajuste fino e execução de modelos de forma offline. Suporta uma ampla gama de LLMs, incluindo LIAMA, Mistral, Phi, Gemma 2, DeepSeek e Qwen. Permite rodar LLMs no laptop, interagir com documentos locais e usar modelos através de uma interface de chat ou um servidor local compatível com OpenAI. Possibilita o download de modelos do Hugging Face.
8. Transformers (🤗 Transformers)
   • Descrição: Uma biblioteca que disponibiliza milhares de modelos pré-treinados para executar tarefas em diversas modalidades como texto, visão e áudio.
   • Funcionalidades: Ideal para desenvolvedores que desejam criar aplicações de IA. Permite realizar tarefas de classificação de texto, extração de informação, resposta a perguntas, sumarização, tradução, geração de texto, classificação e detecção de objetos em imagens, reconhecimento de fala e classificação de áudio. Pode lidar com tarefas multimodais combinadas.
9. Alpaca.cpp
   • Descrição: Uma ferramenta que possibilita a execução de um modelo local rápido, semelhante ao ChatGPT.
   • Funcionalidades: Combina o modelo fundamental LLaMA com uma reprodução de código aberto do Stanford Alpaca (afinado para seguir instruções) e modificações no llama.cpp para adicionar uma interface de chat.
10. Hugging Face Optimum (🤗 Optimum)
    • Descrição: Uma extensão para 🤗 Transformers e Diffusers que fornece ferramentas de otimização.
    • Funcionalidades: Otimiza o treinamento e a execução de modelos de IA para garantir a máxima eficiência em hardware específico, mantendo a facilidade de uso.

Fonte: https://medevel.com/run-your-own-ai-llms-on-windows-offline-1100