projetos com ia local
Zero Down
Primeiro projeto de IA local: uma LLM aberta, baixada do Hugging Face, roda no próprio computador e responde sobre os processos da Controladoria.
entra
- Pergunta
- Base de processos
LLM local
sai
- Resposta
- Processos citados
- Manual
O que é
Assistente de IA generativa que roda inteiro na máquina de quem usa. Um modelo de linguagem de código aberto, baixado do Hugging Face, consulta a base de conhecimento de processos da Controladoria e responde em português, como um colega experiente, citando os processos de onde tirou cada informação. A pergunta, os trechos da base e a resposta não saem do computador: nada vai para a nuvem e, depois da instalação, nem a internet é necessária.
O potencial
Mostra que dá para ter IA generativa sobre informação interna sem entregar essa informação a um serviço de nuvem. Um modelo de 4 bilhões de parâmetros, com cerca de 2,5 GB, roda no processador de um computador comum e já responde sobre processos reais da empresa. O desenho (base local, busca e modelo aberto) se repete para outras bases, como manuais de sistema, procedimentos de outras áreas e legislação. É o primeiro de uma série de projetos de IA local.
Como funciona
- A pergunta passa por uma busca na base, que separa os trechos mais relevantes entre processos, fluxos, fontes e siglas
- Esses trechos seguem para a LLM local com regras rígidas: responder só com o que a base documenta, sem inventar rotina, prazo ou regra
- A resposta aparece em tempo real, com links para os processos consultados
- No mesmo terminal, a IA explica um processo em linguagem simples e escreve manuais passo a passo, prontos para baixar ou imprimir
Destaques técnicos
- RAG local: busca BM25 escrita em JavaScript, sem dependências, rodando no navegador
- Qwen3 4B Instruct, quantizado em 4 bits, servido pelo llamafile num único executável
- Compatível com o padrão de API da OpenAI: troca de modelo ou de servidor (llamafile, Ollama, LM Studio) sem reescrever a aplicação
- Modelo e motor em versões fixas, conferidos por SHA-256 no download
- A IA atende só no próprio computador e apenas lê a base: não altera processos nem cadastros
- Avaliação com perguntas reais do dia a dia e a resposta esperada, para medir a qualidade a cada mudança