zero-down.txt
Projetos

projetos com ia local

Zero Down

Primeiro projeto de IA local: uma LLM aberta, baixada do Hugging Face, roda no próprio computador e responde sobre os processos da Controladoria.

entrasaiLLM localPerguntaBase de processosRespostaProcessos citadosManual

entra

  • Pergunta
  • Base de processos

LLM local

sai

  • Resposta
  • Processos citados
  • Manual

O que é

Assistente de IA generativa que roda inteiro na máquina de quem usa. Um modelo de linguagem de código aberto, baixado do Hugging Face, consulta a base de conhecimento de processos da Controladoria e responde em português, como um colega experiente, citando os processos de onde tirou cada informação. A pergunta, os trechos da base e a resposta não saem do computador: nada vai para a nuvem e, depois da instalação, nem a internet é necessária.

O potencial

Mostra que dá para ter IA generativa sobre informação interna sem entregar essa informação a um serviço de nuvem. Um modelo de 4 bilhões de parâmetros, com cerca de 2,5 GB, roda no processador de um computador comum e já responde sobre processos reais da empresa. O desenho (base local, busca e modelo aberto) se repete para outras bases, como manuais de sistema, procedimentos de outras áreas e legislação. É o primeiro de uma série de projetos de IA local.

Como funciona

  • A pergunta passa por uma busca na base, que separa os trechos mais relevantes entre processos, fluxos, fontes e siglas
  • Esses trechos seguem para a LLM local com regras rígidas: responder só com o que a base documenta, sem inventar rotina, prazo ou regra
  • A resposta aparece em tempo real, com links para os processos consultados
  • No mesmo terminal, a IA explica um processo em linguagem simples e escreve manuais passo a passo, prontos para baixar ou imprimir

Destaques técnicos

  • RAG local: busca BM25 escrita em JavaScript, sem dependências, rodando no navegador
  • Qwen3 4B Instruct, quantizado em 4 bits, servido pelo llamafile num único executável
  • Compatível com o padrão de API da OpenAI: troca de modelo ou de servidor (llamafile, Ollama, LM Studio) sem reescrever a aplicação
  • Modelo e motor em versões fixas, conferidos por SHA-256 no download
  • A IA atende só no próprio computador e apenas lê a base: não altera processos nem cadastros
  • Avaliação com perguntas reais do dia a dia e a resposta esperada, para medir a qualidade a cada mudança