Inteligência Artificial aplicada nos nossos projetos
Integramos IA onde acrescenta valor real: automatização de processos repetitivos, extração de informação a partir de documentos, geração de conteúdo contextualizado e assistência inteligente aos utilizadores. Tomamos as decisões de implementação com base no retorno do investimento, não em modas.
Integração de LLM — API da Claude e da OpenAI
Usamos o Claude (Anthropic) como modelo principal para tarefas de raciocínio complexo, análise de documentos e geração de textos longos — uma janela de contexto de 200k tokens permite processar um processo jurídico inteiro ou um relatório financeiro numa única chamada. O GPT-4o é escolhido para tarefas multimodais (imagem + texto) e quando é necessário o ecossistema da OpenAI (Whisper, DALL-E).
O tool use (function calling) permite ao LLM interagir com as API internas: pesquisar na base de dados, desencadear ações nos sistemas existentes e devolver dados estruturados validados com Pydantic. As respostas em streaming reduzem a latência percebida nas interfaces conversacionais — o utilizador vê o texto a surgir progressivamente, em vez de esperar 5-10s.
- O prompt caching (Anthropic) reduz em 90% o custo do contexto repetitivo (system prompts, documentos de referência)
- Structured outputs (modo JSON) para respostas type-safe, sem regex sobre texto livre
- Comutação automática Claude → GPT-4o → Gemini em caso de erros de disponibilidade
- Controlo de custos por utilizador e por funcionalidade — o consumo de LLM fica visível no painel de administração
RAG — IA com conhecimento a partir dos dados do cliente
A Retrieval-Augmented Generation (RAG) permite ao LLM responder com base em documentos específicos do cliente (contratos, manuais, legislação, e-mails) sem ter de ser retreinado. Os documentos são divididos em chunks, transformados em embeddings com text-embedding-3-large (OpenAI) ou embed-english-v3 (Cohere), guardados em pgvector (extensão do PostgreSQL) e recuperados por semelhança de cosseno.
O pipeline de RAG inclui: ingestão de documentos (PDF, DOCX, HTML), chunking inteligente (com sobreposição para manter o contexto), re-ranking com o Cohere Rerank para maior relevância, injeção no contexto do LLM e citação das fontes com o número de página. O resultado é um chatbot que responde com precisão a partir de documentos reais, com fontes verificáveis.
- pgvector para pesquisa por semelhança vetorial diretamente no PostgreSQL — sem Pinecone/Weaviate
- Pesquisa híbrida: vetores densos + BM25 esparso (palavras-chave) → fusão RRF
- Avaliação do RAG com RAGAS — precision, recall e faithfulness medidos automaticamente
- Filtragem por metadados para multi-tenant: o utilizador A não vê os documentos do utilizador B
Visão computacional e processamento de documentos
Para extrair dados de documentos digitalizados ou fotografados (faturas, contratos, documentos de identificação) usamos um pipeline combinado: pré-processamento da imagem (correção de inclinação, redução de ruído com OpenCV), OCR com o Google Document AI ou o Amazon Textract (estruturado, não OCR em bruto) e pós-processamento com LLM para normalização e validação. A exatidão depende da qualidade do documento.
A classificação de imagens (produtos, categorias, deteção de conteúdo NSFW) é feita com modelos fine-tuned sobre CLIP ou EfficientNet, colocados em produção como microserviços FastAPI com inferência em GPU opcional (CUDA). Para projetos sem orçamento para GPU, as API cloud (Google Vision, AWS Rekognition) são uma alternativa com custo marginal baixo.
- Extração automática de dados de faturas em PDF/imagem → base de dados estruturada
- Verificação de identidade: OCR do documento + deteção de vivacidade na selfie
- Moderação de conteúdo gerado pelos utilizadores com API cloud + fallback por LLM
- Speech-to-text com o Whisper large-v3 para transcrição áudio de reuniões
Vantagens e limitações
Vantagens
- Automatiza processos repetitivos: extração de dados, classificação e apoio ao cliente.
- O RAG responde a partir dos documentos do cliente, com fontes verificáveis.
- O prompt caching reduz até 90% o custo do contexto repetitivo.
- Comutação entre modelos (Claude → GPT-4o → Gemini) para garantir disponibilidade.
Limitações
- Os LLM podem alucinar — qualquer resultado crítico exige validação e fontes.
- O custo por token sobe depressa em grande volume sem um caching cuidado.
- Enviar dados sensíveis para API de terceiros levanta questões de confidencialidade.
- A latência de uma resposta gerada pode chegar a alguns segundos.
Veredicto breve
Integra IA onde acrescenta retorno real: automatização, RAG sobre documentos, extração de dados. Evita a IA por moda em tarefas onde uma regra simples ou uma pesquisa clássica são suficientes.
Tabela de especificações
| Capacidade | Limite / limiar | Utilização típica | |
|---|---|---|---|
| Contexto do LLM | Até 200k tokens (Claude) | Um contexto grande aumenta o custo e a latência | Análise de documentos longos, relatórios |
| RAG | pgvector, pesquisa híbrida, re-ranking | A qualidade depende do chunking e das fontes | Chatbot sobre documentos próprios |
| Visão computacional | OCR estruturado com normalização por LLM | A inferência em GPU aumenta o custo | Extração de faturas, verificação de identidade |
| Custo típico | Cobrado por token / por chamada à API | Sobe com o volume sem caching | Do chatbot ao pipeline completo |
RAG vs fine-tuning
| Critério | RAG | Fine-tuning |
|---|---|---|
| Atualização do conhecimento | Instantânea (basta acrescentar documentos) | Exige retreino |
| Fontes verificáveis | Sim, com citação | Não |
| Custo inicial | Baixo | Elevado (dados + GPU) |
Perguntas frequentes
O que é o RAG e quando devo usá-lo?
O RAG (Retrieval-Augmented Generation) permite à IA responder com base nos teus documentos (contratos, manuais, legislação) sem retreino. Usa-lo quando queres respostas precisas, com fontes, assentes em dados próprios.
RAG ou fine-tuning?
RAG para conhecimento que muda com frequência e para fontes verificáveis — atualiza-lo acrescentando documentos. Fine-tuning para estilo ou formato fixo, com um custo inicial mais elevado. Para a maioria dos casos de negócio, a escolha é o RAG.
Como controlam as alucinações da IA?
Usamos RAG com citação de fontes, structured outputs (JSON) validados com Pydantic e validação humana para resultados críticos. A IA responde a partir de documentos reais, não de memória, e cada afirmação tem uma fonte associada.
Os meus dados permanecem confidenciais?
Os dados sensíveis podem ser isolados por tenant e, se for necessário, processados com modelos self-hosted ou API com cláusulas de no-training. Para casos regulados, escolhemos fornecedores que não usam os dados para treino.