Inteligencia Artificial aplicada en nuestros proyectos
Integramos IA donde aporta valor real: automatización de procesos repetitivos, extracción de información de documentos, generación de contenido contextualizado y asistencia inteligente al usuario. Tomamos las decisiones de implementación según el retorno de la inversión, no según las modas.
Integración de LLM: API de Claude y OpenAI
Usamos Claude (Anthropic) como modelo principal para tareas de razonamiento complejo, análisis de documentos y generación de textos largos: una ventana de contexto de 200 000 tokens permite procesar un expediente jurídico completo o un informe financiero en una sola llamada. GPT-4o se elige para las tareas multimodales (imagen y texto) y cuando hace falta el ecosistema de OpenAI (Whisper, DALL·E).
El uso de herramientas (function calling) permite al LLM interactuar con las API internas: buscar en la base de datos, disparar acciones en los sistemas existentes y devolver datos estructurados validados con Pydantic. Las respuestas en streaming reducen la latencia percibida en las interfaces conversacionales: el usuario ve aparecer el texto de forma progresiva en lugar de esperar entre 5 y 10 segundos.
- El prompt caching (Anthropic) reduce un 90 % el coste del contexto repetitivo (prompts de sistema, documentos de referencia)
- Structured outputs (modo JSON) para respuestas con tipado seguro, sin expresiones regulares sobre texto libre
- Conmutación automática Claude → GPT-4o → Gemini ante errores de disponibilidad
- Seguimiento de costes por usuario y por función: el consumo de LLM se ve en el panel de administración
RAG: IA con el conocimiento de los datos del cliente
La generación aumentada por recuperación (RAG) permite al LLM responder a partir de documentos propios del cliente (contratos, manuales, normativa, correos) sin necesidad de reentrenarlo. Los documentos se dividen en fragmentos, se convierten en vectores con text-embedding-3-large (OpenAI) o embed-english-v3 (Cohere), se almacenan en pgvector (extensión de PostgreSQL) y se recuperan por similitud del coseno.
El pipeline de RAG incluye: ingesta de documentos (PDF, DOCX, HTML), fragmentación inteligente (con solapamiento para conservar el contexto), reordenación con Cohere Rerank para ganar relevancia, inyección en el contexto del LLM y cita de las fuentes con número de página. El resultado es un chatbot que responde con precisión a partir de documentos reales, con fuentes verificables.
- pgvector para la búsqueda por similitud vectorial directamente en PostgreSQL, sin Pinecone ni Weaviate
- Búsqueda híbrida: vectores densos y BM25 disperso (por palabras clave) → fusión RRF
- Evaluación del RAG con RAGAS: precisión, exhaustividad y fidelidad medidas de forma automática
- Filtrado por metadatos para el modo multiinquilino: el usuario A no ve los documentos del usuario B
Visión por computador y procesamiento de documentos
Para extraer datos de documentos escaneados o fotografiados (facturas, contratos, documentos de identidad) usamos un pipeline combinado: preprocesado de imagen (corrección de inclinación y reducción de ruido con OpenCV), OCR con Google Document AI o Amazon Textract (estructurado, no OCR en bruto) y posprocesado con LLM para normalizar y validar. La precisión supera el 98 % en documentos de negocio habituales.
La clasificación de imágenes (productos, categorías, detección de contenido sensible) se realiza con modelos afinados sobre CLIP o EfficientNet, desplegados como microservicios FastAPI con inferencia en GPU opcional (CUDA). Para proyectos sin presupuesto de GPU, las API en la nube (Google Vision, AWS Rekognition) ofrecen más del 95 % de precisión a un coste marginal.
- Extracción automática de datos de facturas en PDF o imagen hacia una base de datos estructurada
- Verificación de identidad: OCR del documento y detección de prueba de vida mediante selfie
- Moderación de contenido generado por los usuarios con API en la nube y LLM como respaldo
- Transcripción de voz a texto con Whisper large-v3 para las grabaciones de reuniones
Ventajas y limitaciones
Ventajas
- Automatiza procesos repetitivos: extracción de datos, clasificación y soporte.
- El RAG responde a partir de los documentos del cliente, con fuentes verificables.
- El prompt caching reduce hasta un 90 % el coste del contexto repetitivo.
- La conmutación entre modelos (Claude → GPT-4o → Gemini) asegura la disponibilidad.
Limitaciones
- Los LLM pueden alucinar: cualquier salida crítica exige validación y fuentes.
- El coste por token se dispara con volúmenes altos si no se cachea con cuidado.
- Enviar datos sensibles a API de terceros plantea problemas de confidencialidad.
- La latencia de una respuesta generada puede llegar a varios segundos.
Veredicto breve
Integra IA donde aporte un retorno real: automatización, RAG sobre documentos y extracción de datos. Evita la IA por la IA en tareas en las que basta con una regla sencilla o una búsqueda clásica.
Tabla de especificaciones
| Capacidad | Límite / umbral | Uso habitual | |
|---|---|---|---|
| Contexto del LLM | Hasta 200 000 tokens (Claude) | Un contexto amplio incrementa el coste y la latencia | Análisis de documentos extensos e informes |
| RAG | pgvector, búsqueda híbrida, reordenación | La calidad depende de la fragmentación y de las fuentes | Chatbot sobre documentos propios |
| Visión por computador | OCR estructurado, precisión superior al 98 % | La inferencia en GPU aumenta el coste | Extracción de facturas, verificación de identidad |
| Coste típico | Facturado por token o por llamada a la API | Aumenta con el volumen si no hay caché | Desde un chatbot hasta un pipeline completo |
RAG frente al ajuste fino
| Criterio | RAG | Ajuste fino |
|---|---|---|
| Actualización del conocimiento | Basta con añadir documentos | Exige volver a entrenar |
| Fuentes verificables | Sí, con cita | No |
| Coste inicial | Bajo | Alto (datos y GPU) |
Preguntas frecuentes
¿Qué es el RAG y cuándo debo usarlo?
El RAG (generación aumentada por recuperación) permite a la IA responder a partir de tus documentos (contratos, manuales, normativa) sin reentrenarla. Se usa cuando quieres respuestas precisas, con fuentes, basadas en datos propios.
¿RAG o ajuste fino?
RAG para conocimiento que cambia a menudo y cuando necesitas fuentes verificables: se actualiza añadiendo documentos. El ajuste fino sirve para un estilo o formato fijo, con un coste inicial mayor. Para la mayoría de casos de negocio, el RAG es la opción.
¿Cómo controláis las alucinaciones de la IA?
Usamos RAG con cita de fuentes, structured outputs (JSON) validados con Pydantic y validación humana en las salidas críticas. La IA responde a partir de documentos reales, no de memoria, y cada afirmación lleva una fuente asociada.
¿Mis datos siguen siendo confidenciales?
Los datos sensibles pueden aislarse por cliente y, si hace falta, procesarse con modelos autoalojados o mediante API con cláusulas de no entrenamiento. En casos regulados elegimos proveedores que no usan los datos para entrenar.