Intelligence artificielle appliquée à nos projets
Nous intégrons l'IA là où elle apporte une valeur réelle : automatisation des tâches répétitives, extraction d'informations dans les documents, génération de contenu contextualisé et assistance intelligente aux utilisateurs. Nos décisions de mise en œuvre reposent sur le retour sur investissement, pas sur les tendances.
Intégration de LLM — API Claude et OpenAI
Nous utilisons Claude (Anthropic) comme modèle principal pour les tâches de raisonnement complexe, l'analyse documentaire et la génération de textes longs : une fenêtre de contexte de 200 000 tokens permet de traiter un dossier juridique entier ou un rapport financier en un seul appel. GPT-4o est retenu pour les tâches multimodales (image et texte) et lorsque l'écosystème OpenAI (Whisper, DALL·E) est nécessaire.
Le tool use (function calling) permet au LLM d'interagir avec les API internes : chercher dans la base de données, déclencher des actions dans les systèmes existants et renvoyer des données structurées validées par Pydantic. Les réponses en streaming réduisent la latence perçue des interfaces conversationnelles — l'utilisateur voit le texte s'afficher progressivement au lieu d'attendre 5 à 10 secondes.
- Le prompt caching (Anthropic) réduit de 90 % le coût du contexte récurrent (prompts système, documents de référence)
- Structured outputs (mode JSON) pour des réponses typées, sans expression régulière sur du texte libre
- Bascule automatique Claude → GPT-4o → Gemini en cas d'incident de disponibilité
- Suivi des coûts par utilisateur et par fonctionnalité — la consommation LLM est visible dans le tableau de bord d'administration
RAG — une IA nourrie des données du client
Le RAG (Retrieval-Augmented Generation) permet au LLM de répondre à partir de documents propres au client (contrats, manuels, textes réglementaires, e-mails) sans réentraînement. Les documents sont découpés en fragments, vectorisés avec text-embedding-3-large (OpenAI) ou embed-english-v3 (Cohere), stockés dans pgvector (extension PostgreSQL) et retrouvés par similarité cosinus.
Le pipeline RAG comprend : l'ingestion des documents (PDF, DOCX, HTML), un découpage intelligent (avec recouvrement pour préserver le contexte), un re-classement avec Cohere Rerank pour gagner en pertinence, l'injection dans le contexte du LLM et la citation des sources avec le numéro de page. Le résultat est un chatbot qui répond précisément à partir de documents réels, avec des sources vérifiables.
- pgvector pour la recherche par similarité vectorielle directement dans PostgreSQL — sans Pinecone ni Weaviate
- Recherche hybride : vecteurs denses et BM25 creux (mots-clés) → fusion RRF
- Évaluation du RAG avec RAGAS — précision, rappel et fidélité mesurés automatiquement
- Filtrage par métadonnées pour le multi-locataire : l'utilisateur A ne voit pas les documents de l'utilisateur B
Vision par ordinateur et traitement documentaire
Pour extraire des données de documents scannés ou photographiés (factures, contrats, pièces d'identité), nous combinons plusieurs étapes : prétraitement de l'image (redressement, réduction du bruit avec OpenCV), OCR avec Google Document AI ou Amazon Textract (structuré, et non de l'OCR brut), puis post-traitement par LLM pour normaliser et valider.
La classification d'images (produits, catégories, détection de contenu sensible) s'appuie sur des modèles affinés à partir de CLIP ou d'EfficientNet, déployés en microservices FastAPI avec inférence GPU optionnelle (CUDA). Pour les projets sans budget GPU, les API cloud (Google Vision, AWS Rekognition) restent une option à coût marginal.
- Extraction automatique des données de factures PDF ou image vers une base structurée
- Vérification d'identité : OCR du document et détection de vivacité par selfie
- Modération des contenus publiés par les utilisateurs via des API cloud, avec un LLM en secours
- Transcription audio avec Whisper large-v3 pour les enregistrements de réunions
Avantages et limites
Avantages
- Automatise les tâches répétitives : extraction de données, classification, support.
- Le RAG répond à partir des documents du client, avec des sources vérifiables.
- Le prompt caching réduit jusqu'à 90 % le coût du contexte récurrent.
- La bascule entre modèles (Claude → GPT-4o → Gemini) est prévue pour les incidents de disponibilité.
Limites
- Les LLM peuvent halluciner — toute sortie critique exige validation et sources.
- Le coût au token grimpe vite en gros volume si le cache n'est pas soigné.
- Envoyer des données sensibles à des API tierces soulève des questions de confidentialité.
- La latence d'une réponse générée peut atteindre plusieurs secondes.
Verdict en bref
Intégrez l'IA là où le retour sur investissement est réel : automatisation, RAG sur documents, extraction de données. Évitez l'IA pour l'IA sur des tâches où une règle simple ou une recherche classique suffit.
Tableau des spécifications
| Capacité | Limite / seuil | Usage courant | |
|---|---|---|---|
| Contexte du LLM | Jusqu'à 200 000 tokens (Claude) | Un large contexte accroît le coût et la latence | Analyse de longs documents et de rapports |
| RAG | pgvector, recherche hybride, re-classement | La qualité dépend du découpage et des sources | Chatbot sur vos propres documents |
| Vision par ordinateur | OCR structuré, post-traitement et validation par LLM | L'inférence GPU augmente le coût | Extraction de factures, vérification d'identité |
| Coût courant | Facturé au token ou à l'appel d'API | Croît avec le volume en l'absence de cache | Du simple chatbot au pipeline complet |
RAG face au fine-tuning
| Critère | RAG | Fine-tuning |
|---|---|---|
| Mise à jour des connaissances | Immédiate (il suffit d'ajouter des documents) | Exige un réentraînement |
| Sources vérifiables | Oui, avec citation | Non |
| Coût initial | Faible | Élevé (données et GPU) |
Questions fréquentes
Qu'est-ce que le RAG et quand l'utiliser ?
Le RAG (Retrieval-Augmented Generation) permet à l'IA de répondre à partir de vos documents (contrats, manuels, textes réglementaires) sans réentraînement. On l'utilise dès qu'on veut des réponses précises, sourcées, fondées sur ses propres données.
RAG ou fine-tuning ?
Le RAG pour des connaissances qui évoluent souvent et pour des sources vérifiables — il se met à jour en ajoutant des documents. Le fine-tuning pour un style ou un format figé, avec un coût initial plus élevé. Dans la plupart des cas métier, le RAG s'impose.
Comment maîtrisez-vous les hallucinations de l'IA ?
Nous utilisons le RAG avec citation des sources, des structured outputs (JSON) validés par Pydantic et une validation humaine sur les sorties critiques. L'IA répond à partir de documents réels, pas de mémoire, et chaque affirmation est rattachée à une source.
Mes données restent-elles confidentielles ?
Les données sensibles peuvent être isolées par client et, si nécessaire, traitées avec des modèles auto-hébergés ou via des API assorties d'une clause de non-entraînement. Dans les cas réglementés, nous retenons des fournisseurs qui n'utilisent pas les données pour l'entraînement.