Toegepaste kunstmatige intelligentie in onze projecten
Wij zetten AI in waar het echte meerwaarde oplevert: bij het automatiseren van terugkerende processen, het extraheren van informatie uit documenten, het genereren van contextuele content en het intelligent ondersteunen van gebruikers. Onze implementatiekeuzes volgen de ROI, niet de trends.
LLM-integratie — Claude API en OpenAI
Voor complexe redeneertaken, documentanalyse en het genereren van lange teksten zetten we Claude (Anthropic) in als hoofdmodel — een contextvenster van 200.000 tokens maakt het mogelijk om een compleet juridisch dossier of een financieel rapport in één enkele aanroep te verwerken. GPT-4o kiezen we voor multimodale taken (beeld en tekst) en telkens wanneer het OpenAI-ecosysteem (Whisper, DALL·E) nodig is.
Via Tool Use (function calling) kan het LLM met interne API's samenwerken: in de database zoeken, acties in bestaande systemen aanstoten en gestructureerde, met Pydantic gevalideerde data teruggeven. Streaming-antwoorden verlagen de ervaren latentie van conversationele interfaces — de tekst verschijnt gaandeweg, in plaats van dat er 5 tot 10 seconden lang niets gebeurt.
- Prompt caching (Anthropic) verlaagt de kosten voor terugkerende context (systeemprompts, referentiedocumenten) met 90%
- Structured outputs (JSON-modus) voor typeveilige antwoorden zonder regex op vrije tekst
- Automatische fallback Claude → GPT-4o → Gemini bij beschikbaarheidsproblemen
- Kostenregistratie per gebruiker en per functie — het LLM-gebruik is zichtbaar in het admindashboard
RAG — AI met de kennis uit de data van de klant
Retrieval-augmented generation (RAG) stelt het LLM in staat te antwoorden op basis van klantspecifieke documenten (contracten, handleidingen, juridische teksten, e-mails) zonder opnieuw te worden getraind. De documenten worden in chunks opgedeeld, ingebed met text-embedding-3-large (OpenAI) of embed-english-v3 (Cohere), opgeslagen in pgvector (een PostgreSQL-extensie) en opgehaald via cosinusgelijkenis.
De RAG-pipeline omvat: documentinname (PDF, DOCX, HTML), intelligente chunking (met overlap voor de context), re-ranking met Cohere Rerank voor een hogere trefkwaliteit, invoer in de LLM-context en bronvermelding met paginanummer. Het resultaat is een chatbot die nauwkeurig antwoordt op basis van echte documenten, met controleerbare bronnen.
- pgvector voor vectorgelijkenis-zoekopdrachten rechtstreeks in PostgreSQL — zonder Pinecone of Weaviate
- Hybride zoeken: dense vectoren plus sparse BM25 (trefwoorden) → RRF-fusie
- RAG-evaluatie met RAGAS — precision, recall en faithfulness worden automatisch gemeten
- Metadatafilters voor multi-tenantwerking: gebruiker A ziet de documenten van gebruiker B niet
Computer vision en documentverwerking
Om data te extraheren uit gescande of gefotografeerde documenten (facturen, contracten, identiteitsbewijzen) gebruiken we een gecombineerde pipeline: beeldvoorbewerking (rechtzetten, ruisonderdrukking met OpenCV), OCR met Google Document AI of Amazon Textract (gestructureerd, niet als kale OCR) en aansluitende LLM-verwerking voor normalisatie en controle. De nauwkeurigheid hangt af van de kwaliteit van het document.
Beeldclassificatie (producten, categorieën, NSFW-detectie) gebeurt met op CLIP of EfficientNet fijnafgestemde modellen, uitgeleverd als FastAPI-microservices met optionele GPU-inferentie (CUDA). Voor projecten zonder GPU-budget zijn cloud-API's (Google Vision, AWS Rekognition) een alternatief met lage marginale kosten.
- Automatische data-extractie uit facturen als PDF of afbeelding → gestructureerde database
- Identiteitscontrole: OCR op het document plus liveness-detectie via selfie
- Moderatie van door gebruikers gegenereerde content met cloud-API's en een LLM als terugvaloptie
- Speech-to-text met Whisper large-v3 voor het transcriberen van vergaderopnamen
Voordelen en beperkingen
Voordelen
- Automatiseert terugkerende processen: data-extractie, classificatie, support.
- RAG antwoordt op basis van de documenten van de klant, met controleerbare bronnen.
- Prompt caching verlaagt de kosten voor terugkerende context met tot 90%.
- Fallback tussen modellen (Claude → GPT-4o → Gemini) waarborgt de beschikbaarheid.
Beperkingen
- LLM's kunnen hallucineren — elke kritische output vraagt om controle en bronnen.
- De kosten per token lopen bij hoge volumes snel op zonder zorgvuldige caching.
- Gevoelige data die naar API's van derden gaat, roept vragen op over vertrouwelijkheid.
- De latentie van een gegenereerd antwoord kan enkele seconden bedragen.
Kort oordeel
Zet AI in waar het echte ROI oplevert: automatisering, RAG op documenten, data-extractie. Laat AI om de AI achterwege waar een eenvoudige regel of een klassieke zoekfunctie volstaat.
Specificatietabel
| Mogelijkheid | Grens / drempel | Typische inzet | |
|---|---|---|---|
| LLM-context | Tot 200.000 tokens (Claude) | Een grote context verhoogt kosten en latentie | Analyse van lange documenten en rapporten |
| RAG | pgvector, hybride zoeken, re-ranking | De kwaliteit hangt af van de chunking en de bronnen | Chatbot op eigen documenten |
| Computer vision | Gestructureerde OCR met LLM-normalisatie | GPU-inferentie verhoogt de kosten | Factuurextractie, controle van identiteitsbewijzen |
| Typische kosten | Afrekening per token of per API-aanroep | Lopen zonder caching op met het volume | Van chatbot tot complete pipeline |
RAG vergeleken met fine-tuning
| Criterium | RAG | Fine-tuning |
|---|---|---|
| Kennisactualisatie | Direct (documenten toevoegen) | Vereist opnieuw trainen |
| Controleerbare bronnen | Ja, met bronvermelding | Nee |
| Aanvangskosten | Laag | Hoog (data en GPU) |
Veelgestelde vragen
Wat is RAG en wanneer zet je het in?
RAG (retrieval-augmented generation) stelt de AI in staat te antwoorden op basis van je eigen documenten (contracten, handleidingen, juridische teksten) zonder opnieuw te worden getraind. Je zet het in wanneer je nauwkeurige antwoorden met bronvermelding op basis van eigen data nodig hebt.
RAG of fine-tuning?
RAG voor kennis die vaak verandert en voor controleerbare bronnen — je actualiseert die door documenten toe te voegen. Fine-tuning voor een vaste stijl of een vast format, met hogere aanvangskosten. Voor de meeste zakelijke toepassingen is RAG de juiste keuze.
Hoe houden jullie AI-hallucinaties in toom?
We gebruiken RAG met bronvermelding, structured outputs (JSON) die met Pydantic worden gevalideerd, en een menselijke controle bij kritische output. De AI antwoordt op basis van echte documenten in plaats van uit het geheugen, en elke uitspraak draagt een bron.
Blijven mijn gegevens vertrouwelijk?
Gevoelige data kun je per tenant isoleren en indien nodig verwerken met zelf gehoste modellen of via API's met een no-training-clausule. In gereguleerde situaties kiezen we aanbieders die data niet voor training gebruiken.