Tekoäly ja automaatio

Tekoäly projekteissamme

Integroimme tekoälyn sinne, missä se tuo todellista arvoa: toistuvien prosessien automatisointiin, tiedon poimintaan dokumenteista, kontekstualisoidun sisällön tuottamiseen ja älykkääseen käyttäjäavustukseen. Toteutuspäätökset perustuvat ROI:hin, eivät trendeihin.

LLM-integraatio — Claude API ja OpenAI

Käytämme Claudea (Anthropic) pääasiallisena mallina monimutkaista päättelyä, dokumenttianalyysia ja pitkän sisällön tuottamista vaativiin tehtäviin — 200 000 tokenin kontekstiikkuna mahdollistaa kokonaisen juridisen asiakirjakansion tai talousraportin käsittelyn yhdellä kutsulla. GPT-4o valitaan multimodaalisiin tehtäviin (kuva + teksti) ja silloin, kun OpenAI:n ekosysteemiä (Whisper, DALL-E) tarvitaan.

Tool use (function calling) antaa LLM:n olla vuorovaikutuksessa sisäisten rajapintojen kanssa: hakea tietokannasta, käynnistää toimintoja olemassa olevissa järjestelmissä, palauttaa jäsenneltyä dataa, joka validoidaan Pydanticilla. Streaming-vastaukset lyhentävät koettua viivettä keskustelukäyttöliittymissä — käyttäjä näkee tekstin ilmestyvän vähitellen sen sijaan, että odottaisi 5–10 s.

  • Prompt caching (Anthropic) vähentää kustannuksia 90 % toistuvalla kontekstilla (system promptit, viitedokumentit)
  • Structured outputs (JSON-tila) tyyppiturvallisiin vastauksiin ilman regexiä vapaaseen tekstiin
  • Automaattinen fallback Claude → GPT-4o → Gemini saatavuusvirheiden sattuessa
  • Kustannusseuranta käyttäjä- ja ominaisuuskohtaisesti — LLM-käyttö näkyvissä admin-kojelaudassa

RAG — tekoäly, jolla on tietoa asiakkaan datasta

Retrieval-Augmented Generation (RAG) antaa LLM:n vastata asiakkaan omien dokumenttien (sopimukset, käsikirjat, lainsäädäntö, sähköpostit) perusteella ilman uudelleenkoulutusta. Dokumentit pilkotaan (chunking), upotetaan text-embedding-3-large (OpenAI) tai embed-english-v3 (Cohere) -malleilla, tallennetaan pgvectoriin (PostgreSQL-laajennus) ja haetaan kosinisamankaltaisuuden avulla.

RAG-putkeen kuuluvat: dokumenttien sisäänotto (PDF, DOCX, HTML), älykäs pilkonta (päällekkäisyydellä kontekstin säilyttämiseksi), uudelleenjärjestys Cohere Rerankilla paremman relevanssin saavuttamiseksi, injektio LLM:n kontekstiin ja lähteiden viittaus sivunumeroineen. Tuloksena on chatbot, joka vastaa tarkasti todellisten dokumenttien pohjalta, tarkistettavin lähtein.

  • pgvector vektorihakuun suoraan PostgreSQL:ssä — ilman Pineconea/Weaviatea
  • Hybridihaku: tiheät vektorit + harvat BM25 (avainsana) → RRF-yhdistys
  • RAG-arviointi RAGAS:lla — precision, recall ja faithfulness mitataan automaattisesti
  • Metadatasuodatus usean vuokralaisen (multi-tenant) ympäristöön: käyttäjä A ei näe käyttäjän B dokumentteja

Konenäkö ja dokumenttien käsittely

Skannatuista tai valokuvatuista dokumenteista (laskut, sopimukset, henkilöllisyystodistukset) tiedot poimitaan yhdistetyllä putkella: kuvan esikäsittely (deskew, kohinanpoisto OpenCV:llä), OCR Google Document AI:lla tai Amazon Textractilla (jäsennelty, ei raakaa OCR:ää) ja LLM-jälkikäsittely normalisointiin ja validointiin.

Kuvien luokittelu (tuotteet, kategoriat, NSFW-tunnistus) tehdään CLIP- tai EfficientNet-pohjaisilla hienosäädetyillä malleilla, jotka otetaan käyttöön FastAPI-mikropalveluina valinnaisella GPU-päättelyllä (CUDA). Projekteille ilman GPU-budjettia vaihtoehtoina ovat pilvirajapinnat (Google Vision, AWS Rekognition).

  • Tietojen automaattinen poiminta PDF-/kuvalaskuista → jäsennelty tietokanta
  • Henkilöllisyyden varmennus: dokumentin OCR + selfie liveness detection
  • Käyttäjien tuottaman sisällön moderointi pilvirajapinnoilla + LLM-fallback
  • Speech-to-text Whisper large-v3:lla kokousten äänitallenteiden litterointiin

Edut ja rajoitukset

Edut

  • Automatisoi toistuvia prosesseja: tietojen poiminta, luokittelu, tuki.
  • RAG vastaa asiakkaan dokumenttien perusteella, tarkistettavin lähtein.
  • Prompt caching vähentää kustannuksia jopa 90 % toistuvalla kontekstilla.
  • Mallien välinen fallback (Claude → GPT-4o → Gemini) saatavuuden varmistamiseksi.

Rajoitukset

  • LLM:t voivat hallusinoida — kaikki kriittinen tuloste vaatii validoinnin ja lähteet.
  • Tokenikohtainen kustannus nousee nopeasti suurella volyymillä ilman huolellista cachingia.
  • Kolmannen osapuolen rajapintoihin lähetetty arkaluonteinen data nostaa luottamuksellisuuskysymyksiä.
  • Generoidun vastauksen viive voi nousta muutamaan sekuntiin.

Lyhyt yhteenveto

Integroi tekoäly sinne, missä se tuo todellista ROI:ta: automaatio, RAG dokumenteilla, tiedon poiminta. Vältä tekoälyä tekoälyn vuoksi tehtävissä, joihin riittää yksinkertainen sääntö tai perinteinen haku.

Tekniset tiedot

OminaisuusRaja / kynnysTyypillinen käyttö
LLM-kontekstiJopa 200 000 tokenia (Claude)Suuri konteksti nostaa kustannuksia ja viivettäPitkien dokumenttien ja raporttien analyysi
RAGpgvector, hybridihaku, uudelleenjärjestysLaatu riippuu pilkonnasta ja lähteistäChatbot omilla dokumenteilla
KonenäköJäsennelty OCR, ei raakatekstiäGPU-päättely nostaa kustannuksiaLaskujen poiminta, henkilöllisyyden varmennus
Tyypillinen kustannusVeloitus tokenien / API-kutsujen mukaanKasvaa volyymin mukana ilman cachingiaChatbotista täyteen putkeen

RAG vs hienosäätö (fine-tuning)

KriteeriRAGFine-tuning
Tiedon päivitysRiittää, että lisäät dokumenttejaVaatii uudelleenkoulutuksen
Tarkistettavat lähteetKyllä, viittauksinEi
AlkukustannusPieniSuuri (data + GPU)

Usein kysytyt kysymykset

Mitä RAG on ja milloin sitä käytetään?

RAG (Retrieval-Augmented Generation) antaa tekoälyn vastata omien dokumenttiesi (sopimukset, käsikirjat, lainsäädäntö) perusteella ilman uudelleenkoulutusta. Käytät sitä, kun haluat tarkkoja, lähteillä varustettuja vastauksia omaan dataan perustuen.

RAG vai hienosäätö?

RAG usein muuttuvalle tiedolle ja tarkistettaville lähteille — päivität sen lisäämällä dokumentteja. Hienosäätö kiinteälle tyylille tai muodolle, suuremmalla alkukustannuksella. Useimmissa liiketoimintatapauksissa RAG on oikea valinta.

Miten hallitsette tekoälyn hallusinaatioita?

Käytämme RAG:tä lähdeviittauksin, Pydanticilla validoituja jäsenneltyjä tulosteita (JSON) ja ihmisen validointia kriittiselle tulosteelle. Tekoäly vastaa todellisten dokumenttien perusteella, ei muististaan, ja jokaisella väitteellä on liitetty lähde.

Pysyykö datani luottamuksellisena?

Arkaluonteinen data voidaan eristää vuokralaiskohtaisesti ja tarvittaessa käsitellä itse isännöidyillä malleilla tai rajapinnoilla, joissa on no-training-ehdot. Säännellyissä tapauksissa valitsemme toimittajat, jotka eivät käytä dataa koulutukseen.