Gervigreind í verkefnum okkar
Við samþættum gervigreind þar sem hún skapar raunverulegt gildi: sjálfvirknivæðing endurtekinna ferla, útdráttur upplýsinga úr skjölum, myndun efnis eftir samhengi og snjöll aðstoð fyrir notendur. Ákvarðanir um útfærslu byggjum við á arðsemi (ROI), ekki tískustraumum.
Samþætting LLM — Claude API og OpenAI
Við notum Claude (Anthropic) sem aðallíkan fyrir flókin rökhugsunarverk, skjalagreiningu og gerð langs efnis — 200k tokens samhengisgluggi gerir kleift að vinna heila lögfræðimöppu eða fjárhagsskýrslu í einu kalli. GPT-4o er valið fyrir fjölþátta verk (mynd + texti) og þegar vistkerfi OpenAI (Whisper, DALL-E) er nauðsynlegt.
Tool use (function calling) leyfir LLM að eiga samskipti við innri API: að leita í gagnagrunni, setja aðgerðir af stað í núverandi kerfum og skila skipulögðum gögnum staðfestum með Pydantic. Straumsvör (streaming) draga úr upplifaðri bið í samtalsviðmótum — notandinn sér textann birtast smám saman í stað þess að bíða í 5–10 sekúndur.
- Prompt caching (Anthropic) lækkar kostnað um 90% fyrir endurtekið samhengi (kerfisleiðbeiningar, viðmiðunarskjöl)
- Skipulögð úttök (JSON mode) fyrir tegundaörugg svör án regex á frjálsan texta
- Sjálfvirk varaleið Claude → GPT-4o → Gemini við aðgengisvillur
- Kostnaðarmæling á hvern notanda og hvern eiginleika — LLM-notkun sýnileg í stjórnborði
RAG — gervigreind með þekkingu úr gögnum viðskiptavinar
Retrieval-Augmented Generation (RAG) leyfir LLM að svara út frá skjölum viðskiptavinarins (samningum, handbókum, löggjöf, tölvupóstum) án þess að vera þjálfað upp á nýtt. Skjölin eru brotin í búta (chunked), umbreytt í embeddings með text-embedding-3-large (OpenAI) eða embed-english-v3 (Cohere), geymd í pgvector (PostgreSQL-viðbót) og sótt með kósínus-líkindum.
RAG-ferlið felur í sér: innlestur skjala (PDF, DOCX, HTML), snjalla bútun (með skörun fyrir samhengi), endurröðun með Cohere Rerank fyrir aukið mikilvægi, innsetningu í samhengi LLM og tilvitnun í heimildir með blaðsíðutali. Útkoman er spjallmenni sem svarar nákvæmlega út frá raunverulegum skjölum, með sannreynanlegum heimildum.
- pgvector fyrir vektorlíkindaleit beint í PostgreSQL — án Pinecone/Weaviate
- Blendingsleit: þéttir vektorar + gisið BM25 (leitarorð) → RRF-samruni
- Mat á RAG með RAGAS — nákvæmni, endurheimt og trúfesti mæld sjálfkrafa
- Lýsigagnasíun fyrir fjölleigjendakerfi: notandi A sér ekki skjöl notanda B
Tölvusjón og skjalavinnsla
Til að draga gögn úr skönnuðum eða ljósmynduðum skjölum (reikningum, samningum, skilríkjum) notum við samsett ferli: myndforvinnsla (leiðrétting á halla, suðminnkun með OpenCV), OCR með Google Document AI eða Amazon Textract (skipulagt, ekki hrátt OCR) og eftirvinnsla með LLM fyrir stöðlun og staðfestingu.
Myndflokkun (vörur, flokkar, NSFW-greining) er gerð með líkönum fínstilltum á CLIP eða EfficientNet, útgefnum sem FastAPI-örþjónustur með valkvæmri GPU-ályktun (CUDA). Fyrir verkefni án GPU-fjárhagsáætlunar bjóða skýja-API (Google Vision, AWS Rekognition) tilbúna greiningu á óverulegum kostnaði.
- Sjálfvirkur útdráttur gagna úr PDF-/myndareikningum → skipulagður gagnagrunnur
- Auðkenningarstaðfesting: OCR á skjali + sjálfsmyndar-lífleikagreining
- Efnisstjórnun á notendaefni með skýja-API + LLM sem varaleið
- Speech-to-text með Whisper large-v3 til uppskriftar hljóðupptöku funda
Kostir og takmarkanir
Kostir
- Sjálfvirknivæðir endurtekna ferla: útdrátt gagna, flokkun, þjónustu.
- RAG svarar út frá skjölum viðskiptavinar, með sannreynanlegum heimildum.
- Prompt caching lækkar kostnað um allt að 90% á endurteknu samhengi.
- Varaleið milli líkana (Claude → GPT-4o → Gemini) fyrir aðgengi.
Takmarkanir
- LLM geta ofskynjað — allt mikilvægt úttak krefst staðfestingar og heimilda.
- Kostnaður á hvert token vex hratt við mikið magn án vandaðs skyndiminnis.
- Viðkvæm gögn send til API þriðju aðila vekja áhyggjur af trúnaði.
- Svartími myndaðs svars getur náð nokkrum sekúndum.
Stutt niðurstaða
Samþættu gervigreind þar sem hún skilar raunverulegum ROI: sjálfvirkni, RAG á skjölum, útdráttur gagna. Forðastu gervigreind gervigreindarinnar vegna í verkum þar sem einföld regla eða hefðbundin leit nægir.
Tækniforskriftir
| Geta | Takmörk / þröskuldur | Dæmigerð notkun | |
|---|---|---|---|
| LLM-samhengi | Allt að 200k tokens (Claude) | Stórt samhengi eykur kostnað og svartíma | Greining langra skjala, skýrslur |
| RAG | pgvector, blendingsleit, endurröðun | Gæði fara eftir bútun og heimildum | Spjallmenni á eigin skjölum |
| Tölvusjón | Skipulagt OCR fyrir viðskiptaskjöl | GPU-ályktun eykur kostnað | Útdráttur úr reikningum, auðkenningarstaðfesting |
| Dæmigerður kostnaður | Gjaldfært á token / á API-kall | Vex með magni án skyndiminnis | Frá spjallmenni til heils ferlis |
RAG samanborið við fine-tuning
| Viðmið | RAG | Fine-tuning |
|---|---|---|
| Uppfærsla þekkingar | Án endurþjálfunar (þú bætir við skjölum) | Krefst endurþjálfunar |
| Sannreynanlegar heimildir | Já, með tilvitnun | Nei |
| Upphafskostnaður | Lítill | Mikill (gögn + GPU) |
Algengar spurningar
Hvað er RAG og hvenær nota ég það?
RAG (Retrieval-Augmented Generation) leyfir gervigreind að svara út frá skjölunum þínum (samningum, handbókum, löggjöf) án endurþjálfunar. Þú notar það þegar þú vilt nákvæm svör, með heimildum, byggð á eigin gögnum.
RAG eða fine-tuning?
RAG fyrir þekkingu sem breytist oft og fyrir sannreynanlegar heimildir — þú uppfærir það með því að bæta við skjölum. Fine-tuning fyrir fastan stíl eða snið, með hærri upphafskostnaði. Í flestum viðskiptatilvikum er RAG rétta valið.
Hvernig stjórnið þið ofskynjunum gervigreindar?
Við notum RAG með tilvitnun í heimildir, skipulögð úttök (JSON) staðfest með Pydantic og mannlega staðfestingu fyrir mikilvægt úttak. Gervigreindin svarar út frá raunverulegum skjölum, ekki úr minni, og hver fullyrðing hefur heimild tengda við sig.
Haldast gögnin mín trúnaðarmál?
Viðkvæm gögn má einangra á hvern leigjanda og, ef þörf krefur, vinna með líkönum sem hýst eru sjálf eða API með ákvæðum um enga þjálfun. Í tilvikum sem lúta reglum veljum við þjónustuaðila sem nota ekki gögnin til þjálfunar.