Layihələrimizdə tətbiq olunan süni intellekt
AI-ı real dəyər qatdığı yerdə inteqrasiya edirik: təkrarlanan proseslərin avtomatlaşdırılması, sənədlərdən məlumatın çıxarılması, kontekstə uyğun məzmunun yaradılması və ağıllı istifadəçi köməkçisi. Tətbiq qərarlarını trendlərə yox, ROI-yə əsasən veririk.
LLM inteqrasiyası — Claude API və OpenAI
Mürəkkəb mühakimə tələb edən tapşırıqlar, sənəd təhlili və uzun məzmunun yaradılması üçün əsas model kimi Claude (Anthropic) istifadə edirik — 200k tokenlik kontekst pəncərəsi bütöv bir hüquqi işi və ya maliyyə hesabatını tək sorğuda emal etməyə imkan verir. GPT-4o multimodal tapşırıqlar (şəkil + mətn) üçün və OpenAI ekosisteminə (Whisper, DALL-E) ehtiyac olduqda seçilir.
Tool use (function calling) LLM-ə daxili API-lərlə işləməyə imkan verir: verilənlər bazasında axtarış, mövcud sistemlərdə əməliyyatların işə salınması, Pydantic ilə yoxlanılmış strukturlaşdırılmış məlumatın qaytarılması. Streaming cavablar söhbət interfeysləri üçün hiss olunan gecikməni azaldır — istifadəçi 5-10 saniyə gözləmir, mətnin tədricən yazıldığını görür.
- Prompt caching (Anthropic) təkrarlanan kontekst (sistem prompt-ları, istinad sənədləri) üçün xərci 90% azaldır
- Sərbəst mətndə regex olmadan tip təhlükəsiz cavablar üçün strukturlaşdırılmış çıxışlar (JSON mode)
- Əlçatanlıq xətalarında avtomatik Claude → GPT-4o → Gemini fallback
- İstifadəçi və funksiya üzrə xərc izləmə — LLM istifadəsi admin panelində görünür
RAG — müştəri məlumatlarına əsaslanan AI
Retrieval-Augmented Generation (RAG) LLM-ə yenidən təlim olmadan müştəriyə məxsus sənədlər (müqavilələr, təlimatlar, qanunvericilik, e-poçtlar) əsasında cavab verməyə imkan verir. Sənədlər hissələrə bölünür, text-embedding-3-large (OpenAI) və ya embed-english-v3 (Cohere) ilə embedding-ə çevrilir, pgvector-da (PostgreSQL extension) saxlanılır və cosine similarity ilə əldə edilir.
RAG pipeline-ına bunlar daxildir: sənədlərin qəbulu (PDF, DOCX, HTML), kontekst üçün üst-üstə düşən ağıllı bölmə (chunking), uyğunluğu artırmaq üçün Cohere Rerank ilə yenidən sıralama, LLM kontekstinə əlavə etmə və səhifə nömrələri ilə mənbə göstərilməsi. Nəticə real sənədlərə və yoxlanıla bilən mənbələrə əsaslanan dəqiq cavablar verən çatbotdur.
- Birbaşa PostgreSQL daxilində vektor oxşarlığı axtarışı üçün pgvector — Pinecone/Weaviate olmadan
- Hibrid axtarış: sıx vektorlar + seyrək BM25 (açar söz) → RRF birləşdirməsi
- RAGAS ilə RAG qiymətləndirməsi — precision, recall, faithfulness avtomatik ölçülür
- Multi-tenant üçün metadata filtri: A istifadəçisi B istifadəçisinin sənədlərini görmür
Computer Vision və sənədlərin emalı
Skan edilmiş və ya şəkli çəkilmiş sənədlərdən (qaimələr, müqavilələr, şəxsiyyət vəsiqələri) məlumat çıxarmaq üçün kombinə edilmiş pipeline istifadə edirik: şəklin ilkin emalı (deskew, OpenCV ilə küyün azaldılması), Google Document AI və ya Amazon Textract ilə OCR (xam OCR yox, strukturlaşdırılmış), normallaşdırma və yoxlama üçün LLM ilə post-emal. Tipik biznes sənədlərində >98% dəqiqlik.
Şəkillərin təsnifatı (məhsullar, kateqoriyalar, NSFW aşkarlanması) CLIP və ya EfficientNet üzərində fine-tune edilmiş modellərlə aparılır və istəyə görə GPU inference (CUDA) ilə FastAPI mikroservisləri kimi yerləşdirilir. GPU büdcəsi olmayan layihələr üçün bulud API-ləri (Google Vision, AWS Rekognition) cüzi xərclə 95%+ dəqiqlik verir.
- PDF/şəkil qaimələrdən məlumatın avtomatik çıxarılması → strukturlaşdırılmış verilənlər bazası
- Şəxsiyyətin yoxlanılması: sənəd OCR-ı + selfie liveness aşkarlanması
- Bulud API-ləri + LLM fallback ilə istifadəçi məzmununun moderasiyası
- Audio görüşlərin transkripsiyası üçün Whisper large-v3 ilə speech-to-text
Üstünlüklər və məhdudiyyətlər
Üstünlüklər
- Təkrarlanan prosesləri avtomatlaşdırır: məlumatın çıxarılması, təsnifat, dəstək.
- RAG müştəri sənədlərinə əsaslanaraq, yoxlanıla bilən mənbələrlə cavab verir.
- Prompt caching təkrarlanan kontekstdə xərci 90%-ə qədər azaldır.
- Əlçatanlıq üçün model fallback-i (Claude → GPT-4o → Gemini).
Məhdudiyyətlər
- LLM-lər halüsinasiya edə bilər — hər kritik çıxış yoxlama və mənbə tələb edir.
- Yüksək həcmdə diqqətli keşləmə olmadan token başına xərc sürətlə artır.
- Həssas məlumatların üçüncü tərəf API-lərinə göndərilməsi məxfilik riskləri yaradır.
- Generasiya olunan cavabın gecikməsi bir neçə saniyəyə çata bilər.
Qısa nəticə
AI-ı real ROI verdiyi yerdə tətbiq edin: avtomatlaşdırma, sənədlər üzərində RAG, məlumatın çıxarılması. Sadə qayda və ya klassik axtarışın kifayət etdiyi tapşırıqlarda sırf AI xatirinə AI-dan çəkinin.
Spesifikasiyalar cədvəli
| İmkan | Limit / hədd | Tipik istifadə | |
|---|---|---|---|
| LLM konteksti | 200k tokenə qədər (Claude) | Böyük kontekst xərci və gecikməni artırır | Uzun sənədlərin təhlili, hesabatlar |
| RAG | pgvector, hibrid axtarış, re-ranking | Keyfiyyət chunking-dən və mənbələrdən asılıdır | Öz sənədləriniz üzərində çatbot |
| Computer vision | Strukturlaşdırılmış OCR, > 98% dəqiqlik | GPU inference xərci artırır | Qaimələrin çıxarılması, şəxsiyyətin yoxlanılması |
| Tipik xərc | Token / API çağırışı üzrə hesablanır | Keşləmə olmadan həcmlə artır | Çatbotdan tam pipeline-a qədər |
RAG vs fine-tuning
| Kriteriya | RAG | Fine-tuning |
|---|---|---|
| Biliyin yenilənməsi | Ani (sənəd əlavə etmək kifayətdir) | Yenidən təlim tələb edir |
| Yoxlanıla bilən mənbələr | Bəli, istinadla | Xeyr |
| İlkin xərc | Aşağı | Yüksək (data + GPU) |
Tez-tez verilən suallar
RAG nədir və nə vaxt istifadə olunur?
RAG (Retrieval-Augmented Generation) AI-a yenidən təlim olmadan sənədləriniz (müqavilələr, təlimatlar, qanunvericilik) əsasında cavab verməyə imkan verir. Öz məlumatlarınıza əsaslanan dəqiq, mənbəli cavablar istədikdə istifadə edin.
RAG yoxsa fine-tuning?
Tez-tez dəyişən biliklər və yoxlanıla bilən mənbələr üçün RAG — sənəd əlavə etməklə yenilənir. Sabit üslub və ya format üçün fine-tuning, daha yüksək ilkin xərclə. Əksər biznes halları üçün seçim RAG-dır.
AI halüsinasiyalarını necə nəzarətdə saxlayırsınız?
Mənbə göstərilməsi ilə RAG, Pydantic ilə yoxlanılan strukturlaşdırılmış çıxışlar (JSON) və kritik nəticələr üçün insan təsdiqi istifadə edirik. AI yaddaşdan yox, real sənədlərdən cavab verir və hər iddiaya mənbə əlavə olunur.
Məlumatlarım məxfi qalırmı?
Həssas məlumatlar tenant üzrə izolə oluna və lazım gələrsə self-hosted modellər və ya təlimdə istifadə etməmə şərti olan API-lərlə emal edilə bilər. Tənzimlənən hallarda məlumatı təlim üçün istifadə etməyən provayderləri seçirik.