AI และระบบอัตโนมัติ

ปัญญาประดิษฐ์ประยุกต์ในโปรเจกต์ของเรา

เรานำ AI ไปใช้ในจุดที่สร้างคุณค่าได้จริง: ทำกระบวนการซ้ำ ๆ ให้เป็นอัตโนมัติ ดึงข้อมูลจากเอกสาร สร้างเนื้อหาตามบริบท และช่วยเหลือผู้ใช้อย่างชาญฉลาด เราตัดสินใจเรื่องการนำไปใช้จาก ROI ไม่ใช่จากกระแส

การผสาน LLM — Claude API และ OpenAI

เราใช้ Claude (Anthropic) เป็นโมเดลหลักสำหรับงานที่ต้องใช้การให้เหตุผลซับซ้อน การวิเคราะห์เอกสาร และการสร้างเนื้อหายาว — หน้าต่างบริบท 200k โทเคนช่วยให้ประมวลผลแฟ้มคดีหรือรายงานการเงินทั้งฉบับได้ในการเรียกครั้งเดียว ส่วน GPT-4o เลือกใช้กับงานมัลติโมดัล (ภาพ + ข้อความ) และเมื่อต้องใช้ระบบนิเวศของ OpenAI (Whisper, DALL-E)

Tool use (function calling) ช่วยให้ LLM ทำงานร่วมกับ API ภายในได้: ค้นหาในฐานข้อมูล สั่งการในระบบที่มีอยู่ และคืนข้อมูลเชิงโครงสร้างที่ตรวจสอบด้วย Pydantic การตอบแบบสตรีมช่วยลดความหน่วงที่ผู้ใช้รู้สึกในอินเทอร์เฟซสนทนา — ผู้ใช้เห็นข้อความทยอยปรากฏขึ้นระหว่างที่โมเดลกำลังสร้างคำตอบ

Prompt caching (Anthropic) ลดต้นทุนได้ 90% สำหรับบริบทที่ซ้ำ (system prompt, เอกสารอ้างอิง)
Structured outputs (โหมด JSON) ให้คำตอบที่ปลอดภัยด้านชนิดข้อมูลโดยไม่ต้องใช้ regex กับข้อความอิสระ
สลับสำรองอัตโนมัติ Claude → GPT-4o → Gemini เมื่อเกิดข้อผิดพลาดด้านความพร้อมใช้งาน
ติดตามต้นทุนรายผู้ใช้และรายฟีเจอร์ — ดูการใช้ LLM ได้ในแดชบอร์ดผู้ดูแล

RAG — AI ที่มีความรู้จากข้อมูลของลูกค้า

Retrieval-Augmented Generation (RAG) ช่วยให้ LLM ตอบจากเอกสารเฉพาะของลูกค้า (สัญญา คู่มือ กฎหมาย อีเมล) โดยไม่ต้องฝึกโมเดลใหม่ เอกสารจะถูกแบ่งเป็นชิ้น (chunk) สร้าง embedding ด้วย text-embedding-3-large (OpenAI) หรือ embed-english-v3 (Cohere) เก็บใน pgvector (ส่วนขยายของ PostgreSQL) และดึงกลับด้วย cosine similarity

ไปป์ไลน์ RAG ประกอบด้วย: การนำเข้าเอกสาร (PDF, DOCX, HTML) การแบ่งชิ้นอย่างชาญฉลาด (มีส่วนซ้อนทับเพื่อรักษาบริบท) การจัดอันดับใหม่ด้วย Cohere Rerank เพื่อเพิ่มความเกี่ยวข้อง การใส่เข้าไปในบริบทของ LLM และการอ้างอิงแหล่งที่มาพร้อมเลขหน้า ผลลัพธ์คือแชตบอตที่ตอบจากเอกสารของคุณพร้อมแหล่งที่มาที่ตรวจสอบได้

pgvector สำหรับค้นหาความคล้ายของเวกเตอร์โดยตรงใน PostgreSQL — ไม่ต้องใช้ Pinecone/Weaviate
การค้นหาแบบไฮบริด: เวกเตอร์หนาแน่น + BM25 แบบเบาบาง (คีย์เวิร์ด) → รวมผลด้วย RRF
ประเมิน RAG ด้วย RAGAS — วัด precision, recall, faithfulness โดยอัตโนมัติ
กรองตามเมทาดาทาสำหรับ multi-tenant: ผู้ใช้ A ไม่เห็นเอกสารของผู้ใช้ B

Computer Vision และการประมวลผลเอกสาร

สำหรับการดึงข้อมูลจากเอกสารที่สแกนหรือถ่ายภาพ (ใบแจ้งหนี้ สัญญา บัตรประจำตัว) เราใช้ไปป์ไลน์แบบรวม: ปรับภาพล่วงหน้า (แก้ภาพเอียง ลดสัญญาณรบกวนด้วย OpenCV) OCR ด้วย Google Document AI หรือ Amazon Textract (แบบมีโครงสร้าง ไม่ใช่ OCR ดิบ) และหลังประมวลผลด้วย LLM เพื่อทำให้เป็นมาตรฐานและตรวจสอบความถูกต้องของข้อมูล

การจำแนกภาพ (สินค้า หมวดหมู่ การตรวจจับ NSFW) ทำด้วยโมเดลที่ปรับจูนบน CLIP หรือ EfficientNet ติดตั้งเป็นไมโครเซอร์วิส FastAPI พร้อมตัวเลือกอนุมานด้วย GPU (CUDA) สำหรับโปรเจกต์ที่ไม่มีงบ GPU, API บนคลาวด์ (Google Vision, AWS Rekognition) เป็นทางเลือกที่ไม่ต้องดูแลโมเดลเอง

ดึงข้อมูลอัตโนมัติจากใบแจ้งหนี้ PDF/ภาพ → ฐานข้อมูลเชิงโครงสร้าง
ยืนยันตัวตน: OCR เอกสาร + ตรวจจับความมีชีวิตของเซลฟี่
ตรวจสอบเนื้อหาที่ผู้ใช้สร้างด้วย API บนคลาวด์ + LLM สำรอง
แปลงเสียงเป็นข้อความด้วย Whisper large-v3 สำหรับถอดเสียงการประชุม

ข้อดีและข้อจำกัด

ข้อดี

ทำกระบวนการซ้ำ ๆ ให้เป็นอัตโนมัติ: ดึงข้อมูล จัดประเภท ซัพพอร์ต
RAG ตอบจากเอกสารของลูกค้า พร้อมแหล่งที่มาที่ตรวจสอบได้
Prompt caching ลดต้นทุนได้สูงสุด 90% กับบริบทที่ซ้ำ
สลับโมเดลสำรอง (Claude → GPT-4o → Gemini) เพื่อความพร้อมใช้งาน

ข้อจำกัด

LLM อาจมโนข้อมูล (hallucinate) — ผลลัพธ์สำคัญทุกชิ้นต้องตรวจสอบและมีแหล่งที่มา
ต้นทุนต่อโทเคนเพิ่มเร็วเมื่อปริมาณสูง หากไม่แคชอย่างรอบคอบ
ข้อมูลอ่อนไหวที่ส่งไปยัง API ของบุคคลที่สามก่อให้เกิดข้อกังวลด้านความเป็นส่วนตัว
ความหน่วงของคำตอบที่สร้างขึ้นอาจนานหลายวินาที

สรุปสั้น ๆ

ผสาน AI ในจุดที่ให้ ROI จริง: ระบบอัตโนมัติ RAG กับเอกสาร การดึงข้อมูล หลีกเลี่ยงการใช้ AI เพียงเพื่อให้มี AI ในงานที่กฎง่าย ๆ หรือการค้นหาแบบคลาสสิกก็เพียงพอ

ตารางสเปก

ความสามารถ	ขีดจำกัด / เกณฑ์	การใช้งานทั่วไป
บริบทของ LLM	สูงสุด 200k โทเคน (Claude)	บริบทขนาดใหญ่เพิ่มต้นทุนและความหน่วง	วิเคราะห์เอกสารยาว รายงาน
RAG	pgvector, การค้นหาแบบไฮบริด, re-ranking	คุณภาพขึ้นอยู่กับการแบ่งชิ้นและแหล่งข้อมูล	แชตบอตตอบจากเอกสารของตนเอง
Computer vision	OCR แบบมีโครงสร้าง, การทำให้เป็นมาตรฐานด้วย LLM	การอนุมานด้วย GPU เพิ่มต้นทุน	ดึงข้อมูลใบแจ้งหนี้ ยืนยันตัวตน
ต้นทุนโดยทั่วไป	คิดตามโทเคน / ตามการเรียก API	เพิ่มตามปริมาณหากไม่แคช	ตั้งแต่แชตบอตจนถึงไปป์ไลน์เต็มรูปแบบ

RAG กับ fine-tuning

เกณฑ์	RAG	Fine-tuning
การอัปเดตความรู้	เพิ่มเอกสารได้โดยตรง	ต้องฝึกใหม่
แหล่งที่มาที่ตรวจสอบได้	มี พร้อมการอ้างอิง	ไม่มี
ต้นทุนเริ่มต้น	ต่ำ	สูง (ข้อมูล + GPU)

คำถามที่พบบ่อย

RAG คืออะไร และใช้เมื่อไร?

RAG (Retrieval-Augmented Generation) ช่วยให้ AI ตอบจากเอกสารของคุณ (สัญญา คู่มือ กฎหมาย) โดยไม่ต้องฝึกโมเดลใหม่ ใช้เมื่อต้องการคำตอบที่อ้างอิงแหล่งที่มาจากข้อมูลของคุณเอง

RAG หรือ fine-tuning?

RAG เหมาะกับความรู้ที่เปลี่ยนบ่อยและต้องมีแหล่งที่มาตรวจสอบได้ — อัปเดตได้เพียงเพิ่มเอกสาร ส่วน fine-tuning เหมาะกับสไตล์หรือรูปแบบที่คงที่ แต่มีต้นทุนเริ่มต้นสูงกว่า สำหรับกรณีทางธุรกิจส่วนใหญ่ RAG คือจุดเริ่มต้นที่เหมาะสม

คุณควบคุมการมโนข้อมูลของ AI อย่างไร?

เราใช้ RAG พร้อมการอ้างอิงแหล่งที่มา structured outputs (JSON) ที่ตรวจสอบด้วย Pydantic และการตรวจสอบโดยมนุษย์สำหรับผลลัพธ์สำคัญ AI ตอบโดยอิงจากเอกสารที่ดึงมาให้ และคำตอบที่สำคัญมีแหล่งที่มาแนบ

ข้อมูลของฉันจะเป็นความลับหรือไม่?

ข้อมูลอ่อนไหวสามารถแยกตาม tenant และหากจำเป็นก็ประมวลผลด้วยโมเดลที่โฮสต์เองหรือ API ที่มีข้อกำหนดห้ามนำไปฝึกโมเดล สำหรับกรณีที่มีการกำกับดูแล เราเลือกผู้ให้บริการที่ไม่ใช้ข้อมูลเพื่อการฝึก