การแบ่งเขตแดนระหว่าง LLM และซอฟต์แวร์แบบ Deterministic
บทความจาก Dev.to เจาะลึกการสร้าง AI Support Agent และหลักการ 3 ข้อในการตัดสินใจว่าฟีเจอร์ใดควรใช้ภาษาโมเดลหรือโค้ดแบบดั้งเดิม
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
- การสร้าง AI Agent ต้องเลือกระหว่างระบบกฎหรือโมเดลภาษา
- หลักการหลักคือ AI ตีความเจตนา แต่ซอฟต์แวร์เป็นผู้บังคับใช้นโยบาย
- การค้นหาข้อมูล (Retrieval) มีความคลุมเครือแต่การเรียกใช้งานมีความเข้มงวด
- การจำแนกความเสี่ยงของแต่ละการกระทำควรเป็น Static Lookup ไม่ใช่การตัดสินใจของ LLM
ทุกฟีเจอร์ของปัญญาประดิษฐ์มักจะเดินทางมาถึงทางแยกเดียวกันเสมอ นั่นคือชิ้นส่วนนี้ควรใช้โมเดลภาษาหรือควรใช้ฟังก์ชันโค้ดแบบดั้งเดิม หากเลือกผิดทางฝั่งหนึ่ง คุณจะได้ระบบกฎที่ไม่สามารถอ่านประโยคภาษาธรรมชาติได้ แต่ถ้าเลือกผิดอีกฝั่ง คุณอาจปล่อยให้โมเดลภาษาตัดสินใจว่าใครควรได้เงินคืนหรือไม่
หลักการที่ว่า AI ทำหน้าที่ตีความเจตนา ขณะที่ซอฟต์แวร์ทำหน้าที่บังคับใช้นโยบาย ถือเป็นแนวคิดเริ่มต้นที่ดี แต่การนำไปปรับใช้กับคอมโพเนนต์เฉพาะเจาะจงในวันทำงานจริงกลับเป็นเรื่องที่ยากที่สุด
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
ในส่วนของการค้นหาข้อมูล (Retrieval) มักเป็นจุดที่หลายทีมมักสะดุด การปล่อยให้ AI ค้นหาบทความฐานความรู้ที่ถูกต้องฟังดูเป็นการตัดสินใจของ AI แต่ในความเป็นจริงแล้วไม่ใช่ทั้งหมด ผลลัพธ์มีความคลุมเครือ เนื่องจาก Semantic Search คล้ายคลึงบทความที่เหมาะสม จัดอันดับมาให้ และบางครั้งก็ยังผิดพลาดได้
"The AI interprets intent, software enforces policy"
ส่วนที่ใช้เวลาทำความเข้าใจนานที่สุดคือ การตัดสินใจว่าใครเป็นคนตัดสินใจ ซึ่งก็คือการตัดสินใจอีกชั้นหนึ่ง หากคำตอบคือให้ LLM จำแนกประเภทระดับความเสี่ยงของการกระทำแต่ละอย่างแบบรันไทม์ โครงสร้างสถาปัตยกรรมทั้งหมดจะพังทลายลง เพราะขอบเขตจะกลายเป็นผลลัพธ์เชิงความน่าเป็นที่สามารถถูกชักจูงได้ด้วย Prompt Injection
การแยกแยะระหว่างโค้ดแบบ Deterministic และ Probabilistic (เช่น LLM) ถือเป็นหัวใจสำคัญในการสร้างระบบซอฟต์แวร์ที่มีความปลอดภัยสูง การให้ AI ทำหน้าที่เป็นตัวช่วยวิเคราะห์หรือสืบค้นข้อมูลเป็นเรื่องที่ยอมรับได้ แต่ในส่วนของการตัดสินใจที่มีผลทางกฎหมาย การเงิน หรือความปลอดภัย เด็ดขาดต้องใช้โค้ดหรือกฎที่กำหนดไว้ล่วงหน้าเพื่อป้องกันความผิดพลาดที่คาดเดาไม่ได้
ระบบที่มีความทนทานในระยะยาวไม่ใช่ระบบที่มีโมเดลฉลาดที่สุด แต่เป็นระบบที่ไม่มีใครต้องฝากความหวังไว้กับโมเดลในคำถามที่มีคำตอบที่ถูกต้องตายตัวอยู่แล้ว
ที่มา: Dev.to
พบข้อมูลผิดพลาดในบทความนี้? แจ้งปัญหาบทความนี้
ความคิดเห็น
แสดงความคิดเห็น