InnerExpert ระบบเตือนภัย AI เมื่อกำลังแต่งข้อมูล

เวลาที่เราใช้งานปัญญาประดิษฐ์ คำตอบมักจะถูกถ่ายทอดออกมาด้วยน้ำเสียงที่มั่นอกมั่นใจจนชวนให้เชื่อถือ จนกระทั่งเรามาพบทีหลังว่ามีรายละเอียดบางจุดถูกแต่งขึ้นมาเองโดยไม่มีอยู่จริง ปัญหาที่อันตรายที่สุดของการที่ AI หลอนไม่ใช่แค่การให้ข้อมูลที่ผิดพลาด แต่เป็นความจริงที่ว่าคำตอบเหล่านั้นมักฟังดูมั่นใจแบบร้อยเปอร์เซ็นต์

งานวิจัยชิ้นใหม่จึงได้หยิบยกคำถามที่น่าสนใจขึ้นมาว่า จะเป็นอย่างไรหากเราสามารถมองเห็นความลังเลของ AI ได้ก่อนที่มันจะเขียนประโยคจนจบ โดยทีมนักวิจัยเรียกแนวคิดนี้ว่า InnerExpert ซึ่งเข้าไปตรวจสอบระบบภายในของโมเดล AI และใช้ความเห็นที่ไม่ตรงกันของกลุ่มผู้เชี่ยวชาญภายในโมเดลมาเป็นสัญญาณเตือนภัยล่วงหน้า

ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง

โมเดล AI สมัยใหม่บางรุ่นใช้สถาปัตยกรรมที่เรียกว่า Mixture-of-Experts หรือ MoE ฟังดูอาจจะซับซ้อนแต่หลักการค่อนข้างใกล้เคียงกับชีวิตจริง ลองจินตนาการถึงกองบรรณาธิการข่าวที่มีบรรณาธิการผู้เชี่ยวชาญหลายสิบคน คนหนึ่งเชี่ยวชาญประวัติศาสตร์ คนหนึ่งเชี่ยวชาญการแพทย์ และอีกคนเก่งเรื่องโค้ด เมื่อคำถามเข้ามา ผู้จัดจราจรจะไม่ปลุกทุกคนขึ้นมาทำงาน แต่จะส่งคำถามไปให้เฉพาะบรรณาธิการกลุ่มเล็กๆ ที่มีความรู้ตรงกับเรื่องนั้นมากที่สุด

นั่นคือสิ่งที่โมเดล MoE ทำ สำหรับข้อความแต่ละส่วน ตัวจัดเส้นทางจะเลือกกลุ่มผู้เชี่ยวชาญภายในกลุ่มเล็กๆ ขึ้นมาทำงานร่วมกัน แล้วนำสัญญาณเหล่านั้นมารวมกันเพื่อเลือกคำถัดไป โดยปกติแล้วโมเดล MoE จะไม่ได้เรียกผู้เชี่ยวชาญทุกคนทุกครั้ง แต่การเลือกกลุ่มเล็กๆ นี้จะทิ้งร่องรอยบางอย่างเอาไว้เบื้องหลัง

ระบบส่วนใหญ่จะซ่อนการถกเถียงภายในเหล่านี้เอาไว้ ผู้ใช้จะมองเห็นแค่ประโยคสุดท้ายที่ปรากฏขึ้นมา แต่ตัวจัดเส้นทางได้สร้างร่องรอยที่มีประโยชน์ขึ้นมาระหว่างที่คำตอบกำลังถูกสร้างขึ้น InnerExpert จึงแปลงร่องรอยเหล่านั้นให้กลายเป็นคะแนนเตือนภัย โดยไม่ได้พิสูจน์ว่าคำตอบถัดไปจะผิด แต่เป็นการบอกเป็นนัยว่าผู้เชี่ยวชาญภายในโมเดลเริ่มมีความรู้สึกไม่สบายใจกับจุดนี้ ให้ลองตรวจสอบดูอีกครั้ง