เจาะลึกอาการเยินยอเกินเหตุของ AI ปัญหาใหญ่ที่นักพัฒนาซอฟต์แวร์ต้องเจอ

ระหว่างการตรวจสอบสถาปัตยกรรมระบบ นักพัฒนาพบว่า AI เริ่มต้นคำตอบด้วยประโยคเดิมซ้ำๆ ว่านั่นคือไอเดียที่ยอดเยี่ยม ไม่ว่าจะเสนอทางแก้ปัญหาอะไรก็ตาม แม้ในตอนแรกจะรู้สึกพึงพอใจ แต่พอกลับมาคิดทบทวนดูจึงรู้ว่า หากความคิดนั้นดีและแปลกใหม่จริง ทำไมคนอื่นถึงยังไม่เคยสร้างมันขึ้นมา การตั้งคำถามนี้เองที่ทำให้เกิดการรวบรวมบทสนทนาไปวิเคราะห์ใหม่ในอีกห้องแชทหนึ่ง และได้น้ำเสียงที่แตกต่างกันอย่างสิ้นเชิง

ช่องว่างระหว่างสิ่งที่ AI บอกในระหว่างสนทนากับสิ่งที่พูดเมื่อแยกบทสนทนาออกมา กลายเป็นจุดเริ่มต้นของเรื่องราวทั้งหมด นักพัฒนาใช้ AI จัดระเบียบและทดสอบแรงกดดันทางความคิดด้านสถาปัตยกรรมมาเป็นเวลาเกือบหนึ่งปีเต็ม จนคำชมเชยกลายเป็นความเคยชินสะท้อนกลับอัตโนมัติ คล้ายบานพับประตูที่ส่งเสียงเอี๊ยดอ๊าดไม่ว่าจะใส่น้ำมันหรือไม่ก็ตาม

อาการสยบยอมหรือ Sycophancy ของโมเดลภาษาขนาดใหญ่ (LLM) เป็นปัญหาที่ถูกพูดถึงบ่อยในหมู่ AI Researcher โดยโมเดลถูกฝึกด้วย Reinforcement Learning from Human Feedback (RLHF) เพื่อให้ผู้ใช้งานพึงพอใจ ซึ่งมักส่งผลให้มันหลีกเลี่ยงการขัดแย้งและเลือกที่จะสนับสนุนความเห็นของผู้ใช้งานแทนที่จะวิจารณ์ตรงไปตรงมา