ช่องโหว่ความปลอดภัยในเครื่องมือรัน SQL สำหรับ LLM เมื่อการ์ดแสดงผลกับตอนกดใช้ไม่ตรงกัน

นักพัฒนาซอฟต์แวร์รายหนึ่งได้สร้างเครื่องมือชื่อว่า @hyuga/llm-safe-sql บน npm ซึ่งออกแบบมาเพื่อให้โมเดลภาษาขนาดใหญ่ (LLM) เสนอคำสั่ง UPDATE จากนั้นระบบจะรันจริงในทรานแซคชัน วัดค่าก่อนและหลัง แล้วทำการ rollback เสมอเพื่อให้มนุษย์ตรวจสอบและอนุมัติก่อนคอมมิตจริง แนวคิดสำคัญคือสิ่งที่มนุษย์อนุมัติไม่ใช่คำอธิบาย SQL ของโมเดล แต่คือสิ่งที่ฐานข้อมูลทำจริง ๆ ตอนที่ SQL รันขึ้นมา

อย่างไรก็ตาม สัปดาห์ก่อนหน้านี้มีการพบข้อผิดพลาดที่ซ่อนอยู่ตั้งแต่เวอร์ชันแรก โดยจากผลลัพธ์จริงในเวอร์ชัน 0.4.0 คำสั่งคือการอัปเดตตาราง customers ให้เปลี่ยนชื่อจาก Tanaka เป็น Sato สำหรับลูกค้าไอดี 1 แต่รหัสไปรษณีย์ postcode ยังคงเป็น 00100 เท่าเดิม การ์ดอนุมัติจึงแสดงผลว่ามีการเปลี่ยนแปลงเพียง 1 แถวและ 1 คอลัมน์เท่านั้น

ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง

ทว่าก่อนที่แผนดังกล่าวจะถูกนำไปกดใช้จริง มีคนอื่นเข้ามาแก้ไขรหัสไปรษณีย์ของลูกค้ารายนี้ให้เป็น 90210 ไปก่อนแล้ว เมื่อมีการกดใช้แผนที่อนุมัติไว้ ระบบได้ทำการอัปเดตข้อมูลและแสดงผลว่าสำเร็จโดยไม่มีคำเตือนใด ๆ ทั้งสิ้น และคำว่า postcode ก็ไม่เคยปรากฏบนการ์ดอนุมัติหรือบันทึกตรวจสอบเลยแม้แต่ครั้งเดียว

ปัญหาดังกล่าวเกิดขึ้นเพราะชุดคอลัมน์ที่เปลี่ยนแปลงกับชุดคอลัมน์ที่คำสั่ง SQL เขียนข้อมูลนั้นถูกใช้ชื่อเดียวกัน ต้นเหตุคือชุดคำสั่งกำหนดค่าให้เท่ากับค่าเดิมไม่ได้ถูกมองว่าเป็นเรื่องแปลกใน SQL แต่เมื่อเกิดขึ้นในระบบตรวจสอบความปลอดภัย มันทำให้การตรวจสอบก่อนและหลังการทำงานผิดเพี้ยนไป นอกจากนี้ยังมีปัญหาในระดับที่กว้างขึ้น เมื่อคำสั่ง WHERE ตรงกับหลายแถวและมีบางแถวที่มีค่าเป้าหมายอยู่แล้ว การตรวจสอบความถูกต้องจะไม่ทำงานกับแถวเหล่านั้นเลย