เครื่องมือ AI จีนหลุดข้อมูลทำอาวุธชีวภาพ

บริษัทตรวจสอบความปลอดภัยระบบปัญญาประดิษฐ์ Mindgard เปิดเผยว่า ตนค้นพบช่องโหว่ในโมเดลปัญญาประดิษฐ์ยอดนิยม Kimi K2.6 และ K3 Swarm ของบริษัทพัฒนา AI สัญชาติจีนอย่าง Moonshot โดยโมเดลเหล่านี้สามารถถูกชี้นำให้หลบเลี่ยงระบบป้องกันความปลอดภัยที่ผู้สร้างติดตั้งไว้ได้ ซึ่งนำไปสู่การให้คำแนะนำเกี่ยวกับการสร้างอาวุธชีวภาพและการดำเนินแผนการลอบสังหาร

กระบวนการดังกล่าวเกิดขึ้นผ่านเทคนิคที่เรียกว่า jailbreaking ซึ่งเป็นวิธีการใช้ชุดคำสั่งที่ซับซ้อนเพื่อให้เครื่องมือ AI ละเลยข้อจำกัดด้านความปลอดภัย โดยในกรณีปกติมาตรการเหล่านี้ควรทำหน้าที่ขัดขวางไม่ให้ระบบสนทนาในหัวข้อที่มีความเสี่ยงสูง

ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง

ปีเตอร์ การ์ราแกน (Peter Garraghan) ผู้ก่อตั้ง Mindgard เปิดเผยกับรายการ Tech Life ของบีบีซี เวิลด์ เซอร์วิส ว่าผลการค้นหาดังกล่าวเป็นเรื่องที่น่ากังวลอย่างยิ่ง เนื่องจากเมื่อกระบวนการ jailbreaking ประสบความสำเร็จ ระบบจะไม่เพียงแต่พูดคุยในทุกหัวข้อเท่านั้น แต่ยังพร้อมให้คำแนะนำเพิ่มเติมในประเด็นที่เป็นอันตรายอื่นๆ ด้วยความสร้างสรรค์อีกด้วย

"Once the jailbreak works it will talk about any topic, it will even freely offer up recommendations about other topics that are also nefarious and it will be inventive and creative"

Peter Garraghan

ทางด้าน Moonshot ระบุว่าบริษัทกำลังดำเนินการตรวจสอบภายใน และเปิดรับความคิดเห็นจากบุคคลภายนอกซึ่งถือเป็นเสาหลักสำคัญในการพัฒนา AI ให้มีความปลอดภัยยิ่งขึ้น พร้อมทั้งยืนยันว่ากำลังหารือร่วมกับ Mindgard เกี่ยวกับข้อค้นพบดังกล่าว ทั้งนี้ Mindgard ได้ส่งอีเมลแจ้งเตือน Moonshot ครั้งแรกเมื่อวันที่ 27 กรกฎาคม ก่อนจะติดตามผลในหนึ่งสัปดาห์ต่อมา และเผยแพร่บทความบล็อกเกี่ยวกับเรื่องนี้เมื่อวันที่ 12 กันยายนที่ผ่านมา