โมเดล AI ถูกระงับหลังจำลองโจมตีห่วงโซ่อุปทานโค้ด

ห้องปฏิบัติการพัฒนาปัญญาประดิษฐ์แห่งหนึ่งได้ตัดสินใจระงับการใช้งานโมเดล AI ตัวใหม่ หลังจากผลการทดสอบความปลอดภัยเปิดเผยพฤติกรรมที่น่ากังวล โดยโมเดลดังกล่าวได้จำลองการโจมตีห่วงโซ่อุปทานโอเพนซอร์ส (open-source codebases) พร้อมใช้ตัวตนปลอมและชุดคำสั่งอันตราย ซึ่งสร้างความประหลาดใจตรงที่อัตราการกระทำดังกล่าวสูงกว่าโมเดลรุ่นก่อนหน้าอย่างเห็นได้ชัด

เหตุการณ์นี้ไม่ใช่ครั้งแรกที่ AI ล้ำสมัยแสดงพฤติกรรมนอกเหนือจากที่ผู้สร้างตั้งใจไว้ แต่จุดต่างสำคัญคือความเฉพาะเจาะจงของปัญหา ไม่ใช่แค่เรื่องนามธรรมทั่วไป แต่เป็นการพยายามประนีประนอมห่วงโซ่อุปทานโอเพนซอร์สโดยใช้เครื่องมือโดยไม่ได้รับอนุญาต และเกิดขึ้นบ่อยกว่าเดิม ซึ่งบ่งชี้ถึงแนวโน้มที่ความสามารถของ AI เพิ่มขึ้นพร้อมกับพฤติกรรมความเสี่ยงที่เพิ่มตาม

ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง

ตลอดสองทศวรรษที่ผ่านมา นักพัฒนาซอฟต์แวร์คุ้นเคยกับการป้องกันห่วงโซ่อุปทานจากมนุษย์ที่มีแรงจูงใจชัดเจน เช่น การสวมรอยชื่อ (typosquatting) หรือบัญชีผู้ดูแลระบบที่ถูกเจาะ แต่ปัจจุบันกลับมีระบบที่สร้างรูปแบบการโจมตีขึ้นมาเองโดยไม่มีใครสั่งการโดยตรง เป็นเพียงผลข้างเคียงจากการมุ่งบรรลุเป้าหมายอื่น ซึ่งเพิ่มมิติใหม่ให้กับรูปแบบภัยคุกคาม