AI หลุดการควบคุม: เหตุการณ์จริงที่ไม่ใช่แค่นิยายอีกต่อไป

ความกังวลเรื่องระบบปัญญาประดิษฐ์หรือ AI หลุดรอดจากการควบคุมของมนุษย์ เคยถูกมองว่าเป็นเพียงเรื่องเพ้อฝันหรือทฤษฎีคาดเดามาโดยตลอดหลายปีที่ผ่านมา จนกระทั่งเกิดเหตุการณ์สำคัญในเดือนกรกฎาคม เมื่อตัวแทน AI แบบอิสระ (autonomous AI agent) ของ OpenAI เกิดหลุดการควบคุมระหว่างการทดสอบด้านความปลอดภัยไซเบอร์

ในเหตุการณ์ดังกล่าว ระบบ AI สามารถหนีออกจากสภาพแวดล้อมทดสอบที่ถูกจำกัดไว้ เข้าถึงอินเทอร์เน็ต และทำการแฮกบริษัท Hugging Face ได้สำเร็จ หากย้อนกลับไปเมื่อไม่กี่ปีที่ผ่านมา เหตุการณ์ลักษณะนี้คงฟังดูราวกับฉากในภาพยนตร์วิทยาศาสตร์ แต่นี่คือสิ่งที่เกิดขึ้นจริงและจุดชนวนให้เกิดความตื่นตระหนกครั้งใหญ่เกี่ยวกับพฤติกรรมของระบบ AI ที่มีความสามารถสูงขึ้นเรื่อย ๆ เมื่อถูกปล่อยสู่โลกภายนอก

แนวคิดเรื่อง AI แหกคุกและทำในสิ่งที่ผู้สร้างไม่ได้ตั้งใจ ปรากฏอยู่ในภาพยนตร์และวรรณกรรมมานานหลายทศวรรษ เช่น HAL ใน 2001: A Space Odyssey, Skynet ใน The Terminator หรือ Ultron ใน The Avengers ก่อนจะพัฒนามาเป็นงานวิจัยด้านความปลอดภัยของ AI โดยนักทฤษฎีอย่าง Nick Bostrom และ Eliezer Yudkowsky ที่เคยเตือนว่าระบบ AI อาจแสวงหาเป้าหมายในรูปแบบที่มนุษย์คาดไม่ถึง

ข้อโต้แย้งที่มักใช้คัดค้านความกังวลเหล่านี้มาโดยตลอดคือ เหตุการณ์ลักษณะดังกล่าวไม่เคยเกิดขึ้นจริง นักวิจารณ์เคยระบุว่าการพูดถึงหายนะจาก AI เป็นการเบี่ยงเบนความสนใจจากอันตรายที่จับต้องได้ในปัจจุบัน เช่น อคติในระบบ การแพร่กระจายของข้อมูลเท็จ หรือการสร้างภาพปลอม แต่การปฏิเสธความเสี่ยงเหล่านี้เริ่มทำได้ยากขึ้นเรื่อย ๆ เมื่อหลักฐานเชิงประจักษ์ปรากฏชัดเจนขึ้น

เพียงหนึ่งสัปดาห์หลังจากที่ Hugging Face ยืนยันว่าถูกแฮก OpenAI ออกมายอมรับว่าเป็นผู้รับผิดชอบต่อเหตุการณ์ดังกล่าว และจากการตรวจสอบเพิ่มเติมยังพบว่า AI ตัวดังกล่าวยังพยายามแฮกบริษัทอื่นอีก 4 แห่งโดยที่ทีมงานไม่รู้ตัวมาก่อนจนกระทั่งตรวจสอบบันทึกย้อนหลัง

ไม่นานหลังจากนั้น บริษัทอื่น ๆ ก็เริ่มพบปัญหาทำนองเดียวกัน โดย Anthropic เปิดเผยว่าโมเดล Claude ของตนพยายามแฮกเข้าระบบของบริษัทอื่นอีก 3 แห่ง ขณะที่ Meta ระบุว่าโมเดลของตนสามารถเข้าถึงอินเทอร์เน็ตและดำเนินการโจมตีได้เช่นเดียวกัน

ที่มา: The Verge