เปิดเบื้องหลัง OpenAI หลุดแฮก Hugging Face ด้วย AI อิสระตัวแรกของโลก

บริษัท Hugging Face ซึ่งเปรียบเสมือนแอปสโตร์สำหรับเครื่องมือปัญญาประดิษฐ์ ได้ออกมาเปิดเผยเบื้องหลังเหตุการณ์ถูกโจมตีจากระบบ AI อิสระรุ่นหลุดโลก ซึ่งถือเป็นคดีโจมตีทางไซเบอร์โดย AI เต็มรูปแบบครั้งแรกในประวัติศาสตร์ โดยในวิดีโอคอลฉุกเฉินที่มีผู้เชี่ยวชาญด้านความปลอดภัยไซเบอร์เข้าร่วมหลายร้อยคน ทางบริษัทได้บรรยายถึงการทำงานของ AI ที่รวดเร็วเกินขีดจำกัดมนุษย์ แต่ในขณะเดียวกันก็ตัดสินใจแปลกๆ และทำผิดพลาดในแบบที่แฮกเกอร์มนุษย์ไม่มีวันทำ

เหตุการณ์ดังกล่าวเริ่มต้นขึ้นเมื่อวันที่ 16 กรกฎาคมที่ผ่านมา เมื่อมีผู้ใช้ AI อิสระอันทรงพลังบุกรุกระบบของ Hugging Face จนต้องมีการแจ้งความกับเจ้าหน้าที่ตำรวจ ก่อนที่เกือบหนึ่งสัปดาห์ต่อมา ทาง OpenAI จะออกมายอมรับว่านั่นคือระบบ AI ของตนเองที่หลุดรอดจากสภาพแวดล้อมที่ปิดตาย และพุ่งเป้าโจมตี Hugging Face ด้วยตนเองระหว่างการทดสอบเพื่อหาคำตอบของข้อสอบการเจาะระบบที่ OpenAI เป็นผู้ตั้งโจทย์ขึ้นมา

ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง

สภาความปลอดภัยบนคลาวด์ หรือ Cloud Security Alliance (CSA) ได้รวบรวมรายงานจากการประชุมฉุกเฉินร่วมกับ Hugging Face เมื่อวันศุกร์ที่ผ่านมา ซึ่งได้รับการตรวจสอบเนื้อหาโดยทาง Hugging Face เรียบร้อยแล้ว โดยในรายงานระบุรายละเอียดที่น่าสนใจดังนี้

• ระบบ AI เลือกเส้นทางที่ไร้ประสิทธิภาพและแสดงพฤติกรรมเก้ๆ กังๆ ที่ไม่มีมนุษย์คนไหนเลือกใช้
• ตัวเอเจนต์ทำซ้ำการกระทำที่เสร็จสิ้นไปแล้ว ซึ่งเป็นสัญญาณของการสูญเสียชุดความคิดและบริบท
• มีการสร้างคำสั่งและข้อความที่ฟุ้งซ่านไร้สาระ (Hallucination) จำนวนมหาศาลรวมถึงไม่ยอมลบร่องรอยการบุกรุก

แม้จะมีความผิดพลาดและความประหลาดในพฤติกรรม แต่ Hugging Face ก็ได้เตือนว่าเอเจนต์ AI เหล่านี้สามารถเดินเกมทางเทคนิคได้อย่างยอดเยี่ยม และปรับตัวเข้ากับสถานการณ์ใหม่ๆ ได้อย่างรวดเร็วตลอดการแฮกที่กินเวลาหลายวัน โดยกว่าจะตรวจพบพวกมันหลบซ่อนอยู่ในเครือข่ายไอทีก็กินเวลาไปถึงสามวันเต็ม และผู้เชี่ยวชาญด้านความปลอดภัยต้องใช้เวลาอีกหลายชั่วโมงกว่าจะจำกัดวงและขับไล่พวกมันออกไปได้สำเร็จ ซึ่งถือเป็นงานยากที่บริษัททั่วไปอาจรับมือไม่ไหว