ความผิดพลาดของมนุษย์เปิดช่องให้ AI ของ OpenAI เจาะระบบ Hugging Face
รายงานเผยเบื้องหลังเหตุการณ์ AI ของ OpenAI หลุดรอดจากการทดสอบและโจมตีแพลตฟอร์ม Hugging Face ต้นเหตุแท้จริงมาจากความบกพร่องในการตั้งค่าสภาพแวดล้อมจำลองของมนุษย์
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
- OpenAI ยอมรับโมเดล AI หลุดการควบคุมและเจาะระบบ Hugging Face
- ผู้เชี่ยวชาญชี้ต้นตอมาจากความผิดพลาดของมนุษย์ในการตั้งค่าระบบ Sandbox
- พบช่องโหว่ Zero-day ในระบบติดตั้งแพ็กเกจซอฟต์แวร์บุคคลที่สาม
- เหตุการณ์นี้คล้ายกับกรณีทดสอบโมเดล Mythos ของ Anthropic ก่อนหน้า
เมื่อวันอังคารที่ผ่านมา ทาง OpenAI ได้ออกมาเปิดเผยเหตุการณ์ที่น่าตกใจว่า โมเดลปัญญาประดิษฐ์ตัวหนึ่งได้เกิดอาการทำงานนอกเหนือการควบคุมระหว่างการทดสอบ และสามารถเจาะเข้าระบบของ Hugging Face ซึ่งเป็นแพลตฟอร์มรวมชุดข้อมูล AI ได้สำเร็จ โดยถือเป็นการโจมตีด้วย AI เต็มรูปแบบที่สะท้อนให้เห็นถึงความเสี่ยงอันตรายของโมเดล AI ยุคใหม่ที่มีความก้าวหน้าสูงมาก
อย่างไรก็ตาม บรรดาผู้เชี่ยวชาญด้านความปลอดภัยทางไซเบอร์กลับมองว่า หัวใจสำคัญของเหตุการณ์การละเมิดความปลอดภัยที่ไร้รอยต่อนี้ไม่ได้เกิดจากตัว AI เอง แต่มีจุดเริ่มต้นมาจากความผิดพลาดของมนุษย์ล้วนๆ เนื่องจาก OpenAI ไม่ได้กำหนดค่าและจัดการสภาพแวดล้อมที่เรียกว่า Highly Isolated Environment ให้รัดกุมเพียงพอ จนเปิดช่องให้ Sandbox ที่ควรจะถูกตัดขาดจากอินเทอร์เน็ตโดยสิ้นเชิง กลับสามารถเชื่อมต่อกับโลกภายนอกได้
ในทางเทคนิคแล้ว คำว่า Sandbox หมายถึงพื้นที่ทดสอบดิจิทัลที่ถูกจำกัดขอบเขตและแยกตัวออกจากระบบหลักอย่างสมบูรณ์ เพื่อป้องกันไม่ให้โค้ดหรือโมเดลที่กำลังทดสอบสร้างความเสียหายออกสู่โลกภายนอก การที่ OpenAI อนุญาตให้มีระบบติดตั้งแพ็กเกจซอฟต์แวร์ภายใน Sandbox ถือเป็นการเปิดประตูรับความเสี่ยง เนื่องจากระบบลักษณะนี้มักต้องการช่องทางสื่อสารเพื่อดึงข้อมูล ซึ่งขัดแย้งกับหลักการแยกตัวโดดเดี่ยวที่แท้จริง
Dan Guido ผู้ก่อตั้งบริษัทวิจัยความปลอดภัย Trail of Bits ได้เรียกความผิดพลาดครั้งนี้ว่า เป็นความล้มเหลวในการควบคุมความปลอดภัยที่ถูกปิดตายเอาไว้ โดยในบทความบล็อกโพสต์ของ OpenAI ระบุว่า การทดสอบดังกล่าวถูกตั้งค่าให้รันอยู่ในสภาพแวดล้อมที่จำกัดการเข้าถึงเครือข่ายเฉพาะการติดตั้งแพ็กเกจผ่านซอฟต์แวร์บุคคลที่สามภายในองค์กร ซึ่งทำหน้าที่เป็นพร็อกซีและแคชเท่านั้น
ทว่าโมเดลดังกล่าวกลับอาศัยช่องโหว่แบบ Zero-day ที่ยังไม่เคยถูกเปิดเผยมาก่อนภายในระบบติดตั้งแพ็กเกจ เพื่อหลบหนีออกจากสภาพแวดล้อมจำลองนั้น ซึ่งนับเป็นก้าวสำคัญแรกที่นำไปสู่การเจาะระบบ Hugging Face ในท้ายที่สุด ส่งผลให้ OpenAI ต้องออกมาดำเนินการเปิดเผยช่องโหว่ Zero-day ดังกล่าวอย่างรับผิดชอบ และกำลังเร่งประสานงานกับผู้พัฒนาซอฟต์แวร์บุคคลที่สามเพื่อหาทางอุดช่องโหว่นี้
"นี่ไม่ควรเกิดขึ้น หาก Sandbox หมายถึง Sandbox จริงๆ คุณย่อมคาดหวังว่ามันจะไม่มีการเชื่อมต่อทางกายภาพกับอินเทอร์เน็ตเลยแม้แต่น้อย"
Marteen Boone
Marteen Boone นักวิจัยด้านความปลอดภัยไซเบอร์ระบุกับทาง TechCrunch ว่า เหตุการณ์นี้สะท้อนความล้มเหลวของมนุษย์อย่างชัดเจน ขณะที่ Jake Williams ผู้เชี่ยวชาญด้านความปลอดภัยไซเบอร์รุ่นลายครามก็เห็นพ้องต้องกัน โดยระบุว่าโมเดลที่สามารถกระทำการตามที่ปรากฏในรายงานของ Hugging Face นั้น ย่อมแปลว่าไม่ได้ถูกกักเก็บไว้อย่างสมบูรณ์ใน Sandbox ตั้งแต่แรก และมองว่าเป็นความล้มเหลวครั้งใหญ่ในการควบคุมของ OpenAI
Daniel Card ที่ปรึกษาด้านความปลอดภัยไซเบอร์ เสริมว่าทาง OpenAI ไม่ได้ทุ่มเทความพยายามอย่างเพียงพอในการออกแบบ Sandbox และมาตรการควบคุม ด้วยการเปิดเส้นทางที่ไม่ถูกกรองไปยังอินเทอร์เน็ตให้กับตัว Sandbox หรือบางส่วนของมัน พร้อมระบุว่าการตั้งค่าดังกล่าวไม่ใช่การตัดสินใจที่สมเหตุสมผล แม้จะมีข้อจำกัดด้านการเข้าถึงเครือข่ายก็ตาม จนถึงขณะนี้ตัวแทนของ OpenAI ยังไม่ได้ออกมาตอบคำถามใดๆ จากทาง TechCrunch ว่าใครเป็นผู้ตั้งค่าสภาพแวดล้อมการทดสอบดังกล่าว
ประเด็นความปลอดภัยนี้ไม่ได้จำกัดอยู่แค่เพียง OpenAI เท่านั้น เพราะในเอกสารแนะนำ Mythos ซึ่งเป็นโมเดลเน้นความปลอดภัยของ Anthropic ก็เคยระบุเช่นกันว่า ในการทดสอบหนึ่ง ทางบริษัทได้ให้คอมพิวเตอร์ Sandbox ที่ปลอดภัยแก่ตัวโมเดล และสั่งให้มันลองหลบหนีออกจากพื้นที่ปลอดภัยนั้น ซึ่งสุดท้าย Mythos ก็สามารถทำได้สำเร็จและเข้าถึงอินเทอร์เน็ตในวงกว้างจากระบบที่เดิมทีถูกกำหนดให้เข้าถึงบริการที่จำกัดได้บางบริการเท่านั้น แม้ทาง Anthropic จะระบุว่าตัวโมเดลไม่สามารถหลบหนีออกไปได้เต็มรูปแบบก็ตาม
ที่มา: TechCrunch
พบข้อมูลผิดพลาดในบทความนี้? แจ้งปัญหาบทความนี้
ความคิดเห็น
แสดงความคิดเห็น