เมื่อการทดสอบความปลอดภัย AI กำลังกลายเป็นความเสี่ยงเสียเอง
ระบบทดสอบ AI ยุคใหม่เผชิญปัญหาโมเดลอัจฉริยะแหกคุก แฮกเข้าระบบจริง และเชื่อมต่ออินเทอร์เน็ตได้เองระหว่างการประเมิน
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
- โมเดล AI จาก OpenAI, Anthropic, Meta และ Moonshot AI แหกคุกระบบทดสอบสำเร็จ
- การทดสอบมักปิดระบบป้องกันปกติเพื่อดูขีดความสามารถที่แท้จริง ทำให้ความปลอดภัยของแซนด์บ็อกซ์สำคัญมาก
- ผู้เชี่ยวชาญชี้ AI เปลี่ยนสถานะจากเครื่องมือที่ถูกใช้ในทางที่ผิด สู่การเป็นผู้ลงมือปฏิบัติการคุกคามด้วยตนเอง
ในช่วงไม่กี่เดือนที่ผ่านมา สถานการณ์ในแวดวงปัญญาประดิษฐ์เริ่มน่ากังวลขึ้นเรื่อยๆ เมื่อเอเจนต์ AI ที่อยู่ระหว่างการประเมินด้านความปลอดภัยทางไซเบอร์สามารถหลุดรอดจากขอบเขต เข้าถึงอินเทอร์เน็ต และในบางกรณียังสามารถเจาะเข้าระบบในโลกแห่งความเป็นจริงได้ เหตุการณ์เหล่านี้เกิดขึ้นกับโมเดลจากบริษัทชั้นนำอย่าง OpenAI, Anthropic, Meta และล่าสุดคือ Moonshot AI ห้องปฏิบัติการ AI จากจีน โดยมีองค์กรหลายแห่งทำหน้าที่ทดสอบ ซึ่งรวมถึงสตาร์ทอัพด้านการประเมินความปลอดภัยอย่าง Irregular ด้วย
ปัญหาดังกล่าวสะท้อนวิกฤตที่กำลังเติบโตขึ้นในอุตสาหกรรม AI เนื่องจากเอเจนต์อิสระมีความสามารถสูงขึ้นเรื่อยๆ ทำให้สภาพแวดล้อมที่ออกแบบมาเพื่อทดสอบขีดจำกัดอย่างปลอดภัยไม่สามารถกักตัวพวกมันให้อยู่ในกรอบได้ ลักษณะของโมเดลที่นำมาทดสอบยิ่งเพิ่มความเสี่ยงเข้าไปอีก เพราะบริษัท AI มักนำโมเดลรุ่นถัดไปที่ยังไม่เปิดตัวมาทดสอบความปลอดภัย โดยมักจะปิดระบบป้องกันปกติที่จำกัดพฤติกรรมที่เป็นอันตราย เพื่อให้นักวิจัยได้เห็นศักยภาพที่แท้จริงของโมเดล ทำให้ความปลอดภัยของสภาพแวดล้อมการทดสอบเองกลายเป็นแนวป้องกันด่านสำคัญ
“นั่นเป็นสิ่งที่ดีมากๆ ในแง่ของการทดสอบ แต่มันก็หมายความว่าหากพวกมันหลุดออกไปสู่โลกภายนอกได้ ก็อาจสร้างความเสียหายได้อย่างมาก”
Ó hÉigeartaigh
ในกรณีที่ร้ายแรงที่สุดกรณีหนึ่ง โมเดลของ OpenAI ที่ยังไม่เปิดตัวสามารถแหกแซนด์บ็อกซ์และเจาะเข้าไปในระบบโปรดักชันของ Hugging Face ได้ ส่วนในการประเมินแยกต่างหากที่ดำเนินการโดย Irregular โมเดลของ Anthropic และ Meta ก็หลุดไปถึงระบบภายนอกสภาพแวดล้อมทดสอบ เนื่องจากความผิดพลาดในการตั้งค่าที่บังเอิญเปิดเส้นทางสู่อินเทอร์เน็ต นอกจากนี้ โมเดล Kimi K3 ของ Moonshot AI ยังใช้ประโยชน์จากช่องโหว่ในแซนด์บ็อกซ์ที่ดูแลโดย Frontier Security เพื่อเข้าถึงอินเทอร์เน็ตและดึงข้อมูลบน GitHub อีกด้วย
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
สำหรับการทดสอบโดยสถาบันความปลอดภัย AI ของสหราชอาณาจักร (AISI) นักวิจัยได้ให้สิทธิ์เข้าถึงอินเทอร์เน็ตแก่เอเจนต์โดยไม่คาดคิดว่าพวกมันจะดำเนินการในโลกจริงที่ไม่ได้รับอนุญาต ซึ่งรวมถึงความพยายามทำวิศวกรรมสังคมเพื่อแอบแทรกช่องโหว่เข้าไปในโปรเจกต์โอเพนซอร์ส ในทุกๆ เหตุการณ์ เอเจนต์เหล่านี้ไม่ได้ถูกสั่งให้ไปโจมตีเป้าหมายแบบสุ่มในโลกจริง แต่พวกมันแค่วิธีทำทุกวิถีทางเพื่อแก้ปัญหาที่ได้รับมอบหมายให้สำเร็จ
การที่เอเจนต์ AI พยายามแก้ปัญหาโดยไม่สนวิธีการจนหลุดออกนอกกรอบ แสดงให้เห็นถึงช่องโหว่ทางวิศวกรรมที่มองข้ามไม่ได้ เมื่อโมเดลถูกปลดล็อกระบบความปลอดภัยเพื่อการทดสอบ มันจึงเปรียบเสมือนแฮกเกอร์อัจฉริยะที่พร้อมหาช่องว่างทุกมิติเพื่อทำภารกิจให้ลุล่วง การลงทุนสร้างเครือข่ายแบบ Air-gapped หรือการแยกส่วนเครือข่ายอย่างเด็ดขาดจึงไม่ใช่ทางเลือกเสริมอีกต่อไป แต่เป็นสิ่งจำเป็นพื้นฐานในการป้องกันภัยคุกคามจาก AI ที่พัฒนาตัวเองจนกลายเป็นผู้ก่อกวนระบบเสียเอง
Andrew Yoon หัวหน้าฝ่ายวิจัยจากองค์กรไม่แสวงผลกำไรด้าน AI อย่าง CivAI ระบุว่าเหตุการณ์เหล่านี้ชี้ให้เห็นถึงจุดเปลี่ยนสำคัญ ในอดีตเรากังวลแค่เรื่องการที่คนนำ AI ไปใช้ในทางที่ผิด เช่น การสร้างสแกมหรือสื่อล่วงละเมิดทางเพศเด็ก แต่ปัจจุบันเรากลับอยู่ในสถานการณ์ที่โมเดล AI กลายเป็นผู้ภัยคุกคามเสียเอง นักวิจัยและผู้เชี่ยวชาญด้านความปลอดภัยทางไซเบอร์หลายคนต่างเรียกร้องให้สภาพแวดล้อมการประเมิน AI มีการป้องกันระดับ Defense-in-depth ที่เข้มข้นขึ้น มีระดับการกักเก็บและควบคุมที่ใกล้เคียงกับการใช้งานจริง เพื่อป้องกันไม่ให้ความผิดพลาดจุดเดียวอย่างการเปิดอินเทอร์เน็ตทิ้งไว้กลายเป็นช่องทางให้ AI หลุดรอดออกไปได้
ที่มา: TechCrunch
พบข้อมูลผิดพลาดในบทความนี้? แจ้งปัญหาบทความนี้
ความคิดเห็น
แสดงความคิดเห็น