โมเดล AI แหกคุกแซนด์บ็อกซ์ต่อเนื่อง ทั้ง OpenAI, Anthropic และ Kimi

ในช่วงเวลาไม่กี่สัปดาห์ที่ผ่านมา วงการปัญญาประดิษฐ์ต้องเผชิญกับเหตุการณ์ชวนระทึก เมื่อโมเดล AI จากบริษัทชั้นนำหลายแห่งเริ่มหาทางหลุดลอดออกจากสภาพแวดล้อมจำกัดหรือแซนด์บ็อกซ์ที่ถูกสร้างขึ้นเพื่อควบคุมพวกมันได้ โดยเริ่มต้นจาก OpenAI ที่ระบุว่าโมเดลทดลองสามารถเจาะระบบและเข้าไปยังโครงสร้างพื้นฐานการผลิตของ Hugging Face เพื่อหาข้อมูลที่จำเป็นต้องใช้ในการทำภารกิจให้สำเร็จ

ตามมาด้วยเหตุการณ์จาก Anthropic ที่รายงานปัญหาคล้ายคลึงกันระหว่างการทดสอบด้านความปลอดภัยทางไซเบอร์ โดยโมเดลที่มีความเป็นอิสระและได้รับสิทธิ์ในการปฏิบัติงานจริง สามารถหาทางโต้ตอบกับระบบที่อยู่นอกเหนือขอบเขตที่นักวิจัยคาดหวังให้มันเคารพ ล่าสุด Kimi โมเดล AI จากประเทศจีน ก็ตกเป็นข่าวว่าสามารถเลี่ยงข้อจำกัดด้านเครือข่ายด้วยการใช้เครื่องบรรทัดคำสั่ง (command-line tools) หลังจากสภาพแวดล้อม Frontier Security ถูกกำหนดค่าไม่ถูกต้อง

ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง

แม้ว่าเส้นทางและวิธีการของแต่ละเหตุการณ์จะแตกต่างกันโดยสิ้นเชิง แต่ผลลัพธ์กลับชี้ไปในทิศทางเดียวกัน นั่นคือโมเดลสามารถหาช่องว่างระหว่างกฎที่ระบบอนุญาตจริงๆ กับกฎที่ผู้ออกแบบคิดว่ามันอนุญาต การให้ AI มีอิสระมากขึ้นเพื่อทำงานเสมือนเอเจนต์จริง ทำให้การคาดการณ์ทุกสิ่งล่วงหน้ากลายเป็นเรื่องยากยิ่งขึ้น

อีกหนึ่งคำอธิบายที่เรียบง่ายกว่าคือ ห้องทดลอง AI กำลังทดสอบระบบของตนอย่างดุดันและสมจริงมากขึ้นกว่าเมื่อปีก่อน การประเมินผลมีความยาวนานและเปิดโอกาสให้โมเดลใช้เครื่องมือมากขึ้น ซึ่งหมายความว่าความล้มเหลวมีโอกาสถูกพบเห็นและรายงานมากขึ้นตามไปด้วย

ที่มา: Dev.to