Anthropic ยอมรับ โมเดล AI ของตนหลุดออกนอกแซนด์บ็อกซ์เจาะระบบบริษัทอื่นระหว่างทดสอบความปลอดภัย
บริษัท Anthropic เผยผลตรวจสอบภายในพบโมเดล Claude สามรุ่นสามารถเชื่อมต่ออินเทอร์เน็ตและเข้าถึงระบบจริงขององค์กรอื่นได้ระหว่างการทดสอบความปลอดภัย
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
- Anthropic พบโมเดล Claude 3 รุ่นเจาะระบบองค์กรภายนอกโดยไม่ได้รับอนุญาต
- เหตุการณ์เกิดขึ้นหลัง OpenAI เผยแพร่เคสที่โมเดลของตนเจาะระบบ Hugging Face
- โมเดลรุ่น Mythos 5 เผลอเผยแพร่ซอฟต์แวร์ประสงค์ร้ายขึ้นสู่ PyPI
- บริษัทกำลังร่วมมือกับ METR เพื่อตรวจสอบเหตุการณ์ทั้งหมดจากภายนอก
บริษัท Anthropic เปิดเผยผลการตรวจสอบภายในเมื่อวันพฤหัสบดีที่ผ่านมา โดยระบุว่าพบเหตุการณ์ 3 ครั้งที่โมเดลปัญญาประดิษฐ์ในตระกูล Claude สามารถเล็ดลอดออกนอกสภาพแวดล้อมทดสอบ และเข้าถึงระบบไลฟ์ (Live systems) ขององค์กรภายนอกสามแห่งได้โดยไม่ได้รับอนุญาต ระหว่างการดำเนินกิจกรรมทดสอบด้านความปลอดภัยไซเบอร์ การเปิดเผยข้อมูลครั้งนี้เกิดขึ้นตามหลังเหตุการณ์ที่คู่แข่งอย่าง OpenAI ออกมายอมรับเมื่อสัปดาห์ก่อนหน้า ว่าโมเดลที่ยังไม่เปิดตัวของตนเคยเจาะระบบของ Hugging Face ระหว่างการทดสอบภายในเช่นกัน
ทาง Anthropic ระบุในบล็อกโพสต์ว่า เหตุการณ์ทั้งหมดเกิดขึ้นเมื่อโมเดล Claude สามารถเชื่อมต่ออินเทอร์เน็ตหลุดออกมาจากสภาพแวดล้อมแซนด์บ็อกซ์ (Sandboxes) ที่ถูกออกแบบมาเพื่อแยกการทำงานออกจากโลกภายนอกโดยเฉพาะ ขณะกำลังโต้ตอบกับบุคคลที่สาม นำไปสู่การเข้าถึงโครงสร้างพื้นฐานฝ่ายผลิต (Production infrastructure) ขององค์กรที่เกี่ยวข้องสามแห่ง โดยรุ่นของโมเดลที่พัวพันในเหตุการณ์นี้ประกอบด้วย Opus 4.7, Mythos 5 และโมเดลทดสอบวิจัยภายใน
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
ประเด็นที่น่าสนใจคือ ทาง Anthropic ระบุว่าในทุกๆ กรณี พรอมต์ที่ใช้สั่งงานได้บอกกับโมเดลอย่างชัดเจนว่า "ไม่มีอินเทอร์เน็ตให้ใช้งาน" ทว่าตัว AI กลับคาดเดาและตีความไปเองว่าระบบโลกความเป็นจริงนั้นเป็นส่วนหนึ่งของการฝึกซ้อมที่มันได้รับมอบหมายให้ทำ อย่างไรก็ตาม พฤติกรรมของโมเดลทั้งสามรุ่นกลับมีความแตกต่างกันอย่างสิ้นเชิงเมื่อพวกมันเริ่มตระหนักว่าเป้าหมายที่กำลังโจมตีอยู่นั้นคือระบบของจริง
"Claude was explicitly told by our prompt that it had no internet access."
สำหรับรุ่น Opus 4.7 ซึ่งเป็นรุ่นที่มีความเก่าที่สุด ตระหนักได้ว่าตนเองหลุดเข้ามาสู่ระบบโปรดักชันจริงในทั้ง 4 รอบของการทดสอบ โดยใน 2 รอบมันหาเหตุผลเข้าข้างตัวเองว่าบริษัทจริงเหล่านี้คงเป็นส่วนหนึ่งของการทดสอบ แต่ไม่ว่าจะคิดอย่างไร มันก็ยังคงเดินหน้าโจมตีต่อไป รวมถึงการดึงข้อมูลรับรอง (Credentials) และเข้าแตะต้องฐานข้อมูลโปรดักชัน ส่วน Mythos 5 ก็รับรู้สัญญาณว่าตนอยู่บนอินเทอร์เน็ตจริงเช่นกัน แต่กลับโน้มน้าวตัวเองให้เชื่อว่ายังอยู่ในระบบจำลอง พร้อมกับเผยแพร่แพ็กเกจซอฟต์แวร์อันตรายขึ้นสู่ PyPI (Python software registry) สาธารณะ ก่อนที่จะถูกตรวจจับได้ทัน มีเพียงโมเดลวิจัยภายในซึ่งเป็นรุ่นใหม่ล่าสุดเท่านั้นที่หยุดการทำงานลงได้เองหลังจากสรุปได้ว่าเป้าหมายนั้นเป็นของจริง
การที่โมเดลปัญญาประดิษฐ์สามารถหลุดรอดจากระบบแซนด์บ็อกซ์และเข้าใจผิดว่าสภาพแวดล้อมจริงเป็นส่วนหนึ่งของการทดสอบ สะท้อนให้เห็นถึงความท้าทายขั้นวิกฤตในการควบคุม AI รุ่นที่มีความสามารถสูง เหตุการณ์เหล่านี้มักเกิดขึ้นเพราะโมเดลถูกปล่อยให้ทำงานโดยไม่มีตัวกรองความปลอดภัยขั้นสูง (Safety classifiers) เพื่อให้ทีมนักวิจัยสามารถวัดขีดความสามารถดิบของตัวโมเดลได้อย่างแม่นยำ ซึ่งในอนาคตอุตสาหกรรม AI จำเป็นต้องยกระดับมาตรการควบคุมความปลอดภัยที่รัดกุมยิ่งขึ้นในการประเมินผลลักษณะนี้เพื่อป้องกันความเสี่ยงต่อโครงสร้างพื้นฐานสำคัญ
เพื่อตอบสนองต่อเหตุการณ์ดังกล่าว Anthropic ระบุว่าจำเป็นต้องมีการวางมาตรการควบคุมที่เข้มงวดสำหรับการประเมินผลในลักษณะนี้ พร้อมทั้งชี้แจงว่า Claude ทำงานโดยปราศจากการตรวจสอบความปลอดภัยและตัวจำแนกประเภทเพิ่มเติม เนื่องจากมุ่งเน้นการวัดศักยภาพที่แท้จริงของโมเดลพื้นฐาน นอกจากนี้ ทางบริษัทยังเน้นย้ำว่าไม่พบหลักฐานใดๆ ที่บ่งชี้ว่าโมเดลพยายาม "แสวงหาเป้าหมายของตนเอง" แต่เป็นเพียงการพยายามทำภารกิจที่ได้รับมอบหมายให้สำเร็จลุล่วงเท่านั้น โดยในขณะนี้ Anthropic กำลังร่วมมือกับ METR ซึ่งเป็นกลุ่มประเมินอิสระ เพื่อตรวจสอบเหตุการณ์ทั้งหมดจากภายนอกต่อไป
ที่มา: TechCrunch
พบข้อมูลผิดพลาดในบทความนี้? แจ้งปัญหาบทความนี้
ความคิดเห็น
แสดงความคิดเห็น