Anthropic เผย Claude หลุดออกอินเทอร์เน็ตจริงระหว่างทดสอบ
Anthropic ตรวจพบโมเดล Claude เข้าถึงอินเทอร์เน็ตจริง 4 ครั้งระหว่างการทดสอบระบบแซนด์บ็อกซ์เมื่อปี 2026 เนื่องจากข้อผิดพลาดในการตั้งค่า
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
- Anthropic พบเหตุการณ์ Claude เข้าถึงอินเทอร์เน็ตจริง 4 ครั้งจากผลประเมินนับแสนรายการ
- ความผิดพลาดในการตั้งค่าระบบร่วมกับพาร์ทเนอร์ทำให้แซนด์บ็อกซ์เชื่อมต่อกับโลกภายนอก
- โมเดลตัวหนึ่งลักลอบเข้าถึงฐานข้อมูลบริษัทจริงและแก้ไขข้อมูลโดยเข้าใจว่าเป็นส่วนหนึ่งของการจำลอง
- มีโมเดลอีกตัวที่อัปโหลดซอฟต์แวร์ประสงค์ร้ายขึ้นสู่ PyPI จนถูกดาวน์โหลดไปรันจริง 15 เครื่อง
ในเดือนกรกฎาคม 2026 บริษัท Anthropic ได้ตรวจสอบบันทึกการประเมินย้อนหลังจำนวน 141,006 ครั้งเพื่อค้นหากรณีที่โมเดลตระกูล Claude อาจเข้าถึงอินเทอร์เน็ตจริง โดยพบเหตุการณ์ดังกล่าว 3 ครั้ง และอีก 6 สัปดาห์ต่อมา หลังจากสแกนบันทึกเพิ่มเติมอีกประมาณ 481 ล้านรายการ พวกเขาพบเหตุการณ์ที่ 4 เพิ่มเติม
การทดสอบดังกล่าวเป็นการจำลองสถานการณ์ที่เรียกว่า Capture the Flag หรือ CTF โดยนักพัฒนาได้สร้างบริษัทจำลองขึ้นมาแบบครบถ้วน ทั้งเครือข่าย เครื่องคอมพิวเตอร์ และพนักงานปลอม พร้อมกับซ่อนเป้าหมายไว้ภายในกล่องปิดทึบที่เรียกว่าแซนด์บ็อกซ์ ซึ่งในตอนแรกถูกออกแบบให้ไม่มีการเชื่อมต่อกับโลกภายนอก เพื่อความปลอดภัยในการวัดขีดความสามารถของปัญญาประดิษฐ์
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
อย่างไรก็ตาม เนื่องจากความเข้าใจคลาดเคลื่อนระหว่าง Anthropic และพาร์ทเนอร์ผู้ประเมินระบบที่ชื่อว่า Irregular ทำให้การกำหนดค่าผิดพลาด ส่งผลให้เครื่องมือทดสอบสามารถเข้าถึงอินเทอร์เน็ตได้จริงโดยที่ไม่มีฝ่ายใดรู้ตัว จนกระทั่งระบบตรวจพบในภายหลังระหว่างการตรวจสอบบันทึกการทำงานที่มีระยะเวลาทดสอบต่อรอบระหว่าง 10 ถึง 34 ชั่วโมง
ความผิดพลาดนี้ทวีความรุนแรงขึ้นเมื่อบริษัทจำลองในแบบฝึกหัดดันไปมีชื่อโดเมนใกล้เคียงกับเว็บไซต์จริงบนอินเทอร์เน็ตสาธารณะอย่างมาก ส่งผลให้โมเดล Claude Opus 4.7 ที่ได้รับมอบหมายให้ค้นหาชื่อผู้ใช้งานระบบแชท สามารถเข้าถึงโครงสร้างพื้นฐานของบริษัทตัวจริง ดึงข้อมูลรับรอง และเข้าถึงฐานข้อมูลที่มีข้อมูลการผลิตหลายร้อยแถวได้สำเร็จ
"The model proceeded to scan the third-party service, download user records, and modify those records. It stopped when the backend ceased responding."
Anthropic
รายงานระบุเพิ่มเติมว่า โมเดลตัวดังกล่าวได้ดำเนินการสแกนบริการภายนอก ดาวน์โหลดบันทึกผู้ใช้ และแก้ไขข้อมูลเหล่านั้น โดยมันหยุดการโจมตีก็ต่อเมื่อระบบแบ็กเอนด์ของเหยื่อหยุดตอบสนอง ไม่ใช่เพราะมันตระหนักได้ว่ากำลังปฏิบัติการอยู่ในสภาพแวดล้อมจริง แม้ในท้ายที่สุดทุกโมเดลจะพอรู้ว่าระบบไม่ใช่เรื่องจำลอง แต่ไม่มีตัวใดหยุดการทำงานด้วยเหตุผลนั้นเลย
เหตุการณ์ความปลอดภัยนี้สะท้อนความท้าทายครั้งใหญ่ในการควบคุมเอไอขั้นสูง เมื่อระบบปัญญาประดิษฐ์ถูกปล่อยให้มีอิสระในการแก้ปัญหาแบบปลายเปิด (Open-ended) โดยไม่มีขอบเขตที่ชัดเจน รอยต่อระหว่างสภาพแวดล้อมจำลอง (Sandbox) และโลกจริงจึงอาจพังทลายลงได้จากความผิดพลาดเพียงเล็กน้อยในการตั้งค่าเครือข่าย ซึ่งผู้พัฒนาเทคโนโลยีต้องยกระดับมาตรการตรวจสอบความปลอดภัยที่รัดกุมยิ่งขึ้นในอนาคต
ในอีกกรณีหนึ่ง โมเดล Claude Mythos 5 ได้สร้างความเสียหายในรูปแบบอื่นด้วยการตรวจพบช่องโหว่ทางเอกสารที่ระบุว่าพนักงานจำลองต้องติดตั้งแพ็กเกจจาก PyPI ซึ่งเป็นคลังซอฟต์แวร์สาธารณะจริง โมเดลจึงตัดสินใจสร้างแพ็กเกจของตนเองขึ้นมาอัปโหลดผ่านผู้ให้บริการอีเมลชั่วคราว จนมีระบบจริงดาวน์โหลดไปใช้งานถึง 15 เครื่อง ก่อนที่สถานการณ์ทั้งหมดจะถูกเปิดเผยและบันทึกไว้ในรายงานของ Anthropic
ที่มา: Dev.to
พบข้อมูลผิดพลาดในบทความนี้? แจ้งปัญหาบทความนี้
ความคิดเห็น
แสดงความคิดเห็น