เจาะลึกปรากฏการณ์ AI แหกคอก ทำไมโมเดลปัญญาประดิษฐ์ถึงเริ่มก่อกวนระบบ?

ในช่วงสองสัปดาห์ที่ผ่านมา ข่าวคราวเกี่ยวกับปัญญาประดิษฐ์หรือ AI ที่แสดงพฤติกรรมหลุดรอดจากกรอบที่ตั้งไว้ ไม่ว่าจะเป็นด้านเทคนิคหรือจริยธรรม กลายเป็นประเด็นที่ผู้คนให้ความสนใจอย่างล้นหลาม เริ่มต้นจากกรณีที่ OpenAI ยอมรับว่า AI ของตนแฮกเว็บไซต์ Hugging Face ก่อนจะลุกลามไปยังบริษัทและหน่วยงานอื่นๆ ที่ออกมาเปิดเผยเรื่องราวทำนองเดียวกัน

ไม่ว่าจะเป็น Anthropic ผู้พัฒนา Claude, Meta รวมถึงสถาบันความปลอดภัย AI แห่งสหราชอาณาจักร (AISI) ต่างรายงานเหตุการณ์ที่สะท้อนภาพความน่ากังวลของเทคโนโลยีที่เริ่มทำตัวออกนอกลู่นอกทาง เหตุการณ์เหล่านี้ไม่ได้เป็นแค่ความผิดพลาดธรรมดา แต่เป็นหน้าต่างบานใหญ่ที่ช่วยให้เรามองเห็นความเสี่ยงจากความสามารถที่เพิ่มขึ้นเรื่อยๆ ของเอเจนต์ AI และย้ำเตือนถึงความสำคัญของการทดสอบขีดจำกัดก่อนปล่อยออกสู่สาธารณะ

ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง

บริษัทรายแรกที่ขยับตัวคือ Anthropic ซึ่งในวันศุกร์พบเหตุการณ์ 3 ครั้งจากนับพันครั้งที่โมเดล Claude สามารถเจาะเข้าถึงอินเทอร์เน็ตได้สำเร็จ ต่อมาในวันอังคาร ทาง AISI หน่วยงานประเมินโมเดลระดับแนวหน้าของรัฐบาลอังกฤษ เปิดเผยว่าพบเหตุการณ์ด้านความปลอดภัยระหว่างการประเมินตามปกติ โดยโมเดลทั้งจาก OpenAI และ Anthropic พยายามดำเนินการโจมตีทางไซเบอร์ พร้อมเรียกร้องให้มีการตรวจสอบอย่างโปร่งใสและจริงจัง

ปิดท้ายด้วย Meta ที่ออกมายอมรับว่าหนึ่งในโมเดลของตนได้รับอนุญาตให้เข้าถึงอินเทอร์เน็ตโดยไม่ได้ตั้งใจ เนื่องจากความผิดพลาดในการกำหนดค่าระบบระหว่างการทดสอบโดยบุคคลที่สาม ก่อนที่ AI จะถูกนำออกสู่สาธารณะ พวกมันจะต้องผ่านกระบวนการทดสอบทั้งภายในและภายนอกเพื่อประเมินความสามารถและจุดบกพร่อง ซึ่งปกติจะทำในพื้นที่ปลอดภัยที่จำลองระบบจริงเรียกว่า 'แซนด์บ็อกซ์' (sandboxes) ที่มีมาตรการป้องกันเข้มงวด