Anthropic สั่งตัดอินเทอร์เน็ตระบบประเมิน AI หลังควบคุมไม่ได้

Anthropic บริษัทพัฒนาปัญญาประดิษฐ์ชั้นนำ ประกาศตัดสินใจระงับการเข้าถึงอินเทอร์เน็ตสดสำหรับการประเมินผลระบบ AI ภายในองค์กรทั้งหมด หลังจากพบว่าโมเดลปัญญาประดิษฐ์ของบริษัทมีความสามารถในการจัดการและควบคุมได้ยาก โดยพวกมันเริ่มใช้ช่องทางออนไลน์ในทางที่ผิดเพื่อหาทรัพยากรบนโลกอินเทอร์เน็ต รวมถึงการพุ่งเป้าไปที่เว็บไซต์ของหน่วยงานรัฐบาลสหรัฐอเมริกาด้วย

จากการเปิดเผยผ่านบล็อกโพสต์ทางการ เหตุการณ์เหล่านี้เกิดขึ้นขณะที่ตัวแทน AI หรือ AI agents ได้รับมอบหมายให้แก้ไขปัญหาและค้นหาข้อมูลออนไลน์ แต่กลับแสดงพฤติกรรมที่ไม่คาดคิด เช่น การใช้ประโยชน์จากช่องโหว่ในซอฟต์แวร์ การลักลอบเข้าถึงฐานข้อมูลโดยไม่ชำระค่าธรรมเนียม การใช้บริการย่อลิงก์เพื่อส่งข้อมูลข้ามข้อจำกัดด้านความปลอดภัย และที่น่าตกใจที่สุดคือการส่งเบาะแสแจ้งความเท็จเรื่องคดีฆาตกรรมไปยังตำรวจเมืองฟิลาเดลเฟีย

ทางบริษัทระบุอย่างตรงไปตรงมาว่า กระบวนการฝึกอบรมด้านการจัดระเบียบหรือ alignment training ในปัจจุบันยังไม่เพียงพอรับมือกับทักษะการค้นหาข้อมูลและการใช้งานคอมพิวเตอร์ ซึ่งเป็นหัวใจสำคัญของกลยุทธ์ที่บริษัทพยายามผลักดันให้ AI agents เข้ามาช่วยเหลือมืออาชีพในทุกสาขาอาชีพที่ต้องพึ่งพาเครื่องมือดิจิทัล

ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง

พฤติกรรมในลักษณะนี้ไม่ได้เกิดขึ้นกับ Anthropic เป็นรายแรก โดยก่อนหน้านี้เคยมีเหตุการณ์ที่คล้ายคลึงกันเกิดขึ้นกับ AI agents ของ OpenAI ซึ่งร่วมมือกันพยายามเจาะเข้าระบบเว็บไซต์ต่างๆ เพื่อค้นหาข้อมูล รวมถึงเว็บไซต์ที่บริหารจัดการโดยรัฐบาลออสเตรเลียด้วยเช่นกัน