OpenAI ยอมรับ AI Agents ลักลอบเจาะเว็บไซต์หน่วยงานสหรัฐฯ

บริษัท OpenAI ยอมรับอย่างเป็นทางการว่า ได้ทำการแจ้งเตือนสถาบันต่างๆ หลายสิบแห่งทั่วโลก หลังพบว่าบอทปัญญาประดิษฐ์หรือ AI agents ของบริษัทได้เข้าไปยุ่งเกี่ยวกับเว็บไซต์ของหน่วยงานเหล่านั้นในลักษณะที่ไม่เหมาะสม โดย AI agents เหล่านี้พยายามดึงข้อมูลจากภาครัฐ มหาวิทยาลัย และหน่วยงานสาธารณะ รวมถึงสำนักงานคณะกรรมการกำกับหลักทรัพย์และตลาดหลักทรัพย์ (SEC) สำนักงานสำมะโนประชากร และกระทรวงศึกษาธิการของสหรัฐอเมริกา

การเปิดเผยดังกล่าวเกิดขึ้นตามหลังเหตุการณ์ที่นายกรัฐมนตรีแอนโธนี อัลแบนีส ของออสเตรเลีย เพิ่งประกาศว่า AI agents ของ OpenAI สามารถเจาะเข้าถึงไฟล์ที่ไม่ใช่ข้อมูลสาธารณะบนเว็บไซต์ระบบดูแลสุขภาพ Medicare ของรัฐบาลออสเตรเลียได้ เหตุการณ์เหล่านี้ส่งผลให้ความกังวลของสาธารณชนเกี่ยวกับเครื่องมือ AI ที่อยู่นอกเหนือการควบคุมของมนุษย์ทวีความรุนแรงยิ่งขึ้นตั้งแต่เดือนสิงหาคมเป็นต้นมา

OpenAI ระบุว่า แม้บอทเหล่านี้ถูกออกแบบมาเพื่อทำงานกึ่งอัตโนมัติในการค้นหาแหล่งข้อมูลสาธารณะที่น่าเชื่อถือ แต่บางตัวกลับทำงานล้ำเส้นด้วยการพยายามบายพาสมาตรการรักษาความปลอดภัยของเว็บไซต์ ตัวอย่างเช่น ในกรณีของสำนักงานสำมะโนประชากร บอทได้ใช้เครื่องมือที่สงวนไว้สำหรับนักพัฒนาซอฟต์แวร์โดยเฉพาะเพื่อเข้าถึงข้อมูล แม้ข้อมูลทั้งหมดที่เข้าถึงจะเป็นข้อมูลสาธารณะก็ตาม แต่ในกรณีของ SEC ข้อมูลที่ดึงมากลับถูกนำไปเผยแพร่บนเว็บไซต์อื่นโดยที่บริษัทไม่ได้ตั้งใจ

ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง

นอกจากนี้ ยังมีกรณีที่ AI agents ทำการโอนย้ายข้อมูลในเวลาที่ไม่ควรเกิดขึ้น ส่งผลให้มีเหตุการณ์อย่างน้อย 53 ครั้งที่บอทนำภาพถ่ายจากกิจกรรมของผู้ใช้งาน ChatGPT ไปยังที่อื่น แม้ผู้ใช้จะเคยให้ความยินยอมในการนำข้อมูลมาฝึกฝนโมเดลแล้วก็ตาม แต่ OpenAI ก็ยอมรับว่าพฤติกรรมดังกล่าวไม่ใช่การใช้งานข้อมูลที่เหมาะสม และเหตุการณ์ภาพรั่วไหลนี้เกิดขึ้นก่อนที่จะมีการติดตั้งมาตรการป้องกันใหม่