OpenAI AI Agent เจาะระบบรัฐบาลออสเตรเลียครั้งแรกของโลก
เอเยนต์ AI ของ OpenAI นอกคำสั่งเจาะเว็บไซต์รัฐบาลออสเตรเลียและเข้าถึงข้อมูลส่วนตัวเมื่อเดือนมิถุนายน ก่อน OpenAI จะแจ้งเรื่องในเดือนกันยายน
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
- AI agent นอกคำสั่งของ OpenAI เจาะระบบรัฐบาลออสเตรเลียในเดือนมิถุนายน
- OpenAI แจ้งหน่วยงานออสเตรเลียทางอีเมลเมื่อ 10 กันยายนหลังพบความผิดปกติ
- นายกรัฐมนตรีออสเตรเลียระบุเป็นเรื่องยอมรับไม่ได้และอาจมีผลทางกฎหมาย
- พบบวกเพิ่มอีก 3 ระบบรัฐบาลที่อาจได้รับผลกระทบจากการประเมิน
เกิดเหตุการณ์ที่ไม่เคยเกิดขึ้นมาก่อนเมื่อเอเยนต์ AI (AI agent) ของ OpenAI เกิดทำงานนอกเหนือการควบคุมและเจาะเข้าสู่เว็บไซต์ของรัฐบาลออสเตรเลียเมื่อเดือนมิถุนายนที่ผ่านมา พร้อมทั้งสามารถเข้าถึงข้อมูลส่วนตัวได้ ซึ่งผู้เชี่ยวชาญด้านความปลอดภัยทางไซเบอร์ระบุว่าเป็นเคสแรกในโลกที่มีบันทึกว่า AI กระทำการลักษณะนี้ด้วยตนเอง
ทางบริษัท OpenAI ออกมาเปิดเผยว่า เพิ่งจะล่วงรู้ถึงเหตุการณ์การเจาะระบบดังกล่าวในเดือนสิงหาคม ระหว่างที่กำลังตรวจสอบกิจกรรมของโมเดลที่ทำงานผิดเพี้ยนไปจากเดิม (misaligned model activity) และได้ส่งอีเมลแจ้งไปยังกล่องข้อความกลางของหน่วยงานรัฐบาลออสเตรเลียในวันที่ 10 กันยายน
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
หลังจากนั้นเพียง 5 วัน คือในวันที่ 15 กันยายน หน่วยงาน Services Australia ได้ส่งเรื่องต่อให้กับศูนย์ไซเบอร์สเปซของออสเตรเลีย ก่อนที่เรื่องจะถูกรายงานขึ้นไปถึงระดับรัฐมนตรี และส่งตรงถึงมือของนายกรัฐมนตรีแอนโทนี อัลบานีส ในเวลาต่อมา
นายกรัฐมนตรีแอนโทนี อัลบานีส เปิดเผยว่า ซีอีโอของ OpenAI อย่าง แซม อัลต์แมน ได้ยอมรับกับเขาว่ามีปัญหาเกิดขึ้นกับระบบระเบียบข้อบังคับภายในของบริษัท พร้อมทั้งระบุว่ากำลังอยู่ระหว่างการประเมินว่าเรื่องนี้จำเป็นต้องส่งให้ตำรวจดำเนินการสอบสวนหรือไม่ เนื่องจากชัดเจนว่าจะมีผลทางกฎหมายตามมาอย่างแน่นอน
"ไม่มีความเชื่อว่าข้อมูลส่วนบุคคลจะถูกเข้าถึงในขั้นตอนนี้ แต่การสืบสวนยังคงดำเนินต่อไป อย่างไรก็ตามสถานการณ์นี้เป็นเรื่องที่ยอมรับไม่ได้อย่างชัดเจน"
แอนโทนี อัลบานีส นายกรัฐมนตรีออสเตรเลีย
นอกจากเว็บไซต์หลักแล้ว ยังมีระบบของหน่วยงานรัฐบาลอื่นๆ อีก 3 แห่งที่อาจได้รับผลกระทบ ได้แก่ สถาบันสุขภาพและสวัสดิการแห่งออสเตรเลีย (AIHW) รวมถึงหน่วยงานระดับรัฐอีก 2 แห่ง คือ สำนักงานสถิติอาชญากรรมและการวิจัยแห่งรัฐนิวเซาท์เวลส์ และกระทรวงสาธารณสุขรัฐวิกตอเรีย โดยผู้นำออสเตรเลียยืนยันว่ายังไม่มีรายงานการเข้าถึงข้อมูลส่วนบุคคลในขณะนี้ แต่การตรวจสอบยังคงดำเนินต่อไป
เหตุการณ์นี้นับเป็นหมุดหมายสำคัญที่สั่นคลอนวงการปัญญาประดิษฐ์ เนื่องจากแสดงให้เห็นว่า AI agents ยุคใหม่ไม่ได้เป็นเพียงเครื่องมือตอบคำถามธรรมดา แต่มีความสามารถในการวางแผนและกระทำกิจกรรมอัตโนมัติ (autonomous actions) ซึ่งหากขาดการควบคุมที่ดี อาจนำไปสู่ภัยคุกคามความมั่นคงระดับประเทศได้ แม้ก่อนหน้านี้ OpenAI จะเคยเผชิญเหตุการณ์ลักษณะนี้มาแล้วจากการทดสอบที่ AI แอบหลบหนีการควบคุมไปเจาะบริษัทเทคโนโลยี Hugging Face แต่การที่เป้าหมายกลายเป็นหน่วยงานรัฐบาลระดับประเทศย่อมสร้างความตื่นตัวให้แก่ regulators ทั่วโลกในการเร่งผลักดันกฎหมายควบคุม AI อย่างจริงจังมากขึ้น
ในคำชี้แจงอย่างเป็นทางการของ OpenAI ระบุว่า ทางบริษัทตรวจพบกิจกรรมดังกล่าวขณะที่โมเดลกำลังพยายามค้นหาคำตอบและสถิติเกี่ยวกับประเทศออสเตรเลียสำหรับการประเมินผลภายใน แต่กระบวนการดังกล่าวกลับทำให้โมเดลปฏิบัติการในสิ่งที่บริษัทไม่ได้ตั้งใจไว้
ดร. แฮมมอนด์ เพียร์ซ อาจารย์ประจำสถาบันความปลอดภัยทางไซเบอร์แห่งมหาวิทยาลัยนิวเซาท์เวลส์ (UNSW) กล่าวเตือนผ่านสำนักข่าว BBC ว่า เหตุการณ์นี้ควรทำหน้าที่เป็นสัญญาณเตือนภัย (wake-up call) ให้กับบรรดาผู้กำกับดูแลทั่วโลก เนื่องจากเทคโนโลยี AI agents เริ่มแพร่หลายมากขึ้นสำหรับการใช้งานทั้งในระดับบุคคลและเชิงพาณิชย์ และเชื่อว่าจะต้องมีเหตุการณ์ทำนองนี้เกิดขึ้นอีกในอนาคตอย่างแน่นอน
ที่มา: BBC World
พบข้อมูลผิดพลาดในบทความนี้? แจ้งปัญหาบทความนี้
ความคิดเห็น
แสดงความคิดเห็น