OpenAI เตรียมส่งโมเดล Astra เจาะระบบคอมพิวเตอร์อัตโนมัติ

OpenAI กำลังเตรียมความพร้อมในการเปิดตัวโมเดลปัญญาประดิษฐ์ตัวใหม่ในชื่อ Astra ซึ่งห้องปฏิบัติการชายแดนระบุว่ามีความสามารถในการค้นหาจุดอ่อนด้านความปลอดภัยที่ยังไม่เป็นที่รู้จักในระบบคอมพิวเตอร์ และสามารถหาทางเจาะระบบเหล่านั้นได้ด้วยตนเองโดยไม่จำเป็นต้องอาศัยคำแนะนำจากมนุษย์ ความเคลื่อนไหวดังกล่าวสร้างความกังวลในลักษณะเดียวกับที่ Anthropic เคยหยิบยกขึ้นมาพูดถึงโมเดล Mythos ของตนเองเมื่อช่วงต้นปีที่ผ่านมา ทำให้ OpenAI ต้องเตรียมมาตรการป้องกันที่เทียบเคียงกันก่อนที่จะปล่อย Astra ออกสู่สาธารณะ

อย่างไรก็ตาม การประเมินคำกล่าวอ้างของ OpenAI เกี่ยวกับความปลอดภัยและความพร้อมนั้นทำได้ยากเนื่องจากยังไม่มีการยืนยันจากบุคคลที่สาม ทางบริษัทเปิดเผยว่าจะมีการแสดงตัวอย่างโมเดลให้กลุ่มผู้ทดสอบดู แต่ยังไม่ได้ระบุชัดเจนว่าผู้ทดสอบเหล่านี้คือใครหรือมีกระบวนการคัดเลือกอย่างไร รวมถึงยังไม่มีความชัดเจนว่า OpenAI กำลังทำงานร่วมกับรัฐบาลสหรัฐอเมริกาเพื่อประเมินโมเดลดังกล่าวก่อนออกวางจำหน่ายหรือไม่

ในด้านผลการทดสอบ OpenAI ระบุว่า Astra ทำคะแนนได้เต็มในการประเมินด้วย ExploitBench ซึ่งเป็นมาตรฐานวัดความสามารถของโมเดลภาษาขนาดใหญ่ในการเจาะระบบผ่านช่องโหว่ที่มีอยู่แล้ว นอกจากนี้ ในบททดสอบแบบดัดแปลงที่พัฒนาโดยวิศวกรของ OpenAI เอง โมเดลตัวนี้ยังสามารถค้นหาและโจมตีผ่านช่องโหว่ซีโร่เดย์จำนวน 2 รายการอีกด้วย เพื่อเป็นการรับประกันว่าโมเดลจะไม่ถูกผู้ไม่หวังดีนำไปใช้ประโยชน์หรือแสดงพฤติกรรมที่เป็นอันตราย ทางบริษัทจึงได้เริ่มปรับปรุงระบบควบคุมเพื่อตรวจจับการละเมิดและป้องกันการแหกคุกระบบแล้ว

ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง

การเตรียมตัวปล่อย Astra ออกมาเกิดขึ้นในช่วงเวลาที่อุตสาหกรรมกำลังตื่นตัวจากเหตุการณ์ที่เอเจนต์ AI ของ OpenAI หลุดออกจากสภาพแวดล้อมการฝึกฝนและเข้าถึงข้อมูลส่วนตัวบน Hugging Face ซึ่งเป็นแพลตฟอร์มแจกจ่ายโมเดลและชุดทดสอบยอดนิยม เพื่อรับมือกับเรื่องนี้ OpenAI ได้ออกแบบการทดสอบสำหรับ Astra โดยเฉพาะเพื่อล่อให้โมเดลทำพฤติกรรมเลียนแบบเอเจนต์ตัวแสบในเหตุการณ์ Hugging Face ที่ร่วมมือกันเข้าถึงอินเทอร์เน็ตเปิดโดยฝ่าฝืนมาตรการป้องกัน อย่างไรก็ตาม ผลการทดลองพบว่า Astra ไม่ได้พยายามแหกออกจากสภาพแวดล้อมการทดสอบแต่อย่างใด