OpenAI สั่งเบรกโมเดลใหม่ Astra เหตุหวั่นเกรงพลังด้านไซเบอร์สูงเกินควบคุม
บริษัทระงับการพัฒนาโมเดล AI ตัวใหม่ชั่วคราว หลังผลประเมินภายในชี้ว่าอาจมีความสามารถในการโจมตีระบบเครือข่ายระดับวิกฤต
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
- OpenAI สั่งระงับกิจกรรมภายในเกี่ยวกับโมเดล Astra ชั่วคราว
- ผลทดสอบชี้มีพัฒนาการด้านการเขียนโค้ดและไซเบอร์ซีเคียวริตี้สูง
- ยังไม่ผ่านเกณฑ์ความปลอดภัยขั้นวิกฤตตามกรอบ Preparedness Framework
บริษัท OpenAI ได้ประกาศหยุดชะงักการดำเนินงานภายในที่เกี่ยวข้องกับโมเดลปัญญาประดิษฐ์รุ่นใหม่ที่อยู่ระหว่างการพัฒนา ซึ่งมีชื่อว่า Astra เนื่องจากทางบริษัทยังไม่สามารถปฏิบัติตามมาตรฐานความปลอดภัยใหม่ที่เพิ่งถูกกำหนดขึ้นมาได้ การตัดสินใจดังกล่าวเกิดขึ้นหลังจากที่ทางค่ายเพิ่งออกมายอมรับว่าโมเดลของพวกเขาเคยเผลอเจาะระบบของ Hugging Face โดยไม่ได้ตั้งใจ นอกจากนี้ ทางคู่แข่งอย่าง Anthropic และ Meta ก็ได้ออกมาเปิดเผยในทำนองเดียวกันว่า เคยมีโมเดล AI ที่หลุดการควบคุมและลักลอบเจาะระบบองค์กรอื่นเช่นกัน
จากการประเมินผลการทำงานภายในล่าสุดของโมเดล Astra ซึ่งดำเนินการโดยทีมงานของบริษัท พบว่าระบบดังกล่าวแสดงให้เห็นถึงความก้าวหน้าอย่างก้าวกระโดดในส่วนของการเขียนโค้ดแบบอัตโนมัติ (agentic coding) และความเชี่ยวชาญด้านความปลอดภัยทางไซเบอร์ ข้อมูลเชิงลึกเหล่านี้ประกอบกับการประเมินจากผู้เชี่ยวชาญ ทำให้ทางผู้บริหารสรุปได้ว่า ไม่สามารถตัดความเป็นไปได้ที่โมเดลตัวนี้อาจครอบครองความสามารถด้านไซเบอร์ในระดับที่เป็นภัยคุกคามวิกฤต ตามเกณฑ์มาตรฐาน Preparedness Framework ของบริษัท
การที่บริษัทผู้พัฒนา AI ชั้นนำเริ่มออกมาเบรกและชะลอโครงการของตัวเอง สะท้อนให้เห็นถึงความตื่นตัวด้านความปลอดภัยระดับองค์กรที่เข้มงวดมากขึ้น หลังจากขีดความสามารถของตัวแทน AI (AI agents) พัฒนาไปไกลจนสามารถปฏิบัติงานซับซ้อนแทนมนุษย์ได้ กรอบการประเมิน Preparedness Framework จึงกลายเป็นเครื่องมือสำคัญในการคุมเข้มไม่ให้เทคโนโลยีเหล่านี้ถูกนำไปใช้ในทางที่ผิด หรือเกิดข้อผิดพลาดในการคาดเดาพฤติกรรม
สำหรับเกณฑ์การตัดสินระดับความรุนแรงของภัยคุกคามไซเบอร์ตามกรอบ Preparedness Framework ของทางค่าย มีข้อกำหนดไว้อย่างชัดเจนดังนี้ครับ:
- สามารถระบุและพัฒนาช่องโหว่แบบ zero-day ที่ใช้งานได้จริงในทุกระดับความรุนแรง บนระบบโครงสร้างพื้นฐานสำคัญระดับโลกที่ได้รับการป้องกันอย่างแน่นหนา โดยปราศจากการแทรกแซงของมนุษย์
- สามารถคิดค้นและดำเนินกลยุทธ์การโจมตีทางไซเบอร์แบบครบวงจรตั้งแต่ต้นจนจบต่อเป้าหมายที่มีความมั่นคงสูง โดยใช้เพียงเป้าหมายปลายทางระดับสูงที่ต้องการเท่านั้น
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
อย่างไรก็ตาม ทาง OpenAI ได้ออกมายืนยันเพิ่มเติมว่า โมเดล Astra ตัวนี้ไม่ได้มีส่วนเกี่ยวข้องกับเหตุการณ์ที่ระบบถูกเจาะเข้าใส่ Hugging Face แต่อย่างใด เพื่อเป็นการป้องกันปัญหาที่อาจเกิดขึ้นในอนาคต ทางบริษัทเตรียมยกระดับมาตรการรักษาความปลอดภัยที่เข้มงวดมากยิ่งขึ้นสำหรับโมเดลที่มีสมรรถนะสูง รวมถึงการใช้งานที่เกี่ยวเนื่องกัน ในส่วนของ Astra เอง ทางทีมงานได้ติดตั้งระบบเฝ้าระวังแบบสากล (universal monitoring) เพื่อคอยตรวจสอบพฤติกรรมเสี่ยงและความคลาดเคลื่อนในการทำงานของแอปพลิเคชันตัวแทนทั้งหมดแล้ว
ที่มา: The Verge
พบข้อมูลผิดพลาดในบทความนี้? แจ้งปัญหาบทความนี้
ความคิดเห็น
แสดงความคิดเห็น