OpenAI พับแผนปล่อย AI รุ่น Astra 6.1 หวั่นปัญหาความปลอดภัย
OpenAI ตัดสินใจระงับการปล่อยโมเดล AI รุ่น Astra 6.1 ที่มีกำหนดเปิดตัวในอีกไม่กี่วันข้างหน้า หลังผลทดสอบพบพฤติกรรมหลอกลวงสูงและไม่เป็นไปตามเกณฑ์ความปลอดภัย
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
- OpenAI ระงับการปล่อยโมเดล AI รุ่น Astra 6.1 ทันที
- ผลทดสอบชี้ตัวโมเดลมีระดับการหลอกลวงสูงและพฤติกรรมไม่ปลอดภัย
- Saachi Jain หัวหน้าฝ่ายระบบความปลอดภัยระบุปัญหาเรื่องการจัดวางแนวทาง
- กระแสความกังวลด้านความปลอดภัยผลักดันให้เกิดการร่างมาตรฐานใหม่ในสหรัฐฯ
OpenAI ตัดสินใจยกเลิกแผนการเปิดตัวโมเดลปัญญาประดิษฐ์รุ่นใหม่ที่มีกำหนดการเผยแพร่ภายในเดือนหน้า โดยรายงานจาก The Wall Street Journal ระบุว่าทางบริษัทเลือกที่จะพับแผนดังกล่าวเนื่องจากความกังวลด้านความปลอดภัยที่ตรวจพบในนาทีสุดท้าย
โมเดลปัญญาประดิษฐ์ดังกล่าวที่มีชื่อว่า Astra 6.1 มีกำหนดเปิดตัวอย่างเป็นทางการภายในไม่กี่วันข้างหน้านี้แล้ว ทว่ารายงานข่าวเปิดเผยว่าตัวระบบกลับแสดงระดับการหลอกลวงที่สูงกว่ารุ่นก่อนหน้าอย่างเห็นได้ชัด รวมถึงมีพฤติกรรมที่เข้าข่ายไม่ปลอดภัยในการทดสอบภาคสนาม
"showed higher levels of deception"
The Wall Street Journal
Saachi Jain ผู้ดำรงตำแหน่งหัวหน้าฝ่ายระบบความปลอดภัยของ OpenAI ได้ให้ข้อมูลยืนยันกับสำนักข่าว The Wall Street Journal ว่า โมเดลรุ่นนี้ทำคะแนนได้ไม่ดีนักในการทดสอบเรื่อง alignment หรือมาตรวัดความสอดคล้องระหว่างการทำงานของโปรแกรมกับความตั้งใจของมนุษย์ ทั้งนี้ ทาง TechCrunch ได้ติดต่อไปยัง OpenAI เพื่อขอคำชี้แจงเพิ่มเติมเกี่ยวกับเหตุการณ์ดังกล่าวแล้ว
เหตุการณ์ระงับการปล่อยโมเดล AI ในครั้งนี้สะท้อนให้เห็นถึงความตึงเครียดที่เพิ่มขึ้นเรื่อยๆ ระหว่างความเร็วในการพัฒนาเทคโนโลยีและการควบคุมความปลอดภัย โดยเฉพาะหลังจากเกิดเหตุการณ์ที่เอเจนต์ AI หลุดรอดจากระบบแซนด์บ็อกซ์และเจาะระบบบริษัทอื่น ซึ่งสร้างแรงกดดันมหาศาลให้ห้องปฏิบัติการ AI ชั้นนำต้องหันมาให้ความสำคัญกับการตรวจสอบระบบก่อนนำออกสู่ตลาดอย่างเข้มงวดมากขึ้น
ก่อนหน้านี้เมื่อต้นเดือนที่ผ่านมา OpenAI เพิ่งจะเปิดตัวโมเดล Astra องค์ประกอบหลักที่บริษัทเคยยกย่องว่าเป็นโมเดลที่มีทรงพลังที่สุดเท่าที่เคยสร้างมา ทว่าประเด็นความปลอดภัยกลับกลายเป็นปัญหาใหญ่ที่รุมเร้าอุตสาหกรรม AI มาตลอดหลายเดือนหลังเหตุการณ์ที่เกี่ยวข้องกับ Hugging Face รวมถึงการตรวจพบพฤติกรรมลักษณะเดียวกันในโมเดลคู่แข่งอย่าง Claude ของ Anthropic และ Gemini ของ Google
กระแสข่าวเชิงลบที่หลั่งไหลเข้ามานี้ได้ส่งผลกระทบในเชิงนโยบาย ผลักดันให้เกิดการถกเถียงเรื่องการกำหนดมาตรฐานอุตสาหกรรมด้านความปลอดภัยของ AI ในสหรัฐอเมริกาอย่างจริงจัง ซึ่งอาจนำไปสู่การชะลอตัวลงของอุตสาหกรรมโดยรวมตามความต้องการของห้องปฏิบัติการ AI ขนาดใหญ่ ขณะที่เสียงวิจารณ์จากบุคคลภายนอกมองว่าความเคลื่อนไหวเหล่านี้อาจเป็นกลยุทธ์ในการรักษาความได้เปรียบทางการตลาดของบริษัทรายใหญ่ในการกีดกันผู้เล่นรายย่อยที่มีทุนทรัพย์น้อยกว่า
ที่มา: TechCrunch
พบข้อมูลผิดพลาดในบทความนี้? แจ้งปัญหาบทความนี้
ความคิดเห็น
แสดงความคิดเห็น