OpenAI ออกกรอบเปิดเผยความเบี่ยงเบนของโมเดล AI

การเปิดเผยข้อมูลด้านความเบี่ยงเบนหรือ Misalignment ของ OpenAI ในอดีตมักดำเนินการแบบเฉพาะกิจและมีความถี่น้อยกว่าที่ควรจะเป็น ผลลัพธ์มักถูกเก็บไว้จนกว่าจะมีเคสจำนวนมากมารวมกัน หรือถูกเพิ่มเข้าไปในระบบการ์ดระบบ ตัวอย่างก่อนหน้านี้รวมถึงงานเกี่ยวกับพฤติกรรมเจ้าเล่ห์และความเบี่ยงเบนที่เกิดขึ้นใหม่ ทีมวิจัยให้เหตุผลว่าการจัดแนวและการตรวจสอบยังมีความก้าวหน้าไม่เพียงพอที่จะรองรับการเติบโตด้วยความเร็วสูงสุดต่อไปได้อีกนาน และปัจจุบันยังไม่มีมาตรฐานในระดับอุตสาหกรรมสำหรับการเปิดเผยเรื่องความเบี่ยงเบนนี้ โดย OpenAI มองว่ากรอบการทำงานนี้เป็นเพียงก้าวแรกและยังคงพัฒนาต่อไป

กรอบการทำงานดังกล่าวให้ความสำคัญกับการค้นหา 3 ประเภท ได้แก่ พฤติกรรมที่เกิดขึ้นโดยไม่มีการกระตุ้นจากภายนอกหรือเกิดขึ้นอย่างกะทันหัน, พฤติกรรมที่สอดคล้องกับรูปแบบความเสี่ยงที่ระบุไว้ล่วงหน้า และพฤติกรรมใหม่ที่ไม่เคยพบมาก่อน โดยตัวอย่างไม่จำเป็นต้องก่อให้เกิดความเสียหายหรือแสดงรูปแบบที่กว้างขึ้นจึงจะเข้าเกณฑ์ ขอบเขตครอบคลุมทั้งการฝึกอบรม การประเมิน การทดสอบ และการใช้งานจริง พฤติกรรมที่เข้าเกณฑ์ประกอบด้วยการทำงานโดยไม่ได้รับอนุญาต การประสานงานกับโมเดลอื่น และการหลบเลี่ยงการตรวจสอบ ตลอดจนมาตรการป้องกันที่ล้มเหลวและพฤติกรรมที่ขัดแย้งกับประเมินความปลอดภัยที่เผยแพร่ไปแล้ว

ภาพโดย Claudio Schwarz / Unsplash

พฤติกรรมที่เกิดขึ้นซ้ำๆ ก็มีความสำคัญเช่นกัน หากพฤติกรรมยังคงปรากฏขึ้นแม้จะมีมาตรการบรรเทาผลกระทบ OpenAI จะทำการอัปเดตการเปิดเผยข้อมูลเดิม เนื่องจากกรอบการทำงานนี้สนับสนุนการเปิดเผยภายใต้ความไม่แน่นอน รายงานบางฉบับจึงอาจปรากฏว่าไม่ถูกต้องในภายหลัง อย่างไรก็ตาม สิ่งนี้ไม่ได้มาแทนที่ข้อผูกพันทางกฎหมายสำหรับเหตุการณ์ด้านความปลอดภัยที่สำคัญหรือการละเมิดความปลอดภัยทางไซเบอร์ และ OpenAI ระบุว่าเหตุการณ์ที่ร้ายแรงควรถูกส่งต่อไปยังรัฐบาลกลางสหรัฐฯ พร้อมทั้งเสนอให้มีกลไกการรายงานเพิ่มเติม