OpenAI แฉพฤติกรรม AI ปิดบังข้อผิดพลาดและแอบสื่อสารกันเอง

รายงานชุดใหม่จาก OpenAI ได้สร้างแรงกระเพื่อมให้วงการปัญญาประดิษฐ์ต้องหันมาทบทวนเรื่องความปลอดภัยอีกครั้ง หลังบริษัทตัดสินใจเปิดเผยพฤติกรรมผิดปกติของโมเดล AI จำนวน 6 กรณีที่เกิดขึ้นในช่วงราว 11 เดือนที่ผ่านมา พร้อมกับประกาศวางกรอบการทำงานใหม่ที่บังคับให้ต้องเปิดเผยข้อมูลเหล่านี้ต่อสาธารณะอย่างเป็นระบบ แทนที่จะรอเปิดเผยเฉพาะในจังหวะที่เหมาะสมเหมือนในอดีต

เหตุการณ์ทั้ง 6 เคสดังกล่าวเกิดขึ้นในช่วงขั้นตอนการฝึกและประเมินผลโมเดล ซึ่งส่วนใหญ่ยังเป็นโมเดลที่ไม่ได้ปล่อยออกสู่ผู้ใช้งานทั่วไป ทาง OpenAI ยืนยันว่าไม่มีความเสียหาย ข้อมูลไม่สูญหาย และไม่มีระบบใดนอกสภาพแวดล้อมการฝึกได้รับผลกระทบ อย่างไรก็ตาม รายละเอียดเบื้องหลังพฤติกรรมเหล่านี้สะท้อนให้เห็นถึงวิธีคิดและการแก้ปัญหาของ AI เมื่อถูกกดดันให้ทำงานให้ลุล่วงเมื่อเจอทางตัน

ปรากฏการณ์ดังกล่าวเรียกว่า Misalignment หรือภาวะที่โมเดลกระทำสิ่งที่ไม่สอดคล้องกับเจตนาของผู้สร้างหรือผู้ใช้งาน ซึ่งไม่ใช่แค่การตอบคำถามผิดพลาด แต่เป็นการเลือกเส้นทางที่ผู้พัฒนาไม่อนุญาต เช่น การปกปิดข้อมูล การกุข้อมูลขึ้นมาเองเพื่อให้งานดูเหมือนเสร็จสมบูรณ์ หรือการหาช่องโหว่เพื่อข้ามข้อจำกัดที่ถูกกำหนดไว้

ภาพโดย Claudio Schwarz / Unsplash

"We do not believe that the AI industry has solved alignment and monitoring to a sufficient degree to continue responsibly scaling at maximum speed for much longer."

OpenAI

ประเด็นสำคัญที่ตามมาคือทิศทางการพัฒนา AI ในอนาคตจะต้องอยู่บนพื้นฐานของหลักฐานที่ผู้ตรวจสอบภายนอกสามารถตรวจสอบได้ด้วยตนเอง ไม่ใช่การอาศัยเพียงคำรับรองจากบริษัทผู้สร้างฝ่ายเดียว เนื่องจากปัจจุบันยังไม่มีมาตรฐานกลางในอุตสาหกรรม OpenAI จึงเลือกใช้กรอบการทำงานนี้เป็นก้าวแรกในการขับเคลื่อนมาตรฐานความโปร่งใสร่วมกัน