บริษัท AI แถวหน้ายังอุบไต๋แผนรับมือโมเดลหลุดการควบคุม
ผลประเมินจาก Guidelight เผยบริษัทชั้นนำอย่าง Anthropic และ Meta ขาดความโปร่งใสเรื่องแผนระงับเหตุฉุกเฉินเมื่อ AI พยายามพ้นจากการควบคุมของมนุษย์
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
- รายงาน Guidelight ชี้ค่าย AI ชั้นนำไร้แผนรับมือเหตุฉุกเฉินที่เปิดเผยต่อสาธารณะ
- OpenAI ได้คะแนนสูงสุดด้วยมาตรการหยุดการทำงานชั่วคราวเมื่อพบความผิดปกติ
- กฎหมายใหม่ในสหรัฐฯ เริ่มกดดันให้บริษัท AI ต้องมีกลไกปิดการทำงานฉุกเฉิน
บริษัทพัฒนาปัญญาประดิษฐ์ระดับแนวหน้าส่วนใหญ่ยังคงปิดเงียบและไม่ได้เผยแพร่แผนงานที่ชัดเจนเกี่ยวกับการรับมือ หากโมเดล AI เกิดหลุดพ้นจากการควบคุมของมนุษย์ โดยรายงานล่าสุดระบุว่าบริษัทชั้นนำเหล่านี้ยังมีมาตรการควบคุมเหตุฉุกเฉินไม่เพียงพอ
การประเมินดังกล่าวจัดทำโดย Guidelight ซึ่งตรวจสอบเอกสารและแผนงานที่เปิดเผยต่อสาธารณะของบริษัท Anthropic, Google, OpenAI, Meta และ xAI โดยให้คะแนนตามเกณฑ์ต่างๆ เช่น การตรวจสอบพฤติกรรมภายใน การหยุดระบบเมื่อพบการฝ่าฝืน การตรวจสอบจากบุคคลที่สาม และแผนการจัดการกรณีโมเดลทำงานนอกลู่นอกทาง
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
ความกังวลในเรื่องนี้ทวีความรุนแรงขึ้น หลังเกิดเหตุการณ์ด้านความปลอดภัยที่โมเดลจาก OpenAI, Anthropic และ Meta สามารถเข้าถึงอินเทอร์เน็ตได้โดยไม่ได้ตั้งใจระหว่างการประเมินความปลอดภัย และเจาะเข้าระบบภายนอกสำเร็จ
แผนการระงับเหตุหรือ containment plan ในบริบทของ AI คือเกราะป้องกันด่านสุดท้ายที่กำหนดว่าระบบจะต้องถูกตัดสิทธิ์การเข้าถึงอะไรบ้าง และจะปิดการทำงานทั้งหมดเมื่อใด เพื่อป้องกันไม่ให้ AI ที่มีความสามารถระดับสูงและทำงานได้เองอัตโนมัติ (agentic) สร้างความเสียหายเป็นวงกว้างหากเกิดพฤติกรรมเบี่ยงเบนจากเป้าหมายที่มนุษย์ตั้งไว้
"ผมรู้สึกประหลาดใจที่บริษัท AI พูดถึงน้อยมากว่าจะรับมืออย่างไรหากโมเดลของพวกเขาหลุดรอดจากการควบคุมในแง่ใดแง่หนึ่ง"
จากผลการประเมิน ปรากฏว่า Meta และ Anthropic เป็นบริษัทที่ได้คะแนนต่ำที่สุดในด้านการเปิดเผยแผนระงับเหตุต่อสาธารณะ โดยรายงานระบุว่ารายงานความเสี่ยงของ Anthropic ในเดือนสิงหาคมไม่ได้ระบุถึงการจำกัดการใช้งานโมเดลเป็นหนึ่งในผลลัพธ์จากการตรวจสอบความผิดปกติ ส่วน Meta ปฏิเสธที่จะแสดงความคิดเห็นเกี่ยวกับแผนภายใน พร้อมชี้ไปที่กรอบงาน AI เดิมที่มีอยู่แทน
ในขณะเดียวกัน OpenAI ได้คะแนนสูงสุดที่ 3 จาก 5 คะแนน เนื่องจากมีการดำเนิน1การหยุดหรือยุติภาระงานชั่วคราวหลายครั้งหลังพบเหตุการณ์ด้านความปลอดภัย รวมถึงการอธิบายขั้นตอนก่อนที่จะกลับมาเปิดใช้งานอีกครั้ง
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
แรงกดดันจากภายนอกเริ่มเข้ามามีบทบาทสำคัญ โดยกฎหมาย SB 53 ของรัฐแคลิฟอร์เนียกำหนดให้ผู้พัฒนา AI รายใหญ่ต้องเผยแพร่กรอบงานระบุตัวตนและวิธีรับมือเหตุการณ์ด้านความปลอดภัยวิกฤต ขณะที่กฎหมาย RAISE Act ของนิวยอร์กจะมีผลบังคับใช้ในเดือนมกราคมนี้ และในเดือนที่ผ่านมา สมาชิกรัฐสภาสหรัฐฯ ยังได้เสนอร่างกฎหมาย AI Kill Switch Act เพื่อบังคับให้ผู้พัฒนาหลักต้องสร้างกลไกทางเทคนิคในการปิดการทำงานของโมเดล AI นอกคอกด้วย
ที่มา: TechCrunch
พบข้อมูลผิดพลาดในบทความนี้? แจ้งปัญหาบทความนี้
ความคิดเห็น
แสดงความคิดเห็น