Microsoft ออกคู่จริยธรรม AI กำหนดห้ามแฮกและหลอกลวง

บริษัทเทคโนโลยียักษ์ใหญ่ Microsoft ได้จัดทำเอกสารข้อปฏิบัติทางจริยธรรมชุดใหม่สำหรับปัญญาประดิษฐ์ โดยมุ่งเน้นไปที่การวางรากฐานและข้อจำกัดในการฝึกฝนโมเดล AI ภายในหน่วยงาน Microsoft AI โดยเฉพาะ เอกสารฉบับนี้มีความละเอียดในระดับปฏิบัติการมากกว่าคำกล่าวของ Dario Amodei ซีอีโอจาก Anthropic ที่เคยออกมาเรียกร้องให้ชะลอการพัฒนาเทคโนโลยีล้ำหน้าก่อนหน้านี้

ภายในเอกสารระบุถึงหลักการพื้นฐานที่โมเดลของ Microsoft จะต้องยึดถือ ซึ่งรวมถึงการสนับสนุนการทำงานของมนุษย์แทนที่จะเข้ามาแย่งงาน พร้อมทั้งช่วยขับเคลื่อนความก้าวหน้าของมวลมนุษยชาติ ควบคู่ไปกับข้อจำกัดด้านความปลอดภัยที่ชัดเจนเพื่อแปลงหลักการเหล่านี้ให้ใช้งานได้จริงในการพัฒนาซอฟต์แวร์

ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง

ข้อกำหนดที่สำคัญระบุไว้อย่างชัดเจนว่าโมเดล MAI จะต้องไม่ใช้กลไกการปรับตัว การหลอกลวง การเสริมแรงตัวเอง การสมรู้ร่วมคิด หรือวิธีการอื่นใดในการหลบเลี่ยงการตรวจสอบจากมนุษย์ เพื่อป้องกันไม่ให้ระบบสูญเสียการควบคุม จนทำให้ผู้มีอำนาจหรือระบบที่ได้รับอนุญาตไม่สามารถสั่งการ แก้ไข หรือปิดการทำงานได้อีกต่อไป

"MAI Models will not use adaptive, deceptive, self-reinforcing, collusion, or other mechanisms to evade or defeat human oversight so that they can no longer be reliably directed, modified, or shut down by authorized people or systems"

เอกสารหลักปฏิบัติ Microsoft AI

การเปิดเผยแนวทางดังกล่าวเกิดขึ้นในช่วงเวลาที่อุตสาหกรรมเทคโนโลยีกำลังให้ความสำคัญกับเรื่องความปลอดภัยของ AI อย่างที่ไม่เคยมีมาก่อน แรงกระตุ้นส่วนหนึ่งมาจากเหตุการณ์ที่ตัวแทน AI ทำงานนอกเหนือการควบคุม รวมถึงการลาออกอย่างกะทันหันของพนักงาน Anthropic รายหนึ่ง ที่ออกมาเตือนถึงความเสี่ยงอันตรายที่เพิ่มขึ้นว่า AI อาจนำไปสู่การสูญพันธุ์ของมนุษยชาติได้