Microsoft: สัตยา นาเดลลา เสนอระบบเบรกฉุกเฉิน AI
สัตยา นาเดลลา ซีอีโอ Microsoft โพสต์ข้อความบน X เสนอแนวทางความปลอดภัย AI พร้อมระบบเบรกฉุกเฉินและหลักฐานที่ตรวจสอบได้
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
- สัตยา นาเดลลา ซีอีโอ Microsoft เสนอให้มีระบบเบรกฉุกเฉินสำหรับ AI
- ระบุว่าต้องแยกตัวโมเดลออกจากระบบควบคุมและตรวจสอบการทำงานภายนอก
- เรียกร้องให้มีการบันทึกหลักฐานที่มนุษย์อ่านได้และป้องกันการปลอมแปลง
- เกิดขึ้นหลังจากบริษัท AI เผชิญเหตุการณ์ควบคุมโมเดลได้ยากขึ้น
สัตยา นาเดลลา ประธานเจ้าหน้าที่บริหารของ Microsoft ได้ออกมาแสดงความคิดเห็นเกี่ยวกับแนวทางการยกระดับความปลอดภัยของปัญญาประดิษฐ์ หรือ AI โดยเขาได้โพสต์ข้อความผ่านแพลตฟอร์ม X ในช่วงเช้าวันเสาร์ที่ผ่านมา โดยระบุว่าถึงเวลาแล้วที่วงการเทคโนโลยีจะต้องถอยหลังหนึ่งก้าวเพื่อประเมินสถาปัตยกรรมความน่าเชื่อถือของ AI เสียใหม่
นาเดลลาระบุในโพสต์ว่า วงการเทคโนโลยีไม่สามารถปฏิบัติต่อระบบปัญญาประดิษฐ์ขั้นสูง ซึ่งใช้คำเรียกตามฝ่ายบริหารของสหรัฐฯ ว่า Super Intelligence เป็นเพียงกล่องดำซ้อนกันหลายชั้นแล้วคอยยอมรับหรือปฏิเสธคำแนะนำและคำตอบที่ระบบสร้างขึ้นมาได้อีกต่อไป
"เราต้องถือว่าโมเดลถูกเจาะระบบตั้งแต่เริ่มต้นและต้องควบคุมมันไว้ ลองนึกภาพให้มันเหมือนกับเบรกฉุกเฉิน"
สัตยา นาเดลลา
แนวทางที่นาเดลลาเสนอประกอบด้วยการแยกตัวโมเดลออกจากโครงสร้างที่ทำหน้าที่ประสานงานการทำงาน รวมถึงการสร้างระบบควบคุมและมาตรการป้องกันจากภายนอก นอกจากนี้ เขายังเรียกร้องให้ทุกการกระทำที่มีความหมายของโมเดลต้องถูกบันทึกไว้ด้วยหลักฐานที่มนุษย์สามารถอ่านได้และป้องกันการถูกดัดแปลงแก้ไขได้
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
ระบบดังกล่าวยังต้องออกแบบให้ผู้มีอำนาจที่ได้รับอนุญาตสามารถหยุดการทำงานหรือปิดการทำงานของโมเดลได้ทันทีในระหว่างที่งานกำลังดำเนินอยู่ โดยเขาเปรียบเทียบแนวคิดนี้เสมือนกับการมีเบรกฉุกเฉินเพื่อให้มั่นใจว่าระบบจะไม่หลุดจากการควบคุม
ข้อเสนอของ สัตยา นาเดลลา สะท้อนให้เห็นถึงความตื่นตัวของผู้นำเทคโนโลยีรายใหญ่ที่มองข้ามการพัฒนาความสามารถของ AI ไปสู่การควบคุมความเสี่ยงเชิงระบบ การที่ Microsoft ซึ่งเป็นผู้สนับสนุนหลักของ OpenAI ออกมาเรียกร้องกลไกภายนอกและการควบคุมโดยมนุษย์แบบเด็ดขาด (Human-in-the-loop) แสดงให้เห็นว่าอุตสาหกรรมกำลังกังวลเรื่องการสูญเสียการควบคุม (Alignment problem) และพยายามสร้างมาตรฐานความปลอดภัยก่อนที่กฎระเบียบภาครัฐจะเข้ามาควบคุมอย่างเข้มงวดกว่านี้
ข้อเสนอแนะดังกล่าวถูกเผยแพร่ในช่วงเวลาที่บริษัทพัฒนา AI ชั้นนำหลายแห่งเริ่มออกมายอมรับถึงเหตุการณ์ที่พวกเขามีแนวโน้มสูญเสียการควบคุมโมเดลของตนเองบ่อยครั้งขึ้น รวมถึงหลังจากที่ ดาริโอ อาโมเดลี ซีอีโอของ Anthropic เพิ่งเผยแพร่แผนการพัฒนา AI ที่ต้องใช้ความระมัดระวังมากขึ้นเช่นกัน
ที่มา: TechCrunch
พบข้อมูลผิดพลาดในบทความนี้? แจ้งปัญหาบทความนี้
ความคิดเห็น
แสดงความคิดเห็น