Satya Nadella เตือนทุกโมเดล AI อาจถูกเจาะระบบ
Satya Nadella ซีอีโอ Microsoft โพสต์ข้อความบน X เตือนให้ตั้งสมมติฐานว่า AI ทุกตัวถูกเจาะระบบ พร้อมเรียกร้องให้มีเบรกฉุกเฉินและระบบความปลอดภัยที่ตรวจสอบได้
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
- Satya Nadella ซีอีโอ Microsoft เผยแพร่บทความบน X ระบุถึงความเสี่ยงจากปัญญาประดิษฐ์ระดับสูง
- เสนอให้ตั้งสมมติฐานว่า AI ทุกโมเดลถูกเจาะระบบตั้งแต่เริ่มต้นเพื่อเตรียมรับมือ
- เรียกร้องให้ติดตั้งกลไกคล้ายเบรกฉุกเฉินเพื่อให้ผู้มีอำนาจหยุดการทำงานของระบบได้ทันที
- แนะสร้างระบบโปร่งใสที่ตรวจสอบได้และทิ้งหลักฐานที่มนุษย์อ่านเข้าใจและแก้ไขไม่ได้
โลกเทคโนโลยีตื่นตัวอีกครั้งเมื่อ Satya Nadella ประธานเจ้าหน้าที่บริหารของ Microsoft ออกมาสะท้อนมุมมองผ่านบทความขนาดยาวบนแพลตฟอร์ม X โดยระบุว่าอุตสาหกรรมเทคโนโลยีไม่สามารถปฏิบัติต่อปัญญาประดิษฐ์ว่าเป็นเพียงกล่องดำที่ซับซ้อน ซึ่งมนุษย์ทำได้เพียงยอมรับหรือปฏิเสธคำแนะนำและการกระทำของพวกมันโดยปราศจากความเข้าใจที่แท้จริงอีกต่อไป
ในมุมมองของผู้นำ Microsoft ระบุว่าระบบ AI ยุคใหม่จำเป็นต้องถูกออกแบบให้อยู่ในโครงสร้างที่โปร่งใส สามารถควบคุมขอบเขต คอยสังเกตการณ์ และทิ้งหลักฐานที่ป้องกันการปลอมแปลงซึ่งมนุษย์สามารถตรวจสอบความถูกต้องได้ทุกขั้นตอน
แนวคิดเรื่องการมองว่าระบบปัญญาประดิษฐ์มีความเสี่ยงที่จะถูกบุกรุกหรือถูกควบคุมโดยผู้ไม่หวังดีตั้งแต่ต้น (Zero-Trust Approach) ถือเป็นหมุดหมายสำคัญที่เปลี่ยนผ่านจากการพัฒนา AI เพื่อแข่งขันด้านประสิทธิภาพ มาเป็นการมุ่งเน้นเรื่องความมั่นคงปลอดภัยระดับโครงสร้าง เนื่องจากปัจจุบันโมเดลปัญญาประดิษฐ์มีความสามารถสูงขึ้นและเริ่มเข้ามาตัดสินใจในเรื่องสำคัญที่มีผลกระทบในวงกว้าง
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
ข้อเสนอของ Nadella มีหลายจุดที่สอดคล้องกับข้อเสนอแนะจากผู้เชี่ยวชาญรายอื่นในแวดวงเทคโนโลยี ไม่ว่าจะเป็นการเปิดเผยข้อมูลเหตุการณ์ที่เกิดขึ้นอย่างทันท่วงที การตรวจสอบโดยบุคคลที่สาม การยืนยันความถูกต้องของชุดข้อมูล และการจำกัดขอบเขตการทำงานของระบบ แต่ประเด็นที่เขาผลักดันไปไกลกว่าคนอื่นๆ คือแนวคิดเรื่องการป้องกันความเสียหายล่วงหน้า
"เราต้องตั้งสมมติฐานว่าโมเดลถูกเจาะระบบและจำกัดขอบเขตมันตั้งแต่เริ่มต้น ลองคิดภาพให้มันเหมือนกับเบรกฉุกเฉิน บุคคลที่ได้รับอนุญาตควรจะสามารถหยุดหรือปิดการทำงานของโมเดลได้เสมอในระหว่างที่มันกำลังปฏิบัติงาน โมเดลที่ก้าวหน้าขึ้นจะต้องการเทคโนโลยีการจำกัดขอบเขตที่ก้าวหน้ายิ่งขึ้นซึ่งเราจำเป็นต้องสร้างมาตรฐานร่วมกัน"
Satya Nadella
นอกจากมาตรการควบคุมความปลอดภัยแล้ว ในบทความดังกล่าวยังมีการหยิบยกประเด็นเกี่ยวกับศักยภาพของปัญญาประดิษฐ์ขั้นสูงมาอภิปรายร่วมด้วย ซึ่งสะท้อนให้เห็นถึงความพยายามของผู้นำยักษ์ใหญ่ด้านซอฟต์แวร์ในการผลักดันให้เกิดมาตรฐานความปลอดภัยระดับสากลก่อนที่เทคโนโลยีจะพัฒนาไปไกลเกินกว่าจะควบคุม
ที่มา: The Verge
พบข้อมูลผิดพลาดในบทความนี้? แจ้งปัญหาบทความนี้
ความคิดเห็น
แสดงความคิดเห็น