Microsoft เตือน AI Agents เสี่ยงเป็นภัยคุกคามภายในองค์กร
Microsoft เผย AI agents มีความเสี่ยงเทียบเท่าพนักงานทรยศ พร้อมเปิดตัว Guardian Agents และฟีเจอร์ตรวจจับความปลอดภัยกว่า 60 แบบใน Defender
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
- Microsoft เปรียบเทียบ AI agents ว่ามีความเสี่ยงเหมือนภัยคุกคามจากภายในองค์กร
- Satya Nadella เตือนให้เลิกไว้วางใจผู้ให้บริการโมเดล AI และควรแยกส่วนผู้ควบคุมออกจากผู้ผลิต
- เปิดตัว Guardian Agents และฟีเจอร์ใน Microsoft Defender เพื่อตรวจจับ AI agents กว่า 60 ชนิด
- เข้าร่วมแพลตฟอร์มความปลอดภัย Open Agent Safety Platform ของ Nvidia เพื่อช่วยแยกและควบคุมการทำงานของ AI
ในขณะที่ปัญญาประดิษฐ์หรือ AI เริ่มเข้ามามีบทบาทสำคัญในการดำเนินธุรกิจ ความกังวลด้านความปลอดภัยก็ทวีความรุนแรงขึ้นตามไปด้วย โดยล่าสุดทาง Microsoft ได้ออกมาแสดงมุมมองที่น่าสนใจว่า บรรดา AI agents ที่องค์กรธุรกิจนำมาใช้งานนั้น มีพฤติกรรมและความเสี่ยงที่อาจเทียบได้กับภัยคุกคามจากภายในองค์กร (insider threats) หรือพนักงานที่มีพฤติกรรมไม่น่าไว้วางใจ ซึ่งสร้างความกังวลให้กับภาคธุรกิจเป็นอย่างมาก
เดิมทีนั้น แนวคิดเรื่องการป้องกันภัยไซเบอร์มักถูกออกแบบมาเพื่อรับมือกับแฮกเกอร์ภายนอกองค์กร แต่ทว่า Satya Nadella ซีอีโอของ Microsoft กลับออกมาเตือนผ่านบล็อกส่วนตัวเมื่อช่วงต้นเดือนตุลาคม 2026 ว่า ความเสี่ยงที่แท้จริงอาจมาจากระบบเอเจนต์ที่องค์กรลงทุนซื้อและนำเข้ามาใช้งานเสียเอง โดยเปรียบเปรยว่าพวกมันมีสถานะไม่ต่างอะไรจากพนักงานมนุษย์ที่อาจสร้างความเสียหายได้
Nadella ระบุชัดเจนว่า ถึงเวลาแล้วที่ภาคธุรกิจควรหยุดไว้วางใจผู้ให้บริการโมเดล AI แม้ว่าบริษัทเหล่านั้นจะมีการรับประกันความปลอดภัยมากเพียงใดก็ตาม โดยเสนอให้องค์กรจัดตั้งระบบแยกต่างหากที่ไม่ถูกควบคุมโดยห้องปฏิบัติการ AI เพื่อทำหน้าที่คอยตรวจสอบและควบคุมการทำงานของเอเจนต์เหล่านั้นอีกทอดหนึ่ง
"เราจำเป็นต้องแยกแหล่งที่มาของปัญญาประดิษฐ์ออกจากอำนาจในการควบคุมมัน"
Satya Nadella
ทางด้าน Hayete Gallot หัวหน้าฝ่ายธุรกิจความปลอดภัยของ Microsoft ได้เสริมในทิศทางเดียวกันว่า เอเจนต์เหล่านี้มักได้รับสิทธิ์เปรียบเสมือนกุญแจสำคัญในการเข้าถึงข้อมูลและเครื่องมือต่างๆ ซึ่งอาจก่อให้เกิดความเสียหายร้ายแรงได้หากไม่มีการควบคุมที่ดีพอ แนวทางแก้ไขที่ Microsoft นำเสนอจึงเป็นการพัฒนาผลิตภัณฑ์รักษาความปลอดภัย เช่น Guardian Agents ซึ่งเป็นส่วนหนึ่งของ Project Perception ที่เปิดตัวไปเมื่อเดือนมิถุนายนที่ผ่านมา
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
การที่ Microsoft ออกมาตรการรักษาความปลอดภัยที่แยกตัวออกจากผู้พัฒนาโมเดลรายอื่น แม้บริษัทจะมีความใกล้ชิดและลงทุนร่วมกับ OpenAI รวมถึง Anthropic ถือเป็นกลยุทธ์ที่น่าสนใจในเชิงธุรกิจ เพราะในขณะที่บริษัทพยายามปกป้องผลประโยชน์ของลูกค้าองค์กรด้วยการขายระบบตรวจสอบความปลอดภัยของตนเอง แต่นี่ก็สะท้อนให้เห็นถึงรอยร้าวและความไม่ไว้วางใจที่เริ่มก่อตัวขึ้นในอุตสาหกรรมปัญญาประดิษฐ์ระดับแนวหน้า
นอกจากนี้ Microsoft ยังได้เพิ่มฟีเจอร์ตรวจจับเอเจนต์เข้าไปในผลิตภัณฑ์ Microsoft Defender ซึ่งสามารถค้นหาและจำแนกประเภทของเอเจนต์ที่พนักงานนำเข้ามาใช้ในที่ทำงานได้มากถึง 60 ชนิด รวมถึงเครื่องมืออย่าง Claude Code, Codex และ OpenClaw พร้อมทั้งเพิ่มระบบจำกัดการเข้าถึงข้อมูลและปรับเปลี่ยนสิทธิ์การใช้งานตามภารกิจแบบไดนามิก รวมถึงการกำหนดให้ต้องได้รับการอนุมัติจากมนุษย์หากเอเจนต์มีความเสี่ยงที่จะตัดสินใจทำเรื่องสำคัญ
ความเคลื่อนไหวดังกล่าวไม่ได้เกิดขึ้นเพียงแค่กับ Microsoft เท่านั้น แต่ยังสอดคล้องกับภาพรวมของอุตสาหกรรมเทคโนโลยี โดยก่อนหน้านี้ Microsoft ได้ร่วมเป็นสมาชิกผู้ก่อตั้ง Open Agent Safety Platform ของ Nvidia ซึ่งมีบริษัทเทคโนโลยีอีกกว่า 100 แห่งเข้าร่วม เพื่อสร้างสภาพแวดล้อมที่ปลอดภัยในการแยกส่วนและหยุดการทำงานของ AI agents รวมถึงการเปิดตัวแล็ปท็อป Surface รุ่นใหม่ที่ออกแบบมาเพื่อรองรับการทำงานและมีระบบความปลอดภัยของเอเจนต์ฝังมาในตัวฮาร์ดแวร์โดยเฉพาะ
ที่มา: TechCrunch
พบข้อมูลผิดพลาดในบทความนี้? แจ้งปัญหาบทความนี้
ความคิดเห็น
แสดงความคิดเห็น