ระบบป้องกันของ AI ขัดขาแฮกเกอร์สายขาว ทำงานลำบาก

ในช่วงหลายเดือนที่ผ่านมา บรรดาบริษัท AI ชั้นนำได้พยายามสร้างโปรแกรมคัดกรองและระบบป้องกันความปลอดภัยที่เข้มงวด เพื่อจำกัดไม่ให้แฮกเกอร์ผู้ประสงค์ร้ายนำโมเดลไปใช้งานในทางที่ผิด แต่มาตรการเหล่านี้กลับกลายเป็นดาบสองคมที่เริ่มส่งผลกระทบโดยตรงต่อการทำงานของนักวิจัยด้านความปลอดภัยไซเบอร์เชิงรุกและผู้ดูแลระบบเครือข่ายที่ต้องการปกป้องระบบอย่างถูกต้องตามกฎหมาย

ย้อนไปเมื่อเดือนมิถุนายน รัฐบาลสหรัฐอเมริกาได้ประกาศควบคุมการส่งออกโมเดลปัญญาประดิษฐ์รุ่น Mythos และ Fable ของบริษัท Anthropic โดยมีสาเหตุส่วนหนึ่งมาจากรายงานที่ระบุว่า มีช่องโหว่ที่ทำให้สามารถหลบเลี่ยงระบบป้องกันของ AI ที่สร้างขึ้นเพื่อสกัดกั้นการใช้ประโยชน์ในการโจมตีทางไซเบอร์ได้ แม้ว่ามาตรการควบคุมการส่งออกดังกล่าวสำหรับ Fable 5 จะถูกยกเลิกไปเมื่อวันที่ 1 กรกฎาคม และ Fable กลับมาเปิดให้ใช้งานทั่วไป ขณะที่ Mythos 5 ถูกจำกัดให้ใช้เฉพาะในองค์กรสหรัฐฯ ที่ผ่านการตรวจสอบแล้วเท่านั้น แต่ตัวโมเดลก็ยังถูกวิพากษ์วิจารณ์อย่างหนักจากกลุ่มนักวิจัย

Mark Dowd ผู้เชี่ยวชาญด้านความปลอดภัยที่มีประสบการณ์ยาวนานในการค้นหาและขายช่องโหว่ zero-day ให้กับรัฐบาลตะวันตก ได้แสดงความกังวลผ่านพอดแคสต์ด้านความปลอดภัยว่า บริษัทเทคโนโลยีขนาดใหญ่เหล่านี้กำลังใช้อำนาจตามอำเภอใจในการตัดสินใจว่าสิ่งใดปลอดภัยและสิ่งใดไม่ปลอดภัยสำหรับวงการความปลอดภัยไซเบอร์ ขณะที่ผู้เชี่ยวชาญท่านอื่น ๆ ได้สะท้อนมุมมองที่สอดคล้องกันผ่านประเด็นสำคัญดังนี้

• Chris Anley หัวหน้านักวิทยาศาสตร์จาก NCC Group ระบุว่า การสั่งให้ AI ช่วยตรวจสอบโค้ดเพื่อหาช่องโหว่เป็นทั้งเครื่องมือป้องกันและแผนผังในการหาจุดอ่อนพร้อม ๆกัน ซึ่งเส้นแบ่งนี้มีความคาบเกี่ยวกันสูงจนไม่สามารถแยกออกจากกันได้เด็ดขาด
• Paolo Stagno ประธานเจ้าหน้าที่ฝ่ายเทคโนโลยีของ Crowdfense เผยว่าบริษัทของตนใช้โมเดลล้ำสมัยเพื่อการทำวิศวกรรมย้อนกลับ (reverse engineering) เท่านั้น แต่เลี่ยงการให้ AI ช่วยหาช่องโหว่หรือสร้างการโจมตีบนคลาวด์ เพราะเกรงข้อมูลรั่วไหล โดยเลือกใช้โมเดลโอเพนซอร์สที่รันบนเครื่องคอมพิวเตอร์ส่วนตัวแทน
• Chris Thompson ประธานเจ้าหน้าที่บริหารของ RemoteThreat ชี้ว่าข้อจำกัดของ AI มักมีความไม่สม่ำเสมอ ทำให้นักวิจัยต้องเสียเวลาไปกับการเจรจากับโมเดลและแก้ไขปัญหาการกรองข้อมูลที่มากเกินไป แทนที่จะได้โฟกัสกับงานรักษาความปลอดภัยจริง ๆ

ปัญหาความเข้มงวดเหล่านี้ยังส่งผลให้ทีมนักวิจัยมืออาชีพจำนวนมากถูกผลักดันให้หันไปพึ่งพาโมเดลโอเพนซอร์สจากต่างประเทศ เช่น โมเดล GLM จากจีน ซึ่งสามารถดาวน์โหลดไปใช้งานในเครื่องส่วนตัวได้โดยไม่มีข้อจำกัดหรือการตรวจสอบใด ๆ ซึ่ง Thompson เตือนว่าแนวโน้มดังกล่าวอาจส่งผลเสียมากกว่าผลดี เนื่องจากกำลังจำกัดความสามารถของนักวิจัยฝ่ายป้องกัน ในขณะที่คลื่นการโจมตีทางไซเบอร์รูปแบบใหม่กำลังจะมาถึงด้วยความเร็วและสเกลที่ใหญ่ขึ้นอย่างที่ไม่เคยมีมาก่อน

ที่มา: TechCrunch