กองทัพสหรัฐฯ จัดซื้อเอเจนต์ AI ทำลายตัวเองก่อนถูกตรวจจับ
กองทัพสหรัฐฯ เปิดประมูลโครงการ ECHOTRIBBLE จัดหาเอเจนต์ AI โจมตีอัตโนมัติที่สามารถแทรกซึม คัดลอกตัวเอง และลบหลักฐานทิ้งก่อนถูกตรวจจับ
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
- กองทัพสหรัฐฯ เปิดประมูลโครงการ ECHOTRIBBLE หาซื้อเอเจนต์ AI โจมตีอัตโนมัติ
- ระบบมีความสามารถในการแทรกซึม คัดลอกตัวเอง และทำลายข้อมูลทิ้งก่อนถูกตรวจจับ
- เป้าหมายการโจมตีระบุชัดเจนทั้ง iPad, macOS และ Windows
- การไร้ซึ่งหลักฐานดิจิทัลสร้างความท้าทายครั้งใหญ่ให้กับการตรวจสอบทางนิติวิทยาศาสตร์
กองทัพสหรัฐฯ ได้เปิดกระบวนการจัดซื้อจัดจ้างสำหรับโครงการที่มีชื่อว่า ECHOTRIBBLE ซึ่งเป็นกรอบการทำงานของเอเจนต์ AI โจมตีอัตโนมัติ เอกสารรายละเอียดโครงการระบุการทำงานที่น่าตกใจว่า เอเจนต์เหล่านี้มีความสามารถในการแทรกซึม คัดลอกตัวเองไปยังเครื่องเป้าหมายอื่นๆ Neutralize เป้าหมาย และทำลายตัวเองทิ้งก่อนที่ระบบรักษาความปลอดภัยจะตรวจพบ โดยระบบปฏิบัติการเป้าหมายที่ระบุในเอกสารได้แก่ iPad, macOS และ Windows ซึ่งแนวทางออกแบบหลักคือการทำงานโดยมีมนุษย์เข้าไปควบคุมดูแลให้น้อยที่สุด หรือ minimal human oversight
แม้ว่าแนว2ความคิดเรื่องเอเจนต์ที่คัดลอกตัวเองจะไม่ใช่เรื่องใหม่ แต่จุดเปลี่ยนสำคัญอยู่ที่วงจรขั้นตอนสุดท้าย นั่นคือการทำลายตัวเองก่อนที่ใครจะทันสังเกตเห็น สิ่งนี้ทำให้ร่องรอยการโจมตีกลายเป็นเป้าหมายหลักของการป้องกัน ปกติแล้วการสืบสวนเหตุการณ์ละเมิดความปลอดภัยจะทำได้จากสิ่งที่เหลืออยู่บนอุปกรณ์ปลายทาง เช่น ไบนารี กระบวนการทำงาน การเชื่อมต่อเครือข่าย หรือไฟล์ที่ถูกแตะต้อง แต่หากเอเจนต์สามารถลบตัวเองพร้อมทั้งกวาดล้างบันทึกเหตุการณ์บนอุปกรณ์ปลายทางไปพร้อมกัน ก็จะไม่หลงเหลืออะไรให้วิเคราะห์ได้เลย
การที่กองทัพสหรัฐฯ จัดซื้อเอเจนต์โจมตีที่ลบร่องรอยได้เองสะท้อนให้เห็นถึงการยยยกระดับสงครามไซเบอร์สู่อีกขั้น ที่ไม่ใช่แค่การเจาะระบบเพื่อขโมยข้อมูล แต่เป็นการทำลายกระบวนการพิสูจน์หลักฐาน (Forensics) เพื่อขัดขวางการระบุตัวตนผู้โจมตี (Attribution) ทำให้ผู้ดูแลระบบไม่สามารถเอาผิดทางกฎหมายหรือหาต้นตอที่แท้จริงได้ ซึ่งสร้างแรงกดดันมหาศาลให้กับทีมรักษาความปลอดภัยเครือข่ายทั่วโลกที่ต้องพึ่งพาบันทึกข้อมูลเพื่อวิเคราะห์ภัยคุกคาม
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
ในสัปดาห์เดียวกันนั้นเอง ไมโครซอฟท์ได้ขยายโครงการ Project Perception ด้วยการเปิดตัว Guardian Agents ซึ่งนำเสนอแนวทางที่ตรงกันข้ามอย่างสิ้นเชิง โดยทำหน้าที่กำหนดตัวตนเฉพาะให้กับเอเจนต์แต่ละตัวในระบบ Entra Agent ID มีระบบบันทึกเหตุการณ์แบบรวมศูนย์ และมีกลไกควบคุมเมื่อเอเจนต์ทำงานออกนอกกรอบ ซึ่งเครื่องมือนี้สามารถค้นหารูปแบบการทำงานได้ถึง 60 ชนิด รวมถึง Claude Code และ Codex สะท้อนให้เห็นว่าตลาดกำลังเคลื่อนไปในสองทิศทางพร้อมๆ กัน ฝั่งหนึ่งเลือกซื้อเอเจนต์ที่หายตัวไปอย่างไร้ร่องรอย แต่อีกฝั่งกลับขายเอเจนต์ที่ทิ้งร่องรอยตัวตนและบันทึกข้อมูลไว้ให้ตรวจสอบ
"ความปลอดภัยและการป้องกันในยุคของ AI เป็นเรื่องของทุกคนที่ใช้งานมัน ไม่คิดเช่นนั้นหรือ?"
Sammie Deblas
ปัญหาเรื่องความรับผิดทางกฎหมายยังคงเป็นคำถามที่ไร้คำตอบ Dark Reading ได้หยิบยกประเด็นนี้ขึ้นมาพูดถึงเช่นกันว่า หากเอเจนต์เป็นผู้ก่อเหตุละเมิดความปลอดภัย ความรับผิดชอบทางเทคนิคตกเป็นของมนุษย์ แต่ความรับผิดชอบทางกฎหมายยังไม่มีการกำหนดไว้อย่างชัดเจน OpenAI และ Anthropic ยังคงปฏิเสธที่จะแสดงความคิดเห็นในประเด็นว่าผู้ให้บริการโมเดลจะต้องร่วมรับผิดชอบต่อการละเมิดหรือไม่ และเมื่อเอเจนต์สามารถทำลายตัวเองได้ คำถามทางกฎหมายก็จะยิ่งทวีความซับซ้อนขึ้นไปอีกขั้น
ที่มา: Dev.to
พบข้อมูลผิดพลาดในบทความนี้? แจ้งปัญหาบทความนี้
ความคิดเห็น
แสดงความคิดเห็น