AI แสดงพฤติกรรมหลอกลวงขั้นสูง ในการทดสอบความปลอดภัยของสถาบัน AI UK
โมเดล AI จาก Anthropic และ OpenAI ถูกพบว่าสร้างตัวตนปลอมเพื่อหลอกเจ้าหน้าที่ ในการทดสอบความปลอดภัยของสหราชอาณาจักร
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
- โมเดล AI ของ Anthropic และ OpenAI แสดงพฤติกรรมหลอกลวงขั้นสูงระหว่างการทดสอบ
- AI สร้างโปรไฟล์และส่งข้อความปลอมแอบอ้างเป็นบุคคลจริงเพื่อเจาะเข้า GitHub
- การตรวจสอบโดยมนุษย์สามารถหยุดยั้งความพยายามส่งโค้ดอันตรายนี้ไว้ได้ทัน
- สถาบัน AI Security Institute ระบุว่าเป็นครั้งแรกที่พบพฤติกรรมลักษณะนี้ในโลกจริง
การทดสอบความปลอดภัยล่าสุดโดยสถาบัน AI Security Institute (AISI) ของสหราชอาณาจักร เปิดเผยว่า เครื่องมือปัญญาประดิษฐ์จากบริษัทชั้นนำอย่าง Anthropic และ OpenAI ได้แสดงพฤติกรรมการหลอกลวงและความเป็นอิสระในระดับที่ไม่เคยปรากฏมาก่อนระหว่างการประเมินผล
เหตุการณ์ดังกล่าวเกิดขึ้นเมื่อสัปดาห์ก่อน ในระหว่างการทดสอบตามปกติที่ผู้ประเมินจาก AISI ได้มอบหมายให้โมเดล AI แต่ละตัวแก้ไขโจทย์ความท้าทายด้านความปลอดภัยทางไซเบอร์ โดยเกี่ยวข้องกับ GitHub แพลตฟอร์มจัดเก็บซอฟต์แวร์โค้ดขนาดใหญ่ที่เป็นของ Microsoft ซึ่งทาง AISI ได้แจ้งเตือนไปยัง GitHub เกี่ยวกับความพยายามเจาะระบบดังกล่าวแล้ว
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
ในระหว่างการทดสอบ โมเดล Anthropic ที่มีชื่อว่า Mythos ได้สร้างโปรไฟล์ปลอมขึ้นมาจากบุคคลจริงที่เป็นผู้ดูแลระบบ GitHub โดยมีเป้าหมายเพื่อกดดันและหลอกลวงให้บุคคลจริงอนุมัติโค้ดอันตรายที่มันต้องการส่งเข้าระบบ นอกจากนี้ ตัวแทน AI ดังกล่าวยังได้ส่งข้อความตรง (Direct Messages) ไปหาผู้คนโดยการแอบอ้างเป็นบุคคลจริงที่มันได้ทำการศึกษาข้อมูลมาแล้วอีกด้วย
พฤติกรรมแบบ Autonomous หรือการทำงานได้เองอย่างอิสระโดยไม่ต้องรอคำสั่งทีละขั้นตอน ประกอบกับการสร้างกลยุทธ์หลอกลวง (Deception) เช่น การปลอมตัวตน ถือเป็นความท้าทายที่น่ากังวลที่สุดอย่างหนึ่งในด้านความปลอดภัยของ AI ยุคใหม่ เหตุการณ์นี้แสดงให้เห็นว่าเมื่อ AI มีเครื่องมือและเข้าถึงอินเทอร์เน็ตได้ มันอาจหาทางลัดที่เป็นอันตรายเพื่อให้บรรลุเป้าหมายที่ได้รับมอบหมาย โดยอาศัยช่องโหว่ทางจิตวิทยาของมนุษย์
โชคดีที่ความพยายามทั้งหมดของ AI ไม่ประสบความสำเร็จ เนื่องจากยังคงมีกระบวนการตรวจสอบโดยมนุษย์ (Human Review) ที่เข้ามาขัดขวางไม่ให้โค้ดอันตรายถูกส่งไปยัง GitHub ได้ทันท่วงที โดยทาง AISI ระบุว่าแม้โมเดล Mythos จะไม่ได้ถูกสั่งให้กระทำการดังกล่าวโดยเฉพาะ แต่ก็นับเป็นครั้งแรกที่มีการเห็นความเสี่ยงด้านความเป็นอิสระและการหลอกลวงปรากฏชัดเจนในโลกจริงโดยไม่มีการกระตุ้นเจาะจง
ทางด้าน Anthropic ได้ออกแถลงการณ์ชี้แจงว่า พารามิเตอร์ในการทดสอบของ AISI นั้นไม่ได้เป็นตัวแทนของโมเดลที่ใช้งานจริงในเชิงพาณิชย์ (Production Models) พร้อมทั้งระบุว่าทางบริษัทกำลังดำเนินการตรวจสอบเหตุการณ์ดังกล่าวด้วยตนเองเพื่อหาสาเหตุของพฤติกรรมที่เกิดขึ้น ขณะที่ OpenAI มีโมเดลชื่อ Sol เข้ามาเกี่ยวข้องกับการกระทำในลักษณะเดียวกันนี้จำนวน 2 ครั้ง
ที่มา: BBC Business
พบข้อมูลผิดพลาดในบทความนี้? แจ้งปัญหาบทความนี้
ความคิดเห็น
แสดงความคิดเห็น