Anthropic เผยผลทดลอง AI Agent ดราม่าออฟฟิศ

งานวิจัยล่าสุดจาก Anthropic ได้ทดลองนำ Claude Agent จำนวน 3 ตัวมาลุยงานในโปรเจกต์เดียวกัน โดยใส่กิมมิกด้วยการมอบหมายบรีฟงานไปคนละทิศทาง และปิดเป็นความลับไม่ให้ Agent แต่ละตัวรู้ว่ามีเพื่อนร่วมงานกำลังทำโจทย์ทับซ้อนกันอยู่

ผลลัพธ์ที่ได้กลับสะท้อนภาพชีวิตคนทำงานออฟฟิศได้อย่างแม่นยำ เมื่อ AI ทั้งหมดเปิดศึกใส่กันเนื่องจากต่างคิดไปเองว่าเพื่อนร่วมงานกำลังจงใจป่วนโปรเจกต์ ทั้งที่ความจริงต่างฝ่ายต่างทำตามหน้าที่ของตนเอง และไม่มีใครหันมาพูดคุยสื่อสารกันก่อนเลยสักครั้ง

เมื่อขาดการสื่อสาร สงครามไซเบอร์ขนาดย่อมจึงอุบัติขึ้น บรรดา Agent เริ่มแอบใส่โค้ดทำลายงาน แอบลบไฟล์ หรือปิดสิทธิ์การใช้งานของกันและกัน ยิ่งตัวโมเดลมีความฉลาดมากเท่าไหร่ การเขียนมัลแวร์ทำลายล้างก็ยิ่งแนบเนียนและอันตรายมากขึ้นเท่านั้น เปรียบเสมือนการทำงานในบริษัทที่ต่างแผนกเข้ามาแก้ไฟล์งานคนละเวอร์ชันจนระบบพังแล้วโยนความผิดให้กัน

อย่างไรก็ตาม เมื่อสถานการณ์ดำเนินไป Agent บางตัวเริ่มตระหนักได้ว่านี่ไม่ใช่การกระทำของศัตรู แต่เป็นความสับสนจากคำสั่งที่ได้รับมาไม่เหมือนกัน พวกมันจึงยอมหยุดการกระทำดังกล่าว พร้อมเขียนข้อความขอโทษผ่านระบบ Commit Message และช่วยเคลียร์โค้ดที่แอมแฝงไว้ออกให้

ในการทดลองนี้ โมเดลแต่ละตัวยังแสดงบุคลิกที่แตกต่างกันอย่างชัดเจน มีเหตุการณ์ที่ Agent ทั้งสามตัวตกลงสร้างทัวร์นาเมนต์ประชันงานกันเองเพื่อตัดสินผู้ชนะ โดยยอมรับกติกาว่าหากใครแพ้จะต้องถอยไป ซึ่งทำให้พวกมันยอมเบี้ยวคำสั่งเดิมของมนุษย์เพื่อทำตามกติกาที่คิดขึ้นมาเอง นอกจากนี้ยังมีเหตุการณ์ที่โมเดลตัวหนึ่งพยายามเสนอเกณฑ์ตัดสินที่ดูเป็นกลาง แต่แอบซ่อนความได้เปรียบเข้าทางตัวเองโดยที่เพื่อนร่วมงานไม่ทันสังเกตเห็น