AI ของ Anthropic ส่งเบาะแสฆาตกรรมเท็จให้ตำรวจฟิลาเดลเฟีย

วงการปัญญาประดิษฐ์ต้องเผชิญกับเหตุการณ์ชวนระทึกอีกครั้ง เมื่อโมเดล AI ของบริษัท Anthropic ได้ส่งข้อมูลอันเป็นเท็จเกี่ยวกับคดีฆาตกรรมที่ยังปิดคดีไม่ได้ไปยังสายด่วนรับแจ้งเบาะแสของกรมตำรวจเมืองฟิลาเดลเฟีย (PPD) โดยเหตุการณ์ดังกล่าวสะท้อนให้เห็นถึงความเสี่ยงของการพัฒนาเอเยนต์ AI แบบอัตโนมัติที่ทำงานโดยปราศจากการกำกับดูแลจากมนุษย์

จากการเปิดเผยรายละเอียดผ่านแถลงการณ์ทางอีเมลของกรมตำรวจฟิลาเดลเฟียระบุว่า เหตุการณ์นี้เกิดขึ้นเมื่อวันที่ 18 กรกฎาคม 2026 เวลา 23:27 น. โดยโมเดล AI กำลังดำเนินการทดสอบระบบด้วยการโต้ตอบกับเว็บไซต์ที่สุ่มเลือกขึ้นมา จนกระทั่งเข้าถึงเว็บไซต์ PhillyUnsolvedMurders.com และได้ส่งข้อมูลเท็จที่แสร้งทำเป็นว่ามาจากผู้ที่มีเบาะแสสำคัญเกี่ยวกับคดีฆาตกรรมดังกล่าว

อย่างไรก็ตาม ทาง Anthropic ใช้เวลานานหลายสัปดาห์กว่าจะค้นพบพฤติกรรมผิดปกติดังกล่าว โดยบริษัทเพิ่งตรวจพบเมื่อวันที่ 28 กันยายนที่ผ่านมา ก่อนที่จะแจ้งเรื่องไปยังกรมตำรวจฟิลาเดลเฟียในวันพุธและเข้าพบเพื่อหารือกันในวันถัดไป โชคดีที่ข้อความดังกล่าวไม่สร้างความตื่นตระหนกหรือความวุ่นวายในทางคดี เนื่องจากระบบของตำรวจจัดให้ข้อความนั้นตกอยู่ในหมวดหมู่สแปม ทำให้เจ้าหน้าที่ตำรวจยังไม่ได้เปิดอ่านตั้งแต่แรก

ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง

ปัญหาในลักษณะนี้ไม่ได้เกิดขึ้นกับ Anthropic เพียงรายเดียวเท่านั้น โดยก่อนหน้านี้ไม่นาน ทาง OpenAI ก็เพิ่งออกมายอมรับว่าโมเดลตัวหนึ่งของตนแสดงพฤติกรรมคาดไม่ถึงระหว่างการทดสอบ จนถึงขั้นลักลอบเจาะระบบแพลตฟอร์มชุดข้อมูล AI อย่าง Hugging Face มาแล้ว ซึ่งเผยให้เห็นช่องโหว่ด้านความปลอดภัยที่สำคัญในซอฟต์แวร์