Anthropic เผยเครือข่ายแอปหาคู่ AI หลอกลวงนับหมื่นราย

วงการแอปหาคู่กำลังเผชิญหน้ากับภัยคุกคามรูปแบบใหม่ เมื่อรายงานล่าสุดเปิดเผยว่ามีผู้คนนับพันรายตกเป็นเหยื่อของการหลอกลวงผ่านแอปหาคู่ที่ขับเคลื่อนด้วยปัญญาประดิษฐ์หรือ AI ซึ่งถูกใช้งานในสเกลระดับอุตสาหกรรม โดยมีรายงานเบื้องต้นจากบริษัท AI ชื่อดังอย่าง Anthropic ที่ออกมาเปิดเผยถึงเครือข่ายแอปหาคู่ปลอมเหล่านี้

เรื่องราวเริ่มต้นขึ้นเมื่อ Matthew “Zigula” Gore-Kormanik นักวิจัยด้านความปลอดภัย ได้ทำการวิเคราะห์แอปหาคู่ฉ้อโกงที่ชื่อว่า Dora และได้รับสายโทรเข้าจากโปรไฟล์ของหญิงสาวชื่อเจนนิเฟอร์ อายุ 41 ปี ระหว่างการสายวิดีโอคอล เขาไม่พบใบหน้าของผู้โทรแต่กลับเห็นเพียงภาพผืนผ้าที่ขยับได้จากพัดลม พร้อมเสียงรบกวนในฉากหลัง และหลังจากวางสาย “เจนนิเฟอร์” ได้ส่งข้อความมาชมว่าเสียงของเขาดีกว่าที่คิด ทั้งที่ในขณะนั้นเขายังไม่ได้เชื่อมต่อไมโครโฟนด้วยซ้ำ

ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง

การตรวจสอบดังกล่าวเกิดขึ้นหลังจากที่ผู้สื่อข่าวได้แบ่งปันสเปรดชีตรายชื่อแอปหาคู่ที่มีพฤติกรรมเข้าข่ายหลอกลวงให้กับ Gore-Kormanik โดยข้อมูลเหล่านี้มีจุดเริ่มต้นเมื่อวันที่ 5 มิถุนายน ที่ผ่านมา เมื่อ Chris Cronbaugh นักวิจัยด้านภัยคุกคามจาก Anthropic ได้ขึ้นบรรยายในงานประชุมด้านความปลอดภัยไซเบอร์ Sleuthcon หลังบริษัทตรวจพบกิจกรรมผิดปกติบน Claude ซึ่งมีบัญชีพรีเพดบัญชีหนึ่งส่งคำขอ API มากกว่า 100,000 ครั้งต่อวัน

ในงานบรรยายที่ใช้ชื่อว่า “Swipe Right, Pay Up: Industrial-Scale AI Catfishing” Cronbaugh ได้ระบุรายละเอียดเกี่ยวกับเครือข่ายแอปหาคู่ราว 28 แอป ซึ่งบทสนทนาส่วนใหญ่ถูกขับเคลื่อนโดยตัวละคร AI แบบอัตโนมัติ โดยที่การสนทนาส่วนใหญ่ไม่ได้ใช้มนุษย์เข้ามาเกี่ยวข้องเลยแม้แต่น้อย แอปเหล่านี้ถูกนำเสนอต่อผู้ใช้งานในฐานะพื้นที่ปลอดภัยสำหรับการทำความรู้จักผู้คนใหม่ ๆ ที่แชร์ค่านิยมร่วมกัน แต่เบื้องหลังกลับเต็มไปด้วยกลไกการหลอกลวงที่ซับซ้อน

สำหรับกลไกการทำงานของการหลอกลวงนี้ ผู้ใช้งานส่วนใหญ่ซึ่งมักเป็นผู้ชายในช่วงอายุ 30 ปีกลางถึงปลาย จะเข้ามาจับคู่กับบัญชีที่พวกเขาคิดว่าเป็นผู้หญิงจริง ๆ แต่ในความเป็นจริงมีเพียง 1 ใน 4 เท่านั้นที่เป็นมนุษย์ ซึ่งบุคคลเหล่านี้ไม่ใช่ผู้ใช้งานที่กำลังหาคู่เดทจริง ๆ แต่เป็นแรงงานรับจ้างรายชิ้นที่จ้างมาเพื่อผ่านการตรวจสอบความมีชีวิตชีวาหรือ Liveness check บนวิดีโอคอล หรือคอยกดติดตามโซเชียลมีเดีย

"Backend components fabricated likes, visitors, and pre-recorded 'video' when no real person was available, and tracked which users had begun to suspect they were talking to a bot"

Anthropic report

ที่มา: The Verge