Awas: เครื่องมือตรวจสอบโฆษณาหลอกลวงงานต่างประเทศ
นักพัฒนาแชร์ประสบการณ์สร้าง Awas สำหรับ Nebius Global AI Hackathon หลังระบบค้นหาข้อมูลเว็บพลาดเป้า ดึงข้อมูลเจอแค่ 8 จาก 20 เคส
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
- Awas ถูกสร้างขึ้นสำหรับงาน Nebius Global AI Hackathon เพื่อช่วยตรวจสอบโฆษณางานต่างประเทศ
- ระบบตั้งเป้าเกณฑ์ความครอบคลุมไว้ที่ 12 จาก 20 เคส แต่ผลลัพธ์จริงทำได้เพียง 8 จาก 20 เคส
- ผู้พัฒนาตัดสินใจเปลี่ยนแนวทางให้ระบบตัดสินใจด้วยกฎที่อ้างอิงจากหน้าเว็บทางการแทน
- ผู้สนใจสามารถทดลองใช้งานต้นแบบได้ที่ awas.edycu.dev พร้อมร่วมให้ข้อเสนอแนะ
เรื่องราวเริ่มต้นจากข้อเสนองานที่ถูกส่งต่อกันในกลุ่มแชทครอบครัว เช่น งานแอดมินในกัมพูชาเงินเดือน 15,000 บาท ใช้เพียงวีซ่าท่องเที่ยวและออกค่าตั๋วให้ ซึ่งคนในครอบครัวต้องรีบตัดสินใจว่าจะไปดีหรือไม่ แม้จะมีกฎระเบียบหรือสัญญาณเตือนภัยจากกระทรวง ตำรวจ หรือสถานทูตอยู่แล้ว แต่ข้อมูลเหล่านี้กระจายอยู่ตามเว็บไซต์ต่างๆ จนไม่มีใครสามารถอ่านทั้งหมดได้ทันท่วงทีในยามค่ำคืน
ด้วยเหตุนี้ เอ็ดดี้ คัทจอง จึงได้พัฒนาเครื่องมือที่ชื่อว่า Awas ขึ้นมาสำหรับการแข่งขัน Nebius Global AI Hackathon โดยมีเป้าหมายเพื่อตอบแชทด้วยเอกสารหลักฐาน แทนที่จะเป็นเพียงแค่คะแนนตัวเลข โดยผู้ใช้งานสามารถวางข้อความโฆษณาลงไป แล้วระบบจะแสดงผลลัพธ์ออกมา 3 รูปแบบ ได้แก่ STOP, VERIFY FIRST หรือ NO RED FLAGS FOUND ซึ่งจะมีการย้ำเตือนเสมอว่านี่ไม่ใช่การรับประกันความปลอดภัย
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
อย่างไรก็ตาม ก่อนที่จะมีการรันเบนช์มาร์กครั้งแรก ผู้พัฒนาได้ตั้งเงื่อนไขผ่านว่า Tavily จะต้องดึงข้อมูลประกาศเตือนภัยหรือข่าวที่เกี่ยวข้องขึ้นมาให้ได้อย่างน้อย 12 จาก 20 เคสทดสอบที่เป็นที่รู้จัก ซึ่งคำสัญญานี้คือหัวใจหลักของแนวคิดเดิม แต่เมื่อทดสอบจริง ระบบกลับค้นหาข้อมูลพบเพียง 8 จาก 20 เคสเท่านั้น
นอกจากปัญหาเรื่องอัตราการค้นหาข้อมูลแล้ว ยังมีอุปสรรคสำคัญอีกประการหนึ่งคือ รายงานข่าวหรือประกาศเตือนภัยมักจะไม่ระบุชื่อของนายหน้าหรือบริษัทที่กระทำผิด ในชุดข้อมูลทดสอบพบว่ามีเพียง 1 เคสในชุดพัฒนา, 0 เคสในชุดแรก และ 1 เคสในชุดที่สองเท่านั้นที่มีการระบุชื่อบริษัท ทำให้อัตราการจับคู่บริษัทไม่สามารถวัดผลได้อย่างแม่นยำ
การที่ระบบค้นหาข้อมูลบนเว็บไม่สามารถดึงข้อมูลบริษัทหรือนายหน้าออกมาได้ สะท้อนให้เห็นข้อจำกัดสำคัญของ AI แอดเจนต์ในการตรวจสอบข่าวกรองด้านอาชญากรรมข้ามชาติ ข้อมูลส่วนใหญ่ในภาครัฐมักถูกเก็บไว้ในรูปแบบเอกสารทางการหรือประกาศเตือนภาพรวม ซึ่งไม่มีการระบุชื่อเอเย่นต์เฉพาะเจาะจง การปรับเปลี่ยนสถาปัตยกรรมจากพึ่งพาการค้นหาเว็บแบบเรียลไทม์มาเป็นการใช้กฎข้อบังคับที่ตายตัว (Hard-coded rules) จึงเป็นทางออกที่ช่วยลดความเสี่ยงจากการที่ AI อาจให้ข้อมูลที่ไม่สอดคล้องกับความเป็นจริง
เมื่อเผชิญกับทางเลือกสองทางระหว่างการเงียบไว้แล้วใช้พิทช์เดิมต่อไปกับการปรับขอบเขตใหม่ ผู้พัฒนาเลือกที่จะปรับขอบเขต (Rescope) และเผยแพร่ตัวเลขที่แท้จริงออกมา โดยผลการตัดสินใจในปัจจุบันจะมาจากกฎที่อ้างอิงจากหน้าเพจทางการเท่านั้น ส่วนการค้นหาบนเว็บถูกเปลี่ยนสถานะให้เป็นเพียงบริบทเสริมสำหรับครอบครัว และไม่อนุญาตให้นำมาใช้เป็นอินพุตในการตัดสินใจของกฎอีกต่อไป
โครงการนี้รันผ่านระบบ Nebius Serverless Job โดยรันบนโค้ดที่ถูกแท็กไว้ว่า code-freeze ซึ่งทุกตัวเลขสถิติถูกบันทึกไว้ในไฟล์ DEMO.md และโฟลเดอร์ bench/ ภายในคลังโค้ดของโครงการ และรายการทั้งหมดพร้อมบันทึกการเรียกใช้งานถูกเก็บไว้ใน FEEDBACK.md เพื่อความโปร่งใสในการตรวจสอบ
ท้ายที่สุดนี้ Awas ยังคงเป็นเพียงโครงการต้นแบบด้านการวิจัย (Research Prototype) ไม่ใช่คำปรึกษาทางกฎหมายและไม่ใช่บริการอย่างเป็นทางการจากรัฐ ผู้ที่สนใจสามารถนำข้อความประกาศรับสมัครงานในกลุ่มแชท (โดยลบเบอร์โทรศัพท์และชื่อออกก่อน) ไปทดลองวางระบบได้ที่เว็บไซต์ awas.edycu.dev เพื่อร่วมให้ฟีดแบคว่าระบบยังมีจุดใดที่ต้องปรับปรุงแก้ไขต่อไป
ที่มา: Dev.to
พบข้อมูลผิดพลาดในบทความนี้? แจ้งปัญหาบทความนี้
ความคิดเห็น
แสดงความคิดเห็น