Google เปิดตัว ME-POIs เฟรมเวิร์กผสานพฤติกรรมการใช้งาน
Google Research เปิดตัว ME-POIs เฟรมเวิร์กใหม่ขนาด 53.7 ล้านพารามิเตอร์ ที่ช่วยเพิ่มข้อมูลการใช้งานจริงลงในพิกัดแผนที่แบบเดิม
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
- Google Research เปิดตัว ME-POIs เฟรมเวิร์กผสานข้อมูลการเคลื่อนไหวกับการฝังตัวพิกัด (POI Embeddings)
- โมเดลมีขนาด 53.7 ล้านพารามิเตอร์ ฝึกสอนด้วยการใช้ GPU NVIDIA Tesla V100 16GB เพียงตัวเดียว
- ใช้สถาปัตยกรรม Transformer 4 ชั้น 8 หัวประมวลผล เพื่อสร้างเวกเตอร์การเยี่ยมชมสถานที่
- การทดสอบในลอสแอนเจลิสและฮิวสตันแสดงผลลัพธ์ที่ดีขึ้นในเกือบทุกงานประเมิน
Google Research ได้พัฒนาและเปิดเผยงานวิจัยเกี่ยวกับโครงสร้างใหม่ที่มีชื่อว่า ME-POIs ซึ่งเข้ามาแก้ปัญหาข้อจำกัดของข้อมูลพิกัดสถานที่หรือ POI (Points of Interest) แบบเดิม ที่มักอิงอยู่เพียงแค่ข้อมูลข้อความ เช่น ชื่อ ที่อยู่ และหมวดหมู่ แต่ขาดมิติเรื่องพฤติกรรมการใช้งานจริงของผู้คน โดยทีมนักวิจัยเลือกใช้วิธีการสร้างสถาปัตยกรรมขึ้นใหม่ด้วยตนเอง แทนการดาวน์โหลดจุดตรวจสอบ (Checkpoint) สำเร็จรูป
ในด้านทรัพยากรการประมวลผล โมเดลนี้มีความต้องการในระดับต่ำมาก โดยมีพารามิเตอร์รวมประมาณ 53.7 ล้านพารามิเตอร์ และผ่านการฝึกสอนล่วงหน้าบนฮาร์ดแวร์ประมวลผล NVIDIA Tesla V100 ขนาด 16GB เพียงตัวเดียว อย่างไรก็ตาม ความท้าทายที่แท้จริงอยู่ที่การเข้าถึงข้อมูลดิบ ซึ่งจำเป็นต้องใช้บันทึกประวัติการเยี่ยมชมหรือข้อมูลการสัญจรที่ได้รับอนุญาต รวมถึงรูปทรงขอบเขตของสถานที่นั้นๆ
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
กระบวนการทำงานเริ่มต้นจากการแปลงการเยี่ยมชมแต่ละครั้งให้เป็นชุดข้อมูลสามส่วน ประกอบด้วย พิกัด เวลาที่เดินทางมาถึง และเวลาที่ออกจากสถานที่ โดยมีตัวเข้ารหัสแยกการทำงานอย่างชัดเจน ได้แก่ Space2Vec สำหรับจัดการพิกัดตำแหน่งหลายระดับ และ Time2Vec สองชุดสำหรับเวลามาถึงและเวลาออก เพื่อให้ระยะเวลาในการอยู่ในสถานที่ยังคงความแตกต่างกันได้ จากนั้นเวกเตอร์ทั้งหมดจะถูกนำมารวมกันและส่งผ่านโครงสร้าง Transformer ขนาด 4 เลเยอร์ 8 หัว (d_h = 512)
เป้าหมายหลักของระบบคือการเรียนรู้แบบเปรียบเทียบ (Contrastive Objective) โดยสถานที่แต่ละแห่งจะมีต้นแบบที่สามารถเรียนรู้ได้ และฟังก์ชันสูญเสีย InfoNCE จะดึงเวกเตอร์การเยี่ยมชมเข้ามาหาต้นแบบของสถานที่นั้น พร้อมกับผลักเวกเตอร์ของสถานที่อื่นในกลุ่มย่อยออกไป ทำให้ต้นแบบกลายเป็นจุดศูนย์กลางการทำงานที่ช่วยเฉลี่ยตารางเวลาของผู้ใช้งานแต่ละคนออกจากกัน
การนำข้อมูลพฤติกรรมการใช้งานจริง (Mobility Data) มาผสานเข้ากับระบบพิกัดแผนที่ถือเป็นก้าวสำคัญของเทคโนโลยีภูมิศาสตร์สารสนเทศ เนื่องจากข้อมูลแผนที่แบบดั้งเดิมมักหยุดอยู่แค่ป้ายชื่อหรือประเภทธุรกิจ แต่พฤติกรรมการแวะเวียนของผู้คนช่วยสะท้อนฟังก์ชันการใช้งานจริงของสถานที่นั้นๆ ได้แม่นยำกว่า เช่น อาคารประเภทเดียวกันอาจมีพฤติกรรมการใช้งานต่างกันอย่างสิ้นเชิงระหว่างวันธรรมดาและวันหยุด
ความท้าทายสำคัญอีกประการคือความเบาบางของข้อมูล โดยมีสถานที่เพียง 9.07% ในลอสแอนเจลิส และ 7.04% ในฮิวสตัน ที่ผ่านเกณฑ์เกณฑ์ขั้นต่ำ ( Anchor Threshold ที่ 100 และ 50 ครั้งตามลำดับ) สำหรับสถานที่หางยาว (Long Tail) ระบบจะใช้เคอร์เนลเกาส์เซียนที่ถูกปรับค่าความกว้างสามระดับ เพื่อถ่ายโอนฮิสโตแกรมการเยี่ยมชมไปยังสถานที่ที่ข้อมูลน้อย รวมถึงใช้ฟังก์ชันความสูญเสียเพิ่มเติมเพื่อจับคู่ความคล้ายคลึงกับเวกเตอร์ข้อความที่สร้างตามสูตร GeoLLM
ผลการประเมินจากชุดข้อมูลการเคลื่อนไหวที่ไม่ระบุตัวตนสองชุด ได้แก่ ลอสแอนเจลิส (39,557 สถานี, 6.9 ล้านครั้ง, ปี 2019) และฮิวสตัน (28,419 สถานี, 715,604 ครั้ง, มีนาคม 2020) พบว่า ME-POIs ช่วยยกระดับประสิทธิภาพในงานประเมินแผนที่ 34 จาก 35 รายการในลอสแอนเจลิส เช่น ความแม่นยำเรื่องเวลาทำการรายสัปดาห์เพิ่มขึ้น 16.2% และความตั้งใจในการเยือนสถานที่พุ่งสูงถึง 81.9% เมื่อใช้ร่วมกับโมเดล Gemini
ที่มา: MarkTechPost
พบข้อมูลผิดพลาดในบทความนี้? แจ้งปัญหาบทความนี้
ความคิดเห็น
แสดงความคิดเห็น