Perplexity เปิดตัว Photon เครื่องมือค้นหาด้วยภาษา Rust
Perplexity เปิดตัว Photon เอนจิ้นค้นหาตัวใหม่ที่เขียนด้วยภาษา Rust ช่วยลดความหน่วง p99 จาก 800 มิลลิวินาทีเหลือ 65 มิลลิวินาที พร้อมให้บริการผ่าน API
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
- Perplexity เปิดตัว Photon เอนจิ้นดึงข้อมูลตัวใหม่ที่พัฒนาด้วยภาษา Rust
- ลดความหน่วง p99 จาก 800 มิลลิวินาที ลงเหลือ 65 มิลลิวินาที
- ให้บริการในรูปแบบ API แบบโฮสต์โดยคิดค่าบริการ 1 ดอลลาร์ต่อ 1,000 คำขอ
Perplexity ได้เปิดตัว Photon เอนจิ้นการดึงข้อมูลตัวใหม่ที่เขียนด้วยภาษา Rust ซึ่งออกแบบมาเพื่อแก้ปัญหาข้อจำกัดเดิมของระบบค้นหา โดยมุ่งเน้นไปที่การเพิ่มความเร็วและประสิทธิภาพในการประมวลผลคำขอค้นหาขนาดใหญ่ การพัฒนาเอนจิ้นใหม่นี้ช่วยให้บริษัทสามารถข้ามข้อจำกัด 3 ประการที่เคยพบเมื่อขนาดดัชนีเติบโตขึ้น และทางทีมงานยังระบุว่าการสร้างขึ้นมาใหม่ตั้งแต่ต้นนั้นมีความเรียบง่ายและคุ้มต้นทุนมากกว่าการดูแลรักษาฟอร์กเดิม
สำหรับการใช้งาน Photon เปิดให้บริการในรูปแบบของโฮสต์ API โดยผู้พัฒนาสามารถเรียกใช้งานได้ผ่านการกำหนดพารามิเตอร์ search_type: "fast" บนเมธอด POST /search ซึ่งมีอัตราค่าบริการอยู่ที่ 1 ดอลลาร์ต่อการเรียกใช้งาน 1,000 คำขอ อย่างไรก็ตาม Photon ไม่ใช่ซอฟต์แวร์โอเพนซอร์ส ทำให้ไม่สามารถนำไปติดตั้งใช้งานบนเซิร์ฟเวอร์ส่วนตัวได้
ในด้านสถาปัตยกรรมระบบ โหลดบาลานเซอร์จะทำหน้าที่ส่งต่อแต่ละคำขอไปยัง Photon โบรกเกอร์ ซึ่งจะกระจายงานไปยังกลุ่มชาร์ดพร้อมทั้งคอยตรวจสอบเวลาหมดเวลา ชาร์ดแต่ละตัวจะทำหน้าที่ค้นหา จัดอันดับเบื้องต้น และจัดอันดับในขั้นตอนที่สอง จากนั้นโบรกเกอร์จะทำการรวมผู้สมัครและดึงฟิลด์เอกสารสำคัญออกมา ส่งผลให้อินเด็กซ์เว็บแบบเต็มสามารถสร้างเสร็จได้ภายในเวลาเพียงหลักหน่วยของชั่วโมงเท่านั้น
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
นอกจากนี้ Perplexity ยังได้เปิดตัวโหมด Fast Search ที่ทำงานร่วมกับ Photon ควบคู่ไปกับการจัดอันดับที่เบาลงเพื่อรองรับเวิร์กโฟลว์แบบเอเจนต์ โดยได้ทำการทดสอบผ่านชุดทดสอบมาตรฐาน 6 รายการ ได้แก่:
- WideSearch
- BrowseComp
- DSQA
- FRAMES
- SEAL-0
- SEAL-Hard
จากการทดสอบทั้งหมด 3,554 งานโหมด Fast ทำคะแนนได้ 64.3% ด้วยต้นทุนประเมินรวมค่าโมเดลและการค้นหาอยู่ที่ 59.73 ดอลลาร์ ในขณะที่ค่าเริ่มต้น (default preset) ทำคะแนนได้ 64.0% ด้วยต้นทุน 187.60 ดอลลาร์ ซึ่งแสดงให้เห็นว่าโหมด Fast มีราคาถูกกว่าประมาณ 68% แต่อย่างไรก็ตาม การแลกมาด้วยความเร็วย่อมส่งผลต่อคุณภาพการค้นหาในวงกว้าง โดยคะแนนความเกี่ยวข้อง (DCG) บนชุดทดสอบภายในลดลงจาก 2.45 เหลือ 2.21 และความพร้อมใช้งานของคำตอบลดลงจาก 0.596 เหลือ 0.567 หรือลดลง 2.9เปอร์เซ็นต์
การที่ Perplexity เลือกใช้ภาษา Rust สำหรับ Photon สะท้อนถึงเทรนด์การพัฒนาซอฟต์แวร์โครงสร้างพื้นฐานยุคใหม่ที่ต้องการประสิทธิภาพระดับสูงและการจัดการหน่วยความจำที่ปลอดภัยโดยไม่ต้องพึ่งพากลไก Garbage Collection การลดความหน่วงจาก 800 มิลลิวินาทีลงมาเหลือ 65 มิลลิวินาทีถือเป็นก้าวกระโดดครั้งใหญ่ที่จะช่วยให้ระบบ AI Agents ตอบสนองต่อผู้ใช้งานแบบเรียลไทม์ได้ดีขึ้นอย่างเห็นได้ชัด
ที่มา: MarkTechPost
พบข้อมูลผิดพลาดในบทความนี้? แจ้งปัญหาบทความนี้
ความคิดเห็น
แสดงความคิดเห็น