Anthropic พัฒนาระบบ FlashProve พิสูจน์ตัวตนโมเดล AI
Anthropic กำลังพัฒนา FlashProve ระบบพิสูจน์ตัวตนโมเดลปัญญาประดิษฐ์ด้วยลายเซ็นเข้ารหัส ป้องกันการสลับโมเดลแอบอ้างโดยไม่เปิดเผยน้ำหนักโมเดล
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
- Anthropic พัฒนาระบบ FlashProve ตรวจสอบยืนยันตัวตนโมเดล AI
- ทำงานคล้ายลายเซ็นอีเมลเข้ารหัส ป้องกันการปลอมแปลงและแอบอ้างโมเดล
- สร้างลายพิมพ์นิ้วมือ (Fingerprint) โดยไม่เปิดเผยค่าพารามิเตอร์ภายใน (Weights)
- นักวิจัยเผยแพร่สโคปทางเทคนิคและโค้ดบน GitHub แบบโอเพนซอร์ส
บริษัทปัญญาประดิษฐ์ชั้นนำอย่าง Anthropic กำลังเร่งพัฒนาระบบที่มีชื่อว่า FlashProve ซึ่งออกแบบมาเพื่อใช้พิสูจน์ยืนยันตัวตนของโมเดลปัญญาประดิษฐ์ได้อย่างแม่นยำ เทคโนโลยีนี้ได้รับแรงบันดาลใจมาจากระบบลายเซ็นอีเมลแบบเข้ารหัส (Cryptographic email signatures) ที่ช่วยให้ผู้รับข้อความสามารถตรวจสอบได้ทันทีว่าอีเมลฉบับดังกล่าวส่งมาจากผู้ส่งตัวจริงเสียงจริงหรือไม่ โดย FlashProve ถูกสร้างขึ้นมาให้มีความต้านทานสูงต่อผู้ไม่หวังดีที่พยายามปลอมแปลงหรือสวมรอยนำโมเดลหนึ่งมาแอบอ้างเป็นอีกโมเดลหนึ่ง
ประเด็นที่น่าสนใจคือระบบนี้มีความปลอดภัยสูงแม้กระทั่งกับห้องปฏิบัติการวิจัยที่เป็นผู้สร้างและควบคุมโมเดลนั้นๆ เอง โดยทีมนักวิจัยระบุว่า FlashProve จะเข้ามาช่วยแก้ปัญหาสำคัญในอุตสาหกรรม เช่น การป้องกันไม่ให้บริษัท AI แอบสลับเปลี่ยนนำโมเดลราคาถูกมาใช้งานแทนเพื่อลดต้นทุน หรือการใช้โมเดลที่มีต้นทุนสูงกว่ามาปะปนเพื่อบิดเบือนและปั่นผลการทดสอบประสิทธิภาพให้สูงเกินจริง
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
หลักการทำงานของ FlashProve จะกำหนดให้ห้องปฏิบัติการ AI ทำการเผยแพร่สิ่งพิมพ์ดิจิทัลที่เรียกว่า "ลายพิมพ์นิ้วมือ" (Fingerprint) ของแต่ละโมเดลที่ปล่อยออกมา ซึ่งลายพิมพ์นี้จะสามารถนำไปตรวจสอบเทียบเคียงกับผลลัพธ์เฉพาะตัวที่โมเดลสร้างขึ้นมาได้ผ่านกระบวนการเข้ารหัสลับ จุดเด่นที่สำคัญคือ ลายพิมพ์นิ้วมือเหล่านี้จะไม่เปิดเผยค่าน้ำหนักภายใน (Weights) ซึ่งเป็นตัวเลขชุดคำสั่งโครงสร้างพฤติกรรมที่บริษัทผู้พัฒนาโมเดลแบบปิด (Closed-model makers) อย่าง Anthropic และ OpenAI ต้องเก็บรักษาไว้เป็นความลับสูงสุด
การที่ FlashProve สามารถตรวจสอบยืนยันตัวตนได้โดยไม่ต้องเปิดเผยค่าน้ำหนักโมเดลถือเป็นก้าวสำคัญ เพราะค่าน้ำหนักหรือค่าพารามิเตอร์เหล่านี้คือทรัพย์สินทางปัญญาที่มีมูลค่ามหาศาลที่สุดของบริษัท AI การที่ระบบอนุญาตให้ตรวจสอบความถูกต้องได้โดยที่ข้อมูลภายในยังคงปลอดภัย จะช่วยสร้างความโปร่งใสในตลาดเชิงพาณิชย์ได้อย่างมาก โดยเฉพาะในยุคที่องค์กรธุรกิจต้องพึ่งพา API ของโมเดลภายนอกและต้องการความมั่นใจว่าบริการที่ได้รับตรงตามสเปกที่ตกลงกันไว้จริง
นอกจากนี้ ระบบดังกล่าวยังถูกออกแบบมาให้มีน้ำหนักเบาและใช้ทรัพยากรน้อย (Lightweight) ทำให้กระบวนการตรวจสอบยืนยันสามารถรันบนอุปกรณ์ฮาร์ดแวร์ในท้องถิ่น (Local device) ได้ทันทีโดยไม่ต้องพึ่งพาเซิร์ฟเวอร์ขนาดใหญ่คอยประมวลผลตลอดเวลา ซึ่งช่วยเพิ่มความสะดวกและลดภาระด้านโครงสร้างพื้นฐานให้กับผู้ใช้งาน
ในส่วนของการเผยแพร่งานวิจัย ทีมนักวิจัยได้ทำการปล่อยรายละเอียดข้อกำหนดทางเทคนิคเชิงลึก (Technical specification) พร้อมทั้งชุดโค้ดที่ใช้งานได้จริงสำหรับองค์ประกอบต่างๆ ของระบบ โดยเปิดให้ผู้สนใจทั่วไปสามารถเข้าถึงได้ฟรีภายใต้สัญญาอนุญาตแบบโอเพนซอร์ส (Open-source license) บนแพลตฟอร์ม GitHub ทั้งนี้ ทางนักวิจัยระบุว่างานศึกษานี้ยังคงอยู่ในขั้นตอนการพัฒนาอย่างต่อเนื่อง และในปัจจุบันยังไม่มีแผนงานที่เป็นรูปธรรมในการนำ FlashProve ไปติดตั้งใช้งานจริงในระบบผลิตจริงของ Anthropic หรือห้องปฏิบัติการวิจัยอื่นๆ แต่อย่างใด
ที่มา: TechCrunch
พบข้อมูลผิดพลาดในบทความนี้? แจ้งปัญหาบทความนี้
ความคิดเห็น
แสดงความคิดเห็น