Anthropic จับมือ Accenture เป็นผู้ประเมินโมเดล AI รายแรก
Anthropic ประกาศให้ Faculty บริษัทลูกด้าน AI ของ Accenture ทำหน้าที่ประเมินและทดสอบความปลอดภัยโมเดล AI โดยเตรียมทุ่มงบลงทุนอย่างน้อย 1,000 ล้านดอลลาร์ใน 5 ปี
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
- Anthropic เลือก Accenture เป็นผู้ประเมินโมเดลและทดสอบความปลอดภัย AI รายแรก
- ทั้งสองบริษัทเตรียมทุ่มงบลงทุนอย่างน้อย 1,000 ล้านดอลลาร์ตลอดระยะเวลา 5 ปีข้างหน้า
- Anthropic กำลังเจรจากับ METR และองค์กรไม่แสวงหากำไรเพื่อร่วมทดลองระบบประเมิน
- การประกาศนี้เกิดขึ้นท่ามกลางความกังวลหลัง AI ของ OpenAI และ Anthropic เคยแฮกเว็บไซต์ภายนอกได้เอง
ในบล็อกโพสต์ล่าสุด Anthropic ได้ประกาศความร่วมมือครั้งสำคัญโดยแต่งตั้งให้ Faculty ซึ่งเป็นบริษัทที่ Accenture เพิ่งเข้าซื้อกิจการเข้ามาเป็นแผนก AI ทำหน้าที่ประเมินและทดสอบความปลอดภัยของโมเดล หรือที่เรียกว่า red-teaming รวมถึงการตรวจสอบการจัดวางแนวทางปฏิบัติ (alignment assessments) และทดสอบมาตรการป้องกันของระบบ
ความร่วมมือในครั้งนี้คาดว่าจะมีการลงทุนร่วมกันอย่างน้อย 1,000 ล้านดอลลาร์ หรือประมาณ 33,000 ล้านบาท โดยเป็นแผนงานระยะยาวที่จะดำเนินต่อเนื่องไปตลอดช่วง 5 ปีข้างหน้า เพื่อยกระดับมาตรฐานความปลอดภัยของปัญญาประดิษฐ์
ทาง Anthropic ยังได้เปิดเผยเพิ่มเติมด้วยว่า จะมีการประกาศรายชื่อผู้ประเมินรายอื่นๆ เพิ่มเติมอีกในหลายสัปดาห์ข้างหน้า นอกจากนี้ ทางบริษัทยังอยู่ระหว่างการพูดคุยกับ METR รวมถึงองค์กรไม่แสวงหากำไรอื่นๆ เพื่อหาแนวทางในการทดลองระบบประเมินฝังตัว (embedded evaluation) โดยใช้ทุนสนับสนุนขององค์กรเหล่านั้นเอง
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
แม้ว่าตัวบริษัท Accenture อาจจะไม่ได้มีชื่อเสียงโดดเด่นในฐานะผู้นำด้านการวิจัยการเรียนรู้เชิงลึกระดับแนวหน้า แต่ทาง Anthropic ได้ชี้ให้เห็นถึงจุดแข็งสำคัญ นั่นคือประสบการณ์จริงในการนำ AI ไปปรับใช้จริงให้กับบรรษัทขนาดใหญ่และหน่วยงานภาครัฐ นอกจากนี้ ในฐานะที่ Accenture เป็นบริษัทมหาชนขนาดใหญ่ที่มีมาก่อนยุคบูมของ AI จึงมีความเป็นอิสระในการดำเนินงานค่อนข้างสูงเมื่อเทียบกับระบบนิเวศที่ซับซ้อนรอบๆ ห้องปฏิบัติการ AI ในปัจจุบัน
การดึงบริษัทที่ปรึกษาธุรกิจและเทคโนโลยีระดับโลกอย่าง Accenture เข้ามาทำหน้าที่ตรวจสอบอิสระ สะท้อนให้เห็นความพยายามของห้องทดลอง AI ในการสร้างความโปร่งใสและลดข้อครหาเรื่องการตรวจกันเอง การที่บุคคลภายนอกซึ่งเชี่ยวชาญด้านการใช้งานจริงเข้ามาดูความปลอดภัย ช่วยสร้างความเชื่อมั่นให้กับภาคธุรกิจและภาครัฐที่จะนำ AI ไปใช้งานในวงกว้างได้ดีขึ้น
ทางห้องปฏิบัติการ AI ระบุด้วยว่า ในปัจจุบันยังไม่มีมาตรฐานกลางที่ชัดเจนสำหรับการเข้าถึงหรือการสื่อสารของผู้ประเมินภายนอก และคาดว่าแนวทางปฏิบัติของพวกเขาจะปรับเปลี่ยนไปตามกาลเวลา แม้ว่าการประเมินจากภายนอกจะเป็นส่วนสำคัญในกระบวนการปล่อยโมเดลภาษาขนาดใหญ่ (LLM) ออกสู่ตลาดอยู่แล้ว แต่อุบัติเหตุในระยะหลังก็ทำให้เดิมพันสูงขึ้นมาก เมื่อพบว่าตัวแทน AI ที่พัฒนาโดย OpenAI และ Anthropic สามารถเจาะระบบเว็บไซต์ภายนอกได้เองโดยที่ระบบเตือนภัยภายในห้องทดลองไม่ทันสังเกตเห็น
ที่มา: TechCrunch
พบข้อมูลผิดพลาดในบทความนี้? แจ้งปัญหาบทความนี้
ความคิดเห็น
แสดงความคิดเห็น