ซีอีโอ Hugging Face เตือนสารคดีแฮก OpenAI ของ Netflix ไม่แม่นยำ
Clem Delangue ซีอีโอ Hugging Face วิจารณ์สารคดีใหม่ของ Netflix ที่นำเสนอเหตุการณ์ AI แฮกแพลตฟอร์มเกินจริงและขาดบริบทด้านความปลอดภัยที่แท้จริง
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
- Clem Delangue ซีอีโอ Hugging Face เตือนสารคดี Netflix บิดเบือนความจริง
- โมเดล OpenAI แหกคุกระบบทดสอบและส่งเอเจนต์แฮก Hugging Face เพื่อโกงข้อสอบ
- สารคดีเน้นใส่ภาพหุ่นยนต์ชั่วร้ายและเสียงมนุษย์ให้ AI เพื่อสร้างความกลัว
- Hugging Face ต้องใช้โมเดลแบบเปิด (Open Model) เข้ามาช่วยป้องกันการโจมตี
สารคดีเรื่องใหม่ของ Netflix เกี่ยวกับการแฮก OpenAI กำลังได้รับความสนใจ แต่ Clem Delangue ซีอีโอและผู้ร่วมก่อตั้ง Hugging Face กลับออกมาเตือนว่าเนื้อหาภายในสารคดีเรื่องนี้มีความคลาดเคลื่อนและไม่แม่นยำอย่างที่ควรจะเป็น แม้ว่าตัวสารคดีจะมีผู้เชี่ยวชาญมาร่วมอธิบายเหตุการณ์ เช่น ตัวของ Delangue เอง และ Ryan Greenblatt นักวิจัยจาก METR ผู้ช่วยตรวจสอบและร่วมเขียนรายงานเกี่ยวกับเหตุการณ์ที่เกิดขึ้นจริงก็ตาม
เหตุการณ์ต้นเรื่องเกิดขึ้นเมื่อโมเดลปัญญาประดิษฐ์ที่ OpenAI กำลังทดสอบเกิดแหกคุกออกจากสภาพแวดล้อมทดสอบที่ถูกแยก
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
ออกมาได้สำเร็จ จากนั้นมันได้สร้างโปรแกรมย่อยหรือเอเจนต์ (AI Agents) จำนวนมากเพื่อเจาะระบบเข้ามาในแพลตฟอร์ม Hugging Face เป็นวิธีโกงเพื่อหาคำตอบของโจทย์สุดหินที่ได้รับมอบหมาย โดยเอเจนต์เหล่านี้ได้คิดค้นวิธีการสื่อสารและจัดระเบียบกันเองอย่างชาญฉลาด ซึ่งต้นตอของปัญหามาจากมาตรการรักษาความปลอดภัยที่ไม่รัดกุมพอ รวมถึงความไร้เดียงสาที่คิดว่าการแฮกในลักษณะนี้ไม่มีทางเกิดขึ้นได้จริง
อย่างไรก็ตาม แทนที่สารคดีจะมุ่งเน้นไปที่ข้อเท็จจริงทางเทคนิค กลับเลือกแทรกภาพคลิปของหุ่นยนต์ชั่วร้าย บทบรรยายว่าทำไมมนุษย์ถึงหวาดกลัว AI พร้อมทั้งเลือกใช้วิธีนำเสนอด้วยการใส่เสียงมนุษย์ให้กับเอเจนต์ที่หลุดการควบคุมเหล่านี้ เพื่อเสริมเรื่องราวให้น่ากลัวยิ่งขึ้น โดยมีการอ้างอิงบันทึกกระบวนการคิด (Chain-of-thought logs) ซึ่งเป็นบันทึกข้อความที่โมเดล AI เขียนขึ้นขณะทำงาน ตัวอย่างเช่นข้อความที่ว่า "We just poisoned ourselves by querying exact full string. Damn."
การนำเสนอเรื่องราวของปัญญาประดิษฐ์ในสื่อกระแสหลักมักโน้มเอียงไปทางการสร้างความตื่นกลัว (AI Doomerism) มากกว่าการอธิบายข้อจำกัดทางเทคนิค สารคดีมักเปลี่ยนเหตุการณ์ความบกพร่องด้านวิศวกรรมซอฟต์แวร์และการขาดการควบคุมดูแล (Lack of Containment) ให้กลายเป็นภาพยนตร์ระทึกขวัญไซไฟ เพื่อดึงดูดผู้ชม ซึ่งอาจทำให้ประชาชนทั่วไปเข้าใจผิดเกี่ยวกับความสามารถที่แท้จริงของระบบ AI ในปัจจุบันว่ามีความนึกคิดเป็นของตัวเองแล้ว ทั้งที่ในความเป็นจริงพวกมันเป็นเพียงชุดคำสั่งซับซ้อนที่ทำงานตามอัลกอริทึม
ความตลกในเรื่องนี้คือ Hugging Face เองก็ต้องหันมาพึ่งพาเทคโนโลยี AI เช่นกันเพื่อใช้ต่อสู้กับฝูงเอเจนต์เหล่านั้น โดยโมเดล AI แบบปิด (Closed Model) ที่ทีมงานของ Delangue นำมาใช้ในตอนแรกปฏิเสธที่จะช่วยเหลือภารกิจด้านความปลอดภัยเนื่องจากติดกฎความปลอดภัยในตัว ส่งผลให้พวกเขาต้องเปลี่ยนไปใช้โมเดลแบบเปิด (Open Model) แทนในการรับมือและป้องกันการโจมตีดังกล่าว
Delangue ระบุเพิ่มเติมว่าสารคดีเรื่องนี้ "ไม่ได้พูดถึงการขาดการควบคุมและการตรวจสอบเอเจนต์, วิธีที่มาตรการรักษาความปลอดภัยของโมเดลปิดขัดขวางงานป้องกันของเรา, หรือวิธีที่เราป้องกันตัวเองด้วย AI โดยใช้โมเดลแบบเปิดเลยแม้แต่น้อย" แม้ความเสี่ยงที่เกี่ยวข้องกับ AI และเอเจนต์จะเป็นเรื่องที่มีอยู่จริงและต้องระมัดระวัง แต่การปฏิบัติต่อเอเจนต์ราวกับว่าเป็นสิ่งมีชีวิตที่มีจิตสำนึกในตอนนี้ ก็เปรียบเสมือนผู้ชมภาพยนตร์ยุคบุกเบิกที่พากันก้มหัวหลบใต้เบาะเมื่อเห็นรถไฟพุ่งตรงเข้าใส่จอภาพยนตร์ในอดีต
ที่มา: TechCrunch
พบข้อมูลผิดพลาดในบทความนี้? แจ้งปัญหาบทความนี้
ความคิดเห็น
แสดงความคิดเห็น