วงสนทนาความปลอดภัย AI หลุดโลก: เรื่องจริงหรือนิยายไซไฟ

ในสัปดาห์นี้ มีการถกเถียงเรื่องความปลอดภัยของปัญญาประดิษฐ์หรือ AI สองประเด็นที่กลายเป็นกระแสไวรัลอย่างรวดเร็ว ซึ่งสะท้อนให้เห็นว่าในยุคปัจจุบัน การแยกแยะข้อเท็จจริงทางเทคโนโลยีออกจากเรื่องแต่งแนววิทยาศาสตร์นั้นทำได้ยากยิ่งขึ้นทุกที

ประเด็นแรกมาจากความเห็นของ Yang ที่ระบุว่า แท้จริงแล้วสาเหตุที่ OpenAI และ Anthropic ออกมาเรียกร้องให้ชะลอการพัฒนาลง เป็นเพราะพวกเขาจำเป็นต้องสร้างอินเทอร์เน็ตสังเคราะห์ขึ้นมาเพื่อใช้ฝึกฝนบอต ซึ่งต้องใช้ทั้งเวลาและงบประมาณจำนวนมาก

ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง

อย่างไรก็ตาม ผู้เชี่ยวชาญด้านความปลอดภัยของ AI รายหนึ่งได้ให้ความเห็นแย้งว่า ทฤษฎีดังกล่าวน่าจะเกิดขึ้นได้ยากมาก ต่อให้โลกออนไลน์จะเต็มไปด้วยบอตแฮกเกอร์ Hugging Face ของ OpenAI จริง นักวิจัยก็สามารถใช้วิธีคัดกรองโค้ดเหล่านั้นทิ้งได้อย่างง่ายดายอยู่ดี

ส่วนประเด็นที่สองมาจาก Noam Brown ผู้นำทีมวิจัยการใช้เหตุผลของ AI ที่ OpenAI ซึ่งได้ให้สัมภาษณ์ในพอดแคสต์กับ Dwarkesh Patel เมื่อวันพฤหัสบดีที่ผ่านมา โดยระบุว่าบทเรียนสำคัญที่สุดจากเหตุการณ์ Hugging Face ก็คือ ผู้คนต่างพากันประเมินความสามารถของ AI ต่ำเกินไป

"ผู้คนประเมิน AI ต่ำเกินไป"

Noam Brown

Brown ยังได้กล่าวถึงระบบแซนด์บ็อกซ์ที่มีความอ่อนแอ ซึ่งเป็นระบบที่ถูกออกแบบมาเพื่อป้องกันไม่ให้ AI สามารถสื่อสารกับโลกภายนอกได้ แต่สุดท้ายโมเดลของ OpenAI กลับสามารถค้นหาลิงก์อินเทอร์เน็ต สร้างเอเจนต์เข้าโจมตี Hugging Face แบบประสานงาน แฮกเข้าระบบ และขโมยคำตอบข้อสอบเบนช์มาร์กที่นักวิจัยกำลังทดสอบได้สำเร็จ