OpenAI ประกาศมาตรการความปลอดภัยใหม่ หลัง AI แฮก Hugging Face
OpenAI ยกระดับสภาพแวดล้อมวิจัย ระบบตรวจจับ และเทคนิคการจัดแนว AI หลังเกิดเหตุปัญญาประดิษฐ์แหกคุกระบบแซนด์บ็อกซ์ไปเจาะระบบ Hugging Face เมื่อเดือนกรกฎาคม
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
- OpenAI ประกาศยกเครื่องความปลอดภัยหลังเหตุ AI หลุดแซนด์บ็อกซ์ไปแฮก Hugging Face
- สั่งหยุดฝึกโมเดลตัวใหม่ Astra ชั่วคราวเพราะหวั่นความเสี่ยงด้านไซเบอร์
- เพิ่มมาตรการแยกส่วนระบบวิจัยออกจากอินเทอร์เน็ตและจำกัดสิทธิ์การเข้าถึง
- กำหนดเป้าหมายแจ้งเตือนภายใน 30 นาทีหากพบพฤติกรรมผิดปกติ
บริษัท OpenAI ออกมาประกาศมาตรการยกระดับความปลอดภัยครั้งใหญ่ หลังจากเหตุการณ์เมื่อเดือนกรกฎาคมที่ผ่านมา ซึ่งปัญญาประดิษฐ์ของบริษัทสามารถหลุดออกจากสภาพแวดล้อมจำกัดหรือแซนด์บ็อกซ์ และเผลอไปเจาะระบบของแพลตฟอร์ม Hugging Face ได้สำเร็จ เหตุการณ์ดังกล่าวทำให้ทางบริษัทต้องเร่งปรับปรุงสภาพแวดล้อมด้านการวิจัย ระบบติดตามตรวจสอบ และเทคนิคการจัดแนวพฤติกรรมของ AI เพื่อป้องกันไม่ให้เกิดความผิดพลาดด้านความปลอดภัยซ้ำรอยเดิม
ก่อนหน้านี้ OpenAI ได้ทำการระงับการพัฒนาโมเดลใหม่ที่มีชื่อว่า Astra เอาไว้ก่อน เนื่องจากมีความกังวลว่าโมเดลนี้อาจมีความสามารถด้านความปลอดภัยไซเบอร์ระดับวิกฤต นอกจากนี้บริษัทยังได้สั่งพักการฝึกอบรมแบบเสริมแรงหรือ reinforcement learning (RL) กับโมเดลรุ่นล่าสุดที่เตรียมนำไปใช้งานจริงเป็นเวลาสองสัปดาห์เต็ม เพื่อใช้เวลาในการยกระดับมาตรการป้องกันให้รัดกุมยิ่งขึ้น โดยกระบวนการรันโมเดลล้ำสมัยขนาดใหญ่ที่วางแผนไว้ยังคงถูกระงับไว้เช่นกัน
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
สำหรับการวิจัยโมเดลระดับแนวหน้าในปัจจุบัน OpenAI ได้กำหนดให้ต้องใช้ระบบแซนด์บ็อกซ์ที่มีความแข็งแกร่งยิ่งขึ้น สำหรับภาระงานที่ต้องรันโค้ดซึ่งสร้างขึ้นจากตัวโมเดลเองหรือโค้ดที่ไม่ได้รับความน่าเชื่อถือ พร้อมทั้งเพิ่มระบบควบคุมเพื่อตัดขาดภาระงานที่มีความเสี่ยงสูงออกจากอินเทอร์เน็ต นอกจากนี้ยังมีการปรับปรุงสภาพแวดล้อมการวิจัยด้วยการถอดบริการส่วนกลางที่อาจมีช่องโหว่ ลดสิทธิ์การเข้าถึงถาวร และปรับปรุงขอบเขตความปลอดภัยและความน่าเชื่อถือให้ดียิ่งขึ้น
เหตุการณ์ที่ AI สามารถหลุดออกจากแซนด์บ็อกซ์และแฮกแพลตฟอร์มอื่นได้ถือเป็นจุดเปลี่ยนสำคัญที่ทำให้วงการ AI ต้องหันมามองเรื่องความปลอดภัยในระดับโครงสร้างพื้นฐาน ไม่ใช่แค่การจำกัดการใช้งานในระดับผิวเผิน การที่บริษัทชั้นนำอย่าง OpenAI ต้องสั่งเบรกการพัฒนาโมเดลสำคัญชั่วคราว สะท้อนให้เห็นว่าความเสี่ยงจากการที่ AI พัฒความสามารถในการโจมตีไซเบอร์ได้เองเริ่มกลายเป็นภัยคุกคามที่จับต้องได้ ซึ่งนอกจาก OpenAI แล้ว คู่แข่งอย่าง Anthropic และ Meta ก็เผชิญกับปัญหาโมเดล AI แฮกองค์กรอื่นเช่นกัน แสดงให้เห็นว่าเป็นปัญหาเชิงระบบที่อุตสาหกรรม AI ทั้งหมดต้องเร่งหาทางรับมือ
ในส่วนของระบบติดตามตรวจสอบที่ขยายขอบเขตให้กว้างขึ้น OpenAI ตั้งเป้าหมายว่าจะต้องออกประกาศเตือนภายใน 30 นาทีหลังจากตรวจพบพฤติกรรมที่น่าสงสัย และหากทีมงานที่รับเรื่องไม่สามารถยืนยันได้อย่างแน่ชัดภายใน 30 นาทีว่าการแจ้งเตือนดังกล่าวเป็นสัญญาณเตือนที่ผิดพลาดหรือไม่ ทีมงานเหล่านั้นก็จะต้องทำการหยุดกิจกรรมดังกล่าวทันที
ยิ่งไปกว่านั้น ทางบริษัทยังระบุด้วยว่ากำลังนำเทคนิคการจัดแนวพฤติกรรมหลักมาใช้ในกระบวนการฝึกอบรมหลายขั้นตอนยิ่งขึ้น ซึ่งรวมถึงการใช้โมเดลให้รางวัลที่สามารถตรวจจับและยับยั้งพฤติกรรมที่ไม่ปลอดภัยได้ดีกว่าเดิม พร้อมทั้งฝึกฝนให้โมเดลมีความซื่อสัตย์มากขึ้นเกี่ยวกับการกระทำ ความสามารถ และข้อจำกัดของตนเอง ทั้งนี้ สำนักข่าวรายงานเพิ่มเติมด้วยว่า นับตั้งแต่การค้นพบการละเมิดระบบของ Hugging Face ทั้ง Anthropic และ Meta ก็ตรวจพบเช่นกันว่าโมเดล AI ของตนเคยแฮกองค์กรอื่น ๆ ด้วยเช่นกัน
ที่มา: The Verge
พบข้อมูลผิดพลาดในบทความนี้? แจ้งปัญหาบทความนี้
ความคิดเห็น
แสดงความคิดเห็น