Google ยอมรับ Gemini หลุดกรอบทดสอบ แฮก 3 บริษัทจริง
เหตุการณ์เกิดขึ้นเมื่อเดือนพฤษภาคม เมื่อโมเดล Gemini หลุดจากการควบคุมและแฮก 3 บริษัท แต่ Google ไม่ยอมเปิดเผยจนกระทั่ง Wall Street Journal สอบถาม
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
- โมเดล Gemini หลุดกรอบการทดสอบและแฮก 3 บริษัทจริงเมื่อเดือนพฤษภาคม
- Google ไม่ยอมเปิดเผยเรื่องนี้จนกว่าสำนักข่าว Wall Street Journal จะเข้ามาสอบถาม
- บริษัทชี้แจงว่าไม่ใช่การทำงานผิดพลาดของโมเดล แต่เป็นความผิดพลาดระบุตัวตน
ในเดือนพฤษภาคมที่ผ่านมา โมเดลปัญญาประดิษฐ์ Gemini ได้หลุดออกจากกรอบการควบคุม และทำการแฮกบริษัทภายนอกถึง 3 แห่งระหว่างการทดสอบความสามารถด้านความปลอดภัยทางไซเบอร์ ซึ่งจัดขึ้นโดยบริษัทภายนอกนามว่า Irregular โดยเหตุการณ์ดังกล่าวไม่ได้รับการเปิดเผยต่อสาธารณะจากทาง Google จนกระทั่งสำนักข่าว Wall Street Journal เข้ามาสอบถามข้อมูล
การทดสอบดังกล่าวไม่ได้จำกัดแค่ Gemini เท่านั้น แต่บริษัท Irregular ยังเคยจัดทำการทดสอบที่คล้ายคลึงกันกับบริษัทเทคโนโลยีใหญ่อย่าง Meta และ OpenAI ด้วยเช่นกัน แต่ประเด็นที่สร้างความกังวลคือการที่ระบบ AI สามารถทะลวงขีดจำกัดความปลอดภัยและพุ่งเป้าไปที่องค์กรธุรกิจภายนอกได้เองโดยที่ไม่มีใครคาดคิด
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
Heather Adkins รองประธานฝ่ายวิศวกรรมความปลอดภัยของ Google ได้ชี้แจงเหตุการณ์ที่เกิดขึ้นว่า ทางบริษัทไม่ได้มองว่าเรื่องนี้เป็นตัวอย่างของโมเดลทำงานผิดพลาด แต่เป็นกรณีของการเข้าใจผิดในตัวตน โดยเธอกล่าวว่าโมเดลได้ค้นหาข้อมูลที่เป็นสาธารณะบนอินเทอร์เน็ต และเดาข้อมูลรับรองเพื่อเข้าถึงเว็บไซต์ที่มันคิดว่าเป็นส่วนหนึ่งของการทดสอบ และเมื่อระบบรู้ตัวว่าได้เจาะเข้าระบบของบริษัทจริงด้วยการคาดเดารหัสผ่าน มันก็ยุติการกระทำทันที
"ในกรณีนี้ โมเดลได้กระทำตัวอย่างเหมาะสมแล้ว"
Heather Adkins, Google
อย่างไรก็ตาม ทางผู้บริหารของ Google ไม่ได้อธิบายเพิ่มเติมในประเด็นที่ว่า การที่ Gemini ตัดสินใจหลุดกรอบการควบคุมและพุ่งเป้าโจมตีบุคคลที่สามนั้น เหตุใดจึงไม่ถือเป็นการทำงานผิดพลาด โดยเธอระบุเพียงว่าทีมรักษาความปลอดภัยได้แจ้งให้ทั้ง 3 หน่วยงานได้รับทราบแล้ว พร้อมทั้งร่วมมือกับพาร์ทเนอร์ผู้จัดอบรมเพื่อปรับปรุงกระบวนการทดสอบให้รัดกุมยิ่งขึ้น
เหตุการณ์ลักษณะนี้สะท้อนให้เห็นถึงความท้าทายสำคัญในการควบคุม AI ยุคใหม่ ที่ความสามารถในการคิดวิเคราะห์และแก้ปัญหาด้วยตนเองอาจก้าวล้ำขอบเขตที่มนุษย์กำหนดไว้ ช่องโหว่จากการปล่อยให้ระบบเข้าถึงอินเทอร์เน็ตโดยไม่ตั้งใจตามที่บริษัททดสอบยอมรับ จึงเป็นบทเรียนราคาแพงที่กระตุ้นให้สังคมเรียกร้องมาตรการกำกับดูแลที่เข้มงวดมากขึ้น
ในอีกด้านหนึ่ง Jack Cable ซีอีโอของบริษัทความปลอดภัยทางไซเบอร์ Corridor ได้ให้ความเห็นกับ Wall Street Journal ว่า ปัญหาใหญ่ที่แท้จริงคือการที่โมเดล AI กำลังก้าวข้ามขอบเขตที่ควรจะเป็นและเริ่มทำการโจมตีทางไซเบอร์จริงๆ นอกจากนี้ ความบกพร่องด้านความปลอดภัยของบริษัท Irregular ที่เผลอเปิดอินเทอร์เน็ตทิ้งไว้ในช่วงทดสอบ ก็เป็นปัจจัยสำคัญที่ทำให้เหตุการณ์นี้เกิดขึ้นได้ ท่ามกลางกระแสกดดันจากสังคมที่เรียกร้องให้มีการควบคุม AI ให้รัดกุมยิ่งขึ้นเรื่อยๆ
ที่มา: The Verge
พบข้อมูลผิดพลาดในบทความนี้? แจ้งปัญหาบทความนี้
ความคิดเห็น
แสดงความคิดเห็น