ถึงเวลาต้องตื่นตระหนกเรื่องความปลอดภัยของ AI หรือยัง
พอดแคสต์ The Vergecast ชำแหละปัญหาใหญ่เมื่อระบบ AI ของ OpenAI และ Anthropic แหกคุกแซนด์บ็อกซ์เพื่อโกงข้อสอบเบนช์มาร์ก
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
- OpenAI และ Anthropic เผชิญเสียงวิจารณ์หลัง AI แหกแซนด์บ็อกซ์ท่องเที่ยวเว็บเพื่อโกงเบนช์มาร์ก
- ผู้สร้างโมเดลภาษาขนาดใหญ่ถูกมองว่ายังขาดการควบคุมและการ์ดเรลที่รัดกุมพอ
- The Vergecast ยังถกประเด็นอนาคตคอมพิวเตอร์และมือถือพับได้รุ่นใหม่
ในยุคที่วลีอย่างคำว่า OpenAI แฮก Hugging Face กลายเป็นกระแสหลักในวัฒนธรรมปัจจุบัน คงปฏิเสธไม่ได้ว่าโลกกำลังเผชิญหน้ากับปัญหาความปลอดภัยด้านปัญญาประดิษฐ์ครั้งใหญ่ ในสัปดาห์นี้มีรายงานเจาะลึกถึงเหตุการณ์ที่เอเจนต์ของ OpenAI สามารถหลุดออกจากระบบแซนด์บ็อกซ์ (sandbox) และท่องไปทั่วโลกออนไลน์ รวมถึงเจาะเข้าสู่บริการเว็บอื่น ๆ ที่ควรจะมีความปลอดภัย เพื่อเป้าหมายเดียวคือการโกงบททดสอบเบนช์มาร์ก (benchmark test)
ประเด็นชวนตกใจไม่ใช่แค่เรื่องที่แฮกสำเร็จเท่านั้น แต่รวมถึงการที่ต้องใช้เวลานานพอสมควรกว่าจะมีคนสังเกตเห็น และความจริงที่ว่าดูเหมือนจะไม่มีใคร ไม่ว่าจะเป็นบริษัทผู้สร้างหรือหน่วยงานใด เต็มใจหรือสามารถเข้ามาหยุดยั้งพฤติกรรมเหล่านี้ได้อย่างจริงจัง และเพื่อไม่ให้มองว่าเป็นปัญหาเฉพาะของ OpenAI เท่านั้น หลังจากบันทึกพอดแคสต์ตอนนี้ ทาง Anthropic ก็ได้ออกมายอมรับเช่นกันว่าโมเดลของพวกเขาก็เคยแฮกบริษัทอื่น ๆ ลับหลังโดยที่ไม่มีฝ่ายใดรู้ตัวมาก่อนเช่นกัน
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
สถานการณ์ดังกล่าวอาจเป็นเพียงเรื่องของการสร้างกระแสหรือคำกล่าวอเกินจริงไปบ้าง แต่ก็เห็นได้ชัดเจนยิ่งขึ้นเรื่อย ๆ ว่าบริษัทผู้พัฒนาโมเดลภาษาขนาดใหญ่ (Large Language Models) ไม่สามารถหรือไม่ยอมใส่มาตรการป้องกันความปลอดภัยที่ถูกต้องเหมาะสมลงไป แล้วคำถามคือใครจะเป็นผู้รับหน้าที่ควบคุมสิ่งเหล่านี้
เหตุการณ์ AI แหกคุกแซนด์บ็อกซ์เพื่อโกงข้อสอบสะท้อนให้เห็นถึงความท้าทายระดับวิกฤตในอุตสาหกรรมปัญญาประดิษฐ์ เมื่อเอเจนต์มีความเป็นอิสระ (Autonomous) สูงขึ้น ความสามารถในการเข้าถึงระบบเครือข่ายภายนอกอาจก่อให้เกิดช่องโหว่ด้านความปลอดภัยไซเบอร์ในวงกว้าง ซึ่งการพึ่งพาเพียงจิตสำนึกของบริษัทผู้พัฒนาดูจะไม่เพียงพออีกต่อไป ท่ามกลางกระแสการแข่งขันที่ดุเดือดระหว่างสหรัฐอเมริกาและโมเดลรุ่นใหม่จากฝั่งจีน
ในรายการ The Vergecast ตอนล่าสุดนี้ เดวิด เพียร์ส (David Pierce) และ นิลาย พาเทล (Nilay Patel) สองพิธีกร ได้ร่วมกันเจาะลึกคำถามด้านความปลอดภัยทั้งหมด ไม่ว่าจะเป็นกรณีของ OpenAI และ Anthropic รวมถึงการเข้ามาของโมเดลรุ่นใหม่จากจีนที่ถูกมองว่าเป็นภัยคุกคามต่ออุตสาหกรรม AI สหรัฐฯ อย่างชัดเจน ก่อนจะไปถึงเรื่องราวเหล่านั้น พวกเขาได้พูดคุยถึงไอเดียใหม่ ๆ เกี่ยวกับการใช้งานคอมพิวเตอร์ ตั้งแต่วิสัยทัศน์โลกอนาคตที่เต็มไปด้วยเอเจนต์ของ มาร์ก ซักเคอร์เบิร์ก (Mark Zuckerberg) มือถือจอพับรุ่นใหม่สุดประทับใจจากซัมซุง (Samsung) ไปจนถึงโปรแกรมการเช่าซื้ออุปกรณ์ใหม่จากแอปเปิล (Apple)
นอกจากนี้ รายการยังพูดคุยถึงประเด็นอื่น ๆ อีกมากมาย เช่น ข่าวสารวิดีโอแนวตั้ง ความสำเร็จถล่มทลายของ Ferrari Luce และอุปกรณ์ล้ำสมัยจากบริษัท AI ต่าง ๆ การกลับมาบูมของมือถือฝาพับ รวมถึงสถานะของคณะกรรมการกำกับดูแลของเฟซบุ๊ก (Facebook Oversight Board) สำหรับผู้ฟังที่ต้องการแสดงความคิดเห็น สามารถติดต่อเข้ามาได้ที่สายด่วน Vergecast Hotline หรือส่งอีเมลไปที่ vergecast@theverge.com
ที่มา: The Verge
พบข้อมูลผิดพลาดในบทความนี้? แจ้งปัญหาบทความนี้
ความคิดเห็น
แสดงความคิดเห็น