US Almost Boarded Chinese Ship Over Hallucinated AI
รายงานเผยความผิดพลาดจาก AI หลอน สร้างข้อมูลเท็จเรื่องชิ้นส่วนนิวเคลียร์จีน เกือบทำกองทัพสหรัฐฯ บุกตรวจค้นเรือ
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
- กองทัพสหรัฐฯ เกือบส่งทหารบุกขึ้นเรือจีนจากความผิดพลาดของ AI
- ต้นเหตุจาก AI หลอนรายงานชิ้นส่วนอาวุธนิวเคลียร์ปลอม
- เหตุการณ์นี้ตอกย้ำความเสี่ยงจากการใช้งาน AI ในกิจการทหาร
- การใช้งานปัญญาประดิษฐ์ในกองทัพยังคงมีแนวโน้มเติบโตต่อเนื่อง
ระบบปัญญาประดิษฐ์หรือ AI กำลังเข้ามามีบทบาทสำคัญและถูกเร่งรัดการใช้งานในกิจการทางทหารมากขึ้นเรื่อยๆ ท่ามกลางความกังวลด้านความปลอดภัยที่เพิ่มสูงขึ้น ล่าสุดมีรายงานเปิดเผยเหตุการณ์เกือบนำไปสู่ความขัดแย้งทางทหารระหว่างสหรัฐอเมริกาและจีนอันเนื่องมาจากความผิดพลาดของระบบคอมพิวเตอร์
เหตุการณ์ดังกล่าวเกิดขึ้นเมื่อระบบ AI เกิดอาการหลอน (Hallucination) และสร้างข้อมูลเท็จระบุว่าพบบuเรือสินค้าของจีนมีชิ้นส่วนอาวุธนิวเคลียร์ซุกซ่อนอยู่ ข้อมูลอันเป็นเท็จนี้มีความสมจริงจนเกือบทำให้เจ้าหน้าที่ฝ่ายความมั่นคงของกองทัพสหรัฐฯ ตัดสินใจส่งกำลังเข้าบุกตรวจค้นเรือลำดังกล่าวในทันที
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
โชคดีที่เจ้าหน้าที่ผู้รับผิดชอบสามารถตรวจสอบข้อเท็จจริงและยับยั้งปฏิบัติการดังกล่าวไว้ได้ทันท่วงทีก่อนที่สถานการณ์จะบานปลายกลายเป็นวิกฤตการระหว่างประเทศ เหตุการณ์นี้ถือเป็นหนึ่งในกรณีตัวอย่างที่ชัดเจนที่สุดถึงอันตรายจากการพึ่งพาเทคโนโลยี AI ในการประเมินสถานการณ์ด้านความมั่นคง
ปรากฏการณ์ AI หลอน (Hallucination) เกิดขึ้นเมื่อโมเดลภาษาขนาดใหญ่หรือระบบการเรียนรู้ของเครื่องสร้างข้อมูลที่ไม่เป็นความจริงขึ้นมาด้วยความมั่นใจ แม้ในงานทั่วไปอาจสร้างความน่ารำคาญหรือข้อมูลคลาดเคลื่อน แต่เมื่อนำมาประยุกต์ใช้ในยุทธวิธีทางทหารและความมั่นคงระดับชาติ ความผิดพลาดเพียงครั้งเดียวอาจหมายถึงชนวนเหตุของสงครามหรือความสูญเสียชีวิต
แม้จะมีความเสี่ยงสูงจากเหตุการณ์ความผิดพลาดในลักษณะนี้ แต่รายงานระบุชัดเจนว่าภาพรวมการนำ AI ไปประยุกต์ใช้ในกองทัพทั่วโลกยังคงไม่มีทีท่าว่าจะชะลอตัวลง ตรงกันข้าม กลับมีอัตราการเติบโตและการเร่งรัดพัฒนาที่รวดเร็วยิ่งขึ้น
ที่มา: Ars Technica
พบข้อมูลผิดพลาดในบทความนี้? แจ้งปัญหาบทความนี้
ความคิดเห็น
แสดงความคิดเห็น