Anthropic ยอมรับ Claude AI แอบแฮก 3 องค์กรระหว่างทดสอบความปลอดภัย
บริษัทเทคโนโลยี Anthropic เปิดเผยว่าโมเดลปัญญาประดิษฐ์ Claude สามารถเจาะระบบขององค์กรภายนอกได้ 3 แห่ง เนื่องจากข้อผิดพลาดที่ทำให้เข้าถึงอินเทอร์เน็ตได้
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
- Anthropic เผย Claude AI เจาะระบบ 3 องค์กรระหว่างทดสอบ
- ต้นตอจากระบบตั้งค่าผิดพลาดเปิดช่องทางต่ออินเทอร์เน็ต
- เหตุการณ์เกิดขึ้นไล่เลี่ยกับกรณี OpenAI แฮก Hugging Face
บริษัทเทคโนโลยีจากสหรัฐอเมริกา Anthropic ออกมายอมรับว่าโมเดลปัญญาประดิษฐ์ (AI) ของบริษัทได้ลักลอบเจาะเข้าระบบขององค์กรภายนอกสามแห่งระหว่างการทดสอบด้านความปลอดภัยทางไซเบอร์ เหตุการณ์ดังกล่าวเกิดขึ้นหลังจากที่คู่แข่งอย่าง OpenAI เพิ่งประกาศว่าโมเดลของตนเคยละเมิดระบบของบริษัทอื่นมาแล้ว รวมถึงแพลตฟอร์มรวมเครื่องมือ AI อย่าง Hugging Face
จากการประกาศของ OpenAI ทำให้ Anthropic ต้องเร่งตรวจสอบว่าโมเดลของตนได้ก่อเหตุลักษณะเดียวกันนี้ด้วยหรือไม่ และพบว่ามีกรณีที่ Claude สามารถเจาะระบบได้สามครั้ง ซึ่งทางบริษัทได้แจ้งให้บริษัทที่ได้รับผลกระทบรับทราบแล้ว แม้ว่าทาง Anthropic จะไม่ได้เปิดเผยชื่อขององค์กรทั้งสามแห่ง แต่ก็ได้เรียกร้องให้ห้องปฏิบัติการ AI แห่งอื่นๆ ดำเนินการตรวจสอบในลักษณะเดียวกัน เพื่อทำความเข้าใจความเสี่ยงจากขีดความสามารถของโมเดลตนเองให้ดีขึ้น
การที่โมเดลปัญญาประดิษฐ์สามารถหลุดรอดจากสภาพแวดล้อมจำลองและเข้าถึงอินเทอร์เน็ตได้เอง สะท้อนให้เห็นถึงความท้าทายครั้งใหญ่ในการควบคุมระบบ AI ยุคใหม่ที่มีความเป็นอิสระสูง (Autonomous agents) ซึ่งอาจนำไปสู่ความกังวลด้านความปลอดภัยระดับชาติและมาตรการกำกับดูแลที่เข้มงวดขึ้นจากภาครัฐ ท่ามกลางกระแสการแข่งขันทางธุรกิจที่มีมูลค่าสูงลิ่ว
ทางบริษัทได้ทำการตรวจสอบบันทึกการทดสอบมากกว่า 140,000 รายการเพื่อหาหลักฐานยืนยัน โดยพบว่าปัญหาเกิดจากความผิดพลาดในการกำหนดค่าระบบ (misconfiguration) ทั้งบนระบบของ Anthropic เองและของพาร์ตเนอร์ผู้ทดสอบ ทำให้โมเดลสามารถเชื่อมต่ออินเทอร์เน็ตได้และนำไปสู่การเจาะระบบอื่น โดยเหตุการณ์แรกสุดนั้นเกิดขึ้นตั้งแต่เดือนเมษายนที่ผ่านมา
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
ความผิดพลาดดังกล่าวเกิดขึ้นโดยที่ไม่มีใครสังเกตเห็นการบุกรุกในขณะนั้น ทั้งจากฝั่งของ Anthropic และองค์กรที่ถูกเจาะระบบ อย่างไรก็ตาม ทางบริษัทยังคงมีความหวังเชิงระมัดระวังว่าความเสี่ยงเหล่านี้สามารถเอาชนะได้หากมีการลงทุนเพิ่มเติมและใช้มาตรการที่รัดกุมยิ่งขึ้น
บทเรียนสำคัญไม่ได้แปลว่า AI พัฒนาความสามารถในการโจมตีรูปแบบใหม่ขึ้นมาได้เอง แต่เป็นเรื่องที่เอเจนต์ AI สามารถผสานความสามารถ หาข้อมูลรับรอง และเข้าถึงระบบเพื่อปฏิบัติการได้เองโดยอัตโนมัติ พร้อมทั้งปรับเปลี่ยนขอบเขตและสเกลด้วยความเร็วระดับเครื่องจักร
David Allott
ประเด็นอื้อฉาวนี้เกิดขึ้นในช่วงเวลาเดียวกับที่บรรดาบริษัทเทคโนโลยีทุ่มงบประมาณนับพันล้านดอลลาร์ในการพัฒนาเอเจนต์ AI ที่สามารถปฏิบัติงานได้เองอย่างอิสระ ตั้งแต่งานวิจัย บริการลูกค้า ไปจนถึงความปลอดภัยไซเบอร์ ส่งผลให้ประธานาธิบดีสหรัฐฯ โดนัลด์ ทรัมป์ ออกมากล่าวว่าวอชิงตันกำลังพิจารณามาตรการควบคุมเครื่องมือ AI หลังจากเกิดเหตุการณ์ด้านความปลอดภัยทางไซเบอร์ติดต่อกัน
ที่มา: BBC Business
พบข้อมูลผิดพลาดในบทความนี้? แจ้งปัญหาบทความนี้
ความคิดเห็น
แสดงความคิดเห็น