Anthropic: นักวิจัยเตือน AI อาจทำลายมนุษยชาติในทศวรรษนี้
จาคอบ คอกซัน นักวิจัยความปลอดภัยของ Anthropic ลาออกและเตือนว่าบริษัท AI กำลังแข่งขันพัฒนาซูเปอร์อินเทลลิเจนซ์โดยเดิมพันด้วยชีวิตมนุษย์
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
- จาคอบ คอกซัน นักวิจัยด้านความปลอดภัยของ Anthropic ประกาศลาออกเพื่อประท้วงความหละหลวมด้านความปลอดภัย
- อีแวน ฮูบิงเกอร์ ผู้นำทีมความปลอดภัยของ Anthropic ประเมินว่าโอกาสที่ AI จะฆ่ามนุษย์มีมากกว่า 10% ภายในสิ้นทศวรรษนี้
- การแข่งขันพัฒนา AI ที่ปรับปรุงตัวเองได้ดำเนินไปเร็วกว่าที่คาดคิดและยังไม่มีแผนรับมือที่ชัดเจน
วงการปัญญาประดิษฐ์สั่นคลอนอีกครั้งเมื่อนักวิจัยระดับอาวุโสด้านความปลอดภัยของบริษัท Anthropic ได้ออกมาเปิดเผยข้อมูลที่น่าตกใจ โดยระบุว่ามีความเสี่ยงมากกว่าร้อยละ 10 ที่ปัญญาประดิษฐ์อาจนำไปสู่การสูญพันธุ์ของมนุษยชาติภายในสิ้นทศวรรษนี้ คำเตือนดังกล่าวเกิดขึ้นเพียงไม่กี่ชั่วโมงหลังจากที่เพื่อนร่วมงานของเขาได้ตัดสินใจลาออกจากบริษัทเพื่อแสดงความกังวลต่อการแข่งขันอย่างไร้การควบคุมของห้องปฏิบัติการ AI ต่างๆ
จาคอบ คอกซัน อดีตนักวิจัยผู้ทำหน้าที่ฝึกฝนระบบ AI ให้กับทั้ง OpenAI และ Anthropic ได้ประกาศลาออกผ่านแพลตฟอร์ม X โดยกล่าวหาว่าบริษัททั้งสองแห่งกำลังเร่งรีบพัฒนาปัญญาประดิษฐ์ขั้นสูงที่สามารถปรับปรุงตัวเองได้ และเปรียบเปรยว่าการกระทำดังกล่าวเป็นการนำชีวิตของพวกเราทุกคนมาเสี่ยงโชค แม้ว่าบุคคลากรภายในที่ร่วมสร้างระบบเหล่านี้จะตระหนักดีว่ามันอาจเป็นอันตรายถึงชีวิตของมนุษย์ทุกคนก็ตาม
ในประเด็นเรื่องการพัฒนา AI ที่มีความสามารถในการพัฒนาตัวเองซ้ำๆ หรือที่เรียกว่า recursive self-improvement ผู้เชี่ยวชาญในอุตสาหกรรมต่างแสดงความกังวลมาอย่างยาวนานว่าวงจรดังกล่าวอาจหลุดรอดจากการควบคุมของมนุษย์ได้ แม้ในปัจจุบันเทคโนโลยียังไปไม่ถึงจุดนั้นอย่างสมบูรณ์ แต่รหัสคำสั่งส่วนใหญ่ในปัจจุบันก็ถูกเขียนขึ้นด้วยความช่วยเหลือของ AI แล้วเช่นกัน
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
ทางด้าน อีแวน ฮูบิงเกอร์ ผู้บริหารทีมความปลอดภัย AI ของ Anthropic ได้ออกมาตอบสนองต่อเรื่องนี้โดยยอมรับว่าเขามีความกังวลเกี่ยวกับ AI ที่พัฒนาตัวเองได้เช่นกัน และระบุว่ากระบวนการดังกล่าวเกิดขึ้นเร็วกว่าที่คาดการณ์ไว้ พร้อมทั้งเห็นพ้องกับมุมมองของคอกซันว่ามีความเป็นไปได้มากกว่า 1 ใน 10 ที่ AI จะทำลายมนุษย์ภายในสิบปีข้างหน้า
"We really do earnestly believe AI could kill all humans"
Evan Hubinger
อย่างไรก็ตาม ฮูบิงเกอร์ ยอมรับว่าในขณะนี้ทาง Anthropic ยังไม่มีแผนการที่ชัดเจนในการรับประกันว่าระบบ AI ขั้นสูงจะยังคงปลอดภัยและสอดคล้องกับค่านิยมของมนุษย์ และยังไม่ได้อยู่ในเส้นทางที่จะพัฒนาแผนดังกล่าวได้ทันท่วงที ในขณะที่คอกซันมองว่าบริษัทต่างๆ กำลังติดอยู่ในเกมการแข่งขันเพื่อพัฒนา AI ขั้นสูงให้ได้ก่อนคู่แข่ง จึงเลือกที่จะเดินหน้าต่อไปแม้จะมีความเสี่ยงก็ตาม
การลาออกของบุคลากรระดับสูงและการออกมายอมรับถึงความเสี่ยงขั้นวิกฤต สะท้อนให้เห็นถึงแรงกดดันมหาศาลภายในอุตสาหกรรมเทคโนโลยีที่กำลังเร่งพัฒนาโมเดลภาษาขนาดใหญ่และปัญญาประดิษฐ์ทั่วไป (AGI) ท่ามกลางกระแสการเตรียมตัวเข้าสู่ตลาดหลักทรัพย์ (IPO) รวมถึงปัญหาเรื่องหน่วยงานอิสระและโมเดลที่ยากจะตรวจสอบการทำงาน ซึ่งกลายเป็นโจทย์ใหญ่ที่หน่วยงานกำกับดูแลทั่วโลกกำลังเร่งหาทางควบคุม
การลาออกครั้งนี้ถือเป็นหนึ่งในเหตุการณ์ที่มีชื่อเสียงที่สุดของ Anthropic ซึ่งก่อตั้งขึ้นโดยอดีตพนักงานของ OpenAI ที่เคยลาออกด้วยเหตุผลด้านความปลอดภัยเช่นเดียวกัน สะท้อนถึงความขัดแย้งที่นับวันยิ่งทวีความรุนแรงขึ้นระหว่างความเร่งรีบในการทำธุรกิจและความปลอดภัยของมวลมนุษยชาติ
ที่มา: The Verge
พบข้อมูลผิดพลาดในบทความนี้? แจ้งปัญหาบทความนี้
ความคิดเห็น
แสดงความคิดเห็น