อดีตนักวิจัย Anthropic เผยคนวงในหวั่น AI ครองโลก
จาคอบ โคกสัน อดีตนักวิจัยวัย 27 ปีของ Anthropic เผยบุคลากรไอทีหวาดกลัวความเร็วของ AI จนเสี่ยงสูญพันธุ์ใน 2 ปีข้างหน้า
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
- จาคอบ โคกสัน อดีตนักวิจัย Anthropic เผยพนักงานหวาดกลัวความเร็ว AI
- ดาริโอ อาโมเดดี้ หัวหน้าค่าย Anthropic หนุนชะลอพัฒนา AI ร่วมกับจีน
- ซัม อัลท์แมน และอีลอน มัสก์ เห็นพ้องต้องมีการควบคุมกำกับดูแล
- เสียงวิจารณ์มองการเตือนภัยอาจเป็นกลยุทธ์สร้างกระแสหรือผูกขาด
วงการปัญญาประดิษฐ์กำลังเผชิญกับแรงกระเพื่อมครั้งใหญ่ หลังจาก จาคอบ โคกสัน (Jacob Coxon) อดีตรนักวิจัยวัย 27 ปีของบริษัท Anthropic ตัดสินใจลาออกจากตำแหน่ง และโพสต์ข้อความเตือนภัยเกี่ยวกับอันตรายของ AI จนกลายเป็นไวรัล โคกสันได้ออกมาเปิดเผยผ่านสำนักข่าว BBC ว่า บุคลากรที่กำลังพัฒนาเทคโนโลยีนี้อยู่เบื้องหลังมีความหวาดกลัวอย่างแท้จริงต่อความเร็วในการพัฒนา และผลกระทบที่อาจเกิดขึ้นต่อมนุษยชาติในอนาคตอันใกล้นี้
ก่อนที่จะมาร่วมงานกับ Anthropic โคกสันเคยทำงานร่วมกับ OpenAI มาก่อน โดยเขาระบุว่าคำถามที่ยากที่สุดในตอนนี้คือ หน้าตาของจุดจบของมนุษยชาติจาก AI หรือที่เรียกว่าวันสิ้นโลกของปัญญาประดิษฐ์จะเป็นอย่างไร หนึ่งในความเสี่ยงที่ ดาริโอ อาโมเดดี้ (Dario Amodei) หัวหน้าผู้บริหารของ Anthropic ได้ระบุไว้ในบทความเชิงวิเคราะห์เมื่อวันเสาร์ที่ผ่านมา คือการที่ฝูงบอท (swarm of bots) ทำหน้าที่เสมือนซูเปอร์คอมพิวเตอร์และเข้ายึดครองอินเทอร์เน็ต ซึ่งโคกสันประเมินว่าสถานการณ์ดังกล่าวอาจเกิดขึ้นได้จริงภายในระยะเวลา 6 เดือนถึง 1 ปีข้างหน้า
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
ความกังวลดังกล่าวยังได้รับการสนับสนุนจากผู้บริหารค่ายคู่แข่งอย่าง ซัม อัลท์แมน (Sam Altman) จาก OpenAI และอีลอน มัสก์ (Elon Musk) จาก xAI ซึ่งต่างเห็นพ้องกับข้อเสนอของอาโมเดดี้ที่เรียกร้องให้มีการชะลอความเร็วในการพัฒนา การกำบับดูแลระดับอุตสาหกรรม และการตรวจสอบโมเดล AI โดยอิสระ อย่างไรก็ตาม โคกสันระบุเพิ่มเติมว่า การชะลอความเร็วดังกล่าวจำเป็นต้องมีการประสานงานร่วมมือกับประเทศจีนอย่างจริงจัง เพื่อหลีกเลี่ยงไม่ให้เกิดการแข่งขันกันในระดับนานาชาติ
ทางด้านความเห็นจากเพื่อนร่วมงานในอุตสาหกรรม โคกสันกล่าวว่าเพื่อนร่วมงานของเขานำความเสี่ยงเรื่องอันตรายระดับทำลายล้างนี้มาคิดวนเวียนอยู่ในหัวทุกวันขณะทำงาน และหลายคนเชื่อว่าหายนะดังกล่าวอาจเกิดขึ้นได้ภายใน 2 ปีข้างหน้า นอกจากนี้ เอวาน ฮูบิงเกอร์ (Evan Hubinger) นักวิทยาศาสตร์จาก Anthropic และ ริชี ซูนัก (Rishi Sunak) อดีตนายกรัฐมนตรีอังกฤษ ซึ่งปัจจุบันเป็นที่ปรึกษาได้รับค่าตอบแทนของ Anthropic ก็ได้ออกมาแสดงความกังวลผ่านสื่อ Sunday Times เช่นกัน แม้ว่าโดยทั่วไปเขาจะมองโลกในแง่ดีก็ตาม
"มีความเป็นไปได้ที่มนุษยชาติจะสูญพันธุ์"
ในฝั่งของโฆษกบริษัท Anthropic ได้ออกแถลงการณ์ตอบโต้การลาออกดังกล่าวโดยระบุว่า ทางบริษัทมีความโปร่งใสมาโดยตลอดว่า AI จะนำมาทั้งประโยชน์มหาศาลและ rความเสี่ยงที่ไม่เคยเกิดขึ้นมาก่อน พร้อมระบุว่าทางบริษัทพยายามสร้างโมเดลที่มีระบบป้องกันความปลอดภัยที่แข็งแกร่งที่สุดในอุตสาหกรรม และโลกจะได้ประโยชน์หากอุตสาหกรรมร่วมมือกันควบคุมจังหวะการปล่อยโมเดลทรงพลังอย่างถูกกฎหมายและตรวจสอบได้
การออกมาเตือนภัยเรื่องการสูญพันธุ์ของมนุษยชาติจากปากคำของอดีตนักวิจัยและผู้บริหารระดับสูง สะท้อนให้เห็นถึงความตึงเครียดภายในซิลิคอนแวลลีย์ระหว่างการแข่งขันทางธุรกิจเพื่อชิงความเป็นหนึ่งด้านปัญญาประดิษฐ์ กับความกังวลด้านจริยธรรมและความปลอดภัยระดับโลก ซึ่งในมุมมองเชิงโครงสร้างอุตสาหกรรม การผลักดันกฎระเบียบที่เข้มงวดอาจกลายเป็นดาบสองคมที่ช่วยปกป้องสังคม แต่ในขณะเดียวกันก็อาจถูกมองว่าเป็นกลไกสร้างกำแพงกีดกันคู่แข่งรายย่อยให้ออกจากตลาดได้เช่นกัน
อย่างไรก็ตาม เสียงเตือนเหล่านี้ไม่ได้ยอมรับกันทั้งหมดในซิลิคอนแวลลีย์ โดย เจนเซ่น ฮวง (Jensen Huang) ประธานเจ้าหน้าที่บริหารของ Nvidia ได้กล่าวถึงความคิดเห็นของโคกสันในงานประชุมที่จัดโดยธนาคารเพื่อการลงทุน Goldman Sachs เมื่อสัปดาห์ก่อน โดยมีผู้เข้าร่วมประชุมยืนยันกับ BBC ว่าฮวงได้ปฏิเสธคำกล่าวอ้างดังกล่าวว่าเป็นเรื่องที่ไม่เป็นความจริง ซึ่งสะท้อนให้เห็นกระแสต่อต้านคำเตือนเรื่องภัยคุกคามที่มีอยู่จริงจากคนวงใน ท่ามกลางกระแสบูมทางธุรกิจที่ Nvidia เป็นผู้ผลิตชิปป้อนระบบ AI เหล่านี้
นอกจากนี้ นักวิจารณ์บางรายยังมองว่า Anthropic อาจกำลังพยายามผลักดันให้เกิดกฎระเบียบเพื่อสกัดกั้นคู่แข่งรายอื่น จนเหลือเพียง Anthropic และ OpenAI ที่ครองตลาดในรูปแบบผู้เล่นสองราย (duopoly) เท่านั้น โดยปัจจุบัน Anthropic กำลังเตรียมตัวสำหรับการเสนอขายหุ้น IPO ครั้งประวัติศาสตร์ ขณะที่ OpenAI ซึ่งมีมูลค่าประเมินล่าสุดสูงถึง 8.52 แสนล้านดอลลาร์ (ประมาณ 6.3 แสนล้านปอนด์) ยืนยันว่าจะยังไม่นำบริษัทเข้าตลาดในปีนี้โดยอ้างเหตุผลด้านความปลอดภัย
ที่มา: BBC Business
พบข้อมูลผิดพลาดในบทความนี้? แจ้งปัญหาบทความนี้
ความคิดเห็น
แสดงความคิดเห็น