Anthropic เรียกร้องชะลอความเร็วพัฒนา AI ป้องกันความเสี่ยงร้ายแรง
ดาริโอ อาโมเดอี ซีอีโอ Anthropic เผยบทความเสนอแผน 3 ข้อให้ชะลอความเร็วพัฒนา AI พร้อมเสียงสะท้อนจาก Sam Altman และ Elon Musk
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
- ดาริโอ อาโมเดอี ซีอีโอ Anthropic เสนอให้ชะลอความเร็วการพัฒนาโมเดล AI เพื่อรับมือกับความเสี่ยง
- เสนอแผน 3 ข้อ ได้แก่ การตรวจสอบอิสระ การออกกฎระเบียบในอุตสาหกรรม และกฎระเบียบระดับโลก
- Sam Altman จาก OpenAI และ Elon Musk ออกมาแสดงมุมมองต่อทิศทางความปลอดภัยของ AI
- นักวิจารณ์บางส่วนตั้งข้อสังเกตว่าข้อเสนอนี้อาจเกี่ยวข้องกับการผูกขาดการควบคุมเทคโนโลยี
ดาริโอ อาโมเดอี (Dario Amodei) ประธานเจ้าหน้าที่บริหารของบริษัทปัญญาประดิษฐ์ชั้นนำ Anthropic ได้เผยแพร่บทความเมื่อวันเสาร์ที่ผ่านมา โดยเรียกร้องให้มีการชะลออัตราการพัฒนาโมเดลปัญญาประดิษฐ์และให้มีการติดตามตรวจสอบอย่างใกล้ชิด
อาโมเดอีระบุว่าการพัฒนา AI นั้นเป็นสิ่งเลี่ยงไม่ได้ แต่ความเสี่ยงที่เกี่ยวข้องกับเทคโนโลยีนี้มีความรุนแรงมาก และบริษัทต่างๆ รวมถึงภาครัฐจำเป็นต้องได้รับเวลาที่เหมาะสมในการจัดการกับปัญหาเหล่านี้
ในบทความดังกล่าว เขาได้เสนอแผนงาน 3 ข้อสำคัญสำหรับการพัฒนา AI ประกอบด้วย:
- การมีระบบตรวจสอบอิสระสำหรับโมเดล AI ในระหว่างขั้นตอนการพัฒนา
- การสร้างกฎระเบียบที่ครอบคลุมทั่วทั้งอุตสาหกรรม
- การผลักดันให้เกิดกฎระเบียบในระดับสากล
ก่อนหน้านี้ Anthropic เคยระบุว่าทางบริษัทสามารถตรวจพบและระงับความพยายามนำโมเดล AI ไปใช้ในกิจกรรมที่เป็นอันตราย ซึ่งอาจสนับสนุนการพัฒนาอาวุธชีวภาพได้ อย่างไรก็ตาม คำเตือนที่รุนแรงที่สุดมาจากพนักงาน 2 คนในทีมความปลอดภัยของ Anthropic ที่ได้ยื่นลาออกในช่วงสองสัปดาห์ที่ผ่านมา โดยระบุว่ามนุษยชาติอาจไม่สามารถรอดพ้นจากการแข่งขันระหว่างบริษัท AI ที่เร่งพัฒนาเครื่องจักรให้ฉลาดเหนือมนุษย์
ข้อเสนอของผู้นำบริษัท AI รายใหญ่เกี่ยวกับการชะลอความเร็วในการพัฒนานั้น สะท้อนให้เห็นความกังวลเชิงโครงสร้างที่ทวีความรุนแรงขึ้นภายในอุตสาหกรรมเทคโนโลยี ในขณะที่การแข่งขันระดับโลกเพื่อชิงความเป็นหนึ่งดำเนินไปอย่างดุเดือด การถ่วงดุลระหว่างนวัตกรรมและความปลอดภัยกลายเป็นโจทย์ที่ท้าทายที่สุด โดยเฉพาะเมื่อผู้พัฒนาเองเริ่มตระหนักถึงขีดจำกัดในการควบคุมระบบที่มีความซับซ้อนสูง
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
ในเวลาไล่เลี่ยกัน แซม อัลท์แมน (Sam Altman) ซีอีโอของ OpenAI ได้ให้สัมภาษณ์กับนิตยสาร Fortune โดยระบุว่ามาตรฐานความปลอดภัยในปัจจุบันยังไม่พร้อมที่จะผลักดันขีดความสามารถของ AI ให้ก้าวหน้าไปมากกว่านี้ พร้อมทั้งยอมรับว่ามีความเป็นไปได้ที่ AI จะหลุดพ้นจากการควบคุมของมนุษย์
"I believe that if slowing down bought us even an extra year or two before models reach critical levels of capability, and we used that time to advance alignment, we could greatly reduce the risk that something goes seriously wrong"
Dario Amodei
ทางด้านซีอีโอของแพลตฟอร์ม Hugging Face อย่าง เกลม็องต์ เดอลังก์ (Clement Delangue) ได้ประกาศเปิดตัวโครงการใหม่ในชื่อ Open Alignment Initiative เพื่อตอบสนองต่อข้อเสนอของอาโมเดอี ในขณะที่ อีลอน มัสก์ (Elon Musk) ก็ได้ออกมาแสดงความเห็นสั้นๆ ผ่านข้อความว่า "Dario is right" เช่นกัน
ที่มา: BBC World
พบข้อมูลผิดพลาดในบทความนี้? แจ้งปัญหาบทความนี้
ความคิดเห็น
แสดงความคิดเห็น