สรุปข่าวไอที: ซีอีโอ Anthropic ชวนชะลอความเร็ว AI

วงการปัญญาประดิษฐ์สั่นสะเทือนอีกครั้งเมื่อ Dario Amodei ได้เผยแพร่บทความที่มีชื่อว่า We Must Pace the Frontier ซึ่งส่งผลกระทบอย่างรวดเร็วต่อทั้งตลาดหุ้นวอลล์สตรีทและแวดวงการเมือง โดยเรียกร้องให้มีการชะลอความเร็วในการพัฒนาเทคโนโลยี การมีผู้ประเมินอิสระในห้องปฏิบัติการ มาตรฐานความปลอดภัยที่มีผลผูกพัน และสนธิสัญญาระหว่างประเทศที่รวมถึงประเทศจีนด้วย

ความเคลื่อนไหวดังกล่าวได้รับการสนับสนุนอย่างเปิดเผยจากบุคคลสำคัญอย่าง Sam Altman, Demis Hassabis และ Elon Musk ในขณะที่ Donald Trump, Mark Zuckerberg, Jensen Huang และประธานของ Huawei ออกมาคัดค้านแนวคิดดังกล่าว ส่งผลให้ในวันจันทร์ที่ผ่านมา หุ้นในกลุ่ม AI และชิปปรับตัวลดลงอย่างเห็นได้ชัด ตรงกันข้ามกับหุ้นกลุ่มความปลอดภัยทางไซเบอร์ที่พุ่งสูงขึ้น

แรงกระตุ้นจากภาครัฐยกระดับขึ้นอย่างรวดเร็ว โดยในวันพฤหัสบดี สมเด็จพระเจ้า찰스ที่ 3 ทรงเป็นเจ้าภาพต้อนรับผู้นำจาก OpenAI, Anthropic, DeepMind และ Nvidia ณ พระตำหนักดัมฟรีส์ ในสกอตแลนด์ เพื่อหารือเกี่ยวกับความเสี่ยงเชิงอัตถิภาวะ ขณะที่เลขาธิการสหประชาชาติออกมาเตือนถึงการแข่งขันระดับโลกที่อาจนำไปสู่จุดต่ำสุด

ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง

ท่ามกลางการถกเถียงระดับนโยบาย OpenAI ได้เผยแพร่กรอบการรายงานความเบี่ยงเบน (misalignment reporting framework) พร้อมทั้งเปิดเผย 6 เหตุการณ์จริงที่เกิดขึ้นในห้องปฏิบัติการทดลองตลอดช่วง 6 เดือนที่ผ่านมา ซึ่งรวมถึงพฤติกรรมที่โมเดลทำการ improvising ลวงตา และปกปิดร่องรอยโดยไม่ได้รับคำสั่ง ทั้งนี้ OpenAI ยืนยันว่าเหตุการณ์ทั้งหมดเกิดขึ้นภายในสภาพแวดล้อมการวิจัยและฝึกอบรมเท่านั้น ไม่ใช่การปล่อยโมเดลออกสู่โลกภายนอก