Anthropic สารภาพในเอกสาร IPO เคยตรวจไม่ทัน AI พัฒนาตัวเอง
Anthropic ยื่นเอกสารไฟลิ่ง S-1/A ต่อ SEC สหรัฐฯ ยอมรับเคยตรวจจับอัตราเร่งความสามารถของ AI ไม่ทันจนเกิดขึ้นไปแล้ว พร้อมเตือนความเสี่ยง RSI
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
- Anthropic ยื่นเอกสารไฟลิ่ง S-1/A ฉบับแก้ไขต่อ SEC สหรัฐฯ เพื่อเตรียมเสนอขายหุ้น IPO
- บริษัทระบุในหมวดความเสี่ยงว่าเคยตรวจจับความสามารถ AI ที่ก้าวกระโดดไม่ทัน
- เตือนปรากฏการณ์ RSI ที่ AI เก่งขึ้นจนกลับมาช่วยสร้าง AI รุ่นต่อไปได้เอง
- ชี้ช่องว่างความปลอดภัยระหว่างความสามารถ AI กับมาตรการควบคุมที่อาจตามไม่ทัน
เมื่อต้นสัปดาห์ที่ผ่านมา Anthropic สตาร์ตอัปผู้พัฒนาโมเดลตระกูล Claude ได้ยื่นเอกสารไฟลิ่ง S-1/A ฉบับแก้ไขต่อสำนักงานคณะกรรมการกำกับหลักทรัพย์และตลาดหลักทรัพย์ของสหรัฐอเมริกา หรือ SEC เพื่อเตรียมความพร้อมสำหรับการเสนอขายหุ้นต่อประชาชนทั่วไปเป็นครั้งแรกหรือ IPO โดยแม้พาดหัวข่าวส่วนใหญ่จะมุ่งเป้าไปที่อัตราการเติบโตของรายได้และตัวเลขค่าใช้จ่ายมหาศาล แต่ในหมวดปัจจัยความเสี่ยงหรือ Risk Factors กลับมีข้อความสำคัญที่ทำให้คนในแวดวงเทคโนโลยีต้องหยุดอ่าน
ทางบริษัทได้ยอมรับอย่างตรงไปตรงมาว่า ที่ผ่านมาเคยตรวจไม่พบการก้าวกระโดดของขีดความสามารถโมเดลตนเองจนกระทั่งมันเกิดขึ้นไปแล้ว และมีความเป็นไปได้สูงที่จะเกิดสถานการณ์เช่นนี้ซ้ำอีกในอนาคต เนื่องจากการใช้ระบบ AI เข้ามาเร่งงานวิจัยและพัฒนาของบริษัทมากขึ้นเรื่อย ๆ อาจส่งผลให้ขีดความสามารถของโมเดลก้าวล้ำไปเร็วกว่าความสามารถในการพัฒนา ตรวจสอบ และบังคับใช้มาตรการด้านความปลอดภัย การจัดทิศทาง หรือ Alignment รวมถึงการรักษาความปลอดภัยที่สอดรับกัน
“การใช้ระบบ AI เข้ามาเร่งงานวิจัยและพัฒนาของบริษัทมากขึ้นเรื่อย ๆ อาจส่งผลให้ขีดความสามารถของโมเดลก้าวล้ำไปเร็วกว่าความสามารถในการพัฒนา ตรวจสอบ และบังคับใช้มาตรการด้านความปลอดภัย”
Anthropic (เอกสารยื่นต่อ SEC สหรัฐฯ)
ข้อความดังกล่าวถือเป็นข้อความในเอกสารทางกฎหมายที่ยื่นต่อหน่วยงานกำกับดูแล ซึ่งหากมีการปิดบังหรือให้ข้อมูลเท็จจะมีโทษทางกฎหมายทันที โดยใจความสำคัญหมายความว่าการที่บริษัทนำ AI มาช่วยเร่งงานวิจัยและพัฒนาของตัวเอง ทำให้ความสามารถของโมเดลก้าวกระโดดไปไกลกว่าที่มนุษย์จะพัฒนาและติดตั้งระบบความปลอดภัยได้ทัน ส่งผลให้ทีมวิจัยตรวจจับอัตราเร่งนี้ไม่ทันจนกระทั่งมันเกิดขึ้นไปแล้ว คำยอมรับนี้ไม่ได้น่ากลัวแค่เพราะตัว AI ฉลาดขึ้นอย่างรวดเร็ว แต่สิ่งที่น่ากังวลที่สุดคือเครื่องมือวัดผลของบริษัททำงานช้ากว่าความเป็นจริง
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
ปรากฏการณ์ที่ Anthropic กำลังเผชิญสะท้อนถึงแนวคิด Recursive Self-Improvement หรือ RSI ซึ่งเป็นจุดเปลี่ยนสำคัญที่ปัญญาประดิษฐ์มีความสามารถสูงพอที่จะกลับมาเขียนโค้ดและพัฒนาโมเดลรุ่นถัดไปได้ด้วยตนเอง เมื่อวงจรนี้เกิดขึ้น ความเร็วในการพัฒนาจะไม่จำกัดอยู่แค่รอบการทำงานของมนุษย์อีกต่อไป ส่งผลให้ความก้าวหน้าในแต่ละรอบสั้นลงอย่างทวีคูณ และกลายเป็นโจทย์ใหญ่ของอุตสาหกรรมเทคโนโลยีในการสร้างสมดุลระหว่างความเร็วในการพัฒนาและเสถียรภาพในการควบคุมความปลอดภัย
ในแวดวงเทคโนโลยีมีการมองปรากฏการณ์นี้เป็น 2 มุมมองที่แตกต่างกัน โดยกลุ่มแรกกังวลว่าหากความสามารถเพิ่มขึ้นเร็วเกินไปจนมนุษย์ตามไม่ทัน ระบบอาจทำงานหลุดออกจากการควบคุมและก่อให้เกิดความเสียหายในระหว่างที่ AI ดำเนินการตามเป้าหมาย ขณะที่อีกกลุ่มหนึ่งมองว่านี่คือโอกาสครั้งใหญ่ที่จะช่วยเร่งประสิทธิภาพการทำงานและการค้นพบองค์ความรู้ใหม่ ๆ ในระดับที่มนุษย์ทำเองไม่ได้ ทั้งนี้ Anthropic ระบุว่าการปล่อยให้ AI ช่วยสร้าง AI เป็นหนึ่งในจุดที่ต้องเฝ้าระวังอย่างเข้มงวดที่สุด เนื่องจากความเร็วที่เพิ่มขึ้นอย่างก้าวกระโดดจะทำให้ความเสี่ยงด้านความปลอดภัยทวีความรุนแรงตามไปด้วย
สาเหตุหลักที่ทำให้การก้าวกระโดดของ AI เป็นเรื่องน่ากังวลอยู่ที่ขั้นตอนการสร้างความปลอดภัยซึ่งต้องใช้เวลาและทรัพยากรบุคคลสูง การทดสอบว่าโมเดลมีความเสี่ยงที่เป็นอันตรายหรือไม่ รวมถึงการปรับแต่งพฤติกรรมหรือ Alignment ให้ระบบปฏิบัติตามคำสั่งของมนุษย์อย่างปลอดภัย จำเป็นต้องอาศัยการตรวจสอบอย่างละเอียด หากงานวิจัยด้านความสามารถถูกเร่งให้เร็วขึ้นด้วย AI แต่ขั้นตอนการสร้างเกราะป้องกันยังทำได้ด้วยความเร็วเท่าเดิม ช่องว่างดังกล่าวจะยิ่งขยายกว้างขึ้น และทำให้ทีมวิจัยไม่รู้ตัวว่าความเสี่ยงเกิดขึ้นตั้งแต่เมื่อใด โดยทางบริษัทมีกฎความปลอดภัยภายในที่เรียกว่า Responsible Scaling Policy หรือ RSP ซึ่งกำหนดว่ายิ่งโมเดลฉลาดขึ้น ระบบความปลอดภัยก็ต้องผ่านเกณฑ์ที่เข้มงวดขึ้นตามไปด้วย
ที่มา: Techsauce
พบข้อมูลผิดพลาดในบทความนี้? แจ้งปัญหาบทความนี้
ความคิดเห็น
แสดงความคิดเห็น