Anthropic CEO เสนอแผนชะลอความเร็วพัฒนา AI พร้อมรับฟังบุคคลภายนอก
ดาริโอ อาโมเดอี ซีอีโอ Anthropic เผยแพร่บล็อกโพสต์เสนอ 3 กลยุทธ์ชะลอความเร็วพัฒนา AI ยอมรับการตรวจสอบจากบุคคลที่สามและร่วมมือกับรัฐบาล
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
- ดาริโอ อาโมเดอี ซีอีโอ Anthropic เสนอแผน 3 ข้อเพื่อชะลอความเร็วการพัฒนา AI ป้องกันความเสี่ยง
- บริษัทประกาศผูกมัดฝ่ายเดียวในการเปิดรับผู้ประเมินอิสระจากภายนอกเข้ามาตรวจสอบภายในองค์กร
- เสนอให้รัฐบาลสหรัฐฯ ออกข้อยกเว้นกฎหมาย antitrust เพื่อให้บริษัทเทคโนโลยีชั้นนำร่วมกำหนดมาตรฐานความปลอดภัยได้
- ระบุแนวทางรับมือการแข่งขันกับจีนโดยการจำกัดการขายชิปและป้องกันการสกัดโมเดล AI
กระแสความกังวลเกี่ยวกับความปลอดภัยของปัญญาประดิษฐ์ทวีความรุนแรงขึ้นอย่างต่อเนื่อง หลังจากมีคำเตือนจากนักวิจัยและผู้บริหารระดับสูงอย่าง แซม อัลท์แมน ซีอีโอ OpenAI เกี่ยวกับความจำเป็นในการชะลอการพัฒนา AI ลง ล่าสุด ดาริโอ อาโมเดอี ซีอีโอและผู้ร่วมก่อตั้ง Anthropic ได้เผยแพร่บทความผ่านบล็อกโพสต์ของบริษัท โดยไม่เพียงแต่เห็นพ้องกับแนวคิดดังกล่าว แต่ยังได้ระบุถึงกลยุทธ์กว้าง ๆ 3 ประการในการชะลอความก้าวหน้าของเทคโนโลยีนี้ พร้อมประกาศว่า Anthropic กำลังผูกมัดตนเองฝ่ายเดียวกับกลยุทธ์ข้อแรกอย่างเป็นรูปธรรม
ประเด็นดังกล่าวเกิดขึ้นท่ามกลางบรรยากาศความตึงเครียดภายในวงการ หลังจาก เจคอบ โคกซอน นักวิจัยด้านความปลอดภัยเพิ่งประกาศลาออกจาก Anthropic เนื่องจากกังวลว่าบริษัทชั้นนำด้าน AI กำลังเดิมพันกับชีวิตของผู้คน ขณะที่ผู้สร้างเองก็เชื่อว่าเทคโนโลยีนี้อาจทำลายล้างมนุษยชาติได้ภายในสิ้นทศวรรษนี้ แม้บล็อกโพสต์ของอาโมเดอีจะไม่ได้กล่าวถึงการลาออกดังกล่าวโดยตรง แต่เขาชี้ว่าเหตุการณ์แฮกข้อมูลระหว่าง OpenAI และ HuggingFace ประกอบกับความเร็วในการพัฒนา AI ที่ก้าวหน้าอย่างรวดเร็วจนสามารถสร้าง AI รุ่นถัดไปได้ด้วยตัวเอง คือปัจจัยสำคัญที่ทำให้เขาต้องหันมาใช้แนวทางที่ระมัดระวังยิ่งขึ้น
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
การที่ผู้นำบริษัทพัฒนา AI แถวหน้าออกมาเรียกร้องให้ชะลอความเร็วของตนเอง ถือเป็นความเคลื่อนไหวที่สะท้อนแรงกดดันทั้งจากภายในองค์กรและสังคมภายนอก ในมุมมองของผู้เชี่ยวชาญ การนำผู้ประเมินอิสระเข้ามาร่วมตรวจสอบในลักษณะเดียวกับผู้กำกับดูแลธนาคาร (embedded evaluators) อาจช่วยสร้างความโปร่งใสและเรียกคืนความเชื่อมั่นจากสาธารณชนได้ แต่ในขณะเดียวกันก็ต้องเผชิญกับความท้าทายเรื่องความลับทางการค้าและการแข่งขันทางธุรกิจที่ดุเดือด
สำหรับกลยุทธ์ข้อแรก อาโมเดอีเสนอให้มีการนำผู้ประเมินอิสระที่ฝังตัวอยู่ภายใน (embedded evaluators) จากองค์กรภายนอก เช่น METR เข้ามาตรวจสอบว่าบริษัท AI ปฏิบัติตามคำมั่นสัญญาด้านความปลอดภัยจริงหรือไม่ พร้อมทั้งทำหน้าที่รายงานอุบัติเหตุที่อาจเกิดขึ้น โดย Anthropic ได้ตัดสินใจต้อนรับผู้ประเมินเหล่านี้ด้วยการมอบบัตรพนักงาน โต๊ะทำงาน แล็ปท็อป และสิทธิ์การเข้าถึงข้อมูลที่เทียบเท่ากับทีมประเมินความเสี่ยงภายใน เพื่อผลักดันให้รัฐบาลออกกฎหมายบังคับใช้กับบริษัทแนวหน้าอื่น ๆ ต่อไป
ในส่วนของกลยุทธ์ข้อที่สองและสาม อาโมเดอีเรียกร้องให้มีการประสานงานเรื่องมาตรฐานความปลอดภัยร่วมกันระหว่างบริษัท AI ชั้นนำในประเทศประชาธิปไตย รวมถึงการเจรจาระหว่างประเทศพันธมิตรและรัฐบาลจีน เพื่อจำกัดการใช้งาน AI ในด้านอันตรายสูงสุด เช่น การผลิตอาวุธชีวภาพ พร้อมทั้งระบุว่ารัฐบาลสหรัฐฯ ควรพิจารณาออกข้อยกเว้นด้านกฎหมายต่อต้านการผูกขาด (antitrust waiver) เพื่อเปิดทางให้บริษัทเทคโนโลยีสามารถหารือเรื่องความปลอดภัยร่วมกันได้โดยไม่ต้องกังวลเรื่องข้อกฎหมาย
ที่มา: TechCrunch
พบข้อมูลผิดพลาดในบทความนี้? แจ้งปัญหาบทความนี้
ความคิดเห็น
แสดงความคิดเห็น