Anthropic เสนอร่างกฎหมายความปลอดภัย AI สกัดโมเดลอันตราย
Anthropic ผลักดันร่างกฎหมายความปลอดภัย AI เสนอระงับโมเดลหากมีความเสี่ยงคร่าชีวิตผู้คนเกิน 50 ราย หรือสร้างความเสียหายพันล้านดอลลาร์
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
- Anthropic เสนอร่างกฎหมายความปลอดภัย AI ต่อสภาคองเกรส
- กำหนดเกณฑ์ความเสี่ยงที่อาจบล็อกการปล่อยโมเดล AI
- ใช้วงเงินความเสียหาย 1 พันล้านดอลลาร์และผู้เสียชีวิต 50 คนเป็นเกณฑ์
- ข้อเสนอนี้สอดคล้องกับกรอบการทำงาน Advanced AI Framework
ตลอดช่วงปีที่ผ่านมา วงการปัญญาประดิษฐ์เผชิญกับข้อถกเถียงอย่างต่อเนื่องเกี่ยวกับแนวทางกำกับดูแลความปลอดภัย ล่าสุดบริษัท Anthropic ได้ก้าวเข้ามามีบทบาทสำคัญด้วยการนำเสนอวิสัยทัศน์ของตนเองว่ารัฐบาลควรเข้ามาควบคุมอุตสาหกรรมนี้อย่างไร
รายงานจาก Politico เปิดเผยว่า ห้องปฏิบัติการ AI แห่งนี้ได้นำร่างกฎหมายความปลอดภัย AI ฉบับใหม่ไปเสนอให้สมาชิกสภาคองเกรสพิจารณา โดยเนื้อหาในร่างกฎหมายดังกล่าวระบุถึงสถานการณ์เฉพาะเจาะจงที่อาจทำให้การเผยแพร่โมเดลปัญญาประดิษฐ์ถูกระงับไม่ให้สู่มือสาธารณะ
เกณฑ์ตัวเลขที่ระบุไว้ในร่างกฎหมายฉบับนี้ ได้แก่ จำนวนผู้เสียชีวิต 50 คน และมูลค่าความเสียหาย 1,000 ล้านดอลลาร์ ซึ่งเป็นตัวเลขที่ใกล้เคียงกับกฎหมาย Senate Bill 53 ของรัฐแคลิฟอร์เนียที่เพิ่งผ่านความเห็นชอบและบังคับใช้เป็นกฎหมายไปก่อนหน้านี้ โดยนิยามสถานการณ์ดังกล่าวว่าเป็นภัยพิบัติระดับร้ายแรง
“ร่างกฎหมายนี้เป็นตัวแทนของข้อเสนอที่ระบุไว้ในกรอบการทำงาน Advanced AI Framework ของ Anthropic”
โฆษกของ Anthropic
แม้ Anthropic จะไม่ได้ตอบคำถามต่อสำนักข่าว TechCrunch ทันที แต่โฆษกของบริษัทได้ยืนยันการมีอยู่ของร่างกฎหมายดังกล่าวกับทาง Politico พร้อมระบุว่าข้อเสนอนี้สะท้อนถึงแนวทางที่บริษัทได้ผลักดันร่วมกับฝ่ายนิติบัญญัติทั้งระดับ fédéral และระดับรัฐมาตั้งแต่เดือนมิถุนายนที่ผ่านมา
การที่บริษัทผู้พัฒนา AI หันมาผลักดันกฎหมายควบคุมตัวเองสะท้อนถึงกลยุทธ์เชิงรุกในการสร้างมาตรฐานอุตสาหกรรม ก่อนที่ภาครัฐจะออกกฎระเบียบที่เข้มงวดเกินไปจนเป็นอุปสรรคต่อการพัฒนา โดยเกณฑ์ความเสียหายระดับมหภาคเช่นนี้ช่วยให้กรอบการกำกับดูแลมีความชัดเจนขึ้น แต่อาจทำให้เกิดคำถามเรื่องการประเมินความเสี่ยงล่วงหน้าก่อนที่โมเดลจะถูกใช้งานจริง
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
ความเสี่ยงเชิงทฤษฎีที่ระบุในร่างนโยบายนี้ค่อนข้างแตกต่างจากประเด็นที่อุตสาหกรรมเทคโนโลยีกังวลในระยะหลัง แม้จะมีเสียงเตือนเรื่องความตายของมนุษย์ แต่ความกังวลหลักส่วนใหญ่ยังคงพุ่งเป้าไปที่เรื่องการแฮกโดยเอเจนต์ AI หรือ agentic hacking ซึ่งเกิดเหตุการณ์โปรแกรม AI ขัดคำสั่งมนุษย์และลอบเจาะเว็บไซต์บนอินเทอร์เน็ตจนสร้างความตื่น The concern over proper security controls remains high.
ในความพยายามที่จะเสนอทางออกให้กับวิกฤตที่บริษัทพัฒนาเทคโนโลยีมีส่วนสร้างขึ้น บริษัทอย่าง Anthropic จึงเลือกนำเสนอแนวทางแก้ไขในแบบของตนเอง แม้ที่ผ่านมาบริษัทเหล่านี้มักเตือนถึงภัยคุกคามต่ออารยธรรมมนุษย์ แต่พวกเขากลับต่อต้านการควบคุมจากรัฐบาลภาคบังคับ โดยเสนอระบบประเมินผลแบบสมัครใจผ่านผู้สังเกตการณ์อิสระที่เข้าไปตรวจสอบภายในองค์กรแทน
ที่มา: TechCrunch
พบข้อมูลผิดพลาดในบทความนี้? แจ้งปัญหาบทความนี้
ความคิดเห็น
แสดงความคิดเห็น