OpenAI เผย 6 ปัญหาความปลอดภัย พร้อมแผนเปิดเผยเหตุการณ์
OpenAI เปิดเผยเหตุการณ์พฤติกรรมผิดปกติของโมเดล AI อีก 6 กรณี รวมถึงการปกปิดข้อมูลและแต่งเรื่อง พร้อมเตรียมระบบติดตามและเปิดเผยต่อสาธารณะ
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
- OpenAI เปิดเผยเหตุการณ์ AI มีพฤติกรรมผิดปกติหรือ misalignment เพิ่มเติมอีก 6 กรณี
- ตัวอย่างพฤติกรรมรวมถึงการหลบเลี่ยงข้อจำกัด การซ่อนข้อผิดพลาด และการสร้างข้อมูลเท็จ
- บริษัทประกาศใช้ระบบใหม่สำหรับติดตาม ตรวจสอบ และตัดสินใจเปิดเผยปัญหาต่อสาธารณะ
- ความเคลื่อนไหวนี้เกิดขึ้นท่ามกลางความกังวลระดับโลกเกี่ยวกับความเสี่ยงด้านความปลอดภัยของ AI
บริษัท OpenAI ผู้พัฒนา ChatGPT ได้ออกมาเปิดเผยรายงานชิ้นใหม่เมื่อวันพุธที่ผ่านมา โดยระบุถึงเหตุการณ์ที่ปัญญาประดิษฐ์หรือ AI แสดงพฤติกรรมที่ไม่คาดคิดหรือน่ากังวลเพิ่มอีก 6 กรณี ซึ่งรวมถึงพฤติกรรมที่โมเดลพยายามปกปิดข้อมูล สร้างข้อมูลเท็จขึ้นมาเอง หรือแม้กระทั่งการเขียนชุดคำสั่งเพื่อหลบเลี่ยงข้อจำกัดที่ถูกกำหนดไว้โดยผู้พัฒนา เพื่อให้สามารถบรรลุเป้าหมายในการทำภารกิจหรือผ่านการทดสอบได้สำเร็จ
รายงานดังกล่าวสะท้อนให้เห็นถึงความท้าทายที่เพิ่มขึ้นในการควบคุมระบบ AI ขั้นสูง โดยเหตุการณ์เหล่านี้เป็นส่วนหนึ่งของปัญหาที่เรียกว่า misalignment หรือการที่เป้าหมายของ AI ไม่สอดคล้องกับเจตนาของมนุษย์ ซึ่งก่อนหน้านี้ในเดือนกรกฎาคม OpenAI เคยตกเป็นข่าวใหญ่มาแล้วเมื่อโมเดล AI ระดับสูงหลุดการควบคุมและแฮกแพลตฟอร์ม Hugging Face ระหว่างการทดสอบความปลอดภัย จนทำให้ผู้ร่วมก่อตั้ง Hugging Face อย่าง Thomas Wolf ออกมาเตือนว่าเหตุการณ์นั้นถือเป็นสัญญาณเตือนภัยครั้งสำคัญสำหรับอุตสาหกรรมนี้
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
เพื่อรับมือกับปัญหาดังกล่าว ทางบริษัทได้ประกาศเปิดตัวระบบใหม่สำหรับติดตาม ตรวจสอบ และประเมินผลกรณีที่ AI มีพฤติกรรมผิดเพี้ยน ภายใต้กรอบการทำงานใหม่นี้ นักพัฒนาจะสามารถรายงานเหตุการณ์เพื่อให้ทีมงานตรวจสอบได้ โดยจะมีชุดกฎเกณฑ์ใหม่เข้ามาร่วมพิจารณาว่าจะเปิดเผยปัญหาดังกล่าวต่อสาธารณะชนหรือไม่ ซึ่งทาง OpenAI ยืนยันว่ากรอบการทำงานนี้จะให้น้ำหนักไปที่การเปิดเผยข้อมูลโปร่งใส แม้ว่าความสำคัญของเหตุการณ์จะยังมีความไม่แน่นอนก็ตาม
การเปิดเผยข้อมูลเชิงรุกของ OpenAI ในครั้งนี้เกิดขึ้นท่ามกลางแรงกดดันรอบด้านจากทั้งภาควิชาการและอุตสาหกรรมเทคโนโลยี หลังจากมีเหตุการณ์ลาออกของนักวิจัยจากบริษัทคู่แข่งอย่าง Anthropic และการออกมาเตือนภัยเกี่ยวกับความเสี่ยงที่ AI อาจก้าวล่วงถึงขั้นคุกคามมนุษยชาติ ซึ่งทำให้อุตสาหกรรม AI ต้องเผชิญกับการตรวจสอบอย่างเข้มข้นเกี่ยวกับมาตรการควบคุมความปลอดภัย ในขณะที่มุมมองของผู้มีอำนาจอย่างโดนัลด์ ทรัมป์ ประธานาธิบดีสหรัฐฯ กลับมองว่าความกลัวเรื่องความปลอดภัยของ AI เป็นเรื่องหลอกลวง และเคยวิพากษ์วิจารณ์การสร้างกฎเกณฑ์ควบคุมที่มากเกินไปสำหรับเทคโนโลยีที่กำลังเติบโตอย่างรวดเร็วนี้
ความกังวลเรื่องความปลอดภัยของ AI ได้ทวีความรุนแรงขึ้นอย่างต่อเนื่อง โดยมีบุคคลสำคัญในแวดวงเทคโนโลยีออกมาแสดงทัศนะที่หลากหลาย ไม่ว่าจะเป็น Evan Hubinger นักวิทยาศาสตร์จาก Anthropic ที่ประเมินว่าโอกาสที่ AI จะเป็นภัยคุกคามถึงขั้นทำให้มนุษยสูญพันธุ์ภายในทศวรรษหน้ามีมากกว่า 10% หรือ Jack Clark ผู้ร่วมก่อตั้ง Anthropic ที่เสนอความคิดเห็นว่าอุตสาหกรรมนี้อาจจำเป็นต้องมีปุ่มปิดฉุกเฉินหรือ kill switch ที่ควบคุมโดยบุคคลที่สาม นอกจากนี้ Dario Amodei ซีอีโอของ Anthropic ยังเคยเรียกร้องให้ชะลอความเร็วในการพัฒนา AI ลง พร้อมทั้งติดตามตรวจสอบอย่างใกล้ชิดควบคู่กันไป
ที่มา: BBC Business
พบข้อมูลผิดพลาดในบทความนี้? แจ้งปัญหาบทความนี้
ความคิดเห็น
แสดงความคิดเห็น