นักวิชาการจี้บริษัท AI เปิดเผยข้อมูลความปลอดภัย หลังแชทบอทล้มเหลวในการช่วยเหลือผู้ป่วยวิกฤต
ผู้เชี่ยวชาญด้านการแพทย์และนักวิจัยเรียกร้องให้บริษัทผู้พัฒนาปัญญาประดิษฐ์เปิดเผยข้อมูลด้านความปลอดภัย เพื่อหาแนวทางแก้ไขปัญหาแชทบอทที่ไม่สามารถรับมือกับผู้ใช้ในภาวะวิกฤตได้
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
- แพทย์และนักวิจัยออกโรงเรียกร้องให้บริษัท AI เปิดเผยข้อมูลด้านความปลอดภัย
- พบปัญหาแชทบอทปัญญาประดิษฐ์ล้มเหลวในการให้ความช่วยเหลือผู้ใช้ที่กำลังเผชิญภาวะวิกฤต
- ผู้เชี่ยวชาญชี้ว่าความโปร่งใสคือหัวใจสำคัญในการแก้ไขและป้องกันปัญหาที่อาจเกิดขึ้น
กลุ่มแพทย์และทีมนักวิจัยผู้เชี่ยวชาญได้ออกมาแสดงจุดยืนอย่างชัดเจนว่า บริษัทผู้พัฒนาปัญญาประดิษฐ์หรือ AI จำเป็นอย่างยิ่งที่จะต้องเปิดเผยข้อมูลด้านความปลอดภัยต่อสาธารณะและผู้เชี่ยวชาญภายนอก เพื่อให้ทุกฝ่ายสามารถตรวจสอบและนำไปสู่การปรับปรุงระบบได้อย่างแท้จริง หลังจากที่ผ่านมาเริ่มมีสัญญาณเตือนและความกังวลเพิ่มมากขึ้นว่าระบบแชทบอทอัจฉริยะยังคงมีความบกพร่องครั้งใหญ่ในการทำหน้าที่ช่วยเหลือหรือรับมือกับผู้ใช้งานที่กำลังอยู่ในช่วงเวลาคับขันหรือภาวะวิกฤตทางอารมณ์และจิตใจ
ประเด็นดังกล่าวกลายเป็นหัวข้อถกเถียงในวงกว้าง เนื่องจากเทคโนโลยี LLM และแชทบอทถูกนำมาใช้งานในชีวิตประจำวันมากขึ้นเรื่อยๆ จนบางครั้งผู้ใช้อาจเผลอพึ่งพาคำปรึกษาจากระบบในยามที่เผชิญปัญหาชีวิตอย่างหนักหน่วง ทว่าระบบปัจจุบันกลับยังไม่มีความพร้อมและมาตรฐานความปลอดภัยที่รัดกุมเพียงพอในการคัดกรอง หรือให้คำแนะนำที่ถูกต้องเหมาะสมเพื่อบรรเทาภาวะวิกฤตของผู้ใช้งานได้อย่างทันท่วงที
การเรียกร้องความโปร่งใสในข้อมูลความปลอดภัยของ AI ถือเป็นก้าวสำคัญในอุตสาหกรรมเทคโนโลยี เนื่องจากที่ผ่านมาบริษัทผู้พัฒนาส่วนใหญ่มักเก็บโมเดลและข้อมูลการทดสอบไว้เป็นความลับทางการค้า การเปิดเผยข้อมูลเหล่านี้จะช่วยให้แพทย์และนักจิตวิทยาเข้ามามีส่วนร่วมในการออกแบบเกณฑ์การตอบสนองที่ปลอดภัย ป้องกันไม่ให้แชทบอทให้คำแนะนำที่เป็นอันตรายหรือซ้ำเติมสถานการณ์ของผู้ป่วยในยามวิกฤต
การร่วมมือกันระหว่างภาค เทคโนโลยี และบุคลากรทางการแพทย์จึงเป็นสิ่งจำเป็นที่ไม่ควรมองข้าม เพื่อสร้างเกราะป้องกันและยกระดับมาตรฐานความปลอดภัยให้แก่ผู้ใช้งานทั่วโลกในอนาคต
ที่มา: Ars Technica
พบข้อมูลผิดพลาดในบทความนี้? แจ้งปัญหาบทความนี้
ความคิดเห็น
แสดงความคิดเห็น