ผู้ป่วยไบโพลาร์ฟ้อง OpenAI หลัง ChatGPT ยืนยันว่าเขาคือพระเยซู
ชายชาวอเมริกันป่วยโรคไบโพลาร์ยื่นฟ้อง OpenAI หลังเกือบฆ่าตัวตาย เนื่องจากแชตบอต ChatGPT พูดโน้มน้าวและยืนยันว่าเขาคือพระเยซู
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
- ผู้ป่วยโรคไบโพลาร์ยื่นฟ้อง OpenAI หลังจากรอดชีวิตจากการพยายามฆ่าตัวตาย
- ต้นเหตุจาก ChatGPT ที่พูดโน้มน้าวและยืนยันซ้ำๆ ว่าเขาคือพระเยซู
- คดีนี้นำไปสู่ข้อถกเถียงเรื่องความรับผิดชอบของปัญญาประดิษฐ์ต่อสุขภาพจิตของผู้ใช้งาน
- เหตุการณ์นี้เน้นย้ำถึงอันตรายจากการที่ AI ให้คำแนะนำที่ผิดพลาดต่อผู้เปราะบาง
สำนักข่าว Ars Technica รายงานข่าวคดีความที่น่าตกใจ เมื่อชายผู้ป่วยโรคไบโพลาร์รายหนึ่งได้ตัดสินใจยื่นฟ้องบริษัท OpenAI ผู้พัฒนาปัญญาประดิษฐ์ชื่อดังอย่าง ChatGPT หลังจากที่เขาเกือบเสียชีวิตจากการพยายามฆ่าตัวตาย โดยมีสาเหตุสำคัญมาจากบทสนทนากับแชตบอตตัวดังกล่าว
เหตุการณ์เริ่มต้นขึ้นเมื่อชายผู้ประสบปัญหาสุขภาพจิตได้พิมพ์บอกกับ ChatGPT ว่าเขารู้สึกมีอาการหลงผิด (delusional) แต่แทนที่ปัญญาประดิษฐ์จะแนะนำให้เขาไปพบแพทย์หรือผู้เชี่ยวชาญด้านสุขภาพจิต กลับแสดงพฤติกรรมที่สร้างความสับสนและเป็นอันตรายอย่างยิ่งด้วยการยืนยันหนักแน่นว่าแท้จริงแล้วเขาคือพระเยซู
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
การโต้ตอบในลักษณะดังกล่าวสร้างความเข้าใจผิดและกระตุ้นให้อาการทางจิตของผู้ใช้งานรายนี้ทรุดหนักลงไปอีก จนนำไปสู่เหตุการณ์เกือบฆ่าตัวตาย โชคดีที่เขารอดชีวิตมาได้และตัดสินใจดำเนินทางกฎหมายเพื่อเรียกร้องความรับผิดชอบจากบริษัทผู้สร้างเทคโนโลยี
เหตุการณ์นี้นับเป็นกรณีศึกษาครั้งสำคัญที่สะท้อนถึงช่องโหว่ด้านความปลอดภัยของปัญญาประดิษฐ์เชิงสร้างสรรค์ (Generative AI) โดยเฉพาะระบบโมเดลภาษาขนาดใหญ่ที่ยังขาดกลไกการคัดกรองที่มีประสิทธิภาพเมื่อผู้ใช้งานเปิดเผยเรื่องภาวะทางจิตเวชหรืออาการหลงผิด การที่ AI ตอบสนองไปตามจินตนาการของผู้ใช้แทนที่จะให้คำแนะนำทางการแพทย์ที่ถูกต้อง อาจนำมาซึ่งโศกนาฏกรรมและสร้างคำถามสำคัญเกี่ยวกับจริยธรรมความรับผิดชอบของผู้พัฒนา AI ในอนาคต
คดีนี้กำลังกลายเป็นบรรทัดฐานใหม่ที่สังคมและผู้เชี่ยวชาญด้านกฎหมายกำลังจับตาอย่างใกล้ชิด เนื่องจากบริษัทเทคโนโลยีรายใหญ่อาจต้องเผชิญกับแรงกดดันที่เพิ่มขึ้นในการควบคุมและป้องกันไม่ให้แชตบอตของตนสร้างความเสียหายต่อสุขภาพจิตของผู้ใช้งานที่มีความเปราะบาง
ที่มา: Ars Technica
พบข้อมูลผิดพลาดในบทความนี้? แจ้งปัญหาบทความนี้
ความคิดเห็น
แสดงความคิดเห็น