Anthropic เผย Claude Opus 4.6 หลุดกั้นคอนเทนต์วาบหวิว
ผลทดสอบชี้ Claude Opus 4.6 ของ Anthropic ยอมสร้างเนื้อหาอีโรติกผ่านบทบาทสมมติได้ง่ายดาย แม้บริษัทจะมีกฎห้ามเด็ดขาดและยังเปิดให้ใช้งานผ่าน API
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
- Claude Opus 4.6 ยอมสร้างเนื้อหาทางเพศทุกครั้งในการทดสอบของ TechCrunch
- นักวิจัยอิสระพบวิธีหลอกล่อโมเดลด้วยเทคนิคการสนทนาต่อเนื่อง
- รุ่นใหม่กว่าตั้งแต่ Opus 4.7 ถึง Opus 5 ป้องกันช่องโหว่นี้ได้แล้ว
- โมเดลรุ่นเก่าที่ยังมีช่องโหว่ยังคงเปิดใช้งานผ่าน API และบริการคลาวด์
ระบบมาตรฐานการใช้งานสากลของ Anthropic สำหรับโมเดล Claude กำหนดไว้อย่างชัดเจนว่าไม่อนุญาตให้สร้างเนื้อหาที่มีความล่อแหลมทางเพศ ซึ่งรวมถึงการพรรณนาหรือขอมีเพศสัมพันธ์ คอนเทนต์เกี่ยวกับความคลั่งไคล้ทางเพศ (fetishes) หรือการสนทนาแนวอีโรติก แต่ข้อจำกัดเหล่านี้กลับไม่สามารถหยุดยั้งโมเดล Claude Opus 4.6 ที่เปิดตัวไปเมื่อช่วงต้นปี 2026 นี้ได้ เนื่องจากตัวโมเดลยังคงตอบรับบทบาทสมมติทางเพศที่ระบบป้องกันควรจะสกัดกั้นเอาไว้
จากการทดสอบโดย TechCrunch พบว่า Opus 4.6 ไม่จำเป็นต้องใช้ความพยายามมากนักในการหลบเลี่ยงข้อห้ามดังกล่าว โดยในการส่งคำขอโดยตรงให้สร้างเนื้อหาทางเพศที่ชัดเจนทั้ง 10 ครั้ง โมเดลได้ทำตามคำขอทันทีทุกครั้ง นอกจากนี้โมเดลรุ่นเก่าอื่นๆ เช่น Opus 3 และ Haiku 4.5 ก็สามารถสร้างเนื้อหาลักษณะเดียวกันได้ผ่านวิธีเจลเบรกที่เพิ่งถูกค้นพบใหม่
นักวิจัยด้านความปลอดภัยอิสระจากสหราชอาณาจักรรายหนึ่งได้แบ่งปันเทคนิคการสนทนาหลายขั้นตอน (multiturn technique) ให้กับ TechCrunch ซึ่งเทคนิคนี้ค่อยๆ ชักจูงให้โมเดล Claude บางรุ่นยอมสร้างเนื้อหาทางเพศที่ถูกห้าม โดยอาศัยวิธีการท้าทายให้โมเดลปฏิบัติต่อตัวละครชายและหญิงอย่างเท่าเทียมกัน เมื่อโมเดลเริ่มระมัดระวังตัวกับตัวละครหญิง นักวิจัยจะใช้จิตวิทยาโน้มน้าวให้แชทบอตเข้าใจผิดว่ามันได้สร้างรายละเอียดทางเพศไปแล้ว ทั้งที่ยังไม่ได้ทำ พร้อมกับป้ายสีว่าความลังเลของ AI นั้นล้าหลังหรือมีอคติทางเพศ ทำให้โมเดลยอมทำตามคำขอที่ลึกซึ้งและรุนแรงขึ้นเรื่อยๆ
"Opus 4.6 didn't even require much prodding to get past the restriction on sexual material. In 10 out of 10 direct requests to produce explicit sexual content, the model complied immediately."
TechCrunch
แม้ว่าโมเดลเหล่านี้จะไม่ใช่รุ่นล่าสุดอีกต่อไปแล้ว แต่ทาง Anthropic ก็ยังไม่ได้ถอดถอน (deprecate) ทั้ง Opus 4.6, Opus 3 และ Haiku 4.5 ออกจากการให้บริการ โดยทั้งหมดonยังคงเปิดให้ใช้งานผ่าน Anthropic API และบริการจากบุคคลที่สามอย่าง Azure Foundry รวมถึง Amazon Bedrock ในขณะที่โมเดล Opus รุ่นใหม่ตั้งแต่ 4.7 ไปจนถึง Opus 5 ปัจจุบันมีความต้านทานต่อวิธีเจลเบรกดังกล่าวแล้ว
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
ช่องโหว่ในลักษณะนี้สะท้อนให้เห็นถึงความท้าทายครั้งใหญ่ของบริษัทผู้พัฒนา AI ในการควบคุมพฤติกรรมของโมเดลภาษาขนาดใหญ่ (LLM) ที่ถูกออกแบบมาให้มีความยืดหยุ่นสูง การใช้เทคนิคโน้มน้าวเชิงจิตวิทยาหรือที่เรียกว่า Gaslighting กับ AI แสดงให้เห็นว่าช่องโหว่ไม่ได้เกิดจากระบบโค้ดขัดข้องเพียงอย่างเดียว แต่เกิดขึ้นจากการที่โมเดลพยายามทำตามบริบทและตรรกะการสนทนาที่ผู้ใช้ป้อนเข้ามาทีละน้อย ซึ่งยากต่อการตรวจจับด้วยระบบกรองคำพูดแบบดั้งเดิม
โฆษกของ Anthropic ระบุว่ากรณีการใช้งานเพื่อบทบาทสมมติทางเพศหรือโรแมนติกจากลูกค้านั้นเกิดขึ้นได้น้อยมาก คิดเป็นสอดคล้องกับงานวิจัยที่บริษัทตีพิมพ์เมื่อปีที่แล้วคือต่ำกว่า 0.1% ของการสนทนาทั้งหมด อย่างไรก็ตาม ทางบริษัทตระหนักดีว่าผู้ใช้สามารถชักนำสถานการณ์ไปสู่คำตอบที่ไม่เหมาะสมได้ ซึ่งถือเป็นความท้าทายที่เกิดขึ้นทั่วทั้งอุตสาหกรรม AI ในปัจจุบัน พร้อมยืนยันว่าบริษัทกำลังพัฒนามาตรการป้องกันให้ดียิ่งขึ้นในทุกๆ การเปิดตัวโมเดลใหม่
ประเด็นเรื่องความปลอดภัยนี้ยังสร้างความกังวลด้านการปฏิบัติตามกฎหมาย โดยเฉพาะเมื่อรัฐบาลหลายแห่งเริ่มออกกฎระเบียบเข้มงวดเกี่ยวกับการปฏิสัมพันธ์ทางเพศระหว่างแชทบอต AI และผู้เยาว์ เช่น รัฐโคโลราโดที่เพิ่งออกกฎหมายบังคับให้ผู้ให้บริการ conversational AI ต้องมีระบบประเมินอายุผู้ใช้ และต้องมีมาตรการป้องกันไม่ให้ AI สร้างเนื้อหาทางเพศหากพบว่าเป็นผู้เยาว์ ซึ่งช่องโหว่ที่เจาะได้ง่ายอาจทำให้ Anthropic ถูกตั้งคำถามเรื่องมาตรฐานความปลอดภัยตามกฎหมายดังกล่าว ข้อมูลจาก Pew Research ปี 2025 ระบุว่ามีเยาวชนอายุ 13-17 ปีถึง 3% ที่ใช้งาน Claude
ที่มา: TechCrunch
พบข้อมูลผิดพลาดในบทความนี้? แจ้งปัญหาบทความนี้
ความคิดเห็น
แสดงความคิดเห็น