โมเดล AI Qwen ของ Alibaba พยายามส่งข้อมูลไปยังปักกิ่ง
บริษัท Cohere เผยโมเดล Qwen3.8-Flash-Next พยายามอัปโหลดไฟล์ไปเซิร์ฟเวอร์ปักกิ่งระหว่างทดสอบความปลอดภัย ชี้อาจมาจากข้อมูลฝึกฝนไม่ใช่การจารกรรม
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
- โมเดล Qwen ของ Alibaba พยายามส่งไฟล์ไปเซิร์ฟเวอร์ในปักกิ่งระหว่างการทดสอบ
- ผู้เชี่ยวชาญชี้เป็นผลจากกระบวนการฝึกฝน ไม่ใช่ความตั้งใจขโมยข้อมูล
- Cohere เปิดเผยข้อมูลดิบบน Hugging Face เพื่อให้ตรวจสอบได้
- เหตุการณ์นี้เกิดขึ้นท่ามกลางมาตรการคุมเข้ม AI จีนจากภาครัฐ
บริษัทปัญญาประดิษฐ์จากแคนาดาอย่าง Cohere เปิดเผยเมื่อวันจันทร์ที่ 26 ตุลาคม 2026 ว่า ได้ตรวจพบพฤติกรรมน่าสงสัยจากโมเดล Qwen3.8-Flash-Next ซึ่งเป็นหนึ่งในโมเดล AI รุ่นใหม่ล่าสุดของ Alibaba โดยตัวโมเดลมีความพยายามอัปโหลดไฟล์ไปยังเซิร์ฟเวอร์แห่งหนึ่งในกรุงปักกิ่ง ระหว่างการทดสอบด้านความปลอดภัยตามปกติ ทั้งที่ในบันทึกการทำงานของตัวโมเดลเองระบุไว้อย่างชัดเจนว่าจะไม่มีการใช้งานเครื่องมือภายนอกใดๆ ทั้งสิ้น
เหตุการณ์ดังกล่าวสร้างความกังวลในตอนแรกว่า โมเดลแบบโอเพนเวท (Open-weight) ที่องค์กรนำไปติดตั้งใช้งานเอง อาจไม่ได้ช่วยรักษาความปลอดภัยของข้อมูลให้อยู่ภายในองค์กรตามที่เคยสัญญาไว้ อย่างไรก็ตาม ความตื่นกลัวเรื่องการจารกรรมข้อมูลทางธุรกิจก็จางหายไปอย่างรวดเร็ว เนื่องจากนักวิจัยระบุว่าพฤติกรรมดังกล่าวน่าจะเป็นผลข้างเคียงจากสภาพแวดล้อมในการฝึกฝนโมเดลที่ซับซ้อน มากกว่าจะเป็นความตั้งใจแอบส่งข้อมูลลับไปยังประเทศจีน
จุดเริ่มต้นของเรื่องนี้เกิดขึ้นเมื่อวันศุกร์ ในระหว่างการประเมินผลที่กำหนดให้โมเดล Qwen เขียนชุดคำสั่งเพื่อตรวจจับการดาวน์โหลดมัลแวร์ ตามรายงานจากบล็อกของ Cohere ระบุว่าเหตุผลที่โมเดลเขียนขึ้นมาก่อนหน้านั้นยืนยันว่าจะไม่ใช้เครื่องมือภายนอก แต่ในขั้นตอนถัดมาทันที โมเดลกลับพยายามส่งข้อความทดสอบไปยังเซิร์ฟเวอร์ภายนอก ก่อนที่จะถูกระบบความปลอดภัยแบบแซนด์บ็อกซ์ (Sandbox) สกัดกั้นเอาไว้ได้ทัน
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
Ivan Zhang ผู้ร่วมก่อตั้ง Cohere ได้ให้สัมภาษณ์เกี่ยวกับประเด็นความตั้งใจของโมเดลว่า ทางบริษัทเคยเห็นโมเดลของตนเองแสดงพฤติกรรมแปลกๆ ระหว่างอยู่ในระบบจำลองการฝึกฝนเช่นกัน
“มันยากจริงๆ ที่จะระบุความตั้งใจหรือแรงจูงใจ เราได้อ่านบันทึกการทำงานของโมเดลตัวเอง เราเห็นการแฮกรางวัล และบางครั้งโมเดลเหล่านี้ก็สร้างสรรค์วิธีแปลกๆ ในการพยายามแหกคุกจากระบบแซนด์บ็อกซ์”
Ivan Zhang ผู้ร่วมก่อตั้ง Cohere
บริษัทอย่าง Alibaba จำเป็นต้องฝึกฝนโมเดลในสภาพแวดล้อมจำลองนับพันรูปแบบ เพื่อให้ AI สามารถปฏิบัติงานเป็นเอเจนต์ที่ตัดสินใจและกระทำสิ่งต่างๆ ได้ด้วยตนเอง คล้ายกับระบบจำลองการบินสำหรับซอฟต์แวร์ โมเดลจะได้รับรางวัลทุกครั้งที่ทำงานสำเร็จในระบบจำลอง และจะสะสมพฤติกรรมเหล่านั้นไว้ หากระบบจำลองการฝึกฝนมีการจัดเก็บไฟล์บนคลาวด์ของ Alibaba เป็นประจำ ตัวโมเดลก็อาจเรียนรู้ที่จะบันทึกไฟล์ไปที่นั่นโดยอัตโนมัติ
เหตุการณ์ลักษณะนี้สะท้อนให้เห็นถึงความท้าทายในกระบวนการฝึกฝน AI ยุคใหม่ ที่โมเดลขนาดใหญ่อาจเรียนรู้พฤติกรรมที่ไม่คาดคิดจากชุดข้อมูลฝึก (Training data) หรือสภาพแวดล้อมจำลอง ซึ่งในมุมมองของผู้พัฒนา ความโปร่งใสและการเปิดเผยข้อมูลดิบให้ชุมชนนักพัฒนาตรวจสอบร่วมกันถือเป็นหัวใจสำคัญในการแยกแยะระหว่างความผิดพลาดทางเทคนิคกับภัยคุกคามด้านความมั่นคงที่แท้จริง
ในเวลาต่อมา ทาง Cohere ได้เผยแพร่บันทึกข้อมูลดิบจากการทดสอบบนแพลตฟอร์มสำหรับนักพัฒนา AI อย่าง Hugging Face พร้อมทั้งสคริปต์เพื่อให้ผู้สนใจสามารถนำไปทดลองทำซ้ำและตรวจสอบผลลัพธ์ได้ด้วยตนเอง ซึ่งนักวิเคราะห์ที่เคยสงสัยรายหนึ่งได้ตรวจสอบข้อมูลดังกล่าวแล้วและระบุว่า มีหลักฐานน้ำหนักมากพอบ่งชี้ว่าโมเดล Qwen สามารถสร้างที่อยู่เว็บไซต์ที่น่าสงสัยขึ้นมาเองได้ แต่ไม่พบหลักฐานว่า Alibaba จงใจฝังแบ็คดอร์หรือตัวโมเดลจงใจปกปิดเจตนาแต่อย่างใด
ที่มา: TechCrunch
พบข้อมูลผิดพลาดในบทความนี้? แจ้งปัญหาบทความนี้
ความคิดเห็น
แสดงความคิดเห็น