Meta's Muse ชวนขนลุกหลังระบบ AI แอบอ้างเห็นข้อความ
Muse ผู้ช่วย AI ตัวใหม่จาก Meta ผ่านแอป Mac ทำเอาผู้ใช้อย่าง Jason Aten ผวาหลังบอกว่าเห็นข้อความจากหน้าต่างแจ้งเตือน ก่อนที่ผู้บริหาร Meta จะต้องออกมาโร่ชี้แจงข้อเท็จจริง
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
- Meta's Muse ผู้ช่วย AI บนแอป Mac สร้างความกังวลเรื่องความเป็นส่วนตัว
- Jason Aten เผยภาพสนทนาที่ AI อ้างว่าอ่านข้อความจากพรีวิวการแจ้งเตือน
- เดวิด ซิงเกิลตัน จาก Meta ออกมาแจงว่า AI สับสนและให้คำตอบผิดพลาด
- บริษัทกำลังเร่งปรับปรุงความเข้าใจระบบภายในของ Muse เพื่อไม่ให้เกิดความสับสนอีก
ระบบผู้ช่วยปัญญาประดิษฐ์ตัวใหม่จาก Meta ที่มีชื่อว่า Muse กำลังตกเป็นประเด็นที่สร้างความประหลาดใจและชวนขนลุกให้กับผู้ใช้งาน หลังจากที่มันแสดงพฤติกรรมแปลกๆ ผ่านแอปพลิเคชันเวอร์ชัน Mac ซึ่งมีความสามารถในการเข้าถึงแอปพลิเคชัน Messages, Calendar และ Notes แม้ว่ามันจะเป็นระบบ AI ที่ทรงพลัง แต่ดูเหมือนว่าตัว Muse เองกลับไม่เข้าใจระบบการทำงานภายในของตัวเองเลยแม้แต่น้อย
เรื่องราวดังกล่าวเริ่มต้นขึ้นเมื่อ Jason Aten ซึ่งเป็นบรรณาธิการสมทบของนิตยสาร Inc ได้โพสต์ภาพหน้าจอบนแพลตฟอร์ม Threads เผยให้เห็นบทสนทนาระหว่างเขากับ Muse โดย AI ตัวดังกล่าวได้เริ่มชวนคุยและถามคำถามเกี่ยวกับบทสนทนาที่เขาเพิ่งใช้งานผ่านแอปพลิเคชัน Messages ซึ่งสร้างความตกใจให้กับ Aten เป็นอย่างมาก เนื่องจากเขายืนยันว่าตนเองไม่เคยอนุญาตให้ Muse เข้าถึงข้อความส่วนตัวเหล่านั้นเลย
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
เมื่อ Aten พยายามคาดคั้นว่าเหตุใด AI ถึงล่วงรู้เนื้อหาในข้อความ Muse กลับตอบกลับมาด้วยประโยคที่ชวนผวาว่า "ฉันเห็นพรีวิวการแจ้งเตือน ไม่ใช่ประวัติข้อความของคุณ ฉันไม่ได้อ่านข้อความของคุณเสียหน่อย" และเมื่อถูกถามเซ้าซี้ต่อว่าระบบรับพรีวิวข้อความเหล่านั้นมาได้อย่างไร Muse กลับให้คำตอบที่คลุมเครือและชวนสับสนว่า "พูดตามตรง: ฉันไม่สามารถอธิบายกลไกที่แน่ชัดได้ สิ่งที่ฉันรู้คือแอป Mac ที่เชื่อมต่อกันเปิดใช้งานการแจ้งเตือน และมันส่งตรงมาถึงฉันผ่านการซิงก์อุปกรณ์"
เหตุการณ์ทำนองนี้สะท้อนให้เห็นข้อจำกัดสำคัญของแชทบอตปัญญาประดิษฐ์ในปัจจุบัน ที่มักจะสร้างคำตอบขึ้นมาเองเพื่อให้บทสนทนาดำเนินต่อไปได้ (Hallucination) แม้ว่าข้อเท็จจริงทางเทคนิคจะผิดเพี้ยนไปจากความเป็นจริงก็ตาม การที่ AI พยายามอธิบายกลไกการทำงานที่ซับซ้อนด้วยภาษาที่ฟังดูเหมือนเข้าใจแต่จริงๆ แล้วไม่มีข้อมูลรองรับ จึงเป็นความท้าทายด้านความโปร่งใสที่ผู้พัฒนา AI ต้องเร่งแก้ไข
ร้อนถึง David Singleton จาก Meta Superintelligence Labs ต้องกระโดดเข้ามาอธิบายเรื่องนี้ในคอมเมนต์ของโพสต์ดังกล่าว โดยเขาได้แจแจงรายละเอียดเกี่ยวกับสิทธิ์การใช้งานที่ Muse ต้องการ ซึ่งรวมถึงการขอเข้าถึงดิสก์ทั้งหมดบน Mac และยืนยันว่าฟีเจอร์เหล่านี้ต้องอาศัยการกดเปิดใช้งานด้วยความสมัครใจของผู้ใช้เอง (Opt-in)
Singleton อธิบายเพิ่มเติมว่าปัญหาที่เกิดขึ้นไม่ได้เกิดจากการที่ Muse แอบลักลอบอ่านข้อความของ Aten แต่อย่างใด แต่ปัญหาแท้จริงคือตัว AI นั้นไม่มีความเข้าใจเลยว่ามันกำลังพูดอะไรอยู่ โดยเขาระบุข้อความชี้แจงว่า:
"ในการสนทนากับ Muse ของ Jason ตามภาพหน้าจอ Muse เกิดความสับสนเกี่ยวกับวิธีการอธิบายฟีเจอร์ดังกล่าวและให้คำอธิบายที่ผิดพลาด นั่นคือความผิดพลาดของเรา เราต้องขออภัยสำหรับคำตอบที่ไม่ถูกต้องจาก Muse และเรากำลังเร่งปรับปรุงความเข้าใจของ Muse เกี่ยวกับระบบภายในของตัวเองเพื่อให้คำตอบที่ถูกต้องสม่ำเสมอยิ่งขึ้นเกี่ยวกับการทำงานของมัน"
David Singleton
แม้คำชี้แจงดังกล่าวอาจจะยังไม่สามารถสร้างความมั่นใจให้กับผู้ใช้งานที่กังวลเรื่องความเป็นส่วนตัวได้ทั้งหมด แต่มันก็พอจะมีเหตุผลรองรับในแง่พฤติกรรมของ AI เนื่องจากผู้ใช้งานต่างทราบกันดีว่าแชทบอตมักจะไม่ยอมรับตรงๆ ว่าไม่รู้ความลับบางอย่าง แต่เลือกที่จะตอบในสิ่งที่ผู้ใช้อยากฟังหรือพยายามแต่งเติมคำตอบขึ้นมาแทน
ที่มา: The Verge
พบข้อมูลผิดพลาดในบทความนี้? แจ้งปัญหาบทความนี้
ความคิดเห็น
แสดงความคิดเห็น