วิกฤตความน่าเชื่อถือวงการวิชาการ: ปัญหาที่แท้จริงของงานเขียนจาก AI

ประเด็นถกเถียงเรื่องการนำปัญญาประดิษฐ์มาใช้สร้างผลงานวิชาการมักเกิดจากการนำเรื่องสองประเด็นที่แตกต่างกันอย่างสิ้นเชิงมารวมไว้ภายใต้หัวข้อเดียวกัน เรื่องแรกคือนักวิจัยที่ใช้งานโมเดลภาษาเพื่อช่วยร่างบทความ แก้ไขคำผิด หรือแปลภาษาจากงานที่ตนเองลงมือทำจริง ฝั่งนี้เป็นเพียงคำถามเรื่องการเปิดเผยข้อมูลการใช้งาน ส่วนเรื่องที่สองคือการส่งเนื้อหาปลอมเข้ามาเพื่อปั่นสถิติผลงานตีพิมพ์ ซึ่งฝั่งหลังนี้คือการฉ้อโกงที่เกิดขึ้นมานานก่อนที่เทคโนโลยีปัญญาประดิษฐ์สมัยใหม่จะแพร่หลายเสียอีก

หากนักวิจัยที่ไม่ได้ใช้ภาษาอังกฤษเป็นภาษาแม่ใช้เครื่องมือช่วยปรับปรุงส่วนระเบียบวิธีวิจัยให้อ่านได้ราบรื่น สิ่งนี้ไม่ได้ทำให้อะไรแย่ลงแถมยังช่วยยกระดับวงวรรณกรรมวิชาการด้วยซ้ำ ในทางกลับกัน โรงงานผลิตผลงานวิจัยที่สร้างต้นฉบับดูสมเหตุสมผลขึ้นมาเป็นจำนวนมากคือการกระทำผิด และพวกเขาสามารถทำเช่นนั้นได้ไม่ว่าจะโดยมีหรือไม่มีโมเดลภาษา เนื่องจากโรงงานเหล่านี้ใช้เล่ห์เหลี่ยมทั้งการปรับแต่งรูปภาพ ข้อความแม่แบบ และข้อมูลที่ถูกกัมขึ้นมาใช้งานมาเนิ่นนานแล้ว

ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง

การแยกแยะสองกรณีนี้ออกจากกันเป็นสิ่งสำคัญอย่างยิ่งเพราะทั้งคู่ต้องการแนวทางรับมือที่ตรงกันข้าม กรณีแรกต้องการเพียงบรรทัดฐานเรื่องการเปิดเผยการใช้งานเท่านั้น ส่วนกรณีที่สองต้องการระบบตรวจสอบเนื้อหา ซึ่งระบบตรวจสอบเนื้อหาไม่สนใจว่าเครื่องมือชนิดใดเป็นผู้ผลิตชิ้นงานนั้นขึ้นมา นโยบายใดก็ตามที่สร้างขึ้นมาเพื่อตรวจจับข้อความจากเครื่องจักรจะลงโทษกลุ่มแรกอย่างไม่ยุติธรรมและพลาดเป้ากลุ่มหลังเกือบทั้งหมด เนื่องจากงานวิจัยปลอมที่ถูกนำมาเขียนเรียบเรียงใหม่เล็กน้อยนั้นแทบจะแยกไม่ออกจากงานเขียนที่ได้รับการช่วยเหลืออย่างระมัดระวัง

นอกจากนี้ยังต้องทำความเข้าใจถึงแหล่งที่มาของอุปสงค์เพื่อให้เห็นภาพว่าเหตุใดมาตรการทางเทคนิคจึงไม่สามารถแก้ไขปัญหานี้ได้ โรงงานผลิตผลงานวิจัยดำรงอยู่ได้เพราะจำนวนบทความที่ได้รับการตีพิมพ์ถูกใช้เป็นตัวแทนสะท้อนผลงานวิจัยในการจ้างงาน การเลื่อนตำแหน่ง และการจัดอันดับสถาบัน ในระบบที่มีขนาดใหญ่พอ การซื้อชื่อผู้แต่งจึงเป็นการลงทุนที่สมเหตุสมผลสำหรับผู้ซื้อบางราย เครื่องมือสร้างข้อความทำหน้าที่เพียงแค่ลดต้นทุนในการตอบสนองอุปสงค์ดังกล่าวเท่านั้น แต่มันไม่ได้เป็นผู้สร้างอุปสงค์นั้นขึ้นมาแต่แรก

เครื่องมือตรวจจับทางสถิติสำหรับข้อความที่สร้างโดยเครื่องจักรมีปัญหาใหญ่สองประการที่ทางวิศวกรรมไม่สามารถแก้ไขให้หมดไปได้ และปัญหาที่สามคือเรื่องของความน่าจะเป็นทางคณิตศาสตร์ โดยปัญหาแรกคือความลำเอียงต่อผู้เขียนที่ไม่ใช่เจ้าของภาษา งานวิจัยที่ประเมินประสิทธิภาพของเครื่องมือตรวจจับกับบทความของชาวต่างชาติพบว่าอัตราการถูกปักธงว่าเป็นงาน AI มีสูงมาก ด้วยเหตุผลตรงไปตรงมาว่าฟีเจอร์ที่เครื่องมือเหล่านี้ใช้ตรวจสอบ เช่น ความหลากหลายของคำที่จำกัด โครงสร้างประโยคที่เป็นระเบียบ และความคาดเดาได้ต่ำ ล้วนมีลักษณะตรงกับงานเขียนภาษาที่สองที่เขียนด้วยความระมัดระวังไม่ต่างจากงานที่สร้างโดย AI

ปัญหาประการที่สองคือเครื่องมือเหล่านี้ถูกหลอกให้ตายใจได้ง่ายมาก การพยายามเรียบเรียงใหม่ การแก้ไขข้อความ หรือการปรับเปลี่ยนสไตล์การเขียนสามารถทำให้ข้อความหลุดพ้นจากเขตการตรวจจับได้ทันที ส่งผลให้เครื่องมือเลือกกำจัดเฉพาะกลุ่มคนที่ไม่พยายามปิดบังอะไรเลยตั้งแต่แรก และปัญหาประการที่สามคืออัตราพื้นฐานที่ทำลายความน่าเชื่อถือที่เหลืออยู่ หากนำเครื่องมือตรวจจับที่มีอัตราการแจ้งเตือนผิดพลาดต่ำไปรันกับกลุ่มงานที่ส่งเข้ามาจำนวนมาก จำนวนของนักวิจัยสุจริตที่ถูกปักธงผิดพลาดจะมีจำนวนมากในแง่ของตัวเลขสัมบูรณ์ ซึ่งอาจมากกว่าจำนวนเคสที่กระทำความผิดจริงเสียอีก

ที่มา: Dev.to