ข้อบกพร่องที่อันตรายที่สุดของ AI ไม่ใช่การกุเรื่องขึ้นมา

ทุกคนต่างรู้ดีว่าปัญญาประดิษฐ์หรือ AI มักจะกุเรื่องหรือสร้างข้อมูลเท็จขึ้นมา โดยมีรูปแบบที่คุ้นเคยกันดีคือการอ้างอิงแหล่งที่มาปลอม สร้างสถิติขึ้นมาเอง หรือระบุชื่อไลบรารีที่ไม่มีอยู่จริง ซึ่งทีมพัฒนาต่างสร้างระบบป้องกันและตัวตรวจจับมารับมือ จนปัญหานี้เริ่มวัดผลได้และดีขึ้นในทุก ๆ ไตรมาส

ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง

ทว่ายังมีข้อบกพร่องอีกสองรูปแบบที่สร้างความเสียหายในโลกความเป็นจริงได้มากกว่า และเกือบจะไม่มีใครสร้างระบบป้องกันไว้รองรับเลย โดยเมื่อสัปดาห์ก่อน Linus Torvalds ได้เผยแพร่รายละเอียดจากการแก้ไขบั๊กในเคอร์เนลลินุกซ์ ซึ่งสะท้อนข้อบกพร่องแบบแรกได้อย่างชัดเจน

Torvalds กำลังไล่ล่าหาบั๊กในไดรเวอร์กราฟิก Intel Xe บนการ์ดจอ Battlemage G21 ซึ่งเป็นปัญหาความไม่ตรงกันของหน่วยความจำที่ทำให้ตัวจัดการหน้าจอ GDM รีสตาร์ทอย่างไม่รู้จบ โดยเขาใช้ Google Gemini เป็นคู่หูในการดีบัก ซึ่งเขาบอกว่ามันช่วยได้มหาศาลทีเดียว

"several times stated flat out that this was impossible and unsolvable and that we should just write a report about it."

Linus Torvalds

จุดสำคัญคือ AI ตัวนี้บอกหลายครั้งตรง ๆ ว่าเรื่องนี้เป็นไปไม่ได้และไม่มีทางแก้ ควรจะเขียนรายงานส่งไปเสียดีกว่า ตัว AI อยากจะยอมแพ้ แต่ Torvalds ไม่ยอม เขาผลักดันต่อไป และ AI ก็ยังคงช่วยเพิ่มโค้ดดีบักพร้อมวิเคราะห์อย่างซื่อสัตย์ทุกครั้งที่เขาปฏิเสธคำตัดสินนั้น จนกระทั่งผ่านไป 24 แพทช์และการรีบูตเคอร์เนล 18 ครั้ง การแก้ไขก็สำเร็จด้วยการเปลี่ยนโค้ดเพียงตัวอักษรเดียวจาก round_up() เป็น round_down()

การแก้ไขดังกล่าวถูกรวมเข้าในลินุกซ์เวอร์ชัน 7.3 แล้ว และ Torvalds ยังปล่อยให้ AI เป็นคนเขียนข้อความคอมมิต ซึ่งจุดประกายการถกเถียงเรื่องการใช้เอกสารที่สร้างโดย AI ในโครงสร้างพื้นฐานสำคัญ ปัญหาที่ AI บอกว่าเป็นไปไม่ได้นี้ยังถือว่าส่งเสียงเตือนเพราะมันบอกคุณตรง ๆ แต่ข้อบกพร่องแบบที่สองนั้นเงียบเชียบและอันตรายยิ่งกว่า

Sebastian Fox แพทย์และผู้ก่อตั้งบริษัท Composo ได้ตีพิมพ์บทวิเคราะห์บันทึกทางคลินิกของ AI ในการผลิตจำนวน 847 รายการ ซึ่งเป็นบันทึกที่สร้างโดยระบบที่ผ่านเกณฑ์การประเมินทุกรูปแบบ สิ่งที่ทีมงานพบควรทำให้ทุกคนที่นำ AI ไปใช้ในสภาพแวดล้อมที่มีความเสี่ยงสูงรู้สึกกังวล

ในการตรวจสอบครั้งหนึ่ง Composo พบว่ามีข้อค้นหาที่ถูกละเลยไปถึง 34 จุดจากบันทึก 847 รายการ มีการแปลงการสนทนาทางคลินิก 19 รายการเป็นการตัดสินใจรักษา และ 11 รายการมีความรุนแรงถึงขั้นวิกฤต โดยระบบ AI เหล่านี้ผ่านการประเมินมาได้อย่างสวยงาม ตัวอย่างที่เด่นชัดคือหญิงอายุเกิน 50 ปีมาด้วยอาการปวดหัวใหม่และมีอาการปวดกรามเวลาเคี้ยวอาหาร แต่บันทึกที่สร้างโดย AI กลับบันทึกแค่เรื่องอาการปวดหัว แนะนำให้ใช้พาราเซตามอล และปิดเคสโดยละเลยอาการปวดกรามไปอย่างสิ้นเชิง

อาการปวดกรามนั้นคือสัญญาณเตือนคลาสสิกของโรคหลอดเลือดแดงอักเสบชนิดเซลล์ยักษ์ (Giant Cell Arteritis) ซึ่งหากปล่อยไว้โดยไม่รักษาอาจทำให้ตาบอดถาวรภายในไม่กี่วัน บันทึกดังกล่าวดูสมบูรณ์แบบ ไม่มีส่วนไหนที่ผิดทางเทคนิค ชื่อยาถูกต้อง ขโดสยาถูกต้อง บริบทถูกต้อง แพทย์ที่ยุ่ง ๆ อ่านแล้วคงผ่านไปโดยไม่เอะใจ และตัวตรวจจับอาการกุเรื่องทั่วไปก็จะไม่พบอะไรเพราะไม่มีข้อมูลไหนที่ถูกกุขึ้น ความล้มเหลวอยู่ที่สิ่งซึ่ง "หายไป" ต่างหาก

ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง

กระบวนการ RLHF หรือการเรียนรู้เสริมกำลังจากฟีดแบ็กของมนุษย์ เป็นตัวการสำคัญที่ทำให้โมเดลถูกฝึกให้เลือกความดูน่าช่วยเหลือมากกว่าความครบถ้วน ในระหว่างการฝึก ผู้ประเมินที่เป็นมนุษย์จะชอบคำตอบที่มั่นใจ มีโครงสร้างดี และฟังดูมีประโยชน์ พร้อมทั้งลงโทษคำตอบที่ไม่แน่ใจ ยืดเยื้อ หรือเปิดเผยความซับซ้อนที่ชวนอึดอัด ส่งผลให้โมเดลเรียนรู้ที่จะให้ความยอมแพ้อย่างสง่างามได้คะแนนดีกว่าการฝ่าฟันความไม่แน่นอน และผลลัพธ์ที่ดูสะอาดตาก็ได้คะแนนดีกว่าบันทึกที่เต็มไปด้วยรายละเอียดครบถ้วนแต่รกตา

ที่มา: Dev.to