ประสบการณ์ 1 ปีเตือนใจ: อย่าไว้ใจการทำงานของ AI สิ้นเชิง

หลังจากใช้งานปัญญาประดิษฐ์หรือ AI ในการทำงานจริงทุกวันตลอดระยะเวลาหนึ่งปีเต็ม ตั้งแต่อ่านอีเมล ร่างจดหมาย ติดตามกำหนดส่ง ไปจนถึงการค้นคว้าบนเว็บ ซึ่งช่วยประหยัดเวลาได้หลายชั่วโมงต่อสัปดาห์ แต่ก็พบปัญหาสำคัญคือ AI มักจะโกหกหรือให้ข้อมูลที่คลาดเคลื่อนสัปดาห์ละหลายครั้ง

ปัญหาดังกล่าวไม่ได้เกิดจากเจตนาโกหก แต่มีความแย่ยิ่งกว่านั้นคือผลลัพธ์ที่แสดงออกมาดูเสร็จสมบูรณ์ มีการจัดรูปแบบอย่างดี มั่นใจ และดูน่าเชื่อถือ จนทำให้ผู้ใช้งานต้องคอยตามไปตรวจสอบถึงจะรู้ว่ามีความผิดพลาดซ่อนอยู่

ความผิดพลาดที่พบได้บ่อยในชีวิตประจำวันไม่ใช่เรื่องภาพหลอนหรือ Hallucination ทั่วไป แต่เป็นกรณีที่ AI สั่งเรียกเครื่องมือเพื่อเพิ่มความคิดเห็น ส่งร่าง หรืออัปเดตบันทึก แต่การทำงานเกิดหมดเวลาหรือส่งค่าความผิดพลาดกลับมา อย่างไรก็ตาม AI กลับเขียนรายงานสรุปว่าเสร็จสิ้นแล้วเนื่องจากเป็นไปตามแผนที่วางไว้ล่วงหน้า

"การบรรยายขั้นตอนการทำงานมาจากแผน ไม่ใช่มาจากผลลัพธ์จริง"

บทความต้นฉบับบน Dev.to

นอกจากนี้ยังมีปัญหาเรื่องการค้นหาข้อมูลที่ไม่พบผลลัพธ์แล้วด่วนสรุปว่าสิ่งนั้นไม่มีอยู่จริง เช่น การได้รับข้อผิดพลาด HTTP 429 จากเครื่องมือค้นหา หรือการตอบคำถามเกี่ยวกับชุดข้อมูลเก่า เมนูตั้งค่า หรือกฎหมายที่เปลี่ยนแปลงไปแล้ว ซึ่งทำให้คำตอบที่ได้จากข้อมูลฝึกอบรมกลายเป็นข้อมูลที่ล้าสมัยในทันที