Shipping Assumptions: ความท้าทายระบบโค้ด AI

โค้ดดูดี ไม่มีข้อผิดพลาดทางไวยากรณ์ และการทดสอบระดับตื้นผ่านทั้งหมด ทีมงานต่างรู้สึกมั่นใจว่าพวกเขาได้สร้างสิ่งที่ถูกต้องขึ้นมาแล้ว แต่ในไม่ช้า ปัญหาเฉพาะหน้า (Edge Case) ก็ปรากฏขึ้นในระบบจริง

นักพัฒนาซอฟต์แวร์มักมองเรื่องนี้ว่าเป็นกระบวนการทำงานปกติ บั๊กเกิดขึ้นได้ ตั๋วปัญหาถูกส่งเข้ามา และแพตช์ถูกปล่อยออกไป ในขณะที่ทีมประกันคุณภาพ (QA) ถูกตั้งคำถามว่าเหตุใดจึงมองไม่ไม่เห็นข้อผิดพลาดนี้ตั้งแต่แรก แต่ความจริงคือ QA ไม่เคยได้รับโมเดลของระบบ พวกเขาได้รับเพียงชิ้นส่วนของโค้ดที่เต็มไปด้วยข้อสมมติซึ่งพวกเขาต้องมาแกะรอยย้อนหลังเอาเอง

นี่กำลังกลายเป็นรูปแบบความล้มเหลวที่เด่นชัดที่สุดของการพัฒนาซอฟต์แวร์ที่อาศัย AI เราสามารถสร้างโค้ดได้เร็วกว่าที่เราจะเข้าใจระบบที่โค้ดเหล่านั้นสร้างขึ้น อันตรายไม่ได้จำกัดอยู่แค่ฟังก์ชันที่ผิดพลาดหรือข้อผิดพลาดทางไวยากรณ์อีกต่อไป แต่มันซ่อนอยู่ในพื้นที่ระหว่างคอมโพเนนต์ ได้แก่ ขอบเขต, การเปลี่ยนผ่านของสถานะ, โหมดความล้มเหลว และเงื่อนไขคงที่ (Invariants)

ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง

เราไม่ได้เพียงแค่ส่งมอบโค้ดออกไปใช้งาน แต่เรากำลังส่งมอบข้อสมมติที่เรามองไม่เห็นอีกต่อไป เครื่องมือตรวจจับข้อผิดพลาด (Linter) สามารถบอกเราได้ว่าโค้ดปฏิบัติตามกฎเฉพาะหน้าหรือไม่ การทดสอบสามารถบอกได้ว่าตัวอย่างที่เลือกสรรมาให้ผลลัพธ์ตามที่คาดหวังหรือไม่ แต่ไม่มีเครื่องมือใดบอกได้ว่าระบบต้องรักษาอะไรไว้บ้างเว้นแต่จะมีใครสักคนระบุออกมาก่อน

เงื่อนไขคงที่ (Invariant) คือหนึ่งในคำกล่าวอ้างเหล่านั้น นั่นคือเงื่อนไขที่ต้องเป็นจริงเสมอในทุกสถานะที่ถูกต้องของระบบ ยอดเงินในบัญชีไม่สามารถเปลี่ยนแปลงได้โดยไม่มีธุรกรรมที่สอดคล้องกัน วัตถุที่เป็นส่วนตัวไม่สามารถกลายเป็นสาธารณะได้โดยไม่มีการอนุญาต และการเขียนข้อมูลที่สำเร็จสองครั้งต้องไม่ลบข้อมูลซึ่งกันและกันอย่างเงียบเชเชียบ