Motional และ MIT พัฒนา AI อธิบายการตัดสินใจรถไร้คนขับ

ปัญหาเรื่องกล่องดำของปัญญาประดิษฐ์ในยานยนต์ไร้คนขับเป็นอุปสรรคสำคัญมานาน เนื่องจากเครือข่ายประสาทเทียมที่ผ่านการฝึกฝนด้วยข้อมูลจำนวนมากมักไม่เปิดเผยเหตุผลเบื้องหลังการตัดสินใจ ทำให้เมื่อรถยนต์เบรกกะทันหันบนถนนโล่ง ทั้งผู้ขับขี่และผู้โดยสารไม่สามารถล่วงรู้สาเหตุที่แท้จริงได้เลย

ล่าสุด ทีมนักวิจัยจาก Motional นำโดยซีอีโอ Laura Major ร่วมกับห้องปฏิบัติการวิทยาศาสตร์คอมพิวเตอร์และปัญญาประดิษฐ์แห่ง MIT ได้พัฒนาวิธีการใหม่ในงานวิจัยที่ตีพิมพ์ในวารสาร Nature โดยใช้ชื่อว่า Concept-Wrapper Network หรือ CW-Net ซึ่งทำหน้าที่แปลงการคำนวณภายในของระบบให้ออกมาเป็นแนวคิดที่มนุษย์อ่านและทำความเข้าใจได้จริง

แนวทางของ CW-Net แตกต่างจากการสร้างคำอธิบายด้วยภาษาธรรมชาติที่มักคาดเดาขึ้นมาทีหลังและอาจไม่ตรงกับความเป็นจริง แต่ระบบตัดสินใจขั้นสุดท้ายของรถยนต์จะกระทำโดยอิงจากแนวคิดเหล่านี้โดยตรง ส่งผลให้ทุกการเบรกสามารถสาวลึกกลับไปหาแนวคิดเฉพาะเจาะจงที่เป็นตัวกระตุ้นได้ ซึ่ง Motional เรียกว่ามีความซื่อตรงเชิงเหตุผลหรือ causally faithful

เดิมทีงานวิจัยด้าน Explainable AI มักถูกจำกัดอยู่เพียงแค่การจำลองในห้องปฏิบัติการเท่านั้น แต่ทีมงานของ Motional และ MIT ได้นำ CW-Net มาติดตั้งจริงบนรถยนต์ไร้คนขับที่มีเจ้าหน้าที่ความปลอดภัยนั่งอยู่หลังพวงมาลัย พร้อมทั้งเก็บข้อมูลทั้งบนสนามทดสอบส่วนตัวและถนนสาธารณะรอบเมืองลาสเวกัส

ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง

ระหว่างการทดสอบ เกิดเหตุการณ์สำคัญสองกรณีที่สะท้อนให้เห็นประสิทธิภาพของระบบ ในกรณีแรก รถยนต์อัตโนมัติหยุดรถซ้ำ ๆ ใกล้กับกรวยจราจร ซึ่งเจ้าหน้าที่คิดว่าเป็นเพราะตัวกรวย แต่เมื่อนำกรวยออก รถก็ยังคงหยุดเหมือนเดิม หน้าจอแสดงผลของ CW-Net เผยให้เห็นสาเหตุที่แท้จริงว่า ระบบวางแผนกำลังเกิดภาพหลอนว่ามีรถหยุดอยู่ข้างหน้า ซึ่งเป็นรูปแบบที่ถูกส่งต่อมาจากข้อมูลฝึกอบรม

ในแง่ของผลกระทบด้านประสิทธิภาพ Motional ยอมรับว่าการเพิ่มชั้นความสามารถในการอธิบายได้ให้กับระบบ AI ย่อมมีต้นทุนด้านความเร็ว แต่เมื่อนำ CW-Net ไปเปรียบเทียบกับอัลกอริทึมการขับขี่อัตโนมัติชั้นนำ ความแตกต่างของความสามารถในการขับขี่กลับมีค่าต่ำกว่าหนึ่งเปอร์เซ็นต์เท่านั้น

"Laura Major frames the case for this kind of interpretability against the alternative of relying purely on end-to-end deep learning to handle driving decisions."

Laura Major

ข้อมูลเชิงลึกเหล่านี้ช่วยให้ทีมวิศวกรสามารถวินิจฉัยปัญหาได้อย่างรวดเร็ว และช่วยให้เจ้าหน้าที่ความปลอดภัยสามารถแยกแยะระหว่างพฤติกรรมที่ตั้งใจไว้กับความผิดพลาดได้อย่างแม่นยำ นอกจากนี้ เทคโนโลยีดังกล่าวยังสามารถต่อยอดไปสู่โดเมนอื่น ๆ ที่มีความสำคัญด้านความปลอดภัย เช่น โดรนอัตโนมัติและการผ่าตัดด้วยหุ่นยนต์ในอนาคต

ที่มา: AI News