hmharness เปิดตัวสมุดบัญชีความคิด AI เพื่อความโปร่งใส
โปรเจกต์โอเพนซอร์ส hmharness นำเสนอระบบบันทึกความคิด AI แบบ append-only ช่วยให้ทุกการตัดสินใจตรวจสอบย้อนกลับได้แบบ DAG
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
- hmharness เป็นเฟรมเวิร์กเอเจนต์โอเพนซอร์ส (MIT) สำหรับ HarmonyOS/OpenHarmony
- บันทึกเหตุการณ์ทางปัญญา 15 ประเภทแบบ append-only ไม่มีการลบข้อมูลทิ้ง
- ทุกข้อสรุปของ AI มีสายเลือด (lineage) และใบสูติบัตรยืนยันที่มา
- ตรวจสอบย้อนกลับข้อผิดพลาดและการแก้ไขได้อย่างโปร่งใสไร้รอยต่อ
เครื่องมือปัญญาประดิษฐ์ส่วนใหญ่ในปัจจุบันมักบันทึกเพียงประวัติการสนทนาเพื่อให้มนุษย์อ่าน แต่ระบบสมุดบัญชีความคิด (cognitive ledger) ใน hmharness ซึ่งเป็นเฟรมเวิร์กเอเจนต์โอเพนซอร์สภายใต้สัญญาอนุญาต MIT สำหรับการพัฒนา HarmonyOS และ OpenHarmony ถูกสร้างขึ้นมาเพื่อเป้าหมายอื่น นั่นคือการตรวจสอบโดยผู้ตรวจสอบบัญชี (auditor)
ระบบดังกล่าวได้บันทึกหมวดหมู่เหตุการณ์ทางปัญญาถึง 15 ประเภท เช่น การทำนาย การตรวจสอบ การแก้ไข การตัดสินใจ และสัญญาณการเรียนรู้ โดยข้อมูลทั้งหมดจะถูกบันทึกแบบเพิ่มเข้าอย่างเดียว (append-only) ไม่มีวันถูกลบ และแต่ละรายการจะมีห่วงโซ่สายเลือด (lineage chain) กำกับไว้ชัดเจนว่าการทำนายนี้มาจากความเชื่อใด การตรวจสอบใดที่เข้ามาแก้ไข และมีสิ่งใดบ้างที่สืบทอดต่อยอดมาจากการแก้ไขนั้น ส่งผลให้กระบวนการทางความคิดทั้งหมดกลายเป็นกราฟแบบระิศิศทางไร้วงจร (DAG) ที่สามารถนำมาเล่นซ้ำ (replayable) ได้ทั้งหมด
ประวัติการทำงานที่สามารถแก้ไขย้อนหลังได้นั้นไม่ใช่ประวัติที่แท้จริง หากระบบ AI สามารถแอบแก้ไขบันทึกของตนเองได้ สิ่งที่เราเห็นก็จะเป็นเพียงห่วงโซ่การตัดสินใจที่ถูกตกแต่งให้สวยงาม โดยไม่มีการยอมรับความผิดพลาดและไม่มีร่องรอยการแก้ไข ความไม่เปลี่ยนแปลง (immutability) จึงสร้างสิ่งที่มีมูลค่าสูงมาก นั่นคือความรับผิดชอบ (accountability) ทำให้เราสามารถสืบย้อนการทำนายที่ผิดพลาดกลับไปยังความเชื่อต้นทางได้ทุกประการ
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
การอัปเดตล่าสุดได้เพิ่มหมวดหมู่เหตุการณ์ใหม่อีก 5 รายการ พร้อมด้วย beliefVersion (ความเชื่อที่มีการระบุเวอร์ชัน) และ descendants (ห่วงโซ่การอนุพันธ์) ส่งผลให้กราฟความคิดของ AI สามารถจำลองซ้ำได้อย่างสมบูรณ์แบบ นอกจากนี้ยังมีระบบ canonical lineageId ที่ช่วยให้ข้อสรุปจากการทดลองที่ต่างแกนกันไม่สามารถนำมาเทียบเคียงกันได้ เว้นแต่จะมีสายเลือดที่ตรงกัน กฎข้อนี้ถูกควบคุมด้วยกฎเกณฑ์ ไม่ใช่เพียงความตั้งใจที่ดี
การนำระบบสมุดบัญชีแบบ append-only มาใช้กับกระบวนการคิดของ AI ถือเป็นก้าวสำคัญในการแก้ปัญหา 'กล่องดำ' (black box) ที่ AI มักให้คำตอบโดยไม่สามารถอธิบายที่มาที่ไปได้ การบันทึกเส้นทางความคิดแบบมีใบสูติบัตรช่วยให้วงการพัฒนาซอฟต์แวร์สามารถตรวจสอบความถูกต้องในระดับโครงสร้างได้ทันที ลดความเสี่ยงจากฮルลูซิเนชันและการบิดเบือนข้อมูลของเอเจนต์
ทุกข้อสรุปที่เอเจนต์มอบให้จะมีใบสูติบัตรกำกับเสมอ เมื่อ AI ระบุว่าการกำหนดค่าการเซ็นชื่อนี้ถูกต้อง ผู้ใช้งานสามารถสอบถามสมุดบัญชีได้ทันทีว่าการตรวจสอบใดให้ผลลัพธ์นี้ ใช้สภาพแวดล้อมใด หรือเคยถูกลบล้างหรือไม่บนพื้นฐานใด AI จึงเปลี่ยนสถานะจากกล่องดำที่พูดจากความจำ ไปสู่ผู้ปฏิบัติงานที่มีประวัติทางการแพทย์ครบถ้วนสมบูรณ์
เว็บเวิร์กเบนช์รับประกันว่าตัวเลขที่เห็นสามารถตรวจสอบย้อนกลับได้ ในขณะที่สมุดบัญชีรับประกันว่าสิ่งที่ AI รู้สามารถเล่นซ้ำได้ ทั้งสองส่วนนี้คือหลักการเดียวกันคือไม่มีสิ่งใดภายในเอเจนต์ที่ไม่สามารถตรวจสอบได้ hmharness เชื่อมโยงการสร้างโปรเจกต์ การตรวจสอบ การสร้างบิวด์ การเซ็นชื่อ การติดตั้ง การเปิดใช้งาน การอ่านบันทึก และการตรวจสอบผลลัพธ์เข้ากับเครื่องมือท้องถิ่น เพื่อให้ AI ไม่เพียงแค่สร้างโค้ด แต่ยังพิสูจน์ผลลัพธ์เทียบกับเครื่องท้องถิ่นได้จริง โดยเป็นโปรเจกต์ชุมชนอิสระไม่มีความเกี่ยวข้องกับหัวเว่ยหรือ OpenAtom
ที่มา: Dev.to
พบข้อมูลผิดพลาดในบทความนี้? แจ้งปัญหาบทความนี้
ความคิดเห็น
แสดงความคิดเห็น