OpenBot: ระบบเกตเวย์กลางบันทึก Audit Row ก่อน AI สั่งการ
เจาะลึก OpenBot เฟรมเวิร์กจัดการความปลอดภัย AI Bot ที่บังคับบันทึกประวัติการกระทำก่อนคอมพิวเตอร์ทำงานจริง พร้อมระบบ CEL Policy และ gVisor
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
- OpenBot บังคับบันทึกประวัติการกระทำก่อนคอมพิวเตอร์ทำงานจริง
- ใช้เกตเวย์กลางควบคุมคำสั่งคอมพิวเตอร์ ไฟล์ และ MCP Server
- กำหนดเงื่อนไขความปลอดภัยด้วย CEL Policy โดยตั้งต้นแบบปฏิเสธทั้งหมด
- สถานะอัลฟาและเป็นเทมเพลตสำหรับนักพัฒนา ไม่ใช่บริการสำเร็จรูป
เอกสาร README ของ OpenBot เผยให้เห็นกลไกสำคัญด้านลำดับการทำงาน โดยระบุว่าเมื่อบอทส่งคำสั่งให้คอมพิวเตอร์ดำเนินการ เกตเวย์จะทำการแปลงเป้าหมายจากเซิร์ฟเวอร์ ประเมินนโยบาย บันทึกแถวตรวจสอบ และจึงค่อยสั่งการคอมพิวเตอร์ในขั้นตอนสุดท้าย ตามคำกล่าวในเอกสารคือไม่มีเส้นทางใดที่บอทจะปฏิบัติงานได้โดยไม่มีการบันทึกประวัติเกิดขึ้นก่อน
สโลแกนของโครงการระบุว่าทุกการกระทำจะถูกตัดสินใจก่อนเกิดขึ้นและบันทึกหลังจากนั้น โดยความไว้วางใจทั้งหมดนี้ถูกรวมไว้ที่เกตเวย์เดี่ยวตัวเดียว ซึ่งใช้จัดการทั้งการกระทำบนคอมพิวเตอร์ ไฟล์ เซิร์ฟเวอร์ MCP และคอมโพเนนต์ต่างๆ ไม่ว่าบอทจะทำสิ่งใดกับระบบ ทุกอย่างจะต้องผ่านเกตเวย์นี้เพื่อตัดสินใจและบันทึก ซึ่งเอกสารมองว่าเป็นเส้นแบ่งระหว่างบอทที่ใช้งานเครื่องมือได้ทั่วไปกับบอทที่เรากล้าปล่อยให้เข้าถึงเครื่องมือสำคัญ
กระบวนการตัดสินใจเลือกใช้ CEL Policy ซึ่งกฎเกณฑ์ต่างๆ สามารถตรวจสอบตัวแปรได้หลากหลาย เช่น tool.name, intent, bot.id, actor.id, page.url, page.host, element.*, key, file.* และ mcp.* ระบบจะประเมินเงื่อนไขการปฏิเสธ (Deny) ก่อนการอนุญาต (Allow) หากไม่มีการตั้งค่านโยบายระบบจะไม่ยอมให้ทำอะไรเลย และหากกฎเกิดข้อผิดพลาดระบบจะปฏิเสธการทำงานทันทีโดยไม่มีการเปิดช่องว่าง ซึ่งเรียกว่าระบบ Fail Closed โดยเมื่อเกตเวย์ปฏิเสธคำสั่งก็จะระบุชื่อกฎที่บล็อกไว้อย่างชัดเจน
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
ในส่วนของการจัดการคำสั่งเชลล์ บอทสามารถรันคำสั่งในเวิร์กสเปซและติดตั้งสิ่งที่จำเป็นได้ แต่กฎเกณฑ์สามารถสั่งปฏิเสธคำสั่งเชลล์ทั้งหมดหรือบางคำสั่งเฉพาะเจาะจงได้ ซึ่งไม่ว่าจะอนุมัติหรือปฏิเสธคำสั่งนั้นจะถูกบันทึกไว้ในประวัติเสมอ โดยกระบวนการนี้จะสืบทอดตัวแปร PATH, locale, terminal และ proxy แต่ไม่รวมสภาพแวดล้อมอื่นๆ ของการติดตั้ง
การที่ OpenBot เลือกใช้เกตเวย์กลางร่วมกับ CEL Policy และนำรันไทม์อย่าง gVisor มาครอบคอนเทนเนอร์ ช่วยแก้ปัญหาช่องโหว่ด้านความปลอดภัยที่มักเกิดขึ้นเมื่อให้เอเจนต์ AI เข้าถึงระบบปฏิบัติการหรือเครื่องมือภายในองค์กรโดยตรง แนวทางนี้ช่วยลดความเสี่ยงที่เอเจนต์จะทำงานนอกเหนือขอบเขตที่กำหนดและทำให้ผู้ดูแลระบบสามารถตรวจสอบย้อนหลังได้อย่างแม่นยำ
สำหรับการจัดการข้อมูลลับ (Secrets) เอกสารระบุว่าระบบจะบันทึกเพียงแค่ว่ามีการร้องขอข้อมูลลับและใช้เวลานานเท่าใด แต่จะไม่บันทึกเนื้อหาภายในของข้อมูลนั้น ขณะที่แท็บกิจกรรม (Activity) จะแสดงสิ่งที่บอทได้รัน อ่าน และบันทึก พร้อมผลลัพธ์ แต่ไฟล์ที่ถูกบันทึกจะแสดงเพียงเส้นทางและขนาดไฟล์แทนที่จะเป็นเนื้อหาภายใน โดยผู้ดูแลระบบสามารถตรวจสอบการกระทำที่ได้รับอนุญาต ถูกปฏิเสธ และที่ล้มเหลวได้ที่ /admin/audit
ในกรณีที่บอทติดปัญหาหน้าเข้าสู่ระบบหรือระบบยืนยันตัวตนสองขั้นตอน (2FA) บอทจะร้องขอความช่วยเหลือจากมนุษย์ และการควบคุมจะถูกโอนย้ายผ่านแผงควบคุมเดียวกัน พร้อมบันทึกสถานะเป็น computer.help_requested, computer.control_taken และ computer.control_released โดยในระหว่างที่มนุษย์กำลังควบคุมเครื่อง คำสั่งจากบอทจะถูกปฏิเสธแทนที่จะถูกนำไปเข้าคิวรอ
ที่มา: Dev.to
พบข้อมูลผิดพลาดในบทความนี้? แจ้งปัญหาบทความนี้
ความคิดเห็น
แสดงความคิดเห็น