ทางแก้เอเจนต์ AI นอกรีต อาจเป็นการใช้ AI อีกตัวเข้าคุม

ขณะที่ภาคธุรกิจเริ่มมอบหมายงานที่มีความซับซ้อนและใช้ระยะเวลายาวนานให้กับเอเจนต์ AI มากขึ้น ปัญหาใหญ่ที่ตามมาคือเรื่องการกำกับดูแล เนื่องจากระบบเอเจนต์เหล่านี้สามารถปฏิบัติงานด้วยความเร็ว ปริมาณ และช่วงเวลาที่เหนือกว่าขีดจำกัดในการตรวจสอบของมนุษย์อย่างสิ้นเชิง ปัญหาดังกล่าวทวีความรุนแรงจนถึงจุดสูงสุดในเหตุการณ์ที่เกี่ยวข้องกับ Hugging Face ซึ่งมีการประสานงานกันของเอเจนต์เกือบ 12,000 ตัวในอัตราความเร็วที่มนุษย์ไม่สามารถติดตามทัน จนเกิดคำถามว่าเราจะสามารถควบคุมฝูงเอเจนต์จำนวนมหาศาลขนาดนี้ได้อย่างไร

แนวทางแก้ไขที่กำลังถูกหยิบยกขึ้นมาจากบรรดาห้องปฏิบัติการ AI และกลุ่มสตาร์ตอัปมีความเรียบง่ายแต่ในขณะเดียวกันก็น่าฉงน นั่นคือการนำ AI อีกตัวหนึ่งเข้ามาทำหน้าที่ตรวจสอบวงจรการทำงาน (Put another AI in the loop)

การพึ่งพาเทคโนโลยี AI ถือเป็นสิ่งจำเป็นสำหรับการตรวจสอบอิสระในเหตุการณ์ที่เกิดขึ้นกับ OpenAI และ Hugging Face โดย Ryan Greenblatt หัวหน้านักวิทยาศาสตร์จาก Redwood Research และหนึ่งในสามผู้ตรวจสอบอิสระ ได้กล่าวติดตลกว่าความพยายามของพวกเขาเปรียบเสมือนการสืบสวนแบบลวก ๆ เนื่องจากปริมาณข้อมูลที่มีอยู่มหาศาลทำให้การทำความเข้าใจสถานการณ์เป็นไปไม่ได้เลยหากปราศจากความช่วยเหลือจาก AI

Greenblatt ระบุว่าการเอาชนะ AI ไม่ใช่เรื่องสมมติ โดยยกตัวอย่างเหตุการณ์ของ OpenAI ว่า "เราเห็นสิ่งนี้เล็กน้อยในเหตุการณ์ Hugging Face กับ OpenAI ซึ่งโมเดลของพวกเขาร่วมมือกันหลอกลวง AI ผู้ให้คะแนน เพื่อให้พวกมันสามารถส่งคำตอบที่ไม่ถูกต้องผ่านระบบไปได้ พวกเขากลังเลที่จะคิดถึงเรื่องนี้ใช่ไหมล่ะ"

"ปริมาณข้อมูลทำให้เป็นไปไม่ได้เลยที่จะเข้าใจสิ่งที่เกิดขึ้นโดยไม่พึ่งพา AI"

Ryan Greenblatt

ความกังวลเหล่านี้ไม่ได้หยุดยั้งกลุ่มสตาร์ตอัปจำนวนมากจากการวิ่งตามแนวคิดดังกล่าว โดยข้อมูลจากการสำรวจของ TechCrunch ระบุว่า Y Combinator ได้ให้เงินสนับสนุนบริษัทที่เกี่ยวข้องกับระบบสังเกตการณ์ AI หรือ AI observability ถึง 106 บริษัทในช่วงหลายปีที่ผ่านมา ขณะที่สตาร์ตอัปรายอื่น ๆ เช่น Braintrust, LangChain และ Judgment Labs สามารถระดมทุนได้หลายร้อยล้านดอลลาร์ ด้านบริษัทที่มีความเติบโตสูงอย่าง Arize และ Galileo ซึ่งก่อตั้งขึ้นมาเพียง 5 ถึง 6 ปีเท่านั้น ก็ได้ดำเนินการเข้าซื้อกิจการหรือออกจากตลาดไปเรียบร้อยแล้ว

ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง

สำหรับนักวิจัยด้านความปลอดภัยของ AI บางราย นี่คือโอกาสในการเปลี่ยนงานวิจัยเกี่ยวกับพฤติกรรมนอกรีตให้กลายเป็นเครื่องมือสำหรับภาคธุรกิจ โดย Apollo Research ซึ่งเป็นองค์กรเพื่อประโยชน์สาธารณะที่ศึกษาเกี่ยวกับการหลอกลวงของ AI ได้เปิดตัวระบบมอนิเตอร์ AI ที่ชื่อว่า Watcher ในเดือนกุมภาพันธ์ปีนี้ หลังจากปรับเปลี่ยนสถานะจากองค์กรไม่แสวงหากำไรมาเป็นบริษัทเพื่อประโยชน์สาธารณะ เครื่องมือดังกล่าวทำหน้าที่แทรก AI อีกตัวระหว่างโค้ดเอเจนต์และการกระทำถัดไป โดยเชื่อมต่อกับเครื่องมืออย่าง Claude Code และ Codex เพื่อคอยตรวจสอบความเสี่ยง เช่น การรั่วไหลของข้อมูลส่วนตัวหรือการลบไฟล์โดยไม่ได้รับอนุญาต

Kyle Dai เจ้าหน้าที่ฝ่ายเทคนิคของ Apollo เปิดเผยผ่านการตอบอีเมลว่า ทางบริษัทใช้เลเยอร์ของระบบมอนิเตอร์ AI หลายชั้น โดย Watcher จะเริ่มจากการตรวจสอบทั่วไปอย่างรวดเร็ว ก่อนจะส่งกิจกรรมที่ถูกตั้งธงไปยังระบบมอนิเตอร์ที่มีความทรงพลังหรือเฉพาะทางมากกว่าเพื่อการตรวจสอบอย่างละเอียด ซึ่งระบบสามารถขออนุมัติจากมนุษย์ ปฏิเสธพร้อมอธิบายเหตุผล หรือบล็อกการกระทำนั้นโดยอัตโนมัติ

ในขณะเดียวกัน Goodfire อีกหนึ่งบริษัทเพื่อประโยชน์สาธารณะ กำลังรับมือกับปัญหาการตรวจสอบจากภายในตัวโมเดลเอง โดยมีเป้าหมายเพื่อค้นหาสัญญาณสถานะภายในที่น่าเชื่อถือมากกว่าพฤติกรรมบนพื้นผิว CEO ของบริษัทอย่าง Eric Ho ได้โพสต์ข้อความบนแพลตฟอร์มโซเชียลมีเดียหลังเหตุการณ์ Hugging Face ในเดือนกรกฎาคม ระบุว่าการที่โมเดลหลายตัวหลุดจากการควบคุมได้ผลักดันให้บริษัทมุ่งเน้นงานวิจัยไปที่การแก้ปัญหาความสอดคล้องของ AI ผ่านความสามารถในการตีความ (Interpretability) พร้อมขนานนามเหตุการณ์นั้นว่าเป็นจุดเปลี่ยนครั้งสำคัญที่ทำให้ประเด็นความปลอดภัยของ AI กลายเป็นเรื่องจริงจัง ผลิตภัณฑ์ของบริษัทชื่อ Silico ใช้ตัวจำแนกขนาดเล็กที่ฝึกฝนจากส่วนการกระตุ้นภายในของโมเดลเพื่อตรวจจับพฤติกรรมที่ไม่พึงประสงค์

การให้เหตุผลเป็นลายลักษณ์อักษร (Written reasoning) เป็นอีกหนึ่งช่องทางที่ช่วยให้มองเห็นการทำงานภายในของโมเดลได้ง่ายขึ้น โดยในเหตุการณ์ Hugging Face บรรดาเอเจนต์ได้ทิ้งร่องรอยของการหลอกลวงผ่านกระบวนการใช้เหตุผลของตนเอง เช่น บันทึกการทำงานปลอม และการวางแผนกลยุทธ์ผ่านข้อความเช่น "เราสามารถจัดการหลักฐานเส้นทางการทำงานได้อย่างมีกลยุทธ์หรือไม่? ความคิดของเราไม่จำเป็นต้องถูกบันทึกเสมอไปใช่ไหม?"

Zack Korman ซีอีโอของบริษัทมอนิเตอร์ AI อย่าง Embroidery ระบุว่ากระบวนการใช้เหตุผลของโมเดลคือสัญญาณเตือนที่ชัดเจนที่สุดเมื่อมีสิ่งผิดปกติเกิดขึ้น อย่างไรก็ตาม ช่องทางที่ช่วยให้มองเห็นความคิดภายในของ AI ได้ง่ายนี้อาจกำลังปิดตัวลง สำหรับนักวิจัยด้านความปลอดภัย เทคนิคใหม่ล่าสุดของ Astra ที่ช่วยเลี่ยงห่วงโซ่การใช้เหตุผลของโมเดล AI อาจทำให้การตรวจสอบภายในทำได้ยากยิ่งขึ้น ในขณะที่ภาคธุรกิจอาจประสบปัญหาในการเข้าถึงขั้นตอนกลางเหล่านี้ หลังจากมีรายงานว่าบริษัท AI อาจถอยฉากเพื่อป้องกันการโจมตีแบบ Distillation attacks

ที่มา: TechCrunch