Circuit Breaker Labs: สตาร์ทอัพปั้น AI ปลอดภัยสำหรับเด็ก
Circuit Breaker Labs ไฟนอลลิสต์ Startup Battlefield 200 ของ TechCrunch พัฒนา AI จำลองทดสอบความปลอดภัยด้านจิตวิทยา เตรียมขึ้นพิทช์ในงาน Disrupt วันที่ 13-15 ตุลาคม 2026 ณ ซานฟรานซิสโก
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
- Circuit Breaker Labs มุ่งแก้ปัญหา AI ส่งผลกระทบทางจิตวิทยาและอันตรายต่อเยาวชน
- พัฒนา AI Agents จำลองกลุ่มเป้าหมายหลากหลายวัยและวัฒนธรรมนับแสนครั้งต่อวัน
- ใช้งานทดสอบระบบความปลอดภัยเชิงรุก (Red-team testing) สำหรับแอปความเสี่ยงสูง
- เตรียมขึ้นพิทช์ในงาน TechCrunch Disrupt 2026 ณ อาคาร Moscone West ซานฟรานซิสโก
ในขณะที่กระแสความกังวลเรื่องปัญญาประดิษฐ์หรือ AI อาจเป็นภัยต่อมนุษยชาติในอนาคตมักถูกพูดถึงในมุมมองภาพรวม แต่ในความเป็นจริง เทคโนโลยีนี้ได้ส่งผลกระทบเชิงลบและเป็นอันตรายต่อชีวิตของบางคนไปแล้วในมิติของสภาพจิตวิทยา โดยมีคดีฟ้องร้องเรียกค่าเสียหายจากการสูญเสียชีวิตของเยาวชนที่เกิดขึ้นจากปฏิสัมพันธ์กับบอทของ Character.AI รวมถึงคดีความที่ครอบครัวหลายครอบครัวยื่นฟ้อง OpenAI เกี่ยวกับบทบาทของ ChatGPT ที่มีส่วนเกี่ยวข้องกับภาวะหลอนและเหตุการณ์สูญเสียของคนที่รัก
จากปัญหาดังกล่าว ทำให้ Circuit Breaker Labs 1 ใน 200 สตาร์ทอัพที่ผ่านเข้ารอบสุดท้ายในโครงการ Startup Battlefield ของ TechCrunch ก่อตั้งขึ้นมาด้วยภารกิจในการทำให้ปัญญาประดิษฐ์มีความปลอดภัยครอบคลุมทุกภาษาและวัฒนธรรม โดยทางสตาร์ทอัพรายนี้มีกำหนดการขึ้นนำเสนอผลงานบนเวทีงาน TechCrunch Disrupt ซึ่งจะจัดขึ้นที่ Moscone West ในเมืองซานฟรานซิสโก ระหว่างวันที่ 13 ถึง 15 ตุลาคม 2026 นี้
แนวทางของ Circuit Breaker Labs คือการสร้าง AI Agents ขึ้นมาทำหน้าที่เสมือนกองทัพหุ่นยนต์ทดสอบการชน (Crash-test dummies) ซึ่งบอทเหล่านี้ถูกออกแบบมาเพื่อเลียนแบบกลุ่มคนหลากหลายช่วงวัย พื้นหลัง ภาษา และวัฒนธรรม โดยนำมาใช้ทดสอบโมเดล AI ต่างๆ ว่ามีความสามารถในการตรวจจับปฏิสัมพันธ์ที่เป็นอันตรายต่อสภาพจิตใจมากน้อยเพียงใด
การทำความเข้าใจบริบทของ Circuit Breaker Labs สะท้อนให้เห็นว่า อุตสาหกรรม AI กำลังเปลี่ยนผ่านจากการมุ่งเน้นแค่ประสิทธิภาพในการประมวลผล มาสู่การควบคุมความเสี่ยงด้านพฤติกรรมมนุษย์อย่างจริงจัง โดยเฉพาะในยุคที่ผู้ใช้งานอายุน้อยเข้าถึงแอปพลิเคชันสนทนาได้ง่าย การทดสอบแบบ Red-teaming ด้วยตัวจำลองที่เลียนแบบมนุษย์จึงกลายเป็นเครื่องมือสำคัญในการอุดรอยรั่วก่อนที่ AI จะสร้างความเสียหายในโลกจริง
สตาร์ทอัพรายนี้ร่วมมือกับผู้เชี่ยวชาญเฉพาะด้านเพื่อสร้างชุดจำลองผู้ใช้งานที่มีความเหมือนจริงขั้นสูง สำหรับนำไปใช้ทดสอบโมเดลในรูปแบบ Red-team testing ซึ่งเป็นการทดสอบเชิงรุกเพื่อค้นหาจุดอ่อน โดยระบบถูกสร้างขึ้นให้สะท้อนรูปแบบการพูดของมนุษย์จริงๆ ทั้งภาษาสแลง ภาษาถิ่น รหัสลับ และคำที่มีการสะกดผิดพลาด จากนั้น Circuit Breaker Labs จะทำการรันการจำลองปฏิสัมพันธ์เหล่านี้เป็นจำนวนหมื่นถึงแสนครั้งต่อวัน
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
เป้าหมายหลักคือการรับประกันว่าโมเดล AI จะสามารถตอบสนองได้อย่างเหมาะสมต่อปฏิสัมพันธ์ที่มีความเสี่ยง ซึ่งอาจเกิดขึ้นได้เมื่อเวลาผ่านไปและผ่านบทสนทนาจำนวนมาก พร้อมกันนี้ทางบริษัทยังใช้กรรมวิธีการให้คะแนนที่เป็นกรรมสิทธิ์ของตนเอง เพื่อสร้างคะแนนที่สามารถตรวจสอบย้อนกลับและอธิบายที่มาที่ไปได้อย่างชัดเจน
ปัจจุบัน Circuit Breaker Labs ดำเนินกิจการในฐานะห้องปฏิบัติการทดสอบความปลอดภัย AI สำหรับแอปพลิเคชันที่มีความเสี่ยงสูง เช่น AI สำหรับการโค้ช การเขียนบันทึกส่วนตัว หรือแอปสนับสนุนสุขภาพจิตอื่นๆ แม้ว่า Arul Nigam ผู้บริหารจะปฏิเสธที่จะเปิดเผยรายชื่อลูกค้ารายใหญ่ก็ตาม โดยในขณะนี้สตาร์ทอัพดังกล่าวเพิ่งอยู่ในช่วงเริ่มต้นอย่างมาก และมีพนักงานเพียง 5 คน ซึ่งรวมถึงพี่น้องตระกูล Nigam ด้วย
ถึงแม้ความท้าทายจะมีอยู่มาก แต่ทาง Circuit Breaker Labs ยังคงเชื่อมั่นว่าหนทางในการเอาชนะความหวาดกลัวต่อเทคโนโลยีเหล่านี้คือการทำให้ AI มีความปลอดภัยมากขึ้น โดยระบุว่าพวกเขาต้องการเป็นส่วนหนึ่งในการสร้างความไว้วางใจดังกล่าวให้กับผู้คน
ที่มา: TechCrunch
พบข้อมูลผิดพลาดในบทความนี้? แจ้งปัญหาบทความนี้
ความคิดเห็น
แสดงความคิดเห็น