OpenAI เปิดตัว Private Safety Processing สกัดการใช้เอไอในทางที่ผิด
OpenAI เปิดตัวบริการ Private Safety Processing ระบบตรวจสอบความปลอดภัยอัตโนมัติที่ไม่จัดเก็บข้อมูลลูกค้า เพื่อแข่งขันกับคู่แข่งอย่าง Anthropic
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
- OpenAI เปิดตัว Private Safety Processing ตรวจสอบการใช้งานผิดประเภทโดยไม่เก็บข้อมูลลูกค้า
- ระบบออกแบบมาเพื่อขอบเขตของ Zero Data Retention (ZDR) และวิเคราะห์หลายเซสชันร่วมกัน
- ช่วยตรวจจับการโจมตีแบบแบ่งย่อยคำขอโดยไม่ต้องใช้มนุษย์ตรวจสอบข้อความ
- ตลาด AI เผชิญการแข่งขันสูง โดย Anthropic มีรายได้เติบโตและเตรียมไอพีโอเช่นกัน
เมื่อโมเดลปัญญาประดิษฐ์ทรงพลังมากขึ้น ความเสี่ยงในการถูกนำไปใช้ในทางที่ผิดจึงเพิ่มสูงขึ้นตามไปด้วย ส่งผลให้เสียงเรียกร้องเรื่องมาตรการรักษาความปลอดภัยดังขึ้นเรื่อยๆ บริษัท AI ต่างต้องเดินเกมอย่างระมัดระวังระหว่างการเคารพความเป็นส่วนตัวของลูกค้าองค์กรกับการเฝ้าระวังการใช้งานที่อาจก่อให้เกิดปัญหา
ล่าสุด OpenAI อาศัยจังหวะนี้เดินหน้าแข่งขันกับคู่แข่งคนสำคัญอย่าง Anthropic ด้วยการประกาศแนวทางด้านความปลอดภัยที่เน้นความเป็นส่วนตัวในการตรวจสอบการใช้งานในทางที่ผิด บริษัทกำลังเปิดให้ลูกค้าบางกลุ่มทดลองใช้บริการใหม่ในชื่อ Private Safety Processing ซึ่งเป็นระบบอัตโนมัติทำหน้าที่ตรวจสอบการละเมิดโดยไม่มีการเก็บข้อมูลใดๆ ของลูกค้าไว้เลย
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
นโยบายดังกล่าวซึ่งได้รับการเปิดเผยครั้งแรกในเดือนกรกฎาคม ถูกออกแบบมาเพื่อความปลอดภัย เปิดทางให้ห้องปฏิบัติการสามารถคัดกรองและวิเคราะห์พฤติกรรมที่ไม่เหมาะสมได้ อย่างไรก็ตาม แนวทางนี้สร้างความกังวลใจให้กับองค์กรธุรกิจขนาดใหญ่บางแห่งที่ต้องจัดการกับข้อมูลอ่อนไหวจำนวนมาก และไม่ต้องการให้ข้อมูลเหล่านั้นถูกจัดเก็บหรือตรวจสอบโดยบริษัทผู้พัฒนา AI
OpenAI ระบุว่า Private Safety Processing เป็นเทคโนโลยีใหม่ที่ช่วยขยายขอบเขตของ ZDR โดยอธิบายว่าเป็นระบบเฝ้าระวังความปลอดภัยระยะยาวที่ประเมินข้อมูลเข้าและออกจากการสนทนาหลายรายการ ไม่ใช่แค่การสนทนาเดียว การตรวจสอบนี้ดำเนินการโดยเอเจนต์ที่จะเข้าควบคุมการสนทนาและวิเคราะห์ข้ามเซสชันเพื่อหาข้อบ่งชี้ของการใช้งานในทางที่ผิดหากระบบตรวจพบเงื่อนไขที่กำหนด
การที่ OpenAI พัฒนาระบบตรวจสอบข้ามเซสชัน (cross-session monitoring) สะท้อนให้เห็นความพยายามในการแก้จุดบอดของระบบความปลอดภัยแบบเดิมที่มักตรวจสอบทีละข้อความ ซึ่งมักถูกผู้ไม่หวังดีหลบเลี่ยงด้วยการกระจายคำสั่งอันตรายออกเป็นส่วนย่อยๆ การใช้ระบบอัตโนมัติที่ไม่มีการเก็บบันทึกข้อมูลส่วนบุคคลจึงเป็นกุญแจสำคัญในการสร้างความเชื่อมั่นให้กับลูกค้าองค์กรระดับพรีเมียมที่ให้ความสำคัญสูงสุดกับเรื่องธรรมาภิบาลข้อมูล (Data Governance)
โฆษกของ OpenAI เผยว่าเทคโนโลยีใหม่นี้ช่วยให้บริษัทสามารถตรวจจับการใช้งาน AI ในทางที่ผิดซึ่งเกิดขึ้นต่อเนื่องหลายเซสชันได้ ตัวอย่างเช่น ผู้ไม่หวังดีที่พยายามสร้างมัลแวร์สำหรับการโจมตีทางไซเบอร์อาจจงใจกระจายคำขอออกเป็นหลายครั้งเพื่อหลบเลี่ยงการตรวจจับ ระบบ Private Safety Processing สามารถวิเคราะห์การสนทนาหลายรายการเหล่านี้เพื่อหา sign of abuse โดยไม่ต้องอาศัยมนุษย์เข้ามาเปิดดูข้อความของผู้ใช้งานแต่อย่างใด
การแข่งขันทางธุรกิจระหว่าง OpenAI และ Anthropic ในขณะนี้กำลังดุเดือดอย่างมาก โดยทั้งสองบริษัทต่างมองหาโอกาสทุกรูปแบบเพื่อสร้างความได้เปรียบเหนือคู่แข่ง รายงานล่าสุดชี้ว่าการเติบโตในไตรมาสที่ 2 ของ OpenAI นั้นช้ากว่า Anthropic โดยปัจจุบันอัตราการเติบโตของรายได้ต่อปี (annualized revenue run rate) ของ Anthropic พุ่งสูงถึง 6.5 หมื่นล้านดอลลาร์ ขณะที่นักลงทุนของ Anthropic ประเมินว่าบริษัทอาจมีมูลค่าตลาดในการเสนอขายหุ้น IPO สูงถึง 2 ล้านล้านดอลลาร์ ในขณะที่ทางด้าน OpenAI เองก็กำลังเร่งดำเนินการเรื่องการไอพีโอเช่นกัน
ที่มา: TechCrunch
พบข้อมูลผิดพลาดในบทความนี้? แจ้งปัญหาบทความนี้
ความคิดเห็น
แสดงความคิดเห็น