เครื่องมือถอด SynthID ของ Google โผล่บน GitHub ติดตั้งง่าย
เจาะลึกเครื่องมือโอเพนซอร์ส remove-ai-watermarks บน GitHub ที่ช่วยลบลายน้ำ AI ของ SynthID ผ่านคำสั่ง pip พร้อมเผยข้อจำกัดการตรวจสอบภาพถ่าย
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
- เครื่องมือโอเพนซอร์ส remove-ai-watermarks มีดาว 5.1k บน GitHub และมีคอมมิตพัฒนา 473 ครั้ง
- การลบลายน้ำล่องหนใช้เทคโนโลยี diffusion regeneration บน CUDA GPU ซึ่งมีค่าบริการในแบบชำระเงิน
- ระบบตรวจสอบภาพที่ระบุว่า "ไม่พบลายน้ำ" ไม่ได้แปลว่าเป็นภาพที่มนุษย์สร้างขึ้นเสมอไป
- การอ้างอิงแหล่งข่าวระบุเครื่องมือและโค้ดคำสั่งอย่างละเอียดเพื่อการตรวจสอบทางเทคนิค
ในปัจจุบัน เครื่องมือโอเพนซอร์สที่มีดาว 5.1k บน GitHub นามว่า wiltodelta/remove-ai-watermarks ได้กลายเป็นที่พูดถึงอย่างมากในแวดวงนักพัฒนา เนื่องจากมีความสามารถในการลบลายน้ำ SynthID ของ Google ออกจากรูปภาพและวิดีโอที่สร้างหรือแก้ไขด้วยปัญญาประดิษฐ์ โดยตัวโครงการนี้ผ่านการพัฒนาและปรับปรุงมาแล้วถึง 473 คอมมิต รองรับทั้งการจัดการไฟล์ภาพและวิดีโอ พร้อมเป้าหมายหลักในการจัดการกับลายน้ำหลากหลายรูปแบบ เช่น C2PA, EXIF, IPTC และ XMP
โครงสร้างของเครื่องมือนี้แสดงให้เห็นถึงความซับซ้อนในการพัฒนา โดยการลบเมทาเดตาและป้ายสัญลักษณ์มองเห็นได้นั้นเปิดให้ใช้งานฟรีและทำได้ง่าย แต่การลบลายน้ำล่องหนจำเป็นต้องอาศัยกระบวนการ diffusion regeneration บน CUDA GPU ซึ่งเวอร์ชันคลาวด์มีการเรียกเก็บเงินเฉพาะส่วนของการลบเลเยอร์ล่องหนนี้เท่านั้น สะท้อนให้เห็นว่าความต้องการของตลาดมุ่งเน้นไปที่การจัดการกับส่วนที่ถูกมองว่ามีความคงทนสูง นอกจากนี้ยังมีเครื่องมือบนเบราว์เซอร์ที่ทำงานฝั่งไคลเอนต์โดยไม่ต้องอัปโหลดไฟล์ โดยมีทั้งแบบจำกัดขนาดไฟล์ไม่เกิน 50MB และแบบประมวลผลเป็นชุดสำหรับการอัปโหลดลงโซเชียลมีเดีย
หลักการทำงานของ SynthID คือการฝังสัญญาณลงในรูปแบบ frequency-domain ที่กระจายอยู่ทั่วทั้งเฟรม ซึ่งเป็นเหตุผลว่าทำไมมันจึงยังคงอยู่แม้ภาพจะถูกครอปหรือผ่านการบีบอัดแบบ JPEG อย่างไรก็ตาม เครื่องมือถอดรหัสได้ถูกออกแบบมาเพื่อเลือกวิธีการโจมตีที่จำเพาะเจาะจง โดยมีการโจมตีหลักๆ 2 รูปแบบ ได้แก่ การปรับแต่งค่าพิกเซลเล็กน้อย (targeted perturbation) ระหว่าง 0.0005 ถึง 0.003 เพื่อดึงค่าความสัมพันธ์ของตัวตรวจจับให้อยู่ต่ำกว่าเกณฑ์โดยที่ภาพยังคงดูเหมือนเดิม และการใช้ diffusion regeneration เพื่อแทนที่พิกเซลทั้งหมดผ่านโมเดลเจนเนอเรชัน ซึ่งแลกมาด้วยความคมชัดที่ลดลงเล็กน้อยแต่สามารถทำลายลายนิ้วมือดิจิทัลได้อย่างเด็ดขาด
"An open-source utility with 5.1k GitHub stars removes Google's SynthID markers from AI-edited images, and its paid tier charges for exactly one thing: killing the invisible watermark that's supposed to survive edits."
Jason Miller
ปัญหาสำคัญอีกประการคือบุคคลภายนอก Google ไม่สามารถตรวจสอบผลคะแนนของตัวตรวจจับ SynthID ได้ เนื่องจากระบบตรวจจับไม่ได้เปิดเป็นสาธารณะ ทำให้เครื่องมือถอดรหัสไม่สามารถพิสูจน์ความสำเร็จได้อย่างเบ็ดเสร็จ และกองบรรณาธิการข่าวก็ไม่สามารถตรวจสอบย้อนกลับได้เช่นกัน หาก Google ตัดสินใจเปิดเผยตัวตรวจจับดังกล่าว เครื่องมือถอดรหัสเหล่านี้ก็จะปรับตัวตามได้ทันทีภายในข้ามคืน
ในมุมมองด้านความปลอดภัยและความน่าเชื่อถือของเนื้อหา เหตุการณ์นี้ชี้ให้เห็นว่าระบบการตรวจสอบภาพถ่าย (Review Workflow) ขององค์กรข่าวหรือกองบรรณาธิการไม่ควรพึ่งพาผลลัพธ์การตรวจจับลายน้ำแบบผิวเผินอีกต่อไป การที่ระบบแสดงผลว่าไม่พบลายน้ำไม่ได้หมายความว่าภาพนั้นสร้างโดยมนุษย์อย่างแท้จริง เนื่องจากช่องโหว่ด้านเทคนิคและการพัฒนาของเครื่องมือโอเพนซอร์สได้ลดต้นทุนในการหลบเลี่ยงระบบตรวจจับลงอย่างมาก จนทำให้ข้อสมมติฐานเดิมเกี่ยวกับแหล่งที่มาของภาพกลายเป็นความเสี่ยงที่ต้องเร่งทบทวน
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
แนวทางการจัดการคิวการตรวจสอบภาพถ่ายในยุคปัจจุบันจึงควรถูกปรับเปลี่ยนให้รัดกุมยิ่งขึ้น โดยอิงตามระดับความน่าเชื่อถือ เช่น หากพบลายควรประเมินว่าเป็นต้นกำเนิดจาก AI หรือหากมีลายเซ็น C2PA ที่ถูกต้องให้ถือว่าเป็นกลาง แต่หากไม่พบลายน้ำใดๆ ห้ามสรุปเด็ดขาดว่าเป็นฝีมือมนุษย์ เนื่องจากระบบนิเวศของการถอดรหัสได้ทำให้การใช้ประโยชน์จากช่องโหว่นี้กลายเป็นเรื่องที่ทำได้ง่ายเพียงแค่ใช้คำสั่งติดตั้งผ่านระบบจัดการแพ็กเกจ
ที่มา: Dev.to
พบข้อมูลผิดพลาดในบทความนี้? แจ้งปัญหาบทความนี้
ความคิดเห็น
แสดงความคิดเห็น