Google Earth ถอดฟีเจอร์ AI แต่งภาพดาวเทียม หลังเปิดตัวได้เพียงวันเดียว
กูเกิลตัดสินใจปิดฟีเจอร์ปรับแต่งภาพถ่ายดาวเทียมด้วยปัญญาประดิษฐ์ใน Google Earth ทันที หลังพบผู้ใช้งานนำไปสร้างภาพปลอมหรือ Deepfake เหตุผลจากความกังวลด้านความน่าเชื่อถือและการละเมิดนโยบาย
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
- Google Earth ปิดตัวฟีเจอร์แต่งภาพด้วย AI เพียงหนึ่งวันหลังเปิดให้บริการ
- ฟีเจอร์นี้เปิดให้ผู้ใช้แก้ไขภาพดาวเทียมผ่านข้อความ Prompt โดยใช้เทคโนโลยี Nano Banana 2
- แฮกเกอร์และนักค้นคว้าทดลองสร้างภาพหลอกลวง เช่น หลุมบ่อระเบิดและผู้ลี้ภัย
- กูเกิลระบุจะนำฟีเจอร์นี้กลับไปพัฒนามาตรการความปลอดภัยและระบบป้องกันที่รัดกุมยิ่งขึ้น
การเปิดโอกาสให้บุคคลทั่วไปปรับแต่งภาพถ่ายดาวเทียมด้วยคำสั่งข้อความหรือ AI Prompt กลายเป็นประเด็นที่สร้างความกังวลอย่างรวดเร็ว โดยล่าสุดกูเกิล (Google) ได้ทำการระงับและปิดการใช้งานฟีเจอร์ใหม่ภายใน Google Earth ซึ่งเพิ่งเปิดตัวไปเมื่อวันพฤหัสบดีที่ผ่านมา ฟีเจอร์ดังกล่าวอนุญาตให้ผู้ใช้งานสามารถแก้ไขภาพถ่ายดาวเทียมผ่านการป้อนข้อความคำสั่งได้อย่างง่ายดาย
ระบบนี้เปิดทางให้เกิดการสร้างภาพตัดต่อหรือ Deepfake ของโลกความเป็นจริงได้อย่างแนบเนียน ยกตัวอย่างเช่น Henk van Ess จาก Digital Digging ได้ทำการทดลองสร้างภาพโดยเจตนา ด้วยการใส่ภาพผู้อำนวยความสะดวกหรือผู้อพยพใกล้พรมแดนเม็กซิโก รวมถึงภาพหลุมระเบิดใกล้โรงพยาบาลในฉนวนกาซา เพื่อทดสอบช่องโหว่ของระบบ
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
ในวันพฤหัสบดี ทางกูเกิลได้ชี้แจงในเบื้องต้นว่า ภาพที่ถูกสร้างขึ้นผ่านระบบ Nano Banana 2 ใน Google Earth นั้นมาพร้อมกับลายน้ำดิจิทัล (Digital Watermark) และบริษัทยังมีระบบป้องกันการสร้างภาพในหัวข้อที่เป็นอันตรายอีกด้วย แต่ทว่าในวันถัดมา สถานการณ์ได้เปลี่ยนแปลงไปเมื่อกูเกิลออกแถลงการณ์ฉบับใหม่
แถลงการณ์ฉบับใหม่จากกูเกิลระบุว่า เราทราบดีว่าผู้ใช้งานมีความเชื่อมั่นใน Google Earth เสมอมาในฐานะมุมมองที่น่าเชื่อถือของโลก แม้เราจะพบว่าผู้เชี่ยวชาญด้านภูมิศาสตร์ได้นำฟีเจอร์นี้ไปใช้ประโยชน์ในหลากหลายด้าน แต่เราก็พบเช่นกันว่ามีผู้ใช้งานบางรายแชร์ภาพหน้าจอที่สร้างขึ้นซึ่งดูเหมือนจะละเมิดนโยบายของเรา ดังนั้นเราจึงตัดสินใจถอนฟีเจอร์นี้ออกจาก Google Earth ชั่วคราว ระหว่างที่เรากำลังดำเนินการพัฒนาระบบป้องกันและมาตรการควบคุมที่แข็งแกร่งยิ่งขึ้น ทั้งนี้ ภาพที่ถูกสร้างขึ้นจะไม่ปรากฏให้ผู้ใช้อื่นเห็นในหน้าหลักของ Google Earth และมีลายน้ำระบุว่าเป็นภาพจาก AI เสมอ
การที่ฟีเจอร์ AI บนแผนที่โลกถูกถอนออกอย่างรวดเร็วภายในเวลาเพียง 24 ชั่วโมง สะท้อนให้เห็นถึงความท้าทายอันใหญ่หลวงของบริษัทเทคโนโลยีในการควบคุมการใช้งานปัญญาประดิษฐ์เชิงสร้างสรรค์ (Generative AI) โดยเฉพาะเมื่อนำมาผูกติดกับเครื่องมือสาธารณะที่มีผลต่อความน่าเชื่อถือของข้อมูลข่าวสารระดับโลก ความกังวลเรื่องการกระจายตัวของภาพ Deepfake ที่สมจริงเกินไปอาจสร้างความตื่นตระหนกและบิดเบือนข้อเท็จจริงในสถานการณ์ความขัดแย้งระหว่างประเทศได้
ในระหว่างการทดสอบ Henk van Ess ยังได้ชี้ให้เห็นประเด็นสำคัญว่า เขาสามารถใช้คลิปวิดีโอที่สร้างขึ้นจาก Google Earth ไปตบตาเครื่องมือตรวจสอบ AI ของบริษัท Hive ได้สำเร็จ ซึ่งแสดงให้เห็นว่าสื่อที่ถูกสร้างขึ้นด้วย AI เหล่านี้ยังคงสามารถแพร่กระจายออกไปได้แมดจะมีลายน้ำกำกับไว้ก็ตาม โดย van Ess ระบุเพิ่มเติมว่าในการทดสอบของเขานั้น ไม่มีระบบใดปฏิเสธคำสั่ง ไม่มีระบบใดลดทอนความรุนแรง และไม่มีคำแนะนำให้ลองเปลี่ยนคำสั่งแต่อย่างใด
ที่มา: The Verge
พบข้อมูลผิดพลาดในบทความนี้? แจ้งปัญหาบทความนี้
ความคิดเห็น
แสดงความคิดเห็น