ทำเนียบขาวเปิดตัว America.gov แชทบอต AI ขับเคลื่อนด้วย Gemini

เมื่อวันอัปเดตข่าว ประธานาธิบดีโดนัลด์ ทรัมป์ ได้ประกาศว่าทำเนียบขาวกำลังเปิดตัวระบบแชทบอตปัญญาประดิษฐ์ในชื่อ America.gov ซึ่งถูกออกแบบมาเพื่ออำนวยความสะดวกให้ประชาชนสามารถค้นหาบริการและข้อมูลต่างๆ ของรัฐบาลได้อย่างสะดวกรวดเร็วยิ่งขึ้นกว่าเดิม

ในส่วนของการพัฒนานั้น ทาง Google ได้ออกมา confirming ว่าบริษัทเป็นหนึ่งในพาร์ทเนอร์สำคัญสำหรับการเปิดตัวครั้งนี้ และมีการนำโมเดล AI อย่าง Gemini เข้ามามีส่วนร่วมเบื้องหลัง อย่างไรก็ตาม ยังไม่มีความชัดเจนแน่ชัดว่าจะมีบริษัทผู้พัฒนา AI รายอื่นเข้าร่วมแจมด้วยหรือไม่ในโครงการดังกล่าว

แม้ว่าการทำให้บริการของรัฐเข้าถึงและใช้งานได้ง่ายขึ้นจะเป็นเป้าหมายที่มีประโยชน์อย่างมาก แต่การพึ่งพาแชทบอต AI นั้นก็สร้างความกังวลไม่น้อย เนื่องจากโมเดลภาษาขนาดใหญ่ (LLMs) ยังคงมีความบกพร่องและมีแนวโน้มที่จะเกิดอาการภาพหลอน (hallucination) หรือการให้ข้อมูลที่ผิดเพี้ยนแต่น่าเชื่อถืออยู่เสมอ

ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง

สำนักข่าว CNN เพิ่งรายงานกรณีตัวอย่างที่กองทัพสหรัฐฯเกือบจะเปิดฉากปฏิบัติการทางทหารติดอาวุธต่อเรือจีน เพราะเข้าใจผิดว่าเรือลำดังกล่าวบรรทุกชิ้นส่วนอาวุธนิวเคลียร์ ก่อนจะยกเลิกภารกิจได้ทันท่วงทีหลังพบว่าภัยคุกคามดังกล่าวนั้นเป็นเพียงอาการภาพหลอนของ AI เท่านั้น