เสียงเคาะประตูจากอัลกอริทึม: เมื่อระบบทำนายความเสี่ยงครอบครัวกลายเป็นกล่องดำในสหรัฐฯ
การตรวจสอบระบบประเมินความเสี่ยงเด็กในนิวยอร์กและเพนซิลเวเนียเผยให้เห็นการใช้ AI จัดลำดับความสำคัญครอบครัว โดยปราศจากสิทธิในการตรวจสอบหรือเข้าถึงข้อมูลคะแนนของประชาชน
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
- เสียงเคาะประตูจากเจ้าหน้าที่สวัสดิการเด็กในอเมริกาบ่อยครั้งเริ่มต้นจากคะแนนความเสี่ยงของอัลกอริทึม
- ครอบครัวที่ถูกระบบแจ้งเตือนไม่มีสิทธิ์เข้าถึงคะแนนหรือตรวจสอบปัจจัยที่ทำให้ตนเองเกินเกณฑ์
- รายงานเจาะลึกชี้ว่าระบบคัดกรองสร้างความเหลื่อมล้ำโดยพุ่งเป้าไปที่ครอบครัวผิวสีและผู้มีรายได้น้อย
- เครื่องมือทำนายความเสี่ยงแพร่ขยายจากเพนซิลเวเนียสู่หน่วยงานดูแลเด็กขนาดใหญ่ในนิวยอร์ก
เสียงเคาะประตูบ้านดังขึ้นในช่วงบ่ายแก่ๆ ของวันอังคาร ขณะที่ข้าวบนเตายังเดือดและลูกคนเล็กกำลังทำการบ้านอยู่ที่โต๊ะอาหาร เจ้าหน้าที่เคสเวิร์กเกอร์ในเสื้อโค้ทบางๆ แนะนำตัวและขออนุญาตเข้ามาด้านใน พร้อมอธิบายว่าทางเมืองได้รับรายงานและจำเป็นต้องเข้ามาติดตามสถานการณ์ คุณแม่ซึ่งอาศัยอยู่ในแฟลตเดิมมาเป็นเวลาเก้าปีและไม่เคยมีประวัติถูกสอบสวนเรื่องสวัสดิการเด็กมาก่อน ถามว่าใครเป็นผู้ยื่นรายงานดังกล่าว เจ้าหน้าที่ลังเลเล็กน้อยก่อนจะตอบว่ามันไม่ใช่รายงานโดยตรง แต่เป็นสัญญาณเตือนที่เรียกว่าแฟลต (flag)
เหตุการณ์ทำทำนองนี้เกิดขึ้นซ้ำแล้วซ้ำเล่าหลายพันครั้งต่อปีทั่วเมืองต่างๆ ในสหรัฐอเมริกา เมื่อครอบครัวหนึ่งๆ พบว่าตนเองตกเป็นเป้าความสนใจที่พวกเขาไม่เคยคาดคิดมาก่อน สัญญาณเตือนนี้ไม่ได้มาจากเพื่อนบ้าน ครู หรือกุมารแพทย์ แต่มันมาจากโมเดลคอมพิวเตอร์ ระบบให้คะแนนความเสี่ยงที่ป้อนข้อมูลบริหารจัดการย้อนหลังหลายปี ได้สร้างตัวเลขที่ข้ามเกณฑ์กำหนดภายในแดชบอร์ดซอฟต์แวร์ของสำนักงานคุ้มครองเด็กท้องถิ่น เจ้าหน้าที่คัดกรองเห็นตัวเลขนั้น หัวหน้างานเซ็นอนุมัติ และเจ้าหน้าที่ภาคสนามก็ถูกส่งตัวออกไป ณ จุดใดจุดหนึ่งในห่วงโซ่นั้น มนุษย์ต้องเป็นผู้ตัดสินใจขั้นสุดท้าย แต่การตัดสินใจดังกล่าวถูกกำกับ กรอบ และขับเคลื่อนอย่างเงียบๆ ด้วยผลลัพธ์ที่ไม่มีใครในบ้านหลังนั้นเคยเห็นเลยแม้แต่ครั้งเดียว
ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง
คุณแม่ในแฟลตไม่มีสิทธิ์ที่จะเห็นคะแนนนั้น ไม่มีสิทธิ์รู้ว่าฟีเจอร์หรือตัวแปรใดที่ผลักดันครอบครัวของเธอให้ข้ามเกณฑ์ ไม่มีสิทธิ์ท้าทายตัวแปรเหล่านั้นต่อหน้าผู้ตรวจสอบที่เป็นกลาง และไม่มีสิทธิ์ในทางปฏิบัติที่จะรับรู้ว่าอัลกอริทึมนี้มีตัวตนอยู่จริง
การนำระบบพยากรณ์ด้วยอัลกอริทึมมาใช้ในงานสวัสดิการสังคมสะท้อนให้เห็นปัญหาเชิงโครงสร้างที่ลึกซึ้ง เมื่อข้อมูลทางปกครอง เช่น รหัสไปรษณีย์ หรือความหนาแน่นของบริการในละแวกบ้าน กลายเป็นตัวแทนทางอ้อม (proxy) ของเชื้อชาติและฐานะทางเศรษฐกิจ ทำให้ระบบอัตโนมัติเหล่านี้ซ้ำเติมความเหลื่อมล้ำที่มีอยู่เดิมโดยอ้างความชอบธรรมเชิงเทคนิค ทั้งที่ขาดกระบวนการตรวจสอบที่โปร่งใส
สถานการณ์ของระบบสวัสดิการเด็กในสหรัฐอเมริกาช่วงฤดูใบไม้ผลิปี 2026 กลายเป็นเครือข่ายระบบพยากรณ์ที่ขยายตัวอย่างต่อเนื่อง ซึ่งถูกนำไปใช้ภายในหน่วยงานที่การตัดสินใจสามารถนำครอบครัวเข้าสู่กระบวนการสอดส่องของรัฐ และในกรณีที่แย่ที่สุดคือการพรากลูกออกจากอกพ่อแม่ โดยทำงานนอกเหนือจากสิทธิทางกระบวนการยุติธรรมที่การตัดสินใจสำคัญอื่นๆ ในชีวิตสมัยใหม่พึงมี ครอบครัวที่ถูกขึ้นบัญชีดำจากอัลกอริทึมให้คะแนนเครดิตยังมีช่องทางทางกฎหมายมากกว่าครอบครัวที่ถูกขึ้นบัญชีโดยโมเดลความเสี่ยงด้านสวัสดิการเด็ก ผู้ขับขี่ที่ถูกบันทึกโดยกล้องตรวจจับการจอดรถยังมีความโปร่งใสมากกว่า ผู้เช่าที่ถูกคัดกรองโดยอัลกอริทึมของเจ้าของบ้านยังมีโครงสร้างทางกฎหมายให้โต้แย้งได้ รัฐได้สร้างหนึ่งในระบบการจับคู่รูปแบบที่มีการลุกล้ำสิทธิส่วนบุคคลมากที่สุดในงานบริหารภาครัฐของอเมริกา บนพื้นฐานของกระบวนการพิจารณาที่บางเบาที่สุด
ในปี 2025 สำนักข่าว The Markup ได้เผยแพร่การสืบสวนเกี่ยวกับสำนักงานบริหารจัดการบริการเด็ก (Administration for Children's Services - ACS) ในนครนิวยอร์ก ซึ่งเป็นหน่วยงานที่จัดการรายงานการทารุณกรรมและการละเลยเด็กสำหรับเด็กประมาณ 1.6 ล้านคน การสืบสวนดังกล่าวอาศัยเอกสารภายในและบทสัมภาษณ์เจ้าหน้าที่หน่วยงาน โดยระบุว่า ACS ได้ใช้งานเครื่องมือให้คะแนนความเสี่ยงด้วยอัลกอริทึมเพื่อช่วยตัดสินใจว่าครอบครัวใดควรได้รับการตรวจสอบ เฝ้าระวัง และไต่สวนอย่างเข้มงวดมากขึ้นหลังจากการโทรแจ้งสายด่วน เครื่องมือดังกล่าวซึ่งหน่วยงานนำมาใช้ก่อนหน้านั้นหลายปีโดยแทบไม่มีการถกเถียงในสาธารณะ ได้สร้างคะแนนสำหรับทุกครอบครัวที่เข้าสู่ระบบ และคะแนนนั้นเป็นตัวกำหนดว่ากรณีใดควรถูกยกระดับเป็นการตรวจสอบระดับความสำคัญสูง
นักข่าวจาก The Markup ร่วมกับนักวิจัยทางวิชาการพบว่า ระบบดังกล่าวให้สัญญาณเตือนแก่ครอบครัวผิวสีและครอบครัวที่มีรายได้น้อยในสัดส่วนที่สูงกว่าอัตราการปฏิบัติมิชอบที่ได้รับการยืนยันจริงในประชากรกลุ่มนั้น ความเหลื่อมล้ำดังกล่าวไม่สามารถอธิบายได้ทั้งหมดด้วยข้อมูลที่หน่วยงานอ้างว่าใช้งาน ยังมีตัวแปรอื่นๆ ที่ซ่อนอยู่ซึ่งทำหน้าที่ขับเคลื่อนโมเดลอย่างมีนัยสำคัญ ได้แก่ รหัสไปรษณีย์ ประวัติการติดต่อกับโครงการช่วยเหลือสาธารณะ และความหนาแน่นของบริการในละแวกบ้าน ตัวแปรเหล่านี้ดูเหมือนจะเป็นกลางทางเชื้อชาติ แต่ในทางปฏิบัติแล้วกลับทำหน้าที่เป็นตัวแทนของเชื้อชาติและชนชั้น เนื่องจากเชื้อชาติและชนชั้นในนิวยอร์กถูกฝัง1ไว้อย่างแนบเนียนในภูมิศาสตร์และร่องรอยทางธุรการของความยากจน
"The tool was not deployed in secret. There were public meetings, advisory committees, journalist briefings..."
Allegheny Family Screening Tool Developers
ที่มา: Dev.to
พบข้อมูลผิดพลาดในบทความนี้? แจ้งปัญหาบทความนี้
ความคิดเห็น
แสดงความคิดเห็น