AI ก็มีอคติ! เมื่ออัลกอริทึมรับสมัครงานของ Amazon กลับ “ไม่ชอบผู้หญิง”

🤖 เครื่องจักรที่คิดว่าจะช่วยเลือกคนเก่ง กลับเลือกผู้ชายมากกว่า

ในปี 2014 Amazon เริ่มพัฒนาเครื่องมือ AI สำหรับช่วยคัดเลือกผู้สมัครงาน โดยหวังให้ระบบอ่านเรซูเม่จำนวนมหาศาลแล้วจัดอันดับคนที่เหมาะสมที่สุด

ระบบถูกฝึกด้วยเรซูเม่ที่ Amazon ได้รับในช่วงประมาณ 10 ปีที่ผ่านมา แต่ปัญหาเกิดขึ้นตรงข้อมูลที่ใช้ฝึก เพราะผู้สมัครสายเทคโนโลยีในอดีตส่วนใหญ่เป็นผู้ชาย

AI จึงค่อย ๆ เรียนรู้ผิด ๆ ว่า รูปแบบเรซูเม่ของผู้ชายคือรูปแบบของผู้สมัครที่บริษัทต้องการ

⚠️ คำว่า “ผู้หญิง” กลายเป็นจุดติดลบ

เมื่อวิศวกรทดสอบระบบ พวกเขาพบความผิดปกติที่น่าตกใจ

เรซูเม่ที่มีคำว่า “women’s” เช่น การเป็นสมาชิกชมรมหรือกิจกรรมสำหรับผู้หญิง อาจถูกลดคะแนน นอกจากนี้ผู้ที่จบจากวิทยาลัยสตรีบางแห่งก็ถูกจัดอันดับต่ำลงด้วย

ระบบยังเรียนรู้รูปแบบการใช้คำบางชนิดที่พบในเรซูเม่ของผู้ชายมากกว่า ทำให้ผู้สมัครชายมีแนวโน้มได้รับคะแนนสูงกว่า แม้เรื่องเพศจะไม่ได้ถูกใส่เข้าไปเป็นเกณฑ์โดยตรงก็ตาม

🔍 วิศวกรพยายามแก้ แต่ AI ยังหาทางใหม่เจอ

ทีมงานพยายามลบปัจจัยที่ทำให้เกิดความลำเอียงออกจากระบบ แต่ปัญหายังไม่หมด เพราะ AI สามารถใช้ข้อมูลอื่นที่มีความสัมพันธ์กับเพศเป็นตัวแทนแทนได้

เมื่อไม่สามารถรับประกันได้ว่าระบบจะคัดเลือกผู้สมัครอย่างเป็นธรรม Amazon จึงยุติโครงการ เครื่องมือนี้ ไม่ได้ถูกนำไปใช้โดยผู้สรรหาบุคลากรในการตัดสินใจจ้างงานจริง และบริษัทระบุว่าเป็นระบบทดลองที่ไม่เคยถูกนำไปใช้งานในวงกว้าง

💡 บทเรียนที่ทำให้คนทั้งวงการต้องหันกลับมามอง AI

เรื่องนี้น่าสนใจตรงที่ AI ไม่ได้มีอคติขึ้นมาเอง แต่มันเรียนรู้จากข้อมูลของมนุษย์

ถ้าข้อมูลในอดีตสะท้อนความไม่เท่าเทียม ระบบที่เรียนรู้จากข้อมูลเหล่านั้นก็มีโอกาสนำความลำเอียงเดิมกลับมาใช้ซ้ำ เพียงเปลี่ยนจากการตัดสินใจของคนมาเป็นการให้คะแนนด้วยอัลกอริทึม

เทคโนโลยีจึงไม่ได้แปลว่ายุติธรรมเสมอไป เพราะถ้าข้อมูลตั้งต้นมีอคติ ต่อให้เป็น AI ที่ฉลาดแค่ไหน ก็อาจเรียนรู้ความลำเอียงของมนุษย์ได้เช่นกัน