ด้วยกระแสก้าวกระโดดของเทคโนโลยีการเรียนรู้ของเครื่องจักร (machine learning) และการเรียนรู้เชิงลึก (deep learning) ของเอไอ ซึ่งทำให้พัฒนาอัลกอริทึมที่สามารถตัดสินใจได้โดยอัตโนมัติ ส่งผลให้สามารถนำไปใช้ประโยชน์ในปัจจุบันได้อย่างกว้างขวาง แต่ทำอย่างไรเราจะแน่ใจได้ว่า อัลกอริทึมของการตัดสินใจโดยเอไอจะทำงานเพื่อตอบโจทย์มนุษย์อย่างแท้จริงแทนที่จะครอบงำการตัดสินใจของผู้ใช้งานอย่างมีอคติ?
อัลกอริทึม (Algorithm) เป็นคำที่มีมาอย่างยาวนาน ซึ่งหมายถึงกระบวนการหรือชุดคำสั่งในการทำงานอัตโนมัติ โดยในอดีตอาจย้อนไปถึงการวางค่ายกลในพีระมิดโบราณ เพื่อป้องกันการโจรกรรม ซึ่งถือเป็นการออกแบบอัลกอริทึมที่ชาญฉลาดแบบหนึ่ง
ที่ผ่านมา ในการสั่งการคอมพิวเตอร์ให้ทำงานตามที่ต้องการได้นั้น จำเป็นต้องออกแบบอัลกอริทึมให้เป็นชุดคำสั่งเพื่อดำเนินการตามขั้นตอนที่กำหนดไว้ อย่างไรก็ตาม ในปัจจุบัน คำว่าอัลกอริทึมมักถูกใช้วงกว้างในปัญญาประดิษฐ์ โดยเฉพาะอัลกอริทึมที่สร้างขึ้นมาจากข้อมูลผ่านกระบวนการเรียนรู้ของเครื่องจักร (machine learning) และการเรียนรู้เชิงลึก (deep learning)
บ่อยครั้งที่อัลกอริทึมสมัยใหม่ถูกใช้ในการคาดการณ์อนาคต เช่น คาดการณ์กลุ่มเป้าหมายลูกค้าที่น่าจะซื้อสินค้าชนิดใหม่ คาดการณ์ภาพยนตร์ที่ผู้ใช้น่าจะชอบ หรือคาดการณ์ว่าอีเมล์ไหนจะเป็นสแปม เป็นต้น
การพัฒนาเทคโนโลยีในช่วงที่ผ่านมา ส่งผลให้เราสามารถใช้ประโยชน์จากข้อมูลขนาดใหญ่ เพื่อตอบสนองความต้องการให้ตรงเป้าหมายผู้ใช้มากขึ้น ช่วยการตัดสินใจบนพื้นฐานของข้อมูลให้เป็นไปอย่างมีประสิทธิภาพ
อย่างไรก็ตาม เมื่อกระบวนการตัดสินใจกลายเป็นรูปแบบระบบอัตโนมัติมากขึ้น โดยมีอัลกอริทึมช่วยตัดสินใจอยู่ข้างใน เราจึงจำเป็นที่ต้องตระหนักและระมัดระวังว่า ผลการตัดสินใจที่เอไอให้ออกมานั้นสมเหตุสมผลและมีอคติหรือไม่?
หน่วยงานด้านสิทธิมนุษยชนแห่งสหภาพยุโรปได้ตั้งคำถามหลักว่า “อะไรจะเกิดขึ้นหากอัลกอริทึมมีอคติและเลือกปฏิบัติกับประชากรบางกลุ่มในสังคม อาทิ แรงงานข้ามชาติ” ซึ่งส่งผลต่อการเลือกปฏิบัติในกระบวนการตัดสินใจและส่งผลกระทบต่อชีวิตคน
เหตุผลหลักของการเกิดอคติในอัลกอริทึมมาจากระบบเหล่านี้ถูกคิดค้นขึ้นโดยมนุษย์ จึงมีความเป็นไปได้สูงที่ระบบจะถูกพัฒนาไปสู่การเลือกปฏิบัติ โดยอคติอาจเกิดจากการส่งผ่านอคติของผู้ออกแบบอัลกอริทีมไปสู่ระบบ หรืออาจเกิดจากกระบวนการเรียนรู้ของเครื่องจักร (machine learning) ที่เรียนรู้จากข้อมูลกลุ่มประชากรเฉพาะในบางกลุ่ม ส่งผลให้อัลกอริทึมที่ได้ออกมามีอคติไปด้วย เนื่องจากเรียนรู้จากข้อมูลมาไม่ครอบคลุมเพียงพอ
หนึ่งในกรณีศึกษาสำคัญเกี่ยวกับผลเสีย ที่เกิดจากอคติโดยอัลกอริทึมมาจากประเทศในสหภาพยุโรป เมื่อระบบภาษีภาครัฐนำอัลกอริทึมที่พัฒนาขึ้นมาช่วยระบุรายชื่อพ่อแม่ผู้ปกครอง ที่เข้ารับสวัสดิการรัฐด้านการเลี้ยงดูบุตร แต่ระบบได้ส่งรายชื่อผิดพลาดกว่า 26,000 ครอบครัว โดยใช้พื้นฐานรายชื่อจากผู้อพยพเป็นหลัก ต่อมาได้บังคับทางกฎหมายให้พ่อแม่กลุ่มนี้ต้องจ่ายเงินคืนก้อนใหญ่ให้กับภาครัฐ ซึ่งนำมาซึ่งความกังวลทั้งด้านการเงินและทางจิตใจของแต่ละครอบครัว
หน่วยงานด้านการปกป้องข้อมูลส่วนตัว สรุปจากหลักฐานทั้งหมดว่า กระบวนวิเคราะห์ข้อมูลของระบบปัญญาประดิษฐ์ที่ใช้นั้นมีแนวโน้มเลือกปฏิบัติกับประชากรแรงงานผู้อพยพ
เมื่อวิเคราะห์ลงลึกไปมากขึ้นว่า ทำไมระบบเหล่านี้ใช้อคติประกอบการตัดสินใจ คำตอบส่วนหนึ่งมาจากผลของการเลือกปฏิบัติที่ฝังรากลึกในสังคม ทั้งในเชิงมุมมองความคิดและมิติสังคมวัฒนธรรม จึงสะท้อนออกมาในข้อมูลและแนวทางในการพัฒนาระบบ
ถึงแม้ว่า กระบวนการตัดสินใจโดยอัลกอริทึมมักถูกตีความว่า มีความเป็นกลางและมีหลักเป็นเหตุเป็นผลจากข้อมูลที่เกี่ยวข้อง
แต่เมื่อใดก็ตามที่หากมีอคติของมนุษย์ สะท้อนอยู่ในข้อมูลระหว่างการตัดสินใจของมนุษย์ สิ่งเหล่านี้ก็จะถูกส่งต่อมายังเทคโนโลยีด้วยเช่นกัน
ตัวอย่างชนิดของอคติในอัลกอรึทึม เช่น อคติจากลักษณะทางกายภาพ สะท้อนแนวทางการปฏิบัติที่แตกต่างกันจากลักษณะทางกายภาพที่ไม่เหมือนกัน อาทิ การเลือกปฏิบัติต่อแรงจูงใจด้านอาชญากรรมผ่านการตัดสินของลักษณะทางกายภาพ เช่น เชื้อชาติ ศาสนา สีผิว และเพศสภาพ ซึ่งอาจมีอคติที่เกิดขึ้นจากการเหมารวมในสังคมในอดีต
อคติจากความแตกต่าง อคติประเภทนี้มาจากการทำงานของระบบอัลกอรึทึมที่ใช้ความพยายามในการแบ่งแยกประเภทสิ่งของและวัตถุที่มีรูปร่างแตกต่างกัน ซึ่งในหลายกรณีนำไปสู่ความผิดพลาดของการตัดสินใจหรือการคาดการณ์ได้
อคติเชิงสถิติ สะท้อนความแตกต่างเชิงระบบระหว่างขอบเขตของกลุ่มศึกษากับตัวเลขที่แท้จริง มักจะเกิดขึ้นเมื่อข้อมูลที่มีไม่ได้ถูกนำมาใช้ในการวัดประเมินผลต่อประเด็นที่ต้องการจะประเมิน
อาทิ มูลค่าของผลิตภัณฑ์มวลรวมในประเทศต่อหัว อาจไม่ใช่ตัวชี้วัดที่ดีพอในการวัดประเมินมาตรฐานความเป็นอยู่ของคนในประเทศ เพราะข้อมูลดังกล่าวไม่ครอบคลุมความเหลื่อมล้ำของการกระจายรายได้
นอกจากนี้ ข้อมูลประมาณการและผลเชิงสถิติอาจไม่ได้สะท้อนกลุ่มตัวแทนประชากรกลุ่มเป้าหมาย เช่น จำนวนกลุ่มประชากรเพศชายถูกเลือกมาใช้ในการศึกษามากกว่าก็อาจมีแนวโน้มส่งผลต่ออคติความต่างของเพศสภาพดังกล่าว
การทำความเข้าใจและรู้เท่าทัน “อคติ” ที่ฝังอยู่ในอัลกอริทึมจะช่วยเตรียมความพร้อมให้กับภาครัฐ นักธุรกิจและประชาชนได้เข้าใจถึงความเสี่ยงจากอคติและการเลือกปฏิบัติ ที่อาจเกิดขึ้นจากการใช้เทคโนโลยีเอไอโดยไม่ทันรู้ตัว ซึ่งจะเป็นรากฐานที่สำคัญต่อการทำงานที่เชื่อมโยงกับอัลกอริทึมที่จะมีมากขึ้นในอนาคต
แหล่งข้อมูล