Algoritmik Ön Yargı

Algoritmik Ön Yargı Nedir? 

Yapay zeka kusursuzmuş gibi davranıyor. Ama ben bu kadar emin değilim. Çünkü yapay zeka ne kadar gelişmiş olursa olsun, hala insanlardan öğreniyor. Ve insan hatalıysa , ortaya çıkan sonuç da hatasız olamaz. 

Algoritmik önyargı, yapay zekanın bazı insanlara diğerlerinden daha farklı davranması demek. Bunu bilerek yapmıyor. Aslında yapay zeka sadece kendisine gösterilen geçmişe bakıyor. Ama o geçmiş adil değilse, gelecek de adil olmaz. 

Yapay zekaya öğretilen veriler; insanların seçimleri, kararları ve alışkanlıklardan oluşuyor. Eğer geçmişte bile belli insanlar daha çok dışlanmışsa, sistem bunu "normal" kabul ediyor. Bir süre sonra da bu adaletsizlik otomatik hale geliyor. Kimse fark etmiyor ama herkes etkileniyor. 

Mesela bir işe alım sistemi düşünelim. Geçmişte belirli tıp insanlar işe alınmışsa, yapay zeka da "doğru aday" ı buna göre seçiyor. Ya da yüz tanıma sistemleri bazı insanları daha sık yanlış tanıyorsa, bu onların hatası değil, sistemin öğrendiği eksik bilgileri yüzünden oluyor. 

Beni en çok düşündüren şey şu:

Bu kararları artık bir insan değil, bir algoritma veriyor. Üstelik çoğu neden böyle bir karar aldığını bile bilmiyoruz. Çünkü algoritmalar konuşmaz, açıklama yapmaz.

Peki suçlu kim? Yapay zeka mı?

Bence hayır. O sadece ne öğretiliyorsa ona  uygular. Asıl mesele, onu nasıl eğitiğimiz ve nerede durdurduğumuzdur. Yapay zeka adaletsizliği  üretmez, sadece büyütür. 

Sonuç olarak, yapay zeka geleceği şekillendiriyor ama bu geleceğin nasıl olacağı hala bizim elimizde. Eğer dikkatli olmazsak, geçmişte yaptığımız hataları bu kez çok daha güçlü sistemlerle tekrarlarız. Teknoloji ne kadar ilerlerse ilerlesin, adalet hala insanın sorumluluğudur.