Kurumsal Yapay Zekanın barındırdığı tehlike: Ön Yargı Otomasyonu

 via elamidirius@blogspot


Yapay Zekanın Çalışma Prensibi


Yapay Zeka, büyük miktarda veriyi hızlı ve akıllı algoritmalarla birleştirerek çalışır. Yazılımın verilerdeki desenlerden veya özelliklerden otomatik olarak öğrenmesini sağlar. Yapay Zekâ, bir bilgisayarın ya da bilgisayar sistemine bağlı bir robotun, canlılara benzer şekilde bazı eylemleri yerine getirme kabiliyetini sağlayan bir buluştur. Mevcut veriler üzerinden güçlü olasılıklar üretir. Geçmişi 1940’lı yıllarda Turing Machine’lere kadar giden bu buluş, insanın düşünme yöntemlerini analiz ederek oluşturulmuştur ve yine bu yeteneği analiz ederek geliştirilmektedir.

Başka bir deyişle, yapay zekâ, bilgisayarların ve robotların insan gibi düşünmesini sağlamaktadır. Bu noktada "doğru veri girişi"nin önemi bir hayli büyüktür.

Paylaştığımız videodaki düzenek ince matematik hesaplarıyla kurulmuştur. Ancak bebeğin telefonu çekerek almaya çalışması kurulan düzeneğin "güçlü olasılık içeren" tek parçasıdır.

Tıpkı videoda yer alan düzenekteki parçalar gibi, Yapay Zeka destekli programların güvenirliği, girilen verilerin doğruluğuna bağlıdır. İnce matematik hesapları ve deneme yanılmalarla kurulan mekanik düzeneklerde hata payı neredeyse yoktur. Ancak bebeğin bir an için telefonu çekmekten vazgeçmesi halinde bütün düzenek bozulur. Düzeneği kuranların beklentisi, bebeğin telefonu çekerek mekaniğin sonuna kadar süreceği yönündedir. Öyle de olmuştur. Yani beklenti tutmuştur. Ancak bu düzenekte yer alacak her bebeğin aynı tepkiyi vereceğinin bir garantisi yoktur.

Yapay Zeka destekli programlar da böyledir. İnsan kaynaklı subjektif veri girişleri (beklentiler, ön yargılar, farklı kültürel kodlar, cinsler arasındaki algı farklılıkları, ideolojiler, inanç farklılıkları, etnik kimlikler vb) elde edilecek sonuçları etkiler.

Dijital çağın yükselişe geçtiği günümüzde, bütün vatandaşlara eşit mesafede durması ve rasyonel davranması beklenen devlet kurumları, Yapay Zeka programlarında çok daha titiz çalışmak zorundadırlar. Hele ki Türkiye gibi  kozmopolit bir toplumda. Aksi takdirde devleti yönetenler, ortaya çıkacak tahribatın birinci dereceden sorumlusu olduklarını bilmelidirler.

Tekçi köhnemiş derin devlet aklının yok saydığı Alevilere ve Kürtlere yönelik  ayrımcılığın izlerini şimdiden Emniyet/İstihbarat ve Yargı birimlerinin kurumsal yapay zeka programlarında görmekteyiz. 

YAPAY ZEKA TİTİZLİK GEREKTİRİYOR

Veri konusunda titiz olmak, veri hazırlığında ön yargı taşıyıp taşımadığından emin olmak önemli. Devletlerin ve kurumsal yapıların ayrılmaz parçası haline dönüşen yapay zeka teknolojisinin doğru yönde gelişmesi için Üniversitelerde çözüm odaklı etik derslerin verilmesi gerekiyor.

Yapay Zeka destekli İstihbarat süreçleri ve devlet destekli para-militer yapılanmalar bu konuda ne derece objektif? Bknz: "Türkiye'de Alevi Kürt Sosyalist bir Kadın olmak"


 


Bu blogdaki popüler yayınlar

Henüz 13 Yaşındaki Berfin Demir'in İntiharı Araştırılsın!

Kürt Ulusal Marşı "Ey Reqîp"

Etnik ve mezhepsel faşizme sırtını yaslayanların bizlere verdiği mesaj