Makine öğrenmesi algoritmalarının cinsiyetçiliği: Apple Card

ABD’li bir finans denetçisi firma Apple’ın yeni tip kredi kartı, Apple Card’a kadın ve erkeklere farklı kredi limitler tanımladığı gerekçesiyle soruşturma başlattı.
Şikâyetler Apple Card için kullanılan algoritmaların kadınlara karşı ayrımcı şekilde tasarlandığı şeklinde ediliyor. Şikâyet edilen kanallar arasında Apple’ın kurucu ortağı Steve Wozniak da dâhil oldu.

ABD’nin New York eyaletinin Finans Servisi Departmanı-“Department of Financial Services (DFS)”, Apple Card’ın finansal tabanını işleten Goldman Sachs adlı yatırım bankası ile irtibata geçti.

New York Finans Servisi Departmanı otoriteleri, “kasti ya da değil, herhangi bir ayrımcılık New York yasalarını çiğner” açıklamasında bulundu.

Bloomberg haber ajansının geçtiğimiz Cumartesi günü sunduğu rapora göre; David Heinemeier Hansson adlı bir teknoloji girişimcisi, Apple Card’ı “eşine tanınan kredi kartı limiti, kendisine verilen kredi kartı limitinden 20 kat daha az” gerekçesiyle şikayet etti.

“Ayrımcılık dijital boyuta ulaşmış durumda”

“Ruby on Rails” adlı yazılımı geliştiren teknoloji girişimcisi Hannson, “Ayrımcılık görüleceği üzere dijital boyuta ulaşmış durumda. Apple Card cinsiyetçi bir program.” ifadesini kullandı.

Apple’ın kurucu ortaklarından olan ve 1987 yılında şirketten ayrılmasıyla bilinen Steve Wozniak, Apple Card’ın cinsiyetçiliğini şu sözleriyle ifade etti:

“Bankalar ve diğer borç veren firmalar günümüzde makine öğrenmesi teknolojilerini gerek müşteri takibinde gerek maliyeti azaltması gerekçesiyle kullanıyor. Hesabından para akışına göre kredileri artırabiliyor ancak eşimle eş zamanlı sahip olduğumuz Apple Card’ın eşime benden 10 kat daha az kredi verdiğini farkettik.”

Finans sektöründe makine öğrenmesi algoritmaları nedir?

Makine öğrenmesi algoritmaları finans sektöründe “fraud detection” adı verilen “dolandırıcılık tespiti”, “müşteri ve pazar segmentasyonu-(müşteriyi ve pazarı eğilimlerine göre sınıflandırma)” gibi başlıklar altında; karar ağaçları, nöral bağlantı algoritmaları-“neural netowork”, “regresyon modelleme” gibi olasılık ve istatistik tabanlı algoritmaları kullanarak elde edilen çıktılar olarak tanımlanlanıyor. Bu algoritmalarla daha hızlı sonuçları maksimum olasılıklarıyla ele alınabiliyor, stratejik kararlar hızlı bir şekilde analitik karar destek mekanizmalarıyla hızlandırılıyor.

Günümüzde makine öğrenmesinin işlendiği karar destek mekanizmaları hayatın her yerinde olduğu gibi Bankacılık ve Finans sektöründe de kendini gösteriyor. Artan rekabet, küreselleşme ve yeni düzenleyici koşullar gibi pazarı güçlü bir şekilde etkileyen aygıtlarla birlikte karışıklıklarda artıyor. Bu karışıklıklara karşı da finans şirketleri zaruri bir şekilde karar süreçleri geliştirmenin önemini kavrıyor. Karlılık oranlarının azaldığı, risk seviyelerinin artış gösterdiği bir tür sektör olan finans sektörü için karar alma mekanizmaları şirket için sadece rekabet düzeyinde değil, şirketin ayakta kalması için de mühim bir konu olarak karşımıza çıkıyor.

Makine öğrenmesi algoritmalarıyla nasıl ayrımcılık yapabilir?

Makine öğrenmesi algoritmasının cinsiyetçi olabileceğine dair basit bir algoritma şeması

Makine öğrenmesi algoritmaları temelde en iyi istatistik ve olasılıklara göre hareket etmektedir. Apple Card gibi bir dünya devi ürünü ve ürünü işleten finansal taban olan yatırım bankası Goldman Sachs gibi devlerin “cinsiyet ayrımı” yanlışlık veya hata dolayısıyla yapmış olma ihtimalleri düşük görünüyor.

Bankacılık ve Finans sektöründe kullanılan algoritmalarda “Cinsiyet” özelliği en temel ve basit özellik olarak görülür. Kadınların, erkeklerden çok daha düşük seviyelerde kredi limiti alabilmesi, temelinde olasılık ve istatistik olan bir sistemde anlam ifade etmeyecek kadar zor ve düşük bir ihtimalle kendini gösterebilir. Bu nedenle Apple’a yöneltilen “cinsiyetçi” iddiaları bir gerçeği teşkil ediyor olabilir. Apple Card’ın marka kişiliği bu şekilde “cinsiyetçi kredi kartı” olarak kendini gösterebilir.

Habernediyor.com / Safa Kaçar