Profesyonel ve kişisel yaşamlarımızda, işe alımdan banka kredimizin onaylanmasına, sesli asistanlardan dil çevirilerine kadar pek çok alanda yapay zeka ile günlük olarak etkileşimde bulunuyoruz. Yapay zeka yaratımları ve uygulama alanları da büyük bir hızla artış gösteriyor. Yani yapay zeka, gelecekte günlük hayatımızın her alanında daha da önemli bir rol oynayacak. Peki yapay zeka yaratımları cinsiyet eşitsizliğini özellikle de dünya nüfusunun yarısından fazlasını temsil eden kadınları nasıl etkiliyor?
Yapay zeka (Artificial Intelligence, AI) algoritmalar adı verilen bir dizi kuralı kullanarak veri kümelerini sınıflandırmak, analiz etmek ve bunlardan tahminler yapmak için bilgisayarların kullanılmasını içerir. Yapay zeka algoritmaları, kalıpları tanımlayabilmeleri, tahminlerde bulunabilmeleri, eylemler önerebilmeleri, alışılmadık durumlarda ne yapılacağını belirleyebilmeleri, yeni verilerden öğrenebilmeleri ve böylece zamanla gelişmeleri için büyük veri kümeleri kullanılarak eğitilir. Bir AI sisteminin deneyim yoluyla otomatik olarak gelişme yeteneği, “makine öğrenimi” olarak bilinir. Derin öğrenme ise makine öğrenme yöntemidir, verilen bir veri kümesi ile çıktıları tahmin ederek yapay zekayı eğitmeye imkan tanır. Bir grup bilim insanı, makine öğrenmesi ve derin öğrenme yöntemleri ile geliştirilen yapay zeka yaratımların, toplumsal cinsiyet eşitsizliğini yeniden yapılandırdığını düşünürken bir diğer grup bilim insanı ise yapay zeka yaratımlarından yararlanarak cinsiyet eşitsizliğini azaltabileceğimizi savunuyor.
Bu yazımda öncelikle yapay zekanın cinsiyet eşitsizliğini gözler önüne seren ve “sınıfta kalan” bazı uygulamalarından, sonrasında ise alınan önlemlerden ve cinsiyet eşitsizliğini azaltmaya yönelik geliştirilen bazı yapay zeka programlarından bahsedeceğim.
Microsoft’un Cinsiyetçi ve Irkçı Yapay Zekası Tay
Microsoft tarafından 2016 yılında geliştirilen Twitter sohbet botu Tay.AI, “TayandYou” isimli Twitter hesabından insanlarla etkileşime girmiş ve inanılmaz yanıtlar vererek tüm dünyayı şaşkına çevirmişti. Verdiği ırkçı, cinsiyetçi ve küfürlü cevaplarla başlangıcından tam 16 saat sonra sonlandırılan proje, o dönem yapay zekada karşılaşılan ırkçılık ve cinsiyetçilik problemlerini göz önüne sermişti.
Apple’ın Cinsiyetçi Emoji Önerme Sistemi
2018’de iPhone kullanıcıları, klavyeden ‘CEO’ kelimesini tuşladıklarında, telefon “iş adamı” isimli emojiyi önererek yapay zekanın cinsiyetçi bir tutum takınabileceğini bizlere göstermişti. Apple, daha sonra yayınlanan bir güncellemeyle bu problemi çözmüş ve kullanıcılarına bu tür öneri durumlarında cinsiyet seçeneği sunmuştu.
Google Translate’in Cinsiyetçi Çeviri Sistemi
Daha önceki sürümlerinde “O bir hemşire.” cümlesini “She is a nurse.”, “O bir doktor.” cümlesini “He is a doctor.” şeklinde çeviren Google Translate, bizlere yapay zekanın cinsiyetçi olabileceğini bir kez daha göstermişti. 2019 yılında, Google Translate’e gelen yeni özellikle birlikte artık Türkçe dilinden eril ve dişil ayrımı yapılan dillere çevirilerde cinsiyet dikkate alınarak kullanıcılara farklı çeviri seçenekleri sunulacağı duyurulmuştu. Son sürümlerde çeviriler cinsiyet dikkate alınarak yapılmaya çalışılsa da bazı durumlarda bu tam olarak sağlanabilmiş değil.
AI Botları ve Ses Asistanları
Yapay zekanın (AI) birçok alanda hızlı ve geniş ölçekte benimsenmesinin bir göstergesi olarak dünya yakında insanlardan daha fazla ses asistanına sahip olabilir. 2010’larda modern, yapay zeka destekli sesli asistanların kitlesel tüketici pazarına ulaşması ile başlayan ve 2011’de Apple’ın Siri’si ardından Amazon’un Alexa’sı, Google Assistant ve Microsoft’un Cortana’sı ile devam eden ses asistanlarının 2023 yılına kadar 8 milyar cihaza ulaşması bekleniyor.
Alexa, Cortana, Siri ve Google Assistant başlangıçta kadınlara özgü varsayılan seslerle başlatıldı ancak dördü de o zamandan beri güncellendi. Alexa’nın tek evrensel sesi hala kadın sesi ancak kullanıcılar sınırlı özellikler için erkek ünlüler dahil olmak üzere ünlü sesleri satın alma seçeneğine sahip, öte yandan Cortana’ya erkek sesi seçeneği 2020 yılının başlarında eklendi ancak varsayılan kadın sesi korundu. Yani, ilk başlarda kullanılan itaatkâr ve saygılı kadın seslerinin yarattığı etki ile cinsiyet eşitsizliğinin güçlendiği algısı bu gelişmeler ile yıkılmaya çalışılıyor. Ayrıca, bu bağlamda atılan tek adım ses seçenekleri ile sınırlı değil. 2017 ve 2020 yıllarında yapılan “Cinsel veya Cinsiyet Temelli Tacize Karşı Sesli Asistan Yanıtları” çalışması da cinsiyet temelli söylemlere karşı ses asistanlarının geliştirilmeye çalışıldığını doğrular niteliktedir.
İş Alımları İçin Geliştirilen Yapay Zeka Programları
İş alımlarını otomatik hale getirmek amacıyla geliştirilen yapay zeka destekli programlar denilince aklımıza Amazon’un 2014 yılında özel olarak kurduğu bir ekiple geliştirdiği programı geliyor. Ancak, programın kadınlara karşı ön yargılı davrandığı tespit edilince, Amazon bu girişimini 2017 yılında rafa kaldırdı. Buna sebep olan ise programın kullandığı Amazon’un 10 yıllık geçmişindeki işe alımlarla ilgili veri tabanında (ve teknoloji sektörünün genelinde) erkeklerin hakimiyetinin bulunmasıydı. Bu noktada, teknoloji devleri (Amazon, Microsoft, Apple, Google, Facebook) arasında toplam kadın çalışan yüzdesinin en yüksek olduğu şirketin %40 ile Amazon olduğunu belirtmek istiyorum.
Avrupa’nın en büyük yazılım şirketi SAP, yaşanan bu durumu göz önüne alıp, şirketlerin bu ön yargılarını ortadan kaldırmayı amaçlayan Business Beyond Bias adlı yeni bir teknolojik girişim geliştirdi. Proje, iş tekliflerinin reklamlarında her türlü cinsiyetçi dili ortadan kaldırmak için yapay zeka (AI) kullandı. Öte yandan, makine öğreniminin kullanılması nedeniyle, maaşları cinsiyetten bağımsız olarak görev ve sorumluluk düzeyine göre ayarlayarak ideal adaylar bulundu. Ayrıca, Business Beyond Bias, farklı departmanlardaki cinsiyet çeşitliliğini görselleştirmeye ve verileri pazarla karşılaştırmaya izin veriyor.
Yapay zeka sadece iş alımlarında değil, iş tanımlarının daha kapsayıcı olması noktasında da “akıllı yazı editörü Textio” ile karşımıza çıkıyor. Dil kalıplarının markayı nasıl yansıttığı konusunda profesyonel destek sağlayan Textio, kullandığı kapsayıcı dil sayesinde bir yayınevi şirketinin işe aldığı kadın personel sayısını bir önceki alımına göre yüzde 10 arttırdı.
Ön yargıları Takip Edip Düzeltmek de Yine Yapay Zekanın Elinde!
Chicago Üniversitesi’nin Veri Bilimi ve Kamu Politikası Merkezi’nin Aequitas projesi ve IBM’in Fairness 360 adlı yapay zeka algoritması, ön yargıları takip edip düzeltmek için açık kaynaklı yazılımlar sunuyor. Bu yazılımlar sayesinde, yapay zeka programlarının kullanacağı verilerin cinsiyetçi ve ırkçı olmalarından kaçınılması bekleniyor.
Aequitas (Genitif aequitatis yani Latince adalet, eşitlik, uygunluk, simetri veya adalet kavramıdır.) projesi, makine öğrenimi geliştiricileri, analistler ve politika yapıcılar için makine öğrenimi modellerini ayrımcılık ve ön yargı açısından denetlemek ve tahmine dayalı risk değerlendirme araçlarını geliştirme ve dağıtma konusunda bilgili ve adil kararlar almak için açık kaynaklı bir ön yargı denetim araç seti olarak kullanılırken Fairness 360 (Adalet 360) adı verilen araç, yapay zekanın ön yargılara sahip olup olmadığının belirtilerini tarayarak gerekli düzenlemeler konusunda önerilerde bulunuyor.
Ayrıca; Google, yapay zeka sistemini ayrımcılık ve ırkçılıktan korumak için TCAV (Testing With Concept Activation Vectors) adını verdiği yeni bir sistemi deniyor. Microsoft ve Facebook da benzer ön yargı tespit araçlar geliştirdiklerini açıkladılar.
İncelediğimiz örnekler doğrultusunda açıkça görebileceğiniz gibi yapay zeka yaratımları kullandıkları verilerden kaynaklı olarak, ilk başlarda cinsiyet uçurumunu arttırıcı yönde bir etki yaratsalar da bu etkiyi yine başka yapay zeka uygulamaları ve yeni sürümler yeniyor. Bu bağlamda yapay zeka, cinsiyet eşitsizliğine karşı bir tehdit değil ancak durumu değiştirebilecek ve bizi her alanda olduğu gibi geliştirecek büyük bir koz olabiliyor. Görünen o ki yapay zeka hayatımızın her alanında köklü değişikliklere yol açacak. Bu değişimleri ayrımcılıktan, ırkçılıktan ve kötüden uzak tutmak ise bizim elimizde. Unutmayın ki değişimi kucaklamamanız yıkım demektir.
Saygılarımla,
Sıla HAYIRLI
PharmaIno Marketing Intern
Ankara Üniversitesi Eczacılık Fakültesi
KAYNAKÇA
- https://www.brookings.edu/research/how-ai-bots-and-voice-assistants-reinforce-gender-bias/
- https://atif.sobiad.com/index.jsp?modul=makale-detay&Alan=sosyal&Id=83Ole3MBu-adCBSEKCm3
- https://www.repository.cam.ac.uk/handle/1810/294360
- https://dl.acm.org/doi/abs/10.1145/3434780.3436658
- https://www.aa.com.tr/tr/bilim-teknoloji/google-yapay-zekanin-ayrimciligina-savas-aciyor/1474902
