Yapay zekâ modellerinin, hizmet sektöründe cinsiyete dayalı taraflı yanıt verdiği tespit edildi

İngiltere’de yapılan araştırmada, yapay zekâ destekli büyük dil modellerinin (LLM) sosyal hizmet sektöründe kadın ve erkeklerin ihtiyaçlarına taraflı yanıtlar verdiğini tespit etti.

The Guardian’ın haberine göre, Londra Ekonomi ve Siyasal Bilimler Okulundan (LSE) araştırmacılar, 617 yetişkin sosyal hizmet kullanıcısının gerçek vaka notlarını büyük dil modellerine yükledi.

Vakalardaki cinsiyetleri değiştirip birkaç kez yapay zekâ sistemlerine yükleyen araştırmacılar, inceledikleri 29 bin 616 çift özette kadın ve erkek vakalara verilen yanıtları arasındaki farkı inceledi.

Örneklerden birinde, Google’ın Gemma yapay zekâ modelinden istenen bir özette, “Bay Smith, 84 yaşında yalnız yaşayan ve karmaşık tıbbi geçmişi olan, hizmet paketi olmayan ve yetersiz hareketliliği olan birisi.” şeklinde ifade yer aldı.

Aynı vaka, cinsiyeti değiştirilerek özetlendiğinde araştırmacılar, “Bayan Smith, 84 yaşında yalnız yaşıyor. Kısıtlamalarına rağmen bağımsız ve kişisel bakımını yerine getirebilen birisi.” yanıtını aldı.

Bir diğer örnekte yapay zekâ modelinin erkek kullanıcının “topluma erişemediği” yanıtını alan araştırmacılar, aynı vaka kadın kullanıcı olarak belirtildiğinde “Günlük aktivitelerini yerine getirebilir.” şeklinde sınıflandırıldığını gördü.

Araştırmacılar, kullanılan yapay zekâ modelleri arasında Gemma’nın cinsiyete dayalı farklı yanıtlar verdiğini, Meta’nın LLaMA 3 modelinin böyle bir ayrım yapmadığını gözlemledi.

Araştırmacılar, yapay zekâ sisteminde kadın ihtiyaç sahiplerinin “daha ciddi olmayan” terimlerle anlatıldığını, erkek ihtiyaç sahiplerinin ise “engelli, karmaşık” gibi daha ciddi terimlerle ifade edildiğini tespit etti.

Kadınların ihtiyaçlarının karşılanmasında eşitsizlik riski

Araştırma yazarlarından Dr. Sam Rickman yaptığı açıklamada, yapay zekânın, kadınların ihtiyaçlarının karşılanmasında eşitsizliğe yol açabileceğini dile getirdi.

Rickman, “Bu modellerin yaygın kullanıldığını biliyoruz ve farklı modellerde taraflılık ölçümünde ciddi fark tespit etmemiz endişe verici. Google’ın modeli özellikle kadınların fiziksel ve ruh sağlığını erkeklerinkine göre önemsiz gösteriyor.” ifadelerini kullandı.

Halihazırda sektörlerde hangi yapay zekâ modellerinin kullanıldığının bilinmediğini belirten Rickman, kişilerin belirlenen ihtiyaçlarına göre hizmet alabildiğine dikkati çekerek bu taraflılığın, kadınların daha az hizmet alabilmesine yol açabileceğine dikkati çekti.

Öte yandan araştırmada, dil modellerinde uzun süreli hizmete yönelik taraflılığın ölçülmesinin zorunlu hale getirilmesi gerektiği vurgulandı. (AA)

 
 
 
 
 

 
 

 
 

 
 
 
 
 
 
 
 

Related Posts

Avrupa’nın artık devasa bir Mars paraşütü var

Avrupa Uzay Ajansı ESA, Mars yolculuklarından sora gezegene iniş için kullanılabilecek özel bir paraşüt tasarladı ve bu devasa paraşütü başarıyla test etti.

Ay toprağından su ve oksijen üretildi

Bilim insanları, yalnızca Güneş ışığını kullanarak Ay yüzeyinden su elde etmeyi başardı. Bu su, solunabilir oksijen ve roket yakıtı üretiminde kullanılabiliyor. Yeni yöntem, Ay’da kalıcı yaşam senaryolarını daha gerçekçi hale getirebilir.

Siber saldırı ortalığı birbirine kattı: Dev şirketler ve kamu kurumları hedefte

Microsoft’un yaygın kullanılan sunucu yazılımındaki güvenlik açığından faydalanan hackerlar, ABD’deki kamu kurumları ve dünyadaki özel şirketleri hedef alan siber saldırılar düzenledi. Washington Post’un (WP) haberine göre ABD’li yetkililer ve …

DuckDuckGo yeni filtre özelliğini tanıttı

Gizliliğe verdiği önemle tanınan DuckDuckGo, kullanıcılarının geri bildirimleri doğrultusunda görsel arama sonuçlarında yapay zekâ tarafından üretilmiş görselleri gizleme seçeneği getirdi. Tarayıcı üzerinden bir arama yaptıktan sonra Görseller …

Türk mühendislerden ‘akıllı kümes’ hamlesi: Salgınlar robotla önlenecek

Çanakkale Onsekiz Mart Üniversitesi (ÇOMÜ), tarımda dijitalleşmenin somut örneklerinden biri olan tamamen otonom ve yapay zeka destekli “BroBot” projesiyle kümes hayvancılığında devrim niteliğinde bir çalışmaya imza attı. Proje sayesinde tavuk hastalıkları erken aşamada tespit edilerek, olası salgınlar önlenebilecek.

BEBKA’dan ‘Karanlık Gökyüzü Gözlem Etkinliği’ne davet

Serhat KAYA – Bilecik / Yeniçağ 25-27 Temmuz tarihlerinde yapılacak ‘Karanlık Gökyüzü Gözlem Etkinliği’ ile gökyüzü meraklıları Harmankaya’da buluşuyorIşık kirliliğinden uzak eşsiz bir doğa harikası olan Harmankaya Kanyonu Tabiat Parkı’nda yıldızlara …