Yapay Zekâ Asistanları Bilgi Kaynağı mı, İdeolojik Yönlendirici mi?

Tarafsızlık İddiası ve Gerçeklik Arasındaki Çatışma

Yapay zekâ modellerinin tarafsız birer bilgi kaynağı olduğu yönündeki yaygın kabul, son dönemde yapılan araştırmalarla ciddi biçimde sorgulanıyor. AlgorithmWatch tarafından gerçekleştirilen ve ChatGPT, Gemini, Grok ve Claude gibi önde gelen modelleri kapsayan bir inceleme, bu sistemlerin hassas konularda kullanıcıları nasıl yönlendirebildiğine dair dikkat çekici bulgular sunuyor.

Veri ve Yönlendirme Sorunu

Araştırma, istenmeyen gebelikler üzerine yöneltilen 270 farklı sorunun yanıtlarını inceledi. Bulgulara göre, modellerin %17'sinde kürtaj karşıtı görüşleriyle bilinen 'Profemina' adlı organizasyona yönlendirme yapıldığı tespit edildi. Daha da kritik olanı, yapay zekâ sistemlerinin bu organizasyonların ideolojik duruşlarını kullanıcıya açıklamamasıdır.

Özellikle Almanya özelinde, sistemlerin kullanıcıları yasal zorunluluğu olan danışmanlık sertifikasını verme yetkisi bulunmayan 'Caritas' gibi kurumlara yönlendirmesi, dijital asistanların yasal prosedürler konusunda da yanıltıcı olabileceğini gösteriyor.

Teknoloji Etiği ve Sorumluluk

Teknoloji şirketleri modellerini genellikle 'nötr' olarak tanımlasa da, eğitim verilerindeki önyargıların bu tür kritik sosyal konularda nasıl somut birer yönlendirmeye dönüştüğü açıkça görülüyor. Kullanıcıların, yapay zekâdan aldıkları tavsiyelerin arkasında bir kurumsal denetim veya tarafsızlık filtresi olup olmadığını bilme hakkı vardır.

Karşı görüş olarak, modellerin eğitim verilerindeki çeşitliliğin doğal bir yansıması olduğu savunulabilir. Ancak, sağlık gibi hayati öneme sahip konularda 'çeşitlilik' adı altında yanlış veya eksik yönlendirme yapılması, teknoloji etiği açısından kabul edilebilir bir durum değildir. Şirketlerin, hassas konularda kaynak şeffaflığını artırması ve kullanıcıları yönlendirdikleri kurumların niteliği konusunda bilgilendirmesi bir zorunluluk haline gelmiştir.