Bu derleme, yapay zekanın toplumsal etkilerini çeşitli açılardan incelemektedir. Daron Acemoğlu'nun yapay zekanın otomasyon, eşitsizlik ve demokratik süreçler üzerindeki potansiyel olumsuz etkilerine dair ana argümanı, birçok yazar tarafından ele alınmaktadır. Yazarlar, yapay zekanın iş gücü piyasasına etkilerini, otomasyonun işsizliğe yol açıp açmayacağı veya ücretleri düşürüp düşürmeyeceği gibi konuları tartışmaktadır. Ayrıca, yapay zekanın sağlık, adalet ve sosyal hizmetler gibi alanlarda yaratabileceği önyargıları ve etik sorunları da vurgulamaktadırlar. Genel olarak, makaleler yapay zekanın gelişim yönünün önceden belirlenmediğini ve insan odaklı bir yaklaşımla, toplum için faydalı olacak şekilde yeniden şekillendirilebileceğini savunmaktadır.
Bu brifing dokümanı, "Yapay Zekayı Yeniden Tasarlamak" başlıklı çeşitli kaynaklardan alınan metinleri inceleyerek yapay zekanın (YZ) toplumsal, ekonomik ve etik etkileri üzerine odaklanmaktadır. Kaynaklar, YZ'nin işgücü piyasası üzerindeki etkilerinden, teknolojinin gelişim yönüne, demokratik yönetimle ilişkisine ve etik sorumluluklara kadar geniş bir yelpazede tartışmalar sunmaktadır.
Ana Temalar ve Önemli Fikirler
1. YZ'nin İşgücü Piyasası Üzerindeki Etkisi ve Eşitsizlik:
- Ücret Duraklaması ve Eşitsizliğin Artışı: 1970'lerin sonlarından bu yana ücret artışları önemli ölçüde yavaşlamış ve bu artışlar eşit şekilde paylaşılmamıştır. Yüksek nitelikli işçilerin (üst yüzde onluk dilim veya lisansüstü mezunlar) ücretleri artmaya devam ederken, lise ve altı mezunların gerçek kazançları düşmüştür. "Yapay Zekayı Yeniden Tasarlamak 1" sayfasında belirtildiği gibi: "1970 sonlarından beri yaşanan ücret artışı ondan önceki otuz yılda olduğundan çok daha yavaş olmuştur. Ve bu ücret artışı, kesinlikle paylaşılan bir artış olmamıştır."
- Otomasyonun Rolü ve İşlerin Niteliği: YZ uygulamaları, başlangıçta düşük ücretli işçilerin gerçekleştirdiği tekrarlayan ve basit bilişsel görevlerin yerini almıştır. Ancak, YZ'nin muhasebe, finans, tıbbi tanı ve orta düzey yönetim gibi daha nitelikli görevleri de etkileyeceği öngörülmektedir.
- "Hayalet İşçiler" ve Algoritmik Sömürgecilik: YZ sistemlerini eğitmek için kullanılan büyük veri yığınları, çoğunlukla iş kanunlarının ve işçi haklarının sınırlı olduğu bölgelerde çalışan "hayalet işçiler" tarafından eklenmektedir. Bu durum, "algoritmik sömürgecilik" olarak adlandırılmakta ve insanları "otomatik makineler gibi görüp onların haklarını, güvencelerini ve kaynaklara erişimlerini engelleyerek tüm insanların hakkı olan saygıyı ortadan kaldırdığı" belirtilmektedir (Shakir Mohamed, William S. Isaac & Marie-Therese Png, sayfa 51).
- İşyeri Dönüşümü ve Gözetim: YZ, işyeri deneyimini, özellikle de olumsuz yönde dönüştürmektedir. Otomatik sistemler, belirsiz çalışma saatleri ve artan çalışan riskleri ile optimal istihdam programları oluşturmaktadır. Amazon depolarındaki işçiler örneği, acımasız verimlilik kotaları ve sürekli gözetim altında çalıştıklarını göstermektedir: "İşçiler her dakika izlenmekte, her görev için süre tutulmaktadır" (sayfa 37).
- Otomasyon ve Verimlilik Paradoksu: Kaynaklar, otomasyonun yaygınlığına rağmen genel verimlilik artışının yavaş olduğunu belirtir. Robert Solow'un bilgisayarlar hakkındaki "verimlilik istatistikleri hariç her yerdeler" sözü günümüz YZ için de geçerli görülmektedir.
2. YZ'nin Gelişim Yönü ve Yeniden Tasarım İhtiyacı:
- Otomasyon Odaklılık: YZ araştırmalarının büyük çoğunluğu, işleri otomatikleştirmeye odaklanmaktadır. Ancak Acemoğlu ve diğerleri, bunun kaçınılmaz olmadığını ve YZ'nin "insanları tamamlayabileceği birçok yeni alan" olduğunu vurgulamaktadır (Yapay Zekayı Yeniden Tasarlamak 19).
- İnsanları Tamamlayıcı YZ: YZ'nin insan verimliliğini artırmanın en güçlü yolunun, işçilere yönelik yeni görevler ve faaliyetler yaratmak olduğu savunulmaktadır. Eğitim, sağlık ve eğlence sektörleri bu potansiyelin olduğu alanlar olarak gösterilmektedir. Örneğin, YZ öğretmenlerin materyallerini öğrencilerin ihtiyaçlarına göre uyarlamasına yardımcı olabilir, böylece "yeni öğretim görevleri oluşturabilir ve süreç içerisinde öğretmenlerin verimliliğini ve onlara olan talebi artırabilir" (Yapay Zekayı Yeniden Tasarlamak 19).
- Salt Otomasyoncu Yaklaşımın Sınırları: Lama Nachman, salt otomasyoncu yaklaşımın sınırları olduğunu belirtir: değişen koşullara uyum sağlayamaması, hatalara yatkın olması ve "kara kutu" çözümleri üretmesi. Bunun yerine insan-YZ işbirliği vurgulanmaktadır. "Salt otomasyoncu yaklaşımın elbette sınırları vardır... öğrenme amacı dışındaki durumlarla karşılaştığı için pek çok hata ortaya çıkar" (Salt Otomasyoncu Yaklaşımın Ötesinde, sayfa 61).
- Tasarım ve Gelişimde Paydaş Katılımı: Gelecekte YZ gelişiminin sadece kâr amacı güdenlerin tekeline bırakılmaması gerektiği, tüm paydaşların kararlara katılımının önemli olduğu vurgulanmaktadır. "Teknoloji, hiçbir zaman kendi kendini geliştirmez veya kullanmaz. Teknoloji, çeşitli siyasi, sosyal ve ekonomik bağlamlarda daima ve sadece insanlar tarafından geliştirilir ve kullanılır" (Yapay Zekanın Geçmişi ve Geleceği 128).
- "Üretmeme" Seçeneği: Bazı YZ uygulamalarının etik olarak sorgulanması ve hatta "üretmeme" seçeneğinin ciddiyetle düşünülmesi gerektiği savunulmaktadır. Örneğin, birinin cinsel yönelimini bilgisi ve isteği dışında tahmin etmeye çalışan araçların etikliği sorgulanmaktadır: "Birinin cinsel yönelimini muhtemelen bilgisi ve isteği dışında tahmin etmek dünyayı nasıl daha iyi veya daha adil bir yer haline getirebilir?" (Kötü Yapay Zeka Üretmeye Son Verin 86).
3. YZ'nin Toplumsal Normlar, Demokrasi ve Yönetimle İlişkisi:
- Demokrasinin Zayıflaması: YZ teknolojileri ve diğer toplumsal eğilimler, demokrasiyi zayıflatmaktadır. Bu durum, YZ araştırmalarının yönünü tersine çevirmenin önündeki anahtar engellerden biri olarak görülmektedir. "Yapay zeka teknolojileri ve diğer toplumsal eğilimler demokrasiyi zayıflattığı için kendimizi bir kısır döngü içerisinde tutsak halde bulabiliriz" (Önümüzdeki Dağlar 29).
- Uluslararası Koordinasyon İhtiyacı: YZ'ye yeni bir yön verme çabasının uluslararası koordinasyon gerektirdiği belirtilmektedir, zira Çin gibi ülkeler gözetleme ve askeri uygulamalar alanında YZ'yi hevesle sürdürebilir.
- Normların ve Bilincin Önemi: İklim değişikliğindeki başarıya benzer şekilde, YZ alanında da toplumsal normlarda bir değişimin ve farkındalığın gerekliliği vurgulanmaktadır. YZ araştırmacılarının ve şirketlerinin eylemlerinin toplumsal sonuçları konusunda daha bilinçli olması çağrısı yapılmaktadır. "Yapay zeka araştırmacıları da eylemlerinin toplumsal sonuçları konusunda daha bilinçli, daha duyarlı ve daha açık olmalıdır" (Yapay Zekayı Yeniden Tasarlamak 28).
- Düzenleyici Politikaların Rolü: Devlet politikaları, YZ gelişimini istenen yöne (insanları tamamlayıcı YZ gibi) yönlendirmede kilit rol oynamalıdır. "Devlet politikası, yapay zeka gelişmelerini bireyler ve toplumlar için olumsuz sonuçları olan otomasyondan başka bir yöne nasıl yönlendirebilir?" (Yapay Zeka Biliminin Sınırları Üniversitelerde Olmalıdır 71).
- Algoritmik Önyargı ve Adalet: Algoritmalar, mevcut toplumsal önyargıları ve eşitsizlikleri tekrarlama ve hatta kötüleştirme eğilimindedir. Yüz tanıma sistemlerinin beyaz olmayan insanları tanımadaki başarısızlığı ve ırkçılık örnekleri bu duruma işaret etmektedir. "Algoritmaların genellikle dünyamızda zaten var olan yanlılıkları tekrarlamasıdır" (Yapay Zekanın Geçmişi ve Geleceği 139).
- Güç Dengesizlikleri ve Merkezileşme: YZ, gücü teknolojiden en çok etkilenenlerin uzağında yoğunlaştırma ve merkezileştirme eğilimindedir. Bu durum, şirketlerin çalışanları gözetlemesi, veri setlerinin haksız elde edilmesi ve iş arayanların aşağılayıcı algoritmalara maruz kalması gibi örneklerle açıklanmaktadır.
4. YZ'nin Tıptaki Uygulamaları ve Etik Sorunlar:
- Veri Yanlılıkları: Tıbbi veriler, eksik, hatalı, kayıp ve yanlı olabilir. Doktorların gözlemleri ve tanıları da önyargılara açıktır, bu da YZ modellerinin bu yanlışlıkları tekrarlama riskini taşır. "Tıbbi verilerin -tüm veriler gibi- eksik, hatalı, kayıp ve yanlı olabileceğini kabul etmek çok önemlidir" (Tıbbın Yapay Öğrenme Sorunu 109).
- Tanı Gecikmeleri ve Hasta Deneyimi: Kronik hastalıklarda tanı gecikmeleri yaygındır ve hastaların yaşadığı deneyimler (semptomlarının önemsenmemesi, yanlış tanılar) tıbbi verilere yansımaktadır. "Kaç hasta hala doğru tanı almamış durumdadır? Kaçına hala kulak asılmamakta ve inanılmamaktadır?" (Tıbbın Yapay Öğrenme Sorunu 114).
- Güç Merkezileşmesi Riski: YZ'nin tıpta yaygınlaşması, gücün merkezileşmesi ve potansiyel zararlar riski taşımaktadır, özellikle de maliyet düşürücü tedbirler olarak kullanıldığında.
- Hasta Merkezli Yaklaşım İhtiyacı: Tıpta YZ uygulamalarında hastaların merkeze alınması, bilgi ve deneyimlerinin dikkatle dinlenmesi gerekmektedir. "Hastaların merkeze alınması ve bilgi ve deneyimlerinin dikkatlice dinlenmesi gerekmektedir" (Tıbbın Yapay Öğrenme Sorunu 115).
5. Yapay Zeka Paradigmları ve Gelecek Vizyonları:
- Mühendislik YZ'si vs. Bilişsel Bilim YZ'si: Kaynaklar, YZ'nin iki ana yaklaşımını ayırmaktadır: "mühendislik yapay zekası" (belirli görevleri etkin bir şekilde yerine getirme odaklı) ve "bilişsel bilim yapay zekası" (insan zihnini anlama ve taklit etme odaklı). Derin öğrenme, mühendislik YZ'si için olağanüstü bir değer taşırken, insan zihninin karmaşık yeteneklerini (az veriden öğrenme gibi) tam olarak taklit etmekte yetersiz kalmaktadır.
- Tekillik ve Süper Zeka: Kaynaklar, YZ'nin yakın zamanda "süper zeka" yaratacağı veya insan bilişini tamamen geride bırakacağı korkularını yatıştırmaktadır. İnsan zekası ile makine zekasının birleştiği "tekillik" henüz uzak bir ufuk olarak görülmektedir. "İnsan zekası ile makine zekasının, ikisinin de sınırlarını aşan bir süper zeka yaratmak için bir şekilde birleştiği sözde tekilliğin yakın zamanda oluşmasını da beklememeliyiz" (Yapay Zekanın Geçmişi ve Geleceği 124).
- Bilişsel İş Bölümü: Gelecekte bilişsel ağlarda insan zekası ile YZ arasında bir iş bölümü gerekecektir. YZ, insanların "fazla kalifiye" olduğu veya "yetersiz" kaldığı bilişsel işlerin büyük kısmını devralabilir.
- Ütopik ve Distopik Vizyonlar: YZ'nin geleceği hakkında hem "ütopik amigoluk" (işçilik yükünü azaltma) hem de "distopik korku tellallığı" (işsizlik ve gözetim) arasında gidip gelme eğilimi olduğu belirtilmektedir. Ancak, bu iki aşırı görüşe de teslim olunmaması, daha müzakereci ve düşünceli bir yaklaşım benimsenmesi çağrısı yapılmaktadır. "Ütopist yapay zeka amigoları sıklıkla kaygısızca, onun muhtemelen işçilerin maruz kaldığı kirlilik, tehlike veya angarya miktarını arttırmak yerine azaltacağı konusunda ısrar ederler" (Yapay Zekanın Geçmişi ve Geleceği 129).
Sonuç ve Öneriler
Kaynaklar, YZ'nin geleceğinin kaçınılmaz olmadığını ve insanlığın bu teknolojinin yönünü şekillendirme gücüne sahip olduğunu net bir şekilde ortaya koymaktadır. Bu, hem güçlü düzenlemeler hem de toplumsal normlarda ve önceliklerde temel bir dönüşüm gerektirmektedir. İşçilerin güçlendirilmesi, paydaş katılımının sağlanması, algoritmik önyargılarla mücadele edilmesi ve teknolojinin kâr odaklı otomasyon yerine insanları tamamlayıcı yönde geliştirilmesi hayati önem taşımaktadır. Zamanın dar olduğu ve servet ve gücün giderek yoğunlaştığı, demokrasinin zayıfladığı bir dönemde acil harekete geçilmezse, geri dönüşü olmayan bir noktaya varılabilir.