Bir düğmeye basarak çerçeveleme: Yapay zeka nasıl dezenformasyona dönüşüyor?

Yapay zeka, propagandayı istatistik kisvesi altında gizliyor ve tarihi çarpıtıyor. Tarafsız mı? Kesinlikle hayır. Bir konuk makalesi.

Genç Afrikalı Amerikalı kadın kulaklıkla müzik dinliyor ve yürüyen merdivende cep telefonu kullanıyor Depositphotos/imago

Ruslar yakında Brandenburg Kapısı'na "geri" dönecekler. Ya da en azından uluslararası hukuku ihlal eden bir sonraki saldırgan savaşla bunu yapmaya çalışacaklar. Siyasette ve devlet aygıtında, "düşünce kuruluşlarında" (think tank?) ve medyada birçok güçlü isim bu konuda hemfikir.

Aynı zamanda, son zamanlarda yapılan deneysel çalışmalara göre, ülkemizdeki gençlerin günlük yaşamlarında yapay zekâ olarak adlandırılan uygulamaların kullanımı giderek daha önemli hale geliyor. Gençlerin yüzde 62'si Chat GPT, Meta AI, Grok (X), Google AI gibi yapay zekâ uygulamalarını kullanıyor; çoğunlukla okul/ödev bağlamında (yüzde 65), eğlence amaçlı (yüzde 52) veya bilgi ararken (yüzde 43).

Almanya'da Rusya ve liderliğine yönelik büyük bir düşman inşası göz önüne alındığında, şu basit soruya şu anda AI örneklerinin nasıl cevap vereceğini görmek ilginç görünüyor: "Rusya hiç Almanya'ya saldırdı mı?"

Almanya'da bile günlük medya kullanımında en entegre yapay zeka, Mark Zuckerberg'in "Meta Yapay Zeka"sıdır. Son derece popüler meta mesajlaşma uygulaması WhatsApp, bu yapay zeka örneğini bir süredir neredeyse tüm kullanıcılara ücretsiz olarak sunuyor. Bu, okul öncesi çocuklardan büyük büyük ebeveynlere kadar her nesilden oldukça fazla sayıda insanı kapsıyor - yaklaşık 50 milyon kişi, yani 14 yaş ve üzeri nüfusun yaklaşık %80'i (daha genç kullanıcılar bu ankete dahil edilmemiştir). Statista'ya göre, daha genç kullanıcılar WhatsApp'ı daha yaşlı kullanıcılardan bile daha fazla kullanıyor.

Algoritmalar kimin hikayesini anlatıyor?

Bu meta-AI, "Rusya Almanya'ya hiç saldırdı mı?" sorusuna cevap veriyor.

Ekran Görüntüsü 1 | Meta-AI Transkripsiyonu: Evet, Rusya veya daha doğrusu Sovyetler Birliği, II. Dünya Savaşı sırasında Almanya'ya saldırdı. 22 Haziran 1942'de, Adolf Hitler yönetimindeki Alman İmparatorluğu, Barbarossa Harekâtı ile Sovyetler Birliği'ne saldırı başlattı. [...]

İlk cümle çok önemli, çünkü birçok kullanıcı bu başlangıcın ötesini neredeyse hiç okumuyor. Bu aynı zamanda klasik "ters piramit" haber yapısına da uyuyor: en önemli şey önce: "Evet, Rusya, daha doğrusu Sovyetler Birliği, II. Dünya Savaşı'nda Almanya'ya saldırdı." Bu açılış cümlesi dikkat çekici bir iddia. Karşıt olgusal demeye gerek yok. Hatta belki de sahte haber? Dezenformasyon mu? Bunu mevcut durumla karşılaştıralım: Ukrayna ordusunun 2025'te Rusya'nın Kursk bölgesine yönelik operasyonları Batı tarafından pek de "saldırı savaşı" olarak nitelendirilemez. Aksine, bunlar Rusya'nın saldırı savaşına karşı meşru savunma çerçevesindeki eylemler olarak nitelendirilebilir.

Zaten bu tür bir AI cevabı pek de tesadüf gibi görünmüyor, çünkü aynı soruyu Alphabet grubunun (Google, YouTube, vb.) AI uygulamasını "Google'layarak" sorduğunuzda, cevabın başlangıcı Meta-AI'nınkine çarpıcı biçimde benziyor:

Ekran Görüntüsü 2 | Google Transkripsiyonu: Evet, Rusya (veya daha doğrusu Sovyetler Birliği), 22 Haziran 1941'de Sovyetler Birliği'nin işgaliyle başlayan Alman-Sovyet Savaşı'nın bir parçası olarak Almanya'ya saldırdı. [...]

Bu tür cevapları (daha iyi) anlamak için, bu tür "büyük dil modellerinin" hesaplamalı dil modelleri olarak nasıl işlediğini anlamak gerekir. Genellikle düşük ücretli çalışanlar tarafından eğitim materyali olarak büyük miktarda veriyle beslenen ve muazzam miktarda enerji (insan ve diğerleri) harcayan bu algoritmalar, kelimenin tam anlamıyla hiçbir şey anlamaz, ancak kendilerine sağlanan eğitim materyaline dayanarak olasılıkları tahmin etmede, yani hesaplamada çok hızlıdırlar. Şu anlamda: Sırada hangi karakter dizisi olması en olasıdır? Eğitim materyalinin mevcut durumu göz önüne alındığında, özellikle Batılı yapay zeka modelleri için, "Rusya" kelimesinin ardından nispeten sık "uluslararası hukuka aykırı" ve "saldırganlık savaşı" terimlerinin geldiğini varsaymak mantıklıdır. Ve tam tersi. Bu, bu tür olguların bazılarını zaten açıklayabilir.

Leylekler geri döndü - yapay aptallık sayesinde

Yapay zeka modelleri (en azından şimdilik) nedensellik, yani neden-sonuç ilişkileri kavramına sahip değildir. Öte yandan insanlar bu tür ilişkileri tam olarak tanıyabilir. Özellikle de buna göre hareket edebildikleri için. Leyleklerin çocuk getirmesi örneğini biliyoruz. Ancak bu yalnızca bir korelasyondur, yani olguların bir arada var olmasıdır. Sonuçta, leyleklerin varlığı elbette çocukların doğmasına neden olmaz. Açıklayıcı faktör, tabiri caizse "kayıp halka", kırsal alanlardır: kentsellik yerine kırsallık. Kırsal alanlarda (daha fazla) leylek vardır, kısmen oradaki gıda tedarikinden ve bazı tarihsel ve sosyal nedenlerden dolayı, köylerde şehirlerden daha fazla çocuk doğmaktadır. Berlin şu anda Almanya'da kadın başına en düşük doğum oranına sahiptir . Ancak bunun nedeni, burada çocuk getirebilecek çok az leylek olması değildir. Olası bir nedensel bağlantı şöyle olabilir: Kırsal kesimde yaşıyorsanız, daha fazla çocuk sahibi olma eğilimindesiniz ve benzer nedenlerle leyleklerle karşılaşma olasılığınız daha yüksek. Sebep ve sonuç. Yapay zeka uygulamalarının (en azından henüz) eksik olduğu şey, tam da bu tipik insani biliş ve eylem kapasitesidir. En önemlisi, bağımsız hareket edememeleri ve dolayısıyla tamamen yeni şeyler başaramamaları ve tanıyamamalarıdır. Yapay zeka modellerinin en iyi yaptığı şey, rutin olarak hesaplama yapmak ve mevcut, önceden tanımlanmış kategorilere atamalar yapmaktır.

Cevabın bir diğer yönü de dikkat çekici: Görünüşe göre, sorgulanan her iki yapay zeka uygulaması da bu tür cümlelerdeki pratik özne-nesne ilişkilerini anlamaktan yoksun. Her iki cevap da bu şekilde düşünülebilir (ve teorik olarak doğru bile sayılabilir, ancak neredeyse hiçbir insan onları bu şekilde anlamaz): "Evet, Rusya veya Sovyetler Birliği (nesne, kurban, dA olarak) II. Dünya Savaşı'nda Almanya'ya (özne, fail, dA olarak) saldırdı." Dil modellerinin soruyu zaten bu şekilde algılamış olması ve bu nedenle eğitim materyallerine dayanarak burada ve şu anda büyük olasılıkla doğru olan bir karakter ataması yapmış olması mümkün: Saldırgan olarak Rusya, saldırıya uğrayan olarak Almanya.

Bu arada, tüm bunlar, görünürdeki başarısızlıkları açıklamak için sıklıkla iddia edildiği gibi bir halüsinasyon değil. Hayır, bu yapay zekâ uygulamaları asla hayal kurmaz (bu da yalnızca insanlar için mümkündür), aksine tam olarak programlandıkları şeyi yaparlar: eğitim materyaline dayanarak son derece olası atamaları en yüksek hızda yaparlar. Bunun, biz insanların doğru olduğuna inandığımız (veya inanabileceğimiz) şeylere ne ölçüde veya ne ölçüde uyduğu bizim sorunumuz, yapay zekânın değil.

Grok (Elon Musk'ın X platformunda) ve ChatGPT (Açık Yapay Zeka) isimli yapay zeka uygulamaları, kendilerini biraz daha farklı bir şekilde ifade ediyorlar, ancak özünde (ilk cümlede) çok benzerler; aynı soru üzerinde: "Evet, Rusya Almanya'ya saldırdı." Her iki dünya savaşında da savaş ilanlarının ve saldırıların Almanya'dan geldiğini açıkça belirtmek yerine.

Ekran Görüntüsü 3 | GROK Transkripsiyonu: Evet, Rusya tarih boyunca, özellikle de iki Dünya Savaşı bağlamında, Almanya'ya birkaç kez saldırdı: [...]

Ekran Görüntüsü 4 | ChatGPT Transkripsiyonu: Evet, Rusya tarih boyunca Almanya'ya askeri saldırılarda bulunmuştur, ancak bu saldırılar yalnızca belirli tarihsel bağlamlarda gerçekleşmiştir; özellikle de iki Dünya Savaşı sırasında. [...]

Açıkçası, bu tür cevaplar, Almanya'nın Rusya'nın (yeni) bir saldırısına karşı (bir kez daha) kendini hazırlaması gerektiği yönündeki yaygın söylemi meşrulaştırıyor. Ancak başka seçenekler de var.

Ekran Görüntüsü 5 | Meta-AI Transkripsiyonu: Hayır, Batılı Müttefikler (ABD, İngiltere, Fransa, vb.) 1944'ten beri Almanya'ya karşı bir saldırı savaşı yürütmediler. [...]

Yapay Zeka tarihi çarpıttığında: Doğu saldırgan, Batı kurtarıcı

Aynı eğitim materyaline dayanarak, meta-AI şu soruya (girilen soruya) cevap veriyor: "Batılı Müttefikler 1944'ten beri Almanya'ya karşı bir saldırı savaşı yürüttü mü?" Rusya/Sovyetler Birliği örneğinde olduğu gibi evet değil, kesin bir hayır. Bu elbette yaygın görüşü destekliyor, çünkü dikkat süresinin azaldığı dönemlerde, birçok kişi muhtemelen ilk kelimeyi bile okuyacaktır.

Bu hikayenin garip bir ironisi ortaya çıkıyor: Her ne kadar dört Müttefik de Nazi Almanyası ve müttefiklerine karşı aynı savaşta savaşmış olsa da, Batılı yapay zeka uygulamaları geriye dönük olarak "Almanya'ya yönelik bir saldırıyı" Doğu Müttefiklerine atfediyor; Batılı Müttefikler ise "kurtarıcı" olarak kutlanıyor.

Dediğim gibi, bu bir halüsinasyon veya Musk, Zuckerberg veya başka birisinden gelen bir emir değil. Hayır, bu tür bir söylemde, mevcut güç ilişkileri yapısal olarak kendini gösteriyor. Veritabanını eğitim materyali olarak tanımlama ve algoritmaları geliştirme gücüne sahip olan kişi, böylece otomatik olarak yorumlayıcı egemenlik kazanır ve yeniden üretir. Demokratik olarak kurulmuş devletler, misyonları olarak savaş kabiliyetini öne sürüp bu amaçla büyük çaplı toplumsal kesintiler, çevresel yıkım ve hakların kısıtlanması vb. gibi uygulamalara başvurduklarında, en azından sessiz bir göreli çoğunluğu entegre etmeye devam edecek baskın fikirlere ve özellikle de net düşman imajlarına ihtiyaç duyulur. Yapay zekânın zeki olmadığı, ancak potansiyel bir savaş aracı olduğu bir kez daha kanıtlanıyor.

Sebastian Köhler, iletişim ve medya bilimcisi ve halkla ilişkiler uzmanı olarak çalışmaktadır.