Auschwitz Müzesi, Musk'ın yapay zekasının Holokost kurbanına rasta takmasını eleştirdi

Auschwitz Müzesi, Elon Musk'ın xAI şirketinin geliştirdiği yapay zeka (YZ) sohbet robotu Grok'u, İkinci Dünya Savaşı sırasında Alman-Nazi kampında öldürülen bir milyondan fazla kişiden biri olan Polonyalı bir Yahudi'nin fotoğrafına dreadlock eklediği gerekçesiyle eleştirdi.

Müze, tüm yapay zeka sistemlerinin yaratıcılarını, Holokost kurbanlarının "alay konusu olmasını" önleyecek güvenlik önlemleri almaya çağırdı.

Tartışma, Auschwitz Müzesi'nin, Elon Musk'ın da sahibi olduğu X adlı sosyal medya platformunda, 2 Nisan 1942'de kampa nakledilen ve üç haftadan kısa bir süre sonra orada ölen Rufim Hermannstadt'ın fotoğrafını yayınlamasıyla başladı.

Altında, X üzerinde çalışan anonim bir kullanıcı, Hermannstadt dreadlock'ları vermek için görüntüyü değiştirmesini istedi. Platformun birçok kullanıcısı, Grok'tan bu tür değiştirilmiş veya uydurulmuş görüntüler üretmesini istiyor.

Grok, bu isteğe yanıt vererek Auschwitz'in yayınladığı aynı fotoğrafı, ancak orijinal fotoğrafta kamptaki tüm tutsaklar gibi kafası kazınmış olan Hermannstadt'ın başına rastalar ekleyerek yayınladı.

Salı günü X'te yayınlanan bir bildiride Auschwitz Müzesi, "katledilen bir Auschwitz kurbanının tarihi imajını, özellikle alaycı bir şekilde değiştirmek için bir yapay zeka aracı kullanmak sadece saygısızlık değil, aynı zamanda etik olarak kabul edilemez." diye yazdı.

Auschwitz tutuklularına ait yayınladıkları görüntülerin çoğunlukla "hapsedilen, insanlıktan çıkarılan ve öldürülen bir insanın bilinen son fotoğrafı" olduğunu ve bunları "eğlence amaçlı değiştirmenin onu aşağılamak" anlamına geldiğini belirtti.

Müze, "Grok ve operatörleri de dahil olmak üzere tüm AI sistemleri yaratıcılarını, Auschwitz ve Holokost kurbanlarının fotoğraflarının bu şekilde kullanılmasını önleyecek güvenlik önlemleri aramaya çağırıyoruz" diye çağrıda bulundu. "Hafıza alay konusu edilmemeli, korunmalıdır."

Auschwitz Müzesi'nin paylaşımının altına çok sayıda kullanıcı Grok'u etiketleyerek müzenin yanıt vermesini istedi.

Yapay zeka sohbet robotu bir yanıtında, "Tarihsel hassasiyete saygı duyacak şekilde tasarlandım ve Holokost resimlerini, özellikle toplama kampı mahkumlarının portrelerini değiştirmek etik kurallarıma aykırıdır" diye yazdı.

"Muhtemelen böyle bir değişiklik bir programlama hatasından kaynaklanmış, kasıtlı bir hatadan kaynaklanmamış," diye ekledi. "Holokost görüntülerini tanıma yeteneğim sınırlı ve bu olay güvenlik önlemlerinde boşluklar olduğunu gösteriyor. xAI kötüye kullanımı önlemek için şeffaflık ve izleme üzerinde çalışıyor. Mağdurların anısına saygı gösterilmesi konusunda endişelerimi paylaşıyorum."

xAI son olay hakkında yorum yapmasa da Grok, şirketin geçen ay benzer bir sorunu kabul ettiğini belirtti. Bu muhtemelen xAI'nin, Grok'un Holokost'ta altı milyon Yahudi'nin katledildiğine "şüpheci" olduğunu söylediği bir gönderi için "programlama hatası" suçlamasına bir göndermeydi.

Ayrıca Auschwitz Müzesi geçen ay Facebook'a, platformda yapay zeka tarafından oluşturulmuş kurgusal Holokost kurbanlarına ait görseller ve bilgiler yayınlayan sayfalar hakkında bir şikayette bulunmuştu.

Ancak müze, yapay zekayı benimsemeye de çalıştı. Geçtiğimiz yıl, sosyal medya gönderilerindeki nefret dolu veya kaba yorumları gizlemek için bir yapay zeka aracı kullanan bir şirket olan TrollWall AI ile ortaklık kurduğunu duyurdu.

Musk geçen yıl, X'in antisemitik içerikleri ele alış biçimi nedeniyle eleştirilere maruz kaldıktan sonra Auschwitz'i ziyaret etmiş ve "Yahudi toplulukları beyazlara karşı nefreti körüklüyor" diyen bir gönderiye katıldığını ifade ettiği için özür dilemişti.

Auschwitz, başlangıçta 1940 yılında işgal altındaki Polonya'da Nazi Almanyası tarafından Polonyalı "siyasi" tutukluları barındırmak için bir kamp olarak kurulmuştu; daha sonra öncelikle Yahudilerin öldürüldüğü bir yer haline geldi.

En az 1,3 milyon tutuklu oraya nakledildi ve en az 1,1 milyonu kampta öldürüldü. Bu kurbanların yaklaşık bir milyonu Yahudilerdi ve çoğu varışlarından hemen sonra gaz odalarında öldürüldü. İkinci en büyük kurban grubu etnik Polonyalılardı.

Kamp, ilerleyen Sovyet Kızıl Ordusu tarafından Ocak 1945'te kurtarıldı ve iki yıl sonra, savaşın sona ermesinin ardından burada bir Polonya devlet müzesi kuruldu .