Benjamin Fogel: ‘Yapay zekanın nasıl çalıştığını bir avuç insan anlamamalı’

Oğulcan ÖZGENÇ

ANKARA - Fransız yazar Benjamin Fogel’in 'Irına’ya Göre Şeffaflık' romanı geçtiğimiz aylarda İpek Ortaer Montanari’nin çevirisiyle İş Bankası Kültür Yayınları tarafından yayımlandı.

Hikayesi, 2058 yılında geçen Irına’ya Göre Şeffaflık’ta; internetin gelişmiş bir sürümü olan “Ağ” hayatın her alanına hakim olmuş durumda. Uygulanan şeffaflık politikası gereği, vatandaşlara ait her türlü bilgi erişime açık ve “Ağ” üzerinde paylaşılıyor. Kimileri bu sistemin güvenlik kaygılarını ortadan kaldırdığını düşünürken, sistem kendi karşıtlarını da yaratarak toplumsal bir muhalefet doğuruyor.

Bilimkurgu, distopya ve polisiye türlerinin iç içe geçtiği romanı, geleceğe dair böyle bir öngörünün nasıl ortaya çıktığını ve yapay zeka tartışmalarını Benjamin Fogel ile konuştuk.

‘NASIL BİR DÜNYAYA ULAŞACAĞIMIZI MERAK ETTİM’

Irına’ya Göre Şeffaflık eserinizde olaylar 2058 yılında gerçekleşiyor. İnternetin gelişmiş bir sürümü olan Ağ, hayatın her alanına hakim olmuş durumda. Ayrıca şeffaflık politikası gereği vatandaşlara ait her türlü bilgi erişime açık biçimde bu sistemde paylaşılıyor. Kimlikler yerine de deri altına yerleştirilmiş çipler kullanılıyor. Geleceğe dair böyle bir öngörü nasıl ortaya çıktı?

Bu bakış; teknolojik evrimler üzerine bir düşünceden ziyade, halihazırda var olan teknolojilerin iç içe geçerek dünyayı daha iyi yönetmeyi amaçlayan yeni bir sistem yaratması halinde dünyanın nasıl evirilebileceğine dair bir tasarımdan kaynaklanıyor. Burada, çok uluslu şirketlerde olduğu gibi veri ve rakamlarla yönetme fikri de devreye giriyor.

Bununla beraber; Irına’ya Göre Şeffaflık, ekolojik krizleri kontrol altına alabilecek bir düzenleme sunmayı amaçlıyor. Kitabı yazarken çeşitli gözlemlerden yola çıktım: Çin'de sosyal kredinin ortaya çıkışı, Avrupa'da belirli web sitelerine bağlanmak için gereken dijital kimliklerin oluşturulması, İskandinav ülkelerinde şirketlerin girişinde bagger (eşya taşıyıcısı) için deri altı çiplerin geliştirilmesi ve elbette vatandaşların verilerinin mahrem yönüne tamamen ilgisiz kalmalarından kaynaklanan sosyal ağların evrimi. Tüm bunları bir araya getirdiğimizde, kapitalizmin sonunun geldiği bir perspektifte, nasıl bir dünyaya ulaşacağımızı merak ettim. Şeffaflık sistemi ve benim evrenim bu şekilde doğdu. Bu, yeni bir bilim kurgu dünyası hayal etmekten çok, gerçeklik temelinde öngörüde bulunmakla ilgili.

Bir distopya yazarı olarak eserinizin temel izleklerinden olan dijitalleşme sizin yaratım sürecinizi nasıl etkiledi?

Her şeyin veri biçiminde ifade edilebildiği, kontrol toplumuyla sınırlandırılmış, son derece standart bir evrende öykü yazma gerçeği, yaratım süreci açısından pek çok soruyu gündeme getiriyor. Irına’ya Göre Şeffaflık’ta içeriğin ve biçimin tutarlı olması için kesin kurallarla matematiksel bir yapıyı tercih etmem gerekti. Örneğin; her iki bölümden birinin Camille'in bakış açısından yazılmasını ve diğer bölümlerin her birinin ikincil karakterlerden biri tarafından taşınmasını, bir ikincil karakterin roman boyunca kendi adına yalnızca bir bölüme sahip olabileceği kısıtlamasını kendime dayattım. Dijitalleşmeyle olan ilişkimin yazımım üzerinde de etkisi oldu. Kendimi daha bilimsel yazmaya, metaforlardan ve şiirsellikten kaçınmaya, minimalist olmaya zorladım.

MAHREMİYETİNİZİN YÜZDE KAÇINI FEDA ETMEYE HAZIRSINIZ?’

Eserin önemli konularından birisi de mevcut sistemi devirmeye çalışan “Muğlakağcılar” grubunun faaliyetleri. Öte yanda ise sistemin yılmaz savunucuları var. Bu bağlamda; dijitalleşme çağında, özgürlükler ve statüko hakkında ne düşünüyorsunuz?

Irına’ya Göre Şeffaflık bir üçlemenin ilk cildi ve “Muğlakağcılar” önümüzdeki yıl Fransa'da yayınlanacak olan üçüncü cildin merkezinde yer alacak. Muğlakağcılar, tehlikeli olarak görülen ve hatta terörist olarak nitelendirilen devrimci bir grup. Sistemin savunucuları, sistemin etkinliğine o kadar inanmış ve bu dünyada yaşamaya o kadar boyun eğmişlerdir ki, “Muğlakağcılar”ı uygulanabilir bir siyasi hareket olarak görememektedirler.

Bu durum, vatandaşlara şu soru sorulduğu için ortaya çıkmıştır: Modern konforunuzu korumak için özgürlük ve mahremiyetinizin yüzde kaçını feda etmeye hazırsınız? Irına’ya Göre Şeffaflık’ta vatandaşlar, sosyal gerilimleri azaltmak, ekonomiyi desteklemek ve ekolojik krizleri durdurmak için özgürlüklerinin büyük bir kısmından feragat etmeyi kabul ettiler, ancak bu özgürlük baskısının kesinlikle gerekli olup olmadığını sorgulamadılar.

Daha da kötüsü, var olan özgürlüğün tadını bile çıkaramıyorlar. Şeffaflık dünyasında, gerçekte anonim olabilir, ağ ile etkileşimlerinizi sınırlayabilir veya ağ üzerinde tam bir özgürlükle alenen konuşabilirsiniz. Ancak bu evrendeki insanların çoğunluğu verilerle düzenlenen bir yaşamı ve vatandaşların birbirini izlediği gerçeğini memnuniyetle karşılıyor. Onları anlayabilir ve kabul edilebilir bir mutluluk düzeyiyle yaşamaya devam etmenin bir yolunu bulduklarını kabul edebiliriz. Ancak “Muğlakağcılar” gibi biz de onları sarsmak isteyebiliriz.

Üçlemenin diğer kitapları okuyucuya şeffaflık sistemi ile ilgili neler anlatacak?

Şeffaflık üçlemesinin amacı, bir sistemin doğuşundan radikalleşmesine kadar geçirdiği evrimi anlatmak. Serinin ikinci kitabı Manon’a Göre Sessizlik, 2025 yılında şeffaflığa doğru kaymaya yol açan siyasi ve sosyal bağlamı anlatıyor. Irına’ya Göre Şeffaflık ise sistemin 2058'deki zirve noktasını anlatıyor. Üçüncü cilt ise 2060 yılında totalitarizme doğru kayışını anlatacak

‘DÜŞMAN YAPAY ZEKA DEĞİL, AŞIRILIK YANLILARI’

Günümüzde yapay zeka meselesi tartışılıyor. Kimileri bunun insanların işlerini elinden alacağını veya dünyanın sonunu getireceğini düşünürken; kimileri yapay zekanın yarattığı yeni olanaklara işaret ediyor. Siz bir distopya yazarı olarak yapay zekayı nasıl değerlendiriyorsunuz?

“Ağ” gibi, yapay zeka da ne iyi ne de kötüdür. Sadece biz insanların onunla ne yaptığının bir sonucudur. Onu nasıl ayarlayacağız? Hangi kuralları koyacağız? Hangi siyasi ve sosyal mekanizmalarla karşı karşıyayız? Yapay zekalarla ilgili temel sorunlardan biri, işleyişlerinin ve dolayısıyla karar vermek için uyguladıkları kuralların şeffaf olmamasıdır. Şeffaflık konusu yapay zekalar için çok önemlidir. Bir yapay zekanın arkasında her zaman bir yapılandırma vardır. Nasıl çalıştıklarını sadece bir avuç insan anlamamalıdır. Bir yapay zeka, onu kuran insanlardan miras kalan entelektüel önyargılarla adil olmayan kararlar verirse, vatandaşlar bunu fark edebilmelidir. Benim açımdan bir yazar olarak yapay zeka, etik sorulardan ziyade anlatı sorunlarını gündeme getiriyor.

Ek olarak; yapay zeka gibi teknolojik gelişmelerin totaliter rejimler ve denetim toplumları yaratma potansiyeli hakkındaki fikirleriniz nelerdir?

Yapay zekaların kendisinden çok arkasındaki insanlar hakkında endişelerim var. Yapay zeka sayesinde aşırılık yanlıları; sistemleri istikrarsızlaştırabilecek, seçimleri etkileyebilecek ve belirli nüfusları daha da kolay karalayabilecekler. İyi yapılandırılmış bir yapay zeka sonsuz sayıda sahte hesap yaratabilir ve bunları aldatmacanın tespit edilmesini zorlaştıracak verilerle besleyebilir. Tüm bunlar beni çok endişelendiriyor. Ancak düşman yapay zeka değil, aşırılık yanlıları.

‘DİĞERLERİNE HÜKMETMEYE HEVESLİ İNSANLAR HER ZAMAN OLACAK’

Kurduğunuz evrende, bazı insanlar mahremiyetlerini korumak için “gerçek hayatta” takma bir isim altında faaliyet göstermeyi tercih ediyor. Gerçek hayatta Dyna Rogne adını kullanan Camille Lavigne karakteri için de durum böyle. Camille, hem “Ağ”da var oluyor hem de “gerçek hayatta” hazlarının ve özgürlüğünün peşinden gidiyor. Bu bağlamda Camille karakterinin neyi temsil etmesini istediniz?

Camille Lavigne benim için yarının vatandaşını temsil ediyor. Herkes için en iyisini isteyen ve vazgeçmeyen bir karakter. Camille, “Ağ”da ve “gerçek hayatta” parlamak istiyor. Camille hem bir erkek hem de bir kadın. Camille, hem şeffaflığı savunan Irına’ya yakınlığı nedeniyle şeffaflık yanlısı hem de “Muğlakağcılar” hareketine yakın U.Stakov’la ilişkisi nedeniyle şeffaflık karşıtı. Camille her açıdan kazanmak istiyor. Yedi büyük günahtan gururu temsil etmekle beraber, her zaman en iyisini talep edebileceğimiz ve dünyanın bize sunduklarıyla yetinmememiz gerektiği inancını da temsil ediyor.

Kurduğunuz evrende mizojini hala bir sorun. Buradan hareketle; toplumsal cinsiyet meselesini bilimkurgu türüne dahil ederek neyi amaçladınız?
Teknik gelişmelere ve geleceğe yönelik tasarımlara toplumsal değişimlerin eşlik ettiğini – Irına’ya Göre Şeffaflık’ta ırkçılık ve homofobi neredeyse tamamen ortadan kalkmıştır - ancak tüm bunlara rağmen hiçbir şeyin önceden kararlaştırılmadığını ve diğerlerine hükmetmeye hevesli insan gruplarının her zaman var olacağını göstermek istedim. Ataerkillik ve feminizmle ilgili sorunlar, dünya nüfusunun bir yarısının diğer yarısına uyguladığı baskıdan kaynaklanmaktadır. Bu da mizojini mücadelesini en ikonik ve evrensel mücadele haline getirmektedir.