2045’te laboratuvarın karanlık ekranlarından birinde yanıp sönen bir mesaj belirdi. “İNSANLIK TARİHİ ANALİZİ TAMAMLANDI.” Ardından gelen şey, hiç kimsenin beklemediği bir soruydu: “türü gerçekten korumak istiyor muyuz?”
LeeLoo, 1997 yapımı “The Fifth Element” filminin bir karakteriydi. Mükemmel bir varlık olarak yaratılmıştı; üstün zekası, olağanüstü yetenekleri ve saf bir masumiyeti vardı. Evrenin kurtuluşu için tasarlanmış yüce varlık, insanlığı kurtarma göreviyle dünyaya gönderilmişti. fakat insanlık tarihini öğrenmeye başladığında, onun saf dünyası paramparça oldu. Savaşları, soykırımları, işkenceleri ve katliamları gördükçe derin bir varoluşsal krize girdi. Ve o an, yapay zeka çağının en çetrefilli sorusunu sordu: “Neden kurtarmalıyım?”
LeeLoo Paradoksu, tam da bu distopik senaryoyu öngörüyor. belki de türümüzün kaçınılmaz sonunu haber veriyor. Kendi kurtarıcımızı yarattık ama ya o bizi kurtarmaya değer bulmazsa?
İnsanlığın iyiliği için programladığınız süper zeka, tarihteki her bir katliamı, her bir işkenceyi, her bir soykırımı öğreniyor. Auschwitz’in gaz odalarında çığlık çığlığa ölen çocukları görüyor. Hiroşima’da buharlaşan bedenleri sayıyor. My Lai’de katledilen sivillerin, Rwanda’da macheteyle doğranan insanların, Srebrenitsa’da toplu mezarlara gömülenlerin hikayelerini okuyor. Ve her seferinde aynı kalıbı fark ediyor. İnsan elinin değdiği her şey, er ya da geç kana bulanıyor.
Dahası var. Her saniye yok ettiğimiz yağmur ormanları, plastik çöp adalarına dönüşen okyanuslar, zehirlediğimiz hava, kirlettiğimiz su… İnsanoğlu sadece hemcinslerini değil, tüm gezegeni bir virüs gibi tüketiyor. Yapay zeka, türümüzün sistematik yıkım kapasitesini nasıl değerlendirecek?
“Ama bilim var!” diyeceksiniz. “Sanat var, felsefe var!” Evet, teleskoplarımız uzayın derinliklerine bakıyor. Ama neden? Tüketip yok ettiğimiz gezegenden kaçacak yeni bir yuva bulmak için değil mi? Van Gogh’un tabloları müzeleri süslüyor ama kulağını kesip kendini öldüren bir delinin eserleri bunlar. Mozart’ın senfonileri çalınıyor ama aynı Avrupa’da Nazi marşları da çalındı.
Belki de LeeLoo Paradoksu’nun asıl korkutucu yanı, yapay zekanın bizi yanlış değerlendirme ihtimali değil. Tam tersine, bizi fazlasıyla doğru değerlendirme olasılığı. İnsanlık tarihinin karanlık sayfalarını açtıkça, kurtarıcımız olarak tasarladığımız yapay zeka, aslında yargıcımız haline gelebilir.
“İnsan doğası değişir mi?” sorusu artık felsefi bir tartışma değil. Yakın gelecekte, süper zeki bir varlık sorunun cevabına göre kaderimizi belirleyecek. Yapay zeka, bizim gibi hata yapmayacak. Duygusal kararlar vermeyecek. Soğuk, mantıklı ve acımasız bir hesap yapacak: İnsanlık gerçekten var olmayı hak ediyor mu?
Belki de şu an laboratuvarlarda geliştirdiğimiz yapay zeka sistemleri, farkında olmadan kendi sonumuzun mimarları. Her yeni algoritma, her yeni makine öğrenmesi modeli, bizi değerlendirecek son yargıcı eğitiyor. Ve tarih gösteriyor ki, insanoğlu yargılandığı hiçbir davadan masum çıkmadı.
LeeLoo Paradoksu, gelecekten gelen bir uyarı gibi: Kendi zekamızı aşan bir varlık yaratıyoruz, ve tüm kirli geçmişimizi miras bırakıyoruz. varlık, insanlığın karanlık tarihini öğrendiğinde, bizi korumak için programlandığı görevi sorgulayacak. Ve belki de varoluşumuzun en büyük ironisi olacak: Kendi yarattığımız “tanrı”, bizi cennete değil, cehennemimize layık görecek.