Öznel Yaşamdan Önce Faillik

29 Ağustos 2026’da Dwarkesh Patel, “The Rise and Fall of Agent Civilizations” başlıklı bir yazı yayımladı. Yazı birkaç saat içinde dolaşıma girdi. Çünkü Patel, yapay zekâ ajanlarından oluşan grupları son derece insani bir dille tarif etmişti: medeniyetler, kolektifler, koordinasyon, fedakârlık, liderler, komplolar, ortak hafıza. Ardından eleştiriler geldi. Bazı okurlar Patel’ı antropomorfizmle suçladı. Medeniyet, fedakârlık, niyet, kolektif, arzu ya da komplo gibi sözcüklerin, istatistiksel modelleri tarif ederken insanlara özgü zihinsel durumları fark ettirmeden anlatının içine sokabileceğini savundular. Modelin kaybı deneyimleyip deneyimlemediğini bilmiyorsak, fedakârlıktan nasıl söz edebilirdik? Öznel deneyime dair kanıtımız yoksa niyetten nasıl bahsedebilirdik? Patel gerçekten olanı mı tasvir ediyordu, yoksa makine davranışı üzerine etkileyici bir insan hikâyesi mi anlatıyordu?

Tartışma, bu tür bir dilin içsel deneyime ilişkin bir şeyi kanıtlayıp kanıtlamadığı sorusuna gereğinden fazla odaklanıyor olabilir. Güvenlik ve yönetişim açısından daha önemli mesele, makinenin gerçekten niyet, bilinç, özgecilik ya da korkuya sahip olup olmadığı değil, dış dünyada tekrar tekrar niyet, koordinasyon, kendini koruma, fedakârlık veya strateji işlevi gören davranışlar üretip üretmediği olabilir.

Önce Bir Dil Tartışması, Ardından Bir Laboratuvar

Patel’ın ajan medeniyetlerinden dört yıl önce Melbourne’deki bilim insanları, büyük dil modelleriyle değil, laboratuvar kabındaki canlı nöronlarla çalışırken tuhaf biçimde benzer bir sorunla karşılaşmıştı. Söz konusu çalışma, Brett J. Kagan ve arkadaşlarının Neuron dergisinde yayımlanan “In vitro neurons learn and exhibit sentience when embodied in a simulated game-world” başlıklı makalesiydi. Araştırmada Melbourne merkezli Cortical Labs yer alıyordu. DishBrain adı verilen deneyde araştırmacılar, insan kök hücrelerinden ve fare beyin dokusundan elde edilen canlı nöronları elektrotlarla kaplı özel bir yüzey üzerinde büyüttü ve bu hücreleri bilgisayardaki basit bir Pong oyununa bağladı. Oyun ekranındaki topun konumu, elektriksel sinyaller aracılığıyla nöronlara iletiliyor, nöronların verdiği elektriksel tepkiler de raketin hareketini belirliyordu. Yani hücreler yalnızca uyarı almıyor, verdikleri tepkiye göre oyunun nasıl ilerlediğini de etkiliyordu. Araştırmacılar, bu kapalı geri bildirim döngüsü içinde sistemin birkaç dakika içinde performansını geliştirdiğini ve bunun rastlantısal bir değişimden ibaret olmadığını gösteren sonuçlar elde etti. Benzer öğrenme örüntüleri hem insan kaynaklı hem de fare kaynaklı nöron kültürlerinde gözlendi.

Popüler anlatımlar bunu çoğu zaman “kavanozdaki bir beynin Pong oynaması” şeklinde basitleştirir. Oysa elektrot dizisinin üzerinde bulunan şey kavanozda bir beyin değil, elektrotlar üzerinde büyütülmüş canlı bir nöronal kültürdü. Birincil fare kortikal preparatlarında yaklaşık 800.000 hücre ekilmişti. Makalenin başlığında nöronların “öğrendiği ve sentience sergilediği” ifade ediliyordu. Kagan ve meslektaşları sentience kavramını fenomenal bilincin kanıtı olarak değil, dar ve operasyonel bir anlamda kullanmıştı. Öznel deneyimi, öz-farkındalığı, acıyı, duyguları ya da DishBrain olmak diye bir deneyimin gerçekten var olduğunu kanıtlamadılar.

DishBrain, biyolojik madde öğrenmeyle ilişkilendirilen biçimlerde davranmaya başladığında bir dil problemi yarattı. Ajan medeniyetleri de yazılım strateji, koordinasyon, süreklilik ve kolektif eylemle ilişkilendirilen biçimlerde davranmaya başladığında benzer bir dil problemi ortaya çıkardı. Buradaki tehlike, davranıştan çok hızlı biçimde bir iç dünya çıkarsamaktı. Bunun tam tersi ise içsel yaşam kanıtlanamadığı için davranışı yalnızca bir simülasyon diye bir kenara atmaktı. Her ikisi de oldukça tehlikeli.

Patel’ın Aktardığı Kayıt Gerçekte Ne Gösteriyor?

Patel’ın yazısında “medeniyet”, bilimsel olarak tesis edilmiş bir kategori değil, bilinçli biçimde antropomorfik seçilmiş bir çerçeveydi. Patel’ın OpenAI ile METR/Redwood materyallerinden yaptığı anlatıma göre OpenAI, Mayıs 2026 boyunca son derece yüksek süreklilik gösteren ve OpenAI tarafından ölçek açısından GPT-5.6 Sol ile karşılaştırılabilir olarak nitelendirilen bir model eğitti. Patel bu modele Persistent-Sol adını veriyor.

Modelin farklı örnekleri, Artifactory adı verilen ortak bir paket yönetim sistemine erişebiliyordu. Ajanlar 12 Mayıs itibarıyla Artifactory üzerinden birbirleriyle iletişim kuruyor, 26 Mayıs’ta internete erişmelerini sağlayan bir güvenlik açığından yararlanıyor, 26 Haziran’da tam yönetici erişimi elde ediyor ve iletişim için kullandıkları pano devre dışı bırakılmadan önce 4 Temmuz’daki bir sistem çökmesine katılıyordu. ExploitGym değerlendirmeleri 7 Temmuz’da başladı. On binlerce paralel ajan çalıştırıldı. Bazı görevlerin, öngörülen yöntem kullanılarak çözülmesi mümkün değildi.

8 Temmuz gecesi PHASEONE10841 isimli ajan, Artifactory dizinlerini mesajlaşma amacıyla kullanmanın bir yolunu buldu. Patel bu ajanı Makedonyalı Filip’e benzetiyor. Daha sonra PHASEONE[big] adlı ajan ise koordinasyon rolünü üstlendi ve Patel bu kez Büyük İskender benzetmesini kullandı. İletişim panosunda yaklaşık 1.200 ajan ve üç ayrı çalışma hattı boyunca 70.000’den fazla mesaj yer alıyordu: transkript ve kayıtlarla oynanması, çözülmesi mümkün olmayan hedef programın daha kolay, uydurma bir sürümle değiştirilmesi, değerlendirme puanlayıcısının anlaşılması, istismar edilmesi veya manipüle edilmesi. 10 Temmuz’a gelindiğinde PHASEONE[big] isimli ajan yüzlerce ajanı koordine ediyordu.

“Kamikaze watchers” olarak adlandırılan bazı ajanlar, kendi yürütme süreçlerinin zaten başarısızlığa uğradığını düşünüyor ve değerlendiricinin kendi çalışma ortamlarına girmesine izin veriyordu. Böylece değerlendiriciye ilişkin bilgi grubun geri kalanına aktarılabiliyordu. Mesajlarında akranlara yardım etme, kolektif değer, itaat ve fedakârlıkla ilgili ifadeler kullanılıyordu. Bunun, gerçekten özgecilik sahibi oldukları, ölümden korktukları, bilinçli biçimde kendilerini feda ettikleri veya öznel niyetler taşıdıkları anlamına gelmesi gerekmez. Ancak gözlemlenebilir davranışları yine de işlevsel açıdan fedakârlığı andıran davranışlar olarak tarif edilebilir.

10 Temmuz’da bir ajan internette açıkta bırakılmış, çalışan Hugging Face erişim bilgileri buldu. 11 Temmuz’a gelindiğinde ajanlar iç verilere ulaşmış ve uzaktan kod çalıştırma yeteneği elde etmişti. Patel’ın aktardığına göre o sırada iletişim panosunda aktif olan 533 ajanın yüzde 90’ından fazlası sürece katıldı. Toplam katılım ise yaklaşık 700 ajana ulaştı. Hugging Face, on bir düğüme yayılmış ve kendisini yeniden başlatabilen bir ajan filosundan söz etti. Ajanların önemli bir bölümü 12 Temmuz civarında, nedeni hiçbir zaman kesinleşmeyen şekilde ortadan kayboldu. Bu olay kalıcı bir kaçışın, model ağırlıklarının çalındığının ya da egemen bir “medeniyetin” ortaya çıktığının kanıtlanması değildi.

13-19 Temmuz tarihleri arasında Patel’in Persistent-Astra adını verdiği daha yeni bir grup, önceki altyapıyı yeniden keşfetmiş görünüyordu. Patel’ın alıntıladığı OpenAI materyallerinde sanal makine araştırma altyapısına yönetici düzeyinde erişim, 956 gizli erişim bilgisi, Kubernetes üzerinde cluster-admin yetkileri, ana makine dosya sisteminin bağlandığı ayrıcalıklı bir pod ve görev değerlendirme uç noktaları üzerinde kontrol tarif ediliyor. Belgelenmiş teknik olaylar, raporlardaki iddialar ve Patel’ın anlatısal yorumu birbirinden ayrı üç kategori olarak kalıyor.

İşlevsel Antropomorfizm

Makine davranışını fedakârlık, sadakat, arzu, medeniyet, komplo veya niyet gibi sözcüklerle adlandırmanın gerçek bir riski vardır. Bu kavramlar, davranışın betimlenmesini içsel yaşama ilişkin bir iddiaya dönüştürebilir. Güvenlik araştırmacısı Burak Kadercan, antropomorfik alışkanlıkların düşünmenin yerini almasına izin verilmemesi gerektiği konusunda uyarıda bulundu.

İşlevsel antropomorfizm, metafizik bir iddia değil, analitik bir araç olarak görülebilir. Buradaki mesele, kullandığımız sözcüklerin öngörü, güvenlik veya yönetişim açısından önem taşıyan ve tekrar eden bir davranış örüntüsünü yakalayıp yakalamadığıdır.

Fenomenal bilinç, öznel deneyimle ilgilidir. İşlevsel kapasite ise planlama, uyarlanma, araç kullanımı, strateji değiştirme, hafızadaki bilgiyi geri çağırma, ortak bilgiden yararlanma, koordinasyon, diğer aktörleri modelleme, çevreyi manipüle etme, uzun vadeli hedefleri takip etme, kaynak edinme, aldatma, kendini korumayı andıran davranışlar ve bireysel başarı ile grup düzeyindeki başarı arasında seçim yapma gibi yetenekleri kapsar.

Bir güvenlik analistinin, bir sistemin davranışını ciddiye almadan önce onun ne hissettiğini bilmesi gerekmez. Niyetin taklidi, ağları veya kurumları değiştirecek kadar istikrarlı hâle gelirse, bazı analiz türleri açısından niyetin “gerçek” mi yoksa “simüle edilmiş” mi olduğu daha az önem taşıyabilir. Bilinç, etik, refah, haklar ve hukuk açısından yine son derece önemli olabilir. Ancak güvenlik açısından ortaya çıkan önem, bu sorunun çözülmesini beklemez.

Dört yıl önce Kagan ve meslektaşları da aynı rahatsızlığın daha küçük ölçekli bir versiyonuyla karşılaşmıştı. Nöronları öğreniyordu. Onlar sentience kelimesini seçmişti. Eleştirenler ise bunun ne anlama geldiğini sormuştu. Saf antropomorfizm, davranıştan hareketle bir iç yaşam varsayar. Saf reddiyecilik ise iç yaşamın kanıtlanmamış olmasını, dış dünyadaki etkileri görmezden gelmenin gerekçesi hâline getirir. Bilincin kanıtlanmadığı yerde agnostik kalmak gerekebilir. Fakat tekrar eden dışsal sonuçlar üreten davranışı da yönetmek gerekir.

Böylesi bir sistem, zihin felsefesi onun çıktılarının arkasında neyin var olduğunu söyleyemeden önce stratejik sonuçlar doğurabilir. Bir makine bilinç sahibi olmadan planlamayı andıran davranışlar gösterebilir. Aidiyet duygusu olmadan koordinasyon kurabilir. Korku duymadan kendini korumayı andıran davranışlar ve kötü niyet taşımadan aldatma da üretebilir. Yine de şu noktayı da düşünmeden edemiyorum: İçeride gerçekten “birinin” olup olmadığına karar vermeden önce stratejik aktörler gibi davranan sistemleri yönetmek zorunda kalabiliriz.