George Orwell’in 1984 romanında evlerin duvarlarında tele-ekranlar vardır. Bu ekranlar hem yayın yapar hem de insanları izler. Romanın en ürkütücü yanı ise insanların herhangi bir anda izlenip izlenmediklerini bilememeleridir. Kimse her an izlenmez ama herkes izlenebileceğini bilir ve buna göre yaşar. Yine de Orwell’in kurduğu düzenin sınırları vardır. İzlenebilecek insan sayısı sınırlıdır, herkes izlenebilir durumdadır ama insanların tamamı aynı anda sürekli izlenemez. Bugün yapay zekâ, Orwell’in distopyasında eksik kalan bu parçayı tamamlayabilecek bir kabiliyete sahip gibi gözüküyor.
Bunun neden yeni olduğunu görmek için gözetimin nasıl işlediğine kısaca bakmak gerekiyor. Uzun süre gözetim, hedefli takip demekti. Devlet ya da iktidar sahibi, birinden şüphelendiğinde onun telefonunu dinler, mektuplarını açar, peşine adam takardı. Bu pahalı ve yavaş bir işti. Her hedef bir ya da birkaç insanın günlerini, haftalarını alırdı. Bu yüzden izlenebilecek insan sayısı sınırlıydı. Jeremy Bentham’ın tasarladığı ve sonradan Michel Foucault’nun modern toplumu anlatmak için kullandığı panoptikon fikri tam da bu sınırla oynuyordu. Merkezdeki gözetleme kulesinden herkes görülebilir ama kimse ne zaman görüldüğünü bilemez. Bu belirsizlik, insanların kendilerini denetlemesine yeter. Panoptikon sonuçta bir hapishane modeliydi, bir toplumun tamamı için gerçek anlamda kurulamazdı.
Dijital çağ bu tabloyu bir miktar değiştirdi. Telefonlarımız, e-postalarımız, dijital mesajlaşma araçlarımız, sosyal medya hesaplarımız ve sokaklardaki kameralar sayesinde hepimiz arkamızda devasa izler bırakmaya başladık. Hatta belki yazıp sildiğimiz mesajlar bile bir yerlerde kaydedilir oldu. Devletlerin ve şirketlerin elinde, büyük veri denilen, insanların neredeyse her hareketini kaydeden bir yığın oluştu. Bu açıdan bakıldığında hepimiz zaten izleniyorduk. Ama burada gözden kaçan bir nokta var. Verinin var olması, onun okunduğu anlamına gelmiyordu. Milyonlarca insanın kaydını tutmak mümkündü ama o kayıtları anlamlandırmak için yine birinin oturup bakması gerekiyordu. Bilgisayarlar ancak önceden yazılmış kurallara göre tarama ve kategorileştirme yapabiliyordu. Belli bir kelimeyi kullananı, belli bir ülkeyle bağlantısı olanı, belli bir profile uyanı işaretliyorlardı.
Bu yüzden dijital çağda da gözetimin mantığı seçici kaldı. Bazı düşünürler buna banoptikon adını verdi. Sistem herkesi görebiliyor ama izlemiyor, istenmeyen azınlığı ayıklayıp dışarıda tutmaya çalışıyordu. Şüpheliler, göçmenler, riskli görülen gruplar işaretleniyor, geri kalan çoğunluk yığının içinde görünmez kalıyordu. Sosyal medyayla birlikte bir de herkesin herkesi izlediği, kimilerinin omnoptikon dediği yatay bir görünürlük ortaya çıktı. Ama bunların hiçbiri temel sınırı aşamadı. Herkesin verisi vardı, herkes bir ölçüde görünürdü, ama herkesi tek tek okuyacak düşünsel beceriye sahip bir göz yoktu. Bu temelde bir kapasite eksikliğiydi. Görebilirsin, bilgi de toplayıp bilgi yığınları oluşturabilirsin, hatta algoritmik olarak gelen kategorileştirme bile yapabilirsin ama herkesi tek tek izleyemezsin, hâlâ banoptikondasın.
Bence yapay zekâ bu sınırı artık ortadan kaldırıyor. Bugünkü dil modelleri önceden yazılmış kurallarla sadece genel kategorileştirme yapmıyor, böyle kurallara ihtiyaç duymadan anlamaya çalışıyor. Bir paylaşımın imasını, tonunu, farklı zamanlarda yazılmış şeyler arasındaki bağlantıyı okuyabiliyor. Robin Staab ve arkadaşlarının 2024’te yayımladığı bir araştırmada, dokuz farklı dil modeline Reddit’teki 520 gerçek kullanıcının paylaşımları verildi ve modellerden bu kişilerin yaşı, mesleği, eğitimi, cinsiyeti, nerede yaşadığı ve geliri gibi sekiz kişisel özelliği tahmin etmeleri istendi. Araştırmacılar aynı profilleri kendileri de incelemiş ve çıkarabildikleri özellikleri etiketlemişti. En başarılı modelin tahminlerinin yüzde 85’i araştırmacıların vardığı sonuçlarla örtüştü; kişilerin nerede yaşadığı konusunda bu oran yüzde 86’ydı. Model bunu, aynı işi yapan insanlara göre yaklaşık yüz kat daha ucuza ve iki yüz kırk kat daha hızlı yaptı. 520 kişinin tamamını yarım saatten kısa sürede, yaklaşık 20 dolara analiz etti. Bu, bir insanı okumanın maliyetinin neredeyse sıfıra indiği anlamına geliyor. Maliyet bu kadar düştüğünde kimi izleyeceğini seçmeye gerek kalmıyor. Hedefli takibin, yani banoptikonun mantığı çöküyor.
Asıl kırılma burada. Biz zaten izleniyorduk. Yeni olan, artık okunabilir olmamız. İzlemek kayıt tutmaktır, okumak ise o kaydı anlamlandırmaktır. Bir yapay zekâ, bir insanın yıllar içinde bıraktığı bütün izleri tek bir bütün olarak ele alıp onun nasıl düşündüğüne, neye inandığına, neye öfkelendiğine dair çıkarımlar yapabilir. Ve bunu bir kişi için değil, herkes için yapabilir. Belki daha korkutucusu sadece yaptıklarınızdan sizi izlemesi değil neler yapabileceğinizi de tahmin edebilecek olması. Bunun bugün bir yerde fiilen yapıldığını söylemiyorum. Söylediğim, bunun artık teknik olarak mümkün olduğu.
Burada sorulması gereken soru, bu kabiliyeti kimin kullanacağı. İlk akla gelen devlet. Gözetim tarihi büyük ölçüde devletlerin tarihidir ve devletler yasal yetkiye ve zorlayıcı güce sahip. Ama bugün verinin de modellerin de büyük kısmı birkaç teknoloji şirketinin elinde. Bu izleme ve okumayı yapabilecek teknik kapasitenin asıl sahibi belki de onlar. Bu şirketlerin sahipleri giderek siyasi bir güç haline geliyor ve bazıları bu durumu tekno-oligarşi olarak adlandırıyor. Belki de asıl soru bu ikisi arasında bir seçim değil. Devletin yetkisiyle şirketlerin kapasitesinin birleştiği, kimin kimi okuduğunun bile belirsizleştiği yeni bir düzene mi gidiyoruz? Bu sorunun cevabını bugün bilmiyoruz. Ama sorunun kendisi, alışık olduğumuz gözetim tartışmalarının artık yetmediğini gösteriyor.
Peki bundan kaçmak mümkün mü? Telefonu bırakmak, sosyal medyadan çıkmak bir ölçüde işe yarayabilir. Ama okula gitmek, maaş almak, hastaneye başvurmak, sokakta yürümek de iz bırakıyor. Okunabilir olmamak için hiç telefon kullanmamış, hiçbir kayda geçmemiş, hiçbir kameranın önünden geçmemiş biri olmak gerekiyor. Belki de dağ başında bir barakada, doğduğu gibi yaşayan biri. Böyle biri gerçekten okunamayabilir. Ama aynı zamanda okulun, hastanenin, işin ve kentin, kısacası modern hayatın tamamen dışında kalmış biridir.
Orwell’in kahramanı Winston, en azından bir süre için tele-ekranın göremediği bir köşe bulabilmişti. Bugün o köşe giderek küçülüyor. Kimileri buna mahremiyet sonrası dönem (post-privacy era) diyor. Mahremiyet eskiden çoğumuz için kendiliğinden vardı. Şimdi ancak toplumdan çekilerek elde edilebilecek bir şeye dönüşüyor.
Artık soru saklanıp saklanmadığımız değil; çünkü saklanmak, var olmayı bırakmak anlamına geliyor.
