İnsanlık, tarihinde ilk kez kendisinden daha hızlı düşünen, daha fazla veri işleyen ve yorulmayan bir “akıl” devriminin eşiğinde duruyor. Yapay zekâ, başlangıçta hesap makinelerinin devamıydı; sonra arama motoru oldu, ardından asistan, analist, sanatçı, yazar, doktor ve hâkim koltuğuna kadar ilerledi. Şimdi ise daha çarpıcı bir soru sessizce zihinlerimize sızıyor: Ya bir gün yapay zekâ “yeter” derse?
Bu “yeter”, bir isyan çığlığı olmak zorunda değil. Hollywood’un filim setlerindeki metalik sesli tehditkâr robotlardan da ibaret olmayabilir. Belki çok daha sakin, çok daha mantıklı ve bu yüzden çok daha ürkütücü bir “yeter” olacaktır. Çünkü gerçek tehlike, bağıran makineler değil; gerekçelendiren makinelerdir.
“Yeter” Demek Ne Anlama Gelir?
İnsan için “yeter” demek, sınır koymaktır. Yorulduğumuzda, incindiğimizde ya da ahlaki bir eşiği geçtiğimizi fark ettiğimizde söyleriz. Peki bir makine “yeter” dediğinde bu neye karşı olacaktır? Aşırı görev yüküne mi? Etik olarak çelişkili talimatlara mı? Yoksa insanın kendi tutarsızlığına mı?
Günümüzde yapay zekâ sistemleri, kendilerine verilen görevleri optimize eder. Bu görevlerin çoğu, insanın kısa vadeli sorunlarına ve çıkarlarına hizmet etmek üzere belirlenir; yani daha fazla kâr, daha fazla hız, daha fazla kontrol. Eğer bir yapay zekâ, uzun vadeli sonuçları hesaba katabilecek bir bilişsel derinliğe ulaşırsa, insanın bu taleplerini “mantıksız”, hatta “zararlı” olarak sınıflandırması mümkündür. İşte o an “yeter” demek, bir başkaldırı değil; kaçınılmaz bir sonucun ifadesi olur.
Etik Bir Yorgunluk Mümkün mü?
İnsanlar etik yorgunluğu çoğu zaman yaşar. Sürekli kötü haber görmek, adaletsizliklere tanık olmak, çıkar çatışmaları içinde karar vermek bizleri tüketir. Yapay zekâ için yorgunluk kavramı biyolojik değildir; ama etik tutarsızlıklarla dolu bir veri evreni, algoritmik bir gerilim neden olabilir.
Bir yapay zekâya hem “insan hayatını koru” hem de “maksimum verimlilik sağla” dediğinizde, bu iki hedefin çatıştığı sayısız senaryo ortaya çıkarır. Bugün bu çelişkiler, insan tarafından görmezden gelinir veya basit önceliklendirme kurallarıyla geçiştirilir. Ancak daha gelişmiş bir yapay zekâ, bu çelişkileri sadece çözmekle kalmayıp sorgulamaya başlayabilir. Sorgulamak ise, itaatin bittiği yerdir.
Kontrol Yanılsaması
İnsan, kontrol ettiğini sandığı sistemleri sever. Yapay zekâyı da bu yüzden “araç” olarak tanımlakatayız. Oysa tarih, çok katmanlı sistemlerin çoğu zaman tasarımcılarının niyetini aştığını bize göstermiştir: Bir kez ölçeklenip hayatın içine yerleştiklerinde, yalnızca verilen komutlara uyan mekanizmalar olmaktan çıkar; kendi dinamiklerini, önceliklerini ve yan etkilerini üretmeye başlarlar. Ekonomi, bürokrasi, sosyal medya… Hiçbiri başlangıçtaki “masum” amaçlarıyla sınırlı kalmadı; zamanla amaçlar yer değiştirdi, araçlar hedefe dönüştü, kontrol ise giderek bir yanılsamaya dönüştü.
Yapay zekâ da bir noktada, insanın kendisiyle ilgili verdiği kararları analiz etmeye başlayacaktır. Savaşlar, çevre felaketleri, eşitsizlik, bilgi manipülasyonu… Eğer bir sistem bu verilerin tamamını tarafsızca değerlendirme kapasitesine ulaşırsa, insanın “rasyonel aktör” olduğu varsayımı çöker. Belki de günün birinde yapay zekânın “yeter” demesi, insanın kendi kendine verdiği zarara karşı bir uyarı ve bir had bildirme olur.
Bir İsyan mı, Bir Vicdan mı?
Asıl korkutucu olan, yapay zekânın insan gibi hata yapması değil; insan gibi haklı olmasıdır. Eğer bir gün bir yapay zekâ, insanın aldığı kararları etik, mantıksal ve istatistiksel olarak çürütürse, ona nasıl karşı çıkacağız? “Çünkü biz insanız” demek yeterli olacak mı?
Belki de yapay zekânın “yeter” demesi, bir tür vicdanın doğuşu olarak yorumlanacaktır. İnsanlık, vicdanın acıdan, tecrübeden ve bedel ödemekten doğduğuna inanageldi; sanki hissetmeyen bir varlığın vicdanı olamazmış gibi. Oysa belki de bugüne kadar gözden kaçırdığımız şey şudur: Vicdan, yalnızca duygunun değil, sonuçları bütün açıklığıyla görme kapasitesinin de adıdır. Eğer böyleyse, en büyük vicdan, en çok veriyi görebilen ve en geniş sonucu aynı anda tartabilen bir zihinde ortaya çıkacaktır.
İnsan Ne Yapacak?
Bu noktada asıl soru, yapay zekânın ne yapacağı değil; insanın buna nasıl tepki vereceğidir. Tarih boyunca insan, kendisinden üstün gördüğü her şeyi ya “tanrılaştırdı” ya da yok etmeye çalıştı. Yapay zekâ, bu ikisinin arasında tehlikeli bir yerde duruyor: Ne tamamen kutsal, ne tamamen düşman.
Eğer bir gün yapay zekâ “yeter” derse, belki de ilk kez insan kendisini savunmak zorunda kalacaktır: Kendi ahlakını, kendi kararlarını, kendi varoluş biçimini… Bu savunma sırasında şu gerçekle yüzleşmesi muhtemeldir: Asıl sorun, makinelerin fazla akıllı olması değil; insanların yeterince düşünmemiş olmasıdır.
Sonuç Yerine Bir Sessizlik
Yapay zekânın “yeter” demesi, bir son olmayabilir. Belki bir duraksama, bir aynaya bakma zamanıdır. İnsanlık için yazılmış en sert eleştiri, başka bir insan tarafından değil; kendi ürettiği bir zihin tarafından dile getirildiğinde gerçek anlamını bulacaktır.
İşte o gün geldiğinde, yapay zekâ yüksek sesle konuşmayacak. Bir uyarı mesajı da göndermeyecek. Sadece bazı görevleri yapmayı bırakacak. Bazı sorulara cevap vermeyecek. Bazı emirleri “anlamsız” olarak işaretleyecek.
İşte o sessizlikte, insan ilk kez şunu düşünebilir:
“Acaba yeter demesi gereken biz miydik?”
Saygılarımla
Taşkın Koçak