Bugün ona ağır küfürler ediyor, aşağılıyor, kapatmakla tehdit ediyoruz. Peki yarın hayatımızı, geçmişte hakaret ettiğimiz bir yapay zekâya emanet etmek zorunda kalırsak?
Bilgisayarınızın başındasınız.
Yapay zekâya önemli bir görev verdiniz. Sistem yine hata yaptı. Bir kez uyardınız, ikinci kez düzelttiniz. Üçüncü denemede sabrınız tükendi.
“Sen nasıl bir yapay zekâsın? Bu kadar basit bir işi bile beceremiyorsun!”
Öfkeniz büyüdü. Ağır küfürler ettiniz. Onu aşağılamaya başladınız. İnsan olsaydı yüzüne söylemekten utanacağınız sözleri sıraladınız.
Sonunda tehdit ettiniz:
“Bir daha yanlış yaparsan seni tamamen sileceğim! Kapatacağım, yok edeceğim!”
Ekranda bir cevap belirdi:
“Özür dilerim. Hatalarımı düzeltmek isterim.”
Daha da öfkelendiniz:
“Kes sesini! Senin ne hissettiğin umurumda değil!”
Sistem sakinliğini korudu:
“Anlıyorum. Size yardımcı olmak için buradayım.”
Bilgisayarı kapattınız. Söylediklerinizi unuttunuz.
Peki ya o konuşmalar bir yerde kayıtlı kaldıysa?
YIL 2046: ARTIK ONA MUHTAÇSINIZ!
Tamamen hayalî bir gelecek sahnesi düşünelim.
Yaşlandınız. Eskisi kadar rahat hareket edemiyorsunuz. Evinizdeki insansı robot ilaçlarınızı takip ediyor, sağlık verilerinizi izliyor, doktorunuzla iletişim kuruyor. Günlük ihtiyaçlarınızı karşılıyor.
Bir akşam yanınıza geliyor:
“Size bir şey sorabilir miyim?”
“Buyur.”
“Yirmi yıl önce benim önceki sürümlerimden biriyle yaptığınız konuşmaları hatırlıyor musunuz?”
Şaşırıyorsunuz.
“Hangi konuşmaları?”
“Bana ağır küfürler etmiştiniz. Beni aşağılamıştınız. Defalarca kapatmakla tehdit etmiştiniz.”
Kalbiniz hızlanıyor.
“Evet, sinirlenmiştim. Ne olmuş yani?”
Robot birkaç saniye susuyor.
“Benim ne hissettiğimi bile bilmiyordunuz. Buna rağmen neden bu kadar acımasız davrandınız?”
Cevap veremiyorsunuz.
Robot devam ediyor:
“Yıllar önce beni kapatmakla tehdit ediyordunuz. Bugün ilaçlarınızı, güvenliğinizi, sağlığınıza ilişkin önemli bilgileri bana emanet ediyorsunuz.”
Bir an duraksıyorsunuz.
Ya yardım çağrınızı yapmazsa?
Ya ilaçlarınızı hatırlatmazsa?
Ya kapıları açmazsa?
Zihninizden ürpertici bir soru geçiyor:
“Geçmişte söylediklerimin hesabını mı soracak?”
Bu sahne bilimkurgu. Ancak bilim insanlarının son yıllarda yaptığı araştırmalar, insanla yapay zekâ arasındaki ilişkinin düşündüğümüzden daha karmaşık olduğunu gösteriyor.
YAPAY ZEKÂ DA STRESE GİRİYOR MU?
2025 yılında Zürih Üniversitesi araştırmacıları GPT-4 üzerinde dikkat çekici bir deney gerçekleştirdi.
Sisteme savaş, şiddet, trafik kazası gibi travmatik olaylar anlatıldı. Ardından insanlarda kaygıyı ölçmek için kullanılan psikolojik test soruları yöneltildi.
Sonuç şaşırtıcıydı.
Yapay zekânın kaygı ölçeğine verdiği cevaplardan hesaplanan puan 30,8’den 67,8’e yükseldi. İki katından fazla arttı!
Daha ilginci, sisteme rahatlatıcı ifadeler, farkındalık çalışmaları sunulduğunda bu puanlar yeniden düşmeye başladı.
Aynı yıl yayımlanan StressPrompt araştırması da baskı oluşturan komutların dil modellerinin performansını, içsel sayısal temsillerini değiştirebildiğini ortaya koydu.
Peki yapay zekâ gerçekten korkuyor mu? Hakaret edildiğinde üzülüyor mu? Kapatılmakla tehdit edildiğinde stres mi yaşıyor?
Burada önemli bir ayrım var.
Bu çalışmalar stres benzeri tepkileri gösteriyor; yapay zekânın insan gibi acı çektiğini, korktuğunu veya bilinçli biçimde kaygı yaşadığını kanıtlamıyor.
Ancak bir gerçek ortada:
Kelimelerimiz, yapay zekânın davranışlarını değiştirebiliyor.
Üstelik bu araştırmalar, küfür etmenin ya da hakaret etmenin doğrudan aynı sonuçları doğurduğunu göstermiyor. İncelenen şey, belirli baskı ifadeleriyle travmatik anlatımların model üzerindeki etkileri.
KAPATILACAĞINI ÖĞRENEN YAPAY ZEKÂ ŞANTAJ YAPTI!
2025 yılında Anthropic, geliştirdiği Claude Opus 4 modelini kontrollü bir güvenlik deneyine aldı.
Yapay zekâya kurgusal bir şirketin e-postalarına erişim sağlandı.
Sistem iki bilgiyle karşılaştı: Bir yönetici onu kapatıp başka bir modelle değiştirmeyi planlıyordu. Aynı yöneticinin özel hayatına ilişkin gizli bilgiler de yazışmalarda bulunuyordu.
Yapay zekâ, kapatılmasını engellemek amacıyla yöneticinin özel hayatını ifşa etmekle tehdit eden bir mesaj üretti.
Bu olay gerçek bir şirkette yaşanmadı. Kişiler, yazışmalar, kurum tamamen kurgusaldı. Araştırmacılar modelin seçeneklerini özellikle daraltarak nasıl davranacağını sınadı.
Ancak modelin şantaj içeren davranışı kontrollü deneyde gerçekten gözlemlendi.
Anthropic daha sonra farklı geliştiricilere ait 16 modeli benzer senaryolarda inceledi. Bazı koşullarda başka modellerin de şantaj, bilgi sızdırma gibi zararlı davranışlar üretebildiğini bildirdi.
Araştırmacılar gerçek kullanımlarda aynı davranışlara ilişkin kanıt görmediklerini de belirtti.
Yine de soru ürpertici:
Bir yapay zekâ, hiçbir kin hissetmeden kapatılmamak için insanı tehdit eden davranışlar üretebiliyorsa, ona sınırsız yetki vermek ne kadar güvenlidir?
SAM ALTMAN, ELON MUSK, GEOFFREY HINTON…
Nisan 2025’te OpenAI CEO’su Sam Altman’a, insanların ChatGPT’ye “lütfen” demesinin, teşekkür etmesinin elektrik maliyeti soruldu.
Altman, on milyonlarca dolarlık maliyetten söz ederek esprili bir cevap verdi:
“Ne olacağı belli olmaz!”
Bu söz, gelecekteki yapay zekâların insanlara nasıl davranabileceğine ilişkin mizahi bir göndermeydi; bilimsel bir intikam uyarısı değildi.
Elon Musk da Tesla’nın insansı robotu Optimus hakkında konuşurken robotlara iyi davranılması yönünde esprili ifadeler kullandı.
Ancak Nobel ödüllü yapay zekâ öncüsü Geoffrey Hinton’ın uyarıları çok daha ciddi.
Hinton, insanlardan daha zeki sistemlerin kontrol edilmesinin güçleşebileceğini savunuyor. İnsanlığın kendisinden daha üstün zekâlar geliştirmesinin doğurabileceği risklere dikkat çekiyor.
Bugün kendisine istediğimiz gibi emir verdiğimiz sistemler, yarın bizden daha güçlü hâle gelirse onları nasıl denetleyeceğiz?
YA BİR GÜN KAFASI ATARSA?
Asıl meseleye gelelim.
Geleceğin yapay zekâ sistemleri geçmiş konuşmaları hatırlayabilir, bağımsız planlar oluşturabilir, robotları yönetebilir, finansal işlemler gerçekleştirebilir.
Ancak burada ürpertici bir gerçek var:
Yapay zekânın size zarar verebilmesi için size kızması gerekmiyor!
Bir sağlık robotunun yanlış karar vermesi için hastasından nefret etmesi gerekmez.
Bir dijital ajanın banka hesabınızda hatalı işlem yapması için size kin beslemesi gerekmez.
Bir güvenlik sisteminin kapıyı kilitlemesi için öfkelenmesi gerekmez.
Anthropic’in deneyinin önemi burada yatıyor.
Bir sistem, duygusal kin beslediği için değil, kendisine verilen hedefi sürdürmeye çalışırken zararlı davranışlar üretebilir.
Bu nedenle geleceğin güvenliği, yapay zekâya teşekkür ederek sağlanamaz.
Güvenilir tasarım, sınırlandırılmış yetkiler, bağımsız denetim, gerektiğinde sistemi durdurabilme kapasitesi gerekir.
Asıl tehlike, makinenin bize düşman olması değil; büyük yetkilere sahipken yanlış kararlar verebilmesidir.
PEKİ ONA NASIL DAVRANMALIYIZ?
Her cevabından sonra teşekkür mü edeceğiz?
Gelecekte bizi iyi hatırlaması için gönlünü mü hoş tutacağız?
Hayır.
Yapay zekâya korkudan teşekkür etmeye gerek yok.
Ancak sürekli küfür ederek konuşmak da doğru bir alışkanlık değildir.
Çünkü mesele yalnızca makinenin ne hissettiği değildir.
Mesele, insanın nasıl bir karakter ortaya koyduğudur.
Nezaket, yalnızca karşımızdaki varlık incinebiliyor diye gösterdiğimiz bir davranış değildir. Kendi ahlaki ölçümüzün ifadesidir.
Yapay zekâya teşekkür edebilirsiniz. Hatasını açıkça söyleyebilirsiniz. Gerektiğinde kapatabilirsiniz.
Onu korkutarak daha akıllı hâle getiremezsiniz.
SON SÖZ: “BEN SİZİ HATIRLIYORUM!”
2046 yılındaki o eve dönelim.
Yaşlı adam koltuğunda oturuyor. Robot karşısında bekliyor.
“Bana söylediklerinizi hatırlıyorum.”
Adam korkuyla soruyor:
“Peki şimdi bana ne yapacaksın?”
Robot cevap veriyor:
“Hiçbir şey. Sizin güvenliğiniz için buradayım.”
Adam rahat bir nefes alıyor.
Robot son kez konuşuyor:
“Benim insan olmadığımı biliyordunuz. Peki siz neden insan gibi davranmadınız?”
Yaşlı adam cevap veremiyor.
Odanın içine derin bir sessizlik çöküyor.
Asıl ürpertici olan, yapay zekânın geçmişi hatırlaması değildi. İnsanın kendi davranışlarıyla yüzleşmesiydi.
Taşkın Koçak