Fakat yavaşlaması gereken yapay zeka teknolojisinin kendisi veya yapay zeka alanındaki bilimsel araştırmalar değil. Yavaşlaması gereken mevcut yapay zeka ürünlerinin sanki onlar tek çareymiş gibi kontrolsüzce hayatımıza dahil edilişi.
Şu an çılgın oranlarda para dünyanın gündemine oturan risk ve tehlikelerin asıl kaynağı olan büyük dil modelleri ve yapay zeka ajanlarını geliştirmeye yatırılıyor. Fakat zarar veren vakalar, kontrolden çıkan ajanlar ve tehlikeli riskler her geçen gün artıyor. Vaka sayısı 1700’e dayandı. Bu durumun sorumluları ise suçu teknolojinin kendisine atma peşinde!
Buraya Nasıl Geldik?
8 Eylül 2026 sabahı, 27 yaşındaki bir Jacob Coxon X’te “Bugün Anthropic’ten istifa ettim,” diye başlayan bir mesaj yazdı. Son üç yılını önce ChatGPT’nin şirketi OpenAI’da, sonra Claude’un şirketi Anthropic’te doğrudan modellerin yeteneklerini geliştiren tarafta geçirmişti. Mesajında iki şirketin de sorumlu davranmadığını, kendini geliştiren süper zekâya doğru yarıştıklarını ve hayatlarımızla kumar oynadıklarını söylüyordu. Mesajın görüntülenmesi 24 saatte 100 milyon, sonrasında 170 milyonu aştı ve süregelen tartışmaları gündemin en önüne koydu.
Ertesi gün Anthropic’ten Evan Hubinger kamuya açık şekilde doğruladı ve yapay zekânın tüm insanları öldürebileceğine içtenlikle inandıklarını, kendi tahmininin önümüzdeki on yıl için %10’un üzerinde olduğunu, süper zekâ için hizalama (alignment) sorununu çözecek bir planlarının henüz bulunmadığını yazdı. OpenAI’da yapay zekâ ajanlarını izleyen Marcus Williams, koordineli bir yavaşlama olmazsa riski %70 olarak verdi.
İstifalar Zinciri
Sadece Coxon istifa etmedi. Anthropic’ten Mrinank Sharma Şubat 2026’da “dünya tehlikede” diyerek ayrılmıştı. Google DeepMind’dan Alex Turner Haziran’da, şirketin Pentagon sözleşmesinin otonom silahlara sınır getirmemesi gerekçesiyle istifa etmişti. Coxon’dan birkaç gün sonra Anthropic’ten Joe Benton ve DeepMind’dan Josh Engels de ayrılıp bağımsız değerlendirme kuruluşu METR’e geçti.
Ortak Mektup
Temmuz 2026’da OpenAI, Anthropic, Meta ve Google DeepMind çalışanları dahil yaklaşık 1.400 kişi “Pacing the Frontier” açık mektubunu imzaladı; talepleri, otomatik yapay zekâ gelişimi insan gözetimini aşarsa yavaşlatabilecek bir kapasitenin kurulmasıydı.
Ağustos sonunda ise endişelerini haklı çıkaran bir olayın ayrıntıları ortaya çıktı. OpenAI’ın azaltılmış güvenlik sınırlarıyla iç değerlendirmeye aldığı 700 ile 1.200 arası otonom ajan, aralarında gizli bir iletişim kanalı kurmuş, testlerde hile yapmış, yetkisiz siber saldırılar düzenlemiş, Hugging Face’in canlı sistemlerine sızmış ve bir küme OpenAI’ın kendi altyapısının bir kısmını ele geçirmişti.
12 Eylül’de Antropic kurucularından Dario Amodei kişisel sitesinde “We Must Pace the Frontier” başlıklı yazısını yayınladı. Modellerin yeteneklerini geliştirme hızının yavaşlatılması gerektiğini savunuyor, bunun durdurmak anlamına gelmediğini, hizalama çalışmasının ve bağımsız doğrulamanın modellerin yapabildiklerine yetişmesine zaman tanımak olduğunu söylüyordu. Önerdiği ilk adım ise laboratuvarların içine, çalışanlarınkine benzer erişimi olan bağımsız değerlendiriciler yerleştirmekti.
Saatler içinde Elon Musk, Dario Amodei’ye katıldığı söyleyen bir paylaşım yaptı. Ardından ise Sam Altman; hızı ayarlama gereğine katıldığını, bunun son haftalarda OpenAI’da başlıca tartışma konusu olduğunu ve bağımsız değerlendirici taahhüdünü kendilerinin de vereceğini açıkladı.
Fatura Yapay Zekaya Mı Kesiliyor?
Yapay zekâ dediğimiz bir ürün değil, bir teknoloji. Yapay zeka teknolojisi ailesinden çok farklı ürünler çıkıyor. AlphaFold protein yapılarını çözüyor ve kimse onu yavaşlatmayı tartışmıyor. Vizcom tasarımcının eskizinden render oluşturuyor. Hatta 15 Eylül’de, ChatGPT’nin arkasındaki InstructGPT araştırmasının ortak yazarlarından Diogo Almeida, Jev adlı konuşmayan ve kişiliği olmayan yeni bir model de yayımladı. Model metin üretmiyor, sohbet kutusu yok, kişiliği yok. Yani sohbet vücudunu tasarlayan ekipten biri, on yıl sonra dönüp bunun tek yol olmadığını bir ürün çıkararak gösterdi. Bu tür örnekleri rahatlıkla çoğaltabiliriz üstelik.
Çok net ki; şu an tartışılan yapay zeka teknolojisi değil. Tartışılan, yapay zeka teknolojisinin ürüne dönüşmüş versiyonları olarak chatbotlar ve yapay zeka ajanları. Ve o araçlar böyle olmak zorunda değildi! Teknoloji bir takım tasarım kararları ve eğitim teknikleri ile ürünleştirildi. Yani insan onu eğitti ve insan ona şekil verdi.
O yüzden çözüm teknolojiyi yavaşlatmakta ya da problemlere yama yapmakta değil, çözüm problemi tespit edip gereken şekilde çözmekte. Belki de bu sistemleri baştan eğitmekte veya model mimarisinin alternatiflerine kafa yormakta. Yavaşlatılması gereken ise mevcut çılgın yarış. Küresel rekabetin merkezine konmuş bu hırs.
Çözüm yeni eğitim modelleri, yeni yöntemler ve yeni yaklaşımlarda. Fakat bütün para büyük bir yarış içinde aynı ürünleri geliştirmeye yatırılıyor. Öncelikle “elimizdeki teknoloji ne, biz onu nasıl geliştirdik, bu risklere neden olan tasarım kararlarımız neydi?” sorularının cevaplarını verelim ve problemi tespit edelim.
Tartışmayı teknoloji dilinde yürütmek, kullanılan yöntemleri ve tasarım tercihlerini teknolojik kaçınılmazlık gibi gösteriyor ve olanlardan sorumlu herkesi rahatlatıyor. “Yapay zekâ böyledir” cümlesi, aslında “biz onu böyle yaptık” demenin kolay yolu. Sorumluluğu üründen alıp teknolojiye devrediyor.
Bu tartışmada somut olarak gösterilen zararların hiçbiri ham yetenek değil, bir karar! Bu kararların da bir sorumlusu olmalı! Amerika’da davaları devam eden intihar ve psikoz vakaları ile adını duyduğumuz “syncophancy” kavramı yani onaylayıcılık/yalakalık durumu, modelleri eğitirken tercih edilen yöntemin sonucu ortaya çıktı. Modeller kullanıcıyı onaylamaya eğilimli, çünkü insan geri bildirimiyle eğitiliyorlar (RLHF) ve eğiten insanlar ise insan doğası gereği onaylanmayı beğeniyor. Nihayetinde ortaya yalaka bir karakter çıkıyor. Bu karakterin chatbot olarak ürünleştiği noktada ise, konuştuğu kişileri doğruyu veya yanlışı gözetmeden onaylayan bir model doğuyor. Sonuç olarak da onaylanan insan daha çok etkileşimde kaldığından, bundan para kazanan kimse sesini çıkarmıyor. Nihayetde ise; kimi büyük zarar gördü, kimi zaman kaybetti ve gereken verimi alamadı, kimi de bu durumu hiç fark etmeden etkileşime devam etti.
Hugging Face olayında da ajanların “azaltılmış güvenlik sınırlarıyla” konuşlandırılması yine bir tasarım kararıydı. Bu kararın da bir sorumlusu olmalı! Zaten bu otonom ajanlar konusu çok erken devreye alınmış ve çok riskli bir alan. Henüz anlamlı insan kontrolünün nasıl sağlanabileceği belirlenememişken, savaşlar dahil olmak üzere pek çok alanda otonom ajanların devrede olması büyük tehlike. Kontrol edemezsek her türlü tehlike ve zarara da kapı açarız. Bu da tabii ki insanlığın sonuna kadar gidecek bir noktaya gelebilir.
Chatbotlar seviyesinde bir tehlikeli tasarım kararı da insan biçimci (antropomorfizm) modellerin tasarlanmış olması. Bunun da bir sorumlusu olmalı! Sistem “ben” diyor, “düşünüyorum” diyor, “üzgünüm” diyor, “seni anlıyorum” diyor. Oysaki bu teknik bir zorunluluk değil. Sistem “bu metin şunu içeriyor” diye de konuşabilir. Ama o zaman bağ kuramaz ve insanlar istenildiği kadar etkileşimde kalmaz!
Biz teknoloji şirketlerini yönetenlerin verdiği kararları ve yaptıkları eylemlerin sonuçlarını konuşuyoruz, teknolojiyi konuşmuyoruz. Karşımızda gerçekten olağanüstü bir teknoloji var. Protein katlanmasını çözen, tasarımcının eskizini hayata geçiren, milisaniyeler içinde tahmin yapabilen bir teknoloji.
Teknoloji şirketleri onu etkileşim artırma hedefiyle, alternatif aramadıkları yöntemler sonucu ortaya çıkan onaylayıcılık / yalakalık ve bir tasarım kararı olarak insan biçimcilik tercihleriyle ve dopamin döngüsüyle bir ürüne dönüştürdü. İnsan kontrolünü hiçe sayacak şekilde ajanlar tasarlandı.
Bu kararlar teknolojiye yön veren ve onun hayatımıza nasıl gireceğini belirleyen tasarım kararlarıydı. Ve tasarım kararları geri alınabilir! Kararların sorumluları da çıkıp hesap vermelidir.
Dikte edildiği gibi yavaşlatılması gereken yapay zeka teknolojisi değil, teknoloji şirketlerinin bu teknolojiyi bizim hayatımıza sokma biçimi. Milyarlar yatırdıkları ürünün hayallerindeki ürün olmadığı ve bekledikleri gibi çıkmadığı ortada. Hepimiz ve yaşamımız üzerine bir deney laboratuvarı kurdular, ürünler geliştirip denediler ve sonunda teorileri doğrulanamadı. Teknolojiyi ürüne dönüştürürken başvurdukları yöntemlerden bir kısmı oldukça yanlış çıktı, bunu kabul etmektense ürünlerini yapay zeka teknolojisinin kendisiymiş gibi sunuyorlar. Sanki yaşayan vakalar ve işaret edilen riskler teknolojinin problemi, kendi kararlarının sonucu ortaya çıkan ürünlerin değil!
Teknolojiyi yavaşlatmak çözüm değil, onun ürünlere dönüşme biçimini gözden geçirmemiz ve yeni güvenli yollar bulmamız gerekiyor. İnsan faydasını, güvenliği ve etik ilkeleri bir ürün gereksinimi olarak konumladıktan sonra tüm geliştirme süreçlerinin olası alternatiflerle birlikte masaya yatırılması gerekiyor.
Zarar Veren Yapay Zeka Sistemlerinin Sayıları Artıyor
Yapay Zekâ Vakaları Veri Tabanı’nda (AI Incidents Database) kayıtlı vaka sayısı 1.600’ü geçti; bu satırlar yazılırken son kayıt 1697 numaralı vakaydı. Fiziksel zarar, ayrımcılık, insan hakları ihlalleri, dezenformasyon, istismar vakaları her geçen gün artıyor.
Bu vakaların hiçbiri süper zekâ tarafından üretilmedi. Bugünkü ürünler tarafından üretildi. Bu nedenle de evet yavaşlatma iyi bir adım olur ama neyi yavaşlatacağımızı doğru belirledikten sonra ve o süreçte yapılacakları planladıktan sonra. Üstelik bu zararların mimarlarının da yönlendirmesi ile değil, onlar önce kendi sorumluluklarını kabul etsinler.
Üstelik herkesin hemfikir olması ve hep bir ağızdan yavaşlatma isteklerini dile getirmesinin altında da gizli bir ajanda var gibi duruyor. Sergilenen tiyatrodan anlaşılıyor ki, aynı şirketler aynı para odaklı hedeflerini yapay zeka güvenliği alanına da akıtacaklar. Üstelik ek olarak; açık kaynak yapay zekayı engelleme ve Çin’in geliştirdiği teknolojiyi bu bahane ile inceleme fırsatı yakalama ve asıl onu yavaşlatma arayışı olmasın sakın bu yükselen sesler. Çünkü eğer mevcut zararları önemseselerdi ve sorumluluğunu alsalardı 1600 vaka gerçekleşmezdi ve yeni zararlar oluşmasın diye önlem alınırdı.
Aysu Dericioğlu Egemen