Birleşmiş Milletler Güvenlik Konseyi de bu gündem üzerine toplandı ve yapay zeka üzerinde kontrol sağlanamamasının uluslararası barış ve güvenlik tehdidine dönüştüğü ifade edildi.
Birleşmiş Milletler Güvenlik Konseyi “İnsan Kontrolünü” Konuştu
“İnsan kontrolü” yapay zeka alanının en önemli konularından biri. Kontrol edemediğimiz ve kendi kendine eylemlerde bulunabilen algoritmalar şu an fark ettiğimizden daha da tehlikeli.
BM toplantısının önemli davetlileri de vardı. OpenAI CEO’su Sam Altman, Anthropic CEO’su Dario Amodei ve Hugging Face CEO’su Clément Delangue riskler ne ve nasıl çözülür sorusunun cevabını vermeye çalıştılar. Yapay zekanın babası olarak anılan Yoshua Bengio da “tehlikeler gerçek ve yakın” diyerek öncü modellerin üç küresel tehdidini; felaket düzeyinde kötüye kullanım, gücün yoğunlaşması ve insan kontrol kaybını olarak sıraladı.
Dünya liderlerinden de ortak çözümler ve talepler yansıdı konuşmalara. Genel olarak herkes durumun farkındaydı ve uluslararası bir regülasyon ile sözleşme vurgusu öne çıkıyordu. Yalnız Amerika, uluslararası diyaloğun küresel yönetişime kaymasına izin verilmeyeceğini söyledi. Bu benim teknolojim, ben geliştiriyorum diyen Amerika, olası tüm uluslararası regülasyon girişimlerine de karşı çıkacağını açıkça belli etti.
Üstelik kontrolden çıkan OpenAI yapay zeka ajanlarıydı, saldırılan platform Hugging Face’e 17.600 eylem gerçekleştirmişti. Hugging Face ise kendini Çin kaynaklı açık kaynak yapay zeka sistemi GLM 5.2 ile koruyabildi çünkü kapalı öncü modeller onların kendilerini savunma girişimlerini, saldırı zannederek engelledi. Hugging Face’in kendini savunmak için yapay zeka sistemlerine ihtiyaç duyması önemli bir detay, demek ki yapay zeka sistemlerine yine yapay zeka sistemleri ile karşılık vermek durumunda kalacağız, salt insan gücü yetmeyecek.
Yaşanan olay ayrıca açık kaynak yapay zeka sistemlerinin de önemini ortaya koydu. Gücün belirli şirketler elinde bulunması riskine, herkesin kullanımına açık yapay zeka sistemleri ile cevap verebileceğimizi gösterdi.
Bir Hafta Sonra Washington’dan Hamle Geldi
Toplantıdan ve yapılan regülasyon çağrılarından sonra, 29 Eylül’de Amerikan Başkanı Trump ile Google, Anthropic, Meta, OpenAI, xAI ve Nvidia’nın yöneticileri “Öncü Sorumluluklar Üzerine Ortak Taahhüt”ü imzaladı.
Metin, her şirketin kendi teknolojisini güvenli biçimde geliştirmekten sorumlu olduğu fikriyle açılıyor ve dört katmanlı bir kontrol sistemi öneriyor:
- Modelin eğitim ve kullanım sürecinde siber güvenlik, biyolojik ve kimyasal tehditler gibi alanlarda iç kontroller.
- Bu kontrollerin işleyişini izleyen bir iç ekip.
- Kontrolleri değerlendiren bağımsız bir dış denetçi.
- Tüm raporları alan, yönetim kurulu bünyesinde bağımsız bir komite.
Yani önlemler tamamen şirketlerin gönüllü çabasına bırakılıyor. Üstelik ilkeleri şirketler yazıyor ve denetçiyi şirketler seçiyor. Bu adımların yasaya dönüşmesi ise “zamanla” düşünülebilecek bir ihtimal olarak erteleniyor. Taahhüdü uygulatacak bir yasa ya da kurum ise yok.
Bu kontrol sistemleri oldukça anlamlı ve gerekli. Çoktan olmalıydı fakat bunlar yetmez. Tabii ki şirketler önlem alacak, gereken mekanizmaları kuracak ve kendine düşen görevi yerine getirecek ama devletlerin de sorumlulukları var. Hukukun devreye girmesi gereken yerler var. Nasıl ilaçlar lisanslanmadan satılamıyorsa, araçlar muayenesiz trafiğe çıkamıyorsa, bu modellerin de şirketlerin gönüllü kararları ile tüm dünyada kullanıma sunulması büyük bir tehlike.
Tüm Bu Önlemler Sistemin “AMAÇLANDIĞI GİBİ” Olup Olmaması Üzerine!
İmzalanan kısa metinde “as intended”, yani “amaçlandığı gibi” ifadesi ise daha derin bir sorunu gösteriyor. Teknoloji amaçlandığı gibi davranmalı, kontroller amaçlandığı gibi işlemeli, kamu da sistemin amaçlandığı gibi çalıştığına güvenmeli.
Peki nedir bu amaçlanan? Kimse onu sorgulamıyor! Sen bunu amaçlayabilirsin ama bunu amaçlayamazsın demiyor! Oysaki şirket kendi sistemlerinin kendilerince amaçlanan şekilde çalışmasını sağlayacak. Amacı kim sorgulayacak?
Kusursuz çalışan bir kitlesel gözetim sistemi bu dört denetimden de geçer. Hedefini tam amaçlandığı gibi seçen otonom bir silah da. Bağımsız denetçinin onaylayacağı şey şirketin kendi amacına uygunluk. Fakat doğru çalışan bir sistem, doğru bir sistem değildir!
Metinde adı konan tek zarar, sistemin sahibinin kontrolünden çıkması. Mahremiyet, ayrımcılık, manipülasyon ve gözetim listede yok. Sistemin sahibi hepimizin sahibine dönüşmesin sonunda! Sistem tam amaçlandığı gibi çalışır çalışmasına da belirlenen amaç kime hizmet edecek?
O Zaman Ne Amaçlanmalı Biz Söyleyelim!
Türkiye’nin de aralarında bulunduğu UNESCO üyesi ülkelerin kabul ettiği Yapay Zekâ Etiği Tavsiyesi, yapay zekânın sosyal puanlama ya da kitlesel gözetim amacıyla kullanılmamasını istiyor. AB Yapay Zekâ Yasası’nda da; manipülasyon, sosyal puanlama, profile dayalı suç tahmini, rastgele yüz toplayarak yüz tanıma veri tabanı oluşturma, işyerlerinde ve okulda duygu tanıma, biyometrik verilerden kişilerin özel ve hassas özelliklerinin çıkarılması yasaklardan bazıları. Üstelik temmuz ayında yasaklar listesini de genişletti. Artık kişinin rızası olmadan onu çıplak ya da cinsel içerikli gösteren sahte görüntü, video veya ses üreten “çıplaklaştırma” (nudifier) uygulamaları ile çocuk istismarı içeriği üreten yapay zekâ sistemleri de yasak. Yasak, yalnızca bu amaçla tasarlanmış sistemleri değil, yeterli önlem alınmadığı için bu tür içerik üretebilen sistemleri de kapsıyor.
Ortak yazarları arasında yer aldığım CAIDP’nin (Center for AI and Digital Policy) Enforcing Red Lines: The Time is Now raporu da yüksek riskli sistemlerle yasaklanması gereken sistemleri birbirinden net biçimde ayırıyor. Yüksek riskli sistemlerin tehlikeleri denetim ve şeffaflıkla azaltılabilir. Yasaklanması gerekenlerde ise amacın, etkinin ya da öngörülebilir kullanımın kendisi insan haklarıyla bağdaşmaz. Bu yüzden zararı işlevinden ayrılamayan sistemler gönüllü taahhütlerle yönetilemez. Rapor, kırmızı çizgileri bağlayıcı kılmak için AB YZ Yasası örnek alınarak hazırlanacak yasakları öneriyor. Buna ek olarak insan kontrolünden çıkan sistemlerin kapatılmasını şart koşan bir “kapatma yükümlülüğü” getirilmesini istiyor. 90 ülkeyi inceleyerek aynı sonuca varıyor. Dünya, yapay zekânın bazı kullanımlarının insan onuru, demokrasi ve hukukun üstünlüğüyle bağdaşmadığı konusunda giderek uzlaşıyor. Kırmızı çizgi dediğimiz şey tam olarak budur: “Çalışıyor mu?” sorusundan önce gelen “Bu amaçlanabilir mi?” sorusu.
Güvenlik Konseyi’nde dünya “kontrolü kaybedersek ne olur?” diye sordu. Belki şimdi soruyu değiştirme zamanı: “Sistem çalışıyor mu?” yerine “Kimin için, ne amaçla?” Çünkü kontrolü yapay zekaya kaybetmemek yetmez; kontrolün kimin elinde, ne için kullanıldığını da sormamız gerekir.
Aysu Dericioğlu Egemen
CAIDP – AI Red Lines Report: https://www.caidp.org/reports/ai-red-lines/