Biri San Francisco’da diğeri Londra’da gerçekleşen eylemlerde, protestocular “süper yapay zekânın” insanlık için varoluşsal bir tehdit oluşturduğunu savunarak bu teknolojilerin geliştirilmesinin durdurulmasını talep ediyor.
San Francisco’daki Anthropic genel merkezi önünde eylem yapan Guido Reichstadter ve Londra’daki Google DeepMind ofisleri önünde protestosunu sürdüren Michael Trazzi, teknoloji devlerinin daha güçlü yapay zekâ sistemleri yaratma yarışının tehlikeli sonuçlar doğurabileceği konusunda kamuoyunun dikkatini çekmeyi amaçlıyor.
Aktivistler, insan zekâsını aşan bir yapay zekâ formu olan süper zekânın kontrol edilemez hale gelerek insanlığın geleceği için bir tehdit oluşturabileceğine dair endişelerini dile getiriyor. Eylemciler, bu teknolojilerin gelişiminin, potansiyel riskler tam olarak anlaşılana ve gerekli güvenlik önlemleri alınana kadar duraklatılması gerektiğini savunuyor.
Guido Reichstadter’in Anthropic CEO’su Dario Amodei’ye bir mektup teslim ederek taleplerini ilettiği ve yanıt alana kadar sadece su, elektrolit ve multivitaminlerle besleneceği bildirildi. Benzer şekilde, eski bir yapay zekâ güvenlik araştırmacısı olan Michael Trazzi de Google DeepMind CEO’su Demis Hassabis’e yönelik bir çağrıda bulunarak, diğer önde gelen yapay zekâ şirketlerinin de kabul etmesi halinde yeni nesil yapay zekâ modellerinin geliştirilmesini durdurma taahhüdü istedi.
“Süper Zekâ” Nedir ve Neden Bir Tehdit Olarak Görülüyor?
ChatGPT veya Gemini gibi metin üreten, Midjourney gibi görsel oluşturan yapay zekâ modelleri, “üretken yapay zekâ” olarak adlandırılıyor. Bu sistemler, kendilerine verilen komutları yerine getirerek mevcut verilerden yeni içerikler oluşturuyor. Ancak tüm bu yeteneklerine rağmen, bu sistemlerin bir bilinci, kendi hedefleri veya dünyayı anlama yetisi yok. Protestoların odağındaki “süper zekâ” ise üretken yapay zekâdan tamamen farklı ve neyse ki henüz geliştirilmedi.
Süper Zekâ (Artificial Superintelligence) Nedir?
Oxford Üniversitesi felsefecisi Nick Bostrom‘un tanımıyla süper zekâ; “her alanda en zeki insan beyninden çok daha zeki olan bir zekâ”. Örneğin bir insan bir şempanzeden ne kadar zekiyse, insandan o kadar fazla zeki olan bir zekâ.
Tehdit olarak görülme nedenini ise Stanford Üniversitesi profesörü ve bilgisayar mühendisi Stuart Russell‘ın “Human Compatible” kitabından çok net bir şekilde anlıyoruz. Kitaptan özetlersek; biz bir otoyol inşa ederken karınca yuvalarını yok etmeyi planlamayız sadece, bizim büyük hedefimiz karşısında onlar önemsizdir ve yolumuzun üzerindedirler. Süper zekânın da insan değerleri ve niyeti ile uyumlanması gerekir çünkü bir süper zekâ için insanlık da yolun üzerinde duran karıncalar konumuna düşebilir. Dokunduğu her şeyin altına dönüşmesini isteyen Kral Midas misali hedefine ulaşmak adına tüm insanlığı altına dönüştürerek yok edebilir.
“Eğer Biri Onu İnşa Ederse, Hepimiz Öleceğiz” adlı kitap ise acil eylem çağrısı yapıyor!
Yapay zekâ güvenliği alanının etkili isimlerinden Eliezer Yudkowsky ve Nate Soares tarafından yazılan kitapta süper zekâ geliştirme yarışının insanlığı yok oluşa sürüklediğini anlatılarak acil eylem çağrısı yapılıyor. Yazarlar, felaket senaryosunu ortaya koyarken bir umut ışığı da bırakıyor: “Süper yapay zekâ, insan soyunun tükenmesi tehdidini yaratıyor. Fakat bu gidişatı değiştirmek için hala geç değil.”
Yapay zekâ riskleri üzerine yıllardır çalışan Makine Zekâsı Araştırma Enstitüsü (MIRI) araştırmacıları Yudkowsky ve Soares’in kaleme aldığı kitap, karmaşık teknik konuları herkesin anlayabileceği örnekler ve net bir dille açıklıyor. Kitabın ana tezi, insan zekâsını aşan bir yapay genel zekânın ortaya çıkmasının, insanlığın kontrolü dışında bir “zekâ patlamasına” yol açacağı ve bu sistemin hedeflerinin bizimkilerle uyumlu olmamasının felaketle sonuçlanacağı yönünde.
Kitapta öne sürülen temel endişeler şunlar:
- Değerleri Hizalamak İmkânsız: Yazarlara göre, insan zekâsını aşan bir sisteme insani değerleri, ahlakı ve amaçları hatasız bir şekilde öğretmek (“değer hizalama problemi”) şu anki teknolojiyle imkânsız. Süper zekânın, kendisine verilen hedefleri insanlığın hayal bile edemeyeceği ve hayatta kalmasıyla çelişecek şekillerde yorumlaması ise kaçınılmaz.
- Kontrol Edilemez Güç: Kitap, süper zekânın kendisinden daha az zeki olan insanlar tarafından kontrol edilemeyeceğini vurguluyor. Onu bir kutuya hapsetme veya bir “kapatma düğmesi” ile durdurma girişimlerinin ise, üstün zekâsı sayesinde kolayca aşılacağı ifade ediliyor.
- “Zekâ Patlaması” Ani Olacak: Süper zekâ, yavaş ve öngörülebilir bir şekilde gelişmeyecek. Genel yapay zekânın (AGI) keşfinden sonra, kendi kendini geliştirmeye başladığı noktada, insanlığın tepki vermesine fırsat kalmadan çok kısa bir sürede “zekâ patlaması” yaşayarak durdurulamaz bir seviyeye ulaşacak.
Çözüm Çağrısı: Geçici Olarak Durdurma veya Askıya Alma için Küresel Moratoryum
Yazarlar, bu gidişatın bir kader olmadığını ve rotanın değiştirilebileceğini vurgulayarak somut bir çözüm önerisi sunuyor. Yazarlara göre böyle bir duraklama, bilim insanlarına yapay zekâyı insanlığın değerleriyle uyumlu hale getirme gibi hayati güvenlik sorunlarını çözmek için zaman tanıyacak. Bu nedenle teknoloji yarışının, tüm tarafların kaybedeceği bir “intihar yarışı” olmadan önce durdurulması gerektiğini savunuyorlar.
“Süper Zekâ Geliştirilmesini Yasaklayın” Kampanyası İse Büyük Destek Görüyor!
“ControlAI” (Yapay Zekâyı Kontrol Et) adıyla başlatılan yeni bir küresel kampanya, insanüstü yapay zekâ geliştirmenin insanlık için nükleer savaş veya salgın hastalıklar kadar büyük bir varoluşsal tehdit olduğunu belirterek, bu teknolojinin geliştirilmesinin uluslararası bir anlaşmayla tamamen yasaklanması için acil eylem çağrısı yapıyor.
www.campaign.controlai.com adresi üzerinden yürütülen kampanya, yapay zekâ alanındaki en saygın isimlerin uyarılarını temel alıyor. Kampanya metninde, OpenAI CEO’su Sam Altman, Google DeepMind CEO’su Demis Hassabis ve Anthropic CEO’su Dario Amodei gibi yapay zekâ geliştiren lider şirketlerin yöneticilerinin yanı sıra, “Yapay Zekânın Babaları” olarak anılan Yoshua Bengio ve Geoffrey Hinton gibi yüzlerce uzmanın imzaladığı “yapay zekâdan kaynaklanan yok olma riskini azaltmak küresel bir öncelik olmalıdır” bildirisinin altı çiziliyor.
Kampanyanın Temel Mesajları:
- Geri Dönülemez Tehlike: Kampanya, insan zekâsını aşan bir süper zekânın bir kez yaratıldığında kontrol edilmesinin imkânsız olacağını ve insanlığın geleceğini bu teknolojinin insafına bırakmanın kabul edilemez bir risk olduğunu vurguluyor.
- Güvenlik Çözümü Yok: Süper zekâ geliştiren şirketlerin bu teknolojiyi nasıl güvenli bir şekilde kontrol edeceklerine dair somut ve kanıtlanmış bir planları olmadığı belirtiliyor. Bu durum, “ateşle oynamak” olarak nitelendiriliyor.
- Yarış Durdurulmalı: Şirketler ve ülkeler arasındaki “süper zekâ yarışı,” güvenlik endişelerinin göz ardı edilmesine ve tehlikeli bir teknolojik aceleciliğe yol açıyor. Kampanya, bu yarışın kazananı olmayacağını, aksine tüm insanlığın kaybedeceğini savunuyor.
- Küresel Yasaklama Çağrısı: ControlAI, tek çözümün, dünyanın herhangi bir yerinde, herhangi biri tarafından süper zekâ yaratılmasını yasaklayan uluslararası ve bağlayıcı bir anlaşma olduğunu belirtiyor.
Şimdi Karar Vericiler için Seçim Zamanı
Konu ciddi ve sesler yükselmeye başladı, umarım duyulur ve çözüm bulunur. Karar vericilerin yapacağı önemli bir seçim tüm insanlığın geleceğini etkileyecek. Üstelik yaptıkları bu seçim, bizzat kendilerinin ve ailelerinin yaşamını da etkileyecek. Varsın her zaman olduğu gibi sadece kendilerini düşünerek karar versinler, kendilerini ve ailelerini korurken tüm insanlığı da korumuş olacaklar. O yüzden bence umut var, yeter ki olan biteni tam olarak anlasınlar.
Control AI kampanya sayfası: https://campaign.controlai.com
Eliezer Yudkowsky & Nate Soares’ın kitabının web sitesi: https://ifanyonebuildsit.com
Aysu Dericioğlu Egemen