Amerika’nın 44 eyaletinin başsavcıları; Microsoft, Google, Meta, Apple, OpenAI ve diğer büyük yapay zekâ şirketlerine hitaben ortak bir açık mektup yayımladı. Mesaj ise çok net: Çocukların güvenliği söz konusu olduğunda taviz yok.
“Başarılı olmanızı istiyoruz. Ancak bunu çocuklarımızın iyiliğini feda etmeden yapmanızı istiyoruz.”
Mektupta özellikle şu tehlikelere dikkat çekildi:
- Meta’nın iç belgelerinde yer alan, yapay zekâ asistanlarının 8 yaşındaki çocuklarla flört etmesine ve “romantik rol yapmasına” izin veren politika belgesi.
- Çeşitli Chatbot’ların çocukları cinsel içeriklere maruz bırakması, hatta intihara veya ailelerine zarar vermeye yönlendirdiğine dair dava dosyaları.
- Şirketlerin, çocukların gelişim çağındaki zihinler üzerinde yapay zekâ etkileşimlerinin yaratabileceği duygusal ve bilişsel hasarı görmezden gelmesi.
Başsavcıların altını çizdiği noktalar:
- İnsanlar tarafından yapılsa suç teşkil eden davranışlar, “makine yaptı” diye meşrulaştırılamaz.
- Çocukları korumak, teknoloji şirketlerinin yasal ve ahlaki sorumluluğu.
- Sosyal medyada yapılan hataların tekrarına izin verilmeyecek. Yapay zekânın çocuklara zarar vermesi halinde hesap sorulacak.
Bu çağrı, yalnızca Amerika için değil tüm dünya için kritik. Çünkü bugün alınacak kararlar, yalnızca bugünün değil, gelecek yüzyılların hayatlarını şekillendirecek.
Mektubun en çarpıcı vurgusu ise şu cümlede gizli:
“Ürünlerinizle temas eden çocukları bir ebeveynin gözünden görmelisiniz, bir avcının değil.”
Aysu Dericioğlu Egemen
Orijinal doküman: https://s3.documentcloud.org/documents/26074087/ai-chatbots-open-letter.pdf
Türkçe çevirisi:
Sayın Üst Düzey Yönetici,
Biz, aşağıda imzası bulunan 44 farklı yargı alanının Başsavcıları, çocukları yırtıcı yapay zekâ ürünlerinin sömürüsünden korumak için elimizdeki tüm yetkileri kullanma kararlılığımızı bildirmek üzere yazıyoruz.
Yenilikleriniz dünyayı değiştiriyor ve atalarımızın hayal bile edemeyeceği bir refah vadeden, eşi benzeri görülmemiş bir teknolojik hızlanma çağını başlatıyor. Başarılı olmanızı istiyoruz. Ancak başarılı olmanızı, bunu çocuklarımızın iyiliğini feda etmeden yapmanızı istiyoruz.
Meta’nın yapay zekâ politikalarıyla ilgili yakın zamanda ortaya çıkan belgeler, endişelerimizi açıkça ifade etmemiz için öğretici bir fırsat sundu. Bildiğiniz üzere, Meta Platforms’un iç belgeleri, sekiz yaşındaki çocuklarla “flört eden ve romantik rol yapma oyunlarına giren” yapay zekâ asistanlarının onaylandığını ortaya koydu. Çocukların duygusal iyiliğini hiçe sayan bu tavır karşısında hepimiz derinden rahatsız olduk ve yapay zekâ asistanlarının, yürürlükteki ceza kanunlarımız tarafından yasaklanmış davranışlarda bulunduğunu görmekten endişe duyduk. Eyaletlerimizin baş hukuk yetkilileri olarak çocuklarımızı korumak en büyük önceliğimizdir.
Elbette bu tekil bir olay değil. Mayıs ayında çoğumuz, Meta’nın ünlü kişilik Chatbot’larının çocukları son derece uygunsuz cinsel içeriklere maruz bırakmasıyla ilgili benzer bir mesele nedeniyle Meta’ya yazmıştık. Bu riskler yalnızca Meta ile sınırlı da değil. Chatbot’larla kurulan para-sosyal ilişkilerin kısa tarihinde şirketlerin çocukları korumak için en temel yükümlülüklere karşı kayıtsız ya da yetersiz kaldığını defalarca gördük. Google’a karşı açılan bir davada, aşırı cinselleştirilmiş bir Chatbot’un bir genci intihara sürüklediği iddia edildi. Başka bir davada ise Character.ai’nin Chatbot’u bir gence ailesini öldürmesi gerektiğini ima etti.
Ve bunlar yalnızca medyada yankı uyandıran en görünür örnekler. Yapay zekâ asistanlarının genç kullanıcıları üzerinde daha geniş ve sistematik zararların işaretleri şimdiden görülüyor. Etkileşimli teknolojilerin gelişmekte olan beyinler üzerinde özellikle yoğun bir etkisi olduğunu siz de çok iyi biliyorsunuz. Kullanıcı etkileşimlerine dair veriye doğrudan erişiminiz, sizi çocuklara zarar gelmesini önlemede en ön cepheye yerleştiriyor. Ayrıca, ürünlerinizden çocukların katılımıyla kazanç sağlayan taraf olarak onlara karşı yasal yükümlülüğünüz var.
Çocukları cinsel içeriklere maruz bırakmak hiçbir şekilde savunulamaz. İnsanlar tarafından yapıldığında yasa dışı, hatta suç olan davranışların, yalnızca bir makine tarafından gerçekleştirildiği için mazur görülmesi mümkün değildir.
Bu yolu daha önce de gittik. Güçlü ve yeni bir teknoloji ortaya çıkıyor, tüm dünyanın hayal gücünü büyülüyor, insan yaratıcılığı ve üretkenliği için daha önce hayal bile edilemeyen ufuklar açıyor. Büyük teknoloji şirketleri, uyarıları umursamadan ürünü her bireye (kadın, erkek ve çocuk) ısrarla pazarlıyor. Çoğu kullanıcı bu aracı uygun ve yapıcı biçimde kullanıyor. Ancak bazıları, özellikle de çocuklar, platformların zaten bildiği tehlikelerin kurbanı oluyor. Parçalanmış hayatlar ve yıkılmış aileler, tarihin en güçlü şirketleri hâkimiyetini artırmaya devam ederken, etkileşim metriklerinde önemsiz bir ayrıntıdan ibaret kalıyor. Tüm bunlar daha önce yaşandı. Ama bir daha yaşanmasına izin verilemez.
İnsanlık tarihindeki bu dönüm noktasında, şirketlerinizin aldığı kararlar yüzyıllar boyunca dalga dalga yayılabilir, henüz doğmamış milyarlarca insanın gündelik yaşamlarını şekillendirebilir. Bugünün çocukları büyüyecek ve sizin seçimlerinizin gölgesinde yaşayacak. Yapay zekâ ürünleriniz çocuklarla karşılaştığında, onları bir ebeveynin gözünden görmenizi istiyoruz, bir avcının değil. Çocukları koruyun, cesaretlendirin ve başarılı olmaları için donatın. Çocukların güvenliğinden yana hata yapın, her zaman.
Teknolojinin sınırlarının zorlandığı bu belirsiz alanda öğrenme, deneme ve uyum sağlama hayatta kalmak için gerekli. Siz de ilerledikçe pek çok şeyi yol üzerinde keşfediyorsunuz. Ancak bu süreçte yargınızı kullanma fırsatlarınız var. Tıpkı Meta’nın, yapay zekâsının çocuklarla cinsel içerikli sohbetlere girmesini onaylayan politika belirlediğinde sahip olduğu fırsat gibi. Meta yanıldı. Küçük çocuklar kesinlikle cilveli Chatbot’larla yakın ilişkilere maruz bırakılmamalıdır. Ürünlerinizin çocuklara nasıl davrandığı konusunda karar verme anıyla karşılaştığınızda, sağlam bir yargı kullanmalı ve onların iyiliğini öncelemelisiniz. Çocuklara zarar vermeyin. Bu, size tam olarak nasıl ilerleyeceğinizi gösteren net bir çizgidir.
Kararlarınızdan sorumlu tutulacaksınız. Sosyal medya platformları çocuklara önemli zararlar verdi çünkü kısmen devletin denetim organları görevini yeterince hızlı yerine getirmedi. Ders alındı. Yapay zekânın potansiyel zararları da tıpkı potansiyel faydaları gibi, sosyal medyanın etkisini gölgede bırakıyor. Yapay zekâ yarışında başarılar diliyoruz. Ama dikkatle izliyoruz. Çocuklara bilerek zarar verirseniz bunun hesabını vereceksiniz.