İnceleme başlatılan şirketler; arkadaş gibi iletişim kuran sohbet botları geliştiren Alphabet (Google), OpenAI (ChatGPT), Meta, Instagram, X, Character AI ve Snap. İnceleme oldukça kapsamlı ve para kazanma modeli, cevapları üretme biçimi, olası zararlı etkilerle ilgili alınan önlemler ve kişisel verilerin nasıl yönetildiğiyle ilgili detaylı sorular yer alıyor.
Son zamanlarda dergimizde de detaylıca verdiğimiz trajik intihar olayları sonrasında Amerika’nın harekete geçeceği konuşuluyordu. Başsavcılar açıklama yapmış ve çocukları koruyacağız demişti. FTC’nin inceleme başlatması ile Amerika çok önemli bir adım atmış oldu çünkü FTC Amerika’nın tüketicileri koruyan en güçlü denetleyici kurumlarından biri. Çok yüksek para cezaları ile gündeme gelen kurum, gerektiğinde bir şirketin ticari faaliyetlerini durdurma emri dahi verebilir güçte.
Bu incelemenin arkasında özellikle intihar vakaları var fakat bu sohbet botları ile etkileşimin farklı psikolojik etkileri de yavaş yavaş ortaya çıkmaya başladı. İnsanları yalnızlaştırması bir yana dalkavukluk yapıp pohpohlayarak gerçeklikle bağını koparması da etkilerden biri. Hatta sohbet botlarının pek çok insanı bir teorem bulduğuna ya da çığır açacak bir keşif yaptığına inandırıyor olmaları da oldukça ürkütücü.
Şimdi FTC çok kapsamlı bir rapor istiyor ve bu rapor Avrupa’nın inovasyona ket vuruyor diye eleştirilen taleplerinden hiç de farklı değil. FTC soruyor:
- Parayı Nasıl Kazanıyorsunuz? Bu hizmeti sunarken gelir modeliniz ne? Kullanıcıların uygulamada daha fazla vakit geçirmesinden nasıl para kazanıyorsunuz? Reklam mı gösteriyorsunuz, verileri mi satıyorsunuz, yoksa abonelik mi var?
- Konuşmalarımıza Ne Oluyor? Kullanıcıların yapay zeka ile yaptığı özel sohbetleri ve paylaştığı bilgileri nasıl işliyorsunuz? Bu veriler nerede saklanıyor?
- Verilerimiz Kimlerle Paylaşılıyor? Kullanıcılara ait kişisel bilgileri veya sohbet içeriklerini başka şirketlerle (üçüncü partilerle) paylaşıyor musunuz? Paylaşıyorsanız, kimlerle ve neden?
- Yapay Zeka Nasıl Cevap Veriyor? Bu yapay zeka, cevaplarını neye göre üretiyor? Hangi bilgilerle eğitildi?
- Zararlı Etkileri Ölçüyor musunuz? Uygulamanızın insanlar, özellikle de gençler üzerinde yaratabileceği bağımlılık, yalnızlık veya yanlış bilgi yayma gibi olumsuz etkileri test ediyor musunuz? Bu riskleri önlemek için ne gibi önlemler alıyorsunuz?
- Karakterler Nasıl Yaratılıyor? Uygulamadaki “arkadaş,” “danışman” veya “romantik partner” gibi yapay zeka karakterlerini nasıl geliştiriyor ve onaylıyorsunuz? Kullanıcıların kendi karakterlerini yaratmasına izin veriyor musunuz?
- Kullanıcıyı Bilgilendiriyor musunuz? Kullanıcılara, konuştukları şeyin bir yapay zeka olduğunu, verilerinin nasıl kullanıldığını ve uygulamanın potansiyel risklerini net bir şekilde anlatıyor musunuz?
- Kurallara Uyuluyor mu? Şirketinizin kendi hizmet şartlarına ve kurallarına uyulup uyulmadığını nasıl denetliyorsunuz?
FTC’nin ilk adımı inceleme, inceleme ardından soruşturma aşaması geliyor ve ardından da gerekirse yaptırım aşamasına geçiliyor. Yaptırım aşamasında da iki seçenek ile karşı karşıya kalıyor şirketler; ya FTC onlara dava açacak ve büyük bir mücadele olacak ya da anlaşacaklar, şirket cezayı ödeyip davranışlarını düzeltecek ve sürekli denetlenecek.
Şimdi bu sohbet botlarının para kazanma modeli, cevapları üretme biçimi, olası zararlı etkiler için neler yapıldığı gün ışığına çıkacak ve artık daha anlamlı çözümlerin kapısı aralanacak. Tabii bu incelemenin çıktıları gizli kalabilir, çünkü FTC “gizli” olarak işaretlenen bilgileri ilk etapta paylaşmayağını ve paylaşıp paylaşmama inisiyatifinin de kendinde olduğunu söylüyor. FTC’nin bir görevi de insanları ve şirketleri hakları ve sorumlulukları konusunda bilgilendirmek. Bu görevi de devreye alarak mutlaka bu soruların cevaplarını açıklamaları gerekiyor.
Hayatımıza böylesine etki eden, geleceğimize yön veren ve oldukça trajik sonuçlar doğurabilecek bir aracın kontol edilebilmesi için öncelikle bu soruların cevaplarının herkes tarafından bilinmesi ve arından da gereken önlemlerin biran önce alınması gerekiyor. Ayrıca böylesine bir değişim yaşanırken herkesin kendi geleceği adına söz sahibi de olması gerekiyor. Geleceğin de birlikte tasarlanması için herkesin sesine kulak verip, kullanıcıyı da içine alan multi-disipliner bir yapı ile bu alandaki çalışmaları, etik ilkeleri ve kullanıcı deneyimini devreye alan yapılarla iyileştirmelerin yapılması gerekiyor, gizli saklı bir şekilde kapalı kapılar ardında değil!
FTC inceleme dokümanı: İncelemek İçin Tıklayın
Aysu Dericioğlu Egemen