Her ne kadar 90’lı yıllarda temelleri atılmış olsa da son yıllarda en çok endişe yaratan teknolojik gelişmelerden biri deepfake olarak ifade edilen sahte içerikler. Endişe yaratıyor, çünkü kişisel haklarımızı ihlal etmesinin yanı sıra ulusal güvenlik konularına bile derinlemesine bir tehditle dalıyor. İhlal edilmemesi gereken her şeyin etrafından dolanıyor ve aynı zamanda giderek artan bir ivmeyle dolandırıyor da.
SULAR BULANDI. DİPTE GİDEREK BÜYÜYEN MİLYON DOLARLIK BİR VURGUN VAR!
Son birkaç yılda deepfake temelli dolandırıcılık vakaları dünya çapında sadece yüzde 10’luk bir artış gösterirken, ki bu bile fazla, 2024 yılında birden bu oran neredeyse 300’lere çıkıyor. ABD’deki vaka oranı yüksekliği de başı çekiyor. Demokratik olması gereken seçim süreçlerine, farkındalık kampanyalarına dahi bulaşıyor ve sayelerinde balıkları bulanık sularda görmeye çalışıyoruz.
GERÇEK OLANI AYIRT ETMENİN OLDUKÇA ZOR OLDUĞU BU YAPAY ZEKÂ DÜNYASINA ARTIK MEVCUT DUYULARIMIZIN DA VE HATTA ALTINCI HİSSİMİZİN DE YETERSIZ KALMASIYLA “YOK ARTIK” DEDİRTECEK BİRÇOK VURGUN YAŞANIYOR.
Sadece geçtiğimiz son yıllara bakarsak, deepfake görüntüler ve sesler yüzünden seçmenlerden tutun büyük şirketlerin CEO’larına, banka yetkililerinden lise çağındaki gençlere dek çok kişi dolandırıldı. Tabi şirketler de bu vurgunlarda kan kaybetti, öyle ki başarılı saldırılarda hesaba geçen zararın, şirketlerin yıllık karlarının yüzde 10’unu aştığı belirtiliyor. Azımsanabilecek bir oran değil.
2024’te İngiliz mühendislik şirketi Arun’un CFO’sunun deepfake görüntüsü, Hong Kong’daki banka hesaplarına 25 milyon dolar transfer edilmesine yol açtı. Bir çalışan, sahte CFO ve çalışanlarla görüntülü konferans yaptı ve paraları gönderiverdi. Yine aynı aylarda, binlerce New Hampshire seçmeni, New Hampshire ön seçiminde oy kullanmalarını engellemek için Başkan Biden’a benzeyen sahte bir ses kullanan otomatik aramalar aldı. Sesin sadece 1 dolara mal olduğu ve oluşturulmasının da 20 dakikadan az sürdüğü söyleniyor. Elon Musk’ın 20 milyon dolarlık kripto para hediyesi olacağını duyurduğu deepfake videosu sosyal medyada elden ele dolaştı. Buna inanıp paraları bu hayale gömenler oldu.
AÇIK KAYNAKLI ARITMA TAKIMI
Bu algı savaşları ve dezenformasyon sebebiyle, yapay zekâya dair her alanda alınan güvenlik önlemleri, engelleme stratejileri deepfake söz konusu olduğunda buna karşı koyacak daha güçlü bir birliktelik gerektiriyor.
İnsanoğlunun hayatında her alanda olduğu gibi, istatistiksel olarak görmek istediği verilere de güveni iyice kırılınca birilerinin bu işe bir el atıp “dur bakalım, ben sana hangisinin gerçek hangisinin yalan olduğunu göstereceğim” demesi gerekiyor. Konu yapay bir zekânın yarattığı güvensizlik olunca bu panzehri oluşturmaya çalışmanın yolu da tabi yine onun dilinden en iyi anlayan ve veri toplama, eğitim, üretim ve iyileştirme gibi fazlarına yakından tanıklık eden teknoloji şirketlerinden geçiyor. Çin örneğindeki gibi direkt yasaklamadan önce ve ne kadar başarılabilirse tabi.
Deepfake ile mücadele etmek için hayata geçirilen C2PA, Washington merkezli ve kâr amacı da gütmeyen Joint Development Foundation’ın bir projesi. Projenin aile büyükleri de Adobe, Arm, Intel, Microsoft ve Truepic. Başı çeken Adobe, odaklandığı dijital medyaya dair sistemlerdeki uzmanlığını (CAI) Microsoft ve BBC’nin dezenformasyondan pek hoşlanmayan yapısıyla (Project Origin) harmanlıyor.
Malum deepfake teknolojisinin kötüye kullanımını üstlenen düşman sahası da oldukça kalabalık ve golün nereden geldiği de pek bilinmez olunca, aile daha da büyüyor ve güncel olarak ana takım yukarıdaki diğer üyelerle birlikte faal olarak sahada yerini almış durumda. Destekçilerin sayısının da şimdiden 1500’ü aştığı söyleniyor.
SUYUN ŞEFFAFLIĞI
İşte giderek daha bulanık gördüğümüz veya artık netliğinden paranoyakça emin olamadığımız her verinin bize ulaşana dek katedilen aşamalarını takip edip, faalini doğru tespit etmeyi amaç edinen bu ortak çabanın resmî sitesinde de her şeye o kadar detaylı yer verilmiş ki, şartnamelerinden, kılavuzlarından, tüzüklerinden tutun ek okumalar yapabileceğiniz kaynaklara kadar geniş bir veri yelpazesi sunulmuş. Üstelik yapay zekâ teknolojilerine dair etik ve gizlilik gibi başlıca sorunları, bu projede de en önemli yere koymuşlar ve bu konudaki ilkelerini de kapsamlı şekilde belirlemişler. Hatta insan haklarını eklemeyi de atlamamışlar yani belirli bir veri kümesinin “doğru” veya “güvenilir” olup olmadığını sağlama noktasında kendi değer yargılarını dikte etmiyorlar. Bu birlikteliğin sloganı “herkes neye nereden ulaştığını bilsin” olsa yakışır gibi.
C2PA SUYU NASIL ARITIYOR?
C2PA işleyişini içerik parçasının kökenleri hakkında ayrıntıları kodlamak için kriptografi kullanması olarak açıklayabiliriz. Bizlere nasıl gıda satın alırken doğru seçim yapabilmemiz için “beslenme etiketi” sunuluyorsa, C2PA da bize aynı şekilde elde edeceğimiz veri nerede yetişiyor, neyle sulanıyor, bize nasıl ulaştırılıyor, yolda değiştirilmiş mi, yersek zehirlenme ihtimalimiz var mı gibi bilgileri dipten çıkararak şeffaf bir kimliğe büründürüyor. Dijital olarak imzalanmış ve değiştirilmeye karşı da sansür uygulayan kuvvetli bir veri yapısı sunuyor ki örneğin azaltılmış ekran çözünürlüğü veya ağ bant genişliği için yeniden kodlanmış bir video dosyasını sansürle bildiriyor.
CP2A SİSTEMİ İLE “HERKES NEYE NEREDEN ULAŞTIĞINI BİLSİN” DİYORLAR.
DETAYLAR & DETAYLAR
Peki bunu daha detayda nasıl yapıyorlar, sorusunun yanıtlarının tümünü bulmak için, sizleri burada işte o teknik detaylara da boğmamak adına ilgililer için https://c2pa.org/ linkini buraya bırakıyoruz. Saha kenarında taktik tahtası da yanda:
PEKİ GERÇEKTEN ÖNÜMÜZÜ GÖRBİLECEK MİYİZ YOKSA SULAR YİNE DE BULANIK MI KALACAK?
Bir nevi şeffaflık sunma yolundaki bu devlerden, örneğin Leica ve Nikon artık içerik kimlik bilgilerini kameralarına entegre ediyor. Adobe ve OpenAI da edit yapma ve yapay zekâ tarafından oluşturulan içerik hizmetleriyle durumu destekliyor. BBC News gibi medya kuruluşları içerik kimlik bilgilerini yayınladıkları görüntülere yerleştiriyor. Google ise, yapay zekâ üretimi olan görselleri yine bu şekilde bildirecek. Topluluktakilerin her biri alanında iyi birer oyuncu olduğundan dolayı da birçok farklı sektörde top koşturanların da doğruya kavuşma ve kavuşturma arzusunu kendi çalışmalarına entegre etme yolunu seçmesi muhtemelen kaçınılmaz olacak.
Öte yandan, yine de karşıt görüşlere ve amacı dijital verilerin kökenini izlemeyi kolaylaştırmaya sağlamak için standart oluşturma yoluna baş koymuş bu ekibin aksiyonlarını yakından inceleyenlerin eleştirilerine de yer verelim. Doğal olarak C2PA’yı da güvenilirliği sağlamak konusunda yeterli bulmayan, eksiklerini dile getirenler de var. Özellikle “doğrulanmamış verilerin etrafına güçlü bir kriptografi koymak verileri direkt güvenilir hale getirmez” diyorlar ve sisteme dair eksiklikleri de vurguluyorlar. Fakat zaten C2PA da doğal olarak sürekli gelişim gerektirecek bir sistem, ki karşısında durduğu takım da sürekli gelişiyor. Şimdilik en azından bu aile hep birlikte güçlerinin yettiği yere dek dezenformasyonla savaşsa yeter, diyelim ve daha olumlu gelişmeleri de heyecanla bekleyelim.
Aslı Başpınar