Avrupa Birliği Yapay Zekâ Yasası yıllar süren uzun bir yolculuğun sonunda Ağustos 2024 itibariyle yürürlüğe girmişti ve 2 Şubat 2025 tarihi itibariyle de bazı maddeleriyle uygulanmaya başladı. Birlik sınırları için yapay zekâ alanında faaliyet gösteren veya yapay zekâ destekli çıktıları Birlik sınırları içine girenlerin artık ciddi yükümlülükleri var ve 35 Milyon Euro’yu bulan cezalar ile karşı karşıya kalmak mümkün.
YASAKLAR NERELERE UZANIYOR?
AB Yapay Zekâ Yasasının kapsama alanı oldukça geniş ve hem Avrupa Birliği içindeki hem de dışındaki yapay zekâ değer ekosisteminden geniş bir grubu kapsıyor. Bu grubun içinde, Birlik sınırları içinde faaliyet gösteren;
• yapay zekâ sistem sağlayıcıları,
• yapay zekâ sistemlerinin kullanıcı ve dağıtıcıları (deployers),
• distribütörler, hizmet sağlayıcılar, yetkili temsilciler,
• kendi markası altında ürünü ile birlikte yapay zekâ sistemini hizmete sunan üreticiler yer alıyor.
Ayrıca, Birlik içinde piyasaya sürülmemiş, hizmete sunulmamış veya kullanılmamış olsa bile;
• Birlik içinde yerleşik bir işletmeci ile yüksek riskli olarak nitelendirilebilecek bir yapay zekâ sistemi tarafından gerçekleştirilecek bir faaliyete ilişkin olarak hizmet sözleşmesi yapan işletmeciler,
• üçüncü bir ülkede yerleşik yapay zekâ sistemi sağlayıcıları ve kullanıcıları da eğer ürettikleri çıktı Birlik içinde kullanılmak üzere tasarlanmışsa yer alıyor.
İLK DEVREYE GİRENLERDEN BİRİ “YAPAY ZEKÂ OKURYAZARLIĞI KOŞULU”
2 Şubat’ta devreye giren yükümlülük ile hedeflenen, güvenilir yapay zekânın Birlik içinde sağlamlaşması ve yenilikçi gelişimini sürdürebilmesi. Bu yükümlülük sadece genel bir bilinçlendirme girişiminin ötesinde, yapay zekâ sistem geliştiricileri ve dağıtıcılarının çalışanlarının yapay zekâ okuryazarlığını geliştirmek adına benimsenmiş. Hatta olası tüm aktörler düşünülmüş ve yapay zekâ sistemlerinin işletilmesi ile kullanımıyla ilgilenen diğer aktörleri de kapsam içine alıyor.
OKURYAZARLIK MADDESİNİN ÖNEMLİ BİR PARÇASI: ETİK!
Düzenleme ile sadece teknik bir eğitimden bahsedilmiyor. “Yapay zekâ sistemlerinin uygulanacağı kişi veya gruplar göz önünde bulundurulmalıdır” denilerek etik ile sosyal etki de devreye sokuluyor.
Yasaya göre; geliştiricilerin ve dağıtıcıların, hedef kitleye veya kullanıcılara uygun bir bilinçlendirme ve eğitim yaklaşımı benimsemeleri gerekiyor. Eğitim yaklaşımını belirlerken de bu sistemlerden etkilenen kişilerin sistemleri anlaması için ihtiyaç duyacağı bilgileri değerlendirilmesi gerekiyor. Faydalar, riskler, güvenceler, haklar ve yükümlülükler konusundaki anlayışın arttırılması hedefleniyor.
Ana amaç temel hakların, sağlık ve güvenliğin korunmasının yanı sıra demokratik denetimin sağlanması ve yapay zekâ sistemlerinden en yüksek faydanın elde edilmesi. Bu amaç için gereken okuryazarlık ise; tüm paydaşların yapay zekâ sistemleri hakkında bilinçli kararlar verebilmesi için gereken iç görüleri edinmesi.
Kurulacak sistem özelinde değişebilen eğitim içeriğinin aşağıdakileri kapsayacak şekilde olması gerekiyor:
• yapay zekâ sisteminin geliştirme aşamasında teknik unsurların doğru uygulanması,
• kullanım sırasında uygulanması gereken önlemlerin bilinmesi,
• sistem çıktılarının uygun şekilde yorumlanması,
• etkilenen kişiler açısından yapay zekâ yardımıyla alınan kararların kendileri üzerindeki etkisinin anlaşılması.
Okuryazarlık tanımı sadece teknik özelliklerin anlaşılmasından ibaret değil; geliştiren ve kullanan tüm paydaşların farkındalığının amaçlandığı, pozitif etkinin ve etiğin vurgulandığı bir yapı gerektiriyor. Yapay zekâ araçlarını geliştirme ve etkin kullanma bilgisinin oldukça ötesinde; doğru uygulama, gereken önlemler, uygun yorumlama ve etkilerinin anlaşılmasına odaklanıyor.
DEVREYE GİREN İKİNCİ ÖNEMLİKONU İSE “YASAKLANAN YAPAY ZEKÂ SİSTEMLERİ”
AB Yapay Zekâ Yasası 2 Şubat itibariyle kabul edilemez risk kategorisinde değerlendirdiği uygulamalar için ise yasakları devreye soktu. Yasa genel olarak risk yaklaşımlı bir yapı kurguluyor. İnsanların güvenliği ve hakları için açık bir tehdit oluşturan tüm yapay zekâ sistemleri kabul edilemeyen risk kapsamında. Yasaklar aslında yapay zekâ kullanılsın ya da kullanılmasın her koşulda yasak olması gereken konulardan oluşuyor. Yasakların amacı vatandaşların haklarını korumak.
YAPAY ZEKÂ TEKNOLOJİSİ KULLANILARAK YAPILMASI YASAKLANANLAR:
1. ZARAR VERİCİ ŞEKİLDE MANİPÜLASYON VE ALDATMA
Bu yasak, kişinin karar alma yetisini veya özgür iradesini bozan ya da zayıflatan manipülatif veya aldatıcı teknikler için konulmuş. Örneğin makine-beyin arayüzleri veya sanal gerçeklik gibi teknolojilerle birlikte kullanılan yapay zekâ teknolojileri ile kişilerin algılayamayacağı ve bilinçaltına yönelik uyaranlar kullanarak manipülasyon yapılması.
2. HASSASİYET İSTİSMARI İLE ZARAR VERME
Bu başlık ile de yapay zekâ teknolojileri ile dezavantajlı kişi veya toplulukların hassasiyetlerinden yararlanarak onlara zarar verilmesi yasaklanıyor. Örneğin yoksulluk içinde yaşayan kişiler, belli bir yaş grubuna dahil kişiler, etnik veya dini azınlıklar gibi grupların hassasiyetlerinden yararlanarak onlara kasıtlı olarak zarar veren veya dolandıran uygulamalar bu kapsamda değerlendiriliyor.
3. SOSYAL PUANLAMA YAPARAK OLUMSUZ ETKİ OLUŞTURMA
Bu yasak ise, bireylerin sosyal davranışları nedeniyle haksız yere yargılanmalarını veya ayrımcılığa uğramalarını önlemek için getirilmiş. Yasaklanan yapay zekâ uygulamaları, sosyal davranışlar ile ilgili toplanan veriler üzerinden değerlendirme veya sınıflandırma yaparak kişilerin; haksız, orantısız, olumsuz ve dezavantajlı şekilde muamele görmesine neden olan uygulamalar. Örneğin, bir kişinin farklı amaçla toplanan verilerinden değerlendirme yapılarak, sosyal bir davranışı nedeniyle, işe alınmamasına ya da terfi edememesine neden olan bir uygulama.
4. PROFİLLENDİRME YOLUYLA BİREYLERİN SUÇ İŞLEME RİSKİNİ DEĞERLENDİRME VEYA TAHİN ETME
Bu başlık ile yapay zekâ teknolojisi kullanarak bir bireyin kişilik özelliklerine dayanarak profillendirilmesiyle onun suç işleme riskini değerlendirmek veya tahmin etmek yasaklanıyor. Ancak, bu yasak ile ilgili önemli istisnalar var. Çünkü yapay zekâ sistemlerinin suç izleme açısından oldukça avantajı var. Bu başlık, suçla doğrudan bağlantılı, objektif ve doğrulanabilir kanıtlara dayanan değerlendirmeleri destekleyen yapay zekâ sistemlerini yasaklamıyor.
Ayrıca bu yasak bireylerin profillenmesine veya kişilik özelliklerine dayanmayan risk analizlerini de kapsamıyor. Yani şirketler tarafından gerçekleştirilen şüpheli işlemler temel alınarak mali dolandırıcılık riskini değerlendirmek için kullanılan yapay zekâ sistemleri veya gümrük makamlarının, bilinen kaçakçılık rotalarına dayalı olarak narkotik veya yasadışı malların yerini tahmin etmek için kullandığı risk analiz araçları bu yasak kapsamında değil. Üstelik bu tür uygulamalar çok önemli ve gerekli.
5. İNTERNET VEYA KAMERA GÖRÜNTÜLERİNDEN HEDEF GÖZETMEKSİZİN VERİ TOPLAYARAK YÜZ TANIMA VERİ TABANLARI OLUŞTURMA VEYA GENİŞLETME
Bu başlık ile de yapay zekâ sistemlerinin, internet veya kapalı devre kamera görüntülerinden hedef gözetmeksizin yüz görselleri toplayarak yüz tanıma veri tabanları oluşturması yasaklanıyor. Bu yasağın temelinde temel hakları ciddi şekilde ihlal eden kitlesel gözetimin kabul edilmeyişi ve mahremiyet hakkına verilen önem yer alıyor.
6. İŞ YERLERİNDE VE EĞİTİM KURUMLARINDA DUYGU TANIMA
İşyeri ve eğitimle ilgili durumlarda bireylerin duygusal durumlarını tespit etmek için tasarlanmış yapay zekâ sistemleri de yasaklananlar arasında. Ancak yalnızca tıbbi veya güvenlik amaçlarıyla kullanılan ve terapötik amaçlara yönelik sistemler yasak kapsamında bulunmuyor. Bu yasak ile biyometrik verilere dayanarak duygu veya niyet belirleyen yapay zekâ sistemlerinin ayrımcı sonuçlara yol açabileceği ve kişilerin hak ve özgürlüklerini ihlal edebileceği ifade ediliyor. Özellikle hiyerarşik ilişkilerin söz konusu olduğu iş ve eğitim ortamlarında yapay zekâ sistemlerinin özel yaşamlara uzanan müdahaleci doğası, güç dengesizliği ile de birleştiğinde; olumsuz veya dezavantajlı bir şekilde muameleye neden olabilir deniyor.
7. BİYOMETRİK SINIFLANDIRMA YOLUYLA BELİRLİ KORUNAN ÖZELLİKLERİ ÇIKARIM YAPMA
Bireylerin yüzü veya parmak izi gibi biyometrik verilerine dayanarak; siyasi görüş, sendika üyeliği, dini veya felsefi inançlar, ırk, cinsel yaşam veya cinsel yönelim gibi kişisel özelliklerin çıkarılmasını veya tahmin edilmesini amaçlayan biyometrik kategorilendirme sistemleri de yasaklananlar arasında. Ancak, bu yasak, hukuka uygun şekilde elde edilmiş biyometrik veri kümelerinin (örneğin, görsellerin) biyometrik verilere göre etiketlenmesini, filtrelenmesini veya kolluk kuvvetleri alanında biyometrik verilerin kategorize edilmesini kapsamıyor.
8. KAMUYA AÇIK ALANLARDA KOLLUK KUVVETLERİ İÇİN GERÇEK ZAMANLI UZAKTAN BİYOMETRİK KİMLİK TANIMLAMA
Bu madde ile de kolluk kuvvetleri göreviyle kamuya açık alanlarda “gerçek zamanlı” uzaktan biyometrik tanıma sistemlerinin kullanılması bazı suçlar ile ilgili istisnalar dışında yasaklanıyor. Yasakların uygulanmadığı istisnalar; terör, insan kaçırma, kayıp kişiler, cinsel istismara uğrayan mağdurlar veya yürütülen mevcut bir kovuşturma ile ilgili önemli suçlar ile mücadele ile ilgili.
Yapay zekâ okuryazarlığı hükümleri ve yasaklanan uygulamalar oldukça anlamlı ve güvenilir yapay zekâ için güzel bir temel kurguluyor. Yasanın ilerleyen zamanlarda devreye girecek maddelerini de zamanı geldiğinde masaya yatıracağız. Özellikle yüksek riskli yapay zekâ uygulamaları ile ilgili hükümler devreye girdiğinde karmaşık bir prosedürel süreç bizi bekliyor olacak. Fakat o hükümler devreye girene kadar alt yapı daha uygulanabilir bir noktaya gelecek ve zamanla da geliştirilecek diye ümit ediyorum. Bekleyip hep birlikte göreceğiz, yeter ki yolculuğumuz güvenilir yapay zekâya doğru olsun!