Bir Robot Süpürgeden Bunları Beklemezdik!
Yapay zekâyı sadece yapay zekâ araçları kullanırken değil, gün boyunca defalarca hiç farkında olmadan kullanıyoruz, üstelik yıllardır kullanıyoruz. Mesela robot süpürgeler bir dizi yapay zekâ teknolojisi kullanıyor. Görüntü işleme, yol planlama, engel, kenar algılama gibi. Ayrıca güncellemeler için de buluta bağlanıyorlar.
AJAN MISIN? RÖNTGENCİ Mİ?
2024 Ekim ayında Amerika’da bir robot süpürge markasına siber saldırı düzenlendi ve hacker tarafından pek çok evin canlı kamera görüntüleri ile uzaktan kontrol özelliğine erişildi. Hacker, robotu ırkçı hakaretler etmek ve evde bir köpeği kovalamak için de kullandı. Robotun çocuklarının yıkandığı banyoda durduğunu söyleyen bir anne de dahil olmak üzere olayı yaşayan robot süpürge sahipleri de cihazı üreten şirkete dava açtı.
Sadece Bir Süpürge Değil!
Artık günümüzde robot süpürge sadece bir süpürge değil! Çok fonksiyonlu bir ürün var karşımızda. Aynen artık arabaların da sadece araba olmadığı, kolyelerin de sadece kolye olmadığı gibi. Karşımızda gören, duyan, kaydeden ve ev ortamına müdahale edebilen çok fonksiyonlu cihazlar var.
YAPAY ZEKÂ DESTEKLİ NESNELERİN İNTERNETİ CİHAZLARI
Bu tür uzaktan kontrol edilebilir, internete bağlanabilir ve veri toplayabilir nitelikte olan cihazlar tabii ki robot süpürge ile de sınırlı değil. Yapay zekâ destekli nesnelerin interneti cihazları oldukça yaygınlaştı ve önemli gizlilik ile siber güvenlik önlemleri gerektiriyor.
Bu nedenle de artık seçim yaparken bu çok fonksiyonluluk kesinlikle düşünülmeli. Temizlik özelliklerinin ötesinde, güvenlik, siber güvenlik, gizlilik konuların ile ilgili özellikler değerlendirilmeli. Ek olarak da kullanıcının kendisi ile ilgili toplanan veriler hakkında bilgi sahibi olması lazım. Kullanıcının verilere ulaşabilir, silebilir, toplanmasını engelleyebilir olması gerekiyor.
En önemlisi de bir saldırı anında hızlıca kapatılabilmesi ya da kullanılmadığı zaman uzaktan müdahale ile açılmayacak şekilde tasarlanması gerekiyor. Zaten gerçek olayda da kapatmakta zorlanmışlar.
Üreticilere çok fazla görev düşüyor ve tabii maliyet de doğuyor. Üreticiler hem kullanıcılarını siber saldırılardan koruyabilmeli hem de bu tür saldırılara hızlı cevap verebilmeli. Saldırının ötesinde toplanan verinin yönetimi de çok önemli. Kullanıcıların cihazlarının hafızasını kontrol etmelerine ve silmelerine, toplanan verilere erişmelerine ve acil durumlarda şirketle hemen iletişim kurabilmelerine olanak da tanıyan bir sistem kurulmalı.
YAPAY ZEKÂ ETİK İLKELERİ BURALARDA DEVREYE GİRİYOR
OECD’nin şeffaflık, hesap verilebilirlik, gizlilik, sağlamlık ve siber güvenlik prensipleri, insan kontrolünün önemi yaşanan olaylar karşısında anlam kazanıyor. Farklı farklı alanlarda 800’den fazla vaka ise “AI Incidents” internet adresinde herkese açık.
Artık ne süpürge sadece bir süpürge ne de herhangi bir cihazın etki alanı sadece faaliyetleri ile sınırlı!
Oluşabilecek potansiyel problemlere çözümler bulmaya bugünden başlamak gerekiyor. Adım adım tüm yapı kurgulanmaya başlanmalı. Mesela başlangıç için basit ama etkili bir çözüm, cihazı tamamen kapatabilecek bir mekanik kaydırma düğmesi olabilir. Böylece cihaz bir saldırı yoluyla uzaktan çalıştırılamaz. Bu çözüm, bazı oyuncakların çalışma şekline benzer şekilde kurgulanabilir ve mekanik düğmeyi manuel olarak kaydırmadan cihaz açılmaz.
Başka birçok çözüm olabilir, ancak kullanıcıların bu cihazları uzaktan bir saldırıyla açılmayacak bir şekilde kapatabilmesi için her zaman bir yöntem olmalıdır. Çünkü siber saldırı düzenlenen süpürge olayında, saldırı sırasında bile bir süre kapatılamamış olması ciddi bir sorun oluşturmuştu.
Etik ilkeler veya yasalar, sadece hukuki sorunlardan kaçınmak için de takip edilmemeli. Çünkü bu zihniyet yeni vakaların oluşmasına sebep verip, sistemlerin eksik kurulmasına neden olabilir. Çünkü yasalar henüz bu belirsizliğe tam uyum sağlayabilmiş değil. Skandallar ile anılmak ise kimsenin tercihi değil. Bunlar, ürün ve hizmetlerin insan faydası için pozitif etki yaratması ve aynı zamanda şirketlerin zarar görmemesi için en başından düşünülmesi gereken değerler, önlemler ve çözümler. Bu nedenle de artık multidisipliner ekipler ve tasarımcıların devreye girmesi gerektiği bir dönem başlıyor. Global seviyede bu farkındalık oldukça yaygınlaşmış durumda, sıra bizim bunu fark etmemize geldi. Tasarım düşüncesi teknikleriyle, kullanıcılarla birlikte tasarlanması gereken, belirsizliğin içinde herkesin aklını birlikte devreye sokarak birlikte çözümler bulduğu bir dönem.
AMAÇ DÜNYANIN EN TEMİZ EVİNE EN İNOVATİF ŞEKİLDE SAHİP OLMAK MI VE BİZ
BUNUN İÇİN NELERDEN VAZGEÇMEK İSTİYORUZ? YOKSA GERÇEK İNOVASYON YAPAY ZEKÂNIN SUNDUĞU MÜTHİŞ FIRSATLARI İNSAN ODAKLI ÇÖZÜMLERLE, İNSAN FAYDASINA KULLANMAK MI?
Aysu Dericioğlu Egemen