İçindekiler
Yapay Zekâyı Kandıran Görünmezlik Pelerinini Tasarlamak
İnsanların geçmişten günümüze her zaman sahip olmayı hayal ettiği yeteneklerden biri görünmez olmak. Görünmezlik yeteneği bugüne kadar birçok hikâyeye ve filme konu oldu. ÖrneğinHarry Potterserisini okuduysanız veya filmlerini izlediyseniz, orada bir görünmezlik pelerini olduğunu hatırlarsınız. Bu pelerini giyen kişi, etraftaki hiç kimse tarafından görülemez. PekiHarry Potterserisindekine benzerbir görünmezlik pelerinigerçek hayatta üretilebilir mi? Bu sorunun cevabını kesin bir şekilde vermek zor olsa da ışığın kırılması gibi durumlar kullanılarak bunun bazı özel koşullarda mümkün olabileceği düşünülüyor.
Gelin şimdi bu soruyu yapay zekâ özelinde ele alalım. Sizce yapay zekânın yoğun olarak kullanıldığı dijital dünyada bu teknolojiye karşı görünmez olmak mümkün mü? Yapay zekâyı kandırabilecek bir görünmezlik pelerini tasarlayabilir miyiz?
Bu soruları cevaplamadan önce yapay zekâ ile neyi kastettiğimize değinelim.
Yapay Zekâ
Yapay zekâ, temelde bir çeşit bilgisayar kodudur. Bu kodun özelliği, belirli bir tipteki veri setine dayanarak bu setten çıkarım yapabilmesidir. Yani kendisine verilen veri kümesindeki belirli ilişkileri, şekilleri veya özellikleri anlayıp onları matematiksel olarak özetleyebilir. Ancak bu tipteki mevcut yapay zekâ algoritmaları genellikle çok kısıtlı çıkarımlar yapabilir ve bu kısıtlama o algoritmanın teknik ve matematiksel olarak nasıl tanımlandığına bağlıdır. Örneğin yapay zekâ çok sayıda fotoğrafa bakıp sadece fotoğraftaki insan yüzlerinin nerede ve kime ait olduğunu öğrenebilir.
Aslında fotoğraf veya kamera görüntülerinden oluşan büyük bir veri setine bakılarak çok daha fazla çıkarım yapılabilir. Örneğin bir fotoğraftaki tüm nesnelerin konumlarının, tiplerinin (araba, insan, bisiklet, bina, yol gibi), hareket yönlerinin veya fotoğraftaki kişilerin birlikte bir aktivite yapıp yapmadıklarının (örneğin futbol oynamak, yürümek, düşmek, kahve içmek) belirlenmesi gibi farklı çıkarımlar da yapılabilir.
Aslında bizler günlük hayatta bu tip işlemleri beynimizde sürekli ve çok kolay bir şekilde yapabiliyoruz. Bu işlemler insanlar için çok doğal ve basit işlemler olarak görülebilir. Ancak bunlar, yapay zekâ alanında son yıllarda büyük bir yol katedilmiş olmasına rağmen, bilgisayarlar için hâlâ zor ve efor yani hesaplama gücü gerektiren işlemler.
Bir kamera görüntüsündeki mevcut yüzleri tanımayı amaçlayan bir yüz tanıma sistemini düşünelim. Derin öğrenme tabanlı bu sistemin her bir adımda nasıl çalıştığını anlamak için aşağıdaki görseli inceleyebiliriz.
Yukarıdaki görselde bir derin öğrenme algoritmasının adım adım resimde nelere odaklandığı görülüyor.
Derin öğrenme tabanlı yapay zekâ algoritması, önce en soldaki resimde küçük alanlara bakarak kenarları tespit ediyor. Daha sonra bu kenarlar algoritma içinde kademeli şekilde büyüyerek farklı yüz şekillerini oluşturuyor. Algoritmanın bu yolla farklı yüz tiplerini modelleyebilmesi yani öğrenebilmesi ve verilen resimlerdeki benzer yüzleri de bulabilmesi amaçlanıyor. Bu tip algoritmalar sayesinde günümüzde yüksek doğruluk oranlarında çıkarımlar yapılabiliyor.
Yapay Zekâya Karşı Görünmez Olmak
Peki, bir kameradan alınan görüntüdeki tüm insanları bulmak amacıyla tasarlanmış ve eğitilmiş bir yapay zekâ algoritmasına karşı görünmez olmak ister miydiniz? Yani algoritma etrafınızdaki herkesi bulurken, siz yapay zekâ algoritması tarafından o an orada değilmişsiniz gibi yorumlanacaksınız. Örneğin Facebook’taki kişi etiketleme özelliği sayesinde fotoğraftaki tüm yüzler bulunurken, sizin yüzünüz etiketlenmek üzere otomatik olarak bulunamayacak. Peki bu mümkün olabilir mi? Kısa bir cevap vermek gerekirse “Evet, olasıdır.” diyebiliriz. Yapay zekâya karşı görünmez olmanın hâlihazırda mümkün olduğunu gösteren birçok bilimsel çalışma var.
Belçika’daki KU Leuven Üniversitesinden bir grup araştırmacı tarafından yapılan birçalışmada,görünmez olmak için yapay zekâ algoritmasını kandırmaya dayalı bir yöntem kullanıldı.
Çalışmada derin öğrenme algoritması kullanılarak fotoğraflardaki insanlar tanınıyor. Ancak araştırma, fotoğraftaki bir kişi üzerinde belirli bir desen bulunan bir tişört giydiğinde veya elinde belirli bir şekle veya desene sahip olan bir resim tuttuğunda yapay zekâ algoritmasının “kafasının karıştırılabildiğini” gösteriyor. Burada algoritmanın “kafasını karıştırmak” demek, algoritmanın bulduğu kenarları birleştirirken elde ettiği sonucu önceden öğrendiği insan şekilleri ile karşılaştırdığında, matematiksel olarak yüksek bir benzerlik değeri alamaması olarak anlaşılabilir. Yani görünmezlik pelerini burada belirli bir tipteki desen olarak karşımıza çıkıyor.
Algoritma normal şekilde çalıştırıldığında, kendisinden beklendiği gibi görüntüdeki iki insanı da tespit edilebiliyor. Sağ taraftaki kişi elinde beyaz bir poster tutsa da poster onun algoritmayı kandırmasına yetmemiş ve algoritma tarafından bulunmuş.
Bu fotoğraftaki iki kişi de algoritma tarafından ilk etapta bulunmuş. Algoritma, insanların yanı sıra başka nesneleri örneğin fotoğraftaki sandalyeyi de tespit edebiliyor.
Ancak bu kişilerden herhangi birisi, elinde özel bir desen içeren bir poster tuttuğu zaman algoritmaya karşı görünmez olmayı başarmış yani algoritma tarafından bulunamamış.
Her iki fotoğrafta da farklı ve özel bir desen içeren posteri tutan kişi algoritma tarafından bulunamamış.
Algoritma normalde görüntüdeki insanı ve sandalyeyi tanıyabiliyor. Ancak görüntüdeki kişiler ellerinde belirli bir deseni tuttuklarında algoritmaya karşı görünmez olabiliyorlar. Biz de bu fikri kullanıp, üzerinde belirli desenler olan tişörtler giyerek yapay zekâ algoritmalarına karşı görünmez olabiliriz.
Bu yöntem YOLOv2 olarak bilinen ve yaygın olarak insan tanımak amacıyla da kullanılan bir nesne tanıma algoritması üzerinde denenmiş ve “görünmezlik pelerini” olarak kullanılan desen YOLOv2 algoritması üzerinde çalıştırılmış. Ancak unutmayalım ki bu tip görünmezlik desenleri algoritmadan algoritmaya değişebilir ya da bazı algoritmalarda hiç çalışmayabilir. Fakat bu fikir, algoritmaya özgü olacak bir şekilde doğru desenin bulunması ile başka algoritmalar üzerinde de uygulanabilir. Çünkü farklı araştırmacılar tarafından gerçekleştirilen çalışmalarda benzer sonuçlar elde edildi. Belki bir gün sizlerden yani genç arkadaşlarımızdan biri de algoritmaların hepsinde çalışabilen bir desen bulur ve tüm algoritmalara karşı görünmez olmayı mümkün kılar.
Kaynaklar:
- S. Thys, W. V. Ranst ve T. Goedemé, “Fooling Automated Surveillance Cameras: Adversarial Patches to Attack Person Detection“, 2019 IEEE/CVF Conference on Computer Vision and Pattern Recognition Workshops (CVPRW), s. 49-55, 2019.