Güvenlik sektöründe kullanılan akıllı video analiz sistemlerinin insan haklarını ihlal edip etmediği konusu gündemde.

Akıllı video analiz sistemlerinde, büyük üretici ve yazılımcıların kademeler halinde yapay zeka teknolojisine (AI) geçiş yapmaları ile sistemler, pasif görüp kaydeden sistemler olmaktan çıkıp, emniyet amacıyla kullanılan; aktif, uyaran ve hatta takip edip yorumlayan sistemler haline geldi.

Bir şahsın şehrin hangi noktasında olduğu, hangi güzergah hatta adreslere gittiği, ne zaman gittiği gibi birçok takip akıllı CCTV sistemleri üzerinden gerçekleştirilebilir hale geldi.

Açık alanlarda, yakın zamanda özellikle Çin’de Uygur Özerk Bölgesinde kullanılmaya başlanan ve ülke çapına yayılan akıllı analizler, yaya trafiğinde veya araç içinde dahi olsanız; ırk, yüz tipi, yaş, cinsiyet gibi bilgileri sınıflandırarak (Ethnic Minority Analytics) belirli ırktan insanlara duyarlı şekilde sistemlerin kullanılmasını sağlamaya başladı. Henüz uluslararası piyasada bu ürün pazarlanmasa da firmanın Yapay Zeka Sunum toplantısında konu teyit edilmiştir. Bu özellik, ırk ayrımcılığı endişesi sebebi ile uzun bir süredir uluslararası sektör medyasında tartışılmaktaydı (1).

Benzer yazılım özelliği üzerinde vatandaşı olan en yakın rakibinin de çalışmaları olduğu konuşulurken, olayın varabileceği en uç noktanın halihazırda yaşandığı belgelendi.

IBM tarafından Filipin Emniyetine, Davao kentinde kurulumu yapılan Akıllı Operasyon Merkezi (IOC) sayesinde, mevcut Filipinler idarecisi Başkan Rodrigo Duterte ve kızı Sara’nın direktifleri doğrultusunda, sistem tarafından noktasal takibi yapılan “yüzlerce”(2) kanunsuz cinayetin işlendiği bilgisi geldi. Konuyu yayınlayan “The Intercept” cinayetlerde IBM’in rolünün Amerikan Ulusal Güvenlik (NSA) teşkilatı tarafından incelemeye alındığını bildirdi.

Bu arada IBM’in konuya dahli konuşulurken sistemlerde kullanılan VMS üreticisinin de Genetec olarak açıklandığı bildirildi.

Bu, özellikle giderek daha sofistike hale gelen analitikler sayesinde, medya ve aktivistler, video gözetiminin artan ciddi insan hakları ihlallerine sebep olabileceği endişesini dile getirmektedirler.

Merak uyandıran konu ise kişi hak ve özgürlükleri konusunda, bu sistemleri kendi ülkelerinde uygulayan devletlerin nasıl bir önlem alacağı ve kanuni düzenleme yapacağı konusu.