Dünyanın en büyük bilişim teknolojisi şirketlerinden IBM, çok önemli bir kararın altına imza attı. New York merkezli firmanın CEO’su Arvind Krishna, ABD Kongresi’ne gönderdiği mektupta, IBM’in bundan sonra genel amaçlarla kullanılmak üzere yüz tanıma teknolojisi veya analiz yazılımı geliştirmeyeceğini belirtti.
Güven ve Şeffaflık İlkeleri gereği; kitle gözetimi, ırksal profil oluşturma, temel insan hakları ve özgürlüklerinin ihlali veya şirket değerleri ile tutarlı olmayan herhangi bir amaç için sunulan tüm yüz tanıma teknolojilerine karşı olduklarını ifade eden Krishna, “Artık yüz tanıma teknolojisinin yerel kolluk kuvvetleri tarafından kullanılmasının gerekip gerekmediği ve nasıl kullanılacağı konusunda ulusal bir diyaloga başlama zamanının geldiğine inanıyoruz” dedi.
“Yüz tanıma teknolojisinin kolluk kuvvetleri tarafından kullanılıp kullanılmaması gerektiğini tartışmalıyız”
Yüz tanıma yazılımları, yapay zeka alanındaki gelişmeler sayesinde son on yılda büyük bir ilerleme kaydetti. Bununla birlikte, söz konusu teknolojinin, genellikle çok az düzenlemeye tabii tutulan veya federal kurumların kontrolü altındaki özel şirketler tarafından sağlanması, yüz tanıma yazılımlarının insan hakları ihlallerine kapı aralamasına neden oldu.
ABD Ulusal Standartlar ve Teknoloji Enstitüsü’nün (NIST) Aralık 2019 tarihli çalışmasına göre, şu anda kolluk kuvvetleri veya özel firmalar tarafından kullanılan yüz tanıma algoritmalarının çoğunda demografik farklılıklar arasında geniş bir doğruluk aralığı bulunuyor. Bu da teknolojinin, gizlilik ve hak ihlallerindeki rolünün tartışılmasına yol açıyor.
Yüz tanıma yazılımlarının, gizlilik ve hak ihlallerine yol açmasından endişe ediliyor
NIST'in çalışması, kolluk kuvvetlerine yüz tanıma yazılımı satan birkaç büyük teknoloji şirketinden biri olan Amazon'un hizmetini içermiyordu. Buna rağmen, Florida polisi ve özel kuruluşlar da dahil olmak üzere bir dizi ABD devlet kurumu tarafından kullanılan Rekognition adındaki yüz tanıma teknolojisi, kitle gözetim tartışmaları ışığında pek çok kez eleştirildi.
IBM, yüz tanıma teknolojisine yönelik önyargıyı ve endişeleri kırmak amacıyla 2018'de bir yüz tanıma modelinin genel veri kümesini yayınladı, ancak firmanın Ocak 2019'da kullanıcıların rızası olmadan Flickr'dan yaklaşık bir milyon fotoğraflık başka bir veri setini paylaşması, büyük bir tartışmaya neden olmuştu.
O dönem yaptığı açıklamada, kamuya açık fotoğraflardan oluşan veri setinin sadece doğrulanmış araştırmacılar tarafından erişilebilir olacağını ifade eden IBM, dileyen kişilerin veri kümesinden çıkabileceğini söylemişti. IBM CEO’su Krishna, mektubunda ayrıca polis teşkilatları içinde reforma ihtiyaç olduğu ve yüz tanıma teknolojisinin kötüye kullanımının daha sıkı bir şekilde gözlemlenmesi gerektiğini ifade etti.