(*) Yazarlar: Zach Campbell, Caitlin L Chandler ve Chris Jones
Kaynak: The Guardian
Çeviri: Dünyadan Çeviri
Horizon fonları, son teknolojinin gelişimini destekliyor: Yapay zeka, insansız hava araçları ve artırılmış gerçeklik ile yüz, ses, damar ve iris tanıma. Avrupa Birliği’nin (AB) bilim fonları, polislik ve güvenlik için yeni araçlar geliştirmeye harcanmakta. Peki yapay zekaya ne kadar boyun eğmemiz gerektiğine kim karar veriyor?
Patrick Breyer, Avrupa Komisyonu’nu mahkemeye vermek zorunda kalacağını beklemiyordu. Tatlı dilli Alman Avrupa Parlamentosu vekili, Temmuz 2019’da, biri soru yanıtlarken yalan söylediğini yüzündeki “mikro ifadelerden” algılayabilen yeni bir teknoloji ile ilgili bir haber okuduğunda şaşırdı. Daha da şaşırtıcı olanı, AB’nin, Avrupa’nın sınırlarını denetlemede kullanılma ihtimali olan iBorderCtrl adlı bir proje aracılığıyla bu sanal zihin okuyucusuna yönelik araştırmaları finanse ediyor olmasıydı. Breyer’in okuduğu makalede, bir muhabir Sırbistan ile Macaristan arasındaki sınırda girdiği bir sınavı anlattı. Gerçeği söylemişti ama yapay zeka sınır muhafızı programı, yalan söylediğini söylüyordu.
Avrupa Parlamentosu’nun (AP) Sivil Özgürlükler Komitesi’nin bir üyesi ve Korsanlar Partisi’nin AP’deki dört vekilinden biri olan Breyer, iBorderCtrl’in etik ve gizlilik uygulamalarının çok kapsamlı olduğunu fark etmiş. Bu tür bir teknoloji -ya da şimdi bu teknolojiye verdiği adla “sözde bilimsel güvenlik hokuspokusu”- sınır güvenliğinden sorumlu olanların elinde olsa, beyaz olmayanların, kadınların, yaşlıların, çocukların ve engelli insanların bu yapay zeka tarafından yalan söylüyor olarak algılanma ihtimalinin diğerlerinden daha fazla olabileceğinden korkuyordu.
Bu yüzden AB şeffaflık yasalarını kullanarak Avrupa Komisyonu’ndan projenin etikliği ve yasallığı konusunda daha fazla bilgi istedi. Aldığı yanıt sarsıcıydı: Ticari sırları korumak adına bilgilere erişimi reddedildi. Bunun üzerine Breyer dava açtı ve Avrupa Adalet Divanı’nın belgelerin açıklanmasında ağır basan bir kamu yararı olduğuna karar vermesini istiyor. Breyer, “Avrupa Birliği, temel hakları ihlal eden ve etik olmayan yasadışı teknolojiyi finanse ediyor” diyor.
Yeni yılda mahkeme önüne gelmesi beklenen Breyer’in davasının geniş kapsamlı sonuçları var. Her yıl milyarlarca Euro kamu fonu, tartışmalı güvenlik teknolojilerini araştırmaya akıyor ve bu niyeti bozuk araştırmalara önümüzdeki yedi yıl içinde en az 1,3 milyar Euro daha akacak.
Yüzler, sesler, damarlar
Horizon 2020, AB’nin amiral gemisi olan araştırma ve inovasyon programı. 2014’ten 2020’ye kadar bilim insanlarına verilen fon hibesi yaklaşık 80 milyar Euro değerindeydi.
Horizon fonlarından kapabilmek için yarış var. Kolorektal kanser, sivrisinek kaynaklı hastalıklar ve tarım için sulamanın iyileştirilmesi gibi konularda yapılan araştırmalara para ödeniyor. Bu yıl Horizon fonları, Covid-19 aşı denemelerinde başarı açıklayan ilk şirketlerden biri olan Alman BioNTech şirketini destekledi ancak son yedi yılda program dahilinde 1,7 milyar Euro, kamu ve özel sektörde polis güçleri ve sınır kontrol kurumları için güvenlik ürünlerinin geliştirilmesine aktı. Bunlar çoğunlukla en son teknolojiyi içeriyor: Yapay zeka, insansız hava araçları ve artırılmış gerçeklik, ayrıca yüz, ses, damar ve iris tanıma ve gözetim için kullanılabilecek diğer biyometri biçimleri.
iBorderCtrl yalan dedektörü teknolojisinin arkasındaki konsorsiyum, Horizon 2020’nin güvenlik portföyünden 4,5 milyon Euro aldı ve Ağustos 2019’a kadar üç yıl boyunca geliştirme ve test çalışmaları yürüttü.
AB yetkilileri, bu tür bir yeniliğin suç, terörizm ve doğal afetlerle başa çıkmak için çok önemli olduğunu söylüyor. Stratejik hedef, birliğin güvenlik şirketlerinin ABD, İsrail ve Çin ile rekabet etmesini sağlamak olsa da, Horizon’un güvenlik alanındaki koluna dair yapılan çalışmaların hedefleri, kamu denetimine açık olmamaları ve şirket çıkarlarının etkisi konusunda kaygılar var. AB tarafından finanse edilen güvenlik projelende çalışan yedi güncel ve eski etik uzmanı Guardian ile yapılan görüşmelerde bu kaygıları dile getirdi. Uzmanlar, Horizon destekli bazı araştırmaların gerçekten kamu yararına olup olmadığını sorguluyor.
Etikçiler arasındaki en büyük endişe, teknolojiler mahremiyet ve sivil özgürlükler konusunda net sorulara neden olsa bile yeni teknolojileri pazara getirme arayışında inceleme ve eleştirinin bir kenara atılmış gibi görünmesi. Ancak bunun çok az bir kısmı halka açıklandı. Breyer gibi Guardian’ın da bir düzineden fazla Horizon 2020 güvenlik projesinin faaliyet, yasallık ve etik belgelerine erişim isteği, kamu güvenliğini zayıflatabileceği ve “ticari çıkarların korunması” gerekçesiyle reddedildi.
Etik olmayan teknoloji
Horizon 2020 fonu başvuruları, önce bilimsel bir incelemeden ve finanse edilirse Avrupa Komisyonu tarafından danışman olarak işe alınan bağımsız etikçilerden oluşan bir ekip tarafından yürütülen bir incelemeden geçiyor. Bu etikçiler bir projeye geçiş verebilir ya da daha fazla değerlendirme talep edebilir ancak bir projeyi gerçekten değiştirme kapsamları sınırlıdır.
Horizon 2020 güvenlik araştırma projelerinin çoğunu değerlendiren ve bir düzineden fazlasında da ortak olarak çalışan bağımsız bir teknoloji etiği uzmanı olan Gemma Galdon Clavell, “Sorun genellikle konunun kendisinin etik olmaması” diyor: “Bazı konular, ortakları uzaktan çalışabilen biyometrik teknoloji geliştirmeye teşvik ediyor, yani rıza mümkün değil – beni endişelendiren bu.” Böyle bir teknolojiyi geliştirmeyi amaçlayan bir proje, buna, sınırları aşan insanlar üzerinde kullanılabilecek “fark edilmeksizin kişi tanımlama” olarak adlandırıyor. Galdon Clavell, “İnsanların kullanıldığını bilmedikleri bir teknoloji geliştirmekten bahsediyorsak bunu nasıl etik hale getirebilirsiniz?” dedi.
Çok sayıda Horizon 2020 güvenlik projesinin etik bileşeni üzerinde çalışan Oslo Barış Araştırmaları Enstitüsünden araştırmacı Kristoffer Lidén, etik uzmanlarının güvenlik projelerine katılımının, ciddi endişelerini dile getirseler bile, otomatik onay olarak değerlendirildiğini söyledi. Lidén, etik denetimcilerin, projeleri çok fazla yaygara koparmadan onaylama konusunda baskı hissedebileceklerini de öne sürdü: “[Projeler], ticari mantıkla veya insanların yeni teknolojiyi olumlu bir gelişme olarak gördükleri için etik kaygıları bir yana bırakmasına neden olan genel teknolojik iyimserlikle kolayca seçilebiliyor.” AB tarafından finanse edilen araştırma projelerinde 2018 yılında yapılan bir etik çalışması da aynı sonuca ulaştı.
Kaygılarını kamuoyuna duyurmaya çalışan bazı kişiler, bedel ödemek zorunda kalmış. O zamanlar üç Horizon 2020 güvenlik araştırma projesi danışma kurulunda bulunan bir filozof ve siyaset bilimci olan Peter Burgess, 2015 yılında, Alman kamu televizyon kanalı ARD’ye ve bir Der Spiegel muhabirine samimi bir röportaj verdi. Bu röportajlarda sektörün özellikle göçle ilgili araştırmalar üzerindeki etkisine dair endişelerini dile getirdi. Burgess, Alman gazetecilere “Mülteciler kayda geçirilecek hedefler olarak görülüyor” dedi ve üç danışma kurulundan da derhal azledildi ve o zamandan beri programa dahil edilmedi. Her ikisi de isminin açıklanmaması koşuluyla konuşan diğer iki etik uzmanı, Guardian’a yaptıkları değerlendirmede “fazla eleştirel davrandıktan” sonra AB tarafından finanse edilen güvenlik projelerinde çalışmalarının engellendiğini düşündüklerini söyledi. Avrupa Komisyonu, bu türden uzaklaştırmaların gerçekleştiğini reddediyor. Bir sözcü, e-posta yoluyla, “Araştırma ve İnovasyon Genel Müdürlüğü tarafından değerlendirmelere/denetimlere katılan etik uzmanlarının projeden çıkarılmasına yönelik herhangi bir talep alınmadı” şeklinde yanıt verdi.
Guardian’ın görüştüğü etikçiler, bu tartışmalı teknolojinin gelişimini meşrulaştırmak yerine, AB’nin kamu yararına çalıştığından emin olmak için etik gözetimin kullanılması gerektiğini savundu.
Kurumsal çıkarlar
AB’nin güvenliğe yaptığı büyük ölçekli yatırım, 2000’li yılların başında, 11 Eylül sonrası Irak’ı işgalinden ve ülke içi terör saldırılarında yaşanan artıştan sonra başladı. Yeni saldırıların yanı sıra organize suç çetelerinden ve sınırların güvence altına alınmasından endişe duyan AB liderleri, Avrupa savunma sanayi ile işbirliğini büyük ölçüde genişletti. 2004 yılında AB kurumları, ulusal içişleri bakanlıklarından ve kolluk kuvvetlerinden üst düzey yetkilileri; BAE Systems, Finmeccanica (şimdi Leonardo), Siemens’in yanı sıra Fransız savunma ve havacılık şirketi Thales gibi çok uluslu silah ve BT şirketleri ile bir araya getirerek bir güvenlik araştırma programı başlattı. Bu program, giderek biyometrik ve diğer gözetim teknolojilerinin geliştirilmesine odaklanan Horizon 2020’nin güvenlik fonunun temelini oluşturacaktı.
Burgess, bu süreçte şirket çıkarlarının oynadığı rolün altını çizdi. “Zaten hazırlık aşamasında çok fazla endüstri katılımı vardı” dedi ancak kamudan ve özel sektörden gelen katılımcılar arasında “cihazların – daha büyük silahlar, daha uzun duvarlar, biyometri – sizi daha güvenli hale getirdiği” şeklinde ortak bir varsayım vardı. Ve şöyle ekledi: “11 Eylül’den ve 2004’te Madrid ve 2005’te Londra’daki terör saldırılarından beri bu büyük bir iş.”
Guardian tarafından halka açık kayıtlardan derlenen rakamlar, Horizon 2020’nin özel sektör için özellikle faydalı olduğunu gösteriyor: 2007’den beri özel şirketler, güvenlik araştırma programı tarafından dağıtılan 2,7 milyar Euro’nun yüzde 42’sini aldı – neredeyse 1,15 milyar Euro. Ayrıca finanse edilen 714 projenin neredeyse yarısında lider ortak oldular. Araştırma enstitüleri ve kamu kurumları gibi diğer katılımcılar çok geride kalıyor.
Burgess, “Bu, komisyonun yaklaşımı idi, iyi ya da kötü: Avrupa için en iyi olanı yapmak” dedi: “Gizli, bozuk bir sistem değil; açıktan politikaydı bu.”
İnsan hakları örgütü yok
Finansmanla ilgili nihai kararlar ulusal yetkililer ve AB yetkilileri tarafından alınırken Koruma ve Güvenlik Danışma Grubu (PASAG) adlı bir organ, finanse edilecek araştırma türlerini belirleyen yıllık güvenlik araştırma çalışma programları hakkında tavsiyelerde bulunuyor.
Eleştirmenler, AB tarafından finanse edilen güvenlik araştırmalarının yönüne rehberlik etme sorumluluğunun nerede olduğu konusunda sorular soruyor. PASAG’ın özellikle özel sektörden ve Avrupa’daki araştırma kurumlarından seçilmiş 15 üyesi var. Avrupa Komisyonunun kamuya açık belgeleri, araştırma önceliklerinin belirlenmesinde ve mevcut güvenlik araştırma programı ile askeri teknoloji için yeni fonlar arasındaki bağlantıların desteklenmesinde PASAG’dan görüş alınmasını öneriyor.
PASAG’ın on üyesi, komisyona kayıtlı halka açık belgelerin gösterdiği üzere Horizon 2020’deki çalışmalarıyla ilgili çıkarları olduğunu beyan etmiş. Grubun başkanlığını, 26 projede yer alan ve 2007 yılından bu yana AB güvenlik araştırma bütçesinden 11,3 milyon Euro alan bir İtalyan savunma şirketi olan Leonardo’nun İngiltere bölümünün eski CEO’su Alberto de Benedictis yönetiyor. De Benedictis, bir önceki yıl Leonardo’dan emekli olup 2016’da PASAG’a katıldı. Diğer bir üye, savunma ve güvenlik sektörlerinde çalışan ve müşterileri güvenlik şirketleri olarak listelenen MSB Danışmanlık, Avrupa Komisyonu ve Avrupa Savunma Ajansını işletiyor. Bir diğer PASAG üyesi, yıllar boyunca Horizon 2020 ve diğer güvenlik programlarından milyonlar alan Belçika’daki Louvain Üniversitesi için çalışıyor.
Şu anda 15 üyeden sadece biri bir sivil toplum örgütü için çalışıyor ve hiçbiri insan hakları veya etik kuruluşlarla bağlantılı olduğunu beyan etmemiş. Bir Avrupa Komisyonu sözcüsü şunları söyledi: “PASAG’ın bileşimi, mümkün olan en geniş temsili yansıtıyor.” Grup üyelerinin beyan ettiği çıkarların hiçbirinin “uzmanın bağımsız ve kamu yararına davranma kapasitesini etkileyemeyeceğini (veya haklı bir şekilde etkileyebileceğinin düşünülmesine neden olamayacağını)” söylediler.
De Benedictis, PASAG’ın yalnızca yüksek düzeyde yönlendirme sağladığını ve gruba sektörün katılımının bir çıkar çatışması oluşturmadığını söyledi. De Benedictis, “PASAG, diğer uzman danışma grupları gibi araştırma programının başarısına katkıda bulunan paydaşlar yelpazesindeki uzmanlığa erişebilmesini sağlamak için komisyon tarafından oluşturuldu” dedi. “Uygulayıcı toplulukları temsil eden üniversiteler, araştırma enstitüleri ve devlet daireleri ve kurumları gibi sektör de bu paydaşlardan biridir.”
Araştırma finansmanı, önceliklerinin sorumluluğunun hükümetlere ait olduğunu vurguladı: “Üye devletler, nihai karar alıcılardır.”
Eski bir Belçikalı subay ve Louvain Üniversitesinde biyolojik silahlar konusunda uzmanlaşmış bir akademisyen olan Jean-Luc Gala da herhangi bir çıkar çatışmasını reddetti. Gala, komisyona güvenlik teknolojisi projeleri konusunda tavsiyede bulunan endüstri ve akademik güvenlik uzmanlarının net faydası olduğunu öne sürdü. PASAG’ın, “bireysel görüşlere yer olmadığı veya bireysel çıkarları zorlama fırsatı olmadığı” kolektif bir rolü olduğunu da sözlerine ekledi.
Louvain Üniversitesi sözcüsü ise şunları belirtti: “Profesör Gala, bu danışma grubunda üniversitenin temsilcisi olarak oturmuyor, bilimsel uzmanlığı nedeniyle davet edildi. Üniversite, ulusal ve uluslararası düzeyde bilimsel danışma gruplarına katkıda bulunmanın akademik kadromuzun misyonlarının önemli bir parçası olduğunu düşünüyor.”
Horizon 2020’nin halefi olan Horizon Europe mevzuatı üzerinde çalışan Bulgaristan milletvekili Iskra Mihaylova, sektörün katılımının kaçınılmaz olduğunu savundu. “Yetkili birini arıyorsanız, bu alanda deneyimi olan onlar” dedi.
Covid süreci
Önümüzdeki yedi yıl için (2021–27) Horizon 2020, 86 milyar Euroluk beklenen genel bütçe ve yaklaşık 1,3 milyar Euroluk güvenlik fonu ile Horizon Europe olarak devam edecek yoluna.
Bununla birlikte askeri teknolojilerin araştırılması ve geliştirilmesi için en az 8 milyar Euroluk tamamlayıcı bir bütçe harcanacak. Açık amaç, hem sivil hem askeri uygulamalı ikili kullanıma sahip teknolojileri finanse etmek ve bir dizi ön projede insansız hava aracı “sürüleri” ve diğer gözetim cihazları araştırıldı.
Covid-19 ile mücadele, karantina uygulaması ve temas takibi için insansız hava aracı gözetimi, veri izleme, yüz tanıma ve diğer biyometri biçimlerinin benzeri görülmemiş kullanımı dahil olmak üzere Avrupa hükümetlerinin gözetim teknolojilerini geliştirme çabalarını daha da hızlandırdı. Örneğin Polonya, karantinaya alınan vatandaşlardan gün boyunca evde kaldıklarını kanıtlamak için selfie yüklemelerini isteyen bir uygulama başlattı. Uygulama, coğrafi konum ve yüz tanıma teknolojisine dayanıyor ve kullanıcılar yanıt vermediğinde polise haber veriyor.
Yüz tanıma veya yapay zeka tabanlı polislik algoritmaları ırksal ve diğer önyargıları pekiştirmekle ünlüdür. Ulusal Covid izleme uygulamaları Horizon tarafından finanse edilmedi ama AB destekli projelerde çalışan veya çalışmış olan bazı araştırmacılar, özellikle halk sağlığı korkularının birçok Avrupalıyı daha kabullenici hale getirdiği bir zamanda, yeni biyometrik ve diğer güvenlik teknolojilerini geliştirmek ve test etmek için AB tarafından finanse edilen bir yarıştan korkuyor.
Bu, şu soruyu akla getiriyor: Avrupalıların ne tür bir hükümet gözetimi ile yaşaması gerektiğine kim karar veriyor?
Şu an için AB finansmanının piyasaya yeni güvenlik ürünleri getirmede ne kadar etkili olduğu belirsiz ve bazı durumlarda AB’nin kendi yasalarına aykırı düşüyor gibi görünüyor.
İBorderCtrl projesinin web sitesi, bazı teknolojilerinin “mevcut [AB] yasal çerçevesi kapsamında olmadığını” belirtiyor. İBorderCtrl konsorsiyumunun lider şirketi olan European Dynamics Luxembourg, yorum taleplerine yanıt vermedi.
Yine de Avrupa halkının olan bitenden haberdar kalmasının sağlam bir yolu yok, vergi paralarının Orwellian biyometrik ve diğer gözetim teknolojilerine katkıda bulunmasını isteyip istemediklerine dair bir tartışmanın zemini ise daha bile az. Breyer gibi biz de (AB şeffaflık yasaları uyarınca) yeni biyometrik teknoloji biçimleri geliştirmek isteyen ve Horizon 2020 tarafından finanse edilen 15 projede üretilen düzinelerce belgeye erişim talep ettik. Bunlar, her projenin etik ve yasal incelemelerini içeriyordu. Ancak aylarca bekledikten ve temyiz başvurusunda bulunduktan sonra güvenlik ve ticari çıkarların korunması nedeniyle pek çok faaliyet raporunun ve bazı etik raporlarının gizli kalması gerektiği söylendi.
Breyer, bir milletvekilinin kamu tarafından finanse edilen bir proje hakkında bilgi almak için AB’ye dava açmasının garip olduğunu söyledi. Breyer, “Teknolojiyi satmalarına yardımcı olmayacağı için bu projeyle ilgili eleştiriler yayınlamayacaklar” dedi: “Bu, AB’nin, yani bir kamu otoritesinin bilgi saklaması için meşru bir neden mi?”
Bulgaristan Parlamentosu Üyesi Mihaylova, araştırma programında daha fazla şeffaflık olması gerektiği konusunda anlaştı ama şunu savundu: “Teknolojiyi durduramayız. Yeni gözetleme cihazlarının yarattığı tehlikelere karşı koymaya çalışmak için bu sürecin her iki tarafını dengeleyecek şekilde çalışmalıyız.”
Breyer için ne tür bir teknolojik gelişmenin gerçekten kamu yararına olacağına kimin karar vereceği ile ilgili daha büyük bir soru söz konusu: “Bu şüpheli teknolojileri finanse etmek istiyor muyuz?” diye soruyor ve ekliyor: “Bu, demokratik şekilde alınması gereken bir karar.”
