Arnavutluk’ta 20 okulda kullanılan güvenlik kameraları artık yalnızca görüntü kaydetmiyor. Yapay zekâ destekli yeni sistem, kamera görüntülerini analiz ederek önceden tanımlanmış şüpheli veya potansiyel olarak tehlikeli davranışları otomatik olarak tespit edip yetkili birimlere uyarı gönderebiliyor.
Yetkililer sistemi, okul güvenliğinin artırılması ve olası olayların önlenmesi amacıyla kullanılan yeni bir teknolojik araç olarak tanıtıyor. Ancak yapay zekânın okul ortamında kullanılması, özellikle çocukların mahremiyeti ve kişisel verilerinin korunması konusunda tartışmaları da beraberinde getiriyor.
Projeye dahil edilen 20 okulda daha önce de güvenlik kameraları bulunuyordu. Yeni sistemle birlikte değişen temel unsur ise görüntülerin analiz edilme biçimi oldu.
Arnavutluk İçişleri Bakanlığı, yapay zekâ işlevlerinin doğrudan kameralar tarafından değil, video analiz platformu üzerinden gerçekleştirildiğini açıkladı.
Sistem, görüntülerde önceden programlanmış şüpheli veya tehlikeli davranışları tespit ederek yetkili birimlerin incelemesi için otomatik uyarılar oluşturuyor. Bakanlık ayrıca projede ses kayıtlarının işlenmediğini bildirdi.
Okulların seçiminde güvenlik önlemlerinin güçlendirilmesine duyulan ihtiyaç, bölgedeki nüfus yoğunluğu ve öğrenci sayısı gibi kriterlerin dikkate alındığı belirtildi. Projeye dahil edilen okulların büyük bölümü Tiran ve Kamëz’de bulunuyor.
Velilerden mahremiyet endişesi
Sistemin kullanıma alınmasıyla birlikte veliler ve teknoloji uzmanları, hangi verilerin toplandığı, bunların nasıl işlendiği ve saklandığı, verilere kimlerin erişebildiği ve sistem üzerinde yeterli bağımsız denetimin bulunup bulunmadığı konusunda soru işaretleri olduğunu belirtiyor.
“Kaliteli Eğitim İçin Veliler” grubundan Ermelinda Hoxhaj, velilerin proje konusunda bilgilendirilmediğini ve sürece dahil edilmediğini savunarak sistemin çocukların ve gençlerin özel hayatının gizliliği açısından risk oluşturabileceğini söyledi.
İçişleri Bakanlığı ise velilerle istişare yapıldığını bildirdi. Eğitim Bakanlığı, bu görüşmelerin yapılıp yapılmadığına ve bunu kanıtlayan belgelerin bulunup bulunmadığına ilişkin sorulara yanıt vermedi.
Dijital politikalar ve inovasyon uzmanı Orkidea Xhaferraj da kullanılan teknoloji, toplanan verilerin türü, saklanma süreleri ve sistemin davranış profilleri oluşturup oluşturmadığı konusunda kamuoyuna yeterli bilgi verilmediğine dikkat çekti.
Xhaferraj, yüz tanıma ve biyometrik veri analizi gibi teknolojilerin yüksek riskli yapay zekâ sistemleri kapsamında değerlendirilmesi gerektiğini belirterek sistemin duygu analizi gibi ek özelliklere sahip olup olmadığının da bilinmediğini ifade etti.
Görüntüler bir ay, uyarılar bir yıl saklanacak
İçişleri Bakanlığına göre okullardaki kamera görüntüleri, eğitim kurumlarının yerel altyapısında bir ay boyunca saklanacak.
Ancak yapay zekâ tarafından oluşturulan uyarılar ve bunlarla bağlantılı metadata, Arnavutluk Devlet Polisi tarafından yönetilen merkezi sistemde bir yıl süreyle tutulacak.
Bakanlık, tüm verilerin Arnavutluk sınırları içerisinde saklandığını ve işlendiğini, ülke dışındaki sunuculara veya altyapılara aktarılmadığını bildirdi. Saklama süresinin tamamlanmasının ardından verilerin otomatik olarak silineceği veya üzerine yeni verilerin yazılacağı belirtildi.
Uzmanlar ise sunucuların fiziksel olarak Arnavutluk’ta bulunmasının uzaktan erişim ihtimalini ortadan kaldırmadığına dikkat çekiyor.
Risk değerlendirmesi yapıldı mı?
Tartışmaların önemli başlıklarından birini de sistem devreye alınmadan önce kişisel verilerin korunmasına yönelik özel bir risk değerlendirmesinin yapılıp yapılmadığı oluşturuyor.
Arnavutluk mevzuatı, yeni teknolojilerin kullanılması nedeniyle kişilerin temel hak ve özgürlükleri açısından yüksek risk oluşabilecek durumlarda Veri Koruma Etki Değerlendirmesi (DPIA) yapılmasını öngörüyor.
Kişisel Verileri Koruma Komiserliği, böyle bir değerlendirmenin yapılması sorumluluğunun verileri kontrol eden kuruma, bu durumda İçişleri Bakanlığına ait olduğunu belirtti.
Ancak İçişleri Bakanlığı, okullardaki proje için DPIA yapılıp yapılmadığı sorusuna doğrudan yanıt vermedi ve projenin mevcut kişisel verilerin korunması, siber güvenlik ve bilgi güvenliği mevzuatına uygun şekilde yürütüldüğünü açıklamakla yetindi.
Arnavutluk’un henüz yapay zekâ yasası yok
Sistem, Arnavutluk’ta yapay zekâya özel bir yasanın henüz kabul edilmediği bir dönemde uygulanmaya başladı.
Yapay Zekâ Yasa Tasarısı’nın kamuoyu istişare süreci tamamlanmış durumda. Tasarıyla Arnavutluk mevzuatının Avrupa Birliği’nin Yapay Zekâ Yasası ile uyumlu hale getirilmesi amaçlanıyor.
Uzmanlar, özellikle yüksek risk taşıyan yapay zekâ sistemlerinin bağımsız bir kurum tarafından denetlenmesi gerektiğini savunuyor.
Proje 873 noktaya yayılacak
Okullardaki yapay zekâ destekli kameralar, “Smart City” adı verilen çok daha kapsamlı ulusal güvenlik ve izleme projesinin yalnızca bir bölümünü oluşturuyor.
İçişleri Bakanlığı ve Devlet Polisi tarafından yönetilecek sistemin Arnavutluk genelinde 873 noktaya yayılması planlanıyor. Projenin 24 şehir, 28 sınır kapısı ve 12 yerel polis müdürlüğünü kapsaması öngörülüyor.
Proje kapsamında yapay zekâ destekli görüntü analizinin yanı sıra polisler için vücut kameraları, otomatik plaka tanıma sistemleri, radarlar ve gürültü sensörleri de bulunuyor.
Başlangıçta yaklaşık 60 milyon dolar olarak hesaplanan projenin daha sonra Abu Dabi Kalkınma Fonu ile yapılan 118,5 milyon dolarlık kredi anlaşmasıyla ilişkilendirilmesi ise projenin maliyeti, finansmanı ve şeffaflığı konusunda yeni tartışmalara yol açtı.
