Yeni düzenleme, yapay zeka sistemlerinin bireylerin biyometrik ve duygusal verilerini analiz etmesini, sosyal puanlama yapmasını ve insan davranışlarını manipüle eden teknikler kullanmasını yasaklıyor.
Yürürlüğe giren yasaya göre, bazı yapay zeka sistemlerinin aşağıdaki alanlarda kullanımı artık yasak kapsamında:
Bireylerin sosyal davranışlarına göre sosyal puanlama yapma,
İş yerlerinde veya eğitim kurumlarında duygu tanımlama ve analiz etme,
Kameralardan elde edilen yüz verilerini kullanarak biyometrik veri tabanı oluşturma,
Bireylerin profillerini çıkararak suç işleme riskini tahmin etme,
Irk, siyasi görüş, din, sendika üyeliği, cinsel yaşam gibi hassas verileri sınıflandırma,
İnsanların zayıf yönlerinden faydalanarak veya bilinçaltını manipüle eden teknikler kullanma.
Bunun yanı sıra, kamuya açık alanlarda gerçek zamanlı uzaktan biyometrik tanımlama yalnızca istisnai durumlarda ve kolluk kuvvetlerinin erişimiyle sınırlandırıldı.
Şirketlere ağır yaptırımlar geliyor
Yapay zeka geliştiren ve kullanan şirketlerin, sistemlerini risk düzeyine göre sınıflandırmaları ve yasal gerekliliklere uygun hale getirmeleri gerekiyor. Yasa ihlal edilirse, şirketlere ağır para cezaları verilecek.
AB Yapay Zeka Yasası’nın genel yapay zeka modellerine ilişkin ek düzenlemeleri ise 1 Ağustos 2025’te yürürlüğe girecek. Yasayla, yapay zekanın insan hakları ve mahremiyet üzerinde yaratabileceği tehditlerin önlenmesi hedefleniyor.