Hukukun yeni dünya düzenine uyum çabası tüm hızıyla sürüyor. 2030’a kadar global yapay zekâ pazarının 1,5 trilyon dolara ulaşması beklenirken yapay zekâ ile ilgili uzun süredir devam eden çalışmalar, tartışmalar ve karşı görüşlerden sonra 13.03.2024 tarihi itibariyle Avrupa Birliği Yapay Zekâ Tüzüğü (“AI ACT”) Avrupa Parlamentosu’nda 46 üyenin oyuna karşı 523 üyenin oyuyla kabul edildi.

Yapay zekâ ile ilgili bir ilk olması sebebiyle tüm dünyanın gündeminde olan AI ACT neleri kapsıyor ve ne zaman yürürlüğe girecek?

Avrupa Birliği Konseyi tarafından da onaylanması beklenen AI ACT, bütünü itibariyle kademeli bir uyum süreci içermekle birlikte Avrupa Birliği Resmi Gazete’de yayınlandığı tarihten itibaren 20 gün sonra yürürlüğe girmesi beklenmektedir. AI ACT uyum süreci bakımından ise tüzüğün yürürlüğe girdiği tarihinden itibaren 24 ay içerisinde yani 2026 yılında Avrupa Birliği çapında uygulanabilir hale geleceğini söylemek mümkündür. Nitekim tüzüğün pek çok hükmü yürürlüğe girme tarihini takip eden 24 ay içinde uygulama alanı bulacakken bazı yükümlülüklerin ise ilk 6 ayın sonunda yerine getirilmesi gerekecektir.

AI ACT’ın hedefi, temel hak ve özgürlükleri ve hukukun üstünlüğünü yapay zekâ uygulamalarına karşı korumak olarak özetlenebilir. Bu bağlamda AI ACT, yapay zekâ uygulamalarını risk ekseninde değerlendirmekte ve buna göre kabul edilemez risk, yüksek risk, spesifik şeffaflık yükümlülüklerinin söz konusu olduğu sınırlı risk ve minimal risk olmak üzere dört seviyede gruplamaktadır.

İnsanların temel hak ve özgürlüklerini hedef alan yapay zekâ uygulamaları “kabul edilemez risk” kapsamında değerlendirilecek olup örneğin insanları davranışlarından dolayı ödüllendiren ya da cezalandıran vatandaş takip sistemleri ya da insan davranışlarını manipüle etmeye çalışan yapay zekâ sistemleri bu kapsamda kabul edilecek ve yasaklanacaktır.

AI ACT, Avrupa Birliğinde (“AB”) piyasaya sürülen veya hizmete sunulan yapay zekâ sistemlerinin sağlayıcılarına, AB nezdinde yerleşik olup olmamalarına bakılmaksızın, AB’de bulunan yapay zekâ sistemlerinin kullanıcılarına ve AB dışında bulunan yapay zekâ sistemleri tarafından üretilen çıktıların AB içinde kullanılması hâlinde, söz konusu sistemlerin sağlayıcılarına ve kullanıcıları bakımından uygulama alanı bulacaktır.

AI ACT kapsamında getirilen bazı önemli yenilikler aşağıdaki şekildedir:

• • Kamusal alanlarda kullanıcıların güvenlik açıklarını manipüle etmek ve sosyal puanlama yapmak gibi amaçlar için kullanılan yapay zeka uygulamalarının yasaklanması,

• • Çeşitli amaçlarla kullanılabilen “deepfake” adı verilen yapay veya değiştirilmiş görsel, video ve seslerin yapay olduğunun açıkça belirtilmesi zorunluluğu,

• • Yüz tanımaya ilişkin veri tabanı oluşturma amaçlı kullanılabilen belli yapay zeka uygulamalarının yasaklanması,

• • Kolluk kuvvetlerinin biyometrik tanıma sistemlerini yalnızca insan ticareti ya da terörizm gibi belirli suçlar söz konusu olduğunda, sıkı güvencelerin sağlandığı hallerde idari makamların izniyle kullanabilmesi.

AI ACT ile birlikte, her bir Avrupa Birliği ülkesi, vatandaşlarının kuralların ihlal edildiğini düşündüklerinde şikayetlerini iletebilmesi ve AI ACT uyum sürecinin denetlenebilmesi adına ulusal piyasa gözetim kurulu kuracaktır. Önemle belirtilmesi gereken bir diğer husus da AI ACT’in ihlali halinde şirketlerin küresel gelirinin yüzde 7'si veya 35 milyon avroya kadar para cezası alabilecekleridir.

Sonuç

Bu önemli adımlar, yapay zeka alanındaki mevcut çabaların hukuk normu bakımından ilk somut çıktısı olduğu gibi bu alanda gelebilecek yeni düzenlemelerin de işaretçisi olmaktadır. Nitekim, Avrupa Parlamentosu’nun yasa çalışmalarında görev alan İtalyan Milletvekili Brando Benifei de yaptığı açıklamada, yapay zekaya ilişkin başkaca düzenlemelerin de beklendiğini ifade etmiştir.