AB’nin Yeni Yapay Zekâ Kuralları: Şirketiniz Hazır mı?
Düzenlemenin merkezindeki soru basit: Kullanıcı, karşısında bir insan mı yoksa yapay zekâ mı olduğunu; gördüğü, dinlediği veya okuduğu içeriğin yapay olarak üretilip üretilmediğini anlayabiliyor mu?
13 Ağustos 2024’te yürürlüğe giren AB Yapay Zekâ Tüzüğü (Artificial Intelligence Act) (“Tüzük”), yapay zekâ sistemlerinin güvenli, temel haklara saygılı ve şeffaf biçimde geliştirilmesini hedefleyen kapsamlı bir çerçeve oluşturdu. Tüzük hakkındaki detaylı bilgi için bu link teki yazımızı inceleyebilirsiniz.
Tüzük’ün şeffaflık gereklilikleri, yüksek riskli sistem kuralları ve ana denetim yetkilerinin büyük kısmının yürürlüğe girme tarihi 2 Ağustos 2026. Bu tarihten itibaren, Tüzük’ün 50. maddesindeki şeffaflık yükümlülükleri de uygulanmaya başlayacak.
1. Bu Kurallar Kimleri Etkiler?
Bu kurallar yalnızca AB’de yerleşik şirketleri ilgilendirmiyor. Türkiye merkezli bir şirketin yapay zekâ sistemini AB pazarına sunması, sistem çıktılarının AB’de kullanılması veya AB’de bulunan kişileri etkilemesi hâlinde Tüzük kapsamı gündeme gelebilir.
Özellikle aşağıdaki kişi ve firmaların süreçlerini gözden geçirmesi gerekir:
· Chatbot ve sanal asistan kullanan şirketler — AB'de müşterilere chatbot, sanal asistan veya yapay zekâ destekli müşteri hizmeti sunan şirketler.
· İçerik üreten ajans ve teknoloji şirketleri — yapay zekâ ile görsel, video, ses, avatar, reklam metni veya sosyal medya içeriği üreten şirketler.
· AB'ye dijital hizmet sunan işletmeler — SaaS, e-ticaret, oyun, eğitim veya finansal teknoloji alanında faaliyet gösteren şirketler.
· Duygu/biyometrik analiz kullanan kuruluşlar — çağrı merkezi, işe alım, perakende veya güvenlik süreçlerinde duygu tanıma ya da biyometrik sınıflandırma kullanan şirketler.
· Medya ve içerik platformları — kamu yararı taşıyan konularda yapay zekâ ile üretilmiş içerik yayımlayan şirketler.
2. Dört Temel Şeffaflık Yükümlülüğü
2.1. Yapay Zekâ ile Etkileşimi Açıklama
Bir chatbot, sesli asistan, müşteri hizmetleri botu veya yapay zekâ karakteri kişiyle doğrudan iletişim kuruyorsa, ilgili kişi yapay zekâ ile etkileşimde bulunduğunu açıkça anlayabilmelidir. Bildirimin, kullanıcıyı uzun metinler içinde aramaya zorlamayan; ilk temas anında fark edilebilir bir tasarımla sunulması gerekir.
Örneğin, bir e-ticaret şirketinin AB’deki müşterilerine hizmet veren sohbet botu, konuşmaya “Bir yapay zekâ asistanı ile görüşüyorsunuz” açıklamasıyla başlayabilir. Sesli müşteri hizmetlerinde de görüşmenin başında kısa bir sesli bilgilendirme yapılabilir.
Yapay zekâ kullanımı zaten açıksa (örneğin arayüzü ve adından anlaşılan bir yapay zekâ sohbet uygulaması) ayrıca bildirim gerekmeyebilir.
2.2. Yapay Zekâ Üretimi İçeriği İşaretleme
Yapay zekâ ile oluşturulan veya esaslı biçimde değiştirilen ses, görsel, video ve metinlerde temel beklenti, içeriğin yapay niteliğinin hem kullanıcılar hem de teknik sistemler bakımından anlaşılabilir olmasıdır.
Bu yükümlülük iki katmanlı düşünülmelidir. İlk katman, kullanıcıların içeriğe ilk maruz kaldıklarında görebileceği açıklamadır. İkinci katman ise içeriğin yapay zekâ ile üretildiğini veya değiştirildiğini gösteren, makine tarafından okunabilir teknik bilgidir.
Örneğin, AB’de hizmet sunan bir video üretim platformu, yapay zekâ ile hazırlanan videonun üzerinde uygun bir “Yapay zekâ ile üretilmiştir” ibaresine yer verebilir. Bunun yanında video dosyasında, platformlar ve otomatik tespit araçlarınca okunabilecek metadata bulunmalıdır.
Görünür açıklama, kullanıcı şeffaflığına; teknik metadata ise içeriğin otomatik sistemler tarafından izlenebilir ve tespit edilebilir olmasına hizmet eder. Bu nedenle yalnızca görünür etiket kullanmak, teknik işaretleme ihtiyacını her durumda karşılamaz.
2.3. Duygu Tanıma ve Biyometrik Sınıflandırmayı Bildirme
Bir sistem kişinin yüz ifadesi, sesi, hareketleri veya başka özelliklerinden hareketle duygu durumu çıkarmaya ya da kişileri belirli biyometrik özelliklerine göre sınıflandırmaya çalışıyorsa, bu kullanıma maruz kalan kişiler bilgilendirilmelidir.
Örneğin çağrı merkezi görüşmesindeki ses tonundan müşterinin memnuniyet, stres veya öfke düzeyini analiz eden bir yazılım kullanılıyorsa, müşteri bu işleme ilişkin olarak görüşmenin başında bilgilendirilebilir. Benzer biçimde, mağaza içi kameralarla ziyaretçi profili veya duygu analizi yapan bir sistem de bilgilendirme gerektirebilir.
2.4. Deepfake ve Kamu Yararı Taşıyan Yapay Zekâ Metinlerini Açıklama
Bir kişi, olay veya mekân hakkında gerçeğe yakın izlenim oluşturan yapay/değiştirilmiş görüntü, ses veya video kullanılıyorsa, bunun yapay olarak üretildiği açıkça belirtilmelidir. Bu yükümlülük, özellikle reklam, sosyal medya, siyasi iletişim, haber ve kamuoyu üzerinde etkili olabilecek içerikler açısından önem taşır.
Örneğin, bir markanın reklamında, bir ünlünün gerçekte söylemediği sözleri söylüyormuş gibi gösteren yapay zekâ üretimi video kullanılıyorsa, izleyicinin içeriğin yapay olarak oluşturulduğunu anlayacağı açık bir ibare bulunmalıdır.
3. İstisnalar Sınırlı
Yapay zekâ ile etkileşim zaten makul ölçüde açıksa, ek bildirime gerek olmayabilir. Kullanıcı içeriğini esaslı biçimde değiştirmeyen standart düzenleme araçları da teknik işaretleme dışında kalabilir.
Sanatsal, yaratıcı, satirik veya kurgusal içeriklerde kullanılan deepfake’lerde açıklama yapılması gerekse dahi, yöntemin eserin izlenmesini veya kullanılmasını gereksiz biçimde bozmayacak şekilde belirlenmesi öngörülmektedir. Kanunla yetkilendirilmiş suç önleme, soruşturma veya kovuşturma faaliyetleri için de özel istisnalar bulunmaktadır.
4. Yaptırım Riski
Madde 50 kapsamındaki şeffaflık kurallarına uyulmaması hâlinde, 15 milyon avroya veya önceki mali yıl küresel yıllık cirosunun %3’üne kadar idari para cezası riski doğabilir.
5. Sonuç
Tüzük’ün şeffaflık kuralları, yalnızca içeriklere etiket eklenmesini değil; yapay zekâ kullanımının ürün tasarımından müşteri iletişimine kadar görünür ve izlenebilir hâle getirilmesini gerektiriyor. AB pazarına hizmet sunan Türkiye merkezli şirketler için chatbotlar, yapay zekâ ile üretilen görsel ve videolar, duygu analizi araçları ile gerçekçi sentetik içerikler öncelikli risk alanlarıdır.
2 Ağustos 2026 itibarıyla şirketlerin yapay zekâ kullanım alanlarını belirlemesi, hangi içeriklerde görünür açıklama ve teknik işaretleme gerektiğini değerlendirmesi, gerekli kullanıcı bildirimlerini ürün ve süreçlerine yerleştirmesi önem taşıyor. Uyum, son aşamada eklenen bir uyarı metninden ibaret değildir; yapay zekâ ürününün ve içerik üretim sürecinin baştan itibaren şeffaflık esasına göre tasarlanmasını gerektiriyor.
Bu hazırlık, yüksek idari para cezası riskini azaltmanın yanında, kullanıcı güvenini korumak ve AB pazarındaki ticari faaliyetlerin sürdürülebilirliğini sağlamak bakımından da belirleyici olacaktır.