ABD, İngiltere ve 16 diğer ülke, yapay zekanın kötü niyetli aktörler tarafından ele geçirilmesini önlemeye yönelik ilk uluslararası anlaşmaya vardı. 20 sayfalık belge, yapay zekayı tasarlayan ve kullanan şirketlerin, sistemlerini güvenlik açısından sağlam olacak şekilde geliştirmesi ve dağıtması gerektiği konusunda anlaştı.
Anlaşmanın önemi
Anlaşma, yapay zeka düzenlemesi için önemli bir gelişme olarak kabul ediliyor. Ancak bağlayıcı değil ve çoğunlukla genel tavsiyeler içeriyor. Yine de, bu kadar ülkenin yapay zeka sistemlerinin güvenliği konusunda ortak bir fikre imza atması önemli.
ABD’nin rolü
ABD, anlaşmanın hazırlanmasında ve uygulanmasında öncü bir rol üstlendi. ABD Siber Güvenlik ve Altyapı Güvenliği Ajansı Direktörü Jen Easterly, anlaşmayı “tasarım aşamasında güvenlik” yaklaşımını destekleyen bir anlaşma olarak nitelendirdi.
Anlaşmanın içeriği
Anlaşma, yapay zekanın kötüye kullanımını önlemek için aşağıdaki hususları içeriyor:
- Yapay zeka sistemlerinin güvenlik açısından sağlam olacak şekilde tasarlanması ve geliştirilmesi
- Yapay zeka sistemlerinin kötüye kullanıma karşı izlenmesi
- Yapay zeka sistemlerinin verilerinin manipülasyona karşı korunması
- Yapay zeka yazılım tedarikçilerinin incelenmesi
Anlaşmanın eksiklikleri
Anlaşma, yapay zekanın uygun kullanımları veya bu modelleri besleyen verilerin nasıl toplandığına ilişkin soruları ele almıyor. Bu konular, yapay zeka düzenlemesi konusundaki tartışmaların odak noktası olmaya devam edecek.
Avrupa’nın yaklaşımı
Avrupa, yapay zeka düzenlemesi konusunda ABD’nin önünde yer alıyor. Avrupa Birliği, yapay zeka için bir düzenleme paketi üzerinde çalışıyor. Bu paket, yapay zekanın uygun kullanımlarını ve bu modelleri besleyen verilerin nasıl toplanması gerektiğini ele alıyor.
18 ülkenin yapay zekanın “tasarım gereği güvenli” olması için anlaşmaya varması, yapay zeka düzenlemesi için önemli bir gelişme olarak kabul ediliyor. Ancak anlaşmanın bağlayıcı olmaması ve genel tavsiyeler içermesi, bazı eksikliklere işaret ediyor. Bu eksiklikler, yapay zeka düzenlemesi konusundaki tartışmaların devam edeceğini gösteriyor.
