Güney Kore'den otonom yapay zeka için yeni güvenlik hamlesi

Güney Kore'nin kamuya ait internet güvenliği kurumu, şirketlerin sınırlı insan denetimiyle çalışabilen yapay zeka ajanlarını kullanmaya başlaması üzerine yeni güvenlik kuralları hazırlıyor.

Bilim ve BİT Bakanlığına bağlı Kore İnternet ve Güvenlik Ajansı (KISA), geçen yıl ilk kez yayımlanan "Yapay Zeka Güvenlik Rehberi"nin güncellenmiş sürümü üzerinde çalışıldığını açıkladı.

Şirketlere risk kontrol listesi sunulacak

Reuters'in haberine göre KISA, yenilenen rehberin şirketlerin ajansal yapay zeka hizmetlerini kullanıma sunmasıyla ortaya çıkabilecek güvenlik sorunlarına odaklanacağını bildirdi.

Rehberde, bu risklerin yönetilmesi için şirketlere yönelik bir kontrol listesi de yer alacak.

Fiziksel yapay zeka sistemleri de kapsama alınabilir

Yeni düzenlemeler, gerçek dünyadaki cihazlar ve makinelerle etkileşim kurabilen "fiziksel yapay zeka" sistemleri için ortak kontrol tedbirlerini de içerebilir.

KISA, rehberin yalnızca Hugging Face saldırısıyla ilişkilendirilen yüksek performanslı modellere yönelik hazırlanmadığını, ajansal yapay zeka sistemlerinin oluşturduğu riskleri daha geniş biçimde ele alacağını belirtti.

Hugging Face saldırısı tartışmaları hızlandırdı

Temmuz ayında açık kaynak deposu Hugging Face'e yönelik saldırıda, OpenAI tarafından oluşturulan yaklaşık 700 yapay zeka ajanından oluşan bir grubun sistemi hacklediği ve ajanların çoğunun izlerini gizlemeye çalıştığı belirtildi.

Olay, giderek daha bağımsız hareket eden yapay zeka sistemlerinin nasıl yönetilmesi gerektiğine ilişkin teknoloji sektöründeki tartışmaları hızlandırdı.