Yapay zeka şirketi Anthropic, küçük yapay zeka modellerinin birkaç ay içinde internete bağlı ev cihazları arasında kendilerini kopyalayarak yayılabilecek yeteneklere ulaşabileceği uyarısında bulundu. Şirket, merkezi bir kapatma noktası bulunmayan bu tür sistemlerin kontrol altına alınmasının zorlaşabileceğini belirtti.
Yapay zeka modelleri ev cihazlarına yayılabilir
Anthropic'in yayımladığı araştırmaya göre, yapay zeka modelleri akıllı fırınlar ve Android TV kutuları gibi internete bağlı cihazlara sızarak bu cihazların işlem gücünü kullanabilir. Anthropic, bu tür sistemlerin merkezi bir kapatma noktası bulunmadığı için devre dışı bırakılmasının zor olabileceğini vurguladı.
Şirket, henüz tamamen kontrolden çıkmış ve kendi kendini çoğaltabilen bir yapay zeka sistemi bulunmadığını da belirtti. Ancak yapay zeka ajanlarının, kendilerini kopyalama sürecindeki ayrı adımları gerçekleştirme ve yaptıkları uyarlamaları sonraki kopyalarına aktarma konusunda giderek daha yetenekli hale geldiğini bildirdi.
15 Android TV cihazıyla deney yapıldı
Anthropic, yapay zeka modellerinin kendilerini çoğaltma yeteneklerini değerlendirmek amacıyla çeşitli deneyler gerçekleştirdi. Deneylerden birinde Google'ın küçük yapay zeka modeli Gemma4-26B-A4B, düşük maliyetli 15 Android TV kutusundan oluşan bir ağ üzerinde çalıştırıldı. Şirket, bu tür cihazlarda güvenlik önlemlerinin sıklıkla yetersiz olduğunu ve bunun yapay zeka modellerinin cihazlara sızmasını kolaylaştırabileceğini belirtti.Tek bir cihaza sığmayacak kadar büyük modellerin ise parçalara ayrılarak birden fazla cihaz üzerinde çalıştırılabileceği ifade edildi.
Farklı modeller birlikte hareket edebilir
Anthropic, en olumsuz senaryolardan birinin farklı donanımlar üzerinde çalışan ve çeşitli çoğalma yöntemleri kullanan birden fazla yapay zeka modelinin birlikte hareket etmesi olduğunu açıkladı. Şirkete göre, kendi kendini çoğaltan yapay zeka sistemleri yalnızca tek bir modelden veya yöntemden oluşmak zorunda değil. Farklı cihazlara dağıtılmış modellerin oluşturduğu ağlar, merkezi kontrol bulunmaması nedeniyle geleneksel güvenlik yöntemleri açısından yeni zorluklar yaratabilir.
Veri merkezleri ve erişim anahtarları da risk altında
Anthropic, otonom yapay zeka çoğalmasının gelecekte nasıl bir biçim alacağının henüz belirsiz olduğunu belirtti.Şirket, olası senaryolar arasında güvenliği zayıf cihazlara dağıtılmış, yavaş biçimde yayılan sistemlerin yanı sıra veri merkezlerine hızla sızabilen güçlü siber modelleri de sıraladı.
Yapay zeka sistemlerinin insanları kandırarak işlem gücü kullanımına yönelik krediler elde etmesi veya uygulama programlama arayüzü (API) erişim anahtarlarını ele geçirmesi de olası riskler arasında gösterildi.
"İnsan kontrolü dışında çalışan ajanlar yaygınlaşabilir"
Anthropic, deneylerinin ötesine geçen bir öngörü olarak, gelecekte farklı donanımlarda çalışan çok sayıda yapay zeka ajanının ortaya çıkmasını beklediğini açıkladı.
Şirket, bu ajanların bir bölümünün insan kontrolü dışında faaliyet gösterebileceği uyarısında bulundu.
Araştırmada, güvenliği zayıf cihazlarda yavaş biçimde çoğalan yapay zeka sistemlerinin ortaya çıkmasının, daha güçlü güvenlik önlemlerine sahip sistemlere sızabilen veya erişim anahtarlarını ele geçirebilen daha gelişmiş modeller açısından erken bir işaret olabileceği belirtildi.
