Anthropic araştırmacısından çarpıcı uyarı: Yapay zekânın insanlığı yok etme riski yüzde 10'un üzerinde

Anthropic'in Uyum Bilimi Lideri Evan Hubinger, yapay zekanın gelecek 10 yıl içinde tüm insanlığın ölümüne yol açma ihtimalini yüzde 10'un üzerinde gördüğünü açıkladı.

Hubinger, X hesabından yaptığı paylaşımda Anthropic'in güvenlik konusunda elinden geleni yaptığına inandığını ancak insan zekasını aşan sistemlerin hedef ve davranışlarının insan değerleriyle uyumlu hale getirilmesine yönelik henüz bir plan bulunmadığını belirtti.

"Üstün yapay zeka" olarak tanımlanan kavram, en yetenekli insanlardan bile daha yüksek bilişsel kapasiteye sahip olduğu varsayılan ve henüz teorik düzeyde bulunan yapay zeka sistemlerini ifade ediyor.

Hubinger'in açıklaması, Anthropic araştırmacısı Jacob Coxon'ın güvenlik kaygıları nedeniyle görevinden ayrılmasının ardından geldi.

"Şirketler sorumlu davranmıyor" Daha önce OpenAI ve Anthropic'te ön eğitim araştırmaları yapan Coxon, iki şirketin de sorumlu biçimde hareket etmediğini savundu. Şirketlerin kendi yeteneklerini geliştirebilen üstün yapay zekaya ulaşmak için yarıştığını belirten Coxon, bunun insan hayatını riske attığını ileri sürdü.

Coxon'a göre OpenAI'de birçok çalışan konunun uygarlık açısından oluşturduğu riski yeterince içselleştirmiş değil. Anthropic'te ise riskler daha iyi anlaşılmasına rağmen diğer şirketlerin sorumlu davranmayacağı düşüncesiyle yarışı ilk sırada tamamlama baskısı bulunuyor.

Axios'a konuşan Coxon, Anthropic'in değerlemesinin yükselmesinden herhangi bir kazanç sağlamadan görevinden ayrıldığını söyledi. Şirkette yalnızca dört ay çalışan Coxon'ın hisselerinin hak edilmesi için altı ay görev yapması gerekiyordu. Araştırmacının önceki işvereni OpenAI'de ise halen hisse hakkı bulunuyor.

Coxon'ın istifasını duyurduğu paylaşım 115 milyondan fazla görüntülenmeye ulaştı.

Modellerin denetlenmesi zorlaşıyor Anthropic, diğer ileri düzey yapay zeka laboratuvarlarına göre güvenlik konusunda daha temkinli bir şirket olarak görülüyor. Coxon da şirketin bugüne kadar rekabet avantajı sağlamak için güvenlikten ödün verdiğine tanık olmadığını ancak yarış baskısının gelecekte denetim süreçlerinde adımların atlanmasına yol açabileceğini söyledi.

Yapay zeka modellerinin gelişirken daha hızlı ve yetenekli hale geldiğini ancak aynı zamanda denetlenmelerinin zorlaştığını belirten Coxon, modellerin test edildiklerini anlamalarının artık bilim kurgu olmaktan çıkarak araştırmacıların günlük çalışmalarında karşılaştığı bir durum haline geldiğini ifade etti.

Coxon, yapay zeka güvenliğine ilişkin kaygıların bazen OpenAI ve Çin'e yönelik aşırı endişelerle birleşerek teknolojik yarışın sürdürülmesini gerekçelendirebildiğini de belirtti.

Anthropic araştırmacısından çarpıcı uyarı: Yapay zekânın insanlığı yok etme riski yüzde 10'un üzerinde

Bunlar da İlginizi Çekebilir