OpenAI'ın istifa eden güvenlik uzmanı yapay zeka riskleri için uyardı
OpenAI'de güvenlik alanında görev yaptıktan sonra kısa süre önce istifa eden David Robinson, önde gelen yapay zeka şirketlerinin teknolojinin yarattığı riskleri azaltmak için yeterince dikkatli davranmadığını savundu.
Robinson, cumartesi günü The Atlantic'te yayımlanan "OpenAI'den Ayrıldım Çünkü Kültürü Bozuk" başlıklı yazısında, OpenAI dahil yapay zeka şirketlerinin "gerektiği kadar dikkatli olmadığını" belirterek, daha gelişmiş sistemler oluşturulmadan önce güvenlik uzmanlığı ve araştırmalarına daha fazla ağırlık verilmesi gerektiğini ifade etti.
"Deneme yanılma dönemi sona erdi"
Robinson, gelişmiş yapay zeka sistemlerinin nükleer enerji ve havacılık gibi sektörlerde uygulanan çok katmanlı güvenlik önlemlerine benzer korumalara ihtiyaç duyduğunu savundu.
"Deneme yanılma dönemi sona erdi" ifadesini kullanan Robinson, yapay zeka şirketlerinin olası hataları önlemek için yedekli güvenlik sistemleri ve daha dikkatli planlama süreçleri oluşturması gerektiğini belirtti.
Robinson'a göre OpenAI, "iteratif dağıtım" olarak adlandırdığı yaklaşıma büyük ölçüde dayanıyor. Bu modelde sistemler kullanıma sunuluyor ve ortaya çıkan sorunlara göre güvenlik önlemleri daha sonra güçlendiriliyor.
"Bir lansmandan diğerine koşuluyor"
OpenAI'de yaklaşık 3,5 yıl görev yaptığını belirten Robinson, şirketin hazırlık çerçevesinin oluşturulmasına katkı sağladığını ve 12 ileri seviye model lansmanına ilişkin güvenlik raporlarını denetlediğini söyledi.
Robinson, "Şirket bir lansmandan diğerine koşarken, gerekli olduğuna inandığım dikkat seviyesine ulaşamıyor" değerlendirmesinde bulundu.
Burada yer alan yatırım bilgi, yorum ve tavsiyeler yatırım danışmanlığı kapsamında değildir. Yatırım danışmanlığı hizmeti, aracı kurumlar, portföy yönetim şirketleri, mevduat kabul etmeyen bankalar ile müşteri arasında imzalanacak yatırım danışmanlığı sözleşmesi çerçevesinde sunulmaktadır. Burada yer alan yorum ve tavsiyeler, yorum ve tavsiyede bulunanların kişisel görüşlerine dayanmaktadır. Bu görüşler mali durumunuz ile risk getiri tercihlerinize uygun olmayabilir. Bu nedenle, sadece burada yer alan bilgilere dayanılarak yatırım kararı verilmesi beklentilerinize uygun sonuçlar doğurmayabilir.