OpenAI, çocukların çevrim içi istismarını tespit etmek için yeni yapay zeka aracı geliştirdi
ANKARA (AA) - Yapay zeka şirketi OpenAI, çocukların istismarına ilişkin çevrim içi görüntüleri, yapay zeka tarafından üretilenler de dahil olmak üzere, tespit edebilen "yeni bir sınıflandırma aracı" geliştirdiğini duyurdu.
Şirketin internet sitesinde yayımlanan açıklamaya göre, yeni görüntü sınıflandırma aracı, çocukların istismarını içeren ve daha önce tespit edilmemiş görselleri belirlemek için görsel işaretleri analiz ediyor.
Araç, inceleme ekiplerine hangi görüntülerin öncelikli olarak değerlendirilmesi gerektiğini gösteren puanlar sunuyor.
OpenAI, yapay zeka tarafından üretilmiş çevrim içi çocuk istismarı içeriklerini tespit etmeye yönelik özel bir sinyal sunan ve geniş erişime açılan ilk sınıflandırma aracı olduğunu belirttiği sistemi, onaylanmış kuruluşların kullanımına ücretsiz sunacak.
- ChatGPT'de zararlı davranışlara yönelik uyarılar devreye girecek
OpenAI, mevcut güvenlik önlemlerine ek olarak ChatGPT'de çocuk istismarı içeriği arama girişimlerini kesintiye uğratacak yeni uyarı mekanizmaları uygulayacağını duyurdu.
Bu kapsamda kullanıcıya, çocuklara yönelik istismar sayılabilecek içeriklerin yapay zeka tarafından üretilmiş olsa dahi zarara yol açtığı açıklanacak
İşaretlenen sohbet kaldırılacak ve kullanıcının ChatGPT'ye erişimi 24 saatliğine durdurulacak. Bu süreçte zararlı davranışları sonlandırmaya yönelik uzman desteği de sunulacak.
İhlallerin tekrarlanması halinde daha uzun süreli kısıtlamalar uygulanabilecek, hesabın kapatılması veya durumun yetkililere bildirilmesi söz konusu olabilecek.
Şirket, bu yaklaşımı çocukların istismarını önlemeye yönelik çalışmalar yürüten kuruluşlar ve akademik danışmanların katkısıyla geliştirdiğini bildirdi.
AA
Burada yer alan yatırım bilgi, yorum ve tavsiyeler yatırım danışmanlığı kapsamında değildir. Yatırım danışmanlığı hizmeti, aracı kurumlar, portföy yönetim şirketleri, mevduat kabul etmeyen bankalar ile müşteri arasında imzalanacak yatırım danışmanlığı sözleşmesi çerçevesinde sunulmaktadır. Burada yer alan yorum ve tavsiyeler, yorum ve tavsiyede bulunanların kişisel görüşlerine dayanmaktadır. Bu görüşler mali durumunuz ile risk getiri tercihlerinize uygun olmayabilir. Bu nedenle, sadece burada yer alan bilgilere dayanılarak yatırım kararı verilmesi beklentilerinize uygun sonuçlar doğurmayabilir.