OpenAI ve Anthropic'ten ABD seçimleri için özel ekip: Yapay zeka kaynaklı yanlış bilgilere karşı önlem

Yapay zeka şirketleri OpenAI ve Anthropic, ABD ara seçimleri öncesinde platformlarında doğru bilgi sunulmasını sağlamak ve olası yanlış bilgilendirme girişimlerine hızla müdahale etmek amacıyla özel izleme ekipleri oluşturuyor. Her iki şirket de seçimler için ilk kez "savaş odası" (war room) olarak adlandırılan özel operasyon merkezlerini devreye alacak.

Semafor'un haberine göre, seçim dönemlerinde teknoloji platformlarının özel izleme merkezleri kurması uygulaması 2018 yılına dayanıyor. Meta, seçimlerle ilgili yanlış bilgilerin yayılmasına yönelik endişeler nedeniyle bu yöntemi ilk kez hayata geçirmişti.

Ancak yapay zeka teknolojilerinin yaygınlaşmasıyla birlikte seçim güvenliğine yönelik riskler de farklı bir boyut kazandı.

Deepfake videolar ve yanlış yapay zeka yanıtları gündemde

Yapay zeka çağında seçimlere ilişkin yanlış bilgi yayılımı, gerçeğe yakın sahte videolar ve yapay zeka destekli arama sistemlerinin hatalı yanıtları nedeniyle daha karmaşık hale geldi.

Geçen hafta Google'ın AI Mode hizmetinin 2020 ABD başkanlık seçimlerini kimin kazandığına ilişkin bir soruya yanıt vermemesi dikkat çekti.

Google, söz konusu sorunun giderilmesi için çalıştığını açıkladı.

Anthropic seçimleri özel ekiple izleyecek

Anthropic sözcüsü Semafor'a yaptığı açıklamada, şirket genelindeki ekiplerin seçimlerle ilgili güvenlik önlemlerini güçlendirmek ve platform politikalarını uygulamak için yıl boyunca çalıştığını belirtti.

Sözcü, seçimler öncesinde platformun kötüye kullanımını izleyecek ve olası olaylara hızla müdahale edebilecek özel bir operasyon ekibinin hazır bulunduğunu bildirdi.

OpenAI de seçimlere yönelik doğru bilgi sunulmasını sağlamak amacıyla benzer bir özel izleme merkezi oluşturacak.

Yapay zekanın öngörülemeyen davranışları zorluk yaratıyor

Şirketlerin seçim dönemindeki çalışmalarını yapay zekanın öngörülemeyen davranışları, son dönemde yaşanan siber güvenlik sorunları ve yapay zeka destekli arama araçlarının kullanıcıların görmek istediği sonuçları yansıtma eğilimi zorlaştırıyor.

Meta'nın eski kamu politikaları direktörü Katie Harbath, özel operasyon merkezlerinin önceden tahmin edilemeyen sorunlara müdahale etmek amacıyla oluşturulduğunu söyledi.

Harbath, bu yapıların beklenmedik olayları hızla değerlendirmek, önceliklendirmek ve yerleşik müdahale süreçlerini devreye sokmak açısından önem taşıdığını ifade etti.