OpenAI ve Anthropic'ten ABD ara seçimleri için "savaş odası" hazırlığı

Yapay zeka şirketleri OpenAI ve Anthropic, ABD'de yapılacak ara seçimler öncesinde seçim güvenliğine yönelik önlemlerini artırıyor.

İki şirket, platformlarında doğru bilgi sunulmasını sağlamak ve olası yanlış bilgilendirme girişimlerine hızlı müdahale etmek amacıyla ilk kez özel izleme ekipleri oluşturacak.

Semafor'un haberine göre, şirketler seçim döneminde "savaş odası" (war room) olarak adlandırılan özel operasyon merkezlerini devreye alacak.

Deepfake videolar ve hatalı yapay zeka yanıtları risk oluşturuyor

Teknoloji platformlarının seçim dönemlerinde özel izleme merkezleri kurması uygulaması 2018 yılına uzanıyor.

Meta, seçimlerle bağlantılı yanlış bilgilerin yayılmasına ilişkin endişeler nedeniyle bu yöntemi ilk kez kullanmıştı.

Yapay zeka teknolojilerinin yaygınlaşmasıyla birlikte seçim güvenliğine yönelik riskler de farklılaştı.

Gerçeğe yakın deepfake videolar ve yapay zeka destekli arama sistemlerinin hatalı yanıtları, yanlış bilginin yayılmasını daha karmaşık hale getirdi.

Geçen hafta Google'ın AI Mode hizmetinin, 2020 ABD başkanlık seçimlerini kimin kazandığına ilişkin soruya yanıt vermemesi dikkat çekmişti.

Google, sorunun giderilmesi için çalışma yürüttüğünü açıklamıştı.

Anthropic özel operasyon ekibi kurdu

Anthropic sözcüsü, Semafor'a yaptığı açıklamada şirket genelindeki ekiplerin seçim güvenliğini güçlendirmek ve platform politikalarını uygulamak için yıl boyunca çalıştığını belirtti.

Sözcü, seçimler öncesinde platformun kötüye kullanımını izleyecek ve olası olaylara hızla müdahale edebilecek özel bir operasyon ekibinin hazır olduğunu bildirdi.

OpenAI de seçim döneminde doğru bilgi sunulmasını desteklemek ve olası yanlış bilgilendirme girişimlerini takip etmek amacıyla benzer bir izleme merkezi oluşturacak.

Meta'nın eski kamu politikaları direktörü Katie Harbath, özel operasyon merkezlerinin önceden tahmin edilemeyen sorunlara müdahale etmek amacıyla oluşturulduğunu söyledi.

Harbath, bu merkezlerin beklenmedik gelişmeleri hızla değerlendirmek, önceliklendirmek ve belirlenmiş müdahale süreçlerini devreye sokmak açısından önem taşıdığını ifade etti.