OpenAI'dan yapay zeka risklerine karşı 445 bin dolarlık iş ilanı
- ChatGPT'nin geliştiricisi OpenAI, yapay zekanın insan müdahalesi olmadan kendi kendini eğitebildiği bir geleceğe hazırlanıyor.
- Şirket, bu süreçte ortaya çıkabilecek öngörülemeyen güvenlik risklerini ve tehditleri araştıracak uzmanlar için yıllık 445 bin dolara kadar maaş teklif eden dikkat çekici bir iş ilanı yayımladı.
- İlanda, adaylardan gelecekte ortaya çıkabilecek ancak bugün henüz var olmayan sorunları öngörmelerinin beklendiği belirtilirken, "Bu görevde çalışacak kişilerin stratejik düşünebilmesi ve güçlü teknik uygulama becerilerine sahip olması özellikle önemli." ifadeleri kullanıldı.
Yapay zekanın kendi kendini eğitebildiği bir geleceğe hazırlanan OpenAI, olası riskleri araştıracak güvenlik uzmanları için dikkat çeken bir iş ilanı yayımladı.
Yıllık 295 bin ila 445 bin dolar arasında maaş
Şirketin yayımladığı yeni iş ilanında, "recursive self-improvement" yani "tekrarlanan kendini geliştirme" adı verilen senaryolara hazırlık yapacak güvenlik araştırmacıları için yıllık 295 bin ila 445 bin dolar arasında maaş teklif edildi.
İlanda, adaylardan gelecekte ortaya çıkabilecek ancak bugün henüz var olmayan sorunları öngörmelerinin beklendiği belirtilirken, "Bu görevde çalışacak kişilerin stratejik düşünebilmesi ve güçlü teknik uygulama becerilerine sahip olması özellikle önemli." ifadeleri kullanıldı.
Son aylarda özellikle yazılım geliştirme alanındaki yapay zeka araçlarının hızlı ilerlemesi, sektör liderlerini yapay zekanın kendi kendini geliştirebileceği ihtimali üzerinde daha ciddi şekilde düşünmeye yöneltti.
Sam Altman liderliğindeki OpenAI, kendi araştırmalarını otomatikleştirebilen sistemler geliştirmeyi hedefliyor.
Kontrol edilmesi zorlaşabilir
Yapay zeka alanındaki en büyük şirketlerden biri olan Anthropic de benzer çalışmalar yürütüyor.
Şirketin kurucu ortaklarından Jack Clark, geçtiğimiz günlerde yaptığı açıklamada, 2028 sonuna kadar insan müdahalesi olmadan yürütülen yapay zeka araştırma ve geliştirme süreçlerinin görülme ihtimalinin yüzde 60 olduğunu söyledi.
Uzmanlar, yapay zekanın kendi kendini eğitmeye başlaması durumunda sistemlerin çok hızlı şekilde güçlenebileceği ve kontrol edilmesinin zorlaşabileceği konusunda uyarıyor.
Veri zehirleme saldırılarına karşı savunma
OpenAI'ın iş ilanında da araştırmacının veri zehirleme saldırılarına karşı savunma geliştirme, yapay zeka modellerinin düşünme süreçlerini analiz edecek araçlar üretme ve gelişmiş modellerin güvenlik risklerini test etme gibi görevler üstlenebileceği belirtildi.
İlanda ayrıca yapay zeka araçlarının teknik çalışanların görevlerini ne ölçüde otomatikleştirdiğinin takip edilmesinin de araştırma alanlarından biri olacağı ifade edildi.
