TikTok'un sahibi ByteDance'den yeni istihdam! Yapay zekâ güvenliği için ekip kuruluyor
- TikTok'un çatı şirketi ByteDance'in yapay zekâ araştırma birimi Seed, gelişmiş modellerin güvenliği ve insan hedefleriyle uyumuna odaklanacak yeni bir ekip kurdu. Şirket, Pekin, Şanghay ve San Jose'de görev yapmak üzere 10 araştırmacı alacak.
TikTok’un çatı şirketi ByteDance’in yapay zekâ araştırma birimi Seed, gelişmiş modellerin güvenliğine odaklanacak yeni bir ekip kurdu. Şirket, yapay zekâ güvenliği alanında 10 araştırmacıyı işe almak için küresel çapta alım süreci başlattı.
CNBCE.COM'u öncelikli haber kaynağınız olarak ekleyin EkleÇinli teknoloji şirketi ByteDance’in yapay zekâ araştırma birimi Seed, gelişmiş yapay zekâ modellerinin güvenliğini artırmak amacıyla “Alignment & Preparedness” (Uyum ve Hazırlık) ekibini kurdu.
Reuters’ın haberine göre şirket, yeni ekip için dünya genelinde 10 araştırmacı istihdam etmeyi planlıyor. Seed, giderek daha yetenekli hale gelen yapay zekâ modellerinin güvenliği için uzun vadeli yatırım yapacağını açıkladı.
İşe alım süreci, özellikle internete erişebilen ve bağımsız hareket edebilen yapay zekâ ajanlarının güvenliğine yönelik Çin ve ABD’de artan incelemelerin ardından geldi.
Yapay zekâda insan hedefleriyle uyum öne çıkıyor
Yapay zekâ uyumu (AI alignment), gelişmiş sistemlerin özellikle karmaşık ve çok aşamalı görevleri yerine getirirken insan hedefleri ve güvenlik gereklilikleri doğrultusunda hareket etmesini sağlamaya yönelik çalışmaları kapsıyor.
ByteDance’in açıklaması, Çin’in önde gelen yapay zekâ geliştiricilerinden birinin ileri seviye modellerin güvenliği, uyumu ve ortaya çıkabilecek yeni risklere hazırlık konusunda özel bir ekip kurduğunu kamuoyuna duyurması bakımından dikkati çekti.
Çin devlet destekli The Paper gazetesi de salı günü yayımladığı haberde Seed’in bağımsız bir güvenlik ve uyum departmanı kuran ilk Çinli ileri seviye yapay zekâ laboratuvarı olduğunu bildirdi.
Seed, çarşamba günü resmî WeChat hesabında yayımladığı işe alım duyurusunda, modellerin yetenekleri geliştikçe güvenlik ve uyum çalışmalarının yalnızca riskleri sınırlayan önlemler olmaktan çıktığını belirtti. Şirket, bu alanların yapay zekâ modellerinin geniş ölçekte kullanılabilmesini belirleyecek temel yetenekler arasında yer aldığını vurguladı.
Araştırmalar Pekin, Şanghay ve San Jose’de yürütülecek
Seed, yeni ekibe ileri seviye model geliştirme ekiplerine sunulanlarla karşılaştırılabilir bilgi işlem kapasitesi ve araştırma kaynakları sağlayacağını açıkladı.
Pozisyonlar Çin’in Pekin ve Şanghay kentleri ile ABD’nin Kaliforniya eyaletindeki San Jose kentinde bulunuyor.
Ekibin araştırma alanları arasında şunlar yer alacak:
- Model geliştirme sürecinin farklı aşamalarında güvenlik eğitimi.
- Modellerdeki güvenlik açıklarını belirlemeye yönelik otomatik testler.
- Model davranışlarını izleme ve açıklamaya yönelik araçlar.
- Yapay zekâ ajanlarını test etmek için simülasyon ortamları.
- Ortaya çıkabilecek yeni risklere yönelik hazırlık çalışmaları.
