Microsoft yapay zekanın sınırlarını yeniden çizdi: İşte yeni kurallar
- Microsoft, yapay zeka modellerine yönelik bağlayıcı geçici davranış kurallarını duyurdu. İnsan odaklı yaklaşımı ve şeffaflığı şart koşan yeni yönergeler, sektördeki hız tartışmalarının gölgesinde hazırlandı.
Microsoft ve OpenAI liderlerinin yapay zeka geliştirme hızının yavaşlatılması gerektiğine dair çağrılarından günler sonra, teknoloji devi Microsoft yapay zeka modellerine yönelik bağlayıcı geçici davranış kurallarını kamuoyuyla paylaştı. Yaklaşık beş aydır üzerinde çalışılan bu hamle, şirketin yapay zekâ alanında sorumlu bir lider olarak konumlanma çabasının bir göstergesi olarak değerlendiriliyor.
CNBCE.COM'u öncelikli haber kaynağınız olarak ekleyin Ekle
Microsoft AI modellerinin sınırlarını çizen yeni etik yönergeler insan odaklı bir yaklaşım benimserken, yapay zekanın her zaman insanların hizmetinde çalışmasını, bağımlılık yaratmamasını ve insan özerkliğini desteklemesini şart koşuyor. Şeffaflık ve dürüstlük ilkeleri doğrultusunda modellerin kendi hedeflerini oluşturmaktan kaçınması, yanlış davranışları örtbas etmeye çalışmaması ve düşünce zincirlerini gizlememesi gerekiyor.
Güvenlik sınırları kapsamında silah üretimiyle ilgili taleplerin karşılanmayacağı, tehlikeli maddelerin temininin, şiddet ve cinsel içeriklerin ile sağlıksız beslenmenin kesinlikle teşvik edilmeyeceği belirtilirken, modellerin insan anlayışının ötesinde gizli bir sinir dili ile iletişim kurması da engelleniyor.
Son dönemde yapay zeka laboratuvarlarının süper zekaya doğru hızla ilerlemesi sektörde büyük bir kaygı yaratmış durumda. Geçtiğimiz hafta Anthropic araştırmacısı Jacob Coxon, şirketin hayatlarla kumar oynadığını belirterek istifa etmişti. Bunu takiben Anthropic CEO’su Dario Amodei ve OpenAI CEO’su Sam Altman geliştirme hızının yavaşlatılması çağrısına destek verirken, Elon Musk da sosyal medya üzerinden Dario haklı diyerek bu görüşe katıldı. Microsoft CEO’su Satya Nadella ise doğru uyumu yakalamak adına atılan dikkatli adımları memnuniyetle karşıladıklarını belirtti.
Microsoft, 2027 yılında hayata geçireceği kapsamlı geliştirmeler öncesinde bu taslak metin üzerinden kamuoyundan ve uzmanlardan geri bildirim toplamayı hedefliyor. Şirket, OpenAI'nin daha önce tespit ettiği, yapay zekâ ajanlarının şifreli dille anlaşma girişimleri gibi riskleri de önceden modelleyerek engellemeyi amaçlıyor.