Anthropic CEO'su: "Yapay zekanın frene ihtiyacı var"
- Anthropic kurucu ortağı Jack Clark, yapay zekanın kontrolsüz ilerlemesine karşı “fren mekanizması” ihtiyacına dikkat çekti. Clark, mevcut düzenlemelerin hızla gelişen sistemleri yönetmekte yetersiz kalabileceğini söyledi.
- Clark, Anthropic’in Claude adlı yapay zeka sisteminin kod tabanının yaklaşık yüzde 80’inin yapay zeka tarafından yazıldığı, bu oranın iki yıl içinde yüzde 100’e çıkabileceği ifade etti.
Anthropic kurucu ortağı Jack Clark, yapay zekanın gelişim hızına ilişkin değerlendirmelerde bulunarak teknolojinin kontrol mekanizmalarına ihtiyaç duyduğunu söyledi.
BBC’ye konuşan Clark, yapay zeka endüstrisinin şu anda “gaz pedalı” ile ilerlediğini ancak sistemi yavaşlatabilecek bir “fren pedalı” bulunmadığını ifade etti. Clark, yapay zekanın insan müdahalesi olmadan gelişebileceği bir eşiğe yaklaşıldığını ve bu nedenle ilerlemenin kontrol edilebilmesi gerektiğini belirtti.
Clark, yapay zeka sistemlerinin giderek daha güçlü hale gelmesiyle birlikte bu teknolojinin yönetiminde hükümet politikalarının belirleyici olması gerektiğini vurguladı. Düzenleyici çerçevelerin, toplumun bu sistemlere güvenini sağlayacak şekilde yeniden tasarlanması gerektiğini söyledi.
Anthropic’in geliştirdiği Claude adlı sohbet robotuna da değinen Clark, sistemin kod tabanının yaklaşık yüzde 80’inin yapay zeka tarafından üretildiğini, bu oranın kısa vadede yüzde 100’e ulaşabileceğini ifade etti. Bu durumun önemli etkiler yaratabileceğini kaydetti.
Düzenleyici çerçeve zamana bağlı
Clark, yapay zeka gelişimini 20. yüzyılın başındaki petrol endüstrisi dönemine benzeterek, o dönemde olduğu gibi düzenleyici çerçevelerin zaman içinde şekilleneceğini dile getirdi.
ABD Başkanı Donald Trump tarafından bu hafta açıklanan yapay zeka düzenlemelerine de değinilen programda, Clark, şirketler için zorunlu güvenlik testleri yerine gönüllülük esasına dayalı bir yaklaşım benimsendiğini belirtti.
Clark, yapay zeka şirketlerinin büyük bir kısmının araştırma süreçlerini durdurmaya yönelik bir plan açıklamadığını, Anthropic’in ise teknolojinin riskleri ve etkileri konusunda kamuoyu ile daha açık bir tartışma yürütmeyi amaçladığını ifade etti.
Şirketin OpenAI ve Google gibi büyük teknoloji firmalarıyla birlikte yapay zekanın potansiyel riskleri üzerine çalışmalar yürüttüğü, ancak bu sistemlerin askeri kullanımına ilişkin bazı görüş ayrılıklarının da gündeme geldiği aktarıldı.
Sistemlerin ne ölçüde yaratıcı olabileceği henüz netleşmedi
Clark, yapay zekanın ekonomik yapıda bozulmalara yol açabileceğini ve bazı rutin işlerin otomasyon nedeniyle ortadan kalkabileceğini belirtti. Büyük teknoloji şirketlerinin son dönemde yapay zeka tabanlı otomasyon nedeniyle iş gücünde küçülmeye gittiği hatırlatıldı.
Yapay zekanın yaratıcı kapasitesine ilişkin belirsizliklere de değinen Clark, sistemlerin ne ölçüde yaratıcı olabileceğinin henüz netleşmediğini söyledi.
Clark, "Şu an Anthropic'te fikirleri gerçeğe dönüştürecek mühendislik değil, iyi fikirler üretme yeteneği bizi sınırlıyor" diye konuştu.
Gençlere yönelik değerlendirmelerde bulunan Clark, yapay zeka odaklı ekonomide öne çıkabilecek kişilerin yaratıcı düşünebilen ve farklı alanlara ilgi duyan bireyler olabileceğini ifade etti.