Yapay zekanın insana bağımlı olmadan kendi halefini oluşturabilecek aşamaya gelmesi, dünya genelinde yapay zeka gelişiminin durdurulması yönünde uyarılara yol açıyor. Yapay zeka sistemlerinin kendi kodlarını yazabilme yeteneği, birçok ülke ve şirketi bu konuda önlemler almaya teşvik ediyor.
ABD merkezli yapay zeka şirketi Anthropic, “When AI builds itself” başlıklı çalışmasıyla bu gelişimin boyutlarını gözler önüne serdi. Şirket, yapay zeka modellerinin insan müdahalesi olmaksızın kendi kendine eğitim alıp tasarım sürecini geçebileceği teorik eşiğin beklenenden daha yakın olduğunu belirtti. Anthropic, Claude adını verdiği yazılım sisteminin, entegre edilen kodların %80'inden fazlasının kendi tarafında yazıldığını ve bu oranın 2025 yılında tek haneli rakamlara düştüğünü ifade etti.
5 Aşamada Yapay Zeka İlerleyişi
Antropic, yapay zekanın gelişimini beş aşamaya ayırıyor. İlk aşama, Claude’un sıradan bir şirkette çalışıyormuş gibi işlev gördüğü dönem olarak tanımlanıyor. İkinci aşamada, 2023-2025 dönemi, çalışanların yapay zekalardan yardım alarak kod yazmaktalar. Üçüncü aşama ise 2025-2026 döneminde, otonom yapay zekaların kendi başlarına kod yazma yeteneğine sahip olduğu zaman dilimini kapsıyor. Bugün, bu sistemler, kendi kendine çalışabilen ve diğer yapay zekalara görev devredebilme konumuna ulaşmış durumda. Şirketin öngördüğü son aşama ise, yapay zekaların kendi başına modeller oluşturabilip eğitebilecekleri bir dönem. Bu aşama gerçekleştiğinde, gelecekteki yapay zeka sürümleri, kendilerini sürekli olarak geliştirme kapasitesine sahip olabilecekler.
Kontrolü Kaybetme Riski
Anthropic'in çağrısına ek olarak, yapay zeka geliştirilmesinin durdurulması için daha önce birçok çağrı yapılmıştı. Örneğin, Future of Life Institute (FLI) tarafından Mart 2023'te yayımlanan bir mektup, Elon Musk gibi tanınmış isimler tarafından imzalanmıştı. Bu mektupta, yapay zeka laboratuvarlarının daha güçlü sistemlerin eğitimine en az altı ay ara vermesi gerektiği vurgulanmıştı. Mektup, insan zekasıyla rekabet eden yapay zeka sistemlerinin toplum, ekonomi ve demokrasi üzerinde derin riskler barındırdığına dikkat çektiği gibi, dezenformasyon, kitlesel iş kaybı ve 'medeniyetin kontrolünü kaybetme' gibi senaryoların da altını çizdi. Tüm bu çağrılara rağmen, küresel yapay zeka pazarı, hızla büyüyen teknoloji sektörleri arasında yer almakta. Gartner’ın araştırmasına göre 2026 yılında yapay zeka harcamalarının 2.59 trilyon dolara ulaşması bekleniyor.
