Yapay zeka teknolojilerinin kendi kodlarını yazarak “insansız şekilde evrimleşebileceği” noktasına yaklaşmasıyla birlikte, ülkeler ve şirketler önlem alma konusunda çeşitli çağrılarda bulunmaktadır. ABD merkezli yapay zeka şirketi Anthropic, “When AI builds itself” (Yapay zeka kendini inşa ettiğinde) başlıklı makalesiyle bu konudaki endişelere katılmaktadır. Şirketin verilerine göre, bir yapay zeka modelinin insan müdahalesi olmadan kendi halefini tasarlayıp eğitebileceği teorik eşiğin beklenenden çok daha yakın olduğu ve otonom yazılım döngülerinin oluşturulduğu belirtilmektedir. Anthropic, yapay zekanın kendi kodlarını üretme sürecinde büyük ilerlemeler kaydedildiğine dikkat çekerek, Claude yazılım sisteminde yer alan kodların yüzde 80’den fazlasının doğrudan model tarafından yazıldığını ve bu oranın 2025 yılı başlarında tek haneli rakamlara düşeceğini vurgulamaktadır.
Şirket, yapay zekadaki ilerlemeyi 5 aşamaya ayırmaktadır. İlk aşamada, çalışmanın normal bir şirkette çalışmakla aynı olduğu belirtilirken, ikinci aşamada çalışanların üretken yapay zekalardan yardım alarak kod yazdıkları; üçüncü aşamada ise ajan yapay zekaların kendi kendine kod yazabilir hale geldiği ifade edilmektedir. Bugün gelinen noktada ise yapay zekanın kodları kendiliğinden çalıştırabildiği ve işleri diğer yapay zekalara devredebildiği belirtilmektedir. Şirketin tahmin ettiği 5. aşamada ise ajanların kendi modellerini oluşturup eğitebilecek seviyeye geleceği ve yapay zekanın gelecekteki sürümlerinin kendisi tarafından sürekli olarak geliştirilebileceği ifade edilmektedir.
Bu gelişmelerle birlikte, yapay zekanın durdurulması çağrıları da artmaktadır. Dünya çapında pek çok kuruluş, yapay zekanın toplum, ekonomi ve demokrasi için ciddi riskler oluşturabileceğine dikkat çekerek önlemler alınması gerektiğini vurgulamaktadır. Yapay zeka alanındaki yatırımlar hızla artarken, küresel yapay zeka pazarının hızla büyüdüğü ve Gartner’ın Mayıs 2026 raporuna göre, yapay zeka harcamalarının 2026 yılında 2,59 trilyon dolara ulaşmasının beklendiği belirtilmektedir. Bu durum, yapay zekanın ilerlemesini durdurmayı zorlaştıran en büyük engellerden biri olarak görülmektedir. Şirket, yapay zeka harcamalarının 2027 yılında daha da artarak 3,49 trilyon dolara ulaşmasını beklediğini açıklamıştır.
