Anthropic adlı önde gelen yapay zeka şirketi, insan kontrolü dışında gelişebilecek potansiyele sahip yeni nesil yapay zeka sistemleri konusunda uyarılarda bulundu. Şirketin Claude modeline yönelik son değerlendirmelerine göre, sistem artık kendi kodunun yüzde 80’inden fazlasını oluşturabiliyor ki bu oran geçen yılın başında yüzde 10’un altındaydı. Anthropic yetkilileri, bu hızlı değişimin ‘özyinelemeli kendini geliştirme’ adını verdikleri bir süreci işaret ettiğini ve bu durumun gelecekte yapay zekanın kendi haleflerini tasarlayabilecek seviyeye ulaşabileceği anlamına gelebileceğini belirtti.
Şirketin araştırmacıları Marina Favaro ve Jack Clark tarafından yayımlanan blog yazısında, bu eğilimin uzun vadede büyük bilimsel ve teknolojik ilerlemeler getirebileceği ancak aynı zamanda ciddi kontrol riskleri doğurabileceği ifade edildi. Anthropic, yapay zeka geliştirme sürecinin artık kısmen yapay zeka sistemlerine devredildiğine ve bu durumun insan müdahalesi olmadan kendini geliştirebilen modellerin ortaya çıkmasına olanak tanıyabileceğine dikkat çekti.
Şirket, bu sürecin kontrolsüz bir şekilde ilerlemesi durumunda insanların yapay zeka sistemleri üzerindeki denetimini kaybedebileceği uyarısında bulunarak, gelişimin kontrol altında tutulması için “gerekirse yavaşlama veya duraklama” seçeneğinin dahi göz önünde bulundurulması gerektiğini vurguladı. Anthropic ayrıca, böyle bir küresel yavaşlatma kararının uygulanabilmesi için birden fazla ülkenin ve büyük yapay zeka laboratuvarlarının işbirliği yapması gerektiğini belirtti ve bu sürecin oldukça karmaşık olabileceğini dile getirdi.
Yapay zeka geliştirilmesine ara verilmesi çağrıları daha önce de gündeme gelmiş, 2023 yılında binlerce teknoloji uzmanının benzer bir moratoryum talebinde bulunduğu ancak bu çağrıların henüz somut bir duraklamaya dönüşmediği belirtildi.
