Yapay Zeka Kendi Kendini Geliştirme Eşiğinde Durdurulması Çağrıları Artıyor

Yapay zeka teknolojilerinin kendi kodlarını yazarak insan müdahalesi olmadan evrimleşebileceği bir eşiğe yaklaşması, dünya genelinde ülkeler ve şirketler arasında önlem alma yönünde artan çağrılara neden oluyor. ABD merkezli yapay zeka şirketi Anthropic, yayımladığı “When AI builds itself” başlıklı makalesiyle bu endişelere katılarak konuyu gündeme taşıdı.

Anthropic’in paylaştığı verilere göre, bir yapay zeka modelinin insan müdahalesi olmadan kendi halefini tasarlayıp eğitebildiği teorik eşiğin sanılandan daha yakın olduğu belirtildi. Şirket, otonom yazılım döngülerinin kurulma aşamasında olduğunu vurguladı.

Yapay Zekanın Gelişim Aşamaları ve Otonom Kod Üretimi

Anthropic, yapay zekanın kendi kodlarını oluşturma sürecinde önemli bir ilerleme kaydedildiğini açıkladı. Şirketin Claude yazılım sisteminde, üretilen kodların %80’inden fazlasının doğrudan modelin kendisi tarafından yazıldığı belirtildi. Bu oran, 2025 yılı başlarında tek haneli rakamlardaydı.

Şirket, yapay zekadaki gelişimi beş aşamaya ayırıyor. İlk aşamada yapay zeka ile etkileşim normal bir işleyiş gibiydi. 2023-2025 dönemini kapsayan ikinci aşamada üretken yapay zekalardan yardım alınarak kod yazılıyor. 2025-2026 döneminde ajan yapay zekalar kendi kendine kod yazabilir hale geldi.

Şu an gelinen noktada, yapay zeka ajanları kodları kendi kendine çalıştırabiliyor ve işleri diğer yapay zekalara devredebilme yeteneği kazanıyor. Anthropic’in beşinci ve son aşama olarak öngördüğü durumda ise ajanlar kendi başlarına modeller oluşturup eğitebilecek yetkinliğe ulaşacak. Bu gerçekleştiğinde, yapay zekanın gelecekteki sürümleri kendisi tarafından sürekli geliştirilebilecek.

Küresel Yapay Zeka Durdurma Çağrıları

Anthropic’in raporunun yanı sıra, dünya genelinde yapay zekanın geliştirilmesinin durdurulması yönünde daha önce de önemli çağrılar yapılmıştı. Mart 2023’te Future of Life Institute (FLI) tarafından yayımlanan ve Elon Musk gibi önde gelen isimlerin imzaladığı bir mektupta, GPT-4’ten daha güçlü yapay zeka sistemlerinin eğitiminin en az altı ay süreyle durdurulması talep edildi.

Mektupta, insan zekasıyla rekabet edebilecek yapay zeka sistemlerinin toplum, ekonomi ve demokrasi için derin riskler taşıdığına dikkat çekildi. Dezenformasyon dalgaları, kitlesel iş kayıpları ve medeniyetin kontrolünün kaybedilmesi gibi olası distopik senaryolar vurgulandı.

Mayıs ayında ise Papa 14. Leo, “Magnifica Humanitas” genelgesiyle yapay zekanın yalnızca teknik olarak durdurulmasını değil, aynı zamanda askeri, ekonomik ve bilişsel rekabet zihniyetinden arındırılarak silahsızlandırılmasını istedi.

Bu çağrılar artarken, küresel yapay zeka pazarı hızla büyümeye devam ediyor. Gartner’ın Mayıs 2026’da yayımladığı rapora göre, küresel yapay zeka harcamalarının 2026’da 2,59 trilyon dolara ulaşması bekleniyor. Bu rakam, 2025’teki 1,76 trilyon dolarlık harcamaya göre %47’lik bir yıllık büyümeye işaret ediyor. Yapay zeka harcamalarının 2027’de ise 3,49 trilyon dolara yükselmesi öngörülüyor.

• #Anthropic
• #Yapay Zeka