Yapay zeka teknolojilerinin, kendi kodlarını yazarak “insansız şekilde evrimleşebileceği” noktasına yaklaşması endişeleri artırıyor. ABD merkezli yapay zeka şirketi olan Anthropic, yayımladığı “Yapay Zeka Kendini Nasıl İnşa Ediyor” başlıklı makaleyle bu konuya dikkat çekti. Şirketin verilerine göre, bir yapay zeka modelinin insan müdahalesi olmaksızın kendi haleflerini tasarlayıp eğitebilme yeteneğine çok yaklaşıldığı ve otonom yazılım döngülerinin oluşturulduğu belirtiliyor. Anthropic, yapay zekanın kendi kodlarını oluşturma sürecinde büyük ilerlemeler kaydedildiğini vurgulayarak, Claude yazılım sisteminde yer alan kodların yüzde 80’den fazlasının doğrudan model tarafından yazıldığını açıkladı.
Şirket, yapay zekadaki gelişimi 5 aşamada değerlendiriyor. İlk aşamada, yapay zeka ile çalışmanın normal bir şirkette çalışmaya benzediği belirtilirken, ikinci aşamada çalışanların üretken yapay zekalardan yardım alarak kod yazdıkları biliniyor. Üçüncü aşama ise ajan yapay zekaların kendi kendine kod yazabilme yeteneğine ulaştığı dönemi kapsıyor. Bugün geldiğimiz noktada ise yapay zeka kodları kendi kendine çalıştırabiliyor ve işleri diğer yapay zekalara devredebiliyor. Şirketin öngördüğü son aşamada ise ajanlar, kendi modellerini oluşturup eğitebilecek seviyeye gelerek yapay zekanın gelecekteki sürümlerini sürekli olarak geliştirebilecek.
Yapay zeka teknolojilerinin bu hızlı gelişimi endişeleri de beraberinde getiriyor. Future of Life Institute (FLI) tarafından yayımlanan bir mektupta, yapay zeka laboratuvarlarında GPT-4’ten daha güçlü sistemlerin eğitimine ara verilmesi çağrısında bulunuldu. Mektupta, yapay zekanın toplum, ekonomi ve demokrasi için ciddi riskler taşıdığı ve kontrolsüz bir şekilde ilerlemesinin distopik senaryolara neden olabileceği vurgulandı. Benzer şekilde, Papa 14. Leo da yapay zekanın sadece teknik olarak durdurulmasını değil, aynı zamanda askeri ve ekonomik rekabetten uzaklaştırılarak silahsızlandırılmasını talep etti.
Yapay zeka alanındaki yatırımlar ise hızla artmaya devam ediyor. Küresel yapay zeka pazarının sürekli büyümesi, yapay zeka teknolojilerinin ilerlemesini engelleyen en büyük faktörlerden biri olarak görülüyor. Gartner tarafından yapılan bir rapora göre, küresel yapay zeka harcamalarının 2026 yılında 2,59 trilyon dolara ulaşması bekleniyor. Bu rakam, bir önceki yıla kıyasla yüzde 47’lik büyük bir artışı temsil ediyor. Şirket, yapay zeka harcamalarının 2027 yılında 3,49 trilyon dolara çıkmasını bekliyor.
