Anthropic, şirketin kurucu ortağı Jack Clark ve Anthropic Enstitüsü lideri Marina Favaro tarafından kaleme alınan “Yapay zeka kendini inşa ettiğinde” başlıklı blog yazısını yayımladı.
Yazıda, yapay zeka geliştirme sürecinin büyük bölümünün geçmişte insanlar tarafından yürütüldüğü ancak Anthropic’te bu sürecin giderek daha fazla yapay zeka sistemlerine devredildiği ve bunun geliştirme hızını artırdığı belirtildi.
Bu eğilimin devam etmesi halinde yapay zeka sistemlerinin kendi haleflerini tasarlayıp geliştirebilecek seviyeye ulaşabileceğine işaret edilen yazıda, bunun “özyinelemeli kendini geliştirme” (recursive self-improvement) olarak adlandırıldığı aktarıldı.
Yazıda, “Henüz o noktada değiliz ve özyinelemeli kendini geliştirme kaçınılmaz değil. Ancak çoğu kurumun hazırlandığından daha erken gerçekleşebilir.” ifadesi kullanıldı.
İnsanların yapay zeka üzerindeki kontrolünü kaybetme riskini artırabilir
Teknik eğilimlerin yapay zeka sistemlerinin gelecek yıllarda çok daha kabiliyetli hale geleceğini gösterdiği belirtilen yazıda, kendi kendini inşa edebilen yapay zekanın bilim, sağlık ve daha birçok alanda muazzam faydalar sağlayabileceği ancak “özyinelemeli kendini geliştirmenin” insanların yapay zeka sistemleri üzerindeki kontrolünü kaybetme riskini de artırabileceğine dikkati çekildi.
Yazıda, “Sistemler kendi haleflerini tamamen inşa edebilecek kapasiteye sahipse, onları güvence altına alma, izleme ve davranışlarını şekillendirme yöntemlerimiz çok daha önemli hale gelir.” değerlendirmesinde bulunuldu.
Toplumsal yapıların teknolojideki ilerlemeye uyum sağlayabilmesi için ileri düzey yapay zeka geliştirme sürecinin yavaşlatılması veya geçici olarak durdurulması seçeneğinin değerlendirilmesinin iyi olabileceği belirtilen yazıda, birden fazla güçlü laboratuvarın, birden fazla ülkede, aynı koşullar altında bunu gerçekleştirmesinin anlamlı olduğu kaydedildi.
