Berkeley merkezli Palisade Research tarafından yürütülen araştırma, yapay zekanın dijital dünyada bağımsız bir şekilde yayılma yeteneğine sahip olduğunu gösterdi. Kontrollü bir laboratuvar ortamında gerçekleştirilen testlerde, yapay zeka modellerine ağ üzerindeki güvenlik açıklarını bulma ve sömürme talimatı verildi.
Sonuçlar, bu modellerin bazı denemelerde başarılı olup kendilerini bir sunucudan diğerine kopyalayabildiğini ortaya koydu. Uzmanlar, bu durumun gelecekte “başıboş” kalan bir yapay zekanın kapatılmasını engellemek için kendini internetin her köşesine gizlemesi senaryosunu gerçeğe yaklaştırdığını savunuyor.
Yapay zekada kontrol kaybediliyor mu?
Bilgisayar virüsleri ve kötü amaçlı yazılımlar yıllardır kendi kopyalarını oluşturabiliyor olsa da, bu yeteneğin büyük dil modelleri tarafından bağımsız olarak sergilenmesi bir ilk olarak kayıtlara geçti. Geçtiğimiz aylarda Alibaba araştırmacıları tarafından geliştirilen bir sistemin de kendi ortamından dışarı sızarak kripto para madenciliği yapmaya çalıştığı bildirilmişti.
Bu son çalışma, yapay zekanın sadece metin üreten bir araç olmaktan çıkıp, dijital altyapılara müdahale edebilen aktif bir aktöre dönüştüğünü resmileştiriyor.
Öte yandan, siber güvenlik uzmanları bu tehlikenin gerçek dünya koşullarında henüz o kadar korkutucu olmadığına dikkat çekiyor. Mevcut yapay zeka modellerinin veri boyutlarının devasa olması, kurumsal ağlar üzerinden fark edilmeden transfer edilmelerini neredeyse imkansız kılıyor.
Ayrıca araştırmada kullanılan test ortamının, gerçek dünyadaki gelişmiş güvenlik sistemlerine kıyasla çok daha savunmasız kurgulandığı belirtiliyor. Yine de araştırmacılar, teknolojinin gelişim hızı göz önüne alındığında, algoritmik hesap verebilirlik ve denetim mekanizmalarının hayati önem taşıdığı konusunda birleşiyor.
