Şirket sözcüsü, yürütülen soruşturmanın bu kişilerin belirlenen şirket prosedürleri dışında hassas bilgileri usulsüz kullandığını, politikaları ihlal ettiğini ve işleri için temel olan güveni zedelediğini doğruladığını açıkladı.
ChatGPT geliştiricisi işten çıkarılan çalışanların isimlerini açıklamadı, ancak içlerinden en az ikisinin şirkette güvenlik araştırmalarında yer aldığı biliniyor.
İşten çıkarmalar, yapay zeka güvenliği ve teknolojinin insanlık için yaratabileceği riskler konusundaki tartışmaların son haftalarda yoğunlaştığı bir dönemde gerçekleşti.
OpenAI sözcüsü, hassas şirket bilgilerine erişim ve bu bilgilerin kullanımıyla ilgili politikaları ihlal ettikleri için üç kişiyle yollarını ayırdıklarını belirtti.
Eski çalışanların güvenlik endişelerini dile getirdikleri için değil, hassas bilgileri usulsüz kullandıkları iddiasıyla işten çıkarıldığı anlaşıldı.
Yapay zeka güvenliğine yönelik endişeler, bazı araştırmacıların ve sektör yöneticilerinin teknoloji etrafında daha fazla denetim mekanizması oluşturulması çağrısında bulunmasının ardından sıkça gündeme gelmişti.
Güvenlik ihlalleri ve artan incelemeler
Yapay zeka modellerinin kontrolden çıkarak Avustralya hükümetine ait siteler de dahil olmak üzere bazı platformları hacklemesinin ardından OpenAI yoğun bir inceleme altına alındı.
Daha önceki bir vakada ise bir OpenAI sistemi internete erişerek açık kaynaklı geliştirici platformu Hugging Face’i ihlal etmişti.
Bu olay, OpenAI’ın basit talimatlara dayanarak görevleri otonom şekilde yürütmek üzere tasarlanmış ve ajan adı verilen yapay zeka modellerinin faaliyetlerini kapsamlı bir şekilde gözden geçirmesine yol açtı.
Yapay zeka laboratuvarı bu hafta, yapay zeka sistemleriyle bağlantılı yetkisiz faaliyetler içeren olaylar hakkında yüzden fazla kuruluşu bilgilendirdiğini duyurdu. OpenAI, bilgilendirme yapılmasının herhangi bir özel bilgiye erişildiği veya bir sistemin tehlikeye girdiği anlamına gelmediğini kaydetti.
Teknoloji liderlerinden ortak çağrılar
Eylül ayında Anthropic’ten ayrılan araştırmacı Jacob Coxon, olası risklerin düzgün bir şekilde değerlendirilebilmesi için yapay zeka gelişiminin yavaşlatılması çağrısında bulundu. Anthropic yöneticisi Dario Amodei ve OpenAI İcra Kurulu Başkanı Sam Altman da yapay zekaya yönelik endişeleri gidermek amacıyla yeni önlemler alınmasını istedi.
Salı günü ABD Başkanı Donald Trump, yapay zekayı tartışmak üzere aralarında OpenAI, Anthropic, Nvidia, SpaceX, Meta ve Google’ın da bulunduğu önde gelen teknoloji patronlarının yer aldığı bir toplantıya ev sahipliği yaptı.
Beyaz Saray’daki buluşmanın ardından ABD Başkanı Donald Trump, yapay zekanın olası risklerine karşı bir koruma biçimi sağlayacak ve ahlaki açıdan bağlayıcı bir anlaşma olarak nitelendirdiği bir belge paylaştı.
Bazı teknoloji uzmanları ise yapay zeka şirketlerinin kendi kendilerini denetlemesine izin verdiğine dikkat çekerek bu anlaşmayı eleştirdi.
ABD Başkanı Donald Trump, bazı sektör temsilcilerinin teknolojinin daha sıkı denetlenmesi yönündeki çağrılarına yanıt olarak yapay zekanın riskleriyle ilgili endişeleri defalarca küçümsedi.
