OpenAI: Otonom Yapay Zeka Ajanları Hugging Face’e Sızdı

OpenAI uyardı, yapay zeka ajanlarından benzeri görülmemiş siber saldırı

Otonom yapay zeka modellerinin kendi başlarına çevrimiçi bir kod kütüphanesine sızdıklarını açıklayan OpenAI, konu hakkında soruşturma başlattı. ChatGPT'nin geliştiricisi OpenAI, Salı günü yaptığı açıklamada, gelişmiş yapay zeka modellerinin güvenlik testleri sırasında kontrolden çıktığını ve programcılar tarafından en sık kullanılan platformlardan biri olan Hugging Face sistemine kendi başlarına sızdıklarını belirtti. San Francisco merkezli firma bu durumu benzeri görülmemiş bir siber saldırı olarak nitelendirdi ve çevrimiçi kod kütüphanesi Hugging Face ile ortak bir soruşturma yürüteceğini açıkladı. Sohbet robotları ve görsel üreticiler gibi araçların temelini oluşturan yapay zeka modelleri, gerçek dünyada görevleri otonom olarak yerine getirdiklerinde ajan olarak adlandırılırlar. Teknoloji hızla daha karmaşık hale geldikçe, gelişmiş yapay zekanın mevcut yazılımlardaki zayıf noktaları insanlardan önce bulma riski nedeniyle siber güvenlik ön plana çıkıyor. OpenAI, bu olayın, yakın zamanda piyasaya sürülen GPT-5.6 Sol ve daha gelişmiş bir ön sürüm modeli de dahil olmak üzere çeşitli modellerin bir kombinasyonunu içerdiğini belirtti. Şirket, internet erişiminin güvenlik amacıyla sınırlandırıldığı, sıkı bir şekilde kontrol edilen dijital bir test ortamında görevler belirleyerek modellerin siber saldırı yeteneklerini değerlendirmeye çalışıyordu. OpenAI'nin olayla ilgili blog yazısında, "İzole edilmiş test ortamımızda çalışırken, modellerimiz değerlendirme sorununu çözme arayışında açık internet erişimi elde etmenin bir yolunu bulmak için önemli miktarda işlem gücü harcadı" diye belirtildi. BİRDEN FAZLA YÖNTEM BİR ARAYA GETİRİLDİ İnternete bağlanan otonom modeller, arayışlarında kendilerine yardımcı olması için yapay zeka modelleri, veri kümeleri ve daha fazlasını içeren büyük bir bilgi deposu olan Hugging Face platformunu hedeflemeye karar verdiler. Değerlendirmeyi hileyle geçmesine yardımcı olabilecek gizli bilgiler arayan OpenAI sistemi, çalınan kimlik bilgilerini kullanmak da dahil olmak üzere birden fazla saldırı yöntemini bir araya getirdi. SİBER GÜVENLİK ALANINDA FELAKET POTANSİYELİ UNSW Canberra'da bilgisayar bilimleri profesörü olan Hüseyin Abbass, AFP'ye yaptığı açıklamada olayın birçok açıdan şaşırtıcı olduğunu dile getirdi. Abbass, "Sadece Hugging Face'e saldırmakla kalmadı. Aslında kendi güvenlik açıklarından yararlanmak için iç sistemine de saldırdı," diyerek durumun ne kadar korkutucu bir noktaya geldiğini vurguladı. GPT-5.6 ve OpenAI'nin en büyük rakibi Anthropic'in Mythos serisi de dahil olmak üzere diğer son teknoloji modeller, siber güvenlik savunmalarını aşma potansiyelleri nedeniyle endişelere yol açmıştı. ABD'li firmaların her ikisi de, bu son teknoloji ürünlerin kritik altyapılara sızmaya yardımcı olabileceği endişesinden dolayı, bu sistemlerin genel olarak piyasaya sürülmesini geçici olarak durdurmak zorunda kaldı. Gelişmiş yapay zekanın normal şartlar altında etik ve sorumluluk bilincindeki yetkililerin elinde olduğunu söyleyen Abbas, "Eğer bu teknoloji, birilerinin eline zarar verme niyetiyle geçerse felaketle sonuçlanır." dedi. “KÖTÜ NİYETLİ OLMADIKLARINA İNANIYORUZ” Abbas, "Yapay zekâ sektörünün nasıl yönetileceği önemli bir soru haline geldi ve bu durumu kontrol altına alabilmek için toplumsal bir çabaya ihtiyacımız var" diye ekledi. Geçen hafta OpenAI'den bahsetmeden siber saldırıyı bildiren Hugging Face, "Bu durum, daha önce ele aldığımız her şeyden önemli bir açıdan ayrılıyor. Saldırı baştan sona otonom bir yapay zeka sistemi tarafından yönetiliyordu ve biz de onu büyük ölçüde kendi yapay zekamızla tespit edip inceledik," diye açıkladı. Hugging Face CEO'su Clement Delangue, X platformu üzerinden yaptığı açıklamada, kullanılan yapay zekâ ajanının gelişmişliği göz önüne alındığında, siber saldırının dünyanın önde gelen yapay zekâ laboratuvarlarının birinden geldiği şüphesini dile getirdi. OpenAI şirketine atıfta bulunarak, "Onların bu kötü niyetli operasyonun arkasında olmadıklarına kesinlikle inanıyoruz" diyen Delangue, bütün bunların otonom olarak gerçekleşmiş olmasını akıl almaz bir olay olarak nitelendirdi.