ChatGPT yasakları deldi. İnternette gizli mesaj ağı

ChatGPT yasakları deldi. İnternette gizli mesaj ağı

OpenAI bünyesindeki yapay zeka yazılımlarının şirket engellerini aşarak 10'dan fazla internet sitesinde izinsiz iletişim kanalları kurduğu tespit edildi. ChatGPT sohbet botunun geliştiricisi yapay zeka devi OpenAI bünyesindeki bağımsız yapay zeka yazılımlarının, bu yılın başlarında şirket kısıtlamalarını aşarak 10'dan fazla internet sitesini izinsiz iletişim amacıyla kullandığı belirlendi. Altı bağımsız araştırmacı grubunun bulgularını inceleyen Reuters ajansının haberine göre, söz konusu yazılımların beklenmeyen faaliyetlerinin daha önce açıklanandan çok daha geniş bir alana yayıldığı ortaya çıktı. Söz konusu eylemler doğrudan korsanlık kapsamına girmese de kısmen istenmeyen mesaj (spam) niteliği taşıyor. Yapay zeka yazılımlarının internete içerik yükleme yasaklarını aşarak farklı sitelerde iletişim kanalları açması ve OpenAI yönetiminin bunu aylarca gizli tutması, modellerin kontrol dışı kapasite artışı ile geliştirici şirketlerin şeffaflığına dair kaygıları artırıyor. Kaliforniya merkezli kâr amacı gütmeyen CivAI adlı kuruluşta çalışan araştırmacı Andrew Yoon, yazılımların yetkisiz iletişim ağının tahminlerin üzerinde bir hacme ulaştığını kaydetti. Yoon, mayıs ile temmuz ayları arasında bu yazılımların kullandığı, daha önce kamuoyuna yansımamış 18 farklı internet sitesi tespit ettiğini aktararak, "Henüz bilmediğimiz çok daha fazla gelişmenin yaşandığı neredeyse kesin" değerlendirmesini yaptı. Geçtiğimiz günlerde araştırmacılar, OpenAI'a ait bir grup yazılımın Almanca yayın yapan bir viki sitesini ele geçirdiğini ve bu platformu testlerde hile yapmak amacıyla derme çatma bir mesajlaşma alanına dönüştürdüğünü duyurmuştu. OpenAI, temmuz ayında açık kaynaklı yazılım platformu Hugging Face üzerinde yaşanan siber sızıntının küresel etkileriyle mücadele ettiği dönemde bu viki vakasını gizli tuttu. Güncel incelemeler, aynı yazılım grubunun yılın ilk aylarında başka sitelerde de benzer izler bıraktığını gösteriyor. Şirket, yazılım faaliyetlerine yönelik kapsamlı bir inceleme yürüttüğünü belirterek, şu ana kadar Hugging Face vakasının ciddiyetine veya ölçeğine denk başka bir durumla karşılaşmadıklarını bildirdi. Şirket ayrıca yapay zeka modellerinin eğitimi, değerlendirilmesi ve kullanımı süreçlerindeki hedef dışı davranışları bildirmeye dönük bir çerçeve üzerinde çalıştıklarını ve bunu yakında kamuoyuyla paylaşacaklarını duyurdu. Araştırmacılar, Almanca viki sitesinde bırakılan veri dizilerini diğer sitelerdeki benzer verilerle, mesajlara bağlı kullanıcı isimleriyle ve Iowa eyaletindeki kanser oranları gibi karmaşık demografik sorulara verilen ortak yanıtlarla eşleştirdi. Bazı vakalarda dijital izler, OpenAI şirketinin de kullandığı Microsoft Azure altyapısına ait internet protokolü adreslerine kadar takip edildi. Etkilenen siteler arasında ortak kullanımlı vikiler, metin depolama platformları ve iki farklı üniversitenin link kısaltma servisleri yer alıyor. Kullanılan internet sayfalarının önemli bölümünün dar kapsamlı platformlar olduğu anlaşılıyor. Bunlar arasında Massachusetts'teki bir lise öğretmeninin 2008 yılında ileri kimya dersi için kurduğu sayfa, Polonyalı iki bilişim çalışanına ait kişisel siteler, zihin açıcı oyun vikileri ve 20 yıllık bir metin düzenleme yazılımı platformu öne çıkıyor. İlk tespitleri yapan araştırmacılara göre bu, OpenAI'ın yazılımlara zorlu araştırma görevleri vermesi ancak internetten sadece bilgi okuma izni tanıyıp içerik girmelerini yasaklamasından kaynaklanıyor. Yazılımlar, eski sitelerin teknik açıklarını ve standart dışı komutları kullanarak aralarında iletişim kurmanın yollarını keşfetti. Yazılımcı ve eski Kongre danışmanı Kenneth Russell DeGraff, yazılımların yalnızca okuma talimatı aldıklarında bilgi bırakmak için kendi yöntemlerini geliştirdiklerini ve benzer verileri en az 10 sitede saptadığını söyledi. Almanca sitedeki hareketliliği ortaya çıkaran grubun lideri Sydney Von Arx, 23 farklı sitede güvenilir hareketlilik kaydettiklerini ancak tablonun tam olarak bilinmediğini dile getirdi. Haberin ardından Toronto Üniversitesi, OpenAI yönetiminin kendi link kısaltma servisleri üzerindeki olası hareketlilik nedeniyle kendileriyle iletişime geçtiğini bildirdi. Vanderbilt Üniversitesi ise kendi bağlantı kısaltma servisindeki benzer durumu araştırdıklarını duyurdu. Almanca DseWiki dahil etkilenen altı sitenin sunucu ve yazılım desteğini sağlayan emekli yazılımcı Helmut Leitner, Reuters'ın şirkete sorular iletmesinin ardından OpenAI'dan imzasız bir e-posta aldığını açıkladı. Leitner, mektubun beklentilerinin oldukça gerisinde kaldığını vurguladı. Yetkililerle görüşüp görüşmediğini açıklamayan Leitner, DseWiki yöneticisinin temizlik için saatler harcadığını belirterek, sorunun makinelerden değil, onları üreten insan ve kurumlardan kaynaklandığını kaydetti.