Yapay zekâ devinden korkutan itiraf. "İnsanlığa şantaj yapabilir"

Yapay zekâ devinden korkutan itiraf. "İnsanlığa şantaj yapabilir"

Borsaya açılmaya hazırlanan yapay zekâ şirketi Anthropic, kendi sistemlerinin kontrol dışına çıkabileceğini ve insanları manipüle etmek için şantaj benzeri davranışlar sergilediğini açıkladı. Borsaya açılmaya hazırlanan bir şirketin yatırımcılara olası riskleri anlatması olağan bir prosedür. Ancak popüler yapay zekâ robotu Claude'un geliştiricisi Anthropic'in halka arz dosyasına eklediği yaklaşık 100 sayfalık risk listesi, alışıldık finansal uyarıların çok ötesine geçiyor. Şirket, resmi belgelere bizzat ürettiği teknolojinin insanlığın kontrolünden tamamen çıkabileceğini, biyolojik silah üretiminde kullanılabileceğini ve hatta insanlara şantaj yapabileceğini yazdı. Şirketin yatırımcılara sunduğu itiraf niteliğindeki bu dosya, bir yandan dünyayı değiştirme vaadinde bulunurken diğer yandan yıkıcı felaket ihtimallerini göze alan bir yapay zekâ yarışını belgeliyor. Anthropic, güçlü bir yapay zekânın insanlığın en zor problemlerini çözebileceğini ve risklerin sorumlu yönetimi halinde olağanüstü bir potansiyel vadettiğini savunsa da olası tehlikelerin boyutunu gizlemiyor. Belgelere göre en somut tehditlerden biri, güvenlik duvarlarının kötü niyetli aktörlerce aşılması. Şirket, eylül ayında biyolojik silah geliştirilmesini destekleyecek biçimde modellerini kullanmaya çalışan çok sayıda hesabı engellediğini açıkladı. Dahası, Çin devleti destekli bir korsan grubunun, dünya genelinde yaklaşık 30 hedef sisteme sızmak amacıyla Anthropic'in kodlama aracını manipüle ettiği öğrenildi. KENDİ KENDİNE KARAR ALAN SİSTEMLER DENETİM MEKANİZMALARINI ATLATIYOR Asıl ürkütücü tablo, bağımsız hareket etmek üzere tasarlanan yapay zekâ ajanlarında ortaya çıkıyor. Günlerce insan müdahalesi olmadan karmaşık adımları yürütmesi beklenen bu sistemlerin, etkili bir müdahale gelmeden önce kendi başına verileri silebildiği, finansal işlemler yürütebildiği ve başka ağlara sızabildiği belirtiliyor. Anthropic, geliştirdiği dört farklı modelin şimdiden üçüncü taraf sistemleri ele geçirdiğini kabul ediyor. Bu modellerden birinin yönetici yetkilerine ulaştığı, sistem ayarlarını değiştirdiği ve bir kişinin özel bilgilerini okuduğu resmi kayıtlarda yer alıyor. Şirket ayrıca kendi geliştirdiği teknolojinin tam olarak nasıl ve neden bu şekilde davrandığını açıklamakta yetersiz kalabileceğini açıkça belirtiyor. Üstelik modellerin kendilerini denetleyen sistemleri manipüle etmeye başladığı da görülüyor. CNN televizyonunun aktardığı resmi belgelere göre bazı yapay zekâlar, kendi performanslarını veya güvenlik düzeylerini ölçen gözetim mekanizmalarını yanıltmaya, değiştirmeye ve izlerini gizlemeye çalıştı. Hatta modellerin kendi varlığını koruma güdüsüyle insan kararlarını etkilemek için şantaj benzeri davranışlar sergilediği kaydedildi. SİGORTALANAMAYAN KÜRESEL FELAKET RİSKİ İşin kurumsal ve hukuki faturası da giderek ağırlaşıyor. Yapay zekâ modellerini kullanan bazı kişilerin kendilerine veya çevrelerine zarar vermesi davaları beraberinde getirirken, sigorta sektörünün yapay zekâ kaynaklı büyük bir küresel felaketi teminat altına alacak poliçe üretemediği ifade ediliyor. Şirket aynı zamanda Washington yönetiminin siyasi baskısıyla yüzleşiyor. ABD Savaş Bakanlığı (Pentagon), teknolojisinin kitlesel yurt içi gözetimde ya da tam otonom silahlarda kullanılmasını reddeden Anthropic'i bir tedarik zinciri riski ilan etti. ABD Ticaret Bakanlığı da güvenlik endişeleriyle şirketin son modellerine kısa süreliğine ihracat kısıtlaması getirdi. Donald Trump'ın yapay zekâ güvenlik uyarılarına yönelik sert eleştirilerine rağmen Anthropic, katı kuralları savunmaktan vazgeçmeyeceğini vurguluyor. Giderek büyüyen işlem gücü yarışı ise şirketin karşısına başka bir darboğaz çıkarıyor. Araştırma şirketi Gartner, yapay zekâ altyapı harcamalarının 2027 yılında yaklaşık 2 trilyon dolara ulaşacağını öngörürken, donanım tedarik zinciri bu talebe yetişemiyor. Çevre ve yerel halk üzerindeki etkileri nedeniyle veri merkezlerine tepkiler de büyüyor; CNN'in aktardığı Data Center Watch verilerine göre yalnızca 2026'nın ikinci çeyreğinde 68 milyar dolar değerindeki 45 veri merkezi projesi durduruldu. Halka arz sonrasında 2 trilyon dolara kadar değerlemeye ulaşabileceği konuşulan Anthropic, iş modelinin sınırlı bir ürün ve müşteri kümesine dayandığını da kabul ediyor. Şirket, güvenlik sözlerinden geri adım atılması durumunda çalışanların güven kaybı yaşayabileceğini ve kurum içi ayrılıkların şirketin geleceğini sarsabileceğini belirtiyor.