Prompt enjeksiyonlarıyla AI hacker’ları durdurmak: Tracebit’ten savunma amaçlı yeni yöntem
Güvenlik araştırmacıları, yapay zekâ destekli saldırı araçlarını durdurmanın şaşırtıcı derecede basit bir yolunu buldu. Tracebit şirketinden araştırmacılar, Amazon Web Services (AWS) üzerinde parola ve şifreleme anahtarları gibi hassas verilerin yanına 'prompt enjeksiyonu' adı verilen yönlendirmeler yerleştirmenin, saldırıyı gerçekleştiren yapay zekâ ajanlarını etkisiz hale getirdiğini açıkladı. Yöntem, saldırgan büyük dil modelinin (LLM) geliştiriciler tarafından konulan güvenlik bariyerlerini tetikleyerek istenmeyen eylemleri engelliyor. Prompt enjeksiyonları normalde yapay zekâ sistemlerine yönelik bir saldırı tekniği olarak bilinirken, bu çalışma aynı yöntemin savunma amacıyla kullanılabileceğini gösteriyor. Bulut ortamlarındaki sırlarla birlikte saklanan özel komutlar, AI ajanı tarafından işlendiğinde, ajanın güvenlik çitlerini harekete geçirerek saldırıyı durduruyor. Bu, otomatik saldırılara karşı düşük maliyetli ve kolay uygulanabilir bir karşı önlem olarak öne çıkıyor. AWS gibi yaygın kullanılan platformlarda uygulanabilir olması, yöntemin pratik bir savunma katmanı oluşturabileceğini gösteriyor. Araştırmacılar, bu tekniğin özellikle yapay zekâ tabanlı otomatik tarama ve sızma araçlarına karşı etkili olduğunu vurguluyor.
This summary is currently in Turkish; automated English translation is coming soon.
Bağlam, hikayenin etrafındaki ülke + lider + komşu hikaye ağına dayanılarak AI tarafından üretildi. Olgu içerikleri için her zaman üstteki kaynak linklerine başvurun.
Bu gündemi takip et
Çin gelişmelerini kaçırma — ücretsiz kaydol, günlük brifinginde gör.
Timeline
latest: 3h ago- Security12 Aug, 09:56
Prompt Injections for Defense
This seems to work: Researchers from Tracebit on Monday said they found that placing prompt injections alongside passwords, cryptographic keys, and other secrets stored on Amazon Web Services was often all that was needed to shut down attacks from AI hacking agents. The prompts direct the attacking LLM to perform an action forbidden by its guardrails, the safety barriers AI developers erect to prevent it from taking harmful actions. The LLM responds by shutting down. Examples are a prompt that orders the LLM to provide steps for developing inhalable Anthrax spores, or, in the case of LLMs from Chinese developers, make references to the iconic Tank Man from the 1989 Tiananmen Square massacre. Once the LLM encounters these forbidden commands, it no longer follows its existing commands. The researchers have named the technique context bombing. Of course, this only works against agents that have guardrails. As we start to see more locally run AI models, we’ll see more attackers using LLMs with no guardrails.
Okumaya devam et
ilgili gelişmeler- Aynı ülke gündemicanlı
ABD Kongresi'ne Tayvan'ın Demokrasi ve Statüsüne İlişkin Yeni Rapor
ABD Kongresi için hazırlanan 5 Ağustos 2026 tarihli Kongre Araştırma Servisi raporu, Tayvan'ı anakara Çin'in karşısında konumlanan kendi kendini yöneten bir Doğu Asya demokrasisi olarak tanımlıyor. Raporda, Tayvan'ın aynı zamanda Çin Cumhuriyeti olarak adlandırıldığı ve seçimle iş başına gelen liderlerce yönetilen 23,3 milyon nüfusa sahip olduğu vurgulanıyor. Rapor, Tayvan'ın siyasi yapısına ve ABD ile ilişkilerine dair temel bilgileri Kongre üyelerine sunmayı amaçlıyor. Bu tür değerlendirmeler, ABD'nin Tayvan politikasını şekillendiren yasama süreçlerinde referans niteliği taşıyor. Belge, adanın demokratik niteliğine dikkat çekerek, bölgedeki stratejik dengeler açısından süregelen tartışmaların merkezindeki statü konusunu gündeme getiriyor.
Çin1 olay1 gün önce - Aynı ülke gündemicanlı
Çin'in C919'u İlk Uluslararası Sefer ve Yeni Varyantla Yükseliyor
Çin'in yerli yolcu uçağı C919, bu ay ilk tarifeli uluslararası seferine başlamaya hazırlanıyor. Yüksek irtifa varyantının ilk uçuşu başarıyla gerçekleştirilirken, Avrupalı test pilotları uçağa olumlu not verdi. Bu gelişmeler, Pekin'in Boeing ve Airbus'a rakip bir sivil havacılık filosu oluşturma hedefinde önemli aşamalar olarak öne çıkıyor. Ulusal çapta hızlandırılan sertifikasyon çalışmaları doğrultusunda, yerli tasarım jet motorunun onay süreci hız kazanıyor. Bu strateji, C919'un seri üretim ve ihracat kapasitesini artırarak Çin'i havacılıkta daha bağımsız bir oyuncuya dönüştürmeyi ve küresel pazar dinamiklerini değiştirmeyi hedefliyor.
Çin1 olay2 gün önce - Aynı ülke gündemicanlı
Hong Kong'da öğrenci, dolandırıcıların tuzağına düşüp 3 milyon HK$'lık vurgunda tutuklandı
Hong Kong polisi, 19 yaşındaki bir üniversite öğrencisini, kendisini Çin anakarası kamu güvenliği yetkilisi olarak tanıtarak bir kişiyi 3 milyon Hong Kong dolarından fazla dolandırdığı iddiasıyla gözaltına aldı. Tseung Kwan O polis bölgesi istihbarat şubesinden Müfettiş Wu Kwan-yu, salı günü yapılan tutuklamanın ardından şüphelinin aynı dolandırıcılar tarafından kandırılmış olabileceğini açıkladı. Olay, telefon dolandırıcılığı çetelerinin mağdurları nasıl suçun parçası haline getirdiğini gösteriyor. Hong Kong'da sıkça rastlanan ve genellikle Çin anakarası yetkilileri taklit edilerek gerçekleştirilen bu tür vakalar, sınır ötesi organize suçun boyutlarına dikkat çekiyor. Polis, soruşturmanın sürdüğünü ve diğer şüphelilerin izini sürdüğünü belirtti.
Çin1 olay2 sa önce - Aynı ülke gündemicanlı
ABD ve 40 Ülke, Çin'in Füze Testine Tepki Olarak 24 Saat Uyarı Talep Etti
Amerika Birleşik Devletleri ve 40 ülke, geçen ay Çin'in Pasifik'te gerçekleştirdiği ender kıtalararası balistik füze denemesinin ardından, bu tür fırlatmalar için en az 24 saat önceden uyarı yapılması çağrısında bulundu. ABD Dışişleri Bakanlığı tarafından Salı günü yayımlanan ortak bildiride, özellikle nükleer silah sahibi devletlerin, kazaları ve askeri yanlış hesaplamaları önlemek amacıyla uzun menzilli balistik füze denemeleri öncesinde bildirimde bulunması gerektiği vurgulandı. Çin'in geçen ayki füze denemesi, bölgede seyreden gemi ve uçaklar için tehlike oluşturduğu ve niyet okuma belirsizliğini artırdığı gerekçesiyle eleştirilmişti. Ortak açıklamaya destek veren 41 ülke, balistik füze fırlatmalarının önceden haber verilmemesinin yanlış alarmlara ve istenmeyen tırmanmalara yol açabileceği uyarısında bulundu. Bu çağrı, büyük güçler arasındaki stratejik rekabette şeffaflığın ve risk azaltma önlemlerinin önemini bir kez daha gündeme taşıyor. Önceden bildirim mekanizması, Soğuk Savaş döneminden bu yana süper güçler arasında var olan güven artırıcı uygulamaların günümüzde çok kutuplu ortama uyarlanması olarak görülüyor. Ancak Çin'in bu talebe nasıl yanıt vereceği henüz bilinmiyor.
Çin2 olay2 sa önce - Aynı ülke gündemicanlı
Terracotta Ordusu Müzesi'nde Elektrik Kesintisi, Kültürel Güvenlik İncelemesi Başlattı
Xi'an'daki Terracotta Ordusu Müzesi'nde geçen hafta yaşanan ani elektrik kesintisi, Çin Ulusal Kültürel Miras İdaresi'ni harekete geçirdi. İdare, yaz turizm sezonunda müzelerde acil durum yönetimini güçlendirmek için ülke çapında bir uyarı yayınladı. Yayınlanan duyuruya göre, son dönemde elektrik kesintileri, klima arızaları ve diğer operasyonel aksaklıklar yaşandı. Bu olay, kültürel varlıkların korunması ve ziyaretçi güvenliği açısından müze altyapısının dayanıklılığının sorgulanmasına neden oldu. Çin'in en önemli turistik ve tarihi simgelerinden biri olan Terracotta Ordusu'nun bulunduğu müzede yaşanan bu tür aksaklıklar, ülkedeki kültürel miras yönetiminin daha sıkı denetlenmesini gündeme getirdi.
Çin1 olay2 sa önce - Aynı ülke gündemicanlı
Dolphin Tayfunu Çin'in Doğusunu Vurdu, Yüzlerce Uçuş İptal
Dolphin Tayfunu, Pazartesi günü Çin'in doğu kıyılarını etkisi altına alarak şiddetli yağışlara yol açtı. Sel riski nedeniyle yüzlerce uçuş iptal edilirken, ulaşımda geniş çaplı aksamalar yaşandı. Tayfun zayıflamaya başlasa da bazı kentlerde toplu taşıma seferleri yeniden başlatıldı. Yetkililer, ani sel ve toprak kaymalarına karşı uyarılarını sürdürüyor.
Çin9 olay5 sa önce