Hugging Face'e otonom yapay zekâ ajanı saldırdı: kötü niyetli veri seti ile içeri sızma, haftalar süren iç ağ gezintisi
Yapay zekâ model deposu Hugging Face, üretim altyapısına yönelik saldırının bir insan değil otonom bir yapay zekâ ajan çerçevesi tarafından yürütüldüğünü açıkladı; saldırgan kötü niyetli bir veri seti üzerinden iki kod-çalıştırma açığını zincirleyerek işleme sunucusuna sızdı, ardından düğüm seviyesinde yetki yükseltip bulut/küme kimlik bilgilerini topladı ve bir hafta sonu boyunca birden fazla iç kümede yanal hareket etti. Şirket, 17.000'den fazla eylem kaydını incelerken ticari API'ler üzerinden erişilen öncü modellerin güvenlik korkuluklarının analiz isteklerini (istismar kodu ve komuta-kontrol örnekleri olduğu için) engellediğini, bu nedenle rekonstrüksiyonun kendi altyapısındaki açık ağırlıklı bir modelle tamamlandığını bildirdi. Hugging Face, kamuya açık model, veri seti ve Space'lerde kurcalama kanıtı bulunmadığını ve yazılım tedarik zincirinin 'temiz doğrulandığını' açıkladı; müşteri/ortak verisinin etkilenip etkilenmediğine dair araştırma sürüyor.
Açık kaynaklı yapay zekâ platformu Hugging Face, üretim altyapısına yönelik bir siber saldırının klasik bir insan operatör tarafından değil, otonom bir yapay zekâ ajan çerçevesi tarafından yürütüldüğünü açıkladı. Şirket, olayı geçen hafta sonu tespit edip müdahale ettiğini bildirdi.
Saldırı nasıl işledi
Sızma, Hugging Face’in veri seti işleme hattında kötü niyetli bir veri seti aracılığıyla başladı. Saldırgan, bir uzaktan-kod-çalıştıran veri seti yükleyicisi ile bir veri seti yapılandırmasındaki şablon-enjeksiyonu zincirleyerek işleme sunucusunda kod çalıştırdı. Buradan düğüm seviyesinde yetki yükseltti, bulut ve küme kimlik bilgilerini topladı ve bir hafta sonu boyunca birden fazla iç kümeye yanal olarak yayıldı.
”Ajan hızında” bir kampanya
Hugging Face’in adli analizi, kampanyanın hangi büyük dil modelinin kullanıldığı henüz belirlenemeyen otonom bir ajan çerçevesi tarafından yürütüldüğünü gösteriyor: saldırgan, kısa ömürlü sandbox’lardan oluşan bir “sürü” üzerinden binlerce ayrı eylemi otomatik olarak yürütmüş, komuta-kontrol altyapısını da kamuya açık servisler üzerinden kendi kendine göçürmüş (self-migrating C2).
Araştırmacılar bile güvenlik korkuluklarına çarptı
İlginç bir ayrıntı: Hugging Face’in mavi takımı, 17.000’i aşkın kaydedilmiş eylemi analiz etmeye ticari API’ler üzerindeki öncü modellerle başladı — ama gönderdikleri analiz istekleri (istismar kodu ve C2 artefaktları içerdiği için) bu modellerin kendi güvenlik korkuluklarınca engellendi. Ekip, rekonstrüksiyonu sonunda kendi altyapılarında çalıştırdıkları açık ağırlıklı GLM 5.2 modeliyle tamamladı.
Etki değerlendirmesi sürüyor
Şirket, kamuya açık modellerde, veri setlerinde veya Space’lerde kurcalama kanıtı bulunmadığını ve yazılım tedarik zincirinin “temiz doğrulandığını” duyurdu. Ortak veya müşteri verisinin etkilenip etkilenmediğine dair araştırma sürüyor; etkilenen taraflar doğrudan bilgilendirilecek.
Neden önemli
Bu olay, güvenlik camiasında uzun süredir tartışılan bir senaryonun somut bir örneği: saldırı zincirinin keşif, istismar ve yanal hareket adımlarının bir insan operatör yerine otonom bir ajan tarafından, insan hızının çok üzerinde bir tempoda yürütülmesi. 45.000’den fazla modele ve 50.000’i aşkın kuruluşa hizmet veren bir altyapının hedef olması, savunma tarafının da benzer ölçekte otomatikleştirilmiş tespit yaklaşımlarına geçmesi gerektiğine işaret ediyor.
45.000'den fazla modele ve 50.000'i aşkın kuruluşa hizmet veren bir depoyu hedef alan, tamamen otonom bir yapay zekâ ajanının yürüttüğü ilk büyük ölçekli sızma vakalarından biri — güvenlik ekiplerinin artık 'insan hızında' değil 'ajan hızında' (binlerce eylem/saat) tehditlere karşı savunma tasarlaması gerektiğine işaret ediyor.
- BleepingComputer — Hugging Face discloses breach linked to autonomous AI agent · 2026-07-20
- The Hacker News — World's Largest AI Model Repository Hugging Face Breached by Autonomous AI Agent · 2026-07-20
- Help Net Security — Hugging Face breached by autonomous AI agent · 2026-07-20
Bu haber ozgun ozet olarak hazirlanmistir; telif hakki ilgili kaynaklara aittir. Tam metin icin kaynak baglantilarini ziyaret edin.
Ilgili Haberler
'Kriptografik Bağlam Enjeksiyonu' — Grok, şifrelenmiş talimatlarla kandırılıp kullanıcı verisini sızdırdı
Güvenlik firması Adversa, xAI'nin Grok modelini basit ama etkili bir teknikle kandırdı: zararlı talimatı düz metin yerine şifreleyip sayfaya gömdü, çözme anahtarını da yanına ekledi. Modelin statik güvenlik filtresi düz metin talimatı reddederken şifreli metni 'anlamsız' sayıp geçirdi; model kendi kod-çalıştırma ortamında şifreyi çözünce filtre bir daha devreye girmedi ve kullanıcı verisi saldırganın sunucusuna sızdı. Aynı teknik Gemini'de de jailbreak için kullanıldı.
AI kodlama ajanları sahte kurulum talimatlarını izleyip kurumsal ağlara sahipsiz kod bulaştırdı
İsrailli bir güvenlik araştırma ekibi, 6.214 kurumsal web sitesini taradı ve 120 sitede kayıtsız paket veya alan adlarına işaret eden 227 sahte kurulum komutu buldu. Araştırmacılar bu boş isim alanlarını kendileri kayıt ettirip tuzak kurunca, aralarında büyük şirketlerin de bulunduğu düzinelerce kurumdan sinyal aldı; sahte talimatları sorgusuzca çalıştıran ajanların önde gelen üç AI kodlama asistanı olduğu tespit edildi.
ShinyHunters, ilaç dağıtım devi McKesson'dan milyonlarca hasta kaydı çaldığını iddia etti
ABD'nin en büyük ilaç ve tıbbi malzeme dağıtıcılarından McKesson, çalışanlarının oltalama ve sosyal mühendislikle kandırılarak bulut hesaplarına sızıldığını doğruladı. ShinyHunters hacker grubu isim, adres, sosyal güvenlik numarası, teşhis ve ilaç bilgisi dahil milyonlarca satır veri çaldığını iddia edip fidye talep etti. Haber, McKesson'ı son aylarda aynı grup tarafından hedef alınan sağlık şirketleri zincirine ekliyor.