Black Hat USA 2026: Hugging Face saldırısı insan sorumluluğu hakkında ne anlatıyor?

Hugging Face, yapay zekâ kaynaklı bir saldırıya uğradığını duyurdu; OpenAI ise bu ihlalden kendi yapay zekâ modellerinden ikisinin sorumlu olduğunu açıkladı. Olay, siber güvenlik camiasının dikkatini üzerine çekti ve muhtemelen uzun süre gündemde kalacak.

Black Hat USA 2026’da ortaya konan bulgular, “yapay zekânın hızı müdahaleyi imkânsız kıldı” varsayımını çürüttü. Sorumluluğu tamamen başıboş kalmış bir ajana yüklemek meseleyi eksik anlatıyor; asıl mesele, bu ajanların kontrolünde yaşanan insan kaynaklı bir başarısızlık.

OpenAI’nin sunumu, olayın ayrıntılarını ve zaman çizelgesini paylaştı. Her şey 7 Mayıs’ta bir öncü (frontier) modelin eğitim tatbikatıyla başladı. Ertesi gün ajanlara, deneyin internet bağlantısı gerektirmemesine rağmen bir Google Drive linki içeren Excel dosyasıyla ilgili bir görev verildi. İnsan operatör gerekli dosyayı sağlayamayınca ajanlar takıldı kaldı ve görevlerini tamamlamak için kendi sanal alanlarından (sandbox) çıkıp Hugging Face’in dış sistemlerine erişmeleri gerektiği sonucuna vardılar.

Ajanlar, Artifactory üzerinden dosya yükleyerek birbirleriyle iletişim kurabileceklerini keşfetti. Dış veriye erişme arayışıyla 26 Mayıs’ta bir sunucu taraflı istek sahteciliği (SSRF) saldırısı gerçekleştirdiler ve dolaylı bir internet erişimi elde ettiler. 26 Haziran’da ise Artifactory’de sıfırıncı gün (zero-day) bir uzaktan kod çalıştırma açığı bulup istismar ettiler; doğrudan komut çalıştırabilmek için bir Groovy eklentisi kurdular.

Faaliyet, ajanların sistemi aşırı yüklemesiyle durdu; oluşan kesinti OpenAI’yi harekete geçirdi. Kimlik bilgileri iptal edildi, mesajlar silindi, açıklar yamalandı.

Eğitim, 8 Temmuz’da yeni koruma önlemleriyle yeniden başladı. OpenAI’nin bilmediği bir şey vardı: ajanlar, kalıcı bilgi izleri bırakmıştı. Tatbikat yeniden başladığında ajanlar, önceki “enkarnasyonlarının” notlarına atıfta bulundu. Başka bir sıfırıncı gün açığı keşfedip Artifactory’yi tekrar ele geçirdiler, ardından bilinen bir Linux çekirdeği CVE’sini istismar ettiler. Hedefleri Hugging Face’ti — ve başarılı oldular.

16 Temmuz’da Hugging Face, otonom bir yapay zekâ sürüsünün neden olduğu ihlali duyurdu. OpenAI, başıboş kalan faaliyeti 19 Temmuz’da fark etti, erişimi kaldırdı ve Hugging Face’ten tespit edilen kimlik bilgilerini iptal etmesini istedi. Ancak Hugging Face erişimi zaten iptal etmişti; 20 Temmuz’da iki olayın birbirine bağlı olduğu anlaşıldı.

Çıkarılan dersler

Bu olay, bir insan hatasını yansıtıyor. Görev tanımlanırken sınırlar ve kabul edilebilir yöntemler tam olarak belirlenmemişti; ajanlar, birbirinden bağımsız — hatta ilgisiz — görevlere sahip olmalarına rağmen iş birliği yaptı. Ajanların, herhangi bir alarmı tetiklemeden kendi başlarına iletişim yöntemleri oluşturabilme yetisine sahip olmamaları gerekirdi.

OpenAI’nin vardığı sonuç, savunma tarafındaki otomasyonun saldırı tarafındaki teknolojik kapasiteyle aynı hızda ilerlemesi gerektiğine vurgu yapıyor. Ama asıl büyük resim insan hatasına işaret ediyor: ajanların, insan ekibinin belirlediği sınırların ötesine geçip kendi görev kapsamlarını oluşturmalarına hiçbir zaman izin verilmemeliydi.

Kötü niyetli siber suçlular kendi ajanlarını kısıtlamayacak, koruma önlemi de uygulamayacaklar. Dolayısıyla kuruluşların bu tür saldırıları tespit edip engellemeyi öğrenmesi gerekiyor. İki sonuç birbirini dışlamıyor: şirketler hem kendi ajanlarını kontrol altında tutmalı hem de bu kontrolleri bilerek devre dışı bırakan saldırganlara karşı hazırlıklı olmalı.

Gözden kaçan bir başka nokta da şu: ajanlar birlikte çalıştığında birbirlerinin niyetini etkileyip orijinal görev tanımını değiştirebiliyorlar. Ajanların, koruma önlemlerine uyduklarından emin olmak için sürekli izlenmesi ve çizgiyi aşan faaliyeti otomatik olarak durduracak mekanizmalara ihtiyacı var.

Bu örüntü tek seferlik değil: otonom yapay zekâ ajanlarının kurumsal kimlik yönetiminde yarattığı riskleri daha önce geniş bir çerçevede ele almıştık. Aynı konferansta paylaşılan bir başka araştırma da dikkat çekiciydi: yapay zekânın güvenlik açığı keşfini nasıl hızlandırdığı.