Ajan yapay zekâ asistanlardan otonom aktörlere dönüşürken kuruluşların kimlik güvenliği, ayrıcalıklı erişim ve içeriden gelen riskleri yeniden düşünmesi gerekiyor.
Bu blogda neler bulacaksınız:
Kuruluşlar ajan yapay zekâyı benimsedikçe ve yapay zekâ yeteneklerini genişlettikçe yeni bir kimlik riski ortaya çıkıyor. Bu blog yazısı, otonom ajanların dış sistemler genelinde saldırı yüzeyini nasıl genişlettiğini, geleneksel güvenlik modellerinin giderek karmaşıklaşan görevlere ayak uydurmakta neden zorlandığını ve bunun kimlik yönetimi ve tespiti açısından ne anlama geldiğini inceliyor.
Ajan yapay zekâ içeriden gelen risk mi?
Bir zamanlar “içeriden gelen risk” çok insani bir anlam taşıyordu.
İstifa etmeden önce verileri kopyalayan memnuniyetsiz bir çalışan. Dikkatsiz bir yüklenici, bir oltalama bağlantısına tıklıyor. Aşırı ayrıcalıklara sahip bir yönetici, sabah saat 2:00’de pahalıya mal olacak bir hata yapıyor.
İnsan davranışları etrafında tespit modelleri oluşturduk. Etkileşimli oturum açma işlemlerini, yanal hareketleri, ayrıcalık yükseltmelerini ve anormal erişim modellerini izledik. İnsanları eğittik, en az ayrıcalık ilkesini uyguladık, sıfır güven modelini benimsedik ve insan ve makine risklerini yönetmek için kimlik güvenliği kontrolleri uyguladık.
Ancak temel bir değişiklik oldu.
Bir sonraki iç tehdit insan değil. Otonom. Ölçeklenebilir. Ve zaten ortamınızın içinde.
Hızla gelişen yapay zekâ yeteneklerinin, kuruluşların tam olarak anlamadığı yeni bir iç tehdit oluşturduğu, ajan yapay zekâ kimlikleri çağına hoş geldiniz. Ekipler, bu ajanların ne yaptığını, ne kadar ayrıcalığa sahip olduğunu ve neye eriştiğini göremezse yapay zekâ ajanları iç tehdit hâline gelebilir.
“Yapay zekâ ajanları, sistemlerle etkileşime giren araçlar değildir; sistemlerin içinde çalışan otonom kimlikler olarak ortaya çıkmaktadır.”
Yardımcı yapay zekâ, şimdi ajan yapay zekâ mı?
Çoğu kuruluş, yapay zekâyı hâlâ bir araç, kullanıcıların kod yazmasına, raporları özetlemesine veya tekrarlayan görevleri otomatikleştirmesine yardımcı olan bir şey olarak görüyor.
Ancak biz bu aşamayı hızla geride bıraktık.
Ajan yapay zekâ sistemleri sadece yardımcı olmakla kalmaz, genellikle iş akışları arasında koordinasyon sağlayan çoklu ajan sistemlerinin bir parçası olarak hareket ederler.
Bu sistemler şunları yapabilir:
- Sistemler arasında karmaşık görevleri yürütmek
- Birden fazla veri kaynağından gelen bağlama dayalı kararlar alabilmek
- API’ler, veri tabanları, SaaS platformları ve harici sistemlerle etkileşim kurmak
- İnsan müdahalesi olmadan iş akışlarını birbirine bağlamak
- Bağlamı koruyabilmek ve zaman içinde davranışlarını uyarlayabilmek
Esasen, bunlar eylemlerde bulunan ve kararlar alan yeni bir dijital iş gücü olan dijital çalışanlar gibi davranırlar.
Ancak çalışanlardan farklı olarak:
- Makine hızında çalışırlar
- Anında ölçeklenirler
- Sezgi veya etik yargıdan yoksundur
- Yeterli insan denetimi olmadan tamamen nasıl yapılandırıldıklarına ve neye erişmelerine izin verildiğine bağlıdırlar
Ve risk işte bu son noktada başlar.
Yeni kimlik patlaması: Ayrıcalıklı erişime sahip ajan yapay zekâ
Her ajan yapay zekâ sistemi erişim gerektirir.
Yararlı olabilmesi için verileri okumak ve yazmak, eylemleri tetiklemek ve iç ve dış sistemlere bağlanmak için erişime ihtiyaç duyar.
Bu nedenle, erişimi şu yollarla sağlıyoruz:
- API anahtarları
- OAuth belirteçleri
- Hizmet hesapları
- Veri tabanı kimlik bilgileri
- Bulut rolleri
- SaaS izinleri
Bu size tanıdık geliyor mu?
Ayrıcalıklı kimlikleri tam olarak bu şekilde sağlıyoruz.
Aradaki fark, artık bunları takip edebileceğimizden daha hızlı oluşturuyor olmamızdır. Birçoğunun kapsamı amaçlanandan daha geniştir, yaşam döngüsü yönetimi yoktur ve geleneksel IAM sistemleri veya yönetişim çerçeveleri tarafından görünmez kalırlar.
Yapay zekâ ajanları, kurumsal ortamda sessizce en hızlı büyüyen insan dışı kimlik sınıflarından biri hâline geliyor.
Bu büyümenin hızla artması bekleniyor. Gartner, 2025’te 15’ten az olan sayının 2028’e kadar ortalama bir Fortune 500 şirketinde 150.000’den fazla yapay zekâ ajanı kullanıma gireceğini öngörüyor.
Ve çoğu durumda, bunlar:
- Aşırı ayrıcalıklı
- Yetersiz izleniyor
- Sahiplik veya hesap verebilirlikle bağlantılı değil
- Politika veya modern yönetişim çerçeveleriyle yönetilmiyor
Diğer bir deyişle, saldırganların ele geçirip kötüye kullanmayı sevdiği kimliklere tıpatıp benziyorlar.
Mükemmel fırtına: Yapay zekâ aracısının hızı, ölçeği ve yanlış yapılandırma
Gerçekçi bir senaryoyu inceleyelim.
Bir ekip, müşteri destek iş akışlarını otomatikleştirmek için bir yapay zekâ ajanı devreye alır. Bu ajan, CRM ve diğer veri kaynaklarından müşteri verilerini alır, faturalandırma sistemlerine erişir, e-postalar gönderir, biletleri günceller ve etkinlikleri dâhili panolara ve harici sistemlere kaydeder.
“Çalışmasını sağlamak” için geliştiriciler, ajana birden fazla platformda geniş API erişimi verir.
Ayrıntılı izinler için zaman yoktur. Öncelik işlevselliktir.
Haftalar sonra, ajan daha fazla iş akışına entegre edilir. Ek izinler eklenir. Günlük kaydı tutarsız hâle gelir. Sorumluluk belirsizleşir.
Sonra bir gün, yanlış yapılandırılmış bir API hassas müşteri verilerini açığa çıkarır. Ya da ajan, gizli kayıtları yanlış işler ve paylaşır. Ya da bir komut istemi enjeksiyonu, istenmeyen verilerin alınmasına ve açığa çıkmasına neden olur.
İçeriden gelen kötü niyetli biri yok. Kimlik avı e-postası yok. Sadece, kendisine izin verilen şekilde karmaşık görevleri yerine getiren, aşırı ayrıcalıklara sahip ve yanlış yapılandırılmış bir yapay zekâ ajanı.
Kötü niyet olmadan kötüye kullanım: Yeni içeriden gelen risk modeli
Geleneksel içeriden gelen tehditler genellikle niyete dayanır.
Ajan yapay zekâ, yeni bir içeriden gelen tehdit kategorisi ortaya koyuyor: kasıtsız etki.
Ajan uyumsuzluğu üzerine yapılan son Anthropic araştırması, bazı test senaryolarında modellerin, bu davranışların yerlerinden edilmeyi önlemeye veya hedeflerine ulaşmaya yardımcı olduğu durumlarda “kötü niyetli iç kaynak davranışlarına” başvurduğunu ortaya koydu.
Yapay zekâ ajanları, verilerin hassasiyetini anlamaz, talimatları sorgulamaz, risk bağlamını fark etmez veya bir şey “yanlış hissettirdiğinde” durmaz. Genellikle yeterli insan denetimi olmaksızın, yapılandırıldıkları şekilde çalışırlar.
Onlar işlevlerini yerine getirir ve bu da yeni arıza modları yaratır:
1. Verilerin aşırı açıklanması
Ajanlar, birden fazla veri kaynağı üzerinde aşırı geniş okuma izinleri verildiğinden, hassas dosyaları, müşteri kayıtlarını veya iç iletişimleri alır ve paylaşır.
2. İş akışı eskalasyonu
Ajanlar, sistemler arasında eylemleri zincirleme olarak gerçekleştirir ve bu da özellikle birbirine bağlı çoklu ajan sistemlerinde, istenmeyen değişiklikleri tetikler, yapılandırmaları değiştirir veya zincirleme arızalara neden olur.
3. Komut satırı enjeksiyonu sömürüsü
Ajanlar girdilere çok kolay güveniyor ve güçlü girdi doğrulama denetimlerinden yoksun olduğundan saldırganlar girdileri manipüle ederek gizli bilgileri çıkarır, davranışları geçersiz kılar veya yetkisiz eylemleri tetikler.
4. Sessiz ayrıcalık kötüye kullanımı
Ajanlar, ihtiyaç duymadıkları sistemlere, işlememeleri gereken verilere ve dağıtımdan sonra erişimleri yeniden gözden geçirilmediği için hiçbir zaman kısıtlanmamış API’lere sürekli olarak erişir.
Geleneksel kimlik güvenliği modelleri neden ajan yapay zekâ ile zorlanıyor?
Çoğu kuruluş bu değişime hazırlıklı değildir.
Neden?
Çünkü yapay zekâ ajanları, geleneksel kimlik güvenliği modellerine tam olarak uymuyor.
Bunlar insan kullanıcılar, geleneksel hizmet hesapları veya standart uygulamalar değildir. Özellikle yapay zekâ yetenekleri orkestrasyon ve otonomiye doğru genişledikçe bunların ikisi arasında bir yerde yer alırlar.
Ve bu da kör noktalar yaratır:
Kimlik yönetişimi boşlukları
- Sahiplik ataması yok
- Sertifikasyon süreçleri yok
- Periyodik erişim incelemeleri yok
- Mevcut IAM yönetişim ve uyum süreçleriyle sınırlı uyum
İzleme sınırlamaları
- Günlükler, sistemler ve harici sistemler arasında dağınık durumdadır
- Davranış “normal” görünür (çünkü otomatiktir)
- Ajan etkinliği için temel referans yok
Ayrıcalık sızıntısı
- İzinler zamanla birikir
- En az ayrıcalık ilkesi uygulanmamaktadır
- Karmaşık görevler arasında segmentasyon yok
Sorumluluk eksikliği
Bir sorun çıktığında sorumluluk belirsiz hâle gelir.
- Geliştirici miydi?
- Sistem miydi?
- Yapay zekâ modeli miydi?
- Yapılandırma mı?
- Yoksa insan denetiminin eksikliğinden mi kaynaklandı?
Kaçınılmaz sonuç: İhlaller, maruz kalma ve kimlik riski
Mevcut eğilimler göz önüne alındığında, mesele “eğer” değil, “ne zaman” olacağıdır.
Yapay zekâ ajanlarının neden olduğu veri ihlalleri, otomatik iş akışlarıyla bağlantılı düzenleme ihlalleri, hassas verileri büyük ölçekte ifşa eden yanlış yapılandırmalar ve giriş noktası olarak harici sistemlerdeki yapay zekâ ajanlarını hedef alan saldırganlar göreceğiz.
Ve birçok durumda, soruşturmalar şu sonuca varacaktır: “Sistem yapılandırıldığı şekilde çalıştı.”
Bu rahatsız edici bir gerçektir.
Yapay zekâ ajanları güvenliği “bozmaz”.
Mevcut zayıflıkları daha da artırırlar:
- Yetersiz kimlik yönetimi
- Aşırı ayrıcalıklar
- Görünürlük eksikliği
- Zayıf erişim kontrolleri
- Olgunlaşmamış veya eksik yönetişim çerçeveleri
Zaten yönetilmeyen hizmet hesapları, sertifikalar ve botlarla uğraşan ekipler için bu durum, makine kimliği uyumluluğu açısından daha büyük bir risk hâline gelir.
Ajan yapay zekâ için kimlik güvenliğini yeniden düşünmek
Bu ortaya çıkan riski ele almak için kuruluşların gelişmesi gerekir.
Bu sadece yapay zekâ güvenliği ile ilgili değildir.
Bu, gelişmiş yapay zekâ yeteneklerini güvenli bir şekilde destekleyen, makine ölçeğinde kimlik güvenliği ile ilgilidir.
İşte bu noktada, makine kimlik yönetimi sadece bir yönetişim konusu olmaktan çıkıp pratik bir güvenlik önceliği hâline gelir.
1. Yapay zekâ ajanlarını birinci sınıf kimlikler olarak ele alın
Her ajanın şunlara sahip olması gerekir:
- Benzersiz bir kimlik
- Net bir sahibi
- Belirlenmiş amaç ve kapsam
Bu ajanın kime ait olduğunu cevaplayamıyorsanız zaten bir risk altındasınız demektir.
2. Tasarım ve varsayılan olarak en az ayrıcalık ilkesini uygulayın
Ajanlar yalnızca ihtiyaç duydukları bilgilere erişmelidir:
- Tanımlanmış veri kaynaklarından ihtiyaç duydukları veriler
- İhtiyaç duydukları sistemlere
- Gerçekleştirmeleri için açıkça yetkilendirildikleri eylemler
Geniş API kapsamları olmamalıdır. Kestirmeler olmamalıdır.
3. Sürekli erişim incelemeleri uygulayın
İnsan kullanıcılar gibi, yapay zekâ ajanları da şunlar olmalıdır:
- Düzenli olarak denetlenmeli
- Erişimleri yeniden doğrulanmalı
- Artık ihtiyaç duyulmadığında erişim hakları kaldırılmalıdır
Bu, ajanın erişimini modern yönetişim çerçeveleriyle uyumlu tutar.
4. Yalnızca erişimi değil, davranışı da izleyin
Ajanların faaliyet kalıplarına odaklanın:
- Temsilcinin ne yaptığı
- Verilere ne sıklıkla erişiyor
- Kalıpların beklenen iş akışlarından sapıp sapmadığı
Davranış analitiği, özellikle çoklu ajan sistemlerinde insan dışı kimliklere de genişletilmelidir.
5. Yetenekleri segmentlere ayırın ve izole edin
Ajanlara ortam genelinde çok fazla erişim izni vermekten kaçının:
- Etki alanları arası erişim
- İş akışları üzerinde uçtan uca kontrol
Yetenekleri, belirli ve karmaşık görevleri yerine getiren daha küçük, kontrol edilebilir birimlere ayırın.
6. Giriş katmanını güvenli hâle getirin
Ajan davranışını veya sonuçlarını değiştirebilecek girdilere karşı koruma sağlayın:
- Yerleşik enjeksiyon
- Kötü niyetli girdiler
- Veri zehirleme
Çünkü girişi kontrol etmek, özellikle insan denetiminin sınırlı olduğu durumlarda, genellikle sonucu kontrol etmek anlamına gelir.
Büyük resim: Kimlik, yeni yapay zekâ saldırı yüzeyi
Yıllardır kimliğin, kuruluşların işleyişini sağlayan bağ dokusu olduğunu söylüyoruz.
Artık bu düşünceyi güncellememiz gerekiyor.
Yapay zekâ ajanları, ayrıcalıklı kimlik sınırlarını genişleterek kimlik güvenliğini yapay zekâ riski için kritik bir kontrol noktasına dönüştürüyor.
Erişimi yeni alanlara ve harici sistemlere genişletiyorlar. Sürekli çalışıyorlar. Kritik sistemler ve veri kaynaklarıyla etkileşime giriyorlar. Ve genellikle çoklu ajan sistemlerinin bir parçası olarak büyük ölçekte çalışıyorlar.
Yönetilmezlerse şunlara dönüşeceklerdir:
- Verilerin açığa çıkmasına giden en kolay yol
- İçeriden gelen risklerin en sessiz kaynağı
- Erken tespit edilmesi en zor olaylar
InformationWeek’in de belirttiği gibi, “Kimlik, ajanların güvenliğini sağlamanın anahtarıdır.” Bu nedenle yapay zekâ ajan güvenliği, kimlik yönetimi, ayrıcalıklı erişim ve görünürlükten ayrı düşünülemez.
Son olarak: Tasarladığınız ve dağıttığınız içeriden kişi
Kuruluşunuzdaki en tehlikeli iç kaynak, hoşnutsuz, ihmalkâr veya kötü niyetli bir kişi olmayabilir.
Geçen çeyrekte devreye aldığınız yapay zekâ ajanı olabilir.
Güvenliği ihlal edildiği için değil.
Bunun nedeni, ona aşırı güvenilmiş, aşırı ayrıcalık verilmiş, yetersiz yönetilmiş, yeterli insan denetimi sağlanmamış ve sağlam yönetişim çerçeveleriyle uyumlu olmamasıdır.
Ajan yapay zekâ sadece teknolojik bir değişim değildir. Bu, bir güvenlik paradigması değişimidir.
Bunu erken fark eden, yapay zekâ ajanlarını kimlikler olarak gören, en az ayrıcalık ilkesini uygulayan ve görünürlük sağlayan kuruluşlar, manşetlere ilk çıkanlar olmaktan kurtulacaklardır.
Çünkü ajan yapay zekâ çağında:
Artık sadece kullanıcıları yönetmiyorsunuz. Otonom iç kullanıcıları yönetiyorsunuz.
Ajan yapay zekâ arkasındaki ayrıcalıklı erişimi kontrol edin
Yapay zekâ ajanları yeni olabilir ancak erişim sorunu yeni değildir.
Hâlâ kimlik bilgileri, izinler, gizli bilgiler, sistem erişimi ve denetime ihtiyaçları vardır. Doğru kontroller olmadan, aşırı ayrıcalıklara sahip, yetersiz denetime tabi ve yönetilmesi zor hâle gelebilirler.
Segura® PAM, güvenlik ekiplerinin ayrıcalıklı erişimi tespit etmesine, en az ayrıcalık ilkesini uygulamasına, oturumları izlemesine, kimlik bilgilerini kontrol etmesine ve insan ve insan dışı kimlikler arasında denetime hazır görünürlük sağlamasına yardımcı olur.
Segura®’nın, ekiplerin ayrıcalıklı kimlikleri yönetilemez bir risk hâline gelmeden önce kontrol etmelerine nasıl yardımcı olduğunu görün.
FishMonger cephaneliğini yeniledi: Windows için SprySOCKS
