KURUM İÇİ ÖNLEMLER
Yapay zekâ araçları kötü aktörlerin elinde her türlü dolandırıcılığın, dezenformasyon kampanyasının diğer tehditlerin ölçeğini ve şiddetini artırabilir
Yapay zekâ geçtiğimiz yıl siber güvenlik silahlanma yarışına büyük bir ivme kazandırdı. Önümüzdeki 12 ay da bu yarışa hiç ara vermeyecek. Bu durum, kurumsal siber güvenlik ekipleri ve işverenlerinin yanı sıra günlük web kullanıcıları için de önemli sonuçlar doğuruyor. Yapay zekâ teknolojisi savunucuların güvenliği artırmasına yardımcı olurken kötü niyetli aktörler de yapay zekâ destekli araçlardan yararlanmak için zaman kaybetmiyor.
İşte 2025’ten bekleyebilecekleriniz:
Birleşik Krallık Ulusal Siber Güvenlik Merkezi (NCSC) 2024’ün başında, yapay zekânın halihazırda her tür tehdit aktörü tarafından kullanıldığı ve “önümüzdeki iki yıl içinde siber saldırıların hacmini ve etkisini neredeyse kesinlikle artıracağı” uyarısında bulundu. Tehdit en çok, üretken yapay zekânın (GenAI) kötü niyetli aktörlerin hatasız yerel dillerde son derece ikna edici kampanyalar hazırlamasına yardımcı olabildiği sosyal mühendislik bağlamında akut hale geliyor. Yapay zekânın savunmasız varlıkların büyük ölçekli tespitini otomatikleştirebildiği keşif alanında.
Bu trendler 2025 yılında devam edecek olsa da yapay zekânın şu amaçlarla kullanıldığını da görebiliriz:
Yapay zekâ önümüzdeki yıl sadece tehdit aktörleri için bir araç olmayacak. Aynı zamanda yüksek bir veri sızıntısı riskini de beraberinde getirecek. LLM’ler kendilerini eğitmek için büyük hacimlerde metin, görüntü ve videoya ihtiyaç duyarlar. Genellikle bu verilerin bazıları hassas olacaktır: Biyometri, sağlık bilgileri veya finansal veriler gibi. Bazı durumlarda, sosyal medya ve diğer şirketler, müşteri verilerini modelleri eğitmek için kullanmak üzere Şartlar ve Koşullar’ı değiştirebilir.
Bu bilgiler yapay zekâ modeli tarafından toplandıktan sonra, yapay zekâ sisteminin kendisinin hacklenmesi durumunda ya da bilgiler LLM üzerinde çalışan GenAI uygulamaları aracılığıyla başkalarıyla paylaşılırsa bireyler için bir risk teşkil eder. Kurumsal kullanıcılar için de GenAI istemleri aracılığıyla farkında olmadan işle ilgili hassas bilgileri paylaşabileceklerine dair bir endişe var. Bir ankete göre, Birleşik Krallık’taki şirketlerin beşte biri, çalışanların GenAI kullanımı yoluyla potansiyel olarak hassas kurumsal verileri yanlışlıkla ifşa etmiştir.

İyi haber şu ki yapay zekâ yeni ürün ve hizmetlere dahil edildikçe önümüzdeki yıl siber güvenlik ekiplerinin çalışmalarında daha büyük bir rol oynayacak. Yapay zekâ destekli güvenliğin uzun bir geçmişine dayanan bu yeni teklifler aşağıdakilere yardımcı olacaktır:
Bununla birlikte, BT ve güvenlik liderleri yapay zekânın sınırlarını ve karar verme sürecinde insan uzmanlığının önemini de anlamalıdır. Sanrı, model bozulması ve diğer potansiyel olumsuz sonuçların riskini azaltmak için 2025 yılında insan ve makine arasında bir dengeye ihtiyaç duyulacaktır. Yapay zekâ sihirli bir değnek değildir. Optimum sonuçlar için diğer araç ve tekniklerle birleştirilmelidir.
Siber güvenlikte yapay zekâ kullanımı hakkında daha fazla bilgi edinmek için bu ESET teknik raporuna bakın.
Tehdit ortamı ve yapay zekâ güvenliğinin gelişimi bir boşlukta gerçekleşmiyor. Başta ABD olmak üzere 2025’teki jeopolitik değişiklikler, teknoloji ve sosyal medya sektörlerinde deregülasyona bile yol açabilir. Bu da dolandırıcıların ve diğer kötü niyetli aktörlerin çevrimiçi platformları yapay zekâ tarafından üretilen tehditlerle doldurmasını sağlayabilir
Bu arada AB’de, uyum ekipleri için hayatı daha zor hale getirebilecek yapay zekâ düzenlemesi konusunda hâlâ bazı belirsizlikler var. Hukuk uzmanlarının belirttiği gibi uygulama kurallarının ve rehberliğin hâlâ çözülmesi ve yapay zekâ sistem arızaları için sorumluluğun hesaplanması gerekiyor. Teknoloji sektöründen gelen lobi faaliyetleri, AB yapay zekâ yasasının pratikte nasıl uygulanacağını değiştirebilir.
Bununla birlikte açık olan şey, yapay zekânın 2025 yılında teknolojiyle etkileşim şeklimizi iyi ve kötü yönde kökten değiştireceğidir. İşletmeler ve bireyler için büyük potansiyel faydalar sunarken aynı zamanda yönetilmesi gereken yeni riskler de barındırıyor. Bunun gerçekleştiğinden emin olmak için önümüzdeki yıl boyunca daha yakın çalışmak herkesin yararına olacaktır. Hükümetler, özel sektör işletmeleri ve son kullanıcılar, yapay zekânın risklerini azaltırken potansiyelinden yararlanmak için üzerlerine düşeni yapmalı ve birlikte çalışmalıdır.
Sitenin çalışması için gerekli çerezleri her zaman kullanırız. Okuma istatistikleri, reklam ölçümü ve gömülü içerikler için çerezleri yalnızca izninizle kullanırız. Ayrıntılar Gizlilik Politikası sayfamızda.
Hangi çerezlere izin verdiğinizi buradan seçebilirsiniz.
Sitenin çalışması ve güvenliği için gereklidir, kapatılamaz.
Hangi yazıların okunduğunu anlamamızı sağlar.
Okunma istatistikleri.
Hizmet adresi: policies.google.com (opens in a new window)
Reklam ölçümü, tarayıcı bildirimleri ve gömülü içerikler içindir.
Reklam sonuçlarının ölçümü.
Hizmet adresi: policies.google.com (opens in a new window)
Tarayıcı bildirimleri.
Hizmet adresi: onesignal.com (opens in a new window)
Gömülü videolar.
Hizmet adresi: policies.google.com (opens in a new window)