Güçlü bir Yapay Zeka ile sanal ortamda birini taklit etmek zor değildir. Ses klonlamanın bazı sınırlamaları olsa da tehlikeli sonuçlar doğurabilir.
Bir gece geç saatlerde YouTube’da öylesine gezinirken, sesle ilgili Yapay Zeka platformlarını kullanarak dolandırıcılık yapmaktan bahseden bir videoya rastladım. Videoda bu teknolojinin kötü niyetle kullanımı, sanal adam kaçırma olarak bilinen bir uygulama olarak sunuluyordu. Bu yazıda, sanal adam kaçırma vakalarının ardındaki kavram, kullanılan yöntemler ve bu dolandırıcılığın sonuçlarını inceleyeceğiz.
Sanal adam kaçırma ne demek?
Sanal adam kaçırma, birini sevdiği kişinin kaçırıldığına inandırarak korku ve panik yaratmak, bundan faydalanıp dolandırmaktır. Dolandırıcı, kurbanı fiziksel olarak kaçırmaz ancak kaçırıldığı görünümü vererek zorla para almak veya bazı çıkarlar sağlamak ister.
Geleneksel basit teknoloji yöntemi
Sanal adam kaçırma ile ilgili en geleneksel yöntemlerden biri, kurbanın telefon numarasını ele geçirmektir. Dolandırıcı, kurbanın ailesinden veya arkadaşlarından birini arayıp arka planda gürültülü ve karmaşa bir ortam yaratarak kurbanın tehlikedeymiş gibi algılanmasını sağlar. Dolandırıcı daha sonra kurbanın sağ salim dönmesi için fidye talep eder.
Kandırmacanın inandırıcılığını artırmak için failler genelde kurban ve yakınları hakkında bilgi toplamak için açık kaynak istihbaratı (OSINT) kullanır. Bu bilgiler, dolandırıcıların yaptığı kandırmacanın daha inandırıcı olmasını sağlar. Dolandırıcılar hedef aldıkları seyahat eden veya evden uzakta olduğu bilinen kişilerin sosyal medya hesaplarını izlemeye alır.
İleri teknoloji ses klonlama
Sanal adam kaçırma vakalarının daha gelişmiş ve ileri versiyonunda, kurbanın ses örneği ele geçirilir ve Yapay Zeka platformları kullanılarak bu ses klonlanır. Dolandırıcı ardından kurbanı taklit eder ve panik yaratacak taleplerde bulunmak için kurbanın aile veya arkadaşlarını arar.
Ses klonlama nasıl yapılır?
Ses klonlamanın nasıl yapılabileceğini göstermek için, ücretsiz Yapay Zeka tabanlı video ve ses düzenleme yazılımlarıyla deney yapmaya karar verdim. ESET’in Küresel Güvenlik Danışmanı Jake Moore’un herkes tarafından tanınan sesinden ufak parçalar kaydederek, ikna edici bir ses klonu yaratmaya çalıştım.
Yazılımı kullanarak, İnternet üzerinde bulduğum videolardan Jake’in sesini kaydettim. Yazılım bir ses dosyası ve transkript oluşturdu. Ben de bunu sonradan Yapay Zeka ile çalışan ses klonlama hizmetine yükledim. Deneyin sonuçları hakkında şüphelerim olsa da 24 saat içerisinde ses klonunun kullanıma hazır olduğunu belirten bir e-posta aldım.
İşte sonuçlar:
Jake Moore on BBC News talking about Meta
Sınırlamalar ve potansiyel istismar
İlk ses klonlama girişimi, hız ve tonda kusurlar ve sınırlı bir kelime dağarcığı ile sonuçlansa da bu teknolojinin kötüye kullanım potansiyeli olduğu çok açık. Suçlular, OSINT teknikleri aracılığıyla elde edilen kişisel bilgileri içeren sesli mesajlar göndererek sanal adam kaçırmadan yararlanabilir ve dolandırıcılığı daha inandırıcı hale getirebilir.
Dahası, teknoloji firmalarının direktörleri gibi yüksek profilli kişiler, kamuya mal olmaları nedeniyle ses hırsızlığının hedefi haline gelebilir. Bu bireylerin seslerini çalan dolandırıcılar, istenmeyen faaliyetler gerçekleştirmek için kurum çalışanlarını kandırabilir. Diğer sosyal mühendislik taktikleriyle birlikte bu, teknoloji geliştikçe hem güçlü bir araç hem de mücadele edilmesi zor bir sorun haline gelebilir.
Endişelenmeli miyiz?
Dolandırıcıların kimseyi fiziksel olarak kaçırmadan ancak kaçırma algısı yaratarak mevcut sanal adam kaçırma tekniğindeki bu yeni değişiklik, siber suçlar alanında endişe verici bir gelişmedir. Ses Yapay Zeka platformlarının ses klonlama konusundaki kötüye kullanımı, ciddi etik ve güvenlik endişelerine neden olmaktadır.
Teknoloji ilerledikçe bireylerin, kurumların ve Yapay Zeka platformu geliştiricilerinin, ses klonlama ve diğer benzer teknolojilerin potansiyel olarak istismarı konusunda dikkatli olması gerekmektedir. Kişisel bilgilerin korunması, çevrimiçi varlığınız hakkında dikkatli olunması, güçlü güvenlik önlemlerinin alınması ve eğitimler sanal adam kaçırmalarla ilişkili risklerin azaltılmasına ve yetkisiz ses klonlama girişimlerine karşı korunmaya yardımcı olabilir.
