Sohbet robotunuz çok fazla şey biliyor mu? Yapay zekâ arkadaşınıza her şeyi anlatmadan önce iki kez düşünün.
“Her” adlı filmde, kahraman sofistike bir yapay zekâ sistemi ile nihayetinde başarısızlığa mahkûm bir romantik ilişki kurar. 2013 yılında vizyona girdiğinde böyle bir senaryo tamamen bilim kurgu alanındaydı. Ancak üretken yapay zekâ (GenAI) ve büyük dil modelleri (LLM) ortaya çıkmasıyla bu artık o kadar da uçuk bir ihtimal değil. Aslında “arkadaş” uygulamaları da bugün hızla yaygınlaşıyor.
Ancak bir yapay zekâ botuyla ilişki kurmanın kaçınılmaz olarak bazı riskleri vardır. Kişisel bilgilerinizin üçüncü şahıslarla paylaşılmayacağından nasıl emin olabilirsiniz? Ya da hackerlar tarafından çalınmayacağından? Bu tür soruların yanıtları, tüm bu risklere değip değmeyeceğini belirlemenize yardımcı olacaktır.
Yapay zekâ aşk arayışı
Arkadaş uygulamaları, artan pazar talebini karşılıyor. Yapay zekâ arkadaşlar, LLM’lerin ve doğal dil işleme (NLP) teknolojisinin gücünü kullanarak kullanıcılarıyla sohbet tarzında, son derece kişiselleştirilmiş bir şekilde etkileşim kuruyor. Character.AI, Nomi ve Replika gibi uygulamalar, kullanıcılarının psikolojik ve bazen de romantik ihtiyaçlarını karşılıyor. Geliştiricilerin bu alana girmek istemelerinin nedenini anlamak zor değil.
Büyük platformlar bile bu trendi yakalamaya başladı. OpenAI kısa süre önce “doğrulanmış yetişkinler için erotik içerik” sunacağını ve geliştiricilerin ChatGPT üzerine kurulu “yetişkinlere yönelik” uygulamalar oluşturmasına izin verebileceğini açıkladı. Elon Musk’ın xAI şirketi de Grok uygulamasında flörtöz yapay zekâ arkadaşları piyasaya sürdü.
Temmuz ayında yayımlanan bir araştırma, gençlerin yaklaşık dörtte üçünün yapay zekâ arkadaşlarını kullandığını ve yarısının bunu düzenli olarak yaptığını ortaya koydu. Daha da endişe verici olanı, üçte birinin ciddi konuşmalar için insanlara göre yapay zekâ botlarını tercih etmesi ve dörtte birinin onlarla kişisel bilgilerini paylaşmasıdır.
Bu durum, uyarıcı hikâyeler ortaya çıkmaya başladıkça özellikle endişe verici hâle geliyor. Ekim ayında, araştırmacılar iki yapay zekâ arkadaş uygulamasının (Chattee Chat ve GiMe Chat) farkında olmadan son derece hassas kullanıcı bilgilerini ifşa ettiğini uyardı. Yanlış yapılandırılmış bir Kafka broker örneği, bu uygulamaların akış ve içerik dağıtım sistemlerini erişim denetimi olmadan bıraktı. Bu, herkesin 600.000’den fazla kullanıcı tarafından gönderilen fotoğrafa, IP adresine ve 400.000’den fazla kullanıcıya ait milyonlarca samimi sohbete erişebileceği anlamına geliyordu.
Bir yapay zekâ ile ilişki kurmanın riskleri
Fırsatçı tehdit aktörleri, para kazanmanın yeni bir yolunu keşfedebilir. Kurbanların yapay zekâ arkadaşlarıyla romantik sohbetlerinde paylaştıkları bilgiler, şantaj için biçilmiş kaftandır.
Örneğin, görüntüler, videolar ve sesler, cinsel şantaj dolandırıcılığında kullanılmak üzere deepfake araçlarına aktarılabilir. Ya da kişisel bilgiler, takip eden kimlik dolandırıcılığında kullanılmak üzere karanlık web’de satılabilir. Uygulamanın güvenlik durumuna bağlı olarak, hackerlar uygulama içi satın alımlar için saklanan kredi kartı bilgilerini de ele geçirebilirler. Cybernews’e göre, bazı kullanıcılar bu tür satın alımlar için binlerce dolar harcıyor.
Yukarıdaki örnekte olduğu gibi, yapay zekâ uygulama geliştiricileri için öncelik siber güvenlikten çok gelir elde etmektir. Bu, tehdit aktörlerinin istismar edebilecekleri güvenlik açıkları veya yanlış yapılandırmalar bulabilecekleri anlamına gelir. Hatta, kötü amaçlı bilgi çalma kodlarını gizleyen kendi benzer arkadaşlık uygulamalarını oluşturmaya çalışabilirler veya kullanıcıları dolandırıcılık veya şantaj için kullanılabilecek hassas bilgileri ifşa etmeye manipüle edebilirler.
Uygulamanız nispeten güvenli olsa bile gizlilik riski oluşturabilir. Bazı geliştiriciler, üçüncü taraf reklamcılara satmak için kullanıcıları hakkında mümkün olduğunca fazla bilgi toplar. Şeffaf olmayan gizlilik politikaları, verilerinizin korunup korunmadığını veya nasıl korunduğunu anlamayı zorlaştırabilir. Ayrıca arkadaşınızla paylaştığınız bilgiler ve konuşmaların, temel LLM’yi eğitmek veya ince ayar yapmak için kullanıldığını fark edebilirsiniz, bu da gizlilik ve güvenlik risklerini daha da artırır.
Ailenizi nasıl güvende tutabilirsiniz?
İster kendiniz bir yapay zekâ arkadaşlık uygulaması kullanıyor olun ister çocuklarınızın kullanmasından endişe duyuyor olun, tavsiye aynıdır. Yapay zekânın yerleşik güvenlik veya gizlilik önlemleri olmadığını varsayın. Ve bir yabancıyla paylaşmaktan rahatsız olacağınız hiçbir kişisel veya finansal bilgiyi onunla paylaşmayın. Buna potansiyel olarak utanç verici veya ifşa edici fotoğraflar/videolar da dâhildir.
Daha da iyisi, siz veya çocuklarınız bu uygulamalardan birini denemek istiyorsanız önceden araştırma yapın ve en iyi güvenlik ve gizlilik korumalarını sunan uygulamaları bulun. Bu, gizlilik politikalarını okuyarak verilerinizi nasıl kullandıklarını ve/veya paylaştıklarını anlamak anlamına gelir. Kullanım amacını açıkça belirtmeyen veya kullanıcı verilerini sattığını itiraf eden uygulamalardan kaçının.
Uygulamanızı bulduktan sonra, iki faktörlü kimlik doğrulama gibi güvenlik özelliklerini etkinleştirmeyi unutmayın. Bu, çalınan veya brute force saldırısıyla ele geçirilen parolaların kullanılarak hesapların ele geçirilmesini önlemeye yardımcı olacaktır. Ayrıca gizlilik ayarlarını inceleyerek korumayı artırın. Örneğin, model eğitimi için konuşmalarınızın kaydedilmesini devre dışı bırakma seçeneği olabilir.
Çocuklarınızın bu araçları kullanmasının güvenlik, gizlilik ve psikolojik etkileri konusunda endişeleriniz varsa daha fazla bilgi edinmek için onlarla diyalog kurun. Aşırı paylaşımın risklerini hatırlatın ve bu uygulamaların, kullanıcılarının çıkarlarını ön planda tutmayan, kâr amaçlı araçlar olduğunu vurgulayın. Bu uygulamaların çocuklarınız üzerinde yaratabileceği etkiden endişe duyuyorsanız ekran süresini ve kullanımı sınırlamak gerekebilir. Bu sınırlama, ebeveyn denetim kontrolleri/uygulamaları aracılığıyla uygulanabilir.
Çocuklarınız için yaş doğrulama ve içerik denetimi politikalarına sahip yeterli koruma sağlayamayan hiçbir yapay zekâ destekli arkadaşlık uygulamasına izin vermemeniz gerektiği unutmayın.
Düzenleyicilerin, geliştiricilerin bu alanda neler yapıp yapamayacağına dair daha katı kurallar uygulamak için müdahale edip etmeyeceği henüz belli değildir. Romantik botlar şu anda bir nevi gri alanda faaliyet göstermektedir ancak AB’de yakında yürürlüğe girecek olan Dijital Adalet Yasası, aşırı derecede bağımlılık yaratan ve kişiselleştirilmiş deneyimleri yasaklayabilir.
Geliştiriciler ve düzenleyiciler bu konuda bir sonuca varana kadar, yapay zekâ arkadaşlarını sırdaş veya duygusal destek olarak görmemek daha iyi olabilir.
Parola yöneticisi saldırı altında: Bilmeniz gerekenler
