İş yerinde yapay zekâ: İyi, kötü ve algoritmik 

Yapay zekâ bizi sıkıcı görevlerden kurtarabilir hatta insan hatalarını ortadan kaldırabilir ancak zayıf yönlerini ve insanların ortaya koyduğu benzersiz yetenekleri unutmamak çok önemlidir

Yapay Zekâ (AI) şu anda sıcak bir konu. Her yerde karşımıza çıkıyor. Muhtemelen zaten her gün kullanıyorsunuz. Kayıp paketiniz hakkında konuştuğunuz o chatbot var ya, diyaloğa dayalı yapay zekâ tarafından destekleniyor. En sık yaptığınız Amazon alışverişlerinin altında sıralanan “önerilen’ ürünler” de AI/ML (makine öğrenimi) algoritmaları tarafından yönlendiriliyor. Hatta LinkedIn gönderilerinizi veya e-postalarınızı yazmanıza yardımcı olması için üretken yapay zekâ bile kullanabilirsiniz.   

Ama çizgi nerede bitiyor? Yapay zekâ monoton ve tekrarlayan görevlerin üstesinden geldiğinde ve herhangi bir insanın yapabileceğinden çok daha hızlı bir şekilde araştırma yapıp içerik oluşturduğunda, neden insanlara ihtiyacımız olsun ki? Bir işletmenin işleyebilmesi için “insan unsuru” gerçekten gerekli mi? Gelin bu iş için en iyi kişinin (ya da varlığın) robot mu yoksa insan mı olduğuna ilişkin faydaları, zorlukları ve riskleri daha derinlemesine inceleyelim.  

Yapay zekâ neden çalışır?   

Yapay zekâ, iş süreçlerini optimize etme ve çalışanların çalışma günlerinde genel üretkenliklerini ve iş çıktılarını tüketen görevler için harcanan zamanı azaltma gücüne sahiptir. Halihazırda şirketler, iş başvuruları için öz geçmişleri incelemek, müşteri veri kümelerindeki anormallikleri belirlemek veya sosyal medya için içerik yazmak gibi birçok işlev için yapay zekâyı benimsiyor.  

Ve tüm bunları insanlar için gereken süreden çok daha kısa bir sürede yapabiliyor. Erken teşhis ve müdahalenin her şey demek olduğu durumlarda, yapay zekânın kullanılması her alanda son derece olumlu bir etki yaratabilir. Örneğin, yapay zekâ ile geliştirilmiş bir kan testinin Parkinson hastalığını semptomların başlamasından yedi yıl öncesine kadar tahmin etmeye yardımcı olabileceği bildiriliyor ve bu buzdağının sadece görünen kısmı.  

Yapay zekâ teknolojileri, büyük miktarda verideki kalıpları ortaya çıkarma yetenekleri sayesinde, olası suç sahnelerini ve eğilimlerini belirlemelerine ve tahmin etmelerine yardımcı olmak üzere kolluk kuvvetlerinin çalışmalarını da destekleyebilir. Yapay zekâ güdümlü araçlar, çevrimiçi alanda suç ve diğer tehditlerle mücadelede ve siber güvenlik uzmanlarının işlerini daha etkili bir şekilde yapmalarına yardımcı olmada da rol oynayabilir. 

Yapay zekânın işletmelere para ve zaman kazandırma yeteneği yeni bir şey değil. Bir düşünün: Çalışanlar belge tarama ve veri yükleme gibi sıkıcı görevlere ne kadar az zaman harcarsa iş stratejisi ve büyümeye o kadar fazla zaman ayırabilirler. Bazı durumlarda, tam zamanlı sözleşmelere artık ihtiyaç duyulmayabilir, bu nedenle işletme genel giderler için daha az para harcayacaktır.  

Yapay zekâ tabanlı sistemler insan hatası riskini ortadan kaldırmaya da yardımcı olabilir. “Sadece insanız” sözünün bir nedeni var. Hepimiz hata yapabiliriz, özellikle de çok yorgun, uykusuz veya stresli zamanlarda hataya daha açık hale gelebiliriz. Yapay zekâ tabanlı sistemler hiç yorulmadan günün her saati çalışabilir. Bir bakıma, en detay odaklı ve metodolojik insanla bile elde edemeyeceğiniz bir güvenilirlik seviyesine sahipler.  

Yapay zekâ sınırlamaları  

Ancak yapay zekânın da bir sorunu var: Daha yakından incelendiğinde işler biraz daha karmaşık hale geliyor. AI sistemleri yorgunluk ve dikkat dağınıklığı ile ilişkili hataları en aza indirebilse de yanılmaz değildir. Yapay zekâ da hata yapabilir ve “halüsinasyon” görebilir; yani özellikle eğitildiği verilerle veya algoritmanın kendisiyle ilgili sorunlar varsa doğruymuş gibi sunarken yanlışlar söyleyebilir. Başka bir deyişle yapay zekâ sistemleri yalnızca eğitildikleri veriler kadar iyidir (ki bu da insan uzmanlığı ve gözetimi gerektirir). 

Bu temayı devam ettirecek olursak, insanlar objektif olduklarını iddia etseler de hepimiz kendi deneyimlerimize dayanan bilinçsiz ön yargılara duyarlıyız ve bunu kapatmak zor, hatta imkansızdır. Yapay zekâ doğası gereği ön yargı yaratmaz; daha ziyade, üzerinde eğitildiği verilerde mevcut ön yargıları güçlendirebilir. Başka bir deyişle, temiz ve tarafsız verilerle eğitilmiş bir yapay zekâ aracı gerçekten de tamamen veriye dayalı sonuçlar üretebilir ve taraflı insan karar verme sürecini iyileştirebilir. Bununla birlikte, bu hiç de kolay bir iş değildir ve AI sistemlerinde adalet ve tarafsızlığın sağlanması, veri iyileştirme, algoritma tasarımı ve sürekli izleme konularında sürekli çaba gerektirmektedir.

2022 yılında yapılan bir araştırma, teknoloji liderlerinin %54’ünün yapay zekâ ön yargısı konusunda çok veya aşırı derecede endişeli olduğunu göstermiştir. Ön yargılı veri kullanımının işletmeler üzerinde yaratabileceği feci sonuçları zaten gördük. Örneğin, Oregon’daki bir araba sigortası şirketinden alınan ön yargılı veri setlerinin kullanılmasıyla diğer her şey tamamen aynı olsa bile kadınlardan araba sigortası için erkeklere göre yaklaşık %11,4 daha fazla ücret alınmaktadır! Bu durum kolaylıkla itibarın zedelenmesine ve müşteri kaybına yol açabilir.  

Yapay zekânın geniş veri kümeleriyle beslenmesi, gizlilik sorununu gündeme getiriyor. Kişisel veriler söz konusu olduğunda, kötü niyetli aktörler gizlilik protokollerini atlamanın ve bu verilere erişmenin yollarını bulabilir. Bu araçlar ve sistemler arasında daha güvenli bir veri ortamı yaratmanın yolları olsa da kuruluşların AI’nin gerektirdiği bu ekstra veri yüzey alanı ile siber güvenliklerindeki herhangi bir boşluk konusunda tetikte olmaları gerekir.  

Ayrıca, AI duyguları (çoğu) insanın anladığı şekilde anlayamaz. AI ile etkileşimin diğer tarafındaki insanlar, gerçek bir “insan” etkileşiminden elde edebilecekleri empati ve anlayış eksikliğini hissedebilirler.  Bu durum, eskiden gerçek insanlar olan ve hatta oyunculara eylemleri nasıl gerçekleştireceklerini göstermek için bizzat oyuna giren müşteri hizmetleri ekibini, bu mizah ve empatiden yoksun yapay zekâ botlarıyla değiştirerek milyonlarca oyuncusunu kaybeden World of Warcraft oyununun gösterdiği gibi müşteri/kullanıcı deneyimini etkileyebilir.  

Sınırlı veri setiyle yapay zekânın bağlamdan yoksun olması, verilerin yorumlanmasında sorunlara neden olabilir. Örneğin, siber güvenlik uzmanları belirli bir tehdit aktörü hakkında geçmişe dayanan bir anlayışa sahip olabilir ve bu da bir makinenin programlanmış algoritmasıyla mükemmel bir şekilde uyum sağlamadığı takdirde tanımlayamayacağı uyarı işaretlerini tanımlamalarını ve işaretlemelerini sağlar. Bu karmaşık nüanslar hem işletme hem de müşterileri için ileride büyük sonuçlar doğurma potansiyeline sahiptir.  

Dolayısıyla, AI bağlamdan ve girdi verilerini anlamaktan yoksun olabilirken insanlar da AI sistemlerinin nasıl çalıştığını anlamaktan yoksundur. AI “kara kutularda” çalıştığında, aracın sağladığı çıktı veya kararların nasıl veya neden sonuçlandığına dair şeffaflık yoktur. Perde arkasındaki “işleyişi” tanımlayamamak, insanların geçerliliğini sorgulamasına neden olabilir. Ayrıca bir şeyler ters giderse veya girdi verileri zehirlenirse bu ‘kara kutu’ senaryosu sorunun tanımlanmasını, yönetilmesini ve çözülmesini zorlaştırır. 

Neden insanlara ihtiyacımız var  

İnsanlar mükemmel değildir. Ancak söz konusu insanlarla konuşmak, anlaşmak ve önemli stratejik kararlar almak olduğunda, bu iş için en iyi adayların insanlar olduğu kesin değil mi? 

Yapay zekânın aksine, insanlar gelişen durumlara uyum sağlayabilir ve yaratıcı düşünebilirler. Yapay zekânın kullandığı önceden tanımlanmış kurallar, sınırlı veri kümeleri ve yönlendirmeler olmadan, insanlar zorlukların üstesinden gelmek ve sorunları gerçek zamanlı olarak çözmek için inisiyatiflerini, bilgilerini ve geçmiş deneyimlerini kullanabilirler.  

Bu, özellikle etik kararlar alırken ve iş (veya kişisel) hedeflerini toplumsal etkiyle dengelerken önemlidir. Örneğin, işe alım süreçlerinde kullanılan yapay zekâ araçları, algoritmik önyargılara dayalı olarak adayları reddetmenin daha geniş etkilerini ve bunun işyerinde çeşitlilik ve kapsayıcılık üzerinde yaratabileceği diğer sonuçları dikkate almayabilir. 

AI’den elde edilen çıktı algoritmalardan oluşturulduğu için kalıplaşma riski de taşır. Bloglar, e-postalar ve sosyal medya başlıkları yazmak için kullanılan üretken yapay zekâyı düşünün: tekrarlayan cümle yapıları kopyayı hantal ve okumayı daha az ilgi çekici hale getirebilir. İnsanlar tarafından yazılan içerik büyük olasılıkla daha fazla nüansa, bakış açısına ve kabul edelim ki kişiliğe sahip olacaktır. Özellikle marka mesajları ve ses tonu için, yapay zekânın izlediği katı algoritmaları kullanarak bir şirketin iletişim tarzını taklit etmek zor olabilir.   

Bunu akılda tutarak, yapay zekâ örneğin potansiyel marka isimlerinin bir listesini sunabilse de kitlelerini gerçekten anlayan ve neyin en iyi yankı uyandıracağını bilen markanın arkasındaki insanlardır. İnsan empatisi ve “odayı okuma” yeteneği sayesinde insanlar başkalarıyla daha iyi bağlantı kurabilir, müşteriler, ortaklar ve paydaşlarla daha güçlü ilişkiler geliştirebilir. Bu özellikle müşteri hizmetlerinde faydalıdır. Daha önce de belirtildiği gibi, kötü müşteri hizmetleri marka sadakati ve güven kaybına yol açabilir. 

Son olarak, insanlar değişen koşullara hızla uyum sağlayabilirler.  Yakın tarihli bir olayla ilgili acil bir şirket açıklamasına ihtiyacınız varsa veya bir kampanyanın belirli bir hedefe yönelik mesajından uzaklaşmanız gerekiyorsa bir insana ihtiyacınız vardır. Yapay zekâ araçlarını yeniden programlamak ve güncellemek zaman alır ve bu da belirli durumlarda uygun olmayabilir.   

Cevap nedir?  

Siber güvenliğe yönelik en etkili yaklaşım, yalnızca yapay zekâya veya insanlara güvenmek değil her ikisinin de güçlü yönlerini kullanmaktır. Bu, karar verme, stratejik planlama ve iletişim için insan uzmanlığına güvenirken büyük ölçekli veri analizi ve işlemeyi ele almak için AI kullanmak anlamına gelebilir. AI, iş gücünüzün yerini almak için değil iş gücünüze yardımcı olmak ve onu geliştirmek için bir araç olarak kullanılmalıdır.  

Yapay zekâ, ESET ürünlerinin kalbinde yer alır ve siber güvenlik uzmanlarımızın dikkatlerini ESET müşterileri için en iyi çözümleri oluşturmaya vermelerini sağlar. ESET’in gelişmiş tehdit algılama, araştırma ve müdahale için yapay zekâ ve makine öğreniminden nasıl yararlandığını öğrenin.