Yapay zekâ kullanarak sağlık tavsiyesi almanın riskleri

Tıbbi tavsiye almak için yapay zekâ kullanmak sizi güvenlik ve gizlilik risklerine maruz bırakabilir. İşte riskler ve nasıl güvende kalabileceğiniz.

İyi ya da kötü, sohbet robotları düşünme, öğrenme ve çevremizdeki dünyayı algılama şeklimizi değiştiriyor. Bu tür bir dönüşüm hayatın birçok alanında kendini gösteriyor ancak belki de en hassas ve sıklıkla endişe verici olanlardan biri, sağlık hizmetleri için üretken yapay zekâ (GenAI) araçlarının giderek artan kullanımıdır.

Bir dizi ücretsiz yapay zekâ sohbet robotunun yanı sıra büyük teknoloji şirketleri, kullanıcıların tıbbi kayıtlarını yorumlamalarına ve semptomları, laboratuvar sonuçları ve tedavi seçenekleri hakkında sorular sormalarına yardımcı olan Copilot Health, ChatGPT Healthve Amazon’un HealthAI gibi hizmetlerin lansmanıyla tüketicilere yönelik sağlık yapay zekâ alanına girmiştir. 

Ancak bir yapay zekâ aracının doktorunuzun rolünü üstlenmesini beklemek bazı riskler barındırır. Ayrıca risk sadece kullanıcıların yanlış tavsiye alması değil, aynı zamanda gizlilik korumaları, veri paylaşım uygulamaları ve yasal yükümlülükleri bir doktor veya hastaneninkinden farklı olabilecek sistemlerle son derece hassas kişisel bilgileri paylaşmaları ve verilerinin beklenmedik kuruluşlara maruz kalmasıdır. Bir ABD hasta güvenliği kuruluşuna göre, genel olarak yapay zekâ sohbet robotlarının kötüye kullanımı şu anda sağlık teknolojisi alanında bir numaralı tehlike konumundadır.

Teoriden pratiğe

Model geliştiricilerin bu alana girmesinin nedeni açıktır: Sohbet robotları, tıbbi tavsiye almak için son derece popüler bir yol hâline gelmiştir. Microsoft’a göre, insanlar mobil cihazlarında diğer tüm konulardan daha fazla kendi sağlıkları ve sevdiklerinin sağlığı hakkında konuşmaktadır. Sohbet robotları 7/24 hizmet vermektedir. Ve her şeye bir cevap sunarken gergin hastaları rahatlatmaya yardımcı olan kendinden emin bir üslupla konuşurlar.

Ulusal sağlık sistemlerinin giderek daha fazla baskı altında olduğu bir dönemde, birçok kişi tıbbi yardım almaya karar vermeden önce muhtemelen yapay zekâ yardımıyla kendi kendine teşhis koyacaktır. Evde ön değerlendirme yapmak yerine labirent gibi sağlık sistemine girmek için harcanacak zaman, çaba ve potansiyel maliyet, bunu popüler bir yöntem hâline getiriyor.

Ancak şimdiden bazı endişeler ortaya çıkmaya başladı. Bunlardan ilki, halüsinasyonlar veya yanlış tavsiyeler. Şubat ayında Nature Medicine dergisinde yayımlanan bir Oxford Üniversitesi araştırması şu bulguları ortaya koydu:

• Kullanıcılar genellikle LLM ile hangi bilgileri paylaşmaları gerektiğini bilmiyorlardı
• LLM’ler, kendilerine yöneltilen sorular çok az farklılık gösterse bile çok farklı cevaplar verdi
• Modeller genellikle hem iyi hem de kötü tavsiyelerde bulunuyordu ancak kullanıcılar ikisini birbirinden ayırt etmekte zorlanıyordu

Çalışmanın başhekimi Dr. Rebecca Payne “Tüm bu heyecana rağmen yapay zekâ henüz bir hekimin rolünü üstlenmeye hazır değil,” diye uyardı. “Hastalar, semptomları hakkında büyük bir dil modeline danışmanın tehlikeli olabileceğini, yanlış teşhisler ortaya çıkabileceğini ve acil yardım gerektiğinde bunun farkına varılamayabileceğini bilmelidir.”

Yapay zekâ gizlilik risklerini ortaya çıkarmak

Bireylerin bir an durup düşünmelerini gerektirecek, sağlıkla ilgili olmayan riskler de bulunmaktadır. En bariz olanı, hassas tıbbi bilgileri halka açık bir sohbet robotuyla paylaşmanın, verilerin modeli eğitmek için kullanılması ve dolayısıyla başkalarına aktarılması anlamına gelebileceğidir. Kasıtsız da olsa modellerin kullanıcıları tarafından girilen verileri yanlışlıkla ifşa ettiği bilinmektedir.

Bazı sağlayıcılar, kullanıcılar reddetmedikçe modellerini iyileştirmek için verileri kullanabilirken diğerleri sağlıkla ilgili bilgileri eğitim amacıyla kullanmayacaklarına dair daha güçlü sözler verir. Her iki durumda da herkes hassas herhangi bir şey yüklemeden önce ne tür bir hizmetle karşı karşıya olduğunu bilmelidir. Sağlık verileriniz, bilgileri değiştirilip yeniden düzenlenirken dondurulabilen çalıntı bir kredi kartı gibi değildir. Ömür boyu size aittir ve bir yapay zekâ aracıyla paylaşıldığında kalıcı bir dijital kayıt hâline gelebilir.

Öte yandan, sağlık odaklı başlıca sohbet robotlarının çoğu, bu verileri eğitim amaçlı kullanmayacaklarına dair söz vermektedir. Yine de eğitim gizlilik tablosunun sadece bir parçasıdır ve hizmetler, üçüncü taraf veri paylaşımı konusunda aynı sözleri vermeyebilir. Kişisel tıbbi bilgileriniz, model sağlayıcısı ile sağlık hizmeti sağlayıcınız arasında yer alan bir üçüncü taraf olan veri toplayıcısının eline geçebilir.

Ayrıca genellikle kullanımdan önce anonimleştirilse de doğrudan veya bu toplayıcılardan biri aracılığıyla reklam verenlerle paylaşılabilir. Öyle olsa bile, insanlar dikkatli olmalıdır: Sağlık verileri olağanüstü hassastır ve anonimleştirme her zaman tüm riskleri ortadan kaldırmaz.

İhlal riski katlandığında

Hassas verilerin bu kadar çok kuruluş arasında dolaşmasının sorunu, bu verilerin dijital hırsızlara ve dolandırıcılara maruz kalma olasılığının daha yüksek olmasıdır. ABD’li yasa koyucular, veri brokeri firmalarındaki bir dizi ihlalle bağlantılı 21 milyar dolarlık kayıp tespit ettiklerini iddia ediyor. Sağlık verileri, çeşitli nedenlerle dolandırıcılar tarafından yüksek oranda paraya çevrilebilir:

• Genellikle değiştirilemediği veya yeniden düzenlenemediği için uzun süre değerini korur
• Sahte talepler sunmak veya sizin adınıza tıbbi hizmetler almak için kullanılabilecek sigorta bilgilerini içerebilir
• Size şantaj yapmak için kullanılabilir

Bu verileri elinde bulunduran şirket sayısı ne kadar fazla olursa hackerların bu verileri ele geçirip çalma olasılığı da o kadar artar. Sorun, çoğu sağlık hizmetleri yapay zekâ aracının, kurumsal düzeyde hizmetler yerine tüketici hizmetleri olarak sınıflandırıldığından HIPAA tarafından düzenlenmemesidir. Bu, sağlayıcıların normalde beklediğiniz türden katı veri koruma kurallarına tabi olmayabileceği anlamına gelir. 

Yapay zekâ ile paylaştıklarınıza dikkat

Peki, sağlık alanında yapay zekâ (GenAI) risklerine maruz kalma olasılığınızı nasıl en aza indirebilirsiniz? Bir sağlık sorunu konusunda endişeleriniz varsa genel amaçlı botlardan uzak durun ve bunun yerine sağlıkla ilgili soruları yanıtlamak üzere özel olarak tasarlanmış botları tercih edin. Hizmetin verilerinizi nasıl işlediğini açıklayıp açıklamadığını, eğitim amacıyla girdiğiniz komutları kullanıp kullanmadığını, bilgileri üçüncü taraflarla paylaşıp paylaşmadığını ve HIPAA ya da ülkenizdeki eşdeğer bir gizlilik düzenlemesi kapsamında olup olmadığını kontrol edin.

Doğrulamak için kaynak bağlantıları yoksa çıktılara körü körüne güvenmeyin. Ve o durumda bile, cevapları mutlak gerçek olarak kabul etmeyin. Her zaman bir tıp uzmanına ve/veya resmî bir web sitesine (ör. NHS, MedlinePlus) danışın.

Gizliliğinizi korumak için aşağıdakileri göz önünde bulundurun:

• Araçların bu verileri nasıl işlediğini anlamadığınız sürece, tıbbi belgeleri, laboratuvar sonuçlarını veya diğer hassas belgeleri bir yapay zekâ aracıyla asla paylaşmayın/yüklemeyin.
• İsim, adres, sigorta bilgileri, hasta numaraları veya diğer tanımlayıcı bilgileri girmekten kaçının.
• Eğitim ve sohbet geçmişi özelliklerinin kapalı olduğundan emin olun.
• Görev için gerekli olan minimum bilgiyi paylaşın.
• Yazdığınız her şeyin saklanabileceğini veya ifşa edilebileceğini varsayın ve komutlarınızı buna göre ayarlayın.

Sonuç olarak, yapay zekâ sohbet robotları, doktorunuza soracağınız belirli bir durumla ilgili soruları beyin fırtınası yapmak veya aşina olmadığınız bir tıbbi terimi açıklamak için yararlı olabilir. Ancak tıbbi bakım için hazırlık yapmak amacıyla yapay zekâ kullanmak ile tıbbi bakımın yerine yapay zekâyı kullanmak arasında büyük bir fark vardır. Kendinden emin bir cevabı tanı olarak kabul etmeyin ve bir makine sizi rahatlattığı için acil semptomları görmezden gelmeyin.