Sohbet robotları düşünme, öğrenme ve etrafımızdaki dünyayı algılama halimizi değiştiriyor. Bu tıp bir dönüşüm hayatın birçok alanında kendini gösteriyor lakin tahminen de en hassas ve sıklıkla tasa verici olanlardan biri, sıhhat hizmetleri için üretken yapay zekâ (GenAI) araçlarının giderek artan kullanımı. Siber güvenlik alanında dünya lideri olan ESET, tıbbi tavsiye almak için yapay zekâ kullanmanın güvenlik ve saklılık risklerine maruz bırakabileceği ikazında bulundu. Riskleri sıralayarak nasıl inançta kalınabileceğine yönelik tekliflerini paylaştı.
Bir dizi fiyatsız yapay zekâ sohbet robotunun yanı sıra büyük teknoloji şirketleri, kullanıcıların tıbbi kayıtlarını yorumlamalarına ve semptomları, laboratuvar sonuçları ve tedavi seçenekleri hakkında sorular sormalarına yardımcı olan Copilot Health, ChatGPT Health ve Amazon’un HealthAI üzere hizmetlerin lansmanıyla tüketicilere yönelik sıhhat yapay zekâ alanına girdi. Bir yapay zekâ aracının hekimin rolünü üstlenmesini beklemek birtakım riskler barındırıyor. Risk yalnızca kullanıcıların yanlış tavsiye alması değil, birebir vakitte kapalılık müdafaaları, data paylaşım uygulamaları ve yasal yükümlülükleri bir doktor veya hastaneninkinden farklı olabilecek sistemlerle son derece hassas ferdî bilgileri paylaşmaları ve datalarının beklenmedik kuruluşlara maruz kalmasıdır. Bir ABD hasta güvenliği kuruluşuna nazaran, genel olarak yapay zekâ sohbet robotlarının berbata kullanımı şu anda sıhhat teknolojisi alanında bir numaralı tehlike pozisyonunda.
Microsoft’a nazaran, beşerler taşınabilir aygıtlarında başka tüm hususlardan daha fazla kendi sıhhatleri ve sevdiklerinin sıhhati hakkında konuşuyor. Sohbet robotları 7/24 hizmet veriyor ve her şeye bir yanıt sunarken gergin hastaları rahatlatmaya yardımcı olan kendinden emin bir üslupla konuşuyorlar. Ulusal sıhhat sistemlerinin giderek daha fazla baskı altında olduğu bir devirde, birçok kişi tıbbi yardım almaya karar vermeden evvel muhtemelen yapay zekâ yardımıyla kendi kendine teşhis koyacak. Ancak şimdiden birtakım tasalar ortaya çıkmaya başladı. Bunlardan birincisi, halüsinasyonlar yahut yanlış tavsiyeler. Şubat ayında Nature Medicine mecmuasında yayımlanan bir Oxford Üniversitesi araştırması şu bulguları ortaya koydu: Kullanıcılar çoklukla LLM ile hangi bilgileri paylaşmaları gerektiğini bilmiyorlar; LLM’ler, kendilerine yöneltilen sorular çok az farklılık gösterse bile çok farklı karşılıklar veriyor ve modeller ekseriyetle hem düzgün hem de makus tavsiyelerde bulunuyor fakat kullanıcılar ikisini birbirinden ayırt etmekte zorlanıyor. Çalışmanın başhekimine nazaran tüm bu heyecana karşın yapay zekâ şimdi bir tabibin rolünü üstlenmeye hazır değil. Hastalar, semptomları hakkında büyük bir lisan modeline danışmanın tehlikeli olabileceğini, yanlış teşhisler ortaya çıkabileceğini ve acil yardım gerektiğinde bunun farkına varılamayabileceğini bilmeli.
Yapay zekâ saklılık riskleri
Bireylerin bir an durup düşünmelerini gerektirecek, sıhhatle ilgili olmayan riskler de bulunuyor. Hassas tıbbi bilgileri halka açık bir sohbet robotuyla paylaşmanın, bilgilerin modeli eğitmek için kullanılması ve hasebiyle diğerlerine aktarılması manasına gelebileceği. Kasıtsız da olsa modellerin kullanıcıları tarafından girilen dataları ezkaza ifşa ettiği biliniyor. Sıhhat bilgileriniz, bilgileri değiştirilip tekrar düzenlenirken dondurulabilen çalıntı bir kredi kartı üzere değildir. Ömür uzunluğu size aittir ve bir yapay zekâ aracıyla paylaşıldığında kalıcı bir dijital kayıt hâline gelebilir. Sıhhat odaklı esas sohbet robotlarının birden fazla, bu dataları eğitim hedefli kullanmayacaklarına dair kelam veriyor. Eğitim zımnilik tablosunun yalnızca bir modülü ve hizmetler, üçüncü taraf data paylaşımı konusunda aynı sözleri vermeyebilir. Ferdî tıbbi bilgileriniz, model sağlayıcısı ile sıhhat hizmeti sağlayıcınız ortasında yer alan bir üçüncü taraf olan bilgi toplayıcısının eline geçebilir. Ayrıyeten çoklukla kullanımdan evvel anonimleştirilse de direkt yahut bu toplayıcılardan biri aracılığıyla reklam verenlerle paylaşılabilir. Sıhhat bilgileri fevkalâde hassastır ve anonimleştirme her vakit tüm riskleri ortadan kaldırmaz.
İhlal riski katlandığında
Sağlık dataları, çeşitli nedenlerle dolandırıcılar tarafından yüksek oranda paraya çevrilebilir. Ekseriyetle değiştirilemediği yahut yine düzenlenemediği için uzun müddet pahasını korur. Geçersiz talepler sunmak yahut sizin isminize tıbbi hizmetler almak için kullanılabilecek sigorta bilgilerini içerebilir. Size şantaj yapmak için kullanılabilir. Bu dataları elinde bulunduran şirket sayısı ne kadar fazla olursa hackerların bu dataları ele geçirip çalma mümkünlüğü da o kadar artar.
Yapay zekâ ile paylaştıklarınıza dikkat edin
Bir sıhhat sorunu konusunda kaygılarınız varsa genel hedefli botlardan uzak durun ve bunun yerine sıhhatle ilgili soruları yanıtlamak üzere özel olarak tasarlanmış botları tercih edin. Hizmetin datalarınızı nasıl işlediğini açıklayıp açıklamadığını, eğitim emeliyle girdiğiniz komutları kullanıp kullanmadığını, bilgileri üçüncü taraflarla paylaşıp paylaşmadığını ve bir saklılık düzenlemesi kapsamında olup olmadığını denetim edin. Doğrulamak için kaynak temasları yoksa çıktılara körü körüne güvenmeyin. Yanıtları mutlak gerçek olarak kabul etmeyin: Her vakit bir tıp uzmanına yahut resmî bir web sitesine danışın.
Gizliliğinizi korumak için şunları göz önünde bulundurun:
- Araçların bu dataları nasıl işlediğini anlamadığınız sürece, tıbbi dokümanları, laboratuvar sonuçlarını yahut öbür hassas evrakları bir yapay zekâ aracıyla asla paylaşmayın, yüklemeyin.
- İsim, adres, sigorta bilgileri, hasta numaraları yahut başka tanımlayıcı bilgileri girmekten kaçının.
- Eğitim ve sohbet geçmişi özelliklerinin kapalı olduğundan emin olun.
- Görev için gerekli olan en az bilgiyi paylaşın.
- Yazdığınız her şeyin saklanabileceğini yahut ifşa edilebileceğini varsayın ve komutlarınızı buna nazaran ayarlayın.
Yapay zekâ sohbet robotları, hekiminize soracağınız makul bir durumla ilgili soruları beyin fırtınası yapmak yahut aşina olmadığınız bir tıbbi terimi açıklamak için faydalı olabilir. Lakin tıbbi bakım için hazırlık yapmak hedefiyle yapay zekâ kullanmak ile tıbbi bakımın yerine yapay zekâyı kullanmak ortasında büyük bir fark vardır. Kendinden emin bir yanıtı teşhis olarak kabul etmeyin ve bir makine sizi rahatlattığı için acil semptomları görmezden gelmeyin.
Kaynak: (BYZHA) Beyaz Haber Ajansı
