Yapay Zeka Sohbet Botlarının Sağlık Alanındaki Rolü
Dünyada pek çok insanın tavsiye almak için yapay zeka tabanlı sohbet botlarına başvurması, teknoloji firmalarının sağlık konularına özel yanıtlar sunan yazılımlar geliştirmesini neredeyse kaçınılmaz hale getirdi.
Ocak ayında OpenAI, yeni bir sürüm olan ChatGPT Health’i tanıttı. Şirket, bu aracın kullanıcıların tıbbi kayıtlarını, sağlık uygulamalarından gelen verileri ve giyilebilir cihazlardan elde edilen bilgileri değerlendirerek sağlıkla ilgili soruları yanıtlayabildiğini ifade ediyor.
Bu program şu an için bir bekleme listesi aracılığıyla erişime açılmış durumda. Yapay zeka alanındaki rakip firma Anthropic ise Claude adlı sohbet botunun bazı kullanıcılarına benzer özellikler sunmaya başladı.
Her iki şirket de “büyük dil modeli” olarak adlandırılan bu sistemlerin profesyonel sağlık hizmetinin yerini almadığını ve tıbbi tanı koyma amacıyla kullanılmaması gerektiğini özellikle belirtiyor. Ancak sohbet botlarının karmaşık tahlil sonuçlarını özetleyip açıklama yapabileceği, kullanıcıların doktor randevularına hazırlanmalarına yardımcı olabileceği ya da tıbbi kayıtlar ve uygulama verileri içindeki önemli sağlık eğilimlerini analiz edebileceği ifade ediliyor.
Fakat asıl merak edilen, bu sohbet botlarının sağlık verilerini ve hastalıkları analiz etme konusundaki güvenilirliği ve doğruluğudur. Gerçekten ne kadar güvenilirler?
Sohbet Botları ile İletişim Öncesi Dikkat Edilmesi Gerekenler
Sağlığınız hakkında bir sohbet botuyla iletişime geçmeden önce göz önünde bulundurmanız gereken bazı unsurlar mevcut:
- Yeni nesil sohbet botlarının önemli avantajlarından biri, reçeteler, yaş bilgisi ve doktor notları gibi kullanıcı tıbbi geçmişini göz önünde bulundurarak soruları bağlam içinde yanıtlayabilmeleridir.
Tıbbi verilerinize erişim izni vermemiş olsanız bile, Robert Wachter ve diğer uzmanlar, daha sağlıklı yanıtlar elde edebilmek için sohbet botlarına olabildiğince ayrıntılı bilgi verilmesini öneriyor. Bu sayede sistemler belirtileri ve soruları daha doğru bir çerçeve içinde değerlendirebiliyor.
Uzmanlar, bazı durumlarda insanların sohbet botlarını tamamen devre dışı bırakıp hemen tıbbi yardım alması gerektiğini vurguluyor. Nefes darlığı, göğüs ağrısı ya da şiddetli baş ağrısı gibi belirtiler acil bir durumu işaret edebilir.
Yapay Zeka ve Sağlık Verileri Üzerine Düşünceler
Stanford Üniversitesi’nden Lloyd Minor, daha az acil durumlarda bile hasta ve doktorların yapay zeka programlarına “belirli bir doz sağlıklı kuşkuculukla” yaklaşması gerektiğini belirtiyor.
Stanford Üniversitesi Tıp Fakültesi dekanı Minor, “Ciddi bir tıbbi karar veya sağlığınızla ilgili daha küçük bir karar alırken, yalnızca bir büyük dil modelinden elde ettiğiniz bilgilere dayanmanız gerektiğini düşünmemelisiniz” diyor.
Polikistik Over Sendromu gibi yaygın hastalıklarda bile, hastalığın kişiden kişiye değişiklik göstermesi ve bunun tedavi planlarını doğrudan etkileyebilmesi nedeniyle, gerçek bir sağlık uzmanına danışmak genellikle en doğru seçenek olarak değerlendiriliyor.
Yapay zeka sohbet botlarının sunduğu birçok avantaj, kullanıcıların kişisel tıbbi bilgilerini paylaşmasına dayanmaktadır. Ancak bir yapay zeka şirketiyle paylaşılan verilerin, ABD’de hassas sağlık bilgilerini koruyan federal gizlilik yasalarının kapsamına her zaman girmediğini bilmek önemlidir.
Lloyd Minor, bu farklılığı şu şekilde açıklıyor: “Bir kişi tıbbi dosyasını bir büyük dil modeline yüklediğinde, bu onu yeni bir doktora vermekten çok farklıdır. Tüketicilerin gizlilik standartlarının tamamen farklı olduğunu anlaması gerekiyor.”
Öte yandan OpenAI ve Anthropic, kullanıcıların sağlık bilgilerinin diğer veri türlerinden ayrı tutulduğunu ve ek gizlilik önlemlerine tabi olduğunu ifade ediyor. Şirketlere göre bu veriler, modellerin eğitimi için kullanılmıyor; kullanıcıların sağlık bilgilerini paylaşması açık onaya bağlı ve istedikleri anda bu bağlantıyı kesmeleri mümkün.
Yapay zekaya yönelik büyük heyecana rağmen, bu teknolojinin bağımsız biçimde test edilmesi hâlâ erken aşamada. İlk araştırmalar, ChatGPT benzeri programların ileri düzey tıp sınavlarında oldukça yüksek başarı gösterebildiğini; ancak gerçek kullanıcılarla etkileşime girdiklerinde sık sık zorlandıklarını ortaya koyuyor.
Oxford Üniversitesi tarafından 1.300 katılımcıyla gerçekleştirilen yakın tarihli bir araştırma, varsayımsal sağlık sorunlarını değerlendirmek için yapay zeka sohbet botlarını kullanan kişilerin; çevrimiçi arama motorlarına başvuranlar ya da kendi muhakemelerine güvenenlere göre daha iyi kararlar vermediğini göstermiştir.
Buna karşın, tıbbi senaryolar kapsamlı ve yazılı biçimde sunulduğunda sohbet botları altta yatan hastalığı vakaların yaklaşık yüzde 95’inde doğru tespit edebilmektedir.
Çalışmanın başyazarı, Oxford Internet Institute’nden Adam Mahdi, sorunun asıl kaynağını şöyle açıklıyor: “Problem orada değildi. İşlerin dağıldığı nokta, gerçek katılımcılarla etkileşim sırasında oldu.”
Mahdi ve ekibi, bir dizi iletişim sorunu tespit etti. Kullanıcılar çoğu zaman sağlık sorunlarını doğru tanımlayabilmek için sohbet botlarına yeterli ayrıntıyı vermedi. Öte yandan yapay zeka sistemleri sık sık doğru ve yanlış bilgileri aynı yanıt içinde sunarak kullanıcıların bunları ayırt etmesini zorlaştırdı.
Araştırmacılar ayrıca, 2024’te yürütülen bu çalışmada ChatGPT Health gibi en yeni sohbet botu sürümlerinin kullanılmadığını da özellikle vurguluyor.
Sohbet botlarının ek sorular sorarak kullanıcılardan kritik ayrıntıları ortaya çıkarabilme yeteneği, Robert Wachter’ın geliştirilmesi gerektiğini düşündüğü alanlardan biri. Wachter, “Bu araçlar hastalarla etkileşime girip sorularıyla ve yanıtlarıyla biraz daha doktorvari bir hale geldiğinde işte o zaman gerçekten iyi olacaklar,” diyor.
Şimdilik alınan bilgiden daha emin olmanın yollarından biri ise, tıpkı başka bir doktordan ikinci görüş almak gibi, birden fazla sohbet botuna danışmaktır.
“Bazen bazı bilgileri ChatGPT’ye, bazılarını ise Gemini’ye giriyorum,” diyen Wachter, sözlerini şöyle sürdürüyor: “İkisi de aynı sonuca vardığında bunun doğru yanıt olduğundan biraz daha emin oluyorum.”
