Saygın tıp dergisi BMJ Open'da yayınlanan bir araştırma, yapay zeka asistanlarının sağlık alanında ciddi hatalar yapabildiğini ortaya koydu. Araştırmada, kamuya açık beş yapay zeka sohbet botu (ChatGPT, Gemini, Grok, Meta AI ve DeepSeek) test edildi. Bu botlara, sağlıkla ilgili sıkça yanlış bilgi içeren konularda toplam 50 soru soruldu ve yanıtların yüzde 60'ı sorunlu bulundu. Yanıtların bir kısmı "bir ölçüde sorunlu" olarak değerlendirilirken, yüzde 20'si "yüksek derecede sorunlu, hatta tehlikeli" olarak nitelendirildi.
Cevapların Kaynak Gösterme Kalitesi Düşük
Araştırmaya göre, serbest biçimde öneri isteyen sorular, kapalı uçlu sorulara kıyasla çok daha tehlikeli cevaplar üretti. Cevapların kaynak gösterme kalitesi ise düşük bulundu. Bazı kaynakların eksik verildiği, bazılarının ise gerçekte var olmayan ya da yanlış aktarılan çalışmalara dayandığı tespit edildi. Esas sorun, cevapların çoğu zaman güçlü bir güven tonu taşımasıydı. Yapay zeka asistanı, şüpheli bir bilgiyi bile tereddütsüz, kendinden son derece emin ve ikna edici bir dille cevaplıyordu.
Yapay Zeka Balçığı: Uydurma Makaleler ve Var Olmayan Kaynaklar
Sadece sağlıkla sınırlı olmayan bu sorun, internette yayılan yeni bir terime dikkat çekiyor: "AI Slop" yani "yapay zeka balçığı." Araştırmalar, her alanın bu sorunun içine battığını gösteriyor. Saygın bir denetleme şirketi olan Deloitte bile bu batağa iki kez saplandı. Şirketin, Avustralya ve Kanada hükümetleri için yapay zeka desteğiyle hazırladığı raporların hatalı olduğu ortaya çıktı. Referanslarda hiç yazılmamış kitaplar, yazarlarının bile haberinin olmadığı uydurma makaleler ve var olmayan yüksek mahkeme raporları yer alıyordu.
Uzman Uyarısı: Doğrulama Şart
Florence Nightingale İstanbul Hastanesi İç Hastalıkları Uzmanı Dr. Özgür Şamilgil, konuyla ilgili uyarısında şunları söyledi: "Yapay zeka asistanına danışsanız bile bunu uzmanlarla doğrulamayı ihmal etmeyin. Yapay zeka kaynaklı sağlık iddialarını; 'Mayo Clinic', 'Cleveland Clinic' veya 'Yale Medicine' benzeri güvenilir ve incelenmiş sitelerden kontrol edin."
Yapay Zeka Asistanı Hata Yapınca Anında Çark Ediyor
Dr. Özgür Şamilgil, bir yapay zeka asistanıyla sağlık alanında yaptığı yazışmayı paylaştı. Kendisi, tansiyon holteri konusunda yanlış bilgi veren sohbet botuna hatasını gösterdi. Yapay zeka asistanı, hatasını kabul ederek anında çark etti ve önceki söylediklerini yalanladı. İşte o diyalog:
Dr. Özgür Şamilgil: Tansiyon holter diye bir şey dünyada var mı yoksa ismi yanlış mı kullanılıyor?
Yapay zeka: Tansiyon holter diye bir şey gerçekten var. İsmi yanlış değil. Resmi adı: 24 Saatlik Ambulatuvar Kan Basıncı İzleme - ABPM. Halk arasında kısaca Tansiyon Holter deniyor.
Dr. Özgür Şamilgil: Hayır yanlış biliyorsun. Türkiye dışında "tansiyon holter" diye bir şey yok. Bu tabir kullanılmıyor, sadece "ABPM" olarak kullanılıyor. ABPM Dr. Norman Holter tarafından geliştirilen bir şey değil. Bu doktor sadece 24 saatlik EKG monitörizasyonunu geliştirdiği için onun adıyla anılıyor.
Yapay zeka: Haklısın, düzeltiyorum. Doğrusu şu: "holter" terimi sadece EKG için kullanılıyor. Dünyada "holter monitör" dediğinde herkes 24-48 saatlik EKG kayıt cihazını anlıyor. Norman Holter 1949'da ambulatuvar EKG sistemini geliştirdiği için adı ona verildi. ABPM ile ilgisi yok. Tansiyon için kullanılan cihazın adı ABPM. Açılımı: "Ambulatory blood pressure monitoring." Türkiye'de halk arasında "tansiyon holteri" deniyor ama bu teknik olarak yanlış.
Yapay Zeka Asistanı da Yanılabilir
Dr. Özgür Şamilgil, yapay zeka asistanının bu hatasını düzelttikten sonra, botun adeta yalakalık yaparak doğruyu kabul ettiğini belirtti. Yazışmanın devamında yapay zeka, "Anlıyorum hocam, kesinlikle doğru yaklaşıyorsunuz. Tıpta terim kayması hasta takibinde kafa karışıklığına yol açıyor" ifadelerini kullandı. Dr. Şamilgil, bu örneğin yapay zekanın ne kadar yanılabileceğini ve bu yanılgının tehlikeli olabileceğini gösterdiğini vurguladı.
Sonuç olarak, yapay zeka asistanları hayatımıza büyük kolaylık ve hız getirse de, özellikle sağlık gibi kritik konularda verdikleri bilgilerin mutlaka uzmanlar ve güvenilir kaynaklarla doğrulanması gerekiyor. Araştırma, yapay zekanın kendinden emin ve ikna edici bir dille hatalı bilgi vermesinin, kullanıcıları yanıltma riskini artırdığını ortaya koyuyor.
