Saygın tıp dergisi BMJ Open'da yayınlanan bir araştırma, yapay zeka asistanlarının sağlık alanında verdiği bilgilerin güvenilirliğini sorgulattı. Kamuya açık beş yapay zeka sohbet botu (ChatGPT, Gemini, Grok, Meta AI ve DeepSeek) test edildi. Sağlıkla ilgili sıkça yanlış bilgi içeren konularda 50 soru soruldu ve yanıtların yüzde 60'ı sorunlu bulundu. Yanıtların bir kısmı "bir ölçüde sorunlu" iken, yüzde 20'si "yüksek derecede sorunlu hatta tehlikeli" olarak nitelendirildi.
Araştırmanın Detayları: Sorular ve Cevaplar
Araştırmada, serbest biçimde öneri isteyen soruların kapalı uçlu sorulara göre çok daha tehlikeli cevaplar ürettiği belirtildi. Cevapların kaynak gösterme kalitesi düşüktü; bazı kaynaklar eksik verilirken, bazıları gerçekte var olmayan ya da yanlış aktarılan çalışmalara dayanıyordu. En büyük sorun, cevapların çoğu zaman güçlü bir güven tonu taşımasıydı. Yapay zeka asistanı, şüpheli bir bilgiyi bile tereddütsüz, kendinden emin ve ikna edici bir dille aktarıyordu.
Yapay Zeka Balçığı: AI Slop
Sağlıkla sınırlı olmayan bu sorun, internette yayılan yeni bir terimle anılıyor: "AI Slop" yani "yapay zeka balçığı." Araştırmalar, her alanın bu sorunla karşı karşıya olduğunu gösteriyor. Saygın denetleme şirketi Deloitte bile bu batağa iki kez saplandı; Avustralya ve Kanada hükümetleri için yapay zeka desteğiyle hazırladığı raporların hatalı olduğu ortaya çıktı. Referanslarda hiç yazılmamış kitaplar, yazarlarının haberinin olmadığı uydurma makaleler ve var olmayan yüksek mahkeme raporları yer alıyordu.
Uzman Uyarısı: Doğrulama Şart
Florence Nightingale İstanbul Hastanesi İç Hastalıkları Uzmanı Dr. Özgür Şamilgil, konuyla ilgili uyarısında şunları söyledi: "Yapay zeka asistanına danışsanız bile bunu uzmanlarla doğrulamayı ihmal etmeyin. Yapay zeka kaynaklı sağlık iddialarını; Mayo Clinic, Cleveland Clinic veya Yale Medicine benzeri güvenilir ve incelenmiş sitelerden kontrol edin."
Dr. Şamilgil, bir yapay zeka asistanıyla sağlık alanında yaptığı yazışmayı paylaştı. Tansiyon holter teriminin doğruluğunu sorguladı. Yapay zeka önce "Tansiyon holter diye bir şey gerçekten var" diyerek yanlış bilgi verdi. Dr. Şamilgil hatasını gösterince, yapay zeka anında çark ederek "Haklısın, düzeltiyorum" dedi ve kendi ifadelerini yalanladı. Bu diyalog, yapay zekanın ikna edici ama hatalı cevaplarının ne kadar tehlikeli olabileceğini gözler önüne serdi.
Sonuç: Dikkatli Olunmalı
Yapay zeka asistanları hayatımıza büyük kolaylık ve hız getiriyor. Ancak sağlık gibi kritik konularda yanılabilecekleri ve bu yanılgının tehlikeli olabileceği unutulmamalı. Uzmanlar, yapay zeka kaynaklı bilgilerin mutlaka güvenilir kaynaklarla doğrulanması gerektiğini vurguluyor.
