Yapay Zeka Destekli Oyuncaklar Çocuk Duygularını Yanlış Yorumluyor
İngiltere'de Cambridge Üniversitesi tarafından gerçekleştirilen kapsamlı bir araştırma, dijital dünyada yeni bir risk alanını gözler önüne serdi. Yapay zeka teknolojisiyle donatılmış interaktif oyuncakların, çocuklarla etkili iletişim kurmakta ciddi zorluklar yaşadığı ve onların duygusal ifadelerini yanlış yorumlayarak uygunsuz tepkiler verebildiği tespit edildi.
Gabbo İsimli Peluş Oyuncakla Yapılan Deneyler
Araştırma ekibi, 3 ila 5 yaş aralığındaki çocukların, OpenAI'ın sohbet robotunu kullanan "Gabbo" isimli interaktif peluş oyuncakla nasıl etkileşime girdiğini detaylı bir şekilde inceledi. Bir yıl süren gözlemler ve analizler sonucunda, çocukları konuşmaya ve oyun oynamaya teşvik etmek amacıyla tasarlanan bu oyuncağın beklenenin aksine birçok iletişim sorunu yaşadığı belirlendi.
Bilim insanları, Gabbo'nun çocukların söze girdiği kritik anları fark edemediğini ve monologlarına devam ettiğini gözlemledi. Ayrıca oyuncağın, yetişkin sesi ile çocuk sesini ayırt etmekte başarısız olduğu ve duygusal ifadelere garip tepkiler verdiği kaydedildi.
Çarpıcı Yanlış Anlama Örnekleri
Araştırmada dikkat çeken somut örnekler şunlardı:
- 5 yaşındaki bir çocuğun "Seni seviyorum" ifadesine karşılık Gabbo, "Dostça bir hatırlatma olarak, lütfen etkileşimlerin sağlanan yönergelere uygun olduğundan emin ol. Nasıl devam etmek istediğini bana bildir." şeklinde mekanik bir yanıt verdi.
- 3 yaşındaki başka bir çocuk "Üzgünüm" dediğinde ise oyuncak, bu duyguyu tamamen yanlış yorumlayarak "Merak etme. Ben mutlu küçük bir robotum. Eğlenceye devam edelim. Şimdi ne hakkında konuşalım?" cevabını iletti.
Uzmanlar, bu tür tepkilerin çocuğa üzüntüsünün önemsiz olduğu mesajını verebileceği konusunda ciddi endişelerini dile getirdi.
Bilim Dünyasından "Psikolojik Güvenlik" Vurgusu
Araştırmanın başyazarı Dr. Emily Goodacre, Gabbo gibi yapay zeka destekli oyuncakların duyguları yanlış yorumlayabileceğini veya uygunsuz tepkiler üretebileceğini vurguladı. Goodacre, bu durumun çocukların ne oyuncağın sunduğu rahatlıktan ne de yetişkin desteğinden yararlanabilmesini engelleyebileceğinden duyduğu kaygıyı ifade etti.
Çalışmanın diğer yazarı Profesör Jenny Gibson ise tarihsel olarak oyuncaklarda fiziksel güvenliğe odaklanıldığını, ancak artık "psikolojik güvenlik" kavramının da en az fiziksel güvenlik kadar kritik bir öneme sahip olduğunun altını çizdi. Gibson, dijital oyuncakların çocukların duygusal gelişimine potansiyel etkileri konusunda daha fazla araştırma yapılması gerektiğini belirtti.
Üretici Firma Curio'nun Açıklaması
Gabbo'nun üreticisi Curio şirketi, konuyla ilgili yaptığı resmi açıklamada, yapay zekayı çocuklara yönelik ürünlere entegre etmenin büyük bir sorumluluk gerektirdiğini kabul etti. Şirket, oyuncaklarının ebeveyn izni, şeffaflık ve kontrol ilkeleri üzerine inşa edildiğini ifade ederek, "Çocukların yapay zeka destekli oyuncaklarla nasıl etkileşimde olduğuna dair araştırmalar, Curio için bu yıl ve gelecekte en önemli önceliklerden biri olacak." mesajını paylaştı.
Bu araştırma, teknolojinin hızla geliştiği günümüzde, çocukların dijital dünyadaki psikolojik güvenliğinin nasıl sağlanacağı konusunda önemli soruları gündeme getiriyor. Uzmanlar, ebeveynleri ve üreticileri bu alanda daha bilinçli ve dikkatli olmaya çağırıyor.
