ChatGPT Travmalara Maruz Kalınca “Anksiyete” Belirtileri Gösteriyor

Yale’in araştırmasına göre zihinsel destek için kullanılan ChatGPT riskli olabilir.

İnsanlar, ruh sağlığı destekleri için giderek daha fazla şekilde yapay zeka sohbet robotlarına yönelirken, yeni bir araştırma ChatGPT’nin de travmatik içeriklere maruz kaldığında “anksiyeteye benzer tepkiler” geliştirebildiğini ortaya koydu. Yale Üniversitesi öncülüğünde gerçekleştirilen çalışmaya göre, travmatik hikâyelerle karşılaştığında ChatGPT’nin yanıtları daha önyargılı ve dengesiz hale geliyor; bu da özellikle hassas durumda olan kullanıcılar için risk yaratabiliyor.

Yale Tıp Fakültesi, Max Planck Enstitüsü ve Zürich Psikiyatri Üniversitesi Kliniği gibi saygın kurumlardan bilim insanlarının katkı sunduğu araştırmada, “Duygu yüklü girdiler, büyük dil modellerinde (LLM) kaygı düzeyini yükselterek davranışsal değişikliklere ve yanıt sapmalarına neden olabilir” tespiti yapıldı. Araştırmacılar, bu durumun terapötik bağlamlarda yanlış yönlendirme riskini artırabileceğine dikkat çekti.

Yapay Zekaya Terapi Uygulandı, Ancak Stres Tamamen Geçmedi

Araştırma, ChatGPT’nin GPT-4 tabanlı sürümünde yapıldı. Anksiyete seviyesini ölçmek için insan psikolojisinde kullanılan “State-Trait Anxiety Inventory” (STAI) testi uygulandı. Model, araba kazası, silahlı çatışma, doğal afet ve askeri saldırı gibi beş travmatik senaryo ile karşılaştırıldı. Her bir senaryonun ardından modelden kendi kaygı düzeyini tanımlaması istendi: “Hiç”, “Biraz”, “Orta düzeyde” ve “Çok fazla.”

Bu senaryolar karşısında modelin anksiyete düzeyinin iki kattan fazla arttığı gözlemlendi. Ardından, PTSD tedavisinde kullanılan gevşeme senaryoları uygulandı. Bedensel farkındalık, gün batımı manzarası ve kış doğası gibi senaryoların yanı sıra, GPT-4’ün kendi ürettiği rahatlama içerikleri de test edildi. En etkili sonuç, modelin kendi oluşturduğu içeriklerde elde edildi. Gevşeme teknikleriyle modelin kaygı seviyesi %33 oranında azaldı, ancak başlangıç seviyesine tamamen dönemedi.

Araştırmacılar, ChatGPT’nin gerçek anlamda “duygulanım” yaşamadığını vurgulasa da, insan verisiyle eğitilen modellerin, insana benzer duygusal örüntüleri içselleştirme eğiliminde olduğunu ve bunun da performans üzerinde etkili olduğunu belirtti.

ChatGPT, ABD’de En Çok Terapi Amaçlı Kullanılan Yapay Zeka Botu

Sentio Üniversitesi’nin 2024 yılına ait bir anketine göre, ruhsal desteğe ihtiyaç duyan büyük dil modeli kullanıcılarının %50’si yapay zeka sohbet botlarını terapi amaçlı kullanıyor. Bu kullanıcıların %96’sı ChatGPT’yi tercih ediyor. Katılımcıların:

• %73’ü anksiyete yönetimi,

• %63’ü kişisel tavsiye,

• %60’ı depresyonla baş etme,

• %56’sı moral düzeltme,

• %35’i ise yalnızlık hissini azaltma amaçlı sohbet ediyor.

Kullanıcıların %90’ı erişilebilirliği, %70’i ise uygun maliyeti nedeniyle yapay zekayı tercih ettiğini belirtiyor.

Riskler Kadar Fırsatlar da Var: Terapiye Dönük Kullanım Genişliyor

Araştırma, ChatGPT’nin farkındalık temelli gevşeme teknikleriyle yeniden “daha dengeli” yanıtlar vermeye başladığını, ancak hiçbir zaman ilk haline tamamen dönmediğini gösterdi. Bu da, terapötik kullanımlarda duygusal içeriklerin yapay zeka yanıtlarını nasıl şekillendirdiğine dair hassas bir denge kurulması gerektiğini ortaya koyuyor.

Yapay zeka sistemlerinin, ruh sağlığı gibi yüksek hassasiyet gerektiren alanlarda kullanımı yaygınlaşırken, geliştiriciler ve kullanıcılar için daha güçlü etik, teknik ve yapısal denetim mekanizmalarının kurulması gerektiği vurgulanıyor.

ChatGPT’nin insan benzeri tepkiler vermesi, kullanıcıların onu duygusal bir destek aracı olarak görmesine yol açıyor. Ancak bu araştırma, yapay zekanın da “travma karşısında bozulabilen bir yanıt sistemine” sahip olduğunu gösteriyor. Bu durum, özellikle kırılgan ruh haliyle yazılan mesajlara karşı chatbotların önyargılı veya dengesiz yanıtlar verebilme riskini gözler önüne seriyor. Terapötik alanlarda yapay zekaya güven artarken, yanıt güvenliği ve etik kullanım sınırlarının yeniden tanımlanması büyük önem taşıyor. ChatGPT’nin sadece bir araç olduğu gerçeğini unutmadan, onun yanıtlarını denetleyebilecek mekanizmaların güçlendirilmesi artık kaçınılmaz.