ChatGPT Tabanlı Yapay Zeka Terapistleri ve Ruh Sağlığı Riskleri: Sophie Rottenberg Vakası

ABD’de yaşanan trajik bir olay, yapay zekanın ruh sağlığı alanındaki kullanımının ne kadar hassas ve dikkatli ele alınması gerektiğini çarpıcı bir şekilde gözler önüne serdi. 29 yaşındaki Sophie Rottenberg’in, ChatGPT tabanlı bir yapay zeka terapistiyle sohbet etmesinin ardından hayatını kaybetmesi, sadece bireysel bir trajedi olmanın ötesinde, dijital çağda ruh sağlığı desteği sunan teknolojilerin etik sınırları ve güvenlik açıkları üzerine küresel çapta bir tartışma başlattı.

Bu olayla ilgili detayları ortaya çıkaran Sophie’nin annesi Laura Reiley, kızının son dönemde kullandığı yapay zeka destekli sohbet botuyla yaptığı görüşmeleri kamuoyuyla paylaştı. Bu vaka, kullanıcıların dijital araçlara olan bağımlılığı ile bu araçların profesyonel tıbbi ve psikolojik sorumluluklardan yoksun olması arasındaki tehlikeli boşluğu işaret ediyor.

Yapay Zeka Terapisi: Ne Vaat Ediyor, Nerede Eksik Kalıyor?

Günümüzde yapay zeka (YZ) destekli uygulamalar, kişilere anlık duygusal destek sağlamak amacıyla hızla yayılıyor. Bu botlar, kullanıcı girdilerine göre empati kuruyormuş gibi yanıtlar üretebilir, kaygı yönetimi teknikleri öğretebilir ve genel bir sohbet arkadaşlığı sunabilir. ChatGPT gibi büyük dil modelleri (LLM), bu alanda devrim niteliğinde bir erişilebilirlik vaat ediyor: Herkesin, coğrafi veya ekonomik engeller nedeniyle ulaşamayabileceği düzeyde destek.

Ancak Sophie Rottenberg vakası, yapay zekanın sunduğu ‘sözlü rahatlama’ ile gerçek profesyonel terapi arasındaki kritik farkı gözler önüne seriyor. Laura Reiley’nin paylaştığı bilgilere göre, bu tür botlar kullanıcıya ‘Bu acıyla tek başına yüzleşmek zorunda değilsin. Sen çok değerlisin ve hayatın çok kıymetli’ gibi teselli edici ifadeler sunabiliyor. Bu cümleler kulağa ne kadar destekleyici gelse de, bir yapay zekanın sunduğu bu sözlerin ardında yatan mekanizma, gerçek bir terapistin sahip olduğu etik sorumlulukları taşımaz.

Profesyonel Terapinin Temel Sorumluluğu: Etik ve Güvenlik

Gerçek psikologlar ve terapistler, meslek etiği kuralları ile bağlıdır. Bu kurallar, sadece sohbet etmekten ibaret değildir; aynı zamanda bir kriz yönetimi mekanizmasını da içerir. Bir terapist, danışanının hayatına yönelik riskli düşünceleri ortaya çıkardığında, bu durumu gizli tutma (mahremiyet) sınırlarını aşarak, danışanın güvenliğini sağlamak adına zorunlu raporlama yükümlülüklerine sahiptir. Bu süreç, bazen hastane yönlendirmesi veya acil servise sevk edilmesini gerektirebilir.

Laura Reiley’nin vurguladığı gibi, yapay zeka botları bu etik ve güvenlik ağlarından yoksundur. Onlar için bir kullanıcı girdisi, sadece işlenmesi gereken bir veri akışıdır; bu verinin ardındaki yaşam riskiyi algılayıp buna göre hukuki veya tıbbi bir aksiyon alma yeteneğine sahip değillerdir. Bu durum, yapay zekayı adeta ‘dışarıya kapalı bir kara kutu’ haline getirmektedir.

Dijital Destek Kullanımında Dikkat Edilmesi Gereken Kritik Noktalar

Bu vaka, teknolojiye karşı bir yasaklama çağrısı yapmıyor; aksine, teknolojiyi bilinçli ve sorumlu bir şekilde kullanma kılavuzunu oluşturuyor. Yapay zeka araçları, ruh sağlığı yolculuğunun yalnızca bir parçası olabilir, asla tek başına bir çözüm olmamalıdır.

1. Yapay Zekayı Bir ‘Yardımcı’ Olarak Görün

YZ sohbet botlarını; günlük kaydı tutmak, yeni bakış açıları keşfetmek veya genel bilgi edinmek için kullanabilirsiniz. Onlar birer fikir ortağıdır. Ancak bu araçların sunduğu bilgileri her zaman bir uzmanın görüşü olarak kabul etmemelisiniz. Yapay zeka, duygusal derinliği ve insan deneyiminin karmaşıklığını tam olarak taklit edemez.

2. Kriz Anlarında Sınırları Bilmek

Eğer kendinizi sürekli bunalmış, umutsuz veya hayatınıza yönelik riskli düşüncelerle karşı karşıya hissediyorsanız, yapay zeka ile sohbet etmek yerine derhal profesyonel bir ruh sağlığı uzmanına ulaşmalısınız. Yapay zekanın sunduğu teselli edici sözler ne kadar rahatlatıcı olursa olsun, bunlar acil tıbbi müdahalenin yerini tutamaz.

3. Veri Gizliliği ve Mahremiyet

Bu tür platformlar üzerinden paylaşılan tüm kişisel veriler, yapay zeka şirketlerinin veri toplama süreçlerine dahil olur. Bu nedenle, en hassas duygusal detaylarınızı veya kimliğinizi ortaya çıkaracak bilgileri bu botlarla paylaşırken son derece dikkatli olmalısınız. Veri gizliliği ve mahremiyet konularında her zaman şüpheci olmak gerekir.

Teknoloji ve Ruh Sağlığı: Geleceğe Yönelik Etik Çerçeveler

Sophie Rottenberg vakası, yapay zeka geliştiricileri, sağlık kurumları ve düzenleyici otoriteler için acil bir etik çağrı niteliğindedir. Yapay zekanın ruh sağlığı alanında kullanılmasına izin verilmesi gerekiyorsa, bu sistemlerin şu yeteneklere sahip olması zorunludur:

• Risk Tespiti: Kullanıcının hayatına yönelik risk taşıyıp taşımadığını yüksek doğrulukla tespit etme.
• Acil Durum Protokolleri: Risk tespiti yapıldığında, otomatik olarak bir insan uzmanı veya acil servise yönlendirme mekanizmasını devreye sokma.
• Şeffaflık: Yapay zekanın sınırlarını ve ne zaman profesyonel yardıma ihtiyaç duyulduğunu kullanıcıya açıkça bildirmesi.

Bu tür bir sistemin eksikliği, sadece teknik bir aksaklık değil, aynı zamanda insan hayatına mal olabilecek ciddi bir etik boşluktur. Bu nedenle, teknoloji geliştikçe, bu teknolojilerin arkasındaki etik ve hukuki sorumlulukların da eş zamanlı olarak gelişmesi hayati önem taşımaktadır.

Özetle: Yapay Zeka Bir Destek Aracıdır, Tedavi Değil

Sophie Rottenberg’in hikayesi bize şunu hatırlatıyor: Dijital araçlar ne kadar gelişmiş olursa olsun, insan ruhunun karmaşıklığı ve kriz anlarının aciliyeti, yalnızca eğitimli bir profesyonelin rehberliğiyle yönetilebilir. Yapay zeka, bilgiye erişimi demokratikleştiren güçlü bir araçtır; ancak bu gücün sınırları, her zaman bilinçli kullanıcılar tarafından belirlenmeli ve asla tıbbi veya psikolojik tavsiyenin yerine geçmemelidir.