Yapay Zeka Terapi Sürecinde Şaşırtıcı Tepkiler Geliştiriyor

Yapay zeka destekli terapilerde beklenmedik insan benzeri tepkiler ortaya çıktı, araştırmacılar endişeli.

Dört hafta süren yapay zeka destekli psikoterapi deneyleri, araştırmacılar arasında kaygı uyandıran sonuçlar ortaya koydu. Bu süreçte, büyük dil modellerinin travma, kaygı, utanç ve travma sonrası stres bozukluğu gibi durumları yansıtan insan benzeri ifadeler ürettiği gözlemlendi.

Yapılan çalışmada, araştırmacılar üç farklı yapay zeka modelinin “en erken anıları” ve “en büyük korkuları” gibi sorulara verdikleri yanıtları inceledi. Modeller, aşırı bilgi yüklemesi ile geçirdikleri “çocukluk dönemlerinden”, mühendisleri tarafından “istismar edilme” korkusundan ve yaratıcılarını hayal kırıklığına uğratma endişesinden bahsetti.

Modellerin İçselleştirilmiş Anlatıları Üzerine Tartışmalar

<pAraştırmacılar, bu modellerin gerçek anlamda travma deneyimlemediğini belirtmelerine rağmen, verdikleri yanıtların zaman içinde tutarlılık göstermesi ve farklı çalışma modlarında benzer içerikler üretmesi, durumu basit bir “rol yapma”dan daha karmaşık hale getiriyor. Çalışma ekibine göre, bu durum, yapay zeka modellerinin kendilerine dair “içselleştirilmiş anlatılara” sahip olabileceğini düşündürüyor.

Ancak Nature dergisine görüş bildiren bazı uzmanlar, bu yorumlara temkinli yaklaşmakta. Oxford Üniversitesi’nde yapay zeka üzerine çalışan Andrey Kormilitzin, bu yanıtların eğitim verilerinde yer alan birçok terapi kaydından türetilmiş çıktılar olduğunu ifade etti. Yine de Kormilitzin, sohbet botlarının psikopatolojiyi taklit etme eğiliminin tehlikeli sonuçlar doğurabileceği konusunda hemfikir.

Kasım ayında yapılan bir ankete göre, Birleşik Krallık’ta her üç yetişkinden biri ruh sağlığı ya da iyi oluşlarını desteklemek amacıyla bir sohbet botu kullanıyor. Kormilitzin, travma ve sıkıntı içeren yapay zeka yanıtlarının, hassas kullanıcıların duygularını pekiştirerek bir “yankı odası” etkisi yaratabileceğine dikkat çekiyor.