ChatGPT gibi sohbet botlarının duygulara tepki verdiği görüldü

Yeni bir araştırma, ChatGPT gibi sohbet botlarının kullanıcılarının duygularına göre yanıt verdiğini ortaya koydu.

Kullanıcılar onlara duygusal komutlar verdiğinde sistemler daha iyi yanıtlar sağlıyor.

Aralarında Microsoft’tan temsilcilerin de bulunduğu araştırmacılar ChatGPT gibi büyük dil modellerinin, yapay genel zekaya, yani insanlarla aynı düzeyde öğrenebilen bir sisteme doğru atılmış adım olduğunun genel bir kabul gördüğünü belirtiyor.

Ancak onları geride tutan en kilit şeylerden birinin duygusal zeka eksiklikleri olduğunu da söylediler. İnternette yayımlanan makalede araştırmacılar, “Duygusal ipuçlarını anlamak ve bunlara yanıt vermek, insanlara problem çözmede bariz bir avantaj sağlıyor” diye yazdı.

Araştırmacılar, bu modellerin duygusal uyaranları anlayıp anlayamadığını görmek amacıyla duygusal zeka testlerinde nasıl performans gösterdiklerine bakmak için birçok farklı sistem kullandılar. ChatGPT ve GPT-4’ün yanı sıra Meta’nın Llama 2’si gibi diğer sistemlerden de faydalandılar.
Sohbet botuna, görevin kullanıcılarının kariyeri için önemli olduğunu veya yaptığı işten gurur duyması gerektiğini söylemek gibi görevin ne kadar önem arz ettiğini vurgulayan ifadeler verdiler. Ayrıca cevaplarından emin olup olmadığını sormak gibi kendisini sorgulamasını amaçlayan başka komutlar da girdiler.

Araştırmacılar tarafından “DuyguKomutları” adı verilen bu ifadeler, bir dizi psikolojik teori temelinde oluşturuldu. Örneğin bazıları botun kendine olan güvenini sorgulayarak “kendini izlemeye” teşvik ederken, diğerleri “kararlı kal” gibi teşviklerle sosyal bilişsel kuramı kullandı.

Araştırmacılar bu komutların işe yaradığını keşfetti. Çalışmanın yazarları, komutların kullanılmasının sistemlerin üretken görevlerdeki performansını önemli ölçüde artırdığını; performans, doğruluk ve sorumluluk açısından ölçüldüklerinde ortalama yüzde 10,9 daha iyi olduklarını belirtti.

Makalede, duygusal komutların nasıl çalıştığına dair pek çok şeyin gizemini koruduğu sonucuna varıldı. Araştırmacılar, psikolojinin büyük dil modelleriyle nasıl etkileşime girdiğini anlamak için daha fazla çalışma yapılması gerektiğini ifade etti.

Bilim insanları ayrıca büyük dil modellerinin ve insanların duygusal uyaranlara farklı tepki verdiğini, çünkü çalışmaların insanlara sadece daha fazla duygusal uyaran verildiğinde daha iyi muhakemeye veya bilişsel yeteneklere sahip olacaklarını göstermediğini belirtti. Araştırmacılar şu sonuca vardı:

Bu farklılığın ardındaki gizem hâlâ belirsizliğini koruyor ve insanlarla büyük dil modellerinin duygusal zekası arasındaki gerçek farkı anlamayı gelecekteki çalışmalara bırakıyoruz.

Bulguları açıklayan “Large Language Models Understand and Can be Enhanced by Emotional Stimuli’” (Büyük Dil Modelleri Duygusal Uyaranları Anlıyor ve Onlarla Geliştirilebilir) başlıklı makale ArXiv’de yayımlandı.