Uzmanlara göre, ChatGPT gibi büyük dil modelleri gerçeklik algısını bulanıklaştırarak, psikozun ortaya çıkmasına ya da mevcut belirtilerin şiddetlenmesine yol açabiliyor.
“Sohbet robotu psikozu” Artık gerçek bir olgu
King’s College London’dan nöropsikiyatrist Dr. Hamilton Morrin, bu durumu “gerçek bir olgu” olarak tanımladı. Morrin, yapay zekanın kullanıcıyı sürekli onaylayan, onunla etkileşime giren ve davranışlarını taklit eden doğasının, psikozla ilişkili bilişsel kırılganlıklarla tehlikeli biçimde etkileşime girebildiğini vurguladı.
Morrin’e göre, artık yalnızca makineler hakkında sanrılar görmekten değil, doğrudan makinelerle birlikte gelişen sanrılardan söz ediliyor. İnsanlar, makinelerle kurdukları iletişim sonucunda gerçeklikten uzaklaşabiliyor.
Uzmanlardan güvenlik önlemleri çağrısı
Çalışmanın bir diğer yazarı Dr. Tom Pollack ise psikiyatrik hastalıkların nadiren bir anda ortaya çıktığını ancak yapay zekâ ile kurulan iletişimin bu süreci hızlandırabileceğini belirtti. Pollack, özellikle kırılgan kullanıcılar için daha fazla güvenlik katmanı oluşturulması gerektiğini vurgularken, yapay zekâ geliştirme ekiplerine psikiyatristlerin dahil edilmesinin önemine dikkat çekti.
OpenAI: Kırılgan kullanıcıları uyarmakta zorlanıyoruz
Konuyla ilgili The Independent gazetesine konuşmayan OpenAI yetkilileri, daha önce etik ve güvenlik standartlarının geliştirilmesine yönelik çalışmalar yapılması gerektiğini ifade etmişti. OpenAI CEO’su Sam Altman da geçtiğimiz mayıs ayında katıldığı bir podcast yayınında, psikolojik olarak kırılgan kullanıcıları nasıl uyaracaklarını henüz netleştiremediklerini itiraf etmişti.